当前位置: CNMO > 新闻 > 新闻 > 消息 > 正文

OpenAI与谷歌揭开人工智能面纱 开发可视化激活图谱

CNMO 【编译】 作者:Lisa,王庆芮 王庆芮 2019-03-11 14:58
评论(0
分享

  【CNMO新闻】谷歌在2018年年底展示了一个在开源图像数据集上训练的流行模型。为了揭开人工智能系统内部工作的面纱,谷歌和研究公司OpenAI的科学家们详细介绍了一种开源的技术,该技术揭示了图像分类神经网络中的组件交互,他们称之为可视化的激活图谱。

  OpenAI的技术人员Chris Olah在接受采访时表示,在特征可视化方面,已经有了很长一段时间的研究,这是一个试图了解神经网络内部情况的领域。

OpenAI
OpenAI

  所谓神经网络,就是由神经元组成,或以生物神经元为模型的松散功能。这些神经元分层排列,并与突触相连。这些突触将信号传递给附近的其它神经元,这些信号会将激活功能的产物从一层传递到另一层,通过调整每个连接的突触强度或权重来缓慢地调整网络。随着时间的推移,该网络会从数据集中提取特征,并识别出样本之间的趋势,以致最终做出准确的预测。

  最简单的人工智能模型可视化只显示单个输入上的数据转换,它是网络总激活量的一小部分,而空间激活就有它自己的一组打破交互的限制。

  这解决了单图像可视化的难题,但是涉及多个场景的情况又如何呢?要解决这些问题,就需要一种聚合的方法了。研究人员从数据集的图像中收集激活,并随机选择每张图像的一个空间激活。然后,对于每个激活向量,他们计算了一个属性向量,由此可以得出一个更加准确的结果。

分享

加入收藏

网友评论 0条评论
用其他账号登录:
请稍后,数据加载中...
查看全部0条评论 >
火热围观
潮机范儿

Copyright © 2007 - 北京沃德斯玛特网络科技有限责任公司.All rights reserved 发邮件给我们
京ICP证-070681号 京ICP备09081256号 京公网安备 11010502036320号