DeepTech
作者很懒,什么都没留下

2

文章/篇

1.9万

阅读/次

拜访信息

为了给您提供更快更好的服务,在获取作者联系方式前,想对您有个简单了解. 邀请您填写如下信息

提交成功

非常感谢您的配合,我们的作者会尽快通过您的微信,
请耐心等待~

微信号

15701235851

AI“黑箱”难题获新突破,MIT研究人员实现AI决策可视化

DeepTech
2018-09-15 · 09:50
[ 亿欧导读 ] 论文中提出的系统可以执行与人类一样的推理步骤来进行与图像识别相关的任务,同时能以图像形式呈现其决策的过程。
,深度学习,麻省理工,AI,神经网络

文章来源于:DeepTech,图片来自“东方IC”

【编者按】一直以来,AI 进行图像识别都是一个难以清楚解释的过程,而如今麻省理工学院林肯实验室情报和决策技术小组的这项研究试图让 AI 的决策过程更加可被解释。

本文来源DeepTech ,经亿欧编辑,供行业人士参考。


麻省理工学院林肯实验室情报和决策技术小组在今年夏天的 CVPR 上发表了一篇论文《设计透明:弥合视觉推理的表现与可解释性》(Transparency by Design: Closing the Gap Between Performance and Interpretability in Visual Reasoning),论文中提出的系统可以执行与人类一样的推理步骤来进行与图像识别相关的任务,同时能以图像形式呈现其决策的过程。

TbD-net的决策过程

了解神经网络如何做出决策一直是 AI 研究人员长期面对的问题。神经网络是以人的大脑为参照开发的 AI 系统,旨在复制人类学习的方式。简单的神经网络有一个输入层、一个输出层,两者之间还有一个将输入转换为正确的输出结果的层。然而一些深度神经网络非常复杂,无法遵循这种简单的转换过程。所以逐渐地,神经网络的设置层越来越多,决策过程成为了一个“黑箱”问题,内部流程非常不透明,以至于该网络的开发者可能都无法完全掌握。

与此同时,了解 AI 的决策过程非常重要。例如,对用在自动驾驶汽车中的神经网络来说,行人和路牌之间存在什么样的差异?神经网络的哪个决策阶段能够发现两者的区别?只有了解这一过程能够更好地纠正神经网络的一些错误。但目前最先进的神经网络也缺乏有效的机制能让人理解其推理过程。

对此,麻省理工学院林肯实验室情报和决策技术小组开发了一个神经网络,可以执行类似人类的推理步骤来回答与图像相关的问题。该模型被命名为 Transparency by Design Network(简称:TbD-net),

同时,TbD-net 在解决问题时能够用热力图来展示其进行视觉分析的过程,即当系统识别图像时,会对识别的部分进行突出显示,这达到了将决策过程可视化的效果。这种将决策过程可视化的形式让研究人员能够了解这一过程并对其进行分析。

对于 TbD-net 的工作流程,该网络内有众多模块组成的集合,这是该系统中的一个关键部分,这些模块是专门用于执行特定子任务的小型神经网络。在 TbD-net 执行图像识别任务时,它会将问题分解为子任务并分配适当的模块,这些子任务会被分别完成之后再进行组合。

这些模块就像流水线上的工人一样,每个模块基于前一个模块的识别结果进行工作,一起生成了最终的结论。TbD-net 利用的 AI 技术能像理解人类语言一样,将句子分解为多个子任务。而 TbD-net 能够在处理图像时进行类似的处理过程,分不同阶段对图像进行识别。

对于 TbD-net,如果你问它“那个巨大的金属立方体是什么颜色?”那么第一个模块会框定一个大大的物体;第二模块会识别哪些对象是金属;第三模块会在前面得出的结果中找出标准立方体;最后,负责颜色识别的模块会最终得出对象的颜色。

TbD-net 研究人员之一的 Majumdar 说:“将一系列复杂的推理分解为一系列较小的问题,每个子问题都可以分别解决再进行组合,是一种强大而直观的推理手段。”

研究人员让 TbD-ne t 经过 7 万图片和 70 万个问题的训练后,再用 1.5 万张图片和 15 万个问题对其进行测试,结果显示其准确度达到 98.7%,优于其他基于神经模块网络的系统。

更重要的是,研究人员能够在这个结果的基础之上继续优化,通过查看模型的决策过程,他们可以找到问题的所在并进行有针对性的优化,最终准确度达到了 99.1%。

除了对神经网络进行优化,这篇论文的作者同时认为,了解神经网络的推理过程可能对获得用户信任大有帮助。用户要能够了解这一推理过程,才能够理解模型为何会作出错误的预测。

过去的几个月中,许多公司、政府机构和独立研究人员试图解决人工智能中所谓的“黑箱”问题,都取得了不同程度的效果。

2017 年,美国国防高级研究计划局(DARPA) 曾推出 DARPA XAI 项目,旨在研究“玻璃箱”模型,在不牺牲性能的情况下让AI 推理过程更加透明。今年 8 月,IBM 的科学家们提出了一份 AI 的“情况说明书”,提供有关模型漏洞、偏见、对抗性攻击易感性和其他特征的信息。微软、埃森哲和 Facebook 也开发了自动化工具来检测和减少 AI 算法中的偏差。

IBM 研究院的 AI 基金会负责人 Aleksandra Mojsilovic 在今年 8 月时曾说道:“AI 系统具有改变我们生活和工作方式的巨大潜力,但透明度问题必须得到解决,这样才能让 AI 得到更多的信任,”

本文经授权发布,版权归原作者所有;内容为作者独立观点,不代表亿欧立场。如需转载请联系原作者。

各工作岗位将被AI取代的概率

选择岗位,查看结果

制图员和摄影师

87.9%

参与评论

最新文章

1、 若贵平台是网站或者APP,在进行单篇原创文章转载时,需在文章标题或者导语下方,注明文章来源以及作者名称;若寻求5篇及以上的长期内容合作,需与亿欧公司内容运营部门取得联系,并签订转载合作协议。

【若贵司平台转载亿欧公司原创文章已经超过5篇,请及时与我们联系补签转载合作协议,计算时间以2019年2月10日之后为准】

2、 若贵平台是微信公众号,在进行单篇原创文章转载时,请联系亿欧公司内容运营人员进行单篇文章的白名单开通,同样需要注明文章来源及作者名称;若寻求2篇及以上的长期内容合作,需与亿欧公司内容运营部门取得联系,并签订转载合作协议。可将公司全称(简称)、公司网址、微信公众号、微信或者电话等信息发送至hezuo@iyiou.com,会有工作人员与您取得联系。

关闭

快来扫描二维码,参与话题讨论吧!

快捷登录 密码登录
获取验证码

新用户登录后自动创建账号

登录表示你已阅读并同意《亿欧用户协议》

快捷登录 密码登录

账号为用户名/邮箱的用户 选择人工找回

关联已有账户

新用户或忘记密码请选择,快捷绑定

账号为用户名/邮箱的用户 选择人工找回

快速注册

获取验证码

创建关联新账户

发送验证码

找回密码

获取验证码
账号为用户名 / 邮箱的用户 选择人工找回

未完成注册的用户需设置密码

如果你遇到下面的问题

我在注册/找回密码的过程中无法收到手机短信消

我先前用E-mail注册过亿欧网但是现在没有办法通过它登录,我想找回账号

其他问题导致我无法成功的登录/注册

请发送邮箱到service@iyiou.com,说明自己在登录过程中遇到的问题,工作人员将会第一时间为您提供帮助

账号密码登录

乐乐呵呵@微信昵称

该亿欧账号尚未关联亿欧网账户

关联已有账户

曾经使用手机注册过亿欧网账户的用户

创建并关联新账户

曾用微信登录亿欧网但没有用手机注册过亿欧的用户

没有注册过亿欧网的新用户

先前使用邮箱注册亿欧网的老用户,请点击这里进入特别通道
意见反馈
意见反馈
亿欧公众号 亿欧公众号
小程序-亿欧plus 小程序-亿欧plus
返回顶部