能像大脑一样工作?新型超导神经网络真的能达到吗?

综合科技
麻省理工科技评论
王新凯
2019-07-24 · 19:17
[ 亿欧导读 ] 虽然与以千兆赫速度运行的现代微处理器相比,人脑的运行速度只有几赫兹,简直就像蜗牛一样,但毋庸置疑的是,人类大脑是迄今为止已知的最伟大的计算设备。
神经网络,神经网络,计算能力,神经元,超导纳米线 图片来自“123rf.com.cn”

虽然与以千兆赫速度运行的现代微处理器相比,人脑的运行速度只有几赫兹,简直就像蜗牛一样,但毋庸置疑的是,人类大脑是迄今为止已知的最伟大的计算设备。
人类大脑的强大之处在于,能够同时进行每秒十亿次的计算,这种并行性使得它能够轻松地解决传统计算机尚未解决的问题,比如驾驶、行走、交谈等等。而更不可思议的是,这每秒十亿次的计算背后,大脑所需要的能量来源可能仅为一碗稀饭。相比之下,一台超级计算机所需要的电力要超过一座大城市的电力消耗,远远多于大脑几个数量级。

这就是为什么计算机科学家,一心想要使用神经网络作为计算工具,以模拟人类大脑的计算性能。但说起来容易做起来难。虽然通过普通芯片也可以编入类似于神经网络的程序,但这需要大量的计算和能量消耗。

于是,计算机科学家尝试创建人工神经元,并将它们连接成类似大脑的网络。不过一直以来,并没有人提出一个设计能够接近大脑的计算性能和运行效率。

近日,麻省理工学院的 Emily Toomey 和他的同事设计了一个由纳米线组成的超导神经元,在很多方面都更加接近一个真实的神经元。研究成果以预印本的形式发表在 arxiv.org 网站上。

研究人员表示,他们的设备与大脑的能量效率相匹配(至少在理论上是这样),并且是新一代超导神经网络的基石,该超导神经网络的效率将远远高于传统的计算设备。

首先,我们了解一些背景知识。神经元以电脉冲或动作电位的形式编码信息,这些电脉冲或动作电位沿着神经纤维传播,神经元之间通过突触的结构进行彼此分隔和信号传递。

一个神经元可以通过突触影响其它神经元,传递的神经信号可以激活或抑制下游神经元。事实上,突触的存在可以使神经元之间像逻辑门一样工作,对多个输入信号产生一个输出响应。

在生物神经元中,的确有许多重要的特性,比如除非输入信号超过某个阈值水平,否则信号不会激活,而且在经过一段时间(称为不应期)之前,它们不能被再次激活;此外,突起沿轴突移动的时间也很重要,因为它编码了突起已经移动的距离。
因此,人工神经元必须能够尽可能多地复制这些生物特征,而这也需要一些更复杂的电路设计。

Toomey 和他的同事指出,超导纳米线具有一种特殊的非线性特性,使得它们可以像神经元一样工作。这种特性的产生是因为当流过纳米线的电流超过某个阈值时,纳米线的超导性就会崩溃,此时电阻突然增大,产生了一个类似于神经元动作电位的电压脉冲。

用这种电压脉冲来调制另一根超导纳米线产生的另一个脉冲,使得对生物神经元的模拟更加真实,相当于创造了一个具有许多生物神经元特性的简单超导电路。研究人员也已经证明超导神经元具有触发阈值、不应期,以及可以根据电路特性进行调整的传播时间等特性。

超导

图 | 超导纳米线中的松弛振荡,是纳米线神经元中脉冲形成的基础(来源:arxiv.prg)

至关重要的是,这种超导神经元还可以用来触发或抑制其它神经元。这种“分列”属性是创建神经网络的关键,也是其它超导神经元设计从未实现的。
Toomey 和同事的计算表明,由于超导电路耗电量很小,这种超导神经网络可以与生物神经网络的效率相媲美。

神经网络中每秒使用 1 瓦特能量可以执行的突触运行数量,是衡量计算性能的指标。Toomey 表示,他们提出的神经网络应该能够达到每秒每瓦特 10^14 个突触运行,与人类大脑大致相当。“从功率和速度的角度来看,纳米线神经元可能是一项极具竞争力的技术。”他们说。

当然,纳米线神经元也存在一些局限。与大脑相比,超导神经元最大的差距就是只能连接少数其它神经元,相比之下,人类大脑中的每个神经元都与成千上万的神经元相连。而且,目前 Toomey 等人的超导神经网络还只是一个设计。

尽管如此,模拟结果还是很有希望的。研究人员表示,目前的分析表明,纳米线神经元是低功耗人工神经网络发展的一个有希望的候选对象,而且潜力是巨大的。
研究人员认为,超导神经网络可能成为全新计算机硬件的基础,这些芯片可以通过超导互连连接在一起,也就没有散热的问题。“其结果将是一个大规模的神经形态处理器,它可以被训练成一个脉冲神经网络(spiking neural network),执行模式识别之类的任务或用于模拟大型生物仿真网络的脉冲动力学。”

无论如何,这是一项有趣的工作,尽管在兴奋之前还需要进行概念验证演示。

本文已标注来源和出处,版权归原作者所有,如有侵权,请联系我们。

各工作岗位将被AI取代的概率

选择岗位,查看结果

制图员和摄影师

87.9%

参与评论

最新文章

1、 若贵平台是网站或者APP,在进行单篇原创文章转载时,需在文章标题或者导语下方,注明文章来源以及作者名称;若寻求5篇及以上的长期内容合作,需与亿欧公司内容运营部门取得联系,并签订转载合作协议。

【若贵司平台转载亿欧公司原创文章已经超过5篇,请及时与我们联系补签转载合作协议,计算时间以2019年2月10日之后为准】

2、 若贵平台是微信公众号,在进行单篇原创文章转载时,请联系亿欧公司内容运营人员进行单篇文章的白名单开通,同样需要注明文章来源及作者名称;若寻求2篇及以上的长期内容合作,需与亿欧公司内容运营部门取得联系,并签订转载合作协议。可将公司全称(简称)、公司网址、微信公众号、微信或者电话等信息发送至hezuo@iyiou.com,会有工作人员与您取得联系。

关闭

快来扫描二维码,参与话题讨论吧!

快捷登录 密码登录
获取验证码

新用户登录后自动创建账号

登录表示你已阅读并同意《亿欧用户协议》

快捷登录 密码登录

账号为用户名/邮箱的用户 选择人工找回

关联已有账户

新用户或忘记密码请选择,快捷绑定

账号为用户名/邮箱的用户 选择人工找回

快速注册

获取验证码

创建关联新账户

发送验证码

找回密码

获取验证码
账号为用户名 / 邮箱的用户 选择人工找回

未完成注册的用户需设置密码

如果你遇到下面的问题

我在注册/找回密码的过程中无法收到手机短信消

我先前用E-mail注册过亿欧网但是现在没有办法通过它登录,我想找回账号

其他问题导致我无法成功的登录/注册

请发送邮箱到service@iyiou.com,说明自己在登录过程中遇到的问题,工作人员将会第一时间为您提供帮助

账号密码登录

乐乐呵呵@微信昵称

该亿欧账号尚未关联亿欧网账户

关联已有账户

曾经使用手机注册过亿欧网账户的用户

创建并关联新账户

曾用微信登录亿欧网但没有用手机注册过亿欧的用户

没有注册过亿欧网的新用户

先前使用邮箱注册亿欧网的老用户,请点击这里进入特别通道
意见反馈
意见反馈
亿欧公众号 亿欧公众号
小程序-亿欧plus 小程序-亿欧plus
返回顶部