张琦
作者很懒,什么都没留下

18

文章/篇

14.4万

阅读/次

拜访信息

为了给您提供更快更好的服务,在获取作者联系方式前,想对您有个简单了解. 邀请您填写如下信息

提交成功

非常感谢您的配合,我们的作者会尽快通过您的微信,
请耐心等待~

微信号

15701235851

AI算法又要升级?或将无法驾驭人工智能芯片

张琦
2017-08-04 · 14:58
[ 亿欧导读 ] 英伟达推出了最新研发的人工智能加速器,但是我们需要升级软件,更新AI算法,其原因有两点:一是现有的AI算法不能充分利用这个加速器的性能,二是为了获得AI开发中另外的突破。
人工智能,人工智能,AI芯片,英伟达,算法,神经网络

作者:张琦,图片来自网络

2017年度GTC技术大会上,英伟达推出了他们公司最新研发的GPU——Volta。该芯片的核心是一款称为“Tensor Core(张量处理器)”的人工智能加速器,这是开发下一阶段AI应用的硬件保障。然而,我们需要升级软件,更新AI算法其原因有两点:一是现有的AI算法不能充分利用这个加速器的性能,二是为了获得AI开发中另外的突破。

如果我们能充分利用这种新代芯片,不仅将大大推进AI应用的进展,甚至可能会创建新的AI应用。比如说,AI算法可以利用该种芯片的高速运行速度,来更好地理解和综合分析人类语言。语音识别系统将极大地完善,音频的转录将更加准确,计算机将会有能表现出语言风格和情感的语音系统。

有许多公司已经认识到了AI所具有的巨大潜力,还研发出了强大的芯片,以期获得AI的广泛应用。例如,英伟达开发的 GPU以及谷歌研发出的TPU。

这些芯片有一个共同点,就是它们都根据程序局部性原理来不断优化算法。为了获得局部性优势,需要AI芯片和AI算法的共同支持。目前,新兴的AI芯片已经可以为此提供基础框架(例如Volta的“Tensor Core”),但是更多的AI算法还没有获得与这种芯片的相应升级。通俗地说,当下通行的算法不能充分利用到该芯片的高速运行速度。

AI芯片的第一阶段是并行驱动,即同时执行多种任务。

在海量数据集上训练大型神经网络可以充分展示其易被现有并行芯片利用的显著并行性。然而,目前来看,内存提取性能的发展远远不能满足人们的需求。最终这些新芯片会面临“内存墙”的困境,即内存性能会严重限制芯片性能的发挥。 

为了进入到下一阶段,AI芯片仍要在局部性上下功夫。局部性可以体现为重复引用同一个变量。打个比方,您在杂货店里购物,您要按照购物清单买东西,清单一共列有10件商品,您如果想加快寻获商品的速度的话,可以请10个朋友,让他们分别找到1件清单上商品。这种方法虽然是并行驱动的,但效率也非常低下,因为清单上不同的物品可能摆在一起,这就会产生让不同的朋友来找寻相邻物品的情况,从而降低了效率。一个更好的办法是让每个朋友去一个不同的过道,并只找那个过道的物品。这就是局部性解决目前“内存墙”困境的方式。

新代AI芯片需要具有显著局部性特点的算法相适应。目前,并不是所有的AI算法都能胜任这一任务,因为它们不具备显著的局部性。计算机视觉算法由于其大量使用卷积神经网络而在局部性上显有优势,但语言和语言应用中所使用的复现神经网络则需要稍加变动(尤其要对其推理能力进行优化),以改善其局部性。

在百度的硅谷AI实验室,研究人员尝试了几种完善算法的方式,来挖掘局部性的潜力。早期的实验显示出了我们非常可能克服这一困难的迹象。例如,研究人员发展了RNN网络,让其在低批量大小下达到了30倍速的提升。这开了一个好头,但未来AI芯片的性能还要有更大的提升。另一个研究方向是整合了来自卷积和复发神经网络的想法得来的,但这个方向的最优解还在后头。

深度学习的AI算法计算有限,迄今为止的突破都是得益于运算速度更快的计算机的出现。然而,当下的算法已经取得了突破性进展,而且已经在语音识别,机器翻译和人类语音综合方面得到了成果。目前,进行下一阶段AI算法研发的硬件已经到位。早期实验中的种种迹象表明——我们正处于下一代算法开发的前端。预计下一代算法能充分利用目前AI芯片的性能,并且可以引领我们得到其他方面的突破。

本文经授权发布,版权归原作者所有;内容为作者独立观点,不代表亿欧立场。如需转载请联系原作者。

各工作岗位将被AI取代的概率

选择岗位,查看结果

制图员和摄影师

87.9%

参与评论

最新文章

1、 若贵平台是网站或者APP,在进行单篇原创文章转载时,需在文章标题或者导语下方,注明文章来源以及作者名称;若寻求5篇及以上的长期内容合作,需与亿欧公司内容运营部门取得联系,并签订转载合作协议。

【若贵司平台转载亿欧公司原创文章已经超过5篇,请及时与我们联系补签转载合作协议,计算时间以2019年2月10日之后为准】

2、 若贵平台是微信公众号,在进行单篇原创文章转载时,请联系亿欧公司内容运营人员进行单篇文章的白名单开通,同样需要注明文章来源及作者名称;若寻求2篇及以上的长期内容合作,需与亿欧公司内容运营部门取得联系,并签订转载合作协议。可将公司全称(简称)、公司网址、微信公众号、微信或者电话等信息发送至hezuo@iyiou.com,会有工作人员与您取得联系。

关闭

快来扫描二维码,参与话题讨论吧!

快捷登录 密码登录
获取验证码

新用户登录后自动创建账号

登录表示你已阅读并同意《亿欧用户协议》

快捷登录 密码登录

账号为用户名/邮箱的用户 选择人工找回

关联已有账户

新用户或忘记密码请选择,快捷绑定

账号为用户名/邮箱的用户 选择人工找回

快速注册

获取验证码

创建关联新账户

发送验证码

找回密码

获取验证码
账号为用户名 / 邮箱的用户 选择人工找回

未完成注册的用户需设置密码

如果你遇到下面的问题

我在注册/找回密码的过程中无法收到手机短信消

我先前用E-mail注册过亿欧网但是现在没有办法通过它登录,我想找回账号

其他问题导致我无法成功的登录/注册

请发送邮箱到service@iyiou.com,说明自己在登录过程中遇到的问题,工作人员将会第一时间为您提供帮助

账号密码登录

乐乐呵呵@微信昵称

该亿欧账号尚未关联亿欧网账户

关联已有账户

曾经使用手机注册过亿欧网账户的用户

创建并关联新账户

曾用微信登录亿欧网但没有用手机注册过亿欧的用户

没有注册过亿欧网的新用户

先前使用邮箱注册亿欧网的老用户,请点击这里进入特别通道
意见反馈
意见反馈
亿欧公众号 亿欧公众号
小程序-亿欧plus 小程序-亿欧plus
返回顶部