AI也能助纣为虐:《人工智能恶意使用报告:预测、预防和缓解》

郭沫汐
2018.08.01 08:10
[ 亿欧导读 ] 这份报告由来自剑桥大学、牛津大学与耶鲁大学的26位科技与公共政策学者共同发表,报告警告: 行事草率的政府、罪犯、或个人都有可能会滥用人工智能科技。
亿欧智库精选分享,人工智能,亿欧智库,恶意使用

作者:郭沫汐

2018年2月20日,电子前沿基金会EEF和牛津大学人类未来研究所、剑桥大学现存风险研究中心、人工智能组织Open AI等14个机构的26位科技与公共政策学者共同发表了《人工智能恶意使用报告:预测、预防和缓解》报告(以下简称报告)。报告警告大家提防流氓国家(注释1)、罪犯和恐怖分子利用人工智能技术作恶。同时,报告预测未来12年中利用AI技术和电子信息的犯罪将会增多,这让信息安全岌岌可危。因此报告呼吁全球政府及企业正视广泛运用的人工智能技术所带来清晰而直接的危害。

报告全文共六章,78页。章节目录如下图。报告全文下载:《人工智能恶意使用报告:预测、预防和缓解》.pdf

亿欧智库:人工智能恶意使用

近几年,人工智能(AI)和机器学习技术正在改变我们生活的方方面面。这些改变大部分都是往好的方向,举例说涉及领域有:医疗、交通、城市规划、艺术、科技和跨文化沟通。在机器学习系统中,我们已经目睹了用于预测暗网和潜在犯罪分子的软件“Machine Bias”会进行有偏见的预测。逐渐增多的带有偏见学习系统的AI机器将把我们的世界改变的面目全非。尤其是如果这项技术被错误的使用,这将为我们的生活带来许多不可预料的风险。

这里就有一个案例关于人工智能在安卓系统信息安全方面应用。报告预测未来五年内,犯罪分子可能利用AI发动攻击,无人驾驶汽车可能失控、商业用无人机会被当成锁定目标的武器。人工智能一旦被恶意操作,它能够采取大规模的高精准锁定攻击,不管是资讯的还是政治的安全都会面临即刻的威胁。

安全威胁分类

  1. 虚拟威胁:利用钓鱼网站、虚假电子邮件等手段,利用软件漏洞、人工智能系统漏洞发动黑客攻击,最终非法的获取用户信息或其他数据。

  2. 现实威胁:恐怖分子利用AI技术操纵机器人,实现远程攻击,控制无人机和无人汽车实施恐怖袭击,或者破坏自动驾驶系统使自动驾驶汽车崩溃。

  3. 政治威胁:利用人工智能技术生成虚假的宣传图像和视频,也可以进行言论控制,用深度学习删除不利的文本或图像,利用公开信息进行有针对性的宣传,从而增强说服力。

预防控制广泛运用的人工智能技术带来危害的建议

  1. 政策制定者和技术研究员应通力合作来预测、预防和缓解人工智能的恶意使用。

  2. 人工智能技术改善了我们生活的方方面面, 但它是一把“双刃剑”。人工智能研究员和工程师应考虑到误用带来的后果,调整研究重点,提前提防这项技术的恶意使用。

  3. 优秀的技术的使用者可以并且应该被要求遵守法纪,这项法纪是基于长期处理技术性威胁风险的历史案例,比如电脑信息安全。

  4. 利益相关方在提供和使用新技术时应注意提防这项技术的潜在恶意使用。

随着人工智能技术逐渐发展完善,报告期待未来AI系统可以考虑到以下方面的威胁:

  1. 现存威胁的扩大。随着人们用AI系统完成任务频率的增多,AI系统应用场景的增加,规模效应会同时导致发动袭击的成本降低。原本需要人力资源、学者和研究员才能解决的问题,被人工智能系统取代后,针对同样的任务,由人工智能系统发动的攻击速度更快,攻击目标更多,范围更广。

  2. 创造新的安全威胁。人工智能系统的安全漏洞一旦被发现,恶意攻击者可以利用漏洞,操纵人工智能系统完成之前人类攻击者做不到的攻击任务。

  3. 改变原有威胁的特征。报告发布者相信未来随着人工智能技术的广泛应用,针对AI系统的攻击将更高效,威胁种类将增多,针对性将变强。尤其是针对AI系统漏洞的攻击将变成未来的主流威胁。

最后,报告建议将人工智能视为 “军事兼商业”科技加以管制,具体细分四个领域进行研究:网络安全、技术开放性、责任文化、政策制定。报告同时呼吁人工智能界的学者,要对发表他们的研究成果保持谨慎,静待其他学者研拟出因应风险的办法。

注释:

1. 流氓国家(Rogue State):或称无赖政权,是一种国际外交政治概念,带有贬义。

流氓国家主要用来指集权体制、违背其他国家的愿望,试图获得其他国家设法控制的武器、对内或对外挑起其他国家憎恶的战争、进行反人类的罪行、窝藏恐怖份子、容许其他国家不容许的犯罪活动(如贩毒)、或者寻求颠覆或损害其他国家的政治实体。

美国政府曾经使用流氓国家一词十多年之久,用来称呼某些符合以上含义的国家,但自2000年开始,美国国务院开始使用“受关注的国家” (States of Concern),代替流氓国家一词。

2. 电子前沿基金会EEF:是一个非营利性的国际法律组织,成立于1990年,她的行动包括以下几个方面:对那些EFF认为遭受了毫无根据的或错误的法律威胁的个人和新技术提供资金援助或法律辩护服务;向政府和法院提供法律指导;组织行动支持那些有助于维护个人权利的新技术;维护相关新闻和信息的数据库及网站,监视和挑战那些它认为会侵犯个人权利和公平的法律;寻找专利滥用的行为并挑战这些没有意义的专利。

本文经授权发布,版权归原作者所有;内容为作者独立观点,不代表亿欧立场。如需转载请联系原作者。

打赏支持

5
5
10
20
50
80
100
其它金额
任意赏:

参与评论

1、 若贵平台是网站或者APP,在进行单篇原创文章转载时,需在文章标题或者导语下方,注明文章来源以及作者名称;若寻求5篇及以上的长期内容合作,需与亿欧公司内容运营部门取得联系,并签订转载合作协议。

【若贵司平台转载亿欧公司原创文章已经超过5篇,请及时与我们联系补签转载合作协议,计算时间以2019年2月10日之后为准】

2、 若贵平台是微信公众号,在进行单篇原创文章转载时,请联系亿欧公司内容运营人员进行单篇文章的白名单开通,同样需要注明文章来源及作者名称;若寻求2篇及以上的长期内容合作,需与亿欧公司内容运营部门取得联系,并签订转载合作协议。可将公司全称(简称)、公司网址、微信公众号、微信或者电话等信息发送至hezuo@iyiou.com,会有工作人员与您取得联系。

15篇文章  |  17.4万次浏览

拜访信息

为了给您提供更快更好的服务,在获取作者联系方式前,想对您有个简单了解. 邀请您填写如下信息

提交成功

非常感谢您的配合,我们的作者会尽快通过您的微信,
请耐心等待~

微信号

15701235851

关闭
快捷登录 密码登录
获取验证码

新用户登录后自动创建账号

登录表示你已阅读并同意《亿欧用户协议》

快捷登录 密码登录

账号为用户名/邮箱的用户 选择人工找回

关联已有账户

新用户或忘记密码请选择,快捷绑定

账号为用户名/邮箱的用户 选择人工找回

快速注册

获取验证码

创建关联新账户

发送验证码

找回密码

获取验证码
账号为用户名 / 邮箱的用户 选择人工找回

未完成注册的用户需设置密码

如果你遇到下面的问题

我在注册/找回密码的过程中无法收到手机短信消

我先前用E-mail注册过亿欧网但是现在没有办法通过它登录,我想找回账号

其他问题导致我无法成功的登录/注册

请发送邮箱到service@iyiou.com,说明自己在登录过程中遇到的问题,工作人员将会第一时间为您提供帮助

账号密码登录

乐乐呵呵@微信昵称

该亿欧账号尚未关联亿欧网账户

关联已有账户

曾经使用手机注册过亿欧网账户的用户

创建并关联新账户

曾用微信登录亿欧网但没有用手机注册过亿欧的用户

没有注册过亿欧网的新用户

先前使用邮箱注册亿欧网的老用户,请点击这里进入特别通道