眼见不一定为实,消遣的AI换脸可能正在侵害每个人的利益

综合科技
RUC新闻坊
人大新闻系
2019-07-25 · 09:49
[ 亿欧导读 ] 你可能并不知道什么是GAN(生成式对抗网络),但你可能在社交网络上转发过明星变老的图片,或者曾看到换脸技术在淘宝售卖的报道,只需几元钱,就能将别人变成色情片主角。
人工智能,GaN,社交网络,Deepfake,AI换脸 图片来自“123rf.com.cn”

你可能并不知道什么是GAN(生成式对抗网络),但你可能在社交网络上转发过明星变老的图片,或者曾看到换脸技术在淘宝售卖的报道,只需几元钱,就能将别人变成色情片主角。实际上,一波人工智能换脸应用的热潮已经出现,我们稍不注意就可能掉入陷阱之中。

本期RUC新闻坊为你梳理这些以假乱真的换脸技术的产生和发展,并搜集国外媒体观点总结这些颠倒身份、穿越时间的图像和视频可能给我们的生活带来什么影响。

FaceApp热潮让我们担心自身的隐私

上周有一款名为FaceApp的 AI换脸APP火遍整个社交媒体,世界各地的明星等公众人物争相在社交平台分享自己的“老年”照片。这款APP由俄罗斯公司Wireless Lab开发,用户仅需要上传一张照片,即可实现一键变成老人,一键返老还童,一键由男变女,一键破涕为笑,一键失去头发。

FaceAPP

(FaceApp官网的App功能介绍,包括改变表情、变年轻、变老等)

据福布斯报道,这款APP诞生于2017年,因最近算法大幅提高而爆火。目前在Google Play的下载量已经超过了1亿,近10天内下载安装次数达450万。此外,它在苹果App Store里的安装下载量也居高不下,App Annie数据显示,它目前在121个国家的iOS商店排名第一。

Twitter网友用FaceApp为特朗普“换脸”

(Twitter网友用FaceApp为特朗普“换脸”)

这款APP的基本原理是生成式对抗网络(GAN),通过算法提取人物脸部的特征,并根据数据库中的其它图像对照片中非重要特征点进行调整。

FaceApp的火爆掀起了人们对于人工智能技术及隐私保护等问题的热议。由于该应用由俄罗斯人开发,美国政坛高度紧张,民主党的全国委员会发出预警,警告2020年民主党总统竞选团队不要使用该换脸应用,还有政客建议FBI介入调查。

换脸技术的始作俑者——Deepfake

Deepfake是一项人工智能换脸技术,适用于修改图片和影像,可以实现人脸的移花接木。今年年初在网络上广泛传播的朱茵变杨幂的换脸视频就是通过这种技术生成的。当中国网民还沉迷于利用Deepfake技术制作鬼畜视频的时候, Deepfake已经作为一种负面议题在国外掀起了滔天巨浪。

2017年,一名叫“Deepfake”的用户在美国Reddit论坛上传了多段“嫁接”好莱坞女明星脸的色情视频,引发网民热烈讨论。之后,开源的代码便如同火种一般,让曾经只有专业电影制作机构才能完成的视频换脸变得轻而易举。用户只需要收集目标对象的大量照片就可以使用这些开源的算法制作出假视频。

很快,Deepfake的波及范围就从影视娱乐圈蔓延到美国政坛。去年一段美国前总统奥巴马吐槽特朗普是笨蛋的假视频在Twitter走红。今年5月,美国众议院议长南希·佩洛西的假视频也在社交媒体上广泛流传。视频中,佩洛西如同喝醉了一般,神志不清,说话磕磕巴巴,举止奇怪。这段视频甚至引来了美国总统特朗普的嘲讽。

因为Facebook拒绝删除佩洛西的假视频,马克•扎克伯格也被人恶搞,“他”在其中大谈如何“控制数十亿人泄漏的数据”,而原始素材来自扎克伯格两年前一则毫不相关的视频。

Deepfake的迅速发展严重影响了人们的信息环境,一场“猫和老鼠”的技术追击战就此展开,比如早期研究人员通过人物是否眨眼睛来判断视频是否由Deepfake生成,但现在的Deepfake中人物都能眨眼。

有意思的是,这个生成与识别的过程和Deepfake的原理——上文提到的生成式对抗网络(GAN)也很相似。GAN由一个生成网络与一个判别网络组成。生成网络则要尽可能地欺骗判别网络,判别网络的目的是将生成网络的输出从真实样本中尽可能分辨出来,两个网络相互对抗、不断调整参数,直到判别网络无法判断生成网络的输出结果是否真实。

外媒关注焦点

AI换脸应用在国内引起的讨论还较少,但技术的传播是没有国界的。为了更深入探讨换脸技术可能给生活带来的影响,我们参考了Deepfake出现更早、案例更多的国外,看看国外媒体是怎么看待换脸产生的问题的。

换脸技术威胁政治和商业

不少媒体关注换脸技术可能会损害美国政治环境,给民主造成威胁。据CBS报道,美国在1月发布的一份全球威胁评估报告中警告称,Deepfake可能会成为扰乱2020选举的策略之一。“山寨”奥巴马骂特朗普是“彻头彻尾的混蛋”足以影响本已混乱的政治讨论,更不用说一段“山寨”美国总统对某国宣战的视频会引起怎样的巨变。

美国众议院民主党成员Yvette Clarke认为,Deepfake的影响并不仅限于选举,它甚至可以改变经济和法律体系的结构:法院需要重新审视很多图像或视频证据的效力;而扎克伯格的Deepfake视频如果被恶意炒作,可能会给企业造成巨大经济损失。Fast Company网站也指出,“蒂姆•库克”与某人就iPhone销量下滑进行私人谈话的假视频,能在几秒钟内让股市蒸发数十亿美元。

《卫报》这样形容Deepfake造成的影响:在很多互联网视频中,人们正做着他们从未做过的事情,真实的人,真实的脸,接近真实的画面,但这是完全不真实的事件。

《卫报》还在报道中引用了AI伦理和法律方面的教授Sandra Wachter的观点,她认为很多对科技的恐惧都是夸大其词,但Deepfake不一样,“并不是说假视频或假信息从未有过,而是假信息的复杂程度、生产难度和速度、以及传播的范围都达到了新的水平。”

《麻省理工科技评论》也指出,早在AI出现之前,操纵媒体的现象就已经出现了,但算法让这些操纵更加普遍且更难被发现。

除了Deepfake换脸技术外,媒体也对FaceApp存在的隐私风险给予关注。据《纽约时报》报道,在7月17日的一封信中,纽约州民主党参议员Chuck Schumer要求联邦调查局和联邦贸易委员会对FaceApp进行调查,理由是安全、数据保存和透明度方面的“严重问题”。他在信中指出,“如果美国公民的敏感个人信息被提供给一个频频对美国发起网络攻击的敌对外国势力,那将是非常不安的。”

换脸技术对女性的伤害

《华盛顿邮报》注意到,涉及男性的Deepfake视频几乎都是搞笑风格,而涉及女性的主要是色情视频,这暴露出对女性的性物体化在人工智能技术下变得更加严重。

更关键的是,Deepfake刚出现时主要针对女明星,但随着技术的进步和普及,普通女性也成为了目标。只需收集一个人大量的面部信息和一段性爱视频,就能“移花接木”,达到满足自己或报复女性的目的。

去年4月,印度一名女性调查记者Rana Ayyub收到报道对象的威胁——一段用她的脸伪造的性爱视频。这段视频在社交网络上快速传播,这名记者看到后崩溃了。她表示,自己多年来一直遭受着各种骚扰,但Deepfake比身体威胁更可怕,对内心造成长期影响,“并且没有什么能阻止它再次发生”。

《赫芬顿邮报》采访了六名Deepfake的女性受害者,她们的照片未经同意就被置入色情视频,其中一位表示,“用Photoshop处理过照片是静态的,而且很容易被识别出是假的。但当视频中是你自己的脸做出反应并移动时,你会感到恐慌,因为你无法控制别人如何使用你的形象。”

VICE网站也发现,新推出的DeepNnude是专门针对女性研发的,即使是输入一个男人的照片,该软件也只生成女性裸体的图像,因为应用只对女性的裸照进行了算法训练。

如何减少技术的负面影响

The Verge网站在采访技术专家后指出,尽管部分识别Deepfake的研究通过追踪名人独特的面部动作,比如撅嘴唇、扬眉毛等,大幅提高了准确度,但人工智能的精进为两方都提供了便利。也就是说,每一项检测Deepfake的研究都为提高Deepfake模仿质量提供新的机会,生产和识别将成为一场无休止的对抗。另一方面,尽管最新的模型准确度高达97%,即使完美部署在各大平台上依然会存在3%的漏网假视频,考虑到互联网视频的庞大体量,这部分可能造成的危害仍然是个大问题。

当技术靠不住时,如何减少假视频传播带来的负面影响成为重中之重。为此,《纽约时报》提出“我们不能再相信目之所见”的观点。评论认为,人们通常认为视频内容就等于能感知到的事实,但随着Deepfake技术的出现,制作假视频的能力将和说谎的能力一样普遍,我们应该将各种视频资料看作是“证词”而非“感知”,只有在信源可信时,才能相信这些音视频材料的真实性。因此记者要养成追查网络内容创作者身份的习惯,才能在各种Deepfakes全部到来之前确保我们已经完全准备好了。

人权组织Witness的项目经理Sam Gregory在《麻省理工科技评论》中建议,为Deepfake提供工具的公司和研究人员也必须投资到对策研究之中,同时社交媒体和搜索公司应该将这些对策整合到平台中。

Deepfake法案的顾问Mutale Nkonde还督促监管者出台相应措施,“除非政府找到方法保护消费者的权利,像Deepnude这样的的应用会越来越泛滥。”

随着大量类似应用的产生,政府出台了相关法律进行规制。据《纽约时报》报道,截止2019年初,美国41个州已经禁止了生产和传播报复性色情信息,限制应用程序的滥用。The Verge网站发现,美国维吉尼亚州已经正式扩大了对未经授权的色情作品的禁令,包括由Deepfake生成的假视频和假照片,最高可被判处12个月监禁和2500美元的罚款。得克萨斯州已经通过了相关法案禁止Deepfake在政治选举上的滥用。纽约州立法者禁止公众未经他人同意创建“数字复制品”。

本文已标注来源和出处,版权归原作者所有,如有侵权,请联系我们。

各工作岗位将被AI取代的概率

选择岗位,查看结果

制图员和摄影师

87.9%

参与评论

最新文章

1、 若贵平台是网站或者APP,在进行单篇原创文章转载时,需在文章标题或者导语下方,注明文章来源以及作者名称;若寻求5篇及以上的长期内容合作,需与亿欧公司内容运营部门取得联系,并签订转载合作协议。

【若贵司平台转载亿欧公司原创文章已经超过5篇,请及时与我们联系补签转载合作协议,计算时间以2019年2月10日之后为准】

2、 若贵平台是微信公众号,在进行单篇原创文章转载时,请联系亿欧公司内容运营人员进行单篇文章的白名单开通,同样需要注明文章来源及作者名称;若寻求2篇及以上的长期内容合作,需与亿欧公司内容运营部门取得联系,并签订转载合作协议。可将公司全称(简称)、公司网址、微信公众号、微信或者电话等信息发送至hezuo@iyiou.com,会有工作人员与您取得联系。

关闭

快来扫描二维码,参与话题讨论吧!

快捷登录 密码登录
获取验证码

新用户登录后自动创建账号

登录表示你已阅读并同意《亿欧用户协议》

快捷登录 密码登录

账号为用户名/邮箱的用户 选择人工找回

关联已有账户

新用户或忘记密码请选择,快捷绑定

账号为用户名/邮箱的用户 选择人工找回

快速注册

获取验证码

创建关联新账户

发送验证码

找回密码

获取验证码
账号为用户名 / 邮箱的用户 选择人工找回

未完成注册的用户需设置密码

如果你遇到下面的问题

我在注册/找回密码的过程中无法收到手机短信消

我先前用E-mail注册过亿欧网但是现在没有办法通过它登录,我想找回账号

其他问题导致我无法成功的登录/注册

请发送邮箱到service@iyiou.com,说明自己在登录过程中遇到的问题,工作人员将会第一时间为您提供帮助

账号密码登录

乐乐呵呵@微信昵称

该亿欧账号尚未关联亿欧网账户

关联已有账户

曾经使用手机注册过亿欧网账户的用户

创建并关联新账户

曾用微信登录亿欧网但没有用手机注册过亿欧的用户

没有注册过亿欧网的新用户

先前使用邮箱注册亿欧网的老用户,请点击这里进入特别通道
意见反馈
意见反馈
亿欧公众号 亿欧公众号
小程序-亿欧plus 小程序-亿欧plus
返回顶部