AI打击网络犯罪?缺了人还是不行

人工智能
网易科技
小小
2017-11-14 15:10
[ 亿欧导读 ] 我们需要能够识别出网络安全背后的“原因”,定义关键的指标来监控我们算法中的错误,并对那些不适合AI模型的错误和误报继续交给人类决定。
警察,人工智能,图像识别,机器学习,算法 图片来自“123rf.com.cn”

据VentureBeat报道,随着网络犯罪的兴起,从金融、保险、医疗到大型电子零售商等各个行业的公司,都对其担心不已。仅2017年上半年,就有超过20亿条用户记录被泄露。从这些被黑客窃取的PII(个人可识别信息)之中,诈骗者可以获得用户账户的访问权、创建合成身份,甚至还可以制作虚假企业信息来进行各种形式的欺诈行为。

所以,企业正疯狂地寻求加强自家安全团队的方法。但巨大的人才缺口导致网络安全行业招聘十分困难,信息系统审计和控制协会(ISACA)发现,申请网络安全工作的求职者中,只有不到1/4的人符合资格。ISACA预测,到2019年,全球网络安全专业人才缺口将达到200万人。

作为应对之策,许多公司都转向人工智能(AI),希望用AI来填补这些空缺。这就产生一个非常重要问题:AI警察准备好了吗?

培训和监督最重要

AI显而易见的好处之一是在不需要人工介入的情况下提供身份验证。通过监控隐形数据点(即用户环境或地理位置)、设备特性、生物识别技术以及用户行为等,AI可以比人眼更快地验证个人的身份。许多企业已经看中AI的巨大潜力,正如FICO最新的“猎鹰联盟”模型所展示的那样,在不增加假阳性率(即用户未进行网络犯罪,但将其判定为犯罪的比例)的情况下,将CNP(生成对抗性网络)的欺诈检测率提高了30%。

虽然AI的身份验证能力可能超过人类,但没有人类的战略指导来缓解前期没有足够数据积累的问题,识别网络犯罪依然显得太过复杂以至于无法解决。考虑到网络安全环境的复杂和基础设施的匮乏,从AI警察那里获得无监督的网络监测依然无法成为现实。对AI来说,识别大数据中的模式是个令人印象深刻的壮举,但这些分析本身并不具备对抗欺诈和消除低效CX的能力。

与此同时,监督机器学习技术依赖于人力提供的测试用例,以便帮助训练算法。举例来说,受监督算法只是计算出给定汽车模型和天气条件的最佳轮胎周长,而不是重新发明轮子。虽然在某些领域监督学习的作用有限,但它可以从大数据中提取有效模式,并提供可操作的方法。

AI和机器学习能够分析大量数据,并在数据中识别出人类永远无法提取出来的模式。但是,为了能更好地检测欺诈和提供更好的客户服务,仍然需要人类来把握方向,并对AI进行正确的设定。

准备与AI首次接触

当AI遇到不符合其已归纳出模型的新数据集实例时,可能需要人类介入来帮助解决这个问题,并训练算法如何在未来做出反应。为了更好地理解这种相互作用,我们用一个军事上的例子来进行说明。在战争中,俗话说“没有任何计划能在遇敌后继续执行”。当然,你可能会提前接触敌军,但这是否意味着你应该在战斗开始前就放弃原定计划呢?不,你应该遵循指挥官的意图,寻找计划细节和执行背后的原因。这样,即使你的计划失败了,你仍然可以完成你的任务。

同样,在身份验证中,敌人试图窃取你的信息,他们会在你的全通道防御中找到新的缺口。这与机器学习的许多常见应用形成了鲜明的对比。例如,气象学家的机器学习算法在过去几年中大大提高了预测精度。然而,飓风并没有试图愚弄气象学家的模型。它们的表现与模型相符,尽管有时程度会更强烈,但也是由于气候变化所致。

合格的AI需要能够识别欺诈者的新手段。如果不了解网络安全指挥官的意图,AI将无法适应这一过程。因此,需要人类来不断地指导和完善这些强大的算法。有人可能会问,GAN(生成对抗性网络)是不是一个替代手段呢?在机器学习中,GAN(生成对抗性网络)是个相对较新的概念。本质上,他们涉及到两种机器学习算法。算法A做一项工作,而算法B则积极地尝试寻找算法A的漏洞。

举例来说,在某个GAN图像处理算法中,算法A试图识别给定图像中是否包含一只鸟。随着所看的图片越来越多,它提高了从无鸟图片中区分出有鸟图片的能力。与此同时,算法B努力创建导致算法A识别错误的图片。应用于身份认证领域,算法A代表AI认证,算法B则代表试图在你的系统中寻找漏洞的黑客。

在有效部署的情况下,GAN在生产模型性能方面的表现优于传统技术,可以帮助AI主动防范未来的犯罪网络活动。然而,即使是GAN中,一个算法也不能理解网络安全指挥官的意图。而这就是监督人类再次发挥作用的地方。

防止误报

哪怕最好的算法也无法识别某些边缘案例,因为算法仅仅基于归纳决策和过去的经验。对于那些归纳规则的例外,我们需要人类眼睛帮助。否则,看似无辜的客户互动可能会产生非常糟糕的后果。

机器学习算法正在分析大量的数据,并在这方面做得很好。但其得出的结论依然是概率性的,因为规则总是有例外的。就像我们不能百分之百地识别骗子一样,即使在制定了无穷无尽的应急计划之后,有些被疑诈骗的客户实际上可能是真正的客户,这是情有可原的情况。

举个例子:客户乔斯(Jose)经常使用来自墨西哥的VoIP连接从休斯顿打电话。他在电话里紧张不安,而你的生物识别行为传感器也会发现。此外,他还试图从他的账户中激活5000美元的电汇。大多数机器学习算法(即使在被监督的情况下)都会将其标记为欺诈。然而,乔斯解释说,在他的房子被哈维飓风淹没后,他去了墨西哥和家人住在一起。他需要钱来为他在墨西哥的祖母支付医院账单,而他的祖母从来没有告诉家人自己的健康状况有多糟糕。

你要怎么做?这是一个非常棘手的情况,因为如果你拒绝这个请求,你可能会损毁公司形象。更糟的是,间接伤害了你的客户祖母。但欺诈者也经常利用天灾人祸。对于这些情况,算法无法给出令人满意的答案。

虽然在不久的将来,网络安全部队可能主要由AI组成。但今天,人类在打击欺诈和追求客户体验方面仍然是至关重要的。我们需要能够识别出网络安全背后的“原因”,定义关键的指标来监控我们算法中的错误,并对那些不适合AI模型的错误和误报继续交给人类决定。


人工智能——2017年最火热的标签。对于众多AI试水者,你知道如何平衡技术与需求吗?你知道如何利用政策事半功倍吗?你知道如何寻找公司的投资伯乐吗?12月14日,「2017亿欧创新者年会·AI产业应用峰会」,我们将邀请众多投资人、创业者、AI领域精英共同探讨,不仅是AI+产业+应用,这里是需求方和技术提供方的沟通平台,是政策专家与企业方的交流平台,是投资人与企业方交流的互猎平台,是应届毕业生和企业方的对接平台。多维度,更深度,来这里实现属于你的AI!

AI产业应用峰会


【2017亿欧创新者年会暨第三届创新奖颁奖盛典】将于12月13日-14日在北京中国大饭店举行。来自全球的100+名国内外顶级大咖、300+家主流媒体、4000名合作伙伴与行业精英共同参会,共话产业创新的未来与发展。邀您共同参与!

猛戳链接查看活动详情:http://www.iyiou.com/post/ad/id/420

770-160.jpg


参与评论

相关文章

关闭
  • 精彩推荐
  • 早稻
  • 宜和宜美链接未来家
  • TechCrunch上海2017国际创新峰会
  • 第十七届中国股权投资年度论坛
  • 创业邦100未来领袖峰会
  • 中国第十届高成长连锁行业峰会
  • 2017第二届全球投资大会

快来扫描二维码,参与话题讨论吧!

发送验证码
发送验证码
发送验证码
找回密码失败,请选择人工找回
如果你遇到下面的问题

我在注册/找回密码的过程中无法收到手机短信消

我先前用E-mail注册过亿欧网但是现在没有办法通过它登录,我想找回账号

其他问题导致我无法成功的登录/注册

请发送邮箱到service@iyiou.com,说明自己在登录过程中遇到的问题,工作人员将会第一时间为您提供帮助

账号密码登录

乐乐呵呵@微信昵称

该亿欧账号尚未关联亿欧网账户

关联已有账户

曾经使用手机注册过亿欧网账户的用户

创建并关联新账户

曾用微信登录亿欧网但没有用手机注册过亿欧的用户

没有注册过亿欧网的新用户

先前使用邮箱注册亿欧网的老用户,请点击这里进入特别通道
意见反馈
意见反馈
亿欧公众号 亿欧公众号
小程序-亿欧plus 小程序-亿欧plus
返回顶部