投稿须知
请将投稿文章及个人信息(作者、用户名、手机号、个人简介等)发送到邮箱tougao@iyiou.com,一经审核会有专人和您联系
我知道了
专栏申请
请将您的专栏名称、手机号、邮箱、个人简介(20字以内)等信息,发送至邮箱 tougao@iyiou.com,若有已投稿的文章可附上链接。一经审核,我们会以邮件的形式进行回复。
我知道了

瑞莱智慧朱萌:人工智能安全防御应兼顾主动与被动

收藏
人工智能
作者:焦天一EO
2022-01-19 19:53
近日,由国家工业信息安全发展研究中心主办的人工智能融合发展与安全应用研讨会成功举办,吸引了众多企业的专家代表参与,包括商汤科技、亚信安全、旷视科技、海康威视、的卢深视等人工智能公司。

苹果手机的人脸识别解锁和支付新应用让人脸识别走向大众,随着商业化的大规模推行,在利益的考量下,人脸识别技术成为一种时髦的身份验证模式,甚至在一些生活情景里成为必经环节。商家通过利益的计算,或为了降低成本,使利润最大化,或为收集人像数据,达成用户资料的完整,更有甚者贩卖个人信息,在黑色市场上赚钱利润。

近日,由国家工业信息安全发展研究中心主办的人工智能融合发展与安全应用研讨会成功举办,吸引了众多企业的专家代表参与,包括商汤科技、亚信安全、旷视科技、海康威视、的卢深视等人工智能公司。此外,来自国家工业信息安全发展研究中心、中科院、清华大学的专家也参与了研讨。

ruilai1.png.png

兼顾主动被动的AI防御

研讨会旨在推进国检中心建设高质量开展,优化资源配置,强化人工智能领域布局,国检中心成立专家委员会,邀请语音、图像、数据治理、安全等人工智能重点领域的专家学者作为国检中心专委会专家,未来持续开展技术研发、标准制定、政策研究等相关工作,促进人工智能产业高质量发展。

会上,瑞莱智慧高级副总裁朱萌就AI的安全风险进行了主题演讲。朱萌简要介绍了人工智能面临哪些安全风险:包括算法风险、AI高度依赖数据基础、隐私数据泄漏和技术滥用的风险。

瑞莱智慧RealAI朱萌在会上指出,人工智能风险应对需要遵循三项基础原则:前瞻性;整体性;技术属性和社会属性高度融合。面对纷乱复杂的AI技术和解决方案选择,整合人工智能产业链上下游资源、打造技术应对是行业迫在眉睫的诉求。凭借在AI攻防领域的丰富实践经验,瑞莱智慧提出了兼顾“被动”和“主动”的技术防御机制。比如,朱萌表示,瑞莱智慧的“四大安全平台”:AI安全防火墙、人工智能安全平台RealSafe、隐私保护计算机平台RealSecure和人工智能安全靶场,可以兼顾主被动的“安全观”。

ruilai2.png.png

AI安全防火墙与传统网络安全防护墙类似,是业内首个AI安全防火墙,能够抵御对抗样本攻击、深度伪造攻击等新型攻击方式,攻击拒绝率高达98%以上。

人工智能安全平台RealSafe通过搭载的攻击算法对系统进行模拟攻击,评估系统表现,综合给出安全性评分,指出安全漏洞在哪,用户再通过搭载的防御算法,针对性的进行加固提升,类似于人工智能时代的“杀毒软件”。

隐私保护计算机平台RealSecure是一款基于安全多方计算、联邦学习、匿踪查询等核心技术打造的数据安全共享基础设施,比如在人脸识别应用中,基于该平台能够实现人脸数据的加密切片存储,有效保护用户隐私数据。

人工智能安全靶场是主动防御的安全体,类似于“演兵场”,实现主动防御,通过攻防实战演练将安全风险暴露前置,提前发现和适应瞬息万变的新型攻击和高级威胁,实现“让风险发生在靶场,让有效防御构建在安全事件之前”。

行业标准的重要参与

近年来,人脸信息作为一种识别性和人格性极强的个人信息,若被窃取将对我国信息安全造成重大威胁。目前我国人脸识别技术缺乏统一、规范的规制体系,给国家信息安全带来巨大隐患。

瑞莱智慧作为首个机器学习算法安全评估国家标准核心起草单位,与国家工信安全中心、国家互联网应急中心等单位开展合作,联合落地标准制定、测试评估等工作,包括参与制定我国人脸模型算法安全领域的首个标准《信息安全技术人脸比对模型安全技术规范》,推动AI安全从“试点示范”走向“推广应用”。

瑞莱智慧RealAI朱萌介绍,在框架指导方面,瑞莱智慧在工信部网安局的指导下,联合中国信通究院以及多家机构,撰写发布首个人工智能安全指导框架,针对人工智能安全技术实施提供指引。同时在标准方面,瑞莱智慧与国家工信安全中心、国家互联网应急中心等单位开展合作,联合落地标准制定、测试评估等工作,推动AI安全从“试点示范”走向“推广应用”,并负责算法安全部分的标准制定。

虽然人脸识别已经广泛应用在治安防控、教育、金融支付等领域,但技术的缺陷性使瑞莱智慧不得不以审慎的眼光看待技术的使用,以此促进技术的进步优化。

瑞莱智慧RealAI朱萌认为,当前AI的安全治理正呈现爆发式增长的阶段,在技术高速发展之余,AI产业也正面临日益复杂和多样的需求,需要多方合作、资源互补,方能实现共赢。瑞莱智慧将继续深耕AI安全赛道,同时也将继续积极参与全球行业活动,聚力各方,共创AI安全的新业态。


本文来源于亿欧网,原创文章,作者:焦天一EO。
转载或合作请联系 hezuo@iyiou.com,违规转载法律必究。
文中涉及数据均已标明来源,如需数据服务可访问 亿欧数据 。 如您有「项目报道」或「项目对接」需求,请填写表单,我们将尽快与您取得联系。
会议
人工智能信息安全
  • 热门文章
探索「人工智能」领域
  • 最新研报
2021-2022中国自动驾驶行业深度分析与展望报告

2021-2022中国自动驾驶行业深度分析与展望报告

本报告涉及企业:百度、滴滴出行、文远知行、驭势科技、Momenta、华为、主线科技、小马智行、元戎启行、AutoX、智加科技、蘑菇车联
2021-2022中国自动驾驶产业年度总结报告

2021-2022中国自动驾驶产业年度总结报告

本报告涉及企业:享道出行、蛮酷科技、华砺智行、蔚来、驭势科技、小鹏汽车、酷哇机器人、禾赛科技、东软睿驰、伯镭科技、星云互联、几何伙伴、嬴彻科技
img