分享到微信
科技
作者:焦天一EO
2021-08-04 10:26
[亿欧导读]

8月2日-3日,首届全球数字经济大会在京召开,人工智能产业治理论坛作为大会的平行论坛之一备受关注。

人工智能

题图来自“公开图片”

8月2日-3日,首届全球数字经济大会在京召开,人工智能产业治理论坛作为大会的平行论坛之一备受关注。8月3日,来自我国人工智能领域的顶尖科学家、学者以及知名企业家汇聚这场盛会,围绕主题“探索创新、共举担当”展开前沿对话,共同发布了首个《人工智能产业担当宣言》。

中国科学院院士、清华大学人工智能研究院院长张钹,北京市海淀区区委副书记、区长王合生,北京市大数据中心党总支书记、副主任唐建国,中关村科学城管委会专职副主任、海淀区科信局局长舒毕磊,中国信息通信研究院副总工程师王爱华,北京智源人工智能研究院执行副院长曹岗出席论坛。

01.png.png

人工智能创新发展,与安全治理深度协同

作为引领第四次科技革命的战略性技术,人工智能给社会建设和经济发展 带来了重大而深远的影响。人工智能在纯技术层面是价值中立的,但在实际应用中,兼具创造性和破坏性。数据隐私、算法偏见、技术滥用等安全问题正给社会公共治理与产业智能化转型带来严峻挑战。

“人工智能与信息系统在安全性上有着显著区别。信息系统安全性问题主要是软件设计中的漏洞,容易被解决。而第二代人工智能的安全性问题主要来自深度学习算法本身的不安全,更加本质、更难克服。”中国科学院院士、清华大学人工智能研究院名誉院长、瑞莱智慧首席科学家张钹在主旨演讲中率先破题。他指出,对人工智能进行治理,防止它被误用、制止它被滥用,一方面需要从法律法规、伦理规范、行业共识等不同层面去“治标”,还应从技术创新层面发力去“治本”。张钹院士提出发展第三代人工智能技术,即融合了第一代的知识驱动和第二代的数据驱动的人工智能,利用知识、数据、算法和算力四个要素,建立新的可解释和鲁棒的AI理论与方法,发展安全、可信、可靠和可扩展的AI技术。

中国科学院自动化研究所研究员、国家新一代人工智能治理专委会委员、联合国教科文组织人工智能伦理特设专家组专家曾毅认为,人工智能的治理并不存在“发展优先还是治理先行”的矛盾,人工智能稳健发展的两大前提是可持续发展和人工智能的善治,两者深度协同。如何实现人工智能的可持续发展?曾毅提出了具体建议,即在人工智能产品设计、研究、开发、部署、使用全生命周期嵌入伦理与治理,并形成政府、学术界、企业、公民社会、媒体、用户、服务提供商等多方主动共治的良性生态,使稳健发展的人工智能赋能全球可持续发展目标的实现。曾毅教授表示,本次宣言的发布对企业具有重要参考作用并具初步的实操建议,将推动政产学研各界加快形成多方共治体系,稳步推进构建“负责任、可持续”的人工智能生态,赋能人类与生态的可持续发展。

中国社科院科技哲学研究室主任、科学技术和社会研究中心主任段伟文在演讲中重点谈到了数字时代的社会信任危机与重建。他说,数字技术与人工智能产业发展的伦理风险带来了诸多社会信任问题,面对既防患未然也溯及既往的数字治理趋势,人工智能企业应直面社会许可的挑战,认真感知公众对科技企业的认知和评价。他建议人工智能企业不应回避社会监督,而是不断思考、重塑科技的社会印象,技术改进和伦理设计要齐头并进,携手走向共建性的人工智能伦理治理。

中伦律师事务所合伙人陈际红结合9月1日起即将施行的《中华人民共和国数据安全法》进行了分享。人工智能治理的实现,需要多方参与、多元路径。为人工智能的发展设定规则就是路径之一,而法律就是制定硬规则。人工智能企业要遵守《数据安全法》开展数据处理,达到的合规标准。

独行快,众行远。在主旨演讲环节,嘉宾们在分享中达成共识:在推动人工智能创新发展的道路上,只有从技术、伦理、法律三个维度“三管齐下”,才能实现安全治理的高效能。只有创新发展与安全治理深度协同,人工智能才能真正成为社会发展的有力工具,增进人类福祉。

02.png.png

共担科技使命,首个《人工智能产业担当宣言》发布

为了更好的推动人工智能技术创新和产业稳健发展,形成更完备规范的创新体系和产业生态,《人工智能产业担当宣言》在本次论坛上正式对外发布。

宣言由北京智源人工智能研究院、瑞莱智慧联合发起,百度华为蚂蚁集团寒武纪、爱笔科技、第四范式、出门问问等人工智能行业的核心骨干企业、学术研究机构共同参与。

宣言包含五项倡议,首先强调,人工智能系统的设计、研发、实施和推广应符合可持续发展理念,以促进社会安全和福祉为目标,以尊重人类尊严和权益为前提。其次在技术能力方面,提出要最大限度确保人工智能系统安全可信,提高鲁棒性及抗干扰性,要增强算法透明性和可解释性,同时保障各方权利和隐私,对用户数据提供充分的安全保障。

在行业践行方面,宣言也给出了具体实现路径,倡导企业积极参与探索和构建开源开放协作共享机制和平台,建立深度合作伙伴关系,推动良好的产业生态形成。此外,企业还应采取成立人工智能治理委员会或工作组、设立伦理研究院岗位或通过外部技术支持等多种方式极履行责任,从业者要具有高度社会责任感和自律意识,将人工智能伦理与治理原则、实践贯穿于产品和服务的全生命周期。

北京瑞莱智慧科技有限公司CEO田天作为论坛承办方与宣言核心参与方率先表示,让人工智能更好地服务于人类,是行业共同的目标,当整个社会重新审视技术的价值,科技从业者更应感受到科技治理的紧迫性和使命感,应当积极主动开展自治工作,同时开放共享,共举科技担当,将科技力量打造成为人工智能创新治理体系中的核心支撑。

多方积极响应,探索科技治理新路径

当下正值经济深度智能化的发展阶段,人工智能产业化已经从点到面,渗透到更多行业特定场景,这也为相应的风险治理和安全能力建设提出了新的要求。在科技向善的共同愿景下,众多人工智能企业也在积极探索科技治理的新路径。

百度技术委员会理事长陈尚义在论坛上表示,人工智能科技治理既防范潜在风险,也要关注正向社会价值,这些社会价值与人民的美好生活、经济高质量发展息息相关。 百度秉持科技为更好的可持续发展理念,依托全栈领先的人工智能技术能力和丰富产业的实践经验,不仅要达成自身的碳中和目标,更要通过技术助力全社会节能减排。

安全能力的建设也要求核心技术的自主可控,出门问问创始人、CEO李志飞就以语音交互技术在智能车载场景应用为例谈到,车载作为与“安全”联系密切相关的场景,创建自主可控的语音开源工具,构建可信赖的车载智能语音系统成为可控发展的关键。

这也是目前众多企业积极探索的方向。第四范式联合创始人、首席研究科学家陈雨强重点分享了人工智能在企业界和工业界应用的观察。他认为通过解决数据使用形式,解决数据安全流通问题,将使得人工智能达到全新的能力纬度。目前,第四范式也在积极推广人工智能技术过程中的隐私保护工作。

阿里巴巴人工智能治理与可持续发展实验室首席科学家李朝说,作为最大的数字经济平台,发展可持续性人工智能技术,是阿里巴巴义不容辞的责任。而可持续性要更多的体现公平性,包容性以及更广的可适用性,并积极探索一个可预测、可控、可协作,也更加个性化的治理模式。

轻舟智航联合创始人、首席科学家大方介绍说,轻舟智航注重传统机器人技术与深度技术学习相结合,关注产品的价值观,“我们希望所打造的人工智能技术能够有所为也有所不为,能够在安全、效率、环保这几个方面方面大有所为。”

京东探索研究院算法科学家何凤翔则表示,该院将一直对AI治理保持高度关注并展开具有建设性的讨论,对数据安全、隐私保护、道德伦理等重点议题进行深度研究,推动AI治理在社会运转和企业经营中落到实处。

本届论坛,是促进和加强可信AI建设的交流合作、共同致力于推动人工智能产业良性发展、建设可信的未来智能社会的一次成功实践。通过论坛交流互动,深入探讨了国内各领域关于人工智能应用安全方面的理念、方法和技术路径,将有助于行业间增进了解、加强合作、彼此借鉴,拓宽发展思路。在以安全为本的新格局下,发展的新旧动能强劲转换,随着AI生态的逐步完善和发展,创新的边界将会进一步被打破,更多的技术融合也会不断发生,构筑安全可靠,可信赖的AI新核心,为企业智能化转型夯实安全底座,助力企业核心应用实现“质”跃迁。

本文来源于亿欧,原创文章,作者:焦天一EO。转载或合作请点击转载说明,违规转载法律必究。

人工智能科技治理理论第四范式