分享到微信
科技 作者:亿欧 2021-06-15 09:30
[亿欧导读]

新时代下,数字内容安全的合法性和规范性成为各方关注焦点,健全平台内容审核机制也成为必须重视的问题。据网易易盾数据显示,仅2020年就检测数据4116亿,识别有害信息达425亿,数字内容安全刻不容缓。

数据安全

题图来自“收费图库”

在网络技术日益成熟及网络信息日益透明化的当下,做好网络信息安全防护及审查成为重中之重。2018年习近平主席就曾在全国网络安全和信息化工作会议中指出,要压实互联网企业的主体责任,决不能让互联网成为传播有害信息、造谣生事的平台。要依法严厉打击网络黑客、电信网络诈骗、侵害公民个人隐私等违法犯罪行为,切断网络犯罪利益链条,持续形成高压态势,维护人民群众合法权益。

我国持续加强网络安全顶层设计,国家发改委、工业和信息化部、公安部、交通运输部、国家市场监督管理总局等多个部门,陆续出台相关配套文件,不断推进我国各领域网络安全工作,全面推进网络空间法治化,营造清朗的网络空间。

国家互联网信息办公室部署开展2021年"清朗"系列专项行动时指出,将从8个方面发力严格把关不良违规内容。对每一家互联网内容平台来说,确保平台内容的合法性和规范性,健全平台内容审核机制成为必须重视的问题。

基于此,亿欧特邀网易智慧企业副总经理周森,结合网易及网易易盾20多年来在互联网内容安全领域的一线实践经验,分享互联网内容平台应如何在“高压”之下平稳健康发展的策略。

在周森看来,网络其实也是一个社会现象,也会有繁荣和阴暗两面,网易易盾长期跟阴暗的一面打交道,产业自身发展的越繁荣,它背后的阴暗面也将随之滋生壮大。

“产业繁荣代表里面有大量的经济利益,在经济利益面前就会滋生地下黑色产业,他们通过不正当的方式方法获利,导致产业面临内容安全相关的问题,他们是相伴相生的过程。打击地下黑产成为产业共识,这就需要我们这些第三方安全厂商、安全风控公司来帮助他们。”周森说到。

这也是周森带领网易易盾所做的事情,从数字内容风控角度帮助互联网产品健康发展,共建清朗网络空间。

数字内容产业亟需一套“防火墙”

周森在上学期间就主攻和人工智能相关的的语音识别技术,自2006年加入网易后一直从事与效果相关的技术工作,比如搜索是否准确、千人千面的个性化推荐是否准确、利用技术手段识别拦截垃圾信息等业务,从事的技术方向一直不变,但是技术应用的场景在不断变化,也说明了内容场景对于安全的需求一直存在。

随着互联网普及,互联网内容越来越多,国家越来越重视,周森觉得网络内容安全理念会越来越普及,比如网络上社群信息、暴恐信息等各种不良信息是个大问题。而互联网上所有东西都是数字化的,包括很多内容甚至报纸都已经在网上呈现,数字内容伴随着数字内容安全,所以“数字内容安全”能更好的阐释网络上内容安全的理念。

2016年12月,国务院颁布了十三五国家战略性新兴产业发展规划,将数字创意产业纳入了5大新兴的支柱产业,数字产业本身是一个很庞大的产业,数字内容产业也必然会衍生出数字内容安全产业。

网易易盾搭建“有害信息”粉碎器

近年来,网络黑灰产业已经成为互联网行业的顽疾,网上诈骗、侵犯公民个人信息、违规违法内容等,对青少年身心健康及社会安全带来严重危害。

据网易易盾数据显示,仅2020年就检测数据4116亿,识别有害信息425亿,新提炼有害信息特征12亿,反作弊累计检测量百亿次,反作弊累计沉淀黑灰产用户画像亿级,反作弊恶意行为识别准确率在99%以上。

网易易盾虽然成立于2016年,但网易内部一直在从事相关的工作,网易邮箱识别拦截垃圾信息就是很重要的一块业务,周森此前也负责过这项工作,所以他也积累了很深厚的经验,对于后期带领网易易盾开疆拓土发挥了关键作用。

据公开资料了解,网易易盾目前主要有内容安全、业务安全、移动安全相关的三条产品线,从内容角度维系互联网清朗干净,从风控角度保护金融、电商等企业安全,从反外挂角度保证游戏业务健康运行,而且网易易盾也积极推出了“清风”、“清朗”等专项行动,致力于净化未成年人网络环境,共建清朗网络空间。

周森也说到,金融行业、证券行业、游戏行业、社交行业等,网易易盾都有在服务,而且效果很明显,上线了网易易盾的系统后,违规违法信息立马就干净了,这是最直接可见的成果。

“底层架构筛除+人工智能识别+精确审核过滤”铁三角组合构建新安全

针对不同产业有不同的关注点,娱乐产品,比如游戏,地下黑产获利的点是游戏外挂,它会打破游戏的平衡,对游戏运营和玩家带来较大的影响;社交产品,比如微博、facebook、微信等,地下黑产的点比较分散,如果从经济获益上讲,各种诈骗、垃圾广告、色情信息需要打击,通过网易易盾的技术去识别过滤这些内容,尽量清理干净;金融行业,比如银行,风控至关重要,打击地下黑产绝不手软。

周森以“内容安全”为例讲到,网易易盾提出了很多解决方案,各大互联网厂商也都接受,但同时也存在阻碍使得这个事情落地的复杂度比较高。行业缺少标准,哪些内容是正常信息,哪些内容是有害信息,这个标准是模糊的,包括参与其中的各个厂商以及监管部门的标准都不是很统一,所以后期在落地上就会存在困难。

网易易盾通过一整套解决方案处理这个问题,从职能划分角度,将技术、运营、人工审核组合为一个铁三角,一件事情分三个团队来做,使每个团队做的事情更加精细化,实现了1+1+1>3的效果。技术团队主要就是通过各种技术手段来识别网络上的各种内容;针对落地标准不统一的问题,运营团队结合各行业属性制定特定的标准;审核团队执行运营团队所制定的标准,网易易盾内部将之称为“铁三角”,通过三个团队的密切合作,将落地过程中已存在的或潜在的问题解决掉,提升客户满意度。

数字内容监管体系化推动易盾四大优势

据网上相关资料显示,当前未成年人网民数已经达到1.75亿,仅2020年全年就有46%的未成年人遭受过网络安全事件,41%的未成年人看了不良违规信息并不会向家长反馈,这也为未成年人健康成长埋下巨大隐患。

无论是互联网内容平台还是第三方安全厂商,都在关注内容安全的合法性和规范性,健全平台内容审核机制也成为必须重视的问题。但在实际落地中,作为第三方安全厂商的网易易盾也遇到了一些阻碍,周森讲到,通过我们的监测,有些企业在数字内容层面存在安全风险,我们提醒需要处理,但企业抱着侥幸心理,没有被处罚过不害怕。过半年或者一年企业主动找过来合作,被处罚了需要整改,对于处罚轻一点的直接上线我们的系统就可以解决问题,对于被关停整改的,后悔都来不及。

在周森看来,互联网越来越繁荣,监管肯定会越来越完善,涉及数字内容的企业不应心怀侥幸,应积极面对问题解决问题,在阳光下健康发展。

网易易盾之所以能在短时间内快速发展,除了给客户带来的实际效果外,自身层面也有足够的积累,从业务、技术、运营、服务角度都有体现。

第一,业务优势,网易易盾作为网易安全部内部孵化项目,多年积累让网易易盾具备成熟经验,并且参与了相关领域的行业标准以及国家标准的制定,而且第三方内容审核行业的进入壁垒相对较高,包括技术壁垒、人才壁垒等;

第二,技术优势,基于网易20多年的数据积累,网易易盾算法团队拥有经过专业审核人员多人投票分类的数亿高质量训练样本数据,以及在此基础上构建了12大类数百种细分类识别的模型,最高达到99.99%的分类模型精准

第三,运营优势,拥有专门的策略运营团队,在黑灰产对抗、法律法规研究、行业特点提炼、多语种(包括少数民族语言)分析等领域都有丰富的人才储备和经验积累,同时可以针对内容垃圾特点和客户场景需求,快速提供个性化匹配模型及定制检测方案,补足机器能力在应对特定情况下的的短板

第四,服务优势,网易易盾提供的数字内容风控解决方案能够提供一站式全生命周期的专业服务,帮助客户公司更好的理解相关政策风险,保障业务稳健合规,运营上降本增效;通过完善的审核人员培养机制和日常内容审核巡查流程,以及全国四地审核职场,千人审核人力等,严格保障内容安全,政策布控及时,减少因违规内容漏出而引发的内容安全风险。

多维度合作推动数字内容产业安全发展

作为数字内容风控代表性企业,网易易盾首创了将运营团队纳入工作体系,以前所有的企业都是技术团队+审核团队,运营团队是网易易盾所独创,通过运营团队提升整体的效率与效能。

技术、运营、人审的铁三角组合无论从创新层面还是实际效果层面都为产业带来了改观,而这也仅仅是开始,周森说:“接下来网易易盾也将继续向横向和纵向扩展。横向扩展,将安全产品与非安全产品结合,网易智企旗下另一款产品网易云信主要做通信与视频技术服务,必然会涉及内容安全问题,可以和网易易盾有机结合,提供一整套安全的通信产品;纵向扩展,内容安全主要的技术是人工智能识别,我们向标签推荐、语义分析、情感分析等等,往各种各样的场景的分析识别去做扩展。”周森也透露,目前类似的拓展已经有业务开始落地了,合作点很多。

内部创新性合作为网易易盾产品的横纵向扩展提供了稳固根基,在外部场景不断复杂化的环境中依然可以保持内容识别99.99%的高准确率,风险控制高安全性等优势,从内容、垃圾用户行为、关系网络等维度帮助客户降低风险,有效提升有害内容的识别率。除此之外,网易易盾也结合自身优势积极践行社会责任,联合国家相关部门起草制定审核行业职业标准规范等,进一步编撰相关课程,并牵头建立审核中心,推动审核员成为国家认可的职业,为社会提供更多就业机会,而且在疫情期间,发挥科技优势助力抗疫。近期,更是携手腾讯阿里云等头部厂商联合发起“互联网内容安全联盟”,旨在团结多方力量护航数字内容产业健康发展,希望让用户在"互联网平台"上看到真实、安全的内容,通过过滤色情低俗、恐怖血腥、煽动仇恨、不实虚假信息等内容,加强数字内容的"安全"系数,形成"优质内容回归"的良性循环,共同营造清朗的网络空间。

站在新时代背景下,数字内容安全必然会成为网络强国建设重点方向之一,对于行业未来发展,周森认为,首先就是数字内容会越来越繁荣,随之它阴暗面的东西也会越多,对于数字内容风控厂商来讲,可施展的空间也会越来越大;其次,有些数字内容是企业的生命线,尤其在内容传播上,如果控制不好,会受到严重的处罚甚至关停业务,所以企业对数字内容风控的需求度会不断提高,第三方厂商也将进入大发展期。

对于此,周森也表示,网易易盾在结合自身优势为清朗网络空间做出贡献的同时,也进一步助推了互联网空间治理体系的良性循环,并在一定程度上带动了就业,这是我们的责任,未来我们也将会尝试更多的探索,不断满足人民群众对于美好生活的向往和追求。

本文来源于亿欧,原创文章,作者:亿欧。转载或合作请点击转载说明,违规转载法律必究。

网易网易易盾网络空间安全易盾