财经频道 > 产业资讯 > 正文

人工净化网络 AI扛起清道夫的扫把

2017年08月24日08:58  来源:科技日报

5034

  AI扛起清道夫的扫把 

  近日,多款在线学习类APP被曝光产品内暗藏大量“黄段子”,“学霸君”“小猿搜题”等热门在线学习软件均牵涉其中。针对这一问题,全国“扫黄打非”办公室已协调相关部门进行深入调查,并且会同宣传、网信、工信、公安、文化、工商、新闻出版广电等部门,在全国范围内开展互联网低俗色情信息专项整治行动。

  近两年来,直播平台、资源共享下载平台、各类APP,以及各种图片、视频社交网站迅速发展,但是鱼龙混杂、良莠不齐,面对互联网上充斥的不健康信息,我们该怎么办?

  涉黄与净化上演猫鼠游戏 人工审核“力不从心” 

  相信很多人还对“快播被禁”事件记忆犹新。2014年4月中旬快播科技对外宣布,快播会关闭qvod服务器,停止基于快播技术的视频点播和下载,清理低俗内容与涉盗版内容。

  在此之后,国家监管政策密集颁布,一个个涉黄平台被关停。国家对淫秽色情信息的严厉监管,也使得网络行业催生了一个新工种——被网友调侃为“宅男福利职业”的人工鉴黄师。

  之所以被看作“福利”,是因为他们不但需要涉猎大量黄色图片、文字、视频等,而且还能挣高额工资。很多人还记得,4年前,某互联网公司曾用20万高薪招聘“首席淫秽色情鉴定官”。

  但是,看似“风光”的背后是心理和生理的双重压力。据科技日报记者了解,一个鉴黄师平均一天要看2万张图,同时需要“白加黑、五加二”不间断工作。“图普科技”运营总监、“AI鉴黄师”姜泽荣就吐槽:“说当‘鉴黄师’是件美差的人,都不了解这个职业。”

  对众多平台而言,聘请鉴黄师需要巨额投入。阿里安全专家王金廷向科技日报记者表示,一个100人的审核团队,一年花费要在840万元左右。但是即使在年薪20万的诱惑下,每个平台也只有几十或者上百个人的监管队伍。当直播高峰期来临时,成千上万的主播在线,让监管队伍“力不从心”。

  AI“清道夫”培训上岗 用三把尺子鉴定影像 

  在这样的前提下,引入“AI鉴黄师”解放一大部分审核师就显得意义非凡。利用机器替代人工进行基础的审核工作,对于以视频和图片为主的网络平台而言,成为了一种刚需。

  王金廷指出,使用“AI鉴黄师”可以减少90%以上人工成本;可实现精准审核过滤,甚至可达到99%以上的准确率;相对于人工鉴黄3小时轮班轮岗的效率,AI可以24小时不间断审核,并且“无工伤、无工资”。

  但是“AI鉴黄师”在上岗前还需要通过工程师的“训练”才能开始工作。首先人们会给AI输入海量数据,对它们进行标签化训练,告诉它,ABC这样的情况属于色情,DEF这样的情况属于非色情;然后AI会通过学习,提取ABCDEF的特征来判断G是不是色情。

  当然,不同的“AI鉴黄师”工作的技术路线也不尽相同,但“套路”是一致的,一般会通过3方面对实时视频影像进行分析鉴定:是否有人物,如有,色情概率增加;人形轮廓的肤色比例,如果比较大,色情概率增加;姿态分析,如有性行为姿势,则色情概率增加。

  在网络净化的道路上,国内多家IT巨头早已开始布局。阿里的绿网、腾讯的万象优图等纷纷下水,创业公司也积极参与净化业务,“八仙过海,各显神通”。

  王金廷是负责“阿里绿网”的产品专家。据介绍,基于深度学习技术及阿里巴巴多年的海量数据支撑,“阿里绿网”可提供图片、视频、文字等多媒体的内容风险智能识别服务,在节省90%以上人力成本的同时,该应用支持秒级返回结果,达到99%以上的准确率。

  腾讯优图DeepEye智能鉴黄技术,可对目标图片进行系统识别,准确率高达99.9%。它不仅可以用于静态图片的审核,还可以应用到动态的直播业务中,透过对直播流抽帧鉴定处理,让违规“色情主播”秒进“小黑屋”。

  机器发力还需人工辅助 AI独立审核任重道远 

  无疑,人工智能介入内容识别是伟大的进步。但上述机器审核都不能独立进行,还需要人工辅助。

  在采访中,关于人工智能何时能独立扛起审核大旗的疑问,科技日报记者从众多专家那里得到的比较一致的看法是,“在现有技术条件下,要实现AI完全替代人工尚需时日”。

  人工智能如此发达,为何还替代不了人?王金廷向记者列举了人工智能审核时的3个瓶颈。“首先AI需要适应不同行业不同用户的审核标准,这中间的差异性会非常大,对于人工智能算法的挑战也很大;其次,针对新出现的变异风险,算法需要有强大的自我学习能力,这也是目前需要解决的问题;最后,要真正实现无人化,人工智能需要达到在没有人的参与下训练。”

  此外,现阶段,人工智能还远未模拟出用户的真实体验,涉黄与否,很难作出准确的“人的判断”。以Google为例,有超过一万名员工充当着搜索结果评估者的角色。这或许也说明了人工智能“上位”还需加把劲。究其原因,机器检测到含有敏感词汇的文字内容,会将其删除或向用户发出警告。但对于图片、视频的审核,机器无法像对文字内容一样提取关键词,审核难度较大。

  “人工智能虽然取得了很大进步,但远未到彻底替代人的时候。”王金廷认为,随着技术的进步,人工智能也许会彻底解放人类。不过到了那一天,人工鉴黄师恐怕就要失业了。(记者 王延斌)

文章关键词:人工;净化网络;AI 责编:王永芳
5034

相关阅读 换一换

  • 河南出台人工影响天气建设三年行动计划

    2012年以来,我省通过实施人工增雨,共向天公“借雨”约49.07亿吨,相当于280多个郑州常庄水库的储水量,为解除旱情、改善生态环境做出了贡献。

  • 中国研制新型人工影响天气系统

    记者从有关部门获悉:中兵新型人工影响天气系统近日通过技术鉴定及验收,我国人工影响天气作业的安全性、科学性和效率得到极大提高。长期以来,我国人工影响天气技术一直与发达国家有较大差距,主要表现在探测技术落后,探测装备主要依赖进口,人工影响天气的装备不能与探测装备实现一体化作业等。

  • 人工麝香或致不孕不育 多数化妆品含此成分

     有报道称,不孕不育医院的临床数据证实,来医院治疗的女性患者中,两成以上都存在长期使用美白产品或使用过劣质美白产品的经历。那么,“化妆品可导致不孕不育”的说法是真的吗?

  • 平顶山市成功实施人工增雨作业

    7月18日凌晨,市人工影响天气领导小组组织汝州市、宝丰县、郏县、鲁山县等4县(市)成功进行了5轮次增雨作业。

  • 人工增雨喜降甘霖

    目前旱情严重,河南宝丰县17座水库存基本干枯,城区和西部山区人畜吃水吃紧,秋粮生产管护在大部分乡镇受到严重影响。

  • 实施人工增雪缓解麦田旱情

    河南宝丰县气象局借助有利的气象条件,根据省人工影响天气办公室增雪作业指令,分别在该县大营镇李文驿

  • 爱尔兰女子人工流产后顽强婴儿奇迹存活

    爱尔兰女子人工流产后顽强婴儿奇迹存活

  • 喜降甘霖迎来降雨天气

    10月31日,平顶山宝丰市民冒雨迎着秋风骑行在迎宾大道。

  • 洛宁农户家中突现“火箭弹”

    3月17日下午,洛阳市洛宁县城郊乡王协村有村民称,洛宁县气象局发射的两枚人工增雨火箭弹落入他们家中并发生爆炸,所幸没有人员伤亡。人工增雨火箭弹落入村民家中,让他们对该弹药的质量产生怀疑。采访时,洛宁县气象局方面表示,落入村民家中的是人工增雨火箭弹残骸,残骸从高空落到了村民家中的石棉瓦上发生巨响,让大家误以为是爆炸,而发生这种情况(增雨火箭弹受高空风影响,位置发生偏离)的概率为千分之三,他们希望村民不要恐慌。

  • 新闻
  • 财经
  • 汽车
  • 体育
  • 娱乐
  • 健康
  • 科技

银行头条

浦发银行专注并购金融 助力中国制造“走出去” 浦发银行专注并购金融 助力中国制造“走出去”

保险头条

中国太保荣获上海金融创新奖多个奖项

股票资讯

财经要闻

网站简介 | 招聘信息 | 会员注册 | 广告服务 | 联系方式 | 网站地图

Copyright ? 2012 hnr.cn Corporation,All Rights Reserved

映象网络 版权所有