阅读 207

内容审核向左,还是向右?


本文由 网易云 发布。

最近,各家新闻资讯App和直播平台都开始对内容审核人员的招聘情有独钟。


早在今年年初,今日头条就启动高达2000人的内容审核编辑招聘,并点出党员优先。而在4月10日,今日头条CEO张一鸣又在一份公开信中表示,会将现有6000人的运营审核队伍再度扩大——总人数达到10000人。


与今日头条“步调”一致的还有快手,快手CEO宿华在4月初发表反思言论之后,立马宣布急招3000人审核团队,将目前的审核团队从2000人扩大至5000人。


疯狂招人的背后,是相关部门的严监管。就拿今日头条而言,2018年以来,受到央视、工商行政管理局等有关部门的点名、批评或处罚就高达8次。


严监管只是影响结果的其中一个因素,但要把人工审核的“复兴”归结于它,就有点敷衍塞责了。那客观来说,内容审核复兴的根本原因是什么?


严监管是“果”,而不是“因”


首先得澄清下,严监管并不是今日头条、快手们疯狂招人的根本原因。


如果把目光从国内转向国外,你会发现,人工审核早就复兴了。


Facebook在2017年就宣布,将会新增3000名内容审核岗位。而到该年年中,Facebook审查员数目对比过去八个月几乎增加了一倍,其人员数量相当于当时的Twitter或Snapchat的员工总数。


除了Facebook之外,谷歌也在重新拥抱人工审核。谷歌旗下的YouTube在今年4月份对外表示,计划发布新版YouTube Kids App,该应用将取消算法推荐视频,转而全由YouTube员工纯手工推荐。


这样的转变为何?这得提下发生在去年的几件事。


2017年,美国一名男子在Facebook上直播枪杀一名无辜老人。隔了一段时间后,泰国一名男子又在Facebook直播杀死女儿,其残忍过程不仅让很多目睹,在视频发布后的24小时内,人们还可以在Facebook上看到视频。有点讽刺的是,而在稍早些时候,Facebook表示将用人工智能监测直播,防止用户自杀。然而,随后的几起事件显示,人工智能并没有起到相应的作用。


另一面,Youtube有一段时间充斥了以艾莎公主、米奇老鼠、蜘蛛侠、小猪佩奇等卡通形象为包装,故意充斥大量含有血腥暴力、恐怖、虐待、色情等内容,而算法却起到一个助纣为虐的角色。当点完一个之后,又会推荐更多相关的视频。甚至有人利用算法,去发展亚文化,并从中获利。


至此,我们明白:各大平台重新大量招募内容审核人员、相关部门执行严监管的背后,是大家发现被崇尚数年的AI算法有很多弊端,无法单独依靠算法来解决内容上的问题。


人工智能跌下内容神坛


如果说去年Facebook开始大规模招募内容审查,预示着今年人工审核的复兴,那么我们是不是可以把YouTube Kids App纯手工推荐也视为一个苗头,比如说——在内容领域,人工智能的应用不再风光,或者准确地说,其应用不再占主导地位。


人的认知是非常容易受影响的,“曾参杀人”、“三人成虎”的历史典故充分证明了这一点。对于一个谣言,一个说可能没有人相信,两个人说也许有一部分人会去相信,但是三个人或者更多人也这样说,那么人们大概率会认为这件事可能是真的了。


内容的推荐工作全部由机器完成,给我们的不是我们自己想要的东西,也不是对我们有好处的东西,而是我们实际关注的东西。也就是说,我们看某样东西越多,这方面的东西就会更集中的推向我们。而别有用心的人,就会利用算法这个特点,针对影响我们。


“我相信我们面临的最大风险是我们自己正在失去辨别现实的能力。”Reddit CEO Steve Huffman在其撰写的一篇文章中无不担忧地说。而这,也是Facebook数据泄露一事闹得沸沸扬扬的根本原因,如果再不对数据进行严格监管,我们就不是我们了。


张一鸣说,后续今日头条首先改变的是:将正确的价值观融入技术和产品。这也预示着今日头条拨乱反正,全面纠正算法和机器审核的缺陷。


技术不是万能的,很多事情并不是通过投入大量的工程师就可以解决。


朋友圈里某位老师说,产品需要价值观,消费至死和娱乐至死的确会有很大问题。从这来看,人工审核的“回归”就成了必然。


但人工审核,又是“一本万利”的生意吗?


今天的内容是海量的,依靠人工,成本会变得很高。就比如扩招2000人,一个人工资给4000元,一年光明面上的工资成本就近亿,企业的竞争力从何而来?并不是所有的公司都能像今日头条、Facebook那样,为了实现7X24小时全覆盖的审核,动辄就招聘数千名人员,规模维持上万,这是第一。


第二,内容审核的工作看似要求不高,实则要求非常高。每天被迫观看大量恐怖、色情和凶杀图片及视频,很多人因此患上了心理后遗症——经常失眠、做恶梦,脑子里充满图片和视频内容。做内容审核的人,需要特别强大的排解和消化能力,能够承担情绪和思想上带来的负面影响,否则人非常容易被其“反噬”。


国外有一名内容审核人员描述了浏览这些暴力、色情和令人不安的内容给她留下的情绪损伤和心理影响,她说:“当我从MySpace离开的时候,我大概有3年的时间不肯和人握手,因为我觉得人们都很恶心。我无法触碰别人。”她称,世界上最普通的人也都是他妈的怪胎。“我从那里出来的时候对人性感到厌恶。我的同僚们,大多数也和我有一样的感觉,我们都对人性留下了可怕的观感。”


给员工带来伤害的同时,雇主有时也会牵连。外媒报道,去年年初,两位微软网络安全部门的员工将雇主告上了法庭,并寻求损害赔偿。他们因工作中需要观看可怕的视频,包括儿童色情和谋杀等图片和视频,而患上了PTSD(创伤后精神紧张性障碍)。


从这来看,人工审核又不见得是一个好的方案。


向左,还是向右?


笔者非常喜欢一个人取的花名——“行中”,名取自于易经,意为中间态、调和态做事。回到内容审核上,要想解决这个问题,也要行中。


抛除人的优势不说,当初之所以用算法取代人工审核和推荐,是因为人工有很多弊端,比如说效率、成本以及对人的影响。算法固然有缺陷,但其高效、低成本的优势也令人神往。人工+算法,实际上是天生的一对,没必要因为一时的“摩擦”,就拆散它们俩。


那我们不得不面对一个问题:有的公司其实也在“行中”,利用人工和算法结合去解决内容的问题,为什么不OK?


一位网易云易盾内容安全的专家就该问题剖析时指出,算法+人工是现在、也是未来一段时间最为合适的形态。当下并不是算法+人工不行,而是国内有些公司积累和沉淀太少,以为拿机器学习的框架再加一些数据喂一下就好。“网易之所以在内容安全上做的效果很不错,就是得益于其拥有的20年内容审核和技术经验。”这位从事多年安全业务的专家接着说,不积跬步,无以致千里,内容审核重中之重是要有足够的积累,得“经验”加持。


“这个积累有两方面,一个是有效性数据的持续积累,其次是内容运营和审核人员的经验和思考力的积累,二者结合,不断训练机器、不断抽象和校正方向,才能够得到一个合理的‘人工+智能’的结合边界,才能更加接近人的判断。”他强调,这不是一朝一夕的事情,也无法仅仅用工程师的堆砌来替代。


聊完后,笔者陷入进一步的思考中:人是有思想、有情感的,一些海量、重复性、低价值的工作肯定会被技术取代,而人则会做更高级、更有创造性的事情。


如果能跳到未来,是不是可以发现内容审核不会向左,也不会向右,而会朝着一个必然的方向发展——人与人工智能的默契配合。


结束语


文章的最后,想谈谈监管和商业利益。


从当下频频发力的监管政策来看,内容类产品要想获得快速发展,首先要迈过监管的门槛。在有些人眼中,则认为被念了紧箍咒,但笔者不这么认为。


大量的不良内容看似带来很多流量和商业利益,但劣币驱逐良币,注定着会失去高质量的用户,不利于平台的长期发展,甚至在激烈的竞争中逐渐被边缘化;其次,没有束缚的发展也意味着“断头”路,真到了那个时候,想改正问题会发现再也没机会了。


4月11日,今日头条CEO张一鸣的声明,如果用几句话来解读的话,大致意思是:


我是工程师出身,创业的初心是希望做一款产品,方便全世界用户互动和交流。过去几年间,我们把更多的精力和资源,放在了企业的增长上,却没有采取足够措施,来补上我们在平台监管、企业社会责任上欠下的功课,比如对低俗、暴力、有害内容、虚假广告的有效治理。
PS:以上为解读,张一鸣声明原文见:tech.163.com/18/0411/07/…


网上有一张图盘点了今日头条被点名批评的历程。细数了下,一年四个月的时间被点名批评16次,平均一月一次。直到最近的一次,内涵段子被下令关停,再也回不来。


最后笔者想说两点:技术的确是中立的,但如何利用技术、传播何种内容却是有偏倚的,这需要人来纠正;第二,长期的商业利益和监管并无冲突,内容平台重视监管、做好内容安全是发展中非常重要的组成部分,希望内容创业者谨记。


如果你是中小创业公司,在内容审核上觉得投入成本过高,无运营经验,也担心相关政策理解不到位,更担心投入了那么多没效果,那么你可以尝试用下易盾的反垃圾业务一键接入易盾内容安全解决方案。


了解网易云:

网易云官网:www.163yun.com/

新用户大礼包:www.163yun.com/gift

网易云社区:sq.163yun.com/


关注下面的标签,发现更多相似文章
评论