人工智能遭遇内容审核滑铁卢 算法不是万能的
2018/1/12 08:57   华强智慧网      关键字:人工智能,内容审核,滑铁卢      浏览量:
早年因为人工智能技术非常落后,因此各大网站不得不依靠人工来进行内容审核。如今随着人工智能技术的发展,人工审核有逐渐淡化的趋势。历来推崇算法的今日头条,其机器算法技术在国内还算是不错的,似乎更没有重走人工审核老路子的必要。

内容战争加速升级,传统媒体逐渐转型进入新媒体市场,以今日头条为首的内容疯狂产出,内容审核至关重要。业内最常见的一个观点是:随着人工智能技术的提高,内容审核的趋势是从人工转向机器。但是算法真的万能吗?这次,人工智能可能遭遇了内容审核滑铁卢。

    推崇算法的今日头条要吃回头草

早年因为人工智能技术非常落后,因此各大网站不得不依靠人工来进行内容审核。如今随着人工智能技术的发展,人工审核有逐渐淡化的趋势。历来推崇算法的今日头条,其机器算法技术在国内还算是不错的,似乎更没有重走人工审核老路子的必要。

在因为内容涉黄和低俗导致多个频道被暂停更新之后,今日头条在元月2日又被爆出了一个大新闻。有新闻报道称将在天津招聘2000人的内容审核队伍,负责监控审核今日头条平台内容是否违规。公开招聘内容审核人员,普遍被外界视为今日头条继集中处理违规头条号之后的又一次自我大整顿。

据2017今日头条创作者大会披露,头条号创作者现已超过120万,平均每天发布50万条内容,每天有2000万条视频上传,而且还在持续增长之中。如此庞大的内容生产能力,对今日头条的内容审核监管提出了挑战。之前它一直强调以技术来解决包括审核在内的内容问题,而这次大规模招聘则补上了在人工审核不足的短板。

关于这次招聘内容审核人员,很可能就是今日头条原有计划的一部分。这个做法不用投入太多资源成本,非常讨巧:一方面向网信办等监管部门表明自己正视问题、努力整改的积极态度,争取监管部门和用户的理解支持。另一方面提前启动内容审核人员建设计划,为未来的微头条分拆独立做准备。

人工智能为什么遭遇内容审核滑铁卢

首先我们需要明确的是,今日头条此举不是个例。互联网企业大规模招聘内容审核员,也并非没有先例。去年5月,Facebook就宣布过类似的招聘计划,而且规模更大达到了3000人。当时正值人工智能大热,加上此前Facebook曾透露正研发人工智能识别监控内容的技术。于是有评论认为Facebook此举是打脸人工智能,表明人工智能尚不够成熟。

人工智能主要依赖的算法是深度学习的方法,只能从数据来学习,而人类除了归纳学习之外,还可以演绎推理,而机器不具备该能力。因此当前的人工智能技术无法判断一些边界不明确的内容是否合规,如同样一句话在不同的语境下有不同的含义。再加上图片、视频、直播等新信息内容的出现,让机器面临的技术难度大幅增加,很多情况下不得不借助于人工来完成审核。

据了解,人工智能+人工审核可能是目前互联网企业内容审核的较佳解决方案,它既可兼顾效率,又能考虑到整体成本控制。人工智能在内容审核上要发挥更大作用还需加油努力才是,毕竟人类的世界很复杂。

微信扫描二维码,关注公众号。