如何实现 AI 净网?今日头条发布反低俗工具“灵犬 3.0”,背后技术原理揭秘

阅读数:2326 2019 年 8 月 1 日 07:00

如何实现AI净网?今日头条发布反低俗工具“灵犬3.0”,背后技术原理揭秘

7 月 30 日,在字节跳动总部,今日头条最新版反低俗产品灵犬 3.0 发布。最新版灵犬 3.0 采用了“BERT+ 半监督学习”的技术,提高了相关文本的识别度,并且采用深度学习的方法应对图像识别场景,为“灵犬”增加了图像识别的功能。字节跳动人工智能实验室总监王长虎专门就“算法如何反低俗”做了一次分享。

灵犬是什么?

“灵犬”是一款基于今日头条反低俗模型的辅助小工具,它致力于打击低俗低质内容,净化网络空间。
对于用户输入的内容,“灵犬”会先进行提取、分词和语义识别,然后根据相关规则, 输出对应的分数、评级和结论。
自 2018 年 3 月 28 日上线以来,“灵犬”反低俗助手已经过三代技术更迭。最新版本的灵犬 3.0,对识别种类以及其自身模型进行了升级,并同时支持图片识别(反色情低俗、反血腥暴力)和文本识别(反色情低俗、反暴力谩骂、反标题党)。

灵犬背后的技术更迭

在文本识别方面,“灵犬”做了三次技术更迭。
第一代灵犬,应用的是“词向量”和“ CNN (卷积神经网络)”技术;
第二代灵犬,应用的是“ LSTM (长短期记忆)”和“ Attention ”技术;
第三代灵犬,应用的是“ BERT ”和半监督学习技术。

灵犬 3.0 通过“BERT”和半监督学习技术,在常见的阅读理解、语义蕴含、问答、相关性等各项任务上,有了大幅度提升。除此之外,灵犬 3.0 还使用了专门的中文语料,研发团队在保证灵犬 3.0 识别效果的前提下调整了模型结构,并通过这些技术的加成,使得灵犬 3.0 的计算效率能够达到实用水平。

据今日头条透露,灵犬 3.0 的训练数据集总量是 1.2 个 T,相当于 20 倍百度百科或者 100 倍维基百科的数据总量,其中包含了 920 万个样本,文本识别准确率从 85% 提升至 91%。

在图像识别方面,灵犬 3.0 运用的解决方案是深度学习,这也是“灵犬”第一次在图片识别领域有所涉及。

据沟通会介绍,今日头条对灵犬 3.0 做了以下几方面的优化:

数据层面,灵犬 3.0 累积了上千万级别的训练样本。

计算力层面,利用分布式训练算法以及强大的 GPU 训练集群,加速模型的训练和调试。利用模型压缩技术,提升模型的预测速度。

模型层面,灵犬 3.0 针对许多困难样本做了模型结构调优,包括:

1. 多尺寸问题
为应对用户上传的不同的比例的图片,今日头条专门设计了多桶模型,使得各种比例的图片都能有很好的识别效果。

如何实现AI净网?今日头条发布反低俗工具“灵犬3.0”,背后技术原理揭秘

2. 多尺度问题
在以人为主的场景中,为应对人在图片中的面积占比变化较大的问题,今日头条引入了特征金字塔结构,对不同尺度的物体,它能提高模型提取一致性特征的能力。

如何实现AI净网?今日头条发布反低俗工具“灵犬3.0”,背后技术原理揭秘

3. 小目标问题
为应对在图片背景中出现小范围的问题区域的问题,今日头条设计了分割辅助分类网络,使得模型能够更加专注问题区域。

如何实现AI净网?今日头条发布反低俗工具“灵犬3.0”,背后技术原理揭秘

此外,“灵犬”还建设了比较完善的模型迭代系统。通过“数据收集—数据标注—数据清洗—模型训练—模型评估—badcase 分析”这一套完整的流程,从而使得“灵犬”具有持续优化的能力。

如何实现AI净网?今日头条发布反低俗工具“灵犬3.0”,背后技术原理揭秘

反低俗需要“技术 + 人”

反低俗无法单一地依靠技术或人工解决。
在本次沟通会上,王长虎表示,低俗的定义相对笼统,很难完全精确地定义出来,而如果没有一个精确的区分准则,就没办法给计算机写出执行步骤让它去判断。

所以,现阶段至少在以下两方面,还有赖于人工判断。

一方面是:技术暂时难以制定标准
从文字的角度,机器只是把文字当成符号,也只能从表面去理解它,却很难理解文字背后的意思。
从图片的角度,机器只是通过识别肌肤裸露面积来判定是否违规,却不能区分一些具有历史意义和艺术性的照片。

另一方面是:标准会根据使用场景、人群、时间而变动
低俗的标准并非一成不变,而是随着社会和文化的不断发展而流变。
比如,在八十年代早期,邓丽君的歌曲曾被认为是“靡靡之音”;在淘宝店里看到内衣样式和相关的卖家秀,并不会被归类于低俗;在某些小视频 APP 青少年模式下,就不应该出现“热舞”等情况。

针对低俗判断问题的复杂性和不同判断方式的局限性,今日头条给出的结论及解决方法是:
1. 不断进化技术模型;
2. 结合技术和人工判断两种方式。

如何实现AI净网?今日头条发布反低俗工具“灵犬3.0”,背后技术原理揭秘

今日头条的反低俗系统

“灵犬”是今日头条反低俗系统的一个简化版本。

在内容审核方面,今日头条团队通常会结合人工和技术手段,用以有效地提升内容审核的效率和准确度。
在内容安全方面,今日头条团队有一套具体的内容安全机制,用以应对个人和媒体的不同用户群体。

如何实现AI净网?今日头条发布反低俗工具“灵犬3.0”,背后技术原理揭秘

放眼全球,打击低俗低质内容,是所有信息平台都在面临的难题,不管是国外的 Facebook、Google,还是国内的微信、今日头条,都在为解决这一系列问题而努力。

也许,“灵犬”会是一次不错的尝试,尽管它还需要进化成长。

收藏

评论

微博

用户头像
发表评论

注册/登录 InfoQ 发表评论