彭垚：七牛云内容安全产品「明瞳 2.0」正式发布

七牛云人工智能实验室成立以来，始终以用机器视觉技术为用户和社会解决问题，创造价值为己任。在两年多的实践和摸索中，七牛云人工智能实验室逐渐发现了一些真正需要人工智能解决的问题，并且取得了一些成绩。藉由世界人工智能大会的舞台，七牛云人工智能实验室正式发布七牛云内容安全产品「明瞳 2.0」，并由七牛云人工智能实验室创始人彭垚为大家进行了相应介绍。

以下内容根据现场演讲内容速记的实录整理。

感谢大家，感谢各位领导、老师来到我们人工智能大会的现场，我也很荣幸借此机会给大家介绍一下我们最近发布的一个新产品，这个新产品与互联网安全非常相关。

首先讲一下内容安全在中国的形势。最近不少公司多多少少都受到了国家严厉的监管，因为他们对内容安全监管上疏于防范。现在互联网上的内容越来越多，但是会有不同程度的违规现象发生。因为我们的内容接收者包括各个年龄层面，所以需要再监管上从严治理。

总体来说，我们对社会上的内容监管主要分为三大块：第一，平台内容自我监察。这一部分是很多互联网公司日常做的，他们有人审的团队做监察。第二，群众举报，他们看到一些情况会向有关部门去举报、投诉。第三，通过监管部门的抽查，去净化整体的内容安全环境。这一块其实也有一些很大的问题：一是目前我们的审查标准滞后是比较严重的；二是审查的效率相对比较低下，审核员花很长时间去审核图片；三是管理成本非常高，我看到我们很多公司的团队都有几百人，这块的负担是很大的。

现在我们推出了一站式 AI+专员复审的端到端解决的内容安全产品——「明瞳 2.0」。即便你没有人审团队也可以用我们的产品，将你的内容安全风险降到零。它会无感知地对你的内容进行审核，基本上不再需要招人审团队了。

这就是我们「明瞳 2.0」，是一站式的产品，相当于客户原本人工内容安全审核团队的工作，全部可以交给七牛云来做。在这个过程当中，我们做了非常多的事情，包括通过 AI 做了设计、敏感识别，后台海量专业人员的人审复核，再到由我们专家优化模型的人工智能平台。真正达到双重审核运营无忧的环境。

现在我们审核的内容是什么呢？随着这一段时间内容安全的迭代，我们审核的内容越来越多，大体上可以分为两类，一类是和国家安全相关的信息，比如涉敏感内容，暴恐；一类是和家庭个人相关的信息，比如说小朋友不大适合去看的内容，二是是低质量的互联网传播内容。

在七牛云整个官网控制台进去之后，直接就有「内容安全」的应用，应用点击之后，我们可以选择存储在七牛云上的整个增量、存量或者是勾选当中想要审核的内容。审核开始后，可以看你整个审核的进度，最后你可以通过我们可视化的窗口，看一下审核的结果，看看对这些审核结果是否满意。通过目前市场上的一些数据对比，我们在色情识别上的数据是较为领先的。

我们基于和上海网安和公安部学习了很多的经验，我们有一个联合实验室，通过很长时间的打磨，我们拥有了一套完整的基于暴恐监控的网络安全系统。还有政治敏感人物类型，目前我们有 2000 名以上的敏感人物库，准确率 98.6%，可以在第一时间更新人物库，进行实时更新。

这是我们的一些客户，首先是 FaceU，这是做美颜滤镜的公司，还有 Blued，这是全球最大的男同性恋网站。我们通过识别人的物品去做细分类。这两年我们也获得了一些小的学术方面的成就，包括 ACM MultiMedia LSVC 第二名，今年 activityNet 第三名。

作为专注研究 MultiMedia 的团队在视频发展越来快的年代，我相信在将来，我们的团队会在整个 AI 行业当中，创出更新的一番天地。谢谢大家。

本文转载自公众号七牛云（ID：qiniutek）。

原文链接：

https://mp.weixin.qq.com/s/i12FyYhQiAvuA8Ki0tpCcg