Google 亮剑:发布 Deepfake 数据集,对抗 AI 造假

阅读数:1653 2019 年 9 月 26 日 17:32

Google亮剑:发布Deepfake数据集,对抗AI造假

自九月初, Facebook 首先发起对 Deepfake 的挑战以来,Google 也加入到反抗 Deepfake 的行列,昨日 Google 发文宣布,开源 Deepfake 数据集,以支持 Deepfake 虚假影像的检测工作。

Deepfake,是英文“deep learning”和“fake”的混成词,是一种利用深度学习算法合成虚假图像、视频等技术的统称。在过去的一年中,Deepfake 生成算法已经得到了足够的发展,其合成的虚假影像甚至达到了以假乱真的地步。现在,人工智能专家们正在寻找更好的方法来检测这些所谓的“人工智能造假”,尤其是在 2020 年美国总统大选来临之际。

Google 在文中表示,本次开源的数据集包括 3000 个 AI 生成的视频,其目的是为了创建大量示例,并帮助训练和测试 Deepfake 自动检测工具。目前,该开源数据集已合并到慕尼黑工业大学和 FaceForensics 基准测试中。你可以在 FaceForensics github 页面下载相应数据集。

Google亮剑:发布Deepfake数据集,对抗AI造假

Google 参与 FaceForensics 基准测试的视频样本

在过去的一年中,Google 为了制作此数据集,与演员们一起录制了数百个视频,并使用现有的公开 Deepfake 生成方法,创建了数千个 Deepfake 虚假影像。另外,作为 FaceForensics 基准测试的一部分,该数据集供研究社区免费使用,以开发出能够准确检测虚假视频的方法。

Google亮剑:发布Deepfake数据集,对抗AI造假

演员在各种场景中拍摄

在过去的几年时间里,Deepfake 的负面影响多在名人、明星等群体范围内,但现在,利用 Deepfake 的“恶搞行为”已经渐渐从娱乐圈蔓延到了政坛。

有报道评论称,现在美国的政治界到处充斥着对于“虚假新闻”与操纵社交媒体的指责。一旦有人利用 Deepfake 蓄意炮制关于政要根本不存在的公开动作、发言等,这势必带来假新闻的泛滥,牵一发而动全身,由政治风险波及到的经济问题、外交问题等带来的损失将不可估量。

好在目前像 Facebook、Google 等巨头已经开始行动起来,想要通过技术手段解决 AI 滥用的问题。但是除了技术,或许社会、法律等方面也能够做出的更多措施:

美国的弗吉尼亚州宣布了扩大复仇色情法,严禁经过“深度伪造”的内容,包括制作或操纵的视频和使用机器学习制作的图像等,利用 Deepfake 制作的黄色图像亦包括在内。如果违反该规则属于第一类轻罪,最高可判 12 个月的监禁,罚款额高达 2500 美元。

据悉,该法令已经于 7 月 1 日生效。根据法律,规定未经许可分享某人视频的裸照照片是违法的 ,无论它是真实的还是假的。审查该法律的委员会将重点关注复仇色情和网络传输色情内容,其中包括利用蓝牙等允许基于邻近文件共享的技术将未经请求的性图像发送到人的手机上。

英国政府也正在讨论一项法律,该法律专门涉及制作和分享非自愿的亲密图像,以应对滥用和冒犯性数字产品。讨论该法律的委员会将重点关注复仇性质的色情视频,以及利用 Deepfake 算法生成的色情内容。

相关文章: Deepfakes 作恶没有下限,如何应对一键脱衣 AI 带来的挑战?

评论

发布