当地时间 9 月 5 日， Facebook 发文称：将为 Deepfake 创建数据集，并发起关于 Deepfake 检测的挑战赛。挑战赛的目标是：开发出一种每个人都可以使用的技术，用于检测那些 AI 技术修改过的视频、图片等。
AI 换脸，名噪一时。近期，更有后居上者“ZAO”，搅动江湖风雨。扑面而来的舆论压力，把 AI 技术“Deepfake”推到了风口浪尖。面对这已不再是“有图有真相”的年代，Facebook 率先发起对 Deepfake 的挑战。
Deepfake，是英文“deep learning”（深度学习）和“fake”（伪造）的混成词，专指用基于人工智能的人体图像合成技术。此技术可将已有的图像和影片叠加至目标图像或影片上。
“Deepfake”技术，可以呈现出由 AI 技术生成的逼真视频，但这种视频往往被应用于色情、假新闻、恶意报复等方面，进而产生严重的负面影响。自 2017 年兴起的这种技术，并没有得到好的引导，而且行业领域也没有很好的数据集或基准来检测它们。
为了更好的鉴定这些伪造的视频影片，Facebook 联合麻省理工学院、牛津大学、加州大学伯克利分校等合作伙伴，发起了 Deepfake 检测挑战赛（DFDC）。
Deepfake 检测挑战赛的目标是开发一种每个人都可以使用的技术，这种技术可以用来检测那些利用 AI 技术制造的假视频。Deepfake 检测挑战赛将包括一个数据集和排行榜，而且这一挑战赛将由 Partnership on AI 's new Steering Committee on AI 和 Media Integrity 提供便利和监督。
为此，Facebook 还邀请了许多外部专家分享他们对这个项目的看法，如下：
“为了从信息时代过渡到知识时代，我们必须更好地辨别真伪，奖励那些可信内容，并教育下一代成为更好的数字公民。这需要全面的投资，包括工业、大学、非政府组织的共同研究，以便开发出新的技术，这种技术将能够快速准确的确定哪些内容是真实的。”
—— Hany Farid，加州大学伯克利分校电子工程与计算机科学和信息学院教授
“自从摄影出现以来，人们就一直在操纵图像。但现在几乎任何人都可以创作并向大众传播‘赝品’。本次比赛的目标是建立一个人工智能系统，能够检测出图像中的细微缺陷，进而鉴定出该图像是否被篡改。”
——Antonio Torralba 教授，电气工程与计算机科学系，麻省理工学院智能探索项目 (MIT Quest for Intelligence) 主任
“我们生活在多媒体时代，拥有完整的信息对我们的生活至关重要。鉴于近期 AI 技术在大规模生成虚假文本、图像、视频、音频等方面的发展，我们需要研究界在一个开放的环境中充分参与，以便开发出新的技术和系统，这种技术能够检测到 AI 技术制造的多媒体影像，并减轻它们带来的不良影响。”
——Rama Chellappa，马里兰大学杰出教授，Minta Martin 工程教授
“为了有效地推动变革和解决问题，我们认为学术界和产业界在一个开放和协作的环境中走到一起，是至关重要的。在康奈尔理工大学，我们的研究集中在弥合这一差距和解决数字时代技术的社会影响，而 Deepfake 检测挑战赛就是一个完美的例子。我们正在与科技行业领袖、学术伙伴合作，开发一个全面的数据源，使我们能够识别假媒体信息，并最终建立工具和解决方案来打击这些利用 AI 技术的负面行为。我们很荣幸能够成为这个小组的一员，我们将与大家分享数据来源，并让任何人都能从这项研究中学习和扩展。”
——Serge Belongie，康奈尔理工学院副院长兼教授
“AI 技术制造的‘假’媒体影像被发布在互联网上，不仅制造出虚假的阴谋论，还被有心之人利用在政治斗争中，这不但对民主的根本和自由产生了威胁，甚至正在逐渐扩大成为全球性的问题。我们迫切的需要一种工具来检测和描述这些错误信息，我也很高兴能够成为这项倡议的一员，该倡议的目标在于：既要保护真相，又要推动科学前沿发展。”
——Philip H. S. Torr 教授，牛津大学工程科学系
“尽管 Deepfake 看起来和真的一样，但它们却是由算法生成，而不是摄像机捕捉到的真实事件，这就意味着，它们仍然可以被检测到，而且其来源也能得到验证。一些重要的发现和减轻 Deepfake 有害影响的新方法正在投入使用，包括在视频片段中添加数字指纹的程序，以帮助验证其真实性等。与任何复杂的问题一样，它需要来自技术社区、政府机构、媒体、平台公司和每一位在线用户的共同努力，以对抗它们即将带来的负面影响。”
——吕思伟教授，纽约州立大学工程与应用科学学院
评论