写点什么

用 AI 对抗 AI!教代码调戏深度学习算法生成的假视频

  • 2018-11-13
  • 本文字数:1893 字

    阅读完需:约 6 分钟

用AI对抗AI!教代码调戏深度学习算法生成的假视频

AI 前线导读: 写代码用 AI 调戏 AI,检测 AI 生成的虚假图片、视频?这现在已经成为可能了,因为能表征图片、视频的真假的特征很容易被检测出来。要怎么做呢?让我们一起来看看吧!


更多干货内容请关注微信公众号“AI 前线”(ID:ai-front)


随着 AI 的崛起,人们已经可以用深度学习算法生成越来越多以假乱真的图片和视频。这也激发了美国的学者们的研究热情:如何设计算法检测出网络上用 AI 生成假图片、假视频,即所谓的“deepfakes” 呢?


生成对抗网络(Generative Adversarial Networks,GANs)是进行虚假图片、视频“创作”的法宝。这类神经网络可以帮助研究者们生成人造数据集(相关文章), 用以在数据集不足的情况下训练人工智能算法。这类网络还可以协助艺术家进行肖像创作(相关文章)。


然而,和所有的技术一样,这项技术也有其不好的一面。比如,网络上的一些恶徒可以利用这项技术,将明星、前女友、政客或其他受害者的脸合成到色情明星的身体上。计算机合成结果会非常逼真,就像受害者真的在做限制级动作一样。而且,让人头疼的不只是淫秽影片那么简单。人们可以利用 AI 生成假的采访视频或个人声明,再配合上 AI 生成的声音(相关文章), 让人与人之间从此没有信任。


现在,人们可以稍微松口气了。博士生李跃尊(音译)和纽约州立大学奥尔巴尼分校的助理教授刘思伟(音译)提出了一种新技术,可以识别深度学习算法(如开源项目DeepFake FaceSwap算法)生成的假视频。


目前,深度学习生成的假视频对于人类来说还不是那么难辨认。伪造的视频一般比较奇怪,人的面部表情不是很自然,而且动作会有延迟、不顺畅。而且,伪造的视频一般会比原视频分辨率低。因此,人们应该能很快意识到自己看到了假视频。然而,由于生成假视频的技术仍在不断发展,未来最好能有一种技术可以识别出假视频里的特征,从而提醒观看假视频却没有意识到的人。

检测深度学习生成的假视频

用计算机检测假视频,之前的做法是用一些特征作为基准,比如观察视频中人的眨眼情况,从而判断视频真假。这一般需要先训练一个 GAN 网络,然后利用这个 GAN 网络来训练其他网络以检测视频真假。


李和刘的方法却并不依赖于 GAN 网络,因此运行时间更短、需要的算力更低。首先,他们使用了计算机视觉中的传统算法来检测 24,442 张训练图像,并提取其脸部关键点。然后,他们会弯折或扭曲图像中的人脸特征,来模拟 DeepFake 生成的假图片、视频中可能会出现的怪异效果。最后,他们用真实的和扭曲的图像训练了一些卷积神经网络(CNN)作为分类器,该分类器可以给出一个视频为真还是为假的概率。训练完成后,他们向这些卷积神经网络中输入视频的截图,就可以检测这些截图中的人脸到底是真的还是伪造的。


“我们观察到,现有的 DeepFake 算法只能生成出分辨率有限的图像,这些低分辨率图像要经过扭曲才能扩展到和来源视频一样的分辨率。我们的方法就是基于这个观察。”李和刘在本月发表的一篇论文中这样解释道。


“这种变换是 DeepFake 算法所造出的假视频中特有的,而且我们证明,这种变换很容易被卷积神经网络捕捉到。”


二人将前述方法用到了四个卷积神经网络中。训练集包含 49 个真实视频和 49 个 DeepFake 算法生成的假视频。每个视频作为一个独立的样本,时长约为 11 秒。所有视频共有 32,752 帧。


由英国的牛津大学的研究者开发的老牌卷积神经网络——VGG16,在假视频识别任务中表现最差(精度为 83.3%)。而更为流行的一个 CNN——微软的研究者们开发的 ResNet50,给出了高达 97.4%的精度。


ResNet50 的一些变种也表现得很好。ResNet101 和 ResNet152 给出了 95.4%和 93.8%的精度,分别位列第二和第三。在将 deepfake 假视频看作一个整体的情况下,ResNet101 表现最好(精度为 99.1%),ResNet50 次之(98.7%),紧接着是 ResNet152(97.8%),而 VGG16 最差(84.5%)。


虽然这种检测方法很有前途,但研究者们目前还没有给出非常有意义的实验结果——他们的实验只是在他们精心挑选的图像和视频数据集上做的。换句话说,研究者们还需要在更多真实世界中的 DeepFake 视频上做实验,才能进一步验证他们的算法。另外,随着 GAN 网络技术的进步,假视频的质量也进一步提高,恐怕以后这种假视频的检测方法会越来越不适用。


“随着 DeepFake 技术的不断进化,我们也会继续改进这种检测方法”——学者们允诺道。“首先,我们会将多视频压缩的问题考虑进去,继续验证和改进我们算法的鲁棒性。其次,我们现在仅使用了他人设计好的网络架构(如 resnet 和 VGG)。为追求更加高效的检测结果,我们会针对 DeepFake 视频检测任务设计专门的网络。”


原文链接:


https://www.theregister.co.uk/2018/11/06/fight_ai_deepfakes


2018-11-13 19:441839

评论

发布
暂无评论
发现更多内容

小样本学习在语言理解任务中的突破

qife122

自然语言处理 小样本学习

在Python代码中安全隔离依赖项的沙箱技术

qife122

Python安全 依赖隔离

用 Go 写桌面应用?试试 Wails 吧!

左诗右码

DataKit 采集器敏感信息加密最佳实践

观测云

可观测性

《AI-Assisted Programming》读后感

codists

Python

基于 Amazon Q Developer CLI 进行智能混沌工程实验

亚马逊云科技 (Amazon Web Services)

哈尔滨等保流程优化:如何缩短测评周期至30天?

等保测评

告别碎片化输入:TextIn xParse如何为RAG打造「零损耗」知识管道

合合技术团队

人工智能 算法 #大数据

迈出万物互联的一小步:仓颉版TCPGroupChat群聊实现

华为云开发者联盟

仓颉 华为开发者空间

基于远程开发环境部署Django与开发者空间GaussDB的实践应用

华为云开发者联盟

华为开发者空间

直播预告 | 您的数据能喂给AI了吗?让GenAI读懂企业语言——产品分享会:矩阵起源MatrixOne Intelligence产品独家解析

MatrixOrigin

基于偏置图采样的关联产品推荐优化

qife122

图神经网络 数据采样

评估LLM标注可靠性:人口偏见与模型解释

qife122

自然语言处理 可解释AI

基于开发者空间OpenGauss数据库的分区表项目实践

华为云开发者联盟

opengauss 华为开发者空间

强化大型语言模型复杂指令推理能力的新方法

qife122

大型语言模型 指令跟随

【IoTDB 线上小课 18】Apache 软件基金会是什么?开源世界的“超级孵化器”!

Apache IoTDB

使用DPO在SageMaker中定制Nova模型

qife122

人工智能 DPO优化

哈尔滨等保价格指南:影响成本的4大因素与省钱策略

等保测评

企业级远程控制方案如何选?贝锐向日葵、ToDesk、AnyDesk、RayLink对比

科技热闻

混合开发范式重构:FinClip驱动Native+小程序跨端生态进化

xuyinyin

Golang笔记之Redis

Hunter熊

golang redis 哈希 有序集合

FocalPO:通过聚焦正确偏好排序增强偏好优化技术

qife122

机器学习 偏好优化

大模型训练故障恢复效率提升方案

qife122

机器学习 容错机制

知识蒸馏提升多任务学习收敛效果

qife122

机器学习 多任务学习

语音技术跨学科研究新趋势

qife122

语音识别 自然语言理解

Sunrun漏洞披露计划(VDP)正式上线 - 携手共建更安全的未来

qife122

漏洞赏金 漏洞披露

基于华为开发者空间,仓颉宏实现语言集成查询LINQ

华为云开发者联盟

opengauss 华为开发者空间

室外全彩LED广告牌一体化解决方案

Dylan

广告 LED LED display LED显示屏 LED屏幕

海外舆情监测系统能帮企业做什么?

沃观Wovision

海外舆情监控 沃观Wovision 舆情监测系统

今日立秋 | 夏尽秋来,万物从容

中烟创新

大数据-62 Kafka Topic 管理与运维实战:命令详解 + 副本分配策略 + JavaAPI

武子康

Java 大数据 kafka 架构 分布式

用AI对抗AI!教代码调戏深度学习算法生成的假视频_AI&大模型_Katyanna Quach_InfoQ精选文章