限时领|《AI 百问百答》专栏课+实体书(包邮)! 了解详情
写点什么

全面封禁 AI“一键脱衣”项目!GitHub 清理 DeepNude 开源代码

  • 2019-07-11
  • 本文字数:1321 字

    阅读完需:约 4 分钟

全面封禁AI“一键脱衣”项目!GitHub清理DeepNude开源代码

北京时间 7 月 10 日消息,GitHub 正式关闭 AI“一键脱衣”项目 DeepNude 的代码库,并删除了该项目的多个副本,原因是该项目违反了平台针对“色情淫秽内容”的规定。但是情况并没有得到控制,仍不断有用户将自己拷贝甚至升级之后的代码副本再次传播到 GitHub 上,全面封禁 DeepNude 及其类似项目,似乎还有很长的路要走。

GitHub 宣布正式封禁 DeepNude 相关项目代码

GitHub 终于动手了。


随着 DeepNude 造成的影响越来越大,GitHub 终于决定全面封禁 DeepNude 以及类似项目的代码库。



起初,DeepNude 是一个付费项目,技术上类似 DeepFakes,它能够在不经本人同意的情况下,通过 AI 将原照片人物的衣服“脱掉”并合成出一张裸照。项目一经公开,无数用户趋之若鹜,而惨遭毒手的不仅有演员、歌手等公众人物,还有不少普通人。


随着影响的扩大,项目的创建者意识到了问题的严重性,与此同时,全球抵制的声音也越来越大,作者最终在 6 月底选择了关闭项目,事情暂时告一段落。


然而近期有媒体发现:DeepNude 似乎卷土重来了,有人认为直接下架应用破坏了信息自由传播的理念,便收集了原应用的神经网络框架和训练模型,在 GitHub 上新建了一个开源的 DeepNude 项目。


GitHub的社区指南中,有这么一条原则:



大意是:


请勿发布色情淫秽内容。 这并不意味着禁止出现任何裸露或与性有关的代码和内容。 我们了解性行为是生活的一部分,性有关的内容可能是您项目的一部分,或者出于教育或艺术目的而呈现。但是我们不允许出现色情淫秽内容或可能涉及猥亵未成年人的内容。


GitHub 的相关工作人员对媒体表示:“我们不会主动监控用户发布的内容,但我们会针对滥用报告积极展开调查。这一次我们禁用了该项目,是因为我们发现它违反了我们可接受的使用政策,我们不允许使用 GitHub 发布色情淫秽内容,而且我们的服务条款和社区准则中也明确禁止此类行为。”

影响已经形成,“DeepX”项目何时能休?

如今 DeepNude 项目被封禁,但是类似的副本已经造成了无可挽回的影响。


仅以 DeepNude 为例,已经有人利用该项目合成照片对明星进行性骚扰,更有甚者将这类项目用在了政治用途。在美国弗吉尼亚州,已经有相关法律对这类伪造图像的制作者进行追责,但是要想彻底消除 DeepNude 类似项目的影响,还有很长的路要走。


早在 DeepFakes 出现的时候,就有人担心这一项目会遭到滥用,果不其然,依靠该技术合成明星脸的一些成人电影出现在网络上,虽然相关视频也被“全面”清理,但是影响却从来没有削弱半分,人们反而更加兴奋地想要知道:有没有什么新的“DeepX”项目来满足他们更加疯狂的想法?


今年 5 月,我们曾发布过一篇《那些竞相将DeepFakes商业化的AI初创公司》,里面盘点了一些利用 DeepX 类似的技术盈利的公司,不仅可以伪造图像或视频中的细节,还能够伪造声音、伪造在社交网络上的形象,虽然每一家公司都是打着“促进社交乐趣”、“增强图片/视频质量”等等旗号,但似乎没有人认真考虑过:一旦自己的技术遭到滥用,应该如何及时止损?滥用技术的人该受到怎样的惩罚?而受到伤害的人又该如何消除影响,那些无辜的人,又该如何保护自己呢?


参考链接:https://www.vice.com/en_us/article/8xzjpk/github-removed-open-source-versions-of-deepnude-app-deepfakes


2019-07-11 08:0021193
用户头像
陈思 InfoQ编辑

发布了 576 篇内容, 共 294.8 次阅读, 收获喜欢 1305 次。

关注

评论

发布
暂无评论
发现更多内容

阿里P8手写Spring Cloud Alibaba实战学习手册,架构师养成必备

Geek_0c76c3

Java 数据库 开源 程序员 架构

想要优化K8S集群管理?Cluster API帮你忙 | K8S Internals系列第5期

BoCloud博云

云原生 容器云 K8s 多集群管理

极客时间—架构实战营—第九期—模块一作业

阿梁

开发者有话说|用成长治愈所有迷茫

法医

程序员 个人成长

ShareSDK HarmonyOS集成指南

MobTech袤博科技

sdk HarmonyOS

现代化车企——零束科技DevOps研发数字化体系建设实践

嘉为蓝鲸

#DevOps #研发 #汽车 #科技

Seal 软件供应链防火墙 v0.2 发布,提供依赖项全局洞察

SEAL安全

DevSecOps 开源安全 软件供应链 软件供应链安全 软件供应链防火墙

如何实现数据库读一致性

京东科技开发者

数据库 读写锁 事务 MVCC 一致性

Dubbo 泛化调用在vivo统一配置系统的应用

vivo互联网技术

dubbo 中间件 配置管理

如何解决 Angular custom library module 在 ng build 时无法被识别的错误

汪子熙

typescript 前端开发 angular web开发 9月月更

跨模态学习能力再升级,EasyNLP电商文图检索效果刷新SOTA

阿里云大数据AI技术

深度学习 PyTorch 图文检索 企业号九月金秋榜

三三复制公排互助系统开发技术详情

开发微hkkf5566

【数据结构与算法】8道链表面试真题超详剖析,带你领略算法思想【附思路、动图、源码】

Dream-Y.ocean

链表 数据结构与算法 9月月更

被裁后半月面试8家公司无果,凭借这份Java面试指南成功入职阿里

Geek_0c76c3

Java spring 程序员 架构 面经

保障系统安全

源字节1号

软件开发 信息安全 系统安全

用区块链思维让可信数据流动起来

旺链科技

区块链 产业区块链 供应链金融 企业号九月金秋榜

大数据ELK(五):Elasticsearch中的核心概念

Lansonli

ELK 9月月更

HowTo:Pipy 如何统计关键指标

Flomesh

Service Mesh 服务网格

新来个阿里 P7,仅花 2 小时,撸出一个多线程永动任务,看完直接跪了,真牛逼!

程序知音

通过Thread Pool Executor类解析线程池执行任务的核心流程

华为云开发者联盟

后端 开发 企业号九月金秋榜

【文本检测与识别-白皮书】第二章:文本检测与识别技术发展历程

合合技术团队

人工智能 文字识别 OCR

YYEVA动效播放器--动态元素完美呈现新方案

百度Geek说

移动端 企业号九月金秋榜 动画特效 AE插件

小程序化:系统集成行业降本增效的破局思考

Speedoooo

小程序 数字化转型 小程序容器 生态平台

docker与gosu

程序员欣宸

Docker 9月月更 gosu

关于加密数据的模糊查询

知识浅谈

9月月更 加密数据

Ventana Research|是时候把指标中台纳入企业数据架构了!

Kyligence

数据架构 数据管理 指标中台

Java实现SM3加密和验证

共饮一杯无

Java 9月月更 SM3

苏州市大数据集团成立!博云成为首批数商代表

BoCloud博云

云计算 数字化 云平台

什么是架构,什么是架构师?

源字节1号

软件开发 软件架构

从 DFS 到回溯法,再看 N 皇后问题

掘金安东尼

前端 9月月更

全面封禁AI“一键脱衣”项目!GitHub清理DeepNude开源代码_AI&大模型_陈思_InfoQ精选文章