写点什么

全面封禁 AI“一键脱衣”项目!GitHub 清理 DeepNude 开源代码

  • 2019-07-11
  • 本文字数:1321 字

    阅读完需:约 4 分钟

全面封禁AI“一键脱衣”项目!GitHub清理DeepNude开源代码

北京时间 7 月 10 日消息,GitHub 正式关闭 AI“一键脱衣”项目 DeepNude 的代码库,并删除了该项目的多个副本,原因是该项目违反了平台针对“色情淫秽内容”的规定。但是情况并没有得到控制,仍不断有用户将自己拷贝甚至升级之后的代码副本再次传播到 GitHub 上,全面封禁 DeepNude 及其类似项目,似乎还有很长的路要走。

GitHub 宣布正式封禁 DeepNude 相关项目代码

GitHub 终于动手了。


随着 DeepNude 造成的影响越来越大,GitHub 终于决定全面封禁 DeepNude 以及类似项目的代码库。



起初,DeepNude 是一个付费项目,技术上类似 DeepFakes,它能够在不经本人同意的情况下,通过 AI 将原照片人物的衣服“脱掉”并合成出一张裸照。项目一经公开,无数用户趋之若鹜,而惨遭毒手的不仅有演员、歌手等公众人物,还有不少普通人。


随着影响的扩大,项目的创建者意识到了问题的严重性,与此同时,全球抵制的声音也越来越大,作者最终在 6 月底选择了关闭项目,事情暂时告一段落。


然而近期有媒体发现:DeepNude 似乎卷土重来了,有人认为直接下架应用破坏了信息自由传播的理念,便收集了原应用的神经网络框架和训练模型,在 GitHub 上新建了一个开源的 DeepNude 项目。


GitHub的社区指南中,有这么一条原则:



大意是:


请勿发布色情淫秽内容。 这并不意味着禁止出现任何裸露或与性有关的代码和内容。 我们了解性行为是生活的一部分,性有关的内容可能是您项目的一部分,或者出于教育或艺术目的而呈现。但是我们不允许出现色情淫秽内容或可能涉及猥亵未成年人的内容。


GitHub 的相关工作人员对媒体表示:“我们不会主动监控用户发布的内容,但我们会针对滥用报告积极展开调查。这一次我们禁用了该项目,是因为我们发现它违反了我们可接受的使用政策,我们不允许使用 GitHub 发布色情淫秽内容,而且我们的服务条款和社区准则中也明确禁止此类行为。”

影响已经形成,“DeepX”项目何时能休?

如今 DeepNude 项目被封禁,但是类似的副本已经造成了无可挽回的影响。


仅以 DeepNude 为例,已经有人利用该项目合成照片对明星进行性骚扰,更有甚者将这类项目用在了政治用途。在美国弗吉尼亚州,已经有相关法律对这类伪造图像的制作者进行追责,但是要想彻底消除 DeepNude 类似项目的影响,还有很长的路要走。


早在 DeepFakes 出现的时候,就有人担心这一项目会遭到滥用,果不其然,依靠该技术合成明星脸的一些成人电影出现在网络上,虽然相关视频也被“全面”清理,但是影响却从来没有削弱半分,人们反而更加兴奋地想要知道:有没有什么新的“DeepX”项目来满足他们更加疯狂的想法?


今年 5 月,我们曾发布过一篇《那些竞相将DeepFakes商业化的AI初创公司》,里面盘点了一些利用 DeepX 类似的技术盈利的公司,不仅可以伪造图像或视频中的细节,还能够伪造声音、伪造在社交网络上的形象,虽然每一家公司都是打着“促进社交乐趣”、“增强图片/视频质量”等等旗号,但似乎没有人认真考虑过:一旦自己的技术遭到滥用,应该如何及时止损?滥用技术的人该受到怎样的惩罚?而受到伤害的人又该如何消除影响,那些无辜的人,又该如何保护自己呢?


参考链接:https://www.vice.com/en_us/article/8xzjpk/github-removed-open-source-versions-of-deepnude-app-deepfakes


2019-07-11 08:0021122
用户头像
陈思 InfoQ编辑

发布了 576 篇内容, 共 293.7 次阅读, 收获喜欢 1305 次。

关注

评论

发布
暂无评论
发现更多内容

智能测试时代来临!人工智能如何颠覆测试开发传统模式?

测试人

人工智能 软件测试 自动化测试 测试开发

软件测试学习笔记丨Docker安装,容器管理和镜像管理

测试人

软件测试 自动化测试 测试开发

软件测试学习笔记丨MongoDB 数据库

测试人

软件测试 自动化测试 测试开发

AI数字虚拟人来了你会失业吗?

小齐写代码

商品总监必备神器:智能商品计划管理系统如何助力服装企业突围?

第七在线

LLM 模型融合实践指南:低成本构建高性能语言模型

Baihai IDP

程序员 AI 白海科技 模型融合 mergekit

开年喜报!Walrus成功入选CNCF云原生全景图

SEAL安全

开源 运维 cncf Walrus

AI赚钱:时尚图文带货秘籍

派大星

副业赚钱 AI赚钱

我是怎么用静态IP代理为Google账号保驾护航的

陈橘又青

常用的制造企业网络优化方案

Ogcloud

SD-WAN 企业网络 SD-WAN组网 SD-WAN服务商 SDWAN

智能测试时代来临!人工智能如何颠覆测试开发传统模式?

霍格沃兹测试开发学社

Flink 在蚂蚁实时特征平台的深度应用

Apache Flink

大数据 实时计算 flink 实战

[行业经验] 跨AZ容灾混沌演练

腾讯云混沌演练平台

容灾 混沌演练 跨AZ

orca市值机器人/刷量机器人/做市机器人

区块链技术

思码逸荣获 TID 质量竞争力大会“2023 软件研发优秀工具奖”

思码逸研发效能

活动回顾 | 金融科技提质增效的成功方法论与实践案例

思码逸研发效能

零门槛AI开发平台EasyDL:百亿参数大模型ERNIE的加持

百度开发者中心

人工智能 深度学习 AI

通俗易懂剖析Go Channel:理解并发通信的核心机制

王中阳Go

Go golang 面经 Go 语言 Go学习路线

直播回顾 | 去哪儿网研发数字化洞察实践

思码逸研发效能

AI大模型时代:企业如何构建数据智能基础设施

百度开发者中心

AI 大模型 人工智能’

面试官让我讲讲MySQL三大核心日志实现原理

华为云开发者联盟

数据库 后端 华为云 华为云开发者联盟

运维工作新时代:自主编码实现运维自动化的转型之旅

京东科技开发者

深入探讨 Vue3 中的 setup 函数

Apifox

vue.js 程序员 前端 前端开发 Vue3

实例详解在Go中构建流数据pipeline

华为云开发者联盟

开发 华为云 华为云开发者联盟 Go并发范式

SpEL应用实战

得物技术

Java sping

智能测试时代来临!人工智能如何颠覆测试开发传统模式?

测吧(北京)科技有限公司

测试

大模型时代下的文档识别与分析

百度开发者中心

人工智能 文档 大模型

全面封禁AI“一键脱衣”项目!GitHub清理DeepNude开源代码_AI&大模型_陈思_InfoQ精选文章