北京时间 7 月 10 日消息，GitHub 正式关闭 AI“一键脱衣”项目 DeepNude 的代码库，并删除了该项目的多个副本，原因是该项目违反了平台针对“色情淫秽内容”的规定。但是情况并没有得到控制，仍不断有用户将自己拷贝甚至升级之后的代码副本再次传播到 GitHub 上，全面封禁 DeepNude 及其类似项目，似乎还有很长的路要走。
GitHub 宣布正式封禁 DeepNude 相关项目代码
GitHub 终于动手了。
随着 DeepNude 造成的影响越来越大，GitHub 终于决定全面封禁 DeepNude 以及类似项目的代码库。
起初，DeepNude 是一个付费项目，技术上类似 DeepFakes，它能够在不经本人同意的情况下，通过 AI 将原照片人物的衣服“脱掉”并合成出一张裸照。项目一经公开，无数用户趋之若鹜，而惨遭毒手的不仅有演员、歌手等公众人物，还有不少普通人。
随着影响的扩大，项目的创建者意识到了问题的严重性，与此同时，全球抵制的声音也越来越大，作者最终在 6 月底选择了关闭项目，事情暂时告一段落。
然而近期有媒体发现：DeepNude 似乎卷土重来了，有人认为直接下架应用破坏了信息自由传播的理念，便收集了原应用的神经网络框架和训练模型，在 GitHub 上新建了一个开源的 DeepNude 项目。
在GitHub 的社区指南中，有这么一条原则：
大意是：
请勿发布色情淫秽内容。 这并不意味着禁止出现任何裸露或与性有关的代码和内容。 我们了解性行为是生活的一部分，性有关的内容可能是您项目的一部分，或者出于教育或艺术目的而呈现。但是我们不允许出现色情淫秽内容或可能涉及猥亵未成年人的内容。
GitHub 的相关工作人员对媒体表示：“我们不会主动监控用户发布的内容，但我们会针对滥用报告积极展开调查。这一次我们禁用了该项目，是因为我们发现它违反了我们可接受的使用政策，我们不允许使用 GitHub 发布色情淫秽内容，而且我们的服务条款和社区准则中也明确禁止此类行为。”
影响已经形成，“DeepX”项目何时能休？
如今 DeepNude 项目被封禁，但是类似的副本已经造成了无可挽回的影响。
仅以 DeepNude 为例，已经有人利用该项目合成照片对明星进行性骚扰，更有甚者将这类项目用在了政治用途。在美国弗吉尼亚州，已经有相关法律对这类伪造图像的制作者进行追责，但是要想彻底消除 DeepNude 类似项目的影响，还有很长的路要走。
早在 DeepFakes 出现的时候，就有人担心这一项目会遭到滥用，果不其然，依靠该技术合成明星脸的一些成人电影出现在网络上，虽然相关视频也被“全面”清理，但是影响却从来没有削弱半分，人们反而更加兴奋地想要知道：有没有什么新的“DeepX”项目来满足他们更加疯狂的想法？
今年 5 月，我们曾发布过一篇《那些竞相将 DeepFakes 商业化的 AI 初创公司》，里面盘点了一些利用 DeepX 类似的技术盈利的公司，不仅可以伪造图像或视频中的细节，还能够伪造声音、伪造在社交网络上的形象，虽然每一家公司都是打着“促进社交乐趣”、“增强图片 / 视频质量”等等旗号，但似乎没有人认真考虑过：一旦自己的技术遭到滥用，应该如何及时止损？滥用技术的人该受到怎样的惩罚？而受到伤害的人又该如何消除影响，那些无辜的人，又该如何保护自己呢？
注册/登录 InfoQ 发表评论