全球首个封禁 ChatGPT 的国家：OpenAI 涉嫌数据泄露，如不整改将罚 2000 万欧元

由于意大利是首个宣布禁用 ChatGPT 的发达国家，也有声音认为，意大利此举或许会引发连锁反应。

意大利宣布禁用 ChatGPT

据路透社报道，意大利数据保护局 Garante 在 3 月 31 日宣布暂时禁用 ChatGPT，并对其涉嫌违反隐私规则展开了调查。目前，OpenAI 已在意大利下线 ChatGPT，意大利也成为了全球首个封禁 ChatGPT 的国家（部分国家和地区在一开始就无法使用 ChatGPT。）

意大利数据保护局 Garante 认为，3 月 20 日 ChatGPT 平台出现了用户对话数据和付款服务支付信息丢失情况。此外平台没有就收集处理用户信息进行告知，缺乏大量收集和存储个人信息的法律依据。

意大利个人数据监管局（GPDP）指出，由于违反欧盟的《通用数据保护条例》（GDPR）和意大利自己的数据保护法，他们将立即对涉及意大利公民的“个人数据处理做临时限制”。

GPDP 在声明中强调，“我们发现，OpenAI 对其收集用户及各相关方数据的行为缺乏清晰说明。”另外，ChatGPT 对用户数据的处理还可能造成错误印象，“因为 ChatGPT 提供的信息并不一定与真实数据相对应。”

GPDP 还对 OpenAI 忽略用户年龄审查表达了担忧。作为微软的投资对象，OpenAI 曾提到其 ChatGPT 是专为 13 岁或以上的用户群体所设计。但这项服务在发布后并没有对用户做年龄验证，GPDP 认为“考虑到其发展程度和自我意识，未成年人在使用时可能接触到绝对不合适的答案。”

GPDP 提到，临时限制将适用于在意大利境内从相关各方处收集到的全部个人数据，这实质上就是封禁了 ChatGPT 服务。直到 OpenAI 能够证明其已经解决了 GPDP 发现的问题，封禁才会被解除。

OpenAI 表示，应 Garante 的要求，它已为意大利用户禁用了 ChatGPT。ChatGPT 网页上的一则通知称，该网站的所有者可能设置了限制，阻止用户访问该网站。OpenAI 补充说：“我们在训练我们的人工智能系统（如 ChatGPT）努力减少个人数据，因为我们希望我们的人工智能了解世界，而不是了解个人。”

此外，OpenAI 方面有 20 天时间对 GPDP 的其他指控做出回应，否则将面临高达 2000 万欧元（约合 2170 万美元）或全球年营业额 4% 的罚款（以较高者为准）。

由于意大利是首个宣布禁用 ChatGPT 的发达国家，也有声音认为，意大利此举或许会引发连锁反应。

监管机构瞄准 AI

事实上，这不是监管机构首次对涉嫌不当行为的 AI 采取行动。

据彭博社近日报道，美国联邦贸易委员会（FTC）建议提起诉讼，指控亚马逊的 Alexa 音箱在未经父母同意的情况下收集 13 岁以下儿童的信息，违反了《儿童在线隐私保护法》。司法部最早可能在 4 月代表联邦贸易委员会提起诉讼。

今年 2 月，意大利个人数据监管局（GPDP）也曾对 Replika 发出禁令。

Replika 是一款 AI 聊天机器人应用，用户不但能与之交谈，甚至可以将其设定为虚拟伴侣。GPDP 表示，他们担心 Replika 可能会令“仍处于发育阶段（即未成年人）”或“处于情绪脆弱状态”的个人陷入风险。之前也曾有媒体报道称，Replika 公司 CEO Eugenia Kuyda 承认这款应用愚弄过用户，让原本情绪稳定的个人误以为 Replika 具有感知能力、甚至与这款聊天机器人建立了情感关系。

意大利当局还认定 Replika 缺乏年龄验证机制，因此在今年 2 月宣布 Replika 违反了 GDPR 并以非法方式处理个人数据。

国际律师事务所 Ropes & Gray 驻伦敦的隐私律师 Edward Machin 认为，ChatGPT 和 Replika 这类工具刚刚出现，人们很容易忽略其在“几周”之间就已经全面蹿红。

Machin 在一份声明中表示，大多数用户可能没有认真考虑过自己的数据被 OpenAI 用于训练会对其隐私造成哪些影响。“这里的问题是，对方没有向用户提供信息以确保做出明智的决定。另外，其实没有法理依据来支撑其处理用户数据的行为。”

Machin 强调，封禁 OpenAI 继续接触意大利民众的数据是 GPDP 所能采取的最有力的干预手段之一。“我认为欧洲各地的监管机构应该会感谢 GPDP 率先采取了这一措施，相信后续还会有更多国家决定跟进并发布类似的禁令。”

对于 ChatGPT 而言，最近正值多事之秋。除了面临来自意大利方面的压力，还要面临非营利组织人工智能与数字政策中心（CAIDP）的投诉。

据 The Verge 3 月 30 日报道，非营利组织人工智能与数字政策中心（CAIDP）向美国联邦贸易委员会（FTC）投诉，要求 FTC 调查 OpenAI 违反消费者保护规则的行为，该组织认为 GPT-4 具有偏见性、欺骗性、对隐私和公共安全构成风险。

CAIDP 认为，OpenAI 违反了 FTC 对人工智能产品的指导，并违反了 FTC 法案第 5 条，该法案禁止不公平和欺骗性的商业行为。CAIDP 敦促 FTC 对 OpenAI 进行调查，并暂停其大型语言模型的商业部署，包括 ChatGPT 的最新版本。

参考链接：

https://www.theregister.com/2023/03/31/italy_bans_chatgpt_for_unlawful/