红帽白皮书新鲜出炉!点击获取,让你的云战略更胜一筹! 了解详情
写点什么

担心内部文件被泄露,三星之后,又一大厂宣布禁用 ChatGPT

  • 2023-05-25
    北京
  • 本文字数:1276 字

    阅读完需:约 4 分钟

担心内部文件被泄露,三星之后,又一大厂宣布禁用ChatGPT

据《华尔街日报》报道,一份苹果内部文件显示,苹果禁止内部使用 ChatGPT 和类似产品。根据该文件,苹果的担忧与其他禁止在内部使用 ChatGPT 的公司一致,即 AI 可能会泄漏与其共享的敏感内部信息。 

 

除了 ChatGPT,苹果还禁止使用 GitHub 的自动编码工具Copilot。有消息称,苹果很可能正在开发自己的 AI 大模型,与 ChatGPT 和 Google Bard 竞争。

 

目前,已经有不少公司宣布禁止员工在内部使用 ChatGPT,如三星、摩根大通、美国银行、花旗集团、德意志银行等。

 

其中,三星曾两次宣布禁止内部使用 ChatGPT。今年 3 月前,三星曾宣布禁用 ChatGPT,3 月份,三星解除了这一禁令。据外媒报道,三星引入 ChatGPT 不到 20 天就发生了 3 起涉及 ChatGPT 的事故。三起泄密事件均发生在三星电子半导体暨装置解决方案(Device Solutions,简称“DS”)部门。其中,两起与半导体设备有关,另外一起与会议内容相关。

 

在设计晶片设备的事件中,三星半导体事业暨装置解决方案部门(Device Solutions,即 DS)的一名员工在测试设备下载软体的过程中,将出现问题的原始代码复制到 ChatGPT,并向其请教解决办法,但这一操作反而让三星设备测量相关的原始码成为 ChatGPT 学习资料。另一起则是有员工为了解设备良率等相关资讯,将程式码输入 ChatGPT,要求其优化代码。

 

虽然是保密工作,但为了尽量提高效率、为公司节约时间以测试和验证处理器,最终降低开发成本,三星还是决定允许员工使用外部 AI 服务。

 

第三起则是,有员工使用 ChatGPT 将会议记录转换成演示文稿,但其中却涉及大量三星明显不希望对外透露的内容。

 

三星本月早些时候重新实施了 ChatGPT 禁令,以防止类似事件再次发生。

 

ChatGPT、谷歌 Bard 和 LLM 机器人的问题在于,输入到它们的数据往往被用于进一步培训这些机器人,英国情报机构 GCHQ 警告称,如果其他人提出类似问题,这些数据很容易导致机密商业信息被回流。

 

此外,ChatGPT 等产品还存在软件漏洞问题。今年 3 月,OpenAI 承认开源库中的一个错误 redis-py 导致其他用户可以看到人们与 ChatGPT 的一些谈话。卡巴斯基首席数据分析师 Vlad Tushkanov 告表示,这个错误应该提醒我们,LLM 聊天机器人不会为用户提供任何真正的隐私。

 

“ChatGPT 在登录时警告说‘对话可能会被我们的 AI 培训师审查’……因此从一开始,用户在使用 ChatGPT 网络演示时就应该对隐私抱有零期望,”Tushkanov 说。 

 

针对这些质疑,OpenAI 也正在做出改进。今年 4 月,OpenAI 为 ChatGPT 用户添加了禁用聊天记录的功能,这不仅可以在 ChatGPT 界面的侧边栏中隐藏聊天记录,还可以防止禁用历史记录的聊天记录被用于训练 OpenAI 的模型。

 

OpenAI 表示,当历史记录被禁用时,它仍会保留对话 30 天,并且它有能力“在需要监控滥用情况时,在永久删除之前”对其进行审查。


“我们希望这提供了一种比我们现有的退出流程更容易管理数据的方法,”OpenAI 在公告中写道。该公司补充说,用户可以随时更改他们的聊天记录设置。

 

在同一份声明中,OpenAI 还表示将很快推出商业版的 ChatGPT,让企业能够更好地控制其数据的使用,OpenAI 表示这意味着 ChatGPT 商业对话不会用于培训其 LLM。 

公众号推荐:

2024 年 1 月,InfoQ 研究中心重磅发布《大语言模型综合能力测评报告 2024》,揭示了 10 个大模型在语义理解、文学创作、知识问答等领域的卓越表现。ChatGPT-4、文心一言等领先模型在编程、逻辑推理等方面展现出惊人的进步,预示着大模型将在 2024 年迎来更广泛的应用和创新。关注公众号「AI 前线」,回复「大模型报告」免费获取电子版研究报告。

AI 前线公众号
2023-05-25 16:266149

评论

发布
暂无评论
发现更多内容

如何使用低代码平台加速应用开发?

这我可不懂

低代码 应用开发 JNPF

和鲸联合浙大地科,深时数字地球国际大科学计划工作坊圆满落幕!

ModelWhale

人工智能 数据分析 地球科学 浙江大学 地理信息

揭秘!9个月完成亚运会的整体数字化观测

观测云

数据分析 数据可视化 亚运会

Scrum:敏捷开发流程的核心步骤

顿顿顿

敏捷开发流程 scrum工具 scrum敏捷工具

混合云案例:利用 Databend Cloud 高效加速私有 Databend 的策略与实施

Databend

情感语音识别的现状与未来趋势

来自四九城儿

re:Invent 2023 开发者指南来了!@开发者们,Let's 构!

亚马逊云科技 (Amazon Web Services)

re:Invent 生成式人工智能 Amazon DeepRacer

十大项目管理工具全面对比!

PingCode

项目管理 项目经理 项目管理系统

情感语音识别:技术发展与挑战

来自四九城儿

情感语音识别:技术前沿与未来趋势

来自四九城儿

我试图通过这篇文章告诉你,什么是神奇的泛化调用。

快乐非自愿限量之名

前端 开发语言

购买海外IP都有哪些实惠优质的平台

Geek_bf375d

一天之内“三个离职群都满了”;飞行出租车的时代就此开启?丨 RTE 开发者日报 Vol.94

声网

大语言模型与API融合:探索LLMs的概念及实用应用

幂简集成

AI 创新 API 新技术 LLMs

集结!Milvus 老友汇 · 线下 Meetup 来袭

Zilliz

Meetup Milvus Zilliz AIGC KubeBlocks

海外原生IP代理有哪几种获取方式?

Geek_bf375d

爬虫 IP 代理IP 代理IP设置 跨境电商

时间复杂度为 O(nlogn) 的排序算法

快乐非自愿限量之名

算法 排序算法

大模型的未来是垂直领域大模型

QE_LAB

大模型训练 大模型 ChatGPT

1688商品详情的API接口是什么?

技术冰糖葫芦

api 网关

多平台小程序编译适配,超级App的基建利器?

Speedoooo

小程序容器 超级app 小程序技术 小程序容器技术

网络爬虫用什么罗拉ROLA-IP代理IP比较好?

Geek_bf375d

语言忠诚?离不开舒适圈?为什么程序员不喜欢更换编程语言?

代码生成器研究

Open AI “宫斗”结束,自主意识AI初现,我们会被取代吗?

代码生成器研究

低代码模式会成为主流吗?

代码生成器研究

海外IP能在哪找?

Geek_bf375d

爬虫 IP 代理IP 免费代理ip 跨境电商

怎么看待争议 低代码?

代码生成器研究

机器学习与低代码:简化AI开发的未来

快乐非自愿限量之名

人工智能 机器学习 低代码

10年资深码农,聊聊程序员的35岁危机

伤感汤姆布利柏

程序员 面试 低代码 35岁危机

活动报名|KubeBlocks × Milvus「AI 时代背景下的云原生数据库」主题 Meetup

小猿姐

第29期 | GPTSecurity周报

云起无垠

Blender 4.0来了!看新版带来了哪些精彩的新功能!

Finovy Cloud

担心内部文件被泄露,三星之后,又一大厂宣布禁用ChatGPT_文化 & 方法_凌敏_InfoQ精选文章