【FCon】聚焦金融行业在数智化的全面革新,一线的金融数智化实践干货 了解详情
写点什么

担心内部文件被泄露,三星之后,又一大厂宣布禁用 ChatGPT

  • 2023-05-25
    北京
  • 本文字数:1276 字

    阅读完需:约 4 分钟

担心内部文件被泄露,三星之后,又一大厂宣布禁用ChatGPT

6 月 17 日,极客时间《企业级 Agents 开发实战营》正式上线,10 周掌握企业级 Agents 从设计、开发到部署全流程。

据《华尔街日报》报道,一份苹果内部文件显示,苹果禁止内部使用 ChatGPT 和类似产品。根据该文件,苹果的担忧与其他禁止在内部使用 ChatGPT 的公司一致,即 AI 可能会泄漏与其共享的敏感内部信息。 

 

除了 ChatGPT,苹果还禁止使用 GitHub 的自动编码工具Copilot。有消息称,苹果很可能正在开发自己的 AI 大模型,与 ChatGPT 和 Google Bard 竞争。

 

目前,已经有不少公司宣布禁止员工在内部使用 ChatGPT,如三星、摩根大通、美国银行、花旗集团、德意志银行等。

 

其中,三星曾两次宣布禁止内部使用 ChatGPT。今年 3 月前,三星曾宣布禁用 ChatGPT,3 月份,三星解除了这一禁令。据外媒报道,三星引入 ChatGPT 不到 20 天就发生了 3 起涉及 ChatGPT 的事故。三起泄密事件均发生在三星电子半导体暨装置解决方案(Device Solutions,简称“DS”)部门。其中,两起与半导体设备有关,另外一起与会议内容相关。

 

在设计晶片设备的事件中,三星半导体事业暨装置解决方案部门(Device Solutions,即 DS)的一名员工在测试设备下载软体的过程中,将出现问题的原始代码复制到 ChatGPT,并向其请教解决办法,但这一操作反而让三星设备测量相关的原始码成为 ChatGPT 学习资料。另一起则是有员工为了解设备良率等相关资讯,将程式码输入 ChatGPT,要求其优化代码。

 

虽然是保密工作,但为了尽量提高效率、为公司节约时间以测试和验证处理器,最终降低开发成本,三星还是决定允许员工使用外部 AI 服务。

 

第三起则是,有员工使用 ChatGPT 将会议记录转换成演示文稿,但其中却涉及大量三星明显不希望对外透露的内容。

 

三星本月早些时候重新实施了 ChatGPT 禁令,以防止类似事件再次发生。

 

ChatGPT、谷歌 Bard 和 LLM 机器人的问题在于,输入到它们的数据往往被用于进一步培训这些机器人,英国情报机构 GCHQ 警告称,如果其他人提出类似问题,这些数据很容易导致机密商业信息被回流。

 

此外,ChatGPT 等产品还存在软件漏洞问题。今年 3 月,OpenAI 承认开源库中的一个错误 redis-py 导致其他用户可以看到人们与 ChatGPT 的一些谈话。卡巴斯基首席数据分析师 Vlad Tushkanov 告表示,这个错误应该提醒我们,LLM 聊天机器人不会为用户提供任何真正的隐私。

 

“ChatGPT 在登录时警告说‘对话可能会被我们的 AI 培训师审查’……因此从一开始,用户在使用 ChatGPT 网络演示时就应该对隐私抱有零期望,”Tushkanov 说。 

 

针对这些质疑,OpenAI 也正在做出改进。今年 4 月,OpenAI 为 ChatGPT 用户添加了禁用聊天记录的功能,这不仅可以在 ChatGPT 界面的侧边栏中隐藏聊天记录,还可以防止禁用历史记录的聊天记录被用于训练 OpenAI 的模型。

 

OpenAI 表示,当历史记录被禁用时,它仍会保留对话 30 天,并且它有能力“在需要监控滥用情况时,在永久删除之前”对其进行审查。


“我们希望这提供了一种比我们现有的退出流程更容易管理数据的方法,”OpenAI 在公告中写道。该公司补充说,用户可以随时更改他们的聊天记录设置。

 

在同一份声明中,OpenAI 还表示将很快推出商业版的 ChatGPT,让企业能够更好地控制其数据的使用,OpenAI 表示这意味着 ChatGPT 商业对话不会用于培训其 LLM。 

公众号推荐:

AGI 概念引发热议。那么 AGI 究竟是什么?技术架构来看又包括哪些?AI Agent 如何助力人工智能走向 AGI 时代?现阶段营销、金融、教育、零售、企服等行业场景下,AGI应用程度如何?有哪些典型应用案例了吗?以上问题的回答尽在《中国AGI市场发展研究报告 2024》,欢迎大家扫码关注「AI前线」公众号,回复「AGI」领取。

2023-05-25 16:266320

评论

发布
暂无评论
发现更多内容

分享几款 Mac 上非常好用的的免费软件

搞大屏的小北

数据可视化 数据库工具 截图软件 视屏转 gif 视频号下载

智慧生活垃圾焚烧发电厂Web3D可视化平台

2D3D前端可视化开发

物联网 数字孪生 三维可视化 工业组态 智慧垃圾焚烧发电厂

电路板电镀中4种特殊的电镀方法

华秋PCB

经验 电路板 焊接 PCB板 电镀

源生创新 云享未来|GOTC全球开源技术峰会华为云云原生精彩时刻

华为云开发者联盟

云原生 后端 华为云 华为云开发者联盟 企业号 6 月 PK 榜

喜讯 | 华秋电子荣获证券时报年度高成长企业

华秋电子

“数字创新产品课程”7月29-30日 · CSPO认证周末班【提前报名特惠】CST导师亲授

ShineScrum捷行

精耕丝路,智胜全球 | 新华三助力中企跑好“出海”赛道

新消费日报

对线面试官-线程池(四)

派大星

Java 面试题

抓包分析RST信号

蓝胖子的编程梦

TCP Wireshark tcpdump RST 报文 Connection reset

3 个技巧,让你像技术专家一样解决编码问题

LigaAI

程序人生 技术专家 技术人成长 问题分析及解决 企业号 6 月 PK 榜

今年LED显示屏市场趋势

Dylan

商业 广告 娱乐 数字化 LED显示屏

通过技术变革,推动全面预算管理前行

智达方通

全面预算管理

数据分析:电子商务需要关注的重要指标有哪些?

搞大屏的小北

电子商务 销售指标

DevEco创建项目时的错误解决

路北路陈

6 月 优质更文活动

揭秘Spring依赖注入和SpEL表达式

华为云开发者联盟

开发 华为云 华为云开发者联盟 企业号 6 月 PK 榜

“敏捷教练进阶课程”7月22-23日 ·A-CSM认证在线周末班【提前报名特惠】CST导师亲授

ShineScrum捷行

敏捷教练

教培行业的“智能GPT私教”?WorkPlusAI助理帮助教培机构实现十倍人效!

WorkPlus

Java代码性能测试实战之ContiPerf

javalover123

单元测试 性能测试 压测 JUnit Java'

从分布式到微服务解密“架构”原理与实战笔记

小小怪下士

Java 程序员 分布式 微服务

Navicat Premium将关系和实体添加到概念模型的方法

背包客

macos MySQL 数据库 Mac 软件 Navicat Premium

赋能矿山 | KaiwuDB 智慧矿山解决方案

KaiwuDB

解决方案 智慧矿山 KaiwuDB

【零售电商系列】走进亚马逊之自建仓储&物流

小诚信驿站

6 月 优质更文活动

MySQL 8.0.29 instant DDL 数据腐化问题分析

GreatSQL

greatsql greatsql社区

Sentinel熔断降级的规则及实现原理

互联网架构师小马

Java sentinel 熔断降级

科兴未来|2023年扬中高层次人才创新创业大赛

科兴未来News

Win服务器图床配置

路北路陈

6 月 优质更文活动

数据可视化设计四大原则透析

搞大屏的小北

数据可视化 设计要素 大屏设计

相约未名湖畔,百度商业AI技术创新大赛携手北大学子共探AI发展

百度Geek说

人工智能 百度 企业号 6 月 PK 榜

科兴未来|2023”福地句才”海外人才创业大赛

科兴未来News

Web网页端IM产品RainbowChat-Web的v5.0版已发布

JackJiang

网络编程 即时通讯 IM

NFTScan | 06.05~06.11 NFT 市场热点汇总

NFT Research

NFT 热点

担心内部文件被泄露,三星之后,又一大厂宣布禁用ChatGPT_文化 & 方法_凌敏_InfoQ精选文章