写点什么

OpenAI 的元老科学家们都跑光了!一个时代结束了?

  • 2024-05-16
    北京
  • 本文字数:3459 字

    阅读完需:约 11 分钟

大小:1.58M时长:09:12
OpenAI的元老科学家们都跑光了!一个时代结束了?

5 月 15 日,OpenAI 联合创始人 Ilya Sutskever 在社交平台上发文表示,决定离开 OpneAI。几个小时后,OpenAI 超级对齐团队的负责人 Jan Leike 也宣布离职,离职宣言没有像 Ilya 那样写小作文,他就写了一句话“我辞职了(I resigned)”。

 

值得注意的是,拥有 OpenAI 20% 计算资源的超级对齐团队(Superalignment Team)是由上面两个人领导的。



根据统计,自 OpenAI 董事会事件和 Altman 复职以来,离开 OpenAI 的具有安全意识的人名单包括:Ilya Sutskever、Jan Leike、Leopold Aschenbrenner、Pavel Izmailov、William Saunders、Daniel Kokotajlo 和 Cullen O'Keefe。

 

此外,近期离职的人还包括非营利组织和战略计划主管 Chris Clark 和社会影响主管 Sherry Lachman。

 

每个 OpenAI 离职员工宣布离职后,几乎都可以看到有人问:What did you see ? 当然这个问题并没有人回答。

 

“OpenAI 似乎确实没有多少使命了——他们的 CEO 散发着二手车推销员的气息,他最近提到考虑允许他们的人工智能生成色情内容,现在又发布了一个调情的 AI 女友作为他给人类的礼物。”有网友评价道。

 

“元老科学家”所剩无几

 

“Karpathy 和 Ilya 现在都已从 OpenAI 消失了。看起来,现在是 Sam Altman 和 Greg Brockman 的表演舞台了。不得不承认,在这四个人中,Karpathy 和 Ilya 是给我印象最深刻的两个。”

 

马斯克也曾这样称赞 Ilya:Ilya Sutskever 是 OpenAI 成功的关键。 Altman 也在宣布离职的帖子里说到,“没有他,OpenAI 就不会存在。”

 

去年 11 月,Ilya 与另外三名董事会成员一道,迫使该公司高调的首席执行官 Sam Altman 辞职,但后来他表示后悔。据报道,双方争论的焦点是对 OpenAI 方向的分歧:Ilya 对 Altman 以牺牲安全工作为代价而急于推出人工智能产品感到沮丧。

 

Altman 在被赶下台的五天后就回到了 OpenAI,重申了自己的控制权,并继续推动越来越强大的技术,这让他的一些批评者感到担忧。Ilya 仍然是 OpenAI 的员工,但他再也没有回去工作。

 

围绕 Ilya 工作的模糊性引发了一个迷因:Ilya 在哪里?他看到了什么? OpenAI 联合创始人马斯克经常在他拥有的平台 X(以前的 Twitter)上亲自提出这个问题



能看到的动态是,Ilya 在去年帮助 OpenAI 创建了超级对齐团队,任务是建立防护措施,以防止人工通用智能(AGI)失控。和其他人一样,他越来越担心人工智能可能变得危险,甚至可能毁灭人类。

 

但是,Ilya 和 Leike 领导的这个超级对齐团队人员非常不稳定。

 

今年 2 月,William Saunders 离开了 OpenAI。自 2021 年以来,Saunders 一直在安全团队工作,该团队后来成为超级对齐团队。Saunders 还是可解释性团队的经理,该团队研究如何使 AGI 安全,并检查模型如何以及为什么会这样表现。他与人合作撰写了几篇关于人工智能模型的论文。

 

也是在这个月,备受尊敬的研究科学家 Andrej Karpathy 也宣布离开 OpenAI。他表示,自己的离开并不是因为任何事件、问题或戏剧性事件,而是他要去追求自己的项目。

 

Karpathy 是 OpenAI 的创始成员,最初于 2017 年离开公司加入特斯拉。2022 年,他离开特斯拉,并在大约一年前重新加入 OpenAI。Karpathy 在社交媒体和 YouTube 上拥有大量粉丝,发布了有关新兴领域发人深省的文章以及解释人工智能内部运作原理的视频。

 

3 月,对齐研究员 Ryan Lowe 离开,参与过 GPT-4 对抗性测试的 Daniel Kokotajlo 也离开了 OpenAI。Kokotajlo 在他的网上论坛 LessWrong 个人主页上写道,他退出是因为“对 AGI 时代的行为失去信心”。

 

他还曾参与关于暂停 AGI 开发的讨论。Kokotajlo 写道:“大多数要求暂停的人都是在试图反对‘选择性暂停’,以及要求对处于进步前沿的大型实验室的实际暂停。”

 

他认为,目前的奥弗顿之窗(overton window )似乎围绕评估风险和采取缓解措施的组合,这具有很高的监管俘获风险(即导致选择性暂停,而这并不适用于最需要暂停的大公司!)“我的幻灭感是我离开 OpenAI 的原因之一。”

 

4 月,据知情人士透露,OpenAI 解雇了两名涉嫌泄露信息的研究人员,其中包括超级对齐团队的 Leopold Aschenbrenner,Aschenbrenner 是 llya 的盟友。另一位从事推理研究的研究员 Pavel Izmailov 也曾在安全团队工作过。目前,Pavel Izmailov 已经跳槽到马斯克旗下的 xAI,明年也将成为纽约大学助理教授。

 

最近,多名涉嫌透露消息给外界的“内鬼”也被 OpenAI 开除。

 

“OpenAI 正在失去最优秀、最注重安全的人才。”这是大家对此的评价。鉴于最近从 OpenAI 离职的人数之多,不少网友都开始调侃:“我从 OpenAI 离职了”。

 


OpenAI 被营销支配?

 

“六位顶尖科学家早已离去。OpenAI 如今由营销、业务、软件和产品化人员运营。”

 


从左到右:Jakub Pachocki、Greg Brockman、Ilya Sutskeve、Sam Altman、Muri Murati

 

上图中,除去 Ilya,几乎就是当前 OpenAI 的重要管理层了。

 

OpenAI 的关键研究员 Jakub Pachocki 将接替 Ilya 担任该公司的首席科学家。在 Altman 被罢黜前几周,曾帮助监督 GPT-4 创建的 Pachocki 被提升到公司研究总监的位置,一度被提升到与 Ilya 并肩的职位。

 

Pachocki 于 2017 年加入 OpenAI Dota 团队,担任研究主管,该团队构建了一个能够在 Valve 的 Dota 2 策略游戏中击败人类玩家的人工智能系统。随后,Pachocki 成为 OpenAI 深度学习组织推理和科学的研究负责人,然后晋升为研究总监。目前尚不清楚 Pachocki 是否也会接任 OpenAI Superalignment 团队的负责人。

 

而 Jan Leike 离职后,他的职位将由该公司另一位联合创始人 John Schulman 担任。Schulman 在去年失败的董事会政变中站在了 Altman 一边。另外,Schulman 在 Superalignment 团队还担任了监督者角色。

 

当然,OpenAI 也在不断引进新的人才,年轻力量正在支撑 OpenAI。比如 GPT-4o 的多模态负责人 Prafulla Dhariwal,实际只有本科学历;Sora 的论文作者中有一位研究员今年刚满 21 岁,仅有高中毕业证

 

但众所周知,OpenAI 更多使用的是谷歌提出的技术路线,其核心研发实力不如他们的工程能力。元老科学家们的出走还是让大家对 OpenAI 的未来产生了担忧:OpenAI 还能实现 AGI 吗?

 

AI 行业人才短缺是不争的事实,AI 相关的部门很难找到合适的员工。AI 人才争夺战已经开始,甚至有企业都给出了 100 万美元年薪。

 

薪酬数据和职业平台 Levels.fyi 联合创始人 Zuhayeer Musa 在采访中表示,OpenAI 提供的中位工资(包括奖金和股权)为 925,000 美元。Meta 的 344 名机器学习和人工智能工程师,包括奖金和股权在内的薪酬中位数约为 40 万美元。

 

除了巨额薪酬之外,从小型初创公司到 OpenAI、Meta 等,都在提供加速的股票兑现计划,甚至试图挖走整个团队。

 

“他们没有护城河。那些从事科学研究的人现在正在为其他公司做研究,并且会让 OpenAI 感到震惊。”有网友对 OpenAI 的人才出走评价道。

 

“OpenAI 对 Microsoft 的需要几乎就像 Microsoft 对 OpenAI 的需要一样”。有网友认为,“当下一波新的深度学习创新浪潮席卷全球时,微软会吃掉 OpenAI 剩下的东西。他们赚了很多钱,但除非他们弥补失去的东西,否则就没有未来。”

 

OpenAI 与微软的紧密联系让一些人希望,至少出于对品牌保护,微软能够在安全研究上做一定的投入。但具有讽刺意味的是,微软在发布“人工智能”产品之前不进行安全检查方面是已经出名了的。

 

还有很多人认为,OpenAI 全力以赴地让大模型这只“金鹅”产生更多收益、专注于如何通过嵌入广告实现货币化,并通过主题限制继续提供“安全”等,而不是进一步沿着 AGI 路线前进。

 

“LLM 通往 AGI 或超级智能的机会为零。因此,如果这就是 OpenAI 在未来 5 年里要关注的全部内容,那么与 Superalignment 相关的小组就没有必要了。”有网友评价道。

 

有人推测,要么离 AGI 太远,以至于无论“对齐”意味着什么都是不必要的,要么就是奥特曼等人已确定这是商业成功的障碍。

 

“事实证明,我们已经结盟了,这就是所谓的资本主义。”也有人说道,“资本主义本身就是一种不结盟的人工智能,从这个角度来理解就可以澄清很多事情。”

 

结束语

 

“近十年后,我决定离开 OpenAI。这家公司的发展轨迹堪称奇迹,我相信 OpenAI 将打造出既安全又有益的人工智能。”38 岁的 llya 补充说,他正在启动一个新项目,但没有详细说明。

 

Karpathy 和 Ilya 都有了自己的项目,显然,人们希望那些伟大的人工智能科学家还能在一起做一些有意义的事情。不过,我们应该很快能看到他们多年从事 AI 研发的总结成果。

 

参考链接:

https://twitter.com/ilyasut/status/1790517455628198322

https://www.businessinsider.com/openai-safety-researchers-quit-superalignment-sam-altman-chatgpt-2024-5

2024-05-16 15:088581

评论

发布
暂无评论
发现更多内容

APP透露的焦虑

wgc

杂谈

量化网格交易策略系统,马丁倍投策略软件源码

就这?腾讯云高工熬夜手写'Java微服务学习笔记'也就让我月薪涨3k

Java 编程 程序员 架构 面试

声网2020实时大会后的弱网对抗实践

Fenngton

音视频 网络环境 视频编解码 声网 弱网下的极限实时视频通信

用Python找出100以内的质数 - DAY6

Qien Z.

5月日更 ptyhon 找质数 质数

JavaScript 进阶——井字棋游戏智能AI搭建

空城机

JavaScript 大前端 5月日更 web游戏

学生管理系统考试试卷存储方案

Simon

架构实战营

数据续谈

顿晓

数据 5月日更

全文检索的介绍

五分钟学大数据

大数据 5月日更

网络攻防学习笔记 Day14

穿过生命散发芬芳

5月日更 网络攻防

5分钟速读之Rust权威指南(二)

wzx

rust

Nginx通过split_client实现客户端分流

运维研习社

nginx 灰度发布 5月日更 分流

数据科学指南#基础篇 Bokeh入门

Lev

Python 学习 数据分析 数据科学

通过实践带你揭开TCP中CLOSE_WAIT和TIME_WAIT的神秘面纱

linux大本营

c++ Linux TCP 网络协议 epoll

Netty整体架构学习笔记

风翱

Netty 5月日更

这个世界不会欺负诚实的人,也绝对不会亏待努力的人

小天同学

5月日更 真诚 诚信 努力

今日学习小结

Nydia

学习

花一周整理!Python全系列学习资料,全是干货

Python研究者

服务调用链相关基础知识

luojiahu

调用链

打破思维定式(十)

Changing Lin

20个不良用户体验

老猿Python

程序员 用户体验 程序开发

音视频同步!RTCP协议解析及代码实现

明儿

c++ 音视频 协议 Wireshark 流媒体

不是会员不让复制粘贴?看我“三板斧”!

liuzhen007

使用技巧 5月日更

聊聊Spring的XML Schema扩展机制的使用方式

Hex

spring

iOS 面试策略之系统框架-UIScrollView及其子类

iOSer

ios 面试 UIScrollView UICollectionView

数据挖掘从入门到放弃(一):线性回归和逻辑回归

数据社

机器学习 5月日更

Golang library source file 库源码文件

escray

学习 极客时间 Go 语言 5月日更

Python-XPath

若尘

Python编程 5月日更

Android设备实时音视频传输有效方案

小驰笔记

android 音视频 引航计划

API网关关键技术

lenka

5月日更

消息队列系统架构设计

王硕

架构训练营

OpenAI的元老科学家们都跑光了!一个时代结束了?_AI&大模型_褚杏娟_InfoQ精选文章