写点什么

硅谷疯炒 AI 自我进化,李飞飞、Jeff Dean 齐泼冷水:无限加速不可信

  • 2026-11-10
    北京
  • 本文字数:10029 字

    阅读完需:约 33 分钟

AI摘要

Jeff Dean 离开 Google 后创立 Discovery Loop,聚焦 AI 自我进化能力构建,目标是实现科研全流程自动化。公司已建成 Agent Harness 基础设施,运行约 20 个自动化改进循环,团队兼具顶尖工业界与竞赛背景。其核心路径是让 AI 自主设计实验、验证结果并持续学习。

AI 自我进化需兼顾实验设计、结果验证与知识沉淀闭环

Agent Harness 是支撑万级 AI Agent 协作的关键基础设施

团队结构刻意融合资深系统工程师与年轻前沿研究者

适合AI系统架构师、大模型基础设施工程师、科研自动化平台开发者阅读

离开 Google 27 年,Jeff Dean 创业押注 AI 自我进化

在 Google 工作 27 年后,Jeff Dean 选择了重新创业。

这位参与过 MapReduce、Bigtable、TensorFlow、TPU 和 Gemini 等重要项目的技术老将,如今把目光投向了一个更具挑战性的方向:让 AI 不仅能够解决问题,还能自己设计实验、验证结果,并从过去的研究中持续学习。

在斯坦福大学 HAI 的一场公开活动上,Jeff Dean 首次系统介绍了新公司 Discovery Loop 的技术思路和研发进展。

Jeff Dean 透露,团队吸引了来自 Gemini、DeepSeek、Kimi 等模型项目的研究人员,也有参与 Go 编程语言项目的成员。公司成立前三周,他们进行了约 400 场面试。按照 Jeff Dean 在演讲中的说法,团队中大约 10% 的成员曾获得 ACM 计算奖,另有约 10% 拥有国际信息学奥林匹克竞赛奖牌。他们试图将长期从事大规模 AI 研究的资深工程师,与年轻研究人才组织在一起。

按照他的设想,未来的科学研究可能不再需要庞大的团队逐项开展实验。少数领域专家就能够借助数以万计的 AI Agent,同时探索不同研究方向,让整个科研过程持续自动运转。这家公司已经开发出自己的 Agent Harness,建立了面向大规模 Agent 协作的基础设施,并运行着约 20 个自动化改进循环。Jeff Dean 给出了一个颇具野心的目标:让领域专家的生产力提高 20 至 50 倍。

Jeff Dean 对大型技术团队的复杂性有着切身体会。他曾管理过 Google 一个约 600 人的团队,后来负责的 Google Research 和 AI 团队规模一度达到约 4400 人。

他在演讲中回忆,自己曾花费大量时间参加有关季度运营支出的会议。后来,他通过调整工作安排,将需要向自己汇报的人员规模大幅缩减。

而在 Discovery Loop,他正在尝试另一种研发组织方式。传统大型工程项目通常需要将复杂问题拆解为大量子问题,分配给不同研究团队。但这会产生新的问题:不同团队之间需要协调资源,实验结果很难整合,而且项目启动之后,最初的问题拆解方式往往难以改变。Jeff Dean 认为,未来可以让自动化系统承担相当一部分工作。由少数领域专家确定重要研究目标,AI 系统则自动识别值得解决的子问题,组织实验,并根据结果不断调整方向。

目前,Discovery Loop 已经运行约 20 个自动化改进循环,主要用于研究如何提高实验效率,以及怎样从历史实验结果中学习。

而在演讲结束后,与斯坦福大学教授、World Labs 联合创始人李飞飞的一场对话,则把讨论进一步引向了当前硅谷最热门、也最具争议的技术概念之一:RSI(Recursive Self-Improvement,递归自我改进)。AI 究竟能否实现真正的自我进化?这种进化是否存在物理极限?当机器开始解决人类数百年来悬而未决的数学难题,科学家又将扮演什么角色?

两位长期参与 AI 技术发展的研究者,给出了一些颇为冷静的回答。

以下为李飞飞与 Jeff Dean 对话实录,经 AI 前线翻译整理:

为什么离开 Google 创业?

李飞飞:谢谢 Jeff,刚才的演讲非常精彩。我希望接下来的对话能够稍微深入一些技术细节。

我会同时扮演两个角色,一方面向你提问,另一方面也参与讨论。

首先,祝贺你创办 Discovery Loop。实际上,我最初想问的第一个问题就是:为什么要创办这家公司?你们四个人基本上都可以算是 Google 的老员工了。尤其是你,1999 年就加入 Google,对吧?

过去几年,我们看到了不可思议的技术进步。但我仍然很好奇,在过去一两年里,是否发生过某个决定性的时刻,让你、Quoc、Sanjay 和 Oriol 意识到,必须去做一些不同的事情,而且这件事不能继续留在 Google 内部完成?

Jeff Dean:我认为,我们一直都对自动化系统感到兴奋,尤其是那些能够帮助人们以更加自动化的方式开发软件系统的技术。

例如,大约十年前,Quoc 就已经在神经架构搜索方面做了很多工作。你可以把它理解为一种早期的递归式自我改进系统。你告诉系统:“请帮我找到能够解决计算机视觉问题,或者语言问题的优秀模型架构。”我们当时就知道,这种方法是有效的。但在那个年代,你必须通过一大堆相当笨拙的 Python 代码来定义搜索空间。

而今天,你可以直接使用自然语言。你可以告诉一个足够强大的模型和 Agent 系统:“请探索一些新的模型架构,看看哪些架构能够帮助我们解读 MRI 图像。”然后,系统就可以自动开展相关工作。

我认为,这实际上是我们对计算机系统和 AI 系统能力认知的一次非常深刻的转变。如果能够让这样的系统稳定可靠地运行,就能够实现许多新的事情。尤其是在科学和工程领域,我们认为,这是一组非常适合利用 AI 产生积极社会影响的研究方向。

李飞飞:所以,真正让你们下定决心的,是这种循环,以及自我改进的能力?

Jeff Dean:你也可以说,我们几个有点过于痴迷这些循环了。不过,还有一点非常重要。我们都很享受从一个非常小的项目开始做起的过程。当只有五个人一起研究某件事情,后来加入第六个人、第七个人,再到第十个人,那种感觉很奇妙。

这件事在大公司内部当然也能实现,但我们还希望通过公益公司的形式来开展工作。我们认为,这能够体现自己的价值观。当然,创业意味着你还必须处理办公场地等各种各样的事情,但我们也觉得这些事情挺有意思。

李飞飞:这很有趣。其实,当我们创办 World Labs 时,也有过一个类似的决定性时刻。只不过,我们关注的技术方向与你们不同。当时,我们看到计算机视觉和生成模型开始融合。我们终于能够构建不再局限于文字的生成模型。那就是我们决定创办 World Labs 的时刻。

Jeff Dean:你们做出的那些生成模型,以及现在已经能够实现的能力,确实非常惊人。

“硅谷正在滥用 RSI”

李飞飞:好,我们接下来聊聊自我改进和递归自我改进。稍微深入一点技术,从机器学习领域的教育和研究经历来看,我们其实算是同一代人。刚才我就在想,从自己还是研究生的时候开始,这个概念到底经历了多少种不同的叫法。我们曾经把它叫作增量学习,后来是持续学习、元学习、终身学习,还有你提到的神经架构搜索。现在,我们又有了自我改进,以及 RSI。所以,你能不能为在场的观众,尤其是技术背景的观众,给出一个更加严格的定义?自我改进和递归自我改进究竟有什么区别?我真正想做的,是把幻想和事实区分开来。

Jeff Dean:我认为,可以从刚才介绍的那些循环来理解。这些循环能够应用于许多不同类型的问题。我所理解的自我改进系统,是指你给系统设定一个目标,让它去改善某个可以测量的指标。例如,你希望提高机器学习模型的准确率。系统便尝试不同的模型架构,努力提升准确率。

李飞飞:我先打断一下。很多机器学习算法本来就能够做到这一点,对吧?

Jeff Dean:是的。

李飞飞:但这本身并不是递归的。

Jeff Dean:完全正确。举个例子。我们把一批 MRI 图像数据以及对应的结果交给系统,然后告诉它:“我希望开发一个能够帮助解读 MRI 图像的模型。”这可以是一个自我改进系统。它能够自动开发模型,尝试不同的方法,随着实验不断开展,模型准确率可能会逐渐提高。但是,这并没有改进那个负责提出下一步实验方案的基础系统。递归自我改进则不同。递归自我改进的关键,在于如何让这种自我改进方法,反过来改进负责提出改进方案的系统本身。不知道这样说是否清楚。

李飞飞:我理解。但我认为,对很多人来说,这确实是一个非常容易混淆的概念。尤其是今天,在硅谷,人们正在非常随意地使用 RSI 这个词。作为一名科学家,这实际上让我很困扰。所以,我希望借助今天这个公开场合,把 RSI 的定义讲清楚。

AI 无限自我进化不符合物理现实

李飞飞:接下来,我们谈谈 RSI 的物理极限。现在,RSI 被炒作得好像它是一个没有终点的系统。似乎我们可以让它不断加速,一直加速到无穷大。这些说法当中,究竟哪些是炒作,哪些是幻想?

Jeff Dean:我认为,可以先想想过去 10 到 15 年,人类是怎样提升模型能力的。我们会让优秀的研究人员和机器学习工程师聚集在一起,运行大量小规模实验。他们会发现,有些想法没有效果,有些想法效果不错。然后,我们把那些有效的方法整合到下一代模型中。这就是为什么在 Gemini 1 之后,我们能够开发出 Gemini 2。

因为我们进行了大量实验,不断改进各种技术。这就是正常的科研与工程流程。当你开始把这个过程自动化,确实能够提高改进的速度。例如,一个研究人员启动某项实验之后,实验可能在凌晨两点就结束了。但研究人员直到早上八点才会来到办公室查看结果。如果使用自动化系统,它就能够立即查看结果,以更加自动化的方式决定下一步应该做什么。而且,从整个大型项目的角度看,自动化系统也许能够比每个研究人员各自决定下一步实验,更好地协调决策。但我认为,如果考虑如何真正改进基础模型,你就会发现,这里面需要完成大量实际训练和实验。这些事情不可能无限快地发生。

因为其中涉及真实的物理过程。你必须执行计算,查看结果。计算机需要花时间完成运算。你需要保存数据,分析数据,再让另一个模型查看结果,决定下一步应该做什么。所以,有些人幻想,我们可以让这个循环以无限快的速度运行。我认为,这种想法并不可信。自动化系统肯定会提高我们改进系统的速度,但这并不意味着,改进的速度能够无限增长。

李飞飞:这一点非常重要,我们确实应该让讨论回到现实。我之前和 Jeff 在咖啡馆见面的时候,就讨论过 RSI 的炒作与事实。不过,接下来这个问题我还没有提前跟你讨论过。你可以同意,也完全可以不同意。

我一直在想,人类究竟是一个自我改进系统,还是一个 RSI 系统?我认为,我们肯定是自我改进系统。比如,我非常不擅长做饭。假设我尝试煎蛋,第一次可能会把所有东西都烧焦。但我会从中学习。第二次,我可能做得稍微好一点。尝试十次之后,也许我终于能够做出一份还算可以的煎蛋。我自己愿意吃,但我的孩子们可能还是不愿意吃。

这就是自我改进。但是,RSI 涉及的是我的大脑。在我学习煎蛋的过程中,我的大脑必须发生某种改变。比如,神经元之间的连接发生变化,让我的大脑变成一个更加擅长煎蛋的系统。如果我们讨论的是硬件层面的改进,也许我还能长出第六根手指。

Jeff Dean:那你可能是 AI 生成的。

李飞飞:然后,随着我不断煎蛋,我的大脑又会进一步改善。如果这样的循环不断发生,那么人类是否就是一个 RSI 系统?这个类比正确吗?

Jeff Dean:我认为,人类两者都是。在人生中,我们会学习很多事情。比如学习怎样煎蛋,或者怎样做微积分题。这些属于自我改进。但与此同时,我们也会学习如何学习。而学习如何学习,正是让我们具有自我改进和递归自我改进能力的原因。因为当你理解了什么样的知识、什么样的信息呈现方式最容易被自己吸收时,就可以利用这种认识,更快地学习其他事情。

李飞飞:是的。某种意义上,递归自我改进也可能是一种进化算法。不过,我不想在这个问题上讨论得太深入。只是,我认为在今天这样一个 RSI 概念被高度炒作的时刻,能够公开讨论这个问题,是一次很难得的机会。

Jeff Dean:确实,现在有很多炒作。比如,有人说系统将以无限快的速度改进自己,这听起来

可怕,但如果你把它当作一个实际运行的工程系统来看待,就会发现,它没有那么可怕,也更加容易理解。

Discovery Loop 到底要研究什么?

李飞飞:你刚才介绍了很多 Discovery Loop 的内容。但对于你们究竟想研究哪些科学问题,还是说得有一点模糊。所以,我想再追问一下。科学领域有那么多能够造福社会的重要问题。你目前最感兴趣的是哪一个?

Jeff Dean:长期以来,我一直对 AI 在医疗健康领域的应用非常感兴趣。我认为,我们未来一定会在这个方向开展研究,不是现在,而是在之后的某个阶段。因为这是一个非常重要的领域,也与我们作为公益公司的使命高度一致。

不过,目前我们主要关注那些能够在数字环境中完成整个实验循环的科学与工程问题。因为我们认为,在这些领域中,整个实验循环最容易被加速。如果涉及实际的物理过程,那么要加快整个循环就会困难得多。当然,有很多重要的学科必须依赖物理过程。我们也考虑过一些混合方法,可以帮助加速这些领域的研究。但就目前而言,我们首先关注数字化的科学与工程领域。

具体来说,我们的初始重点有三个:机器学习研究、机器学习工程,以及硬件设计。我们认为,专注于几个不同的领域比较合适,而不是试图同时解决所有问题,这些也是我们自己拥有专业知识的领域。

而且,我们认为这些领域非常重要,因为它们能够进一步释放其他领域的潜力。

比如在医疗健康领域,如果你拥有一个能够自动解决机器学习工程任务的系统,就可以把它用于医疗、材料科学或者其他领域的许多问题。你可以告诉它:“我希望针对这个特定任务,开发一个非常优秀的专用模型。”然后,系统就能够开展相关工作。当然,按照我们刚才的定义,这属于自我改进,而不一定是递归自我改进,这就是我对公司目前定位的描述。

我们现在专注于这三个领域,但未来的目标远不止于此。

李飞飞:我本科阶段接受的是物理学训练,在物理学中,我们通常会把研究者分为实验物理学家和理论物理学家。刚才我一直在想你展示的那个循环,你使用的说法是“提出实验”,但在物理学中,我们通常会说“提出假设”,然后进行实验和评估。

所以,我想问的是,当 AI Agent 或自我改进循环越来越强大时,无论是否属于递归自我改进,这是否意味着我们在哲学上更加倾向于一种实验主义的科学研究方法?

因为你的方法很强调提出假设、开展并行实验,再进行评估,而不是那种相对神秘的理论发现方式。即便到了今天,我们仍然会思考牛顿、爱因斯坦这样的伟大理论物理学家,他们自己并没有开展那么多实验。他们会阅读实验结果,但并不是通过这种实验循环来完成所有发现的。所以,你是否认为,AI 正在让科学发现更偏向实验主义?

Jeff Dean:我不认为两者必然如此对立,不过,这种方法可能确实会稍微更偏向实验。但我认为,这类系统同样可以开展非常出色的理论研究。例如,你可以让系统尝试提出一个理论,解释已有的全部数据。它可以不断迭代,寻找一种能够解释实验结果、同时尽可能简洁的理论描述。

我认为,很多理论物理学家的研究也是这样进行的。

他们观察实验物理学领域发生的事情,然后尝试提出理论,解释那些已经被观察到、但尚未被理解的现象。因此,我认为这种研究完全有可能由 AI 系统完成。事实上,我认为,不应该把理论研究和实验研究看作完全分离的学科。

无论是理论物理、实验物理,还是化学,都可以放在一个更加广泛的知识体系中考虑。想象一下,如果未来有一个系统,在 100 个科学领域进行了 1 亿次实验,并解决了 100 万个问题。

那么,它很可能积累大量有价值的洞察。

因为它已经观察过各种不同类型的实验结果,也知道在许多相似问题中,哪些方法有效,哪些方法无效。当你让它解决一个新问题时,它就能够利用这些跨领域的经验。我认为,这种能力不会受到严格的学科边界限制。而人类有时会受到大学院系划分等传统边界的影响。

李飞飞谈 AI 数学突破:数学家看到的不只是答案,还有美

李飞飞:既然如此,我们就必须谈谈数学。事实上,在筹备这场对话时,我还想邀请 Terence Tao,也就是陶哲轩。我给他打了电话,但他没能来。最近几周,AI 在数学研究方面取得了很多进展。从 Navier–Stokes 相关问题,到其他一些数学论文,再到 OpenAI 昨天刚刚公布的成果,AI 正在解决越来越多的数学问题。坦率地说,我对此有些复杂的感受,当然,这不是因为我不喜欢这些新发现。

而是因为数学,以及那些存在了数百年甚至上千年的数学难题,一直是人类智慧的巅峰之一。对数学家而言,这些问题不仅具有技术层面的意义。他们还会在其中看到美,而现在,我们有了一套完全不同的机器系统,以另一种方式解决这些问题。

我和陶哲轩也讨论过很多。他最近做过一场关于“Math 2.0”的演讲,介绍了 AI 如何帮助解决某些类型的数学问题。但他也坚持认为,还有一些数学问题仍然超出了 AI 的能力范围。尤其是当我们没有现成解法,也没有相关数据时。对于过去短短几周里数学领域发生的这场巨大变化,你怎么看?

Jeff Dean:很明显,现在的模型,以及能够利用这些模型进行大规模并行工作的 Agent 系统,已经具备了解决某些非常困难、此前尚未解决的数学问题的能力。这让我们重新认识了今天的 AI 究竟能够做到什么。但我认为,人们之所以对此感到不太满意,甚至有些不安,是因为这些证明有时可能包含 500 页 Lean 形式化证明代码。

这些证明经过了机器检查。但没有人真正理解,是否存在一种简洁、优雅的方法可以得到相同的结果。当然,知道某个命题已经被证明或者证伪,是一件好事。但理解如何用真正优雅的技术得到那个结果,同样重要。在人类数学家努力解决问题的过程中,他们往往会发展出新的数学方法,而这些方法又能够被用来解决其他类型的问题。

李飞飞:所以,你的意思是,新的数学成果只能从优雅的解法中产生吗?

Jeff Dean:不是。我的意思是,优雅的解法通常会带来一种很棒的新技术,这种技术随后就可能被应用到其他问题中。而在一些非常冗长的机器生成证明中,人们未必能够看到这种清晰、优雅的技术。但是,知道某个问题是可以解决的,本身也非常有价值。在许多不同领域都是如此。

如果你知道某件事是可能做到的,就会更加努力地探索,因为你知道,它确实存在某种解法。

然后,你也许能够通过一种不同的方式,甚至一种更加优雅的方式来实现它。所以,我理解为什么这么多数学问题几乎同时被解决,会让一些人感到不安,但我认为,这种能力现在确实已经出现了。因此,人们需要思考的是,怎样利用这种能力,进一步推动数学研究。

一篇被 NeurIPS 拒绝的论文,如今被引用约 4 万次

李飞飞:你还记得 2017 年 6 月 12 日这个日期有什么特殊意义吗?

Jeff Dean:2017 年 6 月 12 日?是 Transformer 论文上传到 arXiv 的日期吗?

李飞飞:太棒了!满分!我还特意查了一下日期。你是在 6 月 12 日读到 Transformer 论文的吗?

Jeff Dean:不是,可能是 6 月 10 日。

李飞飞:对,你当时可能还需要提前批准这篇论文。我想借这个日期,稍微回顾一下你的职业生涯。刚才你展示的幻灯片中,可以看到你们四个人在 Google,以及整个 AI 领域做出的大量贡献。我们就把那一天当作一个具有历史意义的起点吧。某种程度上,它标志着生成式模型时代的开始。从那时到现在,已经接近九年。回顾这段历程,你认为最重要的技术时刻是什么?另外,我还想追问一个问题。希望你能够非常坦诚地回答:在过去这些年里,哪些事情你预测对了,哪些事情你预测错了?

Jeff Dean:让我想想。在我们取得的众多技术进步中,确实有几件事情特别突出。首先,显然是 Transformer。对于这些问题来说,Transformer 是一种效率高得多的模型架构。它的一个重要思想,是保留此前经过的状态,然后通过注意力机制访问这些信息。而不是像过去那样,每经过一个状态,就更新一个较小的向量,同时遗忘此前的信息。这是一个非常重要的洞察。

也正因如此,后续出现了大量进展。相比此前基于 LSTM 的模型,Transformer 可以使用更少的计算资源,学习更多东西。另一个重要进展,是模型蒸馏。Oriol、Geoffrey Hinton 和我参与过一项蒸馏研究。这篇论文在 2016 年被 NeurIPS 拒绝了。当时的拒稿意见认为,这项工作不太可能产生什么影响。我们真应该建一个网站,专门收集那些被拒绝的论文。这篇就是一个很好的例子。

后来,我们把它放到了 arXiv 上。现在,这篇论文大概已经有 4 万次引用了。我认为,模型蒸馏对于开发能力强大、同时推理效率很高的模型非常重要。因为你可以先训练一个非常庞大、运行起来既笨重又昂贵的模型。然后,让这个大模型充当教师,去教导一个更加灵活、轻量的学生模型。在大学里这样说,倒是很贴切。

Jeff Dean:MoE 架构也已经证明非常有价值。但有一件事情,我此前的判断并不准确。我原本以为,MoE 会成为更加奇特、更加多样化的模型架构大量出现的开端。在 MoE 架构中,模型会将任务分配给多个专家,然后将结果汇总。接着再分配给不同的专家,再汇总。模型会逐渐学习哪些专家适合处理哪些任务。这种方式非常有用,它能够让模型拥有很大的容量,但对于某个特定 Token 或任务,只需要激活其中很小的一部分参数。

不过,这种架构仍然非常规则。例如,大多数专家的规模都是一样的,它们的输出也会很快重新汇合。我原本以为,我们会开始看到大量更加奇特、更加有机化的神经网络架构。例如,某些类似神经活动柱的结构,或者一些跨越神经网络远距离区域、出现频率很低但规模很大的连接,这些连接能够把网络中距离很远的部分联系起来。但到目前为止,我们还没有真正走到那一步。

李飞飞:我们当年做神经架构搜索的时候,也考虑过类似的方向,但那些尝试似乎也没有真正实现预期,对吧?

Jeff Dean:是的。实际上,通过神经架构搜索得到的模型,确实比人类设计的模型看起来更加有机化。人类设计的模型通常是一层一层堆叠起来,偶尔加入一些跳跃连接。而神经架构搜索产生的网络可能会出现一些非常奇怪的连接。比如,某一层直接连接到上面第 17 层,然后执行某种特殊操作。

没预料到 AI 编程能力会如此重要

李飞飞:所以,这就是你认为自己预测错误的一件事情?

Jeff Dean:我预测错误的事情有很多,但这件事确实比较突出,因为我原本认为,模型架构的发展会更多地朝着那个方向前进。还有一件事情,事实证明,编程能力对 AI 的发展非常重要。但我之前并没有真正预见到,编程会成为让模型能够解决大量不同类型问题的关键能力。

李飞飞:这一点我同意。我们其实都知道编程能力很重要,但并没有预料到它会产生如此深远的影响。

Jeff Dean:是的。比如,在 Gemini 项目中,编程确实是我们关注的一个方向,但它并不是当时唯一关注的重点,也不是最核心的重点。

李飞飞:我们刚才谈了很多 AI 的技术进步,但 AI 对社会的影响远不止技术本身。其中包括就业问题、人们在心理层面的焦虑,以及现在围绕人类灭绝风险、AI 对齐等问题出现的一些近乎极端的讨论。首先,我想问你,在这些问题当中,哪一个最让你担忧?

Jeff Dean:我认为,AI 是一项极其强大、具有高度通用性的技术,正在影响社会几乎所有方面,无论是数学、编程、图像生成,还是帮助自动驾驶汽车行驶,AI 都能够发挥作用。它与过去的技术革命不太一样。此前的技术革命,影响范围通常相对集中,可能主要深刻改变五到十个领域。但这一次,AI 正在同时影响世界上的大量不同领域。

我认为,这既让人兴奋,也让人忧虑,甚至感到恐惧。各种情绪都有。实际上,我曾经与一群非常优秀的研究者合作撰写过一篇论文,题目是《Shaping AI's Impact on Billions of People》(塑造 AI 对数十亿人的影响)。这也是我唯一一篇拥有独立网站的论文,因为我们有一位非常有创意的合作者,专门为它建立了网站:shapingai.com。

在这篇论文中,我们研究了七个不同的领域,包括就业与经济、AI 在科学研究中的应用、错误信息与虚假信息、媒体,以及其他几个领域。我们与这些领域的大量专家进行了交流。这是一段非常有价值的经历,因为我们得以从他们的视角,了解 AI 已经如何影响他们所在的行业,以及未来可能带来什么变化。但如果你问我最担心什么,我认为真正让我担忧的是:我们究竟怎样才能在所有这些领域中,尽可能充分地获得 AI 带来的好处,同时尽可能减少它可能造成的负面影响?

因为 AI 确实可能在很多领域产生负面影响,而且,我认为这并不是一个纯粹的技术问题。它既是一个技术问题,也是监管和政策制定者需要面对的问题,同时也是每一位公民需要面对的问题。我们所有人都必须共同思考,如何驾驭这项新技术,确保它能够真正为所有人服务,而不是以我们能够预见的方式伤害人类。例如,我们需要确保,当人们的工作受到 AI 影响时,他们能够找到有效的方式适应新的社会需求。他们应该仍然能够获得有意义的工作,拥有稳定的收入,并过上富足的生活。我认为,这是一个涉及很多不同层面的问题,需要全世界不同领域的人共同努力解决。

李飞飞:最后一个问题。Jeff,我知道你非常关心年轻一代。坦率地说,这一代大学生正在感到焦虑,甚至连斯坦福大学的学生,也在为就业机会和未来的经济前景感到不安。你拥有如此成功的职业生涯,是 AI 领域的先驱之一,而且你对未来技术发展的了解,往往比普通公众更加深入。对于今天在场的学生,那些既感到焦虑、又可能对未来抱有希望的年轻人,你有什么临别寄语?

Jeff Dean:我完全理解这种焦虑,因为世界正在迅速变化。当你试图规划自己的未来时,如果未来本身也在快速变化,那么制定计划确实会变得非常困难。所以,我通常给年轻人的建议是:

尽量去了解哪些新技术正在出现,或者即将在不久之后出现。然后,确保自己知道如何利用这些技术,去做那些真正让你充满热情的事情。

这可能是成为一名医生,也可能是从事文学创作,或者更加高效地编写软件。我认为,所有这些工作都能够得到 AI 的帮助和赋能。但其中依然存在一个非常重要的人类因素,那就是,我们人类需要决定,我们究竟希望共同完成什么事情。而对于你个人来说,你应该找到自己真正想做的事情,并努力在这件事情上做到最好。这也意味着,你需要学会使用现在能够获得的所有工具。

李飞飞:所以,即使在 AI 时代,人类的热情依然是永恒的。谢谢你,Jeff。

Jeff Dean:谢谢。

原视频链接:https://www.youtube.com/watch?v=ooGKNwJWdb8