Dario Amodei 一直是 AI 行业里一个颇为特殊的存在。

如果说硅谷有一位 AI 掌门人，长期以来最不吝于提醒公众“AI 可能有多危险”，Dario 大概算其中之一。

作为 Anthropic 联合创始人兼 CEO，他过去几年反复谈论 AI 带来的生物安全、网络攻击、就业冲击以及失控风险，也一直主张前沿模型需要更严格的安全评估和外部约束。某种程度上，Dario 甚至已经成为 AI“风险派”的代表人物之一。

但美国当地时间 8 月 16 日，他罕见地在 X 上发了一篇“小作文”，把话题转向了一个更棘手的问题：为什么越来越多人开始不相信 AI 了？他给出的答案是：信任危机。如今这篇帖子在 x 上浏览量已经突破 1000 万。

为何越来越多人不相信 AI？

与以往的回应有所不同，这一次，他没有把问题归咎于媒体，也没有把矛头指向那些批评 AI 的人，更没有建议 Anthropic 做一轮更加积极的品牌宣传。恰恰相反，他承认：AI 公司自己还没有兑现那些曾经许下的巨大承诺。

Dario 原帖全文翻译如下：

感谢你，Gavin，和我进行了一次特别有深度的交流。我平时并不会在社交媒体上花太多时间，但我想在这里参与讨论，因为这场交流确实触及了一个重要对话的核心。
首先说监管。我认为，“要么通过监管把权力集中到少数被选中的公司和政治人物手中，要么把它广泛分散出去”是一种错误的二选一。我知道，在某种硅谷式的简化表达中，监管 = 监管俘获 = 权力集中，但我一直认为，这种看法过于简单化了现实世界。硅谷这个圈子之外的很多人，会把监管理解为一种限制企业权力、让普通人受益的机制。我也不一定完全认同这种看法；在我看来，问题很复杂，关键取决于所谓的“监管”具体包含什么。但尤其是那些持有“监管 = 监管俘获 = 权力集中”这一框架的人，往往低估了客观、公平的制度化程序所具有的去中心化力量。
一个比较粗略的类比是，正式的司法体系有时可能给人一种刻板、精英主义的感觉，但与另一种选择——群体私刑——相比，它在保护弱势个体权利方面要有效得多。在最理想的情况下，制度可以让权力依附于理念和规则，而不是依附于具体的人，从而实现权力的去中心化。
这也是为什么 Anthropic 一直非常谨慎地制定我们的政策建议。我们非常努力地提出这样一些政策：它们会让前沿 AI 公司处于不利地位（放慢它们的发展速度），同时让规模更小的竞争者获得优势。加州的 SB 53 法案（我们支持该法案），甚至那个饱受批评的 SB 1047 法案（我们对它持保留态度），都完全将收入或模型训练成本低于某一门槛的公司排除在监管覆盖范围之外。（SB 53 的门槛是 5 亿美元，SB 1047 的门槛更低，但我们曾对此提出反对。）
最近，我们在 CAISI 以及向白宫倡议的测试机制中，也主张对前沿模型实施比非前沿模型更加严格的测试——这种设计会让挑战者获得相对优势。同样，“Pacing the Frontier”（控制前沿发展速度）这封公开信所设想的方案——至少按照 Anthropic 所偏好的实施方式——是放慢最顶尖模型的发展速度，同时不去限制那些正在追赶的公司。这会损害前沿 AI 实验室的商业利益，却有利于挑战者，包括开放权重模型！
总体而言，我的看法是，从结构上来说，AI 是一种天然倾向于集中权力的技术，其原因与监管没有关系（更多是因为 Scaling Law，也就是规模扩展定律所带来的极端影响）。开放权重确实能够在一定程度上缓解这一问题，但远远不是充分的解决方案，因为它只是把这种集中稍微转移到了那些拥有最多算力和芯片的人手中——这些人基本上就是前沿 AI 实验室，再加上可能的一些硬件供应商。
相比之下，我认为，正确的“游戏规则”可以同时做到三件事：（a）应对 AI 带来的网络安全、生物安全以及对齐风险；（b）通过制度约束前沿 AI 公司的权力；以及（c）为开放权重模型留下发展空间，同时应对开放权重模型自身带来的具体风险。
顺便说一句，我并不认为过去几个月发生的事情“没有实现我所偏好的监管路径”。据报道，特朗普政府目前正在采取的方式——对前沿模型进行部署前测试，同时当开放权重模型逐渐接近前沿水平时，也对其进行测试——是我非常支持的方案。当然，我仍然需要看到具体细节，才能最终确认这一点。
我同样支持 Demis Hassabis 关于建立一个类似 FINRA 这样的机构的想法。
第二，说说 AI 相关的舆论表达。我不同意“我的言论过度负面”这一说法。事实上，我对 AI 风险和收益的讨论基本是平衡的：我分别写过一篇主要讨论风险和一篇主要讨论收益的长文。即使在谈论风险的采访中，我也会经常强调 AI 令人难以置信的潜在收益，并提出应对风险的可能方案。（只是我的采访被剪成短视频发到社交媒体后，往往会显得格外负面，因为这样的内容更容易获得点击。）
事实上，我之所以写《Machines of Loving Grace》，就是因为我觉得 AI 行业没有充分描绘这项技术如何能够让世界变得更好的、足够令人振奋的图景。文章大部分篇幅都在回应人们对 AI 在健康和生物学领域潜力的怀疑，并解释为什么我认为，未来 5 到 10 年内，人类实际上有可能治愈绝大多数疾病——这听起来可能让普通人难以置信，说实话，生物学家可能也会觉得疯狂（我以前就是生物学家）。如果你读过我最近的文章《Policy on the AI Exponential》，就会看到我还提出了具体建议，希望简化 FDA 审批流程，避免未来大量由 AI 加速研发的药物被监管流程拖慢。我对这件事有很强的紧迫感：几年前，我的父亲因丙型肝炎去世，而就在那几年之后，直接作用抗病毒药物索非布韦问世。这类药物可以治愈约 95%的患者，而且很可能也能治好我的父亲。
我确实同意，公众目前对 AI 持负面看法，而且这是一个严重的问题。但我不认为这主要是因为我或其他 AI 行业领导者不断提醒大家 AI 的风险。我认为，这从根本上说是一场信任危机。普通人不信任企业、政府和科技行业，总觉得我们又在策划某种新的方式来坑害他们。这种不信任的根源可以追溯到几十年前，而 AI 只是这一问题最新的一种表现形式。
我不认为，一场包装得光鲜亮丽、强调积极面的营销活动——有人曾建议 Anthropic 这么做——能够重新赢得这种信任。到了现在，告诉人们“AI 将治愈癌症”，与其说令人振奋，不如说已经变成了陈词滥调，而且大多数人会认为这是一种欺骗。真正有效的方法是：真的把癌症治好。
我认为，对包括 Anthropic 在内的 AI 公司来说，迄今为止最准确的批评，是我们还没有兑现那些关于“让世界变得更好”的宏大承诺。这完全是我们的责任。我认为，这才是你应该批评我们的地方，而不是纠结于传播方式和营销策略。
不过，我们正在尽最大努力解决这个问题。Anthropic 正在迅速加大对生物学和医学领域的投入，希望未来几年取得令人惊叹的成果，并在未来几个月看到一些早期迹象。当我们真正取得有意义的成果后，全世界都会听到，而且我们会尽可能大声地告诉所有人——这一点我向你保证。
但在那之前，我不想做出空洞的承诺。与此同时，我认为自己有责任诚实地谈论 AI 真实存在的风险，以及应该如何应对这些风险。从事情本身来看，诚实是正确的做法；而从公众信誉和信任的角度来看，诚实至少不会比刻意忽视风险、或者用其他话题转移公众注意力更糟。事实上，考虑到人们本能地意识到这些风险是真实存在的，诚实面对风险反而可能更有利于建立公众信誉和信任。

这篇“小作文”有点长，InfoQ 拆解出了几个值得关注的点：

一、“不是我把 AI 说得太危险了”

事情的背景，是一场关于 AI 监管、开放权重模型以及公众态度的讨论。Dario 在回应网友 Gavin 之后，连续发布两条 X。

他首先明确表示，自己确实承认公众目前对 AI 存在明显的负面情绪，而且这对整个行业来说是一个问题。但他不同意一种解释：公众之所以反感 AI，是因为 Dario Amodei、Sam Altman 等 AI 领导者不断强调 AI 的风险。

在他看来，这个因果关系太简单了。

Dario 的判断是，问题远比“AI 行业公关做得不好”复杂。他说，公众并不只是“不喜欢 AI”，而是不再轻易相信公司、政府和科技行业。

他用了一个非常直白的表达：

“I think it is fundamentally a crisis of trust.”

即：

“我认为，这从根本上说是一场信任危机。”

在 Dario 看来，普通人对企业、政府以及科技行业普遍存在一种怀疑：你们是不是又在酝酿某种最终会伤害我的事情？而这种怀疑并不是 AI 出现之后才产生的，它已经存在了几十年。

AI 只是最新加入这场信任危机的技术。

这其实是 Dario 整段话里非常重要的一个判断：AI 的公众形象问题，并不是单纯的 AI 问题，而是过去几十年科技、资本和公共机构积累下来的信任赤字，被 AI 集中放大了。

二、AI 不能只讲故事了

更加有意思的是，Dario 似乎也在回应 Anthropic 内部或者行业内部的一种建议：既然公众不喜欢 AI，那就应该讲更多 AI 的正面故事。

例如：AI 可以治癌症、可以延长人类寿命、可以加速科学研究还可以提高生产率。这些话，过去几年几乎已经成为 AI 行业最标准的“正面叙事”。

但 Dario 这一次却明确表示：仅仅讲这些故事，没有用。

甚至，“AI 能够治愈癌症”这种话，现在都已经变成了一种陈词滥调。而且很多人甚至会觉得，这种说法本身就是一种营销。所以 Dario 给出的解决方案非常简单，却也非常苛刻：

“The thing that will work is actually curing cancer.”

真正能够解决问题的，是“真的把癌症治好”。

这句话可能比任何 AI 发布会上的 Demo 都更有冲击力。因为它实际上是在承认：AI 行业现在缺的不是故事，而是结果。

三、Dario 罕见承认：AI 公司最大的批评，可能是对的

Dario 随后说了一句非常关键的话。在他看来，对包括 Anthropic 在内的 AI 公司的最准确批评，并不是它们不会做营销，也不是它们没有把 AI 讲得足够积极。

这些公司还没有兑现自己关于“让世界变得更好”的那些巨大承诺。

这实际上是一种相当罕见的自我否定。

因为过去几年，AI 行业已经建立起了一套非常完整的未来叙事：AGI 会到来、会极大提高生产率、会改变软件开发。

AI 会加速科学研究，最终可能帮助人类解决癌症、衰老、气候等问题。但与此同时，AI 公司也在要求社会接受越来越大的现实成本：更多数据中心、更多电力、更多芯片、更多资本、更强大的模型、更高的训练和推理成本。

甚至，越来越多关于就业、自动化和社会结构变化的讨论。

问题就变成了：普通人到底得到了什么？

这也是 Dario 这次真正触碰到的核心。如果 AI 公司告诉公众：“相信我们，未来 AI 会创造巨大价值。”

但现实中，公众首先看到的是 AI 生成垃圾内容、裁员、数据中心耗电、隐私争议以及越来越多的自动化替代。那么“信任”当然会出现问题。

四、Dario 给出的答案：别玩套路，要证明价值

Dario 并没有停留在承认问题。他表示，Anthropic 正在快速增加对生物学和医学领域的投入。

未来几年，公司希望能够取得真正重要的成果。而在未来几个月，他甚至期待能够看到一些“早期的曙光”。但他刻意没有给出一个宏大的结果承诺。

原因也很简单：在真正做到之前，他不想再做空洞的承诺。

这其实与 Anthropic 过去几年的路线有一种微妙的呼应。

Anthropic 一直把自己定义成一家“AI 安全”公司。Dario 也一直强调，AI 不仅意味着巨大的生产力和科学突破，也意味着网络安全、生物风险、失控等严重风险。

这一次，他实际上再次选择了同样的策略：宁可承认问题存在，也不试图通过营销把问题包装掉。

他甚至认为，在公众已经意识到这些风险真实存在的情况下，继续回避风险，反而可能进一步损害信任。

其实说白了：Dario 不认为“少谈风险、多讲美好未来”能够重新赢得公众。他想要真正地拿结果出来证明 AI 真正的价值。

五、但问题来了：AI 真的只是一场“信任危机”吗？

这也是这次讨论最值得争论的地方，Dario 的判断有道理，但它可能只解释了一半。

因为公众对 AI 的不信任，并不全部来自“AI 公司没有兑现承诺”，有些担忧甚至与“AI 到底有没有用”无关。

比如：谁拥有 AI？谁控制模型？谁从 AI 带来的生产率提升中获益？如果 AI 真的取代大量工作，成本由谁承担？训练数据来自哪里？AI 生成的内容应该如何标识？企业能否把员工数据交给模型？AI 公司是否应该拥有决定哪些模型可以被部署的权力？

这些问题，不是“治愈癌症”就能够解决的。

反之，如果 AI 真的变得足够强大，上述问题可能会变得更加尖锐。这也是为什么 Dario 把“信任”放在如此重要的位置。

网友吵翻了！Yann LeCun 也出来反驳

Dario 的帖子很快引发大量讨论，短短一天时间，目前在 x 上浏览量已经超过了 1000 万。

一些硅谷技术大佬也出来发表观点。

Yann LeCun 首先就反驳了 Dario 的观点。Dario 认为，AI 天然会集中权力，所以需要通过监管和制度来约束前沿 AI 公司，而 LeCun 则认为，真正的解法不是让少数公司和政府掌握监管权，而是让 AI 本身尽可能开放、分散，让不同的人拥有不同的 AI，用“AI 之间的制衡”对抗权力集中。

Yann LeCun 评论道：“AI 一定会被用于邪恶的目的，就像历史上每一种被发明出来的技术一样。但最终，它会变成：你的‘坏 AI’，对抗我的‘好 AI’”。

大约 10 年来，我一直认为，AI 唯一可行的未来，就是让这项技术广泛可用、共享，并保持开放。
就像印刷术和互联网一样，AI 通过让更多人获得知识，放大人类的智力和效率。
要真正赋能个人，社会需要高度多样化的 AI 系统——它们拥有不同的价值观、语言能力、哲学和政治倾向，以及各自擅长的专业领域。我们需要多样化的 AI，正如我们需要多元化的媒体一样。
考虑到 AI 的成本和复杂性，这只能通过开放的基础模型来实现。在这些模型之上，任何人都可以构建具有自己语言、偏见、专业能力和价值观的 AI 系统。
过去 4 年，随着 AI 进入公众视野，我一直更加公开地表达这一观点。我曾在各种场合提出过这一主张，包括企业高管层、AI 安全讨论小组、行业会议、美国参议院、联合国安理会，以及媒体采访、播客和社交媒体等公共平台。
我完全赞同 @finkd（马克·扎克伯格）最近发表的一篇文章。他写道：“认为 AI 如此危险，以至于唯一安全的道路就是让权力极度集中，这种想法本身就存在问题。从历史来看，如果寄希望于某个绝对权力足够开明，从而善意地为人类提供一切保障，并没有带来安全或积极的结果。”
当 @DarioAmodei 写道：“有人可能会反对说，我们完全可以像约束人类一样，通过多个 AI 系统之间的权力制衡来约束 AI。” 他指的就是我，以及（幸运的是）许多和我持相同观点的人。这是唯一正确的前进道路。

有 x 用户认为，Anthropic 很可能已经掌握了模型进一步实现重大提升的方法，这或许是他们表现得如此自信的原因。但从概率上看，某一个事件（比如任何一次违约）发生的可能性并不低，而一旦发生，很可能产生多米诺骨牌效应，击穿他们目前的这些预期。

Dario 的“AI 信任危机”论述并没有形成一边倒的认同。

一部分网友认可他承认“AI 公司尚未兑现造福世界的承诺”，认为这样的坦诚本身有助于重建信任。AeroDefense CTO Ziang Gao 表示：“像这样的帖子对重建信任大有裨益……人们需要感到被倾听，这就是人性。”

他同时认同 Dario 对 AI 公司的批评：“AI 公司曾做出许多造福公众的承诺，但我们至今仍未看到成果。”

DeepSeek TUI 作者“鲸鱼哥”Hunter Bown 也参与了评论，他表示，他能理解 Dario 因为自己的真实观点和过往言论而被贴上“负面”的标签可能会感到沮丧，但他仍希望 Dario 把这种批评当作未来改进沟通方式的有价值反馈。“你显然也认同这件事足够重要，因此我们如何谈论它同样重要。”他最后还对 Dario 父亲的遭遇表示遗憾。