带着对毕生工作的遗憾和恐惧，“AI 教父”决定离开谷歌。
Geoffrey Hinton 从谷歌辞职
人工智能教父 Geoffrey Hinton 辞去了工作，并警告这一技术领域的持续发展或将带来巨大风险。
现年 75 岁的 Geoffrey Hinton 在发给《纽约时报》的声明中证实，他已经正式从谷歌辞职。
《纽约时报》报道称，Hinton 上个月已经向谷歌递交了辞呈，并于上周四直接与谷歌 CEO Sundar Pichai 当面交流。不过目前尚不清楚此次讨论的具体细节。
Geoffrey Hinton 因其在神经网络方面的开创性工作获得“计算机届的诺贝尔奖” — 图灵奖。
Geoffrey Hinton 作为“三位 AI 教父”之一，与另外两位合作伙伴共同获得了 2018 年图灵奖，旨在表彰他们为当前 AI 繁荣做出的基础性贡献。
但如今的他却对自己投入一生的研究感到遗憾。
根据《纽约时报》对他的采访，Hinton 最近刚刚辞去在谷歌的工作，也终于可以畅谈 AI 技术背后的风险了。已经在谷歌工作十多年的 Hinton 表示，“我总在用这样的借口安慰自己：哪怕我自己不做，其他人也会这样做。但目前真的不知道要怎么防止坏蛋利用 AI 来作恶。”
虚假信息的传播只是 Hinton 眼下想要强调的风险之一。从长远来看，他担心 AI 会彻底消除一切需要大量记忆的工作，而随着其逐步编写并运行构成自身的代码，AI 也许会最终取代人类。
Hinton 在采访中指出，“其实不少人都相信，AI 实际上能够变得比人类更聪明，但大多数人认为这还很遥远。没错，我也曾经觉得还很遥远，没准要再过 30 年、50 年甚至更久。但现在，我显然没法再这么想了。”
在接受 BBC 采访时，他甚至提到 AI 聊天机器人已经构成“相当可怕”的威胁。 “据我所知，目前的 IT 还不比我们聪明，但我相信它们很快就会超越人类。”
此外，Hinton 博士承认自己离开谷歌也有年龄方面的考量，他告诉 BBC“我已经 75 岁，是时候退休了。”
Geoffrey Hinton：GPT-4 等模型已拥有远超一般人的知识储备
Hinton 博士在神经网络和深度学习方面的开创性研究，为如今包括 ChatGPT 在内的 AI 系统铺平了发展之路。
在人工智能当中，神经网络是一种在信息学习和处理方面与人脑相似的系统。正是神经网络让 AI 能够像人类一样从经验中学习，这就是我们常说的深度学习概念。
谷歌当初收购了一家由 Hinton 和他两名学生共同创办的公司，这位终身学者也由此加入搜索巨头麾下。其中一名学生后来成为 OpenAI 的首席科学家。Hinton 和他的学生们开发了一套神经网络，在分析了数千张照片之后，它成功学会了识别狗、猫和花等常见物体。正是这项工作，最终促成了 ChatGPT 和谷歌 Bard 的诞生。
Hinton 这位认知心理学家兼计算机科学家表示，聊天机器人很快就会超越人脑所能容纳的信息水平。
“现在，我们看到的 GPT-4 等模型已经拥有远超一般人的知识储备，没错，是远远超过。虽然在推理方面还不太好，但 AI 也已经具备了简单的推理能力。”
“考虑到其发展速度，我们预计情况会很快好转。而这正是我们最担心的问题。”
在《纽约时报》的文章中，Hinton 博士提到了那帮打算用 AI“干坏事”的“坏蛋们”。在采访当中，他进一步解释道：“当然，这考虑的是最糟糕的情况，堪称噩梦。”“比方说，大家可以想象某些威权领导者可能给出总体目标，然后任由 AI 机器人制定附属计划。”
这位科学家警告称，此类行为最终可能会让 AI“制定出「我需要获取更多能量」之类的实施计划”。“在我看来，我们正在开发的智能跟人类自身拥有的智能有着明显区别。”
“我们属于生物系统，AI 则属于数字系统。二者最大的区别在于，数字系统之间有着大量相同的权重集和相同的世界模型。”
“所有这些副本既可以各自单独学习，也可以立即实现知识共享。这就好像面对一万个人，每个人都能分别学习知识，而其他人会自动同步掌握这些知识。正因为如此，聊天机器人的信息储备才远远超过一切人类。”
英国高级研究与发明局主席 Matt Clifford 也以个人身份向 BBC 表示，Hinton 博士的声明“凸显出 AI 能力正以惊人的速度加快发展”。“这项技术有着巨大的优势，但人类世界必须在 AI 安全与控制方面紧急投入更多资源。”
“没必要叫停 AI 模型的开发工作”
与 Hinton 博士一道，还有更多专家加入这个行列，他们纷纷对 AI 的发展速度和方向表达了担忧。
今年 3 月，AI 领域数十人共同署名、科技富豪马斯克高调参与的一封公开信震惊世界，他们呼吁暂停一切比当前版本聊天机器人 ChatGPT 更先进的 AI 模型开发工作，腾出时间设计并实施更强有力的安全控制措施。
与 Hinton 博士及 Yann LeCun 共同因深度学习方面的卓越贡献而获得 2018 年图灵奖的另一位 AI 教父 Yoshua Bengio，也在这封公开信上签下了姓名。Bengio 写道，面对 AI 系统的“意外加速”，“我们需要放缓脚步”。
但 Hinton 博士告诉 BBC，“在短期之内”，他认为 AI 带来的好处还是多于风险，“所以我觉得没必要叫停 AI 模型的开发工作。”
他还提到，如今 AI 已经在各个国家之间引起军备竞赛，所以想要叫停将会困难重重。“即使美国这边全体停手，中国也会继续推进并取得巨大的领先优势。”
Hinton 博士表示，他只是科学专家，并不是政策专家。政府有责任确保 AI 的开发工作“充分考虑到如何阻止其被恶意滥用”。
“负责任的做法”
Hinton 同时在 Twitter 上澄清了自己对谷歌 AI 管理工作的立场：
“在今天的《纽约时报》采访中，记者暗示我离开谷歌是对公司不满。实际上，我离开是为了讨论 AI 的风险，而不是要表达对谷歌的态度。谷歌对待 AI 的态度一直非常负责”。Hinton 博士强调，他并不想批评谷歌，这家科技巨头已经“极具责任心”。
“我甚至想替谷歌说几句好话。如果我不是谷歌员工，那这些表述应该会更可信。”
根据《纽约时报》的采访，Hinton 对谷歌的 AI 技术管理举措表示赞许，也承认微软将 OpenAI 新成果注入 Bing 的行为直接挑战了谷歌的核心业务，在搜索巨头内部引发了“红色代码”反应。Hinton 感到这股激烈的竞争浪潮恐怕无法平息，最终可能令整个世界充斥着虚假的图像和文字，人类再也无法分辨“什么是真、什么是假”。
谷歌首席科学家 Jeff Dean 则通过声明想要缓和这种担忧，“我们仍致力于对 AI 采取负责任的态度。我们不断学习和研究新出现的风险，与此同时也在大胆创新。”
谷歌首席科学家 Jeff Dean 在一份声明中指出，“我们仍致力于对 AI 采取负责任的态度。我们不断学习和研究新出现的风险，与此同时也在大胆创新。”
更重要的是，AI 聊天机器人还只是 AI 技术的一个小小切片，只不过目前成了风口浪尖上的焦点议题。
AI 技术已经在流媒体平台上决定用户接下来会看到什么内容，也可以在招聘流程中被用于筛选申请人、被保险公司用于计算保费，也可以诊断医疗状况（但最终决策权还是在人类医生手中）。
但如今，我们已经开始感受到通用人工智能（AGI）的兴起，它们能够通过训练完成特定范围内的各类任务。所以尽管目前 ChatGPT 主要通过查询向用户提供文本答案，但其背后同时蕴藏着无穷无尽的可能性。
而且 AI 发展的速度本身甚至令其创造者也感到惊讶。自从 Hinton 博士 2012 年建立起开创性的图像分析神经网络以来，AI 世界已经发生了翻天覆地的变化。
就连谷歌掌门人 Sundar Pichai 也在最近的采访中表示，他也无法完全理解自家 AI 聊天机器人 Bard 所能做到的一切。也就是说，我们正坐在一列高速列车上，而它或许终有一天能够自行建造轨道。
参考链接：
https://www.bbc.com/news/world-us-canada-65452940?at_medium=RSS&at_campaign=KARANGA
https://www.theverge.com/2023/5/1/23706311/hinton-godfather-of-ai-threats-fears-warnings
InfoQ高级技术编辑
分布式云行业实践指南（2023）
业内首个分布式云行业实践方法论、工具箱。
评论