速来报名!AICon北京站鸿蒙专场~ 了解详情
写点什么

75 岁深度学习之父突然离职谷歌:痛悔毕生工作,警告 AI 会对人类构成「灾难性」威胁

  • 2023-05-04
    北京
  • 本文字数:2943 字

    阅读完需:约 10 分钟

75岁深度学习之父突然离职谷歌:痛悔毕生工作,警告AI会对人类构成「灾难性」威胁

带着对毕生工作的遗憾和恐惧,“AI 教父”决定离开谷歌。

Geoffrey Hinton 从谷歌辞职


人工智能教父 Geoffrey Hinton 辞去了工作,并警告这一技术领域的持续发展或将带来巨大风险。


现年 75 岁的 Geoffrey Hinton 在发给《纽约时报》的声明中证实,他已经正式从谷歌辞职。


《纽约时报》报道称,Hinton 上个月已经向谷歌递交了辞呈,并于上周四直接与谷歌 CEO Sundar Pichai 当面交流。不过目前尚不清楚此次讨论的具体细节。


Geoffrey Hinton 因其在神经网络方面的开创性工作获得“计算机届的诺贝尔奖” — 图灵奖。


Geoffrey Hinton 作为“三位 AI 教父”之一,与另外两位合作伙伴共同获得了 2018 年图灵奖,旨在表彰他们为当前 AI 繁荣做出的基础性贡献。


但如今的他却对自己投入一生的研究感到遗憾。


根据《纽约时报》对他的采访,Hinton 最近刚刚辞去在谷歌的工作,也终于可以畅谈 AI 技术背后的风险了。已经在谷歌工作十多年的 Hinton 表示,“我总在用这样的借口安慰自己:哪怕我自己不做,其他人也会这样做。但目前真的不知道要怎么防止坏蛋利用 AI 来作恶。”


虚假信息的传播只是 Hinton 眼下想要强调的风险之一。从长远来看,他担心 AI 会彻底消除一切需要大量记忆的工作,而随着其逐步编写并运行构成自身的代码,AI 也许会最终取代人类。


Hinton 在采访中指出,“其实不少人都相信,AI 实际上能够变得比人类更聪明,但大多数人认为这还很遥远。没错,我也曾经觉得还很遥远,没准要再过 30 年、50 年甚至更久。但现在,我显然没法再这么想了。


在接受 BBC 采访时,他甚至提到 AI 聊天机器人已经构成“相当可怕”的威胁。 “据我所知,目前的 IT 还不比我们聪明,但我相信它们很快就会超越人类。”


此外,Hinton 博士承认自己离开谷歌也有年龄方面的考量,他告诉 BBC“我已经 75 岁,是时候退休了。”

Geoffrey Hinton:GPT-4 等模型已拥有远超一般人的知识储备


Hinton 博士在神经网络和深度学习方面的开创性研究,为如今包括 ChatGPT 在内的 AI 系统铺平了发展之路。


在人工智能当中,神经网络是一种在信息学习和处理方面与人脑相似的系统。正是神经网络让 AI 能够像人类一样从经验中学习,这就是我们常说的深度学习概念。


谷歌当初收购了一家由 Hinton 和他两名学生共同创办的公司,这位终身学者也由此加入搜索巨头麾下。其中一名学生后来成为 OpenAI 的首席科学家。Hinton 和他的学生们开发了一套神经网络,在分析了数千张照片之后,它成功学会了识别狗、猫和花等常见物体。正是这项工作,最终促成了 ChatGPT 和谷歌 Bard 的诞生。


Hinton 这位认知心理学家兼计算机科学家表示,聊天机器人很快就会超越人脑所能容纳的信息水平。


“现在,我们看到的 GPT-4 等模型已经拥有远超一般人的知识储备,没错,是远远超过。虽然在推理方面还不太好,但 AI 也已经具备了简单的推理能力。”


“考虑到其发展速度,我们预计情况会很快好转。而这正是我们最担心的问题。”


在《纽约时报》的文章中,Hinton 博士提到了那帮打算用 AI“干坏事”的“坏蛋们”。在采访当中,他进一步解释道:“当然,这考虑的是最糟糕的情况,堪称噩梦。”“比方说,大家可以想象某些威权领导者可能给出总体目标,然后任由 AI 机器人制定附属计划。”


这位科学家警告称,此类行为最终可能会让 AI“制定出「我需要获取更多能量」之类的实施计划”。“在我看来,我们正在开发的智能跟人类自身拥有的智能有着明显区别。”


“我们属于生物系统,AI 则属于数字系统。二者最大的区别在于,数字系统之间有着大量相同的权重集和相同的世界模型。”


“所有这些副本既可以各自单独学习,也可以立即实现知识共享。这就好像面对一万个人,每个人都能分别学习知识,而其他人会自动同步掌握这些知识。正因为如此,聊天机器人的信息储备才远远超过一切人类。”


英国高级研究与发明局主席 Matt Clifford 也以个人身份向 BBC 表示,Hinton 博士的声明“凸显出 AI 能力正以惊人的速度加快发展”。“这项技术有着巨大的优势,但人类世界必须在 AI 安全与控制方面紧急投入更多资源。”

“没必要叫停 AI 模型的开发工作”


与 Hinton 博士一道,还有更多专家加入这个行列,他们纷纷对 AI 的发展速度和方向表达了担忧。


今年 3 月,AI 领域数十人共同署名、科技富豪马斯克高调参与的一封公开信震惊世界,他们呼吁暂停一切比当前版本聊天机器人 ChatGPT 更先进的 AI 模型开发工作,腾出时间设计并实施更强有力的安全控制措施。


与 Hinton 博士及 Yann LeCun 共同因深度学习方面的卓越贡献而获得 2018 年图灵奖的另一位 AI 教父 Yoshua Bengio,也在这封公开信上签下了姓名。Bengio 写道,面对 AI 系统的“意外加速”,“我们需要放缓脚步”。


但 Hinton 博士告诉 BBC,“在短期之内”,他认为 AI 带来的好处还是多于风险,“所以我觉得没必要叫停 AI 模型的开发工作。”


他还提到,如今 AI 已经在各个国家之间引起军备竞赛,所以想要叫停将会困难重重。“即使美国这边全体停手,中国也会继续推进并取得巨大的领先优势。”


Hinton 博士表示,他只是科学专家,并不是政策专家。政府有责任确保 AI 的开发工作“充分考虑到如何阻止其被恶意滥用”。

“负责任的做法”


Hinton 同时在 Twitter 上澄清了自己对谷歌 AI 管理工作的立场:



“在今天的《纽约时报》采访中,记者暗示我离开谷歌是对公司不满。实际上,我离开是为了讨论 AI 的风险,而不是要表达对谷歌的态度。谷歌对待 AI 的态度一直非常负责”。Hinton 博士强调,他并不想批评谷歌,这家科技巨头已经“极具责任心”。


“我甚至想替谷歌说几句好话。如果我不是谷歌员工,那这些表述应该会更可信。”


根据《纽约时报》的采访,Hinton 对谷歌的 AI 技术管理举措表示赞许,也承认微软将 OpenAI 新成果注入 Bing 的行为直接挑战了谷歌的核心业务,在搜索巨头内部引发了“红色代码”反应。Hinton 感到这股激烈的竞争浪潮恐怕无法平息,最终可能令整个世界充斥着虚假的图像和文字,人类再也无法分辨“什么是真、什么是假”。


谷歌首席科学家 Jeff Dean 则通过声明想要缓和这种担忧,“我们仍致力于对 AI 采取负责任的态度。我们不断学习和研究新出现的风险,与此同时也在大胆创新。”


谷歌首席科学家 Jeff Dean 在一份声明中指出,“我们仍致力于对 AI 采取负责任的态度。我们不断学习和研究新出现的风险,与此同时也在大胆创新。”


更重要的是,AI 聊天机器人还只是 AI 技术的一个小小切片,只不过目前成了风口浪尖上的焦点议题。


AI 技术已经在流媒体平台上决定用户接下来会看到什么内容,也可以在招聘流程中被用于筛选申请人、被保险公司用于计算保费,也可以诊断医疗状况(但最终决策权还是在人类医生手中)。


但如今,我们已经开始感受到通用人工智能(AGI)的兴起,它们能够通过训练完成特定范围内的各类任务。所以尽管目前 ChatGPT 主要通过查询向用户提供文本答案,但其背后同时蕴藏着无穷无尽的可能性。


而且 AI 发展的速度本身甚至令其创造者也感到惊讶。自从 Hinton 博士 2012 年建立起开创性的图像分析神经网络以来,AI 世界已经发生了翻天覆地的变化。


就连谷歌掌门人 Sundar Pichai 也在最近的采访中表示,他也无法完全理解自家 AI 聊天机器人 Bard 所能做到的一切。也就是说,我们正坐在一列高速列车上,而它或许终有一天能够自行建造轨道。


参考链接:


https://www.bbc.com/news/world-us-canada-65452940?at_medium=RSS&at_campaign=KARANGA


https://www.theverge.com/2023/5/1/23706311/hinton-godfather-of-ai-threats-fears-warnings

2023-05-04 11:445231
用户头像
刘燕 InfoQ高级技术编辑

发布了 1112 篇内容, 共 538.6 次阅读, 收获喜欢 1977 次。

关注

评论

发布
暂无评论
发现更多内容

ChemDraw可以绘制哪些物质?ChemDraw破解补丁版下载安装 Mac/win

Rose

ChemDraw破解版 ChemDraw化学绘图 ChemDraw下载安装

XMind破解版下载,xmind 2023 思维导图for mac 兼容m1/m2

理理

Mac XMind 2024破解版 XMind思维导图下载

VMware Fusion Pro 12破解版 v12.2.5 mac vm虚拟机永久密钥

理理

VMware Fusion虚拟机 VM虚拟机破解版 VMware Fusion激活秘钥 VMware Fusion Pro 12

Cornerstone for Mac(最好用的SVN管理工具)v4.2永久激活版

理理

Mac 软件 SVN客户端 cornerstone 4 破解版 Cornerstone4永久版

LED异型显示屏:创新设计与市场需求的完美融合

Dylan

设计 应用 LED LED显示屏 市场

喜加一!望繁信科技再摘「2023年度新锐技术品牌奖」

望繁信科技

流程挖掘 流程资产 流程智能 数字北极星 望繁信科技

低代码平台在现代人事管理系统中的应用与优势

天津汇柏科技有限公司

低代码 人事管理系统

macOS 12 Monterey (苹果mac12系统)v12.7.2正式版

理理

苹果系统下载 macOS 12 Monterey

Microsoft Office LTSC for Mac/win 2021永久使用版

理理

哪里有Parallels Desktop 19永久密钥?Parallels19虚拟机破解版安装附激活秘钥

理理

Parallels Desktop 19 Parallels虚拟机下载 macOS虚拟机 PD19安装教程

windows11系统,Win11,windows11下载,ARM版Win11镜像

理理

Windows11 Windows系统下载 ARM版Win11镜像 Windows系统安装

如何在苹果mac电脑畅玩原神游戏?playcover for mac你一定不要错过了

理理

原神 Mac软件 playcover iOS软件

豆包,大模型的磁力三重奏

脑极体

AI

蓝易云 - tomcat部署、tomcat虚拟主机及tomcat多实例

百度搜索:蓝易云

云计算 tomcat 运维 Web JavaEE

链路级资损防控之资损字段防控实践|得物技术

得物技术

最佳实践 测试 资损防控 企业号2024年7月PK榜

蓝易云 - 基本的Linux命令以及Linux目录结构

百度搜索:蓝易云

云计算 Linux 运维 云主机 云服务器

Autodesk AutoCAD 2024 Mac破解补丁版 cad2024中文安装教程 兼容m芯

理理

AutoCAD 2024下载 AutoCAD 2024破解 AutoCAD安装教程 cad2024序列号

Mac远程连接软件 microsoft remote desktop苹果汉化版

理理

远程桌面连接 microsoft remote desktop 微软远程软件mac版

InPlant SCADA笔记 数据库中添加位号,读取modbustcp设备的值并显示在流程图

万里无云万里天

Modbus Tcp 工厂运维 InPlant SCADA

InPlant SCADA笔记 用户权限

万里无云万里天

工厂运维 InPlant SCADA

Zilliz Cloud✖️Ivy.ai:构建 GenAI 驱动的聊天业务

Zilliz

人工智能 Milvus Zilliz 向量数据库 大语言模型

国外的远程控制软件哪个好

科技热闻

使用京东API接口适用于的环境及验证调用合法性的方法

Noah

InPlant SCADA笔记 新建第一个工程

万里无云万里天

工厂运维 InPlant SCADA

蓝易云 - 跨境电商SEO网站被黑了,如何做好安全防御?

百度搜索:蓝易云

云计算 Linux 运维 云服务器 跨境电商

什么情况下你能接受 996

王中阳Go

Go 工作 面经

在元宇宙与实体办公室之间,您更倾向于哪一种工作方式?

dappweb

蓝易云 - nodejs发布静态https服务器

百度搜索:蓝易云

云计算 运维 https Node 云服务器

AE2020 mac破解版资源 After Effects 2020中文版下载安装

理理

视频特效 AE2020 中文版 AE2020破解版 After Effects 2020

IPQ9574 vs. IPQ6010 in Smart Manufacturing: Which Chipset Leads the Way?

wallyslilly

ipq9554 ipq9574

InPlant SCADA笔记 图形控件

万里无云万里天

工厂运维 InPlant SCADA

75岁深度学习之父突然离职谷歌:痛悔毕生工作,警告AI会对人类构成「灾难性」威胁_AI&大模型_刘燕_InfoQ精选文章