限时领|《AI 百问百答》专栏课+实体书(包邮)! 了解详情
写点什么

OpenAI 悄悄改变核心价值观惹争议:埋头搞 AGI,其他的都是浮云!

  • 2023-10-16
    北京
  • 本文字数:1777 字

    阅读完需:约 6 分钟

大小:841.16K时长:04:47
OpenAI悄悄改变核心价值观惹争议:埋头搞AGI,其他的都是浮云!

最近几周,OpenAI 悄然修改了其网站上列出的所有“核心价值观”,更加强调 AGI(通用人工智能)的发展。

OpenAI 悄悄改变核心价值观,重点聚焦 AGI

 

据外媒报道,最近几周,作为全球领先的 AI 研究机构,OpenAI 正悄悄对其核心价值观做出重大调整,将之前未明确列出的通用人工智能 (AGI) 纳入其中。

 

据 Semafor 报道,该公司此前的价值观为“大胆”、“深思熟虑”、“朴实无华”、“影响力驱动”、“协作”和“以增长为导向”。这些旧点价值观将被一系列新的价值观所取代、明确将 AGI 列为后续工作的重中之重。

 


 截图来源:OpenAI 官网首页

 

新变更的价值观主要包括五点:

 

  • 聚焦通用人工智能

OpenAI 致力于构建安全、对社会有所助益的人工智能,它将对人类未来产生巨大的积极影响。

与此无关的任何事情都不在考虑范围之内。

 

  • 坚韧不拔、勇往直前

创造非凡的事物需要努力工作(通常是不那么吸引人的任务)和紧迫感;我们所做的每一件事都很重要。要谦逊务实,想尽一切办法做切实可行的事。

 

  • 坚守规模化效应

当在我们的模型、系统、自身、流程以及理想抱负达到一定规模时,就会创造奇迹。当受到质疑时,扩大规模是一种十分奏效的方式。

 

  • 制造出让人喜爱的东西

OpenAI 的技术和产品应当对人们的生活带来革命性的积极影响。

 

  • 团队精神

OpenAI 最大的进步和差异化来自于团队内部和之间的有效协作。虽然 OpenAI 的团队有着越来越多的不同身份和优先事项,但整体目标和宗旨必须保持完全一致。凡是归因自身,没有什么问题是别人的问题。

 

OpenAI 多年来一直表示希望开发 AGI,尽管这种技术的具体细节尚不清楚。在 2018 年发布的一份使命声明中,OpenAI 将 AGI 描述为“在最具经济价值的工作中超越人类的高度自治系统”。

价值观变更惹争议,说变就变也太随意了

 

这一变化引发了人们对这些核心价值观真实性和可靠性的质疑。如果一家企业能够轻松更改其核心价值观,那么这些价值观还能否称得上“核心”?这无疑会激起外界对于该公司在既定目标一致性和承诺方面的担忧。

 

将“聚焦 AGI”作为公司核心价值之举尤其值得注意。而且,OpenAI 对于 AGI 的解释似乎也仍有含糊不清之处。今年 2 月,OpenAI 的首席执行官山姆·奥尔特曼(Sam Altman)在公司博客文章中写道,AGI 可以广义地定义为“通常比人类更聪明的系统”,但在最近一次采访中,奥特曼似乎重新将 AGI 定义为与普通人类等同的人工智能。

 

这种 AGI 定义层面的差异,也进一步引发了关于 OpenAI 发展目标的讨论。作为一家随时间推移而不断调整方向的公司,OpenAI 已经从一家专注于打造良好 AI 的非营利组织,转变成一家营利性实体。这种目标转变似乎又反过来影响了其技术定义与核心价值观。

 

尽管人们对于核心价值观的转变持怀疑态度,但 OpenAI 的未来方向的确已经在就此做出调整。该公司强调将致力于开发安全、有益的 AGI 技术,借此对人类产生积极影响。也就是说,OpenAI 在接下来的经营活动当中将优先考虑与该目标相适应的项目和举措。

 

在新核心价值观的加持下,OpenAI 明显将投入更多资源推动 AGI 议题。然而,他们将采取怎样的 AGI 定义方式和实现思路仍然有待观察。

网友怎么看?

 

OpenAI 价值观变更一事在 Reddit 上引发了积极讨论,有网友猜测,“AGI 已在 OpenAI 内部实现了”。一些用户认为这种变更很有意思,“看起来 OpenAI 似乎已经弄清楚了如何让自己更加强大,现在只是在寻找人来实际建造它(AGI),新的核心价值观读起来更聚焦。”

 


 截图来源:Reddit

 

但也有一些用户对于价值观的改变表现出了担忧,一名 ID 为 Freedom_Alive 的用户称:

 

“这让我想起了谷歌从其核心价值页面中删除“不作恶”的时候。”

 

言外之意,OpenAI 价值观的改变也说明了公司行事风格将会与以前不同了。

 

ID 名为 Accurate-Ease1675 的用户则表示,“让我有点担心的是,像 OpenAI 这样的公司似乎并不理解价值观、使命、目标和愿景之间的区别。以前的价值观没问题,但修改后的价值观不是真正的价值观。它们是一些雄心勃勃的陈述的大杂烩,如果需要做一些额外的工作来解释这些所谓的价值观。 OpenAI 之前的价值观中有一条是深思熟虑,现在看来,他们压根也没实现这一价值观。

 

参考链接:

https://ts2.space/en/openai-updates-core-values-to-include-artificial-general-intelligence-agi/

https://futurism.com/the-byte/openai-core-values-agi

https://nymag.com/intelligencer/article/sam-altman-artificial-intelligence-openai-profile.html

2023-10-16 13:415809
用户头像
李冬梅 加V:busulishang4668

发布了 1115 篇内容, 共 729.8 次阅读, 收获喜欢 1258 次。

关注

评论

发布
暂无评论
发现更多内容

软件测试学习笔记丨Junit5参数化用例

测试人

软件测试 JUnit

信创里程碑:TapData 人大金仓数据库产品完成兼容互认证,携手推进自主创新建设

tapdata

信创国产化 人大金仓kingbasees TapData 实时数据平台 国产信创数据库

高效DEBUG事务正确性BUG

MatrixOrigin

云原生数据库 国产数据库

TiDB体系架构

天翼云开发者社区

关系型数据库 TiDB

聚焦可持续:Autodesk与广东代表团共论绿色发展

E科讯

CBAM注意力模型介绍

天翼云开发者社区

深度学习 注意力机制 CBAM

一文解读加密货币行业的 7 大新兴趋势

TechubNews

苏宁商品数据采集丨苏宁商品详情数据接口(suning.item_get)

tbapi

苏宁 苏宁API接口 苏宁商品数据采集 苏宁商品详情数据接口

唯品会商品数据采集丨唯品会商品详情数据接口(VIP.item_get)

tbapi

唯品会商品详情数据接口 唯品会 唯品会商品数据采集

大型国民老牌药品医疗企业如何借助实时数仓冲破数据孤岛桎梏,拥抱数据驱动的经营管理模式

tapdata

数据孤岛解决方案 多源异构数据融合 doris实时数仓

2024 HarmonyOS创新赛获奖名单出炉,共29款鸿蒙原生应用及元服务获奖!

最新动态

PostgreSQL 技术内幕(十七):FDW 实现原理与源码解析

酷克数据HashData

postgresql

中国唯一云厂商!腾讯云大数据入选Gartner®亚太区云数据库管理系统客户之声“客户之选”

腾讯云大数据

腾讯云 大数据

curl 使用:命令行中的 HTTP 客户端

左诗右码

Linux

TDengine 助力中电启明星处理高复杂性和大数据量时序数据

TDengine

数据库 tdengine 时序数据库

Wakelocks 框架设计与实现

不在线第一只蜗牛

前端 前端框架 开发框架

浅谈OpenStack(一)

天翼云开发者社区

云计算 OpenStack

鸿蒙开发之视频解码优化以保持后台性能

彭康佳

鸿蒙 音视频

HPC的基本概念

天翼云开发者社区

云计算 HPC 高性能计算

TDengine 与英特尔 AVX512 高级向量扩展指令集成,实现数据并行处理

TDengine

数据库 tdengine 时序数据库

每秒50万行——MySQL写入压测并发实践

FunTester

Linux 软件安装与卸载

左诗右码

Linux

速卖通平台数据采集丨速卖通商品详情数据接口(aliexpress.item_get)

tbapi

速卖通商品详情数据接口 速卖通API接口 速卖通

如何解决Oracle数据表入库中文乱码问题

伤感汤姆布利柏

面试前最应该做的准备工作

老张

面试 职场成长 面试经验 面试技巧

OpenAI悄悄改变核心价值观惹争议:埋头搞AGI,其他的都是浮云!_生成式 AI_李冬梅_InfoQ精选文章