AIGC 应用、数据分析等企业 10+ 热门专题课,就在极客时间企业版>>> 了解详情
写点什么

OpenAI 悄悄改变核心价值观惹争议:埋头搞 AGI,其他的都是浮云!

  • 2023-10-16
    北京
  • 本文字数:1777 字

    阅读完需:约 6 分钟

大小:841.16K时长:04:47
OpenAI悄悄改变核心价值观惹争议:埋头搞AGI,其他的都是浮云!

AI 大模型超全落地场景&金融应用实践,8 月 16 - 19 日 FCon x AICon 大会联诀来袭、干货翻倍!

最近几周,OpenAI 悄然修改了其网站上列出的所有“核心价值观”,更加强调 AGI(通用人工智能)的发展。

OpenAI 悄悄改变核心价值观,重点聚焦 AGI

 

据外媒报道,最近几周,作为全球领先的 AI 研究机构,OpenAI 正悄悄对其核心价值观做出重大调整,将之前未明确列出的通用人工智能 (AGI) 纳入其中。

 

据 Semafor 报道,该公司此前的价值观为“大胆”、“深思熟虑”、“朴实无华”、“影响力驱动”、“协作”和“以增长为导向”。这些旧点价值观将被一系列新的价值观所取代、明确将 AGI 列为后续工作的重中之重。

 


 截图来源:OpenAI 官网首页

 

新变更的价值观主要包括五点:

 

  • 聚焦通用人工智能

OpenAI 致力于构建安全、对社会有所助益的人工智能,它将对人类未来产生巨大的积极影响。

与此无关的任何事情都不在考虑范围之内。

 

  • 坚韧不拔、勇往直前

创造非凡的事物需要努力工作(通常是不那么吸引人的任务)和紧迫感;我们所做的每一件事都很重要。要谦逊务实,想尽一切办法做切实可行的事。

 

  • 坚守规模化效应

当在我们的模型、系统、自身、流程以及理想抱负达到一定规模时,就会创造奇迹。当受到质疑时,扩大规模是一种十分奏效的方式。

 

  • 制造出让人喜爱的东西

OpenAI 的技术和产品应当对人们的生活带来革命性的积极影响。

 

  • 团队精神

OpenAI 最大的进步和差异化来自于团队内部和之间的有效协作。虽然 OpenAI 的团队有着越来越多的不同身份和优先事项,但整体目标和宗旨必须保持完全一致。凡是归因自身,没有什么问题是别人的问题。

 

OpenAI 多年来一直表示希望开发 AGI,尽管这种技术的具体细节尚不清楚。在 2018 年发布的一份使命声明中,OpenAI 将 AGI 描述为“在最具经济价值的工作中超越人类的高度自治系统”。

价值观变更惹争议,说变就变也太随意了

 

这一变化引发了人们对这些核心价值观真实性和可靠性的质疑。如果一家企业能够轻松更改其核心价值观,那么这些价值观还能否称得上“核心”?这无疑会激起外界对于该公司在既定目标一致性和承诺方面的担忧。

 

将“聚焦 AGI”作为公司核心价值之举尤其值得注意。而且,OpenAI 对于 AGI 的解释似乎也仍有含糊不清之处。今年 2 月,OpenAI 的首席执行官山姆·奥尔特曼(Sam Altman)在公司博客文章中写道,AGI 可以广义地定义为“通常比人类更聪明的系统”,但在最近一次采访中,奥特曼似乎重新将 AGI 定义为与普通人类等同的人工智能。

 

这种 AGI 定义层面的差异,也进一步引发了关于 OpenAI 发展目标的讨论。作为一家随时间推移而不断调整方向的公司,OpenAI 已经从一家专注于打造良好 AI 的非营利组织,转变成一家营利性实体。这种目标转变似乎又反过来影响了其技术定义与核心价值观。

 

尽管人们对于核心价值观的转变持怀疑态度,但 OpenAI 的未来方向的确已经在就此做出调整。该公司强调将致力于开发安全、有益的 AGI 技术,借此对人类产生积极影响。也就是说,OpenAI 在接下来的经营活动当中将优先考虑与该目标相适应的项目和举措。

 

在新核心价值观的加持下,OpenAI 明显将投入更多资源推动 AGI 议题。然而,他们将采取怎样的 AGI 定义方式和实现思路仍然有待观察。

网友怎么看?

 

OpenAI 价值观变更一事在 Reddit 上引发了积极讨论,有网友猜测,“AGI 已在 OpenAI 内部实现了”。一些用户认为这种变更很有意思,“看起来 OpenAI 似乎已经弄清楚了如何让自己更加强大,现在只是在寻找人来实际建造它(AGI),新的核心价值观读起来更聚焦。”

 


 截图来源:Reddit

 

但也有一些用户对于价值观的改变表现出了担忧,一名 ID 为 Freedom_Alive 的用户称:

 

“这让我想起了谷歌从其核心价值页面中删除“不作恶”的时候。”

 

言外之意,OpenAI 价值观的改变也说明了公司行事风格将会与以前不同了。

 

ID 名为 Accurate-Ease1675 的用户则表示,“让我有点担心的是,像 OpenAI 这样的公司似乎并不理解价值观、使命、目标和愿景之间的区别。以前的价值观没问题,但修改后的价值观不是真正的价值观。它们是一些雄心勃勃的陈述的大杂烩,如果需要做一些额外的工作来解释这些所谓的价值观。 OpenAI 之前的价值观中有一条是深思熟虑,现在看来,他们压根也没实现这一价值观。

 

参考链接:

https://ts2.space/en/openai-updates-core-values-to-include-artificial-general-intelligence-agi/

https://futurism.com/the-byte/openai-core-values-agi

https://nymag.com/intelligencer/article/sam-altman-artificial-intelligence-openai-profile.html

公众号推荐:

AGI 概念引发热议。那么 AGI 究竟是什么?技术架构来看又包括哪些?AI Agent 如何助力人工智能走向 AGI 时代?现阶段营销、金融、教育、零售、企服等行业场景下,AGI应用程度如何?有哪些典型应用案例了吗?以上问题的回答尽在《中国AGI市场发展研究报告 2024》,欢迎大家扫码关注「AI前线」公众号,回复「AGI」领取。

2023-10-16 13:415555
用户头像
李冬梅 加V:busulishang4668

发布了 871 篇内容, 共 442.3 次阅读, 收获喜欢 1040 次。

关注

评论

发布
暂无评论
发现更多内容

简化理解:发布订阅

掘金安东尼

前端 设计模式 7月月更

Go小白实现一个简易的go mock server

真嗣

golang

程序员都应该知道的 21 个 Git 命令

yuexin_tech

git

Getaverse,走向Web3的远方桥梁

鳄鱼视界

工程项目管理软件排名

易成管理学

项目管理 项目管理软件

一种兼容、更小、易用的WEB字体API

devpoint

CSS 字体设置 7月月更

JAVA编程规范之索引规约

源字节1号

后端开发

iptables常用命令小清单

琦彦

Linux 网络 iptables

邻接表的定义和存储以及有向图无向图的邻接存储

乔乔

7月月更

C# 窗体应用TreeView控件使用

IC00

C# 7月月更

【数据库学习】Redis 解析器&&单线程&&模型

恒山其若陋兮

7月月更

期盼已久全平台支持-开源IM项目OpenIM之uniapp更新

Geek_1ef48b

React 学习记录📝

程序员海军

React 7月月更

贪心算法:用最少数量的箭引爆气球 🎈

空城机

算法题 7月月更

Docker部署Springboot项目

宁在春

Docker springboot 7月月更

python小知识-命令行参数处理之argparse

AIWeker

Python python小知识 7月月更

企业运营自媒体不能“自嗨”:内容要接地气不能接广告

石头IT视角

做好项目管理的10个关键点和5大措施

易成管理学

Getaverse,走向Web3的远方桥梁

股市老人

【函数式编程实战】(五) Stream实战大全

小明Java问道之路

java8 函数式编程 实战 Stream API 7月月更

kubernetes GPU的困境和破局

琦彦

人工智能 机器学习 gpu Kubernetes

基于GitHub/七牛云 + PicGo 搭建属于Typora的图床

琦彦

GitHub Typora PicGo 图床

我们为什么要推出Getaverse?

BlockChain先知

Getaverse,走向Web3的远方桥梁

EOSdreamer111

【刷题记录】20. 有效的括号

WangNing

7月月更

Kubernetes版本对接对象存储

琦彦

对象存储 pvc

做完数据治理,质量依旧很差

奔向架构师

数据治理 7月月更

微信朋友圈的高性能复杂度分析

gump

架构实战营

JVM方法调用

技术小生

JVM 7月月更

利用Python手把手带上实现冒泡排序

迷彩

算法 排序算法 7月月更 算法优化

OpenAI悄悄改变核心价值观惹争议:埋头搞AGI,其他的都是浮云!_生成式 AI_李冬梅_InfoQ精选文章