写点什么

OpenAI 悄悄改变核心价值观惹争议:埋头搞 AGI,其他的都是浮云!

  • 2023-10-16
    北京
  • 本文字数:1777 字

    阅读完需:约 6 分钟

大小:841.16K时长:04:47
OpenAI悄悄改变核心价值观惹争议:埋头搞AGI,其他的都是浮云!

最近几周,OpenAI 悄然修改了其网站上列出的所有“核心价值观”,更加强调 AGI(通用人工智能)的发展。

OpenAI 悄悄改变核心价值观,重点聚焦 AGI

 

据外媒报道,最近几周,作为全球领先的 AI 研究机构,OpenAI 正悄悄对其核心价值观做出重大调整,将之前未明确列出的通用人工智能 (AGI) 纳入其中。

 

据 Semafor 报道,该公司此前的价值观为“大胆”、“深思熟虑”、“朴实无华”、“影响力驱动”、“协作”和“以增长为导向”。这些旧点价值观将被一系列新的价值观所取代、明确将 AGI 列为后续工作的重中之重。

 


 截图来源:OpenAI 官网首页

 

新变更的价值观主要包括五点:

 

  • 聚焦通用人工智能

OpenAI 致力于构建安全、对社会有所助益的人工智能,它将对人类未来产生巨大的积极影响。

与此无关的任何事情都不在考虑范围之内。

 

  • 坚韧不拔、勇往直前

创造非凡的事物需要努力工作(通常是不那么吸引人的任务)和紧迫感;我们所做的每一件事都很重要。要谦逊务实,想尽一切办法做切实可行的事。

 

  • 坚守规模化效应

当在我们的模型、系统、自身、流程以及理想抱负达到一定规模时,就会创造奇迹。当受到质疑时,扩大规模是一种十分奏效的方式。

 

  • 制造出让人喜爱的东西

OpenAI 的技术和产品应当对人们的生活带来革命性的积极影响。

 

  • 团队精神

OpenAI 最大的进步和差异化来自于团队内部和之间的有效协作。虽然 OpenAI 的团队有着越来越多的不同身份和优先事项,但整体目标和宗旨必须保持完全一致。凡是归因自身,没有什么问题是别人的问题。

 

OpenAI 多年来一直表示希望开发 AGI,尽管这种技术的具体细节尚不清楚。在 2018 年发布的一份使命声明中,OpenAI 将 AGI 描述为“在最具经济价值的工作中超越人类的高度自治系统”。

价值观变更惹争议,说变就变也太随意了

 

这一变化引发了人们对这些核心价值观真实性和可靠性的质疑。如果一家企业能够轻松更改其核心价值观,那么这些价值观还能否称得上“核心”?这无疑会激起外界对于该公司在既定目标一致性和承诺方面的担忧。

 

将“聚焦 AGI”作为公司核心价值之举尤其值得注意。而且,OpenAI 对于 AGI 的解释似乎也仍有含糊不清之处。今年 2 月,OpenAI 的首席执行官山姆·奥尔特曼(Sam Altman)在公司博客文章中写道,AGI 可以广义地定义为“通常比人类更聪明的系统”,但在最近一次采访中,奥特曼似乎重新将 AGI 定义为与普通人类等同的人工智能。

 

这种 AGI 定义层面的差异,也进一步引发了关于 OpenAI 发展目标的讨论。作为一家随时间推移而不断调整方向的公司,OpenAI 已经从一家专注于打造良好 AI 的非营利组织,转变成一家营利性实体。这种目标转变似乎又反过来影响了其技术定义与核心价值观。

 

尽管人们对于核心价值观的转变持怀疑态度,但 OpenAI 的未来方向的确已经在就此做出调整。该公司强调将致力于开发安全、有益的 AGI 技术,借此对人类产生积极影响。也就是说,OpenAI 在接下来的经营活动当中将优先考虑与该目标相适应的项目和举措。

 

在新核心价值观的加持下,OpenAI 明显将投入更多资源推动 AGI 议题。然而,他们将采取怎样的 AGI 定义方式和实现思路仍然有待观察。

网友怎么看?

 

OpenAI 价值观变更一事在 Reddit 上引发了积极讨论,有网友猜测,“AGI 已在 OpenAI 内部实现了”。一些用户认为这种变更很有意思,“看起来 OpenAI 似乎已经弄清楚了如何让自己更加强大,现在只是在寻找人来实际建造它(AGI),新的核心价值观读起来更聚焦。”

 


 截图来源:Reddit

 

但也有一些用户对于价值观的改变表现出了担忧,一名 ID 为 Freedom_Alive 的用户称:

 

“这让我想起了谷歌从其核心价值页面中删除“不作恶”的时候。”

 

言外之意,OpenAI 价值观的改变也说明了公司行事风格将会与以前不同了。

 

ID 名为 Accurate-Ease1675 的用户则表示,“让我有点担心的是,像 OpenAI 这样的公司似乎并不理解价值观、使命、目标和愿景之间的区别。以前的价值观没问题,但修改后的价值观不是真正的价值观。它们是一些雄心勃勃的陈述的大杂烩,如果需要做一些额外的工作来解释这些所谓的价值观。 OpenAI 之前的价值观中有一条是深思熟虑,现在看来,他们压根也没实现这一价值观。

 

参考链接:

https://ts2.space/en/openai-updates-core-values-to-include-artificial-general-intelligence-agi/

https://futurism.com/the-byte/openai-core-values-agi

https://nymag.com/intelligencer/article/sam-altman-artificial-intelligence-openai-profile.html

2023-10-16 13:415804
用户头像
李冬梅 加V:busulishang4668

发布了 1113 篇内容, 共 724.0 次阅读, 收获喜欢 1254 次。

关注

评论

发布
暂无评论
发现更多内容

Lattice在提高低代码平台高可扩展性的实战

原力在线

低代码 轻代码

不看后悔,一文带你入门Go云原生微服务

王中阳Go

golang 高效工作 学习方法 微服务 云原生

工赋开发者社区 | 事件驱动架构要避开的 5 个陷阱

工赋开发者社区

Tokio 中 hang 死所有 worker 的方法

Databend

在spring boot3中使用native image

程序那些事

spring 程序那些事 spring boot3

学习大数据怎么选择培训机构?

小谷哥

极光笔记 | 十分钟搞懂手机号码一键登录

极光GPTBots-极光推送

前端 接口 sdk 一键登录

计算机网络到底应该怎么学?

Java永远的神

程序员 面试 计算机网络 计算机 tcpip

如何通过C#/VB.NET在 Excel 中对形状进行分组或取消分组

在下毛毛雨

C# .net Excel

Gartner:流程挖掘市场发展空间巨大,2022年预计市场规模将超10亿美元

九科Ninetech

接口测试这件小事

石臻臻的杂货铺

接口测试

汽车虚拟仿真,实时云渲染至关重要!

3DCAT实时渲染

云渲染 虚拟仿真 实时渲染 汽车仿真

云上的米开朗基罗:在不确定时代,寻找建筑般的确定性

华为云开发者联盟

云计算 后端 华为云 企业号 1 月 PK 榜

《鹅鸭杀》爆火,一文带你了解如何实现顶流社交游戏

声网

游戏开发 RTC 应用架构

深圳大数据编程培训机构哪家比较靠谱

小谷哥

上海前端培训学习好就业吗

小谷哥

NLP知识图谱项目合集(信息抽取、文本分类、图神经网络、性能优化等)

汀丶人工智能

人工智能 自然语言处理 深度学习 知识图谱

软件测试/测试开发 | Appium 用例录制

测试人

软件测试 自动化测试 测试开发 测试用例 appium

SimMIM:更简单的掩码图像建模

Zilliz

【网络安全】记一次红队渗透实战项目

网络安全学海

网络安全 信息安全 计算机 渗透测试 漏洞挖掘

元宇宙成本高吗?构建元宇宙需要多少钱?

3DCAT实时渲染

元宇宙 元宇宙开发 元宇宙成本

工赋开发者社区 | 工业5.0为何是下一个10年的制造业关键性变革方向?

工赋开发者社区

佛萨奇2.0上链DApp开发|佛萨奇链上开发技术

薇電13242772558

dapp

大数据培训课程后如何找到工作

小谷哥

直播预告 | 2月2日,腾讯Light与你一同用AI,让美好变更好

腾源会

公益

【必看知识】PCB设计中焊盘的设计标准

华秋PCB

工具 PCB PCB设计

软件测试/测试开发 | Appium环境安装与架构介绍

测试人

软件测试 自动化测试 测试开发 appium

镭速-跨国车企数据高速、安全跨境传输解决方案

镭速

java课程学习难度怎么样

小谷哥

云图说 | 华为云主机安全服务(新版)来啦!

华为云开发者联盟

云计算 后端 华为云 云图说 企业号 1 月 PK 榜

API 网关策略二三事

API7.ai 技术团队

APISIX 网关设计

OpenAI悄悄改变核心价值观惹争议:埋头搞AGI,其他的都是浮云!_生成式 AI_李冬梅_InfoQ精选文章