【ArchSummit】如何通过AIOps推动可量化的业务价值增长和效率提升?>>> 了解详情
写点什么

打破英伟达芯片短缺制约,OpenAI 决定自研 AI 芯片:正物色收购目标

  • 2023-10-07
    北京
  • 本文字数:2004 字

    阅读完需:约 7 分钟

大小:1.03M时长:06:01
打破英伟达芯片短缺制约,OpenAI决定自研AI芯片:正物色收购目标

OpenAI 正在探索自研 AI 芯片

 

据路透社 10 月 6 日报道,有知情人士透露,打造出 AI 超级明星 ChatGPT 的 OpenAI 公司目前正探索制造原研 AI 芯片,而且正在评估一家潜在的收购目标。

 

据路透社在内部讨论中得到的消息,OpenAI 公司尚未决定是否继续推进。但知情人士透露称,至少自去年开始,OpenAI 就已经在讨论各种方案、希望解决因供应短缺而愈发昂贵的 AI 芯片问题。相关选项包括打造原研 AI 芯片、与包括英伟达在内的其他芯片制造商开展密切合作,以及在英伟达之外拓展更加多元的供应来源。

 

对此,OpenAI 公司拒绝发表置评。

 

目前还不清楚 OpenAI 到底会不会迈出定制芯片这关键性的一步。业内资深人士表示,此举将成为一项重大战略措施,也对应着可观的投资数额,其年均成本也许将高达数亿美元。而且即使 OpenAI 为此投入资源,也无法保证必然获得成功。

 

如果能收购一家芯片企业,则可以加快 OpenAI 原研自有芯片的进程。比如,亚马逊曾在 2015 年收购 Annapurna Labs。

 

据一位知情人士透露,OpenAI 已经在考虑对一家潜在收购目标开展尽职调查。但 OpenAI 计划审查和收购的这家公司是谁,目前仍然成谜。

 

即使 OpenAI 继续推进定制芯片计划(包括实施收购),整个工作也可能要耗时数年,也就是说,该公司在相当长的时期内仍须调蓄依赖英伟达和 AMD 等商业供应商。

芯片短缺是导火索

 

今年 6 月,OpenAI 创始人 Sam Altman 与 Humanloop CEO Raza Habib 以及其他 20 位开发者面对面进行了一场闭门交流。Altman 表示,目前 OpenAI 正受到 GPU 资源的严重限制,导致不少短期计划已经被迫推迟。

 

比如,微调 API 受到 GPU 资源的限制。因为还没用上 Adapters 或 LoRa 等高效微调方法,所以 OpenAI 的微调运行和管理仍须占用大量算力。未来微调的支持效果会更好,OpenAI 甚至可能为社区贡献模型设立专门的市场。

 

在这次闭门会上,几家大客户还抱怨了 API 的可靠性和速度表现。Altman 认同这些意见,并解释称主要问题源自 GPU 供应不足。

 

此外,Altman 还曾公开抱怨图形处理单元供应不足,目前该市场由英伟达所主导,其在全球范围内控制着 AI 应用类处理芯片超 80% 的市场份额。

 

Altman 强调,之所以要努力扩大芯片来源,主要基于两个现实问题:为 OpenAI 软件提供支持的先进处理器严重不足,且现有工作及产品所依赖的底层硬件所造成的运行成本“令人眼花缭乱”。

 

在大语言模型和 AIGC 大爆发后,各 AI 企业对于 GPU 的需求比以往任何事时候都要紧迫。英伟达的高端 GPU 芯片价格已经达到了每片数万美元,AI 基础设施公司正在以数万台的价格购买它们。

 

马斯克也曾表示他已经为他的新 AI 初创公司 X.AI 购买了 3 万多块英伟达顶级的 H100 GPU 芯片,每个价格超过 3 万美元。此外,Meta 和微软已经是今年英伟达 GPU 的最大买家之一(Meta 可能排名第一,因为 Facebook、Instagram、WhatsApp 和 Messenger 应用程序中有很多 AI 增强的东西要用到 GPU)。

 

这就是为什么从 Altman 会表示 OpenAI 也很缺 GPU 的原因。Sam Altman 也曾在媒体采访中公开强调过 GPU 的可用性如何影响 OpenAI 今年及以后的计划。

 

自 2020 年以来,OpenAI 在就一直在其最大支持者之一微软提供的大型计算系统之上开发生成式 AI 技术。这套计算系统搭载有 1 万个英伟达图形处理单元(GPU)。

 

对于任何企业来说,ChatGPT 的运行成本都绝不是一个小数目。根据 Bernstein 分析师 Stacy Rasgon 的推测,ChatGPT 的单次查询成本约为 4 美分。如果 ChatGPT 查询最终能够增长到谷歌搜索规模的十分之一,则启动阶段就需要价值约 481 亿美元的 GPU,后续每年还需要价值约 160 亿美元的芯片才能保持服务运行。

大厂集体迈入自研芯片时代?

 

在芯片短缺背景下,不少大型科技企业都开始自研芯片,但成果却相当有限。

 

据路透社报道,Meta 的定制芯片研发就一直进展不顺,导致该公司最终废弃了部分 AI 芯片项目。作为 Facebook 的母公司,Meta 目前正开发一款新型芯片,希望能涵盖所有 AI 类型。

 

另据技术外媒 The Information 报道,OpenAI 的主要支持者微软也在开发定制 AI 芯片,并交由 OpenAI 进行测试。OpenAI 自研 AI 芯片的消息可能标志着两家公司将由此分道扬镳、各自安好。

 

自去年 ChatGPT 发布以来,全球市场对于专用 AI 芯片的需求可谓一路狂飙。最新生成式 AI 技术的训练和运行都需要特定芯片、或者说 AI 加速器的支持,而英伟达则是少数几家能够生产实用型 AI 芯片并在市场上占据主导地位的芯片制造商之一。

 

如果真能开发自己的 AI 芯片,则意味着 OpenAI 将成功跻身少数科技巨头之列。对于 OpenAI 的自研芯片前景,你是否看好呢?

 

参考链接:

https://www.reuters.com/technology/chatgpt-owner-openai-is-exploring-making-its-own-ai-chips-sources-2023-10-06/

https://web.archive.org/web/20230601000258/https://website-nm4keew22-humanloopml.vercel.app/blog/openai-plans

https://www.infoq.cn/article/xZaNyw2QsZcxmNXUvkZv

公众号推荐:

跳进 AI 的奇妙世界,一起探索未来工作的新风貌!想要深入了解 AI 如何成为产业创新的新引擎?好奇哪些城市正成为 AI 人才的新磁场?《中国生成式 AI 开发者洞察 2024》由 InfoQ 研究中心精心打造,为你深度解锁生成式 AI 领域的最新开发者动态。无论你是资深研发者,还是对生成式 AI 充满好奇的新手,这份报告都是你不可错过的知识宝典。欢迎大家扫码关注「AI前线」公众号,回复「开发者洞察」领取。

2023-10-07 14:305268

评论

发布
暂无评论
发现更多内容

第 5 周学习总结

Binary

极客大学架构师训练营

架构师训练营 - 大作业一

lucian

关于Dubbo的原理

皮蛋

第十周作业总结

hunk

极客大学架构师训练营

十、服务分解

Geek_28b526

掌趣电竞系统开发搭建

Geek_a620db

物联网方面的竞赛有那些?

IoT云工坊

架构师训练营第2期 第10周总结

月下独酌

极客大学架构师训练营

程序员的bug修复宝典

程序员 经验总结 bug修复

数据可视化平台搭建,警务实战平台大数据应用

t13823115967

数据可视化 可视化数据分析搭建 警务实战平台

Week 10 模块分解

evildracula

学习 架构

第十周作业

hunk

极客大学架构师训练营

架构师训练营 第3期 第5周 作业和总结

ihiming

架构师训练营 - 大作业二

lucian

Week10 作业

evildracula

第 5 周作业提交

Binary

极客大学架构师训练营

深入解析SpringMVC核心原理:从手写简易版MVC框架开始(SmartMvc)

Silently9527

Java mvc springmvc

智能合约系统软件开发|智能合约APP开发

系统开发

海纳百川无所不容,Win10环境下使用Docker容器式部署前后端分离项目Django+Vue.js

刘悦的技术博客

Python Docker 容器 镜像 部署

共享单车系统搭建

Geek_a620db

NO.002-Java并发编程之多核硬件架构

葛一凡

操作系统 设计原则 硬件架构

架构师训练营第2期 第10周作业

月下独酌

极客大学架构师训练营

6. 抹平差异,统一类型转换服务ConversionService

YourBatman

Spring Framework 类型转换 Converter ConversionService

全1子串算法求解、单元测试的必要性论述 John 易筋 ARTS 打卡 Week 32

John(易筋)

ARTS 打卡计划 全1子串算法求解 单元测试必要性

《Python数据科学:关于使用Python处理数据需要了解的终极指南》PDF免费下载

计算机与AI

Python 数据科学

面试官:说说操作系统微内核和Dubbo微内核?

yes

dubbo 操作系统 微内核

使用 Serverless 创建一个简单的短网址服务

donghui

flask Serverless Lambda Store

指尖上的警务,打造微警务管理服务平台

t13823115967

智慧警务系统开发 微警务

生产环境全链路压测建设历程 21:某快递 A 股上市公司的生产压测案例之彩蛋 2 中篇

数列科技杨德华

全链路压测 七日更

数据库范式与反范式设计,是一门艺术

架构精进之路

数据库 范式

2020年物联网行业有哪些新趋势

IoT云工坊

打破英伟达芯片短缺制约,OpenAI决定自研AI芯片:正物色收购目标_企业动态_凌敏_InfoQ精选文章