2天时间,聊今年最热的 Agent、上下文工程、AI 产品创新等话题。2025 年最后一场~ 了解详情
写点什么

AI 芯片或面临新一轮短缺,首席信息官们如何提前布局应对?

  • 2024-09-27
    北京
  • 本文字数:1635 字

    阅读完需:约 5 分钟

AI芯片或面临新一轮短缺,首席信息官们如何提前布局应对?

根据咨询研究机构贝恩公司本周发布的一份报告,随着 AI 计算需求的激增,数据中心芯片、个人电脑和智能手机的供应链将面临重大压力。其指出,持续的地缘政治紧张局势和其他供应风险可能会导致下一轮半导体短缺


半导体的供需是一个微妙的平衡,过去几年的经历让业界对此深有感触。在此背景下,贝恩公司呼吁各方密切关注半导体供应链的复杂性——“当需求增加约 20% 或更多,很有可能打破平衡,导致芯片短缺’。”

从报告来看,其关键观察有以下几点:


  1. 数据中心及其专用芯片的支出依然强劲,主要云服务提供商预计在 2024 年的资本支出将同比增长 36%,这一增长主要源于对 AI 和加速计算的投资。

  2. 如果数据中心对当前一代图形处理单元(GPU)的需求到 2026 年翻倍——鉴于当前的趋势,这是一个合理的假设,那么关键部件的供应商在某些情况下需要将产量增加 30% 或更多。

  3. 为促进 AI 的增长,必须在建设数据中心、晶圆厂、先进封装技术和电力保障等方面整合复杂的供应链要素,确保获得先进的封装技术和充足的电力。


虽然报告的重点是购买芯片的组织需要做什么,但首席信息官们可以采取一些措施,以确保将来能获得所需的产品,或为价格剧烈波动做好准备。


Info-Tech 研究集团的研究主管 Scott Bickley 指出,先进的半导体供应链是全球最脆弱的供应链之一,必须有超过 5000 家供应商完美协作才能生产最先进的芯片。


他说,其中许多供应商“为单个公司供应单一的组件,如果没有它们,整个系统就会嘎然而止。单是技术障碍就令人瞠目结舌,更不用说台积电面临的地缘政治风险和物流管理的阻力了。”


Bickley 还表示,技术买家主要分为两类:一类是为大规模基础设施采购的买家,例如私有云环境...... 也可以说是财富 200 强规模的客户;另一类则是为小规模项目采购的买家,比如数据中心现代化、小规模的 LLM 内部模型,以及先进的 AI 功能 PC。


在私有云层面,Bickley 建议买家应立即制定技术战略。举例来说,你是否要大干一场,押注于英伟达下一代 Blackwell 系列 GPU,或选择第一代 H100 进行模型训练。数据中心基础设施的挑战不容小觑,尤其是在水冷环境和高密度 GPU 集群的设计上,以平衡能耗、性能和环境要求。


而传统企业环境中的技术买家面临的挑战则不同,他们由于规模较小,对供应商的影响力有限,在这种环境中,这些买家将不得不过度扩张,现在就下注,以确保以后的供应。“为生产延迟做提前规划可能需要买家承担一些昂贵的前沿技术产品库存,并且这些产品可能很快就会过时。”


Forrester Research 的高级分析师 Alvin Nguyen 补充道,谈到首席信息官可以做些什么来确保他们能够继续获得所需的产品,或者为价格的剧烈变化做好准备,他们需要考虑几个方面:

  • 风险管理:Nguyen 说,生成式 AI 的进展速度以及对特定模型或方法的巨额投资,日后可能被证明是错误或非最佳的选择:“对于大多数希望利用 AI 而非推动 AI 市场发展的企业来说,规避风险,利用现有的 AI 服务,而不是大力获取大量 AI 基础设施,是最有意义的。”

  • 人员培训:首席信息官和技术高管“需要投资于 现有员工的培训 / 技能提升,以及为已知的可有效利用的 AI 用例(如代码开发)招聘具备基本 AI 技能的新人才。他们需要让他们的技术人员、架构师和工程师试验最新的 AI 技术,以确定他们需要做出的选择。如果你能够获取大量的 AI 基础设施,那么就在这里大量投资,以建立相对于他人的竞争优势。”

  • AI 基础设施:目前 AI 加速器的需求超出供应,在未来几年内不太可能改变,因此 AI 加速器 /GPU 目前会有溢价。因此,企业可以考虑利用云服务提供商的 AI 服务。

  • 可持续性:生成式 AI 对更多能源和水资源的需求,以及其碳足迹,已经影响了一些组织实现其可持续性目标的能力。在对 AI 的需求持续增长的情况下,这种情况不太可能改变。因此首席信息官和技术高管需要从可再生能源中采购电力,并在可能的情况下采用可持续的建筑和运营实践(建筑材料的选择、施工方法、回收利用)。


参考链接:

https://www.cio.com/article/3540407/bain-warns-prepare-for-ai-chip-shortage.html

2024-09-27 14:539438

评论

发布
暂无评论
发现更多内容

软件测试丨JavaScript脚本注入,完成Selenium 无法做到的那些事

测试人

JavaScript 软件测试 自动化测试 测试开发 selenium

看完这份SpringBoot神级文档,面试真的可以为所欲为

三十而立

Java IT java面试

重现一条简单SQL的优化过程

GreatSQL

MySQL greatsql greatsql社区

华秋一文带你读懂PCB中的“金手指”设计

华秋电子

阿里内部进阶学习SpringBoot+Vue全栈开发实战文档

三十而立

TiDB Operator常见问题和解决步骤(二)

TiDB 社区干货传送门

故障排查/诊断

拯救脂肪肝第一步!以飞桨3D医疗影像分割方案MedicalSeg自主诊断脂肪肝

飞桨PaddlePaddle

深度学习 计算机视觉 语义分割 PaddlePaddle

利用自动化平台可以做的那亿点事 |得物技术

得物技术

自动化

Hologres技术揭秘:JSON半结构化数据的极致分析性能

阿里技术

json 半结构化数据

龙蜥 Node.js/WebAssembly SIG 重磅发布 Node.js/Noslate 性能优化白皮书

OpenAnolis小助手

node.js Web 白皮书 龙蜥社区 sig

火山引擎A/B测试产品——DataTester 私有化架构分享

字节跳动数据平台

私有化部署 ab测试 A/B 测试 企业号 3 月 PK 榜

微服务架构中的链路超时分析

Java 架构 微服务

TiDB Operator常见问题和解决步骤(一)

TiDB 社区干货传送门

实践案例 集群管理 管理与运维 故障排查/诊断

简述家居物联网体系架构

毛广斌

【3.24-3.31】写作社区优秀技术博文一览

InfoQ写作社区官方

热门活动 优质创作周报

DTALK直播预约 | 数据资产管理:金融机构数据价值释放的必经之路

袋鼠云数栈

数据资产管理

软件测试/测试开发丨利用 pytest 玩转数据驱动测试框架

测试人

软件测试 自动化测试 测试开发 pytest

vivo 手机云服务建设之路-平台产品系列04

vivo互联网技术

系统设计 稳定性 数据安全 用户数据 手机云服务

构建云边端一体的分布式云架构,软硬结合驱动边缘计算创新场景

百度Geek说

人工智能 架构 分布式 边缘计算 企业号 3 月 PK 榜

软件测试/测试开发丨移动端App自动化之App控件定位

测试人

软件测试 自动化测试 测试开发

下游需求趋势长期向好,高端产品国产替代空间广阔

华秋电子

ElasticSearch 拼音搜索自定义扩展插件(长拼音序列)

alexgaoyh

中文分词 分词 Elastic Search 自定义插件

数据擘画资产全景 AI诊断故障真因

用友BIP

HummerRisk 使用教程: 多云检测

HummerCloud

云安全

机器学习实战系列[一]:工业蒸汽量预测(最新版本下篇)含特征优化模型融合等

汀丶人工智能

数据挖掘 机器学习 数学建模

利用Jackson序列化实现数据脱敏

京东科技开发者

Jackson 数据脱敏 企业号 3 月 PK 榜

过亿云资源运维管控难?华为云CloudMap带你喝着咖啡做运维

华为云开发者联盟

大数据 后端 华为云 华为云开发者联盟 企业号 3 月 PK 榜

聚焦「就近」与「轻计算」,阿里云边缘云连续3年领跑!

阿里云CloudImagine

云计算 边缘计算 边缘云

用友BIP智能财务,助力企业构建世界一流预算管理体系

用友BIP

全面预算

飞针测试的流程有哪些?华秋一文告诉你

华秋电子

AI芯片或面临新一轮短缺,首席信息官们如何提前布局应对?_芯片与网络_Paul Barker_InfoQ精选文章