写点什么

下一代自主智算系统:超大规模集群的工程实践与挑战 | QCon 北京

  • 2025-03-19
    北京
  • 本文字数:1180 字

    阅读完需:约 4 分钟

下一代自主智算系统:超大规模集群的工程实践与挑战 | QCon北京

2025 年 4 月 10 - 12 日,QCon 全球软件开发大会将在北京召开,大会以 “智能融合,引领未来” 为主题,将汇聚各领域的技术先行者以及创新实践者,为行业发展拨云见日。


基流科技创始人、CEO 胡效赫已确认出席并发表题为《下一代自主智算系统:超大规模集群的工程实践与挑战》的主题分享,重点探讨基于可扩展、高可用、国产化原则的下一代自主计算系统方案选型,如何通过自研通信库、拥塞控制和负载均衡优化策略、高效能算力调度、自动化集群运维、国产 AI 通信系统、算存协同广域调度等技术构建超大规模自主智算集群,解决算力基础设施卡脖子问题,为前沿大模型发展提供算力支撑。


胡效赫本科至博士均就读于清华大学,在清华就读博士期间,他已成功实现了全国首个 TB 级网络产品的落地,并在超级计算领域部署了千卡规模的模型通信方案。在高校及公司期间,完成数十万亿参数推荐大模型通信优化,首个软件定义自动化的国家级课题、14 篇网络系统方向 CCF-A 顶级论文,博士和博后期间负责及参与项目的累计经费近 2000 万元,导师和合作导师所参与公司的累积市值 500 亿美金。他在本次会议的详细演讲内容如下:


演讲提纲

1. 基础设施发展趋势

  • Scale out、Scale up 层面实现超大规模集群建设

  • 大模型基础设施全景图

  • 大规模智算集群核心痛点及工程要求

2. 超大规模自主计算集群方案

  • Galaxy 自主智算集群构建要点

  • 可扩展设计:架构设计、通信库、网络优化、并行框架等关键技术

  • 高可用设计:自研高效能算力调度、自动化算力运维平台

  • 国产化设计:基于国产 AI 通信系统实现开放通用设计、垄断方案解耦

3. 十万卡智算集群解决方案

  • 算存协同广域组网调度

  • 长距离大模型训练实践


您认为,这样的技术在实践过程中有哪些痛点?

  • 在 GPU 解耦层面,基于国产芯片的迁移适配、多元异构混合训练需要联合 GPU 厂商支持,且国产 GPU 在 Scale up 层面进展较慢,构建基于国产 GPU 的下一代自主智算系统难度较大

  • 在国产 AI 通信层面,目前基于国产交换芯片的交换机最大交换容量是 25.6T(64 个 400 G 端口),三层组网最大支持 65536 张卡,需要创新设计十万卡集群架构


演讲亮点

  • 国产全栈端到端 AI 通信系统方案:在交换机、集合通信库、拥塞控制调优、网络运维平台、长距和异构通信等方面,通过软硬件协同设计,形成全国产智算网络全栈产品和解决方案

  • 丰富的大规模集群项目实施经验:方案中的关键技术累积应用在超过多个大规模智算集群,集群规模累积超过 4 万张国际先进 GPU 卡


除此之外,本次大会还策划了多模态大模型及应用AI 驱动的工程生产力面向 AI 的研发基础设施不被 AI 取代的工程师大模型赋能 AIOps云成本优化Lakehouse 架构演进越挫越勇的大前端等专题,届时将有来自不同行业、不同领域、不同企业的 100+资深专家在 QCon 北京现场带来前沿技术洞察和一线实践经验。


现在报名即可以享受 9 折优惠,单张门票立省 680 元,详情可扫码或联系票务经理 18514549229 咨询。



2025-03-19 14:544192

评论

发布
暂无评论

Opus从入门到精通(二):编解码器使用

轻口味

android 音视频 编解码 9月日更

终于完成了私有NPM和PYPI repo的搭建

吴脑的键客

npm nexus pypi

【上汽零束SOA】云管端一体化SOA软件平台系列介绍之六:数字生态篇

SOA开发者平台

软件 SOA 生态 汽车 OTA

计划会议要开始了,产品负责人却没来…

华为云开发者联盟

Scrum PO 开发团队 计划会议 Sprint

3年才能驾驭新技术,不如试试这个低代码魔方

华为云开发者联盟

低代码 开发 华为云应用魔方 应用程序 魔方

【上汽零束SOA】云管端一体化SOA软件平台系列介绍之五:服务实现篇

SOA开发者

软件 SOA

NQI质量基础设施一站式方案,NQI一站式线上平台搭建

13530558032

【云计算】从事云计算运维可以考取哪些证书?

行云管家

云计算 阿里云 运维 华为云 云运维

MapReduce 示例:减少 Hadoop MapReduce 中的侧连接

华为云开发者联盟

hadoop mapreduce 排序 侧连接 联接

穿越时空,跟我一起探索云栖数字谷(2021云栖大会免费送票)

阿里云CloudImagine

人工智能 云计算 阿里云 行业资讯 视频云

模块3-作业

笑看风雨情

Python——静态方法与类方法、类的导入

在即

9月日更

简单聊聊汽车OTA给OEM和Tire1带来的变化

SOA开发者

程序员 职业成长 汽车

【上汽零束SOA】云管端一体化SOA软件平台系列介绍之五:服务实现篇

SOA开发者平台

软件 车联网 物联网 汽车

Java 17 正式发布,Oracle 宣布从 JDK 17 开始正式免费,Java 迈入新时代

Java 编程 源码 架构

【上汽零束SOA】云管端一体化SOA软件平台系列介绍之六:数字生态篇

SOA开发者

自动驾驶 SOA 智能汽车 OTA

如何将外连接向内连接转换?

华为云开发者联盟

sql 数仓 GaussDB(DWS) 外连接 内连接

分布式系统中协调和复制技术的原理

博文视点Broadview

百度智慧输入,会是企业降本增效的“新生产力”吗?

ToB行业头条

百度 企业服务 百度输入法

高可用 | 关于 Xenon 高可用的一些思考

RadonDB

MySQL 数据库

等保三级多久测评一次?每年都要测评吗?

行云管家

网络安全 信息安全 等保

Canal Admin 高可用集群使用教程

Se7en

数字货币钱包开发,imtoken钱包系统搭建

13530558032

量化交易APP开发,量化交易系统源码

13530558032

数据中心建设很复杂,但选择却能很简单:华为数据中心的多维创新

Apollo 配置中心详细教程

牧小农

Apollo 阿波罗

建立测试自动化策略【译】

FunTester

自动化测试 测试框架 测试管理 测试策略 FunTester

【OpenIM原创】IM服务端docker、源码、集群部署 非常实用

OpenIM

下一代自主智算系统:超大规模集群的工程实践与挑战 | QCon北京_AI&大模型_QCon全球软件开发大会_InfoQ精选文章