写点什么

下一代自主智算系统:超大规模集群的工程实践与挑战 | QCon 北京

  • 2025-03-19
    北京
  • 本文字数:1180 字

    阅读完需:约 4 分钟

下一代自主智算系统:超大规模集群的工程实践与挑战 | QCon北京

2025 年 4 月 10 - 12 日,QCon 全球软件开发大会将在北京召开,大会以 “智能融合,引领未来” 为主题,将汇聚各领域的技术先行者以及创新实践者,为行业发展拨云见日。


基流科技创始人、CEO 胡效赫已确认出席并发表题为《下一代自主智算系统:超大规模集群的工程实践与挑战》的主题分享,重点探讨基于可扩展、高可用、国产化原则的下一代自主计算系统方案选型,如何通过自研通信库、拥塞控制和负载均衡优化策略、高效能算力调度、自动化集群运维、国产 AI 通信系统、算存协同广域调度等技术构建超大规模自主智算集群,解决算力基础设施卡脖子问题,为前沿大模型发展提供算力支撑。


胡效赫本科至博士均就读于清华大学,在清华就读博士期间,他已成功实现了全国首个 TB 级网络产品的落地,并在超级计算领域部署了千卡规模的模型通信方案。在高校及公司期间,完成数十万亿参数推荐大模型通信优化,首个软件定义自动化的国家级课题、14 篇网络系统方向 CCF-A 顶级论文,博士和博后期间负责及参与项目的累计经费近 2000 万元,导师和合作导师所参与公司的累积市值 500 亿美金。他在本次会议的详细演讲内容如下:


演讲提纲

1. 基础设施发展趋势

  • Scale out、Scale up 层面实现超大规模集群建设

  • 大模型基础设施全景图

  • 大规模智算集群核心痛点及工程要求

2. 超大规模自主计算集群方案

  • Galaxy 自主智算集群构建要点

  • 可扩展设计:架构设计、通信库、网络优化、并行框架等关键技术

  • 高可用设计:自研高效能算力调度、自动化算力运维平台

  • 国产化设计:基于国产 AI 通信系统实现开放通用设计、垄断方案解耦

3. 十万卡智算集群解决方案

  • 算存协同广域组网调度

  • 长距离大模型训练实践


您认为,这样的技术在实践过程中有哪些痛点?

  • 在 GPU 解耦层面,基于国产芯片的迁移适配、多元异构混合训练需要联合 GPU 厂商支持,且国产 GPU 在 Scale up 层面进展较慢,构建基于国产 GPU 的下一代自主智算系统难度较大

  • 在国产 AI 通信层面,目前基于国产交换芯片的交换机最大交换容量是 25.6T(64 个 400 G 端口),三层组网最大支持 65536 张卡,需要创新设计十万卡集群架构


演讲亮点

  • 国产全栈端到端 AI 通信系统方案:在交换机、集合通信库、拥塞控制调优、网络运维平台、长距和异构通信等方面,通过软硬件协同设计,形成全国产智算网络全栈产品和解决方案

  • 丰富的大规模集群项目实施经验:方案中的关键技术累积应用在超过多个大规模智算集群,集群规模累积超过 4 万张国际先进 GPU 卡


除此之外,本次大会还策划了多模态大模型及应用AI 驱动的工程生产力面向 AI 的研发基础设施不被 AI 取代的工程师大模型赋能 AIOps云成本优化Lakehouse 架构演进越挫越勇的大前端等专题,届时将有来自不同行业、不同领域、不同企业的 100+资深专家在 QCon 北京现场带来前沿技术洞察和一线实践经验。


现在报名即可以享受 9 折优惠,单张门票立省 680 元,详情可扫码或联系票务经理 18514549229 咨询。



2025-03-19 14:543815

评论

发布
暂无评论

第三周-代码重构-作业

刘希文

3.手写单例模式设计

博古通今小虾米

SQL 是什么

Rayjun

sql

Linux安装软件方法总结

MySQL从删库到跑路

Linux 源码 RPM安装 安装 yum

央行数字货币渐行渐近:未来金融竞争终极场所

CECBC

数字货币 银行

架构师训练营第三周作业

xs-geek

极客大学架构师训练营

组合设计模式编写程序

石头

极客大学 极客大学架构师训练营

架构师训练营第一周作业

四夕晖

架构师训练营第三周总结

xs-geek

极客大学架构师训练营

面试官:开发过Maven插件吗?我:开发过啊。。。

冰河

maven 插件开发 互联网工程

架构师训练营 1 期 - 第三周作业(vaik)

行之

极客大学架构师训练营

架构师训练营第三周课程笔记及心得

Airs

单例设计模式之枚举实现

A p7+

架构师训练营 1 期 - 第三周总结(vaik)

行之

极客大学架构师训练营

架构师训练营第 1 期第三周课后练习题

Leo乐

极客大学架构师训练营

发展区块链技术 打造竞争新优势

CECBC

架构师训练营第 1 期第三周总结

Leo乐

极客大学架构师训练营

架构师训练营第三周作业

四夕晖

设计模式 极客大学架构师训练营

Mac 配置环境变量未生效

hepingfly

Mac 环境变量 配置文件不生效

架构师训练营第 1 期 - 第三周作业提交

Todd-Lee

极客大学架构师训练营

CSS 选择器 — 重学CSS

三钻

CSS 大前端

编程的本质和未来

小宋头

基于链表的有界阻塞队列 —— LinkedBlockingQueue

程序员小航

Java 源码 AQS 源码阅读 LinkedBlockingQueue

学习笔记:架构师训练营-第三周

四夕晖

设计模式 OOD

[架构师训练营第 1 期] 第三周命题作业

猫切切切切切

极客大学架构师训练营

区块链治理为什么如此重要?

CECBC

区块链

【架构师训练营第 1 期 03 周】 作业

Bear

极客大学架构师训练营

架构师训练营 1 期 -- 第三周作业

曾彪彪

极客大学架构师训练营

PHP 7:真实世界的应用开发(中文翻译)

GanymedeNil

php

2020.09.28-2020.10.04 学习总结

icydolphin

极客大学架构师训练营

学习笔记:架构师训练营-第一周

四夕晖

4+1架构视图 通用设计模型

下一代自主智算系统:超大规模集群的工程实践与挑战 | QCon北京_AI&大模型_QCon全球软件开发大会_InfoQ精选文章