大模型能跑起来、跑得好,背后有哪些看不见的工程细节?三位分别来自华为、蚂蚁集团与 SGLang 开源项目的 AI Infra 从业者 将分享他们的观察与体验。
- Infra 工程师日常遇到的真实需求与故障类型
- 训练 / 推理流程中最常出错的环节有哪些
- 开源 Infra 项目的推进难点:技术之外还要兼顾什么
- 国产卡适配训练 / 推理过程中的实际体验与挑战
大会推荐
6 月 27~28 日的 AICon 北京站将继续聚焦 AI 技术的前沿突破与产业落地,围绕 AI Agent 构建、多模态应用、大模型推理性能优化、数据智能实践、AI 产品创新等热门议题,深入探讨技术与应用融合的最新趋势。欢迎持续关注,和我们一起探索 AI 应用的无限可能!
评论