AI 研发“驾驶舱”：如何加速 AI 应用高效落地与持续迭代 | QCon 北京

2025 年 4 月 10 - 12 日，QCon 全球软件开发大会将在北京召开，大会以 “智能融合，引领未来” 为主题，将汇聚各领域的技术先行者以及创新实践者，为行业发展拨云见日。

深信服架构师徐敬蘅已确认出席并发表题为《AI 研发“驾驶舱” —— 加速 AI 应用高效落地与持续迭代》的主题分享。大语言模型的爆发为诸多传统 AI 难以解决的问题带来了新的可解性，伴随大语言模型能力持续增强，AI 应用进入了爆发前夜。然而从软件工程角度，AI 研发与传统工程编码有较大差异，这为基于 AI 的产品发布上线后的快速迭代运营带来了挑战。Gartner 认为，到 2025 年，10% 具备完备 AI 工程最佳实践的企业，相比其他 90% 不具备此类实践的企业，AI 能效至少提升 3 倍。 本次演讲将从业务场景出发，结合真实应用的业务流程（如：数据智能生成、数据管理、训练集群调度优化、测评准出等），阐述相关的系统架构与技术方案，并对 AI 开发平台如何构建组织内 AI 工程最佳实践提供未来洞见。

徐敬蘅目前在深信服科技股份有限公司任架构师，从事基于人工智能的网络安全产品与 AI 基础设施（及应用）研究。同时他还是广东省网络安全等级保护定级评审专家，深圳市网络与信息安全行业协会专家委员会委员，深圳市云安全关键技术研究重点实验室主任，深圳市高层次人才。曾荣获中国智能科学最高奖——吴文俊人工智能奖（科技进步二等奖，第一完成人），中国电力创新奖一等奖，工信部算力中国·青年先锋人物等奖项，承担或参与多项国家及省部级项目，包含国家工信部制造业高质量发展专项 1 项、国家重点研发计划 2 项、国家自然科学基金及其他省部级基金等；近 10 年发表期刊/会议论文十余篇（TPDS、TACO、CCS、SC、IPDPS、JAMES 等），申请发明专利 40 余项。他在本次会议的详细演讲内容如下：

演讲提纲

1. LLM 时代，AI 应用如何高效落地与持续迭代

• 背景介绍

• 大语言模型的爆发为诸多传统 AI 难以解决的问题带来了新的可解性

• 人工智能生产范式，转向以大模型为核心的开发路径，AI 应用进入了爆发前夜

• 痛点 1 ：

• 如何提质增效：LLM 研发对数据、计算等资源要求巨大，研发面临：开发“烟囱化”导致的效率问题

• 部署、评测流程“手工化”导致的质量风险

• 研发资源“本地化”，导致硬件成本问题

• 痛点 2

• 如何助力业务持续成功：基于 LLM 的 AI 应用在数据生成-训练微调-测评准出提出了新的环节和要求

• 如何提升 AI 要素关联性，保障研发迭代与线上更新效率，成为业务持续成功的关键

2. 面向 LLM 时代的 AI 开发平台与 DL 时代差异，友商分析与解决方案设计

• LLM 落地业务设计与生命周期分析，AI 开发平台对 AI 应用的核心支撑点

• 国内外云厂商与研发机构，如何设计 LLM 时代的 AI 开发平台：产品定位与构建最佳实践对比分析

• AI 研发“驾驶舱”总体设计：释放 AI 研发团队潜能，加速 AI 应用高效落地与迭代，助力 AI 业务持续成功

3. LLM 时代，数据智能生成与治理、训练、测评准出模块架构与落地

• 数据智能生成与治理系统构建

• 训练平台与分布式调度的革新

• 测评准出与制品管理系统的设计

• 面向 ML 生命周期管理

4. 借助网络安全、多语言翻译等真实应用，分析基于“AI 研发驾驶舱”应用的经验与注意事项

• 研发驾驶舱在“降本增效”中的应用情况与经验总结

• 研发驾驶舱在“助力业务持续成功”中的应用情况与经验总结

您认为，这样的技术在实践过程中有哪些痛点？

• 数据智能生成环节中，基于强化学习的对抗数据生成未能深入探索，有进一步发挥空间

• 当前分析更多是基于目前 AI-Agent 应用演进构建的最佳实践，伴随大语言模型能力的持续提升（诸如 DeepSeek-R1 等推理模型的诞生），部分平台架构可能需要持续演进迭代，以适应最新的模型能力和应用研发趋势

演讲亮点

• 结合十余家业界主流 AI 开发平台调研以及大量真实 AI 应用研发需求，分享构建面向 AI 应用研发迭代过程的“AI 研发驾驶舱”的具体实践

• （据个人所知）业界首次提出，大语言模型时代 LLMOps 落地具体方案展望，供共同讨论提升

听众收益

• 案例讨论：面向大语言模型应用研发流程的 AI 基础设施，典型构建案例分析讨论

• 开拓思路：结合业界主流厂商，了解我们面向大语言模型时代的 LLMOps 系统构建思考

• 应用实践：结合真实应用案例共同探讨 AI 研发平台的下一步发展路径

除此之外，本次大会还策划了多模态大模型及应用、AI 驱动的工程生产力、面向 AI 的研发基础设施、不被 AI 取代的工程师、大模型赋能 AIOps、云成本优化、Lakehouse 架构演进、越挫越勇的大前端等专题，届时将有来自不同行业、不同领域、不同企业的 100+资深专家在 QCon 北京现场带来前沿技术洞察和一线实践经验。

现在报名即可以享受 9 折优惠，单张门票立省 680 元，详情可扫码或联系票务经理 18514549229 咨询。