Agent 如何重构微服务、重塑营销，百度的“趟坑”经验总结｜QCon

2023 年，比尔·盖茨在一篇长文中表达了对 Agent 领域的看好。他预言五年内，Agent 将改变人们使用电脑的方式，颠覆软件产业。

在 2024 CES 会场，吴恩达在回答“2024 年 AI 领域可能有哪些重要突破时”：大型语言模型到大型视觉模型的转变，自动化智能体（autonomous agents ）的崛起和边缘智能。

与此同时，资本领域在 2023 年下半年也将关注点投入到了 Agent 领域，去年下半年时，硅谷科技记者 Matt Schlicht 统计称，至少有 100 个项目在将 Agent 商业化。

然而，当前，LLM Agent 技术还不够普惠化，还存在创建门槛高、工具集成度低、分发难度高等问题。为了让 Agent 解决更多用户的问题，百度实现了一套低成本创建、统一收录索引、多场景分发的系统架构。QCon会场特别邀请了百度 /搜索主任架构师黄川分享百度在这个过程中的一些实践经验，包括通用 Agent 框架、增强 LLM、Agent 理解、统一交互等方面的内容。目前整套技术方案均已经落地到百度灵境平台，并取得了不错的效果。

QCon 北京站官网（4 月份）：https://qcon.infoq.cn/2024/beijing/schedule

具体到应用场景，百度已经将 Agent 相关的经验落地到了营销场景，这也是生成式 AI 浪潮下最被关注的场景之一。针对传统营销场景存在的问题，如何来构筑营销智能体，既能保证快速落地又能保证有实际效果，其中的决策引擎、解析引擎应该如何设计，多智能体架构又可以带来哪些优势，未来又该如何进化。QCon 会场特别邀请了百度商业广告平台部资深研发工程师田朝龙围绕上述话题进行分享。

具体到技术场景，微服务想必是众多企业头痛的问题，甚至 GitHub 的前 CTO 表示全面微服务是最大的架构错误。在大部分企业内部已经做了微服务改造的当下，服务治理成为重中之重。微服务治理平台是提升业务微服务使用、运维、治理效率的重要手段，频繁变更的使用人员、参差的知识背景成为制约平台发展与业务效能提升的重要因素。QCon 会场特别邀请到百度 /商业广告平台部资深工程师刘瑞森从传统微服务治理平台的问题出发，借助 LLM 与 AI Agent 的能力，阐述如何将微服务治理平台与 LLM + AI Agent 结合，进一步提升微服务治理平台的价值。

除了 Agent 相关实践外，大模型技术在代码领域的应用也将出现划时代的生产力工具，与常见的自然语言问题不同——它们需要匹配目标语言的精确语法，识别最佳路径和边缘情况，关注问题规范中的众多小细节，并解决其他特定于代码的问题和要求。QCon 专场特别邀请了百度工程效能部高级研发工程师吴玮琦分享百度在智能研发中的技术思考、解决方案和应用实践，如何通过 SFT、RAG、Code Analysis 等方法充分挖掘与释放大模型的生产力，为工程师提效。

为了快速落地这些智能化的改造，百度内部使用微前端、Deep Grasp 等技术去实现智能化的插件，让各个业务更快的完成智能化改造。在大模型浪潮来临之后，百度期望通过模型、工程与产品的深度结合，能够真正解决 DevOps 用户的使用体验、效率问题，使用户普遍感受到智能化的变革和收益，保持用户满意的前提下催生出 AI 原生时代用户与产品间的全新交互。在过去一年的建设中，百度相关团队在效果提升，特别是准确性提升，建设数据飞轮，在意图识别、评论质量等方面，效果持续提升。针对性能反馈，百度实现了根据用户行为的预生成方案，在参数转换和提取等场景实现了结果复用，同时也根据场景的特点发展为了多模型协同的形式，以取得速度和效果的平衡。QCon 大会特别邀请了百度资深工程师唐辉分享上述经验。

与人工智能应用落地相关的另一大基础设施则是云平台，如今的大部分业务智能化改造都是基于云的大底座进行的。在将业务迁移至不同计算平台或者进行新业务上线的过程中，如何能够完全发挥计算平台的能力，及时找出性能瓶颈并完成优化，这通常需要运维人员有丰富的系统知识和经验。遇到麻烦的 Case，可能需要花费数周时间来对业务反复进行分析、定位、测试、验证。

百度智能云将积沉淀多年的多元 CPU 和多样化业务（在线推广搜、离线大数据、数据库、编解码等）性能调优经验工具化，沉淀出了一套可实现云上业务一键性能调优的应用程序性能诊断工具 Btune，短时间内即可完成性能瓶颈的定位并提供优化建议，极大降低性能调优工作门槛。QCon 会场特别邀请了百度智能云资深研发工程师刘星星基于搜索、推荐、仿真等热门场景，深入分享 Btune 性能调优工具在云上业务遭遇的疑难杂症，并详尽阐述百度的应对之策和思路。

最后，本届 QCon 全球软件开发大会暨智能软件开发生态展将于 4 月 11-13 日在北京国测国际会议会展中心正式召开，本周内购票将享受 8 折优惠。

除了百度的众多优秀讲师之外，我们也邀请了（以下排名不分先后）阿里巴巴、华为、字节跳动、商汤科技、金山办公、蚂蚁、去哪儿、英特尔、图灵机器人、平安证券、钉钉、京东零售、猿辅导、快手、Juicedata、数势科技、英飞流、Fabarta 、九章云极、PingCAP、实在智能、Timeplus 、ProtonBase 小质科技、IDEA 研究院等众多企业和机构的专家共同探讨生成式 AI 技术对于智能软件开发生态带来的影响。目前，完整的议程已经上线官网，欢迎感兴趣的朋友到大会官网查阅。（大会官网：https://qcon.infoq.cn/2024/beijing/schedule）