vivo 蓝心大模型端侧轻量化部署的创新路径｜AICon 上海

5 月 23 日-24 日，AICon 全球人工智能开发与应用大会上海站即将拉开帷幕。本次大会将聚焦 AI 技术的前沿突破与产业落地，围绕 AI Agent、多模态应用、大模型架构创新、推理性能优化、大模型驱动数据创新、AI 产品创新与出海策略等核心议题，呈现技术与应用融合的最新趋势。

vivo AI 研究院高性能计算工程师章苏迟已确认出席 AICon 上海并将在大模型架构创新与端侧智能落地实践专题发表题为《vivo 蓝心大模型端侧轻量化部署的创新路径》的主题分享。业内 AI 大模型正在飞速发展，近年来，行业内不断涌现各种十亿，百亿，千亿级别的大模型，在各个领域均展现了强大的能力。而智能手机作为拥有最大用户数量的终端设备，正成为大模型实现个性化场景与服务的核心载体。然而想在移动端有限的硬件资源上部署参数量庞大的大模型，其性能，内存，功耗均面临着严峻的挑战。

本次演讲将从 vivo 已上线的业务场景出发，深度剖析大模型落端过程中的核心瓶颈问题及其对应的解决方案，包含模型参数规模选择，性能 / 内存 / 功耗技术指标的优化等多个方面。

章苏迟于 vivo AI 研究院任职，主要从事 AI 高性能计算方向，负责 NN 网络在移动端的部署与性能优化，在 CPU、GPU、DSP 指令集优化和 AI 推理框架设计上有丰富经验，是 vivo 端计算解决方案 VCAP 的主力开发之一。当前正在负责 AI 大模型在移动端的部署与优化，解决大模型落端的性能和功耗问题，打造行业领先的端侧大模型能力。他在本次会议的详细演讲内容如下：

演讲提纲：

1. AI 业务端侧化相关背景

2. vivo 大模型端侧化业务场景介绍

3. 大模型端侧化瓶颈问题与解决方案

• 大模型端侧化核心瓶颈指标

• 端侧大模型参数规模选择

• 端侧大模型性能/内存/功耗优化方案

• 针对不同任务类型的业务场景如何定制优化策略

4. 未来展望

听众收益：

• 大模型落端过程中有哪些技术难点，如何克服

• 了解 vivo 在支撑业务场景良好体验的一些思考

除此之外，本次大会还策划了AI Agent 构建及多元应用、多模态大模型创新实践、AI for Data，数据管理与价值挖掘实践、大模型推理性能优化策略、AI 产品设计的创新思维、智能硬件与大模型的融合探索、金融领域大模型应用实践、大模型助力业务提效实践等专题，届时将有来自不同行业、不同领域、不同企业的 60+资深专家在 AICon 上海站现场带来前沿技术洞察和一线实践经验。

现在报名即可以享受 9 折优惠，单张门票立省 580 元，详情可扫码或联系票务经理 13269078023 咨询。