在 GMTC 北京2019大会上，来自淘宝的陈以鎏讲师做了《MNN - 端侧推理引擎面临的挑战与应对》主题演讲，主要内容如下。
演讲简介：
随着深度学习的快速发展和端侧设备算力的不断提升，原本在云端执行的推理预测工作正在部分迁移到端侧。相较云端智能，端侧智能具有低延时、兼顾数据隐私、节省云端资源等优势。MNN 作为手机淘宝、手机天猫、优酷等 App 中的轻量级的深度学习端侧推理引擎，支撑了直播、短视频、搜索推荐、图像搜索、互动营销、权益发放、安全风控等场景下的端侧智能，每天稳定运行上亿次。近日，MNN 已经在 Github 上开源。这次分享就为大家带来 MNN 开发、开源中的思考与总结。
讲师介绍：
陈以鎏（离青）
淘宝无线开发专家
2015 年加入淘宝，从事无线开发至今，目前担任无线开发专家一职。是阿里巴巴开源的首款端侧推理引擎 MNN (Mobile Neural Network) 的核心开发。
完整演讲 PPT 下载链接：
https://gmtc.infoq.cn/2019/beijing/schedule
公众号推荐：
2024 年 1 月，InfoQ 研究中心重磅发布《大语言模型综合能力测评报告 2024》，揭示了 10 个大模型在语义理解、文学创作、知识问答等领域的卓越表现。ChatGPT-4、文心一言等领先模型在编程、逻辑推理等方面展现出惊人的进步，预示着大模型将在 2024 年迎来更广泛的应用和创新。关注公众号「AI 前线」，回复「大模型报告」免费获取电子版研究报告。
分布式云行业实践指南（2023）
业内首个分布式云行业实践方法论、工具箱。
从国内到国际看交易链路架构演进
基于风险驱动的交付模式转型探索与实践
用 AI 重构 —— 大模型与低代码的“合体变身”
评论