写点什么

嵌入式深度学习框架研发与落地实践

  • 2019-09-17
  • 本文字数:732 字

    阅读完需:约 2 分钟

嵌入式深度学习框架研发与落地实践

AICon北京2018大会上,李永会讲师做了《嵌入式深度学习框架研发与落地实践》主题演讲,主要内容如下。


演讲简介


深度学习技术已经在互联网的诸多方向产生影响。该技术近几年在嵌入式领域也得到飞速发展,各种互联网产品都争相在端侧应用深度学习技术,产品对深度学习的引入也将进一步影响用户体验。随着移动设备被广泛使用,在移动互联网产品应用深度学习和神经网络技术已经成为必然趋势。


在移动端应用深度学习技术时往往存在各种各样的问题,由于移动端设备的性能以及包体积、耗电、内存都有很大的局限,这就为深入全面落地相关技术框架带来了很大难度。本次演讲主要从硬件面对的困难讲起,再到落地应用层面的问题解决,以简单搜索 App 为案例全面讲解从汇编到顶层架构实现。


演讲提纲:


  1. 移动端 AI 现状

  2. Paddle-Mobile 介绍

  3. Paddle-Mobile CPU 性能优化

  4. CPU 优化落地简单搜索 APP 场景案例

  5. Paddle-Mobile GPU 性能优化

  6. GPU 优化落地简单搜索 APP 场景案例

  7. FPGA、NPU 等协处理器方案

  8. Paddle-Mobile 硬件支持架构描述

  9. 简单搜索创新体验介绍


听众收益:


  1. 从中可以了解到当下移动端 AI 框架的格局和发展情况

  2. Paddle-Mobile 做为百度移动端唯一深度学习框架的 ARM CPU 和 Mali\Andreno GPU 的性能优化

  3. 对体系结构和硬件知识也可以有一定的深入了解


讲师介绍


李永会


百度 多模搜索部资深工程师


百度大搜索客户端架构师,主要研究方向是嵌入式方向超算性能挑战,对于 Andreno GPU 和 Mali GPU 以及 ARM CPU 投入较多精力研究。目前负责图像搜索相关技术工作,主持移动端深度学习框架 Paddle-Mobile 的研发工作。重点关注嵌入式领域的硬件和体系结构相关研究。工作成果在百度 APP 和简单搜索 APP 多个大型线上 APP 应用。












完整演讲 PPT 下载链接


https://aicon.infoq.cn/2018/beijing/#schedule


2019-09-17 13:591800

评论

发布
暂无评论
发现更多内容

MES系统跟车间设备怎么连接?设备管理后的好处有哪些?

万界星空科技

数据采集 mes 设备管理 万界星空科技 智能设备管理

通过TiOperator备份数据到共享存储

TiDB 社区干货传送门

实践案例 集群管理 故障排查/诊断 备份 & 恢复

Java jdbc 驱动 maxPerformance 配置避坑

TiDB 社区干货传送门

开发语言 应用适配 数据库连接

月活超 1.1 亿,用户超 4 亿,你也在用的「知乎」是如何在超大规模 TiDB 集群上玩转多云多活的?

TiDB 社区干货传送门

实践案例 社区活动 数据库前沿趋势 OLTP 场景实践

Yummy FTP Pro for mac中文直装版 最可靠的ftp文件传输工具

Rose

Mac软件 文件传输工具 ftp传输 Yummy FTP Pro 破解版 Yummy FTP Pro 下载

AI力量:如何让测试更智能更高效

测试人

软件测试

章文嵩等技术大咖共同探讨企业数据治理和降本增效策略运用!

AutoMQ

#云原生 KubeBlocks #Kafka #OceanBase #AutoMQ

数据本地性如何助力企业在云上实现高效机器学习

Alluxio

机器学习 gpu 模型训练 云存储 Alluxio

绕过 MVCC 影响的 TiDB Delete 数据方法

TiDB 社区干货传送门

管理与运维 7.x 实践

【干货】需求驱动的配货

第七在线

金三银四 | 软件测试开发岗求职攻略来袭,快来抢先一步!

测试人

软件测试

容器架构下的性能测试实践方法

老张

性能测试 容器化

TiKV 状态变化

TiDB 社区干货传送门

一文了解TiDB的数据对比工具sync-diff-inspector

TiDB 社区干货传送门

实践案例

微隔离,做到真正零信任

德迅云安全杨德俊

教你用python爬取『京东』商品数据,原来这么简单!

技术冰糖葫芦

API 接口

在 GraalVM 静态编译下无侵入实现可观测探索

阿里巴巴云原生

Java 阿里云 云原生

cURL 命令全面解析:提高工作效率

Apifox

程序员 前端 后端 API curl

DApp 链上合约质押挖矿系统开发丨技术搭建

l8l259l3365

TIDB 分区表使用实践

TiDB 社区干货传送门

6.x 实践

实时计算Flink集成开源连接器-TiDB CDC Connector案例实践

TiDB 社区干货传送门

实践案例 应用适配 数据库连接

万字心路历程:从十年老架构决定重构开始

阿里巴巴云原生

阿里云 云原生 iLogtail

如何使用 NFTScan NFT API 在 Blast 网络上开发 Web3 应用

NFT Research

API NFT\ NFTScan

Puppet 2024年度报告:平台工程发掘 DevOps 无限潜质

SEAL安全

DevOps 平台工程 puppet

详细教程:如何制作产品介绍二维码(二)

草料二维码

二维码 草料二维码 干货分享

开源分布式数据库 TiDB 架构以及HTAP 的实现

TiDB 社区干货传送门

TiDB 底层架构

嵌入式深度学习框架研发与落地实践_AICon_李永会_InfoQ精选文章