写点什么

PAI-TAO:深度学习编译优化技术的探索和实践

  • 2020-02-12
  • 本文字数:686 字

    阅读完需:约 2 分钟

PAI-TAO:深度学习编译优化技术的探索和实践

AICon 北京 2019 大会上,杨军讲师做了《PAI-TAO:深度学习编译优化技术的探索和实践》主题演讲,主要内容如下。


演讲简介


本演讲会分享 PAI 团队在深度学习编译优化技术方向的探索和实践经验,包括优化的整体方法论,具体的设计细节及权衡取舍,工程研发管理、性能评测结果以及具体的业务落地 case 展示。并会结合业界编译优化的技术进展来呈现我们对该领域技术演化的一些思考和认识。


听众受益点


  1. 能够对深度学习编译优化技术方向建立起相对系统完整的普及性认识;

  2. 能够了解到一项底层技术从研发到具体落地过程中的经历脉络;


前言亮点:


  1. 结合我们所看到的业务特点抽象出来的深度学习编译技术方案具备一定的领域差异化;

  2. 在我们的方案里,将深度学习编译优化问题本质上抽象成一个 Design-Space Exploration 的问题,而经典 DSE 作为 NP-hard 问题,往往面临组合爆炸的挑战,我们针对这个挑战,提出了具备一定技术特色的解决方案,并在实际业务里进行了落地验证。


听懂我的演讲,需要具备这些知识储备:


  1. 对深度学习建模知识有基本的认识,能够知道什么是 CNN、RNN、Attention,对模型原理有一定的认识;

  2. 对深度学习引擎有一定的普及性认识;

  3. 最好对于异构计算,比如 GPU 优化,有普及性质的了解。


讲师介绍


杨军,阿里巴巴资深算法专家。


杨军在阿里巴巴计算平台 PAI 团队担任资深算法专家,目前主要负责模型系统联合优化相关工作,他的优化关注点涉及到集群层面的硬件资源效率以及作业本身的执行性能。他对于结合 AI 模型作业特点分析,从模型系统联合视角进行 co-design 优化的技术方向有着比较浓厚的兴趣。












完整演讲 PPT 下载链接


https://aicon.infoq.cn/2019/beijing/schedule


2020-02-12 19:521526

评论

发布
暂无评论
发现更多内容

13.1大数据计算引擎Spark(上)

张荣召

关于代码重构的灵魂三问:是什么?为什么?怎么做?

华为云开发者联盟

重构 代码 代码重构

盘点2020 | 大龄程序员的进化(从自由职业者到讲师)

王磊

盘点2020

13.2大数据计算引擎Spark(下)

张荣召

13.7分类聚类算法

张荣召

未来30年推动全球经济增长的主要动力是数据资产

CECBC

区块链 移动互联网

全面到哭!阿里内部疯传Netty实战文档程序员必须人手一份

比伯

Java 编程 架构 程序人生 编程语言

2020年度综合大盘点:火爆IT业的7大Java技术,每一项都是大写的“牛逼”!

Java 编程 微服务

13.9机器学习与神经网络

张荣召

敏捷规划,让你做一个有计划的开发人

华为云开发者联盟

敏捷 开发 规划

13.6网页排名算法PageRank

张荣召

公安大数据:警务大数据分析系统解决方案

t13823115967

智慧公安

淘宝|蚂蚁|菜鸟|盒马|滴滴|饿了么面经,已拿多个offer(Java岗)

Java架构之路

Java 程序员 架构 面试 编程语言

Alibaba技术专家必知必会的Java技术知识点,掌握这些理论+实践+技术是你通往阿里的路

Java架构之路

Java 程序员 架构 面试 编程语言

13.8推荐引擎算法

张荣召

如果云是水滴,Kubernetes就是水滴管理平台

华为云开发者联盟

云计算 管理 k8s

英特尔下一代10nm Ice Lake处理器登陆腾讯云,星星海自研二路服务器内“芯”强大

E科讯

盘点2020 | 2020年读过的这些书

xcbeyond

读书感悟 盘点2020 七日更

13.3流处理计算:Flink,Storm,Spark Streaming

张荣召

DDIA 读书笔记(7)分布式系统的问题

莫黎

读书笔记 分布式系统

天天CRUD,被领导怼,我是如何从小公司菜鸡到阿里P8架构师?,首次分享Java程序员黄金五年进阶心得

Java架构之路

Java 程序员 架构 面试 编程语言

AlibabaP8架构师整理,283页的Java核心资料pdf文档,学会后月薪4W没问题

Java架构之路

Java 程序员 架构 面试 编程语言

Spark的分布式存储系统BlockManager全解析

华为云开发者联盟

spark 分布式 存储

年轻人不讲武德,乱用索引,你到底走了多少弯路?

比伯

Java 编程 架构 面试 程序人生

13.4大数据基准测试工具HiBench

张荣召

66把锁的门禁系统,告诉你区块链的特点

CECBC

区块链

13.10作业

张荣召

13.5大数据分析与可视化

张荣召

BATJ真题突击:Java基础+JVM+分布式高并发+网络编程+Linux

Java架构之路

Java 程序员 架构 面试 编程语言

Vmware+Centos设置静态IP

千泷

iOS面试基础知识 (三)

iOSer

ios 面试 ios开发

PAI-TAO:深度学习编译优化技术的探索和实践_AICon_杨军_InfoQ精选文章