写点什么

K8s 为 AI 应用提供大规模 GPU 算力之实践

  • 2019-08-11
  • 本文字数:442 字

    阅读完需:约 1 分钟

K8s 为 AI 应用提供大规模 GPU 算力之实践

QCon北京2019大会上,李程讲师做了《K8s 为 AI 应用提供大规模 GPU 算力之实践》主题演讲,主要内容如下。


演讲简介


华为云 CCI 服务管理数百个 GPU 卡,为华为云 EI 服务及外部客户提供 AI 计算平台,在该过程中积累了大量面向 AI 计算的优化经验。AI 计算加速的关键是 GPU 管理,K8S 资源调度优化,面向 AI 计算框架和模型的 Job/Task 调度。通过这些优化手段可以使得 128 块 GPU 卡的线性加速比达到 0.8+。本次议题将介绍如何通过开源项目 K8S + Kata 容器搭建 AI 计算平台,最大化 GPU 及 AI 芯片算力的使用效率,并给出测试结果。最后我们也会对未来的技术改进做出展望。

听众受益

  1. 了解基于 K8S 的 AI 框架的现状;

  2. 了解大规模 GPU 在 AI 分布式训练场景下的应用;

  3. 了解 K8S 在人工智能场景下的优化思路。


讲师介绍


李程


华为 高级软件架构师


2011 年加入华为,先后参与网络软件平台、SDN、公有云容器服务等产品的架构设计工作,目前任华为 Serverless 容器服务 CCI 架构师。












完整演讲 PPT 下载链接


https://qcon.infoq.cn/2019/beijing/schedule


2019-08-11 00:002036

评论

发布
暂无评论
发现更多内容

诚邀报名|与你同行——开源教育晨雾中的早行者

开放原子开源基金会

开源

软件测试/测试开发|selenium NoSuchDriverException问题解决

霍格沃兹测试开发学社

Seata:打造行业首个分布式事务产品

阿里巴巴云原生

阿里云 云原生 dubbo

拐点已至?2023中国企业数智化应用年度洞察

B Impact

大数据时代:我对大数据的发展趋势与前景展望

屿小夏

大数据

诚邀报名|来开源项目维护者论坛,为项目可持续发展贡献您的声音

开放原子开源基金会

开源

精彩回顾 | 《国产数据库共话未来趋势》技术沙龙成功举办!

阿里云数据库开源

数据库 阿里云 开源社区 polarDB 线下沙龙

一款双极锁存型霍尔位置传感器

芯动大师

创梦天地与华为达成鸿蒙合作

新消费日报

智能高效|AIRIOT智慧货运管理解决方案

AIRIOT

物联网 智慧货运 智慧系统

如何写好Prompt,让GPT 的回答更加精准

Bob Lin

人工智能 openai ChatGPT GPT-4 langchain

金融行业核心系统最佳搭档|如何基于PolarDB分布式版打造两地三中心架构?

阿里云瑶池数据库

金融行业 阿里云; 阿里云瑶池数据库

宏 | AI工程化部署

AIWeker

c AI AI工程化部署

#issue 111538 MySQL 8.0 instant add/drop column 性能回退问题

ba0tiao

MySQL InnoDB

倒计时3天|开源开发者的技术年末盛典即将开启

开放原子开源基金会

开源

【Web安全】DVWA漏洞靶场搭建流程(win系统下)

Geek_Angel

网络安全 WEB安全 DVWA 实验靶场

Chappyz 生态迎重磅利好:多链应用程序启动、100% 收入共享计划开启

股市老人

诚邀报名|探寻AI融合的前端开发之道:解除焦虑,构建核心竞争力

开放原子开源基金会

开源

5G和云渲染将如何快速推进XR和元宇宙?

3DCAT实时渲染

云渲染 元宇宙解决方案

华为终于开奖了,结果有点可笑

Jackpop

软件测试/测试开发|测试用例设计方法——等价类划分

霍格沃兹测试开发学社

从一份IDC行业报告,解开智慧园区的“达·芬奇密码”

脑极体

AI 数字园区

软件测试/测试开发|Ubuntu系统常用文件管理命令详解

霍格沃兹测试开发学社

C 语言运算符详解

小万哥

c c++ 程序员 后端 软件开发

脉脉宣布全员下调,华为莫名奇妙躺枪。。。

Jackpop

使用 Amazon Fault Injection Service 演示多区域和多可用区应用程序弹性

亚马逊云科技 (Amazon Web Services)

S3 Amazon EC2 Amazon RDS Amazon DynamoDB Amazon ECS

centos 7.6安装sealos和单机集群

麦兜

web3钱包进阶!从入门到精通,Bitget实现逆袭

股市老人

K8s 为 AI 应用提供大规模 GPU 算力之实践_QCon_李程_InfoQ精选文章