阿里云飞天发布时刻,领先大模型限免,超7000万 tokens免费体验 了解详情
写点什么

华为云 AI 容器:零基础搭建 AI 计算平台,提升计算效率 50%

  • 2019-11-20
  • 本文字数:1839 字

    阅读完需:约 6 分钟

华为云AI容器:零基础搭建AI计算平台,提升计算效率50%

如今,企业的数字化转型和智能升级必谈 AI,AI 在人们日常生活的中的产品和应用也随处可见,如智能音箱、AI 相机、人脸支付等。


但是,爆炸式增长的数据量、复杂的训练框架和算法,让很多企业现有的 AI 计算平台变得捉襟见肘:计算效率无法满足业务增加诉求,运营运维成本也居高不下。


华为云 AI 容器为客户提供更高性价比的算力,更简化了平台运维,提升 AI 计算效率 50%,加速了 AI 计算在各行业的落地和发展。

计算量 6 年增长 30 万倍 AI 平台扩容成本高

OpenAI 分析报告显示,从 2012 至 2018 年的 6 年时间,AI 训练使用的算力增长了 30 万倍,是同时期摩尔定律增长量的 5 倍。


这意味着,要保持计算速度不变,不能单单依靠芯片能力的升级,还必须增加计算设备投入。而专业 GPU 服务器配以高速网络、高速存储等设备,单台平均成本在 100 万左右,价格高昂,大部分企业难以承担。


系统日趋复杂 AI 平台运维难度激增

首先,不同的业务需要不同的 AI 训练框架、模型、加速库,如何在统一平台上管理不同的训练框架和模型,如何将线下训练快速部署到生产环境带来巨大挑战。


其次,AI 训练和公司业务使用不同的资源管理工具,使得运维团队需要掌握和使用多种资源管理工具,保障 GPU 利用率,增加运维复杂度。


再者, GPU 在集群内被不同业务团队共享,团队间的资源协调也会耗费不少精力。


公有云+容器化:AI 计算平台建设的必选之路

面对上述问题,各企业开始着手构建基于公有云和容器的 AI 计算平台,基于公有云的容器平台,能给客户带来什么样的好处呢?


更快速的获取算力资


面对 AI 计算需要的超大规模算力,自建 IDC 扩容周期长、一次性投入大,后期维护成本高,采用公有云,可以即申请即用,快速补充企业 IDC 算力的不足,同时具备更低的使用成本、无需关注基础设施维护、避免资源闲置造成浪费等优势,成为了客户扩充算力的最佳选择。


降低日常使用和运维难


用户搭建深度学习训练环境,需要准备带 GPU 的机器、安装 Python、TensorFlow、GPU 驱动等,如果要从开发环境到测试环境,再从测试环境到生成环境,涉及环境迁移过程中需要花很大精力来保证环境的一致性。


容器带来的标准化打包能力可以提供了绝佳的解决方案,将相关软件一并打包到镜像中,一次构建,即可在不同平台上运行,极大降低安装、部署的复杂度;同时各容器间相互隔离,可实现多训练框架并存,而且每一个框架都可以独立进行升级而不会影响其他业务,降低的日常运维的难度,让客户可以将更多的 精力集中在 AI 训练上。


但是,我们在与用户交流过程中发现,用户虽然认可公有云+容器的模式,但是在公有云上自建一套容器化的 AI 计算平台,对部分用户仍存在较大的技术门槛,尤其是那些尚未接触过容器的用户。


华为云就此推出了面向 AI 计算场景的容器服务——AI 容器,并于 2018 年在华为全联接大会发布,今年我们对 AI 容器进行了升级,在性能、易用性、可运维等方面都有了很大的提升。

华为云 AI 容器:更易使用和运维 提升 AI 计算效率 50%**

开箱即用 免除基础设施运


AI 容器采用华为云容器实例(CCI)作为基础设施层,得益于 CCI 的 Serverless 架构,用户完全无需关心主机的创建、管理、运维,而只需要在使用时申请所需要的算力资源即可(算力类型、CPU 核数、内存量),省去了基础设施的日常运维工作,用户可以更加专注于 AI 计算本身。


更快速的获取算力资


AI 容器基于全新的 Volcano 平台进行任务调度管理,Volcano 是华为云高性能批量计算平台,具有更高的调度性能,最高可达 1000 容器/秒,将算力获取的效率提升近 10 倍。


同时,有了 Volcano 的加持, AI 容器还可以基于拓扑和资源亲和进行任务调度,根据策略将关联任务调度到同一物理节点或二层网络内,极大的提升了 AI 训练过程中任务间通信及数据交互的效率。


秒级计费 资源性价比更高


AI 训练时客户需要快速、多次计算进行迭代,会对资源进行频繁的申请、释放,AI 容器采用按秒计费和套餐包的计费方式,真正做到按使用付费(PAYU),避免客户采用包周期等方式购买资源后,利用率不足而造成的浪费。


开放生态 支持主流训练框


随着 AI 平台容器化的深入,大量训练框架都已发布其容器版本,AI 容器目前已支持 Tensorflow, Caffe, Mxnet, Pytorch, MindSpore 等近十种主流训练框架,用户可以将训练代码平滑的迁移上云。


多样算力 用户选择更加灵活


AI 容器的能提供昇腾、鲲鹏、x86 和 GPU 等类型的算力资源,用户可以实现一套平台运行不同类型的应用,根据应用特点灵活选择算力资源,达到资源的最优配置。


添加小助手微信,加入【容器魔方】技术社群。



2019-11-20 19:021839

评论

发布
暂无评论
发现更多内容

京东广告研发——AIGC在京东广告创意的技术应用

京东科技开发者

手把手教你实现 OceanBase 数据到 Apache Doris 的便捷迁移|实用指南

SelectDB

数据库 大数据 数据分析 数据同步 数据迁移

Monibuca v5 实现零拷贝 BufReader

不卡科技

Go 性能优化 流媒体

通义灵码牵手阿里云函数计算 FC ,打造智能编码新体验

阿里巴巴云原生

阿里云 云原生 函数计算 通义灵码

PIRF-395

Echo!!!

English

mac电脑如何使用Linux系统?PD虚拟机安装Linux系统详细教程

Rose

Linux系统 mac电脑 pd虚拟机 19

CorelDRAW 2024(cdr2024注册机)最新图文安装教程

Rose

CorelDRAW2024下载 CorelDRAW破解补丁 CorelDRAW中文版安装 cdr2024安装教程

实践展示openEuler部署Kubernetes 1.29.4版本集群

华为云开发者联盟

Kubernetes 华为云 集群 华为云开发者联盟 企业号2024年4月PK榜

阿里巴巴1688商品API实战:批量抓取价格、标题、图片及库存数据

技术冰糖葫芦

api 货币化 API 接口 pinduoduo API

DBAIOps生态概述

DBAIops社区

数据库 运维

文心大模型“你说我画”:PaddleHub与PaddleSpeech的协同实践

百度开发者中心

人工智能 NLP 大模型 大模型

DBAIOps关键SQL监控功能

DBAIops社区

数据库 运维 监控

根据Nginx Ingress指标对指定后端进行HPA

华为云开发者联盟

nginx 开发 华为云 华为云开发者联盟 企业号2024年4月PK榜

macos big sur 软件icons图标大全(新增至2719枚大苏尔风格图标)

Rose

icons图标大全 macos big sur 软件

OpenHarmony napi开发-公开课

Laval小助手

实战剖析-vue项目首屏加载时长优化

京东科技开发者

Datax助力轻松迁移SQLServer数据至GreatSQL

GreatSQL

通义灵码牵手阿里云函数计算 FC ,打造智能编码新体验

阿里云云效

阿里云 云原生 通义灵码

库洛游戏宣布《战双帕弥什》将启动鸿蒙原生应用开发

最新动态

ChatGPT助力测试领域!探索人工智能编写测试用例的新前景

测试人

软件测试

轻松复现一张AI图片

程序那些事

人工智能 程序那些事 4月月更 openai

利用飞桨与文心大模型重塑大宗商品数字供应链

百度开发者中心

深度学习 大模型

短视频评论提取工具软件介绍|评论采集下载爬取

Geek_16d138

润和软件成功举办2023-2024年openEuler技术委员会会议

科技热闻

体验稳定强大的数据处理神器——Microsoft Excel LTSC 2021

Rose

Excel 数据分析 Excel 2021破解版 Excel 2021永久版 Excel 许可证

低代码技术与仓储管理的新纪元:革命性的供应链变革

天津汇柏科技有限公司

低代码 仓储系统

国密数据加密在堡垒机上的应用有哪些?

行云管家

信息安全 数据加密 堡垒机 国密

入职3年-我如何做一名AI产品经理

京东科技开发者

ChatGPT助力测试领域!探索人工智能编写测试用例的新前景

测吧(北京)科技有限公司

测试

最新版Spring Security 中的路径匹配方案!

江南一点雨

Java spring security

华为云AI容器:零基础搭建AI计算平台,提升计算效率50%_软件工程_华为云原生团队_InfoQ精选文章