写点什么

华为云首发两大神器,让人工智能触手可及

2020 年 3 月 30 日

华为云首发两大神器,让人工智能触手可及

8 月 28 日,华为云中国行 2018 走进天府之国成都。在活动现场,华为云一连发布两款创新产品,让华为云全栈服务能力再上一级台阶。据华为 EBG 中国区行业云拓展部部长胡维琦介绍,两款新品分别是国内首家 Istio 服务网格产品和全球首家 GPU 共享型高性能 AI 容器。在会后,记者采访了这两款新品的技术专家,请专家更为详细地介绍了产品的相关性能,以及对用户的价值。


GPU 共享型高性能 AI 容器: 让 AI 用得起,用得好,用的放心

记者还记得,在 2017 年 11 月,华为云发布了裸金属容器服务,集成了稳定性、灵活性、安全性、高性能多重优势。而此次发布的 GPU 共享型高性能 AI 容器,则是叠加在裸金属服务器之上,增加了一些专门针对 AI 领域的技术,性能更高,算力更强。


华为容器技术专家告诉记者,之所以会研发推出 GPU 共享 AI 容器,最重要的出发点就是考虑到最大程度满足用户需求。众所周知,GPU 成本昂贵,一般的企业如果想用 AI 技术去做人工智能应用,成本无疑是拦路虎之一。而华为云推出 GPU 共享 AI 容器,就能够大幅度降低 AI 计算的成本,同时提升性能。


华为容器技术专家举了一个例子:


深度学习的模型训练非常耗 GPU 资源,如果 GPU 性能没有充分发挥,那训练效率是非常低的,可能花很长时间才能训练出一个模型。而如果使用 AI 容器,采用 NUMA 架构,加上高速的 100GB 的 IB 网卡,再配合高性能 GPU,就可以获得一个非常高的 AI 计算性能。“我们的口号就是能够让大家都能用得起,用得好,也用的放心。”


记者采访得知,GPU 共享型高性能 AI 容器的主要受众群体就是做人工智能的企业,满足他们在人工智能方面的开发需求,并提供一些典型的应用,例如深度学习训练、深度学习推理、图像人脸识别、文字识别等。记者了解到,这款新品在市场上其实已经有了一些实践,在城市安防领域、智能交通领域都大有用武之地。


说易行难,GPU 优化的门道原来这么多!

目前市场上常见的模式是,用户把 GPU 挂载到某一个容器上,成为它的一个资源,然后就可以使用了。但在 AI 场景中,尤其是推理计算,并不需要用到整块或多块 CPU,只需要使用其中一部分,因此华为做了两点优化工作:一是把同一块 GPU 挂给不同容器,并且与容器自身的 CPU、Mem、网络做配合;另一点是在调度方面做修改,通过 K8S 做资源的共享控制。如此一来,就能够实现一块 GPU 共享给多个容器。


“这个产品还是有一定技术门槛的,最关键的技术难度就在于对 K8S 的调度以及对 OS 内核的改动。” 华为容器技术专家表示,首先需要精通 K8S 的调度引擎,才能对调度引擎进行修改和优化,其次还需要对 OS 操作系统层面有非常深入的积累。总体而言,需要对 K8S 调度机制、操作系统、GPU 驱动以及裸金属 NUMA 架构、IB 网卡等技术有一个综合的理解和积累,并将其融合起来。“华为在这两块是有长期的深厚积累,而且华为的优势在于技术的全面性,能够将上述技术整合在一起,提供一个端到端的容器全栈解决方案。”


Istio 服务网格:因客户需求催生,共同走向成熟

本次华为发布另外一个新品是 Istio 服务网格产品,这款产品可以与 CCE 容器引擎深度整合,提供非侵入、智能流量治理的应用全生命周期管理方案,增强了华为云容器服务全栈能力。


服务网络(Service Mesh)在美国已有两年左右的发展时间,而在国内则是从 2017 年下半年才开始被关注,的确是一个比较新的热点,可能会有人质疑国内 Service Mesh 新产品的成熟度。对此华为容器技术专家表示,华为之所以会快速推出这个产品,主要是因为华为云的容器客户在把应用大规模搬迁到容器上时会遇到了一些问题,例如如何做应用运行时的治理,包括限流、流控等,如何保障业务不被外部流量冲垮,而这些问题通过 Istio 服务网格可以得到非常好的解决。


“Istio 服务网格最核心的理念是它完全基于业务属性,能够让容器上的业务更稳定。” 华为容器技术专家表示,华为云的很多客户已经在尝试使用 Istio,自己也已经在安装 Istio,而客户经常会因为 Istio 的问题来询问华为云,因此华为干脆就推出了 Istio 服务,更好地服务用户。“我相信随着应用的扩大和深入,华为云会和客户一起催动 Istio 慢慢成熟。”


华为 Istio 不仅好用,而且安全

在华为容器技术专家看来,Istio 服务的优势是十分明显的,首先它对应用的代码是无侵入式的,不需要修改代码,使用起来很方便;其次它能够实现应用服务之间的流量治理限流,治理功能比较全面;最后,它与 K8S 的整合性比较好,能够提供端到端的灰度发布流程。


对于华为云 Istio 而言,华为云力求做到让客户直接启用,不再需要繁琐的安装部署、监控运维。当谈及 Istio 安全性时,华为容器技术专家认为,安全性的确是需要重点考虑的因素,目前 Istio 也在着力解决,华为会持续深入研究这个领域的技术并落地到产品中。


目前 Istio 与华为云上的容器全栈服务,包括 CCE 云容器引擎、CCI 云容器实例,同时也与 APM 应用性能管理、AOM 运维管理服务都可以无缝整合。


Istio 服务网格和 AI 容器现已在华为云开放公测,公测期间用户可以直接在 CCE 里启用 Istio,享受一站式体验。


本文转载自 华为云产品与解决方案 公众号。


原文链接:https://mp.weixin.qq.com/s/sau7IwejQbIGc831huRBXw


2020 年 3 月 30 日 10:45325

评论

发布
暂无评论
发现更多内容

SQL数据库:CASE表达式

正向成长

CASE表达式

关于linux操作系统中的buff/cache

程序员架构进阶

Linux cache buffer

#不吐不快# IT职场里的奇葩经历

InfoQ写作平台官方

职场搞笑 活动专区 奇葩的经历

亿级大表分库分表实战总结(万字干货,实战复盘)

云流

学习 编程 架构 计算机网络

「Spring Boot 2.4 新特性」一键构建Docker镜像

AI乔治

Java Docker 架构

“3+3”看华为云FusionInsight如何引领“数据新基建”持续发展

华为云开发者社区

数据库 新基建 华为云

《精通lambda表达式:Java多核编程》.pdf

田维常

Lambda

那个小白还没搞懂内存溢出,只能用案例说给他听了

田维常

内存溢出

刷Github时发现了一本阿里大神的算法笔记!标星70.5K

Java架构师迁哥

干货!直观地解释和可视化每个复杂的DataFrame操作

计算机与AI

Python pandas 数据处理

覆盖全网的阿里微服务架构有多牛:K8S+实战+笔记+项目教程

Java~~~

Java 程序员 微服务 Spring Cloud 阿里云 K8S

企业工作流设计原则及注意事项

力软.net/java开发平台

工作流

云算力挖矿模式系统开发,云算力平台搭建

13530558032

React Fiber 是什么?

局外人

react.js 前端 React

【乘风破浪的开发者】丁一超:从AI实战营出发探索未知的AI世界

华为云开发者社区

华为 AI modelarts

数字货币交易所功能,场外OTC交易所开发公司

13530558032

牛批!2w字的Java集合框架面试题精华集(2020最新版),赶紧收藏。

Java架构之路

Java 程序员 架构 面试 编程语言

这套JVM核心知识你要全都会,月薪还不过18K可以直接跳槽了

小Q

Java 学习 架构 面试 JVM

拒招中国程序员后,开源平台 GitLab 又开始大规模封杀开发者账户

Java架构师迁哥

SQL数据库:子查询和关联子查询

正向成长

SQL子查询 SQL关联查询

多线程问的太深入不知道怎么回答,从volatile开始给你讲清楚

小Q

Java 学习 面试 volatile 多线程

USDT币支付系统开发搭建,区块链承兑商支付平台

13530558032

usdt区块链支付系统开发,承兑支付平台搭建

WX13823153201

usdt区块链支付系统开发

从红黑树的本质出发,彻底理解红黑树!

996小迁

Java 架构 面试 程序人生

报告显示国际区块链监管呈三大趋势

CECBC区块链专委会

区块链 货币 监管

遥感影像处理有高招,“专治”各类花式并发的述求!

华为云开发者社区

容器 k8s 遥感

anyRTC AI降噪|让声音更清晰

anyRTC开发者

人工智能 AI 音视频 WebRTC RTC

MySQL全面瓦解—子查询和组合查询

比伯

Java 编程 程序员 架构 计算机

数字货币钱包开发费用,区块链钱包开发优势

13530558032

Alibaba首发的《Java技术成长笔记》,渴望提升自己的程序员的必备宝典!

Java架构之路

Java 程序员 架构 面试 编程语言

亿级大表分库分表实战总结(万字干货,实战复盘)

比伯

Java 编程 程序员 架构 计算机

华为云首发两大神器,让人工智能触手可及-InfoQ