发布在即!企业 AIGC 应用程度测评,3 步定制专属评估报告。抢首批测评权益>>> 了解详情
写点什么

AWS 正式把 KVM 投入使用 你需要知道些什么?

  • 2017-11-09
  • 本文字数:2946 字

    阅读完需:约 10 分钟

如之前 InfoQ 中文站所报道, AWS 在 11 月 6 日推出新的实例类型 C5 ,其中采用了新的虚拟化引擎——一款 AWS 自家定制的 KVM。这可能意味着 AWS 从 2006 年启动时就开始使用并持续优化至今的 Xen 技术栈,将逐渐淡出这一体量庞大的云计算平台。

关于 Xen 与 KVM

Xen 最早是剑桥大学的一个研究项目。该项目在 2003 年以开源协议发布后,先后经历了 XenSource 公司、Citrix 公司、Linux 基金会等组织的领导,其技术阵营包含了 Citrix、IBM、Intel、HP、Novel、红帽、Sun、Oracle、Amazon、AMD、Bromium、CA Technologies、Calxeda、Cisco、Google、三星、以及 Verizon 等业界巨头。

KVM(Kernel-based Virtual Machine,直译为“基于内核的虚拟机”),最早是以色列初创企业 Qumranet 发布的开源项目。该项目在 2007 年被合并入 Linux 内核代码——这对 KVM 而言是非常重要的一个节点,该公司则在 2008 年被红帽收购。KVM 技术差不多到 2010 年之后进入成熟阶段,该技术阵营目前包括红帽、SUSE、Linaro(ARM)、IBM、Intel、Google、Oracle 等业界巨头,国内的华为、阿里巴巴、腾讯等也均有参与。

在 AWS 启动的 2006 年,Xen 还是当时最成熟的虚拟化引擎技术(对于 Linux 操作系统而言),而 KVM 项目还没有出现在大家的视野中。因此,AWS 在早期技术选型当中采用了 Xen,成为其弹性计算的底层基础。(此外,2009 年启动的阿里云也因为当时 KVM 还不成熟的原因采用了 Xen,不过两家一直未停止过对 KVM 的关注与投入,阿里云更是在数年前就已经推出了基于 KVM 的主机。另外,2011 年启动的 Google Cloud 从一开始就采用了 KVM 引擎。)

AWS 的用户需要知道什么?

首先,AWS 的用户现在已经可以将自己跑在 C4 实例上的主机切换到 C5,前提是:

  • 现在已经推出 C5 的区域有 US East (Northern Virginia)、US West (Oregon)、EU (Ireland) Regions,目前要用 C5 的话只能在这三个区,其他区还得等等。
  • AMI 镜像的操作系统必须包含 ENA 和 NVMe 的驱动,因为 C5 的网络和存储功能是在硬件层面实施的。AWS 平台上提供的最新版 AMI 镜像,包括 Amazon Linux、Microsoft Windows (Windows Server 2012 R2 以及 Windows Server 2016)、Ubuntu、RHEL、CentOS、SLES、Debian、FreeBSD,现在都支持。同理,如果你制作自己的 AMI,也是一样的要求。

Reddit 网站上已经有用户在分享自己的切换过程,感兴趣的读者可以前往查看或提问。Jeff Barr 也会在那里回复一些问题。

C5 实例可以选择的实例尺寸见下表:

Instance Name vCPUs RAM EBS Bandwidth Network Bandwidth c5.large 2 4 GiB Up to 2.25 Gbps Up to 10 Gbps c5.xlarge 4 8 GiB Up to 2.25 Gbps Up to 10 Gbps c5.2xlarge 8 16 GiB Up to 2.25 Gbps Up to 10 Gbps c5.4xlarge 16 32 GiB 2.25 Gbps Up to 10 Gbps c5.9xlarge 36 72 GiB 4.5 Gbps 10 Gbps c5.18xlarge 72 144 GiB 9 Gbps 25 Gbps 其次,如果你已经用上了 C5,想用它跑一些机器学习的推断(inferencing)任务或者类似的计算任务,可以看一下这个 Intel Math Kernel Library 。C5 的处理器用的是 3.0 GHz Intel Xeon Platinum 8000 系列,这款专为 EC2 做过优化的处理器配合上面那个数学库可能会有很好的性能。

此外,C5 还增加了每个 vCPU 的内存。对于兼容 AVX-512 指令集的代码而言,矢量操作和浮点操作的性能甚至可以翻倍。

切换到 C5 之后,由于运行在新虚拟化引擎上的实例是通过 NVMe 接口从 EBS 卷上启动的,而运行在 Xen 上的实例是从一个模拟 IDE 硬盘上启动、再切换到 Xen 的半虚拟块存储驱动上的,所以虽然操作系统(OS)能够识别自己正运行在哪个虚拟化引擎上,但如果软件本身假设底层的虚拟化引擎是 Xen 并依赖于该假设,则可能会引发一些问题。

但总体来说,AWS 表示只要 OS 层面能够支持 ENA 网络和 NVMe 存储,则大部分软件都能正常工作。AWS 还表示,其他的 EC2 功能并不会受到影响。

如果你是 AWS EC2 API 的重度用户,担心这次虚拟化引擎的变更会对 API 造成什么变化,则不用担心了: AWS 在其 FAQs 页面中表示其对外公开的 API 完全不会因为引入新的虚拟化引擎而有任何改变。

KVM 在 EC2 上的正式启用对 AWS 意味着什么?

作为计算资源服务的提供方,提升性能、降低成本是永恒的话题。

Xen 最初设计时,x86 架构尚未引入虚拟化扩展功能,所以 Xen 为了实现 Linux 系统的虚拟化,就把 Linux 内核给改了——这就相当于在之后的十几年里,Xen 一直维护着一套自己的 Linux 内核版本,所以上游 Linux 内核社区的很多新的好东西,它要费一番功夫才能移植进来,这就造成了很大的维护成本。

而另一方面,因为 KVM 项目是合并在 Linux 内核代码中的,维护起来就非常容易。Linux 内核上游社区的研发势能是非常大的,在这种情况下,KVM 的发展速度迅猛,在稳定性、性能方面的提升很快赶超了 Xen,受到很多技术人与企业的青睐。

EC2 是 AWS 的基石,虚拟化引擎又是 EC2 的基石。由于 AWS 是一套构建多年的、庞大而复杂的系统,很多功能会对 Xen 有所依赖,要让这套系统同时稳定的支持 Xen 与 KVM,是一项非常复杂的工作。所以 C5 的推出,意味着 AWS 这套系统已经脱离了对 Xen 的完全依赖。

对 AWS 而言,基于 KVM 的系统要比基于 Xen 的系统的维护成本更低,这是一方面。

另一方面,可能也与性能有关。按 AWS 首席布道师 Jeff Barr在博客中所说,C5 在性价比方面相比C4 提升了25%,针对有些任务甚至可以达到50%——这是针对用户而言。要知道对于AWS 今天这样的体量,哪怕是1% 的节省都是巨大的;如果有25% 这样比例的性价比提升,则绝对是势在必行,无论花费多大代价也要上。当然这其中的性能提升有多少是来自新的硬件,有多少是来自KVM,这就不一定了。

此外,AWS 首先在“计算密集型实例”(compute-intensive)上正式采用KVM,而不是从通用型、内存密集型等其他类型上开始,可能是因为考虑到计算密集型业务的I/O 操作较少,比较独立,耦合性比较小,因此更容易替换的原因。

这次改变对于业界有什么影响?

从市场占有率的角度来看,就是Xen 的最后一个大体量的用户对Xen 说,以后我不再需要你了。

如果说以前还有业界传言说AWS 在Xen 上投入太过巨大、依赖太重,所以AWS 将一直支持Xen 的话,那么现在这个传言已经宣告终结。毕竟,如果连AWS 都以实际行动表示切换到KVM 的收益大于成本了,那么那些体量更小的Xen 用户还能对Xen 有什么更多的期待呢?

所以对于未来的市场而言,这次改变也许象征着Xen 的使命已经结束了。对于过去的市场而言,Xen 的使命就是让那些仍然跑在Xen 上的业务们能够继续平稳运行。不过这里面还有一个变数就是 Unikernel ,那就是另一个话题了。

从上游社区的角度,影响可能不大,因为 Amazon 一直不是个活跃的开源社区参与者。即使作为最大的 Xen 用户那么多年,Amazon 对 Xen 上游社区的代码贡献数量却是屈指可数。所以对于 KVM 项目,可能我们未来也不大会看到很多来自 Amazon 的代码贡献。

从技术发展的角度,这是个大趋势下技术更新换代的必然——也许从 KVM 被合并到 Linux 内核代码的那时起就已经种下了种子吧。

总结

关于 AWS 此次拥抱 KVM 的 C5 发布,目前公开的信息就总结到此。11 月 27 日到 12 月 1 日期间的 AWS re:Invent 2017,InfoQ 中文站记者会在前线报道,敬请期待!

感谢吴峰光对本文的贡献。

2017-11-09 18:013593

评论

发布
暂无评论
发现更多内容

如何让OpenHarmony编译速度“狂飙”

离北况归

OpenHarmony

9种跨域方式实现原理

华为云开发者联盟

开发 华为云 企业号 2 月 PK 榜 华为云开发者联盟

泰山众筹sun4.0矩阵合约系统开发搭建

开发微hkkf5566

带你读论文丨S&P21 Survivalism: Living-Off-The-Land 经典离地攻击

华为云开发者联盟

人工智能 华为云 论文 企业号 2 月 PK 榜 华为云开发者联盟

行云洞见|为何行业权威都预测“云原生IDE 将成为常态”?

行云创新

ide 云原生 云端IDE Cloud IDE TitanIDE

单线程架构的Redis如此之快的 4 个原因

JAVA旭阳

redis 缓存

谈谈我工作中的23个设计模式

阿里巴巴中间件

阿里云 云原生

RocketMQ Streams拓扑构建与数据处理过程

Apache RocketMQ

RocketMQ 消息列队

如何通过jstat命令进行查看堆内存使用情况

华为云开发者联盟

后端 开发 华为云 企业号 2 月 PK 榜 华为云开发者联盟

理论+实践,教你如何使用Nginx实现限流

华为云开发者联盟

后端 开发 华为云 企业号 2 月 PK 榜 华为云开发者联盟

APISIX Ingress 如何使用 Cert Manager 管理证书

API7.ai 技术团队

证书 api 网关 APISIX Ingress Controller

NFTScan 正式上线 Fantom 网络 NFTScan 浏览器和 NFT API 数据服务

NFT Research

NFT 数据基础设施

10大知识管理软件厂商有对比

PingCode

项目管理 知识管理软件

线上网络丢包引起的接口响应时间过慢,快速排查案例

KINDLING

Java 运维 网络 丢包 eBPF&Linux

LeaRun快速开发平台:自由搭建个性化门户

力软低代码开发平台

全景剖析阿里云容器网络数据链路(三):Terway ENIIP

阿里巴巴云原生

阿里云 云原生 云原生容器

开心档-软件开发入门之MongoDB 覆盖索引查询

雪奈椰子

mongodb Ppython 操作mongodb库 开心档

开心档-软件开发入门之MongoDB 创建集合

雪奈椰子

mongodb 开心档

OpenHarmony标准系统内核学习【2】CPU轻量级隔离特性

离北况归

OpenHarmony

MySQL中的distinct和group by哪个效率更高?

Steven

如何用Apipost校验响应结果

爱研究代码的极客人

APi设计 JSON Schema apipost

基于GIS+WebGL智慧消防3D可视化云控系统

2D3D前端可视化开发

智慧消防 消防物联网云平台 消防三维可视化 智慧消防系统 消防云控平台

简单概述Serverless

天翼云开发者社区

实战分享 | 金融数据采集报送平台实践

葡萄城技术团队

SparK 用稀疏掩码为卷积设计 Bert 预训练

Zilliz

计算机视觉

工业生产环境下,时序数据库 TDengine 如何打造全面有效的数字化监控?

TDengine

数据库 tdengine 时序数据库

CompletableFuture实现异步转同步

FunTester

聊聊Docker镜像

天翼云开发者社区

Docker 镜像

使用Jira盗版会存在的6大风险

PingCode

项目管理 软件开发 软件管理

单线程 Redis 如此之快的 4 个原因

C++后台开发

redis 中间件 后端开发 单线程 C++开发

新年新气象,老兵开新坑

致知Fighting

Java Go 服务器

AWS正式把KVM投入使用 你需要知道些什么?_亚马逊云科技_sai_InfoQ精选文章