写点什么

专访 RocketMQ 联合创始人:项目思路、技术细节和未来规划

2017 年 2 月 20 日

编者按

这些年开源氛围越来越好,各大 IT 公司都纷纷将一些自研代码开源出来。2012 年,阿里巴巴开源其自研的第三代分布式消息中间件——RocketMQ。经过几年的技术打磨,阿里称基于 RocketMQ 技术,目前双十一当天消息容量可达到万亿级。

2016 年 11 月,阿里将 RocketMQ 捐献给 Apache 软件基金会,正式成为孵化项目。阿里称会将其打造成顶级项目。这是阿里迈出的一大步,因为加入到开源软件基金会需要经过评审方的考核与观察。坦率而言,业界还对国人的代码开源参与度仍保持着刻板印象;而 Apache 基金会中的 342 个项目中,暂时还只有 Kylin、CarbonData、Eagle 和 RocketMQ 共计四个中国技术人主导的项目。

2017 年 2 月 20 日,RocketMQ 正式发布 4.0 版本,专家称新版本适用于电商领域,金融领域,大数据领域,兼有物联网领域的编程模型。

RocketMQ 项目,究竟用怎样的技术内涵?缘何赢得了基金会的初步认可?入驻基金会可以给技术圈哪些启示?InfoQ 带着这样的疑问对两位项目联合创始人进行了专访,内容整理如下。

受访者简介

王小瑞,花名誓嘉,阿里巴巴中间件消息团队负责人,具有丰富的高可用,高可靠分布式系统构建经验,主导了阿里巴巴多次双十一消息引擎的改进优化项目,拥有多项分布式领域的专利。Apache RocketMQ 联合创始人。联系方式: vintagewang@apache.org

冯嘉,花名鼬神,阿里巴巴中间件架构师,具有丰富的分布式软件架构、高并发网站设计、性能调优经验,拥有多项分布式领域的专利。开源爱好者,专注分布式、大数据领域,关注 Hbase/Hadoop/Spark/Flink 等大数据技术栈。目前负责阿里消息中间件生态输出、云上商业化,Apache RocketMQ 联合创始人。联系方式: vongosling@apache.org

RocketMQ 的 **** 由来

谈起 RocketMQ 的亮点,那不得不先提一下阿里巴巴消息引擎的演进史。阿里中间件消息引擎发展到今日,前前后后经历了三代演进。

第一代,推模式,数据存储采用关系型数据库。在这种模式下,消息具有很低的延迟特性,并且很容易支持分布式事务。尤其在阿里淘宝这种高频交易场景中,具有非常广泛地应用。典型代表包括 Notify、Napoli。

第二代,拉模式,自研的专有消息存储。在日志处理方面能够媲美 Kafka 的吞吐性能,但考虑到淘宝的应用场景,尤其是其交易链路的高可靠需求,消息引擎并没有一味的追求吞吐,而是将稳定可靠放在首位。因为采用了长连接拉模式,在消息的实时方面丝毫不逊推模式。典型代表 MetaQ。

第三代,以拉模式为主,兼有推模式的高性能、低延迟消息引擎 RocketMQ,在二代功能特性的基础上,为电商金融领域添加了可靠重试、基于文件存储的分布式事务等特性,并做了大量优化。从 2012 年开始,经历了历次双 11 核心交易链路检验。目前已经捐赠给 Apache 基金会。时至今日,RocketMQ 很好的服务了阿里集团大大小小上千个应用,在双 11 当天,更有不可思议的万亿级消息流转,为集团大中台的稳定发挥了举足轻重的作用。

不难看出,RocketMQ 其实是伴随着阿里巴巴整个生态的成长,逐渐衍生出来的高性能、低延迟能够同时满足电商领域和金融领域的极尽苛刻场景的消息中间件。

RocketMQ 的技术概览

在我们看来,它最大的创新点在于能够通过精巧的横向、纵向扩展,不断满足与日俱增的海量消息在高吞吐、高可靠、低延迟方面的要求。

目前 RocketMQ 主要由 NameServer、Broker、Producer 以及 Consumer 四部分构成,如下图所示。

所有的集群都具有水平扩展能力,无单点障碍。

NameServer 以轻量级的方式提供服务发现和路由功能,每个 NameServer 存有全量的路由信息,提供对等的读写服务,支持快速扩缩容。

Broker 负责消息存储,以 Topic 为纬度支持轻量级的队列,单机可以支撑上万队列规模,支持消息推拉模型,具备多副本容错机制(2 副本或 3 副本)、强大的削峰填谷以及上亿级消息堆积能力,同时可严格保证消息的有序性。除此之外,Broker 还提供了同城异地容灾能力,丰富的 Metrics 统计以及告警机制。这些都是传统消息系统无法比拟的。

Producer 由用户进行分布式部署,消息由 Producer 通过多种负载均衡模式发送到 Broker 集群,发送低延时,支持快速失败。

Consumer 也由用户部署,支持 PUSH 和 PULL 两种消费模式,支持集群消费和广播消息,提供实时的消息订阅机制,满足大多数消费场景。

经历双 11 洗礼的英雄

在备战 2016 年双十一时,团队重点做了两件事情,优化慢请求与统一存储引擎。

  • 优化慢请求:这里主要是解决在海量高并发场景下降低慢请求对整个集群带来的抖动,毛刺问题。这是一个极具挑战的技术活,团队同学经过长达 1 个多月的跟进调优,从双十一的复盘情况来看,99.996% 的延迟落在了 10ms 以内,而 99.6% 的延迟在 1ms 以内。优化主要集中在 RocketMQ 存储层算法优化、JVM 与操作系统调优。更多的细节大家可以参考我们之前写的电子书章节《万亿级数据洪峰下的分布式消息引擎》

  • 再来看看统一存储引擎:主要解决的消息引擎的高可用,成本问题。在多代消息引擎共存的前提下,我们对 Notify 的存储模块进行了全面移植与替换。

这样下来,阿里巴巴内部的消息中间件就全面拥抱了 RocketMQ 的低延迟存储引擎。基于上述积极的技术准备,在 16 年双十一期间,阿里集团大约有 1.2 万亿级的消息流转总量,几乎是 15 年双十一大促的 2 倍。峰值期间,消息生产的吞吐在 2000 w/s 左右,消息消费的吞吐也近乎 1500 w/s 的量级。整个大促下来,用我们内部的话来说,如丝般顺滑。

RocketMQ VS 其他几个消息中间件

请从技术构思、实践表现和适用场景三个大方向对 RocketMQ、RabbitMQ、Kafka、ActiveMQ 和 ZeroMQ 进行对比?除了技术上的较量,可否对这些中间件背后的社区运营、商业案例应用,进行对比呢?

1、是不是 CS 架构?

如果需要做同类产品之间的横向对比,我们优先拿下 ZeroMQ,ZeroMQ 正如其名 0MQ,它更像是一个嵌入式的网络类库,一个专注于 transports 层的通讯组件,而不是传统意义上的 CS 架构的 MQ。

2、实现的哪种规范 / 协议?

接下来我们来看看 RabbitMQ、ActiveMQ、Kafka 和 RocketMQ 之间的一些对比,从设计思路上来看,RabbitMQ 是 AMQP 规范的参考实现,AMQP 是一个线路层协议,面面俱到,很系统,也稍显复杂。目前 RabbitMQ 已经成为 OpenStack Iaas 平台首选的消息服务,其背后的支持力度不言而喻。

ActiveMQ 最初主要的开发者在 LogicBlaze,现在主要开发红帽,是 JMS 规范的参考实现,也是 Apache 旗下的老牌消息服务引擎。JMS 虽说是一个 API 级别的协议,但其内部还是定义了一些实现约束,不过缺少多语言支撑。ActiveMQ 的生态堪称丰富多彩,在该 Apache 顶级项目下,拥有不少子项目,包括由 HornetMQ 演变而来的 Artemis,基于 Scala 号称下一代 AMQ 的 Apollo 等。

3、适用何类场景?

而 Kafka 最初被设计用来做日志处理,是一个不折不扣的大数据通道,追求高吞吐,存在丢消息的可能。其背后的研发团队也围绕着 Kafka 进行了商业包装,目前在一些中小型公司被广泛使用,国内也有不少忠实的拥捧着。

RocketMQ 天生为金融互联网领域而生,追求高可靠、高可用、高并发、低延迟,是一个阿里巴巴由内而外成功孕育的典范,除了阿里集团上千个应用外,根据我们不完全统计,国内至少有上百家单位、科研教育机构在使用。关于这几个 MQ 产品更详细的特性对比,可以参考我们官网上的说明

三项技术发力点

(一)消息的顺序

不可否认,顺序消息是RocketMQ 功能特性上的一个卖点。目前我们做到了全局保序。需要重点说一下,这里的全局是有前提,针对某个唯一标识(能够被Hash 成唯一标识),比方说大卖家账号,某类产品的订单等。其技术实现原理也相对比较简单,保证对通道的单一实例操作,如单进程、单线程写,单进程、线程读,像ActiveMQ 的Exclusive Consumer 也是类似的实现。

不难看出,这种实现方式实际是在吞吐上做出了一定牺牲。另外也带来了另外一个问题 - 热点。如双十一当天,如果使用简单的散列策略,像短期内就交易过亿的天猫商家的消息会发送到一个通道里面,造成单通道,甚至单机的热点问题在最新的RocketMQ 版本里,我们将会改进目前的实现,借此改善因为顺序导致的单通道热点问题,这个特性预计今年中旬会发布。

(二)消息的去重

消息领域有一个对消息投递的QoS 定义,分为:最多一次(At most once),至少一次(At least once),仅一次( Exactly once)。

几乎所有的MQ 产品都声称自己做到了At least once。既然是至少一次,那避免不了消息重复,尤其是在分布式网络环境下,而这个缺憾归根结底也可以看做是TCP 协议的一部分,如失败重传。业务上往往对消息重复又很敏感,RocketMQ 目前的版本是不支持去重的,我们通常建议用户通过外置全局存储自己做判重处理。在下一代的特性规划里,我们会内置解决方案。先说下业界通用做法,像Artemis,IronMQ 等,通过在服务端全局存储判重。这是一个IO 敏感的操作,为服务端带来一定的负载。而RocketMQ 则希望通过采取二次判重策略,有效降低服务端IO。

(三)分布式的挑战

首先明确分布式系统这个概念:分布式系统是由一系列分散自治组件通过互联网并行并发协作,从而组成的一个coherent 软件系统。它具备资源共享,并行并发,可靠容错,透明开放等特性。像CAP,BASE,Paxos,事务等一起构成了分布式基础理论。

这里我们再来重温下CAP 理论:CAP 分别代表一致性(Consistency),可用性(Availability),分区容忍性(Partition tolerance)。一致性,Eric Brewer(CAP 理论提出者)用一个服务要么被执行,要么不被执行来定义(原文:A service that is consistent operates fully or not at all)。请注意,这里的一致性是有别于数据库ACID 属性中的C,数据库层面的C 指的是数据的操作不能破坏数据之间的完整性约束,如外键约束。在分布式环境中,可以把C 简单理解为多节点看到的是数据单一或者同一副本。可用性,意味着服务是可用的(原文:the service is available (to operate fully or not as above))。可用性又可以细分为写可用和读可用。在分布式环境中,往往指的是系统在确定时间内可返回读写操作结果,也即读写均可用。分区容忍性,除了整个网络故障外(如光纤被掘断),其它故障(如丢包、乱序、抖动、甚至是网络分区节点 crash )都不能导致整个系统无法正确响应(原文:No set of failures less than total network failure is allowed to cause the system to respond incorrectly)。

CAP 理论可以看做是探索适合不同应用的一致性与可用性平衡问题。

  • 没有分区 **** 的情况:可以同时满足 C 与 A,以及完整的 ACID 事务支持。可以选择牺牲一定的 C,获得更好的性能与扩展性。

  • 分区 **** 的情况:选择 A(集中关注分区的恢复),需要有分区开始前、进行中、恢复后的处理策略,应用合适的补偿处理机制。像 RocketMQ 这样的分布式消息引擎,更多的追求 AP。再强的系统也一定有容量底线,足够的容量是可用性的有效前提。通常情况下,会通过降级、限流、熔断机制来保障洪峰下的可用性。具体的技术细节可以参看电子书章节

另外,考虑到在金融高频交易典型场景,我们也为 RocketMQ 设计了 CP 机制,在满足分布式系统的分区容错性的前提下,牺牲系统可用性来保证数据的一致性。而技术实现上,则基于 Zab 一致性协议,利用分布式锁和通知机制,以此来保障多副本数据的一致性。

开源捐赠和社区运营

目前国内外有很多公司会把一些通用问题的解决方案,尤其是那些久经考验、愈久弥坚的产品开源出来,以期望在品牌宣传、人才引进方面有所建树。把 RocketMQ 开源出来,甚至捐赠给 Apache,内部也是经过了深思熟虑,层层审批与讨论,期望能够在生态化、规范化、国际化、商业化方面深耕细作。

开源捐赠的想法实际上始于 2014 年。当时,我们甄选了几位 Apache 社区权威人士,遗憾的是反复沟通不断修改草案之后突然间失去了联系。2015 年,我们有幸结识了 Kylin Principal Architect 蒋旭和 VP Luke 以及 RedHat Principal Software Engineer 姜宁,请教了一些 Apache 禁忌事项,重新活跃起来了捐赠进程。接下来,最重要的是征集 champion 候选人,很开心的是 ActiveMQ VP Bruce 爽快地接收了我们的邀请,经过前前后后接近 100 封邮件来往,我们终于正式开启了 Apache 之旅。捐赠投票是在双十一当天,我们准备充分很好地回答了评委会的犀利问题。不过,面对“中国开发者不喜欢邮件沟通”突然刁难,还要感谢社区华人的防御性声明回应。经过很多磨难,投票结果总算出来了:还不算坏 10 票赞同,带 binding(IPMC 成员的有效投票)的 +1,无反对票,正式进入孵化期。孵化成功后有望成为国内首个互联网中间件在 Apache 上的顶级项目,成为全球继 ActiveMQ,Kafka 之后,分布式消息引擎家族中的重要成员。

接下来,我们想强调下知识产权这个对大多数工程师来说陌生的领域,尤其是专利权、著作权、商标权。在国外,每年因为这些问题导致的侵权官司不在少数。而我们在开源之初,对这块的选择、保护也是极其谨慎,包括开源许可协议的选择、授权方面,代码署名权等,这些都是很好的智力保护,也是我们产品的核心竞争力之一。尊重知识,尊重产权,才能构建一个和谐积极向上的开源氛围,打造真正的自主知识产权品牌产品。

在 Alibaba,我们基于开源引擎的 RocketMQ,为云上用户提供了商业化版本的 Aliware MQ 。两个产品都是由阿里中间件消息团队出品。商业版 Aliware MQ 在支持 TCP 、HTTP 和 MQTT 协议接入,功能方面增强了运维管控方面,生态集成的能力(包括可视化的消息轨迹、资源报表统计以及监控报警、Kafka 集成等)。它在公有云上本身具备多机房部署同城高可用容灾特性,目的是满足企业级要求。

关于社区的运营,我们采取了和 Apache 顶级项目基本相似的策略。首先,必须立足于高质量产品本身,从版本规划开始,我们建立了里程碑讨论,Features 设计,编码自测,结对 Review,集成测试,Release 讨论,Release 公告等等一系列规范且高效的软件研发流程。其次,在社区运营层面,则有一系列与社区互动的活动,如线下 meetup、workshop、ApacheCon、不定期的编程马拉松等,吸纳新的 Contributor 和 Committer 进来。

新一代 RocketMQ,蓄势待发

最近,团队也在着手构建下一代 RocketMQ,期望构建一套厂商无关的集线路层、API 层于一体的规范,这也是第四代消息引擎最大的亮点。目前,我们联系了 Twitter、Yahoo 等公司相关技术负责人,共同起草完善这一规范,而 RocketMQ 将会是第一批率先成为参考实现的产品。我们非常期望国内的 MQ 厂商亦或是分布式爱好者能够参与进来,积极在国际开源社区代表国人发声呐喊。

另外,本周,团队刚刚发布了第四代引擎的第一个版本,该版本也是进入 Apache 社区后的首次发版。按照我们的规划,将在今年 4 月左右完成整个引擎的升级重组,非常欢迎大家的使用、反馈以及参与。

最后,更多信息可以移步 Apache RocketMQ 官网云栖社区中间件官方博客以及阿里巴巴电子书

2017 年 2 月 20 日 18:0014385
用户头像

发布了 58 篇内容, 共 37.9 次阅读, 收获喜欢 16 次。

关注

评论

发布
暂无评论
发现更多内容

码农远程办公指北

大伟

Gartner 【RPA市场竞争格局】:中国厂商首次进入国际视野

人称T客

完美兼容老项目!Dataway 4.1.6 返回结构的全面控制

哈库纳

spring Spring Boot Dataway Hasor

Dataway 4.1.5 以上版本升级指南

哈库纳

string StringBoot Dataway Hasor

无需代码!通过 Dataway 配置一个带有分页查询的接口

哈库纳

spring springboot Dataway Hasor

计算机的时间

伴鱼技术团队

分布式 服务器 技术交流

Vol.5 Go初探,新手必看!

pyfn2030

编程语言 新手指南

AB 测试平台的设计与实现

伴鱼技术团队

架构 系统设计 后端 A/B

如何用一台电脑制作一部动画短片?

zhoo299

动画 CG

原创 | 使用JUnit、AssertJ和Mockito编写单元测试和实践TDD (十)在项目中准备测试环境

编程道与术

Java 编程 软件测试 TDD 单元测试

从 0 到 1 搭建技术中台之技术文化篇

伴鱼技术团队

企业文化 技术管理

绝了!Dataway让Spring Boot不再需要Controller、Service、DAO、Mapper

哈库纳

StringBoot DataQL

那些会阻碍程序员成长的细节[1]

MavenTalker

程序员 程序员人生 职业规划

【快点查查】微信小程序使用流程

tomatocc

Vol.6 几个数据库相关的词

pyfn2030

数据库 大数据 新手指南

Vol.1 Java初探,新手必看!

pyfn2030

编程 新手指南

Anaconda与虚拟环境

halapano

Python virtualenv Anaconda

Vol.2 谷歌不只有搜索

pyfn2030

谷歌Google

自己常用的一些快捷键 windows10

halapano

Windows技巧

Vol.4 了解一下渗透测试

pyfn2030

黑客 网络安全

免费领课的活动你错过了么?

池建强

极客时间

多线程与线程安全(实例讲解)

YoungZY

Java 多线程 线程安全

Vol.3 人工智能这么热,你必须知道一点儿!

pyfn2030

人工智能

代码简洁之路 [持续更新]

hq

Java 前端 编程习惯

使用SpreadJS 开发在线问卷系统,构筑CCP(云数据采集)平台

Geek_Willie

数据挖掘 大数据 SpreadJS CCP

艺术生,我劝你Mac

zhoo299

Mac CG 艺术

终于,我也到了和Eclipse说再见的时候,难说再见

程序员小跃

Java eclipse IDEA

说到做到

Yukun

拖延症

《程序员的数学》笔记

Rex

读书笔记

Wi-Fi p2p & ap 共存

贾献华

wifi p2p ap

ARTS-WEEK01

lee

ARTS 打卡计划

专访RocketMQ联合创始人:项目思路、技术细节和未来规划-InfoQ