对中国开发者最具吸引力的科技企业有哪些?快来为你 pick 的企业投票! 了解详情
写点什么

简单的 Kafka:没有 ZooKeeper 的 Kafka

2021 年 4 月 07 日

简单的Kafka:没有ZooKeeper的Kafka

Apache Kafka®的核心是日志。日志是一个简单的数据结构,它通过顺序读写与底层硬件密切配合。以日志为中心的设计利用了高效的磁盘缓冲、CPU 缓存、预读、零拷贝等许多特性,从而带来了众所周知的高效率和吞吐量。对于那些刚接触 Kafka 的人来说,这些主题以及它作为提交日志的底层实现,通常是他们学习 Apache Kafka 的第一件事。


但是日志本身的代码在整个系统中只占相对较小的一部分。Kafka 的代码库中有很大一部分是负责在集群中多个 broker 之间分配分区(即日志)、分配领导权、处理故障等。这些代码使 Kafka 成为一个可靠和可信的分布式系统。


从历史上看,Apache ZooKeeper 是分布式代码工作的关键部分。ZooKeeper 提供了可靠的元数据存储,这些元数据存储了系统中最重要的信息:比如分区在哪里,哪个副本是 Leader 等等。项目早期使用 ZooKeeper 是有意义的,因为它是一个强大且经过验证的工具。但归根结底,ZooKeeper 是一个基于一致性日志的特殊文件系统/触发器 API。Kafka 是一个建立在一致性日志之上的发布/订阅 API。这使得操作系统的人员可以跨两个日志实现、两个网络层和两个安全实现(每个实现都有不同的工具和监视钩子)对通信和性能进行调优、配置、监视、保护和评估。它变得不必要的复杂。这种固有的和不可避免的复杂性促使了最近的一个倡议,即用一个完全运行在 Kafka 内部的仲裁服务来取代 ZooKeeper。


当然,更换 ZooKeeper 是一项相当大的工作,去年 4 月,我们启动了一个社区倡议,以加快进度,并在年底前交付一个工作系统。



我刚刚和 Jason, Colin 以及 KIP-500 团队坐在一起,经历了 Kafka 服务器的完整生命周期,生产,消费和所有 zookeeper 免费。非常甜蜜!

Ben Stopford@benstopford


所以我们很高兴地说,KIP-500 代码的早期访问已经提交到 trunk,预计将包括在即将发布的 2.8 版本中。第一次,你可以在没有 ZooKeeper 的情况下运行 Kafka。我们称之为 Kafka Raft 元数据模式,通常缩写为 KRaft(发音像 craft)模式。


注意,有一些特性在这个早期版本中是不可用的。我们还不支持使用 acl 和其他安全特性或事务。而且,在 KRaft 模式下,不支持分区重分配和 JBOD(预计在今年晚些时候的 Apache Kafka 版本中会提供这些功能)。因此,考虑 Quorum 控制器是一个实验性的功能,我们不建议将其置于生产工作负载之下。然而,如果你确实尝试过这个软件,你会发现它有很多新的优点:它的部署和操作更简单,你可以把 Kafka 作为一个单独的进程来运行,而且它可以在每个集群中容纳更多的分区(见下面的数据信息)。

Quorum 控制器: 事件驱动的共识


如果你选择使用新的 Quorum 控制器运行 Kafka,所有以前由 Kafka 控制器和 ZooKeeper 承担的元数据功能,都会合并到这个新的服务中,运行在 Kafka 集群中。如果有需要的话,Quorum 控制器还可以在专用硬件上运行。



但在内部,它变得有趣起来。Quorum 控制器使用新的 KRaft 协议来确保元数据在仲裁中被精确地复制。这个协议在很多方面与 ZooKeeper 的 ZAB 协议和 Raft 相似,但有一些重要的区别,其中一个显著且合适的区别是它使用了事件驱动的架构。


Quorm 控制器使用事件源存储模型存储其状态,这确保始终可以准确地重新创建内部状态机。用于存储此状态的事件日志(也称为元数据主题)通过快照定期地进行压缩,以确保日志不会无限增长。Quorm 中的其他控制器通过响应活动控制器,创建并存储在其日志中的事件来跟踪活动控制器。因此,如果一个节点由于分区事件而暂停,那么它可以在重新登录时通过访问日志来快速地赶上它错过的任何事件。这大大减少了不可用窗口,改善了系统的最坏情况恢复时间。



事件驱动的内部共识


KRaft 协议的事件驱动特性意味着,与基于 ZooKeeper 的控制器不同,仲裁控制器在成为活动状态之前不需要从 ZooKeeper 加载状态。当领导权发生变化时,新的活动控制器已经在内存中拥有所有提交的元数据记录。此外,KRaft 协议中使用的事件驱动机制也用于跨集群跟踪元数据。以前使用 rpc 处理的任务现在得益于事件驱动以及使用实际日志进行通信。这些改变带来的一个令人愉快的结果是,Kafka 现在可以比以前支持更多的分区。让我们更详细地讨论一下。

扩展 Kafka:支持数百万个分区


Kafka 集群可以支持的分区数由两个属性决定: 每个节点的分区数限制和集群范围的分区限制。两者都很有趣,但是到目前为止,元数据管理一直是集群范围限制的主要瓶颈。以前的 Kafka 改进建议(KIPs)已经改进了每个节点的限制,尽管总有更多的事情可以做。但是 Kafka 的可伸缩性主要依赖于增加节点来获得更多的容量。这就使集群范围限制变得重要的地方,因为它定义了系统内可伸缩性的上限。


新的 Quorum 控制器旨在处理每个集群中更多的分区。为了评估这一点,我们进行了类似于 2018 年运行的那些测试,以公布 Kafka 固有的分区限制。这些测试测量关闭和恢复所花费的时间,这是指旧控制器的 O(#partitions)操作。正是这个操作为 Kafka 在单个集群中所能支持的分区数量设定了上限。


之前的实现,正如 Jun Rao 在上面的文章中解释的那样,可以达到 200K 分区,限制因素是在外部共识(ZooKeeper)和内部 leader 管理(Kafka controller)之间移动关键元数据所花费的时间。使用新的仲裁控制器,这两个角色由相同的组件提供服务。事件驱动的方法意味着控制器故障转移现在几乎是即时的。下面是在我们的实验室中运行 200 万个分区(是上一个上限的 10 倍)的集群:



With ZooKeeper-Based Controller

With Quorum Controller

Controlled Shutdown Time (2 million partitions)

135 sec.

32 sec.

Recovery from Uncontrolled Shutdown (2 million partitions)

503 sec.

37 sec.


控制和不控制停机的两种措施都很重要。受控关闭会影响常见的操作场景,如滚动重启:部署软件更改的标准过程,同时保持整个过程的可用性。从不受控制的关闭中恢复可能更重要,因为它设置了系统的恢复时间目标(RTO),例如在发生意外故障后,例如 VM 或 pod 崩溃或数据中心不可用。虽然这些度量只是更广泛的系统性能指标,但它们直接度量了众所周知的 ZooKeeper 使用带来的瓶颈。


注意,控制和非控制的测量是不能直接比较的。不受控制的政府停摆案包括了选出新领导人所需的时间,而控制案则没有。这种差异是故意的,以保持控制病例与 Jun Rao 的原始测量。

集群规模下降: 单一进程运行 Kafka


Kafka 经常被认为是重量级的基础设施,比如管理 zookeeper 的复杂性(因为它是一个单独的分布式系统) 就是这种看法存在的重要原因。这通常会导致项目在开始时选择更轻量级的消息队列,比如 ActiveMQ 或 rabbitmq 这样的传统队列,然后在规模需要时转移到 Kafka。


这是不幸的,因为 Kafka 提供的抽象,形成了一个提交日志,是适用于小规模的工作负载,你可能看到在一个初创公司,因为它是在 Netflix 或 Instagram 的高吞吐量。更重要的是,如果你想添加流处理,你需要 Kafka 和它的提交日志抽象,不管它是使用 Kafka Streams, ksqlDB,还是其他的流处理框架。但是由于管理两个独立系统 kafka 和 zookeeper 的复杂性,用户常常觉得他们必须在规模和入门的方便性之间做出选择。


现在已经不是这样了。KIP-500 和 KRaft 模式提供了一种很棒的、轻量级的方式来开始使用 Kafka,或者使用它作为 ActiveMQ 或 RabbitMQ 等单片代理的替代方案。轻量级的单进程部署也更适合于边缘场景和那些使用轻量级硬件的场景。云为这个问题增加了一个有趣的切入角度。像融合云这样的托管服务完全消除了操作负担。因此,无论您是希望运行自己的集群,还是让它为您运行,都可以从小规模开始,随着底层用例的扩展(可能)扩展到大规模——所有这些都使用相同的基础设施。让我们看看单进程部署是什么样子的。

带着没有 ZooKeeper 的的 Kafka 兜风


新的 Quorm 控制器今天在 trunk 中已经以试验性的功能提供出来,预计将包含在即将发布的 Apache Kafka 2.8 版本中。那么你能用它做什么呢? 如上所述,一个简单但非常酷的新特性是创建单个进程 Kafka 集群的能力,如下面的简短演示所示。


演示文档地址: https://asciinema.org/a/403794/embed?


当然,如果您想要扩展它以支持更高的吞吐量并添加复制以容错,您只需要添加新的代理进程。如你所知,这是基于 kraft 的 Quorm 控制器的早期访问版本。请不要将它用于高负载的工作环境中。在接下来的几个月里,我们将添加最后缺失的部分,执行协议的 TLA+建模,并在融合云中完善 Quorm 控制器。

您现在可以自己尝试新的 Quorm 控制器。在 GitHub 上查看完整的描述现在去尝试

背后的团队


如果没有 Apache Kafka 社区和一群分布式系统工程师在大流行期间不知疲倦地工作,在大约 9 个月的时间里将它从零变成一个正常工作的系统,这将是(并将继续是)一个巨大的努力。我们想扩展特别感谢 Colin McCabe, Jason Gustafson, Ron Dagostino, Boyang Chen, David Arthur, Jose Garcia Sancio, Guozhang Wang, Alok Nikhil, Deng Zi Ming, Sagar Rao, Feyman, Chia-Ping Tsai, Jun Rao, Heidi Howard,和 Apache Kafka 社区的所有成员帮助实现这一目标。


原文网址

https://www.confluent.io/blog/kafka-without-zookeeper-a-sneak-peek/


译者:

韩欣,腾讯云中间件-微服务产品中心技术总监,微服务平台 TSF、消息队列 CKafka / TDMQ、微服务观测平台 TSW 等中间件产品的负责人。负责中间件相关产品的规划,架构和落地实施,有超过十三年的研发架构经验。目前关注在云计算中间件相关领域,致力于整合 PaaS 技术资源,构建基于微服务的技术中台,为企业的数字化转型提供基础支持。

2021 年 4 月 07 日 18:391

评论

发布
暂无评论
发现更多内容

#集赞送好礼#百度大脑AI开放平台的2020年

百度大脑

环信大学 | 构建一套适合微服务的高可用架构

DT极客

华为大神珍藏版:SpringBoot全优笔记,面面俱到太全了

周老师

Java 编程 程序员 架构 面试

SuperBenchmarker sb在mac上的安装手记

edd

打破垄断 上海发布自主研发树图区块链重大成果

CECBC区块链专委会

区块链

javascript中的内存管理

程序那些事

JavaScript nodejs 内存管理 程序那些事

凭借这268页pdf文档,我成功斩获了阿里,百度等八家大厂offer

Java成神之路

Java 程序员 架构 面试 编程语言

2021备战金三银四血拼一波算法:字节+百度+美团+网易+拼夕夕+腾讯+滴滴

比伯

Java 编程 程序员 架构 面试

七种分布式事务的解决方案,一次讲给你听

moon聊技术

Github一眼跪求的《2021大厂面试指南》究竟有什么魅力?

Java王路飞

Java spring 架构 面试 分布式

程序员成长第十七篇:项目转测

石云升

项目管理 程序员成长 28天写作 3月日更

「两次遍历」要比「一次遍历」要慢 ... 为啥呀?为啥呀??

宫水三叶的刷题日记

LeetCode 数据结构与算法 面试数据结构与算法

别梦依稀咒逝川,Ruby二十八年前|M1芯片Mac os系统配置Ruby(3.0.0) on Rails(6.1.1)开发环境(2021最新攻略)

刘悦的技术博客

ruby ruby-on-rails rubygems macOS Big Sur m1

SQL Server 多表数据增量获取和发布 2.1

happlyfox

28天写作 3月日更

拿到百度、京东、阿里offer后、我最感谢的却是这一份面试文档

Java成神之路

Java 程序员 架构 面试 编程语言

浅谈基于ARP协议的网络攻击

行者AI

网络安全

第四章作业(二)

LouisN

四面美团开发岗,成功斩获offer,分享个人面经

Java架构之路

Java 程序员 架构 面试 编程语言

图解CyclicBarrier运动员接力赛

叫练

面试 AQS CyclicBarrier

智慧党建管理系统,智慧组工平台开发方案

13530558032

2021最新京东、字节跳动「3面面经」盘点大厂后端面试高频题

Java架构之路

Java 程序员 架构 面试 编程语言

数据库周刊59丨GaussDB(for openGauss)开放商用;人大金仓保障冬奥会演练顺利完成;MDL锁导致的MySQL问题分析;PG日志使用手册;达梦表空间查询;数据库笔试题面试题集……

墨天轮

MySQL 数据库 运维 postgre 程序员·

加快布局区块链技术发展,助力网络强国建设

CECBC区块链专委会

区块链

区块链农产品溯源平台,农产品区块链防伪

13530558032

一线互联网大厂面经分享:阿里三面+头条四面+腾讯二面+美团四面

Java架构之路

Java 程序员 架构 面试 编程语言

#滴滴夜莺# Nightingale & Prometheus

漂洋散人

想做技术自媒体实现财富自由?先看看广告报价吧,无编码学爬虫之二。

梦想橡皮擦

Python 28天写作 2月春节不断更 3月日更

对标阿里P8+架构进阶书籍:微服务+Netty+MySQL+JVM+boot2教程

Java成神之路

Java 程序员 架构 面试 编程语言

公安重点人员管控平台搭建,智慧公安建设

13530558032

前端上手Docker超详细基础教程

1024肥宅

Docker Linux 前端 jenkins CI/CD

真实字节二面:什么是伪共享?

艾小仙

Java 程序员 字节跳动 面试 面试大厂

混合云之争的开端与终途

混合云之争的开端与终途

简单的Kafka:没有ZooKeeper的Kafka-InfoQ