快手万亿级别 Kafka 集群应用实践与技术演进之路

阅读数:4394 2019 年 8 月 11 日 00:00

快手万亿级别 Kafka 集群应用实践与技术演进之路

QCon 北京 2019 大会上,赵健博讲师做了《快手万亿级别 Kafka 集群应用实践与技术演进之路》主题演讲,主要内容如下。

演讲简介

Kafka 系统在快手有着很广泛的应用,除作为消息队列服务于快手三大 Tab 页、上传、支付等在线核心服务之外,还作为数据交换中心支撑数据分析,模型训练等离线业务场景。随着快手业务的高速发展, Kafka 集群的规模也成指数增长,目前 Kafka 集群日消息处理总量达数万亿级别,峰值超过 1 亿 /s。与此同时我们也面临了很多新问题与技术挑战。本次分享将会介绍 Kafka 系统在快手的应用实践、我们遇到的问题以及相应的技术的演进过程。例如,我们如何解决 Kafka 扩展性、性能,如何做数据 Mirror 集群管理等等。具体提纲如下:

  1. Kafka 系统在快手的应用场景以及业务规模;
  2. Kafka 系统在快手的技术演进过程;
  3. Kafka 系统在快手的未来规划。

听众受益

  1. 掌握典型的 Kafka 系统应用场景;
  2. 了解快手在应用 Kafka 系统的实践过程中,面临的问题,以及我们的技术解决方案。例如,Kafka 系统如何做平滑扩容,如何进一步改进 Kafka 系统性能等。

讲师介绍

赵健博

快手 高级架构师、大数据架构团队负责人

赵健博,大数据领域专家,快手大数据架构团队的负责人,目前负责快手公司 Hadoop 生态中存储、调度、计算、AI 架构等子系统内核与周边子系统的研发,与在公司内的应用。2009 年毕业于中国科学院计算所,曾就职于百度、奇虎 360、58 集团。主要研究领域包括分布式计算、调度与存储系统等。

快手万亿级别 Kafka 集群应用实践与技术演进之路

快手万亿级别 Kafka 集群应用实践与技术演进之路

快手万亿级别 Kafka 集群应用实践与技术演进之路

快手万亿级别 Kafka 集群应用实践与技术演进之路

快手万亿级别 Kafka 集群应用实践与技术演进之路

快手万亿级别 Kafka 集群应用实践与技术演进之路

快手万亿级别 Kafka 集群应用实践与技术演进之路

快手万亿级别 Kafka 集群应用实践与技术演进之路

快手万亿级别 Kafka 集群应用实践与技术演进之路

快手万亿级别 Kafka 集群应用实践与技术演进之路

完整演讲 PPT 下载链接

https://qcon.infoq.cn/2019/beijing/schedule

评论

发布