NVIDIA 初创加速计划,免费加速您的创业启动 了解详情
写点什么

腾讯实时流计算平台演进之路

  • 2019-08-06
  • 本文字数:696 字

    阅读完需:约 2 分钟

腾讯实时流计算平台演进之路

QCon北京2019大会上,杨华讲师做了《腾讯实时流计算平台演进之路》主题演讲,主要内容如下。


演讲简介


腾讯实时计算团队为业务部门提供高效、稳定和易用的实时数据服务。其每秒接入的数据峰值达到了 2.1 亿条,每天接入的数据量达到了 17 万亿条,每天的数据增长量达到了 3PB,每天需要进行的实时计算量达到了 20 万亿次。


随着业务规模不断扩大,业务需求不断增多,原先基于 Storm 构建的实时计算平台遇到了很多问题。在此背景下,我们选择用 Flink 替换 Storm 作为新一代的实时流计算引擎,我们对社区版的 Flink 进行了深度的优化,并在此之上构建了一个集开发、测试、部署和运维于一体的一站式可视化实时计算平台——Oceanus;同时,我们也基于 Oceanus 向云端客户提供了流计算服务——Stream Compute Service,应用到电商、游戏、互联网金融等泛互联网企业客户。本分享我们会介绍腾讯流计算技术的演进过程,产品化及云端对外服务进展。

听众受益

  1. 为什么要实时计算引擎从 Storm 替换成 Flink;

  2. 我们在使用社区版的 Flink 时遇到了哪些问题,做了哪些改进与增强;

  3. 腾讯实时计算平台提供了哪些功能特性来简化用户构建流计算应用复杂度;

  4. 腾讯实时计算平台后续的功能、特性预览。


讲师介绍


杨华


腾讯 大数据高级工程师


杨华(vinoyang)腾讯大数据高级工程师,参与腾讯实时流计算平台 Oceanus 底层 Flink 引擎的研发与维护,经历了 Flink 在腾讯从零开始落地到目前支撑日均近 20 万亿消息处理规模的全过程。拥有多年的分布式、大数据系统研发经验,Flink 国内较早的布道者之一,也是 Flink 及多个 Apache 项目的长期活跃贡献者。












完整演讲 PPT 下载链接


https://qcon.infoq.cn/2019/beijing/schedule


2019-08-06 08:001387

评论

发布
暂无评论
发现更多内容

CSS知识框架(一)

默默的成长

CSS 前端 11月月更

问:React的useState和setState到底是同步还是异步呢?

beifeng1996

React

Git学习笔记

lxmoe

git 学习笔记 常用命令 11月月更

【设计模式】原型模式:猴头,我叫你一声你敢答应吗?

游坦之

11月月更

【C语言】float 关键字

謓泽

11月月更

说说你对Vue的keep-alive的理解

bb_xiaxia1998

Vue

python的成员方法的简单介绍

乔乔

11月月更

Map接口的子类HashMap和LinkedHashMap

共饮一杯无

Java 11月月更 Map集合

React-Hooks源码深度解读

goClient1992

React

看透react源码之感受react的进化

goClient1992

React

什么是Maven

莪是男神

Java maven 11月月更

为提高 SDLC 安全,GitHub 发布新功能|GitHub Universe 2022

SEAL安全

GitHub 安全

ShardingSphere + OpenSergo,共同提升微服务体系下数据库的性能与稳定

SphereEx

数据库 微服务 Apache ShardingSphere

问:你是如何进行react状态管理方案选择的?

beifeng1996

React

高频react面试题自检

beifeng1996

React

Spring 5(三)AOP

浅辄

Java Spring5 11月月更

Spring 5(四)JdbcTemplate

浅辄

Java Spring5 11月月更

首个中文Stable Diffusion模型开源;TPU演进十年;18个PyTorch性能优化技巧 | AI系统前沿动态

OneFlow

人工智能 开源 深度学历 TPU

Flask框架:如何运用Ajax轮询动态绘图

华为云开发者联盟

JavaScript 前端 华为云 企业号十月 PK 榜

深入react源码看setState究竟做了什么?

flyzz177

React

从recat源码角度看setState流程

flyzz177

React

Map接口概述和基本使用

共饮一杯无

Java map 11月月更

一天梳理完react面试题

beifeng1996

React

中高级前端开发需要掌握的vue知识点

bb_xiaxia1998

Vue

优化开发人员对 K8s 安全的影响

HummerCloud

Kubernetes DevSecOps 11月月更

从源码角度看React-Hydrate原理

flyzz177

React

React源码分析(一)Fiber

goClient1992

React

图学习初探Paddle Graph Learning 构建属于自己的图【系列三】

汀丶人工智能

图神经网络 11月月更 随机游走算法 异质图

说说Vue响应式系统中的Watcher和Dep的关系-面试进阶

bb_xiaxia1998

Vue

一份vue面试考点清单

bb_xiaxia1998

Vue

学习MySQL必须掌握的13个关键字,你get了吗?

小小怪下士

Java MySQL 程序员

腾讯实时流计算平台演进之路_语言 & 开发_杨华_InfoQ精选文章