写点什么

下一代大数据实时监控系统

  • 2019-08-27
  • 本文字数:719 字

    阅读完需:约 2 分钟

下一代大数据实时监控系统

QCon上海2018大会上,李双江讲师做了《下一代大数据实时监控系统》主题演讲,主要内容如下。


演讲简介


在大规模网络下,随着 gRPC 协议方式的采集的普及, 响应速度快,实时性高,采集数据更全面。如何将这些 gRPC 采集方式带来的众多优点不打折扣的提供给网络运维人员,给下一代的大数据实时监控系统带来了一定的挑战。


为此,我们引入了一套基于流式计算(Blink 基于开源的 Apache Flink)和内存数据存储(Apache Ignite)方式的实时告警系统。借助 Kafka 和 HBase 实现数据缓存,Blink 进行流式计算,Ignite 进行实时的业务告警。并 Blink 的 SQL 方式进行实时计算和规则生成,通过 Ignite 开放 SQL 开发实现了数据的低延迟实时查询服务。本次分享主要介绍我们在以上方面的一些经验。

听众受益

  1. 了解如何设计一套更实时、满足多业务场景需求的大数据监控系统;

  2. 了解 Blink 和 Ignite 在大数据监控系统中的应用;

  3. 了解传统的 SQL 如何在整个系统中发挥作用,带来更大的灵活性和业务扩展性。


讲师介绍


李双江


阿里巴巴 Senior Engineer


李双江,阿里巴巴技术专家,美国田纳西大学计算机工程博士,研究方向为机器学习优化算法,应用于图像、视频、计算机网络等领域。在 Java 语言,网络协议、网络安全、大数据处理和分布式系统领域有多年经验。现担任多个 SCI 期刊及 IEEE/ACM 会议的编辑、委员及技术委员会主席。


自 2017 年起加入阿里巴巴,目前负责开发阿里巴巴基础设施事业群(Alibaba Infrastructure Service)网络研发事业部下一代监控系统的研发,大规模数据挖掘、故障异常检测、网络运维可视化项目等。闲暇之余,爱好跑步,游泳和骑车。曾完成多次马拉松和铁人三项比赛。












完整演讲 PPT 下载链接


https://qcon.infoq.cn/2018/shanghai/schedule


2019-08-27 15:583236

评论

发布
暂无评论
发现更多内容

5分钟速读之Rust权威指南(二十八)RefCell<T>

wzx

rust

定点数与浮点数表示

若尘

浮点数 计算机组成原理 6月日更

网络抓包实战04——深入浅出连接建立

青春不可负,生活不可欺

[译] R8 优化:方法的 Outlining 优化

Antway

6月日更

算法有救了!GitHub上神仙项目手把手带你刷算法,Star数已破110k

Java架构师迁哥

新华三商用终端新品全系入市,重塑办公极致体验

科技热闻

英特尔宋继强:异构计算的关键一环,先进封装已经走向前台

E科讯

虚拟货币监管再加码:央行约谈部分金融机构 要求切断支付链路

CECBC

值得收藏的15个JavaScript语句

devpoint

JavaScript array 6月日更

一文带你了解什么是HTTP协议

网络安全学海

网络安全 安全 信息安全 HTTP 渗透测试

ES6 迭代器简述

编程三昧

JavaScript 大前端 ES6 迭代器

网络抓包实战03——TCP/IP协议栈:数据包如何穿越各层协议

青春不可负,生活不可欺

产业互联网时代的数字化转型与创新

CECBC

网络抓包实战05——深入浅出连接关闭

青春不可负,生活不可欺

指挥中心情指勤一体化解决方案,河北公安情指勤一体化建设

Jenkins 如何与 Kubernetes 集群的 Tekton Pipeline 交互?

张晓辉

Kubernetes 云原生 jenkins Tekton CI/CD

鉴释×CSDN丨国内外操作系统生态差异在哪?

鉴释

操作系统

区块链如何赋能智慧城市

CECBC

信息安全与网络安全的关系

网络安全学海

程序员 网络安全 安全 信息安全 渗透测试

【MindSpore有奖活动】资讯内容宝藏多,编译安装试一波!

Geek_6cdeb6

网络攻防学习笔记 Day53

穿过生命散发芬芳

网络攻防 6月日更

浅谈B端产品的表单元素设计

LigaAI

产品经理 UI 产品设计与思考

Java的函数式接口

中原银行

Java 函数式接口 中原银行

dubbogo 社区负责人于雨说

apache/dubbo-go

dubbo dubbo-go dubbogo

Redis入门五:主从复制

打工人!

redis 主从复制 6月日更

Java内存模型

wzh

Java JVM happens-before 并发 Java内存模型

Java线程状态与状态间的切换

wzh

Java 线程 JVM 操作系统 并发

知乎上线1小时,5w浏览量被下架的JVM全解笔记,内容太强大

Java架构师迁哥

“半监督”、“自监督”怎么用?| 算法深度剖析与实战分享

网易易盾技术团队

AI 算法 算法实践 实践案例 深度半监督

从渗透测试小白到网络安全大佬的成长之路

学神来啦

Linux 运维 网络安全 渗透测试

网络抓包实战06——灵异事件的始作俑者:Reset数据包

青春不可负,生活不可欺

下一代大数据实时监控系统_QCon_李双江_InfoQ精选文章