AICon 北京站 Keynote 亮点揭秘,想了解 Agent 智能体来就对了! 了解详情
写点什么

下一代大数据实时监控系统

  • 2019-08-27
  • 本文字数:719 字

    阅读完需:约 2 分钟

下一代大数据实时监控系统

QCon上海2018大会上,李双江讲师做了《下一代大数据实时监控系统》主题演讲,主要内容如下。


演讲简介


在大规模网络下,随着 gRPC 协议方式的采集的普及, 响应速度快,实时性高,采集数据更全面。如何将这些 gRPC 采集方式带来的众多优点不打折扣的提供给网络运维人员,给下一代的大数据实时监控系统带来了一定的挑战。


为此,我们引入了一套基于流式计算(Blink 基于开源的 Apache Flink)和内存数据存储(Apache Ignite)方式的实时告警系统。借助 Kafka 和 HBase 实现数据缓存,Blink 进行流式计算,Ignite 进行实时的业务告警。并 Blink 的 SQL 方式进行实时计算和规则生成,通过 Ignite 开放 SQL 开发实现了数据的低延迟实时查询服务。本次分享主要介绍我们在以上方面的一些经验。

听众受益

  1. 了解如何设计一套更实时、满足多业务场景需求的大数据监控系统;

  2. 了解 Blink 和 Ignite 在大数据监控系统中的应用;

  3. 了解传统的 SQL 如何在整个系统中发挥作用,带来更大的灵活性和业务扩展性。


讲师介绍


李双江


阿里巴巴 Senior Engineer


李双江,阿里巴巴技术专家,美国田纳西大学计算机工程博士,研究方向为机器学习优化算法,应用于图像、视频、计算机网络等领域。在 Java 语言,网络协议、网络安全、大数据处理和分布式系统领域有多年经验。现担任多个 SCI 期刊及 IEEE/ACM 会议的编辑、委员及技术委员会主席。


自 2017 年起加入阿里巴巴,目前负责开发阿里巴巴基础设施事业群(Alibaba Infrastructure Service)网络研发事业部下一代监控系统的研发,大规模数据挖掘、故障异常检测、网络运维可视化项目等。闲暇之余,爱好跑步,游泳和骑车。曾完成多次马拉松和铁人三项比赛。












完整演讲 PPT 下载链接


https://qcon.infoq.cn/2018/shanghai/schedule


2019-08-27 15:583154

评论

发布
暂无评论
发现更多内容

熊市下PLATO如何通过Elephant Swap,获得溢价收益?

西柚子

基于java springboot失物招领微信小程序源码

清风

计算机毕业设计 失物招领小程序

Baklib|为什么说企业需要重视客户体验?

Baklib

学习Typescript(二)

bo

前端 ts 7月月更

leetcode 763. Partition Labels 划分字母区间(中等)

okokabcd

LeetCode 数据结构与算法 贪心算法

第二轮1000个Okaleido Tiger,再次登录Binance NFT 1小时售罄

BlockChain先知

Bootstrap Affix和过渡效果插件的详细使用【前端Bootstrap框架】

恒山其若陋兮

7月月更

requestVideoFrameCallback() 简单实例

devpoint

3D 视频处理 7月月更

为什么客户支持对SaaS公司很重要?

Geek_da0866

一文读懂Okaleido Tiger近期动态,挖掘背后价值与潜力

小哈区块

什么是低代码?哪些平台适合业务人员?用来开发系统靠不靠谱?

优秀

低代码 低代码平台

编码用这16个命名规则能让你少写一半以上的注释!

岛上码农

flutter ios 前端 安卓开发 签约计划第三季

深开鸿:万物智联的大江上,升起一轮开源鸿蒙月

脑极体

研发效能的道法术器

laofo

DevOps cicd 研发效能 基础设施 持续交付

React Refs 笔记📝

程序员海军

React 7月月更

上海交大牵手淘宝成立媒体计算实验室:推动视频超分等关键技术发展

阿里巴巴大淘宝技术

音视频 音视频技术

字符设备驱动结构

贾献华

7月月更

怎样搭建企业内部维基百科

Baklib

基于对象的实时空间音频渲染丨Dev for Dev 专栏

声网

Dev for Dev 空间音频 实时互动

【周周有奖】云原生编程挑战赛“边缘容器”赛道邀你来战!

阿里巴巴云原生

阿里云 边缘容器 云原生编程挑战赛

一文读懂Okaleido Tiger近期动态,挖掘背后价值与潜力

西柚子

智能电视与小程序的结合

Geek_99967b

物联网

SpringBoot基于异常处理exception发送邮件消息提醒

宁在春

springboot 7月月更

快手重点整治搬运、洗稿等方式的养号行为,自媒体平台如何净化内容生态

石头IT视角

PLATO上线LAAS协议Elephant Swap,用户可借此获得溢价收益

鳄鱼视界

openEuler Embedded SIG | 分布式软总线

openEuler

开源 分布式 操作系统 嵌入式 openEuler

英特尔数据中心GPU正式发货,以开放灵活提供强劲算力

科技新消息

被忽视的智能电视小程序领域

Geek_99967b

物联网

跨区域网络的通信学习静态路由

flow

签约计划第三季

融合数据库生态:利用 EventBridge 构建 CDC 应用

阿里巴巴云原生

阿里云 云原生 事件总线 CDC EventBridge

DDD领域驱动设计如何进行工程化落地

慕枫技术笔记

DDD 架构设计 7月月更

下一代大数据实时监控系统_QCon_李双江_InfoQ精选文章