NVIDIA 初创加速计划,免费加速您的创业启动 了解详情
写点什么

下一代大数据实时监控系统

  • 2019-08-27
  • 本文字数:719 字

    阅读完需:约 2 分钟

下一代大数据实时监控系统

QCon上海2018大会上,李双江讲师做了《下一代大数据实时监控系统》主题演讲,主要内容如下。


演讲简介


在大规模网络下,随着 gRPC 协议方式的采集的普及, 响应速度快,实时性高,采集数据更全面。如何将这些 gRPC 采集方式带来的众多优点不打折扣的提供给网络运维人员,给下一代的大数据实时监控系统带来了一定的挑战。


为此,我们引入了一套基于流式计算(Blink 基于开源的 Apache Flink)和内存数据存储(Apache Ignite)方式的实时告警系统。借助 Kafka 和 HBase 实现数据缓存,Blink 进行流式计算,Ignite 进行实时的业务告警。并 Blink 的 SQL 方式进行实时计算和规则生成,通过 Ignite 开放 SQL 开发实现了数据的低延迟实时查询服务。本次分享主要介绍我们在以上方面的一些经验。

听众受益

  1. 了解如何设计一套更实时、满足多业务场景需求的大数据监控系统;

  2. 了解 Blink 和 Ignite 在大数据监控系统中的应用;

  3. 了解传统的 SQL 如何在整个系统中发挥作用,带来更大的灵活性和业务扩展性。


讲师介绍


李双江


阿里巴巴 Senior Engineer


李双江,阿里巴巴技术专家,美国田纳西大学计算机工程博士,研究方向为机器学习优化算法,应用于图像、视频、计算机网络等领域。在 Java 语言,网络协议、网络安全、大数据处理和分布式系统领域有多年经验。现担任多个 SCI 期刊及 IEEE/ACM 会议的编辑、委员及技术委员会主席。


自 2017 年起加入阿里巴巴,目前负责开发阿里巴巴基础设施事业群(Alibaba Infrastructure Service)网络研发事业部下一代监控系统的研发,大规模数据挖掘、故障异常检测、网络运维可视化项目等。闲暇之余,爱好跑步,游泳和骑车。曾完成多次马拉松和铁人三项比赛。












完整演讲 PPT 下载链接


https://qcon.infoq.cn/2018/shanghai/schedule


2019-08-27 15:582914

评论

发布
暂无评论
发现更多内容

体育数据服务商提供API接口,有哪些赛事数据

软件开发-梦幻运营部

百度大模型安全解决方案获WitAwards 2023 年度大奖

百度安全

安全 大模型安全

全链协同,链接未来|端点科技联合IDC重磅发布新一代ERP白皮书

科技热闻

拒绝连锡!3种偷锡焊盘轻松拿捏

华秋电子

PCBA

2023年datafun随手记(1)

Hua

大数据 AI GPT LLM

软件测试/人工智能|AutoGPT原理与架构介绍

霍格沃兹测试开发学社

一文弄懂竞品分析 - 竞品分析是什么| 从哪些方面分析 | 竞品分析报告怎么写?

彭宏豪95

效率工具 产品经理 在线白板 竞品分析 SWOT

淘宝商品详情API接口文档(API SDK)

tbapi

淘宝商品详情数据接口 淘宝API接口 淘宝商品详情页面数据 淘宝商品详情数据采集方法 天猫数据接口

SQL 通配符:用于模糊搜索和匹配的 SQL 关键技巧

小万哥

MySQL 数据库 程序员 sql 后端开发

鸿蒙学堂·创新实训营再度启航深圳,中国移动、国家电网等40余家企业参与

最新动态

CART算法解密:从原理到Python实现

快乐非自愿限量之名

Python 算法 PyTorch

跃见书单 | 一文带你读懂《人工智能简史》

码上跃见

AIGC #人工智能

喜讯!云起无垠成为国家信息安全漏洞库(CNNVD)技术支撑单位

云起无垠

Presto+Alluxio数据平台实战

数新网络官方账号

大数据

电竞游戏主播直播系统平台,在市场该如何变现?

软件开发-梦幻运营部

几种常见的排序算法总结

不在线第一只蜗牛

算法 排序算法 教程分享

IDC最新报告,增速减缓+AI增势,阿里云视频云中国市场第一

阿里云视频云

云计算 视频云

如何系统、科学地自学编程知识?

代码生成器研究

C/C++ 开发SCM服务管理组件

不在线第一只蜗牛

c 开发语言 c++、

软件测试/人工智能|一文教你如何配置自己的AutoGPT

霍格沃兹测试开发学社

为什么 Mac 适合编程?

代码生成器研究

拼多多商品详情数据接口应用在哪些场景?

tbapi

拼多多 拼多多商品详情接口 拼多多API接口

铭文聚合交易平台 Scorpio:铭文赛道狂潮的新引领者

股市老人

E往无前 | 海量数据ES 扩展难?腾讯云大数据ES 扩展百万级分片也“So Easy~”

腾讯云大数据

ES

北京同仁堂签署鸿蒙生态合作协议,加速推进鸿蒙原生应用开发

最新动态

只需3分钟!组织架构图如何简单快速制作

Geek_09ea8e

组织架构图

我干嘛要去学Python???!!!

代码生成器研究

保姆级连接FusionInsight MRS kerberos Hive

数新网络官方账号

Java hive 华为云 Dbeaver

软件测试/人工智能|教你如何使用ChatGPT的API

霍格沃兹测试开发学社

12 月 3 日北京,时序数据管理前沿技术+行业应用尽在 IoTDB 用户大会!

Apache IoTDB

登陆 Azure、发布新版本……Zilliz 昨夜今晨发生了什么?

Zilliz

azure Milvus Zilliz zillizcloud

下一代大数据实时监控系统_QCon_李双江_InfoQ精选文章