写点什么

下一代大数据实时监控系统

  • 2019-08-27
  • 本文字数:719 字

    阅读完需:约 2 分钟

下一代大数据实时监控系统

QCon上海2018大会上,李双江讲师做了《下一代大数据实时监控系统》主题演讲,主要内容如下。


演讲简介


在大规模网络下,随着 gRPC 协议方式的采集的普及, 响应速度快,实时性高,采集数据更全面。如何将这些 gRPC 采集方式带来的众多优点不打折扣的提供给网络运维人员,给下一代的大数据实时监控系统带来了一定的挑战。


为此,我们引入了一套基于流式计算(Blink 基于开源的 Apache Flink)和内存数据存储(Apache Ignite)方式的实时告警系统。借助 Kafka 和 HBase 实现数据缓存,Blink 进行流式计算,Ignite 进行实时的业务告警。并 Blink 的 SQL 方式进行实时计算和规则生成,通过 Ignite 开放 SQL 开发实现了数据的低延迟实时查询服务。本次分享主要介绍我们在以上方面的一些经验。

听众受益

  1. 了解如何设计一套更实时、满足多业务场景需求的大数据监控系统;

  2. 了解 Blink 和 Ignite 在大数据监控系统中的应用;

  3. 了解传统的 SQL 如何在整个系统中发挥作用,带来更大的灵活性和业务扩展性。


讲师介绍


李双江


阿里巴巴 Senior Engineer


李双江,阿里巴巴技术专家,美国田纳西大学计算机工程博士,研究方向为机器学习优化算法,应用于图像、视频、计算机网络等领域。在 Java 语言,网络协议、网络安全、大数据处理和分布式系统领域有多年经验。现担任多个 SCI 期刊及 IEEE/ACM 会议的编辑、委员及技术委员会主席。


自 2017 年起加入阿里巴巴,目前负责开发阿里巴巴基础设施事业群(Alibaba Infrastructure Service)网络研发事业部下一代监控系统的研发,大规模数据挖掘、故障异常检测、网络运维可视化项目等。闲暇之余,爱好跑步,游泳和骑车。曾完成多次马拉松和铁人三项比赛。












完整演讲 PPT 下载链接


https://qcon.infoq.cn/2018/shanghai/schedule


2019-08-27 15:583273

评论

发布
暂无评论
发现更多内容

HarmonyOS开发实战:Neural Network Runtime Kit加速新闻AI推理

chengxujianke

HarmonyOS NEXT

鸿蒙时间管理实战:Calendar Kit实现智能文档时效控制

huafushutong

HarmonyOS NEXT

鸿蒙开发笔记:Core Vision Kit在新闻应用的图像识别实践

chengxujianke

HarmonyOS NEXT

鸿蒙开发笔记:Natural Language Kit实现新闻智能语义分析

chengxujianke

HarmonyOS NEXT

鸿蒙应用开发:实现车机无障碍交互

yimapingchuan

HarmonyOS NEXT

鸿蒙开发实战:Localization Kit实现新闻应用全球化适配

chengxujianke

HarmonyOS NEXT

鸿蒙容器组件 RelativeContainer 全解析:灵活定位的布局神器

谢道韫

HarmonyOS开发实战:在车机系统的分布式实践

yimapingchuan

HarmonyOS NEXT

鸿蒙应用生态实战:AppGallery Kit实现文档应用智能分发

huafushutong

HarmonyOS NEXT

标题:鸿蒙开发实战:ArkData实现新闻数据高效存储与同步

chengxujianke

HarmonyOS NEXT

鸿蒙开发实战:IME Kit实现新闻应用智能输入体验

chengxujianke

HarmonyOS NEXT

HarmonyOS开发实战:Core Speech Kit在新闻应用的语音交互实现

chengxujianke

HarmonyOS NEXT

鸿蒙智能联络实战:Contacts Kit构建文档协作关系网络

huafushutong

HarmonyOS NEXT

电脑网页的视频怎么保存到本地,从网页下载视频的方法?怎么使用IDM的站点抓取功能下载网站视频?

阿拉灯神丁

视频下载器 IDM idm下载 网页视频下载工具 网络加速服务

HarmonyOS开发实战:Ability Kit在新闻应用中的高效实现

chengxujianke

HarmonyOS NEXT

鸿蒙开发实战:ArkWeb实现新闻应用内嵌浏览器优化

chengxujianke

HarmonyOS NEXT

鸿蒙应用开发:Intents Kit实现新闻应用智能跳转

chengxujianke

HarmonyOS NEXT

HarmonyOS开发实战:MindSpore Lite Kit优化新闻推荐模型推理

chengxujianke

HarmonyOS NEXT

鸿蒙云服务实战:Cloud Foundation Kit构建企业级文档云平台

huafushutong

HarmonyOS NEXT

鸿蒙通信实战:Call Service Kit打造智能文档协作通话

huafushutong

HarmonyOS NEXT

HarmonyOS开发实战:ArkTS构建高性能新闻应用界面

chengxujianke

HarmonyOS NEXT

HarmonyOS开发实战:Background Tasks Kit实现新闻数据后台同步

chengxujianke

HarmonyOS NEXT

鸿蒙开发实战:Core File Kit实现新闻离线缓存管理

chengxujianke

HarmonyOS NEXT

鸿蒙容器组件 Row 全解析:水平布局技术与多端适配指南

谢道韫

HarmonyOS开发实战:IPC Kit实现新闻应用跨进程通信优化

chengxujianke

HarmonyOS NEXT

鸿蒙深度链接实战:App Linking Kit构建智能文档工作流

huafushutong

HarmonyOS NEXT

HarmonyOS开发实战:Form Kit实现新闻桌面卡片功能

chengxujianke

HarmonyOS NEXT

鸿蒙开发实战:ArkUI构建新闻应用的高性能界面

chengxujianke

HarmonyOS NEXT

HarmonyOS开发实战:UI Design Kit打造新闻应用沉浸式体验

chengxujianke

HarmonyOS NEXT

HarmonyOS开发实战:HiAI Foundation Kit赋能新闻应用智能推荐

chengxujianke

HarmonyOS NEXT

鸿蒙开发笔记:Accessibility Kit打造无障碍新闻阅读体验

chengxujianke

HarmonyOS NEXT

下一代大数据实时监控系统_QCon_李双江_InfoQ精选文章