写点什么

阿里 10PB+ 天日志系统设计和实现

  • 2019-08-13
  • 本文字数:661 字

    阅读完需:约 2 分钟

阿里10PB+天日志系统设计和实现

ArchSummit深圳2019大会上,孙廷韬(龙悟)讲师做了《阿里 10PB+/天日志系统设计和实现》主题演讲,主要内容如下。


演讲简介


阿里云日志服务作为阿里集团底层日志平台,提供完善易用的数据采集方案,PB 级数据实时索引和分析能力,在阿里集团被广泛应用,数千工程师直接使用日志服务进行日常问题排查,也有大量应用基于日志服务进行二次开发,如阿里集团所有大型 Trace 系统底层都使用日志服务。


演讲提纲


1、介绍阿里云 10PB +/天日志系统如何运转


  • 核心功能介绍

  • 支持的场景和解决的问题


2、系统解决的核心技术难点


性能和成本


  • PB 级索引系统设计思路


多租户下稳定性实现


  • 流量秒级流控、防穿透

  • 自动负载均衡

  • 资源动态分配和隔离


系统管理


  • 百万级的客户端如何管理、监控、问题自助定位

  • 应用管理


3、面向运维场景的高级功能介绍


  • 基于机器学习的时序数据智能诊断和预测

  • 超大规模日志实时智能聚类


4、应用实践


  • 阿里内部基于日志服务构建系统实践


听众受益点


  1. 了解生产环境下 10( PB +/天)日志系统的设计和实现,以及在这背后的思考

  2. 了解系统如何稳定支持上万应用

  3. 了解如何基于日志数据进行智能运维,以及阿里内部应用实践


讲师介绍


孙廷韬(龙悟)


阿里云 高级技术专家


阿里云高级技术专家,负责阿里云日志服务架构设计和实现。日志服务是针对实时数据一站式服务,提供日志数据采集、智能查询分析、消费与投递等功能,全面提升海量日志处理/分析能力。在阿里集团,覆盖百万服务器,上万应用,单日采集数据超过 10PB,为数千工程师提供简单易用的日志分析服务。












完整演讲 PPT 下载链接


https://archsummit.infoq.cn/2019/shenzhen/schedule


2019-08-13 00:006579

评论

发布
暂无评论
发现更多内容

架构师训练营第 1 期 - 第三周学习总结

Anyou Liu

极客大学架构师训练营

互联网上正规平台的辨别方法?被AG黑网投黑钱拿回的技巧方案

InfoQ_6b6a6317a692

spring-boot-route(一)Controller接收参数的几种方式

Java旅途

Java Spring Boot

架构师训练营—第三周学习总结

Geek_shu1988

架构师训练营—第三周作业

Geek_shu1988

go语言设计的理解-工程化语言

superman

Java 面向对象编程 Go 语言

区块链12年:应用在了哪些领域?

CECBC

区块链 教育 金融 物流

Ui Automator 框架和Ui Automator Viewer你会用吗?附送「必备adb命令」拿走不谢 !

清菡软件测试

android

架构师训练营第一期 - 第三周课后 - 作业二

极客大学架构师训练营

架构师训练营第 1 期 -- 第三周作业

发酵的死神

极客大学架构师训练营

为啥你用@JsonFormat注解时,LocalDateTime会反序列化失败?

冰河

springboot LocalDateTime JsonFormat

架构师训练营第 1 期 -- 第三周学习总结

发酵的死神

极客大学架构师训练营

架構師訓練營第 1 期 - 第 02 周作業

Panda

架構師訓練營第 1 期

智能的本质—DIKW结构

良少

学习 AI 智能 DIKW

架构师训练营第一期 - 第三周课后 - 作业一

极客大学架构师训练营

最完整的PyTorch数据科学家指南(1)

计算机与AI

学习 PyTorch

第三周总结

_

极客大学架构师训练营 第三周总结

一个草根的日常杂碎(10月1日)

刘新吾

随笔杂谈 生活记录 社会百态

为什么go中的receiver name不推荐使用this或者self

Gopher指北

后端 Go 语言

架構師訓練營第 1 期 - 第 02 周總結

Panda

架構師訓練營第 1 期

架构师训练营 1 期第 3 周:代码重构 - 总结

piercebn

极客大学架构师训练营

【读书笔记二】《企业IT架构转型之道-阿里巴巴中台战略思想与架构实战》

Man

中台 分布式 研发管理

架构师训练营第 1 期 - 第三周课后练习

Anyou Liu

极客大学架构师训练营

LeetCode题解:242. 有效的字母异位词,哈希表一次循环,JavaScript,详细注释

Lee Chen

大前端 LeetCode

架构师训练营第 3 周作业

netspecial

极客大学架构师训练营

第三周用组合设计模式编写程序

Geek_fabd84

极客时间 - 架构师一期 - 第三周作业

_

极客大学架构师训练营 第三周

UML学习笔记

Edison

UML

LeetCode题解:242. 有效的字母异位词,哈希表两次循环,JavaScript,详细注释

Lee Chen

大前端 LeetCode

如何理解区块链行业的安全问题?

CECBC

区块链 人工智能 大数据

区块链到底是什么?它为什么如此受人关注

CECBC

区块链 金融

阿里10PB+天日志系统设计和实现_ArchSummit_孙廷韬(龙悟)_InfoQ精选文章