写点什么

SnappyData 在美团酒店实时数据分析中的应用

  • 2019-08-24
  • 本文字数:623 字

    阅读完需:约 2 分钟

SnappyData在美团酒店实时数据分析中的应用

QCon北京2018大会上,焦向讲师做了《SnappyData 在美团酒店实时数据分析中的应用》主题演讲,主要内容如下。


演讲简介


以 Flink 和 SnappyData 为核心,将原有的非实时、开发周期长、维护成本高的以“预处理”为核心的方案,转化为目前以“后处理”为核心的方案。


  1. 开发效率:得到质变,无需预处理,周级别需求小时级完成。

  2. 节省存储空间:比如原方案 Kylin 中 150T+预处理结果数据不再需要。

  3. 其他一些收益:比如指标一致性显著提升。

  4. 历史数据问题:采用类 SCD Type 2 的方式,处理历史事实数据和数据压缩,有不少对比数据。

  5. 建模问题:直接从原始表支持需求,中间缺少传统数仓建模的抽象层次,尝试实现类似 Shasta 的 RVL 层。


介绍 SnappyData 的优势劣势,当前的问题,我们在调优方面的努力,以及我们的定制化修改:


  1. 支持注册 Spark 声明式 UDF,相比于命令式 UDF,性能提升一个量级,很好的解决了酒店的特殊场景;

  2. Boxing/Unboxing 优化;

  3. QueryPlan Cache 相关的优化。


讲师介绍


焦向


美团点评 高级技术专家,酒店经营效率组负责人


焦向,2015 年加入美团点评,现为美团酒店经营效率组负责人,曾负责美团平台推荐系统架构。先前就职于百度,主要做分布式缓存,是社区第三代 Redis 集群化方案的设计者和主要实现者,支持了包括贴吧、手百在内的多个产品,有丰富的分布式存储理论和实践经验;工作之余,对编程语言基础理论、编译器优化、机器学习都有浓厚兴趣和一定深入。












完整演讲 PPT 下载链接


https://qcon.infoq.cn/2018/beijing/schedule


2019-08-24 17:131439

评论

发布
暂无评论
发现更多内容

Week3总结+作业

林毋梦

极客大学架构师训练营

架构师训练营 Week 03 总结

Wancho

架构师训练营 No.3 周作业

连增申

【架构师训练营】第三周作业

Mr.hou

极客大学架构师训练营

代码重构:如何充实你的设计工具箱

Skye

极客大学架构师训练营 代码重构

BIGO全球计算平台的技术挑战

DT极客

单例模式 & 组合模式

朱月俊

最近一周总结

朱月俊

架构师课程第三周作业

杉松壁

分布式时序数据库SilverDB-技术架构1

Hervor。

时序数据库 分布式架构 分布式存储

03周作业——设计模式

dao

设计模式 极客大学架构师训练营 作业

投资人李丰对中国商业模式创新的理解

石云升

投资 零售 模式创新

第三周作业

CP

Zookeeper面试题36问,再和面试官多聊半个点

Java小咖秀

zookeeper 负载均衡 面试 分布式协同 分布式系统

Week 03 命题作业

卧石漾溪

极客大学架构师训练营

架构师训练营 第三周作业

Glowry

极客大学架构师训练营

谁再悄咪咪的吃掉异常,我上去就是一 JIO

楼下小黑哥

Java dubbo 踩坑经历

架构师训练营第三章作业

叮叮董董

代码重构--架构师必备技能

极客李

Java HashMap loadfactor没有必要非是0.75

i风语

Java redis hashmap loadfactor hash

架构师训练营作业 -20200621

caibird1984

极客大学架构师训练营

架构师训练营-第三周作业

清风徐徐

第三周作业

王鑫龙

极客大学架构师训练营

【第三周】学习总结——Flower框架学习和设计模式

三尾鱼

极客大学架构师训练营

Week 03 学习总结

卧石漾溪

极客大学架构师训练营

「架构师训练营」第 3 周作业 - 模式与重构

guoguo 👻

极客大学架构师训练营

八张图彻底了解JDK8 GC调优秘籍-附PDF下载

程序那些事

JVM jdk8 「Java 25周年」 Java 25 周年 性能调优

Week 03- 作业二:学习总结

dean

极客大学架构师训练营

架构师训练营第三章总结

叮叮董董

改变要一点点来

Neco.W

正确阅读 进步

架构训练营第三章课后作业单例模式 组合模式

周冬辉

SnappyData在美团酒店实时数据分析中的应用_QCon_焦向_InfoQ精选文章