AICon 上海站|日程100%上线,解锁Al未来! 了解详情
写点什么

SnappyData 在美团酒店实时数据分析中的应用

  • 2019-08-24
  • 本文字数:623 字

    阅读完需:约 2 分钟

SnappyData在美团酒店实时数据分析中的应用

QCon北京2018大会上,焦向讲师做了《SnappyData 在美团酒店实时数据分析中的应用》主题演讲,主要内容如下。


演讲简介


以 Flink 和 SnappyData 为核心,将原有的非实时、开发周期长、维护成本高的以“预处理”为核心的方案,转化为目前以“后处理”为核心的方案。


  1. 开发效率:得到质变,无需预处理,周级别需求小时级完成。

  2. 节省存储空间:比如原方案 Kylin 中 150T+预处理结果数据不再需要。

  3. 其他一些收益:比如指标一致性显著提升。

  4. 历史数据问题:采用类 SCD Type 2 的方式,处理历史事实数据和数据压缩,有不少对比数据。

  5. 建模问题:直接从原始表支持需求,中间缺少传统数仓建模的抽象层次,尝试实现类似 Shasta 的 RVL 层。


介绍 SnappyData 的优势劣势,当前的问题,我们在调优方面的努力,以及我们的定制化修改:


  1. 支持注册 Spark 声明式 UDF,相比于命令式 UDF,性能提升一个量级,很好的解决了酒店的特殊场景;

  2. Boxing/Unboxing 优化;

  3. QueryPlan Cache 相关的优化。


讲师介绍


焦向


美团点评 高级技术专家,酒店经营效率组负责人


焦向,2015 年加入美团点评,现为美团酒店经营效率组负责人,曾负责美团平台推荐系统架构。先前就职于百度,主要做分布式缓存,是社区第三代 Redis 集群化方案的设计者和主要实现者,支持了包括贴吧、手百在内的多个产品,有丰富的分布式存储理论和实践经验;工作之余,对编程语言基础理论、编译器优化、机器学习都有浓厚兴趣和一定深入。












完整演讲 PPT 下载链接


https://qcon.infoq.cn/2018/beijing/schedule


2019-08-24 17:131397

评论

发布
暂无评论
发现更多内容

Github点击破百万!这部《从零开始学架构》神书就此霸榜

Java你猿哥

Java 架构 ssm 面经 架构实战

喜讯:祝贺行云绽放荣获深圳市专精特新企业称号

行云管家

云计算 深圳 专精特新

详解MyBatis加载映射文件和动态代理

做梦都在改BUG

Java mybatis

流批一体在 AI 核心电商领域的探索与实践

Apache Flink

大数据 flink 实时计算

即时通讯技术文集(第10期):IM通信协议该选TCP还是UDP [共12篇]

JackJiang

精品!阿里P7爆款《K8s+Jenkins》技术笔记,高质量干货必收藏

做梦都在改BUG

Java Kubernetes k8s jenkins

大顶堆的实现(基于数组存储的完全二叉树)

Java你猿哥

Java 二叉树 ssm 实战

知乎三天点击破亿!四天精通springcloud微服务架构

Java你猿哥

微服务 微服务架构 Spring Cloud 从分层架构到微服务架构

熬了一个月肝完这份阿里P8的Java面试手册,我从20K变成了30K

Java你猿哥

Java 面经 校招 春招 八股文

视频编辑场景下的文字模版技术方案

百度Geek说

企业号 3 月 PK 榜 视频编辑 端渲染 富文本素材

JDK20正式发布了GA版本,短期维护支持,以及JDK21预览

小小怪下士

Java 程序员 jdk 后端

模块9作业

梁山伯

软件工程中建模的底层逻辑

阿里技术

软件工程 建模

人工智能打造充满创造力的新世界,华为云开发者日无锡站成功举办

华为云开发者联盟

人工智能 华为云 元宇宙 华为云开发者联盟 企业号 3 月 PK 榜

卷起来了!阿里最新出品“微服务全阶笔记”,涵盖微服务全部操作

程序员小毕

Java 程序员 微服务 SpringCloud springcloudAlibaba

源码中常见的 where 1=1 是一种高级优化技巧?

Java你猿哥

Java 源码 ssm

狂刷《Java权威面试指南(阿里版)》,冲击“金三银四”有望了

做梦都在改BUG

Java java面试 Java八股文 Java面试题 Java面试八股文

五分钟带你学会微服务熔断原理分析与源码解读

Java你猿哥

微服务 ssm 微服务实战 微服务熔断

医疗卫生机构等保测评法律依据有哪些?多久要测评一次?

行云管家

医疗 等保

独家Java架构师题,面试再不过找我来要赔偿,谢谢

Java你猿哥

架构 面试 ssm 面经 java实战

机器学习算法(二): 基于鸢尾花数据集的朴素贝叶斯(Naive Bayes)预测分类

汀丶人工智能

数据挖掘 机器学习

JVM级别的本地缓存框架Guava Cache:探寻实现细节与核心机制

Java你猿哥

Java JVM ssm Guava Cache

阿里是如何使用分布式架构的?阿里内部学习手册分享

Java你猿哥

分布式 ssm 分布式架构 分布式实战

软件测试/测试开发丨app自动化测试之Appium WebView 技术原理

测试人

软件测试 自动化测试 测试开发 appium

这一次,NineData新功能上线,真的是拼了

NineData

人工智能 sql 开发规范 数据复制服务 企业开发系统

使用 Metabase 连接 Databend Cloud 实现大屏展示

Databend

人工智能打造充满创造力的新世界,华为云开发者日无锡站成功举办

极客天地

软件测试/测试开发丨只懂黑盒测试也能学会的代码覆盖率及精准化测试

测试人

软件测试 自动化测试 精准测试 测试开发 代码覆盖率

RabbitMQ 延迟消息实战

做梦都在改BUG

Java 消息队列 消息中间件 Rabbit MQ

C#/VB.NET:如何将PDF转为PDF/A

在下毛毛雨

C# .net PDF 文档转换 PDF/A

我有一篇Java Stream使用手册,学了就是你的了!

做梦都在改BUG

SnappyData在美团酒店实时数据分析中的应用_QCon_焦向_InfoQ精选文章