大厂Data+Agent 秘籍:腾讯/阿里/字节解析如何提升数据分析智能。 了解详情
写点什么

Shopee 数据事件中心的设计和实现

  • 2019-08-15
  • 本文字数:890 字

    阅读完需:约 3 分钟

Shopee 数据事件中心的设计和实现

ArchSummit深圳2019大会上,林锋讲师做了《Shopee 数据事件中心的设计和实现》主题演讲,主要内容如下。


演讲简介


电商系统的业务需求复杂,包含许多不同的子系统,对一些数据的操作常常需要多个系统联动,也有在不同系统间同步数据的需求,导致不同系统之间紧密耦合。一些典型的场景如:


  1. 不同系统对订单数据有不同的查询需求,需要在数据库或 Elasticsearch 中维护多个不同维度的索引,并保证数据源与索引同步;

  2. 业务优化改造数据库表结构时,需要在切换过程中保证数据在新旧不同结构的数据表之间进行同步;

  3. 各个系统对核心数据如用户、商品信息等都有各自的缓存,需要在数据被修改时更新缓存或使缓存失效;

  4. 一些数据的修改会触发其他系统的操作,如卖家增加一个商品时需要自动在运营平台创建一个审核任务。


DEC (Data Event Center) 是 Shopee 的数据库事件订阅和任务执行平台,负责监听 MySQL 数据库数据变更事件,并根据用户配置对数据事件进行处理,执行数据同步、缓存同步、事件回调等不同类型的任务。通过 DEC 使用简单配置就可以实现上述不同的需求,从而提高研发效率,也使同一数据的不同使用方之间互相解耦。


本次演讲主要介绍 DEC 的系统设计和实现,以及我们是如何解决 DEC 实现过程中遇到的一系列技术挑战,包括如何实现系统整体的高可用性、可伸缩性和高性能,在不增加运维复杂度的情况下如何保证不同任务间的隔离,在复杂场景下如何保证数据的强一致性或最终一致性等。


演讲提纲


  1. 需求和应用场景;

  2. Shopee 数据库事件订阅系统演进;

  3. DEC 设计和实现;

  4. 实践中遇到的问题和解决方案;

  5. 未来规划。


听众受益点


  1. 了解数据库事件订阅和任务执行平台的应用场景、设计思路、实践中可能遇到的问题和解决方案;

  2. DEC 实现系统的高可用、可伸缩和数据一致性的思路可以作为设计其他分布式系统的参考。


讲师介绍


林锋


Shopee Engineering & Technology / 技术平台团队负责人


2012 年加入 Sea Group,目前在 Shopee Engineering & Technology 部门,担任 Shopee 技术平台团队负责人,负责容器平台、网关、中间件、服务网格等基础技术平台的建设。












完整演讲 PPT 下载链接


https://archsummit.infoq.cn/2019/shenzhen/schedule


2019-08-15 00:003001

评论

发布
暂无评论
发现更多内容

Windows下版本控制器(SVN)-启动服务器端程序

刘大猫

人工智能 svn 版本控制 版本控制系统 tortoiseSVN

开普勒完成A轮融资,打造"硬件梦之队"加速人形机器人规模化进程

财见

YashanDB数据生命周期管理策略解析

数据库砖家

YashanDB智能负载均衡实现方法及效果分析

数据库砖家

鸿蒙 Grid 与 GridItem 深度解析:二维网格布局解决方案

谢道韫

最后一个产品终于通过审核了!

Immerse

YashanDB最佳实践:构建高效稳定系统的建议

数据库砖家

极客时间 AI 数据分析训练营学习总结

泄矢的呼啦圈

Iontra助力减排1亿吨CO₂

财见

IBM 研究:以利润为导向的首席营销官将AI视为增长驱动力,但运营障碍阻碍了他们的步伐

财见

Go 语言单例模式全解析:从青铜到王者段位的实现方案

左诗右码

地平线静态目标检测 MapTR 参考算法 - V2.0

地平线开发者

自动驾驶; 算法工具链 地平线征程6

从0到100:单位订餐统计小程序开发日记2025

CC同学

Swag - 将Go注释转换为Swagger文档的强大工具

qife

Go API文档

HarmonyOS NEXT仓颉开发语言实战案例:健身App

幽蓝计划

HarmonyOS NEXT

YashanDB数据库配置优化及资源合理分配技巧

数据库砖家

YashanDB数据模型设计及实现细节

数据库砖家

鸿蒙 List 组件解析:从基础列表到高性能界面开发指南

谢道韫

从0到放弃:会员登记与缴费小程序开发笔记(一)

CC同学

爱立信连续第五年在《Frost Radar™ 5G网络基础设施市场报告》中名列前茅

财见

从0到1:不文明现象随手拍小程序开发日记(一)

CC同学

PIRF 437:Twisted – Tongue Twisters

Echo!!!

English

AI 数据分析训练营 - 毕业总结

Simon

HarmonyOSNext支付全栈攻略:IAP Kit无漏单秘籍+避坑指南

Turing_010

鸿蒙 Scroll 组件深度解析:丝滑滚动交互全场景实现

谢道韫

大数据-25 Sqoop 增量数据导入 CDC 变化数据捕获 差量同步数据

武子康

大数据 hadoop hdfs sqoop JDBC

HarmonyOS NEXT仓颉开发语言实战案例:小而美的旅行App

幽蓝计划

harmoyos

《HarmonyOSNext未成年人守护盾:3分钟搞定全自动分龄保护开发指南》

Turing_010

HarmonyOS实战:打造极简HEventBus事件通知

IT小码哥

HarmonyOS HarmonyOS NEXT

鸿蒙 Swiper 组件解析:轮播交互与动画效果全指南

谢道韫

警报炸锅了,FastJson 又立功了。。

Geek_e3e86e

Java 编程

Shopee 数据事件中心的设计和实现_ArchSummit_林锋_InfoQ精选文章