【ArchSummit架构师峰会】探讨数据与人工智能相互驱动的关系>>> 了解详情
写点什么

Shopee 数据事件中心的设计和实现

  • 2019-08-15
  • 本文字数:890 字

    阅读完需:约 3 分钟

Shopee 数据事件中心的设计和实现

ArchSummit深圳2019大会上,林锋讲师做了《Shopee 数据事件中心的设计和实现》主题演讲,主要内容如下。


演讲简介


电商系统的业务需求复杂,包含许多不同的子系统,对一些数据的操作常常需要多个系统联动,也有在不同系统间同步数据的需求,导致不同系统之间紧密耦合。一些典型的场景如:


  1. 不同系统对订单数据有不同的查询需求,需要在数据库或 Elasticsearch 中维护多个不同维度的索引,并保证数据源与索引同步;

  2. 业务优化改造数据库表结构时,需要在切换过程中保证数据在新旧不同结构的数据表之间进行同步;

  3. 各个系统对核心数据如用户、商品信息等都有各自的缓存,需要在数据被修改时更新缓存或使缓存失效;

  4. 一些数据的修改会触发其他系统的操作,如卖家增加一个商品时需要自动在运营平台创建一个审核任务。


DEC (Data Event Center) 是 Shopee 的数据库事件订阅和任务执行平台,负责监听 MySQL 数据库数据变更事件,并根据用户配置对数据事件进行处理,执行数据同步、缓存同步、事件回调等不同类型的任务。通过 DEC 使用简单配置就可以实现上述不同的需求,从而提高研发效率,也使同一数据的不同使用方之间互相解耦。


本次演讲主要介绍 DEC 的系统设计和实现,以及我们是如何解决 DEC 实现过程中遇到的一系列技术挑战,包括如何实现系统整体的高可用性、可伸缩性和高性能,在不增加运维复杂度的情况下如何保证不同任务间的隔离,在复杂场景下如何保证数据的强一致性或最终一致性等。


演讲提纲


  1. 需求和应用场景;

  2. Shopee 数据库事件订阅系统演进;

  3. DEC 设计和实现;

  4. 实践中遇到的问题和解决方案;

  5. 未来规划。


听众受益点


  1. 了解数据库事件订阅和任务执行平台的应用场景、设计思路、实践中可能遇到的问题和解决方案;

  2. DEC 实现系统的高可用、可伸缩和数据一致性的思路可以作为设计其他分布式系统的参考。


讲师介绍


林锋


Shopee Engineering & Technology / 技术平台团队负责人


2012 年加入 Sea Group,目前在 Shopee Engineering & Technology 部门,担任 Shopee 技术平台团队负责人,负责容器平台、网关、中间件、服务网格等基础技术平台的建设。












完整演讲 PPT 下载链接


https://archsummit.infoq.cn/2019/shenzhen/schedule


2019-08-15 00:002498

评论

发布
暂无评论
发现更多内容

Mac10.15系统正式版安装包 macOS Catalina离线安装资源 苹果电脑Catalina10.15.7安装

iMac小白

Boxy SVG 4.29.0 MAS 矢量图编辑器

iMac小白

一本书了解AI的下一个风口:AI Agent

博文视点Broadview

Parallels Desktop 19完美破解版下载

iMac小白

从基础到高级,带你深入了解和使用curl命令(三)

霍格沃兹测试开发学社

计算机网络协议介绍

京东科技开发者

visionOS 专门应用提交数大幅下降;Kimi 不断「吊打」国内各大厂 AI 模型丨 RTE 开发者日报 Vol.180

声网

“翼”马当先!混合云价值影响力领导者!

天翼云开发者社区

人工智能 云计算 云服务

提高 AI 训练算力效率:蚂蚁 DLRover 故障自愈技术的创新实践

可信AI进展

开源 算力 DLRover

OpenHarmony南向能力征集令

Laval小助手

软件测试学习笔记丨测试环境搭建

测试人

软件测试

智能合约NFT代币系统的开发:构建数字资产生态

区块链软件开发推广运营

dapp开发 区块链开发 链游开发 NFT开发 公链开发

Android File Transfer for mac:简单易用的安卓文件传输工具

iMac小白

物联网中的预测分析:当IoTDA遇上ModelArts

华为云开发者联盟

物联网 华为云 华为云ModelArts 华为云开发者联盟 企业号2024年4月PK榜

小程序技术实践——快速开发适配鸿蒙的App

Geek_2305a8

得物千人规模敏捷迭代实践分享

得物技术

项目管理 互联网人 PMO 得物技术 企业号 4 月 PK 榜

【稳定性】浅谈团队如何做好系统稳定性

京东科技开发者

云行| 算赋山城,天翼云智启数字重庆智慧新篇!

天翼云开发者社区

人工智能 云计算 智算中心

SD-WAN解决方案七大便利点

Ogcloud

SD-WAN 企业组网 SD-WAN组网 SD-WAN服务商 SDWAN

AI 数据观 | 大模型私有化部署落地过程中,那些容易被忽视的“数据集成”难题

tapdata

生成式 AI 应用 大语言模型集成 企业 AI 应用

中文GM CHM Reader Pro v2.6.0 最新安装包

iMac小白

macOS Catalina for mac (macos 10.15系统离线安装包) v10.15.7正式版

iMac小白

ArchiCAD 27.2.0 Build 5003 BIM建筑信息3D建模

iMac小白

真的假的!有个物联网公司通过自建数据库省了 98% 的云成本?!

小猿姐

数据库 云计算 aurora

Microsoft 365 for Mac(原Office 365)

iMac小白

AutoCAD 2024 for Mac(cad设计绘图工具) v2024.3中文激活版

iMac小白

测试领域革新:ChatGPT助你轻松编写测试方案!

测吧(北京)科技有限公司

测试

Termius中文完整激活破解版 支持M电脑

iMac小白

SD-WAN为出海电商提供了什么支持

Ogcloud

SD-WAN 企业网络 SD-WAN组网 SD-WAN服务商 SDWAN

手把手教你在 Spring Boot 中实现 AOP

Liam

Java 程序员 Spring Boot 后端 aop

青否科技AI数字人系统源码五大功能强势来袭!

青否数字人

数字人

Shopee 数据事件中心的设计和实现_ArchSummit_林锋_InfoQ精选文章