携程Elasticsearch数据同步实践

2020 年 11 月 18 日

携程Elasticsearch数据同步实践

一、背景


Elasticsearch 是最近几年非常热门的分布式搜索和数据分析引擎,携程内部不仅使用 ES 实现了大规模的日志平台,也广泛使用 ES 实现了各个业务场景的搜索、推荐等功能。


本文聚焦在业务搜索的场景分享了我们在做数据同步方面的思考和实践,希望能对大家有所启发。


二、现状调研


数据同步是个很麻烦的事情,在各种论坛、分享中被大家反复讨论。


我们的需求大致包括全量、增量地从 Hive、MySql、Soa 服务、Mq 等不同类型的数据源获取数据,部分数据还需要进行一定的计算或者转换,然后近实时地同步到 ES 中,以被用户搜索到。


为了讨论方便,假定本文的场景是文章搜索的场景:


1)索引内容为文章,主要的信息保存在 article 表里;


2)每个文章关联了 tag,保存在 article_tag 表里;


3)tag 表里的 tagName 也需要进入 ES 索引,以便使用标签名字搜索文章;


在以前同步这样的数据进入 ES,单条文章的数据组装伪代码如下:


List<Long> tagIds = articleTagDao.query("select tagId from article_tags where articleId=?", articleId);List<TagPojo> tags =tagDao.query("select id, name from tags whereid in (?)");ArticleInEs articleInEs = new ArticleInEs();articleInEs.setTagIds(tagIds);articleInEs.setTagNames(tags.stream().filter(tag-> tagIds.contains(tag.getId())).map(TagPojo::getName).collect(Collectors.toList()));
复制代码


只是一个标签的信息的组装代码就如此繁琐,而实际的情况要复杂得多。比如可能会有十几个乃至几十个 ES 索引字段,或者还要考虑代码、SQL 性能以及业务逻辑,组装数据这个工作本身就已经让人头秃了,更别说可能还有业务的逻辑要处理了。


由于携程使用 ES 的业务非常多,迫切需要一个简单易用的框架或者工具完成这个工作,以便大家从繁琐重复的代码里脱身,专注在完成业务本身上。


开源社区有很多类似的实现,类似 elasticsearch-jdbc、go-mysql-elasticsearch、Logstash 等,经过评估我们认为存在以下问题,无法落地:


1)常见的工具都是基于配置的,固然非常方便,但是由于安全的原因,我们拿不到生产环境的 DB 的明文连接串,无法配置数据源;


2)从 DB 得到的数据有时候需要经过处理以后才能推送给 ES,简单的基于配置的方式无法满足;


3)ES 的用户名、密码等,我们不希望出现在配置中,需要有统一的地方对连接信息进行管理,以保证安全及便于维护;


4)数据的组装有的场景比较复杂,目前这些工具的配置写起来可能比代码还繁琐;


5)增量的数据来源,有时候是 MQ,无法使用配置进行更新;


6)有的工具是单独的命令行,无法和我们的 JOB 结合(基于 JAVA)


评估下来,发现这几个工具更适用于简单的 DB 数据,或者已经有了 DB 平表的场景。一则我们场景有比较复杂的,一则有平表的话同步到 ES 已经不是多麻烦的事情了。我们需要造一个车轮才能解决全部需求,除了满足以上提到的开源工具不支持的场景,还要保留他们的基于配置的机制,达到只完成必要的 SQL、ES Mapping,和增加必要的数据源即可完成索引的创建工作。


三、实现思路


整体同步模块的结构如下:



我们从不同的维度来介绍组件的设计思路:


3.1 根据索引方式


1)第一种是全量同步,全量由于是对整个索引的变更,所以既要保证稳定,又要确保不会创建有问题的索引。


全量会从零创建一个全新的索引。同步开始前,会修改索引 mapping 的 numberofreplicas 为 0、refreshinterval 为-1 等参数,以提高索引速度。同时增加了一个 indexTime 的字段,表示本数据的更新时间,用于后续的查错、比对等;索引全部完成以后,增加了 force merge、恢复 mapping 修改、_refresh 等操作,保证建立的索引是尽可能紧凑的;通过定时确保索引的 health 索引是绿色的,以免未完全准备好切换后耗时不稳定;最后检查本次索引最终的有效文档数和线上有效索引的文档数的差值是否在配置的可接受范围内,如果不在则认为本次索引出错,删除本次索引内容。


2)第二种是 MQ 增量,携程内部使用 QMQ 接收了来自 Otter 的 MySql 变更,MQ 里会有变化的数据库表、字段的信息,因此可以针对性地实现对 MQ 的解析的规则,从而可以轻而易举地达到通过 MQ 对 ES 里的文档进行全部、部分的索引。由于大部分情况 MQ 里的信息都比较少,因此更多的情况下,建议收到 MQ 以后,采用第三种方法进行增量。


3)第三种是 Id 增量,由使用方传入需要索引的 Id 列表,使用 Id 根据配置生成完整的文档提交到 ES,以简化整个索引过程的模型。这种方法是最常用的,对临时更新数据也非常友好。如果提供的 Id 在最终的数据里没有发现,将删除 ES 里对应的数据,以处理数据在 DB 里被物理删除的情况。


4)最后一种是时间增量,组件会维护每个索引的更新时间,以确保增量 JOB 滚动执行的时候,新的数据总是能尽快地进入 ES。由于该方案会要求定期查指定表里的最新数据,因此对 DB 不是很友好,大部分情况下我们并不是很建议使用该方法维护索引。


以上几种场景,全量、Id 和时间增量,都要求配置能拼装出完整的文档,确保每次发送给 ES 的都是完整的文档。实现上需要确保建立全量的过程里发生的增量,在新建的索引切换到线上使用之前,能够同步到增量,这一步通常是在 MQ 里进行处理。


3.2 根据数据来源


1)基于 SQL 的配置,完成类似文章标签的关联,这种组装场景非常简单,有时候也是为了简化 SQL 或者优化 SQL 性能,而单独拎出来的查询;由于逻辑的通用型,因此内置了代码插件实现该类型数据的读取和组装。


2)基于代码的处理,适用于类似 SQL 不方便完成、需要从 SOA 服务查询数据,或者数据需要进行复杂处理的场景;这种需要使用自己根据组件的要求实现自定义插件,以提供数据给组件进行统一处理。


3.3 根据模块


1)Runner,是组件的调用总入口,负责参数的解析、Executor 的生成、Rule 等模块的初始化等。借助封装的友好型,Runner 可以配合分布式 JOB 完成同一索引的并行建立,以加快整个索引的建立速度,这种并行方式在内部已经广泛使用。


2)Query,是整个内部流程的控制中心,负责根据 Runner 传入的参数,进行 SQL 的拼装、DB 的读取、Executor 和 Plugin 的调度等。不同的索引方式,需要对 SQL 进行不同的预处理,类似时间增量需要维护增量的时间等,也在该模块内完成。


为了简化开发成本,Query 里也实现了执行配置里指定的 Groovy 脚本,在数据进入 Executor 前可以在脚本中进行处理,某些简单的场景里可以非常轻便地实现数据过滤和处理。


3)PluginManager,负责插件配置的解析、插件实例的生成、插件的调用管理等。我们归纳了常见的数据组装的方式,提供了几个内置的插件,基本上就能完成大部分基于 DB 的数据获取和组装。比如 Assoc Plugin 可以完成类似文章标签这种聚合场景,Map Plugin 可以完成类似 Map 的映射场景,而 Filter 则支持对每一条数据进行简单的过滤处理,类似去 Html、去重等。为了减少对 DB 的压力,内置的插件都支持设置数据的缓存时间,有效时间内,优先取内存里保存的数据。


4)Executor,用于接收来自 Query 的数据,完成真正落地动作。内置了两种 Executor,使用方可以按照具体情况选择:


  • IndexExecutor,将数据通过Bulk方式提交数据到ES,从而更新ES索引;同时也要完成新索引的创建、索引状态的更新、别名切换等动作。

  • PersistExecutor,会把来自Query的数据,写入指定的数据库里的平表。这也能看出有平表的话,同步到ES已经很简单了。


5)RuleManager/Rule Loader,用于完成规则的加载和管理,支持从公司统一的 QConfig 或者当前工程的资源文件夹读取配置。插件实现了像 ES 一样的检测,对不符规范的配置会提供相应的报错,以减少因配置问题造成的数据错误。


四、小结


实际工作中,还有 Hive 到 ES 等场景,由于不在本组件范围内,因此文中没有讨论。目前我们也有场景是使用 ES-Hadoop 完成全量索引建立以后,使用本组件维护增量的。


目前已经有数个业务几十个索引使用了该组件维护索引,让研发人员最大程度的关注在业务逻辑上,而不被繁琐的重复代码所干扰。通过该组件,可以将不同数据源的数据,通过组装导出到 ES 索引中,也能导出到 DB 平表中,因此在部分数据同步的场景里也可以使用。


作者介绍


dot,携程技术经理,专注高并发、高性能领域。


本文转载自公众号携程技术(ID:ctriptech)。


原文链接


携程Elasticsearch数据同步实践


2020 年 11 月 18 日 10:06944

评论

发布
暂无评论
发现更多内容

SQL 生成斐波那契数列

zero

sql 斐波那契 MySQ

linux文件系统-inode学习整理

戈坞昂

Linux inode

在Gitlab-ce的Docker中使用自定义端口

天飞

Docker gitlab

谁能让你安稳

Neco.W

工作 稳定性 努力工作

《零基础学 Java》 FAQ 之 9-Java里的各种数据类型占用多少内存空间

臧萌

Java

「Postman教程 」接口测试-2

Megatron7

测试 Postman

关于键盘的一些事

BabyKing

vim 缓存 键盘 快捷键 karabiner

Android | Tangram动态页面之路(四)vlayout原理

哈利迪

android

比特币是新生事物吗?

Haiyung

比特币

2020年5月19日 Java并发编程专题

瑞克与莫迪

Java、

项目提升服务过程与总结稿

Geek_bc0aff

我的读书笔记-樊登读书法

lmymirror

读书笔记 学习方法 方法论 学习笔记 读书方式

MyBatis支持的jdbcType 枚举类型

Kevin Liao

看得懂的区块链及智能合约概念

石君

区块链 智能合约

520 我用算法帮女朋友的闺蜜选男友

cherubines

Python 算法 数据分析 蒙特卡洛 最优解

回“疫”录(21):你这样做的样子真丑

小天同学

疫情 心理 回忆录 现实纪录 纪实

中小型城市商业银行数字化转型实践(三)数据中台建设思路和路径

泡菜小仙

数据中台 数字化转型 数据架构

奇怪知识点系列:Office 365 CDN 揭秘

手艺人杨柳

Office 365 Microsoft 365 SharePoint Online

「Postman教程 」功能介绍-1

Megatron7

测试 Postman

实现一个比LongAdder更高性能的计数器有多难?

小楼

Java jdk LongAdder

从Deepl说起,聊一聊未来的“安全职业”

孤岛旭日

程序员 AI 职业

Oracle 数据恢复一例

wong

oracle windows dbf

如何设计一款“高可用高性能”的发号器?

小楼

Java 高可用 发号器 高性能 raft

中小型城市商业银行数字化转型实践(二)集成关系ESB APIGateway ServiceMesh

泡菜小仙

架构设计 集成架构 ESB

部门最漂亮的妹子离职了

无箭的丘比特

团队管理 生涯规划 企业文化 职场

生活就是这么讽刺,有时候你嘲笑他,有时候你想成为他......

代码诗人

中年危机 文艺 短片小说

Kubernetes时代的云容器平台:各家云产品模式逐渐丰富

韩超

腾讯云 阿里云 Kubernetes IaaS PaaS

看完这篇 HTTPS,和面试官扯皮就没问题了

cxuan

https

重新强调完成的定义

Bob Jiang

Scrum 完成的定义 DoD definition of done

MacOS 下使用VSCode进行GoLang Test报错

北纬32°

golang macos vscode Unit Test debug

中小型城市商业银行数字化转型实践(一)整体技术架构转型(双态IT)

泡菜小仙

数字化转型 架构设计 技术架构

AI如何在普惠金融的探索中发挥作用?

AI如何在普惠金融的探索中发挥作用?

携程Elasticsearch数据同步实践-InfoQ