写点什么

探寻繁杂定时任务的解决方案:分布式任务调度系统

2020 年 5 月 17 日

探寻繁杂定时任务的解决方案:分布式任务调度系统

01 背景介绍


缘起缘灭,自有因果


首先, 我们来思考一些几个业务场景:


  • XX信用卡中心,每月28日凌晨1:00到3:00需要完成全网用户当月的费用清单的生成。

  • XX服饰,需要每天上午9:00开始向会员推送送生日祝福短信。

  • XX游戏平台,新用户注册后,需要为当前用户生成定时任务, 在月底清算虚拟货币兑换的佣金额度。

  • XX公司,需要定时执行Python脚本,清理掉某文件服务系统中无效的tmp文件。

  • XX保险公司,需要每天凌晨2:00统计前一天新增保单数量,并触发报表生成任务,完成后抄送邮件。


类似上述批量处理海量定时任务的业务场景,企业从单体架构向微服务架构、云化服务架构演进过程中已经屡见不鲜,基于 Quartz 的常规调度框架已无法应对这种分布式场景下的需求,既无法实现任务调度的精准实时、稳定高效,也无法实现任务的切分、编排、失败补充。因此企业迫切需要一款一站式分布式调度任务解决方案,帮助企业统一管理繁杂纷乱的定时任务,增强企业微服平台服务化能力,支撑企业云化服务转型。


02 现有的开源方案


它山之石可以攻玉 …


在过往的发展中, 前人留下了不少优秀的方案, 各有利弊。常见开源产品: Quartz、XXL-Job、ElasticJob、Antares、SIA-TASK 等。


  • Quartz:该框架应用最为广泛,其完全基于Java实现,Quartz 对单个任务的控制基本做到了极致,以其强大功能和应用灵活性,成为开源任务调度领域的权威及同类开源产品如Antares的基石;

  • XXL-JOB:一个轻量级分布式任务调度平台,其核心设计目标是开发迅速、学习简单、轻量级、易扩展。XXL-JOB 支持分片,支持简单任务依赖,支持子任务依赖,不支持跨平台的。

  • Elastic-Job:支持任务分片(作业分片一致性),没有任务编排,不支持跨平台;

  • SIA-TASK:具有跨平台、可编排、高可用、无侵入、一致性、异步并行、动态扩展、实时监控等特点。



开源方案的逻辑架构图



开源方案的技术实现图


从开源方案的逻辑架构和技术实现上,我们也能直观的看出开源方案的不足:


  • 架构方面:调度器职责划分不清晰、系统扩展性不足。面对大规模虚拟化&复杂的网络环境,简单的远程调用并不能完成胜任。

  • 性能方面:ZooKeeper集群伴随任务量和高频事件的增多,成为系统性能瓶颈。简的远程调用或者任务拉取等方案, 满足不了量大频高的业务诉求。

  • 功能方面:缺乏完整认证鉴权方面的系统设计,安全性无法保障。任务干预、监控告警等系统运维方面能力较弱。


03 TCT 简介


为了解决上述问题,我们进行了深入的探索,并设计出了一套企业级的分布式任务调度系统 TCT(Tencent Cloud Task)。TCT 提供一站式分布式调度任务解决方案,支持随机、广播多种任务类型,具备任务分片、任务编排能力,提供完善的监控告警体系。我们结合了用户实际的业务场景,吸取了历史经验,主要解决了面几个核心问题:



以上核心要素,对系统的要求各不相同,可提供如下总结进行参考:



04 技术架构



技术架构图


下面我们解释下架构图中的各个功能模块:



05 功能架构



功能架构图


这样设计分布式任务调度系统,有以下几个优点:


优点一:模块化微服务架构设计, 职责清晰


触发器


  • 只需根据任务执行规则,计算解析出不同时点的任务触发事件。通过MQ的实现可靠性投递(后续文章会逐步讲解如何实现可靠性投递),起到削峰填谷,避免高峰IO等问题, 提高吞吐量。

  • 通过合理的分片策略和容灾策略,解决传统多节点锁竞争轮训的解析加载策略,降低对存储的压力。

  • 冷热数据隔离加载机制,进一步降低对存储压力和系统开销。

  • 根据高频的任务执行策略,采取预加载策略和动态调整预加载算法,解决高频触发导致系统负载高的问题。


调度器


  • 整个任务调度系统中控制逻辑最为复杂的组件,IO密集型组件。

  • 通过订阅MQ消息事件,与触发器解耦,有效提升系统的吞吐。

  • 专注于任务调度的逻辑控制,如任务执行调度、负载均衡、容错、限流、计费等。


接入网关


  • 独立承担客户端的接入认证和鉴权,提供有效的权限校验策略。

  • 负责上下行信道的回话管理,与复杂的业务逻辑完成解耦。

  • 客户端节点及服务节点上下线自动探测感知机制,有效实现会话管理。

  • 数据透传及路由,实现组件内闭环。

  • 配合SDK/Agent侧设计,有效避免了单节点连接数瓶颈以及服务节点冷起场景下的高并发tcp建立连接问题。


优点二:无状态化设计,简便水平扩展


触发器


  • 通过有效的分片策略,在实现避免触发压力集中化的情况下,可快捷的完成服务的弹性扩缩容,实现近似无状态的水平扩展。


调度器


  • 完全无状态的设计方案,无需考虑任务的回源问题,实现无状态的水平扩容。


接入网关


  • 完全无状态的设计方案,可实现无状态的水平扩容,实现理论上TCP连接数无上限。


优点三:功能完备


灵活的触发规则


  • 支持Cron表达式,例如 * 0/5 * * * ? 等。

  • 特定周期频率的触发规则,例如 间隔36分钟等。


便捷的管理能力,提供暂停、恢复、停止、重试等多种多样的管控能力。




任务管理


支持三种执行方式


  • 随机节点执行:选择集群中一个可用的执行节点执行调度任务。适用场景:定时对账。

  • 广播执行:在集群中所有的执行节点分发调度任务并执行。适用场景:批量运维。

  • 分片执行:按照用户自定义分片逻辑进行拆分,分发到集群中不同节点并行执行,提升资源利用效率。适用场景:海量日志统计。



任务调度执行方式


支持三种触发方式


  • 手动触发:用户在任务管理列表选择特定任务手动执行一次,调度器立即进行任务分发,并产生一个执行批次。适用场景:周期执行任务补充。

  • 周期触发:通过设置任务触发的间隔时间来设置任务的执行时间;可支持 cron 表达式所不支持的周期设置。适用场景:定时备份。

  • 工作流触发:工作流是一组任务集合,可以编排任务的上下游逻辑依赖,进行任务触发。适用场景:海量数据处理,如数据采集,数据过滤,数据清洗,数据聚合的流程编排。



任务触发方式


日志溯源能力


通过日志服务, 方便用户查询任务执行日志。用户可以通过执行记录所有任务的执行批次详情,能够对当前状态为执行中的批次进行停止执行操作,能够对当前已经终止的批次触发重新执行操作;点击批次 ID 进入该批次的执行详情,点击任务 ID 进入该任务的执行批次列表,点击执行部署组进入资源详情列表。



日志查询


支持复杂的任务编排能力


可以实现多种场景的任务工作流。通过构建调度任务的上下游依赖关系完成复杂的任务调度逻辑。适用于大数据流程处理、任务执行工单、批量运维流程编排等应用场景。



任务编排


06 总结


一个平台性的系统,从产品功能到技术架构都存在着方方面面的挑战,需要层层抽象和逐步优化才能完成一个成熟产品落地。在大数据时代,面对海量的数据和用户规模,任何一种架构设计,都面临着网络响应、 容错、幂等、数据可靠性/一致性等诸多问题。


对于平台而言,任务的可靠性是第一优先级需要考虑的,次之任务执行的时效性。合理地进行功能模块化拆分,针对不同场景,设计不同的扩展方案,保证 SLA 的前提下提升系统整体吞吐,实现可靠有效触达,应对频高量大的业务场景。


对于用户而言,多样化的管理手段、多维度的运行指标查询, 全方位的链路监控则是用户追求的,只有让用户从复杂混乱的定时任务场景中抽离出来,才能更加专注在业务研发。


本文转载自公众号腾讯云中间件。


原文链接


https://mp.weixin.qq.com/s/KEAZ0w11pxKoGKP468X_HQ


2020 年 5 月 17 日 10:00183

评论

发布
暂无评论
发现更多内容

让AI人才在产业界闪闪发光:百度之星的“神奇滤镜”是怎样炼成的?

脑极体

架构师的成长之路

华章IT

CTO 架构师 架构师之道

LAXCUS大数据集群操作系统:一个分布式分时共享E级系统软件(四)

陈泽云

人工智能 大数据 数据结构 操作系统 数据存储

手把手带你玩转 openEuler | openEuler 的使用

openEuler

操作系统 openEuler

“区块链技术创新要植根市场”

CECBC区块链专委会

金融科技 信息安全

甲方日常 33

句子

工作 随笔杂谈 日常

计算机网络基础知识总结

cxuan

计算机网络 计算机

有了容器为什么kubernetes还需要Pod?

架构师修行之路

分布式 微服务 pod kubernete

第19届亚运会门票采用区块链技术防伪

CECBC区块链专委会

区块链技术 防伪 溯源

据说99.99%的人都会答错的类加载的问题

AI乔治

Java 架构 JVM 类加载 性能调优

黄金圈法则:成功者必备的深度思考方法

陆陆通通

黄金圈法则 厉害 牛逼

第12周学习总结

Vincent

极客时间 极客大学

十七、深入Python异常处理

刘润森

Python

京东智联云MySQL数据库如何保障数据的可靠性?

京东智联云开发者

MySQL 数据库

考研须知

时间是一个人最好的证明

考研

第12周作业

Vincent

极客时间 极客大学

反杀套路!阿里独家的MySQL优化王者晋级之路,跟弯路说再见

Java成神之路

Java 程序员 架构 面试 编程语言

“区块链×多方计算”解决众多难题 将成区块链应用新场景

CECBC区块链专委会

区块链 数据融合

完美,阿里DBA骨干团队编写的792页MySQL调优笔记真香

周老师

Java 编程 程序员 架构 面试

关注你自己,如同篮球巨星一样,让身体最佳化,持续投入最爱的事情。

叶小鍵

健康 科普 王立铭 肥胖

最新版MySQL在MacOS上的安装与使用

王磊

MySQL

Java Reference核心原理分析

AI乔治

Java 架构 JVM 性能调优

帆软授权失效处理

Flychen

云计算简史(上)- 15分钟读完15年

明道云

架构师训练营 - 第 4周课后作业(1 期)

Pudding

架构训练营 - 第4周课后作业 - 学习总结

Pudding

来自阿里面试官的Java面试连珠炮,让你自由发挥你能撑到哪一步?

Java成神之路

Java 程序员 架构 面试 编程语言

5G时代音视频开发王器:WebRTC

华章IT

flutter WebRTC 音视频会议 React Native

分布式系统设计理念这么难学?

架构师修行之路

分布式 微服务

微服务架构:基于微服务和Docker容器技术的PaaS云平台架构设计(微服务架构实施原理)

AI乔治

Java 架构 微服务 ,docker

Servlet-技术专题-Servlet3异步原理与实践

李浩宇/Alex

探寻繁杂定时任务的解决方案:分布式任务调度系统-InfoQ