AI实践哪家强?来 AICon, 解锁技术前沿,探寻产业新机! 了解详情
写点什么

工作流引擎在有赞 DevOps 中的实践

  • 2020-03-18
  • 本文字数:3339 字

    阅读完需:约 11 分钟

工作流引擎在有赞 DevOps 中的实践

一、 背景

随着有赞规模的增长, 运维的事务也日益复杂, 如何能更加高效的协调好开发, 运维, 工具与流程之间的关系, 把运维人员从低效率, 高强度, 易犯错的人工操作中彻底解放出来,让他们的能力与精力有更大程度的发挥, 是一个很大的挑战。


有赞 DevOps 平台的工作流引擎 Opsflow 经过两年时间的演进, 从最开始的仅支持简易的固定顺序加定制脚本的系统, 慢慢演化到可以通过 GUI 操作的, 无需编码的, 高度定制化的, 可视化的, 可感知进度的工作流引擎, 支撑着每天数百上千的包括但不限于各种权限申请, 应用组件申请, 大数据相关审批, 发布审批, 持续集成与交付等千差万别的流程。


本文将从以下几个主要方面分别阐述有赞 DevOps 工作流引擎 Opsflow 的建设与演进:在 Opsflow 完善之前面临一系列的问题:


  1. 流程的可定制化程度低

  2. 卷入流程的人无法感知一个流程的进度

  3. 无法可视化流程, 需要人肉检查配置, 容易出错

  4. 前端可定制程度低

  5. 各种审批流程分散在不同的应用中, 重复造轮子

  6. 不支持动态确定流程分支

  7. 老系统无法处理审批人请假等问题

  8. 参与人类型支持缺乏

  9. 新流程接入成本高

  10. 无集中的统计报表, 较难感知运营情况


Opsflow 的系统设计以及在有赞的落地情况, 内容包括:


  1. Opsflow 系统设计

  2. 目前在有赞 DevOps 平台的落地现状

  3. Roadmap

二、 工作流引擎设计

2.1 架构设计

Opsflow 的实现由管理有限状态机的 Opsflow-FSM 模块, 与外界交互的 Opsflow-Web 模块, 驱动插件的 Opsflow-Plugins 模块和执行具体任务的 Worker 模块和用来监控任务消费情况的监控模块组成, 下文逐一对这些模块进行介绍。


2.1.1 Opsflow-FSM

截止本文发布, 有赞 DevOps 平台已有 90+ 流程接入 Opsflow, 每个流程在 Opsflow 看来上都是一个有限状态机 ( Finite-state machine ), 当管理员在 Opsflow 管理后台通过 GUI 界面生成一个新流程, 本质上是在 Opsflow 上创建了一个新的 FSM, 例如下图的 “新建 ES 申请” 就是一个 Opsflow-FSM 管理的一个 FSM. Opsflow-FSM 作为 Opsflow 的核心, 驱动工单往前推进, 例如, 当一个 “新建 ES 申请” 工单运行到 “ES 管理员审批” 状态时, Opsflow-FSM 通过持久化在 RDS 中的工单实例可以得到当前审批人可以触发的三个流转 “同意” / “驳回” / “关闭工单”, 任何一个流转通过页面被触发之后又由 Opsflow-FSM 驱动至 “审批驳回脚本执行” / “审批完成脚本执行” / “审批拒绝脚本执行” 状态之一, 以此类推, 最终 Opsflow-FSM 驱动工单 ( 也即特定 FSM 的实例 ) 至 “结束” 状态, 完成一个工单的生命周期。

2.1.2 Opsflow-Web


Opsflow-FSM 仅仅对 FSM 进行管理, 无法与外界交互, Opsflow-Web 则封装了 Opsflow-FSM, 增加了权限验证 ( 某个人是否有权限处理特定工单, 某个应用是否可以操作某类工作流 ( FSM ) 等 ) 等模块, 以 RESTful API 的方式对外界提供服务, 与有赞 DevOps 平台下的其他各个系统(发布系统, CI & CD 系统, 水位系统等 ) 进行交互. 以前文的 “新建 ES 申请” 流程为例, 工单在 “ES 管理员审批” 节点时 Opsflow-Web 根据 Opsflow-FSM 给到的三个流转信息在前端渲染出相应的三个按钮, 审批人按下其中一个按钮之后, 动作又由 Opsflow-Web 提供的 RESFful API 与前端交互, 触发 Opsflow-FSM 将 FSM 实例往相应的分支进行流转, FSM 向着 “结束” 状态推进。

2.1.3 Opsflow-Plugins

基于可扩展性的考虑, Opsflow 提供插件系统 Opsflow-Plugins, 插件系统发送 Opsflow-FSM 在 FSM 在不同状态间流转的过程中的各种事件, 例如, “工单设置了新的参与人” 事件, 得益于 Opsflow-Plugins, 运维开发同学一旦接到诸如 “在工单设置新的参与人的时候通知一下 xxx” 等需求的时候, 实现起来不费吹灰之力, 只需要提供一个实现起来非常简单的插件即可, 具体来说就是订阅相应事件, 提供回调接口即可. 目前有企业微信通知, Ops 待办事项等插件通过 Opsflow-Plugins 接入 Opsflow, 在保持 Opsflow 核心精简的同时丰富了 Opsflow 的功能。

2.1.4 Worker

工单经过审批节点后通常会流转到状态机中设定好的 “脚本” 节点 ( 节点的参与人属性是 “脚本” 的 FSM 节点 ), Opsflow-Web 将会推送相应的任务 ( 例如前文 “新建 ES 申请” 流程的具体负责新建 ES 相关资源的任务 ) 到消息队列中, Worker 则从消息队列中获取任务执行, 执行完具体任务后, 触发 Opsflow-FSM 继续流转. Worker 的实现使用分布式任务队列 Celery 队列堆积时可快速水平扩展。

2.1.5 前端

前端页面结构

Opsflow 前端为所有工作流提供了默认的页面展示, 包括 “流程图” / “工单进度” / “工单详情” ( key / value 的形式呈现工单实例的信息) / “工单操作” 等组件, 管理员可以在管理后台对这些组件进行是否显示以及顺序等进行方便地配置。


工作流自定义前端组件案例

不同的工作流很可能需要定制自己的前端, 例如前文的 “新建 ES 申请” 流程就需要在页面上展示 “字段信息” / “SLA” 等信息, Opsflow 对自定义工作流前端提供了丰富的支持, 对于 “新建 ES 申请” 这个流程而言, 负责开发的同学仅需提供一个 React 组件, Opsflow 在渲染工单详情页面的时候会根据配置动态加载 ( 通过 react-loadable ) 相应的前端组件渲染在上图所示的位置, Opsflow 提供给自定义组件提供丰富的 properties, 这些 properties 涵盖当前工单的所有信息, 自定义组件可以根据这些 properties, 在相应后端拉取相应的数据进行渲染, 如上图的各个例子。


流程图绘制

Opsflow-FSM 维护的有限状态机在数据结构上是 Directed acyclic graph (DAG), Opsflow 使用了非常优秀的基于 A Technique for Drawing Directed Graphs 中介绍的基于 rank 分层布局算法的 DAG 流程图绘制库 dagre-d3 绘制非常飘逸的流程, 见下图中的例子。

2.2 Opsflow 设计中对前文 “一系列问题” 的解决


针对问题 1, 2, 3, 4, 9


Opsflow 提供了 GUI 界面对 FSM 进行管理, 流程管理员可以在页面上配置 FSM 中的节点和边的各种属性, 流程中不合理的地方可以通过实时呈现的流程图暴露出来, 管理员可立即做出调整, 前文减少的前端结构解决了 2, 4 两个问题.


针对问题 5



有赞 DevOps 平台中的绝大多数流程已经迁移到 Opsflow, 基于老的工作流系统的流程已经下线, 众多流程中的共性需求都会在 Opsflow 实现, 避免重复造轮子.


针对问题 6


Opsflow 提供 “条件表达式” 功能, 具体来说, 工单管理员在配置一个 FSM “流转” 的时候可以指定一个 “条件表达式” 例如 Hive 语句审批流程中的{row_count} >= 1000000 and not {upload}Opsflow-FSM 在决定工单下一个状态的时候会根据该表达式动态的计算下一个流程节点, 例子中花括号 row_countupload 分别是该工单实例的的不同属性, 例如 row_count 代表 “Hive 语句审批流程” 流程工单实例中 SQL 影响的行数, 上面的表达式翻译成 “人话” 就是: “行数大于 1000000 且用户进行了上传则到 XXX 节点”, 其中 “XXX 节点” 可能是某个有 Hive 管理权限的人, 否则可能是 TL 等等.


针对问题 7


Opsflow 与有赞内部其他例如 OA 等系统紧密结合, Opsflow 在根据 FSM 配置计算下一个节点参与人的时候会自动根据 OA 中的请假代理人信息将节点审批人替换为请假代理人 ( 如果原审批人在度假 ).


针对问题 8


Opsflow 目前支持的节点参与人包括:


  • 可配置

  • 多人且多人之间的逻辑可以是 “与” 或 “或”

  • Team leader, 应用的 PE / DEV 等角色

  • 自定义

  • 脚本(Python)

  • 自动获取请假代理人

  • 有人审批(有赞员工 App)

  • 通知外部系统

  • 企业微信通知

  • 催办

  • ……


基本覆盖了各种审批流程中的参与人类型需求。


Opsflow 支持的节点参与人:


  • 条件流转

  • 任意数量的流转



针对问题 10


Opsflow 通过周期性地运行统计任务产生统计图, 管理员可以直观了解到不同流程的运营情况。

三、 现状



Opsflow 上线一年多以来, 经过不断的迭代, 在易用性, 功能, 扩展性, 稳定性上都有显著的提升, 截止目前有 90+ 流程, 涉及到 DevOps 中的方方面面, 有赞 DevOps 平台以外也已有大数据平台和美业等部门的流程接入。

四、 Roadmap

Opsflow 后续将会实现环境间流程同步 ( 例如用于测试的 QA 环境到生产环境 Prod 等 ), 允许所有开发进行流程新建 / 编辑的开放管理后台等功能, 进一步加速新流程的接入, 另外还有复制工作流, 更加好用的移动端快速审批等功能, 更好的服务于有赞运维和开发同学。



有赞基础保障 DevOps 团队荣誉出品 🏆


2020-03-18 19:531545

评论

发布
暂无评论
发现更多内容

Android File Transfer for Mac:轻松实现手机与电脑之间的文件传输

Rose

Android File Transfer mac与安卓同步 安卓数据传输 MacDroid pro

潜水员戴夫Dave The Diver 主线游戏攻略 潜水员戴夫 Mac游戏中文版下载

Rose

Dave The Diver 潜水员戴夫游戏攻略 Mac游戏推荐 潜水员戴夫中文版下载

oneAPI & OpenVINO™ 联合开发者大会开启:英特尔持续开源创新,助力 AI 开发落地

E科讯

7天!早鸟票免费倒计时!2023开放原子开发者大会等你来!

开放原子开源基金会

Java 开源 程序员 开发者大会 C++

物理机和云服务器到底哪个好

Geek_f19a80

服务器

「一体化信息建设」,江苏人社如何完成数据安全管控(成果篇)

BinTools图尔兹

运维 数据安全 数据库管理 数据库操作

轻松一刻|Walrus CLI与CI/CD工具集成,轻松部署2048游戏

SEAL安全

游戏 CI/CD Walrus 企业号11月PK榜

兼容Intel和Apple Silicon芯片Parallels Desktop 19虚拟机一键激活版

Rose

Mac虚拟机下载 Parallels Desktop 19 PD19虚拟机破解版 Parallels正版密钥

编程和数学计算软件MATLAB R2023b for Mac v23.2.0

展初云

matlab Mac软件 MATLAB R2023b

【Spring Cloud 】基于微服务架构的智慧工地云平台源码带APP

源码星辰

智慧工地 智慧工地云平台

用Mac做视频剪辑就用fcpx剪辑,Final Cut Pro中文下载

Rose

Final Cut Pro中文版 Final Cut Pro破解版 fcpx 视频剪辑Mac版 fcpx剪辑

适用于M1 /M2 Mac的office365办公软件 Microsoft 365破解版下载

Rose

Microsoft 365 office许可证 office 365

专业ai无损放大工具-Topaz Gigapixel AI汉化一键激活版

Rose

无损放大 Topaz Gigapixel AI中文 Topaz Gigapixel AI下载 Topaz Gigapixel AI破解

The Foundry Nuke 15 for Mac(电影特效合成软件)

展初云

Mac nuke 特效合成软件

ps 2023 mac配置要求 Photoshop2023中文破解版 支持M

Rose

Photoshop 2023下载 Photoshop 2023中文版 ps 2023储存黑屏 PS2023最新版

浅析建筑行业财务管理数智化转型

用友BIP

企业数智化

什么是软件定制开发?|app网站小程序定制

Geek_16d138

网站建设 app定制开发 软件定制开发

异构集成:财务共享如何成为数据聚合、分发的控制枢纽

用友BIP

财务共享

Luminar Neo 创意图像编辑工具 支持M1

加油,小妞!

图像处理 Luminar Neo下载

OmniGraffle Pro 思维导图工具 密钥激活 附 安装教程

加油,小妞!

mac思维导图 OmniGraffle Pro下载

Mac系统下Datagrip打不开、点击没反应?

秃头小帅oi

Amazon EC2 新手初探:创建第一个 EC2 实例

王强

Amazon EC2 亚马逊云服务

登上CHINA DAILY!用友向全球展现中国数智力量

用友BIP

企业数智化

喜讯!云起无垠入选《2023年中国AIGC创新企业榜》

云起无垠

业内首发!用友BIP全球司库助力大型企业实现虚假贸易“零容忍”!

用友BIP

全球司库 虚假贸易

Photoshop 2024 (ps)使用技巧 ps2024mac中文破解版

Rose

Photoshop 2024破解版 Photoshop 2024直装版 ps使用技巧

工作流引擎在有赞 DevOps 中的实践_文化 & 方法_小川_InfoQ精选文章