Agoda 近日分享了他们如何将多个独立的数据管道整合为一个基于Apache Spark的集中式平台，以消除财务数据中的不一致性的。该公司构建了一个多层质量保障框架，结合自动化校验、基于机器学习的异常检测以及与上游团队签订的数据契约（data contracts），确保用于财务报表和战略规划的财务指标准确无误，同时每天处理数百万笔预订交易。
这一问题源于一个典型的企业架构模式，Agoda 的数据工程、商业智能（BI）和数据分析团队各自开发了独立的财务数据管道，并使用不同的逻辑和定义。尽管这种做法在初期提供了简单性和清晰的责任边界，却导致了重复计算和全公司范围内指标不一致的问题。正如 Agoda 工程团队的Warot Jongboondee所解释的那样，这些差异“可能对 Agoda 的财务报表产生实质性的影响”。
独立的财务数据管道 (图片来源)
为了解决这一挑战，Agoda 推出了名为 Financial Unified Data Pipeline（FINUDP）的统一财务数据管道，作为销售、成本、收入和利润率等关键财务数据的单一事实来源（single source of truth）。该系统基于Apache Spark构建，每小时向下游团队提供更新，用于对账和财务规划。整合过程耗费了大量的精力：协调产品、财务和工程等多个利益相关方就统一的数据定义达成共识耗费了很长的时间；初始版本的运行时间长达五小时，后通过查询优化和基础设施调整，最终缩短至约 30 分钟。
财务统一数据管道（FINUDP）的架构(图片来源)
Agoda 的质量保障框架采用了多重防御机制。自动化校验会检查数据表中的空值、数值范围约束和数据完整性。一旦关键业务规则校验失败，管道会自动暂停，以防处理可能错误的数据。团队使用Quilliup来比对源表与目标表。与上游团队的数据契约（Data Contracts）会明确约定数据格式、内容和质量要求，任何违反契约的行为会立即触发告警。机器学习模型会持续监控数据模式，识别潜在异常。三级告警系统确保通过邮件、Slack 通知以及内部工具实现快速响应，如果数据更新延迟，系统会自动升级至 Agoda 的 7×24 小时网络运营中心（Network Operations Center，NOC）。
这一做法契合了行业的整体趋势。根据最新的行业调研，64%的组织将数据质量问题视为最大挑战。Gartner 指出，数据契约正成为“管理、交付和治理数据产品的一种日益流行的方式”。这类生产者与消费者之间的正式协议，明确定义了数据模式（schema）和质量标准。
当然，集中化也带来了明确的权衡取舍（trade-offs）包括，开发速度下降，因为任何变更现在都需要对整个管道进行测试。数据依赖，管道必须等待所有上游数据集就绪后才能启动。详尽的文档编写和广泛的干系人共识拖慢了落地进度，却建立了跨团队的信任。Jongboondee 表示，集中化“要求在每个环节都进行更紧密的协作和审慎的变更管理”。
目前，该系统已经实现了 95.6%的可用性，并朝着 99.5%的目标迈进。所有变更均需经过影子测试（shadow testing），也就是，在合并请求中，新旧版本的查询会并行运行，并自动比对结果。此外，还有一个与生产环境完全一致的专用 staging 环境，允许团队在正式发布前进行充分的验证。
FINUDP 项目表明，当企业处理大规模关键业务数据时，正逐步从零散的、事后补救式的质量检查，转向架构层面强制执行的、端到端的可靠性体系。这种体系优先保障数据的一致性与可审计性，而非单纯的开发速度，这一转变在财务数据日益支撑报表生成、机器学习模型训练和监管合规流程的今天，显得尤为关键。
原文链接：
How Agoda Unified Multiple Data Pipelines Into a Single Source of Truth
