Cloudflare 在 GCP 中断后重构了 Workers KV，实现了 40 倍的性能提升

Cloudflare最近重新设计了Workers KV，采用了一种混合存储架构，该架构根据大小特征在分布式数据库和对象存储之间自动路由对象，同时操作双存储后端。这一改进将他们的全球键值存储的 p99 读取延迟从 200 毫秒降低到 5 毫秒以下，同时处理数千亿的键值对。

Cloudflare 进行这次架构重构是为了应对2025年6月12日的中断事件，当时谷歌云平台经历了全球服务中断，影响了 Workers KV。今年早些时候，Cloudflare 从双后端设置改为只使用 GCP，以降低操作复杂性。然而，持续两个多小时的 GCP 中断事件，展示了外部依赖对关键边缘基础设施造成的风险。

新系统通过基于大小的路由，将 Cloudflare 自己的分布式数据库与R2对象存储结合起来。小对象，占 Workers KV 流量的大多数，中位数大小为 288 字节，存储在 Cloudflare 的分布式数据库中，这个分布式数据库与 R2 和持久对象使用的分布式数据库相同。大于可配置阈值的对象会自动路由到 R2 对象存储。

Cloudflare 工程师解释说，“对于以小于 1KB 对象为主的工作负载，在这种规模下，数据库存储比传统的对象存储更有效、成本更低。”路由决策通过 KV Storage Proxy（KVSP）透明地发生，它为数据库集群提供 HTTP 接口，同时管理连接、认证和分片路由。

Workers KV 的修订架构（来源）

为了采用改进的双供应商能力，Cloudflare 采用了复杂的一致性机制。系统同时向两个后端写入，当第一个后端确认持久性时返回成功。失败的写入操作通过写入时错误处理、读取时不一致性检测和后台爬虫不断扫描数据分歧等进行后台协调。此外，每个键值对都包括使用Cloudflare Time Services的高精度时间戳，以确定独立存储提供商之间的正确顺序。

在最初向内部客户推出服务时，Cloudflare 发现它无意中恢复了“自读-自写”（read-your-own-write，RYOW）一致性，这是一种属性，即从同一存在点立即跟随写入的读取返回更新的值，而不是过时的数据。

为了解决这个问题，工程师开发了一个“对抗性测试框架，旨在通过从世界各地的几个位置快速交错读取和写入到一组小键，从而最大限度地击中一致性边缘情况的可能性。”这种测试方法使他们能够测量和修复 RYOW 违规行为，同时保持性能特征，使 Workers 对高读负载有效。

架构上的变化带来了显著的性能改进，同时增加了冗余。从新的 Cloudflare 后端读取的内部 p99 延迟降低到 5 毫秒以下，而第三方对象存储提供商的 p99 延迟为 200 毫秒。这些改进“在欧洲尤为明显，我们的新存储后端就位于那里，但好处远远超出了地理局部性本身所能解释的范围。”

KVSP p99 延迟（来源）

第三方冷读取 p99 延迟（来源）

Workers KV是 Cloudflare 的最终一致性键值存储，在全球范围内跨其边缘网络运行。该服务最初于2018年推出，为配置数据、会话信息和需要立即在全球范围内可用的静态资产提供快速、分布式的存储。公司将 Workers KV 用于各种应用程序，包括处理数十亿 HTTP 请求的大规模重定向、API 网关实现、A/B 测试配置、用户认证系统，以及基于地理位置或设备类型的动态内容个性化。

原文链接：

https://www.infoq.com/news/2025/08/cloudflare-workers-kv/