写点什么

Zalando 公司使用 Apache Flink 进行微服务和流处理架构

  • 2016-11-06
  • 本文字数:957 字

    阅读完需:约 3 分钟

Javier Lopez 和 Mihail Vieru 日前在 Reactive Summit 2016 大会上发表了关于基于云的数据集成和分发平台的演讲,该平台可用于商业智能用户案例的流处理。

Zalando 公司是欧洲在线时尚零售商,该公司正在从整体服务架构逐渐转变为微服务架构,并且从等级组织结构向敏捷组织结构转变。

事件流的处理方式使 Zalando 的技术团队能够实现几近实时的商业智能。他们使用诸如 Flink Kafka Elasticsearch 之类的技术来处理事件流。

在他们的架构中,各应用程序通过 REST API 互相沟通,而数据库隐藏在 Amazon Virtual Private Cloud (VPC) 基础架构里面。所有团队都将数据发布到中央事件总线。该架构模型由应用程序(调用微服务(REST API)来与事件总线交互)、Kafka、Exporter 和 AWS S3 数据存储组成。他们还用 Data Lake 为数据提供分布式访问和精细的安全性保护。

Lopez 和 Vieru 讨论了如何在微服务架构中使用 Flink 框架。 Flink 用于处理基于事件、摄取和处理时间的流数据。它还负责背压处理,这种背压处理是通过系统架构隐式实现的。

Zalando 公司的业务流程涉及 1000 多种事件类型,并且每个事件类型都有一个 Kafka 主题。他们通过关联的事件类型(如 Join&Union)来分析流程,并根据业务规则完善数据。他们还使用滑动窗口(1 分钟至 48 小时)的平台快照来进行流处理。

该架构还包括用于安全性的 OAuth 、基于 Postgres DB 的配置服务、告警服务和 Python 可视化组件。

两位演讲者还探讨了流处理的两个用例:几近实时的业务流程监控解决方案和流 ETL。实时的流程监控有助于分析如订单速度、交付速度等数据流和控制服务水平协议(SLA)。流式 ETL 用于释放与关系型数据仓库相关的资源,这种解决方案有助于提高数据仓库的负载,减少延迟并使平台更具可扩展性。

他们还谈到了未来用于流处理的用例,比如几近实时的销售和价格监控以及检测欺诈性付款。BPM 和 Flink 的 CEP 库及状态功能的复杂事件处理能力将用于这些用例。

有关他们的事件流处理架构的更多详细信息,请访问该公司的博客网站

查看英文原文 Microservices and Stream Processing Architecture at Zalando Using Apache Flink


感谢冬雨对本文的审校。

给InfoQ 中文站投稿或者参与内容翻译工作,请邮件至 editors@cn.infoq.com 。也欢迎大家通过新浪微博( @InfoQ @丁晓昀),微信(微信号: InfoQChina )关注我们。

2016-11-06 19:003462
用户头像

发布了 22 篇内容, 共 62648 次阅读, 收获喜欢 3 次。

关注

评论

发布
暂无评论
发现更多内容

JEB Pro v5.28 (macOS, Linux, Windows) - 逆向工程平台

sysin

JEB

YashanDB 在 GIS 领域的实践与优势解析

数据库砖家

数据库

Nipper 3.7.0 Windows x64 - 网络设备漏洞评估

sysin

Nipper

Splunk Enterprise 9.4.2 发布 - 机器数据管理和分析

sysin

Splunk Enterprise

RAG vs. MCP: 你不知道你需要的 AI 充电接口

数据追梦人

初学者视角下的思考|YashanDB 安装流程能不能再友好一点?

数据库砖家

数据库

YashanDB Docker 镜像实践指南:一次配置,多处部署!

数据库砖家

数据库

CrossOver 25.0.1 for macOS & Linux - 领先的 Wine 解决方案

sysin

crossover

CrossOver25中文破解版下载安装教程,CrossOver 软件激活码分享,CrossOver 25 for Mac如何永久免费使用

阿拉灯神丁

激活码生成器 Mac软件 CrossOver Mac下载 crossover mac 破解版 苹果电脑必备软件

YashanDB|OCI 接口快速上手指南:从环境配置到代码实战,一文带你搞定!

数据库砖家

数据库

如何让 MCP 集成 API 更顺畅、无烦恼

数据追梦人

YashanDB|一文读懂 Outline 功能实战验证:绑定、失效、主备、升级全覆盖!

数据库砖家

数据库

账户锁定解决方案

运维有小邓

AD域管理 账户锁定

Microsoft System Center 2025 version 2503 Multilanguage - Windows 服务器管理软件

sysin

Windows Server

金仓数据库 KingbaseES 的 rm-protect 机制:守护数据安全的可靠防线

金仓技术

KingBase 金仓数据库

初探 YashanDB 共享集群:重新定义高可用数据库的新范式

数据库砖家

数据库

TextIn MCP Server正式发布,无代码搭建智能文档处理Agent!

合合技术团队

人工智能 算法 #大数据

Mermaid代码生成流程图全攻略!办公绘图不要太简单!

职场工具箱

AI 流程图 AIGC Mermaid AI 绘图

几行代码配置高频按钮,保障用户体验一致

HarmonyOS SDK

harmoyos

安全企业内部im,BeeWorks即时通讯

BeeWorks

即时通讯 IM 私有化部署 企业级应用

Microsoft System Center 2022 version 2503 Multilanguage - Windows 服务器管理软件

sysin

Windows Server

得物可观测平台架构升级:基于GreptimeDB的全新监控体系实践

得物技术

可观测性 存算分离 流式计算 GreptimeDB

Zalando公司使用Apache Flink进行微服务和流处理架构_大数据_Srini Penchikala_InfoQ精选文章