大咖直播-鸿蒙原生开发与智能提效实战!>>> 了解详情
写点什么

Zalando 公司使用 Apache Flink 进行微服务和流处理架构

  • 2016-11-06
  • 本文字数:957 字

    阅读完需:约 3 分钟

Javier Lopez 和 Mihail Vieru 日前在 Reactive Summit 2016 大会上发表了关于基于云的数据集成和分发平台的演讲,该平台可用于商业智能用户案例的流处理。

Zalando 公司是欧洲在线时尚零售商,该公司正在从整体服务架构逐渐转变为微服务架构,并且从等级组织结构向敏捷组织结构转变。

事件流的处理方式使 Zalando 的技术团队能够实现几近实时的商业智能。他们使用诸如 Flink Kafka Elasticsearch 之类的技术来处理事件流。

在他们的架构中,各应用程序通过 REST API 互相沟通,而数据库隐藏在 Amazon Virtual Private Cloud (VPC) 基础架构里面。所有团队都将数据发布到中央事件总线。该架构模型由应用程序(调用微服务(REST API)来与事件总线交互)、Kafka、Exporter 和 AWS S3 数据存储组成。他们还用 Data Lake 为数据提供分布式访问和精细的安全性保护。

Lopez 和 Vieru 讨论了如何在微服务架构中使用 Flink 框架。 Flink 用于处理基于事件、摄取和处理时间的流数据。它还负责背压处理,这种背压处理是通过系统架构隐式实现的。

Zalando 公司的业务流程涉及 1000 多种事件类型,并且每个事件类型都有一个 Kafka 主题。他们通过关联的事件类型(如 Join&Union)来分析流程,并根据业务规则完善数据。他们还使用滑动窗口(1 分钟至 48 小时)的平台快照来进行流处理。

该架构还包括用于安全性的 OAuth 、基于 Postgres DB 的配置服务、告警服务和 Python 可视化组件。

两位演讲者还探讨了流处理的两个用例:几近实时的业务流程监控解决方案和流 ETL。实时的流程监控有助于分析如订单速度、交付速度等数据流和控制服务水平协议(SLA)。流式 ETL 用于释放与关系型数据仓库相关的资源,这种解决方案有助于提高数据仓库的负载,减少延迟并使平台更具可扩展性。

他们还谈到了未来用于流处理的用例,比如几近实时的销售和价格监控以及检测欺诈性付款。BPM 和 Flink 的 CEP 库及状态功能的复杂事件处理能力将用于这些用例。

有关他们的事件流处理架构的更多详细信息,请访问该公司的博客网站

查看英文原文 Microservices and Stream Processing Architecture at Zalando Using Apache Flink


感谢冬雨对本文的审校。

给InfoQ 中文站投稿或者参与内容翻译工作,请邮件至 editors@cn.infoq.com 。也欢迎大家通过新浪微博( @InfoQ @丁晓昀),微信(微信号: InfoQChina )关注我们。

2016-11-06 19:003421
用户头像

发布了 22 篇内容, 共 61742 次阅读, 收获喜欢 3 次。

关注

评论

发布
暂无评论
发现更多内容

Folder Factory for Mac 文件夹图标修改美化工具

小石头寻母记

Multi Rename Tool for Mac 批量重命名工具

小石头寻母记

90%企业忽略的隐藏成本:Data Agent如何降低数据分析总拥有成本(TCO)

飞鲤

数据分析 商业智能 Data+AI

告别手动数图!CAD快速统计图形数量:工具 + 步骤全拆解

在路上

cad CAD看图王

【RFID隧道机选购】如何挑选读率高、误读低的隧道设备?

斯科信息

斯科信息 RFID隧道机

怎么选择好用的国外社交媒体监测平台?

沃观Wovision

社交媒体 沃观Wovision 舆情监测系统 海外舆情监测

为 AI Agent 行为立“规矩”——字节跳动提出 Jeddak AgentArmor 智能体安全框架

火山引擎开发者社区

AI 字节跳动

确保 YashanDB 数据库成功实施的 5 个关键步骤包括:

数据库砖家

5个关键步骤教你快速上手YashanDB数据库

数据库砖家

5个关键点助你快速掌握YashanDB使用

数据库砖家

境外社交媒体监测如何服务好企业

沃观Wovision

社交媒体 海外舆情监控 沃观Wovision 舆情监测系统

为何零碳园区是未来产业的必然选择?

西格电力

新能源 绿色能源转型 碳中和碳达峰 零碳园区 能源可再生

5个常见误区:关于YashanDB你应该知道的真相

数据库砖家

新晋前端技术:小程序容器驱动的 SuperApp 构建实践

xuyinyin

百度APP日志处理框架升级之路

百度Geek说

大数据 spark 数据治理 数仓重构

火山引擎发布 veFusionX:“两行代码” 实现智驾模型训练效率翻倍!

火山引擎开发者社区

火山引擎

5个关键步骤打造高效的YashanDB数据库集群环境

数据库砖家

5个关键点提升您对YashanDB的理解

数据库砖家

入门指南:使用 Playwright MCP Server 为你的 AI Agent 赋予浏览器自动化能力

测吧(北京)科技有限公司

2025年十大最佳全球社交媒体监测网站

沃观Wovision

社交媒体 沃观Wovision 舆情监测系统 海外舆情监测

5个常见问题的解析:关于YashanDB数据库的疑惑

数据库砖家

SIMD函数学习:从ARM NEON到x86 SSE/AVX,解锁高性能计算

lengjingzju

simd 语言 & 开发

谁还没试过 CAD多行文字?好用到后悔没早用!

在路上

cad CAD看图王

零点城市社交电商卡密串码插件:全场景虚拟商品运营解决方案

微擎应用市场

数字孪生项目的六大开发流程

北京木奇移动技术有限公司

数字孪生 软件外包公司 webgl开发

构建能交互网页的 AI 助手——基于 Playwright MCP 的完整项目

测试人

软件测试

5个关键步骤提升YashanDB的数据库性能

数据库砖家

掌握 YashanDB 数据库的高可用架构设计,通常需要关注以下五个关键点:

数据库砖家

直播 QoE 监控体系设计与落地:从 eglSwapBuffer 到用户体验指标

奔跑中的蜗牛666

android 鸿蒙 音视频 HarmonyOS anr

区块链 Web3 项目开发技术框架

北京木奇移动技术有限公司

区块链开发 软件外包公司 web3开发

从0到1掌握1688API:商品详情获取技巧与避坑指南

tbapi

1688API 1688数据采集 1688商品详情API 1688商品数据分析 1688接口

Zalando公司使用Apache Flink进行微服务和流处理架构_大数据_Srini Penchikala_InfoQ精选文章