写点什么

Zalando 公司使用 Apache Flink 进行微服务和流处理架构

  • 2016-11-06
  • 本文字数:957 字

    阅读完需:约 3 分钟

Javier Lopez 和 Mihail Vieru 日前在 Reactive Summit 2016 大会上发表了关于基于云的数据集成和分发平台的演讲,该平台可用于商业智能用户案例的流处理。

Zalando 公司是欧洲在线时尚零售商,该公司正在从整体服务架构逐渐转变为微服务架构,并且从等级组织结构向敏捷组织结构转变。

事件流的处理方式使 Zalando 的技术团队能够实现几近实时的商业智能。他们使用诸如 Flink Kafka Elasticsearch 之类的技术来处理事件流。

在他们的架构中,各应用程序通过 REST API 互相沟通,而数据库隐藏在 Amazon Virtual Private Cloud (VPC) 基础架构里面。所有团队都将数据发布到中央事件总线。该架构模型由应用程序(调用微服务(REST API)来与事件总线交互)、Kafka、Exporter 和 AWS S3 数据存储组成。他们还用 Data Lake 为数据提供分布式访问和精细的安全性保护。

Lopez 和 Vieru 讨论了如何在微服务架构中使用 Flink 框架。 Flink 用于处理基于事件、摄取和处理时间的流数据。它还负责背压处理,这种背压处理是通过系统架构隐式实现的。

Zalando 公司的业务流程涉及 1000 多种事件类型,并且每个事件类型都有一个 Kafka 主题。他们通过关联的事件类型(如 Join&Union)来分析流程,并根据业务规则完善数据。他们还使用滑动窗口(1 分钟至 48 小时)的平台快照来进行流处理。

该架构还包括用于安全性的 OAuth 、基于 Postgres DB 的配置服务、告警服务和 Python 可视化组件。

两位演讲者还探讨了流处理的两个用例:几近实时的业务流程监控解决方案和流 ETL。实时的流程监控有助于分析如订单速度、交付速度等数据流和控制服务水平协议(SLA)。流式 ETL 用于释放与关系型数据仓库相关的资源,这种解决方案有助于提高数据仓库的负载,减少延迟并使平台更具可扩展性。

他们还谈到了未来用于流处理的用例,比如几近实时的销售和价格监控以及检测欺诈性付款。BPM 和 Flink 的 CEP 库及状态功能的复杂事件处理能力将用于这些用例。

有关他们的事件流处理架构的更多详细信息,请访问该公司的博客网站

查看英文原文 Microservices and Stream Processing Architecture at Zalando Using Apache Flink


感谢冬雨对本文的审校。

给InfoQ 中文站投稿或者参与内容翻译工作,请邮件至 editors@cn.infoq.com 。也欢迎大家通过新浪微博( @InfoQ @丁晓昀),微信(微信号: InfoQChina )关注我们。

2016-11-06 19:003447
用户头像

发布了 22 篇内容, 共 62276 次阅读, 收获喜欢 3 次。

关注

评论

发布
暂无评论
发现更多内容

华为云ROMA Connect亮相Gartner®全球应用创新及商业解决方案峰会,助力企业应用集成和数字化转型

云计算 华为云 峰会

如何在Blender中压缩/减小GLTF模型的大小

3D建模设计

blender GLTF

国产化操作系统有哪些?适配国产化操作系统堡垒机哪款好用?

行云管家

信创 堡垒机 国产化 国产操作系统 国产

北京大上科技发布全球首款25.3英寸彩色墨水屏显示器

硬科技星球

区块链集成:加密货币网站开发的必备条件

区块链软件开发推广运营

数字藏品开发 dapp开发 区块链开发 链游开发 NFT开发

glTF 中基于物理的渲染(PBR)

3D建模设计

华为云CodeArts Check代码检查服务用户声音反馈集锦(1)

云计算 软件开发 华为云

“敏捷教练必修课程”10月14-15日 ·A-CSM认证在线周末班【提前报名特惠】CST导师亲授

ShineScrum

告别烟囱式建设,DT时代同样需要操作系统

极客天地

华秋亮相第五届模拟半导体大会,助力电子行业高质量发展

华秋电子

PCB

程序设计之——手把手教你如何从Excel文件中读取学生信息

飞算JavaAI开发助手

【重磅】《中台技术财务应用蓝皮书》正式发布

用友BIP

智能财务

Canvas 低代码工具,多人自研开发全流程优化|ModelWhale 版本更新

ModelWhale

云计算 Jupyter Notebook canvas 数据驱动 在线编程

HarmonyOS NEXT带来的DevEco Profiler助您轻松分析应用性能问题

极客天地

HarmonyOS应用侧与前端页面数据通道建立

HarmonyOS开发者

HarmonyOS

医院如何实现安全又稳定的跨网文件数据交换呢?

镭速

跨网文件数据交换

莆田市属于哪个省?有正规等保测评机构吗?

行云管家

等保 等保测评 等保等级保护

预告!网络安全红队GPT大模型训练直播来袭

云起无垠

用友BIP资产云携手洋井石化,打造行业领先的智慧资产管理系统

用友BIP

资产云

财务共享中心进行数据服务应该从哪里入手?

用友BIP

财务共享

【ODPS新品发布第1期】DataWorks全新发布:增强分析/数据建模个人版等新能力

阿里云大数据AI技术

大数据 阿里云

如何将 OBJ 模型转换和压缩为 GLTF 以与 AWS IoT TwinMaker 配合使用

3D建模设计

GLTF

解决方案| anyRTC远程检修应用场景

anyRTC开发者

人工智能 音视频 视频会议 远程协助 电话会议

9.19-21,openEuler与您相约2023欧洲开源峰会

openEuler

Linux 开源 操作系统 openEuler

5 个适合出海离岸公司的地区推荐

出海的猹

出海企业

鸿蒙开发套件之DevEco Profiler助您轻松分析应用性能问题

HarmonyOS开发者

HarmonyOS

Zalando公司使用Apache Flink进行微服务和流处理架构_大数据_Srini Penchikala_InfoQ精选文章