写点什么

Data Artisans 发布支持 ACID 事务的流式处理框架 Streaming Ledger

  • 2018-09-17
  • 本文字数:1135 字

    阅读完需:约 4 分钟

data Artisans 宣布推出 Streaming Ledger ,它扩展了 Apache Flink,提供了跨表、键和事件流执行可序列化 ACID 事务的功能。这项正在申请专利的技术是 Flink 的专有附加技术,超越了当前一次只能在一个键上实现一致性的标准。

在发布 Streaming Ledger 之前,流式处理框架(如 Flink 和 Spark)只提供一次性语义,只能在单个键上实现一致性。然而,随着 data Artisans Streaming Ledger 的发布,Flink 现在允许跨越事件状态边界,同时仍然能够保证 ACID 事务。ACID 是事务系统关键组件的首字母缩写。

原子性:事务以原子方式应用所有更改,事务函数要么执行全部修改或不执行任何修改。

一致性:事务函数将表从一个一致状态带入另一个一致状态。

隔离:执行事务时,就好像当前事务是在表上运行的唯一事务。

持久性:事务所做的更改是持久的,永远不会丢失。

根据 ACID 原则实现的事务作为单个操作执行,要么全部完成要么全部失败。这确保了数据一致性,即使是发生了中断或应用程序错误。ACID 事务的一个常用例子是将资金从一个银行账户转移到另一个银行账户。虽然 Streaming Ledger 是流式处理框架中第一个实现 ACID 事务的,但 ACID 事务已经在 SQL Server 和 Oracle 等关系数据库系统中存在了很长时间。

来源:Data Artisans Streaming Ledger 白皮书

Artisans 公司由开源流式处理框架 Apache Flink 的原作者创建,提供了一个流式处理基础设施,其中包括数据 Artisans Platform,也称为 dA 平台。该平台由 Apache Flink、dA 应用程序管理器和 Streaming Ledger 组成。该公司专注于流式处理领域,WSO2 研究副总裁 Srinath Perera 将其描述为一种大数据技术,允许查询数据流并基于信息做出决策。

流式处理是一种大数据技术。它让用户能够在接收数据之后的一小段时间内快速查询持续数据流并检测条件。检测时间段可以从几毫秒到几分钟不等。例如,通过流式处理,你可以查询温度传感器的数据流并检测温度何时达到冰点,以便接收警报。

data Artisans 还发布了一份白皮书,介绍了 Streaming Ledger 的细节和架构。例如,我们发现该架构由四个基本构建块组成。用于维护应用程序状态的表、用于更新表的事务函数、驱动事务的事务事件流和根据流处理成功或失败发出事件的可选结果流。此外,在事务中修改表时,表与并发更改是相互隔离的。因此,即使是跨多个流,也可以确保数据一致性。

来源:Data Artisans Streaming Ledger 白皮书

Data Artisans 还提供了一个 GitHub 存储库,可以从源代码构建 Streaming Ledger 或从 Maven Central 中获取它。此外,存储库还提供了几个入门示例,如 SimpleTrade 示例,演示了如何使用 Streaming Ledger。

查看英文原文 Data Artisans Announces Serializable ACID Transactions on Streaming Data

2018-09-17 19:001856
用户头像

发布了 731 篇内容, 共 473.0 次阅读, 收获喜欢 2008 次。

关注

评论

发布
暂无评论
发现更多内容

时序数据库 Apache IoTDB V2.0.4 发布|新增用户自定义表函数及多种内置表函数功能

Apache IoTDB

HarmonyOS DevEco Studio 小技巧 - 快速查阅文档的技巧:从新手到高手的效率跃迁

谢道韫

淘宝API文档:淘宝商品评论API接口

tbapi

淘宝商品评论接口 天猫商品评论接口 淘宝评论API 淘宝商品评论数据 天猫评论API

【豆瓣8.7分】嵌入式开发神作,这本书没有大模型辅助,说人话讲干货

博文视点Broadview

AI 系统架构的演进:LLM → RAG → AI Workflow → AI Agent

Baihai IDP

程序员 AI agent LLM rag

数字时代,如何保护你的内容安全

腾讯云音视频

腾讯云 内容安全 媒体处理 DRM 水印

Excelize 荣获 2025 上海开源创新菁英奖

xuri

GitHub 微软 开源 Excel Excelize

中烟创新参编的《跨媒体虚假新闻识别系统要求》标准正式发布

中烟创新

轻松解密WebDecode:从网页源码中挖掘隐藏的Base64 flag

qife122

CTF挑战 Base64解码

将 Go 应用从 x86 平台迁移至 Amazon Graviton:场景剖析与最佳实践

亚马逊云科技 (Amazon Web Services)

征程 6M 部署 Omnidet 感知模型

地平线开发者

自动驾驶 算法工具链 地平线征程6

Betterfox - 优化Firefox浏览体验的终极配置

qife122

firefox privacy

e签宝连续六年入选胡润全球独角兽榜单,是中国电子签名行业唯一品牌

科技汇

对话 AI 陪伴新宠 Tolan 创始人:拒绝「恋爱脑」,「非人」陪伴更受欢迎?丨 Voice Agent 学习笔记

声网

金属材料表面六种缺陷类型数据集 | 适用于YOLO等视觉检测模型(1800张图片已划分、已标注)

申公豹

YOLO数据集

一键启动:使用 start-local 脚本轻松管理 INFINI Console 与 Easysearch 本地环境

极限实验室

DevOps console Docker 镜像 easysearch

Guitar Pro怎么添加小节 Guitar Pro怎么调整小节长度

阿拉灯神丁

吉他学习 Guitar Pro8 音乐软件 Mac乐谱制作软件 打谱软件

解密Python代码如何生成"Among Us"字符:一段奇妙的Unicode探索之旅

qife122

Python 编程技巧

焱融存储实力入围国家算力强基揭榜行动名单

焱融科技

人工智能 AI存储 焱融存储 算力基础设施

iPaaS+MCP,赋能企业数智化转型,别让数据和AI“躺平”!

RestCloud

数据处理 数据集成 集成平台 ipaas MCP

基于YOLOv8的FPS射击类游戏人物识别项目|完整源码数据集+PyQt5界面+完整训练流程+开箱即用!

申公豹

yolov8

数智制造的下一个范式?低代码与云原生、AI的融合战略展望

电子尖叫食人鱼

低代码

6 月热搜精选

KaiwuDB

2025 可信数据库大会,KaiwuDB 邀你来赴约!

KaiwuDB

三星旗舰机型上新!现在就能用上的AI手机

新消费日报

中烟创新:实力荣膺“国家高新技术企业”

中烟创新

ERP实施上线其实很简单,找对方法是关键!

积木链小链

数字化转型 ERP 智能制造

京东携手HarmonyOS SDK首发家电AR高精摆放功能

京东零售技术

观测云产品更新 | 付费计划与账单、事件中心、基础设施等

观测云

产品迭代

漏洞赏金猎人必备的10款浏览器扩展工具

qife122

网络安全 浏览器扩展

Bitcoin Core 开发与使用指南

qife122

比特币 加密货币

Data Artisans发布支持ACID事务的流式处理框架Streaming Ledger_DevOps & 平台工程_Eldert Grootenboer_InfoQ精选文章