写点什么

Data Artisans 发布支持 ACID 事务的流式处理框架 Streaming Ledger

  • 2018-09-17
  • 本文字数:1135 字

    阅读完需:约 4 分钟

data Artisans 宣布推出 Streaming Ledger ,它扩展了 Apache Flink,提供了跨表、键和事件流执行可序列化 ACID 事务的功能。这项正在申请专利的技术是 Flink 的专有附加技术,超越了当前一次只能在一个键上实现一致性的标准。

在发布 Streaming Ledger 之前,流式处理框架(如 Flink 和 Spark)只提供一次性语义,只能在单个键上实现一致性。然而,随着 data Artisans Streaming Ledger 的发布,Flink 现在允许跨越事件状态边界,同时仍然能够保证 ACID 事务。ACID 是事务系统关键组件的首字母缩写。

原子性:事务以原子方式应用所有更改,事务函数要么执行全部修改或不执行任何修改。

一致性:事务函数将表从一个一致状态带入另一个一致状态。

隔离:执行事务时,就好像当前事务是在表上运行的唯一事务。

持久性:事务所做的更改是持久的,永远不会丢失。

根据 ACID 原则实现的事务作为单个操作执行,要么全部完成要么全部失败。这确保了数据一致性,即使是发生了中断或应用程序错误。ACID 事务的一个常用例子是将资金从一个银行账户转移到另一个银行账户。虽然 Streaming Ledger 是流式处理框架中第一个实现 ACID 事务的,但 ACID 事务已经在 SQL Server 和 Oracle 等关系数据库系统中存在了很长时间。

来源:Data Artisans Streaming Ledger 白皮书

Artisans 公司由开源流式处理框架 Apache Flink 的原作者创建,提供了一个流式处理基础设施,其中包括数据 Artisans Platform,也称为 dA 平台。该平台由 Apache Flink、dA 应用程序管理器和 Streaming Ledger 组成。该公司专注于流式处理领域,WSO2 研究副总裁 Srinath Perera 将其描述为一种大数据技术,允许查询数据流并基于信息做出决策。

流式处理是一种大数据技术。它让用户能够在接收数据之后的一小段时间内快速查询持续数据流并检测条件。检测时间段可以从几毫秒到几分钟不等。例如,通过流式处理,你可以查询温度传感器的数据流并检测温度何时达到冰点,以便接收警报。

data Artisans 还发布了一份白皮书,介绍了 Streaming Ledger 的细节和架构。例如,我们发现该架构由四个基本构建块组成。用于维护应用程序状态的表、用于更新表的事务函数、驱动事务的事务事件流和根据流处理成功或失败发出事件的可选结果流。此外,在事务中修改表时,表与并发更改是相互隔离的。因此,即使是跨多个流,也可以确保数据一致性。

来源:Data Artisans Streaming Ledger 白皮书

Data Artisans 还提供了一个 GitHub 存储库,可以从源代码构建 Streaming Ledger 或从 Maven Central 中获取它。此外,存储库还提供了几个入门示例,如 SimpleTrade 示例,演示了如何使用 Streaming Ledger。

查看英文原文 Data Artisans Announces Serializable ACID Transactions on Streaming Data

2018-09-17 19:001928
用户头像

发布了 731 篇内容, 共 477.3 次阅读, 收获喜欢 2008 次。

关注

评论

发布
暂无评论
发现更多内容

技术赋能下的能源智慧管理:MyEMS 开源系统的架构创新与应用深化

开源能源管理系统

开源 能源管理系统

6 个替代飞书多维表格的开源无代码数据库工具

NocoBase

数据库 开源 零代码 表格 无代码

龙蜥社区成立智算基础设施联盟 汇聚产业力量打造 AI 开源新基座

OpenAnolis小助手

开源 AI 操作系统 龙蜥社区 龙蜥智算基础设施联盟

二级域名解析怎么操作?需要注意哪些事项?

国科云

【新特性】 华为云ModelArts Versatile-AI原生应用引擎新增特性介绍(2025年7月发布)

华为云开发者联盟

京东商品评论API秘籍!轻松获取商品评论数据

tbapi

京东API 京东商品评论API 京东数据采集 京东数据分析

腾讯提前批是真难

王中阳Go

程序员 面试

特斯拉、智元机器人、宇树科技三重催化,产业链上市公司齐飞!

机器人头条

科技 大模型 人形机器人 具身智能

业务多变,流程难定?ManageEngine卓豪灵活工作流支持全场景自定义

ServiceDesk_Plus

第七在线7大价值 助力品牌实现智能化供应链决策

第七在线

区块链U卡APP的开发成本

北京木奇移动技术有限公司

区块链开发 软件外包公司 web3开发

华大北斗入选深圳品牌发展白皮书 领航者荣膺 "品牌功勋人物"

江湖老铁

JimuReport 积木报表 v2.1.2 版本发布,免费开源的可视化报表和大屏

JEECG低代码

数据可视化 报表 数据大屏 报表工具 仪表盘设计

LevelDB 多版本和压缩

数新网络官方账号

华为云入选Gartner®容器管理魔力象限领导者

华为云原生团队

云计算 容器 云原生

区块链Web3开发的费用

北京木奇移动技术有限公司

区块链开发 软件外包公司 web3开发

网易灵动如何通过工程机械智能化推动新质生产力发展|《浙里数说》访谈实录

网易伏羲

网易伏羲 网易灵动 工程机械智能化 无人挖掘机 无人装载机

2022年最佳云计算认证:开启你的云端开发之路

qife122

云计算 AWS GCP

CodeBuddy IDE 实用技巧上线,如何让你的 AI 更懂你

六月的雨在InfoQ

CodeBuddy首席试玩官 CodeBuddyIDE AIIDE

探索Parquet格式:实现高效数据存储与优化查询性能

星环科技

人工智能 技术 数据

热更新技术范式跃迁:AI驱动下从效率工具到智能生态中枢的重构

xuyinyin

25年南昌市等保测评机构地址一览表

行云管家

MyEMS 开源能源管理系统:技术创新与实战价值解析

开源能源管理系统

开源 能源管理系统

自定义策略检查助力自动化推理技术普及

qife122

AWS IAM 策略验证

在线教育行业需要用到堡垒机吗?为什么?

行云管家

网络安全 在线教育 等保

测试匠谈 | AI语音合成之大模型性能优化实践

优测云服务平台

测试 语音ai

塞讯科技参编,信通院《面向LLM应用的可观测性能力要求》正式发布!

塞讯科技

可观测性 可观测性认证 可观测性平台

小模型如何击败大机构AI系统:Coral协议技术解析

qife122

人工智能 开源框架

全连接贝叶斯神经网络权重后验集中性研究

qife122

贝叶斯神经网络 后验集中

压测实战 | 高校选课系统压力测试实战教程

优测云服务平台

压测 高校

全球社交媒体监控的技术挑战与突破

沃观Wovision

社交媒体 舆情监控 沃观Wovision 舆情监测系统

Data Artisans发布支持ACID事务的流式处理框架Streaming Ledger_DevOps & 平台工程_Eldert Grootenboer_InfoQ精选文章