Apache Flink 发布 0.8.0,公布 2015 年规划

  • Mikio Braun
  • 丛一

2015 年 1 月 27 日

话题:DevOps大数据语言 & 开发架构文化 & 方法AI

Apache Flink发布了该项目的 0.8.0 版本。除了常规的性能、兼容性和稳定性方面的改进之外,这一版本增加了一个流式数据的Scala API,填补目前为止仍然缺乏的流式数据处理的能力。在大概 9 个月之前加入孵化器后,Apache Flink 最近被升级为顶级的 Apache 项目。

Apache Flink 是一个与Apache Spark有着相似目标的开源项目。它运行在 Hadoop stack 之上,通过提供比原有 Hadoop 系统的 map 和 reduce 操作更加强大的数据操作能力,让开发者可以更容易地编写可扩展的数据处理系统。

Kostas Tzoumas最近发布了一个关于 Flink 介绍和 Flink2015 年计划概览的演示文稿,他是 Flink 的代码提交者和一个位于柏林的 Apache Flink 相关的初创企业data Artisans的合伙人。

Flink 的关键点之一,是它使用了一种类似于 SQL 数据库查询优化的方法,这也是它与当前版本的 Apache Spark 的主要区别。它可以将全局优化方案应用于某个查询之上以获得更佳的性能。例如,Flink 可以重新排序操作以提升性能,或者根据相关数据集的属性,选择不同的实现方式来执行给定的操作符。

正如演示文稿中所提到的,这让 Flink 可以以流水线的方式执行一个操作序列,而 Spark 则需要一个接一个地执行不同的步骤。

Flink 还提供类似迭代器的操作符以获得更多全局优化方面的潜能。利用这种操作符,Flink 允许用户将迭代公式化,作为查询语句的一部分,而不需要在 for 循环中执行查询语句。

2015 年规划的特性包括更好的内存管理和容错机制,交互使用的支持,统一的批处理和流处理,机器学习库Mahout的集成以及其他若干改进。

Flink 最初源自于正在进行中的研究性项目Stratosphere的一部分。Flink 还是柏林大数据中心的主平台,该数据中心是由德国政府资助的研究性项目,其目的是将机器学习研究者和可扩展的数据处理研究者汇集一处。

查看英文原文:Apache Flink 0.8.0 Released, Roadmap for 2015 Published

DevOps大数据语言 & 开发架构文化 & 方法AI