云中巨象——作为一种服务的 Hadoop

  • Srini Penchikala
  • 侠天

2016 年 5 月 15 日

话题:云计算大数据语言 & 开发架构AI

Ashish Thusoo, Qubole的 CEO 和联合创始人,最近在 Enterprise Data World Conference (EDW)谈到了作为一种服务产品的“云中巨象” Hadoop 。大数据作为服务而不是一个产品会成为一个趋势,Hadoop 作为一种服务提供,旨在帮助机构处理大规模运行的 Hadoop 服务的挑战和成本。这些基于云服务的解决方案也可以从云服务的其他功能中获益,如动态配置、计算和存储的灵活性以及在多个地区的可用性。

Ashish 在开始谈论时说到,现在数据的性质,包括海里的交互数据,都是非结构化的。而不仅仅是我们长期以来传统应用程序里处理数据结构化数据。

分析的性质也发生了改变。Ashish 谈到了分析值从描述性向规范性分析的发展。

  • 描述性分析(发生了什么?)
  • 诊断性分析(为什么发生?)
  • 预测性分析(将会发生什么?)
  • 规范性分析(我们怎样才会让它发生?)

云提供很多好处,如按需和弹性扩展架构,高可扩展的对象存储和处理,和自适应的基础设施。使用云大数据平台提供更快的生产时间、敏捷和基础设施的灵活性以及显著降低成本。

Virtual Private Cloud (VPC) 提供隔离访问计算和存储,以及提供安全实践。VPC 的安全性包括云存储中的数据和网络数据,以及基于访问计算和存储的角色加密选项。

现代数据处理平台包括多个处理引擎,可以处理各种案例,如下面列举出:

  • 复杂批次处理 SQL,Hive
  • 数据科学,Spark
  • 简单交互 SQL 查询,Presto
  • 批量数据清洗(ETL),Map Reduce

Ashish 还谈论了基于云平台的大数据参考架构,包括多租户数据访问、引擎统一、云计算服务和可移植性服务等。他总结报告说,Hadoop 作为一种服务提供在大数据架构决策时是一个吸引人眼球的选择。

查看英文原文Elephant in the Cloud - Hadoop as a Service

云计算大数据语言 & 开发架构AI