写点什么

Hadoop 不再权威,开源大数据的未来何去何从?

  • 2019-06-21
  • 本文字数:1682 字

    阅读完需:约 6 分钟

Hadoop不再权威,开源大数据的未来何去何从?


屈指算来,Hadoop 已经诞生 13 年了。它最早诞生于 2006 年,并在 2008 年成为 Apache 顶级项目。诞生后没过多久就成为了互联网行业大数据计算的标准配置,同时也成了 Apache 软件基金会的金牌项目之一。但从 2016 年开始,国内外就开始出现唱衰 Hadoop 的声音,以 Hadoop 为代表的开源大数据的未来何去何从?


十年前,三家资金雄厚的初创公司 Cloudera、Hortonworks 和 MapR 开始围绕 Hadoop 开源生态系统中的产品和服务进行商业化。有关 Hadoop 的炒作在 2014 年初达到了巅峰。当时,Cloudrea 筹集了大约 9 亿美元的巨额融资,估值为 41 亿美元。


“最近 Cloudrea 和 MapR 的争端上了很多媒体的头条,不由让公众想知道这场争端对大数据的未来意味着什么。”Unravel Data 首席执行官 Kunal Aganwal 表示。“企业对数据的兴趣是正在减弱吗?完全没有的事。只是由于大数据向公用云快速转型,导致这些公司步履蹒跚,这些专为本地部署而设计的平台已经没有什么增长潜力了。由于大数据对于高弹性计算的需求,它天然更适合云计算。此外,现代数据系统正变得越来越复杂,它们在本地管理要比在云端管理更加困难。随着新的数据栈横空出世,Hadoop 不再是权威的大数据技术了:像 Spark 和 Kafka 这样的技术正在兴起,以支持使用人工智能和机器学习的现代数据应用。Hadoop 不会消失,也不是所有的数据工作负载都会迁移到云端,但公有云和 Spark 等技术将越来越多地定义大数据,任何不积极支持它们的供应商将会继续蒙受损失。”


Hortonworks 于 2014 年面市,Cloudera 紧随其后,于 2017 年上市。但随着市场竞争的加剧,客户开始迅速转向云端,两家公司的股价都出现了暴跌。去年秋季,Cloudrea 和 HortonWorks 合并,但合并后的公司股票持续下跌,市值缩水了一半。MapR 在四年多前就宣布了上市计划,但从未贯彻执行,而是选择在 2016 年和 2017 年再筹集两轮风险投资。最近有消息称,如果 MapR 不能获得更多资金,可能会削减多达 122 个工作岗位,并关闭位于加利福尼亚州圣克拉拉的总部。


“最近关于 Cloudrea 和 MapR 的新闻引发了关于Hadoop 未来何去何从的争论,以及所有用于管理大数据工作负载的开源框架。”Clairvoiant 公司的首席执行官 Chandra Ambadipudi 评论道。“一个重要的因素是,Hadoop 在管理和利用它所需的资源方面被市场大大低估了。Hadoop 确实实现了它作为低成本、可伸缩且健壮的开源解决方案的承诺。但管理其复杂性所需的人才和数据工程师的数量,以及他们的短缺,都已经达到了顶点。”


现在,Cloudrea 成为唯一重要的 Hadoop 公司,在经历 MapR 新闻风波之后,以下是关于开源大数据平台未来从本地到云端(以及 Microsoft、AWS、Google 等云计算巨头)的一些见解和想法。


  • Hadoop 的可行性饱受质疑,并非因为它是一种槽糕的技术(实际上,Hadoop 技术非常好),而是因为将 Hadoop 作为开源产品来管理太过复杂导致面临人才瓶颈。与炒作相比,所需的资源水平被大大低估了。

  • 问题是,云计算巨头是否会完全占据这个领域?Databricks 和 Snowflake 正在着手解决与大数据实现方面的技能差距。

  • 生态系统中仍然会出现整合行为(就像 Microsoft 收购 MapR 一样),只有时间才能告诉我们,这一切对生态系统是否有益(厂商锁定)。

  • 与此类似,正在崛起的其他大数据平台如 Apache Kafka,也可能面临开源解决方案的挑战(就像 Cloudrea 作为开源 Hadoop 的发行商面临的挑战一样)。


“随着云计算巨头继续‘吞噬世界’,像 Snowflake 和 DataBricks 这样的平台也在崛起,开始尝试弥合大数据人才和技能的鸿沟,”Ambadipudi 补充道,“如果市场出现进一步的整合,比如有某些云计算公司收购了 MapR 和其他 Hadoop 公司,我将不会感到惊讶。由于低延迟和可伸缩性,Kafka 越来越受欢迎,并得到了广泛的采用。但就像 Cloudera 利用 Hadoop 一样,Confluent 的 Kafka 企业版做的也是同样的事情,所以他们也可能面临与开源平台相同的挑战。无论采用哪一种大数据实现方式,目前所需的技能都是短缺的,而且对专家管理服务的需求仍将居高不下。”


英文原文:


https://insidebigdata.com/2019/06/14/the-future-of-open-source-big-data-platforms/


2019-06-21 12:006705
用户头像

发布了 540 篇内容, 共 299.9 次阅读, 收获喜欢 1573 次。

关注

评论

发布
暂无评论
发现更多内容

打工人逃不开「单人单岗」

Java 架构 程序人生 职场

一文带你了解实战常用JavaScript API

程序员海军

JavaScript 三周年连更

6G 通信技术和 5G 通信技术的区别

汪子熙

通讯协议 通讯 三周年连更

Golang new 和 make 函数

宇宙之一粟

Go make new 三周年连更

CefSharp自定义缓存实现

沙漠尽头的狼

dpdk l2fwd如何初始化每个逻辑核的port/queue的

linux大本营

队列 DPDK DPDK开发

openbmc 中如何使用D-bus

linux大本营

dbus openBMC

概述产品设计通用七原则

阿泽🧸

产品设计 三周年连更

系统稳定性建设之我见(64/100)

hackstoic

质量管理 系统稳定性

数据存储与访问——文件存储读写

芯动大师

application 三周年连更 SharedPreference

第五期(2022-2023)传统行业云原生技术落地调研报告——金融篇

York

容器 DevOps 微服务 云原生 金融

写一个完整的SHOW TABLE STATUS 语句返回的所有表的状态信息对应的结构体

linux大本营

数据库 存储 结构体 C++

UDP报头是通过结构体位段实现的吗

linux大本营

网络协议 udp UDP协议

京韵、京城、京味:从一台服务器看数字北京

脑极体

算力

dpdk中,如何建立portid/queue的配置和逻辑核心的关系

linux大本营

队列 DPDK DPDK开发

重载++运算符分别实现i++和++i

linux大本营

运算符 数据结构与算法

linux dbus代码举例

linux大本营

Linux C++

Go sync.Once:简约而不简单的并发利器

陈明勇

Go golang 高并发 三周年连更 sync.Once

Django笔记十七之group by 分组用法总结

Hunter熊

Python django count 分组查询 sum

解析下rte_pktmbuf_pool_create参数含义

linux大本营

DPDK DPDK开发

共话数字化新技术、新趋势 华为云开发者日东莞站成功举办

极客天地

linux dbus客户端和服务器示例代码

linux大本营

c++ Linux dbus

扎最深的寨,打最持久的仗——一知智能AI商业化攻略访谈录

B Impact

2022-04-26:给定一个数组componets,长度为A, componets[i] = j,代表i类型的任务需要耗时j 给定一个二维数组orders,长度为M, orders[i][0]代表i

福大大架构师每日一题

golang 算法

一键生成通用的微服务(gRPC)项目代码,让你的开发效率翻倍提升

vison

Go 微服务 gRPC 代码自动生成

如何建设IT运维流程与体系

穿过生命散发芬芳

运维体系 三周年连更

Go并发编程的秘密武器:内存模型和同步原语

Jack

nvim 配置c++环境

linux大本营

vim C++

基于Flutter实现Windows平台离线大模型对话应用实战

轻口味

flutter AI windows 跨平台 三周年连更

minikube 初体验环境搭建

IT蜗壳-Tango

三周年连更

Java - 泛型

乌龟哥哥

三周年连更

Hadoop不再权威,开源大数据的未来何去何从?_AI&大模型_Daniel Gutierrez_InfoQ精选文章