写点什么

20个大数据必知领域之「HDFS」

2020 年 5 月 29 日

20个大数据必知领域之「HDFS」


Hadoop 分布式文件系统(HDFS)是指被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统(Distributed File System)。它和现有的分布式文件系统有很多共同点。但同时,它和其他的分布式文件系统的区别也是很明显的。HDFS 是一个高度容错性的系统,适合部署在廉价的机器上。HDFS 能提供高吞吐量的数据访问,非常适合大规模数据集上的应用。HDFS 放宽了一部分 POSIX 约束,来实现流式读取文件系统数据的目的。HDFS 在最开始是作为 Apache Nutch 搜索引擎项目的基础架构而开发的。HDFS 是 Apache Hadoop Core 项目的一部分。


HDFS 有着高容错性(fault-tolerant)的特点,并且设计用来部署在低廉的(low-cost)硬件上。而且它提供高吞吐量(high throughput)来访问应用程序的数据,适合那些有着超大数据集(large data set)的应用程序。HDFS 放宽了(relax)POSIX 的要求(requirements)这样可以实现流的形式访问(streaming access)文件系统中的数据。


一线实践案例



2020 年 5 月 29 日 11:00143

评论

发布
暂无评论
发现更多内容

阿里内部超流行的“SpringBoot+ 微服务指南”,理论与实战双管齐下

Java架构之路

Java 程序员 微服务 Spring Boot 编程语言

全文!马云对数字时代全球化的全新解读

CECBC区块链专委会

全球化 数字时代

国内上市进程或将提速!百度宣布小度科技独立融资

脑极体

在vue2中使用ts

正经工程师

typescript vue.js

上手深度学习之前,我们先聊聊“数学”

华为云开发者社区

神经网络 学习 数学

数据库选型入门必读:如何在眼花缭乱的产品中挑出最适合业务的?

华为云开发者社区

数据库 数据库选择 关系型

剖析Java15新语法特性

高翔龙

Java 架构 Java 分布式 java15新特性

传统网络缺失货币层,比特币是否能担此大任?

blockchain

比特币 区块链 数字货币 比特币数字货币 区块俩金融

太牛了,这份神仙级面试笔记把所有 Java 知识面试题都详解出来了

Java架构之路

Java 程序员 面试 编程语言

第三周学习代码重构总结

三板斧

极客大学架构师训练营

LeetCode题解:242. 有效的字母异位词,数组排序,JavaScript,详细注释

Lee Chen

LeetCode 前端进阶训练营

架构师训练营 - 作业 - 第二周

Max2@12

软件架构(2)-框架设计

Zeke

极客大学架构师训练营

区块链掀起全民创业热潮!数字资产是未来全球最具前景和价值的!

CECBC区块链专委会

区块链 数字货币

2020互联网公司中秋礼盒大比拼!(文末送福利)

Java架构师迁哥

架构师训练营 1 期 - 第三周 - 设计模式

三板斧

极客大学架构师训练营

极光无限:用AI赋能安全 解决安全行业人才紧缺难题

风向标

人工智能

中秋佳节,程序员教你AI三步成诗,秒变“李白”

华为云开发者社区

AI 中秋

我一定是熬夜熬傻了,小程序后台获取用户信息居然发生了这件事

小Q

Java 小程序 学习 编程 架构

Nexmark: 如何设计一个流计算基准测试?

Apache Flink

flink

2020HC大会上,这群人在讨论云原生…

华为云开发者社区

华为 华为云 大会

一个Hibernate的事务问题

YoungZY

hibernate

一个草根的日常杂碎(9月29日)

刘新吾

随笔杂谈 生活记录 社会百态

开源=免费?

Philips

开源 开源项目 开源代码 开源社区

架构师训练营第 1 期第 3 周学习总结

好吃不贵

极客大学架构师训练营

GitHub上标星68k,基于SpringBoot+Netty分布式开源的即时通讯系统项目

Java架构之路

Java 程序员 编程语言 Netty 项目实战

关于 UML 类图

西贝

UML 图表

一周信创舆情观察(9.21~9.27)

统小信uos

谈谈测试

得大自在

测试的价值 测试文化 测试落地

单例模式

高兵

技术解读丨目标检测之RepPoints系列算法

华为云开发者社区

算法 神经 目标检查

20个大数据必知领域之「HDFS」-InfoQ