写点什么

20 个大数据必知领域之「HDFS」

  • 2020-05-29
  • 本文字数:462 字

    阅读完需:约 2 分钟

20个大数据必知领域之「HDFS」


Hadoop 分布式文件系统(HDFS)是指被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统(Distributed File System)。它和现有的分布式文件系统有很多共同点。但同时,它和其他的分布式文件系统的区别也是很明显的。HDFS 是一个高度容错性的系统,适合部署在廉价的机器上。HDFS 能提供高吞吐量的数据访问,非常适合大规模数据集上的应用。HDFS 放宽了一部分 POSIX 约束,来实现流式读取文件系统数据的目的。HDFS 在最开始是作为 Apache Nutch 搜索引擎项目的基础架构而开发的。HDFS 是 Apache Hadoop Core 项目的一部分。


HDFS 有着高容错性(fault-tolerant)的特点,并且设计用来部署在低廉的(low-cost)硬件上。而且它提供高吞吐量(high throughput)来访问应用程序的数据,适合那些有着超大数据集(large data set)的应用程序。HDFS 放宽了(relax)POSIX 的要求(requirements)这样可以实现流的形式访问(streaming access)文件系统中的数据。

一线实践案例


2020-05-29 11:001734

评论

发布
暂无评论
发现更多内容

架构师的十八般武艺:业务架构

agnostic

业务架构

Vue实战必会的几个技巧

yyds2026

Vue

webpack配置完全指南

Geek_02d948

webpack

细说react源码中的合成事件

flyzz177

React

【牛客刷题-算法】NC9 二叉树中和为某一值的路径(一)

清风莫追

算法 二叉树 10月月更

【牛客刷题-算法】NC11 将升序数组转化为平衡二叉搜索树

清风莫追

数据结构 算法 二叉树 10月月更

JS继承有哪些,你能否手写其中一两种呢?

helloworld1024fd

JavaScript

React源码解读之任务调度

flyzz177

React

读懂React原理之调和与Fiber

xiaofeng

React

Redis--SpringBoot整合Redis(包含工具类)

Java学术趴

10月月更

变量使用范围

理想何止三旬

变量

带你实现react源码的核心功能

goClient1992

React

【牛客刷题-算法】NC7 买卖股票的最好时机(一)

清风莫追

算法 动态规划 10月月更

你要的react+ts最佳实践指南

xiaofeng

React

【LeetCode】检查二进制字符串字段Java题解

Albert

LeetCode 10月月更

什么是虚拟服务器?一共有多少种虚拟服务器?这篇文章带你扫盲!

wljslmz

10月月更 虚拟服务器

Spring Lombok 实体类死循环问题

HoneyMoose

React-Hooks源码深度解读

goClient1992

React

React生命周期深度完全解读

夏天的味道123

React

Vue响应式依赖收集原理分析-vue高级必备

yyds2026

Vue

能否手写vue3响应式原理-面试进阶

helloworld1024fd

JavaScript

使用 RxJs 实现一个支持 infinite scroll 的 Angular Component

汪子熙

前端开发 angular RXJS web开发 10月月更

Python基础(七) | 文件、异常以及模块详解

timerring

异常 Python Monad 10月月更

一个dubbo和springboot的兼容性问题

xiaoxi666

webpack配置优化,让你的构建速度飞起

Geek_02d948

webpack

Collections之 Arraylist源码解读(二)

知识浅谈

ArrayList 10月月更

JWT 和 JJWT 还傻傻的分不清吗

HoneyMoose

React组件复用的发展史

夏天的味道123

React

SAP 电商云 Spartacus UI 的响应式 UI 实现细节

汪子熙

前端 前端开发 web开发 10月月更 breakpoint

Redis开篇--非关系型数据库

Java学术趴

10月月更

Redis中的数据类型以及常用方法

Java学术趴

10月月更

20个大数据必知领域之「HDFS」_大数据_闫佳忆_InfoQ精选文章