写点什么

20 个大数据必知领域之「HDFS」

  • 2020-05-29
  • 本文字数:462 字

    阅读完需:约 2 分钟

20个大数据必知领域之「HDFS」


Hadoop 分布式文件系统(HDFS)是指被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统(Distributed File System)。它和现有的分布式文件系统有很多共同点。但同时,它和其他的分布式文件系统的区别也是很明显的。HDFS 是一个高度容错性的系统,适合部署在廉价的机器上。HDFS 能提供高吞吐量的数据访问,非常适合大规模数据集上的应用。HDFS 放宽了一部分 POSIX 约束,来实现流式读取文件系统数据的目的。HDFS 在最开始是作为 Apache Nutch 搜索引擎项目的基础架构而开发的。HDFS 是 Apache Hadoop Core 项目的一部分。


HDFS 有着高容错性(fault-tolerant)的特点,并且设计用来部署在低廉的(low-cost)硬件上。而且它提供高吞吐量(high throughput)来访问应用程序的数据,适合那些有着超大数据集(large data set)的应用程序。HDFS 放宽了(relax)POSIX 的要求(requirements)这样可以实现流的形式访问(streaming access)文件系统中的数据。

一线实践案例


2020-05-29 11:001707

评论

发布
暂无评论
发现更多内容

CAD图层管理器是干什么的?怎么使用?

在路上

cad CAD看图软件 CAD看图王

【YashanDB知识库】YashanDB run.log中有slow log queue is full信息

YashanDB

数据库 yashandb

【YashanDB知识库】YCM上告警项怎么修改

YashanDB

数据库 yashandb

模型驱动测试 (MBT):从概念到实践的全面解析

测吧(北京)科技有限公司

测试

DeepSeek-V3模型对软件测试行业的影响

测试人

软件测试

【YashanDB知识库】审计表UNIFIED_AUDIT_TRAIL出现YAS-00220 utf8 sequence is wrong

YashanDB

数据库 yashandb

【YashanDB知识库】YCM托管YashanDB报错 /home/yashan/.yasboot/.env is not existed

YashanDB

数据库 yashandb

Docker Compose 实战:如何使用 Docker Compose 进行多容器应用编排

测吧(北京)科技有限公司

测试

致全体用户:2024 年,TapData 的五周年,我们在海内外市场埋下了两颗新的种子

tapdata

实时数据 金融数字化 物化视图 TapView

OpenTiny2024年终总结~

OpenTiny社区

开源 前端 低代码 组件库 OpenTiny

【YashanDB知识库】kettle做增量同步,出现报错:Unrecognized VM option 'MaxPermSize-256m'

YashanDB

数据库 yashandb

使用火语言RPA批量创建指纹浏览器,并给每个指纹浏览器设置不同的代理IP

火语言RPA

如何在SpringBoot/MySQL事务中并行执行多条SQL?

秃头小帅oi

Nacos 3.0 Alpha 发布,在安全、泛用、云原生更进一步

阿里巴巴云原生

阿里云 云原生 nacos

分布式 UI 自动化测试环境部署实践:使用 Docker 快速构建测试平台

测吧(北京)科技有限公司

测试

暴跌的「优必选」,持续融资、高估值的人形机器人创企

机器人头条

科技 人形机器人 优必选 具身智能

黄仁勋:通用机器人的ChatGPT时刻即将到来!马斯克:YES!!

机器人头条

英伟达 科技 ces 人形机器人 具身智能

数百名研发人员使用通义灵码,33% 新增代码由 AI 生成,信也科技研发模式焕新升级

阿里巴巴云原生

阿里云 云原生

数百名研发人员使用通义灵码,33% 新增代码由 AI 生成,信也科技研发模式焕新升级

阿里云云效

阿里云 云原生 通义灵码

从模拟数据到场景复现,剖析 MySQL Online DDL 异常报错之谜

袋鼠云数栈

DeepSeek 最新推理模型 R1-Lite:一场数学题的死胡同之旅

测吧(北京)科技有限公司

测试

探索模型驱动测试框架:GraphWalker 的自动化测试用例生成

测吧(北京)科技有限公司

测试

微店API接口深度探索:如何高效获取商品详情及代码实践

代码忍者

微店商品详情API接口

20个大数据必知领域之「HDFS」_大数据_闫佳忆_InfoQ精选文章