写点什么

20 个大数据必知领域之「HDFS」

  • 2020-05-29
  • 本文字数:462 字

    阅读完需:约 2 分钟

20个大数据必知领域之「HDFS」


Hadoop 分布式文件系统(HDFS)是指被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统(Distributed File System)。它和现有的分布式文件系统有很多共同点。但同时,它和其他的分布式文件系统的区别也是很明显的。HDFS 是一个高度容错性的系统,适合部署在廉价的机器上。HDFS 能提供高吞吐量的数据访问,非常适合大规模数据集上的应用。HDFS 放宽了一部分 POSIX 约束,来实现流式读取文件系统数据的目的。HDFS 在最开始是作为 Apache Nutch 搜索引擎项目的基础架构而开发的。HDFS 是 Apache Hadoop Core 项目的一部分。


HDFS 有着高容错性(fault-tolerant)的特点,并且设计用来部署在低廉的(low-cost)硬件上。而且它提供高吞吐量(high throughput)来访问应用程序的数据,适合那些有着超大数据集(large data set)的应用程序。HDFS 放宽了(relax)POSIX 的要求(requirements)这样可以实现流的形式访问(streaming access)文件系统中的数据。

一线实践案例


2020-05-29 11:001725

评论

发布
暂无评论
发现更多内容

一小时内,构建出属于你自己的 Perplexity AI 搜索引擎

智领云科技

开源 实操 Python 代码 Perplexity AI 搜索引擎

项目管理这些问题,你是不是忍了很久?

天津汇柏科技有限公司

项目管理 低代码开发 软件定制开发

MariaDB 和 GreatSQL 性能差异背后的真相

GreatSQL

阿里巴巴1688商品详情API:深入解析促销与优惠信息

代码忍者

API 接口 pinduoduo API

实时工业质量管理,质也要,量也要

奇点云

大数据 AI 软件 IT 制造业

CST软件如何选择时域求解器的频率范围

思茂信息

仿真软件 cst 电磁仿真

1024茶思屋直播|TinyEngine跨端实践​:可视化搭建导出鸿蒙ArkTs应用

OpenTiny社区

低代码 OpenTiny 前端开源

揭秘 IT 成熟度模型:助力企业在数字时代脱颖而出的战略工具

跟YY哥学Jira

ITSM Gartner 成熟度模型

CNCC | 倒计时3天!CCF-网易雷火联合基金研讨会:议程嘉宾交通参会指南一图掌握

网易伏羲

人工智能 网易伏羲 cncc 具身智能 群体智能

2024年西藏等保测评机构名单汇总

行云管家

等保 等保测评 西藏

Altair官方文档——HyperMesh模型管理

智造软件

教程 CAE软件 altair Hypermesh

家装商城(源码+文档+部署+讲解)

深圳亥时科技

好用的运维安全审计系统需满足哪些要求或者诉求?

行云管家

运维 安全运维 运维审计

公开课 | AI赋能自动化测试:解锁未来测试新篇章

测试人

人工智能 软件测试

电能管理系统(源码+文档+部署+讲解)

深圳亥时科技

智慧疾控物资管理(源码+文档+部署+讲解)

深圳亥时科技

火山引擎数智平台VeDI荣获2024爱分析·数据智能优秀厂商奖

字节跳动数据平台

大数据 数据飞轮

全域旅游平台(源码+文档+部署+讲解)

深圳亥时科技

Elasticsearch Serverless 高性价比智能日志分析关键技术解读

阿里云大数据AI技术

人工智能 elasticsearch Serverless

课程实录 | 借助 F5 NGINX 交付极致用户体验(上)

NGINX开源社区

HTTP Brotli WebP

用户身份与访问管理(IAM)是数字身份管理的关键路径和重要方法

芯盾时代

数字身份 iam 统一身份管理平台

20个大数据必知领域之「HDFS」_大数据_闫佳忆_InfoQ精选文章