写点什么

20 个大数据必知领域之「HDFS」

  • 2020-05-29
  • 本文字数:462 字

    阅读完需:约 2 分钟

20个大数据必知领域之「HDFS」


Hadoop 分布式文件系统(HDFS)是指被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统(Distributed File System)。它和现有的分布式文件系统有很多共同点。但同时,它和其他的分布式文件系统的区别也是很明显的。HDFS 是一个高度容错性的系统,适合部署在廉价的机器上。HDFS 能提供高吞吐量的数据访问,非常适合大规模数据集上的应用。HDFS 放宽了一部分 POSIX 约束,来实现流式读取文件系统数据的目的。HDFS 在最开始是作为 Apache Nutch 搜索引擎项目的基础架构而开发的。HDFS 是 Apache Hadoop Core 项目的一部分。


HDFS 有着高容错性(fault-tolerant)的特点,并且设计用来部署在低廉的(low-cost)硬件上。而且它提供高吞吐量(high throughput)来访问应用程序的数据,适合那些有着超大数据集(large data set)的应用程序。HDFS 放宽了(relax)POSIX 的要求(requirements)这样可以实现流的形式访问(streaming access)文件系统中的数据。

一线实践案例


2020-05-29 11:001693

评论

发布
暂无评论
发现更多内容

哪些AI工具可以生成PPT?9款好用的PPT生成软件盘点

职场工具箱

人工智能 PPT AIGC AI工具 AI生成PPT

Media Encoder 2024(Me2024)中文完整版永久使用-mac/win

Rose

黑客必备的DevOps实战工作坊:4小时动手实验指南

qife122

DevOps 渗透测试

低代码 “我的待签”怎么用,这篇给你讲得明明白白

引迈信息

Kafka实时数据管道:ETL在流式处理中的应用

谷云科技RestCloud

kafka 数据传输 数据同步 ETL 数据集成

Cinema 4D 2024(C4D 2024)中文完整版永久使用-mac/win

Rose

臭氧母带混音处理套装 iZotope Ozone 12 Advanced

Rose

活动报名:Voice First!Demo Day@Voice Agent Camp,9.22,上海丨超音速计划 2025

声网

超越条形图:项目经理结合现代进度工具的高效管理五大法则

Tecjt_锦图科技

项目进度管理工具

无人机巡航系统分析

深圳亥时科技

无人机 巡检 #开源

【编程史漫谈】goto时代和结构化编程

丛风

编程简史

使用 NVIDIA Dynamo 部署 PD 分离推理服务

Se7en

【前沿技术探索与应用赛道】借助京东AI言犀提升Kubernetes集群巡检的效率和准确性

京东科技开发者

【FAQ】应用A如何使用应用B内的文件?

HarmonyOS SDK

HarmonyOS NEXT HarmonyOS SDK应用服务

HarmonyOS 5.0应用开发——V2装饰器@local的使用

高心星

鸿蒙 HarmonyOS5.0 V2装饰器 @local

NineData社区版 V4.5.0 正式发布!

NineData

数据库管理工具 NineData 数据库DevOps 数据复制工具 NineData 社区版 V4.5.0

头秃!特斯拉Model Y定金都交了,媳妇非让我换15万的铂智3X,谁来救我出纠结坑?

王中阳Go

特斯拉 买车推荐 铂智

黑客劫持:周下载量超20+亿的NPM包被攻击

掘金安东尼

华为全联接大会2025最新剧透!OpenTiny邀请你一起来开发者展岛~

OpenTiny社区

开源 前端 智能化 OpenTiny MCP

iPaaS 平台如何实现毫秒级 API 调用与数据同步?

谷云科技RestCloud

API API网关 集成平台 API管理 ipaas

让中国企业飞向世界,金山办公+华为联手造了“AI协同直升机”

脑极体

AI

LJSON:GB/s级全能JSON和数值双引擎的架构哲学与性能平衡之道

lengjingzju

开源 架构 算法 性能优化 JSON库

功能强大且操作简便的逆向编译工具 Binary Ninja for Mac

Rose

AI教育白皮书解读 | 高校如何破局理科教育转型,搭上“人工智能+”行动快车

ModelWhale

AI教育 人工智能+ 理科

AV-Comparatives获得Euregio提名

财见

如何秒级实现接口间“幂等”补偿:一款轻量级仿幂等数据校正处理辅助工具

京东科技开发者

flyway报错Correct the classpath of your application so that it contains compatible versions of the

刘大猫

人工智能 机器学习 算法 数据分析 大模型

AI Compass前沿速览:IndexTTS2–B站、HuMo、Stand-In视觉生成框架、Youtu-GraphRAG、MobileLLM-R1–Meta、PP-OCRv5

汀丶人工智能

构建“超级用户共创网络”:一种实时、结构化吸纳用户洞察的机制

lsycang

如何实现“倾听智能体”:从理念到功能

lsycang

从 Java 到 Go:面向对象的巨人与云原生的轻骑兵

京东科技开发者

20个大数据必知领域之「HDFS」_大数据_闫佳忆_InfoQ精选文章