大数据Hadoop 技术内幕:深入解析 HDFS架构设计与实现原理

一、HDFS架构

HDFS架构

二、HDFS设计思想

HDFS设计思想(1)
HDFS设计思想(2)

三、HDFS写流程

HDFS写流程

---Client:

·切分文件Block

·按Block线性和NN获取DN列表(副本数)

·验证DN列表后以更小的单位流式传输数据

---各节点,两两通信确定可用

·Block传输结束后:

---DN向NN汇报Block信息

---DN向Client汇报完成

---Client向NN汇报完成

·获取下一个Block存放的DN列表

·。。。。。。

·最终Client汇报完成

·NN会在写流程更新文件状态

四、HDFS读流程

---Client:

·和NN获取一部分Block副本位置列表

·线性和DN获取Block,最终合并为一个文件

·在Block副本列表中按距离择优选取

五、HDFS文件权限POSIX

---与Linux文件权限类似

·r: read; w:write; x:execute

·权限x对于文件忽略,对于文件夹表示是否允许访问其内容

---如果Linux系统用户zhangsan使用hadoop命令创建一个文件,那么这个文件在HDFS中owner就是zhangsan。

---HDFS的权限目的:阻止好人错错事,而不是阻止坏人做坏事。HDFS相信,你告诉我你是谁,我就认为你是谁。

本文为原创,禁止转载!

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 一、目标 HDFS 全称hadoop分布式文件系统,其最主要的作用是作为 Hadoop 生态中各系统的存储服务。 ...
    Alukar阅读 2,503评论 1 18
  • 分布式存储系统HDFS(Hadoop Distributed File System)POSIX 分布式存储系统 ...
    壹点零阅读 311评论 0 0
  • 各版本hadoop文档地址 Hadoop的框架最核心的设计就是:HDFS(Hadoop Distributed F...
    MicoCube阅读 1,021评论 0 2
  • 陌生的一起乘车 为了工作 为了家庭 为了一切 车开动,去工作 车开动,回家 车开动,有希望
    大碴粥阅读 95评论 0 0
  • 蚀心的世界不再有希望,不再有微笑,也绝对不能再有,一定要记住,这个世界谁也无法相信,真正爱你的人是不会让你轻易流泪...
    蚀心空竹阅读 167评论 0 0