浅谈大数据之HDFS(2)

关于HDFS1.0的知识可以看看这篇文章

浅谈大数据之HDFS(1) - 简书

下面我们根据HDFS2.0的一些新特性,从HA(高可用)、Federatio(联邦)、快照、缓存、ACL(权限)等方面来聊聊

HA(高可用)

首先我们要知道HA,是为了解决什么问题呢?

这是为了解决单点故障的问题,虽然HDFS1.0中有SNN(SecondaryNameNode),但是并不可靠,在HDFS2.0中,使用两个NameNode,一个Active,另一个StandBy。我们先看一下流程图,再详细讲解

流程图

我们从下往上说

1.为了保证两个NameNode的数据一致性,DataNode要对两个NameNode同时发送心跳

2.ActiveNameNode承担所有与客户端的操作,读写删除等操作

3.StandByNameNode不做其他操作,与active保持一个通信关系,与active保持数据同步。如果active挂掉,standby要做好称为active的准备

4.JN:主要目的是让ActiveNN和StandByNN保持数据同步(下面我们再详细讲)

5.引入ZooKeeper的目的是为了协调分布式集群中各个节点工作有序运行,完成故障转移

对流程有一个大概的了解之后,我们再针对细节讲解一下

1.引入Zookeeper主要是为了协调运行和完成故障转移,那么具体是怎么做到的呢?

    a)在HDFS2.0中,ZKFC(ZooKeeperFailoverController-故障转移控制)是一个进程,和NN部署在同一个机器上,ZKFC的目的是负责对自己管辖之内的NN进行健康检查,通俗说就是检查NN是否挂掉。

          ZKFC会在Zookeeper上注册一个临时节点,目的用于监控NN,一旦NN挂掉,相对应的临时节点消失,接下来开始选主(申请锁)流程

    b)引入Zookeeper也是为了避免分歧,在任何情况下,NameNode只有一个active状态,否则导致数据的丢失及其他不正确的结果。在任何时间,JNs只允许一个NN充当writer,在故障恢复期间,将要变成active状态的NN将取得writer的角色,并阻止另外一个NN继续处于active状态

2.JN(JournalNodes),我们思考一个问题,DataNode要对两个NN同时发送心跳,目的保证一致性,但是为什么还需要JN?

这是因为两者保证的数据类型不同,JN是文件-->block,DadaNode的心跳是block-->DN,数据丢失可以根据心跳恢复,无需JN保管。

JN通常配置成奇数个(2N+1),如果N个数据是一致的,那么数据就能确定下来,会去同步standby目录镜像树

JN有两种技术选择

    一是NFS,采用网络挂载的方式,需要额外的磁盘空间

    二是QJM(最低法定人数管理机制),它的原理,用2n+1台机器存储edit log,每次写数据操作属于大多数(n+1)时候,返回成功,保证高可用,本质上也是一个小集群。使用QJM有以下好处

            a)不需要额外的磁盘空间

            b)无单点问题

            c)不会因为个别机器延迟,影响整体性能(大多数n+1的时候,返回成功),也不会因为JN的数据增多而影响(active数据变化会同步发送到JN上)

            d)通过简单的系统配置就可以实现

3.节点的部署情况

    1)NN和JN通常不在一台机器上

    2)FC和NN在同一台机器上

    3)RM(Yarn中的资源管理器,相当于1.0中的jobtracker的部分功能)和NN在同一台机器

    4)zookeeper通常是单独维护的一套独立集群

NameNode Federation(联邦)


联邦

集群中提供多个NameNode,每个NameNode负责管理一部分的DataNode,目的是减轻单一的NameNode压力,将一部分文件转移到其他NameNode上管理

本质上是将元数据原理(NN)和存储(DN)进行解耦,但是实际情况是:数据的存储仍然是共享的

联邦实现了NameNode的横向扩展,使得Hadoop集群的规模可以达到上万台,突破了单独的NN的限制,支持更多数据存储

HDFS快照

HDFS快照是一个只读的基于时间点的文件系统拷贝,本质上也会占用空间(仅仅记录了block列表和大小而已,并不涉及数据本身的复制),快照创建的过程非常快,瞬间完成,很高效。

HDFS快照的作用主要是数据备份,灾备,快速恢复

HDFS缓存

HDFS缓存是集中式的缓存(不局限于具体的机器CPU和操作系统层面上的优化),集中式的缓存管理对于重复访问的文件很有用,允许用户指定要缓存的HDFS路径,而且明确的锁定可以阻止频繁使用的数据被从内存中清除

ACL(权限控制)

目前HDFS的权限控制与Linux一致,包括用户、用户组、其他用户组三类权限,这种方式有很大局限性,通过以下这张图就能了解权限是怎么构成的了


©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,539评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,911评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,337评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,723评论 1 290
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,795评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,762评论 1 294
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,742评论 3 416
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,508评论 0 271
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,954评论 1 308
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,247评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,404评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,104评论 5 340
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,736评论 3 324
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,352评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,557评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,371评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,292评论 2 352

推荐阅读更多精彩内容

  • 翻译: http://hadoop.apache.org/docs/stable/hadoop-project-d...
    金刚_30bf阅读 509评论 0 1
  • (一)分布式文件系统概述 数据量越来越多,在一个操作系统管辖的范围存不下了,那么就分配到更多的操作系统管理的磁盘中...
    时待吾阅读 1,486评论 0 0
  • (一)分布式文件系统概述 数据量越来越多,在一个操作系统管辖的范围存不下了,那么就分配到更多的操作系统管理的磁盘中...
    时待吾阅读 5,436评论 0 1
  • Zookeeper用于集群主备切换。 YARN让集群具备更好的扩展性。 Spark没有存储能力。 Spark的Ma...
    Yobhel阅读 7,263评论 0 34
  • 那时我不到十岁 在一个有雾的冬日里 小芳娶了邻村的小伙 赵俊 只是赵俊 也没觉得有什么俊 大家都去喝喜酒了 ...
    青草芳香阅读 786评论 15 16