zookeeper基础篇(二)

初识Zookeeper

Zookeeper起初是阿帕奇的Hadoop的子项目,后来由于其高效、可靠、开源,后来发展成了阿帕奇的顶级项目。Zookeeper没有直接使用paxos算法,而是自创了ZAB协议(一致性广播协议:Zookeeper Atomic Broadcast)。

Zookeeper是一款分布式协调服务软件,主要用来解决分布式应用的一致性问题。目前基于它的软件有Hadoop、HBase、Storm、Solr、Disconf、Dubbo和Kafka等。

1. 软件特性

顺序一致性:同一个客户端发起的请求会严格按照顺序应用到Zookeeper中去。
原子性:要么全部成功、要么全部失败。
单一视图:无论连接哪个集群节点,看到的数据都是一样的。
可靠性:一旦请求成功,变更就会永久保存下来。
实时性:任何时候应用都能读到最新的状态。

2. 集群角色

传统分布式有Master/Slave概念,而Zookeeper引入了Leader、Follower和Observer三种角色。
Leader:提供读和写
Follower:提供读。Leader写数据时参与“过半写策略”。Leader出现故障时,参与“选举”。
Observer:提供读。不参与“选举”也不参与“过半写策略”,因此增加Observer能在不影响写性能的同时提高读性能。


image.png

3. ZAB协议

ZAB协议和Paxos不一样,它是一种崩溃可恢复的原子消息广播算法。它不算是一个通用的分布式一致性算法,侧重点是设计一个高可用的分布式数据主备系统。

ZAB将服务器数据状态变更以事务Proposal的形式广播给所有副本进程,这种主备模型架构保证了同一时刻集群只能有一个主进程来广播数据变更,这样可以很好地处理并发请求,并能保证顺序。

ZAB有两个基本模式,崩溃恢复和消息广播。当集群出现异常(网络中断、进程崩溃重启)时集群会进入恢复模式,开始选举Leader。选举产生新Leader后过半机器与Leader完成同步后集群就推出恢复模式,进入消息广播状态。

消息广播

原子广播协议类似2PC,不同之处在于移除了rollback逻辑,Follower要么正常反馈要么抛弃Leader服务器。并且只要过半的Follower已经成功反馈后就可以发送commit了。

广播过程中Leader服务器会为每个事务请求生成对应的propose,并为他们分配单调递增的唯一ID - ZXID。

ZXID作为事务编号,ZXID为64位数字,低32位为一个递增的计数器,每一个客户端的一个事务请求时Leader产生新的事务后该计数器都会加1, 高32位为Leader周期epoch编号,当新选举出一个Leader节点时Leader会取出本地日志中最大事务Proposal的ZXID解析出对应的epoch把该值加1作为新的epoch,将低32位从0开始生成新的ZXID


image.png

由于要保证因果关系,每个事务必须按照ZXID先后顺序进行排序处理。实现方式是follower节点将收到的事务请求加入到历史队列(history queue)中,并发送ack给ack给leader。

当follower收到commit请求时,会判断该事务的ZXID是不是比历史队列中的任何事务的ZXID都小,如果是则提交,如果不是则等待比它更小的事务的commit。


image.png

崩溃恢复

一旦Leader跪了或者出现网络分区导致Leader失去过半Follower,那么就立即进入崩溃恢复模式。崩溃恢复有几个阶段:选举、发现、数据同步


image.png

ZAB协议需要确保丢弃那些只在Leader服务器上被提出的事务


image.png

i: 选举
一般选出集群中拥有最大ZXID的节点。选举新Leader只要选举出拥有ZXID最大的机器出来即可。

ii: 发现
follower与潜在的新leader进行沟通,如果发现超过法定人数的follower同意,则潜在的新leader将epoch加1,进入新的leader周期。新的leader产生

iii: 数据同步
新Leader产生后,进入消息广播模式之前Leader需要确认所有Proposal是否已经被过半的机器提交了,提交了即完成了数据同步。
具体的,Leader会为每个Follower分配一个队列,将Follower上未提交的proposal逐个发给Follower并在其后跟一个Commit,表示该事务已经被提交。Follower同步完成后Leader将其放入真正可用的Follower列表中。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 219,635评论 6 508
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,628评论 3 396
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 165,971评论 0 356
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,986评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,006评论 6 394
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,784评论 1 307
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,475评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,364评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,860评论 1 317
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,008评论 3 338
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,152评论 1 351
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,829评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,490评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,035评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,156评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,428评论 3 373
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,127评论 2 356

推荐阅读更多精彩内容