ZooKeeper典型应用场景

数据发布/订阅
  • 有两种设计模式,分别是push和pull,push是客户端主动推送给订阅的客户端,pull是由客户端主动发起请求来获取最新数据
  • 如果把配置信息配置到ZooKeeper,同时添加一个watcher监听,这样但凡配置发生变化,服务端都会实时通知到所有客户端
  • 配置信息可以分为配置文件或者内存变量
    • 配置文件可以通过定时轮询读取
    • 内存比那里可以通过JMX实现对系统运行内存变量的更新
DDNS:动态DNS方案
命名服务
  • 通过使用命名服务,客户端应用能够根据指定名字来获取资源的实体、服务地址和提供者的信息
分布式协调/通知
  • ZooKeeper通过Watcher注册与异步通知机制,实现分布式协调/通知
  • ZooKeeper用来搭建MySQL数据复制总线
  • 任务注册时,core进行首先会向/mysql_replicator/tasks节点注册任务,比如/mysql_replicator/tasks/copy_hot_item任务节点
  • 任务热备份:每台任务机器(复制任务部署的主机)都需要在/mysql_replicator/tasks/copy_hot_item/instances/[Hostname]-1
    • 每台任务机器取任务时,都会判断节点的序列号是否是序号最小的子节点,按照“小序号优先”策略进行调度,最小子节点机器会将自己机器状态设置为RUNNING,其余任务机器设置为STANDBY
  • 热备切换:如果RUNNING机器出现故障,所有标记为STANDBY的机器按照“小序号优先”原则选举出来执行
  • 冷备份扫描:序列号小的core进程会把自己标记为RUNNING,其他core进程会把自己创建的子节点删除,然后继续扫描下一个task节点
  • 冷热备份区别:热备份可以实时进行互相协调,缺点是资源消耗较大。冷备份使用扫描机制,降低实时性,但是节省了机器资源
集群管理
  • 了解机器中有多少台机器,对每台机器运行时状态进行数据采集,对集群中机器进行上下线操作
    • 但是存在大规模升级困难、无法监控到具体中间件中消费者和生产者状态,编程语言多样性问题
分布式日志采集系统
  • 在每台手机日志的机器启动时,ZooKeeper在收集器节点下创建对应节点
master选举
  • 利用关系型数据库的主键特性来保证在集群中选举出唯一的master。利用ZooKeeper的强一致性,保证客户端无法重复创建一个已经存在的数据节点
分布式锁
  • 排它锁:保证当前有且仅有一个事务获得锁。
    • 获取排它锁:在调用create()接口时,在/exclusive_lock节点下创建临时子节点/exclusive_lock/lock。同时所有没有获取到锁的客户端需要到/exclusive_lock节点上注册一个子节点变更的Watcher监听,以便实时监听到lock节点的变更情况。
    • 释放排它锁:当前获取锁的客户端机器发生宕机,或者正常完成业务逻辑后,客户端会将自己创建的临时节点删除。
  • 共享锁:加上排它锁之后,数据对象只对一个事务可见,而加上共享锁之后,数据对所有事务可见。其他事务都可以对这个数据对象加共享锁,直到数据对象上所有共享锁被释放。
    • 共享锁数据结构:在ZooKeeper上使用数据节点表示一个锁,类似于“/shared_lock/[Hostname]-请求类型-序号”的临时顺序节点,例如/shared_lock/192.168.0.1-R-0000000001
    • 获取共享锁:如果是读请求,创建/shared_lock/192.168.0.1-R-0000000001节点,如果是写请求,那么创建例如/shared_lock/192.168.0.1-W-0000000001节点
  • 读写顺序:创建完共享锁之后,会获取/shared_lock下所有子节点,并对该节点注册子节点变更的Watcher监听。
    • 如果没有比自己序号小的子节点,或者比自己序号小的节点都是读请求(可以并发读),那么表明自己已经成功获取到了共享锁,开始执行读取逻辑。
    • 对于读请求,如果有比自己序号小的子节点中有写请求,那么就需要进入等待。
    • 对于写请求,如果自己不是序号最小的请求,那么也需要进入等待。
  • 羊群效应:在整个分布式锁竞争过程中,大量的“Watcher通知”和“子节点列表获取”两个操作重复运行,并且大多数的运行结果都是判断出自己并非序号最小的节点,从而开始等待下一次通知。客户端无端地接收到过多和自己并不相关的事件通知,同一时间有多个节点对应的客户端完成事务或是事务中断引起的节点消失,ZooKeeper服务器会在短时间内向其他客户端发送大量的事件通知——这个就是所谓的羊群效应
  • 避免羊群效应,降低监听锁的颗粒度,从监听子节点列表,改变成
    • 读请求:对于比自己序号小的最近一个写请求节点注册Watcher监听
    • 写请求:向比自己序号小的最近一个节点注册Watcher监听
分布式队列
  • FIFO先入先出队列:共享锁的实现
  • Barrier分布式屏障:对子节点列表变更添加Watcher监听,个数到达N值后,开始业务处理,否则需要进入等待
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,080评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,422评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,630评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,554评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,662评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,856评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,014评论 3 408
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,752评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,212评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,541评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,687评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,347评论 4 331
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,973评论 3 315
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,777评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,006评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,406评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,576评论 2 349

推荐阅读更多精彩内容