RabbitMQ镜像模式集群可用性测试总结

由于业务的需要用到队列,并保证队列的高可用性,我们选择了RabbitMQ的镜像集群模式。这种集群模式在队列节点宕机或故障时也能正常使用,因为它支持复制队列内容到集群里的每个节点。

OK,关于RabbitMQ的基本知识就不在这里普及了,直接看我们总结的需要关注的几个可用性测试点:

1. 在集群工作中如果一个或几个节点宕机会不会导致队列数据的丢失?

2. DISC的节点可以在其宕机重启后保存队列数据吗?

3. RAM和DISC模式的速度差有多大?有没有必要所有节点都采用DISC模式?

4. 影响上游生产者和下游消费者的发送和接收的情况会有哪些?何时会导致连接问题?


有了以上的问题,我们就可以部署我们的测试了,首先当然是集群环境搭建,这里不会花篇幅在搭建上,网上的例子很多,比如:环境搭建 

我们测试用会有三台机器,1台为DISC模式(磁盘),另外两台为RAM模式(内存)。在完成了环境搭建后,我们的集群应该满足下列的条件:

a. 在3台物理机的控制台分别输入rabbitmqctl cluster_status后:

可以看到三个控制台的输出都是差不多的,而且一台为disc模式:rabbit@7-2;另外两台是ram模式:rabbit@7-3和rabbit@7-15

b. 分别打开三个RabbitMQ的网页管理端并创建和配置vHost,Queue,Policy等(具体步骤省略,可参考上面环境配置网页),展示为:

Overview页面(显示的集群中各节点的状态都是正确的)

Queue页面(我们可以看到在Node项下有一个“+2”,表示集群还有两个节点和本节点是镜像同步模式)

满足了上面的条件,我们就可以开始测试集群了。

1. 在集群工作中如果一个或几个节点宕机会不会导致队列数据的丢失?

我们可以先往某一个队列里写1000个数据:

然后查看3个RabbitMQ的网页管理端的Queue页面,Messages里面Ready的数据为1000个:

通过查询3个RabbitMQ的网页管理端的Queue页面,可以看到3个端中Queue页面的数据都是一样的(如上图),全部都是有1000个数据,单从页面上看,几个节点应该是完成了数据的镜像复制,就是说现在任何一个节点或者多个节点宕机,只要还剩一个节点存活,我们的数据就还是可以被消费了,那好,我们就关掉两台节点:rabbit@7-3和rabbit@7-15

ps:关掉节点的语句是 rabbitmqctl stop_app

两个节点关闭后么可以看到网页管理端的Queue页面的变化:

可以看到,Node里面的“+2”标志消失了,代表现在集群中只有一个节点rabbit@7-2了;从图上也可以看到,Messages里面的消息数量还是1000没有变,我们现在就写个消费者获取下,看看是不是能够获得这1000个消息数据。

通过试验,我们发现发送的1000个消息都可以收到,所以,在集群工作中如果一个或几个节点宕机是不会导致队列数据的丢失的。

2. DISC的节点可以在其宕机重启后保存队列数据吗?

我们搭建的集群的DISC节点是rabbit@7-2,那我们就针对它进行这个测试。

还是先发送1000个消息给集群:

确认将三个节点全部挂掉(没有running nodes):

确认后将三个节点打开并通过网页管理端的Queue页面查看:

可以看到,消息还是1000个,没有丢。但是有个细节,Node下面有了些变化。有了一个红色的“+2”出现,它的意思是现在集群中有两个节点(rabbit@7-3和rabbit@7-15)还没有实现镜像同步,因为之前有1000个消息它们两个节点不知道(因为是RAM的,重启后就消失了)。但是我们可以从rabbit@7-3和rabbit@7-15获得这1000个消息吗?试试看的结果是:可以!

消息都消费完后,网页管理端的Queue页面变为了:

3. RAM和DISC模式的速度差有多大?有没有必要所有节点都采用DISC模式?

为了测试这个,我们单独选出来了两个Node进行点对点的测试:rabbit@7-3(RAM)和rabbit@7-2(RAM),并采用1000/s的频率发送消息,计算速度的方式为:AVERAGE(消费者接收到消息的时间 - 生产者发送消息的时间)

将生产者和消费者程序中的Node节点统一变为rabbit@7-2的IP后,先打开消费者,再打开生产者,此种情况下计算出的消息速度为:8.33ms

将生产者和消费者程序中的Node节点统一变为rabbit@7-3的IP后,先打开消费者,再打开生产者,此种情况下计算出的消息速度为:3.36ms

可以看到,RAM节点的消息速度比DISC的速度快2.5~3倍。而且随着发送频率的增加,这个速度差距会越来越大。所以,在实际应用中,如果对消息的速度要求很高,建议还是以RAM节点为主。

4. 影响上游生产者和下游消费者的发送和接收的情况会有哪些?何时会导致连接问题?

其实,影响生产者和消费者发送和接收消息的情况很多,根据我们之前做的测试,RabbitMQ集群中只要不是全部节点全挂掉,我们就不会停止传输消息。但这并不意味着你的系统就完全的高枕无忧了,因为你如何和RabbitMQ集群连接是个关键问题,比如如果在程序中写死了连接的节点IP,这个节点挂掉的话那就是连不上了,集群也无能为力。

目前应该有两个可行的方法使集群起到作用:

1. 在集群前端加一个LB,统一为一个IP和端口,负载均衡和节点轮询全都交给它就好了,但是要注意DISC的分配问题,不使用或优先级降低。

2. 自己的程序实现节点轮询。这个需要程序人员自己写了,来实现上述LB的功能。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,937评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,503评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,712评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,668评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,677评论 5 366
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,601评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,975评论 3 396
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,637评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,881评论 1 298
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,621评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,710评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,387评论 4 319
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,971评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,947评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,189评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,805评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,449评论 2 342

推荐阅读更多精彩内容

  • 整体架构 部署步骤 基于 Docker 基本概念内存节点只保存状态到内存,例外情况是:持久的 queue 的内容将...
    mvictor阅读 12,741评论 5 30
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,591评论 18 139
  • Yum安装RabbitMQ3.6.11与Erlange20配置及优化 RabbitMQ简介 AMQP,即Advan...
    三杯水Plus阅读 4,530评论 0 7
  • rabbitmq有3种模式,集群模式2种• 单机模式:即单机情况不做集群,就单独运行一个rabbitmq而已。...
    嗷大彬彬阅读 4,007评论 1 9
  • 来源 RabbitMQ是用Erlang实现的一个高并发高可靠AMQP消息队列服务器。支持消息的持久化、事务、拥塞控...
    jiangmo阅读 10,343评论 2 34