RocketMQ分布式集群是通过Broker节点的Master和Slave配合达到高可用性的。
Master和Slave的区别:在Broker的配置文件中,参数 brokerId的值为0表明这个Broker是Master,大于0表明这个Broker是 Slave,同时brokerRole参数也会说明这个Broker是Master还是Slave。
Master角色的Broker支持读和写,Slave角色的Broker仅支持读,也就是Producer只能和Master角色的Broker连接写入消息;Consumer可以连接 Master角色的Broker,也可以连接Slave角色的Broker来读取消息。
PS:Master和Slave的职责没什么好说的,实际上所有的产品,Master一般都支持读和写,而Slave只支持读。比如我们在《Redis:主从复制》和《Redis:集群》中提到的Redis主节点和Redis从节点其实也是这样的职责划分。
1. 消息消费高可用
在Consumer的配置文件中,并不需要设置是从Master读还是从Slave 读,当Master不可用或者繁忙的时候,Consumer会被自动切换到从Slave 读。有了自动切换Consumer这种机制,当一个Master角色的机器出现故障后,Consumer仍然可以从Slave读取消息,不影响Consumer程序。这就达到了消费端的高可用性。
2. 消息发送高可用
在创建Topic的时候,把Topic的多个Message Queue创建在多个Broker组上(相同Broker名称,不同 brokerId的机器组成一个Broker组),这样当一个Broker组的Master不可用后,其他组的Master仍然可用,Producer仍然可以发送消息。 RocketMQ目前还不支持把Slave自动转成Master,如果机器资源不足, 需要把Slave转成Master,则要手动停止Slave角色的Broker,更改配置文 件,用新的配置文件启动Broker。
3. 消息主从复制
如果一个Broker组有Master和Slave,消息需要从Master复制到Slave上,有同步和异步两种复制方式。
3.1 同步复制
同步复制方式是等Master和Slave均写成功后才反馈给客户端写成功状态。
在同步复制方式下,如果Master出故障, Slave上有全部的备份数据,容易恢复,但是同步复制会增大数据写入 延迟,降低系统吞吐量。
3.2 异步复制
异步复制方式是只要Master写成功即可反馈给客户端写成功状态。
在异步复制方式下,系统拥有较低的延迟和较高的吞吐量,但是如果Master出了故障,有些数据因为没有被写 入Slave,有可能会丢失。
3.3 配置
同步复制和异步复制是通过Broker配置文件里的brokerRole参数进行设置的,这个参数可以被设置成ASYNC_MASTER
、 SYNC_MASTER
、SLAVE
三个值中的一个。
3.4 刷盘和复制
实际应用中要结合业务场景,合理设置刷盘方式和主从复制方式, 尤其是SYNC_FLUSH
方式,由于频繁地触发磁盘写动作,会明显降低性能。通常情况下,应该把Master和Slave配置成ASYNC_FLUSH
的刷盘方式,主从之间配置成SYNC_MASTER
的复制方式,这样即使有一台机器出故障,仍然能保证数据不丢。
PS:还记得Redis的主从复制吗?如果不记得可以参考《Redis:主从复制》哦。