21:Redis 集群

1、简述redis集群的实现原理

在哨兵sentinel机制中,可以解决redis高可用问题,即当master故障后可以自动将slave提升为master,从而可以保证redis服务的正常使用,但是无法解决redis单机写入的瓶颈问题,即单机redis写入性能受限于单机的内存大小、并发数量、网卡速率等因素。
为了解决单机性能的瓶颈,提高Redis 性能,可以使用分布式集群的解决方案

redis 3.0版本之后推出了无中心架构的redis cluster机制,在无中心的redis集群当中,其每个节点保存当前节点数据和整个集群状态,每个节点都和其他所有节点连接
Redis Cluster特点如下:

  1. 所有Redis节点使用(PING机制)互联
  2. 集群中某个节点的是否失效,是由整个集群中超过半数的节点监测都失效,才能算真正的失效
  3. 客户端不需要proxy即可直接连接redis,应用程序中需要配置有全部的redis服务器IP
  4. redis cluster把所有的redis node 平均映射到 0-16383个槽位(slot)上,读写需要到指定的redis node上进行操作,因此有多少个redis node相当于redis 并发扩展了多少倍,每个redis node 承担16384/N个槽位
  5. Redis cluster预先分配16384个(slot)槽位,当需要在redis集群中写入一个key -value的时候,会使用CRC16(key) mod 16384之后的值,决定将key写入值哪一个槽位从而决定写入哪一个Redis节点上,从而有效解决单机瓶颈。

2、基于redis5的redis cluster部署

1. 创建 redis cluster集群的环境准备

  • 每个redis 节点采用相同的redis版本、相同的密码、硬件配置
  • 所有redis服务器必须没有任何数据
  • 准备六台主机,地址如下:
10.0.0.7
10.0.0.17
10.0.0.27
10.0.0.37
10.0.0.47
10.0.0.57

2. 启用 redis cluster 配置

6个主机都执行以下配置

[root@centos7 ~]#yum -y install redis    #或编译安装redis(脚本)
  • 每个节点修改redis配置,必须开启cluster功能的参数
#手动修改配置文件
[root@node1 ~]# vim /apps/redis/etc/redis.conf
bind 0.0.0.0
masterauth 123456  #建议配置,否则后期的master和slave主从复制无法成功,还需再配置
requirepass 123456
cluster-enabled yes #取消此行注释,必须开启集群,开启后redis 进程会有cluster标识
cluster-config-file nodes-6379.conf #取消此行注释,此为集群状态文件,记录主从关系及slot范围信息,由redis cluster 集群自动创建和维护
cluster-require-full-coverage no #默认值为yes,设为no可以防止一个节点不可用导致整个cluster不可用

#或者执行下面命令,批量修改
[root@node1 ~]# sed -i.bak -e 's/bind 127.0.0.1/bind 0.0.0.0/' -e '/masterauth/a
masterauth 123456' -e '/# requirepass/a requirepass 123456' -e '/# cluster-
enabled yes/a cluster-enabled yes' -e '/# cluster-config-file nodes-6379.conf/a
cluster-config-file nodes-6379.conf' -e '/cluster-require-full-coverage yes/c
cluster-require-full-coverage no' /apps/redis/etc/redis.conf

[root@node1 ~]# systemctl enable --now redis
  • 验证当前Redis服务状态:
#开启了16379的cluster的端口,实际的端口=redis port + 10000
[root@node1 ~]# ss -ntl     #*:16379端口打开

#注意进程有[cluster]状态
[root@node1 ~]# ps aux | grep redis

3. 创建集群

#命令redis-cli的选项 --cluster-replicas 1 表示每个master对应一个slave节点
[root@node1 ~]# redis-cli -a 123456 --cluster create 10.0.0.7:6379 10.0.0.17:6379 10.0.0.27:6379 10.0.0.37:6379 10.0.0.47:6379 10.0.0.57:6379 --cluster-replicas 1

4. 查看主从状态

[root@node1 ~]# redis-cli -a 123456 INFO replication

5. 验证集群状态

[root@node1 ~]# redis-cli -a 123456 CLUSTER INFO

#查看任意节点的集群状态
[root@node1 ~]# redis-cli -a 123456 --cluster info 10.0.0.37:6379

6. 查看集群node对应关系

[root@node1 ~]# redis-cli -a 123456 CLUSTER NODES

7. 验证集群写入key

#使用选项-c 以集群模式连接
[root@node1 ~]# redis-cli -c -a 123456 --no-auth-warning
127.0.0.1:6379> set age 20
OK
127.0.0.1:6379> get age
"20"
127.0.0.1:6379> set class M47
-> Redirected to slot [7755] located at 10.0.0.17:6379
OK
10.0.0.17:6379> get class
"M47"

8. python脚本实现RedisCluster集群写入

官网:https://github.com/Grokzen/redis-py-cluster
范例:

[root@node1 ~]# yum -y install python3
[root@node1 ~]# pip3 install redis-py-cluster
[root@node1 ~]# vim redis_cluster_test.py
#!/usr/bin/env python3
from rediscluster import RedisCluster
startup_nodes = [
{"host":"10.0.0.7", "port":6379},
{"host":"10.0.0.17", "port":6379},
{"host":"10.0.0.27", "port":6379},
{"host":"10.0.0.37", "port":6379},
{"host":"10.0.0.47", "port":6379},
{"host":"10.0.0.57", "port":6379},
]
redis_conn= RedisCluster(startup_nodes=startup_nodes,password='123456',decode_responses=True)

for i in range(0, 10000):
redis_conn.set('key'+str(i),'value'+str(i))
print('key'+str(i)+':',redis_conn.get('key'+str(i)))

[root@node1 ~]# chmod +x redis_cluster_test.py
[root@node1 ~]# ./redis_cluster_test.py
......
key9998: value9998
key9999: value9999

#验证数据
[root@node1 ~]# redis-cli -a 123456
127.0.0.1:6379> dbsize
(integer) 3331
#第一个槽位内key的数量
[root@node1 ~]# redis-cli -a 123456 cluster countkeysinslot 1   
(integer) 0
[root@node1 ~]# redis-cli -a 123456 cluster countkeysinslot 2
(integer) 0
[root@node1 ~]# redis-cli -a 123456 cluster countkeysinslot 3
(integer) 1

9. 模拟master故障,对应的slave节点自动提升为新master

#模拟node1节点出故障,需要相应的数秒故障转移时间
[root@node1 ~]# redis-cli -a 123456 shutdown     #10.0.0.7主节点宕机
[root@node1 ~]# ss -ntl    #6379端口关闭

[root@node2 ~]# redis-cli -a 123456 cluster nodes   #10.0.0.47为新的master

#恢复故障节点node1自动成为slave节点
[root@node1 ~]# systemctl start redis

#查看自动生成的配置文件,可以查看node1自动成为slave节点
[root@node5 ~]# redis-cli -a 123456 
127.0.0.1:6379> INFO replication
# Replication
role:master
connected_slaves:1
slave0:ip=10.0.0.7,port=6379,state=online,offset=2912564,lag=1
……
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容