一、Redis 管道技术
1.1 背景
想象一下,现在需要向 Redis 中添加大量的 KV 对,可以通过直接调用大量的 set 命令来完成,比如:
127.0.0.1:6379> SET Key0 Value0
127.0.0.1:6379> SET Key1 Value1
......
127.0.0.1:6379> SET KeyN ValueN
然而这种方法存在一个问题:
Redis-server 在处理每个 command 时,都存在一个 round-trip,所以如果每个 command 都单独传送的话必定会产生大量的 round-trip
,这极大地影响了Redis 性能。
通过管道技术就可以避免上述问题。管道技术通过如下方式来实现:
将多个 Redis 命令进行"打包"
,然后通过管道一同发送给 Redis-server,然后一同得到响应结果,以提升 Redis 处理效率。
客户端向服务端发送一个查询请求,并监听Socket返回,通常是以阻塞模式,等待服务端响应。这个过程如同tcp的调用同步化(异步阻塞),管道就是为了优化这种情况
注意:RTT(Round-Trip Time): 往返时延
。在计算机网络中它是一个重要的性能指标,表示从发送端发送数据开始,到发送端收到来自接收端的确认(接收端收到数据后便立即发送确认),总共经历的时延。
管道命令:redis-cli --pipe
。
1.2 举例
使用 Redis 管道 pipe 的常用步骤:
- 将要执行的
所有命令写入一个 txt 文件
; - 将 txt 文件中的
命令塞入管道 pipe
; - 等待处理结果。
$ cat data.txt
SET Key0 Value0
SET Key1 Value1
SET KeyN ValueN
# 在 shell 中执行命令
cat data.txt | redis-cli --pipe
# 命令执行结束后会打印如下信息:
All data transferred. Waiting for the last reply...
Last reply received from server.
errors: 0, replies: 3
Redis 中查看执行结果:
127.0.0.1:6379> keys *
1) "Key1"
2) "Key0"
3) "KeyN"
二、Redis 事务和管道的区别
Redis 中的事务和 Oracle 中的类似,具有原子性(要么彻底完成,要么不做)和顺序性(按命令请求的先后顺序执行)。
Redis 中事务和管道的主要区别在于:
- 管道:
client 端行为
,将多个命令打包一同(而不是先发一个,再接着发下一个命令)发给 server端
,并监听 Socket 返回,通常以阻塞形式等待服务器处理结果;pipe 中的命令一旦到达server根据顺序就会被立即执行; - 事务:
server 端行为
,是指 server 对于client 发过来的多个请求命令进行批处理。以multi
命令开启事务,接着逐个接收来自 client 端的命令(放入队列queue
中),server 会等待
直至使用命令exec
,才 开始批处理这段时间区间内所接收的所有命令。
Redis 事务举例:
127.0.0.1:6379> multi
OK
127.0.0.1:6379> set k1 v1
QUEUED
127.0.0.1:6379> set k2 v2
QUEUED
127.0.0.1:6379> set k3 v3
QUEUED
127.0.0.1:6379> exec
1) OK
2) OK
3) OK
127.0.0.1:6379> keys *
1) "Key1"
2) "Key0"
3) "KeyN"
4) "k1"
5) "k3"
6) "k2"
三、Redis 分布式锁
首先需要明白这里的“锁”,并不是真正意义上的锁
。Redis 的 setnx
命令具有如下作用:
- 当 key 存在时,返回 0,不更新其 value;
- 当 key 不存在时,插入 key-vlaue。
先拿· setnx 来争抢锁,抢到之后,再用
expire给锁加一个过期时间防止锁忘记了释放。 这时候对方会告诉你说你回答得不错,然后接着问如果在 setnx 之后执行 expire 之前进程意外crash或者要重启维护了,那会怎么样? 这时候你要给予惊讶的反馈:唉,是喔,这个
锁就永远得不到释放了。紧接着你需要抓一抓自己得脑袋,故作思考片刻,好像接下来的结果是你主动思考出来的,然后回答:我记得
set指令有非常复杂的参数,这个应该是可以同时
把setnx和expire合成一条指令来用`的!对方这时会显露笑容,心里开始默念:摁,这小子还不错。
jedis.set(String key, String value, String nx, String expx, int time),这个set()方法一共有五个形参:
第一个为key,我们使用key来当锁,因为key是唯一的。
第二个为value,我们传的是requestId,很多童鞋可能不明白,有key作为锁不就够了吗,为什么还要用到value?原因就是我们在上面讲到可靠性时,分布式锁要满足第四个条件解铃还须系铃人,通过给value赋值为requestId,我们就知道这把锁是哪个请求加的了,在解锁的时候就可以有依据。requestId可以使用UUID.randomUUID().toString()方法生成。
第三个为nx,这个参数我们填的是NX,意思是SET IF NOT EXIST
,即当key不存在时,我们进行set操作;若key已经存在,则不做任何操作;
第四个为expx,这个参数我们传的是PX,意思是我们要给这个key加一个过期的设置,具体时间由第五个参数决定。
第五个为time,与第四个参数相呼应,代表key的过期时间。
四、分区
分区的目的是让多个 Redis 实例能够同时各自处理一份大数据中的分块(通过增加机器、内存),从而提高Redis的处理性能。分为:
- 范围分区;
- 哈希分区;
4.1 范围分区
映射一定范围的对象到特定的Redis实例。比如,ID从0到10000的用户会保存到实例R0,ID从10001到 20000的用户会保存到R1,以此类推。
这种方式是可行的,并且在实际中使用,不足就是要有一个区间范围到实例的映射表。这个表要被管理,同时还需要各 种对象的映射表,通常对Redis来说并非是好的方法。
4.2 哈希分区
- 用一个 hash 函数将 key 转换为一个数字;
- 对这个整数取模,将其转化为 0-num 之间的数字(其中 num+1 是 redis 实例数或者分区数);
即 hash(key) % num。
五、Redis 集群、分区和哨兵的关系
Redis Sentinal着眼于高可用,在master宕机时会自动将slave提升为master,继续提供服务。
Redis Cluster着眼于扩展性,在单个redis内存不足时,使用Cluster进行分片存储。
https://www.cnblogs.com/silyvin/p/11559433.html
https://redis.io/topics/mass-insert
https://www.jianshu.com/p/84b655a55bf5
https://blog.csdn.net/weixin_42740530/article/details/100940519