mysql数据库和redis双写不一致方案讨论 ,如何保证数据库和缓存双写一致性?
缓存和数据库之间所有的策略关系如下:
在高并发应用场景下,如果是对数据一致性要求高的情况下,要定位好导致数据和缓存不一致的原因。
解决高并发场景下数据一致性的方案有两种,分别是延时双删策略和异步更新缓存两种方案。
另外,设置缓存的过期时间是保证数据保持一致性的关键操作,需要结合业务进行合理的设置。
第一种:延时双删
一、先删除缓存,再更新数据库
1.如果先删除Redis缓存数据,然而还没有来得及写入MySQL,另一个线程就来读取。发现缓存为空,则去Mysql数据库中
读取旧数据写入缓存,次实缓存数据为脏数据,然后更新数据库后,发现Redis和Mysql数据不一致
一、先更新数据库,再删除缓存
1.如果先更新数据库,但是写库成功,此时线程挂掉了,导致删除缓存失败,这个时候其他线程读取数据库就是旧数据库
因为写和读是并发的,没法保证顺序,就会出现缓存和数据库的数据不一致的问题
解决方案:延时双删
[在写库前后都进行redis.del(key)操作,并且设定合理的超时时间
public void write (String key, Object data ){
redis.delKey(key);
db.updateData(data);
Thread.sleep(500);
redis.delKey(key);
}
具体步骤
1、先删除缓存
2、再写数据库
3、休眠500毫秒
4、再次删除缓存
问题:这个500毫秒怎么确定的,具体该休眠多久时间呢?
1、需要评估自己的项目的读数据业务逻辑的耗时。
2、这么做的目的,就是确保读请求结束,写请求可以删除读请求造成的缓存脏数据。
3、当然这种策略还要考虑redis和数据库主从同步的耗时。
4、最后的的写数据的休眠时间:则在读数据业务逻辑的耗时基础上,加几百ms即可。
比如:休眠1秒。
设置缓存过期时间是关键点
1、从理论上来说,给缓存设置过期时间,是保证最终一致性的解决方案
2、所有的写操作以数据库为准,只要到达缓存过期时间,缓存删除
3、如果后面还有读请求的话,就会从数据库中读取新值然后回填缓存
方案缺点
结合双删策略+缓存超时设置,这样最差的情况就是:
1、在缓存过期时间内发生数据存在不一致
2、同时又增加了写请求的耗时。
第二种:异步更新缓存(基于Mysql binlog的同步机制)
整体思路
1、涉及到更新的数据操作,利用Mysql binlog 进行增量订阅消费
2、将消息发送到消息队列
3、通过消息队列消费将增量数据更新到Redis上
4、.操作情况
读取Redis缓存:热数据都在Redis上
写Mysql:增删改都是在Mysql进行操作
更新Redis数据:Mysql的数据操作都记录到binlog,通过消息队列及时更新到Redis上
Redis更新过程
数据操作主要分为两种:
1、一种是全量(将所有数据一次性写入Redis)
2、一种是增量(实时更新)
这里说的是增量,指的是mysql的update、insert、delate变更数据。
读取binlog后分析 ,利用消息队列,推送更新各台的redis缓存数据。
1、这样一旦MySQL中产生了新的写入、更新、删除等操作,就可以把binlog相关的消息推送至Redis
2、Redis再根据binlog中的记录,对Redis进行更新
3、其实这种机制,很类似MySQL的主从备份机制,因为MySQL的主备也是通过binlog来实现的数据一致性
这里的消息推送工具你也可以采用别的第三方:kafka、rabbitMQ等来实现推送更新Redis!
以下是具体问题分析:
1.先更新数据库,再更新缓存(一般不使用)
解释:如果缓存数据不是直接从数据库中查询出来的,而是需要经过一系列的运算,这样更新缓存的代价很高,如果此时有很多请求对数据库进行 写数据的操作但是读请求并不多,那么此时如果每次写请求都更新一下缓存,那么性能损耗是非常大的,如果读多写多则更不可取,可能出现数据不一致的情况
2.先更新数据库,再删除缓存问题(可以将删除的任务放入MQ)
解释:这一种情况也会出现问题,比如更新数据库成功了,但是在删除缓存的阶段出错了没有删除成功,那么此时再读取缓存的时候每次都是错误的数据了。
3.先更新缓存,再更新数据库(一般不使用)
解释:这种情况与第一种类似,所有缓存更新的操作都是不可取的,同时面临突然很多写请求很多时,缓存更新性能消耗代价太高同时可能造成数据不一致
4.先删除缓存,再更新数据库(删除缓存失败问题,延时双删)
先删除缓存,再更新数据库
此时来了两个请求,请求 A(更新操作) 和请求 B(查询操作)请求 A 会先删除 Redis 中的数据,然后去数据库进行更新操作此时请求 B 看到 Redis 中的数据时空的,会去数据库中查询该值,补录到 Redis 中但是此时请求 A 并没有更新成功,或者事务还未提交
先删除缓存,再更新数据库问题解决方案:延时双删
数据不一致最关键的点:就是更新操作的执行流程提交事务过程中,是否有查询请求,抢先执行完毕的情况,过程中也可以强制加锁,保证更新操作完成,才能进行数据查询
先删除缓存,再更新数据库解决方案:延时双删,Mysql读写分离架构延时问题
问题延伸:但是上述的保证事务提交完以后再进行删除缓存还有一个问题,就是如果你使用的是 Mysql 的读写分离的架构的话,那么主从延时问题
此时来了两个请求,请求 A(更新操作) 和请求 B(查询操作)请求 A 更新操作,删除了 Redis请求主库进行更新操作,主库与从库进行同步数据的操作请 B 查询操作,发现 Redis 中没有数据去从库中拿去数据此时同步数据还未完成,拿到的数据是旧数据
先删除缓存,再更新数据库解决方案:延时双删+读写分离架构(强制读主库)解决
先更新数据库,再删除缓存解决数据一致性方案,利用消息队列进行删除的补偿
此时解决方案就是利用消息队列进行删除的补偿。具体的业务逻辑用语言描述如下:请求 A 先对数据库进行更新操作在对 Redis 进行删除操作的时候发现报错,删除失败此时将Redis 的 key 作为消息体发送到消息队列中系统接收到消息队列发送的消息后再次对 Redis 进行删除操作但是这个方案会有一个缺点就是会对业务代码造成大量的侵入,深深的耦合在一起,所以这时会有一个优化的方案,我们知道对 Mysql 数据库更新操作后再 binlog 日志中我们都能够找到相应的操作,那么我们可以订阅 Mysql 数据库的 binlog 日志对缓存进行操作。