缓存穿透
原理
缓存穿透是查询一个在缓存中不存在的key。出于容错考虑,如果数据库查不到,则缓存不会保存这个key。这将导致这个不存在的数据在每次请求都要到存储曾去查询,在流量大的时候就会有太多请求落到数据库上,失去了缓存的意义。
解决方案
- 使用布隆过滤器
基本原理就是将所有可能的key保存起来,每次缓存落空时去查询这个key是否存在,不存在就拒绝此次查询。从而避免了数据库的访问压力。 - 保存null值key
这个方法是十分的简单粗暴:如果查询到一个key为空,我们仍然会保存这个key,但是这个key会拥有更短的过期时间。
缓存雪崩
原理
简单来说,缓存雪崩是在原有缓存失效,新缓存未到期间,大量本该命中缓存的请求落到数据库上,从而对CPU和数据库造成巨大的压力,有可能导致数据库宕机而导致崩溃。
可以想象,瞬间大量的请求涌入对系统冲击非常大,解决这个问题的思路如下:
- 合理使用锁或者队列
在缓存未命中而去查询数据库时,先对这个key加锁,如果加锁失败,这时候可能已经有别的线程已经在查询数据库,再去查询缓存,如此循环。
这种方式可以在一定程度上缓解雪崩时数据的压力,但是会降低系统吞吐量。- 必要情况下可以放弃一部分请求。
- 给缓存的过期时间加上随机值,确保不会同一时间太多key失效
- 构建高可用缓存服务集群