对大多数高并发架构而言，缓存是不可或缺的。在数据持久化层，其核心是保证数据一致性，而吞吐能力往往较弱。而在缓存层，因其逻辑简单，则具备较高的吞吐能力，但为了保证数据的时效性，则必须设置缓存的过期时间。在缓存过期后，程序会从持久化层读取数据，填充缓存。我们通常称这种缓存加载方式为懒加载（lazy load）。
在缓存失效的瞬间，如果突然爆发大量缓存请求，则会导致所有请求穿透至持久化层，给持久化层带来巨大压力，这种现象叫做缓存雪崩。
缓存雪崩
解决缓存雪崩的几种方案
- 在预加载时设置锁状态。后至的缓存请求，将获得锁状态，在一段时间后重试加载缓存。但这一方法不能保证第一时间返回数据。
穿透锁
def lazyload(key):
value = cache.get(key)
if(!value):
cache.set(key, '__lock__')
value = db.get(key)
cache.set(key, value)
if(value == '__lock__'):
sleep(100)
return lazyload(key)
return value
- 这里重点介绍的Promise解决缓存穿透的思路，这种方法将使同一进程内对同一缓存的访问进行汇总，不仅减少对持久层的缓存穿透，而且也可以降低对缓存层的请求量。拥有极强的汇聚效果。
Promise解决缓存雪崩
def _lazyload(key):
value = cache.get(key)
if(!value):
value = db.get(key)
cache.set(key, value)
promiseMap = {}
def lazyload(key):
def clearPromiseMap:
delete promiseMap[key]
promise = promiseMap[key]
if(!promise):
promise = Promise(_lazyload, key)
promise.then(clearPromiseMap)
promiseMap[key] = promise
return promise.resolve()
本文所有代码为伪代码！
