关于缓存击穿、缓存雪崩、缓存穿透

设计一个缓存系统,不得不要考虑的问题就是:缓存穿透、缓存击穿与失效时的雪崩效应。

缓存穿透

缓存穿透是指查询一个在DB中根本不存在的key,由于缓存一般是不命中时被动写入的,如果从存储层查不到数据是不写入缓存,这将导致这个不存在的数据请求每次都要请求到存储层,失去了缓存的意义,流量大的时候,可能会导致DB宕机。

解决方案

1、采用布隆过滤器,将所有可能存在的数据哈希到一个足够大的bitmap中,请求到来的时候先从这个bitmap过滤请求key,如果key不存在就会被这个bitmap过滤掉,从而避免了对底层存储系统的查询压力,

2、缓存空对象,对一个key如果查询数据不存在,则仍然在缓存中存储这个key,value为空对象,并且设一个比较短的过期时间

缓存雪崩

缓存雪崩是指我们为key设置了相同的缓存过期时间,导致缓存在某一个时刻同时失效,请求全部转发到DB,DB瞬时压力过重雪崩

解决方案

缓存失效时的雪崩效应对底层系统的冲击是非常可怕的,大多数系统设计者考虑使用加锁或者队列的方式保证缓存的单线程读写,从而避免缓存失效期间大量的并发请求落到底层存储系统上。

1、加锁限流:加锁控制对db的请求数量

2、将缓存失效时间分散开,可以在原有的失效时间基础上增加一个随机值,这样每一个缓存的过期时间的重复率就会变低,避免集体失效的事件。

缓存击穿

对一些设置了过期时间的key,如果这些可以在某个时间点被高并发访问,是一种非常热点的数据,这时候如果这些缓存被击穿,这个和缓存雪崩的区别就是这里是针对某一个key的缓存,缓存雪崩式针对很对key

缓存在某个时间点过期的时候,恰好在这个时间点对这个Key有大量的并发请求过来,这些请求发现缓存过期一般都会从后端DB加载数据并回设到缓存,这个时候大并发的请求可能会瞬间把后端DB压垮。

解决方案:

1、永不过期

2、使用互斥锁(mutex key): 这种解决方案思路比较简单,就是只让一个线程构建缓存,其他线程等待构建缓存的线程执行完,重新从缓存获取数据就可以了

参考:https://www.cnblogs.com/raichen/p/7750165.html

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章