兰亭集势网站模板,page 编辑 wordpress,小程序网站模板,网站按内容分可以分为多级缓存架构 缓存设计 缓存穿透 缓存穿透是指查询一个根本不存在的数据#xff0c; 缓存层和存储层都不会命中#xff0c; 通常出于容错的考虑#xff0c; 如果从存储层查不到数据则不写入缓存层。 缓存穿透将导致不存在的数据每次请求都要到存储层去查询#xff0c; 失… 多级缓存架构 缓存设计 缓存穿透 缓存穿透是指查询一个根本不存在的数据 缓存层和存储层都不会命中 通常出于容错的考虑 如果从存储层查不到数据则不写入缓存层。 缓存穿透将导致不存在的数据每次请求都要到存储层去查询 失去了缓存保护后端存储的意义。 造成缓存穿透的基本原因有两个 第一 自身业务代码或者数据出现问题。 第二 一些恶意攻击、 爬虫等造成大量空命中。 缓存穿透问题解决方案 1、缓存空对象 2、布隆过滤器 对于恶意攻击向服务器请求大量不存在的数据造成的缓存穿透还可以用布隆过滤器先做一次过滤对于不存在的数据布隆过滤器一般都能够过滤掉不让请求再往后端发送。当布隆过滤器说某个值存在时这个值可 能不存在当它说不存在时那就肯定不存在。 布隆过滤器就是 一个大型的位数组和几个不一样的无偏 hash 函数 。所谓无偏就是能够把元素的 hash 值算得比较均匀。 向布隆过滤器中添加 key 时会使用多个 hash 函数对 key 进行 hash 算得一个整数索引值然后对位数组长度进行取模运算得到一个位置每个 hash 函数都会算得一个不同的位置。再把位数组的这几个位置都置为 1 就完成了 add 操作。 向布隆过滤器询问 key 是否存在时跟 add 一样也会把 hash 的几个位置都算出来看看位数组中这几个位置是否都为 1只要有一个位为 0那么说明布隆过滤器中这个key 不存在。如果都是 1这并不能说明这个key 就一定存在只是极有可能存在因为这些位被置为 1 可能是因为其它的 key 存在所致。如果这个位数组比较稀疏这个概率就会很大如果这个位数组比较拥挤这个概率就会降低。 这种方法适用于数据命中不高、 数据相对固定、 实时性低通常是数据集较大 的应用场景 代码维护较为复杂 但是缓存空间占用很少 。 可以用redisson实现布隆过滤器引入依赖 示例伪代码 使用布隆过滤器需要把所有数据提前放入布隆过滤器并且在增加数据时也要往布隆过滤器里放布隆过滤器缓存过滤伪代码 注意布隆过滤器不能删除数据如果要删除得重新初始化数据。 缓存失效(击穿) 由于大批量缓存在同一时间失效可能导致大量请求同时穿透缓存直达数据库可能会造成数据库瞬间压力过大甚至挂掉对于这种情况我们在批量增加缓存时最好将这一批数据的缓存过期时间设置为一个时间段内的不同时间。 示例伪代码 缓存雪崩 缓存雪崩指的是缓存层支撑不住或宕掉后 流量会像奔逃的野牛一样 打向后端存储层。 由于缓存层承载着大量请求 有效地保护了存储层 但是如果缓存层由于某些原因不能提供服务(比如超大并发过来缓存层支撑不住或者由于缓存设计不好类似大量请求访问bigkey导致缓存能支撑的并发急剧下降) 于是大量请求都会打到存储层 存储层的调用量会暴增 造成存储层也会级联宕机的情况。预防和解决缓存雪崩问题 可以从以下三个方面进行着手。 1 保证缓存层服务高可用性比如使用Redis Sentinel或Redis Cluster。 2 依赖隔离组件为后端限流熔断并降级。比如使用Sentinel或Hystrix限流降级组件。 比如服务降级我们可以针对不同的数据采取不同的处理方式。当业务应用访问的是非核心数据例如电商商品属性用户信息等时暂时停止从缓存中查询这些数据而是直接返回预定义的默认降级信息、空值或是错误提示信息当业务应用访问的是核心数据例如电商商品库存时仍然允许查询缓存如果缓存缺失也可以继续通过数据库读取。 3 提前演练。 在项目上线前 演练缓存层宕掉后 应用以及后端的负载情况以及可能出现的问题 在此基础上做一些预案设定。 热点缓存key重建优化 开发人员使用“缓存过期时间”的策略既可以加速数据读写 又保证数据的定期更新 这种模式基本能够满足绝大部分需求。 但是有两个问题如果同时出现 可能就会对应用造成致命的危害 ·当前key是一个热点key例如一个热门的娱乐新闻并发量非常大。 ·重建缓存不能在短时间完成 可能是一个复杂计算 例如复杂的SQL、 多次IO、 多个依赖等。 在缓存失效的瞬间 有大量线程来重建缓存 造成后端负载加大 甚至可能会让应用崩溃。 要解决这个问题主要就是要避免大量线程同时重建缓存。 我们可以利用互斥锁来解决此方法只允许一个线程重建缓存 其他线程等待重建缓存的线程执行完 重新从缓存获取数据即可。 示例伪代码 缓存与数据库双写不一致 在大并发下同时操作数据库与缓存会存在数据不一致性问题 1、双写不一致情况 2、读写并发不一致 解决方案 1、对于并发几率很小的数据(如个人维度的订单数据、用户数据等)这种几乎不用考虑这个问题很少会发生缓存不一致可以给缓存数据加上过期时间每隔一段时间触发读的主动更新即可。 2、就算并发很高如果业务上能容忍短时间的缓存数据不一致(如商品名称商品分类菜单等)缓存加上过期时间依然可以解决大部分业务对于缓存的要求。 3、如果不能容忍缓存数据不一致可以通过加 分布式读写锁 保证并发读写或写写的时候按顺序排好队 读读的 时候相当于无锁 。 4、也可以用阿里开源的canal通过监听数据库的binlog日志及时的去修改缓存但是引入了新的中间件增加了系统的复杂度。 总结 以上我们针对的都是 读多写少 的情况加入缓存提高性能如果 写多读多 的情况又不能容忍缓存数据不一致那就没必要加缓存了可以直接操作数据库。当然如果数据库抗不住压力还可以把缓存作为数据读写的主存储异步将数据同步到数据库数据库只是作为数据的备份。 放入缓存的数据应该是对实时性、一致性要求不是很高的数据。切记不要为了用缓存同时又要保证绝对的一致性做大量的过度设计和控制增加系统复杂性
