redis缓存穿透、击穿、雪崩
在我们日常的开发中,无不都是使用数据库来进行数据的存储,由于一般的系统任务中通常不会存在高并发的情况,所以这样看起来并没有什么问题,可是一旦涉及大数据量的需求,比如一些商品抢购的情景,或者是主页访问量瞬间较大的时候,单一使用数据库来保存数据的系统会因为面向磁盘,磁盘读/写速度比较慢的问题而存在严重的性能弊端,一瞬间成千上万的请求到来,需要系统在极短的时间内完成成千上万次的读/写操作,这个时候往往不是数据库能够承受的,极其容易造成数据库系统瘫痪,最终导致服务宕机的严重生产问题。
为了克服上述的问题,项目通常会引入NoSQL技术,这是一种基于内存的数据库,并且提供一定的持久化功能。
redis技术就是NoSQL技术中的一种,但是引入redis又有可能出现缓存穿透,缓存击穿,缓存雪崩等问题。本文就对这三种问题进行较深入剖析。
一、缓存穿透
1.1 什么是缓存穿透
缓存穿透是指查询一个根本不存在的数据,缓存层和持久层都不会命中,请求都会压到数据库,从而压垮数据库。比如用户一个不存在的用户id获取用户信息
在日常工作中出于容错的考虑,如果从持久层查不到数据则不写入缓存层,缓存穿透将导致不存在的数据每次请求都要到持久层去查询,失去了缓存保护后端持久的意义。
image-20221126150803127
1.2 缓存穿透解决方案
一个一定不存在缓存及查询不到的数据,由于缓存是不命中时被动写的,并且出于容错考虑,如果从存储层查不到数据则不写入缓存,这将导致这个不存在的数据每次请求都要到存储层去查询,失去了缓存的意义。
下面有3种方法可以有效地解决缓存穿透问题
对空值缓存:如果一个查询返回的数据为空(不管数据是否存在),我们仍然把这个空结果(null)进行缓存,设置空结果的过期时间会很短,最长不超过五分钟。
设置可访问的白名单:使用bitmaps;类型定义一个可以访问的名单,名单id作为bitmaps的偏移量,每次访问和bitmaps里面的id进行比较,如果访问id不在bitmaps里面,进行拦截,不允许访问
采用布隆过滤器:布隆过滤器(Bloom Filter)是由Howard Bloom在1970年提出的一种比较巧妙的概率型数据结构,它可以告诉你某种东西一定不存在或者可能存在。当布隆过滤器说,某种东西存在时,这种东西可能不存在;当布隆过滤器说,某种东西不存在时,那么这种东西一定不存在。 布隆过滤器相对于Set、Map 等数据结构来说,它可以更高效地插入和查询,并且占用空间更少,它也有缺点,就是判断某种东西是否存在时,可能会被误判。但是只要参数设置的合理,它的精确度也可以控制的相对精确,只会有小小的误判概率。
这里重点讲一下布隆过滤器
了解布隆过滤器的用途,下面有必须要把它的原理解释一下,不然有些读者还会继续蒙在鼓里。
布隆过滤器是一个 bit 向量或者说 bit 数组,长这样
向布隆过滤器中添加key时,会使用多个hash函数对key进行hash,算得一个整数索引值,然后对位数组进行取模运算得到一个位置,每个hash函数都会算得一个不同的位置。在把位数组的这几个位置都置为1
向布隆过滤器询问key是否存在时,也会把hash的几个位置都算出来,看看位数组中这几个位置是否都为1,只要有一个位为0,那么说明布隆过滤器中这个key不存在。如果这几个位置都是1,并不能说明这个key就一定存在,只是极有可能存在,因为这些位被置为1可能是因为其他的key存在所致。如果这个位数组比较稀疏,判断正确的概率就会很大,如果这个位数组比较拥挤,判断正确的概率就会降低。
二、缓存击穿
1.1 什么是缓存击穿
缓存击穿是指缓存中没有但数据库中有的数据(一般是缓存时间到期),这时由于并发用户特别多,同时读缓存没读到数据,又同时去数据库去取数据,引起数据库压力瞬间增大,造成过大压力(有点像一把尖刀瞬间击穿到数据库)
image-20221126151619669
比如前段时间的吴签事件,如果没有把这个词作为热点词存储到缓存中或者缓存时间到期,那么用户访问这个词时,就会通过缓存,直接访问数据库,引起数据库压力瞬间增大。
它和缓存穿透的区别在于:缓存击穿是指缓存中没有但数据库中有的数据,由于并发用户特别多,同时读缓存没读到数据,同时数据库取数据引起数据库压力瞬间增大,造成过大压力。缓存穿透是指缓存和数据库中都没有的数据,而用户不断发起请求,如发起的数据特别大而不存在的数据
1.2 缓存击穿解决方案
key可能会在某些时间点被高并发访问,是一种非常热点的数据,这个时候,需要考虑一个问题,缓存被击穿的问题
下面介绍2种方法可以有效地解决缓存击穿问题
预先设置热门数据:在redis高峰访问前,把一些热门数据提前存入redis中,加大这些热门数据key的时长实时调整 现场监控哪些数据是热门数据,实时调整key的过期时长
使用分布式锁: 就是在缓存失效的时候(判断拿出来的值为空),不是立即去查数据库,先使用缓存工具的某些带成功操作返回值的操作。比如redis的setnx去set一个mutex key,当操作返回成功时(分布式锁),在查数据库,并回设缓存,最后删除mutex key
当操作返回失败,证明有线程在查询数据库,当前线程睡眠一段时间在重s试整个get缓存的方法
三、缓存雪崩
3.1 什么是缓存雪崩
缓存雪崩是指缓存同一时间大面积的失效,所以,后面的请求都会落到数据库上,造成数据库短时间内承受大量请求而崩掉。
常见缓存雪崩出现原因:1、redis服务器挂掉了。2、对缓存数据设置了相同的过期时间,导致某时间段内缓存集中失效。
image-20221126161038150
3.2 缓存雪崩解决方案
缓存雪崩解对底层系统的冲击是非常大的:
解决方案:
构建多级缓存架构:nginx缓存+redis缓存+其他缓存(ehcache等)
使用锁或队列:使用锁或在队列的方式来保证不会有大量的线程对数据库进行读写,从而避免失效时大量的并发请求到底层存储系统上,不适用高并发情况
设置过期标志更新缓存:记录缓存数据是否过期(设置提前量),如果过期会触发通知另外的线程在后台去更新实际key的缓存
将缓存失效时间分散开:设置缓存过期时间时加上一个随机值,避免缓存在同一时间过期
相关文章:
redis缓存穿透、击穿、雪崩
在我们日常的开发中,无不都是使用数据库来进行数据的存储,由于一般的系统任务中通常不会存在高并发的情况,所以这样看起来并没有什么问题,可是一旦涉及大数据量的需求,比如一些商品抢购的情景,或者是主页访…...
什么是数字孪生?
数字孪生是指通过数字化技术手段,将现实世界中的实体物理系统或过程与其数字化模型相连接,实现实体物理系统或过程的虚拟仿真、监测、预测和优化等功能的一种技术。数字孪生技术可以将物理系统的运行状态、性能参数、故障信息等实时反馈到数字模型中&…...
【DevOps】Git 图文详解(八):后悔药 - 撤销变更
Git 图文详解(八):后悔药 - 撤销变更 1.后悔指令 🔥2.回退版本 reset3.撤销提交 revert4.checkout / reset / revert 总结 发现写错了要回退怎么办?看看下面几种后悔指令吧! ❓ 还没提交的怎么撤销&#x…...
WPF基础DataGrid控件
WPF DataGrid 是一个用于显示和编辑表格数据的强大控件。它提供了丰富的功能,包括排序、筛选、分组、编辑、选择等,使你能够以类似电子表格的方式呈现和操作数据。 DataGrid 的布局主要由以下部分组成: 列定义 (Columns): DataGrid 列定义了…...
丐版设备互联方案:安卓linux互联局域网投屏,文件共享,共享剪切板
华为,苹果,甚至小米最近也推出了澎湃OS,发现实在是太方便了,当然这些对硬件,系统的要求还是比较高,我用的主力机是小米12pro和ubuntu,win双系统也…...
GZ033 大数据应用开发赛题第08套
2023年全国职业院校技能大赛 赛题第08套 赛项名称: 大数据应用开发 英文名称: Big Data Application Development 赛项组别: 高等职业教育组 赛项编号: GZ033 …...
【SpringMvc】SpringMvc +MyBatis整理
🎄欢迎来到边境矢梦的csdn博文🎄 🎄本文主要梳理 Java 框架 中 SpringMVC的知识点和值得注意的地方 🎄 🌈我是边境矢梦,一个正在为秋招和算法竞赛做准备的学生🌈 🎆喜欢的朋友可以关…...
java springboot测试类鉴定虚拟MVC运行值与预期值是否相同
好 上文java springboot在测试类中构建虚拟MVC环境并发送请求中 我们模拟的MVC环境 发送了一个请求 我们这次需要 对比 预期值和运行值是否一直 这里 我们要用一个 MockMvcResultMatchers 他提供了非常多的校验类型 例如 请求有没有成功 有没有包含请求头信息 等等 这里 我们做…...
UE5的TimeLine的理解
一直以来,我对动画的理解一直是这样的: 所谓动画,就是可导致可视化内容变化的参数和时间的对应关系。 我不能说这个观点现在过时了,只能说自己狭隘了。因为UE的TimeLine的设计理念真让人竖大拇指。 当我第一次看到TimeLine节点的…...
react原理及合成事件原理
文章目录 react的理解react创建组件的三种写法react的工作原理初始化的渲染流程。页面更新的流程。diffing 算法计算更新视图diff策略 react合成事件原理一、React合成事件的概念二、React合成事件的原理三、React合成事件的优势四、React合成事件的使用方法五、总结 react的理…...
独立版求职招聘平台小程序开发
小程序招聘系统开发 我们开发了一款高效、便捷的互联网招聘平台。在这里,可以轻松实现企业入驻、职位发布、在线求职、精准匹配职位和人才,以及参与招聘会等功能。目标是为求职者和企业搭建一个连接彼此的桥梁,帮助您更快地找到满意的工作&…...
Redis事务+秒杀案例
Redis事务是一个单独的隔离操作,是指将多条命令放在一个命令队列当中,按顺序执行,保证多个命令在同一个事务中执行而不受其他客户端的影响。 通俗来说就是:串联多个命令防止别的命令插队。 1.Multi、Exec、discard 在输入Multi命…...
目标分割技术-语义分割总览
前言 博主现任高级人工智能工程师,曾发表多篇SCI且获得过多次国际竞赛奖项,理解各类模型原理以及每种模型的建模流程和各类题目分析方法。目的就是为了让零基础快速使用各类代码模型,每一篇文章都包含实战项目以及可运行代码。欢迎大家订阅一…...
基于C#实现最长公共子序列
一、作用 最长公共子序列的问题常用于解决字符串的相似度,是一个非常实用的算法,作为码农,此算法是我们的必备基本功。 二、概念 举个例子,cnblogs 这个字符串中子序列有多少个呢?很显然有 27 个,比如其…...
物联网AI MicroPython学习之语法 SPI串行外设通信
学物联网,来万物简单IoT物联网!! SPI 介绍 模块功能: SPI串行外设驱动 接口说明 SPI - 构建SPI对象 函数原型:SPI(id, baudrate,polarity, phase,sck, mosi, miso)参数说明: 参数类型必选参…...
电动汽车充放电V2G模型MATLAB代码
微❤关注“电气仔推送”获得资料(专享优惠) 主要内容: 本程序主要建立电动汽车充放电V2G模型,采用粒子群算法,在保证电动汽车用户出行需求的前提下,为了使工作区域电动汽车尽可能多的消纳供给商场基础负荷…...
【大数据Hive】hive 优化策略之job任务优化
目录 一、前言 二、hive执行计划 2.1 hive explain简介 2.1.1 语法格式 2.1.2 查询计划阶段说明 2.2 操作演示 2.2.1 不加条件的查询计划分析 2.2.2 带条件的查询计划分析 三、MapReduce属性优化 3.1 本地模式 3.1.1 本地模式参数设置 3.1.2 本地模式操作演示 3.2 …...
OpenAI再次与Altman谈判;ChatGPT Voice正式上线
11月22日,金融时报消息,OpenAI迫于超过700名员工联名信的压力,再次启动了与Sam Altman的谈判,希望他回归董事会。 在Sam确定加入微软后,OpenAI超700名员工签署了一封联名信,要求Sam和Greg Brockman&#x…...
【JS】Chapter15-高阶技巧
站在巨人的肩膀上 黑马程序员前端JavaScript入门到精通全套视频教程,javascript核心进阶ES6语法、API、js高级等基础知识和实战教程 (十五)高阶技巧 1. 深浅拷贝 开发中我们经常需要复制一个对象。如果直接用赋值会有下面问题:/…...
Google Chrome 任意文件读取 (CVE-2023-4357)漏洞
漏洞描述 该漏洞的存在是由于 Google Chrome 中用户提供的 XML 输入验证不足。远程攻击者可以创建特制网页,诱骗受害者访问该网页并获取用户系统上的敏感信息。远程攻击者可利用该漏洞通过构建的 HTML 页面绕过文件访问限制,导致chrome任意文件读取。Li…...
字符串匹配:暴力法和KMP算法(C语言)
文章目录KMP算法1.串的定义1.1定长顺序存储和变长分配存储表示1.2 串的初始化2.串的匹配2.1 暴力查找2.2 KMP算法KMP算法的思想手动算next数组next数组值的规律代码全部代码KMP算法 1.串的定义 串(字符串)是一种特殊的线性表,其数据元素是字…...
PD-1/PD-L1免疫治疗机制与临床应用解析
1. PD-L1阻断机制与免疫治疗原理肿瘤细胞通过表达PD-L1配体与T细胞表面的PD-1受体结合,形成免疫检查点抑制信号。这种"分子伪装"使肿瘤逃避免疫系统监视,具体表现为:PD-L1/PD-1结合后激活SHP2磷酸酶阻断TCR信号通路中的ZAP70磷酸化…...
从零部署YOLO到DJI遥控器:手把手教你用MSDK打造一个‘会看’的无人机巡检App
从零部署YOLO到DJI遥控器:手把手教你用MSDK打造一个‘会看’的无人机巡检App 想象一下,你的无人机不仅能按照预设航线飞行,还能实时识别电力塔上的绝缘子破损、安防区域内的异常人员活动——这就是智能巡检系统的魅力所在。本文将带你从零开始…...
别再死记硬背堆了!从PTA真题‘关于堆的判断’反推小顶堆的核心操作
从PTA真题实战拆解小顶堆:四类判断背后的数据结构精要 在计算机科学的学习道路上,数据结构总是让人又爱又恨。特别是像堆(Heap)这样的抽象结构,很多学习者虽然能背出"完全二叉树"、"父节点小于子节点"的定义,…...
配置Claude Code编程助手使用Taotoken作为其Anthropic API后端
配置Claude Code编程助手使用Taotoken作为其Anthropic API后端 1. 准备工作 在开始配置前,请确保已安装Claude Code编程助手并拥有有效的Taotoken API Key。登录Taotoken控制台,在「API密钥管理」页面创建或复制现有密钥。同时,在「模型广场…...
轻量级智能家居方案Olimex HoT解析与实战
1. 项目概述:轻量级智能家居方案Olimex HoT在智能家居领域,Home Assistant和OpenHAB等平台虽然功能强大,但对硬件资源的高需求常常让入门用户望而却步。Olimex公司推出的HoT(Home of Things)项目正是瞄准了这一痛点——…...
MicroPython v1.27版本更新解析与嵌入式开发实践
1. MicroPython v1.27版本更新深度解析 MicroPython作为当前最受欢迎的微控制器固件之一,其最新发布的v1.27版本带来了多项重要更新。这次更新不仅新增了对多款主流MCU的支持,还在测试框架、性能优化和功能扩展等方面做出了显著改进。作为一名长期使用Mi…...
RealDPO:基于用户行为数据的视频生成优化技术
1. 项目背景与核心价值视频生成技术近年来突飞猛进,但生成内容与人类真实偏好的对齐问题始终是行业痛点。传统方法主要依赖人工标注的偏好数据(如DPO,RLHF),但存在成本高、规模受限、标注偏差等问题。RealDPO的创新点在于直接利用…...
Reckoner:基于声明式YAML实现Helm批量部署与GitOps实践
1. 项目概述:当Helm遇见声明式配置如果你和我一样,长期在Kubernetes环境中摸爬滚打,那么对Helm一定不会陌生。作为Kubernetes的包管理器,它极大地简化了应用的部署和管理。但当你需要管理几十、上百个Helm Release,特别…...
【车载Java开发实战指南】:20年专家亲授车规级系统稳定性提升7大关键实践
更多请点击: https://intelliparadigm.com 第一章:车载Java开发的车规级挑战与行业现状 在智能网联汽车加速落地的背景下,Java 作为企业级应用主力语言,正逐步渗透至车载信息娱乐系统(IVI)、座舱域控制器及…...
