缓存 --- 缓存击穿, 缓存雪崩, 缓存穿透
缓存 --- 缓存击穿, 缓存雪崩, 缓存穿透
- 缓存击穿(Cache Breakdown)
- 概念原理
- 实际场景
- 代码实现(互斥锁方案)
- 缓存雪崩(Cache Avalanche)
- 概念原理
- 实际场景
- 代码实现(随机过期时间)
- 缓存穿透(Cache Penetration)
- 概念原理
- 实际场景
- 代码实现(布隆过滤器 + 空值缓存)
- 总结对比
缓存击穿(Cache Breakdown)
概念原理
- 定义:某个 热点数据(高频访问的 Key) 在缓存中过期时,瞬间有大量并发请求涌入,直接穿透缓存访问数据库,导致数据库压力骤增。
- 核心原因:高并发场景下,热点数据缓存失效的瞬间,请求集中访问数据库。
- 本质问题:缓存失效时间的集中性与高并发请求的瞬时性冲突。
实际场景
- 电商秒杀:某商品参与限时秒杀活动,缓存设置为 10 分钟过期。活动开始后缓存突然失效,瞬间数万请求直接访问数据库查询库存。
代码实现(互斥锁方案)
public String getProduct(String productId) {String cacheKey = "product:" + productId;// 1. 从缓存获取数据String product = redisTemplate.opsForValue().get(cacheKey);if (product != null) {return product;}// 2. 缓存未命中,尝试获取分布式锁String lockKey = "lock:product:" + productId;boolean locked = redisTemplate.opsForValue().setIfAbsent(lockKey, "locked", 30, TimeUnit.SECONDS);try {if (locked) {// 3. 获取锁成功,查询数据库product = productService.getById(productId);// 4. 回写缓存并设置过期时间redisTemplate.opsForValue().set(cacheKey, product, 1, TimeUnit.HOURS);} else {// 5. 未获取锁,等待后重试(避免循环等待需设置最大重试次数)Thread.sleep(100);return getProduct(productId); // 递归重试}} finally {// 6. 释放锁if (locked) {redisTemplate.delete(lockKey);}}return product;
}
关键点:
- 使用
setIfAbsent实现分布式锁,避免多个线程同时重建缓存。 - 锁需设置超时时间(如 30 秒),防止死锁。
- 未获取锁的线程需等待后重试(或返回默认值)。
缓存雪崩(Cache Avalanche)
概念原理
- 定义:大量缓存数据 在同一时间过期,导致所有请求直接访问数据库,引发数据库崩溃。
- 核心原因:缓存过期时间设置过于集中。
- 本质问题:缓存失效的“雪崩效应”导致数据库瞬时压力过大。
实际场景
- 电商大促:所有商品缓存设置为凌晨 0 点过期,导致瞬时大量商品详情查询请求直接压垮数据库。
代码实现(随机过期时间)
public void setProductCache(String productId, Product product) {String cacheKey = "product:" + productId;// 基础过期时间 + 随机偏移量(0~300秒)int baseExpire = 3600; // 1小时int randomExpire = new Random().nextInt(300); redisTemplate.opsForValue().set(cacheKey, product, baseExpire + randomExpire, TimeUnit.SECONDS);
}// 查询时统一使用随机过期时间
public Product getProduct(String productId) {String cacheKey = "product:" + productId;Product product = redisTemplate.opsForValue().get(cacheKey);if (product == null) {product = productService.getById(productId);setProductCache(productId, product); // 设置缓存时添加随机过期时间}return product;
}
关键点:
- 在基础过期时间上添加随机偏移量(如 0~300 秒),分散缓存过期时间。
- 结合 Redis 集群部署,提升缓存层的高可用性。
缓存穿透(Cache Penetration)
概念原理
- 定义:大量请求查询 数据库中不存在的数据,缓存无法命中,导致请求直接穿透到数据库。
- 核心原因:恶意攻击或业务逻辑漏洞(如查询无效 ID)。
- 本质问题:缓存层和数据库层均无法拦截无效请求。
实际场景
- 恶意爬虫攻击:攻击者批量请求
-1、0或超大数值的用户 ID,绕过缓存直接查询数据库。
代码实现(布隆过滤器 + 空值缓存)
// 使用 Guava 布隆过滤器(初始化时预热合法ID)
private BloomFilter<String> bloomFilter = BloomFilter.create(Funnels.stringFunnel(StandardCharsets.UTF_8), 1000000, 0.01
);public User getUser(String userId) {// 1. 布隆过滤器拦截非法请求if (!bloomFilter.mightContain(userId)) {return null;}String cacheKey = "user:" + userId;User user = redisTemplate.opsForValue().get(cacheKey);if (user != null) {return "NULL".equals(user) ? null : user;}// 2. 查询数据库user = userService.getById(userId);if (user == null) {// 3. 缓存空值(防止反复穿透)redisTemplate.opsForValue().set(cacheKey, "NULL", 5, TimeUnit.MINUTES);return null;}// 4. 回写缓存redisTemplate.opsForValue().set(cacheKey, user, 1, TimeUnit.HOURS);return user;
}
关键点:
- 布隆过滤器初始化时需预热合法 ID(如从数据库加载)。
- 缓存空值(如
"NULL")并设置短过期时间(如 5 分钟)。 - 布隆过滤器存在误判率(可配置
0.01),但不会漏判。
总结对比
| 问题类型 | 触发条件 | 解决方案 | 核心实现技术 |
|---|---|---|---|
| 击穿 | 热点Key过期 + 高并发 | 互斥锁、逻辑过期 | 分布式锁(SETNX)、异步重建 |
| 穿透 | 查询不存在的数据 | 布隆过滤器、空值缓存 | Bloom Filter、NULL占位 |
| 雪崩 | 大量Key同时过期 | 随机过期时间、集群容灾 | 过期时间随机化、Redis集群 |
注意事项:
- 布隆过滤器需要预热数据,适用于静态数据(如商品ID列表)。
- 互斥锁需设置合理的锁超时时间,避免锁过期后业务线程仍在执行。
- 空值缓存的过期时间不宜过长,防止内存浪费。
相关文章:
缓存 --- 缓存击穿, 缓存雪崩, 缓存穿透
缓存 --- 缓存击穿, 缓存雪崩, 缓存穿透 缓存击穿(Cache Breakdown)概念原理实际场景代码实现(互斥锁方案) 缓存雪崩(Cache Avalanche)概念原理实际场景代码实现(随机过期时间) 缓存…...
Android 中实现图片翻转动画(卡片翻转效果)
1、简述 通过 ObjectAnimator 和 AnimatorSet 可以实现图片的翻转动画,并在翻转过程中切换图片,同时避免图片被镜像。 ObjectAnimator 是 Android 动画框架中的一个类,用于对对象的属性进行动画效果处理。它通过改变对象的属性值来实现动画效果,非常适合实现复杂的动画,如…...
【论文阅读21】-PSOSVM-CNN-GRU-Attention-滑坡预测(2024-12)
这篇论文主要提出并验证了一种新型的混合智能模型(PSOSVM-CNN-GRU-Attention),用于准确预测滑坡的点位移,并构建可靠的位移预测区间。通过对Baishuihe滑坡和Shuping滑坡的案例分析,展示了该模型的出色性能。 [1] Zai D…...
蓝牙 6.0 发布,解锁无线科技新可能
在5G和Wi-Fi 7高速发展的时代,蓝牙技术始终以独特优势深度融入日常生活。从无线耳机到智能家居,它凭借低功耗、高兼容的特性,悄然连接各类智能设备,打造无缝的数字生活体验。无论是聆听音乐、智能门禁还是健康监测,蓝牙…...
EasyCVR视频智能分析平台助力智慧园区:全场景视频监控摄像头融合解决方案
一、方案背景 在智慧园区建设的浪潮下,设备融合、数据整合与智能联动已成为核心诉求。视频监控作为智慧园区的“视觉中枢”,其高效整合直接影响园区的管理效能与安全水平。然而,园区内繁杂的视频监控设备生态——不同品牌、型号、制式的摄像…...
PHP发送邮件
一、安装PHPMailer 进入项目目录下,执行:composer require phpmailer/phpmailer 二、使用 <?php use PHPMailer\PHPMailer\PHPMailer; use PHPMailer\PHPMailer\Exception;require vendor/autoload.php;$mail new PHPMailer(true); header("…...
为您的照片提供本地 AI 视觉:使用 Llama Vision 和 ChromaDB 构建 AI 图像标记器
有没有花 20 分钟浏览您的文件夹以找到心中的特定图像或屏幕截图?您并不孤单。 作为工作中的产品经理,我总是淹没在竞争对手产品的屏幕截图、UI 灵感以及白板会议或草图的照片的海洋中。在我的个人生活中,我总是捕捉我在生活中遇到的事物&am…...
Spark on K8s 在 vivo 大数据平台的混部实战与优化
一、Spark on K8s 简介 (一)定义与架构 Spark on K8s 是一种将 Spark 运行在 Kubernetes(K8s)集群上的架构,由 K8s 直接创建 Driver 和 Executor 的 Pod 来运行 Spark 作业。其架构如下。 Driver Pod:相当于 Spark 集群中的 Driver,负责作业的调度和管理,它会根据作业…...
K8S节点出现Evicted状态“被驱逐”
在Kubernetes集群中,Pod状态为“被驱逐(evicted)”表示Pod无法在当前节点上继续运行,已被集群从节点上移除。 问题分析: 节点磁盘空间不足 ,使用df -h查看磁盘使用情况 可以看到根目录 / 已100%满&#x…...
重学React(一):描述UI
背景:React现在已经更新到19了,文档地址也做了全面的更新,上一次系统性的学习还是在16-17的大版本更新。所以,现在就开始重新学习吧~ 学习内容: React官网教程:https://zh-hans.react.dev/lea…...
CSS核心笔记002
margin塌陷问题 第一个子元素的上margin会作用在父元素上, 最后一个子元素的下margin会作用在父元素上解决 1. 给父元素设置 不为0的pandding 2. 给父元素设置宽度不为0 的border 3. 给父元素设置样式 overflow:hiddenmargin合并问题 兄弟元素的下外margin和会下面兄弟的上…...
遨游通讯发布国产化旗舰三防手机AORO AU1:以自主可控重塑工业安全
在全球产业链加速重构的背景下,国产化技术突破已成为工业领域高质量发展的核心驱动力。作为专精特新中小企业,遨游通讯始终以“让世界更安全、更高效、更简单”为使命,深耕“危、急、特”场景智能通信设备的研发。近日,遨游通讯正…...
【Python】Selenium切换网页的标签页的写法(全!!!)
在使用selenium做网站爬取测试的时候,我们经常会遇到一些需要点击的元素,才能点击到我们想要进入的页面, 于是我们就要模拟 不断地 点点点击 鼠标的样子。 这个时候网页上就会有很多的标签页,你的浏览器网页标签栏 be like: 那…...
洛谷P1177【模板】排序:十种排序算法全解(1)
扯谈 之前我已经把十大排序算法全讲了一遍(具体详见专栏C排序算法),今天我们来用一道简单的题目总结实战一下。 算法实现 一、桶排序(Bucket Sort) 适用场景:数据范围已知且较小(需根据测试数据调整…...
pytorch 51 GroundingDINO模型导出tensorrt并使用c++进行部署,53ms一张图
本专栏博客第49篇文章分享了将 GroundingDINO模型导出onnx并使用c++进行部署,并尝试将onnx模型转换为trt模型,fp16进行推理,可以发现推理速度提升了一倍。为此对GroundingDINO的trt推理进行调研,发现 在GroundingDINO-TensorRT-and-ONNX-Inference项目中分享了模型导出onnx…...
中间件--ClickHouse-11--部署示例(Linux宿主机部署,Docker容器部署)
一、Linux宿主机部署 1、环境准备 操作系统:推荐使用 CentOS 7/8 或 Ubuntu 18.04/20.04。硬件要求: 至少 2 核 CPU 和 4GB 内存。足够的磁盘空间(根据数据量评估)。CPU需支持SSE4.2指令集(可通过以下命令检查&#…...
DeepSeek和Excel结合生成动态图表
文章目录 一、前言二、3D柱状图案例2.1、pyecharts可视化官网2.2、Bar3d-Bar3d_puch_card2.3、Deepseek2.4、WPS2.5、动态调整数据 一、前言 最近在找一些比较炫酷的动态图表,用于日常汇报,于是找到了 DeepseekExcel王牌组合,其等同于动态图…...
[Python入门学习记录(小甲鱼)]第6章 函数
函数就是把代码整理打包的东西 6.1 Python的函数基操 函数的基本操作 6.1.1 创建和调用函数 def myfunc():print(1)print(2)print(3) myfunc() # 输出 1 2 3 带换行 调用时会自动找函数定义6.1.2 函数的参数 def add(num1, num2):print(num1 num2) add(1, 2) # 输出 3…...
Ubuntu20.04 部署llama-factory问题集
llama3 微调教程之 llama factory 的 安装部署与模型微调过程,模型量化和gguf转换。_llamafactory 部署-CSDN博客 1.跟着教程 llama-factory下载不下来 来,试着换源,多试几次,就可以成功了。。。 2.跟着教程,发现无法…...
海量聊天数据处理:基于Spring Boot与SharingJDBC的分库分表策略及ClickHouse冷热数据分离
引言 随着互联网应用的快速发展,每天产生的聊天记录数量级已经达到了惊人的程度。以2000万条/天为例,一年下来就是大约7.3亿条记录。如此庞大的数据量给数据库的设计和管理带来了前所未有的挑战。本文将探讨如何使用SharingJDBC整合Spring Boot技术来实…...
EAL4+与等保2.0:解读中国网络安全双标准
EAL4与等保2.0:解读中国网络安全双标准 在当今数字化时代,网络安全已成为各个行业不可忽视的重要议题。特别是在金融、政府、医疗等领域,保护信息的安全性和隐私性显得尤为关键。在中国,EAL4和等级保护2.0(简称“等保…...
GreatSQL启动崩溃:jemalloc依赖缺失问题排查
GreatSQL启动崩溃:jemalloc依赖缺失问题排查 故障现象: 之前协助用户安装 GreatSQL 测试环境时,遇到一个 case,数据库初始化时没有报错,但是使用mysqld_safe去启动,会直接 crash ,详情报错如下࿱…...
大语言模型助力 Support Case 分析,提升云服务效率
1. 背景 技术工单(Support Case)是企业在进行云平台操作的时候通常会用到的一种技术支持类型,提供的技术支持通常包括所有的云服务的使用问题、账单问题、限制额度提升等等。对于云平台的管理者而言,对各个 BU 所提的工单进行统计…...
ubuntu磁盘挂载
1、查看磁盘设备及分区 命令:列出所有块设备(磁盘及分区) lsblk 0表示此块未挂载 2、格式化分区 sudo mkfs.ext4 /dev/sdb 注意sdb换成自己的块名称 3、创建挂载点目录 sudo mkdir -p /mnt/data4、永久挂载 sudo blkid /dev…...
在pycharm中搭建yolo11分类检测系统--PyQt5学习(二)
第二部分 测试本地pycharm通过程序连接远程服务器autodl 模型的推理需要借助远程服务器autodl,但是界面的运行是在pycharm中,我的设想是按钮调用一个py文件就好了。 1. 本地运行PyQt5界面。 2. 当需要载入权重时,通过SSH连接到AutodL服务…...
chili3d调试笔记8 打印零件属性 浏览器元素展开
无效, 返回的是节点不是坐标啥的, 找他的属性 把document和selectednote(空集)传给handleshowproperty方法 怎么获得selectnotes和selectnotes的property值 有selectnotes运行这段就行了 明天再搞 ----------------------------…...
新书速览|DeepSeek移动端AI应用开发:基于Android与iOS
《DeepSeek移动端AI应用开发:基于Android与iOS》 1 本书内容 《DeepSeek移动端AI应用开发:基于Android与iOS》深入剖析了DeepSeek平台的架构原理、API调用及开发实践等核心内容,助力读者在Android与iOS移动端高效集成DeepSeek API,打造出契…...
大模型面经 | DeepSpeed中ZeRO-1、ZeRO-2和ZeRO-3的区别是什么?
大家好,我是皮先生!! 今天给大家分享一些关于大模型面试常见的面试题,希望对大家的面试有所帮助。 往期回顾: 大模型面经 | 春招、秋招算法面试常考八股文附答案(RAG专题一) 大模型面经 | 春招、秋招算法面试常考八股文附答案(RAG专题二) 大模型面经 | 春招、秋招算法…...
Android调用springboot接口上传大字段,偶现接口超时的优化
介绍 最近有个功能,Android通过okhttp上传实体类,实体类包含一个大字段,上传的字符串长度达到300k,偶现接口超时的情况,大概100次有5次,看日志发现数据并没有到达接口,可能在网络传输中就超时了…...
在PyCharm中部署AI模型的完整指南
引言 随着人工智能技术的快速发展,越来越多的开发者开始将AI模型集成到他们的应用程序中。PyCharm作为一款强大的Python IDE,为AI开发提供了出色的支持。本文将详细介绍如何在PyCharm中部署AI模型,从环境配置到最终部署的完整流程。 第一部分:准备工作 1. 安装PyCharm …...
