【Redis】Redis 缓存设计:抗住百万并发量的最佳实践
目录
- 1. Redis 缓存设计原则
- 1.1 高可用性
- 1.2 数据一致性
- 1.3 读写分离
- 2. 缓存策略
- 2.1 常用缓存策略
- 2.1.1 缓存穿透
- 2.1.2 缓存雪崩
- 2.1.3 缓存击穿
- 2.2 额外缓存策略
- 2.2.1 更新策略
- 2.2.2 预热策略
- 2.2.3 侧写缓存
- 3. Redis 架构设计
- 3.1 单机 vs 集群
- 3.2 Redis 集群示例架构
- 4. 性能优化
- 4.1 使用 Redis 数据结构
- 4.2 缓存失效策略
- 4.3 示例:使用哈希存储用户信息
- 5. 性能测试
- 6. Redis 抗住百万并发量的实践
- 结论
在高并发场景下,Redis 作为一种高性能的内存数据库,能够提供快速的数据访问能力,有效减轻后端数据库的压力,能有效支持高并发场景。本文将深入探讨如何设计 Redis 缓存,以帮助实现支持百万级并发处理,包括Redis 缓存的设计原则、策略、架构示例、优化技巧及性能测试。
1. Redis 缓存设计原则
1.1 高可用性
确保 Redis 集群的高可用性,可以通过主从复制和哨兵模式来避免单点故障,从而提高系统的稳定性。
1.2 数据一致性
根据业务需求选择合适的一致性模型,例如使用乐观锁等机制来处理并发写入,确保数据的准确性。
1.3 读写分离
通过缓存分担读取压力,实现读写分离,优化数据库的负载均衡。
2. 缓存策略
缓存策略是确保 Redis 能够高效处理请求的关键。以下是详细的缓存策略及其操作示例:
2.1 常用缓存策略
| 策略 | 描述 |
|---|---|
| 缓存穿透 | 使用布隆过滤器防止对不存在的数据频繁查询数据库,减少不必要的请求。 |
| 缓存雪崩 | 设置不同的过期时间,避免大量缓存同时失效导致的请求冲击。 |
| 缓存击穿 | 使用互斥锁,在高并发下确保同一时间只有一个请求查询数据库,避免多个请求同时查询。 |
2.1.1 缓存穿透
描述:缓存穿透指的是对不存在的数据进行频繁请求,这会导致直接访问数据库。
解决方案:使用布隆过滤器,拦截对不存在数据的请求。
示例:
from redis import Redis
from pybloom_live import BloomFilterredis = Redis()
bloom = BloomFilter(capacity=100000, error_rate=0.001)def query_user(user_id):if user_id in bloom:user = redis.get(user_id)if user:return userreturn None
2.1.2 缓存雪崩
描述:大量缓存同时失效,导致瞬间请求涌入数据库。
解决方案:为不同数据设置随机的过期时间。
示例:
import randomdef set_user_cache(user_id, user_data):ttl = random.randint(300, 600) # 设置随机的过期时间redis.setex(user_id, ttl, user_data)
2.1.3 缓存击穿
描述:热点数据在过期后被大量请求同时访问数据库。
解决方案:使用互斥锁,确保同一时间只有一个请求访问数据库。
示例:
import threadinglock = threading.Lock()def get_user(user_id):user = redis.get(user_id)if user is None:with lock:user = redis.get(user_id) # 再次检查if user is None:user = db_query(user_id) # 从数据库获取redis.set(user_id, user)return user
2.2 额外缓存策略
| 策略 | 描述 |
|---|---|
| 更新策略 | 根据业务场景选择合适的更新策略,如主动更新、被动更新或定时更新。 |
| 预热策略 | 在系统启动时提前加载热点数据到缓存,以减少初始访问延迟。 |
| 侧写缓存 | 将请求结果直接写入缓存,在更新数据库时同时更新缓存,降低读延迟。 |
| 分层缓存 | 在不同层级使用不同的缓存(如本地缓存、Redis),提高访问速度。 |
2.2.1 更新策略
根据业务需求选择合适的更新策略,如主动更新(每次更新都更新缓存)或被动更新(缓存失效时更新)。
示例:
def update_user(user_id, user_data):redis.hset(user_id, mapping=user_data)db_update(user_id, user_data) # 更新数据库
2.2.2 预热策略
在系统启动时提前加载热点数据,减少初始访问延迟。
示例:
def preload_hot_data():hot_data = db_get_hot_data()for item in hot_data:redis.set(item['id'], item['data'])
2.2.3 侧写缓存
将请求结果直接写入缓存,降低后续读取的延迟。
示例:
def fetch_and_cache_user(user_id):user_data = db_query(user_id)redis.set(user_id, user_data)
3. Redis 架构设计
3.1 单机 vs 集群
| 架构类型 | 适用场景 | 优缺点 |
|---|---|---|
| 单机 | 小型应用或开发环境 | 简单,易于管理,但存在单点故障。 |
| 集群 | 高并发、高可用场景 | 支持分片,能处理更高的请求量,但配置复杂。 |
3.2 Redis 集群示例架构
+------------+| Client |+------+-----+|+--------------------+--------------------+| |+-----v-----+ +----v-----+| Redis 1 | | Redis 2 |+-----------+ +-----------+| |+-----v-----+ +----v-----+| Master | | Master |+-----------+ +-----------+| |+-----v-----+ +----v-----+| Slave | | Slave |+-----------+ +-----------+
4. 性能优化
4.1 使用 Redis 数据结构
选择适当的数据结构能够有效提升性能:
| 数据结构 | 优势 |
|---|---|
| String | 适合简单的键值存储,性能极高。 |
| List | 适合实现消息队列和任务队列。 |
| Set | 支持集合运算,适合去重场景。 |
| Hash | 节省内存,适合存储对象的属性。 |
4.2 缓存失效策略
- 设置合理的 TTL:对热点数据设置较长的 TTL,避免频繁访问。
- 定期清理过期数据:使用 Redis 的定时任务,定期扫描并清理过期缓存。
4.3 示例:使用哈希存储用户信息
# 存储用户信息
user_id = "user:1001"
redis.hset(user_id, mapping={"name": "Alice","age": 30,"email": "alice@example.com"
})# 获取用户信息
user_info = redis.hgetall(user_id)
5. 性能测试
使用工具如 redis-benchmark 或 Apache JMeter 进行高并发性能测试,记录以下指标:
| 指标 | 描述 |
|---|---|
| 吞吐量 | 每秒请求数(QPS) |
| 响应时间 | 平均响应时间(ms) |
| 错误率 | 失败请求占比 |
示例测试命令:
# 使用 redis-benchmark 进行测试
redis-benchmark -h localhost -p 6379 -c 100 -n 10000
6. Redis 抗住百万并发量的实践
为了确保 Redis 能够处理百万级并发量,可以采取以下措施:
- 集群部署:使用 Redis 集群模式,水平扩展 Redis 实例,分片数据。
- 持久化机制:结合 RDB 和 AOF 持久化方式,确保数据不丢失。
- 监控与调优:使用 Redis 监控工具,实时监控性能指标,根据数据访问情况进行调优。
- 优化网络配置:合理配置网络带宽和延迟,降低访问延迟。
结论
通过合理设计 Redis 缓存,结合多种缓存策略、架构和性能优化,能够有效支撑百万级并发量的需求。不断监控系统性能并进行优化,是确保高可用性和高性能的关键。希望这些实践能够为您的 Redis 应用提供有价值的指导。如有疑问或建议,欢迎交流!
相关文章:
【Redis】Redis 缓存设计:抗住百万并发量的最佳实践
目录 1. Redis 缓存设计原则1.1 高可用性1.2 数据一致性1.3 读写分离 2. 缓存策略2.1 常用缓存策略2.1.1 缓存穿透2.1.2 缓存雪崩2.1.3 缓存击穿 2.2 额外缓存策略2.2.1 更新策略2.2.2 预热策略2.2.3 侧写缓存 3. Redis 架构设计3.1 单机 vs 集群3.2 Redis 集群示例架构 4. 性能…...
【hot100-java】【缺失的第一个正数】
R9-普通数组篇 class Solution {public int firstMissingPositive(int[] nums) {int nnums.length;for (int i0;i<n;i){while(nums[i]>0&&nums[i]<n&&nums[nums[i]-1]!nums[i]){//交换nums[i]和nums[nums[i]-1]int temp nums[nums[i]-1];nums[nums[i]…...
独立站新手教程转化篇:如何做好移动端优化?
随着移动设备在全球范围内的普及,越来越多消费者选择通过手机或平板电脑,来进行线上购物。因此移动端优化,因此移动端优化,也成为独立站卖家必须重视的一个关键环节。那么独立站移动端需要做好哪些优化工作呢? 选择响…...
Mybatis Plus分页查询返回total为0问题
Mybatis Plus分页查询返回total为0问题 一日,乌云密布,本人看着mybatis plus的官方文档,随手写了个分页查询,如下 Page<Question> questionPage questionService.page(new Page<>(current, size),questionService.g…...
VulnHub-Narak靶机笔记
Narak靶机笔记 概述 Narak是一台Vulnhub的靶机,其中有简单的tftp和webdav的利用,以及motd文件的一些知识 靶机地址: https://pan.baidu.com/s/1PbPrGJQHxsvGYrAN1k1New?pwda7kv 提取码: a7kv 当然你也可以去Vulnhub官网下载 一、nmap扫…...
查看和升级pytorch到指定版本
文章目录 查看和升级pytorch到指定版本查看pytorch的版本python 命令查看pytorch的版本使用pip 命令查看当前安装的PyTorch版本升级PyTorch到指定版本 升级到特定的版本 查看和升级pytorch到指定版本 查看pytorch的版本 python 命令查看pytorch的版本 通过Python的包管理工具…...
Maya---机械模型制作
材质效果(4)_哔哩哔哩_bilibili 三角面 四边面 多边面 *游戏允许出现三角面和四边面 游戏中一般是低模(几千个面) 动漫及影视是高模 机械由单独零件组合而成,需独立制作 低面模型到高面模型 卡线是为了将模型保…...
请不要在TS中使用Function类型
在 TypeScript 中,避免使用 Function 作为类型。Function 代表的是“任意类型的函数”,这会带来类型安全问题。对于绝大多数情况,你可能更希望明确地指定函数的参数和返回值类型。 如果你确实想表达一个可以接收任意数量参数并返回任意类型的…...
关于UVM仿真error数量达到指定值就退出仿真的设置
1. 问题描述 在某项目调试过程中,发现通过tc_base.sv中new函数里的set_report_max_quit_count()设置最大error数量不生效,uvm_error数量仍旧是达到10个(默认)就会退出仿真。 2. 设置uvm_error到达一定数量结束仿真的方式 由白皮…...
chatGPT问答知识合集【二】
Redis 架构说明 Redis 是一个开源的内存数据库,它也可以持久化到磁盘。以下是 Redis 的典型架构说明:### Redis 架构组件:1. **客户端**:与 Redis 服务器进行通信的应用程序或客户端库。2. **Redis 服务器**:执行实际…...
不靠学历,不拼年资,怎么才能月入2W?
之前统计局发布了《2023年城镇单位就业人员年平均工资情况》,2023年全国城镇非私营单位和私营单位就业人员年平均工资分别为120698元和68340元。也就是说在去年非私营单位就业人员平均月薪1W,而私营单位就业人员平均月薪只有5.7K左右。 图源:…...
【软考】多核CPU
目录 1. 说明 1. 说明 1.核心又称为内核,是 CPU 最重要的组成部分。2.CPU 中心那块隆起的芯片就是核心,是由单品硅以一定的生产工艺制造出来的,CPU 所有的计算、接收/存储命令、处理数据都由核心执行。3.各种 CPU 核心都具有固定的逻辑结构&…...
制作炫酷个人网页:用 HTML 和 CSS3 展现你的风格
你是否觉得自己的网站应该看起来更炫酷?今天我将教你如何使用 HTML 和 CSS3 制作一个拥有炫酷动画和现代设计风格的个人网页,让它在任何设备上看起来都无敌酷炫! 哈哈哈哈哈哈哈哈,我感觉自己有点中二哈哈哈哈~ 目录 炫酷设计理念构建 HTML …...
WinCC中归档数据片段的时间和尺寸设置
1.归档数据片段介绍工控人加入PLC工业自动化精英社群 1.1 概述 WinCC V6.2 开始的后台数据库采用了MS SQL Server 2005 ,所以归档方式与V5 有所不同,它的运行数据存放在数据片段(segment)当中,工程师可以…...
kubernetes网络(二)之bird实现节点间BGP互联的实验
摘要 上一篇文章中我们学习了calico的原理,kubernetes中的node节点,利用 calico 的 bird 程序相互学习路由,为了加深对 bird 程序的认识,本文我们将使用bird进行实验,实验中实现了BGP FULL MESH模式让宿主相互学习到对…...
动态语言? 静态语言? ------区别何在?java,js,c,c++,python分给是静态or动态语言?
JavaScript 被称为动态语言,而 Java 被称为静态语言 这主要与它们在类型系统、编译执行方式以及运行时行为等方面的不同特性有关。详细差异如下: JavaScript (动态语言) 动态类型: 在JavaScript中,变量的类型是在运行时确定的。这…...
计算机网络17——IM聊天系统——客户端核心处理类框架搭建
目的 拆开客户端和服务端,使用Qt实现客户端,VS实现服务端 Qt创建项目 Qt文件类型 .pro文件:配置文件,决定了哪些文件参与编译,怎样参与编译 .h .cpp .ui:画图文件 Qt编码方式 Qt使用utf-8作为编码方…...
C/C++面试题
关键字 1."#","##"的用法 #是字符串转换符,##是字符串连接符;发生在预处理阶段; 2.volatile的含义 防止编译器优化,告诉编译器每次都去真实地址中读取,而不是从寄存器或者缓存中&a…...
[3]Opengl ES着色器
术语: VertexShader:顶点着色器,用来描述图形图像位置的顶点坐标; FragmentShader:片元着色器,用来给顶点指定的区域进行着色; Vertex:顶点 Texture:纹理…...
Spring Boot 中实现任务后台处理的几种常见方式
博客主页: 南来_北往 系列专栏:Spring Boot实战 前言 在现代应用程序中,后台处理对于处理发送电子邮件、处理文件、生成报告等任务至关重要。 Spring Boot 提供了多种机制来高效地实现后台任务。本文探讨了在 Spring Boot 中处理后台处理的各…...
论文解读:交大港大上海AI Lab开源论文 | 宇树机器人多姿态起立控制强化学习框架(二)
HoST框架核心实现方法详解 - 论文深度解读(第二部分) 《Learning Humanoid Standing-up Control across Diverse Postures》 系列文章: 论文深度解读 + 算法与代码分析(二) 作者机构: 上海AI Lab, 上海交通大学, 香港大学, 浙江大学, 香港中文大学 论文主题: 人形机器人…...
关于nvm与node.js
1 安装nvm 安装过程中手动修改 nvm的安装路径, 以及修改 通过nvm安装node后正在使用的node的存放目录【这句话可能难以理解,但接着往下看你就了然了】 2 修改nvm中settings.txt文件配置 nvm安装成功后,通常在该文件中会出现以下配置&…...
JVM垃圾回收机制全解析
Java虚拟机(JVM)中的垃圾收集器(Garbage Collector,简称GC)是用于自动管理内存的机制。它负责识别和清除不再被程序使用的对象,从而释放内存空间,避免内存泄漏和内存溢出等问题。垃圾收集器在Ja…...
Psychopy音频的使用
Psychopy音频的使用 本文主要解决以下问题: 指定音频引擎与设备;播放音频文件 本文所使用的环境: Python3.10 numpy2.2.6 psychopy2025.1.1 psychtoolbox3.0.19.14 一、音频配置 Psychopy文档链接为Sound - for audio playback — Psy…...
OPENCV形态学基础之二腐蚀
一.腐蚀的原理 (图1) 数学表达式:dst(x,y) erode(src(x,y)) min(x,y)src(xx,yy) 腐蚀也是图像形态学的基本功能之一,腐蚀跟膨胀属于反向操作,膨胀是把图像图像变大,而腐蚀就是把图像变小。腐蚀后的图像变小变暗淡。 腐蚀…...
【数据分析】R版IntelliGenes用于生物标志物发现的可解释机器学习
禁止商业或二改转载,仅供自学使用,侵权必究,如需截取部分内容请后台联系作者! 文章目录 介绍流程步骤1. 输入数据2. 特征选择3. 模型训练4. I-Genes 评分计算5. 输出结果 IntelliGenesR 安装包1. 特征选择2. 模型训练和评估3. I-Genes 评分计…...
Java求职者面试指南:Spring、Spring Boot、MyBatis框架与计算机基础问题解析
Java求职者面试指南:Spring、Spring Boot、MyBatis框架与计算机基础问题解析 一、第一轮提问(基础概念问题) 1. 请解释Spring框架的核心容器是什么?它在Spring中起到什么作用? Spring框架的核心容器是IoC容器&#…...
【Nginx】使用 Nginx+Lua 实现基于 IP 的访问频率限制
使用 NginxLua 实现基于 IP 的访问频率限制 在高并发场景下,限制某个 IP 的访问频率是非常重要的,可以有效防止恶意攻击或错误配置导致的服务宕机。以下是一个详细的实现方案,使用 Nginx 和 Lua 脚本结合 Redis 来实现基于 IP 的访问频率限制…...
C#学习第29天:表达式树(Expression Trees)
目录 什么是表达式树? 核心概念 1.表达式树的构建 2. 表达式树与Lambda表达式 3.解析和访问表达式树 4.动态条件查询 表达式树的优势 1.动态构建查询 2.LINQ 提供程序支持: 3.性能优化 4.元数据处理 5.代码转换和重写 适用场景 代码复杂性…...
wpf在image控件上快速显示内存图像
wpf在image控件上快速显示内存图像https://www.cnblogs.com/haodafeng/p/10431387.html 如果你在寻找能够快速在image控件刷新大图像(比如分辨率3000*3000的图像)的办法,尤其是想把内存中的裸数据(只有图像的数据,不包…...
