【Redis】Redis 缓存设计:抗住百万并发量的最佳实践
目录
- 1. Redis 缓存设计原则
- 1.1 高可用性
- 1.2 数据一致性
- 1.3 读写分离
- 2. 缓存策略
- 2.1 常用缓存策略
- 2.1.1 缓存穿透
- 2.1.2 缓存雪崩
- 2.1.3 缓存击穿
- 2.2 额外缓存策略
- 2.2.1 更新策略
- 2.2.2 预热策略
- 2.2.3 侧写缓存
- 3. Redis 架构设计
- 3.1 单机 vs 集群
- 3.2 Redis 集群示例架构
- 4. 性能优化
- 4.1 使用 Redis 数据结构
- 4.2 缓存失效策略
- 4.3 示例:使用哈希存储用户信息
- 5. 性能测试
- 6. Redis 抗住百万并发量的实践
- 结论
在高并发场景下,Redis 作为一种高性能的内存数据库,能够提供快速的数据访问能力,有效减轻后端数据库的压力,能有效支持高并发场景。本文将深入探讨如何设计 Redis 缓存,以帮助实现支持百万级并发处理,包括Redis 缓存的设计原则、策略、架构示例、优化技巧及性能测试。
1. Redis 缓存设计原则
1.1 高可用性
确保 Redis 集群的高可用性,可以通过主从复制和哨兵模式来避免单点故障,从而提高系统的稳定性。
1.2 数据一致性
根据业务需求选择合适的一致性模型,例如使用乐观锁等机制来处理并发写入,确保数据的准确性。
1.3 读写分离
通过缓存分担读取压力,实现读写分离,优化数据库的负载均衡。
2. 缓存策略
缓存策略是确保 Redis 能够高效处理请求的关键。以下是详细的缓存策略及其操作示例:
2.1 常用缓存策略
策略 | 描述 |
---|---|
缓存穿透 | 使用布隆过滤器防止对不存在的数据频繁查询数据库,减少不必要的请求。 |
缓存雪崩 | 设置不同的过期时间,避免大量缓存同时失效导致的请求冲击。 |
缓存击穿 | 使用互斥锁,在高并发下确保同一时间只有一个请求查询数据库,避免多个请求同时查询。 |
2.1.1 缓存穿透
描述:缓存穿透指的是对不存在的数据进行频繁请求,这会导致直接访问数据库。
解决方案:使用布隆过滤器,拦截对不存在数据的请求。
示例:
from redis import Redis
from pybloom_live import BloomFilterredis = Redis()
bloom = BloomFilter(capacity=100000, error_rate=0.001)def query_user(user_id):if user_id in bloom:user = redis.get(user_id)if user:return userreturn None
2.1.2 缓存雪崩
描述:大量缓存同时失效,导致瞬间请求涌入数据库。
解决方案:为不同数据设置随机的过期时间。
示例:
import randomdef set_user_cache(user_id, user_data):ttl = random.randint(300, 600) # 设置随机的过期时间redis.setex(user_id, ttl, user_data)
2.1.3 缓存击穿
描述:热点数据在过期后被大量请求同时访问数据库。
解决方案:使用互斥锁,确保同一时间只有一个请求访问数据库。
示例:
import threadinglock = threading.Lock()def get_user(user_id):user = redis.get(user_id)if user is None:with lock:user = redis.get(user_id) # 再次检查if user is None:user = db_query(user_id) # 从数据库获取redis.set(user_id, user)return user
2.2 额外缓存策略
策略 | 描述 |
---|---|
更新策略 | 根据业务场景选择合适的更新策略,如主动更新、被动更新或定时更新。 |
预热策略 | 在系统启动时提前加载热点数据到缓存,以减少初始访问延迟。 |
侧写缓存 | 将请求结果直接写入缓存,在更新数据库时同时更新缓存,降低读延迟。 |
分层缓存 | 在不同层级使用不同的缓存(如本地缓存、Redis),提高访问速度。 |
2.2.1 更新策略
根据业务需求选择合适的更新策略,如主动更新(每次更新都更新缓存)或被动更新(缓存失效时更新)。
示例:
def update_user(user_id, user_data):redis.hset(user_id, mapping=user_data)db_update(user_id, user_data) # 更新数据库
2.2.2 预热策略
在系统启动时提前加载热点数据,减少初始访问延迟。
示例:
def preload_hot_data():hot_data = db_get_hot_data()for item in hot_data:redis.set(item['id'], item['data'])
2.2.3 侧写缓存
将请求结果直接写入缓存,降低后续读取的延迟。
示例:
def fetch_and_cache_user(user_id):user_data = db_query(user_id)redis.set(user_id, user_data)
3. Redis 架构设计
3.1 单机 vs 集群
架构类型 | 适用场景 | 优缺点 |
---|---|---|
单机 | 小型应用或开发环境 | 简单,易于管理,但存在单点故障。 |
集群 | 高并发、高可用场景 | 支持分片,能处理更高的请求量,但配置复杂。 |
3.2 Redis 集群示例架构
+------------+| Client |+------+-----+|+--------------------+--------------------+| |+-----v-----+ +----v-----+| Redis 1 | | Redis 2 |+-----------+ +-----------+| |+-----v-----+ +----v-----+| Master | | Master |+-----------+ +-----------+| |+-----v-----+ +----v-----+| Slave | | Slave |+-----------+ +-----------+
4. 性能优化
4.1 使用 Redis 数据结构
选择适当的数据结构能够有效提升性能:
数据结构 | 优势 |
---|---|
String | 适合简单的键值存储,性能极高。 |
List | 适合实现消息队列和任务队列。 |
Set | 支持集合运算,适合去重场景。 |
Hash | 节省内存,适合存储对象的属性。 |
4.2 缓存失效策略
- 设置合理的 TTL:对热点数据设置较长的 TTL,避免频繁访问。
- 定期清理过期数据:使用 Redis 的定时任务,定期扫描并清理过期缓存。
4.3 示例:使用哈希存储用户信息
# 存储用户信息
user_id = "user:1001"
redis.hset(user_id, mapping={"name": "Alice","age": 30,"email": "alice@example.com"
})# 获取用户信息
user_info = redis.hgetall(user_id)
5. 性能测试
使用工具如 redis-benchmark
或 Apache JMeter
进行高并发性能测试,记录以下指标:
指标 | 描述 |
---|---|
吞吐量 | 每秒请求数(QPS) |
响应时间 | 平均响应时间(ms) |
错误率 | 失败请求占比 |
示例测试命令:
# 使用 redis-benchmark 进行测试
redis-benchmark -h localhost -p 6379 -c 100 -n 10000
6. Redis 抗住百万并发量的实践
为了确保 Redis 能够处理百万级并发量,可以采取以下措施:
- 集群部署:使用 Redis 集群模式,水平扩展 Redis 实例,分片数据。
- 持久化机制:结合 RDB 和 AOF 持久化方式,确保数据不丢失。
- 监控与调优:使用 Redis 监控工具,实时监控性能指标,根据数据访问情况进行调优。
- 优化网络配置:合理配置网络带宽和延迟,降低访问延迟。
结论
通过合理设计 Redis 缓存,结合多种缓存策略、架构和性能优化,能够有效支撑百万级并发量的需求。不断监控系统性能并进行优化,是确保高可用性和高性能的关键。希望这些实践能够为您的 Redis 应用提供有价值的指导。如有疑问或建议,欢迎交流!
相关文章:

【Redis】Redis 缓存设计:抗住百万并发量的最佳实践
目录 1. Redis 缓存设计原则1.1 高可用性1.2 数据一致性1.3 读写分离 2. 缓存策略2.1 常用缓存策略2.1.1 缓存穿透2.1.2 缓存雪崩2.1.3 缓存击穿 2.2 额外缓存策略2.2.1 更新策略2.2.2 预热策略2.2.3 侧写缓存 3. Redis 架构设计3.1 单机 vs 集群3.2 Redis 集群示例架构 4. 性能…...

【hot100-java】【缺失的第一个正数】
R9-普通数组篇 class Solution {public int firstMissingPositive(int[] nums) {int nnums.length;for (int i0;i<n;i){while(nums[i]>0&&nums[i]<n&&nums[nums[i]-1]!nums[i]){//交换nums[i]和nums[nums[i]-1]int temp nums[nums[i]-1];nums[nums[i]…...

独立站新手教程转化篇:如何做好移动端优化?
随着移动设备在全球范围内的普及,越来越多消费者选择通过手机或平板电脑,来进行线上购物。因此移动端优化,因此移动端优化,也成为独立站卖家必须重视的一个关键环节。那么独立站移动端需要做好哪些优化工作呢? 选择响…...

Mybatis Plus分页查询返回total为0问题
Mybatis Plus分页查询返回total为0问题 一日,乌云密布,本人看着mybatis plus的官方文档,随手写了个分页查询,如下 Page<Question> questionPage questionService.page(new Page<>(current, size),questionService.g…...

VulnHub-Narak靶机笔记
Narak靶机笔记 概述 Narak是一台Vulnhub的靶机,其中有简单的tftp和webdav的利用,以及motd文件的一些知识 靶机地址: https://pan.baidu.com/s/1PbPrGJQHxsvGYrAN1k1New?pwda7kv 提取码: a7kv 当然你也可以去Vulnhub官网下载 一、nmap扫…...

查看和升级pytorch到指定版本
文章目录 查看和升级pytorch到指定版本查看pytorch的版本python 命令查看pytorch的版本使用pip 命令查看当前安装的PyTorch版本升级PyTorch到指定版本 升级到特定的版本 查看和升级pytorch到指定版本 查看pytorch的版本 python 命令查看pytorch的版本 通过Python的包管理工具…...

Maya---机械模型制作
材质效果(4)_哔哩哔哩_bilibili 三角面 四边面 多边面 *游戏允许出现三角面和四边面 游戏中一般是低模(几千个面) 动漫及影视是高模 机械由单独零件组合而成,需独立制作 低面模型到高面模型 卡线是为了将模型保…...

请不要在TS中使用Function类型
在 TypeScript 中,避免使用 Function 作为类型。Function 代表的是“任意类型的函数”,这会带来类型安全问题。对于绝大多数情况,你可能更希望明确地指定函数的参数和返回值类型。 如果你确实想表达一个可以接收任意数量参数并返回任意类型的…...

关于UVM仿真error数量达到指定值就退出仿真的设置
1. 问题描述 在某项目调试过程中,发现通过tc_base.sv中new函数里的set_report_max_quit_count()设置最大error数量不生效,uvm_error数量仍旧是达到10个(默认)就会退出仿真。 2. 设置uvm_error到达一定数量结束仿真的方式 由白皮…...

chatGPT问答知识合集【二】
Redis 架构说明 Redis 是一个开源的内存数据库,它也可以持久化到磁盘。以下是 Redis 的典型架构说明:### Redis 架构组件:1. **客户端**:与 Redis 服务器进行通信的应用程序或客户端库。2. **Redis 服务器**:执行实际…...

不靠学历,不拼年资,怎么才能月入2W?
之前统计局发布了《2023年城镇单位就业人员年平均工资情况》,2023年全国城镇非私营单位和私营单位就业人员年平均工资分别为120698元和68340元。也就是说在去年非私营单位就业人员平均月薪1W,而私营单位就业人员平均月薪只有5.7K左右。 图源:…...

【软考】多核CPU
目录 1. 说明 1. 说明 1.核心又称为内核,是 CPU 最重要的组成部分。2.CPU 中心那块隆起的芯片就是核心,是由单品硅以一定的生产工艺制造出来的,CPU 所有的计算、接收/存储命令、处理数据都由核心执行。3.各种 CPU 核心都具有固定的逻辑结构&…...

制作炫酷个人网页:用 HTML 和 CSS3 展现你的风格
你是否觉得自己的网站应该看起来更炫酷?今天我将教你如何使用 HTML 和 CSS3 制作一个拥有炫酷动画和现代设计风格的个人网页,让它在任何设备上看起来都无敌酷炫! 哈哈哈哈哈哈哈哈,我感觉自己有点中二哈哈哈哈~ 目录 炫酷设计理念构建 HTML …...

WinCC中归档数据片段的时间和尺寸设置
1.归档数据片段介绍工控人加入PLC工业自动化精英社群 1.1 概述 WinCC V6.2 开始的后台数据库采用了MS SQL Server 2005 ,所以归档方式与V5 有所不同,它的运行数据存放在数据片段(segment)当中,工程师可以…...

kubernetes网络(二)之bird实现节点间BGP互联的实验
摘要 上一篇文章中我们学习了calico的原理,kubernetes中的node节点,利用 calico 的 bird 程序相互学习路由,为了加深对 bird 程序的认识,本文我们将使用bird进行实验,实验中实现了BGP FULL MESH模式让宿主相互学习到对…...

动态语言? 静态语言? ------区别何在?java,js,c,c++,python分给是静态or动态语言?
JavaScript 被称为动态语言,而 Java 被称为静态语言 这主要与它们在类型系统、编译执行方式以及运行时行为等方面的不同特性有关。详细差异如下: JavaScript (动态语言) 动态类型: 在JavaScript中,变量的类型是在运行时确定的。这…...

计算机网络17——IM聊天系统——客户端核心处理类框架搭建
目的 拆开客户端和服务端,使用Qt实现客户端,VS实现服务端 Qt创建项目 Qt文件类型 .pro文件:配置文件,决定了哪些文件参与编译,怎样参与编译 .h .cpp .ui:画图文件 Qt编码方式 Qt使用utf-8作为编码方…...

C/C++面试题
关键字 1."#","##"的用法 #是字符串转换符,##是字符串连接符;发生在预处理阶段; 2.volatile的含义 防止编译器优化,告诉编译器每次都去真实地址中读取,而不是从寄存器或者缓存中&a…...

[3]Opengl ES着色器
术语: VertexShader:顶点着色器,用来描述图形图像位置的顶点坐标; FragmentShader:片元着色器,用来给顶点指定的区域进行着色; Vertex:顶点 Texture:纹理…...

Spring Boot 中实现任务后台处理的几种常见方式
博客主页: 南来_北往 系列专栏:Spring Boot实战 前言 在现代应用程序中,后台处理对于处理发送电子邮件、处理文件、生成报告等任务至关重要。 Spring Boot 提供了多种机制来高效地实现后台任务。本文探讨了在 Spring Boot 中处理后台处理的各…...

部署--UmiJS
默认方案 umi2 默认对新手友好,所以默认不做按需加载处理,umi build 后输出 index.html、umi.js 和 umi.css 三个文件。 不输出 html 文件 某些场景 html 文件交给后端输出,前端构建并不需要输出 html 文件,可配置环境变量 HTM…...

python自学笔记
python部分总结 主要记录的是python与之前学的语言的不同之处 函数总结 首字母大写: name.title() 删除右边空格(暂时):name.rstrip() 删除左边空格(暂时):name.lstrip() 删除前缀(暂时):name.removeprefi…...

Ubuntu磁盘不足扩容
1.问题 Ubuntu磁盘不足扩容 2.解决方法 安装一下 sudo apt-get install gpartedsudo gparted...

【ROS2】spin、spinOnce、spin_some、spin_until_future_complete
1、简述 spinOnce仅处理一个回调函数(ROS1); spin_some类似于ROS1的spinOnce,但处理多个任务,然后返回(ROS2); spin会持续处理回调函数直到无任务,然后阻塞(ROS1、ROS2); 注意: 只有消息推送(publisher)功能的程序,不需要使用spin_some(),因为它不执行任何回…...

化繁为简:中介者模式如何管理复杂对象交互
化繁为简:中介者模式如何管理复杂对象交互 中介者模式 是一种行为型设计模式,定义了一个中介者对象,来封装一组对象之间的交互。中介者模式通过将对象之间的交互行为从多个对象中抽离出来,集中封装在一个中介者对象中,…...

控制STM32蜂鸣器示例代码(江科大)
以下代码来源于本人学习江科大的课程,这是一个简单的STM32微控制器程序,用于控制连接到GPIOB第12号引脚的蜂鸣器。程序通过GPIOB的第12号引脚输出PWM波形来控制蜂鸣器的频率,从而产生声音。 #include "stm32f10x.h" …...

Java基础知识扫盲
目录 Arrays.sort的底层实现 BigDecimal(double)和BigDecimal(String)有什么区别 Char可以存储一个汉字吗 Java中的Timer定时调度任务是咋实现的 Java中的序列化机制是咋实现的 Java中的注解是干嘛的 Arrays.sort的底层实现 Arrays.sort是Java中提供的对数组进行排序的…...

ZLMediaKit Windows编译以及使用
1.运行ZLMediaKit 2.通过ffmpeg把视频源推流给ZLMediaKit 执行以下命令,将本地视频通过RTSP协议推流给ZLMediaKit。 ffmpeg -re -stream_loop -1 -i "D:\workplace\armgb\public\1.fileh264" -vcodec h264 -f rtsp rtsp://127.0.0.1/live/test 若想将本…...

基于YOLOv5s的无人机航拍输电线瓷瓶检测(附数据集与操作步骤)
本文主要内容:详细介绍了无人机航拍输电线瓷瓶检测的整个过程,从创建数据集到训练模型再到预测结果全部可视化操作与分析。 文末有数据集获取方式,请先看检测效果 现状 输电线路绝缘瓷瓶的检测主要依赖人工巡检。巡检人员需携带专业设备,攀…...

【Python百日进阶-Web开发-FastAPI】Day805 - FastAPI的请求体
文章目录 一、导入 Pydantic 的 BaseModel二、创建数据模型三、声明为参数四、结果五、自动化文档六、编辑器支持七、使用模型八、请求体 + 路径参数九、请求体 + 路径参数 + 查询参数十、不使用 Pydantichttps://fastapi.tiangolo.com/zh/tutorial/body/ 当你需要将数据从客户…...