当前位置: 首页 > news >正文

【Redis】Redis 缓存设计:抗住百万并发量的最佳实践

目录

  • 1. Redis 缓存设计原则
    • 1.1 高可用性
    • 1.2 数据一致性
    • 1.3 读写分离
  • 2. 缓存策略
    • 2.1 常用缓存策略
      • 2.1.1 缓存穿透
      • 2.1.2 缓存雪崩
      • 2.1.3 缓存击穿
    • 2.2 额外缓存策略
      • 2.2.1 更新策略
      • 2.2.2 预热策略
      • 2.2.3 侧写缓存
  • 3. Redis 架构设计
    • 3.1 单机 vs 集群
    • 3.2 Redis 集群示例架构
  • 4. 性能优化
    • 4.1 使用 Redis 数据结构
    • 4.2 缓存失效策略
    • 4.3 示例:使用哈希存储用户信息
  • 5. 性能测试
  • 6. Redis 抗住百万并发量的实践
  • 结论

在高并发场景下,Redis 作为一种高性能的内存数据库,能够提供快速的数据访问能力,有效减轻后端数据库的压力,能有效支持高并发场景。本文将深入探讨如何设计 Redis 缓存,以帮助实现支持百万级并发处理,包括Redis 缓存的设计原则、策略、架构示例、优化技巧及性能测试。

1. Redis 缓存设计原则

1.1 高可用性

确保 Redis 集群的高可用性,可以通过主从复制和哨兵模式来避免单点故障,从而提高系统的稳定性。

1.2 数据一致性

根据业务需求选择合适的一致性模型,例如使用乐观锁等机制来处理并发写入,确保数据的准确性。

1.3 读写分离

通过缓存分担读取压力,实现读写分离,优化数据库的负载均衡。

2. 缓存策略

缓存策略是确保 Redis 能够高效处理请求的关键。以下是详细的缓存策略及其操作示例:

2.1 常用缓存策略

策略描述
缓存穿透使用布隆过滤器防止对不存在的数据频繁查询数据库,减少不必要的请求。
缓存雪崩设置不同的过期时间,避免大量缓存同时失效导致的请求冲击。
缓存击穿使用互斥锁,在高并发下确保同一时间只有一个请求查询数据库,避免多个请求同时查询。

2.1.1 缓存穿透

描述:缓存穿透指的是对不存在的数据进行频繁请求,这会导致直接访问数据库。

解决方案:使用布隆过滤器,拦截对不存在数据的请求。

示例

from redis import Redis
from pybloom_live import BloomFilterredis = Redis()
bloom = BloomFilter(capacity=100000, error_rate=0.001)def query_user(user_id):if user_id in bloom:user = redis.get(user_id)if user:return userreturn None

2.1.2 缓存雪崩

描述:大量缓存同时失效,导致瞬间请求涌入数据库。

解决方案:为不同数据设置随机的过期时间。

示例

import randomdef set_user_cache(user_id, user_data):ttl = random.randint(300, 600)  # 设置随机的过期时间redis.setex(user_id, ttl, user_data)

2.1.3 缓存击穿

描述:热点数据在过期后被大量请求同时访问数据库。

解决方案:使用互斥锁,确保同一时间只有一个请求访问数据库。

示例

import threadinglock = threading.Lock()def get_user(user_id):user = redis.get(user_id)if user is None:with lock:user = redis.get(user_id)  # 再次检查if user is None:user = db_query(user_id)  # 从数据库获取redis.set(user_id, user)return user

2.2 额外缓存策略

策略描述
更新策略根据业务场景选择合适的更新策略,如主动更新、被动更新或定时更新。
预热策略在系统启动时提前加载热点数据到缓存,以减少初始访问延迟。
侧写缓存将请求结果直接写入缓存,在更新数据库时同时更新缓存,降低读延迟。
分层缓存在不同层级使用不同的缓存(如本地缓存、Redis),提高访问速度。

2.2.1 更新策略

根据业务需求选择合适的更新策略,如主动更新(每次更新都更新缓存)或被动更新(缓存失效时更新)。

示例

def update_user(user_id, user_data):redis.hset(user_id, mapping=user_data)db_update(user_id, user_data)  # 更新数据库

2.2.2 预热策略

在系统启动时提前加载热点数据,减少初始访问延迟。

示例

def preload_hot_data():hot_data = db_get_hot_data()for item in hot_data:redis.set(item['id'], item['data'])

2.2.3 侧写缓存

将请求结果直接写入缓存,降低后续读取的延迟。

示例

def fetch_and_cache_user(user_id):user_data = db_query(user_id)redis.set(user_id, user_data)

3. Redis 架构设计

3.1 单机 vs 集群

架构类型适用场景优缺点
单机小型应用或开发环境简单,易于管理,但存在单点故障。
集群高并发、高可用场景支持分片,能处理更高的请求量,但配置复杂。

3.2 Redis 集群示例架构

                          +------------+|   Client   |+------+-----+|+--------------------+--------------------+|                                         |+-----v-----+                              +----v-----+|  Redis 1  |                              |  Redis 2  |+-----------+                              +-----------+|                                         |+-----v-----+                              +----v-----+|   Master   |                              |   Master  |+-----------+                              +-----------+|                                         |+-----v-----+                              +----v-----+|   Slave    |                              |   Slave   |+-----------+                              +-----------+

4. 性能优化

4.1 使用 Redis 数据结构

选择适当的数据结构能够有效提升性能:

数据结构优势
String适合简单的键值存储,性能极高。
List适合实现消息队列和任务队列。
Set支持集合运算,适合去重场景。
Hash节省内存,适合存储对象的属性。

4.2 缓存失效策略

  • 设置合理的 TTL:对热点数据设置较长的 TTL,避免频繁访问。
  • 定期清理过期数据:使用 Redis 的定时任务,定期扫描并清理过期缓存。

4.3 示例:使用哈希存储用户信息

# 存储用户信息
user_id = "user:1001"
redis.hset(user_id, mapping={"name": "Alice","age": 30,"email": "alice@example.com"
})# 获取用户信息
user_info = redis.hgetall(user_id)

5. 性能测试

使用工具如 redis-benchmarkApache JMeter 进行高并发性能测试,记录以下指标:

指标描述
吞吐量每秒请求数(QPS)
响应时间平均响应时间(ms)
错误率失败请求占比

示例测试命令:

# 使用 redis-benchmark 进行测试
redis-benchmark -h localhost -p 6379 -c 100 -n 10000

6. Redis 抗住百万并发量的实践

为了确保 Redis 能够处理百万级并发量,可以采取以下措施:

  1. 集群部署:使用 Redis 集群模式,水平扩展 Redis 实例,分片数据。
  2. 持久化机制:结合 RDB 和 AOF 持久化方式,确保数据不丢失。
  3. 监控与调优:使用 Redis 监控工具,实时监控性能指标,根据数据访问情况进行调优。
  4. 优化网络配置:合理配置网络带宽和延迟,降低访问延迟。

结论

通过合理设计 Redis 缓存,结合多种缓存策略、架构和性能优化,能够有效支撑百万级并发量的需求。不断监控系统性能并进行优化,是确保高可用性和高性能的关键。希望这些实践能够为您的 Redis 应用提供有价值的指导。如有疑问或建议,欢迎交流!


相关文章:

【Redis】Redis 缓存设计:抗住百万并发量的最佳实践

目录 1. Redis 缓存设计原则1.1 高可用性1.2 数据一致性1.3 读写分离 2. 缓存策略2.1 常用缓存策略2.1.1 缓存穿透2.1.2 缓存雪崩2.1.3 缓存击穿 2.2 额外缓存策略2.2.1 更新策略2.2.2 预热策略2.2.3 侧写缓存 3. Redis 架构设计3.1 单机 vs 集群3.2 Redis 集群示例架构 4. 性能…...

【hot100-java】【缺失的第一个正数】

R9-普通数组篇 class Solution {public int firstMissingPositive(int[] nums) {int nnums.length;for (int i0;i<n;i){while(nums[i]>0&&nums[i]<n&&nums[nums[i]-1]!nums[i]){//交换nums[i]和nums[nums[i]-1]int temp nums[nums[i]-1];nums[nums[i]…...

独立站新手教程转化篇:如何做好移动端优化?

随着移动设备在全球范围内的普及&#xff0c;越来越多消费者选择通过手机或平板电脑&#xff0c;来进行线上购物。因此移动端优化&#xff0c;因此移动端优化&#xff0c;也成为独立站卖家必须重视的一个关键环节。那么独立站移动端需要做好哪些优化工作呢&#xff1f; 选择响…...

Mybatis Plus分页查询返回total为0问题

Mybatis Plus分页查询返回total为0问题 一日&#xff0c;乌云密布&#xff0c;本人看着mybatis plus的官方文档&#xff0c;随手写了个分页查询&#xff0c;如下 Page<Question> questionPage questionService.page(new Page<>(current, size),questionService.g…...

VulnHub-Narak靶机笔记

Narak靶机笔记 概述 Narak是一台Vulnhub的靶机&#xff0c;其中有简单的tftp和webdav的利用&#xff0c;以及motd文件的一些知识 靶机地址&#xff1a; https://pan.baidu.com/s/1PbPrGJQHxsvGYrAN1k1New?pwda7kv 提取码: a7kv 当然你也可以去Vulnhub官网下载 一、nmap扫…...

查看和升级pytorch到指定版本

文章目录 查看和升级pytorch到指定版本查看pytorch的版本python 命令查看pytorch的版本使用pip 命令查看当前安装的PyTorch版本升级PyTorch到指定版本 升级到特定的版本 查看和升级pytorch到指定版本 查看pytorch的版本 python 命令查看pytorch的版本 通过Python的包管理工具…...

Maya---机械模型制作

材质效果&#xff08;4&#xff09;_哔哩哔哩_bilibili 三角面 四边面 多边面 *游戏允许出现三角面和四边面 游戏中一般是低模&#xff08;几千个面&#xff09; 动漫及影视是高模 机械由单独零件组合而成&#xff0c;需独立制作 低面模型到高面模型 卡线是为了将模型保…...

请不要在TS中使用Function类型

在 TypeScript 中&#xff0c;避免使用 Function 作为类型。Function 代表的是“任意类型的函数”&#xff0c;这会带来类型安全问题。对于绝大多数情况&#xff0c;你可能更希望明确地指定函数的参数和返回值类型。 如果你确实想表达一个可以接收任意数量参数并返回任意类型的…...

关于UVM仿真error数量达到指定值就退出仿真的设置

1. 问题描述 在某项目调试过程中&#xff0c;发现通过tc_base.sv中new函数里的set_report_max_quit_count()设置最大error数量不生效&#xff0c;uvm_error数量仍旧是达到10个&#xff08;默认&#xff09;就会退出仿真。 2. 设置uvm_error到达一定数量结束仿真的方式 由白皮…...

chatGPT问答知识合集【二】

Redis 架构说明 Redis 是一个开源的内存数据库&#xff0c;它也可以持久化到磁盘。以下是 Redis 的典型架构说明&#xff1a;### Redis 架构组件&#xff1a;1. **客户端**&#xff1a;与 Redis 服务器进行通信的应用程序或客户端库。2. **Redis 服务器**&#xff1a;执行实际…...

不靠学历,不拼年资,怎么才能月入2W?

之前统计局发布了《2023年城镇单位就业人员年平均工资情况》&#xff0c;2023年全国城镇非私营单位和私营单位就业人员年平均工资分别为120698元和68340元。也就是说在去年非私营单位就业人员平均月薪1W&#xff0c;而私营单位就业人员平均月薪只有5.7K左右。 图源&#xff1a;…...

【软考】多核CPU

目录 1. 说明 1. 说明 1.核心又称为内核&#xff0c;是 CPU 最重要的组成部分。2.CPU 中心那块隆起的芯片就是核心&#xff0c;是由单品硅以一定的生产工艺制造出来的&#xff0c;CPU 所有的计算、接收/存储命令、处理数据都由核心执行。3.各种 CPU 核心都具有固定的逻辑结构&…...

制作炫酷个人网页:用 HTML 和 CSS3 展现你的风格

你是否觉得自己的网站应该看起来更炫酷&#xff1f;今天我将教你如何使用 HTML 和 CSS3 制作一个拥有炫酷动画和现代设计风格的个人网页&#xff0c;让它在任何设备上看起来都无敌酷炫&#xff01; 哈哈哈哈哈哈哈哈,我感觉自己有点中二哈哈哈哈~ 目录 炫酷设计理念构建 HTML …...

WinCC中归档数据片段的时间和尺寸设置

1&#xff0e;归档数据片段介绍工控人加入PLC工业自动化精英社群 1.1 概述 WinCC V6.2 开始的后台数据库采用了MS SQL Server 2005 &#xff0c;所以归档方式与V5 有所不同&#xff0c;它的运行数据存放在数据片段&#xff08;segment&#xff09;当中&#xff0c;工程师可以…...

kubernetes网络(二)之bird实现节点间BGP互联的实验

摘要 上一篇文章中我们学习了calico的原理&#xff0c;kubernetes中的node节点&#xff0c;利用 calico 的 bird 程序相互学习路由&#xff0c;为了加深对 bird 程序的认识&#xff0c;本文我们将使用bird进行实验&#xff0c;实验中实现了BGP FULL MESH模式让宿主相互学习到对…...

动态语言? 静态语言? ------区别何在?java,js,c,c++,python分给是静态or动态语言?

JavaScript 被称为动态语言&#xff0c;而 Java 被称为静态语言 这主要与它们在类型系统、编译执行方式以及运行时行为等方面的不同特性有关。详细差异如下&#xff1a; JavaScript (动态语言) 动态类型&#xff1a; 在JavaScript中&#xff0c;变量的类型是在运行时确定的。这…...

计算机网络17——IM聊天系统——客户端核心处理类框架搭建

目的 拆开客户端和服务端&#xff0c;使用Qt实现客户端&#xff0c;VS实现服务端 Qt创建项目 Qt文件类型 .pro文件&#xff1a;配置文件&#xff0c;决定了哪些文件参与编译&#xff0c;怎样参与编译 .h .cpp .ui&#xff1a;画图文件 Qt编码方式 Qt使用utf-8作为编码方…...

C/C++面试题

关键字 1."#"&#xff0c;"##"的用法 #是字符串转换符&#xff0c;##是字符串连接符&#xff1b;发生在预处理阶段&#xff1b; 2.volatile的含义 防止编译器优化&#xff0c;告诉编译器每次都去真实地址中读取&#xff0c;而不是从寄存器或者缓存中&a…...

[3]Opengl ES着色器

术语&#xff1a; VertexShader&#xff1a;顶点着色器&#xff0c;用来描述图形图像位置的顶点坐标&#xff1b; FragmentShader&#xff1a;片元着色器&#xff0c;用来给顶点指定的区域进行着色&#xff1b; Vertex&#xff1a;顶点 Texture&#xff1a;纹理…...

Spring Boot 中实现任务后台处理的几种常见方式

​ 博客主页: 南来_北往 系列专栏&#xff1a;Spring Boot实战 前言 在现代应用程序中&#xff0c;后台处理对于处理发送电子邮件、处理文件、生成报告等任务至关重要。 Spring Boot 提供了多种机制来高效地实现后台任务。本文探讨了在 Spring Boot 中处理后台处理的各…...

部署--UmiJS

默认方案 umi2 默认对新手友好&#xff0c;所以默认不做按需加载处理&#xff0c;umi build 后输出 index.html、umi.js 和 umi.css 三个文件。 不输出 html 文件 某些场景 html 文件交给后端输出&#xff0c;前端构建并不需要输出 html 文件&#xff0c;可配置环境变量 HTM…...

python自学笔记

python部分总结 主要记录的是python与之前学的语言的不同之处 函数总结 首字母大写: name.title() 删除右边空格&#xff08;暂时&#xff09;:name.rstrip() 删除左边空格&#xff08;暂时&#xff09;:name.lstrip() 删除前缀&#xff08;暂时&#xff09;:name.removeprefi…...

Ubuntu磁盘不足扩容

1.问题 Ubuntu磁盘不足扩容 2.解决方法 安装一下 sudo apt-get install gpartedsudo gparted...

【ROS2】spin、spinOnce、spin_some、spin_until_future_complete

1、简述 spinOnce仅处理一个回调函数(ROS1); spin_some类似于ROS1的spinOnce,但处理多个任务,然后返回(ROS2); spin会持续处理回调函数直到无任务,然后阻塞(ROS1、ROS2); 注意: 只有消息推送(publisher)功能的程序,不需要使用spin_some(),因为它不执行任何回…...

化繁为简:中介者模式如何管理复杂对象交互

化繁为简&#xff1a;中介者模式如何管理复杂对象交互 中介者模式 是一种行为型设计模式&#xff0c;定义了一个中介者对象&#xff0c;来封装一组对象之间的交互。中介者模式通过将对象之间的交互行为从多个对象中抽离出来&#xff0c;集中封装在一个中介者对象中&#xff0c;…...

控制STM32蜂鸣器示例代码(江科大)

以下代码来源于本人学习江科大的课程&#xff0c;这是一个简单的STM32微控制器程序&#xff0c;用于控制连接到GPIOB第12号引脚的蜂鸣器。程序通过GPIOB的第12号引脚输出PWM波形来控制蜂鸣器的频率&#xff0c;从而产生声音。 #include "stm32f10x.h" …...

Java基础知识扫盲

目录 Arrays.sort的底层实现 BigDecimal(double)和BigDecimal(String)有什么区别 Char可以存储一个汉字吗 Java中的Timer定时调度任务是咋实现的 Java中的序列化机制是咋实现的 Java中的注解是干嘛的 Arrays.sort的底层实现 Arrays.sort是Java中提供的对数组进行排序的…...

ZLMediaKit Windows编译以及使用

1.运行ZLMediaKit 2.通过ffmpeg把视频源推流给ZLMediaKit 执行以下命令&#xff0c;将本地视频通过RTSP协议推流给ZLMediaKit。 ffmpeg -re -stream_loop -1 -i "D:\workplace\armgb\public\1.fileh264" -vcodec h264 -f rtsp rtsp://127.0.0.1/live/test 若想将本…...

基于YOLOv5s的无人机航拍输电线瓷瓶检测(附数据集与操作步骤)

本文主要内容:详细介绍了无人机航拍输电线瓷瓶检测的整个过程&#xff0c;从创建数据集到训练模型再到预测结果全部可视化操作与分析。 文末有数据集获取方式&#xff0c;请先看检测效果 现状 输电线路绝缘瓷瓶的检测主要依赖人工巡检。巡检人员需携带专业设备&#xff0c;攀…...

【Python百日进阶-Web开发-FastAPI】Day805 - FastAPI的请求体

文章目录 一、导入 Pydantic 的 BaseModel二、创建数据模型三、声明为参数四、结果五、自动化文档六、编辑器支持七、使用模型八、请求体 + 路径参数九、请求体 + 路径参数 + 查询参数十、不使用 Pydantichttps://fastapi.tiangolo.com/zh/tutorial/body/ 当你需要将数据从客户…...