当前位置: 首页 > news >正文

【Redis】Redis 缓存设计:抗住百万并发量的最佳实践

目录

  • 1. Redis 缓存设计原则
    • 1.1 高可用性
    • 1.2 数据一致性
    • 1.3 读写分离
  • 2. 缓存策略
    • 2.1 常用缓存策略
      • 2.1.1 缓存穿透
      • 2.1.2 缓存雪崩
      • 2.1.3 缓存击穿
    • 2.2 额外缓存策略
      • 2.2.1 更新策略
      • 2.2.2 预热策略
      • 2.2.3 侧写缓存
  • 3. Redis 架构设计
    • 3.1 单机 vs 集群
    • 3.2 Redis 集群示例架构
  • 4. 性能优化
    • 4.1 使用 Redis 数据结构
    • 4.2 缓存失效策略
    • 4.3 示例:使用哈希存储用户信息
  • 5. 性能测试
  • 6. Redis 抗住百万并发量的实践
  • 结论

在高并发场景下,Redis 作为一种高性能的内存数据库,能够提供快速的数据访问能力,有效减轻后端数据库的压力,能有效支持高并发场景。本文将深入探讨如何设计 Redis 缓存,以帮助实现支持百万级并发处理,包括Redis 缓存的设计原则、策略、架构示例、优化技巧及性能测试。

1. Redis 缓存设计原则

1.1 高可用性

确保 Redis 集群的高可用性,可以通过主从复制和哨兵模式来避免单点故障,从而提高系统的稳定性。

1.2 数据一致性

根据业务需求选择合适的一致性模型,例如使用乐观锁等机制来处理并发写入,确保数据的准确性。

1.3 读写分离

通过缓存分担读取压力,实现读写分离,优化数据库的负载均衡。

2. 缓存策略

缓存策略是确保 Redis 能够高效处理请求的关键。以下是详细的缓存策略及其操作示例:

2.1 常用缓存策略

策略描述
缓存穿透使用布隆过滤器防止对不存在的数据频繁查询数据库,减少不必要的请求。
缓存雪崩设置不同的过期时间,避免大量缓存同时失效导致的请求冲击。
缓存击穿使用互斥锁,在高并发下确保同一时间只有一个请求查询数据库,避免多个请求同时查询。

2.1.1 缓存穿透

描述:缓存穿透指的是对不存在的数据进行频繁请求,这会导致直接访问数据库。

解决方案:使用布隆过滤器,拦截对不存在数据的请求。

示例

from redis import Redis
from pybloom_live import BloomFilterredis = Redis()
bloom = BloomFilter(capacity=100000, error_rate=0.001)def query_user(user_id):if user_id in bloom:user = redis.get(user_id)if user:return userreturn None

2.1.2 缓存雪崩

描述:大量缓存同时失效,导致瞬间请求涌入数据库。

解决方案:为不同数据设置随机的过期时间。

示例

import randomdef set_user_cache(user_id, user_data):ttl = random.randint(300, 600)  # 设置随机的过期时间redis.setex(user_id, ttl, user_data)

2.1.3 缓存击穿

描述:热点数据在过期后被大量请求同时访问数据库。

解决方案:使用互斥锁,确保同一时间只有一个请求访问数据库。

示例

import threadinglock = threading.Lock()def get_user(user_id):user = redis.get(user_id)if user is None:with lock:user = redis.get(user_id)  # 再次检查if user is None:user = db_query(user_id)  # 从数据库获取redis.set(user_id, user)return user

2.2 额外缓存策略

策略描述
更新策略根据业务场景选择合适的更新策略,如主动更新、被动更新或定时更新。
预热策略在系统启动时提前加载热点数据到缓存,以减少初始访问延迟。
侧写缓存将请求结果直接写入缓存,在更新数据库时同时更新缓存,降低读延迟。
分层缓存在不同层级使用不同的缓存(如本地缓存、Redis),提高访问速度。

2.2.1 更新策略

根据业务需求选择合适的更新策略,如主动更新(每次更新都更新缓存)或被动更新(缓存失效时更新)。

示例

def update_user(user_id, user_data):redis.hset(user_id, mapping=user_data)db_update(user_id, user_data)  # 更新数据库

2.2.2 预热策略

在系统启动时提前加载热点数据,减少初始访问延迟。

示例

def preload_hot_data():hot_data = db_get_hot_data()for item in hot_data:redis.set(item['id'], item['data'])

2.2.3 侧写缓存

将请求结果直接写入缓存,降低后续读取的延迟。

示例

def fetch_and_cache_user(user_id):user_data = db_query(user_id)redis.set(user_id, user_data)

3. Redis 架构设计

3.1 单机 vs 集群

架构类型适用场景优缺点
单机小型应用或开发环境简单,易于管理,但存在单点故障。
集群高并发、高可用场景支持分片,能处理更高的请求量,但配置复杂。

3.2 Redis 集群示例架构

                          +------------+|   Client   |+------+-----+|+--------------------+--------------------+|                                         |+-----v-----+                              +----v-----+|  Redis 1  |                              |  Redis 2  |+-----------+                              +-----------+|                                         |+-----v-----+                              +----v-----+|   Master   |                              |   Master  |+-----------+                              +-----------+|                                         |+-----v-----+                              +----v-----+|   Slave    |                              |   Slave   |+-----------+                              +-----------+

4. 性能优化

4.1 使用 Redis 数据结构

选择适当的数据结构能够有效提升性能:

数据结构优势
String适合简单的键值存储,性能极高。
List适合实现消息队列和任务队列。
Set支持集合运算,适合去重场景。
Hash节省内存,适合存储对象的属性。

4.2 缓存失效策略

  • 设置合理的 TTL:对热点数据设置较长的 TTL,避免频繁访问。
  • 定期清理过期数据:使用 Redis 的定时任务,定期扫描并清理过期缓存。

4.3 示例:使用哈希存储用户信息

# 存储用户信息
user_id = "user:1001"
redis.hset(user_id, mapping={"name": "Alice","age": 30,"email": "alice@example.com"
})# 获取用户信息
user_info = redis.hgetall(user_id)

5. 性能测试

使用工具如 redis-benchmarkApache JMeter 进行高并发性能测试,记录以下指标:

指标描述
吞吐量每秒请求数(QPS)
响应时间平均响应时间(ms)
错误率失败请求占比

示例测试命令:

# 使用 redis-benchmark 进行测试
redis-benchmark -h localhost -p 6379 -c 100 -n 10000

6. Redis 抗住百万并发量的实践

为了确保 Redis 能够处理百万级并发量,可以采取以下措施:

  1. 集群部署:使用 Redis 集群模式,水平扩展 Redis 实例,分片数据。
  2. 持久化机制:结合 RDB 和 AOF 持久化方式,确保数据不丢失。
  3. 监控与调优:使用 Redis 监控工具,实时监控性能指标,根据数据访问情况进行调优。
  4. 优化网络配置:合理配置网络带宽和延迟,降低访问延迟。

结论

通过合理设计 Redis 缓存,结合多种缓存策略、架构和性能优化,能够有效支撑百万级并发量的需求。不断监控系统性能并进行优化,是确保高可用性和高性能的关键。希望这些实践能够为您的 Redis 应用提供有价值的指导。如有疑问或建议,欢迎交流!


相关文章:

【Redis】Redis 缓存设计:抗住百万并发量的最佳实践

目录 1. Redis 缓存设计原则1.1 高可用性1.2 数据一致性1.3 读写分离 2. 缓存策略2.1 常用缓存策略2.1.1 缓存穿透2.1.2 缓存雪崩2.1.3 缓存击穿 2.2 额外缓存策略2.2.1 更新策略2.2.2 预热策略2.2.3 侧写缓存 3. Redis 架构设计3.1 单机 vs 集群3.2 Redis 集群示例架构 4. 性能…...

【hot100-java】【缺失的第一个正数】

R9-普通数组篇 class Solution {public int firstMissingPositive(int[] nums) {int nnums.length;for (int i0;i<n;i){while(nums[i]>0&&nums[i]<n&&nums[nums[i]-1]!nums[i]){//交换nums[i]和nums[nums[i]-1]int temp nums[nums[i]-1];nums[nums[i]…...

独立站新手教程转化篇:如何做好移动端优化?

随着移动设备在全球范围内的普及&#xff0c;越来越多消费者选择通过手机或平板电脑&#xff0c;来进行线上购物。因此移动端优化&#xff0c;因此移动端优化&#xff0c;也成为独立站卖家必须重视的一个关键环节。那么独立站移动端需要做好哪些优化工作呢&#xff1f; 选择响…...

Mybatis Plus分页查询返回total为0问题

Mybatis Plus分页查询返回total为0问题 一日&#xff0c;乌云密布&#xff0c;本人看着mybatis plus的官方文档&#xff0c;随手写了个分页查询&#xff0c;如下 Page<Question> questionPage questionService.page(new Page<>(current, size),questionService.g…...

VulnHub-Narak靶机笔记

Narak靶机笔记 概述 Narak是一台Vulnhub的靶机&#xff0c;其中有简单的tftp和webdav的利用&#xff0c;以及motd文件的一些知识 靶机地址&#xff1a; https://pan.baidu.com/s/1PbPrGJQHxsvGYrAN1k1New?pwda7kv 提取码: a7kv 当然你也可以去Vulnhub官网下载 一、nmap扫…...

查看和升级pytorch到指定版本

文章目录 查看和升级pytorch到指定版本查看pytorch的版本python 命令查看pytorch的版本使用pip 命令查看当前安装的PyTorch版本升级PyTorch到指定版本 升级到特定的版本 查看和升级pytorch到指定版本 查看pytorch的版本 python 命令查看pytorch的版本 通过Python的包管理工具…...

Maya---机械模型制作

材质效果&#xff08;4&#xff09;_哔哩哔哩_bilibili 三角面 四边面 多边面 *游戏允许出现三角面和四边面 游戏中一般是低模&#xff08;几千个面&#xff09; 动漫及影视是高模 机械由单独零件组合而成&#xff0c;需独立制作 低面模型到高面模型 卡线是为了将模型保…...

请不要在TS中使用Function类型

在 TypeScript 中&#xff0c;避免使用 Function 作为类型。Function 代表的是“任意类型的函数”&#xff0c;这会带来类型安全问题。对于绝大多数情况&#xff0c;你可能更希望明确地指定函数的参数和返回值类型。 如果你确实想表达一个可以接收任意数量参数并返回任意类型的…...

关于UVM仿真error数量达到指定值就退出仿真的设置

1. 问题描述 在某项目调试过程中&#xff0c;发现通过tc_base.sv中new函数里的set_report_max_quit_count()设置最大error数量不生效&#xff0c;uvm_error数量仍旧是达到10个&#xff08;默认&#xff09;就会退出仿真。 2. 设置uvm_error到达一定数量结束仿真的方式 由白皮…...

chatGPT问答知识合集【二】

Redis 架构说明 Redis 是一个开源的内存数据库&#xff0c;它也可以持久化到磁盘。以下是 Redis 的典型架构说明&#xff1a;### Redis 架构组件&#xff1a;1. **客户端**&#xff1a;与 Redis 服务器进行通信的应用程序或客户端库。2. **Redis 服务器**&#xff1a;执行实际…...

不靠学历,不拼年资,怎么才能月入2W?

之前统计局发布了《2023年城镇单位就业人员年平均工资情况》&#xff0c;2023年全国城镇非私营单位和私营单位就业人员年平均工资分别为120698元和68340元。也就是说在去年非私营单位就业人员平均月薪1W&#xff0c;而私营单位就业人员平均月薪只有5.7K左右。 图源&#xff1a;…...

【软考】多核CPU

目录 1. 说明 1. 说明 1.核心又称为内核&#xff0c;是 CPU 最重要的组成部分。2.CPU 中心那块隆起的芯片就是核心&#xff0c;是由单品硅以一定的生产工艺制造出来的&#xff0c;CPU 所有的计算、接收/存储命令、处理数据都由核心执行。3.各种 CPU 核心都具有固定的逻辑结构&…...

制作炫酷个人网页:用 HTML 和 CSS3 展现你的风格

你是否觉得自己的网站应该看起来更炫酷&#xff1f;今天我将教你如何使用 HTML 和 CSS3 制作一个拥有炫酷动画和现代设计风格的个人网页&#xff0c;让它在任何设备上看起来都无敌酷炫&#xff01; 哈哈哈哈哈哈哈哈,我感觉自己有点中二哈哈哈哈~ 目录 炫酷设计理念构建 HTML …...

WinCC中归档数据片段的时间和尺寸设置

1&#xff0e;归档数据片段介绍工控人加入PLC工业自动化精英社群 1.1 概述 WinCC V6.2 开始的后台数据库采用了MS SQL Server 2005 &#xff0c;所以归档方式与V5 有所不同&#xff0c;它的运行数据存放在数据片段&#xff08;segment&#xff09;当中&#xff0c;工程师可以…...

kubernetes网络(二)之bird实现节点间BGP互联的实验

摘要 上一篇文章中我们学习了calico的原理&#xff0c;kubernetes中的node节点&#xff0c;利用 calico 的 bird 程序相互学习路由&#xff0c;为了加深对 bird 程序的认识&#xff0c;本文我们将使用bird进行实验&#xff0c;实验中实现了BGP FULL MESH模式让宿主相互学习到对…...

动态语言? 静态语言? ------区别何在?java,js,c,c++,python分给是静态or动态语言?

JavaScript 被称为动态语言&#xff0c;而 Java 被称为静态语言 这主要与它们在类型系统、编译执行方式以及运行时行为等方面的不同特性有关。详细差异如下&#xff1a; JavaScript (动态语言) 动态类型&#xff1a; 在JavaScript中&#xff0c;变量的类型是在运行时确定的。这…...

计算机网络17——IM聊天系统——客户端核心处理类框架搭建

目的 拆开客户端和服务端&#xff0c;使用Qt实现客户端&#xff0c;VS实现服务端 Qt创建项目 Qt文件类型 .pro文件&#xff1a;配置文件&#xff0c;决定了哪些文件参与编译&#xff0c;怎样参与编译 .h .cpp .ui&#xff1a;画图文件 Qt编码方式 Qt使用utf-8作为编码方…...

C/C++面试题

关键字 1."#"&#xff0c;"##"的用法 #是字符串转换符&#xff0c;##是字符串连接符&#xff1b;发生在预处理阶段&#xff1b; 2.volatile的含义 防止编译器优化&#xff0c;告诉编译器每次都去真实地址中读取&#xff0c;而不是从寄存器或者缓存中&a…...

[3]Opengl ES着色器

术语&#xff1a; VertexShader&#xff1a;顶点着色器&#xff0c;用来描述图形图像位置的顶点坐标&#xff1b; FragmentShader&#xff1a;片元着色器&#xff0c;用来给顶点指定的区域进行着色&#xff1b; Vertex&#xff1a;顶点 Texture&#xff1a;纹理…...

Spring Boot 中实现任务后台处理的几种常见方式

​ 博客主页: 南来_北往 系列专栏&#xff1a;Spring Boot实战 前言 在现代应用程序中&#xff0c;后台处理对于处理发送电子邮件、处理文件、生成报告等任务至关重要。 Spring Boot 提供了多种机制来高效地实现后台任务。本文探讨了在 Spring Boot 中处理后台处理的各…...

论文解读:交大港大上海AI Lab开源论文 | 宇树机器人多姿态起立控制强化学习框架(二)

HoST框架核心实现方法详解 - 论文深度解读(第二部分) 《Learning Humanoid Standing-up Control across Diverse Postures》 系列文章: 论文深度解读 + 算法与代码分析(二) 作者机构: 上海AI Lab, 上海交通大学, 香港大学, 浙江大学, 香港中文大学 论文主题: 人形机器人…...

关于nvm与node.js

1 安装nvm 安装过程中手动修改 nvm的安装路径&#xff0c; 以及修改 通过nvm安装node后正在使用的node的存放目录【这句话可能难以理解&#xff0c;但接着往下看你就了然了】 2 修改nvm中settings.txt文件配置 nvm安装成功后&#xff0c;通常在该文件中会出现以下配置&…...

JVM垃圾回收机制全解析

Java虚拟机&#xff08;JVM&#xff09;中的垃圾收集器&#xff08;Garbage Collector&#xff0c;简称GC&#xff09;是用于自动管理内存的机制。它负责识别和清除不再被程序使用的对象&#xff0c;从而释放内存空间&#xff0c;避免内存泄漏和内存溢出等问题。垃圾收集器在Ja…...

Psychopy音频的使用

Psychopy音频的使用 本文主要解决以下问题&#xff1a; 指定音频引擎与设备&#xff1b;播放音频文件 本文所使用的环境&#xff1a; Python3.10 numpy2.2.6 psychopy2025.1.1 psychtoolbox3.0.19.14 一、音频配置 Psychopy文档链接为Sound - for audio playback — Psy…...

OPENCV形态学基础之二腐蚀

一.腐蚀的原理 (图1) 数学表达式&#xff1a;dst(x,y) erode(src(x,y)) min(x,y)src(xx,yy) 腐蚀也是图像形态学的基本功能之一&#xff0c;腐蚀跟膨胀属于反向操作&#xff0c;膨胀是把图像图像变大&#xff0c;而腐蚀就是把图像变小。腐蚀后的图像变小变暗淡。 腐蚀…...

【数据分析】R版IntelliGenes用于生物标志物发现的可解释机器学习

禁止商业或二改转载&#xff0c;仅供自学使用&#xff0c;侵权必究&#xff0c;如需截取部分内容请后台联系作者! 文章目录 介绍流程步骤1. 输入数据2. 特征选择3. 模型训练4. I-Genes 评分计算5. 输出结果 IntelliGenesR 安装包1. 特征选择2. 模型训练和评估3. I-Genes 评分计…...

Java求职者面试指南:Spring、Spring Boot、MyBatis框架与计算机基础问题解析

Java求职者面试指南&#xff1a;Spring、Spring Boot、MyBatis框架与计算机基础问题解析 一、第一轮提问&#xff08;基础概念问题&#xff09; 1. 请解释Spring框架的核心容器是什么&#xff1f;它在Spring中起到什么作用&#xff1f; Spring框架的核心容器是IoC容器&#…...

【Nginx】使用 Nginx+Lua 实现基于 IP 的访问频率限制

使用 NginxLua 实现基于 IP 的访问频率限制 在高并发场景下&#xff0c;限制某个 IP 的访问频率是非常重要的&#xff0c;可以有效防止恶意攻击或错误配置导致的服务宕机。以下是一个详细的实现方案&#xff0c;使用 Nginx 和 Lua 脚本结合 Redis 来实现基于 IP 的访问频率限制…...

C#学习第29天:表达式树(Expression Trees)

目录 什么是表达式树&#xff1f; 核心概念 1.表达式树的构建 2. 表达式树与Lambda表达式 3.解析和访问表达式树 4.动态条件查询 表达式树的优势 1.动态构建查询 2.LINQ 提供程序支持&#xff1a; 3.性能优化 4.元数据处理 5.代码转换和重写 适用场景 代码复杂性…...

wpf在image控件上快速显示内存图像

wpf在image控件上快速显示内存图像https://www.cnblogs.com/haodafeng/p/10431387.html 如果你在寻找能够快速在image控件刷新大图像&#xff08;比如分辨率3000*3000的图像&#xff09;的办法&#xff0c;尤其是想把内存中的裸数据&#xff08;只有图像的数据&#xff0c;不包…...