【Redis】Redis 缓存设计:抗住百万并发量的最佳实践
目录
- 1. Redis 缓存设计原则
- 1.1 高可用性
- 1.2 数据一致性
- 1.3 读写分离
- 2. 缓存策略
- 2.1 常用缓存策略
- 2.1.1 缓存穿透
- 2.1.2 缓存雪崩
- 2.1.3 缓存击穿
- 2.2 额外缓存策略
- 2.2.1 更新策略
- 2.2.2 预热策略
- 2.2.3 侧写缓存
- 3. Redis 架构设计
- 3.1 单机 vs 集群
- 3.2 Redis 集群示例架构
- 4. 性能优化
- 4.1 使用 Redis 数据结构
- 4.2 缓存失效策略
- 4.3 示例:使用哈希存储用户信息
- 5. 性能测试
- 6. Redis 抗住百万并发量的实践
- 结论
在高并发场景下,Redis 作为一种高性能的内存数据库,能够提供快速的数据访问能力,有效减轻后端数据库的压力,能有效支持高并发场景。本文将深入探讨如何设计 Redis 缓存,以帮助实现支持百万级并发处理,包括Redis 缓存的设计原则、策略、架构示例、优化技巧及性能测试。
1. Redis 缓存设计原则
1.1 高可用性
确保 Redis 集群的高可用性,可以通过主从复制和哨兵模式来避免单点故障,从而提高系统的稳定性。
1.2 数据一致性
根据业务需求选择合适的一致性模型,例如使用乐观锁等机制来处理并发写入,确保数据的准确性。
1.3 读写分离
通过缓存分担读取压力,实现读写分离,优化数据库的负载均衡。
2. 缓存策略
缓存策略是确保 Redis 能够高效处理请求的关键。以下是详细的缓存策略及其操作示例:
2.1 常用缓存策略
策略 | 描述 |
---|---|
缓存穿透 | 使用布隆过滤器防止对不存在的数据频繁查询数据库,减少不必要的请求。 |
缓存雪崩 | 设置不同的过期时间,避免大量缓存同时失效导致的请求冲击。 |
缓存击穿 | 使用互斥锁,在高并发下确保同一时间只有一个请求查询数据库,避免多个请求同时查询。 |
2.1.1 缓存穿透
描述:缓存穿透指的是对不存在的数据进行频繁请求,这会导致直接访问数据库。
解决方案:使用布隆过滤器,拦截对不存在数据的请求。
示例:
from redis import Redis
from pybloom_live import BloomFilterredis = Redis()
bloom = BloomFilter(capacity=100000, error_rate=0.001)def query_user(user_id):if user_id in bloom:user = redis.get(user_id)if user:return userreturn None
2.1.2 缓存雪崩
描述:大量缓存同时失效,导致瞬间请求涌入数据库。
解决方案:为不同数据设置随机的过期时间。
示例:
import randomdef set_user_cache(user_id, user_data):ttl = random.randint(300, 600) # 设置随机的过期时间redis.setex(user_id, ttl, user_data)
2.1.3 缓存击穿
描述:热点数据在过期后被大量请求同时访问数据库。
解决方案:使用互斥锁,确保同一时间只有一个请求访问数据库。
示例:
import threadinglock = threading.Lock()def get_user(user_id):user = redis.get(user_id)if user is None:with lock:user = redis.get(user_id) # 再次检查if user is None:user = db_query(user_id) # 从数据库获取redis.set(user_id, user)return user
2.2 额外缓存策略
策略 | 描述 |
---|---|
更新策略 | 根据业务场景选择合适的更新策略,如主动更新、被动更新或定时更新。 |
预热策略 | 在系统启动时提前加载热点数据到缓存,以减少初始访问延迟。 |
侧写缓存 | 将请求结果直接写入缓存,在更新数据库时同时更新缓存,降低读延迟。 |
分层缓存 | 在不同层级使用不同的缓存(如本地缓存、Redis),提高访问速度。 |
2.2.1 更新策略
根据业务需求选择合适的更新策略,如主动更新(每次更新都更新缓存)或被动更新(缓存失效时更新)。
示例:
def update_user(user_id, user_data):redis.hset(user_id, mapping=user_data)db_update(user_id, user_data) # 更新数据库
2.2.2 预热策略
在系统启动时提前加载热点数据,减少初始访问延迟。
示例:
def preload_hot_data():hot_data = db_get_hot_data()for item in hot_data:redis.set(item['id'], item['data'])
2.2.3 侧写缓存
将请求结果直接写入缓存,降低后续读取的延迟。
示例:
def fetch_and_cache_user(user_id):user_data = db_query(user_id)redis.set(user_id, user_data)
3. Redis 架构设计
3.1 单机 vs 集群
架构类型 | 适用场景 | 优缺点 |
---|---|---|
单机 | 小型应用或开发环境 | 简单,易于管理,但存在单点故障。 |
集群 | 高并发、高可用场景 | 支持分片,能处理更高的请求量,但配置复杂。 |
3.2 Redis 集群示例架构
+------------+| Client |+------+-----+|+--------------------+--------------------+| |+-----v-----+ +----v-----+| Redis 1 | | Redis 2 |+-----------+ +-----------+| |+-----v-----+ +----v-----+| Master | | Master |+-----------+ +-----------+| |+-----v-----+ +----v-----+| Slave | | Slave |+-----------+ +-----------+
4. 性能优化
4.1 使用 Redis 数据结构
选择适当的数据结构能够有效提升性能:
数据结构 | 优势 |
---|---|
String | 适合简单的键值存储,性能极高。 |
List | 适合实现消息队列和任务队列。 |
Set | 支持集合运算,适合去重场景。 |
Hash | 节省内存,适合存储对象的属性。 |
4.2 缓存失效策略
- 设置合理的 TTL:对热点数据设置较长的 TTL,避免频繁访问。
- 定期清理过期数据:使用 Redis 的定时任务,定期扫描并清理过期缓存。
4.3 示例:使用哈希存储用户信息
# 存储用户信息
user_id = "user:1001"
redis.hset(user_id, mapping={"name": "Alice","age": 30,"email": "alice@example.com"
})# 获取用户信息
user_info = redis.hgetall(user_id)
5. 性能测试
使用工具如 redis-benchmark
或 Apache JMeter
进行高并发性能测试,记录以下指标:
指标 | 描述 |
---|---|
吞吐量 | 每秒请求数(QPS) |
响应时间 | 平均响应时间(ms) |
错误率 | 失败请求占比 |
示例测试命令:
# 使用 redis-benchmark 进行测试
redis-benchmark -h localhost -p 6379 -c 100 -n 10000
6. Redis 抗住百万并发量的实践
为了确保 Redis 能够处理百万级并发量,可以采取以下措施:
- 集群部署:使用 Redis 集群模式,水平扩展 Redis 实例,分片数据。
- 持久化机制:结合 RDB 和 AOF 持久化方式,确保数据不丢失。
- 监控与调优:使用 Redis 监控工具,实时监控性能指标,根据数据访问情况进行调优。
- 优化网络配置:合理配置网络带宽和延迟,降低访问延迟。
结论
通过合理设计 Redis 缓存,结合多种缓存策略、架构和性能优化,能够有效支撑百万级并发量的需求。不断监控系统性能并进行优化,是确保高可用性和高性能的关键。希望这些实践能够为您的 Redis 应用提供有价值的指导。如有疑问或建议,欢迎交流!
相关文章:
【Redis】Redis 缓存设计:抗住百万并发量的最佳实践
目录 1. Redis 缓存设计原则1.1 高可用性1.2 数据一致性1.3 读写分离 2. 缓存策略2.1 常用缓存策略2.1.1 缓存穿透2.1.2 缓存雪崩2.1.3 缓存击穿 2.2 额外缓存策略2.2.1 更新策略2.2.2 预热策略2.2.3 侧写缓存 3. Redis 架构设计3.1 单机 vs 集群3.2 Redis 集群示例架构 4. 性能…...

【hot100-java】【缺失的第一个正数】
R9-普通数组篇 class Solution {public int firstMissingPositive(int[] nums) {int nnums.length;for (int i0;i<n;i){while(nums[i]>0&&nums[i]<n&&nums[nums[i]-1]!nums[i]){//交换nums[i]和nums[nums[i]-1]int temp nums[nums[i]-1];nums[nums[i]…...
独立站新手教程转化篇:如何做好移动端优化?
随着移动设备在全球范围内的普及,越来越多消费者选择通过手机或平板电脑,来进行线上购物。因此移动端优化,因此移动端优化,也成为独立站卖家必须重视的一个关键环节。那么独立站移动端需要做好哪些优化工作呢? 选择响…...

Mybatis Plus分页查询返回total为0问题
Mybatis Plus分页查询返回total为0问题 一日,乌云密布,本人看着mybatis plus的官方文档,随手写了个分页查询,如下 Page<Question> questionPage questionService.page(new Page<>(current, size),questionService.g…...

VulnHub-Narak靶机笔记
Narak靶机笔记 概述 Narak是一台Vulnhub的靶机,其中有简单的tftp和webdav的利用,以及motd文件的一些知识 靶机地址: https://pan.baidu.com/s/1PbPrGJQHxsvGYrAN1k1New?pwda7kv 提取码: a7kv 当然你也可以去Vulnhub官网下载 一、nmap扫…...
查看和升级pytorch到指定版本
文章目录 查看和升级pytorch到指定版本查看pytorch的版本python 命令查看pytorch的版本使用pip 命令查看当前安装的PyTorch版本升级PyTorch到指定版本 升级到特定的版本 查看和升级pytorch到指定版本 查看pytorch的版本 python 命令查看pytorch的版本 通过Python的包管理工具…...

Maya---机械模型制作
材质效果(4)_哔哩哔哩_bilibili 三角面 四边面 多边面 *游戏允许出现三角面和四边面 游戏中一般是低模(几千个面) 动漫及影视是高模 机械由单独零件组合而成,需独立制作 低面模型到高面模型 卡线是为了将模型保…...

请不要在TS中使用Function类型
在 TypeScript 中,避免使用 Function 作为类型。Function 代表的是“任意类型的函数”,这会带来类型安全问题。对于绝大多数情况,你可能更希望明确地指定函数的参数和返回值类型。 如果你确实想表达一个可以接收任意数量参数并返回任意类型的…...

关于UVM仿真error数量达到指定值就退出仿真的设置
1. 问题描述 在某项目调试过程中,发现通过tc_base.sv中new函数里的set_report_max_quit_count()设置最大error数量不生效,uvm_error数量仍旧是达到10个(默认)就会退出仿真。 2. 设置uvm_error到达一定数量结束仿真的方式 由白皮…...
chatGPT问答知识合集【二】
Redis 架构说明 Redis 是一个开源的内存数据库,它也可以持久化到磁盘。以下是 Redis 的典型架构说明:### Redis 架构组件:1. **客户端**:与 Redis 服务器进行通信的应用程序或客户端库。2. **Redis 服务器**:执行实际…...

不靠学历,不拼年资,怎么才能月入2W?
之前统计局发布了《2023年城镇单位就业人员年平均工资情况》,2023年全国城镇非私营单位和私营单位就业人员年平均工资分别为120698元和68340元。也就是说在去年非私营单位就业人员平均月薪1W,而私营单位就业人员平均月薪只有5.7K左右。 图源:…...
【软考】多核CPU
目录 1. 说明 1. 说明 1.核心又称为内核,是 CPU 最重要的组成部分。2.CPU 中心那块隆起的芯片就是核心,是由单品硅以一定的生产工艺制造出来的,CPU 所有的计算、接收/存储命令、处理数据都由核心执行。3.各种 CPU 核心都具有固定的逻辑结构&…...

制作炫酷个人网页:用 HTML 和 CSS3 展现你的风格
你是否觉得自己的网站应该看起来更炫酷?今天我将教你如何使用 HTML 和 CSS3 制作一个拥有炫酷动画和现代设计风格的个人网页,让它在任何设备上看起来都无敌酷炫! 哈哈哈哈哈哈哈哈,我感觉自己有点中二哈哈哈哈~ 目录 炫酷设计理念构建 HTML …...

WinCC中归档数据片段的时间和尺寸设置
1.归档数据片段介绍工控人加入PLC工业自动化精英社群 1.1 概述 WinCC V6.2 开始的后台数据库采用了MS SQL Server 2005 ,所以归档方式与V5 有所不同,它的运行数据存放在数据片段(segment)当中,工程师可以…...

kubernetes网络(二)之bird实现节点间BGP互联的实验
摘要 上一篇文章中我们学习了calico的原理,kubernetes中的node节点,利用 calico 的 bird 程序相互学习路由,为了加深对 bird 程序的认识,本文我们将使用bird进行实验,实验中实现了BGP FULL MESH模式让宿主相互学习到对…...
动态语言? 静态语言? ------区别何在?java,js,c,c++,python分给是静态or动态语言?
JavaScript 被称为动态语言,而 Java 被称为静态语言 这主要与它们在类型系统、编译执行方式以及运行时行为等方面的不同特性有关。详细差异如下: JavaScript (动态语言) 动态类型: 在JavaScript中,变量的类型是在运行时确定的。这…...

计算机网络17——IM聊天系统——客户端核心处理类框架搭建
目的 拆开客户端和服务端,使用Qt实现客户端,VS实现服务端 Qt创建项目 Qt文件类型 .pro文件:配置文件,决定了哪些文件参与编译,怎样参与编译 .h .cpp .ui:画图文件 Qt编码方式 Qt使用utf-8作为编码方…...
C/C++面试题
关键字 1."#","##"的用法 #是字符串转换符,##是字符串连接符;发生在预处理阶段; 2.volatile的含义 防止编译器优化,告诉编译器每次都去真实地址中读取,而不是从寄存器或者缓存中&a…...

[3]Opengl ES着色器
术语: VertexShader:顶点着色器,用来描述图形图像位置的顶点坐标; FragmentShader:片元着色器,用来给顶点指定的区域进行着色; Vertex:顶点 Texture:纹理…...

Spring Boot 中实现任务后台处理的几种常见方式
博客主页: 南来_北往 系列专栏:Spring Boot实战 前言 在现代应用程序中,后台处理对于处理发送电子邮件、处理文件、生成报告等任务至关重要。 Spring Boot 提供了多种机制来高效地实现后台任务。本文探讨了在 Spring Boot 中处理后台处理的各…...

XCTF-web-easyupload
试了试php,php7,pht,phtml等,都没有用 尝试.user.ini 抓包修改将.user.ini修改为jpg图片 在上传一个123.jpg 用蚁剑连接,得到flag...
云原生核心技术 (7/12): K8s 核心概念白话解读(上):Pod 和 Deployment 究竟是什么?
大家好,欢迎来到《云原生核心技术》系列的第七篇! 在上一篇,我们成功地使用 Minikube 或 kind 在自己的电脑上搭建起了一个迷你但功能完备的 Kubernetes 集群。现在,我们就像一个拥有了一块崭新数字土地的农场主,是时…...

51c自动驾驶~合集58
我自己的原文哦~ https://blog.51cto.com/whaosoft/13967107 #CCA-Attention 全局池化局部保留,CCA-Attention为LLM长文本建模带来突破性进展 琶洲实验室、华南理工大学联合推出关键上下文感知注意力机制(CCA-Attention),…...

23-Oracle 23 ai 区块链表(Blockchain Table)
小伙伴有没有在金融强合规的领域中遇见,必须要保持数据不可变,管理员都无法修改和留痕的要求。比如医疗的电子病历中,影像检查检验结果不可篡改行的,药品追溯过程中数据只可插入无法删除的特性需求;登录日志、修改日志…...

安宝特方案丨XRSOP人员作业标准化管理平台:AR智慧点检验收套件
在选煤厂、化工厂、钢铁厂等过程生产型企业,其生产设备的运行效率和非计划停机对工业制造效益有较大影响。 随着企业自动化和智能化建设的推进,需提前预防假检、错检、漏检,推动智慧生产运维系统数据的流动和现场赋能应用。同时,…...
关于 WASM:1. WASM 基础原理
一、WASM 简介 1.1 WebAssembly 是什么? WebAssembly(WASM) 是一种能在现代浏览器中高效运行的二进制指令格式,它不是传统的编程语言,而是一种 低级字节码格式,可由高级语言(如 C、C、Rust&am…...
Unit 1 深度强化学习简介
Deep RL Course ——Unit 1 Introduction 从理论和实践层面深入学习深度强化学习。学会使用知名的深度强化学习库,例如 Stable Baselines3、RL Baselines3 Zoo、Sample Factory 和 CleanRL。在独特的环境中训练智能体,比如 SnowballFight、Huggy the Do…...

NXP S32K146 T-Box 携手 SD NAND(贴片式TF卡):驱动汽车智能革新的黄金组合
在汽车智能化的汹涌浪潮中,车辆不再仅仅是传统的交通工具,而是逐步演变为高度智能的移动终端。这一转变的核心支撑,来自于车内关键技术的深度融合与协同创新。车载远程信息处理盒(T-Box)方案:NXP S32K146 与…...

GitFlow 工作模式(详解)
今天再学项目的过程中遇到使用gitflow模式管理代码,因此进行学习并且发布关于gitflow的一些思考 Git与GitFlow模式 我们在写代码的时候通常会进行网上保存,无论是github还是gittee,都是一种基于git去保存代码的形式,这样保存代码…...

如何更改默认 Crontab 编辑器 ?
在 Linux 领域中,crontab 是您可能经常遇到的一个术语。这个实用程序在类 unix 操作系统上可用,用于调度在预定义时间和间隔自动执行的任务。这对管理员和高级用户非常有益,允许他们自动执行各种系统任务。 编辑 Crontab 文件通常使用文本编…...