当前位置: 首页 > news >正文

Redis学习[5] ——Redis过期删除和内存淘汰

六、Redis过期键值删除

6.1 Redis的过期键值删除策略

6.1.1 什么是过期键值删除?

Redis中是可以对key设置过期时间的,所以需要有相应的机制将已过期的键值对删除,也就是**过期键值删除策略。Redis会用一个过期字典(expires dict)**来存储有过期时间的所有key。当查询一个key时,Redis会首先会检查这个key是否存在于过期字典中:

  • 不存在,则正常读取键值;
  • 存在,那需要首先获取这个key的过期时间,如果已经过期,则不会获得值;

至于具体去删除这个过期的key,Redis采用了「惰性删除+定期删除」两种策略配合使用。

6.1.2 什么是惰性删除策略?

惰性删除策略:不主动删除过期键,每当从数据库访问key时,如果检测到这个key过期了,则删除这个key。

优点:只有在访问时才会检测,消耗很少的系统资源,对CPU时间友好

缺点:如果一个过期的key一直没有被访问,那么会始终最早数据库内,造成内存空间浪费,对内存不友好

6.1.3 什么是定期删除策略?

定期删除策略:每隔一段时间**「随机」从过期字典中取出一定数量的 key 进行检查,并删除其中的过期key。**

具体流程

  1. 从过期字典中随机选取20个key;
  2. 检查这20个key是否过期,删除已过期的key;
  3. 如果本轮检查的「已过期 key 的数量」占比「随机抽取 key 的数量」大于 25%,则继续重复步骤 1;否则,停止本次删除流程。

可以看到,定期删除是一个循环的流程。那 Redis 为了保证定期删除不会出现循环过度,导致线程卡死现象,为此增加了定期删除循环流程的时间上限,默认不会超过 25ms。

优点:可以限制删除执行的时长和频率,能够同时减少对CPU的影响和减少空间占用;

缺点:难以确定删除操作执行的时长和频率,执行的太频繁对CPU不友好,执行的太少对内存不友好。

可以看到,惰性删除策略和定期删除策略都有各自的优点,所以 Redis 选择「惰性删除+定期删除」这两种策略配和使用,以求在合理使用 CPU 时间和避免内存浪费之间取得平衡。

6.2 Redis持久化时,对过期键是如何处理的?

6.2.1 AOF日志
  • AOF写入阶段:当Redis以AOF模式持久化时,如果数据库内某个键值过期还没有删除,AOF仍然会保留此键值,等过期键值被删除后,Redis会向AOF文件追加一条DEL命令来显式地删除该键值
  • AOF重写阶段:Redis执行AOF重写时,会对键值进行检查,过期的键值不再写入重写后的AOF文件中
6.2.2 RDB快照
  • RDB文件生成阶段:将内存中的数据持久化为RDB文件时,会对key进行过期检查,过期的键值不会保存到RDB文件中

  • RDB文件加载阶段:RDB加载阶段,需要看服务器是主服务器还是从服务器

    • 主服务器:在载入 RDB 文件时,会对文件中保存的key进行检查,过期键「不会」被载入到数据库中。
    • 从服务器不进行过期检查,不论key是否过期,键值都会被载入到数据库中。

    因为从服务器每次通过RDB数据同步时,从服务器都清空本身的所有数据,安装RDB文件的,所以下次就会删掉了,可以不用单独消耗时间来检查。

6.3 Redis主从模式中,对过期键是如何处理的?

Redis运行在主从模式下时,从服务器不会主动去处理过期键。即使从库中的 key 过期了,如果有客户端访问从库时,依然可以得到 key 对应的值,像未过期的键值对一样返回。

从服务器对过期键的处理依赖于主服务器,当主服务器删除某个过期键时,在AOF文件中增加一条命令。同步到所有的从服务器中,从服务器执行相应的命令来删除过期键值。

七、Redis内存淘汰

7.1 Redis运行在内存中,若Redis的内存满了,会发生什么?

Redis的运行内存如果达到了某个阈值,会触发**内存淘汰机制**,这个内存就是用户设置的最大运行内存。Redis提供了多种内存淘汰策略,根据不同的策略来将部分内进行淘汰。

7.2 Redis有哪些内存淘汰策略?

Redis 内存淘汰策略共有八种,这八种策略大体分为**「不进行数据淘汰」「进行数据淘汰」**两类策略。

7.2.1 不进行内存淘汰

noeviction(Redis3.0之后,默认的内存淘汰策略) :它表示当运行内存超过最大设置内存时,不淘汰任何数据,而是不再提供服务,直接返回错误。

7.2.2 进行内存淘汰

针对「进行数据淘汰」这一类策略,又可以细分为**「在设置了过期时间的数据中进行淘汰」「在所有数据范围内进行淘汰**」这两类策略。

  • 在设置了过期时间的数据中进行淘汰
    • volatile-random随机淘汰设置了过期时间的任意键值;
    • volatile-lru:淘汰所有设置了过期时间的键值中,最久未使用的键值;
    • volatile-lfu:淘汰所有设置了过期时间的键值中,最少使用的键值;
  • 在所有数据范围内进行淘汰:
    • allkeys-random:随机淘汰任意键值;
    • allkeys-lru:淘汰整个键值中最久未使用的键值;
    • allkeys-lfu:淘汰整个键值中最少使用的键值;
7.2.3 LRU算法:最近最少使用淘汰策略

传统 LRU 算法的实现是基于「链表」结构,链表中的元素按照操作顺序从前往后排列,最新操作的键会被移动到表头,当需要内存淘汰时,只需要删除链表尾部的元素即可,因为链表尾部的元素就代表最久未被使用的元素。

Redis 并没有使用这样的方式实现 LRU 算法,因为传统的 LRU 算法存在两个问题:

  • 需要用链表管理所有的缓存数据,这会带来额外的空间开销
  • 当有数据被访问时,需要在链表上把该数据移动到头端,如果有大量数据被访问,就会带来很多链表移动操作,会很耗时,进而会降低 Redis 缓存性能。

Redis实现LRU算法的方式?

Redis 实现的是一种近似 LRU 算法,目的是为了更好的节约内存,它的**实现方式是在 Redis 的对象结构体中添加一个额外的字段,用于记录此数据的最后一次访问时间**。

当 Redis 进行内存淘汰时,会使用**随机采样的方式来淘汰数据,它是随机取 5 个值(此值可配置),然后淘汰最久没有使用的那个**。

但是 LRU 算法有一个问题,无法解决缓存污染问题,比如应用一次读取了大量的数据,而这些数据只会被读取这一次,那么这些数据会留存在 Redis 缓存中很长一段时间,造成缓存污染

7.2.4 LFU算法:最近最不常用淘汰策略

LFU 算法会记录每个数据的访问次数。当一个数据被再次访问时,就会增加该数据的访问次数。这样就解决了偶尔被访问一次之后,数据留存在缓存中很长一段时间的问题,相比于 LRU 算法也更合理一些。

Redis实现LFU算法的方式?

LFU 算法相比于 LRU 算法的实现,多记录了**「数据的访问频次」**的信息。

typedef struct redisObject {...// 24 bits,用于记录对象的访问信息(在LRU中只是记录访问时间,LFU中高位16bit记录访问时间 + 低位8bit记录访问频次)unsigned lru:24;  ...
} robj;

在 LFU 算法中,Redis对象头的 24 bits 的 lru 字段被分成两段来存储,高 16bit 存储 ldt(Last Decrement Time),用来记录 key 的访问时间戳;低 8bit 存储 logc(Logistic Counter),用来记录 key 的访问频次

在这里插入图片描述

资料参考

内容大多参考自自:图解Redis介绍 | 小林coding (xiaolincoding.com)

相关文章:

Redis学习[5] ——Redis过期删除和内存淘汰

六、Redis过期键值删除 6.1 Redis的过期键值删除策略 6.1.1 什么是过期键值删除? Redis中是可以对key设置过期时间的,所以需要有相应的机制将已过期的键值对删除,也就是**过期键值删除策略。Redis会用一个过期字典(expires dic…...

书生大模型学习笔记 - Python

Python实现wordcount 请实现一个wordcount函数,统计英文字符串中每个单词出现的次数。返回一个字典,key为单词,value为对应单词出现的次数。 解题思路:首先把字母转小写>然后把单词取出来去除标点>循环单词列表>key已存…...

spring security和核心流程

...

JavaScript青少年简明教程:面向对象编程入门

JavaScript青少年简明教程:面向对象编程入门 JavaScript 支持多种编程范式(programming paradigms),即支持多种不同的编程风格和方法。 前面介绍的编程方式,主要是面向过程编程(Procedural Programming&am…...

电话号的标准

点击标题下「蓝色微信名」可快速关注 最近碰到个电话号码的问题,除了常规数字,可能还会有国内国际的区号,例如中国,86、086、86,这些好像都见过,但什么是标准的?谁来定义的? 国际电信…...

项目实战_表白墙(升级版)

你能学到什么 表白墙(升级版)Mybatis的一些简单应用 正文 前⾯的案例中, 我们写了表⽩墙, 但是⼀旦服务器重启, 数据就会丢失. 要想数据不丢失, 需要把数据存储在数据库中,接下来咱们借助MyBatis来实现数据库的操作。 数据准备 如果我们…...

创意无限:11个设计圈热议的UI设计灵感网站集锦

无论你是一个经验丰富的UI设计师还是一个新的UI设计师,拥有一些高质量、可靠的UI设计网站灵感库都能加速你的设计过程。借助灵感资源,您可以更快、更有效地启动该项目。与此同时,优秀的UI设计网站也能帮助您探索新的设计解决方案,…...

C# Solidworks二次开发------综合小设计-1

一、内容 本文对前面所提及的相关信息做一些小设计 二、代码 public void Open_File(string FileNmae) {Process.Start("explorer.exe", FileNmae); }public void Connect_Excel() {string connectionString "ProviderMicrosoft.Jet.OLEDB.4.0;Data Source&q…...

nginx rtmp服务器搭建

参考链接:https://blog.csdn.net/bitcsljl/article/details/125826323...

打卡第31天------贪心算法

每天抓紧时间刷题,争取尽快上岸,不能再耽误一分一秒了,2024年已经过去大半年了。这个算法编程题是我的痛点。要尽快弥补。 卡尔在讲算法题的时候,思路比较清晰,通俗易懂,以前看见算法题就害怕,因为啥都不会,看懵了,跟了一个月了,每天坚持刷题,偶尔会回顾思路,也会…...

jenkins服务器重启,构建记录消失

1、进入系统管理查看系统运行日志,发现报保存构建日志失败 jenkins module java.base does not "opens java.lang.ref" to unnamed module 5276d6ee Java平台模块系统对类的可见性和访问权限进行了严格的控制。在Java 9及以上版本中,java.la…...

Linux系统部分问题处理方案

目录 一:crontab输出结果控制 二:telnet很慢/ssh很慢 三:Read-onlyfilesystem 四:⽂件删了磁盘空间没释放 五:获取不了⽹关mac地址 六: http服务⽆法启动⼀例 七:ibdata1和mysql-bin致磁盘空间问题 一:crontab输出结果控制 问题: /var/spool/clientmqueue⽬录…...

C语言指针与数组

在上一篇对指针介绍的文章当中,我们初次了解到了指针,并且知道了地址和内存间的关系,懂得了如何取地址和对指针的解引用,算是对指针有了一个初步的了解。而今天让我们对指针进行更深一步的了解吧~ 一、指针与数组名 我们知道&am…...

Stream 33

package Array.collection;import java.util.*; import java.util.stream.Stream;public class stream1 {public static void main(String[] args) {//、如何茯取List集合的Stream流?List<String> names new ArrayList<>();Collections. addAll(names,"方法…...

【Python Loguru】实现日志工具和日志饶接

【Python Loguru】实现日志工具和日志饶接 说明 代码使用第三方库Loguru实现了logging工具&#xff0c;可以直接改名字后就使用&#xff0c;并实现了日志绕接&#xff0c;使用前需要先安装loguru工具。 Code import os import json from loguru import logger# config_file…...

【Linux】-----进度条小程序

目录 前言 基本知识 Ⅰ、回车和换行 Ⅱ、缓冲区 两个有意思的现象 简单定义 刷新缓冲区 简易倒计时程序 进度条代码 多文件下makefile写法 一代(无任何场景) procs1.h代码 procs1.c代码 主函数main1.c 一代运行结果&#xff1a; 二代 (搭配下载场景) procs2.c代…...

普通人有必要学Python吗?学了之后能做什么?

目录 首先来说一下极其推荐的方向&#xff1a; 1、数据分析 2、科学计算 3、大数据框架 4、脚本开发 5、爬虫 6、Web框架 总结&#xff1a; 如果你还没有开始使用Python&#xff0c;答应我&#xff0c;把这个回答看完&#xff0c;如果你真的学习并深入使用过Python&…...

2023-2024年 Java开发岗面试题经验分享

在各行各业中&#xff0c;面试前我们总会思索一个问题&#xff1a;究竟什么样的求职者能获得面试官的青睐&#xff1f;作为求职者&#xff0c;我们又该如何准备&#xff0c;以应对各种面试官的挑战&#xff1f;在这激烈的竞争里&#xff0c;如何才能让自己从众多应聘者中脱颖而…...

JavaScript中URL和Blob

JavaScript中URL和Blob 常用于处理文件数据、图像数据、音频数据等。Blob对象通常用于在客户端处理文件&#xff0c;如上传文件、下载文件、处理图像等操作。Blob对象可以通过Blob构造函数创建&#xff0c;也可以通过其他方式获取&#xff0c;比如从File对象中获取。 使用场景…...

平舌、翘舌音学习: z、c、s--zh、ch、sh

平舌音翘舌音不分怎么办&#xff1f; 尝试整理了&#xff0c;如下一些材料&#xff1a; 一、 策略篇&#xff1a; 一年级拼音如何区分掌握&#xff1a;平舌音和翘舌音&#xff1f; 喜马拉雅&#xff0c; 平舌音翘舌音教学&#xff1a;普通话声母zh以及zh ch sh与z c s的发音练…...

基于距离变化能量开销动态调整的WSN低功耗拓扑控制开销算法matlab仿真

目录 1.程序功能描述 2.测试软件版本以及运行结果展示 3.核心程序 4.算法仿真参数 5.算法理论概述 6.参考文献 7.完整程序 1.程序功能描述 通过动态调整节点通信的能量开销&#xff0c;平衡网络负载&#xff0c;延长WSN生命周期。具体通过建立基于距离的能量消耗模型&am…...

练习(含atoi的模拟实现,自定义类型等练习)

一、结构体大小的计算及位段 &#xff08;结构体大小计算及位段 详解请看&#xff1a;自定义类型&#xff1a;结构体进阶-CSDN博客&#xff09; 1.在32位系统环境&#xff0c;编译选项为4字节对齐&#xff0c;那么sizeof(A)和sizeof(B)是多少&#xff1f; #pragma pack(4)st…...

在 Nginx Stream 层“改写”MQTT ngx_stream_mqtt_filter_module

1、为什么要修改 CONNECT 报文&#xff1f; 多租户隔离&#xff1a;自动为接入设备追加租户前缀&#xff0c;后端按 ClientID 拆分队列。零代码鉴权&#xff1a;将入站用户名替换为 OAuth Access-Token&#xff0c;后端 Broker 统一校验。灰度发布&#xff1a;根据 IP/地理位写…...

Psychopy音频的使用

Psychopy音频的使用 本文主要解决以下问题&#xff1a; 指定音频引擎与设备&#xff1b;播放音频文件 本文所使用的环境&#xff1a; Python3.10 numpy2.2.6 psychopy2025.1.1 psychtoolbox3.0.19.14 一、音频配置 Psychopy文档链接为Sound - for audio playback — Psy…...

【配置 YOLOX 用于按目录分类的图片数据集】

现在的图标点选越来越多&#xff0c;如何一步解决&#xff0c;采用 YOLOX 目标检测模式则可以轻松解决 要在 YOLOX 中使用按目录分类的图片数据集&#xff08;每个目录代表一个类别&#xff0c;目录下是该类别的所有图片&#xff09;&#xff0c;你需要进行以下配置步骤&#x…...

IoT/HCIP实验-3/LiteOS操作系统内核实验(任务、内存、信号量、CMSIS..)

文章目录 概述HelloWorld 工程C/C配置编译器主配置Makefile脚本烧录器主配置运行结果程序调用栈 任务管理实验实验结果osal 系统适配层osal_task_create 其他实验实验源码内存管理实验互斥锁实验信号量实验 CMISIS接口实验还是得JlINKCMSIS 简介LiteOS->CMSIS任务间消息交互…...

Mobile ALOHA全身模仿学习

一、题目 Mobile ALOHA&#xff1a;通过低成本全身远程操作学习双手移动操作 传统模仿学习&#xff08;Imitation Learning&#xff09;缺点&#xff1a;聚焦与桌面操作&#xff0c;缺乏通用任务所需的移动性和灵活性 本论文优点&#xff1a;&#xff08;1&#xff09;在ALOHA…...

C++.OpenGL (14/64)多光源(Multiple Lights)

多光源(Multiple Lights) 多光源渲染技术概览 #mermaid-svg-3L5e5gGn76TNh7Lq {font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}#mermaid-svg-3L5e5gGn76TNh7Lq .error-icon{fill:#552222;}#mermaid-svg-3L5e5gGn76TNh7Lq .erro…...

给网站添加live2d看板娘

给网站添加live2d看板娘 参考文献&#xff1a; stevenjoezhang/live2d-widget: 把萌萌哒的看板娘抱回家 (ノ≧∇≦)ノ | Live2D widget for web platformEikanya/Live2d-model: Live2d model collectionzenghongtu/live2d-model-assets 前言 网站环境如下&#xff0c;文章也主…...

CSS3相关知识点

CSS3相关知识点 CSS3私有前缀私有前缀私有前缀存在的意义常见浏览器的私有前缀 CSS3基本语法CSS3 新增长度单位CSS3 新增颜色设置方式CSS3 新增选择器CSS3 新增盒模型相关属性box-sizing 怪异盒模型resize调整盒子大小box-shadow 盒子阴影opacity 不透明度 CSS3 新增背景属性ba…...