Redis的内存淘汰策略- volatile-lru
`volatile-lru` 策略简介
在 `volatile-lru` 策略下,当 Redis 的内存使用达到配置的上限(`maxmemory`)时,它会优先删除那些设置了过期时间的键,并且选择最近最少使用的键进行删除。LRU 算法的核心思想是,优先删除那些最近没有被访问的数据,以腾出内存空间给新数据或更常用的数据。
这种策略适用于以下场景:
- 需要优先删除临时数据的场景。
- 应用中存在大量临时数据,并希望保留那些经常访问的临时数据。
- 数据的访问频率不均匀,有明显的热点数据。
思路与实现
1. **配置 Redis 的内存淘汰策略为 `volatile-lru`**:
- 在 Redis 配置文件中设置 `maxmemory` 和 `maxmemory-policy` 参数。
2. **实现 Java 程序**:
- 使用 Jedis(Redis 的 Java 客户端库)连接 Redis。
- 插入带有过期时间的数据,模拟达到内存上限。
- 演示当内存达到上限时,Redis 如何根据 `volatile-lru` 策略删除那些最近最少使用的临时键。
3. **展示 `volatile-lru` 淘汰机制**:
- 插入不同 TTL 的数据。
- 通过多次访问某些键,让它们成为热点数据。
- 插入新数据,直到内存不足,观察哪些临时数据(设置了 TTL)被删除。
代码实现
1. 添加依赖
确保您的项目包含 Jedis 依赖。对于 Maven 项目,在 `pom.xml` 中添加以下依赖项:
<dependency><groupId>redis.clients</groupId><artifactId>jedis</artifactId><version>4.3.1</version>
</dependency>
2. 配置 Redis
在 Redis 配置文件 `redis.conf` 中,确保设置内存上限和 `volatile-lru` 策略:
maxmemory 100mb # 设置最大内存为 100MB
maxmemory-policy volatile-lru # 设置淘汰策略为 volatile-lru
代码示例
下面是 Java 代码,使用 Jedis 连接 Redis 并演示 `volatile-lru` 策略的效果。
import redis.clients.jedis.Jedis;
import redis.clients.jedis.exceptions.JedisDataException;public class RedisVolatileLRUExample {// Redis 连接配置private static final String REDIS_HOST = "localhost";private static final int REDIS_PORT = 6379;// 数据生成配置private static final int INITIAL_LOAD = 150000; // 初始插入数据数量private static final int TEST_LOAD = 50000; // 测试插入数据数量private static final String VALUE_PREFIX = "value_"; // 数据前缀public static void main(String[] args) {// 初始化 Redis 连接Jedis jedis = new Jedis(REDIS_HOST, REDIS_PORT);try {// 检查当前的内存淘汰策略String maxMemoryPolicy = jedis.configGet("maxmemory-policy").get(1);System.out.println("当前 Redis 的内存淘汰策略: " + maxMemoryPolicy);if (!"volatile-lru".equals(maxMemoryPolicy)) {System.out.println("警告: 当前内存淘汰策略不是 volatile-lru,可能需要修改 redis.conf 文件。");return;}System.out.println("开始插入初始数据...");// 1. 初始加载数据,模拟大量数据插入,每个键都有不同的过期时间for (int i = 0; i < INITIAL_LOAD; i++) {String key = "key_" + i;String value = VALUE_PREFIX + i;int ttl = (i % 300) + 1; // 设置 TTL 为 1 到 300 秒之间的随机数jedis.setex(key, ttl, value); // 仅设置了过期时间的键将被考虑if (i % 10000 == 0) {System.out.println("已插入初始数据 " + i + " 条");}}System.out.println("初始数据插入完成。");// 2. 访问部分键,使其成为热点数据System.out.println("访问部分数据,使其成为热点数据...");for (int i = 0; i < 100000; i++) {String key = "key_" + (i % 100); // 反复访问前100个键jedis.get(key);}System.out.println("热点数据访问完成。");// 3. 插入更多数据,超过内存上限,触发 LRU 淘汰机制System.out.println("插入更多数据以触发 LRU 淘汰...");for (int i = INITIAL_LOAD; i < INITIAL_LOAD + TEST_LOAD; i++) {String key = "key_" + i;String value = VALUE_PREFIX + i;int ttl = (i % 300) + 1; // 设置 TTL 为 1 到 300 秒之间的随机数try {jedis.setex(key, ttl, value);} catch (JedisDataException e) {if (e.getMessage().contains("OOM")) {System.out.println("内存不足!无法插入更多数据。写操作被拒绝: " + key);break;} else {throw e; // 其他异常抛出}}if (i % 10000 == 0) {System.out.println("已插入测试数据 " + i + " 条");}}// 4. 验证哪些数据被淘汰System.out.println("验证哪些数据被淘汰...");int missCount = 0;for (int i = 0; i < INITIAL_LOAD; i++) {String key = "key_" + i;String value = jedis.get(key);if (value == null) {missCount++;}}System.out.println("初始数据中被 LRU 策略淘汰的键数量: " + missCount);} finally {// 关闭 Redis 连接jedis.close();}}
}
代码解释
1. **初始化 Redis 连接**:
- 使用 Jedis 连接到本地 Redis 实例。
2. **检查内存淘汰策略**:
- 使用 `jedis.configGet("maxmemory-policy")` 获取当前内存淘汰策略,确保其为 `volatile-lru`。
3. **插入初始数据**:
- 使用一个 `for` 循环向 Redis 插入 15 万条数据,模拟达到内存上限的场景。
- 每个键都有不同的 TTL(1 到 300 秒之间的随机数),以便模拟不同的存活时间。
4. **访问热点数据**:
- 通过循环访问前 100 个键,使这些键成为热点数据。这样可以确保这些键不被 LRU 淘汰策略删除。
5. **插入更多数据以触发 LRU 淘汰机制**:
- 继续插入额外的 5 万条数据,这将导致 Redis 达到内存上限并触发 `volatile-lru` 淘汰策略。Redis 会自动删除最近最少使用的临时键来释放内存。
6. **验证哪些数据被淘汰**:
- 遍历初始插入的 15 万条数据,统计哪些键被 `volatile-lru` 策略淘汰。结果表明,较早插入且未被频繁访问的数据更可能被淘汰。
运行代码并观察结果
在运行上述 Java 代码后,Redis 将插入大量数据。一旦内存达到配置的上限,Redis 将根据 `volatile-lru` 策略自动删除最近最少使用的临时键。这时,您可以观察到热点数据(即频繁访问的数据)仍然保留在内存中,而冷数据(即很少或从未访问的数据)被删除。
`volatile-lru` 策略的优势和限制
优势
1. **优化缓存性能**:`volatile-lru` 策略根据数据的访问频率来淘汰临时数据,确保高频访问的临时数据留在内存中。
2. **减少内存占用**:该策略有效地管理内存占用,自动
删除不常用的临时数据,适合内存资源有限的环境。
3. **保护永久数据**:只会删除那些设置了 TTL 的键,因此持久存储的数据不会受到影响。
限制
1. **依赖数据的访问模式**:如果数据的访问模式不明显或者变化频繁,可能会导致误删。
2. **计算开销**:LRU 算法需要额外的计算资源来跟踪每个键的访问时间,可能会导致性能开销。
配置和调优
为了有效利用 `volatile-lru` 策略,您可以在 Redis 配置文件中进行适当设置:
- **设置合适的 `maxmemory`**:根据实际应用的内存需求和服务器的物理内存,合理设置 `maxmemory` 参数。
- **合理设置键的 TTL**:确保对每个键设置合理的 TTL 值,根据应用场景的不同,动态调整数据的存活时间。
- **监控内存使用情况**:通过 Redis 的 `INFO` 命令或其他监控工具,定期监控 Redis 的内存使用情况,确保内存管理策略的有效性。
总结
Redis 的 `volatile-lru` 内存淘汰策略是一种基于 LRU(Least Recently Used,最近最少使用)算法的内存管理策略。该策略会在 Redis 内存达到上限时,从设置了过期时间(TTL, Time-To-Live)的键中选择最近最少使用的键进行删除。这种策略可以有效地管理临时数据,优先保留那些经常被访问的临时数据,而删除那些不常用的临时数据。
Redis的内存淘汰策略之一是volatile-lru(Least Recently Used)。这种策略主要针对设置了过期时间的键(即有限时的键),它会优先淘汰最近最少使用的键。
当Redis的内存达到上限时,它会开始检查键是否过期,如果发现某些键过期了,那么就会考虑淘汰它们。在考虑淘汰的键时,Redis会优先选择最近最少使用(LRU)的键。
这种策略的优点是能够保证尽量淘汰不常使用的键,从而释放更多的内存空间给常用的键使用。同时,这种策略也不会对键的过期时间造成影响,即使一个键的过期时间即将到期,也不会因此提升其优先级。
然而,volatile-lru策略也有一些缺点。首先,它只能针对有限时的键进行淘汰,而对于永久有效的键则无效。其次,它无法根据键的价值进行淘汰,即使某些键很少使用,但如果它们存储的数据很有价值,那么这些键也可能被错误地淘汰。
volatile-lru策略是一种简单且高效的内存淘汰策略,适用于对于有限时键的场景。但在某些情况下,可能需要考虑使用其他的淘汰策略来更好地满足应用需求。
相关文章:
Redis的内存淘汰策略- volatile-lru
volatile-lru 策略简介 在 volatile-lru 策略下,当 Redis 的内存使用达到配置的上限(maxmemory)时,它会优先删除那些设置了过期时间的键,并且选择最近最少使用的键进行删除。LRU 算法的核心思想是,优先删除…...
HTTP和HTTPS的区别?哪一个更适合你的网站?
什么是 HTTP? HTTP(超文本传输协议)(Hypertext Transfer Protocol)它是一组允许网络浏览器与网络服务器(托管网站的计算机)进行通信的规则。 HTTP 使用请求-响应模型。 例如,当你…...
OpenAI SORA团队负责人 通往智能的方式 报告笔记
OpenAI SORA团队负责人 通往智能的方式 报告笔记 这个报告其实是2024年智源大会的主旨报告,OpenAI SORA和DALL-E团队负责人Aditya Ramesh给出的一段有关多模态大模型的报告。我去听了现场,感觉倍受启发,但是感觉很多并不能当场理解ÿ…...
006-Sleuth(Micrometer)+ZipKin分布式链路追踪
这里写目录标题 1 分布式链路追踪概述1.1 为什么会出现这个技术?需要解决哪些问题?1.2 在分布式与微服务场景下需要解决的问题 2 新一代Spring Cloud Sleuth:Micrometer2.1 官网重要提示2.1.1 新一代Sleuth2.1.2 官网2.1.3 说明2.1.3.1 老项目…...
AI模型:追求全能还是专精?-- 之6 语言复杂度类别(Category 0~3 类)和语言功能性类型(Type 0~Ⅲ 型)之2
Q17、我前面说过,语言复杂度的0~3级(Category 0~3)表示了语言的的上下文相关性 : 完全不相关, 单相关的 单词上下文, 双相关的句子上下文 全相关的文章上下文 。我准备翻译为 Context - irrelative /relati…...
20240907 每日AI必读资讯
大疆发布 DJI Neo 掌上 Vlog 无人机! - DJI Neo 是 DJI 迄今最轻、最小的无人机,无需遥控器,掌上起降即可轻松拍出主角大片… |135 克轻巧便携 丨零门槛掌上起降 丨AI 智能跟拍 ,一键成片 丨多种操控,丰富…...
深度学习基础--卷积基础模块
本节主要关注卷积神经网络发展过程中具有里程碑意义的基础模块,了解它们的原理和设计细节 1. 批归一化 在机器学习中,一般会假设模型的输入数据的分布是稳定的。如果这个假设不成立,即模型输入数据的分布发生变化,则称为协变量偏…...
视频智能分析打手机检测算法安防监控打手机检测算法应用场景、算法源码、算法模型介绍
随着智能手机的普及,手机已成为人们生活中不可或缺的一部分。然而,在某些场合,如驾驶、会议、学校课堂等,不当使用手机可能会导致安全隐患或干扰他人。因此,开发出一种能够准确识别并阻止不当使用手机的行为检测算法显…...
6.2图的存储及基本操作
6.2.1顺序存储 邻接矩阵法,用一个一维数组存储图中顶点信息,二维数组存储图中边的信息 无向图 1.无向图的邻接矩阵关于对角线对称,可采用压缩存储 2.边数为e,则邻接矩阵中1为2e; 3.第i行or 第i列非零元素之和恰好为顶点i的度数 4.判断是否有边用0,1 5. 有向图 1.关于对…...
Java语法全解析:掌握基本规则,打造稳固编程基础!
Java基本语法是编写Java程序的核心,它包括了数据类型、运算符、控制结构、类与对象等基本组成部分。这些语法要素共同构成了Java程序的基础框架,掌握它们是进行Java编程的前提。以下是Java基本语法的详细介绍: 数据类型 基本数据类型&#x…...
同时播放多个视频
介绍一款小众的视频播放器,之前有小伙伴找那种可以同时播放多个视频的软件,“恒硕加播放”可以做到这一点,功能不是太多,但是日常播放是足够了。 同时播放多个视频控制多个视频跳到指定进度同时暂停/播放/停止/静音/倍速浏览系统…...
伴奏提取消除人声如何操作?轻松几步玩转音乐世界
你是否梦想着独自演绎一曲,或是进行个性化的混音创作,却又希望摆脱原唱声音的干扰?那么,学会免费伴奏提取就显得尤为关键。 在这篇文章中,我将为你展示四种简单易学的方法,让你能够轻松地从歌曲中提取出伴…...
uniapp二维码生成
uniapp二维码生成 参考文档依赖引入代码html部分生成代码(vue3 hook)使用 参考文档 【博主:ChoneyLove】uniapp中生成二维码及解决微信小程序端问题总结 依赖引入 npm i uqrcodejs代码 html部分 <canvas type"2d" id"…...
Android UID 和 userID 以及 appID
我们知道Android 操作系统是基于Linux内核的,所以Android 的UID 是基于 Linux UID的。 Linux UID Linux 本身就是一个多用户操作系统,每一个用户都会有一个UID,不同UID 之间的资源访问是受限的。 其中,Linux的DAC权限模型&#…...
Kafka的三高设计原理
1.生产者缓存机制--高性能 生产者缓存机制的主要目的是将消息打包,减少网络IO频率 kafka生产者端存在消息累加器RecordAccumulator,它会对每个Partition维护一个双端队列,队列中消息到达一定数量后 或者 到达一定时间后,通过sen…...
生信圆桌x生信宝库:生物信息学资源与工具的终极指南
介绍 生物信息学作为现代生物科学的重要分支,涉及到大量的数据处理、分析和存储工作。随着领域的不断发展,各类生物信息学资源与工具也如雨后春笋般涌现。这些资源涵盖了从基因组数据、蛋白质结构到代谢路径的方方面面,极大地丰富了科研人员的…...
centos7 install rocketmq 宿主机快速搭建RocketMQ单机开发环境_centos7 单机部署rocketmq命令
2214 Jps 2071 BrokerStartup 1947 NamesrvStartup ### 第四步:发送消息测试消费着启动export NAMESRV_ADDRlocalhost:9876 ./tools.sh org.apache.rocketmq.example.quickstart.Consumer 发送测试消息export NAMESRV_ADDRlocalhost:9876 ./tools.sh org.apache.roc…...
2024高教社杯全国大学生数学建模竞赛(A题)深度剖析 _ 建模完整过程+详细思路+代码全解析
问题1解答过程 1.1 螺线运动的基本几何模型 板凳龙的舞动路径为等距螺线。螺线是极坐标中一类常见曲线,其特点是半径随角度线性增加。我们可以用以下极坐标方程描述这条螺线: r ( θ ) p 2 π θ r(\theta) \frac{p}{2\pi} \theta r(θ)2πpθ 其…...
What is Approximation Ratio?
Approximation Ratio 近似比率是用来衡量一个算法找到的近似解与最优解之间的差距的一个量化指标. 假设有一个优化问题,其最优解的值是OPT,用时间T,而我们的算法得到的解的值是ALG,用时间t。如果算法有一个2的近似比率,那么我们…...
探索Unity与C#的无限潜能:从新手到高手的编程之旅
在数字创意与技术创新交织的今天,Unity游戏引擎凭借其强大的跨平台能力和灵活的编程接口,成为了无数开发者心中的首选。而C#,作为Unity的官方脚本语言,更是以其面向对象的特性和丰富的库支持,为游戏开发注入了无限可能…...
RestClient
什么是RestClient RestClient 是 Elasticsearch 官方提供的 Java 低级 REST 客户端,它允许HTTP与Elasticsearch 集群通信,而无需处理 JSON 序列化/反序列化等底层细节。它是 Elasticsearch Java API 客户端的基础。 RestClient 主要特点 轻量级ÿ…...
深入剖析AI大模型:大模型时代的 Prompt 工程全解析
今天聊的内容,我认为是AI开发里面非常重要的内容。它在AI开发里无处不在,当你对 AI 助手说 "用李白的风格写一首关于人工智能的诗",或者让翻译模型 "将这段合同翻译成商务日语" 时,输入的这句话就是 Prompt。…...
【Oracle APEX开发小技巧12】
有如下需求: 有一个问题反馈页面,要实现在apex页面展示能直观看到反馈时间超过7天未处理的数据,方便管理员及时处理反馈。 我的方法:直接将逻辑写在SQL中,这样可以直接在页面展示 完整代码: SELECTSF.FE…...
shell脚本--常见案例
1、自动备份文件或目录 2、批量重命名文件 3、查找并删除指定名称的文件: 4、批量删除文件 5、查找并替换文件内容 6、批量创建文件 7、创建文件夹并移动文件 8、在文件夹中查找文件...
AI Agent与Agentic AI:原理、应用、挑战与未来展望
文章目录 一、引言二、AI Agent与Agentic AI的兴起2.1 技术契机与生态成熟2.2 Agent的定义与特征2.3 Agent的发展历程 三、AI Agent的核心技术栈解密3.1 感知模块代码示例:使用Python和OpenCV进行图像识别 3.2 认知与决策模块代码示例:使用OpenAI GPT-3进…...
VTK如何让部分单位不可见
最近遇到一个需求,需要让一个vtkDataSet中的部分单元不可见,查阅了一些资料大概有以下几种方式 1.通过颜色映射表来进行,是最正规的做法 vtkNew<vtkLookupTable> lut; //值为0不显示,主要是最后一个参数,透明度…...
3403. 从盒子中找出字典序最大的字符串 I
3403. 从盒子中找出字典序最大的字符串 I 题目链接:3403. 从盒子中找出字典序最大的字符串 I 代码如下: class Solution { public:string answerString(string word, int numFriends) {if (numFriends 1) {return word;}string res;for (int i 0;i &…...
ArcGIS Pro制作水平横向图例+多级标注
今天介绍下载ArcGIS Pro中如何设置水平横向图例。 之前我们介绍了ArcGIS的横向图例制作:ArcGIS横向、多列图例、顺序重排、符号居中、批量更改图例符号等等(ArcGIS出图图例8大技巧),那这次我们看看ArcGIS Pro如何更加快捷的操作。…...
【HarmonyOS 5 开发速记】如何获取用户信息(头像/昵称/手机号)
1.获取 authorizationCode: 2.利用 authorizationCode 获取 accessToken:文档中心 3.获取手机:文档中心 4.获取昵称头像:文档中心 首先创建 request 若要获取手机号,scope必填 phone,permissions 必填 …...
基于 TAPD 进行项目管理
起因 自己写了个小工具,仓库用的Github。之前在用markdown进行需求管理,现在随着功能的增加,感觉有点难以管理了,所以用TAPD这个工具进行需求、Bug管理。 操作流程 注册 TAPD,需要提供一个企业名新建一个项目&#…...
