Redis中AOF的实现方式和AOF重写
一、AOF 的实现方式
- 核心原理
AOF 通过将写操作命令以追加方式记录到日志文件中,重启时通过重放命令恢复数据。与 RDB 的快照机制不同,AOF 是增量记录,更适用于数据一致性要求较高的场景。 - 写入流程
- 命令执行:客户端发送写命令(如
SET key value),Redis 先执行命令并更新内存数据。 - 缓冲区记录:将命令追加到内存中的 AOF 缓冲区(
aof_buf),避免频繁磁盘 I/O。 - 磁盘写回:根据
appendfsync策略(always、everysec、no)决定何时将缓冲区数据同步到磁盘:- Always:每次写命令后同步,数据安全性最高但性能最低。
- Everysec:每秒同步一次,平衡性能与安全性(默认策略)。
- No:依赖操作系统控制刷盘,性能最佳但数据丢失风险最大。
- 命令执行:客户端发送写命令(如
- 数据结构绑定
在 Redis 的存储引擎(Engine)中,每个数据库(DB)对象会绑定writeAof函数,确保写命令触发 AOF 日志记录。例如,执行SET命令时,会调用db.writeAof将命令序列化并写入缓冲区。
二、AOF 重写机制
AOF 文件会随时间增长,导致恢复速度变慢。重写通过生成最小化命令集压缩文件,其核心步骤如下:
- 触发条件
- 文件大小超过阈值(默认当前大小 ≥ 基准大小的 1.1 倍且 ≥ 64MB)。
- 手动执行
BGREWRITEAOF命令。
- 重写过程
- Fork 子进程:主进程通过
fork生成子进程,子进程共享内存快照(COW 机制)。 - 子进程生成新文件:子进程遍历内存数据,将键值对转换为等效的写命令(如
SET key value),写入临时文件temp-rewriteaof-bg-pid.aof。 - 主进程记录增量命令:重写期间,主进程将新写命令同时写入
aof_buf和 AOF 重写缓冲区(aof_rewrite_buf),避免数据丢失。 - 合并增量数据:子进程完成后,主进程将
aof_rewrite_buf中的命令追加到临时文件。 - 原子替换文件:使用
rename系统调用将临时文件替换为原 AOF 文件,完成重写。
- Fork 子进程:主进程通过
- 优化与问题
- 内存开销:
aof_rewrite_buf与aof_buf内容重复,可能导致内存占用翻倍。 - CPU 开销:主进程需处理
aof_rewrite_buf写入及子进程通信,可能影响性能。 - 改进方案:Redis 7.0 引入 MP-AOF(Multi Part AOF),通过分阶段写入减少内存占用和阻塞时间。
- 内存开销:
三、AOF 与 RDB 的对比
| 特性 | AOF | RDB |
|---|---|---|
| 数据恢复 | 通过重放命令,恢复时间较长。 | 二进制加载,恢复速度快。 |
| 文件体积 | 较大(记录所有写命令)。 | 较小(紧凑的二进制快照)。 |
| 数据安全性 | 支持秒级持久化(everysec)。 | 定期快照,可能丢失部分数据。 |
| 适用场景 | 需要强一致性的场景(如金融交易)。 | 备份、主从复制、快速恢复。 |
四、总结
AOF 通过记录写命令实现持久化,其重写机制有效解决了文件膨胀问题,但需权衡内存与 CPU 开销。在实际应用中,建议结合 RDB 使用(混合持久化模式),以兼顾性能与数据安全性。
相关文章:
Redis中AOF的实现方式和AOF重写
一、AOF 的实现方式 核心原理 AOF 通过将写操作命令以追加方式记录到日志文件中,重启时通过重放命令恢复数据。与 RDB 的快照机制不同,AOF 是增量记录,更适用于数据一致性要求较高的场景。写入流程 命令执行:客户端发送写命令&am…...
深入理解 React useLayoutEffect:精准掌控 DOM 更新时机
一、useLayoutEffect 的核心定位 1.1 与 useEffect 的关键差异 特性useEffectuseLayoutEffect执行时机浏览器绘制后异步执行DOM 更新后、绘制前同步执行视觉影响可能产生布局闪烁避免布局抖动性能影响对渲染阻塞较小可能阻塞浏览器渲染适用场景数据获取、事件订阅等DOM 测量、…...
Spring Boot 3.x 中 WebClient 全面详解及示例
Spring Boot 3.x 中 WebClient 全面详解及示例 1. WebClient 简介 定义:Spring 5 引入的响应式 HTTP 客户端,用于替代 RestTemplate(已弃用),支持异步非阻塞的 HTTP 请求。核心特性: 支持所有 HTTP 方法&a…...
Vue3+Vite+TypeScript+Element Plus开发-06.Header响应式菜单缩展
系列文档目录 Vue3+Vite+TypeScript安装 Element Plus安装与配置 主页设计与router配置 静态菜单设计 Pinia引入 Header响应式菜单缩展 Mockjs引用与Axios封装 登录设计 登录成功跳转主页 多用户动态加载菜单 Pinia持久化 动态路由-配置 文章目录 目录 系列文档…...
深入解析原生鸿蒙中的 RN 日志系统:从入门到精通!
全文目录: 开篇语📖 目录🎯 前言:鸿蒙日志系统究竟有多重要?🛠️ 鸿蒙 RN 日志系统的基础结构📜 1. 日志的作用⚙️ 2. 日志分类 🔧 如何在鸿蒙 RN 中使用日志系统🖋️ 1…...
下一代AI App架构:前端生成,后端消失
过去十年,Web 和 App 的开发范式基本稳定:前端负责交互体验,后端负责业务逻辑和数据管理。即使是“无服务架构”也只是将后端“拆散”而非“消失”。 但随着 AI 原生应用的兴起,特别是 大模型本地化、小模型部署、WebAssembly、L…...
$_POST 超级全局变量
$_POST 是一个超级全局变量,在 PHP 中用于收集通过 HTTP POST 方法发送到服务器的数据。与 $_GET 不同,$_POST 允许发送大量数据,且数据不会显示在 URL 中,因此更适用于提交敏感信息,如用户登录信息、表单数据等。 使…...
开发一个环保回收小程序需要哪些功能?环保回收小程序
废品分类展示与识别 详细分类列表:清晰展示常见废品类型,如废纸(报纸、书本纸、包装纸等)、塑料(塑料瓶、塑料容器、塑料薄膜等)、金属(易拉罐、铁制品、铜制品等)、玻璃࿰…...
Debezium嵌入式连接postgresql封装服务
文章目录 1.项目结构:2.依赖:3.application.properties4.DebeziumConnectorConfig类5.TableEnum类6.TableHandler接口(表处理抽象)7.DefaultTableHandler默认实现类8.UserTableHandler处理类9.TableHandlerFactory工厂10.Debezium…...
Mixed Content: The page at https://xxx was loaded over HTTPS
一、核心原因分析 Mixed Content 警告是由于 HTTPS 页面中引用了 HTTP 协议的资源(如脚本、图片、iframe 等),导致浏览器因安全策略阻止加载这些非加密内容。HTTP 资源可能被中间人攻击篡改,破坏 HTTPS 页面的整体安全性。 二、推荐解决方案 1. 强制资源升级为 HTTPS •…...
深度学习、图像算法学习记录
深度学习加速 综述文档: https://chenzomi12.github.io/02Hardware01Foundation/02ArchSlim.html winograd: https://zhuanlan.zhihu.com/p/260109670 ncnn 1.修改模型结构,优化模型内存访问次数,加速。 VGG 和 InceptionNet : …...
对象的创建方式有哪些?在虚拟机中具体的创建过程是怎样的?
在Java中,对象的创建方式及其在虚拟机中的具体过程如下: 一、对象的创建方式 使用 new 关键字 最常见的对象创建方式,直接调用类的构造方法。 MyClass obj new MyClass();反射(Reflection) 通过 Class 或 Constructor…...
Python 爬取 1688.item_get_factory 接口:获取工厂档案信息实战指南
在电商采购和供应链管理中,了解供应商的工厂信息是至关重要的一步。1688 作为国内领先的 B2B 平台,提供了丰富的供应商和工厂档案信息。通过 item_get_factory API 接口,开发者可以获取工厂的详细信息,包括工厂名称、地址、联系方…...
15. git push
基本概述 git push 的作用是:把本地分支的提交推送到远程仓库。推送分支需要满足快进规则(Fast-Forward),即远程分支的最新提交必须是本地分支的直接祖先,这个是通过哈希值值进行判断的。 基本用法 1.完整格式 git…...
Perl 发送邮件
Perl 发送邮件 概述 Perl 是一种强大的编程语言,广泛应用于系统管理、网络编程和数据分析等领域。其中,使用 Perl 发送邮件是一项非常实用的技能。本文将详细介绍使用 Perl 发送邮件的方法,包括必要的配置、代码示例以及注意事项。 准备工…...
Rust所有权详解
文章目录 Rust所有权所有权规则作用域 内存和分配移动与克隆栈空间堆空间 关于函数的所有权机制作为参数作为返回值 引用与租借垂悬引用 Rust所有权 C/C中我们对于堆内存通常需要自己手动管理,手动申请和释放,即便有了智能指针,对于效率的影…...
大模型推理--Qwen2.5-Omni在A100上的初体验
过去的一周Qwen2.5-Omni产生了很高的热度,吸引了很多人的目光。它的多模态确实很吸引人,放出来的demo体验还算尚可(语音对话的延迟还是太大),所以就在A100 PCIe上实地部署了一下,初步对其速度进行了测试&am…...
CExercise_07_1指针和数组_2数组元素的逆序数组逆序(指针版 reverse_by_ptr 和下标版 reverse_arr)
题目: 数组元素的逆序。要求使用[]运算符以及纯粹指针操作两种方式来完成。 关键点 arr[i] arr[len - 1 - i]; arr[0]arr[len-1]; 如果数组序列是偶数,则调换最中间一对为止;若为奇数,则单出一个不用反转. 思想就是长度取一半 eg:8/2, 9/24.5,反转一半,到5时固定…...
框架PasteForm实际开发案例,换个口味显示数据,支持echarts,只需要标记几个特性即可在管理端显示(2)
PasteForm框架的主要思想就是对Dto进行标记特性,然后管理端的页面就会以不一样的UI呈现 使用PasteForm框架开发,让你免去开发管理端的烦恼,你只需要专注于业务端和用户端! 在管理端中,如果说表格是基本的显示方式,那么图表chart就是一个锦上添花的体现! 如果一个项目拥…...
Starrocks的Bitmap索引和Bloom filter索引以及全局字典
写这个的主要作用是梳理一下Starrocks的索引效率以及使用场景。 Starrocks Bitmap索引 原理: Bitmap 索引是一种使用 bitmap 的特殊数据库索引。bitmap 即为一个 bit 数组,一个 bit 的取值有两种:0 或 1。 每一个 bit 对应数据表中的一行&…...
Explain的使用
1.使用explain语句去查看分析结果 如explain select * from test1 where id=1;会出现:id selecttype table type possible_keys key key_len ref rows extra各列。 其中, type=const表示通过索引一次就找到了; key=primary的话,表示使用了主键; type=all,表示为全表…...
QML面试笔记--UI设计篇05容器控件
1. QML中容器控件全解:构建灵活界面的基石 1.1. Item(万物容器)1.2. Rectangle(视觉容器)1.3. ListView(动态列表容器)1.4. Frame(表单容器)1.5. SwipeView(页…...
Windows操作系统安全配置(一)
1.操作系统和数据库系统管理用户身份标识应具有不易被冒用的特点,口令应有复杂度要求并定期更换 配置方法:运行“gpedit.msc”计算机配置->Windows设置->安全设置>帐户策略->密码策略: 密码必须符合复杂性要求->启用 密码长度最小值->…...
LibreOffice 自动化操作目录
一、应用场景 批量更新 Word/ODT 文档目录自动化生成报告模板与 Python 结合实现文档处理流水线 二、环境准备 1. 安装 LibreOffice 下载地址: LibreOffice 官网版本要求: 7.2(确保支持最新 UNO API)安装注意: 勾选“创建快速…...
基于大模型应用技能的学习路径
总览与优先级 基础知识巩固与扩展(2-4周)数据处理与机器学习基础(4-6周)深度学习基础与PyTorch框架(6-8周)自然语言处理(NLP)基础与Transformer架构(6-8周)F…...
VSCode运行,各类操作缓慢,如何清理
VSCode写代码,随着项目逐步进展,代码量在增加,依赖的第三方头文件也在增加, 先是发现代码提示的速度变慢, 后来格式化代码速度太慢 然后c/c代码的语法检查有时候压根就失败,来个错误提示 还有source contro…...
2024年的核心技术与最佳实践
前端开发领域近年来经历了翻天覆地的变化,从简单的HTML/CSS页面到如今复杂的单页应用(SPA)和渐进式Web应用(PWA)。本文将探讨2024年前端开发的核心技术栈、工具链和最佳实践。 一、前端三大基石的最新进展 1. HTML5的增强特性 Web Components标准化 原生对话框(&…...
redis(2)-mysql-锁
1.数据倾斜: 解决:虚拟节点 2.缓存穿透:缓存雪崩、击穿 3.分布式锁 多把锁控制不同节点上的一致性问题。 锁是有失效时间的。 强制回收。 4.redis 和zookeeper的区别 redis 数据支持有效期 4.1 zookeeper 分布式一致性服务框架&am…...
LeetCode 热题 100 题解记录
LeetCode 热题 100 题解记录 哈希 1. 两数之和 利用Map判断是否包含需要的值来求解 49. 字母异位词分组 初始化哈希表: 创建一个哈希表 map,用于存储分组结果。键为排序后的字符串,值为原字符串列表。 遍历输入字符串数组: 对于…...
OpenLayers:海量图形渲染之矢量切片
最近由于在工作中涉及到了海量图形渲染的问题,因此我开始研究相关的解决方案。在咨询了许多朋友之后发现矢量切片似乎是行业内最常用的一种解决方案,于是我便开始研究它该如何使用。 一、什么是矢量切片 矢量切片按照我的理解就是用栅格切片的方式把矢…...
