保障数据安全,提升性能:探秘Redis AOF持久化机制在在线购物网站的应用
AOF(Append-Only File)日志介绍
Redis使用AOF持久化来保证数据的可靠性。AOF日志是一个追加写文件,记录了所有对Redis数据进行修改的命令。
AOF的常规用途
通常,人们将Redis的AOF用于将后端数据库中的数据存储在内存中,从而实现更快的响应速度。因为AOF将数据写入内存,应用程序可以直接从内存中读取数据,而不必每次都访问后端数据库,从而提高了响应速度。
然而,这也引出了一个不容忽视的问题:一旦服务器宕机,内存中的数据将全部丢失。
为了解决这个问题,通常的做法是从后端数据库中恢复这些数据。然而,这样做存在两个问题:一是频繁访问数据库会给数据库带来巨大的压力,二是从传统速度的数据库中读取数据的性能可能无法与直接从Redis中读取数据相媲美,导致使用这些数据的应用程序响应变慢。
因此,实现数据的持久化,避免从后端数据库中恢复,变得至关重要。
AOF持久化机制
Redis的AOF持久化有两个主要机制:AOF日志和AOF重写。
AOF日志
AOF日志是写后日志,即先将命令写入内存,然后再记录日志。与传统的日志机制(Write-Ahead Log, WAL)不同,AOF日志记录的是命令而不是已修改的散乱的数据。以Redis收到的SET testkey testvalue命令为例,AOF日志的记录如下:
*3
$3
SET
$7
testkey
$9
testvalue
AOF的写后日志机制的好处是可以避免记录错误的命令,因为在写入之前并不对这些命令进行语法检查。
然而,AOF日志也存在两个潜在的风险:
- 如果在执行命令后立即宕机,可能会导致数据丢失。
- AOF日志的写入也是在主线程中执行的,如果写入磁盘的速度很慢,可能会导致后续的命令操作受到阻塞。
AOF的三种写回策略
为了解决上述问题,AOF提供了三种写回策略,通过配置项appendfsync来选择:
always:每个写命令都会立即同步写回磁盘,确保数据不丢失,但性能影响较大。everysec:每秒钟将AOF缓冲区中的内容写回磁盘,性能适中,但可能会丢失一秒内的数据。no:操作系统控制写回,性能最好,但可能会在机器故障时丢失数据。
下表总结了这三种写回策略的特点:
| 配置项 | 写回时机 | 优点 | 缺点 |
|---|---|---|---|
always | 同步写回 | 数据基本不丢失 | 每个写命令都要落盘,性能影响大 |
everysec | 每秒写回 | 性能适中 | 一秒内未落盘的命令可能丢失 |
no | 系统控制写回 | 性能最好 | 机器故障时可能丢失数据 |
选择写回策略时,需根据系统性能和可靠性的要求做取舍,即trade-off。
AOF重写机制
AOF重写机制是为了解决AOF日志文件过大的问题。每次执行重写时,Redis会创建一个新的AOF文件,其中包含数据库当前状态的所有键值对的写入命令。这样一来,AOF文件的大小得以减小,同时保留了最新的数据状态。
AOF重写的过程是由后台线程bgrewriteaof完成的,避免了阻塞主线程。在重写的过程中,新的命令仍会写入AOF缓冲区,而旧的AOF文件则会记录这些新的命令,以保证在重写完成后,新的AOF文件中包含了最新的操作记录。
案例应用
假设有一个案例,我们有一个在线购物网站,它使用Redis作为存储商品信息和用户购物车数据的数据库。在该网站的高峰时段,有大量用户同时访问,这就要求购物车数据需要快速响应,并且数据需要持久化,以防止服务器宕机导致数据丢失。
首先,我们配置Redis的AOF(Append-Only File)持久化机制。AOF日志记录了所有对Redis数据进行修改的命令,因此即使服务器宕机,也可以通过重放AOF日志中的命令来恢复数据。选择适当的写回策略对于平衡性能和数据丢失的风险至关重要。在这种情况下,我们选择了everysec策略,这意味着Redis每秒钟将AOF缓冲区中的内容写回磁盘一次。虽然可能会丢失一秒内的数据,但相对于其他策略,这种策略在性能和可靠性之间取得了较好的平衡。
另外,我们还定期执行AOF重写机制,以避免AOF日志文件过大,提高系统的稳定性和可维护性。AOF重写机制通过后台线程bgrewriteaof来完成,它会创建一个新的AOF文件,其中包含了数据库当前状态的所有键值对的写入命令。这样做的好处是,可以减小AOF文件的大小,同时保留了最新的数据状态,从而提高了系统的效率和可靠性。
为了验证上述配置的有效性,我们可以进行以下测试:
- 在高峰时段,模拟大量用户访问网站并添加商品到购物车,同时监控Redis的响应时间。
- 模拟服务器宕机或异常重启的情况,然后检查系统是否能够成功恢复,并且购物车数据是否完整。
- 使用不同的写回策略(如
always、everysec、no)进行性能测试,并比较它们之间的响应时间和数据丢失情况。 - 定期监控AOF日志文件的大小,并根据需要调整AOF重写的频率,以确保系统的稳定性和可维护性。
通过以上测试和验证,我们可以评估配置的有效性,并根据需要进行调整,以满足系统的性能和可靠性要求。
总结
本节介绍了Redis使用AOF持久化机制来确保数据可靠性的方法。通过记录命令而不是已修改的散乱数据,AOF日志提供了一种可靠的方式来恢复数据。不同的写回策略(always、everysec、no)提供了在性能和可靠性之间做权衡的选择。为了解决AOF文件过大的问题,引入了AOF重写机制,通过后台线程进行,避免了对主线程的阻塞。
相关文章:
保障数据安全,提升性能:探秘Redis AOF持久化机制在在线购物网站的应用
AOF(Append-Only File)日志介绍 Redis使用AOF持久化来保证数据的可靠性。AOF日志是一个追加写文件,记录了所有对Redis数据进行修改的命令。 AOF的常规用途 通常,人们将Redis的AOF用于将后端数据库中的数据存储在内存中…...
魔众智能AI系统v2.1.0版本支持主流大模型(讯飞星火、文心一言、通义千问、腾讯混元、Azure、MiniMax、Gemini)
支持主流大模型(讯飞星火、文心一言、通义千问、腾讯混元、Azure、MiniMax、Gemini) [新功能] 系统全局消息提示 UI 全新优化 [新功能] JS 库增加【ijs】类型字符串,支持默认可执行代码 [新功能] 分类快捷操作工具类 CategoryUtil [新功能…...
抖音视频评论区用户采集工具使用教程
抖音视频评论区用户采集工具是一款用于收集抖音视频评论区用户信息的工具。通过该工具,用户可以提取抖音视频评论区的用户昵称、评论内容、点赞数等信息,并进行数据分析和统计。该工具可以帮助用户了解抖音视频评论区的用户特点和评论趋势,提…...
c 不同类型指针的转换
int 指针与unsigned char类型指针互转 #include <stdio.h> #include <stdlib.h>int main(void){int a(0x1<<24)|(0x2<<16)|(0x3<<8)|0x4; //0x1020304printf("16进制:%x\n",a);u_int8_t *p(u_int8_t *)&a; //int指针转为unsig…...
16 PyTorch 神经网络基础【李沐动手学深度学习v2】
1. 模型构造 在构造自定义块之前,我们先回顾一下多层感知机的代码。 下面的代码生成一个网络,其中包含一个具有256个单元和ReLU激活函数的全连接隐藏层, 然后是一个具有10个隐藏单元且不带激活函数的全连接输出层。 层和块 构造单层神经网咯…...
java数据结构与算法刷题-----LeetCode216. 组合总和 III
java数据结构与算法刷题目录(剑指Offer、LeetCode、ACM)-----主目录-----持续更新(进不去说明我没写完):https://blog.csdn.net/grd_java/article/details/123063846 文章目录 解题思路 此题是77题的扩展题,仅仅加了一个条件而已&…...
vscode remote ssh 连接 ubuntu/linux报错解决方法
1、问题: WARNING: REMOTE HOST IDENTIFICATION HAS CHANGED! IT IS POSSIBLE THAT SOMEONE IS DOING SOMETHING NASTY! Someone could be eavesdropping on you right now (man-in-the-middle attack)! It is also possible that a host key has just been changed. The fin…...
Normalizer(归一化)和MinMaxScaler(最小-最大标准化)的区别详解
1.Normalizer(归一化)(更加推荐使用) 优点:将每个样本向量的欧几里德长度缩放为1,适用于计算样本之间的相似性。 缺点:只对每个样本的特征进行缩放,不保留原始数据的分布形状。 公式…...
覆盖element-ui的el-menu样式记录:背景图片、菜单图标、菜单高亮与鼠标悬浮高亮、调整子菜单等样式
页面中修改el-menu 设置background-color"transparent",menu菜单下的背景图片则能正常显示了 <el-menuclass"el-menu-demo"mode"horizontal"background-color"transparent"><el-menu-item index"1">…...
接口自动化测试从入门到高级实战!
接口测试背景和必要性 接口测试是测试系统组件间接口(API)的一种测试,主要用于检测内部与外部系统、内部子系统之间的交互质量,其测试重点是检查数据交换、传递的准确性,控制和交互管理过程,以及系统间相互…...
【STC8A8K64D4开发板】第2-14讲:I2C总线的应用
第2-14讲:I2C总线的应用 学习目的了解I2C总线的特点。掌握I2C地址的定义,对I2C地址要有深刻的了解,之后再看到I2C接口设备中描述的7位地址或8位地址,不会再有疑惑。掌握STC8A8K64D4系列单片机I2C的特点以及编程方法。掌握通过I2C读…...
前端框架的发展史
随着互联网技术的飞速发展和用户需求的日益增长,前端开发作为构建用户界面和交互体验的关键环节,经历了从简单到复杂、从静态到动态的演变过程。在这个过程中,前端框架作为提升开发效率和代码质量的重要工具,也经历了多个阶段的发…...
Unity Hololens2开发|(二)MRTK3导入和配置
目录 1.从 MRTK3 模板项目开始2.从新项目开始2.1 创建新的 Unity 项目2.2 使用混合现实功能工具导入所需的依赖项和 MRTK3 包2.3 打开 Unity 项目2.4 在导入后配置 MRTK 配置文件2.5 配置 OpenXR 相关设置2.6 使用模板项目资源1.从 MRTK3 模板项目开始 获取并试用 MRTK3 最简单…...
VMware下载与安装
准备一个Linux的系统,成本最低的方式就是在本地安装一台虚拟机,VMware是业界最好用的虚拟机软件之一 官网:https://www.vmware.com/ 下载页面:https://www.vmware.com/products/workstation-pro/workstation-pro-evaluation.html …...
9、Linux-安装JDK、Tomcat和MySql
目录 一、安装JDK 1、传输JDK文件(.tar.gz) 2、解压 3、备份环境变量 4、配置环境变量 5、重新加载环境变量 6、验证(java -version) 二、安装Tomcat 1、传输文件,解压到/usr/local 2、进入Tomcat的bin目录 …...
深度学习图像算法工程师--面试准备(2)
深度学习面试准备 深度学习图像算法工程师–面试准备(1) 深度学习图像算法工程师–面试准备(2) 文章目录 深度学习面试准备前言一、Batch Normalization(批归一化)1.1 具体步骤1.2 BN一般用在网络的哪个部分 二、Layer Normaliza…...
解锁安卓开发利器:深度探析ADB【安卓开发】
引言 在安卓开发与维护过程中,我们经常会遇到一些限制,比如无法直接访问某些系统功能,或者在某些定制系统中 受到限制 。为了解决这些问题,我们需要一种有效的工具来管理和调试安卓设备,而这时候ADB(Andro…...
【Python】FTP库的介绍及用法
目录 1、应用场景 2、FTP-标准库 1、应用场景 FTP库(ftplib)在Python中的应用场景主要包括: 文件上传和下载: 通过FTP服务器,可以提供用于上传和下载文件的功能。这在需要在服务器和客户端之间共享数据的情况下非常…...
C++——string模拟实现
前言:上篇文章我们对string类及其常用的接口方法的使用进行了分享,这篇文章将着重进行对这些常用的接口方法的内部细节进行分享和模拟实现。 目录 一.基础框架 二.遍历字符串 1.[]运算符重载 2.迭代器 3.范围for 三.常用方法 1.增加 2.删除 3.调…...
从零开始:神经网络(2)——MP模型
声明:本文章是根据网上资料,加上自己整理和理解而成,仅为记录自己学习的点点滴滴。可能有错误,欢迎大家指正。 神经元相关知识,详见从零开始:神经网络——神经元和梯度下降-CSDN博客 1、什么是M-P 模型 人…...
装饰模式(Decorator Pattern)重构java邮件发奖系统实战
前言 现在我们有个如下的需求,设计一个邮件发奖的小系统, 需求 1.数据验证 → 2. 敏感信息加密 → 3. 日志记录 → 4. 实际发送邮件 装饰器模式(Decorator Pattern)允许向一个现有的对象添加新的功能,同时又不改变其…...
突破不可导策略的训练难题:零阶优化与强化学习的深度嵌合
强化学习(Reinforcement Learning, RL)是工业领域智能控制的重要方法。它的基本原理是将最优控制问题建模为马尔可夫决策过程,然后使用强化学习的Actor-Critic机制(中文译作“知行互动”机制),逐步迭代求解…...
VB.net复制Ntag213卡写入UID
本示例使用的发卡器:https://item.taobao.com/item.htm?ftt&id615391857885 一、读取旧Ntag卡的UID和数据 Private Sub Button15_Click(sender As Object, e As EventArgs) Handles Button15.Click轻松读卡技术支持:网站:Dim i, j As IntegerDim cardidhex, …...
k8s从入门到放弃之Ingress七层负载
k8s从入门到放弃之Ingress七层负载 在Kubernetes(简称K8s)中,Ingress是一个API对象,它允许你定义如何从集群外部访问集群内部的服务。Ingress可以提供负载均衡、SSL终结和基于名称的虚拟主机等功能。通过Ingress,你可…...
【入坑系列】TiDB 强制索引在不同库下不生效问题
文章目录 背景SQL 优化情况线上SQL运行情况分析怀疑1:执行计划绑定问题?尝试:SHOW WARNINGS 查看警告探索 TiDB 的 USE_INDEX 写法Hint 不生效问题排查解决参考背景 项目中使用 TiDB 数据库,并对 SQL 进行优化了,添加了强制索引。 UAT 环境已经生效,但 PROD 环境强制索…...
蓝桥杯 2024 15届国赛 A组 儿童节快乐
P10576 [蓝桥杯 2024 国 A] 儿童节快乐 题目描述 五彩斑斓的气球在蓝天下悠然飘荡,轻快的音乐在耳边持续回荡,小朋友们手牵着手一同畅快欢笑。在这样一片安乐祥和的氛围下,六一来了。 今天是六一儿童节,小蓝老师为了让大家在节…...
Cloudflare 从 Nginx 到 Pingora:性能、效率与安全的全面升级
在互联网的快速发展中,高性能、高效率和高安全性的网络服务成为了各大互联网基础设施提供商的核心追求。Cloudflare 作为全球领先的互联网安全和基础设施公司,近期做出了一个重大技术决策:弃用长期使用的 Nginx,转而采用其内部开发…...
08. C#入门系列【类的基本概念】:开启编程世界的奇妙冒险
C#入门系列【类的基本概念】:开启编程世界的奇妙冒险 嘿,各位编程小白探险家!欢迎来到 C# 的奇幻大陆!今天咱们要深入探索这片大陆上至关重要的 “建筑”—— 类!别害怕,跟着我,保准让你轻松搞…...
Rust 开发环境搭建
环境搭建 1、开发工具RustRover 或者vs code 2、Cygwin64 安装 https://cygwin.com/install.html 在工具终端执行: rustup toolchain install stable-x86_64-pc-windows-gnu rustup default stable-x86_64-pc-windows-gnu 2、Hello World fn main() { println…...
华为OD机试-最短木板长度-二分法(A卷,100分)
此题是一个最大化最小值的典型例题, 因为搜索范围是有界的,上界最大木板长度补充的全部木料长度,下界最小木板长度; 即left0,right10^6; 我们可以设置一个候选值x(mid),将木板的长度全部都补充到x,如果成功…...
