Binlog vs. Redo Log:数据库日志的较劲【基础】
🎏:你只管努力,剩下的交给时间
🏠 :小破站
Binlog vs. Redo Log:数据库日志的较劲
- 前言
- 第一:Binlog与Redo Log的基础概念
- Binlog(二进制日志)的基础概念
- Redo Log(重做日志)的基础概念
- 在数据库事务中的重要性
- 第二:结构对比
- Binlog(二进制日志)的内部结构
- Redo Log(重做日志)的内部结构
- 差异对比
- 第三:功能差异
- Binlog(二进制日志)的功能
- Redo Log(重做日志)的功能
- 在事务提交、回滚和数据恢复中的作用对比
- Binlog
- Redo Log
- 第四:性能影响与优化
- 性能影响与优化
- Binlog对数据库性能的影响
- Redo Log对数据库性能的影响
- 优化策略
- Binlog的优化策略
- Redo Log的优化策略
- 通用性能优化策略
前言
在数据库的舞台上,有两位不可或缺的明星,它们分别是Binlog和Redo Log。就像是数据库的两条骨干,它们默默地记录着每一个数据变动的瞬间。今天,我们将揭开它们的神秘面纱,探讨它们在数据库事务中的独特角色,看看究竟是Binlog还是Redo Log更加强大。
第一:Binlog与Redo Log的基础概念
Binlog(二进制日志)的基础概念
-
定义和作用: Binlog是MySQL中的二进制日志,记录了对数据库进行更改的所有事件。它包含了对数据的插入、更新、删除等操作的详细信息。Binlog的主要作用是用于数据恢复、主从复制和点对点复制。
-
数据恢复: Binlog记录了数据库的历史更改,可以用于数据恢复。通过重放Binlog中的事件,可以将数据库还原到特定的时间点。
-
主从复制: 在主从复制中,主服务器将所有的更改记录到Binlog中,而从服务器则通过读取主服务器的Binlog并执行相同的更改来保持数据同步。
-
点对点复制: 类似于主从复制,但点对点复制允许多个服务器之间相互复制数据,而不仅限于主从关系。
Redo Log(重做日志)的基础概念
-
定义和作用: Redo Log是数据库引擎内部的日志,用于记录对数据库进行的修改。它的主要作用是确保事务的持久性和一致性。
-
持久性: 在事务提交之前,数据库引擎将事务对数据的修改记录到Redo Log中。这样,即使在事务提交后发生故障,可以通过重放Redo Log来还原数据。
-
事务一致性: Redo Log确保事务的原子性。在事务提交前,引擎会先将事务的修改写入Redo Log,然后再将修改应用到实际的数据文件中。
-
崩溃恢复: 在数据库崩溃后,通过重放Redo Log,可以将已提交的事务重新应用到数据文件,确保数据库在崩溃后仍然保持一致。
在数据库事务中的重要性
-
事务原子性: Binlog和Redo Log都是支持事务原子性的关键组件。它们确保事务要么完全执行,要么完全不执行。
-
持久性: Redo Log的存在确保了事务的持久性。即使在事务提交后,数据修改可能还未写入实际的数据文件,但通过Redo Log可以进行恢复。
-
数据库复制: Binlog和Redo Log在数据库复制中发挥着重要作用。通过记录并复制对数据的修改,可以实现主从复制和点对点复制,确保多个服务器之间数据的一致性。
-
数据恢复: 在发生故障或人为错误时,Binlog和Redo Log记录的历史更改可以用于恢复数据库到先前的状态。
在数据库事务中,Binlog和Redo Log的协同作用确保了数据的一致性、可靠性和可恢复性。它们是数据库引擎保障事务执行和数据完整性的关键机制。
第二:结构对比
Binlog(二进制日志)的内部结构
-
记录格式: Binlog的记录格式通常为二进制格式,以提高效率。每个Binlog事件包含了对数据库进行修改的详细信息,如表名、操作类型、修改前后的数据等。
-
存储方式: Binlog以文件的形式存储在磁盘上。每个Binlog文件可以包含多个事件,文件会定期轮转以避免文件过大。Binlog文件的路径和命名方式在MySQL的配置中指定。
-
事件类型: Binlog中的事件类型包括但不限于Query事件、TableMap事件、WriteRows事件、UpdateRows事件、DeleteRows事件等,每个事件负责记录一类数据库操作。
-
位置标识: Binlog中的每个事件都有一个唯一的位置标识,称为Log Sequence Number(LSN),用于标识事件在Binlog中的位置。LSN是一个递增的数字。
Redo Log(重做日志)的内部结构
-
记录格式: Redo Log的记录格式通常是物理格式,记录了对数据库页的物理修改。每个Redo Log记录包含了一个事务的一系列修改。
-
存储方式: Redo Log以循环缓冲区的形式存储在磁盘上。在InnoDB引擎中,Redo Log分为多个组,每个组包含多个文件。Redo Log文件的大小和数量在MySQL的配置中指定。
-
事务标识: Redo Log中的每个记录都与一个事务相关联,有一个唯一的事务ID。这有助于恢复时区分不同的事务。
-
位置标识: Redo Log中的每个记录也有一个唯一的位置标识,通常是一个组号和偏移量的组合。这用于标识记录在Redo Log中的位置。
差异对比
-
抽象层次: Binlog记录的是逻辑层面的更改,包含对数据库的高层次操作;而Redo Log记录的是物理层面的更改,关注的是对页的修改。
-
存储方式: Binlog以文件形式存储,每个文件包含多个事件;Redo Log以循环缓冲区和多个组的形式存储,通过循环写入和轮换来保证循环使用。
-
记录的粒度: Binlog的事件粒度更细,每个事件对应一个高层次的数据库操作;Redo Log的记录粒度更大,一个Redo Log记录可能包含多个页面的修改,对应一个或多个事务。
-
使用场景: Binlog主要用于数据恢复、主从复制、点对点复制等高级功能;Redo Log主要用于崩溃恢复、确保事务的原子性和一致性。
虽然Binlog和Redo Log在实现细节上有一些差异,但它们都是确保数据库事务一致性和可恢复性的重要组成部分。它们的协同工作确保了数据库的持久性,使得在故障发生时能够安全地进行恢复。
第三:功能差异
Binlog(二进制日志)的功能
-
数据恢复: Binlog记录了数据库的历史更改,可用于数据恢复。通过重放Binlog中的事件,可以将数据库还原到特定的时间点。
-
主从复制: Binlog在主从复制中发挥关键作用。主服务器将所有更改记录到Binlog中,而从服务器通过读取主服务器的Binlog并执行相同的更改来保持数据同步。
-
点对点复制: 类似于主从复制,但点对点复制允许多个服务器之间相互复制数据,而不仅限于主从关系。
-
增量备份: Binlog的内容可用于增量备份,只备份自上次完整备份以来的更改,减少备份时间和存储空间。
Redo Log(重做日志)的功能
-
崩溃恢复: Redo Log用于崩溃恢复,确保已提交的事务在数据库崩溃后能够重新应用,维护事务的一致性。
-
事务的原子性: Redo Log记录事务对数据的物理修改,确保事务的原子性。在事务提交前,Redo Log中会记录相应的物理修改。
-
持久性: Redo Log的存在保证了事务的持久性。即使在事务提交后,数据的物理修改可能还未写入实际的数据文件,但通过Redo Log可以进行恢复。
在事务提交、回滚和数据恢复中的作用对比
Binlog
-
事务提交: 在事务提交时,Binlog会记录对数据库的更改,确保事务的原子性和一致性。
-
事务回滚: Binlog中不会记录事务回滚的信息。回滚通常通过撤销对数据的修改来完成。
-
数据恢复: Binlog是用于数据恢复的关键工具。通过重放Binlog,可以将数据库还原到特定的时间点,应对故障和数据损坏。
Redo Log
-
事务提交: 在事务提交时,Redo Log会记录对数据页的物理修改,确保事务的原子性和持久性。
-
事务回滚: Redo Log中记录的是对数据页的物理修改,因此可以用于事务回滚。通过重放Redo Log,可以取消对数据的物理修改。
-
数据恢复: Redo Log在数据库崩溃后用于崩溃恢复。通过重放Redo Log,可以将已提交的事务重新应用到数据文件中,确保数据库在崩溃后仍然一致。
总体而言,Binlog和Redo Log在数据库引擎中有着不同的功能,但它们共同确保了事务的一致性、原子性和可恢复性。它们是数据库引擎实现事务处理的重要组成部分。
第四:性能影响与优化
性能影响与优化
Binlog对数据库性能的影响
-
写入开销: Binlog记录所有对数据库的更改,这会引入写入开销。在高写入负载下,Binlog的写入操作可能成为性能瓶颈。
-
磁盘空间: Binlog文件会占用磁盘空间,特别是在高写入负载下。大的Binlog文件可能导致磁盘空间不足,影响性能。
-
同步延迟: 在主从复制中,从服务器需要读取主服务器的Binlog并应用相同的更改。如果主服务器上的Binlog写入较慢,可能导致从服务器的同步延迟。
Redo Log对数据库性能的影响
-
写入开销: Redo Log的写入是一个频繁的操作,因为每个事务提交都会生成Redo Log记录。在高写入负载下,这可能成为性能瓶颈。
-
同步延迟: Redo Log的写入和同步操作可能导致事务提交时的延迟,特别是在同步到磁盘的过程中。
优化策略
Binlog的优化策略
-
选择合适的日志格式: Binlog支持多种格式,包括statement、row和mixed。选择合适的日志格式可以根据应用程序的特性来优化性能。
-
调整同步策略: 考虑通过配置同步策略来优化性能。例如,可以将
sync_binlog参数设置为较大的值,以减少同步到磁盘的频率。 -
增量备份优化: 如果只需备份增量数据,可以定期将Binlog进行备份,而不是备份整个数据库。
-
合理设置Binlog文件大小: 控制Binlog文件的大小,避免文件过大。较小的Binlog文件有助于更快地进行轮转和管理。
Redo Log的优化策略
-
调整Redo Log文件大小: 控制Redo Log文件的大小,以平衡写入性能和磁盘空间的利用率。可以根据实际负载情况调整
innodb_log_file_size参数。 -
RAID配置优化: 使用RAID来提高Redo Log的写入性能。选择RAID级别和磁盘类型以适应写入负载。
-
设置适当的缓冲池大小: 通过调整
innodb_log_buffer_size参数来控制Redo Log的缓冲池大小,以平衡性能和内存使用。 -
使用SSD: 在高写入负载下,使用SSD来存储Redo Log文件可以提高写入性能。
-
合理配置同步策略: 根据性能需求调整同步策略,例如通过调整
innodb_flush_log_at_trx_commit参数。
通用性能优化策略
-
硬件升级: 升级硬件,包括磁盘、内存和CPU,以提高整体性能。
-
合理配置缓存: 根据实际负载和硬件情况,合理配置数据库引擎的缓存,如InnoDB缓冲池。
-
定期监控和调整: 定期监控数据库性能,使用性能分析工具,根据实际负载调整数据库引擎参数。
-
合理设计数据库表结构: 良好的数据库表设计可以减少写入冲突,降低Redo Log的压力。
-
异步写入: 考虑将Binlog和Redo Log的写入操作设置为异步,以减少写入时的开销。
-
使用数据库连接池: 使用连接池管理数据库连接,以减少连接的创建和销毁开销。
综合考虑Binlog和Redo Log的优化策略,需要根据具体的数据库负载、硬件环境和性能需求进行调整。不同的数据库引擎和版本可能有不同的优化参数和策略。
相关文章:
Binlog vs. Redo Log:数据库日志的较劲【基础】
🎏:你只管努力,剩下的交给时间 🏠 :小破站 Binlog vs. Redo Log:数据库日志的较劲 前言第一:Binlog与Redo Log的基础概念Binlog(二进制日志)的基础概念Redo Logÿ…...
代理模式-C语言实现
UML图: 代码实现: #include <stdio.h>// 抽象主题接口 typedef struct {void (*request)(void*); } Subject;// 具体主题类 typedef struct {void (*request)(void*); } RealSubject;void RealSubject_request(void* obj) {printf("RealSubj…...
解密 sqli靶场第一关:一步一步学习 SQL 注入技术
目录 一、判断是否存在注入点 二、构造类似?id1 --的语句 三、判断数据表中的列数 四、使用union联合查询 五、使用group_concat()函数 六、爆出数据库中的表名 七、爆出users表中的列名 八、爆出users表中的数据 🌈嗨!我是Filotimo__🌈。很…...
Flask 使用Jinja2模板引擎
Jinja2,由Flask框架的创作者开发,是一款功能丰富的模板引擎,以其完整的Unicode支持、灵活性、高效性和安全性而备受推崇。最初受Django模板引擎启发,Jinja2为Flask提供了强大的模板支持,后来也成为其他项目的首选。在本…...
C/C++内存管理,malloc,realloc,calloc,new,delete详解!!!
1.初步了解内存中各个区间存储的数据特征 1.栈区:存储一些局部变量、函数参数、返回值等,跟函数栈振有关,出了作用域,生命周期结束。 2.堆区:用于动态开辟空间,如果不主动销毁空间,则程序运行结…...
高级JVM
一、Java内存模型 1. 我们开发人员编写的Java代码是怎么让电脑认识的 首先先了解电脑是二进制的系统,他只认识 01010101比如我们经常要编写 HelloWord.java 电脑是怎么认识运行的HelloWord.java是我们程序员编写的,我们人可以认识,但是电脑不…...
论文阅读——MCAN(cvpr2019)
补充一下MCAN-VQA: 对图片的处理:首先输入图片到Faster R-CNN,会先设定一个判断是否检测到物体的阈值,这样动态的生成m∈[10,100]个目标,然后从检测到的对应的区域通过平均池化提取特征。第i个物体特征表示为ÿ…...
mac电脑文件比较工具 UltraCompare 中文for mac
UltraCompare是一款功能强大的文件和文件夹比较工具,用于比较和合并文本、二进制和文件夹。它提供了丰富的功能和直观的界面,使用户能够轻松地比较和同步文件内容,查找差异并进行合并操作。 以下是UltraCompare软件的一些主要特点和功能&…...
XML Schema 的extension 元素
XML Schema 的extension 元素对complexContent、simpleContent元素进行扩展。 例如,下面通过增加了两个属性,对simpleContent进行了扩展: <xs:element name"condition" maxOccurs"unbounded" minOccurs"0"…...
每日一题2023.11.26——打印沙漏【PTA】
题目要求: 本题要求你写个程序把给定的符号打印成沙漏的形状。例如给定17个“*”,要求按下列格式打印 ************ *****所谓“沙漏形状”,是指每行输出奇数个符号;各行符号中心对齐;相邻两行符号数差2;…...
【C++】类和对象——拷贝构造和赋值运算符重载
上一篇我们讲了构造函数,就是对象实例化时会自动调用,那么,我们这里的拷贝构造在形式上是构造函数的一个重载,拷贝构造其实也是一种构造函数,那么我们就可以引出这里的规则 1.拷贝构造函数的函数名必须与类名相同。 2.…...
基于acme免费申请泛域名证书
参考文档:https://github.com/acmesh-official/acme.sh 文章目录 step1: 获取阿里云的ak、skstep2: 安装acmestep3: 安装通配符证书step4: 查看证书step5: 证书的使用step6: 删除证书 step1: 获取阿里云的ak、sk export Ali_Key"LTAI5tG8888888CDoEjLzkE"…...
系列十九、Spring实例化bean的方式
一、概述 所谓实例化bean,大白话讲就是Spring如何把这一个个的普通的Java对象创建为Spring bean的。 二、方式 Spring中实例化bean常用的有以下四种,即: ① 构造器方式; ② 静态工厂方式; ③ 实例工厂方式;…...
WordPress无插件实现css、js加速 实现动静态分离
“Wordpress网站现在普遍较慢”,其实是没有做好优化罢了,像我的网站生成页面的时间才0.06s,而且我这网站还有提速的机会呢,如css、js使用CDN加速,实现动静态分离,我安装过,Memcache和PHP加速脚本就已经让我…...
2017年五一杯数学建模B题自媒体时代的消息传播问题解题全过程文档及程序
2017年五一杯数学建模 B题 自媒体时代的消息传播问题 原题再现 电视剧《人民的名义》中人物侯亮平说:“现在是自媒体时代,任何突发性事件几分钟就传播到全世界。”相对于传统媒体,以互联网技术为基础的自媒体以其信息传播的即时性、交往方式…...
虹科分享 | AR世界揭秘:从二维码的起源到数据识别与位姿技术的奇妙融合!
引言:探索AR的神奇世界,我们将从二维码的诞生谈起。在这个科技的海洋中,二维码是如何帮助AR实现数据获取与位姿识别的呢?让我们一起揭开这层神秘的面纱! 一、二维码的由来 二维码是将数据存储在图形中的技术ÿ…...
基于helm部署并配置StorageClass
此类方法适用于测试环境或者小型的集群环境,因为nfs是网络文件系统,在io性能上并不能有所保证。 前置条件: 已部署k8s集群已安装helm 工具 step1: 安装nfs服务 yum install nfs-utils -ystep2: 配置nfs # 编辑/etc/exports /data/nfs *(r…...
Python基础:字符串详解(需补充完善)
1. 字符串定义 在Python中,字符串是一种数据类型,用于表示文本数据。字符串是由字符组成的序列,可以包含字母、数字、符号和空格等字符。在Python中,你可以使用单引号()或双引号("&#x…...
做直播服务器要什么样的配置呢?
现在直播行业越来越火爆,大大小小的平台或者企业都选择通过直播卖货的方式出售产品,直播的内容还有观看直播的人数等等都影响了服务器的配置需求,今天小编就给大家讲一讲吧! 1、内存:直播服务器需要足够的内存才能支持…...
⑥【bitmap 】Redis数据类型: bitmap [使用手册]
个人简介:Java领域新星创作者;阿里云技术博主、星级博主、专家博主;正在Java学习的路上摸爬滚打,记录学习的过程~ 个人主页:.29.的博客 学习社区:进去逛一逛~ Redis bitmap ⑥Redis bitmap 基本操作命令1. …...
(LeetCode 每日一题) 3442. 奇偶频次间的最大差值 I (哈希、字符串)
题目:3442. 奇偶频次间的最大差值 I 思路 :哈希,时间复杂度0(n)。 用哈希表来记录每个字符串中字符的分布情况,哈希表这里用数组即可实现。 C版本: class Solution { public:int maxDifference(string s) {int a[26]…...
Prompt Tuning、P-Tuning、Prefix Tuning的区别
一、Prompt Tuning、P-Tuning、Prefix Tuning的区别 1. Prompt Tuning(提示调优) 核心思想:固定预训练模型参数,仅学习额外的连续提示向量(通常是嵌入层的一部分)。实现方式:在输入文本前添加可训练的连续向量(软提示),模型只更新这些提示参数。优势:参数量少(仅提…...
使用分级同态加密防御梯度泄漏
抽象 联邦学习 (FL) 支持跨分布式客户端进行协作模型训练,而无需共享原始数据,这使其成为在互联和自动驾驶汽车 (CAV) 等领域保护隐私的机器学习的一种很有前途的方法。然而,最近的研究表明&…...
【机器视觉】单目测距——运动结构恢复
ps:图是随便找的,为了凑个封面 前言 在前面对光流法进行进一步改进,希望将2D光流推广至3D场景流时,发现2D转3D过程中存在尺度歧义问题,需要补全摄像头拍摄图像中缺失的深度信息,否则解空间不收敛…...
【磁盘】每天掌握一个Linux命令 - iostat
目录 【磁盘】每天掌握一个Linux命令 - iostat工具概述安装方式核心功能基础用法进阶操作实战案例面试题场景生产场景 注意事项 【磁盘】每天掌握一个Linux命令 - iostat 工具概述 iostat(I/O Statistics)是Linux系统下用于监视系统输入输出设备和CPU使…...
令牌桶 滑动窗口->限流 分布式信号量->限并发的原理 lua脚本分析介绍
文章目录 前言限流限制并发的实际理解限流令牌桶代码实现结果分析令牌桶lua的模拟实现原理总结: 滑动窗口代码实现结果分析lua脚本原理解析 限并发分布式信号量代码实现结果分析lua脚本实现原理 双注解去实现限流 并发结果分析: 实际业务去理解体会统一注…...
微信小程序云开发平台MySQL的连接方式
注:微信小程序云开发平台指的是腾讯云开发 先给结论:微信小程序云开发平台的MySQL,无法通过获取数据库连接信息的方式进行连接,连接只能通过云开发的SDK连接,具体要参考官方文档: 为什么? 因为…...
JUC笔记(上)-复习 涉及死锁 volatile synchronized CAS 原子操作
一、上下文切换 即使单核CPU也可以进行多线程执行代码,CPU会给每个线程分配CPU时间片来实现这个机制。时间片非常短,所以CPU会不断地切换线程执行,从而让我们感觉多个线程是同时执行的。时间片一般是十几毫秒(ms)。通过时间片分配算法执行。…...
UR 协作机器人「三剑客」:精密轻量担当(UR7e)、全能协作主力(UR12e)、重型任务专家(UR15)
UR协作机器人正以其卓越性能在现代制造业自动化中扮演重要角色。UR7e、UR12e和UR15通过创新技术和精准设计满足了不同行业的多样化需求。其中,UR15以其速度、精度及人工智能准备能力成为自动化领域的重要突破。UR7e和UR12e则在负载规格和市场定位上不断优化…...
C# 表达式和运算符(求值顺序)
求值顺序 表达式可以由许多嵌套的子表达式构成。子表达式的求值顺序可以使表达式的最终值发生 变化。 例如,已知表达式3*52,依照子表达式的求值顺序,有两种可能的结果,如图9-3所示。 如果乘法先执行,结果是17。如果5…...
