Binlog vs. Redo Log:数据库日志的较劲【高级】
🎏:你只管努力,剩下的交给时间
🏠 :小破站
Binlog vs. Redo Log:数据库日志的较劲【高级】
- 前言
- 第一:事务的生命周期
- 事务的生命周期
- Binlog和Redo Log记录事务的一致性和持久性
- Binlog的记录过程
- Redo Log的记录过程
- 一致性和持久性的保障
- 第二:故障恢复与灾备
- Binlog与Redo Log的关键作用
- 1. 故障恢复
- Binlog的作用
- Redo Log的作用
- 2. 灾备计划
- Binlog的作用
- Redo Log的作用
- 最佳实践
- 1. 定期备份和归档
- 2. 监控与警报
- 3. 灾备演练
- 4. 版本管理与升级
- 5. 安全性与访问控制
- 6. 定期审查与更新计划
- 结论
- 第三:实战应用场景
- 1. 数据库恢复和备份策略
- 场景
- 实践
- 2. 主从复制
- 场景
- 实践
- 3. 数据库版本升级
- 场景
- 实践
- 4. 灾备演练
- 场景
- 实践
- 5. 数据库监控与性能优化
- 场景
- 实践
- 6. 安全审计与合规性
- 场景
- 实践
- 总结与建议
前言
在数据库的舞台上,有两位不可或缺的明星,它们分别是Binlog和Redo Log。就像是数据库的两条骨干,它们默默地记录着每一个数据变动的瞬间。今天,我们将揭开它们的神秘面纱,探讨它们在数据库事务中的独特角色,看看究竟是Binlog还是Redo Log更加强大。【高级】
第一:事务的生命周期
事务的生命周期
-
事务的开始(Begin): 事务的生命周期始于用户或应用程序发起事务开始的命令,通常是
BEGIN语句。在这一阶段,数据库开始记录所有对数据的修改,但这些修改仍然处于未提交状态。 -
执行事务操作: 在事务进行的过程中,数据库引擎会记录所有对数据的修改操作,包括插入、更新、删除等。这些操作在内存中进行,不会立即写入磁盘。
-
事务提交(Commit): 当用户或应用程序执行
COMMIT语句时,表示事务执行成功,并且数据库引擎将所有在事务中的修改写入磁盘,确保数据的持久性。 -
事务回滚(Rollback): 如果在事务执行的过程中出现了错误,用户或应用程序可以执行
ROLLBACK语句,撤销所有在事务中的修改,将数据恢复到事务开始前的状态。
Binlog和Redo Log记录事务的一致性和持久性
Binlog的记录过程
-
事务开始: 当事务开始时,Binlog记录一个
BEGIN事件,表示事务的起始。 -
事务执行: 在事务执行期间,Binlog会记录对数据的修改,包括插入、更新、删除等操作。每个操作都会被记录为一个独立的事件。
-
事务提交: 当事务提交时,Binlog记录一个
COMMIT事件,表示事务成功完成。 -
事务回滚: 如果事务回滚,Binlog记录一个
ROLLBACK事件,表示事务被撤销。
Redo Log的记录过程
-
事务开始: Redo Log记录事务的开始,包括事务ID等信息。
-
事务执行: 在事务执行期间,数据库引擎将事务对数据的物理修改记录到Redo Log中。这些记录是物理格式的,包括对数据页的具体修改。
-
事务提交: 在事务提交时,Redo Log会记录一个标记事务提交的日志记录。
-
事务回滚: 如果事务回滚,Redo Log记录事务的回滚操作,包括对数据页的撤销修改。
一致性和持久性的保障
-
一致性: Binlog和Redo Log记录了事务的所有修改操作,包括事务的开始、提交、回滚等事件。通过重放这些日志,可以确保事务的原子性和一致性,即事务要么完全执行,要么完全不执行。
-
持久性: 当事务提交时,Binlog和Redo Log的记录会被写入磁盘,确保事务的持久性。即使在事务提交后发生故障,可以通过重放这些日志来还原数据,维护数据库的一致性。
Binlog和Redo Log的设计和记录机制是数据库引擎保障事务的一致性和持久性的重要手段。它们的协同工作确保了数据库在各种场景下的可靠性和可恢复性。
第二:故障恢复与灾备
Binlog与Redo Log的关键作用
1. 故障恢复
Binlog的作用
- 历史变更记录: Binlog记录了数据库的历史更改,包括每个事务的详细操作。这使得在数据库发生故障后,可以通过重放Binlog来还原数据库到故障发生前的状态。
- 数据完整性: 在故障后,通过分析Binlog,可以确定哪些事务已经提交,哪些事务未提交,从而确保数据的完整性和一致性。
Redo Log的作用
- 持久性和一致性: Redo Log记录了事务对数据库进行的物理修改。在数据库崩溃后,通过重放Redo Log,可以确保已提交的事务的物理修改被应用,维护事务的持久性和一致性。
2. 灾备计划
Binlog的作用
- 数据同步: 在灾备情境中,主数据中心的Binlog可以用于实时同步到备用数据中心。备用数据中心通过读取主数据中心的Binlog,保持数据的实时同步,确保备用数据中心是最新的。
Redo Log的作用
- 数据完整性: 在灾备过程中,Redo Log对于恢复事务的物理修改至关重要。它确保备用数据中心可以通过重放Redo Log来还原事务的修改,从而维护数据的完整性。
最佳实践
1. 定期备份和归档
- 定期备份: 针对Binlog和Redo Log,建立定期的备份策略。这包括定期将Binlog备份到安全的位置,以及对数据库进行完整备份。这确保了在发生故障时有可靠的备份数据可用。
- 归档策略: 对于Binlog,建立合理的归档策略,确保历史变更记录的长期保存。这对于长期数据分析和合规性要求至关重要。
2. 监控与警报
- 实时监控: 建立实时监控系统,监控Binlog和Redo Log的写入和同步状态。任何异常都应该触发警报,以便及时发现问题并采取措施。
- 性能监控: 监控Binlog和Redo Log的性能,包括写入延迟、磁盘空间使用等。通过性能监控,可以及时发现潜在的性能问题并进行优化。
3. 灾备演练
- 定期演练: 定期进行灾备演练,验证备用数据中心的可用性和数据一致性。这有助于发现潜在问题,并确保在真实的灾难情境中能够快速、可靠地切换到备用数据中心。
4. 版本管理与升级
- 版本一致性: 确保主数据中心和备用数据中心的数据库引擎版本一致。不同版本的Binlog和Redo Log可能具有不同的格式和功能,版本一致性有助于保障数据同步的可靠性。
- 定期升级: 定期升级数据库引擎,以获得最新的安全性和性能优化。升级前进行全面的测试,确保新版本与灾备计划兼容。
5. 安全性与访问控制
- 加密和安全传输: 对于Binlog和Redo Log的传输,采用加密手段确保数据的安全传输。配置安全传输协议,如SSL/TLS,以保护数据在传输过程中的安全性。
- 访问控制: 限制对Binlog和Redo Log的访问权限。只有授权的用户才能访问这些关键的日志文件,以防止未经授权的修改或泄露。
6. 定期审查与更新计划
- 定期审查: 定期审查灾备计划和故障恢复策略。随着业务的变化和数据库规模的扩大,灾备计划和恢复策略可能需要进行调整和更新。
- 技术更新: 跟踪数据库引擎和相关技术的更新,了解新的安全修复和性能优化。在必要时更新数据库引擎和相关组件。
结论
Binlog和Redo Log作为数据库引擎的关键组件,在故障恢复和灾备中发挥着至关重要的作用。通过
合理的最佳实践,包括定期备份、监控与警报、灾备演练、版本管理与升级、安全性与访问控制、定期审查与更新计划等,可以确保数据库系统在面对故障和灾备时能够快速、可靠地保持数据的安全和可靠性。这些实践应该被视为数据库管理中的标准操作,以建立稳健的数据恢复和灾备机制。
第三:实战应用场景
1. 数据库恢复和备份策略
场景
公司数据库出现了一次数据错误的情况,需要将数据库还原到前一天的状态。同时,要求最小化业务中断时间。
实践
- Binlog应用: 利用Binlog,可以找到目标时间点的Binlog文件,通过重放这些Binlog来还原数据库到指定时间点。
- Redo Log应用: 在进行数据库还原前,确保Redo Log的备份完整。在还原过程中,重放Redo Log以保障已提交事务的物理修改。
2. 主从复制
场景
公司业务需要读写分离,同时在备用服务器上实现数据冗余备份。要求主从服务器之间数据同步,并确保主服务器宕机时能够无缝切换到从服务器。
实践
- Binlog应用: 主服务器将所有更改记录到Binlog中,从服务器通过读取主服务器的Binlog并执行相同的更改来保持数据同步。
- Redo Log应用: 从服务器在执行Binlog中的更改时,重放Redo Log以确保事务的一致性。
3. 数据库版本升级
场景
公司决定升级数据库引擎版本以获得性能提升和新的功能。需要在升级过程中最小化数据丢失和系统停机时间。
实践
- Binlog应用: 在升级前,进行全量备份并确保Binlog的完整性。在升级过程中,通过重放Binlog还原到升级前的状态,以最小化数据丢失。
- Redo Log应用: 在升级过程中,重放Redo Log以确保已提交事务的物理修改被应用,维持事务的一致性。
4. 灾备演练
场景
公司定期进行灾备演练,以验证备用数据中心的可用性和数据一致性。
实践
- Binlog应用: 在灾备演练前,确保主数据中心的Binlog可以成功传输到备用数据中心,以保持数据同步。
- Redo Log应用: 在灾备演练中,通过重放Redo Log还原事务的物理修改,验证备用数据中心的数据完整性。
5. 数据库监控与性能优化
场景
公司数据库出现了性能问题,需要进行性能监控和优化。
实践
- Binlog应用: 在性能监控中,通过分析Binlog,可以了解数据库的历史变更和事务执行情况,有助于识别潜在的性能瓶颈。
- Redo Log应用: 在性能优化过程中,通过重放Redo Log,可以评估事务的物理修改对性能的影响,并进行相应的调整。
6. 安全审计与合规性
场景
公司需要满足法规对数据库安全审计和合规性的要求,确保敏感数据的安全性。
实践
- Binlog应用: 通过分析Binlog,可以追踪数据库中敏感数据的访问记录,进行安全审计,以满足合规性要求。
- Redo Log应用: 在合规性要求中,重放Redo Log可以确保已提交事务的物理修改得到正确的记录,提高数据安全性。
总结与建议
在日常数据库管理中,Binlog和Redo Log是强大的工具,它们不仅在故障恢复和灾备中发挥着关键作用,也在主从复制、数据库升级、性能优化、合规性要求等方面提供了实际应用的解决方案。合理利用它们,结合数据库管理的最佳实践,能够确保数据的安全、一致性和可靠性。定期进行备份、监控性能、定期演练灾备计划等措施都是日常管理中的关键步骤,通过这些实践,数据库管理员能够更好地应对各种挑战,保障业务的正常运行。
相关文章:
Binlog vs. Redo Log:数据库日志的较劲【高级】
🎏:你只管努力,剩下的交给时间 🏠 :小破站 Binlog vs. Redo Log:数据库日志的较劲【高级】 前言第一:事务的生命周期事务的生命周期Binlog和Redo Log记录事务的一致性和持久性Binlog的记录过程R…...
移动机器人路径规划(二)--- 图搜索基础,Dijkstra,A*,JPS
目录 1 图搜索基础 1.1 机器人规划的配置空间 Configuration Space 1.2 图搜索算法的基本概念 1.3 启发式的搜索算法 Heuristic search 2 A* Dijkstra算法 2.1 Dijkstra算法 2.2 A*&&Weighted A*算法 2.3 A* 算法的工程实践中的应用 3 JPS 1 图搜索基础 1.1…...
消息中间件——RabbitMQ(四)命令行与管控台的基本操作!
前言 在前面的文章中我们介绍过RabbitMQ的搭建:RabbitMQ的安装过以及各大主流消息中间件的对比:,本章就主要来介绍下我们之前安装的管控台是如何使用以及如何通过命令行进行操作。 1. 命令行操作 1.1 基础服务的命令操作 rabbitmqctl sto…...
性能压测工具:wrk
一般我们压测的时候,需要了解衡量系统性能的一些参数指标,比如。 1、性能指标简介 1.1 延迟 简单易懂。green:一般指响应时间 95线:P95。平均100%的请求中95%已经响应的时间 99线:P99。平均100%的请求中99%已经响应的时间 平…...
[Matlab有限元分析] 2.杆单元有限元分析
1. 一维杆单元有限元分析程序 一维刚单元的局部坐标系(单元坐标系)与全局坐标系相同。 1.1 线性杆单元 如图所示是一个杆单元,由两个节点i和j,局部坐标系的X轴沿着杆的方向,由i节点指向j节点,每个节点有…...
透过对话聊天聊网络tcp三次握手四次挥手
序 说起来网络,就让我想起的就是一张图。我在网上可以为所欲为,反正你又不能顺着网线来打我。接下来我们来详细说一下网络到底是怎么连接的。 TCP三次打招呼 首先我会用男女生之间的聊天方式,来举一个例子。 从tcp三次握手来说,…...
项目管理套路:看这一篇绝对够用❤️
写论文必不可少的,就是创建代码并进行实验。好的项目管理可以让实验进行得更加顺利。本篇博客以一次项目实践为例,介绍项目管理的方法,以及可能遇到的问题,并提供一些可行的解决方案。 目录 项目管理工具开始第一步版本管理十分关…...
华为-算法---测试开发工程师----摘要牛客网
Java面试题---摘要牛客网-CSDN博客package extendNiuKeWang;import java.util.Scanner;public class GoodHuaWei {public static void main(String[] args) {Scanner sc = new Scanner(System.in);int money = sc.nextInt();System.out.println("n值总金额:"+money)…...
python环境搭建-yolo代码跑通-呕心沥血制作(告别报错no module named torch)
安装软件 安装过的可以查看有没有添加环境变量 好的! 我们发车! 如果你想方便快捷的跑通大型项目,那么必须安装以下两个软件: 1.pycharm2.anaconda对应作用: pycharm:专门用来跑通python项目的软件,相当于一个编辑器,可以debug调试,可以接受远程链接调试!anaconda:专…...
Cisco Packet Tracer配置命令——路由器篇
路由基础 路由器用于互联两个或多个网络,具有两项功能:为要转发的数据包选择最佳路径以及将数据包交换到正确的端口,概括为路由选择和分组转发。 路由选择 路由选择就是路由器根据目的IP地址的网络地址部分,通过路由选择算法确…...
setContentsMargins(QMargins()) 是 QWidget 类的成员函数,用于设置小部件的内容边距(Contents Margins)
setContentsMargins(QMargins()) 是 QWidget 类的成员函数,用于设置小部件的内容边距(Contents Margins)。 在 Qt 中,内容边距指的是小部件内部内容与小部件边界之间的空白区域。通过设置内容边距,可以控制和调整小部…...
Redis key 过期监听实现
1.技术背景,想知道 redis 设置了TTL时间的key 过期,且有后续的业务处理的场景可以使用。 bug点: 使用redis 缓存失效监听会有一定的延迟, 过期事件是在redis服务器删除键的时候生成的,而不是在理论上生存时间到达0值得…...
Gee教程2.上下文Context
先来看看Gin框架的简单例子 func main() {engine : gin.Default()engine.GET("/", func(c *gin.Context) {c.String(http.StatusOK, "hello World!")})//监听并启动服务,默认 http://localhost:8080/engine.Run() }//我们自己写的 func main()…...
【从浅识到熟知Linux】基本指定之cat、more和less
🎈归属专栏:从浅学到熟知Linux 🚗个人主页:Jammingpro 🐟每日一句:写完这篇我要去吃晚饭啦!! 文章前言:本文介绍cat、more和less指令三种查看文件的用法并给出示例和截图…...
2018年7月24日 Go生态洞察:Go Cloud实现便携式云编程
🌷🍁 博主猫头虎(🐅🐾)带您 Go to New World✨🍁 🦄 博客首页——🐅🐾猫头虎的博客🎐 🐳 《面试题大全专栏》 🦕 文章图文…...
storyBook常见踩坑报错 和 解决
用StoryBook官网的代码,但报错,Unexpected token’<’ 在js文件中// Button.stories.js|jsx import { Button } from ‘./Button’; export default { component: Button, }; /* *👇 Render functions are a framework specific featur…...
python 笔记 根据用户轨迹+基站位置,估计基站轨迹+RSRP
1 问题描述 已知用户实际的轨迹,和基站的位置,能不能得到用户所连接的基站,以及基站的信号强度RSRP? 1.1 几个假设 这里我们做几个假设: 每个用户有80%的概率连接最近的基站,有20%的概率选择其他的基站连…...
RocketMQ 安装部署及应用场景记录
文章目录 前言一、RocketMQ简介1.1 整体架构 二、RocketMQ安装部署2.1 RocketMQ 下载2.2 修改 JVM 参数2.3 启动 NameServer 和 Broker2.4 验证发送和接受消息2.5 停止 NameServer 和 Broker2.6 配置全局环境 三、RocketMQ应用场景3.1 异步处理3.2 应用解耦3.3 流量削峰 前言 …...
人工智能面面观
人工智能简介 人工智能(Artificial Intelligence,简称AI)是一门研究如何使计算机能够模拟和执行人类智能任务的科学和技术领域。它致力于开发能够感知、理解、学习、推理、决策和与人类进行交互的智能系统。人工智能的背景可以追溯到上世纪50…...
vue-router的使用技巧
一、安装 npm install vue-router 二、引入 main.ts引入 import { createApp } from vue import App from ./App.vue import router from ./routerconst app createApp(App)app.use(router) app.mount(#app)三、定义路由文件 路由的参数 meta添加路由的其他参数 redire…...
第19节 Node.js Express 框架
Express 是一个为Node.js设计的web开发框架,它基于nodejs平台。 Express 简介 Express是一个简洁而灵活的node.js Web应用框架, 提供了一系列强大特性帮助你创建各种Web应用,和丰富的HTTP工具。 使用Express可以快速地搭建一个完整功能的网站。 Expre…...
K8S认证|CKS题库+答案| 11. AppArmor
目录 11. AppArmor 免费获取并激活 CKA_v1.31_模拟系统 题目 开始操作: 1)、切换集群 2)、切换节点 3)、切换到 apparmor 的目录 4)、执行 apparmor 策略模块 5)、修改 pod 文件 6)、…...
Leetcode 3577. Count the Number of Computer Unlocking Permutations
Leetcode 3577. Count the Number of Computer Unlocking Permutations 1. 解题思路2. 代码实现 题目链接:3577. Count the Number of Computer Unlocking Permutations 1. 解题思路 这一题其实就是一个脑筋急转弯,要想要能够将所有的电脑解锁&#x…...
MVC 数据库
MVC 数据库 引言 在软件开发领域,Model-View-Controller(MVC)是一种流行的软件架构模式,它将应用程序分为三个核心组件:模型(Model)、视图(View)和控制器(Controller)。这种模式有助于提高代码的可维护性和可扩展性。本文将深入探讨MVC架构与数据库之间的关系,以…...
OkHttp 中实现断点续传 demo
在 OkHttp 中实现断点续传主要通过以下步骤完成,核心是利用 HTTP 协议的 Range 请求头指定下载范围: 实现原理 Range 请求头:向服务器请求文件的特定字节范围(如 Range: bytes1024-) 本地文件记录:保存已…...
如何将联系人从 iPhone 转移到 Android
从 iPhone 换到 Android 手机时,你可能需要保留重要的数据,例如通讯录。好在,将通讯录从 iPhone 转移到 Android 手机非常简单,你可以从本文中学习 6 种可靠的方法,确保随时保持连接,不错过任何信息。 第 1…...
论文浅尝 | 基于判别指令微调生成式大语言模型的知识图谱补全方法(ISWC2024)
笔记整理:刘治强,浙江大学硕士生,研究方向为知识图谱表示学习,大语言模型 论文链接:http://arxiv.org/abs/2407.16127 发表会议:ISWC 2024 1. 动机 传统的知识图谱补全(KGC)模型通过…...
Rust 异步编程
Rust 异步编程 引言 Rust 是一种系统编程语言,以其高性能、安全性以及零成本抽象而著称。在多核处理器成为主流的今天,异步编程成为了一种提高应用性能、优化资源利用的有效手段。本文将深入探讨 Rust 异步编程的核心概念、常用库以及最佳实践。 异步编程基础 什么是异步…...
自然语言处理——循环神经网络
自然语言处理——循环神经网络 循环神经网络应用到基于机器学习的自然语言处理任务序列到类别同步的序列到序列模式异步的序列到序列模式 参数学习和长程依赖问题基于门控的循环神经网络门控循环单元(GRU)长短期记忆神经网络(LSTM)…...
Swagger和OpenApi的前世今生
Swagger与OpenAPI的关系演进是API标准化进程中的重要篇章,二者共同塑造了现代RESTful API的开发范式。 本期就扒一扒其技术演进的关键节点与核心逻辑: 🔄 一、起源与初创期:Swagger的诞生(2010-2014) 核心…...
