MySQL(高级特性篇) 14 章——MySQL事务日志
事务有4种特性:原子性、一致性、隔离性和持久性
- 事务的隔离性由锁机制实现
- 事务的原子性、一致性和持久性由事务的redo日志和undo日志来保证(1)REDO LOG称为重做日志,用来保证事务的持久性(2)UNDO LOG称为回滚日志,用来保证事务的原子性、一致性
有的DBA或许会认为UNDO是REDO的逆过程,其实不然。REDO和UNDO都可以视为是一种恢复操作,但是:
- redo log:是存储引擎层(innodb)生成的日志,记录的是“物理级别” 上的页修改操作,比如页号xx、偏移量yyy写入了'zzz'数据
- undo log:是存储引擎层(innodb)生成的日志,记录的是“逻辑操作”日志,比如对某一行数据进行了INSERT语句操作,那么undo log就记录一条与之相反的DELETE操作
一、redo日志
InnoDB存储引擎是以页为单位来管理存储空间的。在真正访问页面之前,需要(1)把在磁盘上的页缓存到内存中的Buffer Pool之后才可以访问。(2)所有的变更都必须先更新缓冲池中的数据,然后(3)缓冲池中的脏页会以一定的频率被刷入磁盘,通过缓冲池来优化CPU和磁盘之间的鸿沟
(1)为什么需要REDO日志
- 一方面,(1)缓冲池可以帮助我们消除CPU和磁盘之间的鸿沟。(2)checkPoint机制可以保证数据的最终落盘,然而由于checkPoint并不是每次变更的时候就触发的,而是master线程隔一段时间去处理的。所以最坏的情况就是事务提交后,刚写完缓冲池,数据库宕机了,那么这段数据就是丢失的,无法恢复
- 另一方面,事务的持久性,就是说对于一个已经提交的事务,在事务提交后即使系统发生了崩溃,这个事务对数据库中所做的更改也不能丢失
- 如何保证持久性?一个简单的做法:在事务提交完成之前把该事务所修改的所有页面都刷新到磁盘,但是这个简单粗暴的做法有问题
- 修改量与刷新磁盘工作量严重不成比例:有时候我们仅仅修改了某个页面中的一个字节,但是我们知道在InnoDB中是以页为单位来进行磁盘I/O的,也就是说我们在该事务提交时不得不将一个完整的页面从内存中刷新到磁盘,我们又知道一个页面默认是16KB大小,只修改一个字节就要刷新16KB的数据到磁盘上显然是太小题大做了
- 随机IO刷新较慢:一个事务可能包含很多语句,即使是一条语句也可能修改许多页面,假如该事务修改的这些页面可能并不相邻,这就意味着在将某个事务修改的Buffer Pool中的页面刷新到磁盘时,需要进行很多的随机I/O,随机IO比顺序IO要慢,尤其对于传统的机械硬盘来说
- 另一个解决的思路:没有必要在每次事务提交时就把该事务在内存中修改过的全部页面刷新到磁盘,只需要把修改了哪些东西记录一下就好。比如,某个事务将系统表空间中第10号页面中偏移量为100处的那个字节的值1改成2。我们只需要记录一下:将第0号表空间的10号页面的偏移量为100处的值更新为 2
- InnoDB引擎的事务采用了WAL技术(Write-Ahead Logging),这种技术的思想就是先写日志,再写磁盘,只有日志写入成功,才算事务提交成功,这里的日志就是redo log

(2)REDO日志的好处、特点
- 好处:
- 降低了刷盘频率
- 占用的空间非常小(存储表空间ID、页号、偏移量以及需要更新的值,所需的存储空间是很小的)
- 特点:
- redo日志是顺序写入磁盘的,顺序lO效率比随机IO快
- 事务执行过程中,redo log不断记录:redo log跟bin log的区别,redo log是存储引擎层产生的,而bin log是数据库层产生的。假设一个事务,对表做10万行的记录插入,在这个过程中,一直不断的往redo log顺序记录,而bin log不会记录,直到这个事务提交,才会一次写入到bin log文件中
(3)redo的组成
- Redo log可以简单分为以下两个部分:重做日志的缓冲 、 重做日志文件
- 重做日志的缓冲 (redo log buffer),保存在内存中
- 在服务器启动时就向操作系统申请了一大片称之为redo log buffer的连续内存空间,翻译成中文就是redo日志缓冲区。这片内存空间被划分成若干个连续的redo log block。一个redo log block占用512字节大小

- 参数设置:innodb_log_buffer_size。redo log buffer 大小,默认16M,最大值是4096M,最小值为1M

- 在服务器启动时就向操作系统申请了一大片称之为redo log buffer的连续内存空间,翻译成中文就是redo日志缓冲区。这片内存空间被划分成若干个连续的redo log block。一个redo log block占用512字节大小
- 重做日志文件 (redo log file),保存在硬盘中
- REDO日志文件默认在数据库的根路径下,其中的ib_logfile0和ib_logfile1即为REDO日志
(4)redo的整体流程
- 以一个更新事务为例,redo log流转过程,如下图所示:

- 第1步:先将原始数据从磁盘中读入内存中来,修改数据的内存拷贝
- 第2步:生成一条重做日志并写入redo log buffer,记录的是数据被修改后的值
- 第3步:当事务commit时,将redo log buffer中的内容刷新到redo log file,对 redo log file采用追加写的方式
- 第4步:定期将内存中修改的数据刷新到磁盘中
- 体会:Write-Ahead Log(预先日志持久化),在持久化一个数据页之前,先将内存中相应的日志页持久化
(5)redo log的刷盘策略
- InnoDB引擎会在写redo log的时候先写redo log buffer,之后以一定的频率刷入到真正的redo log file中。这里的频率就是我们要说的刷盘策略

- 注意:redo log buffer刷盘到redo log file的过程并不是真正的刷到磁盘中去,只是刷入到文件系统缓存(page cache)中去(这是现代操作系统为了提高文件写入效率做的一个优化),真正的写入会交给系统自己来决定(比如page cache足够大了)。那么对于InnoDB来说就存在一个问题,如果交给系统来同步,同样如果系统宕机,那么数据也丢失了(虽然整个系统宕机的概率还是比较小的)
- 针对这种情况,InnoDB给出innodb_flush_log_at_trx_commit参数,该参数控制commit提交事务时,如何将redo log buffer中的日志刷新到redo log file中。它支持三种策略:
- 设置为0:每过一秒,就把redo log buffer中的redo log数据写到文件系统缓存(即page cache,通常是操作系统层面的磁盘缓存),紧接着会调用fsync系统调用,把文件系统缓存里的redo log数据强制刷盘到物理磁盘上(每秒进行一次刷盘,是由后台线程完成的,而事务提交操作本身不会触发输盘)
- 设置为1:每次都要等到事务commit时,才会把redo log buffer中的redo log数据写到文件系统缓存中,然后立即强制调用fsync系统调用,把文件系统缓存中的redo log数据刷盘到物理磁盘上
- 设置为2:每次都要等到事务commit时,才会把redo log buffer中的redo log数据写到文件系统缓存中,但是不会立即调用fsync系统调用,而是由操作系统决定何时把文件系统缓存中的redo log数据刷盘到物理磁盘上

- 当值为0时:InnoDB存储引擎有一个后台线程,它每隔1秒,就会把redo log buffer中的内容写到文件系统缓存(page cache),然后调用刷盘操作

- 后台线程会主动刷盘的两种情况:
- 每秒1次的轮询操作
- 当redo log buffer占用的空间即将达到innodb_log_buffer_size(这个参数默认是16M)的一半的时候
(6)不同刷盘策略演示
- innodb_flush_log_at_trx_commit=1。为1时,只要事务提交成功,redo log记录就一定在硬盘里,不会有任何数据丢失

- innodb_flush_log_at_trx_commit=2。为2时,只要事务提交成功,redo log buffer中的内容只写入文件系统缓存( page cache)。如果仅仅只是MySQL挂了不会有任何数据丢失,但是操作系统宕机可能会有1秒数据的丢失

-
innodb_flush_log_at_trx_commit=0。为0时,master thread(即后台线程)中每1秒进行一次重做日志的刷盘操作,如果数据库发生崩溃,此实例crash最多丢失1秒钟内的事务

- 虽然用户可以通过设置参数innodb_flush_log_at_trx_commit为0或2来提高事务提交的性能,但需清楚,这种设置方法丧失了事务的ACID特性
(7)写入redo log buffer过程
- 补充概念:Mini-Transaction
- MySQL把对底层页面中的一次原子访问的过程称之为一个Mini-Transaction,简称mtr,比如,向某个索引对应的B+树中插入一条记录的过程就是一个Mini-Transaction
- 一个所谓的mtr可以包含一组redo日志,在进行崩溃恢复时这一组redo日志作为一个不可分割的整体
- 一个事务可以包含若干条语句,每一条语句其实是由若干个mtr组成,每一个mtr又可以包含若干条redo日志,画个图表示它们的关系就是这样:

- redo日志写入log buffer:
- 向log buffer中写入redo日志的过程是顺序的,也就是先往前边的block中写,当该block的空闲空间用完之后再往下一个block中写。InnoDB的设计者特意提供了一个称之为buf_free的全局变量,该变量指明后续写入的redo日志应该写入到log buffer中的哪个位置,如图所示:

- 一个mtr执行过程中可能产生若干条redo日志,这些redo日志是一个不可分割的组,所以(1)每个mtr运行过程中产生的日志先暂时存到一个地方,(2)当该mtr结束的时候,将过程中产生的一组redo日志再全部复制到log buffer中
- 我们现在假设有两个名为T1、T2的事务,每个事务都包含2个mtr,我们给这几个mtr命名一下:(1)事务T1的两个mtr分别称为mtr_T1_1和mtr_T1_2(2)事务T2的两个mtr分别称为mtr_T2_1和mtr_T2_2
- 每个mtr都会产生一组redo日志,用示意图来描述一下这些mtr产生的日志情况:

- 不同的事务可能是并发执行的,所以T1、T2之间的mtr可能是交替执行的。我们画个示意图︰

- 有的mtr产生的redo日志量非常大,比如mtr_t1_2产生的redo日志占用空间比较大,占用了3个block来存储
- 向log buffer中写入redo日志的过程是顺序的,也就是先往前边的block中写,当该block的空闲空间用完之后再往下一个block中写。InnoDB的设计者特意提供了一个称之为buf_free的全局变量,该变量指明后续写入的redo日志应该写入到log buffer中的哪个位置,如图所示:
- redo log block的结构图
- 一个redo log block是由日志头、日志体、日志尾组成。日志头占用12字节,日志尾占用8字节,所以一个block真正能存储的数据就是512-12-4=496字节
- 为什么一个block设计成512字节:这个和磁盘的扇区有关,机械磁盘默认的扇区就是512字节,如果你要写入的数据大于512字节,那么要写入的扇区肯定不止一个,这时就要涉及到盘片的转动,找到下一个扇区。假设现在需要写入两个扇区A和B,如果扇区A写入成功,而扇区B写入失败,那么就会出现非原子性的写入

- 真正的redo日志都是存储到占用496字节大小的log block body中,图中的log block header和log block trailer存储的是一些管理信息(不是很重要,用到再来看)

- log block header的属性分别如下:
- LOG_BLOCK_HDR_NO:log buffer是由log block组成,在内部log buffer就好似一个数组,因此LOG_BLOCK_HDR_NO用来标记这个数组中的位置。其是递增并且循环使用的,占用4个字节,但是由于第—位用来判断是否是flush bit,所以最大的值为2G
- LOG_BLOCK_HDR_DATA_LEN:表示block中已经使用了多少字节,初始值为12(因为log block body从第12个字节处开始)。随着往block中写入的redo日志越来也多,本属性值也跟着增长。如果logblock body已经被全部写满。那么本属性的值被设置为512
- LOG_BLOCK_FIRST_REC_GROUP:一条redo日志也可以称之为一条redo日志记录(redo log record),一个mtr会生产多条redo日志记录,这些redo日志记录被称之为一个redo日志记录组(redo log record group)LOG_BLOCK_FIRST_REC_GROUP就代表该block中第一个mtr生成的redo日志记录组的偏移量(其实也就是这个block里第一个mtr生成的第一条redo日志的偏移量)。如果该值的大小和LOG_BLOCK_HDR_DATA_LEN 相同,则表示当前log block不包含新的日志
- LOG_BLOCK_CHECKPOINT_NO:占用4字节,表示该log block最后被写入时的checkpoint
- log block trailer中属性的意思如下:
- LOG_BLOCK_CHECKSUM:表示block的校验值,用于正确性校验〈其值和LOG_BLOCK_HDR_NO相同),我们暂时不关心它
(8)redo log file
1.8.1相关参数设置
- innodb_log_group_home_dir:指定redo log文件组所在的路径,默认值为./,表示在数据库的数据目录下。MySQL的默认数据目录(var/lib/mysql)下默认有两个名为ib_logfile0和ib_logfile1的文件,log buffer中的日志默认情况下就是刷新到这两个磁盘文件中。此redo日志文件位置还可以修改

- innodb_log_files_in_group:指明redo log file的个数,命名方式如:ib_logfile0,ib_logfile1... ib_logfilen。默认2个,最大100个

- innodb_flush_log_at_trx_commit:控制 redo log刷新到磁盘的策略,默认为1
- innodb_log_file_size:单个redo log文件大小,默认值为 48M 。最大值为512G,注意最大值指的是整个redo log系列文件之和,即(innodb_log_files_in_group * innodb_log_file_size )不能大于最大值512G
根据业务修改其大小,以便容纳较大的事务。编辑my.cnf文件并重启数据库生效,如下所示 [root@localhost ~]# vim /etc/my.cnf innodb_log_file_size=200M
1.8.2日志文件组
- 从上边的描述中可以看到,磁盘上的redo日志文件不只一个,而是以一个日志文件组的形式出现的。这些文件以ib_logfile[数字](数字可以是0、1、2...)的形式进行命名,每个的redo日志文件大小都是一样的。在将redo日志写入日志文件组时,是从ib_logfile0开始写,如果ib_logfile0写满了,就接着ib_logfile1写。同理,ib_logfile1写满了就去写ib_logfile2,依此类推。如果写到最后一个文件该咋办?那就重新转到ib_logfile0继续写,所以整个过程如下图所示:

- 总共的redo日志文件大小: innodb_log_file_size × innodb_log_files_in_group
- 采用循环使用的方式向redo日志文件组里写数据的话,会导致后写入的redo日志覆盖掉前边写的redo日志。所以InnoDB的设计者提出了checkpoint的概念
1.8.3checkpoint
- 在整个日志文件组中还有两个重要的属性:
- write pos是当前记录的位置,一边写一边后移
- checkpoint是当前要擦除的位置,也是往后推移
- 每次redo log记录被刷盘到日志文件组中,write pos位置就会后移。每次MySQL加载日志文件组恢复数据时,会清空加载过的redo log记录,并把checkpoint后移。write pos和checkpoint之间的还空着的部分可以用来写入新的redo log记录

- 如果write pos追上checkpoint,表示日志文件组满了,这时候不能再写入新的 redo log记录。MySQL 得停下来,清空一些记录,把checkpoint 推进一下

(9)redo log小结

二、Undo日志
redo log是事务持久性的保证,undo log是事务原子性的保证
在事务中更新数据和前置操作其实是要先写入一个undo log
(1)如何理解Undo日志
- 事务的原子性:也就是事务中的操作要么全部完成,要么什么也不做。但有时候事务执行到一半会出现一些情况,比如:
- 情况一:事务执行过程中可能遇到各种错误,比如(1)服务器本身的错误、(2)操作系统错误,(3)甚至是突然断电导致的错误
- 情况二:程序员可以在事务执行过程中手动输入ROLLBACK语句结束当前事务的执行
- 以上情况出现,我们需要把数据改回原先的样子,这个过程称之为回滚
- 每当我们要对一条记录做改动时(INSERT、DELETE、UPDATE),都需要把回滚时所需的东西记下来。比如:
- 你插入一条记录时,至少要把这条记录的主键值记下来,之后回滚的时候只需要把这个主键值对应的记录删掉就好了。(对于每个INSERT,InnoDB存储引擎会完成一个DELETE)
- 你删除一条记录时,至少要把这条记录中的内容都记下来,这样之后回滚时再把由这些内容组成的记录插入到表中就好了。(对于每个DELETE,InnoDB存储引擎会执行一个INSERT)
- 你修改一条记录时,至少要把修改这条记录前的旧值都记录下来,这样之后回滚时再把这条记录更新为旧值就好了。(对于每个UPDATE,InnoDB存储引擎会执行一个相反的UPDATE)
- MySQL把这些为了回滚而记录的这些内容称之为回滚日志(即undo log)。注意,由于查询操作(SELECT)并不会修改任何用户记录,所以在查询操作执行时,并不需要记录相应的undo日志
- 此外,undo log会产生redo log,也就是undo log的产生会伴随着redo log的产生,这是因为undo log也需要持久性的保护
(2)Undo日志的作用
- 作用1:回滚数据
- undo是逻辑日志,因此只是将数据库逻辑地恢复到原来的样子,所有修改都被逻辑地取消了。但是数据结构和页本身在回滚之后可能大不相同
- 这是因为在多用户并发系统中,可能会有数十、数百甚至数千个并发事务。数据库的主要任务就是协调对数据记录的并发访问。比如,一个事务在修改当前一个页中某几条记录,同时还有别的事务在对同一个页中另几条记录进行修改。因此,不能将一个页回滚到事务开始的样子,因为这样会影响其他事务正在进行的工作
- 作用2:MVCC(详情看第16章)
- undo的另一个作用是MVCC。当用户读取一行记录时,若该记录已经被其他事务占用,当前事务可以通过undo读取之前的行版本信息,以此实现非锁定读取
(3)undo的存储结构
2.4.1回滚段与undo页
- InnoDB对undo log的管理采用段的方式,也就是回滚段(rollback segment)。每个回滚段记录了1024个undo log segment,而在每个undo log segment段中进行undo页的申请
- 在InnoDB1.1版本之前(不包括1.1版本),只有一个rollback segment,因此支持同时在线的事务限制为1024
- 从1.1版本开始InnoDB支持最大128个rollback segment,故其支持同时在线的事务限制提高到了128*1024
- 虽然InnoDB1.1版本支持了128个rollback segment,但是这些rollback segment都存储于共享表空间ibdata中。从InnoDB1.2版本开始,可通过参数对rollback segment做进一步的设置。这些参数包括(undo log相关参数一般很少改动)
- innodb_undo_directory:设置rollback segment文件所在的路径。这意味着rollback segment可以存放在共享表空间以外的位置,即可以设置为独立表空间。该参数的默认值为./

- innodb_undo_logs:设置rollback segment的个数,默认值为128。在InnoDB1.2版本中,该参数用来替换之前版本的参数innodb_rollback_segments

- innodb_undo_tablespaces:设置构成rollback segment文件的数量,这样rollback segment可以较为平均地分布在多个文件中。设置该参数后,会在路径innodb_undo_directory看到undo为前缀的文件,该文件就代表构成rollback segment文件


- innodb_undo_directory:设置rollback segment文件所在的路径。这意味着rollback segment可以存放在共享表空间以外的位置,即可以设置为独立表空间。该参数的默认值为./
- undo页的重用:
- (1)当我们开启一个事务需要写undo log的时候,就得先去undo log segment中去找到一个空闲的位置,(2)当有空位的时候,就去申请undo页,在这个申请到的undo页中进行undo log的写入
- 我们知道mysql默认一页的大小是16k。为每一个事务分配一个页,是非常浪费的(除非你的事务非常长)。假设你的应用的TPS(每秒处理的事务数目)为1000,那么1s就需要1000个页,大概需要16M的存储,1分钟大概需要1G的存储。如果照这样下去除非MySQL清理的非常勤快,否则随着时间的推移,磁盘空间会增长的非常快,而且很多空间都是浪费的
- 于是undo页就被设计的可以重用了,(1)当事务提交时,并不会立刻删除undo页。(2)因为重用,所以这个undo页可能混杂着其他事务的undo log(3)undo log在commit后,会被放到一个链表中,(4)然后判断undo页的使用空间是否小于3/4,如果小于3/4的话,则表示当前的undo页可以被重用,那么它就不会被回收,其他事务的undo log可以记录在当前undo页的后面。(5)由于undo log是离散的,所以清理对应的磁盘空间时,效率不高
2.4.2回滚段与事务
- 每个事务只会使用一个回滚段rollback segment,一个回滚段在同一时刻可能会服务于多个事务(一个rollback segment由128个undo log segment组成)
- 当事务提交时,InnoDB存储引擎会做以下两件事情:
- 将undo log放入列表中,以供之后的purge操作
- 判断undo log所在的页是否可以重用,若可以分配给下个事务使用
2.4.3回滚段中的数据分类
- 未提交的回滚数据(uncommitted undo information):该数据所关联的事务并未提交,所以该数据不能被其他事务的数据覆盖
- 已经提交但未过期的回滚数据(committed undo information):该数据关联的事务已经提交,但是仍受到undo retention参数的保持时间的影响
- 事务已经提交并过期的数据(expired undo information):事务已经提交,而且数据保存时间已经超过undo retention参数指定的时间。当回滚段满了之后,会优先覆盖"事务已经提交并过期的数据"
事务提交后并不能马上删除undo log及undo log所在的页。这是因为可能还有其他事务需要通过undo log来得到行记录之前的版本(MVCC)。故事务提交时将undo log放入一个链表中,是否可以最终删除undo log及undo log所在页由purge线程来判断
(4)undo log的类型
- 在InnoDB存储引擎中,undo log分为:
- insert undo log:insert undo log是指在insert操作中产生的undo log。因为insert操作的记录,只对事务本身可见,对其他事务不可见(这是事务隔离性的要求,防止幻读),故该undo log可以在事务提交后直接删除。不需要进行purge操作
- update undo log:update undo log记录的是对delete和update操作产生的undo log。该undo log可能需要提供MVCC机制,因此不能在事务提交时就进行删除。提交时放入undo log链表,等待purge线程进行最后的删除
(5)undo log的生命周期
2.5.1简要生成过程
-
以下是undo+redo事务的简化过程。假设有2个数值,分别为A=1和B=2,然后将A修改为3,B修改为4
1.start transaction;2.记录A=1到undo log;3.update A = 3;4.记录A=3 到redo log;5.记录B=2到undo log;6.update B = 4;7.记录B =4到redo log;8.将redo log刷新到磁盘9.commit(1)在1-8步骤的任意一步系统宕机,事务未提交,该事务就不会对磁盘上的数据做任何影 响 (2)如果在8-9之间宕机,恢复之后可以选择回滚,也可以选择继续完成事务提交,因为此 时redo log已经持久化 (3)若在9之后系统宕机,内存映射中变更的数据还来不及刷回磁盘,那么系统恢复之后, 可以根据redo log把数据刷回磁盘
-
只有Buffer Pool的流程:

-
有了Redo Log和Undo Log之后:
在更新Buffer Pool中的数据之前,我们需要先将该数据事务开始之前的状态写入Undo Log中。假设更新到一半出错了,我们就可以通过Undo Log来回滚到事务开始前
2.5.2详细生成过程
- 对于InnoDB引擎来说,每个行记录除了记录本身的数据之外,还有几个隐藏的列:
- DB_ROW_ID:(1)如果没有为表显式的定义主键,(2)并且表中也没有定义唯一索引,(3)那么InnoDB会自动为表添加一个row_id的隐藏列作为主键
- DB_TRX_ID:每个事务都会分配一个事务ID,当对某条记录发生变更时,就会将这个事务的事务ID写入trx_id中
- DB_ROLL_PTR:回滚指针,本质上就是指向undo log的指针

- 当我们执行INSERT时:
begin; INSERT INTO user (name) VALUES ("tom");插入的数据都会生成一条insert undo log,并且数据的回滚指针会指向它。undo log会记录undo log的序号、插入主键的列和值...,那么在进行rollback的时候,通过主键直接把对应的数据删除即可

- 当我们执行UPDATE时:对于更新的操作会产生update undo log,并且会分更新主键的和不更新主键的,假设现在执行: 这时会把老的记录写入新的undo log,让回滚指针指向新的undo log,它的undo no是1,并且新的undo log会指向老的undo log (undo no=0)
UPDATE user SET name="sun" WHERE id=1;
假设现在执行:UPDATE user SET id=2 WHERE id=1;
(1)对于更新主键的操作,会先把原来的数据deletemark标识打开,(2)这时并没有真正的删除数据,真正的删除会交给清理线程去判断,(3)然后在后面插入一条新的数据,新的数据也会产生undo log,并且undo log的序号会递增。(4)可以发现每次对数据的变更都会产生一个undo log,当一条记录被变更多次时,那么就会产生多条undo log,(5)undo log记录的是变更前的日志,并且每个undo log的序号是递增的,那么当要回滚的时候,按照序号依次向前推,就可以找到我们的原始数据了
2.5.3undo log是如何回滚的
以上面的例子来说,假设执行rollback,那么对应的流程应该是这样:
-
通过undo no=3的日志把id=2的数据删除
-
通过undo no=2的日志把id=1的数据的deletemark还原成0
-
通过undo no=1的日志把id=1的数据的name还原成Tom
-
通过undo no=0的日志把id=1的数据删除
2.5.4undo log的删除
- 针对于insert undo log:因为insert操作的记录,只对事务本身可见,对其他事务不可见。故该undo log可以在事务提交后直接删除,不需要进行purge操作
- 针对于update undo log:该undo log可能需要提供MVCC机制,因此不能在事务提交时就进行删除。提交时放入undo log链表,等待purge线程进行最后的删除
- 补充:
- purge线程两个主要作用是:清理undo页和清除page里面带有Delete_Bit标识的数据行
- 在InnoDB中,事务中的Delete操作实际上并不是真正的删除掉数据行,而是一种Delete Mark操作
- 真正的删除工作需要后台purge线程去完成
(6)小结
undo log是逻辑日志,对事务回滚时,只是将数据库逻辑地恢复到原来的样子
redo log是物理日志,记录的是数据页的物理变化,undo log不是redo log的逆过程
三、总结
(1)三种不同刷盘策略的效率和安全性分析
3.1.1效率
- 效率:0>2>1
- 值为0时效率最高:(1)因为它是每过一秒,就将redo log buffer中的redo log数据写到文件系统缓存中,然后立即调用fsync系统调用,将文件系统缓存中的redo log数据强制刷盘到物理磁盘上,这一系列操作是由后台线程完成的(2)等事务commit时,不会再触发刷盘,因此,无需等待redo log刷盘到磁盘这个耗时的I/O操作(3)数据库可以快速完成事务提交的逻辑,将控制权返回给应用程序,应用程序能迅速发起下一个事务请求(4)虽然每秒会有一次刷盘操作,但这是在后台线程中异步进行的,不会阻塞正常的事务提交流程。即使刷盘操作比较耗时,也不会对事务提交的效率产生直接影响
- 当值为2时:事务提交后,会涉及将redo log buffer中的redo log写到文件系统缓存中的操作,有一定的耗时
- 当值为1时:事务提交后,会涉及将redo log buffer中的redo log写到文件系统缓存中的操作,还会涉及将文件系统缓存中的redo log写到物理磁盘上的操作,因此耗时更多
- 也就是说,效率看的是:从事务提交到开启下一个事务中间的时间
3.1.2安全性
- 安全性:1>2>0
- 值为1时最安全:事务提交时,会立刻将redo log buffer中的redo log数据写到文件系统缓存中,然后立刻将文件系统缓存中的redo log数据写到物理磁盘上。因为已经固化到了磁盘上,所以我们不用担心数据库层面的崩溃,也不用担心操作系统层面的崩溃
- 当值为2时:事务提交时,会立即将redo log buffer中的redo log数据写到文件系统缓存上,因此数据库崩溃,也可以通过文件系统缓存中的redo log数据恢复;但是无法预防操作系统层面崩溃
- 当值为0时:安全系数最低。每秒进行一次redo log的刷盘操作(redo log buffer→文件系统缓存→物理磁盘),但是如果数据库在两次刷盘操作的一秒间隔内发生崩溃,这一秒产生的redo log数据就可能丢失。导致部分已提交的数据无法恢复
(2)undo log流程
- 当我们开启一个事务,需要用到undo log时(INSERT、DELETE、UPDATE),就会去rollback segment中查看是否还有空闲的undo log segemnt。找到一个空闲的undo log segment后,就去申请一个undo页
- 当事务提交后,InnoDB存储引擎首先会把页中的undo log标记为已提交但未超时,不会立即删除
- 然后,将undo页中的undo log加到链表中,方便purge线程进行遍历和处理(INSERT操作对应的undo log不用加到链表,因为它只对事务本身可见)
- 当满足一定条件时,数据库系统会触发对undo log的清理操作。常见的触发条件包括:(1)undo空间不足的时候,会优先清理“已经提交且已经超时”的undo log(3)如果经过分析,确定某个 undo log 不再被任何活动事务引用,即使没有达到时间阈值或者 undo 空间还有剩余,也可能会触发清理操作
- 在清理的时候,purge(1)会把undo log从链表上清理掉,(2)还会从undo页里删除相应的undo log记录,(3)清理完成后,purge 线程会对 undo 页进行标记,表明该页中的部分或全部空间已变为可用状态
- undo页重用过程:
- 空间合并:数据库会尝试将相邻的可用空间进行合并,形成更大的连续可用空间块,这样可以更有效地满足后续事务对undo页空间的需求
- 分配策略:当新的事务需要使用undo页时,数据库会优先从这些标记为可用的undo页中分配空间。可以根据一定的算法,如按页号顺序、按可用空间大小等,选择合适的 undo 页分配给新事务
- 初始化:在分配给新事务之前,可能需要对 undo 页进行一些初始化操作,清除残留的数据或重置相关的元数据,以确保新事务可以正常使用该页来记录新的undo log
相关文章:
MySQL(高级特性篇) 14 章——MySQL事务日志
事务有4种特性:原子性、一致性、隔离性和持久性 事务的隔离性由锁机制实现事务的原子性、一致性和持久性由事务的redo日志和undo日志来保证(1)REDO LOG称为重做日志,用来保证事务的持久性(2)UNDO LOG称为回…...
爬虫基础(五)爬虫基本原理
目录 一、爬虫是什么 二、爬虫过程 (1)获取网页 (2)提取信息 (3)保存数据 三、爬虫可爬的数据 四、爬虫问题 一、爬虫是什么 互联网,后面有个网字,我们可以把它看成一张蜘蛛网…...
【Block总结】HWD,小波下采样,适用分类、分割、目标检测等任务|即插即用
论文信息 Haar wavelet downsampling (HWD) 是一项针对语义分割的创新模块,旨在通过减少特征图的空间分辨率来提高深度卷积神经网络(DCNNs)的性能。该论文的主要贡献在于提出了一种新的下采样方法,能够在下采样阶段有效地减少信息…...
【解决方案】MuMu模拟器移植系统进度条卡住98%无法打开
之前在Vmware虚拟机里配置了mumu模拟器,现在想要移植到宿主机中 1、虚拟机中的MuMu模拟器12-1是目标系统,对应的目录如下 C:\Program Files\Netease\MuMu Player 12\vms\MuMuPlayer-12.0-1 2、Vmware-虚拟机-设置-选项,启用共享文件夹 3、复…...
力扣面试150 快乐数 循环链表找环 链表抽象 哈希
Problem: 202. 快乐数 👩🏫 参考题解 Code public class Solution {public int squareSum(int n) {int sum 0;while(n > 0){int digit n % 10;sum digit * digit;n / 10;}return sum;}public boolean isHappy(int n) {int slow n, fast squa…...
安卓(android)实现注册界面【Android移动开发基础案例教程(第2版)黑马程序员】
一、实验目的(如果代码有错漏,可查看源码) 1.掌握LinearLayout、RelativeLayout、FrameLayout等布局的综合使用。 2.掌握ImageView、TextView、EditText、CheckBox、Button、RadioGroup、RadioButton、ListView、RecyclerView等控件在项目中的…...
SpringSecurity:There is no PasswordEncoder mapped for the id “null“
文章目录 一、情景说明二、分析三、解决 一、情景说明 在整合SpringSecurity功能的时候 我先是去实现认证功能 也就是,去数据库比对用户名和密码 相关的类: UserDetailsServiceImpl implements UserDetailsService 用于SpringSecurity查询数据库 Logi…...
微服务入门(go)
微服务入门(go) 和单体服务对比:里面的服务仅仅用于某个特定的业务 一、领域驱动设计(DDD) 基本概念 领域和子域 领域:有范围的界限(边界) 子域:划分的小范围 核心域…...
996引擎 - NPC-动态创建NPC
996引擎 - NPC-动态创建NPC 创建脚本服务端脚本客户端脚本添加自定义音效添加音效文件修改配置参考资料有个小问题,创建NPC时没有控制朝向的参数。所以。。。自己考虑怎么找补吧。 多重影分身 创建脚本 服务端脚本 Mir200\Envir\Market_Def\test\test001-3.lua -- NPC八门名…...
使用 MySQL JSON 查询筛选嵌套字段的值
在日常开发中,随着项目需求的不断复杂化,许多表字段可能会存储 JSON 格式的数据。例如,我们有一张 site_device 表,其中有一个名为 detail 的字段,保存了设备的详细信息。这些信息存储为 JSON 数据,如下所示…...
go-zero学习笔记(一)
基础环境搭建 安装go环境 网上文章比较多,不在赘述,我当时参考的文章是:https://blog.csdn.net/weixin_41287260/article/details/143661816 记得修改go env 中的环境变量, 主要是goproxy 改成七牛云的,这样下载代码库…...
maven、npm、pip、yum官方镜像修改文档
文章目录 Maven阿里云网易华为腾讯云 Npm淘宝腾讯云 pip清华源阿里中科大华科 Yum 由于各博客繁杂,本文旨在记录各常见镜像官网,及其配置文档。常用镜像及配置可评论后加入 Maven 阿里云 官方文档 setting.xml <mirror><id>aliyunmaven&l…...
【Docker】私有Docker仓库的搭建
一、准备工作 确保您的系统已安装Docker。如果没有安装,请参考Docker官方文档进行安装。 准备一个用于存储仓库数据的目录,例如/registry_data/。 二、拉取官方registry镜像 首先,我们需要从Docker Hub拉取官方的registry镜像。执行以下命…...
基于MinIO的对象存储增删改查
MinIO是一个高性能的分布式对象存储服务。Python的minio库可操作MinIO,包括创建/列出存储桶、上传/下载/删除文件及列出文件。 查看帮助信息 minio.exe --help minio.exe server --help …...
观察者模式和订阅发布模式的关系
有人把观察者模式等同于发布订阅模式,也有人认为这两种模式存在差异,本质上就是调度的方法不同。 发布订阅模式: 观察者模式: 相比较,发布订阅将发布者和观察者之间解耦。(发布订阅有调度中心处理)...
(2025 年最新)MacOS Redis Desktop Manager中文版下载,附详细图文
MacOS Redis Desktop Manager中文版下载 大家好,今天给大家带来一款非常实用的 Redis 可视化工具——Redis Desktop Manager(简称 RDM)。相信很多开发者都用过 Redis 数据库,但如果你想要更高效、更方便地管理 Redis 数据&#x…...
Baklib引领内容管理平台新时代优化创作流程与团队协作
内容概要 在迅速变化的数字化时代,内容管理平台已成为各种行业中不可或缺的工具。通过系统化的管理,用户能够有效地组织、存储和共享信息,从而提升工作效率和创意表达。Baklib作为一款新兴的内容管理平台,以其独特的优势和创新功…...
Java实现.env文件读取敏感数据
文章目录 1.common-env-starter模块1.目录结构2.DotenvEnvironmentPostProcessor.java 在${xxx}解析之前执行,提前读取配置3.EnvProperties.java 这里的path只是为了代码提示4.EnvAutoConfiguration.java Env模块自动配置类5.spring.factories 自动配置和注册Enviro…...
房屋租赁系统在数字化时代中如何重塑租赁服务与提升市场竞争力
内容概要 在当今快速发展的数字化时代,房屋租赁系统的作用愈发重要。随着市场需求的变化,租赁服务正面临着新的挑战与机遇。房屋租赁系统不仅仅是一个简单的管理工具,更是一个能够提升用户体验和市场竞争力的重要平台。其核心功能包括合同管…...
C++ ——— 学习并使用 priority_queue 类
目录 何为 priority_queue 类 学习并使用 priority_queue 类 实例化一个 priority_queue 类对象 插入数据 遍历堆(默认是大堆) 通过改变实例化的模板参数修改为小堆 何为 priority_queue 类 priority_queue 类为 优先级队列,其本质就是…...
【踩坑】解决Hugging-face下载问题
解决Hugging-face下载问题 问题1:couldnt connect to https://huggingface.co问题2:HTTPSConnectionPool(hostcdn-lfs-us-1.hf-mirror.com, port443)设置hf_transfer加快速度 问题3:requests.exceptions.ChunkedEncodingError: (Connection b…...
DeepSeek 模型全览:探索不同类别的模型
DeepSeek 是近年来备受关注的 AI 研究团队,推出了一系列先进的深度学习模型,涵盖了大语言模型(LLM)、代码生成模型、多模态模型等多个领域。本文将大概介绍 DeepSeek 旗下的不同类别的模型,帮助你更好地理解它们的特点…...
智能家居监控系统数据收集积压优化
亮点:RocketMQ 消息大量积压问题的解决 假设我们正在开发一个智能家居监控系统。该系统从数百万个智能设备(如温度传感器、安全摄像头、烟雾探测器等)收集数据,并通过 RocketMQ 将这些数据传输到后端进行处理和分析。 在某些情况下…...
Three.js实现3D动态心形与粒子背景的数学与代码映射解析
一、效果概述 本文通过Three.js构建了一个具有科技感的3D场景,主要包含两大视觉元素: 动态心形模型:采用数学函数生成基础形状,通过顶点操作实现表面弧度。星空粒子背景:随机分布的粒子群组形成空间层次感。复合动画…...
linux asio网络编程理论及实现
最近在B站看了恋恋风辰大佬的asio网络编程,质量非常高。在本章中将对ASIO异步网络编程的整体及一些实现细节进行完整的梳理,用于复习与分享。大佬的博客:恋恋风辰官方博客 Preactor/Reactor模式 在网络编程中,通常根据事件处理的触…...
多目标优化策略之一:非支配排序
多目标优化策略中的非支配排序是一种关键的技术,它主要用于解决多目标优化问题中解的选择和排序问题,确定解集中的非支配解(也称为Pareto解)。 关于什么是多目标优化问题,可以查看我的文章:改进候鸟优化算法之五:基于多目标优化的候鸟优化算法(MBO-MO)-CSDN博客 多目…...
电子电气架构 --- 在智能座舱基础上定义人机交互
我是穿拖鞋的汉子,魔都中坚持长期主义的汽车电子工程师。 老规矩,分享一段喜欢的文字,避免自己成为高知识低文化的工程师: 简单,单纯,喜欢独处,独来独往,不易合同频过着接地气的生活…...
Autosar-Os是怎么运行的?(时间保护)
写在前面: 入行一段时间了,基于个人理解整理一些东西,如有错误,欢迎各位大佬评论区指正!!! 1.功能概述 AUTOSAR OS 的四大可定制类型凸显了时间保护(Timing Protection)…...
一种用于低成本水质监测的软传感器开源方法:以硝酸盐(NO3⁻)浓度为例
论文标题 A Soft Sensor Open-Source Methodology for Inexpensive Monitoring of Water Quality: A Case Study of NO3− Concentrations 作者信息 Antonio Jess Chaves, ITIS Software, University of Mlaga, 29071 Mlaga, Spain Cristian Martn, ITIS Software, Universi…...
5分钟带你获取deepseek api并搭建简易问答应用
目录 1、获取api 2、获取base_url和chat_model 3、配置模型参数 方法一:终端中临时将加入 方法二:创建.env文件 4、 配置client 5、利用deepseek大模型实现简易问答 deepseek-v3是截止博文撰写之日,无论是国内还是国际上发布的大模型中…...
