MySQL-备份+日志:介质故障与数据库恢复
目录
第1关:备份与恢复
任务描述
相关知识
MySQL的恢复机制
MySQL的备份与恢复工具
编程要求
测试说明答案:
第2关:备份+日志:介质故障的发生与数据库的恢复
任务描述
相关知识
编程要求
测试说明答案:
第1关:备份与恢复
任务描述
本关任务:
备份数据库,然后再恢复它。相关知识
为了完成本关任务,你需要掌握:
1.MySQL的恢复机制;
2.MySQL提供的备份与恢复工具。MySQL的恢复机制
和大多数DBMS一样,MySQL利用备份、日志文件实现恢复。
具体理论知识在此不详细介绍。MySQL的备份与恢复工具
- MySQL提供了以下工具:
- 逻辑备份工具:mysqldump
- 物理备份工具:mysqlbackup(仅限商用版)
- 日志工具:mysqlbinlog
- 还原工具:mysql
- 管理工具:mysqladmin
mysqldump
逻辑备份工具,它产生一系的SQL语句,执行这些语句可以重建原数据库的所有对象和数据。缺省输出是控制台,可以通过重定向符号,将其产生的SQL语句集合存入到某个文件。
mysqldump可以备份服务器上的全部数据库,也可以指定某些数据库,或者一个数据库中的某些表。
mysqldump -h127.0.0.1 -uroot -p123123 [options] --databases db_name--databases 参数用指定数据库名,后面可跟一个或多个数据库的名字,多个数据库名间用空格隔开。
mysqldump命令行工具还可以带若干参数,可选的参数多达几十个,详见官方参考手册。这里只介绍一个:
--flush-logs 刷MySQL日志,即重新开始一个日志文件。
重新开始一个新的日志文件,对未来确定哪些日志更有用很有帮助。通常海量备份前的日志文件,其重要性会降低许多,因为有备份在手,除非备份文件出故障,你可能不再需要使用之前的日志文件。mysqlbackup
mysqlbackup是MySQL的物理备份工具,只有付费的商用企业版才有。mysql
mysql是MySQL最重要的客户端管理工具,通常用户都是通过mysql登录到MySQL服务器,进行各种操作。此外,还可以直接通过它执行SQL脚本,还原或创建新库。
mysql -h127.0.0.1 -uroot -p12313 < mydb.sql
这样会直接执行mydb.sql的脚本。通过mysqldump备份出来的脚 本文件,可以用该方法直接用来恢复原数据库。mysqladmin
mysqladmin是MySQL服务器的管理工具,一般用于配置服务器,也可以用来创建或删除数据库:
mysqladmin [options] command [command-arg] [command [command-arg]]
常用的command(执行命令)有:
create db_name 创建数据库
drop db_name 删除数据库
flush-logs 刷日志
flush-tables 刷表,所有表数据写入磁盘盘
kill id,id,... 杀死某些进程
password new_password 修改(登录者的)登录密码
ping 检查服务器是否可用
status 显示服务器状态
variables 显示各配置参数的值
......同样,该工具也支持不少可选的参数,详见官方手册。
mysqlbinlog
mysqlbinlog是MySQL的日志管理工具。在需要手工介入的故障恢复中,该工具必不可少。当然,平常也可以用它查看日志。
mysqlbinlog mysql-bin.000983
上面的例子,用来查看日志文件mysql-bin.000983。MySQL的日志文件具有相同的前缀,后面的数字是日志文件的顺序。这个前缀是可配置的。比如,也可能是binlog.*,例如:
执行日志文件会导致日志所记录的事件重新做一遍,这样可以恢复一个给定时间段的数据,恢复的方法如下:
mysqlbinlog [option] binlog_files | mysql -u root -p
介质故障的恢复通常需要把最近一次备份后所有的日志文件全部列上。mysqlbinlog也支持几十个可选的参数,比如:
--disable-log-bin 在通过日志恢复数据库期间不再写日志
--no-defaults 不使用MySQL默认的设置其它参数数详情请参考官方文档。
MySQL还有其它一些工具(如mysqlimport,mysqlshow等),这里不一一介绍。
编程要求
设有居民人口登记数据库residents,请为该数据库做一次静态的(你一个人独享服务器)海量逻辑备份,备份文件命名为residents_bak.sql。 然后再用该逻辑备份文件恢复数据库。
评测程序并不检查备份文件的名字,你可以用其它文件名,但要保证备份和恢复时,使用同一个文件。备份和恢复的命令分别写在test1_1.sh和test1_2.sh文件中。
- test1_1.sh - 作备份
- test1_2.sh - 作恢复
切莫把两个文件弄反了。
根据提示,在右侧代码文件编辑器填写语句,完成上述要求。缺 省情况下你看到的应该是test1_1.sh。鼠标移至“代码文件”右侧的三角符号,会列出全部代码文件,你可以在两个代码文件间自由切换。当所有代码文件都填写完成后,点击“评测”按钮。
注意:mysql,mysqldump,mysqladmin运行时需提供登录用户名和密码,由于不是在交互式环境中使用这些工具,你需要在命令行上给出登录所需要的信息,例如:
mysql -h127.0.0.1 -uroot -p123123
但在命令行曝光密码具有极高风险,MySQL会抛出警告信息,故评测程序会通过其它途径提供登录密码,请在命令行省略-p参数。以mysql为例,你只需要这样写即可:
mysql -h127.0.0.1 -uroot
测试说明
数据库residents是本来就有的,平台会先运行test1_1.sh来作备份,然后会drop掉residents。再运行test1_2.sh来恢复数据库。最后检查恢复是否成功,如果在每个residents实列上的评测结果,都与预期结果完全一致即过可通关。
开始你的任务吧,祝你成功!
答案:
src/test1/test1_1.sh 文件:
# 你写的命令将在linux的命令行运行 # 对数据库residents作海量备份,备份至文件residents_bak.sql:mysqldump -h127.0.0.1 -uroot --flush-logs --databases residents > residents_bak.sql;# --flush-logs 可省略src/test1/test1_2.sh 文件:
# 你写的命令将在linux的命令行运行 # 利用备份文件residents_bak.sql还原数据库:# 此外,还可以直接通过它执行SQL脚本,还原或创建新库。 # mysql -h127.0.0.1 -uroot -p12313 < mydb.sql # 这样会直接执行mydb.sql的脚本。通过mysqldump备份出来的脚 本文件,可以用该方法直接用来恢复原数据库。mysql -h127.0.0.1 -uroot < residents_bak.sql;
第2关:备份+日志:介质故障的发生与数据库的恢复
任务描述
本关任务:
模拟介质故障的发生,以及如何利用备份和备份之后的日志恢复数据库。
相关知识
只要有备份文件,和自上次备份以来的日志文件,即使发生介质故障导致整个数据库丢失,也可以在更换介质后,恢复数据库。上一关已介绍有关知识。
在生产环境中,数据库文件、备份文件、日志文件都不会存放在同一介质上,甚至都不会存放在同一地理空间。为的就是灾难发生后,有机会恢复数据。
本关将摸拟介质故障的发生与数据库的恢复。你要使用的工具包括:
- mysql
- mysqldump
- mysqlbinlog
上一关已经介绍了它们的用法。
编程要求
摸拟介质故障的发生与数据库的恢复。依时间顺序发生下列事件(其中标记为红色的部分将由你来完成,其余部分由评测程序完成):
时间点1:数据库train有业务数据产生;
时间点2:对数据库train作一次海量备份,同时新开日志;
时间点3:数据库train又有业务数据产生;
时间点4:故障发生;
时间点5:恢复数据库,保证两次发生的业务数据都不丢失。请你完成时间点2和时间点5(标注红色的部分)的工作,将完成任务的脚本填写到对应文件中:
- 对数据库train作一次海量逻辑备份同时开新日志:test2_1.sh
- 利用备份文件和日志文件恢复数据库: test2_2.sh
切莫把两个文件弄反了。
所有其它工作,评测程序会替你完成:
- 在发生业务数据的时间点,会批量写入数据;
- 在故障发生的时间点,数据库train会被drop掉。
- 在drop数据库之前,评测程序会将备份后新开的日志文件保存为log/binlog.000018
这里,评测程序总是替你找到你需要的那个日志文件,并保存在一个固定的日志文件中,供你恢复使用。但在实践中,日志文件是一直在变化的,即便是在这样一个由你独享服务器实例的环境下,两次点击“评测”按钮,日志文件也会因评测程序多次写入数据,加上你的备份与恢复操作而发生变化,当日志文件达到一定规模时,MySQL还会自动开启新日志文件。在本地实验时,自己要学会识别你需要哪个或哪些日志文件。请根据提示,在右侧代码文件编辑器填写语句,完成上述要求。缺 省情况下你看到的应该是test2_1.sh。鼠标移至“代码文件”右侧的三角符号,会列出全部代码文件,你可以在两个代码文件间自由切换。当所有代码文件都填写完成后,点击“评测”按钮。
测试说明
评测程序将按照时间顺序触发上述相应事件,在轮到时间点2和时间点5时,运行你的脚本。在所有事件结束后检查数据库有没有成功恢复。如果在数据库的两个不同实例上,故障发生后,数据库都得以完全恢复,即可通关。
开始你的任务吧,祝你成功!
答案:
src/test2/test2_1.sh 文件:
# 这是shell脚本,将在linux命令行上执行 # 命令行上可省略密码的指定 # 请写出对数据库train作逻辑备份并新开日志文件的命令,备份文件你可以自己命名(如train_bak.sql):# --flush-logs 刷MySQL日志,即重新开始一个日志文件。 # 这里忽略 -p 防止数据库警告。mysqldump -h127.0.0.1 -uroot --flush-logs --databases train > train_bak.sql;src/test2/test2_2.sh 文件:
# 这是shell脚本,将在linux命令行上执行 # 命令行上可省略密码的指定 # 请写出利用逻辑备份和日志恢复数据库的命令:# 恢复数据库 mysql -h127.0.0.1 -uroot < train_bak.sql;# 执行日志文件会导致日志所记录的事件重新做一遍,这样可以恢复一个给定时间段的数据,恢复的方法如下: # mysqlbinlog [option] binlog_files | mysql -u root -p # 介质故障的恢复通常需要把最近一次备份后所有的日志文件全部列上。# 题目上日志文件保存在 log/binlog.000018 # 参数选择:--disable-log-bin 在通过日志恢复数据库期间不再写日志 --no-defaults 不使用MySQL默认的设置mysqlbinlog --no-defaults log/binlog.000018 | mysql -h127.0.0.1 -uroot;
相关文章:
MySQL-备份+日志:介质故障与数据库恢复
目录 第1关:备份与恢复 任务描述 相关知识 MySQL的恢复机制 MySQL的备份与恢复工具 …...
嵌入式开发十八:USART串口通信实验
上一节我们学习了串口通信的基本理论,串口通信是学习单片机的一个重要的一步,非常重要,这一节我们通过实验来学习串口通信的使用,以及串口的接收中断的使用。 一、发送单个字节uint8_t数据或者字符型数据 实现的功能:…...
redis复习
redis知识点 redis持久化redis 订阅发布模式redis主从复制哨兵模式redis雪崩,穿透缓存击穿(请求太多,缓存过期)缓存雪崩 redis持久化 redis是内存数据库,持久化有两种方式,一种是RDB(redis dat…...
SUSE linux的快照和恢复
snapper用于创建和管理文件系统快照,并在需要时实现回滚,它还可以用于创建用户数据的磁盘备份。snapper使用btrfs文件系统或者精简配置的被格式化成XFS或EXT4的LVM卷。snapper可以通过命令行或YaST来进行管理。 btrfs是一种copy-on-write文件系统&#x…...
【Qt快速入门(六)】- QLineEdit按钮的使用
目录 Qt快速入门(六)- QLineEdit按钮的使用QLineEdit按钮的使用QLineEdit的基本用法1. 创建和设置文本2. 获取输入文本3. 清空输入文本 文本处理1. 选择文本2. 设置光标位置3. 撤销和重做 输入验证1. 输入掩码2. 校验器3. 输入限制 样式设置1. 设置字体和…...
常用损失函数详解:广泛使用的优化约束方法
各类常用损失函数详解:广泛使用的优化约束方法 今天介绍下损失函数,先介绍下我常用的方法SmoothedL1,它是一个平滑的L1 penalty函数,用于处理约束violation。 标准的L1 penalty函数定义为: L 1 ( x ) { 0 , if x ≤ 0 x , if x > 0 …...
鸿蒙开发组件:【创建DataAbility】
创建DataAbility 实现DataAbility中Insert、Query、Update、Delete接口的业务内容。保证能够满足数据库存储业务的基本需求。BatchInsert与ExecuteBatch接口已经在系统中实现遍历逻辑,依赖Insert、Query、Update、Delete接口逻辑,来实现数据的批量处理。…...
配电室数据中心巡检3d可视化搭建的详细步骤
要搭建配电室巡检的3D可视化系统,可以按照以下步骤进行: 收集配电室数据: 首先,需要收集配电室的相关数据,包括配电室的布局、设备信息、传感器数据等。可以通过实地调查、测量和设备手册等方式获取数据。 创建3D模型…...
TIME_WAIT的危害
前言 该文章主要讨论下TIME_WAIT的存在意义和潜在危害,以及解决措施。 具体内容 首先看一下下面这幅图 这幅图来自《TCP IP详解卷1:协议 原书第2版中文》TCP状态变迁图。 TIME_WAIT存在意义 可靠的终止TCP连接。 保证让迟来的TCP报文有足够的时间被…...
搜维尔科技邀您共赴2024第四届轨道车辆工业设计国际研讨会
会议内容 聚焦“创新、设计、突破”,围绕“面向生命健康、可持续发展的轨道交通系统” 为主题,从数字化、智能化、人性化、绿色发展等方面,探索轨道交通行业的设计新趋势及发展新机遇。 举办时间 2024年7月10日-12日 举办地点 星光岛-青岛融…...
智能中人类造成的风险、机器造成的风险、环境造成的风险
在使用智能技术时,可能会面临各种类型的风险。以下是一些可能的风险情况: 1、人类造成的风险 错误判断和决策:人类在使用智能系统时可能会因为各种原因做出错误的判断和决策,导致不良后果。人为错误:技术操作人员、维护…...
MYSQL基础查询
示例:user_profile iddevice_idgenderageuniversityprovince12138male21北京大学Beijing23214male复旦大学Shanghai36543female20北京大学Beijing42315female23浙江大学Zhejiang55432male25山东大学Shandong 查询所有列 select * from user_profile;查询…...
【Golang】Go 中的生产者-消费者模式
Go 中的生产者-消费者模式 来源:https://medium.com/@mm.nikfarjam/the-producer-consumer-pattern-in-go-cf97299a0320 文章目录 Go 中的生产者-消费者模式介绍关键组件在 Go 中的实现结论Go 中的生产者-消费者模式 介绍 生产者-消费者模式是处理大数据的最常见设计模式之一…...
【通过新能源汽车的智慧数字底盘技术看计算机的相关技术堆栈?以后是软硬结合的全能程序员的天下,取代全栈(前后端都会的全栈程序员)】
汽车的“智慧数字底盘”是一个综合性的技术平台,旨在提升车辆的性能、安全性和驾驶体验。它集成了多种先进的技术和系统,是全能程序员的必杀技! 1. 传感器技术 a. 激光雷达(LiDAR) 用于生成高分辨率的3D地图&#…...
Python网络爬虫4-实战爬取pdf
1.需求背景 爬取松产品中心网站下的家电说明书。这里以冰箱为例:松下电器-冰箱网址 网站分析: 第一步: 点击一个具体的冰箱型号,点击了解更多,会打开此型号电器的详情页面。 第二步:在新打开的详情页面中…...
超神级!Markdown最详细教程,程序员的福音
超神级!Markdown最详细教程,程序员的福音Markdown最详细教程,关于Markdown的语法和使用就先讲到这里,如果喜欢,请关注“IT技术馆”。馆长会更新最实用的技术!https://mp.weixin.qq.com/s/fNzhLFyYRd3skG-…...
Android OTA 升级基础知识详解+源码分析
前言: 本文仅仅对OTA升级的几种方式的概念和运用进行总结,仅在使用层面对其解释。需要更详细的内容我推荐大神做的全网最详细的讲解: https://blog.csdn.net/guyongqiangx/article/details/129019303?spm1001.2014.3001.5502 三种升级方式…...
【吊打面试官系列-Mysql面试题】SQL 语言包括哪几部分?每部分都有哪些操作关键字?
大家好,我是锋哥。今天分享关于 【SQL 语言包括哪几部分?每部分都有哪些操作关键字?】面试题,希望对大家有帮助; SQL 语言包括哪几部分?每部分都有哪些操作关键字? SQL 语言包括数据定义(DDL)、…...
Redis的缓存击穿与解决
缓存击穿问题也叫热点Key问题,就是一个被高并发访问并且缓存重建业务较复杂的Key突然失效了,无数的请求访问会在瞬间给数据库带来巨大的冲击。 Redis实战篇 | Kyles Blog (cyborg2077.github.io) 目录 解决方案 互斥锁 实现 逻辑过期 实现 解决方案…...
网络层 IP协议【计算机网络】【协议格式 || 分片 || 网段划分 || 子网掩码】
博客主页:花果山~程序猿-CSDN博客 文章分栏:Linux_花果山~程序猿的博客-CSDN博客 关注我一起学习,一起进步,一起探索编程的无限可能吧!让我们一起努力,一起成长! 目录 一,前提 二&…...
微软PowerBI考试 PL300-选择 Power BI 模型框架【附练习数据】
微软PowerBI考试 PL300-选择 Power BI 模型框架 20 多年来,Microsoft 持续对企业商业智能 (BI) 进行大量投资。 Azure Analysis Services (AAS) 和 SQL Server Analysis Services (SSAS) 基于无数企业使用的成熟的 BI 数据建模技术。 同样的技术也是 Power BI 数据…...
模型参数、模型存储精度、参数与显存
模型参数量衡量单位 M:百万(Million) B:十亿(Billion) 1 B 1000 M 1B 1000M 1B1000M 参数存储精度 模型参数是固定的,但是一个参数所表示多少字节不一定,需要看这个参数以什么…...
IGP(Interior Gateway Protocol,内部网关协议)
IGP(Interior Gateway Protocol,内部网关协议) 是一种用于在一个自治系统(AS)内部传递路由信息的路由协议,主要用于在一个组织或机构的内部网络中决定数据包的最佳路径。与用于自治系统之间通信的 EGP&…...
【Oracle】分区表
个人主页:Guiat 归属专栏:Oracle 文章目录 1. 分区表基础概述1.1 分区表的概念与优势1.2 分区类型概览1.3 分区表的工作原理 2. 范围分区 (RANGE Partitioning)2.1 基础范围分区2.1.1 按日期范围分区2.1.2 按数值范围分区 2.2 间隔分区 (INTERVAL Partit…...
Mysql中select查询语句的执行过程
目录 1、介绍 1.1、组件介绍 1.2、Sql执行顺序 2、执行流程 2.1. 连接与认证 2.2. 查询缓存 2.3. 语法解析(Parser) 2.4、执行sql 1. 预处理(Preprocessor) 2. 查询优化器(Optimizer) 3. 执行器…...
JVM 内存结构 详解
内存结构 运行时数据区: Java虚拟机在运行Java程序过程中管理的内存区域。 程序计数器: 线程私有,程序控制流的指示器,分支、循环、跳转、异常处理、线程恢复等基础功能都依赖这个计数器完成。 每个线程都有一个程序计数…...
虚拟电厂发展三大趋势:市场化、技术主导、车网互联
市场化:从政策驱动到多元盈利 政策全面赋能 2025年4月,国家发改委、能源局发布《关于加快推进虚拟电厂发展的指导意见》,首次明确虚拟电厂为“独立市场主体”,提出硬性目标:2027年全国调节能力≥2000万千瓦࿰…...
node.js的初步学习
那什么是node.js呢? 和JavaScript又是什么关系呢? node.js 提供了 JavaScript的运行环境。当JavaScript作为后端开发语言来说, 需要在node.js的环境上进行当JavaScript作为前端开发语言来说,需要在浏览器的环境上进行 Node.js 可…...
Linux-进程间的通信
1、IPC: Inter Process Communication(进程间通信): 由于每个进程在操作系统中有独立的地址空间,它们不能像线程那样直接访问彼此的内存,所以必须通过某种方式进行通信。 常见的 IPC 方式包括&#…...
DAY 45 超大力王爱学Python
来自超大力王的友情提示:在用tensordoard的时候一定一定要用绝对位置,例如:tensorboard --logdir"D:\代码\archive (1)\runs\cifar10_mlp_experiment_2" 不然读取不了数据 知识点回顾: tensorboard的发展历史和原理tens…...
