硬核实战!mysql 错误操作整个表全部数据后如何恢复?附解决过程、思路(百万行SQL,通过binlog日志恢复)
mysql 错误操作整个表全部数据后如何恢复?(百万行SQL,通过binlog日志恢复)
事件起因
事情起因:以为某个表里的数据都是系统配置的数据,没有用户数据,一个字段需要覆盖替换为新的url链接,直接写下了update t_xxx set xxx = ‘https://xxxxxxxxx’ ,然后执行了,执行的时候IDEA还提示这是危险操作,我思考了下不危险,这个就是要全部覆盖,然后就点击了execute确认执行,于是翻车了,等我覆盖完去看效果的时候,惊奇的发现用户数据也被覆盖了,于是去看这个表里的数据,真有用户数据,但是值得高兴的是,全被覆盖了。。。。真是手贱啊,小心了一万年还是翻车了,全覆盖了跟删了没多大区别~~~~都是闯祸
既然事情已经发生,那就开始修复把~

找Binlog文件位置
binlog文件是mysql的更新记录,二进制形式。可以用于恢复数据。
这个文件每1个G为一个文件,满 了就新建一个,所以mysql运行久了这个binlog文件很多个,每个1G,建议跟我一样设置滚动删除,我是最多保留最近8个。(实验机器配置低~)
我的是mysql 8,ubuntu,我的binlog文件在这个目录
/var/lib/mysql

聪明的你一眼就能看出这个binlog 27号文件只有六百多兆,序号也是最新的,证明这个是最近的一个文件,就是他了,冲
读取指定时间范围内的数据操作DML
我直接查看了我这冤种操作的时间,发现大概是7分的时候操作的覆盖调数据,于是我把那一分钟里的SQL导出来(自行评估时间范围),导出为一个SQL文件
备注:mysqlbinlog工具是mysql自带的
mysqlbinlog --base64-output=DECODE-ROWS --verbose --start-datetime="2023-12-23 01:00:00" --stop-datetime="2023-12-23 01:10:00" /var/lib/mysql/binlog.000027 > restore.sql
把导出的SQL清理数据
导出的sql,我用IDEA打开的,随便你用哪个好用的文本处理工具,我们直接搜索set这个词,就能找到SQL的最开始位置如图

例如一条
### UPDATE `xx`.`t_xx`
### WHERE
### @1=1
### @2='xx'
### @3=NULL
### @4='默认'
### @5='xx'
### @6='xxxx'
### @7='1'
### @8=1
### @9='2023-08-19 15:29:58'
### @10='2023-08-19 18:41:06'
### SET
### @1=1
### @2='xx'
### @3='xx'
### @4='默认'
### @5='xx'
### @6='xx'
### @7='1'
### @8=1
### @9='2023-08-19 15:29:58'
### @10='2023-12-23 01:07:09'
这个数据的格式不难看出,记录了变更之前和之后的每个字段数据,xx为示意作用,在真实场景中就是你的真实数据,字段根据顺序@1一直到@10,证明我有10个字段,然后没个字段的值都记录了,整个结构为
update 表
where
每个字段的旧值
set
每个字段的新值
那么我们现在开始处理数据
IDEA 对于这个26MB的文件直接变仅读模式,不给我编辑,于是打开了subline text这个工具处理文本
处理数据
删除update语句以外的所有无关行
找到这句错SQL的所有update语句,其它无关行全部删除
我们要的核心就是这个update语句,我们先掐头去尾,保留中间的update,我这个文件目前有100万行~
现在我这个文件只有那一个失误SQL执行的所有update语句,总共92万行~
去掉开头的###
直接搜索把###空格,这四个字符,直接替换为空字符,于是电脑卡了一会,,,电脑这会汗流浃背,风扇狂扇,过了会好像没响应,算了撸代码解决

/*** author: humorchen* date: 2023/12/23/023 1:57* desc:**/
public class RestoreData {/*** 移除头部标识** @throws Exception*/public static void removeHeadSignal() throws Exception {String file = "C:\\Users\\Administrator\\Desktop\\restore.sql";String newFile = "C:\\Users\\Administrator\\Desktop\\restore_1.sql";BufferedWriter bufferedWriter = new BufferedWriter(new FileWriter(newFile));BufferedReader bufferedReader = new BufferedReader(new FileReader(file));String line = null;while ((line = bufferedReader.readLine()) != null) {if (line.startsWith("### ")) {line = line.substring(4);}bufferedWriter.write(line);bufferedWriter.write("\n");}bufferedWriter.flush();bufferedWriter.close();bufferedReader.close();}public static void main(String[] args) throws Exception {removeHeadSignal();}
}

set和where互换
这个互换简直不要太简单,轻松的很
/*** where和set互换** @throws Exception*/public static void reverseWhereAndSet() throws Exception {String file = "C:\\Users\\Administrator\\Desktop\\restore_1.sql";String newFile = "C:\\Users\\Administrator\\Desktop\\restore_2.sql";final String SET = "SET";final String WHERE = "WHERE";BufferedWriter bufferedWriter = new BufferedWriter(new FileWriter(newFile));BufferedReader bufferedReader = new BufferedReader(new FileReader(file));String line = null;while ((line = bufferedReader.readLine()) != null) {if (line.startsWith(WHERE)) {line = SET;} else if (line.startsWith(SET)) {line = WHERE;}bufferedWriter.write(line);bufferedWriter.write("\n");}bufferedWriter.flush();bufferedWriter.close();bufferedReader.close();}public static void main(String[] args) throws Exception {
// removeHeadSignal();reverseWhereAndSet();}

字段替换
把字段数组作为参数数组传入函数,然后读取@多少,替换为对应下表的字段名
/*** 替换字段名** @param columnNames*/public static void replaceColumns(String[] columnNames) throws Exception {String file = "C:\\Users\\Administrator\\Desktop\\restore_2.sql";String newFile = "C:\\Users\\Administrator\\Desktop\\restore_3.sql";BufferedWriter bufferedWriter = new BufferedWriter(new FileWriter(newFile));BufferedReader bufferedReader = new BufferedReader(new FileReader(file));String line = null;final String PREFIX = " @";final int PREFIX_LEN = PREFIX.length();while ((line = bufferedReader.readLine()) != null) {// line: @1=1if (line.length() > PREFIX_LEN && line.startsWith(PREFIX)) {// 等于号位置int eqIndex = line.indexOf("=");String indexStr = line.substring(PREFIX_LEN, eqIndex);if (StrUtil.isNumeric(indexStr)) {int index = Integer.parseInt(indexStr) - 1;if (index >= 0 && index < columnNames.length) {// 替换字段名line = line.replace(PREFIX + indexStr, columnNames[index]);}}}bufferedWriter.write(line);bufferedWriter.write("\n");}bufferedWriter.flush();bufferedWriter.close();bufferedReader.close();}public static void main(String[] args) throws Exception {
// removeHeadSignal();
// reverseWhereAndSet();replaceColumns(new String[]{"id", "title", "icon", "type", "email", "prompt", "temperature", "keep_context", "create_time", "update_time"});}

加,和and
看到最后你就发现只缺标点符号,;了,那就加上,起初想去判断代码处于update、set、where三个区域里加不同的,又想到要判定最后一个不能加标点,要加空格,最后一个又是分号; 真麻烦!直接搞个后缀数组算了,反正我这个表结构是固定的于是用以下代码加上标点符号和换行。
/*** 添加,和and和;** @throws Exception*/public static void addPrefix(String[] addPrefix) throws Exception {String file = "C:\\Users\\Administrator\\Desktop\\restore_3.sql";String newFile = "C:\\Users\\Administrator\\Desktop\\restore_4.sql";BufferedWriter bufferedWriter = new BufferedWriter(new FileWriter(newFile));BufferedReader bufferedReader = new BufferedReader(new FileReader(file));String line = null;int index = -1;final String UPDATE = "UPDATE";while ((line = bufferedReader.readLine()) != null) {if (line.startsWith(UPDATE)) {index = 0;bufferedWriter.write("\n\n");;}if (index >= 0) {line = line + addPrefix[index];index++;}bufferedWriter.write(line);bufferedWriter.write("\n");}bufferedWriter.flush();bufferedWriter.close();bufferedReader.close();}public static void main(String[] args) throws Exception {
// removeHeadSignal();
// reverseWhereAndSet();
// replaceColumns(new String[]{"id", "title", "icon", "type", "email", "prompt", "temperature", "keep_context", "create_time", "update_time"});addPrefix(new String[]{" ", " ", ",", ",", ",", ",", ",", ",", ",", ",", ",", " ", " ", " and ", " and ", " and ", " and ", " and ", " and ", " and ", " and ", " and ", " ;"});}

大功告成,拿去执行即可!
执行之前你先随机取个三条执行一下看看,确认自己的SQL生产对了。
我把sql上传到了ubuntu,进入mysql -uroot -p,然后use xxx;source xxx.sql;执行完数据恢复了,会有点久,如果数据量大,执行会更久。珍惜数据。。。
我这个一百万行的恢复数据SQL大约执行了3、5分钟执行完了。数据全部恢复到错误SQL前的数据了。
相关文章:
硬核实战!mysql 错误操作整个表全部数据后如何恢复?附解决过程、思路(百万行SQL,通过binlog日志恢复)
mysql 错误操作整个表全部数据后如何恢复?(百万行SQL,通过binlog日志恢复) 事件起因 事情起因:以为某个表里的数据都是系统配置的数据,没有用户数据,一个字段需要覆盖替换为新的url链接&#x…...
【什么是反射机制?为什么反射慢?】
✅ 什么是反射机制?为什么反射慢? ✅典型解析✅拓展知识仓✅反射常见的应用场景✅反射和Class的关系 ✅典型解析 反射机制指的是程序在运行时能够获取自身的信息。在iava中,只要给定类的名字,那么就可以通过反射机制来获得类的所有…...
PostGreSQL:货币类型
货币类型:money money类型存储固定小数精度的货币数字,小数的精度由数据库的lc_monetary设置决定。windows系统下,该配置项位于/data/postgresql.conf文件中,默认配置如下, lc_monetary Chinese (Simplified)_Chi…...
ESP8266网络相框采用TFT_eSPI库TJpg_Decoder库mixly库UDP库实现图片传送
用ESP8266和TFT_ESPI模块来显示图片数据。具体来说,我们将使用ILI9431显示器作为显示设备,并通过UDP协议将图片数据从发送端传输到ESP8266。最后,我们将解析这些数据并在TFT屏幕上显示出来。在这个过程中,我们将面临一些编程挑战&…...
Go 泛型发展史与基本介绍
Go 泛型发展史与基本介绍 Go 1.18版本增加了对泛型的支持,泛型也是自 Go 语言开源以来所做的最大改变。 文章目录 Go 泛型发展史与基本介绍一、为什么要加入泛型?二、什么是泛型三、泛型的来源四、为什么需要泛型五、Go 泛型设计的简史六、泛型语法6.1 …...
python 解决手机拍的书籍图片发灰的问题
老师给发的作业经常是手机拍的,而不是扫描,背景发灰,如果二次打印就没有看了,象这样: 如果使用photoshop 处理,有些地方还是扣不干净,不如python 做的好,处理后如下: 具体…...
【prompt一】Domain Adaptation via Prompt Learning
1.Motivation 当前的UDA方法通过对齐源和目标特征空间来学习域不变特征。这种对齐是由诸如统计差异最小化或对抗性训练等约束施加的。然而,这些约束可能导致语义特征结构的扭曲和类可辨别性的丧失。 在本文中,引入了一种新的UDA提示学习范式࿰…...
视频编辑与制作,添加视频封面的软件
如今,视频已经成为了我们生活中不可或缺的一部分,无论是社交媒体上的短视频,还是电影、电视剧,视频都以其独特的魅力吸引着我们的目光。而在这背后,视频剪辑软件功不可没。今天,我就为大家揭秘一款新一代的…...
Deepin更换仿Mac主题
上一篇博客说了要写一篇deepin系统的美化教程 先看效果图: 准备工作: 1.你自己 嘻嘻嘻 2.能上网的deepin15.11电脑 首先去下载主题 本次需要系统美化3部分:1.图标 2.光标 3.壁纸 开始之前,请先把你的窗口特效打开,…...
【Flink-Kafka-To-ClickHouse】使用 Flink 实现 Kafka 数据写入 ClickHouse
【Flink-Kafka-To-ClickHouse】使用 Flink 实现 Kafka 数据写入 ClickHouse 1)导入相关依赖2)代码实现2.1.resources2.1.1.appconfig.yml2.1.2.log4j.properties2.1.3.log4j2.xml2.1.4.flink_backup_local.yml 2.2.utils2.2.1.DBConn2.2.2.CommonUtils2.…...
浅谈Redis分布式锁(下)
作者简介:大家好,我是smart哥,前中兴通讯、美团架构师,现某互联网公司CTO 联系qq:184480602,加我进群,大家一起学习,一起进步,一起对抗互联网寒冬 自定义Redis分布式锁的…...
Django Rest Framework框架的安装
Django Rest Framework框架的安装 Django Rest Framework框架的安装 1.DRF简介2.安装依赖3.安装使用pip安装添加rest_framework应用 1.DRF简介 Django REST Framework是Web api的工具包。它是在Django框架基础之上,进行了二次开发。 2.安装依赖 链接python安装 …...
深度学习(七):bert理解之输入形式
传统的预训练方法存在一些问题,如单向语言模型的局限性和无法处理双向上下文的限制。为了解决这些问题,一种新的预训练方法随即被提出,即BERT(Bidirectional Encoder Representations from Transformers)。通过在大规模…...
如何用Excel制作一张能在网上浏览的动态数据报表
前言 如今各类BI产品大行其道,“数据可视化”成为一个热门词汇。相比价格高昂的各种BI软件,用Excel来制作动态报表就更加经济便捷。今天小编就将为大家介绍一下如何使用葡萄城公司的纯前端表格控件——SpreadJS来实现一个Excel动态报表: 实…...
双向数据绑定是什么
一、什么是双向绑定 我们先从单向绑定切入单向绑定非常简单,就是把Model绑定到View,当我们用JavaScript代码更新Model时,View就会自动更新双向绑定就很容易联想到了,在单向绑定的基础上,用户更新了View,Mo…...
鱼眼标定方式
鱼眼作用 人单眼水平视角最大可达156度,垂直方向150度。为了增加可视范围,摄像头可以通过畸变参数扩大视野,一般100度到200度的fov。所以鱼眼是为了看的视野更大,注意在一定分辨率下,fov边缘的像素点稀疏,…...
详解Keras3.0 KerasNLP Models: GPT2 GPT2Tokenizer
1、GPT2Tokenizer 用于将文本数据转换为适合训练和预测的格式,主要功能是将输入的文本进行分词、编码等操作,以便在神经网络中使用 keras_nlp.models.GPT2Tokenizer(vocabulary, merges, **kwargs) 参数说明 vocabulary:一个字典&#x…...
2016年第五届数学建模国际赛小美赛B题直达地铁线路解题全过程文档及程序
2016年第五届数学建模国际赛小美赛 B题 直达地铁线路 原题再现: 在目前的大都市地铁网络中,在两个相距遥远的车站之间运送乘客通常需要很长时间。我们可以建议在两个长途车站之间设置直达班车,以节省长途乘客的时间。 第一部分…...
三秦通ETC续航改造
前些天开车时ETC每隔2分钟滴滴响一下,重插卡提示电池电压低 2.8V。看来应该是电池不行了。去银行更换ETC应该是需要费用的。还有一种办法是注销掉,然后去别的银行办一个。不过我想自己更换电池试一下。 首先拆下ETC,我使用的办法是开水烫。烧…...
使用Python实现发送Email电子邮件【第19篇—python发邮件】
文章目录 👽使用Python实现发送Email电子邮件🎶实现原理🏃Python实现发送Email电子邮件-基础版👫实现源码🙆源码解析 💇Python实现发送Email电子邮件-完善版👫实现源码🙆源码解析&am…...
变量 varablie 声明- Rust 变量 let mut 声明与 C/C++ 变量声明对比分析
一、变量声明设计:let 与 mut 的哲学解析 Rust 采用 let 声明变量并通过 mut 显式标记可变性,这种设计体现了语言的核心哲学。以下是深度解析: 1.1 设计理念剖析 安全优先原则:默认不可变强制开发者明确声明意图 let x 5; …...
第19节 Node.js Express 框架
Express 是一个为Node.js设计的web开发框架,它基于nodejs平台。 Express 简介 Express是一个简洁而灵活的node.js Web应用框架, 提供了一系列强大特性帮助你创建各种Web应用,和丰富的HTTP工具。 使用Express可以快速地搭建一个完整功能的网站。 Expre…...
Debian系统简介
目录 Debian系统介绍 Debian版本介绍 Debian软件源介绍 软件包管理工具dpkg dpkg核心指令详解 安装软件包 卸载软件包 查询软件包状态 验证软件包完整性 手动处理依赖关系 dpkg vs apt Debian系统介绍 Debian 和 Ubuntu 都是基于 Debian内核 的 Linux 发行版ÿ…...
Linux云原生安全:零信任架构与机密计算
Linux云原生安全:零信任架构与机密计算 构建坚不可摧的云原生防御体系 引言:云原生安全的范式革命 随着云原生技术的普及,安全边界正在从传统的网络边界向工作负载内部转移。Gartner预测,到2025年,零信任架构将成为超…...
新能源汽车智慧充电桩管理方案:新能源充电桩散热问题及消防安全监管方案
随着新能源汽车的快速普及,充电桩作为核心配套设施,其安全性与可靠性备受关注。然而,在高温、高负荷运行环境下,充电桩的散热问题与消防安全隐患日益凸显,成为制约行业发展的关键瓶颈。 如何通过智慧化管理手段优化散…...
Linux-07 ubuntu 的 chrome 启动不了
文章目录 问题原因解决步骤一、卸载旧版chrome二、重新安装chorme三、启动不了,报错如下四、启动不了,解决如下 总结 问题原因 在应用中可以看到chrome,但是打不开(说明:原来的ubuntu系统出问题了,这个是备用的硬盘&a…...
Linux离线(zip方式)安装docker
目录 基础信息操作系统信息docker信息 安装实例安装步骤示例 遇到的问题问题1:修改默认工作路径启动失败问题2 找不到对应组 基础信息 操作系统信息 OS版本:CentOS 7 64位 内核版本:3.10.0 相关命令: uname -rcat /etc/os-rele…...
MFC 抛体运动模拟:常见问题解决与界面美化
在 MFC 中开发抛体运动模拟程序时,我们常遇到 轨迹残留、无效刷新、视觉单调、物理逻辑瑕疵 等问题。本文将针对这些痛点,详细解析原因并提供解决方案,同时兼顾界面美化,让模拟效果更专业、更高效。 问题一:历史轨迹与小球残影残留 现象 小球运动后,历史位置的 “残影”…...
CSS 工具对比:UnoCSS vs Tailwind CSS,谁是你的菜?
在现代前端开发中,Utility-First (功能优先) CSS 框架已经成为主流。其中,Tailwind CSS 无疑是市场的领导者和标杆。然而,一个名为 UnoCSS 的新星正以其惊人的性能和极致的灵活性迅速崛起。 这篇文章将深入探讨这两款工具的核心理念、技术差…...
虚拟机网络不通的问题(这里以win10的问题为主,模式NAT)
当我们网关配置好了,DNS也配置好了,最后在虚拟机里还是无法访问百度的网址。 第一种情况: 我们先考虑一下,网关的IP是否和虚拟机编辑器里的IP一样不,如果不一样需要更改一下,因为我们访问百度需要从物理机…...
