当前位置: 首页 > news >正文

包教包会:Mysql主从复制搭建

笑小枫的专属目录

    • 一、无聊的理论知识
      • 1. 主从复制原理
      • 2. 主从复制的工作过程
      • 3. MySQL四种同步方式
    • 二、docker下安装、启动mysql
      • 1. 安装主库
      • 2. 安装从库
    • 三、配置Master(主)
    • 四、配置Slave(从)
    • 五、链接Master(主)和Slave(从)
    • 六、主从复制排错
      • 1. 错误:error connecting to master 'xxxx' - retry-time: 30 retries: xx
      • 2. 错误:ERROR 1872 (HY000): Slave failed to initialize relay log info structure from the repository
      • 3. 操作从库配置后,主库发生变更
    • 七、测试主从复制测试
    • 八、总结

一、无聊的理论知识

MySQL的主从复制和MySQL的读写分离两者有着紧密联系,首先要部署主从复制,只有主从复制完成了,才能在此基础上进行数据的读写分离

1. 主从复制原理

mysql支持的复制类型:

①STATEMENT:基于语句的复制,在主服务器上执行sql语句,在从服务器上执行同样的语句,MySQL默认采用基于语句的复制,执行效率高

②ROW:基于行的复制,把改变的内容复制过去,而不是把命令在从服务器上执行一边

③MIXED:混合类型的复制,默认采用基于语句的复制,一旦发现基于语句无法精确复制时,就会采用基于行的复制

2. 主从复制的工作过程

主从复制核心部分就是两个日志、三个线程(高版本的mysql以及异步复制、半同步复制、全同步复制

核心重点:两个日志文件:二进制日志、中继日志、三个线程:master的dump thread、slave的IO、SQL

主要原理:master将数据保存在二进制日志中,IO向dump发出同步请求,dump把数据发送给IO线程。IO会写入到本地的中继日志,SQL线程会读取本地的日志数据,同步到自己的数据库中,完成同步

image-20231110170940523

①Master节点将数据的改变记录成二进制日志(bin log),当Master上的数据发生改变时,则将其改变写入二进制日志中

②Slave节点会在一定时间间隔内对Master的二进制日志进行探测其是否发生改变,如果发生改变,则开始一个I/O线程请求Master的二进制时间

③同时Master节点为每个I/O线程启动一个dump线程,用于向其发生二进制事件,并保存至Slave节点本地的中继日志(Relay log)中,Slave节点将启动SQL线程从中继日志中读取二进制日志,在本地重放,即解析成sql语句逐一执行,使得其数据和Master节点的保持一致,最后I/O线程和SQL线程将进入睡眠状态,等待下一次被唤醒

**注:**中继日志通常会位于OS缓存中,所以中继日志的开销很小

复制过程有一个很重要的限制,即复制在Slave上是串行化的,也就是说Master上的并行更新操作不能在Slave上并行操作

主MySQL服务器做的增删改操作,都会写入自己的二进制日志(Binary log)
然后从MySQL从服务器打开自己的I/O线程连接主服务器,进行读取主服务器的二进制日志
I/O去监听二进制日志,一旦由新的数据,会发起请求连接
这时候会触发dump线程,dump thread响应请求,传送数据给I/O(dump线程要么处于等待,要么处于睡眠状态)
I/O接收到数据之后存放在中继日志
SQL thread线程会读取中继日志里的数据,存放到自己的服务器中dump通过TP也就是网络的方式发送给IO

3. MySQL四种同步方式

异步复制(Async Replication)

主库将更新写入Binlog日志文件,不需要等待数据更新是否已经复制到从库中,就可以继续处理更多的请求,Master将事件写入binlog,但并不知道Slave是否或何时已经接收且已处理,在异步复制的机制的情况下,如果Master宕机,事务在Master上已经提交,但可能这些事务没有传到任何的Slave上,假设有Master–>Salve故障转移的机制,此时Slave也可能会丢失事务,Mysql复制默认是异步复制,异步复制提供了最佳性能

同步复制(Sync Replication)

主库将更新写入Binlog日志文件后,需要等待数据更新已经复制到从库中,并且已经在从库执行成功,然后才能返回继续处理其它的请求,同步复制提供了最佳安全性,保证数据安全,数据不会丢失,但对性能有一定的影响

半同步复制(Semi-Sync Replication)

主库提交更新写入二进制日志文件后,等待数据更新写入了从服务器中继日志中,然后才能再继续处理其它请求,该功能确保至少有1个从库接收完主库传递过来的binlog内容已经写入到自己的relay log里面了,才会通知主库上面的等待线程,该操作完毕

半同步复制是最佳安全性于最佳性能 之间的一个折中

MySQL5.5版本之中引入了半同步复制功能,主从服务器必须安装半同步复制插件,才能开启该复制功能,如果等待超时,超过rpl_semi_sync_master_timeout参数设置时间(默认值为10000,表示10秒),则关闭半同步复制。并自动转换为异步复制模式,当master dump线程发送完一个事务的所有事件之后,如果在rpl_semi_sync_master_timeout内,收到了从库的响应,则主从又重新恢复为增强半同步复制

ACK (Acknowledge character)即是确认字符。

增强半同步复制(lossless Semi-Sync Replication、无损复制)

增强半同步时在MySQL 5.7引入,其实半同步可以看成一个过渡功能,因为默认的配置就是增强半同步,大家一般说的半同步复制其实就是增强的半同步复制,也就是无损复制

增强半同步和半同步不同的是,等待ACK时间不同

rpl_semi_sync_master_wait_point =AFTER_SYNC(默认)

半同步的问题是因为等待ACK的点是Commit之后,此时Master已经完成数据变更,用户已经可以看到最新数据,当Binlog还未同步到Slave时,发生主从切换,那么此时从库是没有这个最新数据的,用户看到的还是老数据,增强半同步将等待ACK的点放在提交Commit之前,此时数据还未被提交,外界看不到数据变更,此时如果发生主从切换,新库依然还是老数据,不存在数据不一致的问题

二、docker下安装、启动mysql

docker下安装mysql 8.0.15

docker pull mysql:8.0.15

1. 安装主库

启动mysql-master,当作主库

docker run -p 3320:3306 --name mysql_master -e MYSQL_ROOT_PASSWORD=123456 -d 7bb2586065cd

此时启动已完成,在docker启动镜像时密码加密使用的是caching_sha2_password,
在服务器端启动默认使用mysql_native_password 加密的,
如需要使用外部工具连接,需要进入docker容器重置root密码。

进入docker容器修改Mysql远程连接的密码

docker exec -it mysql_master /bin/sh# mysql -u root -p输入登录密码(设置的MYSQL_ROOT_PASSWORD):123456mysql> ALTER USER 'root'@'%' IDENTIFIED WITH mysql_native_password BY 'test001';

退出数据库设置和docker容器,使用exit命令

image-20231110135242436

2. 安装从库

启动mysql-slave,当作从库

docker run  -p 3321:3306 --name mysql_slave -e MYSQL_ROOT_PASSWORD=123456 -d 7bb2586065cd

进入docker容器修改Mysql远程连接的密码

docker exec -it mysql_slave /bin/sh# mysql -u root -p输入登录密码(设置的MYSQL_ROOT_PASSWORD):123456mysql> ALTER USER 'root'@'%' IDENTIFIED WITH mysql_native_password BY 'test001';

安装完主库和从库后如下所示:

image-20231110150836045

三、配置Master(主)

docker exec -it mysql_master /bin/sh

cd /etc/mysql切换到/etc/mysql目录下,然后vi my.cnf对my.cnf进行编辑。
此时会报出bash: /bin/sh: 3: vi: not found,需要我们在docker容器内部自行安装vim。
使用apt-get install vim命令安装vim

如果出现如下问题:

Reading package lists... Done
Building dependency tree       
Reading state information... Done
E: Unable to locate package vim

执行apt-get update,然后再次执行apt-get install vim即可成功安装vim。

如果docker内部安装不了Vim,可以将文件拷贝出来,修改完之后在拷贝进去,或者启动时使用docker -v的方式挂载

#将容器中的文件拷贝出来
sudo docker cp 容器ID:/etc/mysql/my.cnf /data/mysql/master
#将容器中的文件拷贝回去
sudo docker cp /data/mysql/master/my.cnf  容器ID:/etc/mysql/

然后我们就可以使用vim编辑my.cnf,在my.cnf中添加

[mysqld]
## 同一局域网内,注意要唯一
server-id=99  
## 开启二进制日志功能,可以随便取(关键)
log-bin=mysql-bin

需要重启mysql服务docker restart 容器ID

下一步在Master数据库创建数据同步用户

CREATE USER 'slave'@'%' IDENTIFIED BY '123456';ALTER USER 'slave'@'%' IDENTIFIED WITH mysql_native_password BY '123456';

授予用户 slave REPLICATION SLAVE权限和REPLICATION CLIENT权限,用于在主从库之间同步数据。

GRANT REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO 'slave'@'%';

创建用户图片

四、配置Slave(从)

和配置Master(主)一样,在Slave配置文件my.cnf中添加如下配置:

[mysqld]
## 设置server_id,注意要唯一
server-id=101  
## 开启二进制日志功能,以备Slave作为其它Slave的Master时使用
log-bin=mysql-slave-bin   
## relay_log配置中继日志
relay_log=edu-mysql-relay-bin

配置完成后也需要重启mysql服务和docker容器,操作和配置Master(主)一致。

五、链接Master(主)和Slave(从)

在Master进入mysql,执行show master status;

笑小枫专属图片

File和Position字段的值后面将会用到,在后面的操作完成之前,需要保证Master库不能做任何操作,否则将会引起状态变化,File和Position字段的值变化。

在Slave 中进入 mysql,执行

change master to master_host='172.17.0.8', master_user='slave', master_password='test001', master_port=3306, master_log_file='mysql-bin.000002', master_log_pos=994, master_connect_retry=30;
  • 命令说明

笑小枫专属图片

master_host :Master的地址,指的是容器的独立ip,可以通过docker inspect --format='{{.NetworkSettings.IPAddress}}' 容器名称|容器id查询容器的ip。如果不是docker直接放服务器的IP地址就行,保证两个服务器互通即可master_port:Master的端口号,指的是容器的端口号master_user:用于数据同步的用户master_password:用于同步的用户的密码master_log_file:指定 Slave 从哪个日志文件开始复制数据,即上文中提到的 File 字段的值master_log_pos:从哪个 Position 开始读,即上文中提到的 Position 字段的值master_connect_retry:如果连接失败,重试的时间间隔,单位是秒,默认是60秒

在Slave 中的mysql终端执行show slave status;用于查看主从同步状态。

笑小枫专属图片

  • Slave_IO_Running:负责从库去主库读取二进制日志,并写入到从库的中继日志
  • Slave_SQL_Running:负责将中继日志转换成SQL语句后执行

正常情况下,SlaveIORunning 和 SlaveSQLRunning 都是No,因为我们还没有开启主从复制过程。
使用start slave;开启主从复制过程,然后再次查询主从同步状态show slave status;

笑小枫专属图片

SlaveIORunning 和 SlaveSQLRunning 都是Yes,说明主从复制已经开启。此时可以测试数据同步是否成功。

六、主从复制排错

1. 错误:error connecting to master ‘xxxx’ - retry-time: 30 retries: xx

笑小枫专属图片

使用start slave开启主从复制过程后,如果SlaveIORunning一直是Connecting,则说明主从复制一直处于连接状态,这种情况一般是下面几种原因造成的,我们可以根据 Last_IO_Error提示予以排除。

1、网络不通

检查ip,端口,这里docker虽然映射出去的mysql端口是3320,但通过内网访问仍然是3306

2、密码不对

检查是否创建用于同步的用户和用户密码是否正确

3、pos不对

检查Master的 Position

2. 错误:ERROR 1872 (HY000): Slave failed to initialize relay log info structure from the repository

检查my.cnf,是否指定relay_log,指定的relay_log是否被其他server占用。

解决方法:修改my.cnf指定relay_log,然后重启服务。

先执行reset slave命令,在执行以下命令:

change master to master_host='172.17.0.8', master_user='slave', master_password='test001', master_port=3306, master_log_file='mysql-bin.000002', master_log_pos=994, master_connect_retry=30;

最后启动start slave;

3. 操作从库配置后,主库发生变更

在mastershow master status;查询主库最新的状态

然后执行reset slave命令,再执行更新后的链接命令:

change master to master_host='172.17.0.8', master_user='slave', master_password='test001', master_port=3306, master_log_file='mysql-bin.000002', master_log_pos=994, master_connect_retry=30;

最后启动start slave;

七、测试主从复制测试

在主库(master)创建test数据库,并添加test表,然后可以看到从库中也出现了对应的数据库和表

笑小枫专属图片

八、总结

本文主要讲解了Mysql主从复制的操作,如果有多个从库,重复执行从库的操作即可。

切记:对数据的增删改操作一定要在主库上操作,不要在从库上操作。

本文到此就结束了,有问题就找笑小枫

点个关注和收藏吧,不然就👇👇👇👇👇👇👇👇👇

image-20231110154837139

相关文章:

包教包会:Mysql主从复制搭建

笑小枫的专属目录 一、无聊的理论知识1. 主从复制原理2. 主从复制的工作过程3. MySQL四种同步方式 二、docker下安装、启动mysql1. 安装主库2. 安装从库 三、配置Master(主)四、配置Slave(从)五、链接Master(主)和Slave(从)六、主从复制排错1. 错误:error connectin…...

Subset Selection

白话解释:https://www.geeksforgeeks.org/feature-subset-selection-process/ 貌似有一种比较常见的方法,称为多元逐步回归有3种筛选自变量的方法 (1)向前法:n个因变量情况,慢慢增加因变量到方程中&#x…...

【测开求职】面试题:计算机网络 精简版整理

本篇文章整理的是在秋招过程中遇到的计算机网络高频面试题,应付部分中小厂的测试开发工程师面试完全没有问题,如果时间充足的话,建议再看一下笔者的另外一篇文章:【测开求职】面试题:计算机网络 详细版整理,会让你对整个计算机网络有足够全面深刻的理解,亲测应付各个大厂…...

设计模式-代理模式(delegate)

什么是代理? 代理(Proxy)是一种设计模式,提供了对目标对象另外的访问方式;即通过代理对象访问目标对象.这样做的好处是:可以在目标对象实现的基础上,增强额外的功能操作,即扩展目标对象的功能. 这里使用到编程中的一个思想:不要随意去修改别人已经写好的代码或者方…...

MongoDB 安装与配置

MongoDB 安装与配置 MongoDB 是一个高性能、开源的 NoSQL 数据库,它提供了丰富的查询功能和高可用性。本文将详细讲解 MongoDB 的安装与配置过程。 1. MongoDB 安装 1.1 Windows 平台安装 下载 MongoDB 安装包 访问 MongoDB 官方下载页面(https://w…...

rabbitMq创建交换机,以及路由键绑定队列教程

创建交换机: 创建队列: 创建路由,绑定到交换机:...

odoo16前端框架源码阅读——ormService.js

odoo16前端框架源码阅读——ormService.js 路径:addons\web\static\src\core\orm_service.js 简单翻译一下代码中的注释: ORM服务是js代码和python的ORM层通信的标准方法。 然后讲了One2many and Many2many特使的指令格式,每个指令都是3元…...

详谈滑动窗口算法与KMP算法区别以及二者在什么场景下使用

什么是滑动窗口算法 滑动窗口算法是一种用于解决数组(或字符串)中子数组(或子字符串)问题的算法。该算法通过维护一个固定大小的窗口(通常是两个指针),该窗口在数组上滑动,以寻找符…...

k8s、数据存储

数据存储的概念 容器磁盘上的文件的生命周期是短暂的,这就使得在容器中运行重要应用时会出现一些问题。首先,当容器崩溃时,kubelet 会重启它,但是容器中的文件将丢失——容器以干净的状态(镜像最初的状态)…...

Vue生命周期全解析:从工厂岗位到任务执行,一览无遗!

🎬 江城开朗的豌豆:个人主页 🔥 个人专栏 :《 VUE 》 《 javaScript 》 📝 个人网站 :《 江城开朗的豌豆🫛 》 ⛺️ 生活的理想,就是为了理想的生活 ! 目录 ⭐ 专栏简介 📘 文章引言 一、生…...

常见产品结构四大类型 优劣势比较

一般,我们通过产品架构来构建用户体验,这样可以提供更清晰的导航和组织、优化用户流程和交互、增强产品的可扩展性和可维护性,提升用户的满意度和忠诚度。如果没有明确的产品结构,可能会导致功能冗余或功能缺失、交互流程混乱等问…...

如何优雅的开发?试试这个低代码项目

一、前言 众所周知,开发一个大型的企业级系统,公司往往需要大量的人力做支持后盾,如需要需求分析师、数据库管理员、前台美工、后台程序员、测试人员等。 在快速发展中的企业里,尤其是中小企业,都是一个萝卜多个坑&…...

个人开发常用idea插件

idea重装后必须要配置的几项: Maven: File-->Settings-->Maven字体: IDE字体设置:File-->Settings-->Appearance,设置成Consolas,Size:18代码字体设置:File-->Setti…...

如何使用ArcGIS Pro制作个性三维地形图

制作三维地图制作的多了,想着能不能换个“口味”,恰好看见制作六边形蜂窝图,灵光一闪,想着将二者结合,将平滑的三维地形图改成柱状图,从结果来看还可以,这里将制作方法分享给大家,希…...

支撑企业数字化经营,《2023指标平台白皮书》正式发布

导语 随着宏观经济步入新常态和市场不确定性加剧,我国企业的经营环境正在发生深刻变化。为了更好地应对挑战,企业需转向高质量发展,通过精细化管理等手段优化业务结构、提高运营效率和创新能力。在数字经济时代,借助数字化手段实现…...

【Linux】Linux的两种连接文件方法(ln | 符号链接和硬链接)

在一次线上配置文件时,不小心将配置文件config.py放在了错误的地方,而目前项目已经运行,又不能重新配置启动项目,那么如何将其他地方的文件放在当前配置目录来使用,并实现其他地方文件改动,配置目录下文件也…...

vue 点击滑动到页面指定位置(点击下滑滚动)的功能

需求 点击页面上的 文字 滑动到页面指定位置 三种方法 document.getElementById(show).scrollIntoView() // 默认滚动至节点置顶document.getElementById(show).scrollIntoView(false) // 默认滚动至节点显示document.getElementById(show).scrollIntoView({ behavior: &quo…...

LCD婴儿电子秤pcba/芯片方案设计

一、LCD婴儿秤方案技术规格 1.额定量程:20Kg 2.分度值:D10g、0.02LB 3.最小秤量:20G. 4.单位:KG/LB/LB:OZ 5.归零范围:满量程 6.低压侦…...

2023年开发语言和数据库排行

2023年开发语言和数据库排行 一、开发语言相关1. Python1.1 Python优点1.2 Python缺点1.3 Python应用领域 2. C 语言2.1 C 语言优点2.2 C 语言缺点2.3 C语言应用领域 3. Java3.1 Java 优点3.2 Java缺点3.3 Java应用场景 4. C4.1 C 优点4.2 C 缺点4.3 C 应用场景 5. C#5.1 C# 优…...

实现http请求-hutool

hutool工具HttpUtil 使用hutool就能实现http请求,官方案例 // 最简单的HTTP请求,可以自动通过header等信息判断编码,不区分HTTP和HTTPS String result1 HttpUtil.get("https://www.baidu.com");// 当无法识别页面编码的时候&…...

微信小程序之bind和catch

这两个呢,都是绑定事件用的,具体使用有些小区别。 官方文档: 事件冒泡处理不同 bind:绑定的事件会向上冒泡,即触发当前组件的事件后,还会继续触发父组件的相同事件。例如,有一个子视图绑定了b…...

51c自动驾驶~合集58

我自己的原文哦~ https://blog.51cto.com/whaosoft/13967107 #CCA-Attention 全局池化局部保留,CCA-Attention为LLM长文本建模带来突破性进展 琶洲实验室、华南理工大学联合推出关键上下文感知注意力机制(CCA-Attention),…...

centos 7 部署awstats 网站访问检测

一、基础环境准备(两种安装方式都要做) bash # 安装必要依赖 yum install -y httpd perl mod_perl perl-Time-HiRes perl-DateTime systemctl enable httpd # 设置 Apache 开机自启 systemctl start httpd # 启动 Apache二、安装 AWStats&#xff0…...

Linux简单的操作

ls ls 查看当前目录 ll 查看详细内容 ls -a 查看所有的内容 ls --help 查看方法文档 pwd pwd 查看当前路径 cd cd 转路径 cd .. 转上一级路径 cd 名 转换路径 …...

GitHub 趋势日报 (2025年06月08日)

📊 由 TrendForge 系统生成 | 🌐 https://trendforge.devlive.org/ 🌐 本日报中的项目描述已自动翻译为中文 📈 今日获星趋势图 今日获星趋势图 884 cognee 566 dify 414 HumanSystemOptimization 414 omni-tools 321 note-gen …...

Swagger和OpenApi的前世今生

Swagger与OpenAPI的关系演进是API标准化进程中的重要篇章,二者共同塑造了现代RESTful API的开发范式。 本期就扒一扒其技术演进的关键节点与核心逻辑: 🔄 一、起源与初创期:Swagger的诞生(2010-2014) 核心…...

使用Matplotlib创建炫酷的3D散点图:数据可视化的新维度

文章目录 基础实现代码代码解析进阶技巧1. 自定义点的大小和颜色2. 添加图例和样式美化3. 真实数据应用示例实用技巧与注意事项完整示例(带样式)应用场景在数据科学和可视化领域,三维图形能为我们提供更丰富的数据洞察。本文将手把手教你如何使用Python的Matplotlib库创建引…...

IP如何挑?2025年海外专线IP如何购买?

你花了时间和预算买了IP,结果IP质量不佳,项目效率低下不说,还可能带来莫名的网络问题,是不是太闹心了?尤其是在面对海外专线IP时,到底怎么才能买到适合自己的呢?所以,挑IP绝对是个技…...

LLMs 系列实操科普(1)

写在前面: 本期内容我们继续 Andrej Karpathy 的《How I use LLMs》讲座内容,原视频时长 ~130 分钟,以实操演示主流的一些 LLMs 的使用,由于涉及到实操,实际上并不适合以文字整理,但还是决定尽量整理一份笔…...

Git常用命令完全指南:从入门到精通

Git常用命令完全指南:从入门到精通 一、基础配置命令 1. 用户信息配置 # 设置全局用户名 git config --global user.name "你的名字"# 设置全局邮箱 git config --global user.email "你的邮箱example.com"# 查看所有配置 git config --list…...