MySQL 主从同步一致性详解
MySQL主从同步是一种数据复制技术,它允许数据从一个数据库服务器(主服务器)自动同步到一个或多个数据库服务器(从服务器)。这种技术主要用于实现读写分离、提升数据库性能、容灾恢复以及数据冗余备份等目的。下面将详细解析MySQL主从同步的一致性问题,并通过案例分析其工作原理。

一、MySQL主从同步一致性详解
- 主从同步原理MySQL主从同步基于二进制日志(binlog)进行。主库将数据的变更写入binlog日志,从库通过IO线程读取这些变更,并写入到本地的中继日志(relay log)中。之后,从库的SQL线程会读取中继日志中的SQL语句并执行,从而保持与主库数据的一致性。
- 同步模式MySQL主从同步有三种主要模式:异步复制:主库执行完事务后立即返回结果给客户端,不关心从库是否接收并处理。这是MySQL的默认复制模式,但可能导致数据不一致。半同步复制:主库执行完事务后,会等待至少一个从库接收到binlog并写入relay log后才返回结果给客户端。这种方式提高了数据安全性,但会增加延迟。全同步复制(组复制):主库执行完事务后,会等待所有从库都执行完该事务后才返回结果给客户端。这种方式保证了数据的一致性,但性能较低。
- 数据一致性问题主从同步中可能遇到的数据一致性问题主要包括:延迟问题:由于网络延迟、从库性能不足或大事务等原因,从库的数据可能会滞后于主库。数据丢失:在主库发生故障时,如果数据尚未同步到从库,将导致数据丢失。数据冲突:在复杂的同步场景中,如多主复制或级联复制,可能出现数据冲突。
- 解决方案优化同步模式:根据业务需求和数据安全性要求选择合适的同步模式。优化从库性能:提升从库硬件配置、优化SQL查询等以减少延迟。使用数据库中间件:如canal、otter等,实现读写分离和数据一致性校验。缓存记录写key法:通过缓存记录写操作的关键信息,在读取时判断是否需要从主库获取最新数据。
二、案例分析
以下是一个简单的MySQL主从同步案例分析:
环境准备主服务器IP:192.168.4.51
从服务器IP:192.168.4.52
配置主服务器启用binlog日志并设置server_id。[mysqld]
server_id=51
log-bin=master51
授权从服务器访问主服务器的binlog。
GRANT REPLICATION SLAVE ON *.* TO 'repluser'@'192.168.4.52' IDENTIFIED BY 'password';
查看并记录binlog的文件名和位置。
SHOW MASTER STATUS;
配置从服务器设置server_id并启动binlog(可选,如果需要配置从从复制)。[mysqld]
server_id=52
log-bin=slave52 # 如果需要配置从从复制
指定主服务器信息并启动slave进程。
CHANGE MASTER TO
MASTER_HOST='192.168.4.51',
MASTER_USER='repluser',
MASTER_PASSWORD='password',
MASTER_LOG_FILE='master51.000001',
MASTER_LOG_POS=442;
START SLAVE;
查看slave状态以确认同步是否成功。
SHOW SLAVE STATUS\G
验证配置
1、在主服务器上创建数据库和表,并插入数据。
2、在从服务器上查询相同的数据,验证数据是否一致。
三、影响主从同步一致性的因素
1.网络延迟数据传输延迟:主库和从库之间的网络状况不佳时,从库获取主库二进制日志的时间会增加,可能导致从库的数据更新落后于主库。 网络中断:如果网络出现中断,从库在一段时间内无法获取主库的二进制日志,当网络恢复后,可能会出现数据不一致的情况。
2.主从配置差异存储引擎不同:如果主库和从库使用不同的存储引擎,可能会导致某些操作在主库和从库上的执行结果不同。 字符集不同:字符集的不一致可能会导致数据在存储和传输过程中出现乱码等问题,影响数据的一致性。
3.事务处理非事务性操作:在主库上执行非事务性操作(如 MyISAM 存储引擎下的操作)时,如果在操作过程中主库出现故障,可能会导致主从数据不一致。 事务提交顺序:如果主库上的事务提交顺序与从库上的事务重放顺序不同,也可能会导致数据不一致。
4.锁机制锁等待:在主库上,如果一个事务长时间持有锁,可能会导致从库在重放相关操作时出现锁等待,从而影响同步的及时性和一致性。 锁冲突:主库和从库上的锁冲突可能会导致某些操作无法正常执行,进而影响数据一致性。
四、保证主从同步一致性的方法
1.优化网络环境使用高速网络:尽量使用高速、稳定的网络连接主库和从库,减少网络延迟。 网络监控与维护:定期监控网络状况,及时发现并解决网络问题,如网络拥塞、丢包等。
2.统一主从配置存储引擎统一:确保主库和从库使用相同的存储引擎,避免因存储引擎差异导致的问题。 字符集统一:在配置主从库时,统一字符集,保证数据在传输和存储过程中的准确性。
3.事务处理优化使用事务性存储引擎:如 InnoDB 存储引擎,它支持事务的 ACID 属性,能更好地保证数据的一致性。 事务提交顺序控制:在应用程序设计中,尽量保证事务提交的顺序在主从库上是一致的。
4.合理使用锁机制减少锁持有时间:在主库上,尽量减少事务持有锁的时间,避免从库出现长时间的锁等待。 避免锁冲突:合理设计数据库的锁策略,避免主从库上出现锁冲突。
五、案例分析
1、网络延迟导致的主从数据不一致
案例场景:
公司的数据库采用了主从复制架构,主库和从库位于不同的数据中心,之间通过广域网连接。在业务高峰期,网络出现了严重的拥塞,导致从库获取主库二进制日志的速度非常缓慢。
问题表现:
用户在主库上插入了一条新数据,但在从库上查询时,该数据在一段时间内并未出现。
解决方法:
优化网络连接,增加网络带宽,缓解网络拥塞。 调整主从复制的参数,如增加从库获取二进制日志的超时时间,避免因网络延迟导致复制中断。
2、事务处理不当导致的主从数据不一致
案例场景:
在一个电商系统中,主库使用事务来处理订单的生成和库存的更新。在某些情况下,事务在主库上执行过程中出现了异常,但事务并未完全回滚。从库在复制这些操作时,由于事务的不完整性,导致数据不一致。
问题表现:
订单状态显示已支付,但库存并未减少。
解决方法:
优化事务处理代码,确保事务在出现异常时能够正确回滚。 在从库上增加数据校验机制,定期检查主从数据的一致性,发现问题及时修复。
3.锁机制导致的主从数据不一致
案例场景:
在一个高并发的数据库应用中,主库上存在大量的并发事务,这些事务在操作某些数据时需要获取锁。由于锁的竞争激烈,导致从库在重放相关操作时出现锁等待,进而影响了主从同步的一致性。
问题表现:
从库的数据更新明显落后于主库,在某些情况下,从库上的查询结果与主库不一致。
解决方法:
优化事务的并发控制策略,减少锁的竞争。 对频繁被锁的数据进行分区,降低锁冲突的概率。
六、总结
主从同步一致性是 MySQL 数据库架构中一个至关重要的问题。影响主从同步一致性的因素有很多,包括网络延迟、主从配置差异、事务处理和锁机制等。通过优化网络环境、统一主从配置、事务处理优化和合理使用锁机制等方法,可以有效地保证主从同步的一致性。在实际应用中,需要根据具体的案例场景进行分析和处理,及时发现并解决问题,确保数据库系统的稳定运行。
相关文章:
MySQL 主从同步一致性详解
MySQL主从同步是一种数据复制技术,它允许数据从一个数据库服务器(主服务器)自动同步到一个或多个数据库服务器(从服务器)。这种技术主要用于实现读写分离、提升数据库性能、容灾恢复以及数据冗余备份等目的。下面将详细…...
Spring源码导入idea时gradle构建慢问题
当我们将spring源码导入到idea进行构建的时候,spring采用的是gradle进行构建,默认下注在依赖是从https://repo.maven.apache.org会特别慢,需要改为国内的镜像地址会加快速度。 将项目中build.gradle配置进行调整: repositories …...
Dockerfile 安装echarts插件给java提供服务
java调用echarts插件,生成图片保存到磁盘然后插入到pptx中报表。 Dockerfile文件内容: #基础镜像,如果本地仓库没有,会从远程仓库拉取 openjdk:8 FROM docker.io/centos:centos7 #暴露端口 EXPOSE 9311 # 避免centos 日志输出 …...
Springboot小知识(1):启动类与配置
一、启动类(引导类) 在通常情况下,你创建的Spring应用项目都会为你自动生成一个启动类,它是这个应用的起点。 在Spring Boot中,引导类(也称为启动类,通常是main方法所在的类)是整个…...
[CISCN 2019华东南]Web11
[CISCN 2019华东南]Web11 给了两个链接但是都无法访问 这里我们直接抓包试一下 我们插入X-Forwarded-For:127.0.0.1 发现可以修改了右上角的IP地址,从而可以进行注入 {$smarty.version} 查看版本号 if标签执行PHP命令 {if phpinfo()}{/if} 查看协议 {if system(…...
Cypress内存溢出奔溃问题汇总
内存溢出报错信息 <--- Last few GCs ---> [196:0xe58001bc000] 683925 ms: Scavenge 1870.7 (1969.9) -> 1865.6 (1969.9) MB, 6.07 / 0.00 ms (average mu 0.359, current mu 0.444) task; [196:0xe58001bc000] 683999 ms: Scavenge 1872.4 (1969.9) -> 1867.1…...
树莓派4B--OpenCV安装踩坑
报错: Source directory: /tmp/pip-install-pv7l9r25/opencv-python_08fdf5a130a5429f89b0e0eaab39a329 Working directory: /tmp/pip-install-pv7l9r25/opencv-python_08fdf5a130a5429f89b0e0eaab39a329/_skbuild/linux-armv7l-3.7/cmake-build Please check the i…...
电子电气架构 --- 面向服务的汽车诊断架构
我是穿拖鞋的汉子,魔都中坚持长期主义的汽车电子工程师。 老规矩,分享一段喜欢的文字,避免自己成为高知识低文化的工程师: 所有人的看法和评价都是暂时的,只有自己的经历是伴随一生的,几乎所有的担忧和畏惧,都是来源于自己的想象,只有你真的去做了,才会发现有多快乐。…...
Pytest --capture 参数详解:如何控制测试执行过程中的输出行为
--capture 选项用于控制测试用例执行过程中标准输出(stdout)和标准错误输出(stderr)的捕获行为。 --capture 的选项值: fd(默认) 捕获文件描述符级别的输出(stdout 和 stderr&#x…...
IS-IS的原理
IS-IS的基本概念: 概述: IS-IS,中间系统到中间系统,是ISO国际标准化组织为它的无连接网络协议设计的一种动态路由协议 IS-IS支持CLNP网络和IP网络,采用数据链路层封装,区别于ospf只支持IP网络࿰…...
C++(4个类型转换)
1. C语言中的类型转换 1. 隐式 类型转换: 具有相近的类型才能进行互相转换,如:int,char,double都表示数值。 2. 强制类型转换:能隐式类型转换就能强制类型转换,隐式类型之间的转换类型强相关,强制类型转换…...
Ubuntu20.04安装NVIDIA显卡驱动
Ubuntu20.04安装NVIDIA显卡驱动 参考资料:https://blog.csdn.net/weixin_39244242/article/details/136282614?fromshareblogdetail&sharetypeblogdetail&sharerId136282614&sharereferPC&sharesourceqq_37397652&sharefromfrom_link 成功配置…...
速盾:介绍一下高防cdn的缓存响应事什么功能?
高防CDN(Content Delivery Network)是一种基于分布式缓存技术的网络加速服务,能够提供强大的缓存响应功能。它的缓存响应功能主要包括缓存加速和智能缓存两个方面。 首先,高防CDN的缓存加速功能是指通过在全球范围内部署大量的缓…...
Nuclei-快速漏洞扫描器
Nuclei-快速漏洞扫描器 声明 学习内容来自 B 站UP主泷羽sec,如涉及侵权马上删除文章。 笔记的只是方便各位师傅学习知识,以下网站只涉及学习内容,其他的都与本人无关,切莫逾越法律红线,否则后果自负。 ✍Ἷ…...
linux网络抓包工具
linux网络抓包工具 一、tcpdump1.1 基本用法1.2 龙芯平台实例操作 二、wireshark2.1 主要功能2.2 龙芯平台实例操作 一、tcpdump tcpdump 指令可列出经过指定网络界面的数据包文件头,可以将网络中传送的数据包的 “头” 完全截获下来提供分析。它支持针对网络层、协…...
详解桥接模式
引言 在开发过程中,可能会遇到系统设计有多种维度变化的情况,比如我们想画一幅五彩斑斓的画,需要用到12个颜色,但是需要粗细不同的线条(粗、中、细),如果用蜡笔,就需要粗中细三种蜡笔…...
探索AI新世界!热门工具与学习资源免费获取
抖知书老师推荐: 人工智能技术的迅速发展让人们既充满期待又有些迷茫。有人担忧被AI技术取代,有人却积极拥抱这场科技浪潮。无论你处于哪种心态,人工智能已经深入到我们生活的方方面面。如果你希望轻松掌握最新的AI工具与动态,…...
vue3项目搭建-6-axios 基础配置
axios 基础配置 安装 axios npm install axios 创建 axios 实例,配置基地址,配置拦截器,目录:utils/http.js 基地址:在每次访问时,自动作为相对路径的根 // axios 基础封装 import axios from "axios";…...
Django 视图层
from django.shortcuts import render, HttpResponse, redirectfrom django.http import JsonResponse1. render: 渲染模板 def index(request):print(reverse(index))return render(request, "index.html")return render(request, index.html, context{name: lisi})…...
代理IP与百度在信息时代的交互
目录 一、代理IP的基本概念和工作原理 二、代理IP在百度搜索中的多重作用 解决网络延时问题,提高搜索速度 提高网络安全 隐藏用户的真实IP地址,保护个人隐私 突破访问限制,拓宽网络视野 三、代理IP在百度关键词排名优化中的应用 模拟…...
docker详细操作--未完待续
docker介绍 docker官网: Docker:加速容器应用程序开发 harbor官网:Harbor - Harbor 中文 使用docker加速器: Docker镜像极速下载服务 - 毫秒镜像 是什么 Docker 是一种开源的容器化平台,用于将应用程序及其依赖项(如库、运行时环…...
Java 语言特性(面试系列1)
一、面向对象编程 1. 封装(Encapsulation) 定义:将数据(属性)和操作数据的方法绑定在一起,通过访问控制符(private、protected、public)隐藏内部实现细节。示例: public …...
【OSG学习笔记】Day 18: 碰撞检测与物理交互
物理引擎(Physics Engine) 物理引擎 是一种通过计算机模拟物理规律(如力学、碰撞、重力、流体动力学等)的软件工具或库。 它的核心目标是在虚拟环境中逼真地模拟物体的运动和交互,广泛应用于 游戏开发、动画制作、虚…...
c++ 面试题(1)-----深度优先搜索(DFS)实现
操作系统:ubuntu22.04 IDE:Visual Studio Code 编程语言:C11 题目描述 地上有一个 m 行 n 列的方格,从坐标 [0,0] 起始。一个机器人可以从某一格移动到上下左右四个格子,但不能进入行坐标和列坐标的数位之和大于 k 的格子。 例…...
DeepSeek 技术赋能无人农场协同作业:用 AI 重构农田管理 “神经网”
目录 一、引言二、DeepSeek 技术大揭秘2.1 核心架构解析2.2 关键技术剖析 三、智能农业无人农场协同作业现状3.1 发展现状概述3.2 协同作业模式介绍 四、DeepSeek 的 “农场奇妙游”4.1 数据处理与分析4.2 作物生长监测与预测4.3 病虫害防治4.4 农机协同作业调度 五、实际案例大…...
如何在网页里填写 PDF 表格?
有时候,你可能希望用户能在你的网站上填写 PDF 表单。然而,这件事并不简单,因为 PDF 并不是一种原生的网页格式。虽然浏览器可以显示 PDF 文件,但原生并不支持编辑或填写它们。更糟的是,如果你想收集表单数据ÿ…...
无人机侦测与反制技术的进展与应用
国家电网无人机侦测与反制技术的进展与应用 引言 随着无人机(无人驾驶飞行器,UAV)技术的快速发展,其在商业、娱乐和军事领域的广泛应用带来了新的安全挑战。特别是对于关键基础设施如电力系统,无人机的“黑飞”&…...
Go 并发编程基础:通道(Channel)的使用
在 Go 中,Channel 是 Goroutine 之间通信的核心机制。它提供了一个线程安全的通信方式,用于在多个 Goroutine 之间传递数据,从而实现高效的并发编程。 本章将介绍 Channel 的基本概念、用法、缓冲、关闭机制以及 select 的使用。 一、Channel…...
【Redis】笔记|第8节|大厂高并发缓存架构实战与优化
缓存架构 代码结构 代码详情 功能点: 多级缓存,先查本地缓存,再查Redis,最后才查数据库热点数据重建逻辑使用分布式锁,二次查询更新缓存采用读写锁提升性能采用Redis的发布订阅机制通知所有实例更新本地缓存适用读多…...
免费数学几何作图web平台
光锐软件免费数学工具,maths,数学制图,数学作图,几何作图,几何,AR开发,AR教育,增强现实,软件公司,XR,MR,VR,虚拟仿真,虚拟现实,混合现实,教育科技产品,职业模拟培训,高保真VR场景,结构互动课件,元宇宙http://xaglare.c…...
