当前位置: 首页 > article >正文

Docker-compose实战:MySQL主从集群的自动化部署与网络配置

1. 为什么需要MySQL主从集群作为开发者我们经常会遇到数据库性能瓶颈的问题。想象一下当你的应用用户量突然激增所有查询请求都压在一台数据库服务器上那场景就像节假日的高速公路收费站——所有车辆挤在唯一开放的通道排队等待的时间越来越长。这时候MySQL主从集群就像是同时开放了多个收费通道能够有效分流压力。我在实际项目中遇到过多次类似情况。有一次一个电商平台的促销活动导致数据库查询响应时间从200ms飙升到5秒以上用户体验直线下降。后来通过部署主从集群将读操作分散到多个从库问题立刻得到缓解。主从集群的核心价值在于读写分离主库Master负责处理写操作INSERT/UPDATE/DELETE从库Slave处理读操作SELECT。根据统计大多数业务场景中读操作占比高达70%-80%数据备份从库实时同步主库数据相当于多了一份热备份。去年我们有个主库硬盘突然损坏就是靠从库快速恢复业务负载均衡通过轮询或权重方式将查询请求分发到不同从库高可用性主库宕机时可以快速提升某个从库为主库需要配合额外工具如MHA传统部署主从集群需要分别在多台服务器安装配置MySQL过程繁琐。而使用Docker-compose我们可以用一份配置文件在单台机器上快速搭建完整的主从环境特别适合开发测试和中小型项目。2. 环境准备与Docker网络配置2.1 基础环境检查在开始之前确保你的系统已经安装以下组件# 检查Docker版本建议18.06 docker --version # 检查docker-compose版本建议1.25 docker-compose --version如果尚未安装可以参考官方文档进行安装。我推荐使用Linux系统如Ubuntu 20.04作为宿主机Windows和Mac虽然也能运行但性能会有损耗。2.2 创建专用Docker网络Docker网络是容器间通信的关键。在我们的方案中所有数据库容器都需要加入同一个自定义网络。这样做的好处是容器间可以通过容器名直接访问不需要记IP地址与宿主机和其他容器网络隔离更安全可以自定义子网范围避免IP冲突创建网络的命令很简单docker network create --subnet172.16.0.0/24 basenetwork这里我特意选择了172.16.0.0/24这个不常用的私有网段避免与公司内网冲突。你可以根据实际情况调整。创建后可以用以下命令验证docker network inspect basenetwork在我的实践中建议将所有基础服务MySQL、Redis等都放在这个网络里方便互相调用。曾经有个项目因为网络配置不当导致应用容器连不上数据库排查了半天才发现是网络隔离问题。3. Docker-compose文件深度解析3.1 项目目录结构设计清晰的目录结构能让后期维护轻松很多。这是我推荐的结构mysql-cluster/ ├── docker-compose.yml ├── init_db/ # 初始化SQL脚本 ├── master/ │ ├── data/ # 主库数据持久化目录 │ └── my.cnf # 主库配置文件 └── slave/ ├── data/ # 从库数据持久化目录 └── my.cnf # 从库配置文件这种结构的好处是配置文件与数据分离方便备份每个实例有独立目录避免混淆符合Docker最佳实践3.2 完整的docker-compose.yml下面是我优化过的docker-compose文件增加了注释说明关键参数version: 3.7 services: mysql-master: container_name: mysql-master image: mysql:5.7 environment: MYSQL_ROOT_PASSWORD: master_root_password MYSQL_REPLICATION_USER: repl_user MYSQL_REPLICATION_PASSWORD: repl_password volumes: - ./master/data:/var/lib/mysql - ./master/my.cnf:/etc/mysql/my.cnf - ./init_db:/docker-entrypoint-initdb.d ports: - 3306:3306 networks: basenetwork: ipv4_address: 172.16.0.101 mysql-slave-1: container_name: mysql-slave-1 image: mysql:5.7 environment: MYSQL_ROOT_PASSWORD: slave_root_password volumes: - ./slave-1/data:/var/lib/mysql - ./slave-1/my.cnf:/etc/mysql/my.cnf networks: basenetwork: ipv4_address: 172.16.0.102 depends_on: - mysql-master networks: basenetwork: external: true几个关键点说明使用MySQL 5.7镜像是因为它稳定且兼容性好新项目可以考虑8.0通过volumes实现数据持久化即使容器重启数据也不会丢失为每个容器分配固定IP方便后续连接depends_on确保从库在主库启动后再启动3.3 配置文件详解主库的my.cnf需要特别配置以下参数[mysqld] server-id 1 log-bin mysql-bin binlog_format ROW expire_logs_days 7 binlog_do_db your_database_name从库配置有所不同[mysqld] server-id 2 # 必须与主库不同 relay-log mysql-relay-bin read_only 1 # 从库只读这些配置确保了主库生成二进制日志(binlog)供从库同步每个实例有唯一server-id从库设置为只读模式防止误操作4. 主从同步配置实战4.1 启动集群在项目目录下执行docker-compose up -d这个命令会启动所有定义的服务。建议先用docker-compose config检查配置是否正确。启动后可以用以下命令查看状态docker-compose ps如果看到所有容器状态都是Up说明启动成功。我第一次尝试时因为目录权限问题导致MySQL启动失败后来发现需要确保data目录对Docker进程可写。4.2 配置主从关系在主库容器中执行docker exec -it mysql-master mysql -uroot -p登录后创建复制账号并授权CREATE USER repl_user% IDENTIFIED BY repl_password; GRANT REPLICATION SLAVE ON *.* TO repl_user%; FLUSH PRIVILEGES;记录下主库状态SHOW MASTER STATUS;你会看到类似这样的输出------------------------------------------------------------ | File | Position | Binlog_Do_DB | Binlog_Ignore_DB | ------------------------------------------------------------ | mysql-bin.000003 | 745 | | | ------------------------------------------------------------然后在从库容器中配置主库信息CHANGE MASTER TO MASTER_HOSTmysql-master, MASTER_USERrepl_user, MASTER_PASSWORDrepl_password, MASTER_LOG_FILEmysql-bin.000003, -- 上面查到的文件名 MASTER_LOG_POS745; -- 上面查到的位置 START SLAVE;4.3 验证同步状态在从库执行SHOW SLAVE STATUS\G重点关注以下字段Slave_IO_Running: YesSlave_SQL_Running: YesSeconds_Behind_Master: 0如果看到错误常见原因包括网络不通检查容器间能否ping通复制账号权限不足server-id配置重复主库binlog位置不正确5. 高级配置与故障排查5.1 GTID模式配置对于生产环境我推荐启用GTID全局事务标识符模式可以简化故障恢复。在主从配置文件中添加gtid_modeON enforce_gtid_consistencyON然后从库的CHANGE MASTER命令可以简化为CHANGE MASTER TO MASTER_HOSTmysql-master, MASTER_USERrepl_user, MASTER_PASSWORDrepl_password, MASTER_AUTO_POSITION1;5.2 常见问题解决问题1从库同步延迟大解决方案检查主库负载考虑增加从库数量或升级配置监控命令SHOW SLAVE STATUS中的Seconds_Behind_Master问题2主从数据不一致解决方案使用pt-table-checksum工具检查差异修复命令pt-table-sync --replicatept.checksums hmaster,uroot,ppassword --sync-to-master问题3从库复制中断常见错误1062主键冲突、1032记录不存在临时跳过SET GLOBAL sql_slave_skip_counter1; START SLAVE;长期方案分析业务逻辑避免在从库写入5.3 性能优化建议binlog格式对于UPDATE多的场景用ROWSELECT多的用STATEMENT缓存设置适当增加binlog_cache_size和max_binlog_size网络优化如果跨机房同步考虑压缩binlogbinlog_row_imageMINIMAL监控告警配置PrometheusGranfa监控复制延迟6. 实际应用场景6.1 读写分离实现在应用中可以通过以下方式实现读写分离// Spring Boot配置示例 Configuration public class DataSourceConfig { Bean Primary public DataSource masterDataSource() { // 配置主库数据源 } Bean public DataSource slaveDataSource() { // 配置从库数据源 } Bean public AbstractRoutingDataSource routingDataSource() { // 实现读写分离路由 } }6.2 数据备份策略利用从库做备份不会影响主库性能# 在从库服务器执行 docker exec mysql-slave-1 mysqldump -uroot -p dbname backup.sql建议配合crontab设置定时备份并上传到云存储。6.3 扩展多个从库只需在docker-compose.yml中添加新服务mysql-slave-2: container_name: mysql-slave-2 image: mysql:5.7 environment: MYSQL_ROOT_PASSWORD: slave_root_password volumes: - ./slave-2/data:/var/lib/mysql - ./slave-2/my.cnf:/etc/mysql/my.cnf networks: basenetwork: ipv4_address: 172.16.0.103 depends_on: - mysql-master然后按照相同步骤配置主从关系即可。我曾经为一个数据分析平台配置了5个从库分别用于不同的报表查询。

相关文章:

Docker-compose实战:MySQL主从集群的自动化部署与网络配置

1. 为什么需要MySQL主从集群? 作为开发者,我们经常会遇到数据库性能瓶颈的问题。想象一下,当你的应用用户量突然激增,所有查询请求都压在一台数据库服务器上,那场景就像节假日的高速公路收费站——所有车辆挤在唯一开…...

简单理解:嵌入式 USB 基础通信代码

完整 USB 虚拟串口代码(带超详细注释)// 包含单片机寄存器定义头文件(根据你的芯片型号修改,比如stm32f10x.h) #include "stm32f10x.h"// 包含USB驱动库文件(标准USB设备库) #include…...

思维重构跨设备交互:Scrcpy-iOS如何重新定义手机远程控制体验

思维重构跨设备交互:Scrcpy-iOS如何重新定义手机远程控制体验 【免费下载链接】scrcpy-ios Scrcpy-iOS.app is a remote control tool for Android Phones based on [https://github.com/Genymobile/scrcpy]. 项目地址: https://gitcode.com/gh_mirrors/sc/scrcpy…...

张雪机车 Logo 陷抄袭争议,设计方正式回应

随着张雪机车在赛场夺冠出圈,其品牌 LOGO 一夜之间陷入抄袭争议,4 月 14 日,负责该设计的巴顿品牌设计终于公开回应,把这场持续多日的舆论风波推向了新节点。①事情起因很简单:张雪机车凭借赛事成绩走红后,…...

用Video2X自主掌控视频增强:AI超分辨率与帧插值实战指南

用Video2X自主掌控视频增强:AI超分辨率与帧插值实战指南 【免费下载链接】video2x A machine learning-based video super resolution and frame interpolation framework. Est. Hack the Valley II, 2018. 项目地址: https://gitcode.com/GitHub_Trending/vi/vid…...

基于STM32标准库SPI+DMA驱动ST7789:从阻塞刷新到流畅显示的优化实践

1. 从卡顿到流畅:为什么需要SPIDMA驱动ST7789 第一次用STM32的SPI接口驱动ST7789屏幕时,我遇到了一个尴尬的问题:明明已经将SPI时钟调到了最高频率18MHz,全屏刷新时却像幻灯片一样卡顿,实测只有每秒3帧左右。这种性能连…...

“擅自加班” 3 小时后猝死!公司不服工伤认定,反复上诉。网友:这也太狗了吧

①4 月 14 日,一则“员工下班居家工作后猝死,公司拒绝认定工伤”的案件终审判决公布,迅速冲上热搜,引发无数打工人共鸣。2023 年 3 月李某入职郑州某科技公司。2023 年 4 月 17 日下班后续工作:当日 17:00(…...

H3C交换机远程端口镜像配置详解:反射端口方式与VLAN设置

H3C交换机远程端口镜像实战指南:反射端口与VLAN的深度配置解析 在企业网络运维中,流量监控是故障排查和安全审计的重要手段。H3C交换机的远程端口镜像功能,特别是反射端口方式,为跨设备流量监控提供了灵活高效的解决方案。本文将带…...

通过IP地址查询判断网络风险,有哪些具体指标和判断方法?

在风控系统中,IP地址是最基础的判断特征之一。攻击者通过代理池、秒拨IP、云主机等方式绕过规则,如果只依赖简单的地理位置或黑名单,很容易被绕过。本文将结合实际工程经验,梳理IP风险判断的核心指标与可落地的判断方法&#xff0…...

别再乱装PyTorch了!手把手教你用conda搞定Linux下CUDA驱动、Toolkit和PyTorch的版本匹配

深度学习环境搭建避坑指南:用conda精准管理PyTorch与CUDA版本 刚拿到新显卡的兴奋,往往会被环境配置的噩梦浇灭——驱动版本不匹配、CUDA报错、PyTorch无法调用GPU...这些坑我全都踩过。今天我们就用conda这把瑞士军刀,彻底解决这个让无数开发…...

Triton实战手册---Python后端与配置精解(二)

1. Python后端开发实战 Python后端是Triton中最灵活的后端类型,特别适合需要自定义预处理/后处理逻辑的场景。与TensorRT、ONNX等静态模型不同,Python后端允许开发者完全控制推理流程。 先看一个典型的图像处理案例。假设我们需要实现一个图像分类服务&a…...

TimesFM vs 传统时间序列模型:为什么谷歌基础模型正在重塑预测范式

TimesFM vs 传统时间序列模型:为什么谷歌基础模型正在重塑预测范式 【免费下载链接】timesfm TimesFM (Time Series Foundation Model) is a pretrained time-series foundation model developed by Google Research for time-series forecasting. 项目地址: http…...

金融APP如何过等保?一份满足监管与业务安全的加固方案实战教程

对于金融APP而言,安全不仅仅是技术问题,更是生存底线和监管红线。从《个人信息保护法》到等保2.0,每一道监管要求都像悬在头上的剑。在找APK加固方案服务商时,技术负责人最怕的就是:花了大价钱做了加固,结果…...

iOS 15-16设备激活锁绕过:applera1n工具的完整技术解析与实践指南

iOS 15-16设备激活锁绕过:applera1n工具的完整技术解析与实践指南 【免费下载链接】applera1n icloud bypass for ios 15-16 项目地址: https://gitcode.com/gh_mirrors/ap/applera1n 在iOS设备安全研究领域,applera1n作为一款专门针对iOS 15-16.…...

持续交付流水线:从代码提交到生产发布的自动化

持续交付流水线:从代码提交到生产发布的自动化 在当今快节奏的软件开发环境中,企业需要快速、高效地将新功能交付给用户,同时确保质量和稳定性。持续交付流水线(Continuous Delivery Pipeline)正是实现这一目标的核心…...

3分钟掌握卡牌批量生成器:从零到百张的专业设计指南

3分钟掌握卡牌批量生成器:从零到百张的专业设计指南 【免费下载链接】CardEditor 一款专为桌游设计师开发的批处理数值填入卡牌生成器/A card batch generator specially developed for board game designers 项目地址: https://gitcode.com/gh_mirrors/ca/CardEd…...

怎样3分钟找回遗忘的QQ账号:手机号查询工具实战手册

怎样3分钟找回遗忘的QQ账号:手机号查询工具实战手册 【免费下载链接】phone2qq 项目地址: https://gitcode.com/gh_mirrors/ph/phone2qq 你是否曾经因为忘记QQ号而无法登录重要账号?手机号查询QQ号工具为你提供了一种高效、便捷的解决方案。这个…...

告别手动搬运:飞书文档批量导出工具的降维打击

告别手动搬运:飞书文档批量导出工具的降维打击 【免费下载链接】feishu-doc-export 飞书文档导出服务 项目地址: https://gitcode.com/gh_mirrors/fe/feishu-doc-export 还记得那些深夜加班,一个个手动复制粘贴飞书文档的日子吗?当团队…...

跨端通信实战:解锁uniapp中webview与H5/APP的高效数据交互

1. 为什么需要跨端通信? 在混合应用开发中,我们经常会遇到这样的场景:用户在内嵌的H5页面完成登录后,需要将登录状态同步到原生APP中。这时候就需要H5页面和原生APP之间进行数据交互。我遇到过不少开发者在这个环节卡壳&#xff0…...

SAP最快掌握 SAP 组织 核算要素【核心方法论】

口诀记忆(一秒分层)1 大集团 → 2 套核算 → 5 大层级 → 单向归属 → 自动集成流转对外FI 法定:做账、报税、出财报对内CO 管理:算成本、算利润、绩效考核物流业务层:管库存、生产、物料计价预算FM 基金层&#xff1a…...

如何高效使用XUnity.AutoTranslator:终极Unity游戏翻译指南

如何高效使用XUnity.AutoTranslator:终极Unity游戏翻译指南 【免费下载链接】XUnity.AutoTranslator 项目地址: https://gitcode.com/gh_mirrors/xu/XUnity.AutoTranslator 还在为日文或韩文Unity游戏而苦恼吗?XUnity.AutoTranslator是一款专为U…...

CheatEngine找基址实战:从‘更改数值’到理解‘偏移’的完整思路

CheatEngine找基址实战:从数值追踪到指针解析的逆向思维 当你在游戏里发现金币数值从100变成120时,CheatEngine的扫描结果可能会显示十几个内存地址。这时候新手常犯的错误是随便选一个地址修改——结果重启游戏就失效。真正稳定的修改需要找到基址偏移…...

基于 SelectDB 实现 Hive 数据湖统一分析:洋钱罐全球一体化探索分析平台升级实践

在技术领域,我们常常被那些闪耀的、可见的成果所吸引。今天,这个焦点无疑是大语言模型技术。它们的流畅对话、惊人的创造力,让我们得以一窥未来的轮廓。然而,作为在企业一线构建、部署和维护复杂系统的实践者,我们深知…...

CREST终极指南:3分钟掌握分子构象搜索与化学空间探索

CREST终极指南:3分钟掌握分子构象搜索与化学空间探索 【免费下载链接】crest CREST - A program for the automated exploration of low-energy molecular chemical space. 项目地址: https://gitcode.com/gh_mirrors/crest/crest 你是否曾经为寻找分子的最佳…...

如何永久解锁Cursor Pro功能:3个核心技巧让你免费使用AI编程助手

如何永久解锁Cursor Pro功能:3个核心技巧让你免费使用AI编程助手 【免费下载链接】cursor-free-vip [Support 0.45](Multi Language 多语言)自动注册 Cursor Ai ,自动重置机器ID , 免费升级使用Pro 功能: Youve reache…...

UE5动画新手上路:用ControlRig+Sequencer 10分钟搞定你的第一个角色点头动画

UE5动画新手指南:10分钟用Control Rig制作角色点头动画 第一次打开Unreal Engine 5的动画系统时,我完全被那些复杂的骨骼和参数吓到了。直到发现Control Rig这个神奇的工具,才意识到原来制作一个简单的角色动画可以如此直观。本文将带你从零开…...

LLM系列:1.python入门:7.字典型对象(dict)

字典型对象(dict) 一. 字典基础 字典(dict)是Python中无序的可变容器。它由一个个键值对(Key-Value)构成。字典也被称作关联数组或者哈希表。 1. 字典的创建 外侧使用大括号 {} 圈定,内部是由冒号 : 连接的键值对,不同键值对之间用…...

给STM32F7加把安全锁:用CubeMX、FreeRTOS和WolfSSL 4.4.0实现HTTPS客户端(附完整工程)

STM32F7安全通信实战:基于CubeMX与WolfSSL的HTTPS客户端深度优化 在物联网设备爆发式增长的今天,数据安全传输已成为嵌入式开发者的必修课。当你的智能家居设备向云端发送温度数据,或是工业传感器传输产线状态时,如何防止敏感信息…...

Intv_AI_MK11运维自动化实践:智能监控告警与故障自愈方案

Intv_AI_MK11运维自动化实践:智能监控告警与故障自愈方案 1. 运维自动化的新纪元 凌晨3点,某电商平台的数据库突然出现性能抖动。传统运维模式下,值班工程师需要手动检查十几项指标、翻阅数百条日志才能定位问题。而采用Intv_AI_MK11的智能…...

ROS多传感器数据融合:message_filters时间同步实战(附避坑指南)

ROS多传感器数据融合:message_filters时间同步实战与深度优化 当你的机器人同时搭载激光雷达、摄像头和IMU时,最头疼的莫过于这些传感器数据像不同时区的航班一样难以协调。我曾在一个自动驾驶项目中,因为5毫秒的时间偏差导致感知系统将路灯杆…...