当前位置: 首页 > article >正文

Docker实战:从零构建高可用的MySQL主从集群与Redis集群

在分布式系统架构中,数据库集群是保障数据高可用和性能的关键组件。本文将通过Docker技术,手把手教你搭建MySQL主从集群和Redis Cluster,并分享独创的优化技巧与运维实战经验。

一、为什么选择Docker部署集群?

传统数据库集群搭建存在环境依赖复杂、配置繁琐、跨平台兼容性差等问题。使用Docker可带来三大核心优势:

  1. 环境标准化:通过Dockerfile固化镜像,彻底消除"在我机器能跑"的魔咒
  2. 快速部署:单节点部署从小时级压缩到分钟级,集群扩展只需修改Compose文件
  3. 资源隔离:容器化实现进程级隔离,避免多实例间的端口冲突

二、MySQL主从集群实战(GTID+半同步模式)

2.1 集群架构设计

采用一主两从架构,结合GTID全局事务标识和半同步复制,确保数据零丢失:

Master (可写可读)│├──→ Slave1 (只读)└──→ Slave2 (只读)

2.2 Dockerfile优化技巧

# mysql/Dockerfile
FROM mysql:8.0.30
COPY my.cnf /etc/mysql/conf.d/
RUN chmod 644 /etc/mysql/conf.d/my.cnf
# 预置初始化脚本
COPY init_db.sql /docker-entrypoint-initdb.d/

2.3 核心配置解析(my.cnf)

[mysqld]
server-id=1                   # 节点唯一标识
gtid_mode=ON                  # 启用GTID
enforce_gtid_consistency=ON
rpl_semi_sync_master_enabled=1 # 半同步复制
log-bin=mysql-bin             # 二进制日志
binlog_format=ROW             # 行级复制

2.4 自动初始化脚本(init_db.sql)

-- 创建复制用户
CREATE USER 'repl'@'%' IDENTIFIED WITH mysql_native_password BY 'Repl@123';
GRANT REPLICATION SLAVE ON *.* TO 'repl'@'%';-- 设置读写分离账号
CREATE USER 'app_user'@'%' IDENTIFIED WITH mysql_native_password BY 'App@123';
GRANT SELECT, INSERT, UPDATE ON app_db.* TO 'app_user'@'%';

2.5 Docker Compose编排

version: '3.8'
services:mysql-master:build: ./mysqlports: ["3306:3306"]environment:MYSQL_ROOT_PASSWORD: Root@123MYSQL_DATABASE: app_dbvolumes:- mysql_master_data:/var/lib/mysqlmysql-slave1:build: ./mysqlports: ["3307:3306"]environment:MYSQL_ROOT_PASSWORD: Root@123volumes:- mysql_slave1_data:/var/lib/mysqldepends_on:- mysql-mastervolumes:mysql_master_data:mysql_slave1_data:

三、Redis Cluster智能部署方案

3.1 六节点集群拓扑

采用三主三从模式,通过哈希槽分配实现数据自动分片:

Master1 (5461) — Slave1 (6379)
Master2 (5462) — Slave2 (6380)
Master3 (5463) — Slave3 (6381)

3.2 自动故障转移配置

cluster-enabled yes
cluster-config-file nodes.conf
cluster-node-timeout 5000
cluster-require-full-coverage no # 允许部分节点故障
appendonly yes                   # AOF持久化

3.3 独创的集群初始化脚本

#!/bin/bash
# 自动检测并修复集群状态
redis-cli --cluster check 127.0.0.1:6379
if [ $? -ne 0 ]; thenecho "正在尝试自动修复集群..."redis-cli --cluster fix 127.0.0.1:6379 --user mypass
fi

3.4 性能监控仪表盘

使用Prometheus+Granfana构建监控体系,关键指标包括:

  • 集群节点存活状态
  • 内存碎片率
  • 命令处理延迟
  • 网络吞吐量

四、运维黑科技

4.1 MySQL在线DDL神器

-- 使用pt-online-schema-change实现无锁表结构变更
pt-online-schema-change --alter "ADD COLUMN new_col INT" D=app_db,t=users \
--user=root --password=Root@123 --execute

4.2 Redis内存优化策略

  1. 设置内存软限制maxmemory 8gb + maxmemory-policy allkeys-lru
  2. 启用内存碎片整理CONFIG SET activedefrag yes
  3. 监控大Key:使用redis-cli --bigkeys扫描异常数据

4.3 自动化备份方案

# 每天凌晨3点执行全量备份
0 3 * * * docker exec mysql-master mysqldump -u root -pRoot@123 app_db | gzip > /backups/mysql_$(date +\%Y\%m\%d).sql.gz# 每小时增量备份binlog
0 * * * * rsync -avz /var/lib/docker/volumes/mysql_master_data/_data/mysql-bin.* /binlog_backups/

五、性能对比与成本分析

方案部署时间故障恢复资源消耗扩展性
传统物理机8小时30分钟
虚拟机+手动配置4小时15分钟一般
Docker容器化方案15分钟2分钟极优

六、进阶玩法

  1. 混合云部署:结合Docker Swarm实现跨AZ容灾
  2. 智能路由:使用ProxySQL实现MySQL读写分离+查询缓存
  3. Redis模块扩展:集成RedisTimeseries实现时间序列数据存储
  4. 混沌工程:使用ChaosBlade模拟节点故障验证集群健壮性

结语

通过Docker容器化技术,我们实现了数据库集群的快速部署与智能运维。这种方案不仅降低了运维复杂度,更通过GTID、半同步复制等机制保障了数据一致性。后续可结合Kubernetes实现真正的云原生数据库即服务(DBaaS),让数据库管理像使用水电一样简单。

立即实践:复制文中代码到你的服务器,15分钟即可拥有生产级数据库集群!遇到问题欢迎在评论区交流,点赞关注获取更多运维干货!

相关文章:

Docker实战:从零构建高可用的MySQL主从集群与Redis集群

在分布式系统架构中,数据库集群是保障数据高可用和性能的关键组件。本文将通过Docker技术,手把手教你搭建MySQL主从集群和Redis Cluster,并分享独创的优化技巧与运维实战经验。 一、为什么选择Docker部署集群? 传统数据库集群搭…...

【Rust基础】使用Rocket构建基于SSE的流式回复

背景 我们正在使用Rust开发基于RAG的知识库系统,其中对于模型的回复使用了常用的SSE,Web框架使用Rocket,Rocket提供了一个简单的方式支持SSE,但没有会话保持、会话恢复等功能,因此我们自己简单实现这两个功能。 使用R…...

高级java每日一道面试题-2025年4月07日-微服务篇[Nacos篇]-如何监控Nacos的运行状态?

如果有遗漏,评论区告诉我进行补充 面试官: 如何监控Nacos的运行状态? 我回答: 监控Nacos运行状态的综合方案 在Java高级面试中,监控Nacos运行状态是一个重要的技术点,它直接关系到微服务架构的稳定性和性能。以下是一个综合的监控方案&am…...

【3GPP核心网】【5G】精讲5G系统的策略和计费控制框架

1. 欢迎大家订阅和关注,精讲3GPP通信协议(2G/3G/4G/5G/IMS)知识点,专栏会持续更新中.....敬请期待! 目录 1. 系统架构 1.1 非漫游架构 1.2 漫游架构 1.3 支持Rx接口 2. 服务化接口及参考点 2.1 PCF 与 AF 间接口 2.2 PCF与SMF间接口 2.3 PCF与AMF间接口 2.4 V-PC…...

大前端基础学习

一、cs架构和bs架构 c:客户端, b:浏览器(无需安装,无需更新,可跨平台)√ s:server服务端,帮我们保 存信息,传递信息 二、 altshift向下键向下复制一行 …...

Axios 的 POST 请求:QS 处理数据的奥秘与使用场景解析

在现代前端开发中,Axios 已经成为了进行 HTTP 请求的首选库之一,它的简洁易用和强大功能深受开发者喜爱。当使用 Axios 进行 POST 请求时,我们常常会遇到一个问题:是否需要使用 QS 库来处理请求数据?什么时候又可以不用…...

Linux 防火墙( iptables )

目录 一、 Linux 防火墙基础 1. 防火墙基础概念 (1)防火墙的概述与作用 (2)防火墙的结构与匹配流程 (3)防火墙的类别与各个防火墙的区别 2. iptables 的表、链结构 (1)规则表 …...

【redis进阶三】分布式系统之主从复制结构(1)

目录 一 为什么要有分布式系统? 二 分布式系统涉及到的非常关键的问题:单点问题 三 学习部署主从结构的redis (1)创建一个目录 (2)进入目录拷贝两份原有redis (3)使用vim修改几个选项 (4)启动两个从节点服务器 (5)建立复制,要想配…...

EM储能网关ZWS智慧储能云应用(9) — 远程OTA升级

ZWS智慧储能云平台支持远程OTA固件升级,可以针对具体的储能设备进行升级,升级储能网关、EMS主控软件、PCS、BMS等。 简介 储能系统通常高度集成化,一体化设计,将EMS、BMS(电池管理系统)、PCS&#xff08…...

RabbitMQ 详解:核心概念、集群模式与消息分布

RabbitMQ 是一个基于高级消息队列协议(AMQP)的开源消息中间件,广泛应用于分布式系统中,用于实现可靠的消息传递。其强大的功能和灵活的架构使其成为构建高可用、可扩展系统的理想选择。本文整理了 RabbitMQ 的核心概念、集群模式及…...

ubuntu24.04LTS安装向日葵解决方案

去向日葵官方下载ubuntu使用的deb包 向日葵 输入如下命令安装,将具体版本修改成自己下载的版本 andrew in ~/下载 λ sudo dpkg -i SunloginClient_15.2.0.63064_amd64.deb 正在选中未选择的软件包 sunloginclient。 (正在读取数据库 ... 系统当前共安装有 290947…...

LoRA个关键超参数:`LoRA_rank`(通常简称为 `rank` 或 `r`)和 `LoRA_alpha`(通常简称为 `alpha`)

LoRA (Low-Rank Adaptation) 中的两个关键超参数:LoRA_rank(通常简称为 rank 或 r)和 LoRA_alpha(通常简称为 alpha)。 LoRA 的核心思想是,在对大型预训练模型(如 LLM 或 Stable Diffusion&…...

C++11智能指针深度解析:在Visual Studio中高效管理内存

文章目录 **C++11智能指针深度解析:在Visual Studio中高效管理内存****一、C++11智能指针的核心价值****二、三大智能指针详解与Visual Studio实战****1. `std::unique_ptr`:独占所有权****2. `std::shared_ptr`:共享所有权****3. `std::weak_ptr`:打破循环引用****三、高级…...

达梦官方管理工具SQLark:自动识别外键约束、check约束与虚拟列,助力高效生成测试数据

在数据库管理和应用开发过程中,高质量的测试数据对于系统调试和POC测试至关重要。达梦官方推出的新一代管理工具 SQLark百灵连接,其数据生成功能,可以为应用开发者、DBA 以及测试人员带来极大便利,能够轻松应对各类复杂的测试场景…...

Visio绘图工具全面科普:解锁专业图表绘制新境界[特殊字符]

Visio绘图工具全面科普:解锁专业图表绘制新境界🌟 在信息爆炸的时代,清晰、直观地呈现复杂信息变得至关重要。无论是绘制流程图📊、组织结构图👥,还是规划网络拓扑🖧,一款强大的绘图…...

RPCRT4!OSF_CCONNECTION::OSF_CCONNECTION函数分析之创建一个RPCRT4!OSF_CCALL--RPC源代码分析

RPCRT4!OSF_CCONNECTION::OSF_CCONNECTION函数分析之创建一个RPCRT4!OSF_CCALL 第一部分: 1: kd> p RPCRT4!OSF_CCONNECTION::OSF_CCONNECTION0x167: 001b:77bf6957 393dec35c877 cmp dword ptr [RPCRT4!gfRPCVerifierEnabled (77c835ec)],edi 1: kd> …...

快速认识:数据库、数仓(数据仓库)、数据湖与数据运河

数据技术核心概念对比表 概念核心定义核心功能数据特征典型技术/工具核心应用场景数据库结构化数据的「电子档案柜」,按固定 schema 存储和管理数据,支持高效读写和事务处理。实时事务处理(增删改查),确保数据一致性&…...

不关“猫”如何改变外网IP?3种免重启切换IP方案

每次更换外网IP都要重启路由器?太麻烦了!那么,不关猫怎么改变外网IP?无论是为了网络调试、爬虫需求,还是解决IP限制问题,频繁重启设备既耗时又影响效率。其实,更换外网IP并不一定要依赖“重启大…...

C#进阶学习(五)单向链表和双向链表,循环链表(中)双向链表

目录 一、双向链表的声明 1. 节点类声明 2. 链表类框架声明 3、实现其中的每一个函数 增删操作(核心方法组) 删除操作(核心方法组) 查询操作(辅助方法) 维护方法(内部逻辑) …...

case客户续保预测中用到的特征工程、回归分析和决策树分析的总结

文章目录 [toc]1. 回归分析概述1.1 基本概念1.2 与分类的区别 2. 常见回归算法2.1 线性回归2.2 决策树回归2.3 逻辑回归(Logistic Regression)2.3 其他算法补充:通俗版:决策树 vs 随机森林🌳 决策树:像玩「…...

Android系统通知机制深度解析:Framework至SystemUI全链路剖析

1. 前言 在Android 13的ROM定制化开发中,系统通知机制作为用户交互的核心组件,其实现涉及Framework层到SystemUI的复杂协作。本文将深入剖析从Notification发送到呈现的全链路流程,重点解析关键类的作用机制及系统服务间的交互逻辑&#xff…...

重学Redis:Redis常用数据类型+存储结构(源码篇)

一、SDS 1,SDS源码解读 sds (Simple Dynamic String),Simple的意思是简单,Dynamic即动态,意味着其具有动态增加空间的能力,扩容不需要使用者关心。String是字符串的意思。说白了就是用C语言自己封装了一个字符串类型&a…...

Elasticsearch的Java客户端库QueryBuilders查询方法大全

matchAllQuery 使用方法:创建一个查询,匹配所有文档。 示例:QueryBuilders.matchAllQuery() 注意事项:这种查询不加任何条件,会返回索引中的所有文档,可能会影响性能,特别是文档数量很多时。 ma…...

js原型和原型链

js原型: 1、原型诞生的目的是什么呢? js原型的产生是为了解决在js对象实例之间共享属性和方法,并把他们很好聚集在一起(原型对象上)。每个函数都会创建一个prototype属性,这个属性指向的就是原型对象。 …...

usb重定向qemu前端处理

1、qemu添加spicevmc前端时会创建vmc通道。 -chardev spicevmc,idusbredirchardev0,nameusbredir red::shared_ptr<RedCharDevice> spicevmc_device_connect(RedsState *reds, SpiceCharDeviceInstance *sin, uint8_t channel_type) {auto channel(red_vmc_channel_new(r…...

OpenHarmony - 小型系统内核(LiteOS-A)(五)

OpenHarmony - 小型系统内核&#xff08;LiteOS-A&#xff09;&#xff08;五&#xff09; 六、文件系统 虚拟文件系统 基本概念 VFS&#xff08;Virtual File System&#xff09;是文件系统的虚拟层&#xff0c;它不是一个实际的文件系统&#xff0c;而是一个异构文件系统之…...

PyTorch进阶学习笔记[长期更新]

第一章 PyTorch简介和安装 PyTorch是一个很强大的深度学习库&#xff0c;在学术中使用占比很大。 我这里是Mac系统的安装&#xff0c;相比起教程中的win/linux安装感觉还是简单不少&#xff08;之前就已经安好啦&#xff09;&#xff0c;有需要指导的小伙伴可以评论。 第二章…...

proteus8.17 环境配置

Proteus介绍 Proteus 8.17 是一款功能强大的电子设计自动化&#xff08;EDA&#xff09;软件&#xff0c;广泛应用于电子电路设计、仿真和分析。以下是其主要特点和新功能&#xff1a; ### 主要功能 - **电路仿真**&#xff1a;支持数字和模拟电路的仿真&#xff0c;包括静态…...

Microsoft SQL Server Management 一键删除数据库所有外键

DECLARE ESQL VARCHAR(1000); DECLARE FCursor CURSOR --定义游标 FOR (SELECT ALTER TABLE O.name DROP CONSTRAINT F.name; AS CommandSQL from SYS.FOREIGN_KEYS F JOIN SYS.ALL_OBJECTS O ON F.PARENT_OBJECT_ID O.OBJECT_ID WHERE O.TYPE U AND F.TYPE …...

【JAVAFX】自定义FXML 文件存放的位置以及使用

情况 1&#xff1a;FXML 文件与调用类在同一个包中&#xff08;推荐&#xff09; 假设类 MainApp 的包是 com.example&#xff0c;且 FXML 文件放在 resources/com/example 下&#xff1a; 项目根目录 ├── src │ └── sample │ └── Main.java ├── src/s…...