MySQL集群高可用架构之MHA

一、MHA概述

通过"三W一H"来介绍MHA。

1.1 为什么要用MHA？

Master的单点故障问题

1.2 什么是 MHA？

MHA（Master High Availability）是一套优秀的MySQL高可用环境下故障切换和主从复制的软件。
MHA 的出现就是解决MySQL 单点的问题。
MySQL故障切换过程中，MHA能做到0-30秒内自动完成故障切换操作。
MHA能在故障切换的过程中最大程度上保证数据的一致性，以达到真正意义上的高可用。

1.3 MHA 的组成

MHA由两部分组成:MHAManager (管理节点)和MHA Node (数据库节点),MHA Manager 可以单独部署在一台独立的机器上管理多个master-slave集群，也可以部署在一台 slave 节点上。

●MHA Node（数据节点）
MHA Node 运行在每台 MySQL 服务器上。

●MHA Manager（管理节点）
MHA Manager 可以单独部署在一台独立的机器上，管理多个 master-slave 集群；也可以部署在一台 slave 节点上。
MHA Manager 会定时探测集群中的 master 节点。

当 master 出现故障时，它可以自动将最新数据的 slave 提升为新的 master， 然后将所有其他的 slave 重新指向新的 master。

整个故障转移过程对应用程序完全透明。

1.4 MHA 的特点

●自动故障切换过程中，MHA试图从宕机的主服务器上保存二进制日志，最大程度的保证数据不丢失
●使用半同步复制，可以大大降低数据丢失的风险，如果只有一个slave已经收到了最新的二进制日志，MHA可以将最新的二进制日志应用于其他所有的slave服务器上，因此可以保证所有节点的数据一致性
●目前MHA支持一主多从架构，最少三台服务，即一主两从

1.5 故障切换备选主库的算法

1．一般判断从库的是从（position/GTID）判断优劣，数据有差异，最接近于master的slave，成为备选主。
2．数据一致的情况下，按照配置文件顺序，选择备选主库。
3．设定有权重（candidate_master=1），按照权重强制指定备选主。
（1）默认情况下如果一个slave落后master 100M的relay logs的话，即使有权重，也会失效。
（2）如果check_repl_delay=0的话，即使落后很多日志，也强制选择其为备选主。

1.5 MHA工作原理

目前MHA主要支持一主多从的架构，要搭建MHA,要求一个复制集群必须最少有3台数据库服务器，一主二从，即一台充当Master，台充当备用Master，另一台充当从库。

MHA Node 运行在每台 MySQL 服务器上

MHAManager 会定时探测集群中的master 节点

当master 出现故障时，它可以自动将最新数据的slave 提升为新的master

然后将所有其他的slave 重新指向新的master。

整个故障转移过程对应用程序完全透明。

二、MySQL MHA高可用实例

实验思路：
1．MHA架构
1）数据库安装
2）一主两从
3）MHA搭建

2．故障模拟
1）主库失效
2）备选主库成为主库
3）原故障主库恢复重新加入到MHA成为从库

节点服务器	所需服务及组件	IP地址
MHA manager	安装MHA node 和 manager 组件	192.168.2.105
Master	装mysql5.7、MHA node 组件	192.168.2.100
Slave1	安装mysql5.7、MHA node 组件	192.168.2.102
Slave2	安装mysql5.7、MHA node 组件	192.168.2.103

#所有服务器
#关闭防火墙
systemctl disable firewalld --now 
#关闭selinux
vim /etc/selinux/config
SELINUX=disabled

2.1 架构搭建部分

1）所有节点服务器安装MySQL

前置准备

#依赖环境
yum -y install \
ncurses \
ncurses-devel \
bison \
cmake#添加用户
useradd -s /sbin/nologin  mysql

将MySQL源代码包放在 /opt目录下tar xf mysql-boost-5.7.20.tar.gz #解压cd mysql-5.7.20

编译安装

#编译
cmake \
-DCMAKE_INSTALL_PREFIX=/usr/local/mysql \
-DMYSQL_UNIX_ADDR=/usr/local/mysql/mysql.sock \
-DSYSCONFDIR=/etc \
-DSYSTEMD_PID_DIR=/usr/local/mysql \
-DDEFAULT_CHARSET=utf8  \
-DDEFAULT_COLLATION=utf8_general_ci \
-DWITH_INNOBASE_STORAGE_ENGINE=1 \
-DWITH_ARCHIVE_STORAGE_ENGINE=1 \
-DWITH_BLACKHOLE_STORAGE_ENGINE=1 \
-DWITH_PERFSCHEMA_STORAGE_ENGINE=1 \
-DMYSQL_DATADIR=/usr/local/mysql/data \
-DWITH_BOOST=boost \
-DWITH_SYSTEMD=1#安装
make -j2 && make install 

编辑配置文件

#进入配置文件，把内容全删掉，然后加入以下内容
vim /etc/my.cnf[client]
port = 3306
default-character-set=utf8
socket = /usr/local/mysql/mysql.sock[mysql]
port = 3306
default-character-set=utf8
socket = /usr/local/mysql/mysql.sock[mysqld]
user = mysql
basedir = /usr/local/mysql
datadir = /usr/local/mysql/data
port = 3306
character_set_server=utf8
pid-file = /usr/local/mysql/mysqld.pid
socket = /usr/local/mysql/mysql.sock
server-id = 1sql_mode=NO_ENGINE_SUBSTITUTION,STRICT_TRANS_TABLES,NO_AUTO_CREATE_USER,NO_AUTO_VALUE_ON_ZERO,NO_ZERO_IN_DATE,NO_ZERO_DATE,ERROR_FOR_DIVISION_BY_ZERO,PIPES_AS_CONCAT,ANSI_QUOTES

更改mysql安装目录和配置文件的属主属组

chown -R mysql:mysql /usr/local/mysql/
chown mysql:mysql /etc/my.cnf

设置路径环境变量

echo 'export PATH=/usr/local/mysql/bin:/usr/local/mysql/lib:$PATH' >> /etc/profile	
source /etc/profile

数据库初始化

cd /usr/local/mysql/bin/
./mysqld \
--initialize-insecure \
--user=mysql \
--basedir=/usr/local/mysql \
--datadir=/usr/local/mysql/data

添加mysqld系统服务

cp /usr/local/mysql/usr/lib/systemd/system/mysqld.service /usr/lib/systemd/system/
#能用systemd启动

systemctl daemon-reload          刷新识别     
systemctl start mysqld.service   开启服务
systemctl enable mysqld          开机自启动ss -natp | grep 3306        查看端口

修改用户mysql 的登录密码

mysqladmin -u root -p password "123123" mysql -u root -p #授权远程登录

2）主从节点服务器添加域名映射

防止从库通过主机名连接不上主库。

#Mater  Slave1 Slave2都要配置 
vim /etc/hosts
...
192.168.2.100 master1
192.168.2.102 slave1
192.168.2.103 slave2
192.168.2.105 manager

3）修改主从服务器MySQL配置文件

三台服务器的 server-id 项目不能相同。

Master

vim /etc/my.cnf
[mysqld]
server-id = 1
log_bin = mysql-bin
binlog_format = mixed
log-slave-updates = true
relay-log = relay-log-bin
relay-log-index = slave-relay-bin.indexsystemctl restart mysqld

Slave 1 和 Slave 2 配置相同

vim /etc/my.cnf
server-id = 2 						
log_bin = mysql-bin
binlog_format = mixed
log-slave-updates = true
relay-log = relay-log-bin
relay-log-index = slave-relay-bin.indexsystemctl restart mysqld

4）创建软链接（主从服务器）

MHA会调用mysql和mysqlbin命令，做软链接方便使用。

ln -s /usr/local/mysql/bin/mysql /usr/sbin/
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/

5）实现主从复制，一主多从（Master Slave1 Slave2）

Step1 时间同步

主服务器

作为NTP服务器

#安装并启动ntp服务
yum -y install ntpsystemctl enable ntpd --now
systemctl status ntpd

#修改ntp的配置文件，使用阿里云的时间源
vim /etc/ntp.confserver ntp.aliyun.com iburst #注释掉其他的grep server /etc/ntp.conf 

#重启服务
systemctl restart ntpd
#查看状态
ntpq -p

从服务器 Slave1 Slave2 配置相同

#安装ntp服务
yum -y install ntp

#计划任务
crontab -e 
*/30 * * * * /sbin/ntpdate 192.168.2.100crontab -l 

#测试能否同步成功
ntpdate 192.168.2.100

Step2 所有数据库节点进行 mysql 授权

#授权
mysql -uroot -p123321
grant replication slave on *.* to 'byyb'@'192.168.2.%' identified by '123123';		
#从数据库同步使用
grant all privileges on *.* to 'mha'@'192.168.2.%' identified by 'manager';		
#manager 使用grant all privileges on *.* to 'mha'@'master1' identified by 'manager';				
#防止从库通过主机名连接不上主库
grant all privileges on *.* to 'mha'@'slave1' identified by 'manager';
grant all privileges on *.* to 'mha'@'slave2' identified by 'manager';
flush privileges;

主服务器 查看二进制文件和同步点

#查看二进制文件和同步点
show master status;

Step3 从服务器同步主服务器

#同步操作
change master to master_host='192.168.2.100',master_user='byyb',master_password='123123',master_log_file='mysql-bin.000001',master_log_pos=1741; start slave;

#查看数据同步是否正常
show slave status\G	

#两个从库必须设置为只读模式：
set global read_only=1;

Step4 主从复制效果测试

#在 Master 主库插入条数据，测试是否同步
create database test_db;
use test_db;
create table test(id int);
insert into test(id) values (1);

#切换到从服务器，观察同步效果

6）MHA相关软件安装

1.所有服务器 安装 MHA 依赖环境

#所有节点服务器
yum install epel-release --nogpgcheck -yyum install -y perl-DBD-MySQL \
perl-Config-Tiny \
perl-Log-Dispatch \
perl-Parallel-ForkManager \
perl-ExtUtils-CBuilder \
perl-ExtUtils-MakeMaker \
perl-CPAN

2.安装 MHA 软件包，先在所有服务器上必须先安装 node 组件

对于每个操作系统版本不一样，这里 CentOS7.4 必须选择 0.57 版本。
在所有服务器上必须先安装 node 组件，最后在 MHA-manager 节点上安装 manager 组件，因为 manager 依赖 node 组件。

#所有节点服务器
#解压
cd /opt
tar zxvf mha4mysql-node-0.57.tar.gzcd mha4mysql-node-0.57perl Makefile.PL

make && make install

3.在 MHA manager 节点上安装 manager 组件

#仅Manager
cd /opt
tar zxvf mha4mysql-manager-0.57.tar.gz
cd mha4mysql-manager-0.57
perl Makefile.PL
make && make install

#manager 组件安装后在/usr/local/bin 下面会生成几个工具，主要包括以下几个：
masterha_check_ssh 检查 MHA 的 SSH 配置状况
masterha_check_repl 检查 MySQL 复制状况
masterha_manger 启动 manager的脚本
masterha_check_status 检测当前 MHA 运行状态
masterha_master_monitor 检测 master 是否宕机
masterha_master_switch 控制故障转移（自动或者手动）
masterha_conf_host 添加或删除配置的 server 信息
masterha_stop  关闭manager#node 组件安装后也会在/usr/local/bin 下面会生成几个脚本（这些工具通常由 MHAManager 的脚本触发，无需人为操作）主要如下：
save_binary_logs 保存和复制 master 的二进制日志
apply_diff_relay_logs 识别差异的中继日志事件并将其差异的事件应用于其他的 slave
filter_mysqlbinlog 去除不必要的 ROLLBACK 事件（MHA 已不再使用这个工具）
purge_relay_logs 清除中继日志（不会阻塞 SQL 线程）

7）在所有服务器上配置无密码认证

1.在 manager 节点上配置到所有数据库节点的无密码认证

ssh-keygen -t rsa 				#一路按回车键
ssh-copy-id 192.168.2.100
ssh-copy-id 192.168.2.102
ssh-copy-id 192.168.2.103

2.在master上配置到数据库节点 slave1和 slave2的无密码认证

ssh-keygen -t rsa
ssh-copy-id 192.168.2.102
ssh-copy-id 192.168.2.103

3.在 slave1 上配置到数据库节点 master和 salve2的无密码认证

ssh-keygen -t rsa
ssh-copy-id 192.168.2.100
ssh-copy-id 192.168.2.103

4.在 salve2 上配置到数据库节点 master 和 slave1的无密码认证

ssh-keygen -t rsa
ssh-copy-id 192.168.2.100
ssh-copy-id 192.168.2.102

8）在 manager 节点上配置 MHA

1.在 manager 节点上复制相关脚本到/usr/local/bin 目录

cp -rp /opt/mha4mysql-manager-0.57/samples/scripts /usr/local/bin# 拷贝后会有四个执行文件
ll /usr/local/bin/scripts/
master_ip_failover  		#自动切换时 VIP 管理的脚本
master_ip_online_change 	#在线切换时 VIP 的管理
power_manager 				#故障发生后关闭主机的脚本
send_report 				#因故障切换后发送报警的脚本

2.复制上述的自动切换时 VIP 管理的脚本到 /usr/local/bin 目录

#这里使用master_ip_failover脚本来管理 VIP 和故障切换
cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin

3.修改master_ip_failover脚本

#删除原有内容，直接复制并修改vip相关参数
#可在拷贝前输入 :set paste 解决vim粘贴乱序问题vim /usr/local/bin/master_ip_failover#!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';use Getopt::Long;my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
#############################添加内容部分#########################################
my $vip = '192.168.2.200';									#指定vip的地址
my $brdc = '192.168.2.255';								#指定vip的广播地址
my $ifdev = 'ens33';										#指定vip绑定的网卡
my $key = '1';												#指定vip绑定的虚拟网卡序列号
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";		#代表此变量值为ifconfig ens33:1 192.168.2.200
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";		#代表此变量值为ifconfig ens33:1 192.168.2.200 down
my $exit_code = 0;											#指定退出状态码为0
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
##################################################################################
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);exit &main();sub main {print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";if ( $command eq "stop" || $command eq "stopssh" ) {my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {my $exit_code = 10;
eval {
print "Enabling the VIP - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
## A simple system call that disable the VIP on the old_master
sub stop_vip() {
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}

4.创建 MHA 软件目录并拷贝配置文件

#使用app1.cnf配置文件来管理 mysql 节点服务器
#创建相关目录（所有节点）
mkdir -p /opt/mysql-mha/mha-node# manager节点
mkdir -p /opt/mysql-mha/mha

#编写配置文件
vim /opt/mysql-mha/mysql_mha.cnf[server default]
manager_log=/opt/mysql-mha/manager.log
manager_workdir=/opt/mysql-mha/mha
master_binlog_dir=/usr/local/mysql/data
master_ip_failover_script=/usr/local/bin/master_ip_failover
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
user=mha
password=manager
port=3306
ping_interval=1
remote_workdir=/opt/mysql-mha/mha-node
repl_user=byyb
repl_password=123123
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.2.102 -s 192.168.2.103
shutdown_script=""
ssh_user=root[server1]
hostname=192.168.2.100
port=3306[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.2.102
port=3306[server3]
hostname=192.168.2.103
port=3306

#配置文件配置项的释义[server default]
manager_log=/opt/mysql-mha/manager.log		#指定manager日志路径
manager_workdir=/opt/mysql-mha/mha			#指定manager工作目录
master_binlog_dir=/usr/local/mysql/data		#指定master保存binlog的位置，这里的路径要与master里配置的binlog的路径一致，以便MHA能找到
master_ip_failover_script=/usr/local/bin/master_ip_failover　　#设置自动failover时候的切换脚本，也就是上面的那个脚本
master_ip_online_change_script=/usr/local/bin/master_ip_online_change　　#设置手动切换时候的切换脚本
user=mha					#设置mha访问数据库的账号
password=manager			#设置mha访问数据库的账号密码
ping_interval=1				#设置监控主库，发送ping包的时间间隔，默认是3秒，尝试三次没有回应的时候自动进行failover
remote_workdir=/opt/mysql-mha/mha-node		#指定mha在远程节点上的工作目录
repl_user=byyb			#设置主从复制的用户
repl_password=123123			#设置主从复制的用户密码
report_script=/usr/local/send_report　　　　　#设置发生故障切换的时候发送邮件提醒
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.2.102 -s 192.168.2.103	#指定检查的从服务器IP地址
shutdown_script=""			#设置故障发生后关闭故障主机脚本（该脚本的主要作用是关闭主机防止发生脑裂，这里没有使用）
ssh_user=root				#设置ssh的登录用户名[server1]
hostname=192.168.2.100
port=3306[server2]
hostname=192.168.80.102
port=3306
candidate_master=1
#设置为候选master，设置该参数以后，发生主从切换以后将会将此从库提升为主库，即使这个从库不是集群中最新的slavecheck_repl_delay=0
#默认情况下如果一个slave落后master 超过100M的relay logs的话，MHA将不会选择该slave作为一个新的master， 因为对于这个slave的恢复需要花费很长时间；通过设置check_repl_delay=0，MHA触发切换在选择一个新的master的时候将会忽略复制延时，这个参数对于设置了candidate_master=1的主机非常有用，因为这个候选主在切换的过程中一定是新的master[server3]
hostname=192.168.2.103
port=3306
------------------------------

9）第一次配置需要在 Master 节点上手动开启虚拟IP

/sbin/ifconfig ens33:1 192.168.2.200/24

10）在 manager 节点上测试 ssh 无密码认证

#如果正常最后会输出 successfully
masterha_check_ssh -conf=/opt/mysql-mha/mysql_mha.cnf

11）在 manager 节点上测试 mysql 主从连接情况

#最后出现 MySQL Replication Health is OK 字样说明正常
masterha_check_repl -conf=/opt/mysql-mha/mysql_mha.cnf

12）在 manager 节点上启动 MHA

nohup masterha_manager \
--conf=/opt/mysql-mha/mysql_mha.cnf \
--remove_dead_master_conf \
--ignore_last_failover < /dev/null > /var/log/mha_manager.log 2>&1 &# --remove_dead_master_conf：该参数代表当发生主从切换后，老的主库的 ip 将会从配置文件中移除。
# --ignore_last_failover：在缺省情况下，如果 MHA 检测到连续发生宕机，且两次宕机间隔不足 8 小时的话，则不会进行 Failover
#之所以这样限制是为了避免 ping-pong 效应。
#该参数代表忽略上次 MHA 触发切换产生的文件，默认情况下，MHA 发生切换后会在 app1.failover.complete 日志文件中记录，下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换， 除非在第一次切换后删除该文件，为了方便，这里设置为--ignore_last_failover。#使用&后台运行程序：结果会输出到终端；使用Ctrl+C发送SIGINT信号，程序免疫；关闭session发送SIGHUP信号，程序关闭。
#使用nohup运行程序：结果默认会输出到nohup.out；使用Ctrl+C发送SIGINT信号，程序关闭；关闭session发送SIGHUP信号，程序免疫。
#使用nohup和&配合来启动程序nohup ./test &：同时免疫SIGINT和SIGHUP信号。

13）查看 MHA 状态

masterha_check_status --conf=/opt/mysql-mha/mysql_mha.cnf#可以看到当前的主服务器是master1节点

14） 查看 MHA 日志

cat /opt/mysql-mha/manager.log | grep "current master"#也以看到当前的主服务器是 192.168.2.100

15）查看master的 VIP 地址是否存在

这个 VIP 地址不会因为 manager 节点停止 MHA 服务而消失。

#关闭 manager 服务
masterha_stop --conf=/opt/mysql-mha/mysql_mha.cnf#或者可以直接采用 kill 进程 ID 的方式关闭。

ifconfig

2.2 故障模拟

#在 manager 节点上监控观察日志记录
tail -f /opt/mysql-mha/manager.log#在Master节点master上停止mysql服务
systemctl stop mysqld
或
pkill -9 mysql

#正常自动切换一次后，MHA 进程会退出
#HMA 会自动修改 app1.cnf 文件内容，将宕机的 master节点删除#查看slave1是否接管 VIP
ifconfig

vim /opt/mysql-mha/mysql_mha.cnf

2.3 故障修复

1）修复MySQL(原Master)

#修复master
systemctl restart mysqld

2）修复主从

#在现主库服务器slave1查看二进制文件和同步点
show master status;

#在原主库服务器master1执行同步操作
change master to master_host='192.168.2.102',master_user='byyb',master_password='123123',master_log_file='mysql-bin.000002',master_log_pos=154;start slave;show slave status\G;

3）在 manager 节点上修改配置文件

再把这个记录添加进去，因为它检测掉失效时候会自动消失。

vim /opt/mysql-mha/mysql_mha.cnf......
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.2.100 -s 192.168.2.103
......
[server1]
hostname=192.168.2.102
port=3306[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.2.100
port=3306[server3]
hostname=192.168.2.103
port=3306
#此时slave1为主

4）在 manager 节点上启动 MHA

nohup masterha_manager \
--conf=/opt/mysql-mha/mysql_mha.cnf \
--remove_dead_master_conf \
--ignore_last_failover < /dev/null > /var/log/mha_manager.log 2>&1 &

#解决中英字不兼容报错的问题
dos2unix /usr/local/bin/master_ip_failover