keepalived和lvs高可用集群

keepavlied和lvs高可用集群搭建

主备模式：

关闭防火墙和selinux

systemctl stop firewalld
setenforce 0

部署master负载调度服务器 zyj86

安装ipvsadm keepalived

yum install -y keepalived ipvsadm

修改主节点配置

vim /etc/keepalived/keepalived.conf

! Configuration File for keepalivedglobal_defs {notification_email {root@localhost #邮件设置}notification_email_from root@localhost#发邮件的地址smtp_server 127.0.0.1#邮件服务器地址smtp_connect_timeout 30#邮件服务器连接timeoutrouter_id zyjhost86 #每个keepalived主机的唯一标识，建议使用主机名vrrp_skip_check_adv_addr#对所有通告报文都检查，会比较消耗性能，启用此配置后，如果收到的通告报文和上一个报文是同一个路由器，则跳过检查，默认值为全检查#vrrp_strict#严格遵守VRRP协议,启用此项后以下状况将无法启动服务:1.无VIP地址 2.配置了单播邻居 3.在VRRP版本2中有IPv6地址，开启动此项并且没有配置vrrp_iptables时会自动开启iptables防火墙规则，默认导致VIP无法访问,建议不加此项配置。vrrp_garp_interval 0#gratuitous ARP messages 免费ARP报文发送延迟，0表示不延迟vrrp_gna_interval 0 #unsolicited NA messages （不请自来）消息发送延迟
}vrrp_instance VI_1 {state MASTER #当前节点在此虚拟路由器上的初始状态，状态为MASTER或者BACKUPinterface ens160virtual_router_id 51 #每个虚拟路由器惟一标识，范围：0-255，每个虚拟路由器此值必须唯一，否则服务无法启动，同属一个虚拟路由器的多个keepalived节点必须相同,务必要确认在同一网络中此值必须唯一priority 100 #优先级，master优先级一定要大于backup#当前物理节点在此虚拟路由器的优先级，范围：1-254，值越大优先级越高,每个keepalived主机节点此值不同advert_int 1 #master和backup之间通告间隔的秒数（心跳频率）authentication {auth_type PASS #认证信息auth_pass 1111 #认证信息}virtual_ipaddress {192.168.3.188 #虚拟ip地址}
}#虚拟地址 端口
virtual_server 192.168.3.188 80 {delay_loop 6#健康间隔时间6秒lb_algo rr#调度算法轮询lb_kind DR#lvs模式为DR直连路由模式persistence_timeout 50#连接保持时间为50 可以修改为0 轮询较快protocol TCP#采用协议#后端真实服务器节点的ip地址real_server 192.168.3.88 80 {weight 1#节点权重TCP_CHECK {connect_port 80#检查目标端口connect_timeout 3#连接超时 nb_get_retry 3#重试次数delay_before_retry 3#重试间隔时间}#tcp检测后端服务器节点是否正常}real_server 192.168.3.89 80 {weight 1TCP_CHECK {connect_port 80connect_timeout 3nb_get_retry 3delay_before_retry 3}}}

systemctl enable --now keepalived.service

部署backup负载调度服务器 zyj87

安装ipvsadm keepalived

yum install -y keepalived ipvsadm

修改备用节点配置

vim /etc/keepalived/keepalived.conf

! Configuration File for keepalivedglobal_defs {notification_email {root@localhost #邮件设置}notification_email_from root@localhost#发邮件的地址smtp_server 127.0.0.1#邮件服务器地址smtp_connect_timeout 30#邮件服务器连接timeoutrouter_id zyjhost87 #每个keepalived主机的唯一标识，建议使用主机名vrrp_skip_check_adv_addr#对所有通告报文都检查，会比较消耗性能，启用此配置后，如果收到的通告报文和上一个报文是同一个路由器，则跳过检查，默认值为全检查#vrrp_strict#严格遵守VRRP协议,启用此项后以下状况将无法启动服务:1.无VIP地址 2.配置了单播邻居 3.在VRRP版本2中有IPv6地址，开启动此项并且没有配置vrrp_iptables时会自动开启iptables防火墙规则，默认导致VIP无法访问,建议不加此项配置。vrrp_garp_interval 0#gratuitous ARP messages 免费ARP报文发送延迟，0表示不延迟vrrp_gna_interval 0 #unsolicited NA messages （不请自来）消息发送延迟
}vrrp_instance VI_1 {state BACKUP #当前节点在此虚拟路由器上的初始状态，状态为MASTER或者BACKUPinterface ens160virtual_router_id 51 #每个虚拟路由器惟一标识，范围：0-255，每个虚拟路由器此值必须唯一，否则服务无法启动，同属一个虚拟路由器的多个keepalived节点必须相同,务必要确认在同一网络中此值必须唯一priority 99 #优先级，master优先级一定要大于backup#当前物理节点在此虚拟路由器的优先级，范围：1-254，值越大优先级越高,每个keepalived主机节点此值不同advert_int 1 #master和backup之间通告间隔的秒数（心跳频率）authentication {auth_type PASS #认证信息auth_pass 1111 #认证信息}virtual_ipaddress {192.168.3.188 #虚拟ip地址}
}#虚拟地址 端口
virtual_server 192.168.3.188 80 {delay_loop 6#健康间隔时间6秒lb_algo rr#调度算法轮询lb_kind DR#lvs模式为DR直连路由模式persistence_timeout 50#连接保持时间为50 可以修改为0 轮询较快protocol TCP#采用协议#后端真实服务器节点的ip地址real_server 192.168.3.88 80 {weight 1#节点权重TCP_CHECK {connect_port 80#检查目标端口connect_timeout 3#连接超时 nb_get_retry 3#重试次数delay_before_retry 3#重试间隔时间}#tcp检测后端服务器节点是否正常}real_server 192.168.3.89 80 {weight 1TCP_CHECK {connect_port 80connect_timeout 3nb_get_retry 3delay_before_retry 3}}}

systemctl enable --now keepalived.service

keepalived会在ens160网卡上生成一个vip虚拟地址192.168.3.188

[root@zyj86 ~]# ip a
1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN group default qlen 1000link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00inet 127.0.0.1/8 scope host lovalid_lft forever preferred_lft foreverinet6 ::1/128 scope host valid_lft forever preferred_lft forever
2: ens160: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc mq state UP group default qlen 1000link/ether 00:0c:29:29:83:01 brd ff:ff:ff:ff:ff:ffaltname enp3s0inet 192.168.3.86/24 brd 192.168.3.255 scope global noprefixroute ens160valid_lft forever preferred_lft foreverinet 192.168.3.188/32 scope global ens160valid_lft forever preferred_lft foreverinet6 fe80::20c:29ff:fe29:8301/64 scope link noprefixroute valid_lft forever preferred_lft forever

当主节点（192.168.3.86 zyj86）宕机后vip虚拟地址（192.168.3.188）会飘移到备用节点上即（192.168.3.87 zyj87）主机上。

部署后端服务器zyj88

#配置lo口ip地址
ifconfig lo:1 192.168.3.188/32
echo "ifconfig lo:1 192.168.3.188/32" >> /etc/rc.d/rc.local
chmod +x /etc/rc.d/rc.local#添加系统只响应目的IP为本地IP的ARP请求
#系统不使用原地址来设置ARP请求的源地址，而是物理mac地址上的IP
vim /etc/sysctl.conf
#加入以下配置
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
net.ipv4.conf.default.arp_ignore = 1
net.ipv4.conf.default.arp_announce = 2
net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce = 2#刷新配置
sysctl -p

安装web服务器 写入测试页面

yum install httpd -y
echo "zyj88" > /var/www/html/index.html
systemctl enable --now httpd

部署后端服务器zyj89

#配置lo口ip地址
ifconfig lo:1 192.168.3.188/32
echo "ifconfig lo:1 192.168.3.188/32" >> /etc/rc.d/rc.local
chmod +x /etc/rc.d/rc.local#添加系统只响应目的IP为本地IP的ARP请求
#系统不使用原地址来设置ARP请求的源地址，而是物理mac地址上的IP
vim /etc/sysctl.conf
#加入以下配置
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
net.ipv4.conf.default.arp_ignore = 1
net.ipv4.conf.default.arp_announce = 2
net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce = 2#刷新配置
sysctl -p

安装web服务器 写入测试页面

yum install httpd -y
echo "zyj89" > /var/www/html/index.html
systemctl enable --now httpd

访问测试：

互为主备模式：

关闭防火墙和selinux

systemctl stop firewalld
setenforce 0

部署master/backup负载调度服务器 zyj86

安装ipvsadm keepalived

yum install -y keepalived ipvsadm

修改负载调度服务器 zyj86配置

vim /etc/keepalived/keepalived.conf

! Configuration File for keepalivedglobal_defs {notification_email {root@localhost #邮件设置}notification_email_from root@localhost#发邮件的地址smtp_server 127.0.0.1#邮件服务器地址smtp_connect_timeout 30#邮件服务器连接timeoutrouter_id zyjhost86 #每个keepalived主机的唯一标识，建议使用主机名vrrp_skip_check_adv_addr#对所有通告报文都检查，会比较消耗性能，启用此配置后，如果收到的通告报文和上一个报文是同一个路由器，则跳过检查，默认值为全检查#vrrp_strict#严格遵守VRRP协议,启用此项后以下状况将无法启动服务:1.无VIP地址 2.配置了单播邻居 3.在VRRP版本2中有IPv6地址，开启动此项并且没有配置vrrp_iptables时会自动开启iptables防火墙规则，默认导致VIP无法访问,建议不加此项配置。vrrp_garp_interval 0#gratuitous ARP messages 免费ARP报文发送延迟，0表示不延迟vrrp_gna_interval 0 #unsolicited NA messages （不请自来）消息发送延迟
}vrrp_instance VI_1 {state MASTER #当前节点在此虚拟路由器上的初始状态，状态为MASTER或者BACKUPinterface ens160virtual_router_id 51 #每个虚拟路由器惟一标识，范围：0-255，每个虚拟路由器此值必须唯一，否则服务无法启动，同属一个虚拟路由器的多个keepalived节点必须相同,务必要确认在同一网络中此值必须唯一priority 100 #优先级，master优先级一定要大于backup#当前物理节点在此虚拟路由器的优先级，范围：1-254，值越大优先级越高,每个keepalived主机节点此值不同advert_int 1 #master和backup之间通告间隔的秒数（心跳频率）authentication {auth_type PASS #认证信息auth_pass 1111 #认证信息}virtual_ipaddress {192.168.3.188 #虚拟ip地址}
}#互为主备就再加一组配置
vrrp_instance VI_2 {state BACKUP #当前节点在此虚拟路由器上的初始状态，状态为MASTER或者BACKUPinterface ens160virtual_router_id 40#每个虚拟路由器惟一标识，范围：0-255，每个虚拟路由器此值必须唯一，否则服务无法启动，同属一个虚拟路由器的多个keepalived节点必须相同,务必要确认在同一网络中此值必须唯一priority 90 #优先级，master优先级一定要大于backup#当前物理节点在此虚拟路由器的优先级，范围：1-254，值越大优先级越高,每个keepalived主机节点此值不同advert_int 1 #master和backup之间通告间隔的秒数（心跳频率）authentication {auth_type PASS #认证信息auth_pass 2222 #认证信息}virtual_ipaddress {192.168.3.199 #虚拟ip地址}
}#虚拟地址 端口
virtual_server 192.168.3.188 80 {delay_loop 6#健康间隔时间6秒lb_algo rr#调度算法轮询lb_kind DR#lvs模式为DR直连路由模式persistence_timeout 50#连接保持时间为50 可以修改为0 轮询较快protocol TCP#采用协议#后端真实服务器节点的ip地址real_server 192.168.3.88 80 {weight 1#节点权重TCP_CHECK {connect_port 80#检查目标端口connect_timeout 3#连接超时 nb_get_retry 3#重试次数delay_before_retry 3#重试间隔时间}#tcp检测后端服务器节点是否正常}real_server 192.168.3.89 80 {weight 1TCP_CHECK {connect_port 80connect_timeout 3nb_get_retry 3delay_before_retry 3}}}#互为主备就再加一组配置
#虚拟地址 端口
virtual_server 192.168.3.199 80 {delay_loop 6#健康间隔时间6秒lb_algo rr#调度算法轮询lb_kind DR#lvs模式为DR直连路由模式persistence_timeout 50#连接保持时间为50 可以修改为0 轮询较快protocol TCP#采用协议#后端真实服务器节点的ip地址real_server 192.168.3.88 80 {weight 1#节点权重TCP_CHECK {connect_port 80#检查目标端口connect_timeout 3#连接超时 nb_get_retry 3#重试次数delay_before_retry 3#重试间隔时间}#tcp检测后端服务器节点是否正常}real_server 192.168.3.89 80 {weight 1TCP_CHECK {connect_port 80connect_timeout 3nb_get_retry 3delay_before_retry 3}}}

systemctl enable --now keepalived.service

部署master/backup负载调度服务器 zyj87

安装ipvsadm keepalived

yum install -y keepalived ipvsadm

修改负载调度服务器 zyj87配置

vim /etc/keepalived/keepalived.conf

! Configuration File for keepalivedglobal_defs {notification_email {root@localhost #邮件设置}notification_email_from root@localhost#发邮件的地址smtp_server 127.0.0.1#邮件服务器地址smtp_connect_timeout 30#邮件服务器连接timeoutrouter_id zyjhost86 #每个keepalived主机的唯一标识，建议使用主机名vrrp_skip_check_adv_addr#对所有通告报文都检查，会比较消耗性能，启用此配置后，如果收到的通告报文和上一个报文是同一个路由器，则跳过检查，默认值为全检查#vrrp_strict#严格遵守VRRP协议,启用此项后以下状况将无法启动服务:1.无VIP地址 2.配置了单播邻居 3.在VRRP版本2中有IPv6地址，开启动此项并且没有配置vrrp_iptables时会自动开启iptables防火墙规则，默认导致VIP无法访问,建议不加此项配置。vrrp_garp_interval 0#gratuitous ARP messages 免费ARP报文发送延迟，0表示不延迟vrrp_gna_interval 0 #unsolicited NA messages （不请自来）消息发送延迟
}vrrp_instance VI_1 {state MASTER #当前节点在此虚拟路由器上的初始状态，状态为MASTER或者BACKUPinterface ens160virtual_router_id 51 #每个虚拟路由器惟一标识，范围：0-255，每个虚拟路由器此值必须唯一，否则服务无法启动，同属一个虚拟路由器的多个keepalived节点必须相同,务必要确认在同一网络中此值必须唯一priority 100 #优先级，master优先级一定要大于backup#当前物理节点在此虚拟路由器的优先级，范围：1-254，值越大优先级越高,每个keepalived主机节点此值不同advert_int 1 #master和backup之间通告间隔的秒数（心跳频率）authentication {auth_type PASS #认证信息auth_pass 1111 #认证信息}virtual_ipaddress {192.168.3.188 #虚拟ip地址}
}#互为主备就再加一组配置
vrrp_instance VI_2 {state MASTER #当前节点在此虚拟路由器上的初始状态，状态为MASTER或者BACKUPinterface ens160virtual_router_id 40#每个虚拟路由器惟一标识，范围：0-255，每个虚拟路由器此值必须唯一，否则服务无法启动，同属一个虚拟路由器的多个keepalived节点必须相同,务必要确认在同一网络中此值必须唯一priority 95 #优先级，master优先级一定要大于backup#当前物理节点在此虚拟路由器的优先级，范围：1-254，值越大优先级越高,每个keepalived主机节点此值不同advert_int 1 #master和backup之间通告间隔的秒数（心跳频率）authentication {auth_type PASS #认证信息auth_pass 2222 #认证信息}virtual_ipaddress {192.168.3.199 #虚拟ip地址}
}#虚拟地址 端口
virtual_server 192.168.3.188 80 {delay_loop 6#健康间隔时间6秒lb_algo rr#调度算法轮询lb_kind DR#lvs模式为DR直连路由模式persistence_timeout 50#连接保持时间为50 可以修改为0 轮询较快protocol TCP#采用协议#后端真实服务器节点的ip地址real_server 192.168.3.88 80 {weight 1#节点权重TCP_CHECK {connect_port 80#检查目标端口connect_timeout 3#连接超时 nb_get_retry 3#重试次数delay_before_retry 3#重试间隔时间}#tcp检测后端服务器节点是否正常}real_server 192.168.3.89 80 {weight 1TCP_CHECK {connect_port 80connect_timeout 3nb_get_retry 3delay_before_retry 3}}}#互为主备就再加一组配置
#虚拟地址 端口
virtual_server 192.168.3.199 80 {delay_loop 6#健康间隔时间6秒lb_algo rr#调度算法轮询lb_kind DR#lvs模式为DR直连路由模式persistence_timeout 50#连接保持时间为50 可以修改为0 轮询较快protocol TCP#采用协议#后端真实服务器节点的ip地址real_server 192.168.3.88 80 {weight 1#节点权重TCP_CHECK {connect_port 80#检查目标端口connect_timeout 3#连接超时 nb_get_retry 3#重试次数delay_before_retry 3#重试间隔时间}#tcp检测后端服务器节点是否正常}real_server 192.168.3.89 80 {weight 1TCP_CHECK {connect_port 80connect_timeout 3nb_get_retry 3delay_before_retry 3}}}

systemctl enable --now keepalived.service

部署后端服务器zyj88

#配置lo口ip地址
ifconfig lo:1 192.168.3.188/32
ifconfig lo:2 192.168.3.199/32
echo "ifconfig lo:1 192.168.3.188/32" >> /etc/rc.d/rc.local
echo "ifconfig lo:2 192.168.3.199/32" >> /etc/rc.d/rc.local
chmod +x /etc/rc.d/rc.local#添加系统只响应目的IP为本地IP的ARP请求
#系统不使用原地址来设置ARP请求的源地址，而是物理mac地址上的IP
vim /etc/sysctl.conf
#加入以下配置
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
net.ipv4.conf.default.arp_ignore = 1
net.ipv4.conf.default.arp_announce = 2
net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce = 2#刷新配置
sysctl -p

安装web服务器 写入测试页面

yum install httpd -y
echo "zyj88" > /var/www/html/index.html
systemctl enable --now httpd

部署后端服务器zyj89

#配置lo口ip地址
ifconfig lo:1 192.168.3.188/32
ifconfig lo:2 192.168.3.199/32
echo "ifconfig lo:1 192.168.3.188/32" >> /etc/rc.d/rc.local
echo "ifconfig lo:2 192.168.3.199/32" >> /etc/rc.d/rc.local
chmod +x /etc/rc.d/rc.local#添加系统只响应目的IP为本地IP的ARP请求
#系统不使用原地址来设置ARP请求的源地址，而是物理mac地址上的IP
vim /etc/sysctl.conf
#加入以下配置
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
net.ipv4.conf.default.arp_ignore = 1
net.ipv4.conf.default.arp_announce = 2
net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce = 2#刷新配置
sysctl -p

安装web服务器 写入测试页面

yum install httpd -y
echo "zyj89" > /var/www/html/index.html
systemctl enable --now httpd

访问测试：

关闭其中一台调度器再测试

访问测试：