MySQL高可用配置及故障切换
目录
引言
一、MHA简介
1.1 什么是MHA(MasterHigh Availability)
1.2 MHA的组成
1.3 MHA的特点
1.4 MHA工作原理
二、搭建MySQL MHA
2.1 实验思路
2.2 实验环境
1、关闭防火墙和安全增强系统
2、修改三台服务器节点的主机名
2.3 实验搭建
1、Master、Slave1、Slave2 节点上安装 mysql5.7
2、修改 Master、Slave1、Slave2 节点的 MySQL 主配置文件
3、Master、Slave1、Slave2 节点上创建软连接
4、配置 MySQL 一主两从
5、安装MHA软件
6、在所有服务器上配置无密码验证
7、在 manager 节点上配置 MHA
8、 第一次配置需要在 Master 节点上手动开启虚拟 IP
9、在 manager 节点上测试 ssh 无密码认证
10、在 manager 节点上测试 mysql 主从连接情况
11、在 manager 节点上启动 MHA
12、查看 MHA 状态和 MHA 日志
13、查看 MySQL 的 VIP 地址
三、模拟 MHA 故障
3.1 模拟故障
3.2 故障切换备选主库的算法
3.3 故障修复
引言
- MySQL 服务器中,单台服务器无法承载服务量就配置多台MySQL服务器,多台 MySQL 服务器或者 MySQL 服务器无冗余的情况下,配置主从复制。
- MySQL服务器的读和写的压力不均衡可使用 MySQL 的读写分离,MySQL的读写分离中 Msater 存在单点故障,就得用到 MHA
一、MHA简介
1.1 什么是MHA(MasterHigh Availability)
MHA是一套优秀的 MySQL 高可用环境下故障切换和主从复制的软件
MHA 的出现就是解决MySQL 单点的问题
MySQL 故障切换过程中,MHA 能做到 0-30 秒内自动完成故障切换操作
MHA 能在故障切换的过程中最大程度上保证数据的一致性,以达到真正意义上的高可用
1.2 MHA的组成
- MHA Node(数据节点)
- MHA Node 运行在每台 MySQL 服务器上
- MHA Manager(管理节点)
- MHA Manager 可以单独部署在一台独立的机器上,管理多个 master-slave 集群;也可以部署在一台 slave 节点上
- MHA Manager 会定时探测集群中的 master 节点。当 master 出现故障时,它可以自动将最新数据的 slave 提升为新的 master,然后将所有其他的 slave 重新指向新的 master。整个故障转移过程对应用程序完全透明
1.3 MHA的特点
自动故障切换过程中,MHA 试图从宕机的主服务器上保存二进制日志,最大程度的保证数据不丢失;
使用半同步复制,可以大大降低数据丢失的风险,如果只有一个 slave 已经收到了最新的二进制日志,MHA 可以将最新的二进制日志应用于其他所有的 slave 服务器上,因此可以保证所有节点的数据一致性;
目前MHA支持一主多从架构,最少三台服务,即一主两从;
1.4 MHA工作原理
从宕机崩溃的master 保存二进制日志事件(binlog events);
识别含有最新的更新 slave 日志
应用差异的中继日志(relay log)到其他的slave
应用从master保存的二进制日志事件
提升一个 salve 为新的master
使其他的slave连接行的master 进行复制
注:MHA :为了解决的了是故障切换、数据尽可能的保存,以及所有节点日志的一致性
二、搭建MySQL MHA
2.1 实验思路
- MHA架构
- 数据库安装
- 主从复制(一主两从)
- MHA搭建
- 故障模拟
- 主库失效
- 备选主库成为主库
- 原故障主库恢复重新加入到MHA成为从库
2.2 实验环境
主机 | IP地址 | 主要软件 |
MHA Manager | 192.17.20.103 | 安装MHA node 和 manager 组件 |
Master | 192.17.20.100 | 装mysql5.7、MHA node 组件 |
Slave1 | 192.17.20.101 | 安装mysql5.7、MHA node 组件 |
Slave2 | 192.17.20.102 | 安装mysql5.7、MHA node 组件 |
1、关闭防火墙和安全增强系统
systemctl stop firewalld && systemctl disable firewalld
setenforce 0
2、修改三台服务器节点的主机名
hostnamectl set-hostname master
hostnamectl set-hostname slave1
hostnamectl set-hostname slave2
2.3 实验搭建
1、Master、Slave1、Slave2 节点上安装 mysql5.7
MYSQL数据库初体验-CSDN博客
2、修改 Master、Slave1、Slave2 节点的 MySQL 主配置文件
- Master 主配置文件
vim /etc/my.cnf
[mysqld]
server-id = 1
log_bin = master-bin
log-slave-updates = truesystemctl restart mysqld
- slave1
vim /etc/my.cnf
server-id = 2
log_bin = master-bin
relay-log = relay-log-bin
relay-log-index = slave-relay-bin.indexsystemctl restart mysqld
- slave2
vim /etc/my.cnf
server-id = 3
log_bin= master-bin
relay-log = relay-log-bin
relay-log-index = slave-relay-bin.indexsystemctl restart mysqld
3、Master、Slave1、Slave2 节点上创建软连接
ln -s /usr/local/mysql/bin/mysql /usr/sbin/
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/
4、配置 MySQL 一主两从
- 所有数据库节点进行 mysql 授权
mysql -uroot -p123456#从数据库同步使用
grant replication slave on *.* to 'myslave'@'192.17.20.%' identified by '123456'; #manager 使用
grant all privileges on *.* to 'mha'@'192.17.20.%' identified by 'manager'; #防止从库通过主机名连接不上主库
grant all privileges on *.* to 'mha'@'master' identified by 'manager';
grant all privileges on *.* to 'mha'@'slave1' identified by 'manager';
grant all privileges on *.* to 'mha'@'slave2' identified by 'manager';
flush privileges;
- 在 Master 节点查看二进制文件和同步点
mysql> show master status;
+-------------------+----------+--------------+------------------+-------------------+
| File | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+-------------------+----------+--------------+------------------+-------------------+
| master-bin.000001 | 1743 | | | |
+-------------------+----------+--------------+------------------+-------------------+
1 row in set (0.00 sec)
- 在 Slave1、Slave2 节点执行同步操作
change master to master_host='192.17.20.100',master_user='myslave',master_password='123456',master_log_file='master-bin.000001',master_log_pos=1826; start slave;
- 在 Slave1、Slave2 节点查看数据同步结果,确保 IO 和 SQL 线程都是 Yes,代表同步正常
mysql> show slave status\G;
......
Slave_IO_Running: Yes
Slave_SQL_Running: Yes
......
- 两个从库必须设置为只读模式
set global read_only=1;
flush privileges;
- 插入数据测试数据库同步
create database test_db;
use test_db;
create table test(id int);
insert into test(id) values (1);
5、安装MHA软件
- 所有服务器上都安装 MHA 依赖的环境,首先安装 epel 源
yum install epel-release --nogpgcheck -yyum install -y perl-DBD-MySQL \
perl-Config-Tiny \
perl-Log-Dispatch \
perl-Parallel-ForkManager \
perl-ExtUtils-CBuilder \
perl-ExtUtils-MakeMaker \
perl-CPAN
- 安装 MHA 软件包,先在所有服务器上安装 node 组件(必须先安装 node)
在所有服务器上必须先安装 node 组件,最后在 MHA-manager 节点上安装 manager 组件,因为 manager 依赖 node 组件
[root@master ~]#cd /opt/
[root@master /opt]#rz -E
rz waiting to receive.
[root@master /opt]#ls
mha4mysql-node-0.57.tar.gz tar zxvf mha4mysql-node-0.57.tar.gz
cd mha4mysql-node-0.57
perl Makefile.PL
make && make install
- 随后在 MHA manager 节点上安装 manager 组件
cd /opt
# manager 传至 opt 目录下
tar zxvf mha4mysql-manager-0.57.tar.gz
cd mha4mysql-manager-0.57
perl Makefile.PLmake && make install
manager 组件安装后在 /usr/local/bin 下面会生成几个工具,主要包括以下几个:
masterha_check_ssh #检查 MHA 的 SSH 配置状况
masterha_check_repl #检查 MySQL 复制状况
masterha_manger #启动 manager 的脚本
masterha_check_status #检测当前 MHA 运行状态
masterha_master_monitor #检测 master 是否宕机
masterha_master_switch #控制故障转移(自动或者 手动)
masterha_conf_host #添加或删除配置的 server 信息
masterha_stop #关闭 manager
- node 组件安装后也会在/usr/local/bin 下面会生成几个脚本(这些工具通常由 MHAManager 的脚本触发,无需人为操作)
save_binary_logs #保存和复制 master 的二进制日志
apply_diff_relay_logs #识别差异的中继日志事件并将其差异的事件应用于其他的 slave
filter_mysqlbinlog #去除不必要的 ROLLBACK 事件(MHA 已不再使用这个工具)
purge_relay_logs #清除中继日志(不会阻塞 SQL 线程)
6、在所有服务器上配置无密码验证
- ① 在 manager 节点上配置到所有数据库节点的无密码认证
ssh-keygen -t rsa #输完按回车
ssh-copy-id 192.17.20.100 #输入yes,然后输入密码
ssh-copy-id 192.17.20.101
ssh-copy-id 192.17.20.102
- ② 在 master 上配置到数据库节点 slave1 和 slave2 的无密码认证
ssh-keygen -t rsa
ssh-copy-id 192.17.20.101
ssh-copy-id 192.17.20.102
- ③ 在 slave1 上配置到数据库节点 master 和 slave2 的无密码认证
ssh-keygen -t rsa
ssh-copy-id 192.17.20.100
ssh-copy-id 192.17.20.102
- ④ 在 slave2 上配置到数据库节点 master 和 slave1 的无密码认证
ssh-keygen -t rsa
ssh-copy-id 192.17.20.100
ssh-copy-id 192.17.20.101
7、在 manager 节点上配置 MHA
- 在 manager 节点上复制相关脚本到 /usr/local/bin 目录
[root@manager /usr/local/bin]#cp -rp /opt/mha4mysql-manager-0.57/samples/scripts /usr/local/bin
[root@manager /usr/local/bin]#ll /usr/local/bin/scripts/master_ip_failover #自动切换时 VIP 管理的脚本
master_ip_online_change #在线切换时 vip 的管理
power_manager #故障发生后关闭主机的脚本
send_report #因故障切换后发送报警的脚本
- 复制上述的自动切换时 VIP 管理的脚本到 /usr/local/bin 目录,这里使用 master_ip_failover 脚本来管理 VIP 和故障切换
cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin
- 修改内容如下(删除原有内容,直接复制并修改 vip 相关参数)
:% s/^#// 可以去掉开头的所有#
vim /usr/local/bin/master_ip_failover#!/usr/bin/env perluse strict;
use warnings FATAL => 'all';use Getopt::Long;my ($command, $ssh_user, $orig_master_host,$orig_master_ip, $orig_master_port, $new_master_host,$new_master_ip, $new_master_port,
);#----------添加内容部分----------
my $vip = '192.168.10.200';
my $brdc = '192.168.10.255';
my $ifdev = 'ens33';
my $key = '1';
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";
my $exit_code = 0;
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
#--------------------------------GetOptions('command=s' => \$command,'ssh_user=s' => \$ssh_user,'orig_master_host=s' => \$orig_master_host,'orig_master_ip=s' => \$orig_master_ip,'orig_master_port=i' => \$orig_master_port,'new_master_host=s' => \$new_master_host,'new_master_ip=s' => \$new_master_ip,'new_master_port=i' => \$new_master_port,
);exit &main();sub main {print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";if ( $command eq "stop" || $command eq "stopssh" ) {my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {my $exit_code = 10;
eval {
print "Enabling the VIP - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
## A simple system call that disable the VIP on the old_master
sub stop_vip() {
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}
- 字段解释
my $vip = '192.168.10.200'; #指定vip的地址
my $brdc = '192.168.10.255'; #指定vip的广播地址
my $ifdev = 'ens33'; #指定vip绑定的网卡
my $key = '1'; #指定vip绑定的虚拟网卡序列号
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip"; #代表此变量值为ifconfig ens33:1 192.168.10.200
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down"; #代表此变量值为ifconfig ens33:1 192.168.10.200 down
my $exit_code = 0; #指定退出状态码为0
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
- 创建 MHA 软件目录并拷贝配置文件,这里使用 app1.cnf 配置文件来管理 mysql 节点服务器
mkdir /etc/masterha
cp /opt/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterhavim /etc/masterha/app1.cnf #删除原有内容,直接复制并修改节点服务器的 IP 地址[server default]
manager_log=/var/log/masterha/app1/manager.log
manager_workdir=/var/log/masterha/app1
master_binlog_dir=/usr/local/mysql/data
master_ip_failover_script=/usr/local/bin/master_ip_failover
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
password=manager
ping_interval=1
remote_workdir=/tmp
repl_password=123456
repl_user=myslave
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.8.15 -s 192.168.8.13
shutdown_script=""
ssh_user=root
user=mha[server1]
hostname=192.168.8.16
port=3306[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.8.15
port=3306[server3]
hostname=192.168.8.13
port=3306
- 字段解释
[server default]
manager_log=/var/log/masterha/app1/manager.log #manager日志
manager_workdir=/var/log/masterha/app1 #manager工作目录
master_binlog_dir=/usr/local/mysql/data/ #master保存binlog的位置,这里的路径要与master里配置的binlog的路径一致,以便MHA能找到
master_ip_failover_script=/usr/local/bin/master_ip_failover #设置自动failover时候的切换脚本,也就是上面的那个脚本
master_ip_online_change_script=/usr/local/bin/master_ip_online_change #设置手动切换时候的切换脚本
password=manager #设置mysql中root用户的密码,这个密码是前文中创建监控用户的那个密码
ping_interval=1 #设置监控主库,发送ping包的时间间隔,默认是3秒,尝试三次没有回应的时候自动进行failover
remote_workdir=/tmp #设置远端mysql在发生切换时binlog的保存位置
repl_password=123 #设置复制用户的密码
repl_user=myslave #设置复制用户的用户
report_script=/usr/local/send_report #设置发生切换后发送的报警的脚本
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.8.15 -s 192.168.8.13 #指定检查的从服务器IP地址
shutdown_script="" #设置故障发生后关闭故障主机脚本(该脚本的主要作用是关闭主机防止发生脑裂,这里没有使用)
ssh_user=root #设置ssh的登录用户名
user=mha #设置监控用户root[server1]
hostname=192.168.8.16
port=3306[server2]
hostname=192.168.8.15
port=3306
candidate_master=1
#设置为候选master,设置该参数以后,发生主从切换以后将会将此从库提升为主库,即使这个从库不是集群中最新的slavecheck_repl_delay=0
#默认情况下如果一个slave落后master 超过100M的relay logs的话,MHA将不会选择该slave作为一个新的master, 因为对于这个slave的恢复需要花费很长时间;通过设置check_repl_delay=0,MHA触发切换在选择一个新的master的时候将会忽略复制延时,这个参数对于设置了candidate_master=1的主机非常有用,因为这个候选主在切换的过程中一定是新的master[server3]
hostname=192.168.8.13
port=3306
8、 第一次配置需要在 Master 节点上手动开启虚拟 IP
/sbin/ifconfig ens33:1 192.168.10.200/24
9、在 manager 节点上测试 ssh 无密码认证
#如果正常最后会输出 successfully
masterha_check_ssh -conf=/etc/masterha/app1.cnf
10、在 manager 节点上测试 mysql 主从连接情况
#最后出现 MySQL Replication Health is OK 字样说明正常,检查不通过看看是不是字符集没注释
masterha_check_repl -conf=/etc/masterha/app1.cnf
11、在 manager 节点上启动 MHA
nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &--remove_dead_master_conf:该参数代表当发生主从切换后,老的主库的 ip 将会从配置文件中移除。
--manger_log:日志存放位置。
--ignore_last_failover:在缺省情况下,如果 MHA 检测到连续发生宕机,且两次宕机间隔不足 8 小时的话,则不会进行 Failover, 之所以这样限制是为了避免 ping-pong 效应。该参数代表忽略上次 MHA 触发切换产生的文件,默认情况下,MHA 发生切换后会在日志记录,也就是上面设置的日志app1.failover.complete文件,下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换,除非在第一次切换后收到删除该文件,为了方便,这里设置为--ignore_last_failover。
12、查看 MHA 状态和 MHA 日志
#可以看到当前的 master 是 Mysql1 节点,master 是 192.168.8.16
masterha_check_status --conf=/etc/masterha/app1.cnf
cat /var/log/masterha/app1/manager.log | grep "current master"
13、查看 MySQL 的 VIP 地址
- 查看 192.168.10.200 是否存在,这个 VIP 地址不会因为 manager 节点停止 MHA 服务而消失
ifconfig
#若要关闭 manager 服务,可以使用如下命令:masterha_stop --conf=/etc/masterha/app1.cnf#或者可以直接采用 kill 进程 ID 的方式关闭\
三、模拟 MHA 故障
3.1 模拟故障
- ① 在 manager 节点上监控观察日志记录
tail -f /var/log/masterha/app1/manager.log
- ② 在 Master 节点 Mysql1 上停止 mysql 服务
systemctl stop mysqld
- ③ 正常自动切换一次后,MHA 进程会退出。HMA 会自动修改 app1.cnf 文件内容,将宕机的 mysql 节点删除, 查看 slave 是否接管 VIP
3.2 故障切换备选主库的算法
一般判断从库的是从(position/GTID)判断优劣,数据有差异,最接近于 master 的 slave,成为备选主
数据一致的情况下,按照配置文件顺序,选择备选主库
设定有权重(candidate_master=1),按照权重强制指定备选主
默认情况下如果一个 slave 落后 master 100M 的 relay logs 的话,即使有权重,也会失效。
如果 check_repl_delay=0 的话,即使落后很多日志,也强制选择其为备选主
3.3 故障修复
- ① 修复 mysql
systemctl restart mysqld
- ② 修复主从,在现在的主mysql服务器查看二进制文件和同步点
- ③ 在原来主库服务器192.168.8.16 上执行同步操作
mysql -uroot -p123456#这时候 slave1 成为了主库,原 master 成为了从库,所以在 原 master 上要指向新主库的IP
mysql> change master to master_host='192.168.8.15',master_user='myslave',master_password='123456',master_log_file='master-bin.000001',master_log_pos=1895;
mysql> start slave;
- ④ 在 manager 节点上修改配置文件 app1.cnf(再把这个记录添加进去,因为它检测掉失效时候会自动消失)
#修改新的从库 IP(16,13)
#server1 为新主库 IP(15),server2/3为从库 IP(16,13)
vi /etc/masterha/app1.cnf
......
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.8.16 -s 192.168.8.13
......
[server1]
hostname=192.168.8.15
port=3306[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.8.16
port=3306[server3]
hostname=192.168.8.13
port=3306
- ⑤ 在 manager 节点上启动 MHA
masterha_stop --conf=/etc/masterha/app1.cnf #重启 MHAnohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &#再来查看 MHA 状态,可以看到,当前 master 为 slave1(192.168.8.15)
masterha_check_status --conf=/etc/masterha/app1.cnf#如若需要让 slave1 重新成为 master,停止 slave2 节点的 mysql 服务即可。
#当slave1 获得 master 地位以及 VIP 后,重新启动 slave2 的 mysql 服务,并添加进集群中。
相关文章:

MySQL高可用配置及故障切换
目录 引言 一、MHA简介 1.1 什么是MHA(MasterHigh Availability) 1.2 MHA的组成 1.3 MHA的特点 1.4 MHA工作原理 二、搭建MySQL MHA 2.1 实验思路 2.2 实验环境 1、关闭防火墙和安全增强系统 2、修改三台服务器节点的主机名 2.3 实验搭建 1、…...

AI模型一体机:智能办公的未来
引言 随着人工智能技术的飞速发展,我们正步入一个全新的智能办公时代。AI模型一体机,作为这个时代的先锋产品,正以其强大的功能和便捷的操作,改变着我们的工作方式。它不仅仅是一个硬件设备,更是一个集成了最新人工智…...

jina的Embedding Reranker
插入向量库是否需要使用 Jina 的 Embedding 和 Reranker 取决于你希望如何处理和优化语义搜索的质量。以下是使用 Jina Embedding 和 Reranker 的原因,以及它们如何作用于插入向量库的流程。 1. Jina 的 Embedding 作用 Jina 是一个流行的开源框架,用于…...

Prompt Engineer: 使用Thought来提升LLM的回复能力
这是一个小的实验, 用来测试思维导图这种表达形式对于LLM在答案组织上是否会有帮助 结构化Prompt 根据目前的测试来看, 结构化Ptompt在实践中有着很好的可读性以及可维护性. (通常来说我使用Markdown格式来作为输入的格式, 虽然在内容完整性上存在问题, 但是我是不喜欢写丑陋…...
tekton构建标准ci(clone repo, test, build push img)
场景介绍 我们在上一篇文章中构建了一个最简单的ci,接下来我们对我们的github的项目构建一个较标准的ci。 Tekton简介,安装和构建最简单ci/cd-CSDN博客文章浏览阅读239次,点赞2次,收藏2次。本文介绍了tekton是什么,如…...

【电力系统】复杂网络分析在电力系统规范中的应用
摘要 复杂网络分析在电力系统中的应用为理解和优化电力系统的运行提供了新的视角。本文探讨了复杂网络理论在电力系统规范中的应用,通过分析电力系统的拓扑结构、节点重要性和脆弱性,提出了优化电力系统设计和运行的新策略。仿真结果表明,复…...

CDGA|推动数据治理与传统产业深度融合:策略与实践路径
在数字化浪潮席卷全球的今天,数据已成为推动经济社会发展的关键生产要素。传统产业,作为国民经济的基石,正面临着前所未有的转型挑战与机遇。如何让数据治理这一现代管理理念与实践方法深度融入传统产业,促进其转型升级与高质量发…...

【FastAPI】离线使用Swagger UI 或 国内网络如何快速加载Swagger UI
在FastAPI中,默认情况下,当应用启动时,Swagger UI 会通过在线加载 Swagger UI 的静态资源。这意味着如果应用运行在没有互联网连接的环境中,默认的 Swagger 文档页面将无法加载。 为了在离线环境中使用 Swagger UI,你…...

Linux:从入门到放弃
目录 一、基础巩固Linux:常用命令 二、实战应用Linux:CentOS7基础配置Linux:CentOS7安装MySQL 三、常见问题Linux:yum源失效问题 一、基础巩固 Linux:常用命令 二、实战应用 Linux:CentOS7基础配置 Lin…...

SVM 监督学习
一、分类问题 利用一条直线分类存在很多问题 二、SVM 支持向量机 其核心思想是通过在特征空间中找到一个最优的超平面来进行分类,并且间隔最大。分类面尽可能远离样本点,宽度越大越好。 适用于中小型复杂数据集的分类。 三、硬间隔和软间隔 硬&#x…...

奖励模型的训练
文章目录 训练方法训练策略代码实践由于 RLHF 的训练过程中需要依赖大量的人类偏好数据进行学习,因此很难在训练过程中要求人类标注者实时提供偏好反馈。为此,我们需要训练一个模型来替代人类在 RLHF 训练过程中实时提供反馈,这个模型被称为奖励模型。在训练开始前,我们需要…...

Ubuntu22.04之禁止内核自动更新(二百六十八)
简介: CSDN博客专家、《Android系统多媒体进阶实战》一书作者 新书发布:《Android系统多媒体进阶实战》🚀 优质专栏: Audio工程师进阶系列【原创干货持续更新中……】🚀 优质专栏: 多媒体系统工程师系列【…...

kaggle题-房价预测(Pytorch),手把手教,全文代码解释
房价预测 本题是经典的通过表格数据去预测最终值,主要分为几大步骤: 一.将数据集修改为可以代入到网络模型的数字,因为给的数据大部分都是str类型,是无法直接放到网络模型里跑的,例如下图,很多标签值为str类…...

PulseSensor心率传感器详解(STM32)
目录 一、介绍 二、传感器原理 1.接线图 2.引脚描述 3.工作原理:光电容积法原理 4.工作原理:心率采样数据处理算法 三、程序设计 main.c文件 adcx.h文件 adc.c文件 四、实验效果 五、资料获取 项目分享 一、介绍 PulseSensor传感器是一种基…...

NISP 一级 | 3.1 网络基础知识
关注这个证书的其他相关笔记:NISP 一级 —— 考证笔记合集-CSDN博客 0x01:Internet 和 TCP/IP 协议 因特网(Internet)通过 TCP/IP 协议将遍布在全世界各地的计算机互联,从而形成超级计算机网络。因特网为用户提供了非…...

模拟网络丢包常用方法以及工具
文章目录 背景常用方法代码实现使用方法测试代码 使用网络流量控制工具 常用工具Clumsy 背景 在软件开发过程中,经常需要模拟不同的网络环境来测试应用在不同条件下的表现。 这些模拟可以采用多种方式进行,包括在代码中实现随机丢包、随机延时、乱序&am…...
ABC 370 E - Avoid K Partition
原题链接:E - Avoid K Partition 题意:给长度为n的数组,将数组划分成任意份,但是每一份的总和都不能是k,问有多少种分割方法。 思路:dp,f[i],代表前i个元素满足题意的划分的总和&a…...

C++: set与map容器的介绍与使用
本文索引 前言1. 二叉搜索树1.1 概念1.2 二叉搜索树操作1.2.1 查找与插入1.2.2 删除1.2.3 二叉搜索树实现代码 2. 树形结构的关联式容器2.1 set的介绍与使用2.1.1 set的构造函数2.1.2 set的迭代器2.1.3 set的容量2.1.4 set的修改操作 2.2 map的介绍与使用2.2.1 map的构造函数2.…...

单片机-STM32 看门狗(八)
目录 一、看门狗概念 1、定义: 二、单片机中的看门狗 1、功能描述: 2、看门狗设置部分 预分频寄存器(IWDG_PR) 3、窗口看门狗 特性: 4、看门狗配置: 一、看门狗概念 看门狗--定时器(不属于基本定时器、通用定…...

iOS 18.1将上线新功能,可惜这波国内的小伙伴无缘了
在科技巨头苹果持续推动其生态系统全球化的进程中,最新的iOS 18.1、iPadOS 18.1及macOS 15.1开发者测试版发布,不仅为开发者们带来了新功能的预览,还悄然间对Apple智能功能的地区限制进行了微妙而重要的调整。 这一变化,虽看似细…...

MySQL中DML操作(二)
默认值处理(DEFAULT) 在MySQL中可以使用DEFAULT为列设定一个默认值。如果在插入数据时并未指定该列的值,那么MySQL将默认值添加到该列中。 创建表时指定列的默认值 CREATE TABLE 表名(列名 类型 default 默认值......); 示例:…...

LLMs技术 | 整合Ollama实现本地LLMs调用
前言 近两年AIGC发展的非常迅速,从刚开始的只有ChatGPT到现在的很百家争鸣。从开始的大参数模型,再到后来的小参数模型,从一开始单一的文本模型到现在的多模态模型等等。随着一起进步的不仅仅是模型的多样化,还有模型的使用方式。…...

【C-实践】文件服务器(3.0)
文件服务器1.0文件服务器2.0文件服务器4.0 概述 使用了 tcp epoll 线程池 生产者消费者模型,实现文件服务器 有两个进程,主进程负责接收退出信号用来退出整个程序;子进程负责管理线程池、客户端连接以及线程池的退出 子进程中的主线程生…...

LeetCode 2181.合并零之间的节点
题目描述 给你一个链表的头节点 head ,该链表包含由 0 分隔开的一连串整数。链表的 开端 和 末尾 的节点都满足 Node.val 0 。 对于每两个相邻的 0 ,请你将它们之间的所有节点合并成一个节点,其值是所有已合并节点的值之和。然后将所有 0 …...

千益畅行,共享旅游卡,引领旅游新潮流
千益畅行旅游卡是一款专为旅游爱好者打造的超值卡片。它就像一把神奇的钥匙,为您打开国内丰富多彩的旅游世界。 我们的旅游卡拥有众多令人惊喜的特点。首先,它涵盖了国内 40 多条精心策划的旅游线路,无论您是向往历史文化名城的厚重底蕴&…...

K均值聚类
根据到给点样本的距离,来聚类。 1.曼哈顿距离、 2.欧几里得距离 直线距离 3.切比雪夫距离 4.闵氏距离 5.余弦相似度 对数据大小/长度等不关注,只关注相似度。 6.汉明距离 二进制距离 二、密度聚类 DBSCAN 前提是样本是根据紧密程度分布的。 先用超参…...

【Ubuntu】安装常用软件包
安装java 直接输入java,如果没有安装的话会提醒你输入命令安装,类似 Command java not found, but can be installed with: sudo apt install jdkxxxxxxxxxxxxxx然后选一个版本安装就好,我这里选的jdk17,安装完确认一下 ubuntuVM-4-13-ubu…...

探索全光网技术 | 全光网产品解决方案整理-(宇洪科技)
探索全光网技术 |全光网产品解决方案整理-宇洪科技 目录 一、数据中心场景1、方案概述2、方案需求3、相关产品4、产品推荐5、方案价值 二、教育场景1、方案概述2、方案需求3、相关产品4、方案价值 三、医疗场景1、方案概述2、方案需求3、相关产品4、方案价值 注:本文…...

资料分析(2)
C B 增长量不变就是1002020 上面是利滚利:按照20%当利息 本题:涨跌幅度的意思就是增长率,本题是按照增长率不变的情况下进行计算D B 7551400X>1.2*100000 B B B 总体增量部分增量之和 先进行计算固定通信业务收入的增长量移动通信业务实现收入的增长量 增长量现期…...

百元以下蓝牙耳机性价比之王品牌?四大高能性价比机型推荐
面对市场上琳琅满目的蓝牙耳机品牌和型号,消费者往往难以抉择,特别是当预算限定在百元以下时,找到一款既满足基本功能又具备一定品质的蓝牙耳机变得尤其困难,那么百元以下蓝牙耳机性价比之王品牌?尽管价格是一个重要的…...