• MySQL MHA高可用集群部署

    文章目录


    引言：在MySQL的主从复制、读写分离集群中，若当主数据库宕机，将造成整个数据集群的崩溃；MHA是解决MySQL高可用环境下的故障切换和主从复制的软件。

    一.MHA概述

    1.1什么是MHA

    • MHA（MasterHigh Availability）是一套优秀的MySQL高可用环境下故障切换和主从复制的软件。
    • MHA 的出现就是解决MySQL 单点的问题。
    • MySQL故障切换过程中，MHA能做到0-30秒内自动完成故障切换操作。
    • MHA能在故障切换的过程中最大程度上保证数据的一致性，以达到真正意义上的高可用。

    1.2 MHA组成

    • MHA Node（数据节点）
      MHA Node 运行在每台 MySQL 服务器上。

    • MHA Manager（管理节点）
      MHA Manager 可以单独部署在一台独立的机器上，管理多个 master-slave 集群；也可以部署在一台 slave 节点上。
      MHA Manager 会定时探测集群中的 master 节点。当 master 出现故障时，它可以自动将最新数据的 slave 提升为新的 master， 然后将所有其他的 slave 重新指向新的 master。整个故障转移过程对应用程序完全透明。

    1.3MHA特点

    • 自动故障切换过程中，MHA试图从宕机的主服务器上保存二进制日志，最大程度的保证数据不丢失
    • 使用半同步复制，可以大大降低数据丢失的风险，如果只有一个slave已经收到了最新的二进制日志，MHA可以将最新的二进制日志应用于其他所有的slave服务器上，因此可以保证所有节点的数据一致性
    • 目前MHA支持一主多从架构，最少三台服务，即一主两从

    1.4MHA工作原理

    1.从宕机崩溃的master保存二进制日志时间（binlog events）
    2.识别含有最新的更新slave日志
    3.应用差异的中继日志（relay log）到其它的slave
    4.应用从master保存的二进制日志时间
    5.提升一个salve为新的master
    6.使其它的slave连接行的master进行复制

    二.MHA集群部署

    MHA集群部署基于主从复制，主从复制搭建请参考MySQL主从复制、读写分离
    在这里插入图片描述

    2.1MySQL配置文件修改

    此配置修改建立在主从复制之上

    
1.在 Master、Slave1、Slave2 节点上都创建两个软链接
ln -s /usr/local/mysql/bin/mysql /usr/sbin/
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/
2.在从服务器上设置只读模式
set global read_only=1;
3.在从服务器开启二进制日志文件
log_bin = master-bin    #开启二进制日志文件，是为了当主服务器宕机后，从服务器称为新的master时，可以继续生产新的二进制文件，不影响主从复制


    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9

    在这里插入图片描述
    在这里插入图片描述

    2.2node组件与manager组件安装

    #1.修改 Master、Slave1、Slave2 节点的主机名
hostnamectl set-hostname master
hostnamectl set-hostname slave1
hostnamectl set-hostname slave2
hostnamectl set-hostname manager
#2.四台服务器安装MHA软件依赖环境
yum install epel-release -y  #安装epel源
#安装MHA依赖环境
yum install -y perl-DBD-MySQL \
perl-Config-Tiny \
perl-Log-Dispatch \
perl-Parallel-ForkManager \
perl-ExtUtils-CBuilder \
perl-ExtUtils-MakeMaker \
perl-CPAN
#3.在所有服务器上安装node组件
cd /opt
tar xf mha4mysql-node-0.57.tar.gz
cd mha4mysql-node-0.57
perl Makefile.PL
make && make install
#4.在MHA服务器上安装manager组件
cd /opt
tar zxvf mha4mysql-manager-0.57.tar.gz
cd mha4mysql-manager-0.57
perl Makefile.PL
make && make install

    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27

    更改服务器名
    在这里插入图片描述
    在四台服务器上安装epel源和MHA的依赖环境
    在这里插入图片描述
    在这里插入图片描述
    上传安装包，并解压node包
    在这里插入图片描述
    编译安装node组件
    在这里插入图片描述

    编译安装manager组件
    在这里插入图片描述
    在这里插入图片描述

    masterha_check_ssh      //检查 MHA 的 SSH 配置状况
masterha_check_repl     //检查 MySQL 复制状况
masterha_manger         //启动 manager的脚本
masterha_check_status   //检测当前 MHA 运行状态
masterha_master_monitor //检测 master 是否宕机
masterha_master_switch  //控制故障转移（自动或者 手动）
masterha_conf_host      //添加或删除配置的 server 信息
masterha_stop           //关闭manager

    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8

    node组件安装完后在/usr/local/bin下也会几个脚本
    在这里插入图片描述

    save_binary_logs      //保存和复制 master 的二进制日志
apply_diff_relay_logs //识别差异的中继日志事件并将其差异的事件应用于其他的 slave
filter_mysqlbinlog    //去除不必要的 ROLLBACK 事件（MHA已不再使用这个工具）
purge_relay_logs      //清除中继日志（不会阻塞SQL线程）

    • 1
    • 2
    • 3
    • 4

    2.3登录设置

    2.3.1SSH免密登录设置

    在 manager 节点上配置到所有数据库节点的无密码认证

    #在manager节点上配置到所有数据库节点的无密码认证
ssh-keygen
ssh-copy-id 192.168.48.11
ssh-copy-id 192.168.48.14
ssh-copy-id 192.168.48.15
#在master上配置到数据库节点slave1和slave2的无密码认证
ssh-keygen
ssh-copy-id 192.168.48.14
ssh-copy-id 192.168.48.15
#在slave1上配置到数据库节点master和slave2的无密码认证
ssh-keygen
ssh-copy-id 192.168.48.11
ssh-copy-id 192.168.48.15
#在slave2上配置到数据库节点master和slave1的无密码认证
ssh-keygen
ssh-copy-id 192.168.48.11
ssh-copy-id 192.168.48.14



    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19

    在这里插入图片描述
    在这里插入图片描述
    在master、slave1、slave2上执行免密登录操作

    2.3.2数据库授权

    grant replication slave on *.* to 'myslave'@'192.168.48.%' identified by '123456';	
grant all privileges on *.* to 'mha'@'192.168.48.%' identified by 'manager';	
grant all privileges on *.* to 'mha'@'master' identified by 'manager';
grant all privileges on *.* to 'mha'@'slave1' identified by 'manager';
grant all privileges on *.* to 'mha'@'slave2' identified by 'manager';
flush privileges;

    • 1
    • 2
    • 3
    • 4
    • 5
    • 6

    在这里插入图片描述

    2.4manager节点配置MHA

    • 在manager节点上复制相关脚本到/usr/local/bin 目录
    cp -rp /opt/mha4mysql-manager-0.57/samples/scripts/ /usr/local/bin/
cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin/

    • 1
    • 2

    在这里插入图片描述
    文件说明：

    master_ip_failover       //自动切换时VIP管理的脚本
master_ip_online_change  //在线切换时VIP的管理
power_manager            //故障发生后关闭主机的脚本
send_report              //因故障切换后发送报警的脚本

    • 1
    • 2
    • 3
    • 4

    2.4.1master_ip_failover配置

     echo "" > /usr/local/bin/master_ip_failover  #清空文件
 vim /usr/local/bin/master_ip_failover
my $vip = '192.168.10.200';									#指定vip的地址
my $brdc = '192.168.10.255';								#指定vip的广播地址
my $ifdev = 'ens33';										#指定vip绑定的网卡
my $key = '1';												#指定vip绑定的虚拟网卡序列号
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";		#代表此变量值为ifconfig ens33:1 192.168.10.200
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";		#代表此变量值为ifconfig ens33:1 192.168.10.200 down
my $exit_code = 0;											#指定退出状态码为0
 

    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10

    添加代码如下，注意修改VIP地址

    #!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';

use Getopt::Long;

my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
#############################添加内容部分#########################################
my $vip = '192.168.48.200';
my $brdc = '192.168.48.255';
my $ifdev = 'ens33';
my $key = '1';
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";
my $exit_code = 0;
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
##################################################################################
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);

exit &main();

sub main {

print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";

if ( $command eq "stop" || $command eq "stopssh" ) {

my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {
my $exit_code = 10;
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
## A simple system call that disable the VIP on the old_master
sub stop_vip() {
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}

sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}
                         

    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38
    • 39
    • 40
    • 41
    • 42
    • 43
    • 44
    • 45
    • 46
    • 47
    • 48
    • 49
    • 50
    • 51
    • 52
    • 53
    • 54
    • 55
    • 56
    • 57
    • 58
    • 59
    • 60
    • 61
    • 62
    • 63
    • 64
    • 65
    • 66
    • 67
    • 68
    • 69
    • 70
    • 71
    • 72
    • 73
    • 74
    • 75
    • 76
    • 77
    • 78
    • 79
    • 80
    • 81
    • 82
    • 83
    • 84
    • 85

    在这里插入图片描述

    2.4.2配置app1.cnf文件

    mkdir /etc/masterha
cp /opt/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha
echo "" > /etc/masterha/app1.cnf  #清空内容
vim /etc/masterha/app1.cnf

[server default]
manager_log=/var/log/masterha/app1/manager.log　　　　　　#manager日志
manager_workdir=/var/log/masterha/app1　　　　　　　　    #manager工作目录
master_binlog_dir=/usr/local/mysql/data/　　　　　　　　　#master保存binlog的位置，这里的路径要与master里配置的binlog的路径一致，以便MHA能找到
master_ip_failover_script=/usr/local/bin/master_ip_failover　　#设置自动failover时候的切换脚本，也就是上面的那个脚本
master_ip_online_change_script=/usr/local/bin/master_ip_online_change　　#设置手动切换时候的切换脚本
password=manager			#设置mysql中root用户的密码，这个密码是前文中创建监控用户的那个密码
ping_interval=1				#设置监控主库，发送ping包的时间间隔，默认是3秒，尝试三次没有回应的时候自动进行failover
remote_workdir=/tmp			#设置远端mysql在发生切换时binlog的保存位置
repl_password=123			#设置复制用户的密码
repl_user=myslave			#设置复制用户的用户
report_script=/usr/local/send_report　　　　　#设置发生切换后发送的报警的脚本
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.48.14 -s 192.168.48.15	#指定检查的从服务器IP地址
shutdown_script=""			#设置故障发生后关闭故障主机脚本（该脚本的主要作用是关闭主机防止发生脑裂,这里没有使用）
ssh_user=root				#设置ssh的登录用户名
user=mha					#设置监控用户root

[server1]
hostname=192.168.48.11
port=3306

[server2]
hostname=192.168.48.14
port=3306
candidate_master=1
#设置为候选master，设置该参数以后，发生主从切换以后将会将此从库提升为主库，即使这个从库不是集群中最新的slave
check_repl_delay=0
#默认情况下如果一个slave落后master 超过100M的relay logs的话，MHA将不会选择该slave作为一个新的master， 因为对于这个slave的恢复需要花费很长时间；通过设置check_repl_delay=0，MHA触发切换在选择一个新的master的时候将会忽略复制延时，这个参数对于设置了candidate_master=1的主机非常有用，因为这个候选主在切换的过程中一定是新的master


    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34

    源代码如下：

    [server default]
manager_log=/var/log/masterha/app1/manager.log
manager_workdir=/var/log/masterha/app1
master_binlog_dir=/usr/local/mysql/data
master_ip_failover_script=/usr/local/bin/master_ip_failover
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
password=manager
ping_interval=1
[server default]
manager_log=/var/log/masterha/app1/manager.log
manager_workdir=/var/log/masterha/app1
master_binlog_dir=/usr/local/mysql/data
master_ip_failover_script=/usr/local/bin/master_ip_failover
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
password=manager
ping_interval=1
remote_workdir=/tmp
repl_password=123456
repl_user=myslave
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.48.14 -s 192.168.48.15
shutdown_script=""
ssh_user=root
user=mha

[server1]
hostname=192.168.48.11
port=3306

[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.48.14
port=3306

[server3]
hostname=192.168.48.15
port=3306
 

    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38

    2.4.3Mster节点上手动开启虚拟IP

    /sbin/ifconfig ens33:1 192.168.48.200/24

    • 1

    在这里插入图片描述

    2.5manager节点测试

    2.5.1免密测试

    在 manager 节点上测试 ssh 无密码认证，如果正常最后会输出 successfully

    masterha_check_ssh -conf=/etc/masterha/app1.cnf

    • 1

    在这里插入图片描述

    2.5.2主从连接测试

    在 manager 节点上测试 mysql 主从连接情况，最后出现 MySQL Replication Health is OK 字样说明正常

    masterha_check_repl -conf=/etc/masterha/app1.cnf

    • 1

    在这里插入图片描述

    2.6启动服务

    • 在 manager 节点上启动 MHA
    #启动服务，并将服务放入后台，将日志文件写入指定目录中
nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &


    • 1
    • 2
    • 3

    在这里插入图片描述

    remove_dead_master_conf   //该参数代表当发生主从切换后，老的主库的 ip 将会从配置文件中移除。
manger_log                //日志存放位置。
ignore_last_failover      //在缺省情况下，如果 MHA 检测到连续发生宕机，且两次宕机间隔不足 8 小时的话，则不会进行 Failover， 之所以这样限制是为了避免 ping-pong 效应。该参数代表忽略上次 MHA 触发切换产生的文件，默认情况下，MHA 发生切换后会在日志记录，也就是上面设置的日志
app1.failover.complete    //文件，下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换，除非在第一次切换后收到删除该文件，为了方便，这里设置为--ignore_last_failover。

    • 1
    • 2
    • 3
    • 4
    • 查看 MHA 状态，可以看到当前的 master 是 master 节点
    masterha_check_status --conf=/etc/masterha/app1.cnf

    • 1

    在这里插入图片描述

    • 查看 MHA 日志
    cat /var/log/masterha/app1/manager.log | grep "current master"

    • 1

    在这里插入图片描述

    • 若要关闭 manager 服务
    masterha_stop --conf=/etc/masterha/app1.cnf
或者可以直接采用 kill 进程 ID 的方式关闭。


    • 1
    • 2
    • 3

    三.故障模拟

    3.1故障模拟

    • 在 manager 节点上监控观察日志记录
    tail -f /var/log/masterha/app1/manager.log   #追踪日志
#在Master节点master上停止mysql服务
systemctl stop mysqld

    • 1
    • 2
    • 3

    在这里插入图片描述
    在这里插入图片描述

    在slave1上查看VIP地址是否漂移
    在这里插入图片描述
    正常自动切换一次后，MHA 进程会退出。HMA 会自动修改 app1.cnf 文件内容，将宕机的 master 节点删除。查看 slave1 是否接管 VIP
    查看配置文件
    vim /etc/masterha/app1.cnf
    在这里插入图片描述

    3.2备选库算法

    • 故障切换备选主库的算法：

    1．一般判断从库的是从（position/GTID）判断优劣，数据有差异，最接近于master的slave，成为备选主。
    2．数据一致的情况下，按照配置文件顺序，选择备选主库。 3．设定有权重（candidate_master=1），按照权重强制指定备选主。
    （1）默认情况下如果一个slave落后master 100M的relay logs的话，即使有权重，也会失效。
    （2）如果check_repl_delay=0的话，即使落后很多日志，也强制选择其为备选主。

    3.3故障修复

    • 修复mysql
    systemctl restart mysqld

    • 1

    注：在实际生产中，请先解决服务器问题，再启动服务

    • 修复主从
      在现主从服务器slave1：192.168.48.14查看二进制文件和同步点
    show master status\G

    • 1

    在这里插入图片描述
    在原master服务器上执行如下操作

    change master to master_host='192.168.48.14',master_user='myslave',master_password='123456',master_log_file='master-bin.000002',master_log_pos=154;
#启动
start slave；
#查看从服务器状态
show slave status\G
#注：在实际生产中，要注意将数据库停用期间的数据进行恢复，再进行同步

    • 1
    • 2
    • 3
    • 4
    • 5
    • 6

    在这里插入图片描述
    测试
    在这里插入图片描述

    • 在 manager 节点上修改配置文件app1.cnf
      因为manager节点将app1.cnf的服务删除了，需要重新加入
      在这里插入图片描述
      启动manager节点
    nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &

    • 1

    四.总结

    MHA集群部署时，需要先在所有服务器上安装node节点，再安装manager节点
    初次运行MHA功能时，需要临时添加虚拟VIP

    故障切换MHA的动作：

    MHA会多次尝试检测master的存活状态
    MHA会多次尝试、尽可能的保存master的二进制日志文件
    MHA会根据app1.cnf中的配置部分，进行从服务器—>主服务器的切换
    MHA最后会将master的VIP地址切换到从服务器的位置
    MHA在选择完新的master后，会在其余的salve上执行change master操作，指向新的master，来保证MySQL的集群健康性

    MHA配置文件：
    master_ip_failover:命令工具，定义的是基于VIP的检测和故障转移
    app1.cnf.:MHA的主要配置文件，主要定义了MHA的工作目录、日志，使用MHA的登录MySQL的用户、密码使用从服务器身份同步msater的账号、密码

    PS：为了加快主从复制的网络延迟，可以设置主机域名映射，加快访问速度，减少NDS解析时间，比如上面的试验
    vim /etc/hosts
    在这里插入图片描述

  • 相关阅读:
    tensorrt 高级(1):完整的分类器实现
    Python中的进制转换
    打家劫舍3(二叉树型)Java
    如何用优盘加密自己的电脑：人离后自动锁定
    机器学习实战—集成学习
    2018年五一杯数学建模B题商业银行人民币贷款规模分配及盈利问题解题全过程文档及程序
    为什么我的k8s的节点状态都是notready呢
    CTF之序列化__toString
    【毕业设计】13-基于单片机的锂电池管理系统（原理图+源码+仿真工程+论文）
    1.4_29 Axure RP 9 for mac 高保真原型图 - 案例28【中继器-后台管理系统6】功能-原位修改数据
  • 原文地址：https://blog.csdn.net/weixin_44175418/article/details/125511804