Mysql服务器中,单台服务器无法承受服务量就配置多台Mysql服务器,多台Myslq服务器或者Mysql服务器冗余的情况下,配置主从复制。没有上去看服务器的读和写的压力不均衡可使用Mysql的读写分离,Mysql的读写分离中Master存在单点故障,就需要用到MHA.
Mysql有四种同步方式:
主库将更新写入Binlog日志文件后,不需要等待数据更新是否已经复制到从库中,就可以继续处理更多的请求。Master将事件写入binlog,但并不知道Slave是否或何时已经接收且已处理。在异步复制的机制的情况下,如果Master宕机,事务在Master上已提交,但很可能这些事务没有传到任何的Slave上。假设有Master->Salve故障转移的机制,此时Slave也可能会丢失事务。MySQL复制默认是异步复制,异步复制提供了最佳性能。
主库将更新写入Binlog日志文件后,需要等待数据更新已经复制到从库中,并且已经在从库执行成功,然后才能返回继续处理其它的请求。同步复制提供了最佳安全性,保证数据安全,数据不会丢失,但对性能有一定的影响.
写入一条数据请求到master,从服务器只要有一台接收到写入自己的中继日志,会给客户端返回一条接收成功的信息。 **主库提交更新写入二进制日志文件后,等待数据更新写入了从服务器中继日志中,然后才能再继续处理其它请求。该功能确保至少有1个从库接收完主库传递过来的binlog内容已经写入到自己的relay log里面了,才会通知主库上面的等待线程,**该操作完毕。 半同步复制,是最佳安全性与最佳性能之间的一个折中。 MySQL 5.5版本之后引入了半同步复制功能,主从服务器必须安装半同步复制插件,才能开启该复制功能。如果等待超时,超过rpl_semi_sync_master_timeout参数设置时间(默认值为10000,表示10秒),则关闭半同步复制,并自动转换为异步复制模式。当master dump线程发送完一个事务的所有事件之后,如果在rpl_semi_sync_master_timeout内,收到了从库的响应,则主从又重新恢复为增强半同步复制。 ACK (Acknowledge character)即是确认字符。
增强半同步是在MySQL 5.7引入,其实半同步可以看成是一个过渡功能,因为默认的配置就是增强半同步,所以,大家一般说的半同步复制其实就是增强的半同步复制,也就是无损复制。 增强半同步和半同步不同的是,等待ACK时间不同 rpl_semi_sync_master_wait_point = AFTER_SYNC(默认) 半同步的问题是因为等待ACK的点是Commit之后,此时Master已经完成数据变更,用户已经可以看到最新数据,当Binlog还未同步到Slave时,发生主从切换,那么此时从库是没有这个最新数据的,用户看到的是老数据。 增强半同步将等待ACK的点放在提交Commit之前,此时数据还未被提交,外界看不到数据变更,此时如果发送主从切换,新库依然还是老数据,不存在数据不一致的问题。
MHA Node运行在每台Mysql服务器上
MHA:为了解决的是故障切换,数据尽可能的保存,以及所以节点日志的一致性
MHA架构
实验环境
| 主机 | IP地址 |
|---|---|
| master | 10.0.0.100 |
| slave1 | 10.0.0.51 |
| slave 2 | 10.0.0.52 |
主从同步已经完成
MHA工具会检测mysql命令,这里还需要加软连接
# 所有机器 yum安装的不需要
ln
MHA管理节点可以装在任何节点,于超老师这里就给安装到了slave03 节点 因为Manager管理节点,通过ssh检测mysql集群,如果master节点服务器宕机,或者网络故障,MHA也无法完成故障切换了。 因此mha-manager不能装在master节点
mkdir -p /etc/mha #<==在/etc下创建mha目录。
配置文件详解
使用该配置即可
主从检测脚本,会用到mha账号,在三个机器上进行检测登录,一定要和我结果一样,确保主从复制正确。
也就是MHA如何判定,slave可以提升为主库
1. 日志量最新
2. 备选主
3. 不被选主想实现故障自愈透明,那其实就是对用户而言,无感知master-slave的切换
因此基于VIP即可实现上面我们部署MHA的测试环境,是关闭了VIP脚本的
上面超哥是临时关闭了VIP的漂移脚本
# 该脚本暂时先注释
#master_ip_failover_script=/usr/local/bin/master_ip_failover根据机器情况修改变量即可
[root@db-53 /opt]#masterha_check_status --conf=/etc/mha/app1.cnf
检查VIP在哪
目前还在db-51这个主库上于超老师友情提醒,故障演练前,做好快照
1. 停止master主库
2. 查看VIP是否漂移
3. 查看是否有slave成为new_master
4. 查看从库是否切换master ---slave关系[root@db-51 ~]#systemctl stop mysqld
此时MHA-manager会持续检测到日志
tail -f /var/log/mha/app1/manager.log[root@db-53 ~]#masterha_check_ssh --conf=/etc/mha/app1.cnf
masterha_check_status --conf=/etc/mha/app1.cnf
my.cnf
server_id=100 51 52
log_bin=mysql-bin
autocommit=0
binlog_format=row
gtid-mode=on
enforce-gtid-consistency=true
log-slave-updates=1
systemctl restart mysqld
mysql -uroot -p123456
grant replication slave on*.* to repl@'10.0.0.%' identified by '123456@Repl';
flush privileges;
change master to
master_host='10.0.0.100',
master_port=3306,
master_user='repl',
master_password='123456@Repl',
master_log_file='mysql-bin.000001',
master_log_pos=596,
master_connect_retry=10;
start slave;
show slave status\G
yum install sshpass -y
ssh-keygen
sshpass -p '123456' ssh-copy-id 10.0.0.100 -o StrictHostKeyChecking=no
sshpass -p '123456' ssh-copy-id 10.0.0.51 -o StrictHostKeyChecking=no
sshpass -p '123456' ssh-copy-id 10.0.0.52 -o StrictHostKeyChecking=no
# 验证免密
for i in 100 51 52;do ssh root@10.0.0.$i "hostname;echo '超哥带你学linux,www.yuchaoit.cn'";donewget http://dl.fedoraproject.org/pub/epel/epel-release-latest-7.noarch.rpm
rpm -ivh epel-release-latest-7.noarch.rpm
yum install -y perl-DBD-MySQL perl-Config-Tiny perl-Log-Dispatch perl-Parallel-ForkManager
wget https://qiniu.wsfnk.com/mha4mysql-node-0.58-0.el7.centos.noarch.rpm
rpm -ivh mha4mysql-node-0.58-0.el7.centos.noarch.rpm
[root@db-52 ~]#ls -l /usr/bin/*_*log*
-rwxr-xr-x 1 root root 17639 Mar 23 2018 /usr/bin/apply_diff_relay_logs
-rwxr-xr-x 1 root root 15704 Aug 9 2019 /usr/bin/db_log_verify
-rwxr-xr-x 1 root root 33032 Aug 9 2019 /usr/bin/db_printlog
-rwxr-xr-x 1 root root 4807 Mar 23 2018 /usr/bin/filter_mysqlbinlog
-rwxr-xr-x 1 root root 8337 Mar 23 2018 /usr/bin/purge_relay_logs
-rwxr-xr-x 1 root root 7525 Mar 23 2018 /usr/bin/save_binary_logs
-rwxr-xr-x. 1 root root 7910 Aug 4 2017 /usr/bin/scsi_logging_level
-rwxr-xr-x. 1 root root 94696 Aug 4 2017 /usr/bin/sg_logs
wget https://qiniu.wsfnk.com/mha4mysql-manager-0.58-0.el7.centos.noarch.rpm
rpm -ivh mha4mysql-manager-0.58-0.el7.centos.noarch.rpm
# 检查mha-manager命令
[root@db-53 ~]#ls -l /usr/bin/masterha_*
-rwxr-xr-x 1 root root 1995 Mar 23 2018 /usr/bin/masterha_check_repl
-rwxr-xr-x 1 root root 1779 Mar 23 2018 /usr/bin/masterha_check_ssh
-rwxr-xr-x 1 root root 1865 Mar 23 2018 /usr/bin/masterha_check_status
-rwxr-xr-x 1 root root 3201 Mar 23 2018 /usr/bin/masterha_conf_host
-rwxr-xr-x 1 root root 2517 Mar 23 2018 /usr/bin/masterha_manager
-rwxr-xr-x 1 root root 2165 Mar 23 2018 /usr/bin/masterha_master_monitor
-rwxr-xr-x 1 root root 2373 Mar 23 2018 /usr/bin/masterha_master_switch
-rwxr-xr-x 1 root root 5172 Mar 23 2018 /usr/bin/masterha_secondary_check
-rwxr-xr-x 1 root root 1739 Mar 23 2018 /usr/bin/masterha_stop# 新建mha的用户
# 主库创建,三个机器也就同步了
# 在db-51创建即可
# mha有一个脚本,会对所有节点的主从状态监控
grant all privileges on *.* to mha@'%' identified by '123456@Mha';
mysql> flush privileges;
Query OK, 0 rows affected (0.00 sec)[server default] #<==默认模块标签。
manager_log=/var/log/mha/app1/manager.log #<==配置日志路径。
manager_workdir=/var/log/mha/app1.log #<==配置工作日志路径。
master_binlog_dir=/mysql_binlog/ #<==配置MHA保存主库binlog日志的路径。
user=mha #<==MySQL数据中授权的用户。
password=www.yuchaoit.cn #<==MySQL数据中授权的用户。
ping_interval=2 #<==设置监控主库发送ping数据包的时间间隔,
若尝试三次没有回应则自动进行failover。
repl_user=repl #<==主从复制对应的用户。
repl_password=www.yuchaoit.cn #<==主从复制用户对应的密码。
ssh_user=root #<==ssh远程连接服务器的用户。
report_script=/usr/local/send_report #<==设置故障发生切换后触发执行的脚本。
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 10.211.55.9 -s 10.211.55.11 --user=root --master_host=mysql-server56 --master_ip=10.211.55.12 --master_port=3306
#<==当MHA Manager节点到MASTER节点(mysql-server56)的监控之间出现问题时,MHA Manager将会尝试从其他路径登录到MASTER(mysql-server56)节点。
#<==注:此配置在MHA Manager节点只有单独一台机器时起作用。意思就是,在Manager节点联系不上Master时,通过两个从节点(chaoge_slave1 、chaoge_slave2)去探视Master(mysql-server56)节点的状态。
shutdown_script="" #<==设置故障发生后执行主机脚本关闭故障机(防止故障机活过来发生脑裂)
[server1] #<==第一个mysql-master主机模块标签。
hostname=10.211.55.12 #<==第一个mysql-master主机IP。
port=3306 #<==第一个mysql主机端口。
[server2]
hostname=10.211.55.11
port=3306
candidate_master=1 #<==设定此参数后,server2标签的主机,将优先作为主库,宕机的候选服务器(切换主库优先选择)。
check_repl_delay=0 #<==设定此参数后,MHA会忽略主从复制延迟,将此服务器作为后选主机。
[server3]
hostname=10.211.55.9
port=3306# author:www.yuchaoit.cn
cat > /etc/mha/app1.cnf << 'EOF'
[server default]
manager_log=/var/log/mha/app1/manager.log
manager_workdir=/var/log/mha/app1.log
master_binlog_dir=/mysql_binlog/
# 该脚本暂时先注释
#master_ip_failover_script=/usr/local/bin/master_ip_failover
user=mha
password=www.yuchaoit.cn
ping_interval=2
repl_user=repl
repl_password=www.yuchaoit.cn
ssh_user=root
[server1]
hostname=10.0.0.51
port=3306
[server2]
hostname=10.0.0.52
port=3306
[server3]
hostname=10.0.0.53
port=3306
EOF检测如下MHA运行条件
# mha提供了很方便的脚本,检测你的mha环境搭建情况
SSH免密登录
MySQL主从复制
[root@db-52 ~]#masterha_check_ssh --conf=/etc/mha/app1.cnf
Tue Aug 2 00:36:08 2022 - [info] All SSH connection tests passed successfully.
# 主从检测脚本,会用到mha账号,在三个机器上进行检测登录[root@db-53 ~]#
[root@db-53 ~]#masterha_check_repl --conf=/etc/mha/app1.cnf
Tue Aug 2 00:37:11 2022 - [warning] Global configuration file /etc/masterha_default.cnf not found. Skipping.
Tue Aug 2 00:37:11 2022 - [info] Reading application default configuration from /etc/mha/app1.cnf..
Tue Aug 2 00:37:11 2022 - [info] Reading server configuration from /etc/mha/app1.cnf..
Tue Aug 2 00:37:11 2022 - [info] MHA::MasterMonitor version 0.58.
Creating directory /var/log/mha/app1.log.. done.
Tue Aug 2 00:37:12 2022 - [info] GTID failover mode = 1
Tue Aug 2 00:37:12 2022 - [info] Dead Servers:
Tue Aug 2 00:37:12 2022 - [info] Alive Servers:
Tue Aug 2 00:37:12 2022 - [info] 10.0.0.51(10.0.0.51:3306)
Tue Aug 2 00:37:12 2022 - [info] 10.0.0.52(10.0.0.52:3306)
Tue Aug 2 00:37:12 2022 - [info] 10.0.0.53(10.0.0.53:3306)
Tue Aug 2 00:37:12 2022 - [info] Alive Slaves:
Tue Aug 2 00:37:12 2022 - [info] 10.0.0.52(10.0.0.52:3306) Version=5.7.28-log (oldest major version between slaves) log-bin:enabled
Tue Aug 2 00:37:12 2022 - [info] GTID ON
Tue Aug 2 00:37:12 2022 - [info] Replicating from 10.0.0.51(10.0.0.51:3306)
Tue Aug 2 00:37:12 2022 - [info] 10.0.0.53(10.0.0.53:3306) Version=5.7.28-log (oldest major version between slaves) log-bin:enabled
Tue Aug 2 00:37:12 2022 - [info] GTID ON
Tue Aug 2 00:37:12 2022 - [info] Replicating from 10.0.0.51(10.0.0.51:3306)
Tue Aug 2 00:37:12 2022 - [info] Current Alive Master: 10.0.0.51(10.0.0.51:3306)
Tue Aug 2 00:37:12 2022 - [info] Checking slave configurations..
Tue Aug 2 00:37:12 2022 - [info] read_only=1 is not set on slave 10.0.0.52(10.0.0.52:3306).
Tue Aug 2 00:37:12 2022 - [info] read_only=1 is not set on slave 10.0.0.53(10.0.0.53:3306).
Tue Aug 2 00:37:12 2022 - [info] Checking replication filtering settings..
Tue Aug 2 00:37:12 2022 - [info] binlog_do_db= , binlog_ignore_db=
Tue Aug 2 00:37:12 2022 - [info] Replication filtering check ok.
Tue Aug 2 00:37:12 2022 - [info] GTID (with auto-pos) is supported. Skipping all SSH and Node package checking.
Tue Aug 2 00:37:12 2022 - [info] Checking SSH publickey authentication settings on the current master..
Tue Aug 2 00:37:12 2022 - [info] HealthCheck: SSH to 10.0.0.51 is reachable.
Tue Aug 2 00:37:12 2022 - [info]
10.0.0.51(10.0.0.51:3306) (current master)
+--10.0.0.52(10.0.0.52:3306)
+--10.0.0.53(10.0.0.53:3306)
Tue Aug 2 00:37:12 2022 - [info] Checking replication health on 10.0.0.52..
Tue Aug 2 00:37:12 2022 - [info] ok.
Tue Aug 2 00:37:12 2022 - [info] Checking replication health on 10.0.0.53..
Tue Aug 2 00:37:12 2022 - [info] ok.
Tue Aug 2 00:37:12 2022 - [warning] master_ip_failover_script is not defined.
Tue Aug 2 00:37:12 2022 - [warning] shutdown_script is not defined.
Tue Aug 2 00:37:12 2022 - [info] Got exit code 0 (Not master dead).
MySQL Replication Health is OK.
[root@db-53 ~]#1. MHA会从崩溃的master机器,保存最新的二进制日志事件,binlog events
2. 识别哪个slave 同步了最新的binlog
3. 从最新的slave机器的中继日志realy-log同步给其他的slave机器,实现所有slave机器,数据一致。
4. 最新的slave应用master中保存的binlog events
5. 提升slave位新的master
6. 其他slave和这个新boss同步,建立master-slave关系。#!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';
use Getopt::Long;
my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
my $vip = '10.0.0.55/24';
my $key = '1';
my $ssh_start_vip = "/sbin/ifconfig eth0:$key $vip";
my $ssh_stop_vip = "/sbin/ifconfig eth0:$key down";
my $ssh_Bcast_arp="/sbin/arping -I eth0 -c 3 -A 10.0.0.55";
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);
exit &main();
sub main {
print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";
if ( $command eq "stop" || $command eq "stopssh" ) {
my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {
my $exit_code = 10;
eval {
print "Enabling the VIP - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
# author: www.yuchaoit.cn
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
sub stop_vip() {
return 0 unless ($ssh_user);
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}
sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}[root@db-53 ~]#grep 'fail' /etc/mha/app1.cnf
master_ip_failover_script=/usr/local/bin/master_ip_failover
[root@db-53 ~]#vim /usr/local/bin/master_ip_failover
[root@db-53 ~]#
[root@db-53 ~]#chmod +x /usr/local/bin/master_ip_failover
[root@db-53 ~]#
[root@db-53 ~]## 创建
ifconfig eth0:1 10.0.0.55/24
# 删除
ifconfig eth0:1 del 10.0.0.55
# 停止
ifconfig eth0:1 down# 停止
[root@db-53 ~]#masterha_stop --conf=/etc/mha/app1.cnf
# 再次检测MHA状态
masterha_check_ssh --conf=/etc/mha/app1.cnf
masterha_check_repl --conf=/etc/mha/app1.cnf
# 一定确保测试结果正常,MHA才能搭建成功
MySQL Replication Health is OK.
就很nice
# 启动命令
nohup masterha_manager --conf=/etc/mha/app1.cnf --remove_dead_master_conf --ignore_last_failover /var/log/mha/app1/manager.log 2>&1 &
# 查看进程
[root@db-53 ~]#
[root@db-53 ~]#jobs -l
[1]+ 2536 Running nohup masterha_manager --conf=/etc/mha/app1.cnf --remove_dead_master_conf --ignore_last_failover /var/log/mha/app1/manager.log 2>&1 &
命令参数:
--remove_dead_master_conf 该参数代表当发生主从切换后,老的主库的ip将会从配置文件中移除。
--manger_log 日志存放位置
--ignore_last_failover 在缺省情况下,如果MHA检测到连续发生宕机,且两次宕机间隔不足8小时的话,则不会进行Failover,之所以这样限制是为了避免ping-pong效应。该参数代表忽略上次MHA触发切换产生的文件,默认情况下,MHA发生切换后会在日志目录,也就是上面设置的manager_workdir目录中产生app1.failover.complete文件,下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换,除非在第一次切换后收到删除该文件,为了方便,这里设置为--ignore_last_failover。
# 停止命令
masterha_stop --conf=/etc/mha/app1.conf1.准备perl脚本
vim /usr/local/bin/send_report
my $smtp='smtp.qq.com';
my $mail_from='2251614149@qq.com
my $mail_user='2251614149';
my $mail_pass='授权码';
my $mail_to='mr_lu@163.com;
2.修改配置文件MHA的
vim /etc/mha/app1.cnf
report_script=/usr/local/bin/send_report
3.重启MHA
masterha_stop --conf=/etc/mha/app1.cnf
nohup masterha_manager --conf=/etc/mha/app1.cnf --remove_dead_master_conf --ignore_last_failover /v[root@db-53 ~]#cat /etc/mha/app1.cnf
[server default]
manager_log=/var/log/mha/app1/manager.log
manager_workdir=/var/log/mha/app1.log
master_binlog_dir=/mysql_binlog/
master_ip_failover_script=/usr/local/bin/master_ip_failover
password=www.yuchaoit.cn
ping_interval=2
repl_password=www.yuchaoit.cn
repl_user=repl
ssh_user=root
user=mha
[server2]
hostname=10.0.0.52
port=3306
[server3]
hostname=10.0.0.53
port=3306# 1.启动
systemctl start mysqld
# 2. 加入主从
mysql -uroot -pwww.yuchaoit.cn
change master to master_host='10.0.0.52', master_user='repl', master_password='www.yuchaoit.cn' , MASTER_AUTO_POSITION=1;
start slave;
show slave status;1. VIP是否正常
ifconfig |grep 10.0.0.55
2.查看slave节点数
mysql> show slave hosts;
+-----------+------+------+-----------+--------------------------------------+
| Server_id | Host | Port | Master_id | Slave_UUID |
+-----------+------+------+-----------+--------------------------------------+
| 51 | | 3306 | 52 | 911c131d-1180-11ed-ac37-000c29b76f3a |
| 53 | | 3306 | 52 | 91212472-1180-11ed-ae94-000c291bb766 |
+-----------+------+------+-----------+--------------------------------------+
2 rows in set (0.00 sec)# 添加新节点到 配置文件 app1.cnf
# 加入一个[server1]
masterha_conf_host --command=add --conf=/etc/mha/app1.cnf --hostname=10.0.0.51 --block=server1 --params="port=3306"
[root@db-53 ~]#cat /etc/mha/app1.cnf
[server default]
manager_log=/var/log/mha/app1/manager.log
manager_workdir=/var/log/mha/app1.log
master_binlog_dir=/mysql_binlog/
master_ip_failover_script=/usr/local/bin/master_ip_failover
password=www.yuchaoit.cn
ping_interval=2
repl_password=www.yuchaoit.cn
repl_user=repl
ssh_user=root
user=mha
[server1]
hostname=10.0.0.51
port=3306
[server2]
hostname=10.0.0.52
port=3306
[server3]
hostname=10.0.0.53
port=3306
[root@db-53 ~]#
# 删除命令
masterha_conf_host --command=delete --conf=/etc/mha/app1.cnf --block=server1