Mysql主从复制、读写分离

一、Mysql主从复制

1.1、主从复制原理架构

 通过主从复制，可以实现读写分离。
1

• MySQL主从复制是一种数据库复制技术，用于将一个MySQL数据库服务器的更改同步到其他MySQL数据库服务器。

• 在主从复制中，有一个主数据库（Master）和一个或多个从数据库（Slave）。

• 主数据库负责接收和处理所有的写操作，而从数据库则通过复制主数据库的日志文件，将这些写操作在自身的数据库中重演，从而实现数据的同步。

1.2、 MySQL支持的复制类型

• STATEMENT：基于语句的复制。在服务器上执行sql语句，在从服务器上执行同样的语句，mysql默认采用基于语句的复制，执行效率高；

• ROW：基于行的复制。把改变的内容复制过去，而不是把命令在从服务器上执行一遍；

• MIXED：混合类型的复制。默认采用基于语句的复制，一旦发现基于语句无法精确复制时，就会采用基于行的复制。

1.3、 主从复制的工作过程

1.当主服务器数据发生改变时，将数据更新写入二进制日志中；

2.从服务器探测到主服务器的二进制日志发生改变后，开启I/O线程向主服务器请求二进制日志事件/记录；

3.主服务器为每个I/O线程开启dump线程，向从服务器发送二进制日志事件；

4.从服务器的I/O线程将主服务器的二进制日志事件保存到本地中继日志中；

5.Slave节点将启动SQL线程从中继日志中读取二进制日志，在本地重放，即解析成 sql 语句逐一执行，使得其数据和 Master节点的保持一致；

6.最后I/O线程和SQL线程将进入睡眠状态，等待下一次被唤醒。

注：

• 中继日志通常会位于 OS 缓存中，所以中继日志的开销很小。
• 复制过程有一个很重要的限制，即复制在 Slave上是串行化的，也就是说 Master上的并行更新操作不能在 Slave上并行操作。

1.4、 主从复制的同步模式

1.4.1、 异步复制（Asynchronous replication）

 一个主库，一个或多个从库，数据异步同步到从库
1

MySQL默认的复制即是异步的。

• 主库在执行完客户端提交的事务后会立即将结果返给客户端，并不关心从库是否已经接收并处理。

• 这样就会有一个问题，主如果crash掉了，此时主上已经提交的事务可能并没有传到从上，如果此时，强行将从提升为主，可能导致新主上的数据不完整。

1.4.2、 全同步复制（Fully synchronous replication）

• 指当主库执行完一个事务，所有的从库都执行了该事务才返回给客户端。
• 因为需要等待所有从库执行完该事务才能返回，所以全同步复制的性能必然会收到严重的影响。

1.4.3、 半同步复制（Semisynchronous replication）

在异步复制的基础上，确保任何一个主库上的事务在提交之前至少有一个从库已经收到该事务并记录。

1.4.4、 定义

 介于异步复制和全同步复制之间。
1

• 主库在执行完客户端提交的事务后不是立刻返回给客户端，而是等待至少一个从库接收到并写到relay log中才返回给客户端（只能保证主库的 Binlog 至少传输到了一个从节点上），否则需要等待直到超时时间然后切换成异步模式再提交。

• 相对于异步复制，半同步复制提高了数据的安全性，同时它也造成了一定程度的延迟，这个延迟最少是一个TCP/IP往返的时间。
  所以，半同步复制最好在低延时的网络中使用
  s/133197100

1.4.5、配置

 主数据库配置
1

vim /etc/my.cnf				
#在 [mysqld] 区域添加下面内容
......
plugin-load=rpl_semi_sync_master=semisync_master.so#加载mysql半同步复制的插件
rpl_semi_sync_master_enabled=ON
#或者设置为"1"，即开启半同步复制功能
rpl-semi-sync-master-timeout=1000
#超时时间为1000ms，即1s

systemctl restart mysqld

1
2
3
4
5
6
7
8
9
10
11

从数据库配置
1

#从数据库配置
vim /etc/my.cnf	
......
plugin-load=rpl_semi_sync_slave=semisync_slave.so
rpl_semi_sync_slave_enabled=ON

systemctl restart mysqld

1
2
3
4
5
6
7
8

查看半同步是否在运行
1

#主数据库执行
show status like 'Rpl_semi_sync_master_status';
show variables like 'rpl_semi_sync_master_timeout';

#从数据库执行（此时可能还是OFF状态，需要在下一步重启IO线程后，从库半同步状态才会为ON）
show status like 'Rpl_semi_sync_slave_status';

#重启从数据库上的IO线程
STOP SLAVE IO_THREAD;
START SLAVE IO_THREAD;

#在主库查询半同步状态
show status like '%Rpl_semi%';	

1
2
3
4
5
6
7
8
9
10
11
12
13
14

#参数说明

Rpl_semi_sync_master_clients              		#半同步复制客户端的个数
Rpl_semi_sync_master_net_avg_wait_time    		#平均等待时间（默认毫秒）
Rpl_semi_sync_master_net_wait_time        		#总共等待时间
Rpl_semi_sync_master_net_waits            		#等待次数
Rpl_semi_sync_master_no_times             		#关闭半同步复制的次数
Rpl_semi_sync_master_no_tx                		#表示没有成功接收slave提交的次数
Rpl_semi_sync_master_status               		#表示当前是异步模式还是半同步模式，on为半同步
Rpl_semi_sync_master_timefunc_failures    		#调用时间函数失败的次数
Rpl_semi_sync_master_tx_avg_wait_time     		#事物的平均传输时间
Rpl_semi_sync_master_tx_wait_time         		#事物的总共传输时间
Rpl_semi_sync_master_tx_waits             		#事物等待次数
Rpl_semi_sync_master_wait_pos_backtraverse		#可以理解为"后来的先到了，而先来的还没有到的次数"
Rpl_semi_sync_master_wait_sessions        		#当前有多少个session因为slave的回复而造成等待
Rpl_semi_sync_master_yes_tx               		#成功接受到slave事物回复的次数

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17

1.4.6、 什么情况下半同步和异步会互相转换

• 当半同步复制发生超时（由rpl_semi_sync_master_timeout参数控制，默认为10000ms，即10s），会暂时关闭半同步复制，转而使用异步复制，也就是会自动降为异步工作。
• 当 master dump 线程发送完一个事务的所有事件之后，如果在rpl_semi_sync_master_timeout 内，收到了从库的响应， 则主从又重新恢复为半同步复制

1.5、 MySQL主从复制延时问题的原因和解决办法

1.5.1、 故障现象

• MySQL主从复制延时问题的故障现象通常表现为主库上的数据变更在从库上出现延迟。
• 这可能导致从库上的数据与主库不同步，并可能对应用程序或业务产生一些问题。
  一些常见的故障现象包括
  1.从库数据延迟：主库上的数据变更在从库上出现延迟，通常可以通过查看从库的 Seconds_Behind_Master 参数来确定延迟的时间。

2.延迟逐渐增加：从库上的延迟可能会逐渐增加，从几秒钟到几分钟甚至更长。

3.复制停止：复制进程可能会在某些情况下停止，导致复制完全中断。

4.数据丢失：如果出现严重的复制延迟或复制停止，可能会导致从库上的数据丢失。在复制延迟问题得到解决之前，从库上的数据可能无法与主库保持同步。

1.5.2、 原因

1）master服务器高并发，形成大量事务；
2）网络延迟；
3）主从硬件设备导致（cpu主频、内存io、硬盘io）；
4）是同步复制、而不是异步复制；

1.5.3、 解决方法

1.网络方面：网络优化，避免跨机房实现同步。

2.硬件方面：从库配置更好的硬件，提升随机写的性能。
比如使用物理主机，使用SSD磁盘…。

3.配置方面：从库优化MySQL参数，比如增大innodb_buffer_pool_size，让更多操作在MySQL内存中完成，减少磁盘操作。

二、读写分离

• 读写分离基于主从复制实现
• 主服务器实现读
• 从服务器实现写
• 提升数据库的并发负载能力

2.1、 什么是读写分离？

• 读写分离，基本的原理是让主数据库处理事务性增、改、删操作（INSERT、UPDATE、DELETE），而从数据库处理SELECT查询操作。
• 数据库复制被用来把事务性操作导致的变更同步到集群中的从数据库。

2.2、 为什么要读写分离呢？

• 因为数据库的“写”（写10000条数据可能要3分钟）操作是比较耗时的。
• 但是数据库的“读”（读10000条数据可能只要5秒钟）。
• 所以读写分离，解决的是，数据库的写入，影响了查询的效率。

2.3 、什么时候要读写分离？

• 数据库不一定要读写分离，如果程序使用数据库较多时，而更新少，查询多的情况下会考虑使用。

• 利用数据库主从同步，再通过读写分离可以分担数据库压力，提高性能。

2.4、 MySQL 读写分离原理

• 读写分离就是只在主服务器上写，只在从服务器上读。

• 基本的原理是让主数据库处理事务性操作，而从数据库处理 select 查询。

• 数据库复制被用来把主数据库上事务性操作导致的变更同步到集群中的从数据库。

2.5、 常见的实现方式

2.5.1、 基于程序代码内部实现

• 在代码中根据 select、insert 进行路由分类，这类方法也是目前生产环境应用最广泛的。

• 优点是性能较好，因为在程序代码中实现，不需要增加额外的设备为硬件开支；

• 缺点是需要开发人员来实现，运维人员无从下手。

• 但是并不是所有的应用都适合在程序代码中实现读写分离，像一些大型复杂的Java应用，如果在程序代码中实现读写分离对代码改动就较大。

2.5.2、 基于中间代理层实现

代理一般位于客户端和服务器之间，代理服务器接到客户端请求后通过判断后转发到后端数据库，有以下代表性程序。
1）MySQL-Proxy
MySQL-Proxy 为 MySQL 开源项目，通过其自带的 lua 脚本进行SQL 判断。
2）Atlas

• 是由奇虎360的Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。

• 它是在mysql-proxy 0.8.2版本的基础上，对其进行了优化，增加了一些新的功能特性。

• 360内部使用Atlas运行的mysql业务，每天承载的读写请求数达几十亿条。

• 支持事物以及存储过程。

3）Amoeba
由陈思儒开发，作者曾就职于阿里巴巴。该程序由Java语言进行开发，阿里巴巴将其用于生产环境。但是它不支持事务和存储过程。

4）Mycat

• 是一款流行的基于Java语言编写的数据库中间件，是一个实现了MySql协议的服务器，其核心功能是分库分表。配合数据库的主从模式还可以实现读写分离。

• 由于使用MySQL Proxy 需要写大量的Lua脚本，这些Lua并不是现成的，而是需要自己去写。这对于并不熟悉MySQL Proxy 内置变量和MySQL Protocol 的人来说是非常困难的。

• Amoeba是一个非常容易使用、可移植性非常强的软件。因此它在生产环境中被广泛应用于数据库的代理层。

三、主从复制搭建

3.1、环境配置

Master 服务器	192.168.11.11	
Slave1 服务器	192.168.11.12	
Slave2 服务器	192.168.11.13	

1
2
3
4

主服务器 开启 二进制日志功能
从服务器 开启中继日志功能
1
2

3.2、初始环境准备

#三台服务器上都初始化
systemctl stop firewalld
setenforce 0
1
2
3

3.2.1、搭建时间同步（主服务器：192.168.11.11）

1.#安装时间同步服务器
yum install ntp -y
 
2.#修改配置文件
vim /etc/ntp.conf  
server 127.127.11.0   #设置本地时钟源
fudge 127.127.11.0 stratum 8  #设置时间层级为8 限制在15 以内
 
3.#开启服务
 
1
2
3
4
5
6
7
8
9
10

 搭建时间同步（主服务器：192.168.11.11）    
1

#安装时间同步服务器

 修改配置文件
1

开启服务
1

3.2.2、搭建时间同步（从服务器：192.168.11.12、192.168.11.13）

1.#安装时间同步服务器、同步服务
yum install ntp -y
yum install ntpdate -y
 
2. #开启服务
service ntpd start
 
3. #执行同步
/usr/sbin/ntpdate 192.168.11.11
 
4.#计划定时任务
crontab -e
*/30 * * * *  /usr/sbin/ntpdate 192.168.11.11
 
###########slave2:192.168.11.13与以上操作相同######
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15

安装时间同步服务器、同步服务
1

  开启服务
1

 执行同步
1

计划定时任务
1

3.2.3、配置主服务器（192.168.11.11）

1. #开启二进制日志
vim /etc/my.cnf
 
log-bin=master-bin        #开启二进制日志
binlog_format=MIXED       #二进制日志格式
log-slave-updates=true    #开启从服务器同步
 
2. #重启服务
systemctl restart mysqld.service 
 
3. #登入mysql，给从服务器在网段授权
mysql -uroot -p123123
grant replication slave on *.* to 'myslave'@'192.168.11.%' identified by '123123';
 
#刷新数据库
flush privileges;
 
#查看主服务器二进制文件
show master status;
开启二进制日志
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

 开启二进制日志
1

重启服务
1

 登入mysql，给从服务器在网段授权
1

3.2.4、配置从服务器（192.168.11.12、192.168.11.13）

1.#开启二进制日志
vim /etc/my.cnf
server-id = 11 #slave1和slave2的id不能相同，我slave2设置的22
relay-log=relay-log-bin
relay-log-index=slave-relay-bin.index
 
2.#重启服务
systemctl restart mysqld.service 
 
3. #登入mysql，配置同步注意master_log_file和master_log_pos的值要和master查询的一致
mysql -uroot -p123123
change master to master_host='192.168.11.11',master_user='myslave',master_password='123123',master_log_file='master-bin.000001',master_log_pos=603;
 
4.#启动同步，如果报错，执行restart slave试试
start slave;
show slave status\G;
##以下两个必须要是YES
#Slave_IO_Running: Yes
#Slave_SQL_Running: Yes
 
 
#########slave2：192.168.11.13与以上操作相同######
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22

 开启二进制日志
1

重启服务
1

 登入mysql，配置同步注意master_log_file和master_log_pos的值要和master查询的一致
1

3.2.5、 验证主从同步

#在主服务器上创建一个库
create database nba;
 
#在从服务器上查看
show databases;
1
2
3
4
5

四、搭建Amoeba 实现读写分离（192.168.11.14）

4.1、安装 Java 环境

################安装 Java 环境###############
1.#下载安装包：jdk-6u14-linux-x64.bin、amoeba-mysql-binary-2.2.0.tar.gz 
cd /opt
 
2.#把jdk复制到/usr/local下
cp jdk-6u14-linux-x64.bin /usr/local/
 
3.#赋予jdk权限并执行
chmod +x /usr/local/jdk-6u14-linux-x64.bin
cd /usr/local/
./jdk-6u14-linux-x64.bin  #一路回车到底，最后输入yes 自动安装
 
4.#jdk改个名字
mv jdk1.6.0_14/ jdk1.6
 
5.#配置环境并刷新
vim /etc/profile
export JAVA_HOME=/usr/local/jdk1.6
export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
export PATH=$JAVA_HOME/lib:$JAVA_HOME/jre/bin/:$PATH:$HOME/bin
export AMOEBA_HOME=/usr/local/amoeba
export PATH=$PATH:$AMOEBA_HOME/bin
 
source /etc/profile      #刷新配置文件
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24

下载安装包 
1

把jdk复制到/usr/local下
1

赋予jdk权限并执行
1

 jdk改个名字
1

 配置环境
1

4.2、配置amoeba

############## 安装amoeba ###########
 
1.#在/usr/local目录下创建amoeba目录
mkdir /usr/local/amoeba
 
2.#切换至opt解压amoeba
cd /opt/
tar zxvf amoeba-mysql-binary-2.2.0.tar.gz -C /usr/local/amoeba
 
cd /usr/local/ 切换至目录查看
 
 
3.#给目录/usr/local/amoeba赋予执行权限
chmod -R 755 /usr/local/amoeba/
 
4.#运行amoeba
/usr/local/amoeba/bin/amoeba
 
 
###########配置 Amoeba读写分离 ####
5.#先在Master、Slave1mysql上开放权限给 Amoeba 访问
grant all on *.* to test@'192.168.11.%' identified by '123123';
flush privileges;
 
6.#备份amoeba配置
cd /usr/local/amoeba/conf/
cp amoeba.xml amoeba.xml.bak
cp dbserver.dtd dbserver.dtd.bak
 
7.#修改amoeba配置
vim amoeba.xml
30 <property name="user">amoeba</property>
#设置登录用户名
32<property name="password">123123</property>
#设置密码
 
115<property name="defaultPool">master</property>
#设置默认池为master
118<property name="writePool">master</property>
#设置写池
119<property name="readPool">slaves</property>
#设置读池
 
vim dbServers.xml 
23 <!-- <property name="schema">test</property> -->
#23行注释
26<property name="user">test</property>
#设置登录用户
28 <!--  mysql password -->
#删除
29<property name="password">123123</property>
#解决28注释，添加密码
 
45<dbServer name="master"  parent="abstractServer">
#服务池名
48<property name="ipAddress">192.168.11.11</property>
#添加地址
 
52<dbServer name="slave1"  parent="abstractServer">
55<property name="ipAddress">192.168.11.12</property>
复制6行 添加另一从节点
59<dbServer name="slave2"  parent="abstractServer">
62<property name="ipAddress">192.168.11.13</property>
 
66<dbServer name="slaves" virtual="true">
#定义池名
72<property name="poolNames">slave1,slave2</property>
#写上从节点名
 
8.#启动amoeba，并测试
amoeba start
netstat -ntap |grep java
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72

在/usr/local目录下创建amoeba目录
1

切换至opt解压amoeba
1

 给目录/usr/local/amoeba赋予执行权限
1

 运行amoeba
1

先在Master、Slave1mysql上开放权限给 Amoeba 访问
1

备份amoeba配置
1

修改配置文件
1

 启动amoeba
1

4.3 、测试读写分离

#客户端

#客户端
yum install -y mariadb-server mariadb
systemctl start mariadb.service

在客户端服务器上测试：
mysql -u amoeba -p123456 -h 192.168.11.15 -P8066		
#通过amoeba服务器代理访问mysql ，在通过客户端连接mysql后写入的数据只有主服务会记录，然后同步给从--从服务器

1
2
3
4
5
6
7
8

#在主服务器上
use test;
create table testb (id int(10),name varchar(10),address varchar(20));

1
2
3
4

#在两台从服务器上
stop slave;											#关闭同步
use test;

#在slave1上：
insert into testb values('1','zhangsan','this_is_slave1');

#在slave2上：
insert into testb values('2','lisi','this_is_slave2');

1
2
3
4
5
6
7
8
9
10

#在主服务器上：
insert into testb values('3','wangwu','this_is_master');

1
2
3

#在客户端服务器上：
use test;
select * from testb;		
#客户端会分别向slave1和slave2读取数据，显示的只有在两个从服务器上添加的数据，没有在主服务器上添加的数据

insert into test values('4','qianqi','this_is_client');		
#只有主服务器上有此数据

1
2
3
4
5
6
7
8

#在两个从服务器上执行 start slave; 即可实现同步在主服务器上添加的数据
start slave;

1
2
3