部署LVS-DR群集

LVS-DR数据包流向分析

为方便进行原理分析，将Client与群集机器放在同一网
络中数据包流经的路线为1-2-3-4

1、Client向目标VIP发出请求，Director(负载均衡器)接收

IP包头及数据帧头信息

2、Director根据负载均衡算法选择RealServer_1,不修改也不封装IP报文，而是将数据帧的MAC地址改为RealServer1的MAC地址，然后在局域网上发送

3、RealServer_1收到这个帧，解封装后发现目标lP与本机匹配(RealServer事先绑定了VP),于是处理这个报文。随后重新封装报文，发送到局域网

4、Client将收到回复报文。Clienti认为得到正常的服务，而不会知道是哪一台服务器处理的

LVS-DR中的ARP问题

在LVS-DR负载均衡集群中，负载均衡器与节点服务器都要配置相同的VIP地址

数据包流向分析：

(1)客户端发送请求到Director Server(负载均衡器)，请求的数据报文（源IP是CIP,目标IP是IP)到达内核空间。
(2)Director Server Real Server
在同一个网络中，数据通过二层数据链路层来传输。
(3)内核空间判断数据包的目标IP是本机VIP,此时IPVS(IP虚拟服务器)比对数据包请求的服务是否是集群服务，是集群服务就重新封装数据包。修改源MAC地址为Director Server的MAC地址，修改目标MAC地址为Real Server的MAC地址，源IP地址与目标IP地址没有改变，然后将数据包发送给Real Server。
(4)到达Real Server的请求报文的MAC地址是自身的MAC地址，就接收此报文。数据包重新封装报文（源IP地址为VIP,目标IP为CIP),将响应报文通过1。接口传送给物理网卡然后向外发出。
(5)Real Server直接将响应报文传送到客户端。
1
2
3
4
5
6

DR模式的特点：

(1)Director Server和Real Server必须在同一个物理网络中。
(2)Real Server
可以使用私有地址，也可以使用公网地址。如果使用公网地址，可以通过互联网对RIP进行直接访问。
(3)Director Server作为群集的访问入口，但不作为网关使用。
(4)所有的请求报文经由Director Server,但回复响应报文不能经过Director Server.
(5)Real Server的网关不允许指向Director Server IP,即Real
Server:发送的数据包不允许经过 Director Server。
(6)Real Server上的lo接口配置VIP的IP地址。
1
2
3
4
5
6
7
8

LVS-DR中的ARP问题

1、在局域网中具有相同的P地址，势必会造成各服务器ARP通信的紊乱

当ARP广播发送到LVS-DR集群时，因为负载均衡衡器和节点服务器都是连接到相同的网路上，它们都会接收到ARP广播

只有前端的负载均衡器进行响应，其他节点服务器不应该响应ARP广播
1
2
3

2、对节点服务器进行处理，使其不响应针对VIP的ARP请求

使用虚接口lo：0承载VIP地址
设置内核参数arp_ignore=1:系统只响应目的IP为本地IP的ARP请求
1
2

3、RealServeri返回报文(源P是VIP)经路由器转发，重新封装报文时
需要先获取路由器的MAC地址

发送ARP请求时，Linux默认使用IP包的源P地址（即VIP)作为ARP请
求包中的源P地址，而不使用发送接口的P地址

4、路由器收到ARP请求后，将更新ARP表项

原有的W4P对应Director的MAC地址会被更新为P对应RealServer的MAC地址

5、问题
路由器根据ARP表项，会将新来的请求报文转发给RealServer，导致
Director的VIP失效
解决方法
对节点服务器进行处理，设置内核参数arp announce:=2:系统不使用IP包的源地址来设置ARP请求的源地址，而选择发送接口的P地址

1、arp ingore=1
防止网关路由器发送ARP广播时调度器和节点服务器都进行响应，这个会导致ARP缓存表混乱，不对非本地物理网卡IP的ARP请求响应，因为VIP是承载lo:0
1
2

2、arp announce=2
系统不使用响应的数据的源IP地址(VIP),而使用发送报文的物理网卡IP地址作为ARP请求的报文的源IP地址，这样可以防止网关路由器接受到的源IP地址为VIP的ARP请求报文后又更新ARP缓存表，导致外网再发送请求时，数据包到达不了调度器
1
2

LVS-DR实验

在192.168.35.10这台负载均衡设备上

[root@localhost ~]# cd /etc/sysconfig/network-scripts/
[root@localhost network-scripts]# cp ifcfg-ens33 ifcfg-ens33:0
[root@localhost network-scripts]# vim ifcfg-ens33:0
DEVICE="ens33：0"
ONBOOT="yes"
IPADDR=192.168.35.180
NETMASK=255.255.255.255
[root@localhost network-scripts]# systemctl restart netstart

1
2
3
4
5
6
7
8
9

改内核参数

[root@localhost network-scripts]# vim /etc/sysctl.conf
加在行尾
net.ipv4.ip_forward = 0
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0
刷新一下
[root@localhost network-scripts]# sysctl -p
1
2
3
4
5
6
7
8

查看一下版本

[root@localhost network-scripts]# modprobe ip_vs
[root@localhost network-scripts]# cat /proc/net/ip_vs
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port Forward Weight ActiveConn InActConn

[root@localhost network-scripts]# yum install -y ipvsadm
[root@localhost network-scripts]# ipvsadm-save > /etc/sysconfig/ipvsadm
[root@localhost network-scripts]# systemctl start ipvsadm.service

清空一下
[root@localhost network-scripts]# ipvsadm -C

[root@localhost network-scripts]# ipvsadm -A -t 192.168.35.180:80 -s rr
[root@localhost network-scripts]# ipvsadm -a -t 192.168.35.180:80 -r 192.168.35.7:80 -g
[root@localhost network-scripts]# ipvsadm -a -t 192.168.35.180:80 -r 192.168.35.8:80 -g

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17

查看一下是否连接成功

[root@localhost network-scripts]# ipvsadm
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port           Forward Weight ActiveConn InActConn
TCP  localhost.localdomain:http rr
  -> 192.168.35.7:http            Route   1      0          0         
  -> 192.168.35.8:http            Route   1      0          0         

1
2
3
4
5
6
7
8

打开192.168.35.7和192.168.35.8的机器

[root@localhost ~]# cd /etc/sysconfig/network-scripts/

[root@localhost network-scripts]# cp ifcfg-lo ifcfg-lo:0

[root@localhost network-scripts]# vim ifcfg-lo:0
DEVICE=lo:0
ONBOOT=yes
IPADDR=192.168.35.180
NETMASK=255.255.255.255
[root@localhost network-scripts]# systemctl restart network

[root@localhost network-scripts]# route add -host 192.168.35.180 dev lo:0
查看一下
[root@localhost network-scripts]# route
Kernel IP routing table
Destination     Gateway         Genmask         Flags Metric Ref    Use Iface
default         gateway         0.0.0.0         UG    100    0        0 ens33
192.168.35.0    0.0.0.0         255.255.255.0   U     100    0        0 ens33
localhost.local 0.0.0.0         255.255.255.255 UH    0      0        0 lo
192.168.122.0   0.0.0.0         255.255.255.0   U     0      0        0 virbr0

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21

[root@localhost network-scripts]# vim /etc/sysctl.conf
net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce = 2
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
刷新一下
[root@localhost network-scripts]# sysctl -p

1
2
3
4
5
6
7
8

.ipv4.conf.lo.arp_announce = 2
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
刷新一下
[root@localhost network-scripts]# sysctl -p

[外链图片转存中...(img-2KCOsSp5-1659442314519)]

![image-20220801224917293](https://img-blog.csdnimg.cn/img_convert/77cfc3a99fc7891eec4407e80ece9e14.png)
1
2
3
4