【0606】集群架构、高可用、负载均衡（下）

18.11 LVS DR模式搭建

生产环境中 DR 模式使用比较多，IP tunnel 模式比较少，NAT 模式也不多

试验环境：

分发器：192.168.194.130

rs1 ：192.168.194.132

rs2 ：192.168.194.133

vip ：192.168.194.200

1、将 rs1 和 rs2 的网关改回默认网关，192.168.194.2

2、dir 上编辑脚本 /usr/local/sbin/lvs_dr.sh

[root@arslinux-01 ~]# vim /usr/local/sbin/lvs_dr.sh
#! /bin/bash
echo 1 > /proc/sys/net/ipv4/ip_forward
ipv=/usr/sbin/ipvsadm
vip=192.168.194.200
rs1=192.168.194.132
rs2=192.168.194.133
#注意这里的网卡名字
ifdown ens33
ifup ens33
ifconfig ens33:2 $vip broadcast $vip netmask 255.255.255.255 up
route add -host $vip dev ens33:2
$ipv -C
$ipv -A -t $vip:80 -s rr
$ipv -a -t $vip:80 -r $rs1:80 -g -w 1
$ipv -a -t $vip:80 -r $rs2:80 -g -w 1

-m是nat模式，-g是dr模式

3、执行脚本 lvs_dr.sh

[root@arslinux-01 ~]# sh /usr/local/sbin/lvs_dr.sh
成功断开设备 'ens33'。
连接已成功激活（D-Bus 活动路径：/org/freedesktop/NetworkManager/ActiveConnection/4）

4、两台 rs 上也要编辑脚本 /usr/localsbin/lvs_rs.sh

[root@arslinux-02 ~]# vim /usr/local/sbin/lvs_rs.sh
#/bin/bash
vip=192.168.133.200
#把vip绑定在lo上，是为了实现rs直接把结果返回给客户端
ifdown lo
ifup lo
ifconfig lo:0 $vip broadcast $vip netmask 255.255.255.255 up
route add -host $vip lo:0
#以下操作为更改arp内核参数，目的是为了让rs顺利发送mac地址给客户端
#参考文档www.cnblogs.com/lgfeng/archive/2012/10/16/2726308.html
echo "1" >/proc/sys/net/ipv4/conf/lo/arp_ignore
echo "2" >/proc/sys/net/ipv4/conf/lo/arp_announce
echo "1" >/proc/sys/net/ipv4/conf/all/arp_ignore
echo "2" >/proc/sys/net/ipv4/conf/all/arp_announce

rs 2 上同 rs1

5、分别执行 lvs_rs.sh

6、route -n

[root@arslinux-02 ~]# route -n
Kernel IP routing table
Destination     Gateway         Genmask         Flags Metric Ref    Use Iface
0.0.0.0         192.168.194.2   0.0.0.0         UG    100    0        0 ens33
192.168.133.200 0.0.0.0         255.255.255.255 UH    0      0        0 lo
192.168.194.0   0.0.0.0         255.255.255.0   U     100    0        0 ens33

[root@arslinux-02 ~]# ip add
1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN group default qlen 1000
link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
inet 127.0.0.1/8 scope host lo
valid_lft forever preferred_lft forever
inet 192.168.133.200/32 brd 192.168.133.200 scope global lo:0
valid_lft forever preferred_lft forever
inet6 ::1/128 scope host
valid_lft forever preferred_lft forever
2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP group default qlen 1000
link/ether 00:0c:29:14:4f:d9 brd ff:ff:ff:ff:ff:ff
inet 192.168.194.132/24 brd 192.168.194.255 scope global noprefixroute ens33
valid_lft forever preferred_lft forever
inet6 fe80::4c99:ed43:5757:e772/64 scope link noprefixroute
valid_lft forever preferred_lft forever

7、dir 上的 ip，ens33 有 192.168.194.200

[root@arslinux-01 ~]# ip add
1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN group default qlen 1000
link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
inet 127.0.0.1/8 scope host lo
valid_lft forever preferred_lft forever
inet6 ::1/128 scope host
valid_lft forever preferred_lft forever
2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP group default qlen 1000
link/ether 00:0c:29:24:ea:f2 brd ff:ff:ff:ff:ff:ff
inet 192.168.194.130/24 brd 192.168.194.255 scope global noprefixroute ens33
valid_lft forever preferred_lft forever
inet 192.168.194.200/32 brd 192.168.194.200 scope global ens33:2
valid_lft forever preferred_lft forever
inet 192.168.194.150/24 brd 192.168.194.255 scope global secondary noprefixroute ens33:0
valid_lft forever preferred_lft forever
inet6 fe80::c905:5e78:b916:41da/64 scope link noprefixroute
valid_lft forever preferred_lft forever
3: ens37: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP group default qlen 1000
link/ether 00:0c:29:24:ea:fc brd ff:ff:ff:ff:ff:ff
inet 192.168.100.1/24 brd 192.168.100.255 scope global noprefixroute ens37
valid_lft forever preferred_lft forever
inet6 fe80::f41:9da7:d8e3:10ba/64 scope link noprefixroute
valid_lft forever preferred_lft forever
4: ens38: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP group default qlen 1000
link/ether 00:0c:29:24:ea:06 brd ff:ff:ff:ff:ff:ff
inet 192.168.174.100/24 brd 192.168.174.255 scope global noprefixroute ens38
valid_lft forever preferred_lft forever
inet6 fe80::d106:93d1:7e89:8102/64 scope link noprefixroute
valid_lft forever preferred_lft forever

8、测试，浏览器访问 192.168.194.200 ，多访问几次看结果

客户量达到一定程度之后，就会达到均衡的作用

注意：打开端口转发，修改内核参数不要忘

nat 模式需要将 rs 的网关修改为 dir 的内网 ip，不要忽略

18.12 keepalived + LVS

为什么将 keepalived 加入到 lvs 中来的目的：

1，lvs 有 分发器的角色，一旦宕机，所有服务和访问都会被终止（所有入口在分发器 dir 上）

2，keepalived 有负载均衡的作用

3，lvs 并不聪明，哪怕后台有一个 rs 宕机，它依然会将请求转发过去，有 keepalived 的话，一台 rs宕机时，keepalived 不会再将请求转发过去

• 完整架构需要两台服务器（角色为dir）分别安装 keepalived 软件，目的是实现高可用，但keepalived 本身也有负载均衡的功能，所以本次实验可以只安装一台 keepalived

• keepalived 内置了 ipvsadm 的功能，所以不需要再安装 ipvsadm 包，也不用编写和执行那个 lvs_dir 的脚本

测试环境：

dir ：192.168.194.130

rs1 ：192.168.194.132

rs2 ：192.168.194.133

vip ：192.168.194.100

1、dir 上编辑 /etc/keepalived/keepalived.conf

[root@arslinux-01 ~]# vim /etc/keepalived/keepalived.conf
vrrp_×××tance VI_1 {
#备用服务器上为 BACKUP
state MASTER
#绑定vip的网卡为ens33，你的网卡和阿铭的可能不一样，这里需要你改一下
interface ens33
virtual_router_id 51
#备用服务器上为90
priority 100
advert_int 1
authentication {
    auth_type PASS
    auth_pass aminglinux
}
virtual_ipaddress {
    192.168.194.200
    }
}
virtual_server 192.168.194.200 80 {
    #(每隔10秒查询realserver状态)
    delay_loop 10
    #(lvs 算法)
    lb_algo wlc
    #(DR模式)
    lb_kind DR
    #(同一IP的连接60秒内被分配到同一台realserver)
    persistence_timeout 0
    #(用TCP协议检查realserver状态)
    protocol TCP
    real_server 192.168.194.132 80 {
        #(权重)
        weight 100
        TCP_CHECK {
        #(10秒无响应超时)
        connect_timeout 10
        nb_get_retry 3
        delay_before_retry 3
        connect_port 80
        }
    }
    real_server 192.168.194.133 80 {
        weight 100
        TCP_CHECK {
        connect_timeout 10
        nb_get_retry 3
        delay_before_retry 3
        connect_port 80
        }
    }
}

2、启动 keepalived

[root@arslinux-01 ~]# systemctl start keepalived
[root@arslinux-01 ~]# ps aux|grep keep
root       9372  0.0  0.1 122980  1412 ?        Ss   11:59   0:00 /usr/sbin/keepalived -D
root       9373  0.1  0.3 133944  3368 ?        S    11:59   0:00 /usr/sbin/keepalived -D
root       9374  0.0  0.2 133812  2636 ?        S    11:59   0:00 /usr/sbin/keepalived -D
root       9381  0.0  0.0 112724   988 pts/1    R+   12:00   0:00 grep --color=auto keep

3、因为之前设定的虚拟 ip 和现在的 虚拟 ip 冲突，因此先关闭原先的 虚拟 ip

[root@arslinux-01 ~]# systemctl stop keepalived
[root@arslinux-01 ~]# ip add
1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN group default qlen 1000
    link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
    inet 127.0.0.1/8 scope host lo
        valid_lft forever preferred_lft forever
    inet6 ::1/128 scope host
        valid_lft forever preferred_lft forever
2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP group default qlen 1000
    link/ether 00:0c:29:24:ea:f2 brd ff:ff:ff:ff:ff:ff
    inet 192.168.194.130/24 brd 192.168.194.255 scope global noprefixroute ens33
        valid_lft forever preferred_lft forever
    inet 192.168.194.150/24 brd 192.168.194.255 scope global secondary noprefixroute ens33:0
        valid_lft forever preferred_lft forever
    inet6 fe80::c905:5e78:b916:41da/64 scope link noprefixroute
        valid_lft forever preferred_lft forever
3: ens37: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP group default qlen 1000
    link/ether 00:0c:29:24:ea:fc brd ff:ff:ff:ff:ff:ff
    inet 192.168.100.1/24 brd 192.168.100.255 scope global noprefixroute ens37
        valid_lft forever preferred_lft forever
    inet6 fe80::f41:9da7:d8e3:10ba/64 scope link noprefixroute
        valid_lft forever preferred_lft forever
4: ens38: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP group default qlen 1000
    link/ether 00:0c:29:24:ea:06 brd ff:ff:ff:ff:ff:ff
    inet 192.168.174.100/24 brd 192.168.174.255 scope global noprefixroute ens38
        valid_lft forever preferred_lft forever
    inet6 fe80::d106:93d1:7e89:8102/64 scope link noprefixroute
        valid_lft forever preferred_lft forever

192.168.194.200 已经停了

4、ipvsadm 也没有了规则

[root@arslinux-01 ~]# ipvsadm -ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port           Forward Weight ActiveConn InActConn

5、启动 keepalived，dir 上查看 ipvsadm 规则

[root@arslinux-01 ~]# ipvsadm -ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port           Forward Weight ActiveConn InActConn
TCP  192.168.194.200:80 wlc
-> 192.168.194.132:80           Route   100    0          0
-> 192.168.194.133:80           Route   100    0          0

6、关闭 rs2 的 nginx，dir 上查看 ipvsadm 现象

[root@arslinux-01 ~]# ipvsadm -ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port           Forward Weight ActiveConn InActConn
TCP  192.168.194.200:80 wlc
-> 192.168.194.132:80           Route   100    0          0
-> 192.168.194.133:80           Route   100    0          0
[root@arslinux-01 ~]# ipvsadm -ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port           Forward Weight ActiveConn InActConn
TCP  192.168.194.200:80 wlc
-> 192.168.194.132:80           Route   100    0          0
-> 192.168.194.133:80           Route   100    0          0
[root@arslinux-01 ~]# ipvsadm -ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port           Forward Weight ActiveConn InActConn
TCP  192.168.194.200:80 wlc
-> 192.168.194.132:80           Route   100    0          0
-> 192.168.194.133:80           Route   100    0          0
[root@arslinux-01 ~]# ipvsadm -ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port           Forward Weight ActiveConn InActConn
TCP  192.168.194.200:80 wlc
-> 192.168.194.132:80           Route   100    0          0

关闭 rs2 后：keepalived 会自动将宕机的 rs 踢除

7、重启 rs2 上的 nginx，可以再重新加回来

[root@arslinux-01 ~]# ipvsadm -ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port           Forward Weight ActiveConn InActConn
TCP  192.168.194.200:80 wlc
-> 192.168.194.132:80           Route   100    0          0
[root@arslinux-01 ~]# ipvsadm -ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port           Forward Weight ActiveConn InActConn
TCP  192.168.194.200:80 wlc
-> 192.168.194.132:80           Route   100    0          0
[root@arslinux-01 ~]# ipvsadm -ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port           Forward Weight ActiveConn InActConn
TCP  192.168.194.200:80 wlc
-> 192.168.194.132:80           Route   100    0          0
-> 192.168.194.133:80           Route   100    0          0

8、注意事项

配置keepalived + lvs

在两台rs上要执行lvs_rs.sh脚本

在dir上只要执行 echo 1 > /proc/sys/net/ipv4/ip_forward 即可

9、浏览器访问 192.168.194.200

扩展

heartbeat和keepalived比较http://blog.csdn.net/yunhua_lee/article/details/9788433  

DRBD工作原理和配置   http://502245466.blog.51cto.com/7559397/1298945

mysql+keepalived http://lizhenliang.blog.51cto.com/7876557/1362313

lvs 三种模式详解  http://www.it165.net/admin/html/201401/2248.html

lvs几种算法 http://www.aminglinux.com/bbs/thread-7407-1-1.html

关于arp_ignore和 arp_announcehttp://www.cnblogs.com/lgfeng/archive/2012/10/16/2726308.html

LVS DR模型中的arp_ignore https://www.imooc.com/article/79661

lvs原理相关的   http://blog.csdn.net/pi9nc/article/details/23380589

haproxy+keepalived  http://blog.csdn.net/xrt95050/article/details/40926255

nginx、lvs、haproxy比较  http://www.csdn.net/article/2014-07-24/2820837

keepalived中自定义脚本 vrrp_script   http://my.oschina.net/hncscwc/blog/158746

lvs dr模式只使用一个公网ip的实现方法   http://storysky.blog.51cto.com/628458/338726

---

课堂笔记

keepalived

heartbeat

haproxy

LVS   四层

F5

nginx  七层 四层

DRBD

https://blog.51cto.com/502245466/1298945

类似于 reid1

MHA

https://blog.51cto.com/xiaoshuiaigege/2060768

-- MHA 自动切换的原理可以总结为下面几点：

• 从宕机崩溃的master保存二进制日志事件（binlog events）;

• 识别含有最新更新的slave;

• 应用差异的中继日志（relay log）到其他的slave;

• 应用从master保存的二进制日志事件（binlog events);

• 提升一个slave为新的master;

• 使其他的slave连接新的master进行复制;