寫在前面的話:
記錄自己的學習和進步,並分享出去,本身就是一件快樂的事。
目錄
一、準備工作
1、給虛擬機機準備配置兩塊網卡eth0,eth1,host only模式的,如下,我這裏舉例綁定的是網絡3--eth0,網絡4---eth1
2、檢查bond配置文件,如果沒有自己vi編輯一個保存
cat /etc/modprobe.d/bonding.conf
[root@compute ~]# cat /etc/modprobe.d/bonding.conf
alias bond0 bonding
options bond0 mode=1 miimon=100 fail_over_mac=1
注意:這裏fail_over_mac很重要,如果真機不需要,但是linux虛機是需要的,否則有點問題
linux網卡bonging的備份模式實驗在真實機器上做完全沒問題(前提是linux內核支持),但是在vmware workstation虛擬中bond0能夠正常啓動也能夠正常使用,只不過沒有起到備份模式的效果。當使用ifdown eth0後,網絡出現不通現象。
內核文檔中有說明:bond0獲取mac地址有兩種方式,一種是從第一個活躍網卡中獲取mac地址,然後其餘的SLAVE網卡的mac地址都使用該mac地址;另一種是使用fail_over_mac參數,是bond0使用當前活躍網卡的mac地址,mac地址或者活躍網卡的轉換而變。
既然vmware workstation不支持第一種獲取mac地址的方式,那麼可以使用fail_over_mac=1參數,所以這裏我們添加fail_over_mac=1參數
後面知識點詳細介紹
3、檢查linux內核是否加載
lsmod | grep bonding
如果沒有,加載bond,加載指令:
modprobe bonding
二、網卡配置
1、eth0,eth1,bond0的網卡配置
eth0配置:
[root@compute ~]# cd /etc/sysconfig/network-scripts/
[root@compute network-scripts]# cat ifcfg-eth0
TYPE=Ethernet
BOOTPROTO=none
DEFROUTE=yes
PEERDNS=yes
PEERROUTES=yes
IPV4_FAILURE_FATAL=no
IPV6INIT=yes
IPV6_AUTOCONF=yes
IPV6_DEFROUTE=yes
IPV6_PEERDNS=yes
IPV6_PEERROUTES=yes
IPV6_FAILURE_FATAL=no
NAME=eth0
UUID=7a71b3d5-00f3-4370-b7f4-e64df22c0708
DEVICE=eth0
ONBOOT=yes
HWADDR=00:50:56:38:32:04
MASTER=bond0
SLAVE=yes
#IPADDR0="172.16.20.12"
#PREFIX0="24
當然我們知道網卡里的配置參數較多,有些可能不是必須的,可以根據情況選用,我的這個配置起bond驗證是沒問題的
eth1配置:
[root@compute network-scripts]# cat ifcfg-eth1
TYPE=Ethernet
BOOTPROTO=none
DEFROUTE=yes
PEERDNS=yes
PEERROUTES=yes
IPV4_FAILURE_FATAL=no
IPV6INIT=yes
IPV6_AUTOCONF=yes
IPV6_DEFROUTE=yes
IPV6_PEERDNS=yes
IPV6_PEERROUTES=yes
IPV6_FAILURE_FATAL=no
NAME=eth1
UUID=7907a184-5336-47ef-ae66-1f6c96a3b325
DEVICE=eth1
ONBOOT=yes
HWADDR=00:50:56:25:AB:74
MASTER=bond0
SLAVE=yes
#IPADDR0="172.16.20.12"
#PREFIX0="24"
bond0配置:
[root@compute network-scripts]# cat ifcfg-bond0
BOOTPROTO=static
IPADDR=172.16.20.13
PREFIX=24
DEVICE=bond0
ONBOOT=yes
#BONDING_OPTS="mode=1 miimon=100 updelay=60000 primary=eth1"
#BONDING_OPTS="mode=0 miimon=100 updelay=60000"
#BONDING_OPTS="mode=0 miimon=100 fail_over_mac=1"
NM_CONTROLLED=no
MTU=9000
ONPARRENT=yes
其實bond的配置模式和參數,不一定要在/etc/modprobe.d/bonding.conf裏配置,也可以在網卡BONDING_OPTS參數裏進行配置,效果是一樣的。
2、重啓網絡服務使配置生效
service network restart
有時候重啓服務不一定生效,需要reboot虛機才生效
三、檢查bond的狀態
1、ifconfig檢查網卡
[root@compute network-scripts]# ifconfig
bond0: flags=5187<UP,BROADCAST,RUNNING,MASTER,MULTICAST> mtu 9000
inet 172.16.20.13 netmask 255.255.255.0 broadcast 172.16.20.255
inet6 fe80::250:56ff:fe38:3204 prefixlen 64 scopeid 0x20<link>
ether 00:50:56:38:32:04 txqueuelen 1000 (Ethernet)
RX packets 32 bytes 2986 (2.9 KiB)
RX errors 0 dropped 0 overruns 0 frame 0
TX packets 19 bytes 1410 (1.3 KiB)
TX errors 0 dropped 0 overruns 0 carrier 0 collisions 0
eth0: flags=6211<UP,BROADCAST,RUNNING,SLAVE,MULTICAST> mtu 9000
ether 00:50:56:38:32:04 txqueuelen 1000 (Ethernet)
RX packets 14 bytes 1398 (1.3 KiB)
RX errors 0 dropped 0 overruns 0 frame 0
TX packets 19 bytes 1410 (1.3 KiB)
TX errors 0 dropped 0 overruns 0 carrier 0 collisions 0
eth1: flags=6211<UP,BROADCAST,RUNNING,SLAVE,MULTICAST> mtu 9000
ether 00:50:56:25:ab:74 txqueuelen 1000 (Ethernet)
RX packets 18 bytes 1588 (1.5 KiB)
RX errors 0 dropped 0 overruns 0 frame 0
TX packets 0 bytes 0 (0.0 B)
TX errors 0 dropped 0 overruns 0 carrier 0 collisions 0
2、檢查bond
[root@compute ~]# cat /proc/net/bonding/bond0
Ethernet Channel Bonding Driver: v3.7.1 (April 27, 2011)
Bonding Mode: fault-tolerance (active-backup) (fail_over_mac active)
Primary Slave: None
Currently Active Slave: eth0
MII Status: up
MII Polling Interval (ms): 100
Up Delay (ms): 0
Down Delay (ms): 0
Slave Interface: eth0
MII Status: up
Speed: 1000 Mbps
Duplex: full
Link Failure Count: 0
Permanent HW addr: 00:50:56:38:32:04
Slave queue ID: 0
Slave Interface: eth1
MII Status: up
Speed: 1000 Mbps
Duplex: full
Link Failure Count: 0
Permanent HW addr: 00:50:56:25:ab:74
Slave queue ID: 0
我們看到這裏使mode1,對應使active-backup模式
四、需要注意的知識點
1、什麼是bond?
網卡bond是通過多張網卡綁定爲一個邏輯網卡,實現本地網卡的冗餘,帶寬擴容和負載均衡,在生產場景中是一種常用的技術。Kernels 2.4.12及以後的版本均供bonding模塊,以前的版本可以通過patch實現。可以通過以下命令確定內核是否支持 bonding
2、bond的模式
bond的模式常用的有兩種:
mode=0(balance-rr)
表示負載分擔round-robin,並且是輪詢的方式比如第一個包走eth0,第二個包走eth1,直到數據包發送完畢。
優點:流量提高一倍
缺點:需要接入交換機做端口聚合,否則可能無法使用
mode=1(active-backup)
表示主備模式,即同時只有1塊網卡在工作。
優點:冗餘性高
缺點:鏈路利用率低,兩塊網卡只有1塊在工作
bond其他模式:
mode=2(balance-xor)(平衡策略)
表示XOR Hash負載分擔,和交換機的聚合強制不協商方式配合。(需要xmit_hash_policy,需要交換機配置port channel)
特點:基於指定的傳輸HASH策略傳輸數據包。缺省的策略是:(源MAC地址 XOR 目標MAC地址) % slave數量。其他的傳輸策略可以通過xmit_hash_policy選項指定,此模式提供負載平衡和容錯能力
mode=3(broadcast)(廣播策略)
表示所有包從所有網絡接口發出,這個不均衡,只有冗餘機制,但過於浪費資源。此模式適用於金融行業,因爲他們需要高可靠性的網絡,不允許出現任何問題。需要和交換機的聚合強制不協商方式配合。
特點:在每個slave接口上傳輸每個數據包,此模式提供了容錯能力
mode=4(802.3ad)(IEEE 802.3ad 動態鏈接聚合)
表示支持802.3ad協議,和交換機的聚合LACP方式配合(需要xmit_hash_policy).標準要求所有設備在聚合操作時,要在同樣的速率和雙工模式,而且,和除了balance-rr模式外的其它bonding負載均衡模式一樣,任何連接都不能使用多於一個接口的帶寬。
特點:創建一個聚合組,它們共享同樣的速率和雙工設定。根據802.3ad規範將多個slave工作在同一個激活的聚合體下。外出流量的slave選舉是基於傳輸hash策略,該策略可以通過xmit_hash_policy選項從缺省的XOR策略改變到其他策略。需要注意的是,並不是所有的傳輸策略都是802.3ad適應的,尤其考慮到在802.3ad標準43.2.4章節提及的包亂序問題。不同的實現可能會有不同的適應性。
必要條件:
條件1:ethtool支持獲取每個slave的速率和雙工設定
條件2:switch(交換機)支持IEEE802.3ad Dynamic link aggregation
條件3:大多數switch(交換機)需要經過特定配置才能支持802.3ad模式
mode=5(balance-tlb)(適配器傳輸負載均衡)
是根據每個slave的負載情況選擇slave進行發送,接收時使用當前輪到的slave。該模式要求slave接口的網絡設備驅動有某種ethtool支持;而且ARP監控不可用。
特點:不需要任何特別的switch(交換機)支持的通道bonding。在每個slave上根據當前的負載(根據速度計算)分配外出流量。如果正在接受數據的slave出故障了,另一個slave接管失敗的slave的MAC地址。
必要條件:
ethtool支持獲取每個slave的速率
mode=6(balance-alb)(適配器適應性負載均衡)
在5的tlb基礎上增加了rlb(接收負載均衡receiveload balance).不需要任何switch(交換機)的支持。接收負載均衡是通過ARP協商實現的.
特點:該模式包含了balance-tlb模式,同時加上針對IPV4流量的接收負載均衡(receiveload balance, rlb),而且不需要任何switch(交換機)的支持。接收負載均衡是通過ARP協商實現的。bonding驅動截獲本機發送的ARP應答,並把源硬件地址改寫爲bond中某個slave的唯一硬件地址,從而使得不同的對端使用不同的硬件地址進行通信。來自服務器端的接收流量也會被均衡。當本機發送ARP請求時,bonding驅動把對端的IP信息從ARP包中複製並保存下來。當ARP應答從對端到達時,bonding驅動把它的硬件地址提取出來,併發起一個ARP應答給bond中的某個slave。使用ARP協商進行負載均衡的一個問題是:每次廣播 ARP請求時都會使用bond的硬件地址,因此對端學習到這個硬件地址後,接收流量將會全部流向當前的slave。這個問題可以通過給所有的對端發送更新(ARP應答)來解決,應答中包含他們獨一無二的硬件地址,從而導致流量重新分佈。當新的slave加入到bond中時,或者某個未激活的slave重新激活時,接收流量也要重新分佈。接收的負載被順序地分佈(round robin)在bond中最高速的slave上當某個鏈路被重新接上,或者一個新的slave加入到bond中,接收流量在所有當前激活的slave中全部重新分配,通過使用指定的MAC地址給每個 client發起ARP應答。下面介紹的updelay參數必須被設置爲某個大於等於switch(交換機)轉發延時的值,從而保證發往對端的ARP應答不會被switch(交換機)阻截。
bond模式小結:
mode5和mode6不需要交換機端的設置,網卡能自動聚合。mode4需要支持802.3ad。mode0,mode2和mode3理論上需要靜態聚合方式。
3、bond配置參數:
arp_interval
指定ARP鏈路監控頻率,單位是毫秒(ms)。如果APR監控工作於以太兼容模式(模式0和模式2)下,需要把switch(交換機)配置爲在所有鏈路上 均勻的分發網絡包。如果switch(交換機)被配置爲以XOR方式分發網絡包,所有來自ARP目標的應答將會被同一個鏈路上的其他設備收到,這將會導致 其他設備的失敗。ARP監控不應該和miimon同時使用。設定爲0將禁止ARP監控。缺省值爲0。
arp_ip_target
指定一組IP地址用於ARP監控的目標,它只在arp_interval > 0時有效。這些IP地址是ARP請求發送的目標,用於判定到目標地址的鏈路是否工作正常。該設定值爲ddd.ddd.ddd.ddd格式。多個IP地址通 過逗號分隔。至少指定一個IP地址。最多可以指定16個IP地址。缺省值是沒有IP地址。
downdelay
指定一個時間,用於在發現鏈路故障後,等待一段時間然後禁止一個slave,單位是毫秒(ms)。該選項只對miimon監控有效。downdelay值應該是miimon值的整數倍,否則它將會被取整到最接近的整數倍。缺省值爲0。
lacp_rate
指定在802.3ad模式下,我們希望的鏈接對端傳輸LACPDU包的速率。可能的選項:
slow 或者 0
請求對端每30s傳輸LACPDU
fast 或者 1
請求對端每1s傳輸LACPDU,缺省值是slow
max_bonds
爲bonding驅動指定創建bonding設備的數量。比如,如果max_bonds爲3,而且bonding驅動還沒有加載,那麼bond0,bond1,bond2將會被創建。缺省值爲1。
miimon
指定MII鏈路監控頻率,單位是毫秒(ms)。這將決定驅動檢查每個slave鏈路狀態頻率。0表示禁止MII鏈路監控。100可以作爲一個很好的初始參 考值。下面的use_carrier選項將會影響如果檢測鏈路狀態。更多的信息可以參考“高可靠性”章節。缺省值爲0。
mode,上面介紹的配置模式