大型網站的負載均衡器、db proxy和db
本文主要分析網站後臺架構中的負載均衡器，企業常用的硬件負載均衡器軟件負載均衡器、數據庫代理服務器和數據庫。
1.1 負載均衡
在大型網站部署中，負載均衡至少有三層部署。第一層爲web server或者緩存代理之上的負載均衡，第二層爲數據庫之上的負載均衡，第三層爲存儲設備之上的負載均衡。
在第一層部署中，最常使用的是硬件負載均衡器有F5 BIG-IP、Citrix NetScaler、Radware、Cisco CSS、Foundry等產品。這些產品價格不菲，高達幾十萬人民幣。在中國大陸，採用F5Network公司的BIG-IP負載均衡交換機的網站有新浪網、雅虎、百度、搜狐、鳳凰網、央視國際、中華英才網、貓撲、暢遊等。之前淘寶採用 NetScaler作爲其硬件負載均衡器。後來用軟件負載均衡器LVS和HAproxy混合使用來代替硬件負載均衡器。硬件負載均衡器可以提供OSI參考模型的第四/七層進行負載均衡。在第七層實現負載均衡的原理是，通過檢查流經的HTTP報頭，根據報頭內的信息來執行負載均衡任務。在第四層(網絡層)實現負載均衡的DR模式的原理是，通過更改請求包的目的MAC地址來進行負載均衡。
在第一層部署中，最常用的軟件負載均衡器爲LVS(LinuxVirtual Server)和HAproxy。其中LVS採用基於IP負載均衡技術和基於內容請求分發技術。最常用的LVS負載均衡技術爲DR負載均衡。
在第二層部署中，最常用的爲mysql-proxy(後端部署必須爲MySQL數據庫)，該代理服務器可以監測、分析或改變客戶端的通信。最常用途爲負載均衡，讀寫分離等。
在第三層部署中，最常用的存儲設備都要做RAID，其中RAID0便爲最基本的存儲層的負載均衡。RAID0通過分帶技術，將數據分割，然後並行的讀寫於各個磁盤上。這樣實現底層存儲一級的負載均衡。
1.2 LVS軟件負載均衡器
LVS(LinuxVirtual Server)是由章文嵩博士主導開發的一款開源軟件，可以實現Linux平臺下的基於網絡層的負載均衡軟件。典型的基本架構圖如圖6-2-1所示。
圖6-2-1
LVS集羣採用IP負載均衡技術和基於內容請求分發技術。
如圖6-2-1所示，LVS集羣採用基於IP負載均衡技術和基於內容請求分發技術。當客戶端有請求時，首先將請求包傳送到Load Balance，然後Load Balance從後面的Real Servers中按照一定的算法策略選取一臺Real Server，比如Real Server1，然後把請求包發送給Real Server1進行處理。對所有用戶而言，面向用戶的服務器端IP地址，只有一臺，稱之爲VirtualIP Address。
1.2.1 LVS集羣中實現的三種IP負載均衡技術
VS/NAT、 VS/TUN 和VS/DR技術是LVS集羣中實現的三種IP負載均衡技術。
1.2.1.1 VS/NAT技術
VS/NAT(VirtualServer via Network Address Translation)技術，主要通過網絡地址轉換，將一組服務器構成一個高性能的、高可用的虛擬服務器。NAT的工作原理是當內部網絡中的主機要訪問Internet或被Internet訪問時，就需要採用網絡地址轉換NAT,將內部地址轉化爲Internet上可用的外部地址。NAT的工作原理是報文頭(目標地址、源地址和端口等)被正確改寫後，客戶端相信他們連接到了一個IP地址，而不同的IP地址服務器組也認爲他們與客戶直接相連的。由此，可以用NAT方法將不同IP地址的並行網絡服務變成一個IP地址上的虛擬服務。VS/NAT的體系結構如圖6-2-1-1所示。
圖6-2-1-1
客戶端訪問服務器的請求包和響應包變化情況如下所示：
訪問Web服務的報文可能有以下的源地址和目標地址：
|
SOURCE |
202.100.1.2:3456 |
DEST |
202.103.106.5:80 |
調度器從調度列表中選出一臺服務器，例如是172.16.0.3:8000。該報文會被改寫爲如下地址，並將它發送給選出的服務器。
|
SOURCE |
202.100.1.2:3456 |
DEST |
172.16.0.3:8000 |
從服務器返回到調度器的響應報文如下：
|
SOURCE |
172.16.0.3:8000 |
DEST |
202.100.1.2:3456 |
響應報文的源地址會被改寫爲虛擬服務的地址，再將報文發送給客戶：
|
SOURCE |
202.103.106.5:80 |
DEST |
202.100.1.2:3456 |
這樣，客戶認爲是從202.103.106.5:80服務得到正確的響應，而不會知道該請求是服務器172.16.0.2還是服務器172.16.0.3處理的。
1.2.1.2 VS/TUN技術
VS/TUN 的工作原理：它的連接調度和管理與VS/NAT中的一樣，只是它的報文轉發方法不同。調度器根據各個服務器的負載情況，動態地選擇一臺服務器，將請求報文封裝在另一個IP報文中，再將封裝後的IP報文轉發給選出的服務器；服務器收到報文後，先將報文解封獲得原來目標地址爲VIP的報文，服務器發現VIP地址被配置在本地的IP隧道設備上，所以就處理這個請求，然後根據路由表將響應報文直接返回給客戶。如圖6-2-1-2所示。
圖6-2-1-2
1.2.1.3 VS/DR技術
在VS/DR中，調度器根據各個服務器的負載情況，動態地選擇一臺服務器，不修改也不封裝IP報文，而是將數據幀的MAC地址改爲選出服務器的MAC地址，再將修改後的數據幀在與服務器組的局域網上發送。因爲數據幀的MAC地址是選出的服務器，所以服務器肯定可以收到這個數據幀，從中可以獲得該IP報文。當服務器發現報文的目標地址VIP是在本地的網絡設備上，服務器處理這個報文，然後根據路由表將響應報文直接返回給客戶。如圖6-2-1-3所示。
圖6-2-1-3
1.2.1.4 LVS的調度算法
前面幾節，介紹了LVS的三種基於IP的負載均衡技術，下面簡單介紹一下調度算法。調度算法的目的是解決如何合理有效的從LVS後端的RealServers中，選擇一個RealServer來對請求包進行處理。在整個LVS項目中，共給出八種調度算法，主要有：
(1)輪詢調度。主要指按順序從RealServers中選擇一臺RealServers。
(2) 加權輪叫調度。給Real Servers設置一定權值，進行調度。
(3)最小連接調度。按照RealServers的連接情況進行調度。
(4)加權最小連接。根據設置的權值和現有的連接數進行調度。
(5)基於局部性的最小連接。主要用於增大Cache命中。
(6)代複製的基於局部性的最小連接。
(7)目標地址散列調度。
(8)源地址散列調度。
在上述八種調度算法中，最常用的調度算法是輪詢調度。
1.3 db proxy
在大型互聯網站的數據庫部署中，部署最多的數據庫爲MySQL。隨着MySQL中Innodb存儲引擎對事物的支持，MySQL在互聯網公司部署中，應用量越來越多。典型應用MySQL的公司有Google、Baidu、Taobao等大型互聯網公司。MySQL的優勢在於其高擴展性和價格優勢等。實際上，MySQL可以免費應用於企業級的部署中。
在MySQL複製方式部署中，有兩種部署方式：同步複製和異步複製。同步複製採用NDB 存儲引擎，異步複製需要使用mysql-proxy結合master-slave實現。
異步複製主要爲了解決讀寫分離的問題。因爲用戶對網站的訪問有讀操作多，寫操作少的特點。甚至像taobao.com這樣的網站讀寫比例高達10:1，所以採用MySQL-Proxy結合主從異步複製實現讀寫分離是非常重要的增快訪問速度的方法。這樣如果有更高的用戶訪問需求，通過增加slave機器，不會對現有系統提供的服務產生影響而實現很好的、很靈活的業務擴展。
1.3.1 mysql-proxy
mysql-proxy是一個MySQL的代理服務器，用戶的請求先發向mysql-proxy，然後mysql-proxy對用戶的數據包進行分析，從下一層的mysql 數據庫中選擇一臺數據庫，將用戶的請求包交給mysql處理。
首先MySQL Proxy 以服務器的身份接受客戶端的請求，根據相應配置對這些請求進行分析處理，然後以客戶端的身份轉發給相應的後端數據庫服務器，再接受服務器的信息，然後返回給客戶端。所以MySQL Proxy需要同時實現客戶端和服務器的協議。由於要對客戶端發送過來的SQL語句進行分析，還需要包含一個SQL解析器。MySQL Proxy通過使用lua腳本，來實現複雜的連接控制和過濾，從而實現讀寫分離和負載平衡。所以部署MySQL-Proxy需要安裝運行Lua語言的環境。典型的MySQL-Proxy應用爲實現讀寫分離，如圖6-3-1所示。
圖6-3-1
1.3.2 MySQL主從複製(Master-Slave Replication)
MySQL主從複製(Master-Slave Replication)是通過設置在Master MySQL上的binlog(使其處於打開狀態)，Slave MySQL上通過一個I/O線程從Master MySQL上讀取binlog，然後傳輸到Slave MySQL的中繼日誌中，然後Slave MySQL的SQL線程從中繼日誌中讀取中繼日誌，然後應用到Slave MySQL的數據庫中。這樣實現了數據庫的複製功能。原理如圖6-3-2所示：
圖6-3-2
MySQL主從複製的作用如下：
(1) 可以作爲一種備份機制。
(2) 可以用來做讀寫分離。
1.3.3 MySQL主從複製結合MySQL Proxy實現讀寫分離
通過使用MySQL-Proxy來作爲代理服務器，配置MySQL Proxy，將所有的寫操作，分流到master MySQL上，所有的讀操作分流到slave MySQLs。
這樣就實現了讀寫分離。如果有新的訪問需求，只需添加slave MySQL機器來解決問題。所以這樣的結構擴展能力非常好。如圖6-3-3所示。
圖6-3-3
1.4 本文小結
本文主要論述了負載均衡在大型網站後臺架構中的應用。主要分析了應用層的軟件負載均衡器LVS的三種負載均衡算法，簡單介紹了LVS的八種調度算法。詳細分析了MySQL的主從複製和讀寫分離的實現機制。給出了高可用網站後臺的部署中解決負載均衡的方案。
聲明：本文檔可以隨意更改，但必須署名原作者
作者：鳳凰舞者 qq:578989855