1. 集羣系統
1.1 集羣系統分類
服務器集羣的分類，可以分爲三種分別是計算集羣、負載均衡集羣、高可用集羣，下面分析對計算集羣、負載均衡集羣和高可用集羣做以詳細講解。
根據用途的不同，我們把服務器集羣分爲如下幾類。
（1）計算集羣
服務器計算集羣通常被用於承載計算密集型任務，而並不用於I/O密集型的應用場景（例如Web服務或者數據庫）。這類計算集羣是以並行計算爲基礎的，它對外而言就好像是一臺性能強大的超級計算機。
（2）負載均衡集羣
負載均衡集羣的關鍵在於能夠使多臺彼此互聯的服務器共同分擔計算任務，即任務負載可以在集羣中被儘可能地平均分配到多臺服務器上處理，從而避免出現集羣中某幾臺服務器超載而其他服務囂閒置的情況，有效地改善集羣性能。
集羣中的負載通常包括計算任務處理負載和網絡I/O流量負載兩類。對於計算任務處理負載，負載均衡集羣能夠使用同一組計算應用程序爲大量用戶提供服務，其中每個節點都可以承擔一定的處理負載，並且可以在節點之間動態分配負載，實現負載均衡；對於網絡I/O流量負載，當網絡服務程序接收了高入網流量而無法及時處理時，相關流量會被分發給在其他服務器節點上運行的網絡服務程序，同時可以根據每個節點上不同的可用資源或網絡環境進行優化。
（3）高可用集羣
高可用集羣中的部分服務器發生故障時，集羣管理系統將及時發現故障並將由該部分零載的任務重新分派到其他正常工作的服務器上。其關鍵在於能夠在系統高速運行的過程中儘可能快速地對系統故障做出響應。
高可用機制能夠有效地提高集羣運行的可持續性，能夠在集羣發生故障時確保用戶體驗的一致性。同時，高可用集羣中單臺服務器的高可用性要求被降低，有助於降低系統成本。
在上述集羣的分類中，高可用機制是確保集羣運行質量的重要方法，因此通常是交融在其他兩類集羣中一起被實現的。而計算集羣和負載均衡集羣也有一定的類似性，例如都是在多個服務器節點間分發計算負載，但是它們的最大區別在於計算集羣更多的是用於承載跨多個節點的並行計算程序，而負載均衡集羣中每個服務器節點上通常是運行獨立的軟件系統，而與其他節點少有通信。因此，從這個意義來看，CDN的節點系統可歸類爲一種典型的負載均衡集羣系統。
1.2 集羣系統的結構
典型的服務器集羣的系統結構如圖：
如圖所示，服務器集羣的系統結構主要分爲4個層次。
（1）網絡層：網絡是構成集羣的基礎，因爲構成集羣的多臺服務器是通過網絡互聯的。網絡層的關鍵技術包括網絡互聯結構、網絡通信協議、信號傳輸技術等。
（2）節點服務器操作系統層：集羣中的各臺服務器是集羣計算能力的基本單元，它們具有一定的自治能力，能夠獨立完成集羣分配到本地的任務，其關鍵技術主要包括高性能服務器架構、高性能操作系統內核技術等。
（3）應用層：應用層由執行負載任務的軟件構成，可在集羣管理層的干預下實現相應應用功能。其關鍵技術包括並行程序開發環境、各類解決任務負載的串/並行應用等。
（4）集羣管理系統層：集羣管理系統層是服務器集羣的核心組件，是協調集羣資源使之能夠高效協同完成任務的關鍵。它的主要任務是對集羣內的服務器資源及其上運行的任務進行管理和調度，以實現集羣內負載的均衡，從而避免個別節點成爲瓶頸，最大程度地發揮集羣的整體性能。對於不同的集羣類型，其集羣管理系統的功用也有所不同，在計算集羣中，其主要用途是爲應用提供並行計算環境，而在負載均衡集羣中，其主要用途是調度各個應用到合適的服務器上運行。
相比較其他層次，集羣管理層是集羣所特有的功能與技術的體現。正是由於集羣管理系統對多臺服務器的統籌、協調、管控和有機組織，才使之能夠對外以一臺服務器的形象展現，才產生了“集羣”的概念。集羣管理層的完善程度，直接決定着集羣系統的性能、易用性、穩定性、可擴展性等諸多關鍵指標。
2. CDN緩存服務器負載均衡集羣
CDN緩存服務器是典型的負載均衡集羣系統，我們知道內容緩存技術，其核心思想是在內容服務器和用戶之間架設緩存服務器，將用戶最近訪問過的煤體數據緩存在離客戶較近的地方，以供後續重複訪問使用。
當用戶訪問量較大時，單臺緩存設備在處理繁重的內容分發任務時會在處理能力、吞吐能力等方面形成嚴重的性能瓶頸。在這種情況下，緩存服務器集羣就是解決相關問題的有效手段。在用戶和內容服務器之間部署緩存服務器集羣，能夠充分利用集羣中各個節點形成的強大計算能力，同時各節點可以被並行訪問，能夠有效改善系統吞吐率。除了性能的改善，多臺緩存服務器構成的集羣在存儲容量等方面的優勢，使其在提高用戶請求命中率方面有很大的提升。相關的系統示意圖如圖所示。
- 對於CDN系統中的緩存服務器集羣而言，各臺服務器之間需要知道彼此的內容緩存情況以提高訪問效率，因此集羣內部的協同交互是非常重要的。
- 在對外提供服務時，針對各臺服務器上的處理能力進行必要的負載均衡從而合理分擔用戶請求。