大型互聯網網站架構

大型互聯網網站架構心得之一:分

 

 

我們知道,對於一個大型網站來說,可伸縮性是非常重要的,怎麼樣在縱向和橫向有良好的可伸縮性,就需要在做架構設計的時候考慮到一個分的原則,我想在多個方面說一下怎麼分:

首先是橫向的分:
1. 大的網站化解爲多個小網站:當我們一個網站有多個功能的時候,可以考慮把這個網站拆分成幾個小模塊,每一個模塊可以是一個網站,這樣的話我們到時候就可以很靈活地去把這些網站部署到不同的服務器上。
2. 靜態動態分離:靜態文件和動態文件最好分離開成2個網站,我們知道靜態網站和動態網站對服務器來說壓力的側重不同,前者可能重IO後者重CPU,那麼我們在選擇硬件的時候也可以有側重,而且靜態和動態內容的緩存策略也不一樣。典型的應用,我們一般會有獨立的文件或圖片服務器。
3. 按照功能來分:比如有一個模塊是負責上傳的,上傳操作很消耗時間,如果和其它應用混在一起的話很可能,一點點訪問就會使服務器癱瘓,這種特殊的模塊應該分開。安全的不安全的也要分開,還需要考慮到以後SSL的購買。
4. 我們不一定要全部用自己的服務器,搜索、報表可以依靠別人的服務,比如google的搜索和報表服務,自己做的不一定比得過別人,服務器帶寬都省了。


其次是縱向的分:
1. 文件也相當於數據庫,IO的流量可能比數據庫還大,這也算是縱向級別的訪問,上傳的文件圖片一定要和WEB服務器分開。當然,數據庫和網站都放在一個服務器上的很少了,這是最基本的。
2. 對於涉及到數據庫訪問的動態程序來說,我們可以使用一箇中間層(所謂的應用層或邏輯層)來訪問數據庫(部署在獨立的服務器上),最大的好處就是緩存和靈活性。緩存的內存佔用比較大,我們要把它和網站進程分開,而且這樣做我們可以很方便的去改變一些數據訪問的策略,即使到時候數據庫有分佈的話在這裏可以做一個調配工作,這樣靈活性就很大了。還有好處是中間層可以做電線網通橋樑,可能網通訪問雙線再訪問電信會比網通直接訪問電信服務器快。


有人說我不分,我可以做負載均衡,對,是可以的,但是如果分的話,同樣的10臺機器肯定比不分10臺機器可以承受更多的訪問量,而且對硬件的需求可能不會很高,因爲知道需要哪個硬件特別好。爭取讓每一個服務期都不空閒,又都不是太忙,合理進行組合調整和擴充,這樣的系統伸縮性就高了,能根據訪問量來調整的前提就是之前有考慮到分,分的好處是靈活性、伸縮性、隔離性以及安全性。

對服務器來說,我們有幾點是要長期觀察的,任何一點都可能是瓶頸:
1. CPU:動態文件的解析需要比較多的CPU,CPU出現瓶頸就要看是不是哪個功能過長時間佔用線程,如果是就分出去。或者就是每一個請求處理時間不長,但是訪問量很高,那麼就加服務器。CPU是好東西,不能讓他乾等,不做事情。
2. 內存:緩存從IIS進程獨立出去,一般對WEB服務器來說內存不夠的情況不是很多。內存比磁盤快,要合理利用。
3. 磁盤IO:用性能監視器找到哪些文件IO特別大,找到了就分到獨立的一組文件服務器上去,或者直接做CDN。磁盤慢,大規模讀取數據的應用靠緩存,大規模寫入數據的應用可以靠隊列來降低突發的併發。
4. 網絡:我們知道,網絡的通訊是比較慢的,比磁盤還慢,如果是做分佈式緩存,分佈式計算的話,要考慮到物理服務器之間網絡通訊的時間,當然,在流量大了以後,這可以提高系統的接納能力一個等級。靜態內容可以藉助CSD分擔一部分,在做服務器假設的時候還要考慮中國特色的電信網通情況以及防火牆。

對SQL SERVER數據庫服務器來說[UPDATE]:
其實還是水平分割和縱向分割,一個二維表,水平分割就是橫過來切一刀,縱向分割就是豎直切一刀:
1、縱向分割就是,我們不同的應用可以分到不同的DB中,不同的實例中,或者說把某個擁有很多字段的表拆分成小表。
2、橫向分割就是,某些應用可能不負載,比如用戶註冊,但是用戶表會非常大,可以把大表分開。可以採用表分區,數據存儲在不同文件上,然後再部署到獨立物理服務器增加IO吞吐以改善讀寫性能,土一點的做法就是自己定期把老的數據存檔。表分區的另外一個優勢可以增加數據查詢速度,因爲我們的頁索引可以有多層了,就像一個文件夾中的文件不要太多,多分幾層文件夾一樣。
3、還可以通過數據庫鏡像、複製訂閱、事物日誌,把讀寫分開到不同的鏡像物理數據庫上,一般來說夠用,如果還不行可以用硬件來實現數據庫的負載均衡。當然,對於BI,我們可能還會有數據倉庫。

架構上考慮到了這些之後,流量大了,就可以在這個的基礎上再去調整或者做WEB服務器或者應用服務器的負載均衡。很多時候我們都是在重複發現問題-》找到瓶頸-》解決這個過程。

典型的架構如下:


動態WEB服務器配好點的CPU,靜態WEB服務器和文件服務器磁盤好點
應用服務器內存大點,緩存服務器也是,數據庫服務器當然內存和CPU都要好

 

大型互聯網網站架構心得之二:並、換和其它

 

 

上次說的“分”是一個比較大的原則也是一個比較高層的原則,這次我想說一下其它兩個原則:並與換。

 

 

爲什麼要分?是因爲我們希望通過分來提高系統的承載能力,那並又是並什麼呢?我想了一下有幾個方面可以並:

 

1.       合併用戶請求,最基本的就是合併CSS/圖片/腳本,還可以合併頁面。不過合併就可能產生流量的浪費,需要有一個平衡點。

2.       合併接口的粒度,如果做分佈式應用的話,我們可能不會直接訪問數據庫而是調用應用層提供的接口,由於是網絡調用,代價比較大,因此在設計的時候儘量提供粒度比較粗的接口,一次調用返回比較多的數據,而不是細化到添加刪除修改的層次。

3.       合併接口的部署,對於頻繁的跨機器調用可以考慮有一些數據冗餘,把跨網絡的服務編程進程間通訊,甚至轉到客戶端來做。比如論壇發貼時候髒詞的過濾,直接調用應用層提供的接口(跨機器)是可以的,但是可能代價比較大,可以把這個接口使用IPC方式部署在本機。

 

 

時間換空間,空間換時間是常見的做法,具體一點說:

 

1.       緩存。緩存的重要性早計算機的硬件中就有重要的體現。對於網站,有很多種緩存,可以是客戶端資源的緩存,可以是頁面輸出緩存,也可以是應用層的數據緩存,目的都是一樣的,或是減少了服務器請求次數,或是減少了請求的處理過程,或是減少了數據庫的訪問次數。當然,生成靜態文件也可以算是一種緩存。不訪問磁盤固然不可能,但是我們要極大限度降低磁盤訪問的機會。

2.       有的時候爲了獲取極快的響應,我們還會不惜代價採用重複計算。比如,我們的某個操作很可能會由於網絡問題等原因響應比較慢,在設計的時候可以有一個統一的處理接口,由這個接口分發到不同的服務器去異步實現這個操作,哪個服務器先返回了結果我們就用這個結果,然後殺死其他服務器的冗餘操作。

3.       網站一般追求比較快的響應,一般不太會在比較高的層次用時間來換取空間,但是在一些用戶獨有數據的處理算法上可能還是會考慮到空間的節省問題。

4.       有的時候我們會用一些聚合表來存放聚合數據,也就是進行一些預計算提高複雜計算(比如報表)的性能。當然,對於數據分析,構建多維數據庫也是一種不錯的選擇。

 

有很多網友留言說說的比較粗,沒有什麼具體的東西。我覺得架構這個東西很難去說具體怎麼做,因爲具體實施的時候要看情況去應用的,由於沒有完美的東西,所以做架構通常是去做一個平衡,很可能某一個側重不同會影響到架構的實施。希望我的這些文章能給大家一個提示的作用,看了之後如果你覺得“這點我倒沒有考慮到,以後要注意”那或許就是最大的幫助了,下面我想說一些其它方面的問題,每一條都很零散,算是一個補充吧:

 

1.       到底是採用已有的東西還是自己去做需要詳細考慮的,採用別人的東西可能比較穩定,但是自己的控制少了一點,採用自己做的東西可以很靈活,但是可能會問題比較多。不管怎麼樣,我們在採用一個第三方框架的時候務必要進行縝密的調查,看到他的不足,否則項目很可能在後期被這個框架制約,反之,決定自己去做一個框架的時候也要看到自己需要什麼其他框架不能提供的東西。

2.       數據傳輸的時候可以做壓縮,但要考慮到壓縮解壓縮需要CPU資源,在IO(磁盤,帶寬,傳輸能力)和CPU之間有一個平衡的考慮。

3.       理想的可伸縮性架構是可以自由增加或替換服務器,無需去停機維護或做很大的調整。在使用一個統一的調度中心來調度這些服務器,分配請求的時候,我們要考慮一下調度服務器能承受多少流量。

4.       使用大量的廉價服務器還是少量的高配服務器?如何根據需求來組合服務器發揮最大作用。

5.       對於分佈式構架,我們儘量讓每一個節點保持簡單的邏輯,儘量減少同一層次節點之間的依賴,另外。需要有統一的地方來管理所有的節點。

6.       功能分解、使用異步進行整合、故障轉移、失效保護。

7.       軟件的架構升級和計算機硬件的架構升級很像,可能有一段時期,我們是在慢慢提高整體能力,2年也才提高了幾倍,之後發現只有通過某種徹底的架構改變才能提高數十倍的能力,升級之後,我們或許又會遇到其他問題。就像CPU,是簡單提高主頻還是徹底更換架構。

8.       數據方面,讀寫分離、數據庫分隔、功能劃分、緩存、鏡像。

9.       硬件網絡上的架構很重要,但軟件開發中的一些細節不可忽略,好的架構不意味着不需要代碼審閱。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章