利用nginx加速web訪問
2011-06-14 21:46:54
起因
----------
在最近新系統的設計中對於首頁打開速度的問題做了一些考慮，由於頁面上還是以動態數據爲主，所以簡單的靜態化數據可能並不行，所以需要從業務和技術結合的角度去考慮這個問題。由於有些數據並不敏感，其實可以放入緩存並定時更新。另外就是有些本身是靜態，能否加快併發相應速度。
這裏對動態數據想到了2種辦法：1）把Action設置成單例，請求的結果直接加在緩存裏，再用一個定時線程去刷新這個緩存；2）讓輸出的結果頁靜態化，定時更新結果頁。
前者控制起來非常靈活，利用雙緩衝也能讓人感覺不到緩衝時的速度下降，缺點就是要改動比較多的代碼。後者正好相反，靜態化要依靠外層的框架配置，代碼完全不用改動。
選型
-----------
目前比較流行的反向代理服務器有squid和nginx，查了一下資料，發現nginx比較擅長反向代理和負載均衡，而squid強在自身的緩存機制，另外lightd貌似多用來做圖片服務器。經過比較感覺nginx的配置文件簡單一些，所以決定用這個先嚐試一下。
性能測試
----------------
安裝完成當然是先做一下性能測試了，這次同樣使用ab來進行壓力測試。爲了做對比，這裏也啓動了一個tomcat，nginx配置成其的反向代理。我就在本機進行訪問，但測試結果令我驚歎。
測試命令：ab -n 10000 -k -c 1000 http://localhost:8080/pscms_hlj_web/p_w_picpaths/logo.jpg
tomcat：
1. Server Software: Apache-Coyote/1.1
2. Server Hostname: localhost
3. Server Port: 8080
4.
5. Document Path: /pscms_hlj_web/p_w_picpaths/logo.jpg
6. Document Length: 17619 bytes
7.
8. Concurrency Level: 1000
9. Time taken for tests: 3.671 seconds
10.Complete requests: 4254
11.Failed requests: 0
12.Write errors: 0
13.Keep-Alive requests: 4254
14.Total transferred: 76035996 bytes
15.HTML transferred: 74951226 bytes
16.Requests per second: 1158.92 [#/sec] (mean)
17.Time per request: 862.874 [ms] (mean)
18.Time per request: 0.863 [ms] (mean, across all concurrent requests)
19.Transfer rate: 20228.99 [Kbytes/sec] received
20.
21.Connection Times (ms)
22. min mean[+/-sd] median max
23.Connect: 0 33 67.4 0 261
24.Processing: 52 255 60.1 272 315
25.Waiting: 15 129 61.7 127 261
26.Total: 52 288 108.0 272 559
nginx：
1. Server Software: nginx/0.7.67
2. Server Hostname: localhost
3. Server Port: 8000
4.
5. Document Path: /pscms_hlj_web/p_w_picpaths/logo.jpg
6. Document Length: 17619 bytes
7.
8. Concurrency Level: 1000
9. Time taken for tests: 0.597 seconds
10.Complete requests: 10000
11.Failed requests: 0
12.Write errors: 0
13.Keep-Alive requests: 10000
14.Total transferred: 179370000 bytes
15.HTML transferred: 176190000 bytes
16.Requests per second: 16744.67 [#/sec] (mean)
17.Time per request: 59.721 [ms] (mean)
18.Time per request: 0.060 [ms] (mean, across all concurrent requests)
19.Transfer rate: 293309.69 [Kbytes/sec] received
20.
21.Connection Times (ms)
22. min mean[+/-sd] median max
23.Connect: 0 2 8.1 0 44
24.Processing: 0 49 19.7 48 97
25.Waiting: 0 44 19.8 42 93
26.Total: 0 51 19.4 52 99
nginx的性能遠遠勝出，這應該是這個頁面會被緩存的原因，另外支持epoll肯定也有較高的IO性能提升。但這個測試中也發現tomcat已經很穩的掛掉了，nginx的高併發支持真不是蓋的。
結論
----------
真實系統中不可能有那麼多靜態的內容，因爲瀏覽器本地也會有緩存，但是nginx會在很大程度上提升對併發響應的能力。對於一些不需要頻繁更新的動態內容也可以做定時緩存，這樣也可以大大加快頁面的打開速度並降低後端壓力。線上系統可以把圖片、js、css、靜態html都緩存起來，後端只接受動態內容的請求，從而提速web訪問速度。
其他發現
--------------
其實nginx是把緩存的內容經過hash後放到文件中的，雖然測試中來看肯定是在內存中拿的結果，但是肯定還是有一次寫入。後來查到linux下面有一個自帶的文件系統，在/dev/shm下面，默認是內存大小的一半。這樣真的可以把緩存的內容指向這個文件裏面就行了。
另外，nginx也可以很方便的實現雙機熱備和負載均衡。負載均衡可以配置weight來調整訪問比例，系統會自動把請求進行轉向。雙機熱備會在所有節點都不可用時自動轉向，這在系統升級的時候可以做到不中斷服務。這些實現做類似如下配置即可：
1. upstream testproxy {
2. server 127.0.0.1:8080 weight=10;
3. server 127.0.0.1:8081 weight=10;
4. server 192.168.0.11:8080 backup;
5. }