【轉】tomcat bio nio apr 模式性能測試

原文鏈接:tomcat bio nio apr 模式性能測試以及自己的看法

11.11活動當天,服務器負載過大,導致部分頁面出現了不可訪問的狀態、那後來主管就要求調優了,下面是tomcat bio、nio、apr模式以及後來自己測試的一些性能結果。

原理方面的資料都是從網上找的,並且把多個地方的整理到了一起,覺得很有意義。(後面對tomcat默認頁面測試的數據是自己測出來的),tomcat 的三種模式如果用對了場合,性能絕對有大幅度的提升。當然調優也並不只在這一個方面,還有內存(堆內存、非堆內存、新生代內存)以及線程(最大線程、請求隊列、備用線程、壓縮、以及禁用dns輪詢)等方面。

那在做tomcat bio nio apr 模式之前,先來了解下 java 的一些特性吧。

Java BIO、NIO、AIO

同步 : 自己親自出馬持銀行卡到銀行取錢(使用同步IO時,Java自己處理IO讀寫)。

異步 : 委託一小弟拿銀行卡到銀行取錢,然後給你(使用異步IO時,Java將IO讀寫委託給OS處理,需要將數據緩衝區地址和大小傳給OS(銀行卡和密碼),OS需要支持異步IO操作API)。

阻塞 : ATM排隊取款,你只能等待(使用阻塞IO時,Java調用會一直阻塞到讀寫完成才返回)。

非阻塞 : 櫃檯取款,取個號,然後坐在椅子上做其它事,等號廣播會通知你辦理,沒到號你就不能去,你可以不斷問大堂經理排到了沒有,大堂經理如果說還沒到你就不能去(使用非阻塞IO時,如果不能讀寫Java調用會馬上返回,當IO事件分發器會通知可讀寫時再繼續進行讀寫,不斷循環直到讀寫完成)。

Java對BIO、NIO、AIO的支持:

Java BIO : 同步並阻塞,服務器實現模式爲一個連接一個線程,即客戶端有連接請求時服務器端就需要啓動一個線程進行處理,如果這個連接不做任何事情會造成不必要的線程開銷,當然可以通過線程池機制改善。

Java NIO : 同步非阻塞,服務器實現模式爲一個請求一個線程,即客戶端發送的連接請求都會註冊到多路複用器上,多路複用器輪詢到連接有I/O請求時才啓動一個線程進行處理。

Java AIO(NIO.2) : 異步非阻塞,服務器實現模式爲一個有效請求一個線程,客戶端的I/O請求都是由OS先完成了再通知服務器應用去啓動線程進行處理

BIO、NIO、AIO適用場景分析:

BIO方式適用於連接數目比較小且固定的架構,這種方式對服務器資源要求比較高,併發侷限於應用中,JDK1.4以前的唯一選擇,但程序直觀簡單易理解。

NIO方式適用於連接數目多且連接比較短(輕操作)的架構,比如聊天服務器,併發侷限於應用中,編程比較複雜,JDK1.4開始支持。

AIO方式使用於連接數目多且連接比較長(重操作)的架構,比如相冊服務器,充分調用OS參與併發操作,編程比較複雜,JDK7開始支持。


好,下面來看看tomcat 的 bio、nio、apr 模式

bio
bio(blocking I/O),顧名思義,即阻塞式I/O操作,表示Tomcat使用的是傳統的Java I/O操作(即java.io包及其子包)。Tomcat在默認情況下,就是以bio模式運行的。遺憾的是,就一般而言,bio模式是三種運行模式中性能最低的一種。我們可以通過Tomcat Manager來查看服務器的當前狀態。

nio
是Java SE 1.4及後續版本提供的一種新的I/O操作方式(即java.nio包及其子包)。Java nio是一個基於緩衝區、並能提供非阻塞I/O操作的Java API,因此nio也被看成是non-blocking I/O的縮寫。它擁有比傳統I/O操作(bio)更好的併發運行性能。

apr
(Apache Portable Runtime/Apache可移植運行庫),是Apache HTTP服務器的支持庫。你可以簡單地理解爲,Tomcat將以JNI的形式調用Apache HTTP服務器的核心動態鏈接庫來處理文件讀取或網絡傳輸操作,從而大大地提高Tomcat對靜態文件的處理性能。 Tomcat apr也是在Tomcat上運行高併發應用的首選模式。


在這之前,我們先把tomcat管理界面配置起來,以便等下能更方便的觀察我們的bio、nio、apr 模式

添加manager/status用戶

vim /usr/local/apache-tomcat-7.0.47/conf/tomcat-users.xml
<role rolename="manager-gui"/>       
<user username="tomcat" password="15715746746" roles="manager-gui"/>

配置完重啓,通過ip:port/manager/status 就可以看tomcat狀態了,裏面有服務器的信息及tomcat信息。

bio server.xml 配置 (重啓生效)

    <Connector port="8080" protocol="HTTP/1.1"
               connectionTimeout="20000"
               redirectPort="8443" />

nio server.xml 配置 (重啓生效)

    <Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"
               connectionTimeout="20000"
               redirectPort="8443" />

apr server.xml 配置 (重啓生效)

    <Connector port="8080" protocol="org.apache.coyote.http11.Http11AprProtocol"
               connectionTimeout="20000"
               redirectPort="8443" />

當然,apr模式還需要安裝 apr 、 apr-utils 、tomcat-native包

apr 安裝
tar zxf apr-1.5.2.tar.gz -C /usr/local/src/
cd /usr/local/src/apr-1.5.2/
./configure --prefix=/usr/local/apr && make && make install


apr-utils 安裝
tar zxf apr-util-1.5.4.tar.gz -C /usr/local/src/
cd /usr/local/src/apr-util-1.5.4/
./configure --with-apr=/usr/local/apr/ --prefix=/usr/local/apr-utils && make && make install 


tomcat-native安裝
cd /usr/local/apache-tomcat-7.0.65/bin/
tar zxf tomcat-native.tar.gz 
cd tomcat-native-1.1.33-src/jni/native
./configure --with-apr=/usr/local/apr --with-java-home=/usr/local/java/ && make && make install

安裝完後記得在 /etc/profile 的JAVA變量後面多加一條APR的環境變量

設置環境變量

JAVA_HOME=/usr/local/java
JAVA_BIN=$JAVA_HOME/bin
PATH=$PATH:$JAVA_BIN
CLASSPATH=$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export JAVA_HOME JAVA_BIN PATH CLASSPATH
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/apr/lib 

source /etc/profile

那下面來看看 apr 的頁面

這裏寫圖片描述


到這裏大致的配置就結束了,建議在做實驗之前,先了解清楚java的 bio 、nio 、aio特性,在web服務器上阻塞IO(BIO)與NIO一個比較重要的不同是,客戶系統使用BIO的時候往往會爲每一個web請求引入多線程,每個web請求一個單獨的線程,所以併發量一旦上去了,線程數就上去了,CPU就忙着線程切換,所以BIO不合適高吞吐量、高可伸縮的web服務器;而NIO則是使用單線程(單個CPU)或者只使用少量的多線程(多CPU)來接受Socket,而由線程池來處理堵塞在pipe或者隊列裏的請求.這樣的話,只要OS可以接受TCP的連接,web服務器就可以處理該請求。大大提高了web服務器的可伸縮性。

下面是我自己的一些性能測試表格,通過jmeter壓測軟件(jmeter軟件使用自行百度)在本地測試的(爲了數據的有效以及準確性,我沒測試10分鐘,也就是進行一次測試,都會重啓linux主機及重新打開jmeter軟件。),當然你也可以選擇通過 雲主機、自己機房的服務器以及虛擬機等測試,測試當中會涉及到很多點,例如(磁盤io、帶寬、內存、cpu、以及內核配置中的tcp各種狀態,甚至是各種打開文件限制,都會影響到我們的測試結果)

這裏寫圖片描述

可以看到,隨着線程的不斷增多,bio 模式性能越來越差,就算是在本地,錯誤率和響應時間都在明顯的增加、而吞吐量、樣本數和每秒傳輸速率都在下降(當然,如果是生產環境,我們肯定通過nginx web 軟件進行反向代理,提供多個tomcat 節點來提供更穩定的服務。)

而 bio 和 apr模式基本上沒有變化太多,都保持在一個穩定的狀態。


而後來當我進行一些 service 後端程序的測試時,發現 tomcat 性能並沒有大幅度的提升,甚至會有下降的趨勢。(該接口不是在同網段測試,而是跨越路由器,在網絡傳輸中會有損耗方面,性能跟本地測試也會有所差異)

這裏寫圖片描述


總結:
個人覺得在 tomcat bio、nio、apr 模式中,每種都會有各自適用的場合,也不能說哪個好那個不好,就像 tomcat 內存方面的配置,如果內存設置的過大,gc 垃圾回收機制就會變慢;如果內存設置的過小,tomcat又會出現內存溢出的情況,所以設置在一個合適的範圍很重要,不僅不會出錯,並且gc回收頻繁使性能達到一個最優的結果。當然,這也需要根據不同的場合進行不同的測試才能產生最優的結果!

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章