爲什麼要使用緩存?用OSCache提升J2EE系統運行性能

Cache是一種用於提高系統響應速度、改善系統運行性能的技術。尤其是在Web應用中,通過緩存頁面的輸出結果,可以很顯著的改善系統運行性能。本文中作者給大家介紹一個實現J2EE框架中Web應用層緩存功能的開放源代碼項目----OSCache。通過應用OSCache,我們不但可以實現通常的Cache功能,還能夠改善系統的穩定性。

1 面臨的問題


1.1 需要處理的特殊動態內容


  在信息系統建設過程中我們通常會遇到這樣的問題:

  1. 基礎數據的變更問題

  信息系統中需要處理的基礎數據的內容短時間內是不會發生變化的,但是在一個相對長一些的時間裏,它卻可能是動態增加或者減少的。

  舉個例子:電子商務中關於送貨區域的定義,可能短時間內不會發生變化,但是隨着電子商務企業業務的擴大,系統中需要處理的送貨區域就可能增加。所以我們的系統中不得不在每次向客戶展示送貨區域信息的時候都和數據庫(假設送貨區域信息保存在數據庫中,這也是通常採用的處理方法)進行交互。

  2. 統計報表(不僅限於統計報表)的問題

  一般來說,統計報表是一個週期性的工作,可能是半個月、一個月或者更長的時間纔會需要更新一次,然而統計報表通常是圖形顯示或者是生成pdf、word、excel等格式的文件,這些圖形內容、文件的生成通常需要消耗很多的系統資源,給系統運行造成很大的負擔。

1.2 問題的共同點


  通過比較分析,不難發現這兩類問題有一些共同點:

  1、被處理的內容短時間不變,所以短時間內可以作爲靜態內容進行處理

  2、在一個不太長的時間內,被處理的內容可能或者必定產生變化,所以必須將他們作爲動態內容進行處理

  3、在合理的時間區段內可以忽略被處理內容變化後帶來的影響

  4、對這些內容的處理動作比較消耗系統性能,影響系統響應時間

1.3 解決方法


  緩存技術可以幫助我們很好的解決這個問題:

  1、緩存信息

  當上述的基礎數據或者統計報表第一次被訪問時,被處理的內容被當作動態信息,基礎數庫從數據庫中獲得,統計報表也會被生成符合要求的圖形、文件,然後這些信息都會被放入緩存信息中。

  2、響應信息由緩存提供

  當上述的基礎數據或者統計報表繼續被訪問時,系統將會首先檢查緩存信息中是否有對應的內容和我們設定的緩存規則,如果符合緩存信息存在而且符合緩存規則,給出的響應將來自於緩存信息,如果沒有或者緩存信息已經不符合設定的要求,系統將重複上一步的動作。

  很顯然,上面的步驟2中,多數情況下,當用戶請求到達時,被處理的內容將來自於緩存,所以大大的減少了與數據庫的交互,或者不再需要爲每個請求都生成一次報表圖形或者文件,這部分工作的減少對於降低系統性能消耗、提高系統穩定性和併發處理能力是非常有益的。

2 OSCache簡介


  OSCache是OpenSymphony組織提供的一個J2EE架構中Web應用層的緩存技術實現組件,它的出現解決了我們面臨的問題。 OSCache目前最新的穩定版本是2.0,本文中的例子都是基於這個版本的,如果大家運行例子的過程中發生問題,請首先確認是否採用了正確的軟件版本。

2.1 主要特徵


  1. 兼容多種支持JSP的web服務器

  已經通過兼容測試的web服務器包括OrionServer (1.4.0或者以上版本) 、Macromedia JRun (3.0或者以上版本) 、BEA Weblogic (7.x或者以上版本) 、IBM Websphere (5.0版本)、Silverstream (3.7.4版本)、Caucho Resin (1.2.3或者以上版本)、Tomcat (4.0或者以上版本) ,其他支持servlet2.3、jsp1.2的web服務器應該都是完全兼容OSCache的。

  2. 可選的緩存區

  你可以使用內存、硬盤空間、同時使用內存和硬盤或者提供自己的其他資源(需要自己提供適配器)作爲緩存區。


使用內存作爲緩存區將可以提供更好的性能
使用硬盤作爲緩存區可以在服務器重起後迅速恢復緩存內容
同時使用內存和硬盤作爲緩存區則可以減少對內存的佔用

  3. 靈活的緩存系統

  OSCache支持對部分頁面內容或者對頁面級的響應內容進行緩存,編程者可以根據不同的需求、不同的環境選擇不同的緩存級別。

  4. 容錯

  在一般的web應用中,如果某個頁面需要和數據庫打交道,而當客戶請求到達時,web應用和數據庫之間無法進行交互,那麼將返回給用戶"系統出錯"或者類似的提示信息,如果使用了OSCache的話,你可以使用緩存提供給用戶,給自己贏得維護系統或者採取其他補救的時間。

  其它特性還包括對集羣的支持、緩存主動刷新等特性,大家可以參考OpenSymphony網站上的其他資源獲取更多的信息。

3 OSCache組件的安裝


  OSCache是一個基於web應用的組件,他的安裝工作主要是對web應用進行配置,大概的步驟如下:

  1. 下載、解壓縮OSCache

  請到OSCache的主頁下載Oscache的最新版本,作者下載的是OSCache的最新穩定版本2.0。

  將下載後的。Zip文件解壓縮到c:\oscache(後面的章節中將使用%OSCache_Home%來表示這個目錄)目錄下

  2. 新建立一個web應用

  3. 將主要組件%OSCache_Home%\oscache.jar放入WEB-INF\lib目錄

  4. commons-logging.jar、commons-collections.jar的處理


OSCache組件用Jakarta Commons Logging來處理日誌信息,所以需要commons-logging.jar的支持,請將%OSCache_Home%\lib\core\commons-logging.jar放入classpath(通常意味着將這個文件放入WEB-INF\lib目錄)
如果使用JDK1.3,請將%OSCache_Home%\lib\core\commons-collections.jar放入classpath,如果使用JDK1.4或者以上版本,則不需要了

  5. 將oscache.properties、oscache.tld放入WEB-INF\class目錄


%OSCache_Home%\oscache.properties包含了對OSCache運行特徵值的設置信息
%OSCache_Home%\oscache.tld包含了OSCache提供的標籤庫的定義內容

  6. 修改web.xml文件

  在web.xml文件中增加下面的內容,增加對OSCache提供的taglib的支持:

  <taglib><taglib-uri>oscache</taglib-uri><taglib-location>/WEB-INF/classes/ oscache.tld</taglib-location></taglib>


4 開始使用OSCache中的緩存組件


  OSCache中按照緩存範圍的不同分爲兩種不同的方式:一種是緩存JSP頁面中部分或者全部內容,一種是基於整個頁面文件的緩存。

4.1 JSP部分內容緩存


4.1.1 Cache-OSCache提供的緩存標籤

  這是OSCache提供的標籤庫中最重要的一個標籤,包括在標籤中的內容將應用緩存機制進行處理,處理的方式將取決於編程者對cache標籤屬性的設置。

  第一次請求到達時,標籤中的內容被處理並且緩存起來,當下一個請求到達時,緩存系統會檢查這部分內容的緩存是否已經失效,主要是以下幾項:


1. 緩存時間超過了cache標籤設置的time或者duration屬性規定的超時時間
2. cron屬性規定的時間比緩存信息的開始時間更晚
3. 標籤中緩存的內容在緩存後又被重新刷新過
4. 其他緩存超期設定

  如果符合上面四項中的任何一項,被緩存的內容視爲已經失效,這時被緩存的內容將被重新處理並且返回處理過後的信息,如果被緩存的內容沒有失效,那麼返回給用戶的將是緩存中的信息。

  cache標籤的屬性說明:

  key - 標識緩存內容的關鍵詞。在指定的作用範圍內必須是唯一的。默認的key是被訪問頁面的URI和後面的請求字符串。

  你可以在同一個頁面中使用很多cache標籤而不指定他的key屬性,這種情況下系統使用該頁面的URI和後面的請求字符串,另外再自動給這些key增加一個索引值來區分這些緩存內容。但是不推薦採用這樣的方式。

  scope - 緩存發生作用的範圍,可以是application或者session

  time - 緩存內容的時間段,單位是秒,默認是3600秒,也就是一個小時,如果設定一個負值,那麼這部分被緩存的內容將永遠不過期。

  duration - 指定緩存內容失效的時間,是相對time的另一個選擇,可以使用簡單日期格式或者符合USO-8601的日期格式。如:duration='PT5M' duration='5s'等

  refresh - false 或者true。

  如果refresh屬性設置爲true,不管其他的屬性是否符合條件,這部分被緩存的內容都將被更新,這給編程者一種選擇,決定什麼時候必須刷新。

  mode - 如果編程者不希望被緩存的內容增加到給用戶的響應中,可以設置mode屬性爲"silent"

  其它可用的屬性還包括:cron 、groups、language、refreshpolicyclass、refreshpolicyparam。

  上面的這些屬性可以單獨使用,也可以根據需要組合使用,下面的例子將講解這些常用屬性的使用方式。

4.1.2 Cache標籤實例分析:


  1. 最簡單的cache標籤用法

  使用默認的關鍵字來標識cache內容,超時時間是默認的3600秒

  <cache:cache><%//自己的JSP代碼內容%></cache:cache>


  2. 用自己指定的字符串標識緩存內容,並且設定作用範圍爲session。

  <cache:cache key="foobar" scope="session"><%//自己的JSP代碼內容%></cache:cache>


  3.動態設定key值,使用自己指定的time屬性設定緩存內容的超時時間,使用動態refresh值決定是否強制內容刷新。

  因爲OSCache使用key值來標識緩存內容,使用相同的key值將會被認爲使用相同的的緩存內容,所以使用動態的key值可以自由的根據不同的角色、不同的要求決定使用不同的緩存內容。

  <cache:cache key="<%= product.getId() %>" time="1800" refresh="<%= needRefresh %>"><%//自己的JSP代碼內容%></cache:cache>


  4. 設置time屬性爲負數使緩存內容永不過期

  <cache:cache time="-1"><%//自己的JSP代碼內容%>


  5. 使用duration屬性設置超期時間

  <cache:cache duration='PT5M'><%//自己的JSP代碼內容%>


  6. 使用mode屬性使被緩存的內容不加入給客戶的響應中

  <cache:cache mode='silent'><%//自己的JSP代碼內容%>

4.2 用CashFilter實現頁面級緩存


  在OSCache組件中提供了一個CacheFilter用於實現頁面級的緩存,主要用於對web應用中的某些動態頁面進行緩存,尤其是那些需要生成pdf格式文件/報表、圖片文件等的頁面,不僅減少了數據庫的交互、減少數據庫服務器的壓力,而且對於減少web服務器的性能消耗有很顯著的效果。

  這種功能的實現是通過在web.xml中進行配置來決定緩存哪一個或者一組頁面,而且還可以設置緩存的相關屬性,這種基於配置文件的實現方式對於J2EE來說應該是一種標準的實現方式了。

  [注] 只有客戶訪問時返回http頭信息中代碼爲200(也就是訪問已經成功)的頁面信息才能夠被緩存

  1. 緩存單個文件

  修改web.xml,增加如下內容,確定對/testContent.jsp頁面進行緩存。

  <filter> <filter-name>CacheFilter</filter-name><filter-class>com.opensymphony.oscache.web.filter.CacheFilter</filter-class></filter><filter-mapping><filter-name>CacheFilter</filter-name><!-對/testContent.jsp頁面內容進行緩存--> <url-pattern>/testContent.jsp</url-pattern></filter-mapping>


  2. 緩存URL pattern

  修改web.xml,增加如下內容,確定對*.jsp頁面進行緩存。

  <filter> <filter-name>CacheFilter</filter-name><filter-class>com.opensymphony.oscache.web.filter.CacheFilter</filter-class></filter><filter-mapping><filter-name>CacheFilter</filter-name><!-對所有jsp頁面內容進行緩存--> <url-pattern>*.jsp</url-pattern></filter-mapping>


  3. 自己設定緩存屬性

  在頁面級緩存的情況下,可以通過設置CacheFilter的初始屬性來決定緩存的一些特性:time屬性設置緩存的時間段,默認爲3600秒,可以根據自己的需要只有的設置,而scope屬性設置,默認爲application,可選項包括application、session

  <filter> <filter-name>CacheFilter</filter-name><filter-class>com.opensymphony.oscache.web.filter.CacheFilter</filter-class><init-param> <param-name>time</param-name> <param-value>600</param-value> </init-param> <init-param> <param-name>scope</param-name> <param-value>session</param-value> </init-param></filter><filter-mapping><filter-name>CacheFilter</filter-name><!-對所有jsp頁面內容進行緩存--><url-pattern>*.jsp</url-pattern></filter-mapping>


5 性能測試結果


5.1 測試環境


  系統平臺:windows 2000 高級服務器/ P3 800 /512M內存

  web服務器:websphere 5.0

  數據庫服務器:mysql 4.0.18-nt

  性能測試用工具:apache Jmeter

5.2 測試計劃


  這次性能測試對比方爲使用緩存和不使用緩存兩種,他們的訪問代碼都是一樣的:通過數據源從本地mysql數據庫中獲取person表的所有記錄,然後顯示在頁面上。

  測試中將模仿10個用戶,每個用戶發起5次請求,然後統計所有訪問花費的時間。

5.3 測試結果


  使用緩存後的測試結果 不使用緩存時的測試結果

  所有請求花費的總時間(毫秒) 20569 22870

  性能測試的詳細結果請大家查看下載內容中的《不使用cache時的系統性能測試結果.txt》和《使用cache後系統性能測試結果.txt》

6 總結


  在J2EE系統中,我們經常需要處理一些特殊的動態內容,這些內容在一個時間段內的變更非常有限,但是又不得不將他們確定爲動態內容進行輸出,而且非常消耗數據庫系統資源或者web服務器的資源,這時我們就可以採用Cache----一種用於提高系統響應速度、改善系統運行性能的技術----來優化我們的系統。尤其是在Web應用中,這種處理可以很顯著的改善系統運行性能。

  本文中作者給大家介紹一個實現J2EE框架中Web應用層緩存功能的開放源代碼項目----OSCache。它提供了在J2EE系統中實現緩存需要的豐富的功能。通過應用OSCache,我們不但可以實現通常的Cache功能、自由的設定cache的相關特性比如緩存時間段/緩存內容等,提升系統性能,而且還能有效的改善系統的穩定性。除此之外,OSCache組件還提供了更多的特性比如集羣、容錯、靈活的緩存區選擇等。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章