軟件開發中的自動化測試

當前大部分的測試工具是軟件的功能性測試功能（也被稱爲記錄/回放工具），如Rational的Robot和Mercury 的Winrunner等。記錄/回放工具的缺陷使我們在測試中不能過分依賴它。

缺陷：

記錄/回放工具能夠記錄下用戶和應用程序交互時的擊鍵和鼠標的移動。擊鍵和鼠標的移動都被記錄成一個腳本，然後可以在測試執行期間“回放”。雖然這種方法對特定的情形是有益的，但是記錄/回放功能大約僅僅是其全部功能的1/10。記錄/回放腳本在首次記錄生成之後必須要進行修改。對功能性測試的修改主要集中在通過GUI進行驗證的測試，也稱爲黑箱測試。只是通過記錄/回放直接創建腳本有一些嚴重的侷限和缺點。

1．硬編碼的數值。記錄/回放工具根據用戶的交互動作來生成腳本，其中也包含了從用戶界面輸入或者接受的任何數據。讓數值在腳本中“硬編碼”會給以後的維護工作帶來問題。如果應用程序的用戶界面或則其他方面發生了變化，那麼硬編碼的數值會導致腳本非法。例如：在記錄期間生成腳本的時候，輸入值、窗口座標、窗口標題和其他值可能也被記入生成的腳本代碼中。如果在應用程序中，這些值中任何一個發生了變化，那麼測試執行期間這些固定的數值就成了罪魁禍首：測試腳本與應用程序的交互是錯誤的，或者徹底失敗。另一個可能出問題的硬編碼數值是日期戳。如果測試工程師在測試過程中記錄了當前日期，那麼幾天後再次運行這個腳本會導致失敗，因爲腳本中包含了硬編碼的數值不再和當前的日期匹配。

2．非模塊化的、不易維護的腳本。測試工具產生的記錄/回放腳本通常不是模塊化的，維護起來非常困難。例如：可能許多測試過程都引用了一個WEB應用程序中特殊的URL，如果腳本中使用了硬編碼的URL，那麼這個URL的改變將會導致大量的腳本作廢。在一個模塊化的開發方法中，只有一個函數中引用，或則包裝了這個URL。隨後各個是引用它的腳本會調用這個函數，這樣URL的任何變化只需要改動一處就可以了。

3．缺乏可重用性的標準。測試過程開發面臨的最重要的課題之一是可重用性。如果測試創建專門的標準，明確地要求開發可複用的自動測試過程，那麼就會極大地提高測試組的工作效率。如果把用戶界面部分的測試封裝進模塊化的、可重用的腳本文件，供其他腳本調用，那麼當用戶界面經常不斷變化的時候，腳本的維護工作量就會大大降低。

創建一個可重用的函數庫時，最好把諸如數據讀取、寫入和確認、導航、邏輯以及錯誤檢查功能分別歸到不同的腳本文件中。自動測試開發的指導方針應該大量的借用高效的軟件開發工作所遵循的原則。遵循與測試工具生成腳本的開發語言最接近的開發語言的指導方針，這是一個很好的時間。例如：如果工具生成的腳本類似於C語言，那麼應該遵從C語言的開發標準；如果工具生成的腳本類似於BASIC語言，那麼應該遵從BASIC語言的開發標準。

在自動測試開發中，只使用記錄/回放方法生成的測試腳本是很難維護和重用的，這是明顯的事實。雖然也有少數的情況，可使用未經加工的腳本，但是對於大多數情況，如果不在記錄之後修改腳本，那麼在測試執行期間，測試工程師會由於正在測試的應用程序的變化而反覆記錄腳本。使用記錄/回放工具可能帶來的潛在收益，一定會被不斷重建測試腳本的無奈所抵消。這會使測試人員產生很強的挫折感，並且會對自動測試工具感到不滿。

爲了避免未經加工的記錄/回放腳本帶來的問題，應該建立可複用的測試腳本的開發方針。未經過加工的記錄/回放腳本並不表示有效的自動測試。

解決方法：自制開發一個測試工具

爲了去除自動測試工具的侷限性和對核心組件進行更深入的測試，可以自制開發一個測試工具。這種定製的測試工具一般用健壯的程序語言編寫，例如：獨立的C++ 或則Java程序，定製的測試工具一般比自動測試工具生成的腳本運行的速度更快，也更靈活，因爲這些腳本受限於測試工具的特定環境。

我們舉一個適合用定製測試工具來測試任務的例子，假設一個應用程序的用途使根據用戶提供的信息進行計算，並且把計算的結果生成報告。計算過程可能是複雜的，並且可能對各種輸入參數的不同組合是敏感的。這可能會有數百萬種潛在變化，這些變化會產生不同的結果，因此，對計算過程進行全面的測試才能保證計算的正確性。

手工開發和驗證大量的計算性測試用例是非常浪費時間的。在大多數情況下，通過界面執行大量的測試用例也是非常緩慢的。此時一個更高效的方法是自制開發一個測試工具，它會直接針對應用程序的代碼（一般是直接針對用戶界面層之下的核心組件）執行測試用例。

另一種使用自制測試工具的方法是：對照遺留組件或者系統來比較新組件。兩個系統通常使用的數據存儲格式是不同的，用不同的技術實現的用戶界面也是不同的。此時，爲了在兩個系統上運行相同的測試用例並且生成比較報告，自動測試工具需要一種特殊的機制來複制自動測試腳本。在最壞的情況下，單個測試工具不能同時兼容兩個系統，此時兩套測試腳本必須用兩種不同的自動測試工具來開發。一個更好的替代方案是自制生成一個定製的、自動測試工具，它把兩個系統之間的差異封裝進獨立的模塊，這樣我們就能夠設計出同時適用於兩套系統的測試。自制的自動測試工具可以把遺留系統產生的測試結果作爲基線，並且通過比較兩套結果和輸出它們之間的差異來自動地驗證新系統產生的結果。

達到上述目的的一種方法是使用自制工具適配器模式。自制測試工具適配器是一個模塊，它通過轉換或者改造正在測試地每個系統使之和自制測試工具兼容，這樣自制測試工具可以通過適配器在系統種執行預定義地測試用例，並且把結果存儲爲相互之見可以自動比較地標準格式。對於每個開發出來地適配器必須能夠直接和系統進行交互和針對系統執行測試用例。用一個自制測試工具測試兩個系統需要不同地適配器並獨立調用兩次自制測試工具，每個系統調用一次。兩次調用的結果應用保留起來並進行比較。圖示描述了針對遺留系統和新系統執行測試用例的定製測試工具。

通過爲每個系統使用不同的適配器，相同的測試用例可以用於多個系統。針對遺留系統的適配器來產生一組基線結果，這個結果用於和新系統的結果比較。

爲了完成他們的任務，自制的測試工具適配器首先獲得一組測試用例，然後按照順序執行這些用例，從而直接測試每個系統的邏輯，繞過了用戶界面。繞過用戶界面使性能得到了優化，使得測試用例的吞吐量最大化。它還具有更高的穩定性。如果自制測試工具依賴於用戶界面，那麼用戶界面的任何變化（在開發生命週期種，用戶界面經常會經過多次修改）都可能導致自制測試工具對缺陷的漏識別。檢查這樣的結果會浪費大量寶貴的時間。

每個測試用例的執行結果被存儲在一個或者多個結果文件中，存儲的格式使相同的。與正在測試的系統無關。保存結果文件是爲了與隨後運行的測試產生的結果進行比較。比較可以有一個定製生成的結果工具來完成，這個工具按照一定的規則讀取和評估結果文件，並且輸出發現的所有錯誤或者差異。如果我們把結果格式化，那麼也可以通過標準的“file diff”（比較文件差異）工具對它們進行比較。

與所有的測試類型一樣，自制測試工具使用的測試用例可能使相當複雜的，特別是當自制測試工具所測試的組件使用於數學計算或者科學計算的時候，利用自制的測試工具就可以覆蓋大部分的測試。