大話數據結構筆記——第二章：算法

算法定義

定義：算法是解決特定問題求解步驟的描述，在計算機中表現爲指令的有限序列，並且每個指令表示一個或多個操作。

算法的特性

算法具有五個基本特性：輸入、輸出、有窮性、確定性和可行性。

1. 輸入輸出：算法具有零個或多個輸入，至少有一個或多個輸出。
2. 有窮性：指算法在執行有限步驟之後，自動結束而不是出現無限循環，並且每個步驟在可接受的時間內完成。
3. 確定性：算法的每一步都具有確定的含義，不會出現二義性。
4. 可行性：算法的每一步都必須可行，每一步都能夠通過執行有限次數完成。

算法設計的要求

1. 正確性：算法至少應該具有輸入、輸出和加工處理無歧義性、能夠正確反映問題的需求、能夠得到問題的正確答案。
2. 可讀性：便於閱讀、理解和交流
3. 健壯性：當輸入數據不合法時，算法也能做出相關處理，而不是產生異常或莫名奇妙的結果。
4. 時間效率高和存儲量低

算法效率的度量方法

1. 事後統計方法
   這種方法主要是通過設計好的測試程序和數據，利用計算機計時器對不同算法編制的程序的運行時間進行比較，從而確定算法效率的高低。
2. 事前分析估算方法
   在計算機程序編制前，依據統計方法對算法進行估算。
   在分析程序的運行時間時，最重要的是把程序看成是獨立於程序設計語言的算法或一系列步驟

函數的漸進增長

函數的漸近增長：給定兩個函數f(n)和g(n)，如果存在一個整數N，使得對於所有的n>N，f(n)總是比g(n)大，那麼，我們說f(n)的增長漸近快於g(n)。
判斷一個算法的效率時，函數中的常數和其他次要項常常可以忽略，而更應該關注主項（最高階項）的階數。

算法時間複雜度

1. 定義：在進行算法分析時，語句總的執行次數T(n)是關於問題規模n的函數，進而分析T(n)隨n的變化情況並確定T(n)的數量級。算法的時間複雜度，也就是算法的時間度量，記作：T(n)=O(f(n))，它表示隨問題規模n的增大，算法執行時間的增長率和f(n)的增長率相同，稱作算法的漸近時間複雜度，簡稱爲時間複雜度。其中f(n)是問題規模n的某個函數。用大寫的O()來體現算法時間複雜度的記法，我們稱之爲大O記法。
2. 推導大O()階方法
   1. 用常熟1取代運行時間中的所有加法常數。
   2. 在修改後的運行次數函數中，只保留最高階項
   3. 保留最高階的變量部分，去除常數項。
3. 常數階：問題的大小無關（n的多少），執行時間恆定的算法，具有O(1)的時間複雜度。
4. 線性階：分析算法的複雜度，關鍵就是要分析循環結構的運行情況。
5. 對數階：2的x次方=n，x=log2N，O(logn)
6. 平方階：循環裏面嵌套循環

常見的時間複雜度

O(1)<O(logN)<O(N)<O($N^2$)<O($N^3$)<O($2^N$)<O(N!)<O($N^N$)

最壞的情況和平均情況

最壞情況運行時間是一種保證，那就是運行時間將不會再壞了。在應用中，這是一種最重要的需求，通常，除非特別指定，我們提到的運行時間都是最壞情況的運行時間。
平均運行時間是所有情況中最有意義的，應爲它是期望的運行時間。

算法空間複雜度

算法的空間複雜度通過計算算法所需的存儲空間實現，算法空間複雜度的計算公式記作：S(n)=O[f(n)],其中n爲問題規模，f(n)是語句關於n所佔存儲空間的函數。一般說的“複雜度”通常指的是“時間複雜度”。