主項定理Master Method ——算法複習筆記

在分析根據遞歸方程分析算法的時間複雜度時，常見到如下形式的方程，
T(n) = a * T(n/b) + f(n)
a ³ 1，b > 1，f(n)一般是個簡單函數

這時可以有2種方法，來計算時間複雜度。一是用遞歸樹，逐層代入原式，最終形成一個級數，
然後用一個函數來表達，得到T(n)。

二是應用主項定理Master Method 。其實，主項定理也就是對遞歸樹方法的一種歸納，形成了
固定的計算方式，並分三種情形來計算。

這三種情形主要是比較 n^log_ba 與 f(n)，爲什麼要比較這兩個函數呢？

觀察原式，可以看出，n^log_ba其實相當於用遞歸樹方法解出的遞歸方程的右側的第一項，
而f(n)則是遞歸方程的右側的第二項，這樣，主項定理實際上是在比較組成結果的兩個函數項，
而且這種比較是按照數量級（或者說是變化幅度）來比較的，也就是說，如2n 與 28n是
數量級（變化幅度）相當的。

這樣就有了三種不同的情形：

1. f(n) < n^log_b^a                

   也就是 f(n) = O(n^log_b^{a - e} ) ，e > 0爲任意小的常數
   或者說，f(n) 比 n^log_ba變化的慢，慢n^e
   那麼，T(n) Î Q (n^log_b^a)

2. f(n) > n^log_b^a          

   也就是 f(n) = W(n^log_b^{a +e} ) ，e > 0爲任意小的常數
   或者說，f(n) 比 n^log_ba變化的快，快n^e
   那麼， T(n) Î Q(f(n))

   可以簡單地說，遞歸方程的右側的兩項，哪項變化的塊，T(n)就屬於哪項的數量級

3. f(n) = n^log_b^a

   也就是兩項的數量級相當，就給這個數量級乘上一個lg n
   
   T(n) Î Q(n^log_b^a * lg n)

 

---

Examples（以下示例來源於網絡）:

1. T(n) = 5T(n/2) + Q(n²)

   Case 1: If f(n) = O(n^log_b^{a - e} ) for some constant e > 0 then T(n) Î Q(n^log_b^a)

   Determine: a, b, f(n) and log_ba

   • a = 5

   • b = 2

   • f(n) = Q(n²)

   • log_b a = log₂ 5 ≈ 2.32

   Is f(n) Î O(n^{lg 5 - e}) for e > 0 ?

   Yes. f(n) = Q(n²) Î O(n^{lg 5 - e}) = O(n^{2.32 - e}) for e ≈ 0.32

   T(n) Î Q(n^log₂⁵)

---

2. T(n) = 2T(n/2) + n

Determine: a, b, f(n) and log_b(a)

• a = 2

• b = 2

• f(n) = n

• log_b a = log₂ 2 = lg 2 = 1

Case 3: If f(n) = Q(n^log_b^a ) then T(n) Î Q(n^log_b^a lg n)

f(n) = n Î Q(n^log₂²) = Q(n¹)

T(n) Î Q(n^log₂² lg n) = Q(n lg n)

---

3. T(n) = 5T(n/2) + Q(n³)

Determine: a, b, f(n) and log_b(a)

• a = 5

• b = 2

• f(n) = Q(n³)

• log_b a = log₂ 5 ≈ 2.32

Case 2: If f(n) = W(n^log_b^a+e ) for some constant e > 0

f(n) = Q(n³) Î W(n^log₂^5+e ) = W(n^2.32+e ) for e ≈0.68

and af(n/b) ≤ cf(n) for some constant c < 1 and all sufficiently large n

5(n/2)³≤ cn³

5n³/8 ≤ cn³

c = 5/8 < 1

then T(n) Î Q(n³)