算法導論第二章 思考題

算法導論第二章

思考題

2-1

• 證明：
  已知插入排序的最壞情況運行時間爲$Θ(n^{2})$，且我們使用插入排序來排序長度爲$k$的$n/k$個子表。
  長度爲$k$的一個子數組，用插入排序其最壞情況運行時間爲$Θ(k^{2})$，且有$n/k$個子表，得出$Θ(\dfrac{n}{k} \times k^{2})$，結果爲$Θ(nk)$

• 舉個例子：當一個總長度爲$n$的輸入$(n > 1)$，經過一次歸併排序遞歸後，將$n$一分爲二，也就是$n / 2$，如果$k$爲代表的當前這次的長度$n / 2$，則我們可以得出層數：
  $lg(n/k)+1==log_{2}(n / k)+1==log_{2}(n / \dfrac{n}{2})+1==log_{2}(2)+1==2$
  得到層數爲2。
  同理，當我們再一次經過歸併排序遞歸後，$n/2$再次一分爲$2$，也就是$(n/2)/2==n/4$，$k$爲$n/4$，代入上面的式子，得出層數3。
  我們可以得出，$lg(n/k)+1$即爲歸併排序遞歸的層數，因爲合併算法MERGE的最壞情況運行時間爲$Θ(n)$，得出$nlg(n/k)+n$，去掉常量，得出$Θ(nlg(n/k))$

• ‎最大值是‎‎$k‎‎=‎‎lg‎‎n$‎，如果我們替代，我們得到：‎
  $Θ(nlgn+nlg\dfrac{n}{lgn})=Θ(nlgn)$
  如果‎$k=f‎(n‎)>‎‎lg‎‎n‎‎$，複雜性將是$Θ(nf(n))$‎，它比合並排序的運行時間大

• It’s constant factors, so we just figure out when insertion sort beats merge
  sort, exactly as we did in exercise 1.2.2, and pick that number for k.
  (這是常數因子，所以我們只找出插入排序比合並排序，完全像我們在練習 $1.2.2$中所做的那樣，並選擇該數字$K$.)

2-2

BUBBLESORT(A)
1   for i = 1 to A.length - 1                       // i = 1，下標i從第一個元素一直循環到i大於A.length - 1停止
2       for j = A.length downto i + 1               // j = A.length，下標j從最後一個元素循環遞減到小於i + 1停止
3           if A[j] < A[j - 1]
4               exchange A[j] with A[j - 1]         // 如果A[j]小於A[j - 1]，則交換這兩個元素的值

• We need to prove that A’ consists of the original elements in A, although in (possibly) different order.
  (我們需要證明A’由A中的原始元素組成，儘管順序可能不同。)

• 循環不變式$(2$~$4)$：
    （1）總是從最後一個元素開始遞減，且後前一位元素進行判斷交換
    （2）每循環一次後，$A[j]$是$A[j..A.length]$中最小的元素
  證明：
      初始化：循環的第一次迭代$i$爲首元素，$j$爲尾元素，判斷式爲真，開始執行循環
      保持：進行$A[j]$和$A[j - 1]$的判斷，如果$A[j] > A[j - 1]$則交換換元素中的數據，我們可以得知，$A[j]$將會是$A[j]和A[j-1]$中最小的一個，同理，$A[j]$也會是$A[j..A.length]$中最小的。
      終止：因爲每次循環後，$A[j]$總是$A[j..A.length]$中最小的，所以退出循環後，$A[i]$將會是$A[i..A.length]$中最小的數字

• 循環不變式$(1$~$4)$:
    （1）每次循一次後，$A[1..i]都是排好序的$
  證明：
      初始化：循環的第一次迭代$i$爲首元素，且循環至$i$大於$A.length-1$，第一次判斷式爲真，開始執行循環
      保持：已經證明了每當執行完次$(2$~$4)$循環時，$A[j]$是$A[j..A.length]$中最小的元素，得到當前循環每迭代循環一次，其$A[1..i]$將總是排序好的
      終止：當$i$大於$A.length-1$終止，$A[1..i]$將是排序好的，也相當於說$A[1..A.length-1]$是排序好的，最後一個元素不用排序，因爲它一定是A中最大元素，也理應在最後一位

• 最壞情況運行時間爲$Θ(n^{2})$

 BUBBLESORT(A)
 1   for i = 1 to A.length - 1				c1		n
 2       for j = A.length downto i + 1			c2   		①
 3           if A[j] < A[j - 1]				c3   		②
 4               exchange A[j] with A[j - 1]		c4   		②

   ①  $\sum ^{n}_{j=2}t_{j}$
   ②  $\sum ^{n}_{j=2}\left( t_{j}-1\right)$

   該算法的運行時間（執行每條語句的運行時間之和）是：

   $T\left( n\right) =C_{1}n+C_{2}\sum ^{n}_{j=2}t_{j}+C_{3}\sum ^{n}_{j=2}\left( t_{j}-1\right)+C_{4}\sum ^{n}_{j=2}\left( t_{j}-1\right)$

   其中我們注意到：

      $\sum ^{n}_{j=1}t_{j}$ = $\left( \dfrac {n\left( n+1\right) }{2}-1\right)$

      $\sum ^{n}_{j=2}\left( t_{j}-1\right)$ = $\dfrac {n\left( n-1\right)}{2}$

   最壞情況運行時間
   $T\left( n\right) =C_{1}n+C_{2}\left( \dfrac {n\left( n+1\right) }{2}-1\right)+C_{3}\left( \dfrac {n\left( n-1\right)}{2}\right)+C_{4}\left( \dfrac {n\left( n-1\right)}{2}\right)$

      $=\left( \dfrac {C_{2}}{2}+\dfrac {C_{3}}{2}+\dfrac {C_{4}}{2}\right) n^{2}+\left(C_{1}+\dfrac {C_{2}}{2}-\dfrac{C_{3}}{2}-\dfrac{C_{4}}{2}\right)n-C_{2}$

   我們可以表示爲：$an^{2}+bn+c$
   忽略掉低階項和最重要的項的常係數時，只剩下重要的項中的因子$n^{2}$,得出運行時間爲$Θ\left(n^{2}\right)$

   與插入算法相比，感覺半斤八兩吧

2-3

• $Θ(n)$
• 該算法的運行時間是$Θ(n)$，與霍納規矩相比，霍納規矩的性能更好

Polynomial(A, n)     // A爲a0..an，A.length == n
1   if n == 0
2       return A[A.length - n]
3   return A[A.length - n] + x * Polynomial(A, n - 1)

• 算法導論第二章思考題2-3$($自己看$)$
• It should be fairly obvious, but the invariant of the loop is a sum that equals a polynomial with the given coefficients.
  （這應該是很明顯的，但是循環不變式是一個等於給定係數的多項式的和。）

2-4

• $(6, 1)、(8, 1)、(3, 1)、(2, 1)、(8, 6)$
• 一個遞減排好序得數組具有最多得逆序對，具有$\sum^{n-1}_{j=1}t_{j}$，也就是$\dfrac{n\left(n-1\right)}{2}$個逆序對
• 算法導論第二章思考題2-4$($自己看$)$
• 算法導論第二章思考題2-4$($自己看$)$