算法設計與分析課程複習筆記7——動態規劃

算法設計與分析課程複習筆記7——動態規劃

動態規劃

• 和分治法一樣,是一種算法設計技術。
• 子問題非獨立。
• 分治法通過遞歸方式解決性質相同的子問題，
  而動態規劃每次解決一個子問題，並將結果存儲在表格中。
• 用於優化類問題。

算法：

1. 描述最優解的結構特徵
2. 定義最優解決方案的遞歸形式
3. 以自底向上的方式計算最優解決方案的值
4. 從計算信息構造出最優解決方案

裝配線排程

$S_{1,1},S_{1,2},……,S_{1,n}；S_{2,1},S_{2,2},……,S_{2,n}$爲兩條裝配線的工序站臺
$a_{1,1},a_{1,2},……,a_{1,n}；a_{2,1},a_{2,2},……,a_{2,n}$爲兩條裝配線的各站臺工作時間
每條裝配線的第j個站臺的功能相同,但是效率不一致，即花費時間不同。
另外有上線時間$e_1,e_2$和下線時間$x_1,x_2$
以及從一條裝配線變換到另一條裝配線需要的時間$t_{1,1},t_{1,2},……,t_{1,n-1}；t_{2,1},t_{2,2},……,t_{2,n-1}$

問題：如何充分利用兩條裝配線,使得組裝一輛汽車的時間最短?

解決方法：
1️⃣蠻力法
計算裝配線排程所有可能的組合情況，比較並選擇出最短時間的組合
2️⃣動態規劃
【1】.構建最優解
考慮所有從起點到達$S_{1,j}$可能途徑
只有兩種可能：
①從$S_{1,j-1}$直接到$S_{1,j}$
②從$S_{2,j-1}$花費$t_{2,j-1}$時間轉換到$S_{1,j}$

如果到達$S_{1,j}$的最快裝配路線來自$S_{1,j-1}$那麼必須是從裝配線起點經過$S_{1,j-1}$的最快裝配路線。$S_{2,j-1}$同理分析。

最優解的結構
尋求從起點到達$S_{1,j}$最快裝配路線，可分解爲尋求從起點經過$S_{1,j-1}$ or $S_{2,j-1}$ 最快裝配路線問題。
我們將這種具有分解遞歸特徵的解的形式稱爲最優化結構特徵。
利用這種優化構造特徵，從子問題的最優化解獲得整個問題的最優化的解。

【2】.遞歸解
利用子問題的最優解，通過遞歸的方式求解原問題的最優解
$f*$爲完成所有裝配過程的最短時間。
$f_i[j]$表示從起點經過Si,j工序的最短時間.
$f* = min (f_1[n] + x_1, f_2[n] + x_2)$

當$j=1$時
$f_1[1] = e_1 + a_{1,1}$
$f_2[1] = e_2 + a_{2,1}$

當$j≥2$時
$f_1[j] = min(f_1[j - 1] + a_{1,j} ,f_2[j -1] + t_{2,j-1} + a_{1,j})$
$f_2[j] = min(f_2[j - 1] + a_{2,j} ,f_1[j -1] + t_{1,j-1} + a_{2,j})$

【3】.計算最優解
如果自頂向下求最優解：

那麼將導致指數增長的計算時間。

所以我們選擇按$j$遞增，即自底向上的方式求解。

【4】.構建最優方案


算法：
FastestWay(a,t,e,x,n)
　$f_1[1] \leftarrow e_1+a_{1,1}$
　$f_2[1] \leftarrow e_2+a_{2,1}$
　for j=2 to n
　　do if $f_1[j-1]+a_{1,j}$ ≤ $f_2[j-1]+t_{2,j-1}+a_{1,j}$
　　　then $f_1[j] \leftarrow f_1[j-1]+a_{1,j}$
　　　　　 $I_1[j] \leftarrow 1$
　　　else $f_1[j] \leftarrow f_2[j-1]+t_{2,j-1}+a_{1,j}$
　　　　　 $I_1[j] \leftarrow 2$
　　　if $f_2[j-1]+a_{2,j}$ ≤ $f_1[j-1]+t_{1,j-1}+a_{2,j}$
　　　then $f_2[j] \leftarrow f_2[j-1]+a_{2,j}$
　　　　　 $I_1[j] \leftarrow 2$
　　　else $f_2[j] \leftarrow f_1[j-1]+t_{1,j-1}+a_{2,j}$
　　　　　 $I_1[j] \leftarrow 1$
　if $f_1[n]+x_1 ≤ f_2[n] + x_2$
　　then $f* = f_1[n]+x_1$
　　　　$I* = 1$
　　else $f* = f_2[n]+x_2$
　　　　$I* = 2$

PrintStation(I,n)
　i ← I*
　print “line” i “,station” n
　for j ← n downto 2
　　do i ←$I_i[j]$
　　print “line” i “,station” j-1

矩陣鏈相乘

給定矩陣序列$A_1, A_2, …, A_n$，求它們的積
$C=A*B$
$col_A=row_B$
$row_C=row_A$
$col_C=col_B$
$A_1, A_2, …, A_n$
$col_i = row_{i+1}$

矩陣鏈相乘的順序極大的影響計算的代價

MatrixMultiply(A,B)
　if columns[A] ≠ rows[B]
　　then error “incompatible dimensions”
　　else for i ← 1 to rows[A]
　　　　　do for j ← 1 to columns[B]
　　　　　　do C[i,j]=0
　　　　　　　 for k ← 1 to columns[A]
　　　　　　　 　do C[i,j] ← C[i,j] + A[i,k]B[k.j]

$A_1, 　　A_2,　……,　 A_n$
$p_0*p_1,p_1*p_2,……，p_{n-1}*p_n$

如何決定矩陣鏈相乘的順序，即如何放置括號，使矩陣鏈相乘所需要的數量乘法的次數最小
1️⃣蠻力法
逐一比較
2️⃣動態規劃
【1】.最優矩陣鏈相乘順序結構
標記$A_{i…j}$=$A_i,A_{i+1},……,A_j$=$A_{i…k}A_{k+1…j}$

假設矩陣鏈$A_{i…j}$相乘的最優順序在$A_k$和$A_{k+1}$分割

【2】.遞歸解
求$A_{i…j}$數量乘法的次數最小的運算順序
利用m[i, j]標記$A_{i…j}$最小的數量乘法次數

則
$if　i=j$
$m[i,j]=0$
$if　i<j$
$m[i,j]=min_{i≤k≤j}\{m[i,k]+m[k+1,j]+p_{i-1}p_kp_j\}$

動態規劃的適用性

• 最優解包含子問題的最優解
• 遞歸算法一次又一次地重複同樣的問題；只有Θ(n²)個子問題。

【3】.計算解
Matrix-Chain-Order(p)
　n ← length[p]-1;
　for i ← 1 to n
　　m[i, i] ← 0;
　for I ← 2 to n
　　for i ← 1 to n – l +1
　　　j ← i + l -1;
　　　m[i, j] ← $\infty$;
　　　for k ← i to j -1
　　　　q ← m[i, k] + m[k+1, j] + $p_{I-1}p_kp_j$;
　　　　if q < m[i, j]
　　　　　m[i,j] ← q;
　　　　　s[i, j] ← k;
　return m and s

【4】.構造最優相乘順序
s[i, j]:記錄了$A_i A_{i+1} … A_j$的最優分割順序位置

Matrix-Chain-Multiply(A, s, i, j)
　if j > i
　　X ← Matrix-Chain-Multiply(A, s, i, s[i,j]);
　　Y ← Matrix-Chain-Multiply(A, s, s[i, j]+1, j);
　　return Matrix-Multiply(X, Y);
　else return $A_i$;

最長共同子序列LCS

Z =（B,C,A）是X,Y的一個共同子序列
X = （A,B,C,B,D,A,B）
Y = （B, D, C, A, B, A）
X,Y的最長共同子序列爲$Z&#x27;$=(B, D, A, B)

解決方法
1️⃣蠻力法
窮舉X的所有子序列，檢查其是否在Y中出現，然後選出LCS
2️⃣動態規劃
【1】.最優解結構
$X=(x_1,x_2,……，x_m)$
$Y=(y_1,y_2,……，y_n)$
$LCS=Z=(z_1,z_2,……z_k)$

如果$x_m=y_n$,那麼$z_k=x_m=y_n$,$Z_{k-1}$是$X_{m-1}$和$Y_{n-1}$的LCS
如果$x_m$≠$y_n$,那麼$z_k$≠$x_m$就意味着$Z$是$X_{m-1}$和$Y$的LCS
如果$x_m$≠$y_n$,那麼$z_k$≠$y_n$就意味着$Z$是$X$和$Y_{n-1}$的LCS

【2】.遞歸解
C：X 和Y最長共同子序列的長度
c[i,j]:$X_i$ 和$Y_j$最長共同子序列的長度
問題的解即爲c[m,n]

$c[i,j]=\left\{ \begin{aligned} 0,　if　i=0　or　j=0\\ c[i-1,j-1]+1,　if　x_i=y_j,i,j&gt;0\\ max(c[i,j-1],c[i-1,j]),　if　x_i \neq y_j,i,j&gt;0 \end{aligned} \right.$

【3】.計算解
LCS算法：
LCSlength(X,Y)
　m ← length(X)
　n ← length(Y)
　for i ← 1 to m
　　c[i,0] ← 0
　for j ← 0 to n
　　c[0,j] ← 0
　for i ← 1 to m
　　for j ← 1 to n
　　　if $x_i$=$y_j$
　　　　c[i,j] ← c[i-1,j-1] + 1
　　　　b[i,j] ← “↖”
　　　else if c[i-1,j] ≥ c[i,j-1]
　　　　　　c[i,j] ← c[i-1,j]
　　　　　　b[i,j] ← “↑”
　　　　　else c[i,j] ← c[i,j-1]
　　　　　　　b[i,j] ← “←”
　return c and b

算法分析：其實就是簡單的填表，一個格子的計算量爲O(1),總共m*n個格子，所以總計算開銷$O(mn)$

【4】.構建最長共同子序列

參考：任課教師邱德紅教授的課件