算法：動態規劃

1.首先來看看維基百科怎麼定義的動態規劃

引自wiki：Dynamic programming

In mathematics, management science, economics, computer science, and bioinformatics, dynamic programming (also known as dynamic optimization) is a method for solving a complex problem by breaking it down into a collection of simpler subproblems, solving each of those subproblems just once, and storing their solutions - ideally, using a memory-based data structure. The next time the same subproblem occurs, instead of recomputing its solution, one simply looks up the previously computed solution, thereby saving computation time at the expense of a (hopefully) modest expenditure in storage space. (Each of the subproblem solutions is indexed in some way, typically based on the values of its input parameters, so as to facilitate its lookup.) The technique of storing solutions to subproblems instead of recomputing them is called "memoization".

Dynamic programming algorithms are often used for optimization. A dynamic programming algorithm will examine the previously solved subproblems and will combine their solutions to give the best solution for the given problem. In comparison, a greedy algorithm treats the solution as some sequence of steps and picks the locally optimal choice at each step. Using a greedy algorithm does not guarantee an optimal solution, because picking locally optimal choices may result in a bad global solution, but it is often faster to calculate. Fortunately, some greedy algorithms (such as Kruskal's or Prim's for minimum spanning trees) are proven to lead to the optimal solution.

For example, in the coin change problem of finding the minimum number of coins of given denominations needed to make a given amount, a dynamic programming algorithm would find an optimal solution for each amount by first finding an optimal solution for each smaller amount and then using these solutions to construct an optimal solution for the larger amount. In contrast, a greedy algorithm might treat the solution as a sequence of coins, starting from the given amount and at each step subtracting the largest possible coin denomination that is less than the current remaining amount. If the coin denominations are 1,4,5,15,20 and the given amount is 23, this greedy algorithm gives a non-optimal solution of 20+1+1+1, while the optimal solution is 15+4+4.

In addition to finding optimal solutions to some problem, dynamic programming can also be used for counting the number of solutions, for example counting the number of ways a certain amount of change can be made from a given collection of coins, or counting the number of optimal solutions to the coin change problem described above.

Sometimes, applying memoization to the naive recursive algorithm (namely the one obtained by a direct translation of the problem into recursive form) already results in a dynamic programming algorithm with asymptotically optimal time complexity, but for optimization problems in general the optimal algorithm might require more sophisticated algorithms. Some of these may be recursive (and hence can be memoized) but parametrized differently from the naive algorithm. For other problems the optimal algorithm may not even be a memoized recursive algorithm in any reasonably natural sense. An example of such a problem is the Egg Dropping puzzle described below.

在文章的 第二段和第三段加黃背景的文字，第二段說明了與貪婪算法的不同並通過第三段的舉例，同一個問題貪婪算法可能會得不到全局最優解，23=20+1+1+1，而動態規劃是23=15+4+4得到全局最優解

還有在wiki Greedy algorithm 中有張圖片：來說明貪婪算法有可能得不到全局最優解，但是幸運的是 Kruskal's or Prim's for minimum spanning trees 達到了全局最優解

2.然後我看  清華大學研究生公共課教材---數學系列---最優化理論與算法（第二版）陳寶林 編著

在最後第16章，以最短路線問題例介紹了動態規劃，並定義了動態規劃中的幾個常用的術語。

1.階段

2.狀態

3.決策

4.策略

5.狀態轉移方程

6.指標函數

7.最優策略和最優軌線

在第二節提出了 R.Bellman的最優性原理：一個最優策略的子策略總是最優的

3. 算法導論中的動態規劃

提到在動態規劃方法的最優化問題中的兩個要素：最優子結構和重疊子問題。

詳細請看 算法導論P202

4.然後看知乎大神的解答：

作者：徐凱強
鏈接：https://www.zhihu.com/question/23995189/answer/35324479

動態規劃中遞推式的求解方法不是動態規劃的本質。

我曾經作爲省隊成員參加過NOI，保送之後也給學校參加NOIP的同學多次講過動態規劃，我試着講一下我理解的動態規劃，爭取深入淺出。希望你看了我的答案，能夠喜歡上動態規劃。

0. 動態規劃的本質，是對問題狀態的定義和狀態轉移方程的定義。
引自維基百科

dynamic programming is a method for solving a complex problem bybreaking it down into a collection of simpler subproblems.

動態規劃是通過拆分問題，定義問題狀態和狀態之間的關係，使得問題能夠以遞推（或者說分治）的方式去解決。
本題下的其他答案，大多都是在說遞推的求解方法，但如何拆分問題，纔是動態規劃的核心。
而拆分問題，靠的就是狀態的定義和狀態轉移方程的定義。

1. 什麼是狀態的定義？

首先想說大家千萬不要被下面的數學式嚇到，這裏只涉及到了函數相關的知識。
我們先來看一個動態規劃的教學必備題：

給定一個數列，長度爲N，
求這個數列的最長上升（遞增）子數列（LIS）的長度.
以
1 7 2 8 3 4
爲例。
這個數列的最長遞增子數列是 1 2 3 4，長度爲4；
次長的長度爲3， 包括 1 7 8; 1 2 3 等.

要解決這個問題，我們首先要定義這個問題和這個問題的子問題。
有人可能會問了，題目都已經在這了，我們還需定義這個問題嗎？需要，原因就是這個問題在字面上看，找不出子問題，而沒有子問題，這個題目就沒辦法解決。

所以我們來重新定義這個問題：

給定一個數列，長度爲N，
設爲：以數列中第k項結尾的最長遞增子序列的長度.
求 中的最大值.

顯然，這個新問題與原問題等價。
而對於來講，都是的子問題：因爲以第k項結尾的最長遞增子序列（下稱LIS），包含着以第中某項結尾的LIS。

上述的新問題也可以叫做狀態，定義中的“爲數列中第k項結尾的LIS的長度”，就叫做對狀態的定義。
之所以把做“狀態”而不是“問題” ，一是因爲避免跟原問題中“問題”混淆，二是因爲這個新問題是數學化定義的。


對狀態的定義只有一種嗎？當然不是。
我們甚至可以二維的，以完全不同的視角定義這個問題：

給定一個數列，長度爲N，
設爲：
在前i項中的，長度爲k的最長遞增子序列中，最後一位的最小值. .
若在前i項中，不存在長度爲k的最長遞增子序列，則爲正無窮.
求最大的x，使得不爲正無窮。

這個新定義與原問題的等價性也不難證明，請讀者體會一下。
上述的就是狀態，定義中的“爲：在前i項中，長度爲k的最長遞增子序列中，最後一位的最小值”就是對狀態的定義。


2. 什麼是狀態轉移方程？
上述狀態定義好之後，狀態和狀態之間的關係式，就叫做狀態轉移方程。

比如，對於LIS問題，我們的第一種定義：

設爲：以數列中第k項結尾的最長遞增子序列的長度.

設A爲題中數列，狀態轉移方程爲：

（根據狀態定義導出邊界情況）

用文字解釋一下是：
以第k項結尾的LIS的長度是：保證第i項比第k項小的情況下，以第i項結尾的LIS長度加一的最大值，取遍i的所有值（i小於k）。

第二種定義：

設爲：在數列前i項中，長度爲k的遞增子序列中，最後一位的最小值

設A爲題中數列，狀態轉移方程爲：

若則
否則：

（邊界情況需要分類討論較多，在此不列出，需要根據狀態定義導出邊界情況。）
大家套着定義讀一下公式就可以了，應該不難理解，就是有點繞。

這裏可以看出，這裏的狀態轉移方程，就是定義了問題和子問題之間的關係。
可以看出，狀態轉移方程就是帶有條件的遞推式。

3. 動態規劃迷思
本題下其他用戶的回答跟動態規劃都有或多或少的聯繫，我也講一下與本答案的聯繫。

a. “緩存”，“重疊子問題”，“記憶化”：
這三個名詞，都是在闡述遞推式求解的技巧。以Fibonacci數列爲例，計算第100項的時候，需要計算第99項和98項；在計算第101項的時候，需要第100項和第99項，這時候你還需要重新計算第99項嗎？不需要，你只需要在第一次計算的時候把它記下來就可以了。
上述的需要再次計算的“第99項”，就叫“重疊子問題”。如果沒有計算過，就按照遞推式計算，如果計算過，直接使用，就像“緩存”一樣，這種方法，叫做“記憶化”，這是遞推式求解的技巧。這種技巧，通俗的說叫“花費空間來節省時間”。都不是動態規劃的本質，不是動態規劃的核心。

b. “遞歸”：
遞歸是遞推式求解的方法，連技巧都算不上。

c. "無後效性"，“最優子結構”：
上述的狀態轉移方程中，等式右邊不會用到下標大於左邊i或者k的值，這是"無後效性"的通俗上的數學定義，符合這種定義的狀態定義，我們可以說它具有“最優子結構”的性質，在動態規劃中我們要做的，就是找到這種“最優子結構”。
在對狀態和狀態轉移方程的定義過程中，滿足“最優子結構”是一個隱含的條件（否則根本定義不出來）。對狀態和“最優子結構”的關係的進一步解釋，什麼是動態規劃？動態規劃的意義是什麼？ - 王勐的回答 寫的很好，大家可以去讀一下。

需要注意的是，一個問題可能有多種不同的狀態定義和狀態轉移方程定義，存在一個有後效性的定義，不代表該問題不適用動態規劃。這也是其他幾個答案中出現的邏輯誤區：
動態規劃方法要尋找符合“最優子結構“的狀態和狀態轉移方程的定義，在找到之後，這個問題就可以以“記憶化地求解遞推式”的方法來解決。而尋找到的定義，纔是動態規劃的本質。

有位答主說：

分治在求解每個子問題的時候，都要進行一遍計算
動態規劃則存儲了子問題的結果，查表時間爲常數

這就像說多加辣椒的菜就叫川菜，多加醬油的菜就叫魯菜一樣，是存在誤解的。

文藝的說，動態規劃是尋找一種對問題的觀察角度，讓問題能夠以遞推（或者說分治）的方式去解決。尋找看問題的角度，纔是動態規劃中最耀眼的寶石！（大霧）

動態規劃的本質不在於是遞推或是遞歸，也不需要糾結是不是內存換時間。理解動態規劃並不需要數學公式介入，只是完全解釋清楚需要點篇幅…首先需要明白哪些問題不是動態規劃可以解決的，才能明白爲神馬需要動態規劃。不過好處時順便也就搞明白了遞推貪心搜索…顯示全部

動態規劃的本質不在於是遞推或是遞歸，也不需要糾結是不是內存換時間。

理解動態規劃並不需要數學公式介入，只是完全解釋清楚需要點篇幅…首先需要明白哪些問題不是動態規劃可以解決的，才能明白爲神馬需要動態規劃。不過好處時順便也就搞明白了遞推貪心搜索和動規之間有什麼關係，以及幫助那些總是把動規當成搜索解的同學建立動規的思路。當然熟悉了之後可以直接根據問題的描述得到思路，如果有需要的話再補充吧。

動態規劃是對於 某一類問題 的解決方法！！重點在於如何鑑定“某一類問題”是動態規劃可解的而不是糾結解決方法是遞歸還是遞推！

怎麼鑑定dp可解的一類問題需要從計算機是怎麼工作的說起…計算機的本質是一個狀態機，內存裏存儲的所有數據構成了當前的狀態，CPU只能利用當前的狀態計算出下一個狀態（不要糾結硬盤之類的外部存儲，就算考慮他們也只是擴大了狀態的存儲容量而已，並不能改變下一個狀態只能從當前狀態計算出來這一條鐵律）


當你企圖使用計算機解決一個問題是，其實就是在思考如何將這個問題表達成狀態（用哪些變量存儲哪些數據）以及如何在狀態中轉移（怎樣根據一些變量計算出另一些變量）。所以所謂的空間複雜度就是爲了支持你的計算所必需存儲的狀態最多有多少，所謂時間複雜度就是從初始狀態到達最終狀態中間需要多少步！

太抽象了還是舉個例子吧：

比如說我想計算第100個非波那契數，每一個非波那契數就是這個問題的一個狀態，每求一個新數字只需要之前的兩個狀態。所以同一個時刻，最多只需要保存兩個狀態，空間複雜度就是常數；每計算一個新狀態所需要的時間也是常數且狀態是線性遞增的，所以時間複雜度也是線性的。

上面這種狀態計算很直接，只需要依照固定的模式從舊狀態計算出新狀態就行（a[i]=a[i-1]+a[i-2]），不需要考慮是不是需要更多的狀態，也不需要選擇哪些舊狀態來計算新狀態。對於這樣的解法，我們叫遞推。

非波那契那個例子過於簡單，以至於讓人忽視了階段的概念，所謂階段是指隨着問題的解決，在同一個時刻可能會得到的不同狀態的集合。非波那契數列中，每一步會計算得到一個新數字，所以每個階段只有一個狀態。想象另外一個問題情景，假如把你放在一個圍棋棋盤上的某一點，你每一步只能走一格，因爲你可以東南西北隨便走，所以你當你同樣走四步可能會處於很多個不同的位置。從頭開始走了幾步就是第幾個階段，走了n步可能處於的位置稱爲一個狀態，走了這n步所有可能到達的位置的集合就是這個階段下所有可能的狀態。

現在問題來了，有了階段之後，計算新狀態可能會遇到各種奇葩的情況，針對不同的情況，就需要不同的算法，下面就分情況來說明一下：


假如問題有n個階段，每個階段都有多個狀態，不同階段的狀態數不必相同，一個階段的一個狀態可以得到下個階段的所有狀態中的幾個。那我們要計算出最終階段的狀態數自然要經歷之前每個階段的某些狀態。

好消息是，有時候我們並不需要真的計算所有狀態，比如這樣一個弱智的棋盤問題：從棋盤的左上角到達右下角最短需要幾步。答案很顯然，用這樣一個弱智的問題是爲了幫助我們理解階段和狀態。某個階段確實可以有多個狀態，正如這個問題中走n步可以走到很多位置一樣。但是同樣n步中，有哪些位置可以讓我們在第n+1步中走的最遠呢？沒錯，正是第n步中走的最遠的位置。換成一句熟悉話叫做“下一步最優是從當前最優得到的”。所以爲了計算最終的最優值，只需要存儲每一步的最優值即可，解決符合這種性質的問題的算法就叫貪心。如果只看最優狀態之間的計算過程是不是和非波那契數列的計算很像？所以計算的方法是遞推。

既然問題都是可以劃分成階段和狀態的。這樣一來我們一下子解決了一大類問題：一個階段的最優可以由前一個階段的最優得到。

如果一個階段的最優無法用前一個階段的最優得到呢？

什麼你說只需要之前兩個階段就可以得到當前最優？那跟只用之前一個階段並沒有本質區別。最麻煩的情況在於你需要之前所有的情況才行。

再來一個迷宮的例子。在計算從起點到終點的最短路線時，你不能只保存當前階段的狀態，因爲題目要求你最短，所以你必須知道之前走過的所有位置。因爲即便你當前再的位置不變，之前的路線不同會影響你的之後走的路線。這時你需要保存的是之前每個階段所經歷的那個狀態，根據這些信息才能計算出下一個狀態！

每個階段的狀態或許不多，但是每個狀態都可以轉移到下一階段的多個狀態，所以解的複雜度就是指數的，因此時間複雜度也是指數的。哦哦，剛剛提到的之前的路線會影響到下一步的選擇，這個令人不開心的情況就叫做有後效性。

剛剛的情況實在太普遍，解決方法實在太暴力，有沒有哪些情況可以避免如此的暴力呢？

契機就在於後效性。

有一類問題，看似需要之前所有的狀態，其實不用。不妨也是拿最長上升子序列的例子來說明爲什麼他不必需要暴力搜索，進而引出動態規劃的思路。

假裝我們年幼無知想用搜索去尋找最長上升子序列。怎麼搜索呢？需要從頭到尾依次枚舉是否選擇當前的數字，每選定一個數字就要去看看是不是滿足“上升”的性質，這裏第i個階段就是去思考是否要選擇第i個數，第i個階段有兩個狀態，分別是選和不選。哈哈，依稀出現了剛剛迷宮找路的影子！咦慢着，每次當我決定要選擇當前數字的時候，只需要和之前選定的一個數字比較就行了！這是和之前迷宮問題的本質不同！這就可以縱容我們不需要記錄之前所有的狀態啊！既然我們的選擇已經不受之前狀態的組合的影響了，那時間複雜度自然也不是指數的了啊！雖然我們不在乎某序列之前都是什麼元素，但我們還是需要這個序列的長度的。所以我們只需要記錄以某個元素結尾的LIS長度就好！因此第i個階段的最優解只是由前i-1個階段的最優解得到的，然後就得到了DP方程（感謝@韓曦 指正）


所以一個問題是該用遞推、貪心、搜索還是動態規劃，完全是由這個問題本身階段間狀態的轉移方式決定的！

每個階段只有一個狀態->遞推；
每個階段的最優狀態都是由上一個階段的最優狀態得到的->貪心；
每個階段的最優狀態是由之前所有階段的狀態的組合得到的->搜索；
每個階段的最優狀態可以從之前某個階段的某個或某些狀態直接得到而不管之前這個狀態是如何得到的->動態規劃。

每個階段的最優狀態可以從之前某個階段的某個或某些狀態直接得到

這個性質叫做最優子結構；

而不管之前這個狀態是如何得到的

這個性質叫做無後效性。

另：其實動態規劃中的最優狀態的說法容易產生誤導，以爲只需要計算最優狀態就好，LIS問題確實如此，轉移時只用到了每個階段“選”的狀態。但實際上有的問題往往需要對每個階段的所有狀態都算出一個最優值，然後根據這些最優值再來找最優狀態。比如揹包問題就需要對前i個包（階段）容量爲j時（狀態）計算出最大價值。然後在最後一個階段中的所有狀態種找到最優值。