複雜度分析

一. 如何分析、統計算法的執行效率和資源消耗？

（1）大 O 複雜度表示法

先看一段代碼：

 int cal(int n) {
   int sum = 0;
   int i = 1;
   for (; i <= n; ++i) {
     sum = sum + i;
   }
   return sum;
 }

從 CPU 的角度來看，這段代碼的每一行都執行着類似的操作：讀數據-運算-寫數據。儘管每行代碼對應的 CPU 執行的個數、執行的時間都不一樣，但是，我們這裏只是粗略估計，所以可以假設每行代碼執行的時間都一樣，爲 unit_time。在這個假設的基礎之上，這段代碼的總執行時間是多少呢？

第 2、3 行代碼分別需要 1 個 unit_time 的執行時間，第 4、5 行都運行了 n 遍，所以需要 2n*unit_time 的執行時間，所以這段代碼總的執行時間就是 (2n+2)*unit_time。可以看出來，所有代碼的執行時間 T(n) 與每行代碼的執行次數成正比。

再來一段代碼：

int cal(int n) {
   int sum = 0;
   int i = 1;
   int j = 1;
   for (; i <= n; ++i) {
     j = 1;
     for (; j <= n; ++j) {
       sum = sum +  i * j;
     }
   }
 }

我們依舊假設每個語句的執行時間是 unit_time。那這段代碼的總執行時間 T(n) 是多少呢？

第 2、3、4 行代碼，每行都需要 1 個 unit_time 的執行時間，第 5、6 行代碼循環執行了 n 遍，需要 2n * unit_time 的執行時間，第 7、8 行代碼循環執行了 n2遍，所以需要 2n2 * unit_time 的執行時間。所以，整段代碼總的執行時間 T(n) = (2n2+2n+3)*unit_time。

儘管我們不知道 unit_time 的具體值，但是通過這兩段代碼執行時間的推導過程，我們可以得到一個非常重要的規律，那就是，所有代碼的執行時間 T(n) 與每行代碼的執行次數 n 成正比。

我們可以把這個規律總結成一個公式。注意，大 O 就要登場了！

$[外鏈圖片轉存失敗,源站可能有防盜鏈機制,建議將圖片保存下來直接上傳(img-aCAnlzgG-1584802324388)(C:\Users\lin\AppData\Roaming\Typora\typora-user-images\1584795111383.png)]$

其中，T(n) 我們已經講過了，它表示代碼執行的時間；n 表示數據規模的大小；f(n) 表示每行代碼執行的次數總和。因爲這是一個公式，所以用 f(n) 來表示。公式中的 O，表示代碼的執行時間 T(n) 與 f(n) 表達式成正比。

所以，第一個例子中的 T(n) = O(2n+2)，第二個例子中的 T(n) = O(2n2+2n+3)。這就是大 O 時間複雜度表示法。

大 O 時間複雜度表示法。大 O 時間複雜度實際上並不具體表示代碼真正的執行時間，而是表示代碼執行時間隨數據規模增長的變化趨勢，所以，也叫作漸進時間複雜度（asymptotic time complexity），簡稱時間複雜度。

（2）時間複雜度分析

三個比較實用的方法：

只關注循環執行次數最多的一段代碼

大 O 這種複雜度表示方法只是表示一種變化趨勢。我們通常會忽略掉公式中的常量、低階、係數，只需要記錄一個最大階的量級就可以了。所以，我們在分析一個算法、一段代碼的時間複雜度的時候，也只關注循環執行次數最多的那一段代碼就可以了。這段核心代碼執行次數的 n 的量級，就是整段要分析代碼的時間複雜度。
加法法則：總複雜度等於量級最大的那段代碼的複雜度

一段代碼：
```
int cal(int n) {
   int sum_1 = 0;
   int p = 1;
   for (; p < 100; ++p) {
     sum_1 = sum_1 + p;
   }
 
   int sum_2 = 0;
   int q = 1;
   for (; q < n; ++q) {
     sum_2 = sum_2 + q;
   }
 
   int sum_3 = 0;
   int i = 1;
   int j = 1;
   for (; i <= n; ++i) {
     j = 1; 
     for (; j <= n; ++j) {
       sum_3 = sum_3 +  i * j;
     }
   }
 
   return sum_1 + sum_2 + sum_3;
 }
```
這個代碼分爲三部分，分別是求 sum_1、sum_2、sum_3。我們可以分別分析每一部分的時間複雜度，然後把它們放到一塊兒，再取一個量級最大的作爲整段代碼的複雜度。

第一段的時間複雜度是多少呢？這段代碼循環執行了 100 次，所以是一個常量的執行時間，跟 n 的規模無關。即便這段代碼循環 10000 次、100000 次，只要是一個已知的數，跟 n 無關，照樣也是常量級的執行時間。

那第二段代碼和第三段代碼的時間複雜度是多少呢？答案是 O(n) 和 O(n2)。

綜合這三段代碼的時間複雜度，我們取其中最大的量級。所以，整段代碼的時間複雜度就爲 O(n2)。也就是說：總的時間複雜度就等於量級最大的那段代碼的時間複雜度。

那我們將這個規律抽象成公式就是：

如果 T1(n)=O(f(n))，T2(n)=O(g(n))；那麼 T(n)=T1(n)+T2(n)=max(O(f(n)), O(g(n))) =O(max(f(n), g(n))).
乘法法則：嵌套代碼的複雜度等於嵌套內外代碼複雜度的乘積

如果 T1(n)=O(f(n))，T2(n)=O(g(n))；那麼 T(n)=T1(n)*T2(n)=O(f(n))*O(g(n))=O(f(n)*g(n)).
```
int cal(int n) {
   int ret = 0; 
   int i = 1;
   for (; i < n; ++i) {
     ret = ret + f(i);
   } 
 } 
 
 int f(int n) {
  int sum = 0;
  int i = 1;
  for (; i < n; ++i) {
    sum = sum + i;
  } 
  return sum;
 }
```
我們單獨看 cal() 函數。假設 f() 只是一個普通的操作，那第 4～6 行的時間複雜度就是，T1(n) = O(n)。但 f() 函數本身不是一個簡單的操作，它的時間複雜度是 T2(n) = O(n)，所以，整個 cal() 函數的時間複雜度就是，T(n) = T1(n) * T2(n) = O(n*n) = O(n2)。

（3）幾種常見時間複雜度實例分析

這些複雜度量級幾乎涵蓋了今後可以接觸的所有代碼的複雜度量級：

$[外鏈圖片轉存失敗,源站可能有防盜鏈機制,建議將圖片保存下來直接上傳(img-UOVXply4-1584802324417)(C:\Users\lin\AppData\Roaming\Typora\typora-user-images\1584796207706.png)]$
對於剛羅列的複雜度量級，我們可以粗略地分爲兩類，多項式量級和非多項式量級。其中，非多項式量級只有兩個：O(2n) 和 O(n!)。

當數據規模 n 越來越大時，非多項式量級算法的執行時間會急劇增加，求解問題的執行時間會無限增長。所以，非多項式時間複雜度的算法其實是非常低效的算法。

幾種常見的多項式時間複雜度：

O(1)

O(1) 只是常量級時間複雜度的一種表示方法，並不是指只執行了一行代碼。
```
int i = 8;
int j = 6;
int sum = i + j;
```
只要代碼的執行時間不隨 n 的增大而增長，這樣代碼的時間複雜度我們都記作 O(1)。或者說，一般情況下，只要算法中不存在循環語句、遞歸語句，即使有成千上萬行的代碼，其時間複雜度也是Ο(1)。
O(logn)、O(nlogn)

對數階時間複雜度非常常見，同時也是最難分析的一種時間複雜度。通過一個例子來說明一下。
```
 i=1;
 while (i <= n)  {
   i = i * 2;
 }
```
根據我們前面講的複雜度分析方法，第三行代碼是循環執行次數最多的。所以，我們只要能計算出這行代碼被執行了多少次，就能知道整段代碼的時間複雜度。

從代碼中可以看出，變量 i 的值從 1 開始取，每循環一次就乘以 2。當大於 n 時，循環結束。還記得我們高中學過的等比數列嗎？實際上，變量 i 的取值就是一個等比數列。如果我把它一個一個列出來，就應該是這個樣子的：
$[外鏈圖片轉存失敗,源站可能有防盜鏈機制,建議將圖片保存下來直接上傳(img-gucx1oCL-1584802324422)(C:\Users\lin\AppData\Roaming\Typora\typora-user-images\1584796633913.png)]$
我們只要知道 x 值是多少，就知道這行代碼執行的次數了。通過 2x=n 求解 x 這個問題我們想高中應該就學過了，我就不多說了。x=log2n，所以，這段代碼的時間複雜度就是 O(log2n)。

現在，我把代碼稍微改下，你再看看，這段代碼的時間複雜度是多少？
```
i=1;
 while (i <= n)  {
   i = i * 3;
 }
```
根據我剛剛講的思路，很簡單就能看出來，這段代碼的時間複雜度爲 O(log3n)。

**實際上，不管是以 2 爲底、以 3 爲底，還是以 10 爲底，我們可以把所有對數階的時間複雜度都記爲 O(logn)。**爲什麼呢？

我們知道，對數之間是可以互相轉換的，log3n 就等於 log32 * log2n，所以 O(log3n) = O(C * log2n)，其中 C=log32 是一個常量。基於我們前面的一個理論：在採用大 O 標記複雜度的時候，可以忽略係數，即 O(Cf(n)) = O(f(n))。所以，O(log2n) 就等於 O(log3n)。因此，在對數階時間複雜度的表示方法裏，我們忽略對數的“底”，統一表示爲 O(logn)。

而如果一段代碼的時間複雜度是 O(logn)，我們循環執行 n 遍，時間複雜度就是 O(nlogn) 了。而且，O(nlogn) 也是一種非常常見的算法時間複雜度。比如，歸併排序、快速排序的時間複雜度都是 O(nlogn)。
O(m+n)、O(m*n)

再來講一種跟前面都不一樣的時間複雜度，代碼的複雜度由兩個數據的規模來決定。

先看代碼：
```
int cal(int m, int n) {
  int sum_1 = 0;
  int i = 1;
  for (; i < m; ++i) {
    sum_1 = sum_1 + i;
  }
 
  int sum_2 = 0;
  int j = 1;
  for (; j < n; ++j) {
    sum_2 = sum_2 + j;
  }
 
  return sum_1 + sum_2;
}
```
從代碼中可以看出，m 和 n 是表示兩個數據規模。我們無法事先評估 m 和 n 誰的量級大，所以我們在表示複雜度的時候，就不能簡單地利用加法法則，省略掉其中一個。所以，上面代碼的時間複雜度就是 O(m+n)。

針對這種情況，原來的加法法則就不正確了，我們需要將加法規則改爲：T1(m) + T2(n) = O(f(m) + g(n))。但是乘法法則繼續有效：T1(m)*T2(n) = O(f(m) * f(n))。

（4）空間複雜度分析

時間複雜度的全稱是漸進時間複雜度，表示算法的執行時間與數據規模之間的增長關係。

類比一下，空間複雜度全稱就是漸進空間複雜度（asymptotic space complexity），表示算法的存儲空間與數據規模之間的增長關係。

具體的例子：

void print(int n) {
  int i = 0;
  int[] a = new int[n];
  for (i; i <n; ++i) {
    a[i] = i * i;
  }
 
  for (i = n-1; i >= 0; --i) {
    print out a[i]
  }
}

跟時間複雜度分析一樣，可以看到，第 2 行代碼中，申請了一個空間存儲變量 i，但是它是常量階的，跟數據規模 n 沒有關係，所以可以忽略。第 3 行申請了一個大小爲 n 的 int 類型數組，除此之外，剩下的代碼都沒有佔用更多的空間，所以整段代碼的空間複雜度就是 O(n)。

常見的空間複雜度就是 O(1)、O(n)、O(n2 )，像 O(logn)、O(nlogn) 這樣的對數階複雜度平時都用不到。而且，空間複雜度分析比時間複雜度分析要簡單很多。

（5）總結

複雜度也叫漸進複雜度，包括時間複雜度和空間複雜度，用來分析算法執行效率與數據規模之間的增長關係，可以粗略地表示，越高階複雜度的算法，執行效率越低。常見的複雜度並不多，從低階到高階有：O(1)、O(logn)、O(n)、O(nlogn)、O(n2 )。

二. 淺析最好、最壞、平均、均攤時間複雜度

（1）最好、最壞情況時間複雜度

來看一個稍微複雜的例子：

// n 表示數組 array 的長度
int find(int[] array, int n, int x) {
  int i = 0;
  int pos = -1;
  for (; i < n; ++i) {
    if (array[i] == x) pos = i;
  }
  return pos;
}

這段代碼要實現的功能是，在一個無序的數組（array）中，查找變量 x 出現的位置。如果沒有找到，就返回 -1。按照上節課講的分析方法，這段代碼的複雜度是 O(n)，其中，n 代表數組的長度。

在數組中查找一個數據，並不需要每次都把整個數組都遍歷一遍，因爲有可能中途找到就可以提前結束循環了。但是，這段代碼寫得不夠高效。可以這樣優化一下這段查找代碼。

// n 表示數組 array 的長度
int find(int[] array, int n, int x) {
  int i = 0;
  int pos = -1;
  for (; i < n; ++i) {
    if (array[i] == x) {
       pos = i;
       break;
    }
  }
  return pos;
}

這個時候，問題就來了。優化完之後，這段代碼的時間複雜度還是 O(n) 嗎？很顯然，咱們上一節講的分析方法，解決不了這個問題。

因爲，要查找的變量 x 可能出現在數組的任意位置。如果數組中第一個元素正好是要查找的變量 x，那就不需要繼續遍歷剩下的 n-1 個數據了，那時間複雜度就是 O(1)。但如果數組中不存在變量 x，那就需要把整個數組都遍歷一遍，時間複雜度就成了 O(n)。所以，不同的情況下，這段代碼的時間複雜度是不一樣的。

爲了表示代碼在不同情況下的不同時間複雜度，需要引入三個概念：最好情況時間複雜度、最壞情況時間複雜度和平均情況時間複雜度。

最好情況時間複雜度就是，在最理想的情況下，執行這段代碼的時間複雜度。

最壞情況時間複雜度就是，在最糟糕的情況下，執行這段代碼的時間複雜度。

（2）平均情況時間複雜度

最好情況時間複雜度和最壞情況時間複雜度對應的都是極端情況下的代碼複雜度，發生的概率其實並不大。爲了更好地表示平均情況下的複雜度，需要引入另一個概念：平均情況時間複雜度，後面簡稱爲平均時間複雜度。

要查找的變量 x 在數組中的位置，有 n+1 種情況：在數組的 0～n-1 位置中和不在數組中。把每種情況下，查找需要遍歷的元素個數累加起來，然後再除以 n+1，就可以得到需要遍歷的元素個數的平均值，即：

$[外鏈圖片轉存失敗,源站可能有防盜鏈機制,建議將圖片保存下來直接上傳(img-fcHpRz2U-1584802324433)(C:\Users\lin\AppData\Roaming\Typora\typora-user-images\1584798623659.png)]$

時間複雜度的大 O 標記法中，可以省略掉係數、低階、常量，所以，咱們把剛剛這個公式簡化之後，得到的平均時間複雜度就是 O(n)。

這個結論雖然是正確的，但是計算過程稍微有點兒問題。究竟是什麼問題呢？剛講的這 n+1 種情況，出現的概率並不是一樣的。

要查找的變量 x，要麼在數組裏，要麼就不在數組裏。這兩種情況對應的概率統計起來很麻煩，爲了方便你理解，假設在數組中與不在數組中的概率都爲 1/2。另外，要查找的數據出現在 0～n-1 這 n 個位置的概率也是一樣的，爲 1/n。所以，根據概率乘法法則，要查找的數據出現在 0～n-1 中任意位置的概率就是 1/(2n)。

因此，前面的推導過程中存在的最大問題就是，沒有將各種情況發生的概率考慮進去。如果把每種情況發生的概率也考慮進去，那平均時間複雜度的計算過程就變成了這樣：

$[外鏈圖片轉存失敗,源站可能有防盜鏈機制,建議將圖片保存下來直接上傳(img-0HF3D9kr-1584802324435)(C:\Users\lin\AppData\Roaming\Typora\typora-user-images\1584798729222.png)]$
這個值就是概率論中的加權平均值，也叫作期望值，所以平均時間複雜度的全稱應該叫加權平均時間複雜度或者期望時間複雜度。

引入概率之後，前面那段代碼的加權平均值爲 (3n+1)/4。用大 O 表示法來表示，去掉係數和常量，這段代碼的加權平均時間複雜度仍然是 O(n)。

實際上，在大多數情況下，我們並不需要區分最好、最壞、平均情況時間複雜度三種情況。像我們上一節課舉的那些例子那樣，很多時候，我們使用一個複雜度就可以滿足需求了。只有同一塊代碼在不同的情況下，時間複雜度有量級的差距，纔會使用這三種複雜度表示法來區分。

（3）均攤時間複雜度

大部分情況下，並不需要區分最好、最壞、平均三種複雜度。平均複雜度只在某些特殊情況下才會用到，而均攤時間複雜度應用的場景比它更加特殊、更加有限。

具體例子：

 // array 表示一個長度爲 n 的數組
 // 代碼中的 array.length 就等於 n
 int[] array = new int[n];
 int count = 0;
 
 void insert(int val) {
    if (count == array.length) {
       int sum = 0;
       for (int i = 0; i < array.length; ++i) {
          sum = sum + array[i];
       }
       array[0] = sum;
       count = 1;
    }
 
    array[count] = val;
    ++count;
 }

這段代碼實現了一個往數組中插入數據的功能。當數組滿了之後，也就是代碼中的 count == array.length 時，用 for 循環遍歷數組求和，並清空數組，將求和之後的 sum 值放到數組的第一個位置，然後再將新的數據插入。但如果數組一開始就有空閒空間，則直接將數據插入數組。

先用我們剛講到的三種時間複雜度的分析方法來分析一下：

最理想的情況下，數組中有空閒空間，我們只需要將數據插入到數組下標爲 count 的位置就可以了，所以最好情況時間複雜度爲 O(1)。
最壞的情況下，數組中沒有空閒空間了，我們需要先做一次數組的遍歷求和，然後再將數據插入，所以最壞情況時間複雜度爲 O(n)。
那平均時間複雜度是多少呢？答案是 O(1)。還是可以通過前面講的概率論的方法來分析。

假設數組的長度是 n，根據數據插入的位置的不同，可以分爲 n 種情況，每種情況的時間複雜度是 O(1)。除此之外，還有一種“額外”的情況，就是在數組沒有空閒空間時插入一個數據，這個時候的時間複雜度是 O(n)。而且，這 n+1 種情況發生的概率一樣，都是 1/(n+1)。所以，根據加權平均的計算方法，我們求得的平均時間複雜度就是：

$[外鏈圖片轉存失敗,源站可能有防盜鏈機制,建議將圖片保存下來直接上傳(img-LdQBexjv-1584802324438)(C:\Users\lin\AppData\Roaming\Typora\typora-user-images\1584799159650.png)]$
先來對比一下這個 insert() 的例子和前面那個 find() 的例子，就會發現這兩者有很大差別。

首先，find() 函數在極端情況下，複雜度才爲 O(1)。但 insert() 在大部分情況下，時間複雜度都爲 O(1)。只有個別情況下，複雜度才比較高，爲 O(n)。這是 insert()第一個區別於 find() 的地方。

對於 insert() 函數來說，O(1) 時間複雜度的插入和 O(n) 時間複雜度的插入，出現的頻率是非常有規律的，而且有一定的前後時序關係，一般都是一個 O(n) 插入之後，緊跟着 n-1 個 O(1) 的插入操作，循環往復。

所以，針對這樣一種特殊場景的複雜度分析，並不需要像之前講平均複雜度分析方法那樣，找出所有的輸入情況及相應的發生概率，然後再計算加權平均值。

針對這種特殊的場景，引入了一種更加簡單的分析方法：攤還分析法，通過攤還分析得到的時間複雜度起了一個名字，叫均攤時間複雜度。

那究竟如何使用攤還分析法來分析算法的均攤時間複雜度呢？

繼續看在數組中插入數據的這個例子。每一次 O(n) 的插入操作，都會跟着 n-1 次 O(1) 的插入操作，所以把耗時多的那次操作均攤到接下來的 n-1 次耗時少的操作上，均攤下來，這一組連續的操作的均攤時間複雜度就是 O(1)。這就是均攤分析的大致思路。

均攤時間複雜度和攤還分析應用場景比較特殊，所以並不會經常用到。爲了方便理解、記憶，這裏簡單總結一下它們的應用場景。如果遇到了，知道是怎麼回事兒就行了。

對一個數據結構進行一組連續操作中，大部分情況下時間複雜度都很低，只有個別情況下時間複雜度比較高，而且這些操作之間存在前後連貫的時序關係，這個時候，就可以將這一組操作放在一塊兒分析，看是否能將較高時間複雜度那次操作的耗時，平攤到其他那些時間複雜度比較低的操作上。而且，在能夠應用均攤時間複雜度分析的場合，一般均攤時間複雜度就等於最好情況時間複雜度。

《數據結構與算法之美》學習筆記(2) 複雜度分析

複雜度分析

一. 如何分析、統計算法的執行效率和資源消耗？

（1）大 O 複雜度表示法

（2）時間複雜度分析

（3）幾種常見時間複雜度實例分析

（4）空間複雜度分析

（5）總結

二. 淺析最好、最壞、平均、均攤時間複雜度

（1）最好、最壞情況時間複雜度

（2）平均情況時間複雜度

（3）均攤時間複雜度

Vue：生命週期詳解

算法 - 回溯算法

數據庫：區分笛卡兒積、自然連接、內連接、等值連接、外連接

Vue項目實戰：產品站與商品詳情頁面實現

Vue：模板編譯與 Virtual DOM

Mac下配置sublime實現LaTeX

https://yachay.unat.edu.pe/blog/index.php?comment_area=format_blog&comment_component=blog&comment_co

linux以太網驅動總結