數據結構和算法(4)-----算法的時間複雜度和空間複雜度

1.算法的時間複雜度定義

 在進行算法分析時,語句總的執行次數T(n)是關於問題規模n的函數,進而分析T(n)隨n的變化情況並確定T(n)的數量級。算法的時間複雜度,也就是算法的時間量度。記作:T(n)=O(f(n))。它表示隨問題n的增大,算法執行時間的增長率和f(n)的增長率相同,稱作算法的漸進時間複雜度,簡稱爲時間複雜度。其中,f(n)是問題規模n的某個函數。

    這樣用大寫O()來體現算法時間複雜度的記法,我們稱之爲大0記法。

2.推導大O階方法

  • 用常數1取代運行時間中的所有加法常數。
  • 在修改後的運行次數函數中,只保留最高階項。
  • 如果最高階項存在且不是1,則去除與這個項目相乘的常數。得到的結果就是大O階。

3.推導示例

3.1常數階

首先順序結構的時間複雜度。下面這個算法,是利用高斯定理計算1,2,……n個數的和。

int sum = 0, n = 100;       /*執行一次*/
sum = (1 + n) * n / 2;      /*執行一次*/
printf("%d",sum);           /*執行一次*/

這個算法的運行次數函數是f (n)  =3。 根據我們推導大0階的方法,第一步就是把常數項3 改爲1。在保留最高階項時發現,它根本沒有最高階項,所以這個算法的時間複雜度爲0(1)。
     另外,我們試想一下,如果這個算法當中的語句 sum = (1+n)*n/2; 有10 句,則與示例給出的代碼就是3次和12次的差異。這種與問題的大小無關(n的多少),執行時間恆定的算法,我們稱之爲具有O(1)的時間複雜度,又叫常數階。對於分支結構而言,無論是真,還是假,執行的次數都是恆定的,不會隨着n 的變大而發生變化,所以單純的分支結構(不包含在循環結構中),其時間複雜度也是0(1)。

3.2線性階

線性階的循環結構會複雜很多。要確定某個算法的階次,我們常常需要確定某個特定語句或某個語句集運行的次數。因此,我們要分析算法的複雜度,關鍵就是要分析循環結構的運行情況。

    下面這段代碼,它的循環的時間複雜度爲O(n), 因爲循環體中的代碼須要執行n次。

int i;      
for(i = 0; i < n; i++){
    /*時間複雜度爲O(1)的程序步驟序列*/
}

3.3對數階

    如下代碼:

int count = 1;      
while (count < n){
   count = count * 2;
  /*時間複雜度爲O(1)的程序步驟序列*/
}

由於每次count乘以2之後,就距離n更近了一分。 也就是說,有多少個2相乘後大於n,則會退出循環。 由2^x=n 得到x=logn。 所以這個循環的時間複雜度爲O(logn)

3.4平方階

    下面例子是一個循環嵌套,它的內循環剛纔我們已經分析過,時間複雜度爲O(n)。

int i, j;      
for(i = 0; i < n; i++){
    for(j = 0; j < n; j++){
        /*時間複雜度爲O(1)的程序步驟序列*/
    }
}

而對於外層的循環,不過是內部這個時間複雜度爲O(n)的語句,再循環n次。 所以這段代碼的時間複雜度爲O(n^2)。
    如果外循環的循環次數改爲了m,時間複雜度就變爲O(mXn)。

    所以我們可以總結得出,循環的時間複雜度等於循環體的複雜度乘以該循環運行的次數。
    那麼下面這個循環嵌套,它的時間複雜度是多少呢?

int i, j;      
for(i = 0; i < n; i++){
    for(j = i; j < n; j++){   /*注意j = i而不是0*/
        /*時間複雜度爲O(1)的程序步驟序列*/
    }
}

  由於當i=0時,內循環執行了n次,當i = 1時,執行了n-1次,……當i=n-1時,執行了1次。所以總的執行次數爲:

                                                   

 用我們推導大O階的方法,第一條,沒有加法常數不予考慮;第二條,只保留最高階項,因此保留時(n^2)/2; 第三條,去除這個項相乘的常數,也就是去除1/2,最終這段代碼的時間複雜度爲O(n2)。

    從這個例子,我們也可以得到一個經驗,其實理解大0推導不算難,難的是對數列的一些相關運算,這更多的是考察你的數學知識和能力。

3.5立方階

    下面例子是一個三重循環嵌套。

int i, j;      
for(i = 1; i < n; i++)
    for(j = 1; j < n; j++)
        for(j = 1; j < n; j++){
            /*時間複雜度爲O(1)的程序步驟序列*/
 
        }

這裏循環了(1^2+2^2+3^2+……+n^2) = n(n+1)(2n+1)/6次,按照上述大O階推導方法,時間複雜度爲O(n^3)。

4.常見的時間複雜度

                                                      

常用的時間複雜度所耗費的時間從小到大依次是:

    複雜度與時間效率的關係:  
             

5.最壞情況與平均情況

   我們查找一個有n 個隨機數字數組中的某個數字,最好的情況是第一個數字就是,那麼算法的時間複雜度爲O(1),但也有可能這個數字就在最後一個位置上待着,那麼算法的時間複雜度就是O(n),這是最壞的一種情況了。
    最壞情況運行時間是一種保證,那就是運行時間將不會再壞了。 在應用中,這是一種最重要的需求, 通常, 除非特別指定, 我們提到的運行時間都是最壞情況的運行時間。
    而平均運行時間也就是從概率的角度看, 這個數字在每一個位置的可能性是相同的,所以平均的查找時間爲n/2次後發現這個目標元素。平均運行時間是所有情況中最有意義的,因爲它是期望的運行時間。也就是說,我們運行一段程序代碼時,是希望看到平均運行時間的。可現實中,平均運行時間很難通過分析得到,一般都是通過運行一定數量的實驗數據後估算出來的。一般在沒有特殊說明的情況下,都是指最壞時間複雜度。

6.算法空間複雜度

  我們在寫代碼時,完全可以用空間來換取時間,比如說,要判斷某某年是不是閏年,你可能會花一點心思寫了一個算法,而且由於是一個算法,也就意味着,每次給一個年份,都是要通過計算得到是否是閏年的結果。 還有另一個辦法就是,事先建立一個有2050個元素的數組(年數略比現實多一點),然後把所有的年份按下標的數字對應,如果是閏年,此數組項的值就是1,如果不是值爲0。這樣,所謂的判斷某一年是否是閏年,就變成了查找這個數組的某一項的值是多少的問題。此時,我們的運算是最小化了,但是硬盤上或者內存中需要存儲這2050個0和1。這是通過一筆空間上的開銷來換取計算時間的小技巧。到底哪一個好,其實要看你用在什麼地方。
    算法的空間複雜度通過計算算法所需的存儲空間實現,算法空間複雜度的計算公式記作:S(n)= O(f(n)),其中,n爲問題的規模,f(n)爲語句關於n所佔存儲空間的函數。
    一般情況下,一個程序在機器上執行時,除了需要存儲程序本身的指令、常數、變量和輸入數據外,還需要存儲對數據操作的存儲單元,若輸入數據所佔空間只取決於問題本身,和算法無關,這樣只需要分析該算法在實現時所需的輔助單元即可。若算法執行時所需的輔助空間相對於輸入數據量而言是個常數,則稱此算法爲原地工作,空間複雜度爲0(1)。
     通常, 我們都使用"時間複雜度"來指運行時間的需求,使用"空間複雜度"指空間需求。當不用限定詞地使用"複雜度'時,通常都是指時間複雜度。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章