最長上升子序列nlogn算法

這題目是經典的DP題目，也可叫作LIS（Longest Increasing Subsequence）最長上升子序列 或者 最長不下降子序列。很基礎的題目，有兩種算法，複雜度分別爲O(n*logn)和O(n^2) 。

A.
O(n^2)算法分析如下： 

（a[1]...a[n] 存的都是輸入的數） 
1、對於a[n]來說，由於它是最後一個數，所以當從a[n]開始查找時，只存在長度爲1的不下降子序列； 

 

2、若從a[n-1]開始查找，則存在下面的兩種可能性： 
   （1）若a[n-1] < a[n] 則存在長度爲2的不下降子序列 a[n-1],a[n];
   （2）若a[n-1] > a[n] 則存在長度爲1的不下降子序列 a[n-1]或者a[n]。 

 

3、一般若從a[t]開始，此時最長不下降子序列應該是按下列方法求出的： 
    在a[t+1],a[t+2],...a[n]中，找出一個比a[t]大的且最長的不下降子序列，作爲它的後繼。 

 

4、爲算法上的需要，定義一個數組：
    int d[n][3]; 
    d[t][0]表示a[t]; 
    d[t][1]表示從i位置到達n的最長不下降子序列的長度;
    d[t][2]表示從i位置開始最長不下降子序列的下一個位置。

 

實現代碼如下：
    

#include <iostream>
using namespace std;
int main(void)
{
    int i,j,n,a[100],b[100],max;
    while(cin>>n)
    {
        for(i=0;i<n;i++)
            cin>>a[i];
        b[0]=1;             //初始化，以a[0]結尾的最長遞增子序列長度爲1
        for(i=1;i<n;i++)
        {
            b[i]=1;         //b[i]最小值爲1
            for(j=0;j<i;j++)
                if(a[i]>a[j]&&b[j]+1>b[i])
                    b[i]=b[j]+1;
        }
        for(max=i=0;i<n;i++)//求出整個數列的最長遞增子序列的長度
            if(b[i]>max)
            max=b[i];
        cout<<max<<endl;
    }
      return 0;
}

    顯然，這種方法的時間複雜度仍爲o(n^2);

B.

最長不下降子序列的O(nlogn)算法分析如下: 

設 A[t]表示序列中的第t個數，F[t]表示從1到t這一段中以t結尾的最長上升子序列的長度，初始時設F [t] = 0(t = 1, 2, ..., len(A))。則有動態規劃方程：F[t] = max{1, F[j] + 1} (j = 1, 2, ..., t - 1, 且A[j] < A[t])。 

現在，我們仔細考慮計算F[t]時的情況。假設有兩個元素A[x]和A[y]，滿足 
(1)x < y < t 
(2)A[x] < A[y] < A[t] 
(3)F[x] = F[y] 

 

此時，選擇F[x]和選擇F[y]都可以得到同樣的F[t]值，那麼，在最長上升子序列的這個位置中，應該選擇A[x]還是應該選擇A[y]呢？ 

 

很明顯，選擇A[x]比選擇A[y]要好。因爲由於條件(2)，在A[x+1] ... A[t-1]這一段中，如果存在A[z]，A[x] < A[z] < a[y]，則與選擇A[y]相比，將會得到更長的上升子序列。 
再根據條件(3)，我們會得到一個啓示：根據F[]的值進行分類。對於F[]的每一個取值k，我們只需要保留滿足F[t] = k的所有A[t]中的最小值。設D[k]記錄這個值，即D[k] = min{A[t]} (F[t] = k)。 

注意到D[]的兩個特點： 
(1)　D[k]的值是在整個計算過程中是單調不下降的。 
(2)　D[]的值是有序的，即D[1] < D[2] < D[3] < ... < D[n]。 

利 用D[]，我們可以得到另外一種計算最長上升子序列長度的方法。設當前已經求出的最長上升子序列長度爲len。先判斷A[t]與D[len]。若A [t] > D[len]，則將A[t]接在D[len]後將得到一個更長的上升子序列，len = len + 1， D[len] = A [t]；否則，在D[1]..D[len]中，找到最大的j，滿足D[j] < A[t]。令k = j + 1，則有A [t] <= D[k]，將A[t]接在D[j]後將得到一個更長的上升子序列，更新D[k] = A[t]。最後，len即爲所要求的最長上 升子序列的長度。 

在 上述算法中，若使用樸素的順序查找在D[1]..D[len]查找，由於共有O(n)個元素需要計算，每次計算時的複雜度是O(n)，則整個算法的 時間複雜度爲O(n^2)，與原來的算法相比沒有任何進步。但是由於D[]的特點(2)，我們在D[]中查找時，可以使用二分查找高效地完成，則整個算法 的時間複雜度下降爲O(nlogn)，有了非常顯著的提高。需要注意的是，D[]在算法結束後記錄的並不是一個符合題意的最長上升子序列！

  

#include <iostream>
using namespace std;
int find(int *a,int len,int n)//若返回值爲x,則a[x]>=n>a[x-1]
{
    int left=0,right=len,mid=(left+right)/2;
    while(left<=right)
    {
        if(n>a[mid]) left=mid+1;
        else if(n<a[mid]) right=mid-1;
        else return mid;
        mid=(left+right)/2;
    }
    return left;
}

void fill(int *a,int n)
{
    for(int i=0;i<=n;i++)
        a[i]=1000;
}

int main(void)
{
    int max,i,j,n,a[100],b[100],c[100];
    while(cin>>n)
    {
        fill(c,n+1);
        for(i=0;i<n;i++)
            cin>>a[i];
        c[0]=-1;//     …………………………………1
        c[1]=a[0];//         …………………………2
        b[0]=1;//      …………………………………3
        for(i=1;i<n;i++)//           ………………4
        {
            j=find(c,n+1,a[i]);//  …………………5
            c[j]=a[i];// ………………………………6
            b[i]=j;//……………………………………7
        }
        for(max=i=0;i<n;i++)// ………………………8
            if(b[i]>max)
                max=b[i];
       cout<<max<<endl;
    }
    return 0;
}

 

   

 

    對於這段程序，我們可以用算法導論上的loop invariants來幫助理解.
    loop invariant : 1、每次循環結束後c都是單調遞增的。(這一性質決定了可以用二分查找）
                        2、每次循環後，c[i]總是保存長度爲i的遞增子序列的最末的元素，若長度爲i的遞增子序

                            列有多個，剛保存末尾元素最小的那個.（這一性質決定是第3條性質成立的前提）
                        3、每次循環完後，b[i]總是保存以a[i]結尾的最長遞增子序列。
    initialization:     1、進入循環之前，c[0]=-1,c[1]=a[0],c的其他元素均爲1000,c是單調遞增的;
                        2、進入循環之前，c[1]=a[0],保存了長度爲1時的遞增序列的最末的元素，且此時長度爲1

                            的遞增了序列只有一個，c[1]也是最小的;
                        3、進入循環之前，b[0]=1，此時以a[0]結尾的最長遞增子序列的長度爲1.
    maintenance:    1、若在第n次循環之前c是單調遞增的，則第n次循環時，c的值只在第6行發生變化，而由

                             c進入循環前單調遞增及find函數的性質可知（見find的註釋),

                             此時c[j+1]>c[j]>=a[i]>c[j-1],所以把c[j]的值更新爲a[i]後，c[j+1]>c[j]> c[j-1]的性質仍然成

                             立，即c仍然是單調遞增的；
                         2、循環中，c的值只在第6行發生變化，由c[j]>=a[i]可知，c[j]更新爲a[i]後，c[j]的值只會變

                             小不會變大，因爲進入循環前c[j]的值是最小的，則循環中把c[j]更新爲更小的a[i]，當

                             然此時c[j]的值仍是最小的;
                         3、循環中，b[i]的值在第7行發生了變化，因爲有loop invariant的性質2，find函數返回值

                             爲j有：c[j-1]<a[i]<=c[j],這說明c[j-1]是小於a[i]的，且以c[j-1]結尾的遞增子序列有最大的

                             長度，即爲j-1,把a[i]接在c[j-1]後可得到以a[i]結尾的最長遞增子序列，長度爲(j-1)+1=j;
    termination:        循環完後，i=n-1,b[0],b[1],...,b[n-1]的值均已求出，即以a[0],a[1],...,a[n-1]結尾的最長遞

                           增子序列的長度均已求出，再通過第8行的循環，即求出了整個數組的最長遞增子序列。

         

 

仔細分析上面的代碼可以發現，每次循環結束後，假設已經求出c[1],c[2],c[3],...,c[len]的值，則此時最長遞增子序列的長度爲 len,因此可以把上面的代碼更加簡化，即可以不需要數組b來輔助存儲，第8行的循環也可以省略。
   

#include <iostream>
using namespace std;
int find(int *a,int len,int n)//修改後的二分查找，若返回值爲x，則a[x]>=n
{
    int left=0,right=len,mid=(left+right)/2;
    while(left<=right)
    {
       if(n>a[mid]) left=mid+1;
       else if(n<a[mid]) right=mid-1;
       else return mid;
       mid=(left+right)/2;
    }
    return left;
}

int main(void)
{
    int n,a[100],c[100],i,j,len;//新開一變量len,用來儲存每次循環結束後c中已經求出值的元素的最大下標
    while(cin>>n)
    {
        for(i=0;i<n;i++)
            cin>>a[i];
        b[0]=1;
        c[0]=-1;
        c[1]=a[0];
        len=1;//此時只有c[1]求出來，最長遞增子序列的長度爲1.
        for(i=1;i<n;i++)
        {
            j=find(c,len,a[i]);
            c[j]=a[i];
            if(j>len)//要更新len,另外補充一點：由二分查找可知j只可能比len大1
                len=j;//更新len
        }
        cout<<len<<endl;
    }
    return 0;
}