最長上升子序列(LIS)nlogn演算法

這題目是經典的DP題目，也可叫作LIS（Longest Increasing Subsequence）最長上升子序列 或者 最長不下降子序列。很基礎的題目，有兩種演算法，複雜度分別為O(n*logn)和O(n^2) 。

A.
O(n^2)演算法分析如下：

（a[1]...a[n] 存的都是輸入的數）
1、對於a[n]來說，由於它是最後一個數，所以當從a[n]開始尋找時，只存在長度為1的不下降子序列；
2、若從a[n-1]開始尋找，則存在下面的兩種可能性：
（1）若a[n-1] < a[n] 則存在長度為2的不下降子序列 a[n-1],a[n];
（2）若a[n-1] > a[n] 則存在長度為1的不下降子序列 a[n-1]或者a[n]。
3、一般若從a[t]開始，此時最長不下降子序列應該是按下列方法求出的：
在a[t+1],a[t+2],...a[n]中，找出一個比a[t]大的且最長的不下降子序列，作為它的後繼。
4、為演算法上的需要，定義一個數組：
int d[n][3];
d[t][0]表示a[t];
d[t][1]表示從i位置到達n的最長不下降子序列的長度;
d[t][2]表示從i位置開始最長不下降子序列的下一個位置。
實現代碼如下：

#include <iostream>using namespace std;int main(){    int i,j,n,a[100],b[100],max;    while(cin>>n)    {        for(i=0;i<n;i++)            cin>>a[i];        b[0]=1;//初始化，以a[0]結尾的最長遞增子序列長度為1        for(i=1;i<n;i++)        {            b[i]=1;//b[i]最小值為1            for(j=0;j<i;j++)                if(a[i]>a[j]&&b[j]+1>b[i])                    b[i]=b[j]+1;        }         for(max=i=0;i<n;i++)//求出整個數列的最長遞增子序列的長度            if(b[i]>max)                max=b[i];        cout<<max<<endl;    }    return 0;}

顯然，這種方法的時間複雜度仍為o(n^2);

B.
最長不下降子序列的O(n*logn)演算法分析如下：

設 A[t]表示序列中的第t個數，F[t]表示從1到t這一段中以t結尾的最長上升子序列的長度，初始時設F [t] = 0(t = 1, 2, ..., len(A))。則有動態規劃方程：F[t] = max{1, F[j] + 1} (j = 1, 2, ..., t - 1, 且A[j] < A[t])。

現在，我們仔細考慮計算F[t]時的情況。假設有兩個元素A[x]和A[y]，滿足
(1)x < y < t
(2)A[x] < A[y] < A[t]
(3)F[x] = F[y]
此時，選擇F[x]和選擇F[y]都可以得到同樣的F[t]值，那麼，在最長上升子序列的這個位置中，應該選擇A[x]還是應該選擇A[y]呢？
很明顯，選擇A[x]比選擇A[y]要好。因為由於條件(2)，在A[x+1] ... A[t-1]這一段中，如果存在A[z]，A[x] < A[z] < a[y]，則與選擇A[y]相比，將會得到更長的上升子序列。
再根據條件(3)，我們會得到一個啟示：根據F[]的值進行分類。對於F[]的每一個取值k，我們只需要保留滿足F[t] = k的所有A[t]中的最小值。設D[k]記錄這個值，即D[k] = min{A[t]} (F[t] = k)。

注意到D[]的兩個特點：
(1)　D[k]的值是在整個計算過程中是單調不上升的。
(2)　D[]的值是有序的，即D[1] < D[2] < D[3] < ... < D[n]。

利 用D[]，我們可以得到另外一種計算最長上升子序列長度的方法。設當前已經求出的最長上升子序列長度為len。先判斷A[t]與D[len]。若A [t] > D[len]，則將A[t]接在D[len]後將得到一個更長的上升子序列，len = len + 1， D[len] = A [t]；否則，在D[1]..D[len]中，找到最大的j，滿足D[j] < A[t]。令k = j + 1，則有A [t] <= D[k]，將A[t]接在D[j]後將得到一個更長的上升子序列，更新D[k] = A[t]。最後，len即為所要求的最長上 升子序列的長度。

在 上述演算法中，若使用樸素的順序尋找在D[1]..D[len]尋找，由於共有O(n)個元素需要計算，每次計算時的複雜度是O(n)，則整個演算法的 時間複雜度為O(n^2)，與原來的演算法相比沒有任何進步。但是由於D[]的特點(2)，我們在D[]中尋找時，可以使用二分尋找高效地完成，則整個演算法 的時間複雜度下降為O(nlogn)，有了非常顯著的提高。需要注意的是，D[]在演算法結束後記錄的並不是一個符合題意的最長上升子序列！

#include <iostream>using namespace std;int find(int *a,int len,int n)//若傳回值為x,則a[x]>=n>a[x-1]{    int left=0,right=len,mid=(left+right)/2;    while(left<=right)    {        if(n>a[mid]) left=mid+1;        else if(n<a[mid]) right=mid-1;        else return mid;        mid=(left+right)/2;    }    return left; }void fill(int *a,int n){    for(int i=0;i<=n;i++)        a[i]=1000;}int main(){    int max,i,j,n,a[100],b[100],c[100];    while(cin>>n)    {        fill(c,n+1);        for(i=0;i<n;i++)            cin>>a[i];        c[0]=-1;// …………………………………………1        c[1]=a[0];// ……………………………………2        b[0]=1;// …………………………………………3        for(i=1;i<n;i++)// ………………………………4        {            j=find(c,n+1,a[i]);// ……………………5            c[j]=a[i];// ………………………………6            b[i]=j;//……………………………………7        }        for(max=i=0;i<n;i++)//………………………………8            if(b[i]>max)                max=b[i];        cout<<max<<endl;    }    return 0;}

 

對於這段程式，我們可以用演算法導論上的loop invariants來協助理解.
loop invariant: 1、每次迴圈結束後c都是單調遞增的。(這一性質決定了可以用二分尋找）
2、每次迴圈後，c[i]總是儲存長度為i的遞增子序列的最末的元素，若長度為i的遞增子序
列有多個，剛儲存末尾元素最小的那個.（這一性質決定是第3條性質成立的前提）
3、每次迴圈完後，b[i]總是儲存以a[i]結尾的最長遞增子序列。
initialization: 1、進入迴圈之前，c[0]=-1,c[1]=a[0],c的其他元素均為1000,c是單調遞增的;
2、進入迴圈之前，c[1]=a[0],儲存了長度為1時的遞增序列的最末的元素，且此時間長度度為1
的遞增了序列只有一個，c[1]也是最小的;
3、進入迴圈之前，b[0]=1，此時以a[0]結尾的最長遞增子序列的長度為1.
maintenance: 1、若在第n次迴圈之前c是單調遞增的，則第n次迴圈時，c的值只在第6行發生變化，而由
c進入迴圈前單調遞增及find函數的性質可知（見find的注釋),
此時c[j+1]>c[j]>=a[i]>c[j-1],所以把c[j]的值更新為a[i]後，c[j+1]>c[j]>c[j-1]的性質仍然成
立，即c仍然是單調遞增的；
2、迴圈中，c的值只在第6行發生變化，由c[j]>=a[i]可知，c[j]更新為a[i]後，c[j]的值只會變
小不會變大，因為進入迴圈前c[j]的值是最小的，則迴圈中把c[j]更新為更小的a[i]，當
然此時c[j]的值仍是最小的;
3、迴圈中，b[i]的值在第7行發生了變化，因為有loop invariant的性質2，find函數傳回值
為j有：c[j-1]<a[i]<=c[j],這說明c[j-1]是小於a[i]的，且以c[j-1]結尾的遞增子序列有最大的
長度，即為j-1,把a[i]接在c[j-1]後可得到以a[i]結尾的最長遞增子序列，長度為(j-1)+1=j;
termination: 迴圈完後，i=n-1,b[0],b[1],...,b[n-1]的值均已求出，即以a[0],a[1],...,a[n-1]結尾的最長遞
增子序列的長度均已求出，再通過第8行的迴圈，即求出了整個數組的最長遞增子序列。
仔細分析上面的代碼可以發現，每次迴圈結束後，假設已經求出c[1],c[2],c[3],...,c[len]的值，則此時最長遞增子序列的長度為len,因此可以把上面的代碼更加簡化，即可以不需要數組b來輔助儲存，第8行的迴圈也可以省略。

#include <iostream>using namespace std;int find(int *a,int len,int n)//修改後的二分尋找，若傳回值為x，則a[x]>=n{    int left=0,right=len,mid=(left+right)/2;    while(left<=right)    {        if(n>a[mid]) left=mid+1;        else if(n<a[mid]) right=mid-1;        else return mid;        mid=(left+right)/2;    }    return left;}int main(){    int n,a[100],c[100],i,j,len;//新開一變數len,用來儲存每次迴圈結束後c中已經求出值的元素的最大下標    while(cin>>n)    {        for(i=0;i<n;i++)            cin>>a[i];        b[0]=1;        c[0]=-1;        c[1]=a[0];        len=1;//此時只有c[1]求出來，最長遞增子序列的長度為1.        for(i=1;i<n;i++)        {            j=find(c,len,a[i]);            c[j]=a[i];            if(j>len)//要更新len,另外補充一點：由二分尋找可知j只可能比len大1                len=j;//更新len        }        cout<<len<<endl;    }    return 0;}