數據結構與算法之美 - 04 | 複雜度分析(下):淺析最好、最壞、平均、均攤時間複雜度

這系列相關博客,參考 數據結構與算法之美

數據結構與算法之美 - 04 | 複雜度分析(下):淺析最好、最壞、平均、均攤時間複雜度

上一節,我們講了複雜度的大O表示法和幾個分析技巧,還舉了一些 O(logn)、O(n)、O(nlogn)複雜度分析。掌握了這些內容,對於複雜度這個知識點,你已經可以到及格線了。但是,我想你肯定不會滿足於此。

今天我會繼續給你講四個複雜度分析方面的知識點,最好情況時間複雜度(best case time complexity)、最壞情況時間複雜度(worst case time complexity)、平均情況時間複雜度(average case time complexity)、均攤時間複雜度(amortized time complexity)。如果這幾個概念你都能掌握,那對你來說, 複雜度分析這部分內容就沒什麼大問題了。

最好、最壞情況時間複雜度

上一節我舉的分析複雜度的例子都很簡單,今天我們來看一個稍微複雜的。你可以用我上節教你的分析技巧,自己先試着分析一下這段代碼的時間複雜度。

// n表示數組array的長度
int find(int[] array, int n, int x) { 
	int i = 0; 
	int pos = -1; 
	for (; i < n; ++i) {
		if (array[i] == x)
			pos = i;
	}
	return pos;
}

你應該可以看出來,這段代碼要實現的功能是,在一個無序的數組(array)中,查找變量x出現的位置。如果沒有找到,就返回-1。按照上節課講的分析方法,這段代碼的複雜度是O(n),其中,n代表數組的長度。

我們在數組中查找一個數據,並不需要每次都把整個數組都遍歷一遍,因爲有可能中途找到就可以提前結束循環了。但是,這段代碼寫得不夠高效。我們可以這樣優化一下這段查找代碼。

// n表示數組array的長度
int find(int[] array, int n, int x) { 
	int i = 0; 
	int pos = -1; 
	for (; i < n; ++i) {
		if (array[i] == x) {
			pos = i;
			return pos;
		}
	}
	return pos;
}

這個時候,問題就來了。我們優化完之後,這段代碼的時間複雜度還是O(n)嗎?很顯然,咱們上一節講的分析方法,解決不了這個問題。

因爲,要查找的變量x可能出現在數組的任意位置。如果數組中第一個元素正好是要查找的變量x ,那就不需要繼續遍歷剩下的n-1個數據了,那時間複雜度就是0(1)。但如果數組中不存在變量x ,那我們就需要把整個數組都遍歷一遍,時間複雜度就成了O(n)。所以,不同的情況下,這段代碼的時間複雜度是不一樣的。

爲了表示代碼在不同情況下的不同時間複雜度,我們需要引入三個概念:最好情況時間複雜度、最壞情況時間複雜度和平均情況時間複雜度。

顧名思義,最好情況時間複雜度就是,在最理想的情況下,執行這段代碼的時間複雜度。就像我們剛剛講到的,在最理想的情況下,要查找的變量x正好是數組的第一個元素,這個時候對應的時間複雜度就是最好情況時間複雜度。

同理,最壞情況時間複雜度就是,在最糟糕的情況下,執行這段代碼的時間複雜度。就像剛舉的那個例子,如果數組中沒有要查找的變量x ,我們需要把整個數組都遍歷一遍才行,所以這種最糟糕情況下對應的時間複雜度就是最壞情況時間複雜度。

平均情況時間複雜度

我們都知道,最好情況時間複雜度和最壞情況時間複雜度對應的都是極端情況下的代碼複雜度,發生的概率其實並不大。爲了更好地表示平均情況下的複雜度,我們需要引入另一個概念:平均情況時間複雜度,後面我簡稱爲平均時間複雜度。

平均時間複雜度又該怎麼分析呢?我還是藉助剛纔查找變量X的例子來給你解釋。

要查找的變量x在數組中的位置,有n + 1種情況:在數組的0 ~ n-1位置中和不在數組中。我們把每種情況下,查找需要遍歷的元素個數累加起來,然後再除以n + 1 ,就可以得到需要遍歷的元素個數的平均值,即:
在這裏插入圖片描述

我們知道,時間複雜度的大O標記法中,可以省略掉係數、低階、常量,所以,咱們把剛剛這個公式簡化之後, 得到的平均時間複雜度就是O(n)。

這個結論雖然是正確的,但是計算過程稍微有點兒問題。究竟是什麼問題呢?我們剛講的這n + 1種情況,出現的概率並不是一樣的。我帶你具體分析一下。(這裏要稍微用到一點兒概率論的知識,不過你不用擔心。)

我們知道,要查找的變量X ,要麼在數組裏,要麼就不在數組裏。這兩種情況對應的概率統計起來很麻煩,爲了方便你理解,我們假設在數組中與不在數組中的概率都爲1/2。另外,要查找的數據出現在0 ~ n-1這n個位置的概率也是一樣的,爲1/n。所以,根據概率乘法法則,要查找的數據出現在0 ~ n-1中任意位置的概率就是 1/(2n)。

因此,前面的推導過程中存在的最大問題就是,沒有將各種情況發生的概率考慮進去。如果我們把每種情況發生的概率也考慮進去,那平均時間複雜度的計算過程就變成了這樣:
在這裏插入圖片描述
這個值就是概率論中的加權平均值,也叫作期望值,所以平均時間複雜度的全稱應該叫加權平均時間複雜度或者期望時間複雜度。

引入概率之後,前面那段代碼的加權平均值爲(3n + 1)/4。用大O表示法來表示,去掉係數和常量,這段代碼的加權平均時間複雜度仍然是O(n)。

你可能會說,平均時間複雜度分析好複雜啊,還要涉及概率論的知識。實際上,在大多數情況下,我們並不需要區分最好、最壞、平均情況時間複雜度三種情況。像我們上一節課舉的那些例子那樣,很多時候,我們使用一個複雜度就可以滿足需求了。只有同一塊代碼在不同的情況下,時間複雜度有量級的差距,我們纔會使用這三種複雜度表示法來區分。

均攤時間複雜度

到此爲止,你應該已經掌握了算法複雜度分析的大部分內容了。下面我要給你講一個更加高級的概念,均攤時間複雜度,以及它對應的分析方法,攤還分析(或者叫平攤分析)。

均攤時間複雜度,聽起來跟平均時間複雜度有點兒像。對於初學者來說,這兩個概念確實非常容易弄混。我前面說了,大部分情況下,我們並不需要區分最好、最壞、平均三種複雜度。平均複雜度只在某些特殊情況下才會用到,而均攤時間複雜度應用的場景比它更加特殊、更加有限。

老規矩,我還是藉助一個具體的例子來幫助你理解。(當然,這個例子只是我爲了方便講解想出來的,實際上沒人會這麼寫。)

// array表示一個長度爲n的數組
//代碼中的array, length就等於n int[]
int [] array = new int[n]; 
int count = 0; 
void insert(int val) {
	if (count == array.length){
		int sum = 0;
		for(int i = array.length-1; i>=0 ; i--){
			sum += i;
			array[i] = null;
		}
		array[0] = sum;
		array[1] = val;
		count = 2;
	} else{
		array[count] = val;
		count ++;
	}
}

我先來解釋一下這段代碼。這段代碼實現了一個往數組中插入數據的功能。當數組滿了之後,也就是代碼中的 count==array.length時,我們用for循環遍歷數組求和,並清空數組,將求和之後的sum值放到數組的第一個位置,然後再將新的數據插入。但如果數組一開始就有空閒空間,則直接將數據插入數組。

那這段代碼的時間複雜度是多少呢?你可以先用我們剛講到的三種時間複雜度的分析方法來分析一下。

最理想的情況下,數組中有空閒空間,我們只需要將數據插入到數組下標爲count的位置就可以了 ,所以最好情況時間複雜度爲O(1)。最壞的情況下,數組中沒有空閒空間了,我們需要先做一次數組的遍歷求和,然後再將數據插入,所以最壞情況時間複雜度爲O(n)。

那平均時間複雜度是多少呢?答案是O(1)。我們還是可以通過前面講的概率論的方法來分析。

假設數組的長度是n,根據數據插入的位置的不同,我們可以分爲n種情況,每種情況的時間複雜度是O⑴。除此之外,還有一種"額外"的情況,就是在數組沒有空閒空間時插入一個數據,這個時候的時間複雜度是O(n)。而且,這n + 1種情況發生的概率一樣,都是1/(n + 1)。所以,根據加權平均的計算方法,我們求得的平均時間複雜度就是:
在這裏插入圖片描述
至此爲止,前面的最好、最壞、平均時間複雜度的計算,理解起來應該都沒有問題。但是這個例子裏的平均複雜度分析其實並不需要這麼複雜,不需要引入概率論的知識。這是爲什麼呢?我們先來對比一下這個insert()的例子和前面那個find()的例子,你就會發現這兩者有很大差別。

首先,find()函數在極端情況下,複雜度才爲O(1)。但insert()在大部分情況下,時間複雜度都爲O(1)。只有個別複雜度才比較高,爲O(n)。這是insert()第一個區別於find()的地方。

我們再來看第二個不同的地方。對於insert()函數來說,O⑴時間複雜度的插入和O(n)時間複雜度的插入,出現的頻率是非常有規律的,而且有一定的前後時序關係,一般都是一個O(n)插入之後,緊跟着n-1個O(1)的插入操作,循環往復。

所以,針對這樣一種特殊場景的複雜度分析,我們並不需要像之前講平均複雜度分析方法那樣,找出所有的輸入情況及相應的發生概率,然後再計算加權平均值。

針對這種特殊的場景,我們引入了一種更加簡單的分析方法:攤還分析法,通過攤還分析得到的時間複雜度我們起了一個名字,叫均攤時間複雜度。

那究竟如何使用攤還分析法來分析算法的均攤時間複雜度呢?

我們還是繼續看在數組中插入數據的這個例子。每一次O(n)的插入操作,都會跟着n-1次0(1)的插入操作,所以把耗時多的那次操作均攤到接下來的n-1次耗時少的操作上,均攤下來,這一組連續的操作的均攤時間複雜度就是O(1)。這就是均攤分析的大致思路。你都理解了嗎?

均攤時間複雜度和攤還分析應用場景比較特殊,所以我們並不會經常用到。爲了方便你理解、記憶,我這裏簡單總結一下它們的應用場景。如果你遇到了,知道是怎麼回事兒就行了。

對一個數據結構進行一組連續操作中,大部分情況下時間複雜度都很低,只有個別情況下時間複雜度比較高,而且這些操作之間存在前後連貫的時序關係,這個時候,我們就可以將這一組操作放在一塊兒分析,看是否能將較高時間複雜度那次操作的耗時,平攤到其他那些時間複雜度比較低的操作上。而且,在能夠應用均攤時間複雜度分析的場合,一般均攤時間複雜度就等於最好情況時間複雜度。

儘管很多數據結構和算法書籍都花了很大力氣來區分平均時間複雜度和均攤時間複雜度,但其實我個人認爲,均
攤時間複雜度就是一種特殊的平均時間複雜度,我們沒必要花太多精力去區分它們。你最應該掌握的是它的分析方法,攤還分析。至於分析出來的結果是叫平均還是叫均攤,這只是個說法,並不重要。

內容小結

今天我們學習了幾個複雜度分析相關的概念,分別有:最好情況時間複雜度、最壞情況時間複雜度、平均情況時間複雜度、均攤時間複雜度。之所以引入這幾個複雜度概念,是因爲,同一段代碼,在不同輸入的情況下,複雜度量級有可能是不一樣的。

在引入這幾個概念之後,我們可以更加全面地表示一段代碼的執行效率。而且,這幾個概念理解起來都不難。最好、最壞情況下的時間複雜度分析起來比較簡單,但平均、均攤兩個複雜度分析相對比較複雜。如果你覺得理解得還不是很深入,不用擔心,在後續具體的數據結構和算法學習中,我們可以繼續慢慢實踐!

課後思考

我們今天學的幾個複雜度分析方法,你都掌握了嗎?你可以用今天學習的知識,來分析一下下面這個add()函數的時間複雜度。

//全局變量,大小爲10的數組array,長度len,下標i。
int array[] = new int[10]; 
int len = 10;
int i = 0;
// 往數組中添加一個元素
void add(int element){

}
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章