一、排序的基本概念和分類
所謂排序,就是使一串記錄,按照其中的某個或某些關鍵字的大小,遞增或遞減的排列起來的操作。排序演算法,就是如何使得記錄按照要求排列的方法。
排序的穩定性:
經過某種排序後,如果兩個記錄序號同等,且兩者在原無序記錄中的先後秩序依然保持不變,則稱所使用的排序方法是穩定的,反之是不穩定的。
內排序和外排序
內排序:排序過程中,待排序的所有記錄全部放在記憶體中
外排序:排序過程中,使用到了外部儲存。
通常討論的都是內排序。
影響內排序演算法效能的三個因素:
- 時間複雜度:即時間效能,高效率的排序演算法應該是具有儘可能少的關鍵字比較次數和記錄的移動次數
- 空間複雜度:主要是執行演算法所需要的輔助空間,越少越好。
- 演算法複雜性。主要是指代碼的複雜性。
根據排序過程中藉助的主要操作,可把內排序分為:
按照演算法複雜度可分為兩類:
- 簡單演算法:包括冒泡排序、簡單選擇排序和直接插入排序
- 改進演算法:包括希爾排序、堆排序、歸併排序和快速排序
以下的七種排序演算法只是所有排序演算法中最經典的幾種,不代表全部。
二、 冒泡排序
冒泡排序(Bubble sort):時間複雜度O(n^2)
交換排序的一種。其核心思想是:兩兩比較相鄰記錄的關鍵字,如果反序則交換,直到沒有反序記錄為止。
其實現細節可以不同,比如下面3種:
1.最簡單排序實現:bubble_sort_simple
2.冒泡排序:bubble_sort
3.改進的冒泡排序:bubble_sort_advance
#!/usr/bin/env python# -*- coding:utf-8 -*-# Author: Liu Jiang# Python 3.5# 冒泡排序演算法class SQList: def __init__(self, lis=None): self.r = lis def swap(self, i, j): """定義一個交換元素的方法,方便後面調用。""" temp = self.r[i] self.r[i] = self.r[j] self.r[j] = temp def bubble_sort_simple(self): """ 最簡單的交換排序,時間複雜度O(n^2) """ lis = self.r length = len(self.r) for i in range(length): for j in range(i+1, length): if lis[i] > lis[j]: self.swap(i, j) def bubble_sort(self): """ 冒泡排序,時間複雜度O(n^2) """ lis = self.r length = len(self.r) for i in range(length): j = length-2 while j >= i: if lis[j] > lis[j+1]: self.swap(j, j+1) j -= 1 def bubble_sort_advance(self): """ 冒泡排序改進演算法,時間複雜度O(n^2) 設定flag,當一輪比較中未發生交換動作,則說明後面的元素其實已經有序排列了。 對於比較規整的元素集合,可提高一定的排序效率。 """ lis = self.r length = len(self.r) flag = True i = 0 while i < length and flag: flag = False j = length - 2 while j >= i: if lis[j] > lis[j + 1]: self.swap(j, j + 1) flag = True j -= 1 i += 1 def __str__(self): ret = "" for i in self.r: ret += " %s" % i return retif __name__ == '__main__': sqlist = SQList([4,1,7,3,8,5,9,2,6]) # sqlist.bubble_sort_simple() # sqlist.bubble_sort() sqlist.bubble_sort_advance() print(sqlist)
三、簡單選擇排序
簡單選擇排序(simple selection sort):時間複雜度O(n^2)
通過n-i次關鍵字之間的比較,從n-i+1個記錄中選出關鍵字最小的記錄,並和第i(1<=i<=n)個記錄進行交換。
通俗的說就是,對尚未完成排序的所有元素,從頭到尾比一遍,記錄下最小的那個元素的下標,也就是該元素的位置。再把該元素交換到當前遍曆的最前面。其效率之處在於,每一輪中比較了很多次,但只交換一次。因此雖然它的時間複雜度也是O(n^2),但比冒泡演算法還是要好一點。
#!/usr/bin/env python# -*- coding:utf-8 -*-# Author: Liu Jiang# Python 3.5# 簡單選擇排序class SQList: def __init__(self, lis=None): self.r = lis def swap(self, i, j): """定義一個交換元素的方法,方便後面調用。""" temp = self.r[i] self.r[i] = self.r[j] self.r[j] = temp def select_sort(self): """ 簡單選擇排序,時間複雜度O(n^2) """ lis = self.r length = len(self.r) for i in range(length): minimum = i for j in range(i+1, length): if lis[minimum] > lis[j]: minimum = j if i != minimum: self.swap(i, minimum) def __str__(self): ret = "" for i in self.r: ret += " %s" % i return retif __name__ == '__main__': sqlist = SQList([4, 1, 7, 3, 8, 5, 9, 2, 6, 0]) sqlist.select_sort() print(sqlist)
四、直接插入排序
直接插入排序(Straight Insertion Sort):時間複雜度O(n^2)
基本操作是將一個記錄插入到已經排好序的有序表中,從而得到一個新的、記錄數增1的有序表。
#!/usr/bin/env python# -*- coding:utf-8 -*-# Author: Liu Jiang# Python 3.5# 直接插入排序class SQList: def __init__(self, lis=None): self.r = lis def insert_sort(self): lis = self.r length = len(self.r) # 下標從1開始 for i in range(1, length): if lis[i] < lis[i-1]: temp = lis[i] j = i-1 while lis[j] > temp and j >= 0: lis[j+1] = lis[j] j -= 1 lis[j+1] = temp def __str__(self): ret = "" for i in self.r: ret += " %s" % i return retif __name__ == '__main__': sqlist = SQList([4, 1, 7, 3, 8, 5, 9, 2, 6, 0]) sqlist.insert_sort() print(sqlist)
該演算法需要一個記錄的輔助空間。最好情況下,當未經處理資料就是有序的時候,只需要一輪對比,不需要移動記錄,此時時間複雜度為O(n)。然而,這基本是幻想。
五、希爾排序
希爾排序(Shell Sort)是插入排序的改進版本,其核心思想是將原資料集合分割成若干個子序列,然後再對子序列分別進行直接插入排序,使子序列基本有序,最後再對全體記錄進行一次直接插入排序。
這裡最關鍵的是跳躍和分割的策略,也就是我們要怎麼分割資料,間隔多大的問題。通常將相距某個“增量”的記錄組成一個子序列,這樣才能保證在子序列內分別進行直接插入排序後得到的結果是基本有序而不是局部有序。下面的例子中通過:increment = int(increment/3)+1來確定“增量”的值。
希爾排序的時間複雜度為:O(n^(3/2))
#!/usr/bin/env python# -*- coding:utf-8 -*-# Author: Liu Jiang# Python 3.5# 希爾排序class SQList: def __init__(self, lis=None): self.r = lis def shell_sort(self): """希爾排序""" lis = self.r length = len(lis) increment = len(lis) while increment > 1: increment = int(increment/3)+1 for i in range(increment+1, length): if lis[i] < lis[i - increment]: temp = lis[i] j = i - increment while j >= 0 and temp < lis[j]: lis[j+increment] = lis[j] j -= increment lis[j+increment] = temp def __str__(self): ret = "" for i in self.r: ret += " %s" % i return retif __name__ == '__main__': sqlist = SQList([4, 1, 7, 3, 8, 5, 9, 2, 6, 0,123,22]) sqlist.shell_sort() print(sqlist)
六、堆排序
堆是具有下列性質的完全二叉樹:
每個分支節點的值都大於或等於其左右孩子的值,稱為大頂堆;
每個分支節點的值都小於或等於其做右孩子的值,稱為小頂堆;
因此,其根節點一定是所有節點中最大(最小)的值。
如果按照層序遍曆的方式(廣度優先)給節點從1開始編號,則節點之間滿足如下關係:
堆排序(Heap Sort)就是利用大頂堆或小頂堆的性質進行排序的方法。堆排序的總體時間複雜度為O(nlogn)。(下面採用大頂堆的方式)
其核心思想是:將待排序的序列構造成一個大頂堆。此時,整個序列的最大值就是堆的根節點。將它與堆數組的末尾元素交換,然後將剩餘的n-1個序列重新構造成一個大頂堆。反覆執行前面的操作,最後獲得一個有序序列。
#!/usr/bin/env python# -*- coding:utf-8 -*-# Author: Liu Jiang# Python 3.5# 堆排序class SQList: def __init__(self, lis=None): self.r = lis def swap(self, i, j): """定義一個交換元素的方法,方便後面調用。""" temp = self.r[i] self.r[i] = self.r[j] self.r[j] = temp def heap_sort(self): length = len(self.r) i = int(length/2) # 將原始序列構造成一個大頂堆 # 遍曆從中間開始,到0結束,其實這些是堆的分支節點。 while i >= 0: self.heap_adjust(i, length-1) i -= 1 # 逆序遍曆整個序列,不斷取出根節點的值,完成實際的排序。 j = length-1 while j > 0: # 將當前根節點,也就是列表最開頭,下標為0的值,交換到最後面j處 self.swap(0, j) # 將發生變化的序列重新構造成大頂堆 self.heap_adjust(0, j-1) j -= 1 def heap_adjust(self, s, m): """核心的大頂堆構造方法,維持序列的堆結構。""" lis = self.r temp = lis[s] i = 2*s while i <= m: if i < m and lis[i] < lis[i+1]: i += 1 if temp >= lis[i]: break lis[s] = lis[i] s = i i *= 2 lis[s] = temp def __str__(self): ret = "" for i in self.r: ret += " %s" % i return retif __name__ == '__main__': sqlist = SQList([4, 1, 7, 3, 8, 5, 9, 2, 6, 0, 123, 22]) sqlist.heap_sort() print(sqlist)
堆排序的已耗用時間主要消耗在初始構建堆和重建堆的反覆篩選上。
其初始構建堆時間複雜度為O(n)。
正式排序時,重建堆的時間複雜度為O(nlogn)。
所以堆排序的總體時間複雜度為O(nlogn)。
堆排序對原始記錄的排序狀態不敏感,因此它無論最好、最壞和平均時間複雜度都是O(nlogn)。在效能上要好於冒泡、簡單選擇和直接插入演算法。
空間複雜度上,只需要一個用於交換的暫存單元。但是由於記錄的比較和交換是跳躍式的,因此,堆排序也是一種不穩定的排序方法。
此外,由於初始構建堆的比較次數較多,堆排序不適合序列個數較少的排序工作。
七、歸併排序
歸併排序(Merging Sort):建立在歸併操作上的一種有效排序演算法,該演算法是採用分治法(Divide and Conquer)的一個非常典型的應用。將已有序的子序列合并,得到完全有序的序列;即先使每個子序列有序,再使子序列段間有序。若將兩個有序表合并成一個有序表,稱為二路歸併。
#!/usr/bin/env python# -*- coding:utf-8 -*-# Author: Liu Jiang# Python 3.5# 歸併排序class SQList: def __init__(self, lis=None): self.r = lis def swap(self, i, j): """定義一個交換元素的方法,方便後面調用。""" temp = self.r[i] self.r[i] = self.r[j] self.r[j] = temp def merge_sort(self): self.msort(self.r, self.r, 0, len(self.r)-1) def msort(self, list_sr, list_tr, s, t): temp = [None for i in range(0, len(list_sr))] if s == t: list_tr[s] = list_sr[s] else: m = int((s+t)/2) self.msort(list_sr, temp, s, m) self.msort(list_sr, temp, m+1, t) self.merge(temp, list_tr, s, m, t) def merge(self, list_sr, list_tr, i, m, n): j = m+1 k = i while i <= m and j <= n: if list_sr[i] < list_sr[j]: list_tr[k] = list_sr[i] i += 1 else: list_tr[k] = list_sr[j] j += 1 k += 1 if i <= m: for l in range(0, m-i+1): list_tr[k+l] = list_sr[i+l] if j <= n: for l in range(0, n-j+1): list_tr[k+l] = list_sr[j+l] def __str__(self): ret = "" for i in self.r: ret += " %s" % i return retif __name__ == '__main__': sqlist = SQList([4, 1, 7, 3, 8, 5, 9, 2, 6, 0, 12, 77, 34, 23]) sqlist.merge_sort() print(sqlist)
- 歸併排序對原始序列元素分布情況不敏感,其時間複雜度為O(nlogn)。
- 歸併排序在計算過程中需要使用一定的輔助空間,用於遞迴和存放結果,因此其空間複雜度為O(n+logn)。
- 歸併排序中不存在跳躍,只有兩兩比較,因此是一種穩定排序。
總之,歸併排序是一種比較佔用記憶體,但效率高,並且穩定的演算法。
八、快速排序
快速排序(Quick Sort)由圖靈獎獲得者Tony Hoare發明,被列為20世紀十大演算法之一。冒泡排序的升級版,交換排序的一種。快速排序的時間複雜度為O(nlog(n))。
快速排序演算法的核心思想:通過一趟排序將待排記錄分割成獨立的兩部分,其中一部分記錄的關鍵字均比另一部分記錄的關鍵字小,然後分別對這兩部分繼續進行排序,以達到整個記錄集合的排序目的。
#!/usr/bin/env python# -*- coding:utf-8 -*-# Author: Liu Jiang# Python 3.5# 快速排序class SQList: def __init__(self, lis=None): self.r = lis def swap(self, i, j): """定義一個交換元素的方法,方便後面調用。""" temp = self.r[i] self.r[i] = self.r[j] self.r[j] = temp def quick_sort(self): """調用入口""" self.qsort(0, len(self.r)-1) def qsort(self, low, high): """遞迴調用""" if low < high: pivot = self.partition(low, high) self.qsort(low, pivot-1) self.qsort(pivot+1, high) def partition(self, low, high): """ 快速排序的核心代碼。 其實就是將選取的pivot_key不斷交換,將比它小的換到左邊,將比它大的換到右邊。 它自己也在交換中不斷變換自己的位置,直到完成所有的交換為止。 但在函數調用的過程中,pivot_key的值始終不變。 :param low:左邊界下標 :param high:右邊界下標 :return:分完左右區後pivot_key所在位置的下標 """ lis = self.r pivot_key = lis[low] while low < high: while low < high and lis[high] >= pivot_key: high -= 1 self.swap(low, high) while low < high and lis[low] <= pivot_key: low += 1 self.swap(low, high) return low def __str__(self): ret = "" for i in self.r: ret += " %s" % i return retif __name__ == '__main__': sqlist = SQList([4, 1, 7, 3, 8, 5, 9, 2, 6, 0, 123, 22]) sqlist.quick_sort() print(sqlist)
- 快速排序的時間效能取決於遞迴的深度。
- 當pivot_key恰好處於記錄關鍵碼的中間值時,大小兩區的劃分比較均衡,接近一個平衡二叉樹,此時的時間複雜度為O(nlog(n))。
- 當原記錄集合是一個正序或逆序的情況下,分區的結果就是一棵斜樹,其深度為n-1,每一次執行大小分區,都要使用n-i次比較,其最終時間複雜度為O(n^2)。
- 在一般情況下,通過數學歸納法可證明,快速排序的時間複雜度為O(nlog(n))。
- 但是由於關鍵字的比較和交換是跳躍式的,因此,快速排序是一種不穩定排序。
- 同時由於採用的遞迴技術,該演算法需要一定的輔助空間,其空間複雜度為O(logn)。
基本的快速排序還有可以最佳化的地方:
1. 最佳化選取的pivot_key
前面我們每次選取pivot_key的都是子序列的第一個元素,也就是lis[low],這就比較看運氣。運氣好時,該值處於整個序列的靠近中間值,則構造的樹比較平衡,運氣比較差,處於最大或最小位置附近則構造的樹接近斜樹。
為了保證pivot_key選取的儘可能適中,採取選取序列左中右三個特殊位置的值中,處於中間值的那個數為pivot_key,通常會比直接用lis[low]要好一點。在代碼中,在原來的pivot_key = lis[low]這一行前面增加下面的代碼:
m = low + int((high-low)/2)if lis[low] > lis[high]: self.swap(low, high)if lis[m] > lis[high]: self.swap(high, m)if lis[m] > lis[low]: self.swap(m, low)
如果覺得這樣還不夠好,還可以將整個序列先劃分為3部分,每一部分求出個pivot_key,再對3個pivot_key再做一次上面的比較得出最終的pivot_key。這時的pivot_key應該很大機率是一個比較靠譜的值。
2. 減少不必要的交換
原來的代碼中pivot_key這個記錄總是再不斷的交換中,其實這是沒必要的,完全可以將它暫存在某個臨時變數中,如下所示:
def partition(self, low, high): lis = self.r m = low + int((high-low)/2) if lis[low] > lis[high]: self.swap(low, high) if lis[m] > lis[high]: self.swap(high, m) if lis[m] > lis[low]: self.swap(m, low) pivot_key = lis[low] # temp暫存pivot_key的值 temp = pivot_key while low < high: while low < high and lis[high] >= pivot_key: high -= 1 # 直接替換,而不交換了 lis[low] = lis[high] while low < high and lis[low] <= pivot_key: low += 1 lis[high] = lis[low] lis[low] = temp return low
3. 最佳化小數組時的排序
快速排序演算法的遞迴操作在進行大量資料排序時,其開銷能被接受,速度較快。但進行小數組排序時則不如直接插入排序來得快,也就是殺雞用牛刀,未必就比菜刀來得快。
因此,一種很樸素的做法就是根據資料的多少,做個使用哪種演算法的選擇而已,如下改寫qsort方法:
def qsort(self, low, high): """根據序列長短,選擇使用快速排序還是簡單插入排序""" # 7是一個經驗值,可根據實際情況自行決定該數值。 MAX_LENGTH = 7 if high-low < MAX_LENGTH: if low < high: pivot = self.partition(low, high) self.qsort(low, pivot - 1) self.qsort(pivot + 1, high) else: # insert_sort方法是我們前面寫過的簡單插入排序演算法 self.insert_sort()
4. 最佳化遞迴操作
可以採用尾遞迴的方式對整個演算法的遞迴操作進行最佳化,改寫qsort方法如下:
def qsort(self, low, high): """根據序列長短,選擇使用快速排序還是簡單插入排序""" # 7是一個經驗值,可根據實際情況自行決定該數值。 MAX_LENGTH = 7 if high-low < MAX_LENGTH: # 改用while迴圈 while low < high: pivot = self.partition(low, high) self.qsort(low, pivot - 1) # 採用了尾遞迴的方式 low = pivot + 1 else: # insert_sort方法是我們前面寫過的簡單插入排序演算法 self.insert_sort()
九、排序演算法總結
排序演算法的分類:
沒有十全十美的演算法,有有點就會有缺點,即使是快速排序演算法,也只是整體效能上的優越,也存在排序不穩定,需要大量輔助空間,不適於少量資料排序等缺點。
七種排序演算法效能對比
- 如果待排序列基本有序,請直接使用簡單的演算法,不要使用複雜的改進演算法。
- 歸併排序和快速排序雖然效能高,但是需要更多的輔助空間。其實就是用空間換時間。
- 待排序列的元素個數越少,就越適合用簡單的排序方法;元素個數越多就越適合用改進的排序演算法。
- 簡單選擇排序雖然在時間效能上不好,但它在空間利用上效能很高。特別適合,那些資料量不大,每條資料的資訊量又比較多的一類元素的排序。
以上就是本文的全部內容,希望對大家的學習有所協助,也希望大家多多支援雲棲社區。