排序算法類別

算法分類

十種常見(jiàn)排序算法可以分為兩大類：

• 比較類排序：通過(guò)比較來(lái)決定元素間的相對(duì)次序，由于其時(shí)間復(fù)雜度不能突破O(nlogn)，因此也稱為非線性時(shí)間比較類排序。
• 非比較類排序：不通過(guò)比較來(lái)決定元素間的相對(duì)次序，它可以突破基于比較排序的時(shí)間下界，以線性時(shí)間運(yùn)行，因此也稱為線性時(shí)間非比較類排序。

算法復(fù)雜度

相關(guān)概念

• 穩(wěn)定：如果a原本在b前面，而a=b，排序之后a仍然在b的前面。
• 不穩(wěn)定：如果a原本在b的前面，而a=b，排序之后 a 可能會(huì)出現(xiàn)在 b 的后面。
• 時(shí)間復(fù)雜度：對(duì)排序數(shù)據(jù)的總的操作次數(shù)。反映當(dāng)n變化時(shí)，操作次數(shù)呈現(xiàn)什么規(guī)律。
• 空間復(fù)雜度：是指算法在計(jì)算機(jī)內(nèi)執(zhí)行時(shí)所需存儲(chǔ)空間的度量，它也是數(shù)據(jù)規(guī)模n的函數(shù)。
• In-place：占用常數(shù)內(nèi)存，不占用額外內(nèi)存
• Out-place：占用額外內(nèi)存

912. 排序數(shù)組

給你一個(gè)整數(shù)數(shù)組 nums，請(qǐng)你將該數(shù)組升序排列。

示例 1：

輸入：nums = [5,2,3,1]
輸出：[1,2,3,5]

示例 2：

輸入：nums = [5,1,1,2,0,0]
輸出：[0,0,1,1,2,5]

提示：

1 <= nums.length <= 5 * 104
-5 * 104 <= nums[i] <= 5 * 104

1、冒泡排序（Bubble Sort）

冒泡排序是一種簡(jiǎn)單的排序算法。它重復(fù)地走訪過(guò)要排序的數(shù)列，一次比較兩個(gè)元素，如果它們的順序錯(cuò)誤就把它們交換過(guò)來(lái)。走訪數(shù)列的工作是重復(fù)地進(jìn)行直到?jīng)]有再需要交換，也就是說(shuō)該數(shù)列已經(jīng)排序完成。這個(gè)算法的名字由來(lái)是因?yàn)樵叫〉脑貢?huì)經(jīng)由交換慢慢“浮”到數(shù)列的頂端。

1.1 算法描述

• 比較相鄰的元素。如果第一個(gè)比第二個(gè)大，就交換它們兩個(gè)；
• 對(duì)每一對(duì)相鄰元素作同樣的工作，從開(kāi)始第一對(duì)到結(jié)尾的最后一對(duì)，這樣在最后的元素應(yīng)該會(huì)是最大的數(shù)；
• 針對(duì)所有的元素重復(fù)以上的步驟，除了最后一個(gè)；
• 重復(fù)步驟1~3，直到排序完成。

1.2 動(dòng)圖演示

1.3 代碼實(shí)現(xiàn)

class Solution:
    def sortArray(self, nums: List[int]) -> List[int]:
        l = len(nums)
        if l <=1:
            return nums
        for i in range(l):
            for j in range(l - i - 1):
                if nums[j] > nums[j+1]:
                    nums[j], nums[j+1] = nums[j+1], nums[j]

        return nums

2、選擇排序（Selection Sort）

選擇排序(Selection-sort)是一種簡(jiǎn)單直觀的排序算法。它的工作原理：首先在未排序序列中找到最?。ù螅┰兀娣诺脚判蛐蛄械钠鹗嘉恢?，然后，再?gòu)氖Ｓ辔磁判蛟刂欣^續(xù)尋找最?。ù螅┰?，然后放到已排序序列的末尾。以此類推，直到所有元素均排序完畢。

2.1 算法描述

n個(gè)記錄的直接選擇排序可經(jīng)過(guò)n-1趟直接選擇排序得到有序結(jié)果。具體算法描述如下：

• 初始狀態(tài)：無(wú)序區(qū)為R[1..n]，有序區(qū)為空；
• 第i趟排序(i=1,2,3…n-1)開(kāi)始時(shí)，當(dāng)前有序區(qū)和無(wú)序區(qū)分別為R[1..i-1]和R(i..n）。該趟排序從當(dāng)前無(wú)序區(qū)中-選出關(guān)鍵字最小的記錄 R[k]，將它與無(wú)序區(qū)的第1個(gè)記錄R交換，使R[1..i]和R[i+1..n)分別變?yōu)橛涗泜€(gè)數(shù)增加1個(gè)的新有序區(qū)和記錄個(gè)數(shù)減少1個(gè)的新無(wú)序區(qū)；
• n-1趟結(jié)束，數(shù)組有序化了。

2.2 動(dòng)圖演示

2.3 代碼實(shí)現(xiàn)

class Solution:
    def sortArray(self, nums: List[int]) -> List[int]:
        l = len(nums)
        if l <=1:
            return nums
        for i in range(l):
            temp_min = nums[i]
            temp_index = i
            for j in range(i, l):
                if nums[j] < temp_min:
                    temp_min = nums[j]
                    temp_index = j

            nums[i], nums[temp_index] = nums[temp_index], nums[i] 
        return nums

2.4 算法分析

表現(xiàn)最穩(wěn)定的排序算法之一，因?yàn)闊o(wú)論什么數(shù)據(jù)進(jìn)去都是O(n2)的時(shí)間復(fù)雜度，所以用到它的時(shí)候，數(shù)據(jù)規(guī)模越小越好。唯一的好處可能就是不占用額外的內(nèi)存空間了吧。理論上講，選擇排序可能也是平時(shí)排序一般人想到的最多的排序方法了吧。

3、插入排序（Insertion Sort）

插入排序（Insertion-Sort）的算法描述是一種簡(jiǎn)單直觀的排序算法。它的工作原理是通過(guò)構(gòu)建有序序列，對(duì)于未排序數(shù)據(jù)，在已排序序列中從后向前掃描，找到相應(yīng)位置并插入。

3.1 算法描述

一般來(lái)說(shuō)，插入排序都采用in-place在數(shù)組上實(shí)現(xiàn)。具體算法描述如下：

• 從第一個(gè)元素開(kāi)始，該元素可以認(rèn)為已經(jīng)被排序；
• 取出下一個(gè)元素，在已經(jīng)排序的元素序列中從后向前掃描；
• 如果該元素（已排序）大于新元素，將該元素移到下一位置；
• 重復(fù)步驟3，直到找到已排序的元素小于或者等于新元素的位置；
• 將新元素插入到該位置后；
• 重復(fù)步驟2~5。

3.2 動(dòng)圖演示

3.3 代碼實(shí)現(xiàn)

class Solution:
    def sortArray(self, nums: List[int]) -> List[int]:
        l = len(nums)
        if l <=1:
            return nums
        for i in range(1, l):
            pre_index = i - 1
            current = nums[i]
            while pre_index >= 0 and nums[pre_index] > current:
                nums[pre_index + 1] = nums[pre_index]
                pre_index -= 1
            nums[pre_index + 1] = current
        return nums

3.4 算法分析

插入排序在實(shí)現(xiàn)上，通常采用in-place排序（即只需用到O(1)的額外空間的排序），因而在從后向前掃描過(guò)程中，需要反復(fù)把已排序元素逐步向后挪位，為最新元素提供插入空間。

4、希爾排序（Shell Sort）

1959年Shell發(fā)明，第一個(gè)突破O(n2)的排序算法，是簡(jiǎn)單插入排序的改進(jìn)版。它與插入排序的不同之處在于，它會(huì)優(yōu)先比較距離較遠(yuǎn)的元素。希爾排序又叫縮小增量排序。

4.1 算法描述

先將整個(gè)待排序的記錄序列分割成為若干子序列分別進(jìn)行直接插入排序，具體算法描述：

• 選擇一個(gè)增量序列t1，t2，…，tk，其中ti>tj，tk=1；
• 按增量序列個(gè)數(shù)k，對(duì)序列進(jìn)行k 趟排序；
• 每趟排序，根據(jù)對(duì)應(yīng)的增量ti，將待排序列分割成若干長(zhǎng)度為m 的子序列，分別對(duì)各子表進(jìn)行直接插入排序。僅增量因子為1 時(shí)，整個(gè)序列作為一個(gè)表來(lái)處理，表長(zhǎng)度即為整個(gè)序列的長(zhǎng)度。

4.2 動(dòng)圖演示

4.3 代碼實(shí)現(xiàn)

def shellSort(arr):
    import math
    gap=1
    while(gap < len(arr)/3):
        gap = gap*3+1
    while gap > 0:
        for i in range(gap,len(arr)):
            temp = arr[i]
            j = i-gap
            while j >=0 and arr[j] > temp:
                arr[j+gap]=arr[j]
                j-=gap
            arr[j+gap] = temp
        gap = math.floor(gap/3)
    return arr

4.4 算法分析

希爾排序的核心在于間隔序列的設(shè)定。既可以提前設(shè)定好間隔序列，也可以動(dòng)態(tài)的定義間隔序列。動(dòng)態(tài)定義間隔序列的算法是《算法（第4版）》的合著者Robert Sedgewick提出的。

5、歸并排序（Merge Sort）

歸并排序是建立在歸并操作上的一種有效的排序算法。該算法是采用分治法（Divide and Conquer）的一個(gè)非常典型的應(yīng)用。將已有序的子序列合并，得到完全有序的序列；即先使每個(gè)子序列有序，再使子序列段間有序。若將兩個(gè)有序表合并成一個(gè)有序表，稱為2-路歸并。

5.1 算法描述

• 把長(zhǎng)度為n的輸入序列分成兩個(gè)長(zhǎng)度為n/2的子序列；
• 對(duì)這兩個(gè)子序列分別采用歸并排序；
• 將兩個(gè)排序好的子序列合并成一個(gè)最終的排序序列。

5.2 動(dòng)圖演示

5.3 代碼實(shí)現(xiàn)

def mergeSort(arr):
    import math
    if(len(arr)<2):
        return arr
    middle = math.floor(len(arr)/2)
    left, right = arr[0:middle], arr[middle:]
    return merge(mergeSort(left), mergeSort(right))

def merge(left,right):
    result = []
    while left and right:
        if left[0] <= right[0]:
            result.append(left.pop(0))
        else:
            result.append(right.pop(0));
    while left:
        result.append(left.pop(0))
    while right:
        result.append(right.pop(0));
    return result

5.4 算法分析

歸并排序是一種穩(wěn)定的排序方法。和選擇排序一樣，歸并排序的性能不受輸入數(shù)據(jù)的影響，但表現(xiàn)比選擇排序好的多，因?yàn)槭冀K都是O(nlogn）的時(shí)間復(fù)雜度。代價(jià)是需要額外的內(nèi)存空間。

6、快速排序（Quick Sort）

快速排序的基本思想：通過(guò)一趟排序?qū)⒋庞涗浄指舫瑟?dú)立的兩部分，其中一部分記錄的關(guān)鍵字均比另一部分的關(guān)鍵字小，則可分別對(duì)這兩部分記錄繼續(xù)進(jìn)行排序，以達(dá)到整個(gè)序列有序。

6.1 算法描述

快速排序使用分治法來(lái)把一個(gè)串（list）分為兩個(gè)子串（sub-lists）。具體算法描述如下：

• 從數(shù)列中挑出一個(gè)元素，稱為 “基準(zhǔn)”（pivot）；
• 重新排序數(shù)列，所有元素比基準(zhǔn)值小的擺放在基準(zhǔn)前面，所有元素比基準(zhǔn)值大的擺在基準(zhǔn)的后面（相同的數(shù)可以到任一邊）。在這個(gè)分區(qū)退出之后，該基準(zhǔn)就處于數(shù)列的中間位置。這個(gè)稱為分區(qū)（partition）操作；
• 遞歸地（recursive）把小于基準(zhǔn)值元素的子數(shù)列和大于基準(zhǔn)值元素的子數(shù)列排序。

6.2 動(dòng)圖演示

6.3 代碼實(shí)現(xiàn)

class Solution:
    def sortArray(self, nums: List[int]) -> List[int]:

        self.quick_sort(nums, 0, len(nums)-1)
        
        return nums

    def quick_sort(self, nums, start, end):
        left = start
        right = end

        if left < right:
            pivot = nums[left]

            while left < right:
                while left < right and nums[right] > pivot:
                    right -= 1
                
                if left < right:
                    nums[left] = nums[right]

                while left < right and nums[left] < pivot:
                    left += 1

                if left < right:
                    nums[right] = nums[left]

                nums[left] = pivot

                self.quick_sort(nums, start, left)
                self.quick_sort(nums, left + 1, end)

def quickSort(arr, left=None, right=None):
    left = 0 if not isinstance(left,(int, float)) else left
    right = len(arr)-1 if not isinstance(right,(int, float)) else right
    if left < right:
        partitionIndex = partition(arr, left, right)
        quickSort(arr, left, partitionIndex-1)
        quickSort(arr, partitionIndex+1, right)
    return arr

def partition(arr, left, right):
    pivot = left
    index = pivot+1
    i = index
    while  i <= right:
        if arr[i] < arr[pivot]:
            swap(arr, i, index)
            index+=1
        i+=1
    swap(arr,pivot,index-1)
    return index-1

def swap(arr, i, j):
    arr[i], arr[j] = arr[j], arr[i]

7、堆排序（Heap Sort）

堆排序（Heapsort）是指利用堆這種數(shù)據(jù)結(jié)構(gòu)所設(shè)計(jì)的一種排序算法。堆積是一個(gè)近似完全二叉樹(shù)的結(jié)構(gòu)，并同時(shí)滿足堆積的性質(zhì)：即子結(jié)點(diǎn)的鍵值或索引總是小于（或者大于）它的父節(jié)點(diǎn)。

7.1 算法描述

• 將初始待排序關(guān)鍵字序列(R1,R2….Rn)構(gòu)建成大頂堆，此堆為初始的無(wú)序區(qū)；
• 將堆頂元素R[1]與最后一個(gè)元素R[n]交換，此時(shí)得到新的無(wú)序區(qū)(R1,R2,……Rn-1)和新的有序區(qū)(Rn),且滿足R[1,2…n-1]<=R[n]；
• 由于交換后新的堆頂R[1]可能違反堆的性質(zhì)，因此需要對(duì)當(dāng)前無(wú)序區(qū)(R1,R2,……Rn-1)調(diào)整為新堆，然后再次將R[1]與無(wú)序區(qū)最后一個(gè)元素交換，得到新的無(wú)序區(qū)(R1,R2….Rn-2)和新的有序區(qū)(Rn-1,Rn)。不斷重復(fù)此過(guò)程直到有序區(qū)的元素個(gè)數(shù)為n-1，則整個(gè)排序過(guò)程完成。

7.2 動(dòng)圖演示

7.3 代碼實(shí)現(xiàn)

def buildMaxHeap(arr):
    import math
    for i in range(math.floor(len(arr)/2),-1,-1):
        heapify(arr,i)

def heapify(arr, i):
    left = 2*i+1
    right = 2*i+2
    largest = i
    if left < arrLen and arr[left] > arr[largest]:
        largest = left
    if right < arrLen and arr[right] > arr[largest]:
        largest = right

    if largest != i:
        swap(arr, i, largest)
        heapify(arr, largest)

def swap(arr, i, j):
    arr[i], arr[j] = arr[j], arr[i]

def heapSort(arr):
    global arrLen
    arrLen = len(arr)
    buildMaxHeap(arr)
    for i in range(len(arr)-1,0,-1):
        swap(arr,0,i)
        arrLen -=1
        heapify(arr, 0)
    return arr

8、計(jì)數(shù)排序（Counting Sort）

計(jì)數(shù)排序不是基于比較的排序算法，其核心在于將輸入的數(shù)據(jù)值轉(zhuǎn)化為鍵存儲(chǔ)在額外開(kāi)辟的數(shù)組空間中。 作為一種線性時(shí)間復(fù)雜度的排序，計(jì)數(shù)排序要求輸入的數(shù)據(jù)必須是有確定范圍的整數(shù)。

8.1 算法描述

• 找出待排序的數(shù)組中最大和最小的元素；
• 統(tǒng)計(jì)數(shù)組中每個(gè)值為i的元素出現(xiàn)的次數(shù)，存入數(shù)組C的第i項(xiàng)；
• 對(duì)所有的計(jì)數(shù)累加（從C中的第一個(gè)元素開(kāi)始，每一項(xiàng)和前一項(xiàng)相加）；
• 反向填充目標(biāo)數(shù)組：將每個(gè)元素i放在新數(shù)組的第C(i)項(xiàng)，每放一個(gè)元素就將C(i)減去1。

8.2 動(dòng)圖演示

8.3 代碼實(shí)現(xiàn)

def countingSort(arr, maxValue):
    bucketLen = maxValue+1
    bucket = [0]*bucketLen
    sortedIndex =0
    arrLen = len(arr)
    for i in range(arrLen):
        if not bucket[arr[i]]:
            bucket[arr[i]]=0
        bucket[arr[i]]+=1
    for j in range(bucketLen):
        while bucket[j]>0:
            arr[sortedIndex] = j
            sortedIndex+=1
            bucket[j]-=1
    return arr

8.4 算法分析

計(jì)數(shù)排序是一個(gè)穩(wěn)定的排序算法。當(dāng)輸入的元素是 n 個(gè) 0到 k 之間的整數(shù)時(shí)，時(shí)間復(fù)雜度是O(n+k)，空間復(fù)雜度也是O(n+k)，其排序速度快于任何比較排序算法。當(dāng)k不是很大并且序列比較集中時(shí)，計(jì)數(shù)排序是一個(gè)很有效的排序算法。

9、桶排序（Bucket Sort）

桶排序是計(jì)數(shù)排序的升級(jí)版。它利用了函數(shù)的映射關(guān)系，高效與否的關(guān)鍵就在于這個(gè)映射函數(shù)的確定。桶排序 (Bucket sort)的工作的原理：假設(shè)輸入數(shù)據(jù)服從均勻分布，將數(shù)據(jù)分到有限數(shù)量的桶里，每個(gè)桶再分別排序（有可能再使用別的排序算法或是以遞歸方式繼續(xù)使用桶排序進(jìn)行排）。

9.1 算法描述

• 設(shè)置一個(gè)定量的數(shù)組當(dāng)作空桶；
• 遍歷輸入數(shù)據(jù)，并且把數(shù)據(jù)一個(gè)一個(gè)放到對(duì)應(yīng)的桶里去；
• 對(duì)每個(gè)不是空的桶進(jìn)行排序；
• 從不是空的桶里把排好序的數(shù)據(jù)拼接起來(lái)。

9.2 圖片演示

9.3 代碼實(shí)現(xiàn)

"""
程序說(shuō)明：
    桶排序
    1）在額外空間充足的情況下，盡量增大桶的數(shù)量
    2）使用的映射函數(shù)能夠?qū)⑤斎氲?N 個(gè)數(shù)據(jù)均勻的分配到 K 個(gè)桶中
      個(gè)人理解，如果都是整數(shù)還可以用計(jì)數(shù)排序來(lái)計(jì)數(shù)統(tǒng)計(jì)然后排序，但是如果是一個(gè)連續(xù)空間內(nèi)的排序，即統(tǒng)計(jì)的是一個(gè)浮點(diǎn)類型的數(shù)組成
      的數(shù)組，那么，就無(wú)法開(kāi)辟一個(gè)對(duì)應(yīng)的空間使其一一對(duì)應(yīng)的存儲(chǔ)。此時(shí)，我們需要新建一個(gè)帶有存儲(chǔ)范圍的空間，來(lái)存儲(chǔ)一定范圍內(nèi)的元素
    空間復(fù)雜度：O(n)
    時(shí)間復(fù)雜度: O(n)
    穩(wěn)定
"""


def bucket_sort_simplify(arr, max_num):
    """
    簡(jiǎn)化版
    """
    buf = {i: [] for i in range(int(max_num)+1)}  # 不能使用[[]]*(max+1)，這樣新建的空間中各個(gè)[]是共享內(nèi)存的
    arr_len = len(arr)
    for i in range(arr_len):
        num = arr[i]
        buf[int(num)].append(num)  # 將相應(yīng)范圍內(nèi)的數(shù)據(jù)加入到[]中
    arr = []
    for i in range(len(buf)):
        if buf[i]:
            arr.extend(sorted(buf[i]))  # 這里還需要對(duì)一個(gè)范圍內(nèi)的數(shù)據(jù)進(jìn)行排序，然后再進(jìn)行輸出
    return arr

9.4 算法分析

桶排序最好情況下使用線性時(shí)間O(n)，桶排序的時(shí)間復(fù)雜度，取決與對(duì)各個(gè)桶之間數(shù)據(jù)進(jìn)行排序的時(shí)間復(fù)雜度，因?yàn)槠渌糠值臅r(shí)間復(fù)雜度都為O(n)。很顯然，桶劃分的越小，各個(gè)桶之間的數(shù)據(jù)越少，排序所用的時(shí)間也會(huì)越少。但相應(yīng)的空間消耗就會(huì)增大。

10、基數(shù)排序（Radix Sort）

基數(shù)排序是按照低位先排序，然后收集；再按照高位排序，然后再收集；依次類推，直到最高位。有時(shí)候有些屬性是有優(yōu)先級(jí)順序的，先按低優(yōu)先級(jí)排序，再按高優(yōu)先級(jí)排序。最后的次序就是高優(yōu)先級(jí)高的在前，高優(yōu)先級(jí)相同的低優(yōu)先級(jí)高的在前。

10.1 算法描述

• 取得數(shù)組中的最大數(shù)，并取得位數(shù)；
• arr為原始數(shù)組，從最低位開(kāi)始取每個(gè)位組成radix數(shù)組；
• 對(duì)radix進(jìn)行計(jì)數(shù)排序（利用計(jì)數(shù)排序適用于小范圍數(shù)的特點(diǎn)）；

10.2 動(dòng)圖演示

10.3 代碼實(shí)現(xiàn)

10.4 算法分析

基數(shù)排序基于分別排序，分別收集，所以是穩(wěn)定的。但基數(shù)排序的性能比桶排序要略差，每一次關(guān)鍵字的桶分配都需要O(n)的時(shí)間復(fù)雜度，而且分配之后得到新的關(guān)鍵字序列又需要O(n)的時(shí)間復(fù)雜度。假如待排數(shù)據(jù)可以分為d個(gè)關(guān)鍵字，則基數(shù)排序的時(shí)間復(fù)雜度將是O(d*2n) ，當(dāng)然d要遠(yuǎn)遠(yuǎn)小于n，因此基本上還是線性級(jí)別的。

基數(shù)排序的空間復(fù)雜度為O(n+k)，其中k為桶的數(shù)量。一般來(lái)說(shuō)n>>k，因此額外空間需要大概n個(gè)左右。

參考：

• 經(jīng)典排序算法
• 菜鳥(niǎo)教程