快速排序

$$\Theta(n\log n)$$ 快速排序（Quicksort），又稱分區交換排序（partition-exchange sort），是一種排序演演算法，最早由東尼·霍爾提出。在平均狀況下，排序$n$個項目要$\ O (n\log n)$（大O符號）次比較。在最壞狀況下則需要$O (n^2)$次比較，但這種狀況並不常見。事實上，快速排序$\Theta(n\log n)$通常明顯比其他演演算法更快，因為它的內部循環可以在大部分的架構上很有效率地達成。

## 演演算法

快速排序使用分治法策略來把一個序列分為較小和較大的2個子序列，然後遞歸地排序兩個子序列。

步驟為：

- 挑選基準值：從數列中挑出一個元素，稱為「基準」（pivot）。
- 分割：重新排序數列，所有比基準值小的元素擺放在基準前面，所有比基準值大的元素擺在基準後面（與基準值相等的數可以到任何一邊）。在這個分割結束之後，對基準值的排序就已經完成。
- 遞歸排序子序列：遞歸地將小於基準值元素的子序列和大於基準值元素的子序列排序。

遞歸到最底部的判斷條件是數列的大小是零或一，此時該數列顯然已經有序。

選取基準值有數種具體方法，此選取方法對排序的時間性能有決定性影響。

在簡單的偽代碼中，此演算法可以被表示為：

```
 '''function''' quicksort(q)
 {
     '''var''' ''list'' less, pivotList, greater
     '''if''' length(q) ≤ 1 
         '''return''' q
     '''else''' 
     {
         select a pivot value ''pivot'' from q
         '''for each''' x '''in''' q '''except''' the pivot element
         {
             '''if''' x < pivot '''then''' add x to less
             '''if''' x ≥ pivot '''then''' add x to greater
         }
         add ''pivot'' to pivotList
         '''return''' concatenate(quicksort(less), pivotList, quicksort(greater))
     }
 }
```

### 原地（in-place）分割的版本

<image>

上面簡單版本的缺點是，它需要$\Omega(n)$的額外儲存空間，也就跟歸併排序一樣不好。額外需要的記憶體空間配置，在實際上的實作，也會極度影響速度和快取的效能。有一個比較複雜使用原地（in-place）分割演算法的版本，且在好的基準選擇上，平均可以達到$O(\log n)$空間的使用複雜度。

```
 '''function''' partition(a, left, right, pivotIndex)
 {
     pivotValue = a[pivotIndex]
     swap(a[pivotIndex], a[right]) ''// 把pivot移到結尾''
     storeIndex = left
     '''for''' i '''from''' left '''to''' right-1
     {
         '''if''' a[i] < pivotValue
          {
             swap(a[storeIndex], a[i])
             storeIndex = storeIndex + 1
          }
     }
     swap(a[right], a[storeIndex]) ''// 把pivot移到它最後的地方''
     '''return''' storeIndex
 }
```

這是原地分割演演算法，它分割了標示為"左邊（left）"和"右邊（right）"的序列部份，藉由移動小於`a[pivotIndex]`的所有元素到子序列的開頭，留下所有大於或等於的元素接在他們後面。在這個過程它也為基準元素找尋最後擺放的位置，也就是它回傳的值。它暫時地把基準元素移到子序列的結尾，而不會被前述方式影響到。由於演演算法只使用交換，因此最後的數列與原先的數列擁有一樣的元素。要注意的是，一個元素在到達它的最後位置前，可能會被交換很多次。

一旦我們有了這個分割演演算法，要寫快速排列本身就很容易：

```
 '''procedure''' quicksort(a, left, right)
     '''if''' right > left
         select a pivot value a[pivotIndex]
         pivotNewIndex := partition(a, left, right, pivotIndex)
         quicksort(a, left, pivotNewIndex-1)
         quicksort(a, pivotNewIndex+1, right)
```

這個版本經常會被使用在命令式語言中，像是C語言。

## 優化的排序演演算法

快速排序是二叉查找樹（二元搜尋樹）的一個空間最佳化版本。不是循序地把數據項插入到一個明確的樹中，而是由快速排序組織這些數據項到一個由遞歸調用所隱含的樹中。這兩個演演算法完全地產生相同的比較次數，但是順序不同。對於排序算法的穩定性指標，原地分割版本的快速排序算法是不穩定的。其他變種是可以通過犧牲性能和空間來維護穩定性的。

快速排序的最直接競爭者是堆排序。堆排序通常比快速排序稍微慢，但是最壞情況的執行時間總是$O(n\log n)$。快速排序是經常比較快，除了introsort變化版本外，仍然有最壞情況效能的機會。如果事先知道堆排序將會是需要使用的，那麼直接地使用堆排序比等待introsort再切換到它還要快。堆排序也擁有重要的特點，僅使用固定額外的空間（堆排序是原地排序），而即使是最佳的快速排序變化版本也需要$\Theta(\log n)$的空間。然而，堆排序需要有效率的隨機存取才能變成可行。

快速排序也與歸併排序競爭，這是另外一種遞迴排序算法，但有壞情況$O(n\log n)$執行時間的優勢。不像快速排序或堆排序，歸併排序是一個穩定排序，且可以輕易地被採用在鍊表和儲存在慢速存取媒體上像是磁碟儲存或網路連接儲存的非常巨大數列。儘管快速排序可以被重新改寫使用在鏈串列上，但是它通常會因為無法隨機存取而導致差的基準選擇。歸併排序的主要缺點，是在最佳情況下需要$\Omega(n)$額外的空間。

## 正規分析

從一開始快速排序平均需要花費$O(n\log n)$時間的描述並不明顯。但是不難觀察到的是分割運算，陣列的元素都會在每次迴圈中走訪過一次，使用$O(n)$的時間。在使用結合（concatenation）的版本中，這項運算也是$O(n)$。

在最好的情況，每次我們執行一次分割，我們會把一個數列分為兩個幾近相等的片段。這個意思就是每次遞迴調用處理一半大小的數列。因此，在到達大小為一的數列前，我們只要作$\log n$次巢狀的調用。這個意思就是調用樹的深度是$O(\log n)$。但是在同一階層的兩個程序調用中，不會處理到原來數列的相同部份；因此，程序調用的每一階層總共全部僅需要$O(n)$的時間（每個調用有某些共同的額外耗費，但是因為在每一階層僅僅只有$O(n)$個調用，這些被歸納在$O(n)$係數中）。結果是這個演演算法僅需使用$O(n\log n)$時間。

另外一個方法是為$T(n)$設立一個遞迴關係式，也就是需要排序大小為$n$的數列所需要的時間。在最好的情況下，因為一個單獨的快速排序調用牽涉了$O(n)$的工作，加上對$n/2$大小之數列的兩個遞迴調用，這個關係式可以是：

$$T(n) = O(n) + 2T(n/2)$$

解決這種關係式型態的標準數學歸納法技巧告訴我們$T(n) = O(n\log n)$。

事實上，並不需要把數列如此精確地分割；即使如果每個基準值將元素分開為99%在一邊和1%在另一邊，調用的深度仍然限制在$100\log n$，所以全部執行時間依然是$O(n\log n)$。

然而，在最壞的情況是，兩子數列擁有大各為$1$ 和$n-1$，且調用樹（call tree）變成為一個$n$個巢狀（nested）呼叫的線性連串（chain）。第$i$ 次呼叫作了$O(n-i)$的工作量，且$\sum_{i=0}^n (n-i) = O(n^2)$遞迴關係式為：

$$T(n) = O(n) + T(1) + T(n - 1) = O(n) + T(n - 1)$$

這與插入排序和選擇排序有相同的關係式，以及它被解為$T(n) = O(n^2)$。

### 亂數快速排序的期望複雜度

亂數快速排序有一個值得注意的特性，在任意輸入資料的狀況下，它只需要$O(n\log n)$的期望時間。是什麼讓隨機的基準變成一個好的選擇？

假設我們排序一個數列，然後把它分為四個部份。在中央的兩個部份將會包含最好的基準值；他們的每一個至少都會比25%的元素大，且至少比25%的元素小。如果我們可以一致地從這兩個中央的部份選出一個元素，在到達大小為1的數列前，我們可能最多僅需要把數列分割$2\log_2 n$次，產生一個$O(n\log n)$演演算法。

不幸地，亂數選擇只有一半的時間會從中間的部份選擇。出人意外的事實是這樣就已經足夠好了。想像你正在翻轉一枚硬幣，一直翻轉一直到有$k$次人頭那面出現。儘管這需要很長的時間，平均來說只需要$2k$次翻動。且在$k$次翻動中得不到$k$次人頭那面的機會，是像天文數字一樣的非常小。藉由同樣的論證，快速排序的遞迴平均只要$2(2\log_2 n)$的呼叫深度就會終止。但是如果它的平均呼叫深度是$O(\log n)$且每一階的呼叫樹狀過程最多有$n$個元素，則全部完成的工作量平均上是乘積，也就是$O(n\log n)$。

### 平均複雜度

即使如果我們無法隨機地選擇基準數值，對於它的輸入之所有可能排列，快速排序仍然只需要$O(n\log n)$時間。因為這個平均是簡單地將輸入之所有可能排列的時間加總起來，除以$n$這個因數，相當於從輸入之中選擇一個隨機的排列。當我們這樣作，基準值本質上就是隨機的，導致這個演演算法與亂數快速排序有一樣的執行時間。

更精確地說，對於輸入順序之所有排列情形的平均比較次數，可以藉由解出這個遞迴關係式可以精確地算出來。

$C(n) = n - 1 + \frac{1}{n} \sum_{i=0}^{n-1} (C(i)+C(n-i-1)) = 2n \ln n = 1.39n \log_2 n$。

在這裡，$n-1$是分割所使用的比較次數。因為基準值是相當均勻地落在排列好的數列次序之任何地方，總和就是所有可能分割的平均。

這個意思是，平均上快速排序比理想的比較次數，也就是最好情況下，只大約比較糟39%。這意味著，它比最壞情況較接近最好情況。這個快速的平均執行時間，是快速排序比其他排序演演算法有實際的優勢之另一個原因。

### 空間複雜度

被快速排序所使用的空間，依照使用的版本而定。使用原地（in-place）分割的快速排序版本，在任何遞迴呼叫前，僅會使用固定的額外空間。然而，如果需要產生$O(\log n)$巢狀遞迴呼叫，它需要在他們每一個儲存一個固定數量的資訊。因為最好的情況最多需要$O(\log n)$次的巢狀遞迴呼叫，所以它需要$O(\log n)$的空間。最壞情況下需要$O(n)$次巢狀遞迴呼叫，因此需要$O(n)$的空間。

然而我們在這裡省略一些小的細節。如果我們考慮排序任意很長的數列，我們必須要記住我們的變數像是left和right，不再被認為是佔據固定的空間；也需要$O(\log n)$對原來一個$n$項的數列作索引。因為我們在每一個堆疊框架中都有像這些的變數，實際上快速排序在最好跟平均的情況下，需要$O(\log_2 n)$空間的位元數，以及最壞情況下$O(n\log n)$的空間。然而，這並不會太可怕，因為如果一個數列大部份都是不同的元素，那麼數列本身也會佔據$O(n\log n)$的空間位元組。

非原地版本的快速排序，在它的任何遞迴呼叫前需要使用$O(n)$空間。在最好的情況下，它的空間仍然限制在$O(n)$，因為遞迴的每一階中，使用與上一次所使用最多空間的一半，且

$\sum_{i=0}^{\infty} \frac{n}{2^i} = 2n$。

它的最壞情況是很恐怖的，需要

$$\sum_{i=0}^n (n-i+1) = \Theta (n^2)$$

空間，遠比數列本身還多。如果這些數列元素本身自己不是固定的大小，這個問題會變得更大；舉例來說，如果數列元素的大部份都是不同的，每一個將會需要大約$O(\log n)$為原來儲存，導致最好情況是$O(n\log n)$和最壞情況是$O(n^2\log n)$的空間需求。

## 選擇的關連性

選擇算法（selection algorithm）可以選取一個數列的第$k$個最小值；一般而言這是比排序還簡單的問題。一個簡單但是有效率的選擇算法與快速排序的作法相當類似，除了對兩個子數列都作遞迴呼叫外，它僅僅針對包含想要的元素之子數列作單一的結尾遞迴（tail recursive）呼叫。這個小改變降低了平均複雜度到線性或是$\Theta(n)$時間，且讓它成為一個原地算法。這個演算法的一種變化版本，可以讓最壞情況下降為$O(n)$（參考選擇算法來得到更多資訊）。

相反地，一旦我們知道一個最壞情況的$O(n)$選擇算法是可以利用的，我們在快速排序的每一步可以用它來找到理想的基準（中位數），得到一種最壞情況下$O(n\log n)$執行時間的變化版本。然而在實際的實作中，這種版本一般而言相當慢。

## 外部連結

- Interactive quicksort
- multidimensional quicksort in java

## 參考

- Hoare, C. A. R. "Partition: Algorithm 63," "Quicksort: Algorithm 64," and "Find: Algorithm 65." Comm. ACM 4, 321-322, 1961
- R. Sedgewick. Implementing quicksort programs, Communications of the ACM, 21(10):847-857, 1978.
- David Musser. Introspective Sorting and Selection Algorithms, Software Practice and Experience vol 27, number 8, pages 983-993, 1997
- A. LaMarca and R. E. Ladner. "The Influence of Caches on the Performance of Sorting." Proceedings of the Eighth Annual ACM-SIAM Symposium on Discrete Algorithms, 1997. pp. 370–379.
- Faron Moller. Analysis of Quicksort. CS 332: Designing Algorithms. Department of Computer Science, University of Wales Swansea.
- Steven Skiena. Lecture 5 - quicksort. CSE 373/548 - Analysis of Algorithms. Department of Computer Science. SUNY Stony Brook.