採樣定理

right
採樣定理是數字信號處理領域的重要定理。定理內容是連續信號（通常稱作“模擬信號”）與離散信號（通常稱作“數字信號”）之間的一個基本橋樑。它確定了信號帶寬的上限，或能捕獲連續信號的所有信息的離散採樣信號所允許的採樣頻率的下限。
嚴格地說，定理僅適用於具有傅里葉變換的一類數學函數，即頻率在有限區域以外為零（參照圖1）。離散時間傅里葉變換（泊松求和公式的一種形式）提供了實際信號的解析延拓，但只能近似該條件。直觀上我們希望，當把連續函數化為採樣值（叫做“樣本”）的離散序列並插值到連續函數中，結果的保真度取決於原始採樣的密度（或採樣率）。採樣定理介紹了對帶寬限制的函數類型來說保真度足夠完整的採樣率的概念；在採樣過程中"信息"實際沒有損失。定理用函數的帶寬來表示採樣率。定理也導出了一個數學上理想的原連續信號的重構公式。
該定理沒有排除一些並不滿足採樣率準則的特殊情況下完整重構的可能性。（參見下文非基帶信號採樣，以及壓縮感知。）
奈奎斯特–香農採樣定理的名字是為了紀念哈里·奈奎斯特和克勞德·香農。該定理及其在插值理論中的原型曾被奧古斯丁-路易·柯西、埃米爾·博雷爾、雅克·阿達馬、夏爾-讓·德拉瓦萊·普桑、埃德蒙·泰勒·惠特克、弗拉基米爾·亞歷山德羅維奇·科捷利尼科夫等人發現或研究1-4。所以它還叫做奈奎斯特–香農–科捷利尼科夫定理、惠特克–香農–科捷利尼科夫定理、惠特克–奈奎斯特–科捷利尼科夫–香農定理及插值基本定理。

**簡介**
採樣是將一個信號（例如時間或空間上連續的函數）轉換為數字序列（時間或空間上離散的函數）的過程。這個定理的香農版本陳述為：
如果週期函數 x(t) 不包含高於 B cps（次/秒）的頻率，那麼，x(t)可以由一系列間隔小於 1/(2B) 秒的x(t)函數值完全確定。
因此 2B 樣本/秒或更高的採樣頻率將能使函數不受幹擾。相對的，對於一個給定的採樣頻率 fs，完全重構的頻帶限制為 B ＜ fs/2。
在頻帶限制過高（或根本沒有頻帶限制）的情形下，重構表現出的缺陷稱為混疊。現在對於此定義的陳述有時會很小心的指出x(t)必須不包括頻率恰好為B的正弦曲線，或是B必須小於½的取樣頻率。這二個門檻，2B及fs/2會稱為奈奎斯特速率及奈奎斯特頻率。這些是x(t)及取樣設備的屬性。上述的不等式會稱為奈奎斯特準則，有時會稱為拉貝準則（Raabe condition）。此定理也可以用在其他定義域（例如離散系統）的函數下，唯一的不同是量測t, fs和B的單位。
正規化的Sinc函數：sin(πx) / (πx) ...其中央峰值在x= 0，其他整數值的x時為零交越點
符號 T = 1/fs 常用來表示二次取樣之間的時間間隔，稱為取樣週期或是取樣區間。函數x(t)的取樣常用xn = x(nT)表示（較早期的文獻會用xn），其中n為正整數。在數學上理想的取樣還原（插值）和Sinc函數有關，每次的取樣都用中心點在取樣時間nT，振幅是取樣值xn的Sinc函數代替。最後將Sinc函數加總，得到連續的函數。數學上等效的方式是將Sinc函數和一連串的狄拉克δ函數卷積，再依取樣到的值來加權。不過這些方式在數學上都是不實際的。不過有些有限長度的函數可以近似Sinc函數，這種因為近似的不完美造成的誤差稱為插值誤差（interpolation error）。
實際的數位類比轉換器既不會產生加權而有延遲的Sinc函數，也不會產生理想的狄拉克δ函數，若是其類比重建是用零階保持，其輸出的是由不同振幅及有延遲的矩形函數組成的階躍函數，一般後面會有抗鏡像濾波器（anti-imaging filter）來清除假的高頻成份。

**混疊**
二個正弦波的頻率不同，但其取樣值相關，其中至少有一個的頻率超過取樣頻率的一半
如果不能滿足上述採樣條件，採樣後信號的頻率就會重疊，即高於採樣頻率一半的頻率成分將被重建成低於採樣頻率一半的信號。這種頻譜的重疊導致的失真稱為混疊，而重建出來的信號稱為原信號的混疊替身，因為這兩個信號有同樣的樣本值。
若x(t)為一函數，其傅里葉變換X(f)為:

泊松求和公式指出x(t)的取樣x(nT)足以產生X(f)的periodic summation，結果為：
圖4：X(f)（上圖藍色部份）及XA(f)（下圖藍色部份）是二個不同函數x(t)及xA(t)（原函數省略不列出）的連續傅里葉變換。當二個函數以fs的速率取樣時，且確認訊號的離散傅里葉變換（DTFT）時，其鏡相（image，綠色部份）會和轉換後訊號（藍色部份）疊加。在這個假設的例子中，二函數的離散傅里葉變換相同，表示取樣到的訊號也相同，可是在取樣前的原函數是不同的。若這是聲音訊號，x(t)和xA(t)聽起來是不一樣的，可是其以fs速率的取樣是一樣的，因此最後重製的聲音是相同的，xA(t)是x(t)在此取樣頻率下的混疊（alias）
是一個週期函數，等效為傅里葉級數，係數為T•x(nT)。此函數也稱為數列T•x(nT)的離散時間傅里葉變換 (DTFT)，n為整數。
如圖4所示，X(f) 的拷貝被平移了 fs 的倍數，並相加合併。對於一個帶限函數（對所有 |f| ≥ B，X(f) = 0），在 fs 足夠大的時候，這些拷貝之間仍然分得清楚。但如果奈奎斯特准則並不滿足，相鄰部分就會重疊，一般就不能明確辨別出 X(f)。任何超過 fs/2 的頻率分量都會與較低的頻率分量難以區分，稱作與其中一個拷貝發生“混疊”。在這種情況下，通常的插值法就會產生混疊，而不是原始的分量了。
以下兩種措施可避免混疊的發生：
# 提高採樣頻率，使之達到最高信號頻率的兩倍以上；
# 引入低通濾波器或提高低通濾波器的參數；該低通濾波器通常稱為抗混疊濾波器
當採樣率預先由其他因素（如行業標準）確定的時候，x(t) 通常要先濾波以將高頻分量減少到可以接受的水平，再進行採樣。所需的濾波器的種類為低通濾波器，而在這種應用中叫做抗混疊濾波器。抗混疊濾波器可限制信號的帶寬，使之滿足採樣定理的條件。這在理論上是可行的，但是在實際情況中不可能做到。因為濾波器不可能完全濾除奈奎斯特頻率之上的信號，所以，採樣定理要求的帶寬之外總有一些“小的”能量。不過抗混疊濾波器可使這些能量足夠小，以至可忽略不計。
圖5：Xs(f)是由適當頻寬濾波器濾波後的訊號，其頻譜（藍色）和其相鄰的DTFT鏡像（綠色）不會重疊。brick-wall低通濾波器H(f)可以移除鏡像，留下原始的頻譜X(f)，由取樣後的訊號還原為（濾波後）的原始信號

**由泊松求和的特例來推導**
從圖5中可以看到，若X(f)的複本（也稱為鏡像）之間沒有和k = 0的項重疊，可以由Xs(f)用以下的乘積來還原：
      where:

此時證明瞭採樣定理，因此X(f)可以確定x(t)，而且只有唯一解。
剩下的就只有推導重構的公式。H(f)不需在nowrap|B, fs − B的區域有準確的定義，因為Xs(f)在此區域為零。不過最壞的情形是B = fs/2，奈奎斯特頻率。一個在此情形及其他較輕微的條件下都適用的函數為：

其中rect(•)為矩形函數，因此：

::      （根據上面的 Eq.1）
::     
等式二側反轉換，可以得到Whittaker–Shannon interpolation formula

上式就是用取樣值x(nT)來重構x(t)的方式。
*若fs大於所需值，也就是T較小，稱為過取樣（oversampling），由圖5可以看出過取樣對重構訊號沒有任何效果，但可以提供一塊「轉態區」，此區域內的H(f)可以是一些非零的值。相反的，Undersampling會造成混疊，一般而言無法重構原始信號。
*理論上，插值公式可以用低通濾波器來實現，其脈衝響應為sinc(t/T)，輸入為，即為一個被取樣信號調變過的Dirac comb函數。實際的數位類比轉換器（DAC）會用零階保持器來近似，此時過取樣可以減少近似的誤差。

**香農的原始證明**
泊松證明了Eq.1中的傅里葉級數會產生 X(f) 的週期求和，不管 fs 和 B 是什麼值。然而香農只推導了 fs = 2B 情形下級數的係數。 幾乎引用了香農原始的論文：
令  為  的頻譜。則
因為假設在頻帶  以外  為零。若我們令
:
其中 n 為任意正整數或負整數，我們得到
:
在等式左邊的是在取樣點的數值，右邊的積分在本質上可以視為是的n次係數，以–B至B為其基礎週期。這表示的取樣值也決定了傅立葉展開的第n次係數。對於比B低的頻率，若其傅立葉係數確定了，也就確定了，而在高於B的頻率，其數值為零，因此整個都可以確定。因為一函數的頻譜若確定了，其函數也就確定了，因此可以完全的決定原始函數，也就表示原始的取樣可以完整的決定函數。
香農對於此定理的證明已經完成了，不過香農進一步探討用Sinc函數重構原函數，也就是今日的Whittaker–Shannon interpolation formula，他沒有推導或是證明sinc函數的性質，但這些對於當時閱讀其作品的工程師不會覺得陌生，因為當時已經知道矩形函數和Sinc函數的傅立葉對關係。
令為第n個取樣點，則函數可以表示為：
:
和其他證明類似，此處假設原函數的傅立葉變換存在，因此證明中沒有說明採樣定理是否可以延伸到有限頻寬的固定隨機過程。

**腳註**

**在多變數信號及圖形上的應用**
圖6：取樣不足的圖，會出現莫列波紋
圖7
採樣定理常表示為單一變數的函數，因此定理可以直接應用到和時間相關的一維信號。不過採樣定理可以直接延伸到任意數量變數的函數。例如像灰階影像常表示為二維的實數陣列（或是矩陣），其中的實數表示在對應行及列的取樣位置下，像素的相對強度。因此圖案會需要二個獨立的變數來表示其位置，一個表示對應的行，一個表示對應的列。
彩色影像一般會包括三個獨立的灰階值，分別表示紅色、綠色及藍色等三原色（三原色光模式，簡稱RGB）的強度。其他用三個元素的向量表示一個點的顏色空間有HSL和HSV色彩空間、CIELAB及XYZ等。而像CMYK則是用淺藍色、紫紅色、黃色及黑色的強度來表示。這些色彩空間都是二維空間上的向量值函數。
和一維離散信號的情形類似，若圖形的採樣解析度（或是像素密度）不適當，可能會有混疊的情形。例如密條紋襯衫若是用的數值若是用數位相機的圖像傳感器取樣時，可能會造成混疊，這種二維的混疊會形成莫列波紋，改善方式是提高空間的取樣率，例如拍照時更靠近襯衫，用高解析度的感測器，或是在取樣前先進行光學模糊處理。
另一個例子是右邊的方格條紋，上方的圖是不滿足採樣定理下的信號。下方則是先經過低通濾波器再降採樣，得到一個較小，但沒有莫列波紋。上圖則是直接降採樣，沒有先經過低通處理後的圖。
採樣定理在影像上的應用需小心的進行。例如相機中標準影像感測器（CCD或CMOS）的取樣程序和理想的取樣程序有相當的差距，理想的取樣程序會在一個點量測其影像強度，但影像感測器中為了獲得足夠的光量，其感測影像的區域較。換句話說，感測器是一個有限寬度的點擴散函數。一般而言這類感測器採樣到的類比光學資訊不是有限頻寬的，而不理想的採樣本身即為低通濾波器，不過不一定可以移除會造成混疊的高頻雜訊。若取樣區域（感測器大小）沒有大到可以有反鋸齒效果時，一般會需要獨立的反鋸齒濾鏡（光學低通濾鏡）來使影像模糊。雖然影像有這些和採樣定理有關的問題，不過採樣定理可以描述提升採樣及減採樣的基礎。
圖8：一組在臨界頻率的弦波，採樣時都是反覆出現的+1和–1，他們都是彼此的混疊信號，甚至其頻率還沒超過取樣頻率的一半

**臨界頻率**
為了描述fs > 2B的必要性，考慮右圖（圖8）中的一組弦波，公式如下，但θ值各有不同：

其中fs = 2B或是可以寫為T = 1/(2B)，採樣值為：

和θ值無關。上述的歧義是採樣定理中使用嚴格的不等式，不允許等式的原因。

**對於非基帶訊號的採樣**
香農曾提到：
若頻帶的最小值不是零，而是由其他較大的值，也可以產生類似的結果，可以用線性轉換（對應物理上的單邊帶調製）到最小值為零的頻帶來證明。此例中基本脈波是單邊帶調製下的sin(x)/x。
因此這是一個針對沒有基帶成份信號（其頻帶有一部份的信號非零，但此寬度又和最大頻率無關）進行取樣的充份條件。
帶通條件為X(f) = 0，針對在所有在開區域範圍以外的非負f：
:
針對某非負整數N。此公式包括一般的基帶條件，N=0。
對應的內插函數為理想Sinc帶通濾波器的脈衝響應，（而不是之前用的理想Sinc低通濾波器），會切掉頻帶的上方及下方，這也是一組低通濾波器脈衝響應的差：
:
其他的推廣，例如信號在數個不連續的頻帶，也是可行的。甚至是最廣義的取樣定理也不一定有一個可能正確的反例。也就是說無法確定是否只要不滿足取樣定理，就一定會有信號的喪失。不過以工程的角度來看，比較保守的作法是假設若不滿足取樣定理，就很可能會有信號的喪失。

**非均勻採樣**
香農的採樣定理可以延伸到非均勻採樣，也就是採樣的時間間隔非一定值。非均勻採樣的採樣定理指出針對band-limited的訊號，只要平均採樣頻率滿足奈奎斯特條件，就可以從採樣訊號完整重建原始訊號。因此雖然均勻採樣在訊號重建的演算法上比較簡單，但這不是完整重建的必要條件。
非基帶及非均勻採樣的泛用理論是在1967年由亨利·藍道提出。簡單的說，藍道證明瞭平均取樣率至少需要是信號佔據頻寬的二倍，但前提是已知信號的頻譜及其佔據的頻寬。
在1990年代末期，此研究已延伸到信號佔據頻寬的數量已知，但實際在頻譜上位置未知的情形。在2000年代已利用壓縮感知發展了一個完整的理論。此理論用信號處理的語言寫成，在2009年的論文中發表。論文中證明，若頻率的位置未知，則取樣頻率需至少為奈奎斯特準則的二倍。換句話說，因為不知道光學頻譜的位置，需要將取樣頻率乘二為代價。注意此最小取樣頻率的要求不一定保證其數值穩定性。

**欠採樣**
當一個信號被Undersampling時，必須滿足採樣定理以避免混疊。為了滿足採樣定理的要求，信號在進行減採樣操作前，必須通過一個具有適當截止頻率的低通濾波器。這個用於避免混疊的低通濾波器，稱為抗混疊濾波器。

**在奈奎斯特速率以下，有額外限制條件的採樣**
奈奎斯特–夏農取樣定理是對於帶限函數取樣及重建的充分條件。若是用Whittaker–Shannon interpolation formula重建原訊號，奈奎斯特準則也是避免混疊的必要條件，因為若採樣速率小於信號頻帶限制的二倍，可能有些信號無法正確重建。不過若信號有其他的限制，則奈奎斯特準則就不是混疊的必要條件了。
像近來在進行研究的壓縮感知就是一個利用對信號額外假設來進行壓縮的例子，壓縮感知可以用奈奎斯特速率要慢的速率採樣，然後可以完整的重建原訊號。這特別用在信號在一些層面較稀疏（或可壓縮）的情形。像壓縮感知可以處理有效頻寬（EB)）很低，但不確定其頻率分佈位置的信號（此時採樣定理就不適用了）。換句話說，其頻譜較稀疏。若用採樣定理，最小的採樣速率是2B，若是用壓縮感知，採樣速率若略低於2EB，仍可以完整的重建。不過此作法的重建已不再是用公式處理，而是要求解凸優化，需要有良好研究，而可能是非線性的方式處理。

**歷史背景**
哈里·奈奎斯特1928年的論文《Certain topics in telegraph transmission theory》中就已隱含了採樣定理，他證明瞭一個頻寬為B的系統可以傳送最多2B個獨立的脈波，不過他沒有直接處理連續信號取樣及重建的問題。同一時期的Karl Küpfmüller證明瞭類似的結果，也討論到頻帶限制濾波器的sinc函數衝激響應，以及其積分，步階響應的三角積分，頻帶限制濾波器及信號重建濾波器是採樣定理的核心，因此在一些地區會將這二個濾波器稱為Küpfmüller filter。
採樣定理是在香農在1949年《Communication in the presence of noise》中提出。之前相關的研究有V. A. Kotelnikov在1933年《在電纜及"以太"中電子通訊的傳輸能力》（翻譯自俄文），以及數學家埃德蒙·泰勒·惠特克在1915年的《Expansions of the Interpolation-Theory》（Theorie der Kardinalfunktionen）、J. M. Whittaker在1935年的《Interpolatory function theory》以及丹尼斯·加博爾1946年提出的《Theory of communication》。1999年時Eduard Rhein Foundation給予科捷利尼科夫基礎研究獎，原因是「第一位提出理論正確的採樣定理」。

**相關條目**
 Balian–Low theorem，類似的取樣頻率理論下限，但應用在時頻分析中。- Cheung–Marks theorem說明何時依取樣定理重建的訊號會是病態的。- 香農定理- Nyquist ISI criterion- Reconstruction from zero crossings- 零階保持器

**參考資料**
E. T. Whittaker, "On the Functions Which are Represented by the Expansions of the Interpolation Theory," Proc. Royal Soc. Edinburgh, Sec. A, vol.35, pp.181-194, 1915
*H. Nyquist, "Certain topics in telegraph transmission theory," Trans. AIEE, vol. 47, pp. 617-644, Apr. 1928.
*V. A. Kotelnikov, "On the carrying capacity of the ether and wire in telecommunications," Material for the First All-Union Conference on Questions of Communication, Izd. Red. Upr. Svyazi RKKA, Moscow, 1933 (Russian).
*C. E. Shannon,  "Communication in the presence of noise", Proc. Institute of Radio Engineers, vol. 37, no.1, pp. 10-21, Jan. 1949.- J. R. Higgins: Five short stories about the cardinal series, Bulletin of the AMS  12(1985)
*V. A. Kotelnikov, "On the carrying capacity of the ether and wire in telecommunications", Material for the First All-Union Conference on Questions of Communication, Izd. Red. Upr. Svyazi RKKA, Moscow, 1933 (Russian).  (english translation, PDF) date=20210301042517 
*Karl Küpfmüller, "Utjämningsförlopp inom Telegraf- och Telefontekniken", ("Transients in telegraph and telephone engineering"), Teknisk Tidskrift, no. 9 pp. 153–160 and 10 pp. 178–182, 1931.  date=20210303155749   date=20210303155819 - R.J. Marks II:   Introduction to Shannon Sampling and Interpolation Theory date=20210303212154 , Spinger-Verlag, 1991.- R.J. Marks II, Editor:  Advanced Topics in Shannon Sampling and Interpolation Theory date=20210303214105 , Springer-Verlag, 1993.- R.J. Marks II, Handbook of Fourier Analysis and Its Applications, Oxford University Press, (2009), Chapters 5-8.  Google books date=20210303154654 .
*H. Nyquist, "Certain topics in telegraph transmission theory", Trans. AIEE, vol. 47, pp. 617–644, Apr. 1928  Reprint as classic paper in: Proc. IEEE, Vol. 90, No. 2, Feb 2002.- dead-url=no 
*C. E. Shannon, "Communication in the presence of noise", Proc. Institute of Radio Engineers, vol. 37, no.1, pp. 10–21, Jan. 1949.  Reprint as classic paper in: Proc. IEEE, Vol. 86, No. 2, (Feb 1998)- Michael Unser:  Sampling-50 Years after Shannon date=20060709190155 , Proc. IEEE, vol. 88, no. 4, pp. 569–587, April 2000
*E. T. Whittaker, "On the Functions Which are Represented by the Expansions of the Interpolation Theory", Proc. Royal Soc. Edinburgh, Sec. A, vol.35, pp. 181–194, 1915
*J. M. Whittaker, Interpolatory Function Theory, Cambridge Univ. Press, Cambridge, England, 1935.

**外部連結**
 Learning by Simulations date=20200711041616  Interactive simulation of the effects of inadequate sampling-  Interactive presentation of the sampling and reconstruction in a web-demo Institute of Telecommunications, University of Stuttgart- Undersampling and an application of it date=20210506125925 - Sampling Theory For Digital Audio- Journal devoted to Sampling Theory date=20210307220640 -  Sampling Theorem with Constant Amplitude Variable Width Pulse date=20140916013222