取樣定理是數字訊號處理領域的重要定理。定理內容是連續訊號（通常稱作 模擬訊號）與離散訊號（通常稱作 數字訊號）之間的一個基本橋樑。它確定了訊號頻寬的上限，或能捕獲連續訊號的所有資訊的離散取樣訊號所允許的取樣頻率的下限。 嚴格地說，定理僅適用於具有傅立葉變換的一類數學函式，即頻率在有限區域以外為零（參照圖 1）。離散時間傅立葉變換（泊松求和公式的一種形式）提供了實際訊號的解析延拓，但只能近似該條件。直觀上我們希望，當把連續函式化為取樣值（叫做 樣本）的離散序列並插值到連續函式中，結果的保真度取決於原始取樣的密度（或採樣率）。取樣定理介紹了對頻寬限制的函式型別來說保真度足夠完整的取樣率的概念；在取樣過程中 資訊 實際沒有損失。定理用函式的頻寬來表示取樣率。定理也匯出了一個數學上理想的原連續訊號的重構公式。 該定理沒有排除一些並不滿足取樣率準則的特殊情況下完整重構的可能性。（參見下文非基帶訊號取樣，以及壓縮感知。） 奈奎斯特夏農取樣定理的名字是為了紀念哈里奈奎斯特和克勞德夏農。該定理及其在插值理論中的原型曾被奧古斯丁 路易柯西、埃米爾博雷爾、雅克阿達馬、夏爾 讓德拉瓦萊普桑、埃德蒙泰勒惠特克、弗拉基米爾亞歷山德羅維奇科捷利尼科夫等人發現或研究。所以它還叫做奈奎斯特夏農科捷利尼科夫定理、惠特克夏農科捷利尼科夫定理、惠特克奈奎斯特科捷利尼科夫夏農定理及插值基本定理。 簡介 取樣是將一個訊號（例如時間或空間上連續的函式）轉換為數字序列（時間或空間上離散的函式）的過程。這個定理的夏農版本陳述為： Communication in the presence of noise Proc Institute of Radio Engineers vol 37 no 1 pp 1021 Jan 1949 Reprint as classic paper in Proc IEEE vol 86 no 2 Feb 1998 如果週期函式 x t 不包含高於 B cps（次 秒）的頻率，那麼，x t 可以由一系列間隔小於 12B 秒的 x t 函式值完全確定。 因此 2B 樣本 秒或更高的取樣頻率將能使函式不受幹擾。相對的，對於一個給定的取樣頻率 fs，完全重構的頻帶限制為 B ＜ fs2。 在頻帶限制過高（或根本沒有頻帶限制）的情形下，重構表現出的缺陷稱為混疊。現在對於此定義的陳述有時會很小心的指出 x t 必須不包括頻率恰好為 B 的正弦曲線，或是 B 必須小於 ½ 的取樣頻率。這二個門檻，2B 及 fs2 會稱為及奈奎斯特頻率。這些是 x t 及取樣裝置的屬性。上述的不等式會稱為奈奎斯特準則，有時會稱為拉貝準則（Raabe condition）。此定理也可以用在其他定義域（例如離散系統）的函式下，唯一的不同是量測 t fs 和 B 的單位。 符號 T 1fs 常用來表示二次取樣之間的時間間隔，稱為取樣週期或是取樣區間。函式 x t 的取樣常用 x n x nT 表示（較早期的文獻會用 xn），其中 n 為正整數。在數學上理想的取樣還原（插值）和 Sinc 函式有關，每次的取樣都用中心點在取樣時間 nT，振幅是取樣值 x n 的 Sinc 函式代替。最後將 Sinc 函式加總，得到連續的函式。數學上等效的方式是將 Sinc 函式和一連串的狄拉克 δ 函式卷積，再依取樣到的值來加權。不過這些方式在數學上都是不實際的。不過有些有限長度的函式可以近似 Sinc 函式，這種因為近似的不完美造成的誤差稱為插值誤差（interpolation error）。 實際的數位類比轉換器既不會產生加權而有延遲的 Sinc 函式，也不會產生理想的狄拉克 δ 函式，若是其類比重建是用零階保持，其輸出的是由不同振幅及有延遲的矩形函式組成的階躍函式，一般後面會有抗映象濾波器（antiimaging filter）來清除假的高頻成份。 混疊 如果不能滿足上述取樣條件，取樣後訊號的頻率就會重疊，即高於取樣頻率一半的頻率成分將被重建成低於取樣頻率一半的訊號。這種頻譜的重疊導致的失真稱為混疊，而重建出來的訊號稱為原訊號的混疊替身，因為這兩個訊號有同樣的樣本值。 若 x t 為一函式，其傅立葉變換 X f 為 X f stackrel mathrm def int_inftyinfty x t e i 2 pi f t rm d t 泊松求和公式指出 x t 的取樣 x nT 足以產生 X f 的，結果為： 是一個週期函式，等效為傅立葉級數，係數為 Tx nT。此函式也稱為數列 Tx nT 的離散時間傅立葉變換 DTFT，n 為整數。 如圖 4 所示，X f 的複製被平移了 fs 的倍數，並相加合併。對於一個帶限函式（對所有 f B，X f 0），在 fs 足夠大的時候，這些複製之間仍然分得清楚。但如果奈奎斯特准則並不滿足，相鄰部分就會重疊，一般就不能明確辨別出 X f。任何超過 fs2 的頻率分量都會與較低的頻率分量難以區分，稱作與其中一個複製發生 混疊。在這種情況下，通常的插值法就會產生混疊，而不是原始的分量了。 以下兩種措施可避免混疊的發生： 提高取樣頻率，使之達到最高訊號頻率的兩倍以上； 引入低通濾波器或提高低通濾波器的引數；該低通濾波器通常稱為抗混疊濾波器 當取樣率預先由其他因素（如行業標準）確定的時候，x t 通常要先濾波以將高頻分量減少到可以接受的水平，再進行取樣。所需的濾波器的種類為低通濾波器，而在這種應用中叫做抗混疊濾波器。抗混疊濾波器可限制訊號的頻寬，使之滿足取樣定理的條件。這在理論上是可行的，但是在實際情況中不可能做到。因為濾波器不可能完全濾除奈奎斯特頻率之上的訊號，所以，取樣定理要求的頻寬之外總有一些 小的 能量。不過抗混疊濾波器可使這些能量足夠小，以至可忽略不計。 由泊松求和的特例來推導 從圖 5 中可以看到，若 X f 的複本（也稱為映象）之間沒有和 k 0 的項重疊，可以由 Xs f 用以下的乘積來還原： X f H f cdot X_s f where H f stackrel mathrm def begin cases 1 f B 0 f f_s B end cases 此時證明瞭取樣定理，因此 X f 可以確定 x t，而且只有唯一解。 剩下的就只有推導重構的公式。H f 不需在的區域有準確的定義，因為 Xs f 在此區域為零。不過最壞的情形是 B fs2，奈奎斯特頻率。一個在此情形及其他較輕微的條件下都適用的函式為： H f mathrm rect left frac ff_s right begin cases 1 f frac f_s2 0 f frac f_s2 end cases 其中 rect 為矩形函式，因此： X f mathrm rect left frac ff_s right cdot X_s f mathrm rectTfcdot sum_ninftyinfty Tcdot x nT ei 2pi n T f （根據上面的 ） sum_ninftyinfty x nTcdot underbrace Tcdot mathrm rect Tf cdot ei 2pi n T f_mathcal Fleft mathrm sinc left frac t nTT right right sinc 函式依照傅立葉變換表的 202 行及 102 行 等式二側反轉換，可以得到 x t sum_ninftyinfty x nTcdot mathrm sinc left frac t nTTright 上式就是用取樣值 x nT 來重構 x t 的方式。 若 fs 大於所需值，也就是 T 較小，稱為過取樣（oversampling），由圖 5 可以看出過取樣對重構訊號沒有任何效果，但可以提供一塊「轉態區」，此區域內的 H f 可以是一些非零的值。相反的，會造成混疊，一般而言無法重構原始訊號。 理論上，插值公式可以用低通濾波器來實現，其脈衝響應為 sinc tT，輸入為 textstylesum_ninftyinfty x nTcdot delta t nT，即為一個被取樣訊號調變過的函式。實際的數位類比轉換器（DAC）會用零階保持器來近似，此時過取樣可以減少近似的誤差。 夏農的原始證明 泊松證明了中的傅立葉級數會產生 X f 的週期求和，不管 fs 和 B 是什麼值。然而夏農只推導了 fs 2B 情形下級數的係數。 幾乎引用了夏農原始的論文： 令 scriptstyle X omega 為 scriptstyle x t 的頻譜。則 x t 1 over 2pi int_inftyinfty X omega eiomega trm domega 1 over 2pi int_2pi B2pi B X omega eiomega trm domega 因為假設在頻帶 scriptstyle frac omega2pi B 以外 scriptstyle X omega 為零。若我們令 t n over 2B 其中 n 為任意正整數或負整數，我們得到 x left tfrac n2B right 1 over 2pi int_2pi B2pi B X omega eiomega n over 2Brm domega 在等式左邊的是 scriptstyle x t 在取樣點的數值，右邊的積分在本質上可以視為是 scriptstyle X omega 的 n 次係數，以B 至 B 為其基礎週期實際的係數包括一個係數 scriptstyle 12B T，因此夏農係數為 scriptstyle Tcdot x nT，和相符。。這表示 scriptstyle x n2B 的取樣值也決定了 scriptstyle X omega 傅立葉展開的第 n 次係數。對於比 B 低的頻率，若其傅立葉係數確定了，scriptstyle X omega 也就確定了，而在高於 B 的頻率，其數值為零，因此整個 scriptstyle X omega 都可以確定。因為一函式的頻譜若確定了，其函式也就確定了，因此 scriptstyle X omega 可以完全的決定原始函式，也就表示原始的取樣可以完整的決定函式 scriptstyle x t。 夏農對於此定理的證明已經完成了，不過夏農進一步探討用 Sinc 函式重構原函式，也就是今日的，他沒有推導或是證明 sinc 函式的性質，但這些對於當時閱讀其作品的工程師不會覺得陌生，因為當時已經知道矩形函式和 Sinc 函式的傅立葉對關係。 令 scriptstyle x_n 為第 n 個取樣點，則函式 scriptstyle x t 可以表示為： x t sum_ninftyinfty x_n sin pi 2Btn over pi 2Btn 和其他證明類似，此處假設原函式的傅立葉變換存在，因此證明中沒有說明取樣定理是否可以延伸到有限頻寬的固定隨機過程。 腳註 在多變數訊號及圖形上的應用 取樣定理常表示為單一變數的函式，因此定理可以直接應用到和時間相關的一維訊號。不過取樣定理可以直接延伸到任意數量變數的函式。例如像灰階影像常表示為二維的實數陣列（或是矩陣），其中的實數表示在對應行及列的取樣位置下，畫素的相對強度。因此圖案會需要二個獨立的變數來表示其位置，一個表示對應的行，一個表示對應的列。 彩色影像一般會包括三個獨立的灰階值，分別表示紅色、綠色及藍色等三原色（三原色光模式，簡稱 RGB）的強度。其他用三個元素的向量表示一個點的顏色空間有 HSL 和 HSV 色彩空間、CIELAB 及 XYZ 等。而像 CMYK 則是用淺藍色、紫紅色、黃色及黑色的強度來表示。這些色彩空間都是二維空間上的向量值函式。 和一維離散訊號的情形類似，若圖形的取樣解析度（或是畫素密度）不適當，可能會有混疊的情形。例如密條紋襯衫若是用的數值若是用數位相機的影像感測器取樣時，可能會造成混疊，這種二維的混疊會形成莫列波紋，改善方式是提高空間的取樣率，例如拍照時更靠近襯衫，用高解析度的感測器，或是在取樣前先進行光學模糊處理。 另一個例子是右邊的方格條紋，上方的圖是不滿足取樣定理下的訊號。下方則是先經過低通濾波器再降取樣，得到一個較小，但沒有莫列波紋。上圖則是直接降取樣，沒有先經過低通處理後的圖。 取樣定理在影像上的應用需小心的進行。例如相機中標準影像感測器（CCD 或 CMOS）的取樣程式和理想的取樣程式有相當的差距，理想的取樣程式會在一個點量測其影像強度，但影像感測器中為了獲得足夠的光量，其感測影像的區域較。換句話說，感測器是一個有限寬度的點擴散函式。一般而言這類感測器取樣到的類比光學資訊不是有限頻寬的，而不理想的取樣本身即為低通濾波器，不過不一定可以移除會造成混疊的高頻雜訊。若取樣區域（感測器大小）沒有大到可以有反鋸齒效果時，一般會需要獨立的反鋸齒濾鏡（光學低通濾鏡）來使影像模糊。雖然影像有這些和取樣定理有關的問題，不過取樣定理可以描述提升取樣及減取樣的基礎。 臨界頻率 為了描述 fs 2B 的必要性，考慮右圖（圖 8）中的一組弦波，公式如下，但 θ 值各有不同： x t frac cos 2 pi B t thetacos theta cos 2 pi B t sin 2 pi B ttan theta quad pi2 theta pi2 其中 fs 2B 或是可以寫為 T 12B，取樣值為： x nT cos pi n underbrace sin pi n_0tan theta 1n 和 θ 值無關。上述的歧義是取樣定理中使用嚴格的不等式，不允許等式的原因。 對於非基帶訊號的取樣 夏農曾提到： 若頻帶的最小值不是零，而是由其他較大的值，也可以產生類似的結果，可以用線性轉換（對應物理上的單邊帶調製）到最小值為零的頻帶來證明。此例中基本脈波是單邊帶調製下的 sin xx。 因此這是一個針對沒有基帶成份訊號（其頻帶有一部份的訊號非零，但此寬度又和最大頻率無關）進行取樣的充份條件。 帶通條件為 X f 0，針對在所有在開區域範圍以外的非負 f： left frac N 2f_mathrm sfrac N1 2f_mathrm sright 針對某非負整數 N。此公式包括一般的基帶條件，N0。 對應的內插函式為理想 Sinc 帶通濾波器的脈衝響應，（而不是之前用的理想 Sinc 低通濾波器），會切掉頻帶的上方及下方，這也是一組低通濾波器脈衝響應的差： N1operatorname sinc left frac N1 t Tright Noperatorname sincleft frac Nt T right 其他的推廣，例如訊號在數個不連續的頻帶，也是可行的。甚至是最廣義的取樣定理也不一定有一個可能正確的反例。也就是說無法確定是否只要不滿足取樣定理，就一定會有訊號的喪失。不過以工程的角度來看，比較保守的作法是假設若不滿足取樣定理，就很可能會有訊號的喪失。 非均勻取樣 夏農的取樣定理可以延伸到非均勻取樣，也就是取樣的時間間隔非一定值。非均勻取樣的取樣定理指出針對 bandlimited 的訊號，只要平均取樣頻率滿足奈奎斯特條件，就可以從取樣訊號完整重建原始訊號 Nonuniform Sampling Theory and Practice ed F Marvasti Kluwer AcademicPlenum Publishers New York 2000。因此雖然均勻取樣在訊號重建的演演算法上比較簡單，但這不是完整重建的必要條件。 非基帶及非均勻取樣的泛用理論是在 1967 年由亨利藍道提出。簡單的說，藍道證明瞭平均取樣率至少需要是訊號佔據頻寬的二倍，但前提是已知訊號的頻譜及其佔據的頻寬。 在 1990 年代末期，此研究已延伸到訊號佔據頻寬的數量已知，但實際在頻譜上位置未知的情形 see eg 。在 2000 年代已利用壓縮感知發展了一個完整的理論。此理論用訊號處理的語言寫成，在 2009 年的論文中發表。論文中證明，若頻率的位置未知，則取樣頻率需至少為奈奎斯特準則的二倍。換句話說，因為不知道光學頻譜的位置，需要將取樣頻率乘二為代價。注意此最小取樣頻率的要求不一定保證其數值穩定性。 欠取樣 當一個訊號被時，必須滿足取樣定理以避免混疊。為了滿足取樣定理的要求，訊號在進行減取樣操作前，必須透過一個具有適當截止頻率的低通濾波器。這個用於避免混疊的低通濾波器，稱為抗混疊濾波器。 在奈奎斯特速率以下，有額外限制條件的取樣 奈奎斯特夏農取樣定理是對於帶限函式取樣及重建的充分條件。若是用重建原訊號，奈奎斯特準則也是避免混疊的必要條件，因為若取樣速率小於訊號頻帶限制的二倍，可能有些訊號無法正確重建。不過若訊號有其他的限制，則奈奎斯特準則就不是混疊的必要條件了。 像近來在進行研究的壓縮感知就是一個利用對訊號額外假設來進行壓縮的例子，壓縮感知可以用奈奎斯特速率要慢的速率取樣，然後可以完整的重建原訊號。這特別用在訊號在一些層面較稀疏（或可壓縮）的情形。像壓縮感知可以處理有效頻寬（EB）很低，但不確定其頻率分佈位置的訊號（此時取樣定理就不適用了）。換句話說，其頻譜較稀疏。若用取樣定理，最小的取樣速率是 2B，若是用壓縮感知，取樣速率若略低於 2EB，仍可以完整的重建。不過此作法的重建已不再是用公式處理，而是要求解凸最佳化，需要有良好研究，而可能是非線性的方式處理。 歷史背景 哈里奈奎斯特 1928 年的論文《Certain topics in telegraph transmission theory》中就已隱含了取樣定理，他證明瞭一個頻寬為 B 的系統可以傳送最多 2B 個獨立的脈波，不過他沒有直接處理連續訊號取樣及重建的問題。同一時期的證明瞭類似的結果 English translation 2005 ，也討論到頻帶限制濾波器的 sinc 函式衝激響應，以及其積分，步階響應的三角積分，頻帶限制濾波器及訊號重建濾波器是取樣定理的核心，因此在一些地區會將這二個濾波器稱為 Küpfmüller filter。 取樣定理是在夏農在 1949 年《Communication in the presence of noise》中提出。之前相關的研究有在 1933 年《在電纜及 以太 中電子通訊的傳輸能力》（翻譯自俄文），以及數學家埃德蒙泰勒惠特克在 1915 年的《Expansions of the InterpolationTheory》（Theorie der Kardinalfunktionen）、J M Whittaker 在 1935 年的《Interpolatory function theory》以及丹尼斯加博爾 1946 年提出的《Theory of communication》。1999 年時給予科捷利尼科夫基礎研究獎，原因是「第一位提出理論正確的取樣定理」Basic Research Award 1999 。 相關條目 ，類似的取樣頻率理論下限，但應用在時頻分析中。 說明何時依取樣定理重建的訊號會是病態的。 夏農定理 零階保持器 參考資料 E T Whittaker On the Functions Which are Represented by the Expansions of the Interpolation Theory Proc Royal Soc Edinburgh Sec A vol35 pp181194 1915 H Nyquist Certain topics in telegraph transmission theory Trans AIEE vol 47 pp 617644 Apr 1928 V A Kotelnikov On the carrying capacity of the ether and wire in telecommunications Material for the First AllUnion Conference on Questions of Communication Izd Red Upr Svyazi RKKA Moscow 1933 Russian C E Shannon Communication in the presence of noise Proc Institute of Radio Engineers vol 37 no1 pp 1021 Jan 1949 J R Higgins Five short stories about the cardinal series Bulletin of the AMS 12 1985 V A Kotelnikov On the carrying capacity of the ether and wire in telecommunications Material for the First AllUnion Conference on Questions of Communication Izd Red Upr Svyazi RKKA Moscow 1933 Russian english translation PDF Karl Küpfmüller Utjämningsförlopp inom Telegraf och Telefontekniken Transients in telegraph and telephone engineering Teknisk Tidskrift no 9 pp 153160 and 10 pp 178182 1931 RJ Marks II Introduction to Shannon Sampling and Interpolation Theory SpingerVerlag 1991 RJ Marks II Editor Advanced Topics in Shannon Sampling and Interpolation Theory SpringerVerlag 1993 RJ Marks II Handbook of Fourier Analysis and Its Applications Oxford University Press 2009 Chapters 58 Google books H Nyquist Certain topics in telegraph transmission theory Trans AIEE vol 47 pp 617644 Apr 1928 Reprint as classic paper in Proc IEEE Vol 90 No 2 Feb 2002 C E Shannon Communication in the presence of noise Proc Institute of Radio Engineers vol 37 no1 pp 1021 Jan 1949 Reprint as classic paper in Proc IEEE Vol 86 No 2 Feb 1998 Michael Unser Sampling50 Years after Shannon Proc IEEE vol 88 no 4 pp 569587 April 2000 E T Whittaker On the Functions Which are Represented by the Expansions of the Interpolation Theory Proc Royal Soc Edinburgh Sec A vol35 pp 181194 1915 J M Whittaker Interpolatory Function Theory Cambridge Univ Press Cambridge England 1935 外部連結 Learning by Simulations Interactive simulation of the effects of inadequate sampling Interactive presentation of the sampling and reconstruction in a webdemo Institute of Telecommunications University of Stuttgart Undersampling and an application of it Sampling Theory For Digital Audio Journal devoted to Sampling Theory Sampling Theorem with Constant Amplitude Variable Width Pulse Category 數字訊號處理 Category 資訊理論 C