，物理學中通稱高斯分佈物理學名詞審定委員會．物理學名詞 SOL．全國科學技術名詞審定委員會，公佈 3 版．北京：科學出版社，2019 12 科學文庫 ，是一個非常常見的連續機率分佈。正態分佈在統計學上十分重要，經常用在自然和社會科學來代表一個不明的隨機變數。Normal Distribution Gale Encyclopedia of Psychology 若隨機變數 X 服從一個平均數為 mu、標準差為 sigma 的正態分佈，則記為： X sim N musigma2 則其機率密度函式為 f x frac1 sigmasqrt 2pi efrac left xmuright22sigma2 正態分佈的數學期望值或期望值 mu 可解釋為位置引數，決定了分佈的位置；其方差 sigma2 的平方根或標準差 sigma 可解釋尺度引數，決定了分佈的幅度。 中心極限定理指出，在特定條件下，一個具有有限均值和方差的隨機變數的多個樣本 觀察值 的平均值本身就是一個隨機變數，其分佈隨著樣本數量的增加而收斂於正態分佈。因此，許多與獨立過程總和有關的物理量，例如測量誤差，通常可被近似為正態分佈。 正態分佈的機率密度函式曲線呈鐘形，因此人們又經常稱之為鐘形曲線（類似於寺廟裡的大鐘，因此得名）。我們通常所說的標準正態分佈是位置引數 mu 0，尺度引數 sigma2 1 的正態分佈（見右圖中紅色曲線）。 概要 正態分佈是自然科學與行為科學中的定量現象的一個方便模型。各種各樣的心理學測試分數和物理現象比如光子計數都被發現近似地服從正態分佈。儘管這些現象的根本原因經常是未知的，理論上可以證明如果把許多小作用加起來看做一個變數，那麼這個變數服從正態分佈（在 RNBracewell 的 Fourier transform and its application 中可以找到一種簡單的證明）。正態分佈出現在許多區域統計：例如，取樣分佈均值是近似地正態的，即使被取樣的樣本的原始群體分佈並不服從正態分佈。另外，正態分佈資訊熵在所有的已知均值及方差的分佈中最大，這使得它作為一種均值以及方差已知的分佈的自然選擇。正態分佈是在統計以及許多統計測試中最廣泛應用的一類分佈。在機率論，正態分佈是幾種連續以及離散分佈的極限分佈。 歷史 正態分佈最早是棣莫弗在 1718 年著作的書籍的，及 1734 年發表的一篇關於二項分佈文章中提出的，當二項隨機變數的位置引數 n 很大及形狀引數 p 為 12 時，則所推匯出二項分佈的近似分佈函式就是正態分佈。拉普拉斯在 1812 年發表的《分析機率論》中對棣莫佛的結論作了擴充套件到二項分佈的位置引數為 n 及形狀引數為 1p0 時。現在這一結論通常被稱為棣莫佛－拉普拉斯定理。 拉普拉斯在誤差分析試驗中使用了正態分佈。勒讓德於 1805 年引入最小二乘法這一重要方法；而高斯則宣稱他早在 1794 年就使用了該方法，並透過假設誤差服從常態分佈給出了嚴格的證明。 將正態分佈稱作「鐘形曲線」的習慣可以追溯到 Jouffret 他在 1872 年首次提出這個術語（Bell curve）用來指代二元常態分佈。正態分佈這個名字還被查爾斯皮爾士、法蘭西斯高爾頓、威爾赫姆萊克希斯在 1875 分別獨立地使用。這個術語是不幸的，因為它反映和鼓勵了一種謬誤，即很多機率分佈都是常態的。（請參考下面的「例項」） 這個分佈被稱為「常態」或者「高斯」正好是史蒂格勒名字由來法則的一個例子，這個法則說「沒有科學發現是以它最初的發現者命名的」。 正態分佈的定義 有幾種不同的方法用來說明一個隨機變數。最直觀的方法是機率密度函式，這種方法能夠表示隨機變數每個取值有多大的可能性。累積分佈函式是一種機率上更加清楚的方法，請看下邊的例子。還有一些其他的等價方法，例如 cumulant、特徵函式、動差生成函式以及 cumulant 生成函式。這些方法中有一些對於理論工作非常有用，但是不夠直觀。請參考關於機率分佈的討論。 機率密度函式 正態分佈的機率密度函式均值為 mu 方差為 sigma2 或標準差 sigma 是高斯函式的一個例項： f xmusigma frac 1sigmasqrt 2pi exp left frac x mu22sigma2 right。 請看指數函式以及 pi 如果一個隨機變數 X 服從這個分佈，我們寫作 X N mu sigma2 如果 mu 0 並且 sigma 1，這個分佈被稱為標準正態分佈，這個分佈能夠簡化為 f x frac 1sqrt 2pi expleft frac x22 right。 右邊是給出了不同引數的正態分佈的函式圖。 正態分佈中一些值得注意的量： 密度函式關於平均值對稱 平均值與它的眾數（statistical mode）以及中位數（median）同一數值。 函式曲線下 68268949 的面積在平均數左右的一個標準差範圍內。 95449974 的面積在平均數左右兩個標準差 2 sigma 的範圍內。 99730020 的面積在平均數左右三個標準差 3 sigma 的範圍內。 99993666 的面積在平均數左右四個標準差 4 sigma 的範圍內。 函式曲線的拐點（inflection point）為離平均數一個標準差距離的位置。 累積分佈函式 累積分佈函式是指隨機變數 X 小於或等於 x 的機率，用機率密度函式表示為 F xmusigma frac 1sigmasqrt 2pi int_inftyx exp left frac t mu22sigma2 right dt 正態分佈的累積分佈函式能夠由一個叫做誤差函式的特殊函式表示： Phi z frac12 left 1 operatorname erfleft frac zmusigmasqrt2rightright 標準正態分佈的累積分佈函式習慣上記為 Phi，它僅僅是指 mu0，sigma1 時的值， Phi x F x01 frac 1sqrt 2pi int_inftyx expleft frac t22right dt 將一般正態分佈用誤差函式表示的公式簡化，可得： Phi z frac 12 left 1 operatorname erf left frac zsqrt 2 right right 它的反函式被稱為反誤差函式，為： Phi1p sqrt2 operatorname erf1 left 2p 1 right 該分位數函式有時也被稱為 probit 函式。probit 函式已被證明沒有初等原函式。 正態分佈的分佈函式 Phi x 沒有解析表示式，它的值可以透過數值積分、泰勒級數或者漸進序列近似得到。 生成函式 動差母函式 動差生成函式，或稱動差母函式被定義為 exp tX 的期望值。 正態分佈的動差產生函式如下： M_X t mathrm E left etX right int_inftyinfty frac 1 sigma sqrt 2pi eleft frac x mu22 sigma2 right etx dx e left mu t frac sigma2 t22 right 可以透過在指數函式內配平方得到。 特徵函式 特徵函式被定義為 exp i t X 的期望值，其中 i 是虛數單位 對於一個常態分佈來講，特徵函式是： phi_X tmusigma mathrm E left exp i t X right int_inftyinfty frac 1sigma sqrt 2pi exp left frac x mu22sigma2 right exp i t x dx exp left i mu t frac sigma2 t22 right 把矩生成函式中的 t 換成 i t 就能得到特徵函式。 性質 常態分佈的一些性質： 如果 X sim N mu sigma2 且 a 與 b 是實數，那麼 a X b sim N a mu b a sigma2 參見期望值和方差 如果 X sim N mu_X sigma2_X 與 Y sim N mu_Y sigma2_Y 是統計獨立的常態隨機變數，那麼： 它們的和也滿足常態分佈 U X Y sim N mu_X mu_Y sigma2_X sigma2_Y 它們的差也滿足常態分佈 V X Y sim N mu_X mu_Y sigma2_X sigma2_Y U 與 V 兩者是相互獨立的。（要求 X 與 Y 的方差相等） 如果 X sim N 0 sigma2_X 和 Y sim N 0 sigma2_Y 是獨立常態隨機變數，那麼： 它們的積 X Y 服從機率密度函式為 p 的分佈 p z frac 1pisigma_Xsigma_Y K_0left frac zsigma_Xsigma_Yright 其中 K_0 是修正貝塞爾函式（modified Bessel function） 它們的比符合柯西分佈，滿足 XY sim mathrm Cauchy0 sigma_Xsigma_Y 如果 X_1 cdots X_n 為獨立標準常態隨機變數，那麼 X_12 cdots X_n2 服從自由度為 n 的卡方分佈。 標準化常態隨機變數 動差 一些常態分佈的一階動差如下： 階數 原動差 中心矩 累積量 0 1 0 1 mu 0 mu 2 mu2 sigma2 sigma2 sigma2 3 mu3 3musigma2 0 0 4 mu4 6 mu2 sigma2 3 sigma4 3 sigma4 0 標準常態的所有二階以上的累積量為零。 生成常態隨機變數 中央極限定理 常態分佈有一個非常重要的性質：在特定條件下，大量統計獨立的隨機變數的平均值的分佈趨於正態分佈，這就是中央極限定理。中央極限定理的重要意義在於，根據這一定理的結論，其他機率分佈可以用正態分佈作為近似。 引數為 n 和 p 的二項分佈，在 n 相當大而且 p 接近 05 時近似於正態分佈（有的參考書建議僅在 n p 與 n 1 p 至少為 5 時才能使用這一近似）。 近似正態分佈平均數為 mu n p 且方差為 sigma2 n p 1 p 一泊松分佈帶有引數 lambda 當取樣樣本數很大時將近似正態分佈 lambda 近似正態分佈平均數為 mu lambda 且方差為 sigma2 lambda 這些近似值是否完全充分正確取決於使用者的使用需求 無限可分性 正態分佈是無限可分的機率分佈。 穩定性 正態分佈是嚴格穩定的機率分佈。 標準偏差 在實際應用上，常考慮一組資料具有近似於常態分佈的機率分佈。若其假設正確，則約 683 數值分佈在距離平均值有 1 個標準差之內的範圍，約 954 數值分佈在距離平均值有 2 個標準差之內的範圍，以及約 997 數值分佈在距離平均值有 3 個標準差之內的範圍。稱為「6895997 法則」或「經驗法則」。 數字比率標準差值 機率 包含之外比例 包含之外比例 數字比率標準差值 百分比 百分比 比例 σ 25 75 3 4 σ 1 σ 68 32 1 3125 1σ 1 σ 80 20 1 5 σ 90 10 1 10 σ 95 5 1 20 2σ 1 σ 99 1 1 100 3σ 1 370398 σ 999 01 1 σ 9999 001 1 4σ 1 σ 99999 0001 1 σ 1 34 每一邊 σ 1 5σ 1 σ 1 σ 1 σ 1 σ 1 σ 1 σ 1 7σ 1 相關分佈 R sim mathrm Rayleighsigma 是瑞利分佈，如果 R sqrt X2 Y2，這裡 X sim N 0 sigma2 和 Y sim N 0 sigma2 是兩個獨立正態分佈。 Y sim chi_nu2 是卡方分佈具有 nu 自由度，如果 Y sum_k1nu X_k2 這裡 X_k sim N 01 其中 k1dotsnu 是獨立的。 Y sim mathrm Cauchymu 0 theta 1 是柯西分佈，如果 Y X_1X_2，其中 X_1 sim N 01 並且 X_2 sim N 01 是兩個獨立的正態分佈。 Y sim mbox LogNmu sigma2 是對數正態分佈如果 Y eX 並且 X sim N mu sigma2 與 Lévy skew alphastable 分佈相關：如果 Xsim textrm LevySalphatextrm S2betasigmasqrt 2mu 因而 X sim N musigma2 估計 母數的最大概似估計 概念一般化 多元正態分佈的協方差矩陣的估計的推導是比較難於理解的。它需要瞭解譜原理（spectral theorem）以及為什麼把一個標量看做一個 11 矩陣的跡（trace）而不僅僅是一個標量更合理的原因。請參考協方差矩陣的估計（estimation of covariance matrices）。 母數的動差估計 常見例項 光子計數 計量誤差 飲料裝填量不足與超量的機率 某飲料公司裝瓶流程嚴謹，每罐飲料裝填量符合平均 600 毫升，標準差 3 毫升的常態分配法則。隨機選取一罐，求（1）容量超過 605 毫升的機率；（2）容量小於 590 毫升的機率。 容量超過 605 毫升的機率 p X 605 p Xμ σ 605 600 3 p Z 53 p Z 167 1 09525 00475 容量小於 590 毫升的機率 p X 590 p Xμ σ 590 600 3 p Z 103 p Z 333 00004 6 標準差 6sigma 或 6σ 的品質管制標準 6 標準差 6sigma 或 6σ，是製造業流行的品質管制標準。在這個標準之下，一個標準常態分配的變數值出現在正負三個標準差之外，只有 2 00013 00026 p Z 3 00013 以及 p Z 3 00013。也就是說，這種品質管制標準的產品不良率只有萬分之二十六。假設例中的飲料公司裝瓶流程採用這個標準，而每罐飲料裝填量符合平均 600 毫升，標準差 3 毫升的常態分配。那麼預期裝填容量的範圍應該多少？ 6 標準差的範圍 p 3 Z 3 p 3 Xμ σ 3 p 3 X 600 3 3 p 9 X 600 9 p 591 X 609 因此，預期裝填容量應該介於 591 至 609 毫升之間。 生物標本的物理特性 金融變數 壽命 測試和智力分佈 計算學生智商高低的機率 假設某校入學新生的智力測驗平均分數與標準差分別為 100 與 12。那麼隨機抽取 50 個學生，他們智力測驗平均分數大於 105 的機率？小於 90 的機率？ 本例沒有常態分配的假設，還好中央極限定理提供一個可行解，那就是當隨機樣本長度超過 30，樣本平均數 bar x 近似於一個常態變數， 因此標準常態變數 Zfrac bar Xmusigmasqrt n。 平均分數大於 105 的機率 P Zfrac 10510012sqrt 50 P Z517 P Z294 00016 平均分數小於 90 的機率 P Zfrac 9010012sqrt 50 P Z588 00000 計算統計應用 生成正態分佈隨機變數 在計算機模擬中，經常需要生成正態分佈的數值。最基本的一個方法是使用標準的正態累積分佈函式的反函式。除此之外還有其他更加高效的方法，BoxMuller 變換就是其中之一。另一個更加快捷的方法是 ziggurat 演算法。下面將介紹這兩種方法。一個簡單可行的並且容易程式設計的方法是：求 12 個在（01）上均勻分佈的和，然後減 6 12 的一半。這種方法可以用在很多應用中。這 12 個數的和是 IrwinHall 分佈；選擇一個方差 12。這個隨即推導的結果限制在（66）之間，並且密度為 12，是用 11 次多項式估計正態分佈。 BoxMuller 方法是以兩組獨立的隨機數 U 和 V，這兩組數在 01 上均勻分佈，用 U 和 V 生成兩組獨立的標準常態分佈隨機變數 X 和 Y X sqrt 2 ln U cos 2 pi V Y sqrt 2 ln U sin 2 pi V。 這個方程的提出是因為二自由度的卡方分佈（見性質 4）很容易由指數隨機變數（方程中的 lnU）生成。因而透過隨機變數 V 可以選擇一個均勻環繞圓圈的角度，用指數分佈選擇半徑然後變換成（正態分佈的）xy 座標。 參考文獻 John Aldrich Earliest Uses of Symbols in Probability and Statistics 網上材料，2006 年 6 月 3 日存在See Symbols associated with the Normal Distribution Abraham de Moivre 1738 年 The Doctrine of Chances Stephen Jay Gould 1981 年 The Mismeasure of Man First edition W W Norton ISBN 9780393014891 R J Herrnstein and Charles Murray 1994 年 The Bell Curve Intelligence and Class Structure in American Life Free Press ISBN 9780029146736 PierreSimon Laplace 1812 年 Analytical Theory of Probabilities Jeff Miller John Aldrich et al Earliest Known Uses of Some of the Words of Mathematics In particular the entries for bellshaped and bell curve normal distribution Gaussian and Error law of error theory of errors etc 網上材料，2006 年 6 月 3 日存在 S M Stigler 1999 年 Statistics on the Table chapter 22 Harvard University Press History of the term normal distribution Eric W Weisstein et al Normal Distribution at MathWorld 網上材料，2006 年 6 月 3 日存在。 Marvin Zelen and Norman C Severo 1964 年 Probability Functions Chapter 26 of Handbook of Mathematical Functions with Formulas Graphs and Mathematical Tables ed by Milton Abramowitz and Irene A Stegun National Bureau of Standards 外部連結 Interactive Distribution Modeler incl Normal Distribution basic tools for sixsigma PlanetMath normal random variable GNU Scientific Library Reference Manual The Gaussian Distribution Distribution Calculator Calculates probabilities and critical values for normal t chisquare and Fdistribution Inverse Cumulative Standard Normal Distribution Function Is normal distribution due to Karl Gauss Euler his family of gamma functions and place in history of statistics Maxwell demons Simulating probability distributions with functions of propositional calculus Normal distribution table The Doctrine of Chance at MathPages 正態分佈的前世今生 上 正態分佈的前世今生 下 線上計算器 正態分佈 Binomial Distribution Calculator 參見 中心極限定理 機率論 伽瑪分佈 Category 連續分佈 Category 共軛先驗分佈 Category 帶共軛先驗值的分佈 Category 指數族分佈 Category 穩定分佈 Category 機率分佈