贝叶斯概率

**貝氏機率**（英語：Bayesian probability）是由貝氏定理所提供的一種對機率的解釋，它採用將機率定義為某人對一個命題信任的程度的概念。貝氏定理同時也建議貝氏定理可以用作根據新的資訊導出或者更新現有的置信度的規則。

## 歷史

貝氏定理和貝氏機率以托馬斯・貝葉斯（1702－1761）命名，他證明了現在稱為貝氏定理的一個特例。術語_貝氏_卻是在 1950 年左右開始使用，很難說貝氏本人是否會支持這個以他命名的機率非常廣義的解釋。拉普拉斯證明了貝氏定理的一個更普遍的版本，並將之用於解決天體力學、醫學統計中的問題，在有些情況下，甚至用於法理學。但是拉普拉斯並不認為該定理對於機率論很重要。他還是堅持使用了機率的經典解釋。

弗蘭克・普倫普頓・拉姆齊在《數學基礎》（1931 年）中首次建議將主觀置信度作為機率的一種解釋。拉姆齊視這種解釋為機率的頻率解釋的一個補充，而頻率解釋在當時更為廣泛接受。統計學家 Bruno de Finetti 於 1937 年採納了拉姆齊的觀點，將之作為機率的頻率解釋的一種可能的代替。L. J. Savage 在《統計學基礎》（1954 年）中拓展了這個思想。

有人試圖將「置信度」的直觀概念進行形式化的定義和應用。最普通的應用是基於打賭：置信度反映在行為主體願意在命題上下注的意願上。

當信任有程度的時候，機率計算的定理測量信任的理性程度，就像一階邏輯的定理測量信任的理性程度一樣。很多人將置信度視為經典的真值（真或假）的一種擴展。

哈羅德・傑弗里斯，Richard T. Cox, Edwin Jaynes 和 I. J. Good 研探了貝氏定理。其他著名貝氏定理的支持者包括約翰・梅納德・凱因斯和 B.O. Koopman。

## 變種

術語_主觀機率_, _個人機率_, _認知機率_和_邏輯機率_描述了通常成為貝氏學派的思想中的一些。這些概念互相重疊，但有不同的側重。這裡提到的一些人物不會自稱是貝氏學派的。

貝氏機率應該測量某一個體對於一個不確定命題的置信程度，因此在這個意義下是主觀的。有些自稱貝氏學派的人並不接受這種主觀性。客觀主義學派的主要代表是 Edwin Thompson Jaynes 和哈羅德・傑弗里斯。也許現在還在世的主要客觀貝氏學派人物是杜克大學的 James Berger。Jose Bernardo 和其他一些人接受一定程度的主觀性，但相信在很多實際情況中有使用 "先驗參照（reference priors）" 的需要。

**邏輯（或者說，客觀認知）機率**的推崇者，例如哈羅德・傑弗里斯、魯道夫・卡爾納普，Richard Threlkeld Cox 和 Edwin Jaynes, 希望將能夠在兩個有相同關於某個不確定命題的真實性相關的資訊的人計算出同樣的機率的技術規律化。這種機率不和個人相關，而只和認知情況相關，因此位於主觀和客觀之間。但是，他們推薦的方法有爭議。批評者對這個聲稱發起挑戰，在關於相關事實的資訊缺乏的時候，更偏好某一個置信度是有現實依據的。另一個問題是迄今為止的技術對於處理實際問題還是不夠的。

## 貝氏機率和頻率機率

貝氏機率和統計機率相對，它從確定的分布中觀測到的頻率或者在樣本空間中的比例來導出機率。

頻率學派和貝氏學派對於「在應用中，某個隨機事件的機率該如何被賦值？」這個問題有著不同的看法：頻率主義者根據隨機事件發生的頻率，或者母體樣本裡面的發生的個數來賦值機率；貝氏主義者則根據未知的命題來賦值機率。這樣的理念導致貝氏主義者有更多的機會使用貝氏定理。

採用統計機率的統計和機率的理論由費雪、埃貢・皮爾森和耶日・內曼在 20 世紀上半葉發展起來。安德雷・科摩哥洛夫也採用頻率機率來通過勒貝格積分為測度論中的機率奠定數學基礎（《機率論基礎》(1933 年)）。Savage, Koopman, 沃德・亞伯拉罕和其他一些學者自 1950 年以來發展了貝氏機率。

貝氏學派和頻率學派在機率解釋上的分歧在統計學實踐上有重要的結果。例如，在用同樣的數據比較兩個假設的時候，假設測試理論基於機率的頻率解釋，它允許基於錯誤推出數據更支持另外那個模型 / 假設的機率來否定或接受一個模型 / 假設（虛無假說）。出現這種錯誤的機率稱為一類誤差，它要求考慮從同樣的數據源導出的假想的數據集合要比實際觀測到的數據更為極端。這個方法允許論斷 ' 或者兩個假設不同或者觀測到的數據是誤導性的集合 '。相對應的是，貝氏方法基於實際觀測到的數據，因此能夠對於任何數量的假設直接賦予事後機率。對於代表每個假設的模型的參數必須賦予機率的要求是這種直接方法的代價。

## 應用

自 1950 年代以來，貝氏定理和貝氏機率通過考克斯定理，Jaynes 的最大熵原理以及荷蘭書論證得到了廣泛的應用。在很多應用中，貝氏方法更為普適，也似乎較頻率機率能得出更好的結果。貝氏因子也和奧卡姆剃刀一起使用。數學應用請參看貝氏推論和貝氏定理。

有些人將貝氏推論視為科學方法的一種應用，因為通過貝氏推論來更新機率要求從對於不同假設的初始信任度出發，採集新的資訊（例如通過做試驗），然後根據新的資訊調整原有的信念。調整原有的信念可以意味著（更加接近）接受或者推翻初始的假設。

貝氏技術最近被應用於垃圾郵件的過濾上。貝氏垃圾郵件過濾器採用電子郵件的一個參考集合來定義什麼最初被認為是垃圾郵件。定義了參考之後，過濾器使用參考中的特點來將新的郵件判定為垃圾郵件或有效郵件。新電子郵件作為新的資訊出現，並且如果用戶在垃圾郵件和有效郵件的判定中發現錯誤，這個新的資訊會更新初始參考集合中的資訊，以期將來的判定可以更為精確。參看貝氏推論和貝氏過濾。

## 機率之機率

對於貝氏機率解釋曾有過的一個批評是一個單獨的機率賦值不能給出信念的真實性 —— 也即，它有多少科學實證。考慮如下的這些情況：

1. 你有一個裝了白球和黑球的盒子，但是不知道它們的數量
2. 你有一個盒子，你從中取了 _n_ 個球，一半黑，一半白
3. 你有一個盒子，你知道有同樣數量的黑球和白球

_下一個取出的球是黑球_的貝氏機率對於所有三種情況都是 0.5。凱因斯稱這為「證據的權重」問題。一個反映這些證據支持的區別的方法是對於這些機率本身賦予機率（所謂的「元機率」）如下：

　
: 1. 你有裝了白球和黑球的盒子，但是不知道數量情況

　
: : 令 $\theta =p$ 代表下一球為黑的機率為 $p$ 這一命題，一個貝氏機率論者會賦予一個 Β 事前分布：

　
: $\forall \theta \in [0,1]$

　
: $P(\theta )=\mathrm {B} (\alpha _{B}=1,\alpha _{W}=1)={\frac {\Gamma (\alpha _{B}+\alpha _{W})}{\Gamma (\alpha _{B})\Gamma (\alpha _{W})}}\theta ^{\alpha _{B}-1}(1-\theta )^{\alpha _{W}-1}={\frac {\Gamma (2)}{\Gamma (1)\Gamma (1)}}\theta ^{0}(1-\theta )^{0}=1$

　
: : 假設取出的球用二項式分布建模，則事後分布 $P(\theta |m,n)$ ，在取出 _m_ 個黑球和 _n_ 個白球之後依然是一個 Β 分布，其參數 $\alpha _{B}=1+m$ , $\alpha _{W}=1+n$ 。Β 分布的參數的一個直觀的解釋是兩個事件的_設想記數_。細節參看 Β 分布。

　
: 2. 你有一個盒子，你已經從中取了 N 個球，黑白各半

　
: : 令 $\theta =p$ 代表下一球為黑的機率為 $p$ 這一命題，一個貝氏機率論者會賦予一個 Β 事前分布， $\mathrm {B} (N/2+1,N/2+1)$ 。 $\theta $ 的最大事後機率是 $\theta _{MAP}={\frac {N/2+1}{N+2}}$ ，恰好就是拉普拉斯逐次法則。

　
: 3. 你有一個盒子，並且你知道黑球和白球的數量相等

　
: 這個情況下，貝氏機率論者會定義事前機率為 $P\left(\theta \right)=\delta \left(\theta -{\frac {1}{2}}\right)$ 。

其它貝氏機率論者辯解說機率不一定要是精確的數字。

因為頻率解釋中沒有元機率的容身之地，頻率論者必須用其它方式表達證據支持。Cedric Smith 和 Arthur Dempster 分別發展了上下極限。Glenn Shafer 進一步發展了 Dempster 的理論，現在它被稱為 Dempster-Shafer 理論。

## 爭議

頻率機率論者對屬於_可能_有很多不同的解釋。在這些解釋中，什麼是_可能的_不依賴於觀察者的喜好，而是將事件作為可以應用統計分析的工具的某個聚合的成員。

雖然沒有理由不在不同的上下文中使用一個詞的不同解釋（意義）

## 參看

* 機率解釋
* 頻率機率
* 不確定性
* 推理
* 貝氏推理
* 貝氏定理
* 末日論證，貝氏推理的有爭議的一個應用
* 最大熵熱力學 - 貝氏觀點的熱力學
* 睡美人問題
* 數學哲學

## 外部連結及參考

* On-line textbook: Information Theory, Inference, and Learning Algorithms, by David MacKay, has many chapters on Bayesian methods, including introductory examples; arguments in favour of Bayesian methods (in the style of Edwin Jaynes); state-of-the-art Monte Carlo methods, message-passing methods, and variational methods; and examples illustrating the intimate connections between Bayesian inference and data compression.
* A nice on-line introductory tutorial to Bayesian probability （頁面存檔備份，存於網際網路檔案館） from Queen Mary University of London
* Jaynes, E.T. (1998) _Probability Theory : The Logic of Science_ （頁面存檔備份，存於網際網路檔案館）.
* Bretthorst, G. Larry, 1988, _Bayesian Spectrum Analysis and Parameter Estimation_（頁面存檔備份，存於網際網路檔案館） in Lecture Notes in Statistics, 48, Springer-Verlag, New York, New York;
* http://www-groups.dcs.st-andrews.ac.uk/history/Mathematicians/Ramsey.html （頁面存檔備份，存於網際網路檔案館）
* David Howie: _Interpreting Probability, Controversies and Developments in the Early Twentieth Century_, Cambridge University Press, 2002, ISBN 0-521-81251-8
* Colin Howson and Peter Urbach: _Scientific Reasoning: The Bayesian Approach_, Open Court Publishing, 2nd edition, 1993, ISBN 0-8126-9235-7, focuses on the philosophical underpinnings of Bayesian and frequentist statistics. Argues for the subjective interpretation of probability.
* Wing-Ho Shum, Kwong-Sak Leung, and Man-Leung Wong. Learning functional dependency networks based on genetic programming. In ICDM05, Proceedings of IEEE International Conference on Data Mining, pages 232-230, 2005.
* Luc Bovens and Stephan Hartmann: _Bayesian Epistemology_. Oxford: Oxford University Press 2003. Extends the Bayesian program to more complex decision scenarios (e.g. dependent and partially reliable witnesses and measurement instruments) using Bayesian Network models. The book also proofs an impossibility theorem for coherence orderings over information sets and offers a measure that induces a partial coherence ordering.
* Jeff Miller "Earliest Known Uses of Some of the Words of Mathematics (B)"
* James Franklin The Science of Conjecture: Evidence and Probability Before Pascal（頁面存檔備份，存於網際網路檔案館）, history from a Bayesian point of view.
* Paul Graham "Bayesian spam filtering"（頁面存檔備份，存於網際網路檔案館）
* novomind AG "Outlook categorizing tool based on Bayesian filtering"
* Howard Raiffa _Decision Analysis: Introductory Lectures on Choices under Uncertainty_. McGraw Hill, College Custom Series. (1997) ISBN 0-07-052579-X
* Devender Sivia, _Data Analysis: A Bayesian Tutorial_. Oxford: Clarendon Press (1996), pp. 7-8. ISBN 0-19-851889-7
* Henk Tijms: _Understanding Probability_, Cambridge University Press, 2004
* Is the portrait of Thomas Bayes authentic? Who Is this gentleman? When and where was he born?（頁面存檔備份，存於網際網路檔案館） _The IMS Bulletin_, Vol. **17** (1988), No. 3, pp. 276-278
* Bayesian Spam Filter （頁面存檔備份，存於網際網路檔案館） for Microsoft Outlook