联合概率

本文定義了表徵兩個或者多個隨機變數機率分布特點的術語。

**條件機率**（英語：conditional probability）就是事件 _A_ 在事件 _B_ 發生的條件下發生的機率。條件機率表示為 _P_（_A_|_B_），讀作「_A_ 在 _B_ 發生的條件下發生的機率」。

**聯合機率**表示兩個事件共同發生的機率。_A_ 與 _B_ 的聯合機率表示為 $P(A\cap B)$ 或者 $P(A,B)$ 或者 $P(AB)$ 。

**邊際機率**是某個事件發生的機率。邊際機率是這樣得到的：在聯合機率中，把最終結果中不需要的那些事件合併成其事件的全機率而消失（對離散隨機變數用求和得全機率，對連續隨機變數用積分得全機率）。這稱為**邊際化**（**marginalization**）。_A_ 的邊際機率表示為 _P_（_A_），_B_ 的邊際機率表示為 _P_（_B_）。

需要注意的是，在這些定義中 _A_ 與 _B_ 之間不一定有因果或者時間序列關係。_A_ 可能會先於 _B_ 發生，也可能相反，也可能二者同時發生。_A_ 可能會導致 _B_ 的發生，也可能相反，也可能二者之間根本就沒有因果關係。

例如考慮一些可能是新的訊息的機率條件性可以通過貝氏定理實現。

## 定義

設 _A_ 與 _B_ 為樣本空間 Ω 中的兩個事件，其中 _P_(_B_)>0。那麼在事件 _B_ 發生的條件下，事件 _A_ 發生的條件機率為：

　
: $P(A|B)={\frac {P(A\cap B)}{P(B)}}$

條件機率有時候也稱為：事後機率。

## 統計獨立性

若且唯若兩個隨機事件 _A_ 與 _B_ 滿足

　
: $P(A\cap B)\ =\ P(A)P(B)$

的時候，它們才是統計獨立的，這樣聯合機率可以表示為各自機率的簡單乘積。

同樣，對於兩個獨立事件 _A_ 與 _B_ 有

　
: $P(A|B)\ =\ P(A)$

以及

　
: $P(B|A)\ =\ P(B)$ 。

換句話說，如果 _A_ 與 _B_ 是相互獨立的，那麼 _A_ 在 _B_ 這個前提下的條件機率就是 _A_ 自身的機率；同樣，_B_ 在 _A_ 的前提下的條件機率就是 _B_ 自身的機率。

## 互斥性

若且唯若 _A_ 與 _B_ 滿足

　
: $P(A\cap B)=0$

且

　
: $P(A)\neq 0$ ， $P(B)\neq 0$

的時候，_A_ 與 _B_ 是互斥的。

因此，

　
: $P(A\mid B)=0$

　
: $P(B\mid A)=0$ 。

換句話說，如果 _B_ 已經發生，由於 _A_ 不能和 _B_ 在同一場合下發生，那麼 _A_ 發生的機率為零；同樣，如果 _A_ 已經發生，那麼 _B_ 發生的機率為零。

## 其它

* 如果事件 $B$ 的機率 $P(B)>0$ ，那麼 $Q(A)=P(A|B)$ 在所有事件 $A$ 上所定義的函數 $Q$ 就是機率測度。
* 如果 $P(B)=0$ ， $P(A|B)$ 沒有定義。
* 條件機率可以用決策樹進行計算。

## 形式定義

考慮機率空間 Ω(S, σ(S))，其中 σ(S) 是集 S 上的 σ 代數，Ω 上對應於隨機變數 X 的機率測度（可以理解為機率分布）為 PX；又 A∈σ(S)，PX(A)≥0（這裡可以理解為事件 A，A 不是零測集）。則∀E∈σ(S)，可以定義集函數 PX|A 如下：

PX|A(E)=PX(A∩E)/PX(A)。

易知 PX|A 也是 Ω 上的機率測度，此測度稱為 **X 在 A 下的條件測度**（條件機率分布）。

**獨立性**：設 A，B∈σ(S)，稱 A，B 在機率測度 P 下為相互**獨立的**，若 P (A∩E)=P (A) P (E)。

## 條件機率謬論

條件機率的謬論是假設 _P_（_A_|_B_）大致等於 _P_（_B_|_A_）。數學家 John Allen Paulos 在他的《數學盲》一書中指出醫生、律師以及其他受過很好教育的非統計學家經常會犯這樣的錯誤。這種錯誤可以通過用實數而不是機率來描述數據的方法來避免。

_P_（_A_|_B_）與 _P_（_B_|_A_）的關係如下所示：

　
: $P(B|A)=P(A|B){\frac {P(B)}{P(A)}}.$ 。

下面是一個虛構但寫實的例子，_P_（_A_|_B_）與 _P_（_B_|_A_）的差距可能令人驚訝，同時也相當明顯。

若想分辨某些個體是否有重大疾病，以便早期治療，我們可能會對一大群人進行檢定。雖然其益處明顯可見，但同時，檢定行為有一個地方引起爭議，就是有檢出假陽性的結果的可能：若有個未得疾病的人，卻在初檢時被誤檢為得病，他可能會感到苦惱煩悶，一直持續到更詳細的檢測顯示他並未得病為止。而且就算在告知他其實是健康的人後，也可能因此對他的人生有負面影響。

這個問題的重要性，最適合用條件機率的觀點來解釋。

假設人群中有 1% 的人罹患此疾病，而其他人是健康的。我們隨機選出任一個體，並將患病以 disease、健康以 well 表示：

　
: $P({\text{disease}})=1\%=0.01$ ， $P({\text{well}})=99\%=0.99$ 。

假設檢定動作實施在未患病的人身上時，有 1% 的機率其結果為假陽性（陽性以 positive 表示）。意即：

　
: $P({\text{positive}}|{\text{well}})=1\%$ ，而且 $P({\text{negative}}|{\text{well}})=99\%$ 。

最後，假設檢定動作實施在患病的人身上時，有 1% 的機率其結果為假陰性（陰性以 negative 表示）。意即：

　
: $P({\text{negative}}|{\text{disease}})=1\%$ 且 $P({\text{positive}}|{\text{disease}})=99\%$ 。

現在，由計算可知：

　
: $P({\text{well}}\cap {\text{negative}})=P({\text{well}})\times P({\text{negative}}|{\text{well}})=99\%\times 99\%=98.01\%$

是整群人中健康、且測定為陰性者的比率。

　
: $P({\text{disease}}\cap {\text{positive}})=P({\text{disease}})\times P({\text{positive}}|{\text{disease}})=1\%\times 99\%=0.99\%$

是整群人中得病、且測定為陽性者的比率。

　
: $P({\text{well}}\cap {\text{positive}})=P({\text{well}})\times P({\text{positive}}|{\text{well}})=99\%\times 1\%=0.99\%$

是整群人中被測定為假陽性者的比率。

　
: $P({\text{disease}}\cap {\text{negative}})=P({\text{disease}})\times P({\text{negative}}|{\text{disease}})=1\%\times 1\%=0.01\%$

是整群人中被測定為假陰性者的比率。

進一步得出：

　
: $P({\text{positive}})=P({\text{well}}\cap {\text{positive}})+P({\text{disease}}\cap {\text{positive}})=0.99\%+0.99\%=1.98\%$

是整群人中被測出為陽性者的比率。

　
: $P({\text{disease}}|{\text{positive}})={\frac {P({\text{disease}}\cap {\text{positive}})}{P({\text{positive}})}}={\frac {0.99\%}{1.98\%}}=50\%$

是某人被測出為陽性時，實際上真的得了病的機率。

這個例子裡面，我們很輕易可以看出 P (positive|disease)=99% 與 P (disease|positive)=50% 的差距：前者是你得了病，而被檢出為陽性的條件機率；後者是你被檢出為陽性，而你實際上真得了病的條件機率。由我們在本例中所選的數字，最終結果可能令人難以接受：被測定為陽性者，其中的半數實際上是假陽性。

## 參見

* 貝氏定理
* 最大概似估計
* 事前機率
* 機率論
* 蒙提霍爾問題
* 事後機率
* 條件期望