確率の公理
コルモゴロフの公理は、1933年にアンドレイ・コルモゴロフが導入した、確率論の基礎となる公理である。これらの公理は依然として確率論の基盤となっており、数学、物理科学、および現実世界の確率の事例の理解にとり重要である。ベイズ確率を形式化する代替的アプローチは、コックスの定理によって与えられる。
まず、コルモゴロフ自身による公理系を解説し、次節で現代の定義について解説する。
\Omega は、根元事象と呼ばれる要素の集合、\mathfrak{F} は \Omega の部分集合から構成される族であり、その要素は事象と呼ばれる。P は \mathfrak{F} 上の集合関数とする。以下の5公理を満たす系(\Omega, \mathfrak{F}, P) を確率空間と呼ぶ。
1. \mathfrak{F} は有限個の要素による集合和、集合差、共通部分について閉じている。
2. \mathfrak{F} は \Omega を含む。すなわち \Omega \in \mathfrak{F}.
3. P は非負の実数値をとる。すなわち、P:\mathfrak{F} \rightarrow \mathbb{R}_{\geq 0}
4. P(\Omega) = 1.
5. A, B \in \mathfrak{F} が互いに素な集合 (Disjoint sets) ならば、P(A \cup B) =P(A) + P(B).(有限加法性)
さらに \Omega が無限集合の場合には次の連続牲の公理を導入する。
6. \mathfrak{F} の減少列 A_1 \supset A_2 \supset A_3 \supset \cdots が、\textstyle\bigcap\limits_{n=1}^\infty A_n =\emptyset を満たすならば、\lim_{n\to\infty} P(A_n) =0.
公理5と6より、次の一般化加法定理(完全加法牲)が導かれる。
集合列 \{ A_n \}_{n\in \mathbb{N} は、互いに素であり、\textstyle\bigcup\limits_{n=1}^{\infty} A_n \in \mathfrak{F} ならば、
P\bigl( \textstyle\bigcup\limits_{i=1}^\infty A_i \bigr) = \sum\limits_{i=1}^\infty P(A_i).
一般化加法定理を満たす P は、\mathfrak{F} が生成する完全加法族(σ-集合体)上の非負かつ完全加法的な集合関数に一意的に拡張可能である。
以上の議論をまとめて、現代では以下のように要約する。
\Omega は任意の集合、\mathfrak{F} は \Omega 上の完全加法族(σ-集合体)(あるいは有限加法族)、P は \mathfrak{F} 上の集合関数とする。P が次の3条件を満たすとき、P は (\Omega, \mathfrak{F}) 上の確率測度となり、\Omega は標本空間、\mathfrak{F} は事象空間と呼ばれる。
事象の確率は非負の実数を取る。
P: \mathfrak{F} \rightarrow \mathbb{R}_{\geq 0}
ここで \mathfrak{F} は事象空間である。従って確率測度 P は、測度の中でも特に、有限値しか取らない。負の確率を取る理論では、第一の公理は緩和される。
これは、単位測度の仮定である。すなわち、標本空間全体において、少なくとも1つの根元事象が起こる確率は1となる。
P(\Omega) = 1.
これは、σ-加法性の仮定である。互いに素な集合 (Disjoint sets) の任意の可算個の列(排反事象と同義)E_1, E_2, \cdots \in \mathfrak{F} は、下記を満たす。
P \Bigl( \textstyle\bigcup\limits_{i=1}^\infty E_i \Big) = \sum\limits_{i=1}^\infty P(E_i).
単に有限加法的な確率空間を考えている研究者もおり、この場合、\mathfrak{F} は完全加法族ではなく有限加法族であることだけが要求される。一般に、偽確率分布は第三の公理を緩和する。
コルモゴロフの公理から、確率を研究する上でその他の有用な法則を演繹することができる。これらの法則の証明は、第三の公理の力と、残りの2つの公理との相互作用を深い洞察をもって描き出す手順となる。即座に導ける4つの系とその証明を以下に示そう。
A\subseteq B \Longrightarrow P(A)\leq P(B).
AがBの部分集合の場合、Aの確率はBの確率以下となる。
単調性を作るため、E_1=A, E_2=B\setminus A とする。ただし、A\subseteq Bとし、i\geq 3 に対して E_i=\varnothing とする。集合列  \{ E_i \}_{n \in \mathbb{N} は互いに素であり、\bigcup_{n=1}^{\infty} E_n =B となることは自明である。したがって、第三の公理から次が得られる。
P(A)+P(B\setminus A)+\sum_{i=3}^\infty P(E_i)=P(B).
第一の公理により、この左辺の各項は非負であり、有限値 P(B) に収束するため、P(A)\leq P(B) および P(\varnothing)=0 が得られる。
P(\varnothing)=0.
事象が非可算の場合において、逆に確率が0でも事象が \varnothing とは限らない。
1つ前の証明で、P(\varnothing)=0 は示されている。ただし、この結論は背理法で示される。
P(B)=P(A)+P(B\setminus A)+\sum_{i=3}^\infty P(E_i)
は収束するから、P(\varnothing)=:a とおくと、
\sum_{i=3}^\infty P(E_i)=\sum_{i=3}^\infty P(\varnothing)=\sum_{i=3}^\infty a = \begin{cases}
0      &(a=0) \\
\infty &(a>0)
\end{cases}
も収束する。a>0 と仮定すると、右辺は発散し、矛盾するから、a= P(\varnothing) =0 となる。
P\left(A^{c}\right) = P(\Omega\setminus A) = 1 - P(A)
A, A^c は排反であり、A \cup A^c = \Omega
である。よって、
P(A \cup A^c)=P(A)+P(A^c) (公理3に従う)
そして P(A \cup A^c)=P(\Omega)=1(公理2に従う)
\Rightarrow P(A)+P(A^c)=1
\therefore P(A^c)=1-P(A)
単調性から即座に次が従う。
0\leq P(E)\leq 1\qquad \forall E\in F.
\varnothing \subset E \subset \Omega に単調性の性質を使うと、P(\varnothing)=0 より、
0\leq P(E)\leq 1
もう一つの重要な性質は下記である。
P(A \cup B) = P(A) + P(B) - P(A \cap B).
これは、確率の加法定理と呼ばれる。つまり、AまたはBが起こる確率は、Aが起こる確率とBが起こる確率の和からAとBの両方が起こる確率を引いたものである。この証明は次の通りである。
まず、
P(A\cup B) = P(A) + P(B\setminus A)(公理3による)
であるから、
P(A \cup B) = P(A) + P(B\setminus (A \cap B)) (B \setminus A = B\setminus (A \cap B) であるため)
また、
P(B) = P(B\setminus (A \cap B)) + P(A \cap B)
P(B\setminus (A \cap B)) を消去すれば、求める結果が得られる。
加法定理の任意の数の集合への拡張は、包除原理である。
また、加法定理においてBをAの余事象Acとすると
P\left(A^{c}\right) = P(\Omega\setminus A) = 1 - P(A)
つまり、事象が発生しない確率(つまり余事象)は、1から発生する確率を引いたものである。
一回のコイントスを考え、コインが表 (H) または裏 (T) のいずれかで着地するものとする(両方は起きえない)。コインが公正であるかどうかに関して仮定はしない。
この場合、下記のように定義できよう。
\Omega = \{H,T\}
F = \{\varnothing, \{H\}, \{T\}, \{H,T\}\}
コルモゴロフの公理から次が分かる。
P(\varnothing) = 0
表でも裏でもない確率は0となる。
P(\{H,T\}^c) = 0
表か裏かいずれかの確率は、1となる。
P(\{H\}) + P(\{T\}) = 1
また、上記の通り、表の確率と裏の確率の合計は1である。