大数の法則
独立同分布に従う可積分な確率変数の無限列 X1, X2, ... が与えられたとき、その平均を μ とおく。標本平均
X ̄ n = 1 n ( X 1 + X 2 + ⋯ + X n ) ( n ≥ 1 ) {\displaystyle {\bar {X}}_{n}={\frac {1}{n}}(X_{1}+X_{2}+\cdots +X_{n})\quad (n\geq 1)}
のとる値が平均 μ の近傍から外れる確率は、十分大きな n を取れば、いくらでも小さくできる:
lim n → ∞ P ( | X ̄ n − μ | > ε ) = 0 ( ∀ ε > 0 ) . {\displaystyle \lim _{n\to \infty }P(\vert {\bar {X}}_{n}-\mu \vert >\varepsilon )=0\quad (\forall \varepsilon >0).}
これを大数の弱法則という。さらに同じ仮定の下で、n → ∞ とするとき、 X ̄ n {\displaystyle {\bar {X}}_{n}} は μ にほとんど確実に(almost surely, 確率 1 で)収束する:
P ( lim n → ∞ X ̄ n = μ ) = 1. {\displaystyle P(\lim _{n\to \infty }{\bar {X}}_{n}=\mu )=1.}
これを大数の強法則という。
強法則の方が弱法則より強い主張をしているが、その分証明が難しい。
大数の法則は(有限な)期待値の存在を仮定している。期待値の存在しない場合は、大数の法則が当てはまらないことがある。例えば安定分布における特性指数が α ≤ 1 の場合(例:コーシー分布)である。また、大数の法則が成立するためには事象の独立性が保証されなければならない。