中心極限定理

中心極限定理（ちゅうしんきょくげんていり、英: central limit theorem, CLT）は、確率論・統計学における極限定理の一つ。 大数の法則によると、ある母集団から無作為抽出した標本の平均は標本の大きさを大きくすると母平均に近づく。これに対し中心極限定理は標本平均と母平均との誤差を論ずるものである。多くの場合、母集団の分布がどんな分布であっても、その誤差は標本の大きさを大きくしたとき近似的に正規分布に従う。 なお、標本の分布に分散が存在しないときには、極限が正規分布と異なる場合もある。 統計学における基本定理であり、例えば世論調査における必要サンプルのサイズの算出等に用いられる。 以下の定理はLindeberg (1922) による。 期待値 μ と分散 σ2 を持つ独立同分布 ("i.i.d.") に従う確率変数列 X1, X2, … に対し S n := ∑ k = 1 n X k {\displaystyle \textstyle S_{n}:=\sum _{k=1}^{n}X_{k}} とおくと、 P ( S n − n μ n σ ≤ α ) → 1 2 π ∫ − ∞ α e − x 2 / 2 d x ( n → ∞ ) . {\displaystyle P\left({\frac {S_{n}-n\mu }{{\sqrt {n}}\sigma }}\leq \alpha \right)\to {\frac {1}{\sqrt {2\pi }}}\int _{-\infty }^{\alpha }e^{-x^{2}/2}dx\qquad (n\to \infty ).} つまり、独立同分布に従う確率変数列の部分和を標準化すると、期待値 0, 分散 1 の正規分布 N(0, 1) に分布収束する。 従って、n が十分大きいとき近似的に、部分和 Sn = X1 + … + Xn は平均 nμ, 分散 nσ2 の正規分布 N(nµ, nσ2) に収束し、標本平均 X ¯ n = ( X 1 + ⋯ + X n ) / n {\displaystyle {\bar {X}}_{n}=(X_{1}+\dotsb +X_{n})/n} は平均 μ, 分散 σ2/n の正規分布 N(μ, σ2/n) に従う。 中心極限定理は特性関数（とレヴィの連続性定理）を用いることにより証明できる。 {X1, …, Xn} を独立同分布に従う確率変数とする。分布の平均を µ、分散を σ2 とする。ここで部分和 Sn = X1 + … + Xn を考えると、その平均と分散はそれぞれ nµ, nσ2 となる。ここで確率変数 Z n = S n − n μ n σ 2 = ∑ j = 1 n X j − μ n σ 2 = 1 n ∑ j = 1 n Y j {\displaystyle Z_{n}={\frac {S_{n}-n\mu }{\sqrt {n\sigma ^{2}}}}=\sum _{j=1}^{n}{\frac {X_{j}-\mu }{\sqrt {n\sigma ^{2}}}}={\frac {1}{\sqrt {n}}}\sum _{j=1}^{n}Y_{j}} を考える。最後の式では、平均 0、分散 1 の新しい確率変数 Yj = (Xj − μ)/σ を定義した。 ここで、Zn の特性関数は、独立性より積の期待値は期待値の積になるため、 φ Z n ( t ) ≡ E ⁡ [ exp ⁡ ( i t Z n ) ] = E ⁡ [ ∏ j = 1 n exp ⁡ ( i t Y j n ) ] = ∏ j = 1 n E ⁡ [ exp ⁡ ( i t Y j n ) ] = ( φ Y 1 ( t n ) ) n {\displaystyle \varphi _{Z_{n}}(t)\equiv \operatorname {E} [\exp(itZ_{n})]=\operatorname {E} \left[\prod _{j=1}^{n}\exp \left({\frac {itY_{j}}{\sqrt {n}}}\right)\right]=\prod _{j=1}^{n}\operatorname {E} \left[\exp \left({\frac {itY_{j}}{\sqrt {n}}}\right)\right]=\left(\varphi _{Y_{1}}\left({\frac {t}{\sqrt {n}}}\right)\right)^{n}} 最後の等式は全ての Yj は同一分布に従うため同じ特性関数を持つことから導いた。ここで、 φ Y 1 ( t ) {\displaystyle \varphi _{Y_{1}}(t)} をマクローリン展開する。 φ Y 1 ( 0 ) = E ⁡ [ e i t Y 1 ] | t = 0 = 1 φ Y 1 ′ ( 0 ) = E ⁡ [ i Y 1 e i t Y 1 ] | t = 0 = E ⁡ [ i Y 1 ] = i E ⁡ [ Y 1 ] = 0 φ Y 1 ″ ( 0 ) = E ⁡ [ − Y 1 2 e i t Y 1 ] | t = 0 = E ⁡ [ − Y 1 2 ] = − V ⁡ [ Y 1 ] = − 1 {\displaystyle {\begin{aligned}\varphi _{Y_{1}}(0)&=\left.\operatorname {E} \left[e^{itY_{1}}\right]\right|_{t=0}=1\\\varphi _{Y_{1}}'(0)&=\left.\operatorname {E} \left[iY_{1}e^{itY_{1}}\right]\right|_{t=0}=\operatorname {E} \left[iY_{1}\right]=i\operatorname {E} \left[Y_{1}\right]=0\\\varphi _{Y_{1}}''(0)&=\left.\operatorname {E} \left[-Y_{1}^{2}e^{itY_{1}}\right]\right|_{t=0}=\operatorname {E} \left[-Y_{1}^{2}\right]=-\operatorname {V} \left[Y_{1}\right]=-1\end{aligned}}} より φ Y 1 ( t n ) = 1 − t 2 2 n + O ( n − 3 2 ) , n → ∞ {\displaystyle \varphi _{Y_{1}}\left({\frac {t}{\sqrt {n}}}\right)=1-{\frac {t^{2}}{2n}}+O(n^{-{\frac {3}{2}}}),\quad n\rightarrow \infty } となる。ここで、O はランダウの記号である。 この式と指数関数の定義 e x = lim n → ∞ ( 1 + x n ) n {\displaystyle e^{x}=\lim _{n\to \infty }\left(1+{\frac {x}{n}}\right)^{n}} を用いると、 φ Z n ( t ) {\displaystyle \varphi _{Z_{n}}\left(t\right)} の n → ∞ {\displaystyle n\to \infty } における極限が以下のように求められる。 φ Z n ( t ) = ( φ Y 1 ( t n ) ) n = ( 1 − t 2 2 n + O ( n − 3 2 ) ) n = ( 1 + − t 2 2 + O ( n − 1 2 ) n ) n → e − t 2 / 2 , n → ∞ {\displaystyle \varphi _{Z_{n}}\left(t\right)=\left(\varphi _{Y_{1}}\left({\frac {t}{\sqrt {n}}}\right)\right)^{n}=\left(1-{\frac {t^{2}}{2n}}+O(n^{-{\frac {3}{2}}})\right)^{n}=\left(1+{\frac {-{\frac {t^{2}}{2}}+O(n^{-{\frac {1}{2}}})}{n}}\right)^{n}\to e^{-t^{2}/2},\quad n\to \infty } 最後の関数は標準正規分布 N(0, 1) の特性関数である。特性関数と確率分布の対応は一対一なので、この結果は n → ∞ {\displaystyle n\to \infty } の極限で Zn が N(0, 1) に収束することを意味する。なお、厳密に特性関数の収束と確率分布関数の収束の対応関係が成り立つことはレヴィの連続性定理により保証される。 以上により、部分和 Sn = X1 + … + Xn は正規分布 N(nµ, nσ2) に収束し、標本平均 X ¯ n = ( X 1 + ⋯ + X n ) / n {\displaystyle {\bar {X}}_{n}=(X_{1}+\cdots +X_{n})/n} は正規分布 N(µ, σ2/n) に収束することが証明された。 より一般化された確率理論（コルモゴロフの公理）では、中心極限定理は弱収束理論 (weak-convergence theories) の一部となる。それによると、独立同分布 (i.i.d.) に従う確率変数の分散（2次の中心モーメント）が有限な場合は「確率変数の和の確率分布」は変数の数が多くなるに従い正規分布に収束するが、確率変数が従う分布の裾が |x|−α−1（ただし 0 < α < 2）のべき乗で減衰する場合（分布の裾が厚くなり分散は無限大に発散して）（正規分布には収束せず）特性指数 α の安定分布に収束する。 ※なお安定分布は特性指数が 0 < α < 2 のとき分散は無限大となり、分布の裾が冪乗則に従うファットテールを有する。