中心極限定理に入門する

# 0. 概要
統計をかじっているとよく出てくる中心極限定理。日常生活においても、テレビ等で見受ける「xxx人に調査しました」といった世論調査での必要なサンプルサイズの算出等にも用いられているようである。これを用いると、母集団の全データなくとも「少量のサンプリングから凡そこれくらいの確率でこれくらいの数値だろう」というのが算出できるそうである。世の中で様々な活用がなされているので、抑えて行きたい。


# 1. 中心極限定理とは
中心極限定理とは<b>平均$\mu$及び分散$\sigma^2$から成る任意の確率分布に従う母集団から、ランダムサンプリングした数すなわち標本数$n$を十分に大きくした場合、その標本平均$\overline{x}$の分布は正規分布$N(\mu,\frac{\sigma^2}{n})$に近似する</b>というものである。

簡単に、どのような分布でも大量にランダムサンプリングして平均した分布は正規分布になるということ。

## 1.1. 実例
さいころは一様分布である。さいころの1~6の目は全て$\frac{1}{6}$で出現する。
期待値は$E(X)=\dfrac{1\cdots+6}{6}=\dfrac{(6+1)\cdot6/2}{6}=\dfrac{7}{2}=3.5$である。
よって、さいころは1回あたり$3.5$の数字がでる。これを6回試行すると$3.5\cdot6=21$になる可能性が最も高いといえる。

以下の図は`1d6`は1個のさいころを6回投げたという意味である。すなわち、`6d6`は6個のさいころを6回投げたということである。
![1024px-Somme_tirage_1_a_6d6_et_loi_normale.svg.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/95636/2c65fdd8-3788-168c-15ff-6f6f38d937ef.png)

`1d6`はまさに一様分布であるが、1回あたりに6個のサンプリングを行う`6d6`では正規分布に近似している。


## 1.2. 定理
任意の確率分布から標本数$n$でランダムサンプリングしたデータ$X$に対して
標本平均を取った$\overline{X}$を確率変数とみなした時、$\overline{X}$を標準化すると以下のようになる。

``` math
Z = \dfrac{\overline{X}-\mu}{\dfrac{\sigma}{\sqrt{n}}} = \dfrac{\overline{X}-\mu}{\sigma}\sqrt{n}
```

この時、$Z$は$N(0, 1)$の標準正規分布に従う。
次に$n\rightarrow \infty$にして

``` math
f(z) = \dfrac{1}{\sqrt{2\pi}}\exp\left[-\dfrac{z^2}{2}\right]
```

を導出する。これを積分に置き換えると、

``` math
P\left( Z \leq \alpha \right) \rightarrow \int ^{\alpha}_{-\infty }\dfrac {1}{\sqrt{2\pi}}e^{-\dfrac{x^2}{2}}dx
```
となる。
なお、右辺は正規分布の平均0、分散1の形である。

```math
f(x)=\dfrac{1}{\sqrt{2\pi\sigma^2}}\exp^{-\dfrac{(x-\mu)^2}{2\sigma^2}}
```

※正規分布

また、Wikipedia等では以下のように記述されているが、

``` math
P\left( \dfrac{S_n - n\mu}{\sqrt{n\sigma^2}} \leq z \right) \rightarrow \int ^{z}_{-\infty }\dfrac {1}{\sqrt{2\pi}}e^{-\dfrac{x^2}{2}}dx
```

ここで$S_n=\sum^n_{k=1}X_k \sim N(n\mu, n\sigma^2)$のため、標本平均で置き換える場合は以下の関係式が成り立つ。

``` math
Z =\dfrac{S_n - n\mu}{\sqrt{n\sigma^2}}=\dfrac{S_n - n\mu}{\sqrt{n}\sigma} = \dfrac{\overline{X} - \mu}{\sigma}\sqrt{n}
```

これで最初に紹介した式と同じになる。
次に、標準化式$Z$について一般形(標準化)と異なり標準化(標本平均)を用いていることについて補足する。

## 標準化
まず、標準化とは分布を$N(\mu=0, \sigma^2=1)$にすることである。
変換式は以下の通りである。

``` math
Z = \dfrac{X-\mu}{\sigma}
```

ここで$X$は確率変数である。
この変換式により、$N(\mu=0, \sigma^2=1)$となる。

## 標準化 (標本平均)
ある母集団からランダムサンプリングする場合は一般的な標準化とは異なる。
まず、ランダムサンプリングした平均$\overline{X}$は、期待値$\mu=E(X)$と等価になるはずである。

しかし、分散$\sigma^{2}=V(X)$については、標本平均を使う場合、
すなわち$V(\overline{X})$だと標本数$n$で割らなければならない。

これ等をまとめると以下のようになる。

``` math
E(\overline{X})=E(X)=\mu\\
V(\overline{X})=\dfrac{1}{n}V(X)=\dfrac{1}{n}\sigma^2
```

よって、これを標準化式に代入すると

``` math
Z = \dfrac{X-\mu}{\sigma} \\
= \dfrac{\overline{X}-\mu}{\dfrac{1}{n}\sigma^2}\\
=\dfrac{\overline{X}-\mu}{\dfrac{\sigma}{\sqrt{n}}} \\
= \dfrac{\overline{X}-\mu}{\sigma}\sqrt{n}
```

と変形できる。

# 2. 例題
簡単な例題を解いていく。

## 前提条件
さいころを例題にする。確率変数$X$は$\left( 1, 2, 3, 4, 5, 6 \right) $を取る。
よって、

 - 期待値

``` math
E(X)= \mu = \dfrac{1 + 2 + \cdots+6}{6}=\dfrac{(6+1)\cdot6/2}{6}=\dfrac{7}{2}=3.5
```

 - 分散

``` math
V(X) = \sigma^2 =\dfrac{(1-3.5)^2 + (2 - 3.5)^2 + \cdots+ (6-3.5)^2}{6}=\dfrac{17.5}{6}=\dfrac{35}{12}
```

となる。


## 問題
さいころを$n=100$回振った結果、目の和が340以上360以下となる確率を求めよ。

目の和すなわち合計値が問題として与えられているので、$S_n$が使われている中心極限定理の式を持ってくる。

``` math
P\left( \dfrac{S_n - n\mu}{\sqrt{n\sigma^2}} \leq z \right) \rightarrow \int ^{z}_{-\infty }\dfrac {1}{\sqrt{2\pi}}e^{-\dfrac{x^2}{2}}dx
```

まず、さいころの確率密度分布は以下のようになる

```math
N(3.5, \dfrac{35}{12})
```

今回は100回振るため、

```math
n=100
```

となる。よって式に代入すると、

``` math
 \dfrac{S_n - n\mu}{\sqrt{n\sigma^2}} = \dfrac{S_n-100 \cdot 3.5}{\sqrt{100 \cdot \dfrac{35}{12}}} = \dfrac{S_n-350}{\sqrt{\dfrac{3500}{12}}}\\
=\dfrac{S_n-350}{17.07825}
```

今回は以下の区間を求める。

``` math
P(340 \leq S_n \leq 360)
```

よって、


``` math
P(340 \leq S_n \leq 360)\\
=P \left(\dfrac{340-350}{17.07825} \leq \dfrac{S_n-350}{17.07825} \leq \dfrac{360-350}{17.07825} \right)
=P \left(-0.58554 \leq \dfrac{S_n-350}{17.07825} \leq 0.58554 \right)
```

後は、以下の$x$に求めてきた値を代入し、標準正規分布の範囲を書き出す。

```math
\int ^{z}_{-\infty }\dfrac {1}{\sqrt{2\pi}}e^{-\dfrac{x^2}{2}}dx
```

よって、

``` math
P \left(-0.58554 \leq \dfrac{S_n-350}{17.07825} \leq 0.58554 \right)=P \left(1-0.72091 \leq \dfrac{S_n-350}{17.07825} \leq 1-0.72091 \right)\\
=P \left(0.2791 \leq \dfrac{S_n-350}{17.07825} \leq 0.2791 \right)
```

すなわち、$1-0.2791-0.2791=0.441815$となり、44.18%の確率で目の和が340以上360以下となる。