これから学ぶ人向け「統計検定２級」チートシート

統計検定２級の取得向けに整理したチートシートです。

参考としたのは下記の統計検定２級対策の公式本と入門統計学です。

https://www.toukei-kentei.jp/info/books/#book-02

https://www.ohmsha.co.jp/book/9784274068553/

主に確率、統計的推定、統計的仮説検定、線形回帰を中心に記載しています。また、統計検定２級の受験時の（多少参考になるレベルですが）ヒントを記載しています。  

本記事はチートシートですので詳細については上記書籍、専門書やネットの記事等をご参照ください。

  
実際に受験する際は公式の過去問題集（筆記試験向け）での学習が有効です。
&nbsp;
確率の問題を多数解きたい人は下記の本もおすすめです。

https://bellcurve.jp/statistics/book/20859.html

Webで上記「統計学演習」のPDF版が公開されていますのでこちらも利用すると良いかと思います。

http://www.math.s.chiba-u.ac.jp/~yasuda/statEN2/statENSYU.html

&nbsp;  
※筆者が所属するNPO法人の勉強用にメモしたものです。専門領域でないため誤りや誤解があるかと思いますので、加筆修正すべきことろがありましたらご指摘ください。継続してブラッシュアップしていきます。

 
[©NPO法人AI開発推進協会](https://sites.google.com/deepaelurus.com/aboutus)



## １ 確率分布
確率分布はとびとびの値をとる「離散型確率分布」と、連続値をとる「連続型確率分布」とがある。

### １.１ 離散型確率分布
### ２項分布（Binomial Distribution）
成功確率が <i>p(0 ≦ p ≦ 1)</i> である試行を <i>n</i> 回行ったとき、成功の回数が <i>x</i> 、失敗の回数が <i>n - x</i> である確率。　パラメータ<i>(n, p)</i>が与えられると確率分布が決まるので、<i>B(n , p)</i> で表す。 また、<i>n＝１</i> のときは「ベルヌーイ分布（Bernoulli trial）」といい、<i>B(1, p)</i> で表す。

``` math
f(x) \hspace{5mm}=\hspace{5mm} {}_nC_x\hspace{1mm} p^x\hspace{1mm}(1 - p)^{n-x}
``` 

２項分布での期待値、分散は以下となる。

``` math
  期待値　\hspace{5mm} E[X] \hspace{5mm}=\hspace{5mm} np 　　　　
```
``` math
  分散 　　\hspace{5mm} V[X] \hspace{5mm}=\hspace{5mm} np(1-p) 
```

:::note info
【テストでのヒント】
・組み合わせ問題では、１つ取ったら元に戻して１づつ取り出す場合に2項分布を使う（複数同時に取り出す時は使わず通常の組み合わせで解く）。
・２項分布を正規分布で近似して確率の問題が解ける。
ただし、 <i>np > 5、n > 50</i> が条件となる。 試行回数が大きなものが出てきた時は、（持ち込み可能な電卓では計算できないので）このパターン（２項分布）で解くことを考える。
:::

### ポアソン分布（Poisson Distribution）
２項分布において期待値 <i>np = λ</i> を固定して、試行回数 <i>n -> ∞</i>、 成功確率 <i>p -> 0</i>のような極限を取ったときの確率分布となる。成功確率 <i>p</i> が小さいので、「滅多に起こらないものが起こる確率」とも言われる。

``` math
f(x) = e^{-\lambda}\hspace{1mm} \lambda^x \hspace{1mm}/ \hspace{1mm} x!
``` 

ポアソン分布での期待値、分散は以下となる。

``` math
  期待値　E[X]\hspace{5mm}=\hspace{5mm} \lambda 　　　　
```
``` math
  分散 　　V[X]\hspace{5mm}=\hspace{5mm} \lambda　　　　　 
```

:::note info
【テストでのヒント】
テストでは関数電卓は使えないので、あらかじめ指数計算値が出されている。
<i>e<sup>λ</sup></i> が与えられているとき、<i>e<sup>-λ</sup></i> は下記で計算する。
:::

>
``` math
  e^{-λ} \hspace{5mm}=\hspace{5mm} \frac{1}{e^\lambda}  \hspace{30mm}
```

:::note info
したがって、<i>e<sup>2</sup> = 7.39</i> が与えられたとき, <i>e<sup>-2</sup> = 1 / 7.39 = 0.135</i>　となる。
:::

### 幾何分布（Geometric Distribution)
成功の確率が <i>p</i> であるベルヌーイ試行を最初に正解するまで繰り返したときの試行回数 <i>X</i> の確率分布。　最初に成功するのが <i>x</i> 回目であるので、<i>x - 1</i> 回目までは失敗なので確率分布は以下となる。

``` math
f(x) \hspace{5mm}=\hspace{5mm} p\hspace{1mm}(1 - p)^{x-1}
``` 

幾何分布での期待値、分散は以下となる。

``` math
  期待値　E[X] \hspace{5mm}=\hspace{5mm} \frac{1}{p} 　　　
```
``` math
  分散 　 V[X] \hspace{5mm}=\hspace{5mm} \frac{1 - p}{p^2}　　　

```

### １.２　連続型確率分布
### 一様分布（Uniform Distribution） 
区間 [a, b] 内のどの値も同じ起こりやさをもつ分布を一様分布と呼び、<i>U(a, b)</i> で表す。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1413278/e5a83eb3-747b-2eb8-75f1-4c1ad009b62e.png)

代表的なものは乱数生成である。
一様分布の確率密度関数は以下で表す。

``` math
f(x) = \left\{
\begin{array}{ll}
\frac{1}{b - a} & (a \leq x \leq b) \\
0 & (そのほか)
\end{array}
\right.
```

一様分布での期待値、分散は以下となる。

``` math
  期待値 \hspace{5mm} E[X]\hspace{5mm}=\hspace{5mm} \frac{a + b}{2} 　　
```
``` math 
  分散  \hspace{5mm}　V[X]\hspace{5mm}=\hspace{5mm} \frac{(b - a)^2}{12}
　　　　　 
```

### 正規分布（Normal Distribution）
連続型確率分布の中の代表的な確率分布で、確率密度関数は以下で表す。

``` math
  f(x) \hspace{5mm}=\hspace{5mm} \frac{1}{\sqrt{2\pi\sigma^2}} \hspace{1mm} exp \hspace{1mm} \Biggl( - \frac{(x - \mu)^2}{2\sigma^2}  \Biggr)
```
<i>μ</i> は期待値（平均）、<i>σ<sup>2</sup></i> は分散を示し、<i>μ</i> と <i>σ<sup>2</sup></i> によって決まるので記号 <i>N (μ, σ<sup>2</sup> )</i>で表す。
確率変数 <i>X</i> が正規分布 <i>N(μ,σ<sup>2</sup>)</i> に従うとき、確率変数を、

``` math
  Z \hspace{5mm}=\hspace{5mm} ( X - \mu )\hspace{1mm} / \hspace{1mm} \sigma
```

のように変換すると、<i>Z</i> は平均 0、分散 1 の標準正規分布（Standard Normal Distribution、記号 <i>N(0, 1)</i> で表す）に従う。 
このときの確率密度関数は以下となる。

``` math
  f(x) \hspace{5mm}=\hspace{5mm} \frac{1}{\sqrt{2\pi}} \hspace{1mm} exp \hspace{1mm} \Biggl( - \frac{x^2}{2}  \Biggr)
```

:::note info
【テストでのヒント】
・標準化された <i>Z</i> 変数を求めることで確率を求めることができる。すなわち平均（＝期待値）と分散が分かれば確率を求めることができる。
・テストでは標準正規分布の上限確率の一覧表が提示される。
・<i>z</i> が平均より高い場合、<i>z以上</i> となる確率を求める場合は「一覧表の上限確率値」が確率となる。　<i>z以下</i> となる確率を求める場合は、「1 - 一覧表の上限確率値」となる。
:::

>
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1413278/15d21c69-f99c-8def-b033-0a5c0a787801.png)


:::note info
・<i>z</i> が平均より低い場合、 <i>z以上</i> となる確率を求める場合は「1 - 一覧表の上限確率値」が確率となる。　<i>z以下</i> となる確率を求める場合は、「一覧表の上限確率値」が確率となる。 
:::

>
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1413278/183cf3cf-ed42-caad-2f26-29d9b8de18af.png)


:::note info
・離散型の確率分布でも標準正規分布を使って近似的に確立を求めることができる。
  例えば、２項分布で試行回数 <i>n</i> と確率 <i>p</i> がわかっている場合、
:::

>
``` math
   μ \hspace{5mm}=\hspace{5mm} E[X] \hspace{5mm}=\hspace{5mm} np 
```
``` math
   σ^2 \hspace{2mm}=\hspace{2mm} V[X] \hspace{2mm}=\hspace{2mm} np(1 - p) , \hspace{10mm} σ \hspace{2mm}=\hspace{2mm} \sqrt{np(1 - p)}
```

:::note info
となり、<i>Z = (x - μ) / σ</i> を求め、あとは標準確率分布の上限表から確率を求める。
これを２項分布の正規近似という。
<i>n</i> が十分に大きく、<i>np > 5</i> かつ <i>np(1 - P)　> 50</i> を満たすとき近似は十分とされる。
<font color=blue>逆にテストでは n が大きければ電卓では計算が不可能なため、ほぼ２項分布の正規近似で解くことになる。</font>

※なお、半整数補正を行うことでより正確な値を求めることもできる。
　・P(X ≦ x )、すなわちx以下の確率を求める場合、「x + 0.5」とする 
　・P(X ≧ x )、すなわちx以上の確率を求める場合、「x - 0.5」とする
:::

>
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1413278/57a2d96e-f605-422e-3e03-8bf61c5dbc0e.png)

### 指数分布（Exponential Distribution）
ポアソン分布は「滅多に起こらないものが起こる確率（回数）」であったが、同じランダムな現象に対して初めて起こるまでの「期間（時間）」の確率分布が指数分布である。
指数分布の確率密度関数は以下となる。

``` math
   f(t) \hspace{5mm}=\hspace{5mm} \lambda e^{-\lambda t}
```

幾何分布での期待値、分散は以下となる。

``` math
  期待値　\hspace{5mm} E[X]\hspace{5mm}=\hspace{5mm} \frac{1}{\lambda} 　　　　
```
``` math 
  分散   \hspace{5mm} V[X]\hspace{5mm}=\hspace{5mm} \frac{1}{\lambda^2}　　　　　 
```


### １.３　歪度と尖度

- 歪度（わいど）  
　非対称の大きさを表す。　<font color=blue>正規分布や t 分布のような左右対称の分布では歪度はゼロとなり、右に裾が長い分布では正の値、左に裾が長い分布では負の値</font>となる。

``` math
標本歪度 \hspace{5mm}=\hspace{5mm} \frac{1}{n} \sum_{i=1}^n \frac{(x_i - \bar{x})^3}{s^3} 
```
``` math
* s は標本標準偏差
```
- 尖度（せんど）  
分布の尖り具合と裾の広がり具合を表す。正規分布に従うときは尖度 = 0 となり、正規分布と比較して<font color=blue>尖っていて裾の長い分布（t分布）の尖度は正の値</font>になり自由度が大きいほど尖度はゼロに近づき正規分布に近づく。一方、正規分布より裾の短い分布である<font color=blue>一様分布の尖度は負の値</font>となる。

``` math
標本尖度 \hspace{5mm}=\hspace{5mm} \frac{1}{n} \sum_{i=1}^n \frac{(x_i - \bar{x})^4}{s^4} \hspace{5mm} - 3 \hspace{5mm}
```
> *s は標本標準偏差 
*正規分布での４次モーメントは３であり、上記式での「−３」は正規分布での標本尖度がゼロとなるように調整したもの 
``` math
正規分布の４次モーメント \hspace{3mm} \frac{1}{n} \sum_{i=1}^n \frac{(x_i - \bar{x})^4}{s^4} \hspace{5mm}=3 

```

### １.４　確率分布のまとめ
主な確率分布の確率密度関数、期待値、分散をまとめると下記の表になる。

| 確率分布     |   タイプ | 確率密度関数 |     期待値 |      分散  |
|:-----------:|:------:|:------------:|:------------:|:------------:|
| ２項分布     | 離散  | <i><sub>n</sub>C<sub>x</sub> p<sup>x</sup> (1 - p)<sup>n - x</sup></i> | <i>np</i> | <i>np (1 - p)</i> | 
| ポアソン分布  | 離散  | <i>e<sup>-λ</sup>λ<sup>x</sup> / x! </i>| <i>λ</i> | <i>λ</i> |
| 幾何分布    | 離散  | <i>p (1 - p)<sup>x - 1</sup></i>| <i>1 / p</i> | <i>(1 - p) / p<sup>2</sup></i> |
| 正規分布    | 連続  | <i>1/√2πσ<sup>2</sup> exp {- (x - μ）<sup>2</sup> / (2σ<sup>2</sup>) } </i> | <i>μ</i> | <i>σ<sup>2</sup> </i>|
| 標準正規分布 | 連続  | <i>1/√2π exp {- x<sup>2</sup> / 2 } </i> | 0 | 1|
| 指数分布    | 連続  | <i>λe<sup>-λt</sup></i> |  <i>1/λ</i> | <i>1/λ<sup>2</sup></i> |


## ２　確率のおさらい（補足）
ここで、確率のおさらいです。　すでに理解している人は読み飛ばしてください。

### ２．１　各種公式

+ 加法定理 P(A ∪ B)

``` math
P(A ∪ B) \hspace{5mm}=\hspace{5mm} P(A)  +  P(B)  - P(A ∩ B)
```

+ 条件付き確率 P(B | A)

``` math
P(B|A) \hspace{5mm}=\hspace{5mm} \frac{P(A ∩ B)}{P(A)}
```

+ 乗法定理 P(A ∩ B)

``` math
P(A \cap B) \hspace{5mm}=\hspace{5mm} P(A)P(B|A)
```

+ ベイズの定理

``` math
P(H_i|A) \hspace{5mm}=\hspace{5mm} \frac{P(H_i)P(A|H_i)}{P(A)} 
```

分母のP(A)は複数の原因によっておこる事象Aの総合的な生起確率を表す。

``` math
∴  P(H_i|A) \hspace{5mm}=\hspace{5mm} \frac{P(H_i)P(A|H_i)}{\sum_{j=1}^{n} P(H_j)P(A|H_j)}
```

+ 確率変数と独立と排反  

事象 <i>A</i> と <i>B</i>が独立であるとき、   

``` math
P(A \cap B) \hspace{5mm}=\hspace{5mm} P(A)\hspace{1mm}P(B)
```
が成り立つ。

事象 <i>A</i> と <i>B</i>が排反であるとき、   

``` math
P(A \cap B) \hspace{5mm}=\hspace{5mm} P(\emptyset) \hspace{5mm} = \hspace{5mm} 0
```
が成り立つ。

#### ２.２　期待値と分散

+ 期待値   

[離散型]

``` math
E[X] \hspace{5mm}≡\hspace{5mm} \sum_{i} x_id(x_i) = \mu  \\
E[u(x)] \hspace{5mm}=\hspace{5mm} \sum_{t} u(x_i)\hspace{2mm}f(x_t)
```

[連続型]

``` math
E[X] \hspace{5mm}≡\hspace{5mm} \int_{-\infty}^{\infty} x\hspace{2mm}f(x)\hspace{1mm}dx = \mu \\
E[u(x)] \hspace{5mm}=\hspace{5mm} \int_{-\infty}^{\infty} u(x)\hspace{2mm}f(x)dx
```

+ 分散

[離散型]

``` math
V[X] \hspace{2mm}≡\hspace{2mm} E[ (X - \mu)^2] \hspace{2mm}=\hspace{2mm} \sum_{i} (x_i - \mu)^2 \hspace{1mm} f(x_i) \hspace{2mm}=\hspace{2mm} \sigma^2
```

[連続型]

``` math
V[X] \hspace{2mm}≡\hspace{2mm} E[ (X - \mu)^2] \hspace{2mm}=\hspace{2mm} \int_{-\infty}^{\infty} (x - \mu)^2 \hspace{1mm} f(x)\hspace{1mm}dx \hspace{2mm}=\hspace{2mm} \sigma^2
```

+ 共分散、相関係数

[共分散]

``` math
s_{xy} \hspace{5mm}=\hspace{5mm} \frac{1}{n} \sum_{i=1}^{n}(x_i - \bar{x})(y_i - \bar{y})
```

[相関係数]

``` math
r_{xy} \hspace{5mm}=\hspace{5mm} \frac{s_{xy}}{s_x\,s_y}  \\
*s_x,s_y は x, yの標準偏差
```


### ２．３　確率変数の公式

``` math
E[X + Y] \hspace{5mm}=\hspace{5mm} E[X] + E[Y]
```
``` math  
E[aX] \hspace{5mm}=\hspace{5mm} aE[X] 
```
``` math
E[X + c] \hspace{5mm}=\hspace{5mm} E[X] + c  
```
``` math
V[X] \hspace{5mm}=\hspace{5mm} E[X^2] - \left\{E(X)\right\}^2
```
``` math
  \hspace{50mm} \ast ここでV[X]= \sigma^2、E(X)=\mu であるので、 E[X^2] = \sigma^2 + \mu^2 
```
``` math
V[aX] \hspace{5mm}=\hspace{5mm}a^2\hspace{1mm}V[X]
```
``` math
V[X + c] \hspace{5mm}=\hspace{5mm}V[X] 
```
``` math
V[X + Y] \hspace{5mm}=\hspace{5mm} V[X] + V[Y] + 2Cov[X, Y] 
```
``` math
V[X - Y] \hspace{5mm}=\hspace{5mm} V[X] + V[Y] - 2Cov[X, Y] 
```
``` math
Cov[X, Y] \hspace{5mm}=\hspace{5mm} E[X\,Y] - E[X]\,E[Y] 
```
``` math
Cov[X, X] \hspace{5mm}=\hspace{5mm} V[X] 
```
``` math
Cov[aX + b, cY + d] \hspace{5mm}=\hspace{5mm} acCov[X, Y] 
```
``` math
Cov[X + Y, Z] \hspace{5mm}=\hspace{5mm} Cov[X, Z] + Cov[Y, Z]

```

:::note info
【テストでのヒント】
- 確率の問題は「統計学演習」やネット記事等でさまざまな問題を事前に解いておいた方が良い。  
- 連続型の確率密度関数を使った期待値、分散の計算について、下記の算出式をベースに過去問題から様々なパターンに対応できるようにする。  
:::

>
``` math
①期待値を求める　  \hspace{2mm}　　E[X] \hspace{2mm}=\hspace{2mm} \int_{a}^{b} x\hspace{2mm}f(x)\hspace{1mm}dx  \hspace{50mm}\\
```
``` math
②分散を求める \hspace{2mm}　
V[X] \hspace{1mm}=\hspace{1mm} E[x^2] - \left\{E(x)\right\}^2  \hspace{1mm}
=\hspace{1mm}\int_{a}^{b} x^2 \hspace{1mm}f(x)\hspace{1mm}dx -\hspace{1mm}①^2 
```

:::note info
【相関係数の使用の例】  
相関係数を使用した計算の例としてはTOEICのスコアがある。  
例えば、  
Listening（L)：平均値=Lμ &nbsp;&nbsp;標準偏差=Ls  
Reading（R)：平均値=Rμ&nbsp;&nbsp;標準偏差=Rs  
Total（T)：&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;平均値=Tμ&nbsp;&nbsp;標準偏差=Ts
の時のListingとReadingの相関係数 r<sub>LR</sub> は以下の式で求めることができる。
:::

>
``` math
\hspace{2mm}　　V[L+R] \hspace{2mm}=\hspace{2mm} V[L]\hspace{2mm}+\hspace{2mm}V[R]\hspace{2mm}+\hspace{2mm}2Cov[L,R] \\
```
``` math
\hspace{2mm}2Cov[L,R]\hspace{2mm}=\hspace{2mm}　V[L+R]\hspace{2mm}- V[L]\hspace{2mm}-V[R] 
```
``` math
\begin{align}
\hspace{2mm}Cov[L,R]\hspace{2mm}&=\left\{V[L+R]\hspace{2mm}- V[L]\hspace{2mm}-V[R]\right\}\hspace{2mm}/\hspace{2mm} 2 \\
&= \big(Ts^{2} - Ls^{2} - Rs^{2}\big)\hspace{2mm}/\hspace{2mm} 2 
\end{align} \\
```

``` math
\begin{align}
\therefore \hspace{2mm}r_{LR} &= Cov[L,R] \hspace{2mm} / \hspace{2mm} \big(Ls・Rs\big) \\
&= \left\{\big(Ts^{2} - Ls^{2} - Rs^{2}\big) \hspace{2mm} / \hspace{2mm} 2 \hspace{2mm}\right\} \hspace{2mm} / \hspace{2mm} \big(Ls・Rs \big) \quad
\end{align} 
```

## ３　標本分布

### ３．１　母集団、標本、不偏推定量
推測しようとする対象全体を<font color=blue>母集団</font>、母集団から抽出し調査や実験に使うデータを<font color=blue>標本</font>、標本データを使って母集団の統計量を推定した値を<font color=blue>不偏推定量</font>と呼ぶ。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1413278/9a0534b0-3efd-ea3d-d864-3d417918e248.png)


+ 標本分布（標本平均の分布）  

推測統計では個々の値ではなくいくつかの標本から計測された平均＝標本平均 x<sup>-</sup> の分布について検討するものである。この標本平均のx<sup>-</sup> の分布を標本分布と呼ぶ。標本分布はサンプル数との間に「サンプル数が大きくなるほど標本分布のバラツキ（誤差）は小さくなる」という重要な関係がある。  
標本分布での平均、分散は以下となる。

``` math
母集団の平均 = \mu 、分散　= \sigma^2 とする\\
x \:=\: x_1 \:+\: x_2 \:+\: \:・・・\: x_n  \hspace{5mm}   \leftarrow 母集団からn個のサンプルを無作為に抽出 \\
E[\bar{x}] \:=\: \frac{1}{n} \sum_{i=1}^n {E[x_i]}  \:=\:  \frac{1}{n} * (n * \mu) \:=\: \mu \\
V[\bar{x}] \:=\: \biggl(\frac{1}{n}\biggr)^2  \sum_{i=1}^n {V[x_i]}  \:=\: \biggl(\frac{1}{n}\biggr)^2 \sum_{i=1}^n \sigma^2 \:=\: \biggl(\frac{1}{n}\biggr)^2 n\sigma^2 \:=\: \frac{\sigma^2}{n}
```

+ 標準誤差

``` math
標準誤差(standard \hspace{2mm} error)  \hspace{5mm}  se \hspace{5mm} = \hspace{5mm} \frac{\sigma}{\sqrt{n}}
```

✳︎標準誤差と変動係数(CV, coefficient of variation)に注意  
 変動係数は標準偏差を平均で標準化（平均で割ることで相対的なばらつきを表す）したものである。

``` math
変動係数 \hspace{5mm}  CV \hspace{5mm} = \hspace{5mm} \frac{\sigma}{\mu}
```

+ 不偏分散

``` math
不偏分散  \hspace{5mm}  \hat{\sigma}^2 \hspace{5mm} = \hspace{5mm} \frac{1}{n - 1} \sum_{i=1}^n (x_i - \bar{x})^2
```

### ３．２　t 分布
独立な2つの確率変数 <i>Z</i> と <i>W</i> があり、<i>Z</i> が標準正規分布 <i>N（0, 1)</i>、<i>W</i> が自由度 <i>m</i> の <i>χ<sup>2</sup></i> 分布に従うとき、下記の式に従う分布を自由度 <i>m</i> の <i>t</i> 分布と呼ぶ。
<font color=blue>母分散が未知でサイズの小さな標本</font>から母平均などを推定／検定を行う際に標準正規分布の代わりに用いる。

``` math
t \hspace{5mm}=\hspace{5mm} \frac{Z}{\sqrt{W/m}}
```

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1413278/e645cfc6-d67d-0a79-acf5-35a55d4ccfc3.png)


自由度 <i>m</i> が大きくなると正規分布に近づく。

また、観測値の場合の <i>t</i> は下記となり、

``` math  
t \hspace{3mm}=\hspace{3mm} \sqrt{n} (\bar{x} - \mu) \hspace{1mm}/\hspace{1mm} \hat{\sigma}  \hspace{3mm}=\hspace{3mm} \sqrt{n - 1} \hspace{1mm}(\bar{x} - \mu) \hspace{1mm}/\hspace{1mm} s \\
```

自由度 <i>n - 1</i> のt分布に従う。

:::note info
【テストでのヒント】
t値の計算は不偏標準偏差を使う場合はサンプル数 <i>n</i>　（標本標準偏差を使う場合はサンプル数 <i>n - 1</i>　)、t分布の表を参照するときは <i>n - 1</i>の値を参照する。 
:::

### ３．３　χ<sup>２</sup>分布
χ<sup>2</sup>分布は標準化変量 <i>z</i> を２乗和した <i>χ<sup>2</sup></i> 値が従う確率分布。　母分散の信頼区間の推定やクロス集計表の検定に用いる。　<i>χ<sup>2</sup></i> 分布は、検定のために作り出された分布である。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1413278/12ee7abb-1935-b30e-b3ef-6c05467b7d2b.png)

自由度 <i>df</i> が大きくなると徐々に正規分布に近づく。

``` math
z_i \hspace{5mm}=\hspace{5mm} \frac{x_i - \mu}{\sigma} \\
\chi^2 \hspace{5mm}\equiv\hspace{5mm} z^2 \hspace{5mm}=\hspace{5mm} \frac{(x - \mu)^2}{\sigma^2}
```

<i>χ<sup>2</sup>値</i> は以下になる。

``` math
\chi_{(n)}^2 \hspace{5mm}\equiv\hspace{5mm} \sum_{i=1}^n z_i^2 \hspace{5mm}=\hspace{5mm} \frac{\sum_{i=1}^n (x_i - \mu)^2}{\sigma^2} \\
 
\chi_{(n)}^2 \hspace{5mm}=\hspace{5mm} \frac{(n\,-\,1)s^2}{\sigma^2} \\
```

自由度(df=n)の χ<sup>2</sup> 分布の期待値と分散は下記となる。

- 期待値   
E[X]   =    n
- 分散  
V[X]   =    2n


### ３．４　F分布
F分布は独立した２つの <i>χ<sup>2</sup></i> 値の比であるF値が従う確率分布。等分散性の検討や分散分析に用いる。
2つの確率変数 <i>W<sub>1</sub></i>、<i>W<sub>2</sub></i>があるとき、それぞれの自由度で割った比を取った、

``` math
F \hspace{5mm}=\hspace{5mm}  \frac{W_1 / \nu_1}{W_2 / \nu_2}
```

に従う分布を自由度 <i>(ν<sub>1</sub>, ν<sub>2</sub>)</i> のF分布という。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1413278/bc55e1af-3c8e-aab4-560a-2e14552250b2.png)

2つの自由度によって分布の形は変化し、両方の自由度が大きい場合は平均はほぼ１となる。


（他の確率分布が正規分布に従った母集団から無作為に抽出した標本に基づいた統計量が従う分布であるのに対し）F分布は「２つの母集団」から無作為に抽出した「２つの標本」に基づいた統計量が従う分布であり、標準正規分布に従う２つの母集団から無作為抽出した２つの χ の２乗値の比であるF値の確率分布となる。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1413278/34d50a50-aa17-92f9-6f8c-88e120c39ce0.png)

F値は、2つの χ<sup>2</sup> の自由度をそれぞれ ν<sub>1</sub>、　ν<sub>2</sub>とすると以下の式で表す。

``` math
F_{(\nu_1,\hspace{1mm}\nu_2)} \hspace{5mm}=\hspace{5mm} \frac{\frac{\chi_{(\nu_1)}^2}{\nu_1}}{\frac{\chi_{(\nu_2)}^2} {\nu_2}}
```

また、不偏分散を使った場合は下記の式で表す。

``` math
F_{(\nu_1,\hspace{1mm}\nu_2)} \hspace{5mm}=\hspace{5mm} \frac{\frac{\nu_1 \hat{\sigma_1^2}}{\sigma_1^2} / \nu_1}{\frac{\nu_2 \hat{\sigma_2^2}}{\sigma_2^2} / \nu_2} \\ 
\,  =\hspace{5mm} \frac{\hat{\sigma_1^2}}{\sigma_1^2}・\frac{\sigma_2^2}{\hat{\sigma_2^2}} 
```

ここで、母分散が等しいとした場合、

``` math
\frac{\sigma_2^2}{\sigma_1^2} \hspace{5mm}=\hspace{5mm} 1 
```
となるため、

``` math
F \hspace{5mm}=\hspace{5mm} \frac{\hat{\sigma_1^2}}{\hat{\sigma_2^2}}
```

<font color=blue>このF値を統計検定量として、抽出元である２つの母集団の分散が同じかを検定する等に用いられる。</font>

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1413278/f5a17034-3cbd-e463-bcb0-2dc94599d1ed.png)


### ３．５　その他

#### 大数の法則（law of large numbers）
多数回の試行の結果として得られたデータの平均や相対度数が、確率分布の平均や生起確率に近づくこと。

#### 中心極限定理（central limit theorem）
n 個の確率変数 X<sub>n</sub>の標本平均の分布は、　n が大きくなるにつれて（もとの分布が正規分布でない場合でも）正規分布に近づくこと。

#### フィッシャーの３原則（Fisher's three principle）
①無作為化（randomization）
②繰り返し（replication）
③局所管理（local control）

#### 標本抽出方法
- 単純無作為抽出法  
最も基本的な方法であり、母集団から乱数表を用いて必要数だけサンプルを抽出する。　母集団から完全に無作為に調査対象を取り出す必要があり一般的に手間と時間がかかる。
- 系統抽出法  
母集団の<font color=blue>データ全てに番号をつけて、１番目のデータを無作為に抽出し、２番目以降は同じ間隔でデータを抽出する方法</font>。
- 層化無作為抽出法    
母集団をいくつかの層に分けて、各層からまんべんなくランダムにデータを抽出する方法。
- 多段抽出法、層化多段抽出法  
抽出単位を<font color=blue>何段階かに分けて逐次的に抽出していく方法</font>。段数が多くなるほど平均などの推定精度は悪くなる。この欠点を補うために層化抽出法を組み合わせたものが層化多段抽出法。
- クラスター（集落）抽出法  　母集団を網羅的に分割し小集団（クラスター）を構成した後、いくつかのクラスターのその<font color=blue>クラスター内の全てのデータを抽出する</font>。

::: note info
【テストでのヒント】
- <i>ν<sub>1</sub> = 1</i>、 <i>ν<sub>2</sub> = m</i> の場合、t分布の２乗値が <i>F(1, m)</i> に等しくなる。 t値が与えられたときのF値を求められる場合(＆分子の自由度が１のとき） は、<i>t<sup>2</sup> = F</i>を用いて算出する。 

- 標本抽出方法については、各抽出方法を過去問題をベースにユースケースを踏まえて理解しておく。
:::


# ４　統計的推定と仮説検定

標本から真（母数）の平均や分散の範囲を確率的に推定したり（統計的推定）、複数の標本群の背景にある母集団が同じか否か（平均や分散などに差があるかどうか）を確率的に判定する（仮説検定）。

基本的な計算プロセスはほぼ同様だが、仮説検定では「帰無仮説 H<sub>0</sub> （本来の目的とは逆となる従来とは差がないこと）を立てて、仮説の下で起こりやすさを算出し、滅多に起きないことが確率的に起きたと考えられる場合に、帰無仮説が間違えであった」と判断し、対立仮説 H<sub>1</sub> (帰無仮説を否定して差がないとは言えない）
を採択する。また、この「滅多に起きない確率で帰無仮説を棄却する領域」を有意水準 α と呼ぶ。

## ４.１　仮設検定の構造

### 両側検定と片側検定
有意水準には、両裾の確率を合わせて α とする両側検定と、片裾の確率だけで α とする片側検定とがある。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1413278/fdff3574-5428-59f0-8b65-e221d3a0a7f1.png)


::: note info
【テストでのヒント】
一般的に「帰無仮説に差が無い ( ≒ )、対立仮説に差がある(≠）」とおいた場合は両側検定に、「帰無仮説に差がある (≦, ≧)、対立仮説にそれぞれ( >, &lt;）」とおいた場合は片側検定となる。
:::

### 有意水準、第１種過誤、第２種過誤、検出力

| 判断     |   帰無仮説 <i>H<sub>0</sub></i>が正しい | 対立仮説 <i>H<sub>1</sub></i>が正しい |
|:-----------:|:----------------------:|:-------------------------:|
| <i>H<sub>0</sub></i>を棄却  | 第１種過誤 （有意水準: <i>α</i>） | 正しい判断（検出力: <i>1 - β）</i> |
| <i>H<sub>0</sub></i>を受容  | 正しい判断             | 第２種過誤<i>（β）</i>|



# 5　１標本問題

## ①母平均の推定、検定

<font color=green>【区間推定】</font>
   
``` math
\mu \hspace{5mm}= \hspace{5mm}\bar{x} \hspace{5mm}\pm\hspace{5mm} z_\alpha \frac{\sigma}{\sqrt{n}} 
```
  
<font color=green>【仮説検定】</font>

- 母分散が既知の場合＝Z検定

``` math
z \hspace{5mm}= \hspace{5mm} \sqrt{n}\frac{\bar{x} - \mu}{\sigma} \hspace{10mm} \sim \hspace{5mm}N(0, 1)
``` 

- 母分散が未知の場合＝t検定

``` math
t \hspace{5mm}= \hspace{5mm} \sqrt{n}\frac{\bar{x} - \mu}{\hat{\sigma}} \hspace{10mm} \sim \hspace{5mm}t(n-1)  
``` 
　　　　　　　　　　　　※<i>(n-1)</i>は t 分布の自由度


## ②母分散の推定、検定

<font color=green>【区間推定】</font>

```math
\sigma^2  \hspace{5mm} = \hspace{5mm}\frac{(n-1)\hat{\sigma}^2}{\chi^2} 

```

<font color=green>【仮説検定】</font>

・χ<sup>2</sup>検定

```math
\chi^2  \hspace{5mm} = \hspace{5mm} \frac{\sum({x} - \bar{x})^2}{\sigma^2}  \hspace{5mm} = \hspace{5mm} \frac{(n - 1)\hat{\sigma^2}}{\sigma^2}  \hspace{5mm} \sim \hspace{5mm}\chi^2(n-1) 

```
　　　　　　　　　　　　　　　　　※<i>(n-1)</i>は <i>χ<sup>2</sup></i> 分布の自由度


## ③母比率の推定、検定
<font color=green>【区間推定】</font>

```math
p  \hspace{5mm} =  \hspace{5mm}\hat{p}  \hspace{5mm} \pm \hspace{5mm} z\sqrt\frac{\hat{p}(1 - \hat{p})} {n}　　
```

<font color=green>【仮設検定】</font>

・Z検定

``` math
z  \hspace{5mm} = \hspace{5mm} \sqrt{n} \hspace{1mm} \frac{\hat{p} - p}{\sqrt{p \hspace{1mm} (1 - p)}}  \hspace{5mm} \sim \hspace{5mm}N(0, 1) 
```



# ６　2標本問題

## ①母平均の差の推定、検定

<font color=green>【区間推定】</font>

- 母分散が既知の場合

```math
\delta \hspace{5mm} = \hspace{5mm} d \hspace{3mm} \pm \hspace{3mm} z\hspace{2mm}\sqrt{\frac{\sigma_1^2}{m} + \frac{\sigma_2^2}{n}}  \hspace{5mm} \\
\hspace{3mm}*d = \bar{x} - \bar{y}
```

- 母分差が未知の場合

```math
\delta \hspace{5mm} = \hspace{5mm} d \hspace{3mm} \pm \hspace{3mm} ｔ\times \sigma\hspace{2mm}\sqrt{\frac{1}{m} + \frac{1}{n} }   \hspace{10mm}\sim t(m+n-2)   
```

- 対応のある２標本の場合（対標本）

```math
\delta \hspace{5mm} = \hspace{5mm} \bar{d} \hspace{3mm} \pm \hspace{3mm} ｔ\times \frac{\hat{\sigma}}{\sqrt{n}}    \hspace{10mm}\sim t(n-1) \\
\hspace{5mm}*\bar{d} は d の平均
``` 

<font color=green>【仮説検定】</font>

- 母分散が既知 -> Z検定

```math
z \hspace{5mm} = \hspace{5mm} \frac{d - \delta}{\sqrt{\frac{1}{m} + \frac{1}{n}}\hspace{2mm} \sigma} \hspace{10mm} \sim N(0, 1)   
```

- 母分散が未知 -> t検定
 
```math
t \hspace{5mm} = \hspace{5mm} \frac{\bar{x} - \bar{y}}{\sqrt{\frac{\sigma_1^2}{m} + \frac{\sigma_2^s}{n}}\hspace{2mm} } \hspace{10mm} \sim t(m+n-2)   
```

または、

``` math
t \hspace{5mm} = \hspace{5mm} \frac{\bar{x} - \bar{y}}{\sqrt{\frac{1}{m} + \frac{1}{n}}\hspace{2mm} \hat{\sigma} \hspace{2mm} } \hspace{10mm} \sim t(m+n-2) \\  ​
```
``` math
\color{gray}{\astここで\, \hat{\sigma} \,は、プールされた分散を表す} 
```
``` math
\hat{\sigma}^2 \hspace{5mm} = \hspace{5mm}  \frac{(m-1)\hat{\sigma}_1^2 + (n-1)\hat{\sigma}_2^2}{m+n-2}

```

## ②母分散の比の区間推定、検定

<font color=green>【区間推定】</font>

```math
F \hspace{5mm} = \hspace{5mm} \frac{\frac{W_1}{(m - 1)}}{\frac{W_2}{(n - 1)}}
```

```math
F \hspace{5mm} = \hspace{5mm} \frac{\hat{\sigma_x^2}}{\sigma_x^2} ・ \frac{\sigma_y^2}{\hat{\sigma_y^2}}  \hspace{10mm}\sim F(m - 1, n - 1) 
```

自由度<i>(m - 1, n - 1)</i> における上限 <i>100α/2</i> %点（<i>α</i> はF分布の上限確率 ex. 0.05 )である <i>F<sub>α/2</sub>(m - 1, n - 1)</i> と、下限 1<i>00α/2</i> %点である <i>F<sub>1-α/2</sub>(m - 1, n - 1)</i> を用いて、母分散の比 <i>σ<sup>2</sup><sub>y</sub> / σ<sup>2</sup><sub>x</sub></i>の信頼区間 <i>100(1 - α)</i>%の信頼区間は以下となる。

```math
[\hspace{2mm} F_{1-α/2} (m - 1, n - 1) \frac{\hat{\sigma_y^2}}{\sigma_x^2} \hspace{5mm}, \hspace{5mm}F_{α/2} (m - 1, n - 1) \frac{\hat{\sigma_y^2}}{\sigma_x^2} \hspace{2mm}]
```

ここで、自由度<i>(m1, m2)</i>のF分布での上限 <i>100(1-α/2)</i> %点の値は、自由度<i>(m2. m1)</i>のF分布の条件 <i>100α/2</i> %点の逆数（ <i>F<sub>1-α/2</sub>(m1, m2) = 1/F<sub>α/2</sub>(m2, m1)</i>)である。

<font color=green>【仮説検定】</font>

帰無仮説 <i>H<sub>0</sub></i> のもとでは、

```math
F \hspace{5mm} = \hspace{5mm} \frac{\hat{\sigma_x^2}}{\sigma_x^2} ・ \frac{\sigma_y^2}{\hat{\sigma_y^2}} \hspace{5mm}=\hspace{5mm}   \frac{\hat{\sigma_x^2}}{\hat{\sigma_y^2}} 
```
であるので、

``` math
F_{1 - \alpha/2} (m - 1, n - 1) \leq F \leq F_{\alpha/2} (m - 1, n - 1)
``` 
であれば帰無仮説を受領し、そうでなければ棄却する。


## ③母比率の差の区間推定、検定

<font color=green>【区間推定】</font>

``` math
p_1 - p_2 \hspace{2mm}=\hspace{2mm} \hat{p_1} - \hat{p_2} \hspace{5mm} \pm \hspace{5mm} Z_{\alpha/2} \sqrt{\frac{\hat{p_1}(1 - \hat{p_1)}}{n_1} + \frac{\hat{p_2}(1 - \hat{p_2)}}{n_2}} \\
```
``` math
* \sqrt{\hspace{3mm}} \hspace{2mm}の中は未知のp1, p2を推定値 \hat{p_1}、\hat{p_2}で置き換えている
* 
```

<font color=green>【仮説検定】</font>

zが近似的に標準正規分布に従うことを利用して仮説の検定を行う。

``` math
z \hspace{5mm}=\hspace{5mm} \frac{(\hat{p_1} - \hat{p_2}) - (p_1 - p_2)}{\sqrt{\frac{\hat{p_1}(1 -  \hat{p_1})}{n1} +  \frac{\hat{p_2}(1 -  \hat{p_2})}{n2}}} 
``` 

なお、帰無仮説 <i>H<sub>0</sub> : p1 = p2 </i> (2つの標本の母比率に差はない）の元では以下の式となる。

``` math
z \hspace{5mm}=\hspace{5mm} \frac{\hat{p_1} - \hat{p_2}}{\sqrt{\frac{\hat{p_1}(1 -  \hat{p_1})}{n1} +  \frac{\hat{p_2}(1 -  \hat{p_2})}{n2}}} 
```  


# ７　線形回帰

## ７.１ 線形単回帰


``` math
y \hspace{5mm}=\hspace{5mm} \alpha \hspace{2mm}+\hspace{2mm} \beta x_i \hspace{2mm}+\hspace{2mm} \epsilon_i , \hspace{10mm}  \epsilon_i 〜 N(0,\sigma^2)  
```

で表さられるモデルを線形単回帰モデル（単回帰モデル）と呼ぶ。２つ以上の説明変数（<i>x</i>）の場合は線形重回帰モデル（重回帰モデル）と呼ぶ。

単回帰モデルでの回帰係数 <i>α<i>、 <i>β<i> の推定量 <i>α<sup>^</sup></i> 、<i>β<sup>^</sup></i> は以下となる。

``` math
\hat{\beta}\hspace{5mm}=\hspace{5mm} \frac{T_{xy}}{T_{xx}}  \hspace{5mm} 〜\hspace{5mm}N(\beta,\frac{\sigma^2}{T_{xx}}) \\

\hat{\alpha}\hspace{5mm}=\hspace{5mm}\bar{y} \:-\: \hat{\beta}\bar{x} \\
```
``` math
ここで、 \\
T_{xy} \hspace{5mm}=\hspace{5mm} \sum_{i=1}^{n} (x_i - \bar{x})(y_i - \bar{y}) \\
```
``` math
T_{xx} \hspace{5mm}=\hspace{5mm} \sum_{i=1}^{n} (x_i - \bar{x})^2 \hspace{15mm}
```

### 期待値と分散

``` math
E[\bar{\beta}] \hspace{5mm}=\hspace{5mm} \beta  
```
``` math
V[\bar{\beta}] \hspace{5mm}=\hspace{5mm} \frac{\sigma^2}{T_{xx}}
```

### 誤差項 <i>ε<sub>i</sub></i> の分散 <i>σ<sup>2</sup></i>の推定値
 
``` math
\hat{\sigma_2} \hspace{5mm}=\hspace{5mm} \frac{1}{n - 2} \sum_{i=1}^n (y_i - \hat{y_i})^2 
```

　　　ここで、 

``` math
\sum_{i=1}^n (y_i - \hat{y_i})^2 \hspace{2mm}=\hspace{2mm} T_{yy} - \hat{\beta}T_{xy} \hspace{2mm}=\hspace{2mm} (n -1) \cdot (\hat{\sigma}_y^2 - \beta\hat{\sigma}_{xy})
```


### z 及び t値

``` math
z \hspace{5mm}=\hspace{5mm} \frac{\hat{\beta} - \beta}{\frac{\sigma}{\sqrt{T_{xx}}}} \hspace{5mm}〜\hspace{5mm} N(0,1) \\
```
``` math
t \hspace{5mm}=\hspace{5mm} \frac{\hat{\beta} - \beta}{\frac{\hat{\sigma}}{\sqrt{T_{xx}}}} \hspace{5mm}〜\hspace{5mm} t(n - 2)

```

### <i>β^</i>の信頼区間

``` math
\hat{\beta} - t_{\alpha /2} (n - 2) \frac{\hat{\sigma}} {\sqrt{T_{xx}}} \hspace{5mm}\leq\hspace{5mm} \beta \hspace{5mm}\leq\hspace{5mm}  \hat{\beta} + t_{\alpha /2} (n - 2) \frac{\hat{\sigma}} {\sqrt{T_{xx}}} \\
```
``` math
\color{gray}{\ast: t_{\alpha /2} (n - 2)は、自由度 n - 2 の t 分布から上限 100α/2\%点を表す}

``` 

## ７.２ 線形重回帰　


+ 総平方和

``` math 
S_T（総平方和）\hspace{2mm}=　\hspace{2mm} S_R（回帰による平方和）\hspace{1mm}+\hspace{1mm} S_e(残差平方和） \\
```
``` math
自由度:　 n - 1 \hspace{5mm}=\hspace{5mm} p \hspace{15mm} + \hspace{5mm} (n - p - 1) \hspace{20mm} 
```
``` math
\sum_i (y_i - \bar{y})^2  \hspace{5mm}=\hspace{5mm} \sum_i (\hat{y_i} - \bar{y})^2　\hspace{5mm} + \hspace{5mm} \sum_i (y_i - \hat{y_i})^2
```

+ 自由度調整済み決定係数 <i>R<sup>*2</sup> (Adjusted R-squared)  
異なる説明変数を用いた重回帰モデル間でモデルの良し悪しを比較するために用いる係数。

``` math 
R^{*2} \hspace{5mm}=\hspace{5mm}  1 \hspace{5mm}-\hspace{5mm} \frac{\frac{S_e}{(n - p - 1)}}{\frac{S_T}{(n - 1)}}   \\
  \hspace{10mm}  =  \frac{\frac{S_R}{p}}{\frac{S_T}{(n - 1)}}  \\
\color{gray}{\ast p は説明変数の数}

```


+ 重回帰モデルの分散分析表

| 変動要因 |  平方和  | 自由度　|　 平均平方| F   | 
|:-------:|:------:|:-----:|:---------:|:---:|
| 回帰   | <i>S<sub>R</sub></i> | <i>p</i>　|　 <i>V<sub>R</sub> = S<sub>R</sub> / p</i> | <i>F = V<sub>R</sub>  / V<sub>e</sub></i>  |
| 残差    | <i>S<sub>e</sub></i> | <i>(n - 1) - p</i>　|　 <i>V<sub>e</sub> = S<sub>e</sub> / (n - 1 - p)</i> | &nbsp; | 
| 合計    | <i>S<sub>T</sub></i> | <i>n - 1</i>　|　&nbsp; | &nbsp;  | 

✳︎単回帰モデルの場合は上記表で <i> p = 1 </i>とすればよい


+ Rで回帰分析した際の出力レポートの見方

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1413278/f9690f53-768d-ac8b-6bb2-9ec4a7e7be2a.png)


:::note info
【テストでのヒント】
・上述のとおり異なる説明変数間でのモデルの比較は、自由度調整済み決定係数（R<sup>*2</sup>)を用いる
・また、自由度調整済み決定係数（R<sup>*2</sup>)の計算式、F値の算出式も覚えておく
:::

# ８ 分散分析モデル
３つ以上の水準（３群以上）の平均の差についてF検定を実施し、ある要因（因子）が実験結果に影響を与えといってもよいかどうかを統計学的に検討する手法を分散分析という(t検定やF検定は２群を対象にした検定対象）。
ある１つの要因への影響を分析するのを「一元配置分散分析」と言い、２要因の場合は「二次元配置分散分析」、３要因以上の場合は多次元配置分散分析という。　ここでは「一元配置分散分析」を記載する。

| 水準           |  水準でのデータ数  | 観測値　      |　 平均        |
|:-------------:|:---------------:|:----------:|:-----------------:|
| A<sub>1</sub> |  n<sub>1</sub>  | y<sub>11</sub>,y<sub>12</sub>,・・・,y<sub>1n<sub>1</sub> | y<sup>-</sup><sub>1.</sub>   |  
| A<sub>2</sub> |  n<sub>2</sub>  | y<sub>21</sub>,y<sub>22</sub>,・・・,y<sub>2n<sub>2</sub> | y<sup>-</sup><sub>2.</sub>   |   
| ・・・           |     ・・・          |     ・・・    | ・・・               |
| A<sub>a</sub> | n<sub>a</sub>   | y<sub>a1</sub>,y<sub>a2</sub>,・・・,y<sub>an<sub>a</sub> | y<sup>-</sup><sub>a.</sub>   |
| &nbsp;        |   n             | &nbsp;     |  y<sup>-</sup>..  |


``` math
総平方和（S_T）　\hspace{2mm}=\hspace{2mm} 水準間平方和（S_A） + 残差平方和（S_e） 
```
``` math
自由度:　 n - 1 \hspace{10mm}=\hspace{2mm} ( a - 1 ) \hspace{2mm}+\hspace{2mm} (n - a) \hspace{15mm}
```
``` math
\sum_{j=1}^{a} \sum_{i=1}^{n_j}(y_{ji} - \bar{y}_{..})^2 = \sum_{j=1}^an_j(\bar{y}_{j.} - \bar{y}_{..})^2  +  \sum_{j=1}^{a} \sum_{i=1}^{n_j}(y_{ji} - \bar{y}_{j.})^2  
```

### １元配置の分散分析表

| 変動要因 |  平方和  | 自由度　|　 平均平方(V)| F   | E(V)      |
|:-------:|:------:|:-----:|:---------:|:---:|:---------:|
| 水準間   | <i>S<sub>A</sub></i> | <i>Φ<sub>A</sub> = a - 1</i>　|　 <i>V<sub>A</sub> = S<sub>A</sub> / Φ<sub>A</sub></i> | <i>V<sub>A</sub> / V<sub>e</sub></i> | <i>σ<sup>2</sup> + Σ n<sub>j</sub>α<sup>2</sup><sub>j</sub> / Φ<sub>A</sub></i>  |
| 残差    | <i>S<sub>e</sub></i> | <i>Φ<sub>e</sub> = n - a</i>　|　 <i>V<sub>e</sub> = S<sub>e</sub> / Φ<sub>e</sub></i> | &nbsp; | <i>σ<sup>2</sup></i> |
| 合計    | <i>S<sub>T</sub></i> | <i>Φ<sub>T</sub> = n - 1</i>　|　&nbsp; | &nbsp;   | &nbsp;     |

::: note info
【テストでのヒント】
上記の式(<i>S<sub>T</sub> = S<sub>A</sub> + S<sub>e</sub></i>)はテストで出題されることが多いので覚えておく。
自由度で見ると、<i>n - 1 = (a - 1) + (n - a) </i>であり、 <i>n</i> は全量なので <i>y<sub>ji</sub></i> 、<i>a</i> は水準間なので <i>y<sub>j.</sub></i> 、<i>1</i> は全体の平均なので <i>y<sub>..</sub></i> とすると覚えやすい。
:::

# ９　ノンパラメトリック手法
特定の分布を仮定できないデータに対して検定を行う手法（正規分布などの分布を前提とするt検定やF検定はパラメトリック手法と呼ばれる）。

## ９.１　適合度の検定と独立性の検定(ピアソンの χ<sup>2</sup> 検定）
いわゆる母集団の分布に正規性が仮定できない場合に使用するノンパラメトリック手法の１つ。
適合度の検定は、理論上の確率分布から得られる「期待度数」と観測値の「度数」の当てはまりの良さを検定する。　独立性の検定は、クロス集計表の列項目と行項目間に関連性があるのかを「度数」から検定する。

✳︎ピアソンの χ<sup>2</sup> は、本来の χ<sup>2</sup> とは厳密には異なるが近似値的には従う。また、平均値や分散などの母数は使わず「度数」のみから検定統計量を求めることができる。


### 適合度の検定

| &nbsp;    |  A<sub>1</sub> &nbsp;  A<sub>2</sub>　・・・ &nbsp; A<sub>k</sub>  | &nbsp; 計　 |
|:-----------:|:----------------------:|:-------------------------:|
| 観測度数  | O<sub>1</sub> &nbsp;  O<sub>2</sub>　・・・ &nbsp; O<sub>k</sub>  | &nbsp; n |
| 期待度数  | E<sub>1</sub> &nbsp;  E<sub>2</sub>　・・・ &nbsp; E<sub>k</sub>              | &nbsp; n|

✳︎ <i>E<sub>i</sub> = np<sub>i</sub></i> 、<i>p<sub>i</sub></i> は <i>A<sub>i</sub></i> に対する理論上の確率

ピアソンの χ<sup>2</sup> は以下の式となる。

``` math
\chi^2 \hspace{5mm}=\hspace{5mm} \sum_{i=1}^k \frac{(観測度数_i - 期待度数_i)^2}{\hspace{15mm}期待度数_i\hspace{15mm}}　　\hspace{5mm}〜\hspace{5mm} \chi^2(k - 1)

```

### 独立性の検定

クロス集計表から期待度数 -> χ<sup>2</sup> 値を計算する。　
以下に計算順序を例を用いて記載する。 

+ クロス集計表（観測度数）

| &nbsp;    |  賛成  | どちらでもない　 |　 反対 | 行計  |
|:---------:|:------:|:----------:|:----:|:-----:|
| 男        |     5 |        10  |    15|30<font color=gray>①</font>|
| 女        |    10 |         5  |    5 |   20<font color=gray>②</font>|
| 列       |  15<font color=gray>③</font> | 15<font color=gray>④</font>  |  20<font color=gray>⑤</font> |   50<font color=gray>⑥</font>  |

✳︎上記①〜⑥は下記期待度数の計算で使う番号

+ 期待度数

| &nbsp;    |  賛成  | どちらでもない　 |　 反対 | 行計  |
|:---------:|:------:|:----------:|:----:|:-----:|
| 男        | ⑥ × ①/⑥ × ③/⑥ = 9 | ⑥ × ①/⑥ × ④/⑥ = 9  |  ⑥ × ①/⑥ × ⑤/⑥ = 12  |   30|
| 女        | ⑥ × ②/⑥ × ③/⑥ = 6 | ⑥ × ②/⑥ × ④/⑥ = 6  | ⑥ × ②/⑥ × ⑤/⑥ = 8 |   20|
| 列       |  15 | 15 |  20 |   50  |

ピアソンの χ<sup>2</sup> は以下の式となる。

``` math
\chi^2 \hspace{2mm}=\hspace{2mm} \sum_{i=1}^{行数}　\sum_{j=1}^{列数} \frac{(観測度数_{ij} - 期待度数_{ij})^2}{\hspace{15mm}期待度数_{ij}\hspace{15mm}}　　\hspace{5mm}〜\hspace{2mm} \chi^2(行数 - 1)(列数 - 1 )

```


+ ピアソンの χ<sup>2</sup> 値

| &nbsp;    |  賛成  | どちらでもない　 |　 反対 | 行計  |
|:---------:|:------:|:----------:|:----:|:-----:|
| 男        | (5 - 9)<sup>2</sup> / 9 = 1.78 | (10 - 9)<sup>2</sup> / 9  = 0.11  |  (15 - 12)<sup>2</sup> / 12  = 0.75  |   2.64|
| 女        | (10 - 6)<sup>2</sup> / 6  = 2.67 | (5 - 6)<sup>2</sup> / 6  = 0.17  | (5 - 8)<sup>2</sup> / 8  = 1.13 |   3.96|
| 列       |  4.44 | 0.28 |  1.88 |  <font color=blue> 6.60 </font> |

∴ χ<sup>2</sup> = 6.60 となる。　また、自由度は行２×列３であるので、(2 - 1)× (3 - 1) = 2　となる。 
あとは、通常の χ<sup>2</sup> と同様に検定を行う。

::: note info
【テストでのヒント】
適合度及び独立性の検証の計算は確実にできるようにする</font>
:::

# １０　おわりに
本書が統計学基礎の理解の促進、及び統計検定２級取得のお役に立てれば幸いです。

また、NPO法人AI開発推進教会では、さまざまなディープラーニングのモデルの解説書を作成して公開しています。
ディープラーニングにもご興味がありましたらご参照ください。

https://sites.google.com/deepaelurus.com/aboutus/