統計学の公式その４

# 相関係数
2つの要素$x$と$y$からなる$n$個のデータが得られたとき、その相関係数$r_{xy}$は次の式から算出されます。

```math
r_{xy} = \frac{\frac{1}{n}\sum_{i = 1}^{n} (x_i - \bar{x})(y_i - \bar{y})}{\sqrt{\frac{1}{n}\sum_{i = 1}^{n} (x_i - \bar{x})^2}\times\sqrt{\frac{1}{n}\sum_{i = 1}^{n} (y_i - \bar{y})^2}}
```

例えば、以下のような二つの要素、参加人数（$x$）、競技時間（$y$）からなる四つのデータが得られた時、その相関係数$r_{xy}$は以下のようになります。

| 競技 | 参加人数 | 競技時間（分） |
|:--|--:|--:|
| 玉入れ | 100 | 20 |
| 綱引き | 150 | 30 |
| リレー | 50 | 15 |
| 玉ころがし | 75 | 25 |

平均を求めます。

```math
\bar{x}=\frac{100+150+50+75}{4}=93.75\\
\bar{y}=\frac{20+30+15+25}{4}=22.5
```

それぞれの分散を求めます。

参加人数の分散

```math
V(x)=\frac{1}{4}\times\{(100-93.75)^2+(150-93.75)^2+(50-93.75)^2+(75-93.75)^2\}\\
=\frac{1}{4}\times(39.0625+3163.0625+1914.0625+351.5625)=1366.9375
```

競技時間の分散

```math
V(y)=\frac{1}{4}\times\{(20-22.5)^2+(30-22.5)^2+(15-22.5)^2+(25-22.5)^2\}\\
=\frac{1}{4}\times(6.25+56.25+56.25+6.25)=31.25
```

共分散を求めます。

```math
Cov(x,y) = \frac{1}{4}\times\{(100-93.75)\times(20-22.5)+(150-93.75)\times(30-22.5)+\\(50-93.75)\times(15-22.5)+(75-93.75)\times(25-22.5)\}\\
=\frac{1}{4}\times(6.25\times-2.5+56.25\times7.5-43.75\times-7.5-18.75\times2.5)\\
=\frac{1}{4}\times(-15.625+421.875+328.125-46.875)=171.875\\
```

よって相関係数は以下のようになります。

```math
r_{xy} = \frac{171.875}{\sqrt{1366.9375}\times\sqrt{31.25}}=\frac{171.875}{36.97\times5.59}=0.83167
```

## 共分散
共分散は、以下の二つの式によって計算できます。

```math
Cov(X,Y) = \frac{1}{n}\sum_{i = 1}^{n} (x_i - \bar{x})(y_i - \bar{y}) = E(XY) - \mu_x\mu_y
```

例えば、先ほどのデータで共分散を計算すると以下のようになります。

```math
Cov(X,Y) = E(XY) - \mu_x\mu_y = \frac{100\times20+150\times30+50\times15+75\times25}{4}-93.75\times22.5\\
=\frac{2000+4500+750+1875}{4}-2109.375=171.875
```

# F分布
F分布は、自由度が$k_1$、$k_2$のカイ二乗分布が互いに独立である場合に、次の式から算出されるFが従う確率分布のことです。

```math
F = \frac{\chi^2_1/k_1}{\chi^2_2/k_2}
```

## 母分散が等しいと仮定できる時の統計量F

```math
F = \frac{\chi^2_1/k_1}{\chi^2_2/k_2} = \frac{s^2_1/\sigma^2_1}{s^2_2/\sigma^2_2}=\frac{s^2_1}{s^2_2}
```

## 等分散性の検定

例えば、分散未知の正規分布に従う2群からサンプリングし、次のような結果を有意水準0.05で検定した場合、この2群の母分散は等しいと考えられるかは以下のようになります。

| 項目 | A群 | B群 |
|:--|--:|--:|
| サンプルサイズ | 11 | 7 |
| 不偏分散 | 1.24 | 4.21 |
| 分散 | 1.05 | 3.97 |

```math
F = \frac{s^2_1}{s^2_2} = \frac{4.21}{1.24} = 3.395
```

また、

```math
F_{0.025}(6,10)=4.072
```
よって、この2群の母分散は等しくないとは言えないという結論になります。

# 一元配置分散分析
1つの因子からなるデータを分析する方法で、因子に含まれる水準間の平均値の差を見ることができます。

- 要因の平方和 = データの数$\times($要因平均$A-$全体平均$)^2+$データの数$\times($要因平均$B-$全体平均$)^2+\dots$
- 全体の平方和 = $($各データ$1-$全体平均$)^2+($各データ$2-$全体平均$)^2+\dots$
- 残差の平方和 = 全体の平方和$-$要因の平方和
- 要因の自由度 = 比較する要因の数から1を引いたもの
- 全体の自由度 = 比較するデータの個数から1を引いたも
- 誤差の自由度は全体の自由度から要因の自由度を引いたもの
- 平均平方は、平方和を自由度で割ったもの
- F値は要因の平均平方を誤差の平均平方で割ることで求められます。

すべての計算をすると以下の分散分析表を埋めることができます。

| 因子 | 平方和| 自由度|平均平方|F値|
|:--|--:|--:|--:|--:|
| 要因 | ◯ | ◯ |◯|◯|
| 誤差 | ◯ | ◯ |◯||
| 全体 | ◯ | ◯ |||

例えば、以下のようなデータがあった時、分散分析表と薬剤による重量の平均値に差があるかどうかの検定は以下のようになります。有意水準は0.05とします。

| 薬剤A | 薬剤B | 薬剤C |
|--:|--:|--:|
| 2.53 | 3.54 | 3.75 |
| 3.13 | 3.78 | 3.81 |
| 3.27 | 3.37 | 3.56 |

全体の平均 = 3.4156
薬剤Aの平均 = 2.977
薬剤Bの平均 = 3.563
薬剤Cの平均 = 3.707

要因の平方和 = $3\times(2.977-3.4156)^2+3\times(3.563-3.4156)^2+3\times(3.707-3.4156)^2$
$=0.577 + 0.065 + 0.255 = 0.897$

全体の平方和

```math
= (2.53-3.4156)^2+(3.54-3.4156)^2+(3.75-3.4156)^2\\+(3.13-3.4156)^2+(3.78-3.4156)^2+(3.81-3.4156)^2+\\(3.27-3.4156)^2+(3.37-3.4156)^2+(3.56-3.4156)^2
```

$=0.784+0.01547+0.1118+0.08156+0.13278+0.1555+0.02119+0.00208+0.02085=1.325$

残差の平方和 $= 1.325-0.897=0.428$

要因の自由度 $= 3-1=2$
全体の自由度 $= 9-1=8$
誤差の自由度 $= 8-2=6$

要因の平均平方 $= 0.897 \div 2 = 0.4485$
誤差の平均平方 $= 0.428 \div 6 = 0.071$

F値 $= 0.4485 \div 0.071 = 6.3169$

| 因子 | 平方和| 自由度|平均平方|F値|
|:--|--:|--:|--:|--:|
| 要因 | 0.897 | 2 |0.4485|6.3169|
| 誤差 | 0.428 | 6 |0.071||
| 全体 | 1.325 | 8 |||

$F_{0.05}(2,6) = 5.14$

よって、帰無仮説は棄却されるので、各要因の母平均に差があるという結論になります。

# 二元配置分散分析
二元配置分散分析は因子を2つ含むデータから、各因子における水準間の平均値の差を検定するための分析方法です。

例えば、下の表のように、量4パターンと、要因をAとBの2種類を用いて、各3回の実験を行った場合、このデータから、各因子の水準間で収量の平均値に差があるかどうかを二元配置分散分析で検定すると以下のようになります。

||100g|200g|300g|400g|
|:--|--:|--:|--:|--:|
|要因A| 14.5 | 16.5 | 17.8 | 18.1 |
|要因A| 15.1 | 16.1 | 19 | 20.2 |
|要因A| 14.1 | 15 | 15.2 | 17.2 |
|要因B| 16.2 | 18.6 | 21.7 | 23.6 |
|要因B| 15.3 | 16.9 | 20.5 | 24.9 |
|要因B| 17.5 | 18.6 | 19.4 | 25.5 |

## 各平均値を計算

- 全体の平均値
- 量ごとの平均値
- 要因ごとの平均値
- 量と要因ごとの平均値

全体の平均 = 18.23

量100の平均 = 15.45
量200の平均 = 16.95
量300の平均 = 18.93
量400の平均 = 21.58

要因Aの平均 = 16.57
要因Bの平均 = 19.89

量100要因Aの平均 = 14.57
量100要因Bの平均 = 16.33
量200要因Aの平均 = 15.87
量200要因Bの平均 = 18.03
量300要因Aの平均 = 17.33
量300要因Bの平均 = 20.53
量400要因Aの平均 = 18.50
量400要因Bの平均 = 24.67

## 平方和の計算

- 量の平方和 = データの数$\times($量の平均$A-$全体平均$)^2+$データの数$\times($量の平均$B-$全体平均$)^2+\dots$
- 要因の平方和 = データの数$\times($要因の平均$A-$全体平均$)^2+$データの数$\times($要因の平均$B-$全体平均$)^2+\dots$
- 全体の平方和 = $($各データ$1-$全体平均$)^2+($各データ$2-$全体平均$)^2+\dots$

量の平方和 $=6\times(15.45-18.23)^2+6\times(16.95-18.23)^2+6\times(18.93-18.23)^2+6\times(21.58-18.23)^2$
$=46.37+9.83+2.94+67.34=126.48$

要因の平方話 $=12\times(16.57-18.23)^2+12\times(19.89-18.23)^2=33.07+33.07=66.14$

全体の平方話

```math 
=(14.5-18.23)^2+(15.1-18.23)^2+(14.1-18.23)^2\\
+(16.2-18.23)^2+(15.3-18.23)^2+(17.5-18.23)^2\\
+(16.5-18.23)^2+(16.1-18.23)^2+(15-18.23)^2\\
+(18.6-18.23)^2+(16.9-18.23)^2+(18.6-18.23)^2\\
+(17.8-18.23)^2+(19-18.23)^2+(15.2-18.23)^2\\
+(21.7-18.23)^2+(20.5-18.23)^2+(19.4-18.23)^2\\
+(18.1-18.23)^2+(20.2-18.23)^2+(17.2-18.23)^2\\
+(23.6-18.23)^2+(24.9-18.23)^2+(25.5-18.23)^2\\
=13.91+9.80+17.06+4.12+8.58+0.53+2.99+4.54+10.43+0.14+1.77+0.14\\
+0.18+0.59+9.18+12.04+5.15+1.37+0.02+3.88+1.06+28.84+44.49+52.85\\
=233.66
```

## 自由度

- 全体の自由度は、全てのデータの個数から1を引いたものになります。
- 量の自由度は、量の水準数から1を引いたものになります。
- 要因の自由度は、要因の水準数から1を引いたものになります。

全体の自由度 $=24-1=23$
量の自由度 $=4-1=3$
要因の自由度 $=2-1=1$

## 交互作用

「量×要因の平方和」は「データ全体の平均値からの量×要因の平均値のズレ」を求め、「データ全体の平均値からの量の各水準の平均値のズレ」と「全体の平均値からの要因の各水準の平均値のズレ」を引いたものです。

- 量と要因ごとの平方和 = データの数$\times($量と要因ごとの平均値$1-$全体平均$)^2+$データの数$\times($量と要因ごとの平均値$2-$全体平均$)^2+\dots$

- 交互作用の平方話 = 量と要因ごとの平方和 $-$ 量の平方和 $-$ 要因の平方和

- 交互作用の自由度 = 2つの因子の水準数から1を引いたものをかけあわせたもの

量と要因ごとの平方和

```math
=3\times(14.57-18.23)^2+3\times(16.33-18.23)^2+3\times(15.87-18.23)^2+3\times(18.03-18.23)^2\\
+3\times(17.33-18.23)^2+3\times(20.53-18.23)^2+3\times(18.50-18.23)^23\times(24.67-18.23)^2\\
=40.19+10.83+16.71+0.12+2.43+15.87+0.22+124.42=210.79
```

交互作用の平方話 $=210.79-126.48-66.14=18.17$

交互作用の自由度 $=(4-1)\times(2-1)=3$

## 残差
- 残差の平方和 = 全体の平方和から量の平方和、要因の平方和、交互作用の平方和を引いたもの

- 残差の自由度 = 全体の自由度から量の自由度、要因の自由度、交互作用の自由度を引いたもの

残差の平方和 $=233.66-126.48-66.14-18.17=22.87$

残差の自由度 $=23-3-1-3=16$

## 平均平方
- 平均平方は、平方和を自由度で割ったもの

量の平均平方　$=126.48\div3=42.16$

要因の平均平方　$=66.14\div1=66.14$

交互作用の平均平方　$=18.17\div3=6.06$

残差の平均平方　$=22.87\div16=1.43$

## F値
- 統計量Fは各因子の平均平方を残差の平均平方で割って算出

量のF値　$=42.16\div1.43=29.48$

要因のF値　$=66.14\div1.43=46.25$

交互作用のF値　$=6.06\div1.43=4.24$

| 因　子 | 平方和 | 自由度 | 平均平方 | F　値 |
|:--|:--|:--|:--|:--|
| 量 | 126.48 | 3 | 42.16 | 29.48 |
| 要因 | 66.14 | 1 | 66.14 | 46.25 |
| 量×要因 | 18.17 | 3 | 6.06 | 4.24 |
| 残差 | 22.87 | 16 | 1.43 |  |
| 全体 | 233.66 | 23 |  |  |

量　$F_{0.05}(3,16) = 3.239$
要因　$F_{0.05}(1,16) = 4.494$
交互作用　$F_{0.05}(3,16) = 3.239$

よって、量によって収量の平均値に差がある、および、要因によって収量の平均値に差があるという結論になります。