代表的な離散確率分布の期待値・分散・母関数計算における途中式まとめ〜一様分布、ベルヌーイ分布、二項分布、ポアソン分布編〜

# この記事で解説すること
以下の代表的な離散確率分布における、期待値・分散・確率母関数・モーメント母関数の導出について**途中式を省略することなく**まとめます。辞書的に参考にしてくれたら嬉しいです。
- 離散一様分布
- ベルヌーイ分布
- 二項分布
- ポアソン分布

:::note
**幾何分布**、**負の二項分布**、**超幾何分布**、**多項分布**編については下記の記事で解説しています。
:::

https://qiita.com/fujiwara-san/items/5769d45b7e3c3ce4f080

# 離散一様分布
### 定義
確率変数$X$が$1,2,3,\ldots,n$の等確率でとるとき、つまり
$$P(X=1)=P(X=2)=\cdots=P(X=n)=\frac{1}{n}$$
であるとき、確率変数$X$は**離散一様分布**に従うという。
### 期待値
```math
\begin{align}
E[X] & = \sum_{x=1}^{n} x P(X=x) \\
& = \sum_{x=1}^{n} x \frac{1}{n} \\
& = \frac{1}{n} \sum_{x=1}^{n} x \\
& = \frac{1}{n} \cdot \frac{n(n+1)}{2} \ (\because 連続する自然数の和の公式）\\
& = \frac{n+1}{2}
\end{align}
```
### 分散
まず$E[X^2]$を求める。
```math
\begin{align}
E[X^2] & = \sum_{x=1}^{n} x^2 P(X=x) \\
& = \sum_{x=1}^{n} x^2 \frac{1}{n} \\
& = \frac{1}{n} \sum_{x=1}^{n} x^2 \\
& = \frac{1}{n} \cdot \frac{n(n+1)(2n+1)}{6} \ \ (\because 自然数の二乗の和の公式）\\
& = \frac{(n+1)(2n+1)}{6}
\end{align}
```
したがって分散は、
```math
\begin{align}
V[X] & = E[X^2] - (E[X])^2 \\
& = \frac{(n+1)(2n+1)}{6} - (\frac{n+1}{2})^2 \\
& = \frac{2(n+1)(2n+1) - 3(n+1)^2}{12} \\
& = \frac{n^2-1}{12}
\end{align}
```
### 確率母関数
```math
\begin{align}
G_X(s) & = E[s^X] \\
& = \sum_{x=1}^{n} s^x P(X=x) \\
& = \sum_{x=1}^{n} s^x \frac{1}{n} \\
& = \frac{1}{n}(s + s^2 + \cdots + s^n) \\
& = \frac{1}{n} \cdot \frac{s(1-s^n)}{1-s} \ (\because 等比数列の和の公式) \\
& = \frac{s(1-s^n)}{n(1-s)}
\end{align}
```

### モーメント母関数
確率母関数において、$s=e^t$と置くことで、
```math
\begin{align}
M_X(t) & = G_X(e^t) \\
& = \frac{e^t(1-e^{tn})}{n(1-e^t)}
\end{align}
```
と求められる。

# ベルヌーイ分布
### 定義
成功確率$p$の試行に対して、「成功」なら1、「失敗」なら0をとるような確率変数$X$を考える。このとき確率変数$X$は成功確率$p$の**ベルヌーイ分布**に従うという。なお、ベルヌーイ分布の確率関数は以下のように表せる。
$$ P(X=x) = p^x(1-p)^{1-x} \ \ (x=0,1)$$
### 期待値
```math
\begin{align}
E[X] & = 0 \cdot (1-p) + 1 \cdot p \\
& = p
\end{align}
```
### 分散
まず、$E[X^2]$を計算する。
```math
\begin{align}
E[X^2] & = 0^2 \cdot (1-p) + 1^2 \cdot p \\
& = p
\end{align}
```
したがって、分散は
```math
\begin{align}
V[X] & = E[X^2] - (E[X])^2 \\
& = p - p^2 \\
& = p(1-p)
\end{align}
```
### 確率母関数
```math
\begin{align}
G_X(s) & = E[s^X] \\
& = s^0 \cdot (1-p) + s^1 \cdot p \\
& = 1 - p + sp
\end{align}
```

### モーメント母関数
確率母関数において、$s=e^t$と置くことで、
```math
\begin{align}
M_X(t) & = G_X(e^t) \\
& = 1 - p + e^tp
\end{align}
```
と求められる。

# 二項分布
### 定義
表が出る確率が$p$であるコインを$n$回投げたとき、表の出る回数を$X$とすると、確率変数$X$は**二項分布**に従うといい、$X \sim B(n,p)$と表現する。なお、確率関数は以下ように表現できる。
```math
\begin{align}
P(X=x) & = \binom{n}{x} p^x (1-p)^{n-x}
\end{align}
```
なお、$\binom{n}{x}$は二項係数を表す。$_n C _x$のように表記することもできる。
### 期待値
```math
\begin{align}
E[X] & = \sum_{x=0}^{n} x P(X=x) \\
& = \sum_{x=0}^{n} x \binom{n}{x} p^x (1-p)^{n-x} \\
& = \sum_{x=0}^{n} x \frac{n!}{x!(n-x)!} \ p^x (1-p)^{n-x} \\
& = \sum_{x=1}^{n} x \frac{n!}{x!(n-x)!} \ p^x (1-p)^{n-x} \ (x=0のときは次式の式変形が成り立たない)\\
& = \sum_{x=1}^{n}　\frac{n!}{(x-1)!(n-x)!} \ p^x (1-p)^{n-x} \\
& = np \sum_{x=1}^{n}　\frac{(n-1)!}{(x-1)!(n-x)!} \ p^{x-1} (1-p)^{n-x} \\
& = np \sum_{x=1}^{n} \binom{n-1}{x-1} p^{x-1} (1-p)^{(n-1)-(x-1)} \\
& = np \sum_{y=0}^{n-1} \binom{n-1}{y} p^{y} (1-p)^{(n-1)-y} \ (\because y=x-1とおいた) \\
& = np \ (\because B(n-1, p)の全確率は1)
\end{align}
```
:::note
なお、二項分布の期待値は定義通りに計算すると、上記のように少々煩雑ですが、確率母関数やモーメント母関数を用いて計算すると、簡単に求められます。
:::

### 分散
まず、$E[X^2]$を計算する。
```math
\begin{align}
E[X^2] & = \sum_{x=0}^{n} x^2 P(X=x) \\
& = \sum_{x=0}^{n} x^2 \binom{n}{x} p^x (1-p)^{n-x} \\
& = \sum_{x=0}^{n} x^2 \frac{n!}{x!(n-x)!} \ p^x (1-p)^{n-x} \\
& = \sum_{x=1}^{n} x^2 \frac{n!}{x!(n-x)!} \ p^x (1-p)^{n-x} \\
& = \sum_{x=1}^{n} x \frac{n!}{(x-1)!(n-x)!} \ p^x (1-p)^{n-x} \\
& = \sum_{x=1}^{n} \{(x-1)+1\} \frac{n!}{(x-1)!(n-x)!} \ p^x (1-p)^{n-x} \ (x=x-1+1と書き換えた)\\
& = \sum_{x=1}^{n} (x-1) \frac{n!}{(x-1)!(n-x)!} \ p^x (1-p)^{n-x} + \sum_{x=1}^{n} \frac{n!}{(x-1)!(n-x)!} \ p^x (1-p)^{n-x} \\
& = np \sum_{x=1}^{n} (x-1) \frac{(n-1)!}{(x-1)!(n-x)!} \ p^{x-1} (1-p)^{n-x} + np \ (\because 第二項は期待値の計算と同じ)\\
& = np \sum_{y=0}^{n-1} y \frac{(n-1)!}{y!(n-1-y)!} \ p^y (1-p)^{n-1-y} + np \ (\because y=x-1とおいた) \\
& = np \sum_{y=0}^{n-1} y \binom{n-1}{y} \ p^y (1-p)^{n-1-y} + np \\
& = np \cdot (n-1)p + np \ (\because B(n-1,p)の期待値は(n-1)p) \\
& = np(np-p+1)
\end{align}
```
したがって、分散は
```math
\begin{align}
V[X] & = E[X^2] - (E[X])^2 \\
& = np(np-p+1) - (np)^2 \\
& = -np^2 + np \\
& = np(1-p)
\end{align}
```
:::note
分散の計算も期待値と同様に、確率母関数やモーメント母関数を用いた方が、簡潔に求められます。
:::

### 確率母関数
```math
\begin{align}
G_X(s) & = E[s^X] \\
& = \sum_{x=1}^{n} s^x P(X=x) \\
& = \sum_{x=0}^n s^x \binom{n}{x} p^x (1-p)^{n-x} \\
& = \sum_{x=0}^n \binom{n}{x} (sp)^x (1-p)^{n-x} \\
& = (sp + 1 - p)^n \ (\because 二項定理)
\end{align}
```

### モーメント母関数
確率母関数において、$s=e^t$と置くことで、
```math
\begin{align}
M_X(t) & = G_X(e^t) \\
& = (e^tp + 1 - p)^n
\end{align}
```
と求められる。

# ポアソン分布
### 定義
非負定数$\lambda$に対し、確率変数$X$が次の確率関数を持つとき、確率変数$X$は**ポアソン分布**に従うといい、$X \sim Po(\lambda)$と表現する。
```math
\begin{align}
P(X=x) = \frac{\lambda^x}{x!} e^{-\lambda} \ (x=0,1,2,\ldots)
\end{align}
```
### 期待値
```math
\begin{align}
E[X] & = \sum_{x=0}^{\infty} x P(X=x) \\
& = \sum_{x=0}^{\infty} x \frac{\lambda^x}{x!} e^{-\lambda} \\
& = \sum_{x=1}^{\infty} x \frac{\lambda^x}{x!} e^{-\lambda} \\
& = \sum_{x=1}^{\infty} \frac{\lambda^x}{(x-1)!} e^{-\lambda} \\
& = \lambda \sum_{x=1}^{\infty} \frac{\lambda^{x-1}}{(x-1)!} e^{-\lambda} \\
& = \lambda \sum_{y=0}^{\infty} \frac{\lambda^{y}}{y!} e^{-\lambda} \ (y=x-1とおいた) \\
& = \lambda \ (\because 全確率は1)
\end{align}
```
### 分散
まず、$E[X^2]$を計算する。
```math
\begin{align}
E[X^2] & = \sum_{x=0}^{\infty} x^2 P(X=x) \\
& = \sum_{x=0}^{\infty} x^2 \frac{\lambda^x}{x!} e^{-\lambda} \\
& = \sum_{x=1}^{\infty} x^2 \frac{\lambda^x}{x!} e^{-\lambda} \\
& = \sum_{x=1}^{\infty} x \frac{\lambda^x}{(x-1)!} e^{-\lambda} \\
& = \sum_{x=1}^{\infty} \{(x-1)+1\} \frac{\lambda^x}{(x-1)!} e^{-\lambda} \ (x = (x-1)+1と書き換えた)\\
& = \sum_{x=1}^{\infty} (x-1) \frac{\lambda^x}{(x-1)!} e^{-\lambda} + \sum_{x=1}^{\infty} \frac{\lambda^x}{(x-1)!} e^{-\lambda} \\
& = \sum_{x=2}^{\infty} (x-1) \frac{\lambda^x}{(x-1)!} e^{-\lambda} + \lambda \sum_{x=1}^{\infty} \frac{\lambda^{x-1}}{(x-1)!} e^{-\lambda} \\
& = \lambda^2 \sum_{x=2}^{\infty} \frac{\lambda^{x-2}}{(x-2)!} e^{-\lambda} + \lambda \sum_{x=1}^{\infty} \frac{\lambda^{x-1}}{(x-1)!} e^{-\lambda} \\
& = \lambda^2 + \lambda \ (\because 第一項、第二項のΣについて、全確率が1であることより)
\end{align}
```
したがって、分散は
```math
\begin{align}
V[X] & = E[X^2] - (E[X])^2 \\
& = \lambda^2 + \lambda - \lambda^2 \\
& = \lambda
\end{align}
```
### 確率母関数
```math
\begin{align}
G_X(s) & = E[s^X] \\
& = \sum_{x=1}^{n} s^x P(X=x) \\
& = \sum_{x=0}^{\infty} s^x \frac{\lambda^x}{x!} e^{-\lambda} \\
& = e^{-\lambda} \sum_{x=0}^{\infty} \frac{(s\lambda)^x}{x!} \\
& = e^{-\lambda} \cdot e^{s\lambda} \ (\because マクローリン展開の公式)\\
& = e^{\lambda(s-1)}
\end{align}
```

### モーメント母関数
確率母関数において、$s=e^t$と置くことで、
```math
\begin{align}
M_X(t) & = G_X(e^t) \\
& = e^{\lambda(e^t-1)}
\end{align}
```
と求められる。

# 参考文献
- [『現代数理統計学』（竹村彰通著）](https://www.amazon.co.jp/%E6%96%B0%E8%A3%85%E6%94%B9%E8%A8%82%E7%89%88-%E7%8F%BE%E4%BB%A3%E6%95%B0%E7%90%86%E7%B5%B1%E8%A8%88%E5%AD%A6-%E7%AB%B9%E6%9D%91-%E5%BD%B0%E9%80%9A/dp/4780608600)
- [『統計検定１級対応　統計学』（日本統計学会編）](https://www.amazon.co.jp/%E6%97%A5%E6%9C%AC%E7%B5%B1%E8%A8%88%E5%AD%A6%E4%BC%9A%E5%85%AC%E5%BC%8F%E8%AA%8D%E5%AE%9A-%E7%B5%B1%E8%A8%88%E6%A4%9C%E5%AE%9A1%E7%B4%9A%E5%AF%BE%E5%BF%9C-%E7%B5%B1%E8%A8%88%E5%AD%A6-%E4%BA%8C%E5%AE%AE%E5%98%89%E8%A1%8C/dp/448902150X/ref=sr_1_3?__mk_ja_JP=%E3%82%AB%E3%82%BF%E3%82%AB%E3%83%8A&crid=3N4U2O32D2OEL&keywords=%E7%B5%B1%E8%A8%88%E5%AD%A6+%E4%B8%80%E7%B4%9A&qid=1682225128&s=books&sprefix=%E7%B5%B1%E8%A8%88%E5%AD%A6+1%E3%81%8D%E3%82%85%E3%81%86%2Cstripbooks%2C167&sr=1-3)
- [『統計学入門』（東京大学教養学部統計学教室編）](https://www.amazon.co.jp/%E7%B5%B1%E8%A8%88%E5%AD%A6%E5%85%A5%E9%96%80-%E5%9F%BA%E7%A4%8E%E7%B5%B1%E8%A8%88%E5%AD%A6%E2%85%A0-%E6%9D%B1%E4%BA%AC%E5%A4%A7%E5%AD%A6%E6%95%99%E9%A4%8A%E5%AD%A6%E9%83%A8%E7%B5%B1%E8%A8%88%E5%AD%A6%E6%95%99%E5%AE%A4/dp/4130420658/ref=pd_lpo_2?pd_rd_w=LD4oJ&content-id=amzn1.sym.d769922e-188a-40cc-a180-3315f856e8d6&pf_rd_p=d769922e-188a-40cc-a180-3315f856e8d6&pf_rd_r=Y7HAQNRB53A4CFKPFV2Q&pd_rd_wg=RXXu0&pd_rd_r=2b583667-68c0-4409-ab0a-eca82a91f797&pd_rd_i=4130420658&psc=1)
- [『確率と統計』（藤澤洋徳著）](https://www.amazon.co.jp/%E7%A2%BA%E7%8E%87%E3%81%A8%E7%B5%B1%E8%A8%88-%E7%8F%BE%E4%BB%A3%E5%9F%BA%E7%A4%8E%E6%95%B0%E5%AD%A6-%E8%97%A4%E6%BE%A4-%E6%B4%8B%E5%BE%B3/dp/4254117639/ref=sr_1_5?__mk_ja_JP=%E3%82%AB%E3%82%BF%E3%82%AB%E3%83%8A&crid=3D7OPGRAD7J1K&keywords=%E7%A2%BA%E7%8E%87%E3%81%A8%E7%B5%B1%E8%A8%88&qid=1682225163&sprefix=%E7%A2%BA%E7%8E%87%E3%81%A8%E7%B5%B1%E8%A8%88%2Caps%2C174&sr=8-5)