Juliaで学ぶ確率変数(1) - 確率変数の定義

[Juliaで学ぶ確率変数(1) - 確率変数の定義 - Qiita](https://qiita.com/sand/items/afb5976ad28120d216c4)
[Juliaで学ぶ確率変数(2) - ２項分布（離散型） - Qiita](https://qiita.com/sand/items/9eda536b4e8f9bad0055)
[Juliaで学ぶ確率変数(3) - 幾何分布（離散型） - Qiita](https://qiita.com/sand/items/04e4165e823625e0177a)
[Juliaで学ぶ確率変数(4) - ポアソン分布（離散型） - Oiita](https://qiita.com/sand/items/632ad1665ab522e6c619)
[Juliaで学ぶ確率変数(5) - 正規分布（連続型） - Qiita](https://qiita.com/sand/items/4c3ef0b0504704074681)
[Juliaで学ぶ確率変数(6) - 一様分布（連続型） - Qiita](https://qiita.com/sand/items/7c3c54ef82a1bf439cc4)
[Juliaで学ぶ確率変数(7) - 指数分布（連続型） - Qiita](https://qiita.com/sand/items/4d494a8d05d5c88cc5df)
[Juliaで学ぶ確率変数(8) - ガンマ分布（連続型） - Qiita](https://qiita.com/sand/items/744672a69bd6bc1c8f24)
[Juliaで学ぶ確率変数(9) - ベータ分布（連続型） - Qiita](https://qiita.com/sand/items/7443a5ba7be873e113d9)
[Juliaで学ぶ確率変数(10) - コーシー分布（連続型） - Qiita](https://qiita.com/sand/items/8916cf28ad1dd82d8deb)
[Juliaで学ぶ確率変数(11) - まとめ - Qiita](https://qiita.com/sand/items/e4b32f7cfd74dea40298)


　確率変数を勉強中ですが、**「確率統計」（森北出版）** は数学的に明確な定義がしっかり書かれているので、これを中心に勉強しています。あわせて **「統計学入門」（東京大学出版会）** と **「確率論入門」（ちくま学芸文庫、赤攝也）** も併読しています。

　本記事は、それらの教科書を読みながら、実際に例題や問題をJuliaで解いていく試みです。

[Distributions Package - Juliaの確率変数](https://juliastats.org/Distributions.jl/stable/)



# １．確率変数

確率論において、試行の結果、はじめて値が確定する変数Xを確率変数と呼びます。

* サイコロを振る試行の時、出る目をXとする。
* トランプを引くとき、カードの番号をXとする。
* 全国の中学生に対して、それぞれの身長をXで表す。
* 全国の中学3年生から無作為に10人選ぶ（試行。根元事象は10人選ぶ選択肢の数だけある）。その試行の結果として統一試験の国語の平均点Xが確定する。確率変数ではXが40点、50点、60点などの確率P(X=40), P(X=50), P(X=60)を考えていくことになります。


確率変数の抽象的な定義に飛び込む前に、「確率統計」（森北出版）での具体例での定義を紹介します。

::: note info
**サイコロを一回振る施行を考える。**
Ω = {1, 2, 3, 4, 5, 6}
根元事象の確率 pi = P({i}) = 1/6 　　 (i=1,2,...,6)

実数値関数 X : Ω -> R とする。
実数値関数Xを固定し、x を任意の実数とし、Exを以下のように定義する。
**Ex = {w | X(w) <= x}**


実数値関数として次の３つの場合を考える

**(1) X(w) = w の場合**
P(Ex) = 0 　　　　　 x < 1
P(Ex) = 1/6 　　　　 1 <= x <2
P(Ex) = 1 　　 　　　6 <= x 

**(2) X(w) = w x w　（w の２乗）の場合**
P(Ex) = 3/6 = 1/2　　x = 9 　(Ex = {1. 2. 3})

**(3) X(w) = 100  (w=1 or w=6　のとき)、　 -50  (それ以外のとき)**
P(Ex) = 0　　　　　　x < -50
P(Ex) = 2/3　　　　　-50 <= x < 100
P(Ex) = 100　　　　　100 <= x 

**任意の実数値 x に対して確率 P(Ex) が定まる実数値関数 X = X(w) を確率変数と定義する。** X = X(w) の選び方は任意なので、この定義によりさまざまな確率変数を考えることができる。

:::




「確率統計」（森北出版）では一般集合の場合の定義が与えられています。


```math:
\begin{align}
\\
&(\Omega, \Gamma, p)が以下を満たすとき確率空間という。\\
\\
&\Omega : 標本空間（全事象）\\
&\Gamma : \Omegaの部分集合の完全加法族（確率事象の族）\\
&p : \Gamma \rightarrow R,\qquad　[P1],[P2],[P3]の条件を満たす\\
\\
&[P1] \; p(A) \geqq 0 \qquad for \; all \; A \in \Gamma\\
&[P2] \; p(\Omega) = 1\\
&[P3] \; 完全加法性 \;　A_1,A_2,... \in \Gamma が排反な事象であれば、\\
&\qquad \qquad p(\cup_{i=1}^\infty A_i) = \sum_{i=1}^\infty p(A_i)\\
 
\\
&以下のような任意の写像Xを考えます。\\
&X : \Omega \rightarrow R\\
&この場合、Xは各根元事象に 「値を任意に割り振るルール」に他なりません。\\
\\
&次に、Xに対して事象E_xを以下のように定義する。\\
&E_x \equiv \{ X \leqq x \} \equiv \{\; \omega \in \Omega \; | \; X(\omega) \leqq x \;\}\\
\\
&この時以下が成り立てば、Xを\textbf{確率変数}という。\\
&E_x \in \Gamma \qquad for \; all \; x \in R \\
&これはつまりE_xが確率事象であり、 p(E_x)が存在することを意味する。\\
\\
\\
&F_X(x)を確率変数Xの\textbf{分布関数}という。\\
&F_X(x) = p(E_x) \qquad...\qquad確率変数Xがx以下となる事象の確率\\
\\
\\
&以下の２つの場合に分けて確率変数を見ていきたいと思います。\\
\\
&（１）離散型確率変数の場合\\
&確率分布と確率関数が１対１対応している。\\
&f_X(k) = F_X(k+\epsilon)-F_X(k-\epsilon) \quad （\epsilon > 0は十分小さい値） \quad \leftarrow \textbf{確率関数} \\
\\
&F_X(x) = \sum_{k \leqq x} f_X(k)\\
&(*)f_X(k)=p(\{X=k\})なので、F_X(x)とf_X(k)の求め安さは変わらない\\
\\
&（２）連続型確率変数の場合\\
&確率分布と確率密度関数が１対１対応している。\\
&f_X(x) = \frac {d}{dx} F_X(x)  \qquad \leftarrow \textbf{確率密度関数}\\
&F_X(x) = \int_{-\infty}^{x} f_X(v) dv \qquad...\qquad \textbf{分布関数は確率密度関数の面積で表現される。}\\

&\qquad \qquad  \qquad \qquad  \qquad \qquad  \qquad \qquad \qquad  \qquad \qquad \qquad \qquad  \qquad \qquad \qquad  \qquad \\
\end{align}
```


確率変数Xが有限の場合ですが、以下のような表を**確率分布表**と呼びます。

| 確率変数X | 確率 |
|:---:|:---:|
| $$ x_1 $$ | $$ p_1 $$ |
| $$ x_2 $$ | $$ p_2 $$ |
| --- | --- |
| $$ x_n $$ | $$ p_n $$ |



確率変数Xが連続型の場合は、**確率密度関数の面積**で考えることになります。


## （確率変数の例）

少し直感的な意味付けを与えるために例を挙げます。

```math
\begin{align}
&確率pで表が出るコインを、n回投げる施行を考える。\\
&標本空間（全事象）は以下のようになる。\\

&\Omega \equiv \{ (a_1, a_2, a_3, ..., a_n) \; | \; a_i= 1 \;  or \; 0\} \\
&ここでa_i=1は表、a_i=0は裏を表すとする。\\\\
&確率変数Xは、単に要素に対して表の個数rをマップするものと定義できる。\\
&X : \Omega \rightarrow R\\\\
&iを1～ｎの任意の値とするとき、\Gamma は以下の要素からなる集合となる。\\
&\{\; \omega \in \Omega \; | \; X(\omega) = i \;\}\\\\

&この時、表がr回出る確率は以下の式で表せる。\\
&\begin{bmatrix}
n  \\
r 
\end{bmatrix} p^r (1 - p)^{n-r}\\

&\qquad \qquad  \qquad \qquad  \qquad \qquad  \qquad \qquad \qquad  \qquad \qquad \qquad \qquad  \qquad \qquad \qquad  \qquad  \\
\end{align}
```


# ２．離散型確率変数（確率関数）

確率変数Xのとる値が可算個（有限個）の場合、Xは**離散型確率変数**といいます。さらにこの場合、この本では**確率関数**(probability function)なる概念が導入されます。これが「１．確率変数（有限集合）」で定義した確率分布の定義そのものになります。そして確率分布と確率関数が１対１に対応していることが示されています。

以下、離散型確率変数Xを考えていきます。


```math
\begin{align}
\\
&Im(X) = \{ 0, 1, 2,...\} \quad　とする（Xのとる値は可算、有限個）\\
&\{ X = k \} \equiv \{\; \omega \in \Omega \; |  \; X(\omega) = k \; \} \qquad (k=0,1,2,...)\\
\\
&明らかに各\{ X = k \}は排他的であり、\\
&\Omega = \cup_{k=0}^\infty \{ X = k \}\\
\\
&このとき明らかに以下が成り立つ。\\
&\{ X \leqq x \} = \cup_{k \leqq x} \{ X = k \}\\
\\
&確率関数f_X(k)を以下のように定義する。\\
&f_X(k) \equiv p(\{X=k\}) = p_k  \qquad (k=0,1,2,...)\\ 
\\
&*** k \rightarrow p_k の対応付けが確率分布の本質になります。\\
&*** \Omega = \cup_k \{X=k\} と分割できるようにXを決めればよい。\\
&*** しかし\OmegaやXが明示的に与えられることは、必ずしも必要ではない。\\
\\
\\
&確率空間の定義の[P3]完全加法性より、\\
&p(\{X \leqq x\}) = \sum_{k \leqq x} f_X(k)\\
\\
\\
&確率の定義、[P1],[P2],[P3]より以下が成り立つ。\\
&f_X(k) \geqq 0  \qquad (k=0,1,2,...)\\
&\sum_{k=0}^\infty f_X(k) = \sum_{k=0}^\infty p(\{X=k\}) = p(\cup_{k=0}^\infty \{ X = k \}) = p(\Omega) = 1\\
\\
\\
&また以下の２式が成り立つことより、\\
&確率分布F_X(x)と確率関数f_X(x)が一対一対応しているといえます。\\
\\
&f_X(k) = F_X(k+\epsilon)-F_X(k-\epsilon) \qquad \epsilon > 0は十分小さい値\\
\\
&F_X(x)  = p(\{X \leqq x\}) = \sum_{k \leqq x} f_X(k)\\

\\
\\

&\qquad \qquad  \qquad \qquad  \qquad \qquad  \qquad \qquad \qquad  \qquad \qquad \qquad \qquad  \qquad  \qquad \qquad \qquad \qquad \\
\end{align}
```

離散型確率変数の場合は確率関数、連続型確率変数の場合は確率密度関数です。定義が違います。しかし使われ方が似ているので、**どちらの場合も確率密度関数と呼ばれる**ことがあるようです。どちらもf(x)と記されます。Juliaのドキュメントでも確率密度関数(probability density function、PDF)で統一されています。以下本記事でも、確率関数を確率密度関数で統一します。

またこのとき、**確率変数 X は，確率分布 f(x) に従う**、という言い方がされます。


**確率変数Xは、Im(X)をx軸、対応するpをy軸にとりグラフ化するとわかりやすくなります。**本記事でもJuliaのPlotsで要所要所でグラフを表示していきます。


##２－１．離散型確率変数の平均、分散、標準偏差

離散型確率変数を特徴づける量である、**平均**(mean)（=**期待値**）、**分散**(variance)、**標準偏差**(standard deviation)の定義をまとめます。

```math
\begin{align}
\\
&平均\\
&E[X] = \sum_{k=0}^\infty kf_X(k)\\
\\
&分散\\
&V[X] = E[(X-E[X])^2]=E[X^2]-(E[X])^2\\
\\

&\qquad \qquad  \qquad \qquad  \qquad \qquad  \qquad \qquad \qquad  \qquad \qquad \qquad \qquad  \qquad\\
\end{align}
```

**分散の平方根が標準偏差**です。



また、**今後、以下のように確率密度関数、確率分布を略記します。Xを省略します。**

```math
\begin{align}
&f(x) = f_X(x)\\
&F(x) = F_X(x)\\
\\
&\qquad \qquad  \qquad \qquad  \qquad \qquad  \qquad \qquad \qquad  \qquad \qquad \qquad \qquad  \qquad\\
\end{align}
```






# ３．連続型確率変数（確率密度関数）

確率変数Xのとる値が可算個（有限個）の場合、Xは離散型確率変数といいました。可算個を超える場合は、連続型確率変数と呼ばれます。主に確率変数が、以下のように**確率密度関数**というものが存在して、その積分として表される場合を考えていきます。

```math
\begin{align}
\\
&確率変数Xの分布F_X(x)が以下の式で表される連続型確率変数を考える。\\
&f_X(x) \geqq 0 \;は積分可能な実数値関数で、確率密度関数といわれる。\\
\\
&F_X(x) = p(\{X \leqq x\}) = \int_{-\infty}^{x} f_X(v) dv\\
\\
\\
&p(\alpha < X \leqq \beta) = p(X \leqq \beta) - p(X \leqq \alpha)
= F_X(\beta) - F_X(\alpha) = \int_{\alpha}^{\beta} f_X(x) dx
\\
\\
&特に、\alpha \rightarrow -\infty \quad \beta \rightarrow \infty \quad の時、f_X(x)について以下の等式の成立が要求される。\\
&p(\Omega) = p(-\infty < X \leqq \infty) = \int_{-\infty}^{\infty} f_X(x) dx = 1\\ 
\\
\\
&また確率密度関数は以下のように表される。\\
&f_X(x) = \frac {d}{dx} F_X(x) \\
\\
\\
&平均の定義\\
&E[X] = \int_{-\infty}^{\infty} xf_X(x) dx\\
\\
&分散\\
&V[X] = \int_{-\infty}^{\infty} (x - E[X])^2 f_X(x) dx\\
\\
\\
&\qquad \qquad  \qquad \qquad  \qquad \qquad  \qquad \qquad \qquad  \qquad \qquad \qquad \qquad \qquad \qquad \qquad \qquad\\
\end{align}
```



## ３－１．連続型確率変数の平均、分散、標準偏差


連続型確率変数を特徴づける量である、平均(mean)（=期待値）、分散(variance)の定義をまとめます。

```math
\begin{align}
\\
&平均\\
&E[X] = \int_{-\infty}^{\infty} xf_X(x) dx\\
\\
&分散\\
&V[X] = \int_{-\infty}^{\infty} (x - E[X])^2 f_X(x) dx\\
\\
\\
&*** 比較のため離散型の平均と分散 ***\\
\\
&平均\\
&E[X] = \sum_{k=0}^\infty kf_X(k)\\
\\
&分散\\
&V[X] = \sum_{k=0}^\infty (k-E[X])^2f_X(k)\\
\\
&\qquad \qquad  \qquad \qquad  \qquad \qquad  \qquad \qquad \qquad  \qquad \qquad \qquad \qquad \qquad \qquad \qquad \qquad\\
\end{align}
```


また、**今後、以下のように確率密度関数、確率分布を略記します。Xを省略します。**

```math
\begin{align}
&f(x) = f_X(x)\\
&F(x) = F_X(x)\\
\\
&\qquad \qquad  \qquad \qquad  \qquad \qquad  \qquad \qquad \qquad  \qquad \qquad \qquad \qquad  \qquad\\
\end{align}
```

###＊平均と分散の性質

離散型確率変数と連続型確率変数の両方において、平均と分散は以下の性質を持ちます。

```math
\begin{align}
&平均 E[X] の性質\\
\\
&(a) \; E[c] = c\\
&(b) \; E[X+c] = E[X]+c\\
&(c) \; E[cX] = cE[X]\\
&(d) \; E[X+Y] = E[X]+E[Y]\\
\\
\\
\\
&分散V[X]の性質\\
\\
&(a) \; V[c] = 0\\
&(b) \; V[X+c] = V[X]\\
&(c) \; V[cX] = c^2 V[X]\\

&\qquad \qquad  \qquad \qquad  \qquad \qquad  \qquad \qquad \qquad  \qquad \qquad \qquad \qquad  \qquad\\
\end{align}
```



# ４．Juliaで確率分布を扱う

Juliaで確率分布を扱うための、パッケージや関数は以下の記事にまとめていますので、ご参照ください。

[Juliaで学ぶ確率変数(11) - まとめ - Qiita](https://qiita.com/sand/items/e4b32f7cfd74dea40298)



今回は以上になります。