【入門】尤度と最尤推定とその周辺知識について

<script async src="https://cdnjs.cloudflare.com/ajax/libs/mathjax/2.7.0/MathJax.js?config=TeX-AMS_CHTML"></script>
<script type="text/x-mathjax-config">
 MathJax.Hub.Config({
 tex2jax: {
 inlineMath: [["\\(","\\)"] ],
 displayMath: [ ['$$','$$'], ["\\[","\\]"] ]
 }
 });
</script>

尤度とその周辺知識を学習する際にまとめたものです。
入門者向けです。

扱うテーマはこんな感じになっています

<img width="500" alt="尤度と最尤推定と" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/138735/2ed8ded9-87e6-6204-3cb0-7fd076ff38ac.png">



## 尤度とは

尤度$L$はその値が観測される確率$ p(x1), …,  p(x_N) $を用いて下式のように表されます。 (ただし、$ x_i $は互いに独立であるとします)

$ L=\prod_{i=0}^n x_i $

これは同時確率の計算と同じでは？

```
【用語】

- 同時確率
  - ある確率の事象XとYが同時に起きる確率を同時確率
- 条件付き確率
  - ある事象が起こる前提のもとで、別のある事象が起こる確率を条件付き確率
```

同時確率の計算と同じでは？
→ 式は同じ
→ でも違うものとして定義されている
→ ということはその式の示す意味が違う

**尤度は観測データが分かっている状態で、それらのデータに対して、あるパラメータを与えた時どれだけ尤もらしいかを意味している**

```
（例）
コインが1枚ある。このコインを10回投げたところ、9回表が出た。このコインの表が出る確率はいくつか？
```

> 観測データが分かっている状態で、

→ 「コインが1枚ある。このコインを10回投げたところ、9回表が出た。」という状態

> あるパラメータを与えた時どれだけ尤もらしいか

→ パラメータ=確率分布
→ 例えばコインの表が出る確率を1/2とすると

$$ \begin{eqnarray*} _{10} C _9 \end{eqnarray*}(\frac{1}{2})^9(\frac{1}{2})^1=\frac{10}{1024}\approx0.977\% $$

これが尤度

この場合はパラメータを1/2として与えましたが、ここを変化させていくことで複数の尤度の値を求めることができる
そしてこれらは、それぞれのパラメータが与えられた時、観測データ（= 「コインが1枚ある。このコインを10回投げたところ、9回表が出た。」）がどのくらいの確率で得られるか、ということを表している

## 最尤推定

ここまでで、あるパラメータを与えた時に観測データ（= 「コインが1枚ある。このコインを10回投げたところ、9回表が出た。」）がどのくらいの確率で得られるか、ということを導出できました。

それらの「尤度」の中から最も値が大きいもの
= 観測データを得る確率が最も大きいものを推定することを「最尤推定」といい、その推定値のことを「最尤推定量（値）」と呼びます。

>  最尤推定や最尤法とは、統計学において、与えられたデータからそれが従う確率分布の母数を点推定する方法である。 

引用: [wikipedia]([https://ja.wikipedia.org/wiki/%E6%9C%80%E5%B0%A4%E6%8E%A8%E5%AE%9A](https://ja.wikipedia.org/wiki/最尤推定))

```
【用語】

- 点推定
  - 平均値などを1つの値で推定すること。
- 区間推定
  - 平均値などをある区間でもって推定すること。
```

例えば、上の例の場合、最尤推定量は9/10となります。
これは感覚でわかると思うのですが、ではそれを抽象化するとどうなるでしょう？

尤度とは

**観測データが分かっている状態で、それらのデータに対して、あるパラメータを与えた時どれだけ尤もらしいかを意味している**

ものでした。

ここでパラメータ$θ$に従う確率密度関数を$f(x;θ)$と置いてみます
→ これは尤度の定義にある、「あるパラメータを与えた時」という状態を$;θ$で表している密度関数です
→ 尤度は「観測データが分かっている状態で」この$θ$の値を求めることであるので、尤度関数は$x$を与えた場合での$θ$の関数と捉えることができ、
$$L(θ;x) = f(x;θ)$$
と表すことができます。
→ この最大化をしたいので、$θ$について微分を行うことで最尤推定量が導き出されます

```
【用語】

連続型確率変数がある値をとるという事象の確率密度を記述する関数である。確率変数がある範囲の値をとる確率を、その範囲にわたって確率密度関数を積分することにより得ることができるよう定義される。確率密度関数の値域は非負の実数であり、定義域全体を積分すると1である。
```

引用: [wikipedia]([https://ja.wikipedia.org/wiki/%E7%A2%BA%E7%8E%87%E5%AF%86%E5%BA%A6%E9%96%A2%E6%95%B0](https://ja.wikipedia.org/wiki/確率密度関数))



確率変数X が連続的な値をとる連続確率変数であるときに X がある範囲 [a, b] をとる確率を P とした場合，その確率を与える以下の関数 f(x) を**確率密度関数**という．確率密度関数は，累積分布関数を意味する CDF に対して PDF と略記されることがある．

P(a≤x≤b)=∫baf(x)dx(1)

引用: [データ科学便覧 確率密度関数と確率質量関数](https://data-science.gr.jp/theory/tbs_pdf_and_pmf.html)



## 最尤推定とベイズ推定

対象を推定する方法として最尤推定と共に話題に上がるのがベイズ推定です。

ベイズ推定とはなんでしょう？

>  **ベイズ推定**（ベイズすいてい、[英](https://ja.wikipedia.org/wiki/英語): Bayesian inference）とは、[ベイズ確率](https://ja.wikipedia.org/wiki/ベイズ確率)の考え方に基づき、観測[事象](https://ja.wikipedia.org/wiki/事象)（観測された事実）から、推定したい事柄（それの起因である原因[事象](https://ja.wikipedia.org/wiki/事象)）を、[確率](https://ja.wikipedia.org/wiki/確率)的な意味で[推論](https://ja.wikipedia.org/wiki/推論)することを指す。
>
> [ベイズの定理](https://ja.wikipedia.org/wiki/ベイズの定理)が基本的な方法論として用いられ、名前の由来となっている。[統計学](https://ja.wikipedia.org/wiki/統計学)に応用されて[ベイズ統計学](https://ja.wikipedia.org/wiki/ベイズ統計学)[[1\]](https://ja.wikipedia.org/wiki/ベイズ推定#cite_note-1)の代表的な方法となっている。

引用: [wikipedia]([https://ja.wikipedia.org/wiki/%E3%83%99%E3%82%A4%E3%82%BA%E6%8E%A8%E5%AE%9A](https://ja.wikipedia.org/wiki/ベイズ推定))

その方法論である「ベイズの定理」とは次のように定義されています

$$ P(A|B)=\frac{P(B|A)P(A)}{P(B)} $$

$P(A|B)$: 事後確率[^1]
$P(B|A)$: 尤度
$P(A)$: 事前確率（他に情報がない状況で、ある事象が観測される確率）

最尤推定が、尤度を最大化するパラメータを推定していく方法であったのに対し、
ベイズ推定は上記の式が示すように尤度と事前確率を元に推定を行っている、
と言うことができます。

>言い換えると、
>最尤推定法は、
>"今取得したデータの確率のみ使用してパラメータを推定"し、
>ベイズ推定は、
>"今取得したデータだけでなく、過去の推定結果や
>経験に基づく事前確率も使用してパラメータを推定"
>する方法だということです。

引用: [尤度とは何者なのか？ My Enigma](https://myenigma.hatenablog.com/entry/20120624/1340538748?amp=1)

[^1]: 事後確率は条件付き確率の一種である、という関係性がある（[wikipedia](https://ja.wikipedia.org/wiki/%E4%BA%8B%E5%BE%8C%E7%A2%BA%E7%8E%87)）


## 参考

*  [猫になりたい 確率で出てくるセミコロン( ; )と縦線( | )の違い](http://blog.neko-ni-naritai.com/entry/2018/01/12/222528)
*  [AVILEN AI Trend 最尤推定量とは？初めての人にもわかる解説](https://to-kei.net/basic-study/estimator/maximum-likelihood-estimation/)
*  [MyEnigma 尤度とは何者なのか？](https://myenigma.hatenablog.com/entry/20120624/1340538748)
*  [⾼信頼システム 09 機械学習を活⽤した⾼信頼化技術](http://www.ecei.tohoku.ac.jp/hariyama/lecture/dependable/dependable09-2019.pdf)