超初心者が学ぶランダムフォレスト・分類回帰樹木 (CART法)②

[超初心者が学ぶランダムフォレスト・分類回帰樹木 (CART法)⓪](https://qiita.com/LTtoose/items/0a355aa40d2a9cfedcf8)
[超初心者が学ぶランダムフォレスト・分類回帰樹木 (CART法)①](https://qiita.com/LTtoose/items/1653eceaee3e5f1907ea)
もどうぞ

前回が重すぎてヘロヘロなので、今回はあまり知られてないであろうと思われる、ポアソン回帰樹木 (**Poisson**) について簡単に取り上げてみようと思います。

##ポアソン回帰の前に
###ポアソン分布ってなに？
ポアソン分布は0以上の正のカウント数に基づくモデリングでよく使われる分布です。例えば、時間当たりの交通量とか、小売店の利用客とか、非連続でカウントできて、その上限が不明なものが応答変数になるのが特徴です。
ポアソン分布のパラメーターは一つだけ、$\lambda$です。参考程度ですが、統計的にはポアソン分布は$平均=分散=\lambda$であることが知られています。

ポアソン分布は
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1031677/ab5308e6-e278-7bde-f25a-7afa22c13219.png)
の式で表される確率分布に従います。ここで$\lambda$はパラメーター、$k$は、その現象の発生回数です。つまり、平均発生回数が$\lambda$である事象が$k$回起こる確率を示しています。
詳しくは[統計学の時間](https://bellcurve.jp/statistics/course/6984.html)さんがおすすめです。

##ポアソン回帰樹木
このポアソン分布を樹木に応用してみましょう。
応答$y$及び説明変数$x$があるときに、$y$が以下のポアソン分布に従うと仮定します。

$\large Pr(Y=y)= \frac{exp(-\mu)\mu^y}{y}$・・・（*）

この仮定のもとで、($y \sim Poisson(\lambda)$)と、yが従う時に、ポアソン回帰に基づくモデルは

$\log(\mu)=f_{GLM}(x)$

で与えられます。これはポアソン分布を用いて一般化線形モデルと呼ばれる回帰式に変形したもので、yを説明変数xの線形予測式で表すことができます。ポアソン回帰の場合は通常、

$\log (\lambda)=\beta_0+\beta_1x_1$

のような形式です。言い換えると行列$\bf{x^T}$**β**です。詳しくは[緑本](https://www.amazon.co.jp/%E3%83%87%E3%83%BC%E3%82%BF%E8%A7%A3%E6%9E%90%E3%81%AE%E3%81%9F%E3%82%81%E3%81%AE%E7%B5%B1%E8%A8%88%E3%83%A2%E3%83%87%E3%83%AA%E3%83%B3%E3%82%B0%E5%85%A5%E9%96%80%E2%80%95%E2%80%95%E4%B8%80%E8%88%AC%E5%8C%96%E7%B7%9A%E5%BD%A2%E3%83%A2%E3%83%87%E3%83%AB%E3%83%BB%E9%9A%8E%E5%B1%A4%E3%83%99%E3%82%A4%E3%82%BA%E3%83%A2%E3%83%87%E3%83%AB%E3%83%BBMCMC-%E7%A2%BA%E7%8E%87%E3%81%A8%E6%83%85%E5%A0%B1%E3%81%AE%E7%A7%91%E5%AD%A6-%E4%B9%85%E4%BF%9D-%E6%8B%93%E5%BC%A5/dp/400006973X/ref=asc_df_400006973X/?tag=jpgo-22&linkCode=df0&hvadid=295700463796&hvpos=&hvnetw=g&hvrand=12732207737133991663&hvpone=&hvptwo=&hvqmt=&hvdev=c&hvdvcmdl=&hvlocint=&hvlocphy=1009333&hvtargid=pla-524952580702&psc=1&th=1&psc=1)や[biostatisticsさん](https://stats.biopapyrus.jp/glm/poisson-regression.html)を参考にどうぞ。

Poisson回帰樹木では、ふし内に複数個体が含まれています。ふし$t$内の母平均$\mu(t)$の推定値は、通常の回帰樹木と同じく平均を取るので、

$\hat\mu(t)=\frac{\sum_{n\in t}y_n}{N(t)}$

で与えられます。

通常の回帰樹木と違い、注意が必要なのは不均一性測度です。ポアソン回帰樹木の場合は、変分（逸脱度: deviance）に基づく尤度の変分残差を用います。その式は

$r_{P_0}(t)=2\sum_{n\in t}\\{y_n\log(y_n/\hat\mu(t))-(y_n-\hat\mu(t))\\}$

で表されます。私も理解が完全ではないのですが、分解して考えてみましょう。

逸脱度は、$D=-2\log(L)$で表されます。この時$L$は尤度です。
そして、尤度は
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1031677/8134ab3b-25d4-3afd-b19d-07fd7dab10ec.png)


で表されます。（参考：[理数アラカルト](https://risalc.info/src/st-maximum-likelihood-Poisson.html)）
各$x_n$の値で得られる確率密度をかけ合わせた値ですね。

ポアソン分布ではこれを対数変換した対数尤度関数が扱われ、$\log L(\lambda)$で与えられます。先ほど(*)で定めた式の右辺を対数変換してみると
$\log (\lambda)=$$-\mu + y\log\mu-\log y$・・・★
と分解できますね。

ここで、偏分残差による不均一性測度と逸脱度に立ち返りましょう。
偏分（逸脱度）の残差、Deviance residualsは
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1031677/67515313-aafb-9bff-9342-f9407fbf473b.png)

で与えられます。（参考（英語です）：[Interpreting GLM]
(https://www.datascienceblog.net/post/machine-learning/interpreting_generalized_linear_models/)）

これ$r_{P_0}(t)$と同等になってほしいのです。
ここで$\hat \theta_s$が最大尤度、$\hat\theta_0$が予測モデルの尤度とします。
★で定めた式を、各nで足し合わせた物が対数尤度$L_n$になることを利用すると、上式に当てはめて

$2(\log(L_{y_n})-\log(L_{\hat\mu(t)}))$
$=2\\{\sum_{n\in t}(-y_n + y_n\log y_n-\log y_n)-\sum_{n\in t}(-\hat\mu(t) + y_n\log\hat\mu(t)-\log y_n)\\}$
$=2\sum_{n\in t}\\{y_n\log (y_n/\hat\mu(t))-(y_n-\hat\mu(t))\\}$
$=r_{P_0}(t)$

となりました。

以降の樹木の成長過程、刈り込み過程、交差確認法の流れは以前までと同じです。

テキスト（Rで学ぶデータサイエンス9）に式の導出がのってなかったので、持てる知識を総動員して試みてみましたが、間違い等ございましたら、ご指摘くださると幸いです。

こうやって見ると、機械学習のアルゴリズムを理解するのにも高度な統計的知識が求められますね。まだまだ勉強が必要です。

次回からは実際にRコードで動かしてみましょう！！

###参考
[Rで学ぶデータサイエンス9](https://www.amazon.co.jp/%E6%A8%B9%E6%9C%A8%E6%A7%8B%E9%80%A0%E6%8E%A5%E8%BF%91%E6%B3%95-R%E3%81%A7%E5%AD%A6%E3%81%B6%E3%83%87%E3%83%BC%E3%82%BF%E3%82%B5%E3%82%A4%E3%82%A8%E3%83%B3%E3%82%B9-9-%E4%B8%8B%E5%B7%9D-%E6%95%8F%E9%9B%84/dp/4320110560)
[データ解析のための統計モデリング入門](https://www.amazon.co.jp/%E3%83%87%E3%83%BC%E3%82%BF%E8%A7%A3%E6%9E%90%E3%81%AE%E3%81%9F%E3%82%81%E3%81%AE%E7%B5%B1%E8%A8%88%E3%83%A2%E3%83%87%E3%83%AA%E3%83%B3%E3%82%B0%E5%85%A5%E9%96%80%E2%80%95%E2%80%95%E4%B8%80%E8%88%AC%E5%8C%96%E7%B7%9A%E5%BD%A2%E3%83%A2%E3%83%87%E3%83%AB%E3%83%BB%E9%9A%8E%E5%B1%A4%E3%83%99%E3%82%A4%E3%82%BA%E3%83%A2%E3%83%87%E3%83%AB%E3%83%BBMCMC-%E7%A2%BA%E7%8E%87%E3%81%A8%E6%83%85%E5%A0%B1%E3%81%AE%E7%A7%91%E5%AD%A6-%E4%B9%85%E4%BF%9D-%E6%8B%93%E5%BC%A5/dp/400006973X/ref=asc_df_400006973X/?tag=jpgo-22&linkCode=df0&hvadid=295700463796&hvpos=&hvnetw=g&hvrand=8594282680567976189&hvpone=&hvptwo=&hvqmt=&hvdev=c&hvdvcmdl=&hvlocint=&hvlocphy=1009333&hvtargid=pla-524952580702&psc=1&th=1&psc=1)