SHAP(SHapley Additive exPlanation)についての備忘録

# 背景・目的
ブラックボックス化しがちな機械学習モデルを解釈し、なぜその予測値が出ているのかの説明に役立つSHAP値について、理解を深めるべく論文や公式資料を漁りました。自分用の備忘録としてこちらに内容をまとめておきます。

# SHAPとは何か?

* 正式名称は**SHapley Additive exPlanations**で、機械学習モデルの解釈手法の1つ
    * なお、「SHAP」は解釈手法自体を指す場合と、手法によって計算された値(SHAP値と呼ぶこともある)を指す場合がある
* **NIPS2017 [^1]**にて発表された
    * 論文は[A Unified Approach to Interpreting Model
Predictions](https://proceedings.neurips.cc/paper/2017/file/8a20a8621978632d76c43dfd28b67767-Paper.pdf)
* それまでに存在した解釈手法(**Additive Feature Attribution Methods**。 LIMEの基本アイデア)に**協力ゲーム理論**の**Shapley Value**を導入して改良したもので、計算効率の向上と実用上の望ましい数学的性質(後述)を兼ね備えている
    * 協力ゲーム理論において、Shapley Valueとは各プレイヤーの貢献度合いに応じて利益を分配する指標のこと
    * そこで、機械学習モデルの各特徴量をプレイヤーに見立ててShapley Valueを計算することで各特徴量の貢献度合いを評価しようというもの
* 各特徴量のSHAP値はサンプルのそれぞれのレコードに対して求められる
    * そのため、特定のレコードに対して予測結果の解釈が可能(**ミクロ的解釈**)
    * また、サンプル全体で各特徴量のSHAP値の分布や平均を見ることで、モデル内での各特徴量の予測値に対する影響の仕方を把握できる(**マクロ的解釈**)

## Additive Feature Attribution Methodsとは何か?
* Additive Feature Attribution Methodsとは、特徴量の線形関数を用いた機械学習の解釈手法のこと
* 線形回帰モデルの解釈が容易なことから、機械学習モデルにおいても各データに対して特徴量と予測結果の線形モデルを作り、特徴量が予測に与える影響を定量評価しようとする手法
* 元の特徴量($x_{i}$)から、その特徴量の存在有無を示すバイナリ値($z_{i}^{'}$)に代えて扱う

定義式は以下の通りです。

```math
\begin{align}
g(z^{'})&=\phi_{0}+\sum_{i=1}^{M}\phi_{i}z_{i}^{'}\\
&(=bias+\sum contribution \space of \space each \space feature)
\end{align}
```

ここで、$g(z^{'})$は元の予測モデル$f(x)$に対する局所的な代替モデルを表し、$\phi_{i}$は特徴量$i$の有無によってどれだけ最終的な予測結果に影響があるかを示しています。

# Shapley Valueとは何か?
* 協力ゲーム理論 [^3]において利益分配の基準として用いられる指標の1つ
* 複数のプレイヤーが協力して得た利益を各プレイヤーの貢献度に応じて分配する際に、どのプレイヤーにどれだけ分配すればよいかを表す
* プレイヤー $i$ が加わることによって生じる追加的な貢献度を**限界貢献度**と呼び、この限界貢献度を用いて計算される
    * (参考) **限界貢献度**とは
        * プレイヤー $i$ が加わることによって生じる追加的な貢献度のこと
        * プレイヤーの部分集合$S$に対して、$v(S)$をSのメンバーが協力することによって獲得できる利益とした時、任意の$i\in N$と任意の部分集合$S\subseteq N\setminus \\{ i \\}$ [^4]に対して、プレイヤー$i$の限界貢献度は$v( S\cup \\{ i \\} )-v(S)$で表される
* プレイヤー$i\space(\in N)$のShapley Valueは以下で定義される ( $|S|$ は任意の部分集合$S\subseteq N$に対して$S$の要素数)$$\phi_{i}(v)=\sum_{S\subseteq N\setminus \\{i\\}}\frac{|S|!(n-|S|-1)!}{n!}(v(S\cup \\{i\\})-v(S))$$
* [アルバイトゲームとShapley Value](https://dropout009.hatenablog.com/entry/2019/11/20/091450#%E3%82%A2%E3%83%AB%E3%83%90%E3%82%A4%E3%83%88%E3%82%B2%E3%83%BC%E3%83%A0%E3%81%A8Shapley-Value)に記載されているアルバイトの例が非常にわかりやすい

## 機械学習モデルの解釈を目的とした場合のSHAP値
* 機械学習モデルの解釈においては、協力ゲーム理論における各プレイヤーを機械学習モデルの各特徴量に置き換えてSHAP値を計算する
* ある特徴量$i$以外の全ての特徴量の組み合わせについて、予測モデルの出力$f_{x}$が特徴量$i$を含むことで生じる予測結果$f_{x}$の差を評価する

計算式は以下の通り(前述の式と同じ)です。

```math
\phi_{i}=\sum_{S\subseteq N\setminus \{i\}}\frac{|S|!(n-|S|-1)!}{n!}(f_{x}(S\cup \{i\})-f_{x}(S))
```

ここで、$S$は特徴量$i$を除いた特徴量の部分集合であり、$f_{x}(S)$は特徴量の集合$S$の元での予測結果の期待値です。

```math
f_{x}(S)=E[f(x)|x_{S}]
```

# SHAPの3つの性質
SHAPには以下3点の性質があり、この3点を満たす説明モデルはただ1つとなることがわかっています (**SHAPの主定理**)。

- 1: **Local accuracy**
    - **説明対象のモデル予測結果 = 特徴量の貢献度の合計値(SHAP値の合計)** の関係になっている
    - $f(x)=g(x^{'})=\phi_{0}+\sum_{i=1}^{M}\phi_{i}x_{i} ^{'}$
- 2: **Missingness**
    - **存在しない特徴量( $z_{i}^{'}=0$ )は影響しない**
    - $x_{i}^{'}=0\Rightarrow \phi_{i}=0$
- 3: **Consistency**
    - **任意の特徴量がモデルに与える影響が大きくなるようにモデルを変更した際に、その特徴量の貢献度が減少しない**
    - $f_{x}^{'}(z^{'})-f_{x}^{'}(z^{'}\setminus i)\geq f_{x}(z^{'})-f_{x}(z^{'}\setminus i)$


# SHAPの様々なタイプ

特定のモデルに関しては、モデル個別のSHAP(近似値)の計算手法があります。特定のモデルに特化することで計算をより高速にできる利点があります。

- **Linear SHAP**
    - 線形モデルの貢献度合い計算法
    - 線形モデルの場合、SHAP値はモデルの重み係数から直接近似できる
    - $f(x)=\sum_{j=1}^{M} w_{j}x_{j}+b, \space \phi_{0}(f, x)=b$のもとで、$\phi_{i}(f, x)=w_{j}(x_{j}-E[x_{j}])$
    - 実際、重回帰モデルなどでSHAP値を出すと、回帰係数×変数の値 とSHAP値が一致
- **Tree SHAP**
    - 決定木ベースのモデルに対する手法
- **Deep SHAP (DeepLIFT + Shapley Values)**
    - 深層学習モデルに特化した手法

## SHAP値の手計算

シンプルな決定木を用いて、実際にSHAP値を手計算してみます。 SHAP値がどのように計算されているかを大まかに把握することが目的なので、決定木自体はpythonで作成し、特に精度にはこだわっていません。 

以下は利用スクリプトです。(※Jupyter Notebookを利用しています。)

```python
# ライブラリの読み込み
import numpy as np
import pandas as pd

from sklearn.model_selection import train_test_split
from sklearn.tree import  DecisionTreeRegressor
from sklearn.metrics import mean_absolute_error

import matplotlib.pyplot as plt
%matplotlib inline
from sklearn.tree import plot_tree

# データ用意
X, y = shap.datasets.boston()
X.head()
```
Toy dataとして[ボストンの住宅価格データ](https://scikit-learn.org/stable/datasets/toy_dataset.html#boston-dataset)を用います。データの中身は以下の通りです。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/395388/03991205-7062-374c-73f8-4a4c70082cd6.png)

続いて、決定木の作成~可視化です。

```python
# 決定木をシンプルな構成にするため、変数を絞る
X = X.loc[:, ['CRIM', 'DIS']]

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=0)

# create model
model = DecisionTreeRegressor(max_depth=2) # シンプルな木にするため2階層に指定
model.fit(X_train, y_train)

print(mean_absolute_error(y_train, model.predict(X_train)).round(2))
print(mean_absolute_error(y_test, model.predict(X_test)).round(2))
# 5.56
# 6.26

plt.figure(figsize=(16, 6))
plot_tree(model, feature_names=X.columns, filled=True, proportion=True, fontsize=10)
plt.show()
```

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/395388/09e74950-5e6b-7605-0df9-6f22fd517c5f.png)

(※True/Falseのテキストは後で手動でつけたものなので、上記コードを実行しても出てきません。)
1番目の訓練データについてSHAP値を計算してみようと思うので、まず特徴量を確認します。

```python
X_train.head(1)
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/395388/0da49fe0-ccec-ebaa-e3a2-37a8cef6336d.png)

次に、特徴量の組み合わせ($S$)ごとにモデル期待値を計算します。計算した結果が以下の表です。

|| 特徴量の組み合わせ | モデル期待値 ($f_{x}(S)$) |
|:-:|:-:|:-:|
|1| {特徴量なしの場合} |22.74|
|2| {CRIM} |24.63|
|3| {DIS} |17.72|
|4| {CRIM, DIS} |24.37|

それぞれの特徴量の組み合わせごとのモデル期待値 ($f_{x}(S)$) は以下のように計算しました。
(**あくまでSHAP値の計算方法のイメージを掴むことが目的であり、SHAP値が概算できれば良いものとして進めています。そのため、一部大雑把な計算になっているところがあるかと存じます。修正点があれば修正方法と併せてご指摘いただけると幸いです。**)

* **特徴量なしの場合**: $f_{x}$は予測値の平均値
* **特徴量がCRIMのみの場合**
    * CRIMの情報のみわかっている場合のモデル期待値を計算するには、周辺化でDIMの影響を除外した予測値を計算する
    * CRIM = 1.62なので、決定木の最初の分岐条件はTrueでそれ以上先はないので最初の条件分岐にあるvalue=24.636(CRIM<=6.686を満たす訓練データの平均値になっている)をモデル期待値とする
* **特徴量がDISのみの場合**
    * DISの情報のみわかっている場合のモデル期待値を計算するには、周辺化でCRIMの影響を除外した予測値を計算する
    * DIS=1.43の場合は予測値は24.37, 11.07のどちらかになるので、平均をとって17.72
* **特徴量がCRIM、DISの場合**: 今回作った決定木の予測結果そのもので、24.37

上記の値を用いると、テストデータの1レコード目における、CRIM、DISそれぞれのSHAP値を手計算することができます。

例えば、CRIMのSHAP値を求める場合($i=$CRIMの場合)は以下のようになります。
特徴量のサブセットは2通りあり、

1. $S=\\{\\}, |S|=0, |S|!=1, S\cup \\{ i \\} = \\{ CRIM \\}$
1. $S={DIS}, |S|=1, |S|!=1, S\cup \\{ i \\} = \\{ CRIM, DIS \\}$

計算式と結果は以下の通りです。

```math
\begin{align}
\phi _{CRIM}&=\frac{0!1!}{2!}[f_{x}(CRIM=1.62)-f_{x}()]+\frac{0!1!}{2!}[f_{x}(CRIM=1.62, DIS=1.43)-f_{x}(DIS=1.43)]\\
&=\frac{1}{2}(24.63-22.74)+\frac{1}{2}(24.37-17.72)=4.27
\end{align}
```

同様に、DISのSHAP値も計算してみます。

```math
\begin{align}
\phi _{DIS}&=\frac{0!1!}{2!}[f_{x}(DIS=1.43)-f_{x}()]+\frac{0!1!}{2!}[f_{x}(DIS=1.43, CRIM=1.62)-f_{x}(CRIM=1.62)]\\
&=\frac{1}{2}(17.72-22.74)+\frac{1}{2}(24.37-24.63)=-2.63
\end{align}
```

上記の計算式から明らかではありますが、求めたSHAP値を特徴量がないときのモデル期待値(base value:$\phi_{0}$)に足していくと、予測結果になります。

```math
\begin{align}
\phi_{0}+\phi_{CRIM}+\phi_{DIS}&=22.74+4.27-2.63\\
&=24.38\space(=f(x))
\end{align}
```

検算も兼ねてpythonでもSHAP値を出してみます。

```python
# SHAP(SHapley Additive exPlanations)
import shap

explainer = shap.Explainer(model, X_train)
shap_values = explainer(X_train)
shap.plots.waterfall(shap_values[0])
```
結果は以下の通りです。手計算した値はやや異なってしまったのですが、SHAP値の絶対値がCRIM>DISとなっている点と、CRIMが正でDISが負の値になっている点は一致していました。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/395388/27cc556a-ed7f-c0a8-5806-b51bb13b929e.png)



# SHAP値の取得と可視化スクリプト一式
簡易的にモデルを作り、SHAPの取得から可視化までを一通り行ってみます。可視化についてはいろいろな関数が用意されているので使い方を見ていきたいと思います。

## データの準備
```python
# ライブラリの読み込み
import numpy as np
import pandas as pd

from sklearn.model_selection import train_test_split
from xgboost import XGBRegressor

from sklearn.metrics import mean_absolute_error
from sklearn.model_selection import GridSearchCV

# SHAP(SHapley Additive exPlanations)
import shap

from sklearn.tree import plot_tree
import matplotlib.pyplot as plt
%matplotlib inline

# dataの用意
X, y = shap.datasets.boston() # ボストンの住宅価格データ
X.shape
# (506, 13)

X.head()
```

ここでもToy dataとして[ボストンの住宅価格データ](https://scikit-learn.org/stable/datasets/toy_dataset.html#boston-dataset)を用います。データの中身は以下の通りです。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/395388/6b91c3dd-ea29-31ed-23d5-72c8b328fdd0.png)

```python
# 訓練データとテストデータに分ける
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=0)
```

## モデル作成(XGBoost)
※SHAP値の計算・可視化が目的なので、モデルの精度などは一旦度外視しています。

```python
params = {'n_estimators': 100,
          'max_depth': 5,
          'min_samples_split': 5,
          'learning_rate': 0.01,
          'loss': 'ls'}

xgb = XGBRegressor(**params)

params_search = {'n_estimators': [10, 100, 1000]}
grid = GridSearchCV(xgb, params_search, cv=10, n_jobs=-1, verbose=True)
grid.fit(X_train, y_train)

print('Grid best parameter: ', grid.best_params_)
# Grid best parameter:  {'n_estimators': 1000}

params = {'n_estimators': grid.best_params_['n_estimators'],
          'max_depth': 5,
          'min_samples_split': 5,
          'learning_rate': 0.01,
          'loss': 'ls'}

xgb = XGBRegressor(**params)
xgb.fit(X_train, y_train)

# 一応確認
print(mean_absolute_error(y_train, xgb.predict(X_train)))
print(mean_absolute_error(y_test, xgb.predict(X_test)))
# 0.34361747671655346
# 2.526548767717261
```

## 予測結果の確認
訓練データに対する**予測結果の平均値(=SHAP値のbase value)**を見ておきます。合わせて、最初の数レコードの予測値、訓練データの各特徴量の値を確認しておきます。

```python
# 予測結果
y_pred = xgb.predict(X_train)

# 最初の5レコード分の予測値
print(y_pred[0:5].round(1))
# [14.3 24.3 17.8 22.9 20.4]

# 予測値の平均
y_pred.mean()
# 22.743422

# 訓練データの特徴量
X_train.head()
```

以下は訓練データの最初の数レコードの内容です。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/395388/281e21f7-9266-2f16-290c-55a162115e22.png)



## SHAP値の計算
ここからSHAPの計算~可視化です。

```python
explainer = shap.TreeExplainer(xgb)

# SHAP値は「shap._explanation.Explanation」で持つか、array型で持つかで出し方が少し変わる
shap_values = explainer(X_train) # shap._explanation.Explanation型の場合
shap_values_ar = explainer.shap_values(X_train) # numpy.ndarray型の場合
print('shap_values: ', type(shap_values))
print('shap_values_ar: ', type(shap_values_ar))
# shap_values:  <class 'shap._explanation.Explanation'>
# shap_values_ar:  <class 'numpy.ndarray'>
```

## waterfall
滝グラフの形式で可視化です。

```python
# 訓練データの1レコード目の各特徴量のSHAP値を滝グラフで可視化
shap.plots.waterfall(shap_values[0])
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/395388/a7774046-8aed-ac16-d868-9f9a1e112f12.png)
グラフ上部の$f(x)=14.331$と書かれているグレーの線が予測値を示し、グラフ左下の$E[f(X)]=22.743$と書かれている場所がbase valueです。各特徴量の棒グラフの値はSHAP値で、予測値を引き上げる特徴量は赤で示され、予測値を下げる特徴量は青で示されています。それぞれの特徴量がbase valueに対し正負どちらの方向にどの程度影響し、予測値に至ったかが直感的にわかるようになっています。

## decision_plot
decision_plotという関数でも各特徴量のSHAP値と予測結果の可視化が可能です。(使い勝手が悪いのか、あまり見かけることはないグラフですが、個人的には1レコード可視化する分にはわかりやすいと思ってます。) 詳しい説明は[論文著者が公開しているdecision_plotのドキュメント](https://slundberg.github.io/shap/notebooks/plots/decision_plot.html)に載っています。

```python
# 訓練データの1レコード目の各特徴量が予測結果に与える影響を可視化
# モデルのbase valueはグラフ中央付近のグレーの線で、グラフ上部の目盛りと折れ線の接点が最終的な予測値になっている
# 各特徴量がbase valueにどの程度作用して最終的な予測値になっているかがわかるようになっている
shap.decision_plot(explainer.expected_value, shap_values_ar[0], X_train.iloc[[0], :])
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/395388/4fc5f111-762f-9934-8470-891aa351fb36.png)

waterfallと違って、複数レコードまとめて確認することも可能です。

```python
# 訓練データの10レコード分をdesicion_plotで可視化した場合
shap.decision_plot(explainer.expected_value, shap_values_ar[0:10], X_train.iloc[0:10, :])
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/395388/01ae7a49-c36d-f243-ec48-62f1c8eabd28.png)

しかし、可視化対象が多すぎると、decision_plotでは収拾がつかなくなります。

```python
# 訓練データの全てをdesicion_plotで可視化した場合
shap.decision_plot(explainer.expected_value, shap_values_ar, X_train)
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/395388/bb4a38d0-2f96-ad29-e126-bdf7c91d9dee.png)

## force_plot
force_plotという関数もあるので、試してみます。

```python
# 訓練データの1レコード目の各特徴量のSHAP値を数直線上で可視化
shap.initjs()
shap.plots.force(shap_values[0])
# 以下でも同じ結果になる
# shap.force_plot(explainer.expected_value, shap_values_ar[0], X_train.iloc[0, :])
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/395388/b5021d6b-74a4-e180-5654-763fc0f799a7.png)

複数レコードに対してforce_plotを作成した場合は、各レコードのforce_plotが90度回転し、縦に並んだ形式で可視化されます。このグラフはインタラクティブになっており、サンプルの並び順(デフォルトではサンプルの類似度順)、縦軸の内容を変えられるようになっています。

```python
# 訓練データの初めの3レコードについてSHAP値を可視化
shap.initjs()
num = 3
shap.force_plot(explainer.expected_value, shap_values_ar[0:num], X_train.iloc[0:num, :])
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/395388/2f2c8747-fe5c-92cf-8454-4c1c726bbde6.png)

```python
# 訓練データの全レコードについてSHAP値を可視化
shap.initjs()
shap.force_plot(explainer.expected_value, shap_values_ar, X_train)
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/395388/61937e8b-dec4-4d20-a1aa-d96ce362de45.png)

## summary_plot

```python
# 各特徴量のSHAP値の絶対値の平均(つまり、各特徴量の予測に対する寄与度)を棒グラフで表示
# 予測に対する寄与度が大きい順にソートされて表示される
shap.plots.bar(shap_values, max_display=20) # max_displayで表示する変数の最大数を指定
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/395388/af657f6f-d5ac-4826-44fc-bb13ec40e317.png)


```python
# 少し見た目が異なるが、以下でも同じグラフが作れる
shap.summary_plot(shap_values_ar, X_train, show=True, plot_type='bar', max_display=20) # max_displayで表示する変数の最大数を指定
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/395388/df43b351-25e4-7558-4669-dc85e86458f3.png)


```python
# 全サンプルについて、各特徴量のSHAP値の分布を可視化したもの
# 上記の棒グラフ同様、予測に対する寄与度が大きい順にソートされて表示される
# 色は特徴量の値の大小を表している(赤が大きくて青が小さい)
# LSTATの値が小さいほど予測値(住宅価格)は大きくなることがわかる
shap.plots.beeswarm(shap_values, max_display=20) # max_displayで表示する変数の最大数を指定

# 以下でも同じ結果が得られる
# shap.summary_plot(shap_values_ar, X_train, show=True)
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/395388/4cfbc82e-f3ea-7219-5b42-86098fb7f295.png)

## dependence_plot
[論文著者が公開しているdependence_plotのドキュメント](https://slundberg.github.io/shap/notebooks/plots/dependence_plot.html)が参考になります。

```python
# ある1つの特徴量(今回はRM)について、訓練データ全体でのその特徴量(RM)の値と、対応するSHAP値の散布図を作成
# 横軸が特徴量の値、縦軸が対応するSHAP値
# SHAP値は予測値に対する特徴量の寄与を示すので、この図から、RMが変化したら予測値がどう変化するか読み取れる
# RMが大きいほどSHAP値は大きい、つまり、home priceが大きくなることを示している

# また、このグラフでは選択した特徴量(RM)と他の特徴量との相互作用も確認できるようになっていて
# color引数にshap値の変数を指定すると、自動的に適した変数が選択される
# 今回はRADが選ばれていて、RADの大小によって、同じRMでもSHAP値が異なることが確認できる
shap.plots.scatter(shap_values[:,'RM'], color=shap_values)
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/395388/6d0f58f5-6e96-5c98-c570-5428c987dac5.png)


```python
# 以下でも似たグラフが描画できる。ヒストグラムは付いてこない
shap.dependence_plot('RM', shap_values_ar, X_train, show=True)
```

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/395388/dfbd4079-6e1d-ea75-780e-484a6be56a98.png)


# 終わりに
SHAPそのものについては調べたものの、Permutation importanceやランダムフォレストで出力される特徴量重要度などと比較したメリット・デメリット、使い分けなどについては調べきれなかったので、今後の宿題にしようと思いました。


# 参考文献
- [[1]Scott M. Lundberg,Su-In Lee(2017), A Unified Approach to Interpreting Model Predictions](https://proceedings.neurips.cc/paper/2017/file/8a20a8621978632d76c43dfd28b67767-Paper.pdf)
- [[2]https://github.com/slundberg/shap](https://github.com/slundberg/shap)
- [[3]dropout009(2019), SHAP(SHapley Additive exPlanations)で機械学習モデルを解釈する](https://dropout009.hatenablog.com/entry/2019/11/20/091450)
- [[4]Meichen(2018), SHAP for explainable machine learning](https://meichenlu.com/2018-11-10-SHAP-explainable-machine-learning/)
- [[5]岸本(2015), 協力ゲーム理論入門](http://www.orsj.or.jp/archive2/or60-6/or60_6_343.pdf)
- [[6]原(2018), 機械学習モデルの判断根拠の説明](https://www.slideshare.net/SatoshiHara3/ss-126157179)
- [[7]Floid(2019), Introducing SHAP Decision Plots](https://towardsdatascience.com/introducing-shap-decision-plots-52ed3b4a1cba)

[^1]: NIPSとはNeural Information Processing Systemsの略で、1987より開催されている機械学習に関する国際会議。機械学習分野における最難関の会議の1つ。NIPS2017は2017年12月に米カリフォルニア州ロングビーチにて開催された
[^2]: SHapley Valueについては[アルバイトゲームとShapley Value](https://dropout009.hatenablog.com/entry/2019/11/20/091450#%E3%82%A2%E3%83%AB%E3%83%90%E3%82%A4%E3%83%88%E3%82%B2%E3%83%BC%E3%83%A0%E3%81%A8Shapley-Value)の解説が非常にわかりやすい
[^3]: ゲーム理論は大きく「非協力ゲーム理論」「協力ゲーム理論」に分けられる。協力ゲーム理論ではプレイヤー間で協力して得られた便益をどのように分配するかを扱う
[^4]: $\setminus$は差集合を意味し、$N\setminus \\{ i \\}$は集合$N$から$i$を除いた集合を指す