【特徴部位可視化】Grad-CAMとGuided Grad-CAMで遊んでみた♬

今回は、[だましのテクニックの話](https://qiita.com/MuAuan/items/f2918c4cfec76bf01530)、その根本のところで「説明責任」の話があり、以下の紹介記事①にあるようなことはどうすればできるのか興味がわいたのでやってみました。
（以下は、参考記事①からの引用です）
「写真のように"犬"と"猫"を判別する分類器にGrad-CAMを適用した場合、"犬"、"猫"のそれぞれについて特徴部位がヒートマップで強調されます。"犬"の特徴部位を可視化した場合には、犬の顔がヒートマップで強調され、"猫"の特徴部位を可視化した場合には、猫の胴体の部分がヒートマップで強調されています。...そこで拡張手法であるGuided Grad-CAMを適用して高解像度の画像を出力した結果が、ヒートマップ図の右隣の画像です。犬の画像では犬の顔の特徴として垂れた耳、目、頬などが可視化されているのが見て取れます。同様に猫の特徴部位として胴体の縞模様に着目していることがわかります。」

<table border="1" width="1000" cellspacing="1" cellpadding="1" bordercolor="#333333">
<tr>
<th bgcolor="#EE0000" width="150">元画像</th>
<th bgcolor="#EE0000" width="150">なに</th>
<th bgcolor="#EE0000" width="150">Grad-CAM</th>
<th bgcolor="#EE0000" width="150">Guided-Grad-CAM</th>
</tr>
<tr>
<td bgcolor="#99CC00" align="right" nowrap><img width="141" alt="20170619042003.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/6e885b1c-27be-893c-b72a-02573e14277b.png"></td>
<td bgcolor="#99CC00" align="right" nowrap>   猫   </td>
<td bgcolor="#FFFFFF" valign="top" width="150"><img width="150" alt="Grad-cam-cat.jpg" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/d7e11e47-7c7d-e347-e353-4a211c236fdc.jpeg">
</td>
<td bgcolor="#FFFFFF" valign="top" width="150"><img width="150" alt="Guided-Grad-cam-cat.jpg" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/31668ff6-7226-e8d5-d130-ed6aa5bdd499.jpeg">
</td>
</tr>
<tr>
<td bgcolor="#99CC00" align="right" nowrap><img width="150" alt="20170619042003.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/6e885b1c-27be-893c-b72a-02573e14277b.png"></td>
<td bgcolor="#99CC00" align="right" nowrap>  犬  </td>
<td bgcolor="#FFFFFF" valign="top" width="150"><img width="150" alt="Grad-cam-dog.jpg" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/fd6cd0d0-3772-03a6-a3dd-a8dbcdaf063d.jpeg"></td>
<td bgcolor="#FFFFFF" valign="top" width="150"><img width="150" alt="Guided-Grad-cam-dog.jpg" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/e0facb19-cdb9-cd41-57c0-b6e2ae87d47f.jpeg">
</td>
</tr>
</table>
※この絵は参考①記事の絵を引用し、記事用に配置を加工させていただきました
ということで、この記事は参考③のGrad-CAM implementation in Kerasのコードを参考に遊んでみた話をまとめます。
【参考】
・①[深層学習は画像のどこを見ている！？ CNNで「お好み焼き」と「ピザ」の違いを検証](http://blog.brainpad.co.jp/entry/2017/07/10/163000)
・②[Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization](https://arxiv.org/abs/1610.02391)
・③[keras-grad-cam/grad-cam.py](https://github.com/jacobgil/keras-grad-cam/blob/master/grad-cam.py)
###やったこと
・動かしてみる
・コードを読む
・コードをいじって上記の絵を再現する
###・動かしてみる
とにかく、以下のアプリをダウンロードして動かしてみます。
・[keras-grad-cam/grad-cam.py](https://github.com/jacobgil/keras-grad-cam/blob/master/grad-cam.py)
これは、以下のとおり、VGG16をまんまなのですぐ動くと思います。

```py
model = VGG16(weights='imagenet')
```
画像を上の左の犬猫の絵を`preprocessed_input = load_image(sys.argv[1])`で呼び出しているので、適当な名前で保存して、以下のようにコマンドラインから入力すると実行できます。
サイトの実行の仕方は以下のとおりになっています。

```
python grad-cam.py <path_to_image>
```
たとえば、上記の画像をdog_cat.pngとすると、以下のとおりで動くはず、。。

```
python grad-cam.py dog_cat.png
```
動きませんでした。
ということで、以下の参考サイトの記述を参考に改変します。
【参考】
・[【Keras】grad-camの実装において自作の学習済モデルを作りたい…がエラーが出ます…](https://teratail.com/questions/102908)
改変箇所は以下のとおりで、コメントアウトしたのが上記参考サイトの今日現在のコードで、それらを以下のとおり変更すると動きました。

```py
def grad_cam(input_model, image, category_index, layer_name):
    """
    model = Sequential()
    model.add(input_model)
    nb_classes = 1000
    target_layer = lambda x: target_category_loss(x, category_index, nb_classes)
    model.add(Lambda(target_layer,
                     output_shape = target_category_loss_output_shape))
    """
    nb_classes = 1000
    target_layer = lambda x: target_category_loss(x, category_index, nb_classes)
    x = Lambda(target_layer, output_shape = target_category_loss_output_shape)(input_model.output)
    model = Model(inputs=input_model.input, outputs=x)
    
    loss = K.sum(model.layers[-1].output)
    conv_output =  [l for l in model.layers if l.name == layer_name][0].output  #is
    #conv_output =  [l for l in model.layers[0].layers if l.name == layer_name][0].output #is
    grads = normalize(K.gradients(loss, conv_output)[0])
    gradient_function = K.function([model.layers[0].input], [conv_output, grads])
```
また、以下の参考に改善コードがのっていますが、それも以下のように変更しないと動きません。
【参考】[Code crashes for new version of TF and Keras #12@isshues](https://github.com/jacobgil/keras-grad-cam/issues/12)
・[keras-grad-cam/grad-cam.py](https://github.com/vense/keras-grad-cam/blob/master/grad-cam.py)

```py
    #model = keras.models.Model(input_model.layers[0].input, x)
    model = keras.models.Model(inputs=input_model.input, outputs=x)
```
やっと、結果は、似ているのが得られました。というか、こんな感じでちゃんと該当の犬を捕獲していると思います。上記よりは少し領域が広がっているようにも思います。

<table border="1" width="1000" cellspacing="1" cellpadding="1" bordercolor="#333333">
<tr>
<th bgcolor="#EE0000" width="150">元画像</th>
<th bgcolor="#EE0000" width="150">なに</th>
<th bgcolor="#EE0000" width="150">Grad-CAM</th>
<th bgcolor="#EE0000" width="150">Guided-Grad-CAM</th>
</tr>
<tr>
<td bgcolor="#99CC00" align="right" nowrap><img width="150" alt="dog_cat.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/46bea170-df54-b3aa-1e21-d2b3d7779a52.png"></td>
<td bgcolor="#99CC00" align="right" nowrap>243</td>
<td bgcolor="#FFFFFF" valign="top" width="150"><img width="150" alt="gradcam.jpg" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/19ca0ce8-e858-5d6c-0494-cdcba8a179b0.jpeg">
</td>
<td bgcolor="#FFFFFF" valign="top" width="150"><img width="150" alt="guided_gradcam.jpg" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/c3b8d298-0dcc-d38b-9dbb-3823cef158e9.jpeg">
</td>
</tr>
</table>
なにというところが数字になっていますが、コードでは以下のようになっていて、
（print(predicted_class)は追記しています。）

```py
predicted_class = np.argmax(predictions)
print(predicted_class)
cam, heatmap = grad_cam(model, preprocessed_input, predicted_class, "block5_conv3")
cv2.imwrite("gradcam.jpg", cam)
```
つまりpredicted_class=243ということになります。
ちなみに、その手前のコード

```py
predictions = model.predict(preprocessed_input)
top_1 = decode_predictions(predictions)[0][0]
print('Predicted class:')
print('%s (%s) with probability %.2f' % (top_1[1], top_1[0], top_1[2]))
```
でクラスなどを出力していますが、これは標準出力見ると
bull_mastiff (n02108422) with probability 0.24 
と出ていました。
###・コードを読む
分かったように書くのも何かしっくりこないので、今回もコード中心に動かしてみます。
まず、コードの主な部分は以下のとおりです。
最初の部分は、普通に読めると思います。

```py
preprocessed_input = load_image(sys.argv[1])
model = VGG16(weights='imagenet')
predictions = model.predict(preprocessed_input)
```
このdecode_predictions(predictions)[0][0]が曲者です。
これは、上記で予測したpredictionsから名称や確率を取得しています。
以下のようにすると、top3のデータが得られます。つまり、[0][0]の最初の[0]はトップのデータを取得していることになります。
【参考】
・[Usage examples for image classification models@KerasDocumentation](https://keras.io/applications/)
decode the results into a list of tuples (class, description, probability)
`print('Predicted:', decode_predictions(predictions, top=3)[0])`

```py
top_1 = decode_predictions(predictions)[0][0]
print('Predicted class:')
print('%s (%s) with probability %.2f' % (top_1[1], top_1[0], top_1[2]))
predicted_class = np.argmax(predictions)
print(predicted_class)
```
そして、大切なことは以下の主要な関数grad_camの引数に渡すのは、predicted_classであるところです。
これは、grad_cam()の中で、 target_category_loss(x, category_index, nb_classes)という関数によって、tf.multiply(x, K.one_hot([category_index], nb_classes))を計算するためにcategory_indexが必要になるためです。

あとは、どのLayerのgrad_camを見たいかということでVGG16のblock5_conv3を指定しています。この層の値も変数であり、いろいろな値を試してやってみることができます。
※上記参考②の論文でこのあたりの例として以下が示されています。この結果、キャプションにも記載されているように本文において、一番深い層がhigh level semanticsとdetailed spatial imformationとの最良のcompromise(妥協点)だと云っています。
![fig_various_layer.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/4723402d-b6d9-abe2-7e2a-1b4284d71557.jpeg)
そして、まず、gradcamを保存。
grad_cam内で何をやっているかは、今回は触れないことにします。
※ただただ、動かすことに専念

```py
cam, heatmap = grad_cam(model, preprocessed_input, predicted_class, "block5_conv3")
cv2.imwrite("gradcam.jpg", cam)
```
以下がguided backpropagationの計算をするための関数呼び出しです。
最初の関数は、わかりません`m(_ _)m`
　⇒カスタムgradients"GuidedBackProp"の登録です
【参考】
・[what's ops from tensorflow.python.framework for?
](https://stackoverflow.com/questions/50772746/whats-ops-from-tensorflow-python-framework-for)
以下のdef _register_guided_gradient(name):と同じコードです
・[keras-vis/vis/backend/tensorflow_backend.py](https://github.com/raghakot/keras-vis/blob/master/vis/backend/tensorflow_backend.py)
・[Tensorflow - Access weights while doing backprop](https://stackoverflow.com/questions/52058848/tensorflow-access-weights-while-doing-backprop?noredirect=1&lq=1)
二つ目はguided_modelを定義しています。
しかし、reluをkeras.activations.reluからtf.nn.reluに変更しているらしいですが、効果や理由はわかりません。そこで、keras.activations.reluのままで（変換部分をすべてコメントアウトして）実行してみます。画像は得られて以下のようになりました。やはり、keras_reluの所には犬の絵が出ていません。

<table border="1" width="1000" cellspacing="1" cellpadding="1" bordercolor="#333333">
<tr>
<th bgcolor="#EE0000" width="150">元画像</th>
<th bgcolor="#EE0000" width="150">Grad-CAM</th>
<th bgcolor="#EE0000" width="150">keras_relu</th>
<th bgcolor="#EE0000" width="150">nn_relu</th>
</tr>
<tr>
<td bgcolor="#99CC00" align="right" nowrap><img width="150" alt="dog_cat.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/46bea170-df54-b3aa-1e21-d2b3d7779a52.png"></td>
<td bgcolor="#99CC00" align="right" nowrap><img width="150" alt="gradcam.jpg" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/a98a5325-a53f-69bc-70d7-0ab8cd7cfcfd.jpeg"></td>
<td bgcolor="#FFFFFF" valign="top" width="150"><img width="150" alt="guided_gradcam_keras_relu.jpg" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/df668d60-cc63-8d68-6e25-2e3518d99f9b.jpeg">
</td>
<td bgcolor="#FFFFFF" valign="top" width="150"><img width="150" alt="guided_gradcam_nn_relu.jpg" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/2ae94910-29c7-48e0-df1e-eb62f5749455.jpeg">
</td>
</tr>
</table>

```py
register_gradient()
guided_model = modify_backprop(model, 'GuidedBackProp')
```
compile_saliency_function()では、 K.function([input_img, K.learning_phase()], [saliency])という関数定義をしています。ここでinput_imgに対して、saliencyと呼ばれる、layer.outputの最大値の和の偏微分を出力しているようです。
※間違っていたらごめんなさい。。。別途理論見ながら再考察したいと思います

```py
saliency_fn = compile_saliency_function(guided_model)
saliency = saliency_fn([preprocessed_input, 0])
```
かくして、gradcamは、上記のsaliencyとheatmapの積で定義されています。
※np.newaxisは計算できるように次元を導入しているようです。。。
【参考】以下は直接的ではないですが、計算結果を追うと参考になります
・[Plotting x and y values with result as color / heatmap
](https://stackoverflow.com/questions/52067700/plotting-x-and-y-values-with-result-as-color-heatmap)

```py
gradcam = saliency[0] * heatmap[..., np.newaxis]
cv2.imwrite("guided_gradcam.jpg", deprocess_image(gradcam))
```
###・コードをいじって上記の絵を再現する
上の絵の再現というのは、つまり猫を出すってことです。
もともとの記事だと、犬・猫の学習した識別器にかけたように読めますが、それはVGG16のことです。ということで、このVGG16の識別器に犬・猫の画像を入力して猫の画像も出力することになります。
これは、上記のコードを読むの中で上記では、一番目の予測＝犬（bull_mastiff (n02108422) with probability 0.24）を描画していました。
そこで、二番目や三番目はどうなっているでしょう。
ということで、`print('Predicted:', decode_predictions(predictions, top=3)[0])`として三番目まで出力してみると、。。以下のように三番目に猫っぽいのが出てきます。

```
Predicted: [('n02108422', 'bull_mastiff', 0.23710363),
 ('n02108089', 'boxer', 0.14418593),
 ('n02129604', 'tiger', 0.12792063)]
```
ここで、実は「大切なことは以下の主要な関数grad_camの引数に渡すのは、predicted_classであるところです。」を思い起こすと、犬のpredicted_classが必要になります。
もっと簡単に求まるかもですが、ウワンは以下の参考から次のように求めました。
【参考】
・[Pythonでリストのn番目に大きい・小さい値のインデックスの取得](https://qiita.com/scapegoat_11_/items/eda41e541a2b34dc7c1b)
つまり、i番目のtop_1とpredicted_classは以下のように求められます。

```py
top_1 = decode_predictions(predictions)[0][i]
predicted_class = predictions.argsort()[0][::-1][i]
```
これで、i=0..bull_mastiff,　i=1..boxer, そしてi=2..tigerということで、猫の絵っぽいものが得られます。
ちなみに、ここでは以下のように５番目までを出力してみました。

```py
predictions = model.predict(preprocessed_input)
register_gradient()
guided_model = modify_backprop(model, 'GuidedBackProp')
guided_model.summary()
for i in range(5):
    top_1 = decode_predictions(predictions)[0][i]
    print(predictions.argsort()[0][::-1][i])
    print('Predicted class:')
    print('%s (%s) with probability %.2f' % (top_1[1], top_1[0], top_1[2]))
    predicted_class = predictions.argsort()[0][::-1][i] #np.argmax(predictions)
    cam, heatmap = grad_cam(model, preprocessed_input, predicted_class, target_layer)
    cv2.imwrite("gradcam"+str(top_1[1])+".jpg", cam)
    saliency_fn = compile_saliency_function(guided_model)
    saliency = saliency_fn([preprocessed_input, 0])
    gradcam = saliency[0] * heatmap[..., np.newaxis]
    cv2.imwrite("guided_gradcam"+str(top_1[1])+".jpg", deprocess_image(gradcam))
```

こうして、5種類の絵が得られました。
※なぜか、上で一個だけ得たときのものはここでは二番目の候補になっていますが、このまま掲載することとします（バグがありそうですが見つけた時点で修正します）

| クラス | Grad-CAM | Guided Grad-CAM |
|:-:|:-:|:-:|
|boxer (n02108089) with probability 0.42|![gradcamboxer.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/d7b7bc6b-9a79-1563-af54-16acf4ad49f9.jpeg)|![guided_gradcamboxer.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/5cb7db3a-5edb-a88d-f84a-34037717750a.jpeg)|
|bull_mastiff (n02108422) with probability 0.28|![gradcambull_mastiff.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/79b98a58-0922-bb8e-594d-c74cfee18a11.jpeg)|![guided_gradcambull_mastiff.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/ae66e159-8b15-d933-0352-79bbadadfb8e.jpeg)
|
|tiger_cat (n02123159) with probability 0.05|![gradcamtiger_cat.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/b68c3cb8-54ab-4a4a-995c-d3d242cb9d5e.jpeg)|![guided_gradcamtiger_cat.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/4aa4f70c-1d58-e841-1c51-b0d29ac179c6.jpeg)|
|tiger (n02129604) with probability 0.05|![gradcamtiger.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/25411869-faea-7c82-6d67-d9191e03872e.jpeg)|![guided_gradcamtiger.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/285d4a05-2f87-b213-5c70-e85cce208236.jpeg)
|
|Great_Dane (n02109047) with probability 0.05|![gradcamGreat_Dane.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/77829062-bf16-9ab4-7b86-83d7b0d0b03b.jpeg)|![guided_gradcamGreat_Dane.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/233744/68f55a63-e8b5-7644-70dd-15c4c57e8556.jpeg)|

###コードは以下に置きました
・[cheating_DL/grad-cam_5category.py](https://github.com/MuAuan/cheating_DL/blob/master/grad-cam_5category.py)

###まとめ
・Grad-CAMとGuided Grad-CAMを動かして遊んでみた
・一応、それらしい画像に到達した

・理論もコードもまだまだ半分理解状態なのでさらにいろいろ試そうと思う
・層を変えたり、モデルを変更して他のモデルで同じことをやった結果は次回の記事にしよう