Grad-CAMの実装コードを読んでみた

Grad-CAMって何だろうと思ってKeras実装コードを調べてみました。
論文も読んでないし、数式も全く理解してませんが一応動作は追えたかなと思います。

# Grad-CAM のコード
https://github.com/eclique/keras-gradcam
Grad-CAMの核心部分は下記です。今回の場合`layer_name='block5_conv3'`です。
途中にprint文を挟んでnp.arrayの形を確認しました。

```python:gradcam.py
def grad_cam(input_model, image, cls, layer_name):
    y_c = input_model.output[0, cls]
    conv_output = input_model.get_layer(layer_name).output
    grads = K.gradients(y_c, conv_output)[0]

    output, grads_val =  K.function([input_model.input], [conv_output, grads])([image])
    print('output.shape=', output.shape)
    print('grads_val.shape=', grads_val.shape)
    output, grads_val = output[0, :], grads_val[0, :, :, :]

    weights = np.mean(grads_val, axis=(0, 1))
    print('weights.shape=', weights.shape)
    cam = np.dot(output, weights)
    print('cam.shape=', cam.shape)
    
    # Process CAM
    cam = cv2.resize(cam, (W, H), cv2.INTER_LINEAR)
    print('cam_new.shape=', cam.shape)
    cam = np.maximum(cam, 0)

    cam = cam / cam.max()
    return cam
```

shapeの出力結果は以下のようになりました。
なるほど、modelからoutputとgrads_valを取り出して、grads_valをチャンネル毎に平均化してweightを求め(正解ラベル選択時の各チャンネルの寄与度)、それにoutputを掛けるだけ。追ってみるとそんなに難しくないですね。


```python:
output.shape= (1, 14, 14, 512)
grads_val.shape= (1, 14, 14, 512)
weights.shape= (512,)
cam.shape= (14, 14)
cam_new.shape= (224, 224)
```
```python:
model.summary() #modelはVGG16
--------------------------------------------------
_________________________________________________________________
Layer (type)                 Output Shape              Param #
=================================================================
input_1 (InputLayer)         (None, 224, 224, 3)       0
_________________________________________________________________
block1_conv1 (Conv2D)        (None, 224, 224, 64)      1792
_________________________________________________________________
:
_________________________________________________________________
block5_conv3 (Conv2D)        (None, 14, 14, 512)       2359808
_________________________________________________________________
:
_________________________________________________________________
fc2 (Dense)                  (None, 4096)              16781312
_________________________________________________________________
predictions (Dense)          (None, 1000)              4097000
=================================================================
Total params: 138,357,544
Trainable params: 138,357,544
Non-trainable params: 0
_________________________________________________________________
```

#Grad-CAMイメージ：
言葉だけで説明しても伝わりにくいと思いますのでイメージ図を書いてみます。
誤差逆伝搬の理解があやふやですが、勾配レイヤーの取り出しは多分こういうイメージかと思います。
勾配自体は学習時におけるモデル重みの更新量っていう理解です。
なぜgrads_valの平均がチャンネルの正解寄与度を求めれるのかは自分には分かっていません。
<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/658ff775-a2ac-9046-261a-658573e7ffab.png" width=95%>
図1：中間レイヤーの取り出し
<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/931fe963-bdf5-94b2-7231-e07722c58c28.png" width=95%>
図2：中間レイヤーからcamの計算

#grads_valの最大値の場合
grads_valのチャンネル毎平均って結局CNN層のglobal_average_pooling層ってことですよね。
もしそうなら、別にglobal_max_pooling層相当で計算しても計算できるんでしょうか。

```python:gradcam.py
    #weights = np.mean(grads_val, axis=(0, 1))
    weights = np.max(grads_val, axis=(0, 1))
```
(14,14)の縦横行列の内、チャンネル毎の最大値を取り出しました。
若干範囲が広がりますが、別にこれでも大丈夫そう。
![gradcam_mean.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/271471ee-0b53-1076-b3f3-447ab144c0bb.jpeg)　![gradcam.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/06ac39f8-67f7-0f6f-65cb-e5190fe90f2c.jpeg)：左(mean)、右(max)

#最大値チャンネルのみ表示させた場合：
outputのチャンネルとweightチャンネルの掛け算を計算させますが、weightの最も大きいチャンネルのみ表示させても問題ないのでは？と思った結果。

```python:gradcam.py
    #cam = np.dot(output, weights)
    cam = output[:,:,np.argmax(weights)]
```
weightsの最も大きいチャンネル結果を表示してます。従来結果よりは範囲が狭まった気がします。
もしかしたら犬の何らかの局所的な位置に反応している可能性はありますけれど、camの解像度が低いのでよく分かりません。
![gradcam_mean.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/271471ee-0b53-1076-b3f3-447ab144c0bb.jpeg)　![gradcam_argmax.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/584de3d0-c79e-ca5e-c3b0-8c8ee77ba9a2.jpeg)：左(dot)、右(argmax)

#camの解像度
ところでGrad-CAMの解像度って今回VGG16の場合(14,14)で、入力画像サイズ(224,224)に比べ割と低い印象を持ちました。（こんなものでしょうか？）
試しに`layer_name='block5_conv3'`を`layer_name='block4_conv3'`にした場合、camの解像度自体は(28,28)に上がりましたが、特徴量の場所表示は上手く行かないようです。
![gradcam_mean.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/271471ee-0b53-1076-b3f3-447ab144c0bb.jpeg)　![gradcam_block4.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/f45cc426-0f4b-ec0c-e173-b0280f414890.jpeg)：左('block5_conv3')、右('block4_conv3')
XceptionやResnetなんかは入力画像サイズ(224,224)で全結合前が(7,7)なので解像度はさらに悪くなります。かと言ってモデルのpooling層を減らせば、分類精度が下がるでしょうし。どうすればいいんでしょう。

#ReLUはどこに消えた？
論文の図を見るとcamマップの出力前にReLUが入ってます。
(14,14)のcamデータには当然マイナスの値も含んでいますが、どこに行ったんでしょうか。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/13e38b4c-866a-fe57-f71c-4a20f179f61e.png)
調べたら実装コードのnp.maximumがReLU相当でした。これでcamのマイナスの値には代わりにゼロが入るようになります。
なお、試しにnp.maximumとcv2.resizeの順番を入れ替えてみましたが、特に違いはないようです。
（ReLU=>resizeの順の方がcamのマイナス値の影響を除けるので良いのでは？と思いますが）

```python:gradcam.py
    cam = np.maximum(cam, 0)
    cam = cv2.resize(cam, (W, H), cv2.INTER_LINEAR)
```
![gradcam_mean.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/271471ee-0b53-1076-b3f3-447ab144c0bb.jpeg)　![gradcam_relu.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/7517f5b4-dc73-97cb-d30a-789aa4ff7dca.jpeg)：左(resize=>ReLU)、右(ReLU=>resize)
わざと1点だけ大きなマイナスを入れた場合、resize=>ReLUだと回りの点も影響を受けてしまいました。

```python:gradcam.py
    cam[2,6] = -1000
    cam = np.maximum(cam, 0)
    cam = cv2.resize(cam, (W, H), cv2.INTER_LINEAR)
```
![gradcam_resize_relu.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/7acd763d-d0d2-68aa-3816-6a09cab94049.jpeg)　![gradcam_relu_resize.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/4efc7dfe-bea2-02d6-b740-d0a1ea508fa1.jpeg)：左(resize=>ReLU)、右(ReLU=>resize)