【ポケモン剣盾】御三家分類を例に深層学習の判断根拠を可視化してみた


# はじめに
みなさん、ポケモンやってますか？私は10年振りくらいに~~買いました~~サンタさんにもらいました。
ガチ勢目指して、年末年始は家に引きこもって厳選予定です。
AdventCalendarはポケモンネタで何かできないかなーと思っていたので、最近気になっている**深層学習モデルの判断根拠を示す手法**を、**ポケモン御三家分類を例に**試してみました。

※手法の説明やデータセットの準備も含めて記載していくので、結果だけ知りたい方は[結果](#結果)まで飛ばしてください

# 深層学習モデルの判断根拠を示す手法：TCAVとは

深層学習は様々な分野で社会実装が進み始めていますが、モデルが何を根拠に判断しているのかはブラックボックスになりがちです。
近年、モデルの「説明性」「解釈性」に関する研究が進められています。

そこで今回は、ICML2018に採択された[Quantitative Testing with Concept Activation Vectors (TCAV)](https://arxiv.org/abs/1711.11279) という手法を試してみたいと思います。

## 論文概要

- **ニューラルネットワークモデルの判断根拠を示す手法**
- 従来の**ピクセルごと**に重要度を算出するような手法ではなく、予測クラスの**概念**（色、性別、人種など）の重要度を示す
- 各画像に対する説明（≒ローカル）ではなく、**各クラスに対する説明**（≒グローバル）を生成するので、人間にわかりやすい説明性を持つ
- **MLモデルの専門知識がなくても説明を理解することができる**
- 解釈したい既存モデルに対して、**再学習や変更の必要はない**

## Concept Activation Vectors (CAV)の概念
概念画像とランダムな反例の間で線形分類器をトレーニングし、決定境界に直交するベクトルを取得することにより、CAVを導出します。
（下の図見た方が早い）。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/2f5b3ae2-5fc9-9492-eefe-00a360b51748.png)


※より詳細な論文メモは[こちら](https://github.com/rio-kurihara/tcav/blob/master/paper_memo.md)に置いてありますので、ご興味ある方はご覧ください


## 何がわかる？

- モデルが学習している**「概念」**を**人間が解釈可能**な形で定量化できる
例：「シマウマ」分類において「ドット柄」より「ストライプ柄」を学習している
また、任意の層での学習を見ることもできるので、浅い層／深い層でどの程度粗い／細かい特徴を捉えているかも見ることができます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/f937ecd7-de0e-3098-c656-5a5a2bf97059.png)

- データセットの**バイアス**がわかる
例：「エプロン」クラスにおいて、「女性」の概念が関連している、「ラグビーボール」クラスにおいて、「白人」の概念が関連している
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/1ac027dd-c5f5-9b2b-a40f-579d1fac6477.png)![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/b4801e1e-3e41-ce2f-1231-2717e27cd922.png)
- 画像ソーターとして使える（概念画像との類似性に基づいて並び替えができる）  


# まず適当な分類器を作る
今回はTCAVを動かしてみるのが目標なので、簡単なタスクにしました。
ポケモン御三家分類器を作ります。

## データセットの準備

### ①クローリング  

[icrawler](https://icrawler.readthedocs.io/en/latest/builtin.html#search-engine-crawlers)を使って下記の画像を収集しました。
コード貼っておきます。

```python
import os
from icrawler.builtin import GoogleImageCrawler

save_dir = '../datasets/hibany'
os.makedirs(save_dir, exist_ok=True)

query = 'ヒバニー'
max_num = 200

google_crawler = GoogleImageCrawler(storage={'root_dir': save_dir})
google_crawler.crawl(keyword=query, max_num=max_num)
```

### ②前処理  

最低限の処理だけです。

1. ①クローリングで取得した画像を手動で正方形にクロップ
2. 256×256にリサイズ
3. train/val/testに分割  

### 御三家画像サンプル
こんな感じで画像が集まりました。
（ちなみに私はヒバニー即決でした。炎タイプ大好き）  

|ヒバニー| メッソン| サルノリ |
|-------|----------|-------|
|![000003.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/32436a9c-8ddf-00ea-5899-7ce24346c045.jpeg)|![000003.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/8a3f2a2e-03d5-8aa0-ac3c-18989bd72b0c.jpeg)|<img width="200" alt="000006.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/90d8978c-3a59-bf9a-200f-47a17711deb2.png">|
| 156枚 | 147枚 | 182枚 |

以下のような御三家以外のポケモンや、キャラクターの画像、デフォルメされすぎているイラストなども紛れていたので目検で除外しています。
~~キバナサンカッコイイ~~
<img width="200" alt="000075.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/e418605e-dc82-7839-7f5d-00cebd74b746.png"><img width="200" alt="000237.jpg" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/d262af05-e9b3-b57e-2bb5-7eb3fc82bab1.jpeg"> <img width="200" alt="000075.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/25908fb5-d3db-d00f-4df5-198b0e49cfce.png">



## 分類器作成
シンプルなCNNです。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/78b41da1-69c3-61e1-053c-5b5c64a55ba5.png)


テストデータの画像が少ない（15枚程度）のでテストデータのAccuracyはバタついていますが、TCAVの検証には十分であろう精度の分類モデルができました。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/0a2bb542-3513-97e8-7d20-9ab1ff04b746.png)

CAVの計算に**.pbファイル**が必要になるので、.pbでモデルを保存します。
次に、モデルが何を学習しているのか見るための準備をします。

# TCAVの実行準備

下記ステップに沿って準備していきます。
（今回使ったコードは[こちら](https://github.com/rio-kurihara/tcav)に置いてあります。あとでちゃんとREADME書きます。。。）

## Step1：概念画像（正例と負例）の準備
正例画像に用意したのは下記の画像です。
色を見て御三家を分類するのでは、という仮説のもと数色準備しました。
（10~20枚でも動きはしますが、50～200枚くらいあった方がよいとのことです）

**正例画像サンプル**

| 白 | 赤 | 青 | 黄 | 緑 | 黒 |
----|----|----|----|----|----|
|![000001.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/2cfaf774-15ba-b4ca-7020-3770636ec234.jpeg) | ![000005.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/8fcc890a-8983-f3c5-4dd6-ec98e21ac06b.jpeg) | ![000009.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/c8fd2313-89ba-5f88-817b-38779651d01d.jpeg) | ![000004.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/151f9d34-9ea9-52da-c651-8c878670ffae.jpeg) | ![000023.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/df20cc7e-8f89-65b5-2754-c9ea1e19e734.png) | ![000023.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/de50906c-eb00-04dd-02cf-ee08afa46d62.png) |
| 22枚 | 20枚 | 15枚 | 18枚 | 21枚 | 17枚 |

こういう複数カラーが混ざりすぎているものは除外しています
<img width="100" alt="000025.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/1b14f785-8da8-cd0d-d526-52283215ef20.png">


**負例画像サンプル**
上記のどの正例にも該当しないものが望ましいです。（今回の場合、どの色にも該当しないというのは難しいですが。。）
今回は[Caltech256](http://www.vision.caltech.edu/Image_Datasets/Caltech101/)からランダムに画像を取ってきました。

ここまでに集めた画像たちのディレクトリ構成は下記のようになります。
概念画像のセットは全てサブディレクトリにする必要があります。

```
├── datasets
│   ├── for_tcav # TCAV用のデータセット
│   │   ├── black
│   │   ├── blue
│   │   ├── green
│   │   ├── hibany
│   │   ├── messon
│   │   ├── random500_0
│   │   ├── random500_1
│   │   ├── random500_2
│   │   ├── random500_3
│   │   ├── random500_4
│   │   ├── random500_5
│   │   ├── red
│   │   ├── sarunori
│   │   ├── white
│   │   └── yellow
│   └── splited # 画像分類モデル作成用データセット
│       ├── test
│       │   ├── hibany
│       │   ├── messon
│       │   └── sarunori
│       ├── train
│       │   ├── hibany
│       │   ├── messon
│       │   └── sarunori
│       └── validation
│           ├── hibany
│           ├── messon
│           └── sarunori
```


## Step2：モデルラッパーを実装する
まずクローンしてきます。

```python
git clone git@github.com:tensorflow/tcav.git
```

ここでは、モデルの情報をTCAVに伝えるためのラッパーを作ります。
このクラスを tcav/model.py に追記します。

```python
class SimepleCNNWrapper_public(PublicImageModelWrapper):
    def __init__(self, sess, model_saved_path, labels_path):
        self.image_value_range = (0, 1)
        image_shape_v3 = [256, 256, 3]
        endpoints_v3 = dict(
            input='conv2d_1_input:0',
            logit='activation_6/Softmax:0',
            prediction='activation_6/Softmax:0',
            pre_avgpool='max_pooling2d_3/MaxPool:0',
            logit_weight='activation_6/Softmax:0',
            logit_bias='dense_1/bias:0',
        )

        self.sess = sess
        super(SimepleCNNWrapper_public, self).__init__(sess,
                                                       model_saved_path,
                                                       labels_path,
                                                       image_shape_v3,
                                                       endpoints_v3,
                                                       scope='import')
        self.model_name = 'SimepleCNNWrapper_public'
```

これで準備が完了します。早速結果を見てみます。


# 結果

各クラスで重要視している概念（今回は色）を見てみます。
＊印がついていない概念が重要視しているものです。

|ヒバニークラス| メッソンクラス| サルノリクラス |
|-------|----------|-------|
| <img width="600" alt="image.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/3e6b1e98-6007-152a-cf6f-87512cd266bc.png">赤・黄色・白|<img width="600" alt="image.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/b8978738-fded-01c6-95fb-95956c52b5d4.png">赤 (!?)|<img width="600" alt="image.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/bad9ff89-0a50-77d6-2b0a-4c28eb2cc6dd.png">緑|
|![000003.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/32436a9c-8ddf-00ea-5899-7ce24346c045.jpeg)|![000003.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/8a3f2a2e-03d5-8aa0-ac3c-18989bd72b0c.jpeg)|<img width="200" alt="000006.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177134/90d8978c-3a59-bf9a-200f-47a17711deb2.png">|



ヒバニーとサルノリはそれっぽい結果かなと思います。
メッソンに関しては謎なので要考察です。
実験中に、試行回数や概念画像・ターゲット画像の枚数を変えると結構結果が変わるので、もう少し考察が必要かなと思っています。
概念画像の選び方によっても変わりそうなので、色々試し甲斐がありそうです。

# まとめ

ニューラルネットワークモデルの判断根拠を示す手法を試してみました。
人間が解釈しやすく、**"直観的にそれっぽい"**結果が得られました。
今回は御三家分類ということで概念画像として色を選びましたが、概念画像を準備するのが大変ですね。。
諸々準備は必要ですが、モデルを学習しなおす必要はないし、一連の流れを一回試して慣れちゃえば楽に使えると思います。
是非試してみてください！