CNN + Resnet + AdaCos + Metric Learning + GradCam によるMVTecADの画像異常検知と可視化（Leather編）

#お詫び（2020年6月9日追記・再修正）
はじめに公開した本記事の内容には、検証時のコードミスによって、間違った情報が含まれておりました。
深くお詫びして、訂正致します。
具体的には、モデル作成と特徴空間へのプロットに使用した画像のサイズが512x512で、GradCamに使用した画像のサイズが500x500でした。（もともとは、どちらも500x500にするつもりでした。）
追加作業の簡素化のために、GradCamに使用する画像のサイズを512x512にしたところ、最初の記事公開時とは、少しだけ傾向が異なる結果となりました。（github上のコードも修正しました。）
~~また、GradCamの実施のたびに、大きく結果が異なる場合があることが分かりました。~~
また、GradCamの実施のために、学習済みのモデルのパラメーターを読み込む際に、全結合（metric_fc）のパラメーターを読み込んでいなかったために、GradCamの実施のたびに結果が違うという事態を招いていましたが、その部分も修正しました。（ちなみに、これは私の検証用のコードだけの問題で、github上のコードの修正はありません。）
ちなみに、特徴空間へのプロットの部分については、修正はありません。

#はじめに
業務で、画像の異常検知をやる必要が生じたために、下記の素晴らしい記事を参考にして、Metric Learningによる MVTEc AD の画像異常検知と、GradCam による可視化を行いました。

https://qiita.com/shinmura0/items/5c728da8a74208c1308f
https://qiita.com/daisukelab/items/e0ff429bd58b2befbb1b

基本的には、上記の記事と比較して、目新しいことは、ほとんどありません。
強いて言うなら、PyTorch の実装であることぐらいです。。。

※全体のコードはこちらに置いています。（2020年6月9日コードを修正）
（Google colab 上で実行するためのコードを含んでいます。）
https://github.com/nshikimi/MVTecAD/tree/master/Leather

※AdaCosの実装は、下記を参考にしています。（作者様有り難うございます。）
https://github.com/4uiiurz1/pytorch-adacos

※GradCamの実装は、下記を参考にしています。（作者様有り難うございます。）
https://qiita.com/llight/items/d50fe321a3686653aebf


#データセット（MVTec AD）について
様々な製品（物体）について、正常な個体の画像と異常な個体の画像が含まれています。
また、異常な個体の画像には、多様な異常の種類が、きちんと分類されて含まれています。
さらに、素晴らしいのは、異常な部分を特定できるようなマスクがはじめから含まれていることです。（これは、本当に有り難いです。）
ただ、実際の現場で、このようなマスクを作るのは極めて手間がかかると思われるので、これに頼ると、その手法が実際の現場で使えない、ということが発生するかも知れません。
製品（物体）の種類は、bottle、cable、capsule、carpet、grid、hazelnut、leather、metal_nut、pill、screw、tile、toothbrush、transistor、wood、zipper の15種類です。
下記にて、入手できます。
https://www.mvtec.com/company/research/datasets/mvtec-ad/

#データのサンプル
正常データ

|![leather_goog_000.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/7bab56cd-ef43-b095-4e21-c56e6b50fd2c.png)|![leather_goog_001.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/456b67ff-97b8-1ac5-21a5-f094634c11c5.png)|![leather_goog_002.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/48f09c33-9df5-bd45-e623-fab7398ab9f7.png)|![leather_good_003.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/c5b5570a-c1a8-384d-7b08-dcf60a9a9712.png)|![leather_good_004.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/77c8d913-20f4-9943-cbbf-4c3a019c1727.png)|
|---|---|---|---|---|

異常（cut）

|![leather_cut_000.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/e0c06bf6-4bd6-4368-7dd3-de39080eb30c.png)|![leather_cut_001.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/4555e6f1-1920-5e80-6a5a-082b972260c6.png)|![leather_cut_002.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/b7c69ee1-926f-2d10-0a82-05334fedc48f.png)|![leather_cut_003.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/5523842c-05a6-9dad-7979-42bf69f1fcc5.png)|![leather_cut_004.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/f6063ae6-3aac-6664-ca93-a09f891f605d.png)|
|---|---|---|---|---|

異常（color）

|![leather_color_000.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/689a4fab-d5aa-423a-874e-487c5488c3b9.png)|![leather_color_001.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/5b6c1a84-8b25-fa8e-d740-06be6a056eb2.png)|![leather_color_002.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/f3a7405c-1d24-880c-ebe3-3aade7e008ae.png)|![leather_color_003.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/38311eb5-3040-a531-c2af-9870be45e6d2.png)|![leather_color_004.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/03d03765-eaf3-f6e2-10c7-79e396c4b8a8.png)|
|---|---|---|---|---|

異常（fold）

|![leather_fold_000.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/d9a08214-f2bc-42c1-1bc9-1d472637ec5a.png)|![leather_fold_001.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/8ba90bf9-afe1-8157-f0c1-85bc5e704c3f.png)|![leather_fold_002.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/82f71769-e12f-90a2-59b1-4ecf7c20464a.png)|![leather_fold_003.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/06d4a76e-721c-8bf6-08fe-0f0e2d6081d7.png)|![leather_fold_004.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/f6deb30e-02c1-9b7d-d907-a5bdbf9cb383.png)|
|---|---|---|---|---|

異常（glue）

|![leather_glue_000.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/662fb298-a31d-f84d-3ff5-8da8f023f30b.png)|![leather_glue_001.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/050ee89a-ecc5-d56c-6c6d-7e71715ad16e.png)|![leather_glue_002.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/6276cbaa-cab8-6363-2ac6-04a370628215.png)|![leather_glue_003.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/bc4b8ac0-eb77-f5a6-92ce-aa0d9277cc01.png)|![leather_glue_004.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/190cee2f-e28b-4df5-6754-7a40c6229650.png)|
|---|---|---|---|---|

異常（poke）

![leather_poke_000.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/152b83bc-bbd3-afb5-6127-ba2de3d78215.png)|![leather_poke_001.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/e802a315-63cf-8b77-9a4f-24e5e0362a43.png)|![leather_poke_002.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/be7482a0-df1d-43f0-1ef8-98efa5b13f1f.png)|![leather_poke_003.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/5fb3f4d3-5eac-fa0c-2a4e-f086e90cd63d.png)|![leather_poke_004.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/df4d54eb-fd6b-af0e-5a58-b1f56b2e3b8f.png)
|---|---|---|---|---|

#検証概要
今回の検証の概要は下記の通りです。
- 今回は、MVTecADのなかでも、もっとも簡単なleatherを使用
- leather のみを使い、正常と異常の二値分類問題として実施
- 1000x1000の元画像を、~~500x500~~ 512x512 に resize して実施
- 学習には、正常だけで構成される train データだけでなく、異常データも使用
　（はい、ある意味チートです。すいません。trainデータだけでは、精度が出ませんでした。。。）
- NNには、ResNet18を使用
- 学習には、Metric Learning/AdaCos を使用
- Epoch数は300/500/1000

#検証結果
##モデルの学習と特徴空間へのプロット
エポック数300/500/1000で学習したモデルから、Metric Learningの特徴（512次元）を抽出し、tSNEで2次元に可視化したものが下記のとおり。

###エポック数：300
####結果

||1回目|2回目|
|---|---|---|
|trainデータ|![スクリーンショット 2020-06-08 9.50.52.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/9158a0ff-af81-9f58-80f8-35bfa3359a3c.png)|![スクリーンショット 2020-06-08 9.51.30.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/9ffaa8b2-9149-adb8-f324-a0ee4bbfce41.png)|
|testデータ|![スクリーンショット 2020-06-08 9.50.56.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/160a6233-92d0-6bc9-0600-e082aecbfc56.png)|![スクリーンショット 2020-06-08 9.51.34.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/39478a48-2d60-14d2-6077-cf763c348a9a.png)|
|Train+testデータ|![スクリーンショット 2020-06-08 9.51.04.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/69472664-5afd-48f7-0890-babc7b8a789a.png)|![スクリーンショット 2020-06-08 9.51.41.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/d0d8b573-ef11-1bea-137e-6ae151472793.png)|

####考察
ほとんどは、きれいに分離できていますが、Train+testデータで１個だけ、testデータに含まれる異常データが、正常データのエリアにプロットされています。
（何度もやっていると、きれいに分離されることもあります。）
Softmaxの分類問題としての結果も、１点だけ間違っています。

###エポック数：500
####結果

||1回目|2回目|
|---|---|---|
|Trainデータ|![スクリーンショット 2020-06-08 9.51.51.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/51ba5b4a-020f-882c-d22b-52d12c0c1e5c.png)|![スクリーンショット 2020-06-08 9.52.12.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/4a8b28ae-563b-d0a7-fc4e-6014a239297e.png)|
|testデータ|![スクリーンショット 2020-06-08 9.51.56.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/0ae369e5-5901-43de-c651-a33f5cd2a487.png)|![スクリーンショット 2020-06-08 9.52.21.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/a526ca12-d9b3-d1ec-b215-1fac2592dc71.png)|
|Train+testデータ|![スクリーンショット 2020-06-08 9.52.03.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/167e23df-9a50-8a24-c312-468211e5b702.png)|![スクリーンショット 2020-06-08 9.52.25.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/e3035b5c-f9aa-8c00-3b9c-f4ddaeef5777.png)|

####考察
きれいに分離できています。
Softmaxの分類問題としての結果も、間違えているものはありませんでした。

###エポック数：1000
####結果

||1回目|
|---|---|
|Trainデータ|![スクリーンショット 2020-06-08 9.53.16.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/5261329b-1f39-6dcf-4abe-48a6dc3a3e0a.png)|
|testデータ|![スクリーンショット 2020-06-08 9.53.21.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/4d3f3693-fc00-0d21-b2e9-3674f682c80a.png)|
|Train+testデータ|![スクリーンショット 2020-06-08 9.53.27.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/553146c6-e01d-3af5-be47-11177ec59dde.png)|

####考察
やり過ぎてしまったのか、崩れてしまったようです。
Softmaxの分類問題としての結果は、4個のデータで間違っていました。






##GradCamによる可視化
###結果

####きちんと異常箇所を認識している画像（2020年6月9日修正）
~~（私の実装している）GradCamは実施するたびに、結果が変わってしまうのですが（なぜなのかが分かっていないので、今後の大きな課題です。）、~~ きちんと学習できているモデルで、GradCamの可視化がうまくいけばこれになります。
また、全結合層（metric_fc）は、GradCamの結果に大きな影響を及ぼしますが、畳み込み層（model)とは異なるモデルの全結合層（metric_fc）のパラメーターを読み込むことで、GradCamの可視化が非常にうまくいくケースがあることが分かりました。（なぜなのかの理解は、今後の課題です。）
今回の検証では、何らかの方法でGradCamの可視化を調整すれば、エポック数：300、500、1000のほとんどのモデルにおいて、すべての異常データに対するGradCam可視化画像において、このタイプの結果を得ることができました。

|元の画像|GradCamで可視化した画像|
|---|---|
|![1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/59cb4137-25ca-84f1-137d-2ab5a74f90fe.png)|![2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/933976e3-b3d0-028b-b9bb-3bab6b18f38e.png)|
|![3.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/ec57e6f3-acdd-577f-8f46-64b6fc731c95.png)|![4.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/3d5604e4-fe88-5df4-5738-d7fdd7394b18.png)|
|![5.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/208130d1-2586-a3c6-600a-5036ea5d2e4c.png)|![6.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/f4b5ab99-2516-d1a3-582c-de9d84892846.png)|
|![7.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/2e115549-0165-c96b-1f0d-8febb29cdfbe.png)|![8.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/fe286e83-5faf-a55e-7d16-03b075fd9387.png)|
|![203.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/e4a9e12c-86e6-44f0-2024-555a85208d7d.png)|![204.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/eb9b4632-96e2-11de-863b-b7fa329911a1.png)


####正常箇所と異常箇所の認識が逆転している画像（2020年6月9日修正）
エポック数にかかわらず、それなりの割合でこのパターンが出てきます。
~~（GradCamを実施するたびに、結果が変わってしまうのですが）~~ 少数の割合でこのタイプが出てくる場合と、ほとんどがこのタイプになる場合と、まったくこのタイプが出てこない場合があります。
着目するべきポイントや正常なものと異なるという認識はできているようですが、なぜなのかが明確に分かりません。。。

|元の画像|GradCamで可視化した画像|
|---|---|
|![9.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/9463ac73-a3d1-9e8c-efc2-9b4a7466dd61.png)|![10.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/1c990aa7-d2eb-71eb-1cf0-d32feca25282.png)|
|![11.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/2e7c9cc4-f279-f087-df6b-ac4210b19b7b.png)|![12.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/8812086e-3e77-9136-8573-50897381fc44.png)|
|![201.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/3d1b51cf-0f9e-0dbe-f293-d3a7ce0f9831.png)|![202.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/a39de172-0a6d-098c-d74d-10c2fffd909b.png)


####異常箇所の付近で何かを認識しているが、正確ではない画像（2020年6月9日修正）
~~エポック数：300ではある程度の割合で、エポック数：500と1000ではごく少数の割合でこのタイプの画像が出てきます。~~
何かに反応はしているし、反応箇所が異常箇所の付近のものもあるので、それらの場合は、それなりの認識はできていると思えますが、位置が正確ではありません。
ただし、最後の画像のように、異常箇所と無関係と思える場所に反応しているものもあり、それらの場合は、ほとんど異常箇所が認識できてないように見えるものもあります。
（2020年6月9日追記）エポック数やモデルの良し悪しというより、GradCamの状態によるように思えます。

|元の画像|GradCamで可視化した画像|
|---|---|
|![スクリーンショット 2020-06-08 11.11.07.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/8ad9460c-66f8-08d0-5bac-07cd2f0094e7.png)|![スクリーンショット 2020-06-08 11.11.11.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/4f97a319-079c-63a3-e291-f4acaf4ae209.png)|
|![スクリーンショット 2020-06-08 11.11.55.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/1602bb7e-f82b-8984-286a-d1ef00bd28f7.png)|![スクリーンショット 2020-06-08 11.11.59.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/9a95d8b4-980d-28ba-2d52-fb71f32bd8d1.png)|
|![スクリーンショット 2020-06-08 11.12.09.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/60311be6-2e0a-fefe-b6a6-5592cac12afb.png)|![スクリーンショット 2020-06-08 11.12.13.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/5702418f-c03c-90ae-866e-6b748b2b41eb.png)|
|![スクリーンショット 2020-06-08 11.12.59.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/3554488a-d6d1-5972-de67-e6ea7099b1f1.png)|![スクリーンショット 2020-06-08 11.13.08.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/e6bbc20e-fefc-de80-6e77-98c5a5bb4267.png)|
|![スクリーンショット 2020-06-08 11.17.55.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/5ffd2701-4ec7-5246-80c5-3042fbd86098.png)|![スクリーンショット 2020-06-08 11.18.02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/0bea90ea-16c3-415e-28cf-e9b7d8585e2a.png)|

####まったく反応していない画像
まったく何にも反応していません。
~~エポック数：300では少数の程度の割合で、エポック数：500と1000ではごくごくまれにこのタイプの画像が出てきます。~~
（2020年6月9日追記）エポック数やモデルの良し悪しというより、GradCamの状態によるように思えます。

|元の画像|GradCamで可視化した画像|
|---|---|
|![スクリーンショット 2020-06-08 11.17.41.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/a39b46ab-de51-20b2-9245-59b31f56c790.png)|![スクリーンショット 2020-06-08 11.17.48.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/f5316aee-d960-0a94-90e1-5faafc81e8b3.png)|
|![スクリーンショット 2020-06-08 11.13.49.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/0b099a9a-b88f-60d2-3ccf-9f0ff22fee6b.png)|![スクリーンショット 2020-06-08 11.13.57.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/23e8ca79-8bc9-6467-b73e-f291e3b49180.png)|
|![スクリーンショット 2020-06-08 11.18.13.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/01cc80e2-56ce-63ab-d3a5-f69baf040ac1.png)|![スクリーンショット 2020-06-08 11.18.17.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/e75428d7-b515-964a-7614-1b68eea2a482.png)|

####（補足）エポック数：1000の画像
（（2020年6月9日追記）全結合（metric_fc）のパラメーター読み込みを追加した後では、全結合（metric_fc）のパラメーターを調整した場合のみに出てくるようになりました。）
異常箇所と反応箇所が逆転していますが、それ以上に正常箇所が（エポック数：300や500のように）均一ではなく、強く反応している場所とそうでない場所があるのが気になります。
過学習して、レザーの細かい模様に反応しているのかも知れません。
~~ただし、GradCamの実施のたびに結果が変わるので、エポック数：1000でも、正しく異常個所に反応している場合もあります。~~

|元の画像|GradCamで可視化した画像|
|---|---|
|![211.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/90495a17-6fc3-2b2c-f3e0-73950e738e91.png)|![212.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/34678123-53ef-432e-d946-2f72344b6679.png)|
|![213.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/c706254f-a961-4a62-644b-6e78c02051c3.png)|![214.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/8e649579-7a93-3e67-2d50-ef725ddfb2ac.png)|
|![215.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/60e08de8-bd4d-6619-e29f-1e6a8cff9c66.png)|![216.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/90db322d-87aa-c1e1-89b9-98d1b7f8e660.png)|


###考察
上記画像は、学習データのGradCam可視化ですが、学習に使用していないデータでも、同じような結果が得られました。
~~ただし、理解できていない大きな問題として、GradCamの実施のたびに結果が変わると言うものがあります。~~
エポック数：300、500、1000のいずれにおいても、何らかの方法でGradCamの可視化を調整すれば、すべてのGradCam可視化画像で、正確に異常個所を認識している画像を得ることができました。
ただし、特徴空間へのプロットとSoftmaxでの予測も加味すると、すべて期待通りの結果が出たのは、エポック数：500のよくできたモデルだけでした。
GradCam可視化画像で、なぜ、異常個所と反応個所が逆転しているものがあるのか等は、今後の大きな課題となります。
また、GradCam可視化の結果の良し悪しは、モデルの良し悪しとは別の問題のようです。

#さいごに
Leatherは、もっとも簡単なデータセットだったので、うまくいきました。
次回は、Capsule編をやります。