Deep Metric Learning（深層距離学習）を使った打突音による異常検知

# お知らせ
[Deep Metric Learning（深層距離学習）を使った打突音による異常検知 その2](https://qiita.com/tetz1/items/954ae84d1787bb5e1723) を公開しました。

# はじめに
深層学習、および、深層距離学習を使った各手法で、打突音による異常検知を比較してみました。
参考にさせて頂いた記事の寄せ集めみたいな記事になってしまいました。あしからず。
参考にさせて頂いた記事の著者の皆様に深謝致します。

# 比較した手法
1. オートエンコーダー (AutoEncorder)
2. 変分オートエンコーダー (Variational AutoEncorder)
3. CNN(浅いNN）
4. CNN(Resnet18)
5. MetricLearning TripletLoss(浅いNN）
6. MetricLearning TripletLoss(Resnet18）
7. ArcFace(浅いNN）
8. ArcFac(Resnet18）

#手順・概要
手順 1. 正常、及び、異常の木板を打突棒で打突
手順 2. USB接続されたマイクで録音
手順 3. 前処理
手順 4. 各種深層学習手法による訓練
手順 5. 学習したモデルを使って、推論の結果を確認

## 手順 1. 正常、及び、異常の木板を打突棒で打突

正常と異常の木板を数枚用意します。
木板は、適当なものを近所のホームセンターで購入してカットしてもらいました。
異常な木板には、意図的にヒビや切り込みを入れています。
また、木板のサイズは、少し（数cm程度）ばらつきを持たせています。

### 正常木板
|<img width="250" alt="図1.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/ba0855f6-4f7b-c82f-a7ae-8a6e3650447f.png">|<img width="250" alt="図3.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/c8f9f8f1-6023-10ab-0e32-5b835f1dc634.png">|
|---|---|
|正常木板1（13cm x 20cm) |正常木板3（13cm x 21.5cm) |


### 異常木板
|<img width="250" alt="スクリーンショット 2020-03-11 10.07.21.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/b8dc0603-f514-a190-5c34-edae1e90d819.png">|<img width="250" alt="スクリーンショット 2020-03-11 10.07.26.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/b56d545e-4580-c27c-a071-fa90edaa6c06.png"> |
|---|---|
|異常木板5,6（13cm x 19cm)|異常木板7,8（13cm x 20cm) |

### 類似正常木板
正常木板、異常木板 その1 とは、材質が少し異なります。（ただし、類似した材質です。）

|<img width="250" alt="図11.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/d226e21e-7864-ad93-64ae-b6514cf5c1a9.png">||
|---|---|
|類似正常木板11,12（13cm x 19cm)|類似正常木板（13cm x 20cm)|

### 打突棒
<img width="250" alt="図0.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/3d7b5181-ee97-a303-d14d-ef621c06c667.png">
打突棒は、Amazonで適当なものを購入しました。
https://www.amazon.co.jp/gp/product/B00QQ2J70K/ref=ppx_yo_dt_b_asin_title_o09_s00?ie=UTF8&psc=1


## 手順 2. USB接続されたマイクで録音
木板の端を打突棒で叩いた音をUSBマイクで録音します。
板によっては、左右の差があるかどうかを見るために、左右それぞれを打突して録音します。
USBマイクもは、Amazonで適当なものを購入しました。
https://www.amazon.co.jp/gp/product/B075PJ7V3V/ref=ppx_yo_dt_b_asin_title_o09_s00?ie=UTF8&psc=1
特に性能で選んだわけでもなく、自立するマイクで、高価でなく、ユーザー評価の高いもの適当に選びました。

<img width="200" alt="61ehhrbyDXL._AC_SL1024_.jpg" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/cecde48c-abaf-60a4-27bb-c090d6bdba55.jpeg">

録音は、３秒の長さで実施し、wavで保存しています。
録音時には、モノラルになるよう（ステレオにならないよう）注意しています。
（マイクや打突の位置が一定ではないため、ステレオにすると位置に敏感になりすぎて、余計な情報が含まれてしまうため。）

## 手順 3. 前処理

このままでは、データに余分なものが多く、効率的に学習できないので、前処理をします。

<img width="250" alt="図100.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/fc86ce5d-5fc2-ecea-039e-291a22825775.png">
上図は、wavをサンプリングして、プロットしただけのものです。（元データだと思って下さい。）

wavをスペクトラム＆対数変換します

```
x, fs = librosa.load(wavファイルのパス, sr=44100)
stft = np.abs(librosa.stft(x, n_fft=1024, hop_length=128))**2
log_stft = librosa.power_to_db(stft)

plt.figure(figsize=(5,4))
plt.plot(x)
plt.show()

plt.figure(figsize=(20,4))
plt.imshow(log_stft, interpolation='nearest',vmin=-5,vmax=5,cmap='jet')
plt.colorbar()
plt.show()
```

この時点で、下記のような 1 x 512 x 690 の配列データになります。
（512は周波数領域方向を表し、690は時間方向表します。（つまり、3秒=690列です。） ）
<img width="350" alt="スクリーンショット 2020-03-11 10.20.32.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/4a76d3ee-ca64-35c4-2863-630f46286dec.png">

メルスペクトログラムではなく、スペクトログラムを使っています。
（両方試してみましたが、スペクトログラムの方が良い結果が出ました。メルスペクトログラムの性質を考えると、今回のような機械音にはスペクトログラムがいいというのは納得できる結果です。）

上記の画像を見ると分かる通り、赤枠以外のほとんどの部分は余分なだけでなく、モデルが学習する際に、データのどこに着目して特徴を捉えたらいいかを把握する上での邪魔になるので、必要な部分を残して削除します。
これにより、処理が軽くなる ＋ 訓練精度があがります。
（特徴として捉えて欲しいのは、赤枠の部分です。しかし、この処理をしない場合、赤枠の中が異なっていても、モデルがそれ以外に着目した場合、その部分には違いがないので、違いがないデータとして認識されてしまいやすくなります。）

赤枠の部分だけを切り出し(1 x 512 x 690 => 1 x 100 x 120)、データに正規化（標準化）の処理をします。
正規化には、最小値を0、最大値を1として、すべてを0〜1の範囲に収める正規化と、平均と分散を使って、標準正規分布に変換する標準化がありますが、打突時の強さや、マイクの位置などが一定でないため、音の大きさが毎回変わることや、外れ値の影響を考慮して、標準化にしました。（ちなみに、正規化、標準化といった言葉は、厳密には定義・共通認識化されていないようで、みなさん、かなり色々な意味で使われていますので、上記の正規化、標準化はここだけの定義と思って下さい。）
https://books.google.co.jp/books?id=siB0DwAAQBAJ&pg=PT208&lpg=PT208&dq=%E6%AD%A3%E8%A6%8F%E5%8C%96+%E6%A8%99%E6%BA%96%E5%8C%96+%E7%99%BD%E8%89%B2%E5%8C%96&source=bl&ots=Hd2DPcvZuy&sig=ACfU3U23Mx8jTKlAjvbafZLp0YTvDLMLIQ&hl=ja&sa=X&ved=2ahUKEwiTv-7KpJHoAhXTzIsBHRChCm84ChDoATAAegQICRAB#v=onepage&q=%E6%AD%A3%E8%A6%8F%E5%8C%96%20%E6%A8%99%E6%BA%96%E5%8C%96%20%E7%99%BD%E8%89%B2%E5%8C%96&f=false
https://ja.wikipedia.org/wiki/%E6%A8%99%E6%BA%96%E5%BE%97%E7%82%B9
<img width="350" alt="図200.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/34fcfe6d-1134-b67d-46f4-46eb2c6d2f52.png">

さらに、切り出す位置を横方向（時間方法）に少しだけずらしたものを別に作り、学習データの数を増やします。（ひとつのwavから、2つずつの学習データを作ります。）

（※3月23日追記）

|上記と同じ|左と同じデータで切り出し方を変えたもの|
|---|---|
|![スクリーンショット 2020-03-23 11.07.32.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/4e561fc9-9745-13a4-d5be-2f716e5dae08.png)|![スクリーンショット 2020-03-23 11.14.01.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/8d4980c0-9a9f-6f4a-8f2b-5c621654587e.png)|

（※3月23日追記）
ちなみにに、異常木板のデータは下記のような感じです。

|異常木板5|異常木板6|
|---|---|
|![スクリーンショット 2020-03-23 11.15.04.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/a6ee36a7-24b3-4698-93a5-8c306dd25072.png)|![スクリーンショット 2020-03-23 11.15.42.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/698326b9-4a1d-2bfb-df9a-3e4f86ccb295.png)|

わずかですが、異常木板のデータは、右下のあたりが欠けて、より矢印型のように見えます。

ここまできたら、あとは訓練させるだけです。

## 手順.4 訓練、および、手順.5 推論

まずは、オートエンコーダーで訓練させてみます。
### 1. オートエンコーダー
オートエンコーダーとは、入力データから、Encoderと呼ばれるニューラルネットワークを通して、次元数の少ない潜在変数zに変換し、それをDecoderと呼ばれるニューラルネットワークを通して、入力データと同じデータを出力するように訓練させるものです。（出力データが、入力データを再現するよう訓練されたものと言える。）
学習済みのモデルは、訓練データに最適化されているため、訓練データ（正常データ）と異なるデータ（異常データ）が入力された場合は、出力データが、入力データを再現できないという性質を利用して、異常データを検知します。
![ae.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/29711a27-2192-11eb-9e1a-4baa0e57038f.png)
こちらに解説があります。
https://deepage.net/deep_learning/2016/10/09/deeplearning_autoencoder.html

また、実装については、下記を参考にしています。
（というか、そのまま使ってます。）
https://blog.keras.io/building-autoencoders-in-keras.html

####結果

|lr=0.00001, Epc=50|同左|
|---|---|
|![スクリーンショット 2020-03-12 15.17.36.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/f7cf0c92-fab6-fe8e-5659-8be27bbe31cc.png)|![スクリーンショット 2020-03-12 15.17.40.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/279e5419-4761-1b94-7e75-58bca9bed092.png)
|0:正常木板3<br>1:正常木板3<br>2:異常木板7<br>3:異常木板7<br>紫:異常木板8|0:正常木板3<br>1:正常木板3<br>その他すべて類似木板|

（補足）
同じ木板について、１セット30回の録音（各3秒）を行なっています。
上記の各折れ線グラフ１本が、１セットを表しています。
上記の図では、入力データと出力データの差が、MSEでスカラーとして表現されています。
水平方向は、実施回数を表しており、左端が1回目で右端が３０回目です。

####考察
lrやEpoch数を変えても、ほとんど変化はありませんでした。
正常木板と異常木板の分離がまったくできていません。
（同じ正常木板３同士の差と、正常木板と異常木板の差がほとんど変わりません。）
類似木板についても同様です。
入力データ（下図上）と出力データ（下図下）をみると、出力データはぼやけた感じになっており、細部がまったく再現できていないことが分かります。

![スクリーンショット 2020-03-12 17.05.31.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/20532cbe-5570-434c-e3e3-77adc7e2a600.png)


### 2. 変分オートエンコーダー
変分オートエンコーダーは、Encoder、潜在変数z、Decoderを通して、入力データと同じデータを出力するように訓練させるもの、という点ではオートエンコーダーと同じですが、変分オートエンコーダー（VAE）では、潜在変数zが確率分布に従うように訓練していきます。

こちらに素晴らしい解説があります。
https://qiita.com/kenmatsu4/items/b029d697e9995d93aa24

また、実装については、下記を参考にしています。
https://qiita.com/fukuit/items/1a9760821b1166aba90c

####結果
|lr=0.00001, Epc=100|同左|
|---|---|
|![スクリーンショット 2020-03-12 17.15.06.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/576d0b6e-fa7f-75e4-8640-45b0613ae538.png)|![スクリーンショット 2020-03-12 15.21.32.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/473140da-b2bb-54ef-0fe1-fa3f4977201e.png)|
|0:正常木板3<br>1:正常木板3<br>2:異常木板7<br>3:異常木板7<br>紫:異常木板8|0:正常木板3<br>1:正常木板3<br>その他すべて類似木板|

####考察
lrやEpoch数を変えても、ほとんど変化はありませんでした。
オートエンコーダーと同様に、正常木板と異常木板の分離がまったくできていません。
（同じ正常木板３同士の差と、正常木板と異常木板の差がほとんど変わりません。）
類似木板についても同様です。
こちらも、入力データ（下図上）と出力データ（下図下）をみると、出力データはぼやけた感じになっており、細部がまったく再現できていないことが分かります。

![スクリーンショット 2020-03-12 17.13.45.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/4505b9d3-6fd2-6561-e83c-0cf803287934.png)

### 3. CNN(浅いNN）
次は、浅いNNを使った通常のCNNで訓練させてみます。
ここからは、pytorch を使います。

モデルは下記の通りです。
50クラスの分類にしているので、最終層は50次元になっています。
（たくさんの枚数の木板を、さらにたたく場所を変えて試しているので、手っ取り早く50クラスの分類にしてしまいました。。。）
可視化のために出力層の手前で2次元にしたあとで、分類のために50次元にしています。
（ちなみに、2次元を50次元に変えて、ボトルネックを作らないやり方も試しましたが、精度は上がりませんでした。）

```
ClassificationNet(
  (embedding_net): EmbeddingNet(
    (convnet): Sequential(
      (0): Conv2d(1, 32, kernel_size=(3, 3), stride=(1, 1))
      (1): PReLU(num_parameters=1)
      (2): MaxPool2d(kernel_size=2, stride=2, padding=0, dilation=1, ceil_mode=False)
      (3): Conv2d(32, 32, kernel_size=(3, 3), stride=(1, 1))
      (4): PReLU(num_parameters=1)
      (5): MaxPool2d(kernel_size=2, stride=2, padding=0, dilation=1, ceil_mode=False)
      (6): Conv2d(32, 64, kernel_size=(3, 3), stride=(1, 1))
      (7): PReLU(num_parameters=1)
      (8): MaxPool2d(kernel_size=2, stride=2, padding=0, dilation=1, ceil_mode=False)
      (9): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1))
      (10): PReLU(num_parameters=1)
      (11): MaxPool2d(kernel_size=2, stride=2, padding=0, dilation=1, ceil_mode=False)
      (12): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1))
      (13): PReLU(num_parameters=1)
      (14): MaxPool2d(kernel_size=2, stride=2, padding=0, dilation=1, ceil_mode=False)
    )
    (fc): Sequential(
      (0): Linear(in_features=64, out_features=64, bias=True)
      (1): PReLU(num_parameters=1)
      (2): Linear(in_features=64, out_features=32, bias=True)
      (3): PReLU(num_parameters=1)
      (4): Linear(in_features=32, out_features=2, bias=True)
    )
  )
  (nonlinear): PReLU(num_parameters=1)
  (fc1): Linear(in_features=2, out_features=50, bias=True)
)
```

####結果
|Lr = 0.01, Epc = 30|Lr = 0.01, Epc = 100|Lr = 0.01, Epc = 200|
|---|---|---|
|<img width="300" alt="3CNN1.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/a7c03db0-1ea5-a0f1-7023-2e57c5bc4667.png">|<img width="300" alt="3CNN2png.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/54292e52-47cc-8fef-691f-05ed5b495360.png">|<img width="300" alt="3CNN3.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/ef1452e3-3d2d-208d-c3b8-d7b94d06de3a.png">|

|Lr = 0.001, Epc = 100|Lr = 0.1, Epc = 200|
|---|---|---|
|<img width="66%" alt="3CNN4.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/b754d73f-aef9-5c23-1042-2a3b65746e5c.png">|<img width="66%" alt="3CNN5.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/04c6f69b-6fd0-7e49-213d-263be39c78db.png">|


（補足）
同じ木板について、１セット30回の録音（各3秒）を行なっています。
ただし、オートエンコーダーのときと違い、２次元空間での表現となっており、また、入力データと出力データの誤差を表しているわけでもありません。（小さいからいいというわけではないし、そもそも出力が入力を再現しようとしているわけではない。）
単純に入力データを特徴ベクトル化して表示しているだけです。
各点が、それぞれの録音回を表しており、各セットについて、30個の点があります。
同じ木板を複数セット録音しているものは、セット数 x 30個の点があります。


####考察
水色が正常木板１と正常木板３で、茶色が異常木板５（左端）、黄土色が異常木板５（右端）です。
エポック100ぐらいで収束するが、たいして精度がいいとは言えない。（クラス間の分離ができていない）
学習率を変えてもたいして変化なし。optimizer は Adam です。


### 4. CNN(Resnet18）
次は、Resnet18ベースの（通常の）CNNで訓練させてみます。
同じく、pytorch を使います。

モデルは下記の通りです。
50クラスの分類なので、最終層は50次元になっています。
tSNEで２次元にして、可視化しています。
（入力データのは、他と同じく 1 x 100 x 120 です。）

```
ResNetWood(
  (conv1): Conv2d(1, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
  (bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
  (relu): ReLU(inplace=True)
  (layer1): Sequential(
    (0): BasicBlock(
      (conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace=True)
      (conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (downsample): Sequential(
        (0): Conv2d(64, 64, kernel_size=(1, 1), stride=(2, 2), bias=False)
        (1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      )
    )
    (1): BasicBlock(
      (conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace=True)
      (conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
    )
  )
  (layer2): Sequential(
    (0): BasicBlock(
      (conv1): Conv2d(64, 128, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace=True)
      (conv2): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (downsample): Sequential(
        (0): Conv2d(64, 128, kernel_size=(1, 1), stride=(2, 2), bias=False)
        (1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      )
    )
    (1): BasicBlock(
      (conv1): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace=True)
      (conv2): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
    )
  )
  (layer3): Sequential(
    (0): BasicBlock(
      (conv1): Conv2d(128, 256, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace=True)
      (conv2): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (downsample): Sequential(
        (0): Conv2d(128, 256, kernel_size=(1, 1), stride=(2, 2), bias=False)
        (1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      )
    )
    (1): BasicBlock(
      (conv1): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace=True)
      (conv2): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
    )
  )
  (layer4): Sequential(
    (0): BasicBlock(
      (conv1): Conv2d(256, 512, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace=True)
      (conv2): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (downsample): Sequential(
        (0): Conv2d(256, 512, kernel_size=(1, 1), stride=(2, 2), bias=False)
        (1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      )
    )
    (1): BasicBlock(
      (conv1): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace=True)
      (conv2): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
    )
  )
  (fc5): Linear(in_features=28672, out_features=512, bias=True)
  (fc6): Linear(in_features=512, out_features=50, bias=True)
)
```

####結果
（tSNEで次元削減して可視化しているので、実行のたびに形が変わります。）

|Lr = 0.001, Epc = 300, SGD, CrossEntropyLoss|同左|同左|
|---|---|---|
|学習データのみ|学習データ+異常木板7,8|学習データ+類似木板|
|<img width="90%" alt="4図1.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/b3b0643e-739a-9fe5-a1c6-dcc6047f4251.png">|<img width="90%" alt="42図1.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/9f493117-2c11-6a41-f51d-e133ded1a339.png">|<img width="90%" alt="43図1.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/4b1fbab4-16ee-29dd-51c3-526142864695.png">|

|Lr = 0.01, Epc = 100, SGD, CrossEntropyLoss|同左|同左|
|---|---|---|
|学習データのみ|学習データ+異常木板7,8|学習データ+類似木板|
|<img width="90%" alt="421.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/4a712963-ab18-30e0-fd76-61a9bfc3d1f6.png">|<img width="90%" alt="422.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/6e10c27d-8121-19fb-c3ec-fc9440616f16.png">|<img width="90%" alt="423.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/5d1d8c39-7c68-26bc-92ed-2168e887fd38.png">|

|Lr = 0.01, Epc = 100, SGD, FacalLoss|同左|同左|
|---|---|---|
|学習データのみ|学習データ+異常木板7,8|学習データ+類似木板|
|<img width="350" alt="431.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/8dc4dfda-ca95-8f21-81bb-6587e9b69017.png">|<img width="350" alt="432.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/557766c2-c02b-6827-6b12-deab358c7903.png">|<img width="350" alt="433.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/99a59eaf-9aec-d69b-0a9b-2c300dc864ce.png">|

|学習データ|異常木板7,8|類似木板|
|---|---|---|
|水色 - 正常木板１と正常木板３<br>茶色 - 異常木板５（左端）<br>黄土色 - 異常木板6（右端）|灰青色 - 異常木板7<br>明るい茶色 - 異常木板8|上記以外の色全て|

####考察
学習率(lr)は、0.001では小さすぎる。0.01ぐらいが良さそうだ。（ちなみに、0.1にすると収束しない。）
損失関数は、CrossEntropyLossでも、FacalLossでも大きな違いは見られなかった。
すべてのクラスを分離できているが、すべての木板をそれぞれ個別に別のものと認識しているだけで、期待するような正常、異常の特徴を捉えているとは言い難い。入力データがそれほど大きくないことや、NNの大きさを考えると過剰適応（過剰学習）しているように思える。

### 5. TripletLoss(浅いNN）
ここからいよいよメトリックラーニングになります。
メトリックラーニングは、同じラベルを持つもの（類似しているもの）が、ニューラルネットワークを通して生成される特徴次元空間（埋め込み空間）において、距離（ユークリッド、マハラノビス）や角度が近く配置されるように訓練するものです。
（特徴次元空間において、意味の近いデータは近く、意味の遠いデータは遠くなるよう学習されたモデル）
下記に素晴らしい解説があります。
https://copypaste-ds.hatenablog.com/entry/2019/03/01/164155
https://cpp-learning.com/metric-learning/

![metric.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/fab0e8b3-2f3b-e4ff-4b86-a43d82d7ebce.png)
出典： https://vision.cornell.edu/se3/embeddings-and-metric-learning/

その中でも、ここでは、TripletLossを使います。

TripletLossの特徴は、特徴次元空間にマッピングされたデータに対し、同じラベルのデータは近くに、異なるラベルのデータは遠くになるよう学習していくことです。
具体的には、Anchorと呼ばれるデータに対し、同一ラベルのpositiveなデータと、異なるラベルのnegativeなデータを選択し、positiveなデータはAnchorに対し近くに、negativeなデータは遠くになるように学習するという処理を繰り返し行なっていきます。
![tl.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/64d78efb-6f0e-b980-6e8e-b9b16631d295.png)

ここに素晴らしい解説があります。
https://qiita.com/tancoro/items/35d0925de74f21bfff14

実装については、pytorchで、下記を参考にさせて頂きました。
（というより、ほとんどそのまま使っています。）
https://github.com/adambielski/siamese-triplet


では、まずは、TripletLoss(浅いNN）で訓練させてみます。
（浅いNNは、上記のものとほとんど同じですが、最後の２次元を50次元に変換する層を削除しています。）

####結果
|Lr = 0.01, Epc = 100, Adam, MSE|同左|同左|
|---|---|---|
|学習データのみ|学習データ+異常木板7,8|学習データ+類似木板|
|<img width="350" alt="tl11.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/ba8bc15f-69d5-9917-5b47-9edbc3ed7e98.png">|<img width="350" alt="tl12.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/1c0ff4e8-4205-0345-2a01-236d4f704f4f.png">|<img width="350" alt="tl13.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/6be99d4a-ddf6-44bc-b5ce-8859fcf80d0e.png">|

|Lr = 0.001, Epc = 100, Adam, MSE|同左|同左|
|---|---|---|
|学習データのみ|学習データ+異常木板7,8|学習データ+類似木板|
|<img width="350" alt="tl21.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/ccd7ef98-09b1-5dcf-c930-8e0c78962970.png">|<img width="350" alt="tl22.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/fb8a0963-4e71-7e9d-5158-352cf58fcbf9.png">|<img width="350" alt="tl23.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/ef06839d-d86c-1b4b-c0f9-4b49d76e3d06.png">|

|学習データ|異常木板7,8|類似木板|
|---|---|---|
|水色 - 正常木板１と正常木板３<br>茶色 - 異常木板５（左端）<br>黄土色 - 異常木板6（右端）|灰青色 - 異常木板7<br>明るい茶色 - 異常木板8|上記以外の色全て|


####考察
学習データの分離はよくできています。
訓練に使用していない異常木板7、8を推論にかけた際に、正常より少しはずれているという認識はしているものの、異常と判定するのは難しい程度の違いしか認識できていない（正常の一部に見える）。ただ、異常木板7の異常度は、異常木板8より小さい（異常木板7はほぼ正常）と判定している点が面白い。異常木板7と8は一枚の木板の左端と右端で叩く位置を変えているだけですが、切り込みが板の右側（異常木板8側）のみにあることを考えると、その違いを認識しているように見えます。
さらに、材質がわずかに異なる木板（ヒビや切り込みはなし）については、正常と判断しており、さらに、（正常の中でも）異常から離れた位置に配置されています。
かなり、期待通りの結果となっています。


### 6. TripletLoss(Resnet18）
では、Resnet18をベースにした TripletLossで訓練させてみます。
（上記のResnet18の最終層を２次元にしています。）

####結果

|Lr = 0.0005, Epc = 15, Adam, MSE|同左|
|---|---|
|学習データ+異常木板7,8|学習データ+類似木板|
|<img width="350" alt="tl1811.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/9eb9278f-72ab-32b7-c966-998aa0e7bb7a.png">|<img width="350" alt="tl1812.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/b6fbe7ec-0a3f-a54c-0d60-9bdfc9286cd3.png">|

|Lr = 0.001, Epc = 20, Adam, MSE|同左|
|---|---|
|学習データ+異常木板7,8|学習データ+類似木板|
|<img width="350" alt="tl1821.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/0f84948e-e8d8-29eb-c754-df42b35e18c7.png">|<img width="350" alt="tl1822.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/eef56fc5-bf1a-eaca-81c1-90f78dcb8d0e.png">|

|Lr = 0.003, Epc = 20, Adam, MSE|同左|
|---|---|
|学習データ+異常木板7,8|学習データ+類似木板|
|<img width="350" alt="tl1831.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/2460fbc1-4b66-3a8e-aacf-18d831c92988.png">|<img width="350" alt="tl1832.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/4327c197-ebe9-6f41-42e0-b7e1ad19b23d.png">|

|学習データ|異常木板7,8|類似木板|
|---|---|---|
|水色 - 正常木板１と正常木板３<br>茶色 - 異常木板５（左端）<br>黄土色 - 異常木板6（右端）|灰青色 - 異常木板7<br>明るい茶色 - 異常木板8|上記以外の色全て|

####考察
学習データの分離はよくできてます。
ただ、訓練に使用していない異常木板7、8の推論では、異常であることをまったく識別できていません。
材質がわずかに異なる類似木板（ヒビや切り込みはなし）については、正常と判断していますが、異常木板7、8も同じような位置に配置されているため、意味のある推論になっているかが不明です。
ただし、Resnet18とTripletLossの相性が悪いのか、私の実装力不足なのかが分かりません。（後者のような気が、強くします。）
そのため、このモデルについては、判断を保留とします。

### 7. ArcFace(浅いNN）

次は、ArcFaceを使います。
ArcFaceの特徴は、CNNからの特徴ベクトルxが、L2正規化されることで、一様分布に近い出力を出そうとすることを防ぎ、さらに、全結合層の重みWについても、列ごとにL2正規化されることで、角度を使って類似度を算出しています。また、ペナルティマージンにも独特の工夫があります。
下図を見ると、他の手法とのペナルティマージンの考え方の違いがよく分かります。
![ArcFace.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/a5b6d09b-3d6e-af74-7c77-7ed8eeb43019.png)

下記にすばらしい解説があります。
https://qiita.com/yu4u/items/078054dfb5592cbb80cc

では、まずは、ArcFace(浅いNN）で訓練させてみます。
実装は、pytorchで、下記を参考にさせて頂きました。
（これまた、ほとんどそのまま使っています。）
https://github.com/ronghuaiyang/arcface-pytorch
（ちなみに、上記のResnet18も、ここの実装をほとんどそのまま使っています。）

####結果

|Lr = 0.001, Epc = 100, SGD, CrossEntropyLoss|Lr = 0.001, Epc = 200, SGD, CrossEntropyLoss|
|---|---|---|
|学習データのみ|学習データのみ|
|<img width="350" alt="511.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/fd659292-6a90-62c8-003c-6263f3809c91.png">|<img width="350" alt="512.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/dc03c2d8-dd5f-55bc-5506-4f2e93e348c9.png">|

|Lr = 0.003, Epc = 10, SGD, CrossEntropyLoss|Lr = 0.005, Epc = 100, SGD, CrossEntropyLoss|
|---|---|
|学習データのみ|学習データのみ|
|<img width="350" alt="522.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/2a116d8e-e6f5-c6c1-3455-e5674baff420.png">|<img width="350" alt="521.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/187997a5-25c1-aaa4-2d1e-007a09cf2090.png">|

|学習データ|
|---|---|
|水色 - 正常木板１と正常木板３<br>茶色 - 異常木板５（左端）<br>黄土色 - 異常木板6（右端）|

####考察
学習率は、0.001が良さそうです。学習率0.003（または、0.005）でエポック数10以上や、それ以上の学習率だと収束しません。
学習データのみを見ても分離もまったくできておらず、あまりいいモデルではないようです。


### 8. ArcFace(Resnet18）
続いて、ArcFace(Resnet18）で訓練させてみます。
実装は、pytorchで、同じく下記を参考にさせて頂きました。
（ますます、ほとんどそのまま使っています。）
https://github.com/ronghuaiyang/arcface-pytorch

####結果

|Lr = 0.01, Epc = 100, SGD, CrossEntropyLoss|同左|同左|
|---|---|---|
|学習データのみ|学習データ+異常木板7,8|学習データ+類似木板|
|<img width="350" alt="611.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/4f4068fd-ce2f-38d3-7c36-3ed484ef4f20.png">|<img width="350" alt="612.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/013b91bf-b344-4c49-3d61-39d8a1499e74.png">|<img width="350" alt="613.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/79a5695f-0838-9b32-65b8-52f47b4bb7b5.png">|

|Lr = 0.05, Epc = 100, SGD, CrossEntropyLoss|同左|同左|
|---|---|---|
|学習データのみ|学習データ+異常木板7,8|学習データ+類似木板|
|<img width="350" alt="621.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/a1d99f54-2c0e-35f0-4a75-f78832c1ef99.png">|<img width="350" alt="622.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/d5d832c9-2940-c69c-3b3e-af5bbbcf7063.png">|<img width="350" alt="623.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/f6217983-1a97-5e4c-ac81-c512b0d0d11a.png">||


|Lr = 0.01, Epc = 100, SGD, FacalLoss|同左|同左|
|---|---|---|
|学習データのみ|学習データ+異常木板7,8|学習データ+類似木板|
|<img width="350" alt="631.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/ac41c989-8e89-af4a-3c5c-4e2d573cc84d.png">|<img width="350" alt="632.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/733d01fd-ee09-640c-6e07-dbcd916991b1.png">|<img width="350" alt="633.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/600629/4d31d0f0-d2c8-0de6-1c0e-631ae4280d52.png">|

|学習データ|異常木板7,8|類似木板|
|---|---|---|
|水色 - 正常木板１と正常木板３<br>茶色 - 異常木板５（左端）<br>黄土色 - 異常木板6（右端）|灰青色 - 異常木板7<br>明るい茶色 - 異常木板8|上記以外の色全て|

####考察
ここで驚くべきことが起きました。
学習データで、正常と異常をきちんと分離できたのはもちろんですが、訓練に使用していない異常木板7、8を推論にかけた際に、正常とは異なることを認識しているものの、異常木板7の異常度は、異常木板8より小さい（異常木板7は正常に近い）と判定しているように見えます。
異常木板7と8は一枚の木板の左端と右端で叩く位置を変えているだけですが、切り込みが板の右側（異常木板8側）のみにあることを考えると、その違いを認識しているように見えます。
さらに、材質がわずかに異なる類似木板（ヒビや切り込みはなし）については、正常と判断しています。
ある意味、理想としていた結果となっています。
（本当にそのように解釈できるのかは、これからさらに検証する必要があります。）


##総論
Resnet18単体の性能が非常によかったのが驚きでした。
現時点では、Resnet18ベースのArcFaceが最も性能が良さそうです。
その次は、浅いNNベースのTripletLossでした。
ただ、TripletLossは、学習データでは、しっかり認識できていても、非常に類似したテストデータでは、学習データと異なる（期待と異なる）結果になることが度々ありました。
その点、Resnet18ベースのArcFaceは非常に安定していて、学習データで認識したものは、テストデータでもしっかり認識しているような印象を受けました。（あくまで、根拠のない勝手な印象ですが。。。）
角度ベースで行なっていることや、TripletLossのように個々のデータに対し個別の処理を行なっているわけではないことなどが影響しているのかも知れません。
まだまだ、勉強が必要です。
ここまでお読み頂き有り難うございました。


（参考URL）
https://deepage.net/deep_learning/2016/10/09/deeplearning_autoencoder.html
https://blog.keras.io/building-autoencoders-in-keras.html
https://qiita.com/kenmatsu4/items/b029d697e9995d93aa24
https://qiita.com/fukuit/items/1a9760821b1166aba90c
https://copypaste-ds.hatenablog.com/entry/2019/03/01/164155
https://cpp-learning.com/metric-learning/
https://vision.cornell.edu/se3/embeddings-and-metric-learning/
https://qiita.com/tancoro/items/35d0925de74f21bfff14
https://github.com/adambielski/siamese-triplet
https://qiita.com/yu4u/items/078054dfb5592cbb80cc
https://github.com/ronghuaiyang/arcface-pytorch
https://qiita.com/cvusk/items/61cdbce80785eaf28349
https://qiita.com/shinmura0/items/858214154f889c05e4f4
https://qiita.com/gesogeso/items/547079f967d9bbf9aca8
参考URLの著者の皆様、本当に有り難うございます。