U-net構造で、画像セグメンテーションしてみた。（２）

[U-net構造で、画像セグメンテーションしてみた。（１）](https://qiita.com/taashi/items/03728edc0bf4e8332f39)
の続き記事です。

（１）の方で、Python(Keras)でU-net構造のネットワークを用意し学習をしてみたが、
結果、出力が真っ白で、学習がうまく進んでいなさそうだった。
ということで、

## 改良
学習が進んでいなさそうなので、

- 各MaxPooling前に、BatchNormalizationを追加
- 各デコード層で、2回目のconvolution後に、BatchNormalizationを追加
- 2層目、3層目のデコード層の最後に、Dropoutを追加

## 学習
改良前と同じく
バッチサイズ : 5
エポック : 100

で学習実行

学習曲線は、こんな感じ
![LearningCurve_2.png](https://qiita-image-store.s3.amazonaws.com/0/162097/f7ba5050-3789-d70f-9e8d-a52a3e9675db.png)

おぉ、今回は、下がって行ってる。
下がり切ってはなさそうですが。

## 結果
### 学習に使ったデータ
![neko_01.png](https://qiita-image-store.s3.amazonaws.com/0/162097/05c48de0-30ee-671e-43b2-737d8fa9af82.png)![neko_06.png](https://qiita-image-store.s3.amazonaws.com/0/162097/2909d65d-0cc5-a4aa-4175-722c4c8c00b5.png)![neko_17.png](https://qiita-image-store.s3.amazonaws.com/0/162097/54c39372-bb66-f9dc-9c82-fe547011dafe.png)![neko_60.png](https://qiita-image-store.s3.amazonaws.com/0/162097/16a2b4dc-5e6f-2763-fd12-980a198dce6f.png)
![neko_01.png](https://qiita-image-store.s3.amazonaws.com/0/162097/f22d6032-19ca-007a-1260-0c479886642a.png)![neko_06.png](https://qiita-image-store.s3.amazonaws.com/0/162097/38a6f4ca-b25f-1f00-e352-6e38cc3be6c5.png)![neko_17.png](https://qiita-image-store.s3.amazonaws.com/0/162097/a457be14-898c-d200-e80e-2fbb4832f26d.png)![neko_60.png](https://qiita-image-store.s3.amazonaws.com/0/162097/5a935c53-3025-d837-bf0a-59d561aaf519.png)
![neko_01.png](https://qiita-image-store.s3.amazonaws.com/0/162097/6ffaa316-f0e1-4ec1-93f8-0bee60d89788.png)![neko_06.png](https://qiita-image-store.s3.amazonaws.com/0/162097/2b75b3b5-c6e8-07cb-ee77-91e7b2be6caa.png)![neko_17.png](https://qiita-image-store.s3.amazonaws.com/0/162097/bf15e018-6f51-9396-50a9-7c570fd08e7c.png)![neko_60.png](https://qiita-image-store.s3.amazonaws.com/0/162097/8ea62595-2c91-5681-ec89-b331e56a95b1.png)

それぞれの列で、上から順に、入力/出力/理想(教師)

今回は、学習が進んでいそう。
2枚目とかは特にいいとこまで来てる。
学習曲線的にも下がり切ってないので、エポック数が足りなかった感じだろうか。

### 検証用データ(学習に使用しなかったデータ)
![neko_67.png](https://qiita-image-store.s3.amazonaws.com/0/162097/9f1edcda-e1af-198c-7c79-5fe6726a29d4.png)![neko_72.png](https://qiita-image-store.s3.amazonaws.com/0/162097/98425fbd-08ec-84af-eade-4c77915cd544.png)![neko_76.png](https://qiita-image-store.s3.amazonaws.com/0/162097/b3788b97-0b31-3175-a967-c38c5442afda.png)![neko_79.png](https://qiita-image-store.s3.amazonaws.com/0/162097/96eb3244-7572-b61f-5d4d-c2ace055fa70.png)
![neko_67.png](https://qiita-image-store.s3.amazonaws.com/0/162097/bec77773-54b4-43b1-73d8-b8ca7f76781a.png)![neko_72.png](https://qiita-image-store.s3.amazonaws.com/0/162097/82993f5d-10f4-366b-d3ff-c5489fc20c27.png)![neko_76.png](https://qiita-image-store.s3.amazonaws.com/0/162097/2570fe87-ad72-343c-4ee8-8942f1242684.png)![neko_79.png](https://qiita-image-store.s3.amazonaws.com/0/162097/14c7ab53-1c87-eef4-37af-6e5f628ae6cb.png)
![neko_67.png](https://qiita-image-store.s3.amazonaws.com/0/162097/6d498dd4-3d39-7f02-96b3-3f7bcbafbf59.png)![neko_72.png](https://qiita-image-store.s3.amazonaws.com/0/162097/cc88ee4b-e5dc-bb21-24e4-7d3085cea418.png)![neko_76.png](https://qiita-image-store.s3.amazonaws.com/0/162097/cfda2a75-b67e-e830-b66c-7c69b9ccddf3.png)![neko_79.png](https://qiita-image-store.s3.amazonaws.com/0/162097/cca8afbc-a28a-5765-ef1b-08d6733380f5.png)

それぞれの列で、上から順に、入力/出力/理想

学習が仕切ってなさそうな割に、3枚目,4枚目あたりは結構いい感じ。

## 再度学習
バッチサイズ : 5
エポック : 500

で学習実行

学習曲線は、こんな感じ
![LearningCurve_3.png](https://qiita-image-store.s3.amazonaws.com/0/162097/e4b288a8-7cd6-dafc-1860-403c4273ff71.png)

だいぶ、下がってきてますね

## 再度結果
### 学習に使ったデータ
![neko_01.png](https://qiita-image-store.s3.amazonaws.com/0/162097/05c48de0-30ee-671e-43b2-737d8fa9af82.png)![neko_06.png](https://qiita-image-store.s3.amazonaws.com/0/162097/2909d65d-0cc5-a4aa-4175-722c4c8c00b5.png)![neko_17.png](https://qiita-image-store.s3.amazonaws.com/0/162097/54c39372-bb66-f9dc-9c82-fe547011dafe.png)![neko_60.png](https://qiita-image-store.s3.amazonaws.com/0/162097/16a2b4dc-5e6f-2763-fd12-980a198dce6f.png)
![neko_01.png](https://qiita-image-store.s3.amazonaws.com/0/162097/7a6ca10e-20ec-56ec-228e-05c80bab9b60.png)![neko_06.png](https://qiita-image-store.s3.amazonaws.com/0/162097/fcc25c5f-29e6-b639-9f18-27d79b1135e5.png)![neko_17.png](https://qiita-image-store.s3.amazonaws.com/0/162097/f2b17b9f-5bb4-adc2-57a3-3b0df95e3156.png)![neko_60.png](https://qiita-image-store.s3.amazonaws.com/0/162097/f4593a86-d098-31c0-9e0d-064c8278dc75.png)
![neko_01.png](https://qiita-image-store.s3.amazonaws.com/0/162097/6ffaa316-f0e1-4ec1-93f8-0bee60d89788.png)![neko_06.png](https://qiita-image-store.s3.amazonaws.com/0/162097/2b75b3b5-c6e8-07cb-ee77-91e7b2be6caa.png)![neko_17.png](https://qiita-image-store.s3.amazonaws.com/0/162097/bf15e018-6f51-9396-50a9-7c570fd08e7c.png)![neko_60.png](https://qiita-image-store.s3.amazonaws.com/0/162097/8ea62595-2c91-5681-ec89-b331e56a95b1.png)

それぞれの列で、上から順に、入力/出力/理想(教師)

ほぼ理想の出力になってますね！

### 検証用データ(学習に使用しなかったデータ)
![neko_67.png](https://qiita-image-store.s3.amazonaws.com/0/162097/9f1edcda-e1af-198c-7c79-5fe6726a29d4.png)![neko_72.png](https://qiita-image-store.s3.amazonaws.com/0/162097/98425fbd-08ec-84af-eade-4c77915cd544.png)![neko_76.png](https://qiita-image-store.s3.amazonaws.com/0/162097/b3788b97-0b31-3175-a967-c38c5442afda.png)![neko_79.png](https://qiita-image-store.s3.amazonaws.com/0/162097/96eb3244-7572-b61f-5d4d-c2ace055fa70.png)
![neko_67.png](https://qiita-image-store.s3.amazonaws.com/0/162097/8d03598f-e877-dc8e-f148-e528dde521b1.png)![neko_72.png](https://qiita-image-store.s3.amazonaws.com/0/162097/d4c92f93-30f1-0bed-1275-eacae2b2a653.png)![neko_76.png](https://qiita-image-store.s3.amazonaws.com/0/162097/b6c644f2-6f4d-4741-3bab-69216351d767.png)![neko_79.png](https://qiita-image-store.s3.amazonaws.com/0/162097/e3359cb1-659b-ba11-a2b1-85c6e68e4aa9.png)
![neko_67.png](https://qiita-image-store.s3.amazonaws.com/0/162097/6d498dd4-3d39-7f02-96b3-3f7bcbafbf59.png)![neko_72.png](https://qiita-image-store.s3.amazonaws.com/0/162097/cc88ee4b-e5dc-bb21-24e4-7d3085cea418.png)![neko_76.png](https://qiita-image-store.s3.amazonaws.com/0/162097/cfda2a75-b67e-e830-b66c-7c69b9ccddf3.png)![neko_79.png](https://qiita-image-store.s3.amazonaws.com/0/162097/cca8afbc-a28a-5765-ef1b-08d6733380f5.png)

それぞれの列で、上から順に、入力/出力/理想

3枚目, 4枚目は、100エポックの時と同様なかなか理想に近い形で出てますが、
1枚目, 2枚目は、100エポックの時よりは、いい感じになっていそうだが、まだまだという感じ。

もう少し学習が必要？

## まとめ
改良(BatchNormalizationの追加, Dropoutの追加)により、学習が進むようにはなった。
100エポックでは足りず、500エポック程度で、学習に使ったデータに関しては、ほぼ、再現されるようになった。
ただ、検証用データ(学習に使っていないデータ)に関しては、今一つな状態。

あと、Kerasに関しては、
結構簡単にモデルがかけて、使いやすいイメージを抱いた。
今後もうちょっと使っていってみようかと思う。

## 今後やっていきたいこと。
今回の改良では、一気に、BatchNormalizationの追加, Dropoutの追加を追加してしまったので、
いまいち、それぞれによってどれくらい何が変わっていったかがわからないので、
ちょっとずつ追加して遷移を見てみたい。
また、検証用データに関して、あまり結果が良くないので、さらに条件を変えて学習を試していきたい。

## 追記
~~ソースは、[こちら](https://github.com/taashi-s/Traial_UNet_Keras)~~

[2019/07/08 追記] masterソースを変更してしまったので、上記リンクは、当時のソースになっていません。(時間があるときに復旧しておきます。)