【Deep Learning入門】0から勉強して3ヶ月でポリープ検出AIをつくったった

#３ヶ月で出来たもの
まずは蠢く内臓の成果物から、これが今回作ったポリープ検出AIです！
![output_material.gif](https://qiita-image-store.s3.amazonaws.com/0/138063/ae8f77e9-ef99-9b2b-110c-b487e9b34c31.gif)
![polyps1.gif](https://qiita-image-store.s3.amazonaws.com/0/138063/9c9212c3-ca46-6ae5-e9ea-3b7fcd019078.gif)

上の映像が元の内視鏡の動画で、
下が今回開発した検出AIの動作動画です。

青い枠で「ポリープだよ！」と主張してくれてますね！
#３ヶ月の学習の流れ
###基礎的な機械学習手法のスクラッチ
まずは数学的な理解から始めました。
手法ごとの数式を読んで、それを実装に落としていきます。
-　線形回帰
-　重回帰
-　主成分分析
-　Kmeans
-　決定木
-　SVM
悶え苦しんだのですが、
この時期に数式に対するアレルギーがほぐれていきました！
最初は2乗誤差の微分変形を理解するのに苦労した思い出があります。
このときに一番参考になった書籍は

[「やさしく学ぶ 機械学習を理解するための数学のきほん」](https://www.amazon.co.jp/%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92%E3%82%92%E7%90%86%E8%A7%A3%E3%81%99%E3%82%8B%E3%81%9F%E3%82%81%E3%81%AE%E6%95%B0%E5%AD%A6%E3%81%AE%E3%81%8D%E3%81%BB%E3%82%93-%E3%82%A2%E3%83%A4%E3%83%8E%EF%BC%86%E3%83%9F%E3%82%AA%E3%81%A8%E4%B8%80%E7%B7%92%E3%81%AB%E5%AD%A6%E3%81%B6-%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92%E3%81%AE%E7%90%86%E8%AB%96%E3%81%A8%E6%95%B0%E5%AD%A6%E3%80%81%E5%AE%9F%E8%A3%85%E3%81%BE%E3%81%A7-%E8%B3%A2%E5%90%BE%EF%BC%88LINE-Fukuoka%E6%A0%AA%E5%BC%8F%E4%BC%9A%E7%A4%BE%EF%BC%89-ebook/dp/B075GSMZDS/ref=sr_1_2?ie=UTF8&qid=1548739886&sr=8-2&keywords=%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92)
です

これで機械学習の更新の概念が腹落ちしました。オススメ！

###kaggleへの挑戦
定番の[タイタニック](https://www.kaggle.com/c/titanic)や
良質なコンペの[ホームクレジット](https://www.kaggle.com/c/home-credit-default-risk)に挑戦しました。

ここではコンペで競うことは目的ではありません。

EDA（データの眺め方）
前処理
モデル構築　skleran
精度の確認
など
データサイエンスの基礎力をつけていきました。
これによって、データを扱う上での流れを体得できました。

###CNN・RNN スクラッチ
[ゼロから作るDeep Learning](https://www.amazon.co.jp/dp/4873117585/ref=asc_df_48731175852574492/?tag=jpgo-22&creative=9303&creativeASIN=4873117585&linkCode=df0&hvadid=295686767484&hvpos=1o1&hvnetw=g&hvrand=3788335759345651515&hvpone=&hvptwo=&hvqmt=&hvdev=c&hvdvcmdl=&hvlocint=&hvlocphy=1009308&hvtargid=pla-526224399321&th=1&psc=1)を参考にしつつスクラッチで実装します。

ここではモデルだけではなく、
・イテレーションやエポックを回す部分
・精度検証の部分
も実装しました。
今ではどの引数が何を求めて何が返されるのかイメージがスッキリできます。

これによって
tensorflowや
PyTorchといったどんなフレームワークでも
ドキュメントを読めるようになったので、対応できるようになりました！


###論文精読
画像系統・物体検出に興味があったので
[U-Net](https://arxiv.org/pdf/1505.04597.pdf)
[faster-RCNN](https://arxiv.org/pdf/1506.01497.pdf)
[YOLO](https://arxiv.org/pdf/1506.02640.pdf)
[SSD](https://arxiv.org/pdf/1512.02325.pdf)
[RefineDet](https://arxiv.org/pdf/1711.06897.pdf)
などを読んでまとめていきます。

最初は面食らいましたが、実際はそんなに大したものではありません！
今までの練習でCNNの前提知識と数式への対応方法を知っているので、読めるようになってました。

もしここで、論文にまだ抵抗があったら基本の王道の論文の日本語のまとめ記事を読んで理解しましょう！
↓王道論文はこういう日本語記事が多く出てるのでおすすめです
[【論文紹介】YOLOの論文を読んだので要点をまとめてみた](https://dev.classmethod.jp/machine-learning/research_paper_yolo/)


さて、ここからは今回どうやって検出AIをつくったかを紹介します。
なにか役に立ちそうなもののモックアップを作りたかったので
ディープラーニングの活用が注目されている業界の医療の画像診断をやってみようと思いました！

#今回の製作の流れ
###すでに動いているものを使う
車輪の再発明は無駄なので、巨人の肩に乗ります。
今回は内視鏡の動画でポリープの検出をリアルタイムにしたかったので
YOLOv3を採用しました！
https://github.com/qqwweee/keras-yolo3
速度・精度を基準に何を使うかを選定しましたが、
小さい物体の検出精度が他の手法より良いので決めました！

###データ準備
ポリープの画像を集める必要があります。
グーグル画像検索で一つ一つ探そうと思っていたところ、
ちょうどいいデータセットがありました！
[The Kvasir Dataset](http://datasets.simula.no/kvasir/)
これを学習用データにするために整えていきます。
###アノテーション
[BBox-Label-Tool](https://github.com/puzzledqs/BBox-Label-Tool)
このツールをつかってアノテーションファイルをつくります。
ここで生成したファイルをもとに、
yolo-kerasのread.meで指定された形式に変換します。
ここで自作のスクリプトを書いて変換し、train.txtを作成します。

今回は５００枚の学習データを用意しました。

###学習
train.pyを実行し100epochほど回します。
GPUは1080tiを使ったので
２時間ほどで生成できました!

###推論
yolo_video.pyにて実行すると出来た！

#これからやりたいこと
###精度のために必要なデータを収集したい
医療では疾患の見落としが命にかかわるので、Recall（見落とし率）を重視したモデルに仕上げたいです。
そのためには検出に適したデータを集める必要があります。
今回はデータセットの用意が便宜上有りものを使いましたが
見落としがちな初期ステージの画像や、症例の少ないものの画像データがほしいです。

###最適なデータ増幅の手法を追いたい
内視鏡ごとの特徴や光の当たり具合で検出精度は変わります。
これを補完するようなデータ増幅の手法を実装していきたいです。
具体的には、
・輝度・コントラストを変更したデータ
・[Cutout](https://arxiv.org/abs/1708.04552)の手法や
・[DropBlock](https://arxiv.org/abs/1810.12890)の手法をやって
精度が上がるかを検証して実運用可能なレベルに持っていきたいです。

###最新の物体検出の手法を追いたい
AAAI2019(AIの学会)に採択された新しい手法の[M2Det](https://arxiv.org/pdf/1811.04533.pdf)を試したいです。
これはYOLOv3よりも小さい物体の認識精度が向上しているようです。
これを使えば、もっと疾患の見落としが減るかもしれません。

#さいごに
最初は数式も論文も苦手で、ほんとにできるのか不安でいっぱいでした。
しかし、実際にプロトタイプを手法の選択・データの生成からできるようになって達成感でいっぱいです。
DeepLearningやってみたいけど一歩が踏み出せない
どんな手順で学んでいけばいいかわからない
何ができるようになるのか分からない
そういった方の背中をこの記事でそっと押せたら幸いです。