深層学習Day2_学習レポート

<h1>0.勾配消失法について</h1>
■演習
・sigmoid-gauss
<img width="895" alt="1.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/632017/4d1efe0d-2072-8f55-f6b9-0c3fe8214347.png">

・ReLU - gauss
<img width="895" alt="2.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/632017/a69a2d5d-eca1-225d-a29c-7f156922e1ea.png">

・sigmoid - Xavier
<img width="895" alt="3.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/632017/75153b95-8120-7ec8-8a65-6f691475432e.png">

・ReLU - He
<img width="895" alt="4.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/632017/2310e874-50a4-07fa-bc43-417015a23cd9.png">

<h1>1.学習率最適化手法</h1>
・モメンタム
　　局所的最適解にはならず、大域的最適解となる。
　　谷間についてから最も低い位置(最適値)にいくまでの時間が早い。　
　
・AdaGrad
　　勾配の緩やかな斜面に対して、最適値に近づける。

・RMSProp
　　局所的最適解にはならず、大域的最適解となる。
　　ハイパーパラメータの調整が必要な場合が少ない。

・Adam
　　モメンタムおよびRMSPropのメリットを孕んだアルゴリズム。

■演習
・SGD
<img width="895" alt="5.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/632017/336863a4-b8eb-7ff8-1cff-479a6cadc710.png">

・Momentum
<img width="895" alt="6.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/632017/0dd418a2-a756-a797-6d9a-d17fdc90fbd9.png">

・MomentumをもとにAdaGradを作成
<img width="895" alt="7.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/632017/defd7602-028a-674c-cf29-7c254a9f36be.png">

・RSMprop
<img width="895" alt="8.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/632017/aef583a9-726c-a520-5381-d5b2c941ba24.png">

・Adam
<img width="895" alt="9.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/632017/9bf059cc-8ae0-5b51-fb95-8855322bd474.png">



<h1>2.過学習について</h1>

・正則化
　　ネットワークの自由度(層数、ノード数、パラメータの値etc...)を
　　制約すること
　　→正則化手法を利用して過学習を抑制する

・正則化手法
　　★L1正則化、L2正則化
　　★ドロップアウト

・Weight decay(荷重減衰)
　過学習の原因
　　重みが大きい値をとることで、過学習が発生することがある。
　
　過学習の解決策
　　誤差に対して、正則化項を加算することで、重みを抑制する。

・L1正則化(ラッソ推定)
　　L1正則化は余分な説明変数を省くことを目的とした手法
　　次元圧縮のために用いられる
　
・L2正則化(Ridge推定)
　　L2正則化はモデルの過学習を防ぐことで精度を高めるための手法
　　L1正則化を使ったモデルよりも予測精度が高い

・ドロップアウト
　ランダムにノードを削除して学習させる手法
　データ量を変化させずに、異なるモデルを学習させる

■演習
・過学習
<img width="895" alt="10.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/632017/fdc16944-e64b-791e-d016-a2b1c26c408d.png">

・L1正規化実行結果
<img width="895" alt="12.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/632017/08544f7c-e1d8-d083-cfd7-dfb948e0b9e7.png">

・L2正規化実行結果
<img width="895" alt="11.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/632017/cc8ec536-d96a-a725-5997-7d76de67a436.png">

・ドロップアウト
<img width="895" alt="13.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/632017/68e9db74-0d13-8e78-acd9-e2a8e5c2d5f0.png">

・ドロップアウト+L1
<img width="895" alt="14.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/632017/00f29a6f-5c09-25be-340c-366180531544.png">

<h1>3.畳み込みニューラルネットワーク</h1>

・畳み込み層
　　畳み込み層では、画像の場合、縦、横、チャンネルの3次元のデータを
　　そのまま学習し、s次に伝えることができる。
　　→3次元の空間情報も学習できるような層

・パディング
　　出力サイズを調整するため、畳み込み層の処理を行う前に、
　　入力データの周囲に固定のデータを埋めること。(0を用いることが多い)

・ストライド
　　フィルターを適用する間隔。ストライドを大きくすると出力サイズは小さくなる。

・チャンネル
　　複数のフィルタを組み合わせて判別することで識別性能を向上させる。

・プーリング層
　　対象の解像度を下げるために使われる。

■演習
単一畳み込みネットワーク(simple convolution network class)
<img width="895" alt="15.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/632017/9009ed26-8b3e-7b77-5ff6-6140450342f4.png">

多重畳み込みネットワーク(double convolution network class)
<img width="895" alt="16.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/632017/65bd8ac5-5c31-64a2-8db6-56b5faa18d35.png">


<h1>4.最新のCNN</h1>
・AlexNet
　2012年にトロント大学のチームが開発したネットワークである。
　高い認識能力を誇るが、学習時にチューニングすべきパラメータ数も多く、
　実装には高いスペックをもつハードウェアが必要となる。

・LeNet
　1998年に考案された初の畳み込みネットワーク。層が浅く単純であるが、
　MNISTの手書き文字画像では99％以上の精度を出せる。

・VGG
　2014年にオックスフォード大学のチームが開発したネットワークである。
　VGGでは、局所受容野を3×3と小さくする代わりに、
　畳み込み層を増加させる方法を採用している。
　構成する層の数に応じて、VGG-11やVGG-16などと呼ばれることが多い。



参考URL
[畳み込みネットワークの「基礎の基礎」を理解する　～ディープラーニング入門｜第2回](
https://www.imagazine.co.jp/%E7%95%B3%E3%81%BF%E8%BE%BC%E3%81%BF%E3%83%8D%E3%83%83%E3%83%88%E3%83%AF%E3%83%BC%E3%82%AF%E3%81%AE%E3%80%8C%E5%9F%BA%E7%A4%8E%E3%81%AE%E5%9F%BA%E7%A4%8E%E3%80%8D%E3%82%92%E7%90%86%E8%A7%A3%E3%81%99/)