【機械学習】誤差逆伝播法による速度改善（その3）


前回の[ブログ](http://qiita.com/m-hayashi/items/fa4749f8080e542787d2)では、「Softmax関数」「交差エントロピー誤差」「Affine変換」などの逆伝播が、どのような演算処理になるかを説明し、また効率的に処理されるように設計されていることを確認しました。

今回は、その締め括りとして実際にプログラムで、逆伝播を導入することで
スピードがどのくらい改善されるのかを計測してみます。

```math
\def\textlarge#1{%
  {\rm\Large #1}
}
\def\textsmall#1{%
  {\rm\scriptsize #1}
}
```

# ニューラルネットワークのレイヤー
逆伝播のプログラムを組むにあたって、以下のような4レイヤーを考えます。
![nnbp_layers.png](https://qiita-image-store.s3.amazonaws.com/0/134453/3dddcc60-e750-6988-86fb-f7e9ad82631f.png)

今回扱っているニューラルネットワークは2層（入力層/隠れ層）なので、Affine変換レイヤーは2つあります。
1層目と2層目の間には、活性化関数でSigmoidレイヤーがあります。
また、Softmaxと交差エントロピー誤差はまとめて扱う方が、逆伝播では都合が良いためまとめて1レイヤーで扱います。

# Affine変換のレイヤークラス
Affine変換の逆伝播の演算は以下のような形です。

```math
\frac{\partial E}{\partial X} = \frac{\partial E}{\partial Y}・W^T \\
\frac{\partial E}{\partial W} = X^T・\frac{\partial E}{\partial Y} \\
\frac{\partial E}{\partial B} = \sum_{axis=0}(\frac{\partial E}{\partial Y})
```

上記、逆伝播の3つめの演算である、バイアスBによる偏微分については、前回は触れていませんでしたが、∂E/∂Yのマトリックスに対して、0軸での加算する演算になります。つまり、このような演算処理です。

```math
[[1,2,3], [100,200,300]] → [101,202,303]
```

PythonでのAffineレイヤーのクラスは、例えば以下のような形に書くことができます。
![affine_layer_class.png](https://qiita-image-store.s3.amazonaws.com/0/134453/0164a7e9-6b0d-cf06-a8fc-91be2e72f7ba.png)

# Sigmoidレイヤークラス
活性化関数のSigmoidレイヤーについては、逆伝播は以下の形でした。

```math
\frac{\partial E}{\partial x} = y(1-y)\frac{\partial E}{\partial y}
```

つまり出力yについて、y(1-y)の演算結果を渡してやるだけでした。

上記のAffineレイヤーに倣って、Sigmoidレイヤーのクラスを記述すると以下のような表現になります。
![sigmoid_fnc.png](https://qiita-image-store.s3.amazonaws.com/0/134453/5b9e0d44-8c1e-6829-1c10-1d11ac8d3119.png)
![sigmoid_layer_class.png](https://qiita-image-store.s3.amazonaws.com/0/134453/52f65ed6-a29a-fe78-3ca3-bf20fa881ec1.png)

# Softmaxと交差エントロピー誤差の複合レイヤー
前回のお話では、この複合レイヤーの逆伝播は、各要素について、
出力データy$\textsmall{k}$と正解データt$\textsmall{k}$の差、(y$\textsmall{k}$-t$\textsmall{k}$)を計算して渡してやるだけでした。

クラスは以下のように書けます。
![softmax_loss_layer_class.png](https://qiita-image-store.s3.amazonaws.com/0/134453/d1c8d4f3-063e-e698-7eb3-41da0bedbe3f.png)

# ニューラルネットワーククラスの拡張
このテーマの[初回ブログ](http://qiita.com/m-hayashi/items/3f2b83a31961c4c8fe8a)のサンプルコードに、今回の誤差逆伝播のレイヤーを組み込んでいきます。

ニューラルネットワーククラス「SampleNetwork」について、まず初期化メソッド「__init__」を以下のように拡張します。

![nn_class_init.png](https://qiita-image-store.s3.amazonaws.com/0/134453/ceea7211-766a-fd25-7fd1-edd775ccdf07.png)

赤枠が変更箇所です。
今回は、誤差逆伝播法を使う場合と、使わない場合の処理速度を比較するために、「useBP」とフラグを設けています。
また、誤差逆伝播法用の4つのレイヤーを用意しています。

予測処理については、レイヤーの順伝播で行うように以下のように書き換えます。
![predict_func.png](https://qiita-image-store.s3.amazonaws.com/0/134453/054d6344-02a5-ccd0-1bad-3e93a552748f.png)

誤差逆伝播法を用いた、勾配計算の関数として「gradient_bp」を新たに用意します。
![gradient_bp_func.png](https://qiita-image-store.s3.amazonaws.com/0/134453/ff753417-4f67-381b-af51-0b135e7f7978.png)

重み付けパラメータ、バイアスパラメータの更新関数の「update_params」は、誤差逆伝播を用いる場合と、用いない場合で勾配計算を変えています。

![updateparam_func.png](https://qiita-image-store.s3.amazonaws.com/0/134453/82edbc90-8e4c-6fed-7b58-3aa04dec8bed.png)

交差エントロピー誤差の計算も、今回用意したSoftmaxLossのクラスの順伝播処理を用います。
![loss_func.png](https://qiita-image-store.s3.amazonaws.com/0/134453/e00ef4fd-bc65-d2f5-40ed-7df36616b75f.png)

今回、扱うデータはscikit-learnのdetasetsの文字データで変わりません。
ただ、目的変数はone-hot表現に変更しています。
![data_one_hot.png](https://qiita-image-store.s3.amazonaws.com/0/134453/55d0ed48-8002-fa85-c420-412a68f8429a.png)

訓練データ、テストデータのスプリット、バッチのサイズ、繰り返し回数なども
前回と同じです。
![prepare_data.png](https://qiita-image-store.s3.amazonaws.com/0/134453/a9c0f77d-4eaf-0c78-938b-d46bd74a78fe.png)

誤差逆伝播法を使用する/しないでニューラルネットワークのインスタンスを作成して、解析処理を行ってみます。
処理時間計測と、認識精度をログで出力するように処理追加しています。
![mainlogic.png](https://qiita-image-store.s3.amazonaws.com/0/134453/e657e18d-919d-b3cb-af38-ec6f71f9ba58.png)

出力結果は以下のようになります。

![result.png](https://qiita-image-store.s3.amazonaws.com/0/134453/076d6f67-b74d-d823-5b55-105154608603.png)

グラフについては、上が誤差逆伝播を使用しない、下が使用したものになります。
繰り返しによる、交差エントロピー誤差の推移、認識精度の推移も近い形になっています。

誤差逆伝播法を用いた結果は、認識精度は0.44%ほど下がりはしましたが、ほぼ近い値となっています。
解析スピードについては大きな変化があります。
単純計算では (374.20秒 / 0.19秒)= 1969.47倍の速度改善が得られたことになります。

処理速度のアドバンテージは、繰り返し演算の回数を増やすことにも当てることができ、
認識精度の向上にも繋げられるメリットもあります。

---
参考文献：[『ゼロから作るDeep Learning』](https://www.oreilly.co.jp/books/9784873117584/)