[Windows編] Deep Learningをすぐに試せるライブラリKeras講座～その2

# はじめに
　[前回](http://qiita.com/tomochiii/items/c17505872781c201d7b1)、WindowsへのDeepLearningライブラリKerasの導入と四角形が縦長か横長かの２値分類を行いました。まだ読まれてない方は、そちらからの方が分かり良いかもしれません。
　さて、今回はディープラーニングを使ってまで２値の分類では面白くないと思うので、次のステップとしてMNISTという０～９の数字の手書き文字のデータセットを用いて、数字の多クラス分類を行います。この記事でも、ネットワークは前回と同じく多層パーセプトロン（MLP）を使用します。多層パーセプトロンについて説明していなかったので、最初に軽く説明します。初期値や最適化のパラメータ説明はその５あたりで別にとりあげます。

# 実行環境
- Windows 10（64bit）with only CPU
- Python 3.5.2
- Anaconda 4.2.0（64bit）
- Tensorflow 0.12.1
- Keras 1.2.1

# 多層パーセプトロンとは
## パーセプトロン
　パーセプトロンとは一体なんなのでしょうか？参考文献に載せている１番目の書籍によると

>パーセプトロンとは、ローゼンブラッドというアメリカの研究者によって1957年に考案されたアルゴリズムで、ニューラルネットネット（ディープラーニング）の起源となるものです。

ということらしいです（多少、表現は変えています）。これだけでは具体的に何なのかわからないと思うので、具体的にパーセプトロン自体が何かを説明します。言葉で説明すると、「複数の信号を入力として受け取り、ひとつの信号を出力するもの」で、出力信号は０か１かの２値をとります。
![perceptron3.png](https://qiita-image-store.s3.amazonaws.com/0/146858/ad75d8aa-57f4-5a19-7c37-ca7f9d3255d8.png)
　ニューロンでは、送られてきた信号の総和が計算され、その総和がある限界値を超えた場合にのみ１を出力します。これを「**ニューロンが発火する**」と表現することもあるそうです。その限界値を閾値と呼び、$\theta$で表すと出力$y$は次のような式で表現できます。

```math
\begin{eqnarray}
y=\left\{ \begin{array}{ll}
0 & (\omega_1 x_1 + \omega_2 x_2 \leq \theta) \\
1 & (\omega_1 x_1 + \omega_2 x_2 > \theta) \\
\end{array} \right.
\end{eqnarray}
```

　つまり、パーセプトロンの**重み$\omega$は信号の重要度の高さ**を表し、**バイアス$b$は発火し易さを調整する**パラメータです。バイアス$b$とは、$b = -\theta$としたもののことです。文脈によってはこのバイアスも重みと呼ばれることもあります。
　しかしながら、上式を見るとわかるように単一のパーセプトロンで識別できるのは直線で識別できるものだけです。そのため、非線形の事象には、対応することができません。

## 多層パーセプトロン
　単純なパーセプトロンは、線形問題でしか使えません。しかしながら、パーセプトロンは層を重ねることができるため、非線形問題も扱うことができるようになります。これを、多層パーセプトロンと言います。
　ここで、少し気をつけなければならないことがあります。それは、広く多層パーセプトロンと呼ばれるものは、先ほど説明した単純なパーセプトロンとは別物です。多層パーセプトロンは、パーセプトロンが０か１かの出力だったのに対し、出力は活性化関数がシグモイドの場合０から１までの実数が出力値となります。
　さて、いきなり活性化関数という言葉を出しました。活性化関数というのは、単純パーセプトロンが閾値で出力が０か１かを決めていたのに対して、多層パーセプトロンでは、入力の総和を変数として非線形の活性化関数$h$をとおすことによって出力の実数を決定します。

```math
\begin{eqnarray}
  a =& \omega_1 x_1 + \omega_2 x_2 + b\\
  y =& h(a)
\end{eqnarray}
```

例えば、シグモイド関数は次のような関数で、入力される変数の値によって０から１までの間の実数値を出力します。[sigmoid](http://gist.github.com/keit0222/c566aacc01f2ab4239b78d474b169f5e)

```math
\begin{equation}
h(x) = \frac{1}{1+\exp(-x)}
\end{equation}
```

![sigmoid2.png](https://qiita-image-store.s3.amazonaws.com/0/146858/f9c40bc8-63e3-b216-b2e6-3e4606bb2d04.png)

　最後に、多層パーセプトロンについてまとめると次のようになります。
- **単純パーセプトロン**は、**単層**のネットワークで活性化関数に**ステップ関数**を当てはめたネットワーク
- **多層パーセプトロン**は、**ニューラルネットワーク（多層）**で活性化関数に**シグモイドなどの非線形関数**を当てはめたネットワーク

# 手書き文字の識別
　なんとなく多層パーセプトロンについて分かってもらえたでしょうか。ここでようやく多層パーセプトロンを用いた手書き文字の識別を行います。
## 学習
　MNISTは、Kerasでデータセットとして訓練データとテストデータを読み込むことができます。そのため、前回のようにデータセットをダウンロードしてくる必要はありません。次のようなスクリプトで学習とその結果を表示することができます。前回の多層パーセプトロンの活性化関数にシグモイド関数を使っていましたが、今回はReLU関数というものを使用しています。なぜ、ReLU関数を使用している理由についてはこちらの方が精度が良いからなのですが、その理由についてはまた別の記事で詳しく説明します。
　また、分類を行いたいときの最終層の活性化関数は必ずソフトマックスにしてください。そうしないと、分類になりません。Jupyter Notebookは、[Gist](http://gist.github.com/keit0222/6ce893119dc4015e1406047e7c07751b)にアップしています。

```py3:mnist_detect_class10.py
import numpy as np
import matplotlib.pyplot as plt

from keras.utils import np_utils
from scipy.misc import toimage

# MNISTデータセットを読み込むために必要
from keras.datasets import mnist

from keras.models import Sequential
from keras.layers import Dense, Dropout, Activation

# 分類するクラス数の設定
class_num = 10

# mnistのデータセットを読み込み
(X_train, y_train),(X_test, y_test) = mnist.load_data()

# 学習データを正規化
X_train = X_train/255
X_test = X_test/255

# 入力するためにデータを整形
# １画像28ピクセルx28ピクセルの２次元配列を784次元のベクトルに変換
X_train = X_train.reshape(-1,784)
X_test = X_test.reshape(-1,784)

# ラベルをクラス数に対応する配列に変更
# 例：y_train:[0 1 7 5] -> Y_train:[[1 0 0 0 0 0 0 0 0 0],[0 1 0 0 0 0 0 0 0 0],[0 0 0 0 0 0 0 1 0 0],[0 0 0 0 0 1 0 0 0 0]]
Y_train = np_utils.to_categorical(y_train,class_num)
Y_test = np_utils.to_categorical(y_test,class_num)

# 多層パーセプトロンのネットワーク作成
# 入力を784次元(28x28)で、最終的な出力をクラス数に設定
model = Sequential()
model.add(Dense(512, input_dim=784, init='uniform'))
# 活性化関数にはReLU関数を使用
model.add(Activation('relu'))
model.add(Dropout(0.5))
model.add(Dense(512, init='uniform'))
# 活性化関数にはReLU関数を使用
model.add(Activation('relu'))
model.add(Dropout(0.5))
model.add(Dense(class_num, input_dim=512, init='uniform'))
# 分類の場合は最終層には必ずソフトマックスを用いる
model.add(Activation('softmax'))

# 多値分類なのでカテゴリカルを選択，最適化アルゴリズムはRMSpropを選択
model.compile(loss='categorical_crossentropy',
              optimizer='rmsprop',
              metrics=['accuracy'])

# 固定回数（データセットの反復）の試行でモデルを学習
model.fit(X_train, Y_train,
          nb_epoch=5,
          batch_size=100)
# 学習後のパラメータを評価
score = model.evaluate(X_test, Y_test, batch_size=100)
print(score)
# テストデータのラベルを推定、返り値はラベルが返ってくる
classified_label = model.predict_classes(X_test[0:10,:])

# 推定したラベルと画像の表示
for i in range(10):
    # ベクトルデータをアレイに変換して、それを画像データに変換
    img = toimage(X_test[i,:].reshape(28,28))
    plt.subplot(2,5,i+1)
    plt.imshow(img, cmap='gray')
    plt.title("Class {0}".format(classified_label[i]))
    plt.axis('off')
plt.show()

# モデルと重みの保存
model_json = model.to_json()
open('mnist_architecture.json', 'w').write(model_json)
model.save_weights('mnist_weights.h5', overwrite=True)
```

## 結果
　テストデータのはじめから１０個の推定したラベルと画像は以下になります。クラスと文字が一致していることが分かります。ちなみに、この画像のテスト結果は正解率９７．７％と十分実用できるレベルになっていました。テストの画像を見てみると、一見５なんかは８と間違えそうな気もしますが、正しく分類できてますね。ちなみにシグモイドですると、あまり正解率８０％程度しかでなかったので、適切なパラメータを設定することが大切です。
![mnist_result.png](https://qiita-image-store.s3.amazonaws.com/0/146858/06bf3236-eaee-05bd-eadc-9fc180fab78f.png)

## 自分で書いた数字で実験
　ここまでで、学習はかなりの精度でできているように思えます。しかしながら、やはり自分で書いた文字でテストしてみたいです。そこで、ペイントで５６ピクセルx５６ピクセルのキャンバスに０から９までの数字を書いた画像を作成しました。それを以下のコードで、学習済みの重みを読み込んでクラスを予測してみました。Jupyter Notebookは、[Gist](http://gist.github.com/keit0222/0ea504d1484cb216eef4f7264793ad97)にアップしています。

```py3:my_mnist.py
import numpy as np
import matplotlib.pyplot as plt

from keras.utils import np_utils

from keras.models import Sequential,model_from_json
from keras.preprocessing import image
from keras.applications.imagenet_utils import preprocess_input, decode_predictions

# テストに用意した画像の枚数
test_num = 10

# モデルの読み込み
model = model_from_json(open('mnist_architecture.json').read())
# モデルの重みの読み込み
model.load_weights('mnist_weights.h5')

for i in range(test_num):
    # ファイル名の指定
    img_path = str(i)+".jpg"
    # 28ピクセルx28ピクセル、グレースケールで画像を読み込み
    img = image.load_img(img_path, grayscale=True, target_size=(28, 28))
    # 読み込んだイメージをアレイに変換
    x = image.img_to_array(img)
    # アレイサイズの確認
    print(x.shape)
    
    # モデルに入力するために、28x28の2次元配列を大きさ784のベクトルに整形
    x = x[:,:,0].reshape(-1,784)

    # クラスの予測
    classified_label = model.predict_classes(x)
    
    # 予測結果のプロット
    plt.subplot(2,5,i+1)
    plt.imshow(img, cmap='gray')
    plt.title("Class {0}".format(classified_label[0]))
    plt.axis('off')
plt.show()
```

## 自分の手書き文字の予測結果
　予測結果はすべて正解かと思いきや、私が書いた数字では正解率７０％という結果でした。これは、データセットの筆跡と異なるからかなと考えられます。どうにもすっきりしませんので、CNNで学習させたものを後日追記でここに掲載します。
![mnist_result2.png](https://qiita-image-store.s3.amazonaws.com/0/146858/5efd9308-4e49-618e-4825-0eeb40ecf798.png)

## CNN学習時の実行環境とソースコード
### 実行環境
　流石にCNNの学習をさせるには、CPUだけの普通のPCでは時間がかかりすぎるのでGPU環境のあるクラウド上で学習させました。その時の実行環境はこのような感じでした。この環境でMNISTの学習なら、１分かからずに終わりました。

- Ubuntu 16.04.1 LTS
- Geforce GTX TITAN X
- Python 2.7.12
- Tensorflow-gpu 0.12.1
- Keras 1.2.0

### 学習時のソースコード

```py3:my_mnist_cnn_learning.py
import numpy as np

from keras.utils import np_utils

from keras.datasets import mnist

from keras.models import Sequential
from keras.layers import Dense, Dropout, Activation, Flatten
from keras.layers import Convolution2D, MaxPooling2D
from keras import backend as K

# バッチ数
batch_size = 128
# 分類するクラスの数
nb_classes = 10
# エポックの数
nb_epoch = 12

# 入力する画像の次元数
img_rows, img_cols = 28, 28
# 畳み込みに使うフィルタの数
nb_filters = 32
# pooling層の大きさを指定
pool_size = (2, 2)
# convolutionカーネルの大きさを指定
kernel_size = (3, 3)

# mnistデータの読み込み
(X_train, y_train), (X_test, y_test) = mnist.load_data()

if K.image_dim_ordering() == 'th':
        X_train = X_train.reshape(X_train.shape[0], 1, img_rows, img_cols)
        X_test = X_test.reshape(X_test.shape[0], 1, img_rows, img_cols)
        input_shape = (1, img_rows, img_cols)
else:
        X_train = X_train.reshape(X_train.shape[0], img_rows, img_cols, 1)
        X_test = X_test.reshape(X_test.shape[0], img_rows, img_cols, 1)
        input_shape = (img_rows, img_cols, 1)

X_train = X_train.astype('float32')
X_test = X_test.astype('float32')

# 正規化
X_train /= 255
X_test /= 255

# バイナリ行列に変換
Y_train = np_utils.to_categorical(y_train, nb_classes)
Y_test = np_utils.to_categorical(y_test, nb_classes)

# CNNのモデル作成
model = Sequential()

model.add(Convolution2D(nb_filters, kernel_size[0], kernel_size[1],
                                                border_mode='valid',
                                                input_shape=input_shape))
model.add(Activation('relu'))
model.add(Convolution2D(nb_filters, kernel_size[0], kernel_size[1]))
model.add(Activation('relu'))
model.add(MaxPooling2D(pool_size=pool_size))
model.add(Dropout(0.25))

model.add(Flatten())
model.add(Dense(128))
model.add(Activation('relu'))
model.add(Dropout(0.5))
model.add(Dense(nb_classes))
model.add(Activation('softmax'))

# モデルのコンパイル
model.compile(loss='categorical_crossentropy',
                            optimizer='adadelta',
                            metrics=['accuracy'])

# 学習
model.fit(X_train, Y_train, batch_size=batch_size, nb_epoch=nb_epoch,
                    verbose=1, validation_data=(X_test, Y_test))
# モデルの評価
score = model.evaluate(X_test, Y_test, verbose=0)
print(score)

# モデルと重みの保存
model_json = model.to_json()
open('mnist_cnn_architecture.json', 'w').write(model_json)
model.save_weights('mnist_cnn_weights.h5', overwrite=True)
```

## CNNでの学習結果
　先ほどは、クラウド上で実行していましたが、次のスクリプトは最初のWindows環境で
実行しています。

```py3:my_mnist_cnn.py
# coding: utf-8
import numpy as np
import matplotlib.pyplot as plt

from keras.utils import np_utils

from keras.models import Sequential,model_from_json
from keras.preprocessing import image
from keras.applications.imagenet_utils import preprocess_input, decode_predictions

from keras.datasets import mnist

# 分類したクラス数
nb_classes = 10
# テストに用意した画像の枚数
test_num = 10
# mnistデータの読み込み
(X_train, y_train), (X_test, y_test) = mnist.load_data()

X_test = X_test.astype('float32')
# データを正規化
X_test /= 255

# バイナリのアレイに変換
Y_test = np_utils.to_categorical(y_test, nb_classes)

# モデルの読み込み
model = model_from_json(open('mnist_cnn_architecture.json').read())
# モデルの重みの読み込み
model.load_weights('mnist_cnn_weights.h5')
# アーキテクチャと重みを読み込んだ後に、モデルの評価を行う場合はコンパイルしないといけない
model.compile(loss='categorical_crossentropy',
              optimizer='adadelta',
              metrics=['accuracy'])
# モデルの評価
score = model.evaluate(X_test.reshape(-1,28,28,1), Y_test, verbose=0)
print(score)

for i in range(test_num):
    # ファイル名の指定
    img_path = str(i)+".jpg"
    # 28ピクセルx28ピクセル、グレースケールで画像を読み込み
    img = image.load_img(img_path, grayscale=True, target_size=(28, 28))
    # 読み込んだイメージをアレイに変換
    x = image.img_to_array(img)
    # アレイサイズの確認
    print(x.shape)

    # クラスの予測
    classified_label = model.predict_classes(x.reshape(-1,28,28,1))

    # 予測結果のプロット
    plt.subplot(2,5,i+1)
    plt.imshow(img, cmap='gray')
    plt.title("Class {0}".format(classified_label[0]))
    plt.axis('off')
plt.show()
```

　さて、畳み込みニューラルネットワークだと結果はどうなるかですが、このようになりました。Jupyter Notebookでの実行結果は[Gist](http://gist.github.com/keit0222/b30d2093ed96b81a7ad776323a21263f)にアップしています。

![mnist_result_cnn.png](https://qiita-image-store.s3.amazonaws.com/0/146858/c48a2e4c-2cb9-ea43-f695-263a2f944b66.png)

　正解率的には、８割ですが、MLPで学習したものの結果と比べると、私の書いた数字の場合６と８・７と１は特徴は似ているので間違いやすいのかもしれません。また、既存の学習データに加えて私の書いたものも加えれば正解するのかもしれませんが、それについてはやる予定はないです。

# おわりに
　今回は、手書き文字MNISTの分類を行いました。学習・テストの結果は良かったものの、自分の書いた画像での正解率はいまいちでした。次回は、畳み込みニューラルネットワーク（CNN）の話をしようと思います。

# 参考文献
- [ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装](http://www.amazon.co.jp/%E3%82%BC%E3%83%AD%E3%81%8B%E3%82%89%E4%BD%9C%E3%82%8BDeep-Learning-%E2%80%95Python%E3%81%A7%E5%AD%A6%E3%81%B6%E3%83%87%E3%82%A3%E3%83%BC%E3%83%97%E3%83%A9%E3%83%BC%E3%83%8B%E3%83%B3%E3%82%B0%E3%81%AE%E7%90%86%E8%AB%96%E3%81%A8%E5%AE%9F%E8%A3%85-%E6%96%8E%E8%97%A4-%E5%BA%B7%E6%AF%85/dp/4873117585)
- [深層学習 (機械学習プロフェッショナルシリーズ)](http://www.amazon.co.jp/%E6%B7%B1%E5%B1%A4%E5%AD%A6%E7%BF%92-%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92%E3%83%97%E3%83%AD%E3%83%95%E3%82%A7%E3%83%83%E3%82%B7%E3%83%A7%E3%83%8A%E3%83%AB%E3%82%B7%E3%83%AA%E3%83%BC%E3%82%BA-%E5%B2%A1%E8%B0%B7-%E8%B2%B4%E4%B9%8B/dp/4061529021/ref=sr_1_3?s=books&ie=UTF8&qid=1485363071&sr=1-3&keywords=%E6%B7%B1%E5%B1%A4%E5%AD%A6%E7%BF%92)
- [Keras公式ドキュメント](http://keras.io/ja/)
- [[Windows編] DeepLearningをすぐに試せるライブラリKeras講座～その1](http://qiita.com/tomochiii/items/c17505872781c201d7b1)