機械学習を1ヵ月で実践レベルにする #5 (線形回帰 Octave 実装)

# 5日目です
今日で[Coursera でStanford が提供しているMachine Learning](https://www.coursera.org/learn/machine-learning/) のWEEK 5 までが終わる予定だったのですが、WEEK 5 が手強かったです。時間的には結構余裕があって、しっかり講座を聞いたのですが、最後のテスト(講義内容をOctave で実装)が、難易度的にできませんでした。

これは悔しいですね。Forum で聞く英語力もないので、大学ノート片手に、もう一度講座のWEEK 1 から振り返り、理解している内容をアナログなノートにまとめました。明日もう一度挑戦します。

## 過去記事一覧
* [1日目 とっかかり編](http://qiita.com/junichiro/items/ee50af10df77d52cd432)
* [2日目 オンライン講座](http://qiita.com/junichiro/items/7a5b95d7122176e94fe0)
* [3日目 Octave チュートリアル](http://qiita.com/junichiro/items/33954f08411e33d33506)
* [4日目 機械学習の第一歩、線形回帰から](http://qiita.com/junichiro/items/d4dc67bdebb9fccb7ef5)
* [5日目 線形回帰をOctave で実装する](http://qiita.com/junichiro/items/1a4b87e99b471cf5bea1)
* [6日目 Octave によるVectorial implementation](http://qiita.com/junichiro/items/7972b1b6ad3d087fbde0)
* [7日目 ロジスティック回帰 (分類問題) その1](http://qiita.com/junichiro/items/8de94c84c35e9851d42a)
* [8日目 ロジスティック回帰 (分類問題) その2](http://qiita.com/junichiro/items/5d20a40a3a282af422a3)
* [9日目 オーバーフィッティング](http://qiita.com/junichiro/items/4d2c91128c9bd850f580)
* [10日目 正規化](http://qiita.com/junichiro/items/8b1867201663c5af38a4)
* [11日目 ニューラルネットワーク #1] (http://qiita.com/junichiro/items/7794cedf834a4f6ef52c)
* [12日目 ニューラルネットワーク #2] (http://qiita.com/junichiro/items/b522ea41c02f90d23aa5)
* [13日目 機械学習に必要な最急降下法の実装に必要な知識まとめ](http://qiita.com/junichiro/items/527b1f211ed814528ded)
* [14日目 機械学習で精度が出ない時にやることまとめ](http://qiita.com/junichiro/items/7e2842c7afba2407c49b)
* [最終日 機械学習をゼロから1ヵ月間勉強し続けた結果](http://qiita.com/junichiro/items/3457e33e502086a200f1)

# 線形回帰をOctave で
とはいえ、まだここに書いていない機械学習知識がいくつかたまっているので、記事は引き続き進めて行こうと思います。昨日は、線形回帰で土地の広さから家の売価を求めるところを、数学的にお話しました。あの内容を理解したうえで、それをどうプログラミングに落としていくか、Octave を利用して見ていきたいと思います。

## 線形回帰の復習
前回同様、家の広さから家の売価を予測するということをやっていきます。

![linearRegression2.png](https://qiita-image-store.s3.amazonaws.com/0/121876/dd7d666c-aa61-05be-b610-2f6a8971c40d.png)

このグラフの中で「o」で示されているのが、実際に売れた家の広さと売価をプロットしたものです。広さをx 軸にとり、売価をy軸にとっているので、これらの点は下記のようにあらわされます。

![image](https://qiita-image-store.s3.amazonaws.com/0/121876/0e9e11d7-ee3e-9bc8-2784-16bc6cada55f.png)

m はトレーニングデータの個数で、今の場合は「o」の点が10個あるので m = 10 です。変数のままだとわかりにくいというかたも多いと思いますが、この数字がかっこで上に付いているものは、あたえられたトレーニングデータなので、実際の数字です。(75, 7200万), (68, 4500万), ... , という風に、75平米で7200万で売れたとか、68平米の家が4500万円で売れたとかそういうデータの集合です。

そして、これらのデータから、未知のx つまり、新しい例えば100平米のこの家がいくらで売れるか(予測したい未知のy)を予測したいのです。

そのために、この予測の線を引きました。これを仮説関数(英語の講義なので技術用語の日本語訳がわからないw) Hypothesis function といいまして、h(x) で表します。

![image](https://qiita-image-store.s3.amazonaws.com/0/121876/27a02115-5d9e-763e-a6ce-46188cac1a4e.png)

で、これを直線であると仮定してこのように表現します。

![image](https://qiita-image-store.s3.amazonaws.com/0/121876/32c0cd3e-8444-7183-f5a1-3dad953c733c.png)

ここで、![image](https://qiita-image-store.s3.amazonaws.com/0/121876/d56e104e-deae-7368-560f-f8bfac236c74.png) はh(x) の切片(y軸との交点)で、![image](https://qiita-image-store.s3.amazonaws.com/0/121876/f30c52d2-5443-450f-d7b7-102a72926009.png)はこの直線の傾きを表します。

そして、この直線が、まずはトレーニングデータにもっともフィットするようにθを決めていきます。

## 最急降下法 (これも日本語訳はわからん)
さて、どのようなθにするのが、もっともよくトレーニングデータたちにフィットするでしょうか。それは、このh(x) が予測する値と実際のトレーニングデータとの乖離が小さくなればよいので、すべてのトレーニングデータのx(家の広さ)に対して、h(x) で予測した場合に出る売価と、実際の売価(y) の差が小さくなればよいということになります。

![image](https://qiita-image-store.s3.amazonaws.com/0/121876/11de4ac6-5592-a85e-ae5c-edc7dda03fda.png)

つまりこれが小さく慣ればいいのです。トレーニングデータはたくさん(今の例では10個)ありますから、これらの差の合計が小さくなると嬉しいですね。差には、正の差と負の差があるので、二乗して、差の向き(高すぎるか安すぎるか)を無視して、差の大きさだけに着目できるようにします。この差をコストと呼びますね。

![image](https://qiita-image-store.s3.amazonaws.com/0/121876/31d0600b-eb73-67a2-6582-68d99680116a.png)

これをすべてのトレーニングデータに対して計算して、その総和が小さくなれば良いので、この総和を出します。

![image](https://qiita-image-store.s3.amazonaws.com/0/121876/fbbd3ebb-e6fb-a282-4f4d-6c8e0cf4a4ad.png)

∑とかが出てくると急にわかりにくいと思ってしまうかもしれませんが、これは簡単です。i = 1 から i = m までの、コストの合計を意味します。今の場合m = 10 ですから、つまりこれで、トレーニングデータすべてのコストの合計をあらわしています。

これに今後の数値計算が楽になるように、便宜上の係数(1/2m)をかけて(θに依存しない係数であればなにを掛けても総和を小さくするθには影響がない)、次のような式を定義します。

![costfunction.png](https://qiita-image-store.s3.amazonaws.com/0/121876/1b2bf281-0c74-5b5c-faec-654d4fa540ba.png)

これをコスト関数と呼びます。コスト関数はθの関数です。

## コスト関数を最小にするθを探す
「最小値を求めるのは微分」と、高校生のときに習ったことを思い出してください。これはもう昔から決まっていることなので、ここでも同様です。

今回の場合、θは実際には![image](https://qiita-image-store.s3.amazonaws.com/0/121876/d56e104e-deae-7368-560f-f8bfac236c74.png)と![image](https://qiita-image-store.s3.amazonaws.com/0/121876/f30c52d2-5443-450f-d7b7-102a72926009.png)ですから、それぞれに対して偏微分が必要になります。高校生の時に習った微分とは少し違うかもしれませんが、あまり気にしなくていいでしょう。

微分すれば、その点における傾きがわかりますので、その傾き方向に向かって少しずつθを変化させていき、収束したところが最小というわけです。

ここは少し難しいので結果だけ書いておきます。

![image](https://qiita-image-store.s3.amazonaws.com/0/121876/b417580f-e531-2a0a-52ea-abda8f3931ce.png)
![image](https://qiita-image-store.s3.amazonaws.com/0/121876/e5ee3f4f-371c-11c8-e8d7-0996840d7215.png)

:= というのはプログラミング言語でいう「=」と同じで、代入を表します。この計算を繰り返すことで、θは、J(θ) を最小化する方向に収束していきます。いま、θはθ0とθ1だけでしたからこのように2つにわけて書きましたが、

![image](https://qiita-image-store.s3.amazonaws.com/0/121876/b6827ac7-f2df-6a4a-9a41-d6356aa090ff.png)

とうい定義を導入すると、

![image](https://qiita-image-store.s3.amazonaws.com/0/121876/32c0cd3e-8444-7183-f5a1-3dad953c733c.png)

これを

![image](https://qiita-image-store.s3.amazonaws.com/0/121876/c4293a6f-ed1b-bf26-19e7-6e3d005cd7cc.png)

と書き直すことが出来、ゼロ番目の項と1番目の項が同じように書けましたので、場合分けなしで一般化して下記のように書き直せます。

![image](https://qiita-image-store.s3.amazonaws.com/0/121876/815ad837-cd49-be0b-4bfb-d823c2574ddc.png)

あとはこれをOctave で表現して、実行させれば最適なh(x) を作り出すことができます。ひとたびh(x) を作り出せれば、あとは未知のx に対してこれを適用していくだけで、価格の予測ができるようになるわけです。

## Octave 実装
### コスト関数
![costfunction.png](https://qiita-image-store.s3.amazonaws.com/0/121876/1b2bf281-0c74-5b5c-faec-654d4fa540ba.png)
#### Octave
```octave
function J = computeCost(X, y, theta)
    m = length(y);
    J = 1/2/m * sum((X * theta - y).^2);
end
```

### 最急降下法
Repeat {
    ![image](https://qiita-image-store.s3.amazonaws.com/0/121876/815ad837-cd49-be0b-4bfb-d823c2574ddc.png)
}
#### Octave
```octave
function [theta, J_history] = gradientDescent(X, y, theta, alpha, num_iters)
    m = length(y);
    for iter = 1:num_iters
        theta = theta - alpha / m * X' * (X * theta -y);
    end
end
```

# おわりに
数式を理解しても、それをOctave で実装するときに、行列やベクトルがどういう形をして、それらの積の演算などがどういう結果になるかをイメージしながら、転置させたり、掛け算の向きを変えたりするのがとても苦労します。そこに対しての説明を少し省いてありますので、そのあたりは上記の結果を参考にしてみてください。とりあえず (m x n 行列) x (n x o 行列) = (m x o 行列)ということを理解していれば、まず、できない掛け算をしないようになりますし、それから、結果的にどういう次元の行列が欲しいかというところから、何を転置させればいいかなどの想像がつくようになります。

いつか機会があれば実例で示そうと思いまます。例えば、最後の最急降下法のところなんかは、数式には∑があるのに、Octave 実装ではsum もでてきません。これは行列の積を使えばsum が不要になることもあるからです。

詳しくはこちらに追記しました。
[Octave によるVectorial implementation](http://qiita.com/junichiro/items/7972b1b6ad3d087fbde0)
(機械学習を1ヵ月で実践レベルにする #6 (Octave 実践編))