機械学習のアルゴリズム（サポートベクターマシン）

# はじめに
以前、「[機械学習の分類](https://qiita.com/hiro88hyo/items/c00dcf8f083ba3d76af8)」で取り上げたアルゴリズムについて、その理論とpythonでの実装、scikit-learnを使った分析についてステップバイステップで学習していく。個人の学習用として書いてるので間違いなんかは大目に見て欲しいと思います。

今回は**サポートベクターマシン**について。その歴史こそ古いものの、機械学習の分野では人気の手法です。汎化性能も高く、[ILSVRC2012](http://www.image-net.org/challenges/LSVRC/2012/)でディープラーニングに破られるまでは最強のアルゴリズムでした。これを覚えてるとだいぶよい気がします（語彙）。

今回参考にしたのは以下のサイト。ありがとうございます。他にも良書籍がたくさんあるようなのでそういうのもご参考に。

* [PRML第7章のサポートベクターマシン(SVM)をPythonで実装](https://qiita.com/amber_kshz/items/6a9f8b6dd857edffce58)
* [SVM(サポートベクターマシン)](https://qiita.com/hirokuyu/items/d3d90465fc7fa133e668)
* [サポートベクターマシンを理解する](https://qiita.com/sloganjp/items/81816616c22e1f788208)
* [SVMについて簡単に理解する｡](https://drumato.hatenablog.com/entry/2018/11/17/234633)
* [SVM(サポートベクターマシン)について](https://www.slideshare.net/mknh1122/svm-13623887)
* [サポートベクターマシンを手計算して理解する](https://www.hellocybernetics.tech/entry/2017/01/24/201702)
* [SMO徹底入門](https://www.slideshare.net/sleepy_yoshi/smo-svm)
* [Python + NumPy で SMO 実装した](https://qiita.com/shuhei_f/items/5c4ff6ed278eb1747a6f)

# 理論編
理論をしっかり理解しようと思いましたが、とても複雑で、おまけに[これ以上ないくらいしっかりと理論に触れているエントリ](https://qiita.com/amber_kshz/items/6a9f8b6dd857edffce58)があったので、エッセンスだけ記述していこうと思います。

## ざっくりと概論
サポートベクターマシン(Support Vector Machine)は、パーセプトロンやロジスティック回帰のような教師ありの二値分類器です。サポートベクターの考え方を導入することで、未知データに対する汎化性能が高く、カーネル法を用いることで線形分類が不可能な分類問題(XORなど)も分類できるようになります。
乱暴に言うとパーセプトロンにマージン最大化とカーネル法を持ち込んだ分類器と言えるようです。

## 理論編
次のような特徴量が2つに対し、二値分類が必要な状況を考えます。青い丸と赤い丸がそれぞれ学習データで、青い点を1(**正例**)、赤い点を-1(**負例**)とします。境界に引かれた緑の線を$$y=ax+b$$とします。正例、負例それぞれのうち、緑の線に一番近い点を**サポートベクター**、サポートベクターから境界までの距離を**マージン**と呼ぶことにします。

<img width="439" alt="svm_1.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/18497/ecf6d3f4-2768-5b3c-0544-90e58ed813ec.png">

サポートベクターマシンは、教師データに対し、このマージンを最大化するような$a$と$b$を求めるという問題になります。
現実はこう都合よくいくケースばかりでもなく、きちんと分かれない場合が多くあるんですが、まずはこのシンプルなケースをもとに考えていきます。

サポートベクターマシンがいろんなケースでうまく分類できる理由は、このマージン最大化のおかげで、未知のデータに対してもいい感じに分類してくれるのと、境界面の近傍のデータを用いることで、外れ値にあまり影響しないという点があるようです。

### 初期設定
N個の教師データを$\boldsymbol{x}=(x_0, x_1, \cdots, x_{N-1})$、分類ラベルを $\boldsymbol{t}=(t_0, t_1, \cdots, t_{N-1})$、境界の式(識別関数という)を$g(x)=\boldsymbol{w}^Tx+w_0$とおきます。$\boldsymbol{w}$は、$\boldsymbol{x}$の重みベクトルです。

### マージン最大化
$y=ax+b$とある点$x_n$との距離は$$\frac{|ax+b|}{\sqrt{a^2}}$$([参考](https://mathtrain.jp/tentotyokusen))ですが、これを$g(x)$で考える。ある点$x_n$と$g(x)$の距離$|r|$は、$$|r|=\frac{|g(x)|}{|w|}$$と表せる。ラベル$t_n$は、$|t_n|=1$かつ、$t_ng(x)>=0$であることから、$$|r|=\frac{t_n(\boldsymbol{w}^Tx_n+w_0)}{|w|}$$となる。

$g(x)$から一番近い点$x_{min}$における$|r_{min}|$を最大化するために、$$|r_{min}|=\frac{t_{min}(\boldsymbol{w}^Tx_{min}+w_0)}{|w|}$$が最大となる$\boldsymbol{w}$と$w_0$を求めていきます。

### 制約条件
上記の式を最大化するには、分母が小さいほどよいですが、0になると不定になってしまう(解が一意に決まらない)ので、制約を加えます。
正例の点において、$g(x)=1$、負例は$g(x)=-1$であるとすると、$$t_ng(x)=t_n(\boldsymbol{w}^Tx_n+w_0) \geq 1$$という条件下で求めることにします。
これは、境界と最近傍の点$t_ng(x_{min})=1$とのマージン、$\frac{1}{|w|}$を最大化するので、$|w|$を最小化すればいいことになります。あとで微分することを考えて、$\frac{1}{2}|w|^2$を最小化すると置き換えても問題ありません。

整理すると、$$t_n(\boldsymbol{w}^Tx_n+w_0) \geq 1$$という条件下で、$$\frac{1}{2}|w|^2$$を最小化する$\boldsymbol{w}$と$w_0$を求めていきます。

### ラグランジュの未定乗数法
上式のような制約条件のある関数を最小化するためには、[ラグランジュの未定乗数法](https://mathtrain.jp/mlm)という手法を使います。これは、**双対問題**と言って、書き換えられた問題を解くことでもともとの問題を解いたことになるという理論を利用しています。

制約式$h(x)=t_n(\boldsymbol{w}^Tx_n+w_0)-1$のもとで、$f(x)=\frac{1}{2}|w|^2$を最大化するために、ラグランジュ乗数$\lambda$を導入したラグランジュ関数$$L(w, w_0, \lambda)=f(w, w_0)-\sum_{i=1}^{N}\lambda_ih(w, w_0)$$を定義します。

```math
L(w,w_0,\lambda)=\frac{1}{2}|w|^2-\sum_{i=1}^{N}\lambda_i \{ t_i(\boldsymbol{w}^Tx_i+w_0)-1\}
```
なので、$w$と$w_0$について偏微分し、偏微分を0とおくとラグランジュ関数が$\lambda$だけの式になり、

```math
L(\lambda)=\sum_{n=1}^{N}\lambda_n-\frac{1}{2}\sum_{n=1}^{N}\sum_{m=1}^{N}\lambda_n\lambda_mt_nt_mx_n^Tx_m
```
という式が導かれる。制約条件は、

```math
\lambda_n\geq 0 \\
\sum_{i=1}^N\lambda_it_i=0
```
です。これで$L(\lambda)$を最大化する$\lambda$を求めればいいという問題に置き換えできたことになります。

上式を$w$で偏微分すると、
$$w=\sum_{i=1}^{N}\lambda_it_ix_i$$が求まります。

$w$が求まったので、$w_0$を求めます。$$g(x)=\boldsymbol{w}^Tx+w_0=\sum_{i=1}^{N}\lambda_it_ix_ix+w_0$$であり、サポートベクトルとのマージンを1とおいたので、全サポートベクトルについて、

```math
t_n(\sum_{m} \lambda_mt_mx_mx_n+w_0)=1
```
が成り立ちます。実際には変形して

```math
w_0=\frac{1}{N_M}\sum_{n}(t_n-\sum_{m}\lambda_mt_mx_mx_n)
```
として求めます。整理すると、$\lambda$が求めた後、

```math
w=\sum_{i=1}^{N}\lambda_it_ix_i \\
w_0=\frac{1}{N_M}\sum_{n}(t_n-\sum_{m}\lambda_mt_mx_mx_n)
```
を最終的には計算で求めます。ではその$\lambda$はどのようにして求めればよいでしょうか。実際にはSMO(Sequential Minimal Optimization)という方法を使って求めることができます。

### SMO

まず、解くべき問題を再掲します。

```math
L(\lambda)=\sum_{n=1}^{N}\lambda_n-\frac{1}{2}\sum_{n=1}^{N}\sum_{m=1}^{N}\lambda_n\lambda_mt_nt_mx_n^Tx_m \\
```
制約条件

```math
\lambda_n\geq 0 ,\sum_{i=1}^N\lambda_it_i=0
```

このように、制約条件のある$L(\lambda)$を最大化する問題は、$\lambda$をSMOを使って求めることができます。

[Wikipedia](https://ja.wikipedia.org/wiki/%E9%80%90%E6%AC%A1%E6%9C%80%E5%B0%8F%E5%95%8F%E9%A1%8C%E6%9C%80%E9%81%A9%E5%8C%96%E6%B3%95)によれば、SMOは日本語で**逐次最小問題最適化法**というそうです。勾配法のように反復しながら解に近づけていく手法で、任意の2変数を選択し、収束するまで繰り返します。
この任意の2変数のことをWorking Setと呼び、この2変数をどうやって選ぶかがキモになります。

流れとしては、

* KKT条件に反する変数$\lambda_1$を選択する
* $\lambda_2$を決める
* $\lambda_1, \lambda_2$を更新する

という処理をKKT条件に反する変数が存在しなくなるまで繰り返します。

#### KKT条件
カルーシュ・クーン・タッカー条件（Karush-Kuhn-Tucker condition）、以下KKT条件とは、一階導関数が満たすべき最適条件を指します。

実はKKT条件は上のラグランジュ未定乗数法のときにも使っており、

(1) $\frac{\partial{L}}{\partial{w}}=0$
(2) $\frac{\partial{L}}{\partial{w_0}}=0$
(3) $t_n(\boldsymbol{w}^Tx_n+w_0) \geq 1$
(4) $\lambda_n \geq 0$
(5) $\lambda_n(t_n(\boldsymbol{w}^Tx_n+w_0)-1) = 0$

という条件です。特に5番目の条件を**相補性条件**と言うそうです。

#### KKT条件違反のチェックして変数を1つ決定する
相補性条件$$\lambda_n(t_n(\boldsymbol{w}^Tx_n+w_0)-1) = 0$$を場合分けして、
(1) $\lambda_n=0$の場合、$t_n(\boldsymbol{w}^Tx_n+w_0) \geq 1$
(2) $\lambda_n > 0$の場合、 $t_n(\boldsymbol{w}^Tx_n+w_0) = 1$

が導かれるため、これを満たさない$\lambda$を選べばいいことになります。逆に$\lambda$が無くなったら解が求まったとします。ここで選んだ$\lambda$を$\lambda_1$とします。

#### 変数をもう1つ決定する
もう一つの変数は、以下の順で選択します。まず、現在の$\lambda$で$\boldsymbol{w}$と$w_0$を求める必要があります。
この時の誤差関数を$$E_n=(\boldsymbol{w}^Tx_n+w_0)-t_n$$
とします。

<dl>
  <dt>(1) 変数の更新量が最大になるように選択</dt>
    <dd>$\lambda_1$の場合の$E_1$との誤差が最大になるような$n$を選ぶ。</dd>
  <dt>(2) 境界上に存在しない</dt>
    <dd>$t_n(\boldsymbol{w}^Tx_n+w_0) = 1$ではない任意の点
  <dt>(3) 残り</dt>
</dl>

#### 変数を更新する
更新する$\lambda_1$と$\lambda_2$は決定したが、更新する際には線形制約$$\sum_{i=1}^N\lambda_it_i=0$$があるため、この条件下で更新する必要がある。つまり、片方の$\lambda$を更新した場合は、もう一方の$\lambda$を調整しなければならない。更新後の$\lambda_1$と$\lambda_2$をそれぞれ$\lambda_1^{new}$、$\lambda_2^{new}$とすると

```math
\lambda_1^{new}t_1+\lambda_2^{new}t_2=\lambda_1t_1+\lambda_2t_2
```

となります。これを$t_1=t_2$の場合と$t_1 \ne t_2$で場合分けし、

```math
\lambda_1^{new}=\lambda_1+\frac{t_1(E_2-E_1)}{x_1^2+x_1x_2+x_2^2} \\
\lambda_2^{new}=\lambda_2+t_1t_2(\lambda_1-\lambda_1^{new})
```
を得ます。実際には、$\lambda_1$と$\lambda_2$の取りうる範囲を求めてクリッピングという処理が必要ですが力尽きました。

# pythonの実装
まず最初に、理論編で力尽きたのと、長くなりすぎたのでscikit-learnの実装だけにします。ごめんなさい。いつか必ず自力で実装するつもりです。

## scikit-learnの実装
pythonの実装はなんともあっさりです。scikit-learnでサポートベクトルマシンを使った分類をやるには[sklearn.svm.LinearSVC](https://scikit-learn.org/stable/modules/generated/sklearn.svm.LinearSVC.html)を使います。今回は分かりやすいように、正例50個負例50個がちゃんと分離されたサンプルを使います。

```python
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt

%matplotlib inline

from sklearn import svm

fig, ax = plt.subplots()    
    
x1_1=np.ones(50)+10*np.random.random(50)
x1_2=np.ones(50)+10*np.random.random(50)
x2_1=-np.ones(50)-10*np.random.random(50)
x2_2=-np.ones(50)-10*np.random.random(50)

x1 = np.c_[x1_1,x1_2]
x2 = np.c_[x2_1,x2_2]
y  = np.array(np.r_[np.ones(50), -np.ones(50)])

model = svm.LinearSVC()
model.fit(np.array(np.r_[x1,x2]), y)

ax.scatter(x1[:,0],x1[:,1],marker='o',color='g',s=100)
ax.scatter(x2[:,0],x2[:,1],marker='s',color='b',s=100)

w = model.coef_[0]

x_fig = np.linspace(-12.,12.,100)
y_fig = [-w[0]/w[1]*xi-model.intercept_/w[1] for xi in x_fig]
ax.plot(x_fig, y_fig)

plt.show()
```

<img width="372" alt="svm_2.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/18497/133734f5-491d-96ec-9ef4-8f0b258baf55.png">

このように分類されました。あたり前ですね。

# まとめ
最後力尽きてしまいましたが、雰囲気はつかめたんではないでしょうか（つかめてないですねw）。今回扱ったのは、基本中の基本、線形分離可能かつ正例と負例がきちんと分類できる例(ハードマージン)で導出しました。

より高度というか、現実に近いなサポートベクターマシンには、線形分離できないケース(カーネル法)と、正例と負例がきちんと分類できない例(ソフトマージン)を考える必要がありますが、基本的な理論は今回の内容とほとんど変わらないです。

次回以降ではその辺を扱っていきたいです。

**追記**:[書きました](https://qiita.com/hiro88hyo/items/45772ea5636bda7faf02)