カーネル法関連の本6冊(+2冊)読んだので書評書く。


また書評系やります
勉強する時数冊を平行読みする習性があるので、読んだ内容を忘れないためにも残しておく

# 各本の立ち位置について


またまた独断と偏見で位置づけしてます。
「難解な内容・本のボリューム」を横軸、「カーネル法の解説に力を入れている本」を縦軸にした。

<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/275572/b7fa00fe-a586-096a-8f27-092f2d1c2e8a.png" width=80%>



#カーネル法とは（4行で）

複雑なモデルにしたら過剰適合するしパラメータも多くて困るなぁ...

せや！ データ側を高次元の特徴量にしてシンプルな線形モデル適応したらええんや！

でもデータ変形のために特徴量合成とかするとメモリや計算コストで計算機が止まってまう...

せや！ 特徴量合成した時と同じ結果になるような方法(半正定値性を持つ核関数)を考えたろ！


#はじめに



サポートベクトルマシンの理論理解からカーネル法に踏み込んで、気づけばだいぶ深くまで入っていました。
正直まだ再生核ヒルベルトとか、KKT条件とか、νSVRの双対問題導出とか、理解していると胸を張れない...

カーネル法の解説もいずれ書くつもり。(殴り書き資料ならspeaker deckのほうにあります)


#各本の説明


##1. [パターン認識のためのサポートベクトルマシン](https://www.amazon.co.jp/%E3%83%91%E3%82%BF%E3%83%BC%E3%83%B3%E8%AA%8D%E8%AD%98%E3%81%AE%E3%81%9F%E3%82%81%E3%81%AE%E3%82%B5%E3%83%9D%E3%83%BC%E3%83%88%E3%83%99%E3%82%AF%E3%83%88%E3%83%AB%E3%83%9E%E3%82%B7%E3%83%B3%E5%85%A5%E9%96%80-%E9%98%BF%E9%83%A8-%E9%87%8D%E5%A4%AB/dp/4627849214/ref=pd_ybh_a_6?_encoding=UTF8&psc=1&refRID=998753GME9XAEJK7HK32)


- 最初にこの本から読んだ
- SVMの説明に徹した本
 - SVM(SVC,SVRの複数種)の特徴
 - 各種類のSVMのラグランジュ法と、KKT条件、双対問題までの導出
- 一部カーネルPCAなどもあり


##2. [サポートベクターマシン入門](https://www.amazon.co.jp/%E3%82%B5%E3%83%9D%E3%83%BC%E3%83%88%E3%83%99%E3%82%AF%E3%82%BF%E3%83%BC%E3%83%9E%E3%82%B7%E3%83%B3%E5%85%A5%E9%96%80-%E3%83%8D%E3%83%AD-%E3%82%AF%E3%83%AA%E3%82%B9%E3%83%86%E3%82%A3%E3%82%A2%E3%83%8B%E3%83%BC%E3%83%8B/dp/4320121341/ref=pd_ybh_a_5?_encoding=UTF8&psc=1&refRID=998753GME9XAEJK7HK32)

- 上記本よりもカバーする範囲が少しだけ広い(カーネルの種類)
- でも上記のほうが初心者には優しい気がする


##3. [カーネル多変量解析―非線形データ解析の新しい展開](https://www.amazon.co.jp/%E3%82%AB%E3%83%BC%E3%83%8D%E3%83%AB%E5%A4%9A%E5%A4%89%E9%87%8F%E8%A7%A3%E6%9E%90%E2%80%95%E9%9D%9E%E7%B7%9A%E5%BD%A2%E3%83%87%E3%83%BC%E3%82%BF%E8%A7%A3%E6%9E%90%E3%81%AE%E6%96%B0%E3%81%97%E3%81%84%E5%B1%95%E9%96%8B-%E3%82%B7%E3%83%AA%E3%83%BC%E3%82%BA%E7%A2%BA%E7%8E%87%E3%81%A8%E6%83%85%E5%A0%B1%E3%81%AE%E7%A7%91%E5%AD%A6-%E8%B5%A4%E7%A9%82-%E6%98%AD%E5%A4%AA%E9%83%8E/dp/4000069713/ref=pd_ybh_a_7?_encoding=UTF8&psc=1&refRID=998753GME9XAEJK7HK32)


- カーネル法が特徴量合成に相当すること
- 内積で表現できること
- 内積が正定値カーネルで表現できること
- などの説明がわかりやすい
- 細かい証明も付録に乗っている(理解できるとは言ってない)
- カーネル法によってSVM,PCA,k-平均法が拡張できることが載っている
- カーネル設計まで乗っているけど初めてには厳しかった


##4. [カーネル法入門―正定値カーネルによるデータ解析](https://www.amazon.co.jp/%E3%82%AB%E3%83%BC%E3%83%8D%E3%83%AB%E6%B3%95%E5%85%A5%E9%96%80%E2%80%95%E6%AD%A3%E5%AE%9A%E5%80%A4%E3%82%AB%E3%83%BC%E3%83%8D%E3%83%AB%E3%81%AB%E3%82%88%E3%82%8B%E3%83%87%E3%83%BC%E3%82%BF%E8%A7%A3%E6%9E%90-%E3%82%B7%E3%83%AA%E3%83%BC%E3%82%BA-%E5%A4%9A%E5%A4%89%E9%87%8F%E3%83%87%E3%83%BC%E3%82%BF%E3%81%AE%E7%B5%B1%E8%A8%88%E7%A7%91%E5%AD%A6-%E7%A6%8F%E6%B0%B4-%E5%81%A5%E6%AC%A1/dp/4254128088/ref=pd_ybh_a_9?_encoding=UTF8&psc=1&refRID=998753GME9XAEJK7HK32)

- 上記、カーネル多変量解析のカーネル設計部分はこっちの本が内容が多くてわかりやすく感じた
- 1~3まで読んでいるとだいぶ内容はかぶっている


##5. [カーネル法によるパターン解析](https://www.amazon.co.jp/%E3%82%AB%E3%83%BC%E3%83%8D%E3%83%AB%E6%B3%95%E3%81%AB%E3%82%88%E3%82%8B%E3%83%91%E3%82%BF%E3%83%BC%E3%83%B3%E8%A7%A3%E6%9E%90-John-Shawe-Taylor/dp/432012250X/ref=pd_ybh_a_8?_encoding=UTF8&psc=1&refRID=998753GME9XAEJK7HK32)

- もう辞書
- 厚い
- 曖昧で理解できないところはここで徐々に消化していきたい


##6. [ガウス過程と機械学習](https://www.amazon.co.jp/%E3%82%AC%E3%82%A6%E3%82%B9%E9%81%8E%E7%A8%8B%E3%81%A8%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92-%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92%E3%83%97%E3%83%AD%E3%83%95%E3%82%A7%E3%83%83%E3%82%B7%E3%83%A7%E3%83%8A%E3%83%AB%E3%82%B7%E3%83%AA%E3%83%BC%E3%82%BA-%E6%8C%81%E6%A9%8B-%E5%A4%A7%E5%9C%B0/dp/4061529269/ref=pd_ybh_a_1?_encoding=UTF8&psc=1&refRID=998753GME9XAEJK7HK32)

- 正直まだ読んでない
- 0章だけ読んでいってと言われて0章以外ほとんど理解できなかった
- 「ガウス過程」にあるようにガウシアンカーネル(RBF)が至る所に出てくる。
- そもそもガウス過程回帰のモデル化の考え方が複数の関数の組み合わせをモデルとして扱ったもので、これをカーネル法で表現している

##7. はじめてのパターン認識
##8. パターン認識と機械学習

この二冊は機械学習の入門・網羅本であり、その一環としてSVMの理解のための最小限のカーネル法説明がある。
正定値カーネルのいくつかの種類紹介をした後にSVM説明へと移る。
この本だけではカーネル法を理解できた気にならなかったので追加で別本を読むことにした。


#以上


カーネル法はまだまだ奥が深いので引き続き学んでいく。