Tokyo Research Laboratory

Large Margin Component Analysis
by Lorenzo Torresani, Kuang-chih Lee
IBM東京基礎研究所
井手剛| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

目次
 論文の概要
 なぜこの論文を面白そうだと思ったか 論文の紹介 はじめに 最大マージンk近傍分類のための次元削減
 最大マージン分類のための非線形特徴抽出
 実験結果 多手法との関連

 感想Page 2| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

論文の概要： この論文は、k-NN分類器の改良に関する論文。
改良のしどころは、「距離」の計算式。
 キーワード k-NN• k最近傍分類法
 Metric learning• データから計量をフィッティングすること
 Dimension reduction• 高次元データから低次元のデータ表現を作ること

Metric(計量）

数百から数千次元を想定
Page 3| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

なぜこの論文を面白そうだと思ったか Large Margin Component Analysis というタイトルが意味深でいい感じだった
 次元削減とメトリック学習を一緒にやる、というのが気に入った
 実験結果のグラフをチラと見るとなかなかの性能向上が得られていた

Page 4| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

Introduction
はじめにPage 5| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

おさらい
k-Nearest Neighbor とは？
 k個の近傍点の平均3-NN•
はxのk個の近傍• 「近傍」を決めるときに、距離の測り方を与える必要 単純だけど意外によい
 実装簡単 非線形な識別境界を実現できる

 でも．．．
 一般には、訓練データをすべて覚えていないといけない 距離の測り方に任意性

Page 6| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

k-NNで距離尺度をいじるとなぜいいのか:
DANNアルゴリズム (Hastie-Tibshirani, 1996)
 “Discriminant adaptive nearest neighbor classification”
 メトリック学習のさきがけ（と思われているようだ）
 識別境界に沿って空間を圧縮するように距離を測る
 行列計算によって、計量Mを訓練データから学習する方法を提案

Page 7| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

高次元のデータはいろいろ苦しい：
記憶容量的に。次元の呪い的に。
 何が難しいか 訓練データを全部ためておくのはスペース的に厳しい 計算量も馬鹿にならない
 次元に呪われる： 近傍の概念がほとんど意味を失ってしまう• 単位サイコロの体積の10%を占める辺の長さ- 0.46 (3次元)- 0.79（10次元）

See “Elements”

Page 8| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

Weinberger et al. との差分： （1）計量の学習と次元削減を統合する。
（2）計量の学習におけるカーネル化の処方箋を与える
 この論文はWeinberger et al. [NIPS 2005]の改良である
 Objective（後述）はほぼ同一

 しかし二つの点で本質的な差分がある
 １．次元削減機能を計量の学習方法に取り込んだ• Weinberger et al.では前処理としてPCAを行っていた
 ２．計量の学習のカーネル化をしてみせた• Weinberger et al.ではfuture workに挙げられていた

Page 9| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

Linear Dimensionality Reduction for Large Margin kNN Classification
最大マージンk近傍分類のための次元削減

Page 10| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

WeinbergerのLMNN (Large-Margin Nearest Neighbor, 1/3)
目的関数の第１項は同一ラベルのサンプルの広がりの度合いを表す
 Weinberger et al.[NIPS 2005]
 訓練データ { (xi, yi) } 正方・フルランクのD次元行列による１次変換
 異なるラベルがうまく分離してくれるようにLを学習したい Objectiveは二つの項からなる

 第１項は同じラベルのサンプルの広がりの度合い• xi と同一ラベルでk近傍の時に１• 同一ラベルを持たないと０• 同じラベルでも、k近傍に入っていないと０Page 11| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

WeinbergerのLMNN (Large-Margin Nearest Neighbor, 2/3)
目的関数の第2項がマージン最大化を目指す損失項
 Objectiveの第2項は、近寄りすぎの異ラベルサンプルを罰する

hinge loss

 絵で理解しようPage 12| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

WeinbergerのLMNN (Large-Margin Nearest Neighbor, 3/3)
M≡LTL についてSDPとして解く
 Hinge lossにスラック変数を使って書き換える
 M≡LTLは常に正定だから半正定値計画問題となる

 汎用のSDPソルバは遅すぎるので、勾配法を使ったらしい PCAで次元削減してからLMNNをやると、k-NNよりはよい結果を出す
 しかし多クラスSVMにはなかなか勝てない

Page 13| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

Large Margin Component Analysis ──変換行列Lを長方形行列に限ることで、低ランク化を行う。凸じゃなくなるが、気にしない
d次元(<100)

D次元(～1000)“Although the objective optimized by our method is also not convex, we
experimentally demonstrate that our solution converges consistently to better
metrics than those computed via the application of PCA followed by subspace
distance learning (see Section 4).”

 深刻に考えずに勾配法で解く

Page 14| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

Nonlinear Feature Extraction for Large Margin kNN Classification
最大マージン分類のための非線形特徴抽出

Page 15| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

この計量学習の勾配法をカーネル化したい（誰もやった人はいないので）。
素朴に x →φとするだけでは内積だけでは書けない 素朴に x → φとした時の勾配の式

Lについては何もしなくてよいのか？？

Page 16| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

カーネルPCAでの変換行列をヒントに、 L=ΩΦ の形を仮定するのがキモ カーネルPCAでの主成分は、マップされたサンプルの線形結合で仮定される
 したがって、主成分で張られる空間への射影行列は、こんな形となる
 書き換えると だからここでも L=ΩΦの形にLを仮定するのが自然。

Page 17| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

勾配法による更新則は無事カーネル化された
 計算に難しいところは全然ない

Page 18| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

Experimental results
実験結果

Page 19| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

実験その１: 高次元データでの実験
実験条件
 LMCAは勾配法で解くから、初期値が必要


PCAで初期値を与える

 カーネル版のLMCAはガウシアンカーネルを使う


KLMCAと表記 k（k-NNのkのこと）、c（ロス項の係数）、カーネルパラメターはCVで決める

Page 20| 2007/01/26 | NIPS読み会 データ
Isolet• 6238訓練データ• D=617次元• 26クラス AT&T Faces• 400サンプル• D=1178次元• 40クラス StarPlus fMRI
© Copyright IBM Corporation 2006

Tokyo Research Laboratory

実験その１: 高次元データでの実験
WeinbergerらのLMNNを系統的に上回っている。

 計算時間（AT&T Faces, d=10, k=3）
LMNN 5 sec
 LMCA 21 sec (k-LMCA 25 sec)
Page 21| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

実験その2: 比較的次元が低いデータでの分類精度
多クラスSVMに一応勝っている
 次元は4から34
 LMCAでは次元削減はしないことにし（→LMNNと同一になる）、KLMCAとLMNNを比べる
つまりカーネル化のご利益を調べる

Page 22| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

感想Page 23| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006

Tokyo Research Laboratory

感想 個人的には、「空間の曲がり方を学習」、というのは素敵だと思う。
 ただし、メトリック学習についてのおいしいところは大方持って行かれてしまった気がする。
 SDPと聞いてひるんでいた時期がしばらくあったが、勾配法で何とかなるのなら、びびらなくてもいいのかもしれない。
 凸じゃなくなるけど気にしません、という前向きな姿勢に感銘を受けた。
 最適解の理論的保証がない割に、かなりよい性能を出している。

Page 24| 2007/01/26 | NIPS読み会© Copyright IBM Corporation 2006