統計数理（2003）
第 51 巻 第 2 号 389–406
c 2003 統計数理研究所
［原著論文］

Kernel Flexible Discriminant Analysis による
高次非線形データの判別とその応用
安道 知寛

†

（受付 2003 年 3 月 19 日；改訂 2003 年 6 月 10 日）

要

旨

判別分析とは，複数の特性について観測・測定された多次元データに基づいて，判別関数を構築し，将来のデータを分類する手法を総称する．これまで，実際問題に対して最も適用を試みられてきた Fisher の線形判別法は，科学・社会システムの発展に大きく貢献してきた．しかし，近年，計算機のハードウェア・ソフトウェア両面にわたる急速な発展は，様々な種類の大規模データの蓄積を容易にし，複雑な非線形構造を有するデータから有効かつ効率的に情報を抽出する手法の必要性が急速に高まっている．
本稿では，カーネル関数に基づく非線形回帰分析の枠組みにより，Fisher の線形判別関数を非線形へと拡張し，文字認識など実際問題への応用に対して十分機能する手法を提案する．また，非線形判別関数の信頼性，汎化能力を向上させるため，パラメータ推定においては平滑化法を適用する．モデル構築に当たっては，平滑化パラメータ等の選択が本質的となるが，これらの選択を情報量，及びベイズ理論の観点から考察したモデル評価規準をそれぞれ導出する．
また，諸分野で蓄積されつつある実データおよび人工データの解析を通して，提案する手法の有効性を検証する．
キーワード： Fisher の線形判別法，カーネル法，最適スケーリング，平滑化，統計的モデル選択．
1.

はじめに

現在の高度に発展した計算機の利用環境の下で，様々なモデリング手法が開発され，これまでは十分な解析が難しかった複雑な非線形構造を内在する現象の分析が可能となりつつある．
本来，人間は高度な統計的情報処理能力を備えており，この知的処理機能を高速計算機で実現しようとする魅力的な試みは，情報工学分野のみならず，社会システム構築に関わる様々な分
野でなされてきた．その知的処理機能に関する中心的話題の一つとして 判別分析 があり，筆跡鑑定，郵便番号の数字認識，航空券の音声予約，指紋・網膜照合によるセキュリティシス
テム，債券信用格付け，倒産予測など現実社会の様々な場面で貢献している．
判別分析とは，観測・測定されたデータを，あらかじめ定められた複数の集団のうちの一つに対応させる処理であり，その潜在的な実用価値は，一般に広く認識されている．従来，判別分析の手法として，Fisher の線形判別関数（Mardia et al.（1979））が主に用いられてきたが，複雑な構造を有するデータの分析に対しては，十分に機能していないことがしばしば指摘されて†九州大学大学院 数理学府： 〒812–8581 福岡市東区箱崎 6–10–1

390

統計数理

第 51 巻

第 2 号 2003

きた．この問題は，判別分析のみならず，回帰分析など他の統計手法に関しても認識されており，近年では，スプラインやニューラルネットワークなどに代表される 非線形モデル と平滑化（正則化）
法を融合し，複雑な自然現象・社会現象を解明しようという研究の方向性が生まれ，現在，理論・応用の両側面で数多くの非線形モデリング手法が提案されている．
Fisher の線形判別分析を非線形へ拡張する手法の一つとして，Hastie et al.（1994）
は，スプラ
イン加法モデル（Buja et al.（1989））を利用した Flexible Discriminant Analysis（FDA）
を提唱した．Hastie et al. は，正準相関分析（Anderson（1984））の理論に基づいて，Fisher の線形判別が線形回帰分析の枠組みで実行できることを示し，線形回帰モデルをノンパラメトリック回帰モデルに拡張することで非線形判別関数を構成している．加法モデルの利点として，各変数の寄与が容易に解釈できるということが挙げられる．しかし，実際問題への適応に当たり，しばしば直面する問題として，十分な数のデータが観測・測定できない場合や，極めて高次元のデー
タの分析を必要とする場合，たとえ十分大きい平滑化パラメータを用いたとしても，加法モデ
ルの自由度が標本数を上回り，計算上の困難が生じることがある．
この様な背景をふまえて，Roth and Steinhage（1999）は，カーネル関数に基づく FDA を考案
し，平滑化パラメータ等の選択を VC 次元（Vapnik（1998））に基づき選択する手法を提唱した．
しかし，Roth and Steinhage の手法は，判別関数のパラメータ数と標本数の関係を考慮しておらず，統計的問題が否めない．さらに，VC 次元は非常に粗い最悪評価規準であることから，実（Stone（1974））
を優際的にはさらに精密な評価が望まれる．加えて，VC 次元には，交差検証法
越する明白な利点は無いとの報告もある（Hastie et al.（2001））．
本稿では，標本数とモデルのパラメータ数を考慮したカーネル関数に基づく Kernel Flexibleを提案する．KFDA の数理的背景には，Support Vector Machine
Discriminant Analysis（KFDA）（Vapnick（1998））で利用されるカーネルトリックが存在し，観測データを超高次元空間（特徴空間）へ写像して特徴抽出することにより，極めて判別能力の高い非線形判別関数を構成することができる．さらに，非線形判別関数の信頼性，汎化能力を向上させるため，パラメータ推定においては平滑化法を適用する．非線形判別手法の構築において本質的となる点は，平滑化パラメータ等の選択である．一つの方法として，交差検証法を用いる方法も考えられるが，大規模なデータ解析では，計算量が膨大となってしまう．Hastie et al.（1994）は，計算量を考慮して一般化交差検証法（Generalized Cross Validation（GCV），Wahba（1990））を利用している．
しかし，Hastie et al. の提案する GCV には未知の量が含まれていることから，GCV 規準そのものを最初に最適化する必要があり，利用に際しては慎重な検討を要する．
そこで，本稿では KFDA モデルと尤度概念の関係を明らかにし，平滑化パラメータなどの選択を情報量，及びベイズ理論の観点から考察してモデル評価規準を解析的に与える．
本稿の構成は以下の通りである．2 節では，Fisher の線形判別分析の概略を述べ，線形回帰分析の枠組みで Fisher の線形判別関数を構成する．3 節では，Fisher の線形判別分析を非線形へと拡張した KFDA を提案し，その数理的解釈を与える．また，人工データの解析を通して，
KFDA の性質について述べる．4 節では，平滑化法によって構成された KFDA の評価をおこなうためのモデル評価規準を，情報量，及びベイズ理論の二つの異なる概念に基づいて導出する．5 節では，音声認識，文字認識など各分野で蓄積されつつある実データの解析，および人工データの解析を通して，これまでに提唱された様々な手法と提案する手法を比較して，その有効性を検証する．

Kernel Flexible Discriminant Analysis による高次非線形データの判別とその応用

2.

391

線形判別分析についての概略

2.1 Fisher の線形判別関数
本節では，p 次元特徴ベクトル X = (X1 , X2 , . . . , Xp ) ∈ Rp と群のラベル G ∈ {1, 2, . . . , L}に関する n 個の観測データ {(xα , gα ); α = 1, . . . , n} に基づいて Fisher の線形判別関数を構成する．Fisher の判別分析法は，p 次元特徴ベクトル x をパラメータ W = (w1 , . . . , wq ),wj = (wj1 , . . . , wjp ) に基づく線形変換により，q 次元部分空間 W  x ∈ Rq へ射影し，この空間
で判別をおこなう．その本質的な点は，q 次元部分空間での群間分散を可能な限り大きく，逆に，群内分散を可能な限り小さくしようとすることにある．通常，部分空間の次元は，視覚化が可能な q = 2, 3 とすることが多い．
いま，第 k 群に属する観測データ数を nk とすると，観測データが得られた p 次元空間での群間分散 SB と群内分散 SW は以下で与えられる統計量である．




L

SB =

k=1

SW =



mk =

1
n

nk
(mk − m)(mk − m) ,nL(xα − mk )(xα − mk ) ,k=1 gα =k1
xα ,nk g =knk = 1, 2, . . . , L ,

α

m=

1
xα .
n α=1

ただし， gα =k は第 k 群に属するデータに対して和をとるものとし，mk は群 k の平均ベク
トル，m は全体の平均ベクトルである．本稿では，あらかじめ，全体の平均ベクトルは m = 0と基準化されているものとする．
∗∗∗
このとき，q 次元部分空間での群間分散 SB，群内分散 SWはそれぞれ，SB= W  SB W ,∗SW = W SW W となり，パラメータ W は次の制約付き最適化により推定される．
(2.1)∗
maximize J(W ) = trSB∗
s.t. SW= Iq .

この解は，次の固有値問題−1
SW
SB W = W Λ ,Λ = diag{λ1 , . . . , λq }−1は SW
SB の固有値のうち，大きいほうから q 個の固有値 λ1 , . . . , λq にに帰着し，最適解 Ŵ
対応する固有ベクトル ŵ1 , . . . , ŵq となる．部分空間の次元 q は，最大限 min{p, L − 1} 次元までとることができ，将来観測されるデータ x は，部分空間へと射影され（つまり，Ŵ  x），部分
空間での各群の平均 Ŵ mk , (k = 1, 2, . . . , L) との距離が最も小さい群へ判別される．
以上が Fisher の線形判別分析法の概略であるが，この手法については，これまで多数の優れた書物が出版されているので（Mardia et al.（1979），柳井・高根（1985），石井 他（1998）など），
これ以上は深入りせず，線形回帰分析を利用した Fisher の線形判別へと話題を移す．
2.2 線形回帰分析に基づく Fisher の線形判別分析
本節では，Fisher の線形判別関数が回帰分析の枠組みで構成できることを紹介する．いま，
 (k) : G → Rq を第 k 群の中心を表す関数とする．前節では，n 個の観測データ {(xα , gα ); α =1, . . . , n} が与えられたとき，(2.1) の制約付き最適化問題を解くことで Fisher の線形判別関数
W  x を 構成した．あらかじめ，全体の平均ベクトルは m = 0 とされているとき，回帰分析の枠組みにおいては，次の二乗誤差和を最小にするようにパラメータ W は推定される．


n

(2.2)

ASR(Θ, W ) =α=1|| (gα ) − W  xα ||2 = tr||ZΘ − XW ||2 .

392

統計数理

第 51 巻

第 2 号 2003

ここで，X = (x1 , . . . , xn ) , Θ = ((1), . . . , (L)) とし，n × L 行列 Z は，データがどの群に属するかを表す行列で，その (α, k) 成分 zα,k は，データ xα が k 群に属するとき zα,k = 1 となり，それ以外の群に属するときは zα,k = 0 となる．つまり，ZΘ の第 α 列には，データ xα が属する群の中心がくることになる．
群の中心を表す行列 Θ を固定したとき，(2.2) 式を最小とする Ŵ は，ASR(Θ, W ) を W で微分し，X  XW − X  ZΘ = O を解くことで与えられる．
Ŵ = (X  X)−1 X  ZΘ .

推定量 Ŵ は q 次元部分空間での基底を構成するが，部分空間内での群の中心を表す Θ を決定する必要がある．そこで，射影子行列 PX = X(X  X)−1 X  と推定量 Ŵ を用いて (2.2) 式を変形すると，以下の式となる．
(2.3)

ASR(Θ, Ŵ ) = tr{Θ Z  ZΘ} − tr{Θ Z  PX ZΘ} .

Hastie et al. (1994) は，Θ の正規化の条件として，Θ Z  ZΘ/n = Iq という制約を課し，(2.3) 式の第二項 tr{Θ Z  PX ZΘ} を最大化する Θ を求めることに問題を帰着させた．この問題の解 Θ̂
は，正規化の条件のもとで Z  PX Z を固有値分解したときの，大きい固有値 α1 > α2 > · · · > αqに対応する固有ベクトルで構成される．
正準相関分析の理論から，回帰分析の枠組みで求めた推定量 Ŵ = (X  X)−1 X  Z Θ̂ は，(2.1)
式を解くことで構成した Fisher 線形判別関数の推定量 ŴFisher と以下の関係がある（Mardia et．
al.（1979）, Hastie et al.（1994, 1995））(2.4)

ŴFisher = Ŵ D .

ここで，D は q 次元対角行列で，その第 (k, k) 成分は dk,k = 1/(αk (1 − α2k )1/2 ) である．この関係を用いることで，Fisher の線形判別関数は構成され，将来のデータは各群の平均との距離が最小となる群に判別される．
ここで注意すべきことは，前節の Fisher の線形判別分析と照らし合わせて分かるように，中心行列 Θ は実質的にパラメータの構造を持たず，回帰分析の枠組みで求めた推定量 Ŵ を用い
ˆ (k), k = 1, . . . , L という式で表されることである．Hastie et al.（1994）は，中て，DŴ  mk = 
心行列 Θ をパラメータと捉えず，射影子行列 PX を与えたとき，自動的に決定される量であるという点に着目し，GCV に基づいてモデルの予測精度，つまり，データに潜む未知の構造に対する推定量 Ŵ の適合度を評価している．
以上のように，回帰分析の枠組みで判別関数を構成したが，変数間に線形性を仮定する線形回帰モデルでは，その性質上，複雑なデータの分析に対して有効に機能せず，より柔軟なモデルが必要とされる．次節では，非線形回帰分析とカーネル法を融合した KFDA を提案する．
3.

非線形回帰分析を利用した判別関数の構成

3.1 Kernel Flexible Discriminant Analysis
前節で紹介した線形判別分析においては，観測データを線形変換する判別関数を作成していた．ここでは線形回帰分析に基づく Fisher の線形判別分析を非線形モデルへ拡張するために，
観測データ x = (x1 , . . . , xp ) にカーネル関数に基づく非線形変換(3.1)

 := x → (x) = (φ1 (x), . . . , φs (x)) , (Rp → Rs )を施して空間 Rs に射影し，この空間からの線形変換 W  (x) = (w1 (x), . . . , wq (x)) による
q 次元部分空間への射影を構成して判別を行う．部分空間の次元 q は，最大限 min{s, L − 1}Kernel Flexible Discriminant Analysis による高次非線形データの判別とその応用

393次元までとることができ，特に群の個数 L に比べて特徴変数 x の次元 p が比較的小さいとき，Fisher の線形判別法は，p 次元部分空間までしか判別関数に情報を取り入れることが出来なかったが，KFDA では，非線形変換における次元 s を大きく取ることで，常に L − 1 次元部
分空間で判別が可能であり，非線形構造を持つデータに対してより柔軟な分析をおこなえるという利点がある．
本稿では，（3.1）式のカーネル関数 φj (x), j = 1, . . . , s として，次のガウスカーネルを用いる．


p

(3.2)

φj (j ; x) = exp −k=1(xk − µjk )2
2σk2



,

j = 1, 2, . . . , s .

ただし，j = (µj1 , . . . , µjp ) はカーネルの位置を定める p 次元中心ベクトル， = (σ12 , . . . , σp2 )
はカーネルの分散を制御する形状パラメータである．ガウスカーネルの有用性・利便性は，非線形回帰・非線形判別問題などの様々なデータ解析を通じて報告されている（安道 他（2001, 2002），
Ando et al.（2002））.
（3.2）
式のガウスカーネルに含まれる中心ベクトル j は，観測データの密度関数を大まかに捉えるように決定する．ここでは，n 個の p 次元観測データ {x1 , . . . , xn } を k-means 法によって，s 個のクラスター A1 , . . . , As に分割し，各クラスター Aj に含まれる nj 個のデータに基づいて j を次のように決定する．
(3.3)

j =



1
xα ,
nj x ∈Aαj = 1, . . . , s .

j

従って，形状パラメータ  を与えると s 個の既知のガウスカーネルが構成されることになる．
形状パラメータ  の与え方については，後節で話題にする．以下，一般性を失うことなく，¯ = n (xα )/n = 0 となるように平行移動したものとしs 次元空間での平均ベクトルは 
α=1て，モデルのパラメータ W の推定法について述べる．
2.2 節で説明した線形回帰の枠組みと同様，n 個の各観測データの中心ベクトル  (gα ) からの距離を最小とするように W は推定されるが，非線形モデルの柔軟さ故にデータに強く依存したモデルが構成されてしまい，その結果，汎化能力が充分でないことがしばしばある．そこ
で，モデルの信頼性，汎化能力を向上させるため，パラメータ W の推定には平滑化法を適用
する．




n

(3.4)

ASR(Θ, W ) =|| (gα ) − W  (xα )||2 +

α=1

nλ
2


q

wk wk .

k=1

ここで，λ は平滑化パラメータと呼ばれ，データへの適合度とモデルの複雑さを調整する働きをもつとともに，モデル推定の安定性に寄与する機能をもつ．また，ベイズ理論の観点から考察すると，パラメータ wk の事前分布として平均 0, 分散 Is /(nλ) の正規分布を仮定していることになる．
このとき，（3.4）式の最小化に基づく推定量 Ŵ は，(3.5)

Ŵ = (Φ Φ + nλIs )−1 Φ ZΘ

で与えられる．ただし，Φ = ((x1 ), . . . , (xn )) ，Is は s 次元単位行列，Z は前節で導入したデータが属する群を表す行列とする．
いま PΦ = Φ(Φ Φ + nλIs )−1 Φ を射影子行列とすると，各群の中心 Θ は，正規化の条件
Θ Z  ZΘ/n = Iq のもとで Z  PΦ Z を固有値分解したときの，大きい固有値 α1 > α2 > · · · > αqに対応する固有ベクトルで構成される．この Θ̂ を代入して得られる Ŵ = (Φ Φ + nλIs )−1 Φ Z Θ̂

394

統計数理

第 51 巻

第 2 号 2003

を用いて，非線形判別関数 DŴ  (x) が構築され，将来の観測データ x は DŴ  (x) と各群の中¯ , k = 1, . . . , L との距離が最小になる群に判別される．ただし，
¯ = 1
心 DŴ  kk
gα =k (xα )nkは，第 k 群の平均ベクトル，q 次元対角行列 D の第 (k, k) 成分は dk,k = 1/(αk (1 − α2k )1/2 ) とする．
3.2 KFDA の数理的背景
本節では，KFDA の背後にある数理的構造を理論的に明確にしていく．いま，超高次元空間（特徴空間）
への写像  : Rp → F, x →  (x) によって，p 次元観測データ x を特徴空間 F へ写像
し，その写像した空間における線形判別関数 Γ  (x) = ( 1  (x), . . . ,  q  (x)) , Γ = ( 1 , . . . ,  q ),
 j = (γj1 , γj2 , . . . ) に基づき特徴ベクトル  (x) の判別を考える．一般に，特徴空間 F は極めて高次元，時には無限次元である場合もある（Schölkopf et al.（1998））．KFDA は，F において観測データの特徴抽出をおこない，この特徴の判別を q 次元空間でおこなっていることを以下に示していく．
FF¯ は以下で与えられ
まず，特徴空間 F での群間分散 SBと群内分散 SW
, 第 k 群の中心 
k
n
¯
¯
る．
（ここでは，特徴空間 F での平均ベクトル  = α=1  (xα )/n は  = 0 と基準化されているものとする．
）






L

F
SB
=

k=1
F
=
SW

1
n

nk ¯ ¯ 
  ,
n k k

L

¯ )( (xα ) − ¯ ) ,( (xα ) − kk

k=1 gα =k

¯ = 1

k
nk

 (xα ) , k = 1, 2, . . . , L .

gα =k

F
F
このとき，SBと SWの比を最大化する推定量 Γ̂ は，Fisher の線形判別の枠組みと同様に，条 F
F件 Γ SW Γ = Iq の下で，tr Γ SB
Γ を最大化することで得られる．この推定量を用いて，ラベル¯ に最も近い群へ判別される．
が未知のデータ x は，Γ̂  (x) が各群の中心 Γ̂ k一般に，特徴空間 F は極めて高次元であるため，推定量 Γ̂ を得るのに必要な計算量が膨大になってしまうことが容易に予想される．しかしながら，特徴ベクトルの内積がカーネル関数の値 φ(x, y) =  (x)  (y) で定義される特徴変換  (x) を利用することで計算量を大幅に減少させることができる．この手法は，カーネルトリック（Schölkopf et al.（1998），Vapnik（1998））と呼ばれ，その有用性は極めて高い．最もポピュラーなカーネルは，（3.2）式のガウスカーネル
であり，その他にも多項式カーネル，シグモイドカーネルなどが挙げられる．
パラメータ  j の構造は，wj· を係数とした  j = nα=1 wjα  (xα ), j = 1, . . . , q で与えられることが一般に知られているが（Roth and Steinhage（1999）），ここでは，データ数とパラメータ数が接近することを避けるために，次の構造  j = si=1 wji  (i ) を提案する．ただし i
は，観測データを k-means 法で s 個のクラスターに分割したときにおける各クラスターの中心（3.3）である．
このとき，簡単な式変形から






       



s



 F
j SB

j =

i=1

s

=

L

wji  (i )k=1si=1 i =1

L

nk
wji
n
k=1

nk ¯ ¯ 
 
n k k

s

wji  (i )

i =1

1
 (i )  (xα )nk g =kα1
 (i )  (xα )nk g =k
α






wji

 


 





Kernel Flexible Discriminant Analysis による高次非線形データの判別とその応用


s

=

s

i=1 i =1

L

nk
wji
n
k=1

φ
= wj SBwj ,1
φ(i , xα )nk g =kα1φ(i , xα )nk g =k
α

395

wji

(j = 1, . . . , q)φFが成立し，同様に  j SW
 j = wj SW
wj , (j = 1, . . . , q),  j  (x) = wj (x) の関係が導かれる．
φ
φ
ただし，(x) は，(3.1) 式による非線形変換，SB, SW
は，写像 (x) による変換後のデータ
Lnk ¯ ¯ φφ(x1 ), . . . , (xn ) の群間分散 SB = k=1 n k k , 群内分散 SW= n1 Lk=1
gα =k ((xα ) −1¯ ) とし，¯ )((xα ) − ¯ は第 k 群の平均ベクトル 
¯ =


(x
)
である．
α
k
k
k
k
gα =k
nk
F
F
すなわち，制約条件 Γ SW
Γ = Iq の下で，tr Γ SB
Γ を最大にする推定量 Γ̂ に基づく判別関φφ
数 Γ̂  (x) [A] は，W  SW
W = Iq の下で，tr W  SB
W を最大にする推定量 Ŵ = (ŵ1 , . . . , ŵq ) ,φ−1 φ
つまり，SW SB の大きいほうから q 個の固有値に対応する固有ベクトル ŵ1 , . . . , ŵq を用いる
判別関数 Ŵ  (x) [B] と等価であることを示唆している．さらに，KFDA の枠組み [C] においては，（3.5）式で λ = 0 とし，（2.4）式の関係を用いると，[A]・[B] の判別関数が構成され，このときは，これら 3 つの判別方式 [A] ∼ [C] は一致する．
以上をまとめると，KFDA の枠組みにおいて，（3.1）式のカーネル関数に基づく非線形変換
(x); Rp → Rs は，Rs へ射影した空間を経由して判別関数を構成しているが，そこに内在する理論においては，KFDA は超高次元空間の特徴空間 F へ観測データを写像して特徴の抽出をおこない，その特徴ベクトルを利用して判別を実行しているのである．次節では，KFDA の性質について説明していく．







¯ を
¯ = 0 と基準化しているが，基準化さ注意．ここでは，特徴空間 F での平均ベクトル .
れていない場合でも，いま展開した理論と同様な議論が可能である（Schölkopf et al.（1998））
3.3 KFDA の性質について
本節では，人工データである Synthetic Data（Ripley（1994, 1996））の解析を通して，平滑化
パラメータ λ と（3.2）式のガウスカーネルの形状パラメータ  の設定が，どのような影響を判
別境界の非線形性・複雑度，あるいは安定性に与えるかを検証する．
Synthetic Data の特徴変数は p = 2 次元で，2 群からなり，250 個の学習データと 1000 個の予測データが与えられている．図 1 は，学習データ（○: gα = 1, △: gα = 2），および真の境界
領域（ - - -）を示している．

図 1. Synthetic Data (○: gα = 1, △: gα = 2) と真の境界領域 (- - -).

396

統計数理

第 51 巻

第 2 号 2003

まず，
（3.2）
式のガウスカーネルに含まれる形状パラメータ  の設定が，どのような影響を判別関数に与えるかを説明する．KFDA の非線形変換の次元を s = 20, 平滑化パラメータ λ = 10−2 と固定したもとで，学習データを用いて，形状パラメータの値を  = (0.01, 0.005), (0.1, 0.05), (1, 0.5)として非線形判別関数 Ŵ  (x) を構成した．ただし，Ŵ は（3.5）
式で与えられる推定量であり，2 群判別 (L = 2) を考えているので，部分空間の次元は q = min{s, L − 1} = 1 となる．
図 2 は，推定結果を表しているが，形状パラメータの値を小さくするにつれて，判別境界線
が複雑になっていくことがわかる．これは，p 次元観測データに（3.1）式のカーネル関数に基づ
く非線形変換を施して s 次元空間へと数式の上では常に写像しているが，3.2 節で紹介した特徴空間 F で考えると，形状パラメータの値を小さくすることで，F の次元が超高次元になることを示している．つまり，ガウスカーネルの形状パラメータを利用することで，特徴空間の次元を調節することができるのである．また，（3.1）式の非線形変換を施したときの s 次元空間については，s が大きくなるに比例して最終的な判別境界が複雑になることは自明である．
平滑化パラメータは，判別境界の非線形性・複雑度に影響を与える他に，パラメータ推定における安定性に寄与している．安定性への影響を見るために，log10 (λ) = −2, −3, −5 と与えて，250 個の学習データから 10 組のブートストラップ標本（標本サイズ; n = 250）を発生させ，各
ブートストラップ標本に基づいて判別境界曲線を推定した．ただし，ブートストラップ標本は，データの組を復元抽出することで構成し，形状パラメータの値を  = (0.1, 0.05), 非線形変換の次元を s = 20 と固定している．
図 3 は，推定された判別境界曲線を示しているが，学習データへの適合度を良くするために，平滑化パラメータの値を小さくとり過ぎると，判別境界曲線が暴れてしまうことがわかる．ベ
イズの観点から考えると，（3.4）
式の最小化に基づく推定方法は，パラメータ W に分散 Is /(nλ)の正規分布を事前分布として仮定していることになるので，平滑化パラメータ λ を小さくすると，パラメータの分散（つまり，判別関数の分散）が大きくなるので，これは自然な結果である．
また，λ = 0（つまり，最小二乗法）として，パラメータを推定したが，多くの場合（3.5）式の逆行列が退化してしまい，推定量 Ŵ は得られなかった．つまり，罰則項を付与することで，このような計算上の問題も避けることが可能なのである．このように，平滑化パラメータの選択が安定性の意味で重要であることは，図 3 から一目瞭然であるし，数値的にも認識される．
以上のように，真の構造を捉えるためには，非線形空間の次元 s, 平滑化パラメータ λ，及びガウスカーネルに含まれる形状パラメータ  の値を適切に選択する必要がある．次節では，モデル評価規準を導出し，s, λ,  を選択する手法について述べる．
4.

モデル評価規準

近年，コンピュータの急速な発展は，多様な統計的分析手法の開発を支援してきたが，それにともない，各々の統計モデルを評価するための規準が必要となってきた．統計的モデル選択
問題は，変数選択，ニューラルネットの素子数決定，カーネル関数の最適バンド幅決定，決定木のノード数選択，変化点の検出など，非常に幅広い応用範囲を持ち，その重要性から，現在，
理論的・応用的側面の両面で広く研究されている．本節では，KFDA と尤度概念を結びつけ，
情報量及びベイズ理論の観点からモデル評価規準を導出する．
前節では，非線形回帰分析の枠組みによって，モデルに含まれるパラメータ W を (3.4) 式の最小化に基づいて推定した．
（3.4）式の第一項目はデータに対する適合度であり，二乗誤差和であることから，q 変量正規分布の密度関数を仮定していると考える．

Kernel Flexible Discriminant Analysis による高次非線形データの判別とその応用

図 2.

(a) σ= (0.01, 0.005)(a) log10(λ) = −2(b) σ= (0.1, 0.05)(b) log10(λ) = −3(c) σ= (1, 0.5)(c) log10(λ) = −5

推定した判別境界曲線.

397

図 3. 推定した判別境界曲線.

f ( (gα )|xα ; W, Σ)11=
exp − ((gα ) − W  (xα )) Σ−1 ((gα ) − W  (xα )) .
(2π)q/2 |Σ|1/2
2

ただし，Σ = diag{σ12 , . . . , σq2 } である．すなわち，（3.4）式の最小化により非線形判別関数を構

398

統計数理

第 51 巻

第 2 号 2003

成することは，次の罰則付き対数尤度関数の最大化により統計モデル f ( (gα )|xα ; W, Σ) を推定することに対応する．

lλ (W, Σ) =


q

n

(4.1)

log f ( (gα )|xα ; W, Σ) −α=1nλwk wk .
2 k=1

推定量 Ŵ と群の中心 (gα ) = (θ1 (gα ), . . . , θq (gα )) は，3.1 節の方法で求められ，誤差分散
σk2 は以下のように推定される．

nσ̂k2 =12
θk (gα ) − ŵk (xα ) ,n α=1

k = 1, . . . , q .

以上のように，統計モデル f ( (g)|x; Ŵ , Σ̂) は構成され，KFDA に尤度概念を与えた．この統計モデル f ( (g)|x; Ŵ , Σ̂) に含まれる未知の量，非線形空間の次元 s, 平滑化パラメータ λ，及びガウスカーネルに含まれる形状パラメータ  の値を適切に選択する方法を次節から提案する．
4.1 情報量規準
情報量規準（Akaike（1974），Konishi and Kitagawa（1996））とは，想定したモデルとデータを生成した真のモデルとの Kullback-Leibler 距離（Kullback and Leibler（1951））
を最小とするモデ
ル，つまり期待対数尤度が最大となるモデルを選択し，予測の意味で優れたモデルを構築しようという考えに基づき導出されたモデル評価規準である．期待対数尤度は真の分布（未知）に依存することから，Akaike（1974）は対数尤度を利用して期待対数尤度を推定したときのバイアスを補正し，（期待対数尤度）≈（対数尤度）−（バイアス）と近似することを考えた．
その結果，想定したモデルが真のモデルに十分近いという仮定の下で，最尤法によって推定したモデルの期待対数尤度と対数尤度のバイアスは，モデルの自由パラメータ数で近似できるとし，情報量規準 AIC = −2（対数尤度）+ 2（パラメータ数）を提案した．しかし，AIC は最尤法に基づき構成したモデルを評価する規準であり，本稿では最尤法の枠を外した罰則付き最尤法に基づきモデルを構成していることから，単純に AIC を適用することには問題がある．
安道 他（2001），Ando et al.（2002）は，目的変数が一変量の場合に，罰則付き最尤法に基づいて推定された正規回帰モデルに関する情報量規準 GIC（Konishi and Kitagawa（1996））を提案した．この結果を目的変数が多変量の正規回帰モデルに拡張すると，lλ (W, Σ)（4.1）
式を最大化することで与えられる推定値 Ŵ , Σ̂ に基づく統計モデル f ( (g)|x; Ŵ , Σ̂) を評価する情報量
規準 GIC は次で与えられる．


n

(4.2)

GIC(s, λ, ) = −2

log f ( (gα )|xα ; Ŵ , Σ̂) + 2tr J −1 I.

α=1

ただし，I と J は q(s+1) 次正方行列で，その ((k−1)(s+1)+1) ∼ k(s+1) 列，((l−1)(s+1)+1) ∼l(s + 1) 行の成分は，次の (s + 1) 次正方行列で与えられる．
1
Ikl =
n



1
Jkl =
nσ̂k2

Φ Λk − λŵk 1n
pk





Φ Φ + nσ̂k2 λIs
1n Λk Φ(Λl Φ, pl ) ,Φ Λk 1n
, (k = l),n/(2σ̂k2 )Jkl = O ,(k = l) .

ここで，Λk = diag [θk (g1 ) − ŵk (x1 ), . . . , θk (gn ) − ŵk (xn )] /σ̂k2 , O は全ての成分が 0 の行

Kernel Flexible Discriminant Analysis による高次非線形データの判別とその応用



399

列，1n = (1, 1, . . . , 1) , n 次元ベクトル pk の第 α 成分は
pkα = θk (gα ) − ŵk (xα )2/2σ̂k4 − 1/2σ̂k2で与えられる．
（4.2）式で与えた GIC を最小にするモデルを最適なモデルとして選択する．
Hastie and Tibshirani（1990）は射影子行列 PΦ = Φ(Φ Φ + nλIs )−1 Φ を平滑化行列と呼び，モデルの自由度を平滑化行列の対角和 tr{PΦ } として定義した．この結果を用いて，平滑化行列の対角和をバイアス補正項として近似した次のモデル評価規準 AICM も考えられる．

n

AICM (s, λ, ) = −2

(4.3)

f ( (gα )|xα ; Ŵ , Σ̂) + 2qtr({PΦ } + 1) .

α=1

つまり，最尤法に基づいて推定されたモデルの評価規準である AIC のバイアス補正項（モデルのパラメータ数）
を平滑化行列の対角和で置き換えたものに相当する．AICM の計算は容易であるが，本来，AIC は最尤法に基づき構成したモデルを評価する規準である．本稿では，罰則付き最尤法に基づいてパラメータ推定がなされていることから，その妥当性について，またパ
ラメータ数を平滑化行列の対角和で置き換えることの妥当性に関しても研究の余地がある．
4.2 ベイズ型情報量規準
AIC と同様に最尤法に基づき構成したモデルの評価規準として，Schwarz（1978）のベイズ型
情報量規準（Bayesian Information Criterion; BIC）
がある．ベイズ理論の観点から考えると，罰則付き対数尤度関数（4.1）式の最大化によりモデルを推定することはパラメータ W の事前分布
として，次の s 次元正規分布の積を仮定することと対応している．

 qπ(W |λ) =

(4.4)

k=1

nλ
2π

s/2



nλ
exp − wk wk2

.

モデルの事前確率を等しいと仮定し，モデルの事後確率に積分のラプラス近似を適用すること
でベイズの理論から導かれるベイズ型モデル評価規準 は次式で与えられる．




q

n

BIC(s, λ, ) = −2

(4.5)

log f ((gα )|xα ; Ŵ , Σ̂) + nλα=1ŵk ŵk + q log n

k=1+ log |J| − q log 2π − qs log λ .

ただし，J は（4.2）
式で与えられるものとし，BIC を最小とするモデルを最適なモデルとして選択する．
また，AIC と同様に，Schwarz の BIC のパラメータ数を平滑化行列の対角和に置き換えた次のモデル評価規準 BICM も考えられる．

n

BICM (s, λ, ) = −2

(4.6)

f ( (gα )|xα ; Ŵ , Σ̂) + log(n)q(tr{PΦ } + 1) .

α=1

情報量規準，ベイズ型情報量規準などモデル選択規準の研究については，Konishi（1999），小西（2000），Konishi et al.（2004）の優れた文献があるので参照されたい．
5.

数値例（Wave Form Data），4.2 節: 音声認識，4.3 節:
本節では，提案する手法を 4.1 節: 人工データ
文字認識に適用し，その解析を通して提案する手法の有効性を検証する．

400

統計数理

第 51 巻

第 2 号 2003

5.1 Wave Form data
本節では Wave Form Data（Hastie et al.（1994, 2001））の解析を通して，3.3 節で述べたモデ
ル評価規準と予測誤差の関係，及び提案する方法の有効性・汎化能力について検討する．Wave
Form Data の特徴変数は 21 次元 x = (x1 , . . . , x21 ) で，3 群からなり，次のモデルに従い発生
する．
xk =




uH1 (k) + (1 − u)H2 (k) + εk if g = 1
uH1 (k) + (1 − u)H3 (k) + εk if g = 2
uH2 (k) + (1 − u)H3 (k) + εk if g = 3

k = 1, . . . , 21.

ここで，u は [0, 1] の一様乱数，誤差項 εk は標準正規分布に従い発生する．また，関数H1 (k), H2 (k), H3 (k) はそれぞれ H(k) = max{6 − |k − 11|, 0}, H2 (k) = H1 (k − 4), H3 (k) =H1 (k + 4) で定義される．
解析においては，それぞれの群の事前確率を同確率として，学習データ・予測データを計 300
個，500 個それぞれ発生させた．例えば，学習データについてはそれぞれの群から約 100 個ず
つのデータを発生させたことになる．
まず，モデル評価規準と予測誤差の関係について議論する．そもそも，判別分析における最終的な目標の一つは，将来観測されるデータを正しく判別する（予測誤差を小さくする）
ことである．交差検証法や，ブートストラップ法（Efron and Tibshirani（1993））は予測の観点から提案されており，直感的に分かりやすい理由からよく用いられる方法である．その本質は，学習
データの誤判別率のバイアス補正をおこなって，直接，予測誤差を推定する点にある．
3.3 節で述べたモデル評価規準は，期待対数尤度やベイズの事後確率を最大にしようと意図したもので，直接的には予測誤差を推定しないが，ある意味では予測誤差に対する指標である．
つまり，“モデル評価規準の値が小さい ≈ 予測誤差が小さい”という関係が成り立っていれば，評価規準の値を小さくするモデルを予測精度が高いモデルとして自動的に選択する根拠が与えられる．そこで，モデル選択規準の値と予測誤差の関係を図 4 に示した．図から見てとれるよ
うに，評価規準の値が小さければ，予測誤差も小さいという傾向があった．
次に，今までに提案されている様々な統計的判別手法との比較をおこなった．表 1 は，学習
誤差と予測誤差の 10 回の試行の平均値であり，KFDA と GIC（4.2）
式の組み合わせが最も小さ
い予測誤差を与えている．また，他の規準を用いたときも，他の判別手法と比較して，KFDAの予測能力が目立っている．このことから，KFDA の汎化能力，つまり将来のデータの判別能力が優れていることが結論づけられる．
5.2 音声認識
本節では音声認識データ（Hastie et al.（1994））の分析を通して，提案する手法を様々な手法と比較し，その実用性を検証する．音声認識データは，11 個の英語の母音（表 2）に関する特徴を表す 10 次元の変数から構成される 11 群判別データで，15 人の被験者（男性 8 人，女性 7 人）
が表 2 にある 11 単語を発音して得られた 990 個のデータから構成されている．解析に際しては，Hastie らと同様に，8 人（男女各 4 人）から得られた 528 個のデータをモデルの推定に用い，残り（男性 4 人，女性 3 人）の 462 個のデータを予測データとして用いた．
モデル選択に際しては，本稿で提案した GIC（4.2）
式，BIC（4.5）
式，または取り上げた AICM
（4.3）式，BICM（4.6）式の 4 規準を用い，この規準の比較もおこなった．表 3 は，Hastie et al.
（1994）
らが提案したスプライン加法モデルに基づく FDA など，これまでに提唱された様々な判
別手法による結果と，KFDA による予測結果との比較をまとめたものである．表から，KFDAと BIC の組み合わせが最も小さい予測誤差 40%を与えており，線形判別法などの他の手法と比較しても予測誤差の意味で高い汎化能力を示しており，将来の観測データに対する判別能力

Kernel Flexible Discriminant Analysis による高次非線形データの判別とその応用(a) GICと予測誤差(b) AICM と予測誤差(c) BICと予測誤差(d) BICM と予測誤差

図 4.

401

各モデル評価規準の値（横軸）と予測誤差（縦軸）の関係．

が優れていることがわかる．
実際の音声認識問題に適用するときには音声識別率の向上が望まれるが，学習データ数が少ないことに加え，ここでの学習・予測データはそれぞれ違う人の発音が用いられているので，学習データの人数と数を増やすことでモデルの識別率をさらに改善できると考えられる．
5.3 文字認識
本節では，文字認識データ（ZIP Code Data（Le Cun et al.（1990）））の解析を通じて，KFDA の有効性を検証する．識別対象は数字の 0 ∼ 9 であり，図 5 はデータベースの一部を図示したものである．それぞれの画像サイズは 16 × 16 ピクセルのグレイスケールデータで，256 (= 16 × 16)
次元特徴変数を用いた 10 群識別問題を考えることになる．解析に際しては，1000 個の学習

402

統計数理
表 1.

第 51 巻

第 2 号 2003

学習・予測誤差（％）の比較（10 回の平均値）．ただし，KFDA 以外の結果は Hastie etal.（2001）から引用した.

表 2. 発音する単語から得られる母音.

表 3.

様々な判別手法との比較（％）．ただし，KFDA 以外の結果は Hastie et al.（2001）から引用した.

データを用いてモデルのパラメータを推定し，1500 個の予測データで予測誤差を推定する．線
形判別をおこなった結果，学習誤差，予測誤差はそれぞれ 1.8%, 10.4% となり，高次元データの解析ゆえに，2 次判別においては，分散共分散行列を対角行列と制限（Dudoit et al.（2002））
しても，分散共分散行列が退化してしまい実行できなかった．しかし，KFDA は推定の安定性

Kernel Flexible Discriminant Analysis による高次非線形データの判別とその応用

図 5.

表 4.

403

サンプルデータ．

様々な判別手法との比較（％）．ただし，NA はモデル推定ができなかったことを示す.

を考慮しているので，2 次判別関数よりも柔軟な構造を備えているにもかかわらず，非線形判
別関数の構築が可能となり，KFDA の頑健性が有効に機能していることが認識される．
KFDA のモデリングにおいて本質的な非線形変換の次元 s，平滑化パラメータ λ，形状パラメータ  の選択には，GIC，BIC, AICM , BICM の 4 規準を利用した．表 4 は様々な手法との比較である．ただし，Multilayer perceptron（Ripley（1996））
はソフトマックス変換と正則化法（正則化項には Weight decay を用いた）を組み合わせ，正則化対数尤度の最大化により推定されている．ここでは，中間層の素子数 m と正則化パラメータ λ の組み合わせ (m, λ) を 6 組用
意して解析をおこなった．この表から，本稿で提案する判別方法は極めて有効な手法であることがわかる．
6.

おわりに

本稿では Fisher の線形判別手法の非線形への拡張問題について検討し，新しい非線形多群判
別手法 “Kernel Flexible Discriminant Analysis” を提案し，その数理的構造をカーネルトリックを利用して明確にした．さらに，尤度概念と巧みに結びつけ，モデルの評価規準を情報量，及

404

統計数理

第 51 巻

第 2 号 2003

びベイズ理論の観点から提案した．
Hastie et al.（1994）
が提案した，スプライン加法モデルに基づく FDA は，Fisher の線形判別手法の非線形化へのブレイクスルーであったが，十分な数のデータが観測・測定できない場合
や，極めて高次元のデータの分析を必要とする場合，たとえ十分大きい平滑化パラメータを用いたとしても，モデルの自由度が標本数を上回り，統計的問題が生じるとともに，計算機の上でも困難に遭遇する場合があった．Hastie et al.（1994）は，計算量を考慮した GCV をモデル選択に利用しているが，提案されている GCV には未知の量が含まれ，GCV 規準そのものを最初に最適化する必要があった．
そこで，カーネル関数を利用した KFDA を提案し，尤度概念を与えることで，統計的モデ
ル選択問題を情報量・及びベイズ理論の観点から考察した．これによって，モデルの推定と評価を融合した非線形モデリング手法を構成することができた．KFDA は，モデルの汎化能力を表す予測誤差が，Hastie et al.（1994）が提案した FDA を含む従来の様々な判別手法と比較して小さく，将来のデータの判別能力が極めて優れていることが結論づけられた．
今後，アレイデータの解析（Dudoit et al.（2002）），リモートセンシングデータの分析，債券格
付けや倒産などの信用リスク計測などに応用し，その有用性を検証することを研究課題とする．
謝辞

査読者の方々には，大変貴重なご指摘をいただきました．ここに記して厚く御礼申し上げます．

参 考 文 献Akaike, H.（1974）. A new look at the statistical model identiﬁcation, IEEE Trans. Automat. Control,
AC-19, 716–723.
Andersen, T. W.（1984）. An Introduction to Multivariate Statistical Analysis, 2nd ed., Wiley, NewYork.

安道知寛，井元清哉，小西貞則（2001）. 動径基底関数ネットワークに基づく非線形回帰モデルとその推定，応用統計学，30 (1), 19–35.
安道知寛，島内順一郎，小西貞則（2002）. 動径基底関数ネットワークモデルに基づく非線形判別とその応用，応用統計学，31 (2), 123–139.
Ando, T., Konishi, S. and Imoto, S.（2002）. Nonlinear regression modeling via regularized radial basis
function networks, Research Memo., No. 845, The Institute of Statistical Mathematics, Tokyo.
Buja, A., Hastie, T. and Tibshirani, R. J.（1989）. Linear smoothers and additive models（with dis, Ann. Statist., 17, 453–555.
cussion）
Dudoit, S., Fridlyand, J. and Speed, T. P.（2002）. Comparison of discrimination methods for theclassiﬁcation of tumors using gene expression data, J. Amer. Statist. Assoc., 97, 77–87.
Efron, B. and Tibshirani, R.（1993）. An Introduction to Bootstrap, Chapman & Hall, London.
Hastie, T. and Tibshirani, R.（1990）. Generalized Additive Models, Chapman & Hall, London.
Hastie, T., Tibshirani, R. and Buja, A.（1994）. Flexible discriminant analysis by optimal scoring, J.
Amer. Statist. Assoc., 89, 1255–1270.
Hastie, T., Buja, A. and Tibshirani, R.（1995）. Penalized discriminant analysis, Ann. Statist., 23,
73–102.
. The Elements of Statistical Learning, Springer,
Hastie, T., Tibshirani, R. and Friedman, J.（2001）
New York.

Kernel Flexible Discriminant Analysis による高次非線形データの判別とその応用

405

石井健一郎，上田修功，前田栄作，村瀬洋（1998）. 『わかりやすいパターン認識』，オーム社，東京．
Konishi, S.（1999）. Statistical model evaluation and information criteria, Multivariate Analysis, Design of Experiments, and Survey Sampling（ed. S. Ghosh），369–399, Marcel Dekker, NewYork.
小西貞則（2000）. 統計的モデリングと情報量規準構成の理論 汎関数に基づくアプローチ ，数学，
52, 128–141.
. Generalised information criteria in model selection, Biometrika,
Konishi, S. and Kitagawa, G.（1996）
83, 875–890.
Konishi, S., Ando, T. and Imoto, S.（2004）. Bayesian information criteria and smoothing parameterselection in radial basis function networks, Biometrika, 91 (in press).
. On information and suﬃciency, Ann. Math. Statist., 22,
Kullback, S. and Leibler, R. A.（1951）
79–86.
Le Cun, Y., Boser, B., Denker, J. S., Henderson, D., Howard, R., Hubbard, W. and Jackel, L.
（1990）. Handwritten digit recognition with a back-propagation network, Advances in Neural Information Processing System, Vol. 2（ed. D. Touretzky），Morgan Kaufman, Denver,
Colorado.
Mardia, K., Kent, J. and Bibby, J.（1979）. Multivariate Analysis, Academic Press, New York.
. Neural networks and related methods for classiﬁcation, J. Roy. Statist. Soc.
Ripley, B. D.（1994）
Ser. B., 56, 409–456.
Ripley, B. D.（1996）. Pattern Recognition and Neural Networks, Cambridge University Press, NewYork.
. Nonlinear discriminant analysis using kernel functions, Tech.
Roth, V. and Steinhage, V.（1999）
Report, IAI-TR-99-7, University Bonn.
Schölkopf, B., Smola, A. and Muller, K. R.（1998）. Nonlinear component analysis as a kernel eigenvalue problem, Neural Computation, 10, 1299–1319.
. Estimating the dimension of a model, Ann. Statist., 6, 461–464.
Schwarz, G.（1978）
Stone, C. J.（1974）. Cross-validatory choise and assessment of statistical predictions（with discussion）, J. Roy. Statist. Soc. Ser. B, 36, 111–147.
. Statistical Learning Theory, Wiley, New York.
Vapnik, V. N.（1998）
Wahba, G.（1990）. Spline Functions for Observational Data, CBMS-NSF Regional Conference Series,
SIAM, Philadelphia, Pennsylvania.
柳井晴夫，高根芳雄（1985）. 『新版多変量解析法』，朝倉書店，東京．

406

Proceedings of the Institute of Statistical Mathematics Vol. 51, No. 2, 389–406 (2003)

Kernel Flexible Discriminant Analysis for Classifying
High-dimensional Data with Nonlinear Structure and Its Applications
Tomohiro Ando
(Graduate School of Mathematics, Kyushu University)

Discriminant analysis aims at the classification of an object into one of given classes
based on information from a set of characteristics. Among the many available methods,
Fisher linear discriminant analysis, the most popular approach, has so far contributed
to development of science and a social system. With the advent of powerful computers
and the information age, however, the issue of discriminant analysis has exploded bothin sample size and data complexity. Researchers have since begun to tackle nonlinear
discriminant analysis problems in a more realistic fashion.
It is well known that Fisher’s linear discriminant analysis is equivalent to multiresponse linear regression using optimal scoring. We propose nonlinear versions of Fisher’s
discriminant analysis, “Kernel Flexible Discriminant Analysis (KFDA)”, by replacing thelinear regression function with a nonlinear kernel function.
Observing that the least square approach tends to yield poor results, we use a smoothing approach in consideration of the predictive performance of the discriminant function. To determine the “best model” among the candidates, we investigate the likelihoodof KFDA models and propose model selection criteria from information-theoretic andBayesian points of view. Real data analysis and Monte Carlo experiments indicate thatthe proposed KFDA approach performs well in practical situations.

Key words: Fisher’s linear discriminant analysis, kernel method, optimal scaling, smoothing, model
selection.