(57)【要約】      （修正有）【課題】ベクトルを複数のクラスのいずれかに適切に分類する分類装置等を提供する。【解決手段】分類装置１０１において、サンプル受付部１０２が各クラスj = 1，2，…，Nについて受け付けたサンプルベクトルxj,1，xj,2，…xj,L[j]に対する相関行列Rj = (1/L[j])Σi=1L[j] xj,ixj,i†を相関計算部１０３が計算し、解行列計算部１０４が所定の正則化パラメータμにより解行列Bj = Rj(Rj + μI)-1を計算し、対象受付部１０５が受け付けた分類対象ベクトルxの当該j番目のクラスに対する類似度fj(x) = -|x - Bjx|2を類似度計算部１０６が計算して、分類部１０７は、類似度f1(x)，f2(x)，…，fN(x)の最大値fk(x)を求め、分類対象ベクトルxをクラスkに分類する。【選択図】図１
2009032046.tif 000002
【特許請求の範囲】
【請求項１】
d次元のベクトルを複数のクラス1，2，…，Nのいずれかに分類する分類装置であって、
整数j = 1，2，…，Nのそれぞれについて、当該j番目のクラスに属するL[j]個のd次元のサンプルベクトルxj,1，xj,2，…，xj,L[j]の入力を受け付けるサンプル受付部、
整数j = 1，2，…，Nのそれぞれについて、当該j番目のクラスのd×d次元の相関行列
Rj = (1/L[j])Σi=1L[j] xj,ixj,i†
を計算する相関計算部、
整数j = 1，2，…，Nのそれぞれについて、所定の正則化パラメータμ (μ>0)と単位行列Iを用いて、d×d次元の解行列
Bj = Rj(Rj + μI)-1
を計算する解行列計算部、
d次元の分類対象ベクトルxの入力を受け付ける対象受付部、
整数j = 1，2，…，Nのそれぞれについて、当該j番目のクラスに対する当該分類対象ベクトルxの類似度
fj(x) = -|x - Bjx|2
を計算する類似度計算部、
前記計算された類似度f1(x)，f2(x)，…，fN(x)の最大値fk(x)を求め、当該分類対象ベクトルxをクラスkに分類する旨を出力する分類部
を備えることを特徴とする分類装置。
【請求項２】
請求項１に記載の分類装置において、
前記解行列計算部は、解行列として
Bj = Rj(Rj + μI)-1
を計算するのにかえて、相関行列Rjを固有値分解
Rj = Σi=1d λj,iuj,iuj,i†
により、固有値λj,1，λj,2，…，λj,d (λj,1≧λj,2≧…≧λj,d≧0)、および、その固有ベクトルuj,1，uj,2，…，uj,dを計算し、所定の整数パラメータr (0<r<d)を用いて、当該解行列として、
Bj = Σi=1r λj,i/(λj,i + μ)uj,iuj,i†
と計算する
ことを特徴とする分類装置。
【請求項３】
請求項１または２に記載の分類装置であって、
前記類似度計算部は、当該j番目のクラスに対する当該ベクトルxの類似度として、
fj(x) = -|x - Bjx|2
にかえて、
fj(x) = |Bjx|2
と計算する
ことを特徴とする分類装置。
【請求項４】
d次元のベクトルを複数のクラス1，2，…，Nのいずれかに分類する分類方法であって、サンプル受付部、相関計算部、解行列計算部、対象受付部、類似度計算部、分類部を有する分類装置にて実行され、
前記サンプル受付部が、整数j = 1，2，…，Nのそれぞれについて、当該j番目のクラスに属するL[j]個のd次元のサンプルベクトルxj,1，xj,2，…，xj,L[j]の入力を受け付けるサンプル受付工程、
前記相関計算部が、整数j = 1，2，…，Nのそれぞれについて、当該j番目のクラスのd×d次元の相関行列
Rj = (1/L[j])Σi=1L[j] xj,ixj,i†
を計算する相関計算工程、
前記解行列計算部が、整数j = 1，2，…，Nのそれぞれについて、所定の正則化パラメータμ (μ>0)と単位行列Iを用いて、d×d次元の解行列
Bj = Rj(Rj + μI)-1
を計算する解行列計算工程、
前記対象受付部が、d次元の分類対象ベクトルxの入力を受け付ける対象受付工程、
前記類似度計算部が、整数j = 1，2，…，Nのそれぞれについて、当該j番目のクラスに対する当該分類対象ベクトルxの類似度
fj(x) = -|x - Bjx|2
を計算する類似度計算工程、
前記分類部が、前記計算された類似度f1(x)，f2(x)，…，fN(x)の最大値fk(x)を求め、当該分類対象ベクトルxをクラスkに分類する旨を出力する分類工程
を備えることを特徴とする分類方法。
【請求項５】
請求項４に記載の分類方法において、
前記解行列計算工程では、解行列として
Bj = Rj(Rj + μI)-1
を計算するのにかえて、相関行列Rjを固有値分解
Rj = Σi=1d λj,iuj,iuj,i†
により、固有値λj,1，λj,2，…，λj,d (λj,1≧λj,2≧…≧λj,d≧0)、および、その固有ベクトルuj,1，uj,2，…，uj,dを計算し、所定の整数パラメータr (0<r<d)を用いて、当該解行列として、
Bj = Σi=1r λj,i/(λj,i + μ)uj,iuj,i†
と計算する
ことを特徴とする分類方法。
【請求項６】
請求項４または５に記載の分類方法であって、
前記類似度計算工程では、当該j番目のクラスに対する当該ベクトルxの類似度として、
fj(x) = -|x - Bjx|2
にかえて、
fj(x) = |Bjx|2
と計算する
ことを特徴とする分類方法。
【請求項７】
コンピュータを、請求項１から３のいずれか１項に記載の分類装置の各部として機能させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ベクトルを複数のクラスのいずれかに適切に分類するのに好適な分類装置、分類方法、ならびに、これをコンピュータにて実現するプログラムに関する。
【背景技術】
【０００２】
従来から、d次元のベクトルxの入力を受け付けて、当該ベクトルxが複数のクラス（グループ）1，2，…，Nのいずれに属するかを分類する識別器の技術が提案されている。すなわち、これらは、ベクトルxに対して、クラスj  (j = 1，2，…，N)のそれぞれについて、類似関数fj(x)の値を計算し、これが最大値fk(x)となるクラスkに、当該ベクトルxを分類する技術である。
【０００３】
クラスjの類似関数fj(x)は、クラスjに属することがあらかじめわかっているサンプルのベクトルxj,1，xj,2，…，xj,L[j]により定められるが、この定め方には、部分空間法や擬似Ｂａｙｅｓ法等の技術が提案されている。
【０００４】
一方で、行列が安定でない場合に逆行列を、正則パラメータを用いて求める正則化逆行列の技術も提案されている。
【０００５】
これらの技術については、下記の文献に開示されている。
【非特許文献１】S.Watanabe and N.Pakvasa，Subspace method of pattern recognition，Proc.1st Int.J.Conf on Pattern Recognition，Washington DC，２５頁〜３２頁，１９７３年
【非特許文献２】F.Kimura，K.Takashina，S.Tsuruoka and Y.Miyake，Modified quadratic discriminant functions and the application to Chinese character recognition，IEEE Transactions on Pattern Analysis and Machine Intelligence，volume 9，number 1，１４９頁〜１５３頁，１９８７年
【非特許文献３】A.N.Tikhonov and V.Y.Arsenin，Solution of Ill-posed problems，V.H.Winston and Sons，１９７７年
【非特許文献４】D.L.Phillips，A technique for the numerical solution of  certain integral equations the first kind，Journal of the Association for Computing Machinery，volume 9，８４頁〜９７頁，１９６２年
【非特許文献５】石井健一郎・上田修功・前田英作・村瀬洋，わかりやすいパターン認識，オーム社，６８頁〜７１頁，１９９８年８月
【０００６】
ここで、[非特許文献１][非特許文献２]では部分空間法および擬似Ｂａｙｅｓ法が開示され、[非特許文献３][非特許文献４]では正則パラメータを用いた正則化逆行列が開示されている。
【０００７】
また、[非特許文献５]では、各種の分類法におけるハイパーパラメータを定める手法が開示されている。
【０００８】
ここで、部分空間法においては、類似関数の計算において行列のランクを制限する制約を加えるが、調整パラメータが自然数に限られる。特に入力の次元が低い場合は、性能はパラメータ値に敏感に反応するため、自然数パラメータでは、細かいチューニングができない局面が生じる。
【０００９】
また、擬似Ｂａｙｅｓ法は、閾値以下の固有値を固定とするため、固有値の大きさに応じた特徴抽出ができない。
【発明の開示】
【発明が解決しようとする課題】
【００１０】
したがって、識別器の技術について適切な考察を加えることにより、適切な分類を可能にするとともに、計算負荷を抑制しながら分類ができる技術が強く求められている。この際に、線形逆問題の分野で広く使われている正則化一般逆行列の技術を応用することが考えられる。
【００１１】
本発明は、以上のような課題を解決するためのもので、ベクトルを複数のクラスのいずれかに適切に分類するのに好適な分類装置、分類方法、ならびに、これをコンピュータにて実現するプログラムを提供することを目的とする。
【課題を解決するための手段】
【００１２】
本発明の第１の観点に係る分類装置は、d次元のベクトルを複数のクラス1，2，…，Nのいずれかに分類し、サンプル受付部、相関計算部、解行列計算部、対象受付部、類似度計算部、分類部を備え、以下のように構成する。
【００１３】
すなわち、サンプル受付部は、整数j = 1，2，…，Nのそれぞれについて、当該j番目のクラスに属するL[j]個のd次元のサンプルベクトルxj,1，xj,2，…，xj,L[j]の入力を受け付ける。
【００１４】
一方、相関計算部は、整数j = 1，2，…，Nのそれぞれについて、当該j番目のクラスのd×d次元の相関行列
Rj = (1/L[j])Σi=1L[j] xj,ixj,i†
を計算する。
【００１５】
さらに、解行列計算部は、整数j = 1，2，…，Nのそれぞれについて、所定の正則化パラメータμ (μ>0)と単位行列Iを用いて、d×d次元の解行列
Bj = Rj(Rj + μI)-1
を計算する。
【００１６】
そして、対象受付部は、d次元の分類対象ベクトルxの入力を受け付ける。
【００１７】
一方、類似度計算部は、整数j = 1，2，…，Nのそれぞれについて、当該j番目のクラスに対する当該分類対象ベクトルxの類似度
fj(x) = -|x - Bjx|2
を計算する。
【００１８】
さらに、分類部は、計算された類似度f1(x)，f2(x)，…，fN(x)の最大値fk(x)を求め、当該分類対象ベクトルxをクラスkに分類する旨を出力する。
【００１９】
また、本発明の分類装置において、解行列計算部は、解行列として
Bj = Rj(Rj + μI)-1
を計算するのにかえて、相関行列Rjを固有値分解
Rj = Σi=1d λj,iuj,iuj,i†
により、固有値λj,1，λj,2，…，λj,d (λj,1≧λj,2≧…≧λj,d≧0)、および、その固有ベクトルuj,1，uj,2，…，uj,dを計算し、所定の整数パラメータr (0<r<d)を用いて、当該解行列として、
Bj = Σi=1r λj,i/(λj,i + μ)uj,iuj,i†
と計算するように構成することができる。
【００２０】
また、本発明の分類装置において、類似度計算部は、当該j番目のクラスに対する当該ベクトルxの類似度として、
fj(x) = -|x - Bjx|2
にかえて、
fj(x) = |Bjx|2
と計算するように構成することができる。
【００２１】
本発明のその他の観点に係る分類方法は、d次元のベクトルを複数のクラス1，2，…，Nのいずれかに分類し、サンプル受付部、相関計算部、解行列計算部、対象受付部、類似度計算部、分類部を有する分類装置にて実行され、サンプル受付工程、相関計算工程、解行列計算工程、対象受付工程、類似度計算工程、分類工程を備え、以下のように構成する。
【００２２】
すなわち、サンプル受付工程では、サンプル受付部が、整数j = 1，2，…，Nのそれぞれについて、当該j番目のクラスに属するL[j]個のd次元のサンプルベクトルxj,1，xj,2，…，xj,L[j]の入力を受け付ける。
【００２３】
一方、相関計算工程では、相関計算部が、整数j = 1，2，…，Nのそれぞれについて、当該j番目のクラスのd×d次元の相関行列
Rj = (1/L[j])Σi=1L[j] xj,ixj,i†
を計算する。
【００２４】
さらに、解行列計算工程では、解行列計算部が、整数j = 1，2，…，Nのそれぞれについて、所定の正則化パラメータμ (μ>0)と単位行列Iを用いて、d×d次元の解行列
Bj = Rj(Rj + μI)-1
を計算する。
【００２５】
そして、対象受付工程では、対象受付部が、d次元の分類対象ベクトルxの入力を受け付ける。
【００２６】
一方、類似度計算工程では、類似度計算部が、整数j = 1，2，…，Nのそれぞれについて、当該j番目のクラスに対する当該分類対象ベクトルxの類似度
fj(x) = -|x - Bjx|2
を計算する。
【００２７】
さらに、分類工程では、分類部が、計算された類似度f1(x)，f2(x)，…，fN(x)の最大値fk(x)を求め、当該分類対象ベクトルxをクラスkに分類する旨を出力する。
【００２８】
また、本発明の分類方法において、解行列計算工程では、解行列として
Bj = Rj(Rj + μI)-1
を計算するのにかえて、相関行列Rjを固有値分解
Rj = Σi=1d λj,iuj,iuj,i†
により、固有値λj,1，λj,2，…，λj,d (λj,1≧λj,2≧…≧λj,d≧0)、および、その固有ベクトルuj,1，uj,2，…，uj,dを計算し、所定の整数パラメータr (0<r<d)を用いて、当該解行列として、
Bj = Σi=1r λj,i/(λj,i + μ)uj,iuj,i†
と計算するように構成することができる。
【００２９】
また、本発明の分類方法において、類似度計算工程では、当該j番目のクラスに対する当該ベクトルxの類似度として、
fj(x) = -|x - Bjx|2
にかえて、
fj(x) = |Bjx|2
と計算するように構成することができる。
【００３０】
本発明のその他の観点に係るプログラムは、コンピュータを上記の信号処理装置の各部として機能させるように構成する。
【００３１】
また、本発明のプログラムは、コンパクトディスク、フレキシブルディスク、ハードディスク、光磁気ディスク、ディジタルビデオディスク、磁気テープ、半導体メモリ等のコンピュータ読取可能な情報記憶媒体に記録することができる。
【００３２】
上記プログラムは、プログラムが実行されるコンピュータやディジタル信号プロセッサとは独立して、コンピュータ通信網を介して配布・販売することができる。また、上記情報記憶媒体は、コンピュータやディジタル信号プロセッサとは独立して配布・販売することができる。
【発明の効果】
【００３３】
本発明によれば、ベクトルを複数のクラスのいずれかに適切に分類するのに好適な分類装置、分類方法、ならびに、これをコンピュータにて実現するプログラムを提供することができる。
【発明を実施するための最良の形態】
【００３４】
以下に本発明の実施形態を説明する。なお、以下に説明する実施形態は説明のためのものであり、本発明の範囲を制限するものではない。したがって、当業者であればこれらの各要素もしくは全要素をこれと均等なものに置換した実施形態を採用することが可能であるが、これらの実施形態も本発明の範囲に含まれる。
【００３５】
また、以下の説明では、一般的なコンピュータ（ＣＰＵ（Central Processing Unit）の制御下で、ＲＡＭ（Random Access Memory）を一時記憶とし、ハードディスクを不揮発記憶とし、入出力ポートで外部機器とのやりとりを行うのが典型的である。）等の情報処理装置にてプログラムを動作させることで分類装置を実現する典型例を説明するが、ＤＳＰ（Digital Signal Processor）、ＦＰＧＡ（Field Programmable Gate Array）、ＡＳＩＣ（Application Specific Integrated Circuit）、その他の電子回路によって実現することも可能である。
【実施例１】
【００３６】
図１は、本発明の実施形態の一つに係る分類装置の概要構成を示す模式図である。以下、本図を参照して説明する。
【００３７】
分類装置１０１は、サンプル受付部１０２、相関計算部１０３、解行列計算部１０４、対象受付部１０５、類似度計算部１０６、分類部１０７を備える。
【００３８】
ここで、サンプル受付部１０２、相関計算部１０３、解行列計算部１０４は、サンプルベクトルを用いて識別器を構成するための要素であり、対象受付部１０５、類似度計算部１０６、分類部１０７は、構成された識別器を分類対象ベクトルに対して利用するための要素である、と考えることができる。
【００３９】
したがって、d次元のベクトルを複数のクラス1，2，…，Nのいずれかに分類するにあたっては、あらかじめ、どこクラスに分類されるかが確定しているサンプルベクトルを用意しておき、これによって「学習」に相当する事前処理を実行する必要がある。
【００４０】
サンプルベクトルや分類対象ベクトルとしては、としては、現実の物理対象を観測した結果、もしくは、その特徴量を抽出した結果を適用するのが典型的である。また、サンプルベクトルは、典型的には人手で、どのクラスに属するのかをあらかじめ分類しておく。
【００４１】
図２は、このような事前処理の制御の流れを示すフローチャートである。以下、本図を参照して説明する。
【００４２】
まず、サンプル受付部１０２は、整数j = 1，2，…，Nのそれぞれについて、当該j番目のクラスに属するL[j]個のd次元のサンプルベクトルxj,1，xj,2，…，xj,L[j]の入力を受け付ける（ステップＳ２０１）。
【００４３】
各クラスに割り振られるサンプルベクトルの個数は、等しくする（L[1] = L[2] = … = L[j]）のが一般的であるが、必ずしもこれに限られない。
【００４４】
たとえば、ＣＰＵの制御下、ハードディスクに記憶されていたサンプルベクトルのデータをＲＡＭに読み込む処理を行うことで、サンプル受付部１０２が実現される。
【００４５】
ついで、相関計算部１０３は、整数j = 1，2，…，Nのそれぞれについて、当該j番目のクラスのd×d次元の相関行列
Rj = (1/L[j])Σi=1L[j] xj,ixj,i†
を計算する（ステップＳ２０２）。ここで、（・）†は、行列の†を表す。
【００４６】
相関行列Rjは、ＣＰＵの演算機能を用いて求められ、ＲＡＭやハードディスクなどに記憶される。
【００４７】
さらに、解行列計算部１０４は、整数j = 1，2，…，Nのそれぞれについて、所定の正則化パラメータμ (μ>0)と単位行列Iを用いて、d×d次元の解行列
Bj = Rj(Rj + μI)-1
を計算して（ステップＳ２０３）、本処理を終了する。ここで、Iは、単位行列を表す。
【００４８】
適切な正則化パラメータμの選択手法については後述するように、実験によって定める。もちろん、(Rj + μI)の逆行列が求まるような値とする必要がある。
【００４９】
解行列Bjも、ＣＰＵの演算機能を用いて求められ、ＲＡＭやハードディスクなどに記憶される。
【００５０】
なお、このほかのBjの求め方としては、正則化パラメータμの他、正整数パラメータrを用いて、
（１）まず、相関行列Rjを固有値分解
Rj = Σi=1d λj,iuj,iuj,i†
し、
（２）次に、固有値λj,1，λj,2，…，λj,d (λj,1≧λj,2≧…≧λj,d≧0)、および、その固有ベクトルuj,1，uj,2，…，uj,dを計算し、
（３）最後に、当該解行列として、
Bj = Σi=1r λj,i/(λj,i + μ)uj,iuj,i†
と計算する
手法を採用することもできる。固有値および固有ベクトルの計算手法は、各種の公知技術を採用することができる。また、整数パラメータrは、従来技術におけるランクに相当するものであり、その適切な値は、[非特許文献５]に開示される技術等を用いることによって定めることができる。
【００５１】
図３は、一旦解行列が求められた後に、属するクラスがわからないベクトルをいずれかのクラスに分類する分類処理の制御の流れを示すフローチャートである。以下、本図を参照して説明する。
【００５２】
まず、対象受付部１０５は、分類すべきd次元の分類対象ベクトルxの入力を受け付ける（ステップＳ３０１）。
【００５３】
たとえば、ＣＰＵの制御下、ハードディスクに記憶されていた分類対象ベクトルのデータをＲＡＭに読み込む処理を行うことで、対象受付部１０５が実現される。
【００５４】
ついで、類似度計算部１０６は、整数j = 1，2，…，Nのそれぞれについて、当該j番目のクラスに対する当該分類対象ベクトルxの類似度
fj(x) = -|x - Bjx|2
を計算する（ステップＳ３０２）。ここで、|・|は、ベクトルのノルムを求める演算を意味する。
【００５５】
なお、当該ベクトルxの類似度として、
fj(x) = |Bjx|2
を採用することとしても良い。これらの計算は、いずれも、行列やベクトルの四則演算に類するものであり、公知の技術によって、ＣＰＵやＲＡＭを用いて計算することができる。
【００５６】
さらに、分類部１０７は、計算された類似度f1(x)，f2(x)，…，fN(x)の中から、最大値fk(x)を求める（ステップＳ３０３）。すなわち、fの添字1，2，…，Nを走査して、値が最大となる添字kを探すのである。
【００５７】
そして、kが見つかったら、当該分類対象ベクトルxをクラスkに分類する旨を出力して（ステップＳ３０４）、本処理を終了する。
【００５８】
解行列のランクを制限する従来の手法では、識別に利用できる情報を無視してしまうという問題点があったが、本発明の手法では、固有値が小さいものについても識別に利用することができ、識別性能を向上させることができる。
【００５９】
さて、以下では、上記の分類装置１０１を動作させながら、最適な正則化パラメータμを探す具体的な手法の一例について説明する。
（１）まず、分類されるべきクラスがあらかじめ割り当てられている学習用サンプルとテスト用サンプルを用意する。
（２）そして、正則化パラメータを３つ初期値として選び、それぞれについて、学習用サンプルからランダムに何個かを選択してサンプル受付部１０２に与え、識別器を構成してから、テスト用サンプルを対象受付部１０５に与えて、誤認識率を求める。
（３）そして、３つの正則化パラメータをx座標、誤認識率をy座標とする３点を通過する２次関数を求める。
（４）この２次関数は、下に凸の放物線となるので、その頂点（最小値となる底点）を探す。
（５）ついで、その頂点のx座標を正則化パラメータとして、上記の試行を行い、誤認識を求める。
（６）そして、当初の３点および新たに求めた１点から、誤認識率が最も大きい点を取り除き、残った３点について、２次関数を求める。
（７）３点のx座標が所定の誤差範囲内に収束するまで、もしくは、適当な回数処理を行うまで、（４）に戻って処理を繰り返す。
【００６０】
この処理によって得られるx座標の収束値により、正則化パラメータμを同定するのである。このほか、最急降下法に類する技術や、[非特許文献５]に開示されるハイパーパラメータの決定手法により、正則化パラメータμ（やランクr）を決定しても良い。
【００６１】
このように、本発明は、パラメータが連続していて細かい調整が可能であるという点で、従来の手法より優れている。従来の手法では、ランクが調整用のパラメータとなっており、所定の整数値からいずれかを選択するしかできかなったからである。
【００６２】
これらの処理は、いずれも数値計算に相当するものと考えることができるため、プログラムをコンピュータで動作させて、ＲＡＭにはベクトルや行列の情報（外部から与えられるもの、および、計算の途中結果を含む。）を記憶して、ＣＰＵの演算機能を用いて各種演算を行うことで、各部の機能を果たすように構成することができる。
【００６３】
以下では、本願手法と従来手法を比較した実験の結果について説明する。
【００６４】
（実験結果）
手書き文字認識と顔画像の公開データベースを用いて従来手法であるＣＬＡＦＩＣ法と本願に係る手法であるＲＱＣ法の比較を行った。
【００６５】
手書き文字認識実験では、あらかじめ用意された２８×２８ピクセルの手書き数字（したがって、クラスの数は１０になる。）の学習用サンプル６万個から、５９,０００個のサンプルをランダムに取り出してこれを本分類装置１０１のサンプル受付部１０２に与えて識別器を構成し、残り１０００個のサンプルを対象受付部１０５に与えて、分類が正しく行われたか検定を行った。これを１００回繰り返した。
【００６６】
すなわち、サンプルベクトルおよび分類対象ベクトルが、物理対象である「手書き文字」をスキャンした結果に相当する。２８×２８ピクセルであるから７８４次元のベクトルを処理対象とすることになる。
【００６７】
図４、図５は、手書き文字認識実験における検定結果の平均値と標準偏差を示すグラフである。以下、本図を参照して説明する。
【００６８】
２つのグラフはいずれも縦軸が誤認識率（３％〜１０％）であり、横軸は、図４に示すＣＬＡＦＩＣ法についてはランク（整数値０〜１００）、図５に示すＲＱＣ法については正則化パラメータλ（実数値０〜０.０２）である。
【００６９】
誤認識率の最小値は、ＣＬＡＦＩＣ法は４.４８±０.１７％、ＲＱＣ法は４.００±０.１８％であり、本願手法の用が良い結果を示しており、Student-Gossetの片側t-testで１％以下の優位性が示された。
【００７０】
さらに、別途用意されたテスト用サンプル１万個を用いて分類実験を行うと、誤認識率は、ＣＬＡＦＩＣ法は４.０８％、ＲＱＣ法は３.７６％で、これも本願の手法が良い結果となった。
【００７１】
次に、顔画像の分類実験についてであるが、１５人の顔画像を各１１枚用意し、１６５枚の全画像について前処理および特徴抽出を行って、６次元データにＫＬ変換して、ノルムを正規化した。
【００７２】
この後、１５人のそれぞれのついて、各１０サンプルをランダムに選択して、本分類装置１０１のサンプル受付部１０２に与えて識別器を構成し、残りの各５サンプルを分類する、という試行を１００回繰り返した。クラスが１５個あるから、無作為に分類したときの誤認識率は９３.３％である。
【００７３】
図６、図７は、顔画像識別実験における検定結果の平均値と標準偏差を示すグラフである。以下、本図を参照して説明する。
【００７４】
２つのグラフはいずれも縦軸が誤認識率（Error Rate，７２％〜９８％）であり、横軸は、図６に示すＣＬＡＦＩＣ法についてはランク（Rank，整数値０〜６）、図７に示すＲＱＣ法については正則化パラメータμ（mu，実数値1×10-5〜１０の対数軸）である。
【００７５】
これについても、最適パラメータを選ぶことが可能であり、誤認識率は、ＣＬＡＦＩＣ法では９６.００±１.９２％、ＲＱＣ法では７８.０１±４.９２％であり、ＣＬＡＦＩＣ法は、無作為分類よりも性能が劣っているのに対して、本願の手法の性能がかなり高いことがわかった。
【産業上の利用可能性】
【００７６】
上記のように、本発明によれば、ベクトルを複数のクラスのいずれかに適切に分類するのに好適な分類装置、分類方法、ならびに、これをコンピュータにて実現するプログラムを提供することができる。
【図面の簡単な説明】
【００７７】
【図１】本実施形態に係る分類装置の概要構成を示す模式図である。
【図２】本実施形態に係る分類装置にて実行される事前処理の制御の流れを示すフローチャートである。
【図３】本実施形態に係る分類装置にて実行される分類処理の制御の流れを示すフローチャートである。
【図４】手書き文字認識実験における従来技術の検定結果の平均値と標準偏差を示すグラフである。
【図５】手書き文字認識実験における本実施形態の検定結果の平均値と標準偏差を示すグラフである。
【図６】顔画像識別実験における従来技術の検定結果の平均値と標準偏差を示すグラフである。
【図７】顔画像識別実験における本実施形態の検定結果の平均値と標準偏差を示すグラフである。
【符号の説明】
【００７８】
１０１  分類装置
１０２  サンプル受付部
１０３  相関計算部
１０４  解行列計算部
１０５  対象受付部
１０６  類似度計算部
１０７  分類部
【図１】
2009032046.tif 000003
【図２】
2009032046.tif 000004
【図３】
2009032046.tif 000005
【図４】
2009032046.tif 000006
【図５】
2009032046.tif 000007
【図６】
2009032046.tif 000008
【図７】
2009032046.tif 000009