"入力データをクラス分類するためのパターン抽出装置であって、学習時に入力された学習データ間の第1の類似度と、前記学習データおよび分類時に入力された新規データ間の第2の類似度とを計算する類似度計算手段と、学習時に入力された、同じクラスに属するデータの組について、元の空間で類似度の高いものはデータ変換後の距離が小さくなるように集約度を計算するクラス内集約度計算手段と、学習時に入力された、異なるクラスに属するデータの組について、元の空間で類似度の低いものはデータ変換後の距離が大きくなるように分離度を計算するクラス間分離度計算手段と、前記クラス内集約度計算手段により計算されたクラス内のデータ集約度およびクラス間分離度計算手段により計算されたクラス間のデータ分離度が大きくなる特徴空間への変換情報を計算する射影情報計算手段と、分類時に入力された新規データを、前記類似度計算手段によって計算された第2の類似度および射影情報計算手段によって計算された変換情報を用いて、クラス内のデータの集約度およびクラス間のデータの分離度が大きくなる特徴空間に変換するデータ変換手段と、前記射影情報計算手段によって計算された変換情報およびデータ変換手段によって変換された新規データを出力する結果出力手段と、を備えたことを特徴とするパターン抽出装置。学習データのラベルをy、抽出する特徴の次元数をk、類似度計算のパラメータをτ、クラス内集約度のパラメータをζ、クラス間分離度のパラメータをηとし、前記類似度計算手段は、学習時に入力された学習データXの類似度行列Ωを計算することで前記第1の類似度を求め、前記学習データXと分類時に入力された新規データZとの類似度行列Ωnewを計算することで前記第2の類似度を求め、前記クラス内集約度計算手段は、同一クラスに属するデータ間の類似度をとし、同一クラス内で密集したデータを重視するための項をとしたときのクラス内集約度行列LW=DW-SWを前記集約度として計算し、前記クラス間分離度計算手段は、異なるクラスに属するデータ間の非類似度をとし、クラス間で隔たりが大きいデータを重視するための項をとしたときのクラス間分離度行列LB=DB-SBを前記分離度として計算し、前記射影情報計算手段は、下記に示す固有値問題、すなわち、LMΩα=λα17を解くことによって、クラス内のデータの集約度およびクラス間のデータの分離度が大きくなる特徴空間に変換した学習データαjと、新規データをクラス内のデータの集約度およびクラス間のデータの分離度が大きくなる特徴空間に変換するためのパラメータbj但しj=1,...,kとを前記変換情報として計算し、前記データ変換手段は、を計算することによって、新規データをクラス内のデータの集約度およびクラス間のデータの分離度が大きくなる特徴空間Rkに変換することを特徴とする請求項1に記載のパターン抽出装置。入力データをクラス分類するためのパターン抽出方法であって、類似度計算手段が、学習時に入力された学習データ間の第1の類似度を計算する第1の類似度計算ステップと、クラス内集約度計算手段が、学習時に入力された、同じクラスに属するデータの組について、元の空間で類似度の高いものはデータ変換後の距離が小さくなるように集約度を計算するクラス内集約度計算ステップと、クラス間分離度計算手段が、学習時に入力された、異なるクラスに属するデータの組について、元の空間で類似度の低いものはデータ変換後の距離が大きくなるように分離度を計算するクラス間分離度計算ステップと、射影情報計算手段が、前記クラス内集約度計算手段により計算されたクラス内のデータ集約度およびクラス間分離度計算手段により計算されたクラス間のデータ分離度が大きくなる特徴空間への変換情報を計算する射影情報計算ステップと、結果出力手段が、前記射影情報計算手段によって計算された変換情報を出力する第1の結果出力ステップと、類似度計算手段が、前記学習データおよび分類時に入力された新規データ間の第2の類似度を計算する第2の類似度計算ステップと、データ変換手段が、分類時に入力された新規データを、前記類似度計算手段によって計算された第2の類似度および射影情報計算手段によって計算された変換情報を用いて、クラス内のデータの集約度およびクラス間のデータの分離度が大きくなる特徴空間に変換するデータ変換ステップと、結果出力手段が、前記データ変換手段によって変換されたデータを出力する第2の結果出力ステップと、を備えたことを特徴とするパターン抽出方法。学習データのラベルをy、抽出する特徴の次元数をk、類似度計算のパラメータをτ、クラス内集約度のパラメータをζ、クラス間分離度のパラメータをηとし、前記第1の類似度計算ステップは、学習時に入力された学習データXの類似度行列Ωを計算することで前記第1の類似度を求め、前記クラス内集約度計算ステップは、同一クラスに属するデータ間の類似度をとし、同一クラス内で密集したデータを重視するための項をとしたときのクラス内集約度行列LW=DW-SWを前記集約度として計算し、前記クラス間分離度計算ステップは、異なるクラスに属するデータ間の非類似度をとし、クラス間で隔たりが大きいデータを重視するための項をとしたときのクラス間分離度行列LB=DB-SBを前記分離度として計算し、前記射影情報計算ステップは、下記に示す固有値問題、すなわち、LMΩα=λα17を解くことによって、クラス内のデータの集約度およびクラス間のデータの分離度が大きくなる特徴空間に変換した学習データαjと、新規データをクラス内のデータの集約度およびクラス間のデータの分離度が大きくなる特徴空間に変換するためのパラメータbj但しj=1,...,kとを前記変換情報として計算し、前記第1の結果出力ステップは、前記射影情報計算手段によって計算された変換情報αj,bjを出力し、前記第2の類似度計算ステップは、前記学習データXと分類時に入力された新規データZとの類似度行列Ωnewを計算することで前記第2の類似度を求め、前記データ変換ステップは、を計算することによって、新規データをクラス内のデータの集約度およびクラス間のデータの分離度が大きくなる特徴空間Rkに変換し、前記第2の結果出力ステップは、前記データ変換手段によって変換された新規データを出力することを特徴とする請求項3に記載のパターン抽出方法。コンピュータを請求項1又は2に記載の各手段として機能させるパターン抽出プログラム。上述した線形判別分析では、1.各クラスの平均値を分離する特徴しか得られない2.クラス数-1の次元の特徴しか得られない3.各クラスがガウス分布を仮定しているため、多峰性のデータにフィットしないという問題があった。特に、図6のようなclass1,class2のデータが与えられると、class1,class2の平均値が等しくなるため、SBがゼロ行列となり、前記式8の解が求まらないため、クラスを分離する特徴が得られない。本発明は、上記問題を解決するものであり、クラス分類を適切に行なうことができるパターン抽出装置、方法、プログラムを提供することを目的としている。上記課題を解決するための本発明のパターン抽出装置は、入力データをクラス分類するためのパターン抽出装置であって、学習時に入力された学習データ間の第1の類似度と、前記学習データおよび分類時に入力された新規データ間の第2の類似度とを計算する類似度計算手段と、学習時に入力された、同じクラスに属するデータの組について、元の空間で類似度の高いものはデータ変換後の距離が小さくなるように集約度を計算するクラス内集約度計算手段と、学習時に入力された、異なるクラスに属するデータの組について、元の空間で類似度の低いものはデータ変換後の距離が大きくなるように分離度を計算するクラス間分離度計算手段と、前記クラス内集約度計算手段により計算されたクラス内のデータ集約度およびクラス間分離度計算手段により計算されたクラス間のデータ分離度が大きくなる特徴空間への変換情報を計算する射影情報計算手段と、分類時に入力された新規データを、前記類似度計算手段によって計算された第2の類似度および射影情報計算手段によって計算された変換情報を用いて、クラス内のデータの集約度およびクラス間のデータの分離度が大きくなる特徴空間に変換するデータ変換手段と、前記射影情報計算手段によって計算された変換情報およびデータ変換手段によって変換された新規データを出力する結果出力手段と、を備えたことを特徴としている。上記構成によれば、クラス内集約度計算手段は各クラスの分散ではなく、元の空間で類似度の高いものは変換後の距離が小さくなるように評価するため、多峰性などの非ガウス分布のデータに対応できる。また、本発明のクラス間分離度計算手段は各クラスの平均ではなく、元の空間で類似度の低いものは変換後の距離が大きくなるように評価するため、各クラスの平均値が等しい場合にも対応できる。また、本発明の射影情報計算手段は、各クラスの平均値間の関係ではなく、類似度計算手段で求めたデータ間の関係を基に特徴空間を計算するため、クラス数以上の特徴を求めることができる。さらに、本発明のデータ変換手段は、射影情報計算手段で計算した情報を用いてデータを特徴量空間に変換する。こうすることで、新規のデータについてもクラス分類に適した特徴量空間に変換できる。本発明によれば、次のような効果が得られる。1各クラスの平均値に依存せず、平均値が等しくても分離することができる。2抽出する特徴の次元は次元数k≦mによって変えることができ、分類に有効な特徴が得られる。3ガウス分布の過程をしていないので、多峰性のデータにもフィットする。以下、図面を参照しながら本発明の実施の形態を説明するが、本発明は下記の実施形態例に限定されるものではない。本発明のパターン抽出装置は、図1のブロック図に示すように、入力される各種データおよびパラメータを取り込むデータ入力部101、類似度計算手段としての類似度計算部102、クラス内集約度計算手段としてのクラス内集約度計算部103、クラス間分離度計算手段としてのクラス間分離度計算部104、射影情報計算手段としての射影情報計算部105、各種データおよびパラメータが格納される蓄積部106、データ変換手段としてのデータ変換部107および結果出力手段としての結果出力部108を備えている。図1のパターン抽出装置で実施されるパターン抽出のアルゴリズムは以下の手順からなる。Algorithm1学習時の手順Require:X,y,k,τ,ζ,η1:類似度行列の計算2:クラス内集約度の計算3:クラス間分離度の計算4:射影情報の計算5:X,k,τ,αj,bの蓄積6:αjの出力Algorithm2分類時の手順Require:Z1:類似度行列の計算2:データ変換の実行3:fzuの出力上記Algorithm1学習時の手順は図2のフローチャートのステップS201~S207で示され、Algorithm2分類時の手順は図3のフローチャートのステップS301~S304で示される。図1のパターン抽出装置は、例えばコンピュータにより構成され、通常のコンピュータのハードウェアリソース、例えばROM,RAM,CPU、入力装置、出力装置、通信インターフェース、ハードディスク、記録媒体およびその駆動装置を備えている。このハードウェアリソースとソフトウェアリソースOS、アプリケーションなどとの協働の結果、本実施形態例のパターン抽出装置は、図1に示すように、データ入力部101、類似度計算部102、クラス内集約度計算部103、クラス間分離度計算部104、射影情報計算部105、蓄積部106、データ変換部107および結果出力部108を実装する。前記蓄積部106は、ハードディスクあるいはRAMなどの保存手段記憶手段で構成されているものとする。次に上記のように構成された装置の詳細を具体的に説明する。本実施形態例では、学習時に、データX=x1,...,xn,xi∈Rm,ラベルy=y1,...,yn,yi∈1,...,ccはクラス数,抽出する特徴の次元数k0<k<m,類似度計算のパラメータτ>0,クラス内集約度のパラメータζ≧0,及びクラス間分離度のパラメータη≧0を入力とし、射影情報計算部105により計算された射影情報αj,bj,j=1,...,kを出力し、分類時に、新規データZを入力とし、データ変換部107によって変換された新規データfzuを出力する。データ入力部101は、ネットワークまたはファイルなどから、学習時には学習データX,ラベルy,パラメータk,τ,ζ,ηを入力し、分類時には新規データZを入力する。蓄積部105には、データ入力部101から入力されたデータX,パラメータk,τ,及び射影情報計算部105により計算された射影情報αj,bj,j=1,...,kが蓄積される。類似度計算部102は学習時に入力された、学習データXの類似度行列Ω第1の類似度、及び学習データXと分類時に入力された新規データZとの類似度行列Ωnew第2の類似度を計算する。ωij=exp-τ∥xi-xj∥9は、学習データxiと学習データxjの類似度である。ωijnew=exp-τ∥xi-zj∥10は、学習データxiと新規データzjの類似度である。ここで、∥∥はユークリッドノルムである。クラス内集約度計算部103は、学習時に入力された、同じクラスに属するデータの組について、元の空間で類似度の高いものはデータ変換後の距離が小さくなるように集約度を計算するものであり、クラス内集約度行列LW、すなわち同一のクラスに属するデータを近くに配置するための項、を計算する。LW=DW-SW11ここで、は、同一クラスに属するデータ間の類似度を示す。また、は、同一クラス内で密集したすなわち同じクラス内のデータから高い類似度で参照されるデータを重視するための項である。クラス間分離度計算部104は、学習時に入力された、異なるクラスに属するデータの組について、元の空間で類似度の低いものはデータ変換後の距離が大きくなるように分離度を計算するものであり、クラス間分離度行列LB、すなわち異なるクラスに属するデータを遠くに配置するための項、を計算する。LB=DB-SB14ここで、は、異なるクラスに属するデータ間の非類似度距離が大きいものほど値が大きく、距離の小さいものは値が小さいを示す。また、は、クラス間で隔たりが大きいすなわち異なるクラスのデータから遠い距離で参照されるデータを重視するための項である。射影情報計算部105は、前記クラス内集約度計算部103により計算されたクラス内のデータ集約度およびクラス間分離度計算部104により計算されたクラス間のデータ分離度が大きくなるような特徴空間を求め、その特徴空間への変換情報、すなわち射影情報αj,bj,j=1,...,kを計算する。ここで、αjは、クラス内のデータの集約度、およびクラス間のデータの分離度が大きくなる空間に変換した学習データである。また、bjは、新規データをクラス内のデータの集約度、およびクラス間のデータの分離度が大きくなる空間に変換するためのパラメータである。これは、下記の固有値問題を解くことで求められる。LMΩα=λα17αjは、上位k個の固有値に対応した固有ベクトルとなる。ここで、また、データ変換部107は、類似度計算部102によって計算された学習データXと新規データZとの類似度行列Ωnewと、射影情報計算部105によって計算された射影情報αj,bjを用いて、結果出力部108は、ネットワーク、またはファイルなどに、学習時は、蓄積部106に蓄積された射影情報αj,bj,j=1,...,kを出力し、分類時はデータ変換部107によって変換された新規データfz1、...、fzlを出力する。次に、上記のように構成された装置の動作を、学習時のフローチャートを示す図2、および分類時のフローチャートを示す図3とともに説明する。<学習時>学習時にデータ入力部101は、例えば表1に示す学習データX、及びラベルyを入力する図6と同じもの。ここで、データの次元m=2、データ数n=20。また、他のパラメータk=123τ=124ζ=125η=126を入力するステップS201。次に類似度計算部102は、前記式9に従って学習データXの類似度行列Ωを計算するステップS202。次にクラス内集約度計算部103は、前記式11に従ってクラス内集約度LWを計算するステップS203。次にクラス間分離度計算部104は、前記式14に従ってクラス間分離度LBを計算するステップS204。次に射影情報計算部105は、前記式17の固有値問題を解いて射影情報を計算するステップS205。k=1なので、最大固有値に対応した固有ベクトルを求める。最大固有値は、λ1=6.64998と計算され、またその最大固有値に対応する固有ベクトルα1を表2に示す。次に、前記式21に従ってb1を計算すると、b1=-7.51549×1016となる。次にステップS206において、データX,パラメータk,τ,及び射影情報α1,b1が蓄積部106に蓄積される。次に結果出力部108は、前記射影情報α1を出力するステップS207。射影情報α1を図7に示す。射影情報α1はクラス内のデータの集約度およびクラス間のデータの分離度が大きくなる空間に変換した学習データであり、図7によれば、class1とclass2がx軸で上手く分離されていることが分かる尚図7では、class1とclass2の結果が見やすいように、y軸の値をずらしてある。<分類時>分類時にデータ入力部101は、新規データZ=z1,...,zlを入力するステップS301。Zは-1,4×-1,4の点とする。次に類似度計算部102は、前記式10に従って学習データXと新規データZの類似度行列Ωnewを計算するステップS302。学習データX,及びτは蓄積部106から取得する。次にデータ変換部107は、入力データzuを前記式22に従ってfzu∈Rkに変換するステップS303。この際、k,α,bは蓄積部106から取得し、Ωnewは類似度計算部102から取得する。この例ではk=1である。新規データZに対応した値fZを図8に示す。データ変換部107は、入力された新規データzuをクラス内のデータの集約度およびクラス間のデータの分離度が大きくなる空間Rkに変換しているため、図8のようにclass1の近くの領域で値が0より大きく白に近く、class2の近くの領域で値が0より小さく黒に近くなっている。したがって図8によれば、新規データに対してもクラス分類に有効な特徴が得られているのが分かる。また、本実施形態のパターン抽出装置における各手段の一部もしくは全部の機能をコンピュータのプログラムで構成し、そのプログラムをコンピュータを用いて実行して本発明を実現することができること、本実施形態のパターン抽出方法における手順をコンピュータのプログラムで構成し、そのプログラムをコンピュータに実行させることができることは言うまでもなく、コンピュータでその機能を実現するためのプログラムを、そのコンピュータが読み取り可能な記録媒体、例えばFDFloppy登録商標Diskや、MOMagneto-Opticaldisk、ROMReadOnlyMemory、メモリカード、CDCompactDisk-ROM、DVDDigitalVersatileDisk-ROM、CD-R、CD-RW、HDD、リムーバブルディスクなどに記録して、保存したり、配布したりすることが可能である。また、上記のプログラムをインターネットや電子メールなど、ネットワークを通して提供することも可能である。"