(57)【特許請求の範囲】
【請求項１】
入力データをクラス分類するためのパターン抽出装置であって、
学習時に入力された学習データ間の第１の類似度と、前記学習データおよび分類時に入力された新規データ間の第２の類似度とを計算する類似度計算手段と、
学習時に入力された、同じクラスに属するデータの組について、元の空間で類似度の高いものはデータ変換後の距離が小さくなるように集約度を計算するクラス内集約度計算手段と、
学習時に入力された、異なるクラスに属するデータの組について、元の空間で類似度の低いものはデータ変換後の距離が大きくなるように分離度を計算するクラス間分離度計算手段と、
前記クラス内集約度計算手段により計算されたクラス内のデータ集約度およびクラス間分離度計算手段により計算されたクラス間のデータ分離度が大きくなる特徴空間への変換情報を計算する射影情報計算手段と、
分類時に入力された新規データを、前記類似度計算手段によって計算された第２の類似度および射影情報計算手段によって計算された変換情報を用いて、クラス内のデータの集約度およびクラス間のデータの分離度が大きくなる特徴空間に変換するデータ変換手段と、
前記射影情報計算手段によって計算された変換情報およびデータ変換手段によって変換された新規データを出力する結果出力手段と、を備え、
学習データのラベルをｙ、抽出する特徴の次元数をｋ、類似度計算のパラメータをτ、クラス内集約度のパラメータをζ、クラス間分離度のパラメータをηとし、
前記類似度計算手段は、学習時に入力された学習データＸの類似度行列Ωを計算することで前記第１の類似度を求め、前記学習データＸと分類時に入力された新規データＺとの類似度行列Ωnewを計算することで前記第２の類似度を求め、
前記クラス内集約度計算手段は、同一クラスに属するデータ間の類似度を
【数３】
0005545889.tif 000020
とし、
同一クラス内で密集したデータを重視するための項を
【数４】
0005545889.tif 000021
としたときのクラス内集約度行列ＬW＝ＤW−ＳWを前記集約度として計算し、
前記クラス間分離度計算手段は、異なるクラスに属するデータ間の非類似度を
【数５】
0005545889.tif 000022
とし、
クラス間で隔たりが大きいデータを重視するための項を
【数６】
0005545889.tif 000023
としたときのクラス間分離度行列ＬB＝ＤB−ＳBを前記分離度として計算し、
前記射影情報計算手段は、下記に示す固有値問題、すなわち、
ＬＭΩα＝λα              （１７）
【数７】
0005545889.tif 000024
【数８】
0005545889.tif 000025
を解くことによって、クラス内のデータの集約度およびクラス間のデータの分離度が大きくなる特徴空間に変換した学習データαjと、新規データをクラス内のデータの集約度およびクラス間のデータの分離度が大きくなる特徴空間に変換するためのパラメータｂj（但しｊ＝１，…，ｋ）とを前記変換情報として計算し、
前記データ変換手段は、
【数１０】
0005545889.tif 000026
を計算することによって、新規データをクラス内のデータの集約度およびクラス間のデータの分離度が大きくなる特徴空間Ｒkに変換することを特徴とするパターン抽出装置。
【請求項２】
入力データをクラス分類するためのパターン抽出方法であって、
類似度計算手段が、学習時に入力された学習データ間の第１の類似度を計算する第１の類似度計算ステップと、
クラス内集約度計算手段が、学習時に入力された、同じクラスに属するデータの組について、元の空間で類似度の高いものはデータ変換後の距離が小さくなるように集約度を計算するクラス内集約度計算ステップと、
クラス間分離度計算手段が、学習時に入力された、異なるクラスに属するデータの組について、元の空間で類似度の低いものはデータ変換後の距離が大きくなるように分離度を計算するクラス間分離度計算ステップと、
射影情報計算手段が、前記クラス内集約度計算手段により計算されたクラス内のデータ集約度およびクラス間分離度計算手段により計算されたクラス間のデータ分離度が大きくなる特徴空間への変換情報を計算する射影情報計算ステップと、
結果出力手段が、前記射影情報計算手段によって計算された変換情報を出力する第１の結果出力ステップと、
類似度計算手段が、前記学習データおよび分類時に入力された新規データ間の第２の類似度を計算する第２の類似度計算ステップと、
データ変換手段が、分類時に入力された新規データを、前記類似度計算手段によって計算された第２の類似度および射影情報計算手段によって計算された変換情報を用いて、クラス内のデータの集約度およびクラス間のデータの分離度が大きくなる特徴空間に変換するデータ変換ステップと、
結果出力手段が、前記データ変換手段によって変換されたデータを出力する第２の結果出力ステップと、を備え、
学習データのラベルをｙ、抽出する特徴の次元数をｋ、類似度計算のパラメータをτ、クラス内集約度のパラメータをζ、クラス間分離度のパラメータをηとし、
前記第１の類似度計算ステップは、学習時に入力された学習データＸの類似度行列Ωを計算することで前記第１の類似度を求め、
前記クラス内集約度計算ステップは、同一クラスに属するデータ間の類似度を
【数３】
0005545889.tif 000027
とし、
同一クラス内で密集したデータを重視するための項を
【数４】
0005545889.tif 000028
としたときのクラス内集約度行列ＬW＝ＤW−ＳWを前記集約度として計算し、
前記クラス間分離度計算ステップは、異なるクラスに属するデータ間の非類似度を
【数５】
0005545889.tif 000029
とし、
クラス間で隔たりが大きいデータを重視するための項を
【数６】
0005545889.tif 000030
としたときのクラス間分離度行列ＬB＝ＤB−ＳBを前記分離度として計算し、
前記射影情報計算ステップは、下記に示す固有値問題、すなわち、
ＬＭΩα＝λα              （１７）
【数７】
0005545889.tif 000031
【数８】
0005545889.tif 000032
を解くことによって、クラス内のデータの集約度およびクラス間のデータの分離度が大きくなる特徴空間に変換した学習データαjと、新規データをクラス内のデータの集約度およびクラス間のデータの分離度が大きくなる特徴空間に変換するためのパラメータｂj（但しｊ＝１，…，ｋ）とを前記変換情報として計算し、
前記第１の結果出力ステップは、前記射影情報計算手段によって計算された変換情報αj，ｂjを出力し、
前記第２の類似度計算ステップは、前記学習データＸと分類時に入力された新規データＺとの類似度行列Ωnewを計算することで前記第２の類似度を求め、
前記データ変換ステップは、
【数１０】
0005545889.tif 000033
を計算することによって、新規データをクラス内のデータの集約度およびクラス間のデータの分離度が大きくなる特徴空間Ｒkに変換し、
前記第２の結果出力ステップは、前記データ変換手段によって変換された新規データを出力することを特徴とするパターン抽出方法。
【請求項３】
コンピュータを請求項１に記載の各手段として機能させるパターン抽出プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は教師あり機械学習に関し、特にテキストや画像などのデータをクラス分類するためのパターン抽出装置、方法に関する。
【背景技術】
【０００２】
従来、パターン抽出方法として、非特許文献１に示すように線形判別分析という手法があった。線形判別分析は次のように、与えられたｎ組のデータｘi∈Ｒm及びそのラベルｙi∈｛１，…，ｃ}からクラス分類が行いやすいパターンｚi∈Ｒc-1，ｃ＜ｍを抽出する。
【０００３】
ｚi＝ＷTｘi，ｉ＝１，…，ｎ        （１）
ここで、Ｗ＝（ｗ1，…，ｗc-1），ｗi∈Ｒm。尚ｃはクラス数、ｍは抽出する特徴の次元数（データの次元）、Ｒは空間を各々示している。
【０００４】
ｗiは、クラス間分散とクラス内分散の比Ｊ（ｗ）を最大化するように選ぶ。
【０００５】
【数１】
0005545889.tif 000002
【０００６】
すなわち、ｗ＝ａｒｇｍａｘwＪ（ｗ）。
【０００７】
これは下記の一般化固有値問題を解くことで求められる。
【０００８】
【数２】
0005545889.tif 000003
【０００９】
ｗiは、上位ｃ−１個の固有値の固有ベクトルとなる。
【００１０】
例えば、入力空間におけるデータ集合を表す図４のようにｃｌａｓｓ  １，ｃｌａｓｓ  ２のデータが与えられると、ｗは図４のｗで示す直線として求められる。この例は、クラス数ｃ＝２で、１（＝ｃ−１）次元の特徴が得られる。抽出されるパターンは図５となる。図５によれば、ｃｌａｓｓ  １，ｃｌａｓｓ  ２がｘ軸上で上手く分離されている事が分かる（図５ではｃｌａｓｓ  １，ｃｌａｓｓ  ２の結果が見やすいように、ｙ軸の値をずらしてある）。
【先行技術文献】
【非特許文献】
【００１１】
【非特許文献１】Ｃ．Ｍ．ビショップ，「パターン認識と機械学習  上」，シュプリンガー・ジャパン株式会社，ｐｐ．１７７−１９０
【発明の概要】
【発明が解決しようとする課題】
【００１２】
上述した線形判別分析では、
１．各クラスの平均値を分離する特徴しか得られない
２．クラス数−１の次元の特徴しか得られない
３．各クラスがガウス分布を仮定しているため、多峰性のデータにフィットしない
という問題があった。
【００１３】
特に、図６のようなｃｌａｓｓ  １，ｃｌａｓｓ  ２のデータが与えられると、ｃｌａｓｓ  １，ｃｌａｓｓ  ２の平均値が等しくなるため、ＳBがゼロ行列となり、前記式（８）の解が求まらないため、クラスを分離する特徴が得られない。
【００１４】
本発明は、上記問題を解決するものであり、クラス分類を適切に行なうことができるパターン抽出装置、方法、プログラムを提供することを目的としている。
【課題を解決するための手段】
【００１５】
上記課題を解決するための本発明のパターン抽出装置は、入力データをクラス分類するためのパターン抽出装置であって、学習時に入力された学習データ間の第１の類似度と、前記学習データおよび分類時に入力された新規データ間の第２の類似度とを計算する類似度計算手段と、学習時に入力された、同じクラスに属するデータの組について、元の空間で類似度の高いものはデータ変換後の距離が小さくなるように集約度を計算するクラス内集約度計算手段と、学習時に入力された、異なるクラスに属するデータの組について、元の空間で類似度の低いものはデータ変換後の距離が大きくなるように分離度を計算するクラス間分離度計算手段と、前記クラス内集約度計算手段により計算されたクラス内のデータ集約度およびクラス間分離度計算手段により計算されたクラス間のデータ分離度が大きくなる特徴空間への変換情報を計算する射影情報計算手段と、分類時に入力された新規データを、前記類似度計算手段によって計算された第２の類似度および射影情報計算手段によって計算された変換情報を用いて、クラス内のデータの集約度およびクラス間のデータの分離度が大きくなる特徴空間に変換するデータ変換手段と、前記射影情報計算手段によって計算された変換情報およびデータ変換手段によって変換された新規データを出力する結果出力手段と、を備え、学習データのラベルをｙ、抽出する特徴の次元数をｋ、類似度計算のパラメータをτ、クラス内集約度のパラメータをζ、クラス間分離度のパラメータをηとし、前記類似度計算手段は、学習時に入力された学習データＸの類似度行列Ωを計算することで前記第１の類似度を求め、前記学習データＸと分類時に入力された新規データＺとの類似度行列Ωnewを計算することで前記第２の類似度を求め、前記クラス内集約度計算手段は、同一クラスに属するデータ間の類似度を
【数３】
0005545889.tif 000004
とし、
同一クラス内で密集したデータを重視するための項を
【数４】
0005545889.tif 000005
としたときのクラス内集約度行列ＬW＝ＤW−ＳWを前記集約度として計算し、
前記クラス間分離度計算手段は、異なるクラスに属するデータ間の非類似度を
【数５】
0005545889.tif 000006
とし、
クラス間で隔たりが大きいデータを重視するための項を
【数６】
0005545889.tif 000007
としたときのクラス間分離度行列ＬB＝ＤB−ＳBを前記分離度として計算し、
前記射影情報計算手段は、下記に示す固有値問題、すなわち、
ＬＭΩα＝λα              （１７）
【数７】
0005545889.tif 000008
【数８】
0005545889.tif 000009
を解くことによって、クラス内のデータの集約度およびクラス間のデータの分離度が大きくなる特徴空間に変換した学習データαjと、新規データをクラス内のデータの集約度およびクラス間のデータの分離度が大きくなる特徴空間に変換するためのパラメータｂj（但しｊ＝１，…，ｋ）とを前記変換情報として計算し、
前記データ変換手段は、
【数１０】
0005545889.tif 000010
を計算することによって、新規データをクラス内のデータの集約度およびクラス間のデータの分離度が大きくなる特徴空間Ｒkに変換することを特徴としている。
【００１６】
上記構成によれば、クラス内集約度計算手段は各クラスの分散ではなく、元の空間で類似度の高いものは変換後の距離が小さくなるように評価するため、多峰性などの非ガウス分布のデータに対応できる。また、本発明のクラス間分離度計算手段は各クラスの平均ではなく、元の空間で類似度の低いものは変換後の距離が大きくなるように評価するため、各クラスの平均値が等しい場合にも対応できる。
【００１７】
また、本発明の射影情報計算手段は、各クラスの平均値間の関係ではなく、類似度計算手段で求めたデータ間の関係を基に特徴空間を計算するため、クラス数以上の特徴を求めることができる。
【００１８】
さらに、本発明のデータ変換手段は、射影情報計算手段で計算した情報を用いてデータを特徴量空間に変換する。こうすることで、新規のデータについてもクラス分類に適した特徴量空間に変換できる。
【発明の効果】
【００１９】
本発明によれば、次のような効果が得られる。  
（１）各クラスの平均値に依存せず、平均値が等しくても分離することができる。
（２）抽出する特徴の次元は次元数ｋ（≦ｍ）によって変えることができ、分類に有効な特徴が得られる。
（３）ガウス分布の過程をしていないので、多峰性のデータにもフィットする。
【図面の簡単な説明】
【００２０】
【図１】本発明の一実施形態例によるパターン抽出装置のブロック図。
【図２】本発明の一実施形態例によるパターン抽出方法を示す学習時のフローチャート。
【図３】本発明の一実施形態例によるパターン抽出方法を示す分類時のフローチャート。
【図４】従来法を説明する第１の図であり、入力空間における２クラスのデータ集合を表す説明図。
【図５】従来法を説明する第２の図であり、抽出されるパターンの説明図。
【図６】従来法の問題点を説明する図であり、入力空間における２クラスのデータ集合を表す説明図。
【図７】本発明の動作を説明する第１の図であり、射影情報α1を表す説明図。
【図８】本発明の動作を説明する第２の図であり、新規データに対してクラス分類に有効な特徴が得られているようすを示す説明図。
【発明を実施するための形態】
【００２１】
以下、図面を参照しながら本発明の実施の形態を説明するが、本発明は下記の実施形態例に限定されるものではない。本発明のパターン抽出装置は、図１のブロック図に示すように、入力される各種データおよびパラメータを取り込むデータ入力部１０１、類似度計算手段としての類似度計算部１０２、クラス内集約度計算手段としてのクラス内集約度計算部１０３、クラス間分離度計算手段としてのクラス間分離度計算部１０４、射影情報計算手段としての射影情報計算部１０５、各種データおよびパラメータが格納される蓄積部１０６、データ変換手段としてのデータ変換部１０７および結果出力手段としての結果出力部１０８を備えている。
【００２２】
図１のパターン抽出装置で実施されるパターン抽出のアルゴリズムは以下の手順からなる。
Ａｌｇｏｒｉｔｈｍ  １  学習時の手順
Ｒｅｑｕｉｒｅ：Ｘ，ｙ，ｋ，τ，ζ，η
１：類似度行列の計算
２：クラス内集約度の計算
３：クラス間分離度の計算
４：射影情報の計算
５：Ｘ，ｋ，τ，αj，ｂの蓄積
６：αjの出力
Ａｌｇｏｒｉｔｈｍ  ２  分類時の手順
Ｒｅｑｕｉｒｅ：Ｚ
１：類似度行列の計算
２：データ変換の実行
３：ｆ（ｚu）の出力
上記「Ａｌｇｏｒｉｔｈｍ  １  学習時の手順」は図２のフローチャートのステップＳ２０１〜Ｓ２０７で示され、「Ａｌｇｏｒｉｔｈｍ  ２  分類時の手順」は図３のフローチャートのステップＳ３０１〜Ｓ３０４で示される。
【００２３】
図１のパターン抽出装置は、例えばコンピュータにより構成され、通常のコンピュータのハードウェアリソース、例えばＲＯＭ，ＲＡＭ，ＣＰＵ、入力装置、出力装置、通信インターフェース、ハードディスク、記録媒体およびその駆動装置を備えている。
【００２４】
このハードウェアリソースとソフトウェアリソース（ＯＳ、アプリケーションなど）との協働の結果、本実施形態例のパターン抽出装置は、図１に示すように、データ入力部１０１、類似度計算部１０２、クラス内集約度計算部１０３、クラス間分離度計算部１０４、射影情報計算部１０５、蓄積部１０６、データ変換部１０７および結果出力部１０８を実装する。
【００２５】
前記蓄積部１０６は、ハードディスクあるいはＲＡＭなどの保存手段・記憶手段で構成されているものとする。
【００２６】
次に上記のように構成された装置の詳細を具体的に説明する。本実施形態例では、学習時に、データＸ＝（ｘ1，…，ｘn），ｘi∈Ｒm，ラベルｙ＝（ｙ1，…，ｙn），ｙi∈{１，…，ｃ}（ｃはクラス数），抽出する特徴の次元数ｋ（０＜ｋ＜ｍ），類似度計算のパラメータτ＞０，クラス内集約度のパラメータζ≧０，及びクラス間分離度のパラメータη≧０を入力とし、射影情報計算部１０５により計算された射影情報αj，ｂj，ｊ＝１，…，ｋを出力し、分類時に、新規データＺを入力とし、データ変換部１０７によって変換された新規データｆ（ｚu）を出力する。
【００２７】
データ入力部１０１は、ネットワークまたはファイルなどから、学習時には学習データＸ，ラベルｙ，パラメータｋ，τ，ζ，ηを入力し、分類時には新規データＺを入力する。
【００２８】
蓄積部１０６には、データ入力部１０１から入力されたデータＸ，パラメータｋ，τ，及び射影情報計算部１０５により計算された射影情報αj，ｂj，ｊ＝１，…，ｋが蓄積される。
【００２９】
類似度計算部１０２は学習時に入力された、学習データＸの類似度行列Ω（第１の類似度）、及び学習データＸと分類時に入力された新規データＺとの類似度行列Ωnew（第２の類似度）を計算する。
【００３０】
ωij＝ｅｘｐ{−τ‖ｘi−ｘj‖}        （９）
は、学習データｘiと学習データｘjの類似度である。
【００３１】
ωijnew＝ｅｘｐ{−τ‖ｘi−ｚj‖}        （１０）
は、学習データｘiと新規データｚjの類似度である。
【００３２】
ここで、‖・‖はユークリッドノルムである。
【００３３】
クラス内集約度計算部１０３は、学習時に入力された、同じクラスに属するデータの組について、元の空間で類似度の高いものはデータ変換後の距離が小さくなるように集約度を計算するものであり、クラス内集約度行列ＬW、すなわち同一のクラスに属するデータを近くに配置するための項、を計算する。
【００３４】
ＬW＝ＤW−ＳW        （１１）
ここで、
【００３５】
【数３】
0005545889.tif 000011
【００３６】
は、同一クラスに属するデータ間の類似度を示す。
【００３７】
また、
【００３８】
【数４】
0005545889.tif 000012
【００３９】
は、同一クラス内で密集した（すなわち同じクラス内のデータから高い類似度で参照される）データを重視するための項である。
【００４０】
クラス間分離度計算部１０４は、学習時に入力された、異なるクラスに属するデータの組について、元の空間で類似度の低いものはデータ変換後の距離が大きくなるように分離度を計算するものであり、クラス間分離度行列ＬB、すなわち異なるクラスに属するデータを遠くに配置するための項、を計算する。
【００４１】
ＬB＝ＤB−ＳB        （１４）
ここで、
【００４２】
【数５】
0005545889.tif 000013
【００４３】
は、異なるクラスに属するデータ間の非類似度（距離が大きいものほど値が大きく、距離の小さいものは値が小さい）を示す。
【００４４】
また、
【００４５】
【数６】
0005545889.tif 000014
【００４６】
は、クラス間で隔たりが大きい（すなわち異なるクラスのデータから遠い距離で参照される）データを重視するための項である。
【００４７】
射影情報計算部１０５は、前記クラス内集約度計算部１０３により計算されたクラス内のデータ集約度およびクラス間分離度計算部１０４により計算されたクラス間のデータ分離度が大きくなるような特徴空間を求め、その特徴空間への変換情報、すなわち射影情報αj，ｂj，ｊ＝１，…，ｋを計算する。
【００４８】
ここで、αjは、クラス内のデータの集約度、およびクラス間のデータの分離度が大きくなる空間に変換した学習データである。
【００４９】
また、ｂjは、新規データをクラス内のデータの集約度、およびクラス間のデータの分離度が大きくなる空間に変換するためのパラメータである。
【００５０】
これは、下記の固有値問題を解くことで求められる。
【００５１】
ＬＭΩα＝λα        （１７）
αjは、上位ｋ個の固有値に対応した固有ベクトルとなる。
【００５２】
ここで、
【００５３】
【数７】
0005545889.tif 000015
【００５４】
また、
【００５５】
【数８】
0005545889.tif 000016
【００５６】
データ変換部１０７は、類似度計算部１０２によって計算された学習データＸと新規データＺとの類似度行列Ωnewと、射影情報計算部１０５によって計算された射影情報αj，ｂjを用いて、
【００５７】
【数９】
0005545889.tif 000017
【００５８】
結果出力部１０８は、ネットワーク、またはファイルなどに、学習時は、蓄積部１０６に蓄積された射影情報αj，ｂj，ｊ＝１，…，ｋを出力し、分類時はデータ変換部１０７によって変換された新規データｆ（ｚ1）、…、ｆ（ｚl）を出力する。
【００５９】
次に、上記のように構成された装置の動作を、学習時のフローチャートを示す図２、および分類時のフローチャートを示す図３とともに説明する。
【００６０】
＜学習時＞
学習時にデータ入力部１０１は、例えば表１に示す学習データＸ、及びラベルｙを入力する（図６と同じもの）。ここで、データの次元ｍ＝２、データ数ｎ＝２０。
【００６１】
【表１】
0005545889.tif 000018
【００６２】
また、他のパラメータ
ｋ＝１        （２３）
τ＝１        （２４）
ζ＝１        （２５）
η＝１        （２６）
を入力する（ステップＳ２０１）。
【００６３】
次に類似度計算部１０２は、前記式（９）に従って学習データＸの類似度行列Ωを計算する（ステップＳ２０２）。
【００６４】
次にクラス内集約度計算部１０３は、前記式（１１）に従ってクラス内集約度ＬWを計算する（ステップＳ２０３）。
【００６５】
次にクラス間分離度計算部１０４は、前記式（１４）に従ってクラス間分離度ＬBを計算する（ステップＳ２０４）。
【００６６】
次に射影情報計算部１０５は、前記式（１７）の固有値問題を解いて射影情報を計算する（ステップＳ２０５）。ｋ＝１なので、最大固有値に対応した固有ベクトルを求める。
【００６７】
最大固有値は、λ1＝６．６４９９８と計算され、またその最大固有値に対応する固有ベクトルα1を表２に示す。
【００６８】
【表２】
0005545889.tif 000019
【００６９】
次に、前記式（２１）に従ってｂ1を計算すると、ｂ1＝−７．５１５４９×１０-16となる。
【００７０】
次にステップＳ２０６において、データＸ，パラメータｋ，τ，及び射影情報α1，ｂ1が蓄積部１０６に蓄積される。
【００７１】
次に結果出力部１０８は、前記射影情報α1を出力する（ステップＳ２０７）。
【００７２】
射影情報α1を図７に示す。射影情報α1はクラス内のデータの集約度およびクラス間のデータの分離度が大きくなる空間に変換した学習データであり、図７によれば、ｃｌａｓｓ  １とｃｌａｓｓ  ２がｘ軸で上手く分離されていることが分かる（尚図７では、ｃｌａｓｓ  １とｃｌａｓｓ  ２の結果が見やすいように、ｙ軸の値をずらしてある）。
【００７３】
＜分類時＞
分類時にデータ入力部１０１は、新規データＺ＝（ｚ1，…，ｚl）を入力する（ステップＳ３０１）。Ｚは[−１，４]×[−１，４]の点とする。
【００７４】
次に類似度計算部１０２は、前記式（１０）に従って学習データＸと新規データＺの類似度行列Ωnewを計算する（ステップＳ３０２）。学習データＸ，及びτは蓄積部１０６から取得する。
【００７５】
次にデータ変換部１０７は、入力データｚuを前記式（２２）に従ってｆ（ｚu）∈Ｒkに変換する（ステップＳ３０３）。この際、ｋ，α，ｂは蓄積部１０６から取得し、Ωnewは類似度計算部１０２から取得する。この例ではｋ＝１である。
【００７６】
新規データＺに対応した値ｆ（Ｚ）を図８に示す。データ変換部１０７は、入力された新規データｚuをクラス内のデータの集約度およびクラス間のデータの分離度が大きくなる空間Ｒkに変換しているため、図８のようにｃｌａｓｓ  １の近くの領域で値が０より大きく（白に近く）、ｃｌａｓｓ  ２の近くの領域で値が０より小さく（黒に近く）なっている。
【００７７】
したがって図８によれば、新規データに対してもクラス分類に有効な特徴が得られているのが分かる。
【００７８】
また、本実施形態のパターン抽出装置における各手段の一部もしくは全部の機能をコンピュータのプログラムで構成し、そのプログラムをコンピュータを用いて実行して本発明を実現することができること、本実施形態のパターン抽出方法における手順をコンピュータのプログラムで構成し、そのプログラムをコンピュータに実行させることができることは言うまでもなく、コンピュータでその機能を実現するためのプログラムを、そのコンピュータが読み取り可能な記録媒体、例えばＦＤ（Ｆｌｏｐｐｙ（登録商標）  Ｄｉｓｋ）や、ＭＯ（Ｍａｇｎｅｔｏ−Ｏｐｔｉｃａｌ  ｄｉｓｋ）、ＲＯＭ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）、メモリカード、ＣＤ（Ｃｏｍｐａｃｔ  Ｄｉｓｋ）−ＲＯＭ、ＤＶＤ（Ｄｉｇｉｔａｌ  Ｖｅｒｓａｔｉｌｅ  Ｄｉｓｋ）−ＲＯＭ、ＣＤ−Ｒ、ＣＤ−ＲＷ、ＨＤＤ、リムーバブルディスクなどに記録して、保存したり、配布したりすることが可能である。また、上記のプログラムをインターネットや電子メールなど、ネットワークを通して提供することも可能である。
【符号の説明】
【００７９】
１０１…データ入力部
１０２…類似度計算部
１０３…クラス内集約度計算部
１０４…クラス間分離度計算部
１０５…射影情報計算部
１０６…蓄積部
１０７…データ変換部
１０８…結果出力部
【図１】
0005545889.tif 000034
【図２】
0005545889.tif 000035
【図３】
0005545889.tif 000036
【図４】
0005545889.tif 000037
【図５】
0005545889.tif 000038
【図６】
0005545889.tif 000039
【図７】
0005545889.tif 000040
【図８】
0005545889.tif 000041