(57)【要約】【課題】  変量全体のデータ構造を反映した変量を選択可能とする。【解決手段】  まず、入力部１１０から、ファイル等に記載された処理対象のデータＸと、パラメータ（選択変量数ｑおよび主成分数ｒ）とを入力する（Ｓ４０）。次に、データＸの基底導出のために、主成分分析や判別分析の基底導出法を用いて、高い固有値を持つ固有ベクトルを順にｒ個取り出し、基底Ｙλとする（Ｓ４２）。次に、Ｙと内部で生成される正規直交基底Ｘ＿との類似度λを求め、それに対応する変量の組み合わせＸλ＿を求める（Ｓ４４）。そして、変量の組み合わせＸλ＿に対応する変量を最も良い選択変量として出力する（Ｓ４６）。【選択図】  図３
2005078186.tif 000002
【特許請求の範囲】
【請求項１】
処理対象のデータを入力する入力手段と、
所定の基底導出法を用いて、高い固有値を持つ固有ベクトルを順に主成分数個取り出し、前記データの基底ベクトルを算出する基底算出手段と、
前記基底ベクトルと内部で生成される正規直交基底ベクトルとの類似度を求め、前記類似度に対応する変量の組み合わせを求める類似度算出手段と、
前記変量の組み合わせに対応する変量を最も良い選択変量として出力する出力手段と
を具備することを特徴とする多変量データ選択装置。
【請求項２】
前記類似度算出手段は、
前記データのパラメータとして入力された選択変量数と全変量数とから、変量の組み合わせを全て求める変量組み合わせ算出手段と、
前記変量の組み合わせから、順次１つの組み合わせを取り出し、正規直交基底を構成する正規直交基底構成手段と、
前記正規直交基底と前記基底との角度を前記変量の組み合わせ全てに対して算出し、その値を類似度とする角度算出手段と
を具備することを特徴とする請求項１記載の多変量データ選択装置。
【請求項３】
前記出力手段は、
前記角度算出手段により算出された角度のうち、最も高い類似度を持つ値を、最終的な類似度とし、それに対応する組み合わせと類似度とを出力することを特徴とする請求項２記載の多変量データ選択装置。
【請求項４】
処理対象のデータを入力するステップと、
所定の基底導出法を用いて、高い固有値を持つ固有ベクトルを順に主成分数個取り出し、前記データの基底ベクトルを算出するステップと、
前記基底ベクトルと内部で生成される正規直交基底ベクトルとの類似度を求めるステップと、
前記類似度に対応する変量の組み合わせを求めるステップと、
前記変量の組み合わせに対応する変量を最も良い選択変量として出力するステップと
をコンピュータに実行させることを特徴とする多変量データ選択プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、大規模データの中からデータ構造を反映した変量を選択する多変量データ選択装置および多変量データ選択プログラムに関する。
【背景技術】
【０００２】
従来より、大規模データからの知識抽出をねらいとした変量選択では、変量の相関を考慮することで重要な変数を特定するＭｃＣａｂｅ（１９８４）の方法（図１３）や（例えば、非特許文献１）、主成分分析に代表される次元圧縮法を用いた後，変量を選択する前と後とのサンプルの変動を定量化することで変量を選択するＫｒｚａｎｏｗｓｋｉ（１９８７）の方法（図１４）が提案されている（例えば、非特許文献２）。
【０００３】
図１５は、Ｋｒｚａｎｏｗｓｋｉ法による動作を説明するためのフローチャートである。まず、入力装置から、ファイル等に記載された処理対象のデータＸと、パラメータ（選択変量数ｑおよび主成分数ｒ）を入力する（Ｓ１０）。次に、Ｘに対して、主成分分析を適用して、主成分得点を算出し、これをＹとする（Ｓ１２）。次に、Ｙと内部で生成されるＺとの類似度Ｍ２を求め、それに対応する変量の組み合わせを求める（Ｓ１４）。次に、ステップＳ１４で求めた変量の組み合わせに対応する変量を最も良い選択変量として出力する（Ｓ１６）。
【０００４】
次に、図１６は、上述したステップＳ１４の詳細な動作を説明するためのフローチャートである。まず、選択変量数ｑと全変量数ｐとから、ｐＣｑ通りの変量の組み合わせを全て求める（Ｓ２０）。例えば、ｑ＝２で、変量ｘ１，ｘ２，ｘ３がある場合、（ｘ１，ｘ２）（ｘ２，ｘ３）（ｘ３，ｘ１）の組み合わせが求まる。次に、ステップ２０の結果から、順次１つの組み合わせを取り出し、組み合わせの１つで構成される部分行列Ｘ〜に対して、主成分分析を適用することで、主成分得点を固有値の高い順にｒ個算出し、これをＺとする（Ｓ２２）。
【０００５】
次に、ＹとＺから、プロクラステス基準Ｍ２（注１参照）を算出し、その値を類似度とし、例えば配列に値が上書きされないように保存しておく（Ｓ２４）。次に、ステップＳ２０で求めた変量の組み合わせ全てに対して、プロクラステス基準Ｍ２を計算したかをチェックする（Ｓ２６）。そして、全ての組み合わせで類似度を算出していない場合には、ステップＳ２２へ戻り、上述した処理を繰り返す。一方、全ての組み合わせで類似度を算出した場合には、ステップＳ２４で保存しておいたＭ２のうち、最も高い類似度を持つ値を、最終的な類似度とし、それに対応する組み合わせと類似度を出力する（Ｓ２８）。
【０００６】
注１：Ｍ２＝ｔｒ（ＹＹｔ＋ＺＺｔ−２Ｄ）
Ｄは、特異値を対角に並べた行列である。ここで、ＹとＺの次元数を合わせるため、本来ｑ個取り出せる主成分得点のうち、低い主成分に対応する主成分得点は捨てられる。
【非特許文献１】Ｇ．Ｐ．ＭｃＣａｂｅ，“Ｐｒｉｎｃｉｐａｌ  Ｖａｒｉａｂｌｅｓ，”Ｔｅｃｈｎｏｍｅｔｒｉｃｓ，ｖｏｌ．２６，ｐｐ．１３７−１４４，１９８４．
【非特許文献２】Ｗ．Ｊ．Ｋｒｚａｎｏｗｓｋｉ．”Ｓｅｌｅｃｔｉｏｎ  ｏｆ  ｖａｒｉａｂｌｅｓ  ｔｏ  ｐｒｅｓｅｒｖｅ  ｍｕｌｔｉｖａｒｉａｔｅ  ｄａｔａ  ｓｔｒｕｃｔｕｒｅ，ｕｓｉｎｇ  ｐｒｉｎｃｉｐａｌ  ｃｏｍｐｏｎｅｎｔｓ，”Ａｐｐｌｉｅｄ  Ｓｔａｔｉｓｔｉｃｓ，ｖｏｌ．３６，ｐｐ．２２−３３，１９８７．
【発明の開示】
【発明が解決しようとする課題】
【０００７】
しかしながら、従来のＭｃＣａｂｅ法では、個々の変数のみに着目しており、変量全体としてみたときに有効な変量が選択されない。また、Ｋｒｚａｎｏｗｓｋｉ法では、データの相関を考慮した，データによって張られる部分空間に着目した変量選択法も提案されているが、この部分空間と選択候補の変量群を比較する際に，部分空間の次元を合わせるために、次元を減らす必要があり、選択候補の変量群に含まれるデータの情報が損なわれてしまうという問題があった。
【０００８】
そこで本発明は、変量全体のデータ構造を反映した変量を選択することができる多変量データ選択装置および多変量データ選択プログラムを提供することを目的とする。
【課題を解決するための手段】
【０００９】
上記目的達成のため、請求項１記載の発明による多変量データ選択装置は、処理対象のデータを入力する入力手段と、所定の基底導出法を用いて、高い固有値を持つ固有ベクトルを順に主成分数個取り出し、前記データの基底ベクトルを算出する基底算出手段と、前記基底ベクトルと内部で生成される正規直交基底ベクトルとの類似度を求め、前記類似度に対応する変量の組み合わせを求める類似度算出手段と、前記変量の組み合わせに対応する変量を最も良い選択変量として出力する出力手段とを具備することを特徴とする。
【００１０】
また、好ましい態様として、例えば請求項２記載のように、請求項１記載の多変量データ選択装置において、前記類似度算出手段は、前記データのパラメータとして入力された選択変量数と全変量数とから、変量の組み合わせを全て求める変量組み合わせ算出手段と、前記変量の組み合わせから、順次１つの組み合わせを取り出し、正規直交基底を構成する正規直交基底構成手段と、前記正規直交基底と前記基底との角度を前記変量の組み合わせ全てに対して算出し、その値を類似度とする角度算出手段とを具備することを特徴とする。
【００１１】
また、好ましい態様として、例えば請求項３記載のように、請求項２記載の多変量データ選択装置において、前記出力手段は、前記角度算出手段により算出された角度のうち、最も高い類似度を持つ値を、最終的な類似度とし、それに対応する組み合わせと類似度とを出力することを特徴とする。
【００１２】
また、上記目的達成のため、請求項４記載の発明による多変量データ選択プログラムは、処理対象のデータを入力するステップと、所定の基底導出法を用いて、高い固有値を持つ固有ベクトルを順に主成分数個取り出し、前記データの基底ベクトルを算出するステップと、前記基底ベクトルと内部で生成される正規直交基底ベクトルとの類似度を求めるステップと、前記類似度に対応する変量の組み合わせを求めるステップと、前記変量の組み合わせに対応する変量を最も良い選択変量として出力するステップとをコンピュータに実行させることを特徴とする。
【発明の効果】
【００１３】
請求項１記載の発明によれば、基底算出手段によって、入力手段から入力された処理対象のデータから、所定の基底導出法を用いて、高い固有値を持つ固有ベクトルを順に主成分数個取り出し、前記データの基底ベクトルを算出し、類似度算出手段により、前記基底ベクトルと内部で生成される正規直交基底ベクトルとの類似度を求め、前記類似度に対応する変量の組み合わせを求め、出力手段により、前記変量の組み合わせに対応する変量を最も良い選択変量として出力するようにしたので、変量全体のデータ構造を反映した変量を選択することができ、また、元のデータに対して基底ベクトルを求める際に、基底ベクトルの計算法を変える（例えば判別基準）ことで、目的に応じた変量を選択することができ、ゆえに、有効な変量セット抽出（例えば散布図）を通して、結果の解釈を促進することができるという利点が得られる。
【００１４】
また、請求項２記載の発明によれば、前記類似度算出手段において、変量組み合わせ算出手段により、前記データのパラメータとして入力された選択変量数と全変量数とから、変量の組み合わせを全て求め、正規直交基底構成手段により、前記変量の組み合わせから、順次１つの組み合わせを取り出し、正規直交基底を構成し、角度算出手段により、前記正規直交基底と前記基底との角度を前記変量の組み合わせ全てに対して算出し、その値を類似度とするようにしたので、変量全体のデータ構造を反映した変量を選択することができ、また、元のデータに対して基底ベクトルを求める際に、基底ベクトルの計算法を変える（例えば判別基準）ことで、目的に応じた変量を選択することができ、ゆえに、有効な変量セット抽出（例えば散布図）を通して、結果の解釈を促進することができるという利点が得られる。
【００１５】
また、請求項３記載の発明によれば、前記出力手段により、前記角度算出手段により算出された角度のうち、最も高い類似度を持つ値を、最終的な類似度とし、それに対応する組み合わせと類似度とを出力するようにしたので、変量全体のデータ構造を反映した変量を選択することができ、また、元のデータに対して基底ベクトルを求める際に、基底ベクトルの計算法を変える（例えば判別基準）ことで、目的に応じた変量を選択することができ、ゆえに、有効な変量セット抽出（例えば散布図）を通して、結果の解釈を促進することができるという利点が得られる。
【００１６】
また、請求項４記載の発明によれば、処理対象のデータを入力するステップと、所定の基底導出法を用いて、高い固有値を持つ固有ベクトルを順に主成分数個取り出し、前記データの基底ベクトルを算出するステップと、前記基底ベクトルと内部で生成される正規直交基底ベクトルとの類似度を求めるステップと、前記類似度に対応する変量の組み合わせを求めるステップと、前記変量の組み合わせに対応する変量を最も良い選択変量として出力するステップとをコンピュータに実行させるようにしたので、変量全体のデータ構造を反映した変量を選択することができ、また、元のデータに対して基底ベクトルを求める際に、基底ベクトルの計算法を変える（例えば判別基準）ことで、目的に応じた変量を選択することができ、ゆえに、有効な変量セット抽出（例えば散布図）を通して、結果の解釈を促進することができるという利点が得られる。
【発明を実施するための最良の形態】
【００１７】
以下、本発明の実施の形態を、図面を参照して説明する。
【００１８】
Ａ．実施形態の構成
図１は、本発明の実施形態による多変量データ選択装置の構成を示すブロック図である。図において、入力部１１０は、処理対象であるデータＸ（ｎｘｐ行列）、および選択変量数ｑ、主成分数ｒを入力する。演算部１２０は、種々の処理が施され、設定した基底に応じた最適な変量を選択する。出力部１３０は、処理済のデータ行列を出力する。
【００１９】
Ｂ．本発明による多変量データ選択方法の原理
図２は、本発明の多変量データ選択方法の原理を説明するための概念図である。変量全体として見たときの有効な変量を選択するために、変量選択前と後の変量群で張られる部分空間同士の類似度を、正準角による数値で定量化し、最大の類似度を持つ変量の組み合わせを決定する。また、データの持つ情報の損失を、選択候補の変量で張られる部分空間と、変量選択前の部分空間を正準角によって直接比較することで防止する。また、主成分分析以外の手法（例えば判別分析等）によって基底を算出することで、ユーザの目的に応じた変量を選択する。
【００２０】
本発明の特長は、正準角によってデータの意味を抽出した部分空間Ｙλと部分空間Ｘ＿を直接比較することで、情報の損失が発生しないため、データの構造をより反映した変量を選択することができる。また、意味を抽出するための基底の算出方法として、クラスタリング・判別分析などの手法をプラグインすることで、目的に応じた有効な変量を選択することができる。
【００２１】
Ｃ．実施形態の動作
次に、上述した実施形態の動作について説明する。ここで、図３は、本実施形態による多変量データ選択装置の動作を説明するためのフローチャートである。また、図４は、本実施形態による多変量データ選択装置の動作を説明するための概念図である。まず、入力部１１０から、ファイル等に記載された処理対象のデータＸと、パラメータ（選択変量数ｑおよび主成分数ｒ）とを入力する（Ｓ４０）。入力データの一例を数１に示す。
【００２２】
【数１】
2005078186.tif 000003
【００２３】
次に、データＸの基底導出のために、主成分分析や判別分析の基底導出法を用いて、高い固有値を持つ固有ベクトルを順にｒ個取り出し、基底Ｙλとする（Ｓ４２）。基底の一例を数２に示す。
【００２４】
【数２】
2005078186.tif 000004
【００２５】
次に、Ｙと内部で生成される正規直交基底Ｘ＿との類似度λを求め、それに対応する変量の組み合わせＸλ＿を求める（Ｓ４４）。そして、変量の組み合わせＸλ＿に対応する変量を最も良い選択変量として出力する（Ｓ４６）。
【００２６】
次に、図５は、上述したステップＳ４４、Ｓ４６の詳細な動作を説明するためのフローチャートである。また、図６は、ステップＳ４４、Ｓ４６の詳細な動作を説明するための概念図である。まず、選択変量数ｑと全変量数ｐとから、ｐＣｑ通りの変量の組み合わせを全て求める（Ｓ５０、図６（ａ）参照）。例えば、ｑ＝２で、変量ｘ１，ｘ２，ｘ３がある場合、（ｘ１，ｘ２）（ｘ２，ｘ３）（ｘ３，ｘ１）の組み合わせが求まる。次に、ステップＳ５０の結果から、順次１つの組み合わせを取り出し、正規直交基底ＸＢを構成する（Ｓ５２、図６（ｂ）参照）。
【００２７】
次に、正規直交基底ＸＢとステップＳ４２で得られた基底Ｙとで、部分空間同士の角度λｍａｘを算出し、その値を類似度とし、例えば配列に値が上書きされないように保存しておく（Ｓ５４、図６（ｃ）参照）。次に、ステップＳ５０で求めた変量の組み合わせ全てに対して、角度λｍａｘを計算したかをチェックする（Ｓ５６）。そして、全ての組み合わせで類似度を算出していない場合には、ステップＳ５２へ戻り、上述した処理を繰り返す。一方、全ての組み合わせで類似度を算出した場合には、ステップＳ５４で保存しておいた角度λｍａｘのうち、最も高い類似度を持つ値を、最終的な類似度とし、それに対応する組み合わせと類似度を出力する（Ｓ５８、図６（ｄ）、（ｅ）参照）。
【００２８】
Ｄ．具体例
次に、本実施形態による多変量データ選択装置を用いて行なった多変量データ選択処理の具体例について説明する。本具体例では、羽アリの身体的な特長を計測したデータを用いている。データサイズはサンプル数４０、変量数１９とした。図７は、本実施形態による多変量データ選択方法により選択された変量を示す表図である。図において、○が示された変量が選択されたものである。なお、変量Ｎｏ．１８は、カテゴリデータなので、襞があるものを「１」、ないものを「０」にコード化している。また、選択する変量数ｑを４とし、使用する主成分数ｒを２とした。
【００２９】
ここで、図７に示すデータに対して、本発明の多変量データ選択方法と従来方法とを適用する。それぞれの手法によって選択された変量を用いた第一主成分（図７におけるＰＣ１に対応）、第二主成分（図７におけるＰＣ２に対応）による散布図を通して、元のすべての特徴近似の観点から、変量選択の効果を比較する。なお、以下に説明する図８、図９、図１１、図１２についても、第一主成分が「ＰＣ１」、第二主成分が「ＰＣ２」に対応する。
【００３０】
ここで、図８は、全変量を用いた散布図である。また、図９は、本実施形態による多変量データ選択方法によって選択された変量のうち、最も重要度の高い変量を用いた散布図である。図９に示すように、全変量を使わずとも、クラスタ構造は保存されており、位置関係も大きく異なっていないことが分かる。
【００３１】
また、図１０は、従来法で選択された変量を示す表図である。図において、○が示された変量が選択されたものである。また、図１１は、従来法（ＭａＣａｂｅ（１９８４））によって選択された変量を用いた散布図であり、図１２は、従来法（Ｋｒｚａｎｏｗｓｋｉ（１９８７））によって選択された変量を用いた散布図である。図１１に示すように、従来法（ＭａＣａｂｅ（１９８４））では、クラスタ構造が崩れていることが分かる。また、図１２に示すように、従来法（Ｋｒｚａｎｏｗｓｋｉ（１９８７））では、分布の距離に元の情報が十分に反映されていないことが分かる。
【００３２】
なお、上述した実施形態において、演算部１２０の機能は、図示しない記憶部に記憶されたプログラムを実行することで実現するようになっている。記憶部は、ハードディスク装置や光磁気ディスク装置、フラッシュメモリ等の不揮発性メモリやＲＡＭ（Random Access Memory）のような揮発性のメモリ、あるいはこれらの組み合わせにより構成されるものとする。また、上記記憶部とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ（ＲＡＭ）のように、一定時間プログラムを保持しているものも含む。
【００３３】
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワークや電話回線等の通信回線のように情報を伝送する機能を有する媒体のことをいう。また、上記プログラムは、上述した処理の一部を実現するためのものであってもよい。さらに、上述した処理を演算部１２０に既に記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル（差分プログラム）であってもよい。
【００３４】
以上、この発明の実施形態を図面を参照して詳述してきたが、具体的な構成は、上記実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【図面の簡単な説明】
【００３５】
【図１】本発明の実施形態による多変量データ選択装置の構成を示すブロック図である。
【図２】本発明の多変量データ選択方法の原理を説明するための概念図である。
【図３】本実施形態による多変量データ選択装置の動作を説明するためのフローチャートである。
【図４】本実施形態による多変量データ選択装置の動作を説明するための概念図である。
【図５】本実施形態の一部詳細な動作を説明するためのフローチャートである。
【図６】本実施形態の一部詳細な動作を説明するための概念図である。
【図７】本実施形態による多変量データ選択方法により選択された変量を示す表図である。
【図８】全変量を用いた散布図である。
【図９】本実施形態による多変量データ選択方法によって選択された変量のうち、最も重要度の高い変量を用いた散布図である。
【図１０】従来法で選択された変量を示す表図である。
【図１１】従来法（ＭａＣａｂｅ（１９８４））によって選択された変量を用いた散布図である。
【図１２】従来法（Ｋｒｚａｎｏｗｓｋｉ（１９８７））によって選択された変量を用いた散布図である。
【図１３】従来法（ＭｃＣａｂｅ（１９８４））の原理を示す概念図である。
【図１４】従来法（Ｋｒｚａｎｏｗｓｋｉ（１９８７））の原理を示す概念図である。
【図１５】Ｋｒｚａｎｏｗｓｋｉ法による動作を説明するためのフローチャートである。
【図１６】Ｋｒｚａｎｏｗｓｋｉ法の一部動作を詳細に説明するためのフローチャートである。
【符号の説明】
【００３６】
１１０  入力部（入力手段）
１２０  演算部（基底算出手段、類似度算出手段、変量組み合わせ算出手段、正規直交基底構成手段、角度算出手段）
１３０  出力部（出力手段）
【図１】
2005078186.tif 000005
【図２】
2005078186.tif 000006
【図３】
2005078186.tif 000007
【図４】
2005078186.tif 000008
【図５】
2005078186.tif 000009
【図６】
2005078186.tif 000010
【図７】
2005078186.tif 000011
【図８】
2005078186.tif 000012
【図９】
2005078186.tif 000013
【図１０】
2005078186.tif 000014
【図１１】
2005078186.tif 000015
【図１２】
2005078186.tif 000016
【図１３】
2005078186.tif 000017
【図１４】
2005078186.tif 000018
【図１５】
2005078186.tif 000019
【図１６】
2005078186.tif 000020