(57)【特許請求の範囲】
【請求項１】
種類を表す種類判別子付きの観測データである種類判別子付き観測データを最短距離法により分類し、収束条件として、分類の数をあらわす分類数になったところで、分類を決定する観測データ分類器と、
前記観測データ分類器により分類された種類判別子付き観測データについて共分散行列に基づく線形判別法により種類学習を行い、全データの中心を表すクラスタ中心を通るベクトルに垂直でクラスタ中心を通る直線として境界線を決定する種類学習器と、
全学習対象データの境界線からの距離の平均値ｍを求め、誤認されたデータｉの境界線からの距離ｄｉを平均値ｍで割った値ｄｉ／ｍを誤認距離ｄｎｉとして算出し、個々のデータの誤認距離ｄｎｉと事前に設定された第１の閾値とを比較し、誤認距離ｄｎｉが第１の閾値以上となったデータ数Ｎｏｖをカウントし、Ｎｏｖ×（−１）を学習評価値として算出するとともに、前記学習評価値には、誤認距離ｄｎｉが第１の閾値以上になったデータのＩＤである誤認データＩＤを付加する学習評価器と、
前記学習評価値と予め設定された第２の閾値とを比較し、前記学習評価値が第２の閾値以下の場合には、学習再実行の必要性ありと判断し、前記学習評価値に付加された誤認データＩＤに該当する種類判別子付き観測データを学習対象からはずすように、全誤認データＩＤを前記種類学習器に出力し、学習再実行が不要と判断した場合には、学習終了指示を出力する学習パラメータ変更器と、
分類毎の境界線の上側、下側のいずれの領域に属するかによって種類判別対象観測データの種類を判別する種類判別器とを備え、
前記学習パラメータ変更器から出力された全誤認データＩＤは、前記種類学習器の入力となり、再び、前記種類学習器において入力された誤認データＩＤに該当する種類判別子付き観測データを学習対象からはずして学習を行い、学習結果の出力を行い、続いて前記学習評価器において評価及び学習評価値の出力を行い、以下、前記学習パラメータ変更器において学習再実行不要と判断されるまで、前記種類学習器、前記学習評価器、及び前記学習パラメータ変更器において上記の処理を繰り返し、
前記種類学習器では、前記学習終了指示が入力されると、前記繰り返し処理で得られた種類学習結果のうち、最良の学習評価値を記録した種類学習結果を出力する
ことを特徴とする類識別装置。
【請求項２】
種類を表す種類判別子付きの観測データである種類判別子付き観測データを最短距離法により分類し、収束条件として、分類の数をあらわす分類数になったところで、分類を決定する観測データ分類器と、
前記観測データ分類器により分類された種類判別子付き観測データについて共分散行列に基づく線形判別法により種類学習を行い、全データの中心を表すクラスタ中心を通るベクトルに垂直でクラスタ中心を通る直線として境界線を決定する種類学習器と、
全学習対象データの境界線からの距離の平均値ｍを求め、誤認されたデータｉの境界線からの距離ｄｉを平均値ｍで割った値ｄｉ／ｍを誤認距離ｄｎｉとして算出し、個々のデータの誤認距離と近傍のデータの誤認距離と比較し、近傍であるにもかかわらず誤認距離の差が第１の閾値以上大きい場合に、第１の閾値を超えた誤認距離の差ｄｍｓの総和に（−１）をかけて学習評価値として算出する学習評価器と、
前記学習評価値と予め設定された第２の閾値とを比較し、前記学習評価値が第２の閾値以下の場合には、学習再実行の必要性ありと判断し、ニューラルネットワーク、サポートベクタマシンのいずれかに学習手法を変更するように前記種類学習器に指示を出力し、学習再実行が不要と判断した場合には、学習終了指示を出力する学習手法変更器と、
分類毎の境界線の上側、下側のいずれの領域に属するかによって種類判別対象観測データの種類を判別する種類判別器とを備え、
前記学習手法変更器から出力された学習手法変更指示は、前記種類学習器の入力となり、再び、前記種類学習器において学習及び学習結果の出力を行い、続いて前記学習評価器において評価及び学習評価値の出力を行い、以下、前記学習手法変更器において学習再実行不要と判断されるまで、前記種類学習器、前記学習評価器、及び前記学習手法変更器において上記の処理を繰り返し、
前記種類学習器では、前記学習終了指示が入力されると、前記繰り返し処理で得られた種類学習結果のうち、最良の学習評価値を記録した種類学習結果を出力する
ことを特徴とする類識別装置。
【請求項３】
観測データ分類器により、種類を表す種類判別子付きの観測データである種類判別子付き観測データを最短距離法により分類し、収束条件として、分類の数をあらわす分類数になったところで、分類を決定する観測データ分類ステップと、
種類学習器により、前記観測データ分類ステップにより分類された種類判別子付き観測データについて共分散行列に基づく線形判別法により種類学習を行い、全データの中心を表すクラスタ中心を通るベクトルに垂直でクラスタ中心を通る直線として境界線を決定する種類学習ステップと、
学習評価器により、全学習対象データの境界線からの距離の平均値ｍを求め、誤認されたデータｉの境界線からの距離ｄｉを平均値ｍで割った値ｄｉ／ｍを誤認距離ｄｎｉとして算出し、個々のデータの誤認距離ｄｎｉと事前に設定された第１の閾値とを比較し、誤認距離ｄｎｉが第１の閾値以上となったデータ数Ｎｏｖをカウントし、Ｎｏｖ×（−１）を学習評価値として算出するとともに、前記学習評価値には、誤認距離ｄｎｉが第１の閾値以上になったデータのＩＤである誤認データＩＤを付加する学習評価ステップと、
学習パラメータ変更器により、前記学習評価値と予め設定された第２の閾値とを比較し、前記学習評価値が第２の閾値以下の場合には、学習再実行の必要性ありと判断し、前記学習評価値に付加された誤認データＩＤに該当する種類判別子付き観測データを学習対象からはずすように、全誤認データＩＤを前記種類学習ステップに出力し、学習再実行が不要と判断した場合には、学習終了指示を出力する学習パラメータ変更ステップと、
種類判別器により、分類毎の境界線の上側、下側のいずれの領域に属するかによって種類判別対象観測データの種類を判別する種類判別ステップとを含み、
前記学習パラメータ変更ステップから出力された全誤認データＩＤは、前記種類学習ステップの入力となり、再び、前記種類学習ステップにおいて入力された誤認データＩＤに該当する種類判別子付き観測データを学習対象からはずして学習を行い、学習結果の出力を行い、続いて前記学習評価ステップにおいて評価及び学習評価値の出力を行い、以下、前記学習パラメータ変更ステップにおいて学習再実行不要と判断されるまで、前記種類学習ステップ、前記学習評価ステップ、及び前記学習パラメータ変更ステップにおいて上記の処理を繰り返し、
前記種類学習ステップでは、前記学習終了指示が入力されると、前記繰り返し処理で得られた種類学習結果のうち、最良の学習評価値を記録した種類学習結果を出力する
ことを特徴とする類識別方法。
【請求項４】
観測データ分類器により、種類を表す種類判別子付きの観測データである種類判別子付き観測データを最短距離法により分類し、収束条件として、分類の数をあらわす分類数になったところで、分類を決定する観測データ分類ステップと、
種類学習器により、前記観測データ分類ステップにより分類された種類判別子付き観測データについて共分散行列に基づく線形判別法により種類学習を行い、全データの中心を表すクラスタ中心を通るベクトルに垂直でクラスタ中心を通る直線として境界線を決定する種類学習ステップと、
学習評価器により、全学習対象データの境界線からの距離の平均値ｍを求め、誤認されたデータｉの境界線からの距離ｄｉを平均値ｍで割った値ｄｉ／ｍを誤認距離ｄｎｉとして算出し、個々のデータの誤認距離と近傍のデータの誤認距離と比較し、近傍であるにもかかわらず誤認距離の差が第１の閾値以上大きい場合に、第１の閾値を超えた誤認距離の差ｄｍｓの総和に（−１）をかけて学習評価値として算出する学習評価ステップと、
学習手法変更器により、前記学習評価値と予め設定された第２の閾値とを比較し、前記学習評価値が第２の閾値以下の場合には、学習再実行の必要性ありと判断し、ニューラルネットワーク、サポートベクタマシンのいずれかに学習手法を変更するように前記種類学習ステップに指示を出力し、学習再実行が不要と判断した場合には、学習終了指示を出力する学習手法変更ステップと、
種類判別器により、分類毎の境界線の上側、下側のいずれの領域に属するかによって種類判別対象観測データの種類を判別する種類判別ステップとを含み、
前記学習手法変更ステップから出力された学習手法変更指示は、前記種類学習ステップの入力となり、再び、前記種類学習ステップにおいて学習及び学習結果の出力を行い、続いて前記学習評価ステップにおいて評価及び学習評価値の出力を行い、以下、前記学習手法変更ステップにおいて学習再実行不要と判断されるまで、前記種類学習ステップ、前記学習評価ステップ、及び前記学習手法変更ステップにおいて上記の処理を繰り返し、
前記種類学習ステップでは、前記学習終了指示が入力されると、前記繰り返し処理で得られた種類学習結果のうち、最良の学習評価値を記録した種類学習結果を出力する
ことを特徴とする類識別方法。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
この発明は、類識別対象物の種類を決定する類識別問題を対象とし、さらに詳しくは前記類識別対象物の種類を解として求める類識別装置及び類識別方法に関するものである。
【０００２】
【従来の技術】
類識別問題の例として、航空機の類識別問題について考える。
【０００３】
従来の類識別装置について図面を参照しながら説明する。図６は、例えば『
依田育士、坂上勝彦著「３次元動き情報を利用した複数対象物の抽出とその実時間認識」電子情報通信学会論文誌Ｄ−ＩＩ、１９９８年９月号Ｖｏｌ．Ｊ８１−Ｄ−ＩＩ、Ｎｏ．９、ｐｐ．２０４３−２０５１』に示された航空機の類識別を行う従来の類識別装置の構成を示す図である。
【０００４】
図６において、２は種類学習器、３は種類判別器、６は従来の類識別装置、９は種類判別子付き観測データファイル、７１は学習パラメータファイル、１０は種類判別対象観測データファイル、１１は種類判別結果ファイルである。
【０００５】
つぎに、従来の類識別装置の動作について図面を参照しながら説明する。
【０００６】
図７は、従来の類識別装置の動作を示す図である。
【０００７】
まず、類識別装置６の種類学習器２において、学習パラメータファイル７１から出力される学習パラメータを第一の入力とし、種類判別子付き観測データファイル９から出力される種類判別子付き観測データを第二の入力として、上記種類判別子付き観測データに基づき種類学習を行い、種類学習の結果である種類学習結果を出力する。
【０００８】
従来行われてきた境界線決めを行う学習手法としては、線形判別法がある。この線形判別法にはいくつかの手法があるが、ここでは、共分散行列に基づく線形判別法を用いる。共分散行列に基づく線形判別法とは、異なる種類のデータ同士はできるだけ離れ、同一種類のデータ同士はなるべく近くに分布するように、全データの中心を表すクラスタ中心を通るベクトルｗにデータを射影して判別分析を行う方法であり、各データの射影結果ｙと各種類の平均ベクトルの射影結果ｙｋとを比較し、最も近いｙｋを持つ種類に属するものとする。境界はベクトルｗに垂直でクラスタ中心を通る直線として定義される。
【０００９】
図７の左図に、線形判別法による境界決定例を示す。『△』は種類１の教師データ、『黒□』は種類２の教師データであるとすると、図７の左図のように境界線が決定される。なお、図面上では黒い正方形を、電子出願では使用不可のため、『黒□』と記述する。『黒▽』も同様である。
【００１０】
類識別装置６の種類判別器３では、種類学習器２から出力される種類学習結果を第一の入力とし、種類判別対象観測データファイル１０から出力される種類判別対象観測データを第二の入力として、上記種類学習結果に基づき上記種類判別対象観測データの種類判別を行い、結果を種類判別結果として出力する。この出力は、従来の類識別装置６全体の出力となり、種類判別結果ファイル１１に入力される。
【００１１】
図７の右図に、種類判別を行う例を示す。種類学習結果として求められた境界線に基づき、種類を判別する。図７の右図で、『△』が含まれる領域に属する種類判別対象観測データを種類１、『黒□』が含まれる領域に属する種類判別対象観測データを種類２と判別する。今、種類が未定であるデータ『黒▽』と、『◇』と、『＊』に対して種類判別を行う。『黒▽』と『◇』はそれぞれ種類１、種類２に属するデータであり、『＊』は種類１、種類２のどちらでもない未知の種類のデータであるとする。図７の右図において、多くの『黒▽』と『◇』はそれぞれ種類１、種類２と正しく判別されるが、いくつかは間違って判別されている。また、『＊』に対しても、未知の種類であるにもかかわらず、種類２であると判別されてしまう。
【００１２】
以上より、上記従来の類識別装置６では、境界線付近では正しく判別されないデータが存在する可能性が高いことがわかる。このような誤った判別結果が得られた場合、一般的に、新たな種類判別子付き観測データを使って、最初から全処理をやり直す場合が多い。しかし、例えば、種類判別子付き観測データが豊富でない場合などデータの変更ができない場合もあり得る。
【００１３】
【発明が解決しようとする課題】
上述したような従来の類識別装置では、境界線付近では正しく判別されないデータが存在する可能性が高いという問題点があった。
【００１４】
この発明は、前述した問題点を解決するためになされたもので、種類判別結果の精度が悪い場合に、種類学習のためのデータである種類判別子付き観測データを変更することなく、種類判別精度を上げることが可能な類識別装置及び類識別方法を得ることを目的とする。
【００１５】
【課題を解決するための手段】
この発明の請求項１に係る類識別装置は、種類を表す種類判別子付きの観測データである種類判別子付き観測データを最短距離法により分類し、収束条件として、分類の数をあらわす分類数になったところで、分類を決定する観測データ分類器と、前記観測データ分類器により分類された種類判別子付き観測データについて共分散行列に基づく線形判別法により種類学習を行い、全データの中心を表すクラスタ中心を通るベクトルに垂直でクラスタ中心を通る直線として境界線を決定する種類学習器と、全学習対象データの境界線からの距離の平均値ｍを求め、誤認されたデータｉの境界線からの距離ｄｉを平均値ｍで割った値ｄｉ／ｍを誤認距離ｄｎｉとして算出し、個々のデータの誤認距離ｄｎｉと事前に設定された第１の閾値とを比較し、誤認距離ｄｎｉが第１の閾値以上となったデータ数Ｎｏｖをカウントし、Ｎｏｖ×（−１）を学習評価値として算出するとともに、前記学習評価値には、誤認距離ｄｎｉが第１の閾値以上になったデータのＩＤである誤認データＩＤを付加する学習評価器と、前記学習評価値と予め設定された第２の閾値とを比較し、前記学習評価値が第２の閾値以下の場合には、学習再実行の必要性ありと判断し、前記学習評価値に付加された誤認データＩＤに該当する種類判別子付き観測データを学習対象からはずすように、全誤認データＩＤを前記種類学習器に出力し、学習再実行が不要と判断した場合には、学習終了指示を出力する学習パラメータ変更器と、分類毎の境界線の上側、下側のいずれの領域に属するかによって種類判別対象観測データの種類を判別する種類判別器とを備え、前記学習パラメータ変更器から出力された全誤認データＩＤは、前記種類学習器の入力となり、再び、前記種類学習器において入力された誤認データＩＤに該当する種類判別子付き観測データを学習対象からはずして学習を行い、学習結果の出力を行い、続いて前記学習評価器において評価及び学習評価値の出力を行い、以下、前記学習パラメータ変更器において学習再実行不要と判断されるまで、前記種類学習器、前記学習評価器、及び前記学習パラメータ変更器において上記の処理を繰り返し、前記種類学習器では、前記学習終了指示が入力されると、前記繰り返し処理で得られた種類学習結果のうち、最良の学習評価値を記録した種類学習結果を出力するものである。
【００１６】
この発明の請求項２に係る類識別装置は、種類を表す種類判別子付きの観測データである種類判別子付き観測データを最短距離法により分類し、収束条件として、分類の数をあらわす分類数になったところで、分類を決定する観測データ分類器と、前記観測データ分類器により分類された種類判別子付き観測データについて共分散行列に基づく線形判別法により種類学習を行い、全データの中心を表すクラスタ中心を通るベクトルに垂直でクラスタ中心を通る直線として境界線を決定する種類学習器と、全学習対象データの境界線からの距離の平均値ｍを求め、誤認されたデータｉの境界線からの距離ｄｉを平均値ｍで割った値ｄｉ／ｍを誤認距離ｄｎｉとして算出し、個々のデータの誤認距離と近傍のデータの誤認距離と比較し、近傍であるにもかかわらず誤認距離の差が第１の閾値以上大きい場合に、第１の閾値を超えた誤認距離の差ｄｍｓの総和に（−１）をかけて学習評価値として算出する学習評価器と、前記学習評価値と予め設定された第２の閾値とを比較し、前記学習評価値が第２の閾値以下の場合には、学習再実行の必要性ありと判断し、ニューラルネットワーク、サポートベクタマシンのいずれかに学習手法を変更するように前記種類学習器に指示を出力し、学習再実行が不要と判断した場合には、学習終了指示を出力する学習手法変更器と、分類毎の境界線の上側、下側のいずれの領域に属するかによって種類判別対象観測データの種類を判別する種類判別器とを備え、前記学習手法変更器から出力された学習手法変更指示は、前記種類学習器の入力となり、再び、前記種類学習器において学習及び学習結果の出力を行い、続いて前記学習評価器において評価及び学習評価値の出力を行い、以下、前記学習手法変更器において学習再実行不要と判断されるまで、前記種類学習器、前記学習評価器、及び前記学習手法変更器において上記の処理を繰り返し、前記種類学習器では、前記学習終了指示が入力されると、前記繰り返し処理で得られた種類学習結果のうち、最良の学習評価値を記録した種類学習結果を出力するものである。
【００１７】
この発明の請求項３に係る類識別方法は、観測データ分類器により、種類を表す種類判別子付きの観測データである種類判別子付き観測データを最短距離法により分類し、収束条件として、分類の数をあらわす分類数になったところで、分類を決定する観測データ分類ステップと、種類学習器により、前記観測データ分類ステップにより分類された種類判別子付き観測データについて共分散行列に基づく線形判別法により種類学習を行い、全データの中心を表すクラスタ中心を通るベクトルに垂直でクラスタ中心を通る直線として境界線を決定する種類学習ステップと、学習評価器により、全学習対象データの境界線からの距離の平均値ｍを求め、誤認されたデータｉの境界線からの距離ｄｉを平均値ｍで割った値ｄｉ／ｍを誤認距離ｄｎｉとして算出し、個々のデータの誤認距離ｄｎｉと事前に設定された第１の閾値とを比較し、誤認距離ｄｎｉが第１の閾値以上となったデータ数Ｎｏｖをカウントし、Ｎｏｖ×（−１）を学習評価値として算出するとともに、前記学習評価値には、誤認距離ｄｎｉが第１の閾値以上になったデータのＩＤである誤認データＩＤを付加する学習評価ステップと、学習パラメータ変更器により、前記学習評価値と予め設定された第２の閾値とを比較し、前記学習評価値が第２の閾値以下の場合には、学習再実行の必要性ありと判断し、前記学習評価値に付加された誤認データＩＤに該当する種類判別子付き観測データを学習対象からはずすように、全誤認データＩＤを前記種類学習ステップに出力し、学習再実行が不要と判断した場合には、学習終了指示を出力する学習パラメータ変更ステップと、種類判別器により、分類毎の境界線の上側、下側のいずれの領域に属するかによって種類判別対象観測データの種類を判別する種類判別ステップとを含み、前記学習パラメータ変更ステップから出力された全誤認データＩＤは、前記種類学習ステップの入力となり、再び、前記種類学習ステップにおいて入力された誤認データＩＤに該当する種類判別子付き観測データを学習対象からはずして学習を行い、学習結果の出力を行い、続いて前記学習評価ステップにおいて評価及び学習評価値の出力を行い、以下、前記学習パラメータ変更ステップにおいて学習再実行不要と判断されるまで、前記種類学習ステップ、前記学習評価ステップ、及び前記学習パラメータ変更ステップにおいて上記の処理を繰り返し、前記種類学習ステップでは、前記学習終了指示が入力されると、前記繰り返し処理で得られた種類学習結果のうち、最良の学習評価値を記録した種類学習結果を出力するものである。
【００１８】
この発明の請求項４に係る類識別方法は、観測データ分類器により、種類を表す種類判別子付きの観測データである種類判別子付き観測データを最短距離法により分類し、収束条件として、分類の数をあらわす分類数になったところで、分類を決定する観測データ分類ステップと、種類学習器により、前記観測データ分類ステップにより分類された種類判別子付き観測データについて共分散行列に基づく線形判別法により種類学習を行い、全データの中心を表すクラスタ中心を通るベクトルに垂直でクラスタ中心を通る直線として境界線を決定する種類学習ステップと、学習評価器により、全学習対象データの境界線からの距離の平均値ｍを求め、誤認されたデータｉの境界線からの距離ｄｉを平均値ｍで割った値ｄｉ／ｍを誤認距離ｄｎｉとして算出し、個々のデータの誤認距離と近傍のデータの誤認距離と比較し、近傍であるにもかかわらず誤認距離の差が第１の閾値以上大きい場合に、第１の閾値を超えた誤認距離の差ｄｍｓの総和に（−１）をかけて学習評価値として算出する学習評価ステップと、学習手法変更器により、前記学習評価値と予め設定された第２の閾値とを比較し、前記学習評価値が第２の閾値以下の場合には、学習再実行の必要性ありと判断し、ニューラルネットワーク、サポートベクタマシンのいずれかに学習手法を変更するように前記種類学習ステップに指示を出力し、学習再実行が不要と判断した場合には、学習終了指示を出力する学習手法変更ステップと、種類判別器により、分類毎の境界線の上側、下側のいずれの領域に属するかによって種類判別対象観測データの種類を判別する種類判別ステップとを含み、前記学習手法変更ステップから出力された学習手法変更指示は、前記種類学習ステップの入力となり、再び、前記種類学習ステップにおいて学習及び学習結果の出力を行い、続いて前記学習評価ステップにおいて評価及び学習評価値の出力を行い、以下、前記学習手法変更ステップにおいて学習再実行不要と判断されるまで、前記種類学習ステップ、前記学習評価ステップ、及び前記学習手法変更ステップにおいて上記の処理を繰り返し、前記種類学習ステップでは、前記学習終了指示が入力されると、前記繰り返し処理で得られた種類学習結果のうち、最良の学習評価値を記録した種類学習結果を出力するものである。
【００２７】
【発明の実施の形態】
実施の形態１．
この発明の実施の形態１に係る類識別装置及び類識別方法について図面を参照しながら説明する。図１は、この発明の実施の形態１に係る類識別装置の構成を示す図である。なお、各図中、同一符号は同一又は相当部分を示す。
【００２８】
図１において、１は観測データ分類器、２は種類学習器、３は種類判別器、４は学習再実行指示生成器、５は学習評価器、６Ａは類識別装置、７１は学習パラメータファイル、７２は分類パラメータファイル、９は種類判別子付き観測データファイル、１０は種類判別対象観測データファイル、１１は種類判別結果ファイルである。また、学習再実行指示生成器４は、学習パラメータ変更器４１を有する。
【００２９】
つぎに、この実施の形態１に係る類識別装置の動作について図面を参照しながら説明する。
【００３０】
図２及び図３は、この発明の実施の形態１に係る類識別装置の動作を示す図である。
【００３１】
まず、観測データ分類器１では、類識別装置６Ａ全体の入力として分類パラメータファイル７２から出力される分類するためのパラメータである分類パラメータを第一の入力とし、同じく類識別装置６Ａ全体の入力として種類判別子付き観測データファイル９から出力される、種類を表す種類判別子付きの観測データである種類判別子付き観測データを第二の入力とし、上記種類判別子付き観測データの分類結果である観測データ分類結果を出力する。分類パラメータとしては、たとえば、分類の数をあらわす分類数や、分類に必要なパラメータの初期値を決定するための乱数のシード値や、分類手法に特化したパラメータ等がある。
【００３２】
種類判別子付き観測データの分類例を示す。本実施の形態１では、分類手法として、一般的な分類問題によく用いられる手法である最短距離法（nearest neighbor method）を適用する。この最短距離法では、初期設定として、個々の観測データをそれぞれが独立した１つの分類とみなし、分類間の類似度をそれぞれの分類に属する任意の観測データ間の類似度の最大値であらわす。次に、類似度の最も大きい分類同士を結合し、再び類似度を計算する。以下、分類の結合と類似度の計算を繰り返し、収束条件を満たしたところで、分類を決定する方法である。収束条件としては、全分類間の類似度が事前に設定した閾値以下になることや、同様に事前に設定した分類数になる等がある。観測データ間の類似度は、属性値の一致の度合いから算出する。この場合の分類パラメータとしては、類似度の閾値などがある。『△』と『黒□』の１５個の観測データに対して分類を行った結果を図２の左図に示す。
【００３３】
次に、種類学習器２において、学習パラメータファイル７１から出力される学習パラメータを第一の入力とし、種類判別子付き観測データファイル９から出力される種類判別子付き観測データを第二の入力とし、観測データ分類器１から出力される観測データ分類結果を第三の入力として、観測データ分類結果で示される各分類内で、種類判別子付き観測データに基づき種類学習を行い、種類学習の結果である種類学習結果を出力する。
【００３４】
種類学習を行う例を示す。本実施の形態１では、学習手法として境界線を決定する手法である線形判別法を適用する。この線形判別法にはいくつかの手法があるが、ここでは共分散行列に基づく線形判別法を用いる。共分散行列に基づく線形判別法とは、異なる種類のデータ同士はできるだけ離れ、同一種類のデータ同士はなるべく近くに分布するように、全データの中心を表すクラスタ中心を通るベクトルｗにデータを射影して判別分析を行う方法であり、各データの射影結果ｙと各種類の平均ベクトルの射影結果ｙｋとを比較し、最も近い射影結果ｙｋを持つ種類に属するものとする。境界は、ベクトルｗに垂直でクラスタ中心を通る直線として定義される。図２の中央の図に線形判別法による種類学習例を示す。『△』は種類１の教師データ、『黒□』は種類２の教師データであるとすると、種類学習により、図２の中央の図のように境界線が決定される。
【００３５】
学習評価器５では、種類学習器２から出力される種類学習結果を第一の入力とし、上記種類学習結果の評価を行い、結果を学習評価値として出力する。
【００３６】
学習評価方法の第一の例としては、学習対象としたデータを含む全ての種類判別子付き観測データの所属状態から、誤認の度合いを示す誤認距離を算出し、個々の誤認距離に基づき学習評価値を算出する。
【００３７】
具体的には、まず、学習対象としたデータを含む全ての種類判別子付きデータに対して、種類判別を行い、誤って判別されたデータの境界線からの距離から誤認距離を算出する。この誤認距離の算出方法としては、全学習対象データの境界線からの距離の平均値ｍを求め、誤認されたデータｉの境界線からの距離ｄｉを平均値ｍで割った値ｄｉ／ｍを誤認距離ｄｎｉとする。次に、個々のデータの誤認距離ｄｎｉと事前に設定された閾値とを比較し、閾値以上となったデータ数Ｎｏｖをカウントし、Ｎｏｖ×（−１）を学習評価値とする。なお、学習評価値には、誤認距離ｄｎｉが閾値以上になったデータのＩＤである誤認データＩＤも付加する。
【００３８】
例えば、図３において、『△』、『黒□』を学習に適用した種類判別子付き観測データ、『黒▽』、『◇』を学習の対象外の種類判別子付き観測データであるとすると、１９個中３個が誤った種類の境界領域に位置する。今、誤認したデータと境界線との距離がそれぞれｄ１＝２、ｄ２＝５、ｄ３＝２で、全学習対象データの境界線からの距離の平均値ｍ＝１０、閾値ｖａｒ＝０．３とする。誤認距離は、それぞれｄｎ１＝０．２、ｄｎ２＝０．５、ｄｎ３＝０．２となり、したがって閾値を超えるのは距離がｄ２のデータのみとなり、学習評価値はＥｌ１＝１×（−１）＝−１となる。なおこの場合、学習評価値は０が最良であり、値が大きいほど評価値は悪くなる。
【００３９】
このように、学習対象としたデータを含む全ての上記種類判別子付き観測データのうち、誤認であると判定されたデータに対し、上記学習結果で示される境界線からの距離を用いて、誤認の度合いを示す誤認距離を算出し、個々の上記種類判別子付き観測データの誤認距離に基づき上記学習評価値を算出することにより、誤認の度合いが強いデータを把握し、学習へフィードバックすることが可能になる。
【００４０】
学習再実行指示生成器４では、学習評価器５から出力される学習評価値を第一の入力とし、学習パラメータファイル７１から出力される学習パラメータを第二の入力として、学習再実行の必要性を判断し、学習再実行パラメータを出力する。判断の仕方としては、あらかじめ設定されていた閾値と学習評価値とを比較し、閾値以下の場合に再実行とする。閾値は、学習パラメータの一つとしてユーザが設定するか、あるいは、学習結果の評価方法に応じて、あらかじめシステムが決めておく。
【００４１】
次に、学習再実行の必要性ありと判断された場合の学習再実行パラメータの例として、学習再実行指示生成器４を構成する学習パラメータ変更器４１において、学習パラメータを変更して学習パラメータ変更値を求める場合を示す。学習パラメータとしては、乱数のシード値や学習手法に特化したパラメータ等があるが、ここでは学習対象となる種類判別子付き観測データを変更する場合の例を示す。
【００４２】
具体的には、前述の学習評価方法例において、学習評価値に付随して出力された誤認データＩＤに該当する種類判別子付き観測データを、学習対象からはずす方法が考えられる。学習パラメータ変更器４１では、全誤認データＩＤを学習パラメータ変更値として出力し、種類学習器２では、学習パラメータ変更値として入力された誤認データＩＤに該当する種類判別子付き観測データを学習対象からはずして、学習を行う。
【００４３】
このように、初期設定として与えられた学習対象データなどの学習パラメータを変更して、学習し直すことにより、より良い学習結果が期待できる。
【００４４】
学習再実行指示生成器４から出力された学習再実行パラメータは、種類学習器２の入力となり、再び、種類学習器２において学習及び学習結果の出力を行い、続いて学習評価器５において評価及び学習評価値の出力を行う。以下、学習再実行指示生成器４において学習再実行不要と判断されるまで、種類学習器２、学習評価器５、及び学習再実行指示生成器４において上記の処理を繰り返す。学習再実行指示生成器４において、学習再実行不要と判断されたところで、学習終了指示が学習再実行パラメータとして出力される。種類学習器２では、学習再実行指示生成器４から出力された学習終了指示が入力されると、種類学習結果を種類判別器３に出力する。
【００４５】
学習再実行指示生成器４は、学習評価値が事前に設定されていたある閾値以上になるか、あるいは事前に設定されていたある回数を超えたところで、再実行不要と判断する。また、種類学習器２は、上記繰り返し処理で得られた種類学習結果のうち、最良の学習評価値を記録した種類学習結果を出力する。
【００４６】
種類判別器３では、種類学習器２から出力される種類学習結果を第一の入力とし、種類判別対象観測データファイル１０から出力される種類判別対象観測データを第二の入力として、種類学習結果に基づき種類判別対象観測データの種類判別を行い、結果を種類判別結果として出力する。この出力は、本発明の類識別装置６Ａ全体の出力となり、種類判別結果ファイル１１に入力される。
【００４７】
図２の右図に種類判別を行う例を示す。種類学習結果として求められた境界線に基づき、種類を判別する。図２の右図で『△』が多く属する境界線の上側の領域を種類１の境界領域、逆に『黒□』が多く属する境界線の下側の領域を種類２の境界領域とし、いずれの領域に属するかによって種類判別対象観測データの種類を判別する。図２の右図において、『黒▽』と『◇』は種類が未定の観測データであり、『黒▽』と『◇』がそれぞれ種類１、種類２と判別される。
【００４８】
以上のように、本発明の実施の形態１で示した類識別装置６Ａによれば、種類学習結果を評価し、個々の種類学習結果の状況に応じて、学習段階からやり直すことにより、質の高い種類学習結果を得ることができ、その結果として質の高い種類判別を期待できる。
【００４９】
また、学習パラメータ変更器４１において、初期設定として与えられた学習対象データなどの学習パラメータを変更して、学習し直すことにより、より良い学習結果が期待できる。
【００５０】
さらに、学習評価器５において、学習対象としたデータを含む全ての上記種類判別子付き観測データのうち、誤認であると判定されたデータに対し、上記学習結果で示される境界線からの距離を用いて、誤認の度合いを示す誤認距離を算出し、個々の上記種類判別子付き観測データの誤認距離に基づき上記学習評価値を算出することにより、誤認の度合いが強いデータを把握し、学習へフィードバックすることが可能になる。具体的には、誤認の度合いが大きいデータを学習対象データからはずすこと等が可能となり、これは学習精度の向上につながる。
【００５１】
実施の形態２．
この発明の実施の形態２に係る類識別装置及び類識別方法について図面を参照しながら説明する。図４は、この発明の実施の形態２に係る類識別装置の構成を示す図である。
【００５２】
図４において、１は観測データ分類器、２は種類学習器、３は種類判別器、４は学習再実行指示生成器、５は学習評価器、６Ｂは類識別装置、７１は学習パラメータファイル、７２は分類パラメータファイル、９は種類判別子付き観測データファイル、１０は種類判別対象観測データファイル、１１は種類判別結果ファイルである。また、学習再実行指示生成器４は、学習手法変更器４２を有する。
【００５３】
つぎに、この実施の形態２に係る類識別装置の動作について図面を参照しながら説明する。
【００５４】
上記実施の形態１では、学習評価器５において、学習対象としたデータを含む全ての上記種類判別子付き観測データのうち、誤認であると判定されたデータの個々の誤認距離に基づいて学習評価値を算出後、学習再実行指示生成器４を構成する学習パラメータ変更器４１により学習パラメータを変更して学習再実行を行う例を示したが、本実施の形態２では、上記誤認距離の分布状況に基づいて上記学習評価値を算出後、上記学習評価値に基づき、学習再実行指示生成器４を構成する学習手法変更器４２によって学習手法を変更して学習再実行を行う例を示す。
【００５５】
学習評価方法の第二の例としては、学習対象としたデータを含む全ての種類判別子付き観測データの所属状態から、誤認の度合いを示す誤認距離を算出し、誤認距離の分布状況に基づき学習評価値を算出する。
【００５６】
具体的には、まず、学習対象としたデータを含む全ての種類判別子付き観測データに対して、種類判別を行い、誤って判別されたデータの境界線からの距離から誤認距離を算出する。誤認距離の算出方法としては、全学習対象データの境界線からの距離の平均値ｍを求め、誤認されたデータｉの境界線からの距離ｄｉをｍで割った値ｄｉ／ｍを誤認距離ｄｎｉとする。
【００５７】
次に、個々のデータの誤認距離を近傍のデータの誤認距離と比較し、近傍であるにもかかわらず誤認距離の差がある閾値以上大きい場合や、近傍のデータの誤認距離がある閾値を超えた幅で振動しているような場合に、学習評価値を誤認距離の差や、振動の幅から算出する。
【００５８】
具体的には、閾値を超えた誤認距離の差ｄｍｓや、振動の幅ｓｗの総和に（−１）をかけたものを学習評価値とする方法などがある。また、学習評価値には、いずれの近傍データ群において閾値を超えた誤認距離の差ｄｍｓ、振動の幅ｓｗが発生したかを示す誤認近傍データＩＤ群を付加する。
【００５９】
図５では、△が種類１、◇が種類２の種類判別子付き観測データであり、左図において種類２が３個、右図において種類１が３個、誤った境界領域に属している。今、誤認距離の振動の閾値を０．５、誤認距離の差の閾値を１．０とする。ｄ１〜ｄ６はそれぞれの境界線からの距離であり、それぞれｄ１＝１、ｄ２＝５、ｄ３＝２、ｄ４＝１、ｄ５＝６、ｄ６＝１２、ｍ＝４とすると、誤認距離はそれぞれｄｎ１＝０．２５、ｄｎ２＝１．２５、ｄｎ３＝０．５、ｄｎ４＝０．２５、ｄｎ５＝１．５、ｄｎ６＝３．０となる。ここで、ｄｎ１、ｄｎ２、ｄｎ３で表されるデータを近傍１、ｄｎ４、ｄｎ５、ｄｎ６で表されるデータを近傍２とすると、近傍１ではｄｎ１とｄｎ２の誤認距離の差１．０が閾値０．５以上であり、同様にｄｎ２とｄｎ３の差０．７５も閾値０．５を超えているため、近傍１では誤認距離の振動が起きている。また、近傍２ではｄｎ４からｄｎ６にかけて誤認距離が差１．２５、１．５ずつ大きくなっており、これも誤認距離の差の閾値１．０を超えている。これより、学習評価値は、−１．０×（１．０＋０．７５＋１．２５＋１．５）＝−４．５となる。
【００６０】
ここで、図５からもわかるように、近傍のデータ同士の誤認距離の差や、誤認距離の振動幅が大きい場合、境界が曲線などの非線形な関数で定義をした方がより適切な境界定義となることが予想される。ところが、上述の線形判別法による学習では、必ず境界は線形な関数、すなわち直線で定義されるため、必ずしも適切な境界が得られない。以上の点を踏まえて、誤認距離の差や振動幅と、該当するデータの個数に応じて学習評価値が悪くなるように設定した。
【００６１】
このように、学習対象としたデータを含む全ての上記種類判別子付き観測データのうち、誤認であると判定されたデータに対し、上記学習結果で示される境界線からの距離を用いて、誤認の度合いを示す誤認距離を算出し、上記誤認距離の分布状況に基づき上記学習評価値を算出することにより、境界線の形状が線形もしくは非線形のどちらであるかを判断する基準の一つを得ることができ、学習の質の向上につながる。
【００６２】
次に、学習再実行指示生成器４を構成する学習手法変更器４２では、上記実施の形態１と同様に、上記学習評価値を入力とし、学習再実行の必要性を判断する。例えば、事前に設定されている閾値との比較で学習評価値が閾値以上の場合には、学習再実行の必要性ありと判断する。
【００６３】
以下、学習再実行の必要性ありの場合に、学習再実行指示生成器４を構成する学習手法変更器４２において、学習手法変更を指示する学習手法変更指示を学習再実行パラメータとして出力する例を示す。
【００６４】
第一の学習手法変更例として、上記実施の形態１で示した線形判別法から、ニューラルネットワークに変更する場合の例を以下に示す。
【００６５】
このニューラルネットワークとは、生命の神経回路網を模倣した学習手法であり、教師データに基づき、最終的に最適な種類間の境界を決定する。この場合の学習パラメータとしては、ニューロンが発火する際の閾値や、ニューロンの数などの手法に特化したものがある。
【００６６】
ニューラルネットワークと前述の共分散行列に基づく線形判別法との大きな違いは、共分散行列に基づく線形判別法では種類間の境界を線形に決定する、すなわち直線で定義するのに対し、ニューラルネットワークでは曲線などの非線形な境界の定義が可能な点である。したがって、上述の学習評価方法例のように、境界が非線形になることが予測されるような場合に有用である。
【００６７】
このように、新たな学習手法としてニューラルネットワークを適用することにより、境界が非線形となることが予想されるような場合に、観測データの分布状況に適した境界線決定が可能となる。
【００６８】
次に、第二の学習手法変更例として、学習手法をサポートベクタマシンに変更する場合の例を以下に示す。
【００６９】
このサポートベクタマシンは、線形判別法の変形手法の一つとして考えられている。前述の共分散行列に基づく線形判別法等の一般的な線形判別法とサポートベクタマシンとの違いは、カーネル関数とよばれる関数の線形和で学習に必要な関数を表すことにより、非線形な境界定義が可能な点である。カーネル関数は複数種類存在し、学習パラメータにおいて、いずれのカーネルを選択するかを指定する。
【００７０】
また、同じく非線形な境界が定義可能なニューラルネットワークとサポートベクタマシンとの違いは、サポートベクタマシンでは決定的に厳密解が求まる点である。これに対し、ニューラルネットワークのような最適化手法と呼ばれる手法は、できるだけ最適に近い境界を、実使用に耐えうる時間内で求めるのに適した手法と考えられており、したがって、必ずしも厳密解は求まらない。これより、厳密解が必要とされる問題においては、サポートベクタマシンのような手法が有用といえる。
【００７１】
このように、新たな学習手法としてサポートベクタマシンを適用することにより、境界が非線形となることが予想される場合や、厳密解が必要とされる場合に、精度の良い境界を得ることができる。
【００７２】
ここで、サポートベクタマシンの問題点について考える。カーネル関数を用いることにより、非線形な境界を定義可能であることは、サポートベクタマシンの長所である反面、カーネルの選択を行う際に、不適切なカーネルを選択してしまうと、観測データの分布状況に不適切な境界しか定義できなくなってしまう危険性がある。これに対し、ニューラルネットワークによる学習では、学習パラメータとして設定するのは細かな学習に特化したパラメータのみで、境界の形状は常にある程度、観測データの分布状況を踏まえた形となる。したがって、厳密解が必ずしも必要ではなく、適当な初期設定である程度の解が必要な場合には、サポートベクタマシンよりもニューラルネットワークの方が有用といえる。
【００７３】
以上のように、本発明の実施の形態２で示した類識別装置６Ｂによれば、学習対象としたデータを含む全ての上記種類判別子付き観測データのうち、誤認であると判定されたデータに対し、上記学習結果で示される境界線からの距離を用いて、誤認の度合いを示す誤認距離を算出し、上記誤認距離の分布状況に基づき上記学習評価値を算出することにより、境界線の形状が線形もしくは非線形のどちらであるかを判断する基準の一つを得ることができ、学習の質の向上につながる。
【００７４】
また、学習手法変更器４２において、問題の性質に応じて、学習手法を変更することにより、より良い学習結果が期待できる。
【００７５】
また、同じく学習手法変更器４２において、新たな学習手法としてニューラルネットワークを適用することにより、観測データの分布状況により適した境界決定が可能となる。さらに、厳密解が必ずしも必要ではなく、適当な初期設定で、ある程度の解が必要な場合に、比較的精度の良い境界を得ることができる。
【００７６】
さらに、同じく学習手法変更器４２において、新たな学習手法としてサポートベクタマシンを適用することにより、境界が非線形となることが予想される場合や、厳密解が必要とされる場合に、精度の良い境界を得ることができる。
【００７７】
なお、本発明は航空機の類識別を行う場合の例を示したが、それ以外にも、レーダから得られた大量の電波画像データを利用した類識別問題への適用も可能である。
【００７９】
【発明の効果】
この発明の請求項１に係る類識別装置は、以上説明したとおり、種類を表す種類判別子付きの観測データである種類判別子付き観測データを最短距離法により分類し、収束条件として、分類の数をあらわす分類数になったところで、分類を決定する観測データ分類器と、前記観測データ分類器により分類された種類判別子付き観測データについて共分散行列に基づく線形判別法により種類学習を行い、全データの中心を表すクラスタ中心を通るベクトルに垂直でクラスタ中心を通る直線として境界線を決定する種類学習器と、全学習対象データの境界線からの距離の平均値ｍを求め、誤認されたデータｉの境界線からの距離ｄｉを平均値ｍで割った値ｄｉ／ｍを誤認距離ｄｎｉとして算出し、個々のデータの誤認距離ｄｎｉと事前に設定された第１の閾値とを比較し、誤認距離ｄｎｉが第１の閾値以上となったデータ数Ｎｏｖをカウントし、Ｎｏｖ×（−１）を学習評価値として算出するとともに、前記学習評価値には、誤認距離ｄｎｉが第１の閾値以上になったデータのＩＤである誤認データＩＤを付加する学習評価器と、前記学習評価値と予め設定された第２の閾値とを比較し、前記学習評価値が第２の閾値以下の場合には、学習再実行の必要性ありと判断し、前記学習評価値に付加された誤認データＩＤに該当する種類判別子付き観測データを学習対象からはずすように、全誤認データＩＤを前記種類学習器に出力し、学習再実行が不要と判断した場合には、学習終了指示を出力する学習パラメータ変更器と、分類毎の境界線の上側、下側のいずれの領域に属するかによって種類判別対象観測データの種類を判別する種類判別器とを備え、前記学習パラメータ変更器から出力された全誤認データＩＤは、前記種類学習器の入力となり、再び、前記種類学習器において入力された誤認データＩＤに該当する種類判別子付き観測データを学習対象からはずして学習を行い、学習結果の出力を行い、続いて前記学習評価器において評価及び学習評価値の出力を行い、以下、前記学習パラメータ変更器において学習再実行不要と判断されるまで、前記種類学習器、前記学習評価器、及び前記学習パラメータ変更器において上記の処理を繰り返し、前記種類学習器では、前記学習終了指示が入力されると、前記繰り返し処理で得られた種類学習結果のうち、最良の学習評価値を記録した種類学習結果を出力するので、誤認の度合いが強いデータを把握し、学習へフィードバックすることが可能になり、具体的には、誤認の度合いが大きいデータを学習対象データからはずすこと等が可能となり、これは学習精度の向上につながるという効果を奏する。
【００８０】
この発明の請求項２に係る類識別装置は、以上説明したとおり、種類を表す種類判別子付きの観測データである種類判別子付き観測データを最短距離法により分類し、収束条件として、分類の数をあらわす分類数になったところで、分類を決定する観測データ分類器と、前記観測データ分類器により分類された種類判別子付き観測データについて共分散行列に基づく線形判別法により種類学習を行い、全データの中心を表すクラスタ中心を通るベクトルに垂直でクラスタ中心を通る直線として境界線を決定する種類学習器と、全学習対象データの境界線からの距離の平均値ｍを求め、誤認されたデータｉの境界線からの距離ｄｉを平均値ｍで割った値ｄｉ／ｍを誤認距離ｄｎｉとして算出し、個々のデータの誤認距離と近傍のデータの誤認距離と比較し、近傍であるにもかかわらず誤認距離の差が第１の閾値以上大きい場合に、第１の閾値を超えた誤認距離の差ｄｍｓの総和に（−１）をかけて学習評価値として算出する学習評価器と、前記学習評価値と予め設定された第２の閾値とを比較し、前記学習評価値が第２の閾値以下の場合には、学習再実行の必要性ありと判断し、ニューラルネットワーク、サポートベクタマシンのいずれかに学習手法を変更するように前記種類学習器に指示を出力し、学習再実行が不要と判断した場合には、学習終了指示を出力する学習手法変更器と、分類毎の境界線の上側、下側のいずれの領域に属するかによって種類判別対象観測データの種類を判別する種類判別器とを備え、前記学習手法変更器から出力された学習手法変更指示は、前記種類学習器の入力となり、再び、前記種類学習器において学習及び学習結果の出力を行い、続いて前記学習評価器において評価及び学習評価値の出力を行い、以下、前記学習手法変更器において学習再実行不要と判断されるまで、前記種類学習器、前記学習評価器、及び前記学習手法変更器において上記の処理を繰り返し、前記種類学習器では、前記学習終了指示が入力されると、前記繰り返し処理で得られた種類学習結果のうち、最良の学習評価値を記録した種類学習結果を出力するので、境界線の形状が線形もしくは非線形のどちらであるかを判断する基準の一つを得ることができ、学習の質の向上につながるという効果を奏する。
【００８６】
この発明の請求項３に係る類識別方法は、以上説明したとおり、観測データ分類器により、種類を表す種類判別子付きの観測データである種類判別子付き観測データを最短距離法により分類し、収束条件として、分類の数をあらわす分類数になったところで、分類を決定する観測データ分類ステップと、種類学習器により、前記観測データ分類ステップにより分類された種類判別子付き観測データについて共分散行列に基づく線形判別法により種類学習を行い、全データの中心を表すクラスタ中心を通るベクトルに垂直でクラスタ中心を通る直線として境界線を決定する種類学習ステップと、学習評価器により、全学習対象データの境界線からの距離の平均値ｍを求め、誤認されたデータｉの境界線からの距離ｄｉを平均値ｍで割った値ｄｉ／ｍを誤認距離ｄｎｉとして算出し、個々のデータの誤認距離ｄｎｉと事前に設定された第１の閾値とを比較し、誤認距離ｄｎｉが第１の閾値以上となったデータ数Ｎｏｖをカウントし、Ｎｏｖ×（−１）を学習評価値として算出するとともに、前記学習評価値には、誤認距離ｄｎｉが第１の閾値以上になったデータのＩＤである誤認データＩＤを付加する学習評価ステップと、学習パラメータ変更器により、前記学習評価値と予め設定された第２の閾値とを比較し、前記学習評価値が第２の閾値以下の場合には、学習再実行の必要性ありと判断し、前記学習評価値に付加された誤認データＩＤに該当する種類判別子付き観測データを学習対象からはずすように、全誤認データＩＤを前記種類学習ステップに出力し、学習再実行が不要と判断した場合には、学習終了指示を出力する学習パラメータ変更ステップと、種類判別器により、分類毎の境界線の上側、下側のいずれの領域に属するかによって種類判別対象観測データの種類を判別する種類判別ステップとを含み、前記学習パラメータ変更ステップから出力された全誤認データＩＤは、前記種類学習ステップの入力となり、再び、前記種類学習ステップにおいて入力された誤認データＩＤに該当する種類判別子付き観測データを学習対象からはずして学習を行い、学習結果の出力を行い、続いて前記学習評価ステップにおいて評価及び学習評価値の出力を行い、以下、前記学習パラメータ変更ステップにおいて学習再実行不要と判断されるまで、前記種類学習ステップ、前記学習評価ステップ、及び前記学習パラメータ変更ステップにおいて上記の処理を繰り返し、前記種類学習ステップでは、前記学習終了指示が入力されると、前記繰り返し処理で得られた種類学習結果のうち、最良の学習評価値を記録した種類学習結果を出力するので、誤認の度合いが強いデータを把握し、学習へフィードバックすることが可能になり、具体的には、誤認の度合いが大きいデータを学習対象データからはずすこと等が可能となり、これは学習精度の向上につながるという効果を奏する。
【００８７】
この発明の請求項４に係る類識別方法は、以上説明したとおり、観測データ分類器により、種類を表す種類判別子付きの観測データである種類判別子付き観測データを最短距離法により分類し、収束条件として、分類の数をあらわす分類数になったところで、分類を決定する観測データ分類ステップと、種類学習器により、前記観測データ分類ステップにより分類された種類判別子付き観測データについて共分散行列に基づく線形判別法により種類学習を行い、全データの中心を表すクラスタ中心を通るベクトルに垂直でクラスタ中心を通る直線として境界線を決定する種類学習ステップと、学習評価器により、全学習対象データの境界線からの距離の平均値ｍを求め、誤認されたデータｉの境界線からの距離ｄｉを平均値ｍで割った値ｄｉ／ｍを誤認距離ｄｎｉとして算出し、個々のデータの誤認距離と近傍のデータの誤認距離と比較し、近傍であるにもかかわらず誤認距離の差が第１の閾値以上大きい場合に、第１の閾値を超えた誤認距離の差ｄｍｓの総和に（−１）をかけて学習評価値として算出する学習評価ステップと、学習手法変更器により、前記学習評価値と予め設定された第２の閾値とを比較し、前記学習評価値が第２の閾値以下の場合には、学習再実行の必要性ありと判断し、ニューラルネットワーク、サポートベクタマシンのいずれかに学習手法を変更するように前記種類学習ステップに指示を出力し、学習再実行が不要と判断した場合には、学習終了指示を出力する学習手法変更ステップと、種類判別器により、分類毎の境界線の上側、下側のいずれの領域に属するかによって種類判別対象観測データの種類を判別する種類判別ステップとを含み、前記学習手法変更ステップから出力された学習手法変更指示は、前記種類学習ステップの入力となり、再び、前記種類学習ステップにおいて学習及び学習結果の出力を行い、続いて前記学習評価ステップにおいて評価及び学習評価値の出力を行い、以下、前記学習手法変更ステップにおいて学習再実行不要と判断されるまで、前記種類学習ステップ、前記学習評価ステップ、及び前記学習手法変更ステップにおいて上記の処理を繰り返し、前記種類学習ステップでは、前記学習終了指示が入力されると、前記繰り返し処理で得られた種類学習結果のうち、最良の学習評価値を記録した種類学習結果を出力するので、境界線の形状が線形もしくは非線形のどちらであるかを判断する基準の一つを得ることができ、学習の質の向上につながるという効果を奏する。
【図面の簡単な説明】
【図１】  この発明の実施の形態１に係る類識別装置の構成を示す図である。
【図２】  この発明の実施の形態１に係る類識別装置の動作を示す図である。
【図３】  この発明の実施の形態１に係る類識別装置の動作を示す図である。
【図４】  この発明の実施の形態２に係る類識別装置の構成を示す図である。
【図５】  この発明の実施の形態２に係る類識別装置の動作を示す図である。
【図６】  従来の類識別装置の構成を示す図である。
【図７】  従来の類識別装置の動作を示す図である。
【符号の説明】
１  観測データ分類器、２  種類学習器、３  種類判別器、４  学習再実行指示生成器、４１  学習パラメータ変更器、４２  学習手法変更器、５  学習評価器、６Ａ、６Ｂ  類識別装置、７１  学習パラメータファイル、７２  分類パラメータファイル、９  種類判別子付き観測データファイル、１０  種類判別対象観測データファイル、１１  種類判別結果ファイル。
【図１】
0004121061.tif 000002
【図２】
0004121061.tif 000003
【図３】
0004121061.tif 000004
【図４】
0004121061.tif 000005
【図５】
0004121061.tif 000006
【図６】
0004121061.tif 000007
【図７】
0004121061.tif 000008