(57)【要約】【課題】  観測値の属性集合の部分集合全てについて類別器を準備しなくても、欠損値に対応して類別結果を得ることができる類別装置を得る。【解決手段】  データ選択部２は、欠損値のない数値フラットデータを生成して類別カテゴリと共に類別器生成部３に提供し、また、その数値フラットデータと類別カテゴリに基づいて生成された類別器が所与の類別性能を上回るか否かを判定する。類別器格納部４は、類別器生成部３で生成された類別器集合のうち、所与の類別性能を上回る類別器を格納する。類別部５は、観測値群の欠損値に基づいて類別器格納部４に格納されている類別器から選択された類別器を獲得して、与えられた観測値群における類別カテゴリを判別する。【選択図】        図１
2007025978.tif 000002
【特許請求の範囲】
【請求項１】
各属性に対応した観測値からなる数値フラットデータと類別カテゴリとを関連付けて格納するデータベース部と、
前記数値フラットデータと類別カテゴリに基づいて、欠損値のない属性部分集合の数値フラットデータを生成して前記類別カテゴリと共に出力し、かつ、当該属性部分集合の数値フラットデータと類別カテゴリに基づいて生成された類別器が所与の類別性能を上回るか否かを判定するデータ選択部と、
前記データ選択部から出力された属性部分集合の数値フラットデータと類別カテゴリに基づいて、類別器集合を生成する類別器生成部と、
前記類別器生成部で生成された類別器集合から、前記データ選択部で所与の類別性能を上回ると判定された類別器を、対象類別カテゴリおよび対象属性とを組にして格納する類別器格納部と、
観測値群の欠損値に基づいて、前記類別器格納部で格納されている類別器の中から選択された類別器を獲得し、当該類別器によって、前記観測値群における類別カテゴリの類別を行う類別部とを備えた類別装置。
【請求項２】
予め用意された属性から新たな属性を生成するための特徴量生成規則を備え、
データ選択部は、前記特徴量生成規則に基づいて、属性集合を求め、
類別部は、前記特徴量生成規則に基づいて類別処理を行うことを特徴とする請求項１記載の類別装置。
【請求項３】
データ選択部は、観測値群のうち、所定の属性集合から属性を減らす方向に属性選択を順次実施し、属性集合の性能値が所定の性能値を下回る場合に、この属性集合の部分集合である属性集合については、類別器生成器に提供しないことを特徴とする請求項１または請求項２記載の類別装置。
【請求項４】
データ選択部は、観測値群のうち、所定の属性集合から属性を増やす方向に属性選択を順次実施し、属性集合の性能値が所定の性能値を上回る場合に、この属性集合を含む属性集合については、類別器生成器に提供しないことを特徴とする請求項１または請求項２記載の類別装置。
【請求項５】
データ選択部は、観測値の欠損値の状態に基づいて、観測値群のうち、所定の属性集合から属性を減らす方向に属性選択を順次実施し、属性集合の性能値が所定の性能値を下回る場合に、この属性集合の部分集合である属性集合については、類別器生成器に提供しないか、または、観測値群のうち、所定の属性集合から属性を増やす方向に属性選択を順次実施し、属性集合の性能値が所定の性能値を上回る場合に、この属性集合を含む属性集合については、類別器生成器に提供しないかを選択することを特徴とする請求項１または請求項２記載の類別装置。
【請求項６】
類別部は、１カテゴリ対１カテゴリの類別を行い、かつ、多カテゴリの中からの類別を行う場合は、前記１カテゴリ対１カテゴリの類別結果を、カテゴリ毎に集計して最も多いカテゴリを類別結果とすることを特徴とする請求項１から請求項５のうちのいずれか１項記載の類別装置。
【請求項７】
類別部は、１カテゴリ対１カテゴリの類別を行い、かつ、多カテゴリの中からの類別を行う場合は、前記１カテゴリ対１カテゴリのカテゴリ類別を、ランダムなトーナメント構造で行って類別結果を求めることを特徴とする請求項１から請求項５のうちのいずれか１項記載の類別装置。
【請求項８】
類別部は、１カテゴリ対１カテゴリの確信度を出力する類別を行い、かつ、多カテゴリの中からの類別を行う場合は、確信度をカテゴリ毎に集計した結果に基づいて類別結果を求めることを特徴とする請求項１から請求項５のうちのいずれか１項記載の類別装置。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明は、欠損値のある観測データを用いて、観測対象の種類を判定する類別装置に関するものである。
【背景技術】
【０００２】
観測データから観測対象の種類を判定する技術としては、例えば、非特許文献１に示されているように、ｋ−最近傍識別法、ニューラルネットワークによる方法、決定木による方法、判別分析による方法、組合せの方法などがある。また、欠損値のある観測データを扱う方法として、例えば、非特許文献２に示されているように、欠損値を統計的に推定する方法がある。更に、欠損値の対象として文字認識の分野においては、例えば、特許文献１にあるような方法が提案されている。
【０００３】
【特許文献１】特開平６−２７４６８２号公報
【非特許文献１】「パターン認識と学習の統計学」麻生英樹他著、岩波書店、2003年
【非特許文献２】「ＥＭアルゴリズムと不完全データの諸問題」渡辺美智子他編著、多賀出版、2000年
【発明の開示】
【発明が解決しようとする課題】
【０００４】
上記のような従来の類別装置では、複数の数値属性の張る属性空間を分割する類別器を用いている場合、欠損値を統計的に推定する必要があった。あるいは欠損値のある属性を除いた全ての属性部分集合による類別器を用意しておかなければならないという問題があった。
【０００５】
この発明は上記のような課題を解決するためになされたもので、観測値の属性集合の部分集合全てについて類別器を準備しなくても、欠損値に対応して類別結果を得ることができる類別装置を得ることを目的とする。
【課題を解決するための手段】
【０００６】
この発明に係る類別装置は、各属性に対応した観測値からなる数値フラットデータと類別カテゴリに基づいて、欠損値のない属性部分集合の数値フラットデータを生成して類別カテゴリと共に出力し、かつ、その属性部分集合の数値フラットデータと類別カテゴリに基づいて生成された類別器が所与の類別性能を上回るか否かを判定するデータ選択部と、この属性部分集合の数値フラットデータと類別カテゴリに基づいて、類別器集合を生成する類別器生成部と、生成された類別器集合から、所与の類別性能を上回る類別器を、対象類別カテゴリおよび対象属性とを組にして格納する類別器格納部と、観測値群の欠損値に基づいて、類別器格納部で格納されている類別器の中から選択された類別器を獲得し、この類別器によって、観測値群における類別カテゴリの類別を行う類別部とを備えたものである。
【発明の効果】
【０００７】
この発明の類別装置は、欠損値のない数値フラットデータを生成して類別カテゴリと共に類別器生成部に提供し、類別器生成部で生成された類別器集合のうち、所与の類別性能を上回る類別器を格納し、類別部は、観測値群の欠損値に基づいて類別器格納部に格納されている類別器から選択された類別器を獲得して、与えられた観測値群における類別カテゴリを判別するようにしたので、観測値の属性集合の部分集合全てについて類別器を準備しなくても、欠損値に対応して類別結果を得ることができる。
【発明を実施するための最良の形態】
【０００８】
実施の形態１．
図１は、この発明の実施の形態１による類別装置を示すブロック図である。
図において、類別装置は、データベース部１、データ選択部２、類別器生成部３、類別器格納部４、類別部５、ユーザインタフェース部６を備えている。
【０００９】
データベース部１は、各属性に対応した観測値群からなる数値フラットデータと類別カテゴリとを関連付けて格納するデータベースである。ここで観測値群とは、種々の観測手段によって得られる数値の集合である。例えば、レーダによって目標を観測して得られる目標の距離や反射強度の単独データあるいは時系列データの集合である。観測値群は、随時、データベース部１に格納される。
【００１０】
観測手段とは、観測値の種類を定めるものである。例えば、レーダによる目標距離の観測手段、あるいはレーダによる反射強度の観測手段といった手段を指す。観測手段は、観測時に実行されない、あるいは観測手段が機能しない場合があり、このため観測値にはしばしば欠損が生じる。
【００１１】
類別カテゴリとは、観測値群と対応づけられ、本装置の機能の目的となるカテゴリ値である。例えば、目標の反射強度や目標の進行方向といった観測値群に対して、目標の機種（航空機の機種名や、航空機の種別等）が対応付けられる。類別カテゴリは、観測値群の格納と同時、あるいは観測値群の格納の後、データベース部１に格納される。
【００１２】
数値フラットデータとは、後述する図３に示すように、一次元の数値ベクトル、即ち、全要素が数値からなるデータであるが、これについては後で詳述する。
【００１３】
データ選択部２は、数値フラットデータと類別カテゴリに基づいて、欠損値のない属性部分集合の数値フラットデータを生成して類別カテゴリと共に出力し、かつ、その属性部分集合の数値フラットデータと類別カテゴリに基づいて生成された類別器が所与の類別性能を上回るか否かを判定する機能を有している。即ち、データ選択部２は、データベース部１に格納された数値フラットデータの観測値欠損を測定して、この欠損状態に基づいて、所定の属性集合から属性を増やす方向（ボトムアップ）か、減らす方向（トップダウン）かの属性選択方向を決定し、かつ、欠損値を含む数値フラットデータからレコード選択と属性選択とを併用して、欠損値を含まない数値フラットデータを生成する機能を有している。尚、これら、属性選択方向やレコード選択、属性選択についても後で詳述する。
【００１４】
類別器生成部３は、データ選択部２から属性選択済みの数値フラットデータおよび類別カテゴリの組を受け取り、これらのデータに基づいて類別器を生成する機能部である。また、類別器格納部４は、類別器生成部３で生成された類別器集合から、所与の類別性能を上回る類別器を、対象類別カテゴリおよび対象属性とを組にして格納する機能部である。
【００１５】
類別部５は、観測値群とその類別指示をユーザインタフェース部６から受領し、観測値群の観測値欠損状況に基づき、類別器格納部４に検索指示を出して、該当する類別器集合を獲得し、該類別器集合を用いて該観測値群の類別カテゴリを導き、ユーザインタフェース部６に該類別結果カテゴリを提供する機能を有している。また、ユーザインタフェース部６は、観測値をデータベース部１に格納すると共に、ユーザから類別器生成指示があった場合は、これをデータ選択部２に通知し、また、ユーザから類別指示があった場合は、これを類別部５に指示する機能を有している。
【００１６】
次に、このように構成された類別装置の動作について説明する。
類別装置の動作として、観測値格納動作、類別器生成動作、類別動作があり、以下、順を追って説明する。
【００１７】
（１）観測値格納動作
ユーザインタフェース部６が観測値を受け取ると、これらの観測値をデータベース部１に格納する。また、類別カテゴリは、観測値群の格納と同時、あるいは観測値群の格納の後、データベース部１に格納する。
【００１８】
（２）類別器生成動作
図２は、類別器生成動作を示すフローチャートである。
ステップＳＴ１における数値フラットデータ生成ステップは、データベース部１に格納された観測値群と類別カテゴリから、数値フラットデータを生成するステップである。このステップは、上述した観測値格納動作に続いて実施しておくこともできる。あるいは、このステップは、ユーザから対象カテゴリおよび対象属性を指定した類別器生成指示を受けてから、必要なだけ実施することもできる。
【００１９】
図３は、数値フラットデータの形式の一例を示す説明図である。
図３では、レコード１からレコード８までの八つの数値フラットデータが示されている。尚、ここでこれらのレコードは、同一の観測手段による時系列のデータや、複数の観測手段からの順不同に収集されたデータといったように、どのようなデータ群であってもよい。また、図示例では、レコードの属性、即ち観測値の種類は、ＡＢＣＤの４種類が示されている。そして図示例では、レコード４およびレコード６の属性Ｃが観測値欠損となっている。
【００２０】
図２に戻り、ステップＳＴ２におけるアップダウン判定ステップは、データ選択部２が行うステップであり、ステップＳＴ１の数値フラットデータ生成ステップで生成された数値フラットデータの観測値欠損を測定し、該観測値欠損が少数で所与の率を下回る場合には全属性による数値フラットデータから順に属性を減らす方向（トップダウン方向）に、観測値欠損が多数で所与の率を上回る場合には、単一属性による数値フラットデータから順に属性を増やす方向（ボトムアップ方向）に、属性選択の方向を決定する。
【００２１】
ステップＳＴ３におけるレコード／属性選択ステップは、データ選択部２が行うステップであり、数値フラットデータ生成ステップ（ステップＳＴ１）で生成された数値フラットデータに対し、アップダウン判定ステップ（ステップＳＴ２）で決定された方向で、順次、レコード選択あるいは属性選択を実施して、数値フラットデータを作成する。
【００２２】
図４は、レコード選択の一例を示す説明図である。
この例は、図３に示した数値フラットデータに対して、全４属性での類別器を生成するための数値フラットデータを提供するようにしたものである。レコード４およびレコード６は属性Ｃを持たないので、対象から外す処理であるレコード選択を行う。以下、属性Ｃを含む属性集合に対して類別器を生成する場合は、図４の数値フラットデータを元に属性選択を実施する。
【００２３】
図５は、属性選択の一例を示す説明図である。
この例は、図３に示した数値フラットデータに対して、ＡＢＤの３属性での類別器を生成するための数値フラットデータを提供するようにしたものである。この場合、欠損値を含む属性Ｃは含まれていないため、レコード選択は必要がない。以下、属性Ｃを含まない属性集合に対して類別器を生成する場合は、図５の数値フラットデータを元に属性選択を実施する。
【００２４】
尚、このアップダウン判定ステップは、属性選択方向をトップダウンに限定することによって、省略することができる。あるいは、属性選択方向をボトムアップに限定することによって、省略することができる。
【００２５】
ステップＳＴ４の類別器生成ステップは、データ選択部２および類別器生成部３が行うステップであり、ステップＳＴ３のレコード／属性選択ステップで生成された数値フラットデータと、その類別カテゴリに基づいて、類別器を生成する。
【００２６】
先ず、データ選択部２は、ステップＳＴ４における属性選択方向がボトムアップの場合、その属性における類別器の性能値を取得し、この性能値が所与の類別性能の数値を上回るか否かを判定する。所与の数値を上回る場合は、その属性のみ類別器生成の対象とし、かつ、その属性を含む属性組合せによる数値フラットデータを類別器生成部３へは提供しない。即ち、属性選択方向がボトムアップの場合には、所与の類別性能を上回る場合に終了する。これは次のような理由からである。
【００２７】
単一の大きな類別器を用いるよりも、属性の少ない類別器の多数決を用いる方が類別性能を向上させることが、コミッティー学習の理論によって知られている。また、このコミッティー学習の理論によれば、類別性能が５割を超えることが要求される。そこで、学習に用いるデータを自分で類別してみたときに、その類別性能が５割を上回るような類別器を採用し、上回る見込みがない類別器は生成しないことが望ましい。そこで、類別器生成ステップでは、類別性能（性能値）が所与の数値として、例えば５割を超えるような類別器を生成するようにしている。
【００２８】
図６は、ボトムアップ属性選択の説明図である。
属性ＡＢＣＤのうち、属性Ｂのみの数値フラットデータによって生成された類別器が所与の性能値を上回る性能値を示したとする。これにより、属性Ｂは、類別器生成の対象として提供するが、属性Ｂを含む属性組合せ、即ち、属性ＡＢ、ＢＣ、ＢＤ、ＡＢＣ、ＡＢＤ、ＢＣＤ、ＡＢＣＤに関しては数値フラットデータを類別器生成部３に提供せず、よって該属性組合せに対する類別器は生成されない。
【００２９】
即ち、属性Ｂで所与の性能値を上回っているので、これを含む属性組合せも所与の性能値を上回ることが明らかであるからである。これは、上述したコミッティー学習理論における「単一の大きな類別器を用いるよりも、属性の少ない類別器の多数決を用いる方が類別性能を向上させることができる」に基づくものである。
【００３０】
続いて、属性ＡＣ、ＡＤ、ＣＤの数値フラットデータが類別器生成部３に提供され、生成された類別器のうち属性ＡＣ、ＡＤは所与の性能値を上回る性能値を示したとする。これにより、属性ＡＣＤに関しては数値フラットデータを類別器生成部３へ提供せず、よって類別器は生成されない。以上で、属性選択方向がボトムアップの場合の類別器生成は終了する。
【００３１】
また、属性選択方向がトップダウンであった場合は、対象となる属性の性能値が所与の数値を下回るなら、該性能値を示した類別器が対象とする属性組合せの部分組合せによる数値フラットデータを類別器生成部３へは提供しない。
【００３２】
図７は、トップダウン属性選択の説明図である。
属性ＡＢＣＤの３属性による部分集合のうち、属性ＢＣＤの数値フラットデータによって生成された類別器が所与の性能値を下回る性能値を示したとする。これにより、属性ＢＣＤの部分集合、即ち、属性ＢＣ、ＢＤ、ＣＤに関しては数値フラットデータを類別器生成部３に提供せず、よって該属性組合せに対する類別器は生成されない。即ち、これら属性ＢＣ、ＢＤ、ＣＤに関しては、所与の性能値を下回ることが明らかであるからである。
【００３３】
続いて、属性ＡＢＣ、ＡＢＤ、ＡＣＤの部分集合である属性ＡＢ、ＡＣ、ＡＤの数値フラットデータが類別器生成部３に提供され、生成された類別器のうち属性ＡＣは所与の性能値を下回る性能値を示したとする。これにより、属性ＡおよびＣ単独の数値フラットデータを類別器生成部３へ提供せず、よって類別器は生成されない。続いて、属性Ｂ、Ｄの数値フラットデータが類別器生成部３に提供される。このような属性選択によって、図示のように、ＡＢＣ、ＡＢＤ、ＡＣＤ、ＡＢ、ＡＤ、Ｄの属性組合せが、類別器として選択される。
【００３４】
このような動作により、属性選択方向がボトムアップ・トップダウンいずれの場合も、類別器生成の手間を省くことができる。即ち、一般的なケースを想定した場合、観測値欠損が少数ならトップダウンに、多数ならボトムアップに、基準を満たす類別器を探索した方が、類別器生成の対象としない数を増やせる、つまり、全体の類別器の生成数を減らせるからである。
【００３５】
尚、例えば、その観測値さえ分かれば識別可能、といった有力観測値ばかりという特殊なケースにおいて、観測値欠損が少数であってもボトムアップが有効という場合も考えられるが、このような場合は、その状況を事前に検出する手段を用意し、アップダウン判定を行うようにしてもよい。
【００３６】
次に、類別器生成部３は、データ選択部２で選択された数値フラットデータと類別カテゴリとに基づいて類別器を生成する（図２におけるステップＳＴ４）。類別器とは、数値フラットデータの属性空間を分割するような関数と関数値の組である。与えられた数値フラットデータに基づき、複数カテゴリの中から単独カテゴリを回答するものである。類別結果であるカテゴリ値を回答する類別器を用いる場合と、各カテゴリの確信度を数値で回答する類別器を用いる場合がある。即ち、カテゴリαとカテゴリβを類別する場合、いずれかのカテゴリを類別結果（例えばカテゴリα）として回答する類別器を用いるか、例えば、カテゴリαである確信度が８０％、カテゴリβである確信度が２０％といった回答結果を出力する類別器を用いる場合がある。
【００３７】
図８は、類別器生成の例を示す説明図である。
図８は、属性Ａと属性Ｄについて、○で示されたカテゴリαと、△で示されたカテゴリβのデータの分布と、カテゴリαとカテゴリβの類別器である直線とを示している。属性ＡＤにおけるカテゴリαβの類別器、即ち、境界線は属性ＡおよびＤの関数ｆ（Ａ，Ｄ）＝０で示される。カテゴリαの領域は同様に関数ｆ（Ａ，Ｄ）＜０、カテゴリβの領域は関数ｆ（Ａ，Ｄ）＞０で表現できる。境界線は図のように単一の直線で示される場合も、あるいは複数の曲線で示される場合もある。類別器はフィッシャーの線形判別法、あるいはサポートベクターマシン法など、既知の方法で生成することができる。類別器格納部４へは、類別されるカテゴリ集合・境界線を定める関数および関数値が格納される。該類別器では、境界である関数値と、数値フラットデータの関数値との差に基づいて、各カテゴリの確信度を算出することもできる。
【００３８】
類別器生成部３において、類別器の生成を１カテゴリ対１カテゴリの類別器に限定すると、類別機能を損なうことなく類別器数を削減することができる。例えば、カテゴリα、β、γの３カテゴリ類別の場合、全カテゴリα、β、γから１カテゴリを類別する類別器を省いて、１カテゴリ対１カテゴリ、即ち、α対β、β対γ、α対γの三つのみを用意しても、類別結果は導くことができる。
【００３９】
図２に戻り、類別器生成が行われると、類別器格納部４は、これを格納する（ステップＳＴ５）。類別器格納部４は、類別器生成部３から類別器集合を受領し、所与の格納基準類別性能を上回る類別器を、対象カテゴリおよび対象属性と組にして格納する。また、このようなレコード／属性選択ステップ（ステップＳＴ３）〜類別器格納ステップ（ステップＳＴ５）は、所与の格納基準類別性能を上回る類別器を全て格納するまで繰り返される。
【００４０】
図９は、類別器を格納する形式の一例を示す説明図である。
各類別器レコードは、類別器３１、対象カテゴリ３２、対象属性３３からなる。
類別器３１は、図８に例示するような、属性の張る空間を分割するための関数および関数値である。該類別器は対象属性３３の張る空間を対象カテゴリ３２が分割されるように分割する。
【００４１】
対象カテゴリ３２は、類別器３１が分割する対象となるカテゴリで、少なくとも二つのカテゴリと、そのうち一つのカテゴリとの組からなる。例えば、三つのカテゴリαβγからカテゴリαを分割する類別器であれば、α、β、γとαの組が記される。対象属性３３は、類別器３１が分割する対象となる属性空間の属性組である。例えば、属性ＡおよびＤからなる空間を分割するものであれば、ＡとＤが記される。
以上の動作により、類別器生成動作を終了する。
【００４２】
（３）類別動作
図１０は、類別動作を示すフローチャートである。
先ず、ユーザインタフェース部６が観測値群とユーザからの類別指示を受け取ると、観測値群と類別指示を類別部５に提供する。これにより、類別部５は、受け取った観測値群の観測値欠損状況に基づいて、類別器格納部４に検索指示を送出し、該当する類別器集合を獲得する（ステップＳＴ１１）。
【００４３】
例えば、類別部５が、「属性Ｄが欠損した３つの属性Ａ，Ｂ，Ｃからなる観測値群がカテゴリαかカテゴリβか判定」という指示をユーザインタフェース部６から受領したとする。これにより、類別部５は、類別器格納部４に対して、属性Ａ，Ｂ，Ｃの部分集合を対象属性とし、カテゴリα、βを対象カテゴリに含む類別器の検索指示を行う。類別器格納部４では、この条件を満たす類別器を検索し、検索結果である類別器集合を類別部５に提供する。類別部５は、提供された類別器集合を用いて類別結果集合を算出する（ステップＳＴ１２）。そして、これらの類別結果集合から、類別結果を総合して最終類別結果を算出し、これをユーザインタフェース部６に提供する（ステップＳＴ１３）。
【００４４】
また、類別部５が、例えば、「３つの属性Ａ，Ｂ，Ｄからなる観測値群のカテゴリを判定」という指示をユーザインタフェース部６から受領した場合は、類別器格納部４に対して、属性Ａ，Ｂ，Ｄの部分集合を対象属性とする類別器の検索指示が出され、検索結果である類別器集合が類別部５に提供される。類別部５は、該類別器集合を用いて、観測値群のカテゴリを判定し、ユーザインタフェース部６に提供する。
【００４５】
最終類別結果は、関連する類別結果集合の多数決によって算出する。例えば、α、β、γの３カテゴリについて、α対β、β対γ、α対γの３類別器からα、β、αが結果として得られた場合には、それぞれから得られるカテゴリ判定結果が最も多いカテゴリであるαを最終類別結果とする。
【００４６】
あるいは、最終類別結果は、関連する類別器のランダムなトーナメントによって算出する。例えば、α、β、γの３カテゴリについて、ランダムなトーナメント構造決定によって「先ずα対β、その勝者対γ」というトーナメントが作成されて、α対βからα、α対γからαが順に類別結果として提供されると、αを最終類別結果とする。
【００４７】
あるいは、最終類別結果は、関連する類別器のカテゴリ毎に確信度を集計して、その大小によって算出する。例えば、α、β、γの３カテゴリについて、α対β、β対γ、α対γの３類別器から確信度の組が、それぞれ（α，β）＝（０．６，０．４）、（β，γ）＝（０．５，０．５）、（α，γ）＝（０．９，０．１）のように得られた場合、α対βではαに０．６の肯定値がついたと解釈して、肯定値の和（１．５，０．９，０．６）により最大の肯定値を得たカテゴリαを最終類別結果とする。あるいは、α対βではαに０．４の否定値がついたと解釈して、それぞれの否定値の和（０．５，  １．１，  １．４）により最小の否定値を得たカテゴリαを最終類別結果とする。
【００４８】
尚、上記実施の形態において、予め用意された属性から新たな属性を生成するための特徴量生成規則を備え、この特徴量生成規則を用いて属性集合を抽出したり、類別処理を行うようにしてもよい。ここで、特徴量生成規則とは、観測値群から数学的あるいは論理的に特徴量群を導出する規則である。例えば、位置の時系列データから速度という特徴量を導出するために、位置の差と時刻差からの算出法を特徴量生成規則として用意する。あるいは、複数の観測手段の間で得られる観測値が重複した場合に、一つを選択して他を捨てて重複を避ける、あるいは平均や分散のような統計量をとるといった指示を、特徴量生成規則として用意することもできる。観測値群にカテゴリ値が含まれている場合に、該観測値を数値化する特徴量生成規則を用意して該観測値群を類別に利用することができる。あるいは該観測値を無視する特徴量生成規則を用意することができる。特徴量生成規則は、観測値群を得るための観測手段に応じて用意され、ユーザインタフェース部６に保持される。
【００４９】
そして、このような特徴量生成規則をユーザインタフェース部６が有する場合、上述した（１）観測値格納動作では、ユーザインタフェース部６は、保持する特徴量生成規則を適用して観測値をデータベース部１に格納する。また、（３）類別動作では、ユーザインタフェース部６は、観測値群とユーザからの類別指示を類別部５に提供し、類別部５からその類別結果カテゴリを受領してユーザに提供する。この際、観測値群に特徴量生成規則にかかる属性が含まれれば、該当する特徴量生成規則を適用した結果を類別部５へ提供する。
【００５０】
以上のように、実施の形態１の類別装置によれば、各属性に対応した観測値からなる数値フラットデータと類別カテゴリとを関連付けて格納するデータベース部と、数値フラットデータと類別カテゴリに基づいて、欠損値のない属性部分集合の数値フラットデータを生成して類別カテゴリと共に出力し、かつ、属性部分集合の数値フラットデータと類別カテゴリに基づいて生成された類別器が所与の類別性能を上回るか否かを判定するデータ選択部と、データ選択部から出力された属性部分集合の数値フラットデータと類別カテゴリに基づいて、類別器集合を生成する類別器生成部と、類別器生成部で生成された類別器集合から、データ選択部で所与の類別性能を上回ると判定された類別器を、対象類別カテゴリおよび対象属性とを組にして格納する類別器格納部と、観測値群の欠損値に基づいて、類別器格納部で格納されている類別器の中から選択された類別器を獲得し、類別器によって、観測値群における類別カテゴリの類別を行う類別部とを備えたので、観測値の属性集合の部分集合全てについて類別器を準備しなくても、欠損値に対応して類別結果を得ることができる。
【００５１】
また、実施の形態１の類別装置によれば、予め用意された属性から新たな属性を生成するための特徴量生成規則を備え、データ選択部は、特徴量生成規則に基づいて、属性集合を求め、類別部は、特徴量生成規則に基づいて類別処理を行うようにしたので、更に、類別カテゴリの判定性能を向上させることができる。
【００５２】
また、実施の形態１の類別装置によれば、データ選択部は、観測値群のうち、所定の属性集合から属性を減らす方向に属性選択を順次実施し、属性集合の性能値が所定の性能値を下回る場合に、この属性集合の部分集合である属性集合については、類別器生成器に提供しないようにしたので、全体の類別器の生成数を減少させることができる。
【００５３】
また、実施の形態１の類別装置によれば、データ選択部は、観測値群のうち、所定の属性集合から属性を増やす方向に属性選択を順次実施し、属性集合の性能値が所定の性能値を上回る場合に、この属性集合を含む属性集合については、類別器生成器に提供しないようにしたので、全体の類別器の生成数を減少させることができる。
【００５４】
また、実施の形態１の類別装置によれば、データ選択部は、観測値の欠損値の状態に基づいて、観測値群のうち、所定の属性集合から属性を減らす方向に属性選択を順次実施し、属性集合の性能値が所定の性能値を下回る場合に、この属性集合の部分集合である属性集合については、類別器生成器に提供しないか、または、観測値群のうち、所定の属性集合から属性を増やす方向に属性選択を順次実施し、属性集合の性能値が所定の性能値を上回る場合に、この属性集合を含む属性集合については、類別器生成器に提供しないかを選択するようにしたので、属性選択方向がボトムアップ・トップダウンいずれの場合も、類別器生成の手間を省くことができる。
【００５５】
また、実施の形態１の類別装置によれば、類別部は、１カテゴリ対１カテゴリの類別を行い、かつ、多カテゴリの中からの類別を行う場合は、１カテゴリ対１カテゴリの類別結果を、カテゴリ毎に集計して最も多いカテゴリを類別結果とするようにしたので、多くの類別器を必要とせずに高い類別性能を得ることができる。
【００５６】
また、実施の形態１の類別装置によれば、類別部は、１カテゴリ対１カテゴリの類別を行い、かつ、多カテゴリの中からの類別を行う場合は、１カテゴリ対１カテゴリのカテゴリ類別を、ランダムなトーナメント構造で行って類別結果を求めるようにしたので、多くの類別器を必要とせずに高い類別性能を得ることができる。
【００５７】
また、実施の形態１の類別装置によれば、類別部は、１カテゴリ対１カテゴリの確信度を出力する類別を行い、かつ、多カテゴリの中からの類別を行う場合は、確信度をカテゴリ毎に集計した結果に基づいて類別結果を求めるようにしたので、多くの類別器を必要とせずに高い類別性能を得ることができる。
【図面の簡単な説明】
【００５８】
【図１】この発明の実施の形態１による類別装置を示すブロック図である。
【図２】この発明の実施の形態１による類別装置の類別器生成動作を示すフローチャートである。
【図３】この発明の実施の形態１による類別装置の数値フラットデータの形式の一例を示す説明図である。
【図４】この発明の実施の形態１による類別装置のレコード選択の一例を示す説明図である。
【図５】この発明の実施の形態１による類別装置の属性選択の一例を示す説明図である。
【図６】この発明の実施の形態１による類別装置のボトムアップ属性選択の説明図である。
【図７】この発明の実施の形態１による類別装置のトップダウン属性選択の説明図である。
【図８】この発明の実施の形態１による類別装置の類別器生成の例を示す説明図である。
【図９】この発明の実施の形態１による類別装置の類別器を格納する形式の一例を示す説明図である。
【図１０】この発明の実施の形態１による類別装置の類別動作を示すフローチャートである。
【符号の説明】
【００５９】
１  データベース部、２  データ選択部、３  類別器生成部、４  類別器格納部、５  類別部。
【図１】
2007025978.tif 000003
【図２】
2007025978.tif 000004
【図３】
2007025978.tif 000005
【図４】
2007025978.tif 000006
【図５】
2007025978.tif 000007
【図６】
2007025978.tif 000008
【図７】
2007025978.tif 000009
【図８】
2007025978.tif 000010
【図９】
2007025978.tif 000011
【図１０】
2007025978.tif 000012