(57)【要約】  テストパターンを既定の部類セットからの部類に割当てるため、テストパターンの部類帰属確率と、特徴空間におけるテストパターンの近傍のトレーニングパターン数に基づいて部類帰属確率の信頼区間を計算する。テストパターンの近傍におけるトレーニングパターンの数は、トレーニングパターンの確率密度関数のたたみ込みを、テストパターンを中心とするガウス平滑関数を用いて、計算して得られる。この計算では、トレーニングパターンの確率密度関数がガウス関数の混合として表される。円滑関数とガウス関数の混合とのたたみ込みは分析的に表すことができる。
2009545045.tif 000002
【特許請求の範囲】
【請求項１】
テストパターンを既定の部類セットから選ばれた部類に割当てる方法であって、
上記テストパターンの部類帰属確率を計算し、
上記部類帰属確率の信頼区間を特徴空間における上記テストパターンの近傍のトレーニングパターンの数に基づいて計算して成る方法において、
テストパターンの近傍におけるトレーニングパターンの上記数が、上記テストパターンを中心とするガウス平滑関数での上記トレーニングパターンの確率密度関数のたたみ込みを計算して得られ、トレーニングパターンの上記確率密度関数がガウス関数の混合として表されることを特徴とする方法。
【請求項２】
前記トレーニングパターンの確率密度関数と前記第１の平滑関数とのたたみ込みが次のように表示可能な関数により計算され、
【数１】
2009545045.tif 000016
ここで、xは前記テストパターン、NN(x)はxの近傍におけるトレーニングパターンの数、Kは前記混合におけるガウス関数の数、μkはk番目のガウス関数の中心、S’kは行列、N’kは実数を表し、S’kとN’kが上記平滑関数と上記k番目のガウス関数に依存するものとする請求項１に記載の方法。
【請求項３】
トレーニングパターンの前記確率密度関数が次のように表示可能であり、
【数２】
2009545045.tif 000017
ここで、Kは前記行列におけるガウス関数の数、x’は前記特徴空間における変数、ρ(x’)はx’におけるトレーニングパターンの確率密度、μkはk番目のガウス関数の中心、Skはk番目のガウス関数の幅を記述する行列、dは上記特徴空間の次元、Nkは次式を満たす正規化因子を表し
【数３】
2009545045.tif 000018
ここで、Ntotは上記特徴空間におけるトレーニングパターンの全数を表すものとする請求項２に記載の方法。
【請求項４】
前記平滑関数が次のように表示可能であり、
【数６】
2009545045.tif 000019
ここで、xは前記テストパターン、x’は前記特徴空間における変数、dは上記特徴空間の次元、Cは距離関数を上記特徴空間上に定義する対称行列、rは該対称行列に関する前記近傍の半径を表すものとする請求項３に記載の方法。
【請求項５】
Ｎ’ｋがＮ’ｋ＝Ｎｋｄｅｔ（ＴｋＳｋ−１）で与えられ、
Ｓ’ｋがＳ’ｋ−１＝Ｓｋ−１（１−ＴｋＳｋ−１）で与えられ、
ＴｋがＴｋ＝（Ｃ−１/ｒ２＋Ｓｋ−１）−１で定義される請求項４に記載の方法。
【請求項６】
Ｃが全トレーニングパターンの共変行列である請求項４又は請求項５に記載の方法。
【請求項７】
前記信頼区間が次式に基づいて計算され、
【数７】
2009545045.tif 000020
ここで、NNはテストパターンの近傍におけるトレーニングパターンの前記数、peは上記テストパターンの前記部類帰属確率、p+は上記信頼区間の上限、p-は該信頼区間の下限、λは既定の信頼水準を表すものとする請求項１に記載の方法。
【請求項８】
前記テストパターンに付き複数の部類帰属確率が計算され、前記信頼区間が上記部類帰属確率の最高のものに対して計算され、上記テストパターンが、上記信頼区間の下限が規定の閾値を上回るときにのみ、部類帰属確率が最高である部類に割当てられる請求項１〜７の何れか１項に記載の方法。
【請求項９】
前記信頼区間の下限が規定の閾値を超えないとき、前記テストパターンが未知のものとして分類される請求項８に記載の方法。
【請求項１０】
テストパターンを既定の部類セットから選ばれた部類に割当てる方法であって、
上記テストパターンの部類帰属確率を計算し、
特徴空間における上記テストパターンの近傍のトレーニングパターンの数に基づく上記部類帰属確率の信頼区間を計算して成る方法において、
テストパターンの近傍におけるトレーニングパターンの上記数が、次式で表示可能な関数として得られ、
【数１】
2009545045.tif 000021
ここで、xは上記テストパターン、NN(x)はxの近傍におけるトレーニングパターンの数、Ｋは整数、μｋは上記特徴空間におけるベクトルを、S’ｋは行列、N’kは実数を表すものとする方法。
【請求項１１】
一連のテストパターンのテストパターンを分類する方法であって、
上記一連の各テストパターンを、請求項１〜１０の何れか１項記載の方法により規定の部類セットから選ばれた部類に割当て、夫々のパターンが割当てられた部類を予分類として戻し、
上記一連の各テストパターンに付き上記予分類に関連する特性値を、前記信頼区間、又は夫々のテストパターンの近傍におけるトレーニングパターンの前記数に基づいて特定して成る方法。
【請求項１２】
車両シートの占有者を分類する方法であって、
上記占有者に関するセンサデータを提供し、
上記センサデータを、請求項１〜１１の何れか１項による方法におけるテストパターンとして用いて成る方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明はパターン分類方法、或いはかかる方法を実施するシステムに関する。
【背景技術】
【０００２】
パターン分類は、多数の実世界適用用途、例えば音声認識、車両シート占有者分類、データマイニング、危険予測、診断分類等において周知である。パターン分類機の最も重要な目的は、テストパターンを既定の分類セットの１つ又は複数の分類に割当てることである。テストパターンは諸特徴、より正確にはこれ等特徴の量を定める数のベクトルと考えることができる。統計的分類機は、所定入力パターンに対する様々な部類の条件付き確率（以下、「部類帰属確率」とも云う）を計算する。これ等部類帰属確率の１からの偏差は、不正確な分類の可能性と解釈されることが多い。
【０００３】
パターン分類における課題は、誤分類を減らすことである。この問題に対する第１のアプローチとして、分類機に「拒絶」オプションを設けることが知られている。所定入力パターンに対する種々の部類の条件付き確率の何れもが必要最小限の閾値を超えないときは何時でも、拒絶オプションを分類機が働かせることができる。そうでないとき、分類機は入力パターンを最も高い条件付き確率の部類に割当てる。その結果、分類機が暗黙的に定義する決定境界線に近いテストパターンは拒絶され安くなる一方、この境界線から遠いテストパターンは部類に割当てられることになろう。この技術の詳細な記述に付いて関心のある人は論文”On Optimum Recognition Error and Reject Tradeoff” by C. K. Chow, IEEE Transactions on Information Theory, Vol. IT-16, No. 1, January 1970を参照されたい。
【０００４】
誤分類問題のもう１つの側面は、部類帰属確率の不確実性の推定である。分類機は通常、トレーニング処理中にトレーニングパターンによってトレーニング（訓練）される。これ等トレーニングパターンは好ましくは、分類機が見分ける得る様々な種類（部類）の状況により選ばれる。分類されるべきテストパターンの部類帰属確率は、トレーニング処理において用いられるトレーニングパターンに基づく。理想的には、分類機は起こり得る全種類の状況に対して準備されることになろう。実世界適用用途においては、例えば状況が「予測不能」、即ち手段が限られているため、これが果たせないことが極めて多い。その結果、特徴空間、即ち全ての可能なパターンの及ぶ空間にはトレーニングパターンが均一に存在しない。直観的に云えば、所定にテストパターンに応じて分類機により出力される部類帰属確率の不確実性は、テストパターンの周りのトレーニングパターンの密度が高いと低くなるであろう。同様に、この不確実性は、テストパターンの周りのトレーニングパターンの密度が低いと高くなるであろう。このアプローチを支える見解は、米国特許５３３５２９１（Kramer et al）に詳細に説明されている。同特許は、分類されるべきテストパターンの近傍におけるトレーニングデータの局所量を考慮して、分類は信頼性があるかどうかを確かめる神経回路網に付いて記載している。この神経回路網出力の長所が信頼区間として述べられている。
【０００５】
部類帰属確率の確実性（又は不確実性）を提供する分類機は、例えば車両シート占有者分類、診断分類等の安全臨界状況下では魅力的である。それはテストパターンを未知のものとして分類でき、部類帰属確率が高すぎる場合、拒絶オプションを働かせるようにするからである。
【先行技術文献】
【特許文献】
【０００６】
【特許文献１】米国特許５３３５２９１（Kramer et al）
【非特許文献】
【０００７】
【非特許文献１】論文”On Optimum Recognition Error and Reject Tradeoff” by C. K. Chow, IEEE Transactions on Information Theory, Vol. IT-16, No. 1, January 1970
【発明の概要】
【発明が解決しようとする課題】
【０００８】
本発明の目的は、部類帰属確率を改良された方法で計算するパターン分類方法を提供することにある。
【課題を解決するための手段】
【０００９】
この目的は、請求項１に記載の方法により達成される。
【００１０】
テストパターンを既定の部類セットから選ばれた部類に割当てるため、テストパターンの部類帰属確率と、特徴空間内のテストパターンの近傍におけるトレーニングパターンの数に基づく部類帰属確率の信頼区間を計算することが知られている。本発明の重要な観点によれば、テストパターンの近傍におけるトレーニングパターンの数は、トレーニングパターンの確率密度関数のたたみ込み（ｃｏｎｖｏｌｕｔｉｏｎ）を、テストパターンを中心とするガウス平滑関数を用いて、計算して得られる。この計算では、トレーニングパターンの確率密度関数がガウス関数の混合（重ね合わせ）として表される。この方法で極めて興味あることは、近傍におけるトレーニングパターンの数が、テストパターンから所定距離内にあるトレーニングパターンを実際に計数せずに得られることである。実際は、これは相当量の計算力を要し、更には、トレーニングパターンが全て記憶装置に記憶されていることを仮定する。本法の実施のために、トレーニングパターンの確率密度関数のたたみ込みをガウス平滑関数で定義するパラメタが記憶される。トレーニングパターンの量によっては、これ等のパラメタは、トレーニングパターンの対応セットを記憶するのに必要な、僅かな記憶空間小部分を要するだけで良い。
更に、平滑関数とガウス関数の混合とのたたみ込みは、次の解析式を用いることにより計算できる。
【００１１】
【数１】
2009545045.tif 000003
【００１２】
ここで、ｘはテストパターン、ＮＮ（ｘ）はｘの近傍におけるトレーニングパターンの数、Ｋは整数、μｋは特徴空間におけるベクトル、S’ｋは行列、N’ｋは実数を表す。
【００１３】
特に、Ｋは混合されるガウス関数の数、μｋはｋ番目のガウス関数の中心、S’kは行列、N’kは実数を表し、S’kとN’kは平滑関数とｋ番目のガウス関数とに依存する。この式はトレーニング処理中にオフラインで計算可能なパラメタμｋ、S’k（又は等価的にS’k-1）、N’k（ｋ＝１，．．．）にのみ依存するので、本方法の実施では、テストパターンの近傍におけるトレーニングパターンの数の計算のためには、これ等パラメタが分かりさえすれば良い。従って、テストパターンの近傍におけるトレーニングパターンの数は、単に上記式の数値を求めることにより計算することができる。
【００１４】
上記式は、トレーニングデータの確率密度関数が次のようにガウス関数の混合として表現できるものとすると、より良く理解できよう。
【００１５】
【数２】
2009545045.tif 000004
【００１６】
ここで、Ｋは混合されるガウス関数の数、ｘ’は特徴空間における変数、ρ（ｘ’）はｘ’におけるトレーニングパターンの確率密度、μｋはｋ番目のガウス関数の中心、Ｓｋはｋ番目のガウス関数の幅を表す行列、ｄは特徴空間の次元を表し、Ｎｋは次式を満たす正規化因子を表す。
【００１７】
【数３】
2009545045.tif 000005
【００１８】
ここで、Ｎｔｏｔは特徴空間におけるトレーニングパターンの全数である。パラメタμｋ、Ｓｋ（及びＳｋ−1）及びＮｋはオフラインで、例えば期待・最大化アルゴリズムを用いて計算すると良い。後者に付いては、”Unsupervised learning of finite mixture models” by F. Figueiredo et al. (IEEE Transactions on Pattern Analysis and Machine Intelligence, vol. 24, no. 3, pp. 1-16, March 2002)に説明されている。
【００１９】
テストパターンの近傍におけるトレーニングパターンの数を計算するためには通常、近傍に亘るトレーニングパターン確率密度関数の積分を計算する。
【００２０】
【数４】
2009545045.tif 000006
【００２１】
ここで、近傍は、ｘを中心とし、半径ｒの体積Ｓ（ｘ，ｒ）によりここでは与えられる。本発明者は近傍Ｓ（ｘ,r）に亘る確率密度ρ（ｘ’）の積分を、確率密度ρ（ｘ’）のテストパターンを中心とするガウス関数によるたたみ込み（「カーネル」とも云う）で置換することを提案する。
【００２２】
【数５】
2009545045.tif 000007
【００２３】
ここで、積分は全特徴空間に亘って為される。
【００２４】
平滑関数は次のように表される。
【００２５】
【数６】
2009545045.tif 000008
【００２６】
ここで、ｘはテストパターン、ｘ’は特徴空間における変数、ｄは特徴空間の次元、Ｃは距離関数を特徴空間に付き定義する対象行列（例えば、トレーニングパターンの共変行列等）、ｒはこの距離関数に関する近傍の半径を表す。ρ（ｘ’）が式（２）で、ｇ（ｘ’,ｘ,ｒ）が（６）で定義されるものとすると、式（５）は式（１）におけるように書き表すことができる。ここで、次の記法が適用する：
Ｎ’ｋ＝Ｎｋｄｅｔ（ＴｋＳｋ−１）,
Ｓ’ｋ−１＝Ｓｋ−１（１−ＴｋＳｋ−１）,
Ｔｋ＝（Ｃ−１/ｒ２＋Ｓｋ−１）−１
【００２７】
テストパターンの近傍におけるトレーニングパターンの数ＮＮが計算されたら、信頼区間は次式に基づいて計算することができる。
【００２８】
【数７】
2009545045.tif 000009
【００２９】
ここで、ｐｅはテストパターンの部類帰属確率（その推定値）（テストパターンの部類帰属確率を推定することにより得られる）、ｐ＋は信頼区間の上限、ｐ−は信頼区間の下限を表し、λは既定の信頼水準を表す。信頼水準は用途により決定することができる。本文脈では、用語「信頼水準」は区間［ｐ−,ｐ＋］に限定されるように解釈されるべきでなく、区間［０,ｐ＋］及び［０,ｐ−］を含むように解釈されるべきである。従って、ｐ＋とｐ−の少なくとも一方を定めることは、本発明の趣意では信頼区分を定めるものと看做されるものである。
【００３０】
近傍の半径が大きれば大きいほど、近傍におけるトレーニングパターンの数は大きい。従って、信頼区間は近傍半径の増大と共に収縮する。一方、式（７）は推定部類帰属確率ｐｅが近傍に亘る部類帰属確率の約平均であることを暗黙的に仮定する。これは、近傍の半径が十分小さく選ばれ、部類帰属確率の変動もテストパターンの近傍内で小さい場合には正しい。近傍の半径を選ぶための可能なルールは従って、それを異なる部類のトレーニングパターンの幾何学的中心間の最小距離の少なくとも約半分に定義することである。近傍の半径はまた、異なる部類の最小半径として選ぶこともできる。それにより、関係する半径と距離は行列Ｃにより与えられる位置関数に関して計算されることになろう。部類の半径として、例えばその部類のトレーニングパターンの確率密度に合うガウス（曲線）の幅を取ることができる。
【００３１】
本発明の好適な実施態様によれば、複数のテストパターンの夫々の部類帰属確率が計算され、信頼区間がこれ等部類帰属確率の最高のものに対して計算される。次いで、信頼区間の下限が規定の閾値より大きい場合、部類帰属確率が最高である部類にテストパターンが割当てられる。逆の場合には、テストパターンは未知のものとして分類されるか、別の部類に割当てられる。一連のテストパターンの場合（例えば、シート占有者分類システムでは、部類帰属確率に基づく所定のテストパターンの分類が信頼性に欠けると考えられたら、このパターンを最先のテストパターンとしての同分類に割当てることができよう。
【００３２】
上記方法は、一連のテストパターンのテストパターンを分類するのにも用いられよう。この場合、一連のものの各テストパターンは既定の部類セットから選ばれた部類に割当てられ、各パターンが割当てられた部類が予分類として戻される。各テストパターンに対して、各予分類に関連する特性値がその場合、部類帰属確率の信頼区間又は考慮テストパターンの近傍におけるトレーニングパターンの数に基づいて特定される。この特性値は、特性値に関する所定の判定基準に合わないこれ等予分類を濾過して取り除くために用いられる。特性値は例えば、信頼区間の相補幅又はトレーニングパターンの数の対数であっても良く、これは最も簡易な、閾値と比較する実施態様においてである。或いはまた、特性値はまた、他の適宜ルールにより得られるものでも良い。濾過は例えば、特性値が種々の予分類の重みを量るのに用いられるカルマン・フィルタリング技術により作成されるものでも良い。
【００３３】
本発明の極めて好適な実施態様によれば、本方法は車両シート占有者分類システムにおいて実施されるもので、占有者に関するセンサデータを提供し、センサデータを特定の占有者部類に割当てるべきテストパターンとして用いることを含む。
【００３４】
本発明の更なる詳細と利点は添付図面を参照して、幾つかの非限定実施態様の以下の詳細な記載から明らかになろう。
【図面の簡単な説明】
【００３５】
【図１】２つの異なる部類に属するトレーニングパターンを表す２つのデータ点雲（ｃｌｏｕｄ）を有する２Ｄ特長空間の説明図である。
【図２】図１の特徴空間が決定境界線により２つの領域に分離される分割を示す。
【図３】部類帰属確率の信頼区間の下限の等高線を示す。
【図４】本発明による方法の好適な実施態様のフローチャートである。
【図５】一連のテストパターンの分類の説明図である。
【発明を実施するための形態】
【００３６】
図１は、２つの異なる部類に属するトレーニングパターンを表すデータ点１４の２つのクラウド（雲、雲状物）１０、１２の有る２次元特長空間の例を示す。図示の場合には、特徴空間におけるパターンは、アレイ要素として対応データ点１４の座標を有するアレイとして不明瞭なところの無く表現することができる。トレーニングパターンを収集するには例えば、出力が種々の部類に割当てられるセンサ又はセンサ等を、分類が既知の状況に曝せば良い。本事例では、収集されたパターンを代表して、第１の部類と第２の部類に対応する２つのクラウド１０、１２が描かれている。
【００３７】
トレーニングパターンが一旦収集されると、部類帰属確率が特徴空間上に発生される。これは、文献に十分文書化されている種々の方法により行うことができる。図２は、J. Schuermannにより”Pattern Classification: Statistical and Neural Network based Approaches”, John Wiley and Sons, New York (1990)に記載されている方法に従う、図１に示したデータを用いて訓練された２次識別関数による特徴空間の分離を示している。等高線１６は、Chowが前記参照文献で示唆しているようにクラウド１０、１２から決定境界線１８に向かって部類帰属確率関数が示す減少を表している。境界線自体では、確率は部類の何れに対しても０．５である。部類帰属確率関数は、特徴空間にトレーニングデータが選ばれない領域があることの理由を説明しない。例えば、２つのテストパターンが、座標が夫々（０．６、０．６）、（０．２、０．６）の２点Ｐ１、Ｐ２にあると仮定しよう。これ等のテストパターンは略同一の部類帰属確率を有する。Ｐ１は共通部類に属するトレーニングパターンのクラウド内に位置する一方、Ｐ２はトレーニングパターンのどのクラウドの外側にも実質的に位置している。従って、Ｐ２のもつ部類帰属確率の不確実性はＰ１のそれ等より高いことが直観的に明らかである。
【００３８】
本発明方法は従って、分類されるべきテストパターンの近傍におけるトレーニングパターンの数に基づいて、所定のテストパターンの部類帰属確率に対する信頼区間を計算することを提案する。推定される確率に対する信頼区間の概念は、二項分布に統計的に従う所謂ベルヌーイ過程に対して十分確立されている。二項分布は、Ｎ個のベルヌーイ試行から正確にｎ個の成功を得ることの離散的確率分布Ｐ（ｎ／Ｎ）（ここで、各ベルヌーイ試行の結果は確率ｐで正であり、確率ｑ＝１−ｐで誤である）を与える。二項分布は次式により与えられる。
【００３９】
【数８】
2009545045.tif 000010
【００４０】
二項分布の期待値はμｎ＝Ｎｐであり、不偏分散はσｎ２＝Ｎｐｑである。限界Ｎ＞＞１/ｐ（１−ｐ）では、二項分布がガウス分布に接近する。Ｎ個のサンプルから引き出される確率ｐの推定値ｐｅｓｔｉｍａｔｅ＝ｎ/Ｎの不偏分散は次式で表される。
【００４１】
【数９】
2009545045.tif 000011
【００４２】
ｐの推定値ｐｅに対する信頼区間の幅は次式で与えられる。
【００４３】
【数１０】
2009545045.tif 000012
【００４４】
ここで、λは選ばれた信頼水準によって決まる。λと信頼水準の関係は、次のルックアップ表が通常用いられる推定のため、所謂ｅｒｆ関数により与えられる。
【００４５】
【表１】
2009545045.tif 000013
【００４６】
信頼区間に関する更なる詳細は例えば、ウェブサイトhttp://mathworld.wolfram.com/ConfidenceInterval.html上で見出すことができる。
【００４７】
式（１０）はここでは統計的分類機の事例で用いられ、ｐは実部類帰属確率として、Ｎはテスト点（ＮＮと表示）の近傍におけるサンプルの数として解釈される。
【００４８】
信頼区間（１）の境界線ｐ−及びｐ＋を得るため、次式を解く必要がある。
【００４９】
【数１１】
2009545045.tif 000014
【００５０】
ここで、ｐｅは部類帰属確率の推定値、即ちテストパターンで推定される部類帰属確率関数の値である。結果は次式である。
【００５１】
【数７】
2009545045.tif 000015
【００５２】
図３は、推定部類帰属確率の信頼区間の下限（ｐ−）の等高線２０を示す。この場合、トレーニングパターンの確率密度は、各クラウド１０、１２に付いて１つである２つのガウス関数により近似されている。トレーニングパターンの確率密度の高い領域（例えば、Ｐ１の周り）では、信頼区間の大きさが極めて小さく、結果となる下限Ｐ−は推定される後の確率Ｐｅ自体に略等しくなる。トレーニングパターンの確率密度の低い領域（例えば、Ｐ２の周り）では、信頼区間の幅が増大し、信頼区間自体の下限は零になる傾向がある。図３では、等高線２０．１の外側の領域は０．１下の信頼区間の下限に対応する。信頼水準の下限が、部類に割当てられているテストパターンに対して少なくとも０．１である必要があれば、誤分類を避けるため、これ等の領域におけるテストパターンは「未知のもの」として検出し、拒絶することができる。
【００５３】
図４は、本パターン分類方法の好適な実施態様のフロー図を示す。方法は、分類すべきテストパターの特定後に、所定数のステップをオフラインで、所定数のステップをオンラインで実行することを含む。
【００５４】
オフラインステップは、フロー図の左側に示されている。これ等のステップは、本質的に分類機のトレーニング、パラメタの設定及びオンラインステップに必要なデータの記憶装置への記憶を含む。一例として、分類すべきテストパターンが１つ又は複数のセンサ出力の形式で提供されるものとする。トレーニングパターンの収集のため（ステップ４２）、センサ又はセンサ等を、分類操作中に遭遇が予期される状況に曝すと、センサ出力が収集される。或いはまた、又はそれに加えて、トレーニングパターンをセンサ出力のシミュレーションから得ることもある。
【００５５】
トレーニングパターンが記録された後、部類帰属関数が計算される（ステップ４４）。これ等の部類帰属関数はテストパターンを、種々の部類に属するこのテストパターンの入力及び出力推定確率として捉える。更に、トレーニングパターンは、トレーニングパターンの確率密度のガウス平滑関数でのたたみ込み計算の働きをする関数を発生するのに用いられる（ステップ４６、４７及び４８）。ステップ４６では、トレーニングパターンの確率密度がガウス混合モデル、即ちガウス関数の有限数の重ね合わせで近似される。ステップ４７では、テストパターンの近傍を特定し、オフラインで設定又は計算できるパラメタ、近傍の幅及び／又は形状が固定される。たたみ込みは式（２）におけるように表示でき、この表示を特定するパラメタが記憶され、それ等を、テストパターンの近傍におけるトレーニングパターンの数を計算しようとするとき（ステップ４８）、利用できるようにする。ガウス混合モデル及び部類帰属関数の時間のかかる計算（ステップ４６及びステップ４４）はテストパターンの分類中に繰り返される必要な無いことが理解されよう。尚、部類帰属関数の計算４８は、トレーニングパターンの確率密度のガウス混合モデルに基づいても良い。
【００５６】
本方法のこの実施態様のオンラインステップは、センサ又はセンサ等からのテストパターンの全取得５０の第１を含む。部類帰属関数は記憶装置から検索され、テストパターンの種々の部類帰属確率が計算される（ステップ５２）。ステップ５４では、式（２）を定義するパラメタ、従って計算されるたたみ込みが記憶装置から検索され、テストパターンの近傍におけるトレーニングパターンの数が特定される。
【００５７】
信頼水準（オフラインステップ４９で設定される）によっては、５２で見出された最高部類帰属確率の信頼区間が計算される（ステップ５６）。テストパターンが割当てられた部類はステップ５８で出力される。部類帰属の不確実性が或る部類と命名するには高すぎると考えられる場合、出力は「未知」であることがある。
【００５８】
図５は、現実の状況６０、６２、６４、６６に対応する一連のテストパターンの中のテストパターンを分類するのに本方法がどのように用いられるかを示す。例示のため、分類システムが、顔（本例では部類１）を物体（部類２）から区別するようにトレーニングされ、そのためカメラ写真から抽出された特徴が入力データとして用いられるものとする。時間軸６８に沿った状況６０、６２、６４、６６の略図は、チューインガムの風船を作る子供を表す。各テストパターンに対して、部類帰属確率が計算され、最高確率の部類が予分類として戻される。各テストパターンに対して、夫々の予分類に関連する特性値Ｑが、部類帰属確率の信頼区間又は考慮のテストパターンの近傍におけるトレーニングパターンの数に基づいて特定される。１００％に近い特性値は本例では、予分類の不確実性が低いこと、及びその分類を出力６９として用いるべきことを表す。システムがトレーニング中予測外の状況（状況６４）に遭遇したら、予分類は誤っているかも知れない。だが、同時に低特定値は予分類には信頼性が無いことを示す。未知の状況６４が有るので、システムは従って予分類が有効とは考えず、それを無視する（参照番号７０で図示）。出力として、この場合システムは、この場合状況６２の分類である最後の有効分類を用いる。
【符号の説明】
【００５９】
１０、１２     データ点のクラウド
１４          トレーニングパターンデータ点
１６          等高線
１８          決定境界線
２０          等高線
６０          状況
６２          状況
６４          状況
６６          状況
６８          時間軸
６９          出力
７０          無視
【図１】
2009545045.tif 000022
【図２】
2009545045.tif 000023
【図３】
2009545045.tif 000024
【図４】
2009545045.tif 000025
【図５】
2009545045.tif 000026
【国際調査報告】
2009545045.tif 000027
2009545045.tif 000028