(57)【特許請求の範囲】
【請求項１】
センサまたはインターフェース（３０）から得られた２つのデータを比較する方法であって、処理ユニット（１０）の処理手段（１１）によって実装され、比較されるデータの２つの特徴ベクトル（ｘ，ｙ）間の類似性関数を計算するステップ（１００）を含む、比較する方法において、
データの各特徴ベクトルが、ベクトルが属するクラスの平均μ、固有偏差ω、およびベクトルの観測ノイズεという３つの独立ガウス変数の加算μ＋ω＋εとしてモデル化されており、
各特徴ベクトルｘが、特徴ベクトルの観測ノイズに関する情報を含む品質ベクトルｑｘと関連し、品質ベクトルの成分は、特徴ベクトルを形成するデータのタイプと特徴のタイプとの関数として生成され、
類似性関数が、特徴ベクトルの成分の共分散行列である
【数１】
0006603548.tif 000052
の関数として、特徴ベクトル（ｘ，ｙ）と、関連する品質ベクトル（ｑｘ，ｑｙ）とから計算され、各特徴ベクトルの観測ノイズ共分散行列である
【数２】
0006603548.tif 000053
が、関連する品質ベクトルの関数として得られることを特徴とする、方法。
【請求項２】
特徴ベクトルの成分の共分散行列が、それぞれがクラス間共分散行列（Ｓμ）と称されるベクトルが属するクラスの平均の共分散行列とクラス内共分散行列（Ｓω）と称されるクラス平均からのベクトル偏差の共分散行列とである共分散行列を含む、請求項１に記載の比較方法。
【請求項３】
類似性関数（ＬＲ）が、ベクトルが１つの同じクラスに属する特徴ベクトルの確率密度である
【数３】
0006603548.tif 000054
とベクトルが２つの異なるクラスに属する特徴ベクトルの確率密度である
【数４】
0006603548.tif 000055
との間の比の対数である、請求項１または２に記載の比較方法。
【請求項４】
ベクトルが属するクラスの平均とクラス平均からのベクトルの偏差との共分散行列（Ｓμ，Ｓω）を決定するために、学習アルゴリズムを適用するステップ（２００）をさらに含む、請求項１から３のいずれか一項に記載の比較方法。
【請求項５】
学習アルゴリズムが期待値最大化タイプのアルゴリズムである、請求項４に記載の比較方法。
【請求項６】
類似性関数が数式
【数５】
0006603548.tif 000056
によって与えられ、ここで
【数６】
0006603548.tif 000057
であり、Ｓμがクラスの平均の共分散行列であり、Ｓωが平均からの偏差の共分散行列であり、
【数７】
0006603548.tif 000058
がベクトルｘおよびｙそれぞれの観測ノイズの共分散行列である、請求項１から５のいずれか一項に記載の比較方法。
【請求項７】
センサまたはインターフェースから導かれたコンピュータデータが物理的対象または物理的大きさを表すデータである、請求項１から６のいずれか一項に記載の比較方法。
【請求項８】
センサまたはインターフェースから導かれたコンピュータデータが画像であり、特徴ベクトルが少なくとも１つのフィルタを画像に適用することによって得られる、請求項７に記載の比較方法。
【請求項９】
データが共通のクラスに属するかどうかを決定するために、計算された類似性関数（ＬＲ）の結果とスレショルドとを比較するステップ（１１０）をさらに含む、請求項１から８のいずれか一項に記載の比較方法。
【請求項１０】
処理ユニット（１０）の処理手段（１１）によって実行された時に請求項１から９のいずれか一項に記載の方法を実行するためのコード命令を含む、コンピュータプログラム製品。
【請求項１１】
複数のいわゆるラベルありのデータを含むデータベース（２０）と、
データ取得ユニット（３０）と、
２つの特徴ベクトル（ｘ，ｙ）と２つの関連する品質ベクトル（ｑｘ，ｑｙ）とを２つのデータアイテムから構築するように構成された処理手段（１１）を備えており、さらに、請求項１から９のいずれか一項に記載の方法を実装することによりデータを比較するように構成されている処理ユニット（１０）と、
を備えるシステム（１）。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、データ間の類似率を決定するために、センサまたはインターフェースから取得されたデータを比較するための方法に関する。さらに詳しくは、本発明は、マシン学習を経由してのデータ比較方法に関する。
【背景技術】
【０００２】
コンピュータビジョン（またはデジタルビジョン）の分野において実装される多数のタスクは、たとえば、画像などの複雑なデータの比較を要求するが、これは、そのようなデータ間の類似性スコアを取得するためである。
【０００３】
たとえば、生体認証の分野では、それらの画像が同一の人間から取得されたものかどうかを決定するために、個人の顔の画像が比較される。
【０００４】
このタイプの問題を処理するためには、比較されるデータからの特徴の抽出を実行し、特徴の抽出によって、比較されるデータを特徴ベクトルに変換し、その後で、特徴ベクトル間の類似性関数を計算することが知られている。
【０００５】
計算された類似性関数は、一般的に、アプリオリには知られていないパラメータを含む。これらのパラメータは、マシン学習により、決定され、徐々に最適化される。そうするために、処理ユニットが、データベースからの既知のデータの組に対してデータ比較動作を実行し、類似性関数によって与えられた結果を現実の結果と比較し、それに従い、より信頼性の高い結果を求めて類似性関数のパラメータを最適化する。
【０００６】
たとえば、Ｄ．  Ｃｈｅｎ、Ｘ．  Ｃａｏ、Ｌ．  Ｗａｎｇ、Ｆ．  ＷｅｎおよびＪ．  Ｓｕｎによる出版物である「Ｂａｙｅｓｉａｎ  Ｆａｃｅ  Ｒｅｖｉｓｉｔｅｄ：  Ａ  Ｊｏｉｎｔ  Ｆｏｒｍｕｌａｔｉｏｎ」、ＥＣＣＶ、２０１２年から、データ間の類似性関数のための学習方法が知られており、その学習方法では、２つの独立ガウス変数：すなわち、あるデータが属するクラスの平均とその平均に対するデータの変動との加算によって、データがモデル化される。
【０００７】
たとえば、データが顔の画像である場合には、クラスは対象者の識別子に対応し、したがって、クラスの平均に対する変動は、対象者の平均的な顔画像と異なる状況の下で撮られた画像との間で生じ得るすべての変化に対応するが、ここで、異なる状況とは：
−  画像上の照明、陰影、
−  画像における顔のポーズ、
−  表情、
−  局所的ぼやけなどである。
【０００８】
しかし、マシン学習の結果として生じる比較のパフォーマンスレベルにおける改善は、品質が変動するデータがデータベースにおいて考慮されている、という事実による限度を有する。結果的に、決定された類似性関数は劣化したパフォーマンスを示し、よって、比較に関して劣化した品質を示す。提案されている比較方法は、したがって、全面的に信頼できるものではない。
【先行技術文献】
【特許文献】
【０００９】
【特許文献１】仏国特許出願公開第２９９８４０２号明細書
【非特許文献】
【００１０】
【非特許文献１】Ｄ．  Ｃｈｅｎ、Ｘ．  Ｃａｏ、Ｌ．  Ｗａｎｇ、Ｆ．  ＷｅｎおよびＪ．  Ｓｕｎ、「Ｂａｙｅｓｉａｎ  Ｆａｃｅ  Ｒｅｖｉｓｉｔｅｄ：  Ａ  Ｊｏｉｎｔ  Ｆｏｒｍｕｌａｔｉｏｎ」、ＥＣＣＶ、２０１２年
【非特許文献２】ＰｆｅｎｎｉｎｇおよびＫｉｒｃｈｎｅｒ、「Ｓｐｅｃｔｒａｌ  Ｍｅｔｈｏｄｓ  ｔｏ  Ｄｅｔｅｒｍｉｎｅ  ｔｈｅ  Ｅｘａｃｔ  Ｓｃａｌｉｎｇ  Ｆａｃｔｏｒ  ｏｆ  Ｒｅｓａｍｐｌｅｄ  Ｄｉｇｉｔａｌ  Ｉｍａｇｅｓ」、ＩＳＣＣＰ、２０１２年
【非特許文献３】Ｃｈｅｎら、「Ｂｌｅｓｓｉｎｇ  ｏｆ  Ｄｉｍｅｎｓｉｏｎａｌｉｔｙ：  Ｈｉｇｈ−ｄｉｍｅｎｓｉｏｎａｌ  Ｆｅａｔｕｒｅ  ａｎｄ  Ｉｔｓ  Ｅｆｆｉｃｉｅｎｔ  Ｃｏｍｐｒｅｓｓｉｏｎ  ｆｏｒ  Ｆａｃｅ  Ｖｅｒｉｆｉｃａｔｉｏｎ」、ＶＣＰＲ、２０１３年
【非特許文献４】Ｒａｐｐら、「Ｂｌｅｓｓｉｎｇ  ｏｆ  Ｄｉｍｅｎｓｉｏｎａｌｉｔｙ：  Ｍｕｌｔｉｐｌｅ  ｋｅｒｎｅｌ  ｌｅａｒｎｉｎｇ  ＳＶＭ  ａｎｄ  ｓｔａｔｉｓｔｉｃａｌ  ｖａｌｉｄａｔｉｏｎ  ｆｏｒ  ｆａｃｉａｌ  ｌａｎｄｍａｒｋ  ｄｅｔｅｃｔｉｏｎ」、Ａｕｔｏｍａｔｉｃ  Ｆａｃｅ  ＆  Ｇｅｓｔｕｒｅ  Ｒｅｃｏｇｎｉｔｉｏｎ、２０１１年
【非特許文献５】Ｄａｎｔｏｎｅら、「Ｒｅａｌ−ｔｉｍｅ  Ｆａｃｉａｌ  Ｆｅａｔｕｒｅ  Ｄｅｔｅｃｔｉｏｎ  ｕｓｉｎｇ  Ｃｏｎｄｉｔｉｏｎａｌ  Ｒｅｇｒｅｓｓｉｏｎ  Ｆｏｒｅｓｔｓ」、ＣＶＰＲ、２０１２年
【発明の概要】
【発明が解決しようとする課題】
【００１１】
従来技術と比較してパフォーマンスが改善されているデータ比較方法を提案することが本発明の目的である。
【課題を解決するための手段】
【００１２】
この点において、本発明の主題は、センサまたはインターフェースから得られた２つのコンピュータデータアイテムを比較する方法であって、処理ユニットの処理手段によって実行され、比較されるデータの２つの特徴ベクトル間の類似性関数の計算を含む、比較する方法において、
データの各特徴ベクトルが、
−  ベクトルが属するクラスの平均、
−  固有偏差、および
−  ベクトルの観測ノイズ
を含むガウス変数の加算としてモデル化されており、
各特徴ベクトルが、特徴ベクトルの観測ノイズに関する情報を含む品質ベクトルと関連し、
類似性関数が、特徴ベクトルと、関連する品質ベクトルとから計算されることを特徴とする、方法である。
【００１３】
有利には、しかしオプションとして、本発明の方法は、さらに、下記の特徴の少なくとも１つを含み得るのであり、すなわち：
−  類似性関数が、ベクトルが１つの同じクラスに属する特徴ベクトルの確率密度である
【数１】
0006603548.tif 000002
とベクトルが２つの異なるクラスに属する特徴ベクトルの確率密度である
【数２】
0006603548.tif 000003
との間の比の対数である。
−  類似性関数が、特徴ベクトルの成分の共分散行列の関数としても計算され、各特徴ベクトルの観測ノイズの共分散行列が、関連する品質ベクトルの関数として得られる。
−  この方法が、さらに、ベクトルが属するクラスの平均とクラス平均に対するベクトルの偏差との共分散行列を決定するために、学習アルゴリズムの実装を含む。
−  学習アルゴリズムが、期待値最大化タイプのアルゴリズムであり、
−  類似性関数が、数式：
【数３】
0006603548.tif 000004
によって与えられ、ここで、
【数４】
0006603548.tif 000005
であり、
ここで、Ｓμがクラスの平均の共分散行列（クラス間の共分散行列）であり、Ｓωが平均に対する偏差の共分散行列（クラス内の共分散行列）であり、
【数５】
0006603548.tif 000006
がベクトルｘおよびｙそれぞれの観測ノイズの共分散行列であり、
−  センサまたはインターフェースから導かれたコンピュータデータが物理的対象または物理的大きさを表すデータであり、
−  センサまたはインターフェースから導かれたコンピュータデータが画像であり、特徴ベクトルが少なくとも１つのフィルタを画像に適用することによって得られ、
−  品質ベクトルの成分が、データのタイプと特徴ベクトルを形成する特徴のタイプとの関数として生成され、
−  本発明の方法が、さらに、データが共通のクラスに属するかどうかを決定するために、計算された類似性関数（ＬＲ）の結果とスレショルドとの比較を含む。
【００１４】
本発明のさらなる主題は、処理ユニットの処理手段によって実行された時に前述の説明による方法を実装するためのコード命令を含むコンピュータプログラム製品である。
【００１５】
本発明のさらなる主題は、
−  複数のいわゆるラベルありのデータを含むデータベースと、
−  データ取得ユニットと、
−  ２つの特徴ベクトルと２つの関連する品質ベクトルとを２つのデータアイテムから構築するように構成された処理手段を備えており、また、前述の説明による比較方法を実装することによりデータを比較するように構成されている処理ユニットと、
を備えるシステムである。
【００１６】
提案される方法によると、データ間の類似性関数を計算するときに、データの品質を考慮することが可能になる。これにより、よい品質のデータとそれよりも確実性が劣るデータとの間で、可変的な重み付けを用いることが可能になる。
【００１７】
たとえば、本発明の方法が画像の比較に適用されるときは、画像の陰影またはぼやけた領域は、類似性関数によって、明瞭に見えて明瞭に区別できる領域と同じ重みづけをつけては考慮されない。
【００１８】
こうして、データ比較に関するパフォーマンスの改善が、得られる。
【００１９】
追加的に、マシン学習により、類似性関数のパラメータの最適化と、したがって、比較方法のパフォーマンスの改善とが可能になる。
【００２０】
本発明の他の特徴、目的および効果は、例証のためだけに与えられており次の添付の図面との関係で読まれるべきである以下の非限定的な説明から、明らかになるであろう。
【図面の簡単な説明】
【００２１】
【図１】比較方法を実装するように構成されたシステムの一例の図解である。
【図２】本発明のある実施形態によるデータ比較方法の主なステップの図解である。
【発明を実施するための形態】
【００２２】
図１を参照すると、処理ユニット１０を備えたシステム１が図解されており、処理ユニット１０は、以下で説明されるコンピュータデータ比較方法を実装するための処理手段１１を備えている。
【００２３】
処理ユニット１０は、たとえば集積回路であり得るし、処理手段は、プロセッサであり得る。
【００２４】
有利には、システム１は、さらに、オプションであるが遠隔的なデータベース２０を備えており、このデータベース２０は、以下で説明されるように、マシン学習を実行するために処理ユニット１０によって用いられる複数のデータを、メモリに記憶する。
【００２５】
最後に、システム１は、データ取得ユニット３０を備えているか、または、データ取得ユニット３０がシステムと独立である場合には、そのようなユニットと通信するように構成されたインターフェース（図示せず）を備えている。このようにして、システム１は、特に、以下で説明される方法を用いてその比較をするために、データｂを受け取り処理することができる。
【００２６】
以下で説明される方法において比較されるデータのタイプに応じて、データ取得ユニットは、たとえば、光センサ（写真カメラ、ビデオカメラ、スキャナ）、音響センサ、指紋センサ、運動センサなど、どのようなタイプにもなり得る。それはまた、テキストや図形など、オペレータによって入力されるデータを記録するためのマンマシンインターフェース（キーパッド、タッチスクリーンインターフェース付きのタブレット）でもあり得る。
【００２７】
コンピュータデータｂは、取得ユニット３０によって得られ、したがって、センサまたはたとえばマンマシンインターフェースなどのインターフェースから導かれる。それは、たとえば、画像、概略図、記録、説明書など、物理的対象を表すデータであり得るし、または、たとえばセンサによって記録されたデータなど、物理的大きさ（電気的、機械的、熱的、音響的など）を表すデータであり得る。
【００２８】
処理ユニットの処理手段１１は、有利には、適切なプログラムを実行することによって以下で説明されるデータ比較方法を実行するように構成されている。
【００２９】
この方法を実装するため、処理手段１１は、また、有利には、特徴抽出モジュール１２を備えており、この特徴抽出モジュール１２は、データ取得ユニット３０によって通信された入力コンピュータデータｂから、特徴の抽出を生成して、データと関連する特徴ベクトルｘと、特徴ベクトルと関連するデータの品質ベクトルｑｘとを生成するように構成されている。
【００３０】
品質ベクトルｑｘは、特徴ベクトルと同じサイズのベクトルであり得るのであって、その各要素は、特徴ベクトルｘの対応する要素に含まれる情報の品質を示す。あるいは、品質ベクトルｑｘは、任意のサイズでもあり得る。その生成は、データｂのタイプに依存する。
【００３１】
たとえば、特徴抽出は、この目的のために設計された１つまたは複数のフィルタをデータｂに適用することによって、そして次に、ただしこれはオプションであるが、フィルタリング結果を処理すること（たとえば、ヒストグラムの計算など）によって、実行され得る。
【００３２】
品質ベクトルの生成は、データｂのタイプと、特徴ベクトルｘの特徴のタイプすなわちベクトルｘの成分要素とに依存する。品質ベクトルの各要素は、特徴ベクトルの特定の特徴と関連する固有データ関係情報を考慮する。
【００３３】
たとえば、信号処理または画像処理の分野では、データがセンサによって取得された代表信号の画像または取得であるときには、データの周波数表現（たとえば、フーリエ変換）または空間−周波数表現（たとえば、ウェーブレット変換）を、特徴ベクトルｘとして用いることが頻繁になされる。特徴ベクトルの各成分は、よって、何らかの周波数帯域に依存する。
【００３４】
そのような場合、データの高周波成分は、低周波成分よりも識別力が高いが、ノイズの存在または信号解像度の欠如などの現象に対してより敏感であることが判明することがあり得る。
【００３５】
データにおけるノイズの量は、そのデータがセンサによって取得された信号である場合にはそのエネルギースペクトルを解析することによって、または、そのデータが画像である場合にはその固有解像度を解析することによって、決定され得る。たとえば、画像の解像度の決定について、ＰｆｅｎｎｉｎｇおよびＫｉｒｃｈｎｅｒによる「Ｓｐｅｃｔｒａｌ  Ｍｅｔｈｏｄｓ  ｔｏ  Ｄｅｔｅｒｍｉｎｅ  ｔｈｅ  Ｅｘａｃｔ  Ｓｃａｌｉｎｇ  Ｆａｃｔｏｒ  ｏｆ  Ｒｅｓａｍｐｌｅｄ  Ｄｉｇｉｔａｌ  Ｉｍａｇｅｓ」、ＩＳＣＣＰ、２０１２年という論文が、知られている。
【００３６】
次に、特徴ベクトルｘとデータの固有品質との関数として生成される品質ベクトルｑｘは、次のように構築され得る：
−  データの低周波成分に敏感な特徴ベクトルの成分には、高品質という属性が付され、
−  データの高周波成分に敏感であって、ノイズレベルが低いおよび／または解像度が高い特徴ベクトルの成分には、高品質という属性が付され、
−  高周波成分に敏感であって、ノイズレベルが高いおよび／または解像度が低い特徴ベクトルの成分には、低品質という属性が付される。
ノイズレベルまたは解像度に対して属性として付される品質値およびスレショルドは、比較方法のパフォーマンスを検証ベースで最適化するように、経験的に決定され得る。
【００３７】
別の例によると、データは顔の画像である。
【００３８】
この例によると、特徴ベクトルは、顔の特定のセマンティックポイント（たとえば、鼻の先端、口角、目など）の近傍において抽出された局所的記述子を連結することにより、Ｃｈｅｎらによる論文である「Ｂｌｅｓｓｉｎｇ  ｏｆ  Ｄｉｍｅｎｓｉｏｎａｌｉｔｙ：  Ｈｉｇｈ−ｄｉｍｅｎｓｉｏｎａｌ  Ｆｅａｔｕｒｅ  ａｎｄ  Ｉｔｓ  Ｅｆｆｉｃｉｅｎｔ  Ｃｏｍｐｒｅｓｓｉｏｎ  ｆｏｒ  Ｆａｃｅ  Ｖｅｒｉｆｉｃａｔｉｏｎ」、ＶＣＰＲ、２０１３年において示されているように取得され得る。
【００３９】
この表現は、規則的なグリッド上の記述子を抽出する方法よりも、ポーズの変動に対してより堅固である、という長所を有する。
【００４０】
しかし、これらの特徴の抽出は、これらの点を検出するステップを含む。このステップを通じて、検出器が用いられ得るのであるが、これは、画像における顔の各点の最もありえそうな位置を提供することに加えて、検出精度の信頼性レベルを変換する情報も提供する。
【００４１】
測定値は、たとえば、Ｒａｐｐらによる論文である「Ｂｌｅｓｓｉｎｇ  ｏｆ  Ｄｉｍｅｎｓｉｏｎａｌｉｔｙ：  Ｍｕｌｔｉｐｌｅ  ｋｅｒｎｅｌ  ｌｅａｒｎｉｎｇ  ＳＶＭ  ａｎｄ  ｓｔａｔｉｓｔｉｃａｌ  ｖａｌｉｄａｔｉｏｎ  ｆｏｒ  ｆａｃｉａｌ  ｌａｎｄｍａｒｋ  ｄｅｔｅｃｔｉｏｎ」、Ａｕｔｏｍａｔｉｃ  Ｆａｃｅ  ＆  Ｇｅｓｔｕｒｅ  Ｒｅｃｏｇｎｉｔｉｏｎ，２０１１年から知られているが、この論文では、サポートベクターマシン（ＳＶＭ）に基づく検出器を用いるときに、分離超平面までの距離を測定している。
【００４２】
別の例が、Ｄａｎｔｏｎｅらによる論文「Ｒｅａｌ−ｔｉｍｅ  Ｆａｃｉａｌ  Ｆｅａｔｕｒｅ  Ｄｅｔｅｃｔｉｏｎ  ｕｓｉｎｇ  Ｃｏｎｄｉｔｉｏｎａｌ  Ｒｅｇｒｅｓｓｉｏｎ  Ｆｏｒｅｓｔｓ」、ＣＶＰＲ、２０１２年において与えられているが、この論文では、信頼性の測定値は、回帰ツリーを用いた検出器によって決定される複数の票決によって与えられる。
【００４３】
この信頼性情報は、特徴ベクトルの各成分と関連する品質を生じさせるために、それが対応する顔のセマンティックポイントの検出の品質をそれに属性として付することによって、用いられ得る。
【００４４】
さらなる例によると、顔の画像が、たとえば、フランス特許出願公開第２９９８４０２号に記載されている方法を適用することによって、顔の前面画像ではない画像から生成された顔の画像であるときには、品質ベクトルは信頼性インデックスであり得るのであって、このインデックスは、元の画像で生じる顔の点に対しては比較的高く、元の画像では生じておらず外挿によって再構築された顔の点に対しては比較的低くなる。
【００４５】
より一般的には、データが画像であるときには、品質ベクトルは、ぼやけの局所的な測定によって取得され得る。
【００４６】
あるいは、特徴抽出モジュールは、取得ユニット３０の中のモジュールであって、取得ユニットが処理手段１１との間で特徴ベクトルと関連する品質ベクトルとを直接的に通信することを可能にするものである。
【００４７】
データ比較方法
【００４８】
図２を参照して、処理ユニットの処理手段１１によって実装されるデータ比較方法に関する説明を行う。
【００４９】
この方法は、データからそれぞれ取得され同じサイズである２つの特徴ベクトルｘおよびｙの間の類似性関数を計算する（１００）ことにより、そして、データベース上のその類似性関数のパラメータのマシン学習を実行する（２００）ことにより、２つのデータアイテムを比較することを含む。
【００５０】
この方法では、各特徴ベクトルは、以下の３つの独立なガウス変数の加算としてモデル化される：すなわち、ｘ＝μ＋ω＋εであり、ここで、
−  μは、ベクトルｘが属するクラスの平均であり、
−  ωは、平均からのベクトルｘの固有偏差であり、
−  εは、観測ノイズである。
【００５１】
クラスとは、類似すると考えられる特徴ベクトルの集合である。２つの特徴ベクトルは、類似性関数によるそれらの比較がスレショルドよりも高い結果を生じる場合に類似すると考えられるのであるが、このスレショルドは経験的に決定される。
【００５２】
たとえば、データが顔の画像である場合には、クラスは、有利には、個人に対応する。複数のデータの２つの特徴ベクトルを比較することにより、それらが同じ個人から生じている場合には、データは類似すると考えられる。
【００５３】
既に説明されたモデルに戻ると、１つの同じクラスに属する２つの特徴ベクトルは、したがって、同一の値μを有するが、ωおよびεに関しては異なる値を有する。
【００５４】
特徴ベクトルが異なるクラスに属する場合には、これらの３つの変数は、完全に独立である。
【００５５】
これらの３つの変数は、ゼロを中心とする多変量正規分布に従い、それぞれの共分散行列は、Ｓμ、Ｓω、およびＳεと書かれる。Ｓμはクラス間共分散行列と称され、Ｓωはクラス内共分散行列と称され、Ｓεは観測ノイズ共分散行列と称される。
【００５６】
ＳμおよびＳωは、すべての特徴ベクトルに共通して未知である。
【００５７】
一方で、Ｓεは既知であるが、その理由は、これが、特徴ベクトルと関連する品質ベクトルから、特徴抽出モジュールによって得られるからである。これは、関連の特徴ベクトルと同じサイズである。
【００５８】
たとえば、観測ノイズが相互に相関しないと仮定すると、Ｓεは、対角行列によって、十分に近似され得る。
【００５９】
この対角行列の要素は、品質ベクトルの成分の分散に対応するのであって、このベクトルから取得され得る。
【００６０】
たとえば、分散は、品質ベクトルｑｘの成分にｆ（ｑｘ）＝１／ｅａｑｘ＋ｂのタイプのシグモイド関数を適用することによって、制限され得る。係数ａおよびｂは、決定された分散レベルを品質レベルと関連させるように選択され得る。
【００６１】
たとえば、高い品質はゼロの分散と関連させることが可能であり、非常に低い品質は最大の分散と関連させることが可能であり、中間的な分散は中間的な品質と対応する。
【００６２】
一般に、品質ベクトルと特徴ベクトルとはデータのタイプに依存し、品質ベクトルをノイズ共分散行列に変換する伝達関数は、関連する品質ベクトルおよび特徴ベクトルに特定的である。
【００６３】
本明細書の残りでは、
【数６】
0006603548.tif 000007
は、品質ベクトルｑｘから得られたベクトルｘの背景ノイズの共分散行列を表し、
【数７】
0006603548.tif 000008
は、品質ベクトルｑｙから得られたベクトルｙの背景ノイズの共分散行列である。
【００６４】
Ｈｓｉｍは、２つの特徴ベクトルがひとつの同じクラスに属する、すなわち、対応するデータが類似と考えられるという仮説を表し、Ｈｄｉｓは、それらの特徴ベクトルが異なるクラスに属し、対応するデータが非類似と考えられるという逆の仮説を表す。
【００６５】
背景ノイズのそれらのそれぞれの共分散行列が既知であるとして、仮説Ｈｓｉｍを考慮した、ｘおよびｙを発生する結合確率は、
【数８】
0006603548.tif 000009
と書かれる。この確率は、中心がゼロであり共分散行列がＳｓｉｍであるガウスの法則：
【数９】
0006603548.tif 000010
に従う。
【００６６】
背景ノイズのそれらのそれぞれの共分散行列が既知であるとして、仮説Ｈｄｉｓを考慮した、ｘおよびｙを発生する結合確率は、
【数１０】
0006603548.tif 000011
と書かれる。この確率は、中心がゼロであり共分散行列がＳｄｉｓであるガウスの法則：
【数１１】
0006603548.tif 000012
に従う。
【００６７】
行列ＳｓｉｍおよびＳｄｉｓは、下記：
【数１２】
0006603548.tif 000013
として定義される。
【００６８】
既知の態様それ自体での確率密度
【数１３】
0006603548.tif 000014
は
【数１４】
0006603548.tif 000015
であり、ここで、｜Ｓｓｉｍ｜はＳｓｉｍの行列式であり、Ｎは特徴ベクトルの次元である。
【００６９】
同じ表現が、確率密度
【数１５】
0006603548.tif 000016
に必要な変更を加えて適用される。
【００７０】
ベクトルｘおよびｙに対応する２つのデータを比較するために計算された類似性関数は、ベクトルがひとつの同じクラスに属する特徴ベクトルの確率密度と、ベクトルが２つの異なるクラスに属する特徴ベクトルの確率密度との間の比率の対数である。
【００７１】
したがって、類似性関数は、次のように表現される：
【数１６】
0006603548.tif 000017
【００７２】
上に示された確率密度の表現を用いるとき、そして、行列ＳｓｉｍおよびＳｄｉｓの逆行列を求めるためにブロック反転公式を用いて関数を展開するときには、得られる類似性関数は、次のように表現される：
【数１７】
0006603548.tif 000018
【００７３】
この表現において、Ａ、ＢおよびＣは、Ｓｓｉｍのブロック反転の結果として生じる項であり、それぞれが、次のように表現される：
【数１８】
0006603548.tif 000019
【００７４】
定数は、ｘ、ｙ、
【数１９】
0006603548.tif 000020
には依存せず、したがって、無視され得る。
【００７５】
したがって、類似性関数ＬＲは、ｘおよびｙの観測ノイズの共分散行列である
【数２０】
0006603548.tif 000021
を考慮し、よって、各特徴ベクトルと関連する品質ベクトルを考慮するということが、わかる。
【００７６】
したがって、比較の結果は、特徴ベクトルと関連する品質、すなわち信頼性によって影響され、それにより、低いすなわち不確実な品質を有すると考えられる特徴に関してはより軽い重み付けが、そして、優れた品質すなわちより高い信頼性を有する特徴に関してはより大きな重み付けが、可能となる。
【００７７】
本明細書の残りにおいて見られるように、この類似性関数は、また、マシン学習によってパラメータ化される。特徴ベクトルと関連する品質を考慮することによって、関数のパラメータ化に対する低品質のデータの影響が、最小化され得る。
【００７８】
比較方法は、したがって、より信頼性が高い。
【００７９】
図２に戻ると、比較の結果が、次に、ステップ１１０において決定されたスレショルドと比較される。
【００８０】
このスレショルドは、有利には、多数の比較を、（ひとつの同じクラスに属するまたは属さないことが知られている）データベースにおける既知の特徴ベクトルに適用することによって、経験的に決定される。
【００８１】
ｘおよびｙに適用された類似性関数の結果が決定されたスレショルドよりも高い場合には、対応するデータは類似すると考えられる。そうでない場合には、データは、非類似であると考えられる。
【００８２】
既に示された類似性関数ＬＲの式は、この関数が共分散行列Ｓμ、Ｓωによってパラメータ化されることを示しているが、これらは未知である。
【００８３】
したがって、この方法は、マシン学習によって前記行列を決定するために、ステップ２００を含む。
【００８４】
この方法は、期待値最大化（ＥＭ）アルゴリズムを用いて行われるのが有利であり、データベース２０に格納されているデータの集合に対して実行されるが、このデータは「ラベルあり」と称されるのであって、すなわち、そのデータが属するそれぞれのクラスは既知である。
【００８５】
ｍｃ個の特徴ベクトルが属するクラスはｃで示され、
【数２１】
0006603548.tif 000022
は、そのクラスの特徴ベクトルの連結を示し、
【数２２】
0006603548.tif 000023
は、観測ノイズのそれらのそれぞれの共分散行列を示す。
【００８６】
潜在変数である
【数２３】
0006603548.tif 000024
が、各μｃがクラス平均である各クラスｃに対して定義され、したがって、これはただひとつだけ存在し、各ωｃ，ｉはこのクラスにおける特徴ベクトルのこの平均からの偏差である（したがって、特徴ベクトルごとに１つ存在する）。
【００８７】
ＥＭアルゴリズムによって推定されるパラメータは、Θ＝｛Ｓμ，Ｓω｝である。
【００８８】
期待値最大化アルゴリズムは、潜在変数の分布
【数２４】
0006603548.tif 000025
のパラメータを推定するための第１のステップ２１０を含む反復的アルゴリズムであり、ここで
【数２５】
0006603548.tif 000026
は、パラメータの先行する推定である。
【００８９】
この方法の初期設定では、
【数２６】
0006603548.tif 000027
は、パラメータの第１の経験的推定である。
【００９０】
パラメータＳμの初期設定は、有利には、各クラスｃに対し、そのクラスの経験的平均を計算し、次に、その平均値の共分散行列を決定することによって、得られる。
【００９１】
パラメータＳωの初期設定は、各クラスに対し、クラス平均が減算された（すなわち、平均に対する特徴ベクトルの差）特徴ベクトルの共分散行列を計算し、次に、すべてのクラスに関して平均共分散行列を計算することによって、得られ得る。
【００９２】
このアルゴリズムは、次に、潜在変数Ｚｃに対する期待対数尤度：
【数２７】
0006603548.tif 000028
のΘを追いこむ最大化ステップ２２０を含む。
【００９３】
このステップを適切に行うためには、そして、計算時間を最小化するためには、潜在変数ωｃ，ｉが、
【数２８】
0006603548.tif 000029
を、下記のように因数分解することによって固定されるμｃと条件付きで独立であるという事実が考慮される：
【数２９】
0006603548.tif 000030
【００９４】
ステップ２２０における
【数３０】
0006603548.tif 000031
の最適化は、パラメータの確率分布
【数３１】
0006603548.tif 000032
および
【数３２】
0006603548.tif 000033
を計算することを要求する。これらの計算の詳細は、下記の通りである：
【数３３】
0006603548.tif 000034
ここで、
【数３４】
0006603548.tif 000035
および
【数３５】
0006603548.tif 000036
である。
【００９５】
方程式（１）と
【数３６】
0006603548.tif 000037
が確率分布であるという事実とを組み合わせると、
【数３７】
0006603548.tif 000038
が示される。
さらに、
【数３８】
0006603548.tif 000039
であるが、ここで
【数３９】
0006603548.tif 000040
であり、ここで、
【数４０】
0006603548.tif 000041
および
【数４１】
0006603548.tif 000042
である。
したがって、ステップ２２０は、次のように、ＳμおよびＳωに関する最大化を伴う：
【数４２】
0006603548.tif 000043
これは、勾配を計算して
【数４３】
0006603548.tif 000044
を解くこと、すなわち、
【数４４】
0006603548.tif 000045
0006603548.tif 000046
を解き、さらには、
【数４５】
0006603548.tif 000047
を解くことによって得られる。
【００９６】
期待値最大化アルゴリズムは、ステップ２１０において、変数である
【数４６】
0006603548.tif 000048
および
【数４７】
0006603548.tif 000049
を連続的に計算し、ステップ２２０において、ＳμおよびＳωの値すなわち
【数４８】
0006603548.tif 000050
の値を収束するまで適合させることによって、反復的に実行される。ステップ２１０におけるそれぞれ新たな反復では、先行するステップ２２０において得られた新たな値である
【００９７】
【数４９】
0006603548.tif 000051
が再使用される。
【符号の説明】
【００９８】
１０  処理ユニット
１１  処理手段
１２  特徴抽出モジュール
２０  データベース
３０  データ取得ユニット
【図１】
0006603548.tif 000059
【図２】
0006603548.tif 000060