(57)【特許請求の範囲】
【請求項１】
第１乃至第Ｔ（Ｔ≧２）の学習データとテストデータとから確率モデル推定結果を求める確率モデル推定装置であって、
前記第１乃至第Ｔの学習データと前記テストデータとを入力するデータ入力装置と、
それぞれ前記第１乃至第Ｔの学習データに対する第１乃至第Ｔの学習データ周辺分布を求める第１乃至第Ｔの学習データ分布推定処理部と、
前記テストデータに対するテストデータ周辺分布を求めるテストデータ分布推定処理部と、
それぞれ前記第１乃至第Ｔの学習データ周辺分布に対する前記テストデータ周辺分布の比である第１乃至第Ｔの密度比を算出する第１乃至第Ｔの密度比算出処理部と、
前記第１乃至第Ｔの密度比から、確率モデルを推定するための目的関数を生成する目的関数生成処理部と、
前記目的関数を最小化して、前記確率モデルの推定を行う確率モデル推定処理部と、
前記推定された確率モデルを前記確率モデル推定結果として出力する確率モデル推定結果出力装置と、
を備えた確率モデル推定装置。
【請求項２】
前記第１乃至第Ｔの学習データとして第１乃至第Ｔの車種の実走行のデータを入力し、前記テストデータとして第（Ｔ＋１）の車種の試験走行データを入力し、それによって、前記確率モデル推定結果として前記第（Ｔ＋１）の車種の故障診断モデルを出力する、請求項１に記載の確率モデル推定装置。
【請求項３】
第１乃至第Ｔ（Ｔ≧２）の学習データとテストデータとから確率モデル推定結果を求める確率モデル推定方法であって、
前記第１乃至第Ｔの学習データと前記テストデータとを入力するステップと、
それぞれ前記第１乃至第Ｔの学習データに対する第１乃至第Ｔの学習データ周辺分布を求めるステップと、
前記テストデータに対するテストデータ周辺分布を求めるステップと、
それぞれ前記第１乃至第Ｔの学習データ周辺分布に対する前記テストデータ周辺分布の比である第１乃至第Ｔの密度比を算出するステップと、
前記第１乃至第Ｔの密度比から、確率モデルを推定するための目的関数を生成するステップと、
前記目的関数を最小化して、前記確率モデルの推定を行うステップと、
前記推定された確率モデルを前記確率モデル推定結果として出力するステップと、
を含む確率モデル推定方法。
【請求項４】
コンピュータに、第１乃至第Ｔ（Ｔ≧２）の学習データとテストデータとから確率モデル推定結果を求めさせる、確率モデル推定プログラムであって、前記コンピュータに、
前記第１乃至第Ｔの学習データと前記テストデータとを入力するデータ入力機能と、
それぞれ前記第１乃至第Ｔの学習データに対する第１乃至第Ｔの学習データ周辺分布を求める第１乃至第Ｔの学習データ分布推定処理機能と、
前記テストデータに対するテストデータ周辺分布を求めるテストデータ分布推定処理機能と、
それぞれ前記第１乃至第Ｔの学習データ周辺分布に対する前記テストデータ周辺分布の比である第１乃至第Ｔの密度比を算出する第１乃至第Ｔの密度比算出処理機能と、
前記第１乃至第Ｔの密度比から、確率モデルを推定するための目的関数を生成する目的関数生成処理機能と、
前記目的関数を最小化して、前記確率モデルの推定を行う確率モデル推定処理機能と、
前記推定された確率モデルを前記確率モデル推定結果として出力する確率モデル推定結果出力機能と、
を実現させるための確率モデル推定プログラム。
【請求項５】
第１乃至第Ｔ（Ｔ≧２）の学習データとテストデータとから確率モデル推定結果を求める確率モデル推定装置であって、
前記第１乃至第Ｔの学習データと前記テストデータとを入力するデータ入力装置と、
それぞれ前記第１乃至第Ｔの学習データの周辺分布に対する前記テストデータの周辺分布の比である第１乃至第Ｔの密度比を算出する第１乃至第Ｔの密度比算出処理部と、
前記第１乃至第Ｔの密度比から、確率モデルを推定するための目的関数を生成する目的関数生成処理部と、
前記目的関数を最小化して、前記確率モデルの推定を行う確率モデル推定処理部と、
前記推定された確率モデルを前記確率モデル推定結果として出力する確率モデル推定結果出力装置と、
を備えた確率モデル推定装置。
【請求項６】
前記第１乃至第Ｔの学習データとして第１乃至第Ｔの車種の実走行のデータを入力し、前記テストデータとして第（Ｔ＋１）の車種の試験走行データを入力し、それによって、前記確率モデル推定結果として前記第（Ｔ＋１）の車種の故障診断モデルを出力する、請求項５に記載の確率モデル推定装置。
【請求項７】
第１乃至第Ｔ（Ｔ≧２）の学習データとテストデータとから確率モデル推定結果を求める確率モデル推定方法であって、
前記第１乃至第Ｔの学習データと前記テストデータとを入力するステップと、
それぞれ前記第１乃至第Ｔの学習データの周辺分布に対する前記テストデータの周辺分布の比である第１乃至第Ｔの密度比を算出するステップと、
前記第１乃至第Ｔの密度比から、確率モデルを推定するための目的関数を生成するステップと、
前記目的関数を最小化して、前記確率モデルの推定を行うステップと、
前記推定された確率モデルを前記確率モデル推定結果として出力するステップと、
を含む確率モデル推定方法。
【請求項８】
コンピュータに、第１乃至第Ｔ（Ｔ≧２）の学習データとテストデータとから確率モデル推定結果を求めさせる、確率モデル推定プログラムであって、前記コンピュータに、
前記第１乃至第Ｔの学習データと前記テストデータとを入力するデータ入力機能と、
それぞれ前記第１乃至第Ｔの学習データの周辺分布に対する前記テストデータの周辺分布の比である第１乃至第Ｔの密度比を算出する第１乃至第Ｔの密度比算出処理機能と、
前記第１乃至第Ｔの密度比から、確率モデルを推定するための目的関数を生成する目的関数生成処理機能と、
前記目的関数を最小化して、前記確率モデルの推定を行う確率モデル推定処理機能と、
前記推定された確率モデルを前記確率モデル推定結果として出力する確率モデル推定結果出力機能と、
を実現させるための確率モデル推定プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、確率モデルの学習装置に関し、特に、確率モデル推定装置、方法、およびプログラムに関する。
【背景技術】
【０００２】
確率モデルは、データの分布を確率的に表現するモデルであり、産業上様々な分野で応用されている。例えば、本発明が対象とする確率的判別モデルや確率的回帰モデルの応用例としては、画像認識（顔認識やがん診断等）、機械センサからの故障診断、医療データからのリスク診断が挙げられる。
【０００３】
最尤推定法やベイズ推定法などに基づく通常の確率モデルの学習は、二つの大きな仮定をもとに学習を行う。第１の仮定は、学習に利用するデータ(以下、「学習データ」と呼ぶ)が同一の情報源から取得されている事である。第２の仮定は、学習データと予測対象のデータ（以下、「テストデータ」と呼ぶ）に関して情報源の性質が同一である事である。以下では、第１の仮定が成立しない状況下で適切に確率モデルを学習する事を「第１の課題」と呼び、第２の仮定が成立しない状況下で適切に確率モデルを学習する事を「第２の課題」と呼ぶ。
【０００４】
しかしながら、例えば自動車の故障診断で言えば、複数の異なる車種から取得されるセンサデータは同一の情報源ではなく、またエンジンやセンサの経年劣化により学習データ取得時点とテストデータ取得時点とで自動車の性質が変化してしまい、上記の第１および第２の仮定は成立していない。また例えば、医療データの場合には、年代や性別の異なる人のデータは、同一の情報源ではなく、また特定健康診断（４０代以上）のデータから学習された確率モデルを３０代の人に適用する場合には学習データとテストデータとの性質が変化し、やはり上記の第１および第２の仮定は成立していない。
【０００５】
上記第１の仮定や第２の仮定が実際には成立していない場合には、最尤推定法やベイズ推定法など学習技術の前提条件が成立しないため、適切な確率モデルを学習する事ができないという問題がある。この問題を解決するために、従来いくつかの方法が提案されている。
【０００６】
まず、第１の課題に対しては、異なる情報源のデータからターゲットとなる情報源の確率モデルを学習する問題は、移管学習（Transfer Learning）や多タスク学習（Multi-task Learning）と呼ばれ、非特許文献１など、様々な方法が提案されている。次に、第２の課題に対しては、学習データとテストデータで情報源の性質が変わる問題は、共変量シフト（Covariate Shift）と呼ばれ、非特許文献２など、様々な方法が提案されている。
【０００７】
しかしながら、従来技術は第１および第２の課題を別々に扱っており、個々の課題に対しては適切な学習を行う事ができるが、前述の自動車の故障診断や医療データの学習のように、第１および第２の課題が同時に発現する状況では、適切なモデルを学習する事が難しい。また、二つの技術はそれぞれ学習データを入力し確率モデルを出力するという同様の機能を有し、例えば移管学習の結果を、共変量シフトを考慮した学習器の入力に利用するという、単純な組合せは難しい。
【先行技術文献】
【非特許文献】
【０００８】
【非特許文献１】T. Evgeniou and M. Pontil. “Regulated Multi-Task Learning.” Proceedings of the Tenth ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, p. 109-117, 2004
【非特許文献２】M. Sugiyama, S. Nakajima, H. Kashima, P. von Bunau, and M. Kawanabe. ”Direct Importance Estimation with Model Selection and Its Application to Covariate Shift Adaptation.” Advances in Neural Information Processing Systems 20, p. 1433-1440, 2008
【発明の概要】
【発明が解決しようとする課題】
【０００９】
本発明の解決すべき課題は、第１の課題と第２の課題とが同時に発現している確率モデルの学習問題において、両者を同時に解決し適切な確率モデルを学習する事にある。
【課題を解決するための手段】
【００１０】
特に，本発明は、１）複数の情報源から取得されたデータを利用してターゲットとなる情報源の確率モデルを学習する、２）学習データ取得時と、学習したモデルを利用する時で、情報源の性質が異なる場合に、学習したモデルを利用する際に適切な確率モデルを学習する、という二点を特徴とする。
【００１１】
すなわち、本発明の第１の態様による確率モデル推定装置は、第１乃至第Ｔ（Ｔ≧２）の学習データとテストデータとから確率モデル推定結果を求める確率モデル推定装置であって、第１乃至第Ｔの学習データとテストデータとを入力するデータ入力装置と、それぞれ第１乃至第Ｔの学習データに対する第１乃至第Ｔの学習データ周辺分布を求める第１乃至第Ｔの学習データ分布推定処理部と、テストデータに対するテストデータ周辺分布を求めるテストデータ分布推定処理部と、それぞれ第１乃至第Ｔの学習データ周辺分布に対するテストデータ周辺分布の比である第１乃至第Ｔの密度比を算出する第１乃至第Ｔの密度比算出処理部と、第１乃至第Ｔの密度比から、確率モデルを推定するための目的関数を生成する目的関数生成処理部と、目的関数を最小化して、確率モデルの推定を行う確率モデル推定処理部と、推定された確率モデルを確率モデル推定結果として出力する確率モデル推定結果出力装置と、を備える。
【００１２】
また、本発明の第２の態様による確率モデル推定装置は、第１乃至第Ｔ（Ｔ≧２）の学習データとテストデータとから確率モデル推定結果を求める確率モデル推定装置であって、第１乃至第Ｔの学習データとテストデータとを入力するデータ入力装置と、それぞれ第１乃至第Ｔの学習データの周辺分布に対するテストデータの周辺分布の比である第１乃至第Ｔの密度比を算出する第１乃至第Ｔの密度比算出処理部と、第１乃至第Ｔの密度比から、確率モデルを推定するための目的関数を生成する目的関数生成処理部と、目的関数を最小化して、確率モデルの推定を行う確率モデル推定処理部と、推定された確率モデルを確率モデル推定結果として出力する確率モデル推定結果出力装置と、を備える。
【発明の効果】
【００１３】
本発明によれば、第１の課題と第２の課題とを同時に解決し、適切な確率モデルを学習することができる。
【図面の簡単な説明】
【００１４】
【図１】本発明の第１の実施の形態に係る確率モデル推定装置を示すブロック図である。
【図２】図１に示した確率モデル推定装置の動作を説明するためのフローチャートである。
【図３】本発明の第２の実施の形態に係る確率モデル推定装置を示すブロック図である。
【図４】図３に示した確率モデル推定装置の動作を説明するためのフローチャートである。
【発明を実施するための形態】
【００１５】
本発明の実施の形態を説明するために、本明細書中で利用する記号をいくつか定義する。まず、ＸとＹは説明変数と被説明変数となる確率変数を表し、Ｐ(Ｘ;θ)、Ｐ(Ｙ,Ｘ;θ,φ)、Ｐ(Ｙ|Ｘ;φ)は、それぞれ、Ｘの周辺分布、Ｘ,Ｙの同時分布、Ｘを条件とするＹの条件付分布を表す（θ、φは、それぞれ、分布のパラメータとする）。なお、パラメータについては表記の簡単のため、省略する事がある。
【００１６】
異なる情報源、学習時とテスト時によって確率モデルが異なるため、Ｐtrt(Ｘ)およびＰtet(Ｘ)は、それぞれ、ｔ番目の学習情報源（以下、第ｔの学習情報源ｔ。ｔ＝１,…,Ｔ）における学習時（training）とテスト時(test)における説明変数の分布を表す。なお、Ｐ(Ｙ|Ｘ;φ)は、従来の共変量シフト問題と同様に、学習時とテスト時で分布が変わらないと仮定する。なお、Ｐ(Ｙ|Ｘ;φut)は、テスト情報源ｕの確率モデル学習のために第ｔの学習情報源ｔで学習するパラメータを表す。
【００１７】
第ｔの学習情報源ｔで取得される、ＸとＹに対応する学習データをｘtrtn，ｙtrtn(ｎ=１,…,Ｎtrt)とする。また、ターゲットとなる情報源をテスト情報源ｕとし、テスト情報源ｕで取得されるＸに対応するテストデータ（の説明変数）をｘteun(ｎ=１,…,Ｎteu)とする。
【００１８】
データと共に入力される第ｔの学習情報源ｔとテスト情報源ｕの間の類似性をＷutと表記する。Ｗutは任意の実数値で定義され、例えば類似しているか、していないかの二値であったり、０から１の間の数値であったりする。
【００１９】
［第1の実施の形態］
図１を参照すると、本発明の第１の実施の形態に関わる確率モデル推定装置１００は、データ入力装置１０１と、第１乃至第Ｔの学習データ分布推定処理部１０２−１〜１０２−Ｔ（Ｔ≧２）と、テストデータ分布推定処理部１０４と、第１乃至第Ｔの密度比算出処理部１０５−１〜１０５−Ｔと、目的関数生成処理部１０７と、確率モデル推定処理部１０８と、確率モデル推定結果出力装置１０９と、を備えている。また、確率モデル推定装置１００は、各学習情報源から取得された第１乃至第Ｔの学習データ１〜Ｔ（１１１−１〜１１１−Ｔ）を入力し、テスト情報源ｕのテスト環境に対して適切な確率モデルを推定し、確率モデル推定結果１１４として出力する。
【００２０】
データ入力装置１０１は、第１の学習情報源乃至第Ｔの学習情報源から取得された第１の学習データ１（１１１−１）〜第Ｔの学習データＴ（１１１−Ｔ）およびテスト情報源ｕから取得されたテストデータｕ（１１３）を入力するための装置であり、この際に確率モデルの学習に必要なパラメータ等が同時に入力される。
【００２１】
第ｔの学習データ分布推定処理部１０２−ｔ（１≦ｔ≦Ｔ）では、第ｔの学習データｔに対する第ｔの学習データ周辺分布Ｐtrt (Ｘ;θtrt)が学習される。Ｐtrt (Ｘ;θtrt)のモデルとしては、正規分布、混合正規分布、ノンパラメトリック分布など任意の分布が利用である。θtrtの推定方法は、最尤推定、モーメントマッチング推定、ベイズ推定等の任意の推定方法を利用する事が可能である。
【００２２】
テストデータ分布推定処理部１０４では、テストデータｕに対するテストデータ周辺分布Ｐteu (Ｘ;θteu)が学習される。モデルや推定方法については、Ｐtrt (Ｘ;θtrt)と同様の方法を利用する事が可能である。
【００２３】
第ｔの密度比算出処理部１０５−ｔでは、推定された第ｔの学習データ周辺分布Ptrt (X;θtrt)とテストデータ周辺分布Pteu (X;θteu)の学習データ点における比である第ｔの密度比を算出する。すなわち、第ｔの密度比算出処理部１０５−ｔでは、ｘtrtn(ｎ＝１,…,Ｎtrt)に対して、Ｖutn＝Ｐteu (ｘtrtn;θteu)／Ｐtrt (ｘtrtn;θtrt)の値を算出する。ただし、θtrtとθteuは、第ｔの学習データ分布推定処理部１０２−ｔとテストデータ分布推定処理部１０４で算出されたパラメータを利用する。
【００２４】
目的関数生成処理部１０７では、算出された第ｔの密度比Ｖutnを入力し、本実施の形態で算出される確率モデルを推定するための目的関数（最適化の基準）を生成する。生成される関数は、
第１の基準：第ｔの学習データｔに関するテスト情報源ｕのテスト環境における適合度を、全ての学習情報源（ｔ＝１, …, Ｔ）について合わせた基準
第２の基準：入力された情報源間の類似性と各情報源の確率モデル間の距離を合わせた基準 
の二つの基準を併せ持つ基準である。基準は最大化するか最小化するかは数学的には符号を反転するのみで同値のため、以下では基準は小さい程よく、最小化する場合を説明する。
【００２５】
なお、第１の基準および第２の基準と、第１の課題および第２の課題との関連は、次の通りである。第１の基準は、各学習情報源の学習環境ではなく、テスト情報源ｕのテスト環境における適合度として定義されているため、第２の課題を解決するために重要な基準である。第２の基準は、異なる情報源の間の相互作用を表現し第１の課題を解決するために重要な基準である。
【００２６】
このような第１および第２の基準の構成例は、例えば下記の数１のように与えられる。
【数１】
0005954547.tif 000002
【００２７】
数１では、右辺第一項が第１の基準を、右辺第二項が第２の基準を表現している（Ｃは、第１の基準と第２の基準のトレードオフパラメータ）。Ｌｔ(Ｙ,Ｘ,φut)は、適合度を表す関数で、例えば負の対数尤度-logＰ(Ｙ|Ｘ;φut)や、二乗誤差(Ｙ - Ｙ’)２などが一例として挙げられる（ただしＹ’は、Ｐ(Ｙ|Ｘ;φut)を最大とするＹと定義した）。Ｄutは、テスト情報源ｕと第ｔの学習情報源ｔの確率モデル間の任意の距離関数であり、Ｐ(Ｙ|Ｘ;φut)とＰ(Ｙ|Ｘ;φuu)の間のカルバックライブラー距離のような分布間距離や、パラメータの二乗距離(φut−φuu)2のようなパラメータ間距離が例として挙げられる。
【００２８】
目的関数生成処理部１０７では、上記数１の基準を、下記の数２として生成する。
【数２】
0005954547.tif 000003
【００２９】
数１の基準を数２として生成する根拠は、下記の数３として説明される。
【数３】
0005954547.tif 000004
【００３０】
ただし、同時分布に関する積分が大数の法則によってサンプルの平均で近似可能である性質を利用している。
【００３１】
確率モデル推定処理部１０８では、目的関数生成処理部１０７で生成された目的関数Ａ2(数２)を、φut(ｔ=１,…,Ｔ)に関して任意の方法で最小化し、確率モデルの推定を行う。最小化の方法は、数値的にφutの候補を生成し、Ａ2の値をチェックして最小値を探索する方法や、Ａ2のφutに関する微分を計算し、ニュートン法等の勾配法を利用して最小値を探索する方法などが例として挙げられる。これによって、テスト情報源ｕに対して適切な確率モデルＰ(Ｙ|Ｘ;φuu)が学習される。
【００３２】
確率モデル推定結果出力装置１０９は、推定された確率モデルＰ(Ｙ|Ｘ;φut) (ｔ=１, …,Ｔ)を確率モデル推定結果１１４として出力する。
【００３３】
図２を参照すると、本第１の実施の形態に関する確率モデル推定装置１００は、概略以下のように動作する。
【００３４】
まず、データ入力装置１０１によって、第１の学習データ１（１１１−１）乃至第Ｔの学習データＴ(１１１−Ｔ)およびテストデータｕ（１１３）を入力する（ステップＳ１００）。
【００３５】
次に、テストデータ分布推定処理部１０４によって、テストデータｕに対するテストデータ周辺分布Ｐteu (Ｘ;θteu)を学習（推定）する（ステップＳ１０１）。
【００３６】
次に、第ｔの学習データ分布推定処理部１０２−ｔによって、第ｔの学習データｔ（１１１−ｔ）に対する第ｔの学習データ周辺分布Ｐtrt (Ｘ;θtrt)を学習する（ステップＳ１０２）。
【００３７】
次に、第ｔの密度比算出処理部１０５−ｔにおいて、第ｔの密度比Ｖutnを算出する（ステップＳ１０３）。
【００３８】
もし、全ての学習情報源ｔに対して第ｔの密度比Ｖutnが算出していなければ（ステップＳ１０４のＮｏ）、ステップＳ１０２とステップＳ１０３の処理を繰り返す。
【００３９】
全ての学習情報源ｔに対して第ｔの密度比Ｖutnが算出されたら（ステップＳ１０４のＹｅｓ）、目的関数生成処理部１０７で、上記数２に対応する目的関数を生成する（ステップＳ１０５）。
【００４０】
次に、確率モデル推定処理部１０８で、生成された目的関数を最適化し、確率モデルＰ(Ｙ|Ｘ;φut)を推定する(ステップＳ１０６)。
【００４１】
最後に、推定された確率モデルを、確率モデル推定結果出力装置１０９によって出力する（ステップＳ１０７）。
【００４２】
以上の構成によって、第１の課題と第２の課題を同時に考慮した確率モデルを適切に学習する事が可能となる。
【００４３】
尚、確率モデル推定装置１００は、コンピュータによって実現され得る。コンピュータは、周知のように、入力装置と、中央処理装置（ＣＰＵ）と、データを格納する記憶装置（たとえば、ＲＡＭ）と、プログラムを格納するプログラム用メモリ（たとえば、ＲＯＭ）と、出力装置とを備える。プログラム用メモリ（ＲＯＭ）に格納されたプログラムを読み出すことにより、ＣＰＵは、第１乃至第Ｔの学習データ分布推定処理部１０２−１〜１０２−Ｔ、テストデータ分布推定処理部１０４、第１乃至第Ｔの密度比算出処理部１０５−１〜１０５−Ｔ、目的関数生成処理部１０７、および確率モデル推定処理部１０８の機能を実現する。
【００４４】
［第２の実施の形態］
図３を参照すると、本発明の第２の実施の形態に関わる確率モデル推定装置２００は、第１の学習データ分布推定処理部１０２−１乃至第Ｔの学習データ分布推定処理部１０２−Ｔ、テストデータ分布推定処理部１０４が接続されておらず、第１の密度比算出処理部１０５−１乃至第Ｔの密度比算出処理部１０５−Ｔに代えて、第１の密度比算出処理部２０１−１乃至第Ｔの密度比算出処理部２０１−Ｔが接続されている点でのみ、上述した確率モデル推定装置１００と相違する。
【００４５】
より具体的には、第２の実施の形態に関わる確率モデル推定装置２００と第１の実施の形態に関わる確率モデル推定装置１００では、第ｔの密度比Ｖutnの算出方法が相違する。
【００４６】
第ｔの密度比算出処理部２０１−ｔでは、学習データとテストデータの分布を算出せず、各データから第ｔの密度比Ｖutnを直接推定する。推定の方法は、従来提案されている任意の技術を利用する事が可能である。
【００４７】
このように学習データとテストデータの分布推定をせずに直接密度の比を計算する事によって、密度比の推定精度がよくなる事が知られており、確率モデル推定装置２００の確率モデル推定装置１００に対する優位点となっている。
【００４８】
図４を参照すると、本第２の実施の形態に関する確率モデル推定装置２００の動作は、確率モデル推定装置１００の動作と比較して、ステップＳ１０１からステップＳ１０３において密度比が算出される処理が、ステップＳ２０１として第ｔの密度比算出処理部２０１−ｔによる第ｔの密度比の算出となる点でのみ相違する。
【００４９】
尚、確率モデル推定装置２００も、コンピュータによって実現され得る。コンピュータは、周知のように、入力装置と、中央処理装置（ＣＰＵ）と、データを格納する記憶装置（たとえば、ＲＡＭ）と、プログラムを格納するプログラム用メモリ（たとえば、ＲＯＭ）と、出力装置とを備える。プログラム用メモリ（ＲＯＭ）に格納されたプログラムを読み出すことにより、ＣＰＵは、第１乃至第Ｔの密度比算出処理部２０１−１〜２０１−Ｔ、目的関数生成処理部１０７、および確率モデル推定処理部１０８の機能を実現する。
【実施例１】
【００５０】
次に、本発明の第１の実施の形態に関わる確率モデル推定装置１００を自動車の故障診断へ応用する実施例を説明する。この実施例では、第ｔの学習情報源ｔは第ｔの車種ｔであり、学習データは実走行で取得され、テストデータは実際の自動車の試験走行から取得されている。車種の違いによってセンサの分布や相関の強さは異なり、試験走行と実走行とでは明らかに走行状態が異なるため、第１の課題と第２の課題が発現する状況となる。
【００５１】
Ｘは第１のセンサ１乃至第ｄのセンサｄ（例えば、速度やエンジン回転数など）の値で構成され、Ｙは故障の発生の有無を表す変数とする。
【００５２】
第ｔの学習データの分布Ｐtrt (Ｘ;θtrt)とテストデータの分布Ｐteu (Ｘ;θteu)を多変量正規分布と仮定する。各データからパラメータθtrtとθteuを最尤推定によって算出すると、θtrtはxtrtnの平均ベクトルと共分散行列、同様にθteuはxteunの平均ベクトルと共分散行列として算出する事が可能であり、Ｖutn＝Ｐteu (ｘtrtn;θteu)／Ｐtrt (ｘtrtn;θtrt)がその第ｔの密度比として算出される。
【００５３】
次に、Ｐ(Ｙ|Ｘ;φut)としてロジスティック回帰モデルを仮定し、Ｌt(Ｙ,Ｘ,φut)として負の対数尤度-logＰ(Ｙ|Ｘ;φut)、Ｄutとしてパラメータの二乗距離(φut−φuu)2を利用すると、Ｌt(Ｙ,Ｘ,φut)とＤutがパラメータに対して微分可能な関数のため、勾配法によってφutの局所最適値を算出する事ができる。
【００５４】
このような構成とすると、例えばｕ＝（Ｔ＋１）とし、第１の車種乃至第Ｔの車種の学習データとして実走行のデータ、第（Ｔ＋１）の車種は試験走行のデータとし、第（Ｔ＋１）の車種のテスト環境であるケースを想定する。そして、まだ故障データが取得されていない新車に対して、類似する車種（ｔ＝１,…,Ｔ）の実走行のデータと、第（Ｔ＋１）の車種の試験走行データとから、第（Ｔ＋１）の車種に対する適切な故障診断モデルが学習できる事になる。
【００５５】
尚、本発明の第２の実施の形態に関わる確率モデル推定装置２００を、同様に、自動車の故障診断へ応用することも可能であることは明らかである。
【産業上の利用可能性】
【００５６】
本発明は、画像認識（顔認識やがん診断等）、機械センサからの故障診断、医療データからのリスク診断に利用可能である。
【００５７】
この出願は、２０１１年５月３０日に出願された、日本特許出願第２０１１−１１９８５９号を基礎とする優先権を主張し、その開示の全てをここに取り込む。
【符号の説明】
【００５８】
１００    確率モデル推定装置
１０１    データ入力装置
１０２−１〜１０２−Ｔ    学習データ分布推定処理部
１０４    テストデータ分布推定処理部
１０５−１〜１０５−Ｔ    密度比算出処理部
１０７    目的関数生成処理部
１０８    確率モデル推定処理部
１０９    確率モデル推定結果出力装置
１１１−１〜１１１−Ｔ    学習データ
１１３    テストデータ
１１４    確率モデル推定結果
２００    確率モデル推定装置
２０１−１〜２０１−Ｔ    密度比算出処理部
【図１】
0005954547.tif 000005
【図２】
0005954547.tif 000006
【図３】
0005954547.tif 000007
【図４】
0005954547.tif 000008