(57)【要約】  関係性分析装置は、第１種類のデータの入力を受けて第２種類のデータを出力するシミュレータのパラメータに関して仮設定された分布に基づいて、前記パラメータの複数のサンプルデータを算出するパラメータサンプルデータ算出部と、前記第１種類の観測データと前記パラメータの複数のサンプルデータの各々とを前記シミュレータに入力して、前記パラメータの複数のサンプルデータの各々毎に前記第２種類のサンプルデータを取得する第２種類サンプルデータ取得部と、前記第２種類の観測データと前記第２種類のサンプルデータとの差異、および、前記第１種類の観測データが従う第１分布と、前記第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、前記パラメータの複数のサンプルデータの各々に対する重みを算出し、算出された前記重みを用いて前記パラメータの値を算出するパラメータ値決定部と、を備える。
2019235614.tif 000002
【特許請求の範囲】
【請求項１】
第１種類のデータの入力を受けて第２種類のデータを出力するシミュレータのパラメータに関して仮設定された分布に基づいて、前記パラメータの複数のサンプルデータを算出するパラメータサンプルデータ算出部と、
前記第１種類の観測データと前記パラメータの複数のサンプルデータの各々とを前記シミュレータに入力して、前記パラメータの複数のサンプルデータの各々毎に前記第２種類のサンプルデータを取得する第２種類サンプルデータ取得部と、
前記第２種類の観測データと前記第２種類のサンプルデータとの差異、および、前記第１種類の観測データが従う第１分布と、前記第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、前記パラメータの複数のサンプルデータの各々に対する重みを算出し、算出された前記重みを用いて前記パラメータの値を算出するパラメータ値決定部と、
を備える関係性分析装置。
【請求項２】
前記パラメータ値決定部は、
前記第１種類の観測データと、算出された前記第２種類のサンプルデータとの下での前記パラメータの事後分布に、前記第１種類のデータの各要素の前記第２分布への一致度合いが反映されたカーネル平均を算出するカーネル平均算出部と、
前記カーネル平均に基づく前記パラメータのサンプルデータを算出するカーネル平均対応パラメータ算出部と、
前記カーネル平均に基づく前記パラメータのサンプルデータを用いて前記パラメータの予測分布のカーネル表現を算出するパラメータ予測分布算出部と、
前記パラメータの予測分布のカーネル表現を用いて、前記第２種類のデータの予測分布に従うサンプルデータを算出する第２種類予測分布データ算出部と、
を備える請求項１に記載の関係性分析装置。
【請求項３】
第１種類のデータの入力を受けて第２種類のデータを出力するシミュレータのパラメータに関して仮設定された分布に基づいて、前記パラメータの複数のサンプルデータを算出し、
前記第１種類の観測データと前記パラメータの複数のサンプルデータの各々とを前記シミュレータに入力して、前記パラメータの複数のサンプルデータの各々毎に前記第２種類のサンプルデータを算出し、
前記第２種類の観測データと前記第２種類のサンプルデータとの差異、および、前記第１種類の観測データが従う第１分布と、前記第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、前記パラメータの複数のサンプルデータの各々に対する重みを算出し、
算出された前記重みを用いて前記パラメータの値を算出する、
ことを含む関係性分析方法。
【請求項４】
コンピュータに、
第１種類のデータの入力を受けて第２種類のデータを出力するシミュレータのパラメータに関して仮設定された分布に基づいて、前記パラメータの複数のサンプルデータを算出し、
前記第１種類の観測データと前記パラメータの複数のサンプルデータの各々とを前記シミュレータに入力して、前記パラメータの複数のサンプルデータの各々毎に前記第２種類のサンプルデータを算出し、
前記第２種類の観測データと前記第２種類のサンプルデータとの差異、および、前記第１種類の観測データが従う第１分布と、前記第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、前記パラメータの複数のサンプルデータの各々に対する重みを算出し、
算出された前記重みを用いて前記パラメータの値を算出する、
ことを実行させるためのプログラムを記憶した記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、関係性分析装置、関係性分析方法および記録媒体に関する。
【背景技術】
【０００２】
シミュレーションや機械学習などの場面で、入力データの特殊性など入力データの性質に応じた処理が行われる場合がある。
例えば、特許文献１には、非理想的な観測データや、非連続性または特異性がある観測データに対応して、広域にわたって高分解能かつ高精度なシミュレーションを行うためのシミュレーション装置が記載されている。このシミュレーション装置は、シミュレーションにおける状態ベクトルの初期状態およびパラメータを基に、状態ベクトルの経時変化をシミュレーションし、状態ベクトルに関連する情報に基づいて、複数の観測データのうち利用する観測データを選択する。そして、このシミュレーション装置は、状態ベクトルと選択された観測データとを基に、全観測データに基づく第１の事後分布または欠如した観測データに基づく第２の事後分布を生成し、第１および第２の事後分布を統合する。そして、このシミュレーション装置は、第２の事後分布と統合後の事後分布との何れを用いるか判定する。【０００３】
また、特許文献２には、予測モデルの学習の計算手順を簡潔化する学習装置が記載されている。この学習装置は、訓練サンプルデータの入力データである訓練データと、テストデータとの生成確率の比である重要度に基づき、テストデータの出力を予測するための予測モデルを学習する。学習に際し、この学習装置は、重要度を考慮した損失関数である重要度重み付き損失関数を用いて予測モデルの学習を行う。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】再公表ＷＯ２０１６／０３１１７４号公報
【特許文献２】日本国特開２０１０−０９２２６６号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
複数種類のデータ間の関係性の分析において、データ全体における関係性を分析する場合と、一部の領域における関係性を分析する場合とで、抽出すべき関係性が異なる場合がある。一部の領域における関係性を分析する場合、例えば、回帰分析の手法を用い、観測データに対して領域に応じた重み付けを行うことが考えられる。
しかしながら、一般的な回帰分析では、微分可能な関数によるモデルを使用し、モデルのパラメータ（関数の係数）の値を機械学習する。このため、モデルが不明である場合（例えば、モデルとして用いられている関数を参照できない場合）には、回帰分析手法を適用することはできない。【０００６】
本発明の目的の一例は、上述の課題を解決することのできる関係性分析装置、関係性分析方法および記録媒体を提供することである。
【課題を解決するための手段】
【０００７】
本発明の第１の態様によれば、関係性分析装置は、第１種類のデータの入力を受けて第２種類のデータを出力するシミュレータのパラメータに関して仮設定された分布に基づいて、前記パラメータの複数のサンプルデータを算出するパラメータサンプルデータ算出部と、前記第１種類の観測データと前記パラメータの複数のサンプルデータの各々とを前記シミュレータに入力して、前記パラメータの複数のサンプルデータの各々毎に前記第２種類のサンプルデータを取得する第２種類サンプルデータ取得部と、前記第２種類の観測データと前記第２種類のサンプルデータとの差異、および、前記第１種類の観測データが従う第１分布と、前記第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、前記パラメータの複数のサンプルデータの各々に対する重みを算出し、算出された前記重みを用いて前記パラメータの値を算出するパラメータ値決定部と、を備える。【０００８】
本発明の第２の態様によれば、関係性分析方法は、第１種類のデータの入力を受けて第２種類のデータを出力するシミュレータのパラメータに関して仮設定された分布に基づいて、前記パラメータの複数のサンプルデータを算出し、前記第１種類の観測データと前記パラメータの複数のサンプルデータの各々とを前記シミュレータに入力して、前記パラメータの複数のサンプルデータの各々毎に前記第２種類のサンプルデータを算出し、前記第２種類の観測データと前記第２種類のサンプルデータとの差異、および、前記第１種類の観測データが従う第１分布と、前記第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、前記パラメータの複数のサンプルデータの各々に対する重みを算出し、算出された前記重みを用いて前記パラメータの値を算出する、ことを含む。【０００９】
本発明の第３の態様によれば、記録媒体は、コンピュータに、第１種類のデータの入力を受けて第２種類のデータを出力するシミュレータのパラメータに関して仮設定された分布に基づいて、前記パラメータの複数のサンプルデータを算出し、前記第１種類の観測データと前記パラメータの複数のサンプルデータの各々とを前記シミュレータに入力して、前記パラメータの複数のサンプルデータの各々毎に前記第２種類のサンプルデータを算出し、前記第２種類の観測データと前記第２種類のサンプルデータとの差異、および、前記第１種類の観測データが従う第１分布と、前記第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、前記パラメータの複数のサンプルデータの各々に対する重みを算出し、算出された前記重みを用いて前記パラメータの値を算出する、ことを実行させるためのプログラムを記憶する。
【発明の効果】
【００１０】
この発明の実施形態によれば、複数種類のデータ間の関係性分析で一部の領域における関係性を分析する際に、モデルが不明な場合であっても対応可能である。
【図面の簡単な説明】
【００１１】
【図１】第１実施形態に係る関係性分析装置の機能構成の例を示す概略ブロック図である。
【図２】第１実施形態における、シミュレータによる回帰関数の設定例を示す図である。
【図３】第１実施形態に係る関係性分析装置が行う処理の手順の例を示すフローチャートである。
【図４】第２実施形態に係る関係性分析装置の機能構成の例を示す概略ブロック図である。
【図５】第２実施形態に係る関係性分析装置が行う処理の手順の例を示すフローチャートである。
【図６】第２実施形態における共変量シフトの例を示す図である。
【図７】第３実施形態に係る関係性分析装置が行う処理の手順の例を示すフローチャートである。
【図８】第４実施形態に係る関係性分析装置が行う処理の手順の例を示すフローチャートである。
【図９】実施形態に係る実験におけるシミュレーション対象の組立工程の例を示す図である。
【図１０】実施形態に係る実験で得られたＸとＹの関係を示す図である。
【図１１】実施形態に係る実験得られたパラメータの値を示す図である。
【図１２】実施形態に係る共変量シフトの実験におけるパラメータ値の設定例を示す図である。
【図１３】実施形態に係る共変量シフトの実験で得られたＸとＹの関係を示す図である。
【図１４】実施形態に係る共変量シフトの実験で得られたパラメータの値を示す図である。
【図１５】本発明の実施形態に係る関係性分析装置の構成の例を示す図である。
【発明を実施するための形態】
【００１２】
以下、本発明の実施形態を説明するが、以下の実施形態は請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
【００１３】
＜第１実施形態＞
図１は、第１実施形態に係る関係性分析システムの機能構成の例を示す概略ブロック図である。図１に示す構成で、関係性分析システム１は、関係性分析装置１００と、シミュレータサーバ９００とを備える。関係性分析装置１００は、入出力部１１０と、記憶部１７０と、制御部１８０とを備える。制御部１８０は、パラメータサンプルデータ算出部１８１と、第２種類サンプルデータ取得部１８２と、パラメータ値決定部１８３とを備える。
【００１４】
関係性分析装置１００は、関係性分析を行う。具体的には、関係性分析装置１００は、第１種類のデータおよび第２種類のデータ間の関係性（例えば、相関関係）のモデルのパラメータ値を観測データに基づいて決定することで、データ間の関係性（例えば、相関関係）を分析する。
関係性分析装置１００は、例えばパソコン（Personal Computer；ＰＣ）またはワークステーション（Workstation）等のコンピュータを用いて構成される。
【００１５】
以下では、第１種類のデータをデータＸと称し、第２種類のデータをデータＹと称する。また、観測データの個数をｎ（ｎは正の整数）として、データＸの観測データ（第１種類の観測データ）を観測データＸnと表記し、データＹの観測データ（第２種類の観測データ）を観測データＹnと表記する。また、観測データＸnの要素をＸ1、・・・、Ｘnと表記し、観測データＹnの要素をＹ1、・・・、Ｙnと表記する。このように、関係性分析装置１００は、データＸi（ｉは、１≦ｉ≦ｎの整数）とデータＹiとが一対一に対応付けられた観測データ（従って、Ｘ−Ｙ平面にプロット可能な観測データ）を取得する。
【００１６】
観測データＸnおよびＹnは特定の種類のデータに限定されず、実測されたいろいろなデータとすることができる。観測データを得るための実測方法は特定の方法に限定されず、ユーザなど人による計数または測定、あるいはセンサを用いたセンシングなど、いろいろな方法を採用可能である。
例えば、観測データＸnの要素は、観測対象を構成している構成要素の状態を表すものであってもよい。観測データＹnの要素は、センサ等を用いて観測対象に関して観測された状態を表すものであってもよい。例えばユーザが、製造工場の生産性を分析したい場合、観測データＸnは、当該製造工場における各設備の稼働状況を表すものであってもよい。観測データＹnは、複数の設備によって構成されるラインにて製造される製品の個数を表すものであってもよい。
観測対象、および、観測データは、上述した例に限定されず、たとえば、加工工場における設備であってもよいし、ある施設を建設する場合における建設システムであってもよい。
【００１７】
関係性分析装置１００は、観測データＸnおよびＹnと、シミュレータサーバ９００が提供するシミュレータｒ（ｘ，θ）と、パラメータθについて仮設定された事前分布（Prior）である分布π（θ）とを与えられて、データＸとデータＹとの関係性分析を行う。分布π（θ）は、例えば関係性分析装置１００のユーザが、シミュレーション対象に関して有する知識に応じた精度で設定する。
【００１８】
シミュレータサーバ９００は、シミュレータｒ（ｘ，θ）を提供する。シミュレータサーバ９００が提供するシミュレータｒ（ｘ，θ）は、パラメータθの値の設定、および、変数ｘへのデータＸの値の入力を受けて、データＹの値を出力する。一般的な関係性分析では微分可能な関数がモデルとして用いられるのに対し、関係性分析装置１００では、シミュレータｒ（ｘ，θ）のモデルの関数を微分できる必要はない。例えば、シミュレータｒ（ｘ，θ）が、シミュレータサーバ９００のように関係性分析装置１００以外の装置によって管理され、関係性分析装置１００が、この装置にデータＸの値とパラメータθの値とを送信してデータＹの値を受信する形態であってもよい。
あるいは、関係性分析装置１００が、関係性分析装置１００自らの内部にシミュレータｒ（ｘ，θ）を備えていてもよい。この場合、シミュレータｒ（ｘ，θ）がブラックボックス化されているなど、関係性分析装置１００にとってシミュレータの回帰関数が未知であってもよい。
【００１９】
図２は、シミュレータによる回帰関数の設定例を示す図である。図２では、横軸はＸ座標（データＸの座標）を示し、縦軸はＹ座標（データＹの座標）を示す。なお、以下の説明においては、説明の便宜上、回帰関数という言葉を用いて説明するが、必ずしも一般的な（数学的な）「回帰」を表しているものに限定されない。たとえば、モデルが不明確である場合も含めて「回帰」にて表すとする。
線Ｌ１１は、真のモデルを示す。ここでは、真のモデルの関数をｙ＝Ｒ（ｘ）とする。
上述したように、真のモデル（線Ｌ１１）は、必ずしも、数学的な関数（たとえば、一次関数、二次関数、指数関数、ガウス関数）を用いて表されているとは限らず、ｘと、ｙとの関係性を便宜的に示したものである。さらには、真のモデルが実際に表現される必要はない。以降、説明の便宜上、関数という言葉を用いるが、関数という言葉を、関係性を表すものという意味で用いる。
また、点Ｐ１１のように丸で示されるデータが、真のモデルに基づいて生成されている。図２の例では、データにノイズが含まれており、各データが線Ｌ１２の近傍にプロットされている。
【００２０】
線Ｌ１２は、シミュレータの入出力であるｘおよびｙに関して数学的な回帰分析を行い、その結果得られた回帰関数の例を示す。シミュレータサーバ９００が提供するシミュレータｒ（ｘ，θ）は、パラメータθの値の設定を受けると、例えば、線Ｌ１２に例示されるような数学的な回帰関数に従うデータＹを出力する。言い換えると、この状態でデータＸの値の入力を受けると、シミュレータｒ（ｘ，θ）は、入力されたデータＸの値に対応するデータＹの値を出力する。これは、観測対象が工場であるという例の場合、シミュレータに入力されたデータＸ（例えば、設備の状態）と、出力されたデータＹ（例えば、あるラインの製造数）との間には、統計的に当該回帰関数に従う関係性があるということを表す。
関係性分析装置１００は、観測データに基づいて、観測データに対応するパラメータ値を算出し、算出したパラメータ値をシミュレータに設定する。これにより、シミュレータは、データＸの値の入力に対してデータＹの値を出力する。すなわち、パラメータ値の設定により、シミュレータがシミュレーションを実行可能になる。
【００２１】
入出力部１１０は、データの入出力を行う。特に、入出力部１１０は、観測データを取得する。例えば入出力部１１０が、設備を監視しているセンサ、製品個数を数える装置等を用いて構成されていてもよい。あるいは、入出力部１１０は、通信装置を備え、他の装置と通信を行ってデータを送受信するようにしてもよい。また、入出力部１１０が、通信装置に加えて、或いは代えて、キーボードおよびマウス等の入力デバイスを備え、ユーザ操作によるデータの入力を受け付けるようにしてもよい。
記憶部１７０は、各種データを記憶する。記憶部１７０は、関係性分析装置１００が備える記憶デバイスを用いて構成される。
【００２２】
制御部１８０は、関係性分析装置１００の各部を制御して各種処理を実行する。制御部１８０は、関係性分析装置１００が備えるＣＰＵ（Central Processing Unit、中央処理装置）が、記憶部１７０からプログラムを読み出して実行することで構成される。
パラメータサンプルデータ算出部１８１は、パラメータθに関して仮設定された分布π（θ）に基づいて、パラメータθのサンプルデータを複数算出する。分布π（θ）は、ガウス分布に従う分布であってもよいし、ある数値区間における一様乱数を用いて設定されてもよい。但し、分布π（θ）は、これらの例に限定されない。上記のように、パラメータθは、シミュレータｒ（ｘ，θ）のパラメータである。シミュレータｒ（ｘ，θ）は、第１種類のデータ（データＸ）の値の入力を受けて第２種類のデータ（データＹ）の値を出力する。
【００２３】
第２種類サンプルデータ取得部１８２は、第１種類の観測データ（観測データＸn）とパラメータθのサンプルデータとをシミュレータｒ（ｘ，θ）に入力して、パラメータθのサンプルデータ毎に第２種類のサンプルデータ（データＹのサンプルデータ）を取得する。
パラメータ値決定部１８３は、第２種類の観測データ（観測データＹn）と、第２種類サンプルデータ取得部１８２が取得した第２種類のサンプルデータ（データＹのサンプルデータ）との差異に基づいてパラメータθのサンプルデータの各々に対する重みを算出し、得られた重みを用いてパラメータθの値を算出する。パラメータ値決定部１８３が算出するパラメータθの値は、関係性分析装置１００がパラメータθの適切な値（データＸとデータＹとの関係を模擬するための値）として決定する値である。
【００２４】
図３は、第１実施形態に係る関係性分析装置１００が行う処理の手順の例を示すフローチャートである。
（ステップＳ１１）
パラメータサンプルデータ算出部１８１は、パラメータθの事前分布（分布π（θ））に基づいてパラメータθのサンプルデータθ<1>jを生成する。＜１＞は、事前分布に基づくデータであることを示す。
生成するデータの数をｍ（ｍは正の整数）とし、ｊを１≦ｊ≦ｍの整数として、θ<1>jは式（１）のように示される。
【００２５】
【数１】
2019235614.tif 000003
【００２６】
ｄθは、パラメータθの次元数を示す。
式（１）に示されるように、θ<1>jは、ｄθ次元の実数として示され、分布π（θ）に従う。この時点では最適なパラメータ値は不明であり、例えばユーザが、得られている情報に基づいてパラメータθの分布を推定し、事前分布π（θ）として登録しておく。
ステップＳ１１の後、処理がステップＳ１２へ進む。
【００２７】
（ステップＳ１２）
第２種類サンプルデータ取得部１８２は、ステップＳ１１で得られたサンプルデータθ<1>j毎に、観測データＸnに対応するサンプルデータＹ<1>njを取得する。第２種類サンプルデータ取得部１８２は、θ<1>jとＸnとをシミュレータｒ（ｘ，θ）に入力してＹ<1>njを取得する。第２種類サンプルデータ取得部１８２は、サンプルデータθ<1>j毎に、ｎ個（観測データＸnの要素数と同数）の要素を有するサンプルデータＹ<1>njを取得する。観測データＸnの要素と、サンプルデータＹ<1>njの要素とが一対一に対応付けられ、Ｘ−Ｙ平面にプロット可能である。
Ｙ<1>njは、式（２）のように示される。
【００２８】
【数２】
2019235614.tif 000004
【００２９】
式（２）に示されるように、Ｙ<1>njは、ｎ次元の実数として示され、シミュレータｒ（ｘ，θ）の学習モデルｐ（ｙ｜ｘ，θ）に観測データＸnおよびサンプルデータθ<1>jを入力した分布ｐ（ｙ｜Ｘn，θ<1>j）に従う。
ステップＳ１２の後、処理がステップＳ１３へ進む。
【００３０】
（ステップＳ１３）
パラメータ値決定部１８３は、ステップＳ１２で得られたＹ<1>njと、観測データＹnとに基づいて、θ<1>j毎に重みを算出し、重み付け平均する。
重み付け平均で得られるパラメータ値θ<2>は、式（３）のように示される。＜２＞は、Ｙ<1>njとＹnとの比較に基づく重みを反映済みのデータであることを示す。
【００３１】
【数３】
2019235614.tif 000005
【００３２】
重みｗjは、式（４）のように示される。
【００３３】
【数４】
2019235614.tif 000006
【００３４】
ｋは、Ｙ<1>njとＹnとの近さ（ノルム）を算出する関数である。ｋとしてガウシアンカーネルを用いることができ、式（５）のように示される。
【００３５】
【数５】
2019235614.tif 000007
【００３６】
パラメータ値決定部１８３は、Ｙ<1>njとＹnとが近いほど、サンプルデータθ<1>jに対する重みを大きくする。すなわち、パラメータ値決定部１８３は、尤度が高いサンプルデータθ<1>j（観測データＹnを近似する精度が高いサンプルデータθ<1>j）に対する重みを大きくする。
ステップＳ１３の後、関係性分析装置１００は、図３の処理を終了する。
関係性分析装置１００が、パラメータ値決定部１８３が決定した重みを用いて、シミュレータにおけるパラメータを更新するようにしてもよい。このような処理を行うことによって、第２種類のサンプルデータに対して予測精度が高いシミュレーションを行うことができる。
【００３７】
以上のように、パラメータサンプルデータ算出部１８１は、第１種類のデータ（データＸ）の値の入力を受けて第２種類のデータ（データＹ）の値を出力するシミュレータｒ（ｘ，θ）のパラメータθに関して仮設定された分布π（θ）に基づいて、パラメータθのサンプルデータθ<1>jを複数算出する。第２種類サンプルデータ取得部１８２は、第１種類の観測データＸnとパラメータθのサンプルデータθ<1>jとをシミュレータｒ（ｘ，θ）に入力して、パラメータθのサンプルデータθ<1>j毎に第２種類のサンプルデータＹ<1>njを取得する。パラメータ値決定部１８３は、第２種類の観測データＹnと、算出された第２種類のサンプルデータＹ<1>njとの差異に基づいて、パラメータθのサンプルデータθ<1>jの各々に対する重みを算出し、得られた重みを用いてパラメータθの値θ<2>を算出する。
このように、関係性分析装置１００では、シミュレータのパラメータθのサンプルデータθ<1>jを生成し、生成したサンプルデータθ<1>jをシミュレータに入力して評価することで、モデルの関数を微分する必要なしにパラメータθの値を決定することができる。関係性分析装置１００によればこの点で、関係性分析について、モデルの関数を微分できない場合や、モデルが不明な場合であっても対応可能である。
【００３８】
＜第２実施形態＞
第１実施形態では、パラメータθの推定値がｄθ次元の実数値で求まる。これに対し、第２実施形態では、パラメータθの推定値を分布で求める例について説明する。
図４は、第２実施形態に係る関係性分析装置の機能構成の例を示す概略ブロック図である。図４に示す構成は、パラメータ値決定部１８３が、カーネル平均算出部１９１と、カーネル平均対応パラメータ算出部１９２と、パラメータ予測分布算出部１９３と、第２種類予測分布データ算出部１９４とを備える点で、図１の場合と異なる。それ以外は、図１の場合と同様である。
【００３９】
カーネル平均算出部１９１は、第１種類の観測データＸnと、第２種類サンプルデータ取得部１８２が取得した第２種類のサンプルデータＹ<1>njとの下でのパラメータθの事後分布を示すカーネル平均を算出する。
カーネル平均対応パラメータ算出部１９２は、カーネル平均算出部１９１が算出したカーネル平均に基づくパラメータθのサンプルデータを算出する。
パラメータ予測分布算出部１９３は、カーネル平均算出部１９１が算出したカーネル平均に基づくパラメータθのサンプルデータを用いてパラメータθの予測分布のカーネル表現を算出する。
第２種類予測分布データ算出部１９４は、パラメータ予測分布算出部１９３が算出したパラメータの予測分布のカーネル表現を用いて、第２種類のデータ（データＹ）の予測分布に従うサンプルデータを算出する。
【００４０】
図５は、第２実施形態に係る関係性分析装置１００が行う処理の手順の例を示すフローチャートである。
図５のステップＳ２１〜Ｓ２２は、図３のステップＳ１１〜Ｓ１２と同様である。ステップＳ２２の後、処理がステップＳ２３へ進む。
【００４１】
（ステップＳ２３）
カーネル平均算出部１９１は、カーネル平均を求める。
上述した式（３）は、カーネル平均を求める式と捉えて式（６）のように表すことができる。カーネル平均算出部１９１は、式（６）に基づいてカーネル平均μ＾θ|XYを求める。
【００４２】
【数６】
2019235614.tif 000008
【００４３】
重みｗjは、式（７）のように示される。
【００４４】
【数７】
2019235614.tif 000009
【００４５】
上付きのＴは、行列またはベクトルの転置を示す。
ｋyは、式（８）のように示される。
【００４６】
【数８】
2019235614.tif 000010
【００４７】
ｋyとして、式（９）で示されるガウシアンカーネル関数（Gaussian Kernel Function）を用いる。
【００４８】
【数９】
2019235614.tif 000011
【００４９】
Ｇはグラム行列（Gramm Matrix）を示し、式（１０）のように示される。
【００５０】
【数１０】
2019235614.tif 000012
【００５１】
カーネル平均μ＾θ|XYは、ＸおよびＹの元でのθの事後分布をカーネル平均埋め込み（Kernel Mean Embeddings）により再生核ヒルベルト空間（Reproducing Kernel Hilbert Space；ＲＫＨＳ）上で表現したものに該当する。
ステップＳ２３の後、処理がステップＳ２４へ進む。
【００５２】
（ステップＳ２４）
カーネル平均対応パラメータ算出部１９２は、パラメータθについて、カーネル平均μ＾θ|XYに基づくサンプルデータ｛θ<3>1，・・・，θ<3>m｝（ｍはサンプル数を示す正の整数）を求める。＜３＞は、カーネル平均に基づくデータであることを示す。
カーネル平均に基づくサンプルデータは、カーネルハーディング（Kernel Herding）の手法を用いて帰納的に求めることができる。この場合、ｊを０≦ｊ≦ｍ（ｍはサンプル数を示す正の整数）として、カーネル平均対応パラメータ算出部１９２は、式（１１）に基づいて、サンプルデータθ<3>j+1を算出する。
【００５３】
【数１１】
2019235614.tif 000013
【００５４】
ａｒｇｍａｘθｈj（θ）は、ｈj（θ）の値を最大にするθの値を示す。
ｈjは、式（１２）により再帰的に示される。
【００５５】
【数１２】
2019235614.tif 000014
【００５６】
式（１２）のμには、ステップＳ２３で得られたカーネル平均μ＾θ|XYを入力する。
また、ｈjの初期値ｈ0を、ｈ0：＝μ＾θ|XYと設定する。
Ｈは再生核ヒルベルト空間を示す。
ステップＳ２４で得られるサンプルデータ｛θ<3>1，・・・，θ<3>m｝には、事前分布に基づくサンプルデータＹ<1>njと観測データＹnとの近さ（ノルム）に応じた重み付けが反映されている。
ステップＳ２４の後、処理がステップＳ２５へ進む。
【００５７】
（ステップＳ２５）
パラメータ予測分布算出部１９３は、シミュレータｒ（ｘ，θ）に観測データＸnおよびサンプルデータθ<3>jを入力して、分布ｐ（ｙ｜Ｘn，θ<3>j）に従う｛θ<3>j，Ｙ<3>nj｝をシミュレーションにより算出する。
ステップＳ２５の後、処理がステップＳ２６へ進む。
【００５８】
（ステップＳ２６）
パラメータ予測分布算出部１９３は、ステップＳ２５で得られたサンプルデータ｛θ<3>j，Ｙ<3>nj｝を用いて、データＹの予測分布（Predictive Distribution）のカーネル表現ν＾y|YXを算出する。
予測分布のカーネル表現ν＾y|YXは、カーネルサムルール（Kernel Sum Rule）を用いて算出することができる。この場合、予測分布ｐ（ｙ｜Ｘn，Ｙn）は、式（１３）のように示される。
【００５９】
【数１３】
2019235614.tif 000015
【００６０】
予測分布ｐ（ｙ｜Ｘn，Ｙn）のカーネル表現ν＾y|YXは、式（１４）のように示される。
【００６１】
【数１４】
2019235614.tif 000016
【００６２】
ｖ1、・・・、ｖmは、式（１５）のように示される。
【００６３】
【数１５】
2019235614.tif 000017
【００６４】
グラム行列Ｇθ<3>は、式（１６）のように示される。
【００６５】
【数１６】
2019235614.tif 000018
【００６６】
グラム行列Ｇθ<3>θは、式（１７）のように示される。
【００６７】
【数１７】
2019235614.tif 000019
【００６８】
δmは、逆行列の計算を安定化させるための係数である。
Ｉは単位行列を示す。
ステップＳ２６の後、処理がステップＳ２７へ進む。
【００６９】
（ステップＳ２７）
第２種類予測分布データ算出部１９４は、ステップＳ２６で得られた予測分布のカーネル表現ν＾y|YXを用いて、予測分布に基づくサンプルデータＹ<4>njを求める。＜４＞は、予測分布のカーネル表現に基づくデータであることを示す。
ステップＳ２７でも、ステップＳ２４の場合と同様、カーネルハーディングの手法を用いて帰納的にサンプルデータを求めることができる。ステップＳ２７では、式（１８）に基づいてサンプルデータを算出する。
【００７０】
【数１８】
2019235614.tif 000020
【００７１】
ａｒｇｍａｘyｈj（ｙ）は、ｈj（ｙ）の値を最大にするｙの値を示す。
ｈ’jは、式（１９）により再帰的に示される。
【００７２】
【数１９】
2019235614.tif 000021
【００７３】
式（１９）のνにはステップＳ２６で得られた予測分布のカーネル表現ν＾y|YXを入力する。また、ｈ’jの初期値ｈ’0を、ｈ’0：＝ν＾y|YXと設定する。
ステップＳ２７の後、処理がステップＳ２８へ進む。
【００７４】
（ステップＳ２８）
第２種類予測分布データ算出部１９４は、ステップＳ２４で得られたサンプルデータ｛θ<3>1，・・・，θ<3>m｝から、パラメータθの分布を求める。例えば、第２種類予測分布データ算出部１９４は、パラメータθの分布がガウス分布など特定の分布に従うと仮定し、サンプルデータから平均値および分散など分布の特徴量を算出する。
あるいは、関係性分析装置１００が、ステップＳ２４で得られたパラメータのサンプルデータをそのままユーザに提示する（例えば、グラフで表示する）ようにしてもよい。ユーザは、パラメータのサンプルデータそのものを参照することで、信頼区間、および、カーネル平均対応パラメータ算出部１９２が算出したパラメータそのものの信頼性を、より高精度に判断することができる。また、例えばパラメータの分布が多峰的である場合、または、パラメータの分布が非対称な場合など、特定の分布でパラメータのサンプルデータを捉えられない場合、関係性分析装置１００が、パラメータのサンプルデータをそのままユーザに提示することで、ユーザは、パラメータの分布を把握し得る。
また、第２種類予測分布データ算出部１９４が、パラメータのサンプルデータに加えて、あるいは代えて、ステップＳ２７で得られたデータＹのサンプルデータＹ<4>njの分布を求めるようにしてもよい。
ステップＳ２８の後、関係性分析装置１００は、図５の処理を終了する。
【００７５】
以上のように、カーネル平均算出部１９１は、第１種類の観測データＸnと、第２種類サンプルデータ取得部１８２が取得した第２種類のサンプルデータＹ<1>njとの下でのパラメータθの事後分布を示すカーネル平均μ＾θ|XYを算出する。カーネル平均対応パラメータ算出部１９２は、カーネル平均算出部１９１が算出したカーネル平均μ＾θ|XYに基づくパラメータθのサンプルデータ｛θ<3>1，・・・，θ<3>m｝を算出する。パラメータ予測分布算出部１９３は、パラメータθのサンプルデータ｛θ<3>1，・・・，θ<3>m｝を用いてデータＹの予測分布のカーネル表現ν＾y|YXを算出する。第２種類予測分布データ算出部１９４は、パラメータ予測分布算出部１９３が算出したデータＹの予測分布のカーネル表現ν＾y|YXを用いて、第２種類のデータ（データＹ）の予測分布に従うサンプルデータＹ<4>njを算出する。
【００７６】
このように、関係性分析装置１００がサンプルデータを生成することで、サンプルデータからデータの分布を求めることができる。関係性分析装置１００が、データの分布を求めるようにしてもよい。あるいは、関係性分析装置１００がサンプルデータをユーザに提示し、ユーザがデータの分布を求めるようにしてもよい。
【００７７】
＜第３実施形態＞
第３実施形態では、関係性分析装置が、共変量シフト（Covariate Shift）に対応する場合について説明する。共変量シフトとは、訓練時とテスト時とで入力の分布が異なるが入出力関数は変わらないことである。ここでは、観測データのデータＸの分布と、関係性分析対象（分析したい範囲）のデータＸの分布とが異なるが真のモデルは変わらない場合を共変量シフトとして扱う。観測データのデータＸの分布をｑ0（ｘ）と表記し、関係性分析対象のデータＸの分布をｑ1（ｘ）と表記する。
【００７８】
図６は、共変量シフトの例を示す図である。図６で、横軸はＸ座標（データＸの座標）を示し、縦軸はＹ座標（データＹの座標）を示す。
線Ｌ２１は、真のモデルを示す。ここでは、真のモデルの関数をｙ＝Ｒ（ｘ）とする。
また、点Ｐ２２のように丸で示されるデータ、点Ｐ２３のように十字で示されるデータのいずれも真のモデルに基づいて生成されている。丸で示されるデータを丸データと称し、十字で示されるデータを十字データと称する。
【００７９】
図６の例では、データにノイズが含まれており、丸データ、十字データのいずれも、線Ｌ２１の近傍にプロットされている。
一方、丸データと十字データとでは、ｘ軸方向の分布が異なる。丸データが図６の左右に広く分布しているのに対し、十字データは、図６の左側に偏って分布している。この分布の違いから、丸データの場合と十字データの場合とで回帰関数が異なる。例えば直線回帰を行う場合、丸データの回帰直線は線Ｌ２２となり、十字データの回帰直線は線Ｌ２３となる。
【００８０】
このように、真のモデルが同じであっても分布の違いから回帰関数が異なる場合がある。例えば、得られた観測データが丸データである場合、この観測データ（丸データ）に基づいて回帰関数を求めると線Ｌ２２が得られる。一方、ユーザが、十字データの分布の場合について関係性分析を行いたい場合、線Ｌ２２を回帰関数としたのでは精度が低く、線Ｌ２３を回帰関数として求めたい。
そこで、関係性分析装置１００は、観測データの場合のデータＸの分布と関係性分析を行いたい範囲のデータＸの分布との比較に基づいて観測データに重みづけを行い、関係性分析を行いたい範囲のデータＸの分布に対応するパラメータθの値を求める。
【００８１】
第３実施形態にかかる関係性分析システムの構成および関係性分析装置１００の構成は、第１実施形態の場合（図１）と同様である。第３実施形態では、パラメータ値決定部１８３が行う処理が、第１実施形態の場合と異なる。第３実施形態では、パラメータ値決定部１８３は、第２種類の観測データＹnと、第２種類のサンプルデータＹ<1>njとの差異、および、第１種類の観測データＸnが従う第１分布と、第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、パラメータのサンプルデータの各々に対する重みを算出し、得られた重みを用いてパラメータの値を算出する。
第１実施形態では、パラメータ値決定部１８３は、観測データＹnと、サンプルデータＹ<1>njとの近さで示される、パラメータのサンプルデータθ<1>jの尤度に基づく重みを算出している。これに対し、第３実施形態では、パラメータ値決定部１８３は、サンプルデータθ<1>jの尤度に加えて、観測データの分布ｄ1（ｘ）への一致度合いに基づいてサンプルデータθ<1>jの各々を重み付けする。
【００８２】
図７は、第３実施形態に係る関係性分析装置１００が行う処理の手順の例を示すフローチャートである。
図７のステップＳ３１〜Ｓ３２は、図３のステップＳ１１〜Ｓ１２と同様である。ステップＳ３２の後、処理がステップＳ３３へ進む。
【００８３】
（ステップＳ３３）
パラメータ値決定部１８３は、パラメータのサンプルデータθ<1>j毎に重みを算出し、重み付け平均する。図３のステップＳ１２では、パラメータ値決定部１８３は、サンプルデータＹ<1>njと、観測データＹnとに基づいて、θ<1>j毎に重みを算出する。これに対し、ステップＳ３３では、パラメータ値決定部１８３は、サンプルデータＹ<1>njおよび観測データＹnに加えて、さらに、観測データＸnの分布ｑ0（ｘ）および回帰を求めたい領域を示す分布ｑ1（ｘ）に基づいて重みを算出する。
重み付け平均で得られるパラメータ値θ<5>は、式（２０）のように示される。＜５＞は、Ｙ<1>nj、Ｙn、ｑ0（ｘ）およびｑ1（ｘ）に基づく重みを反映済みのデータを示す。
【００８４】
【数２０】
2019235614.tif 000022
【００８５】
重みｗ’jは、式（２１）のように示される。
【００８６】
【数２１】
2019235614.tif 000023
【００８７】
ｋ’は、Ｙ<1>njとＹnとの近さ（ノルム）を算出し、分布ｑ1（ｘ）への一致度合いを加味する関数である。ｋ’としてガウシアンカーネルを変形した式を用いることができ、式（２２）のように示される。
【００８８】
【数２２】
2019235614.tif 000024
【００８９】
βiは、Ｘnの各要素の分布ｑ1（ｘ）への一致度合いを示す関数であり、式（２３）のように示される。
【００９０】
【数２３】
2019235614.tif 000025
【００９１】
白丸の演算子は、アダマール積（Hadamard Product）、すなわち、行列またはベクトルの要素毎の積を示す。
ステップＳ１３の後、関係性分析装置１００は、図７の処理を終了する。
【００９２】
以上のように、パラメータサンプルデータ算出部１８１は、第１種類のデータ（データＸ）の値の入力を受けて第２種類のデータ（データＹ）の値を出力するシミュレータｒ（ｘ，θ）のパラメータθに関して仮設定された分布π（０）に基づいて、パラメータθのサンプルデータθ<1>jを複数算出する。第２種類サンプルデータ取得部１８２は、第１種類の観測データＸnとパラメータθのサンプルデータθ<1>jとをシミュレータｒ（ｘ，θ）に入力して、パラメータθのサンプルデータθ<1>j毎に第２種類のサンプルデータＹ<1>njを取得する。パラメータ値決定部１８３は、第２種類の観測データＹnと、算出された第２種類のサンプルデータＹ<1>njとの差異、および、第１種類の観測データＸnが従う第１分布ｑ0（ｘ）と、第１種類のデータの分布であって関係を求めたい領域を示す第２分布ｑ1（ｘ）との関係に基づいて、パラメータθのサンプルデータの各々に対する重みを算出し、得られた重みを用いてパラメータθの値を算出する。
これにより、関係性分析装置１００は、共変量シフトに対応して、より高精度に関係性分析を行うことができる。
【００９３】
また、第１実施形態の場合と同様第３実施形態でも、関係性分析装置１００では、シミュレータのパラメータθのサンプルデータθ<1>jを生成し、生成したサンプルデータθ<1>jをシミュレータに入力して評価することで、モデルの関数を微分する必要なしにパラメータθの値を決定することができる。関係性分析装置１００によればこの点で、関係性分析について、モデルの関数を微分できない場合や、モデルが不明な場合であっても対応可能である。
このように、関係性分析装置１００によれば、複数種類のデータ間の関係性分析で一部の領域における関係性を分析する際に、モデルが不明な場合であっても対応可能である。
【００９４】
＜第４実施形態＞
第３実施形態では、パラメータθの推定値がｄθ次元の実数値で求まる。これに対し、第４実施形態では、パラメータθの推定値を分布で求める例について説明する。
第４実施形態に係る関係性分析システムの構成および関係性分析装置１００の構成は、第２実施形態の場合（図４）と同様である。第４実施形態では、パラメータ値決定部１８３が行う処理が、第１実施形態の場合と異なる。第３実施形態では、パラメータ値決定部１８３は、第２種類の観測データＹnと、第２種類のサンプルデータＹ<1>njとの差異、および、第１種類の観測データＸnが従う第１分布と、第１種類のデータの分布であって関係を求めたい領域を示す第２分布とに基づいて、パラメータのサンプルデータの各々に対する重みを算出し、得られた重みを用いてパラメータの値を算出する。
【００９５】
図８は、第４実施形態に係る関係性分析装置１００が行う処理の手順の例を示すフローチャートである。
ステップＳ４１〜Ｓ４２は、図２のステップＳ１１〜Ｓ１２と同様である。
ステップＳ４２の後、処理がステップＳ４３へ進む。
【００９６】
（ステップＳ４３）
カーネル平均算出部１９１は、カーネル平均を求める。
上述した式（２０）は、カーネル平均を求める式と捉えて式（２４）のように表すことができる。カーネル平均算出部１９１は、式（２４）に基づいてカーネル平均μ＾θ<6>|XYを求める。＜６＞は、分布ｑ1（ｘ）への適合度合いに基づく重み付け済みのデータであることを示す。
【００９７】
【数２４】
2019235614.tif 000026
【００９８】
重みｗ<6>jは、式（２５）のように示される。
【００９９】
【数２５】
2019235614.tif 000027
【０１００】
ｋ<6>y（Ｙn）は、式（２６）のように示される。
【０１０１】
【数２６】
2019235614.tif 000028
【０１０２】
グラム行列Ｇ<6>は、式（２７）のように示される。
【０１０３】
【数２７】
2019235614.tif 000029
【０１０４】
ｋ<6>y（Ｙn，Ｙn’）は、式（２８）のように示される。
【０１０５】
【数２８】
2019235614.tif 000030
【０１０６】
式（２８）は、重み付けされたカーネル関数に該当する。
カーネル平均μ＾θ<6>|XYは、ＸおよびＹの下でのθの事後分布に、分布ｑ1（ｘ）への一致度合いに基づく重みづけをしたものを、カーネル平均埋め込みにより再生核ヒルベルト空間上で表現したものに該当する。
ステップＳ４３の後、処理がステップＳ４４へ進む。
【０１０７】
（ステップＳ４４）
カーネル平均対応パラメータ算出部１９２は、パラメータθ<6>について、カーネル平均μ＾θ<6>|XYに基づくサンプルデータ｛θ<6>1，・・・，θ<6>m｝（ｍはサンプル数を示す正の整数）を求める。
カーネル平均に基づくサンプルデータは、カーネルハーディングの手法を用いて帰納的に求めることができる。この場合、カーネル平均対応パラメータ算出部１９２は、ｊを０≦ｊ≦ｍ（ｍはサンプル数を示す正の整数）として、式（２９）に基づいて、サンプルデータθ<6>j+1を算出する。
【０１０８】
【数２９】
2019235614.tif 000031
【０１０９】
ａｒｇｍａｘθｈj（θ）は、ｈj（θ）の値を最大にするθの値を示す。
ｈjは、式（３０）により再帰的に示される。
【０１１０】
【数３０】
2019235614.tif 000032
【０１１１】
式（３０）のμには、ステップＳ４３で得られたカーネル平均μ＾θ<6>|XYを入力する。また、ｈjの初期値ｈ0を、ｈ0：＝μ＾θ<6>|XYと設定する。
Ｈは再生核ヒルベルト空間を示す。
ステップＳ２４で得られるサンプルデータ｛θ<6>1，・・・，θ<6>m｝には、事前分布に基づくサンプルデータＹ<1>njと観測データＹnとの近さに応じた重み付け、および、分布ｑ1（ｘ）への一致度合いに基づく重み付けが反映されている。
ステップＳ４４の後、処理がステップＳ４５へ進む。
【０１１２】
（ステップＳ４５）
パラメータ予測分布算出部１９３は、学習モデルｐ（ｙ｜ｘ，θ）に観測データＸnおよびサンプルデータθ<6>jを入力した分布ｐ（ｙ｜Ｘn，θ＿ｍｃvj）に従う｛θ<6>j，Ｙ<6>nj｝を、シミュレーションにより算出する。
ステップＳ４５の後、処理がステップＳ２６へ進む。
【０１１３】
（ステップＳ４６）
パラメータ予測分布算出部１９３は、ステップＳ４５で得られたサンプルデータ｛θ<6>j，Ｙ<6>nj｝を用いて、分布ｑ1（ｘ）に対応するデータＹの予測分布のカーネル表現ν＾y|YXを算出する。
予測分布のカーネル表現ν＾y|YXは、カーネルサムルールを用いて算出することができる。この場合、予測分布ｐ（ｙ｜Ｘ<6>n，Ｙ<6>n）は、式（３１）のように示される。
【０１１４】
【数３１】
2019235614.tif 000033
【０１１５】
予測分布ｐ（ｙ｜Ｘn，Ｙn）のカーネル表現ν＾y|XYは、式（３２）のように示される。
【０１１６】
【数３２】
2019235614.tif 000034
【０１１７】
ｖ1、・・・、ｖmは、式（３３）のように示される。
【０１１８】
【数３３】
2019235614.tif 000035
【０１１９】
グラム行列Ｇθ<6>は、式（３４）のように示される。
【０１２０】
【数３４】
2019235614.tif 000036
【０１２１】
グラム行列Ｇθ<6>θは、式（３５）のように示される。
【０１２２】
【数３５】
2019235614.tif 000037
【０１２３】
δmは、逆行列の計算を安定化させるための係数である。
Ｉは単位行列を示す。
ステップＳ４６の後、処理がステップＳ４７へ進む。
【０１２４】
（ステップＳ４７）
第２種類予測分布データ算出部１９４は、ステップＳ４６で得られた予測分布のカーネル表現ν＾y|YXを用いて、予測分布Ｙ<6>njのサンプルデータを求める。
ステップＳ４７でも、ステップＳ４４の場合と同様、カーネルハーディングの手法を用いて帰納的にサンプルデータを求めることができる。ステップＳ４７では、式（３６）に基づいてサンプルデータを算出する。
【０１２５】
【数３６】
2019235614.tif 000038
【０１２６】
ａｒｇｍａｘyｈ’j（ｙ）は、ｈ’j（ｙ）の値を最大にするｙの値を示す。
ｈ’jは、式（３７）により再帰的に示される。
【０１２７】
【数３７】
2019235614.tif 000039
【０１２８】
式（３７）のνにはステップＳ４６で得られた予測分布のカーネル表現ν＾y|YXを入力する。また、ｈ’jの初期値ｈ’0を、ｈ’0：＝ν＾y|YXと設定する。
ステップＳ４７の後、処理がステップＳ４８へ進む。
【０１２９】
（ステップＳ２８）
第２種類予測分布データ算出部１９４は、ステップＳ４４で得られたサンプルデータ｛θ<6>1，・・・，θ<6>m｝から、パラメータθの分布を求める。例えば、第２種類予測分布データ算出部１９４は、パラメータθの分布がガウス分布など特定の分布に従うと仮定し、サンプルデータから平均値および分散など分布の特徴量を算出する。
あるいは、関係性分析装置１００が、ステップＳ４４で得られたサンプルデータをそのままユーザに提示する（例えば、グラフで表示する）ようにしてもよい。ユーザは、サンプルデータそのものを参照することで、信頼区間およびデータそのものの信頼性を、より高精度に判断することができる。また、例えばデータの山が複数ある場合または非対称な分布の場合など、特定の分布でサンプルデータを捉えられない場合、関係性分析装置１００が、サンプルデータをそのままユーザに提示することで、ユーザは、データの分布を把握し得る。
また、第２種類予測分布データ算出部１９４が、パラメータのサンプルデータに加えて、あるいは代えて、ステップＳ４７で得られたデータＹのサンプルデータＹ<6>njの分布を求めるようにしてもよい。
ステップＳ４８の後、関係性分析装置１００は、図８の処理を終了する。
【０１３０】
以上のように、カーネル平均算出部１９１は、第１種類の観測データＸnと、第２種類サンプルデータ取得部１８２が取得した第２種類のサンプルデータＹ<1>njとの下でのパラメータθの事後分布を示すカーネル平均μ＾θ|XYを算出する。カーネル平均対応パラメータ算出部１９２は、カーネル平均算出部１９１が算出したカーネル平均μ＾θ|XYに基づくパラメータθのサンプルデータ｛θ<6>1，・・・，θ<6>m｝を算出する。パラメータ予測分布算出部１９３は、パラメータθのサンプルデータ｛θ<6>1，・・・，θ<6>m｝を用いてデータＹの予測分布のカーネル表現ν＾y|YXを算出する。第２種類予測分布データ算出部１９４は、パラメータ予測分布算出部１９３が算出した予測分布のカーネル表現ν＾y|YXを用いて、第２種類のデータ（データＹ）の予測分布に従うサンプルデータＹ<6>njを算出する。
【０１３１】
このように、関係性分析装置１００がサンプルデータを生成することで、サンプルデータからデータの分布を求めることができる。関係性分析装置１００が、データの分布を求めるようにしてもよい。あるいは、関係性分析装置１００がサンプルデータをユーザに提示し、ユーザがデータの分布を求めるようにしてもよい。
【０１３２】
次に、関係性分析装置１００の動作実験について説明する。
図９は、実験におけるシミュレーション対象の組立工程の例を示す図である。図９に示す組立工程では、組立装置が、上側部品、下側部品、および２つのねじの４つの部品を組み立てて製品を生成する。組立装置が組み立てた製品は検査装置に搬入される。検査装置は、製品が４つ搬入されると検査を行う。
【０１３３】
この組立工程で、単位時間当たりの製品の生産量をデータＸとし、Ｘ個（データＸの値）の製品の出荷時間をデータＹとする。また、パラメータの数は２とし、組立装置の作業時間をθ1、検査装置の作業時間をθ2とする。
図１０は、得られたＸとＹの関係を示す図である。図１０のグラフの横軸はデータＸを示し、縦軸はデータＹを示す。また、点Ｐ３１のような丸で観測データが示されている。
線Ｌ３１は、関係性分析の結果得られたＸとＹの関係を示す線である。
【０１３４】
線Ｌ３１が階段状になっているのは、検査装置が、製品が４つ搬入されてから検査を行うことによる待ち時間が生じているものと考えられ、ＸとＹとの関係を高精度に求められている。
図１１は、実験で得られたパラメータの値を示す図である。図１１のグラフの横軸はパラメータθ1を示し、縦軸はパラメータθ2を示す。
点Ｐ３１は、パラメータの真の値を示す。点Ｐ３２は、実験で得られたパラメータの値を示す。点Ｐ３２は点Ｐ３１に近く、パラメータ値を適切に算出できている。
【０１３５】
図１２は、共変量シフトの実験におけるパラメータ値の設定例を示す図である。
上述した組立工程のシミュレーションの実験で、Ｘの値が１１０を超えると、θ1、θ2共に値が大きくなる（組立および検査に時間を要する）ように、真のパラメータ値を設定する。
【０１３６】
図１３は、実験で得られたＸとＹの関係を示す図である。図１３のグラフの横軸はデータＸを示し、縦軸はデータＹを示す。また、点Ｐ４１のような丸で観測データが示されている。
観測データの分布が、ｑ0（Ｘ）＝Ｎ（Ｘ｜１００，１０）と、Ｘ＝１００を中心に分布しているのに対し、予測したい領域は、ｑ１（Ｘ）＝Ｎ（Ｘ｜１２０，１０）と、Ｘ＝１２０の場合について予測したいとする。
【０１３７】
線Ｌ４１は、共変量シフトの処理を行わない場合に得られるＸとＹの関係を示す線である。線Ｌ４２は、共変量シフトを行った場合に得られるＸとＹの関係を示す線である。
共変量シフトを行わない場合の線Ｌ４１が、Ｘ＝１００付近のデータを精度よく近似しているのに対し、共変量シフトを行った場合の線Ｌ４２は、Ｘ＝１２０付近のデータを精度よく近似している。このように、共変量シフトに対応した結果を得られた。
また、図１０の場合と同様、階段状の線を得られており、この点でもＸとＹとの関係を高精度に求められている。
【０１３８】
図１４は、共変量シフトの実験で得られたパラメータの値を示す図である。図１１のグラフの横軸はパラメータθ1を示し、縦軸はパラメータθ2を示す。
点Ｐ５１は、パラメータの真の値を示す。点Ｐ５２は、共変量シフトによるパラメータの真の値を示す。点Ｐ５３は、共変量シフトで得られたパラメータの値を示す。また、点Ｐ５４等により、カーネルハーディングで得られたパラメータ値の分布が示されている。
【０１３９】
点Ｐ５３は、点Ｐ５２に近く、パラメータ値を適切に算出できている。
また、カーネルハーディングで得られたパラメータ値の分布は、縦方向の分布が大きい。これにより、パラメータθ1の値の影響よりもパラメータθ2の値の影響の方が大きいことが示されている。また、カーネルハーディングで得られたパラメータ値の分布は、左肩上がりとなっている。これにより、パラメータθ1の値を改善すれば、多少の効率の改善は見込まれることが示されている。
このように、関係性分析装置１００が求めるパラメータ値の分布を参照して、ボトルネック解析等の感度解析を行うことができる。
【０１４０】
次に、図１５を参照して本発明の実施形態の構成について説明する。
図１５は、本発明の実施形態に係る関係性分析装置の構成の例を示す図である。図１５に示す関係性分析装置１０は、パラメータサンプルデータ算出部１１と、第２種類サンプルデータ取得部１２と、パラメータ値決定部１３とを備える。
【０１４１】
かかる構成にて、パラメータサンプルデータ算出部１１は、第１種類のデータの入力を受けて第２種類のデータを出力するシミュレータのパラメータに関して仮設定された分布に基づいて、前記パラメータのサンプルデータを複数算出する。第２種類サンプルデータ取得部１２は、前記第１種類の観測データと前記パラメータのサンプルデータとを前記シミュレータに入力して、前記パラメータのサンプルデータ毎に前記第２種類のサンプルデータを取得する。パラメータ値決定部１３は、前記第２種類の観測データと前記第２種類のサンプルデータとの差異、および、前記第１種類の観測データが従う第１分布と、前記第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、前記パラメータのサンプルデータの各々に対する重みを算出し、得られた重みを用いて前記パラメータの値を算出する。
【０１４２】
これにより、関係性分析装置１０は、共変量シフトに対応して、より高精度に関係性分析を行うことができる。
また、関係性分析装置１０では、シミュレータのパラメータのサンプルデータを生成し、生成したサンプルデータをシミュレータに入力して評価することで、モデルの関数を微分する必要なしにパラメータの値を決定することができる。関係性分析装置１０によればこの点で、関係性分析について、モデルの関数を微分できない場合や、モデルが不明な場合であっても対応可能である。
このように、関係性分析装置１０によれば、複数種類のデータ間の関係性分析で一部の領域における関係性を分析する際に、モデルが不明な場合であっても対応可能である。
【０１４３】
なお、制御部１８０の機能の全部または一部を実行するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより各部の処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、ＯＳや周辺機器等のハードウェアを含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ−ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
【０１４４】
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【０１４５】
この出願は、２０１８年６月７日に出願された日本国特願２０１８−１０９８８０を基礎とする優先権を主張し、その開示の全てをここに取り込む。
【産業上の利用可能性】
【０１４６】
本発明は、関係性分析装置、関係性分析方法および記録媒体に適用してもよい。
【符号の説明】
【０１４７】
１００  関係性分析装置
１１０  入出力部
１７０  記憶部
１８０  制御部
１８１  パラメータサンプルデータ算出部
１８２  第２種類サンプルデータ取得部
１８３  パラメータ値決定部
１９１  カーネル平均算出部
１９２  カーネル平均対応パラメータ算出部
１９３  パラメータ予測分布算出部
１９４  第２種類予測分布データ算出部
【図１】
2019235614.tif 000040
【図２】
2019235614.tif 000041
【図３】
2019235614.tif 000042
【図４】
2019235614.tif 000043
【図５】
2019235614.tif 000044
【図６】
2019235614.tif 000045
【図７】
2019235614.tif 000046
【図８】
2019235614.tif 000047
【図９】
2019235614.tif 000048
【図１０】
2019235614.tif 000049
【図１１】
2019235614.tif 000050
【図１２】
2019235614.tif 000051
【図１３】
2019235614.tif 000052
【図１４】
2019235614.tif 000053
【図１５】
2019235614.tif 000054
【手続補正書】
【提出日】令和2年12月4日(2020.12.4)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
第１種類のデータの入力を受けて第２種類のデータを出力するシミュレータのパラメータに関して仮設定された分布に基づいて、前記パラメータの複数のサンプルデータを算出するパラメータサンプルデータ算出部と、
前記第１種類の観測データと前記パラメータの複数のサンプルデータの各々とを前記シミュレータに入力して、前記パラメータの複数のサンプルデータの各々毎に前記第２種類のサンプルデータを取得する第２種類サンプルデータ取得部と、
前記第２種類の観測データと前記第２種類のサンプルデータとの差異、および、前記第１種類の観測データが従う第１分布と、前記第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、前記パラメータの複数のサンプルデータの各々に対する重みを算出し、算出された前記重みを用いて前記パラメータの値を算出するパラメータ値決定部と、
を備える関係性分析装置。
【請求項２】
前記パラメータ値決定部は、
前記第１種類の観測データと、算出された前記第２種類のサンプルデータとの下での前記パラメータの事後分布に、前記第１種類のデータの各要素の前記第２分布への一致度合いが反映されたカーネル平均を算出するカーネル平均算出部と、
前記カーネル平均に基づく前記パラメータのサンプルデータを算出するカーネル平均対応パラメータ算出部と、
前記カーネル平均に基づく前記パラメータのサンプルデータを用いて前記パラメータの予測分布のカーネル表現を算出するパラメータ予測分布算出部と、
前記パラメータの予測分布のカーネル表現を用いて、前記第２種類のデータの予測分布に従うサンプルデータを算出する第２種類予測分布データ算出部と、
を備える請求項１に記載の関係性分析装置。
【請求項３】
第１種類のデータの入力を受けて第２種類のデータを出力するシミュレータのパラメータに関して仮設定された分布に基づいて、前記パラメータの複数のサンプルデータを算出し、
前記第１種類の観測データと前記パラメータの複数のサンプルデータの各々とを前記シミュレータに入力して、前記パラメータの複数のサンプルデータの各々毎に前記第２種類のサンプルデータを算出し、
前記第２種類の観測データと前記第２種類のサンプルデータとの差異、および、前記第１種類の観測データが従う第１分布と、前記第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、前記パラメータの複数のサンプルデータの各々に対する重みを算出し、
算出された前記重みを用いて前記パラメータの値を算出する、
ことを含む関係性分析方法。
【請求項４】
前記パラメータの値を算出することは、
前記第１種類の観測データと、算出された前記第２種類のサンプルデータとの下での前記パラメータの事後分布に、前記第１種類のデータの各要素の前記第２分布への一致度合いが反映されたカーネル平均を算出することと、
前記カーネル平均に基づく前記パラメータのサンプルデータを算出すること、
前記カーネル平均に基づく前記パラメータのサンプルデータを用いて前記パラメータの予測分布のカーネル表現を算出することと、
前記パラメータの予測分布のカーネル表現を用いて、前記第２種類のデータの予測分布に従うサンプルデータを算出することと、
を含む請求項３に記載の関係性分析方法。
【請求項５】
コンピュータに、
第１種類のデータの入力を受けて第２種類のデータを出力するシミュレータのパラメータに関して仮設定された分布に基づいて、前記パラメータの複数のサンプルデータを算出し、
前記第１種類の観測データと前記パラメータの複数のサンプルデータの各々とを前記シミュレータに入力して、前記パラメータの複数のサンプルデータの各々毎に前記第２種類のサンプルデータを算出し、
前記第２種類の観測データと前記第２種類のサンプルデータとの差異、および、前記第１種類の観測データが従う第１分布と、前記第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、前記パラメータの複数のサンプルデータの各々に対する重みを算出し、
算出された前記重みを用いて前記パラメータの値を算出する、
ことを実行させるためのプログラム。
【請求項６】
前記パラメータの値を算出することは、前記コンピュータに、
前記第１種類の観測データと、算出された前記第２種類のサンプルデータとの下での前記パラメータの事後分布に、前記第１種類のデータの各要素の前記第２分布への一致度合いが反映されたカーネル平均を算出し、
前記カーネル平均に基づく前記パラメータのサンプルデータを算出し、
前記カーネル平均に基づく前記パラメータのサンプルデータを用いて前記パラメータの予測分布のカーネル表現を算出し、
前記パラメータの予測分布のカーネル表現を用いて、前記第２種類のデータの予測分布に従うサンプルデータを算出する、
ことを実行させるための、請求項５に記載のプログラム。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】０００１
【補正方法】変更
【補正の内容】
【０００１】
本発明は、関係性分析装置、関係性分析方法およびプログラムに関する。
【手続補正４】
【補正対象書類名】明細書
【補正対象項目名】０００６
【補正方法】変更
【補正の内容】
【０００６】
本発明の目的の一例は、上述の課題を解決することのできる関係性分析装置、関係性分析方法およびプログラムを提供することである。
【手続補正５】
【補正対象書類名】明細書
【補正対象項目名】０００９
【補正方法】変更
【補正の内容】
【０００９】
本発明の第３の態様によれば、プログラムは、コンピュータに、第１種類のデータの入力を受けて第２種類のデータを出力するシミュレータのパラメータに関して仮設定された分布に基づいて、前記パラメータの複数のサンプルデータを算出し、前記第１種類の観測データと前記パラメータの複数のサンプルデータの各々とを前記シミュレータに入力して、前記パラメータの複数のサンプルデータの各々毎に前記第２種類のサンプルデータを算出し、前記第２種類の観測データと前記第２種類のサンプルデータとの差異、および、前記第１種類の観測データが従う第１分布と、前記第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、前記パラメータの複数のサンプルデータの各々に対する重みを算出し、算出された前記重みを用いて前記パラメータの値を算出する、ことを実行させるためのプログラムである。
【国際調査報告】
2019235614.tif 000055
2019235614.tif 000056