(57)【要約】【課題】時間発展の繰り返し幅を拡大可能であって、系の一部のみを時間発展可能な確率論的時間発展モデルに基づき時系列データを生成するための技術を提供することである。【解決手段】本発明の一態様は、決定論的時間発展モデルから取得された教師時系列データを学習することによって、条件付き確率分布によってモデル化された確率論的時間発展モデルを生成するモデル生成部と、前記生成された確率論的時間発展モデルに基づき時系列データを生成する時系列データ生成部と、を有する時系列データ生成装置に関する。【選択図】図２
2019091237.tif 000002
【特許請求の範囲】
【請求項１】
決定論的時間発展モデルから取得された教師時系列データを学習することによって、条件付き確率分布によってモデル化された確率論的時間発展モデルを生成するモデル生成部と、
前記生成された確率論的時間発展モデルに基づき時系列データを生成する時系列データ生成部と、
を有する時系列データ生成装置。
【請求項２】
前記モデル生成部は、前記教師時系列データについて低次元空間に密に分布する隠れ変数に関する条件付き確率分布を学習する、請求項１記載の時系列データ生成装置。
【請求項３】
前記モデル生成部は、定常分布として前記隠れ変数に関する条件付き確率分布を生成する、請求項２記載の時系列データ生成装置。
【請求項４】
前記モデル生成部は、前記教師時系列データと前記生成された確率論的時間発展モデルに基づき生成された時系列データとの間のワッサースタイン距離に基づき、前記生成された確率論的時間発展モデルを評価する、請求項１乃至３何れか一項記載の時系列データ生成装置。
【請求項５】
請求項１乃至４何れか一項記載の時系列データ生成装置の各部としてプロセッサを機能させるプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、時系列データを生成するための技術に関するものである。
【背景技術】
【０００２】
分子動力学（ＭＤ）シミュレーションは、分子の挙動を調べるためのツールであり、決定論的時間発展モデルに従ってニュートンの運動方程式を時々刻々と解き、粒子を動かすことによって原子又は分子の運動（例えば、全ての原子又は分子の座標、速度及び力など）をシミュレートする手法である。
【０００３】
ＭＤシミュレーションは、例えば、図１に示されるような流れによって行われる。第１のステップにおいて、シミュレーション対象の原子を配置する。第２のステップにおいて、原子に働く力（例えば、化学結合力、静電気力、分子間力など）を計算する。第３のステップにおいて、ニュートンの運動方程式に従って原子の動きを計算する。これら第１〜３のステップを考察対象のタイムステップに応じて繰り返し、最終的に第４のステップにおいて、エネルギーなどを計算する。
【発明の概要】
【発明が解決しようとする課題】
【０００４】
近年の研究では、シミュレーション対象が複雑化し、粒子数や計算長さが爆発的に増加している（例えば、１０９の粒子数、１０１０の繰り返し計算数など）。ＭＤシミュレーションは、短いダイナミクス（ｆｓオーダなど）を忠実に計算し、図１を参照して上述したように、これを繰り返すことによって、系全体の長いダイナミクス（ｎｓ又はμｓオーダなど）を再現する。このため、繰り返しの増加は計算コストを増加させる。
【０００５】
また、ＭＤシミュレーションは、系内の全ての粒子の相互作用を忠実に計算し、これを系全体で行うことによって、系全体の動きを再現する。このため、粒子数の増加は計算コストを増加させる。
【０００６】
上述した問題点を鑑み、本発明の課題は、時間発展の繰り返し幅を拡大可能であって、系の一部のみを時間発展可能な確率論的時間発展モデルに基づき時系列データを生成するための技術を提供することである。
【課題を解決するための手段】
【０００７】
上記課題を解決するため、本発明の一態様は、決定論的時間発展モデルから取得された教師時系列データを学習することによって、条件付き確率分布によってモデル化された確率論的時間発展モデルを生成するモデル生成部と、前記生成された確率論的時間発展モデルに基づき時系列データを生成する時系列データ生成部と、を有する時系列データ生成装置に関する。
【発明の効果】
【０００８】
本発明によると、時間発展の繰り返し幅を拡大可能であって、系の一部のみを時間発展可能な確率論的時間発展モデルに基づき時系列データを生成することが可能になる。
【図面の簡単な説明】
【０００９】
【図１】図１は、分子動力学シミュレーションのフローを示す図である。
【図２】図２は、本発明の一実施例による時系列データ生成装置を示す概略図である。
【図３】図３は、本発明の一実施例による時系列データ生成装置の機能構成を示すブロック図である。
【図４】図４は、本発明の一実施例による２つのタイプのエクスポージャバイアスを示す概略図である。
【図５】図５は、本発明の一実施例による隠れ変数を示す概略図である。
【図６】図６は、本発明の一実施例によるワッサースタイン距離による学習対象の条件付き確率分布の評価過程を示す概略図である。
【図７】図７は、本発明の一実施例による確率論的時間発展モデルを構築するための学習フェーズを示すフローチャートである。
【図８】図８は、本発明の一実施例による確率論的時間発展モデルを利用した時系列データの生成フェーズを示すフローチャートである。
【図９】図９は、調和振動子に関する決定論的時間発展モデルと学習された確率論的時間発展モデルとの比較を示す図である。
【図１０】図１０は、調和振動子に関する決定論的時間発展モデルと学習された確率論的時間発展モデルとの比較を示す図である。
【図１１】図１１は、水分子のＯＨ振動を示す概略図である。
【図１２】図１２は、水分子のＯＨ振動に関する決定論的時間発展モデルと学習された確率論的時間発展モデルとの比較を示す図である。
【図１３】図１３は、水分子のＯＨ振動に関する決定論的時間発展モデルと学習された確率論的時間発展モデルとの比較を示す図である。
【図１４】図１４は、高分子のＭＤシミュレーションを示す概略図である。
【図１５】図１５は、高分子の拡散に関する決定論的時間発展モデルと学習された確率論的時間発展モデルとの比較を示す図である。
【発明を実施するための形態】
【００１０】
以下、図面に基づいて本発明の実施の形態を説明する。
【００１１】
以下の実施例では、確率論的時間発展モデルに基づき時系列データを生成する時系列データ生成装置が開示される。本開示による時系列データ生成装置は、時間発展の繰り返し幅を拡大可能であって、系の一部のみを時間発展可能な確率論的時間発展モデルに基づき時系列データを生成する。
【００１２】
すなわち、図２に示されるように、分子動力学（ＭＤ）シミュレーションを実行する時系列データ生成装置（Ｍｏｌｅｃｕｌａｒ  Ｄｙｎａｍｉｃｓ−Ｇｅｎｅｒａｔｉｖｅ  Ａｄｖｅｒｓａｒｉａｌ  Ｎｅｔｗｏｒｋ：ＭＤ−ＧＡＮ）は、決定論的時間発展モデルから生成された考察対象の原子又は分子全体の各時点の時系列のＭＤデータ（ｔ＝１，２，３・・・）を取得し、取得したＭＤデータを学習することによって条件付き確率分布によってモデル化された確率論的時間発展モデルを生成する。時系列データ生成装置は、生成した確率論的時間発展モデル論に基づき、より長い繰り返し幅（ｔ＝１，５・・・など）の時系列データを生成可能である（Ｓｔｅｐ  Ｓｋｉｐ）。また、図示されるように、時系列データ生成装置は、生成された確率論的時間発展モデルに基づき、系の一部の各時点の時系列データを生成可能である（Ｆｅａｔｕｒｅ  Ｅｘｔｒａｃｔｉｏｎ）。
【００１３】
また、本発明による確率論的時間発展モデルは、後述されるように、Ｒｅｃｕｒｒｅｎｔ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ（ＲＮＮ）やＬｏｎｇ  Ｓｈｏｒｔ−Ｔｅｒｍ  Ｍｅｍｏｒｙ（ＬＳＴＭ）などの既存の学習アプローチによる時系列データの生成時に認識されている、誤差を含む（ｔ−１）時点のデータに基づきｔ時点のデータを生成することによって誤差が蓄積するエクスポージャバイアスを取り除く仕組みによって生成される。
【００１４】
なお、以下の実施例はＭＤデータに関して説明されるが、本発明による時系列データ生成装置は、これに限定されず、各時点のデータが任意の１つ以上の物理量（座標、速度、力など）から構成される任意の時系列データを生成可能である。
【００１５】
まず、図３を参照して、本発明の一実施例による時系列データ生成装置を説明する。図３は、本発明の一実施例による時系列データ生成装置の機能構成を示すブロック図である。本開示による時系列データ生成装置は、時間発展の繰り返し幅を拡大可能であって、系の一部のみを時間発展可能な確率論的時間発展モデルに基づき時系列データを生成可能である。ここで、時間発展の繰り返し幅を拡大する場合、教師データを拡大された時間幅にしてモデルに与え、系の一部のみを時間発展する場合、教師データを当該一部のものにしてモデルに与える。すなわち、本開示による確率論的時間発展モデルは、与えられた時系列データを忠実に再現するモデルであり、教師データを与える際に、決定論的時間発展モデルにより得られたデータを所望の時系列（時間幅、系の一部など）にアレンジしてモデルに入力し、所望の時系列に対応する確率論的時間発展モデルを学習するというものである。
【００１６】
図３に示されるように、時系列データ生成装置１００は、モデル生成部１１０及び時系列データ生成部１２０を有する。
【００１７】
モデル生成部１１０は、決定論的時間発展モデルから取得された教師時系列データを学習することによって、条件付き確率分布によってモデル化された確率論的時間発展モデルを生成する。すなわち、モデル生成部１１０は、時点ｔにおける時系列データＸｔを時点（ｔ−１）以前の時系列データＸｔ−１：０の条件付き確率分布Ｐ（Ｘｔ｜Ｘｔ−１：０）から生成する。本実施例では、当該条件付き確率分布Ｐ（Ｘｔ｜Ｘｔ−１：０）は、ニュートンの運動方程式などによる決定論的時間発展モデルによって生成された時系列データを学習（深層学習など）することによって生成される。
【００１８】
例えば、時間発展の繰り返し幅を拡大する場合、モデル生成部１１０は、決定論的時間発展モデルから取得された教師時系列データから拡大された時間幅に対応するサブセットを抽出し、抽出した教師時系列データのサブセットを学習することによって、拡大された時間幅に対応する確率論的時間発展モデルを生成する。
【００１９】
また、系の一部のみを時間発展する場合、モデル生成部１１０は、決定論的時間発展モデルから取得された教師時系列データから所望される部分に対応するサブセットを抽出し、抽出した教師時系列データのサブセットを学習することによって、系の一部に対応する確率論的時間発展モデルを生成する。
【００２０】
時系列データ生成部１２０は、生成された確率論的時間発展モデルに基づき時系列データを生成する。すなわち、時系列データ生成部１２０は、後述されるように学習された確率論的時間発展モデルを用いて時系列データを生成する。
【００２１】
一例では、時系列データ生成部１２０は、確率論的時間発展モデルに基づき、決定論的時間発展モデルの各時点（ｔ＝１，２，３・・・）間の時間幅（Δｔ）より長い時間幅（ｎΔｔ）の時系列データを生成可能である。すなわち、決定論的時間発展モデルに基づく時系列データの生成では、時点ｔの時系列データは、時点０〜（ｔ−１）までの各時点の時系列データを順次計算することによって求められるが、本開示による確率論的時間発展モデルに基づく時系列データの生成では、時点ｔの時系列データは、時点０〜（ｔ−１）までの各時点の時系列データを順次計算することなく、当該モデルによって求められる。
【００２２】
他の例では、時系列データ生成部１２０は、確率論的時間発展モデルに基づき、考察対象の系の一部について時系列データを生成可能である。すなわち、決定論的時間発展モデルに基づく時系列データの生成では、時点ｔの一部の分子の時系列データは、時点０〜（ｔ−１）までの各時点の全ての分子の時系列データを順次計算することによって求められるが、本開示による確率論的時間発展モデルに基づく時系列データの生成では、時点ｔの一部の分子の時系列データは、時点０〜（ｔ−１）までの各時点の全ての分子の時系列データを順次計算することなく、当該モデルに時点ｔ及び所望の一部の分子を特定することによって求められる。
【００２３】
当該時系列データの学習は、典型的には、ＲＮＮやＬＳＴＭなどの時系列データの生成に適した既存のアプローチを用いて実行可能であるが、これら既存のアプローチには誤差の蓄積によるエクスポージャバイアスの問題があることが知られている。エクスポージャバイアスは、自然言語、動画生成、人間のモーション生成などの時系列データの生成において広く知られている問題である。
【００２４】
本開示では、エクスポージャバイアスが、図４に示されるような外部バイアスと内部バイアスに分類され、各タイプのエクスポージャバイアスを抑えることによってエクスポージャバイアスが抑制される。ここで、外部バイアスとは、本来の分布から外れたデータが発生するエクスポージャバイアスであり、内部バイアスは、本来の分布におけるデータのむらが発生するエクスポージャバイアスである。
【００２５】
一実施例では、外部バイアスを緩和させるため、モデル生成部１１０は、教師時系列データについて低次元空間に密に分布する隠れ変数に関する条件付き確率分布を学習してもよい。すなわち、モデル生成部１１０は、時点ｔにおける時系列データＸｔを時点（ｔ−１）以前の時系列データＸｔ−１：０を用いて生成する条件付き確率分布Ｐ（Ｘｔ｜Ｘｔ−１：０）の代わりに、決定論的時間発展モデルにより生成された教師時系列データＸｔの次元より低い低次元空間ｚｔ（ｄｉｍ（Ｘｔ）＞ｄｉｍ（ｚｔ））において分布する変数（隠れ変数）による条件付き確率分布Ｐ（Ｘｔ｜ｚｔ）、Ｐ（Ｘｔ−１｜ｚｔ−１）及び／又はＰ（ｚｔ｜ｚｔ−１：０）を学習する。このように、データを低次元に分布する隠れ変数の時系列データに変換して学習することによって、データ分布が疎である変数による影響（上述した本来の分布から外れたデータの発生）を軽減することが可能となる。
【００２６】
一般に、ＭＤシミュレーションによって生成された時系列データの次元は高次元であり、また、図５に示されるように、多くのデータは疎なデータ構造を有すると共に、ある多様体構造を有して分布している。この高次元に分布する時系列データに対して確率論的時間発展を適用した場合、生成される時系列データは疎な多様体構造から外れやすく、外部バイアスにつながりやすい。このため、本実施例では、高次元の時系列データを低次元に変換する。変換されたデータは低次元に密に分布することが期待されるため、確率論的時間発展が適用された場合でも、データが多様体構造に内包される可能性が高まる。
【００２７】
さらに、一実施例では、内部バイアスを緩和させるため、モデル生成部１１０は、定常分布として隠れ変数に関する条件付き確率分布を生成してもよい。一般に、時系列データＸｔは定常性を有することが仮定されており、隠れ変数ｚｔに対しても定常性の制約を課すことによって、内部バイアスを減少させることができる。具体的には、モデル生成部１１０は、変換した低次元空間に密に分布する隠れ変数ｚｔによる条件付き確率分布Ｐ（Ｘｔ｜ｚｔ）、Ｐ（Ｘｔ−１｜ｚｔ−１）及び／又はＰ（ｚｔ｜ｚｔ−１：０）が定常分布であるとして学習する。
【００２８】
一実施例では、モデル生成部１１０は、教師時系列データと生成された確率論的時間発展モデルに基づき生成された時系列データとの間のワッサースタイン（Ｗａｓｓｅｒｓｔｅｉｎ）距離に基づき、生成された確率論的時間発展モデルを評価してもよい。
【００２９】
例えば、隠れ変数ｚの生成について、図６の上側の図に示されるように、モデル生成部１１０は、学習された条件付き確率分布Ｐ（Ｘｔ｜ｚｔ）、Ｐ（Ｘｔ−１｜ｚｔ−１）及び／又はＰ（ｚｔ｜ｚｔ−１：０）に基づき時系列データｚｔを算出し、算出した時系列データｚｔに基づき、条件付き確率Ｐ（Ｘｔ｜ｚｔ）、Ｐ（Ｘｔ−１｜ｚｔ−１）で生成された時系列データＸ'ｔと決定論的時間発展モデルに基づき生成された時系列データＸｔとのワッサースタイン距離を求める。ワッサースタイン距離は、確率分布間の相違を示す指標として知られている。例えば、モデル生成部１１０は、時系列データＸｔと生成された時系列データＸ'ｔとの間のワッサースタイン距離が所定の閾値以下になるまで、条件付き確率分布Ｐ（Ｘｔ｜ｚｔ）、Ｐ（Ｘｔ−１｜ｚｔ−１）及び／又はＰ（ｚｔ｜ｚｔ−１：０）を学習してもよい。この時、ｚｔはある既知の分布（一様分布、正規分布など）から、データを表現可能な任意の定常分布への変換により生成されてもよい（図６ａ）。また、ｚｔ、ｚｔ−１が定常分布であるかは、ワッサースタイン距離によって判定されてもよい。
【００３０】
また上記の議論は、時系列データＸｔの一部である時系列データＹｔ（Ｙ⊂Ｘ）についても行うことができ、図６の下側の図に示されるように、モデル生成部１１０は、一部の時系列データＹｔを生成し、生成した時系列データＹ'ｔと決定論的時間発展モデルに基づき生成された時系列データＹｔとのワッサースタイン距離を求める。例えば、モデル生成部１１０は、時系列データＹｔと時系列データＤｔとの間のワッサースタイン距離が所定の閾値以下になるまで、条件付き確率分布Ｐ（Ｙｔ｜Ｙｔ−１：０）を学習してもよい。
【００３１】
なお、上述した時系列データ生成装置１００は、パーソナルコンピュータ、サーバ、専用の回路などの何れかの情報処理装置により実現されてもよい。時系列データ生成装置１００は、例えば、バスＢを介し相互接続されるドライブ装置１０１、補助記憶装置１０２、メモリ装置１０３、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）１０４、インタフェース装置１０５及び通信装置１０６などのハードウェア構成を有してもよい。時系列データ生成装置１００は、プロセッサをモデル生成部１１０及び時系列データ生成部１２０として機能させるプログラムによって実現されてもよい。
【００３２】
時系列データ生成装置１００における各種機能及び処理を実現するプログラムを含む各種コンピュータプログラムは、ＣＤ−ＲＯＭ（Ｃｏｍｐａｃｔ  Ｄｉｓｋ−Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）などの記録媒体１０７によって提供されてもよい。プログラムを記憶した記録媒体１０７がドライブ装置１０１にセットされると、プログラムが記録媒体１０７からドライブ装置１０１を介して補助記憶装置１０２にインストールされる。但し、プログラムのインストールは必ずしも記録媒体１０７により行う必要はなく、ネットワークなどを介し何れかの外部装置からダウンロードするようにしてもよい。補助記憶装置１０２は、インストールされたプログラムを格納すると共に、必要なファイルやデータなどを格納する。メモリ装置１０３は、プログラムの起動指示があった場合に、補助記憶装置１０２からプログラムやデータを読み出して格納する。プロセッサとして機能するＣＰＵ１０４は、メモリ装置１０３に格納されたプログラムやプログラムを実行するのに必要なパラメータなどの各種データに従って、後述されるような時系列データ生成装置１００の各種機能及び処理を実行する。インタフェース装置１０５は、ネットワーク又は外部装置に接続するための通信インタフェースとして用いられる。通信装置１０６は、端末や外部装置と通信するための各種通信処理を実行する。しかしながら、時系列データ生成装置１００は、上述したハードウェア構成に限定されるものでなく、他の何れか適切なハードウェア構成により実現されてもよい。
【００３３】
次に、図７〜８を参照して、本発明の一実施例による時系列データ生成処理を説明する。当該時系列データ生成処理は、上述した時系列データ生成装置１００によって実現されうる。本開示による時系列データ生成処理は、時間発展の繰り返し幅を拡大可能であって、系の一部のみを時間発展可能な確率論的時間発展モデルに基づき時系列データを生成可能である。ここで、時間発展の繰り返し幅を拡大する場合、教師データを拡大された時間幅にしてモデルに与え、系の一部のみを時間発展する場合、教師データを当該一部のものにしてモデルに与える。すなわち、本開示による確率論的時間発展モデルは、与えられた時系列データを忠実に再現するモデルであり、教師データを与える際に、決定論的時間発展モデルにより得られたデータを所望の時系列（時間幅、系の一部など）にアレンジしてモデルに入力し、所望の時系列に対応する確率論的時間発展モデルを学習するというものである。
【００３４】
図７は、本発明の一実施例による確率論的時間発展モデルを構築するための学習フェーズを示すフローチャートである。
【００３５】
図７に示されるように、ステップＳ１０１において、時系列データ生成装置１００は、決定論的時間発展モデルに基づき教師時系列データＹｔ−１，Ｙｔを取得する。ここで、教師時系列データＹｔ−１，Ｙｔは、決定論的時間発展モデルに基づく時系列データＸｔのうち所望の時間幅及び／又は系の一部に対応するサブセットに対応する。
【００３６】
ステップＳ１０２において、時系列データ生成装置１００は、確率論的時間発展モデルの学習に関する各種パラメータ（例えば、学習率、初期重み分散など）を初期化する。ここで、学習率とは、ステップＳ１０８において行われる学習（一般的に、勾配法を用いる）において勾配に基づく移動の大きさを表す。また、初期重み分散とは、学習前のディープラーニングの初期パラメータ設定に必要なものであり、一般に、ディープラーニングの重みは平均０の正規分布から生成するが、その際に事前に設定する分散を指す。
【００３７】
ステップＳ１０３において、時系列データ生成装置１００は、一様分布から隠れ変数ｚｔ−１，ｚｔを生成する。一様分布は、ＧＡＮにおいて一般に用いられており、また、隠れ変数の生成は、学習によって獲得されるＧｚによって実行される。
【００３８】
ステップＳ１０４において、時系列データ生成装置１００は、前半のｚを棄却し、定常化したｚｔ−１，ｚｔを取得する。隠れ変数ｚの列は一様分布に基づきＧｚから再帰的に生成される。生成された列の後半は定常化されているため、定常化されていない前半を棄却する。
【００３９】
ステップＳ１０５において、時系列データ生成装置１００は、ｐ（Ｙｔ−１｜ｚｔ−１），ｐ（Ｙｔ｜ｚｔ）として時系列データＹ'ｔ−１，Ｙ'ｔを生成する。
【００４０】
ステップＳ１０６において、時系列データ生成装置１００は、生成した［Ｙ'ｔ−１，Ｙ'ｔ］と教師時系列データ［Ｙｔ−１，Ｙｔ］との間のワッサースタイン距離を推定する。
【００４１】
ステップＳ１０７において、時系列データ生成装置１００は、推定したワッサースタイン距離が所定の閾値以下であるか判定し、推定したワッサースタイン距離が所定の閾値以下である場合（Ｓ１０７：ＹＥＳ）、学習フェーズを終了し、推定したワッサースタイン距離が所定の閾値以下でない場合（Ｓ１０７：ＮＯ）、ステップＳ１０８において、ステップＳ１０３，Ｓ１０５，Ｓ１０６における損失関数を計算及び学習し、ステップＳ１０３に戻る。
【００４２】
図８は、本発明の一実施例による確率論的時間発展モデルを利用した時系列データの生成フェーズを示すフローチャートである。
【００４３】
図８に示されるように、ステップＳ２０１において、時系列データ生成装置１００は、図７における学習フェーズにおいて学習したパラメータを条件付き確率分布に入力する。
【００４４】
ステップＳ２０２において、時系列データ生成装置１００は、一様分布から隠れ変数ｚｔ−１，ｚｔを生成する。
【００４５】
ステップＳ２０３において、時系列データ生成装置１００は、前半のｚを棄却し、定常化したｚｔ−１，ｚｔを取得する。
【００４６】
ステップＳ２０４において、時系列データ生成装置１００は、ｐ（Ｙｔ−１｜ｚｔ−１），ｐ（Ｙｔ｜ｚｔ）として時系列データＹ'ｔ−１，Ｙ'ｔを生成する。
【００４７】
次に、本開示による時系列データ生成装置１００によって生成された時系列データと決定論的時間発展モデルに基づき生成された時系列データとを比較した各種実験データを説明する。
【００４８】
まず、調和振動子の振動に関する実験を説明する。図９は、調和振動子に関する決定論的時間発展モデル（上側）と学習された確率論的時間発展モデル（下側）との比較を示す図である。図の横軸はタイムステップ数を表し、縦軸は振動＋ノイズを表す。図から理解できるように、下側の図において、異なるタイプの破線が１回の生成を表し、生成が繰り返されていることがわかる。また、上側と下側の図を比較すると、誤差がほとんどないことがわかる。
【００４９】
図１０は、調和振動子に関する決定論的時間発展モデル（ＭＤ  ｄａｔａ）と学習された確率論的時間発展モデル（Ｏｕｒ  ｍｏｄｅｌ）との比較を示す図である。図示されたグラフは、図９の振動をフーリエ変換することによって得られたスペクトルを示す。図の横軸は周波数を表し、縦軸は強さを表す。図から理解できるように、決定論的時間発展モデルと確率論的時間発展モデルとのスペクトルはほぼ一致し、学習された確率論的時間発展モデルは定量的にも良好であると考えられる。
【００５０】
次に、図１１に示されるような水分子のＯＨ振動に関する実験を説明する。本実験では、水だけの系でＯＨ振動を計算し、水のＯＨ振動を再現する。図１２は、水分子のＯＨ振動に関する決定論的時間発展モデル（上側）と学習された確率論的時間発展モデル（下側）との比較を示す図である。図の横軸はタイムステップ数を表し、縦軸はＯＨの速度を表し、ｘ，ｙ及びｚ軸方向の速度が示される。図から理解できるように、水の振動は極めて複雑である。一方、決定論的時間発展モデルと確率論的時間発展モデルとの速度についてフーリエ変換を実行し、スペクトルを抽出すると、図１３に示されるように、決定論的時間発展モデルと確率論的時間発展モデルとのスペクトルの水分子の特徴的なピークはほぼ一致した。なお、当該水分子のスペクトルのパラメータとして、時系列データＹは６４時間刻み（ステップ）のＯＨの相対速度であり、１エポックは６４ステップ×２を６４個であり、収束までの繰り返し回数は約５０００回であり、隠れ変数の次元は８次元である。
【００５１】
次に、図１４に示されるようなポリエチレンが大量に含む高分子の拡散に関する実験を説明する。ここで、拡散性を表す指標として、平均自乗変位（ＭＳＤ）を利用した。ＭＳＤは、粒子が最初の位置からどれだけ離れたかを表すものであり、
【００５２】
【数１】
2019091237.tif 000003
として定義される。ここで、当該傾きが拡散係数となり、実験などによって求められる。
【００５３】
図１５は、高分子の拡散に関する決定論的時間発展モデル（左側）と学習された確率論的時間発展モデル（右側）との比較を示す図である。右図では、異なるタイプの破線が１回の生成を表し、生成が繰り返されていることがわかる。図から理解されるように、高分子は時間スケールで拡散が変化している（ｔ０．５→ｔ）。学習された確率論的時間発展モデルは、１回の生成がその変化時間より短いにもかかわらず、しっかりと再現できている。
【００５４】
以上、本発明の実施例について詳述したが、本発明は上述した特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。
【符号の説明】
【００５５】
１００  時系列データ生成装置
１１０  モデル生成部
１２０  時系列データ生成部
【図１】
2019091237.tif 000004
【図２】
2019091237.tif 000005
【図３】
2019091237.tif 000006
【図４】
2019091237.tif 000007
【図５】
2019091237.tif 000008
【図６】
2019091237.tif 000009
【図７】
2019091237.tif 000010
【図８】
2019091237.tif 000011
【図９】
2019091237.tif 000012
【図１０】
2019091237.tif 000013
【図１１】
2019091237.tif 000014
【図１２】
2019091237.tif 000015
【図１３】
2019091237.tif 000016
【図１４】
2019091237.tif 000017
【図１５】
2019091237.tif 000018