(57)【要約】【課題】アドバーサリアルネットの最適化を容易にする。【解決手段】本願に係る最適化装置は、前回生成した情報と正解情報との差分が少なくなるように新たな情報を生成する生成器と、当該生成器が新たに生成した情報と前記正解情報との差分であって、前記生成器がさらに新たな情報を生成する際の指標となる差分を出力する差分抽出器とのパラメータの最適化を行う最適化装置であって、前記パラメータを格子モデルの格子点にあてはめ、前記生成器と前記差分抽出器との学習方針に基づいて、前記格子モデルの特性関数を設定し、量子揺らぎを用いて特性関数の値が最小値となる格子モデルの基底状態を求める量子計算装置に、前記生成された特性関数の基底状態における格子点の値を算出させ、前記格子点の値に対応する前記パラメータの値を出力することを特徴とする。【選択図】図１
2019036207.tif 000002
【特許請求の範囲】
【請求項１】
前回生成した情報と正解情報との差分が少なくなるように新たな情報を生成する生成器と、当該生成器が新たに生成した情報と前記正解情報との差分であって、前記生成器がさらに新たな情報を生成する際の指標となる差分を出力する差分抽出器とのパラメータの最適化を行う最適化装置であって、
前記パラメータを格子モデルの格子点にあてはめ、前記生成器と前記差分抽出器との学習方針に基づいて、前記格子モデルの特性関数を設定し、
量子揺らぎを用いて特性関数の値が最小値となる格子モデルの基底状態を求める量子計算装置に、前記生成された特性関数の基底状態における格子点の値を算出させ、
前記格子点の値に対応する前記パラメータの値を出力する
ことを特徴とする最適化装置。
【請求項２】
前記最適化装置は、
前記生成器と前記差分抽出器との組を量子化されたボルツマンマシンと見做し、前記特性関数として、量子化されたボルツマンマシンのハミルトニアンを設定する
ことを特徴とする請求項１に記載の最適化装置。
【請求項３】
前記最適化装置は、
前記差分抽出器が出力する差分を最小化させる前記生成器の学習方針を、前記特性関数の値を小さくする項の値を最小化させる方針と見做し、前記生成器が新たに生成した情報と前記正解情報との差分を最大化する前記差分生成器の学習方針を、前記特性関数の値を最大化する方針と見做して、前記特性関数を設定する
ことを特徴とする請求項２に記載の最適化装置。
【請求項４】
前記最適化装置は、前記特性関数のうち最近傍の格子同士の相互作用を示す項の符号を反転させ、当該符号を反転させた項に前記生成器の学習方針をあてはめる
ことを特徴とする請求項３に記載の最適化装置。
【請求項５】
前回生成した情報と正解情報との差分が少なくなるように新たな情報を生成する生成器と、当該生成器が新たに生成した情報と前記正解情報との差分であって、前記生成器がさらに新たな情報を生成する際の指標となる差分を出力する差分抽出器とのパラメータの最適化を行う最適化装置が実行する最適化方法であって、
前記パラメータを格子モデルの格子点にあてはめ、前記生成器と前記差分抽出器との学習方針に基づいて、前記格子モデルの特性関数を設定し、
量子揺らぎを用いて特性関数の値が最小値となる格子モデルの基底状態を求める量子計算装置に、前記生成された特性関数の基底状態における格子点の値を算出させ、
前記格子点の値に対応する前記パラメータの値を出力する
ことを特徴とする最適化方法。
【請求項６】
前回生成した情報と正解情報との差分が少なくなるように新たな情報を生成する生成器と、当該生成器が新たに生成した情報と前記正解情報との差分であって、前記生成器がさらに新たな情報を生成する際の指標となる差分を出力する差分抽出器とのパラメータの最適化を行う最適化装置が有するコンピュータに
前記パラメータを格子モデルの格子点にあてはめ、前記生成器と前記差分抽出器との学習方針に基づいて、前記格子モデルの特性関数を設定し、
量子揺らぎを用いて特性関数の値が最小値となる格子モデルの基底状態を求める量子計算装置に、前記生成された特性関数の基底状態における格子点の値を算出させ、
前記格子点の値に対応する前記パラメータの値を出力する
処理を実行させるための最適化プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、最適化装置、最適化方法および最適化プログラムに関する。
【背景技術】
【０００２】
近年、ＳＶＭ（Support  Vector  Machine）やＤＮＮ（Deep  Neural  Network）等、任意の特徴を学習可能な学習器を複数準備し、相互に制御させるアドバーサリアルネット（Adversarial  Nets）の技術が提案されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特表２０１６−５３１３４３号公報
【非特許文献】
【０００４】
【非特許文献１】”Generative  Adversarial  Nets”,  Ian  J.  Goodfellow,  Jean  Pouget-Abadie,  Mehdi  Mirza,  Bing  Xu,  David  Warde-Farley,  Sherjil  Ozair,  Aaron  Courville,  Yoshua  Bengio、インターネット<https://arxiv.org/pdf/1406.2661.pdf>、平成２９年８月４日検索
【非特許文献２】”Quantum  Boltzmann  Machine”,  Mohammad  H.  Amin,  Evgeny  Andriyash,  Jason  Rolfe,  Bohdan  Kulchytskyy,  Roger  Melko、インターネット<https://arxiv.org/pdf/1601.02036.pdf>、平成２９年８月４日検索
【発明の概要】
【発明が解決しようとする課題】
【０００５】
ここで、各種の学習器に特徴を学習させ、最適化を行うには、多くの時間や計算資源等が必要となるため、複数の学習器を用いるアドバーサリアルネットの最適化には、さらに多くの時間や計算資源が必要になる傾向がある。
【０００６】
本願は、上記に鑑みてなされたものであって、アドバーサリアルネットの最適化を容易にすることを目的とする。
【課題を解決するための手段】
【０００７】
本願に係る最適化装置は、前回生成した情報と正解情報との差分が少なくなるように新たな情報を生成する生成器と、当該生成器が新たに生成した情報と前記正解情報との差分であって、前記生成器がさらに新たな情報を生成する際の指標となる差分を出力する差分抽出器とのパラメータの最適化を行う最適化装置であって、前記パラメータを格子モデルの格子点にあてはめ、前記生成器と前記差分抽出器との学習方針に基づいて、前記格子モデルの特性関数を設定し、量子揺らぎを用いて特性関数の値が最小値となる格子モデルの基底状態を求める量子計算装置に、前記生成された特性関数の基底状態における格子点の値を算出させ、前記格子点の値に対応する前記パラメータの値を出力することを特徴とする。
【発明の効果】
【０００８】
実施形態の一態様によれば、アドバーサリアルネットの最適化を容易にすることができる。
【図面の簡単な説明】
【０００９】
【図１】図１は、実施形態に係る最適化処理の一例を示す図である。
【図２】図２は、実施形態に係る最適化装置が有する機能構成の一例を示す図である。
【図３】図３は、実施形態にかかる量子計算装置が実行する処理の一例を説明するための図である。
【図４】図４は、実施形態に係る最適化装置が実行する処理の一例を説明するためのフローチャートである。
【発明を実施するための形態】
【００１０】
以下に、本願に係る最適化装置、最適化方法および最適化プログラムを実施するための形態（以下、「実施形態」と記載する。）について図面を参照しつつ詳細に説明する。なお、この実施形態により本願に係る最適化装置、最適化方法および最適化プログラムが限定されるものではない。また、以下の各実施形態において同一の部位には同一の符号を付し、重複する説明は省略される。
【００１１】
〔１．最適化処理〕
まず、図１を用いて、実施形態に係る最適化処理の一例について説明する。図１は、実施形態に係る最適化処理の一例を示す図である。図１では、アドバーサリアルネットと呼ばれる学習器のパラメータを最適化する最適化処理の一例について説明する。
【００１２】
まず、最適化装置１０が最適化するアドバーサリアルネットＡＮについて説明する。例えば、アドバーサリアルネットは、テキストや画像等といった任意のコンテンツを生成するコンテンツ生成器（以下、「Ｇ」と記載する場合がある。）と、コンテンツ生成器が生成したコンテンツと所定の正解データとの差分を抽出する差分抽出器（以下、「Ｄ」と記載する場合がある。）とによって構成される。
【００１３】
ここで、差分抽出器が抽出する「差分」とは、単純にコンテンツと正解データとの数値的な差ではなく、コンテンツと正解データとの意味的な差である。より具体的な例を挙げると、コンテンツ生成器は、ある画家の画風を反映させた画像を生成する。一方、差分抽出器は、実際にその画家が作成した絵画の画像を正解データとし、コンテンツ生成器が生成した画像に反映される画風と正解データに反映された画風とを比較する。そして、差分抽出器は、画風の差分、すなわち、コンテンツ生成器が生成した画像と正解データとなる画像との意味的な差を抽出し、抽出した差を出力する。なお、コンテンツ生成器が生成するコンテンツや正解データは、画像やテキストのみならず、動画像や音声等、任意のコンテンツが採用可能である。
【００１４】
このようなアドバーサリアルネットにおいて、コンテンツ生成器が生成するコンテンツを正解データに近づけるには、差分抽出器が抽出した差がより少なくなるように、コンテンツ生成器を修正するとともに、コンテンツ生成器が生成したコンテンツと正解データとの差をより正確に抽出するように、差分抽出器の学習を行えばよい。すなわち、アドバーサリアルネットにおいて、正解データの特徴を学習させるには、差分抽出器が抽出する差分がより大きくなるように差分抽出器の学習を行い、差分抽出器が抽出する差分がより小さくなるように、コンテンツ生成器の学習を行えばよい。このような学習方針に基づいて、コンテンツ生成器および差分抽出器の学習を行うことで、正解データの特徴を精度良く学習させることができる。
【００１５】
しかしながら、このようなアドバーサリアルネットの学習には、多くの正解データや計算リソースが要求される場合がある。例えば、アドバーサリアルネットのコンテンツ生成器や差分抽出器は、ＤＮＮ（Deep  Neural  Network）等、複数のノードを多段に接続したモデルであって、各ノード間で値を伝達する際の重み（接続係数）の値を修正することにより、データが有する任意の特徴を学習するモデルによって構成される、しかしながら、このようなモデルに特徴を学習させるには、バックプロパゲーション等の学習手法を用いて、上述した学習方針に従って接続係数の修正を行うこととなり、学習に要する計算リソースが増大する恐れがある。
【００１６】
そこで、最適化装置１０は、非特許文献２に示すような機械学習用量子アニーリング等の量子計算を用いて、アドバーサリアルネットの最適化を効率化する。より具体的には、最適化装置１０は、生成した情報と正解情報との差分が少なくなるように新たな情報を生成するコンテンツ生成器と、コンテンツ生成器が新たに生成した情報と正解情報との差分であって、コンテンツ生成器がさらに新たな情報を生成する際の指標となる差分を出力する差分抽出器とのパラメータの最適化を行う。例えば、最適化装置１０は、コンテンツ生成器や差分抽出器の有するノード間の接続係数や各ノード間の接続関係をアドバーサリアルネットのパラメータとし、パラメータを格子モデル（イジングモデル）の格子点にあてはめ、コンテンツ生成器と差分抽出器との学習方針に基づいて、格子モデルの特性関数（ハミルトニアン）を設定する。そして、最適化装置１０は、量子揺らぎを用いて特性関数の値が最小値となる格子モデルの基底状態を求める量子計算装置に、生成された特性関数の基底状態における格子点の値を算出させ、算出した格子点の値を出力する。
【００１７】
すなわち、最適化装置１０は、アドバーサリアルネットのパラメータ、すなわち、コンテンツ生成器や差分抽出器のパラメータの値をイジングモデルの各格子点に対応させた系を設定し、かかる系に対してコンテンツ生成器や差分抽出器の学習方針を反映させた特性関数を設定する。そして、最適化装置１０は、非特許文献２に示すような機械学習用量子アニーリング等の技術を用いて、格子モデルの状態を特性関数の値が最小値となる基底状態へと収束させることで、特性関数の値に対応する最適値、すなわち、コンテンツ生成器や差分抽出器の学習方針に対するアドバーサリアルネットのパラメータの最適解を得る。
【００１８】
このように、最適化装置１０は、コンテンツ生成器や差分抽出器のパラメータを量子計算により算出するので、アドバーサリアルネットの学習に要する計算リソースを削減することができる。
【００１９】
〔２．学習方針のあてはめについて〕
以下、最適化装置がコンテンツ生成器や差分抽出器の学習方針を特性関数へとあてはめる処理の一例について説明する。なお、以下の説明では、イジングモデルにアドバーサリアルネットをマッピングする処理の一例について説明するが、最適化装置１０は、ハイゼンベルクモデルやＸＹモデル等、任意の次元の格子モデル（すなわち、ｎ次元ベクトルモデル）にアドバーサリアルネットをマッピングしたハミルトニアンを生成してもよい。例えば、α個の格子を一列に配置した一次元のイジングモデルを考える。このようなイジングモデルの状態関数は、以下の式（１）で示すことができる。
【００２０】
【数１】
2019036207.tif 000003
【００２１】
ここで、２個の格子を配置したイジングモデルを考える。観測時において各格子が０または１の値を取るとすると、量子計算時においては、各格子は、０と１との重ね合わせ状態となる。このため、イジングモデル全体では、以下の式（２）で示すように、量子計算時において４つの状態の重ね合わせ状態が生じることとなる。
【００２２】
【数２】
2019036207.tif 000004
【００２３】
ここで、イジングモデル全体の時間的変化を考える。例えば、式（２）の時間微分を考えると、以下の式（３）を得ることができる。
【００２４】
【数３】
2019036207.tif 000005
【００２５】
ここで、式（３）に示すＨ（ｔ）は、系の状態関数を変換する演算子、すなわちハミルトニアンであり、以下の式（４）で表すことができる。ここで、Ａ（ｔ）、Ｂ（ｔ）は、時間変化する係数である。また、σｘｉは、以下の式（５）に示すパウリ行列である。また、Ｈ０は、以下の式（６）で示されるハミルトニアンである。
【００２６】
【数４】
2019036207.tif 000006
【００２７】
【数５】
2019036207.tif 000007
【００２８】
【数６】
2019036207.tif 000008
【００２９】
ここで、式（４）に示すハミルトニアンの時間発展を考える。例えば、式（４）に示すハミルトニアンの初期状態Ｈ（ｔ＝０）は、以下の式（７）で示すことができる。
【００３０】
【数７】
2019036207.tif 000009
【００３１】
ここで、式（４）に示すＡ（ｔ）とＢ（ｔ）が共に正の値を取る場合、Ａ（ｔ）は、式（７）で示すハミルトニアンを時間と共に増加させ、Ｂ（ｔ）は、式（７）で示すハミルトニアンを時間と共に減少させることとなる。すなわち、Ａ（ｔ）は、系のエネルギーを時間発展と共に増大させ、Ｂ（ｔ）は、系のエネルギーを時間発展と共に減少させる。量子アニーリングと呼ばれる技術では、算出対象となる問題をこのような時間発展と対応させ、問題の内容に応じて系の時間発展を制御することで、系の最終的な状態を問題の解とする。
【００３２】
ここで、アドバーサリアルネットを構成するコンテンツ生成器および差分抽出器の学習方針をイジングモデルのハミルトニアンに対応させる処理を考える。例えば、コンテンツ生成器および差分抽出器によって構成されるアドバーサリアルネットは、ボルツマンマシンと見做すことができる。このようなボルツマンマシンを量子化した量子ボルツマンマシンのパラメータを量子アニーリングで算出する手法が提案されている（例えば、非特許文献２参照）。
【００３３】
例えば、ボルツマンマシンのハミルトニアンは、上述した式（４）で示すことができ、このような式（４）で示す関数の最小値を求める処理が、ボルツマンマシンのパラメータを算出する処理に対応する。ここで、ボルツマンマシンのエネルギー関数は、以下の式（８）で示すことができ、式（８）で示すエネルギー関数の最小値を求める処理も、ボルツマンマシンのパラメータを算出する処理に対応する。なお、式（８）に示すＸは、ボルツマンマシンの状態であり、θは、真のモデル分布との誤差を最小とするためのパラメータである。
【００３４】
【数８】
2019036207.tif 000010
【００３５】
ここで、状態Ｘとパラメータθとの条件付き確率Ｐ（Ｘ｜θ）は、以下の式（９）で示すことができる。また、式（９）におけるＺ（θ）は、以下の式（１０）で示すことができる。
【００３６】
【数９】
2019036207.tif 000011
【００３７】
【数１０】
2019036207.tif 000012
【００３８】
最適化装置１０は、アドバーサリアルネットを量子ボルツマンマシンと見做し、量子ボルツマンマシンのパラメータを算出する処理を実行することで、アドバーサリアルネットが有するコンテンツ生成器と差分抽出器とのパラメータを算出する。例えば、正解データをｐｄａｔａ（ｘ）とし、コンテンツ生成器が生成したコンテンツをｐｇ（ｘ）とする。このような場合、アドバーサリアルネットの学習方針は、以下の式（１１）で示すことができる（例えば、非特許文献１参照）。ここで、式（１１）のＤは、差分抽出器に対応する関数であり、Ｇは、コンテンツ生成器に対応する関数である。
【００３９】
【数１１】
2019036207.tif 000013
【００４０】
すなわち、アドバーサリアルネットにおいては、差分抽出器が抽出する差分を最小化するようなコンテンツを生成するように、コンテンツ生成器の学習を行い、正解データとコンテンツ生成器が生成したコンテンツとの差分がより大きくなるように、差分抽出器の学習を行う。すなわち、アドバーサリアルネットにおいては、差分抽出器が抽出する差分を最小化するようなコンテンツを生成するように、コンテンツ生成器が有するパラメータを設定し、正解データとコンテンツ生成器が生成したコンテンツとの差分がより大きくなるように、差分抽出器が有するパラメータの設定を行う。
【００４１】
このようなアドバーサリアルネットの学習方針は、式（４）に示すＡ（ｔ）が、系のエネルギーを時間発展と共に増大させ、Ｂ（ｔ）が系のエネルギーを時間発展と共に減少させるというイジングモデルのハミルトニアンが有する時間発展の方針にマッピングすることができる。そこで、最適化装置１０は、アドバーサリアルネットを量子化されたボルツマンマシンと見做し、ハミルトニアンとして、量子化されたボルツマンマシンのハミルトニアンを設定する。より具体的には、最適化装置１０は、差分抽出器が出力する差分を最小化させるというコンテンツ生成器の学習方針を、ハミルトニアンの値を小さくする項の値を最小化させる方針と見做し、コンテンツ生成器が新たに生成したコンテンツと正解データとの差分を最大化する差分生成器の学習方針を、ハミルトニアンの値を最大化する方針と見做して、ハミルトニアンを設定する。
【００４２】
例えば、量子ボルツマンマシンのハミルトニアンのパラメータは、以下の式（１２）で示すことができる。なお、式（１２）のＨｚは、式（４）、（６）に示すＨ０に対応する。
【００４３】
【数１２】
2019036207.tif 000014
【００４４】
ここで、式（１２）のうち第２項は、系全体のエネルギーを最大化するように働く。そこで、最適化装置１０は、式（１３）に示すように、第２項の符号を反転させる。すなわち、最適化装置１０は、イジングモデルにおける最近傍の格子同士の相互作用を示す項の符号を反転させる。
【００４５】
【数１３】
2019036207.tif 000015
【００４６】
このような式（１３）の全体は、系全体のエネルギーを最大化するように働く。そこで、最適化装置１０は、差分抽出器の学習方針を式（１３）に示すハミルトニアン全体にマッピングする。また、式（１３）の第２項は、系のエネルギーを最小化するように働く。そこで、最適化装置１０は、コンテンツ生成器の学習方針を式（１３）の第２項にマッピングする。
【００４７】
このように学習方針をマッピングしたハミルトニアンを設定し、非特許文献２のような機械学習を想定した量子アニーリングの手法により系のエネルギーが最低となる基底状態へと、イジングモデルを導くことで、イジングモデルの各格子点は、アドバーサリアルネットの学習方針に応じた値へと収束する。すなわち、各格子点は、設定した学習方針を反映させたアドバーサリアルネットの各パラメータの値へと収束する。この結果、最適化装置１０は、アドバーサリアルネットの学習に要する計算コストを削減することができる。
【００４８】
〔３．処理の一例〕
次に、図１を用いて、最適化装置１０が実行する最適化処理の一例について説明する。まず、最適化装置１０は、アドバーサリアルネットＡＮの初期パラメータと正解データとを受付ける（ステップＳ１）。ここで、初期パラメータとは、コンテンツ生成器や差分抽出器のパラメータである。
【００４９】
このような場合、最適化装置１０は、コンテンツ生成器と差分抽出器との各パラメータを格子点にあてはめ、コンテンツ生成器と差分抽出器との学習方針に基づいて、格子モデルをハミルトニアンを設定する（ステップＳ２）。例えば、最適化装置１０は、正解データとコンテンツ生成器が生成したコンテンツとの差分を最大化するという差分抽出器の学習方針を、式（１３）の全体を最大化するという処理と見做し、差分抽出器が出力する差分を最小化させるというコンテンツ生成器の学習方針を、式（１３）の第２項を最小化するという処理と見做して、ハミルトニアンの設定を行う。
【００５０】
そして、最適化装置１０は、量子計算を用いて、最適解を検索する（ステップＳ３）。例えば、量子計算装置は、各量子ビットの値が一様な重ね合わせ状態から、生成したハミルトニアンが示すイジングモデルへと時間発展させ、非特許文献２のような機械学習用量子アニーリングを用いることで、各格子点にマッピングしたパラメータの値ω１１〜ωｊｊの値を示すパラメータリストを出力する（ステップＳ４）。
【００５１】
なお、最適化装置１０が生成したイジングモデルの基底状態を検索する処理は、上述した説明に限定されるものではない。例えば、量子計算においては、格子モデル等の断熱モデルと、任意の量子回路を用いた回路モデルとは等価である。このため、量子アニーリングを用いた量子計算は、連続的に量子ゲートを作用させる量子回路と等価であるため、最適化装置１０は、生成したハミルトニアンが示すイジングモデルを、量子ゲートを組み合わせた量子回路を再現する任意のハードウェアによって最適化すればよい。例えば、最適化装置１０は、核磁気共鳴、量子ドット、ジョセフソン素子、イオントラップ、光子等を用いて量子計算を行う量子計算装置を用いて、生成したイジングモデルの基底状態を検索すればよい。
【００５２】
〔４．最適化装置の構成〕
次に、図２を用いて、実施形態に係る最適化装置１０の構成について説明する。図２は、実施形態に係る最適化装置が有する機能構成の一例を示す図である。図２に示すように、最適化装置１０は、入力装置２０および出力装置３０と接続されている。また、最適化装置１０は、取得部１１、生成部１２、量子計算装置１３、出力部１７を有する。また、量子計算装置１３は、状態再現部１４、操作部１５、観測部１６を有する。また、状態再現部１４は、複数の量子ビット１４ａ〜１４ｄを有する。
【００５３】
入力装置２０は、最適化装置１０に入力を行うための入力デバイスであり、例えば、ＨＤＤ（Hard  Disk  Drive）やフラッシュメモリ等の記録媒体からデータを読み出すことができる読出装置である。例えば、入力装置２０は、フラッシュメモリ等の記録媒体からアドバーサリアルネットＡＮのパラメータを読み出すと、アドバーサリアルネットＡＮの各パラメータを最適化装置１０に出力する。
【００５４】
出力装置３０は、例えば、モニタやプリンタ等によって実現され、最適化装置１０が最適化したアドバーサリアルネットのパラメータ、すなわち、コンテンツ生成器と差分抽出器との結合係数を示すパラメータリストを受信すると、受信したパラメータリストを表示若しくは印刷する出力装置である。
【００５５】
取得部１１は、アドバーサリアルネットＡＮの各パラメータを取得すると、各パラメータを生成部１２に出力する。
【００５６】
生成部１２は、アドバーサリアルネットＡＮの各パラメータを取得すると、所定の学習方針に従って、アドバーサリアルネットＡＮのパラメータの値を算出するための特性関数、すなわち、ハミルトニアンを生成する。より具体的には、生成部１２は、パラメータを格子モデルの格子点にあてはめる。また、生成部１２は、生成した情報と正解情報との差分が少なくなるように新たな情報を生成するコンテンツ生成器と、コンテンツ生成器が新たに生成した情報と正解情報との差分であって、コンテンツ生成器がさらに新たな情報を生成する際の指標となる差分を出力する差分抽出器とのパラメータの最適化を行うための特性関数を、アドバーサリアルネットＡＮの学習方針に基づいて設定する。
【００５７】
例えば、生成部１２は、コンテンツ生成器と差分抽出器との組を量子化されたボルツマンマシンと見做し、特性関数として、量子化されたボルツマンマシンのハミルトニアンを設定する。また、生成部１２は、差分抽出器が出力する差分を最小化させるコンテンツ生成器の学習方針を、特性関数の値を小さくする項の値を最小化させる方針と見做す。また、生成部１２は、コンテンツ生成器が新たに生成した情報と正解情報との差分を最大化する差分生成器の学習方針を、特性関数の値を最大化する方針と見做す。そして、生成部１２は、特性関数を設定する。より具体的には、生成部１２は、特性関数のうち最近傍の格子同士の相互作用を示す項の符号を反転させ、符号を反転させた項にコンテンツ生成器の学習方針をあてはめる。
【００５８】
そして、生成部１２は、イジングモデルの各格子と各パラメータとの対応と、特性関数とを量子計算装置１３に出力する。
【００５９】
量子計算装置１３は、量子計算を用いて、生成部１２が生成したイジングモデルの基底状態を検索する装置であり、いわゆる量子コンピュータである。例えば、量子計算装置１３は、複数の値を重ね合わせ状態で保持することができる複数の量子ビット１４ａ〜１４ｄを有し、各量子ビット１４ａ〜１４ｄを用いてイジングモデルの状態を再現可能な状態再現部１４を有する。
【００６０】
このような量子計算装置１３の操作部１５は、生成部１２が生成した特性関数を受付けると、状態再現部１４が有する各量子ビット１４ａ〜１４ｄと、各量子ビット１４ａ〜１４ｄ間の結合係数とを制御することにより、生成部１２から受付けた特性関数が示すイジングモデルの基底状態を量子的に算出する。すなわち、操作部１５は、非特許文献２のような機械学習用量子アニーリングを用いて、アドバーサリアルネットの各パラメータを算出するように、各量子ビット１４ａ〜１４ｄを制御する。そして、観測部１６は、十分に時間発展させた状態再現部１３の各量子ビット１４ａ〜１４ｄの値を観測する。すなわち、量子計算装置１３は、量子揺らぎを用いて特性関数の値が最小値となる格子モデルの基底状態を求め、特性関数の基底状態における格子点の値を算出する。
【００６１】
ここで、図３を用いて、量子計算装置１３が実行する処理の概念を説明する。図３は、実施形態にかかる量子計算装置が実行する処理の一例を説明するための図である。なお、図３に示す例では、特性関数、すなわちハミルトニアンの値を縦軸とし、各格子点の値の組み合わせを横軸とした上で、生成部１２が生成したハミルトニアンの値を、各格子点の値の組み合わせ毎に、実線で示した。
【００６２】
例えば、量子計算装置１３は、各量子ビット１４ａ〜１４ｄの値を取りうる値の重ね合わせ状態とする。この結果、量子計算装置１３は、図３中の点線丸印に示すように、イジングモデルにおける各格子点の値の全組み合わせを再現する。そして、量子計算装置１３は、図３中の点線矢印に示すように、各量子ビット１４ａ〜１４ｄの状態を、生成部１２が生成したハミルトニアンが示す状態へと時間発展させることで、格子点間の値の各組み合わせにおけるハミルトニアンの値を再現する。かかる処理は、各量子ビット１４ａ〜１４ｄを量子状態に保ったままで行われる。
【００６３】
ここで、ハミルトニアンの値が最小の値を取る状態は、系の中で最も安定した状態である。このため、量子状態を保ったままで十分に時間発展させた各量子ビット１４ａ〜１４ｄを観測した場合、図３に示すように、ハミルトニアンの値が最小の値となる状態ωが観測される可能性が高い。そこで、量子計算装置１３は、量子状態を保ったままで十分に時間発展させた各量子ビット１４ａ〜１４ｄの値を観測することで、ハミルトニアンの値が極小値に陥ることなく、最小となるイジングモデルの各格子点の値を特定する。
【００６４】
図２に戻り、説明を続ける。出力部１７は、観測部１６が観測した各量子ビット１４ａ〜１４ｄの値を受付けると、かかる値に基づいて、最適化されたパラメータを示すパラメータリストを出力装置３０に出力する。例えば、出力部１７は、各量子ビット１４ａ〜１４ｄの値を、各量子ビット１４ａ〜１４ｄと対応するイジングモデルの格子点の値とする。そして、出力部１７は、イジングモデルの各格子点からパラメータを逆マッピングすることで、最適化されたパラメータを取得し、取得したパラメータを含むパラメータリストを出力装置３０に出力する。
【００６５】
〔５．最適化装置が実行する処理の流れ〕
次に、図４を用いて、実施形態に係る最適化装置１０が実行する処理の流れについて説明する。図４は、実施形態に係る最適化装置が実行する処理の一例を説明するためのフローチャートである。まず、最適化装置１０は、アドバーサリアルネットのパラメータを受付ける（ステップＳ１０１）。続いて、最適化装置１０は、アドバーサリアルネットの各パラメータをイジングモデルの各格子点にマッピングし（ステップＳ１０２）、コンテンツ生成器の学習方針と差分抽出器の学習方針とに基づいて、ボルツマンマシンのハミルトニアンを設定する（ステップＳ１０３）。続いて、最適化装置１０は、設定したハミルトニアンを用いて、イジングモデルを基底状態へ時間発展させ（ステップＳ１０４）、基底状態を観測する（ステップＳ１０５）。そして、最適化装置１０は、観測結果を最適化結果、すなわち、最適化されたアドバーサリアルネットの各パラメータとの値を出力し（ステップＳ１０６）、処理を終了する。
【００６６】
〔６．変形例〕
上述した実施形態に係る最適化装置１０は、上記実施形態以外にも種々の異なる形態にて実施されてよい。そこで、以下では、上記の最適化装置１０の他の実施形態について説明する。
【００６７】
〔６−１．その他〕
ここで、最適化装置１０は、アドバーサリアルネットを実際に稼働させる際には使用させない経路を考慮した処理を行ってもよい。例えば、最適化装置１０は、ダミー経路を含むすべての接続経路に設定された結合係数をパラメータとして、最適なパラメータの組を量子計算により算出してもよい。
【００６８】
また、最適化装置１０は、畳み込みを考慮した処理を行ってもよい。例えば、最適化装置１０は、それぞれ異なるノード間での畳み込みが行われた結合係数の組についてもパラメータとして重ね合わせ状態にすればよい。すなわち、最適化装置１０は、畳み込みの態様ごとに、全ての接続経路に設定される結合係数の値の組み合わせを求め、全ての畳み込みの態様について、求められた全ての結合係数の組の組み合わせを重ね合わせ状態にしてもよい。
【００６９】
〔６−２．ハードウェア構成について〕
上述した最適化装置１０は、ハミルトニアンが示すイジングモデルの基底状態を検索する量子計算装置１３を有していた。しかしながら、実施形態は、これに限定されるものではない。例えば、最適化装置１０は、取得部１１、生成部１２、出力部１７のみを有し、外部に設置された量子計算装置１３に基底状態を検索させてもよい。
【００７０】
また、最適化装置１０が有する各機能構成のうち、取得部１１、生成部１２、出力部１７が発揮する処理は、ＡＳＩＣ（Application  Specific  Integrated  Circuit）、ＦＰＧＡ（Field  Programmable  Gate  Array）等の集積回路により実現されてもよい。また、取得部１１、生成部１２、出力部１７が発揮する処理は、例えば、ＣＰＵ（Central  Processing  Unit）やＭＰＵ（Micro  Processing  Unit）等のプロセッサによって、最適化装置１０内部の記憶装置に記憶されている最適化プログラムがＲＡＭ（Random  Access  Memory)を作業領域として実行されることにより実現されてもよい。
【００７１】
〔７．効果〕
このように、最適化装置１０は、前回生成した情報と正解データとの差分が少なくなるように新たな情報を生成するコンテンツ生成器と、コンテンツ生成器が新たに生成した情報と正解データとの差分であって、コンテンツ生成器がさらに新たな情報を生成する際の指標となる差分を出力する差分抽出器とのパラメータの最適化を行う。ここで、最適化装置１０は、パラメータを格子モデルの格子点にあてはめ、コンテンツ生成器と差分抽出器との学習方針に基づいて、格子モデルの特性関数を設定する。また、最適化装置１０は、量子揺らぎを用いて特性関数の値が最小値となる格子モデルの基底状態を求める量子計算装置に、生成された特性関数の基底状態における格子点の値を算出させる。そして、最適化装置１０は、格子点の値に対応するパラメータの値を出力する。
【００７２】
このように、最適化装置１０は、量子計算を用いて、アドバーサリアルネットが有するコンテンツ生成器や差分抽出器のパラメータを算出するので、アドバーサリアルネットの学習に要する計算リソースや計算時間を削減する結果、アドバーサリアルネットの最適化を容易にすることができる。
【００７３】
また、最適化装置１０は、コンテンツ生成器と差分抽出器との組を量子化されたボルツマンマシンと見做し、特性関数として、量子化されたボルツマンマシンのハミルトニアンを設定する。また、最適化装置１０は、差分抽出器が出力する差分を最小化させるコンテンツ生成器の学習方針を、特性関数の値を小さくする項の値を最小化させる方針と見做し、コンテンツ生成器が新たに生成した情報と正解データとの差分を最大化する差分コンテンツ生成器の学習方針を、特性関数の値を最大化する方針と見做して、特性関数を設定する。例えば、最適化装置１０は、特性関数のうち最近傍の格子同士の相互作用を示す項の符号を反転させ、符号を反転させた項にコンテンツ生成器の学習方針をあてはめる。
【００７４】
このような処理の結果、最適化装置１０は、アドバーサリアルネットの学習方針に応じてアドバーサリアルネットのパラメータを最適化するという処理と、イジングモデルにおいて、アドバーサリアルネットの学習方針に応じて、格子の値を最適化するという処理に落とし込むことができる。この結果、最適化装置１０は、アドバーサリアルネットの最適化を容易にすることができる。
【００７５】
以上、本願の実施形態のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
【００７６】
また、上記してきた「部（section、module、unit）」は、「手段」や「回路」などに読み替えることができる。例えば、生成部は、生成手段や生成回路に読み替えることができる。
【符号の説明】
【００７７】
１０  最適化装置
１１  取得部
１２  生成部
１３  量子計算装置
１４  状態再現部
１４ａ〜１４ｄ  量子ビット
１５  操作部
１６  観測部
１７  出力部
２０  入力装置
３０  出力装置
【図１】
2019036207.tif 000016
【図２】
2019036207.tif 000017
【図３】
2019036207.tif 000018
【図４】
2019036207.tif 000019