(57)【要約】【課題】オートエンコーダに入力される推定対象データが学習済みのデータであるか否かを精度良く判定し、かつ、判定に要する処理負荷や時間を低減する。【解決手段】ニューラルネットワークを使用して推定処理を行うオートエンコーダ計算部２０のエンコーダには、データの一部をドロップアウトさせるドロップアウト層と、ドロップアウト層から出力されたデータに対して重みの計算を行う全結合層との組み合わせからなる少なくとも１つの一体化層が最終層として設けられており、潜在空間での出力値として多次元確率変数ベクトルを出力する。エンコーダ出力分布形状計算部３０が、エンコーダが出力した潜在空間での出力値が従う確率分布を、多変量混合ガウス分布として解析的に計算し、分布特徴判定部６０が、解析的に計算された多変量混合ガウス分布の特徴に基づいて、入力データが学習済みデータであるか否かを判定する。【選択図】図５
2020047010.tif 000002
【特許請求の範囲】
【請求項１】
ニューラルネットワークを使用して推定処理を行う情報推定装置であって、
前記ニューラルネットワーク内における処理対象データの一部をドロップアウトさせるドロップアウト層と、前記ドロップアウト層から出力されたデータに対して重みの計算を行う全結合層との組み合わせからなる少なくとも１つの一体化層が最終層として設けられているエンコーダであって、前記エンコーダからの出力値である潜在空間での出力値として多次元確率変数ベクトルを出力するように構成されており、所定の学習データの特徴量を事前に学習した状態である、エンコーダと、
入力データに対して前記エンコーダが出力した前記潜在空間での出力値である多次元確率変数ベクトルが従う確率分布を、多変量混合ガウス分布として解析的に計算するエンコーダ出力分布形状計算部と、
前記エンコーダ出力分布形状計算部において解析的に計算された多変量混合ガウス分布の特徴に基づいて、前記入力データが前記所定の学習データの特徴量を有する学習済みデータであるか否かを判定する分布特徴判定部とを、
有する情報処理装置。
【請求項２】
前記分布特徴判定部において、前記多変量混合ガウス分布の特徴として、前記多変量混合ガウス分布の分布形状を用いるように構成されている請求項１に記載の情報処理装置。
【請求項３】
前記分布特徴判定部が、
前記多変量混合ガウス分布を構成するガウス分布のそれぞれの位置を特定する情報と楕円形状である前記ガウス分布のそれぞれの長軸方向を特定する情報とを用いて、前記潜在空間における原点と前記ガウス分布の位置とを結ぶ線と、前記ガウス分布の長軸方向とがなす角度の絶対値の平均値を計算し、
前記角度の絶対値の平均値が所定の閾値より小さい場合には、前記入力データが、前記学習済みデータであると判定し、前記角度の絶対値の平均値が所定の閾値以上の場合には、前記入力データが前記学習済みデータではないと判定するように構成されている請求項２に記載の情報処理装置。
【請求項４】
前記分布特徴判定部において、前記多変量混合ガウス分布の特徴として、前記潜在空間における前記多変量混合ガウス分布を構成するガウス分布のそれぞれの位置を用いるように構成されている請求項１に記載の情報処理装置。
【請求項５】
基準線との角度及び原点からの距離で定義される円座標で前記潜在空間が表され、前記多変量混合ガウス分布を構成するガウス分布のそれぞれの位置を特定する円座標の角度及び距離について、
前記分布特徴判定部が、
ガウス分布のそれぞれの位置を特定する円座標の角度の標準偏差を計算し、
ガウス分布のそれぞれの位置を特定する円座標の距離の平均値及び標準偏差を計算し、さらに、前記距離の標準偏差に対して、事前分布の微分関数に前記距離の平均値を代入した値を掛けた計算結果を補正された距離の標準偏差とし、
前記角度の標準偏差に第１の定数を掛けた値と、前記補正された距離の標準偏差に第２の定数を掛けた値との和を判定スコアとして、前記判定スコアが所定の閾値より小さい場合には、前記入力データが前記学習済みデータであると判定し、前記判定スコアが所定の閾値以上の場合には、前記入力データが前記学習済みデータではないと判定するように構成されている請求項４に記載の情報処理装置。
【請求項６】
基準線との角度及び原点からの距離で定義される円座標で前記潜在空間が表され、前記多変量混合ガウス分布を構成するガウス分布のそれぞれの位置を特定する円座標の角度及び距離について、
前記分布特徴判定部が、
ガウス分布のそれぞれの位置を特定する円座標の角度の標準偏差を計算し、
ガウス分布のそれぞれの位置を特定する円座標の距離を、ガウス分布とみなした事前分布のマハラノビス距離に変換して、前記マハラノビス距離の標準偏差を計算し、
前記角度の標準偏差に第１の定数を掛けた値と、前記マハラノビス距離の標準偏差に第２の定数を掛けた値との和を判定スコアとして、前記判定スコアが所定の閾値より小さい場合には、前記入力データが前記学習済みデータであると判定し、前記判定スコアが所定の閾値以上の場合には、前記入力データが前記学習済みデータではないと判定するように構成されている請求項４に記載の情報処理装置。
【請求項７】
前記潜在空間での出力値の次元数ｎzが３次元以上の場合には、ｎz次元に含まれる各次元を組み合わせたすべての２次元ペアを考え、
前記分布特徴判定部において、前記判定スコアとして、前記２次元ペアのそれぞれにおいて計算されたスコアの総和を用いるように構成されている請求項５又は６に記載の情報処理装置。
【請求項８】
ニューラルネットワークを使用して推定処理を行う情報推定方法であって、
前記ニューラルネットワーク内における処理対象データの一部をドロップアウトさせるドロップアウト層と、前記ドロップアウト層から出力されたデータに対して重みの計算を行う全結合層との組み合わせからなる少なくとも１つの一体化層が最終層として設けられているエンコーダであって、前記エンコーダからの出力値である潜在空間での出力値として多次元確率変数ベクトルを出力するように構成されているエンコーダにおいて、所定の学習データの特徴量を学習させる学習ステップと、
入力データに対して前記エンコーダが出力した前記潜在空間での出力値である多次元確率変数ベクトルが従う確率分布を、多変量混合ガウス分布として解析的に計算するエンコーダ出力分布形状計算ステップと、
前記エンコーダ出力分布形状計算ステップにおいて解析的に計算された多変量混合ガウス分布の特徴に基づいて、前記入力データが、前記所定の学習データの特徴量を有する学習済みデータであるか否かを判定する分布特徴判定ステップとを、
有する情報処理方法。
【請求項９】
前記分布特徴判定ステップにおいて、前記多変量混合ガウス分布の特徴として前記多変量混合ガウス分布の分布形状を用いる請求項８に記載の情報処理方法。
【請求項１０】
前記分布特徴判定ステップが、
前記多変量混合ガウス分布を構成するガウス分布のそれぞれの位置を特定する情報と楕円形状である前記ガウス分布のそれぞれの長軸方向を特定する情報とを用いて、前記潜在空間における原点と前記ガウス分布の位置とを結ぶ線と、前記ガウス分布の長軸方向とがなす角度の絶対値の平均値を計算するステップと、
前記角度の絶対値の平均値が所定の閾値より小さい場合には、前記入力データが前記学習済みデータであると判定し、前記角度の絶対値の平均値が所定の閾値以上の場合には、前記入力データが前記学習済みデータではないと判定するステップとを有する請求項９に記載の情報処理方法。
【請求項１１】
前記分布特徴判定ステップにおいて、前記多変量混合ガウス分布の特徴として、前記潜在空間における前記多変量混合ガウス分布を構成するガウス分布のそれぞれの位置を用いる請求項８に記載の情報処理方法。
【請求項１２】
基準線との角度及び原点からの距離で定義される円座標で前記潜在空間が表され、前記多変量混合ガウス分布を構成するガウス分布のそれぞれの位置を特定する円座標の角度及び距離について、
前記分布特徴判定ステップが、
ガウス分布のそれぞれの位置を特定する円座標の角度の標準偏差を計算するステップと、
ガウス分布のそれぞれの位置を特定する円座標の距離の平均値及び標準偏差を計算し、さらに、前記距離の標準偏差に対して、事前分布の微分関数に前記距離の平均値を代入した値を掛けた計算結果を補正された距離の標準偏差とするステップと、
前記角度の標準偏差に第１の定数を掛けた値と、前記補正された距離の標準偏差に第２の定数を掛けた値との和を判定スコアとして、前記判定スコアが所定の閾値より小さい場合には、前記入力データが前記所定の学習済みデータであると判定し、前記判定スコアが所定の閾値以上の場合には、前記入力データが前記学習済みデータではないと判定するステップとを有する請求項１１に記載の情報処理方法。
【請求項１３】
基準線との角度及び原点からの距離で定義される円座標で前記潜在空間が表され、前記多変量混合ガウス分布を構成するガウス分布のそれぞれの位置を特定する円座標の角度及び距離について、
前記分布特徴判定ステップが、
ガウス分布のそれぞれの位置を特定する円座標の角度の標準偏差を計算するステップと、
ガウス分布のそれぞれの位置を特定する円座標の距離を、ガウス分布とみなした事前分布のマハラノビス距離に変換して、前記マハラノビス距離の標準偏差を計算するステップと、
前記角度の標準偏差に第１の定数を掛けた値と、前記マハラノビス距離の標準偏差に第２の定数を掛けた値との和を判定スコアとして、前記判定スコアが所定の閾値より小さい場合には、前記入力データが前記学習済みデータであると判定し、前記判定スコアが所定の閾値以上の場合には、前記入力データが前記学習済みデータではないと判定するステップとを有する請求項１１に記載の情報処理方法。
【請求項１４】
前記潜在空間での出力値の次元数ｎzが３次元以上の場合には、ｎz次元に含まれる各次元を組み合わせたすべての２次元ペアを考え、
前記分布特徴判定ステップにおいて、前記判定スコアとして、前記２次元ペアのそれぞれにおいて計算されたスコアの総和を用いる請求項１２又は１３に記載の情報処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ニューラルネットワークを用いた推定処理を行う情報推定装置及び情報推定方法に関する。特に、本発明は、ドロップアウトを用いたエンコーダによる情報推定装置及び情報推定方法に関する。
【背景技術】
【０００２】
ニューラルネットワーク（ＮＮ： Neural Network）を用いた推定器は、他の推定器と比べ、画像やセンサー信号データなど、大量の情報を入力データとして処理し、推定を行うことができることから様々な分野への応用に期待されている。
【０００３】
ニューラルネットワークには、オートエンコーダ（Auto-encoder）と呼ばれるものが存在する。オートエンコーダはニューラルネットワークによる教師無し学習器であり、典型的には、オートエンコーダのニューラルネットワークの多層構造において、入力層で次元数を意味するニューロン数が多く、徐々に後続の層のニューロンの数が減っていき、中心部分の潜在空間を表す層で最も次元数が圧縮されニューロンの数が少なくなる。一方、中心部分の潜在空間を表す層以降では、逆にニューロンの数が増えていき、最後の出力層ではニューロンの数が入力層と同じになる構造を有している。すなわち、入力層の次元数と出力層の次元数は同一であり、中心部分の潜在空間を表す層の次元数は、入力層及び出力層の次元数よりも少なく設定される。なお、入力層から潜在空間を表す層までの前半部分はエンコーダと呼ばれ、潜在空間を表す層から出力層までの後半部分はデコーダと呼ばれる。
【０００４】
ラベルのない学習データ（ｎXin次元のベクトルデータＸ）を入力すると、まずエンコーダで、次元数を減らした潜在空間のデータ（ｎz次元のベクトルデータｚ：潜在変数とも呼ばれる）に圧縮される。潜在空間の中では、データｚは元データの類似度に応じて複数の塊に集まって存在する。さらに、その圧縮された空間のデータｚがデコーダを通り、入力Ｘを復元（Reconstruction）することができる。これが古典的なオートエンコーダであり、固定値である入力Ｘに基づいてオートエンコーダから出力される値は、入力Ｘと同様にある固定値に一意的に決まり、決定論的（Deterministic）である。
【０００５】
それに対し、確率的要素を含んだもの、すなわち、ある固定された入力Ｘに対して毎回計算ごとに出力値が変わる確率的な（Stochastic）オートエンコーダとして、非特許文献１には、バリエーショナルオートエンコーダ（Variational AutoEncoder、以降、ＶＡＥと略す）が提案されている。
【０００６】
図１９は、従来技術におけるＶＡＥの一例を模式的に示す図である。図１９に示すように、入力Ｘ（ｎXin次元のベクトル）は、ニューラルネットワークで構成されたエンコーダを通り、エンコーダから、ガウス分布の平均（ｎz次元）と分散値（ｎz次元）とが出力される。また、エンコーダの出力結果に基づいてある具体的なｚの値がサンプリングされて、ニューラルネットワークで構成されたデコーダに入力され、デコーダからｎXout次元のベクトルが出力される。なお、デコーダからの出力は、入力Ｘと同じとなるよう最適化され、入力と出力の次元数は同じ（ｎXin＝ｎXout）である。
【０００７】
また、オートエンコーダは、推定対象データに対して、「学習済みのデータ」か、見たこともない「未学習のデータ」かの判定を行うことができる。推定対象データが学習済みのデータの場合には、オートエンコーダ内のエンコーダで圧縮された後、デコーダを通って復元される出力データは、入力されたデータに“近い”ものとして復元される。したがって、ある推定対象データを入力データとしてエンコーダに入れた場合にデコーダから出力される出力データが、入力データをどれだけ復元できるか計算することで、推定対象データが学習済みのデータであるか否かを判定することができる。推定対象データが学習済みのデータであるか否かを判定する判定方法としては、例えば、推定対象データが画像の例では、出力された画像の各ピクセルの色調や輝度が、入力された画像のピクセルの色調や輝度と同じかどうかを平方根二乗誤差を用いて計算し、その計算結果を平均して類似度を計算する方法が挙げられる。上記の判定方法に類似した従来の試みは、例えば、下記の非特許文献２（特に、Figure 8(c),(d））に開示されている。
【先行技術文献】
【非特許文献】
【０００８】
【非特許文献１】“Auto-Encoding Variational Bayes”, Diederik P. Kingma, Max Welling：２０１３年１２月２０日（https://arxiv.org/abs/1312.6114から取得可能）
【非特許文献２】Christian Leibig, Vaneeda Allken, Murat Seckin Ayhan, Philipp Berens and Siegfried Wahl, "Leveraging uncertainty information from deep neural networks for disease detection", ２０１７年１０月１８日https://www.biorxiv.org/content/biorxiv/early/2017/10/18/084210.full.pdf
【発明の概要】
【発明が解決しようとする課題】
【０００９】
しかしながら、オートエンコーダへの入力データとオートエンコーダからの出力データとを比較することで類似度を計算する従来の手法を用いた場合、入力データ及び出力データの数が多く、類似度を判定する計算に時間がかかるという問題がある。特に、入力データが画像の場合には、入力データ及び出力データの数が多くなる。例えば、縦横３００ピクセルのＲＧＢデータの場合には、入力データとして入力されるデータ数は３００×３００×３個であり、同様に、出力データのデータ数も３００×３００×３個である。入力された画像と出力された画像との類似度を判定するためには、上記のようにデータ数の多い入力データと出力データとを比較する必要があり、さらに、画像の大きさ（ピクセル数）や色の数が多くなればなるほど、類似度を判定する計算により長い時間を要する。
【００１０】
上記の課題を解決するため、本発明は、オートエンコーダに入力される推定対象データが学習済みのデータであるか否かを精度良く判定し、かつ、判定に要する処理負荷や時間を低減することが可能な情報処置装置及び情報処理方法を提供することを目的とする。なお、本明細書では、「学習済みのデータ」とは、オートエンコーダが特徴量を学習している学習データと一致するデータ、若しくは、この学習データに近い（類似している）データを意味し、すなわち、この学習データの特徴量を有するデータを意味する。また、「未学習のデータ」とは、学習済みのデータと判定されなかったデータを意味する。
【課題を解決するための手段】
【００１１】
上記目的を達成するため、本発明によれば、ニューラルネットワークを使用して推定処理を行う情報推定装置であって、
前記ニューラルネットワーク内における処理対象データの一部をドロップアウトさせるドロップアウト層と、前記ドロップアウト層から出力されたデータに対して重みの計算を行う全結合層との組み合わせからなる少なくとも１つの一体化層が最終層として設けられているエンコーダであって、前記エンコーダからの出力値である潜在空間での出力値として多次元確率変数ベクトルを出力するように構成されており、所定の学習データの特徴量を事前に学習した状態である、エンコーダと、
入力データに対して前記エンコーダが出力した前記潜在空間での出力値である多次元確率変数ベクトルが従う確率分布を、多変量混合ガウス分布として解析的に計算するエンコーダ出力分布形状計算部と、
前記エンコーダ出力分布形状計算部において解析的に計算された多変量混合ガウス分布の特徴に基づいて、前記入力データが、前記所定の学習データの特徴量を有する学習済みデータであるか否かを判定する分布特徴判定部とを、
有する情報処理装置が提供される。
【００１２】
また、上記目的を達成するため、本発明によれば、ニューラルネットワークを使用して推定処理を行う情報推定方法であって、
前記ニューラルネットワーク内における処理対象データの一部をドロップアウトさせるドロップアウト層と、前記ドロップアウト層から出力されたデータに対して重みの計算を行う全結合層との組み合わせからなる少なくとも１つの一体化層が最終層として設けられているエンコーダであって、前記エンコーダからの出力値である潜在空間での出力値として多次元確率変数ベクトルを出力するように構成されているエンコーダにおいて、所定の学習データの特徴量を学習させる学習ステップと、
入力データに対して前記エンコーダが出力した前記潜在空間での出力値である多次元確率変数ベクトルが従う確率分布を、多変量混合ガウス分布として解析的に計算するエンコーダ出力分布形状計算ステップと、
前記エンコーダ出力分布形状計算ステップにおいて解析的に計算された多変量混合ガウス分布の特徴に基づいて、前記入力データが、前記所定の学習データの特徴量を有する学習済みデータか否かを判定する分布特徴判定ステップとを、
有する情報処理方法が提供される。
【発明の効果】
【００１３】
本発明は、推定対象データが学習済みのデータであるか、あるいは、未学習のデータであるかを精度良く判定でき、かつ、判定に要する処理負荷や時間を低減できるという効果を有する。また、本発明は、学習データの特徴量を正確にとらえた、より安心して利用できる信頼性の高い推定器を実現できるという効果を有する。
【図面の簡単な説明】
【００１４】
【図１】本発明の第１の実施の形態におけるオートエンコーダの第１の例を模式的に示す図である。
【図２】本発明の第１の実施の形態におけるオートエンコーダの第１の例に関して、ＤＦ層の詳細を示す図である。
【図３】本発明の第１の実施の形態におけるオートエンコーダの第２の例を示す図である。
【図４】本発明の第１の実施の形態におけるオートエンコーダの第２の例に関して、ＤＦ層の詳細を示す図である。
【図５】本発明の第１の実施の形態における情報推定装置の構成の一例を示すブロック図である。
【図６】本発明の第１の実施の形態に係る実験において、入力データがＭＮＩＳＴデータ（学習済みのデータ）である場合における潜在空間の分布の計算結果を示す図であり、図６（ａ）は、入力データがＭＮＩＳＴデータの数字「１」の画像における潜在空間の分布を示す図であり、図６（ｂ）は、入力データがＭＮＩＳＴデータの数字「５」の画像における潜在空間の分布を示す図であり、図６（ｃ）は、入力データがＭＮＩＳＴデータの数字「５」の別の画像における潜在空間の分布を示す図であり、図６（ｄ）は、入力データがＭＮＩＳＴデータの数字「０」の画像における潜在空間の分布を示す図である。
【図７】本発明の第１の実施の形態に係る実験において、入力データがＮｏｔＭＮＩＳＴデータ（未学習のデータ）である場合における潜在空間の分布の計算結果を示す図であり、図７（ａ）は、入力データがＮｏｔＭＮＩＳＴデータの文字「ｇ」の画像における潜在空間の分布を示す図であり、図７（ｂ）は、入力データがＮｏｔＭＮＩＳＴデータの文字「Ｅ」の画像における潜在空間の分布を示す図であり、図７（ｃ）は、入力データがＮｏｔＭＮＩＳＴデータの文字「Ｇ」の画像における潜在空間の分布を示す図であり、図７（ｄ）は、入力データがＮｏｔＭＮＩＳＴデータの文字「Ａ」の画像における潜在空間の分布を示す図である。
【図８】本発明の第１の実施の形態において、学習済みのデータを入力データとした場合における潜在空間の分布と事前分布とを模式的に示すイメージ図である。
【図９】本発明の第１の実施の形態に係る第１の手法に関して、ガウス分布の原点に対する向きを定量的に表すことを説明するための図である。
【図１０】本発明の第１の実施の形態に係る第１の手法で計算される平均角度の値を、ＭＮＩＳＴデータとＮｏｔＭＮＩＳＴデータに分けて行ったヒストグラムの図である。
【図１１】図１０に示すヒストグラムの分離状態を評価するためのリコール（再現率）と精度との関係を表す曲線を示す図である。
【図１２】本発明の第１の実施の形態に係る第１の手法における判定処理の一例を示すフローチャートである。
【図１３】本発明の第１の実施の形態に係る第１の手法では判定できない例を示す図であり、混合ガウス分布を構成する各ガウス分布がまとまっていない状態を示す図である。
【図１４】本発明の第２の実施の形態において、混合ガウス分布を構成する各ガウス分布の中心位置を円座標の角度で表した場合を説明するための図である。
【図１５】本発明の第２の実施の形態において、混合ガウス分布を構成する各ガウス分布の中心位置を円座標の原点からの距離で表した場合を説明するための図である。
【図１６】本発明の第２の実施の形態において、事前分布によって混合ガウス分布が存在する空間が歪められていることを説明するための図である。
【図１７】本発明の第２の実施の形態に係る第２の手法における判定処理の一例を示すフローチャートである。
【図１８】本発明の第２の実施の形態に係る第３の手法における判定処理の一例を示すフローチャートである。
【図１９】従来技術におけるＶＡＥの一例を模式的に示す図である。
【発明を実施するための形態】
【００１５】
以下、図面を参照しながら、本発明の第１及び第２の実施の形態について説明する。
【００１６】
＜第１の実施の形態＞
まず、本発明の第１の実施の形態について説明する。本発明の第１の実施の形態では、オートエンコーダの潜在空間での出力値ｚを、出力値ｚの分布を決定づけるパラメータとするのではなく、前述の古典的なオートエンコーダと同様に出力値ｚそのものであるようにし、かつ、出力値ｚを、古典的なオートエンコーダの場合のような決定論的なある値とするのではなく、ある確率分布からサンプリングされた確率変数とする。また、本発明の第１の実施の形態では、オートエンコーダにドロップアウト層を設ける。なお、通常、ドロップアウト層は過学習を防ぐための正則化に使用される。したがって、ニューラルネットワークの学習時にのみドロップアウトを機能させ、テスト時にはドロップアウトを機能させないことが一般的である。これに対して、本発明の第１の実施の形態では、学習時だけではなく、テスト時にもドロップアウトを機能させた状態で、推定結果が毎回変化する確率的なオートエンコーダが実現される。
【００１７】
具体的には、本発明の第１の実施の形態では、エンコーダを構成するニューラルネットワーク内にドロップアウト層を追加することで、固定値である入力データに対して、エンコーダから出力される値を確率変数に変換する。さらに、ドロップアウトによるベルヌーイ分布がニューラルネットワーク上でどのような形状で伝搬するかを解析的に計算することで、その確率変数の分布形状を計算する。なお、本発明の第１の実施の形態におけるオートエンコーダの技術的思想は本発明者によって想到されたものであり、本願出願時には非公開である特許出願（特願２０１８−２１９４３号）に係る明細書及び図面に記載されている。以下、このオートエンコーダの構成について、図１〜図４を参照しながら説明する。
【００１８】
図１は、本発明の第１の実施の形態におけるオートエンコーダの第１の例を模式的に示す図であり、図２は、本発明の第１の実施の形態におけるオートエンコーダの第１の例に関して、ＤＦ層の詳細を示す図である。また、図３は、本発明の第１の実施の形態におけるオートエンコーダの第２の例を示す図であり、図４は、本発明の第１の実施の形態におけるオートエンコーダの第２の例に関して、ＤＦ層の詳細を示す図である。なお、図１及び図２に示す例では、エンコーダにドロップアウト層が１つ設けられており、図３及び図４に示す例では、エンコーダにドロップアウト層が２つ設けられている。
【００１９】
本発明の第１の実施の形態におけるオートエンコーダでは、古典的なオートエンコーダのエンコーダに、入力データの一部を欠損させてランダム性を生むドロップアウト層と、重みの計算を行う全結合（Fully Connected：ＦＣ）層を設ける。これにより、オートエンコーダに入力された入力データは、ドロップアウト層を通ることで常に同じ値とはならず、オートエンコーダ毎回異なる値が出力される確率的なオートエンコーダが実現される。なお、このドロップアウト層とＦＣ層から出力される値の分布は解析的に計算することが可能である。本明細書では簡易表現のため、ドロップアウト層及びＦＣ層を組み合わせた一体化層をＤＦ層と呼び、ドロップアウト層における計算処理とＦＣ層における計算処理が一緒に行われるものとして説明する。
【００２０】
まず、エンコーダにドロップアウト層が１つ設けられた場合について説明する。図１には、エンコーダにドロップアウト層が１つ設けられた場合が図示されている。図１９に示す従来のＶＡＥでは、潜在空間での値の次元数はｚの確率分布のパラメータの数であったのに対し、図１に示すオートエンコーダでは、本発明の第１の実施の形態では、潜在空間での値の次元数はｚの次元数ｎzそのものとなる。
【００２１】
また、図２には、エンコーダにドロップアウト層が１つ設けられた場合におけるエンコーダのＤＦ１層が図示されている。なお、図２は、図１のエンコーダに含まれるドロップアウト層及びＦＣ層の部分を抜き出して図示したものである。図２のＤＦ１層への入力値ＸｉｎDF1は固定値であり、その出力ＸｏｕｔDF1はドロップアウト層によって変換された確率変数である。出力ＸｏｕｔDF1の確率分布は、例えば、以下の計算方法を用いて計算することができる。
【００２２】
ＤＦ１層への入力をＸｉｎDF1、出力をＸｏｕｔDF1とし、ＤＦ１層のドロップアウト層にあらかじめ設定されたドロップアウト率（データをランダムに欠損させる確率）をｐDropDF1とする。また、ＤＦ１層のＦＣ層にあらかじめ設定された重みをＷi,jDF1とし、バイアスをｂiDF1とする。ただし、添え字ｉ及びｊは、１≦ｉ≦ｎXoutDF1、１≦ｊ≦ｎXinDF1を満たす整数である。なお、明細書中の表記ｎXinDF1は、ｎの下付き添字がＸｉｎDF1であることを表し、明細書中の表記ｎXoutDF1は、ｎの下付き添字がＸｏｕｔDF1であることを表す。
【００２３】
ＤＦ１層への入力ＸｉｎDF1は固定値であり、定数からなるｎXinDF1次元のベクトルであって、以下のように表される。
【００２４】
【数１】
2020047010.tif 000003
【００２５】
一方、ＤＦ１層からの出力ＸｏｕｔDF1は、以下のように表される。
【００２６】
【数２】
2020047010.tif 000004
【００２７】
ＤＦ１層からの出力ＸｏｕｔDF1は、ｎXoutDF1次元のベクトルであり、このベクトルＸｏｕｔDF1のｉ番目の要素は以下のとおりである。
【００２８】
【数３】
2020047010.tif 000005
【００２９】
ここで、ドロップアウト層におけるドロップアウトにより、右辺のＷi,jDF1ＸｉｎDF1j項（１≦ｊ≦ｎXinDF1）が、確率ｐdropDF1でランダムに消える（ゼロとなる）。したがって、各項の和である左辺のＸｏｕｔDF1iは“サンプリング和”としてとらえて計算することができる。このことから、出力ＸｏｕｔDF1は確率変数であり、例えば、以下のようなｎXoutDF1次元の多変量ガウス分布に従う確率変数であるとする。
【００３０】
【数４】
2020047010.tif 000006
【００３１】
ただし、μoutDF1は、平均値を示すｎXoutDF1次元のベクトル、ΣoutDF1は、ｎXoutDF1×ｎXoutDF1の分散共分散行列である。平均値μoutDF1及び分散共分散行列ΣoutDF1は、以下の式から得られる。
【００３２】
【数５】
2020047010.tif 000007
【００３３】
【数６】
2020047010.tif 000008
【００３４】
【数７】
2020047010.tif 000009
【００３５】
【数８】
2020047010.tif 000010
【００３６】
図２のＤＦ１層からの出力は、図１のオートエンコーダのエンコーダからの出力であり、エンコーダから出力される潜在空間における値ｚの確率分布ｑφ（ｚ｜ｘ）に対応している。これより表記について、ＸｏｕｔDF1をｚに、μoutDF1をμzに、ΣoutDF1をΣzに、ｎXinDF1をｎhに、ｎXoutDF1をｎzにそれぞれ置き換えることができ、エンコーダから出力される潜在空間における値ｚは、以下の多変量ガウス分布として表される。
【００３７】
【数９】
2020047010.tif 000011
【００３８】
ただし、μzはｎz次元のベクトル、Σzはｎz×ｎzの分散共分散行列である。
【００３９】
次に、エンコーダにドロップアウト層が２つ設けられた場合について説明する。図３には、より複雑な場合として、エンコーダにドロップアウト層が２つ設けられた場合が図示されている。また、図４には、エンコーダにドロップアウト層が２つ設けられた場合におけるエンコーダのＤＦ１層、ＲｅＬｕ（Rectified Linear Unit）層、ＤＦ２層が図示されている。なお、図４は、図３のエンコーダに含まれる２つのドロップアウト層及びＦＣ層と、これらの間に挟まれたＲｅＬｕ層の部分を抜き出して図示したものである。以下、ＤＦ層が２つ存在する場合の計算方法について説明する。
【００４０】
図４の場合、ＲｅＬｕ層を挟んで、２つのＤＦ層、すなわちＤＦ１層及びＤＦ２層が設けられている。１つ目のＤＦ１層への入力、出力は上述のとおりである。また、ＤＦ１層とＤＦ２層の間にあるＲｅＬｕ層などの非線形関数の計算方法としては、例えば、特許文献１に挙げたような多変量ガウス近似として計算する方法や、単純に、ガウス関数が負の領域にあるか正の領域にあるかの判断で近似して計算する方法などが使用可能であるが、本発明はこれらの計算方法に限定されるものではない。
【００４１】
以下、２つ目のＤＦ２層への入力、出力について説明する。ＤＦ２層への入力をＸｉｎDF2、出力をＸｏｕｔDF2とし、ＤＦ２層のドロップアウト率をｐDropDF2とする。また、ＤＦ２層のＦＣ層の重みをＷi,jDF2とし、バイアスをｂiDF2とする。ただし、添え字ｉ及びｊは、１≦ｉ≦ｎXoutDF2、１≦ｊ≦ｎXinDF2を満たす整数である。なお、明細書中の表記ｎXinDF2は、ｎの下付き添字がＸｉｎDF2であることを表し、明細書中の表記ｎXoutDF2は、ｎの下付き添字がＸｏｕｔDF2であることを表す。
【００４２】
ＤＦ２層への入力ＸｉｎDF2、出力ＸｏｕｔDF2は両方とも、多変量ガウス分布に従う確率変数となり、以下のように表される。
【００４３】
【数１０】
2020047010.tif 000012
【００４４】
ただし、μinDF2はｎXinDF2次元のベクトル、ΣinDF2はｎXinDF2×ｎXinDF2の分散共分散行列であり、μoutDF2はｎXoutDF2次元のベクトル、ΣoutDF2はｎXoutDF2×ｎXoutDF2の分散共分散行列である。
【００４５】
平均値に関しては、以下のように計算できる。
【００４６】
【数１１】
2020047010.tif 000013
【００４７】
また、分散共分散行列に関しては、以下のように計算できる。
【００４８】
【数１２】
2020047010.tif 000014
【００４９】
【数１３】
2020047010.tif 000015
【００５０】
【数１４】
2020047010.tif 000016
【００５１】
【数１５】
2020047010.tif 000017
【００５２】
上記の右辺の第１項に関しては、以下のように計算できる。
【００５３】
【数１６】
2020047010.tif 000018
【００５４】
【数１７】
2020047010.tif 000019
【００５５】
図４のＤＦ２層からの出力は、図３のオートエンコーダのエンコーダからの出力であり、エンコーダから出力される潜在空間における値ｚの確率分布ｑφ（ｚ｜ｘ）に対応している。したがって、ドロップアウト層が１つ存在する場合と同様に、表記について、ＸｏｕｔDF2をｚに、μoutDF2をμzに、ΣoutDF2をΣzに、ｎXinDF2をｎhに、ｎXoutDF2をｎzにそれぞれ置き換えることができ、エンコーダから出力される潜在空間における値ｚは、以下の多変量ガウス分布として表される。
【００５６】
【数１８】
2020047010.tif 000020
【００５７】
なお、ここでは、ドロップアウト層が２つ存在する場合について説明しているが、ドロップアウト層が３つ以上存在していてもよい。例えば、ＤＦ２層からの出力値が更なるドロップアウト層（３つ目のドロップアウト層）に入力されてもよく、この場合も、上述したＤＦ２層における計算方法と同様の計算方法によって、更なるドロップアウト層からの出力値を求めることができる。
【００５８】
以上のように、本発明の第１の実施の形態では、固定値である入力データをドロップアウトによって確率変数に変換して確率分布を生じさせ、解析計算方法により、その確率分布を計算する。また、この計算結果を、従来技術におけるＶＡＥと同様に、正則化の条件に使用する。すなわち、下記の式で表される確率分布ｑφ（ｚ｜ｘ）が、下記の式で表される事前分布ｐθ（ｚ）とあまりに異ならないよう、同じ形状に留めるための条件を課す。
【００５９】
【数１９】
2020047010.tif 000021
【００６０】
例えば、上記の確率分布ｑφ（ｚ｜ｘ）と事前分布ｐθ（ｚ）とが同じ形状に留まっているかを判定するため、下記の式を利用する。
【００６１】
【数２０】
2020047010.tif 000022
【００６２】
上式のＤKLは、多変量ガウス分布のＫＬダイバージェンス（KL Divergence）を意味し、２つの関数がどれだけ近いか、距離を表す０以上の値を返す関数である。このＫＬダイバージェンスを使って、２つの多変量ガウス分布の距離を最小にするようなコスト関数を設定する。
【００６３】
本発明の第１の実施の形態のオートエンコーダにおける計算方法は、非特許文献１に開示されている従来技術の計算方法と比較すると、共分散の値を計算している点で大きく異なっている。すなわち、非特許文献１では共分散の値を求めておらず、共分散の値をゼロの値としており、あるいは、共分散の値を求めるためにはさらにニューロンの数を増やす必要があったのに対し、本発明の第１の実施の形態では、エンコーダのより少ないニューロンの数でありながら、上述した解析計算によって共分散の値の計算も行っている。
【００６４】
また、本発明の第１の実施の形態における計算方法によれば、オートエンコーダの出力が入力データを再現できるかという条件の判定について、従来技術に係るＶＡＥの判定より簡単に行うことができる。従来技術によれば、エンコーダの出力値はｚの確率分布のパラメータであるため、例えばデコーダに入力するための値を得るためには、さらにその確率分布を作って、ｚの値をサンプリングしなければならない。一方、本発明の第１の実施の形態では、エンコーダの出力そのものが、ｚの値であり、すなわち、エンコーダの出力値をそのままデコーダの入力値として使用することができる。
【００６５】
また、本発明の第１の実施の形態では、ドロップアウト率は、エンコーダから出力される出力値ｚの確率分布を表現するために使用されることから、例えばドロップアウト層が１つの場合は、ドロップアウト率は相対的に大きい値（例えば、０．６以上の値）とすることが望ましい。
【００６６】
次に、本発明の第１の実施の形態における処理を実行することが可能な情報推定装置について説明する。図５は、本発明の第１の実施の形態における情報推定装置の構成の一例を示すブロック図である。図５に示す情報推定装置１０は、ニューラルネットワークを用いて推定処理を行う推定器であり、オートエンコーダ計算部２０、エンコーダ出力分布形状計算部３０、コスト関数計算部４０、パラメータ最適化計算部５０、分布特徴判定部６０を有する。
【００６７】
図５に示すブロック図は、本発明に関連した機能を表しているにすぎず、実際の実装では、ハードウェア、ソフトウェア、ファームウェア、又はそれらの任意の組み合わせによって実現されてもよい。ソフトウェアで実装される機能は、１つ又は複数の命令若しくはコードとして任意のコンピュータ可読媒体に記憶され、これらの命令又はコードは、ＣＰＵ（Central Processing Unit：中央処理ユニット）やＧＰＵ（Graphics Processing Unit：グラフィックスプロセッシングユニット）などのハードウェアベースの処理ユニットによって実行可能である。また、本発明に関連した機能は、ＩＣ（Integrated Circuit：集積回路）やＩＣチップセットなどを含む様々なデバイスによって実現されてもよい。
【００６８】
オートエンコーダ計算部２０は、ニューラルネットワークにより構成されたエンコーダ及びデコーダを含むオートエンコーダを有し、入力Ｘについてエンコーダ及びデコーダで計算処理を行って、出力Ｘを出力する機能を有する。オートエンコーダ計算部２０における計算に用いられるオートエンコーダは、図１〜図４を参照しながら説明したように、１つ又は２つ以上のドロップアウト層がエンコーダ内に設けられており、ドロップアウト層においてデータの一部がランダムに欠損される。これにより、オートエンコーダのエンコーダからの出力（潜在空間における出力）の値ｚを確率変数とすることができる。
【００６９】
エンコーダ出力分布形状計算部３０は、入力Ｘがエンコーダでドロップアウトによってどのような確率分布の形状になったかを解析的に計算する機能を有する。エンコーダ出力分布形状計算部３０は、例えば、入力Ｘ、ドロップアウト層におけるドロップアウト率、パラメータ（例えば、ＦＣ層における重み及びバイアス）から、潜在空間における出力値ｚの分布形状を計算することができる。
【００７０】
コスト関数計算部４０は、ドロップアウトによるエンコーダ出力分布形状計算部３０で計算された分布形状（潜在空間における出力値ｚの分布形状）から正則化の条件を満たすか計算し、さらに、オートエンコーダ計算部２０によって算出されて出力される出力Ｘが入力Ｘとどれだけ似ているかを計算することで、これら２つの計算結果を合わせた全体のコスト関数の値を計算する機能を有する。
【００７１】
パラメータ最適化計算部５０は、コスト関数計算部４０で計算されたコスト関数の値が最適化されるように、オートエンコーダ計算部２０で参照した重み及びバイアスをどの値に最適化するのかを計算する機能を有する。パラメータ最適化計算部５０は、コスト関数の値が最小になるようパラメータ（重み及びバイアス）を計算し、この計算の結果得られたパラメータはオートエンコーダ計算部２０に供給されて、オートエンコーダのパラメータが更新される。
【００７２】
上記の構成では、学習フェーズにおいて、大量の学習データに対して繰返し最適化が行われることで、オートエンコーダから最適解が得られるように最適化が行われる。学習フェーズでは、学習データがオートエンコーダに入力されると、オートエンコーダ計算部２０は、オートエンコーダのエンコーダにおいて潜在空間での値ｚを計算する。また、エンコーダ出力分布形状計算部３０は、ドロップアウト率、入力Ｘ、パラメータ（重み、バイアス）から、潜在空間での値ｚの分布形状を計算して、コスト関数計算部４０に供給する。オートエンコーダ計算部２０は、さらに、潜在空間での値ｚを用いて、オートエンコーダのデコーダの出力Ｘを計算して、コスト関数計算部４０に供給する。コスト関数計算部４０は、潜在空間での値ｚの分布形状に係る情報に基づいて正則化の条件を満たすかを計算し、さらに、出力Ｘが入力Ｘとどれだけ似ているかを計算して、これらの２つの計算結果を合わせた全体のコスト関数の値を計算する。そして、パラメータ最適化計算部５０は、コスト関数計算部４０で計算されたコスト関数の値が最小になるようパラメータ（重み及びバイアス）を計算し、この計算結果に基づいて、オートエンコーダ計算部２０におけるオートエンコーダのパラメータが更新される。上記一連の処理を、大量の学習データについて繰り返し実行することで、オートエンコーダの学習が行われる。
【００７３】
本発明の第１の実施の形態における情報処理装置１０は、上記の構成に加えて、本発明に特徴的な分布特徴判定部６０を更に有する。分布特徴判定部６０は、エンコーダ出力分布形状計算部３０において解析的に計算された確率分布の形状（すなわち、潜在空間における出力値ｚが従う確率分布の形状）に基づき、入力データが学習済みのデータであるか、あるいは、未学習のデータであるかを判定する機能を有する。具体的には、分布特徴判定部６０は、潜在空間における出力値ｚが従う確率分布が、入力データが学習済みのデータである場合に特徴的な形状を有しているか否かを判定する機能を有する。
【００７４】
なお、分布特徴判定部６０は、オートエンコーダの前半部であるエンコーダからの出力値（すなわち、潜在空間における出力値ｚ）がエンコーダ出力分布形状計算部３０によって解析的に計算された確率分布の形状に基づいて、入力データが学習済みのデータであるか、未学習のデータであるかを判定する。したがって、オートエンコーダにおいて学習を行う際（学習フェーズ）にはエンコーダ及びデコーダにおける計算処理を必要とするものの、一方、分布特徴判定部６０において判定を行う際には、オートエンコーダの前半部であるエンコーダにおける計算のみを行い、オートエンコーダの後半部であるデコーダでの計算（例えば、入力データが画像である場合には、潜在変数ｚを基にした画像の復元）を行う必要はない。
【００７５】
以下、具体的に、学習済みの画像データ（正確には、学習済みの特徴を有する画像データ）がオートエンコーダに入力された場合に、潜在空間での出力値ｚが従う確率分布の形状に見られる独特な特徴について説明する。
【００７６】
ここで、オートエンコーダへのデータを入力ｘとし、ニューラルネットワークの学習すべき重みやバイアスのパラメータをパラメータθとし、潜在空間での値を出力値ｚとすると、潜在空間の分布はｚ〜ｐθ（ｚ｜ｘ）と表記される。潜在空間の分布ｐθ（ｚ｜ｘ）の形状は、入力ｘ、ネットワークのパラメータθ、ドロップアウト率（例えば０．６とする）を使って、エンコーダ出力分布形状計算部３０により解析的に計算可能であり、ｎz次元の多変量混合ガウス分布として表される。
【００７７】
以下、潜在空間の次元数ｎz＝２として実際に計算を行った実験結果について述べる。この実験では、実際にコンピュータを用いて、上述した図５に示す情報処理装置１０を構築し、また、入力データとしては、本発明に係る技術分野で利用されているＭＮＩＳＴデータ（０〜９の手書き数字の画像セット）と、ＮｏｔＭＮＩＳＴデータ（手書き数字以外の記号やアルファベットの画像セット）を使用している。
【００７８】
この実験では、まず、学習フェーズとして、図５に示す情報処理装置１０の一部の機能（具体的には、オートエンコーダ計算部２０、エンコーダ出力分布形状計算部３０、コスト関数計算部４０、パラメータ最適化計算部５０の各機能）によって、ＭＮＩＳＴデータのみを学習データとして用いてオートエンコーダに学習を行わせる。次に、オートエンコーダの学習が完了した状態で、テストフェーズを実行する。テストフェーズでは、図５に示す情報処理装置１０の一部の機能（具体的には、オートエンコーダ計算部２０のエンコーダ、エンコーダ出力分布形状計算部３０、分布特徴判定部６０の各機能）が用いられる。テストフェーズにおいては、ＭＮＩＳＴデータ又はＮｏｔＭＮＩＳＴデータをオートエンコーダ計算部２０に入力してエンコーダで計算を行わせ、エンコーダからの出力値（潜在空間での出力値）に基づいて、その出力値が従う確率分布の形状をエンコーダ出力分布形状計算部３０に計算させる。そして、エンコーダ出力分布形状計算部３０の計算結果である確率分布の形状に基づく判定を分布特徴判定部６０に行わせ、入力データがＭＮＩＳＴデータの場合には、事前に特徴量を学習している特徴学習済みデータ（学習済みのデータ）と判定し、入力データがＮｏｔＭＮＩＳＴデータの場合には、事前に学習している特徴量が見当たらないデータ（未学習のデータ）であると判定することができるかを評価している。
【００７９】
図６（ａ）〜（ｄ）に、入力データがＭＮＩＳＴデータ（学習済みのデータ）である場合における潜在空間の分布ｐθ（ｚ｜ｘ）の計算結果を示す。図６（ａ）は、入力データがＭＮＩＳＴデータの数字「１」の画像における潜在空間の分布を示す図であり、図６（ｂ）は、入力データがＭＮＩＳＴデータの数字「５」の画像における潜在空間の分布を示す図であり、図６（ｃ）は、入力データがＭＮＩＳＴデータの数字「５」の別の画像における潜在空間の分布を示す図であり、図６（ｄ）は、入力データがＭＮＩＳＴデータの数字「０」の画像における潜在空間の分布を示す図である。
【００８０】
また、図７（ａ）〜（ｄ）に、入力データがＮｏｔＭＮＩＳＴデータ（未学習のデータ）である場合における潜在空間の分布ｐθ（ｚ｜ｘ）の計算結果を示す。図７（ａ）は、入力データがＮｏｔＭＮＩＳＴデータの文字「ｇ」の画像における潜在空間の分布を示す図であり、図７（ｂ）は、入力データがＮｏｔＭＮＩＳＴデータの文字「Ｅ」の画像における潜在空間の分布を示す図であり、図７（ｃ）は、入力データがＮｏｔＭＮＩＳＴデータの文字「Ｇ」の画像における潜在空間の分布を示す図であり、図７（ｄ）は、入力データがＮｏｔＭＮＩＳＴデータの文字「Ａ」の画像における潜在空間の分布を示す図である。
【００８１】
図６（ａ）〜（ｄ）及び図７（ａ）〜（ｄ）には、１０００００回のモンテカルロ的な計算を行った結果を合成した場合の潜在空間の分布（２次元：うっすらと点群の雲で表記、１次元：ヒストグラム）と、解析的な計算を行った場合の潜在空間の分布（２次元：等高線、１次元：曲線）の分布が図示されている。なお、図面上では、２次元上の点群の雲で表されているモンテカルロ的な計算結果の分布は判別しにくいが、モンテカルロ的な計算結果に係る分布と、解析的な計算結果に係る分布とはほぼ一致しており、このことから、解析的な計算結果に係る分布が正しい分布であると判断できる。
【００８２】
なお、解析計算に係る潜在空間の分布は、２次元の混合ガウス分布であり、下記の式（１）のように、定数ｃk、ｎz次元の平均ベクトルμk、ｎz×ｎz次元の分散共分散行列Σkで表される。なお、下記の式（１）において、Ｍｉｘは混合ガウス分布の混合数であり、図６（ａ）〜（ｄ）及び図７（ａ）〜（ｄ）の例では、それぞれ１６個（Ｍｉｘ＝１６）のガウス分布が重なり合った混合ガウス分布が図示されている。
【００８３】
【数２１】
2020047010.tif 000023
【００８４】
入力データがＭＮＩＳＴデータ（学習済みのデータ）である場合の解析計算に係る潜在空間の分布（図６（ａ）〜（ｄ））は、明らかに、その分布形状に共通の特徴が見られる。具体的には、学習済みのデータの場合の分布形状は、Ｍｉｘ個のガウス分布が重なり合って１つのガウス分布となっており、かつ、そのガウス分布の楕円形状の長軸が原点の方向を向いている（原点から放射状に広がる）という共通の特徴を有している。Ｍｉｘ個のガウス分布が重なり合うことで構成される１つのガウス分布は、図６（ａ）では原点から左下の方向へ広がり、図６（ｂ）では原点から右上の方向へ広がり、図６（ｃ）では原点から右の方向へ広がり、図６（ｄ）では原点から上の方向へ広がっている。このように放射状に広がる理由は、学習を通して、分布が最適化するために課された条件によるものであると考えられる。その理論的な説明について、以下に述べる。
【００８５】
ドロップアウトを用いて学習させることは、非特許文献１においても指摘されているように、暗示的に変分法が適用されていると解釈できる。この解釈に基づくと、本発明の第１の実施の形態におけるオートエンコーダにおいては、下記の式（２）のような学習の最適化の目的関数Ｌ（θ；ｘ）が書ける。
【００８６】
【数２２】
2020047010.tif 000024
【００８７】
目的関数Ｌ（θ；ｘ）は変分法の最下限（Evidence Lower Bound）と呼ばれるもので、入力された学習データｘに対して目的関数Ｌ（θ；ｘ）の値を最大にするようなネットワークのパラメータθを求めることが最適化、すなわち学習するということになる。ｑθ（ｚ｜ｘ）が、ここで言う、入力データｘが与えられた場合の潜在変数ｚの確率分布ｐθ（ｚ｜ｘ）の近似解となる。つまり、最適化された後、ｑθ（ｚ｜ｘ）≒ｐθ（ｚ｜ｘ）が成り立つ。
【００８８】
上記の式（２）のＤKLは、前述のようにＫＬダイバージェンス（KL Divergence)を意味し、２つの関数がどれだけ近いか、距離を表す０以上の値を返す関数である。上記の式（２）は２つの項からなり、右辺第１項は正則項、右辺第２項は復元項とも呼ばれる。
【００８９】
右辺第２項の復元項は、例えば数字「１」、「２」の画像などのような各々異なる入力データに対して潜在空間における分布ｐθ（ｚ｜ｘ）も当然重なってはいけない、という意味を持っている。仮に、例えば数字「１」、「２」のような異なる数字に係る分布が潜在空間内で重なっている場合には、デコーダにおいて、重なった領域に存在する点から正確な数字を復元することはできない。したがって、復元項は、最適化において、個々の分布同士が重ならないようにする役割を果たし、復元項によっていわゆる“斥力”が働くとみなすことができる。
【００９０】
一方、右辺第１項の正則項は、入力データの潜在空間における分布ｐθ（ｚ｜ｘ）に対し、事前に決められたある事前分布ｐθ（ｚ）から大きく異なってはいけないという意味を持っている。すなわち、正則項は、分布ｐθ（ｚ｜ｘ）が事前分布ｐθ（ｚ）の範囲から遠く離れて広がることを防ぐ役割を果たし、正則項によって分布ｐθ（ｚ｜ｘ）と事前分布ｐθ（ｚ）との間にいわゆる“引力”が働くとみなすことができる。そのイメージを図８に示す。
【００９１】
図８では、図６（ａ）〜（ｄ）及び図７（ａ）〜（ｄ）に図示されている２次元の潜在空間での分布ｐθ（ｚ｜ｘ）が平面上に表されており、その分布の確率値が高さとして表されている。データｘ1、ｘ2、ｘ3の個々の分布ｑθ（ｚ｜ｘ1）、分布ｑθ（ｚ｜ｘ2）、分布ｑθ（ｚ｜ｘ3）は、前述した復元項による斥力が働いて、お互いが重ならず遠ざかるように最適化される一方、大きな事前分布ｐθ（ｚ）から離れずにできるだけ重なった状態にいなければいけないという引力でも最適化され、最終的にそれらの斥力と引力の２つの拘束条件のバランスが取れた定常状態で落ちつくと解釈できる。その結果、図６（ａ）〜（ｄ）に示すような、学習済みのＭＮＩＳＴデータが入力された場合における潜在空間の分布は、混合ガウス分布が他の混合ガウス分布とぶつからないようできるだけ小さくまとまり、かつ、事前分布にできるだけ重なり留まるよう、原点を中心として放射状に配置される。
【００９２】
一方、図７（ａ）〜（ｄ）に図示されているような学習された数字の特徴を持たない画像であるＮｏｔＭＮＩＳＴデータは未学習のデータであるため、上記のような拘束条件をまったく無視した分布として存在する。
【００９３】
本発明の第１の実施の形態では、学習済みのデータを入力データとした場合における潜在空間の分布にのみ見られる共通の形状的な特徴に着目し、ある入力データについての潜在空間の分布に関して、エンコーダ出力分布形状計算部３０において、その分布形状を混合ガウス分布として解析的に計算し、さらに、分布特徴判定部６０において、その形状の特徴を計算した計算結果を用いて、その入力データが学習済みのデータであるか否かの判定を行う。これにより、デコーダによる復元処理を行うことなく、エンコーダからの出力値（潜在空間での出力値）のみを用いて、入力データが学習済みのデータか否かを判定することが可能となる。
【００９４】
上述のように、学習済みのデータを入力データとした場合における潜在空間の分布にのみ見られる共通の形状的な特徴から判定を行うためには、当該共通の形状的な特徴を何らかの形で定量的に表す必要がある。例えば、定量的に表す最も単純な手法として、当該共通の形状的な特徴は「ガウス分布が原点を向いている」ことであると考え、以下に説明する手法（以下、第１の手法と記載する）を提案する。
【００９５】
第１の手法では、図９に示すように、ガウス分布の原点に対する向きを定量化する。例えば、混合ガウス分布を構成するＭｉｘ個のガウス分布ｍのそれぞれに関して、ガウス分布ｍの中心位置と楕円形状の長軸とを計算し、各ガウス分布の中心位置から原点までの線と、各ガウス分布の中心位置からの長軸の線との２つの線がなす角度αmの絶対値を計算する。なお、ガウス分布の中心位置と長軸の座標は、ガウス関数の平均と分散共分散行列から求めることができる。そして、下記の式のように、各ガウス分布から計算された角度αmの平均（平均角度）をとることで、潜在空間の分布が学習済みのデータに共通した形状的な特徴（ガウス分布が原点を向いているという特徴）を有するか否かを判断する。
【００９６】
【数２３】
2020047010.tif 000025
【００９７】
上記のように計算された平均角度は、ガウス分布が原点を向いているほど小さくなるはずであり、ガウス分布が原点を向いているほうが、すなわち平均角度が小さいほうが、入力データが学習済みのデータの特徴を有していると言える。なお、ここでは、各ガウス分布の位置を特定する情報として各ガウス分布の中心位置を用いているが、これに限定されるものではない。各ガウス分布の位置が特定できるのであれば、厳密に各ガウス分布の中心位置を用いなくてもよい。
【００９８】
以下、第１の手法が有効か否かを調べるための実験について述べる。この実験では、前述のようにＭＮＩＳＴデータのみで学習（バッチ数１００、イタレーション４０００回）させたオートエンコーダに、５００枚のＭＮＩＳＴデータの画像と５００枚のＮｏｔＭＮＩＳＴデータの画像の合計１０００枚の画像を入力データとして入力し、エンコーダ出力分布形状計算部３０において、それぞれの潜在空間での分布ｐθ（ｚ｜ｘ）を２次元混合ガウス分布として解析的に計算させている。そして、分布特徴判定部６０において、「ガウス分布が原点を向いている」か否かを表す指標となる平均角度を、入力データである１０００枚の画像のそれぞれにおける潜在空間の分布を計算させている。
【００９９】
この実験結果を視覚的に表すために、１０００個の平均角度の値をＭＮＩＳＴデータとＮｏｔＭＮＩＳＴデータとに分けてヒストグラムでプロットした結果を、図１０に示す。図１０に示されるように、ガウス分布の平均角度を指標として学習済みのデータか否かを判定する第１の手法によって、学習済みのデータ及び未学習のデータに係る潜在空間の分布形状を、２つに大きく分けることができた。図１０によれば、ＭＮＩＳＴデータから得られる平均角度はゼロ付近に多く現れている一方、ＮｏｔＭＮＩＳＴデータから得られる平均角度はゼロから離れた値に分散していることと判断できる。
【０１００】
さらに、図１０に示すＭＮＩＳＴデータ及びＮｏｔＭＮＩＳＴデータのヒストグラムから得られる、リコール（再現率）と精度との関係を表す曲線を、図１１に示す。図１１では、リコールと精度との関係を表す曲線が大きく右上の方向に突出しており、ＭＮＩＳＴデータとＮｏｔＭＮＩＳＴデータの分離が効率良くできていることを表している。以上のように、図１０及び図１１によって、入力データに関する潜在空間のガウス分布が原点を向いているか否かを判定基準とする手法が有効であることが示される。
【０１０１】
実際に潜在空間のガウス分布が原点を向いているか否かを判定基準とする手法を用いる際には、例えば、ユーザが図１１に示すようなリコールと精度のグラフを参照して、許容判定誤差を考慮しながら所望の閾値を指定することで、学習済みのデータと未学習のデータとを分離することができる。以下、図１２のフローチャートを参照しながら、本発明の第１の実施の形態における判定処理の一例について説明する。
【０１０２】
図１２に示す判定処理は、情報処理装置１０が学習フェーズを事前に実行し（ステップＳ１０１）、オートエンコーダがすでに学習済みの状態であることを前提としている。推定したいデータｘ（入力データｘ）がオートエンコーダに入力されると（ステップＳ１０２）、オートエンコーダ計算部２０は、オートエンコーダのエンコーダにおいて潜在空間での値ｚを計算する（ステップＳ１０３）。また、エンコーダ出力分布形状計算部３０は、潜在空間での値ｚの分布を、混合ガウス分布として解析的に計算する（ステップＳ１０４）。
【０１０３】
この計算結果を受けた分布特徴判定部６０は、混合ガウス分布を構成するガウス分布のそれぞれに関して、ガウス分布の中心位置と楕円形状の長軸とを計算し（ステップＳ１０５）、各ガウス分布の中心位置から原点までの線と、各ガウス分布の中心位置からの長軸の線との２つの線の角度αmの絶対値を計算する（ステップＳ１０６）。さらに、分布特徴判定部６０は、各ガウス分布から計算された角度αmの平均（平均角度）を計算する（ステップＳ１０７）。そして、この平均角度がユーザによって設定された閾値より小さいか否かを判断し（ステップＳ１０８）、平均角度が閾値より小さい場合には、入力されたデータｘは学習済みのデータであると判定し（ステップＳ１０９）、平均角度が閾値以上である場合には、入力されたデータｘは未学習のデータであると判定する（ステップＳ１１０）。
【０１０４】
以上、本発明の第１の実施の形態について、潜在空間が２次元の場合（ｎz＝２の場合）を一例に挙げて説明したが、潜在空間が３次元以上の場合に拡張することができる。例えば、潜在空間が３次元以上（ｎz≧３）の場合には、ｎz次元空間における各ガウス分布の平均角度を計算してもよい。
【０１０５】
＜第２の実施の形態＞
次に、本発明の第２の実施の形態について説明する。上述した第１の実施の形態に係る第１の手法では、混合ガウス分布を構成するガウス分布のそれぞれに関して、ガウス分布の中心位置と長軸とを計算している。しかしながら、例えば図７（ｄ）の例のように、ガウス分布がつぶれてほぼ点のような形状になっている場合、コンピュータの計算精度から共分散がゼロになってしまい、長軸の向きを求めることができないことがある。あるいは、図１３に示すように、混合ガウス分布を構成するガウス分布の長軸が原点を向いていても、それらが１つの混合ガウス分布としてコンパクトにまとまっていない場合がある。この場合、例えば、上記式（２）の復元項で表される他のガウス分布からの斥力が弱いため、単一の混合ガウス分布にコンパクトにまとまっていないと考えられる。これらの場合には、第１の実施の形態に係る第１の手法では、混合ガウス分布の形状の特徴を正確にとらえることができない。
【０１０６】
そこで、本発明の第２の実施の形態では、新たな手法として、「混合ガウス分布を構成する各ガウス分布の位置の広がり具合」を調べる手法を提案する。この手法によれば、例えば図７（ｄ）に示すように混合ガウス分布を構成する各ガウス分布の中心位置がつぶれて長軸が計算できない場合や、図１３に示すように各ガウス分布がまとまりなく分散してしまっている場合においても、判定処理を行えるようになる。以下、この手法について、図１４〜図１６を参照しながら説明する。なお、以下では、ガウス分布同士の中心位置の広がりを、デカルト座標（Cartesian座標）ではなく、角度と距離の２次元の円座標（２次元空間における極座標）で考える。
【０１０７】
混合ガウス分布を構成する各ガウス分布ｍの中心位置に係る角度は、２次元の円座標を用いた場合には、例えば図１４に示すように、各ガウス分布ｍの中心位置と原点とを結ぶ線分と、原点を通って水平に伸びるｘ軸の正方向の線分との間の角度βmで表すことができる。なお、図１４では、Ｍｉｘ個のガウス分布ｍのうち、ｍ＝１、ｍ＝２、ｍ＝Ｍで表されるガウス分布の中心位置に係る角度が示されている。
【０１０８】
下記の式で表されるように、各ガウス分布の角度βmの標準偏差を計算すれば、角度βmに関する位置の広がり（ばらつき、散らばり具合）を計算することができる。
【０１０９】
【数２４】
2020047010.tif 000026
【０１１０】
一方、混合ガウス分布を構成する各ガウス分布ｍの中心位置に係る距離は、２次元の円座標を用いた場合には、例えば図１５に示すように、各ガウス分布ｍの中心位置と原点との距離ｒmで表すことができる。なお、図１５では、Ｍｉｘ個のガウス分布ｍのうち、ｍ＝１、ｍ＝２、ｍ＝Ｍで表されるガウス分布の中心位置に係る距離が示されている。
【０１１１】
一方、各ガウス分布の距離ｒmに関しても、角度βmと同様に、下記の式（３）で表されるように標準偏差を計算したい。
【０１１２】
【数２５】
2020047010.tif 000027
【０１１３】
しかしながら、図８に示したように、ガウス分布の位置は事前分布の影響を大きく受けている。そのため、図１６に示すように、事前分布によって空間が歪んでいるととらえることができ、２点間の距離は、事前分布の歪んだ面上に沿った距離であると考えることができる。このように、ある２つのガウス分布（ｍ＝１、２）のそれぞれの中心位置間の距離は、事前分布の歪んだ面に沿った距離であると考えることができる。例えば事前分布がガウス分布のような楕円形状であれば、原点に近いほど中心位置間の実際の距離は遠くなる傾向にある。
【０１１４】
このように、ガウス分布の中心位置を円座標で表した場合、ガウス分布の中心位置に係る角度は事前分布の影響を受けないが、一方、ガウス分布の中心位置に係る距離は、事前分布の影響によって歪みがあると考えることができる。
【０１１５】
以下、ガウス分布の中心位置に係る距離の歪みを考慮しながら、ガウス分布の中心位置に係る距離を計算する２つの手法を提案する。
【０１１６】
１つ目の手法（以下、第２の手法と記載する）は、事前分布の微分関数を用いて距離の標準偏差を補正することで、事前分布の歪みの影響を取り込む手法である。なお、第２の手法は、事前分布の歪んだ面に沿った距離の計算は負担がかかることを考慮したものであり、下記の式で表されるように、事前分布ｐθ（ｚ）の距離ｒに関する１次微分ｆ（ｒ）を事前に求めておく。
【０１１７】
【数２６】
2020047010.tif 000028
【０１１８】
また、円座標における各ガウス分布ｍの中心位置と原点との距離ｒmをそのまま用いて、上式（３）のように、歪みを考慮しない距離ｒmの標準偏差値ＳＤrを計算する。また、下記の式で表される各ガウス分布の中心位置の平均値を求める。
【０１１９】
【数２７】
2020047010.tif 000029
【０１２０】
そして、各ガウス分布の中心位置の平均値に相当する位置における事前分布ｐθ（ｚ）の距離ｒに関する１次微分ｆ（ｒ）の値に、歪みを考慮しない距離ｒmの標準偏差値ＳＤrの値を掛けることで、下記の式のように、事前分布の歪みを考慮した、各ガウス分布の距離ｒmの標準偏差ＳＤrpriorを計算する。
【０１２１】
【数２８】
2020047010.tif 000030
【０１２２】
最終的に、入力データが学習済みのデータか否かを判定するためのスコア（Ｓｃｏｒｅ）として、下記の式のように、角度βmの標準偏差ＳＤβと距離βmの標準偏差ＳＤrpriorとの和を計算する。
【０１２３】
【数２９】
2020047010.tif 000031
【０１２４】
なお、上式のｃβ、ｃrはスコアの重みを変えるための定数であり、適切な値に設定可能である。上式で計算されるスコアが大きいほど、混合ガウス分布を構成する各ガウス分布が分散しており、入力されたデータは未学習のデータであると言える。上式で計算されるスコアに対する閾値を設定することで、スコアが閾値より小さい場合には、入力されたデータは学習済みのデータであると判定し、スコアが閾値以上の場合には、入力されたデータは未学習のデータであると判定することができる。
【０１２５】
本発明の第２の実施の形態に係る第２の手法における情報処理装置は、上述した第１の実施の形態における情報処理装置１０（図５に示す構成）とほぼ同じ構成を有しているが、分布特徴判定部６０の機能のみ異なっている。
【０１２６】
図１７に、本発明の第２の実施の形態に係る第２の手法における判定処理の一例を示す。第２の手法に係る判定処理は、情報処理装置１０が学習フェーズを事前に実行し（ステップＳ２０１）、オートエンコーダがすでに学習済みの状態であることを前提としている。推定したいデータｘ（入力データｘ）がオートエンコーダに入力されると（ステップＳ２０２）、オートエンコーダ計算部２０は、オートエンコーダのエンコーダにおいて潜在空間での値ｚを計算する（ステップＳ２０３）。また、エンコーダ出力分布形状計算部３０は、潜在空間での値ｚの分布を、混合ガウス分布として解析的に計算する（ステップＳ２０４）。
【０１２７】
この計算結果を受けた分布特徴判定部６０は、混合ガウス分布を構成するガウス分布のそれぞれに関して、各ガウス分布の中心位置を表す角度（円座標）の標準偏差を計算し（ステップＳ２０５）、各ガウス分布の中心位置を表す距離（円座標）の平均値及び標準偏差を計算し（ステップＳ２０６）、距離の標準偏差に対して、事前分布の微分関数に距離の平均値を代入した値を掛けた計算を行って、その計算結果を補正された距離の標準偏差とする（ステップＳ２０７）。
【０１２８】
さらに、分布特徴判定部６０は、角度の標準偏差に定数ｃβを掛けた値と、補正された距離の標準偏差に定数ｃrを掛けた値との和を計算する（ステップＳ２０８）。そして、この和がユーザによって設定された閾値より小さいか否かを判断し（ステップＳ２０９）、和が閾値より小さい場合には、入力されたデータｘは学習済みのデータであると判定し（ステップＳ２１０）、この和が閾値以上である場合には、入力されたデータｘは未学習のデータであると判定する（ステップＳ２１１）。
【０１２９】
次に、２つ目の手法（以下、第３の手法と記載する）について説明する。第３の手法は、事前分布のマハラノビス距離を利用して、事前分布の歪みの影響を取り込む手法である。
【０１３０】
事前分布ｐθ（ｚ）がガウス関数であるか、若しくはガウス関数であると近似できる場合には、原点から各ガウス分布の中心位置までの距離を、下記の式に示すように事前分布ｐθ（ｚ）のマハラノビス距離ｒmpriorで計算することができる。なお、Ｓpriorは事前分布ｐθ（ｚ）の分散共分散行列である。
【０１３１】
【数３０】
2020047010.tif 000032
【０１３２】
そして、下記の式に示すように、原点から各ガウス分布ｍの中心位置までのマハラノビス距離ｒmpriorの標準偏差を計算する。
【０１３３】
【数３１】
2020047010.tif 000033
【０１３４】
この後は、第２の手法と同様に、入力データが学習済みのデータか否かを判定するためのスコア（Ｓｃｏｒｅ）として、角度βmの標準偏差ＳＤβとマハラノビス距離βmの標準偏差ＳＤrpriorとの和（第１の手法と同様、適切な重みを設定してもよい）を計算することで、スコアの値に基づく判定を行うことができる。
【０１３５】
本発明の第２の実施の形態に係る第３の手法における情報処理装置は、上述した第１の実施の形態における情報処理装置１０（図５に示す構成）とほぼ同じ構成を有しているが、分布特徴判定部６０の機能のみ異なっている。
【０１３６】
図１８に、本発明の第２の実施の形態に係る第３の手法における判定処理の一例を示す。第３の手法に係る判定処理は、情報処理装置１０が学習フェーズを事前に実行し（ステップＳ３０１）、オートエンコーダがすでに学習済みの状態であることを前提としている。推定したいデータｘ（入力データｘ）がオートエンコーダに入力されると（ステップＳ３０２）、オートエンコーダ計算部２０は、オートエンコーダのエンコーダにおいて潜在空間での値ｚを計算する（ステップＳ３０３）。また、エンコーダ出力分布形状計算部３０は、潜在空間での値ｚの分布を、混合ガウス分布として解析的に計算する（ステップＳ３０４）。
【０１３７】
この計算結果を受けた分布特徴判定部６０は、混合ガウス分布を構成するガウス分布のそれぞれに関して、各ガウス分布の中心位置を表す角度（円座標）の標準偏差を計算し（ステップＳ３０５）、各ガウス分布の中心位置を表す距離（円座標）を、ガウス分布とみなした事前分布のマハラノビス距離に変換して（ステップＳ３０６）、マハラノビス距離の標準偏差を計算する（ステップＳ３０７）。
【０１３８】
さらに、分布特徴判定部６０は、角度の標準偏差に定数ｃβを掛けた値と、マハラノビス距離の標準偏差に定数ｃrを掛けた値との和を計算する（ステップＳ３０８）。そして、この和がユーザによって設定された閾値より小さいか否かを判断し（ステップＳ３０９）、和が閾値より小さい場合には、入力されたデータｘは学習済みのデータであると判定し（ステップＳ３１０）、この和が閾値以上である場合には、入力されたデータｘは未学習のデータであると判定する（ステップＳ３１１）。
【０１３９】
以上、本発明の第２の実施の形態について、潜在空間が２次元の場合（ｎz＝２の場合）を一例に挙げて説明したが、潜在空間が３次元以上の場合に拡張することができる。例えば、潜在空間が３次元以上（ｎz≧３）の場合には、ｎz次元に含まれる各次元のペア（考えられるすべての２次元ペア）を考え、各２次元ペアにおける２次元空間でのスコアを計算し、すべての２次元ペアにおけるスコアの総和をｎz次元全体のスコアとみなしてもよい。
【０１４０】
以上説明したように、本発明の第１及び第２の実施の形態では、入力データに対してエンコーダが出力した潜在空間での出力値（多次元確率変数ベクトル）が従う確率分布を、多変量混合ガウス分布として解析的に計算し、計算された多変量混合ガウス分布の特徴に基づいて、入力データが所定の学習データの特徴量を有する学習済みデータであるか否かを判定する。本発明の第１の実施の形態に係る第１の手法では、多変量混合ガウス分布の特徴として、多変量混合ガウス分布の分布形状（ガウス分布が原点を向いているという特徴）を用いる。一方、本発明の第２の実施の形態では、多変量混合ガウス分布の特徴として、潜在空間における多変量混合ガウス分布を構成するガウス分布のそれぞれの位置を用い、第２の手法では事前分布の歪んだ面の影響を受けたガウス分布の位置を用いる。
【０１４１】
また、以上説明したように、本発明の第１及び第２の実施の形態では、エンコーダの出力値である潜在空間での出力値ｚに基づいて、入力データ（推定対象データ）が学習済みのデータであるか、あるいは未学習のデータであるかを判定している。すなわち、このように判定結果が正しいか否かを確認することは、オートエンコーダ内部における値（潜在空間での出力値ｚ）が学習データの特徴量を正確にとらえたものであるか否かを確認することを意味している。このことから、判定結果が正しいと確認されたオートエンコーダは、学習データの特徴量を正確にとらえたものであり、より安心して利用できる信頼性の高いオートエンコーダであると言える。なお、例えば学習が不十分な状態のオートエンコーダは、学習データの特徴量を正確にとらえていないものの、正しく推定できているように見える適当な推定結果を出力する場合があるが、本発明に係る判定結果を確認すれば、このような状態を検出することが可能である。
【産業上の利用可能性】
【０１４２】
本発明は、ニューラルネットワークを使用した推定技術に適用可能である。本発明によれば、オートエンコーダに入力される推定対象データが、推定対象データが学習済みのデータであるか否かを精度良く判定し、かつ、判定に要する処理負荷や時間を低減することが可能である。また、本発明によれば、より安心して利用できる信頼性の高いオートエンコーダを実現することが可能である。
【符号の説明】
【０１４３】
１０  情報推定装置
２０  オートエンコーダ計算部
３０  エンコーダ出力分布形状計算部
４０  コスト関数計算部
５０  パラメータ最適化計算部
６０  分布特徴判定部
【図１】
2020047010.tif 000034
【図２】
2020047010.tif 000035
【図３】
2020047010.tif 000036
【図４】
2020047010.tif 000037
【図５】
2020047010.tif 000038
【図６】
2020047010.tif 000039
【図７】
2020047010.tif 000040
【図８】
2020047010.tif 000041
【図９】
2020047010.tif 000042
【図１０】
2020047010.tif 000043
【図１１】
2020047010.tif 000044
【図１２】
2020047010.tif 000045
【図１３】
2020047010.tif 000046
【図１４】
2020047010.tif 000047
【図１５】
2020047010.tif 000048
【図１６】
2020047010.tif 000049
【図１７】
2020047010.tif 000050
【図１８】
2020047010.tif 000051
【図１９】
2020047010.tif 000052