【手続補正書】
【提出日】令和3年11月15日(2021.11.15)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
制限ボルツマンマシン（ＲＢＭ）を訓練するための方法であって、前記方法は、
可視値の第１のセットから、ＲＢＭの隠れ層内の隠れ値のセットを生成することと、
前記隠れ値の生成されたセットに基づいて、前記ＲＢＭの可視層内の可視値の第２のセットを生成することと、
前記可視値の第１のセットおよび前記可視値の生成されたセットのうちの少なくとも１つに基づいて、尤度勾配のセットを算出することと、
前記隠れ値のセットおよび前記可視値のセットのうちの少なくとも１つに基づく敵対モデルを使用して、敵対勾配のセットを算出することと、
前記尤度勾配のセットおよび前記敵対勾配のセットに基づいて、複合勾配のセットを算出することと、
前記複合勾配のセットに基づいて、前記ＲＢＭを更新することと
を含む、方法。
【請求項２】
前記ＲＢＭの可視層は、異なるデータタイプのための複数の副層から成る複合層を備える、請求項１に記載の方法。
【請求項３】
前記複数の副層は、ベルヌーイ層、イジング層、ワンホット層、フォンミーゼスフィッシャー層、ガウス層、ＲｅＬＵ層、クリップされたＲｅＬＵ層、スチューデント−ｔ層、序数層、指数関数層、および複合層のうちの少なくとも１つを備える、請求項１に記載の方法。
【請求項４】
前記ＲＢＭは、深層ボルツマンマシン（ＤＢＭ）であり、前記隠れ層は、複数の隠れ層のうちの１つである、請求項１に記載の方法。
【請求項５】
前記ＲＢＭは、第１のＲＢＭであり、前記隠れ層は、前記複数の隠れ層のうちの第１の隠れ層であり、前記方法は、
前記第１のＲＢＭから前記隠れ層をサンプリングすることと、
前記第１のＲＢＭからの前記可視層および前記隠れ層をベクトルにスタックすることと、
第２のＲＢＭを訓練することであって、前記ベクトルは、前記第２のＲＢＭの可視層である、ことと、
前記第１および第２のＲＢＭからの加重を前記ＤＢＭにコピーすることによって、前記ＤＢＭを生成することと
をさらに含む、請求項４に記載の方法。
【請求項６】
患者の表現型ベクトルを受信することと、
前記ＲＢＭを使用し、疾患の時間進行を生成することと
をさらに含む、請求項１に記載の方法。
【請求項７】
前記可視層および前記隠れ層は、第１の時間インスタンスのためのものであり、前記隠れ層は、異なる第２の時間インスタンスからのデータを組み込む第２の隠れ層にさらに接続される、請求項１に記載の方法。
【請求項８】
前記可視層は、複数の異なる時間インスタンスのためのデータを備える複合層である、請求項１に記載の方法。
【請求項９】
前記尤度勾配のセットを算出することは、ギブスサンプリングを実施することを含む、請求項１に記載の方法。
【請求項１０】
前記複合勾配のセットは、前記尤度勾配のセットおよび前記敵対勾配のセットの加重平均である、請求項１に記載の方法。
【請求項１１】
前記敵対モデルを訓練することをさらに含み、前記敵対モデルを訓練することは、
真正データに基づいて、データサンプルを引き出することと、
前記ＲＢＭに基づいて、架空のサンプルを引き出すことと、
前記データサンプルと前記架空のサンプルとを区別する前記敵対モデルの能力に基づいて、前記敵対モデルを訓練することと
によって行われる、請求項１に記載の方法。
【請求項１２】
前記敵対モデルを訓練することは、特定のサンプルが真正データまたは前記ＲＢＭのいずれかから引き出される確率を測定することを含む、請求項１に記載の方法。
【請求項１３】
前記敵対モデルは、完全接続分類子、ロジスティック回帰モデル、最近傍分類子、およびランダムフォレストのうちの１つである、請求項１に記載の方法。
【請求項１４】
前記ＲＢＭを使用し、標的集団のサンプルのセットを生成することをさらに含む、請求項１に記載の方法。
【請求項１５】
尤度勾配のセットを算出することは、モンテカルロ推定値および平均場推定値の凸結合を算出することを含む、請求項１に記載の方法。
【請求項１６】
尤度勾配のセットを算出することは、
複数のサンプルを初期化することと、
前記複数のサンプルのうちのサンプル毎に逆温度を初期化することと、
前記複数のサンプルのうちのサンプル毎に、
自己相関されたガンマ分布からサンプリングすることによって、前記逆温度を更新することと、
ギブスサンプリングを使用して、前記サンプルを更新することと
を含む、請求項１に記載の方法。
【請求項１７】
制限ボルツマンマシン（ＲＢＭ）を訓練するためのプロセッサ命令を含有する非一過性の機械可読媒体であって、プロセッサによる前記命令の実行は、前記プロセッサに、
可視値の第１のセットから、ＲＢＭの隠れ層内の隠れ値のセットを生成することと、
前記隠れ値の生成されたセットに基づいて、前記ＲＢＭの可視層内の可視値の第２のセットを生成することと、
前記可視値の第１のセットおよび前記可視値の生成されたセットのうちの少なくとも１つに基づいて、尤度勾配のセットを算出することと、
前記隠れ値のセットおよび前記可視値のセットのうちの少なくとも１つに基づく敵対モデルを使用して、敵対勾配のセットを算出することと、
前記尤度勾配のセットおよび前記敵対勾配のセットに基づいて、複合勾配のセットを算出することと、
前記複合勾配のセットに基づいて、前記ＲＢＭを更新することと
を含むプロセスを実施させる、非一過性の機械可読媒体。
【請求項１８】
前記ＲＢＭの可視層は、異なるデータタイプのための複数の副層から成る複合層を備える、請求項１７に記載の非一過性の機械可読媒体。
【請求項１９】
前記ＲＢＭは、深層ボルツマンマシン（ＤＢＭ）であり、前記隠れ層は、複数の隠れ層のうちの１つである、請求項１７に記載の非一過性の機械可読媒体。
【請求項２０】
前記ＲＢＭは、第１のＲＢＭであり、前記隠れ層は、前記複数の隠れ層のうちの第１の隠れ層であり、前記プロセスは、
前記第１のＲＢＭから前記隠れ層をサンプリングすることと、
前記第１のＲＢＭからの前記可視層および前記隠れ層をベクトルにスタックすることと、
第２のＲＢＭを訓練することであって、前記ベクトルは、前記第２のＲＢＭの可視層である、ことと、
前記第１および第２のＲＢＭからの加重を前記ＤＢＭにコピーすることによって、前記ＤＢＭを生成することと
をさらに含む、請求項１９に記載の非一過性の機械可読媒体。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】００２０
【補正方法】変更
【補正の内容】
【００２０】
付加的実施形態および特徴が、以下に続く説明に部分的に記載され、本明細書の検討に応じて、部分的に当業者に明白となるであろう、または本発明の実践によって学習され得る。本発明の性質および利点のさらなる理解が、本開示の一部を形成する、本明細書および図面の残りの部分を参照することによって認識され得る。
本発明は、例えば、以下を提供する。
（項目１）
制限ボルツマンマシン（ＲＢＭ）を訓練するための方法であって、前記方法は、
可視値の第１のセットから、ＲＢＭの隠れ層内の隠れ値のセットを生成することと、
前記隠れ値の生成されたセットに基づいて、前記ＲＢＭの可視層内の可視値の第２のセットを生成することと、
前記可視値の第１のセットおよび前記可視値の生成されたセットのうちの少なくとも１つに基づいて、尤度勾配のセットを算出することと、
前記隠れ値のセットおよび前記可視値のセットのうちの少なくとも１つに基づく敵対モデルを使用して、敵対勾配のセットを算出することと、
前記尤度勾配のセットおよび前記敵対勾配のセットに基づいて、複合勾配のセットを算出することと、
前記複合勾配のセットに基づいて、前記ＲＢＭを更新することと
を含む、方法。
（項目２）
前記ＲＢＭの可視層は、異なるデータタイプのための複数の副層から成る複合層を備える、項目１に記載の方法。
（項目３）
前記複数の副層は、ベルヌーイ層、イジング層、ワンホット層、フォンミーゼスフィッシャー層、ガウス層、ＲｅＬＵ層、クリップされたＲｅＬＵ層、スチューデント−ｔ層、序数層、指数関数層、および複合層のうちの少なくとも１つを備える、項目１に記載の方法。
（項目４）
前記ＲＢＭは、深層ボルツマンマシン（ＤＢＭ）であり、前記隠れ層は、複数の隠れ層のうちの１つである、項目１に記載の方法。
（項目５）
前記ＲＢＭは、第１のＲＢＭであり、前記隠れ層は、前記複数の隠れ層のうちの第１の隠れ層であり、前記方法はさらに、
前記第１のＲＢＭから前記隠れ層をサンプリングすることと、
前記第１のＲＢＭからの前記可視層および前記隠れ層をベクトルにスタックすることと、
第２のＲＢＭを訓練することであって、前記ベクトルは、前記第２のＲＢＭの可視層である、ことと、
前記第１および第２のＲＢＭからの加重を前記ＤＢＭにコピーすることによって、前記ＤＢＭを生成することと
を含む、項目４に記載の方法。
（項目６）
患者の表現型ベクトルを受信することと、
前記ＲＢＭを使用し、疾患の時間進行を生成することと、
前記生成された時間進行に基づいて、前記患者を治療することと
をさらに含む、項目１に記載の方法。
（項目７）
前記可視層および前記隠れ層は、第１の時間インスタンスのためのものであり、前記隠れ層はさらに、異なる第２の時間インスタンスからのデータを組み込む第２の隠れ層に接続される、項目１に記載の方法。
（項目８）
前記可視層は、複数の異なる時間インスタンスのためのデータを備える複合層である、項目１に記載の方法。
（項目９）
前記尤度勾配のセットを算出することは、ギブスサンプリングを実施することを含む、項目１に記載の方法。
（項目１０）
前記複合勾配のセットは、前記尤度勾配のセットおよび前記敵対勾配のセットの加重平均である、項目１に記載の方法。
（項目１１）
前記敵対モデルを訓練することをさらに含み、前記敵対モデルを訓練することは、
真正データに基づいて、データサンプルを引き出することと、
前記ＲＢＭに基づいて、架空のサンプルを引き出すことと、
前記データサンプルと前記架空のサンプルとを区別する前記敵対モデルの能力に基づいて、前記敵対モデルを訓練することと
によって行われる、項目１に記載の方法。
（項目１２）
前記敵対モデルを訓練することは、特定のサンプルが真正データまたは前記ＲＢＭのいずれかから引き出される確率を測定することを含む、項目１に記載の方法。
（項目１３）
前記敵対モデルは、完全接続分類子、ロジスティック回帰モデル、最近傍分類子、およびランダムフォレストのうちの１つである、項目１に記載の方法。
（項目１４）
前記ＲＢＭを使用し、標的集団のサンプルのセットを生成することをさらに含む、項目１に記載の方法。
（項目１５）
尤度勾配のセットを算出することは、モンテカルロ推定値および平均場推定値の凸結合を算出することを含む、項目１に記載の方法。
（項目１６）
尤度勾配のセットを算出することは、
複数のサンプルを初期化することと、
前記複数のサンプルのうちのサンプル毎に逆温度を初期化することと、
前記複数のサンプルのうちのサンプル毎に、
自己相関されたガンマ分布からサンプリングすることによって、前記逆温度を更新することと、
ギブスサンプリングを使用して、前記サンプルを更新することと
を含む、項目１に記載の方法。
（項目１７）
制限ボルツマンマシン（ＲＢＭ）を訓練するためのプロセッサ命令を含有する非一過性の機械可読媒体であって、プロセッサによる前記命令の実行は、前記プロセッサに、
可視値の第１のセットから、ＲＢＭの隠れ層内の隠れ値のセットを生成することと、
前記隠れ値の生成されたセットに基づいて、前記ＲＢＭの可視層内の可視値の第２のセットを生成することと、
前記可視値の第１のセットおよび前記可視値の生成されたセットのうちの少なくとも１つに基づいて、尤度勾配のセットを算出することと、
前記隠れ値のセットおよび前記可視値のセットのうちの少なくとも１つに基づく敵対モデルを使用して、敵対勾配のセットを算出することと、
前記尤度勾配のセットおよび前記敵対勾配のセットに基づいて、複合勾配のセットを算出することと、
前記複合勾配のセットに基づいて、前記ＲＢＭを更新することと
を含むプロセスを実施させる、非一過性の機械可読媒体。
（項目１８）
前記ＲＢＭの可視層は、異なるデータタイプのための複数の副層から成る複合層を備える、項目１７に記載の非一過性の機械可読媒体。
（項目１９）
前記ＲＢＭは、深層ボルツマンマシン（ＤＢＭ）であり、前記隠れ層は、複数の隠れ層のうちの１つである、項目１７に記載の非一過性の機械可読媒体。
（項目２０）
前記ＲＢＭは、第１のＲＢＭであり、前記隠れ層は、前記複数の隠れ層のうちの第１の隠れ層であり、前記プロセスはさらに、
前記第１のＲＢＭから前記隠れ層をサンプリングすることと、
前記第１のＲＢＭからの前記可視層および前記隠れ層をベクトルにスタックすることと、
第２のＲＢＭを訓練することであって、前記ベクトルは、前記第２のＲＢＭの可視層である、ことと、
前記第１および第２のＲＢＭからの加重を前記ＤＢＭにコピーすることによって、前記ＤＢＭを生成することと
を含む、項目１９に記載の非一過性の機械可読媒体。