【手続補正書】
【提出日】令和3年11月12日(2021.11.12)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
オートエンコーダをトレーニングするためのコンピュータ実装方法であって、前記オートエンコーダが、入力データを分類するためのＮ次元潜在空間の潜在ベクトルを出力し、前記潜在ベクトルが、ラベルベクトルｙおよびスタイルベクトルｚを含み、前記方法が、前記入力データに関連付けられたラベルベクトルｙのセットに時不変性をもたらすために、トレーニング中に前記スタイルベクトルｚを正則化することを含む、コンピュータ実装方法。
【請求項２】
前記スタイルベクトルｚを正則化することが、選択された１つ以上の確率分布Ｐ（Ａｉ）および対応する１つ以上のベクトルＡｉに基づいており、前記スタイルベクトルｚが、前記１つ以上のベクトルＡｉを含む、請求項１に記載のコンピュータ実装方法。
【請求項３】
前記スタイルベクトルｚを正則化することが、入力トレーニングデータで前記オートエンコーダのエンコーダネットワークをトレーニングして、前記スタイルベクトルｚの少なくとも一部分に選択された確率分布を適用することをさらに含む、請求項１または２に記載のコンピュータ実装方法。
【請求項４】
前記スタイルベクトルｚを正則化することが、トレーニング中に前記ラベルベクトルｙのセットの前記時不変性を増加させる、請求項１〜３のいずれか一項に記載のコンピュータ実装方法。
【請求項５】
前記スタイルベクトルｚを正則化することが、前記オートエンコーダをトレーニングする前に、
前記スタイルベクトルｚを分割するための１つ以上のベクトルＡｉの数を選択すること、
前記選択されたベクトルＡｉに対応する１つ以上の確率分布Ｐ（Ａｉ）の数を選択することをさらに含み、
前記スタイルベクトルｚを正則化することが、前記対応する選択された確率分布Ｐ（Ａｉ）に基づいて、前記選択されたベクトルＡｉの各々を正則化することをさらに含み、前記スタイルベクトルｚが、前記選択されたベクトルＡｉに分割される、請求項１〜４のいずれか一項に記載のコンピュータ実装方法。
【請求項６】
ｚを正則化することが、１つ以上の選択された確率分布Ｐ（Ａｉ）および前記スタイルベクトルｚを分割する対応する１つ以上の選択されたベクトルＡｉを含むハイパーパラメータのセットを取得することをさらに含み、前記ハイパーパラメータのセットが、前記１つ以上の選択された確率分布Ｐ（Ａｉ）および対応する１つ以上の選択されたベクトルＡｉに基づいて、トレーニング中にスタイルベクトルｚを正則化することによって実質的に時不変のラベルベクトルｙを出力するようにトレーニングされ得るオートエンコーダ構造を定義する、請求項１〜５のいずれか一項に記載のコンピュータ実装方法。
【請求項７】
トレーニング中に前記スタイルベクトルｚを正則化することにより、入力データに関連付けられた前記ラベルベクトルｙがラベルベクトルｙの複数または２つ以上のクラスタを形成し、各々が、実質的に同じまたは類似するラベルベクトルｙのサブグループを含み、前記ラベルベクトルｙのセットが、実質的に時不変である、請求項１〜６のいずれか一項に記載のコンピュータ実装方法。
【請求項８】
各クラスタが、領域または境界によって定義され、各クラスタのラベルベクトルｙの前記サブグループが、前記定義された領域または境界内に含まれ、ラベルベクトルｙが、前記同じクラスタの前記領域または境界内に含まれる場合、実質的に同じか類似しており、前記クラスタが、真の状態またはクラスラベルに関連する、請求項７に記載のコンピュータ実装方法。
【請求項９】
前記ラベルベクトルｙのセットをクラスタ化して、各クラスタが実質的に同じまたは類似するラベルベクトルｙのサブグループを含む、ラベルベクトルｙの複数のクラスタを形成することと、
ラベルベクトルｙの前記クラスタの各々を、入力データの分類で前記トレーニングされたオートエンコーダが使用するために、前記入力データに関連付けられたクラスまたは状態ラベルＳのセットからのクラスまたは状態ラベルにマッピングすることと、をさらに含む、請求項７または８に記載のコンピュータ実装方法。
【請求項１０】
前記入力データが、１つ以上の高周波時変入力信号に基づく入力データを含む、請求項１〜９のいずれか一項に記載のコンピュータ実装方法。
【請求項１１】
前記入力データが、１つ以上の神経信号に関連する神経サンプルデータを含む、請求項１〜１０のいずれか一項に記載のコンピュータ実装方法。
【請求項１２】
前記オートエンコーダが、
前記潜在空間のスタイルベクトルｚを出力するための潜在表現層であって、前記スタイルベクトルｚが、前記１つ以上の選択されたベクトルＡｉを含む、潜在表現層と、
１つ以上の正則化ネットワークであって、各正則化ネットワークが、入力層、１つ以上の隠れ層を含む弁別器ネットワーク、および生成器損失関数ＬＧＡｉを評価するための出力層を含み、前記入力層が、スタイルベクトルｚの前記１つ以上の選択されたベクトルＡｉのうちの対応する１つに接続される、１つ以上の正則化ネットワークと、をさらに含み、前記方法が、
前記潜在ベクトルｚを正則化することであって、前記正則化ネットワークの各々について、
潜在ベクトルｚの前記対応するベクトルＡｉと、前記対応する選択された確率分布Ｐ（Ａｉ）から生成されたサンプルベクトルとを区別するために、前記各正則化ネットワークをトレーニングすることであって、前記サンプルベクトルが、前記潜在ベクトルｚのベクトルＡｉと同じ次元のものである、トレーニングすることと、
前記潜在ベクトルｚの前記ベクトルＡｉに前記確率分布Ｐ（Ａｉ）を適用するためにエンコーダネットワークをトレーニングする際に前記オートエンコーダが使用する前記生成器損失関数値ＬＧＡｉを出力することと、をさらに含む、正則化することをさらに含む、請求項２〜１１のいずれか一項に記載のコンピュータ実装方法。
【請求項１３】
前記オートエンコーダが、
前記潜在空間の前記ラベルベクトルｙを出力する前記潜在表現層と、
入力層、１つ以上の隠れ層、およびラベルベクトルｙに関連付けられた生成器損失関数ＬＧＹを評価するための出力層を含む、結合された敵対的ネットワークと、をさらに含み、前記敵対的ネットワークの前記入力層が、前記ラベルベクトルｙに接続され、前記方法が、
前記潜在表現層によって生成されたラベルベクトルｙと、前記ラベルベクトルｙと同じ次元の１つのホットベクトルのセットのカテゴリカル分布からのサンプルベクトルとを区別するために前記敵対的ネットワークをトレーニングすることと、
前記ラベルベクトルｙに前記カテゴリカル分布を適用するために、エンコーダネットワークをトレーニングする際に前記オートエンコーダが使用するラベルベクトルｙに関連付けられた前記生成器損失関数値ＬＧＹを出力することと、をさらに含む、請求項２〜１２のいずれか一項に記載のコンピュータ実装方法。
【請求項１４】
前記オートエンコーダが、前記潜在表現層に結合された復号ネットワークをさらに含み、前記入力データのトレーニングセットが、神経サンプルベクトル配列
【数１】
2021502650.tif 000001
のトレーニングセットを含み、１≦ｉ≦Ｌｋと１≦ｋ≦Ｔであり、Ｌｋがｋ番目の神経サンプルベクトル配列の長さであり、Ｔが、前記オートエンコーダを通過するｋ番目の神経活動に対応するｋ番目の神経サンプルベクトル配列ごとのトレーニング神経サンプルベクトル配列の数であり、前記方法が、
前記１つ以上の正則化ネットワークおよび／または前記敵対的ネットワークの前記出力に基づいて損失関数またはコスト関数を生成することであって、ｋ番目の神経サンプルベクトル配列の推定値が、前記復号ネットワークからの
【数２】
2021502650.tif 000002
出力として表され、元のｋ番目の神経サンプルベクトル配列（ｘｉ）ｋである、生成することと、
前記生成されたコスト関数の損失に基づいて、前記符号化ネットワークおよび／または復号ネットワークの前記隠れ層の重みを更新することと、をさらに含む、請求項１２または１３に記載のコンピュータ実装方法。
【請求項１５】
オートエンコーダを最適化するためのコンピュータ実装方法であって、前記オートエンコーダが、入力データを分類するためのＮ次元潜在空間の潜在ベクトルを出力し、前記潜在ベクトルが、ラベルベクトルｙおよびスタイルベクトルｚを含み、前記方法が、前記スタイルベクトルｚの正則化を制御して、前記ラベルベクトルｙの時不変性を増加または減少させることを含む、コンピュータ実装方法。
【請求項１６】
前記スタイルベクトルｚの正則化を制御することが、１つ以上の確率分布Ｐ（Ａｉ）および対応する１つ以上のベクトルＡｉを選択することであって、前記スタイルベクトルｚが、前記１つ以上のベクトルＡｉを含む、選択することと、前記選択された確率分布に基づいてスタイルベクトルｚを正則化することと、を含む、請求項１５に記載のコンピュータ実装方法。
【請求項１７】
スタイルベクトルｚを正則化することが、入力トレーニングデータで前記オートエンコーダのエンコーダネットワークをトレーニングして、前記スタイルベクトルｚの少なくとも一部分に選択された確率分布を適用することをさらに含む、請求項１５または１６に記載のコンピュータ実装方法。
【請求項１８】
前記スタイルベクトルｚの正則化を制御して、正則化することなくオートエンコーダから出力されるラベルベクトルｙの対応するセットと比較して、前記ラベルベクトルｙのセットの前記時不変性を増加させる、請求項１５〜１７のいずれか一項に記載のコンピュータ実装方法。
【請求項１９】
前記スタイルベクトルｚの正則化を制御することが、
前記スタイルベクトルｚを分割するための１つ以上のベクトルＡｉの数を選択すること、
前記選択されたベクトルＡｉに対応する１つ以上の確率分布Ｐ（Ａｉ）の数を選択することをさらに含み、
前記選択されたベクトルＡｉおよび選択された確率分布Ｐ（Ａｉ）に基づいて前記スタイルベクトルｚを正則化することが、前記対応する選択された確率分布Ｐ（Ａｉ）に基づいて前記選択されたベクトルＡｉの各々を正則化することをさらに含み、前記スタイルベクトルｚが、前記選択された１つ以上のベクトルＡｉの連結体である、請求項１５〜１８のいずれか一項に記載のコンピュータ実装方法。