【手続補正書】
【提出日】令和2年3月12日(2020.3.12)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
プロセッサを用いて実装される方法であって、
ニューラルネットワークを作成することと、
前記ニューラルネットワークから出力を生成することと、
前記ニューラルネットワークから低性能層を識別することであって、前記低性能層は、前記ニューラルネットワーク内の別の層より比較的低い性能を有する、ことと、
新しいスペシャリスト層を前記低性能層に挿入することと、
前記ニューラルネットワークの最上位層に到達するまで、前記識別する作動と前記挿入する作動とを繰り返すことと
を含む、方法。
【請求項２】
前記ニューラルネットワークに関するモデルを更新し、更新されたモデルを取得することをさらに含み、前記更新されたモデルは、前記新しいスペシャリスト層と、少なくとも１つのジェネラリスト層とを備える、請求項１に記載の方法。
【請求項３】
前記新しいスペシャリスト層は、別のスペシャリスト層によってハンドリングされるサブドメインと明確に異なるデータの特定のサブドメインをハンドリングするように構成される、請求項１に記載の方法。
【請求項４】
複数の損失層が、前記ニューラルネットワークに追加される、請求項１に記載の方法。
【請求項５】
前記損失層のうちの１つにおいて予測を生成することと、前記予測を、テンソルＴを形成する１つまたは複数の混同行列に変換することとをさらに含む、請求項４に記載の方法。
【請求項６】
Ｔの構造は、深度および幅の両方の観点から、分析され、前記ニューラルネットワークの既存の構造を修正および強化する、請求項５に記載の方法。
【請求項７】
前記ニューラルネットワークは、垂直分割および水平分割の両方を受ける、請求項１に記載の方法。
【請求項８】
Ｋ分割法が、前記水平分割を実装するために行われる、請求項７に記載の方法。
【請求項９】
前記ニューラルネットワークの各層は、独立して対処され、前記ニューラルネットワークの所与の層は、貪欲選択を行って前記所与の層を分割させることによって、分割を受け、これは、訓練損失に関する最良改良を提供する、請求項１に記載の方法。
【請求項１０】
オール・オア・ナッシングハイウェイネットワークが、除去されるべき前記ニューラルネットワーク内の層を識別するために採用される、請求項１に記載の方法。
【請求項１１】
前記ニューラルネットワークは、仮想現実または拡張現実システムのために捕捉された画像を分類するために採用される、請求項１に記載の方法。
【請求項１２】
システムであって、
プロセッサと、
プログラマブルコードを保持するためのメモリと
を備え、
前記プログラマブルコードは、ニューラルネットワークを作成するための命令と、前記ニューラルネットワークから出力を生成するための命令と、前記ニューラルネットワークから低性能層を識別するための命令であって、前記低性能層は、前記ニューラルネットワーク内の別の層より比較的低い性能を有する、命令と、新しいスペシャリスト層を前記低性能層に挿入するための命令と、前記ニューラルネットワークの最上位層に到達するまで前記識別する作動と前記挿入する作動とを繰り返すための命令とを含む、システム。
【請求項１３】
前記プロセッサは、前記ニューラルネットワークに関するモデルを更新し、更新されたモデルを取得するように構成され、前記更新されたモデルは、前記新しいスペシャリスト層と、少なくとも１つのジェネラリスト層とを備える、請求項１２に記載のシステム。
【請求項１４】
前記新しいスペシャリスト層は、別のスペシャリスト層によってハンドリングされるサブドメインと明確に異なるデータの特定のサブドメインをハンドリングするように構成される、請求項１２に記載のシステム。
【請求項１５】
前記ニューラルネットワークは、複数の損失層を備える、請求項１２に記載のシステム。
【請求項１６】
前記プロセッサは、前記損失層のうちの１つにおいて予測を生成することと、前記予測を、テンソルＴを形成する１つまたは複数の混同行列に変換することとを行うように構成される、請求項１５に記載のシステム。
【請求項１７】
Ｔの構造は、深度および幅の両方の観点から、分析され、前記ニューラルネットワークの既存の構造を修正および強化する、請求項１６に記載のシステム。
【請求項１８】
前記ニューラルネットワークは、垂直分割および水平分割の両方を受けるように構成される、請求項１２に記載のシステム。
【請求項１９】
前記水平分割は、Ｋ分割法を使用して実装される、請求項１８に記載のシステム。
【請求項２０】
前記プロセッサは、前記ニューラルネットワークの各層を独立して対処することと、貪欲選択を行って所与の層を分割させることによって前記ニューラルネットワークの前記所与の層に分割を受けさせることであって、これは、訓練損失に関する最良改良を提供する、こととを行うように構成される、請求項１２に記載のシステム。
【請求項２１】
前記プロセッサは、除去されるべき前記ニューラルネットワーク内の層を識別するためにオール・オア・ナッシングハイウェイネットワークを採用するように構成される、請求項１２に記載のシステム。
【請求項２２】
前記ニューラルネットワークは、仮想現実または拡張現実システムのために捕捉された画像を分類するように構成される、請求項１２に記載のシステム。
【請求項２３】
非一時的コンピュータ可読媒体上で具現化されるコンピュータプログラム製品であって、前記非一時的コンピュータ可読媒体は、その上に記憶される命令のシーケンスを有し、前記命令のシーケンスは、プロセッサによって実行されると、
ニューラルネットワークを作成することと、
前記ニューラルネットワークから出力を生成することと、
前記ニューラルネットワークから低性能層を識別することであって、前記低性能層は、前記ニューラルネットワーク内の別の層より比較的低い性能を有する、ことと、
新しいスペシャリスト層を前記低性能層に挿入することと、
前記ニューラルネットワークの最上位層に到達するまで、前記識別する作動と前記挿入する作動とを繰り返すことと
を含む方法を前記プロセッサに実行させる、コンピュータプログラム製品。
【請求項２４】
前記方法は、前記ニューラルネットワークに関するモデルを更新し、更新されたモデルを取得することをさらに含み、前記更新されたモデルは、前記新しいスペシャリスト層と、少なくとも１つのジェネラリスト層とを備える、請求項２３に記載のコンピュータプログラム製品。
【請求項２５】
前記方法において、前記新しいスペシャリスト層は、別のスペシャリスト層によってハンドリングされるサブドメインと明確に異なるデータの特定のサブドメインをハンドリングするように構成される、請求項２３に記載のコンピュータプログラム製品。
【請求項２６】
前記方法において、複数の損失層が、前記ニューラルネットワークに追加される、請求項２３に記載のコンピュータプログラム製品。
【請求項２７】
前記方法は、前記損失層のうちの１つにおいて予測を生成することと、前記予測を、テンソルＴを形成する１つまたは複数の混同行列に変換することとをさらに含む、請求項２６に記載のコンピュータプログラム製品。
【請求項２８】
Ｔの構造は、深度および幅の両方の観点から、前記方法において分析され、前記ニューラルネットワークの既存の構造を修正および強化する、請求項２７に記載のコンピュータプログラム製品。
【請求項２９】
前記方法において、前記ニューラルネットワークは、垂直分割および水平分割の両方を受ける、請求項２３に記載のコンピュータプログラム製品。
【請求項３０】
Ｋ分割法が、前記水平分割を実装するために前記方法において行われる、請求項２９に記載のコンピュータプログラム製品。
【請求項３１】
前記ニューラルネットワークの各層は、前記方法において独立して対処され、前記ニューラルネットワークの所与の層は、貪欲選択を行って前記所与の層を分割させることによって、分割を受け、これは、訓練損失に関する最良改良を提供する、請求項２３に記載のコンピュータプログラム製品。
【請求項３２】
オール・オア・ナッシングハイウェイネットワークが、除去されるべき前記ニューラルネットワーク内の層を識別するために前記方法において採用される、請求項２３に記載のコンピュータプログラム製品。
【請求項３３】
前記ニューラルネットワークは、仮想現実または拡張現実システムのために捕捉された画像を分類するために前記方法において採用される、請求項２３に記載のコンピュータプログラム製品。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】００２０
【補正方法】変更
【補正の内容】
【００２０】
本発明の側面、目的、および利点のさらなる詳細は、以下の詳細な説明、図面、および請求項に説明される。前述の発明の概要および以下の詳細な説明は両方とも、例示的かつ説明的であって、本発明の範囲に関する限定を意図するものではない。
本発明は、例えば、以下を提供する。
（項目１）
プロセッサを用いて実装される方法であって、
ニューラルネットワークを作成するステップと、
前記ニューラルネットワークから出力を生成するステップと、
前記ニューラルネットワークから低性能層を識別するステップと、
新しいスペシャリスト層を前記低性能層に挿入するステップと、
前記ニューラルネットワークの最上位層に到達するまで繰り返すステップと
を含む、方法。
（項目２）
更新されたモデルは、複数の新しいスペシャリスト層と、少なくとも１つのジェネラリスト層とを備える、項目１に記載の方法。
（項目３）
前記新しいスペシャリスト層は、別のスペシャリスト層によってハンドリングされるサブドメインと明確に異なるデータの特定のサブドメインに焦点を当てる、項目１に記載の方法。
（項目４）
複数の損失層が、前記ニューラルネットワークに追加される、項目１に記載の方法。
（項目５）
前記複数の損失層は、前記ニューラルネットワークの各層に追加される、項目４に記載の方法。
（項目６）
予測が、各損失層において生成され、１つまたはそれを上回る混同行列に変換され、前記ニューラルネットワークに関する前記１つまたはそれを上回る混同行列の全てを有するテンソルＴを形成する、項目４に記載の方法。
（項目７）
Ｔの構造は、深度および幅の両方の観点から、分析され、前記ニューラルネットワークの既存の構造を修正および強化する、項目６に記載の方法。
（項目８）
前記ニューラルネットワークは、垂直分割および水平分割の両方を受ける、項目１に記載の方法。
（項目９）
Ｋ分割法が、前記水平分割を実装するために行われる、項目８に記載の方法。
（項目１０）
前記ネットワークの各層は、独立して対処され、所与の層は、貪欲選択を行い、層を分割させることによって、分割を受け、これは、訓練損失に関する最良改良を提供する、項目１に記載の方法。
（項目１１）
オール・オア・ナッシングハイウェイネットワークが、除去されるべき前記ニューラルネットワーク内の層を識別するために採用される、項目１に記載の方法。
（項目１２）
前記ニューラルネットワークは、仮想現実または拡張現実システムのために捕捉された画像を分類するために採用される、項目１に記載の方法。
（項目１３）
システムであって、
プロセッサと、
プログラマブルコードを保持するためのメモリと
を備え、前記プログラマブルコードは、方法１−１２のいずれかを実行するための命令を含む、システム。
（項目１４）
コンピュータ可読媒体上で具現化されるコンピュータプログラム製品であって、前記コンピュータ可読媒体は、プロセッサによって実行されると、前記プロセッサに方法１−１２のいずれかを実行させる、その上に記憶される命令のシーケンスを有する、コンピュータプログラム製品。