【手続補正書】
【提出日】令和3年5月14日(2021.5.14)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
プロセッサを用いて実装される方法であって、
オブジェクトの分類を行うように構成されるニューラルネットワークを作成することであって、前記ニューラルネットワークは、複数の層を備える、ことと、
前記ニューラルネットワークが、処理タスクを行い、出力を生成することと、
前記複数の層から異質層を識別することと、
前記ニューラルネットワークから前記異質層を除去することと、
他の異質層が識別されなくなるまで、前記複数の層から他の異質層を識別して除去することと
を含み、
前記ニューラルネットワークは、垂直分割および水平分割の両方を受ける、方法。
【請求項２】
前記異質層を識別することは、前記異質層が前記ニューラルネットワークによる前記処理タスクの性能を改良しないことを判定することを含む、請求項１に記載の方法。
【請求項３】
オール・オア・ナッシングハイウェイネットワークが、前記ニューラルネットワーク内の除去されるべき前記異質層を識別するために採用される、請求項１に記載の方法。
【請求項４】
前記異質層の使用とペナルティを関連付けることをさらに含む、請求項３に記載の方法。
【請求項５】
前記ペナルティのサイズは、前記異質層によって使用される計算能力の量に対応する、請求項４に記載の方法。
【請求項６】
前記ペナルティのサイズは、変動させられる、請求項５に記載の方法。
【請求項７】
プロセッサを用いて実装される方法であって、
オブジェクトの分類を行うように構成されるニューラルネットワークを作成することであって、前記ニューラルネットワークは、複数の層を備える、ことと、
前記ニューラルネットワークが、処理タスクを行い、出力を生成することと、
前記複数の層から異質層を識別することであって、オール・オア・ナッシングハイウェイネットワークが、前記ニューラルネットワーク内の除去されるべき前記異質層を識別するために採用される、ことと、
前記ニューラルネットワークから前記異質層を除去することと、
他の異質層が識別されなくなるまで、前記複数の層から他の異質層を識別して除去することと、
前記異質層の使用とペナルティを関連付けることと
を含み、
前記プロセッサがクラウドコンピューティングプラットフォームの一部であるとき、前記ペナルティは、０に設定される、方法。
【請求項８】
前記オール・オア・ナッシングハイウェイネットワークは、前記異質層を使用しないようにバイナリ決定を生成する、請求項３に記載の方法。
【請求項９】
プロセッサを用いて実装される方法であって、
オブジェクトの分類を行うように構成されるニューラルネットワークを作成することであって、前記ニューラルネットワークは、複数の層を備える、ことと、
前記ニューラルネットワークが、処理タスクを行い、出力を生成することと、
前記複数の層から異質層を識別することであって、オール・オア・ナッシングハイウェイネットワークが、前記ニューラルネットワーク内の除去されるべき前記異質層を識別するために採用される、ことと、
前記ニューラルネットワークから前記異質層を除去することと、
他の異質層が識別されなくなるまで、前記複数の層から他の異質層を識別して除去することと
を含み、
前記オール・オア・ナッシングハイウェイネットワークは、混合行列を導入し、前記異質層に対応するスキップ接続を変換する方法を判定する、方法。
【請求項１０】
スカラー値によって前記混合行列をパラメトライズすることをさらに含む、請求項９に記載の方法。
【請求項１１】
前記スカラー値が０であるとき、前記異質層への入力が、前記異質層からの出力上に回され、これにより、前記ニューラルネットワークから前記異質層を除去する前に前記異質層をスキップする、請求項１０に記載の方法。
【請求項１２】
恒等写像を使用して、前記異質層に対応するスキップ接続を変換することをさらに含む、請求項３に記載の方法。
【請求項１３】
前記ニューラルネットワークに関するモデルを更新し、更新されたモデルを取得することをさらに含み、前記異質層は、前記更新されたモデルを取得するために前記モデルから除去される、請求項１に記載の方法。
【請求項１４】
複数の損失層が、前記ニューラルネットワークに追加される、請求項１に記載の方法。
【請求項１５】
プロセッサを用いて実装される方法であって、
オブジェクトの分類を行うように構成されるニューラルネットワークを作成することであって、前記ニューラルネットワークは、複数の層を備える、ことと、
前記ニューラルネットワークが、処理タスクを行い、出力を生成することと、
前記複数の層から異質層を識別することと、
前記ニューラルネットワークから前記異質層を除去することと、
他の異質層が識別されなくなるまで、前記複数の層から他の異質層を識別して除去することと、
複数の損失層を前記ニューラルネットワークに追加することと、
前記損失層のうちの１つにおいて予測を生成し、前記予測を、テンソルＴを形成する１つまたは複数の混同行列に変換することと
を含む、方法。
【請求項１６】
Ｔの構造は、深度および幅の両方の観点から、分析され、前記ニューラルネットワークの既存の構造を修正および強化する、請求項１５に記載の方法。
【請求項１７】
Ｋ分割法が、前記水平分割を実装するために行われる、請求項１に記載の方法。
【請求項１８】
プロセッサを用いて実装される方法であって、
オブジェクトの分類を行うように構成されるニューラルネットワークを作成することであって、前記ニューラルネットワークは、複数の層を備える、ことと、
前記ニューラルネットワークが、処理タスクを行い、出力を生成することと、
前記複数の層から異質層を識別することと、
前記ニューラルネットワークから前記異質層を除去することと、
他の異質層が識別されなくなるまで、前記複数の層から他の異質層を識別して除去することと
を含み、
前記ニューラルネットワークの各層は、独立して対処され、前記ニューラルネットワークの所与の層は、貪欲選択を行って前記所与の層を分割することによって、分割を受け、これは、訓練損失に関する最良改良を提供する、方法。
【請求項１９】
前記ニューラルネットワークは、仮想現実または拡張現実システムのために捕捉された画像を分類するために採用される、請求項１に記載の方法。
【請求項２０】
システムであって、
プロセッサと、
プログラマブルコードを保持するためのメモリと
を備え、
前記プログラマブルコードは、オブジェクトの分類を行うように構成されるニューラルネットワークを作成するための命令であって、前記ニューラルネットワークは、複数の層を備える、命令と、前記ニューラルネットワークが処理タスクを行って出力を生成するための命令と、前記複数の層から異質層を識別するための命令と、前記ニューラルネットワークから前記異質層を除去するための命令と、他の異質層が識別されなくなるまで、前記複数の層から他の異質層を識別して除去するための命令とを含み、前記ニューラルネットワークは、垂直分割および水平分割の両方を受ける、システム。
【請求項２１】
非一時的コンピュータ可読媒体上で具現化されるコンピュータプログラム製品であって、前記非一時的コンピュータ可読媒体は、命令のシーケンスを記憶しており、前記命令のシーケンスは、プロセッサによって実行されると、
オブジェクトの分類を行うように構成されるニューラルネットワークを作成することであって、前記ニューラルネットワークは、複数の層を備える、ことと、
前記ニューラルネットワークが、処理タスクを行い、出力を生成することと、
前記複数の層から異質層を識別することと、
前記ニューラルネットワークから前記異質層を除去することと、
他の異質層が識別されなくなるまで、前記複数の層から他の異質層を識別して除去することと
を含む方法を前記プロセッサに実行させ、
前記ニューラルネットワークは、垂直分割および水平分割の両方を受ける、コンピュータプログラム製品。