【手続補正書】
【提出日】令和3年9月24日(2021.9.24)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
畳み込みニューラルネットワーク（ＣＮＮ）のためのシステムであって、
１つ又は複数の画像からデータを抽出し、且つ非線形畳み込み出力データを出力するように構成される１つ又は複数の正規化線形関数（ＲＥＬＵ）に前記データを提供する畳み込み演算を実行するように構成される畳み込みコンポーネントと、
前記非線形畳み込み出力データのサブセットのプーリングウィンドウに基づいて、前記畳み込み演算と並行してパイプラインプロセスを介してプーリング出力を生成するように構成されるプーリングコンポーネントと、
前記畳み込みコンポーネントとの前記プーリングコンポーネントの前記パイプラインプロセスに対応する１つ又は複数の第１のテーブルを含む観測ユニットコンポーネントと、
前記畳み込みコンポーネントによる、前記１つ又は複数の第１のテーブルへの書き込み動作を検出し、且つ前記畳み込みコンポーネントが前記１つ又は複数の第１のテーブルへの前記書き込み動作を実行することに応答して、前記プーリングコンポーネントの統計学的演算をトリガーし、且つ前記１つ又は複数の第１のテーブルから前記プーリングコンポーネントへの複数の出力を生成するように構成されるトランザクションウォッチコンポーネントと、
前記プーリング出力に基づいてＡＮＮ出力を提供する人工ニューラルネットワーク（ＡＮＮ）を形成し、且つ前記ＡＮＮ出力に基づいて前記１つ又は複数の画像におけるパターンの認識を可能にするように構成される全結合（ＦＣ）コンポーネントと
を含むシステム。
【請求項２】
前記プーリングコンポーネントは、前記プーリングウィンドウの可用性を特定し、且つ前記非線形畳み込み出力データの異なるサブセットに対応する複数のプーリングウィンドウを処理するように更に構成される、請求項１に記載のシステム。
【請求項３】
前記ＦＣコンポーネントは、ニューロンの後続層に結合されるニューロンの第１の層を含み、前記第１の層及び前記後続層のニューロンは、ネット関数出力を提供するように構成されるネット関数ノードと、前記ネット関数出力から出力関数出力を生成するように構成される出力関数ノードとをそれぞれ含む、請求項１に記載のシステム。
【請求項４】
前記ニューロンの第１の層は、少なくとも１つの先行層から、プーリング出力、前記畳み込みコンポーネントからの前記データ、又は前記非線形畳み込み出力データの少なくとも１つを含む出力を受け取る同じネット関数入力の第１の集合を有する第１のニューロンをそれぞれ含み、及び前記ニューロンの後続層は、前記ニューロンの第１の層から同じ出力を受け取る同じネット関数入力の第２の集合を有する第２のニューロンをそれぞれ含む、請求項３に記載のシステム。
【請求項５】
前記ネット関数ノードは、それぞれ入力及び前記入力に関連する重みのドット積乗算及び対応する結果の合算を実行するように構成され、及び前記出力関数ノードは、前記ネット関数出力に活性化関数を実行して、ＦＣコンポーネントの出力を提供するように構成され、第１のニューロンの前記出力関数ノードは、別のパイプラインプロセスを介して第２のニューロンの前記ネット関数ノードと並行して動作する、請求項３に記載のシステム。
【請求項６】
前記プーリングコンポーネントは、前記非線形畳み込み出力データのボリュームの低減を生成し、且つ前記非線形畳み込み出力データを処理して、前記ＦＣコンポーネントに提供される前記プーリング出力としてスケーリング不変データにするように更に構成される、請求項１に記載のシステム。
【請求項７】
前記複数の出力は、前記プーリングウィンドウに関連するマーカを識別する前記１つ若しくは複数の第１のテーブルの畳み込みウォッチアドレスに関連するプーリング入力アドレス、前記プーリングコンポーネントの前記演算への前記トリガー、前記統計学的演算の結果を有する前記１つ若しくは複数の第１のテーブル内のアドレスを指すプーリング出力アドレス、又は前記１つ若しくは複数の第１のテーブルを前記プーリングコンポーネントに関連付ける畳み込み層識別子（ＩＤ）の少なくとも１つを含む、請求項１に記載のシステム。
【請求項８】
前記ＦＣ層に関連する第２のテーブルは、前記ＦＣコンポーネントのネット関数ノードのネット関数出力に対応するニューロンネット関数出力アドレス、出力関数ノードのＡＮＮ出力に対応するニューロン活性化出力アドレス、及び前記出力関数ノードによって実行される活性化関数の少なくとも１つを含む、請求項１に記載のシステム。
【請求項９】
畳み込みニューラルネットワーク（ＣＮＮ）のための装置であって、
メモリに結合される１つ又は複数のプロセッサ
を含み、前記メモリは、前記１つ又は複数のプロセッサの動作を実行する命令を含み、前記１つ又は複数のプロセッサは、
１つ又は複数の画像から、１つ又は複数のフィルタカーネルを介して、畳み込みデータセットを含むデータ特徴を抽出することと、
前記畳み込みデータセットを非線形出力データの集合に変換することと、
前記非線形出力データの集合のうちの非線形データの第１の集合又は前記畳み込みデータセットの畳み込みデータの第１の集合が利用可能であると判断することに応答して、前記データ特徴の抽出又は前記畳み込みデータセットの変換の少なくとも一方と並行して動作するパイプラインプロセスを介して、前記非線形出力データの集合に対するプーリング演算からプーリング出力を生成することと、
ネット関数出力に対応するニューロンネット関数出力アドレス、ニューロンの出力に対応するニューロン活性化関数出力アドレス、及び前記ニューロンの出力関数によって実行される活性化関数のエントリを含むテーブルを埋めて、前記ネット関数出力に基づいて前記ニューロンの前記出力を生成することと
を行うように構成される、装置。
【請求項１０】
前記１つ又は複数のプロセッサは、前記１つ又は複数の画像の部分にわたってスライドする１つ又は複数の畳み込みウィンドウを用いてスライド畳み込みを実行することにより、前記データ特徴を抽出して、前記１つ又は複数の画像の特徴マップを生成し、且つ前記１つ又は複数の畳み込みウィンドウに対応するデータ特徴が存在する確率を特定するように更に構成される、請求項９に記載の装置。
【請求項１１】
前記１つ又は複数のプロセッサは、前記畳み込みデータセットの畳み込みデータの前記第１の集合を処理して、プーリングウィンドウに基づいて畳み込みデータのスケーリング不変集合にするプーリング演算と並行した畳み込み演算を介して、前記１つ又は複数の画像から前記畳み込みデータセットの畳み込みデータの第２の集合を抽出するように更に構成される、請求項９に記載の装置。
【請求項１２】
前記１つ又は複数のプロセッサは、前記非線形データの集合に対応する前記プーリング出力をカテゴリに分類することにより、全結合（ＦＣ）コンポーネントを介して前記プーリング出力を処理するように更に構成される、請求項９に記載の装置。
【請求項１３】
前記１つ又は複数のプロセッサは、
ニューロンネット関数出力を生成する第１のＦＣコンポーネントにおける、入力と重みとのドット積及び前記プーリング出力からの加重入力の和を含むネット関数を実行することと、
前記第１のＦＣコンポーネントにおける前記ニューロンネット関数出力に対して出力関数を実行して、後続するＦＣコンポーネントにおける別のドット積及び前記プーリング出力からの前記入力の別の和を含む別のネット関数の実行と並行してニューロン活性化関数出力を生成して、第２のニューロンネット関数出力を生成することと
を行うように更に構成される、請求項１２に記載の装置。
【請求項１４】
前記第１のＦＣコンポーネント及び前記後続するＦＣコンポーネントは、前記メモリから命令をフェッチすることなく、且つ前記プーリング出力からの入力データ又は先行するＦＣコンポーネントがニューロン入力において利用可能であることに応答して動作するデータフロープロセスを含む、請求項１３に記載の装置。
【請求項１５】
畳み込みニューラルネットワーク（ＣＮＮ）のための方法であって、
１つ又は複数のプロセッサを介して、１つ又は複数の画像からデータを抽出する畳み込み演算を実行することと、
前記１つ又は複数のプロセッサを介して、非線形畳み込み出力データを生成するように構成される１つ又は複数の正規化線形関数（ＲＥＬＵ）に前記データを提供することと、
前記１つ又は複数のプロセッサを介して、前記非線形畳み込み出力データのサブセットのプーリングウィンドウに基づいて、畳み込み演算と並行してプーリング出力を生成することと、
前記１つ又は複数のプロセッサを介して、前記畳み込み演算と並行した前記プーリング出力のためのパイプライン処理に対応する１つ又は複数のテーブルへの書き込みを検出し、前記プーリング出力の生成のための前記パイプライン処理の統計学的演算をトリガーすることと、
前記１つ又は複数のプロセッサを介して、前記プーリング出力に基づいて人工ニューラルネットワーク（ＡＮＮ）のＡＮＮ出力を提供することと
を含む方法。
【請求項１６】
前記プーリングウィンドウの可用性の判断を生成し、且つ前記非線形畳み込み出力データの異なるサブセットに対応する複数のプーリングウィンドウを処理することを更に含む、請求項１５に記載の方法。
【請求項１７】
前記ＡＮＮの第１の全結合（ＦＣ）層において、第１のネット関数ノードの第１のネット関数出力を第１の出力関数ノードに提供することと、
前記ＡＮＮ出力を生成するように構成される後続するＦＣ層の第２のネット関数ノードに前記第１の出力関数ノードの第１の出力関数出力を提供することと
を更に含む、請求項１５に記載の方法。
【請求項１８】
前記第１のネット関数ノードのうちの第１のネット関数ノードの完成を判断することと、
前記完成に応答して、前記第１のＦＣ層の出力関数を生成する第１の出力ネットワークノードと並行して前記第２のネット関数ノードの第２のネット関数を開始することと
を更に含む、請求項１７に記載の方法。