(57)【要約】      （修正有）【課題】チャネルの利用効率を向上させ、キャッシュメモリの占有量を低減することができ、演算効率を向上させることができる畳み込みニューラルネットワークの畳み込み層における演算を実行する方法及び装置を提供する。【解決手段】畳み込み層によって指定されたパディング方法に従って畳み込み層に提供される折り畳まれていない特徴データに対してパディングするステップと、パディングされた折り畳まれていない特徴データを幅と高さとの少なくとも一つの次元において折り畳んで折り畳まれた特徴データを生成するステップと、前記畳み込み層のオリジナル畳み込みカーネルを少なくとも一つの次元において折り畳んで、オリジナル畳み込みカーネルに対応する１つ又は複数の折り畳まれた畳み込みカーネルを生成するステップと、１つ又は複数の折り畳まれた畳み込みカーネルを利用して折り畳まれた特徴データに対して畳み込み演算を実行するステップとを含む。【選択図】図１
2019125352.tif 000002
【特許請求の範囲】
【請求項１】
畳み込みニューラルネットワークの畳み込み層における演算を実行する方法であって、
前記畳み込み層に提供される折り畳まれていない特徴データ及びオリジナル畳み込みカーネルを、ダイナミックランダムアクセスメモリ（ＤＲＡＭ）から読み取るステップと、
前記畳み込み層によって指定されたパディング方法に従って前記畳み込み層に提供される折り畳まれていない特徴データをパディングするステップと、
パディングされた折り畳まれていない特徴データを幅と高さの少なくとも一つの次元において折り畳んで、折り畳まれた特徴データを生成するステップと、
前記折り畳まれた特徴データをスタティックランダムアクセスメモリ（ＳＲＡＭ）に記憶するステップと、
前記オリジナル畳み込みカーネルを前記幅と高さの少なくとも一つの次元において折り畳んで、前記オリジナル畳み込みカーネルに対応する１つ又は複数の折り畳まれた畳み込みカーネルを生成するステップと、
前記１つ又は複数の折り畳まれた畳み込みカーネルを前記スタティックランダムアクセスメモリに記憶するステップと、
前記スタティックランダムアクセスメモリから前記折り畳まれた特徴データ及び前記１つ又は複数の折り畳まれた畳み込みカーネルを演算手段に読み込み、前記１つ又は複数の折り畳まれた畳み込みカーネルを使用して前記折り畳まれた特徴データに対して畳み込み演算を実行するステップと
を含む畳み込みニューラルネットワークの畳み込み層における演算を実行する方法。
【請求項２】
前記スタティックランダムアクセスメモリは複数のメモリ手段を含み、メモリ手段ごとにメモリアドレスを有し、前記折り畳まれた特徴データは、少なくとも２つのピクセルごとに同一の前記メモリ手段に記憶され、各前記折り畳まれた畳み込みカーネルは、少なくとも２つのピクセルごとに同一の前記メモリ手段に記憶される請求項１に記載の方法。
【請求項３】
前記計算手段は複数の乗算器及び複数の加算器を含む請求項１に記載の方法。
【請求項４】
前記パディングされた折り畳まれていない特徴データを前記少なくとも一つの次元において折り畳むことは、
第一の次元におけるNx枚ごとの連続したスライスを深さの方向で接合するように、前記第一の次元において、前記折り畳まれていない特徴データに対して、第一の折り畳みを行うステップをさらに含み、
前記第一の次元は幅と高さのいずれかであり、Nxは１より大きい整数であり、
前記パディングされた折り畳まれていない特徴データにおける前記第一の次元のifx×Nx+jfx番目のスライスのすべてのCx個のチャネルのデータが、前記第一の折り畳みの結果の前記第一の次元におけるifx番目のスライスのjfx×Cx番目のチャネルから始まる連続したCx個のチャネルのデータに対応し、ifxは０以上の整数で、jfxは０以上Nx未満の整数で、Cxは０より大きい整数である
請求項３に記載の方法。
【請求項５】
前記畳み込み演算を実行することは、
前記オリジナル畳み込みカーネルの前記第一の次元における第一ストライドがNxに等しくない場合、前記オリジナル畳み込みカーネルに対応するすべての折り畳まれた畳み込みカーネルを用いて、前記折り畳まれた特徴データの同一の部分を畳み込んでから、前記オリジナル畳み込みカーネルに対応するすべての折り畳まれた畳み込みカーネルを、前記第一の次元で前記第一ストライドに従って移動させ、前記前処理された折り畳まれた特徴データに対して前記すべての折り畳まれた畳み込みカーネルを用いて畳み込み演算を実行することは、前記複数の乗算器を利用して前記前処理された折り畳まれた特徴データにおける複数のピクセルのそれぞれが、複数の折り畳まれた畳み込みカーネルの対応するピクセルと乗算することを含み、又は
前記オリジナル畳み込みカーネルに対応する各折り畳まれた畳み込みカーネルをそれぞれ用いて、折り畳まれた特徴データの全体に対して畳み込み演算を実行し、折り畳まれた畳み込みカーネルごとの前記第一の次元におけるストライドは前記第一ストライドに等しく、及び
前記オリジナル畳み込みカーネルの前記第一の次元における第一ストライドがNxに等しい場合、折り畳まれた畳み込みカーネルごとの前記第一の次元におけるストライドは１である
ことを含む請求項４に記載の方法。
【請求項６】
前記オリジナル畳み込みカーネルを前記少なくとも一つの次元において折り畳むことは、
前記オリジナル畳み込みカーネルの前記第一の次元における開始境界においてkx×Sx個のゼロスライスをそれぞれパディングすることで、Ex個の第一の変換された畳み込みカーネルを生成するステップと、
ただし、Sxは前記オリジナル畳み込みカーネルの前記第一の次元における第一ストライドであり、ExはNxとSxによって決まる１以上の値であり、kxは０以上Ex未満の整数であり、
前記第一の次元におけるNx枚ごとの連続したスライスを深さ方向で接合するように、前記第一の次元において、第一の変換された畳み込みカーネルごとに第二の折り畳みを行い、第一の変換された畳み込みカーネルごとに対応する第一の折り畳まれた畳み込みカーネルを生成するステップとをさらに含み、
第一の変換された畳み込みカーネルごとの前記第一の次元におけるikx×Nx+jkx番目のスライスのすべてのCx個のチャネルのデータは、対応する第一の折り畳まれた畳み込みカーネルの前記第一の次元におけるikx番目のスライスのjkx×Cx番目のチャネルから始まる連続したCx個のチャネルのデータに対応し、ただし、ikxは０以上の整数で、jkxは０以上Nx未満の整数である
ことを含む請求項４に記載の方法。
【請求項７】
前記オリジナル畳み込みカーネルを前記少なくとも一つの次元において折り畳むことは、生成されたEx個の第一の折り畳まれた畳み込みカーネルを前記オリジナル畳み込みカーネルに対応する１つ又は複数の折り畳まれた畳み込みカーとして使用する
ことをさらに含む請求項６に記載の方法。
【請求項８】
パディングされた折り畳まれていない特徴データを前記少なくとも一つの次元において折り畳むことは、
第二次元におけるNy枚ごとの連続したスライスを深さ方向で接合するように、前記第二次元において前記第一の折り畳みの結果に対して第三の折り畳みを行うことをさらに含み、
前記第二次元は幅と高さの他方であり、Nyは１より大きい整数であり、
前記第一の折り畳みの結果における前記第二次元のify×Ny+jfy番目のスライスのすべてのCy個のチャネルのデータは、前記第三の折り畳みの結果における前記第二次元のify番目のスライスのjfy×Cy番目のチャネルから始まる連続したCy個のチャネルのデータに対応し、ifyは０以上の整数で、jfyは０以上Ny未満の整数で、Cyは０より大きい整数である
請求項６に記載の方法。
【請求項９】
前記オリジナル畳み込みカーネルを前記少なくとも一つの次元において折り畳むことは、
第一の折り畳まれた畳み込みカーネルごとの前記第二次元における開始境界において、ky×Sy個のゼロスライスをそれぞれパディングすることで、第一の折り畳まれた畳み込みカーネルごとに、Ey個の第二の変換された畳み込みカーネルをそれぞれ生成するステップと、
ただし、Syは前記オリジナル畳み込みカーネルの前記第二次元における第二ストライドであり、EyはNyとSyによって決まる１以上の値であり、kyは0以上Ey未満の整数であり、
前記第二次元におけるNy枚ごとの連続したスライスを深さ方向で接合するように、前記第二次元において、第二の変換された畳み込みカーネルごとに第四の折り畳みを行い、第二の変換された畳み込みカーネルに対し、対応する第二の折り畳まれた畳み込みカーネルを生成するステップとをさらに含み、
第二の変換された畳み込みカーネルごとの前記第二次元におけるiky×Ny+jky番目のスライスのすべてのCy個のチャネルのデータは、対応する第二の折り畳まれた畳み込みカーネルの前記第二次元におけるiky番目のスライスのjky×Cy番目のチャネルから始まる連続したCy個のチャネルのデータに対応し、ただし、ikyは０以上の整数で、jkyは０以上Ny未満の整数である
請求項８に記載の方法。
【請求項１０】
前記オリジナル畳み込みカーネルを前記少なくとも一つの次元において折り畳むことは、生成されたEx×Ey個の第二の折り畳まれた畳み込みカーネルを前記オリジナル畳み込みカーネルに対応する１つ又は複数の折り畳まれた畳み込みカーネルとして使用する
ことをさらに含む請求項９に記載の方法。
【請求項１１】
前記畳み込み演算を実行することは、
前記オリジナル畳み込みカーネルの前記第二次元における第二ストライドがNyに等しくない場合、前記オリジナル畳み込みカーネルに対応するすべての折り畳まれた畳み込みカーネルを用いて、前記折り畳まれた特徴データの同一の部分を畳み込んでから、前記オリジナル畳み込みカーネルに対応するすべての折り畳まれた畳み込みカーネルを、前記第二次元に前記第二ストライドに従って移動させるステップ、又は
前記オリジナル畳み込みカーネルに対応する各前記折り畳まれた畳み込みカーネルをそれぞれ用いて、折り畳まれた特徴データの全体に対して畳み込みを実行するステップをさらに含み、
前記折り畳まれた畳み込みカーネルごとの前記第二次元におけるストライドは前記第二ストライドに等しく、
前記オリジナル畳み込みカーネルの前記第二次元における第二ストライドがNyに等しい場合、折り畳まれた畳み込みカーネルごとの前記第二次元におけるストライドは１である
請求項８に記載の方法。
【請求項１２】
指令を実行するように構成される１つ又は複数のプロセッサを具備し、
前記指令が実行されると、前記１つ又は複数のプロセッサによって請求項１〜１１のいずれか１項に記載の方法が実行される
畳み込みニューラルネットワークの畳み込み層における演算を実行するための装置。
【請求項１３】
畳み込みニューラルネットワークの畳み込み層における演算を実行するための装置であって、
前記畳み込み層によって指定されたパディング方法に従って前記畳み込み層に提供される折り畳まれていない特徴データに対してパディングするように構成された前処理部と、
パディングされた折り畳まれていない特徴データを、幅と高さの少なくとも一つの次元において折り畳んで、折り畳まれた特徴データを生成するように構成された第一折り畳み部と、
前記畳み込み層のオリジナル畳み込みカーネルを前記少なくとも一つの次元において折り畳んで、前記オリジナル畳み込みカーネルに対応する１つ又は複数の折り畳まれた畳み込みカーネルを生成するように構成された第二折り畳み部と、
前記１つ又は複数の折り畳まれた畳み込みカーネルを用いて前記折り畳まれた特徴データに対して畳み込み演算を実行するように構成された演算部と
を含む畳み込みニューラルネットワークの畳み込み層における演算を実行するための装置。
【請求項１４】
前記請求項１〜１１のいずれか１項に記載の方法が実行されるによって得られたデータ構造のデータブロックが格納されたメモリ。
【請求項１５】
１つ又は複数のメモリ及び１つ又は複数のプロセッサを具備する装置によって実行されると、前記請求項１〜１１のいずれか１項に記載の方法が実行されるように構成されるコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、畳み込みニューラルネットワークの技術分野に関し、具体的には、畳み込みニューラルネットワークの畳み込み層における演算を実行する方法及び装置に関する。
【背景技術】
【０００２】
畳み込みニューラルネットワークに基づくディープラーニング技術は、画像認識、ビデオ分析、自然言語処理、補助運転などの様々な分野に広く利用されている。
【発明の概要】
【発明が解決しようとする課題】
【０００３】
畳み込みニューラルネットワークは、通常では演算の量は膨大であり、汎用型中央処理装置（ＣＰＵ）、グラフィックプロセッサ（ＧＰＵ）、専用アクセラレータなどのハードウェアを利用して畳み込みニューラルネットワークにおける演算を効率的に実行することが望まれる。
【課題を解決するための手段】
【０００４】
本開示は、畳み込みニューラルネットワークの畳み込み層における演算を実行する方法を提供する。該方法は、畳み込み層によって指定されたパディング方法に従って畳み込み層に提供される折り畳まれていない特徴データに対してパディングするステップと、パディングされた折り畳まれていない特徴データを幅と高さの少なくとも一つの次元において折り畳んで折り畳まれた特徴データを生成するステップと、前記畳み込み層のオリジナル畳み込みカーネルを少なくとも一つの次元において折り畳んで、オリジナル畳み込みカーネルに対応する１つ又は複数の折り畳まれた畳み込みカーネルを生成するステップと、１つ又は複数の折り畳まれた畳み込みカーネルを用いて折り畳まれた特徴データに対して畳み込み演算を実行するステップとを含む。
【０００５】
本開示は、畳み込みニューラルネットワークの畳み込み層における演算を実行する装置をさらに提供する。該装置は、前記方法を実行するように構成される１つ又は複数のプロセッサを含む。
【０００６】
本開示は、畳み込みニューラルネットワークの畳み込み層における演算を実行する装置をさらに提供する。該装置は、畳み込み層によって指定されたパディング方法に従って畳み込み層に提供される折り畳まれていない特徴データに対してパディングするように構成された前処理部と、パディングされた折り畳まれていない特徴データを、幅と高さの少なくとも一つの次元において折り畳んで折り畳まれた特徴データを生成するように構成された第一折り畳み部と、畳み込み層のオリジナル畳み込みカーネルを少なくとも一つの次元において折り畳んで、オリジナル畳み込みカーネルに対応する１つ又は複数の折り畳まれた畳み込みカーネルを生成するように構成された第二折り畳み部と、１つ又は複数の折り畳まれた畳み込みカーネルを使用して折り畳まれた特徴データに対して畳み込み演算を実行するように構成された演算部とを含む。
【０００７】
本開示は、計算手段によって実行されると前記方法が実行されるプログラム指令が記憶された非一時的記憶媒体をさらに提供する。
【発明の効果】
【０００８】
本開示に係る方法及び／又は装置によれば、チャネルの利用効率を向上させ、キャッシュメモリの占有量を低減することができ、演算効率を向上させることができる。
【図面の簡単な説明】
【０００９】
【図１】図１は、本開示の実施形態に係る畳み込みニューラルネットワークの畳み込み層における演算を実行する方法のフローチャートを示す。
【図２】図２は、本開示の実施形態に係る折り畳まれていない特徴データを折り畳む例を示す。
【図３】図３は、本開示の実施形態に係るオリジナル畳み込みカーネルを折り畳む例を示す。
【図４】図４は、本開示の実施形態に係る折り畳まれた畳み込みカーネルを用いて折り畳まれた特徴データに対して畳み込み演算を実行する例を示す。
【図５】図５は、本開示の実施形態に係る折り畳まれた畳み込みカーネルを用いて折り畳まれた特徴データに対して畳み込み演算を実行する例を示す。
【図６】図６は、本開示の実施形態に係る畳み込みニューラルネットワークの畳み込み層における演算を実行する装置のブロック図を示す。
【図７】図７は、本開示の実施形態に係る畳み込みニューラルネットワークの畳み込み層における演算を実行する装置のブロック図を示す。
【図８】図８は、本開示の実施形態に係る折り畳まれた特徴データに対して畳み込み演算を実行する装置を示す。
【図９】図９Ａ及び図９Ｂは、特徴データがスタチックランダムアクセスメモリ（ＳＲＡＭ）に記憶されている例を示す。
【発明を実施するための形態】
【００１０】
以下の記載において、添付図面を参照しつつ、本開示に係る例示的な実施形態を述べる。
【００１１】
本開示において、畳み込みニューラルネットワークに提供される特徴データは、幅、高さ及び深さ（すなわち異なるチャネル）などのような複数の次元を有するデータキューブとみなすことができる。該特徴データにおける一つのデータが、データキューブ内の一つの点にそれぞれ対応させることができる。畳み込みニューラルネットワークにおける畳み込み演算のための重みパラメータも畳み込みカーネルごとに一つのデータキューブとみなすことができる。
【００１２】
通常、データキューブを記述するときに、「スライス」という用語を使うことができる。データキューブの３つの次元を、それぞれ３次元デカルト座標系のＸ軸、Ｙ軸、Ｙ軸で示される次元に対応するとみなす場合、Ｘ軸で示される次元に対応する第一の次元における該データキューブのスライスが、Ｘ軸に直交する平面を用いて該データキューブ内のデータに対してサンプリングした結果を示す。該結果は、Ｙ軸及びＺ軸によって示される二次元平面内の矩形のデータである。形式的には、データキューブを点の集合とみなす場合、すなわち、
【数１】
2019125352.tif 000003
ただし、Ｗ、Ｈ、及びＤはいずれも０より大きい整数である場合、該データキューブのＸ軸で示される次元に対応する第一の次元におけるスライスは、
【数２】
2019125352.tif 000004
すべてのデータがゼロ（又はゼロに相当）であるスライスは、ゼロスライスと呼ばれることがある。
【００１３】
さらに、「ピクセル」という用語もデータキューブを記述するために用いられる。データキューブのピクセルは、同じ幅（Ｘ軸）及び高さ（Ｙ軸）の座標を有するデータキューブ内の点を含み、
【数３】
2019125352.tif 000005
と記される。１つのスライスは複数のピクセルを含み得ることは理解される。
【００１４】
本明細書において、便宜上、特徴データ又は畳み込みカーネルの特定の次元におけるデータも「スライス」で記述することがあり、例えば、幅の次元のスライス（「幅のスライス」と略称）、高の次元のスライス（「高さスライス」と略称）などである。
【００１５】
なお、データキューブＡの第一の次元（例えば幅の次元）でパディングし又は１つ以上のゼロスライスを追加することを言及する場合に、データキューブＡの第一の次元のある境界（例えば幅の次元の左側又は右側）に１つ又は複数のゼロスライスを追加することによって該データキューブＡの第一の次元の次元値（例えば幅）を増加させ、増加した各ゼロスライスが別の２つの次元（例えば、高さの次元及び深さの次元）においてオリジナルデータキューブＡと同一の次元値（例えば高さの値及び深さの値）を有することを意味するものとすることができる。
【００１６】
なお、データキューブＡの第一の次元及び第二の次元（例えば幅の次元及び高さの次元）でパディングし、又は１つ以上のゼロスライスを附加することに言及するとき、データキューブＡの第一の次元のある境界（例えば幅の次元の左側又は右側）に１つ又は複数のゼロスライスを追加することによって該データキューブＡの第一の次元の次元値（例えば幅）を増加させ、増加した各ゼロスライスが別の２つの次元（例えば、高さの次元及び深さの次元）においてオリジナルデータキューブＡと同一の次元値（例えば高さの値及び深さの値）を有することを意味するものとすることができる。そして、幅が増加した後に得られたデータキューブＡ’の第二の次元のある境界（例えば高さの次元の上側又は下側）に１つ又は複数のゼロスライスを追加することによって該データキューブＡ’の第二の次元の次元値（例えば高さ）を増加させ、増加した各ゼロスライスが別の２つの次元（例えば、幅の次元及び深さの次元）においてデータキューブＡ’と同一の次元値（例えば幅の値及び深さの値）を有することを意味するものとすることができる。
【００１７】
なお、データキューブＡの各スライスを深さ方向に揃える（align）ことを言及するとき、データキューブＡの所望の深さ値を有しないスライス（幅スライスであってもよく又は高さスライスであってもよい）に対して、パディングされたデータキューブＡの各スライスが所望の深さ値を有するように深さの次元にゼロ（又はゼロに相当する値）を追加することを意味するものとすることができる。
【００１８】
なお、データキューブＡの第一の次元及び／又は第二の次元においてパディングをすると言及するときは、特に明記しない限り、パディングされるゼロスライスの数はゼロ、又は一つ又は複数であってもよい。
【００１９】
畳み込みニューラルネットワークは、通常では演算の量は膨大であり、汎用型中央処理装置、グラフィックプロセッサ、専用のアクセラレータなどのハードウェアを利用して畳み込みニューラルネットワークにおける演算を効率的に実行することが望まれている。演算効率を向上させ、及び／又はハードウェア設計を簡素化させ、例えば、マルチチャネルをサポートするメモリを設計して、畳み込み演算を実行する加算器及び／又は乗算器にデータを提供するや、演算手段をマルチチャネルの演算を対応できるようにすることができる。
【００２０】
一般的に、畳み込みニューラルネットワークの入力層に提供される特徴データのチャネルの数は少い（通常、３つのチャネル又は１つのチャネル）可能性があり、かつ、畳み込みニューラルネットワークのフィードフォワード推論（feedforward reasoning）方向に、相対的に前寄りの畳み込み層への入力特徴データも、チャネルの数が少い可能性がある。チャネルを揃えさせるため、深さ又はチャネルの次元において、特徴データ及び対応する畳み込みカーネルにゼロスライスを追加する必要があるため、キャッシュや乗算器などのハードウェアリソースの使用率が低くなり、多くの無効な演算を導入してしまう可能性がある。
【００２１】
図１は、本開示の実施形態に係る畳み込みニューラルネットワークの畳み込み層における演算を実行させる例示方法１００を示し、該方法は、
該畳み込み層によって指定されたパディング方法に従って、畳み込み層に提供された折り畳まれていない特徴データをパディングするステップＳ１０１と、
パディングされた折り畳まれていない特徴データを、幅と高さの少なくとも一つの次元において折り畳んで、折り畳まれた特徴データを生成するステップＳ１０５と、
幅と高さの少なくとも一つの次元において該畳み込み層のオリジナル畳み込みカーネルを折り畳んで、該オリジナル畳み込みカーネルに対応する１つ又は複数の折り畳まれた畳み込みカーネルを生成するステップＳ１１０と、
生成した１つ又は複数の折り畳まれた畳み込みカーネルを用いて折り畳まれた特徴データに対して畳み込み演算を実行するステップＳ１１５とを含む。
【００２２】
本開示の実施形態に係る方法によれば、少なくとも、ハードウェア設計を簡素化させることができ、チャネル又はハードウェアリソースの使用率を向上させ、及び／又は演算の並列性を向上させることが可能である。
【００２３】
図１に示したように、本開示の実施形態に係る畳み込みニューラルネットワークの畳み込み層における演算を実行させる例示方法１００は、ステップＳ１０１から実行し、該畳み込み層によって指定されたパディング方法に従って、畳み込み層に提供された折り畳まれていない特徴データに対してパディングする。
【００２４】
畳み込みニューラルネットワークの１つの畳み込み層において、該畳み込み層に提供されたオリジナルの折り畳まれていない特徴データに対して、オリジナル折り畳まれていない特徴データと同一のチャネル数（即ち、同一の深さ）を有する畳み込みカーネルを設計し、該畳み込みカーネルを、幅方向にストライドSx（Sxは１以上）で、高さ方向にストライドSy（Syは１以上）でオリジナル折り畳まれていない特徴データにスライドし、オリジナルの折り畳まれていない特徴データのスライディングウィンドウ（sliding window）に対応する部分のデータを畳み込むことによって、チャネルの数が１である出力特徴データ（又は賦活値）を得る。該畳み込み層に対して該畳み込み層の重みパラメータになる複数の畳み込みカーネルを設計し、これらの畳み込みカーネルによって得られた複数の結果データを用いて、該畳み込み層に対して特徴データの異なるチャネルにおけるデータをそれぞれ出力することができる。
【００２５】
該畳み込み層に提供されたオリジナルの折り畳まれていない特徴データを正確に畳み込んで所望の幅及び高さを有する出力特徴データを得るために、畳み込みを実行する前に、指定されたパディング方法に基づいてオリジナルの折り畳まれていない特徴データの幅と高さの２つの次元の周り（幅の次元の開始境界及び終了境界(starting and ending boundaries)ならびに高さ次元の開始境界及び終了境界を含む）にゼロスライスをパディングすることができる。パディングされたゼロスライスの数は指定されたパディング方法により決まり、０、１又は複数であってもよい。
【００２６】
設計された畳み込みニューラルネットワークに対して、各畳み込み層において使用される重みパラメータ（畳み込みカーネルの数、畳み込みカーネルごとの幅、高さ、深さ、及び含まれている値を含む）及び該畳み込み層に提供されるオリジナル折り畳まれていない特徴データに対するパディング方法は公知のものである。これらの設定は、畳み込みニューラルネットワークを設計するときに畳み込みニューラルネットワークの設計者によって事前に指定されてもよく、又は学習によって設計され又は調整されてもよい。
【００２７】
本開示の実施形態の例示方法１００は、畳み込み層がオリジナルの折り畳まれていない特徴データを受けると、ステップＳ１０１において受けた入力特徴データを前処理する。すなわち、該畳み込み層によって指定されたパディング方法に基づいて受けた入力特徴データに対してパディングする。幅の次元の開始境界（左側）及び／又は幅の次元の終了境界（右側）及び／又は高さ次元の開始境界（上側）及び／又は高さ次元の終了境界（下側）を含む）ところに０、１又は複数のゼロスライスをパディングする別の実施形態では、該畳み込み層によって指定されたパディング方法に基づいて受けた入力特徴データの左側及び／又は上側へのパディング量（即ち、パディングされるゼロスライスの数）を決定し、そして期待される出力特徴データの幅及び／又は高さ、畳み込み演算用の畳み込みカーネルの幅及び／又は高さ、並びに畳み込みカーネルの幅及び／又は高さにおけるストライドに基づいて、受けた入力特徴データの右側及び／又は下側へのパディング量を推測し、相応のパディングを行っても良い。
【００２８】
そして、例示方法１００はステップＳ１０５に進み、パディングされた（前処理された）折り畳まれていない特徴データを、幅と高さの少なくとも一つの次元において折り畳む。
【００２９】
一実施形態において、ステップＳ１０１からのパディングされた折り畳まれていない特徴データＦＤに対して、幅と高さの一つの次元Ｄ１において、ＦＤのＤ１におけるNx枚（本明細書では「Ｄ１における接合の数」、文脈が明らかな場合には「接合の数」とも略称する）ごとの連続したスライスを深さ方向において接合するように、ＦＤを折り畳んでＦＤ’を生成し、これによって、該ＦＤの次元Ｄ１におけるifx×Nx+jfx番目のスライスのすべてのCx個のチャネルのデータを、ＦＤ'の次元Ｄ１におけるifx番目のスライスのjfx×Cx番目のチャネルから始まる連続したCx個のチャネルのデータに対応させる。ただし、Nxは１より大きい整数で、ifxは０以上の整数で、jfxは０以上Nx未満の整数で、Cxは０より大きい整数である。
【００３０】
一実施形態において、ＦＤ'が得られた後、幅と高さの別の次元Ｄ２において、ＦＤ'のＤ２におけるNy枚（本明細書では「Ｄ２における接合の数」、文脈が明らかな場合には「接合の数」とも略称する）ごとの連続したスライスを深さ方向において接合するように、ＦＤ'を折り畳んでＦＤ''を生成し、これによって、該ＦＤ'の次元Ｄ２におけるify×Ny+jfy番目のスライスのすべてのCy個のチャネルのデータを、ＦＤ''の次元Ｄ２におけるify番目のスライスのjfy×Cy番目のチャネルから始まる連続したCyつのチャネルのデータに対応させる。ただし、Nyは１より大きい整数で、ifyは０以上の整数で、jfyは０以上Ny未満の整数で、Cyは０より大きい整数である。
【００３１】
図２の上段は、パディングされた折り畳まれていない特徴データＦＤ１を幅方向において折り畳む例を示す。当該例では、パディングされた折り畳まれていない特徴データＦＤ１がオリジナルのデータスライスＳ１〜Ｓ６を含み、且つ左側及び右側がそれぞれパディング用のゼロスライスＰを有する。
【００３２】
図２の上段に示したように、パディングされた折り畳まれていない特徴データＦＤ１の幅の方向に２枚ごとの連続したスライス（即ち、左側のＰとＳ１、Ｓ２とＳ３、Ｓ４とＳ５、Ｓ６と右側のＰ）を深さ方向に接合することによって、ＦＤ１に対して幅方向の折り畳みを実現して、折り畳まれた特徴データＦＤ１’を生成する。
【００３３】
該例示では、折り畳まれた特徴データＦＤ１'は、幅が折り畳まれていない特徴データＦＤ１の半分になり、深さ（チャネルの数）がパディングされた折り畳まれていない特徴データＦＤ１の２倍になるため、チャネルの利用率を向上させることができ、幅方向における演算量を減らすことができる。 
【００３４】
図２の下段は、パディングされた折り畳まれていない特徴データＦＤ２を高さ方向において折り畳む例を示す。当該例では、パディングされた折り畳まれていない特徴データＦＤ２がオリジナルのデータスライスＳ１〜Ｓ４を含み、且つ上側及び右側にそれぞれパディング用のゼロスライスＰを有する。
【００３５】
図２の下段に示したように、パディングされた折り畳まれていない特徴データＦＤ２の高さの方向に２枚ごとの連続したスライス（即ち、上側のＰとＳ１、Ｓ２とＳ３）を深さ方向に接合することによって、ＦＤ２に対して高さ方向の折り畳みを実現して、折り畳まれた特徴データＦＤ２’を生成する。
【００３６】
図２に示した例では、ＦＤ２の高さスライスの総数が５であり、２の整数倍でないため、ＦＤ２の高さスライスにおいて、スライスＳ４に接合することができるほかのスライスがない。そのため、折り畳まれた特徴データＦＤ２'の高さスライスごとのチャネルの数が不一致になってしまう可能性がある。
【００３７】
このような場合、一実施形態では、折り畳む前に特徴データＦＤ２における高さスライスの総数をチェックしておいてもよい。該特徴データＦＤ２における高さスライスの総数が接合の数の整数倍ではない場合、ＦＤ２における高さスライスの総数が接合の数の整数倍になるように特徴データＦＤ２の下側に１つ又は複数のゼロスライスを予め附加することができる（図２に図示せず）。附加されたゼロスライスの数は接合の数より少なくしてもよく、必要に応じて、例えば後述の折り畳まれた畳み込みカーネルを用いて折り畳まれた特徴データに対して畳み込みを行うとき畳み込みのスライド窓が常に折り畳まれた特徴データの内部に位置させるように、接合の数より多くしてもよい。
【００３８】
別の実施形態において、折り畳みの際、パディングされた（前処理された）折り畳まれていない特徴データの折り畳む次元における最後のスライスについて、得られた折り畳まれた特徴データの各スライスのチャネル数が同一になるように該スライスに基づいて深さ方向で接合すげきか否かを判断する。接合する場合、例えば、特徴データＦＤ２におけるＳ４のようなスライスに対して、余分の１つ又は複数のゼロスライス（例えば、図２に示した特徴データＦＤ２'におけるＡ）を、該スライスと深さ方向で接合してもよい。
【００３９】
別の実施形態において、折り畳んだ後に、得られた折り畳まれた特徴データに対して余分の１つ又は複数のゼロスライス（例えば、図２に示したＦＤ２'におけるＡ）を附加することができ、それにより、附加した折り畳まれた特徴データの各高さスライスがチャネルにおいて揃えるようにする。
【００４０】
別の実施形態において、ハードウェアの特性及び処理能力を直接利用することも可能である。例えば、ハードウェアがチャネル整列の（チャネルを揃える）機能を備えてもよい場合、実際のデータに占有されていないチャネルは、ハードウェアは自動的にゼロ値を有するとみなすことができる。このような場合、折り畳まれた特徴データ（例えば図２に示したＦＤ２'）におけるスライスごとのチャネルはハードウェアによって自動的に揃えるようになる。
【００４１】
なお、幅方向における折り畳みには、同様に、折り畳まれた特徴データの最後の幅スライスのチャネルの数とその他の幅スライスのチャネルの数と一致しない場合がある。同様に、折り畳む前、折り畳む手順の途中、折り畳む後に、パディングされた折り畳まれていない特徴データ又は得られた折り畳まれた特徴データに対して処理し、又はハードウェアの特性を利用して自動的に処理し、最終的に得られた特徴データにおける幅スライスごとのチャネルを揃うようにする。
【００４２】
図２の下段の例示では、折り畳まれた特徴データＦＤ２'の高さがパディングされた折り畳まれていない特徴データＦＤ２の、高さの半分になり、深さ（チャネルの数）がパディングされた折り畳まれていない特徴データＦＤ２の２倍になるため、チャネルの利用率を向上させることができ、高さ方向の演算量を減らすことができる。 
【００４３】
また、前述のとおり、折り畳まれた特徴データＦＤ１'を高さ方向においてさらに折り畳んでもよく、折り畳まれた特徴データＦＤ２'を幅方向においてさらに折り畳んでもよい。引き続きの折り畳みと最初の折り畳みとの相違点次元及び対象においてのみであるため、詳細は繰り返し説明しない。
【００４４】
なお、本開示に係る実施形態の方法は、オリジナルの折り畳まれていない特徴データに対するパディングの方法、オリジナルの折り畳まれていない特徴データの幅のスライス又は高さスライスの数及び幅の折り畳み又は高さの折り畳みのための接合の数に限られるものではないことは理解される。
【００４５】
例えば、接合の数Nx又はNｙは例えば３、４であってもよく、又は１より大きい如何なる整数であってもよい。一実施形態において、ハードウェア（例えばマルチチャネルを対応できる記憶装置又は演算装置）が対応できるチャネルの数に基づいて、幅の折り畳み又は高さの折り畳みのための接合の数Nx又はNｙを設定することができる。例えば、ハードウェアの対応できるチャネルの数がＴＣである場合、
【数４】
2019125352.tif 000006
かつNxとNyのいずれも１より大きくになるようにNxとNyの値を選択することができる。
【００４６】
例示方法１００のステップＳ１１０において、畳み込み層のオリジナル畳み込みカーネルを幅及び高さの少なくとも一つの次元において折り畳んで、該オリジナル畳み込みカーネルに対応する１つ又は複数の折り畳まれた畳み込みカーネルを生成する。一つの重みパラメータは１つ又は複数の畳み込みカーネルを含むことができ、畳み込みカーネルごとに同一の幅及び高さを有し、且つ通常、該層に提供された特徴データと同一の深さ（即ちチャネルの数）を有する。したがって、以下の説明は、重みパラメータのオリジナル畳み込みカーネルのうちのいずれかに適用することが理解される。言い換えれば、一つの畳み込み層の重みパラメータが複数の畳み込みカーネルを含む場合、各畳み込みカーネルに対して以下の処理を実行することができる。
【００４７】
一実施形態において、ステップＳ１０５に次元Ｄ１（幅と高さの一つ）において特徴データを折り畳んだ場合、ステップＳ１１０において、オリジナル畳み込みカーネルＫの次元Ｄ１の開始境界においてkx×Sx個のゼロスライスをそれぞれパディングすることで、オリジナル畳み込みカーネルＫに対応する１つ又は複数の変換された畳み込みカーネルK[kx]を生成し、ただし、Sxはオリジナル畳み込みカーネルＫの次元Ｄ１におけるストライドであり、kxは０以上の整数である。例えば、０個のゼロスライス、Sx個のゼロスライス、及び2×Sx個のゼロスライスをそれぞれパディングすることによって、オリジナル畳み込みカーネルＫに対応する３つの変換された畳み込みカーネルを生成することができる。
【００４８】
変換された畳み込みカーネルの数を制御するために、kxの最大値を設定することができる。例えば、kx<Exにすることができ、ここで、Exを、SxとNxの最小公倍数をSxで除算して得られた結果値、又はNxを、NxとSxの最大公約数で除算して得られた結果値として決定してもよく、又はSx=1の場合もしくはSxとNxが互い素である場合、Nxに等しいとして決定してもよい。したがって、オリジナル畳み込みカーネルＫに対応するEx個の変換された畳み込みカーネルK[kx]を生成することができる。
【００４９】
そして、ステップＳ１１０において、各変換された畳み込みカーネルK[kx］に対して、次元Ｄ１におけるNx枚ごとの連続したスライスを深さ方向において接合するように、Ｄ１においてK[kx]ごとに、それぞれ折り畳んで、変換された畳み込みカーネルK[kx］ごとに、対応する折り畳まれた畳み込みカーネルK'[kx]を生成することによって、K'[kx]ごとの次元Ｄ１におけるikx×Nx+jkx番目のスライスのすべてのCx個のチャネルのデータは、K[kx]の次元Ｄ１におけるikx番目のスライスのjkx×Cx番目のチャネルから始まる連続したCx個のチャネルのデータに対応するようにする。ただし、ikxは０以上の整数で、jkxは０以上Nx未満の整数である。
【００５０】
生成した変換された畳み込みカーネルK[kx]は、次元Ｄ１において異なる次元値（例えば、Ｄ１が幅である場合は幅の値）を有する可能性があり、又は１つ以上の変換された畳み込みカーネルK[kx]が存在する可能性があり、次元Ｄ１における次元値はNxの整数倍ではないため、対応するK'[kx]のスライスが深さにおいて揃えっていない。
【００５１】
一実施形態において、前述した折り畳む前、折り畳む途中、折り畳む後に特徴データに対するパディング又は追加と同様に、全ての変換された畳み込みカーネルK[kx]が次元Ｄ１において同一の次元値を有し、かつ全ての折り畳まれた畳み込みカーネルK'[kx]のスライスが深さで揃うように、折り畳む前、折り畳む途中、折り畳む後に畳み込みカーネルK[kx]を処理してもよい。
【００５２】
別の実施形態において、さらに、Ex、Sx、Nx及びオリジナル畳み込みカーネルＫの次元Ｄ１における次元値Vxに基づいて、変換された畳み込みカーネルK[kx]ごとの期待次元値EVxを決定しても良い。例えば、式
【数５】
2019125352.tif 000007
変換された畳み込みカーネルK[kx]の次元Ｄ１における次元値がEVxより小さい場合、変換された畳み込みカーネルK[kx]のＤ１における終了境界にゼロスライスを附加することで調整したK[kx]によって、調整後の変換された畳み込みカーネルK[kx]のＤ１における次元値がEVxに等しくなる。そして、次元Ｄ１において調整後の変換された畳み込みカーネルK[kx]を折り畳んで、対応する折り畳まれた畳み込みカーネルK'[kx]を生成することができる。
【００５３】
別の実施形態では、ステップＳ１０５において、次元Ｄ２（幅と高さの他方）においてNyに従って、すでに次元Ｄ１にNXに従って折り畳まれた特徴データに対してさらに折り畳みを行う場合、ステップＳ１１０において、Ｅｘ個の折り畳まれた畳み込みカーネルK'[kx]（ただし、0≦kx<Ex）を得た後、Ｄ１における折り畳みＫと同様に、Ｄ２において折り畳まれた畳み込みカーネルK'[kx]ごとに折り畳みを行う。
【００５４】
例えば、K'[kx]の次元Ｄ２における開始境界においてkx×Sx個のゼロスライスをそれぞれパディングすることで、K'[kx]に対応する１つ又は複数の変換された畳み込みカーネルK'[kx,ky］を生成し、ただし、Syはオリジナル畳み込みカーネルＫの次元Ｄ２におけるストライドであり、kyは０以上の整数である。同様に、変換された畳み込みカーネルの数を制御するために、kyの最大値を設定することができる。例えば、ky<Eyにし、ここで、Eyを、SyとNyの最小公倍数をSyで除算して得た結果値、又はNyを、NyとSyの最大公約数で除算して得た結果値として決定してもよく、又はSy=1の場合もしくはSyとNyが互い素である場合、EyはNyに等しいとして決定してもよい。したがって、K'[kx]に対応するEy個の変換された畳み込みカーネルK'[kx,ky]、あるいはオリジナル畳み込みカーネルKに対応するEx×Ey個の変換された畳み込みカーネルK'[kx,ky]を生成することができる。
【００５５】
そして、ステップＳ１１０において、各変換された畳み込みカーネルK'[kx,ky]に対して、次元Ｄ２におけるNy枚ごとの連続したスライスを深さ方向で接合するように、Ｄ２においてK'[kx,ky]ごとに折り畳みをそれぞれ行い、各変換された畳み込みカーネルK'[kx,ky]に対して対応する折り畳まれた畳み込みカーネルK''[kx,ky]を生成し、K''[kx,ky]ごとの次元Ｄ２におけるiky×Ny+jky番目のスライスのすべてのCy個のチャネルのデータが、K'[kx,ky ]の次元Ｄ２におけるiky番目のスライスのjky×Cy番目のチャネルから始まる連続したCy個のチャネルのデータに対応するようにする。ただし、ikyは０以上の整数で、jkyは０以上Ny未満の整数である。
【００５６】
同様に、Ey、Sy、Ny及びオリジナル畳み込みカーネルKの次元Ｄ２における次元値Vyから、変換された畳み込みカーネルK'[kx,ky]ごとの次元Ｄ２における期待次元値EVyを決定してもよい。例えば、式
【数６】
2019125352.tif 000008
に基づいて変換された畳み込みカーネルK'[kx,ky]ごとの次元Ｄ２における期待次元値EVyを決定することができる。変換された畳み込みカーネルK'[kx,ky]の次元Ｄ２における次元値がEVyより小さい場合、変換された畳み込みカーネルK'[kx,ky]のＤ２における終了境界にゼロスライスを附加して調整したK'[kx,ky]によって、調整後の変換された畳み込みカーネルK'[kx,ky]の次元値がEVyに等しくなる。そして、次元Ｄ２において調整後の変換された畳み込みカーネルK'[kx,ky]を折り畳んで、対応する折り畳まれた畳み込みカーネルK''[kx,ky］を生成することができる。
【００５７】
図３は、図２の折り畳まれた特徴データＦＤ１'に応じてオリジナル畳み込みカーネルＫを幅においてを折り畳む例を示した。この例では、オリジナル畳み込みカーネルＫの幅Vxが３（幅スライスKS1乃至KS3を含む）であり、幅のストライドSxが１であると仮定すると、幅の次元においてオリジナル畳み込みカーネルＫに対応する変換された畳み込みカーネルの数が２であると特定できる。そして、オリジナル畳み込みカーネルＫの左側に０個のゼロスライスをパディング又は附加することによって、変換された畳み込みカーネルＫａを生成し、オリジナル畳み込みカーネルＫの左側に１個のゼロスライスＫＰをパディング又は追加することによって、変換された畳み込みカーネルＫbを生成することができる。次に、変換された畳み込みカーネルＫａ及びＫｂのそれぞれを幅に折り畳んで、２つの折り畳まれた畳み込みカーネルＫａ'及びＫｂ'が生成される。
【００５８】
図３に示したように、変換された畳み込みカーネルＫａの幅は３であり、折り畳まれた畳み込みカーネルＫａ'の各幅のスライスは深さに揃っていない。上述のように、折り畳む前、折り畳む途中、折り畳む後にゼロスライスＫＡを補充することによって、折り畳まれた畳み込みカーネルＫａ'の各の幅スライスを深さ方向で揃うようにする。またはハードウェアの特性を利用して、折り畳まれた畳み込みカーネルＫａ'の各幅のスライスを深さにおいて自動的に揃えるようにしてもよい。例えば、折り畳む前に、変換された畳み込みカーネルＫａ及びＫｂの期待される次元値又は期待される幅は
【数７】
2019125352.tif 000009
であると決定し、幅の値が４未満のＫaの右側に１つのゼロスライスＫＡをパディング又は附加してもよい（図３に図示せず）。
【００５９】
図３は、オリジナル畳み込みカーネルを幅方向に折り畳む例しか示していいない。オリジナル畳み込みカーネルを高さ方向において折り畳むこと、高さ方向において２つの折り畳まれた畳み込みカーネルＫａ'、Ｋｂ'をさらに折り畳むこと、オリジナル畳み込みカーネルを高さ方向に折り畳んで生成されたオリジナル畳み込みカーネルを幅方向にさらに折り畳むことは、図３の例示と類似しているので、詳細は繰り返し説明しない。
【００６０】
図１では、ステップＳ１０５の後にステップＳ１１０を示しているが、これに限られず、ステップＳ１１０は、ステップＳ１０５の前に、又はステップＳ１１０と並行して実行してもよいことが理解される。
【００６１】
幅及び高さのうちの一つの次元Ｄ１においてNxに従って折り畳みを行っただけの場合、ステップＳ１０５においてパディングされた折り畳まれていない特徴データＦＤをＤ１において折り畳みを行い、折り畳まれた特徴データＦＤ'を取得し、ステップＳ１１０において、次元Ｄ１においてオリジナル畳み込みカーネルＫを折り畳んで、例えば、Ex個の折り畳まれた畳み込みカーネルK'[kx]（ただし、0≦kx<Ex）を得る。そして、例示方法１００がステップＳ１１５へ進み、得られたＥｘ個の折り畳まれた畳み込みカーネルK'[kx]を用いて折り畳まれた特徴データＦＤ'に対して畳み込み演算を実行する。
【００６２】
この場合、オリジナル畳み込みカーネルＫが次元Ｄ１におけるストライドSxの値がNxに等しい場合、折り畳まれた畳み込みカーネルK'[kx]ごとの次元Ｄ１におけるストライドは１であり、そうでなければ、折り畳まれた畳み込みカーネルK'[kx］ごとの次元Ｄ１におけるストライドはSxである。また、折り畳まれた畳み込みカーネルK'[kx]ごとの幅及び高さの他方の次元Ｄ２におけるストライドは、オリジナル畳み込みカーネルＫが次元Ｄ２におけるストライドSyである。
【００６３】
次元Ｄ１での折り畳みのほかに、さらにＤ２おいてNYに従って折り畳みを行う場合、ステップＳ１０５においてＤ２においてＦＤ'をさらに折り畳みを行い、折り畳まれた特徴データＦＤ''を取得し、ステップＳ１１０において、Ｄ１において、Ex個の折り畳まれた畳み込みカーネルK'[kx]を折り畳んでEx×Ey個の折り畳まれた畳み込みカーネルK''[kx,ky]（ただし、0≦ky<Ey）を得る。そして、例示方法１００がステップＳ１１５へ進み、得られたＥx×Ey個の折り畳まれた畳み込みカーネルK''[kx,ky]を用いて、折り畳まれた特徴データＦＤ''に対して畳み込み演算を行う。
【００６４】
この場合、オリジナル畳み込みカーネルＫが次元Ｄ１におけるストライドSxの値がNxに等しい場合、折り畳まれた畳み込みカーネルK''[kx,ky]ごとの次元Ｄ１におけるストライドは１であり、そうでなければ、折り畳まれた畳み込みカーネルK''[kx,ky]ごとの次元Ｄ１におけるストライドはSxである。また、オリジナル畳み込みカーネルＫが次元Ｄ２におけるストライドSyがNyに等しい場合、折り畳まれた畳み込みカーネルK''[kx,ky]ごとの次元Ｄ２におけるストライドは１であり、そうでなければ、折り畳まれた畳み込みカーネルK''[kx,ky]ごとの次元Ｄ2におけるストライドはSyである。
【００６５】
一実施形態では、ステップＳ１１５において、すべての折り畳まれた畳み込みカーネルを用いて、折り畳まれた特徴データの同一の部分を畳み込んでから、次元Ｄ１又はＤ２における折り畳まれた畳み込みカーネルのＤ１におけるストライドに従って、又はＤ２におけるストライドに従って、すべての折り畳まれた畳み込みカーネルを移動させ、折り畳まれた特徴データの別の部分に対して畳み込みを実行することができる。折り畳まれた特徴データすべての部分に対して畳み込みを行った後、最終的な出力特徴データを得ることができる。
【００６６】
例えば、図４に示したように、図３に示された折り畳まれた畳み込みカーネルＫａ'を用いて、図２に示された折り畳まれた特徴データＦＤ１'内のP+S1スライス及びS2+S3スライスに対して畳み込みを実行することによって、出力特徴データＦＤ１''内の部分値Ｏ１を取得し、折り畳まれた畳み込みカーネルＫｂ'を用いて折り畳まれた特徴データＦＤ１'内のP+S1スライス及びS2+S3スライスに対して畳み込みを実行することによって、出力特徴データＦＤ１''内の部分値Ｏ２を取得することができる。次に、折り畳まれた畳み込みカーネルＫａ'及びＫｂ'を幅において移動し、折り畳まれた特徴データＦＤ１'におけるS2+S3スライス及びS4+S5スライスに対して畳み込みを実行することによって、出力特徴データＦＤ１''における部分値Ｏ３及びＯ４を取得する。同様に、出力特徴データＦＤ１''の部分値Ｏ５及びＯ６も取得する。
【００６７】
他の実施形態では、各折り畳み畳み込みカーネルをそれぞれ用いて、折り畳まれた特徴データ全体に対して畳み込みを行うことができる。この場合、ハードウェア用の畳み込み指令を修正する必要はないが、１つのオリジナル畳み込みカーネルが複数の折り畳まれた畳み込みカーネルに対応する場合、各折り畳まれた畳み込みカーネルを使用して得られた部分的な結果が複数のチャネルに分布することになる。出力特性データを畳み込みニューラルネットワークの次の層に提供する前、又は畳み込みニューラルネットワーク全体の最終出力とする前に、１つのチャネルで完全な出力結果を得るように、異なるチャネルに分布している部分的な結果を再編成又は展開してもよい。
【００６８】
例えば、図５に示したように、図３に示された折り畳まれた畳み込みカーネルＫａ'を用いて図２に示された折り畳まれた特徴データＦＤ１'全体に対して畳み込みを実行し、出力特徴データＦＤ１'における部分値Ｏ１、Ｏ３及びＯ５を取得し、次に折り畳まれた畳み込みカーネルＫｂ'を用いて折り畳まれた特徴データＦＤ１'全体に対して畳み込みを実行し、出力特徴データＦＤ１''における部分値Ｏ２、Ｏ４及びＯ６を取得する。そして、取得された各部分値をまとめて、完全な出力特徴データＦＤ１''を取得してもよい。
【００６９】
図４及び図５は、幅において畳み込みを実行するプロセスの例しか示していないが、高さにおいて畳み込みを実行する手順も同様であり、その詳細は繰り返し説明しない。
【００７０】
特徴データ及び畳み込みカーネルを折り畳んで、得られた折り畳まれた特徴データ及び折り畳まれた畳み込みカーネルを用いて畳み込み演算を実行することにより、チャネルの利用効率を向上させ、キャッシュメモリの占有量を低減することができ、演算効率を向上させることができる。
【００７１】
例えば、プロセッサ（例えば、畳み込み演算用の乗算器のアレイ）が一度に３２チャネルを処理することができると仮定すると、5×5の畳み込みカーネルを用いて720×1280のＲＧＢ画像（チャネル数は３）に対して畳み込み（幅及び高さのストライドはいずれも１である）を実行する場合、従来の畳み込み（即ち、オリジナル畳み込みカーネルを用いてオリジナル折り畳まれていない特徴データに対して畳み込みを実行する）、幅方向の折り畳み畳み込み（即ち、２枚のスライスごとに幅方向において特徴データ及びオリジナル畳み込みカーネルを折り畳んでから、畳み込みを行う）、及び幅及び高さ方向の折り畳み畳み込み（即ち、２枚のスライスごとに幅方向及び高さ方向のそれぞれに特徴データ及びオリジナル畳み込みカーネルを折り畳んでから、畳み込みを実行する）をそれぞれ使用する演算量の比較を以下の表１に示す。
【００７２】
【表１】
2019125352.tif 000010
【００７３】
表１の例示されたデータによれば、特徴データ及び畳み込みカーネルを折り畳んで得られた折り畳まれた特徴データ及び折り畳まれた畳み込みカーネルを用いて畳み込み演算を実行することにより、演算量を著しく低減させることができ（例えば、幅及び高さ方向の折り畳み畳み込みに係る演算量は、従来の畳み込みの演算量の３６％に過ぎない）、有効演算率を著しく向上させることができる（例えば、従来の畳み込みに対して幅及び高さ方向の折り畳みによる畳み込みに係る有効演算率は約４倍高くなる）。
【００７４】
図６及び図７は、本開示に係る実施形態による畳み込みニューラルネットワークの畳み込み層における演算を実行する装置のブロック図を示す。
【００７５】
図６に示すように、例示装置６００は、一以上のプロセッサ６１０を含むことができる。プロセッサ６１０は、汎用ＣＰＵ、ＧＰＵ、専用ニューラルネットワークプロセッサ又はアクセラレータなどのようなデータ処理能力及び／又は指令の実行能力を有する任意の形態の処理手段であってもよい。例えば、プロセッサ６１０は、例えば本開示に係る実施形態により特徴データ及び畳み込みカーネルを折り畳んで、得られた折り畳まれた特徴データ及び折り畳まれた畳み込みカーネルを用いて畳み込み演算を実行する方法を実行することができる。さらに、プロセッサ６１０は、装置６００における他の部品を制御して、所望の機能を実行することもできる。
【００７６】
プロセッサ６１０は、バスシステム及び／又は他の形態の接続機構（図示せず）を介して、メモリ６２０及びＩ／Ｏインターフェイス６３０に接続することができる。
【００７７】
メモリ６２０は、例えば、揮発性メモリ及び／又は不揮発性メモリなどの様々なコンピュータ読み書き可能な記憶媒体を含むことができる。揮発性メモリは、ランダムアクセスメモリ（ＲＡＭ）及び／又はキャッシュメモリ（キャッシュ）などを含むことができる。不揮発性メモリは、例えば、読み取り専用メモリ（ＲＯＭ）、ハードディスク、フラッシュメモリ等を含むことができる。読み書き可能な記憶媒体は、例えば、電気、磁気、光、電磁気、赤外線、又は半導体のシステム、装置、デバイス、又はそれらの任意の組み合わせを含むことができるがこれらに限らない。例えば、ニューラルネットワーク専用プロセッサに合わせて使用する場合、メモリ６２０は、専用プロセッサが搭載されるチップ上のＲＡＭであってもよい。メモリ６２０は、本開示に係る実施形態による特徴データ及び畳み込みカーネルを折り畳んで得られた折り畳まれた特徴データ及び折り畳まれた畳み込みカーネルを用いて畳み込み演算を実行する方法を、装置６００に実行させるためのプログラム指令を含むことができる。
【００７８】
Ｉ／Ｏインターフェイス６３０は、プロセッサ６１０にパラメータ又はデータを提供し、かつプロセッサ６１０によって処理された結果データの出力のために用いることができる。
【００７９】
図７に示すように、例示装置７００は、前処理手段７１０、第１の折り畳み手段７２０、第２の折り畳み手段７３０、及び演算手段７４０を含むことができる。
【００８０】
前処理手段７１０は、畳み込み層によって指定されたパディング方法に従って、該畳み込み層に提供された折り畳まれていない特徴データに対してパディングをするように構成することができる。一実施形態では、前処理手段７１０は、例えば図１に示した例示方法１００のステップＳ１０１を実行するように構成してもよい。
【００８１】
第１の折り畳み手段７２０は、パディングされた折り畳まれていない特徴データを、幅と高さの少なくとも一つの次元において折り畳んで、折り畳まれた特徴データを生成するように構成することができる。一実施形態では、第１の折り畳み手段７２０は、例えば図１に示した例示方法１００のステップＳ１０５を実行するように構成してもよい。
【００８２】
第２の折り畳み手段７３０は、少なくとも一つの次元において該畳み込み層のオリジナル畳み込みカーネルを折り畳んで、該オリジナル畳み込みカーネルに対応する一つ又は複数の折り畳まれた畳み込みカーネルを生成するように構成することができる。一実施形態では、第２の折り畳み手段７３０は、例えば図１に示した例示方法１００のステップＳ１１０を実行するように構成してもよい。
【００８３】
演算手段７４０は、生成した折り畳まれた畳み込みカーネルを利用し生成された折り畳まれた特徴データに対して畳み込み演算を実行するように構成することができる。一実施形態では、演算手段７４０は、例えば図１に示した例示方法１００のステップＳ１１５を実行するように構成してもよい。
【００８４】
なお、図６及び図７に示された装置６００及び７００は単なる例示であって限定的なものではない。必要に応じて、本開示に係る実施形態に係る装置は、その他の部材及び／又は構造を有することができる。
【００８５】
図８は、本開示に係る実施形態による折り畳まれた特徴データに対して畳み込み演算を実行する装置のブロック図を示す。
【００８６】
図８に示すように、装置１１００は、メインプロセッサ１１１０、ダイナミックランダムアクセス（ＤＲＡＭ）１１２０、及び畳み込みエンジン１１３０を含むことができる。これらの手段はバスシステム１１０１を介して互いに接続されている。
【００８７】
メインプロセッサ１１１０は、ＡＲＭプロセッサ、汎用ＣＰＵなどのような任意の形態の処理手段であってもよい。メインプロセッサ１１１０は、プログラム指令を実行させることで、装置１１００における他の部品例えばＤＲＡＭ１１２０及び畳み込みエンジン１１３０を制御する。
【００８８】
ＤＲＡＭ１１２０は、ＤＤＲ ＲＡＭ又は他の任意の形態のＤＲＡＭであってもよい。磁気ハードディスクなどの不揮発性メモリから読み出されたデータが一時的に記憶されてもよい。例えば、前述した畳み込みニューラルネットワークの畳み込み層における折り畳まれていない特徴データ及びオリジナル畳み込みカーネル、又はメインプロセッサ１１１０によって実行されるプログラム指令などがＤＲＡＭ１１２０に一時的に記憶することができる。
【００８９】
畳み込みエンジン１１３０は、折り畳まれていない特徴データ及びオリジナル畳み込みカーネルをＤＲＡＭ１１２０から読み出して、前述した方法のいずれか１つに従って畳み込み演算を実行する。畳み込みエンジン１１３０は、チップとして構成されてもよいし、その構成及び動作は、以下で詳細に説明する。
【００９０】
畳み込みエンジン１１３０は、スタティックランダムアクセスメモリ（ＳＲＡＭ）などの入力バッファ１１３１を含むことができる。折り畳まれていない特徴データ及びオリジナル畳み込みカーネルは、ＤＲＡＭ１１２０から読み出され、ＳＲＡＭ１１３１に記憶されてもよい。折り畳まれていない特徴データ及びオリジナル畳み込みカーネルは同一又は異なるＳＲＡＭ１１３１に記憶されてもよい。折り畳まれていない特徴データ及びオリジナル畳み込みカーネルは、ＳＲＡＭ１１３１に記憶する前又は記憶しているとき、図１〜３を参照して上述したパディング及び折り畳みを実行しても良い。
【００９１】
一実施形態では、折り畳まれていない特徴データのパディング、折り畳み及び記憶は、同一のステップで実行されてもよい。例えば、ＤＲＡＭ１１２０から読み出した折り畳まれていない特徴データをＳＲＡＭ１１３１に書き込むとき、折り畳まれていない特徴データのデータストリームに附加のゼロ値を挿入して所定の書式で該パディングされた折り畳まれていない特徴データをＳＲＡＭ１１３１書き込むことが可能である。これにより、ＳＲＡＭ１１３１に記憶されている特徴データがパディングされて折り畳まれたものになる。
【００９２】
図９Ａ及び図９Ｂは、特徴データＦＤ１及び図２におけるＦＤ１'がＳＲＡＭ１１３１に記憶されている例を示す図である。
【００９３】
図９Ａに示したように、ＳＲＡＭ１１３１は、複数の列１１４０に配列されている複数のメモリ手段１１４１を含み、各列１１４０は「スライス」とも呼ばれる。各ＳＲＡＭのスライス１１４０は列方向に連続的にアドレス指定され（addressing）、幅方向で複数のビットを格納することができる。メモリ手段１１４１ごとに複数のビットを格納する複数のメモリセル（図示せず）を含むことができる。例えば、メモリ手段１１４１ごとに、８ビット、１６ビット又はそれ以上を格納することができる。各メモリ手段１１４１に格納されるビット数はデータ幅とも呼ばれる。メモリ手段１１４１はそれぞれアドレスを有し、ＳＲＡＭスライス１１４０は列方向に連続的にアドレス指定される。メモリ手段１１４１ごとの複数のメモリセルは同期して読み書きすることができ、複数のＳＲＡＭスライス１１４０は同期して読み書きすることができるので、ＳＲＡＭ１１３１のデータ幅はB×Nに等しくなる。ただし、ＢはＳＲＡＭのスライス１１４０（又は記憶手段１１４１）のデータ幅であり、ＮはＳＲＡＭ１１３１に含まれるスライス１１４０の数である。
【００９４】
メモリ手段１１４１ごとにデータ幅が６４であり、８のデータを記憶することができると仮定する。オリジナル特徴データＦＤは折り畳まれていないので、図１２Ａに示したように、メモリ手段１１４１ごとに１つのピクセル（３チャネル、３データ）しか格納されず、メモリ手段１１４１の残りの４０（６４−３×８）ビットは５つのゼロ値でパディングすることができる。折り畳まれた特徴データＦＤ'については、図９Ｂに示したように、メモリ手段１１４１ごとに２つのピクセルを格納でき、各ピクセルの末尾にはそれぞれ１つのゼロ値だけパディングする。別の例として、代わりに、第２のピクセルの末尾にだけ２つのゼロ値をパディングしてもよい。メモリ手段１１４１がより広いデータの幅を有すると、各メモリ手段１１４１においてより多くのピクセルを格納することができる。メモリ手段１１４１ごとに２つ以上のピクセルを格納することにより、１つのメモリ手段１１４１に１つのピクセルのみを格納すると比較して、１周期でより多くのデータを畳み込み演算を実行するために後述の計算手段１１３３に提供することができる。それにより、装置１１００の計算効率が向上される。
【００９５】
同様に、１つ又は複数のオリジナル畳み込みカーネルをＤＲＡＭ１１２０から読み出してＳＲＡＭ１１３１に記憶することができる。オリジナル畳み込みカーネルは前述のようにパディングして畳み込んで、１つ又は複数の折り畳まれた畳み込みカーネルを得る。１つ又は複数の折り畳まれた畳み込みカーネルのＳＲＡＭ１１３１への記憶は、ＳＲＡＭの異なるスライス１１４０に格納される以外に、図９Ａ及び図９Ｂを参照して上述した折り畳まれた特徴データの記憶と同様である。ここで、折り畳まれた畳み込みカーネルのＳＲＡＭ１１３１における格納の詳細の繰り返しは省略する。なお、ＳＲＡＭ１１３１はＤＲＡＭ１１２０より小さい容量を有するため、毎回、一部の特徴データ及び一部の畳み込みカーネルしか読み取らないようにすることができる。
【００９６】
図８を参照し、折り畳まれた特徴データ及び１つ又は複数の折り畳まれた畳み込みカーネルをＳＲＡＭ１１３１から計算手段１１３３に読み込んで畳み込み演算を実行することができる。計算手段１１３３は、畳み込み演算のために複数の乗算器及び複数の加算器を含んでもよい。
【００９７】
一実施形態では、計算手段１１３３は、折り畳まれた特徴データ内の複数のピクセルのそれぞれと、複数の折り畳まれた畳み込みカーネルの対応するピクセルとの乗算を同時に実行することができる。該乗算を繰り返すことによって、すべての折り畳まれた畳み込みカーネルを用いて、折り畳まれた特徴データの同一部分に対して畳み込みを実行することができる。
【００９８】
例えば、計算手段１１３３が２５６個の乗算器を含む場合、折り畳まれた特徴データの８個のピクセル（ピクセルごとに４チャネルを有し、合計で３２個のデータを有する）のそれぞれと、８個の畳み込みカーネルの対応するピクセル（同様に４チャネルを有する）とを同時に乗算し、６４個のデータ（８ピクセル×８チャネル）を生成してもよい。特徴データが折り畳まれていない従来の場合と比較して、計算効率が大幅に向上される。
【００９９】
計算手段１１３３からの演算結果は、出力バッファ（ＳＲＡＭ）１１３５に格納することができる。計算手段１１３３に提供されるデータ又は計算手段１１３３から受信されたデータを制御するように、入力バッファ１１３１及び出力バッファ１１３５は、それぞれバッファクロスバースイッチ１１３２及び１１３４を備えても良い。必要に応じて、計算結果を出力バッファ１１３５からＤＲＡＭ１１２０に移動させてもよい。
【０１００】
前後文から明確に別途の要求がある場合を除き、明細書及び特許請求の範囲全体において、用語「ｃｏｍｐｒｉｓｅ」（有する）、「ｉｎｃｌｕｄｅ」（含む）などは、排他性又は限界性（ｅｘｈａｕｓｔｉｖｅ）の意味の逆である包括的な意味として解釈すべきであり、つまり、「を含むが、これに限定されない」の意味として解釈すべきである。また、用語「本明細書中」、「以上の記載に」、「以下の記載に」及び似たような意味の用語が本開示において使用される場合に、本開示のある具体的な部分ではなく、本開示全体を指すとすべきである。前後文が許される場合、単数形又は複数形を使用する以上の記載における用語も、それぞれ複数又は単数を含むことができる。二つ又は複数の項目のリストを言及する場合の用語「又は」について、該用語は該用語の以下の解釈における全部をカバーする。すなわち、リストにおける任意の項目、リストにおけるすべての項目、及びリストにおける項目の任意の組み合わせである。
【０１０１】
本開示に係る実施形態の以上の詳細な説明は、制限的又は本発明を以上の記載によって開示された適切な形式に限定することを意図するものではない。説明のために、本開示に係る具体的な実施形態及び例示を述べたが、当該分野における技術者が認識しているように本発明の技術的範囲内である限り、各種の均等の範囲における変更は可能である。例えば、処理又はブロックが所定の順序で示したが、代替の実施形態において、これらのステップの処理又は異なる順序でこれらのブロックのシステムを使用することができ、かついくつかの処理又はブロックは、削除、移動、追加、細分化、組み合わせ、及び／又は変更が可能である。これらの処理又はブロックのそれぞれは異なる方法で実施することができる。また、処理又はブロックは直列的に実行で示されるが、代わりに、これらの処理又はブロックは並列的に実行されてもよく、又は異なる時間に実行されることも可能である。
【０１０２】
本明細書で提供される本発明の教示は、必ずしも上記のシステムである必要はなく、他のシステムにも適用することができる。上述のそれぞれの実施形態の部品及び動作を組み合わせることにより、別の実施形態を提供することができる。
【０１０３】
本開示に係るいくつかの実施形態について説明したが、これらの実施形態は、例示として提示するものであり、本開示の範囲を限定することを意図するものではない。実際、本明細書に記載された新規の方法及びシステムは、様々なその他の形態で実施することができる。また、本発明の範囲から逸脱しない限り、本明細書に記載された方法及びシステムの形式に種々の省略、置換及び変更をすることが可能である。
【符号の説明】
【０１０４】
１００  例示方法
６００  例示装置
６１０  プロセッサ
６２０  メモリ
６３０  Ｉ／Ｏインターフェイス
７００  例示装置
７１０  前処理手段
７２０  第１の折り畳み手段
７３０  第２の折り畳み手段
７４０  演算手段
１１００  装置
１１０１  バスシステム
１１１０  メインプロセッサ
１１２０  ダイナミックランダムアクセス
１１３０  畳み込みエンジン
１１３１  入力バッファ（ＳＲＡＭ）
１１３２  バッファクロスバースイッチ 
１１３３  計算手段
１１３４  バッファクロスバースイッチ
１１３５  出力バッファ
１１４０  列(スライス)
１１４１  メモリ手段
【図１】
2019125352.tif 000011
【図２】
2019125352.tif 000012
【図３】
2019125352.tif 000013
【図４】
2019125352.tif 000014
【図５】
2019125352.tif 000015
【図６】
2019125352.tif 000016
【図７】
2019125352.tif 000017
【図８】
2019125352.tif 000018
【図９Ａ】
2019125352.tif 000019
【図９Ｂ】
2019125352.tif 000020
【外国語明細書】
2019125352000001.pdf