(57)【要約】画像処理方法及び装置、コンピュータ機器並びに記憶媒体であって、前記方法は、処理されるべき画像の第１特徴マップを取得すること（Ｓ１０１）と、前記第１特徴マップの最終重みベクトルを決定すること（Ｓ１０２）と、前記最終重みベクトルに基づいて、予め設定された正規化集合から、前記第１特徴マップに対応するターゲット正規化方式を決定すること（Ｓ１０３）と、前記ターゲット正規化方式を用いて、前記第１特徴マップに対して正規化処理を行い、第２特徴マップを得ること（Ｓ１０４）と、を含む。
2022500798.tif 000002
【特許請求の範囲】
【請求項１】
画像処理方法であって、
処理されるべき画像の第１特徴マップを取得することと、
前記第１特徴マップの最終重みベクトルを決定することと、
前記最終重みベクトルに基づいて、予め設定された正規化集合から、前記第１特徴マップに対応するターゲット正規化方式を決定することと、
前記ターゲット正規化方式を用いて、前記第１特徴マップに対して正規化処理を行い、第２特徴マップを得ることと、を含む、前記方法。
【請求項２】
前記処理されるべき画像の第１特徴マップを取得することは、
前記ニューラルネットワークにおける畳み込み層を利用して、前記処理されるべき画像に対して特徴抽出を行い、前記第１特徴マップを得ることを含み、
前記予め設定されたパラメータ集合は、第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータを含み、前記第１特徴マップの最終重みベクトルを決定することは、
前記予め設定されたパラメータ集合における第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータに基づいて、前記第１特徴マップの最終重みベクトルを算出することを含むことを特徴とする
請求項１に記載の方法。
【請求項３】
前記予め設定されたパラメータ集合における第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータに基づいて、第１特徴マップの最終重みベクトルを算出することは、
前記第１ハイパーパラメータ及び前記第２ハイパーパラメータに基づいて、予め設定された制約条件を決定することと、
前記予め設定された制約条件及び前記学習パラメータに基づいて、前記第１特徴マップの最終重みベクトルを決定することであって、前記学習パラメータは、前記第１特徴マップの最終重みベクトルを算出するためのものであり、前記第１ハイパーパラメータは、予め設定されたシンプレックスの中心を表すためのものであり、前記第２ハイパーパラメータは、前記最終重みベクトルの範囲を小さくするためのものである、ことと、を含むことを特徴とする
請求項２に記載の方法。
【請求項４】
前記予め設定された制約条件は、前記最終重みベクトルと前記第１ハイパーパラメータとの距離を、前記第２ハイパーパラメータの数値以上に限定するためのものであることを特徴とする
請求項３に記載の方法。
【請求項５】
前記第１特徴マップの最終重みベクトルを決定することは、前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定することと、前記予め設定された制約条件及び前記学習パラメータに基づいて、前記平均値ベクトルに対応する平均値最終重みベクトル及び前記分散ベクトルに対応する分散最終重みベクトルをそれぞれ決定することと、を含み、
前記最終重みベクトルに基づいて、予め設定された正規化集合から、前記第１特徴マップに対応するターゲット正規化方式を決定することは、前記平均値最終重みベクトル及び前記分散最終重みベクトルに基づいて、平均値の第１サブ正規化方式及び分散の第２サブ正規化方式をそれぞれ決定することであって、前記第１サブ正規化方式は前記第２サブ正規化方式と同じであるか又は異なる、ことを含み、
前記ターゲット正規化方式を利用して、前記第１特徴マップに対して正規化処理を行い、第２特徴マップを得ることは、前記第１サブ正規化方式及び前記第２サブ正規化方式に基づいて、前記平均値ベクトル及び前記分散ベクトルに対してそれぞれ正規化を行い、正規化された平均値ベクトル及び正規化された分散ベクトルを得ることと、前記正規化された平均値ベクトル、前記正規化された分散ベクトル及び前記第１特徴マップに基づいて、前記第２特徴マップを得ることと、を含むことを特徴とする
請求項１に記載の方法。
【請求項６】
前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定することは、
予め設定された正規化集合に基づいて、前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定することを含み、
前記平均値ベクトルの次元数及び分散ベクトルの次元数は、いずれも前記予め設定された正規化集合における正規化方式の数と同じであり、
前記平均値ベクトルにおける第ｉ次元での平均値は、前記予め設定された正規化集合におけるｊ番目の正規化方式に対応し、前記分散ベクトルにおける第ｉ次元での分散は、前記予め設定された正規化集合におけるｊ番目の正規化方式に対応し、ｉ及びｊはいずれも０より大きくて前記予め設定された正規化集合における正規化方式の数より小さい整数であることを特徴とする
請求項５に記載の方法。
【請求項７】
前記方法は、
予め設定された正規化集合における正規化方式の数に基づいて、前記学習パラメータの次元数、前記第１ハイパーパラメータの次元数及び前記第１ハイパーパラメータにおける各次元での数値を決定することであって、前記第１ハイパーパラメータの各次元の数値の合計は、１であり、前記第１ハイパーパラメータの次元数は、前記学習パラメータの次元数と同じであり、前記第１ハイパーパラメータの各次元の数値と同じであり、且つ各次元の数値の合計は、１である、ことと、
予め設定されたシンプレックスの中心から頂点までの距離を決定し、前記距離を、前記第２ハイパーパラメータに対応する予め設定された閾値として決定することであって、前記予め設定されたシンプレックスの各辺長さは、予め設定された固定数値であり、且つ頂点の数は、前記正規化方式の数と同じであり、前記第２ハイパーパラメータは、０より大きくて前記予め設定された閾値以下である数値である、ことと、を含むことを特徴とする
請求項２から６のうちいずれか一項に記載の方法。
【請求項８】
前記予め設定されたパラメータ集合における第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータに基づいて、第１特徴マップの最終重みベクトルを算出することは、
前記第２ハイパーパラメータ及び前記学習パラメータに基づいて、第１サブ重みベクトルを決定することと、
前記第１サブ重みベクトルと前記第１ハイパーパラメータとの距離が前記第２ハイパーパラメータ以上である場合、前記第１サブ重みベクトルを前記最終重みベクトルと決定することと、を含むことを特徴とする
請求項２に記載の方法。
【請求項９】
前記第２ハイパーパラメータ及び前記学習パラメータに基づいて、第１サブ重みベクトルを決定した後、前記方法は、
前記第１サブ重みベクトルと前記第１ハイパーパラメータとの距離が前記第２ハイパーパラメータ未満である場合、前記第１ハイパーパラメータ、前記第２ハイパーパラメータ及び前記第１サブ重みベクトルに基づいて、第２サブ重みベクトルを決定することと、
第２サブ重みベクトルが０以上である場合、前記第２サブ重みベクトルを最終重みベクトルと決定することと、を更に含むことを特徴とする
請求項８に記載の方法。
【請求項１０】
前記第１ハイパーパラメータ、前記第２ハイパーパラメータ及び前記第１サブ重みベクトルに基づいて、第２サブ重みベクトルを決定した後、前記方法は、
前記第２サブ重みベクトルが０未満である場合、前記第２サブ重みベクトルに基づいて、前記第１ハイパーパラメータを更新し、更新された第１ハイパーパラメータを得ることと、
前記第２ハイパーパラメータ、前記更新された第１ハイパーパラメータ及び更新されていない第１ハイパーパラメータに基づいて、更新された第２ハイパーパラメータを決定することと、
前記第２サブ重みベクトル及び前記学習パラメータに基づいて、第３サブ重みベクトルを決定することと、
前記更新された第１ハイパーパラメータ、前記更新された第２ハイパーパラメータ及び前記第３サブ重みベクトルに基づいて、最終重みベクトルを決定することと、を更に含むことを特徴とする
請求項９に記載の方法。
【請求項１１】
前記第１サブ正規化方式及び前記第２サブ正規化方式に基づいて、前記平均値ベクトル及び前記分散ベクトルに対してそれぞれ正規化を行い、正規化された平均値ベクトル及び正規化された分散ベクトルを得ることは、
前記平均値最終重みベクトルにおける各次元での重みを前記平均値ベクトルにおける各次元での重みと一対一に対応するように乗算し、各次元で得られた積を加算し、正規化された平均値ベクトルを得ることと、
前記分散最終重みベクトルにおける各次元での重みを前記分散ベクトルにおける各次元での分散と一対一に対応するように乗算し、各次元で得られた積を加算し、正規化された分散ベクトルを得ることと、を含むことを特徴とする
請求項５に記載の方法。
【請求項１２】
前記正規化された平均値ベクトル、正規化された分散ベクトル及び前記第１特徴マップに基づいて、前記第２特徴マップを得ることは、
前記第１特徴マップと前記正規化された平均値ベクトルとの間の差の値を決定することと、
前記正規化された分散ベクトルと予め設定された調整量との和に対応する平均分散を決定することと、
前記平均分散に対する前記差の値の比率を決定することと、
予め設定されたスケーリングパラメータを用いて前記比率をスケーリングし、スケーリングされた比率を得ることと、
予め設定されたシフトパラメータに応じて前記スケーリングされた比率を調整し、前記第２特徴マップを得ることと、を含むことを特徴とする
請求項５に記載の方法。
【請求項１３】
画像処理装置であって、前記装置は、第１取得モジュールと、第１計算モジュールと、第１決定モジュールと、第１処理モジュールと、を備え、
前記第１取得モジュールは、処理されるべき画像の第１特徴マップを取得するように構成され、
前記第１取得モジュールは、前記第１特徴マップの最終重みベクトルを決定するように構成され、
前記第１決定モジュールは、前記最終重みベクトルに基づいて、予め設定された正規化集合から、前記第１特徴マップに対応するターゲット正規化方式を決定するように構成され、
前記第１処理モジュールは、前記ターゲット正規化方式を用いて、前記第１特徴マップに対して正規化処理を行い、第２特徴マップを得るように構成される、前記装置。
【請求項１４】
前記第１取得モジュールは、
前記ニューラルネットワークにおける畳み込み層を利用して、前記処理されるべき画像に対して特徴抽出を行い、前記第１特徴マップを得るように構成される第１抽出サブモジュールを備え、
前記予め設定されたパラメータ集合は、第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータを含み、前記第１計算モジュールは、
前記予め設定されたパラメータ集合における第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータに基づいて、前記第１特徴マップの最終重みベクトルを算出するように構成される第１計算サブモジュールを備えることを特徴とする
請求項１３に記載の装置。
【請求項１５】
前記第１計算サブモジュールは、
前記第１ハイパーパラメータ及び前記第２ハイパーパラメータに基づいて、予め設定された制約条件を決定するように構成される第１決定ユニットと、
前記予め設定された制約条件及び前記学習パラメータに基づいて、前記第１特徴マップの最終重みベクトルを決定するように構成される第２決定ユニットであって、前記学習パラメータは、前記第１特徴マップの最終重みベクトルを算出するためのものであり、前記第１ハイパーパラメータは、予め設定されたシンプレックスの中心を表すためのものであり、前記第２ハイパーパラメータは、前記最終重みベクトルの範囲を小さくするためのものである、第２決定ユニットと、を備えることを特徴とする
請求項１４に記載の装置。
【請求項１６】
前記予め設定された制約条件は、前記最終重みベクトルと前記第１ハイパーパラメータとの距離を前記第２ハイパーパラメータの数値以上に限定するためのものであることを特徴とする
請求項１５に記載の装置。
【請求項１７】
前記第１取得モジュールは、前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定するように構成される第１決定サブモジュールと、
前記予め設定された制約条件及び前記学習パラメータに基づいて、前記平均値ベクトルに対応する平均値最終重みベクトル及び前記分散ベクトルに対応する分散最終重みベクトルをそれぞれ決定するように構成される第２決定サブモジュールと、を備え、
前記第１決定モジュールは、前記平均値最終重みベクトル及び前記分散最終重みベクトルに基づいて、平均値の第１サブ正規化方式及び分散の第２サブ正規化方式をそれぞれ決定するように構成される第３決定サブモジュールであって、前記第１サブ正規化方式は前記第２サブ正規化方式と同じであるか又は異なる、第３決定サブモジュールを備え、
前記第１処理モジュールは、前記第１サブ正規化方式及び前記第２サブ正規化方式に基づいて、前記平均値ベクトル及び前記分散ベクトルに対してそれぞれ正規化を行い、正規化された平均値ベクトル及び正規化された分散ベクトルを得るように構成される第１正規化サブモジュールと、
前記正規化された平均値ベクトル、前記正規化された分散ベクトル及び前記第１特徴マップに基づいて、前記第２特徴マップを得るように構成される第４決定サブモジュールと、を備えることを特徴とする
請求項１３に記載の装置。
【請求項１８】
前記第１決定サブモジュールは、
予め設定された正規化集合に基づいて、前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定するように構成される第３決定ユニットを備え、
前記平均値ベクトルの次元数及び分散ベクトルの次元数は、いずれも前記予め設定された正規化集合における正規化方式の数と同じであり、
前記平均値ベクトルにおける第ｉ次元での平均値は、前記予め設定された正規化集合におけるｊ番目の正規化方式に対応し、前記分散ベクトルにおける第ｉ次元での分散は、前記予め設定された正規化集合におけるｊ番目の正規化方式に対応し、ｉ及びｊはいずれも０より大きくて前記予め設定された正規化集合における正規化方式の数より小さい整数であることを特徴とする
請求項１７に記載の装置。
【請求項１９】
前記装置は、
予め設定された正規化集合における正規化方式の数に基づいて、前記学習パラメータの次元数、前記第１ハイパーパラメータの次元数及び前記第１ハイパーパラメータにおける各次元での数値を決定するように構成される第２決定モジュールであって、前記第１ハイパーパラメータの各次元の数値の合計は、１であり、前記第１ハイパーパラメータの次元数は、前記学習パラメータの次元数と同じであり、前記第１ハイパーパラメータの各次元の数値と同じであり、且つ各次元の数値の合計は、１である、第２決定モジュールと、
予め設定されたシンプレックスの中心から頂点までの距離を決定し、前記距離を、前記第２ハイパーパラメータに対応する予め設定された閾値として決定するように構成される第３決定モジュールであって、前記予め設定されたシンプレックスの各辺長さは、予め設定された固定数値であり、且つ頂点の数は、前記正規化方式の数と同じであり、前記第２ハイパーパラメータは、０より大きくて前記予め設定された閾値以下である数値である、第３決定モジュールと、を備えることを特徴とする
請求項１４から１８のうちいずれか一項に記載の装置。
【請求項２０】
前記第１計算サブモジュールは、
前記第２ハイパーパラメータ及び前記学習パラメータに基づいて、第１サブ重みベクトルを決定するように構成される第４決定ユニットと、
前記第１サブ重みベクトルと前記第１ハイパーパラメータとの距離が前記第２ハイパーパラメータ以上である場合、前記第１サブ重みベクトルを前記最終重みベクトルと決定するように構成される第５決定ユニットと、を備えることを特徴とする
請求項１４に記載の装置。
【請求項２１】
前記装置は、
前記第１サブ重みベクトルと前記第１ハイパーパラメータとの距離が前記第２ハイパーパラメータ未満である場合、前記第１ハイパーパラメータ、前記第２ハイパーパラメータ及び前記第１サブ重みベクトルに基づいて、第２サブ重みベクトルを決定するように構成される第４決定モジュールと、
第２サブ重みベクトルが０以上である場合、前記第２サブ重みベクトルを最終重みベクトルと決定するように構成される第５決定モジュールと、を更に備えることを特徴とする
請求項２０に記載の装置。
【請求項２２】
前記装置は、
前記第２サブ重みベクトルが０未満である場合、前記第２サブ重みベクトルに基づいて、前記第１ハイパーパラメータを更新し、更新された第１ハイパーパラメータを得るように構成される第１更新モジュールと、
前記第２ハイパーパラメータ、前記更新された第１ハイパーパラメータ及び更新されていない第１ハイパーパラメータに基づいて、更新された第２ハイパーパラメータを決定するように構成される第６決定モジュールと、
前記第２サブ重みベクトル及び前記学習パラメータに基づいて、第３サブ重みベクトルを決定するように構成される第７決定モジュールと、
前記更新された第１ハイパーパラメータ、前記更新された第２ハイパーパラメータ及び前記第３サブ重みベクトルに基づいて、最終重みベクトルを決定するように構成される第８決定モジュールと、を更に備えることを特徴とする
請求項２１に記載の装置。
【請求項２３】
前記第１正規化サブモジュールは、
前記平均値最終重みベクトルにおける各次元での重みを前記平均値ベクトルにおける各次元での重みと一対一に対応するように乗算し、各次元で得られた積を加算し、正規化された平均値ベクトルを得るように構成される第１計算ユニットと、
前記分散最終重みベクトルにおける各次元での重みを前記分散ベクトルにおける各次元での分散と一対一に対応するように乗算し、各次元で得られた積を加算し、正規化された分散ベクトルを得るように構成される第２計算ユニットと、を備えることを特徴とする
請求項１７に記載の装置。
【請求項２４】
前記第４決定サブモジュールは、
前記第１特徴マップと前記正規化された平均値ベクトルとの間の差の値を決定するように構成される第１差値算出ユニットと、
前記正規化された分散ベクトルと予め設定された調整量との和に対応する平均分散を決定するように構成される第３計算ユニットと、
前記平均分散に対する前記差の値の比率を決定するように構成される第４計算ユニットと、
予め設定されたスケーリングパラメータを用いて前記比率をスケーリングし、スケーリングされた比率を得るように構成される第１スケーリングユニットと、
予め設定されたシフトパラメータに応じて前記スケーリングされた比率を調整し、前記第２特徴マップを得るように構成される第１調整ユニットと、を備えることを特徴とする
請求項１７に記載の装置。
【請求項２５】
コンピュータ実行可能な命令を記憶するコンピュータ記憶媒体であって、前記コンピュータ実行可能な命令が、請求項１から１２のうちいずれか一項に記載の方法のステップを実施するために実行される、前記コンピュータ記憶媒体。
【請求項２６】
メモリ及びプロセッサを備えるコンピュータ機器であって、前記メモリに、コンピュータ実行可能な命令が記憶されており、前記プロセッサが前記メモリにおけるコンピュータ実行可能な命令を実行して、請求項１から１２のうちいずれか一項に記載の方法のステップを実施する、前記コンピュータ機器。
【請求項２７】
コンピュータ実行可能な命令を含むコンピュータプログラム製品であって、前記コンピュータ実行可能な命令が、請求項１から１２のうちいずれか一項に記載の方法のステップを実施するために実行される、前記コンピュータプログラム製品。
【発明の詳細な説明】
【技術分野】
【０００１】
（関連出願の相互参照）
本願は、２０１９年１月２９日に提出された出願番号２０１９１００８７３９８．Ｘの中国特許出願に基づく優先権を主張し、該中国特許出願の全内容が参照として本願に組み込まれる。
【０００２】
本願の実施例は、コンピュータビジョン通信分野に関し、画像処理方法及び装置、コンピュータ機器並びに記憶媒体に関するが、これらに限定されない。
【背景技術】
【０００３】
深層学習に基づいて画像を処理する方法において、正規化は、不可欠なモジュールである。現在、業界内で、様々な学習タスクについて、画像分類に適用したバッチ正規化（Ｂａｔｃｈ  Ｎｏｒｍａｌｉｚａｔｉｏｎ：ＢＮ）、シーケンス予測に適用した層正規化（Ｌａｙｅｒ  Ｎｏｒｍａｌｉｚａｔｉｏｎ：ＬＮ）、モデル生成に適用したインスタンス正規化（Ｉｎｓｔａｎｃｅ  Ｎｏｒｍａｌｉｚａｔｉｏｎ：ＩＮ）、適用範囲がより広いグループ正規化（Ｇｒｏｕｐ  Ｎｏｒｍａｌｉｚａｔｉｏｎ：ＧＮ）を含む多くの正規化方法を提出した。しかしながら、これらの正規化方法は、特定のモデルの特定のタスクのみに適用する。この障害を克服してニューラルネットワークの性能を更に向上させるために、種々のビジョンタスクに適用する適応的正規化（Ｓｗｉｔｃｈａｂｌｅ  Ｎｏｒｍａｌｉｚａｔｉｏｎ：ＳＮ）が提出された。ＳＮは、ＢＮ、ＩＮ、ＬＮの統計量に対して重み付き組み合わせを行うことで、バッチサイズへの依存を克服し、全ての正規化層のために、最適な正規化操作方式の重み付き組み合わせを選択することができる。しかしながら、ＳＮには、依然として下記重大な欠陥が存在する。ＳＮは、正規化指数関数（ｓｏｆｔｍａｘ）により、様々な正規化方法の統計量の重み係数を算出するため、重み係数は、０ではない。これは、いずれの時刻でもＳＮ正規化層は、様々な正規化操作の統計量を算出する必要があることを意味する。つまり、各回の正規化は、１つ以上の正規化方式に対応する。従って、冗長な計算が引き起こされてしまう。
【発明の概要】
【発明が解決しようとする課題】
【０００４】
これに鑑み、本願の実施例は、画像処理方法及び装置、コンピュータ機器並びに記憶媒体を提供する。
【課題を解決するための手段】
【０００５】
本願の実施例の技術的解決手段は、以下のように実現する。
【０００６】
本願の実施例は、画像処理方法を提供する。前記方法は、
処理されるべき画像の第１特徴マップを取得することと、
前記第１特徴マップの最終重みベクトルを決定することと、
前記最終重みベクトルに基づいて、予め設定された正規化集合から、前記第１特徴マップに対応するターゲット正規化方式を決定することと、
前記ターゲット正規化方式を用いて、前記第１特徴マップに対して正規化処理を行い、第２特徴マップを得ることと、を含む。
【０００７】
本願の実施例において、前記処理されるべき画像の第１特徴マップを取得することは、
前記ニューラルネットワークにおける畳み込み層を利用して、前記処理されるべき画像に対して特徴抽出を行い、前記第１特徴マップを得ることを含み、
対応して、前記予め設定されたパラメータ集合は、第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータを含み、第１特徴マップの最終重みベクトルを決定することは、
前記予め設定されたパラメータ集合における第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータに基づいて、前記第１特徴マップの最終重みベクトルを算出することを含む。
【０００８】
本願の実施例において、前記予め設定されたパラメータ集合における第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータに基づいて、第１特徴マップの最終重みベクトルを算出することは、
前記第１ハイパーパラメータ及び前記第２ハイパーパラメータに基づいて、予め設定された制約条件を決定することと、
前記予め設定された制約条件及び前記学習パラメータに基づいて、前記第１特徴マップの最終重みベクトルを決定することであって、前記学習パラメータは、前記第１特徴マップの最終重みベクトルを算出するためのものであり、前記第１ハイパーパラメータは、予め設定されたシンプレックスの中心を表すためのものであり、前記第２ハイパーパラメータは、前記最終重みベクトルの範囲を小さくするためのものである、ことと、を含む。
【０００９】
本願の実施例において、前記予め設定された制約条件は、前記最終重みベクトルと前記第１ハイパーパラメータとの距離を前記第２ハイパーパラメータの数値以上に限定するためのものである。
【００１０】
本願の実施例において、前記第１特徴マップの最終重みベクトルを決定することは、前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定することと、前記予め設定された制約条件及び前記学習パラメータに基づいて、前記平均値ベクトルに対応する平均値最終重みベクトル及び前記分散ベクトルに対応する分散最終重みベクトルをそれぞれ決定することと、を含み、
対応して、前記最終重みベクトルに基づいて、予め設定された正規化集合から、前記第１特徴マップに対応するターゲット正規化方式を決定することは、前記平均値最終重みベクトル及び前記分散最終重みベクトルに基づいて、平均値の第１サブ正規化方式及び分散の第２サブ正規化方式をそれぞれ決定することであって、前記第１サブ正規化方式は前記第２サブ正規化方式と同じであるか又は異なる、ことを含み、
対応して、前記ターゲット正規化方式を利用して、前記第１特徴マップに対して正規化処理を行い、第２特徴マップを得ることは、前記第１サブ正規化方式及び前記第２サブ正規化方式に基づいて、前記平均値ベクトル及び前記分散ベクトルに対してそれぞれ正規化を行い、正規化された平均値ベクトル及び正規化された分散ベクトルを得ることと、前記正規化された平均値ベクトル、前記正規化された分散ベクトル及び前記第１特徴マップに基づいて、前記第２特徴マップを得ることと、を含む。
【００１１】
本願の実施例において、前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定することは、
予め設定された正規化集合に基づいて、前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定することを含み、
前記平均値ベクトルの次元数及び分散ベクトルの次元数は、いずれも前記予め設定された正規化集合における正規化方式の数と同じであり、
前記平均値ベクトルにおける第ｉ次元での平均値は、前記予め設定された正規化集合におけるｊ番目の正規化方式に対応し、前記分散ベクトルにおける第ｉ次元での分散は、前記予め設定された正規化集合におけるｊ番目の正規化方式に対応し、ｉ及びｊはいずれも０より大きくて前記予め設定された正規化集合における正規化方式の数より小さい整数である。
【００１２】
本願の実施例において、前記方法は、
予め設定された正規化集合における正規化方式の数に基づいて、前記学習パラメータの次元数、前記第１ハイパーパラメータの次元数及び前記第１ハイパーパラメータにおける各次元での数値を決定することであって、前記第１ハイパーパラメータの各次元の数値の合計は、１であり、前記第１ハイパーパラメータの次元数は、前記学習パラメータの次元数と同じであり、前記第１ハイパーパラメータの各次元の数値と同じであり、且つ各次元の数値の合計は、１である、ことと、
予め設定されたシンプレックスの中心から頂点までの距離を決定し、前記距離を、前記第２ハイパーパラメータに対応する予め設定された閾値として決定することであって、前記予め設定されたシンプレックスの各辺長さは、予め設定された固定数値であり、且つ頂点の数は、前記正規化方式の数と同じであり、前記第２ハイパーパラメータは、０より大きくて前記予め設定された閾値以下である数値である、ことと、を含む。
【００１３】
本願の実施例において、前記予め設定されたパラメータ集合における第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータに基づいて、第１特徴マップの最終重みベクトルを算出することは、
前記第２ハイパーパラメータ及び前記学習パラメータに基づいて、第１サブ重みベクトルを決定することと、
前記第１サブ重みベクトルと前記第１ハイパーパラメータとの距離が前記第２ハイパーパラメータ以上である場合、前記第１サブ重みベクトルを前記最終重みベクトルと決定することと、を含む。
【００１４】
本願の実施例において、前記第２ハイパーパラメータ及び前記学習パラメータに基づいて、第１サブ重みベクトルを決定した後、前記方法は、
前記第１サブ重みベクトルと前記第１ハイパーパラメータとの距離が前記第２ハイパーパラメータ未満である場合、前記第１ハイパーパラメータ、前記第２ハイパーパラメータ及び前記第１サブ重みベクトルに基づいて、第２サブ重みベクトルを決定することと、
第２サブ重みベクトルが０以上である場合、前記第２サブ重みベクトルを最終重みベクトルと決定することと、を更に含む。
【００１５】
本願の実施例において、前記第１ハイパーパラメータ、前記第２ハイパーパラメータ及び前記第１サブ重みベクトルに基づいて、第２サブ重みベクトルを決定した後、前記方法は、
前記第２サブ重みベクトルが０未満である場合、前記第２サブ重みベクトルに基づいて、前記第１ハイパーパラメータを更新し、更新された第１ハイパーパラメータを得ることと、
前記第２ハイパーパラメータ、前記更新された第１ハイパーパラメータ及び更新されていない第１ハイパーパラメータに基づいて、更新された第２ハイパーパラメータを決定することと、
前記第２サブ重みベクトル及び前記学習パラメータに基づいて、第３サブ重みベクトルを決定することと、
前記更新された第１ハイパーパラメータ、前記更新された第２ハイパーパラメータ及び前記第３サブ重みベクトルに基づいて、最終重みベクトルを決定することと、を更に含む。
【００１６】
本願の実施例において、前記第１サブ正規化方式及び前記第２サブ正規化方式に基づいて、前記平均値ベクトル及び前記分散ベクトルに対してそれぞれ正規化を行い、正規化された平均値ベクトル及び正規化された分散ベクトルを得ることは、
前記平均値最終重みベクトルにおける各次元での重みを前記平均値ベクトルにおける各次元での重みと一対一に対応するように乗算し、各次元で得られた積を加算し、正規化された平均値ベクトルを得ることと、
前記分散最終重みベクトルにおける各次元での重みを前記分散ベクトルにおける各次元での分散と一対一に対応するように乗算し、各次元で得られた積を加算し、正規化された分散ベクトルを得ることと、を含む。
【００１７】
本願の実施例において、前記正規化された平均値ベクトル、正規化された分散ベクトル及び前記第１特徴マップに基づいて、前記第２特徴マップを得ることは、
前記第１特徴マップと前記正規化された平均値ベクトルとの間の差の値を決定することと、
前記正規化された分散ベクトルと予め設定された調整量との和に対応する平均分散を決定することと、
前記平均分散に対する前記差の値の比率を決定することと、
予め設定されたスケーリングパラメータを用いて前記比率をスケーリングし、スケーリングされた比率を得ることと、
予め設定されたシフトパラメータに応じて前記スケーリングされた比率を調整し、前記第２特徴マップを得ることと、を含む。
【００１８】
本願の実施例は、画像処理装置を提供する。前記装置は、第１取得モジュールと、第１計算モジュールと、第１決定モジュールと、第１処理モジュールと、を備え、
前記第１取得モジュールは、処理されるべき画像の第１特徴マップを取得するように構成され、
前記第１取得モジュールは、前記第１特徴マップの最終重みベクトルを決定するように構成され、
前記第１決定モジュールは、前記最終重みベクトルに基づいて、予め設定された正規化集合から、前記第１特徴マップに対応するターゲット正規化方式を決定するように構成され、
前記第１処理モジュールは、前記ターゲット正規化方式を用いて、前記第１特徴マップに対して正規化処理を行い、第２特徴マップを得るように構成される。
【００１９】
本願の実施例において、前記第１取得モジュールは、
前記ニューラルネットワークにおける畳み込み層を利用して、前記処理されるべき画像に対して特徴抽出を行い、前記第１特徴マップを得るように構成される第１抽出サブモジュールを備え、
対応して、前記予め設定されたパラメータ集合は、第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータを含み、前記第１計算モジュールは、
前記予め設定されたパラメータ集合における第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータに基づいて、前記第１特徴マップの最終重みベクトルを算出するように構成される第１計算サブモジュールを備える。
【００２０】
本願の実施例において、前記第１計算サブモジュールは、
前記第１ハイパーパラメータ及び前記第２ハイパーパラメータに基づいて、予め設定された制約条件を決定するように構成される第１決定ユニットと、
前記予め設定された制約条件及び前記学習パラメータに基づいて、前記第１特徴マップの最終重みベクトルを決定するように構成される第２決定ユニットであって、前記学習パラメータは、前記第１特徴マップの最終重みベクトルを算出するためのものであり、前記第１ハイパーパラメータは、予め設定されたシンプレックスの中心を表すためのものであり、前記第２ハイパーパラメータは、前記最終重みベクトルの範囲を小さくするためのものである、第２決定ユニットと、を備える。
【００２１】
本願の実施例において、前記予め設定された制約条件は、前記最終重みベクトルと前記第１ハイパーパラメータとの距離を前記第２ハイパーパラメータの数値以上に限定するためのものである。
【００２２】
本願の実施例において、前記第１取得モジュールは、前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定するように構成される第１決定サブモジュールと、
前記予め設定された制約条件及び前記学習パラメータに基づいて、前記平均値ベクトルに対応する平均値最終重みベクトル及び前記分散ベクトルに対応する分散最終重みベクトルをそれぞれ決定するように構成される第２決定サブモジュールと、を備え、
対応して、前記第１決定モジュールは、前記平均値最終重みベクトル及び前記分散最終重みベクトルに基づいて、平均値の第１サブ正規化方式及び分散の第２サブ正規化方式をそれぞれ決定するように構成される第３決定サブモジュールであって、前記第１サブ正規化方式は前記第２サブ正規化方式と同じであるか又は異なる、第３決定サブモジュールを備え、
対応して、前記第１処理モジュールは、前記第１サブ正規化方式及び前記第２サブ正規化方式に基づいて、前記平均値ベクトル及び前記分散ベクトルに対してそれぞれ正規化を行い、正規化された平均値ベクトル及び正規化された分散ベクトルを得るように構成される第１正規化サブモジュールと、
前記正規化された平均値ベクトル、前記正規化された分散ベクトル及び前記第１特徴マップに基づいて、前記第２特徴マップを得るように構成される第４決定サブモジュールと、を備える。
【００２３】
本願の実施例において、前記第１決定サブモジュールは、
予め設定された正規化集合に基づいて、前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定するように構成される第３決定ユニットを備え、
前記平均値ベクトルの次元数及び分散ベクトルの次元数は、いずれも前記予め設定された正規化集合における正規化方式の数と同じであり、
前記平均値ベクトルにおける第ｉ次元での平均値は、前記予め設定された正規化集合におけるｊ番目の正規化方式に対応し、前記分散ベクトルにおける第ｉ次元での分散は、前記予め設定された正規化集合におけるｊ番目の正規化方式に対応し、ｉ及びｊはいずれも０より大きくて前記予め設定された正規化集合における正規化方式の数より小さい整数である。
【００２４】
本願の実施例において、前記装置は、
予め設定された正規化集合における正規化方式の数に基づいて、前記学習パラメータの次元数、前記第１ハイパーパラメータの次元数及び前記第１ハイパーパラメータにおける各次元での数値を決定するように構成される第２決定モジュールであって、前記第１ハイパーパラメータの各次元の数値の合計は、１であり、前記第１ハイパーパラメータの次元数は、前記学習パラメータの次元数と同じであり、前記第１ハイパーパラメータの各次元の数値と同じであり、且つ各次元の数値の合計は、１である、第２決定モジュールと、
予め設定されたシンプレックスの中心から頂点までの距離を決定し、前記距離を、前記第２ハイパーパラメータに対応する予め設定された閾値として決定するように構成される第３決定モジュールであって、前記予め設定されたシンプレックスの各辺長さは、予め設定された固定数値であり、且つ頂点の数は、前記正規化方式の数と同じであり、前記第２ハイパーパラメータは、０より大きくて前記予め設定された閾値以下である数値である、第３決定モジュールと、を備える。
【００２５】
本願の実施例において、前記第１計算サブモジュールは、
前記第２ハイパーパラメータ及び前記学習パラメータに基づいて、第１サブ重みベクトルを決定するように構成される第４決定ユニットと、
前記第１サブ重みベクトルと前記第１ハイパーパラメータとの距離が前記第２ハイパーパラメータ以上である場合、前記第１サブ重みベクトルを前記最終重みベクトルと決定するように構成される第５決定ユニットと、を備える。
【００２６】
本願の実施例において、前記装置は、
前記第１サブ重みベクトルと前記第１ハイパーパラメータとの距離が前記第２ハイパーパラメータ未満である場合、前記第１ハイパーパラメータ、前記第２ハイパーパラメータ及び前記第１サブ重みベクトルに基づいて、第２サブ重みベクトルを決定するように構成される第４決定モジュールと、
第２サブ重みベクトルが０以上である場合、前記第２サブ重みベクトルを最終重みベクトルと決定するように構成される第５決定モジュールと、を更に備える。
【００２７】
本願の実施例において、前記装置は、
前記第２サブ重みベクトルが０未満である場合、前記第２サブ重みベクトルに基づいて、前記第１ハイパーパラメータを更新し、更新された第１ハイパーパラメータを得るように構成される第１更新モジュールと、
前記第２ハイパーパラメータ、前記更新された第１ハイパーパラメータ及び更新されていない第１ハイパーパラメータに基づいて、更新された第２ハイパーパラメータを決定するように構成される第６決定モジュールと、
前記第２サブ重みベクトル及び前記学習パラメータに基づいて、第３サブ重みベクトルを決定するように構成される第７決定モジュールと、
前記更新された第１ハイパーパラメータ、前記更新された第２ハイパーパラメータ及び前記第３サブ重みベクトルに基づいて、最終重みベクトルを決定するように構成される第８決定モジュールと、を更に備える。
【００２８】
本願の実施例において、前記第１正規化サブモジュールは、
前記平均値最終重みベクトルにおける各次元での重みを前記平均値ベクトルにおける各次元での重みと一対一に対応するように乗算し、各次元で得られた積を加算し、正規化された平均値ベクトルを得るように構成される第１計算ユニットと、
前記分散最終重みベクトルにおける各次元での重みを前記分散ベクトルにおける各次元での分散と一対一に対応するように乗算し、各次元で得られた積を加算し、正規化された分散ベクトルを得るように構成される第２計算ユニットと、を備える。
【００２９】
本願の実施例において、前記第４決定サブモジュールは、
前記第１特徴マップと前記正規化された平均値ベクトルとの間の差の値を決定するように構成される第１差値算出ユニットと、
前記正規化された分散ベクトルと予め設定された調整量との和に対応する平均分散を決定するように構成される第３計算ユニットと、
前記平均分散に対する前記差の値の比率を決定するように構成される第４計算ユニットと、
予め設定されたスケーリングパラメータを用いて前記比率をスケーリングし、スケーリングされた比率を得るように構成される第１スケーリングユニットと、
予め設定されたシフトパラメータに応じて前記スケーリングされた比率を調整し、前記第２特徴マップを得るように構成される第１調整ユニットと、を備える。
【００３０】
対応して、本願の実施例は、コンピュータ記憶媒体を提供する。前記コンピュータ記憶媒体にコンピュータ実行可能な命令が記憶されており、該コンピュータ実行可能な命令が、本願の実施例で提供される画像処理方法におけるステップを実施するために実行される。
【００３１】
本願の実施例は、コンピュータ機器を提供する。前記コンピュータ機器は、メモリと、プロセッサと、を備え、前記メモリに、コンピュータ実行可能な命令が記憶されており、前記プロセッサが前記メモリにおけるコンピュータ実行可能な命令を実行して、本願の実施例で提供される画像処理方法におけるステップを実施する。
【００３２】
本願の実施例は、コンピュータプログラム製品を提供する。前記コンピュータプログラム製品は、コンピュータ実行可能な命令を含み、該コンピュータ実行可能な命令が、本願の実施例で提供される画像処理方法におけるステップを実施するために実行される。
【発明の効果】
【００３３】
本願の実施例では、スパース適応的正規化の方式を採用し、各特徴マップに対して、種々の正規化の重み付き組み合わせではなく、現在の特徴マップに適用可能な正規化方式を適応的に選択することで、冗長な計算を避ける。
【図面の簡単な説明】
【００３４】
【図１Ａ】本願の実施例によるネットワークアーキテクチャの構成を示す概略図である。
【図１Ｂ】本願の実施例による画像処理方法の実現フローを示す概略図である。
【図２Ａ】本願の実施例による画像処理方法の実現フローを示す概略図である。
【図２Ｂ】本願の実施例による画像処理方法のもう１つの実現フローを示す概略図である。
【図２Ｃ】本願の実施例による画像処理方法のまた１つの実現フローを示す概略図である。
【図３】異なる関数を用いて重みベクトルを得た結果を示す比較図である。
【図４】本願の実施例による異なる関数及び異なるパラメータに基づいて得られた重みベクトルを示す概略図である。
【図５】本願の実施例による画像認識装置の構造を示す概略図である。
【図６】本願の実施例によるコンピュータ機器の構造を示す概略図である。
【発明を実施するための形態】
【００３５】
本願の実施例の目的、技術的解決手段及び利点をより明確にするために、以下、本願の実施例における図面を参照しながら、本願の具体的な技術的解決手段を更に詳しく説明する。下記実施例は、本願を説明するためのものに過ぎず、本願の範囲を限定するものではない。
【００３６】
本実施例は、まずネットワークアーキテクチャを提供する。図１Ａは、本願の実施例によるネットワークアーキテクチャの構成を示す概略図である。図１Ａに示すように、該ネットワークアーキテクチャは、２つ又は複数のコンピュータ機器１１〜１Ｎと、サーバ３０とを備え、コンピュータ機器１１〜１Ｎとサーバ３１は、ネットワーク２１を介して通信する。コンピュータ機器は、実現過程において、情報処理能力を持つ様々なタイプのコンピュータ機器であってもよい。例えば、前記コンピュータ機器は、スマートフォン、タブレット、デスクトップコンピュータ、パーソナルデジタルアシスタントなどを含んでもよい。
【００３７】
本実施例は、画像処理方法を提供する。該方法は、ニューラルネットワークの各正規化層のために最適な正規化方式を選択し、ニューラルネットワークの汎化能力を向上させ、試験過程を速くすることができる。該方法は、コンピュータ機器に適用される。該方法により実現される機能は、コンピュータ機器におけるプロセッサによりプログラムコードを呼び出すことで実現されてもよい。勿論、プログラムコードは、コンピュータ記憶媒体に記憶されてもよい。従って、該コンピュータ機器は、少なくとも、プロセッサと、記憶媒体と、を備える。
【００３８】
図１Ｂは、本願の実施例による画像処理方法の実現フローを示す概略図である。図１Ｂに示すように、前記方法は下記ステップを含む。
【００３９】
ステップＳ１０１において、処理されるべき画像の第１特徴マップを取得する。ここで、前記処理されるべき画像は、外観が複雑である画像であってもよく、外観が簡潔である画像であってもよい。前記ステップＳ１０１は、コンピュータ機器により実現してもよい。更に、前記コンピュータ機器は、スマート端末であってもよく、例えば、携帯電話（例えば、スマートフォン）、タブレット、ノートパソコンなどのような無線通信能力を持つ携帯端末機器であってもよく、デスクトップコンピュータなどのような移動しにくいスマート端末機器であってもよい。前記コンピュータ機器は、画像認識又は処理に用いられる。前記第１特徴マップは、ニューラルネットワークにおける畳み込み層を利用して前記処理されるべき画像に対して特徴抽出を行うことで得られた第１特徴マップであってもよい。
【００４０】
ステップＳ１０２において、前記第１特徴マップの最終重みベクトルを決定する。ここで、予め設定されたパラメータ集合に基づいて、第１特徴マップの最終重みベクトルを算出することで、第１特徴マップの最終重みベクトルを決定することができる。予め設定されたパラメータ集合は、第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータを含む。ここで、第１ハイパーパラメータｕは、予め設定されたシンプレックスの中心を表すためのものであり、前記第２ハイパーパラメータｒは、前記最終重みベクトルの数値範囲を小さくするためのものであり、第２ハイパーパラメータｒの数値範囲は、０より大きくて予め設定されたシンプレックスの中心から頂点までの距離以下である。本実施例において、予め設定された正規化集合における正規化方式の数に基づいて、学習パラメータの次元数、第１ハイパーパラメータの次元数及び前記第１ハイパーパラメータにおける各次元での数値を決定する。ここで、第１ハイパーパラメータの各次元の数値の合計は、１であり、第１ハイパーパラメータの次元数は、学習パラメータの次元数と同じであり、第１ハイパーパラメータの各次元の数値は同じであり、且つ各次元の数値の合計は、１である。続いて、予め設定されたシンプレックスの中心から頂点までの距離を決定し、該距離を前記第２ハイパーパラメータに対応する予め設定された閾値として決定する。前記予め設定されたシンプレックスの各辺長さは、予め設定された固定数値であり、且つ頂点の数は、正規化方式の数と同じであり、前記第２ハイパーパラメータは、０より大きくて前記予め設定された閾値以下である数値である。例えば、予め設定された正規化集合に３つの正規化方式（例えば、ＢＮ、ＩＮ及びＬＮ）が含まれると、予め設定されたシンプレックスは、辺長さがルート２である正三角形であり、学習パラメータｚは任意の三次元ベクトルであり、例えばｚ（０．５，０．３，０．２）であり、第１ハイパーパラメータは、三次元ベクトルｕ（１／３，１／３，１／３）である。第２ハイパーパラメータは、該シンプレックスの中心を起点として訓練過程に伴って次第に増大した円の半径であり、つまり、第２ハイパーパラメータは、０より大きくてシンプレックスの中心から頂点までの距離未満である。予め設定された正規化集合に種々の正規化方式が含まれる。例えば、予め設定された正規化集合
【００４１】
【化１】
2022500798.tif 000003
【００４２】
には、ＢＮ、ＩＮ及びＬＮが含まれ、
【００４３】
【化２】
2022500798.tif 000004
【００４４】
として表されてもよい。前記ステップＳ１０２は、下記過程により実現することができる。まず、予め設定されたパラメータ集合における第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータに基づいて、前記第１特徴マップの最終重みベクトルを算出する。スパース適応的正規化方式を用いるため、各特徴マップに対して、様々な正規化方式の重み付き組み合わせを選択することなく、完全スパース方式で、該特徴マップに適する正規化方式を選択し、冗長な計算を避けるだけでなく、ニューラルネットワークの汎化能力を向上させることもできる。
【００４５】
ステップＳ１０３において、最終重みベクトルに基づいて、予め設定された正規化集合から第１特徴マップに対応するターゲット正規化方式を決定する。ここで、最終重みベクトルは、完全スパース重みベクトルと理解されてもよい。つまり、該重みベクトルには、１つのみの次元での数値は１であり、他の次元での数値は、いずれも０である。ステップＳ１０３は、予め設定された正規化集合が、
【００４６】
【化３】
2022500798.tif 000005
【００４７】
であり、最終重みベクトルｐが（０，０，１）である場合、ターゲット正規化方式がＬＮであることを表し、最終重みベクトルｐが（０，１，０）である場合、ターゲット正規化方式がＩＮであることを表し、最終重みベクトルｐが（１，０，０）である場合、ターゲット正規化方式がＢＮであることを表すと理解されてもよい。
【００４８】
ステップＳ１０４において、ターゲット正規化方式を用いて、第１特徴マップに対して正規化処理を行い、第２特徴マップを得る。ここで、上記第２特徴マップは、前記第１特徴マップに対してターゲット正規化方式で正規化処理を行うことで得られた特徴マップである。本実施例は、上記処理ステップにより、スパース適応的正規化方式で画像を処理することを実現させ、画像を処理するための好適な正規化方式をより高い効率で選択することができ、得られた第２特徴マップは、後続の深層学習の処理ステップに適用可能であることは、理解されるべきである。
【００４９】
本願の実施例において、スパース適応的正規化をニューラルネットワークに適用し、続いて事前設定された予め設定されたパラメータ集合に基づいて、最終重みベクトルを決定することで、ターゲット正規化方式を決定し、各特徴マップに対して、種々の正規化の重み付き組み合わせを選択することなく、現在の特徴マップに適用可能な正規化方式を適応的に選択することで、冗長な計算を避けるだけでなく、ニューラルネットワークの汎化能力を向上させることもできる。
【００５０】
本実施例は、画像処理方法を提供する。図２Ａは、本願の実施例による画像処理方法の実現フローを示す概略図である。図２Ａに示すように、前記方法は、下記ステップを含む。
【００５１】
ステップＳ２０１において、ニューラルネットワークにおける畳み込み層を利用して、処理されるべき画像に対して特徴抽出を行い、第１特徴マップを得る。ここで、処理されるべき画像をニューラルネットワークに入力し、畳み込み層によりサンプル画像に対して特徴抽出を行い、第１特徴マップを得る。
【００５２】
ステップＳ２０２において、予め設定されたパラメータ集合における第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータに基づいて、第１特徴マップの最終重みベクトルを算出する。ここで、前記ステップＳ２０２は、下記過程により実現することができる。まず、前記第１ハイパーパラメータ及び前記第２ハイパーパラメータに基づいて、予め設定された制約条件を決定する。ここで、前記制約条件は、前記最終重みベクトルと前記第１ハイパーパラメータとの距離を前記第２ハイパーパラメータの数値以上に限定するためのものであり、最終重みベクトルｐが、
【００５３】
【化４】
2022500798.tif 000006
【００５４】
を満たすことと表されてもよい。続いて、前記予め設定された制約条件及び前記学習パラメータに基づいて、前記第１特徴マップの最終重みベクトルを決定する。最後に、前記最終重みベクトルに基づいて、前記第１特徴マップを正規化し、第２特徴マップを得る。従って、訓練過程において、予め設定された制約条件及び学習パラメータに基づいて得られた最終重みベクトルは、完全スパースのものである。
【００５５】
ステップＳ２０３において、前記最終重みベクトルに基づいて、予め設定された正規化集合から、前記第１特徴マップに対応するターゲット正規化方式を決定する。
【００５６】
ステップＳ２０４において、前記ターゲット正規化方式を用いて、前記第１特徴マップに対して正規化処理を行い、第２特徴マップを得る。
【００５７】
本実施例において、入力された学習パラメータｚ及び制約条件に基づいて、ニューラルネットワークを訓練し、得られた特徴マップの最終重みベクトルを完全スパースのものにすることで、ニューラルネットワークに入力された処理されるべき画像に対して、該特徴マップに適した正規化方式を適応的に選択し、該特徴マップを正規化し、冗長な計算を避け、ニューラルネットワークの汎化能力を向上させる。
【００５８】
本実施例は、画像処理方法を提供する。図２Ｂは、本願の実施例による画像処理方法のもう１つの実現フローを示す概略図である。図２Ｂに示すように、前記方法は、下記ステップを含む。
【００５９】
ステップＳ２２１において、処理されるべき画像の第１特徴マップを取得する。
【００６０】
ステップＳ２２２において、前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定する。ここで、まず、予め設定された正規化集合に基づいて、前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定する。前記平均値ベクトルの次元数及び分散ベクトルの次元数は、いずれも前記予め設定された正規化集合における正規化方式の数と同じであり、前記平均値ベクトルにおける第ｉ次元での平均値は、前記予め設定された正規化集合におけるｊ番目の正規化方式に対応し、前記分散ベクトルにおける第ｉ次元での分散は、前記予め設定された正規化集合におけるｊ番目の正規化方式に対応し、ｉ及びｊはいずれも０より大きくて前記予め設定された正規化集合における正規化方式の数より小さい整数である。例えば、予め設定された正規化集合は、
【００６１】
【化５】
2022500798.tif 000007
【００６２】
であり、該正規化集合に基づいて、第１特徴マップの平均値ベクトル及び分散ベクトルを決定する。平均値ベクトル及び分散ベクトルは、いずれも三次元ベクトルであり、また、平均値ベクトルにおける第１次元での平均値は、ＩＮに対応し、第２次元での平均値は、ＢＮに対応し、第３次元での平均値は、ＬＮに対応する。
【００６３】
ステップＳ２２３において、予め設定された制約条件及び学習パラメータに基づいて、平均値ベクトルに対応する平均値最終重みベクトル及び分散ベクトルに対応する分散最終重みベクトルをそれぞれ決定する。上記ステップＳ２２２及びステップＳ２２３において、「前記第１特徴マップの最終重みベクトルの決定」方式を提出した。該方式において、設定された予め設定された条件よれば、得られた最終重みベクトルが完全スパース重みベクトルとなる。つまり、該重みベクトルにおいて、１つのみの次元での数値が１であり、他の次元での数値はいずれも０である。
【００６４】
ステップＳ２２４において、前記平均値最終重みベクトル及び前記分散最終重みベクトルに基づいて、平均値の第１サブ正規化方式及び分散の第２サブ正規化方式をそれぞれ決定する。ここで、前記第１サブ正規化方式は、前記第２サブ正規化方式と同じであるか又は異なる。例えば、予め設定された正規化集合が、
【００６５】
【化６】
2022500798.tif 000008
【００６６】
であり、平均値最終重みベクトルが（０，０，１）である場合、平均値の第１サブ正規化方式がＬＮであることを表し、分散最終重みベクトルが（０，１，０）である場合、分散の第２サブ正規化方式がＩＮであることを表す。
【００６７】
ステップＳ２２５において、前記第１サブ正規化方式及び前記第２サブ正規化方式に基づいて、前記平均値ベクトル及び前記分散ベクトルに対してそれぞれ正規化を行い、正規化された平均値ベクトル及び正規化された分散ベクトルを得る。ここで、例えば、平均値最終重みベクトルが（０，０，１）であり、つまり、平均値の第１サブ正規化方式がＬＮである場合、ＬＮを用いて平均値ベクトルに対して正規化処理を行い、正規化された平均値ベクトルを得る。分散最終重みベクトルが（０，１，０）であり、つまり、分散の第２サブ正規化方式がＩＮである場合、ＩＮを用いて分散ベクトルに対して正規化処理を行い、正規化された分散ベクトルを得る。
【００６８】
ステップＳ２２６において、前記正規化された平均値ベクトル、前記正規化された分散ベクトル及び前記第１特徴マップに基づいて、前記第２特徴マップを得る。ここで、前記ステップＳ２２６は、下記過程により実現することができる。まず、前記平均値最終重みベクトルにおける各次元での重みを前記平均値ベクトルにおける各次元での重みと一対一に対応するように乗算し、各次元で得られた積を加算し、正規化された平均値ベクトルを得る。続いて、前記分散最終重みベクトルにおける各次元での重みを前記分散ベクトルにおける各次元での分散と一対一に対応するように乗算し、各次元で得られた積を加算し、正規化された分散ベクトルを得る。最後に、前記正規化された平均値ベクトル及び正規化された分散ベクトルに基づいて、第２特徴マップを得る。
【００６９】
上記ステップＳ２２５及びステップＳ２２６において、「前記ターゲット正規化方式を用いて、前記第１特徴マップに対して正規化処理を行い、第２特徴マップを得る」ことを実現させる方式を提供する。該方式において、平均値ベクトル及び分散ベクトルにそれぞれ対応する第１サブ正規化方式及び前記第２サブ正規化方式をそれぞれ得ることで、平均値ベクトル及び分散ベクトルに対して正規化を行い、ニューラルネットワークの汎化能力を向上させる。
【００７０】
本願の実施例において、予め設定された制約条件及び前記学習パラメータに基づいて、平均値ベクトル及び分散ベクトルにそれぞれ対応する最終重みベクトルを得ることで、得られた最終重みベクトルを完全スパースのものにする。最終重みベクトルに基づいて、第１特徴マップの正規化を完了し、第２特徴マップを得る。該ニューラルネットワークは、入力された処理されるべき画像に対して、該処理されるべき画像に適した正規化方式を適応的に選択することができ、演算量を減少させる。
【００７１】
本実施例は、画像処理方法を提供する。図２Ｃは、本願の実施例による画像処理方法のまた１つの実現フローを示す概略図である。図２Ｃに示すように、前記方法は、下記ステップを含む。
【００７２】
ステップＳ２３１において、前記ニューラルネットワークにおける畳み込み層を利用して前記処理されるべき画像に対して特徴抽出を行い、前記第１特徴マップを得る。
【００７３】
ステップＳ２３２ａにおいて、前記第２ハイパーパラメータ及び前記学習パラメータに基づいて、第１サブ重みベクトルを決定する。ここで、前記第１サブ重みベクトルｐ０と前記第１ハイパーパラメータｕとの距離が前記第２ハイパーパラメータｒ以上であり、つまり、
【００７４】
【化７】
2022500798.tif 000009
【００７５】
である場合、ステップＳ２３３ａへ進み、そうでなければ、ステップＳ２３２ｂへ進む。
【００７６】
ステップＳ２３３ａにおいて、前記第１サブ重みベクトルと前記第１ハイパーパラメータとの距離が前記第２ハイパーパラメータ以上である場合、前記第１サブ重みベクトルを前記最終重みベクトルとして決定する。ここで、前記ステップＳ２３３ａを実行した後、ステップＳ２３２ｂへ進む。上記ステップＳ２３２ａ及びステップＳ２３３ａにおいて、「最終重みベクトルを決定する方式」を提供する。つまり、第１サブ重みベクトルが予め設定された制約条件を満たすと判定した場合、第１サブ重みベクトルは、最終重みベクトルである。
【００７７】
ステップＳ２３２ｂにおいて、前記第１サブ重みベクトルと前記第１ハイパーパラメータとの距離が前記第２ハイパーパラメータ未満である場合、前記第１ハイパーパラメータ、前記第２ハイパーパラメータ及び前記第１サブ重みベクトルに基づいて、第２サブ重みベクトルを決定する。ここで、第２ハイパーパラメータが０より大きくて予め設定されたシンプレックスの中心から頂点までの距離未満である数値であるため、第２ハイパーパラメータによりニューラルネットワークを訓練する過程において、開発者は、自律的に、第２ハイパーパラメータを０から予め設定されたシンプレックスの中心から頂点までの距離のうちのいずれか１つの数値とすることができる。また、本実施例において、第２ハイパーパラメータは、予め設定されたシンプレックスの中心から頂点までの距離に近いほど、重みベクトルは、スパースのものになる。ここで、第２サブ重みベクトルｐ１は０以上である場合、ステップＳ２３３ｂへ進み、そうでなければ、ステップＳ２３２ｃへ進む。
【００７８】
ステップＳ２３３ｂにおいて、第２サブ重みベクトルが０以上である場合、前記第２サブ重みベクトルを最終重みベクトルとして決定する。ここで、ステップＳ２３３ｂを実行した後、ステップＳ２３２ｃへ進む。上記ステップＳ２３２ｂ及びステップＳ２３３ｂにおいて、もう１つの「最終重みベクトルを決定する方式」を提供する。つまり、第１サブ重みベクトルが予め設定された制約条件を満たしていないと判定した場合、第１ハイパーパラメータ、第２ハイパーパラメータ及び第１サブ重みベクトルに基づいて、第２サブ重みベクトルを算出し、第２サブ重みベクトルが０より大きいと、第２サブ重みベクトルを最終重みベクトルとして決定する。
【００７９】
ステップＳ２３２ｃにおいて、前記第２サブ重みベクトルが０未満である場合、前記第２サブ重みベクトルに基づいて、前記第１ハイパーパラメータを更新し、更新された第１ハイパーパラメータを得る。ここで、例えば、第１ハイパーパラメータ
【００８０】
【化８】
2022500798.tif 000010
【００８１】
とする。ここで、
【００８２】
【化９】
2022500798.tif 000011
【００８３】
は、それぞれ正規化方式ＢＮ、ＩＮ及びＬＮに対応する。
【００８４】
ステップＳ２３３ｃにおいて、前記第２ハイパーパラメータ、前記更新された第１ハイパーパラメータ及び更新されていない第１ハイパーパラメータに基づいて、更新された第２ハイパーパラメータを決定する。ここで、更新された第２ハイパーパラメータｒ｀は、
【００８５】
【化１０】
2022500798.tif 000012
【００８６】
と表されてもよい。
【００８７】
ステップＳ２３４ｃにおいて、前記第２サブ重みベクトル及び前記学習パラメータに基づいて、第３サブ重みベクトルを決定する。ここで、第２サブ重みベクトルを関数ｓｐａｒｓｅｍａｘへマッピングし、第３サブ重みベクトルｐ２を得る。即ち、
【００８８】
【化１１】
2022500798.tif 000013
【００８９】
である。
【００９０】
ステップＳ２３５ｃにおいて、前記更新された第１ハイパーパラメータ、前記更新された第２ハイパーパラメータ及び前記第３サブ重みベクトルに基づいて、最終重みベクトルを決定する。ここで、最終重みベクトルｐは、
【００９１】
【化１２】
2022500798.tif 000014
【００９２】
と表されてもよい。最終重みベクトルを決定することは、第１ハイパーパラメータ及び前記第２ハイパーパラメータにより決定された予め設定された制約条件、及び前記学習パラメータに基づいて、前記平均値ベクトルに対応する平均値最終重みベクトル及び前記分散ベクトルに対応する分散最終重みベクトルをそれぞれ決定することであってもよい。
【００９３】
上記ステップＳ２３２ｃ及びステップＳ２３４ｃにおいて、もう１つの「最終重みベクトルを決定する方式」を提供する。つまり、第２サブ重みベクトルが０未満であると判定した場合、入力された学習パラメータを再び更新し、第３サブ重みベクトルを取得し、続いて、第３サブ重みベクトルに基づいて、最終重みベクトルを得る。
【００９４】
ステップＳ２３３において、平均値最終重みベクトル及び分散最終重みベクトルに基づいて、前記平均値ベクトル及び前記分散ベクトルに対してそれぞれ正規化を行い、第２特徴マップを得る。ここで、前記ステップＳ２３３は、下記過程により実現することができる。まず、前記平均値最終重みベクトルにおける各次元での重みを前記平均値ベクトルにおける各次元での重みと一対一に対応するように乗算し、各次元で得られた積を加算し、正規化された平均値ベクトルを得る。続いて、前記分散最終重みベクトルにおける各次元での重みを前記分散ベクトルにおける各次元での分散と一対一に対応するように乗算し、各次元で得られた積を加算し、正規化された分散ベクトルを得る。最後に、第１特徴マップと前記正規化された平均値ベクトルとの間の差の値を決定し、前記正規化された分散ベクトルと予め設定された調整量との和に対応する平均分散を決定し、前記平均分散に対する前記差の値の比率を決定し、予め設定されたスケーリングパラメータ及び予め設定されたシフトパラメータを用いて前記比率を調整し、前記第３特徴マップを得る。
【００９５】
本実施例において、入力された第１学習パラメータ及び予め設定された制約条件に基づいて、複数回の判断を行うことで、最終重みベクトルを完全スパースのものにする。最終重みベクトルに基づいて、第１特徴マップに対する正規化を完了し、第２特徴マップを得る。正規化方式に、より少ないパラメータ量を持たせ、且つ深層ニューラルネットワークにおいてより高い汎用性を持たせる。
【００９６】
本願の実施例において、適応的正規化におけるｓｏｆｔｍａｘ関数の代わりに、完全スパース関数（ｓｐａｒｓｅｓｔｍａｘ）を提出することで、スパース最適化課題をニューラルネットワークのフォワード計算に変換し、重み係数の完全スパース化を実現させる。全ての正規化層のために、正規化操作方式の重み付き組み合せを選択することなく、最適な正規化操作を選択することができる。本実施例で指定したスパース適応的正規化（Ｓｐａｒｓｅ  Ｓｗｉｔｃｈａｂｌｅ  Ｎｏｒｍａｌｉｚａｔｉｏｎ：ＳＳＮ）の表現式は、式（１）に示すとおりである。
【００９７】
【数１】
2022500798.tif 000015
【００９８】
ここで、
【００９９】
【化１３】
2022500798.tif 000016
【０１００】
は、入力された特徴マップの平均値ベクトルに対応する重みを表し、
【０１０１】
【化１４】
2022500798.tif 000017
【０１０２】
は、該特徴マップの分散ベクトルに対応する重みを表し、
【０１０３】
【化１５】
2022500798.tif 000018
【０１０４】
である。
【０１０５】
【化１６】
2022500798.tif 000019
【０１０６】
は、正規化前及び正規化後の特徴マップを表し、
【０１０７】
【化１７】
2022500798.tif 000020
【０１０８】
であり、Ｎは、小バッチ内のサンプル量を表し、
【０１０９】
【化１８】
2022500798.tif 000021
【０１１０】
であり、Ｃは、特徴マップのチャネル数を表し、
【０１１１】
【化１９】
2022500798.tif 000022
【０１１２】
であり、Ｈは、各チャネルの空間的次元での高さを表し、
【０１１３】
【化２０】
2022500798.tif 000023
【０１１４】
であり、Ｗは、各チャネルの空間的次元での幅を表し、
【０１１５】
【化２１】
2022500798.tif 000024
【０１１６】
はそれぞれ普通のスケーリングパラメータ及びシフトパラメータを表し、
【０１１７】
【化２２】
2022500798.tif 000025
【０１１８】
は、数値の不安定性を予防するための予め設定された調整量（極めて小さい）である。各画素点について、正規化された平均値は、
【０１１９】
【化２３】
2022500798.tif 000026
【０１２０】
であり、正規化された分散は、
【０１２１】
【化２４】
2022500798.tif 000027
【０１２２】
である。スパース適応的正規化において、
【０１２３】
【化２５】
2022500798.tif 000028
【０１２４】
は、０又は１の変数に限定される。従って、重みベクトル
【０１２５】
【化２６】
2022500798.tif 000029
【０１２６】
における３つの数値
【０１２７】
【化２７】
2022500798.tif 000030
【０１２８】
のうち、１つのみが１であり、残りは、いずれも０である。
【０１２９】
【化２８】
2022500798.tif 000031
【０１３０】
は、予め設定された正規化集合を表す。
【０１３１】
【化２９】
2022500798.tif 000032
【０１３２】
は、正規化方式ＩＮ、ＢＮ及びＬＮにそれぞれ対応する特徴マップの平均値及び分散である。ここで、
【０１３３】
【化３０】
2022500798.tif 000033
【０１３４】
は、様々な正規化方式に対応する。つまり、ｋの値が１である場合、
【０１３５】
【化３１】
2022500798.tif 000034
【０１３６】
は、正規化方式ＩＮで得られた平均値及び分散にそれぞれ対応する。ｋの値が２である場合、
【０１３７】
【化３２】
2022500798.tif 000035
【０１３８】
は、正規化方式ＢＮで得られた平均値及び分散にそれぞれ対応する。ｋの値が３である場合、
【０１３９】
【化３３】
2022500798.tif 000036
【０１４０】
は、正規化方式ＬＮで得られた平均値及び分散にそれぞれ対応する。本実施例において、特徴マップの平均値に対応する重みベクトルを
【０１４１】
【化３４】
2022500798.tif 000037
【０１４２】
で表し、特徴マップの分散に対応する重みベクトルを
【０１４３】
【化３５】
2022500798.tif 000038
【０１４４】
で表す。
【０１４５】
式（１）において、
【０１４６】
【化３６】
2022500798.tif 000039
【０１４７】
である。
【０１４８】
【化３７】
2022500798.tif 000040
【０１４９】
は、正規化集合における様々な正規化方式で計算された画素範囲を表し、
【０１５０】
【化３８】
2022500798.tif 000041
【０１５１】
内の画素点と見なされる。正規化方式ＢＮ、ＩＮ及びＬＮの画像範囲は、それぞれ、
【０１５２】
【化３９】
2022500798.tif 000042
【０１５３】
と表されてもよい。
【０１５４】
【数２】
2022500798.tif 000043
【０１５５】
式（１）によれば、ＳＳＮは、正規化集合から、単一の正規化方式を選択する。スパース制約
【０１５６】
【化４０】
2022500798.tif 000044
【０１５７】
からソフト制約
【０１５８】
【化４１】
2022500798.tif 000045
【０１５９】
まで弛緩すると、ＳＳＮのスパース能力は低下する。
【０１６０】
本実施例において、
【０１６１】
【化４２】
2022500798.tif 000046
【０１６２】
を、ＳＳＮにおける重みベクトルｐを学習するための関数とする。ここで、
【０１６３】
【化４３】
2022500798.tif 000047
【０１６４】
は、３つの次元での統計量に対応するネットワークパラメータである。該パラメータは、逆伝搬を行う場合に、最適化学習を行う。その方程式を説明する前に、まず、
【０１６５】
【化４４】
2022500798.tif 000048
【０１６６】
の４つの要件を引き入れ、ＳＳＮを可能な限り有効かつ使用しやすくする。
【０１６７】
（１）重みベクトルｐは単位長さである。ｐの
【０１６８】
【化４５】
2022500798.tif 000049
【０１６９】
ノルムは、１であり、全ての
【０１７０】
【化４６】
2022500798.tif 000050
【０１７１】
である。
【０１７２】
（２）重みベクトルｐは、完全スパースのものである。換言すれば、関数
【０１７３】
【化４７】
2022500798.tif 000051
【０１７４】
は、単一サーモベクトルを返送する必要がある。ここで、１つのみの重みは、１であり、他の重みは、０である。
【０１７５】
（３）使用しやすい。ＳＳＮはモジュールとして実現可能であり、如何なるネットワーク及びタスクに容易につながる。これを実現させるために、重みベクトルｐのすべての制約条件を満たし、ネットワークのフォワード計算において実現しなければならない。これは、損失関数に
【０１７６】
【化４８】
2022500798.tif 000052
【０１７７】
の損失を追加することと異なり、モデルの開発は煩わしくなる。その原因は、これらの損失係数が一般的にはバッチサイズ、ネットワークアーキテクチャ及びタスクに敏感であることである。
【０１７８】
（４）安定性。重みベクトルｐの最適化は、安定したものである。これは、
【０１７９】
【化４９】
2022500798.tif 000053
【０１８０】
が訓練段階でスパース性を保持できることを意味する。例えば、
【０１８１】
【化５０】
2022500798.tif 000054
【０１８２】
は、現在のステップで１つの正規化値を返送し、次のステップでもう１つの正規化値を返送すると、訓練は極めて困難である。
【０１８３】
【化５１】
2022500798.tif 000055
【０１８４】
に関わる関数は、ｓｏｆｔｍａｘ（ｚ）及びｓｐａｒｓｅｍａｘ（ｚ）であるが、ｓｏｆｔｍａｘ（ｚ）及びｓｐａｒｓｅｍａｘ（ｚ）は、上記４つの要件を満たしない。まず、関連技術において、ｓｏｆｔｍａｘ（ｚ）を用いる。しかしながら、他のパラメータｚは、常に十分にサポートされている。つまり、
【０１８５】
【化５２】
2022500798.tif 000056
【０１８６】
である。正規化方式は、ｓｏｆｔｍａｘ（ｚ）関数を用いる場合、スパースのものではないことを意味する。次に、もう１つの関数は、ｓｐａｒｓｅｍａｘ（ｚ）である。該関数は、ｓｏｆｔｍａｘ（ｚ）を拡張して一部のスパース分布を発生したものである。ｓｐａｒｓｅｍａｘ（ｚ）は最小化ｐとｚとのユークリッド距離により、ｚを（Ｋ−１）次元のシンプレックスにおける最寄り点ｐへ投影する。式（３）に示すとおりである。
【０１８７】
【数３】
2022500798.tif 000057
【０１８８】
ここで、
【０１８９】
【化５３】
2022500798.tif 000058
【０１９０】
は、（Ｋ−１）次元のシンプレックスを表し、それは、Ｋ個の頂点を含む凸多面体である。例えば、Ｋが３である場合、
【０１９１】
【化５４】
2022500798.tif 000059
【０１９２】
は二次元シンプレックスを表し、正三角形である。該正三角形の頂点はそれぞれＢＮ、ＩＮ及びＬＮに対応する。
【０１９３】
図３は、異なる関数で重みベクトルを得た結果を示す概略図である。図３に示すように、点Ｏは、三次元座標系の原点を表す。点３０１は、関数ｓｐａｒｓｅｓｔｍａｘ（ｚ）から出力された重みベクトルを表し、点３０３は、関数ｓｐａｒｓｅｍａｘ（ｚ）から出力された重みベクトルを表し、点３０３は、関数ｓｏｆｔｍａｘ（ｚ）から出力された重みベクトルを表す。正三角形は、該三次元座標系に埋め込まれた二次元シンプレックスを表す。ｕは、シンプレックスの中心である。立方体３１は、正規化方式ＩＮに対応し且つサイズがＮ×Ｃ×Ｈ×Ｗである特徴マップを表し、つまり、バッチ軸Ｎに沿って画素点の画素範囲
【０１９４】
【化５５】
2022500798.tif 000060
【０１９５】
を求める。立方体３２は、正規化方式ＢＮに対応し且つサイズがＮ×Ｃ×Ｈ×Ｗである特徴マップを表し、つまり、空間軸Ｈ×Ｗに沿って画素点の画素範囲
【０１９６】
【化５６】
2022500798.tif 000061
【０１９７】
を求める。立方体３３は、正規化方式ＬＮに対応し且つサイズがＮ×Ｃ×Ｈ×Ｗである特徴マップを表し、つまり、チャネル軸Ｃに沿って画素点の画素範囲
【０１９８】
【化５７】
2022500798.tif 000062
【０１９９】
を求める。正三角形の各頂点は、３つの正規化のうちの１つを表す。図３に示すように、ｓｏｆｔｍａｘ関数の出力重みベクトルは、ｓｐａｒｓｅｍａｘ及びｓｐａｒｓｅｓｔｍａｘ関数から出力された重みベクトルよりも、シンプレックスの中心ｕに更に近い。本願の実施例で提出されたｓｐａｒｓｅｓｔｍａｘ関数は、最終重みベクトルをエンドツーエンドの方式で、シンプレックスの頂点の１つに収束させる。該３つの標準化方法から、１つのみの正規化方式を選択して特徴マップに対して正規化を行う。換言すれば、ｓｐａｒｓｅｍａｘ関数により生成された重みベクトルｐは、ｓｏｆｔｍａｘ関数により生成された重みベクトルｐよりも、シンプレックスの境界に更に近いことは、ｓｐａｒｓｅｍａｘ関数により生成されたスパース比率は、ｓｏｆｔｍａｘ関数により生成されたスパース比率より高い。学習パラメータｚ＝（０．８，０．６，０．１）を例として、ｓｏｆｔｍａｘ（ｚ）＝（０．４３，０．３５，０．２２）であって、ｓｐａｒｓｅｍａｘ（ｚ）＝（０．６，０．４，０）であることは、ｓｐａｒｓｅｍａｘ関数によれば、ｐの幾つかの要素をゼロにする可能性があるが、重みベクトルが完全スパースのものである比率を確保できない。その原因は、シンプレックスにおける各点が、式（３）の解である可能性があることである。
【０２００】
上記検討した全ての制約条件を満たすために、本願の実施例は、ｓｐａｒｓｅｓｔｍａｘ関数を引き入れる。該関数は、ｓｏｆｔｍａｘ関数の新たなスパースのバージョンである。ｓｐａｒｓｅｓｔｍａｘ関数は、式（４）で定義されてもよい。
【０２０１】
【数４】
2022500798.tif 000063
【０２０２】
ここで、
【０２０３】
【化５８】
2022500798.tif 000064
【０２０４】
は、円形制約
【０２０５】
【化５９】
2022500798.tif 000065
【０２０６】
を有するシンプレックスを表す。ここで、ベクトル
【０２０７】
【化６０】
2022500798.tif 000066
【０２０８】
は、シンプレックスの中心（即ち、第１ハイパーパラメータ）を表し、１は、全て１であるベクトルを表し、ｒは円の半径であり、円心は、シンプレックスの中心である。
【０２０９】
ｓｐａｒｓｅｓｔｍａｘ関数は、ｓｐａｒｓｅｍａｘ函数と比べて、循環制約
【０２１０】
【化６１】
2022500798.tif 000067
【０２１１】
が引き入れられたため、直観的な幾何意味を有する。ｓｐａｒｓｅｍａｘ関数（解空間が
【０２１２】
【化６２】
2022500798.tif 000068
【０２１３】
である）の解空間と異なり、ｓｐａｒｓｅｓｔｍａｘの解空間は、円であり、中心ｕ及び半径ｒは、シンプレックスに含まれない。
【０２１４】
完全スパースの要件を満たすために、訓練段階で、半径ｒ（即ち、第２ハイパーパラメータ）をゼロからｒｃまでに線形的に増加させる。ｒｃは、シンプレックスの外接円の半径である。
【０２１５】
【化６３】
2022500798.tif 000069
【０２１６】
の場合、式（４）の解空間は、シンプレックスのＫ個の頂点のみを含む。これにより、ｓｐａｒｓｅｓｔｍａｘ関数は、完全スパースのものになる。
【０２１７】
本実施例において、ｓｐａｒｓｅｓｔｍａｘ関数に基づいたスパース適応的正規化過程は、下記ステップのように簡単に説明されてもよい。ステップ１において、前記学習パラメータｚ、第１ハイパーパラメータｕ及び第２ハイパーパラメータｒに基づいて、第１サブ重みベクトルｐ０を決定する。ステップ２において、
【０２１８】
【化６４】
2022500798.tif 000070
【０２１９】
である場合、最終重みベクトルｐ＝ｐ０であり、ステップ４へ進み、そうでなければ、第２サブ重みベクトルｐ１を算出し、
【０２２０】
【化６５】
2022500798.tif 000071
【０２２１】
である。ステップ３において、
【０２２２】
【化６６】
2022500798.tif 000072
【０２２３】
である場合、最終重みベクトルｐ＝ｐ１であり、ステップ４へ進み、そうでなければ、更新された第１ハイパーパラメータｕを取得し、更新された第２ハイパーパラメータｒ｀及び第３サブ重みベクトルｐ２に基づいて、最終重みベクトル
【０２２４】
【化６７】
2022500798.tif 000073
【０２２５】
を決定する。ここで、
【０２２６】
【化６８】
2022500798.tif 000074
【０２２７】
であり、
【０２２８】
【化６９】
2022500798.tif 000075
【０２２９】
であり、
【０２３０】
【化７０】
2022500798.tif 000076
【０２３１】
である。ステップ４において、特徴マップの平均値を
【０２３２】
【化７１】
2022500798.tif 000077
【０２３３】
と決定し、分散を
【０２３４】
【化７２】
2022500798.tif 000078
【０２３５】
と決定する。ここで、ｐ｀は、分散に対応する最終重みベクトルである。分散に対応する最終重みベクトルの取得方式は、平均値に対応する最終重みベクトルの取得方式と同じである。
【０２３６】
図４は、本願の実施例による異なる関数及び異なるパラメータに基づいて得られた重みベクトルを示す概略図である。図４（ａ）は、Ｋ＝３であり且つｚ＝（０．５，０．３，０．２）である場合、関数ｓｏｆｔｍａｘにより得られた重みベクトルｐ＝（０．３９，０．３２，０．２９）を表し、図４（ｂ）は、Ｋ＝３であり且つｚ＝（０．５，０．３，０．２）である場合、関数ｓｐａｒｓｅｍａｘにより得られた重みベクトルｐ＝（０．５，０．３，０．２）を表す。これから分かるように、ｓｏｆｔｍａｘ函数の出力は、ｓｐａｒｓｅｍａｘ関数の出力よりも均一である。図４（ｃ）から図４（ｆ）は、Ｋ＝３である場合、異なる半径（異なる第２ハイパーパラメータ）に基づいて得られた重みベクトルを表す。ｓｐａｒｓｅｓｔｍａｘ関数は、ｒの増加に伴ってますますスパースになる出力を生成する。
【０２３７】
図４（ｂ）及び図４（ｃ）に示すように、ｚ＝（０．５，０．３，０．２）とし、ｓｐａｒｓｅｍａｘ関数から出力された重みベクトルは、ｐ０＝（０．５，０．３，０．２）とする。ｒ＝０．１５である場合、ｐ０は、制約条件
【０２３８】
【化７３】
2022500798.tif 000079
【０２３９】
を満たす。従って、ｐ０は、ｓｐａｒｓｅｓｔｍａｘ関数の解であってもよい。この場合、ｓｐａｒｓｅｓｔｍａｘの計算方法は、ｓｐａｒｓｅｍａｘと同じである。これにより、最適な重みベクトルを返送する。
【０２４０】
図４（ｄ）に示すように、ｒが０．３までに増加した場合、ｐ０＝（０．５，０．３，０．２）である場合、
【０２４１】
【化７４】
2022500798.tif 000080
【０２４２】
である。これは、予め設定された制約条件を満たしないことを意味する。この場合、ｓｐａｒｓｅｓｔｍａｘは、円における点ｐ１を返送する。これは、ｐ０を円に投影した面により算出されたものであり、つまり、
【０２４３】
【化７５】
2022500798.tif 000081
【０２４４】
を出力とする。
【０２４５】
図４（ｅ）に示すように、ｒ＝０．６である場合、ｐ１は、シンプレックスから出る。この場合、ｐ１は、シンプレックスにおける最寄り点であるｐ２に投射される。続いて、ｓｐａｒｓｅｓｔｍａｘ関数により、ｐ２をｐ３へマッピングする。ｐ３の表現式は、式（５）に示すとおりである。
【０２４６】
【数５】
2022500798.tif 000082
【０２４７】
図４（ｆ）に示すように、ｒ＝ｒｃ＝０．８１６である場合、Ｋ＝３について、円は、シンプレックスの外接円になり、ｐ３は３つの頂点の１つまでに移動する。該頂点は、ｐ０に最も近い点である。この場合、完全スパースの最終重みベクトルｐ３＝（１，０，０）を出力とする。
【０２４８】
ｓｐａｒｓｅｓｔｍａｘ関数は、上記検討した、
【０２４９】
【化７６】
2022500798.tif 000083
【０２５０】
の全ての４つの要件を満たす。半径ｒは、訓練の進行に伴って０からｒｃまでに増加するため、ｓｐａｒｓｅｓｔｍａｘ関数から出力された重みベクトルの解空間は、シンプレックスの３つの頂点までに縮小する。これは、ｓｐａｒｓｅｓｔｍａｘ関数から出力された重みベクトルｐが単位長さであり、且つ完全スパースのものであることを示す。つまり、
【０２５１】
【化７７】
2022500798.tif 000084
【０２５２】
の最初の２つの要件を満たす。３番目の要件について、ｓｐａｒｓｅｓｔｍａｘ関数は、深層ネットワークのフォワード計算において実行される。損失関数に余分なスパース正規化要素を引き入れることなく、正規化の難度が調整しやすいため、使用しやすい。４番目の要件について、ｓｐａｒｓｅｓｔｍａｘ関数により訓練されたＳＳＮは安定したものであるため、４番目の要件を満たす。一般的には、各ｋについて、
【０２５３】
【化７８】
2022500798.tif 000085
【０２５４】
である場合、ｚｋは、ゼロである。これは、ｐの要素が０になると、後続の訓練段階で「ウェークアップ」することがないことを示す。これは、訓練のスパース性の維持に寄与する。
【０２５５】
上述したように、上記様々な段階の属性を検査する。ここで、
【０２５６】
【化７９】
2022500798.tif 000086
【０２５７】
をそれぞれ「解析方向」及び「解析距離」とする。
【０２５８】
【化８０】
2022500798.tif 000087
【０２５９】
である場合、ｐにおけるｋ番目の成分は、他の成分よりも重要ではないことを示す。従って、訓練を中止することは、合理的である。ｐ０がｐ１までに移動して、続いてｐ２までに移動した場合、
【０２６０】
【化８１】
2022500798.tif 000088
【０２６１】
になる。この場合、ｐ１がシンプレックスからである前に、好適なスパース方向を学習したことを示す。
【０２６２】
本実施例において、ＳＳＮにおける重要度比率は、スパース距離を学習する必要がなく、スパース方向の更新に注目する。これにより、各訓練ステップにおけるＩＮ、ＢＮ及びＬＮの相対的大きさを調整する。該属性は、重要度比率を訓練する場合の難度を直観的に低下させる。Ｌを深層ネットワークにおける正規化層の層数とする。訓練段階で、計算の複雑さは、低い、しかしながら、ＳＳＮは、完全スパースの正規化方式の選択を学習するため、試験段階で、関連技術におけるスパースの速度より速い。各正規化層におけるＩＮ、ＢＮ及びＬＮの統計データを推定する必要があるＳＮと異なり、本実施例で提供されるＳＳＮは、１つのみ正規化方式の統計データを計算する。この場合、ＳＳＮにおけるＢＮを線形変換に変換し、続いて、それを先の畳み込み層に結合する。従って、ネットワークの汎化能力を向上させ、試験過程を加速するだけでなく、深層ニューラルネットワークにおいてより高い汎用性を有する。
【０２６３】
本願の実施例は、画像処理装置を提供する。図５は、本願の実施例による画像処理装置の構造を示す概略図である。図５に示すように、前記装置５００は、第１取得モジュール５０１と、第１計算モジュール５０２と、第１決定モジュール５０３と、第１処理モジュール５０４と、を備え、前記第１取得モジュール５０１は、処理されるべき画像の第１特徴マップを取得するように構成され、前記第１取得モジュール５０２は、前記第１特徴マップの最終重みベクトルを決定するように構成され、前記第１決定モジュール５０３は、前記最終重みベクトルに基づいて、予め設定された正規化集合から、前記第１特徴マップに対応するターゲット正規化方式を決定するように構成され、前記第１処理モジュール５０４は、前記ターゲット正規化方式を用いて、前記第１特徴マップに対して正規化処理を行い、第２特徴マップを得るように構成される。
【０２６４】
本願の実施例において、前記第１取得モジュール５０１は、前記ニューラルネットワークにおける畳み込み層を利用して、前記処理されるべき画像に対して特徴抽出を行い、前記第１特徴マップを得るように構成される第１抽出サブモジュールを備え、なお、前記予め設定されたパラメータ集合は、第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータを含み、前記第１計算モジュール５０２は、前記予め設定されたパラメータ集合における第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータに基づいて、前記第１特徴マップの最終重みベクトルを算出するように構成される第１計算サブモジュールを備える。
【０２６５】
本願の実施例において、前記第１計算サブモジュールは、前記第１ハイパーパラメータ及び前記第２ハイパーパラメータに基づいて、予め設定された制約条件を決定するように構成される第１決定ユニットと、前記予め設定された制約条件及び前記学習パラメータに基づいて、前記第１特徴マップの最終重みベクトルを決定するように構成される第２決定ユニットであって、前記学習パラメータは、前記第１特徴マップの最終重みベクトルを算出するためのものであり、前記第１ハイパーパラメータは、予め設定されたシンプレックスの中心を表すためのものであり、前記第２ハイパーパラメータは、前記最終重みベクトルの範囲を小さくするためのものである、第２決定ユニットと、を備える。
【０２６６】
本願の実施例において、前記予め設定された制約条件は、前記最終重みベクトルと前記第１ハイパーパラメータとの距離を前記第２ハイパーパラメータの数値以上に限定するためのものである。
【０２６７】
本願の実施例において、前記第１取得モジュール５０１は、前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定するように構成される第１決定サブモジュールと、前記予め設定された制約条件及び前記学習パラメータに基づいて、前記平均値ベクトルに対応する平均値最終重みベクトル及び前記分散ベクトルに対応する分散最終重みベクトルをそれぞれ決定するように構成される第２決定サブモジュールと、を備え、なお、前記第１決定モジュール５０３は、前記平均値最終重みベクトル及び前記分散最終重みベクトルに基づいて、平均値の第１サブ正規化方式及び分散の第２サブ正規化方式をそれぞれ決定するように構成される第３決定サブモジュールであって、前記第１サブ正規化方式は前記第２サブ正規化方式と同じであるか又は異なる、第３決定サブモジュールを備え、なお、前記第１処理モジュール５０４は、前記第１サブ正規化方式及び前記第２サブ正規化方式に基づいて、前記平均値ベクトル及び前記分散ベクトルに対してそれぞれ正規化を行い、正規化された平均値ベクトル及び正規化された分散ベクトルを得るように構成される第１正規化サブモジュールと、前記正規化された平均値ベクトル、前記正規化された分散ベクトル及び前記第１特徴マップに基づいて、前記第２特徴マップを得るように構成される第４決定サブモジュールと、を備える。
【０２６８】
本願の実施例において、前記第１決定サブモジュールは、予め設定された正規化集合に基づいて、前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定するように構成される第３決定ユニットを備え、前記平均値ベクトルの次元数及び分散ベクトルの次元数は、いずれも前記予め設定された正規化集合における正規化方式の数と同じであり、前記平均値ベクトルにおける第ｉ次元での平均値は、前記予め設定された正規化集合におけるｊ番目の正規化方式に対応し、前記分散ベクトルにおける第ｉ次元での分散は、前記予め設定された正規化集合におけるｊ番目の正規化方式に対応し、ｉ及びｊはいずれも０より大きくて前記予め設定された正規化集合における正規化方式の数より小さい整数である。
【０２６９】
本願の実施例において、前記装置は、予め設定された正規化集合における正規化方式の数に基づいて、前記学習パラメータの次元数、前記第１ハイパーパラメータの次元数及び前記第１ハイパーパラメータにおける各次元での数値を決定するように構成される第２決定モジュールであって、前記第１ハイパーパラメータの各次元の数値の合計は、１であり、前記第１ハイパーパラメータの次元数は、前記学習パラメータの次元数と同じであり、前記第１ハイパーパラメータの各次元の数値と同じであり、且つ各次元の数値の合計は、１である、第２決定モジュールと、予め設定されたシンプレックスの中心から頂点までの距離を決定し、前記距離を、前記第２ハイパーパラメータに対応する予め設定された閾値として決定するように構成される第３決定モジュールであって、前記予め設定されたシンプレックスの各辺長さは、予め設定された固定数値であり、且つ頂点の数は、前記正規化方式の数と同じであり、前記第２ハイパーパラメータは、０より大きくて前記予め設定された閾値以下である数値である、第３決定モジュールと、を備える。
【０２７０】
本願の実施例において、前記第１計算サブモジュールは、前記第２ハイパーパラメータ及び前記学習パラメータに基づいて、第１サブ重みベクトルを決定するように構成される第４決定ユニットと、前記第１サブ重みベクトルと前記第１ハイパーパラメータとの距離が前記第２ハイパーパラメータ以上である場合、前記第１サブ重みベクトルを前記最終重みベクトルと決定するように構成される第５決定ユニットと、を備える。
【０２７１】
本願の実施例において、前記装置は、
前記第１サブ重みベクトルと前記第１ハイパーパラメータとの距離が前記第２ハイパーパラメータ未満である場合、前記第１ハイパーパラメータ、前記第２ハイパーパラメータ及び前記第１サブ重みベクトルに基づいて、第２サブ重みベクトルを決定するように構成される第４決定モジュールと、第２サブ重みベクトルが０以上である場合、前記第２サブ重みベクトルを最終重みベクトルと決定するように構成される第５決定モジュールと、を更に備える。
【０２７２】
本願の実施例において、前記装置は、前記第２サブ重みベクトルが０未満である場合、前記第２サブ重みベクトルに基づいて、前記第１ハイパーパラメータを更新し、更新された第１ハイパーパラメータを得るように構成される第１更新モジュールと、前記第２ハイパーパラメータ、前記更新された第１ハイパーパラメータ及び更新されていない第１ハイパーパラメータに基づいて、更新された第２ハイパーパラメータを決定するように構成される第６決定モジュールと、前記第２サブ重みベクトル及び前記学習パラメータに基づいて、第３サブ重みベクトルを決定するように構成される第７決定モジュールと、前記更新された第１ハイパーパラメータ、前記更新された第２ハイパーパラメータ及び前記第３サブ重みベクトルに基づいて、最終重みベクトルを決定するように構成される第８決定モジュールと、を更に備える。
【０２７３】
本願の実施例において、前記第１正規化サブモジュールは、前記平均値最終重みベクトルにおける各次元での重みを前記平均値ベクトルにおける各次元での重みと一対一に対応するように乗算し、各次元で得られた積を加算し、正規化された平均値ベクトルを得るように構成される第１計算ユニットと、前記分散最終重みベクトルにおける各次元での重みを前記分散ベクトルにおける各次元での分散と一対一に対応するように乗算し、各次元で得られた積を加算し、正規化された分散ベクトルを得るように構成される第２計算ユニットと、を備える。
【０２７４】
本願の実施例において、前記第４決定サブモジュールは、前記第１特徴マップと前記正規化された平均値ベクトルとの間の差の値を決定するように構成される第１差値算出ユニットと、前記正規化された分散ベクトルと予め設定された調整量との和に対応する平均分散を決定するように構成される第３計算ユニットと、前記平均分散に対する前記差の値の比率を決定するように構成される第４計算ユニットと、予め設定されたスケーリングパラメータを用いて前記比率をスケーリングし、スケーリングされた比率を得るように構成される第１スケーリングユニットと、予め設定されたシフトパラメータに応じて前記スケーリングされた比率を調整し、前記第２特徴マップを得るように構成される第１調整ユニットと、を備える。
【０２７５】
上記装置の実施例に関する説明は、上記方法の実施例に関する説明と類似しており、方法の実施例と類似した有益な効果を有することに留意されたい。本願の装置の実施例で説明されない技術的な詳細については、本願の方法の実施例の説明を参照されたい。
【０２７６】
本願の実施例において、上記画像処理方法がソフトウェア機能ユニットの形で実現され、かつ独立した製品として販売または使用されるとき、コンピュータにより読み取り可能な記憶媒体内に記憶されてもよいことに留意されたい。このような理解のもと、本発明の技術的解決手段は、本質的に、又は、従来技術に対して貢献をもたらした部分又は該技術的解決手段の一部は、ソフトウェア製品の形式で具現することができ、このようなコンピュータソフトウェア製品は、記憶媒体に記憶しても良く、また、一台の即時通信装置（端末、サーバ等）に、本発明の各実施例に記載の方法の全部又は一部のステップを実行させるための若干の命令を含む。前記の記憶媒体は、Ｕディスク、リムーバブルハードディスク、読み出し専用メモリ（Ｒｅａｄ-ｏｎｌｙ  Ｍｅｍｏｒｙ：ＲＯＭ）、磁気ディスク又は光ディスなど、プログラムコードを記憶可能な各種の媒体を含む。従って、本願の実施例は、如何なる特定のハードウェアとソフトウェアの組み合わせにも限定されない。
【０２７７】
なお、本願の実施例は、コンピュータ記憶媒体を提供する。前記コンピュータ記憶媒体にコンピュータ実行可能な命令が記憶されており、前記コンピュータ実行可能な命令が実行された後、本願の実施例で提供される画像処理方法におけるステップを実現させることができる。
【０２７８】
本願の実施例は、コンピュータ機器を提供する。前記コンピュータ機器は、メモリと、プロセッサと、を備え、前記メモリにコンピュータ実行可能な命令が記憶されており、前記プロセッサが前記メモリにおけるコンピュータ実行可能な命令を実行する場合、本願の実施例で提供される画像処理方法におけるステップを実現させることができる。
【０２７９】
図６は、本願の実施例によるコンピュータ機器の構造を示す概略図である。図６に示すように、該コンピュータ機器６００のハードウェアエンティティは、プロセッサ６０１、通信インタフェース６０２及びメモリ６０３を備え、
プロセッサ６０１は、一般的には、コンピュータ機器６００の全体的操作を制御する。
【０２８０】
通信インタフェース６０２は、コンピュータ機器を、ネットワークを介して他の端末又はサーバと通信させる。
【０２８１】
メモリ６０３は、プロセッサ６０１による実行可能な命令及びアプリケーションを記憶するように構成され、また、プロセッサ６０１及びコンピュータ機器６００における各モジュールにより処理されるか又は処理されたデータ（例えば、画像データ、オーディオデータ、音声通信データ及びビデオ通信データ）をキャッシュすることもでき、フラッシュ（ＦＬＡＳＨ（登録商標））又はランダムアクセスメモリ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ：ＲＡＭ）により実現することができる。
【０２８２】
上記即時コンピュータ機器及び記憶媒体の実施例に関する説明は、上記方法の実施例に関する説明と類似しており、方法の実施例と類似した有益な効果を有する。本願の即時通信装置及び記憶媒体の実施例で説明されない技術的な詳細については、本願の方法の実施例の説明を参照されたい。
【０２８３】
明細書全文を通じて述べられる「１つの実施例」または「一実施例」は、実施例に関連する特定の特徴、構造または特性が、本発明の少なくとも１つの実施例の中に含まれることを意味すると理解されたい。従って、本明細書全体を通して出現する「１つの実施例において」又は「一実施例において」は、同じ実施例を指すとは限らない。また、これらの特定の特徴、構造または特性は、任意かつ適切な方式で１つまたは複数の実施例に組み入れられることができる。本発明の各実施例において、上記各プロセスの番号の大きさは、実行順の前後を意味するのではなく、各プロセスの実行順は、その機能および内在的な論理によって確定されるものであり、本発明の実施例の実施プロセスに対しいっさい限定を構成しないと理解すべきである。上記の本発明に係る実施例の番号は、ただ、記述するためのものであり、実施例の優劣を代表しない。
【０２８４】
本明細書において、用語「含む」、「備える」、またはそれらの他のいずれかの変形は、非排他的包含を包括するように意図される。従って、一連の要素を含むプロセス、方法、品目又は装置は、これらの要素を含むだけでなく、明確に列挙されていない他の要素も含み、又は、このようなプロセス、方法、品目又は装置に固有の要素も含む。更なる限定が存在しない場合、“・・・を含む”なる文章によって規定される要素は、該要素を有するプロセス、方法、品目又は装置内に、同じ要素が更に存在することを排除しない。
【０２８５】
本願で提供される幾つかの実施例において、開示される装置及び方法は、他の方式によって実現できることを理解すべきである。例えば、以上に記載した装置の実施例はただ例示的なもので、例えば、前記ユニットの分割はただロジック機能の分割で、実際に実現する時は他の分割方式によってもよい。例えば、複数のユニット又は組立体を組み合わせてもよく、別のシステムに組み込んでもよい。又は若干の特徴を無視してもよく、実行しなくてもよい。また、示したか或いは検討した相互間の結合又は直接的な結合又は通信接続は、幾つかのインタフェース、装置又はユニットによる間接的な結合又は通信接続であってもよく、電気的、機械的または他の形態であってもよい。
【０２８６】
分離部材として説明した該ユニットは、物理的に別個のものであってもよく、そうでなくてもよい。ユニットとして示された部材は、物理的ユニットであってもよく、そうでなくてもよい。即ち、同一の位置に位置してもよく、複数のネットワークに分布してもよい。実際の需要に応じてそのうちの一部又は全てのユニットにより本実施例の方策の目的を実現することができる。
【０２８７】
また、本発明の各実施例における各機能ユニットは一つの処理ユニットに集積されてもよく、各ユニットが物理的に別個のものとして存在してもよく、２つ以上のユニットが一つのユニットに集積されてもよい。上記集積したユニットはハードウェアとして実現してもよく、ハードウェアとソフトウェア機能ユニットを組み合わせて実現してもよい。
【０２８８】
上記各方法に係る実施例の全部又は一部のステップはプログラム命令に係るハードウェアにより実現され、前記プログラムはコンピュータ読み取り可能な記憶媒体に記憶され、該プログラムが実行される時、上記方法の実施例におけるステップを実行し、前記記憶媒体は、携帯型記憶装置、読み出し専用メモリ（Ｒｅａｄ-ｏｎｌｙ  Ｍｅｍｏｒｙ：ＲＯＭ）、磁気ディスク又は光ディスクなど、プログラムコードを記憶可能な各種の媒体を含むことは、当業者であれば、理解すべてきである。
【０２８９】
又は、本発明の上記集積したユニットがソフトウェア機能ユニットの形で実現され、かつ独立した製品として販売または使用されるとき、コンピュータにより読み取り可能な記憶媒体内に記憶されてもよい。このような理解のもと、本発明の技術的解決手段は、本質的に、又は、従来技術に対して貢献をもたらした部分又は該技術的解決手段の一部は、ソフトウェア製品の形式で具現することができ、このようなコンピュータソフトウェア製品は、記憶媒体に記憶しても良く、また、コンピュータ設備（パソコン又はサーバなど）に、本発明の各実施例に記載の方法の全部又は一部のステップを実行させるための若干の命令を含む。前記の記憶媒体は、携帯型記憶装置、ＲＯＭ、磁気ディスク、又は光ディスクなど、プログラムコードを記憶可能な各種の媒体を含む。
【０２９０】
以上は本発明の具体的な実施形態に過ぎず、本発明の保護の範囲はそれらに制限されるものではなく、当業者が本発明に開示された技術範囲内で容易に想到しうる変更や置換はいずれも、本発明の保護範囲内に含まれるべきである。従って、本発明の保護範囲は特許請求の範囲の保護範囲を基準とするべきである。
【図１Ａ】
2022500798.tif 000089
【図１Ｂ】
2022500798.tif 000090
【図２Ａ】
2022500798.tif 000091
【図２Ｂ】
2022500798.tif 000092
【図２Ｃ】
2022500798.tif 000093
【図３】
2022500798.tif 000094
【図４】
2022500798.tif 000095
【図５】
2022500798.tif 000096
【図６】
2022500798.tif 000097
【手続補正書】
【提出日】令和3年3月10日(2021.3.10)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
画像処理方法であって、
処理されるべき画像の第１特徴マップを取得することと、
前記第１特徴マップの最終重みベクトルを決定することと、
前記最終重みベクトルに基づいて、予め設定された正規化集合から、前記第１特徴マップに対応するターゲット正規化方式を決定することと、
前記ターゲット正規化方式を用いて、前記第１特徴マップに対して正規化処理を行い、第２特徴マップを得ることと、を含む、前記方法。
【請求項２】
前記処理されるべき画像の第１特徴マップを取得することは、
前記ニューラルネットワークにおける畳み込み層を利用して、前記処理されるべき画像に対して特徴抽出を行い、前記第１特徴マップを得ることを含み、
前記予め設定されたパラメータ集合は、第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータを含み、前記第１特徴マップの最終重みベクトルを決定することは、
前記予め設定されたパラメータ集合における第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータに基づいて、前記第１特徴マップの最終重みベクトルを算出することを含むことを特徴とする
請求項１に記載の方法。
【請求項３】
前記予め設定されたパラメータ集合における第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータに基づいて、第１特徴マップの最終重みベクトルを算出することは、
前記第１ハイパーパラメータ及び前記第２ハイパーパラメータに基づいて、予め設定された制約条件を決定することであって、前記予め設定された制約条件は、前記最終重みベクトルと前記第１ハイパーパラメータとの距離を、前記第２ハイパーパラメータの数値以上に限定するためのものである、ことと、
前記予め設定された制約条件及び前記学習パラメータに基づいて、前記第１特徴マップの最終重みベクトルを決定することであって、前記学習パラメータは、前記第１特徴マップの最終重みベクトルを算出するためのものであり、前記第１ハイパーパラメータは、予め設定されたシンプレックスの中心を表すためのものであり、前記第２ハイパーパラメータは、前記最終重みベクトルの範囲を小さくするためのものである、ことと、を含むことを特徴とする
請求項２に記載の方法。
【請求項４】
前記第１特徴マップの最終重みベクトルを決定することは、前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定することと、前記予め設定された制約条件及び前記学習パラメータに基づいて、前記平均値ベクトルに対応する平均値最終重みベクトル及び前記分散ベクトルに対応する分散最終重みベクトルをそれぞれ決定することと、を含み、
前記最終重みベクトルに基づいて、予め設定された正規化集合から、前記第１特徴マップに対応するターゲット正規化方式を決定することは、前記平均値最終重みベクトル及び前記分散最終重みベクトルに基づいて、平均値の第１サブ正規化方式及び分散の第２サブ正規化方式をそれぞれ決定することであって、前記第１サブ正規化方式は前記第２サブ正規化方式と同じであるか又は異なる、ことを含み、
前記ターゲット正規化方式を利用して、前記第１特徴マップに対して正規化処理を行い、第２特徴マップを得ることは、前記第１サブ正規化方式及び前記第２サブ正規化方式に基づいて、前記平均値ベクトル及び前記分散ベクトルに対してそれぞれ正規化を行い、正規化された平均値ベクトル及び正規化された分散ベクトルを得ることと、前記正規化された平均値ベクトル、前記正規化された分散ベクトル及び前記第１特徴マップに基づいて、前記第２特徴マップを得ることと、を含むことを特徴とする
請求項１に記載の方法。
【請求項５】
前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定することは、
予め設定された正規化集合に基づいて、前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定することを含み、
前記平均値ベクトルの次元数及び分散ベクトルの次元数は、いずれも前記予め設定された正規化集合における正規化方式の数と同じであり、
前記平均値ベクトルにおける第ｉ次元での平均値は、前記予め設定された正規化集合におけるｊ番目の正規化方式に対応し、前記分散ベクトルにおける第ｉ次元での分散は、前記予め設定された正規化集合におけるｊ番目の正規化方式に対応し、ｉ及びｊはいずれも０より大きくて前記予め設定された正規化集合における正規化方式の数より小さい整数であることを特徴とする
請求項４に記載の方法。
【請求項６】
前記方法は、
予め設定された正規化集合における正規化方式の数に基づいて、前記学習パラメータの次元数、前記第１ハイパーパラメータの次元数及び前記第１ハイパーパラメータにおける各次元での数値を決定することであって、前記第１ハイパーパラメータの各次元の数値の合計は、１であり、前記第１ハイパーパラメータの次元数は、前記学習パラメータの次元数と同じであり、前記第１ハイパーパラメータの各次元の数値と同じであり、且つ各次元の数値の合計は、１である、ことと、
予め設定されたシンプレックスの中心から頂点までの距離を決定し、前記距離を、前記第２ハイパーパラメータに対応する予め設定された閾値として決定することであって、前記予め設定されたシンプレックスの各辺長さは、予め設定された固定数値であり、且つ頂点の数は、前記正規化方式の数と同じであり、前記第２ハイパーパラメータは、０より大きくて前記予め設定された閾値以下である数値である、ことと、を含むことを特徴とする
請求項２から５のうちいずれか一項に記載の方法。
【請求項７】
前記予め設定されたパラメータ集合における第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータに基づいて、第１特徴マップの最終重みベクトルを算出することは、
前記第２ハイパーパラメータ及び前記学習パラメータに基づいて、第１サブ重みベクトルを決定することと、
前記第１サブ重みベクトルと前記第１ハイパーパラメータとの距離が前記第２ハイパーパラメータ以上である場合、前記第１サブ重みベクトルを前記最終重みベクトルと決定することと、を含むことを特徴とする
請求項２に記載の方法。
【請求項８】
前記第２ハイパーパラメータ及び前記学習パラメータに基づいて、第１サブ重みベクトルを決定した後、前記方法は、
前記第１サブ重みベクトルと前記第１ハイパーパラメータとの距離が前記第２ハイパーパラメータ未満である場合、前記第１ハイパーパラメータ、前記第２ハイパーパラメータ及び前記第１サブ重みベクトルに基づいて、第２サブ重みベクトルを決定することと、
第２サブ重みベクトルが０以上である場合、前記第２サブ重みベクトルを最終重みベクトルと決定することと、を更に含むことを特徴とする
請求項７に記載の方法。
【請求項９】
前記第１ハイパーパラメータ、前記第２ハイパーパラメータ及び前記第１サブ重みベクトルに基づいて、第２サブ重みベクトルを決定した後、前記方法は、
前記第２サブ重みベクトルが０未満である場合、前記第２サブ重みベクトルに基づいて、前記第１ハイパーパラメータを更新し、更新された第１ハイパーパラメータを得ることと、
前記第２ハイパーパラメータ、前記更新された第１ハイパーパラメータ及び更新されていない第１ハイパーパラメータに基づいて、更新された第２ハイパーパラメータを決定することと、
前記第２サブ重みベクトル及び前記学習パラメータに基づいて、第３サブ重みベクトルを決定することと、
前記更新された第１ハイパーパラメータ、前記更新された第２ハイパーパラメータ及び前記第３サブ重みベクトルに基づいて、最終重みベクトルを決定することと、を更に含むことを特徴とする
請求項８に記載の方法。
【請求項１０】
前記第１サブ正規化方式及び前記第２サブ正規化方式に基づいて、前記平均値ベクトル及び前記分散ベクトルに対してそれぞれ正規化を行い、正規化された平均値ベクトル及び正規化された分散ベクトルを得ることは、
前記平均値最終重みベクトルにおける各次元での重みを前記平均値ベクトルにおける各次元での重みと一対一に対応するように乗算し、各次元で得られた積を加算し、正規化された平均値ベクトルを得ることと、
前記分散最終重みベクトルにおける各次元での重みを前記分散ベクトルにおける各次元での分散と一対一に対応するように乗算し、各次元で得られた積を加算し、正規化された分散ベクトルを得ることと、を含むことを特徴とする
請求項４に記載の方法。
【請求項１１】
前記正規化された平均値ベクトル、正規化された分散ベクトル及び前記第１特徴マップに基づいて、前記第２特徴マップを得ることは、
前記第１特徴マップと前記正規化された平均値ベクトルとの間の差の値を決定することと、
前記正規化された分散ベクトルと予め設定された調整量との和に対応する平均分散を決定することと、
前記平均分散に対する前記差の値の比率を決定することと、
予め設定されたスケーリングパラメータを用いて前記比率をスケーリングし、スケーリングされた比率を得ることと、
予め設定されたシフトパラメータに応じて前記スケーリングされた比率を調整し、前記第２特徴マップを得ることと、を含むことを特徴とする
請求項４に記載の方法。
【請求項１２】
画像処理装置であって、前記装置は、第１取得モジュールと、第１計算モジュールと、第１決定モジュールと、第１処理モジュールと、を備え、
前記第１取得モジュールは、処理されるべき画像の第１特徴マップを取得するように構成され、
前記第１取得モジュールは、前記第１特徴マップの最終重みベクトルを決定するように構成され、
前記第１決定モジュールは、前記最終重みベクトルに基づいて、予め設定された正規化集合から、前記第１特徴マップに対応するターゲット正規化方式を決定するように構成され、
前記第１処理モジュールは、前記ターゲット正規化方式を用いて、前記第１特徴マップに対して正規化処理を行い、第２特徴マップを得るように構成される、前記装置。
【請求項１３】
コンピュータ実行可能な命令を記憶するコンピュータ可読記憶媒体であって、前記コンピュータ実行可能な命令が、コンピュータに請求項１から１１のうちいずれか一項に記載の方法を実行させる、前記コンピュータ可読記憶媒体。
【請求項１４】
メモリ及びプロセッサを備えるコンピュータ機器であって、前記メモリに、コンピュータ実行可能な命令が記憶されており、前記プロセッサが前記メモリにおけるコンピュータ実行可能な命令を実行して、請求項１から１１のうちいずれか一項に記載の方法を実施する、前記コンピュータ機器。
【請求項１５】
コンピュータに、請求項１から１１のうちいずれか一項に記載の方法を実行させる、コンピュータプログラム。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】００３２
【補正方法】変更
【補正の内容】
【００３２】
本願の実施例は、コンピュータプログラム製品を提供する。前記コンピュータプログラム製品は、コンピュータ実行可能な命令を含み、該コンピュータ実行可能な命令が、本願の実施例で提供される画像処理方法におけるステップを実施するために実行される。
例えば、本願は以下の項目を提供する。
（項目１）
画像処理方法であって、
処理されるべき画像の第１特徴マップを取得することと、
前記第１特徴マップの最終重みベクトルを決定することと、
前記最終重みベクトルに基づいて、予め設定された正規化集合から、前記第１特徴マップに対応するターゲット正規化方式を決定することと、
前記ターゲット正規化方式を用いて、前記第１特徴マップに対して正規化処理を行い、第２特徴マップを得ることと、を含む、前記方法。
（項目２）
前記処理されるべき画像の第１特徴マップを取得することは、
前記ニューラルネットワークにおける畳み込み層を利用して、前記処理されるべき画像に対して特徴抽出を行い、前記第１特徴マップを得ることを含み、
前記予め設定されたパラメータ集合は、第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータを含み、前記第１特徴マップの最終重みベクトルを決定することは、
前記予め設定されたパラメータ集合における第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータに基づいて、前記第１特徴マップの最終重みベクトルを算出することを含むことを特徴とする
項目１に記載の方法。
（項目３）
前記予め設定されたパラメータ集合における第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータに基づいて、第１特徴マップの最終重みベクトルを算出することは、
前記第１ハイパーパラメータ及び前記第２ハイパーパラメータに基づいて、予め設定された制約条件を決定することと、
前記予め設定された制約条件及び前記学習パラメータに基づいて、前記第１特徴マップの最終重みベクトルを決定することであって、前記学習パラメータは、前記第１特徴マップの最終重みベクトルを算出するためのものであり、前記第１ハイパーパラメータは、予め設定されたシンプレックスの中心を表すためのものであり、前記第２ハイパーパラメータは、前記最終重みベクトルの範囲を小さくするためのものである、ことと、を含むことを特徴とする
項目２に記載の方法。
（項目４）
前記予め設定された制約条件は、前記最終重みベクトルと前記第１ハイパーパラメータとの距離を、前記第２ハイパーパラメータの数値以上に限定するためのものであることを特徴とする
項目３に記載の方法。
（項目５）
前記第１特徴マップの最終重みベクトルを決定することは、前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定することと、前記予め設定された制約条件及び前記学習パラメータに基づいて、前記平均値ベクトルに対応する平均値最終重みベクトル及び前記分散ベクトルに対応する分散最終重みベクトルをそれぞれ決定することと、を含み、
前記最終重みベクトルに基づいて、予め設定された正規化集合から、前記第１特徴マップに対応するターゲット正規化方式を決定することは、前記平均値最終重みベクトル及び前記分散最終重みベクトルに基づいて、平均値の第１サブ正規化方式及び分散の第２サブ正規化方式をそれぞれ決定することであって、前記第１サブ正規化方式は前記第２サブ正規化方式と同じであるか又は異なる、ことを含み、
前記ターゲット正規化方式を利用して、前記第１特徴マップに対して正規化処理を行い、第２特徴マップを得ることは、前記第１サブ正規化方式及び前記第２サブ正規化方式に基づいて、前記平均値ベクトル及び前記分散ベクトルに対してそれぞれ正規化を行い、正規化された平均値ベクトル及び正規化された分散ベクトルを得ることと、前記正規化された平均値ベクトル、前記正規化された分散ベクトル及び前記第１特徴マップに基づいて、前記第２特徴マップを得ることと、を含むことを特徴とする
項目１に記載の方法。
（項目６）
前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定することは、
予め設定された正規化集合に基づいて、前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定することを含み、
前記平均値ベクトルの次元数及び分散ベクトルの次元数は、いずれも前記予め設定された正規化集合における正規化方式の数と同じであり、
前記平均値ベクトルにおける第ｉ次元での平均値は、前記予め設定された正規化集合におけるｊ番目の正規化方式に対応し、前記分散ベクトルにおける第ｉ次元での分散は、前記予め設定された正規化集合におけるｊ番目の正規化方式に対応し、ｉ及びｊはいずれも０より大きくて前記予め設定された正規化集合における正規化方式の数より小さい整数であることを特徴とする
項目５に記載の方法。
（項目７）
前記方法は、
予め設定された正規化集合における正規化方式の数に基づいて、前記学習パラメータの次元数、前記第１ハイパーパラメータの次元数及び前記第１ハイパーパラメータにおける各次元での数値を決定することであって、前記第１ハイパーパラメータの各次元の数値の合計は、１であり、前記第１ハイパーパラメータの次元数は、前記学習パラメータの次元数と同じであり、前記第１ハイパーパラメータの各次元の数値と同じであり、且つ各次元の数値の合計は、１である、ことと、
予め設定されたシンプレックスの中心から頂点までの距離を決定し、前記距離を、前記第２ハイパーパラメータに対応する予め設定された閾値として決定することであって、前記予め設定されたシンプレックスの各辺長さは、予め設定された固定数値であり、且つ頂点の数は、前記正規化方式の数と同じであり、前記第２ハイパーパラメータは、０より大きくて前記予め設定された閾値以下である数値である、ことと、を含むことを特徴とする
項目２から６のうちいずれか一項に記載の方法。
（項目８）
前記予め設定されたパラメータ集合における第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータに基づいて、第１特徴マップの最終重みベクトルを算出することは、
前記第２ハイパーパラメータ及び前記学習パラメータに基づいて、第１サブ重みベクトルを決定することと、
前記第１サブ重みベクトルと前記第１ハイパーパラメータとの距離が前記第２ハイパーパラメータ以上である場合、前記第１サブ重みベクトルを前記最終重みベクトルと決定することと、を含むことを特徴とする
項目２に記載の方法。
（項目９）
前記第２ハイパーパラメータ及び前記学習パラメータに基づいて、第１サブ重みベクトルを決定した後、前記方法は、
前記第１サブ重みベクトルと前記第１ハイパーパラメータとの距離が前記第２ハイパーパラメータ未満である場合、前記第１ハイパーパラメータ、前記第２ハイパーパラメータ及び前記第１サブ重みベクトルに基づいて、第２サブ重みベクトルを決定することと、
第２サブ重みベクトルが０以上である場合、前記第２サブ重みベクトルを最終重みベクトルと決定することと、を更に含むことを特徴とする
項目８に記載の方法。
（項目１０）
前記第１ハイパーパラメータ、前記第２ハイパーパラメータ及び前記第１サブ重みベクトルに基づいて、第２サブ重みベクトルを決定した後、前記方法は、
前記第２サブ重みベクトルが０未満である場合、前記第２サブ重みベクトルに基づいて、前記第１ハイパーパラメータを更新し、更新された第１ハイパーパラメータを得ることと、
前記第２ハイパーパラメータ、前記更新された第１ハイパーパラメータ及び更新されていない第１ハイパーパラメータに基づいて、更新された第２ハイパーパラメータを決定することと、
前記第２サブ重みベクトル及び前記学習パラメータに基づいて、第３サブ重みベクトルを決定することと、
前記更新された第１ハイパーパラメータ、前記更新された第２ハイパーパラメータ及び前記第３サブ重みベクトルに基づいて、最終重みベクトルを決定することと、を更に含むことを特徴とする
項目９に記載の方法。
（項目１１）
前記第１サブ正規化方式及び前記第２サブ正規化方式に基づいて、前記平均値ベクトル及び前記分散ベクトルに対してそれぞれ正規化を行い、正規化された平均値ベクトル及び正規化された分散ベクトルを得ることは、
前記平均値最終重みベクトルにおける各次元での重みを前記平均値ベクトルにおける各次元での重みと一対一に対応するように乗算し、各次元で得られた積を加算し、正規化された平均値ベクトルを得ることと、
前記分散最終重みベクトルにおける各次元での重みを前記分散ベクトルにおける各次元での分散と一対一に対応するように乗算し、各次元で得られた積を加算し、正規化された分散ベクトルを得ることと、を含むことを特徴とする
項目５に記載の方法。
（項目１２）
前記正規化された平均値ベクトル、正規化された分散ベクトル及び前記第１特徴マップに基づいて、前記第２特徴マップを得ることは、
前記第１特徴マップと前記正規化された平均値ベクトルとの間の差の値を決定することと、
前記正規化された分散ベクトルと予め設定された調整量との和に対応する平均分散を決定することと、
前記平均分散に対する前記差の値の比率を決定することと、
予め設定されたスケーリングパラメータを用いて前記比率をスケーリングし、スケーリングされた比率を得ることと、
予め設定されたシフトパラメータに応じて前記スケーリングされた比率を調整し、前記第２特徴マップを得ることと、を含むことを特徴とする
項目５に記載の方法。
（項目１３）
画像処理装置であって、前記装置は、第１取得モジュールと、第１計算モジュールと、第１決定モジュールと、第１処理モジュールと、を備え、
前記第１取得モジュールは、処理されるべき画像の第１特徴マップを取得するように構成され、
前記第１取得モジュールは、前記第１特徴マップの最終重みベクトルを決定するように構成され、
前記第１決定モジュールは、前記最終重みベクトルに基づいて、予め設定された正規化集合から、前記第１特徴マップに対応するターゲット正規化方式を決定するように構成され、
前記第１処理モジュールは、前記ターゲット正規化方式を用いて、前記第１特徴マップに対して正規化処理を行い、第２特徴マップを得るように構成される、前記装置。
（項目１４）
前記第１取得モジュールは、
前記ニューラルネットワークにおける畳み込み層を利用して、前記処理されるべき画像に対して特徴抽出を行い、前記第１特徴マップを得るように構成される第１抽出サブモジュールを備え、
前記予め設定されたパラメータ集合は、第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータを含み、前記第１計算モジュールは、
前記予め設定されたパラメータ集合における第１ハイパーパラメータ、第２ハイパーパラメータ及び学習パラメータに基づいて、前記第１特徴マップの最終重みベクトルを算出するように構成される第１計算サブモジュールを備えることを特徴とする
項目１３に記載の装置。
（項目１５）
前記第１計算サブモジュールは、
前記第１ハイパーパラメータ及び前記第２ハイパーパラメータに基づいて、予め設定された制約条件を決定するように構成される第１決定ユニットと、
前記予め設定された制約条件及び前記学習パラメータに基づいて、前記第１特徴マップの最終重みベクトルを決定するように構成される第２決定ユニットであって、前記学習パラメータは、前記第１特徴マップの最終重みベクトルを算出するためのものであり、前記第１ハイパーパラメータは、予め設定されたシンプレックスの中心を表すためのものであり、前記第２ハイパーパラメータは、前記最終重みベクトルの範囲を小さくするためのものである、第２決定ユニットと、を備えることを特徴とする
項目１４に記載の装置。
（項目１６）
前記予め設定された制約条件は、前記最終重みベクトルと前記第１ハイパーパラメータとの距離を前記第２ハイパーパラメータの数値以上に限定するためのものであることを特徴とする
項目１５に記載の装置。
（項目１７）
前記第１取得モジュールは、前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定するように構成される第１決定サブモジュールと、
前記予め設定された制約条件及び前記学習パラメータに基づいて、前記平均値ベクトルに対応する平均値最終重みベクトル及び前記分散ベクトルに対応する分散最終重みベクトルをそれぞれ決定するように構成される第２決定サブモジュールと、を備え、
前記第１決定モジュールは、前記平均値最終重みベクトル及び前記分散最終重みベクトルに基づいて、平均値の第１サブ正規化方式及び分散の第２サブ正規化方式をそれぞれ決定するように構成される第３決定サブモジュールであって、前記第１サブ正規化方式は前記第２サブ正規化方式と同じであるか又は異なる、第３決定サブモジュールを備え、
前記第１処理モジュールは、前記第１サブ正規化方式及び前記第２サブ正規化方式に基づいて、前記平均値ベクトル及び前記分散ベクトルに対してそれぞれ正規化を行い、正規化された平均値ベクトル及び正規化された分散ベクトルを得るように構成される第１正規化サブモジュールと、
前記正規化された平均値ベクトル、前記正規化された分散ベクトル及び前記第１特徴マップに基づいて、前記第２特徴マップを得るように構成される第４決定サブモジュールと、を備えることを特徴とする
項目１３に記載の装置。
（項目１８）
前記第１決定サブモジュールは、
予め設定された正規化集合に基づいて、前記第１特徴マップの平均値ベクトル及び分散ベクトルを決定するように構成される第３決定ユニットを備え、
前記平均値ベクトルの次元数及び分散ベクトルの次元数は、いずれも前記予め設定された正規化集合における正規化方式の数と同じであり、
前記平均値ベクトルにおける第ｉ次元での平均値は、前記予め設定された正規化集合におけるｊ番目の正規化方式に対応し、前記分散ベクトルにおける第ｉ次元での分散は、前記予め設定された正規化集合におけるｊ番目の正規化方式に対応し、ｉ及びｊはいずれも０より大きくて前記予め設定された正規化集合における正規化方式の数より小さい整数であることを特徴とする
項目１７に記載の装置。
（項目１９）
前記装置は、
予め設定された正規化集合における正規化方式の数に基づいて、前記学習パラメータの次元数、前記第１ハイパーパラメータの次元数及び前記第１ハイパーパラメータにおける各次元での数値を決定するように構成される第２決定モジュールであって、前記第１ハイパーパラメータの各次元の数値の合計は、１であり、前記第１ハイパーパラメータの次元数は、前記学習パラメータの次元数と同じであり、前記第１ハイパーパラメータの各次元の数値と同じであり、且つ各次元の数値の合計は、１である、第２決定モジュールと、
予め設定されたシンプレックスの中心から頂点までの距離を決定し、前記距離を、前記第２ハイパーパラメータに対応する予め設定された閾値として決定するように構成される第３決定モジュールであって、前記予め設定されたシンプレックスの各辺長さは、予め設定された固定数値であり、且つ頂点の数は、前記正規化方式の数と同じであり、前記第２ハイパーパラメータは、０より大きくて前記予め設定された閾値以下である数値である、第３決定モジュールと、を備えることを特徴とする
項目１４から１８のうちいずれか一項に記載の装置。
（項目２０）
前記第１計算サブモジュールは、
前記第２ハイパーパラメータ及び前記学習パラメータに基づいて、第１サブ重みベクトルを決定するように構成される第４決定ユニットと、
前記第１サブ重みベクトルと前記第１ハイパーパラメータとの距離が前記第２ハイパーパラメータ以上である場合、前記第１サブ重みベクトルを前記最終重みベクトルと決定するように構成される第５決定ユニットと、を備えることを特徴とする
項目１４に記載の装置。
（項目２１）
前記装置は、
前記第１サブ重みベクトルと前記第１ハイパーパラメータとの距離が前記第２ハイパーパラメータ未満である場合、前記第１ハイパーパラメータ、前記第２ハイパーパラメータ及び前記第１サブ重みベクトルに基づいて、第２サブ重みベクトルを決定するように構成される第４決定モジュールと、
第２サブ重みベクトルが０以上である場合、前記第２サブ重みベクトルを最終重みベクトルと決定するように構成される第５決定モジュールと、を更に備えることを特徴とする
項目２０に記載の装置。
（項目２２）
前記装置は、
前記第２サブ重みベクトルが０未満である場合、前記第２サブ重みベクトルに基づいて、前記第１ハイパーパラメータを更新し、更新された第１ハイパーパラメータを得るように構成される第１更新モジュールと、
前記第２ハイパーパラメータ、前記更新された第１ハイパーパラメータ及び更新されていない第１ハイパーパラメータに基づいて、更新された第２ハイパーパラメータを決定するように構成される第６決定モジュールと、
前記第２サブ重みベクトル及び前記学習パラメータに基づいて、第３サブ重みベクトルを決定するように構成される第７決定モジュールと、
前記更新された第１ハイパーパラメータ、前記更新された第２ハイパーパラメータ及び前記第３サブ重みベクトルに基づいて、最終重みベクトルを決定するように構成される第８決定モジュールと、を更に備えることを特徴とする
項目２１に記載の装置。
（項目２３）
前記第１正規化サブモジュールは、
前記平均値最終重みベクトルにおける各次元での重みを前記平均値ベクトルにおける各次元での重みと一対一に対応するように乗算し、各次元で得られた積を加算し、正規化された平均値ベクトルを得るように構成される第１計算ユニットと、
前記分散最終重みベクトルにおける各次元での重みを前記分散ベクトルにおける各次元での分散と一対一に対応するように乗算し、各次元で得られた積を加算し、正規化された分散ベクトルを得るように構成される第２計算ユニットと、を備えることを特徴とする
項目１７に記載の装置。
（項目２４）
前記第４決定サブモジュールは、
前記第１特徴マップと前記正規化された平均値ベクトルとの間の差の値を決定するように構成される第１差値算出ユニットと、
前記正規化された分散ベクトルと予め設定された調整量との和に対応する平均分散を決定するように構成される第３計算ユニットと、
前記平均分散に対する前記差の値の比率を決定するように構成される第４計算ユニットと、
予め設定されたスケーリングパラメータを用いて前記比率をスケーリングし、スケーリングされた比率を得るように構成される第１スケーリングユニットと、
予め設定されたシフトパラメータに応じて前記スケーリングされた比率を調整し、前記第２特徴マップを得るように構成される第１調整ユニットと、を備えることを特徴とする
項目１７に記載の装置。
（項目２５）
コンピュータ実行可能な命令を記憶するコンピュータ記憶媒体であって、前記コンピュータ実行可能な命令が、項目１から１２のうちいずれか一項に記載の方法のステップを実施するために実行される、前記コンピュータ記憶媒体。
（項目２６）
メモリ及びプロセッサを備えるコンピュータ機器であって、前記メモリに、コンピュータ実行可能な命令が記憶されており、前記プロセッサが前記メモリにおけるコンピュータ実行可能な命令を実行して、項目１から１２のうちいずれか一項に記載の方法のステップを実施する、前記コンピュータ機器。
（項目２７）
コンピュータ実行可能な命令を含むコンピュータプログラム製品であって、前記コンピュータ実行可能な命令が、項目１から１２のうちいずれか一項に記載の方法のステップを実施するために実行される、前記コンピュータプログラム製品。
【国際調査報告】
2022500798.tif 000098
2022500798.tif 000099
2022500798.tif 000100
2022500798.tif 000101