(57)【特許請求の範囲】
【請求項１】
画像を受け付ける画像受付手段と、
前記画像受付手段によって受け付けられた画像に対して、畳込処理を行う複数の畳込処理手段と、
前記畳込処理手段による処理結果に対して、整流処理を行う複数の整流処理手段と、
前記整流処理手段による処理結果に対して、正規化処理を行う複数の正規化処理手段と、
前記正規化処理手段による処理結果に対して、サブサンプリング処理を行うことによって、前記画像の特徴量を抽出する複数の特徴抽出手段と、
前記特徴抽出手段によって抽出された特徴量に基づいて、前記画像を識別する識別手段
を具備し、
前記正規化処理手段は、２つの前記整流処理手段による処理結果間の差を、該処理結果に基づいた値を除数として除算することによって正規化する
ことを特徴とする画像処理装置。
【請求項２】
画像を受け付ける画像受付手段と、
前記画像受付手段によって受け付けられた画像に対して、畳込処理を行う複数の畳込処理手段と、
前記畳込処理手段による処理結果に対して、整流処理を行う複数の整流処理手段と、
前記整流処理手段による処理結果に対して、サブサンプリング処理を行う複数のサブサンプリング処理手段と、
前記サブサンプリング処理手段による処理結果に対して、正規化処理を行うことによって、前記画像の特徴量を抽出する複数の特徴抽出手段と、
前記特徴抽出手段によって抽出された特徴量に基づいて、前記画像を識別する識別手段
を具備し、
前記正規化処理手段は、２つの前記サブサンプリング処理手段による処理結果間の差を、２つの前記整流処理手段による処理結果に基づいた値を除数として除算することによって正規化する
ことを特徴とする画像処理装置。
【請求項３】
画像を受け付ける画像受付手段と、
前記画像受付手段によって受け付けられた画像に対して、畳込処理を行う複数の畳込処理手段と、
前記畳込処理手段による処理結果に対して、整流処理を行う複数の整流処理手段と、
前記整流処理手段による処理結果に対して、サブサンプリング処理を行う複数のサブサンプリング処理手段と、
前記サブサンプリング処理手段による処理結果に対して、正規化処理を行うことによって、前記画像の特徴量を抽出する複数の特徴抽出手段と、
前記特徴抽出手段によって抽出された特徴量に基づいて、前記画像を識別する識別手段
を具備し、
前記正規化処理手段は、２つの前記サブサンプリング処理手段による処理結果間の差を、該処理結果に基づいた値を除数として除算することによって正規化する
ことを特徴とする画像処理装置。
【請求項４】
画像を受け付ける画像受付手段と、
前記画像受付手段によって受け付けられた画像に対して、畳込処理を行う複数の畳込処理手段と、
前記畳込処理手段による処理結果に対して、整流処理を行う複数の整流処理手段と、
前記整流処理手段による処理結果に対して、サブサンプリング処理を行う複数のサブサンプリング処理手段と、
前記サブサンプリング処理手段による処理結果に対して、正規化処理を行うことによって、前記画像の特徴量を抽出する複数の特徴抽出手段と、
前記特徴抽出手段によって抽出された特徴量に基づいて、前記画像を識別する識別手段
を具備し、
前記正規化処理手段は、２つの前記サブサンプリング処理手段による処理結果間の差を、該処理結果の和を除数として除算することによって正規化する
ことを特徴とする画像処理装置。
【請求項５】
画像を受け付ける画像受付手段と、
前記画像受付手段によって受け付けられた画像に対して、畳込処理を行う複数の畳込処理手段と、
前記畳込処理手段による処理結果に対して、整流処理を行う複数の整流処理手段と、
複数の前記整流処理手段による処理結果を加算する複数の加算手段と、
前記加算手段による処理結果に対して、サブサンプリング処理を行う複数のサブサンプリング処理手段と、
前記サブサンプリング処理手段による処理結果に対して、平均化処理を行う複数の平均化処理手段と、
前記平均化処理手段による処理結果に対して、正規化処理を行うことによって、前記画像の特徴量を抽出する複数の特徴抽出手段と、
前記特徴抽出手段によって抽出された特徴量に基づいて、前記画像を識別する識別手段
を具備し、
前記整流処理手段、前記加算手段、前記サブサンプリング処理手段、前記平均化処理手段による処理は、重み付き一般化平均処理であり、
前記正規化処理手段は、２つの前記平均化処理手段による処理結果間の差を、該処理結果の和を除数として除算することによって正規化する
ことを特徴とする画像処理装置。
【請求項６】
前記整流処理手段が行う整流処理は、入力の絶対値に対してｒ乗を行う処理（ｒは正の実数）であり、
前記平均化処理手段が行う平均化処理は、ｒ’乗を行う処理である
ことを特徴とする請求項５に記載の画像処理装置。
【請求項７】
コンピュータを、
画像を受け付ける画像受付手段と、
前記画像受付手段によって受け付けられた画像に対して、畳込処理を行う複数の畳込処理手段と、
前記畳込処理手段による処理結果に対して、整流処理を行う複数の整流処理手段と、
前記整流処理手段による処理結果に対して、正規化処理を行う複数の正規化処理手段と、
前記正規化処理手段による処理結果に対して、サブサンプリング処理を行うことによって、前記画像の特徴量を抽出する複数の特徴抽出手段と、
前記特徴抽出手段によって抽出された特徴量に基づいて、前記画像を識別する識別手段
として機能させ、
前記正規化処理手段は、２つの前記整流処理手段による処理結果間の差を、該処理結果に基づいた値を除数として除算することによって正規化する
ことを特徴とする画像処理プログラム。
【請求項８】
コンピュータを、
画像を受け付ける画像受付手段と、
前記画像受付手段によって受け付けられた画像に対して、畳込処理を行う複数の畳込処理手段と、
前記畳込処理手段による処理結果に対して、整流処理を行う複数の整流処理手段と、
前記整流処理手段による処理結果に対して、サブサンプリング処理を行う複数のサブサンプリング処理手段と、
前記サブサンプリング処理手段による処理結果に対して、正規化処理を行うことによって、前記画像の特徴量を抽出する複数の特徴抽出手段と、
前記特徴抽出手段によって抽出された特徴量に基づいて、前記画像を識別する識別手段
として機能させ、
前記正規化処理手段は、２つの前記サブサンプリング処理手段による処理結果間の差を、２つの前記整流処理手段による処理結果に基づいた値を除数として除算することによって正規化する
ことを特徴とする画像処理プログラム。
【請求項９】
コンピュータを、
画像を受け付ける画像受付手段と、
前記画像受付手段によって受け付けられた画像に対して、畳込処理を行う複数の畳込処理手段と、
前記畳込処理手段による処理結果に対して、整流処理を行う複数の整流処理手段と、
前記整流処理手段による処理結果に対して、サブサンプリング処理を行う複数のサブサンプリング処理手段と、
前記サブサンプリング処理手段による処理結果に対して、正規化処理を行うことによって、前記画像の特徴量を抽出する複数の特徴抽出手段と、
前記特徴抽出手段によって抽出された特徴量に基づいて、前記画像を識別する識別手段
として機能させ、
前記正規化処理手段は、２つの前記サブサンプリング処理手段による処理結果間の差を、該処理結果に基づいた値を除数として除算することによって正規化する
ことを特徴とする画像処理プログラム。
【請求項１０】
コンピュータを、
画像を受け付ける画像受付手段と、
前記画像受付手段によって受け付けられた画像に対して、畳込処理を行う複数の畳込処理手段と、
前記畳込処理手段による処理結果に対して、整流処理を行う複数の整流処理手段と、
前記整流処理手段による処理結果に対して、サブサンプリング処理を行う複数のサブサンプリング処理手段と、
前記サブサンプリング処理手段による処理結果に対して、正規化処理を行うことによって、前記画像の特徴量を抽出する複数の特徴抽出手段と、
前記特徴抽出手段によって抽出された特徴量に基づいて、前記画像を識別する識別手段
として機能させ、
前記正規化処理手段は、２つの前記サブサンプリング処理手段による処理結果間の差を、該処理結果の和を除数として除算することによって正規化する
ことを特徴とする画像処理プログラム。
【請求項１１】
コンピュータを、
画像を受け付ける画像受付手段と、
前記画像受付手段によって受け付けられた画像に対して、畳込処理を行う複数の畳込処理手段と、
前記畳込処理手段による処理結果に対して、整流処理を行う複数の整流処理手段と、
複数の前記整流処理手段による処理結果を加算する複数の加算手段と、
前記加算手段による処理結果に対して、サブサンプリング処理を行う複数のサブサンプリング処理手段と、
前記サブサンプリング処理手段による処理結果に対して、平均化処理を行う複数の平均化処理手段と、
前記平均化処理手段による処理結果に対して、正規化処理を行うことによって、前記画像の特徴量を抽出する複数の特徴抽出手段と、
前記特徴抽出手段によって抽出された特徴量に基づいて、前記画像を識別する識別手段
として機能させ、
前記整流処理手段、前記加算手段、前記サブサンプリング処理手段、前記平均化処理手段による処理は、重み付き一般化平均処理であり、
前記正規化処理手段は、２つの前記平均化処理手段による処理結果間の差を、該処理結果の和を除数として除算することによって正規化する
ことを特徴とする画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置及び画像処理プログラムに関する。
【背景技術】
【０００２】
画像を認識する技術がある。
これに関連する技術として、例えば、特許文献１には、高精度かつ信頼性の高い光学的文字認識を行うことを目的とし、局所特徴抽出のための並列束縛特徴検出を行う層を複数個有し、次元性低減のための完全接続層を複数個有する階層的ネットワークによって実現され、文字分類も完全接続層において実行され、並列束縛特徴検出の各々の層は、複数個の束縛特徴マップ及び対応する複数個のカーネルよりなり、所定のカーネルが直接単一の束縛特徴マップに関連し、各層間でのアンダーサンプリングが実行されることが開示されている。
【０００３】
また、例えば、特許文献２には、文字及び数字の識別に係る有用な決定を、ニューラルネットワーク技術を用いて行うために、多様な形態及び大きさの各々の文字あるいは数字を正確に認識することをニューラルネットワークに“学習”させることを目的とし、多くの文字及び数字の認識における正確さは、ニューラルネットワークが各々の文字あるいは数字の“不変”なカテゴリーに属する性質を識別するように学習されている場合には、ほとんど犠牲にならないということが了解され、そこで、ニューラルネットワークに対して識別された不変性に係る形態、位置、大きさ等の全ての段階を認識することを要求する代わりに、はるかに少ない数のサンプルデータ入力及び未知の文字あるいは数字に関連する情報のわずかの処理のみを要求するような、不変セグメントに係る一般化されかつ制限された記述が用いられることが開示されている。
【０００４】
また、例えば、特許文献３には、２次元物体だけでなく、３次元的な回転、大きさ及び照明条件が変化する３次元物体をも認識することができるパターン認識方法を提供することを課題とし、重み配分及びプーリングステージ等の要素は先行手法と同じだが、階層ネットワークの中間ステージで最適の特徴検出ユニットを決定する新しい方法に着目した技術を提供し、また、新しい特徴検出ステージを（増分的に）学習し、複雑なパターン認識に要する手間を従来技術に比してかなり削減する、統計的手段を使用した、階層ネットワークを訓練する新しい手法を提案し、この学習は教師なし学習なので、教師信号は不要であり、特定の認識シナリオのために認識アーキテクチャを予め構成することができ、教師付き学習による訓練を要するのは最後の分類ステップのみであり、これにより認識作業への適用においてかなりの手間が削減されることが開示されている。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開平０５−００６４６３号公報
【特許文献２】特開平０７−０６４９４１号公報
【特許文献３】特開２００２−３７３３３３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
本発明は、画像を識別する場合にあって、本構成を有していない場合に比較して、正規化処理を原因とする識別誤りを減少させるようにした画像処理装置及び画像処理プログラムを提供することを目的としている。
【課題を解決するための手段】
【０００７】
かかる目的を達成するための本発明の要旨とするところは、次の各項の発明に存する。
請求項１の発明は、画像を受け付ける画像受付手段と、前記画像受付手段によって受け付けられた画像に対して、畳込処理を行う複数の畳込処理手段と、前記畳込処理手段による処理結果に対して、整流処理を行う複数の整流処理手段と、前記整流処理手段による処理結果に対して、正規化処理を行う複数の正規化処理手段と、前記正規化処理手段による処理結果に対して、サブサンプリング処理を行うことによって、前記画像の特徴量を抽出する複数の特徴抽出手段と、前記特徴抽出手段によって抽出された特徴量に基づいて、前記画像を識別する識別手段を具備し、前記正規化処理手段は、２つの前記整流処理手段による処理結果間の差を、該処理結果に基づいた値を除数として除算することによって正規化することを特徴とする画像処理装置である。
【０００８】
請求項２の発明は、画像を受け付ける画像受付手段と、前記画像受付手段によって受け付けられた画像に対して、畳込処理を行う複数の畳込処理手段と、前記畳込処理手段による処理結果に対して、整流処理を行う複数の整流処理手段と、前記整流処理手段による処理結果に対して、サブサンプリング処理を行う複数のサブサンプリング処理手段と、前記サブサンプリング処理手段による処理結果に対して、正規化処理を行うことによって、前記画像の特徴量を抽出する複数の特徴抽出手段と、前記特徴抽出手段によって抽出された特徴量に基づいて、前記画像を識別する識別手段を具備し、前記正規化処理手段は、２つの前記サブサンプリング処理手段による処理結果間の差を、２つの前記整流処理手段による処理結果に基づいた値を除数として除算することによって正規化することを特徴とする画像処理装置である。
【０００９】
請求項３の発明は、画像を受け付ける画像受付手段と、前記画像受付手段によって受け付けられた画像に対して、畳込処理を行う複数の畳込処理手段と、前記畳込処理手段による処理結果に対して、整流処理を行う複数の整流処理手段と、前記整流処理手段による処理結果に対して、サブサンプリング処理を行う複数のサブサンプリング処理手段と、前記サブサンプリング処理手段による処理結果に対して、正規化処理を行うことによって、前記画像の特徴量を抽出する複数の特徴抽出手段と、前記特徴抽出手段によって抽出された特徴量に基づいて、前記画像を識別する識別手段を具備し、前記正規化処理手段は、２つの前記サブサンプリング処理手段による処理結果間の差を、該処理結果に基づいた値を除数として除算することによって正規化することを特徴とする画像処理装置である。
【００１０】
請求項４の発明は、画像を受け付ける画像受付手段と、前記画像受付手段によって受け付けられた画像に対して、畳込処理を行う複数の畳込処理手段と、前記畳込処理手段による処理結果に対して、整流処理を行う複数の整流処理手段と、前記整流処理手段による処理結果に対して、サブサンプリング処理を行う複数のサブサンプリング処理手段と、前記サブサンプリング処理手段による処理結果に対して、正規化処理を行うことによって、前記画像の特徴量を抽出する複数の特徴抽出手段と、前記特徴抽出手段によって抽出された特徴量に基づいて、前記画像を識別する識別手段を具備し、前記正規化処理手段は、２つの前記サブサンプリング処理手段による処理結果間の差を、該処理結果の和を除数として除算することによって正規化することを特徴とする画像処理装置である。
【００１１】
請求項５の発明は、画像を受け付ける画像受付手段と、前記画像受付手段によって受け付けられた画像に対して、畳込処理を行う複数の畳込処理手段と、前記畳込処理手段による処理結果に対して、整流処理を行う複数の整流処理手段と、複数の前記整流処理手段による処理結果を加算する複数の加算手段と、前記加算手段による処理結果に対して、サブサンプリング処理を行う複数のサブサンプリング処理手段と、前記サブサンプリング処理手段による処理結果に対して、平均化処理を行う複数の平均化処理手段と、前記平均化処理手段による処理結果に対して、正規化処理を行うことによって、前記画像の特徴量を抽出する複数の特徴抽出手段と、前記特徴抽出手段によって抽出された特徴量に基づいて、前記画像を識別する識別手段を具備し、前記整流処理手段、前記加算手段、前記サブサンプリング処理手段、前記平均化処理手段による処理は、重み付き一般化平均処理であり、前記正規化処理手段は、２つの前記平均化処理手段による処理結果間の差を、該処理結果の和を除数として除算することによって正規化することを特徴とする画像処理装置である。
【００１２】
請求項６の発明は、前記整流処理手段が行う整流処理は、入力の絶対値に対してｒ乗を行う処理（ｒは正の実数）であり、前記平均化処理手段が行う平均化処理は、ｒ’乗を行う処理であることを特徴とする請求項５に記載の画像処理装置である。
【００１３】
請求項７の発明は、コンピュータを、画像を受け付ける画像受付手段と、前記画像受付手段によって受け付けられた画像に対して、畳込処理を行う複数の畳込処理手段と、前記畳込処理手段による処理結果に対して、整流処理を行う複数の整流処理手段と、前記整流処理手段による処理結果に対して、正規化処理を行う複数の正規化処理手段と、前記正規化処理手段による処理結果に対して、サブサンプリング処理を行うことによって、前記画像の特徴量を抽出する複数の特徴抽出手段と、前記特徴抽出手段によって抽出された特徴量に基づいて、前記画像を識別する識別手段として機能させ、前記正規化処理手段は、２つの前記整流処理手段による処理結果間の差を、該処理結果に基づいた値を除数として除算することによって正規化することを特徴とする画像処理プログラムである。
【００１４】
請求項８の発明は、コンピュータを、画像を受け付ける画像受付手段と、前記画像受付手段によって受け付けられた画像に対して、畳込処理を行う複数の畳込処理手段と、前記畳込処理手段による処理結果に対して、整流処理を行う複数の整流処理手段と、前記整流処理手段による処理結果に対して、サブサンプリング処理を行う複数のサブサンプリング処理手段と、前記サブサンプリング処理手段による処理結果に対して、正規化処理を行うことによって、前記画像の特徴量を抽出する複数の特徴抽出手段と、前記特徴抽出手段によって抽出された特徴量に基づいて、前記画像を識別する識別手段として機能させ、前記正規化処理手段は、２つの前記サブサンプリング処理手段による処理結果間の差を、２つの前記整流処理手段による処理結果に基づいた値を除数として除算することによって正規化することを特徴とする画像処理プログラムである。
【００１５】
請求項９の発明は、コンピュータを、画像を受け付ける画像受付手段と、前記画像受付手段によって受け付けられた画像に対して、畳込処理を行う複数の畳込処理手段と、前記畳込処理手段による処理結果に対して、整流処理を行う複数の整流処理手段と、前記整流処理手段による処理結果に対して、サブサンプリング処理を行う複数のサブサンプリング処理手段と、前記サブサンプリング処理手段による処理結果に対して、正規化処理を行うことによって、前記画像の特徴量を抽出する複数の特徴抽出手段と、前記特徴抽出手段によって抽出された特徴量に基づいて、前記画像を識別する識別手段として機能させ、前記正規化処理手段は、２つの前記サブサンプリング処理手段による処理結果間の差を、該処理結果に基づいた値を除数として除算することによって正規化することを特徴とする画像処理プログラムである。
【００１６】
請求項１０の発明は、コンピュータを、画像を受け付ける画像受付手段と、前記画像受付手段によって受け付けられた画像に対して、畳込処理を行う複数の畳込処理手段と、前記畳込処理手段による処理結果に対して、整流処理を行う複数の整流処理手段と、前記整流処理手段による処理結果に対して、サブサンプリング処理を行う複数のサブサンプリング処理手段と、前記サブサンプリング処理手段による処理結果に対して、正規化処理を行うことによって、前記画像の特徴量を抽出する複数の特徴抽出手段と、前記特徴抽出手段によって抽出された特徴量に基づいて、前記画像を識別する識別手段として機能させ、前記正規化処理手段は、２つの前記サブサンプリング処理手段による処理結果間の差を、該処理結果の和を除数として除算することによって正規化することを特徴とする画像処理プログラムである。
【００１７】
請求項１１の発明は、コンピュータを、画像を受け付ける画像受付手段と、前記画像受付手段によって受け付けられた画像に対して、畳込処理を行う複数の畳込処理手段と、前記畳込処理手段による処理結果に対して、整流処理を行う複数の整流処理手段と、複数の前記整流処理手段による処理結果を加算する複数の加算手段と、前記加算手段による処理結果に対して、サブサンプリング処理を行う複数のサブサンプリング処理手段と、前記サブサンプリング処理手段による処理結果に対して、平均化処理を行う複数の平均化処理手段と、前記平均化処理手段による処理結果に対して、正規化処理を行うことによって、前記画像の特徴量を抽出する複数の特徴抽出手段と、前記特徴抽出手段によって抽出された特徴量に基づいて、前記画像を識別する識別手段として機能させ、前記整流処理手段、前記加算手段、前記サブサンプリング処理手段、前記平均化処理手段による処理は、重み付き一般化平均処理であり、前記正規化処理手段は、２つの前記平均化処理手段による処理結果間の差を、該処理結果の和を除数として除算することによって正規化することを特徴とする画像処理プログラムである。
【発明の効果】
【００１８】
請求項１の画像処理装置によれば、画像を識別する場合にあって、本構成を有していない場合に比較して、正規化処理を原因とする識別誤りを減少させることができる。
【００１９】
請求項２の画像処理装置によれば、画像を識別する場合にあって、本構成を有していない場合に比較して、正規化処理における減算処理と除算処理の演算量を削減することができる。
【００２０】
請求項３の画像処理装置によれば、画像を識別する場合にあって、本構成を有していない場合に比較して、正規化処理における演算量を削減することができる。
【００２１】
請求項４の画像処理装置によれば、画像を識別する場合にあって、本構成を有していない場合に比較して、正規化処理における演算量を削減することができる。
【００２２】
請求項５の画像処理装置によれば、画像を識別する場合にあって、本構成を有していない場合に比較して、学習時間を短縮することができる。
【００２３】
請求項６の画像処理装置によれば、画像を識別する場合にあって、本構成を有していない場合に比較して、学習時間を短縮することができる。
【００２４】
請求項７の画像処理プログラムによれば、画像を識別する場合にあって、本構成を有していない場合に比較して、正規化処理を原因とする識別誤りを減少させることができる。
【００２５】
請求項８の画像処理プログラムによれば、画像を識別する場合にあって、本構成を有していない場合に比較して、正規化処理における減算処理と除算処理の演算量を削減することができる。
【００２６】
請求項９の画像処理プログラムによれば、画像を識別する場合にあって、本構成を有していない場合に比較して、正規化処理における演算量を削減することができる。
【００２７】
請求項１０の画像処理プログラムによれば、画像を識別する場合にあって、本構成を有していない場合に比較して、正規化処理における演算量を削減することができる。
【００２８】
請求項１１の画像処理プログラムによれば、画像を識別する場合にあって、本構成を有していない場合に比較して、学習時間を短縮することができる。
【図面の簡単な説明】
【００２９】
【図１】第１の実施の形態の構成例についての概念的なモジュール構成図である。
【図２】第１の実施の形態の全体的な構成例についての概念的なモジュール構成図である。
【図３】第２の実施の形態の構成例についての概念的なモジュール構成図である。
【図４】第３の実施の形態の構成例についての概念的なモジュール構成図である。
【図５】第４の実施の形態の構成例についての概念的なモジュール構成図である。
【図６】第５の実施の形態の構成例についての概念的なモジュール構成図である。
【図７】第６の実施の形態の構成例についての概念的なモジュール構成図である。
【図８】本実施の形態を実現するコンピュータのハードウェア構成例を示すブロック図である。
【図９】ＣＮＮ識別装置の全体的な構成例についての概念的なモジュール構成図である。
【図１０】整流処理、正規化処理を行う特徴抽出層の例についての概念的なモジュール構成図である。
【図１１】正規化処理の例を示す説明図である。
【図１２】正規化処理の例を示す説明図である。
【図１３】正規化処理の例を示す説明図である。
【発明を実施するための形態】
【００３０】
まず、本実施の形態を説明する前に、その前提又は本実施の形態を利用する画像処理装置について説明する。なお、この説明は、本実施の形態の理解を容易にすることを目的とするものである。
画像を、複数のクラスのうちいずれかに識別する技術がある。いわゆる認識技術である。また、これらの中では、画像と正解クラスの組から識別装置を学習し、認識率を向上させるようにしているものがある。具体的には、受け付けたパターン（画像）を識別する階層ネットワークに関する技術である。
特に、階層型ニューラルネットワークの一種である畳込ニューラルネットワーク（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ、以下ＣＮＮという）を用いて、画像を識別することが可能であることが知られている。［ＬｅＣｕｎ，  Ｙａｎｎ，  ｅｔ  ａｌ．  “Ｇｒａｄｉｅｎｔ−Ｂａｓｅｄ  Ｌｅａｒｎｉｎｇ  Ａｐｐｌｉｅｄ  ｔｏ  Ｄｏｃｕｍｅｎｔ  Ｒｅｃｏｇｎｉｔｉｏｎ．”  Ｐｒｏｃｅｅｄｉｎｇｓ  ｏｆ  ｔｈｅ  ＩＥＥＥ  ８６．１１  （１９９８）：  ２２７８−２３２４．］
【００３１】
図９は、ＣＮＮ識別装置の全体的な構成例についての概念的なモジュール構成図である。
ＣＮＮ識別装置の特徴抽出層（特徴抽出層９１０、特徴抽出層９２０）は、畳込み層とサブサンプリング層で構成される。各層の入力は、複数枚の２次元空間に配置された特徴量からなる、３次元の特徴マップであり、出力は新たな特徴マップである。ＣＮＮ識別装置が受け付ける画像９００も特徴マップの一種とみなす。
畳込み層では、受け付けた特徴量にウェイトを畳込み（畳込み処理として、例えば、２次元デジタルフィルタが利用される）、サブサンプリング層では、その畳込みの応答をサブサンプリングすることで、受け付けた特徴量を位置の局所的な変動に対して不変な特徴量に変換する。
この特徴抽出層（特徴抽出層９１０、特徴抽出層９２０）は複数回繰り返し（図９では、２つの特徴抽出層であるが、３以上であってもよい。）、その出力を識別器９３０が受け付ける。
識別器９３０は、受け付けた特徴量から、画像９００が属するクラスを識別する。識別器９３０は一般に、多層パーセプトロンやＲＢＦ（Ｒａｄｉａｌ  Ｂａｓｉｓ  Ｆｕｎｃｔｉｏｎ）で構成される。
特徴抽出層（特徴抽出層９１０、特徴抽出層９２０）の畳込みウェイトは、画像及び正解クラスの組を用いて、一般に誤差逆伝搬法にて行われる。
例えば、参考文献として、特開平５−６４６３号公報、特開平７−６４９４１号公報、特開２００２−３７３３３３号公報、特開２００５−２１５９８８号公報、特開２０１０−１５７１１８号公報等が挙げられる。
【００３２】
近年、さらに識別精度が高めるために、ＣＮＮの特徴抽出層に整流処理（Ｒｅｃｔｉｆｉｃａｔｉｏｎ）、正規化処理（Ｄｉｖｉｓｉｖｅ  Ｎｏｒｍａｌｉｚａｔｉｏｎ  ／  Ｃｏｎｔｒａｓｔ  Ｎｏｒｍａｌｉｚａｔｉｏｎ）が加えられている［ＬｅＣｕｎ，  Ｙａｎｎ，  Ｋｏｒａｙ  Ｋａｖｕｋｖｕｏｇｌｕ  ａｎｄ  Ｃｌeｍｅｎｔ  Ｆａｒａｂｅｔ．  “Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｔｗｏｒｋｓ  ａｎｄ  Ａｐｐｌｉｃａｔｉｏｎｓ  ｉｎ  Ｖｉｓｉｏｎ．”  Ｐｒｏｃｅｅｄｉｎｇｓ  ｏｆ  ２０１０  ＩＥＥＥ  Ｉｎｔｅｒｎａｔｉｏｎａｌ  Ｓｙｍｐｏｓｉｕｍ  ｏｎ  Ｃｉｒｃｕｉｔｓ  ａｎｄ  Ｓｙｓｔｅｍｓ  （２０１０）：  ２５３−２５６．］。以降、ＣＮＮといえば、この整流処理、正規化処理が加えられたものを指す。
【００３３】
図１０は、整流処理、正規化処理を行う特徴抽出層の例についての概念的なモジュール構成図である。図１０では、畳込み処理モジュール１０１０等が２つである場合を例示しているが、３以上であってもよい。
この特徴抽出層は、複数の畳込み処理モジュール１０１０、複数の整流処理モジュール１０２０、正規化処理モジュール１０３０、複数のサブサンプリング処理モジュール１０４０を有している。つまり、従来のＣＮＮに整流処理、正規化処理を付加したものである。
畳込み処理モジュール１０１０ａ、畳込み処理モジュール１０１０ｂは、それぞれ整流処理モジュール１０２０ａ、整流処理モジュール１０２０ｂと接続されており、画像又は特徴マップ１０００Ａ、１０００Ｂ、１０００Ｃを受け付け、これらに対して畳込み処理を行う。
整流処理モジュール１０２０ａは、畳込み処理モジュール１０１０ａ、平均算出処理モジュール１０３２、差算出処理モジュール１０３４ａ、標準偏差算出処理モジュール１０３６と接続されている。従来のＣＮＮでは、正負が混在する畳込み応答どうしをサブサンプリングすることによる特徴の打ち消しあいが発生していた。認識率を改善させるために、この整流処理を加えることによって、特徴の打ち消しあいを抑えている。具体的な整流処理としては、例えば、絶対値化処理、２乗処理等がある。
整流処理モジュール１０２０ｂは、畳込み処理モジュール１０１０ｂ、平均算出処理モジュール１０３２、差算出処理モジュール１０３４ｂ、標準偏差算出処理モジュール１０３６と接続されており、整流処理モジュール１０２０ａと同等の処理を行う。
【００３４】
正規化処理モジュール１０３０は、平均算出処理モジュール１０３２、差算出処理モジュール１０３４ａ、差算出処理モジュール１０３４ｂ、標準偏差算出処理モジュール１０３６、除算処理モジュール１０３８ａ、除算処理モジュール１０３８ｂを有している。認識率を改善させるために、この正規化処理を加えることによって、畳込みが受け付ける特徴量が一様に変位した場合であっても、変動を抑えて安定した特徴量が得られるようにしている。
平均算出処理モジュール１０３２は、整流処理モジュール１０２０ａ、整流処理モジュール１０２０ｂ、差算出処理モジュール１０３４ａ、差算出処理モジュール１０３４ｂと接続されている。平均算出処理モジュール１０３２は、全ての整流処理後の値の平均値を算出し、その平均値を差算出処理モジュール１０３４ａ等に渡す。
差算出処理モジュール１０３４ａは、整流処理モジュール１０２０ａ、平均算出処理モジュール１０３２、除算処理モジュール１０３８ａと接続されている。差算出処理モジュール１０３４ａは、整流処理モジュール１０２０ａによる処理結果から平均算出処理モジュール１０３２で算出された平均値を減算する処理を行う。
差算出処理モジュール１０３４ｂは、整流処理モジュール１０２０ｂ、平均算出処理モジュール１０３２、除算処理モジュール１０３８ｂと接続されており、差算出処理モジュール１０３４ａと同等の処理を行う。
標準偏差算出処理モジュール１０３６は、整流処理モジュール１０２０ａ、整流処理モジュール１０２０ｂ、除算処理モジュール１０３８ａ、除算処理モジュール１０３８ｂと接続されている。標準偏差算出処理モジュール１０３６は、全ての整流処理後の値の標準偏差を算出し、その標準偏差を除算処理モジュール１０３８ａ等に渡す。
除算処理モジュール１０３８ａは、差算出処理モジュール１０３４ａ、標準偏差算出処理モジュール１０３６、サブサンプリング処理モジュール１０４０ａと接続されている。除算処理モジュール１０３８ａは、差算出処理モジュール１０３４ａによる処理結果を標準偏差算出処理モジュール１０３６で算出された標準偏差で除算する（つまり標準偏差を除数としている）。
除算処理モジュール１０３８ｂは、差算出処理モジュール１０３４ｂ、標準偏差算出処理モジュール１０３６、サブサンプリング処理モジュール１０４０ｂと接続されており、除算処理モジュール１０３８ａと同等の処理を行う。
サブサンプリング処理モジュール１０４０ａは、除算処理モジュール１０３８ａと接続されている。サブサンプリング処理モジュール１０４０ａは、除算処理モジュール１０３８ａによる処理結果をサブサンプリング処理する。そして、次の特徴抽出層へ出力するか（つまり、次の特徴抽出層にとっての画像又は特徴マップ１０００Ａ、１０００Ｂ、１０００Ｃ等になる）、識別器（識別層ともいわれる）への出力となる。
サブサンプリング処理モジュール１０４０ｂは、除算処理モジュール１０３８ｂと接続されており、サブサンプリング処理モジュール１０４０ａと同等の処理を行う。
【００３５】
正規化処理モジュール１０３０が行う正規化処理では、受け付けた特徴量は、ある範囲（例えば、［−１，１］）の値をとるよう拡大縮小されて出力される。図１１は、正規化処理の例を示す説明図である。図１１（ａ）の例に示すグラフは正規化処理モジュール１０３０が受け付ける値であり、図１１（ｂ）の例に示すグラフは正規化処理モジュール１０３０が出力する値であり、この場合は拡大処理を行っている。
例えば、正規化処理モジュール１０３０が受け付ける値の分散が小さな値であった場合、正規化処理によって値は大きく拡大されるため、出力値は正規化の分母の符号、すなわち受け付けた値の平均値に強く依存する。
また、正規化処理モジュール１０３０が受け付ける値の一部が大きな値（例えば、ノイズ等の影響で大きな値となる場合がある）をとる場合に、出力値全体が大きく変化してしまう。
図１２、図１３は、このような場合の正規化処理の例を示す説明図である。図１２（ａ）の例に示すグラフは正規化処理モジュール１０３０が受け付ける値であり、最初にノイズ等の影響で大きな値が発生している。したがって、この値の平均値は、その他の値で算出した平均値よりも高くなる。図１２（ｂ）の例に示すグラフは、この場合に正規化処理モジュール１０３０が出力する値である。
図１３（ａ）の例に示すグラフは正規化処理モジュール１０３０が受け付ける値である。図１２（ａ）の例に示すグラフと比較すると、ノイズ等の影響で大きな値は発生していないが、図１２（ａ）の例の最初の部分以外は類似しているグラフである。この値の平均値は、図１２（ａ）の例の平均値よりも低くなる。図１３（ｂ）の例に示すグラフは、この場合に正規化処理モジュール１０３０が出力する値である。つまり、図１２（ｂ）の例に示すグラフと図１３（ａ）の例に示すグラフは類似しているにもかかわらず、図１２（ｂ）の例に示すグラフと図１３（ｂ）の例に示すグラフは異なっている。つまり、正規化処理の出力は、受け付けた値の平均値に依存している。
このように、ＣＮＮの特徴抽出層には、正規化処理が受け付ける値の一部（一部の畳込みフィルタ応答）の変動が、出力される特徴量全体の大きな変動を引き起こす場合がある。つまり、受け付ける画像の変動に対して安定した特徴量が得られない場合がある。
【００３６】
以下、図面に基づき本発明を実現するにあたっての好適な各種の実施の形態の例を説明する。
＜第１の実施の形態＞
図１は、第１の実施の形態の構成例についての概念的なモジュール構成図を示している。
なお、モジュールとは、一般的に論理的に分離可能なソフトウェア（コンピュータ・プログラム）、ハードウェア等の部品を指す。したがって、本実施の形態におけるモジュールはコンピュータ・プログラムにおけるモジュールのことだけでなく、ハードウェア構成におけるモジュールも指す。それゆえ、本実施の形態は、それらのモジュールとして機能させるためのコンピュータ・プログラム（コンピュータにそれぞれの手順を実行させるためのプログラム、コンピュータをそれぞれの手段として機能させるためのプログラム、コンピュータにそれぞれの機能を実現させるためのプログラム）、システム及び方法の説明をも兼ねている。ただし、説明の都合上、「記憶する」、「記憶させる」、これらと同等の文言を用いるが、これらの文言は、実施の形態がコンピュータ・プログラムの場合は、記憶装置に記憶させる、又は記憶装置に記憶させるように制御するの意である。また、モジュールは機能に一対一に対応していてもよいが、実装においては、１モジュールを１プログラムで構成してもよいし、複数モジュールを１プログラムで構成してもよく、逆に１モジュールを複数プログラムで構成してもよい。また、複数モジュールは１コンピュータによって実行されてもよいし、分散又は並列環境におけるコンピュータによって１モジュールが複数コンピュータで実行されてもよい。なお、１つのモジュールに他のモジュールが含まれていてもよい。また、以下、「接続」とは物理的な接続の他、論理的な接続（データの授受、指示、データ間の参照関係等）の場合にも用いる。「予め定められた」とは、対象としている処理の前に定まっていることをいい、本実施の形態による処理が始まる前はもちろんのこと、本実施の形態による処理が始まった後であっても、対象としている処理の前であれば、そのときの状況・状態に応じて、又はそれまでの状況・状態に応じて定まることの意を含めて用いる。また、「Ａである場合、Ｂをする」という意味を有する記載は、「Ａであるか否かを判断し、Ａであると判断した場合はＢをする」の意味で用いる。ただし、Ａであるか否かの判断が不要である場合を除く。
また、システム又は装置とは、複数のコンピュータ、ハードウェア、装置等がネットワーク（一対一対応の通信接続を含む）等の通信手段で接続されて構成されるほか、１つのコンピュータ、ハードウェア、装置等によって実現される場合も含まれる。「装置」と「システム」とは、互いに同義の用語として用いる。もちろんのことながら、「システム」には、人為的な取り決めである社会的な「仕組み」（社会システム）にすぎないものは含まない。
また、各モジュールによる処理毎に又はモジュール内で複数の処理を行う場合はその処理毎に、対象となる情報を記憶装置から読み込み、その処理を行った後に、処理結果を記憶装置に書き出すものである。したがって、処理前の記憶装置からの読み込み、処理後の記憶装置への書き出しについては、説明を省略する場合がある。なお、ここでの記憶装置としては、ハードディスク、ＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）、外部記憶媒体、通信回線を介した記憶装置、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）内のレジスタ等を含んでいてもよい。
【００３７】
第１の実施の形態である画像処理装置は、画像を識別するために特徴を抽出するものであって、図１の例に示すように、畳込み処理モジュール１１０、整流処理モジュール１２０、正規化処理モジュール１３０、サブサンプリング処理モジュール１４０を有している。
この画像処理装置は、特徴抽出層であって、２つの畳込みフィルタの応答に整流処理を施した特徴量のペアについて、そのペアにおける差を、そのペア内の特徴量に基づいた値を除数として除算することによって正規化し、サブサンプリングしたものを出力特徴量とする。
【００３８】
畳込み処理モジュール１１０ａ、畳込み処理モジュール１１０ｂ、畳込み処理モジュール１１０ｃ、畳込み処理モジュール１１０ｄは、それぞれ整流処理モジュール１２０ａ、整流処理モジュール１２０ｂ、整流処理モジュール１２０ｃ、整流処理モジュール１２０ｄと接続されている。畳込み処理モジュール１１０は画像又は特徴マップ１００Ａ、１００Ｂ、１００Ｃを受け付ける。１段目の特徴抽出層の場合は、画像を受け付けることとなり、２段目以降の特徴抽出層の場合は、前段の特徴抽出層における出力である特徴量を受け付ける。そして、受け付けた画像又は特徴量に対して、畳込処理を行う。前述した図１０に例示した畳込み処理モジュール１０１０と同等の処理を行う。
整流処理モジュール１２０ａは、畳込み処理モジュール１１０ａ、差算出処理モジュール１３２ａ、除数算出処理モジュール１３４ａと接続されている。整流処理モジュール１２０ａは、整流処理を行う。前述した図１０に例示した整流処理モジュール１０２０と同等の処理を行う。もちろん、整流処理モジュール１０２０ｂ等の処理も同等である。
【００３９】
正規化処理モジュール１３０は、差算出処理モジュール１３２ａ、差算出処理モジュール１３２ｃ、除数算出処理モジュール１３４ａ、除数算出処理モジュール１３４ｃ、除算処理モジュール１３６ａ、除算処理モジュール１３６ｃを有している。正規化処理モジュール１３０は、正規化処理を行う。
差算出処理モジュール１３２ａは、整流処理モジュール１２０ａ、整流処理モジュール１２０ｂ、除算処理モジュール１３６ａと接続されている。
除数算出処理モジュール１３４ａは、整流処理モジュール１２０ａ、整流処理モジュール１２０ｂ、除算処理モジュール１３６ａと接続されている。
除算処理モジュール１３６ａは、差算出処理モジュール１３２ａ、除数算出処理モジュール１３４ａ、サブサンプリング処理モジュール１４０ａと接続されている。
正規化処理モジュール１３０が行う正規化処理として、２つの整流処理モジュール１２０（例えば、整流処理モジュール１２０ａと整流処理モジュール１２０ｂのペア）による処理結果間の差を、その処理結果に基づいた値（例えば、平均値、標準偏差、最頻値、中央値等）を除数として除算することによって正規化する。なお、処理結果間の差とは、一方の処理結果から他方の処理結果を減算することであり、整流処理モジュール１２０ａ、整流処理モジュール１２０ｂのいずれが一方であり、他方であってもよい。
この特徴抽出層において、一部の畳込み処理モジュール１１０による処理結果（フィルタ応答）の変動が及ぼす出力特徴量への影響は、ペア内に限定的であり、一部のフィルタ応答が出力される特徴量全体に大きな変動を引き起こすことを抑制している。
また、ペアによる処理結果間の差をとることで、畳込み処理モジュール１１０が受け付ける特徴量が大きく（又は小さく）変位した場合であっても、変動を抑制した安定した特徴量が得られるというＣＮＮの利点は保たれている。
特に、画像又は特徴マップの値が０であった場合に、特徴抽出層が出力する特徴量も０となり、したがって後段の識別器に、受け付けた画像又は特徴マップの値が０であったことを伝えられることになる。
【００４０】
サブサンプリング処理モジュール１４０ａは、除算処理モジュール１３６ａと接続されている。正規化処理モジュール１３０による処理結果に対して、サブサンプリング処理を行うことによって、画像又は特徴マップ１００Ａ、１００Ｂ、１００Ｃの特徴量を抽出する。そして、次の段の特徴抽出層へ出力する。又は、識別器に出力する。識別器は、受け付けた特徴量に基づいて、画像又は特徴マップ１００Ａ、１００Ｂ、１００Ｃを識別する。
【００４１】
図２は、第１の実施の形態の全体的な構成例についての概念的なモジュール構成図である。これは、図１に例示した特徴抽出層を３階層重ねたものであり、それぞれ特徴抽出層１：２１０、特徴抽出層２：２３０、特徴抽出層３：２５０として、それぞれの出力は特徴マップＡ：２２０、特徴マップＢ：２４０、特徴マップＣ：２６０である。もちろんのことながら、３階層に限定しているわけではなく、２階層であってもよいし、３階層以上であってもよい。なお、第２の実施の形態から第６の実施の形態の特徴抽出層（画像処理装置）も、図２に例示している特徴抽出層に適用し得る。
【００４２】
図１に例示の特徴抽出層が受け付ける特徴量をｘ、畳込みフィルタをｗとすると、畳込み処理の出力特徴量ｓは、
【数１】
0005772442.tif 000002
となる。なお、ｉは出力特徴量マップのインデックス、ｐは入力特徴量マップのインデックス、ｊ，ｋは特徴量マップ内の２次元座標、ｑ、ｒは畳込みフィルタの２次元座標である。
【００４３】
畳込み処理の入力特徴量マップのサイズをＭ×Ｎ、出力特徴量マップのサイズをＭ’×Ｎ’、畳込みフィルタのサイズをＱ×Ｒとすると、
【数２】
0005772442.tif 000003
の関係がある。
【００４４】
図１に例示の特徴抽出層において、畳込み処理の出力特徴量をｓ、整流処理の出力特徴量をｔとすると、
【数３】
0005772442.tif 000004
となる。なお、ｉは特徴量マップのインデックス、ｊ、ｋは特徴量マップ内の２次元座標である。
【００４５】
図１に例示の特徴抽出層において、整流処理の出力特徴量をｔ、除数算出処理の出力特徴量をｖとすると、
【数４】
0005772442.tif 000005
となる。なお、ｉは出力特徴量マップのインデックス、ｐは入力特徴領マップのインデックス、ｊ，ｋは特徴量マップ内の２次元座標、ｑ、ｒは除数を計算する局所領域のインデックス、ｗ及びβは予め与えられる重み付き一般化平均のパラメータである。
【００４６】
図１に例示の特徴抽出層において、整流処理の出力特徴量をｔ、正規化処理の出力特徴量をｕとすると、
【数５】
0005772442.tif 000006
となる。なお、ｉは出力特徴量マップのインデックス、ｊ、ｋは特徴量マップ内の２次元座標である。
【００４７】
図１に例示の特徴抽出層において、正規化処理の出力特徴量をｕ、特徴抽出層の出力をｙとすると、
【数６】
0005772442.tif 000007
となる。なお、ｉは出力特徴量マップのインデックス、ｊ、ｋは特徴量マップ内の２次元座標、ｑ、ｒは除数を計算する局所領域のインデックス、ｗは予め与えられるサブサンプリングの重みである。
【００４８】
図２に例示の特徴マップＣ：２６０の出力ｘから最終出力ｚを得る識別器は、
【数７】
0005772442.tif 000008
の計算で構成される。なお、ｗは学習されるウェイトである。出力の添え字ｃは入力画像が識別されるクラスを表し、識別時にはｚｃがもっとも大きな値となるｃが識別結果となる。
ウェイトの学習は、受け付ける画像と正解識別クラスの組を用いて、誤差逆伝搬法にてクロスエントロピー誤差を最小化させて行われる。
したがって、識別器は、１層の全結合層とＳｏｆｔｍａｘ関数によって構成されていてもよい。識別器は、１層の全結合層とＲＢＦ関数によって構成されていてもよい。特徴抽出層及び識別器は、画像と正解クラスの組から結合重みを学習するようにしてもよい。結合重みの学習は、誤差逆伝搬法にて行われるようにしてもよい。
【００４９】
＜第２の実施の形態＞
図３は、第２の実施の形態の構成例についての概念的なモジュール構成図である。第１の実施の形態による処理結果は変わらず、正規化処理の減算及び除算の演算量を減らすために、第１の実施の形態において、図１に例示の特徴抽出層のサブサンプリング処理を、正規化処理の後から正規化処理の前に移動させる。
第２の実施の形態は、図３の例に示すように、畳込み処理モジュール３１０、整流処理モジュール３２０、サブサンプリング処理モジュール３３０、正規化処理モジュール３４０を有している。
畳込み処理モジュール３１０は、畳込み処理モジュール１１０と同等の処理を行う。
整流処理モジュール３２０は、畳込み処理モジュール３１０、サブサンプリング処理モジュール３３０、除数算出処理モジュール３４４と接続されており、整流処理モジュール１２０と同等の処理を行うが、その処理結果をサブサンプリング処理モジュール３３０、除数算出処理モジュール３４４に渡す。
サブサンプリング処理モジュール３３０は、整流処理モジュール３２０、差算出処理モジュール３４２と接続されている。サブサンプリング処理モジュール３３０は、整流処理モジュール３２０による処理結果に対して、サブサンプリング処理を行う。
【００５０】
正規化処理モジュール３４０は、差算出処理モジュール３４２ａ、差算出処理モジュール３４２ｃ、除数算出処理モジュール３４４ａ、除数算出処理モジュール３４４ｃ、除算処理モジュール３４６ａ、除算処理モジュール３４６ｃを有している。正規化処理モジュール３４０は、複数のサブサンプリング処理モジュール３３０による処理結果に対して、正規化処理を行うことによって、画像又は特徴マップ１００Ａ、１００Ｂ、１００Ｃの特徴量を抽出する。そして、次の段の特徴抽出層へ出力する。又は、識別器に出力する。識別器は、受け付けた特徴量に基づいて、画像又は特徴マップ１００Ａ、１００Ｂ、１００Ｃを識別する。
差算出処理モジュール３４２ａは、サブサンプリング処理モジュール３３０ａ、サブサンプリング処理モジュール３３０ｂ、除算処理モジュール３４６ａと接続されている。
除数算出処理モジュール３４４ａは、整流処理モジュール３２０ａ、整流処理モジュール３２０ｂ、除算処理モジュール３４６ａと接続されている。
除算処理モジュール３４６ａは、差算出処理モジュール３４２ａ、除数算出処理モジュール３４４ａと接続されている。
正規化処理モジュール３４０が行う正規化処理として、２つのサブサンプリング処理モジュール３３０（例えば、サブサンプリング処理モジュール３３０ａとサブサンプリング処理モジュール３３０ｂのペア）による処理結果間の差を、２つの整流処理モジュール３２０による処理結果に基づいた値（例えば、平均値、標準偏差、最頻値、中央値等）を除数として除算することによって正規化する。なお、処理結果間の差とは、一方の処理結果から他方の処理結果を減算することであり、サブサンプリング処理モジュール３３０ａ、サブサンプリング処理モジュール３３０ｂのいずれが一方であり、他方であってもよい。
【００５１】
この場合（式４）〜（式６）は、（式８）のように書き換えられる。
【数８】
0005772442.tif 000009
なお、ｔは整流処理の出力特徴量、ｕはサブサンプリング処理の出力、ｖは正規化処理の除数、ｙは特徴抽出層の出力、ｉ、ｐは特徴量マップのインデックス、ｊ、ｋは特徴量マップ内の２次元座標、ｑ、ｒは畳込みフィルタの２次元座標、ｗ及びβは予め与えられる重み付き一般化平均のパラメータである。
【００５２】
＜第３の実施の形態＞
図４は、第３の実施の形態の構成例についての概念的なモジュール構成図である。正規化処理の除数算出処理の演算量を減らすために、第２の実施形態において、除数算出処理への入力を、サブサンプリング前の特徴量から、サブサンプリング後の特徴量に変更したものである。
第３の実施の形態は、図４の例に示すように、畳込み処理モジュール４１０、整流処理モジュール４２０、サブサンプリング処理モジュール４３０、正規化処理モジュール４４０を有している。
畳込み処理モジュール４１０は、畳込み処理モジュール３１０と同等の処理を行う。
整流処理モジュール４２０は、畳込み処理モジュール４１０、サブサンプリング処理モジュール４３０と接続されている。整流処理モジュール３２０と同等の処理を行う。
サブサンプリング処理モジュール４３０は、整流処理モジュール４２０、差算出処理モジュール４４２、除数算出処理モジュール４４４と接続されている。サブサンプリング処理モジュール３３０と同等の処理を行うが、その処理結果を差算出処理モジュール４４２、除数算出処理モジュール４４４に渡す。
【００５３】
正規化処理モジュール４４０は、差算出処理モジュール４４２ａ、差算出処理モジュール４４２ｃ、除数算出処理モジュール４４４ａ、除数算出処理モジュール４４４ｃ、除算処理モジュール４４６ａ、除算処理モジュール４４６ｃを有している。正規化処理モジュール４４０は、複数のサブサンプリング処理モジュール４３０による処理結果に対して、正規化処理を行うことによって、画像又は特徴マップ１００Ａ、１００Ｂ、１００Ｃの特徴量を抽出する。そして、次の段の特徴抽出層へ出力する。又は、識別器に出力する。識別器は、受け付けた特徴量に基づいて、画像又は特徴マップ１００Ａ、１００Ｂ、１００Ｃを識別する。
差算出処理モジュール４４２ａは、サブサンプリング処理モジュール４３０ａ、サブサンプリング処理モジュール４３０ｂ、除算処理モジュール４４６ａと接続されている。
除数算出処理モジュール４４４ａは、サブサンプリング処理モジュール４３０ａ、サブサンプリング処理モジュール４３０ｂ、除算処理モジュール４４６ａと接続されている。
除算処理モジュール４４６ａは、差算出処理モジュール４４２ａ、除数算出処理モジュール４４４ａと接続されている。
正規化処理モジュール４４０が行う正規化処理として、２つのサブサンプリング処理モジュール４３０（例えば、サブサンプリング処理モジュール４３０ａとサブサンプリング処理モジュール４３０ｂのペア）による処理結果間の差を、その処理結果に基づいた値（例えば、平均値、標準偏差、最頻値、中央値等）を除数として除算することによって正規化する。なお、処理結果間の差とは、一方の処理結果から他方の処理結果を減算することであり、サブサンプリング処理モジュール４３０ａ、サブサンプリング処理モジュール４３０ｂのいずれが一方であり、他方であってもよい。
【００５４】
この場合（式８）は（式９）のように書き換えられる。
【数９】
0005772442.tif 000010
なお、ｔは整流処理の出力特徴量、ｕはサブサンプリング処理の出力、ｖは正規化処理の除数、ｙは特徴抽出層の出力、ｉ、ｐは特徴量マップのインデックス、ｊ、ｋは特徴量マップ内の２次元座標、ｑ、ｒは畳込みフィルタの２次元座標、βは予め与えられる重み付き一般化平均のパラメータである。
【００５５】
＜第４の実施の形態＞
図５は、第４の実施の形態の構成例についての概念的なモジュール構成図である。正規化処理の演算量を減らすために、第３の実施の形態において、（式９）におけるβ＝１では、β乗及び１／β乗の計算が不要となる。
第４の実施の形態は、図５の例に示すように、畳込み処理モジュール５１０、整流処理モジュール５２０、サブサンプリング処理モジュール５３０、正規化処理モジュール５４０を有している。
畳込み処理モジュール５１０は、畳込み処理モジュール４１０と同等の処理を行う。
整流処理モジュール５２０は、整流処理モジュール４２０と同等の処理を行う。
サブサンプリング処理モジュール５３０は、サブサンプリング処理モジュール４３０と同等の処理を行う。
【００５６】
正規化処理モジュール５４０は、差算出処理モジュール５４２ａ、差算出処理モジュール５４２ｃ、和算出処理モジュール５４４ａ、和算出処理モジュール５４４ｃ、除算処理モジュール５４６ａ、除算処理モジュール５４６ｃを有している。正規化処理モジュール５４０は、複数のサブサンプリング処理モジュール５３０による処理結果に対して、正規化処理を行うことによって、画像又は特徴マップ１００Ａ、１００Ｂ、１００Ｃの特徴量を抽出する。そして、次の段の特徴抽出層へ出力する。又は、識別器に出力する。識別器は、受け付けた特徴量に基づいて、画像又は特徴マップ１００Ａ、１００Ｂ、１００Ｃを識別する。
差算出処理モジュール５４２ａは、サブサンプリング処理モジュール５３０ａ、サブサンプリング処理モジュール５３０ｂ、除算処理モジュール５４６ａと接続されている。
和算出処理モジュール５４４ａは、サブサンプリング処理モジュール５３０ａ、サブサンプリング処理モジュール５３０ｂ、除算処理モジュール５４６ａと接続されている。
除算処理モジュール５４６ａは、差算出処理モジュール５４２ａ、和算出処理モジュール５４４ａと接続されている。
正規化処理モジュール５４０が行う正規化処理として、２つのサブサンプリング処理モジュール５３０（例えば、サブサンプリング処理モジュール５３０ａとサブサンプリング処理モジュール５３０ｂのペア）による処理結果間の差を、その処理結果の和を除数として除算することによって正規化する。なお、処理結果間の差とは、一方の処理結果から他方の処理結果を減算することであり、サブサンプリング処理モジュール５３０ａ、サブサンプリング処理モジュール５３０ｂのいずれが一方であり、他方であってもよい。
【００５７】
この場合（式９）は（式１０）のように書き換えられる。
【数１０】
0005772442.tif 000011
なお、ｔは整流処理の出力特徴量、ｕはサブサンプリング処理の出力、ｙは特徴抽出層の出力、ｉ、ｐは特徴量マップのインデックス、ｊ、ｋは特徴量マップ内の２次元座標、ｑ、ｒは畳込みフィルタの２次元座標である。
【００５８】
＜第５の実施の形態＞
図６は、第５の実施の形態の構成例についての概念的なモジュール構成図である。第３の実施の形態及び第４の実施の形態において、サブサンプリング処理は、複数の畳込み処理モジュールによる処理結果を入力とする一般化平均に拡張できる。
第５の実施の形態は、図６の例に示すように、畳込み処理モジュール６１０、整流＋サブサンプリング処理モジュール６２０、正規化処理モジュール６３０を有している。
畳込み処理モジュール６１０は、畳込み処理モジュール５１０と同等の処理を行う。
【００５９】
整流＋サブサンプリング処理モジュール６２０は、整流処理モジュール６２２ａ、整流処理モジュール６２２ｂ、整流処理モジュール６２２ｃ、整流処理モジュール６２２ｄ、整流処理モジュール６２２ｅ、整流処理モジュール６２２ｆ、和算出処理モジュール６２４ａ、和算出処理モジュール６２４ｄ、サブサンプリング処理モジュール６２６ａ、サブサンプリング処理モジュール６２６ｄ、平均化処理モジュール６２８ａ、平均化処理モジュール６２８ｄを有している。
整流処理モジュール６２２ａは、畳込み処理モジュール６１０ａ、和算出処理モジュール６２４ａと接続されている。整流処理モジュール６２２ａは、畳込み処理モジュール６１０ａによる処理結果に対して、整流処理を行う。例えば、畳込み処理モジュール６１０ａによる処理結果の絶対値のｒ乗の算出を行う。
和算出処理モジュール６２４ａは、整流処理モジュール６２２ａ、整流処理モジュール６２２ｂ、整流処理モジュール６２２ｃ、サブサンプリング処理モジュール６２６ａと接続されている。和算出処理モジュール６２４ａは、複数の整流処理モジュール６２２（ｒ個の整流処理モジュール６２２ａ、６２２ｂ、・・・、６２２ｃ）による処理結果を加算する。
サブサンプリング処理モジュール６２６ａは、和算出処理モジュール６２４ａ、平均化処理モジュール６２８ａと接続されている。サブサンプリング処理モジュール６２６ａは、和算出処理モジュール６２４ａによる処理結果に対して、サブサンプリング処理を行う。
平均化処理モジュール６２８ａは、サブサンプリング処理モジュール６２６ａ、差算出処理モジュール６３２、和算出処理モジュール６３４と接続されている。平均化処理モジュール６２８ａは、サブサンプリング処理モジュール６２６ａによる処理結果に対して、平均化処理を行う。例えば、サブサンプリング処理モジュール６２６ａによる処理結果のｒ乗根の算出を行う。
【００６０】
正規化処理モジュール６３０は、差算出処理モジュール６３２、和算出処理モジュール６３４、除算処理モジュール６３６を有している。正規化処理モジュール６３０は、複数の平均化処理モジュール６２８による処理結果に対して、正規化処理を行うことによって、画像又は特徴マップ１００Ａ、１００Ｂ、１００Ｃの特徴量を抽出する。そして、次の段の特徴抽出層へ出力する。又は、識別器に出力する。識別器は、受け付けた特徴量に基づいて、画像又は特徴マップ１００Ａ、１００Ｂ、１００Ｃを識別する。
差算出処理モジュール６３２は、平均化処理モジュール６２８ａ、平均化処理モジュール６２８ｄ、除算処理モジュール６３６と接続されている。
和算出処理モジュール６３４は、平均化処理モジュール６２８ａ、平均化処理モジュール６２８ｄ、除算処理モジュール６３６と接続されている。
除算処理モジュール６３６は、差算出処理モジュール６３２、和算出処理モジュール６３４と接続されている。
正規化処理モジュール６３０が行う正規化処理として、２つの平均化処理モジュール６２８（例えば、平均化処理モジュール６２８ａと平均化処理モジュール６２８ｄ）による処理結果間の差を、その処理結果の和を除数として除算することによって正規化する。なお、処理結果間の差とは、一方の処理結果から他方の処理結果を減算することであり、平均化処理モジュール６２８ａ、平均化処理モジュール６２８ｄのいずれが一方であり、他方であってもよい。
【００６１】
この場合、（式３）及び（式１０）は（式１１）のように書き換えられる。
【数１１】
0005772442.tif 000012
なお、ｓは畳込み処理の出力特徴量、ｕは整流及びサブサンプリング処理の出力、ｙは特徴抽出層の出力、ｉ、ｐは特徴量マップのインデックス、ｊ、ｋは特徴量マップ内の２次元座標、ｑ、ｒは畳込みフィルタの２次元座標、ｗ及びβは予め与えられる重み付き一般化平均のパラメータである。
正規化処理は、入力の重み付き一般化平均を除数としてもよい（（式１１）の第１式）。
【００６２】
＜第６の実施の形態＞
図７は、第６の実施の形態の構成例についての概念的なモジュール構成図である。画像の局所的な位相変動に対して不変な出力が得られるようにするために、第５の実施の形態において、サブサンプリング処理へ入力する畳込みフィルタ応答の数を２に、ｒ＝２にする（視覚のエネルギーモデル［Ａｄｅｌｓｏｎ，  Ｅｄｗａｒｄ  Ｈ  ａｎｄ  Ｊａｍｅｓ  Ｒ  Ｂｅｒｇｅｎ．  “Ｓｐａｔｉｏｔｅｍｐｏｒａｌ  ｅｎｅｒｇｙ  ｍｏｄｅｌｓ  ｆｏｒ  ｔｈｅ  ｐｅｒｃｅｐｔｉｏｎ  ｏｆ  ｍｏｔｉｏｎ．”  Ｊｏｕｒｎａｌ  ｏｆ  ｔｈｅ  Ｏｐｔｉｃａｌ  Ｓｏｃｉｅｔｙ  ｏｆ  Ａｍｅｒｉｃａ  Ａ  ２．２  （１９８５）：  ２８４−２９９．］参照）。
学習時間の短縮及び認識率を向上させるために、畳込みフィルタが学習によって得るべき局所的な不変性を、予め学習しやすい構成とする。
第６の実施の形態は、図７の例に示すように、畳込み処理モジュール７１０、整流＋サブサンプリング処理モジュール７２０、正規化処理モジュール７３０を有している。
畳込み処理モジュール７１０は、畳込み処理モジュール６１０と同等の処理を行う。
【００６３】
整流＋サブサンプリング処理モジュール７２０は、整流処理モジュール７２２ａ、整流処理モジュール７２２ｂ、整流処理モジュール７２２ｃ、整流処理モジュール７２２ｄ、和算出処理モジュール７２４ａ、和算出処理モジュール７２４ｄ、サブサンプリング処理モジュール７２６ａ、サブサンプリング処理モジュール７２６ｄ、平均化処理モジュール７２８ａ、平均化処理モジュール７２８ｄを有している。
整流処理モジュール７２２ａは、畳込み処理モジュール７１０ａ、和算出処理モジュール７２４ａと接続されている。整流処理モジュール７２２ａは、畳込み処理モジュール７１０ａによる処理結果を入力として、その入力の絶対値に対してｒ乗を行う処理（ｒは正の整数、好適には例えばｒ＝２の場合は二乗の算出処理）による整流処理を行う。
和算出処理モジュール７２４ａは、整流処理モジュール７２２ａ、整流処理モジュール７２２ｂ、サブサンプリング処理モジュール７２６ａと接続されている。和算出処理モジュール７２４ａは、２個の整流処理モジュール７２２（整流処理モジュール７２２ａ、７２２ｂ）による処理結果を加算する。
サブサンプリング処理モジュール７２６ａは、和算出処理モジュール７２４ａ、平均化処理モジュール７２８ａと接続されている。サブサンプリング処理モジュール７２６ａは、和算出処理モジュール７２４ａによる処理結果に対して、サブサンプリング処理を行う。
平均化処理モジュール７２８ａは、サブサンプリング処理モジュール７２６ａ、差算出処理モジュール７３２、和算出処理モジュール７３４と接続されている。平均化処理モジュール７２８ａは、サブサンプリング処理モジュール７２６ａによる処理結果に対して、r' 乗を行う処理（好適にはｒ’＝１／ｒ、例えばｒ＝２の場合は平方根処理）を行うことによって平均化処理を行う。
【００６４】
正規化処理モジュール７３０は、差算出処理モジュール７３２、和算出処理モジュール７３４、除算処理モジュール７３６を有している。正規化処理モジュール７３０は、２個の平均化処理モジュール７２８による処理結果に対して、正規化処理を行うことによって、画像又は特徴マップ１００Ａ、１００Ｂ、１００Ｃの特徴量を抽出する。そして、次の段の特徴抽出層へ出力する。又は、識別器に出力する。識別器は、受け付けた特徴量に基づいて、画像又は特徴マップ１００Ａ、１００Ｂ、１００Ｃを識別する。
差算出処理モジュール７３２は、平均化処理モジュール７２８ａ、平均化処理モジュール７２８ｄ、除算処理モジュール７３６と接続されている。
和算出処理モジュール７３４は、平均化処理モジュール７２８ａ、平均化処理モジュール７２８ｄ、除算処理モジュール７３６と接続されている。
除算処理モジュール７３６は、差算出処理モジュール７３２、和算出処理モジュール７３４と接続されている。
正規化処理モジュール７３０が行う正規化処理として、２つの平均化処理モジュール７２８（例えば、平均化処理モジュール７２８ａと平均化処理モジュール７２８ｄ）による処理結果間の差を、その処理結果の和を除数として除算することによって正規化する。なお、処理結果間の差とは、一方の処理結果から他方の処理結果を減算することであり、平均化処理モジュール７２８ａ、平均化処理モジュール７２８ｄのいずれが一方であり、他方であってもよい。
【００６５】
この場合、（式１１）は（式１２）のように書き換えられる。
【数１２】
0005772442.tif 000013
なお、ｓは畳込み処理の出力特徴量、ｕは整流及びサブサンプリング処理の出力、ｙは特徴抽出層の出力、ｉ、ｐは特徴量マップのインデックス、ｊ、ｋは特徴量マップ内の２次元座標、ｑ、ｒは畳込みフィルタの２次元座標、ｗは予め与えられる重み付き一般化平均のパラメータである。
正規化処理は、（式１２）の第２式としてもよい。
【００６６】
図８を参照して、前述の実施の形態の画像処理装置のハードウェア構成例について説明する。図８に示す構成は、例えばパーソナルコンピュータ（ＰＣ）などによって構成されるものであり、スキャナ等のデータ読み取り部８１７と、プリンタなどのデータ出力部８１８を備えたハードウェア構成例を示している。
【００６７】
ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）８０１は、前述の実施の形態において説明した各種のモジュール、すなわち、畳込み処理モジュール１１０、整流処理モジュール１２０、正規化処理モジュール１３０、サブサンプリング処理モジュール１４０、特徴抽出層１：２１０等の各モジュールの実行シーケンスを記述したコンピュータ・プログラムにしたがった処理を実行する制御部である。
【００６８】
ＲＯＭ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）８０２は、ＣＰＵ８０１が使用するプログラムや演算パラメータ等を格納する。ＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）８０３は、ＣＰＵ８０１の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を格納する。これらはＣＰＵバスなどから構成されるホストバス８０４により相互に接続されている。
【００６９】
ホストバス８０４は、ブリッジ８０５を介して、ＰＣＩ（Ｐｅｒｉｐｈｅｒａｌ  Ｃｏｍｐｏｎｅｎｔ  Ｉｎｔｅｒｃｏｎｎｅｃｔ／Ｉｎｔｅｒｆａｃｅ）バスなどの外部バス８０６に接続されている。
【００７０】
キーボード８０８、マウス等のポインティングデバイス８０９は、操作者により操作される入力デバイスである。ディスプレイ８１０は、液晶表示装置又はＣＲＴ（Ｃａｔｈｏｄｅ  Ｒａｙ  Ｔｕｂｅ）などがあり、各種情報をテキストやイメージ情報として表示する。
【００７１】
ＨＤＤ（Ｈａｒｄ  Ｄｉｓｋ  Ｄｒｉｖｅ）８１１は、ハードディスクを内蔵し、ハードディスクを駆動し、ＣＰＵ８０１によって実行するプログラムや情報を記録又は再生させる。ハードディスクには、対象としている画像、認識結果、学習結果などが格納される。さらに、その他の各種のデータ処理プログラム等、各種コンピュータ・プログラムが格納される。
【００７２】
ドライブ８１２は、装着されている磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリ等のリムーバブル記録媒体８１３に記録されているデータ又はプログラムを読み出して、そのデータ又はプログラムを、インタフェース８０７、外部バス８０６、ブリッジ８０５、及びホストバス８０４を介して接続されているＲＡＭ８０３に供給する。リムーバブル記録媒体８１３も、ハードディスクと同様のデータ記録領域として利用可能である。
【００７３】
接続ポート８１４は、外部接続機器８１５を接続するポートであり、ＵＳＢ、ＩＥＥＥ１３９４等の接続部を持つ。接続ポート８１４は、インタフェース８０７、及び外部バス８０６、ブリッジ８０５、ホストバス８０４等を介してＣＰＵ８０１等に接続されている。通信部８１６は、通信回線に接続され、外部とのデータ通信処理を実行する。データ読み取り部８１７は、例えばスキャナであり、ドキュメントの読み取り処理を実行する。データ出力部８１８は、例えばプリンタであり、ドキュメントデータの出力処理を実行する。
【００７４】
なお、図８に示す画像処理装置のハードウェア構成は、１つの構成例を示すものであり、本実施の形態は、図８に示す構成に限らず、本実施の形態において説明したモジュールを実行可能な構成であればよい。例えば、一部のモジュールを専用のハードウェア（例えば特定用途向け集積回路（Ａｐｐｌｉｃａｔｉｏｎ  Ｓｐｅｃｉｆｉｃ  Ｉｎｔｅｇｒａｔｅｄ  Ｃｉｒｃｕｉｔ：ＡＳＩＣ）等）で構成してもよく、一部のモジュールは外部のシステム内にあり通信回線で接続しているような形態でもよく、さらに図８に示すシステムが複数互いに通信回線によって接続されていて互いに協調動作するようにしてもよい。また、複写機、ファックス、スキャナ、プリンタ、複合機（スキャナ、プリンタ、複写機、ファックス等のいずれか２つ以上の機能を有している画像処理装置）などに組み込まれていてもよい。
【００７５】
なお、前述の各種の実施の形態を組み合わせてもよく（例えば、ある実施の形態内のモジュールを他の実施の形態内に追加する、入れ替えをする等も含む）、また、各モジュールの処理内容として背景技術で説明した技術（「発明を実施するための形態」の説明内で参考文献として挙げたものに記載されている技術を含む）を採用してもよい。
【００７６】
なお、説明したプログラムについては、記録媒体に格納して提供してもよく、また、そのプログラムを通信手段によって提供してもよい。その場合、例えば、前記説明したプログラムについて、「プログラムを記録したコンピュータ読み取り可能な記録媒体」の発明として捉えてもよい。
「プログラムを記録したコンピュータ読み取り可能な記録媒体」とは、プログラムのインストール、実行、プログラムの流通などのために用いられる、プログラムが記録されたコンピュータで読み取り可能な記録媒体をいう。
なお、記録媒体としては、例えば、デジタル・バーサタイル・ディスク（ＤＶＤ）であって、ＤＶＤフォーラムで策定された規格である「ＤＶＤ−Ｒ、ＤＶＤ−ＲＷ、ＤＶＤ−ＲＡＭ等」、ＤＶＤ＋ＲＷで策定された規格である「ＤＶＤ＋Ｒ、ＤＶＤ＋ＲＷ等」、コンパクトディスク（ＣＤ）であって、読出し専用メモリ（ＣＤ−ＲＯＭ）、ＣＤレコーダブル（ＣＤ−Ｒ）、ＣＤリライタブル（ＣＤ−ＲＷ）等、ブルーレイ・ディスク（Ｂｌｕ−ｒａｙ  Ｄｉｓｃ（登録商標））、光磁気ディスク（ＭＯ）、フレキシブルディスク（ＦＤ）、磁気テープ、ハードディスク、読出し専用メモリ（ＲＯＭ）、電気的消去及び書換可能な読出し専用メモリ（ＥＥＰＲＯＭ（登録商標））、フラッシュ・メモリ、ランダム・アクセス・メモリ（ＲＡＭ）、ＳＤ（Ｓｅｃｕｒｅ  Ｄｉｇｉｔａｌ）メモリーカード等が含まれる。
そして、前記のプログラム又はその一部は、前記記録媒体に記録して保存や流通等させてもよい。また、通信によって、例えば、ローカル・エリア・ネットワーク（ＬＡＮ）、メトロポリタン・エリア・ネットワーク（ＭＡＮ）、ワイド・エリア・ネットワーク（ＷＡＮ）、インターネット、イントラネット、エクストラネット等に用いられる有線ネットワーク、あるいは無線通信ネットワーク、さらにこれらの組み合わせ等の伝送媒体を用いて伝送させてもよく、また、搬送波に乗せて搬送させてもよい。
さらに、前記のプログラムは、他のプログラムの一部分であってもよく、あるいは別個のプログラムと共に記録媒体に記録されていてもよい。また、複数の記録媒体に分割して
記録されていてもよい。また、圧縮や暗号化など、復元可能であればどのような態様で記録されていてもよい。
【符号の説明】
【００７７】
１００…画像又は特徴マップ
１１０…畳込み処理モジュール
１２０…整流処理モジュール
１３０…正規化処理モジュール
１３２…差算出処理モジュール
１３４…除数算出処理モジュール
１３６…除算処理モジュール
１４０…サブサンプリング処理モジュール
２００…画像
２１０…特徴抽出層１：
２２０…特徴マップＡ：
２３０…特徴抽出層２：
２４０…特徴マップＢ：
２５０…特徴抽出層３：
２６０…特徴マップＣ：
２７０…出力
３００…画像又は特徴マップ
３１０…畳込み処理モジュール
３２０…整流処理モジュール
３３０…サブサンプリング処理モジュール
３４０…正規化処理モジュール
３４２…差算出処理モジュール
３４４…除数算出処理モジュール
３４６…除算処理モジュール
４００…画像又は特徴マップ
４１０…畳込み処理モジュール
４２０…整流処理モジュール
４３０…サブサンプリング処理モジュール
４４０…正規化処理モジュール
４４２…差算出処理モジュール
４４４…除数算出処理モジュール
４４６…除算処理モジュール
５００…画像又は特徴マップ
５１０…畳込み処理モジュール
５２０…整流処理モジュール
５３０…サブサンプリング処理モジュール
５４０…正規化処理モジュール
５４２…差算出処理モジュール
５４４…和算出処理モジュール
５４６…除算処理モジュール
６００…画像又は特徴マップ
６１０…畳込み処理モジュール
６２０…整流＋サブサンプリング処理モジュール
６２２…整流処理モジュール
６２４…和算出処理モジュール
６２６…サブサンプリング処理モジュール
６２８…平均化処理モジュール
６３０…正規化処理モジュール
６３２…差算出処理モジュール
６３４…和算出処理モジュール
６３６…除算処理モジュール
７００…画像又は特徴マップ
７１０…畳込み処理モジュール
７２０…整流＋サブサンプリング処理モジュール
７２２…整流処理モジュール
７２４…和算出処理モジュール
７２６…サブサンプリング処理モジュール
７２８…平均化処理モジュール
７３０…正規化処理モジュール
７３２…差算出処理モジュール
７３４…和算出処理モジュール
７３６…除算処理モジュール
９００…画像
９１０…特徴抽出層
９２０…特徴抽出層
９３０…識別器
１０００…画像又は特徴マップ
１０１０…畳込み処理モジュール
１０２０…整流処理モジュール
１０３０…正規化処理モジュール
１０３２…平均算出処理モジュール
１０３４…差算出処理モジュール
１０３６…標準偏差算出処理モジュール
１０３８…除算処理モジュール
１０４０…サブサンプリング処理モジュール
【図１】
0005772442.tif 000014
【図２】
0005772442.tif 000015
【図３】
0005772442.tif 000016
【図４】
0005772442.tif 000017
【図５】
0005772442.tif 000018
【図６】
0005772442.tif 000019
【図７】
0005772442.tif 000020
【図８】
0005772442.tif 000021
【図９】
0005772442.tif 000022
【図１０】
0005772442.tif 000023
【図１１】
0005772442.tif 000024
【図１２】
0005772442.tif 000025
【図１３】
0005772442.tif 000026