(57)【特許請求の範囲】
【請求項１】
認証対象が共通に有する所定の属性を有する１つ以上の第１の画像を少なくとも用いて、前記属性を有するか否かが未知の画像である第２の画像から前記属性らしさまたは前記属性らしくなさを表す特徴を抽出するための１つ以上のパラメータを計算するパラメータ計算手段と、
前記パラメータを用いて、入力された画像から前記特徴を抽出する特徴抽出手段と、
少なくとも前記第２の画像から抽出される前記特徴に基づいて、前記第２の画像が認証対象であるか否かを判定する判定手段とを備え、
前記特徴抽出手段は、前記パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで前記計算素子が２以上の層を構成し、かつ少なくとも１つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用いて、前記特徴を抽出し、
前記パラメータ計算手段は、抽出される前記特徴が予め指定した分布に従うように、前記パラメータを計算し、
前記判定手段は、前記分布の形状を定める第２のパラメータを用いて少なくとも前記第２の画像から抽出される前記特徴に基づき計算される前記第２の画像が前記属性を有するか否かを示す指標に基づいて、前記第２の画像を判定する
ことを特徴とする画像認識装置。
【請求項２】
前記特徴は、前記ニューラルネットワークの中間層から出力される情報である
請求項１記載の画像認識装置。
【請求項３】
認証対象が共通に有する所定の属性を有する１つ以上の第１の画像を少なくとも用いて、前記属性を有するか否かが未知の画像である第２の画像から前記属性らしさまたは前記属性らしくなさを表す特徴を抽出するための１つ以上のパラメータを計算するパラメータ計算手段と、
前記パラメータを用いて、入力された画像から前記特徴を抽出する特徴抽出手段と、
少なくとも前記第２の画像から抽出される前記特徴に基づいて、前記第２の画像が認証対象であるか否かを判定する判定手段とを備え、
前記特徴抽出手段は、前記パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで前記計算素子が２以上の層を構成し、かつ少なくとも１つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用いて、前記特徴を抽出し、
前記パラメータ計算手段は、前記属性を有し、かつノイズを含む１つ以上の第１の画像を少なくとも用いて、前記第２の画像から、前記第１の画像においてノイズとされたノイズ成分を除去するように、前記パラメータを計算し、
前記特徴抽出手段は、前記パラメータを用いて、少なくとも前記第２の画像から前記特徴として前記ノイズ成分を抽出し、
前記判定手段は、前記ノイズ成分に基づいて、前記第２の画像を判定する
ことを特徴とする画像認識装置。
【請求項４】
前記判定手段は、前記ノイズ成分が予め定めた閾値以外である場合に、前記第２の画像を認定対象と判定する
請求項３記載の画像認識装置。
【請求項５】
前記パラメータ計算手段は、確率的な方法で前記パラメータを計算し、
前記判定手段は、１つの前記第２の画像に対して、個別に計算された前記パラメータを用いて複数回の特徴抽出を行って得られる複数の判定結果に基づいて、前記第２の画像を判定する
請求項１から請求項４のうちのいずれかに記載の画像認識装置。
【請求項６】
前記パラメータ計算手段は、確率的な方法で前記パラメータを計算し、
前記判定手段は、１つの前記第２の画像に対して、個別に計算された前記パラメータを用いて複数回の特徴抽出を行って得られる複数の指標に基づいて、前記第２の画像を判定する
請求項１記載の画像認識装置。
【請求項７】
情報処理装置が、
認証対象が共通に有する所定の属性を有する１つ以上の第１の画像を少なくとも用いて、前記属性を有するか否かが未知の画像である第２の画像から前記属性らしさまたは前記属性らしくなさを表す特徴を抽出するための１つ以上のパラメータを計算し、
前記パラメータを用いて、入力された画像から前記特徴を抽出し、
少なくとも前記第２の画像から抽出される前記特徴に基づいて、前記第２の画像が認証対象であるか否かを判定し、
前記特徴を抽出する際に、前記パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで前記計算素子が２以上の層を構成し、かつ少なくとも１つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用い、
抽出される前記特徴が予め指定した分布に従うように、前記パラメータを計算し、
前記分布の形状を定める第２のパラメータを用いて少なくとも前記第２の画像から抽出される前記特徴に基づき計算される前記第２の画像が前記属性を有するか否かを示す指標に基づいて、前記第２の画像を判定する
ことを特徴とする画像認識方法。
【請求項８】
情報処理装置が、
認証対象が共通に有する所定の属性を有する１つ以上の第１の画像を少なくとも用いて、前記属性を有するか否かが未知の画像である第２の画像から前記属性らしさまたは前記属性らしくなさを表す特徴を抽出するための１つ以上のパラメータを計算し、
前記パラメータを用いて、入力された画像から前記特徴を抽出し、
少なくとも前記第２の画像から抽出される前記特徴に基づいて、前記第２の画像が認証対象であるか否かを判定し、
前記特徴を抽出する際に、前記パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで前記計算素子が２以上の層を構成し、かつ少なくとも１つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用い、
前記属性を有し、かつノイズを含む１つ以上の第１の画像を少なくとも用いて、前記第２の画像から、前記第１の画像においてノイズとされたノイズ成分を除去するように、前記パラメータを計算し、
前記パラメータを用いて、少なくとも前記第２の画像から前記特徴として前記ノイズ成分を抽出し、
前記ノイズ成分に基づいて、前記第２の画像を判定する
ことを特徴とする画像認識方法。
【請求項９】
コンピュータに、
認証対象が共通に有する所定の属性を有する１つ以上の第１の画像を少なくとも用いて、前記属性を有するか否かが未知の画像である第２の画像から前記属性らしさまたは前記属性らしくなさを表す特徴を抽出するための１つ以上のパラメータを計算するパラメータ計算処理、
前記パラメータを用いて、入力された画像から前記特徴を抽出する特徴抽出処理、および
少なくとも前記第２の画像から抽出される前記特徴に基づいて、前記第２の画像が認証対象であるか否かを判定する判定処理を実行させ、
前記特徴抽出処理で、前記パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで前記計算素子が２以上の層を構成し、かつ少なくとも１つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用いて、前記特徴を抽出させ、
前記パラメータ計算処理で、抽出される前記特徴が予め指定した分布に従うように、前記パラメータを計算させ、
前記判定処理で、前記分布の形状を定める第２のパラメータを用いて少なくとも前記第２の画像から抽出される前記特徴に基づき計算される前記第２の画像が前記属性を有するか否かを示す指標に基づいて、前記第２の画像を判定させる
ための画像認識プログラム。
【請求項１０】
コンピュータに、
認証対象が共通に有する所定の属性を有する１つ以上の第１の画像を少なくとも用いて、前記属性を有するか否かが未知の画像である第２の画像から前記属性らしさまたは前記属性らしくなさを表す特徴を抽出するための１つ以上のパラメータを計算するパラメータ計算処理、
前記パラメータを用いて、入力された画像から前記特徴を抽出する特徴抽出処理、および
少なくとも前記第２の画像から抽出される前記特徴に基づいて、前記第２の画像が認証対象であるか否かを判定する判定処理を実行させ、
前記特徴抽出処理で、前記パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで前記計算素子が２以上の層を構成し、かつ少なくとも１つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用いて、前記特徴を抽出させ、
前記パラメータ計算処理で、前記属性を有し、かつノイズを含む１つ以上の第１の画像を少なくとも用いて、前記第２の画像から、前記第１の画像においてノイズとされたノイズ成分を除去するように、前記パラメータを計算させ、
前記特徴抽出処理で、前記パラメータを用いて、少なくとも前記第２の画像から前記特徴として前記ノイズ成分を抽出させ、
前記判定処理で、前記ノイズ成分に基づいて、前記第２の画像を判定させる
ための画像認識プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、サンプル画像を学習して画像を認識する画像認識装置、画像認識方法および画像認識プログラムに関する。
【背景技術】
【０００２】
画像認識装置の一例が特許文献１に記載されている。特許文献１に記載の方法は、まず、顔画像集合に対して、画像入力手段が対象人物の顔の位置と大きさを正規化し、輝度変化補正のために画像ヒストグラムを平滑化する。その後、影の影響を除去するためにシェーディング補正を行い、画像圧縮と正規化を行う。次に、顔画像集合に含まれる顔画像の各々についてＫＬ展開（Karhunen-Loeve展開）して固有値と係数を求めるとともに、特徴量として係数の値を入力し、顔画像か否かの判定結果が出力されるようニューラルネットワークの学習を行う。また、特許文献１に記載の方法は、未知画像に対して顔画像か否かを判定行う際には、未知画像を上述で求めたＫＬ展開の固有ベクトル空間上で表現し、得られた値（特徴量としての係数）を上述のニューラルネットに入力することで、判定を行う。【０００３】
特許文献１に記載の方法は、認識対象とされた「顔」を有する画像のみを用いて、顔らしさを表現する固有ベクトル空間を構成し、そこからニューラルネットワークの学習に用いる特徴を得ている。【０００４】
また、本発明に関連する技術として、非特許文献１の付録には、ニューラルネットワークのようなディープラーニングにおける学習方法の例として、層毎の貪欲学習（ｇｒｅｅｄｙ  ｌａｙｅｒ  ｔｒａｉｎｉｎｇ）が記載されている。また、非特許文献２には、自己符号化器（Ａｕｔｏｅｎｃｏｄｅｒ）と呼ばれるニューラルネットワークのうち敵対的自己符号化器（Ａｄｖｅｒｓａｒｉａｌ  Ａｕｔｏｅｎｃｏｄｅｒ）と呼ばれるニューラルネットワークの例が記載されている。なお、本願の図７にも、非特許文献２のｐ．２に開示されているＦｉｇ．１の略図が示されている。また、非特許文献３には、デノイジングオートエンコーダ（Ｄｅｎｏｉｓｉｎｇ  Ａｕｔｏｅｎｃｏｄｅｒ）と呼ばれるニューラルネットワークの例が記載されている。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開平１１−２５２６９号公報
【非特許文献】
【０００６】
【非特許文献１】Yoshua Bengio, et al., "Greedy Layer-Wise Training of Deep Networks", proceedings on Neural Information Processing Systems, 2006, Appendix of the paper(p.5).
【非特許文献２】Alireze Makhzani, et al., "Adversarial Autoencoder", Proceedings of International Conference on Learning Representations, 2016.
【非特許文献３】P. Vincent, et al., "Extracting and Composing robust features with denoising autoencoders", Proceedings of International Conference on Machine Learning (ICML), 2008, pp.1097-1098.
【発明の概要】
【発明が解決しようとする課題】
【０００７】
特許文献１に記載の方法は、顔画像の認識を想定しているが、原理的には顔以外の任意の認証対象に対しても適用可能である。例えば、工場で生産されるある特定の製品が正常であるかどうかを製品画像から判定するための特徴抽出として、正常品画像集合から正常品らしさを表現する固有ベクトル空間を構成することも可能である。【０００８】
当該方法における正常品らしさを表現する固有ベクトル空間が精度良く構成されれば、認識対象物体に関する異常サンプル画像が入手しづらい状況においても、主として正常サンプル画像に基づいて学習することにより、未知画像に対して認識対象であるか否かを精度良く判定できる。【０００９】
なお、本発明では、認識対象でないと判定されるべき画像、より具体的には、認識対象が共通に有する所定の属性を有しない画像を「異常サンプル画像」という。また、認識対象であると判定されるべき画像、より具体的には、認識対象が共通に有する所定の属性を有する画像を「正常サンプル画像」をいう。【００１０】
しかし、特許文献１に記載の方法は、単純な方法で固有ベクトル空間を構成しているため、固有ベクトル空間の次元数が小さい場合に判定精度が悪くなるという問題がある。【００１１】
例えば、特許文献１に記載の方法は、画像を固有ベクトル空間に縮退させるときに、当該画像が有する固有ベクトルのうち、固有値の大きい方から固有ベクトル空間の次元数分の固有ベクトルしか利用しない。このため、判定に利用される固有ベクトルの係数が、上記の固有ベクトルの係数に限定される。このような方法では、利用されなかった固有ベクトルに対応する固有値が比較的大きい場合に、原画像に対する情報の損失が大きくなり、判定の精度が低下する。【００１２】
本発明は、上記課題に鑑み、認識対象に関する異常サンプル画像が入手しづらい状況においても、精度良く画像を認識できる画像認識装置、画像認識方法および画像認識プログラムを提供することを目的とする。
【課題を解決するための手段】
【００１３】
本発明による画像認識装置は、認証対象が共通に有する所定の属性を有する１つ以上の第１の画像を少なくとも用いて、該属性を有するか否かが未知の画像である第２の画像から該属性らしさまたは該属性らしくなさを表す特徴を抽出するための１つ以上のパラメータを計算するパラメータ計算手段と、該パラメータを用いて、入力された画像から特徴を抽出する特徴抽出手段と、少なくとも第２の画像から抽出される特徴に基づいて、第２の画像が認証対象であるか否かを判定する判定手段とを備え、特徴抽出手段は、該パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで計算素子が２以上の層を構成し、かつ少なくとも１つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用いて、特徴を抽出し、パラメータ計算手段は、抽出される特徴が予め指定した分布に従うように、パラメータを計算し、判定手段は、分布の形状を定める第２のパラメータを用いて少なくとも第２の画像から抽出される特徴に基づき計算される第２の画像が属性を有するか否かを示す指標に基づいて、第２の画像を判定することを特徴とする。
また、本発明による画像認識装置は、認証対象が共通に有する所定の属性を有する１つ以上の第１の画像を少なくとも用いて、該属性を有するか否かが未知の画像である第２の画像から該属性らしさまたは該属性らしくなさを表す特徴を抽出するための１つ以上のパラメータを計算するパラメータ計算手段と、該パラメータを用いて、入力された画像から特徴を抽出する特徴抽出手段と、少なくとも第２の画像から抽出される特徴に基づいて、第２の画像が認証対象であるか否かを判定する判定手段とを備え、特徴抽出手段は、該パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで計算素子が２以上の層を構成し、かつ少なくとも１つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用いて、特徴を抽出し、パラメータ計算手段は、属性を有し、かつノイズを含む１つ以上の第１の画像を少なくとも用いて、第２の画像から、第１の画像においてノイズとされたノイズ成分を除去するように、パラメータを計算し、特徴抽出手段は、パラメータを用いて、少なくとも第２の画像から特徴としてノイズ成分を抽出し、判定手段は、ノイズ成分に基づいて、第２の画像を判定することを特徴とする。
【００１４】
本発明による画像認識方法は、情報処理装置が、認証対象が共通に有する所定の属性を有する１つ以上の第１の画像を少なくとも用いて、該属性を有するか否かが未知の画像である第２の画像から該属性らしさまたは該属性らしくなさを表す特徴を抽出するための１つ以上のパラメータを計算し、該パラメータを用いて、入力された画像から特徴を抽出し、少なくとも第２の画像から抽出される特徴に基づいて、第２の画像が認証対象であるか否かを判定し、特徴を抽出する際に、該パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで計算素子が２以上の層を構成し、かつ少なくとも１つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用い、抽出される特徴が予め指定した分布に従うように、パラメータを計算し、分布の形状を定める第２のパラメータを用いて少なくとも第２の画像から抽出される特徴に基づき計算される第２の画像が属性を有するか否かを示す指標に基づいて、第２の画像を判定することを特徴とする。
また、本発明による画像認識方法は、情報処理装置が、認証対象が共通に有する所定の属性を有する１つ以上の第１の画像を少なくとも用いて、該属性を有するか否かが未知の画像である第２の画像から該属性らしさまたは該属性らしくなさを表す特徴を抽出するための１つ以上のパラメータを計算し、該パラメータを用いて、入力された画像から特徴を抽出し、少なくとも第２の画像から抽出される特徴に基づいて、第２の画像が認証対象であるか否かを判定し、特徴を抽出する際に、該パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで計算素子が２以上の層を構成し、かつ少なくとも１つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用い、属性を有し、かつノイズを含む１つ以上の第１の画像を少なくとも用いて、第２の画像から、第１の画像においてノイズとされたノイズ成分を除去するように、パラメータを計算し、パラメータを用いて、少なくとも第２の画像から特徴としてノイズ成分を抽出し、ノイズ成分に基づいて、第２の画像を判定することを特徴とする。
【００１５】
本発明による画像認識プログラムは、コンピュータに、認証対象が共通に有する所定の属性を有する１つ以上の第１の画像を少なくとも用いて、該属性を有するか否かが未知の画像である第２の画像から該属性らしさまたは該属性らしくなさを表す特徴を抽出するための１つ以上のパラメータを計算するパラメータ計算処理、該パラメータを用いて、入力された画像から特徴を抽出する特徴抽出処理、および少なくとも第２の画像から抽出される特徴に基づいて、第２の画像が認証対象であるか否かを判定する判定処理を実行させ、特徴抽出処理で、該パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで計算素子が２以上の層を構成し、かつ少なくとも１つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用いて、特徴を抽出させ、パラメータ計算処理で、抽出される特徴が予め指定した分布に従うように、パラメータを計算させ、判定処理で、分布の形状を定める第２のパラメータを用いて少なくとも第２の画像から抽出される特徴に基づき計算される第２の画像が属性を有するか否かを示す指標に基づいて、第２の画像を判定させることを特徴とする。
また、本発明による画像認識プログラムは、コンピュータに、認証対象が共通に有する所定の属性を有する１つ以上の第１の画像を少なくとも用いて、該属性を有するか否かが未知の画像である第２の画像から該属性らしさまたは該属性らしくなさを表す特徴を抽出するための１つ以上のパラメータを計算するパラメータ計算処理、該パラメータを用いて、入力された画像から特徴を抽出する特徴抽出処理、および少なくとも第２の画像から抽出される特徴に基づいて、第２の画像が認証対象であるか否かを判定する判定処理を実行させ、特徴抽出処理で、該パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで計算素子が２以上の層を構成し、かつ少なくとも１つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用いて、特徴を抽出させ、パラメータ計算処理で、属性を有し、かつノイズを含む１つ以上の第１の画像を少なくとも用いて、第２の画像から、第１の画像においてノイズとされたノイズ成分を除去するように、パラメータを計算させ、特徴抽出処理で、パラメータを用いて、少なくとも第２の画像から特徴としてノイズ成分を抽出させ、判定処理で、ノイズ成分に基づいて、第２の画像を判定させることを特徴とする。
【発明の効果】
【００１６】
本発明によれば、認識対象に関する異常サンプル画像が入手しづらい状況においても、精度良く画像を認識できる。
【図面の簡単な説明】
【００１７】
【図１】第１の実施形態の画像認識装置１０の例を示すブロック図である。
【図２】特徴抽出手段１１が用いるニューラルネットワークの例を示す説明図である。
【図３】第１の実施形態の学習ステップＳＴ１の動作の一例を示すフローチャートである。
【図４】第１の実施形態の判定ステップＳＤ１の動作の一例を示すフローチャートである。
【図５】判定手段１３におけるｔｈの決定例を示す説明図である。
【図６】第２の実施形態の画像認識装置２０の例を示すブロック図である。
【図７】敵対的自己符号化器の構成例を模式的に示す説明図である。
【図８】第２の実施形態の学習ステップＳＴ２の動作の一例を示すフローチャートである。
【図９】第２の実施形態の判定ステップＳＤ２の動作の一例を示すフローチャートである。
【図１０】第３の実施形態の画像認識装置３０の例を示すブロック図である。
【図１１】第３の実施形態の学習ステップＳＴ３の動作の一例を示すフローチャートである。
【図１２】第３の実施形態の判定ステップＳＤ３の動作の一例を示すフローチャートである。
【図１３】本発明の実施形態にかかるコンピュータの構成例を示す概略ブロック図である。
【図１４】本発明の概要を示すブロック図である。
【発明を実施するための形態】
【００１８】
以下、本発明の実施形態を図面を参照して説明する。
【００１９】
実施形態１．
［構成の説明］
図１は、本実施形態の画像認識装置１０の例を示すブロック図である。図１に示す画像認識装置１０は、特徴抽出手段１１と、パラメータ計算手段１２と、判定手段１３とを備える。
【００２０】
特徴抽出手段１１は、認識したい入力画像（以下、テスト画像と呼ぶ）から特徴を抽出する。特徴抽出手段１１は、判定対象としたオブジェクトらしさを判定するための特徴を抽出するための１つ以上のパラメータ１１１を有しており、テスト画像に対して該パラメータ１１１を用いた所定の計算を行うことにより、特徴を抽出する。ここで、パラメータ１１１はそれぞれ、その値によって特徴抽出手段１１における特徴の計算特性が変わるものであれば、特に問わない。以下、パラメータ１１１を特徴抽出パラメータと表現する場合がある。また、特徴抽出手段１１が画像より抽出した特徴を画像特徴と表現する場合がある。
【００２１】
パラメータ計算手段１２は、特徴抽出手段１１が特徴抽出に用いるパラメータ１１１の各々の値を計算する。パラメータ１１１の値は、例えば、正常サンプル画像や異常サンプル画像といった予め用意された学習画像の集合を用いて計算するのが一般的であるが、これに限定されない。なお、本実施形態のパラメータ１１１の計算方法については後述する。
【００２２】
判定手段１３は、特徴抽出手段１１によって抽出された画像特徴に基づいて、テスト画像が認識対象であるか否かを判定する。
【００２３】
以下、本実施形態では、所定の属性を有するオブジェクト（物体、部品、部分等）を認識対象とする場合を例に説明する。この場合、所定の属性は、画像中の注目オブジェクトに共通する性質であり、任意に設定できる。所定の属性の例としては、被写体に関して「（動植物における特定の種という意味での）人」や「特定の個人」や「（目や鼻や口といった所定の部品を有する人の部位という意味での）顔」、工場で生産される特定物体に関して「（不良品でない品質という意味での）良品」などが挙げられるが、これらに限定されない。なお、以下では、さらに、「工場で生産される特定物体の良品」を認識対象とした場合を例に説明する。
【００２４】
そのような認証対象が共通に有する所定の属性に着目すると、上記の構成要素の関係は、例えば次のように説明できる。すなわち、パラメータ計算手段１２が、所定の属性を持つ画像集合（正常サンプル画像集合）を用いて、特徴抽出手段１１が有するパラメータ１１１の値を決定し、特徴抽出手段１１が、決定されたパラメータ１１１の値に基づいてテスト画像に対して、当該画像が有する所定の属性らしさを判定するための特徴を抽出し、判定手段１３が、テスト画像から得られた該画像特徴に基づいてテスト画像が所定の属性を持つかどうかを判定する。なお、テスト画像が所定の属性を持つと判定された場合、該テスト画像は認証対象であると判定され、テスト画像が所定の属性を持たないと判定された場合、該テスト画像は認証対象でないと判定される。
【００２５】
このとき、パラメータ計算手段１２は、対象となるオブジェクト（本例では、所定の属性を有するもの）に応じて、入力画像を最も良く復元する特徴空間へ変換する関数を学習し、学習結果として得られた該関数より、パラメータ１１１の値を決定してもよい。また、特徴抽出手段１１は、学習の結果得られたパラメータ１１１の値に基づいて学習画像とテスト画像をそれぞれ特徴空間に変換してもよい。また、判定手段１３は、特徴抽出手段１１により変換された特徴空間上でのそれらの間の近さに基づいて、テスト画像に写るオブジェクトが、対象となるオブジェクトであるかどうかを認定してもよい。
【００２６】
特徴抽出手段１１における特徴抽出方法の好適な一例は、ニューラルネットワークを用いる方法である。なお、特徴抽出手段１１そのものが、ニューラルネットワークを構成するプログラム（より具体的には、該プログラムにしたがって動作するプロセッサ）により実現されていてもよい。
【００２７】
ニューラルネットワークとは、固有のパラメータを含む計算素子を結合して得られる計算モデルである。計算素子としては、例えば、素子固有のパラメータである重みｗａ＝（ｗａ１，ｗａ２，  ．．．  ，ｗａｐ）Ｔと、バイアスｂａを用いて、入力信号ｘ＝（ｘ１，ｘ２，  ．．．  ，ｘｐ）からｆ（ｗａ・ｘ＋ｂａ）の値を計算し出力するモデルが利用できる。ここで、ａは計算素子のユニット番号を表す。Ｔはベクトルの転置を表す。ｐは入力信号の数を表す。また、“・”はベクトルの内積を表す。また、ｆは活性化関数と呼ばれ、例えば、シグモイド関数、ＲｅＬＵ関数などが利用される。
【００２８】
ここで、ニューラルネットワークに含まれる計算素子の集合を複数の部分集合に分割し、階層を構成することも可能である。このような階層型のニューラルネットワークに含まれる計算素子のパラメータ（重み、バイアス）の計算は、あらかじめ用意した「学習サンプルおよび学習サンプルに対する教師信号のペア」（以下、学習サンプルペアと呼ぶ）の集合（以下、学習サンプル集合と呼ぶ）を用いて計算する。このパラメータの計算のことを学習と呼ぶこともある。したがって、パラメータ計算手段を、ニューラルネットワークを学習する学習手段と言うこともできる。
【００２９】
具体的なパラメータの計算方法の１つに、誤差逆伝播法がある。誤差逆伝播法は、階層型のニューラルネットワークの最終出力が教師信号との誤差ができるだけ小さくなるよう、最急降下法等の既知の最適化手法を用いて、最終出力層に近い順にパラメータ（重み、バイアス）の更新を行う方法である。原理上、パラメータの更新を複数回行うことにより、パラメータは最適な値に近づいていく性質を持つ。ここで、１回の計算に使用する学習サンプルは、必ずしも学習サンプル集合に属するすべての画像サンプルペアである必要はなく、学習サンプル集合に属する一部の画像サンプルペア（部分画像サンプルペア集合）のみを用いてもよい。
【００３０】
また、部分画像サンプルペア集合を用いてパラメータの計算を行う場合は、反復の度に部分画像サンプルペア集合の取り方を無作為に選びなおしてもよい。例えば、最適化手法として最急降下法を用いる場合は、確率的勾配法（Ｓｔｏｃｈａｓｔｉｃ  Ｇｒａｄｉｅｎｔ  Ｄｅｃｅｎｔ）と呼ばれる。仮にＣ回の反復で最終的に得られる計算素子のパラメータの計算結果について、独立に試行する２回の結果を比較すると、異なる部分画像サンプルペア集合の取り方に基づいてパラメータが計算されるため、概ね一致しても厳密には一致しないことが一般的である。また、計算素子パラメータの初期値をパラメータ計算前にランダムに与えてもよく、この場合も計算素子のパラメータの最終計算結果は厳密には一致しない。また、異なる最適化手法を用いた複数の計算素子のパラメータの最終計算結果は一般的には異なる。これらは、計算素子のパラメータ計算方法が確率的な結果を生成する一例である。このように、パラメータ計算手段１２は、ニューラルネットワークの重みの初期値や学習中に選ぶ学習サンプルの選択を無作為としたり、異なる最適化手法を用いる等、確率的な方法でパラメータを求めてもよい。このような性質を用いて構成することができる変形例については、別途、後述する。なお、パラメータ計算手段１２は、上記以外の公知の学習方法を用いることも可能である。
【００３１】
以下、ニューラルネットワークが、画像の情報を入力する入力層を含めて２つ以上の層から構成され、かつ、少なくとも１つの層の計算素子の数が入力層の計算素子の数よりも小さくなるよう構成されるオートエンコーダ型ニューラルネットワークである場合を例に説明する。この場合、画像から得られる特徴は、オートエンコーダ型ニューラルネットワークの少なくとも１つの層から出力される情報とされる。
【００３２】
図２は、特徴抽出手段１１が特徴抽出の際に用いるニューラルネットワークの例を示す説明図である。図２に示す例のニューラルネットワークは、入力層と出力層とを含む７つの層から構成されている。各層は、１つ以上の計算素子を含む。なお、丸印は計算素子を表している。このようなニューラルネットワークを用いる場合、特徴抽出手段１１は、入力層から数えて第４番目の層の出力を、画像特徴として使用してもよい。なお、この例に示すニューラルネットワークは、上述したオートエンコーダ型すなわち自己符号化器と呼ばれる種類のニューラルネットワークである。狭義の自己符号化器は３つの層から構成されるが、近年、多層に拡張した構成が提案されている。従って、本明細書においても、自己符号化器のネットワーク構成を３層に限定せず、一般に複数層を持つことと、少なくとも１つの層の計算素子数が入力層の素子数よりも小さいことを構成要件とする。
【００３３】
オートエンコーダ型ニューラルネットワークを用いる場合、図２に示すように、画像特徴として素子の数が最小となった中間層の出力値を用いるのが好適な一例であるが、他の層の出力を画像特徴として用いることも可能である。
【００３４】
パラメータ１１１の値の計算に関して、パラメータ計算手段１２は、所定の属性を持つ画像集合を用いて、上記のようなニューラルネットワークにおける各計算素子のパラメータの学習を行い、値を決めるのが好適な一例である。上記の例で言えば、パラメータ計算手段１２は、学習サンプルとしての正常サンプル画像と教師信号としての同正常サンプル画像のペアの集合を用いて、パラメータ１１１の値を計算してもよい。
【００３５】
また、判定手段１３における判定方法の好適な一例は、所定の属性を持つ画像から得られた画像特徴とテスト画像から得られた画像特徴との間の距離を計算し、その距離に基づいてテスト画像が所定の属性を持っているか否かを判定する方法である。この場合の距離としては、既存のものを用いてもよく、例えば、ユークリッド距離、市街地距離などを用いることができるが、これらに限定されない。また、距離の代わりに類似度を用いることも可能である。類似度としては、例えば、特徴をベクトルと見なした時のベクトル間の内積、ベクトルのなす角度を用いることができるが、これらに限定されない。なお、後述の例では、判定にユークリッド距離を用いる。また、類似度を用いる場合は、距離の場合と比較して判定基準が逆になる場合があるが、自明な内容なのでその説明を省略する。
【００３６】
なお、判定手段１３は、所定の属性を持つ画像集合のそれぞれとテスト画像の双方からそれぞれの特徴に基づく所定の特徴量（例えば、特徴空間上でのそれらの間の近さ）を抽出し、抽出された特徴量を基に、テスト画像が所定の属性を持っているか否かを判定すればよい。
【００３７】
［動作の説明］
次に、本実施形態の動作を説明する。本実施形態の動作は、学習ステップＳＴ１と判定ステップＳＤ１とに大別される。ここで、学習ステップＳＴ１は、判定ステップＳＤ１に先立って行われるものとする。
【００３８】
図３は、本実施形態の学習ステップＳＴ１の動作の一例を示すフローチャートである。学習ステップＳＴ１では、主に所定の属性を有する学習画像を用いてパラメータ１１１の値を決定する。図３に示す例では、まず、パラメータ計算手段１２が、あらかじめ与えられた学習画像の集合を用いて、パラメータ１１１の値を計算する（ステップＳＴ１１）。
【００３９】
ステップＳＴ１１でパラメータ計算手段１２は、例えば、ニューラルネットワークの入力層に学習画像を与えた場合に出力層が学習画像自身になるような学習を行う。学習法は既知の方式を使えばよい。例えば、ニューラルネットワークの階層の数が３の場合は、誤差逆伝播法など既知の方法を用いて学習すればよい。階層の数が４以上の場合は、例えば、上記の非特許文献１に記載されている層毎の貪欲学習を用いることができる。
【００４０】
非特許文献１に記載の方法は、まず、入力層に近い３層（入力層（＝１層目）、２層目、３層目）に対して部分的に上述したような方法で３層のニューラルネットワークの計算素子のパラメータを定める。その後、１層目のバイアスおよび１層目から２層目の結合重みを固定し、２層目、３層目、４層目に対して、同様にパラメータを求める。この手続きを最終的に３層目が出力層となるまで繰り返すと、学習が終了する。学習が終了した後、計算された計算素子パラメータの値を初期値として、入力層から出力層のすべての層に対して誤差逆伝播法などでパラメータを再計算（一般に、Ｆｉｎｅ  Ｔｕｎｉｎｇと呼ばれる）してもよい。
【００４１】
次いで、特徴抽出手段１１が、パラメータ計算手段１２が計算したパラメータ１１１の値を用いて、学習画像毎に画像特徴を計算する（ステップＳＴ１２）。学習により、例えば、図２に示したニューラルネットワークが得られた場合、特徴抽出手段１１は、上述したように第４層目の２つの計算素子の出力値を画像特徴として用いることができる。
【００４２】
また、図４は、本実施形態の判定ステップＳＤ１の動作の一例を示すフローチャートである。判定ステップＳＤ１では、決定された特徴抽出パラメータの値に基づいてテスト画像から画像特徴を計算して、テスト画像を判定する。図４に示す例では、まず、特徴抽出手段１１が、学習ステップＳＴ１でパラメータ計算手段１２により計算されたパラメータ１１１の値を用いて、テスト画像から画像特徴を抽出する（ステップＳＤ１１）。
【００４３】
次いで、判定手段１３が、ステップＳＴ１２で得られた学習画像の画像特徴と、ステップＳＤ１１で得られたテスト画像の学習特徴とを比較することにより、テスト画像が所定の属性を持つかどうかを判定する（ステップＳＤ１２）。
【００４４】
属性の判定方法には、例えば次の方法がある。すなわち、判定手段１３は、テスト画像の画像特徴との距離がｎ番目（ｎは１以上の整数）に小さい学習画像の画像特徴を用いて、それら画像特徴間の距離Ｄｉｓｔ＿ｎが実数ｔｈよりも小さい場合（あるいはｔｈ以下の場合）に、テスト画像が所定の属性を持つと判断してもよい。ここで、ｎおよびｔｈの値は任意に定められる。なお、ｎ＝１の場合、上記方法は、最近傍の学習画像による判定に相当する。
【００４５】
また、上記判定方法によるｎとｔｈを、次のような方法で定めることもできる。例えばｎを任意の１つの値に固定する場合、ｔｈを大きな値から小さな値に徐々に減少させつつ、学習画像のすべてをテスト画像として使用したときに、当該テスト画像（学習画像）が正しく判定される率（検出率）が１００％となるｔｈを求める。そして、そのようなｔｈのうち、最も小さなｔｈを使う。例えば、所定の属性を有する学習画像（正常サンプル画像）をテスト画像に用いる場合には、検出率として、当該テスト画像（学習画像）が所定の属性を持つとされる率を求めればよい。
【００４６】
上記方法において、ｔｈを小さくすると、判定手段１３が所定の属性を持つと判断した結果の中に所定の属性を持たないものが含まれることが少なくなる一方で、漏れが多く生じる傾向がある。検出率１００％を満たすｔｈの中で最も小さいｔｈを用いることにより、所定の属性を持たない画像を含むテスト画像の判定結果が、できるだけ漏れなく、判定結果に誤りが含まれなくなることが期待される。
【００４７】
図５は、判定手段１３におけるｔｈの決定例を示す説明図である。図５（ａ）は、ｎ＝１に固定した場合のｔｈの決定例を示す説明図であり、図５（ｂ）は、ｎが固定でない場合、すなわちｎとｔｈの双方を変動させた場合のｎおよびｔｈの決定例を示す説明図である。
【００４８】
図５（ａ）には、ｎの値を１に固定した上で、ｔｈの値を０．２〜０．０５まで０．０５刻みで減少させたときの検出率が示されている。本例では、検出率１００％を実現するｔｈは、０．２，０．１５，０．１の３つである。したがって、そのうちの最も小さいｔｈ＝０．１が採用される。
【００４９】
また、図５（ｂ）に示すように、ｎとｔｈの双方を変動させることも可能である。この場合、表において検出率が１００％となる値の組を示す領域と１００％とならない値の組を示す領域の境界付近の値を採用すればよい。例えば、図５（ｂ）に示す例では、破線の枠で示す値の組、すなわち（ｎ，ｔｈ）＝（１，０．１）、（５１，０．１５）、（１０１，０．１５）、（１５１，０．２）などの値を用いればよい。また、変形例１に示すように、複数の値の組を用いて独立に判定を試行し、それらの結果を集計して最終的な判定結果を得るようにしてよい。
【００５０】
また、ｎ、ｔｈの値を定めるためのテスト画像として、学習画像以外の画像を用いても構わない。また、所定の属性を持たない画像のみをテスト画像として用いてもよく、この場合、検出率として所定の属性を持たないと判定する率が１００％を実現するｔｈを求めればよい。そして、そのようなｔｈのうち最も大きなｔｈを採用してもよい。この場合、判定手段１３は、テスト画像が所定の属性を持たないかどうかを判定する。
【００５１】
当然、所定の属性を持たない画像と持つ画像が混在した画像集合を用いてｎおよびｔｈの値を定めることもできる。その場合、画像集合中の各画像に対して正解（属性を持つか否か）に関するラベルを持っていることが望ましい。
【００５２】
［効果の説明］
本実施の形態では、学習画像が所定の属性を持つ画像（正常サンプル）のみであっても、パラメータ１１１を好適に学習できるように構成されている。このため、所定の属性を持たない（異常サンプル）がごく少数しか入手できない、または全く入手できない場合でも、高精度に未知サンプルが正常か異常かを判定できる。
【００５３】
特に、特徴抽出のパラメータの学習にニューラルネットワークを用いることにより、画像から特徴を計算する特徴抽出手段１１の作用を数学的な関数と見なしたとき、主成分分析の場合よりも複雑な関数を学習することができる。このため、より高精度な判定が実現できる。一般的には、画像特徴の空間上における距離と画像の実際の相違度は必ずしも一致しないが、テスト画像と学習画像の画像特徴同士が近傍にある場合には、ユークリッド距離など任意の距離値を用いて画像同士の相違度を近似することは通常行われる操作であり、原理的に高精度な属性判定が期待できる。
【００５４】
実施形態２．
［構成の説明］
次に、本発明の第２の実施形態について説明する。なお、本実施形態の構成の一部は、第１の実施の形態と同一であるため、以下では主に異なる構成要素について説明する。図６は、第２の実施形態の画像認識装置２０の例を示すブロック図である。図６に示す画像認識装置２０は、特徴抽出手段２１と、パラメータ計算手段２２と、判定手段２３とを備える。
【００５５】
特徴抽出手段２１は、認識したい入力画像（テスト画像）から特徴（画像特徴）を抽出して、後述する距離値を計算する。特徴抽出手段２１は、第１の実施形態と同様、１つ以上のパラメータ２１１を有しており、テスト画像に対して該パラメータ２１１を用いた所定の計算を行うことにより、画像特徴を抽出する。
【００５６】
本実施形態の特徴抽出手段２１は、オートエンコーダ型ニューラルネットワークのうち、さらに非特許文献２に示されているような敵対的自己符号化器と呼ばれるニューラルネットワークを用いて、特徴を抽出する。
【００５７】
敵対的自己符号化器の特徴は、ｍ次元正規分布（ｍは１以上の整数）やｍ次元混合正規分布など、あらかじめ指定された分布に従うような学習（すなわち、パラメータ２１１の計算）を行えることである。したがって、敵対的自己符号化器を用いれば、ｍ次元正規分布（ｍは１以上の整数）やｍ次元混合正規分布などあらかじめ指定された分布に従う画像特徴を得ることができる。
【００５８】
図７は、非特許文献２に開示されている敵対的自己符号化器の構成例を模式的に示す説明図である。特徴抽出手段２１は、例えば、図７に示されるような敵対的自己符号化器を用いて、特徴を抽出してもよい。図７において、ｐ（ｚ）はポジティブサンプルを表す。また、ｑ（Ｚ）はネガティブサンプルを表す。また、図中の“Ａｄｖｅｒｓａｒｉａｌ  ｃｏｓｔ”は、ポジティブサンプルからネガティブサンプルを区別するためのコストである。図７の上段が自己符号化器に相当し、下段が後述する識別的ネットワークに相当する。
【００５９】
このような構成のニューラルネットワークの計算素子パラメータの計算（学習）方法は、ｒｅｃｏｎｓｔｒｕｃｔｉｏｎフェーズとｒｅｇｕｌａｒｉｚａｔｉｏｎフェーズとから構成される。ｒｅｃｏｎｓｔｒｕｃｔｉｏｎフェーズでは、入力画像を再構成するような出力が得られるよう、例えば、学習サンプルを入力した場合に、出力が学習サンプルそのものとなるように、敵対的自己符号化器に内在する自己符号化器の学習を行う。ｒｅｇｕｌａｒｉｚａｔｉｏｎフェーズでは、敵対的自己符号化に内在する識別的ネットワーク（入力されたサンプルが、指令された分布から生じたサンプルか、自己符号化器により生成されたサンプルかを識別するネットワーク）を混乱させるように識別ネットワークを学習する。
【００６０】
パラメータ計算手段２２は、特徴抽出手段２１が特徴抽出に用いるパラメータ２１１の各々の値を、上記のような敵対的自己符号化器のために提案された計算（学習）方式で求める。敵対的自己符号化器の構成およびパラメータの計算方法の詳細は、上記の非特許文献２に記載されている。
【００６１】
以下、敵対的自己符号化器に対してｍ次元正規分布を指定する場合を例に説明する。
【００６２】
判定手段２３は、第１の実施形態の判定手段１３を用いることもできるが、以下では、特徴抽出手段２１が抽出する画像特徴の性質すなわち敵対的自己符号化器が学習に用いた所定の分布の性質を用いた判定方法を説明する。
【００６３】
例えば、画像特徴がｍ次元正規分布に従う場合、その空間上の点と平均ベクトルとの間で、ユークリッド距離やマハラノビス距離といった距離を計算することができる。判定手段２３は、テスト画像に対して計算された画像特徴が存在するｍ次元空間の点と学習画像に対して計算された画像特徴の平均ベクトルとされるｍ次元空間の点との距離に基づいて、テスト画像が所定の属性を持つかどうかを判定してもよい。なお、平均ベクトル以外にも、例えば、分散共分散行列の値を用いることも可能である。また、距離だけでなく、平均ベクトルや分散共分散行列の値から求められる任意の値（指標）を用いることも可能である。このようにして、属性判定のための確率、より具体的には、画像特徴の集合が従うと仮定した確率分布に対して、注目する画像特徴がどのくらいの確率で発生するかを示す値を求めてもよい。
【００６４】
特に、ｍ次元正規分布においては、ｍ次元空間上の領域に対して、その確率を計算することが可能であるから、テスト画像が所定の属性を持つことを帰無仮説とする統計的検定を行うことが可能になる。
【００６５】
このように、判定手段２３は、画像特徴が所定の分布に従う場合に、所定の分布におけるパラメータ（ｍ次元正規分布の平均ベクトルや分散共分散行列のように分布の形状を定めるパラメータ）を用いて計算される任意の指標を用いて、属性の有無を判定してもよい。
【００６６】
なお、判定手段２３は、本実施形態においても、ｎを任意の１つの値に固定する場合のｔｈの決定方法を適用して、距離に対する属性の有無を判定してもよい。また、判定手段２３として第１の実施形態の判定手段１３を用いる場合、判定手段２３は、例えば、学習アルゴリズムが確率的なものであると仮定して、１つのテスト画像について、複数の判定結果または複数の指標を得て、得られた複数の判定または複数の指標に基づいて、テスト画像を判定してもよい。なお、複数の判定結果または複数の指標を得る方法は、都度パラメータを計算させて複数回の判定を行ってもよいし、パラメータ計算手段と特徴抽出手段のペアを複数備え、それぞれに対してテスト画像を入力して特徴抽出を行わせ、その結果に基づき複数の判定結果または複数の指標を得てもよい。なお、パラメータの計算から特徴抽出および判定までを行う画像認識手段を複数備え、それぞれに対してテスト画像を入力して判定結果を得ることも可能である。なお、他の実施形態においても同様である。
【００６７】
判定手段２３は、これらのうち１つ以上の方法を用いて属性の有無を判定する。
【００６８】
［動作の説明］
次に、本実施形態の動作を説明する。本実施形態の動作は、学習ステップＳＴ２と判定ステップＳＤ２とに大別される。本実施形態においても、学習ステップＳＴ２は、判定ステップＳＤ２に先だって行われるものとする。
【００６９】
図８は、本実施形態の学習ステップＳＴ２の動作の一例を示すフローチャートである。学習ステップＳＴ２では、主に所定の属性を有する学習画像を用いてパラメータ２１１の値を決定する。図８に示す例では、パラメータ計算手段２２が、あらかじめ与えられた学習画像の集合を用いて、パラメータ２１１の値を計算する（ステップＳＴ２１）。この後、特徴抽出手段２１が、計算されたパラメータ２１１の値を用いて、学習画像集合の画像特徴として、所定の分布（例えば、ｍ次元正規分布）における平均ベクトルを計算してもよい。
【００７０】
また、図９は、本実施形態の判定ステップＳＤ２の動作の一例を示すフローチャートである。判定ステップＳＤ２では、決定されたパラメータ２１１の値に基づいて、テスト画像の平均ベクトルからの距離を計算して、テスト画像を判定する。図９に示す例では、まず、特徴抽出手段２１が、学習ステップＳＴ２でパラメータ計算手段１２により計算されたパラメータ２１１の値を用いて、テスト画像から画像特徴を抽出する（ステップＳＤ２１）。本実施形態では、特徴抽出手段２１は、ｍ次元正規分布に従う画像特徴、より具体的にはｍ次元区間上の点を抽出する。
【００７１】
次いで、判定手段２２３が、ステップＳＤ２２１で求められたテスト画像の画像特徴から、学習画像の画像特徴の平均ベクトルとの距離を計算し、その距離があらかじめ定めた値よりも小さい場合に、テスト画像が所定の属性を持つと判定する（ステップＳＤ２２）。
【００７２】
［効果の説明］
本実施形態では、特徴抽出手段２１により計算される画像特徴があらかじめ指定した確率分布に従うように特徴抽出パラメータが計算される。そして、そのような特徴抽出パラメータを用いてテスト画像から抽出される画像特徴について該確率分布上で計算される距離に基づいて、テスト画像に対する所定の属性らしさが判定される。このため、本実施形態によれば、所定の属性らしさを確率的な指標で与えることができる。
【００７３】
実施形態３．
［構成の説明］
次に、本発明の第２の実施形態について説明する。なお、本実施形態の構成の一部は、第１の実施の形態と同一であるため、以下では主に異なる構成要素について説明する。図１０は、第３の実施形態の画像認識装置３０の例を示すブロック図である。図１０に示す画像認識装置３０は、特徴抽出手段３１と、パラメータ計算手段３２と、判定手段３３とを備える。
【００７４】
特徴抽出手段３１は、認識したい入力画像（テスト画像）から特徴（画像特徴）としてノイズ成分を抽出する。特徴抽出手段３１は、第１の実施形態と同様、１つ以上のパラメータ３１１を有しており、テスト画像に対して該パラメータ３１１を用いた所定の計算を行うことにより、画像特徴を抽出する。
【００７５】
本実施形態の特徴抽出手段３１は、オートエンコーダ型ニューラルネットワークのうち、さらにデノイジングエンコーダと呼ばれるニューラルネットワークを用いて、テスト画像から特徴（ノイズ成分）を抽出する。
【００７６】
デノイジングエンコーダは、入力データを、本来のデータにノイズが付加される等によりその一部に異常（損傷等）があるデータとしたときに、該入力データから本来のデータを出力するよう構成される。このデノイジングオートエンコーダにおいて、計算素子パラメータの計算は、本来の学習サンプルに対してノイズを付加したものをデノイジングエンコーダ用の学習サンプルとし、教師信号をノイズ付加前の学習サンプルとして、誤差逆伝播法などの既知の方法を用いて行えばよい。これにより、デノイジングオートエンコーダは、オートエンコーダ型ニューラルネットワークの特徴に加えて、入力画像中のノイズを除去することができる特徴をもつことができる。このとき、デノイジングオートエンコーダによって除去されるノイズ成分は、１つ以上の正常サンプル画像を用いた学習によりノイズ成分と認定された成分または該成分と同様の方法で抽出された成分に相当し、属性らしくなさを表す特徴の１つであると言える。
【００７７】
パラメータ計算手段３２は、入力された画像からノイズを除去するように、特徴抽出手段３１が特徴抽出に用いるパラメータ３１１の各々の値を求める。より具体的には、パラメータ計算手段３２は、デノイジングエンコーダのために提案された計算（学習）方式で求める。なお、デノイジングエンコーダと呼ばれるニューラルネットワークの構成は、例えば、上記の非特許文献３に記載されている。
【００７８】
パラメータ計算手段３２は、例えば、学習画像に対して人工的にノイズを付加したノイズ学習画像を入力とし、出力としてノイズ付加前の学習画像が出力されるように、特徴抽出パラメータの計算（学習）を行う。このとき、所定の属性を持つ画像の一部に異常があるような場合が利用可能な場合は、その画像を入力として学習してもよい。
【００７９】
特徴抽出手段３１は、そのようにして学習されたパラメータ３１１を用いて、テスト画像からノイズ除去画像を得て、得られたノイズ除去画像とテスト画像との差分を取ることにより、該差分画像をノイズ成分として抽出してもよい。換言すると、本実施形態では、学習されたデノイジングオートエンコーダの入力層に入力した情報（テスト画像）と出力層から出力される情報（ノイズ除去画像）との差分情報を、画像特徴として用いる。
【００８０】
判定手段３３は、特徴抽出手段３１よってテスト画像から得られるノイズ成分（差分画像）に基づいて、テスト画像が所定の属性を持つかどうかを判定する。判定手段３３は、差分の大きさによって、テスト画像を判定してもよい。例えば、判定手段３３は、差分画像の画素値の総和を計算し、それがあらかじめ定められる値以下だった場合に所定属性を持つと判定してもよいが、これに限られない。
【００８１】
本実施形態の基本的なコンセプトは、入力画像とそのノイズ除去画像の差分を取ることによりノイズ成分のみを抽出し、抽出されたノイズ成分が小さければ所定の属性を持つと判定し、逆であれば所定の属性を持たないと判定することにある。
【００８２】
［動作の説明］
次に、本実施形態の動作を説明する。実施形態の動作も、学習ステップＳＴ３と判定ステップＳＤ３とに大別される。本実施形態においても、学習ステップＳＴ２は、判定ステップＳＤ２に先だって行われるものとする。
【００８３】
図１１は、本実施形態の学習ステップＳＴ３の動作の一例を示すフローチャートである。学習ステップＳＴ３では、主に所定の属性を有する学習画像およびそれに対応するノイズ画像を用いてパラメータ３１１の値を決定する。図１１に示す例では、まず、パラメータ計算手段３２が、あらかじめ与えられた所定の属性を持つ学習画像集合とそれに対応するノイズ学習画像の集合を用いて、パラメータ３１１の値を計算する（ステップＳＴ３１）。
【００８４】
また、図１２は、本実施形態の判定ステップＳＤ３の動作の一例を示すフローチャートである。判定ステップＳＤ３では、決定されたパラメータ３１１の値に基づいて、テスト画像とそのノイズ除去画像との差分をとり、テスト画像を判定する。
【００８５】
図１２に示す例では、まず、特徴抽出手段３１が、決定されたパラメータ３１１の値に基づいて、テスト画像の特徴としてノイズ成分を抽出し、テスト画像のノイズ除去画像を生成する（ステップＳＤ３１）。
【００８６】
次いで、判定手段３３が、ステップＳＤ３１で生成されたノイズ除去画像とテスト画像との差分を計算し、該差分（差分画像）に基づいてテスト画像が所定の属性を持つかどうかを判定する（ステップＳＤ３２）。
【００８７】
［効果の説明］
本実施形態では、テスト画像中に含まれるノイズ成分を抽出して所定の属性を持つかどうかを判定するように構成されている。このため、本実施形態によれば、視覚的に理解しやすい属性判定が可能である。
【００８８】
［その他の実施形態］
上記の各実施形態では、ニューラルネットワークの特徴抽出パラメータの学習に、既知のアルゴリズムを用いている。この中には、パラメータの初期値を変更したり、学習の反復回数を変えたり、学習サンプルを与える順番を変えたりすることにより、求められるパラメータが変動するアルゴリズムがある。この変動を利用して、さらに高精度な判定を行うことができる。
【００８９】
［変形例１］
例えば、上記の各実施形態において、テスト画像が所定の属性を持つか否かの判定を、独立にｒ回（ｒは２以上の整数）試行し、その多数決を取ることも可能である。例えば、ｒ＝３の場合で、２回は所定の属性を持つと判定され、１回は所定の属性を持たないと判定された場合、判定手段はこれらの判定結果を基に、最終的に所定の属性を持つと判定してもよい。
【００９０】
このようにすれば、仮に、学習アルゴリズムが確率的なものであることに起因して、低頻度でニューラルネットワークの特徴抽出パラメータの学習に失敗した（属性判定に有効な特徴が求められなかった）としても、全体として高精度な判定を行うことが可能である。
【００９１】
なお、最終的な判定方法は、必ずしも多数決でなくてもよく、例えば、１回以上の任意の試行回数で所定の属性を持つと判定された場合に、全体として所定の属性を持つと判定してもよい。また、複数回の試行で得られた指標からそれらの平均値や分散値を計算するなど新たな指標を計算し、その値に基づいて最終的な判定を行ってもよい。
【００９２】
［変形例２］
また、上記の第２の実施形態では、あらかじめ指定した確率分布におけるパラメータ等を用いて、属性判定のための確率を計算し、統計的検定を構成する例について述べた。このような変動も確率的な現象ととらえれば、属性判定のための確率をｒ回試行の同時確率とし、新たな統計的検定を構成することができる。
【００９３】
これも、学習アルゴリズムが確率的なものであることに起因して、低頻度でニューラルネットワークの特徴抽出パラメータの学習に失敗した（属性判定に有効な特徴が求められなかった）場合に、全体として高精度な判定を行うことができる一例である。
【００９４】
また、上記の各実施形態では、処理対象データは画像であるとして説明したが、処理対象データは画像に限定されない。すなわち、ニューラルネットワークが入力できる信号形式に変換できるデータであれば何でもよく、例えば、画像に対して任意の画像処理を施したデータや、異なるセンサを用いて撮像した複数種類の画像の組み合わせや、画像に音声信号やアノテーション情報等が付加されたデータを処理対象としてもよい。また、ニューラルネットワーク上の情報伝播法、ニューラルネットワークの学習方法は、上記の各実施形態で説明した方法から本質的に相違しない限り、任意のものを用いてもよい。
【００９５】
次に、本発明の実施形態にかかるコンピュータの構成例を示す。図１３は、本発明の実施形態にかかるコンピュータの構成例を示す概略ブロック図である。コンピュータ１０００は、ＣＰＵ１００１と、主記憶装置１００２と、補助記憶装置１００３と、インタフェース１００４と、ディスプレイ装置１００５と、入力装置１００６とを備える。
【００９６】
上述の画像認識装置は、例えば、コンピュータ１０００に実装されてもよい。その場合、各装置の動作は、プログラムの形式で補助記憶装置１００３に記憶されていてもよい。ＣＰＵ１００１は、プログラムを補助記憶装置１００３から読み出して主記憶装置１００２に展開し、そのプログラムに従って上記の実施形態における所定の処理を実施する。
【００９７】
補助記憶装置１００３は、一時的でない有形の媒体の一例である。一時的でない有形の媒体の他の例として、インタフェース１００４を介して接続される磁気ディスク、光磁気ディスク、ＣＤ−ＲＯＭ、ＤＶＤ−ＲＯＭ、半導体メモリ等が挙げられる。また、このプログラムが通信回線によってコンピュータ１０００に配信される場合、配信を受けたコンピュータは１０００がそのプログラムを主記憶装置１００２に展開し、上記の実施形態における所定の処理を実行してもよい。
【００９８】
また、プログラムは、各実施形態における所定の処理の一部を実現するためのものであってもよい。さらに、プログラムは、補助記憶装置１００３に既に記憶されている他のプログラムとの組み合わせで上記の実施形態における所定の処理を実現する差分プログラムであってもよい。
【００９９】
インタフェース１００４は、他の装置との間で情報の送受信を行う。また、ディスプレイ装置１００５は、ユーザに情報を提示する。また、入力装置１００６は、ユーザからの情報の入力を受け付ける。
【０１００】
また、実施形態における処理内容によっては、コンピュータ１０００の一部の要素は省略可能である。例えば、装置がユーザに情報を提示しないのであれば、ディスプレイ装置１００５は省略可能である。
【０１０１】
また、各装置の各構成要素の一部または全部は、汎用または専用の回路（Circuitry）、プロセッサ等やこれらの組み合わせによって実施される。これらは単一のチップによって構成されてもよいし、バスを介して接続される複数のチップによって構成されてもよい。また、各装置の各構成要素の一部又は全部は、上述した回路等とプログラムとの組み合わせによって実現されてもよい。
【０１０２】
各装置の各構成要素の一部又は全部が複数の情報処理装置や回路等により実現される場合には、複数の情報処理装置や回路等は、集中配置されてもよいし、分散配置されてもよい。例えば、情報処理装置や回路等は、クライアントアンドサーバシステム、クラウドコンピューティングシステム等、各々が通信ネットワークを介して接続される形態として実現されてもよい。
【０１０３】
次に、本発明の概要を説明する。図１４は、本発明の概要を示すブロック図である。図１４に示す画像認識装置５００は、パラメータ計算手段５０１と、特徴抽出手段５０２と、判定手段５０３とを備える。
【０１０４】
パラメータ計算手段５０１（例えば、パラメータ計算手段１２、２２、３２）は、認証対象が共通に有する所定の属性を有する１つ以上の第１の画像を少なくとも用いて、該属性を有するか否かが未知の画像である第２の画像から該属性らしさまたは該属性らしくなさを表す特徴を抽出するための１つ以上のパラメータを計算する。
【０１０５】
特徴抽出手段５０２（例えば、特徴抽出手段１１、２１、３１）は、パラメータ計算手段５０１が計算したパラメータを用いて、入力された画像から特徴を抽出する。特徴抽出手段５０２は、より具体的には、該パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで計算素子が２以上の層を構成し、かつ少なくとも１つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用いて、特徴を抽出する。
【０１０６】
判定手段５０３（例えば、判定手段１３、２３、３３）は、少なくとも第２の画像から抽出される特徴に基づいて、第２の画像が認証対象であるか否かを判定する。
【０１０７】
このような構成により、認識対象に関する異常サンプル画像が入手しづらい状況においても、精度良く画像を認識できる。
【０１０８】
以上、実施形態及び実施例を参照して本願発明を説明したが、本願発明は上記実施形態および実施例に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
【産業上の利用可能性】
【０１０９】
本発明は、例えば、工場における生産品のうち異物が混入している物や品質不良の物を検出する検査装置として利用可能である。また、本発明は、例えば、工場生産品に限らず一般のオブジェクトの異常を検知する異常検知装置としても利用可能である。また、本発明は、例えば、セキュリティゲート等に用いられる生体認証装置の一部として、入力された画像が実際に認証の対象となるパーツ（顔、人体など）であるかを確認する検査装置としても利用可能である。また、本発明は、例えば、映像中の特定の人物を追跡する追跡装置において、映像中に映る顔、人体、物体等のオブジェクトに関して、複数フレームの間でオブジェクトの同一性を特定する画像認識手段としても利用可能である。
【符号の説明】
【０１１０】
１０、２０、３０  画像認識装置
１１、２１、３１  特徴抽出手段
１１１、２１１、３１１  パラメータ
１２、２２、３２  パラメータ計算手段
１３、２３、３３  判定手段
１０００  コンピュータ
１００１  ＣＰＵ
１００２  主記憶装置
１００３  補助記憶装置
１００４  インタフェース
１００５  ディスプレイ装置
１００６  入力装置
５００  画像認識装置
５０１  パラメータ計算手段
５０２  特徴抽出手段
５０３  判定手段
【図１】
0006798614.tif 000002
【図２】
0006798614.tif 000003
【図３】
0006798614.tif 000004
【図４】
0006798614.tif 000005
【図５】
0006798614.tif 000006
【図６】
0006798614.tif 000007
【図７】
0006798614.tif 000008
【図８】
0006798614.tif 000009
【図９】
0006798614.tif 000010
【図１０】
0006798614.tif 000011
【図１１】
0006798614.tif 000012
【図１２】
0006798614.tif 000013
【図１３】
0006798614.tif 000014
【図１４】
0006798614.tif 000015