(57)【要約】【課題】学習データの数が十分でなく、データ間に意味的な関係がない場合においても、識別器の検出の精度を向上させることを目的とする。【解決手段】学習データを識別対象領域と非識別対象領域とに分割し、領域間の距離に基づいて非識別対象領域の重みパラメータを決定し、学習データの識別対象領域における特徴量と学習データの非識別対象領域における特徴量と非識別対象領域の重みパラメータとに基づいて、識別対象領域の識別器を生成する。【選択図】図６
2016224821.tif 000002
【特許請求の範囲】
【請求項１】
複数の学習画像データのそれぞれを、識別対象領域と非識別対象領域との領域に分割する分割手段と、
前記複数の学習画像データの前記識別対象領域から、第１の特徴量を抽出し、前記複数の学習画像データの前記非識別対象領域から、第２の特徴量を抽出する抽出手段と、
前記識別対象領域と前記非識別対象領域との領域間距離を取得する取得手段と、
前記取得手段により取得された前記領域間距離に基づき、前記識別対象領域に対する前記非識別対象領域の重要度を示す重みパラメータを決定する決定手段と、
前記決定手段により決定された前記重みパラメータと、前記抽出手段により抽出された前記第１の特徴量及び前記第２の特徴量と、に基づき、前記識別対象領域の識別器を生成する生成手段と、
を有する学習装置。
【請求項２】
前記取得手段は、前記識別対象領域と前記非識別対象領域との位置関係に基づき、前記領域間距離を取得する請求項１に記載の学習装置。
【請求項３】
前記決定手段は、前記取得手段により取得された前記領域間距離が大きくなるほど、前記識別対象領域に対する前記非識別対象領域の重要度を小さくするように前記重みパラメータを決定する請求項１又は２記載の学習装置。
【請求項４】
前記決定手段は、前記取得手段により取得された前記領域間距離と、前記抽出手段により抽出された前記第１の特徴量及び前記第２の特徴量と、に基づき、前記識別対象領域に対する前記非識別対象領域の重要度を示す重みパラメータを決定する請求項１乃至３何れか１項記載の学習装置。
【請求項５】
前記取得手段は、前記第１の特徴量と前記第２の特徴量との分布間距離、前記第１の特徴量と前記第２の特徴量との確率密度比、のうち何れか１つを前記領域間距離として取得する請求項４に記載の学習装置。
【請求項６】
前記決定手段により決定された前記重みパラメータに基づき、前記第２の特徴量を変換する変換手段をさらに有し、
前記生成手段は、前記第１の特徴量と前記変換した第２の特徴量とに基づき、前記識別対象領域の識別器を生成する請求項１乃至５何れか１項記載の学習装置。
【請求項７】
前記変換手段は、前記決定手段で決定された前記重みパラメータに基づき、前記第２の特徴量のデータ分布が前記第１の特徴量のデータ分布に近づくように、前記第２の特徴量を変換することを特徴とする請求項６に記載の学習装置。
【請求項８】
前記変換手段は、前記第１の特徴量のデータ分布と前記第２の特徴量のデータ分布とを正規分布で近似し、前記第２の特徴量のデータ分布の平均、及び、分散を、前記第１の特徴量のデータ分布の平均、及び、分散に近づくように、前記第２の特徴量を変換する請求項６に記載の学習装置。
【請求項９】
前記分割手段は、前記複数の学習画像データのうち、所定の期間が経過した後の学習画像データの識別対象領域を非識別対象領域として分割し、
前記取得手段は、前記所定の期間が経過した後の学習画像データの非識別対象領域と、前記所定の期間内の学習画像データにおける識別対象領域との距離を前記領域間距離として取得する請求項１乃至８何れか１項記載の学習装置。
【請求項１０】
前記分割手段は、前記複数の学習データのそれぞれを、１つの識別対象領域と複数の非識別対象領域とに分割する請求項１乃至９何れか１項記載の学習装置。
【請求項１１】
複数の学習画像データのそれぞれを、識別対象領域と非識別対象領域との領域に分割する分割ステップと、
前記複数の学習画像データの前記識別対象領域から、第１の特徴量を抽出し、前記複数の学習画像データの前記非識別対象領域から、第２の特徴量を抽出する抽出ステップと、
前記識別対象領域と前記非識別対象領域との領域間距離を取得する取得ステップと、
前記取得ステップで取得された前記領域間距離に基づき、前記識別対象領域に対する前記非識別対象領域の重要度を示す重みパラメータを決定する決定ステップと、
前記決定ステップで決定された前記重みパラメータと、前記抽出ステップで抽出された前記第１の特徴量及び前記第２の特徴量と、に基づき、前記識別対象領域の識別器を生成する生成ステップと、
を含む学習装置の制御方法。
【請求項１２】
複数の学習画像データのそれぞれを、識別対象領域と非識別対象領域との領域に分割する分割ステップと、
前記複数の学習画像データの前記識別対象領域から、第１の特徴量を抽出し、前記複数の学習画像データの前記非識別対象領域から、第２の特徴量を抽出する抽出ステップと、
前記識別対象領域と前記非識別対象領域との領域間距離を取得する取得ステップと、
前記取得ステップで取得された前記領域間距離に基づき、前記識別対象領域に対する前記非識別対象領域の重要度を示す重みパラメータを決定する決定ステップと、
前記決定ステップで決定された前記重みパラメータと、前記抽出ステップで抽出された前記第１の特徴量及び前記第２の特徴量と、に基づき、前記識別対象領域の識別器を生成する生成ステップと、
をコンピュータに実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、例えば、異常検出などを行うための識別器を生成するために用いて好適な学習装置、学習装置の制御方法及びプログラムに関する。
【背景技術】
【０００２】
入力画像中に、検出すべき欠陥があるか否かといった識別や、動画像中に異常な行動や物体が存在するか否かといった識別を行う方法として、様々な方法が提案されている。近年、このような識別問題では、機械学習と呼ばれる技術を使用する方法が多く行われている。機械学習では、識別器の生成を行う学習装置は、教師付き学習データを大量に必要とし、従来、教師情報が手動で学習データに入力されることが多かった。しかし、大量のデータに教師情報を付与することは、費用や人的資源、時間等の制約により、困難な場合がある。
異常検出では、学習装置によって学習データが十分に得られない場合は、識別器の検出性能が低下する可能性がある。そこで、特許文献１に記載の方法では、学習データから得られた特徴量の最大値から最小値の範囲内で、ランダムに値を生成して新たな学習データとし、学習データ数を増やすことにより、学習データが不十分な場合でも、異常検出の精度を向上させている。
【０００３】
また、学習データが少ない場合に、特許文献２に示すような転移学習技術を用いて、識別精度を向上させる方法がある。さらに識別精度を向上させる技術として、特許文献３には、音声認識のための特定の話者の音響モデルを学習する際に、転移学習技術を活用する例が開示されている。特許文献３では、転移学習技術を活用することにより、特定話者のデータのみではなく、複数の他人のデータや音響モデルを利用して、特定話者の識別精度を向上させる。以下、転移学習において、特定話者の音響モデルのように、データや音響モデルの転移先を目標ドメインと呼び、他人のデータや音響モデルのような転移元を元ドメインと呼ぶ。
また、別の例として、非特許文献１には、物体認識問題に転移学習技術を利用する方法が開示されている。この方法では、例えば、猫を識別するモデルを学習する際に、トラやライオンといった、概念的に近い物体のデータを利用して、識別性能の向上を実現する。この場合は、猫が目標ドメインとなり、トラやライオンがそれぞれ元ドメインとなる。
【０００４】
しかしながら、目標ドメインと元ドメインとの特徴が大きく異なる場合には、識別精度が低下する。そのため、非特許文献２には、目標ドメインの情報に対して、どの程度、元ドメインの情報を用いて学習を行うかを決定する重みパラメータを適切に設定する必要性が示されている。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２００７−２０００４４号公報
【特許文献２】特開２０１３−１１８６５９号公報
【特許文献３】特開２０１３−１１７６８３号公報
【非特許文献】
【０００６】
【非特許文献１】Ｒｏｄｎｅｒ  Ｅｒｉｋ  ａｎｄ  Ｄｅｎｚｌｅｒ  Ｊｏａｃｈｉｍ，  ”Ｏｎｅ−ｓｈｏｔ  Ｌｅａｒｎｉｎｇ  ｏｆ  Ｏｂｊｅｃｔ  Ｃａｔｅｇｏｒｉｅｓ  ｕｓｉｎｇ  Ｄｅｐｅｎｄｅｎｔ  Ｇａｕｓｓｉａｎ  Ｐｒｏｃｅｓｓｅｓ”，  Ｐｒｏｃｅｅｄｉｎｇｓ  ｏｆ  ｔｈｅ  ３２ｎｄ  ＤＡＧＭ  ｃｏｎｆｅｒｅｎｃｅ  ｏｎ  Ｐａｔｔｅｒｎ  ｒｅｃｏｇｎｉｔｉｏｎ，  ｐｐ．  ２３２  −  ２４１，  ２０１０．
【非特許文献２】神嶌  敏弘，  ”転移学習”，  人工知能学会誌，  ｖｏｌ．２５，  ｎｏ．４，  ｐｐ．５７２−５８０，  ２０１０．
【発明の概要】
【発明が解決しようとする課題】
【０００７】
特許文献１に記載の方法では、特徴量の要素毎に、最大値から最小値の範囲内でランダムな値を用いるため、学習データとして誤った組み合わせの特徴量が生成される可能性がある。その場合、生成された学習データを用いることによって、学習結果の精度が低下する可能性がある。また、既に得られている特徴量の最大値から最小値の範囲内で値が生成されるため、その範囲を超える特徴量は得られない。そのため、学習データに偏りがある場合には、真のデータ分布には近づかないこととなる。
一方、転移学習技術を用いた特許文献２に記載の手法では、目標ドメインに対する元ドメインの重要度を調整する重みパラメータを、目標ドメインと元ドメインとのそれぞれで学習した結果の類似度に基づいて決定する。しかしながら、類似度の算出に用いる学習結果は、データ数が不足している状態で学習されているため、十分な信頼度が得られない。そのため、ドメイン間の類似度が正しく求められず、重みパラメータが適切に設定されない可能性がある。
【０００８】
また、非特許文献１に記載の方法では、目標ドメインと元ドメインとの意味的距離に基づき、複数の元ドメイン候補の中から、元ドメインが選択される。そのため、各ドメインに意味的な差異がない場合には、元ドメインの選択を行うことが難しい。
以上のような課題より、従来技術に開示されている方法では、学習データが少ない場合に識別器による異常等の検出の精度の向上に限界があった。
本発明は、このような点に鑑みてなされたものであり、学習データの数が十分でなく、データ間に意味的な関係がない場合においても、識別器の検出の精度を向上させることを目的とする。
【課題を解決するための手段】
【０００９】
そこで、本発明の学習装置は、学習データに含まれるデータのそれぞれを、識別対象領域と非識別対象領域との領域に分割する分割手段と、前記学習データの前記識別対象領域から、第１の特徴量を抽出し、前記学習データの前記非識別対象領域から、第２の特徴量を抽出する抽出手段と、前記識別対象領域と前記非識別対象領域との領域間距離を取得する取得手段と、前記取得手段により取得された前記領域間距離に基づき、前記識別対象領域に対する前記非識別対象領域の重要度を示す重みパラメータを決定する決定手段と、前記決定手段により決定された前記重みパラメータと、前記抽出手段により抽出された前記第１の特徴量及び前記第２の特徴量と、に基づき、前記識別対象領域の識別器を生成する生成手段と、を有する。
【発明の効果】
【００１０】
本発明によれば、学習データの数が十分でなく、データ間に意味的な関係がない場合においても、識別器の検出の精度を向上させることができる。
【図面の簡単な説明】
【００１１】
【図１】パターン識別システムのシステム構成の一例を示す図である。
【図２】パターン識別装置のハードウェア構成の一例を示す図である。
【図３】各ドメインを構成する画像の取得方法の一例を示す図である。
【図４】領域分割により欠陥のデータが得られないドメインが発生することを示す図である。
【図５】ドメイン同士の位置関係の一例を示す図である。
【図６】パターン識別装置の機能構成等の一例を示す図である。
【図７】パターン識別装置の識別器学習処理の一例を示すフローチャートである。
【図８】パターン識別装置のパターン識別機能構成等の一例を示す図である。
【図９】パターン識別装置のパターン識別処理の一例を示すフローチャートである。
【図１０】パターン識別装置の機能構成等の一例を示す図である。
【図１１】パターン識別装置の処理の一例を示すフローチャートである。
【図１２】パターン識別装置の機能構成等の一例を示す図である。
【図１３】パターン識別装置の処理の一例を示すフローチャートである。
【図１４】各ドメインを構成する画像の取得方法の一例を示す図である。
【発明を実施するための形態】
【００１２】
以下、添付図面を参照しながら、本発明の実施形態を説明する。
【００１３】
＜実施形態１＞
本実施形態として、特定の検査対象物体を撮影し、撮影した画像に基づいて、物体の表面上に検出すべき欠陥が存在するか否かを識別する情報処理方法の例を示す。欠陥検出では、学習データが十分に得られない状況となる場合がある。そこで、本実施形態では、入力画像を分割し、分割した領域を１つのデータとして扱うことで、学習データを増加させる処理について説明する。
図１は、パターン識別システムのシステム構成の一例を示す図である。本実施形態におけるパターン識別システムにおいては、パターン識別装置１０と撮影装置２０とが通信網を介して接続されている。パターン識別装置１０は、パターン識別に利用される識別器を生成したり、学習した識別器に基づいてパターン識別処理を行ったりする。撮影装置２０は、パターン識別装置１０による識別器の生成処理に利用される学習画像、パターン識別装置１０によるパターン識別処理の対象である識別対象画像等を撮影し、パターン識別装置１０に送信する。
【００１４】
図２は、パターン識別装置１０のハードウェア構成の一例を示す図である。本実施形態におけるパターン識別装置１０は、ＣＰＵ１１、一次記憶装置１２、二次記憶装置１３、及び通信Ｉ／Ｆ１４を含む。ＣＰＵ１１、一次記憶装置１２、二次記憶装置１３、及び通信Ｉ／Ｆ１４は、システムバス１５を介して互いに接続されている。二次記憶装置１３は、コンピュータで読込可能な記憶媒体の一例である。
ＣＰＵ１１は、パターン識別装置１０の処理を制御する中央演算装置である。一次記憶装置１２は、ＣＰＵ１１のワークエリアやデータの記憶領域として機能する。二次記憶装置は、各種プログラム、各種閾値等の設定値、学習画像データ群等を格納する。通信Ｉ／Ｆ１４は、撮影装置２０やその他の外部装置との間でデータの入出力を行う。パターン識別装置１０は、学習画像データ群を、外部メモリから取得してもよいし、ネットワークを介して不図示の外部装置等から通信Ｉ／Ｆ１４を介して取得してもよい。
ＣＰＵ１１が、二次記憶装置１３等に記録されたプログラムに基づき処理を実行することによって、後述するパターン識別装置１０の機能及び後述するフローチャートの処理が実現される。
【００１５】
撮影装置２０が検査対象物体を撮影した画像は、画像全体で一様であるとは限らない。例えば、照明が検査対象物体に対して、斜めの位置に存在し、検査対象物体の表面全体に均一に光が当たらない場合などに、画像中に、輝度値のグラデーションが発生する。また、検査対象物体の表面が、複数種類の材質でできている場合は、材質の異なる領域毎に、輝度値が異なる画像となる。そのため、画像全体を一つのデータとして扱うことにより、検出性能が低下する可能性がある。
そこで、本実施形態では、ＣＰＵ１１は、検査対象画像を検査対象領域とそれ以外の領域とに分割する。図３（Ａ）に示す検査対象画像１０１の場合は、検査対象領域を目標ドメイン領域１０２とし、それ以外の領域として元ドメイン領域１０３、１０９を含む複数の領域に分割する。そして、学習画像データ群の全ての目標ドメイン領域１０２の画像の集合を目標ドメイン１０４とし、例えば元ドメイン領域１０３、１０９の画像の集合をそれぞれ、元ドメイン１０５、１１０とする。
目標ドメイン１０４のデータのみを学習に用いることにより、目標ドメインの識別器を、照明条件や材質が一定の領域のみのデータから学習された識別器とすることができる。これにより、異なる性質を持つ領域が学習データに含まれなくなり、目標ドメインの識別器は、目標ドメインの特徴に特化される。その結果、画像中の領域毎に異なる性質を持つ場合であっても、それぞれの領域で学習を行い、識別器を生成することにより、それぞれの領域に対応した識別器を用意することが可能となる。目標ドメインは、識別対象領域の一例である。また、元ドメインは、非識別対象領域の一例である。
【００１６】
一方で、領域分割を行って目標ドメインのデータのみで学習を行った場合、学習データの多様性を十分に確保できない可能性がある。例えば、図４に示すように、欠陥２０１が発生している検査対象画像が学習データに含まれていたとする。検査対象画像１０１全体を用いて学習された場合には、欠陥２０１を含む特徴が学習される。そのため、画像の分割を行わず、画像全体を一つのデータとして学習された識別器は、欠陥２０１を検出できる。
しかし、領域分割を行い目標ドメイン１０４のみで学習された識別器は、目標ドメイン１０４には欠陥２０１が含まれないため、欠陥２０１の特徴を学習しないことになる。欠陥の発生位置は、変化することが多く、欠陥は、位置によらず発生する可能性がある。
そのため、目標ドメイン領域１０２で欠陥２０１が発生した場合、目標ドメイン１０４のみで学習された識別器は、目標ドメイン領域１０２で発生した欠陥を検出できない可能性がある。そこで、転移学習技術を用いて、欠陥２０１を含む元ドメイン１０５の情報を目標ドメイン１０４の識別器の生成に利用することにより、学習された識別器は、目標ドメイン領域１０２で発生した欠陥２０１と同様の欠陥を検出することが可能となる。
【００１７】
転移学習では、目標ドメインの識別器を生成する際に、元ドメインの情報を、どの程度用いるかを調整する重みパラメータを決定する必要がある。そこで、目標ドメインと元ドメインとの類似度を各ドメインの特徴量のデータ分布とは異なる指標に基づいて取得し、取得した類似度に基づいて重みパラメータを決定する。
本実施形態では、ＣＰＵ１１は、元ドメインの重みパラメータを、それぞれのドメインを構成する領域の位置に基づき算出する。例えば、元ドメイン１０５の場合には、図５（Ａ）に示す目標ドメイン領域１０２の中心３０１と元ドメイン領域１０３の中心３０２との距離に基づき元ドメイン１０５の重みパラメータを算出する。
【００１８】
領域同士は、空間的に近いほど、照明による影響や検査対象物体が得られるまでの過程で発生する差異が小さくなり、ドメイン間に共通する情報を多く持つ可能性が高くなる。そこで、本実施形態では、ドメイン間の関係を領域間の距離が近いほど、より重要な共通する情報を持つという仮定を与える。これにより、学習データの数が十分でない場合においても、ＣＰＵ１１は、目標ドメインと元ドメインとの類似度を適切に設定し、識別器における欠陥の検出精度を向上させることができる。
本実施形態では、ＣＰＵ１１は、図３（Ａ）に示すように、検査対象画像１０１を所定のブロックに分割し、得られた領域の中から一つの領域を目標ドメイン領域１０２とする。そして、ＣＰＵ１１は、学習画像データ群から抽出した目標ドメイン領域１０２の画像の集合を目標ドメイン１０４とする。しかし、ＣＰＵ１１は、例えば他の元ドメイン領域１０３の画像の集合を目標ドメインとすることとしてもよい。また、ＣＰＵ１１は、図３（Ｂ）に示すような領域１０７、１０８の関係のように、検査対象画像１０１を、重複する部分を含むようなブロックに分割してもよい。
【００１９】
図６は、パターン識別装置１０における識別器を生成するための機能構成等の一例を示す図である。また、図７は、パターン識別装置１０の識別器学習処理の一例を示すフローチャートである。以下、図６、及び、図７を用いて、本実施形態のパターン識別装置１０の処理について説明する。
パターン識別装置１０は、画像入力部４００、領域分割部４０１、特徴抽出部４０２、距離算出部４０３、重みパラメータ算出部４０４、及び学習部４０５を含む。以下、これらの各構成が行う処理について説明する。
【００２０】
まず、図７のＳ５００において、画像入力部４００は、検査対象を撮影した画像で構成された学習画像データ群を入力として受け付ける。
【００２１】
次に、Ｓ５０１において、領域分割部４０１は、画像入力部４００により受付けられた学習画像データ群に含まれる各画像に対して、領域分割を行う。本実施形態では、図３（Ａ）に示すように、検査対象画像１０１を設定されたブロックに分割する。
どのようなブロックに分割するかを示す分割情報は、設定ファイル等として二次記憶装置１３等に記録されているものとする。どのようなブロックに分割するかの情報は、例えば、分割されるブロックごとのブロックの左上端の座標値とブロックの右下端の座標値との情報を含むものである。ＣＰＵ１１は、パターン識別装置１０の例えばユーザインターフェースを介したユーザの操作に基づいて、二次記憶装置１３等に記録されている設定ファイルの内容を変更することができるものとする。
【００２２】
領域分割部４０１は、分割した領域の中から任意の領域を目標ドメイン領域とし、その領域の画像の集合を目標ドメインとする。また、領域分割部４０１は、検査対象領域以外の分割された領域の画像の集合をそれぞれ、元ドメインとする。そのため、領域分割部４０１は、領域分割により得られた領域数をＭとしたとき、Ｍ−１個の元ドメインを得る。
なお、図６における目標ドメイン４０１ｄ１は、例えば図３（Ａ）に示す目標ドメイン領域１０２の画像の集合に相当する。また、元ドメイン４０１ｄ２は、元ドメイン領域１０３、１０９等の領域の画像の集合に相当する。
【００２３】
次に、Ｓ５０２において、特徴抽出部４０２は、目標ドメイン４０１ｄ１、及び、元ドメイン４０１ｄ２の各画像に対して、設定された複数の特徴量を抽出する処理を行う。特徴量には、様々なものが挙げられるが、本実施形態では、特徴抽出部４０２は、画像の輝度値の平均、分散、歪度、尖度、最頻値、エントロピー等といった特徴量を抽出することとしてもよい。また、特徴抽出部４０２は、参考文献１に記載されたＣｏ−ｏｃｃｕｒｒｅｎｃｅ  Ｍａｔｒｉｘを用いたテクスチャー特徴量や参考文献２に記載のＳＩＦＴを用いた局所特徴量等を抽出してもよい。本実施形態では、特徴抽出部４０２は、１つの画像から複数個の異なる特徴量を抽出し、抽出した特徴量を順に並べた特徴ベクトルを最終的な特徴量として取得する。
どのような特徴量を抽出するかの情報は、設定ファイル等として二次記憶装置１３等に記録されているものとする。ＣＰＵ１１は、パターン識別装置１０のユーザインターフェースを介したユーザの操作に基づいて、二次記憶装置１３等に記録されている設定ファイルの内容を変更することができるものとする。
【００２４】
・参考文献１：Ｒｏｂｅｒｔ  Ｍ．  Ｈａｒａｌｉｃｋ，  Ｋ．  Ｓｈａｎｍｕｇａｍ，  ａｎｄ  Ｉｔｓｈａｋ  Ｄｉｎｓｔｅｉｎ，  ”Ｔｅｘｔｕｒｅ  Ｆｅａｔｕｒｅｓ
ｆｏｒ  Ｉｍａｇｅ  Ｃｌａｓｓｉｆｉｃａｔｉｏｎ”，  ＩＥＥＥ  Ｔｒａｎｓａｃ
ｔｉｏｎｓ  ｏｎ  Ｓｙｓｔｅｍ，  Ｍａｎ  ａｎｄ  Ｃｙｂｅｒｎａｔｉｃ，  Ｖｏｌ．  ６，  ｐｐ．  ６１０−６２１，  １９７３．
・参考文献２：Ｌｏｗｅ，  Ｄａｖｉｄ  Ｇ，  ”Ｏｂｊｅｃｔ  Ｒｅｃｏｇｎｉｔｉ
ｏｎ  ｆｒｏｍ  Ｌｏｃａｌ  Ｓｃａｌｅ−ｉｎｖａｒｉａｎｔ  Ｆｅａｔｕｒｅｓ”，
Ｐｒｏｃｅｅｄｉｎｇｓ  ｏｆ  ｔｈｅ  Ｉｎｔｅｒｎａｔｉｏｎａｌ  Ｃｏｎｆｅｒｅｎｃｅ  ｏｎ  Ｃｏｍｐｕｔｅｒ  Ｖｉｓｉｏｎ  ２，  ｐｐ．  １１５０−１１５７，  １９９９．
【００２５】
特徴抽出部４０２は、このように設定された特徴量を目標ドメイン４０１ｄ１、及び、元ドメイン４０１ｄ２の各画像から抽出する。そして、特徴抽出部４０２は、抽出した特徴量を順に並べた特徴ベクトルの集合である目標ドメイン特徴量４０２ｄ１、及び、元ドメイン特徴量４０２ｄ２を生成する。ドメイン特徴量とは、対応するドメインの画像の集合から取得された特徴量のことであるとする。
【００２６】
次に、Ｓ５０３において、距離算出部４０３は、目標ドメインと元ドメインとの距離を算出する処理部である。距離算出部４０３は、領域分割部４０１から分割情報を入力し、特徴抽出部４０２で算出した特徴量と異なる指標で距離を算出する。
本実施形態では、距離算出部４０３は、図５（Ａ）に示すように、目標ドメイン領域１０２の中心３０１と元ドメイン領域の中心とのユークリッド距離を入力として受け付ける。図５（Ａ）の目標ドメイン領域１０２の中心３０１の座標を（ｘt、ｙt）とし、元ドメインの中心の座標を（ｘs、ｙs）とする。そうすると、パターン識別装置１０は、目標ドメイン領域１０２の中心と元ドメインの中心との距離（ｌts）を、以下の数式１を用いて算出する。
【００２７】
【数１】
2016224821.tif 000003
【００２８】
本実施形態では、ドメイン同士が近いほど、ドメインの画像の特徴量は、似た特徴量となることを仮定している。
本実施形態では、距離算出部４０３は、図５（Ａ）のように領域の中心座標位置に基づいたドメイン間の距離を算出したが、目標ドメインと元ドメインとの距離を表現する値であれば、その他の値でも構わない。例えば、照明条件により、各領域の特徴が大きく変わる場合には、距離算出部４０３は、領域間の空間的な距離ではなく、照明からの位置や角度を考慮した距離を用いることにより、より適切なドメイン間距離を算出することができる。例えば図５（Ｂ）に示すように、照明３０４と目標ドメイン領域１０２の中心３０１との距離をｄt、照明３０４と元ドメイン領域１０３の中心との距離をｄsとする。そうすると、パターン識別装置１０は、目標ドメイン領域１０２の中心と元ドメイン領域１０３の中心との距離（ｌts）を、以下の数式２を用いて算出する。
【００２９】
【数２】
2016224821.tif 000004
【００３０】
数式２のように照明からの距離に基づいてドメイン間の距離を表す場合には、各領域の特徴量のデータ分布は、照明位置からの距離に依存して変化すると仮定している。
また、ドメイン間の距離は、数式１に示すユークリッド距離であるとしたが、以下の数式３に示すようなマハラノビス距離等、その他の距離尺度であってもよい。
【００３１】
【数３】
2016224821.tif 000005
【００３２】
数式３において、ｚは中心座標のベクトルであり、行列［ｘ、ｙ］の転置行列である。また、μtsは全ての（ｚt−ｚs）の平均ベクトルである。また、Σtsは全ての（ｚt−ｚs）の共分散行列である。
【００３３】
次に、Ｓ５０４において、重みパラメータ算出部４０４は、距離算出部４０３にて算出されたドメイン間の距離に基づいて、目標ドメインに対する、元ドメインの影響を調整する重みパラメータ４０４ｄを算出する。
本実施形態では、重みパラメータ算出部４０４は、以下の数式４を用いて距離算出部４０３により算出されたドメイン間距離に基づいて、重みパラメータζtsを算出する。ドメイン間距離は、識別対象領域と非識別対象領域との領域間距離の一例である。
【００３４】
【数４】
2016224821.tif 000006
【００３５】
本実施形態では、重みパラメータ算出部４０４は、距離算出部４０３により算出された値ｌtsを用いて数式４により重みパラメータζtsを算出するが、数式５に示すシグモイド関数を用いて変換する等、その他の方法で変換してもよい。
【００３６】
【数５】
2016224821.tif 000007
【００３７】
数式５において、ａは、ゲインであり、μltsは、距離算出部４０３で算出された値ｌtsの平均である。
【００３８】
次に、Ｓ５０５において、学習部４０５は、事前に定義されたクラス分類のための識別モデルを用いて、目標ドメイン特徴量４０２ｄ１、元ドメイン特徴量４０２ｄ２、及び、重みパラメータ４０４ｄに基づいて、識別モデルのパラメータを求める。
本実施形態では、学習部４０５は、クラス分類のための識別モデルとして、参考文献３に記載されたＬｅａｓｔ  Ｓｑｕａｒｅｄ  Ｓｕｐｐｏｒｔ  Ｖｅｃｔｏｒ  Ｍａｃｈｉｎｅ（ＬＳ−ＳＶＭ）を用いる。
【００３９】
・参考文献３：Ｍａｓｓｉｍｉｌｉａｎｏ  Ｐｏｎｔｉｌ，  ”Ｒｅｇｕｌａｒｉｚｅ
ｄ  Ｍｕｌｔｉ−Ｔａｓｋ  Ｌｅａｒｎｉｎｇ”，  Ｐｒｏｃｅｅｄｉｎｇｓ  ｏｆ  ｔ
ｈｅ  ｔｅｎｔｈ  ＡＣＭ  ＳＩＧＫＤＤ  ｉｎｔｅｒｎａｔｉｏｎａｌ  ｃｏｎｆｅｒｅｎｃｅ  ｏｎ  Ｋｎｏｗｌｅｄｇｅ  ｄｉｓｃｏｖｅｒｙ  ａｎｄ  ｄａｔａ  ｍｉｎｉｎｇ，  ｐｐ．  １０９  −  １１７，  ２００４．
参考文献３では、数式６を用いて、転移学習を実現している。
【００４０】
【数６】
2016224821.tif 000008
【００４１】
なお、参考文献３に記載の方法では、目標ドメインに対する元ドメインの重みパラメータは、全ての元ドメインで等価となる。しかしながら、本実施形態では、目標ドメインに対する元ドメインの重みパラメータは、目標ドメインと元ドメインとの組み合わせの数だけ存在する。そこで、学習部４０５は、重みパラメータ算出部４０４で算出された値ζjsを用いて、以下の数式７によりモデルパラメータの推定を行う。
【００４２】
【数７】
2016224821.tif 000009
【００４３】
数式７において、ξjiは、スラック変数であり、ｗjは、モデルパラメータであり、Ｍは、全てのドメインの総数であり、ｍjは、ドメインｊに属する要素数である。また、ρ1及びρ2は、それぞれ正則化パラメータであり、ｘjiは、ドメインｊに属するｉ番目の特徴ベクトルであり、ｙji＝｛＋１、−１｝は、特徴ベクトルｘjiのラベルであるとする。
本実施形態では、学習部４０５は、クラス分類のための識別モデルとしてＬＳ−ＳＶＭを用いることとした。しかし、学習部４０５は、転移学習を行うことが可能なモデルであれば、ロジスティック回帰や最小二乗法、非特許文献１に記載されたＧａｕｓｓｉａｎ  Ｐｒｏｃｅｓｓｅｓ等を用いてもよい。
【００４４】
次に、本実施形態により以上のような処理によって学習した識別器を用いたパターン識別方法について、図８、及び、図９を用いて説明する。図８は、パターン識別装置１０において識別器を用いてパターン識別処理を行うための機能構成等の一例を示す図である。図９は、パターン識別装置１０のパターン識別処理の一例を示すフローチャートである。
パターン識別装置１０は、画像入力部６００、領域分割部６０１、特徴抽出部６０２、識別処理部６０３を含む。以下、これらの各構成が行う処理について説明する。
【００４５】
まず、Ｓ７００において、画像入力部６００は、撮影装置２０から識別対象となる画像を入力として受け付ける。なお、画像入力部６００は、二次記憶装置１３等に記録された画像を入力画像として取得することとしてもよいし、ネットワークを介して外部装置等から入力画像を受け付けることとしてもよい。
【００４６】
次に、Ｓ７０１において、領域分割部６０１は、画像入力部６００により受付けられた画像を設定されたブロックに分割し、目標ドメイン６０１ｄを取得する。このとき、領域分割部６０１は、学習時に行った領域分割部４０１と同じ分割を行う。領域分割部６０１は、領域分割部４０１と同様に、二次記憶装置１３等に記録されている設定ファイル内の分割情報に基づいて、画像を分割する。
【００４７】
次に、Ｓ７０２において、特徴抽出部６０２は、領域分割部６０１により得られた目標ドメイン６０１ｄから特徴量６０２ｄを抽出し、特徴量ベクトルを生成する。このとき、特徴抽出部６０２は、学習時の特徴抽出部４０２と同じ特徴量を抽出し、同じ特徴ベクトルを生成する。
【００４８】
次に、Ｓ７０３において、識別処理部６０３は、特徴抽出部６０２により生成された特徴ベクトルを用いて識別処理を実行し、欠陥の検出を行う。
本実施形態では、識別処理部６０３は、識別処理において、学習部４０５で求められたパラメータを含む識別モデルに基づいて、以下の数式８を用いて識別結果６０３ｄを算出する。
【００４９】
【数８】
2016224821.tif 000010
【００５０】
ただし、数式８のｗjは、学習部４０５により推定された識別モデルのパラメータを表し、ｘjiは、特徴抽出部６０２により生成された特徴ベクトルを表す。
【００５１】
最後に、Ｓ７０４において、識別処理部６０３は、生成した識別結果６０３ｄを外部に出力し、パターン識別処理を終了する。例えば、識別処理部６０３は、Ｓ７０３の識別処理の結果を、パターン識別装置１０の不図示の表示装置に表示する等の処理を行う。
【００５２】
以上、本実施形態の処理により、パターン識別装置１０は、学習データの数が十分でなく、ドメイン間に意味的な関係がない場合においても、目標ドメインの識別器による検出の精度を向上させることができる。
【００５３】
＜実施形態２＞
本実施形態では、特定の検査対象物体が撮影された画像に基づいて、パターン識別装置が物体の表面上に検出すべき欠陥が存在するか否かを識別する処理について説明する。
実施形態１では、入力されたドメイン間の距離から、各元ドメインの重みパラメータを決定した。それに対して、本実施形態では、パターン識別装置１０は、入力されたドメイン間の距離値に加えて、目標ドメインのデータ、元ドメインのデータを考慮して、各元ドメインの重みパラメータを算出する。各ドメインのデータのみから推定されたデータ分布は、データの数が少ないほど、信頼度が低くなる。そこで、本実施形態では、パターン識別装置１０は、各ドメインのデータのみではなく、ドメイン間距離、目標ドメインのデータ、及び元ドメインのデータを用いて、各ドメインのデータ分布を求める。パターン識別装置１０は、求めたドメインのデータ分布を指標として用いることにより、重みパラメータの信頼性をより向上させる。
【００５４】
尚、本実施形態においては、実施形態１と異なる部分について、説明する。本実施形態における、検査対象を撮影した画像、目標ドメイン、及び元ドメインは、図３（Ａ）に示した場合と同様である。
図１０は、パターン識別装置１０における識別器を生成するための機能構成等の一例を示す図である。また、図１１は、パターン識別装置１０の処理の一例を示すフローチャートである。以下、図１０、及び、図１１を用いて、本実施形態のパターン識別装置１０の処理について説明する。
【００５５】
パターン識別装置１０は、画像入力部８００、領域分割部８０１、特徴抽出部８０２、距離算出部８０３、重みパラメータ推定部８０４、及び学習部８０５を含む。画像入力部８００、領域分割部８０１、特徴抽出部８０２、距離算出部８０３、学習部８０５は、それぞれ、画像入力部４００、領域分割部４０１、特徴抽出部４０２、距離算出部４０３、学習部４０５と同様である。重みパラメータ推定部８０４は、重みパラメータ算出部４０４と異なる。また、図１１のＳ９００〜Ｓ９０３は、それぞれ図７のＳ５００〜Ｓ５０３と同様である。
図１１のＳ９０４においては、重みパラメータ推定部８０４は、距離算出部８０３により入力されたドメイン間距離と、特徴抽出部８０２により生成された目標ドメイン特徴量８０２ｄ１及び元ドメイン特徴量８０２ｄ２と、に基づいて、以下の処理を行う。即ち、重みパラメータ推定部８０４は、目標ドメインと元ドメインとの間の影響を調整する重みパラメータを推定する。また、重みパラメータ推定部８０４は、後述する数式１０等を用いてドメイン間距離を更新している場合、更新したドメイン間距離と目標ドメイン特徴量８０２ｄ１及び元ドメイン特徴量８０２ｄ２とに基づいて、重みパラメータの推定を行う。この処理を後述する終了条件を満たすまで続ける。
【００５６】
本実施形態では、重みパラメータ推定部８０４は、距離算出部８０３により算出されたドメイン間距離を用いて、元ドメインから目標ドメインへデータを転移し、転移後の目標ドメインの特徴量のデータ分布を推定する。
重みパラメータ推定部８０４は、特徴量のデータ分布の推定処理を、図３（Ａ）の目標ドメイン１０４、元ドメイン１０５等の全てのドメインに対して行い、各ドメインについての特徴量のデータ分布を得る。推定された特徴量のデータ分布は、各ドメインのデータのみから推定された特徴量のデータ分布に比べ、真のデータ分布に近くなる。そこで、重みパラメータ推定部８０４は、各ドメインについて推定された特徴量のデータ分布に基づいて、ドメイン間距離を更新する。
【００５７】
更新されたドメイン間距離は、距離算出部８０３により算出されたドメイン間距離に比べて、各ドメインのデータの特徴量のデータ分布を考慮したものとなっている。そのため、重みパラメータ推定部８０４は、更新したドメイン間距離に基づいて、より適切な重みパラメータを算出することができるようになる。そして、重みパラメータ推定部８０４は、算出又は更新されたドメイン間距離と、各ドメインの推定した特徴量のデータ分布と、に基づいて、ドメイン間距離の更新と、各ドメインの特徴量のデータ分布の推定とを繰り返し行う。これにより、重みパラメータ推定部８０４は、ドメイン間距離に基づいて算出される重みパラメータの信頼度を向上させることができる。本実施形態では、重みパラメータ推定部８０４は、繰り返しドメイン間距離の算出処理とデータ分布の推定処理とを行うことにより、信頼度の高い重みパラメータの算出を可能とし、学習する識別器の識別性能をより向上させる。
【００５８】
より具体的には、重みパラメータ推定部８０４は、まず、初期設定として実施形態１と同様に、数式４により、距離算出部８０３で得られたドメイン間距離（ｌts）から重みパラメータ（ζts）を算出する。
次に、Ｓ９０５において、重みパラメータ推定部８０４は、数式４を用いて算出した重みパラメータを用いて、元ドメインから目標ドメインへデータを転移した場合の特徴量のデータ分布を推定する。重みパラメータ推定部８０４が重みパラメータを用いてデータを転移したデータ分布を推定する方法として、本実施形態では、以下の数式９に示すカーネル密度推定を用いる。
【００５９】
【数９】
2016224821.tif 000011
【００６０】
ここで、Ｎtは、データの総数であり、αは、カーネル幅である。このとき、カーネル密度推定により、転移した後の目標ドメインの確率密度関数を求めるためには、転移した後の目標ドメインのデータ分布から発生したデータ集合が必要となる。そこで、本実施形態では、重みパラメータ推定部８０４は、このデータ集合を、重みパラメータの比に近くなるように、各ドメインからデータをサンプリングすることによって得る。
次に、重みパラメータ推定部８０４は、数式９で得られた確率密度関数を用いて、以下の数式１０に示すように、ドメイン間距離（ｌts）を更新する。
【００６１】
【数１０】
2016224821.tif 000012
【００６２】
ここで、ＫＬ（ｐ｜｜ｑ）は、分布間距離であるＫｕｌｌｂａｃｋ−Ｌｅｉｂｌｅｒ  ｄｉｖｅｒｇｅｎｃｅを表す。
【００６３】
次に、Ｓ９０６において、重みパラメータ推定部８０４は、数式１０を用いて得られたドメイン間距離（ｌts）から、数式４を用いて重要度を示す重みパラメータ（ζts）を更新する。この処理は、図７のＳ５０４と同様の処理である。
【００６４】
本実施形態では、重みパラメータ推定部８０４は、カーネル密度推定を用いて、Ｋｕｌｌｂａｃｋ−Ｌｅｉｂｌｅｒ  ｄｉｖｅｒｇｅｎｃｅにより、ドメイン間距離ｌtsを算出した。しかし、重みパラメータ推定部８０４は、その他のデータ分布間の差異を算出可能な指標であれば、ドメイン間距離でなく、以下の数式１１で求まる確率密度比（ｒts）等の指標を用いてもよい。
【００６５】
【数１１】
2016224821.tif 000013
【００６６】
また、重みパラメータ推定部８０４は、確率密度を直接求めることなく、確率密度比を参考文献４に示されている手法を用いて求めてもよい。
参考文献４：Ｓｕｇｉｙａｍａ，  Ｍ．，  Ｓｕｚｕｋｉ，  Ｔ．，  Ｎａｋａｊｉｍａ，  Ｓ．，  Ｋａｓｈｉｍａ，  Ｈｌ，  ｖｏｎ  Ｂｕｎａｕ，  Ｐ．  ａｎｄ  Ｋａｗａｎａｂｅ，  Ｍ．，  ”Ｄｉｒｅｃｔ  ｉｍｐｏｒｔａｎｃｅ  ｅｓｔｉｍａｔｉｏ
ｎ  ｆｏｒ  ｃｏｖａｒｉａｔｅ  ｓｈｉｆｔ  ａｄａｐｔａｔｉｏｎ”，  Ａｎｎａｌ
ｓ  ｏｆ  ｔｈｅ  Ｉｎｓｔｉｔｕｔｅ  ｏｆ  Ｓｔａｔｉｓｔｉｃａｌ  Ｍａｔｈｅｍａｔｉｃｓ，  ６０，  ６９９  −  ７４６，  ２００８．
【００６７】
また、重みパラメータ推定部８０４は、転移した後の各ドメインの確率密度を、各ドメインそれぞれの確率密度の線形結合で得られると仮定し、参考文献４の方法を用いることで、サンプリングすることなく、確率密度比を推定してもよい。
【００６８】
次に、Ｓ９０７において、重みパラメータ推定部８０４は、データ分布推定の終了条件が満たされているか確認を行い、満たされている場合は、データ分布推定処理を終了してＳ９０８に進み、満たされていない場合には、Ｓ９０５の処理に戻る。
本実施形態では、重みパラメータ推定部８０４は、データ分布推定の終了条件を満たすか否かを、Ｓ９０５の処理で更新したドメイン間距離と、その前の繰り返しで更新されたドメイン間距離と、に基づき、以下の数式１２を用いて判断する。
【００６９】
【数１２】
2016224821.tif 000014
【００７０】
数式１２において、ηは、設定された終了条件が満たすべき正の実数である。ｌts(i)は、ｉ回目の繰り返しの際に算出されたドメイン間距離である。
本実施形態では、重みパラメータ推定部８０４は、データ分布推定の終了条件として、数式１２を用いたが、Ｓ９０５で推定されたデータ分布とその前の繰り返しで算出されたデータ分布とに基づく以下の数式１３を用いてもよく、その他の終了条件を用いてもよい。
【００７１】
【数１３】
2016224821.tif 000015
【００７２】
数式１３において、ｐt(i)は、ｉ回目の繰り返しの際に算出されたデータ分布を表す。
【００７３】
最後にＳ９０８において、学習部８０５は、実施形態１と同様に、事前に定義されたクラス分類のための識別モデルを用いて、以下の処理を行う。即ち、学習部８０５は、目標ドメイン特徴量８０２ｄ１、元ドメイン特徴量８０２ｄ２、重みパラメータ８０４ｄに基づき、識別モデルのパラメータを求める処理を行う。この処理は図７のＳ５０５と同様である。
【００７４】
以上、本実施形態の処理により、パターン識別装置１０は、入力されたドメイン間の距離だけでなく、目標ドメインのデータ、元ドメインのデータを考慮して、重みパラメータを算出する。それにより、パターン識別装置１０は、実施形態１の場合と比べて、重みパラメータの信頼性をより向上させることができる。
【００７５】
＜実施形態３＞
本実施形態では、特定の検査対象物体を撮影し、撮影した画像に基づいて物体の表面上に検出すべき欠陥が存在するか否かを識別する処理について説明する。
本実施形態においても、学習データが十分に得られない場合を想定し、パターン識別装置１０は、実施形態１と同様に、入力画像を分割し、分割した領域を一つのデータとして扱い、学習データを増加させる。より具体的には、パターン識別装置１０は、図３（Ａ）に示すように検査対象画像１０１を、設定されたブロックに分割する。そして、パターン識別装置１０は、目標ドメイン領域１０２の画像の集合を目標ドメイン１０４とし、例えばその他の元ドメイン領域１０３、１０９の画像の集合を、それぞれ元ドメイン１０５、１１０とする。
【００７６】
実施形態１では、パターン識別装置１０は、元ドメインのデータと目標ドメインのデータとの差異を考慮した識別器を用いて、転移学習を実現している。一方で、本実施形態では、元ドメインのデータを目標ドメインに適合するように変換を行い、ドメイン間のデータの差異を考慮した識別器ではない識別器を用いて機械学習する方法を用いる。
元ドメインのデータを目標ドメインに適合するように変換するための変換写像は、特徴空間において、目標ドメインのデータ分布と元ドメインのデータ分布との誤差が可能な限り小さくなるように求められる。この場合、目標ドメインのデータ分布と元ドメインのデータ分布とが適切に推定可能であれば、データ分布間の差異は、ドメイン間の差異に相当する。そのため、変換写像を用いることにより、目標ドメインと元ドメインとの差異を減少させることが可能となる。その結果、元ドメインから目標ドメインへデータを変換し、変換したデータを利用することにより、目標ドメインのデータを増加させ、目標ドメインの識別器を生成することが可能となる。
【００７７】
しかしながら、データ数が少ない場合には、各ドメインの真のデータ分布を求めることは難しくなる。そのため、目標ドメインと元ドメインとの真のデータ分布が近い場合においても、推定されたデータ分布間には、差異が発生する可能性がある。この差異を最小とするような変換写像を用いた場合、必要以上に変換され、有用な情報が失われる可能性がある。
そこで、本実施形態では、パターン識別装置１０は、実施形態１と同様にドメイン間距離を算出する。そして、パターン識別装置１０は、目標ドメインと元ドメインとの距離が小さいほど、変換が小さくなるようにする。例えば、パターン識別装置１０は、元ドメインのうち目標ドメインとの距離との距離が相対的に小さいものについて、元ドメインのうち目標ドメインとの距離との距離が相対的に大きいものよりも変換が小さくなるようにする。また、パターン識別装置１０は、目標ドメインとの距離が設定された閾値よりも小さい元ドメインについては、目標ドメインとの距離が設定された閾値よりも大きい元ドメインよりも変換が小さくなるようにしてもよい。これにより、パターン識別装置１０は、目標ドメインと元ドメインとの距離が近いほど、元ドメインの情報を多く保持した状態で、転移を行う。
【００７８】
図１２は、パターン識別装置１０における識別器を生成するための機能構成等の一例を示す図である。また、図１３は、パターン識別装置１０の処理の一例を示すフローチャートである。以下、図１２、及び、図１３を用いて、本実施形態の情報処理方法の例について説明する。尚、本実施形態にでは、実施形態１と異なる部分について説明する。
パターン識別装置１０は、画像入力部１０００、領域分割部１００１、特徴抽出部１００２、距離算出部１００３、重みパラメータ算出部１００４、特徴変換部１００５、及び学習部１００６を含む。画像入力部１０００、領域分割部１００１、特徴抽出部１００２、距離算出部１００３、重みパラメータ算出部１００４は、それぞれ、画像入力部４００、領域分割部４０１、特徴抽出部４０２、距離算出部４０３、重みパラメータ算出部４０４と同様である。また、学習部１００６は、学習部４０５と同様である。本実施形態のパターン識別装置１０は、特徴変換部１００５を含む点が、実施形態１の場合と異なる。また、図１３のＳ１１００〜Ｓ１１０４及びＳ１１０６は、それぞれ図７のＳ５００〜Ｓ５０５と同様である。
【００７９】
図１３のＳ１１０５においては、特徴変換部１００５は、元ドメイン特徴量１００２ｄ２を、特徴量のデータ分布を目標ドメイン特徴量１００２ｄ１のデータ分布に現状よりも近づけるように変換する。特徴変換部１００５は、重みパラメータ１００４ｄに基づいて、元ドメイン特徴量のデータ分布を目標ドメイン特徴量のデータ分布へ、どの程度近づけるかを決定する。本実施形態では、特徴変換部１００５は、各ドメインの特徴量のデータ分布を正規分布で近似し、各ドメインの特徴量の正規分布を近づけるような変換を行う。具体的には、目標ドメイン１０４の特徴量のデータ分布の平均をμtとし、分散をσtとする。また、元ドメインの特徴量のデータ分布の平均をμsとし、分散をσsとする。このとき、特徴変換部１００５は、元ドメインのデータｘsの変換を、以下の数式１４により行う。
【００８０】
【数１４】
2016224821.tif 000016
【００８１】
特徴変換部１００５は、目標ドメインと距離が近い元ドメインの特徴量ほど、元の特徴量に近い値に変換する。一方、特徴変換部１００５は、目標ドメインとの距離が大きいほど、元ドメインの特徴量を、目標ドメインのデータ分布に適合するように変換するため、目標ドメインとの距離が大きい元ドメインの特徴量は大きく変換される。本実施形態では、特徴変換部１００５は、各ドメインの特徴量のデータ分布を正規分布であると仮定し、変換を行ったが、他の分布であると仮定し変換を行ってもよい。
【００８２】
以上、本実施形態の処理により、パターン識別装置１０は、元ドメインの特徴量を目標ドメインの特徴量のデータ分布と類似するように変換することにより、元ドメインのデータと目標ドメインとの差異を考慮しない識別器の生成を行うことができる。
【００８３】
＜実施形態４＞
実施形態１〜３では、検査対象物体を撮影した画像から欠陥を検出する例を説明した。しかしながら、パターン識別装置１０は、その他、監視カメラ映像からの異常物体や異常行動の検出も可能である。そこで、本実施形態では、実施形態１〜３の手法を、監視カメラの映像に基づく監視エリア内の異常物体や異常行動の検出処理に適用する例を示す。以下、実施形態１〜３と異なる点についてのみ説明する。
監視カメラ映像も、画像全体で、特徴が一定であるとは限らない。例えば、人通りの多い領域と少ない領域とでは、人の動き方は異なる。そのため、画像内を領域に分割した場合には、全ての領域を、そのまま一つのドメインとして扱うことは難しい。更に、監視カメラ映像は、時刻によっても、人の量や動き方が異なる。そのため、同じ領域でも、時間に関係なく一つのドメインとして扱うことは難しい。
【００８４】
そこで、パターン識別装置１０は、学習データについて、画像内での領域の分割に加えて、時間軸上で設定された期間ごとの時分割も行うこととする。より具体的には、図１４に示すように、異常検出画像１２０１が時間軸方向に連続して存在するとする。このとき、パターン識別装置１０は、時間方向に設定された割合で区間を分割し、区間１２０２と区間１２０３とに分ける。パターン識別装置１０は、区間１２０２に含まれる画像に対して、設定されたブロックに分割し、領域１２０４や領域１２０５を得る。パターン識別装置１０は、区間１２０２の期間内のすべての画像における領域１２０５の画像の集合を一つのドメイン１２０７とする。
各ドメインに含まれる画像が空間情報に加えて、時間情報を持つ場合には、パターン識別装置１０は、目標ドメインと元ドメインとの距離として、時間方向の情報を考慮した距離を求めることが可能である。より具体的に、ドメイン１２０７を目標ドメインとし、ドメイン１２０８を元ドメインとする。このとき、区間１２０２の中間１２０９の時刻をｔt、区間１２０３の中間１２１０の時刻をｔsとし、区間１２０２の領域１２０５の中心１２１２の座標を（ｘt，ｙt）、区間１２０３の領域１２０６の中心１２１３の座標を（ｘs，ｙs）とする。パターン識別装置１０は、目標ドメインと元ドメインとの距離を、以下の数式１５により算出できる。
【００８５】
【数１５】
2016224821.tif 000017
【００８６】
また、監視エリアに対して、複数の監視カメラが設置されている場合、パターン識別装置１０は、カメラの位置関係等の複数の監視カメラの情報を考慮した値を、ドメイン間距離として求めることが可能である。
【００８７】
以上、本実施形態の処理により、パターン識別装置１０は、ドメイン間の距離だけでなく、時間の経過による変化も考慮に入れた重みパラメータを決定できる。そのため、パターン識別装置１０は、時間の経過による変化に対応できるように、識別器を生成することができる。
【００８８】
＜その他の実施形態＞
本発明は、上述の実施形態の１以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける１つ以上のプロセッサがプログラムを読み出し実行する処理でも実現可能である。また、１以上の機能を実現する回路（例えば、ＡＳＩＣ）によっても実現可能である。
【符号の説明】
【００８９】
１０  パターン識別装置、１１  ＣＰＵ、２０  撮影装置
【図１】
2016224821.tif 000018
【図２】
2016224821.tif 000019
【図３】
2016224821.tif 000020
【図４】
2016224821.tif 000021
【図５】
2016224821.tif 000022
【図６】
2016224821.tif 000023
【図７】
2016224821.tif 000024
【図８】
2016224821.tif 000025
【図９】
2016224821.tif 000026
【図１０】
2016224821.tif 000027
【図１１】
2016224821.tif 000028
【図１２】
2016224821.tif 000029
【図１３】
2016224821.tif 000030
【図１４】
2016224821.tif 000031