(57)【要約】  画像処理装置は、検査対象を含む検査画像のうちの部分画像をマスクしたパッチ画像において、部分画像に基づき生成されたパラメータを部分画像に描画する描画部と、パラメータが描画されたパッチ画像を用いて、部分画像を推測した推測画像を出力する学習モデルを学習させる学習部と、推測画像と部分画像との比較結果を出力する比較部とを備える。
2019159853.tif 000002
【特許請求の範囲】
【請求項１】
検査対象を含む検査画像のうちの部分画像をマスクしたパッチ画像において、前記部分画像に基づき生成されたパラメータを前記部分画像に描画する描画部と、
前記パラメータが描画された前記パッチ画像を用いて、前記部分画像を推測した推測画像を出力する学習モデルを学習させる学習部と、
前記推測画像と前記部分画像との比較結果を出力する比較部とを備える画像処理装置。
【請求項２】
前記描画部は複数の前記パラメータのうちのいずれかを前記部分画像に描画する請求項１に記載の画像処理装置。
【請求項３】
前記部分画像を複数のクラスタのいずれかに分類するクラスタリング部をさらに備え、
前記描画部は、分類された前記クラスタ毎に前記パラメータを生成する請求項１または２に記載の画像処理装置。
【請求項４】
前記描画部は、分類された前記クラスタに含まれる複数の前記部分画像のセントロイドを前記パラメータとして生成する請求項３に記載の画像処理装置。
【請求項５】
前記パラメータは、ランダムに決定された色、所定の確立分布に基づき決定された色、前記部分画像を平滑化した画像、前記部分画像にノイズを付加した画像の少なくともいずれかに基づき決定される請求項１乃至４のいずれか１項に記載の画像処理装置。
【請求項６】
前記学習モデルは、前記検査対象の正常な状態を表す画像を用いて学習させたものである請求項１乃至５のいずれか１項に記載の画像処理装置。
【請求項７】
前記推測画像は、前記検査対象の正常な状態を表す画像を含む請求項１乃至６のいずれか１項に記載の画像処理装置。
【請求項８】
前記比較部は、前記検査画像と前記推測画像との差分を計算する請求項１乃至７のいずれか１項に記載の画像処理装置。
【請求項９】
検査対象を含む検査画像のうちの部分画像をマスクしたパッチ画像において、前記部分画像に基づき生成されたパラメータを前記部分画像に描画するステップと、
前記パラメータが描画された前記パッチ画像を用いて、前記部分画像を推測した推測画像を出力する学習モデルを学習させるステップと、
前記推測画像と前記部分画像との比較結果を出力するステップと、
を備える画像処理方法。
【請求項１０】
コンピュータに、
検査対象を含む検査画像のうちの部分画像をマスクしたパッチ画像において、前記部分画像に基づき生成されたパラメータを前記部分画像に描画するステップと、
前記パラメータが描画された前記パッチ画像を用いて、前記部分画像を推測した推測画像を出力する学習モデルを学習させるステップと、
前記推測画像と前記部分画像との比較結果を出力するステップと、
を実行させるプログラムが記録された記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置、画像処理方法及び記録媒体に関する。
【背景技術】
【０００２】
特許文献１には、入力画像中の異常成分を分離する画像成分分離装置が記載されている。特許文献１に記載の画像成分分離装置は、被写体中の所定の構造物を表す入力画像から該被写体中の該構造物の正常な構造を表す正常画像を生成し、入力画像と正常画像の差分を求めることにより、入力画像中の異常成分を分離する。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特許第４８９５２０４号公報
【発明の概要】
【０００４】
しかしながら、特許文献１に記載の画像成分分離装置は、被写体中の所定の構造物を表す入力画像の全体から正常画像を生成する。このため、生成される正常画像が、入力画像の全体の影響を受け、異常成分の分離が入力画像の個体差に大きく影響されうる。
【０００５】
本発明の目的は、上述した課題に鑑み、画像の個体差の影響を低減しながら、検査を高精度に行うことができる画像処理装置、画像処理方法及び記録媒体を提供することにある。
【０００６】
本発明の一観点によれば、検査対象を含む検査画像のうちの部分画像をマスクしたパッチ画像において、前記部分画像に基づき生成されたパラメータを前記部分画像に描画する描画部と、前記パラメータが描画された前記パッチ画像を用いて、前記部分画像を推測した推測画像を出力する学習モデルを学習させる学習部と、前記推測画像と前記部分画像との比較結果を出力する比較部とを備える画像処理装置が提供される。
【０００７】
本発明の他の観点によれば、検査対象を含む検査画像のうちの部分画像をマスクしたパッチ画像において、前記部分画像に基づき生成されたパラメータを前記部分画像に描画するステップと、前記パラメータが描画された前記パッチ画像を用いて、前記部分画像を推測した推測画像を出力する学習モデルを学習させるステップと、前記推測画像と前記部分画像との比較結果を出力するステップと、を備える画像処理方法が提供される。
【０００８】
本発明のさらに他の観点によれば、コンピュータに、検査対象を含む検査画像のうちの部分画像をマスクしたパッチ画像において、前記部分画像に基づき生成されたパラメータを前記部分画像に描画するステップと、前記パラメータが描画された前記パッチ画像を用いて、前記部分画像を推測した推測画像を出力する学習モデルを学習させるステップと、前記推測画像と前記部分画像との比較結果を出力するステップと、を実行させるプログラムが記録された記録媒体が提供される。
【０００９】
本発明によれば、画像の個体差の影響を低減しながら、検査を高精度に行うことができる。
【図面の簡単な説明】
【００１０】
【図１】第１実施形態による画像処理装置のブロック図である。
【図２】第１実施形態による画像処理装置のハードウェア構成の一例を示すブロック図である。
【図３】第１実施形態による画像処理装置のパッチ切り出し処理を示すフローチャートである。
【図４】第１実施形態による画像処理装置のパッチ切り出し処理を説明する概略図である。
【図５】第１実施形態による画像処理装置のパッチ切り出し処理を説明する概略図である。
【図６】第１実施形態による画像処理装置のパッチ切り出し処理を説明する概略図である。
【図７】第１実施形態による画像処理装置の学習処理を示すフローチャートである。
【図８】第１実施形態による画像処理装置の学習処理を説明する概略図である。
【図９】第１実施形態による画像処理装置の学習処理を説明する概略図である。
【図１０】第１実施形態による画像処理装置の正常画像生成処理を示すフローチャートである。
【図１１】第１実施形態による画像処理装置の正常画像生成処理を説明する概略図である。
【図１２】第１実施形態による画像処理装置の不良品検出処理を示すフローチャートである。
【図１３】第１実施形態による画像処理装置の不良品検出処理を説明する概略図である。
【図１４】第１実施形態による画像処理装置の不良品検出処理を説明する概略図である。
【図１５Ａ】生成パラメータを用いない学習処理の比較例を説明するための図である。
【図１５Ｂ】生成パラメータを用いない検査処理の比較例を説明するための図である。
【図１６Ａ】第１実施形態による学習処理を説明するための図である。
【図１６Ｂ】第１実施形態による検査処理を説明するための図である。
【図１７】第２実施形態による画像処理装置のブロック図である。
【図１８】第３実施形態による画像処理装置のブロック図である。
【発明を実施するための形態】
【００１１】
［第１実施形態］
本発明の第１実施形態による画像処理装置及び画像処理方法について図１乃至図１６Ｂを用いて説明する。
【００１２】
まず、本実施形態による画像処理装置の構成について図１及び図２を用いて説明する。図１は、本実施形態による画像処理装置のブロック図である。図２は、本実施形態による画像処理装置のハードウェア構成の一例を示すブロック図である。
【００１３】
本実施形態では、画像処理装置が、検査対象である検査対象品を含む検査画像を処理することにより、検査対象品が正常品であるか不良品であるかを判定して、異常として不良品を検出する検査を行う場合を例に説明する。ただし、本実施形態による画像処理装置は、不良品を検出する検査を行う場合のみならず、物体について異常を検出する場合に広く用いることができる。
【００１４】
図１に示すように、本実施形態による画像処理装置１００は、学習データ保存部１０、パッチ切り出し部１２、パッチ処理済みデータ保存部１４、生成パラメータ描画部１５、学習部１６、学習モデル記憶部１８、データ保存部２０、正常画像生成部２２、正常データ保存部２４、不良品検出部２６を備える。
【００１５】
学習データ保存部１０は、学習部１６による学習に用いられる学習画像を保存する。学習画像は、検査対象品の正常品を含む画像、すなわち、検査対象品の正常な状態を表す画像である。
【００１６】
パッチ切り出し部１２は、学習データ保存部１０から学習画像のデータを読み込み、学習画像に対してパッチ切り出しステップを実施する。すなわち、パッチ切り出し部１２は、学習画像からパッチサイズの画像をパッチ画像として切り出す。また、パッチ切り出し部１２は、パッチ画像からその中心部の画像を中心画像として切り出す。中心画像は、検査対象品の少なくとも所定の領域を含んでいる。パッチ切り出し部１２は、中心画像が切り出されたパッチ画像である中心除去済みパッチ画像と、その中心画像との対を画像対として関連付けて出力する。パッチ切り出し部１２は、学習画像について出力した画像対をパッチ処理済みデータ保存部１４に保存する。
【００１７】
また、パッチ切り出し部１２は、データ保存部２０から検査画像のデータを読み込み、学習画像の場合と同様に、検査画像に対してパッチ切り出し処理を実施する。パッチ切り出し部１２は、学習画像の場合と同様に、検査画像について、中心除去済みパッチ画像と、その中心画像との対を画像対として関連付けて出力する。パッチ切り出し部１２は、検査画像について出力した画像対をパッチ処理済みデータ保存部１４に保存する。
【００１８】
パッチ処理済みデータ保存部１４は、パッチ切り出し部１２により出力される学習画像についての画像対を保存する。また、パッチ処理済みデータ保存部１４は、パッチ切り出し部１２により出力される検査画像についての画像対を保存する。
【００１９】
生成パラメータ描画部１５は、クラスタ生成部１５１、クラスタ保存部１５２、生成パラメータ描画部１５３を備える。クラスタ生成部１５１は、パッチ処理済みデータ保存部１４に保存された中心画像群を任意のクラスタへクラスタリングする。クラスタ保存部１５２はクラスタ生成部１５１によって生成されたクラスタを保存する。生成パラメータ描画部１５３は、クラスタ保存部１５２の中心部分に生成パラメータを描画する。
【００２０】
学習部１６は、生成パラメータ描画部１５３から読み出された画像対を用いて学習モデルを作成する。学習部１６は、生成パラメータが描画された中心除去済みパッチ画像を学習データ、中心画像を教師データとして学習を実施して、生成パラメータが描画された中心除去済みパッチ画像から中心画像を復元する学習モデルを作成する。学習部１６は、作成した学習モデルを学習モデル記憶部１８に保存する。
【００２１】
学習モデル記憶部１８は、学習部１６による学習の結果作成された学習済みの学習モデルを保存する。
【００２２】
データ保存部２０は、検査画像を保存する。検査画像は、検査対象である検査対象品を含む画像である。検査対象品は、特に限定されるものではない。本実施形態による画像処理装置は、例えば、完成品、部品等のあらゆる物体を検査対象品とすることができる。
【００２３】
正常画像生成部２２は、検査画像についての画像対のうちの生成パラメータが描画された中心除去済みパッチ画像からその中心部の画像である中心画像を推測し、中心除去済みパッチ画像から推測した推測画像を正常画像として生成する。正常画像は、検査画像に含まれる検査対象品の少なくとも所定の領域を含んでいる。正常画像生成部２２は、パッチ処理済みデータ保存部１４から検査画像についての画像対のうちの中心除去済みパッチ画像を読み込む。正常画像生成部２２は、読み込んだ中心除去済みパッチ画像から、その中心除去済みパッチ画像の中心画像を推測して正常画像として生成する。正常画像生成部２２は、推測画像である正常画像の生成に際して、学習モデル記憶部１８から学習済みの学習モデルを読み込む。正常画像生成部２２は、読み込んだ学習モデルを用いて、検査画像におけるパッチ画像の一部である中心除去済みパッチ画像からその中心画像を推測して、推測した推測画像を正常画像として生成する。正常画像生成部２２は、生成した正常画像を正常データ保存部２４に保存する。こうして、正常画像生成部２２は、パッチ画像の一部である中心除去済みパッチ画像を使って正常画像を推測して生成する。
【００２４】
正常データ保存部２４は、正常画像生成部２２により生成された正常画像を保存する。
【００２５】
不良品検出部２６は、比較部として機能し、検査画像についての画像対のうちの中心画像と、その中心除去済みパッチ画像から生成した正常画像とを比較する。さらに、不良品検出部２６は、出力部として機能し、その比較結果を出力する。また、不良品検出部２６は、判定部として機能し、比較結果に基づき、検査画像に含まれる検査対象品が正常品であるか不良品であるかを判定する。
【００２６】
不良品検出部２６は、パッチ処理済みデータ保存部１４から検査画像についての画像対のうちの中心画像を読み込む。また、不良品検出部２６は、その画像対のうちの中心除去済みパッチ画像から生成された正常画像を読み込む。不良品検出部２６は、それぞれ読み込んだ中心画像と正常画像とを比較して、中心画像と正常画像との異同を判定する。これにより、不良品検出部２６は、検査画像に含まれる検査対象品が正常品であるか不良品であるかを判定して、異常である不良品を判別して検出する。
【００２７】
不良品検出部２６は、不良品の検出結果を出力する。検出結果の出力方法は特に限定されるものではなく、種々の方法を用いることができる。例えば、不良品検出部２６は、検出結果を表示装置に表示させたり、検出結果を音声として音声出力装置から出力したり、記憶装置に記憶されたデータベースに検出結果を格納することができる。
【００２８】
上述した画像処理装置１００は、例えばコンピュータ装置により構成される。画像処理装置１００のハードウェア構成の一例について図２を用いて説明する。なお、画像処理装置１００は、単一の装置により構成されていてもよいし、有線又は無線で接続された２つ以上の物理的に分離された装置により構成されていてもよい。
【００２９】
図２に示すように、画像処理装置１００は、ＣＰＵ（Central  Processing  Unit）１００２と、ＲＯＭ（Read  Only  Memory）１００４と、ＲＡＭ（Random  Access  Memory）１００６と、ＨＤＤ（Hard  Disk  Drive）１００８とを備えている。また、画像処理装置１００は、出力装置１０１０と、入力装置１０１２とを備えている。ＣＰＵ１００２、ＲＯＭ１００４、ＲＡＭ１００６、ＨＤＤ１００８、出力装置１０１０及び入力装置１０１２は、共通のバスライン１０１４に接続されている。
【００３０】
ＣＰＵ１００２は、画像処理装置１００の全体の動作を制御する。また、ＣＰＵ１００２は、上記のパッチ切り出し部１２、学習部１６、正常画像生成部２２及び不良品検出部２６の各部の機能を実現するプログラムを実行する。ＣＰＵ１００２は、ＨＤＤ１００８等に記憶されたプログラムをＲＡＭ１００６にロードして実行することにより、パッチ切り出し部１２、学習部１６、正常画像生成部２２及び不良品検出部２６の各部の機能を実現する。
【００３１】
なお、パッチ切り出し部１２、学習部１６、正常画像生成部２２及び不良品検出部２６は、それぞれ電気回路構成（circuitry）により実現されていてもよい。ここで、電気回路構成（circuitry）とは、単一のデバイス（single  device）、複数のデバイス（multiple  devices）、チップセット（chipset）又はクラウド（cloud）を概念的に含む文言である。
【００３２】
ＲＯＭ１００４は、ブートプログラム等のプログラムが記憶されている。ＲＡＭ１００６は、ＣＰＵ１００２がプログラムを実行する際のワーキングエリアとして使用される。また、ＨＤＤ１００８には、ＣＰＵ１００２が実行するプログラムが記憶されている。
【００３３】
また、ＨＤＤ１００８は、上記の学習データ保存部１０、パッチ処理済みデータ保存部１４、学習モデル記憶部１８及び正常データ保存部２４の各部の機能を実現する記憶装置である。なお、学習データ保存部１０、パッチ処理済みデータ保存部１４、学習モデル記憶部１８及び正常データ保存部２４の各部の機能を実現する記憶装置は、ＨＤＤ１００８に限定されるものではない。種々の記憶装置をこれら各部の機能を実現するものとして用いることができる。
【００３４】
出力装置１０１０は、不良品検出部２６による検出結果が出力されるものであり、例えば、表示装置、音声出力装置である。
【００３５】
入力装置１０１２は、例えば、キーボード、マウス等である。また、入力装置１０１２は、出力装置１０１０である表示装置に組み込まれたタッチパネルであってもよい。画像処理装置１００のオペレータは、入力装置１０１２を介して、画像処理装置１００の設定を行ったり、処理の実行の指示を入力したりすることができる。
【００３６】
なお、画像処理装置１００のハードウェア構成は、上述した構成に限定されるものではなく、種々の構成とすることができる。例えば、画像処理装置１００は、検出結果を保存する検出結果保存部と、検出結果を表示する検出結果表示部とを備え得る。この場合、不良品検出部２６は、不良品の検出結果を検出結果保存部に保存する。不良品検出部２６は、検出結果として、例えば、検査画像を識別する識別子とともに、検査対象品が正常品であるか不良品であるかを示す情報、不良品である場合には不良箇所を示す画像のデータ等を検出結果保存部に保存することができる。検出結果保存部は、不良品検出部２６により出力された不良品の検出結果を保存する。検出結果保存部には、例えば、検出結果を格納するデータベースが保存されている。検出結果保存部の機能は、学習データ保存部１０等と同様にＨＤＤ１００８により実現される。検出結果表示部は、検出結果保存部に保存された不良品の検出結果を表示する。検出結果表示部は、検出結果の表示に際して、不良箇所を示す画像を表示することができる。検出結果表示部は、表示装置としての出力装置１０１０により実現される。
【００３７】
次に、上記本実施形態による画像処理装置１００の動作についてさらに図３乃至図１４を用いて説明する。本実施形態による画像処理装置１００は、動作することにより画像処理装置方法を実行する。
【００３８】
本実施形態による画像処理装置１００の動作は、パッチ切り出しステップ（図３参照）と、学習ステップ（図７参照）と、正常画像生成ステップ（図１０参照）と、不良品検出ステップ（図１２参照）とを含んでいる。パッチ切り出しステップは、パッチ切り出し部１２により実施される。学習ステップは、学習部１６により実施される。正常画像生成ステップは、正常画像生成部２２により実施される。不良品検出ステップは、不良品検出部２６により実施される。
【００３９】
まず、本実施形態におけるパッチ切り出し処理について図３乃至図６を用いて説明する。図３は、本実施形態による画像処理装置１００の動作におけるパッチ切り出し処理を示すフローチャートである。図４乃至図６は、本実施形態による画像処理装置１００の動作におけるパッチ切り出し処理を説明する概略図である。
【００４０】
パッチ切り出し部１２により実施されるパッチ切り出し処理は、画像からのパッチ画像の切り出し、パッチ画像の中心部の画像の除去等を行う。パッチ切り出し処理は、学習画像及び検査画像のそれぞれについて実施される。
【００４１】
まず、図３に示すように、ステップＳ１０１において、パッチ切り出し部１２は、パッチ切り出し処理を実施すべき画像のデータを読み込む。学習画像についてパッチ切り出し処理を実施する場合、パッチ切り出し部１２は、学習データ保存部１０から学習画像を読み込む。一方、検査画像についてパッチ切り出し処理を実施する場合、パッチ切り出し部１２は、データ保存部２０から画像データを読み込む。
【００４２】
次いで、ステップＳ１０２において、パッチ切り出し部１２は、ステップＳ１０１で読み込んだ画像ＩＭに対してパッチ切り出しを行う。図４に示すように、画像ＩＭには、検査対象品Ｔが含まれている。画像ＩＭは、学習画像又は検査画像である。画像ＩＭが学習画像である場合、画像ＩＭに含まれる検査対象品Ｔは正常品である。画像ＩＭが検査画像である場合、画像ＩＭに含まれる検査対象品Ｔは、正常品であるか不良品であるかを判定すべきものである。
【００４３】
パッチ切り出し処理において、パッチ切り出し部１２は、図４に示すように、読み込んだ画像ＩＭから、あらかじめ設定されたパッチサイズの矩形状の画像をパッチ画像ＩＭｐとして画像ＩＭの例えば左上から切り出す。なお、パッチ画像ＩＭｐを切り出すパッチサイズは、画像ＩＭよりも小さいサイズの範囲で、検査に要求される精度等に応じて適宜設定することができる。
【００４４】
さらに、パッチ切り出し処理において、パッチ切り出し部１２は、図５に示すように、切り出したパッチ画像ＩＭｐの中心部から、あらかじめ設定されたサイズの矩形状の画像を切り出して除去する。こうして、パッチ切り出し部１２は、中心部の画像が除去された枠状のパッチ画像ＩＭｐである中心除去済みパッチ画像ＩＭｒを作成するとともに、パッチ画像ＩＭｐの中心部から切り出した画像である中心画像ＩＭｃを作成する。パッチ切り出し処理前のパッチ画像ＩＭｐは、第１の領域である中心除去済みパッチ画像ＩＭｒと、第２の領域である中心画像ＩＭｃとを含み、両画像から構成されていると考えることができる。なお、中心画像ＩＭｃを切り出すサイズは、パッチ画像ＩＭｐよりも小さいサイズの範囲で、検査に要求される精度等に応じて適宜設定することができる。
【００４５】
その後、パッチ切り出し部１２は、図６に示すように、あらかじめ設定されたスライドサイズの分だけ画像ＩＭにおいてスライド方向に移動した箇所から、上記と同様にパッチ画像ＩＭｐを切り出して、中心除去済みパッチ画像ＩＭｒ及び中心画像ＩＭｃを作成する。なお、スライドサイズは、パッチ画像ＩＭｐを切り出すパッチサイズのスライド方向の幅と同じ又はその幅以下に設定することができる。また、パッチ切り出し部１２は、顕著性マップなどの関心領域抽出の手法を用いて、特定の箇所を自動的に切り出しても良い。
【００４６】
パッチ切り出し部１２は、上述した図４乃至図６に示す動作を、画像ＩＭの全領域についてパッチ画像ＩＭｐの切り出しが行われるまで繰り返して行い、画像ＩＭについて中心除去済みパッチ画像ＩＭｒと中心画像ＩＭｃとの対である画像対を作成していく。
【００４７】
なお、上記では、パッチ画像ＩＭｐ及び中心画像ＩＭｃをいずれも矩形の形状としているが、これらの形状は、矩形等の四角形の形状に限定されるものではない。パッチ画像ＩＭｐ及び中心画像ＩＭｃの形状は、四角形の形状ほか、例えば、円形、三角形等の、周囲の画像である中心除去済みパッチ画像ＩＭｒと中心画像ＩＭｃとの対が作成することができる形状であればよい。パッチ画像ＩＭｐ及び中心画像ＩＭｃの形状は、互いに同一の形状である必要はなく、互いに異なる形状であってもよい。
【００４８】
また、上記では、パッチ画像ＩＭｐの中心部から画像を切り出しているが、パッチ画像ＩＭｐからあらかじめ設定されたサイズの画像を切り出していれば、パッチ画像ＩＭｐから画像を切り出す領域は中心部に限定されるものではない。すなわち、パッチ切り出し部１２は、パッチ画像ＩＭｐからその一部を切り出して、中心画像ＩＭｃに代えてパッチ画像ＩＭｐの一部である部分画像を作成してもよい。中心画像ＩＭｃに代えてパッチ画像ＩＭｐの一部である部分画像を作成する場合も、中心画像ＩＭｃに代えて部分画像を用いる点を除いて同様に処理することができる。
【００４９】
次いで、ステップＳ１０３において、パッチ切り出し部１２は、ステップＳ１０２で画像ＩＭについて作成された中心除去済みパッチ画像ＩＭｒと中心画像ＩＭｃとの対である画像対を、パッチ処理済みデータ保存部１４に保存する。
【００５０】
上述のようにして、パッチ切り出し部１２は、学習画像及び検査画像のそれぞれについてパッチ切り出し処理を実行する。なお、学習画像についてのパッチ切り出し処理は、学習処理の前に実行する。一方、検査画像についてのパッチ切り出し処理は、正常画像生成処理の前であれば、学習処理の前に実行することもできるし、学習処理の後に実行することもできる。
【００５１】
次に、本実施形態における学習処理について図７乃至図９を用いて説明する。図７は、本実施形態による画像処理装置１００の動作における学習処理を示すフローチャートである。図８及び図９は、本実施形態による画像処理装置１００の動作における学習処理を説明する概略図である。
【００５２】
学習部１６により実施される学習処理は、学習画像についてのパッチ切り出し処理の後に実施される。学習処理は、パッチ切り出し処理が実施された学習画像のデータを使った教師あり機械学習を行って、学習モデルを作成する。
【００５３】
まず、図７に示すように、ステップＳ２０１において、クラスタ生成部１５１は、パッチ処理済みデータ保存部１４から、教師あり機械学習に使う学習用データを読み込む。学習用データは、学習画像について作成された中心除去済みパッチ画像と中心画像との対のデータである。
【００５４】
ステップＳ２０２において、クラスタ生成部１５１は、ステップＳ２０１において読み込んだ複数の中心画像をクラスタリングする。すなわち、クラスタ生成部１５１は、複数の中心画像のそれぞれを、検査対象部位ごとの部位クラスタへクラスタリングする。例えば、画像ＩＭにおける中心座標と同一または近接した中心座標を有する複数の中心画像を同一のクラスタにクラスタリングしても良い。クラスタは、検査対象を考慮してユーザによって定義されても良く、または、画像ＩＭに一様に配置されるように自動的に定義されても良い。
【００５５】
次に、クラスタ生成部１５１は、部位クラスタに含まれる中心画像をさらにサブクラスタであるパターンクラスタへクラスタリングする。ここでのクラスタは、例えば２つの中心画像の間の距離をそれぞれの画素間の色差の合計に基づき定義され得る。この場合、互いに距離が近い複数の中心画像は同一のサブクラスタにクラスタリングされる。クラスタおよびクラスタの数は検査対象を考慮してユーザによって定義され得る。クラスタ生成部１５１は部位クラスタおよびパターンクラスタをクラスタ保存部１５２に保存する。
【００５６】
ステップＳ２０３において、生成パラメータ描画部１５３は中心除去済みパッチに対して生成パラメータ描画を行う。上述したように、ステップＳ２０２で作成された部位クラスタおよびパターンクラスタの組み合せによって、中心画像は各部位の典型的なバリエーションであるクラスタに分類されている。生成パラメータ描画部１５３は各クラスタに属する中心画像のセントロイド（平均値）を生成パラメータとして用い、生成パラメータを中心除去済みパッチに描画する。すなわち、生成パラメータ描画部１５３は、中心除去済みパッチと対になる中心画像を読み込み、その中心画像が属する部位クラスタおよびパターンクラスタを判定する。生成パラメータ描画部１５３は、判定したクラスタのセントロイドを生成パラメータとして中心除去済みパッチのセンター部分に描画する。
【００５７】
ステップＳ２０４において、学習部１６は、生成パラメータが描画された中心除去済みパッチ画像を学習データとし、中心画像を教師データとして学習を行う。学習部１６は、検査対象品の正常な状態を表す画像である学習画像について作成された中心除去済みパッチ画像及び中心画像を用いて学習モデルを学習させる。
【００５８】
図８及び図９は、ステップＳ２０４の学習部１６による学習のイメージを示している。学習部１６は、図８に示すように、生成パラメータが描画された中心除去済みパッチ画像ＩＭｒから、教師データとする複数の中心画像ＩＭｃを復元し、中心画像ＩＭｃを推測した推測画像を生成する学習モデルＭを作成する。ここで、学習部１６は、学習モデルＭを作成する手法として、例えば、オートエンコーダのように入力を再現することのできる手法を用いることができる。また、学習部１６は、学習の手法として例えばディープラーニングを用いた機械学習を実施することができる。学習部１６は、図９に示すように、学習画像である画像ＩＭについて、切り出されたパッチ画像ＩＭｐから作成された中心除去済みパッチ画像ＩＭｒと中心画像ＩＭｃとの画像対を複数用いて学習モデルＭを作成するための学習を行う。こうして、検査対象品の正常な状態を表す画像である学習画像について作成された中心除去済みパッチ画像ＩＭｒ及び中心画像ＩＭｃを用いて学習させた学習モデルＭが作成される。
【００５９】
ステップＳ２０５において、学習部１６は、ステップＳ２０４で作成された学習済みの学習モデルを学習モデル記憶部１８に保存する。
【００６０】
上述のようにして、学習部１６は、パッチ画像の一部である中心除去済みパッチ画像から、パッチ画像の他の一部である中心画像を復元する学習モデルを作成する。学習部１６は、以下に説明する正常画像生成処理の前にあらかじめ学習処理を実施して学習モデルを作成して学習モデル記憶部１８に保存しておくことができる。
【００６１】
ディープラーニングをはじめとする機械学習では、高い精度を出すためには、大量の正解データが必要となる。正常品及び不良品の判別の場合には、正解データとして正常品及び不良品のいずれについても十分な量のデータを収集する必要がある。しかしながら、実際の現場では、不良品についてデータを十分に収集することは困難である。
【００６２】
これに対して、本実施形態では、検査対象品の正常品を含む画像である学習画像から作成された中心除去済みパッチ画像及び中心画像を用いて機械学習を行うため、検査対象品の不良品を含む画像を学習画像として用意する必要がない。したがって、十分な量の学習用データを容易に用意することができるため、学習モデルを容易に作成することができる。また、本実施形態においては、中心画像に基づき生成パラメータを中心除去済みパッチ画像に描画することにより、学習モデルから中心画像を正しく再現することができ、より精度の高い検査を実現することが可能となる。
【００６３】
次に、本実施形態による正常画像生成処理について図１０及び図１１を用いて説明する。図１０は、本実施形態における正常画像生成処理を示すフローチャートである。図１１は、本実施形態における正常画像生成処理を説明する概略図である。
【００６４】
正常画像生成処理において、正常画像生成部２２は学習モデルと検査画像の中心除去済みパッチ画像とを使って、検査画像の中心画像を推測した正常画像を生成する。
【００６５】
図１０に示すように、ステップＳ３０１において、正常画像生成部２２は、パッチ処理済みデータ保存部１４から、正常画像を生成するための対象データを読み込む。ここで、対象データは、検査画像からパッチ切り出し処理がなされた中心除去済みパッチ画像である。正常画像生成部２２は、パッチ切り出し部１２により検査画像について作成される画像対のうち、中心除去済みパッチ画像を学習モデルに入力する画像とする。
【００６６】
ステップＳ３０２において、正常画像生成部２２は、学習モデル記憶部１８から、学習済みの学習モデルを読み込む。なお、ステップＳ３０１及びステップＳ３０２は、いずれが先に実施されてもよいし、同時に実施されてもよい。
【００６７】
ステップＳ３０３において、正常画像生成部２２は検査画像に対して生成パラメータ描画を行い、ステップＳ３０２で読み込んだ学習モデルを用いて、仮中心画像（推測画像）を再現する。正常画像生成部２２は、ステップＳ２０２で生成された部位クラスタおよびパターンクラスタを読み込むとともに、検査対象の各中心除去済みパッチ画像と対になる中心画像を読み込む。正常画像生成部２２は、中心画像がいずれの部位クラスタに属するかを判定し、判定された部位クラスタが有するパターンクラスタのセントロイドを生成する。さらに、正常画像生成部２２は、複数のセントロイドのそれぞれを生成パラメータとして複数の中心除去済みパッチ画像に描画する。正常画像生成部２２はこの処理を反復し、仮中心画像である生成パラメータを複数パターン再現した仮中心画像群を作成する。
【００６８】
ステップＳ３０４において、正常画像生成部２２は、学習モデルを用いて、生成パラメータが描画された複数の中心除去済みパッチ画像から仮中心画像を生成する。ステップＳ３０５において、正常画像生成部２２は、生成された仮中心画像を正常データ保存部２４に保存する。ステップＳ３０６において、正常画像生成部２２はすべての検査画像について仮中心画像の生成が終了した否かを判断し、すべての仮中心画像の生成が終了するまでステップＳ３０３〜Ｓ３０５の処理を繰り返し実行する。
【００６９】
図１１は、正常画像の生成処理を示している。検査画像である画像ＩＭからパッチ画像ＩＭｐが切り出される。パッチ画像ＩＭｐから中心画像ＩＭｃが切り出され、中心除去済みパッチ画像ＩＭｒが生成される。生成パラメータ描画部１５３は、中心画像ＩＭｃが属するクラスタのセントロイドを生成パラメータｉｍｃとして、中心除去済みパッチ画像ＩＭｒに描画する。学習モデルＭには、生成パラメータｉｍｃが描画された中心除去済みパッチ画像ＩＭＲが入力される。中心除去済みパッチ画像ＩＭＲの入力に対する学習モデルＭから出力し、正常品の中心画像ＩＭｃを推測した画像である正常画像ＩＭｎを生成する。なお、画像ＩＭに含まれる検査対象品Ｔには、傷等の欠陥Ｄが生じている場合がある。
【００７０】
上述のようにして、正常画像生成部２２は、検査画像から作成された複数の中心除去済みパッチ画像のそれぞれについて、学習モデルにより正常画像を生成する。また、本実施形態によれば、生成パラメータが描画された中心除去済みパッチ画像を用いて学習することにより、マスクされた領域に応じた正常画像を生成することが可能となる。
【００７１】
不良品を検出する方法としては、機械学習を使わず、正常品のテンプレートを用意し、テンプレートと検査画像との差分に基づき不良品を検出する手法が考えられる。しかしながら、このようなテンプレートを用いた方法では、不良品の検出が、検査対象品の個体差、すなわち検査画像の個体差の影響を受ける場合がある。
【００７２】
これに対して、本実施形態では、検査画像における中心除去済みパッチ画像から正常画像を推測して生成し、推測された正常画像を基準に不良品を検出する。このため、本実施形態では、正常品のテンプレートを用いる場合とは異なり、ロバスト性の高い不良品の検出を実現することができる。さらに、生成パラメータが描画された中心除去済みパッチ画像を用いることにより、精度の高い検出が可能となる。
【００７３】
次に、本実施形態による不良品検出処理について図１２乃至図１４を用いて説明する。図１２は、本実施形態による不良品検出処理を示すフローチャートである。図１３及び図１４は、本実施形態による不良品検出処理を説明する概略図である。
【００７４】
不良品検出部２６は、検査画像からパッチ切り出しにより作成された実中心画像と学習モデルから生成された正常画像における仮中心画像との差分を計算する。さらに、不良品検出処理では、計算された差分に基づき、異常である不良品を判別して検出する。
【００７５】
図１２に示すように、ステップＳ４０１において、不良品検出部２６は、対象データの一方として、パッチ処理済みデータ保存部１４から、検査画像について作成された中心除去済みパッチ画像と実中心画像との画像対のうちの中心画像のデータを読み込む。また、不良品検出部２６は、対象データの他方として、正常データ保存部２４から、読み込んだ中心画像と画像対をなす中心除去済みパッチ画像から学習モデルにより生成された正常画像のデータを読み込む。正常画像は、中心除去済みパッチ画像から推測された中心画像群である。
【００７６】
ステップＳ４０２において、不良品検出部２６は、ステップＳ４０１で読み込んだ２種類の中心画像の差分、すなわち中心画像と正常画像との差分を計算して、差分に基づき両画像の異同を判定する。両画像の１対１の差分の計算方法は、特に限定されるものではないが、次のような計算方法を用いることができる。例えば、差分として、中心画像及び正常画像の特定位置の画素又は特定領域に含まれる画素の画素値の差の絶対値を計算することができる。また、差分として、中心画像と正常画像との間の画素値の差のある領域が連続する面積を計算することもできる。また、差分として、中心画像と正常画像との間の画素値の差のある領域の総面積を計算することもできる。また、差分として、中心画像と正常画像との間の画素値ごとの画素値の差の総和を計算することもできる。また、差分として、中心画像と正常画像との間の画素値ごとの画素値の差の平均を計算することもできる。また、差分として、ＳＳＤ（Sum  of  Squared  Difference）、ＳＡＤ（Sum  of  Absolute  Difference）を計算することもできる。
【００７７】
なお、２種類の中心画像の差分を計算する際には、例えば、ＲＧＢ画像その他のカラー画像の２種類の中心画像をそのまま差分の計算に用いるほかに、別の種類の画像や別の色空間の画像への変換、フィルタ処理を行ってから差分の計算に用いることもできる。例えば、グレースケール画像、２値化画像等の別の種類の画像に変換したり、ＨＳＶやＹＣｂＣｒといった別の色空間の画像に変換したりしてから差分の計算に用いることができる。また、例えば、平均化フィルタ、メディアンフィルタ等の前処理フィルタや、ソーベルフィルタ、ラプラシアンフィルタ等のエッジ抽出フィルタを用いたフィルタ処理を行ってから差分の計算に用いることができる。さらに、２種類の中心画像について、１対多の差分を計算する方法として、上述の１対１の差分計算結果の集合に対して最小値計算を行うことができる。
【００７８】
ステップＳ４０３において、不良品検出部２６は、ステップＳ４０２で計算された差分が、あらかじめ設定された閾値を超えるか否かを判定する。ここで、正常品及び不良品を判定するための指標となる閾値の設定方法は、特に限定されるものではなく、例えば、手動で閾値を設定することができる。このほか、正常品を含む検査画像のみを用いて検証を行い、検証用の正常品を含む検査画像をすべて正しく正常品として判定することができる閾値を自動的に設定することもできる。
【００７９】
不良品検出部２６は、差分が閾値を超えていないと判定すると（ステップＳ４０３、ＮＯ）、検査画像から作成された中心画像が正常画像と同じであると判定し、中心画像が正常であると判定する（ステップＳ４０５）。一方、不良品検出部２６は、差分が閾値を超えていると判定すると（ステップＳ４０３、ＹＥＳ）、検査画像から作成された中心画像が正常画像と異なると判定し、中心画像が不良であると判定する（ステップＳ４０４）。
【００８０】
図１３は、中心画像ＩＭｃが正常であると判定される処理の概要を示している。不良品検出部２６は、中心画像ＩＭｃと正常画像ＩＭｎとの差分を算出し、それらの差分が閾値を超えないため、中心画像ＩＭｃが正常であると判定する。図１３に示す場合、中心画像ＩＭｃは、欠陥Ｄを含んでいないため、差分が閾値を超えず、正常であると判定される。
【００８１】
一方、図１４は、中心画像ＩＭｃが不良であると判定される処理の概要を示している。不良品検出部２６は、中心画像ＩＭｃと正常画像ＩＭｎとの差分を計算して両者を比較した結果、それらの差分が閾値を超えるため、中心画像ＩＭｃが異常であると判定する。この場合、中心画像ＩＭｃは、欠陥Ｄを含んでいるため、差分が閾値を超え、不良であると判定される。
【００８２】
ステップＳ４０６において、不良品検出部２６は、検査画像について作成された中心画像が正常であるか不良であるかの判定結果を出力する。
【００８３】
不良品検出部２６は、上述したステップＳ４０１からステップＳ４０６までのステップを、検査画像について作成された複数の中心画像のそれぞれについて実施する。
【００８４】
ステップＳ４０７において、不良品検出部２６は、ステップＳ４０６で出力された判定結果に基づき、不良品を検出してその検出結果を出力する。不良品の検出に際して、不良品検出部２６は、検査画像について不良と判定された中心画像の数が零又は所定数以下である場合には、検査画像に含まれる検査対象品が正常品であると判定する。一方、不良品検出部２６は、検査画像について不良と判定された中心画像の数が所定数を超える場合には、検査画像に含まれる検査対象品が不良品であると判定する。
【００８５】
こうして、不良品検出部２６は、検査画像に含まれる検査対象品が正常品であるか不良品であるかを判定して不良品を検出し、その検出結果を出力する。
【００８６】
上述のように、本実施形態では、検査対象品の正常品を含む学習画像を用いて、中心除去済みパッチ画像から中心画像を復元する学習モデルを作成するため、不良品を含む画像を収集する必要がない。したがって、本実施形態によれば、十分な量の学習用データを容易に用意することができるため、学習モデルを容易に作成することができる。
【００８７】
また、本実施形態では、検査画像における中心除去済みパッチ画像から正常画像を推測して生成し、推測された正常画像を基準に不良品を検出する。このため、本実施形態によれば、ロバスト性の高い不良品の検出を実現することができる。
【００８８】
以上のとおり、本実施形態によれば、検査対象品を含む検査画像の一部を使って、検査対象品の少なくとも所定の領域を含む推測画像を正常画像として生成するので、画像の個体差の影響を低減しつつ高い精度で異常である不良品を判別することができる。また、本実施形態によれば、部分画像に応じて複数の生成パラメータを用意し、生成パラメータが描画した中心除去済みパッチ画像を用いて学習モデルにおける学習を行うことにより、より多くの正常画像を復元することができる。このため、正常品、不良品をさらに高い精度で判別することが可能となる。
【００８９】
図１５Ａ、１５Ｂは、生成パラメータを用いない学習処理および検査処理の比較例を説明するための図であって、図１５Ａは生成パラメータを用いない学習処理、図１５Ｂは生成パラメータを用いない検査処理を表している。図１５Ａにおいて、２種類のパッチ画像ＩＭｐ＿１、ＩＭｐ＿２から中心画像ＩＭｃ＿１、ＩＭｃ＿２が切り出され、中心除去済みパッチ画像ＩＭｒ＿１、ＩＭｒ＿２が生成される。中心除去済みパッチ画像ＩＭｒ＿１、ＩＭｒ＿２は中心画像ＩＭｃ＿１、ＩＭｃ＿２を教師データとして学習モデルＭに入力される。ところが、中心画像ＩＭｃ＿１、ＩＭｃ＿２を再現するように学習することはできない。図１５Ｂにおいて、パッチ画像ＩＭｐ＿１は異常品、パッチ画像ＩＭｐ＿２は正常品を表している。検査処理においても、生成パラメータが描画されていない中心除去済みパッチ画像ＩＭｒ＿１、ＩＭｒ＿２を用いた場合、再現される中心画像ＩＭｃ＿１’、ＩＭｃ＿２’は元の中心画像ＩＭｃ＿１、ＩＭｃ＿２とは異なり、精度の良い検査が困難となる。
【００９０】
図１５Ａ、１５Ｂに示されたように、生成パラメータを用いない場合には、複数種類の中心画像が存在するにも拘わらず、検査画像に対する復元画像が一意に再現されてしまう。すなわち、検査画像の一部である部分画像をマスクし、部分画像の種類によらずに一定の色を部分画像に置き換えただけでは、異なる種類の部分画像を正しく再現することはできない。このため、正常品において、溶接跡、模様などの不定形変化、印字されたシリアル番号などの定型変化、照明条件による光沢および陰影の変化などが存在する場合、これらの変化を区別することができず、検査精度が悪化し得る。
【００９１】
図１６Ａ、１６Ｂは本実施形態における学習処理および検査処理を説明するための図であって、図１６Ａは生成パラメータを用いた学習処理、図１６Ｂは生成パラメータを用いた検査処理を表している。図１６Ａにおいて、中心除去済みパッチ画像ＩＭｒ＿１、ＩＭｒ＿２には、中心画像ＩＭｃ＿１、ＩＭｃ＿２に基づく生成パラメータｉｍｃ＿１、ｉｍｃ＿２がそれぞれ描画される。生成パラメータｉｍｃ＿１、ｉｍｃ＿２が描画された中心除去済みパッチ画像ＩＭｒ＿１、ＩＭｒ＿２は、中心画像ＩＭｃ＿１、ＩＭｃ＿２を教師データとして学習モデルＭに入力される。生成パラメータｉｍｃ＿１、ｉｍｃ＿２が描画された生成中心除去済みパッチ画像ＩＭｒ＿１、ＩＭｒ＿２は互いに区別可能であるため、学習モデルＭから中心画像ＩＭｃ＿１、ＩＭｃ＿２を再現することが可能となる。図１６Ｂに示された検査処理においても、生成パラメータｉｍｃ＿１、ｉｍｃ＿２が描画された中心除去済みパッチ画像ＩＭｒ＿１、ＩＭｒ＿２を用いた場合、再現される中心画像ＩＭｃ＿１’、ＩＭｃ＿２’は元の中心画像ＩＭｃ＿１、ＩＭｃ＿２を再現したものとなる。このため、精度の良い検査を行うことが可能となる。
【００９２】
上述したように、本実施形態によれば、マスクされた部分画像に基づく生成パラメータを部分画像に描画することにより、異なった種類の部分画像を正しく再現することができる。これにより、検査精度をさらに高めることが可能となる。
【００９３】
［第２実施形態］
図１７は第２実施形態における画像処理装置のブロック図である。以下、第１実施形態と異なる構成を中心に説明する。第１実施形態における生成パラメータ描画部１５３はクラスタリングによって生成パラメータを生成していたが、第２実施形態における生成パラメータ描画部１５３はクラスタリングを用いる代わりに、ランダム（乱数）、各種画像変換処理によって生成パラメータを生成している。ランダムによる生成パラメータは例えば、一様なランダム、または制限付きランダムに基づき決定され得る。すなわち、生成パラメータ描画部１５３は一様な乱数に基づき決定した色、または制限付きの乱数、すなわち特定の確率分布に基づき決定した色を生成パラメータとして中心画像に描画する。特定の確率分布は、例えば学習に用いるパレット画像が有する色の正規分布などである。上述の処理によって決定さされる色は一色でも良く、または複数色であっても良い。さらに、生成パラメータ描画部１５３は除去した中心画像に対してスムージング（平滑化）またはノイジング（ノイズ付加）した画像を生成パラメータとして描画しても良い。
【００９４】
本実施形態においても、検査対象品の正常品を含む画像である学習画像から作成された中心除去済みパッチ画像及び中心画像を用いて機械学習を行うため、検査対象品の不良品を含む画像を学習画像として用意する必要がない。したがって、十分な量の学習用データを用意することができるため、学習モデルを容易に作成することができる。また、中心画像に基づき生成パラメータを中心除去済みパッチに描画することにより、学習モデルから中心画像を正しく再現することができ、より精度の高い検査を実現することが可能となる。
【００９５】
また、図８に示す場合において、学習部１６は、パッチ画像ＩＭｐを構成する枠状領域の中心除去済みパッチ画像ＩＭｒから、パッチ画像ＩＭｐを構成する中心領域の中心画像ＩＭｃを復元する学習モデルを学習して作成しているが、これに限定されるものではない。例えば、学習部１６は、中心除去済みパッチ画像ＩＭｒから、中心画像ＩＭｃを含むパッチ画像ＩＭｐの全体を復元してパッチ画像ＩＭｐを推測した推測画像を生成する学習モデルを学習して作成することもできる。この場合、正常画像生成部２２は、このような学習モデルを用いて、正常画像として、正常品である場合のパッチ画像ＩＭｐの全体を推測した推測画像を生成することができる。また、不良品検出部２６は、検査画像についてのパッチ画像ＩＭｐの全体と、そのパッチ画像ＩＭｐの全体を推測した推測画像と比較して不良品を検出することができる。
【００９６】
［他の実施形態］
上記各実施形態において説明した画像処理装置は、他の実施形態によれば、図１８に示すように構成することもできる。図１８は、他の実施形態による画像処理装置の機能構成を示すブロック図である。
【００９７】
図１８に示すように、画像処理装置２０００は、検査対象を含む検査画像のうちの部分画像をマスクしたパッチ画像において、部分画像に基づき生成されたパラメータを部分画像に描画する描画部２００１と、パラメータが描画されたパッチ画像を用いて、部分画像を推測した推測画像を出力する学習モデルを学習させる学習部２００２と、推測画像と部分画像との比較結果を出力する比較部２００３とを備える。
【００９８】
本実施形態による画像処理装置２０００によれば、検査対象を含む検査画像の一部を使って、検査対象の少なくとも所定の領域を含む推測画像を生成するため、画像の個体差の影響を低減しつつ高い精度で異常を判別することができる。また、検査画像のうちの部分画像をマスクしたパッチ画像を使って、部分画像を推測した推測画像と部分画像との比較結果を出力するため、画像の個体差の影響を低減しつつ高い精度で異常を判別することができる。また、検査画像のうちの部分画像には、部分画像に基づき生成されたパラメータを部分画像に描画することにより、異なる部分画像を区別して再現することができ、さらに高い精度で異常を判別することが可能となる。
【００９９】
［変形実施形態］
本発明は、上記実施形態に限らず、種々の変形が可能である。例えば、上記実施形態では、検査対象品から不良品を検出する検査の場合を例に説明したが、これに限定されるものではない。本発明は、何らかの物体について正常状態であるか異常状態であるかを判定して、物体の異常状態、すなわち正常状態以外の状態を検出する場合に広く適用することができる。本発明は、例えば、建築物等の物体の破損を異常として検出する場合、異常物を検出する場合等にも適用することができる。
【０１００】
また、上述の各実施形態の機能を実現するように該実施形態の構成を動作させるプログラムを記録媒体に記録させ、該記録媒体に記録されたプログラムをコードとして読み出し、コンピュータにおいて実行する処理方法も各実施形態の範疇に含まれる。すなわち、コンピュータ読取可能な記録媒体も各実施形態の範囲に含まれる。また、上述のコンピュータプログラムが記録された記録媒体はもちろん、そのコンピュータプログラム自体も各実施形態に含まれる。
【０１０１】
該記録媒体としては例えばフロッピー（登録商標）ディスク、ハードディスク、光ディスク、光磁気ディスク、ＣＤ−ＲＯＭ（Compact  Disc-Read  Only  Memory）、磁気テープ、不揮発性メモリカード、ＲＯＭを用いることができる。また該記録媒体に記録されたプログラム単体で処理を実行しているものに限らず、他のソフトウェア、拡張ボードの機能と共同して、ＯＳ（Operating  System）上で動作して処理を実行するものも各実施形態の範疇に含まれる。
【０１０２】
上述の各実施形態の機能により実現されるサービスは、ＳａａＳ（Software  as  a  Service）の形態でユーザに対して提供することもできる。
【０１０３】
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
【０１０４】
（付記１）
検査対象を含む検査画像のうちの部分画像をマスクしたパッチ画像において、前記部分画像に基づき生成されたパラメータを前記部分画像に描画する描画部と、
前記パラメータが描画された前記パッチ画像を用いて、前記部分画像を推測した推測画像を出力する学習モデルを学習させる学習部と、
前記推測画像と前記部分画像との比較結果を出力する比較部とを備える画像処理装置。
【０１０５】
（付記２）
前記描画部は複数の前記パラメータのうちのいずれかを前記部分画像に描画する付記１に記載の画像処理装置。
【０１０６】
（付記３）
前記部分画像を複数のクラスタのいずれかに分類するクラスタリング部をさらに備え、
前記描画部は、分類された前記クラスタ毎に前記パラメータを生成する付記１または２に記載の画像処理装置。
【０１０７】
（付記４）
前記描画部は、分類された前記クラスタに含まれる複数の前記部分画像のセントロイドを前記パラメータとして生成する付記３に記載の画像処理装置。
【０１０８】
（付記５）
前記パラメータは、ランダムに決定された色、所定の確立分布に基づき決定された色、前記部分画像を平滑化した画像、前記部分画像にノイズを付加した画像の少なくともいずれかに基づき決定される付記１乃至４のいずれかに記載の画像処理装置。
【０１０９】
（付記６）
前記学習モデルは、前記検査対象の正常な状態を表す画像を用いて学習させたものである付記１乃至５のいずれかに記載の画像処理装置。
【０１１０】
（付記７）
前記推測画像は、前記検査対象の正常な状態を表す画像を含む付記１乃至６のいずれかに記載の画像処理装置。
【０１１１】
（付記８）
前記比較部は、前記検査画像と前記推測画像との差分を計算する付記１乃至７のいずれかに記載の画像処理装置。
【０１１２】
（付記９）
検査対象を含む検査画像のうちの部分画像をマスクしたパッチ画像において、前記部分画像に基づき生成されたパラメータを前記部分画像に描画するステップと、
前記パラメータが描画された前記パッチ画像を用いて、前記部分画像を推測した推測画像を出力する学習モデルを学習させるステップと、
前記推測画像と前記部分画像との比較結果を出力するステップと、
を備える画像処理方法。
【０１１３】
（付記１０）
コンピュータに、
検査対象を含む検査画像のうちの部分画像をマスクしたパッチ画像において、前記部分画像に基づき生成されたパラメータを前記部分画像に描画するステップと、
前記パラメータが描画された前記パッチ画像を用いて、前記部分画像を推測した推測画像を出力する学習モデルを学習させるステップと、
前記推測画像と前記部分画像との比較結果を出力するステップと、
を実行させるプログラムが記録された記録媒体。
【０１１４】
この出願は、２０１８年２月１３日に出願された日本出願特願２０１８−０２２８６２を基礎とする優先権を主張し、その開示のすべてをここに取り込む。
【図１】
2019159853.tif 000003
【図２】
2019159853.tif 000004
【図３】
2019159853.tif 000005
【図４】
2019159853.tif 000006
【図５】
2019159853.tif 000007
【図６】
2019159853.tif 000008
【図７】
2019159853.tif 000009
【図８】
2019159853.tif 000010
【図９】
2019159853.tif 000011
【図１０】
2019159853.tif 000012
【図１１】
2019159853.tif 000013
【図１２】
2019159853.tif 000014
【図１３】
2019159853.tif 000015
【図１４】
2019159853.tif 000016
【図１５Ａ】
2019159853.tif 000017
【図１５Ｂ】
2019159853.tif 000018
【図１６Ａ】
2019159853.tif 000019
【図１６Ｂ】
2019159853.tif 000020
【図１７】
2019159853.tif 000021
【図１８】
2019159853.tif 000022
【手続補正書】
【提出日】令和2年6月17日(2020.6.17)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
検査対象を含む検査画像のうちの部分画像をマスクしたパッチ画像において、前記部分画像に基づき生成されたパラメータを前記部分画像に描画する描画部と、
前記パラメータが描画された前記パッチ画像を用いて、前記部分画像を推測した推測画像を出力する学習モデルを学習させる学習部と、
前記推測画像と前記部分画像との比較結果を出力する比較部とを備える画像処理装置。
【請求項２】
前記描画部は複数の前記パラメータのうちのいずれかを前記部分画像に描画する請求項１に記載の画像処理装置。
【請求項３】
前記部分画像を複数のクラスタのいずれかに分類するクラスタリング部をさらに備え、
前記描画部は、分類された前記クラスタ毎に前記パラメータを生成する請求項１または２に記載の画像処理装置。
【請求項４】
前記描画部は、分類された前記クラスタに含まれる複数の前記部分画像のセントロイドを前記パラメータとして生成する請求項３に記載の画像処理装置。
【請求項５】
前記パラメータは、ランダムに決定された色、所定の確立分布に基づき決定された色、前記部分画像を平滑化した画像、前記部分画像にノイズを付加した画像の少なくともいずれかに基づき決定される請求項１乃至４のいずれか１項に記載の画像処理装置。
【請求項６】
前記学習モデルは、前記検査対象の正常な状態を表す画像を用いて学習させたものである請求項１乃至５のいずれか１項に記載の画像処理装置。
【請求項７】
前記推測画像は、前記検査対象の正常な状態を表す画像を含む請求項１乃至６のいずれか１項に記載の画像処理装置。
【請求項８】
前記比較部は、前記検査画像と前記推測画像との差分を計算する請求項１乃至７のいずれか１項に記載の画像処理装置。
【請求項９】
検査対象を含む検査画像のうちの部分画像をマスクしたパッチ画像において、前記部分画像に基づき生成されたパラメータを前記部分画像に描画するステップと、
前記パラメータが描画された前記パッチ画像を用いて、前記部分画像を推測した推測画像を出力する学習モデルを学習させるステップと、
前記推測画像と前記部分画像との比較結果を出力するステップと、
を備える画像処理方法。
【請求項１０】
コンピュータに、
検査対象を含む検査画像のうちの部分画像をマスクしたパッチ画像において、前記部分画像に基づき生成されたパラメータを前記部分画像に描画するステップと、
前記パラメータが描画された前記パッチ画像を用いて、前記部分画像を推測した推測画像を出力する学習モデルを学習させるステップと、
前記推測画像と前記部分画像との比較結果を出力するステップと、
を実行させるプログラム。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】０００８
【補正方法】変更
【補正の内容】
【０００８】
本発明のさらに他の観点によれば、コンピュータに、検査対象を含む検査画像のうちの部分画像をマスクしたパッチ画像において、前記部分画像に基づき生成されたパラメータを前記部分画像に描画するステップと、前記パラメータが描画された前記パッチ画像を用いて、前記部分画像を推測した推測画像を出力する学習モデルを学習させるステップと、前記推測画像と前記部分画像との比較結果を出力するステップと、を実行させるプログラムが提供される。
【国際調査報告】
2019159853.tif 000023
2019159853.tif 000024
2019159853.tif 000025
2019159853.tif 000026