(57)【要約】      （修正有）【課題】複数のパターン認識及び登録ツールモデルをトレーニングするための半教師付き方法を提供する。【解決手段】複数のパターン認識及び登録モデルをトレーニングするためのシステム及び方法は、第１のパターンモデルで開始する。当該モデルは複数の画像からトレーニングされる。合成モデルを使用してロバスト性を改善するか又はターゲット領域の外観における小さい差異をモデル化する。合成モデルは、基本的なパターンの例を示すノイズの多いトレーニング画像からのデータを結合して単一のモデルを形成する。トレーニング画像のセットにおけるターゲットパターンの外観の全範囲に及ぶパターン認識及び登録モデルが生成される。【選択図】図３
2020053084.tif 000002
【特許請求の範囲】
【請求項１】
マシンビジョンシステムにおけるパターン認識及び登録モデルのトレーニング方法であって、
トレーニングされるべきパターンを規定する領域を有する１個以上の初期トレーニング画像を提供するステップであって、前記１個以上の初期トレーニング画像は複数のトレーニング画像を保存するデータベースから提供される前記ステップと、
前記１個以上の初期トレーニング画像から第１のパターンモデルをトレーニングするステップと、
残りの画像にわたって反復するステップおよび高得点画像をモデルトレーニングに対する入力として選択するステップと、
所定の数の複数のトレーニング画像に共通の特徴を含むトレーニングされたパターンモデルを出力するステップと、を含み、
前記トレーニングされたパターンモデルは前記第１のパターンモデルと異なる、
上記方法。
【請求項２】
前記反復するステップは、前記第１のパターンモデルを実行して各画像を採点することを含む、請求項１に記載の方法。
【請求項３】
第１のパターンモデルは第１セットのトレーニングパラメータを用いてトレーニングされ、第２のパターンモデルは第２セットのトレーニングパラメータを用いてトレーニングされる、請求項１に記載の方法。
【請求項４】
画像を採点するために使用されるメトリックは、ゼロに初期化される複合得点を計算することから成り、前記第１のパターンモデルがユーザの定義する信頼度閾値より大きい得点を有する画像中に前記パターンを検出する場合は、前記得点が複合得点に加算され、第１の候補パターンモデルがユーザの定義する信頼度閾値より大きい得点を有する画像中に前記パターンを検出しない場合は、複合得点から１が減算される、請求項１に記載の方法。
【請求項５】
トレーニングされて出力されるパターンにおける各特徴はトレーニング画像の約８０％〜９０％で発生する、請求項１に記載の方法。
【請求項６】
前記トレーニングされるべきパターンを規定する領域は各画像に対して所定のグラウンドトゥルースによって与えられる、請求項１に記載の方法。
【請求項７】
前記所定のグラウンドトゥルースは前記第１のパターンモデルを実行することによって各画像に対して見出される、請求項６に記載の方法。
【請求項８】
更に、第２セットのパターントレーニングパラメータを有する第２の候補パターンモデルをトレーニングし、データベースに保存されている残りのトレーニング画像にわたって第２の候補パターンモデルを反復し、且つ前記第２の候補パターンモデルについて得点、姿勢及びマッチング領域データを採点するステップを含む、請求項１に記載の方法。
【請求項９】
前記第１のパターンモデルをトレーニングするステップは、更に得点、姿勢及びマッチング領域データを採点することを含む、請求項１に記載の方法。
【請求項１０】
前記第１の候補パターンモデルは合成モデルを含む請求項１に記載の方法。
【請求項１１】
データベースから提供される１個以上のトレーニング画像はコンピュータによって選択される請求項１に記載の方法。
【請求項１２】
前記トレーニングされたパターンモデルは、マシンビジョンシステムの実行時動作においてアラインメント、サーチ又は画像検査ツールを実行するために使用される、請求項１に記載の方法。
【請求項１３】
パターンの原点は、トレーニング画像及び領域に加えて第１のパターンモデルをトレーニングするための入力として規定される、請求項１に記載の方法。
【請求項１４】
パターン認識及び登録マルチモデルのトレーニング方法であって、
トレーニングされるべきパターンを規定する領域を有する少なくとも１個の初期トレーニング画像を提供するステップであって、前記少なくとも１個の画像は複数のトレーニング画像を含むデータベースから提供される前記ステップと、
前記初期トレーニング画像と前記領域から第１のパターンモデルをトレーニングし、これを出力されるマルチモデルに追加するステップと、
残りの画像にわたって反復するステップであって、各画像について
(i)  追加の１個のパターンモデルがトレーニングされてよく、
(ii)  前記第１のモデルと前記追加のモデルとの結合に対するメトリックはデータベース内の残りのトレーニング画像にわたって採点されてもよい前記ステップと、
高得点の１以上の追加のパターンモデルを出力されるマルチモデルに追加するステップと、
を含む、上記方法。
【請求項１５】
前記第１のパターンモデルのトレーニングは、前記第１セットのパターン認識及び登録トレーニングパラメータに従って実行され、前記第２のパターンモデルのトレーニングは第２セットのパターン認識及び登録トレーニングパラメータに従って実行される、請求項１４に記載の方法。
【請求項１６】
前記第１及び／又は第２のパターンモデルは合成モデルを含む請求項１４に記載の方法。
【請求項１７】
前記第２のパターンモデルは、トレーニングすべき第１のモデルを用いて候補領域を生成する際に自由度を緩和し、次いで前記第２のパターンモデルが実行される際にメトリックが改善されたか否か判定するために自由度を強化することによってトレーニングされる、請求項１４に記載の方法。
【請求項１８】
前記メトリックは得点又は特徴の例の数を含む請求項１７に記載の方法。
【請求項１９】
第２のパターンモデルは初期トレーニング画像と規定された領域からトレーニングされるが、異なるトレーニングパラメータを使用する結果として、第２のパターンモデルは元のパターンの歪められた、ノイズの多い、又は何らかの形で修正された例を検出する可能性が高く、
追加のパターンモデルのトレーニングに使用するために、前記第２のパターンモデルを用いて候補領域を提案する、請求項１７に記載の方法。
【請求項２０】
前記パターンの原点はパターンモデルトレーニングに対する追加の入力である、請求項１４に記載の方法。
【請求項２１】
前記高得点の追加のパターンモデルは、前記出力されるマルチモデルに可能な追加が行われる前に、最初にユーザに提示されて容認、拒否又は再採点される、請求項１４に記載の方法。
【請求項２２】
ユーザが、追加のパターンの原点を前記出力されるマルチモデルに追加する前に修正してもよい、請求項１４に記載の方法。
【請求項２３】
前記追加のパターンモデルに対する前記トレーニングプロセスは繰り返し反復的であり、従って前記マルチモデルが拡張して３個以上の２パターンモデルを含むことを可能にする、請求項１４又は１７に記載の方法。
【請求項２４】
停止条件が適用され、前記停止条件はメトリックの相対的改善から導出される、請求項２３に記載の方法。
【請求項２５】
前記マルチモデルに追加するための候補モデルの姿勢を容認又は拒否及び／又は補正するために、前記トレーニング画像データベース内の複数の画像の各々に対して供給されるグラウンドトゥルースが使用されてもよい、請求項１４に記載の方法。
【請求項２６】
パターン認識及び登録モデルを生成するためのシステムであって、
少なくとも１個の画像はトレーニングされるべきパターンを規定する領域を有する、複数のトレーニング画像を含むデータベースと、
複数のトレーニング画像にわたって初期パターン認識及び登録モデルを反復し、得点、姿勢及びマッチング領域データを採点することによって初期パターン認識及び登録モデルをトレーニングするトレーニングエレメントと、
トレーニングされたモデルの性能を複数のトレーニング画像にわたって測定する性能測定要素と
を含む、上記システム。
【発明の詳細な説明】
【技術分野】
【０００１】
関連する出願
本出願は、２０１３年６月２８日に出願された米国仮出願第６１／８４１１４２号、名称「複数のＰＡＴＭＡＸモデルをトレーニングするための半教師付き方法」の優先権を主張するものであり、その全体は参照により本明細書に編入される。
【０００２】
本発明は、カメラ又はその他の撮像装置を用いて対象物の画像が取得され、画像内のターゲットパターンの位置特定が撮像されている対象物上のパターンの位置特定に対応しているマシンビジョンに関する。
【背景技術】
【０００３】
マシンビジョンシステムの課題は、これらをユーザにとって使いやすく、より広範な潜在的ユーザに近づきやすいものにすることである。ユーザが明確に理解している側面は確かにある（例えばトレーニング画像のセットをどのように生成するか、及び状況のグラウンドトゥルースとは何か）。しかしながらそれ以上にマシンビジョンシステムのトレーニングと実行時動作の多くの側面は、適用するのがより困難である。
【０００４】
カメラ又はその他の撮像装置を用いて対象物の画像が取得され、コンピュータ又はその他の計算装置で実行される方法を用いて撮像されている対象物上のパターン位置が特定されるマシンビジョンにおいて。ターゲットパターンの少なくとも１つのインスタンスを含む画像のセットが与えられ、しかも当該ターゲットパターンの外観が変動することがある場合は、当該画像セット内のすべての画像に適用可能なパターン認識及び登録モデルの最小限のセットを特定してトレーニングすることが課題となり得る。パターン認識及び登録手順は米国特許第６，４０８，１０９号；６，６５８，１４５号；及び７，０１６，５３９号により詳細に説明されており、その開示内容は有用な背景情報として参照により本明細書に編入される。パターンが認識されたら、パターン認識及び登録手順（又は「ツール」）は、見られているパターンが、実際に、ツールがサーチしてその位置、向き、スケール、スキュー及びアスペクトを固定するパターンであることを確認する。このようなサーチツールの一例は、米国マサチューセッツ州ネイティック市のコグネックス株式会社から出ている製品ＰａｔＭａｘ(R)である。パターン認識及び登録手順は、ジオメトリックパターン検出の方法である。本明細書で記述する方法は、概してジオメトリックパターン検出に適用する。
【０００５】
例えば、パターンは円と線を含む要素から成っていてもよい。図１を参照すると、パターン１１０は円１１２と２本の交差する線１１４、１１６を含み、パターン１２０は円１２２と１対の線１２４、１２６を含み、パターン１３０は円１３２と１対の線１３４、１３６を含んでいる。トレーニングされた画像の画像セットにわたって、円は半径が変動し、線は太さ又は数が変動することがある。これは特に基体上に複数の層が積層される半導体又はその他の材料の分野で見られ、各層における特徴の歪みを招く可能性がある。パターンの極性も画像セットを通して変化することがある（パターン１２０とパターン１３０の差異として示されている）。画像は高いノイズを含むこともある。
【０００６】
この問題は少なくとも２つの構成要素を有する。第１に、トレーニング画像セットはノイズの多い画像から成るので単一の画像からクリーンなモデルをトレーニングすることは難しい。第２に、パターンはトレーニングセットにおいて異なる外観を持ち、そのことが単一モデルのトレーニングを困難にすると共に実行時にエラーが起こりやすくする。
【発明の概要】
【０００７】
先行技術の短所を克服するために、本明細書に記載のシステム及び方法はパターン認識及び登録モデルを用いてトレーニングを行う。例示的に、パターン検出モデルは、複数のトレーニング画像からトレーニングされた単一のモデルである。幾つかの実施形態において、合成モデルを使用してロバスト性を標準パターン認識及び登録モデルに比べて改善し、及び／又はターゲット領域の外観における小さい差異をモデル化する。ロバスト性を改善するために、合成モデルは単一の基本的パターンのインスタンスを示すノイズの多い（または別様に歪んだ）トレーニング画像からデータを結合して単一のロバストなモデルを形成する。これを達成するために、パターン認識及び登録モデルを用いるトレーニングエレメントは、入力された画像と既知の相対的位置又は姿勢（これは人が特定するかコンピュータが判定する）を使用する。
【０００８】
ターゲット領域の外観における小さい差異を把握するために、トレーニングセット内のターゲットパターンの外観の全範囲（又は少なくとも全範囲の大部分）に及ぶパターン認識及び登録モデルのセットをトレーニングするトレーニング方法が採用される。パターン認識及び登録モデルのセットは、パターンモデルの別個のインスタンスとして、又はパターンマルチモデルとして出現し得る。パターンマルチモデルはパターン認識及び登録モデルオン集合である。基礎モデルは、標準パターン認識及び登録モデル、又は合成パターンモデル、又は両者の結合であってもよい。パターンマルチモデルは、外観が顕著に変動するターゲットのモデル化で使用するためのものである。マルチモデルは、実際にあり得そうな時系列モデルの外観の予備知識を利用するために種々のモードで実行することができる。複数のパターンモデルをパターンマルチモデルフレームワークに組み入れることによりフロントエンド処理の量を減らすことができ、それによって、別個のパターンモデルインスタンスを実行することに比べて増分性能利得が可能になる。パターンマルチモデルはそのコンポーネントモデルからの結果を検査してオーバーラップについてフィルターをかけることができ、例えば２個のモデルからの結果がユーザの指定する閾値より多くオーバーラップしていないか検査し、次にパターンマルチモデルはより良好なマッチ（又はより高い得点）結果のみをユーザに戻すことができる。
【０００９】
以下に、本発明を添付の図面を参照して説明する。
【図面の簡単な説明】
【００１０】
【図１】図１は、既に述べたように、それぞれパターン認識及び登録手順に従い１つのパターンを含む３個の模範的な画像を示す。
【００１１】
【図２】図２は、例示的な実施形態により本発明の原理を実施するための模範的なマシンビジョンシステムの概略的なブロック図である。
【００１２】
【図３】図３は、例示的な実施形態により単一のパターン認識及び登録モデルをトレーニングするための手順のフローチャートである。
【００１３】
【図４】図４は、例示的な実施形態によりパターンマルチモデルをトレーニングし、現在トレーニングされて出力されるモデルの性能を測定するための手順のフローチャートである。
【００１４】
【図５】図５は、例示的な実施形態により出力されるモデル集合に追加するための候補の提案及びランク付けの手順のフローチャートである。
【００１５】
【図６】図６は、例示的な実施形態により最高得点の候補をユーザに提案し、パターンマルチモデルを出力する手順のフローチャートである。
【発明を実施するための形態】
【００１６】
図２は、例示的な実施形態により本発明の原理を実施するために用いられ得るマシンビジョンシステム２００の概略的なブロック図である。マシンビジョンシステム２００は、１以上の特徴２１５を有する対象物２１０の画像を生成する撮像装置２０５を含んでいる。撮像装置２０５は慣用的なビデオカメラ又はスキャナを備えていてもよい。そのようなビデオカメラは電荷結合素子（ＣＣＤ）、又は適当な画像情報を取得するためのその他のシステム、例えばよく知られたＣＭＯＳセンサであってもよい。撮像装置２０５によって生成される画像データ（又はピクセル）は、画像強度、例えばシーン内の各点色又は輝度を撮像装置２０５の解像度の範囲内で表す。撮像装置２０５は通信パス２２０を介してデジタル画像データを画像分析システム２２５に伝送する。画像分析システム２２５は、慣用的なデジタルデータプロセッサ、例えばコグネックス社から市販されているタイプの視覚処理システムを備えていてもよい。画像分析システム２２５は、慣用的なマイクロコンピュータ又はその他の例示的な計算装置を備えていてもよい。例えばパーソナルデジタルアシスタント（ＰＤＡ）等を含む他の形態のインタフェースを利用することができる。代替的な実施形態において、撮像装置は分析システムの機能を実行するための処理能力を含んでいてもよい。そのような実施形態では別個の画像分析システムの必要はない。更に代替的な実施形態において、撮像装置はトレーニング目的のために画像分析システムと相互に動作接続されてもよい。トレーニングが行われたら、１以上の適当なモデルは実行時に使用するために撮像装置に保存できる。
【００１７】
画像分析システム２２５は、本発明の教示に従い、複数の画像間に類似の特徴を検出してマシンビジョンシステムをトレーニングするための適当な認識及び登録情報を生成するようにプログラムされ得る。画像分析システム２２５は１以上の中央処理ユニット（プロセッサ）２３０、主メモリ２３５、入力／出力システム２４５、及び１以上のディスクドライブ、又は他の形態の大容量記憶装置２４０を有していてもよい。例示的に、入力／出力システム２４５は通信パス２２０によって撮像装置２０５と画像分析システム２２５とを相互接続する。システム２２５は、本発明の教示に従いプログラミング命令によって本発明の新規のマルチ画像トレーニングされたパターン認識及び登録を実行するように設定できる。当業者によって理解されるように、本発明の原理を実装するために代替的なハードウェア及び／又はソフトウェア設定を利用することができる。具体的には、本発明の教示はソフトウェア、ハードウェア、ファームウェア及び／又はそれらの組み合わせにおいて実装され得る。更に、トレーニング時とは対照的に、実行時にはマシンビジョンシステム２００に追加のコンポーネントを含めることができる。例えば、対象物２１５はコンベヤベルト又はその他の組立ライン機器等によって搬送されてもよい。
【００１８】
本発明の例示的な実施形態により、マシンビジョンシステム２００を利用して実行時マシンビジョンシステムのためのトレーニングモデルを生成できる。従って、マシンビジョンシステム２００を利用して、類似のコンポーネントを用いる複数のマシンビジョンシステムで使用可能なトレーニングモデルを生成できる。
【００１９】
更に、本明細書で図示及び説明されるパターンエレメント（又はパターン認識及び登録要素）、並びにそれらと関連するモデルは、概して画像分析システム２２５の内部にあることに留意すべきである。しかしながら、エレメント及びモデルの配置と保存は、通常技術の範囲内で大いに変更させ得る。
【００２０】
本発明はマシンビジョンシステム２００の観点から説明されているが、本発明の原理は種々異なる実施形態で利用できることに留意すべきである。例えばマシンビジョンシステムという用語は、代替的なシステムを含むものとして受け取られるべきである。より一般的に、本発明の原理は画像中のサブパターンを登録する任意のシステムに実装させることができる。例えば１実施形態では、画像等を処理するようにプログラムされたスタンドアロン型コンピュータと相互に動作接続されたスタンドアロン型カメラから成る慣用的なマシンビジョンシステムを含んでいてもよい。しかしながら、本発明の原理は画像中のサブパターンを登録するその他の装置及び／又はシステムで利用できる。例えば、コグネックス社から発売されている製品チェッカ等のビジョンセンサ、又は画像取得能力及び／又は処理能力を有するその他の装置である。そのようなビジョンセンサは、コグネックス社製ビジョンビュー等の別個のモジュールを介してトレーニングされ、及び／又は、設定され得る。そのような実施形態において、ユーザは単一の部分の代わりに複数の部分を用いてビジョンセンサをトレーニングできる。ユーザは第１の部分を選択して、それをセンサの前に置き、トレーニング部分が位置決めされたことをシステムに示す。第２（第３等々）の部分も同様にトレーニングできる。ユーザは、例えばグラフィカルユーザインタフェース（ＧＵＩ）及び／又はボタン、あるいは、トレーニングモジュール及び／又はビジョンセンサ自体に配置されたその他のコントロールサーフェスを用いてトレーニングステップを制御できる。更に、本発明の機能性は手持ち装置や、互換性のあるワイヤレス装置等に組み入れることができる。そのようなものとしてマシンビジョンシステムという用語は広く解釈して、本発明の１以上の教示を利用するシステム及び装置を包含すべきである。
【００２１】
単一のパターン認識及び登録モデルのトレーニング
【００２２】
例示的な実施形態により、パターン認識及び登録モデルは複数の画像からトレーニングされる。単一のパターン認識及び登録モデルのトレーニングのより詳細な説明は、例えば米国特許第８，３１５，４５７号を参照することとし、その開示内容は有用な背景情報として参照により本明細書に編入される。合成モデルは、ロバスト性を標準パターンモデルに比べて改善するために、又はターゲット領域の外観における小さい差異をモデル化するために使用できる。本明細書で実装されるトレーニングエレメントは、１組のトレーニング画像におけるターゲットパターンの外観の全範囲に及ぶ、パターン認識及び登録モデルのセットをトレーニングする。このモデルのセットは、単一のパターン認識及び登録モデル、又は本明細書でパターン「マルチモデル」エレメントと呼ばれるモデルの集合であってもよい。マルチモデルエレメントは、外観が顕著に変動するターゲットのモデル化で使用するためのものである。マルチモデルは、実際にあり得そうな時系列モデルの外観の予備知識を利用するために種々のモードで実行することができる。
【００２３】
本明細書で用いられる「トレーニングエレメント」（又はトレーニングモジュール）という用語は、トレーニングモデルの生成において実行されるステップの非一時的な実施形態を表す。トレーニングエレメントは、特定のタスクのみ実行するように設計された１つの（又は幾つかの）ルーチン又は機能を含む非一時的なコンピュータプログラムの部分である。本明細書で図示及び説明される各エレメント（又はモジュール）は、マシンビジョンシステム内部で単独で又は他のモジュールと組み合わせて使用できる。トレーニングエレメントは、データベースに保存されているトレーニング画像の全範囲に及ぶ１組のモデルをトレーニングすることによってトレーニングモデルを作成する。加えて、本明細書で用いられる「パターン認識及び登録モデル」又は「パターンモデル」という用語は、別途注記しない限り、概して米国特許第８，３１５，４５７号で開示されているパターンモデルを表す。
【００２４】
ここで図３を参照すると、例示的な実施形態により単一のパターン認識及び登録モデルをトレーニングするためのトレーニングエレメントによって実行される手順３００のフローチャートが示されている。ステップ３１０では、アルゴリズム（ユーザ又はコンピュータにより提供されてもよい）に対する初期入力は、初期トレーニング画像とトレーニングされるべきパターンを規定する領域（「関心のある領域」）であり、これもユーザ又はコンピュータにより提供されてもよい。手順３００はこの入力を受け取り、ステップ３２０で３２５でのトレーニングパラメータを用いて第１の（初期）パターン認識及び登録（「ＰａｔＭａｘ」）モデル（Ｐ０）をトレーニングする。次にステップ３３０で、システムが画像セット（少なくとも残りのトレーニング画像の一部又はサブセット）にわたってパターンモデルＰ０の実行を反復する。この画像セットはユーザ又はコンピュータにより提供され、以前にデータベースに保存されたものである。システムは残りの全トレーニング画像セット又は残りの画像セットの一部でモデルを反復でき、結果得点、姿勢及びマッチング領域データを保存する。ステップ３４０で、結果は得点順（グラウンドトゥルースデータが利用できる場合は精度順）にソートされる。グラウンドトゥルースはユーザにより供給されてもよいし、あるいは、コンピュータにより生成されてもよい。ステップ３５０で、手順はトップ画像（ＮＣ−１）（ＮＣは、合成モデルトレーニングに入力される画像数を規定するパラメータ）を入力し、ステップ３６０で、以前にＰ０の実行において生成された結果からの姿勢及び領域情報を用いて合成モデルをトレーニングする。
【００２５】
参照することにより本明細書に有用な背景情報として編入される米国特許第８，３１５，４５７号により詳細に説明されているように、パターン認識及び登録のためにマルチ画像トレーニングが実行される。マシンビジョンシステムは複数（「Ｎ」）のトレーニング画像を取得する。１個の画像が選択されると、その他の（Ｎ−１）画像は実質的にこの選択された画像に登録される。この選択と登録が反復されて、Ｎ個の画像の各々はベースライン画像として利用される。ベースライン画像としてＮ個の画像の各々について反復することにより、この手順は対応付けられた特徴のデータベースを構築するが、これは画像間で安定している特徴のモデルを形成する際に利用することができる。次に１組の対応する画像特徴を表す特徴がモデルに追加される。対応付けられた特徴のデータベースを形成するために、各々の特徴は境界検査ツール又はマシンビジョンシステム内の輪郭と対応させる他の慣用的な技術を用いて対応付けることができる。例示的に、モデルのために選択される特徴は、特徴が現れる各々の画像で対応する特徴間の最大距離を最小化するものである。モデルに追加される特徴は、特徴が現れる各々の画像からの特徴の平均を含んでいてもよい。プロセスは、閾値要件を満たすすべての特徴が把握されるまで継続する。このプロセスの結果生じるモデルは、少なくとも閾値であるＮ個のトレーニング画像で検出される安定した特徴を表す。このプロセス（米国特許第８，３１５，４５７号で開示）は、それらが安定した特徴であるというトレーニング画像の証拠によって充分支持される特徴を特定する。次にモデルは、アラインメント、サーチ又は検査ツールを特徴のセットでトレーニングするために使用できる。
【００２６】
再び図３を参照すると、ユーザは追加の合成モデルトレーニングパラメータ３５５を供給できるが、これはＮＣトレーニング画像のどの分画が出力モデルに含まれるべき当該画像に特有の特徴を備えなければならないかを規定する。例示的に、この分画は８０％〜９０％等のパーセンテージであってもよいが、具体的な応用に応じて通常技術の範囲内で大いに変わり得る。ユーザはまたマッチとみなされるべき異なるトレーニング画像からの特徴に対して近接閾値も規定できる。
【００２７】
パターン認識及び登録マルチモデルのトレーニング
【００２８】
ここで図４を参照すると、例示的な実施形態によりパターン認識及び登録マルチモデルをトレーニングし、現在トレーニングされて出力されるモデルの性能を測定するための手順４００のフローチャートが示されている。ステップ４１０で、この手順に対する初期入力（通常はユーザから提供されるが、コンピュータにより提供されてもよい）は、トレーニング画像（Ｉ０）、Ｒ０画像Ｉ０内のパターンの範囲を規定する領域、トレーニング画像Ｉ０内のパターン（Ｏ０）の原点、及び関心のあるパターンの外観の範囲を示す１組のトレーニング画像｛Ｉ１，Ｉ２，…，ＩＮ｝である。
【００２９】
この手順はステップ４２０でこれらの入力を使用して、上に図３で単一のパターン認識及び登録モデルのトレーニングについて説明した手順を用いて合成モデルパラメータ４２２に従い第１の「ＰａｔＭａｘ」パターン合成モデル（ＰＣＭＯＵＴ０）をトレーニングする。トレーニングパラメータ４２４は出力されるモデル（ＴＰＯＵＴ）のトレーニングで使用され、トレーニングされたモデルがトレーニング画像の全セットにわたる探索で高得点の誤った検出を生じないことを保証するために充分制限的である。パターン認識及び登録マルチモデルフレームワークを用いる場合、ＰＣＭＯＵＴ０は出力されるマルチモデルＰＭＭＯＵＴに追加される。マルチモデルフレームワークを用いなければ、ＰＣＭＯＵＴ０は出力されるセットの第１のパターン認識及び登録モデル（これは既述目的のためにＰＭＭＯＵＴ０とも呼ばれる）として保存される。
【００３０】
次に、ステップ４３０ではこの手順は、同じ（４１０からの）入力を使用して異なる（第２の）パターン認識及び登録モデルＰＣＭＣＡＮＤ０を、図３で単一のパターン認識及び登録モデルについて示した上述のアルゴリズムを用いてトレーニングする。このプロセスで用いられるパターントレーニングパラメータＴＰＣＡＮＤ４３４は、専ら更に出力される合成モデルのトレーニング用の候補の検出に使用されるモデルをトレーニングするためのパラメータである。これらのトレーニングパラメータ４３４は、出力されるモデルを生み出すのに使用されるパラメータよりも緩やかでなければならない。ここで前提とされねばならないのは、ＰＣＭＣＡＮＤ０はより制限的にトレーニングされたＰＣＭＯＵＴ０を用いた場合に可能なものよりも多様なトレーニング候補の範囲を提案できるが、誤った検出はユーザによって拒否され、又は自動的に既知のグラウンドトゥルースに準拠され得ることである。出力されるモデルに関しては、ＰＣＭＣＡＮＤ０はパターン認識マルチモデルＰＭＭＣＡＮＤに追加されてもよいし、他のタイプのモデル集合に保存されてもよい。
【００３１】
性能測定
【００３２】
ステップ４４０で、パターン候補を検出して、「最良」（最高得点又はマッチ）とみなされる候補をトレーニングするプロセスを開始する前に、システムは最初に現在トレーニングされて出力されるモデル、即ちＰＭＭＯＵＴの性能を測定しなければならない。性能を測定するために、この手順は画像の全テストセットにわたってモデルを実行し、０に初期化された複合得点を計算する。ＰＭＭＯＵＴがユーザの定義する信頼度閾値より大きい得点を有する画像（得点範囲は０〜１）中にパターンを検出したら、当該得点は複合得点に加算される。しかしながらＰＭＭＯＵＴがユーザの定義する信頼度閾値より大きい得点を有する画像中にパターンを検出できなければ、複合得点から１が減算される。その他の類似の採点機能も当業者によって実装されることができ、グラウンドトゥルースデータが利用できる場合はアラインメント精度の測定を組み入れてもよい。
【００３３】
性能測定の後、手順の残りのステップは繰り返し反復されてよく、その場合は変数「ｔ」で表される。ここで、例示的な実施形態により候補モデルを提案するための手順のフローチャートを示す図５及び図６を参照する。図５を参照すると、手順５００は出力されるモデル集合ＰＭＭＯＵＴ（ｔ）に追加するための候補を提案及びランク付けするためのものである。５１０で、反復（ｔ）に対する入力は候補ＰＭＭＣＡＮＤ（ｔ）及び出力マルチモデルＰＭＭＯＵＴ（ｔ）を含み、ここで、
ＰＭＭＣＡＮＤ（ｔ）は、｛ＰＣＭＣＡＮＤ（０）、ＰＣＭＣＡＮＤ（１）、
…、ＰＣＭＣＡＮＤ（ｔ）｝を含み、
ＰＭＭＯＵＴ（ｔ）は、｛ＰＣＭＯＵＴ（０）、ＰＣＭＯＵＴ（１）、…
、ＰＣＭＯＵＴ（ｔ）｝を含む。
【００３４】
この手順のステップ５２０で、候補マルチモデルＰＭＭＣＡＮＤは出力されるモデル集合ＰＭＭＯＵＴ（ｔ）に追加するための候補を提案及びランク付けする。これを達成するために、候補パターンマルチモードＰＭＭＣＡＮＤ（ｔ）が各トレーニング画像Ｉｉで実行される。容認可能な結果が戻されたら（即ちモデル得点がユーザの定義する容認閾値より高い位置が検出されたら）、ステップ５２０でマッチング領域Ｒｉ及び／又は原点Ｏｉを使用して候補パターン合成モデルＰＣＭＯＵＴ（ｉ）（上でＰＭＭＯＵＴ（ｔ）に対する単一のモデルのトレーニングについて説明されたように）をトレーニングする。それゆえ候補合成モデルは、画像Ｉｉの候補領域Ｒｉと、当該候補画像領域（画像ＩｉのＲｉ）の最良マッチングＮｃ−１画像の対応する領域からトレーニングされる。
【００３５】
ステップ５３０で、この手順は候補パターン合成モデルのセットを通して反復し、各々について最初に出力される集合に追加してＰＭＭＯＵＴ（ｔ）→ＰＭＭＯＵＴ（ｔ）’となり、次いでその性能を上で性能測定について説明したのと同じ仕方で測定する。得点を獲得して出力されるマルチモデルＰＭＭＯＵＴ（ｔ）’に拡張することが提案された後、ＰＣＭＯＵＴ（ｉ）が取り除かれてＰＭＭＯＵＴ（ｔ）’→ＰＭＭＯＵＴ（ｔ）となる。ステップ５３４で、これらの得点に従って、候補がソートされる（即ちＰＣＭＯＵＴ（ｉ））。
【００３６】
手順５００の最後に、ステップ５４０でシステムは、ＰＭＭＣＡＮＤ（ｔ）が容認可能な結果を検出し得る場合にはすべてのトレーニング画像をカバーする候補パターン合成モデルの集合を持つ。この手順はこれらのモデルを、それぞれ出力されるパターンモデル集合（又はマルチモデル）ＰＭＭＯＵＴ（ｔ）にどの程度のカバレッジの改善を提供するかに応じてランク付けする。ユーザの定義する量より多く得点を改善する候補が検出されなければ、停止基準が満たされたとみなされ得る。
【００３７】
ここで例示的な実施形態により候補モデルを提案し、パターンマルチモデルを出力するための手順６００を示す図６を参照する。ステップ６２０で、この手順はユーザに最高得点候補を（例えば候補画像Ｉｉ内の候補の関心のある領域を表示することによって）提案する。ステップ６２２で、ユーザは候補を容認又は拒否でき、又は等価的にコンピュータに最高得点候補が提示されてよく、コンピュータは既知のグラウンドトゥルースに基づいて候補を容認又は拒否する。候補が容認されたら、ステップ６３０で、ＰＭＭＣＡＮＤ（ｔ）の出力に僅かなアラインメント誤差がある場合に、ユーザは新しいモデルの原点を調整する機会が与えられ得る。ステップ６２４で候補が拒否されたら、トップ候補ＰＣＭＯＵＴ（ｔｏｐ）は捨てられ、システムは順序付きリストにおける次の候補を提案する。
【００３８】
候補が容認されたら、ステップ６４０で容認された候補モデルＰＣＭＯＵＴ（ａｃｃｅｐｔｅｄ）が現在の出力モデル集合に追加されてＰＭＭＯＵＴ（Ｔ）→ＰＭＭＯＵＴ（ｔ＋１）となる。このとき候補検出モデル集合（又はマルチモデル）は好ましくは類似のモデルで更新されるべきである。ステップ６５０で、候補モデルＰＣＭＣＡＮＤ（ａｃｃｅｐｔｅｄ）は、トレーニングパラメータＴＰＣＡＮＤを用いて画像Ｉ（ａｃｃｅｐｔｅｄ）の領域Ｒａｃｃｅｐｔｅｄからトレーニングされる。次にステップ６６０でＰＣＭＣＡＮＤ（ａｃｃｅｐｔｅｄ）が追加されてＰＭＭＣＡＮＤ（ｔ）→ＰＭＭＣＡＮＤ（ｔ＋１）となる。ステップ６７０で反復（ｔ）に出力されるのは、候補マルチモデルＰＭＭＣＡＮＤ（ｔ＋１）及び出力マルチモデルＰＭＭＯＵＴ（ｔ＋１）である。
【００３９】
種々の例示的な実施形態は、複数のトレーニング画像の各トレーニング画像にわたって反復されるパターン認識及び登録モデルン生成を提供して、トレーニング画像の全データベースに及ぶ（即ち有効な）モデルを提供する。これは実行時システムのロバスト性及び効率を改善する。
【００４０】
以上にて、本発明の例示的な実施形態を詳細に説明した。本発明の精神と範囲から逸脱することなく種々の修正及び追加を行うことができる。上述した種々の実施形態の各々の特徴は、関連する新しい実施形態において複数の特徴の組合せを提供するために、必要に応じて説明された他の実施形態の特徴と組み合わすことができる。更に、以上では本発明の装置及び方法の幾つかの別個の実施形態が記述されているが、本明細書で記述されているものは本発明の原理の応用の例示に過ぎない。例えば本明細書で用いられる「プロセス」及び／又は「プロセッサ」という用語は、機能及びコンポーネントに基づき多様な電子的ハードウェア及び／又はソフトウェアを含むために広く理解されるべきである。本明細書で使用される様々な方向および／または向きを表わす用語、例えば、「垂直」、「水平」、「上」、「下」、「底部」、「頂部」、「側部」、「前部」、「後部」、「左」、「右」およびこれに類するものは、相対的な表現法として用いられているに過ぎず、重力等の固定した座標系を基準とした絶対的な向きを表わすものではない。更に、表現されたプロセス又はプロセッサは他のプロセス及び／又はプロセッサと組み合わされ、又は種々のサブプロセス又はプロセッサに分割されてもよい。そのようなサブプロセス及び／又はサブプロセッサは本明細書に記載された実施形態に従って種々に組み合わせることができる。同様に、本明細書に記載された機能、プロセス及び／又はプロセッサは、プログラム命令の非一時的コンピュータ可読媒体から成る電子的ハードウェア及びソフトウェア、又はハードウェアとソフトウェアの組み合わせを用いて実装され得ることが明確に考えられている。更に、タスクを処理する一部又はすべてのビジョンシステムは、有線又は無線通信（ネットワーク）リンクを介してメインモジュールとインタフェースモジュールを通して作動的に結合されているメインモジュール又は遠隔プロセッサ（例えばサーバ又はＰＣ）において実行され得ると考えられている。従って、以上の説明は単なる例示として受け取られるべきであり、本発明の範囲を別途制限するものではない。
【図１】
2020053084.tif 000003
【図２】
2020053084.tif 000004
【図３】
2020053084.tif 000005
【図４】
2020053084.tif 000006
【図５】
2020053084.tif 000007
【図６】
2020053084.tif 000008
【手続補正書】
【提出日】令和2年1月7日(2020.1.7)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
パターン認識及び登録マルチモデルのトレーニング方法であって、
トレーニングされるべきパターンを規定する領域を有する少なくとも１個の初期トレーニング画像を提供するステップであって、前記少なくとも１個の画像は複数のトレーニング画像を含むデータベースから提供される前記ステップと、
前記初期トレーニング画像と前記領域から第１のパターンモデルをトレーニングし、これを出力されるマルチモデルに追加するステップと、
残りの画像にわたって反復するステップであって、各画像について
(i)  追加の１個のパターンモデルがトレーニングされてよく、
(ii)  前記第１のモデルと前記追加のモデルとの結合に対するメトリックはデータベース内の残りのトレーニング画像にわたって採点されてもよい前記ステップと、
高得点の１以上の追加のパターンモデルを出力されるマルチモデルに追加するステップと、
を含む、上記方法。
【請求項２】
前記第１のパターンモデルのトレーニングは、前記第１セットのパターン認識及び登録トレーニングパラメータに従って実行され、前記第２のパターンモデルのトレーニングは第２セットのパターン認識及び登録トレーニングパラメータに従って実行される、請求項１に記載の方法。
【請求項３】
前記第１及び／又は第２のパターンモデルは合成モデルを含む請求項１に記載の方法。
【請求項４】
前記第２のパターンモデルは、トレーニングすべき第１のモデルを用いて候補領域を生成する際に自由度を緩和し、次いで前記第２のパターンモデルが実行される際にメトリックが改善されたか否か判定するために自由度を強化することによってトレーニングされる、請求項１に記載の方法。
【請求項５】
前記メトリックは得点又は特徴の例の数を含む請求項４に記載の方法。
【請求項６】
第２のパターンモデルは初期トレーニング画像と規定された領域からトレーニングされるが、異なるトレーニングパラメータを使用する結果として、第２のパターンモデルは元のパターンの歪められた、ノイズの多い、又は何らかの形で修正された例を検出する可能性が高く、
追加のパターンモデルのトレーニングに使用するために、前記第２のパターンモデルを用いて候補領域を提案する、請求項４に記載の方法。
【請求項７】
前記パターンの原点はパターンモデルトレーニングに対する追加の入力である、請求項１に記載の方法。
【請求項８】
前記高得点の追加のパターンモデルは、前記出力されるマルチモデルに可能な追加が行われる前に、最初にユーザに提示されて容認、拒否又は再採点される、請求項１に記載の方法。
【請求項９】
ユーザが、追加のパターンの原点を前記出力されるマルチモデルに追加する前に修正してもよい、請求項１に記載の方法。
【請求項１０】
前記追加のパターンモデルに対する前記トレーニングプロセスは繰り返し反復的であり、従って前記マルチモデルが拡張して３個以上の２パターンモデルを含むことを可能にする、請求項１に記載の方法。
【請求項１１】
停止条件が適用され、前記停止条件はメトリックの相対的改善から導出される、請求項１０に記載の方法。
【請求項１２】
前記マルチモデルに追加するための候補モデルの姿勢を容認又は拒否及び／又は補正するために、前記トレーニング画像データベース内の複数の画像の各々に対して供給されるグラウンドトゥルースが使用されてもよい、請求項１に記載の方法。
【請求項１３】
パターン認識及び登録モデルを生成するためのシステムであって、
少なくとも１個の画像はトレーニングされるべきパターンを規定する領域を有する、複数のトレーニング画像を含むデータベースと、
複数のトレーニング画像にわたって初期パターン認識及び登録モデルを反復し、得点、姿勢及びマッチング領域データを採点することによって初期パターン認識及び登録モデルをトレーニングするトレーニングエレメントと、
トレーニングされたモデルの性能を複数のトレーニング画像にわたって測定する性能測定要素と
を含む、上記システム。
【外国語明細書】
2020053084000001.pdf