(57)【要約】【課題】  システム構成を複雑化させることなく、撮影中の視野と作成中のモザイク画像との位置関係を容易に認識することができる撮像装置を提供する。【解決手段】  検査対象物を載せたまま移動させることができる可動ステージ２３０と、検査対象物を撮影して動画像を生成するカメラ２１０と、カメラ２１０の実視野よりも視野の広いモザイク画像を保持するモザイク画像保持手段と、動画像を構成するフレーム画像及びモザイク画像から特徴量を抽出する特徴量抽出部１３１と、特徴量の比較によって、フレーム画像及びモザイク画像間の相対位置を判定する相対位置判定部１３２と、相対位置の判定結果に基づいて、フレーム画像の表示位置を更新するライブ画像更新部１２３により構成される。相対位置判定部１３２は、過去のフレーム画像に関する相対位置の判定結果に基づいてフレーム画像とモザイク画像との重複領域を推定し、重複領域内の特徴量について比較を行う。【選択図】  図３
2010141697.tif 000002
【特許請求の範囲】
【請求項１】
検査対象物を載せたまま異なる２方向に移動させることができる可動ステージと、
上記可動ステージと対向配置され、上記検査対象物を撮影して、連続する複数のフレーム画像からなる動画像を生成するカメラと、
上記カメラの実視野よりも視野の広いモザイク画像を保持するモザイク画像保持手段と、
上記フレーム画像及び上記モザイク画像から特徴量を抽出する特徴量抽出手段と、
上記特徴量の比較によって、上記フレーム画像及び上記モザイク画像間の相対位置を判定する相対位置判定手段と、
上記相対位置の判定結果に基づいて、上記フレーム画像の上記モザイク画像に対する表示位置を更新し、上記モザイク画像上に上記動画像を表示するライブ画像表示手段とを備え、
上記相対位置判定手段は、過去の上記相対位置の判定結果に基づいて上記フレーム画像及び上記モザイク画像の重複領域を推定し、上記重複領域内の特徴量を比較することを特徴とする撮像装置。
【請求項２】
上記相対位置判定手段は、重複領域内の特徴量を比較した結果、相対位置が判定できなかった場合に、フレーム画像の全特徴量とモザイク画像の特徴量とを比較して相対位置を判定することを特徴とする請求項１に記載の撮像装置。
【請求項３】
上記相対位置判定手段が、最初のフレーム画像について、フレーム画像の全特徴量とモザイク画像の特徴量とを比較して相対位置を判定することを特徴とする請求項１又は２に記載の撮像装置。
【請求項４】
取込み指示に基づいて上記フレーム画像を取り込み、取り込んだフレーム画像に関する上記相対位置の判定結果に基づいて当該フレーム画像を上記モザイク画像に張り合わせ、新たなモザイク画像を生成するモザイク画像生成手段を備えたことを特徴とする請求項１に記載の撮像装置。
【請求項５】
上記特徴量抽出手段は、上記モザイク画像に対して最後に張り合わされたフレーム画像を基準画像として、当該基準画像内の特徴量を抽出し、
上記相対位置判定手段は、上記フレーム画像の特徴量と上記基準画像の特徴量とを比較することによって、上記フレーム画像及び上記モザイク画像間の相対位置を判定することを特徴とする請求項４に記載の撮像装置。
【請求項６】
上記動画像を構成するフレーム画像を縮小して位置合わせ用フレーム画像を生成する第１位置合わせ用縮小手段と、
縮小前のフレーム画像を張り合わせて保存用モザイク画像を生成するモザイク画像生成手段と、
上記保存用モザイク画像を縮小して位置合わせ用モザイク画像を生成する第２位置合わせ用縮小手段と、
上記動画像を構成するフレーム画像を縮小して表示用フレーム画像を生成し、上記保存用モザイク画像を縮小して表示用モザイク画像を生成する表示用縮小手段とを備え、
上記特徴量抽出手段が、上記位置合わせ用フレーム画像及び上記位置合わせ用モザイク画像から特徴量を抽出し、
上記相対位置判定手段が、上記位置合わせ用フレーム画像及び上記位置合わせ用モザイク画像間の相対位置を判定し、
上記ライブ画像表示手段が、上記表示用モザイク画像上に上記表示用フレーム画像によって構成される動画像をライブ画像として表示し、
上記モザイク画像生成手段が、上記位置合わせ用モザイク画像よりも高い解像度でフレーム画像及び保存用モザイク画像間の相対位置を推定して当該フレーム画像を当該保存用モザイク画像に張り合わせ、新たな保存用モザイク画像を生成することを特徴とする請求項１に記載の撮像装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、撮像装置に係り、さらに詳しくは、検査対象物を撮影するカメラによって生成された動画像をカメラの実視野よりも視野の広いモザイク画像上に表示することができる撮像装置に関する。
【背景技術】
【０００２】
視野を変更しながら撮影した複数の静止画像を張り合わせることによって、カメラの実視野よりも視野の広い１枚の広視野画像を作成する技術として、イメージモザイクが従来から知られている。対物レンズによって拡大された被写体を撮影するデジタルマイクロスコープなどの撮像装置の場合、検査対象物が載置された可動ステージを移動させることによって視野を変更することができる。上記広視野画像は、モザイク画像と呼ばれ、この様にして視野を変更しながら撮影された複数の静止画像を画像間の相対位置に基づいて連結することによって作成される。
【０００３】
例えば、可動ステージの位置を検出するセンサーを備え、ユーザが指定した撮影範囲を自動的に撮影する従来の撮像装置の場合、可動ステージの制御情報から画像間の相対的位置関係を判断して、静止画像の張り合わせが行われる。この様な撮像装置では、撮影範囲を指定して一旦撮影が開始されると、途中で撮影範囲を変更することができなかった。また、可動ステージの位置を高精度に検出する必要があることから、システム構成が複雑化し、コスト高となってしまうという問題があった。
【０００４】
一方、画像間の相対的位置関係を画像間のパターンマッチングによって判断して、静止画像の張り合わせを行う撮像装置もある。しかしながら、撮影中の視野と作成中のモザイク画像との位置関係をユーザにディスプレイ上で確認させながら静止画像を取り込んでモザイク画像と連結させることができる撮像装置はなかった。
【発明の開示】
【発明が解決しようとする課題】
【０００５】
本発明は、上記事情に鑑みてなされたものであり、システム構成を複雑化させることなく、撮影中の視野と作成中のモザイク画像との位置関係を容易に認識することができる撮像装置を提供することを目的とする。特に、撮影中の動画像を作成中のモザイク画像上の適切な位置にライブ画像として表示させる際に、動画像を構成するフレーム画像とモザイク画像との位置合わせの精度を向上させた撮像装置を提供することを目的とする。
【課題を解決するための手段】
【０００６】
第１の本発明による撮像装置は、検査対象物を載せたまま異なる２方向に移動させることができる可動ステージと、上記可動ステージと対向配置され、上記検査対象物を撮影して、連続する複数のフレーム画像からなる動画像を生成するカメラと、上記カメラの実視野よりも視野の広いモザイク画像を保持するモザイク画像保持手段と、上記フレーム画像及び上記モザイク画像から特徴量を抽出する特徴量抽出手段と、上記特徴量の比較によって、上記フレーム画像及び上記モザイク画像間の相対位置を判定する相対位置判定手段と、上記相対位置の判定結果に基づいて、上記フレーム画像の上記モザイク画像に対する表示位置を更新し、上記モザイク画像上に上記動画像を表示するライブ画像表示手段とを備え、上記相対位置判定手段が、過去の上記相対位置の判定結果に基づいて上記フレーム画像及び上記モザイク画像の重複領域を推定し、上記重複領域内の特徴量を比較するように構成される。
【０００７】
この撮像装置では、フレーム画像及びモザイク画像から抽出した特徴量の比較によってこれらの画像間の相対位置を判定し、その判定結果に基づいてモザイク画像上に動画像を表示するので、撮影中の動画像を作成中のモザイク画像上の適切な位置にライブ画像として表示させることができる。この様な構成によれば、撮影中の動画像が作成中のモザイク画像上の適切な位置にライブ画像として表示されるので、撮影中の視野と作成中のモザイク画像との位置関係をユーザに確認させながらフレーム画像を取り込んでモザイク画像と連結させることができる。また、フレーム画像及びモザイク画像から抽出した特徴量の比較によってこれらの画像間の相対位置を判定するので、システム構成が複雑化するのを抑制することができる。さらに、特徴量の比較を行う際、過去の相対位置の判定結果に基づいてフレーム画像とモザイク画像との重複領域を推定し、この重複領域内の特徴量について比較を行うので、動画像を構成するフレーム画像とモザイク画像との位置合わせの精度を向上させることができる。
【０００８】
第２の本発明による撮像装置は、上記構成に加え、上記相対位置判定手段が、重複領域内の特徴量を比較した結果、相対位置が判定できなかった場合に、フレーム画像の全特徴量とモザイク画像の特徴量とを比較して相対位置を判定するように構成される。この様な構成によれば、重複領域内の特徴量の比較では相対位置が判定できなかった場合に、フレーム画像の全特徴量とモザイク画像の一部又は全部の特徴量とを比較して相対位置の判定を行うので、画像の一部がピンボケしたようなフレーム画像であっても、相対位置の判定結果を確実に得ることができる。
【０００９】
第３の本発明による撮像装置は、上記構成に加え、上記相対位置判定手段が、最初のフレーム画像について、フレーム画像の全特徴量とモザイク画像の特徴量とを比較して相対位置を判定するように構成される。この様な構成によれば、最初のフレーム画像については、フレーム画像の全特徴量とモザイク画像の一部又は全部の特徴量とを比較して相対位置の判定を行うので、撮影を一旦中断させ、その後、撮影を再開させたような場合に、最初のフレーム画像についても画像間の相対位置を判定することができる。
【００１０】
第４の本発明による撮像装置は、上記構成に加え、取込み指示に基づいて上記フレーム画像を取り込み、取り込んだフレーム画像に関する上記相対位置の判定結果に基づいて当該フレーム画像を上記モザイク画像に張り合わせ、新たなモザイク画像を生成するモザイク画像生成手段を備えて構成される。この様な構成によれば、取り込んだフレーム画像に関する相対位置の判定結果に基づいてフレーム画像の張り合わせを行うので、処理負荷が増大するのを抑制することができる。
【００１１】
第５の本発明による撮像装置は、上記構成に加え、上記特徴量抽出手段が、上記モザイク画像に対して最後に張り合わされたフレーム画像を基準画像として、当該基準画像内の特徴量を抽出し、上記相対位置判定手段が、上記フレーム画像の特徴量と上記基準画像の特徴量とを比較することによって、上記フレーム画像及び上記モザイク画像間の相対位置を判定するように構成される。
【００１２】
第６の本発明による撮像装置は、上記構成に加え、上記動画像を構成するフレーム画像を縮小して位置合わせ用フレーム画像を生成する第１位置合わせ用縮小手段と、縮小前のフレーム画像を張り合わせて保存用モザイク画像を生成するモザイク画像生成手段と、上記保存用モザイク画像を縮小して位置合わせ用モザイク画像を生成する第２位置合わせ用縮小手段と、上記動画像を構成するフレーム画像を縮小して表示用フレーム画像を生成し、上記保存用モザイク画像を縮小して表示用モザイク画像を生成する表示用縮小手段とを備え、上記特徴量抽出手段が、上記位置合わせ用フレーム画像及び上記位置合わせ用モザイク画像から特徴量を抽出し、上記相対位置判定手段が、上記位置合わせ用フレーム画像及び上記位置合わせ用モザイク画像間の相対位置を判定し、上記ライブ画像表示手段が、上記表示用モザイク画像上に上記表示用フレーム画像によって構成される動画像をライブ画像として表示し、上記モザイク画像生成手段が、上記位置合わせ用モザイク画像よりも高い解像度でフレーム画像及び保存用モザイク画像間の相対位置を推定して当該フレーム画像を当該保存用モザイク画像に張り合わせ、新たな保存用モザイク画像を生成するように構成される。
【発明の効果】
【００１３】
本発明による撮像装置によれば、撮影中の動画像が作成中のモザイク画像上の適切な位置にライブ画像として表示されるので、撮影中の視野と作成中のモザイク画像との位置関係をユーザに確認させながらフレーム画像を取り込んでモザイク画像と連結させることができる。また、フレーム画像及びモザイク画像から抽出した特徴量の比較によってこれらの画像間の相対位置を判定するので、システム構成が複雑化するのを抑制することができる。さらに、特徴量の比較を行う際、過去のフレーム画像に関する相対位置の判定結果に基づいて現在のフレーム画像とモザイク画像との重複領域を推定し、この重複領域内の特徴量について比較を行うので、動画像を構成するフレーム画像とモザイク画像との位置合わせの精度を向上させることができる。従って、システム構成を複雑化させることなく、撮影中の視野と作成中のモザイク画像との位置関係を容易に認識することができる撮像装置を実現することができる。
【発明を実施するための最良の形態】
【００１４】
＜拡大観察装置＞
図１は、本発明の実施の形態による撮像装置の概略構成の一例を示したシステム図であり、撮像装置の一例として、システム本体部１００、カメラ部２００及びコンソール３００からなる拡大観察装置１が示されている。この拡大観察装置１は、対物レンズによって拡大された被写体を撮影して動画像を生成し、システム本体部１００のディスプレイ１１０上に表示することができるデジタルマイクロスコープである。
【００１５】
カメラ部２００は、視野を変更しながら検査対象物を撮影するための撮影ユニットであり、カメラ２１０、可動ホルダー２２０及び可動ステージ２３０によって構成される。カメラ２１０は、検査対象物を被写体として撮影し、一定のフレームレートで連続する複数のフレーム画像からなる動画像を生成する読取装置であり、円筒形状の筐体内に対物レンズ、ＣＣＤイメージセンサー、照明装置などを配置して構成されている。
【００１６】
可動ホルダー２２０は、対物レンズの中心軸に平行な方向に移動可能にカメラ２１０を保持する保持手段である。ここでは、カメラ２１０の対物レンズの中心軸に平行な方向をｚ軸方向と呼ぶことにし、位置調整つまみ２２１を回すことによってカメラ２１０のｚ軸方向の位置を調整することができる。
【００１７】
可動ステージ２３０は、検査対象物を保持する保持手段であり、検査対象物を載せた状態でｚ軸に交差する面内で移動可能となっている。ここでは、ｚ軸に垂直な平面をｘｙ平面と呼ぶことにし、位置調整つまみ２３１及び２３２を回すことによって可動ステージ２３０のｘｙ平面内における位置を調整することができる。つまり、可動ステージ２３０は、位置調整つまみ２３１及び２３２を回すことによって、検査対象物を載せたまま異なる２方向に移動させることができるステージとなっている。
【００１８】
具体的には、位置調整つまみ２３１を回すことによって、ｘ軸方向の位置を調整し、位置調整つまみ２３２を回すことによって、ｙ軸方向の位置を調整することができる。カメラ２１０は、この様な可動ステージ２３０と対向して配置されている。
【００１９】
コンソール３００は、撮影の開始及び終了、撮影された画像データの取込みなどをシステム本体部１００に対して指示するための入力装置である。
【００２０】
システム本体部１００は、カメラ２１０によって撮影された動画像をディスプレイ１１０上に表示し、動画像を構成するフレーム画像を張り合わせてカメラ２１０の実視野よりも視野の広いモザイク画像を生成する画像処理部である。
【００２１】
＜システム本体部＞
図２は、図１の拡大観察装置１の要部における構成例を示したブロック図であり、システム本体部１００内の機能構成の一例が示されている。このシステム本体部１００は、ディスプレイ１１０の他に、表示用縮小部１２１，１２７、表示用モザイク画像記憶部１２２、ライブ画像更新部１２３、保存用モザイク画像記憶部１２４、ライブ位置合わせ部１２５及びモザイク画像生成部１２６を備えて構成される。
【００２２】
表示用縮小部１２１は、カメラ２１０からの動画データを処理し、画像サイズの縮小した縮小動画データを生成する動作を行っている。具体的には、カメラ２１０から連続して得られるフレーム画像を所定の縮小率で縮小して表示用フレーム画像を生成し、ライブ画像更新部１２３へ出力する動作が行われる。フレーム画像の縮小は、例えば、画素の間引き処理や画素値の平均化処理によって行われる。ここでは、縮小前後でフレーム画像のアスペクト比が変わらないように縮小処理が行われるものとする。
【００２３】
表示用モザイク画像記憶部１２２は、表示用モザイク画像を保持するモザイク画像保持手段であり、例えば、揮発性の半導体メモリからなる。ライブ画像更新部１２３は、表示用縮小部１２１からの縮小率情報に基づいてディスプレイ１１０を制御し、表示用縮小部１２１から連続して得られる表示用フレーム画像の表示用モザイク画像に対する表示位置を更新することによって、表示用モザイク画像上にライブ画像を表示する動作を行っている。ライブ画像とは、連続する複数の表示用フレーム画像によって構成される動画像のことである。
【００２４】
保存用モザイク画像記憶部１２４は、保存用モザイク画像を保持するモザイク画像保持手段であり、不揮発性の記憶素子、例えば、ＨＤＤ（ハードディスクドライブ）装置によって構成される。
【００２５】
ライブ位置合わせ部１２５は、位置合わせ用縮小部１２５ａ，１２５ｂ及びマッチング処理部１２５ｃからなり、カメラ２１０から連続して得られるフレーム画像と保存用モザイク画像記憶部１２４から読み出した保存用モザイク画像とをそれぞれ縮小してマッチング処理する動作を行っている。
【００２６】
位置合わせ用縮小部１２５ａは、カメラ２１０からのフレーム画像を位置合わせ用に一定の縮小率で縮小して位置合わせ用フレーム画像を生成し、マッチング処理部１２５ｃへ出力する動作を行っている。位置合わせ用縮小部１２５ｂは、保存用モザイク画像記憶部１２４から読み出した保存用モザイク画像を位置合わせ用に縮小して位置合わせ用モザイク画像を生成し、マッチング処理部１２５ｃへ出力する動作を行っている。
【００２７】
マッチング処理部１２５ｃは、位置合わせ用フレーム画像及び位置合わせ用モザイク画像間のパターンマッチングによって、これらの画像間の相対位置を判定し、相対位置情報を生成してライブ画像更新部１２３及びモザイク画像生成部１２６へ出力する動作を行っている。
【００２８】
ライブ画像更新部１２３では、ライブ位置合わせ部１２５からの相対位置情報に基づいて、表示用フレーム画像及び表示用モザイク画像間の相対位置を決定し、表示用フレーム画像の表示用モザイク画像に対する表示位置を更新する動作が行われる。
【００２９】
モザイク画像生成部１２６は、保存用位置合わせ部１２６ａ及び画像連結部１２６ｂからなり、縮小前のフレーム画像を張り合わせて保存用モザイク画像を生成する動作を行っている。
【００３０】
保存用位置合わせ部１２６ａは、コンソール３００からの取込み指示に基づいてカメラ２１０からのフレーム画像を取り込み、取り込んだフレーム画像と保存用モザイク画像記憶部１２４から読み出した保存用モザイク画像との間の相対位置を判定する動作を行っている。この相対位置の判定は、ライブ位置合わせ部１２５からの相対位置情報に基づいて行われ、取り込んだフレーム画像に関する相対位置の判定結果を利用することによって、位置合わせ用モザイク画像よりも高い解像度でフレーム画像及び保存用モザイク画像間の相対位置が推定される。
【００３１】
画像連結部１２６ｂは、保存用位置合わせ部１２６ａによる判定結果に基づいて、フレーム画像及び保存用モザイク画像を張り合わせ、新たな保存用モザイク画像を生成して保存用モザイク画像記憶部１２４内の保存用モザイク画像を更新する動作を行っている。具体的には、コンソール３００からの取込み指示に基づいてカメラ２１０からのフレーム画像が取り込まれる。そして、取り込んだフレーム画像と保存用モザイク画像記憶部１２４から読み出した保存用モザイク画像とが、保存用位置合わせ部１２６ａによって推定された画像間の相対位置に基づいて張り合わせられ、新たな保存用モザイク画像が生成される。
【００３２】
フレーム画像及び保存用モザイク画像の張り合わせは、これらの画像間の相対位置に基づいて両画像を連結することによって行われる。また、フレーム画像及び保存用モザイク画像を連結する際には、つなぎ目を目立たなくするために、両画像の重複領域について画素値のブレンディング処理が行われる。ブレンディング処理は、両画像間で画素値を加重平均して合成画像の画素値を求める画像処理であり、加重平均の際の重みを画素の位置に応じて適切に変化させることによってつなぎ目を目立たなくしている。
【００３３】
表示用縮小部１２７は、保存用モザイク画像が更新されるごとに保存用モザイク画像記憶部１２４から更新後の保存用モザイク画像を読み出し、読み出した保存用モザイク画像を表示用に縮小して表示用モザイク画像を生成する動作を行っている。
【００３４】
ここで、ライブ位置合わせ部１２５は、保存用位置合わせ部１２６ａに比べて低精度のマッチング処理を実行し、低精度の座標データを相対位置情報として出力する処理部となっている。
【００３５】
＜マッチング処理部＞
図３は、図２のシステム本体部１００におけるマッチング処理部１２５ｃの構成例を示したブロック図である。このマッチング処理部１２５ｃは、特徴量抽出部１３１及び相対位置判定部１３２により構成される。
【００３６】
特徴量抽出部１３１は、位置合わせ用フレーム画像と位置合わせ用モザイク画像とからそれぞれ特徴量を抽出する動作を行っている。特徴量としては、画像を比較する際の目印となるものであれば、何でも良いが、ここでは、複数のエッジが交差する頂点が特徴点として抽出されるものとする。
【００３７】
この特徴量抽出部１３１では、モザイク画像のサイズが大きくなった場合の位置合わせに要する処理時間を短縮させるという観点から、位置合わせ用モザイク画像から特徴点を抽出する際に、位置合わせ用モザイク画像の一部、例えば、モザイク画像に対して最後に張り合わされたフレーム画像を位置合わせ用の基準画像として、この基準画像内の特徴点を抽出する動作が行われる。
【００３８】
相対位置判定部１３２は、比較部１４１、相対位置演算部１４２及び重複領域推定部１４３からなり、特徴点の比較によって位置合わせ用フレーム画像及び位置合わせ用モザイク画像間の相対位置を判定する動作を行っている。比較部１４１は、位置合わせ用フレーム画像から抽出された特徴点と、位置合わせ用モザイク画像から抽出された特徴点とを比較し、その比較結果を相対位置演算部１４２へ出力する動作を行っている。
【００３９】
特徴点の比較は、例えば、一方の画像から特徴点を含む領域をテンプレートとして抽出し、このテンプレート領域に最も類似する領域を他方の画像から探し出すことによって行われる。領域間の類似度を測る指標としては、領域内の画素について求めた輝度値の二乗誤差和を用いる方法、領域内の各画素の輝度値を平均輝度によって正規化した正規化相関を用いる方法が考えられる。
【００４０】
この比較部１４１では、位置合わせ用フレーム画像から抽出された特徴点と、位置合わせ用モザイク画像から抽出された特徴点とを比較する際に、位置合わせ用フレーム画像の特徴点と基準画像の特徴点とを比較する動作が行われる。
【００４１】
相対位置演算部１４２は、比較部１４１による比較結果に基づいて位置合わせ用フレーム画像及び位置合わせ用モザイク画像間の相対位置を判定し、その判定結果を重複領域推定部１４３へ出力し、相対位置情報をライブ画像更新部１２３及びモザイク画像生成部１２６へ出力する動作を行っている。
【００４２】
重複領域推定部１４３は、過去の位置合わせ用フレーム画像に関する相対位置の判定結果に基づいて、現在の位置合わせ用フレーム画像と位置合わせ用モザイク画像との重複領域を推定する動作を行っている。例えば、１フレーム前の位置合わせ用フレーム画像に関する相対位置の判定結果から当該フレーム画像と位置合わせ用モザイク画像との重複領域を定め、この重複領域が現在のフレーム画像とモザイク画像との重複領域であると判断する動作が行われる。
【００４３】
この重複領域推定部１４３では、現在の位置合わせ用フレーム画像と位置合わせ用モザイク画像との重複領域を推定する際に、位置合わせ用フレーム画像と位置合わせ用の基準画像との重複領域を推定する動作が行われる。
【００４４】
比較部１４１では、重複領域推定部１４３によって推定された重複領域内の特徴点について比較を行い、比較結果を相対位置演算部１４２へ出力する動作が行われる。そして、重複領域内の特徴点について比較を行った結果、相対位置が判定できなかった場合に、位置合わせ用フレーム画像の全特徴点と、位置合わせ用モザイク画像のうちマッチング処理の対象となっている位置合わせ用の基準画像に含まれる全特徴点とを比較し、比較結果を相対位置演算部１４２へ出力する動作が行われる。
【００４５】
また、最初の位置合わせ用フレーム画像について、位置合わせ用フレーム画像の全特徴点と基準画像に含まれる全特徴点とを比較し、比較結果を相対位置演算部１４２へ出力する動作が行われる。つまり、１フレーム目の位置合わせ用フレーム画像については、当該フレーム画像の全特徴点と基準画像の全特徴点とを比較して相対位置が判定される。一方、２フレーム目以降の位置合わせ用フレーム画像については、まず、過去のフレーム画像に関する相対位置の判定結果から推定された重複領域内の特徴点を比較して相対位置が判定される。このとき、相対位置が判定できなければ、フレーム画像の全特徴点と基準画像の全特徴点とを比較して相対位置が判定される。
【００４６】
ここで、最初のフレーム画像とは、例えば、モザイク画像の作成途中で一旦撮影を中断させ、その後撮影を再開させるようなケースにおいて、撮影再開後に最初に取得されるフレーム画像のことである。
【００４７】
一般に、画像の一部が重複している２つの静止画像からそれぞれ特徴点を抽出し、これらの画像間で対応する特徴点の組を探し出す場合、両画像の重複領域から特徴点を抽出して対応する特徴点の組を探す方が、画像全体から特徴点を抽出して探すよりも誤対応の発生確率は低くなる。つまり、重複領域内の特徴点について優先的に比較を行って相対位置を判定させることによって、位置合わせ用フレーム画像の位置合わせに成功する確率を向上させることができる。さらに、画像内の全特徴点について比較を行う場合に比べて、位置合わせの速度を向上させることができる。
【００４８】
ここでは、特徴量抽出部１３１が、現在の位置合わせ用フレーム画像から特徴点を抽出する際に、重複領域推定部１４３によって推定された重複領域から特徴点を抽出する。そして、重複領域内の特徴点だけでは相対位置が判定できなかった場合に、重複領域以外の領域からも特徴点を抽出する動作が行われるものとする。
【００４９】
ライブ画像更新部１２３では、表示用モザイク画像上に表示用フレーム画像によって構成される動画像をライブ画像として表示する際の表示位置を相対位置演算部１４２による相対位置の判定結果に基づいて更新し、その表示データをディスプレイ１１０へ出力する動作が行われる。
【００５０】
＜ライブ画面＞
図４及び図５は、図１の拡大観察装置１におけるライブ画像表示時の動作の一例を模式的に示した説明図である。図４には、カメラ２１０によって撮影された動画像Ａ１及び表示用モザイク画像Ａ３が示されている。また、図５には、モザイク画像Ａ３上に動画像Ａ１がライブ画像として配置されたライブ画面１１１が示されている。
【００５１】
動画像Ａ１は、一定のフレームレートで繰返し生成される表示用フレーム画像Ａ２によって構成される。例えば、１５ｆｐｓで表示用フレーム画像Ａ２が生成される。ここでは、撮影倍率やフォーカス位置は、固定されているものとする。
【００５２】
表示用モザイク画像Ａ３は、保存用モザイク画像をライブ画面表示用に縮小して作成されたモザイク画像である。
【００５３】
ライブ画面１１１は、ディスプレイ１１０上に表示されるモニター画面であり、作成中の表示用モザイク画像Ａ３及び動画像Ａ１が表示されている。ライブ画面１１１では、動画像Ａ１が、現在の位置合わせ用フレーム画像と位置合わせ用モザイク画像との間のパターンマッチングによって判定された相対位置から決定された表示位置に配置されている。
【００５４】
つまり、撮影中の動画像Ａ１が作成中の表示用モザイク画像Ａ３上の適切な位置にライブ画像として表示されるので、ユーザは、撮影中の視野と作成中のモザイク画像との位置関係を確認しながらフレーム画像を取り込んでモザイク画像と連結させることができる。
【００５５】
＜パターンマッチング＞
図６（ａ）及び（ｂ）は、図１の拡大観察装置１におけるパターンマッチング動作の一例を示した図であり、基準画像Ｂ１及びフレーム画像Ｂ２からそれぞれ抽出された全特徴点Ｂ３の比較によってこれらの特徴点間の正対応が抽出される様子が示されている。図６（ａ）には、基準画像Ｂ１から抽出された特徴点Ｂ３をフレーム画像Ｂ２内の各特徴点Ｂ３と比較している様子が示され、図６（ｂ）には、特徴点Ｂ３の比較に基づいて抽出された特徴点間の正対応が示されている。
【００５６】
基準画像Ｂ１は、作成中のモザイク画像の一部であり、パターンマッチングの処理対象としてモザイク画像から予め抽出される。例えば、最後に連結されたフレーム画像が基準画像として抽出される。或いは、モザイク画像に対して最後に連結されたフレーム画像と現在のフレーム画像との重複領域の大きさが一定レベルを下回ると、モザイク画像に対して最後に連結されたフレーム画像と隣接する他のフレーム画像を基準画像としてモザイク画像から抽出することも考えられる。
【００５７】
基準画像Ｂ１及びフレーム画像Ｂ２間の位置関係が不明な場合、画像全体を対象として特徴点Ｂ３の抽出が行われる。そして、基準画像Ｂ１から抽出された各特徴点Ｂ３について、類似する特徴点がフレーム画像Ｂ２内に存在するか否かを特徴点間の比較によって判断する。
【００５８】
特徴点間の類似度は、特徴点Ｂ３を含む所定の領域、例えば、５ピクセル×５ピクセルの矩形領域について算出される輝度値の二乗誤差和又は正規化相関によって測ることができる。
【００５９】
特徴点間の正対応は、この様な比較結果に基づいて抽出される。例えば、同一方向に並行移動している特徴点間の対応が正対応として抽出される。基準画像Ｂ１及びフレーム画像Ｂ２間の相対位置は、抽出された特徴点間の正対応に基づいて特徴点の画像内における移動量を判断し、この移動量から基準画像Ｂ１に対するフレーム画像Ｂ２の移動量を判断することによって判定される。
【００６０】
図７（ａ）及び（ｂ）は、図１の拡大観察装置１におけるパターンマッチング動作の一例を示した図であり、基準画像及び第（ｎ−１）フレーム画像間の相対位置から推定された重複領域Ｂ５，Ｂ６内の特徴点Ｂ３が比較される様子が示されている。図７（ａ）には、基準画像及び第（ｎ−１）フレーム画像間の相対位置から求められた両画像の重複領域Ｂ４が示されている。また、図７（ｂ）には、基準画像及び第（ｎ−１）フレーム画像間の相対位置から推定された基準画像及び第ｎフレーム画像の重複領域Ｂ５，Ｂ６が示されている。
【００６１】
基準画像Ｂ１及びフレーム画像Ｂ２間の大まかな位置関係が予めわかっている場合には、一方の画像から適切にテンプレート領域を抽出し、他方の画像の対応する領域付近を探索することによって、これらの画像間の相対位置をより高精度に判定することができる。
【００６２】
すなわち、１フレーム前の第（ｎ−１）フレーム画像と基準画像との間の相対位置の判定結果からこれらの画像の重複領域Ｂ４を求める。この重複領域Ｂ４を現在の第ｎフレーム画像と基準画像との重複領域Ｂ５，Ｂ６であると判断する。そして、基準画像の重複領域Ｂ５内の各特徴点Ｂ３について、第ｎフレーム画像の重複領域Ｂ６内から類似する特徴点を抽出することによって、これらの画像間の相対位置が判定される。
【００６３】
類似する特徴点の抽出は、基準画像の重複領域Ｂ５内の各特徴点Ｂ３について、第ｎフレーム画像の重複領域Ｂ６から上記特徴点に対応する位置付近の所定領域を抽出し、この領域内を探索することによって行われる。
【００６４】
本実施の形態では、２フレーム目以降の位置合わせ用フレーム画像と位置合わせ用モザイク画像との位置合わせと、取込み指示に基づいて取り込んだフレーム画像とモザイク画像との連結処理とに対して、重複領域内の特徴点について比較を行う図７の方法が採用される。一方、１フレーム目の位置合わせ用フレーム画像と位置合わせ用モザイク画像との位置合わせや、重複領域内の特徴点についての比較では相対位置が判定できなかった場合には、全特徴点について比較を行う図６の方法が採用される。
【００６５】
図８（ａ）及び（ｂ）は、図１の拡大観察装置１におけるライブ画像取込み時の動作の一例を示した遷移図であり、図８（ａ）には、基準画像とその一部が重複しているライブ画像が示され、図８（ｂ）には、取込み指示後のモザイク画像上のライブ画像が示されている。
【００６６】
この例では、モザイク画像から抽出された基準画像が、破線で示された矩形の枠内に配置されている。これに対して、ライブ画像は、実線で示された矩形の枠内に配置されている。ライブ画像を示す矩形枠の表示位置は、基準画像及び現在の位置合わせ用フレーム画像間の相対位置の判定結果に基づいて決定される。
【００６７】
図８（ａ）の状態でフレーム画像の取込みを指示すれば、表示中の表示用フレーム画像に対応するフレーム画像が取り込まれ、保存用モザイク画像と連結される。この連結によって作成された新たな保存用モザイク画像から表示用モザイク画像が作成され、表示中の表示用モザイク画像が更新される。このとき、基準画像も取り込まれたフレーム画像に対応するものに変更される。
【００６８】
図９のステップＳ１０１〜Ｓ１１６は、図１の拡大観察装置１におけるライブ画像表示時の動作の一例を示したフローチャートである。まず、特徴量抽出部１３１は、位置合わせ用フレーム画像を取得し、それが最初のフレーム画像であれば、画像全体から特徴点を抽出する（ステップＳ１０１〜１０３）。
【００６９】
次に、相対位置判定部１３２は、フレーム画像の全特徴点と基準画像の全特徴点とについて比較を行い、現在の位置合わせ用フレーム画像と位置合わせ用モザイク画像との間の相対位置を判定する（ステップＳ１０４）。このとき、相対位置が判定できず、位置合わせに失敗すると、ユーザに対してマッチングエラーが報知される（ステップＳ１０５，Ｓ１１４）。位置合わせに成功した場合には、相対位置の判定結果に基づいてライブ画像の表示位置が決定され、ライブ画像が更新される（ステップＳ１０５〜Ｓ１０７）。
【００７０】
一方、取得した位置合わせ用フレーム画像が最初のフレーム画像でなければ、相対位置判定部１３２は、前回の位置合わせの結果、すなわち、１フレーム前の位置合わせ用フレーム画像と位置合わせ用モザイク画像との間の相対位置の判定結果を参照して、現在の位置合わせ用フレーム画像と基準画像との間の重複領域を推定する（ステップＳ１０２，Ｓ１１０，Ｓ１１１）。特徴量抽出部１３１は、この推定された重複領域から特徴点を抽出する。
【００７１】
次に、相対位置判定部１３２は、現在の位置合わせ用フレーム画像と基準画像とから推定された重複領域内の特徴点について比較を行い、これらの画像間の相対位置を判定する（ステップＳ１１２）。このとき、相対位置が判定できず、位置合わせに失敗すると、ステップＳ１０３以降の処理手順が実行される（ステップＳ１１３）。位置合わせに成功した場合には、相対位置の判定結果に基づいてライブ画像の表示位置が決定され、ライブ画像が更新される（ステップＳ１１３，Ｓ１０６，Ｓ１０７）。
【００７２】
ライブ画像の更新後、フレーム画像の取込み指示があれば、当該取込み指示に基づいてフレーム画像を取り込んで連結処理が行われ、表示用及び保存用のモザイク画像が更新される（ステップＳ１０８，Ｓ１１５，Ｓ１１６）。ステップＳ１０１からＳ１０８までの処理手順は、撮影終了が指示されるまで繰り返される（ステップＳ１０９）。
【００７３】
本実施の形態によれば、撮影中の動画像が作成中のモザイク画像上の適切な位置にライブ画像として表示されるので、撮影中の視野と作成中のモザイク画像との位置関係をユーザに確認させながらフレーム画像を取り込んでモザイク画像と連結させることができる。また、フレーム画像及びモザイク画像から抽出した特徴点の比較によってこれらの画像間の相対位置を判定するので、システム構成が複雑化するのを抑制することができる。さらに、特徴点の比較を行う際、過去のフレーム画像に関する相対位置の判定結果に基づいて現在のフレーム画像とモザイク画像との重複領域を推定し、この重複領域内の特徴点について比較を行うので、動画像を構成するフレーム画像とモザイク画像との位置合わせの精度を向上させることができる。
【００７４】
また、取込み指示に基づいて取り込んだフレーム画像に対して、ライブ位置合わせ部１２５による相対位置の判定結果を利用することにより、位置合わせ用モザイク画像よりも高解像度の位置合わせを行ってフレーム画像の張り合わせを行うので、処理負荷を増大させることなく、位置合わせの精度を向上させることができる。
【００７５】
なお、本実施の形態では、位置合わせ用フレーム画像及び位置合わせ用モザイク画像を比較する際の特徴量として、エッジが交差する頂点が抽出される場合の例について説明したが、本発明はこれに限られるものではない。例えば、画像上の所定エリアについて、エリア内のコントラスト値を特徴量として位置合わせ用フレーム画像及び位置合わせ用モザイク画像からそれぞれ抽出し、これらの画像間で比較するようなものであっても良い。また、エッジやコントラストを抽出することなく重複領域内の所定エリアについて、エリア内の特徴量に基づいてテンプレートマッチングを実行するようにしても良い。
【００７６】
また、本実施の形態では、重複領域内の特徴量の比較では相対位置が判定できなかった場合に、位置合わせ用フレーム画像の全特徴点と位置合わせ用モザイク画像から抽出された基準画像の全特徴点とを比較して相対位置の判定が行われる場合の例について説明したが、本発明はこれに限られるものではない。例えば、重複領域内の特徴量の比較では相対位置が判定できなかった場合や、最初に取得されたフレーム画像について相対位置を判定する場合に、位置合わせ用フレーム画像の全特徴量と位置合わせ用モザイク画像の全特徴量とを比較して相対位置の判定を行うようなものであっても良い。
【図面の簡単な説明】
【００７７】
【図１】本発明の実施の形態による撮像装置の概略構成の一例を示したシステム図であり、撮像装置の一例として拡大観察装置１が示されている。
【図２】図１の拡大観察装置１の要部における構成例を示したブロック図であり、システム本体部１００内の機能構成の一例が示されている。
【図３】図２のシステム本体部１００におけるマッチング処理部１２５ｃの構成例を示したブロック図である。
【図４】図１の拡大観察装置１におけるライブ画像表示時の動作の一例を模式的に示した説明図であり、動画像Ａ１及び表示用モザイク画像Ａ３が示されている。
【図５】図１の拡大観察装置１におけるライブ画像表示時の動作の一例を模式的に示した説明図であり、ライブ画面１１１が示されている。
【図６】図１の拡大観察装置１におけるパターンマッチング動作の一例を示した図であり、全特徴点Ｂ３の比較によって特徴点間の正対応が抽出される様子が示されている。
【図７】図１の拡大観察装置１におけるパターンマッチング動作の一例を示した図であり、重複領域Ｂ５，Ｂ６内の特徴点Ｂ３が比較される様子が示されている。
【図８】図１の拡大観察装置１におけるライブ画像取込み時の動作の一例を示した遷移図である。
【図９】図１の拡大観察装置１におけるライブ画像表示時の動作の一例を示したフローチャートである。
【符号の説明】
【００７８】
１  拡大観察装置
１００  システム本体部
１１０  ディスプレイ
１２１，１２７  表示用縮小部
１２２  表示用モザイク画像記憶部
１２３  ライブ画像更新部
１２４  保存用モザイク画像記憶部
１２５  ライブ位置合わせ部
１２５ａ，１２５ｂ  位置合わせ用縮小部
１２５ｃ  マッチング処理部
１２６  モザイク画像生成部
１２６ａ  保存用位置合わせ部
１２６ｂ  画像連結部
１３１  特徴量抽出部
１３２  相対位置判定部
１４１  比較部
１４２  相対位置演算部
１４３  重複領域推定部
２００  カメラ部
２１０  カメラ
２２０  可動ホルダー
２２１，２３１，２３２  位置調整つまみ
２３０  可動ステージ
３００  コンソール
Ａ１  動画像
Ａ２  表示用フレーム画像
Ａ３  表示用モザイク画像
【図１】
2010141697.tif 000003
【図２】
2010141697.tif 000004
【図３】
2010141697.tif 000005
【図６】
2010141697.tif 000006
【図７】
2010141697.tif 000007
【図９】
2010141697.tif 000008
【図４】
2010141697.tif 000009
【図５】
2010141697.tif 000010
【図８】
2010141697.tif 000011