(57)【要約】【課題】撮像した画像から不要な像を自動的に除去して画像を生成する画像生成方法、画像生成装置を提供すること。【解決手段】撮影ロボットは、風景を背景とした人物の記念撮影をする。このとき、所定の時間間隔で３枚の画像を連続して撮像する。３枚の画像のうち、２枚の画像以上で一致する部分を抽出して画像を合成する。これにより、被写界にたまたま通りがかりの第三者が入ったとしても、動きのある第三者の像は除去され、利用者と所望の風景のみが撮影された画像を得ることができる。【選択図】        図３
2005012660.tif 000002
【特許請求の範囲】
【請求項１】
画像生成方法であって、
複数の画像を取得する複数画像取得手順と、
前記取得した複数の画像に基づき、動きのある像を除いた画像を合成する画像合成手順とからなることを特徴とする画像生成方法。
【請求項２】
請求項１に記載の画像生成方法において、
同一被写体を所定のタイミングで連続して複数回撮像するように撮像装置に指示する撮像指示手順をさらに備え、
前記複数画像取得手順は、前記撮像装置により連続して撮像された複数の画像を取得することを特徴とする画像生成方法。
【請求項３】
請求項１から２のいずれかに記載の画像生成方法において、
前記複数画像取得手順は、３個以上の画像を取得し、
前記画像合成手順は、前記複数画像取得手順において取得した３個以上の画像の中から２個以上の画像で一致する部分を抽出して画像を合成することを特徴とする画像生成方法。
【請求項４】
請求項１から２のいずれかに記載の画像生成方法において、
前記複数画像取得手順は、２個の画像を取得し、
前記画像合成手順は、前記複数画像取得手順において取得した２個の画像について差分演算することにより動きのある像を検出し、１の画像から前記検出された動きのある像を削除し、前記１の画像において前記動きのある像が削除された部分を、他方の画像において同一位置にある像により埋めることを特徴とする画像生成方法。
【請求項５】
請求項１から４のいずれかに記載の画像生成方法において、
前記複数画像取得手順は、前記複数の画像を取得した後、前記複数の画像間で画像全体がずれているか否かを検出し、ずれていることが検出された場合は前記複数の画像間で画像全体がずれないように補正し、
前記画像合成手順は、前記補正後の複数の画像に基づき、動きのある像を除いた画像を合成することを特徴とする画像生成方法。
【請求項６】
画像生成装置であって、
被写体を撮像する撮像手段と、
同一被写体を所定のタイミングで連続して複数回撮像するように前記撮像手段に指示する撮像指示手段と、
前記撮像手段により撮像された複数の画像を取得する複数画像取得手段と、
前記取得した複数の画像に基づき、動きのある像を除いた画像を合成する画像合成手段とからなることを特徴とする画像生成装置。
【請求項７】
請求項６に記載の画像生成装置において、
前記撮像指示手段は、３回以上撮像するように前記撮像手段に指示し、
前記複数画像取得手段は、前記撮像手段により撮像された３個以上の画像を取得し、
前記画像合成手段は、前記３個以上の画像の中から２個以上の画像で一致する部分を抽出して画像を合成することを特徴とする画像生成装置。
【請求項８】
請求項６に記載の画像生成装置において、
前記撮像指示手段は、２回撮像するように前記撮像手段に指示し、
前記複数画像取得手段は、前記撮像手段により撮像された２個の画像を取得し、
前記画像合成手段は、前記２個の画像から差分演算することにより動きのある像を検出し、１の画像から前記検出された動きのある像を削除し、前記１の画像において前記動きのある像が削除された部分を、他方の画像において同一位置にある像により埋めることを特徴とする画像生成装置。
【請求項９】
請求項６から８のいずれかに記載の画像生成装置において、
前記複数画像取得手段は、前記複数の画像を取得した後、前記複数の画像間で画像全体がずれているか否かを検出し、ずれていることが検出された場合は前記複数の画像間で画像全体がずれないように補正し、
前記画像合成手段は、前記補正後の複数の画像に基づき、動きのある像を除いた画像を合成することを特徴とする画像生成装置。
【請求項１０】
請求項１から５のいずれかに記載の画像生成方法の手順をコンピュータに実行させるための画像生成処理プログラム。
【請求項１１】
請求項１０の画像生成処理プログラムを記録したコンピュータ読みとり可能な記録媒体。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、撮像した画像から不要な像を除去して画像を生成する画像生成方法、画像生成装置に関する。
【０００２】
【従来の技術】
デジタルカメラを使用して観光地等で記念に残る背景を入れて人物の画像を撮影（撮像）する場合、撮影画面内に第三者が記録されないことが望ましい。しかし、人が多く集まるところでは、これを完全に避けて撮影することは難しい。このように不要な第三者が入ってしまった画像から、不要な第三者を消した画像を提供するサービスがある（例えば非特許文献１参照）。
【０００３】
【非特許文献１】
テクノメディアシステム、”写真修正サービス・美化（不要物の消去）”、［ｏｎｌｉｎｅ］、［２００３年５月３０日検索］、インターネット＜ｈｔｔｐ：／／ｗｗｗ．ｔｍｓ−ｘ．ｃｏｍ／ｒｅｔ−ｂｔｙ．ｈｔｍｌ＞
【０００４】
【発明が解決しようとする課題】
上記のようなサービスにおいて、同時に撮影された不要な第三者を記録画像から消すためには、画像処理ソフトを用いて、マニュアルで画像を操作する必要がある。しかし、多大な手間と熟練が必要であるという問題点があった。
【０００５】
本発明は、撮像した画像から不要な像を自動的に除去して画像を生成する画像生成方法、画像生成装置を提供する。
【０００６】
【課題を解決するための手段】
請求項１の発明は、画像生成方法に適用され、複数の画像を取得する複数画像取得手順と、取得した複数の画像に基づき、動きのある像を除いた画像を合成する画像合成手順とからなることを特徴とするものである。
請求項２の発明は、請求項１に記載の画像生成方法において、同一被写体を所定のタイミングで連続して複数回撮像するように撮像装置に指示する撮像指示手順をさらに備え、複数画像取得手順は、撮像装置により連続して撮像された複数の画像を取得することを特徴とするものである。
請求項３の発明は、請求項１から２のいずれかに記載の画像生成方法において、複数画像取得手順は、３個以上の画像を取得し、画像合成手順は、複数画像取得手順において取得した３個以上の画像の中から２個以上の画像で一致する部分を抽出して画像を合成することを特徴とするものである。
請求項４の発明は、請求項１から２のいずれかに記載の画像生成方法において、複数画像取得手順は、２個の画像を取得し、画像合成手順は、複数画像取得手順において取得した２個の画像について差分演算することにより動きのある像を検出し、１の画像から検出された動きのある像を削除し、１の画像において動きのある像が削除された部分を、他方の画像において同一位置にある像により埋めることを特徴とするものである。
請求項５の発明は、請求項１から４のいずれかに記載の画像生成方法において、複数画像取得手順は、複数の画像を取得した後、複数の画像間で画像全体がずれているか否かを検出し、ずれていることが検出された場合は複数の画像間で画像全体がずれないように補正し、画像合成手順は、補正後の複数の画像に基づき、動きのある像を除いた画像を合成することを特徴とするものである。
請求項６の発明は、画像生成装置に適用され、被写体を撮像する撮像手段と、同一被写体を所定のタイミングで連続して複数回撮像するように撮像手段に指示する撮像指示手段と、撮像手段により撮像された複数の画像を取得する複数画像取得手段と、取得した複数の画像に基づき、動きのある像を除いた画像を合成する画像合成手段とからなることを特徴とするものである。
請求項７の発明は、請求項６に記載の画像生成装置において、撮像指示手段は、３回以上撮像するように撮像手段に指示し、複数画像取得手段は、撮像手段により撮像された３個以上の画像を取得し、画像合成手段は、３個以上の画像の中から２個以上の画像で一致する部分を抽出して画像を合成することを特徴とするものである。
請求項８の発明は、請求項６に記載の画像生成装置において、撮像指示手段は、２回撮像するように撮像手段に指示し、複数画像取得手段は、撮像手段により撮像された２個の画像を取得し、画像合成手段は、２個の画像から差分演算することにより動きのある像を検出し、１の画像から検出された動きのある像を削除し、１の画像において動きのある像が削除された部分を、他方の画像において同一位置にある像により埋めることを特徴とするものである。
請求項９の発明は、請求項６から８のいずれかに記載の画像生成装置において、複数画像取得手段は、複数の画像を取得した後、複数の画像間で画像全体がずれているか否かを検出し、ずれていることが検出された場合は複数の画像間で画像全体がずれないように補正し、画像合成手段は、補正後の複数の画像に基づき、動きのある像を除いた画像を合成することを特徴とするものである。
請求項１０の発明は、画像生成処理プログラムに適用され、請求項１から５のいずれかに記載の画像生成方法の手順をコンピュータに実行させるものである。
請求項１１の発明は、コンピュータ読みとり可能な記録媒体に適用され、請求項１０の画像生成処理プログラムを記録したものである。
【０００７】
【発明の実施の形態】
−第１の実施の形態−
図１は、本発明の画像生成装置の一実施の形態である撮影ロボットの構成図を示す図である。撮影ロボットは、観光地などに設置され、所定の背景と人物を撮影するように設置されている。撮影ロボットは、撮像装置１、制御装置２、記憶装置３から構成される。
【０００８】
撮像装置１は、被写体を撮像し画像を生成する。撮影レンズなどの光学系やＣＣＤなどの撮像素子で構成されている。なお、デジタルスチルカメラで構成してもよい。制御装置２は、撮像装置１で撮像され生成された画像を受信し、後述する各種の画像処理、画像合成を行う。制御装置２は、ＣＰＵおよび周辺回路から構成され、不図示のＲＯＭに格納された所定の制御プログラムを実行する。記憶装置３は、撮像装置１で撮像して生成した画像や制御装置２で合成等により生成した画像を記憶する。なお、制御装置２および記憶装置３をパーソナルコンピュータで構成してもよい。その場合、記憶装置３は、パーソナルコンピュータのハードディスクなどで構成される。
【０００９】
なお、具体的には、撮像装置１は、被写体の画像を取得しその画像についての画像データを生成する。制御装置２は、撮像装置１で生成された画像データを受信し、その画像データについて各種の画像処理、画像合成を行う。記憶装置３は、画像データを記憶する。このように、実際に受け渡しや処理等がされるのは画像データであるが、以下の説明では、画像という言葉を使用して説明する。
【００１０】
撮像装置１は、不図示の筐体の上部に設置され、撮影アングルを自由に変更できるように保持されている。利用者（観光客）が、不図示の撮影ボタンを押すと、セルフタイマーが働く。所定時間経過後、制御装置２は、撮像装置１に対して所定のタイミングで所定の回数連続して撮像動作を行うよう指示する。利用者は、所定の場所に立つことにより、所定の背景をバックに撮影される。撮影後、プリンタ（不図示）によりプリントされた写真は、利用者に渡される。このとき、撮影料金を収納するようにしてもよい。
【００１１】
本実施の形態の撮影ロボットは、上述したように１回の撮影につき、複数回連続して撮像し複数の画像（画像データ）を取得する。すなわち、撮像装置１は、同一の被写体に対して同一の撮影条件で複数回撮像し複数の画像を得る。その後、後述する処理や合成を行い１枚の画像を生成する。これは、撮影時にたまたま第三者が画面内に入ってしまっても、それを適切に取り除き、利用者のみが所望の背景とともに撮影された画像を得るようにするためである。
【００１２】
被写体である利用者はほぼ静止し、背景も静止している。一方、不要な第三者は通りがかったりして動きがある。本実施の形態の撮影ロボットは、静止物体と動体物体を識別し、動体物体による像を除去して、所望の静止物体による画像のみにするものである。以下、この処理について詳細に説明する。なお、撮像装置１は筐体の上に設置されているので、丁度三脚にカメラが取り付けられているように安定している。
【００１３】
図２および図３を用いて、第１の実施の形態の画像生成方法について説明する。本実施の形態では、３回連続して撮像し３枚の画像を得る。図２は、撮像した３枚の画像と合成後の画像を示す図である。これらの画像は、記憶装置３に格納される。図２（ａ）は１回目に撮像された１枚目の画像１である。撮影対象とする被写体１１および背景１２とともに、同時に記録されることが望ましくない被写体２１が同一画面に撮像されている。この時、被写体２１は動いているものとする。図２（ｂ）、図２（ｃ）は引き続き撮像、記憶（蓄積）された画像２、画像３で、図２（ａ）の被写体２１は、図２（ｂ）では被写体２２、図２（ｃ）では被写体２３と、画面の中で異なった位置で撮像される。
【００１４】
一方、撮影対象とする被写体１１および背景１２は動かないため、図２（ａ）〜図２（ｃ）の画像の中では同じ位置に撮像される。図２（ａ）〜図２（ｃ）の画像を多数の部分に分割し、各画像間でそれぞれの部分を比較する。被写体２１〜２３の各位置が互いに重なっていないため動的物体と判断され、少なくとも２枚以上の画像で一致している部分は静止物体と判断される。この静止物体と判断された部分を合成することにより、図２（ｄ）のような被写体１１、および背景１２のみの画像を得ることが出来る。
【００１５】
図３は、この処理の流れを示すフローチャートを示す図である。上述のように利用者が撮影ボタン（不図示）を押し、セルフタイマーが働き、１回目の撮像が開始するところからスタートする。ステップＳ１では、撮像装置１は１回目の撮像を行って画像１（図２（ａ））を生成し、制御装置２は画像１を受信して記憶装置３に保存する。ステップＳ２では、撮像装置１は２回目の撮像を行って画像２（図２（ｂ））を生成し、制御装置２は画像２を受信して記憶装置３に保存する。ステップＳ３では、撮像装置１は３回目の撮像を行って画像３（図２（ｃ））を生成し、制御装置２は画像３を受信して記憶装置３に保存する。
【００１６】
ステップＳ４では、図２（ａ）〜図２（ｃ）の各画像を多数の部分に分割し、各画像間でそれぞれの部分を比較する。画面分割の方法としては、画像の画素単位、複数画素をまとめた画素ブロック単位、画面内の物体を輪郭抽出した物体単位などがあり、処理する画像に最適な方法を選択する。比較の結果、２画像以上で一致する部分を抽出する。少なくとも２枚以上の画像で一致している部分は静止物体と判断される。被写体２１〜２３は、各画像において互いに重ならないように撮像されている。従って、動きがある物体として判断され、ステップＳ４の処理では抽出されない。
【００１７】
ステップＳ５では、抽出した画像を合成（再構成）する。合成の結果、動きのある被写体２１〜２３は除去されて、動きのない静止している被写体１１および背景１２のみが再構成される（図２（ｄ））。ステップＳ６では、合成後の画像（図２（ｄ））を記憶装置３に記録する。
【００１８】
このようにして、第１の実施の形態では、同一被写体を同一撮影条件で連続して３回撮像し３枚の画像を得る。このうち、２枚以上の画像で一致する部分を抽出して画像を合成する。これにより、いずれの２枚の画像でも一致しない不要な動きのある物体の像は自動的に除去され、所望の静止被写体と静止している背景の画像を得ることができる。すなわち、画像処理ソフトを用いて、マニュアルで画像を操作する必要がなく、多大な手間を必要とせず容易に不要な動きのある物体の像を除去し所望の静止被写体と静止している背景の画像を得ることができる。
【００１９】
３回連続して撮像するタイミングは、予め定められたタイミングである。例えば、１秒ごとに撮像する。このタイミングは、撮影のためポーズを取った人である被写体は静止物体として抽出され、通りがかった第三者である他人などは動的物体として判断するのに適したタイミングである。すなわち、歩行している第三者が、複数の画像内で静止物体として判断されないように位置を変化して撮像されるようなタイミングである。この撮像タイミングは、撮影場面などの状況に応じて選択できるようにしてもよい。不要な物体の動きが速い場合は、撮像タイミングも速くしてよい。
【００２０】
また、同一撮影条件とは、露出やシャッタースピードが同一であることを言う。レンズの焦点距離や撮影距離なども同じである。さらに、電子閃光装置を使うか否かなども同一としてよい。例えば、デジタルカメラなどで撮影するときに、種々の設定はそのままとしシャッターリリーズボタンのみを１秒ごとに連続して押すような場合を想定すればよい。画像データをメモリに記憶するときの圧縮率が関係する画質や画素数の画像サイズなども同一であると考えればよい。
【００２１】
以上の説明においては、記録したくない被写体が１名の場合を説明した。しかし、実際の観光地などにおいては、画面内に多くの人が撮影されているとともに、その動きもまちまちである。そのため、動きのある被写体が複数画像で重なっていることも考えられる。この場合は、上記のように、３枚の画像のみを撮像して比較するのではなく、更に多くの画像を撮像して比較する。この中から２枚以上の画像で一致している部分を抽出、合成（再構成）することにより、動きのある被写体を記録画像から効果的に除去することが出来る。但し複数画像の撮影は、静止している被写体が動かない程度の時間内に終了するものとする。
【００２２】
−第２の実施の形態−
第１の実施の形態では、同一被写体に対して連続して３枚の画像を取得したが、第２の実施の形態では、２枚の画像を取得して処理する例を説明する。撮影ロボットの構成は第１の実施の形態と同様であるので説明を省略する。
【００２３】
図４および図５を用いて、第２の実施の形態の画像生成方法について説明する。第２の実施の形態では、２回連続して撮像し２枚の画像を得る。図４は、撮像した２枚の画像と、処理の過程の画像と、合成後の画像を示す図である。これらの画像は、記憶装置３に格納される。
【００２４】
図４（ａ）は１回目に撮像された１枚目の画像１である。撮影対象とする被写体１１および背景１２とともに、同時に記録されることが望ましくない被写体２１が同一画面に撮像されている。この時、被写体２１は動いているものとする。図４（ｂ）は引き続き撮像、記憶（蓄積）された画像２で、図４（ａ）の被写体２１は、図４（ｂ）では被写体２２の位置に変化し、画面の中で異なった位置で撮像される。一方、撮影対象とする被写体１１および背景１２は動かないため、図４（ａ）、図４（ｂ）の画像の中では同じ位置に撮像される。
【００２５】
図４（ｃ）は、図４（ａ）と図４（ｂ）の画像間差分演算を行ったもので、動いている被写体２１、２２のみが抽出されている。図４（ｄ）は、図４（ａ）と図４（ｃ）の画面内で一致している部分のみを抽出したものである。図４（ａ）において動きのある被写体２１のみが抽出されている。図４（ｅ）は、図４（ａ）から図４（ｄ）の被写体２１を除去したものである。除去した部分３１は空白（点線で示されている）となっている。図４（ｆ）は、この空白部分を図４（ｂ）からこれに該当する部分を切り出し、図４（ｅ）の空白部分３１を埋めたものである。その結果、被写体１１、および背景１２のみの画像を得られている。
【００２６】
図５は、この処理の流れを示すフローチャートを示す図である。第１の実施の形態と同様に利用者が撮影ボタン（不図示）を押し、セルフタイマーが働き、１回目の撮像が開始するところからスタートする。ステップＳ１１では、撮像装置１は１回目の撮像を行って画像１（図４（ａ））を生成し、制御装置２は画像１を受信して記憶装置３に保存する。ステップＳ１２では、撮像装置１は２回目の撮像を行って画像２（図４（ｂ））を生成し、制御装置２は画像２を受信して記憶装置３に保存する。
【００２７】
ステップＳ１３では、画像１と画像２の差分演算を行う。差分演算は、各画像を多数の部分に分割し、各画像間でそれぞれの部分の差分演算をする。画面分割の方法としては、第１の実施の形態と同様に、画像の画素単位、複数画素をまとめた画素ブロック単位、画面内の物体を輪郭抽出した物体単位などがあり、処理する画像に最適な方法を選択する。差分演算の結果、動いている被写体２１、２２のみの画像３が抽出される（図４（ｃ））。
【００２８】
ステップＳ１４では、画像３（図４（ｃ））と画像１（図４（ａ））の一致している部分を抽出演算し画像４（図４（ｄ））を得る。すなわち、画像１（図４（ａ））における動きのある被写体２１を抽出する。ステップＳ１５では、画像１（図４（ａ））から画像４（図４（ｄ））を除去する演算を行い、画像５（図４（ｅ））を生成する。除去された部分３１は空白（点線）となっている。
【００２９】
ステップＳ１６では、画像５（図４（ｅ））の欠落部分（空白部分）３１を画像２（図４（ｂ））からこれに該当する部分を切り出し埋めるようにして合成する。これにより、被写体１１および背景１２のみの画像６（図４（ｆ））が得らる。ステップＳ１７では、合成後の画像６（図４（ｆ））を記憶装置３に記録する。
【００３０】
このようにして、第２の実施の形態では、同一被写体を同一撮影条件で連続して２回撮像し２枚の画像を得る。この２枚の画像を使用して動的物体と静止物体とを切り分け、所望の静止被写体と静止している背景の画像を得ることができる。すなわち、第１の実施の形態と比べて少ない画像で、第１の実施の形態と同様の効果を得ることができる。
【００３１】
−第３の実施の形態−
第１の実施の形態および第２の実施の形態では、撮像装置１は、不図示の筐体の上部に設置されていることを前提に説明をした。すなわち、撮像装置１はあたかも三脚に据え付けられるように設置され、撮像装置１自体の振れは生じないことを前提とした。しかし、撮像装置１を人が持ち、人が構えて所望の被写体を撮影するようにしてもよい。このようにすることにより、撮影アングルや撮影タイミングをより自由にかつより容易に設定することができる。この場合、人が構えているため、複数回の撮像の間に手ぶれ等による画像全体の動きが生じる場合がある。第３の実施の形態は、この手ぶれ等による画像全体の動きに対して対策をするものである。
【００３２】
また、複数回撮像している間に、所望の被写体自体が完全に静止しているとは限らない。第３の実施の形態は、この主要被写体の動きに対しても対策をするものである。
【００３３】
第３の実施の形態の撮影ロボットの構成は、撮像装置１が手持ち可能であること以外は第１の実施の形態と同様である。従って、撮影ロボットの構成の説明は省略する。また、第３の実施の形態の処理は、第１の実施の形態および第２の実施の形態の処理に以下に説明する処理を追加するものである。すなわち、同一被写体を同一撮影条件で連続して３回撮像し３枚の画像を得る場合、あるいは、同一被写体を同一撮影条件で連続して２回撮像し２枚の画像を得る場合の両方の処理に対して、以下に説明する処理を追加するものである。従って、以下では、この追加処理部分を中心に説明をし、その他の処理については第１の実施の形態および第２の実施の形態の処理を参照することとし説明を省略する。
【００３４】
以下、第１の実施の形態の処理に追加する場合について説明をする。本実施の形態で説明する処理は、第１の実施の形態の図３のステップＳ３の後に追加する。すなわち、同一被写体に対して３枚の画像を取得したのちに、以下で説明をする処理を実行する。
【００３５】
図６は、取得した画像が手振れ等により全体にずれている様子を説明する図である。画像１、２、３（図２（ａ）（ｂ）（ｃ））の撮影時に撮像装置１全体が動いた場合は、画面中の静止物体全体も画面に対して相対的にシフトする。図６は、画像１に対して画像２の撮像装置１の位置が相対的に左に、これによって静止物体全体が画面上右にシフトしている例を示す。図７は、この画像全体の動きを補正する処理の流れを示すフローチャートを示す図である。なお、撮像装置１全体の動きは、動的物体の動きに対して十分小さいものとする。
【００３６】
ステップＳ２１では、図６に示すように、画像１および画像２を適当な大きさのメッシュに分割する。ステップＳ２２では、画像１および画像２の同一メッシュ間の相関値を演算する。相関値は、メッシュ間が完全に一致する場合に最大値である１が演算され、一致しない場合はその程度に応じて小さな値が演算される。ステップＳ２３では、相関値が所定値以上のメッシュについて相関値の和を演算する。動的物体が含まれるメッシュ間の相関値は、１よりも大幅に小さくなるため、これを含めると演算全体に誤りをもたらす。従って、相関値の積算時には、所定の値より小さな相関値のメッシュは動的物体を含むメッシュと判断し、積算には含めない。
【００３７】
ステップＳ２４では、相関値の和が閾値より大きいか否かを判断する。閾値との比較は単独のメッシュ間の相関値で行うのではなく、画面内の各メッシュ間の相関値を積算して判断する。従って、メッシュ数をｎとすると、完全一致の相関値は１であるので、閾値はｎ×１−α＝ｎ−αとなる。αは、実験やシミュレーション等で適切な値を決める。
【００３８】
ステップＳ２４で相関値の和が閾値より小であると判断すると、ステップＳ２５に進む。相関値の和が閾値より小であるとは、撮像装置１の移動により画像全体がずれていると判断できる場合である。ステップＳ２５では、画像２の画面全体を所定の値だけシフトする。ステップＳ２６では、画像１およびシフト後の画像２の同一メッシュ間の相関値を演算する。ステップＳ２７では、ステップＳ２３と同様に、相関値が所定値以上のメッシュについて相関値の和を演算する。
【００３９】
ステップＳ２８では、ステップＳ２４と同様に、相関値の和が閾値より小さいか否かを判断する。相関値の和が閾値より小であると判断すると、ステップＳ２５に戻り処理を繰り返す。相関値の和が閾値より小であるとは、画像１と画像２が一致するほどにまでまだシフトされていないことを意味する。ステップＳ２５では、画像２の画面全体を所定の値だけシフトするが、相関値の和が大きくなるように上下左右いずれかの方向にシフトする。どらの方向にシフトすれば相関値の和が大きくなるか分からないため、とりあえず上下左右のそれぞれの方向に所定の値シフトし、それぞれの相関値の和を比較すればよい。所定の値とは、例えば所定画素数単位とする。図６（ｂ）においては、静止物体全体が右に動いているので、画面内でこれを左にシフトさせると各メッシュの相関値は１に近づく。
【００４０】
ステップＳ２８で相関値の和が閾値以上であると判断すると、ステップＳ２９に進む。これは、画像１とシフト後の画像２とがほぼ一致したことを意味する。ステップＳ２９では、最終シフト後の画像２を当初の画像２と置き換える。ステップＳ３０では、画像１および画像３について、同様な処理を行い、その後図９の処理へ進む。
【００４１】
一方、ステップＳ２４において、相関値の和が閾値以上であると判断すると、ステップＳ３０に進む。これは、画像１と画像２が、当初からずれておらず、手振れの影響による画像シフトがないことを意味する。
【００４２】
このようにして、図７の処理では、手ぶれ等による画像全体のずれを補正し、静止物体についてはお互いに一致する３枚の画像を得ることができる。
【００４３】
次に、主要被写体の動きについて補正する処理を説明する。画像１、２、３（図２（ａ）（ｂ）（ｃ））撮影時に主被写体の全体または一部が動いた場合は、第１の実施の形態では、背景と同様に除去されてしまう。本第３の実施の形態では、そのような動きのある主被写体について除去されてしまわないようにするものである。図８は、主被写体の一部が動いた例を示す図である。図８（ａ）の画像１は、図２（ａ）の画像１に対応する。図８（ｂ）の画像２は、静止しているべき主被写体１１の手に若干の動きあり、被写体１３として変化している様子を示している。
【００４４】
図９は、主被写体の動きを補正する処理の流れを示すフローチャートを示す図である。ステップＳ４１では、画像１から主被写体１１の領域を抽出する。主被写体の領域抽出は、最も中央付近で大きく写っている人（々）、カメラの方向を向いている人（々）などを、所定の方法で抽出する。ステップＳ４２では、ステップＳ４１で抽出された画像１の領域と画像２の同一位置の領域との相関値を演算する。ステップＳ４３では、演算された相関値が所定の閾値より小さいか否かを判断する。
【００４５】
ステップＳ４３で、演算された相関値が所定の閾値より小さいと判断するとステップＳ４４に進む。これは、主被写体に動きがあったと判断したことを意味する。ステップＳ４４では、画像２から抽出された主被写体を画像１の主被写体に置き換える。すなわち、図８（ｂ）の画像２の主被写体１３は図８（ａ）の主被写体１１の像によって置き換えられる。これにより、図８（ａ）の画像１と図８（ｂ）の画像２の主被写体と静止物体は一致した画像となる。ステップＳ４５では、画像１および画像３についても同様の処理を行う。その後、図３のステップＳ４に進み、図３の処理を行う。
【００４６】
一方、ステップＳ４３で、演算された相関値が所定の閾値以上であると判断するとステップＳ４５に進む。これは、主被写体１１に動きがないと判断された場合である。
【００４７】
このようにして、図９の処理では、主被写体に動きがあった場合でも除去されず、主被写体および静止物体についてはお互いに一致する３枚の画像を得ることができる。
【００４８】
以上説明したように、第３の実施の形態では、撮像装置１を手持ちで構える場合であっても、また、連続して撮像をする間に主被写体に動きがあった場合でも、不要な動きのある物体の像は除去され、所望の主被写体と静止している背景の画像を得ることができる。
【００４９】
なお、上記第３の実施の形態で説明した処理を第２の実施の形態の処理に追加する場合は、第２の実施の形態の図５のステップＳ１２の後に追加する。すなわち、同一被写体に対して２枚の画像を取得したのち、上述した処理を実行する。ただし、画像１と画像２に対する処理のみを実行する。
【００５０】
上記の実施の形態では、撮影ロボットの例で説明をしたが、この内容に限定する必要はない。上述した撮像装置１、制御装置２、記憶装置３が、１台のデジタルカメラ（電子スチルカメラ）の中で実現されている場合であってもよい。
【００５１】
また、上記の実施の形態では、撮影ロボットの制御装置２が上記した制御プログラムを実行する例で説明をしたが、この内容に限定する必要はない。例えば、上述した制御プログラムをパーソナルコンピュータで実行するようにしてもよい。その場合、連続して撮像された複数の画像は、市販のデジタルカメラで同一被写体を同一撮影条件で連続して撮像したものとしてもよい。この場合、デジタルカメラの連写モードを使用して複数の画像を取得してもよい。
【００５２】
また、上記の実施の形態では、制御装置２は上記した制御プログラムをＲＯＭに格納されている例で説明をしたが、この内容に限定する必要はない。例えば、上述した制御プログラムをＣＤ−ＲＯＭなどの記録媒体で提供してもよい。この場合、撮影ロボットはＣＤ−ＲＯＭなどの記録媒体駆動装置を備えるようにすればよい。さらには、インターネットなどの通信回線を通じて提供するようにしてもよい。その場合、撮影ロボットはインターネットなどの通信回線と接続できる機能を持つようにすればよい。
【００５３】
上記では、種々の実施の形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の範囲内に含まれる。
【００５４】
【発明の効果】
本発明は、以上説明したように構成しているので、不要な動きのある物体の像は自動的に除去され、所望の静止被写体と静止している背景の画像を得ることができる。
【図面の簡単な説明】
【図１】本発明の画像生成装置の一実施の形態である撮影ロボットの構成図を示す図である。
【図２】撮像した３枚の画像と合成後の画像を示す図である。
【図３】第１の実施の形態の処理の流れを示すフローチャートを示す図である。
【図４】撮像した２枚の画像と、処理の過程の画像と、合成後の画像を示す図である。
【図５】第２の実施の形態の処理の流れを示すフローチャートを示す図である。
【図６】取得した画像が手振れ等により全体にずれている様子を説明する図である。
【図７】第３の実施の形態の画像全体の動きを補正する処理の流れを示すフローチャートを示す図である。
【図８】主被写体の一部が動いた例を示す図である。
【図９】第３の実施の形態の主被写体の動きを補正する処理の流れを示すフローチャートを示す図である。
【符号の説明】
１  撮像装置
２  制御装置
３  記憶装置
【図１】
2005012660.tif 000003
【図２】
2005012660.tif 000004
【図３】
2005012660.tif 000005
【図４】
2005012660.tif 000006
【図５】
2005012660.tif 000007
【図６】
2005012660.tif 000008
【図７】
2005012660.tif 000009
【図８】
2005012660.tif 000010
【図９】
2005012660.tif 000011