(57)【要約】【課題】違和感の少ない合成画像を生成する。【解決手段】撮像装置１００であって、背景と被写体とが存在する被写体存在画像から被写体が含まれる領域を切り抜いた被写体切り抜き画像を取得する切抜画像生成部８ｄ、被写体切り抜き画像における被写体画像の縁部分に沿って延在する線分を検出する線分検出部８ｅ、検出された被写体切り抜き画像の線分と背景用画像の一直線状の縁部分とが略合致するように被写体切り抜き画像の背景用画像に対する合成位置に制限を加える合成制御部８ｇとを備える。【選択図】図１
2010226291.tif 000002
【特許請求の範囲】
【請求項１】
被写体画像の輪郭から所定の長さ以上の略直線分を検出する第１検出手段と、
前記被写体画像と合成すべき背景用画像から所定の長さ以上の略直線分を検出する第２検出手段と、
前記第１検出手段によって検出された前記被写体画像の略直線分と前記第２検出手段によって検出された前記背景用画像の略直線部分とが略合致するように、前記背景用画像と前記被写体画像を合成する合成手段と、
を備えたことを特徴とする画像合成装置。
【請求項２】
前記第１検出手段によって所定の長さ以上の略直線分が検出されたか否かを判断する判断手段と、
この判断手段により前記所定の長さ以上の略直線分が検出されたと判断すると、前記合成手段に対し合成を行うよう制御する合成制御手段と、
を更に備えることを特徴とする請求項１に記載の画像合成装置。
【請求項３】
前記合成手段は、前記第２検出手段によって前記背景用画像中から略直線分が検出されなかった場合に、前記第１検出手段によって検出された前記被写体画像の略直線分と前記背景用画像の縁部分とが略合致するように、前記背景用画像に前記被写体画像を合成することを特徴とする請求項１又は２に記載の画像合成装置。
【請求項４】
前記合成手段は、
前記第２検出手段によって検出された略直線分と、前記第１検出手段によって検出した略直線分とが略合致するように前記被写体画像を所定方向に回転させて前記背景用画像と合成することを特徴とする請求項１〜３の何れか一項に記載の画像合成装置。
【請求項５】
前記第２検出手段によって前記背景用画像から検出された略直線分の長さと、前記第１検出手段によって検出された前記被写体画像の略直線分の長さとを比較判定する判定手段を更に備え、
前記合成手段は、
前記判定手段による判定結果に基づいて、前記被写体画像の大きさを調整して前記背景用画像に合成することを特徴とする請求項１〜４の何れか一項に記載の画像合成装置。
【請求項６】
前記被写体存在画像を撮像する撮像手段と、
前記撮像手段により撮像された前記被写体存在画像から被写体が含まれる領域を抽出して前記被写体画像を生成する画像生成手段と、を更に備えることを特徴とする請求項１〜５の何れか一項に記載の画像合成装置。
【請求項７】
画像合成装置のコンピュータを、
被写体画像の輪郭から所定の長さ以上の略直線分を検出する第１検出手段、
前記被写体画像と合成すべき背景用画像から所定の長さ以上の略直線分を検出する第２検出手段、
前記第１検出手段によって検出された前記被写体画像の略直線分と前記第２検出手段によって検出された前記背景用画像の略直線部分とが略合致するように、前記背景用画像と前記被写体画像を合成する合成手段
として機能させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、複数の画像を合成する画像合成装置及びプログラムに関する。
【背景技術】
【０００２】
従来、背景内に被写体が存在する画像を撮影し、その後に背景内に被写体が存在しない背景画像を撮影して、背景画像と被写体が存在する画像から差分情報を生成し、被写体のみを抜き出すアプリケーションを搭載したものが知られている（例えば、特許文献１参照）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００４−１５９１５８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、上記技術で抜き出した被写体画像が画角から切れてしまった場合、その画像を背景画像等に合成しようとすると、被写体画像の切れ端が目立ち不自然な画像になってしまうという問題があった。
【０００５】
そこで、本発明の課題は、違和感の少ない合成画像を生成することができるようにすることである。
【課題を解決するための手段】
【０００６】
上記課題を解決するため、請求項１に記載の発明の画像合成装置は、
被写体画像の輪郭から所定の長さ以上の略直線分を検出する第１検出手段と、前記被写体画像と合成すべき背景用画像から所定の長さ以上の略直線分を検出する第２検出手段と、前記第１検出手段によって検出された前記被写体画像の略直線分と前記第２検出手段によって検出された前記背景用画像の略直線部分とが略合致するように、前記背景用画像と前記被写体画像を合成する合成手段とを備えたことを特徴としている。
【０００７】
請求項２に記載の発明は、請求項１に記載の画像合成装置において、
前記第１検出手段によって所定の長さ以上の略直線分が検出されたか否かを判断する判断手段と、この判断手段により前記所定の長さ以上の略直線分が検出されたと判断すると、前記合成手段に対し合成を行うよう制御する合成制御手段とを更に備えることを特徴としている。
【０００８】
請求項３に記載の発明は、請求項１又は２に記載の画像合成装置において、
前記合成手段は、前記第２検出手段によって前記背景用画像中から略直線分が検出されなかった場合に、前記第１検出手段によって検出された前記被写体画像の略直線分と前記背景用画像の縁部分とが略合致するように、前記背景用画像に前記被写体画像を合成することを特徴としている。
【０００９】
請求項４に記載の発明は、請求項１〜３の何れか一項に記載の画像合成装置において、
前記合成手段は、前記第２検出手段によって検出された略直線分と、前記第１検出手段によって検出した略直線分とが略合致するように前記被写体画像を所定方向に回転させて前記背景用画像と合成することを特徴としている。
【００１０】
請求項５に記載の発明は、請求項１〜４の何れか一項に記載の画像合成装置において、
前記第２検出手段によって前記背景用画像から検出された略直線分の長さと、前記第１検出手段によって検出された前記被写体画像の略直線分の長さとを比較判定する判定手段を更に備え、前記合成手段は、前記判定手段による判定結果に基づいて、前記被写体画像の大きさを調整して前記背景用画像に合成することを特徴としている。
【００１１】
請求項６に記載の発明は、請求項１〜５の何れか一項に記載の画像合成装置において、
前記被写体存在画像を撮像する撮像手段と、前記撮像手段により撮像された前記被写体存在画像から被写体が含まれる領域を抽出して前記被写体画像を生成する画像生成手段と、を更に備えることを特徴としている。
【００１２】
請求項７に記載の発明のプログラムは、
画像合成装置のコンピュータを、被写体画像の輪郭から所定の長さ以上の略直線分を検出する第１検出手段、前記被写体画像と合成すべき背景用画像から所定の長さ以上の略直線分を検出する第２検出手段、前記第１検出手段によって検出された前記被写体画像の略直線分と前記第２検出手段によって検出された前記背景用画像の略直線部分とが略合致するように、前記背景用画像と前記被写体画像を合成する合成手段として機能させることを特徴としている。
【発明の効果】
【００１３】
本発明によれば、被写体画像と背景用画像の縁部分同士が略合致した違和感の少ない合成画像を生成することができる。
【図面の簡単な説明】
【００１４】
【図１】本発明を適用した実施形態１の撮像装置の概略構成を示すブロック図である。
【図２】図１の撮像装置による被写体切り抜き処理に係る動作の一例を示すフローチャートである。
【図３】図２の被写体切り抜き処理に係る画像の一例を模式的に示す図である。
【図４】図１の撮像装置による背景用画像生成処理に係る動作の一例を示すフローチャートである。
【図５】図１の撮像装置による合成画像生成処理に係る動作の一例を示すフローチャートである。
【図６】図５の合成画像生成処理における画像合成処理に係る動作の一例を示すフローチャートである。
【図７】図５の合成画像生成処理に係る画像の一例を模式的に示す図である。
【図８】本発明を適用した実施形態２の撮像装置による被写体切り抜き処理に係る被写体切り抜き画像の一例を模式的に示す図である。
【図９】図８の撮像装置による合成画像生成処理に係る動作の一例を示すフローチャートである。
【図１０】図９の合成画像生成処理に係る画像の一例を模式的に示す図である。
【図１１】合成画像生成処理に係る画像の一例を模式的に示す図である。
【発明を実施するための形態】
【００１５】
以下に、本発明について、図面を用いて具体的な態様を説明する。ただし、発明の範囲は、図示例に限定されない。
【００１６】
［実施形態１］
図１は、本発明を適用した実施形態１の撮像装置１００の概略構成を示すブロック図である。
実施形態１の撮像装置１００は、被写体切り抜き画像Ｐ１（図７（ｂ）参照）の縁部分に沿って延在する線分Ｌ１を検出して、当該被写体切り抜き画像Ｐ１の線分Ｌ１と背景用画像Ｐ２（図７（ａ）参照）の周縁部分Ｅとが略合致するように被写体切り抜き画像Ｐ１の背景用画像Ｐ２に対する合成位置に制限を加える。
具体的には、図１に示すように、撮像装置１００は、レンズ部１と、電子撮像部２と、撮像制御部３と、画像データ生成部４と、画像メモリ５と、特徴量演算部６と、ブロックマッチング部７と、画像処理部８と、記録媒体９と、表示制御部１０と、表示部１１と、操作入力部１２と、ＣＰＵ１３とを備えている。
また、撮像制御部３と、特徴量演算部６と、ブロックマッチング部７と、画像処理部８と、ＣＰＵ１３は、例えば、カスタムＬＳＩ１Ａとして設計されている。
【００１７】
レンズ部１は、複数のレンズから構成され、ズームレンズやフォーカスレンズ等を備えている。
また、レンズ部１は、図示は省略するが、被写体の撮像の際に、ズームレンズを光軸方向に移動させるズーム駆動部、フォーカスレンズを光軸方向に移動させる合焦駆動部等を備えていても良い。
【００１８】
電子撮像部２は、例えば、ＣＣＤ（Charge Coupled Device）やＣＭＯＳ（Complementary Metal-oxide Semiconductor）等のイメージセンサから構成され、レンズ部１の各種レンズを通過した光学像を二次元の画像信号に変換する。
【００１９】
撮像制御部３は、図示は省略するが、タイミング発生器、ドライバなどを備えている。そして、撮像制御部３は、タイミング発生器、ドライバにより電子撮像部２を走査駆動して、所定周期毎に光学像を電子撮像部２により二次元の画像信号に変換させ、当該電子撮像部２の撮像領域から１画面分ずつ画像フレームを読み出して画像データ生成部４に出力させる。
また、撮像制御部３は、ＡＦ（自動合焦処理）、ＡＥ（自動露出処理）、ＡＷＢ（自動ホワイトバランス）等の被写体を撮像する際の条件の調整制御を行う。
【００２０】
このように構成された撮像レンズ部１、電子撮像部２及び撮像制御部３は、撮像手段として、画像合成処理に係る被写体存在画像Ｐ３（図３（ｂ）参照）や背景用画像Ｐ２（図７（ａ）参照）を撮像する。
また、撮像レンズ部１、電子撮像部２及び撮像制御部３は、被写体存在画像Ｐ３の撮像後、当該被写体存在画像Ｐ３の撮像の際の撮像条件を固定した状態で、被写体切り抜き画像Ｐ１の生成のための被写体非存在画像Ｐ４（図３（ｂ）参照）を撮像する。
【００２１】
画像データ生成部４は、電子撮像部２から転送された画像フレームのアナログ値の信号に対してＲＧＢの各色成分毎に適宜ゲイン調整した後に、サンプルホールド回路（図示略）でサンプルホールドしてＡ／Ｄ変換器（図示略）でデジタルデータに変換し、カラープロセス回路（図示略）で画素補間処理及びγ補正処理を含むカラープロセス処理を行った後、デジタル値の輝度信号Ｙ及び色差信号Ｃｂ，Ｃｒ（ＹＵＶデータ）を生成する。
カラープロセス回路から出力される輝度信号Ｙ及び色差信号Ｃｂ，Ｃｒは、図示しないＤＭＡコントローラを介して、バッファメモリとして使用される画像メモリ５にＤＭＡ転送される。
【００２２】
画像メモリ５は、例えば、ＤＲＡＭ等により構成され、特徴量演算部６と、ブロックマッチング部７と、画像処理部８と、ＣＰＵ１３等によって処理されるデータ等を一時記憶する。
【００２３】
特徴量演算部６は、被写体非存在画像Ｐ４を基準として、当該被写体非存在画像Ｐ４から特徴点を抽出する特徴抽出処理を行う。具体的には、特徴量演算部６は、被写体非存在画像Ｐ４のＹＵＶデータに基づいて、所定数（或いは、所定数以上)の特徴の高いブロック領域（特徴点）を選択して、当該ブロックの内容をテンプレート（例えば、１６×１６画素の正方形）として抽出する。
ここで、特徴抽出処理とは、多数の候補ブロックから追跡に都合の良い特徴性の高いものを選択する処理である。
【００２４】
ブロックマッチング部７は、被写体非存在画像Ｐ４と被写体存在画像Ｐ３の位置合わせのためのブロックマッチング処理を行う。具体的には、ブロックマッチング部７は、特徴抽出処理にて抽出されたテンプレートが被写体存在画像Ｐ３内のどこに対応するか、つまり、被写体存在画像Ｐ３内にてテンプレートの画素値が最適にマッチする位置（対応領域）を探索する。そして、画素値の相違度の評価値（例えば、差分二乗和（ＳＳＤ）や差分絶対値和（ＳＡＤ）等）が最も良かった被写体非存在画像Ｐ４と被写体存在画像Ｐ３間の最適なオフセットを当該テンプレートの動きベクトルとして算出する。
【００２５】
画像処理部８は、被写体存在画像Ｐ３と被写体非存在画像Ｐ４との位置合わせを行う位置合わせ部８ａを具備している。
位置合わせ部８ａは、被写体非存在画像Ｐ４から抽出した特徴点に基づいて、被写体非存在画像Ｐ４に対する被写体存在画像Ｐ３の各画素の座標変換式（射影変換行列）を算出し、当該座標変換式に従って被写体存在画像Ｐ３を座標変換して被写体非存在画像Ｐ４と位置合わせを行う。
【００２６】
また、画像処理部８は、位置合わせ部８ａにより位置合わせされた被写体存在画像Ｐ３と被写体非存在画像Ｐ４との間で対応する各画素の差分情報を生成し、当該差分情報を基準として被写体存在画像Ｐ３から被写体が含まれる被写体画像Ａを抽出する被写体画像抽出部８ｂを具備している。
【００２７】
また、画像処理部８は、被写体存在画像Ｐ３内で抽出された被写体画像Ａの位置を特定して、被写体存在画像Ｐ３における被写体画像Ａの位置を示す位置情報を生成する位置情報生成部８ｃを具備している。
ここで、位置情報としては、例えば、アルファマップが挙げられ、アルファマップとは、被写体存在画像Ｐ３の各画素について、被写体画像Ａの画像を所定の背景に対してアルファブレンディングする際の重みをアルファ値（０≦α≦１）として表したものである。
【００２８】
また、画像処理部８は、生成されたアルファマップに基づいて、被写体存在画像Ｐ３の各画素のうち、アルファ値が１の画素を所定の単一色画像（図示略）に対して透過させずに、且つ、アルファ値が０の画素を透過させるように、被写体画像Ａを所定の単一色画像と合成して被写体切り抜き画像Ｐ１（図３（ｃ）参照）の画像データを生成する切抜画像生成部８ｄを具備している。
これにより、切抜画像生成部８ｄは、背景と被写体とが存在する被写体存在画像Ｐ３から被写体が含まれる領域を切り抜いた被写体切り抜き画像Ｐ１を取得する。
【００２９】
また、画像処理部８は、被写体画像Ａの所定方向に延在する線分Ｌ１を検出する線分検出部８ｅを具備している。
線分検出部８ｅは、被写体切り抜き画像Ｐ１の画像データに基づいて、当該画像の上下左右の周縁部分に被写体が含まれる被写体画像Ａが存在しているか否かを検出する。具体的には、線分検出部８ｅは、被写体切り抜き画像Ｐ１の上下左右の周縁部分に、アルファマップのアルファ値が１である画素（即ち、単一色画像の単一色以外の部分）が所定長以上連続して配置されているか否かを判定し、所定長以上連続して配置されている部分（例えば、図７（ｂ）における被写体画像Ａの右端部分）を当該被写体切り抜き画像Ｐ１の縁部分に沿って延在する被写体画像Ａの線分Ｌ１として検出する。
【００３０】
また、画像処理部８は、被写体画像Ａと背景用画像Ｐ２とを合成する画像合成部８ｆを具備している。具体的には、画像合成部８ｆは、記録媒体からユーザ所望の背景用画像Ｐ２を取得して、当該背景用画像Ｐ２の各画素のうち、アルファ値が０の画素は透過させ、アルファ値が１の画素は被写体切り抜き画像Ｐ１の対応する画素の画素値で上書きし、さらに、背景用画像Ｐ２の各画素のうち、アルファ値が０＜α＜１の画素は１の補数（１−α）を用いて被写体画像Ａを切り抜いた画像（背景用画像×（１−α））を生成した後、アルファマップにおける１の補数（１−α）を用いて被写体切り抜き画像Ｐ１を生成した際に単一背景色とブレンドした値を計算し、当該値を被写体切り抜き画像Ｐ１から減算し、それを被写体画像Ａを切り抜いた画像（背景用画像×（１−α））と合成する。
なお、被写体画像Ａの背景用画像Ｐ２に対する合成位置については後述する。
【００３１】
また、画像処理部８は、被写体画像Ａの背景用画像Ｐ２に対する合成位置に制限を加える合成制御部８ｇを具備している。
合成制御部８ｇは、線分検出部８ｅにより検出された被写体画像Ａの線分Ｌ１と背景用画像Ｐ２の上下左右の一直線状の周縁部分Ｅとが略合致するように被写体画像Ａの背景用画像Ｐ２に対する合成位置に制限を加える。ここで、被写体画像Ａの線分Ｌ１と背景用画像Ｐ２の周縁部分Ｅとが略合致する位置とは、被写体画像Ａの線分Ｌ１と背景用画像Ｐ２の周縁部分Ｅが一致した状態、或いは、被写体画像Ａの線分Ｌ１と背景用画像Ｐ２の周縁部分Ｅが一致せずに所定の数画素を空けて配置されているが、略合致しているとみなせる状態等のことである。
例えば、図７（ａ）〜図７（ｃ）に示すように、合成制御部８ｇは、被写体画像Ａの右端の線分Ｌ１と背景用画像Ｐ２の右縁部分Ｅとが略合致する位置でのみ被写体画像Ａを背景用画像Ｐ２に対して合成できるように、背景用画像Ｐ２の右縁部分Ｅと被写体画像Ａの右端の線分Ｌ１とが略合致した状態でのみ当該被写体画像Ａを移動配置可能とする。そして、ユーザによる操作入力部１２の選択決定ボタン１２ｂの所定操作に基づいて、被写体画像Ａの合成位置が調整されて合成位置が決定されるか、或いは、被写体画像Ａの右端の線分Ｌの背景用画像Ｐ２の右縁部分Ｅに対する割合などから自動的に合成位置が決定されると、画像合成部８ｆは、決定された合成位置で当該被写体画像Ａと背景用画像Ｐ２とを画像合成して、被写体合成画像Ｐ５を生成する。
【００３２】
記録媒体９は、例えば、不揮発性メモリ（フラッシュメモリ）等により構成され、画像処理部８のＪＰＥＧ圧縮部（図示略）により符号化された背景用画像Ｐ２や被写体切り抜き画像Ｐ１の画像データを記憶する。
また、被写体画像Ａの画像データは、画像処理部８の位置情報生成部８ｃにより生成されたアルファマップと対応付けられて、当該被写体切り抜き画像Ｐ１の画像データの拡張子を「.jpe」として保存されている。
【００３３】
表示制御部１０は、画像メモリ５に一時的に記憶されている表示用の画像データを読み出して表示部１１に表示させる制御を行う。
具体的には、表示制御部１０は、ＶＲＡＭ、ＶＲＡＭコントローラ、デジタルビデオエンコーダなどを備えている。そして、デジタルビデオエンコーダは、ＣＰＵ１３の制御下にて画像メモリ５から読み出されてＶＲＡＭ（図示略）に記憶されている輝度信号Ｙ及び色差信号Ｃｂ，Ｃｒを、ＶＲＡＭコントローラを介してＶＲＡＭから定期的に読み出して、これらのデータを元にビデオ信号を発生して表示部１１に出力する。
【００３４】
表示部１１は、例えば、液晶表示装置であり、表示制御部１０からのビデオ信号に基づいて電子撮像部２により撮像された画像などを表示画面に表示する。具体的には、表示部１１は、撮像モードにて、撮像レンズ部１、電子撮像部２及び撮像制御部３による被写体の撮像により生成された複数の画像フレームに基づいてライブビュー画像を表示したり、本撮像画像として撮像されたレックビュー画像を表示する。
【００３５】
操作入力部１２は、当該撮像装置１００の所定操作を行うためのものである。具体的には、操作入力部１２は、被写体の撮影指示に係るシャッタボタン１２ａ、撮像モードや機能等の選択指示や被写体画像Ａの合成位置の設定指示に係る選択決定ボタン１２ｂ、ズーム量の調整指示に係るズームボタン（図示略）等を備え、これらのボタンの操作に応じて所定の操作信号をＣＰＵ１３に出力する。
【００３６】
ＣＰＵ１３は、撮像装置１００の各部を制御するものである。具体的には、ＣＰＵ１３は、撮像装置１００用の各種処理プログラム（図示略）に従って各種の制御動作を行うものである。
【００３７】
次に、撮像装置１００による被写体切り抜き処理について、図２及び図３を参照して説明する。
図２は、被写体切り抜き処理に係る動作の一例を示すフローチャートである。また、図３（ａ）〜図３（ｃ）は、被写体切り抜き処理に係る画像の一例を模式的に示す図である。
なお、以下に説明する被写体切り抜き処理にあっては、被写体が画角の右端で見切れた被写体存在画像Ｐ３の撮像を行うものとする。
【００３８】
被写体切り抜き処理は、ユーザによる操作入力部１２の選択決定ボタン１２ｂの所定操作に基づいて、メニュー画面に表示された複数の撮像モードの中から被写体切り抜きモードが選択指示された場合に実行される処理である。
図２に示すように、先ず、ＣＰＵ１３は、表示制御部１０に、撮像レンズ部１、電子撮像部２及び撮像制御部３による被写体の撮像により生成された複数の画像フレームに基づいてライブビュー画像を表示部１１の表示画面に表示させるとともに、当該ライブビュー画像に重畳させて、被写体存在画像Ｐ３の撮像指示メッセージを表示部１１の表示画面に表示させる（ステップＳ１）。
【００３９】
次に、ＣＰＵ１３は、ユーザにより操作入力部１２のシャッタボタン１２ａが撮像指示操作されたか否かを判定する（ステップＳ２）。ここで、シャッタボタン１２ａが撮像指示操作されたと判定されると（ステップＳ２；ＹＥＳ）、ＣＰＵ１３は、撮像制御部３に、フォーカスレンズの合焦位置や露出条件（シャッター速度、絞り、増幅率等）やホワイトバランス等の条件を調整させて、被写体存在画像Ｐ３（図３（ａ）参照）の光学像を所定の条件で電子撮像部２により撮像させて、画像データ生成部４に、電子撮像部２から転送された被写体存在画像Ｐ３の画像フレームのＹＵＶデータを生成させる（ステップＳ３）。なお、当該被写体存在画像Ｐ３のＹＵＶデータは、画像メモリ５に一時記憶される。
また、ＣＰＵ１３は、撮像制御部３を制御して、当該被写体存在画像Ｐ３の撮像の際の合焦位置や露出条件やホワイトバランス等の条件を固定した状態を維持する。
【００４０】
そして、ＣＰＵ１３は、表示制御部１０に、撮像レンズ部１、電子撮像部２及び撮像制御部３による被写体の撮像により生成された複数の画像フレームに基づいてライブビュー画像を表示部１１の表示画面に表示させるとともに、当該ライブビュー画像に重畳させて、被写体存在画像Ｐ３の半透過の表示態様の画像と被写体非存在画像Ｐ４の撮像指示メッセージを表示部１１の表示画面に表示させる（ステップＳ４）。
この後、ＣＰＵ１３は、ユーザにより操作入力部１２のシャッタボタン１２ａが撮像指示操作されたか否かを判定する（ステップＳ５）。そして、ユーザは、被写体を画角外に移動させるか、或いは被写体が移動するのを待った後、ユーザにより被写体非存在画像Ｐ４が被写体存在画像Ｐ３の半透過の画像と重なるようにカメラ位置が調整されて、操作入力部１２のシャッタボタン１２ａが撮像指示操作されたと判定されると（ステップＳ５；ＹＥＳ）、ＣＰＵ１３は、撮像制御部３に、被写体非存在画像Ｐ４（図３（ｂ）参照）の光学像を被写体存在画像Ｐ３の撮像後に固定された条件で電子撮像部２により撮像させて、画像データ生成部４に、電子撮像部２から転送された被写体非存在画像Ｐ４の画像フレームに基づいて、被写体非存在画像Ｐ４のＹＵＶデータを生成させる（ステップＳ６）。なお、当該被写体存在画像Ｐ３のＹＵＶデータは、画像メモリ５に一時記憶される。
【００４１】
次に、ＣＰＵ１３は、特徴量演算部６、ブロックマッチング部７及び画像処理部８に、画像メモリ５に一時記憶されている被写体非存在画像Ｐ４のＹＵＶデータを基準として、被写体存在画像Ｐ３のＹＵＶデータを射影変換させるための射影変換行列を所定の画像変換モデル（例えば、相似変換モデル、或いは合同変換モデル）で算出させる（ステップＳ７）。
具体的には、特徴量演算部６は、被写体非存在画像Ｐ４のＹＵＶデータに基づいて、所定数（或いは、所定数以上)の特徴の高いブロック領域（特徴点）を選択して、当該ブロックの内容をテンプレートとして抽出する。そして、ブロックマッチング部７は、特徴抽出処理にて抽出されたテンプレートの画素値が最適にマッチする位置を被写体存在画像Ｐ３内にて探索して、画素値の相違度の評価値が最も良かった被写体非存在画像Ｐ４と被写体存在画像Ｐ３間の最適なオフセットを当該テンプレートの動きベクトルとして算出する。そして、画像処理部８の位置合わせ部８ａは、ブロックマッチング部７により算出された複数のテンプレートの動きベクトルに基づいて全体の動きベクトルを統計的に算出し、当該動きベクトルに係る特徴点対応を用いて被写体存在画像Ｐ３の射影変換行列を算出する。
【００４２】
次に、ＣＰＵ１３は、位置合わせ部８ａに、算出された射影変換行例に基づいて被写体存在画像Ｐ３を射影変換させることで、被写体存在画像Ｐ３のＹＵＶデータと被写体非存在画像Ｐ４のＹＵＶデータとを位置合わせする処理を行わせる（ステップＳ８）。
【００４３】
そして、ＣＰＵ１３は、画像処理部８の被写体画像抽出部８ｂに、被写体存在画像Ｐ３から被写体が含まれる被写体画像Ａを抽出する処理を行わせる（ステップＳ９）。
具体的には、被写体画像抽出部８ｂは、被写体存在画像Ｐ３のＹＵＶデータと被写体非存在画像Ｐ４のＹＵＶデータの各々に対してローパスフィルタをかけて各画像の高周波成分を除去する。その後、被写体画像抽出部８ｂは、ローパスフィルタをかけた被写体存在画像Ｐ３と被写体非存在画像Ｐ４との間で対応する各画素について相違度を算出して相違度マップを生成する。続けて、被写体画像抽出部８ｂは、各画素に係る相違度マップを所定の閾値で２値化した後、相違度マップから細かいノイズや手ぶれにより相違が生じた領域を除去するために収縮処理を行う。その後、被写体画像抽出部８ｂは、ラベリング処理を行って、所定値以下の領域や最大領域以外の領域を除去した後、一番大きな島のパターンを被写体画像Ａとして特定し、収縮分を修正するための膨張処理を行う。
【００４４】
次に、ＣＰＵ１３は、画像処理部８の位置情報生成部８ｃに、抽出された被写体画像Ａの被写体存在画像Ｐ３内での位置を示すアルファマップを生成させる（ステップＳ１０）。
【００４５】
その後、ＣＰＵ１３は、画像処理部８の切抜画像生成部８ｄに、被写体画像Ａを所定の単一色画像と合成した被写体切り抜き画像Ｐ１（図３（ｃ）参照）の画像データを生成する処理を行わせる（ステップＳ１１）。
具体的には、切抜画像生成部８ｄは、被写体存在画像Ｐ３、単一色画像及びアルファマップを読み出して画像メモリ５に展開した後、被写体存在画像Ｐ３の全ての画素について、アルファ値が０の画素については（α＝０）、透過させ、アルファ値が０＜α＜１の画素については（０＜α＜１）、所定の単一色とブレンディングを行い、アルファ値が１の画素については（α＝１）、何もせずに所定の単一色に対して透過させないようにする。
【００４６】
その後、ＣＰＵ１３は、記録媒体９の所定の記憶領域に、画像処理部８の位置情報生成部８ｃにより生成されたアルファマップと被写体切り抜き画像Ｐ１の画像データを対応付けて、当該被写体切り抜き画像Ｐ１の画像データの拡張子を「.jpe」として一ファイルで保存させる（ステップＳ１２）。
これにより、被写体切り抜き処理を終了する。この結果、画角の右端で見切れた状態で抽出された被写体画像Ａを含んだ被写体切り抜き画像Ｐ１の画像データが生成される。
【００４７】
次に、撮像装置１００による背景用画像生成処理について、図４を参照して説明する。
図４は、背景用画像生成処理に係る動作の一例を示すフローチャートである。
【００４８】
背景用画像生成処理は、通常の静止画像の撮像処理であり、ユーザによる操作入力部１２の選択決定ボタン１２ｂの所定操作に基づいて、メニュー画面に表示された複数の撮像モードの中から静止画撮像モードが選択指示された場合に実行される処理である。
図４に示すように、先ず、ＣＰＵ１３は、表示制御部１０に、撮像レンズ部１、電子撮像部２及び撮像制御部３による背景用画像Ｐ２の撮像により生成された複数の画像フレームに基づいてライブビュー画像を表示部１１の表示画面に表示させる（ステップＳ２１）。
【００４９】
次に、ＣＰＵ１３は、ユーザにより操作入力部１２のシャッタボタン１２ａが撮像指示操作されたか否かを判定する（ステップＳ２２）。ここで、シャッタボタン１２ａが撮像指示操作されたと判定されると（ステップＳ２２；ＹＥＳ）、ＣＰＵ１３は、撮像制御部３に、フォーカスレンズの合焦位置や露出条件（シャッター速度、絞り、増幅率等）やホワイトバランス等の条件を調整させて、背景用画像Ｐ２（図６（ｂ）参照）の光学像を所定の条件で電子撮像部２により撮像させる（ステップＳ２３）。
【００５０】
続けて、ＣＰＵ１３は、画像データ生成部４に、電子撮像部２から転送された背景用画像Ｐ２の画像フレームのＹＵＶデータを生成させた後、記録媒体９の所定の記憶領域に、背景用画像Ｐ２のＹＵＶデータをＥｘｉｆ形式の画像ファイルとして記憶させる（ステップＳ２４）。
これにより、背景用画像生成処理を終了する。
【００５１】
次に、合成画像生成処理について図５〜図７を参照して詳細に説明する。
図５は、合成画像生成処理に係る動作の一例を示すフローチャートである。また、図６は、合成画像生成処理における画像合成処理に係る動作の一例を示すフローチャートである。また、図７（ａ）〜図７（ｃ）は、合成画像生成処理に係る画像の一例を模式的に示す図である。
【００５２】
合成画像生成処理は、ユーザによる操作入力部１２の選択決定ボタン１２ｂの所定操作に基づいて、メニュー画面に表示された複数の撮像モードの中から画像合成モードが選択指示された場合に実行される処理である。
図５のフローチャートに示すように、ユーザによる操作入力部１２の所定操作に基づいて、記録媒体９に記録されている複数の画像の中で合成画像の背景となる所望の背景用画像Ｐ２（図７（ａ）参照）が選択して指定されると、画像処理部８は、指定された背景用画像Ｐ２の画像データを読み出して画像メモリ５に展開する（ステップＳ３１）。
【００５３】
次に、ユーザによる操作入力部１２の所定操作に基づいて、記録媒体９に記録されている複数の画像の中で所望の被写体切り抜き画像Ｐ１（図７（ｂ）参照）が選択して指定されると、画像処理部８は、指定された被写体切り抜き画像Ｐ１の画像データを読み出して画像メモリ５に展開する（ステップＳ３２）。
続けて、画像処理部８の線分検出部８ｅは、被写体切り抜き画像Ｐ１の画像データに基づいて、当該画像の上下左右の周縁部分から上述した単一色以外の画素（被写体画像Ａ）からなる線分Ｌ１を検出して、当該被写体画像Ａの線分Ｌ１が所定長以上あるか否かを判定することで、被写体切り抜き画像Ｐ１の周縁部分に線分Ｌ１があるか否かを判断する（ステップＳ３３）。
【００５４】
ここで、被写体切り抜き画像Ｐ１（被写体画像Ａ）の周縁部分に線分Ｌ１があると判断されると（ステップＳ３３；ＹＥＳ）、合成制御部８ｇは、被写体画像Ａの背景用画像Ｐ２に対する合成位置に制限を加える（ステップＳ３４）。例えば、被写体画像Ａの右端の縁部分に線分Ｌ１がある場合には（図７（ｂ）参照）、被写体画像Ａの右端の縁部分と背景用画像Ｐ２の右縁部分Ｅとが略合致する位置でのみ被写体画像Ａを背景用画像Ｐ２に対して合成できるように、背景用画像Ｐ２の右縁部分Ｅと被写体画像Ａの右端の線分Ｌ１とが略合致した状態で当該被写体画像Ａを移動配置可能とする（図７（ｃ）参照）。
その後、被写体画像Ａの合成位置が決定されると（ステップＳ３５）、画像合成部８ｆは、背景用画像Ｐ２と被写体切り抜き画像Ｐ１とを合成する画像合成処理を行う（ステップＳ３６）。
なお、ステップＳ３４にて、被写体画像Ａの背景用画像Ｐ２に対する合成位置に制限を加える処理を行うことなく、被写体画像Ａの右端の線分Ｌの背景用画像Ｐ２の右縁部分Ｅに対する割合などから自動的に合成位置を決定するようにしても良い。
【００５５】
一方、ステップＳ３３にて、被写体切り抜き画像Ｐ１の縁部分に線分Ｌ１がないと判断されると（ステップＳ３３；ＮＯ）、ユーザによる操作入力部１２の選択決定ボタン１２ｂの所定操作に基づいて、ユーザ所望の被写体切り抜き画像Ｐ１の合成位置を指定して決定した後（ステップＳ３７）、ＣＰＵ１３は、処理をステップＳ３６に移行させて、背景用画像Ｐ２と被写体切り抜き画像Ｐ１とを合成する画像合成処理を行う。
【００５６】
ここで、画像合成処理について図６を参照して詳細に説明する。
図６に示すように、画像合成部８ｆは、被写体切り抜き画像Ｐ１と対応付けて保存されているアルファマップを読み出して画像メモリ５に展開する（ステップＳ４１）。
なお、図５のステップＳ３５にて背景用画像Ｐ２における被写体切り抜き画像Ｐ１の合成位置が決定された際に、背景用画像Ｐ２とアルファマップとがずれてしまいアルファマップの範囲外となる領域については、α＝０としてアルファ値が存在しない領域を生じさせないようにする。
【００５７】
次に、画像合成部８ｆは、背景用画像Ｐ２の何れか一の画素（例えば、左上隅部の画素）を指定して（ステップＳ４２）、当該画素について、アルファマップのアルファ値に基づいて処理を分岐させる（ステップＳ４３）。具体的には、画像合成部８ｆは、背景用画像Ｐ２の何れか一の画素のうち、アルファ値が１の画素については（ステップＳ４３；α＝１）、被写体切り抜き画像Ｐ１の対応する画素の画素値で上書きし（ステップＳ４４）、アルファ値が０＜α＜１の画素については（ステップＳ４３；０＜α＜１）、１の補数（１−α）を用いて被写体画像Ａを切り抜いた画像（背景用画像×（１−α））を生成した後、アルファマップにおける１の補数（１−α）を用いて被写体切り抜き画像Ｐ１を生成した際に単一背景色とブレンドした値を計算し、当該値を被写体切り抜き画像Ｐ１から減算し、それを被写体画像Ａを切り抜いた画像（背景用画像×（１−α））と合成し（ステップＳ４５、アルファ値が０の画素については（ステップＳ４３；α＝０）、何もせずに背景用画像Ｐ２を透過さるようにする。
【００５８】
続けて、画像合成部８ｆは、背景用画像Ｐ２の全ての画素について処理したか否かを判定する（ステップＳ４６）。
ここで、全ての画素について処理していないと判定されると（ステップＳ４６；ＮＯ）、画像合成部８ｆは、処理対象として次の画素を指定して当該画素に処理対象を移動させて（ステップＳ４７）、処理をステップＳ４３に移行させる。
上記の処理を、ステップＳ４６にて全ての画素について処理したと判定されるまで（ステップＳ４６；ＹＥＳ）、繰り返すことで、画像合成部８ｆは、被写体切り抜き画像Ｐ１と背景用画像Ｐ２とを合成した被写体合成画像Ｐ５の画像データを生成させる。
これにより、画像合成処理を終了する。
【００５９】
図５に示すように、その後、ＣＰＵ１３は、表示制御部１０に、画像合成部８ｆにより生成された被写体合成画像Ｐ５の画像データに基づいて、背景用画像Ｐ２に被写体が重畳された被写体合成画像Ｐ５（図７（ｃ）参照）を表示部１１の表示画面に表示させる（ステップＳ３８）。
これにより、合成画像生成処理を終了する。
【００６０】
以上のように、実施形態１の撮像装置１００によれば、被写体存在画像Ｐ３を撮像して当該被写体存在画像Ｐ３から被写体が含まれる被写体画像Ａを抽出した被写体切り抜き画像Ｐ１を生成する。そして、被写体画像Ａの被写体切り抜き画像Ｐ１における周縁部分に沿って延在する線分Ｌ１を検出して、当該被写体画像Ａの線分Ｌ１と背景用画像Ｐ２の一直線状の周縁部分Ｅとが略合致するように被写体画像Ａの背景用画像Ｐ２に対する合成位置に制限を加える。具体的には、被写体切り抜き画像Ｐ１から所定の長さ以上の線分Ｌ１が検出された場合に、被写体画像Ａの背景用画像Ｐ２に対する合成位置に制限を加える。
これにより、例えば、被写体が画角で見切れた被写体存在画像Ｐ３を撮影して、当該被写体存在画像Ｐ３から被写体切り抜き画像Ｐ１を生成して、被写体画像Ａを背景用画像Ｐ２と合成すると、被写体画像Ａの合成位置によっては当該画像の縁部分の線分Ｌ１が目立ってしまうが、被写体画像Ａの背景用画像Ｐ２に対する合成位置に制限を加えることで、被写体画像Ａの線分Ｌ１と背景用画像Ｐ２の一直線状の周縁部分Ｅとが略合致した違和感のない自然な被写体合成画像Ｐ５を生成することができる。
【００６１】
［実施形態２］
以下に、実施形態２の撮像装置１００について、図８〜図１０を参照して説明する。
実施形態２の撮像装置１００は、背景用画像Ｐ２から所定方向に沿って延在する線分Ｌ２を検出し、当該背景用画像Ｐ２中の線分Ｌ２と被写体切り抜き画像Ｐ１の線分Ｌ１とが略合致するように合成位置に制限を加える。
なお、実施形態２の撮像装置１００は、線分検出部８ｅ及び合成制御部８ｇの構成が異なる以外の点で上記実施形態１の撮像装置１００と略同様の構成をなし、その説明は省略する。
【００６２】
線分検出部８ｅは、被写体切り抜き画像Ｐ１の画像データに基づいて、当該画像中の被写体が含まれる被写体画像Ａの縁部分に線分Ｌ１が存在しているか否かを検出する。例えば、画角内の柱の陰に体の一部分が隠れた人物を被写体存在画像Ｐ３（図８（ａ）参照）として撮影した場合、当該被写体存在画像Ｐ３と被写体非存在画像Ｐ４（図８（ｂ）参照）を用いて被写体画像Ａを検出して被写体切り抜き画像Ｐ１を生成すると、図８（ｃ）に示すように、被写体切り抜き画像Ｐ１として、周縁部分以外の略中央部に上下方向に沿って延在する線分を被写体画像Ａの縁部分に有するものが生成される。
かかる場合に、線分検出部８ｅは、被写体画像Ａの縁部分に、アルファマップのアルファ値が１である画素（即ち、単一色画像の単一色以外の部分）が所定の一方向に沿って所定長以上連続して配置されているか否かを判定し、所定長以上連続して配置されている部分（例えば、図１０（ｂ）における被写体画像Ａの右端部分）を線分Ｌ１として検出する。
【００６３】
また、線分検出部８ｅは、背景用画像Ｐ２中の所定方向に沿って延在する線分Ｌ２を検出する。具体的には、線分検出部８ｅは、背景用画像Ｐ２の画像データに対してハフ変換を行うことで、当該画像中の所定の一方向に沿って延在する線分Ｌ２を検出する。例えば、図１０（ａ）に示すように、線分検出部８ｅは、背景用画像Ｐ２中の建物の画像の外面に沿って延在する線分Ｌ２を検出する。
【００６４】
合成制御部８ｇは、背景用画像Ｐ２中の線分Ｌ２と被写体画像Ａの縁部分の線分Ｌ１とが略合致するように当該背景用画像Ｐ２と被写体切り抜き画像Ｐ１との合成位置に制限を加える。
例えば、図１０（ａ）〜図１０（ｃ）に示すように、合成制御部８ｇは、被写体切り抜き画像Ｐ１の被写体画像Ａの右端部分の線分Ｌ１と背景用画像Ｐ２中の建物の左外側面部分の線分Ｌ２とが略合致する位置でのみ被写体切り抜き画像Ｐ１を背景用画像Ｐ２に対して合成できるように、背景用画像Ｐ２の建物の左外側面部分の線分Ｌ２と被写体画像Ａの右端部分の線分Ｌ１とが略合致した状態でのみ当該被写体切り抜き画像Ｐ１を移動配置可能とする。そして、ユーザによる操作入力部１２の選択決定ボタン１２ｂの所定操作に基づいて、被写体切り抜き画像Ｐ１の合成位置が調整されて合成位置が決定されるか、或いは、被写体画像Ａの右端部分の線分Ｌ１の背景用画像Ｐ２の建物の左側面部分に対する割合などから自動的に合成位置が決定されると、画像合成部８ｆは、決定された被写体切り抜き画像Ｐ１の合成位置で当該被写体切り抜き画像Ｐ１と背景用画像Ｐ２とを画像合成して、被写体合成画像Ｐ５を生成する。
【００６５】
次に、合成画像生成処理について図９及び図１０を参照して詳細に説明する。
図９は、合成画像生成処理に係る動作の一例を示すフローチャートである。また、図１０（ａ）〜図１０（ｃ）は、合成画像生成処理に係る画像の一例を模式的に示す図である。
なお、以下に説明する合成画像生成処理にあっては、略中央部に上下方向に沿って延在する線分Ｌ１を被写体画像Ａの縁部分に有する被写体切り抜き画像Ｐ１を用いるものとする。
【００６６】
図９のフローチャートに示すように、実施形態１と同様に、ユーザによる操作入力部１２の所定操作に基づいて、記録媒体９に記録されている複数の画像の中で合成画像の背景となる所望の背景用画像Ｐ２（図１０（ａ）参照）が選択して指定されると、画像処理部８は、指定された背景用画像Ｐ２の画像データを読み出して画像メモリ５に展開する（ステップＳ３１）。
【００６７】
次に、実施形態１と同様に、ユーザによる操作入力部１２の所定操作に基づいて、記録媒体９に記録されている複数の画像の中で所望の被写体切り抜き画像Ｐ１（図１０（ｂ）参照）が選択して指定されると、画像処理部８は、指定された被写体切り抜き画像Ｐ１の画像データを読み出して画像メモリ５に展開する（ステップＳ３２）。
続けて、画像処理部８の線分検出部８ｅは、被写体切り抜き画像Ｐ１の画像データに基づいて、当該画像に所定長以上の線分Ｌ１があるか否かを判断する（ステップＳ５１）。具体的には、線分検出部８ｅは、被写体切り抜き画像Ｐ１の上下左右の縁部分から単一色以外の画素（被写体画像Ａ）からなる線分Ｌ１を検出するとともに、画像中の被写体画像Ａの縁部分に線分Ｌ１が存在しているか否かを検出して、検出された被写体画像Ａの線分Ｌ１が所定長以上あるか否かを判定することで、被写体切り抜き画像Ｐ１に線分Ｌ１があるか否かを判断する。
【００６８】
ここで、被写体切り抜き画像Ｐ１に線分Ｌ１があると判断されると（ステップＳ５１；ＹＥＳ）、線分検出部８ｅは、検出した線分Ｌ１は被写体切り抜き画像Ｐ１の縁部分に沿って延在するものであったか否かを判定する（ステップＳ５２）。
ここで、線分Ｌ１が被写体切り抜き画像Ｐ１の縁部分に沿って延在するものであったと判定されると（ステップＳ５２；ＹＥＳ）、合成制御部８ｇは、実施形態１と同様に、当該被写体切り抜き画像Ｐ１の背景用画像Ｐ２に対する合成位置を背景用画像Ｐ２の周縁部分Ｅになるように制限を加える（ステップＳ５３）。
【００６９】
一方、ステップＳ５２にて、線分Ｌ１が被写体切り抜き画像Ｐ１の縁部分に沿って延在するものではなかったと判定されると（ステップＳ５２；ＮＯ）、つまり、被写体切り抜き画像Ｐ１中の被写体画像Ａの縁部分に線分Ｌ１が存在している場合（図１０（ａ）参照）、線分検出部８ｅは、背景用画像Ｐ２の画像データに対してハフ変換を行うことで、当該画像中の所定の一方向に沿って延在する線分Ｌ２を検出して、背景用画像Ｐ２に線分Ｌ２があるか否かを判断する（ステップＳ５４）。なお、線分検出部８ｅは、被写体切り抜き画像Ｐ１の被写体画像Ａの線分Ｌ１と同じ方向に沿って延在する線分Ｌ２のみを検出するようにしても良い。
【００７０】
ここで、背景用画像Ｐ２中に線分Ｌ２があると判断されると（ステップＳ５４；ＹＥＳ）、例えば、図１０（ａ）に示すように、線分検出部８ｅが背景用画像Ｐ２中の建物の画像の外面に沿って延在する線分Ｌ２を検出した場合、合成制御部８ｇは、被写体切り抜き画像Ｐ１の背景用画像Ｐ２に対する合成位置を当該背景用画像Ｐ２中の線分Ｌ２になるように制限を加える（ステップＳ５５）。例えば、合成制御部８ｇは、被写体切り抜き画像Ｐ１の被写体画像Ａの右端の線分Ｌ１と背景用画像Ｐ２中の線分Ｌ２とが略合致する位置でのみ被写体画像Ａを背景用画像Ｐ２に対して合成できるように、背景用画像Ｐ２中の線分Ｌ２と被写体切り抜き画像Ｐ１の被写体画像Ａの右端の線分Ｌ１とが略合致した状態でのみ当該被写体切り抜き画像Ｐ１を移動配置可能とする（図１０（ｃ）参照）。
一方、ステップＳ５４にて、背景用画像Ｐ２中に線分Ｌ２がないと判断されると（ステップＳ５４；ＮＯ）、ＣＰＵ１３は処理をステップＳ５３に移行させて、合成制御部８ｇは、被写体画像Ａの背景用画像Ｐ２に対する合成位置を背景用画像Ｐ２の縁部分になるように制限を加える（ステップＳ５３）。
その後、実施形態１と同様に、被写体画像Ａの合成位置が決定されると（ステップＳ５６）、画像合成部８ｆは、背景用画像Ｐ２と被写体画像Ａとを合成する画像合成処理を行う（ステップＳ３６）。
【００７１】
また、ステップＳ５１にて、被写体切り抜き画像Ｐ１に線分Ｌ１がないと判断されると（ステップＳ５１；ＮＯ）、ユーザによる操作入力部１２の選択決定ボタン１２ｂの所定操作に基づいて、ユーザ所望の被写体切り抜き画像Ｐ１の合成位置を指定して決定した後（ステップＳ３７）、ＣＰＵ１３は、処理をステップＳ３６に移行させて、背景用画像Ｐ２と被写体切り抜き画像Ｐ１とを合成する画像合成処理を行う。
【００７２】
その後、実施形態１と同様に、ＣＰＵ１３は、表示制御部１０に、画像合成部８ｆにより生成された被写体合成画像Ｐ５の画像データに基づいて、背景用画像Ｐ２１に被写体が重畳された被写体合成画像Ｐ５（図１０（ｃ）参照）を表示部１１の表示画面に表示させる（ステップＳ３８）。
これにより、合成画像生成処理を終了する。
【００７３】
以上のように、実施形態２の撮像装置１００によれば、背景用画像Ｐ２から所定方向に沿って延在する線分Ｌ２を検出し、当該背景用画像Ｐ２中の線分Ｌ２と被写体切り抜き画像Ｐ１中の線分Ｌ１とが略合致するように合成位置に制限を加える。また、背景用画像Ｐ２から線分Ｌ２が検出されなかった場合に、被写体画像Ａの線分Ｌ１と背景用画像Ｐ２の周縁部分Ｅとが略合致するように合成位置に制限を加える。
これにより、被写体画像Ａの背景用画像Ｐ２に対する合成の自由度を大きくすることができ、背景用画像Ｐ２の周縁部分Ｅだけでなく、背景用画像Ｐ２中から検出された線分Ｌ２に対しても被写体切り抜き画像Ｐ１の線分Ｌ１と略合致した違和感のない自然な被写体合成画像Ｐ５を生成することができる。
【００７４】
また、被写体切り抜き画像Ｐ１の被写体画像Ａから所定の長さ以上の線分Ｌ１が検出された場合に、背景用画像Ｐ２から線分Ｌ２を検出するので、被写体画像Ａの抽出用の被写体非存在画像Ｐ４の撮影環境によって見切れた被写体存在画像Ｐ３から被写体切り抜き画像Ｐ１を生成した場合に、背景用画像Ｐ２から線分Ｌ２を検出して被写体切り抜き画像Ｐ１の線分Ｌ１と背景用画像Ｐ２の線分Ｌ２とが略合致した違和感のない自然な被写体合成画像Ｐ５を生成することができる。
従って、被写体が画角で見切れた被写体存在画像Ｐ３だけでなく、被写体画像Ａの抽出用の被写体非存在画像Ｐ４の撮影環境によって見切れた被写体存在画像Ｐ３の合成もより適正に行うことできる。
【００７５】
なお、本発明は、上記実施形態１、２に限定されることなく、本発明の趣旨を逸脱しない範囲において、種々の改良並びに設計の変更を行っても良い。
以下に、撮像装置１００の変形例について説明する。
【００７６】
例えば、上記実施形態２において、被写体画像Ａの縁部分の線分Ｌ１が背景用画像Ｐ２中の線分Ｌ２と異なる方向に延在する場合、即ち、図１１（ａ）に示すように、被写体画像Ａの縁部分の線分Ｌ１が斜めに延在する一方で背景用画像Ｐ２中の線分Ｌ２が上下方向に延在する場合のように互いの線分Ｌ１、Ｌ２の延在方向が略一致しない場合、合成制御部８ｇは、被写体画像Ａの縁部分の線分Ｌ１と背景用画像Ｐ２中の線分Ｌ２の延在方向が略一致するように当該被写体画像Ａを所定方向に回転させる処理を施すようにしても良い（図１１（ｂ）参照）。
これにより、被写体画像Ａの縁部分の線分Ｌ１と背景用画像Ｐ２中の線分Ｌ２の延在方向が一致しない場合であっても、被写体切り抜き画像Ｐ１を所定方向に回転させて、被写体画像Ａの縁部分の線分Ｌ１と背景用画像Ｐ２中の線分Ｌ２の延在方向が略一致した違和感のない自然な被写体合成画像Ｐ５を生成することができる。
【００７７】
また、上記実施形態１、２において、合成制御部８ｇは、背景用画像Ｐ２中の線分Ｌ及び背景用画像Ｐ２の一直線状の周縁部分Ｅと、被写体切り抜き画像Ｐ１から検出された縁部分の線分（被写体画像Ａの縁部分の線分Ｌ１を含む）の長さを比較判定して、当該判定結果に基づいて、被写体切り抜き画像Ｐ１の大きさを調整する処理を施すようにしても良い。
例えば、背景用画像Ｐ２中の線分Ｌ２及び背景用画像Ｐ２の一直線状の周縁部分Ｅに対して、被写体切り抜き画像Ｐ１から検出された縁部分の線分（被写体画像Ａの縁部分の線分Ｌ１を含む）の長さが長い場合には、被写体切り抜き画像Ｐ１を所定の倍率で縮小する。
これにより、被写体画像Ａの大きさが背景用画像Ｐ２に対する合成に不適当な場合であっても、被写体切り抜き画像Ｐ１を所定の倍率で縮小することで被写体画像Ａの大きさを背景用画像Ｐ２に対してより自然なものとすることができ、違和感のない自然な被写体合成画像Ｐ５を得ることができる。
【００７８】
さらに、上記実施形態１、２において、被写体切り抜き画像Ｐ１が二つ以上の線分Ｌ１を有する場合には、これらの線分Ｌ１のうち、より多くの線分Ｌ１が背景用画像Ｐ２の周縁部分Ｅや背景用画像Ｐ２中の所定の線分Ｌ２と略合致した状態となるように画像合成するのが好ましい。
また、上記実施形態１、２にあっては、背景用画像Ｐ２に一の被写体切り抜き画像Ｐ１を合成するようにしたが、被写体切り抜き画像Ｐ１の合成数は適宜任意に変更することができ、複数であっても良い。かかる場合には、全ての被写体切り抜き画像Ｐ１、…と背景用画像Ｐ２とが違和感を生じさせないように所定の画像処理や回転処理等を行うのが好ましい。
さらに、被写体切り抜き処理を行った後、背景用画像生成処理を行うようにしたが、これらの処理の順番は逆であっても良い。
【００７９】
また、撮像装置１００の構成は、上記実施形態１、２に例示したものは一例であり、これに限られるものではない。即ち、画像合成装置として、撮像装置を例示したが、これに限られるものではい。例えば、被写体切り抜き画像Ｐ１、背景用画像Ｐ２の生成は、当該撮像装置１００とは異なる撮像装置にて行い、この撮像装置から転送された画像データのみを記録して、合成画像生成処理のみを実行する画像合成装置であっても良い。
【００８０】
加えて、上記実施形態にあっては、第１検出手段、第２検出手段、合成手段としての機能を、ＣＰＵ１３の制御下にて、画像処理部８の線分検出部８ｅ、画像合成部８ｆ、合成制御部８ｇが駆動することにより実現される構成としたが、これに限られるものではなく、ＣＰＵ１３によって所定のプログラム等が実行されることにより実現される構成としても良い。
即ち、プログラムを記憶するプログラムメモリ（図示略）に、第１検出処理ルーチン、第２検出処理ルーチン、合成処理ルーチンを含むプログラムを記憶しておく。そして、第１検出処理ルーチンによりＣＰＵ１３に、被写体画像Ａの輪郭から所定の長さ以上の略直線分を検出させるようにしても良い。また、第２検出処理ルーチンによりＣＰＵ１３に、被写体画像Ａと合成すべき背景用画像Ｐ２から所定の長さ以上の略直線分を検出させるようにしても良い。また、合成処理ルーチンによりＣＰＵ１３に、検出された被写体画像Ａの略直線分と検出された背景用画像Ｐ２の略直線部分とが略合致するように、背景用画像Ｐ２と被写体画像Ａを合成させるようにしても良い。
【符号の説明】
【００８１】
１００  撮像装置
１      レンズ部
２      電子撮像部
３      撮像制御部
８      画像処理部
８ｄ    切抜画像生成部
８ｅ    線分検出部
８ｆ    画像合成部
８ｇ    合成制御部
９      記録媒体
１１    表示部
１３    ＣＰＵ
【図１】
2010226291.tif 000003
【図２】
2010226291.tif 000004
【図３】
2010226291.tif 000005
【図４】
2010226291.tif 000006
【図５】
2010226291.tif 000007
【図６】
2010226291.tif 000008
【図７】
2010226291.tif 000009
【図８】
2010226291.tif 000010
【図９】
2010226291.tif 000011
【図１０】
2010226291.tif 000012
【図１１】
2010226291.tif 000013