(57)【要約】【課題】撮影者自身を被写体に含むパノラマ撮影を容易に行うことができる技術を実現する。【解決手段】撮影手段と、前記撮影手段により撮影された複数の画像を合成する合成手段とを有する撮像装置であって、前記撮影手段により撮影された画像から被写体を検出する被写体検出手段と、前記被写体検出手段の検出結果に基づいて前記複数の画像から背景領域を抽出する背景抽出手段と、前記背景領域が抽出された画像を繋ぎ合わせるように合成して前記複数の画像よりも画角の広い背景画像を生成する背景画像生成手段と、前記複数の画像から前記被写体検出手段により被写体が検出された画像を選択し、前記背景画像生成手段により生成された背景画像に合成してパノラマ画像を生成するパノラマ画像合成手段と、を有する。【選択図】図１
2014068081.tif 000002
【特許請求の範囲】
【請求項１】
撮影手段と、前記撮影手段により撮影された複数の画像を合成する合成手段とを有する撮像装置であって、
前記撮影手段により撮影された画像から被写体を検出する被写体検出手段と、
前記被写体検出手段の検出結果に基づいて前記複数の画像から背景領域を抽出する背景抽出手段と、
前記背景領域が抽出された画像を繋ぎ合わせるように合成して前記複数の画像よりも画角の広い背景画像を生成する背景画像生成手段と、
前記複数の画像から前記被写体検出手段により被写体が検出された画像を選択し、前記背景画像生成手段により生成された背景画像に合成してパノラマ画像を生成するパノラマ画像合成手段と、を有することを特徴とする撮像装置。
【請求項２】
撮影手段と、前記撮影手段により撮影された複数の画像を合成する合成手段とを有する撮像装置であって、
前記撮影手段により撮影された画像から被写体を検出する被写体検出手段と、
前記複数の画像のうちの１つの画像に対して、他の画像の前記被写体領域以外の領域を合成して、前記複数の画像それぞれよりも画角の広いパノラマ画像を生成するパノラマ画像合成手段と、を有し、
前記パノラマ画像合成手段によって、前記１つの画像に対して左の画角に合成される画像は、前記他の画像から前記被写体が検出された領域の左側の領域を抽出して合成したものであり、前記１つの画像に対して右の画角に合成される画像は、前記他の画像から前記被写体が検出された領域の右側の領域を抽出して合成したものであることを特徴とする撮像装置。
【請求項３】
前記撮像装置の動作モードをパノラマ撮影モードに設定するモード設定手段を更に有することを特徴とする請求項１または２に記載の撮像装置。
【請求項４】
前記パノラマ撮影モードにおいて、撮影レンズを広角側に変更するズーム制御手段と、
絞り値を大きい値に変更する絞り制御手段と、を更に有することを特徴とする請求項３に記載の撮像装置。
【請求項５】
前記パノラマ撮影モードにおいて、前記撮影手段は、手ブレ補正用のレンズまたは撮像素子をずらすことにより被写体の位置を端部に移動することを特徴とする請求項３に記載の撮像装置。
【請求項６】
前記パノラマ撮影モードにおいて、前記背景領域となる部分を表示する表示手段を更に有することを特徴とする請求項３に記載の撮像装置。
【請求項７】
前記複数の画像から撮影者が写っている画像を選択可能に提示する提示手段を更に有することを特徴とする請求項１ないし６のいずれか１項に記載の撮像装置。
【請求項８】
前記複数の画像から前記被写体が検出された画像を選択することに代えて、前記撮影手段は、前記画像の撮影中に前記被写体の写っている画像の撮影位置となった場合、当該画像の撮影を中断して、前記被写体の写っている画像の撮影を行うことを特徴とする請求項２に記載の撮像装置。
【請求項９】
前記被写体の写っている画像の撮影を行う場合に、前記撮影手段は、手ブレ補正用のレンズまたは撮像素子をずらすことにより前記被写体が画像の中央に位置するように撮影位置を変更することを特徴とする請求項８に記載の撮像装置。
【請求項１０】
撮影手段と、前記撮影手段により撮影された複数の画像を合成する合成手段とを有する撮像装置の制御方法であって、
前記撮影手段により撮影された画像から被写体を検出する被写体検出ステップと、
前記被写体検出ステップの検出結果に基づいて前記複数の画像から背景領域を抽出する背景抽出ステップと、
前記背景領域が抽出された画像を繋ぎ合わせるように合成して前記複数の画像よりも画角の広い背景画像を生成する背景画像生成ステップと、
前記複数の画像から前記被写体検出ステップにより被写体が検出された画像を選択し、前記背景画像生成ステップにより生成された背景画像に合成してパノラマ画像を生成するパノラマ画像合成ステップと、を有することを特徴とする撮像装置の制御方法。
【請求項１１】
撮影手段と、前記撮影手段により撮影された複数の画像を合成する合成手段とを有する撮像装置の制御方法であって、
前記撮影手段により撮影された画像から被写体を検出する被写体検出ステップと、
前記複数の画像のうちの１つの画像に対して、他の画像の前記被写体領域以外の領域を合成して、前記複数の画像それぞれよりも画角の広いパノラマ画像を生成するパノラマ画像合成ステップと、を有し、
前記パノラマ画像合成ステップによって、前記１つの画像に対して左の画角に合成される画像は、前記他の画像から前記被写体が検出された領域の左側の領域を抽出して合成したものであり、前記１つの画像に対して右の画角に合成される画像は、前記他の画像から前記被写体が検出された領域の右側の領域を抽出して合成したものであることを特徴とする撮像装置の制御方法。
【請求項１２】
コンピュータを、請求項１ないし９のいずれか１項に記載された撮像装置の各手段として機能させるためのプログラム。
【請求項１３】
コンピュータを、請求項１ないし９のいずれか１項に記載された撮像装置の各手段として機能させるためのプログラムを格納したコンピュータにより読み取り可能な記憶媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、パノラマ撮影画像を生成する技術に関するものである。
【背景技術】
【０００２】
近年、単眼式のカメラシステムを用いてパノラマ画像を撮影する方法が提案されている。撮影者は撮影方向を変化（パン）させながら撮影を行う。この撮影により生成された複数の素材画像を繋ぎ合わせることで、１つの広い画角を持つ画像をつくることができる。例えば、特許文献１では撮影方向を順次変化させて撮像することにより複数の画像領域が繋ぎ合わされたパノラマ状の全体画像を生成する方法が開示されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００９−２８４５２２号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、上記特許文献１では、同じ被写体が複数の素材画像にわたって大きく写り込んでいる場合、具体的には、撮影者自身を被写体に含むパノラマ撮影をしようとした場合、うまく合成できないことがある。パノラマ画像を撮影するには、図１１のように、撮影者は撮像装置１１００を自分に向け自分を中心に回転しながら撮影を行う。このとき撮影された素材画像は図１２のようにフレームに対して同じような位置に撮影者である自分自身が大きく写り込んだものとなる。上記特許文献１により、これら素材画像を合成しようとした場合、生成される画像は図１３のように撮影者が全体的に連なったものとなる。これは、上記特許文献１ではパノラマ合成に使用する画像領域をフレームに対して固定の位置（中央）としているためである。
【０００５】
本発明は、上記課題に鑑みてなされ、その目的は、撮影者自身を被写体に含むパノラマ撮影を容易に行うことができる技術を実現することである。
【課題を解決するための手段】
【０００６】
上記課題を解決し、目的を達成するために、本発明の撮像装置は、撮影手段と、前記撮影手段により撮影された複数の画像を合成する合成手段とを有する撮像装置であって、前記撮影手段により撮影された画像から被写体を検出する被写体検出手段と、前記被写体検出手段の検出結果に基づいて前記複数の画像から背景領域を抽出する背景抽出手段と、前記背景領域が抽出された画像を繋ぎ合わせるように合成して前記複数の画像よりも画角の広い背景画像を生成する背景画像生成手段と、前記複数の画像から前記被写体検出手段により被写体が検出された画像を選択し、前記生成された背景画像に合成してパノラマ画像を生成するパノラマ画像合成手段と、を有する。
【発明の効果】
【０００７】
本発明によれば、撮影者自身を被写体に含むパノラマ撮影を容易に行うことができる。
【図面の簡単な説明】
【０００８】
【図１】本発明に係る実施形態の撮像装置の構成を示すブロック図。
【図２】実施形態１のパノラマ画像合成処理を示すフローチャート。
【図３】パノラマ撮影モードにおいて背景領域を通知するためのＵＩ画面を例示する図。
【図４】パノラマ撮影モードにおいて片手持ちを促すためのＵＩ画面を例示する図。
【図５】パノラマ撮影モードにおいて撮影された素材画像を例示する図。
【図６】本実施形態のパノラマ画像合成処理を説明する図。
【図７】素材画像から人物画像を選択する様子を示す図。
【図８】実施形態２のパノラマ画像合成処理を説明する図。
【図９】実施形態２のパノラマ画像合成処理を示すフローチャート。
【図１０】実施形態３のパノラマ画像合成処理を示すフローチャート。
【図１１】パノラマ撮影方法を説明する図。
【図１２】従来のパノラマ撮影モードにおいて撮影された画像を例示する図。
【図１３】従来のパノラマ画像合成処理により生成されたパノラマ画像を例示する図。
【発明を実施するための形態】
【０００９】
以下に、本発明を実施するための形態について詳細に説明する。尚、以下に説明する実施の形態は、本発明を実現するための一例であり、本発明が適用される装置の構成や各種条件によって適宜修正又は変更されるべきものであり、本発明は以下の実施の形態に限定されるものではない。また、後述する各実施形態の一部を適宜組み合わせて構成しても良い。
【００１０】
［実施形態１］以下、本発明を、デジタルカメラなどの撮像装置に適用した実施形態について説明する。
【００１１】
＜装置構成＞図１を参照して、本発明に係る実施形態の撮像装置の構成及び機能の概略について説明する。
【００１２】
図１において、撮影レンズ１０１はフォーカスレンズやズームレンズ、ＩＳ（Ｉｍａｇｅ  Ｓｔａｂｉｌｉｚｅｒ）レンズ等を含み、被写体を捕捉し、撮像素子１０４の撮像面上に結像させる。絞り１０２は撮影レンズ１０１から入射される被写体像の光量を所定量に制限する。シャッター１０３は撮像素子１０４への露光量を制御する。撮像素子１０４は、撮影レンズ１０１により結像された被写体を、ＣＭＯＳイメージセンサ等を構成する光電変換素子により電気信号に変換して、プリアンプ１０５を介してＡＧＣ回路１０６へ出力する。ＡＧＣ回路（オートゲインコントロール回路）１０６は、プリアンプ１０５により雑音が除去された後、デジタル信号に変換する前のアナログ信号のゲインを調整することにより画像信号のレベル調整を行う。
【００１３】
Ａ／Ｄ変換部１０７は、ＡＧＣ回路１０６のアナログ信号出力をデジタル信号に変換する。
【００１４】
映像信号処理部１０８は、Ａ／Ｄ変換部１０７からのデジタル画像信号に対して所定のフィルタ処理や色変換処理、ガンマ処理を施し、現像データを作成すると共に、ＪＰＥＧなどの圧縮処理を行い、画像メモリ１３０に出力する。また、映像信号処理部１０８は、所定の処理を施した画像データを、露出算出部１４２、合焦検出部１４３、背景抽出部１４４、パノラマ画像合成部１４５へ出力する。
【００１５】
露出算出部１４２は、映像信号処理部１０８により現像処理された画像データから露出値を算出し、信号処理ユニット１２０を介してシステムコントローラ１１０に出力する。
【００１６】
合焦検出部１４３は、映像信号処理部１０８により現像処理された画像データから合焦状態を検出し、検出結果を信号処理ユニット１２０を介してシステムコントローラ１１０に出力する。
【００１７】
背景抽出部１４４は、後述するパノラマ撮影により得られた素材画像から被写体領域以外の背景領域を抽出し、抽出結果を信号処理ユニット１２０を介してシステムコントローラ１１０に出力する。
【００１８】
パノラマ画像合成部１４５は、後述するパノラマ撮影により得られた複数の素材画像を繋ぎ合わせて合成することで、パノラマ画像を生成し、信号処理ユニット１２０を介してシステムコントローラ１１０に出力する。
【００１９】
信号処理ユニット１２０は、映像信号処理部１０８により生成された画像データを、表示用のアナログ信号に変換して表示部１５０に出力する。表示部１５０は、液晶ディスプレイや有機ＥＬディスプレイからなる。
【００２０】
方位情報取得部１２１は、撮像装置１００の姿勢や向き等の方位情報を取得し、信号処理ユニット１２０を介してシステムコントローラ１１０に出力する。
【００２１】
位置情報取得部１２２は、ＧＰＳ信号を受信することにより撮像装置１００の位置情報を取得し、信号処理ユニット１２０を介してシステムコントローラ１１０に出力する。
【００２２】
加速度情報取得部１２３は、加速度センサにより撮像装置１００の加速度情報を取得し、信号処理ユニット１２０を介してシステムコントローラ１１０に出力する。
【００２３】
Ｉ／Ｆ部１２４は、有線通信または無線通信によりＰＣや外部記憶装置等に接続可能であり、接続先から取得した情報を信号処理ユニット１２０を介してシステムコントローラ１１０に出力する。
【００２４】
モード設定部１２５は、各種ボタンやタッチパネル等からなるユーザ操作を受け付ける操作手段であり、撮像装置１００の動作モードを、通常撮影モードや再生モード、後述するパノラマ撮影モード等へ切り替えるためのモード切替指示を信号処理ユニット１２０を介してシステムコントローラ１１０に出力する。
【００２５】
レリーズ検出部１２６は、撮像装置１００のシャッターボタンの半押しや全押しによるスイッチ状態を検出し、検出結果を信号処理ユニット１２０を介してシステムコントローラ１１０に出力する。
【００２６】
システムコントローラ１１０は、ＣＰＵ、ＲＯＭ、ＲＡＭ等を含み、撮像装置全体を統括して制御する。具体的には、システムコントローラ１１０は、レリーズ検出部１２６によりシャッターボタンの半押しが検出されると、ＷＢ算出部１４１で算出されＷＢ値、露出算出部１４２で算出された露出値、合焦検出部１４３で検出された合焦状態に基づいて、ＡＦ（オートフォーカス）処理、ＡＥ（自動露出）処理、ＡＷＢ（オートホワイトバランス）処理、ＥＦ（フラッシュプリ発光）処理等の撮像準備動作を開始する。また、システムコントローラ１１０は、信号処理ユニット１２０を介して入力される方位情報、位置情報、加速度情報に応じて、後述するパノラマ撮影処理を行う。
【００２７】
ズーム制御部１１１は、システムコントローラ１１０からの制御信号に従って撮影レンズ１０１を駆動し、ズーミングを行う。
【００２８】
ＩＳレンズ制御部１１２は、システムコントローラ１１０からの制御信号に従って手ブレ補正用のＩＳレンズを駆動し、手ブレ補正を行う。
【００２９】
フォーカス制御部１１３は、システムコントローラ１１０からの制御信号に従って撮影レンズ１０１を駆動し、被写体に合焦させる。
【００３０】
絞り制御部１１４は、システムコントローラ１１０からの制御信号に従って絞り１０２を駆動し、露出を調整する。
【００３１】
シャッター制御部１１５は、システムコントローラ１１０からの制御信号に従ってシャッター１０３のレリーズを行うと共に、そのタイミングに従って撮像素子１０４を駆動制御する。
【００３２】
フラッシュ制御部１１６は、システムコントローラ１１０からの制御信号に従ってフラッシュ１１７を発光する。
【００３３】
画像メモリ１３０に保存された画像データは、Ｉ／Ｆ部１２４を介してコンピュータなどの外部機器へ出力可能である。
【００３４】
＜パノラマ画像合成処理＞図２を参照して、本実施形態のパノラマ撮影画像からパノラマ画像を合成する処理について説明する。なお、図２の処理は、システムコントローラ１１０が、ＲＯＭに格納された制御プログラムを、ＲＡＭのワークエリアに展開し、実行することで実現される。
【００３５】
ユーザ操作や電源投入時の設定によりパノラマ撮影モードが選択されると図２の処理を開始し、システムコントローラ１１０は、撮影開始トリガー待ち状態になる。ここで、モード設定部１２５を介したユーザ操作等によって、撮像装置１００を以下のようなパノラマ撮影に適した設定に変更することもできる。すなわち、背景領域のみの背景パノラマ画像を合成するためには、素材画像における人物が写っていない部分（背景領域）が必要となる。この背景領域が少ないとパノラマ画像合成用の素材画像の連続性がなくなり、パノラマ画像が成立しなくなる。このため、撮影時に背景領域の面積を大きくとるように撮像装置の設定を変更することで、背景画像のパノラマ合成処理を効率的・効果的に行えるようにする。
【００３６】
背景領域を大きくとるような設定として以下のようなものが考えられる。
【００３７】
（１）撮影レンズの画角を広角側に変更する
広角側にすることにより、素材画像に対する人物の割合を小さくすることができ、背景領域を大きくとることができる。すなわち、
（２）人物の位置を端部に移動させる
背景領域を素材画像の片方だけからとる場合、人物をその反対側に寄せることで背景領域を大きくとることができる。人物を端部に寄せる方法としては、ＩＳレンズをずらす方法や撮像素子をずらす方法等が考えられる。また、バリアングル機能や前面ディスプレイなど、撮影者が自分の姿を確認しながらパノラマ撮影できる場合は、ＵＩ画面上に予め背景領域となる部分を表示し、撮影者に背景領域を確保しながら撮影するよう注意を促すことも考えられる（図３参照）。
【００３８】
（３）片手持ちをするよう撮影者に促す
両手持ちよりも片手持ちの方が背景領域を大きくとることができるため、ＵＩ画面に片手持ちするようにガイダンスを表示する、音声でアナウンスする等が考えられる（図４参照）。
【００３９】
また、人物と背景の両方にピントを合わせるために、パノラマ撮影モード設定時は被写界深度を大きくするために、ＩＳＯ感度を高めに設定し絞り値を大きくする等が考えられる。
【００４０】
本実施形態では、素材画像の周辺部分をパノラマ画像合成用として使用することになるので、撮影レンズの各種収差補正（歪曲補正、周辺光量補正、コマ収差等）を適切に行うことで画像接合部を目立たないようにする。
【００４１】
Ｓ２０１では、システムコントローラ１１０は、撮影者により撮影開始トリガーが入力されると、素材画像の撮影を開始する。このとき、撮影者は、図１１に示すように撮像装置１００を自分に向けて構え、撮影開始と同時に自分を中心に回転する。
【００４２】
ここで、撮影開始トリガーとしては、シャッターボタンのオン、撮影タイマーによる開始、加速度センサでスイングを検知する、撮像装置の姿勢（向き）が所定の方位と一致する等が考えられる。
【００４３】
Ｓ２０２では、システムコントローラ１１０は、パノラマ画像合成に使用する素材画像を撮影終了トリガーを受けるまで繰り返し撮影する。
【００４４】
Ｓ２０３では、システムコントローラ１１０は、撮影者により撮影終了トリガーが入力されると、素材画像の撮影を終了する。ここで、撮影終了トリガーとしては、シャッターボタンのオフ、タイマーによる終了、加速度センサで撮像装置の停止を検知する、撮像装置の姿勢（向き）が所定の方位と一致する等が考えられる。
【００４５】
Ｓ２０４では、システムコントローラ１１０は、Ｓ２０１からＳ２０３までに撮影された素材画像からパノラマ画像合成に使用する領域として、撮影者の写っていない領域（背景領域）のみを背景領域の素材画像として抽出する。抽出方法としては、公知の被写体検出方法、例えば顔検出方法を用いて被写体領域を特定し、特定した被写体領域を含む短冊領域（パンニング方向に対して垂直な方向に列単位で分割された領域）を除外した領域を抽出する。ちなみに顔検出方法については予め記憶された目、口などの情報に基づくパターンマッチングなどが例として挙げられる。図５は撮影された素材画像の例である。背景領域として画像５００の左端の領域５０１または右端の領域５０２または両方を抽出する。また、被写体領域の特定はすべての画像に行う必要は必ずしもなく、１つの画像の被写体（撮影者）検出結果に基づいて他の画像の抽出領域を決定しても良い。さらに、上述したようなUIによって被写体領域は常に所定領域に収まるとみなして、所定の被写体領域と被写体領域以外の背景領域が予め設定されていてもよい。
【００４６】
Ｓ２０５では、システムコントローラ１１０は、Ｓ２０４で抽出された背景領域のみの画像を１枚の背景パノラマ画像に合成する背景画像生成処理を行う。背景画像の合成では、背景画像の撮影順に、撮像装置がパンされた方向に画像が繋がるように合成していく。合成する位置は左側と右側の画像でマッチングを行い、ある範囲でサーチしたときに一番評価の高い位置とする。
【００４７】
図６は本実施形態のパノラマ画像を合成する様子を示している。パノラマ撮影により得られた複数の素材画像から撮影者の写っていない部分（背景領域）を抽出し、その背景領域のみを用いて背景パノラマ画像を合成する。背景パノラマ画像を合成した後、素材画像から撮影者が写っている画像（人物画像）を選択し、背景パノラマ画像上に重ねて合成する。
【００４８】
図６では２枚の画像を合成する様子を示しており、パノラマ画像を撮影するときの規則として例えば横方向に最小１０％、最大５０％オーパーラップさせ、且つ縦方向のずれを夫々５％以下に定めた場合、オーバーラップする最小範囲は図中の領域６０３となり、オーバーラップする最大範囲は領域６０４となる。そして、図中の領域６０３内にある点Ｐに対応する点は、図中の領域６０５に存在することとなる。すなわち、領域６０５がサーチ領域となる。このサーチ領域６０５内において点Ｐを走査させながらマッチングを行い、評価の高い位置を見つける。
【００４９】
Ｓ２０６では、システムコントローラ１１０は、Ｓ２０５で合成した背景パノラマ画像に重ねるための撮影者の写っている素材画像（人物画像）を選択する。ここで選択する枚数は１枚でなくてもよい。撮像装置１００の表示部１５０上にＳ２０５で合成した背景パノラマ画像を表示し、その画像上に人物画像を重ねて表示する。撮影者はボタン操作等で表示する人物画像を切り替えることができる。
【００５０】
このとき人物画像を重ねる位置は、背景パノラマ画像を合成する際に使用した複数の素材画像の中から人物画像と同じものを選び、それぞれの背景領域が重なるように配置する（図７参照）
撮影者は表示部１５０を見ながら自分の画像（素材画像）を選択する。
【００５１】
ここで、撮影者による人物画像の選択を補助するために、撮像装置がお勧めの素材画像を選択し、撮影者に選択可能に提示してもよい。お勧め素材画像の選択方法としては以下のようなものが考えられる。
【００５２】
（４）パノラマ画像に対して任意の位置になる人物画像
パノラマ画像の中央にくる人物画像や、３分割構図になるようパノラマ画像の３分の１の位置にくる人物画像等、任意の位置になる人物画像を選択し撮影者に提示する。
【００５３】
（５）目を閉じていない人物画像
顔認識等を用いて人物画像の目の開閉を判断し、眼の閉じていない画像を選択する。
【００５４】
（６）逆光にならない人物画像
（７）特定の方向を向いている人物画像
撮像装置が特定の方位を向いているときに撮影された人物画像を選択する。
【００５５】
（８）特定の方向と被っていない人物画像
撮像装置が特定の方位を向いているときに撮影された人物画像を選択しない。例えば、ＧＰＳ情報等からランドマークのある方向が分かる場合、その方向に人物が被らないような人物画像を選択できる。
【００５６】
上記複数の条件を考慮した判定を行っても良い。
【００５７】
Ｓ２０７では、システムコントローラ１１０は、Ｓ２０５で生成した背景パノラマ画像と、Ｓ２０６で選択された人物画像とを合成する。合成位置はＳ２０６で人物画像を表示した背景画像上である。
【００５８】
このときの撮影の状況によっては、人物画像において背景領域として使用しなかった側の画像の縁が背景画像と必ずしも奇麗に重ならないことがある。そのため、人物画像の背景領域として使わなかった側の画像の縁をぼかし処理をして、切れ目を目立たなくする等の処理をしてもよい。
【００５９】
［実施形態２］図８及び図９を参照して、実施形態２のパノラマ画像合成処理について説明する。なお、本実施形態の撮像装置の構成は、実施形態１と同様である。
【００６０】
図８は実施形態２のパノラマ画像を合成する様子を示している。本実施形態では、撮影者の写っている素材画像（人物画像）を１枚決め、それより左側は素材画像の左端だけを、それより右側は素材画像の右端だけを使用してパノラマ画像を合成する。人物画像の決定は素材画像の撮影後に行う。
【００６１】
＜パノラマ画像合成処理＞図９を参照して、本実施形態のパノラマ撮影画像からパノラマ画像を合成する処理について説明する。なお、図９の処理も、システムコントローラ１１０が、ＲＯＭに格納された制御プログラムを、ＲＡＭのワークエリアに展開し、実行することで実現される。
【００６２】
図９において、Ｓ９０１〜Ｓ９０３は、図２のＳ２０１〜Ｓ２０３と同様の処理を行う。
【００６３】
Ｓ９０４では、システムコントローラ１１０は、図２のＳ２０６と同様に、Ｓ９０１からＳ９０３で撮影した素材画像から背景領域に重ねるための撮影者の写っている素材画像（人物画像）を選択する。ここで選択する枚数は１枚でなくてもよい。撮像装置１００の表示部１５０上に人物画像を表示する。撮影者はボタン操作等で表示する人物画像を切り替えながら自分の画像（素材画像）を選択する。
【００６４】
ここで、撮影者による人物画像の選択を補助するために、撮像装置がお勧めの素材画像を選択し、撮影者に選択可能に提示してもよい。お勧め素材画像の選択方法としては上記Ｓ２０６と同様である。
【００６５】
Ｓ９０５では、システムコントローラ１１０は、図２のＳ２０４と同様に、Ｓ９０１からＳ９０３までに撮影された素材画像からパノラマ画像合成に使用する背景領域を抽出する。
【００６６】
Ｓ９０６とＳ９０７では、システムコントローラ１１０は、Ｓ９０４で選択した人物画像と、Ｓ９０５で抽出した背景領域の画像を１枚のパノラマ画像に合成する。
【００６７】
このパノラマ画像合成では、撮影順に素材画像を並べ、人物画像として選択された素材画像を中心に、素材画像の左側から抽出した背景画像は左側に、素材画像の右側から抽出した背景画像は右側に、それぞれ繋がるように合成していく。合成する位置は左側と右側の画像でマッチングを行い、ある範囲でサーチしたときに一番評価の高い位置とする。マッチング方法は実施形態１と同様である。
【００６８】
［実施形態３］図１０を参照して、実施形態３のパノラマ画像合成処理について説明する。なお、本実施形態の撮像装置の構成は、実施形態１と同様である。
【００６９】
本実施形態では、図８に示す実施形態２と同様に、撮影者の写っている素材画像（人物画像）を１枚決め、それより左側は素材画像の左端だけを、それより右側は素材画像の右端だけを使用してパノラマ画像を合成する。人物画像の決定は素材画像の撮影前または撮影中に行う。
【００７０】
＜パノラマ画像合成処理＞図１０を参照して、本実施形態の撮影画像からパノラマ画像を合成する処理について説明する。なお、図１０の処理も、システムコントローラ１１０が、ＲＯＭに格納された制御プログラムを、ＲＡＭのワークエリアに展開し、実行することで実現される。
【００７１】
図１０において、Ｓ１００１は、図２のＳ２０１と同様の処理を行い、Ｓ１００６〜Ｓ１００９は、図９のＳ９０３〜Ｓ９０７と同様の処理を行う。
【００７２】
Ｓ１００２とＳ１００３では、システムコントローラ１１０は、パノラマ画像合成で使用する背景用の素材画像を人物画像の撮影位置になるまで繰り返し撮影する。このときＩＳレンズまたは撮像素子の移動等で人物が素材画像の端になるように撮影すると、背景領域を大きくとることができる。
【００７３】
Ｓ１００３で人物画像の撮影位置になった場合、背景用の素材画像の撮影を中断して、人物画像の撮影を行う。このとき、人物画像の撮影に備え、人物が画像の中央になるよう、ＩＳレンズまたは撮像素子を移動させる。
【００７４】
人物画像の撮影位置の判定方法は以下のようなものが考えられる。
【００７５】
（９）パノラマ画像に対して任意の位置になる人物画像
撮影開始前に、合成後のパノラマ画像の長さや、撮影時間、方位が分かる場合はスイング角度等を決めておき、それらの設定から完成されるパノラマ画像に対して、人物が特定の位置になるように人物画像を撮影する。
【００７６】
特定の位置として、画像の中央、３分割構図にあたる位置等が考えられる。
【００７７】
（１０）目を閉じていない人物画像
顔認識等を用いて人物画像の目の開閉を判断し、眼の閉じていないタイミングで撮影する。
【００７８】
（１１）逆光にならない人物画像
逆にならない位置で撮影する。
【００７９】
（１２）特定の方向を向いている人物画像
撮像装置が特定の方位を向いているときに人物画像を撮影する。
【００８０】
向いている方向を取得できる撮像装置において、撮像装置が特定の方位を向いているときに人物画像を撮影する。
【００８１】
（１３）特定の方向と被っていない人物画像
撮像装置が特定の方位を向いているとき以外に人物画像を撮影する。例えば、ＧＰＳ情報等からランドマークのある方向が分かる場合、その方向と人物が被らないように撮影する。
【００８２】
上記複数の条件を考慮した判定を行っても良い。また、撮影者のボタン操作等、任意のタイミングで人物画像の撮影を行っても良い。
【００８３】
Ｓ１００４では、システムコントローラ１１０は、撮影者の写っている素材画像（人物画像）を撮影する。撮影枚数は１枚でなくても良い。また、フラッシュ１１７を発光することで人物の顔を明るく撮影することもできる。
【００８４】
Ｓ１００５とＳ１００６では、システムコントローラ１１０は、撮影終了トリガーを受けるまで、素材画像の撮影を繰り返す。このとき、ＩＳレンズまたは撮像素子の移動等で、人物がＳ１００２で撮影された素材画像とは反対側の端部に位置するように撮影する。
【００８５】
Ｓ１００６で撮影終了後、図９のＳ９０５〜Ｓ９０７と同様に、人物画像と背景領域画像を１枚のパノラマ画像に合成する。
【００８６】
［他の実施形態］本発明は、以下の処理を実行することによっても実現される。即ち、上記実施形態の機能を実現するソフトウェア（プログラム）をネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ（又はＣＰＵやＭＰＵ等）がプログラムコードを読み出して実行する処理である。この場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本発明を構成することになる。
【図１】
2014068081.tif 000003
【図２】
2014068081.tif 000004
【図５】
2014068081.tif 000005
【図６】
2014068081.tif 000006
【図９】
2014068081.tif 000007
【図１０】
2014068081.tif 000008
【図１１】
2014068081.tif 000009
【図３】
2014068081.tif 000010
【図４】
2014068081.tif 000011
【図７】
2014068081.tif 000012
【図８】
2014068081.tif 000013
【図１２】
2014068081.tif 000014
【図１３】
2014068081.tif 000015