(57)【要約】【課題】  深度合成のための撮像では、意図していなかった合成画像ができてしまうと、初めから撮像し直す必要がある。【解決手段】  撮像装置は、少なくとも一部の画角が重なる複数の第１の画像と少なくとも１枚の第２の画像とを撮像する撮像手段と、前記複数の第１の画像からそれぞれの合焦している部分を抽出して、第１の合成画像を生成する合成手段と、前記第１の合成画像を表示する表示手段と、を有し、前記合成手段が、さらに、前記第１の合成画像と前記第２の画像とから合焦している部分を抽出して、第２の合成画像を生成する。【選択図】  図２
2020136866.tif 000002
【特許請求の範囲】
【請求項１】
少なくとも一部の画角が重なる複数の第１の画像と少なくとも１枚の第２の画像とを撮像する撮像手段と、
前記複数の第１の画像からそれぞれの合焦している部分を抽出して、第１の合成画像を生成する合成手段と、
前記第１の合成画像を表示する表示手段と、を有し、
前記合成手段が、さらに、前記第１の合成画像と前記第２の画像とから合焦している部分を抽出して、第２の合成画像を生成することを特徴とする撮像装置。
【請求項２】
前記複数の第１の画像と前記第２の画像とは、互いに光軸方向にピント位置が異なる画像であることを特徴とする請求項１に記載の撮像装置。
【請求項３】
前記複数の第１の画像と前記第２の画像とは、少なくとも一部の画像が前記ピント位置の間隔が等しいことを特徴とする請求項２に記載の撮像装置。
【請求項４】
前記撮像手段が、前記複数の第１の画像を撮像した後、前記第２の画像を撮像することを特徴とする請求項１乃至３のいずれか１項に記載の撮像装置。
【請求項５】
前記撮像手段が、前記表示手段が前記第１の合成画像を表示した後、前記第２の画像を撮像することを特徴とする請求項１乃至４のいずれか１項に記載の撮像装置。
【請求項６】
第１の指示を取得する取得手段を有し、
前記表示手段が前記第１の合成画像を表示した後、前記取得手段が前記第１の指示を取得してから、前記撮像手段が前記第２の撮像を行うことを特徴とする請求項１乃至５のいずれか１項に記載の撮像装置。
【請求項７】
前記取得手段が、さらに第２の指示を取得し、
前記撮像手段が、前記第２の指示に応じて前記第２の画像を撮像する方法を決めることを特徴とする請求項６に記載の撮像装置。
【請求項８】
前記第２の画像を撮像する方法とは、前記複数の第１の画像のうち最も至近側の第１の画像よりも至近側に撮像する方法と、前記複数の第１の画像のうち最も無限遠側の第１の画像よりも無限遠側に撮像する方法と、前記複数の第１の画像のピント位置の間のピント位置に前記第２の画像を撮像する方法と、の少なくとも１つであることを特徴とする請求項７に記載の撮像装置。
【請求項９】
前記撮像手段が、前記複数の第１の画像のピント位置の間のピント位置に前記第２の画像を撮像するとき、前記第２の画像の前記ピント位置を隣り合う前記第１の画像の前記ピント位置の中央に設定することを特徴とする請求項８に記載の撮像装置。
【請求項１０】
少なくとも一部の画角が重なる複数の第１の画像と第２の画像とを撮像する撮像手段と、
前記複数の第１の画像からそれぞれの合焦している部分を抽出して、第１の合成画像を生成する合成手段と、
前記第１の合成画像を表示する表示手段と、を有し、
前記合成手段が、さらに、前記複数の第１の画像と前記第２の画像とから合焦している部分を抽出して、第２の合成画像を生成することを特徴とする撮像装置。
【請求項１１】
少なくとも一部の画角が重なる複数の画像を撮像する撮像手段と、
前記複数の画像からそれぞれの合焦している部分を抽出して合成画像を生成する合成手段と、を有し、
前記撮像手段が、さらに、追加撮像を行い、
前記合成手段は、前記複数の画像から生成した前記合成画像と前記追加撮像で撮像された画像とを用いて、新たに合成画像を生成することを特徴とする撮像装置。
【請求項１２】
少なくとも一部の画角が重なる複数の第１の画像と少なくとも１枚の第２の画像とを撮像する撮像ステップと、
前記複数の第１の画像からそれぞれの合焦している部分を抽出して、第１の合成画像を生成する合成ステップと、
前記第１の合成画像を表示する表示ステップと、を有し、
前記合成ステップにおいて、さらに、前記第１の合成画像と前記第２の画像とから合焦している部分を抽出して、第２の合成画像を生成することを特徴とする撮像方法。
【請求項１３】
撮像装置をコンピュータに動作させるコンピュータのプログラムであって、
少なくとも一部の画角が重なる複数の第１の画像と少なくとも１枚の第２の画像とを撮像する撮像ステップと、
前記複数の第１の画像からそれぞれの合焦している部分を抽出して、第１の合成画像を生成する合成ステップと、
前記第１の合成画像を表示する表示ステップと、を行わせ、
前記合成ステップにおいて、さらに、前記第１の合成画像と前記第２の画像とから合焦している部分を抽出して、第２の合成画像を生成することを特徴とするコンピュータのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ピント位置の異なる複数の画像の撮像を行う撮像装置に関するものである。
【背景技術】
【０００２】
デジタルカメラなどの撮像装置からの距離が互いに大きく異なる複数の被写体を撮像する場合や、奥行き方向に長い被写体を撮像する場合に、被写界深度が足りないために被写体の一部にしかピントを合わせられない場合がある。または、解像感の極めて高い画像を取得したい場合、被写界深度を浅くして撮像しなければならず、被写体の全部が被写界深度に入らないことがある。これを解決するため、特許文献１には、ピント位置の異なる複数の画像を撮像し、各画像から合焦領域のみを抽出して１枚の画像に合成し、撮像領域全体に合焦している合成画像を生成する、所謂、深度合成の技術が開示されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開平１０―２９０３８９号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、特許文献１に記載の深度合成の技術では、合成処理によって被写界深度が拡張されるため、撮像を行う前に被写界深度が拡張された状態を確認することができない。そのため、ユーザは撮像時に深度合成の結果を予測して、撮像枚数、ピント位置の変化量を適切な値に設定しなければ期待する合成画像を得ることはできない。一旦、期待していなかった合成画像ができてしまうと、初めから撮像をやり直すしかなく、すでに合成した画像が無駄になる。
【０００５】
本発明は、上記の課題を鑑みてなされたものであり、異なるピント位置で撮像された画像を用いて複数の合成画像を作成するとき、始めから撮像をやり直すことなく意図した合成画像を生成できる撮像装置を提供することを目的とする。
【課題を解決するための手段】
【０００６】
上記課題を解決するため、本願発明は、少なくとも一部の画角が重なる複数の第１の画像と少なくとも１枚の第２の画像とを撮像する撮像手段と、前記複数の第１の画像からそれぞれの合焦している部分を抽出して、第１の合成画像を生成する合成手段と、前記第１の合成画像を表示する表示手段と、を有し、前記合成手段が、さらに、前記第１の合成画像と前記第２の画像とから合焦している部分を抽出して、第２の合成画像を生成することを特徴とする撮像装置を提供する。
【発明の効果】
【０００７】
本発明の構成によれば、深度合成の合成を行うとき、期待していなかった合成画像ができても、始めから撮像をやり直すことなく意図した合成画像を生成する撮像装置を提供することができる。
【図面の簡単な説明】
【０００８】
【図１】本発明の実施形態におけるデジタルカメラのハードウェア構成を示すブロック図である。
【図２】本発明の実施形態における合成画像の生成について説明するためのフローチャートである。
【図３】本発明の実施形態における追加撮像の提示の一例を説明するための図である。
【図４】本発明の実施形態における撮像情報の記憶について説明するためのフローチャートである。
【図５】本発明の実施形態における追加撮像時の撮像の方法の設定について説明するためのフローチャートである。
【図６】本発明の実施形態における撮像を説明するための図である。
【図７】本発明の実施形態における追加撮像を説明するための図である。
【発明を実施するための形態】
【０００９】
以下では、添付の図面を参照しながら、本発明の好適な実施形態について詳細に説明する。
【００１０】
図１は、本実施形態におけるデジタルカメラのハードウェア構成を示すブロック図である。デジタルカメラ１００は、静止画を撮像することができ、かつ、合焦位置の情報を記録し、コントラスト値の算出および画像の合成が可能なものである。さらに、デジタルカメラ１００は、撮像して保存した画像、または、外部から入力した画像に対して、拡大処理または縮小処理を行うことができる。
【００１１】
制御部１０１は、例えばＣＰＵやＭＰＵなどのシグナルプロセッサであり、予め後述するＲＯＭ１０５に内蔵されたプログラムを読み出しながら、デジタルカメラ１００の各部分を制御する。たとえば、後述するように、制御部１０１が、後述する撮像部１０４に対して撮像の開始と終了について指令を出す。または、後述する画像処理部１０７に対して、ＲＯＭ１０５に内蔵されたプログラムに基づいて、画像処理の指令を出す。ユーザによる指令は、後述する操作部１１０によってデジタルカメラ１００に入力され、制御部１０１を通して、デジタルカメラ１００の各部分に達する。
【００１２】
駆動部１０２は、モーターなどによって構成され、制御部１０１の指令の下で、後述する光学系１０３を機械的に動作させる。たとえば、制御部１０１の指令に基づいて、駆動部１０２が光学系１０３に含まれるフォーカスレンズの位置を移動させ、光学系１０３のピント位置を調整する。
【００１３】
光学系１０３は、ズームレンズ、フォーカスレンズ、および絞りなどにより構成される。絞りは、透過する光量を調整する機構である。レンズの位置を変えることによって、合焦位置を変えることができる。
【００１４】
撮像部１０４は、光電変換素子であり、入射された光信号を電気信号に変換する光電変換を行うものである。たとえば、撮像部１０４に、ＣＣＤやＣＭＯＳセンサなどを適用することができる。撮像部１０４は、動画撮像モードを設け、時間的に連続する複数の画像を動画の各々のフレームとして、撮像することができる。
【００１５】
ＲＯＭ１０５は、記録媒体としての読み出し専用の不揮発性メモリであり、デジタルカメラ１００が備える各ブロックの動作プログラムに加え、各ブロックの動作に必要なパラメータ等を記憶している。ＲＡＭ１０６は、書き換え可能な揮発性メモリであり、デジタルカメラ１００が備える各ブロックの動作において出力されたデータの一時的な記憶領域として用いられる。
【００１６】
画像処理部１０７は、撮像部１０４から出力された画像、あるいは後述する内蔵メモリ１０９に記録されている画像信号のデータに対して、ホワイトバランス調整、色補間、フィルタリングなど、様々な画像処理を行う。また、撮像部１０４が撮像した画像信号のデータに対して、ＪＰＥＧなどの規格で、圧縮処理を行う。
【００１７】
画像処理部１０７は、特定の処理を行う回路を集めた集積回路（ＡＳＩＣ）で構成される。あるいは、制御部１０１がＲＯＭ１０５から読み出したプログラムに従って処理することで、制御部１０１が画像処理部１０７の機能の一部または全部を兼用するようにしてもよい。制御部１０１が画像処理部１０７の全ての機能を兼用する場合には、画像処理部１０７をハードウェアとして有する必要はなくなる。
【００１８】
具体的に、画像処理部１０７は合成の処理として、加算合成処理、加重加算合成処理、などが可能である。合成前の画像データのそれぞれの画素値をＩ＿ｉ（ｘ，ｙ）（ｉ＝１〜Ｎ，ｘ，ｙは画面内の座標を表す）、それらのＮ枚の画像の合成後の画像の画素値をＩ（ｘ，ｙ）とする。ここで画素値としては、ＡＷＢ処理がなされた後に出力されるベイヤー配列のＲ、Ｇ１、Ｇ２、Ｂの各信号の値でもよいし、Ｒ、Ｇ１、Ｇ２、Ｂの信号のグループから得られる輝度信号の値（輝度値）でもよい。このとき、ベイヤー配列の信号を、画素毎にＲ、Ｇ、Ｂの信号が存在するように補間処理してから、画素毎に輝度値を算出しても良い。輝度値は、たとえば下記の（式１）を用いて算出される。
Ｙ＝０．３×Ｒ＋０．５９×Ｇ＋０．１１×Ｂ      ・・・（式１）
【００１９】
複数の画像データ間で必要に応じて位置合わせ等の処理を行い対応づけられた各画素値について、各処理は下記の式に従って行われる。
【００２０】
加算合成処理は、下記の（式２）を用いて算出できる。
Ｉ（ｘ，ｙ）＝Ｉ＿１（ｘ，ｙ）＋Ｉ＿２（ｘ，ｙ）＋・・・＋Ｉ＿Ｎ（ｘ，ｙ）    ・・・・・・（式２）
【００２１】
加重加算合成処理は、ａｋを重み付け係数として、下記の（式３）を用いて算出できる。
Ｉ（ｘ，ｙ）＝（ａ１×Ｉ＿１（ｘ，ｙ）＋ａ２×Ｉ＿２（ｘ，ｙ）＋・・・＋ａＮ×Ｉ＿Ｎ（ｘ，ｙ））／Ｎ      ・・・（式３）
【００２２】
表示部１０８は、ＲＡＭ１０６に一時保存されている画像、または、後述する内蔵メモリ１０９に保存されている画像、あるいは、デジタルカメラ１００の設定画面などを表示するための液晶ディスプレイや有機ＥＬディスプレイなどである。
【００２３】
内蔵メモリ１０９は、撮像部１０４が撮像した画像や画像処理部１０７の処理を得た画像、および、画像撮像時の合焦位置の情報などを記録する場所である。内蔵メモリの代わりに、メモリカードなどを用いてもよい。
【００２４】
操作部１１０は、たとえば、デジタルカメラ１００につけるボタンやスイッチ、キー、モードダイアルなど、あるいは、表示部１０８に兼用されるタッチパネルなどである。ユーザによる指令は、操作部１１０を経由して、制御部１０１に達する。
【００２５】
図２は、本実施形態における合成画像の生成について説明するためのフローチャートである。
【００２６】
ステップＳ２０１で、制御部１０１は、ユーザの指令のもとで、撮像のための設定を行う。ユーザの指令は、操作部１１０を通じて制御部１０１に達する。ここでの撮像のための設定は、たとえば、１枚目の画像を撮像するときのピント位置と、２枚目以降の画像を撮像するときの画像間のピント位置移動間隔、および撮像枚数などを指す。ユーザの操作の一例としては、ユーザがタッチパネルでピント位置を指定し、そのピント位置を中心に制御部１０１が複数のピント位置を予め定められたピント間隔で設定する。
【００２７】
次にステップＳ２０２で制御部１０１は光学系１０３を構成するレンズをステップＳ２０１で設定したピント位置のそれぞれにデジタルカメラ１００のピントを変えながら、撮像部１０４を制御して各々のピント位置で撮像する。撮像を行ううちに、デジタルカメラ１００のピント以外の設定は変更しないが、撮像した画像の画角が、ピント位置を異ならせることにより若干に変化する。
【００２８】
制御部１０１はステップＳ２０３で、ピント位置、ピント位置移動間隔、撮像枚数といったステップＳ２０３での撮像情報を記憶する。撮像情報の記憶の詳細については後述する。
【００２９】
ステップＳ２０４で、画像処理部１０７は、ステップＳ２０２で撮像部１０４が撮像した画像に対して深度合成を行う。
【００３０】
深度合成の方法の一例について説明する。まず、制御部１０１は、合成の対象となる２つの画像の位置のずれ量を算出する。算出方法の一例は、以下に述べる。まず、制御部１０１は、片方の画像に、複数のブロックを設定する。制御部１０１は、各々のブロックのサイズが同じになるように設定することが好ましい。次に、制御部１０１は、もう片方の画像に、設定したそれぞれのブロックと同じ位置に、該ブロックよりも広い範囲を、探索範囲を設定する。最後に、制御部１０１は、もう片方の画像のそれぞれの探索範囲に、最初に設定したブロックとの輝度の差分絶対値和（Ｓｕｍ  ｏｆ  Ａｂｓｏｌｕｔｅ  Ｄｉｆｆｅｒｅｎｃｅ、以下、ＳＡＤをいう）が最小となる対応点を算出する。制御部１０１は、最初に設定したブロックの中心と前述した対応点から、位置のずれをベクトルとして算出する。制御部１０１は、前述する対応点の算出において、ＳＡＤのほかに、差分二乗和（Ｓｕｍ  ｏｆ  Ｓｑｕａｒｅｄ  Ｄｉｆｆｅｒｅｎｃｅ、以下ＳＳＤをいう）や正規化相互相関（Ｎｏｒｍａｌｉｚｅｄ  Ｃｒｏｓｓ  Ｃｏｒｒｅｌａｔｉｏｎ、以下ＮＣＣをいう）などを用いてもよい。
【００３１】
次に、制御部１０１は位置のずれ量から変換係数を算出する。制御部１０１は、変換係数として、例えば射影変換係数を用いる。ただし、変換係数として射影変換係数だけに限定するわけではなく、アフィン変換係数や水平垂直シフトのみの簡略化した変換係数を用いてもよい。
【００３２】
たとえば、制御部１０１は、（式４）に示した式を用いて変形を行うことができる。
【００３３】
【数１】
2020136866.tif 000003
【００３４】
（式４）では、（ｘ´，ｙ´）は変形を行った後の座標を示し、（ｘ，ｙ）は変形を行う前の座標を示す。
【００３５】
次に、画像処理部１０７は、位置合わせを行った後のそれぞれの画像に対してコントラスト値を算出する。コントラスト値の算出方法の一例としては、たとえば、まず、画像処理部１０７は、それぞれの画素の色信号Ｓｒ、Ｓｇ、Ｓｂから、下記の（式５）を用いて輝度Ｙを算出する。
Ｙ＝０．２９９Ｓｒ＋０．５８７Ｓｇ＋０．１１４Ｓｂ・・・（式５）
【００３６】
次に、３×３の画素の輝度Ｙの行列Ｌに、下記の（式６）乃至（式８）に示したように、ソーベルフィルタを用いてコントラスト値Ｉを算出する。
【００３７】
【数２】
2020136866.tif 000004
【００３８】
【数３】
2020136866.tif 000005
【００３９】
【数４】
2020136866.tif 000006
【００４０】
また、上述のコントラスト値の計算方法は一例にすぎず、たとえば、使用するフィルタをラプラシアンフィルタ等のエッジ検出フィルタや所定の帯域を通過するバンドパスフィルタを用いることも可能である。
【００４１】
次に、画像処理部１０７は、合成マップを生成する。合成マップの生成方法としては、画像処理部１０７は、それぞれの画像の同じ位置にある画素のコントラスト値を比較し、コントラスト値の最も高い画素の合成比率を１００％とし、同じ位置にあるほかの画素の合成比率を０％とする。画像処理部１０７は、こうした合成比率の設定を、画像のすべての位置に対して行う。
【００４２】
最後に、画像処理部１０７は、合成マップに従い画素の置き換えを行い、合成画像を生成する。なお、このようにして算出した合成比率に対して、隣接画素間で合成比率が０％から１００％に変化（あるいは１００％から０％に変化）すると、合成境界での不自然さが目立つようになる。そのため、合成マップに対して所定の画素数（タップ数）を持つフィルタをかけ、隣接画素間で合成比率が急激に変化しないようにする。
【００４３】
ステップＳ２０５で、表示部１０８は、ステップＳ２０４で生成した合成画像を表示する。
【００４４】
ステップＳ２０６で、表示部１０８は、追加撮像の有無や方法を提示し、ユーザに選択させる。
【００４５】
図３は、本実施形態における追加撮像の提示の一例を説明するための図である。たとえば、ステップＳ２０６で、表示部１０８は、図３に示すような画面を表示することで、ユーザに追加撮像の選択を促す。図３では、表示部１０８はステップＳ２０５で表示した合成画像とともに、ボタン３０１ないし３０４も表示する。ボタン３０１ないし３０４は、それぞれ、「至近側で追加撮像」、「無限遠側で追加撮像」、「ピント位置の補間で追加撮像」、「追加撮像しない」を意味する。ユーザが、表示部１０８が兼用するタッチパネルにあるボタン３０１ないし３０４のいずれかをタッチすることによって、追加撮像の方法、または、追加撮像しないことを選択する。
【００４６】
ただし、上記の内容は一例にすぎず、ほかに様々な方法でユーザに追加撮像の選択をさせることができる。たとえば、表示部１０８がステップＳ２０５で先に合成画像を表示した後、ステップＳ２０６で合成画像を表示せずに、ボタン３０１ないし３０４を表示する。または、表示部１０８が先に「追加撮像する」「追加撮像しない」とのボタンを表示し、「追加撮像する」が選ばれたら、「至近側で追加撮像」、「無限遠側で追加撮像」、「ピント位置の補間で追加撮像」を表示する。
【００４７】
次に、ステップＳ２０７で制御部１０１がユーザの指令で、追加撮像を行うかどうかを判断する。追加撮像を行わない場合、図２のフローが終了する。追加撮像を行う場合、ステップＳ２０８に進み、制御部１０１が、追加撮像時の撮像の方法の設定を行う。追加撮像時の撮像の方法の設定の詳細について後述する。
【００４８】
ステップＳ２０３での撮像情報の記憶について説明する。図４は、本実施形態における撮像情報の記憶について説明するためのフローチャートである。
【００４９】
撮像情報の記憶の処理が始まると制御部１０１は、ステップＳ４０１で、直前のステップＳ２０２での撮像が初回の撮像か追加撮像かを判断する。初回の撮像であれば、ステップＳ４０２に進み、制御部１０１が撮像時のピント間隔を記憶し、次にステップＳ４０３で、制御部１０１が撮像したピント位置の中で最も至近側のピント位置と最も無限遠側のピント位置とを記憶する。そして、制御部１０１はステップＳ４０４へと進み、制御部１０１が撮像枚数を記憶する。
【００５０】
一方で、ステップＳ４０１で、直前の撮像が追加撮像だった場合は、フローはステップＳ４０５に進む。
【００５１】
ステップＳ４０５とステップＳ４０６で、制御部１０１は直前の追加撮像の方法を判断する。ステップＳ４０５で制御部１０１は直前の追加撮像の方法が補間で追加かどうかを判断する。補間で追加であればステップＳ４０７に進み、補間で追加でなければステップＳ４０６に進む。ステップＳ４０６でさらに制御部１０１は直前の追加撮像の方法が至近側から追加するかどうかを判断する。至近側から追加するのであればステップＳ４０８に進み、至近側から追加するのでなければ、つまり、無限遠側から追加するのであればステップＳ４０９に進む。
【００５２】
ステップＳ４０７で、制御部１０１が記憶していたピント間隔を更新して記憶する。ステップＳ４０８で、制御部１０１が記憶していた最も至近側のピント位置を更新して記憶する。ステップＳ４０９で、制御部１０１が記憶していた最も無限遠側のピント位置を更新して記憶する。ステップＳ４０７ないし４０９のいずれの次も、ステップＳ４０４に進み、制御部１０１が撮像枚数を記憶する。
【００５３】
なお、ステップＳ４０４で制御部１０１が記憶した撮像枚数は、後から設定したピント位置の数から算出することができ、ここでステップＳ４０４での記憶を行わなくてもよい。
【００５４】
次に、ステップＳ２０８での追加撮像時の撮像の方法の設定について説明する。図５は、本実施形態における追加撮像時の撮像の方法の設定について説明するためのフローチャートである。ステップＳ５０１で、制御部１０１が、追加撮像の方法が補間で追加かどうかを判断する。補間で追加であればステップＳ５０７に進み、補間で追加でなければステップＳ５０２に進む。
【００５５】
補間で追加撮像を行う場合、ステップＳ５０７で、直前の撮像で記憶したピント間隔を追加撮像のピント間隔として使うことを制御部１０１が設定する。ステップＳ５０８で、制御部１０１が追加撮像の開始のピント位置およびピントの移動方向を決める。たとえば、制御部１０１が、追加したピント位置の中で両端のピント位置のどちらかを開始のピント位置として決め、合わせてピントの移動方向を決める。
【００５６】
ステップＳ５０２で、制御部１０１が、追加撮像の方法が至近側から追加するかを判断する。至近側から追加であればステップＳ５０３に進み、至近側から追加でなければ、つまり無限遠側から追加であれば、ステップＳ５０５に進む。
【００５７】
追加撮像の方法が至近側から追加であれば、ステップＳ５０３で、制御部１０１が、追加撮像の開始位置を追加したピント位置のうち、最も至近側のピント位置に設定する。ここでいう最も至近側のピント位置の決め方について一例をあげる。たとえば、ユーザが合成画像を観察し、被写界深度を拡張させたい限界に相当する箇所を指示し、該箇所に最も至近側のピント位置が設定され、追加撮像の開始位置とされる。次に、ステップＳ５０４で、制御部１０１が、追加撮像のピント位置の移動方向を至近側から無限遠側へと設定する。次にステップＳ５０９に進み、制御部１０１が、記憶したピント間隔を追加撮像のピント間隔として設定する。つまり、制御部１０１が、追加撮像のピント間隔を直前の撮像のピント間隔と同じなるようにする。
【００５８】
追加撮像の方法が無限遠側から追加であれば、ステップＳ５０５で、制御部１０１が、追加撮像の開始位置を追加したピント位置のうち、最も無限遠側のピント位置に設定する。たとえば、同様に、ユーザが合成画像を観察し、被写界深度を拡張させたい限界に相当する箇所を指示し、該箇所に最も無限遠側のピント位置が設定され、追加撮像の開始位置とされる。次に、ステップＳ５０６で、制御部１０１が、追加撮像のピント位置の移動方向を無限遠側から至近側へと設定する。次にステップＳ５０９に進み、制御部１０１が、記憶したピント間隔を追加撮像のピント間隔として設定する。つまり、制御部１０１が、追加撮像のピント間隔を直前の撮像のピント間隔と同じなるようにする。
【００５９】
なお、以上の説明において、ピント位置の移動方向が逆でも構わない。また、ここでのピント間隔の設定は、追加撮像と直前の撮像と同じにしているが、これに限らず、状況に応じて適宜変化させてもよい。たとえば、解像感を特にあげたい物体が追加撮像の合焦範囲にあれば、ピント間隔をもっと細かくしてもよい。
【００６０】
以上はステップＳ２０８での追加撮像時の撮像の方法の設定について説明であった。
【００６１】
以下では、図を用いながら本実施形態における撮像のシーンについて例を挙げて説明する。
【００６２】
図６は、本実施形態における撮像を説明するための図である。
【００６３】
図６（ａ）は、デジタルカメラが光軸方向での距離が異なる３つの被写体６０１、６０２、６０３に向き、表示部１０８が被写体６０１、６０２、６０３を表示することを示している。
【００６４】
図６（ｂ）は、デジタルカメラが複数のピント位置６０４において撮像を行い、深度合成を行い、合成画像を作成する様子を示している。複数のピント位置６０４が被写体６０１および６０３に置かれていないため、合成画像において被写体６０１と６０３がぼけている。
【００６５】
図６（ｃ）は、デジタルカメラが複数のピント位置において撮像を行い、深度合成を行い、合成画像を作成する様子を示している。複数のピント位置の間の距離は、それぞれの被写界深度よりも遠いため、ピントがぬけた範囲６０５ができてしまう。合成画像において、被写体６０２の一部がぼける画像になってしまう。
【００６６】
図７は本実施形態における追加撮像を説明するための図である。
【００６７】
図７（ａ）は、被写体６０１にも合焦する合成画像を得るために、至近側で追加撮像の様子を示している。制御部１０１が、ピント位置７０１よりも至近側に追加撮像のピント位置を設定する。具体的に、被写体６０１に位置を考慮し、最も至近側のピント位置７０３を設定し、それに追加撮像のピント間隔が直前のピント間隔７０２と等しくなるように、他の追加撮像のピント位置を設定する。
【００６８】
図７（ｂ）は、被写体６０３にも合焦する合成画像を得るために、無限遠側で追加撮像の様子を示している。制御部１０１が、ピント位置４０１よりも無限遠側に追加撮像のピント位置を設定する。具体的に、被写体６０３に位置を考慮し、最も無限遠のピント位置７０５を設定し、それに追加撮像のピント間隔が直前のピント間隔７０２と等しくなるように、他の追加撮像のピント位置を設定する。
【００６９】
図７（ｃ）は、被写体６０２にぼける部分が発生しないように、制御部１０１が直前の撮像のピント位置の間に、新たにピント位置を設定する様子を示している。追加撮像した後のピント間隔７０７が、追加撮像する前のピント間隔の半分になる。つまり、追加撮像した画像ピント位置が、直前に撮像した画像のうち隣り合う画像のピント位置の中央にある。
【００７０】
なお、上記の実施方法は一例にすぎず、さまざまな変形をして実施することができる。たとえば、以上の記載では、ユーザが「至近側で追加撮像」、「無限遠側で追加撮像」、「ピント位置の補間で追加撮像」のいずれかを選択するようにしているが、必ず１つ選択する必要がない。たとえば、ユーザが「至近側で追加撮像」と「無限遠側で追加撮像」とを同時に選択することができる。至近側と無限遠側との両方で追加撮像することで、たとえば、図６（ｂ）に示したような場合、１回の追加撮像で、被写体６０１と６０３との両方に合焦する合成画像ができる。
【００７１】
このように、本実施形態によれば、深度合成のための撮像を行うとき、たとえ意図していなかった合成画像ができてしまうとしても、一から撮像をやり直さずに、すでに撮像した画像を利用し、追加撮像で意図していた合成画像が得られる。
【００７２】
なお、以上に説明した実施形態では、撮像から合成までの処理は、同一の装置内において行われるが、これに限るわけではない。たとえば、撮像の処理を撮像装置などで実行し、合成の処理を、ＰＣやサーバーといった別の処理装置を用いて実行するようにしてもよい。
【００７３】
また、上記の至近側で追加撮像および無限遠側で追加撮像は、光学系１０３などの制限を超えていないことを前提としているが、もしさらに至近側または無限遠側にピントを動かせない場合、デジタルカメラ１００が適宜警告を出す。
【００７４】
（その他の実施形態）
以上の実施形態は、デジタルカメラでの実施をもとに説明したが、デジタルカメラに限定するものではない。たとえば、撮像素子が内蔵した携帯機器などで実施してもよく、画像を撮像することができるネットワークカメラなどでもよい。
【００７５】
なお、本発明は、上述の実施形態の１つ以上の機能を実現するプログラムを、ネットワークまたは記憶媒体を介してシステムまたは装置に供給し、そのシステムまたは装置のコンピュータにおける１つ以上のプロセッサーがプログラムを読み出し作動させる処理でも実現可能である。また、１以上の機能を実現する回路（例えば、ＡＳＩＣ）によっても実現可能である。
【符号の説明】
【００７６】
１００  デジタルカメラ
１０１  制御部
１０２  駆動部
１０３  光学系
１０４  撮像部
１０５  ＲＯＭ
１０６  ＲＡＭ
１０７  画像処理部
１０８  表示部
１０９  内蔵メモリ
１１０  操作部
【図１】
2020136866.tif 000007
【図２】
2020136866.tif 000008
【図３】
2020136866.tif 000009
【図４】
2020136866.tif 000010
【図５】
2020136866.tif 000011
【図６】
2020136866.tif 000012
【図７】
2020136866.tif 000013
【手続補正書】
【提出日】令和1年9月30日(2019.9.30)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
少なくとも一部の画角が重なる複数の第１の画像と少なくとも１枚の第２の画像とを撮像する撮像手段と、
前記複数の第１の画像からそれぞれの合焦している部分を抽出して、第１の合成画像を生成する合成手段と、
前記第１の合成画像を表示する表示手段と、を有し、
前記撮像手段が、前記複数の第１の画像を撮像した後、前記第２の画像を撮像し、
前記合成手段が、さらに、前記第１の合成画像と前記第２の画像とから合焦している部分を抽出して、第２の合成画像を生成することを特徴とする撮像装置。
【請求項２】
前記複数の第１の画像と前記第２の画像とは、互いに光軸方向にピント位置が異なる画像であることを特徴とする請求項１に記載の撮像装置。
【請求項３】
前記複数の第１の画像と前記第２の画像とは、少なくとも一部の画像が前記ピント位置の間隔が等しいことを特徴とする請求項２に記載の撮像装置。
【請求項４】
前記合成手段が前記第１の合成画像を生成した後、前記撮像手段が前記第２の画像を撮像することを特徴とする請求項１乃至３のいずれか１項に記載の撮像装置。
【請求項５】
前記撮像手段が、前記表示手段が前記第１の合成画像を表示した後、前記第２の画像を撮像することを特徴とする請求項１乃至４のいずれか１項に記載の撮像装置。
【請求項６】
第１の指示を取得する取得手段を有し、
前記表示手段が前記第１の合成画像を表示した後、前記取得手段が前記第１の指示を取得してから、前記撮像手段が前記第２の撮像を行うことを特徴とする請求項１乃至５のいずれか１項に記載の撮像装置。
【請求項７】
前記取得手段が、さらに第２の指示を取得し、
前記撮像手段が、前記第２の指示に応じて前記第２の画像を撮像する方法を決めることを特徴とする請求項６に記載の撮像装置。
【請求項８】
前記第２の画像を撮像する方法とは、前記複数の第１の画像のうち最も至近側の第１の画像よりも至近側に撮像する方法と、前記複数の第１の画像のうち最も無限遠側の第１の画像よりも無限遠側に撮像する方法と、前記複数の第１の画像のピント位置の間のピント位置に前記第２の画像を撮像する方法と、の少なくとも１つであることを特徴とする請求項７に記載の撮像装置。
【請求項９】
前記撮像手段が、前記複数の第１の画像のピント位置の間のピント位置に前記第２の画像を撮像するとき、前記第２の画像の前記ピント位置を隣り合う前記第１の画像の前記ピント位置の中央に設定することを特徴とする請求項８に記載の撮像装置。
【請求項１０】
少なくとも一部の画角が重なる複数の第１の画像と第２の画像とを撮像する撮像手段と、
前記複数の第１の画像からそれぞれの合焦している部分を抽出して、第１の合成画像を生成する合成手段と、
前記第１の合成画像を表示する表示手段と、を有し、
前記合成手段が、さらに、前記複数の第１の画像と前記第２の画像とから合焦している部分を抽出して、第２の合成画像を生成することを特徴とする撮像装置。
【請求項１１】
少なくとも一部の画角が重なる複数の画像を撮像する撮像手段と、
前記複数の画像からそれぞれの合焦している部分を抽出して合成画像を生成する合成手段と、を有し、
前記撮像手段が、さらに、追加撮像を行い、
前記合成手段は、前記複数の画像から生成した前記合成画像と前記追加撮像で撮像された画像とを用いて、新たに合成画像を生成することを特徴とする撮像装置。
【請求項１２】
少なくとも一部の画角が重なる複数の第１の画像と少なくとも１枚の第２の画像とを撮像する撮像ステップと、
前記複数の第１の画像からそれぞれの合焦している部分を抽出して、第１の合成画像を生成する合成ステップと、
前記第１の合成画像を表示する表示ステップと、を有し、
前記撮像ステップにおいて、前記複数の第１の画像を撮像した後、前記第２の画像を撮像し、
前記合成ステップにおいて、さらに、前記第１の合成画像と前記第２の画像とから合焦している部分を抽出して、第２の合成画像を生成することを特徴とする撮像方法。
【請求項１３】
撮像装置をコンピュータに動作させるコンピュータのプログラムであって、
少なくとも一部の画角が重なる複数の第１の画像と少なくとも１枚の第２の画像とを撮像する撮像ステップと、
前記複数の第１の画像からそれぞれの合焦している部分を抽出して、第１の合成画像を生成する合成ステップと、
前記第１の合成画像を表示する表示ステップと、を行わせ、
前記撮像ステップにおいて、前記複数の第１の画像を撮像した後、前記第２の画像を撮像し、
前記合成ステップにおいて、さらに、前記第１の合成画像と前記第２の画像とから合焦している部分を抽出して、第２の合成画像を生成することを特徴とするコンピュータのプログラム。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】０００６
【補正方法】変更
【補正の内容】
【０００６】
上記課題を解決するため、本願発明は、少なくとも一部の画角が重なる複数の第１の画像と少なくとも１枚の第２の画像とを撮像する撮像手段と、前記複数の第１の画像からそれぞれの合焦している部分を抽出して、第１の合成画像を生成する合成手段と、前記第１の合成画像を表示する表示手段と、を有し、前記撮像手段が、前記複数の第１の画像を撮像した後、前記第２の画像を撮像し、前記合成手段が、さらに、前記第１の合成画像と前記第２の画像とから合焦している部分を抽出して、第２の合成画像を生成することを特徴とする撮像装置を提供する。