(57)【要約】【課題】突発的な不要光がある場合であっても、ユーザの意図する画像を比較明合成によって取得できる撮像装置および撮像方法を提供する。【解決手段】被写体像を撮像素子によって撮像して画像データを生成し出力し、撮像素子により所定の露光時間で露光され出力される画像データを、画像データ合成部によって繰り返し比較明合成し、撮像素子から出力され、露光量が適切な画像データを基本画像データとして基本画像データ記憶部に記憶し、撮像素子から出力され、露光量が過大な画像データを減算用画像データとして減算用画像データ記憶部に記憶している。そして、減算用画像データをフィルタ処理して補正用画像データとし（Ｓ３１）、画像データ合成部の出力する合成画像データから、補正用画像データを減算して第２の合成画像データを生成し、第２の合成画像データと基本画像データ記憶部に記憶された基本画像データとを比較明合成している（Ｓ３３）。【選択図】  図２Ｂ
2020129753.tif 000002
【特許請求の範囲】
【請求項１】
被写体像を撮像して画像データを生成し出力する撮像素子と、
上記撮像素子により所定の露光時間で露光され出力される画像データを繰り返し比較明合成する画像データ合成部と、
上記撮像素子から出力され、露光量が適切な画像データを基本画像データとして記憶する基本画像データ記憶部と、
上記撮像素子から出力され、露光量が過大な画像データを減算用画像データとして記憶する減算用画像データ記憶部と、
上記減算用画像データをフィルタ処理して補正用画像データとし、上記画像データ合成部の出力する合成画像データから、上記補正用画像データを減算して第２の合成画像データを生成し、上記第２の合成画像データと上記基本画像データ記憶部に記憶された基本画像データとを比較明合成する制御部と、
を有することを特徴とする撮像装置。
【請求項２】
上記基本画像データ記憶部は、上記繰り返し露光され出力される画像データのうちで最初に露光され出力される画像データを上記基本画像データとして記憶することを特徴とする請求項１に記載の撮像装置。
【請求項３】
上記制御部は、上記減算用画像データを平滑化フィルタによりフィルタ処理し、上記補正用画像データとすることを特徴とする請求項１に記載の撮像装置。
【請求項４】
上記平滑化フィルタによる処理は、フィルタ処理を施す注目画素の周囲に位置する画素の画素データにより注目画素の画素データを補間する処理であることを特徴とする請求項３に記載の撮像装置。
【請求項５】
上記制御部は、上記フィルタ処理として、上記減算用画像データをユーザ操作により、指定画素や指定範囲の画素を他のレベルに置き換えて、上記補正画像データを生成させることを特徴とする請求項１に記載の撮像装置。
【請求項６】
上記制御部は、上記フィルタ処理として、撮影画像に距離情報がある場合に、距離情報に応じた被写体の画素を他のレベルに置き換えて、上記補正画像データを生成させることを特徴とする請求項１に記載の撮像装置。
【請求項７】
上記減算用画像データ記憶部は、第１の減算用画像データと第２の減算用画像データを記憶することが可能であって、
上記制御部は、上記合成画像データから上記第１の減算用画像データに対応する第１の補正用画像データを減算して上記第２の合成画像データを生成し、上記第２の合成画像データと上記基本画像データとを比較明合成し、上記比較明合成した画像データから上記第２の減算用画像データに対応する第２の補正用画像データを減算して第３の合成画像データを生成し、上記第３の合成画像データと上記基本画像データを比較明合成することを特徴とする請求項１に記載の撮像装置。
【請求項８】
上記減算用画像データ記憶部は、第１の減算用画像データと第２の減算用画像データを記憶することが可能であって、
上記制御部は、上記第１の減算用画像データと第２の減算用画像データを比較明合成し、合成した画像データを上記減算用画像データとすることを特徴とする請求項１に記載の撮像装置。
【請求項９】
減算用画像データを複数記録し、記録した減算用画像データ同士を比較明合成し、補正用の減算用画像データとする事を可能とした請求項１に記載の撮像装置。
【請求項１０】
上記基本画像データ記憶部と上記減算用画像データ記憶部は、同一のメモリ内に配置されることを特徴とする請求項１に記載の撮像装置。
【請求項１１】
被写体像を撮像素子によって撮像して画像データを生成し出力し、
上記撮像素子により所定の露光時間で露光され出力される画像データを、画像データ合成部によって繰り返し比較明合成し、
上記撮像素子から出力され、露光量が適切な画像データを基本画像データとして基本画像データ記憶部に記憶し、
上記撮像素子から出力され、露光量が過大な画像データを減算用画像データとして減算用画像データ記憶部に記憶し、
上記減算用画像データをフィルタ処理して補正用画像データとし、上記画像データ合成部の出力する合成画像データから、上記補正用画像データを減算して第２の合成画像データを生成し、上記第２の合成画像データと上記基本画像データ記憶部に記憶された基本画像データとを比較明合成する、
ことを特徴とする撮像方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、撮像素子から画像データを繰り返し読み出し、各画像データの対応する位置にある画素の画素値を比較し、明るい方の画素値に置き換えて画像合成を行う、所謂比較明合成を行うことのできる撮像装置および撮像方法に関する。
【背景技術】
【０００２】
従来より、比較明合成処理が知られている。この比較明合成処理は、繰り返し出力される画像データのうち、対応する位置の画素値を比較し、輝度値の大きい画素値を選択して、合成画像を生成する画像処理である。この比較明合成処理を行うことにより、例えば、地球の日周運動に起因して星の光跡が延び、しかも背景の風景が真っ白にならずに共存し、あたかも長時間露出を行ったような画像を得ることができる。
【０００３】
比較明合成処理用に撮影を行っている際に、例えば、突発光により極度に明るい輝度を有する被写体が写り込むことがある。比較明合成処理では、輝度の明るい画素値が選択されると、この明るさが保持されるため、以後、被写体が元の明るさに戻っても、この極端に明るかった時の被写体の影響を受け、意図した合成画像とはならなくなってしまう。そこで、繰り返し撮像した合成用画像データの平均輝度値が、所定値より大きい場合には、比較明合成処理を実行しないようにすることが提案されている（特許文献１参照）。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１３−１７２３７２号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
特許文献１に開示の比較明合成処理では、合成用画像データの平均輝度値が所定値より大きい場合に、比較明合成処理を実行しないことから、突発的に極端に明るい被写体があった場合（例えば、手前の被写体が自動車のヘッドライトで照射された場合）に、星の光跡が途切れた画像となってしまう（例えば、図４Ａの画像５２参照）。この場合には、ユーザは、長時間を掛けて撮影した画像を破棄し、再度撮影をやり直すことになり、使い勝手がよくない。
【０００６】
本発明は、このような事情を鑑みてなされたものであり、突発的な不要光がある場合であっても、ユーザの意図する画像を比較明合成によって取得できる撮像装置および撮像方法を提供する。
【課題を解決するための手段】
【０００７】
上記目的を達成するため第１の発明に係る撮像装置は、被写体像を撮像して画像データを生成し出力する撮像素子と、上記撮像素子により所定の露光時間で露光され出力される画像データを繰り返し比較明合成する画像データ合成部と、上記撮像素子から出力され、露光量が適切な画像データを基本画像データとして記憶する基本画像データ記憶部と、上記撮像素子から出力され、露光量が過大な画像データを減算用画像データとして記憶する減算用画像データ記憶部と、上記減算用画像データをフィルタ処理して補正用画像データとし、上記画像データ合成部の出力する合成画像データから、上記補正用画像データを減算して第２の合成画像データを生成し、上記第２の合成画像データと上記基本画像データ記憶部に記憶された基本画像データとを比較明合成する制御部と、を有する。
【０００８】
第２の発明に係る撮像装置は、上記第１の発明において、上記基本画像データ記憶部は、上記繰り返し露光され出力される画像データのうちで最初に露光され出力される画像データを上記基本画像データとして記憶する。
第３の発明に係る撮像装置は、上記第１の発明において、上記制御部は、上記減算用画像データを平滑化フィルタによりフィルタ処理し、上記補正用画像データとする。
第４の発明に係る撮像装置は、上記第３の発明において、上記平滑化フィルタによる処理は、フィルタ処理を施す注目画素の周囲に位置する画素の画素データにより注目画素の画素データを補間する処理である。
【０００９】
第５の発明に係る撮像装置は、上記第１の発明において、上記制御部は、上記フィルタ処理として、上記減算用画像データをユーザ操作により、指定画素や指定範囲の画素を他のレベルに置き換えて、上記補正画像データを生成させる。
第６の発明に係る撮像装置は、上記第１の発明において、上記制御部は、上記フィルタ処理として、撮影画像に距離情報がある場合に、距離情報に応じた被写体の画素を他のレベルに置き換えて、上記補正画像データを生成させる。
【００１０】
第７の発明に係る撮像装置は、上記第１の発明において、上記減算用画像データ記憶部は、第１の減算用画像データと第２の減算用画像データを記憶することが可能であって、上記制御部は、上記合成画像データから上記第１の減算用画像データに対応する第１の補正用画像データを減算して上記第２の合成画像データを生成し、上記第２の合成画像データと上記基本画像データとを比較明合成し、上記比較明合成した画像データから上記第２の減算用画像データに対応する第２の補正用画像データを減算して第３の合成画像データを生成し、上記第３の合成画像データと上記基本画像データを比較明合成する。
【００１１】
第８の発明に係る撮像装置は、上記第１の発明において、上記減算用画像データ記憶部は、第１の減算用画像データと第２の減算用画像データを記憶することが可能であって、上記制御部は、上記第１の減算用画像データと第２の減算用画像データを比較明合成し、合成した画像データを上記減算用画像データとする。
第９の発明に係る撮像装置は、上記第１の発明において、減算用画像データを複数記録し、記録した減算用画像データ同士を比較明合成し、補正用の減算用画像データとする事を可能とする。
第１０の発明に係る撮像装置は、上記第１の発明において、上記基本画像データ記憶部と上記減算用画像データ記憶部は、同一のメモリ内に配置される。
【００１２】
第１１の発明に係る撮像方法は、被写体像を撮像素子によって撮像して画像データを生成し出力し、上記撮像素子により所定の露光時間で露光され出力される画像データを、画像データ合成部によって繰り返し比較明合成し、 上記撮像素子から出力され、露光量が適切な画像データを基本画像データとして基本画像データ記憶部に記憶し、上記撮像素子から出力され、露光量が過大な画像データを減算用画像データとして減算用画像データ記憶部に記憶し、上記減算用画像データをフィルタ処理して補正用画像データとし、上記画像データ合成部の出力する合成画像データから、上記補正用画像データを減算して第２の合成画像データを生成し、上記第２の合成画像データと上記基本画像データ記憶部に記憶された基本画像データとを比較明合成する。  
【発明の効果】
【００１３】
本発明によれば、突発的な不要光がある場合であっても、ユーザの意図する画像を比較明合成によって取得できる撮像装置および撮像方法を提供することができる。
【図面の簡単な説明】
【００１４】
【図１】本発明の一実施形態に係るカメラの主として電気的構成を示すブロック図である。
【図２Ａ】本発明の一実施形態に係るカメラの動作を示すフローチャートである。
【図２Ｂ】本発明の一実施形態に係るカメラの動作を示すフローチャートである。
【図３Ａ】本発明の一実施形態に係るカメラの動作の変形例を示すフローチャートである。
【図３Ｂ】本発明の一実施形態に係るカメラの動作の変形例を示すフローチャートである。
【図４Ａ】本発明の一実施形態に係るカメラにおける比較明合成処理を説明する図である。
【図４Ｂ】本発明の一実施形態に係るカメラにおける比較明合成処理を説明する図である。
【図４Ｃ】本発明の一実施形態に係るカメラにおける比較明合成処理を説明する図である。
【図４Ｄ】本発明の一実施形態に係るカメラにおける比較明合成処理を説明する図である。
【図４Ｅ】本発明の一実施形態に係るカメラにおける比較明合成処理を説明する図である。
【発明を実施するための形態】
【００１５】
以下、本発明の一実施形態としてカメラに適用した例について説明する。このカメラは、撮像部を有し、この撮像部によって被写体像を画像データに変換し、この変換された画像データに基づいて、被写体像を本体の背面に配置した表示部にライブビュー表示する。撮影者はライブビュー表示を観察することにより、構図やシャッタタイミングを決定する。レリーズ操作時には、画像データが記録媒体に記録される。記録媒体に記録された画像データは、再生モードを選択すると、表示部に再生表示することができる。
【００１６】
また、このカメラは、比較明合成処理によって合成画像を生成する比較明合成モードを設定することができる。比較明合成モードが設定されると、撮像素子から画像データが読み出される毎に、撮像した画像データと記憶されている画像データのそれぞれ対応する画素位置の画素データを比較し、明るい方の画素データに置き換えた画素データを合成して画像を生成する。この比較明合成モードによって星空を長時間撮影すると、星の光跡が写しこまれた画像を得ることができる。
【００１７】
また、比較明合成モードが設定された際に、自動車のヘッドライトのような突発的な不要光が照射された場合には、このときの画像を記憶しておき（例えば、図２ＡのＳ１５、図４Ｂの画像５５）、この画像に基づいて突発的な不要光によって露出オーバーとなった補正用画像を生成する（例えば、図２ＢのＳ３１、図４Ｃの画像５６）。そして、補正用画像を用いて、露出オーバーとなった部分を消去した減算画像を生成する（例えば、図２ＢのＳ３３、図４Ｄの画像５７）。この減算画像と、突発的な不要光の影響を受けていないベース画像（例えば、図２ＡのＳ１１、図４Ｂおよび図４Ｅの画像５３）を用いて比較明合成する。この合成処理によって、光跡が途切れることなく、かつ突発的な不要光の影響を除去した比較明合成画像を得ることができる。
【００１８】
図１は、本発明の一実施形態に係るカメラの主として電気的構成を示すブロック図である。本実施形態におけるカメラは、撮像部１、画像処理部１０、システム制御部２０、バス３１とこれに接続された各部を有する。
【００１９】
撮像部１は、レンズ２と、メカニカルシャッタ３と、イメージセンサ４を有している。なお、本実施形態においては、レンズがカメラ本体と一体に構成されていることを想定して説明する。しかし、レンズが交換レンズとしてカメラ本体に対して着脱自在に構成されていても勿論構わない。この場合には、撮像素子はカメラ本体側に配置され、交換レンズとカメラ本体の間で、データや制御命令等の通信用の通信回路を設ければよい。
【００２０】
レンズ２は、イメージセンサ４上に被写体光像（被写体の光学像）を結像する光学系である。レンズ２の内のフォーカスレンズは、システム制御部２０からの制御信号に基づいて、レンズ２の光軸方向に移動し、焦点調節が行われる。レンズ２は、内部に光学絞りを備えている。光学絞りは、絞り値に応じて開口の大きさが変化し、イメージセンサ４上への光量を調節する。絞り値は、露出量を調節するための制御パラメータである。
【００２１】
メカニカルシャッタ３は、レンズ２の光軸上であって、イメージセンサ４の前側に配置される。メカニカルシャッタ３は、レンズ２からの撮影光束をイメージセンサ４上に導く露出時間（シャッタ速度）を制御する。メカニカルシャッタ３として、例えばフォーカルプレーンシャッタを採用すると、シャッタ先幕及び後幕を開閉することにより、レンズ２からの撮影光束をイメージセンサ４へ到達させることができ、あるいは撮影光束がイメージセンサ４に到達しないように遮光することができる。このとき、シャッタ先幕が走行開始してからシャッタ後幕が走行開始するまでの時間がシャッタ速度である。メカニカルシャッタ３は、システム制御部２０によって算出されたシャッタ速度に基づいて、シャッタの開口時間が制御される。なお、メカニカルシャッタ３としては、フォーカルプレーンシャッタに限られず、例えば、レンズシャッタでもよく、またメカニカルシャッタを廃止し、電子シャッタのみでもよい。
【００２２】
イメージセンサ４は、ＣＭＯＳイメージセンサやＣＣＤイメージセンサ等の撮像素子である。撮像素子は、２次元上に複数の画素が配列されており、画素毎に電気信号に変換する。レンズ２により結像された被写体光像は、撮像素子の各画素によって電気信号に変換され、画像データが生成される。生成された画像データは画像処理部１０およびバス３１に出力される。イメージセンサ４は、複数の画素を有し、入射光を光電変換し、画像信号を生成する撮像素子として機能する。また、イメージセンサ４は、被写体像を撮像して画像データを生成し出力する撮像素子として機能する。
【００２３】
バス３１は、カメラ内の各部の間で信号の送受信を行うための信号線である。図１に示す例においては、バス３１には、撮像部１、画像処理部１０、距離情報判定部１５、露出判定部１６、システム制御部２０、内部メモリ３３、外部メモリ３６、表示部３７、入力ＩＦ（Interface）３８、条件設定部３９、およびタッチパネル４０が接続されている。なお、図１には外部メモリ３６はカメラの内部に配置するように記載されているが、この外部メモリ３１は、例えばカメラに着脱自在のメモリカード等により構成するようにしてもよく、カメラに固有の構成でなくても構わない。
【００２４】
画像処理部１０は、画像処理回路を有し、イメージセンサ４から出力された画像データに種々の画像処理を施す。画像処理部１０は、画像データ合成部１１、および現像処理部１４を有する。
【００２５】
画像データ合成部１１は、画像合成回路を有し、複数枚の画像データを合成して少なくとも１枚の合成画像データを生成する。この画像データ合成部１１は、比較明合成部１２とフィルタ処理部１３を有する。
【００２６】
比較明合成部１２は、比較明合成回路を有し、比較明合成処理を行う。比較明合成処理は、概略、２つの画像の対応する画素の画素データを比較し、明るい方の画素データに置き換えて比較明合成画像を生成する処理である。具体的には、以下のような処理を行う。比較明合成部１２は、イメージセンサ４から読み出した画像データや、内部メモリ３３に記憶されている複数枚の画像データについて、イメージセンサ４の同位置に配置される画素の画素データ同士を比較する。そして、比較明合成部１２は、画素データを比較した結果の何れか大きい方、すなわち明るい方の画素データを用いて比較明合成画像を生成する。このような処理を、全ての画素位置について行うことによって、比較明合成画像の各画素データが、最も明るい画素データのみで構成される。比較明合成部１２は、撮像素子により所定の露光時間で露光され出力される画像データを繰り返し比較明合成する画像データ合成部として機能する（例えば、図２Ａおよび図３ＡのＳ１７参照）。
【００２７】
フィルタ処理部１３は、フィルタ処理回路を有し、イメージセンサ４から出力された画素データに対してフィルタ処理を施す。フィルタ処理部１３によって行うフィルタ処理としては、注目画素の周りの画素値の中央値を算出するメディアンフィルタ、注目画素の近傍の画素値の平均値を算出する平均化フィルタ等がある。
【００２８】
現像処理部１４は、現像処理回路を有し、生成されたＲＡＷ画像データに対して種々の現像処理を施す。現像処理としては、デモザイキング処理、ホワイトバランス調整処理、ノイズリダクション処理、ＹＣ信号生成処理、ガンマ補正処理、リサイズ処理、画像圧縮処理などがある。リサイズ処理は、イメージセンサ４から読み出された画像データの画素数を他の画素数に変換する処理であり、この処理によって、例えば、表示部３７の表示画素数に合わせることができる。
【００２９】
距離情報判定部１５は、測距回路またはＡＦ（Auto focus）回路を有し、被写体の距離を判定する。距離情報は、コントラストＡＦや位相差ＡＦ等によって、取得する。コントラストＡＦは、イメージセンサ４からの画像データの高周波成分のピーク位置から焦点調節する方法であり、合焦位置におけるフォーカスレンズ位置に基づいて距離情報を得ることができる。また位相差ＡＦは、イメージセンサ４の撮像面に、フォーカスレンズからの光束を瞳分割して受光する位相差検出用画素を配置し、この位相差検出用画素の出力から位相差を算出する。この位相差から距離情報が得られる。また、位相差ＡＦとしては、イメージセンサ４の撮像面に位相差検出用画素を配置する以外にも、専用の位相差検出用のセンサを配置し、このセンサからの出力に基づいて算出するようにしてもよい。さらに、発光した光が物体に反射して受信するまでの時間を測定して、被写体までの距離を算出するＴＯＦ（Time of Flight）を利用して、距離情報を取得してもよい。
【００３０】
露出判定部１６は、露出判定回路を有し、イメージセンサ４からの画像データを用いて、露出オーバー、適正露出、または露出アンダーであるか否かを判定する。この露出判定部１６は、タッチパネル４０等によって設定された露出対象範囲における画像データが露出オーバーであるか否かを判定することができる（例えば、図２ＡのＳ１１参照）。
【００３１】
ストロボ１７は、カメラ本体に内蔵されたキセノン管やＬＥＤ等の照明用の発光素子を有し、本撮影時にシステム制御部２０からの発光命令に応じて被写体に向けて照明光を照射することができる。外部ストロボ１８は、カメラ本体に装着可能なストロボである。外部ストロボ１８は、外部ストロボ本体内にキセノン管やＬＥＤ等の照明用の発光素子を有し、本撮影時にシステム制御部２０からの発光命令に応じて被写体に向けて照明光を照射することができる。
【００３２】
表示部３７は、ＴＦＴ（Thin Film Transistor）液晶や有機ＥＬ（Electro Luminescence）などの表示パネルを有する。表示部３７は、カメラ本体の背面に設けられた背面表示部、あるいは接眼部を通して表示を観察するＥＶＦ（電子ビューファインダ：Electronic View Finder）等として配置される。表示部３７は、画像処理部１０によって画像処理された画像を表示する。
【００３３】
入力ＩＦ３８は、撮影者の操作を受けてカメラに対する各種の設定や指示を行うための操作部である。入力ＩＦ３８は、例えば、カメラの電源をオン／オフするための電源釦、あるいは撮影開始および終了を操作するためのレリーズ釦等の操作部材を備え、さらに、背面表示部等の前面に設けられたタッチパネル４０等を備えている。タッチパネル４０は、ユーザがタッチした位置等を検出し、バス３１に出力する。タッチパネル４０が備えられると、タッチ操作によって設定や指示を入力することができる。
【００３４】
条件設定部３９は、表示部３７に表示されるメニュー画面において、カメラの撮影条件や撮影した画像の処理に関する条件を設定する。
【００３５】
内部メモリ３３は、電気的書き換え可能な揮発性メモリである。内部メモリ３３は、イメージセンサ４から読み出された画像データ、あるいは画像処理部１０が画像処理を行っている途中の画像データを記憶する（後述する基本画像データ記録部３３ａ、減算用画像データ記録部３３ｂ参照）。また、内部メモリ３３は、カメラの動作に必要な各種の処理プログラムや設定値なども記憶する記憶部である。システム制御部２０内のＣＰＵは、内部メモリ３３に記憶された処理プログラムに従って、カメラ内の各部の制御を行う。内部メモリ３は、例えば、フラッシュメモリ、ＳＤＲＡＭ等の不揮発性メモリあるいは揮発性メモリによって、あるいはこれらを組合せることによって構成されている。
【００３６】
内部メモリ３３は、基本画像データ記録部３３ａと減算用画像データ記録部３３ｂを有する。基本画像データ記録部３３ａは、比較明合成処理を行うために、繰り返し撮影を行う際の最初に撮影された画像データを記録するための領域である（例えば、図２Ａおよび図３ＡのＳ１１参照）。基本画像データ記録部３３ａは、撮像素子から出力され、露光量が適切な画像データを基本画像データとして記憶する基本画像データ記憶部として機能する（例えば、図２Ａおよび図３ＡのＳ１１参照）。基本画像データ記憶部は、繰り返し露光され出力される画像データのうちで最初に露光され出力される画像データを上記基本画像データとして記憶する（例えば、図２Ａおよび図３ＡのＳ９参照）。
【００３７】
また、減算用画像データ記録部３３ｂは、露出対象範囲が露出オーバーとなった場合に、その時の画像データを記録するための領域である（例えば、図２Ａおよび図３ＡのＳ１３参照）。減算用画像データ記録部３３ｂは、撮像素子から出力され、露光量が過大な画像データを減算用画像データとして記憶する減算用画像データ記憶部として機能する（例えば、図２Ａおよび図３ＡのＳ１５参照）。基本画像データ記憶部と減算用画像データ記憶部は、同一のメモリ内の配置されている。もちろん、基本画像データ記憶部と、減算用画像データ記憶部を、別々のメモリに配置してもよい。
【００３８】
外部メモリ３６は、電気的に書き換え可能な不揮発性メモリであり、カメラ本体に装填自在のメモリカード等、あるいはカメラ本体の内部に固定された不揮発性の記憶媒体である。外部メモリ３６は、画像処理部１０において記録用に画像処理された画像データを記録し、また再生時には、記録された画像データが読み出される。外部メモリ３６から読み出された画像データは、カメラの外部に出力可能である。
【００３９】
システム制御部２０は、コントローラであり、またＣＰＵ（Central Processing Unit）と、周辺回路等を有するプロセッサである。システム制御部２０は、内部メモリ３３に記憶されている処理プログラムに従って、カメラ内の各部を制御する。
【００４０】
システム制御部２０は、減算用画像データをフィルタ処理して補正用画像データとし（例えば、図２ＢのＳ３１、図３ＡのＳ１６参照）、画像データ合成部の出力する合成画像データから、補正用画像データを減算して第２の合成画像データを生成し（例えば、図２ＢのＳ３３、図３ＢのＳ２１参照）、第２の合成画像データと基本画像データ記憶部に記憶された基本画像データとを比較明合成する（例えば、図２ＢのＳ３３、図３ＢのＳ２１参照）制御部として機能する。
【００４１】
制御部は、フィルタ処理部に、減算用画像データを平滑化フィルタによりフィルタ処理させ、補正用画像データとる（例えば、図２ＢのＳ３１、図３ＡのＳ１６参照）。上述の平滑化フィルタによる処理は、フィルタ処理を施す注目画素の周囲に位置する画素の画素データにより注目画素の画素データを補間する処理である。制御部は、フィルタ処理として、減算用画像データをユーザ操作により、指定画素や指定範囲の画素を他のレベルに置き換えて、補正画像データを生成させる。制御部は、フィルタ処理として、撮影画像に距離情報がある場合に、距離情報に応じた被写体の画素を他のレベルに置き換えて、上記補正画像データを生成させる。
【００４２】
次に、図２Ａおよび図２Ｂに示すフローチャートを用いて、本実施形態に係る比較明合成処理について説明する。このフローは、システム制御部２０内のＣＰＵが内部メモリ３３に記憶されたプログラムに従って、カメラ内の各部を制御することにより実現する。このフロー（後述する図３Ａ、図３Ｂも同様）では、比較明合成に必要な処理について記載し、他の機能を実現するための処理については省略してある。
【００４３】
図２Ａに示すフローが開始すると、まず、撮影条件を設定する（Ｓ１）。このステップでは、条件設定部３９において、絞り値、シャッタ速度値、ＩＳＯ感度等の撮影条件を設定する。この設定は、ユーザが入力ＩＦ３８によって、手動で設定してもよく、またシステム制御部２０が、イメージセンサ４によって取得した画像データに基づいて被写体輝度値を検出し、この輝度値に基づいて、自動的に撮影条件を設定してもよい。
【００４４】
撮影条件を設定すると、次に、「露出対象範囲」を指定する（Ｓ３）。露出対象範囲は、突発光等の不要光が発生した場合であっても、画像の中で適正露出に保持したい被写体の範囲である。この指定は、ユーザがタッチパネル４０等を用いて、範囲を指定してもよく、またシステム制御部２０が、自動的に設定してもよい。例えば、距離情報判定部１５によって検出された距離情報に基づいて、至近側の被写体の位置する範囲を設定してもよい。また、システム制御部２０が、イメージセンサによって取得した画像データを解析することにより、至近側の被写体の位置する範囲を設定してもよい。また、このステップでは、システム制御部２０は、露出オーバーとして検出する際に使用する閾値も設定する。閾値は、設計値として予め設定しておいてもよく、またユーザが手動で設定してもよい。
【００４５】
露出対象範囲を設定すると、次に、撮影開始の操作をする（Ｓ５）。ユーザは表示部３７に表示されたライブビュー画像を観察し、シャッタタイミングと判断すると、入力ＩＦ３８の内のレリーズ釦を操作するか、または表示部３７の画面（タッチパネル）に対してタッチ操作する。このステップでは、レリーズ釦が操作されたか否か、またはタッチ操作がなされたか否かを判定する。この判定の結果、レリーズ釦が操作されたか、タッチ操作がなされた場合には、撮影を開始する。撮影が開始すると、画像処理部１０は、イメージセンサ４からの画像データに対して画像処理を施す。
【００４６】
続いて、１枚目の撮影か否かを判定する（Ｓ９）。比較明合成処理する場合には、撮影が開始すると、システム制御部２０は、イメージセンサ４から所定のフレームレートに従って、繰り返し画像データの読み出しを行う。そして、読み出された画像データに対して、画像処理を施した後に、内部メモリ３３に一時記憶する。このステップでは、１枚目の撮影に基づく画像データであるか否かを判定する。
【００４７】
ステップＳ９における判定の結果、１枚目の撮影であった場合には、ベース画像として保存する（Ｓ１１）。ここでは、システム制御部２０は、１枚目の撮影で取得された画像データを、「ベース画像」として、内部メモリ３３内の基本画像データ記録部３３ａに記録する。
【００４８】
一方、ステップＳ９における判定の結果、１枚目の撮影でなかった場合、すなわち２枚目以降の撮影の場合には、露出対象範囲の露出がオーバーしているか否かを判定する（Ｓ１３）。ここでは、露出判定部１６が、ステップＳ３において指定された露出対象範囲の画像データの明るさが閾値を超えているか否かを判定する。後述する図４Ｂの画像５５は、画像データの明るさがオーバーしている例であり、至近側にある被写体が、所謂、白飛びとなっている。
【００４９】
ステップＳ１３における判定の結果、露出対象範囲の露出がオーバーしていた場合には、減算用画像として保存する（Ｓ１５）。このステップでは、システム制御部２０は、露出がオーバーと判定された画像データを、「減算用画像」として、内部メモリ３３内の減算用画像データ記録部３３ｂに記録する。
【００５０】
ステップＳ１３における判定の結果、露出対象範囲の露出がオーバーしていない場合、またはステップＳ１５において、減算用画像として記録すると、次に、比較明合成し、合成画像として保存する（Ｓ１７）。このステップでは、比較明合成部１２が比較明合成処理を行う。このように、１枚目の撮影画像データは、比較明合成処理を行わない状態で、内部メモリ３３に一時記憶する。２枚目の撮影画像データを取得すると、１枚目の撮影画像データと２枚目の撮影画像データの対応する画素位置における画素データを比較し、明るい方の画素データを合成することにより比較明画像データとして記憶する。全画素について、比較し明るい方の画素データを合成して、１回目の合成画像が生成され、この合成画像データは内部メモリ３３に一時記憶される。以後、Ｎ枚目の撮影画像データを取得するたびに、一時記憶された合成画像データ（（Ｎ−１）枚目までの合成画像）とＮ枚目の撮影画像データについて、画素毎に比較し、明るい方の画素データに置き換えて合成画像を生成し、保存する。
【００５１】
ステップＳ１７において合成画像を保存すると、またはステップＳ１１においてベース画像を保存すると、次に、画像をモニタ（表示部３７）に表示する（Ｓ１９）。ここでは、システム制御部２０が、途中経過として、ステップ１７において生成した合成画像を表示部３７に表示させる。なお、１枚目の撮影の場合には、ステップＳ１１において保存されたベース画像を表示する。また、ステップＳ１７において生成される合成画像は、露出オーバーしている範囲について、露出オーバーしたままで合成処理されているので、突発光の影響を受けた画像がモニタに表示される。
【００５２】
次に、撮影終了動作か否かを判定する（Ｓ２３）。ユーザは、比較明合成処理用の撮影を終了する場合には、再度レリーズ釦を操作するか、または表示部３７の画面に対してタッチ操作を行う。このステップでは、システム制御部２０が、これらの終了動作が行われたか否かを判定する。この判定の結果、終了動作が行われていない場合には、ステップＳ７に戻り、比較明合成処理用の撮影を続行する。
【００５３】
ステップＳ２３における判定の結果、撮影終了動作が行われた場合には、撮影を終了する（Ｓ２５）。このステップでは、システム制御部２０は、イメージセンサ４による撮影処理を停止させる。
【００５４】
撮影終了動作を行うと、次に、露出オーバーの画像が含まれているか否かを判定する（Ｓ２７）。前述したように、撮影の最中に、ステップＳ１３において、露出対象範囲の露出がオーバーしているか否かを判定した。このステップでは、撮影動作の終了後に、システム制御部２０が、撮影画像の中に露出オーバーの画像があったか否かを判定する。
【００５５】
ステップＳ２７における判定の結果、露出オーバーの画像が含まれていなかった場合には、合成画像を最終画像として外部メモリに保存する（Ｓ２９）。この場合には、露出オーバーの画像が含まれていなかったことから、白飛び部分を補正しなくてもよい。そこで、システム制御部２０は、ステップＳ１７において、記憶した比較明合成画像を最終画像として、外部メモリ３６に記録する。
【００５６】
一方、ステップ２７における判定の結果、露出オーバーの画像が含まれていた場合には、ステップＳ３１以下において、突発的な不要光を除去した比較明合成画像を生成する。まず、減算用画像にフィルタ処理し、「補正用画像」として保存する（Ｓ３１）。ここでは、フィルタ処理部１３が、ステップＳ１５において保存した減算用画像に対して、フィルタ処理を施す。言い換えると、撮影画像に露出オーバーの画像が含まれる場合、すなわち、「減算用画像」が内部メモリに保存される場合は、「減算用画像」にフィルタ処理を実施し、露出オーバーとなった部分以外を補正し、フィルタ処理後の画像を「補正用画像」として内部メモリ３３に保存する。例えば、図４Ｂを用いて後述するように、露出オーバーとなった画像５５（減算用画像）にフィルタ処理を施すと、星の映像が消え、突発光によって露出オーバーとなった被写体の部分が残る画像５６（補正用画像）となる。
【００５７】
ステップＳ３１（後述する図３ＡのステップＳ１６も同様）において、フィルタ処理部１３が行うフィルタ処理としては、例えば、以下のような処理がある。
（１）メディアンフィルタにより星の輝点を削除する。
（２）平均化フィルタにより星の輝点を削除する。
（３）輪郭検出によって、露出対象範囲に指定した対象物を検出し、それ以外のレベルを黒レベルに置き換える。
（４）ユーザ操作によって範囲を指定し、この範囲内の画素データを０ＬＳＢに置き換える。ＬＳＢは、least significant bitの略であり、二進数において最小値ビットである。ユーザ操作による範囲の指定としては、タッチパネル４０によって領域を指定してもよく、被写体を選択して、それ以外を置き換えるようにしてもよい。
（５）距離情報判定部１５によって対象物の距離情報が得られる場合には、露出対象範囲に指定した対象物と異なる距離の対象物に対応する画素を黒レベルに置き換えるようにしてもよい。
【００５８】
本実施形態におけるフィルタ処理部１３は、メディアンフィルタや平均フィルタのような狭義の意味のフィルタ処理に限られない。すなわち、指定された露出対象範囲（減算用画像として必要な被写体）以外の画素データは、全て黒レベルや０ＬＳＢにしても、問題ない。また、補正については周囲の画素情報を元にした補正も含めるようにしてもよいことから、他のレベルに置き換えるようにしてもよい。
【００５９】
ステップＳ３１において、補正用画像を保存すると、次に、比較明合成処理を行う（Ｓ３３）。ここでは、まず、画像処理部１０またはシステム制御部２０が、「合成画像」の画像データから、「補正用画像」の画像データを減算する。すなわち、ステップ１７において生成され保存されている合成画像データから、ステップＳ３１において保存された補正用画像データを減算する。この減算は、対応する画素位置の画素データ毎に行う。すなわち、この処理では、露出オーバーの画像を用いて比較明合成された合成画像から、露出オーバーしている部分以外の画像を消去した画像（補正用画像）を減算している。この減算処理によって得られる画像（減算画像）は、不要光で露出オーバーとなった被写体が消去され、一方、星の光跡はそのまま残っている。
【００６０】
減算処理（「合成画像」−「補正用画像」）によって露出オーバーとなった部分（被写体）を消去すると、次に、減算処理した画像（減算画像）とベース画像を用いて比較明合成処理を行う。ベース画像は、ステップＳ１１において保存された１枚目の撮影画像である。撮影開始時には、適正露出となるように撮影条件が設定されることから、ベース画像は適正露出で撮影された画像である。減算処理した画像（減算画像）は、前述したように、星の光跡は残しつつ露出オーバーしている部分（被写体）が消去されている。またベース画像は適正露出で撮影された画像である。この２つの画像を用いて、比較明合成処理を行うことにより、星の光跡はそのまま残っているが、突発的な不要光は除去された画像を合成することができる。
【００６１】
ステップＳ３３において、比較明合成を行うと、比較明合成画像を外部メモリに保存する（Ｓ３５）。ここでは、システム制御部２０は、ステップＳ３３において生成した比較明合成画像を、外部メモリ３６に記録する。ステップＳ２９またはステップＳ３５において画像を外部メモリに保存すると、本フローを終了する。
【００６２】
このように、本フローにおいては、最初の撮影画像をベース画像として保存し（Ｓ１１）、また、２回目以降の撮影画像が、露出がオーバーしていた場合には、その画像を減算用画像として保存している（Ｓ１５）。そして、イメージセンサ４から画像データが出力される毎に、比較明合成を行って合成画像を保存している（Ｓ１７）。撮影が終了すると、露出オーバー画像がある場合には、減算用画像に対してフィルタ処理を施した補正用画像を保存し（Ｓ３１）、合成画像から補正用画像を減算した減算画像を生成し、この減算画像とベース画像を用いて比較明合成処理を行って、最終的な比較明合成画像を生成している（Ｓ３３）。このため、露出オーバーとなった部分を消去し、適正露出に置き換えた画像を得ることができる。
【００６３】
なお、本実施形態においては、ベース画像は、１枚目の撮影画像を用いている。しかし、ベース画像は、指定された露出対象範囲が適正露出で撮影された画像であれば良いので、２枚目以降であってもよい。すなわち、露出対象範囲の露出が適正であれば、１枚目に限られない。
【００６４】
また、本実施形態においては、ステップＳ１３において、露出対象範囲の露出がオーバーしていると判定されることが、複数回ありうる。この場合には、減算用画像データ記憶部３３ｂは、少なくとも第１の減算用画像データと第２の減算用画像データを記憶することを可能にしておく。そして、合成画像データから第１の減算用画像データに対応する第１の補正用画像データを減算して第２の合成画像データを生成し、この第２の合成画像データと基本画像データ（ベース画像）とを比較明合成し、この比較明合成した画像データから第２の減算用画像データに対応する第２の補正用画像データを減算して第３の合成画像データを生成し、第３の合成画像データと基本画像データを比較明合成すればよい。
【００６５】
また、第１の減算用画像データと第２の減算用画像データを比較明合成し、合成した画像データを減算用画像データとする。この減算用画像データが作成できれば、ステップＳ３１において、減算用画像データをフィルタ処理して、補正用画像データを作成できる。さらに、別の方法として、減算用画像データを複数記録し、記録した減算用画像データ同士を比較明合成し、補正用の減算用画像データを作成してもよい。この場合も減算用画像データが作成できれば、ステップ３１において、補正用画像データを作成することができる。
【００６６】
次に、図３Ａおよび図３Ｂに示すフローチャートを用いて、本実施形態に係る比較明合成処理の変形例について説明する。このフローも、システム制御部２０内のＣＰＵが内部メモリ３３に記憶されたプログラムに従って、カメラ内の各部を制御することにより実現する。
【００６７】
前述の本発明の一実施形態における比較明合成処理は、撮影動作が終了した後に、露出オーバーとなった被写体（部分）を消去し、この部分が適正露出となるような比較明合成処理を行っていた。これに対して、本変形例は、比較明合成用に撮影を行っている最中に、露出オーバーとなった被写体（部分）を消去し、適正露出となるような比較明合成処理を行っている。図３Ａおよび図３Ｂに示すフローチャートにおいて、図２Ａおよび図２Ｂと同じ処理を行うステップについては、同一のステップ番号を付し、詳しい説明を省略する。
【００６８】
図３Ａに示す比較明合成処理のフローが開始すると、まず、撮影条件を設定し（Ｓ１）、露出対象範囲を指定し（Ｓ３）、撮影開始操作がなされると（Ｓ５）、撮影を行う（Ｓ７）。撮影が１枚目か否かを判定し（Ｓ９）、１枚目であった場合には、ベース画像として保存する（Ｓ１１）。ステップＳ１１においてベース画像として保存すると、または撮影が１枚目でない場合には、次に、露出対象範囲の露出がオーバーしているか否かを判定する（Ｓ１３）。
【００６９】
ステップＳ１３における判定の結果、露出対象範囲の露出がオーバーの場合には、減算用画像として保存する（Ｓ１５）。続いて、減算用画像にフィルタ処理し、補正用画像として保存する（Ｓ１６）。ここでは、ステップＳ１５において保存した減算用画像に対して、ステップＳ３１と同様のフィルタ処理を施す。図２Ａ、図２Ｂに示したフローにおいては、撮影動作終了後にフィルタ処理を施していたが、本変形例においては、撮影中に減算用画像にフィルタ処理を施すようにしている。
【００７０】
ステップＳ１３における判定の結果、露出がオーバーしている場合、またはステップＳ１６において、フィルタ処理し、補正用画像として保存すると、次に、比較明合成処理を行い合成画像として保存する（Ｓ１７）。
【００７１】
次に、露出対象範囲の露出がオーバーしているか否かを判定する（Ｓ２０）。ここでは、露出判定部１６が、ステップＳ１３と同様に、露出対象範囲の露出がオーバーしているか否かを判定する。この判定の結果、露出がオーバーしていた場合には、比較明合成を行う（Ｓ２１）。ここでは、まず、画像処理部１０またはシステム制御部２０が、「合成画像」の画像データから、「補正用画像」の画像データを減算する。すなわち、ステップ１７において生成され保存されている合成画像データから、ステップＳ１６において保存された補正用画像データを減算する。この減算処理は、ステップＳ３３と同様であることから、詳しい説明を省略する。
【００７２】
ステップＳ２１において、減算処理（「合成画像」−「補正用画像」）によって露出オーバーとなった部分の画像を消去すると、次に、比較明合成部１２は、ステップＳ３３と同様に、減算処理した画像（減算画像）とベース画像を用いて比較明合成処理を行う。この比較明合成処理もステップＳ３３と同様であることから、詳しい説明を省略する。図２Ａ、図２Ｂに示したフローにおいては、撮影動作終了後に減算画像とベース画像を用いて、比較明合成処理を施していたが、本変形例においては、撮影中にこの比較明合成処理を施すようにしている。ステップＳ２１において生成された比較明合成による合成画像の画像データは内部メモリ３３に一時記憶される。
【００７３】
ステップＳ２０における判定の結果、露出対象範囲の露出がオーバーしていない場合、またはステップＳ２１において比較明合成を行うと、次に、合成画像をモニタに表示する（Ｓ２２）。ステップＳ２１において減算処理（「合成画像」−「補正用画像」）によって露出オーバーとなった部分を消去し、この減算処理された画像（減算画像）とベース画像を用いて、比較明合成処理を行っていることから、この合成画像は突発的な不要光は除去された画像となっている。すなわち、ステップＳ２２において表示される合成画像は、突発的な不要光は除去されている。
【００７４】
次に、撮影終了動作か否かを判定する（Ｓ２３）。この判定の結果、撮影動作が終了していない場合には、ステップＳ７に戻り、比較明合成用の撮影を行う。一方、ステップＳ２３における判定の結果、撮影動作が終了した場合には、撮影を終了する（Ｓ２５）。
【００７５】
撮影を終了すると、次に、合成画像を最終画像として外部メモリに保存する（Ｓ２９）。ここでは、システム制御部２０は、ステップＳ１７またはＳ２１において保存された合成画像を、外部メモリ３６に記録する。ステップＳ２１において保存された合成画像は、前述したように、撮影中に突発的な不要光は除去されている。このため、図２Ａ、図２Ｂのフローの場合と異なり、撮影動作終了後に、突発的な不要光を除去する必要がない。合成画像を外部メモリ２９に保存すると、本フローを終了する。
【００７６】
このように、本フローにおいては、最初の撮影画像をベース画像として保存し（Ｓ１１）、また、最初以外の２番目以降の撮影画像の露出対象範囲の露出がオーバーしていた場合（Ｓ１３：Ｙｅｓ）には、その画像を減算用画像として保存し（Ｓ１５）、この減算用画像にフィルタ処理を施して補正用画像として保存している（Ｓ１６）。そして、露出対象範囲の露出がオーバーしている場合（Ｓ２０：Ｙｅｓ）には、合成画像から補正用画像を減算し、この減算画像とベース画像を用いて比較明合成を行っている（Ｓ２１）。このように、本変形例においては、撮影中に、フィルタ処理および減算処理を行って、突発的な不要光を除去した合成画像を生成し（Ｓ２１参照）、この合成画像を表示している（Ｓ２２参照）。このため、不要光が含まれる画像を表示することはなく、ユーザは撮影中であっても、不要光を意識しないで撮影に集中することができる。
【００７７】
次に、図４Ａないし図４Ｅを用いて、本発明の一実施形態および変形例における画像処理について、説明する。図４Ａに示す画像５１は、ユーザが意図する最終画像である。この画像５１は、空に星の光跡ＭＬＴが複数写っており、また至近側に撮影対象範囲として指定された被写体Ｏｂ（図４Ａでは、被写体は木）が写っている。画像５２は、突発的な不要光の影響を受けた画像を判別しこの画像を比較明合成しない場合に、比較明合成処理によって生成された合成画像である（特許文献１参照）。この場合には、光跡ＭＬＴの各軌跡は、箇所ＭＬＴｂにおいて途切れてしまう。本発明の実施形態やその変形例は、この軌跡の途切れを防止する。
【００７８】
図４Ｂに示す画像５３は、１枚目の撮影で取得したベース画像である（図２Ａおよび図３ＡのＳ１１参照）。この画像５３には、至近側に被写体Ｏｂが写っており、また空に複数の星ＳＴが点状に写っており適切な露出で撮影されている。画像５４は、複数回の撮影を行い、画像データを比較明合成している状態で、突発的な不要光により撮影対象範囲の被写体Ｏｂが露出オーバーとなった場合において、比較明合成処理を行った後の画像である。すなわち、星ＳＴは突発的な不要光の影響を受けないが、被写体Ｏｂは突発的な不要光の影響によって露出オーバーとなっている。このような露出オーバーが生じた画像は、ユーザの意図する画像と異なるので、露出オーバーを補正する。この露出オーバーとなった被写体Ｏｂを補正するために、まず、露出オーバーとなったフレームの画像５５を、減算用画像として保存する（図２Ａおよび図３ＡのＳ１５参照）。この画像５５は、複数の星ＳＴと露出オーバーとなった近距離側の被写体Ｏｂが写っている。
【００７９】
続いて、図４Ｃに示すように、露出オーバーとなった画像５５（減算用画像）に対してフィルタ処理を行い（図２ＢのＳ３１、図３ＡのＳ１６参照）、画像５６（補正用画像）を生成する。フィルタ処理は、注目画素（この場合は星）の画素値を、注目画素の周囲の画素の中央値や平均値に置き換える等の処理である。星の周囲の画素値は小さいことから、フィルタ処理部１３が画像５５にフィルタ処理を施すと、星の位置の画素値は小さくなる。この結果、星ＳＴが消えた画像５６となる。しかし、被写体Ｏｂは、面積が広く複数の露出オーバーの画素データが隣接することから、フィルタ処理を施しても、露出オーバーのままで消去されず残っている。
【００８０】
次に、図４Ｄに示すように、画像５４（合成画像）から画像５６（補正用画像）を減算することにより、画像５７（減算画像）を生成する（図２ＢのＳ３３、図３ＢのＳ２１参照）。すなわち、画像５４（合成画像）は、撮影対象範囲の被写体Ｏｂが露出オーバーとなった場合の比較明合成後の画像である。また、画像５６（補正用画像）は、前述のようにフィルタ処理を施し、星ＳＴを除去し、露出オーバーとなっている被写体Ｏｂのみが写っている画像である。画像５４から画像５６を減算することにより、不要光で露出オーバーとなった被写体Ｏｂが消えた画像５７を得ることができる。この画像５７には光跡ＭＦＴは写っている。
【００８１】
画像５７（減算画像）を生成すると、次に、図４Ｅに示すように、画像５７（減算画像）と画像５３（ベース画像）を用いて比較明合成処理、または画像５４と画像５３の加算処理を行う（図２ＢのＳ３３、図３ＢのＳ２１参照）。画像５７の光跡ＭＬＴは、突発的な不要光の影響を受けておらず、また突発的な不要光の影響を受けた被写体Ｏｂは除去されている。また、画像５３（ベース画像）の被写体Ｏｂは、前述のように適正露出で撮影されている。星ＳＴは写っているが、比較明合成処理または加算処理を行う際には、光跡ＭＬＴに重なる。このため、画像５７と画像５３を用いて比較明合成処理、または加算処理を行った画像５８は、被写体Ｏｂが適正露出となると共に、光跡ＭＬＴが途切れることがない。すなわち、画像５８は、ユーザが意図した画像５１と同じになる。
【００８２】
以上説明したように、本発明の一実施形態や変形例においては、被写体像を撮像素子によって撮像して画像データを生成し出力し（例えば、図２ＡのＳ５）、撮像素子により所定の露光時間で露光され出力される画像データを、画像データ合成部によって繰り返し比較明合成している（例えば、図２ＡのＳ１７）。また、撮像素子から出力され、露光量が適切な画像データを基本画像データとして基本画像データ記憶部に記憶し（例えば、図２ＡのＳ１１）、撮像素子から出力され、露光量が過大な画像データを減算用画像データとして減算用画像データ記憶部に記憶している（例えば、図２ＡのＳ１５）。そして、減算用画像データをフィルタ処理して補正用画像データとし（例えば、図２ＢのＳ３１）、画像データ合成部の出力する合成画像データから、補正用画像データを減算して第２の合成画像データを生成し、第２の合成画像データと基本画像データ記憶部に記憶された基本画像データとを比較明合成している（例えば、図２ＢのＳ３３）。このため、突発的な不要光がある場合であっても、ユーザの意図する画像を比較明合成によって取得できる。
【００８３】
なお、本発明の一実施形態や変形例においては、適正な露出で撮影された画像として、１枚目の画像を基本画像データ記憶部に記憶している。しかし、１枚目の画像でなくても、適正露出で撮影されれば、２枚目以降の画像であってもよい。また、減算用画像から補正用画像を作成する際にフィルタ処理を施しているが、狭義のフィルタ処理に限らず、周囲の画素データを補間演算することによって、補正してもよく、また指定範囲の画素データのレベルを他のレベルに置き換える等、種々の演算処理や画像処理を行ってもよい（フィルタ処理として上述した（１）〜（５）を参照）。
【００８４】
また、本発明の一実施形態や変形例においては、距離情報判定部１５、露出判定部１４等を、システム制御部２０とは別体の構成とした。しかし、各部の全部または一部をソフトウエアで構成し、システム制御部２０内のＣＰＵによって実行するようにしても勿論かまわない。また、画像処理部１０内の各部は、ハードウエア回路で構成する以外にも、ヴェリログ（Verilog）によって記述されたプログラム言語に基づいて生成されたゲート回路等のハードウエア構成でもよく、またＤＳＰ（Digital Signal Processor）等のソフトを利用したハードウエア構成を利用してもよい。さらに、ＦＰＧＡ（Field Programmable Gate Array）等の集積回路で構成されたプロセッサにおける各回路部であってもよい。または、１つ以上のＣＰＵで構成されるプロセッサが、記録媒体に記録されたコンピュータプログラムを読み込んで実行することにより、各部としての機能を実行するようにしても構わない。これらは適宜組み合わせてもよいことは勿論である。
【００８５】
また、本発明の一実施形態や変形例においては、撮影のための機器として、デジタルカメラを用いて説明したが、カメラとしては、デジタル一眼レフカメラでもミラーレスカメラでもコンパクトデジタルカメラでもよく、ビデオカメラ、ムービーカメラのような動画用のカメラでもよく、さらに、携帯電話、スマートフォン、携帯情報端末、パーソナルコンピュータ（ＰＣ）、タブレット型コンピュータ、ゲーム機器等に内蔵されるカメラ、医療用カメラ、顕微鏡等の科学機器用のカメラ、自動車搭載用カメラ、監視用カメラでも構わない。いずれにしても、複数の画像データを合成することが可能な撮影機器であれば、本発明を適用することができる。
【００８６】
また、本明細書において説明した技術のうち、主にフローチャートで説明した制御に関しては、プログラムで設定可能であることが多く、記録媒体や記録部に収められる場合もある。この記録媒体、記録部への記録の仕方は、製品出荷時に記録してもよく、配布された記録媒体を利用してもよく、インターネットを介してダウンロードしたものでもよい。
【００８７】
また、本発明の一実施形態においては、フローチャートを用いて、本実施形態における動作を説明したが、処理手順は、順番を変えてもよく、また、いずれかのステップを省略してもよく、ステップを追加してもよく、さらに各ステップ内における具体的な処理内容を変更してもよい。
【００８８】
また、特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず」、「次に」等の順番を表現する言葉を用いて説明したとしても、特に説明していない箇所では、この順で実施することが必須であることを意味するものではない。
【００８９】
本発明は、上記実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
【符号の説明】
【００９０】
１・・・撮像部、２・・・レンズ（絞り）、３・・・メカシャッタ、４・・・イメージセンサ、１０・・・画像処理部、１１・・・画像合成部、１２・・・比較明合成部、１３・・・フィルタ処理部、１４・・・現像処理部、１５・・・距離情報判定部、１６・・・露出判定部、１７・・・ストロボ、１８・・・外部ストロボ、２０・・・システム制御部、３１・・・バス、３３・・・内部メモリ、３３ａ・・・基本画像データ記録部、３３ｂ・・・基本画像データ記録部、３６・・・外部メモリ、３７・・・表示部、３８・・・入力ＩＦ、３９・・・条件設定部、４０・・・タッチパネル
【図１】
2020129753.tif 000003
【図２Ａ】
2020129753.tif 000004
【図２Ｂ】
2020129753.tif 000005
【図３Ａ】
2020129753.tif 000006
【図３Ｂ】
2020129753.tif 000007
【図４Ａ】
2020129753.tif 000008
【図４Ｂ】
2020129753.tif 000009
【図４Ｃ】
2020129753.tif 000010
【図４Ｄ】
2020129753.tif 000011
【図４Ｅ】
2020129753.tif 000012