(57)【要約】【課題】一度の撮影で高品位なハイダイナミックレンジ画像を取得する。【解決手段】  ＣＭＯＳセンサからなるカラー撮像素子部１０２で、被写体に対する予備撮像を行って予備撮像データを得る。該予備撮像データに基づき、ピクセル露光時間マップ生成部５０５でセンサの各画素を２値化した露光時間マップを生成し、ピクセル露光時間マップ補正部５０８で該露光時間マップを多値化する。そしてタイミングジェネレータ部５０７において、該多値化された露光時間マップに応じて、センサの各画素に対する駆動パルスを生成することにより、被写体に対する本撮像を行う。【選択図】  図５
2011004088.tif 000002
【特許請求の範囲】
【請求項１】
水平方向および垂直方向に配置された、入射光を光電変換した電荷を蓄積する複数の画素からなる撮像素子を駆動することによって撮像を行う撮像手段と、
前記撮像手段で被写体に対する予備撮像を行うことによって得られた予備撮像データに基づき、前記撮像素子の各画素を、適用すべき露光量に応じた少なくとも２種類の領域のいずれかに設定する領域設定手段と、
前記領域設定手段で前記撮像素子の各画素に設定した領域を、該領域の種類が増加するように補正する領域補正手段と、
前記撮像素子の各画素に対し、前記領域補正手段で補正された領域に応じた露光量を設定する露光量設定手段と、を有し、
前記撮像手段は、前記露光量設定手段で設定された露光量に応じて前記撮像素子の各画素に対する駆動パルスを生成することによって、前記被写体に対する本撮像を行うことを特徴とする撮像装置。
【請求項２】
さらに、前記領域の境界を示す境界輝度を設定する境界輝度設定手段を有し、
前記領域設定手段は、前記予備撮像データにおける各画素の輝度を、前記境界輝度を閾値として２値化することによって、各画素に適用すべき露光量を示す露光量マップを生成し、
前記領域補正手段は、前記露光量マップにおける各画素の値を多値化することによって前記領域の種類を増加させることを特徴とする請求項１に記載の撮像装置。
【請求項３】
前記領域補正手段は、前記露光量マップに対するローパスフィルタ処理によって、各画素の値を多値化することを特徴とする請求項２に記載の撮像装置。
【請求項４】
前記領域設定手段は、前記予備撮像データにおける画素を間引いた後に前記２値化することで前記露光量マップを作成し、
前記領域補正手段は、前記露光量マップに対して拡大処理を施して多値化することを特徴とする請求項２に記載の撮像装置。
【請求項５】
前記撮像手段は、
第１の画素群からなる撮像素子によって前記予備撮像を行う予備撮像手段と、
前記第１の画素群よりも多い第２の画素群からなる撮像素子によって前記本撮像を行う本撮像手段と、を有し、
前記領域設定手段は、前記第１の画素群に対して前記露光量マップを生成し、
前記領域補正手段は、前記露光量マップに対して前記第２の画素群のサイズに応じた拡大処理を施して多値化することを特徴とする請求項２に記載の撮像装置。
【請求項６】
前記領域補正手段は、前記拡大処理としてバイキュービック法を用いることを特徴とする請求項４または５に記載の撮像装置。
【請求項７】
前記領域補正手段は、前記拡大処理としてバイリニア法を用いることを特徴とする請求項４または５に記載の撮像装置。
【請求項８】
前記撮像手段は前記予備撮像を行う際に、前記撮像素子の各画素に対し均一な駆動パルスを生成することを特徴とする請求項１乃至４のいずれか１項に記載の撮像装置。
【請求項９】
前記露光量設定手段は、前記領域ごとに対応するシャッタースピードを設定し、
前記撮像手段は、該設定されたシャッタースピードに基づいて、前記撮像素子の各画素に対する駆動パルスを生成することを特徴とする請求項１乃至８のいずれか１項に記載の撮像装置。
【請求項１０】
さらに、前記撮像手段で前記本撮像によって得られた本撮像データに対し、前記シャッタースピードに基づいてゲイン補正を行うゲイン演算手段を有することを特徴とする請求項９に記載の撮像装置。
【請求項１１】
前記撮像手段は、前記予備撮像データにおいて予め定められた値よりも大きい画素が存在する場合に、前記予備撮像を撮像条件を変えて再度行うことを特徴とする請求項１乃至１０のいずれか１項に記載の撮像装置。
【請求項１２】
前記撮像素子はＣＭＯＳセンサであることを特徴とする請求項１乃至１１のいずれか１項に記載の撮像装置。
【請求項１３】
前記撮像手段は前記本撮像を行う際に、前記撮像素子の１行内の各画素に対する駆動パルスとして、前記露光量設定手段で設定された露光量の種類に応じた列転送タイミングを与えることを特徴とする請求項１２に記載の撮像装置。
【請求項１４】
水平方向および垂直方向に配置された、入射光を光電変換した電荷を蓄積する複数の画素からなる撮像素子を駆動することによって撮像を行う撮像装置の制御方法であって、
被写体に対する予備撮像を行って予備撮像データを取得する予備撮像ステップと、
前記予備撮像データに基づき、前記撮像素子の各画素を、適用すべき露光量に応じた少なくとも２種類の領域のいずれかに設定する領域設定ステップと、
前記領域設定ステップにおいて前記撮像素子の各画素に設定された領域を、該領域の種類が増加するように補正する領域補正ステップと、
前記撮像素子の各画素に対し、前記領域補正ステップにおいて補正された領域に応じた露光量を設定する露光量設定ステップと、
前記露光量設定ステップにおいて設定された露光量に応じて前記撮像素子の各画素に対する駆動パルスを生成することによって、前記被写体に対する本撮像を行う本撮像ステップと、
を有することを特徴とする撮像装置の制御方法。
【請求項１５】
さらに、境界輝度を設定する境界輝度設定ステップを有し、
前記領域設定ステップにおいては、前記予備撮像データにおける各画素の輝度を、前記境界輝度を閾値として２値化することによって露光量マップを生成し、
前記領域補正ステップにおいては、前記露光量マップを多値化することを特徴とする請求項１４に記載の撮像装置の制御方法。
【請求項１６】
コンピュータ装置を制御して、請求項１乃至１３の何れか１項に記載された撮像装置の各手段として機能させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、広ダイナミックレンジによる撮像を行う撮像装置およびその制御方法に関する。
【背景技術】
【０００２】
一般に、デジタル一眼、コンパクトデジタルカメラ、デジタルビデオカメラなどの撮像装置において用いられる撮像素子のダイナミックレンジは、自然界のダイナミックレンジに対して小さいことが知られている。そのため、従来から撮像素子のダイナミックレンジを拡大する手法が検討されており、例えば以下の３つの方法がある。
【０００３】
・マルチショットによる多サンプリング
・固定パターンの感度配置によるワンショットサンプリング
・被写体輝度に応じた露光時間制御
以下、これら従来の、ダイナミックレンジ（以下、ＤＲ）を拡大する３つの方法について説明する。
【０００４】
まず第１に、マルチショットによる多サンプリング法では、同じ被写体に対して、露光時間を変更して複数の撮像を行うことによって、ＤＲの大きな情報（ハイダイナミックレンジ（ＨＤＲ）画像）を得る。そして撮影後に、露光時間の比に基づいて各画像の画素値にゲイン補正を行い、複数ショット画像の合成を行う。例えば特許文献１に記載された方法では、長時間露光後に、全画素について高速読み出しを行う。この際、読み出しの１フレーム周期の、半分の時間で高速読み出しを行い、残りの時間の半分で短秒露光を行う。さらに短秒露光の読み出しを行っている間に、1/4の短秒露光を行い、合計３つの異なる露光時間で露光を行い、合成している。また、特許文献２においても、イメージセンサの画素部から長時間の蓄積による低照度信号と、短時間の蓄積による高照度信号と、極短時間の光電荷蓄積による超高照度用の信号を取り出すことで、合計３つの異なる露光時間で露光を行い、合成している。
【０００５】
このように、マルチショットによる多サンプリングを行った場合、非常に広いダイナミックレンジを得ることができるが、結果として合成された画像はショット間に時間差で位置ズレが起こるため、合成後に輪郭ボケや擬似輪郭等の画像障害が発生してしまう。
【０００６】
そこで第２に、動体の位置ズレを回避するなど、異なる露光ショット間の時間差を無くすための方法として、固定パターンの感度配置によるワンショットサンプリング法が知られている。この方法では、センサ上に複数種の感度センサを設け、一度の撮影で複数の露光情報を取得する。具体的な感度の設定方法として、各画素の開口率の大小やフィルタの透過率によって感度を変えたピクセルを固定パターンで配置する方法がある。この方法によれば、高低感度の時間差による位置ズレは改善される。しかしながら、高低感度が固定であるため、シーンの輝度レンジが低感度で撮像できるダイナミックレンジより広い場合には白トビが発生する等、ダイナミックレンジの拡大効果が出ない場合がある。また別の方法として、特許文献３に記載されているように、露光時間の長短によって高感度、低感度の値を設定する方法がある。この場合、シーンに応じて感度設定が可能である。
【０００７】
しかしながら、このようなワンショットサンプリング法はセンサ上に固定パターンで感度差を設定する方法であるため、低感度、高感度ともにサンプリング点が従来のＲＧＢセンサに比べて少なくなり、解像度が低下してしまう。また、被写体輝度に関係なく固定パターンを用いているため、低感度に該当するピクセルではノイズが増加する。
【０００８】
そして第３に、被写体輝度に応じた露光時間制御を行う方法がある。例えば特許文献４に記載されているように、画素毎に、ＡＤコンバータと、変換後のデジタル値と外部からのデジタル値とを比較する比較器を有することによって、一度も電荷を読み出すことなく画素の適正露光量を検出する方法がある。
【０００９】
しかしながらこの方法では、毎回全画素に対して電荷量の比較を行わなくてはならないため、多画素化、多ビット化が困難であるという問題がある。さらには、フォトダイオードで発生する電荷は常にフローティングディフュージョンとして流されつづけるため、そこで発生するノイズを常に除外することができず、ノイズ耐性が非常に劣るという問題点がある。
【先行技術文献】
【特許文献】
【００１０】
【特許文献１】特開2004-363666号公報
【特許文献２】特開2004-159274号公報
【特許文献３】特開2006-253876号公報
【特許文献４】特表2007-532025号公報
【発明の概要】
【発明が解決しようとする課題】
【００１１】
上述したように、従来の第１〜第３の方法によっても、一度の撮影で高品位なＨＤＲ画像を得ることは困難であった。すなわち、高品位なＨＤＲ画像を撮像するためには、複数レベルの露光による撮像情報を一度に取得し、かつ、被写体輝度に応じて感度を変更し、解像度の低下やノイズを抑制することが課題となる。
【００１２】
本発明は上述した課題を鑑みてなされたものであり、一度の撮影で高品位なハイダイナミックレンジ画像を取得する撮像装置およびその制御方法を提供することを目的とする。
【課題を解決するための手段】
【００１３】
上記目的を達成するための一手段として、本発明の撮像装置は以下の構成を備える。
【００１４】
すなわち、水平方向および垂直方向に配置された、入射光を光電変換した電荷を蓄積する複数の画素からなる撮像素子を駆動することによって撮像を行う撮像手段と、前記撮像手段で被写体に対する予備撮像を行うことによって得られた予備撮像データに基づき、前記撮像素子の各画素を、適用すべき露光量に応じた少なくとも２種類の領域のいずれかに設定する領域設定手段と、前記領域設定手段で前記撮像素子の各画素に設定した領域を、該領域の種類が増加するように補正する領域補正手段と、前記撮像素子の各画素に対し、前記領域補正手段で補正された領域に応じた露光量を設定する露光量設定手段と、を有し、前記撮像手段は、前記露光量設定手段で設定された露光量に応じて前記撮像素子の各画素に対する駆動パルスを生成することによって、前記被写体に対する本撮像を行うことを特徴とする。
【発明の効果】
【００１５】
上記構成からなる本発明によれば、一度の撮影で高品位なハイダイナミックレンジ画像を取得することができる。
【図面の簡単な説明】
【００１６】
【図１】第１実施形態における撮像装置の構成例を示すブロック図、
【図２】第１実施形態における広ダイナミックレンジ画像の撮像処理を示すフローチャート、
【図３】第１実施形態における境界輝度パラメータ設定ＵＩ例を示す図、
【図４】第１実施形態における境界輝度パラメータ設定ＵＩの状態遷移を示す図、
【図５】第１実施形態におけるピクセル露光量設定部の詳細構成を示すブロック図、
【図６】第１実施形態における再予備撮像判定処理を示すフローチャート、
【図７】第１実施形態における撮像条件の記録例を示す図、
【図８】第１実施形態におけるピクセル露光量設定処理を示すフローチャート、
【図９】第１実施形態における露光時間マップの生成処理を示すフローチャート、
【図１０】第１実施形態における露光時間マップを模式的に示す図、
【図１１】第１実施形態におけるＣＭＯＳセンサ駆動パルスの生成処理を示すフローチャート、
【図１２】第１実施形態におけるカラー撮像素子部の詳細構成を示すブロック図、
【図１３】第１実施形態における撮像素子の回路構成例を示す図、
【図１４】第１実施形態における画素駆動の例を示す図、
【図１５】第１実施形態におけるゲイン補正処理を示すフローチャート、
【図１６】第２実施形態における露光時間マップの生成処理を示すフローチャート、
【図１７】第２実施形態における多値化後の露光時間マップの模式図を示す図、である。
【発明を実施するための形態】
【００１７】
以下、添付の図面を参照して、本発明をその好適な実施形態に基づいて詳細に説明する。なお、以下の実施形態において示す構成は一例に過ぎず、本発明は図示された構成に限定されるものではない。
【００１８】
＜第１実施形態＞
●撮像装置の構成
図１は、本実施形態における撮像装置の構成例を示すブロック図である。撮像装置１において、１０１はシャッタ、レンズ、絞りや光学ＬＰＦ等からなる光学部である。１０２は、水平方向および垂直方向にモザイク状に複数色配列されたカラーフィルタとＣＭＯＳセンサから構成され、被写体の予備撮像並びに本撮像を行うカラー撮像素子部である。１０３はカラー撮像素子部１０２による予備撮像結果から各ピクセルの露光量を設定するピクセル露光量設定部である。１０４は複数の露光量間の境界輝度に関するパラメータを記憶する境界輝度パラメータ保存部である。１０５はカラー撮像素子部１０２にて本撮像された画像とピクセル露光量設定部１０３にて設定された露光量から各画素にゲイン補正を行うゲイン演算部である。１０６はゲイン演算部１０５にてゲイン補正処理が施されたモザイク状の画像に対して補間を施し、複数枚の独立プレーン画像を得る画素補間部である。
【００１９】
１０７は色処理、ノイズ低減処理、鮮鋭性向上処理等の処理を施す画像処理部である。１０８は画像処理部１０７にて処理された画像を記録するメモリ部である。１０９は撮影中や撮影後、画像処理後の画像などを表示する液晶ディスプレイ等の表示部である。そして１１０は画像を出力する画像出力部であり、１１１はユーザが境界輝度パラメータを設定するための境界輝度パラメータ設定ＵＩである。なお、カラー撮像素子部１０２は、境界輝度パラメータ保存部１０４に格納された境界輝度パラメータを用いて予備撮像を行う。また画像出力部１１０には、ケーブル等を介してプリンタやディスプレイ、メモリカード等の記録媒体を接続することができる。
【００２０】
上記構成からなる撮像装置１においては、詳細は後述するが、被写体輝度に応じて画素ごとの露光量を制御することによって、高品位なＨＤＲ画像の撮影を行うことを特徴とする。
【００２１】
以下、本実施形態におけるＨＤＲ画像の撮像動作について、図２のフローチャートを用いて説明する。
【００２２】
本実施形態におけるＨＤＲ画像の撮像動作は、以下の８つの処理に大別される。まず、ユーザの境界輝度パラメータ設定ＵＩ１１１からの入力による境界輝度パラメータ保存部１０４への境界輝度パラメータ設定処理（後述するステップＳ２０１に対応）。そして、カラー撮像素子部１０２における予備撮像処理（同Ｓ２０２）、並びに本撮像処理（同Ｓ２０６）。そして、ピクセル露光量設定部１０３における再予備撮像判定処理（同Ｓ２０３）と、予備撮像画像に対するピクセル露光量設定処理（同Ｓ２０５）、およびゲイン演算部１０５における本撮像画像に対するゲイン補正処理（同Ｓ２０７）。そして、画素補間部１０６におけるモザイク状の撮像画像に対する画素補間処理（同Ｓ２０８）、さらに画像処理部１０７における色、ノイズ低減、鮮鋭性向上等の画像処理（同Ｓ２０９）、である。
【００２３】
図２において、まずステップＳ２０１では、予備撮像の終了を示す変数ｉへのFALSEの設定や、メモリ確保等の初期化動作を行うと共に、後述する境界輝度パラメータ設定ＵＩ１１１を表示する。そして、該表示に対するユーザ入力に応じたパラメータを、境界輝度パラメータ保存部１０４に設定する。
【００２４】
次にステップＳ２０２で、カラー撮像素子部１０２においてＣＭＯＳセンサの全画素に対して均一な露光量を設定した予備撮像を行う。
【００２５】
そしてステップＳ２０３において、再予備撮像判定を行う。ステップＳ２０３ではすなわち、予備撮像データが後述する判定基準を満たしていれば、予備撮像の終了を示す変数ｉをTRUEに設定する。するとステップＳ２０４で変数ｉにTRUEが設定されているか否かを判定し、TRUEが設定されていれば予備撮像を終了したとしてステップＳ２０５へ進み、FALSEのままであればステップＳ２０２に戻って、予備撮像を再度行う。なお、ステップＳ２０３における再予備撮像判定処理の詳細については後述する。
【００２６】
ステップＳ２０５では、ステップＳ２０２で得られた予備撮像データに基づいて、本撮像における各画素の露光量を設定する。なお、このピクセル露光量設定処理の詳細については後述する。
【００２７】
次にステップＳ２０６で、ステップＳ２０５でのピクセル露光量設定結果に基づく本撮像処理を行う。そしてステップＳ２０７で、ステップＳ２０５でのピクセル露光量設定結果に基づき、ステップＳ２０６で取得した本撮像データに対してゲイン補正を施す。なお、このゲイン補正の詳細については後述する。
【００２８】
そしてステップＳ２０８で、ゲイン補正後のモザイク状の撮像画像に対する画素補間処理を行い、ステップＳ２０９で、色処理、ノイズ低減処理、鮮鋭性向上処理等の画像処理を行う。そしてステップＳ２１０において、ステップＳ２０９で処理した画像データを記録し、終了に関する動作を行う。
【００２９】
なお、本実施形態における予備撮像の初期撮像条件は、本撮像に比べて十分に短いシャッタースピードに設定されていることが望ましい。
【００３０】
●境界輝度パラメータ設定（Ｓ２０１）
以下、上記ステップＳ２０１にて表示される境界輝度パラメータ設定ＵＩ１１１について、図３を用いて説明する。なお、境界輝度パラメータ設定ＵＩ１１１は、選択されたボタンに応じて表示ウィンドウ等が図３(a)と図３(b)に示すように変化するため、図３(a)と図３(b)において共通するボタンには同一番号を付してある。
【００３１】
まず、図３(a)と図３(b)に共通するボタン等について説明する。３０２は境界輝度パラメータ設定ボタンであり、ユーザがこのボタンを押下すると、当該ＵＩにおいて設定された境界輝度パラメータを記録する。３０３は終了ボタンであり、ユーザがこのボタンを押下すると、当該ＵＩにおいて境界輝度パラメータが一度でも設定されている場合にはメモリの解放等を行い、境界輝度パラメータ設定ＵＩのダイアログウィンドウを終了する。一方、境界輝度パラメータが一度も設定されていない場合には、予め与えられている測光ウィンドウ内の平均輝度を境界輝度パラメータとして記録し、メモリの解放等を行って境界輝度パラメータ設定ＵＩのダイアログウィンドウを終了する。
【００３２】
３０４は主要被写体領域指定ラジオボタンであり、ユーザがこのボタンを選択すると、図３(a)のような領域指定表示がなされ、後述する表示画面３０６、スライドバー３０８，３０９、テキストボックス３１０，３１１が表示される。
【００３３】
３０５は相対輝度指定ラジオボタンであり、ユーザがこのボタンを選択すると、図３(b)のような相対輝度指定表示がなされ、後述するウィンドウ３１２、スライドバー３１３、テキストボックス３１４が表示される。
【００３４】
図３(a)の領域指定表示において、３０６はファインダー画像表示画面であり、ファインダー画像が表示される。３０７は主要被写体領域であり、ウィンドウ位置設定スライドバー３０８，３０９をユーザがスライドさせることにより、ファインダー画像表示画面３０６上での主要被写体領域３０７の表示位置が設定される。３１０、３１１は主要被写体領域３０７のサイズ指定テキストボックスであり、ユーザが数値を入力すると、主要被写体領域３０７のサイズが変更される。
【００３５】
図３(a)の領域指定表示では、境界輝度パラメータ設定ボタン３０２が押下されることにより、ファインダー画像表示画面３０６上における主要被写体領域３０７の位置とサイズが、境界輝度パラメータとして設定される。
【００３６】
図３(b)の相対輝度指定表示において、３１２はヒストグラム表示ウィンドウであり、ファインダー画像の輝度ヒストグラムが表示される。３１３は主要被写体輝度設定スライドバーであり、ユーザによってスライドされた相対輝度がテキストボックス３１４に反映される。また、テキストボックス３１４にユーザが数値を入力すると、その値がスライドバー３１３に反映される。
【００３７】
図３(b)の領域指定表示では、境界輝度パラメータ設定ボタン３０２が押下されることにより、ヒストグラム表示ウィンドウ３１２上において主要被写体輝度設定スライドバー３１３の示す相対輝度が、境界輝度パラメータとして設定される。
【００３８】
ここで、境界輝度パラメータ設定ＵＩ１１１における境界輝度パラメータ設定動作について、図４の状態遷移図を用いて説明する。
【００３９】
まずステート４０１では、初期設定値の読み込みや、図３(a)のＵＩを表示する等の初期化動作を行い、ステート４０２へ移行する。
【００４０】
次にステート４０２では、図３(a)に示すＵＩでのユーザ操作判断待ち状態となる。また、境界輝度パラメータの指定パターンを示す変数ｋがTRUEに設定される。ここで、スライドバー３０８，３０９がスライドされると、ステート４０３へ移行して主要被写体領域３０７の表示位置を変更して再描画した後、ステート４０２へ戻る。
【００４１】
ステート４０２において、テキストボックス３１０，３１１に数値が入力されるとステート４０４へ移行し、ステート４０４では入力されたウィンドウサイズを変更して主要被写体領域３０７を再描画した後、ステート４０２へ戻る。
【００４２】
ステート４０２において、境界輝度パラメータ設定ボタン３０２が押下されると、主要被写体領域３０７の位置とサイズ、並びに境界輝度パラメータの指定パターンを示す変数ｋを、境界輝度パラメータ保存部１０４に格納する。また、終了ボタン３０３が押下されると、ステート４０９へ移行し、終了に関する動作を行う。
【００４３】
ステート４０２において、相対輝度ラジオボタン３０５が選択されると、ステート４０６へ移行し、図３(b)に示すＵＩでのユーザ操作判断待ち状態となる。また、境界輝度パラメータの指定パターンを示す変数ｋがFALSEに設定される。
【００４４】
ステート４０６において、スライドバー３１３またはテキストボックス３１４が変更されるとステート４０７へ移行し、スライドバー３１３の位置あるいはテキストボックス３１４に入力された情報に基づいて主要被写体輝度を変更し、ステート４０６へ戻る。
【００４５】
ステート４０６において、境界輝度パラメータ設定ボタン３０２が押下されると、主要被写体輝度、並びに境界輝度パラメータの指定パターンを示す変数ｋを、境界輝度パラメータ保存部１０４に格納する。また、終了ボタン３０３が押下されると、ステート４０９へ移行し、終了に関する動作を行う。
【００４６】
●ピクセル露光量設定部１０３
本実施形態におけるピクセル露光量設定部１０３では、上記ステップＳ２０３における再予備撮像判定処理、およびステップＳ２０５におけるピクセル露光量設定処理が行われる。これらの処理を詳細に説明するに先立ち、ピクセル露光量設定部１０３の詳細構成について、図５のブロック図を用いて説明する。
【００４７】
ピクセル露光量設定部１０３において、５０１は予備撮像データに飽和画素が含まれているか否かを判定する飽和判定部、５０２は該飽和判定結果から予備撮像条件を変更する予備撮像条件変更部である。また、５０３は各画素について不飽和となる撮像条件を記録する撮像条件記録部、５０４は撮像条件記録部５０３に基づき、各画素の輝度を算出する輝度算出部である。５０５は、境界輝度パラメータ保存部１０４に保持された境界輝度パラメータと、輝度算出部５０４にて算出された輝度情報に基づいて、ピクセル露光時間マップ（以下、露光時間マップ）を生成する露光時間マップ生成部である。５０８は生成した露光時間マップを修正する露光時間マップ補正部、５０６は修正した露光時間マップを記録する露光時間マップ記録部である。５０７は露光時間マップに基づき各画素のＣＭＯＳセンサのトランジスタ駆動パルスを生成するタイミングジェネレータ部である。なお、露光時間マップ記録部５０６に記録した情報は、後段のゲイン補正処理においても利用される。
【００４８】
●再予備撮像判定処理（Ｓ２０３）
以下、ピクセル露光量設定部１０３で行われる、上記ステップＳ２０３における再予備撮像判定処理について、図６のフローチャートを用いて説明する。なお、本実施形態における再予備撮像判定は、飽和画素検出処理（後述するステップＳ６０２に対応）、予備撮像条件変更判定処理（同Ｓ６０６）、撮像条件記録処理（同Ｓ６０４）、以上の３つの処理を経て行われる。
【００４９】
まずステップＳ６０１では、画素番号ｊへの０設定やメモリ確保等の初期化動作を行う。
【００５０】
次にステップＳ６０２で、予備撮像データにおける画素ｊと所定の閾値を比較し、画素ｊの方が該閾値よりも小さければステップＳ６０３へ、そうでなければステップＳ６０６へ進む。ここで所定の閾値とは、図２のステップＳ２０１で設定される境界輝度パラメータを用いる。具体的には、カラー撮像素子部１０２におけるＣＭＯＳセンサ値が輝度に対して線形性を保持できる最大値（飽和閾値）を用いることが望ましいが、該センサが取得し得る値であれば適用可能である。
【００５１】
画素ｊが飽和していなければステップＳ６０３において、画素ｊに対する撮像条件が撮像条件記録部５０３に記録されているか否かを判定し、記録されていなければステップＳ６０４へ進んで該撮像条件を格納する。ここで撮像条件とは、絞り値、シャッタースピード、ＩＳＯ感度、並びに画素値、とする。なお、ここで記録される撮像条件は、図７の表に示すように、画素番号と関連させて撮像条件記録部５０３に格納する。一方、ステップＳ６０３において画素ｊに対する撮像条件が記録されていればステップＳ６０５へ進む。
【００５２】
次にステップＳ６０５では、全ての画素に対して撮像条件の記録処理が行われたか否かを判定し、行われていればステップＳ６０７へ、そうでなければ画素番号ｊに１を加えてステップＳ６０２へ進む。ステップＳ６０７では、予備撮像の終了を示す変数ｉにTRUEを設定し、終了に関する処理を行う。
【００５３】
一方、画素ｊが飽和していればステップＳ６０６において、予備撮像条件変更部５０２で撮像条件のシャッタースピードを短くなるように変更する。そして、タイミングジェネレータ部５０７で全ての画素について同じ条件のＣＭＯＳセンサ駆動パルスを生成した後、終了に関する処理を行う。
【００５４】
以上のように本実施形態の再予備撮像判定処理においては、予備撮像データにおいて所定の閾値よりも大きい画素が存在する場合、飽和が発生しているものとして、再度の予備撮像を行うべく撮影条件を変更する。このとき、変数ｉはFALSEのままである。一方、飽和画素がない場合には、変数ｉにTRUEを設定して予備撮像の終了を指示する。
【００５５】
●ピクセル露光量設定処理（Ｓ２０５）
以下、上記ステップＳ２０５におけるピクセル露光量設定処理について、図８のフローチャートを用いて説明する。なお、本実施形態における露光量設定動作は、以下の３つの処理を経て実行される。まず、各画素の輝度を算出する輝度算出処理（後述するステップＳ８０２に対応）、そして境界輝度と各画素の輝度値から露光時間マップを生成する露光時間マップ生成処理（同Ｓ８０３）、そしてトランジスタの駆動パルス生成処理（同Ｓ８０４）、である。
【００５６】
まずステップＳ８０１では、撮像条件記録部５０３に図７に示すように格納されている絞り値、シャッタースピード、ＩＳＯ感度、各画素の輝度値の読み込みや、メモリ確保等の初期化動作を行う。
【００５７】
次にステップＳ８０２では輝度算出部５０４において、ステップＳ８０１で取得した、図７に示す撮像条件の各情報に基づき、以下の式(1)〜(6)によって輝度を算出する。
【００５８】
ここで、画素番号をｊとして、画素値をＰj、画素の輝度値をＰＢj、絞り値をＦj、シャッタースピードをＴj、ＩＳＯ感度をＩＳＯj、被写体の適正輝度をＢj、とする。また、絞り値を表すＡＰＥＸ値をＡＶj、シャッタースピードを表すＡＰＥＸ値をＴＶj、ＩＳＯ感度を表すＡＰＥＸ値をＳＶj、被写体輝度を表すＡＰＥＸ値をＢＶjとする。
【００５９】
はじめに、撮像条件から画素番号ｊにおける各ＡＰＥＸ値が、以下の式(1)〜(3)で算出される。
【００６０】
ＡＶj＝２log2(Ｆj)      ・・・(1)
ＴＶj＝−log2(Ｔj)      ・・・(2)
ＳＶj＝log2(ＩＳＯj／3.125)      ・・・(3)
次に以下の式(4)を用いて、被写体輝度のＡＰＥＸ値を算出する。
【００６１】
ＢＶj＝ＡＶj＋ＴＶj−ＳＶj      ・・・(4)
次に以下の式(5)を用いて、被写体輝度を算出する。但し、式(5)においてＮ，Ｋは定数である。
【００６２】
Ｂj＝２ＢＶj×Ｎ／Ｋ      ・・・(5)
次に以下の式(6)を用いて、画素番号ｊの輝度を算出する。
【００６３】
ＰＢj＝Ｂj×(Ｐj／最大信号値)×(100／18)      ・・・(6)
以上のように各画素の輝度が算出されると、次にステップＳ８０３で露光時間マップを生成して露光時間マップ記録部５０６に保持する。なお、この露光時間マップ生成処理の詳細については後述する。
【００６４】
次にステップＳ８０４でタイミングジェネレータ部５０７において、露光時間マップ記録部５０６に保持された露光時間マップに基づいて、ＣＭＯＳセンサにおけるトランジスタの駆動パルスを生成する。なお、この駆動パルス生成処理の詳細については後述する。
【００６５】
●露光時間マップ生成処理（Ｓ８０３）
以下、上記ステップＳ８０３における露光時間マップ生成処理について、図９のフローチャートを用いて説明する。
【００６６】
まずステップＳ９０１では、境界輝度パラメータ、および撮像条件記録部５０３に格納されている絞り値、ＩＳＯ感度、各画素の輝度値の読み込みや、メモリの確保等の初期化動作を行う。
【００６７】
次にステップＳ９０２では、全画素の輝度値を走査して、最大輝度値ＭＢを取得する。
【００６８】
次にステップＳ９０３では、境界輝度パラメータの指定パターンを判定する。すなわち、境界輝度パラメータの指定パターンを示す変数ｋがTRUEであればステップＳ９０４へ、そうでなければ９０５へ進む。
【００６９】
ステップＳ９０４では、図３(a)に示すＵＩによって設定された境界輝度パラメータ（主要被写体ウィンドウの位置とサイズ）に基づく、第１の境界輝度設定を行う。すなわち、境界輝度パラメータにおける指定領域位置の輝度情報と、ステップＳ９０２で取得した最大輝度値ＭＢに基づき、以下に示す式(7)，(8)によって境界輝度を算出・設定する。以降、境界輝度未満の輝度領域を暗領域、それ以上の輝度領域を明領域とする。ここでは、指定領域のサイズをｍ×ｎとし、指定領域内の各画素の輝度をＰＢk、平均輝度をＰＢave、境界輝度をＳＢとする。
【００７０】
ＰＢave＝Σ(ＰＢk／(ｍ×ｎ))      ・・・(7)
なお、Σは１〜ｍ×ｎの画素における累積を示す。
【００７１】
ＳＢ＝ＰＢave×(100／18)      ・・・(8)
またステップＳ９０５では、図３(b)に示すＵＩによって設定された境界輝度パラメータ（主要被写体の相対輝度）に基づいく、第２の境界輝度設定を行う。すなわち、ステップＳ９０２で取得した最大輝度値ＭＢと境界輝度パラメータに基づき、式(9)によって境界輝度ＳＢを算出・設定する。
【００７２】
ＳＢ＝境界輝度パラメータ×ＭＢ      ・・・(9)
次にステップＳ９０６では、画素番号ｊの輝度値と、ステップＳ９０４またはＳ９０５で設定された境界輝度ＳＢとを比較し、画素番号ｊの輝度値の方が小さければステップＳ９０７へ進んで、露光時間マップの対応位置に暗領域を示す０を記録する。一方、画素番号ｊの輝度値が境界輝度ＳＢ以上であればステップＳ９０８へ進んで、露光時間マップの対応位置に明領域を示す１を記録する。ここで図１０(a)に、暗領域または明領域のいずれかとして記録された露光時間マップの例を示す。図１０(a)に示すようにこの段階での露光時間マップは、予備撮像データにおける各画素を境界輝度を境に２値化したものである。
【００７３】
そしてステップＳ９０９では、全ての画素に対して露光時間マップの作成処理を行ったか否かを判定し、行っていればステップＳ９１０へ進むが、そうでなければ画素番号ｊに１を加えてステップＳ９０６へ戻り、次の画素を処理する。ここまでの処理は、ピクセル露光時間マップ生成部５０５にて行われる。
【００７４】
次にステップＳ９１０ではピクセル露光時間マップ補正部５０８において、上記のように生成された２値の露光時間マップに対してローパスフィルタ処理を行い、例えば図１０(b)に示すような４値のデータに変換する。この４値のデータ（０〜３）が、４つの明度領域にそれぞれ対応する。すなわち露光時間マップは、予備撮像データにおける各画素が、境界輝度を境とした暗領域、明領域にそれぞれ２値化され、全体として４値化されたものとなる。ここで使用するローパスフィルタとしては、例えば以下の式(10)に示すような３×３のデジタルフィルタを用いれば良い。なお、式(10)において最後に３倍しているのは、変換後の値を０〜３の４値にするためである。
【００７５】
2011004088.tif 000003
【００７６】
・・・(10)
なお、本実施形態における露光時間マップとしては、最終的に４値以外の値にしても良く、したがって上記以外のローパスフィルタを用いても良い。もちろん、３×３以外のサイズのデジタルフィルタを用いても良い。
【００７７】
次にステップＳ９１１では、以下の式(11)〜(13)を用いて、各明度領域に適用するシャッタースピードＴ（Ｔ0〜Ｔ3）を算出する。
【００７８】
はじめに、主要被写体の輝度のＡＰＥＸ値であるＢＶを求める。
【００７９】
ＢＶ＝log2(ＳＢ×Ｎ／Ｋ)      ・・・(11)
次に、上記式(1)，(3)を用いて絞り値のＡＰＥＸ値ＡＶ，ＩＳＯ感度のＡＰＥＸ値ＳＶを求め、これに基づいてシャッタースピードのＡＰＥＸ値ＴＶを求める。
【００８０】
ＴＶ＝ＳＶ＋ＢＶ−ＡＶ      ・・・(12)
そして最後に、暗領域のシャッタースピードＴを算出する。
【００８１】
Ｔ＝２-ＴＶ      ・・・(13)
次にステップＳ９１２では、算出された各明度領域に適用するシャッタースピードＴ（Ｔ0〜Ｔ3）を、露光時間マップに関連付けて格納する。なお、シャッタースピードＴ（Ｔ0〜Ｔ3）の格納場所については特に限定しないが、例えば、露光時間マップに追加しても良いし、露光時間マップ内に設定した多値の値をそれぞれ、対応するシャッタースピードの値に置き換えて保持するようにしても良い。
【００８２】
以上のように本実施形態においては、まず、ＵＩによって設定された境界輝度に基づいて予備撮像データを２値化し、適用すべき露光量に応じた領域設定を行うことによって露光時間マップを作成する。そして、該露光時間マップをローパスフィルタ処理によって多値化することで、領域補正を行う。そしてさらに、露光時間マップにおける各値に対応するシャッタースピードを算出しておく。
【００８３】
なお、本実施形態では露光時間マップを作成するにあたり、予備撮像データを２値化した後に多値化する例を示したが、撮像素子の各画素に対して、適用すべき露光量に応じた所定数の領域を設定することができれば良い。すなわち、前記撮像素子の各画素を、まずは２種類の領域のいずれかに設定し、さらに、該設定した領域の種類が増加するように、例えば４種類となるように補正すれば良い。
【００８４】
また、本実施形態では予備撮像データに基づき、シャッタースピードを示す露光時間マップを作成する例を説明したが、このマップとしては画素ごとの露光量を設定できれば良いため、露光量を示すパラメータを設定した露光量マップとして作成しても良い。
【００８５】
●カラー撮像素子部１０２の詳細構成
本実施形態におけるカラー撮像素子部１０２はＣＭＯＳセンサによって構成され、上述したように作成された露光時間マップに応じてＣＭＯＳセンサを画素ごとに駆動することで、画素毎の露光時間制御を行う。
【００８６】
以下、本実施形態における露光制御、すなわち上記ステップＳ８０４におけるトランジスタ駆動パルスの生成処理を説明するに先立って、カラー撮像素子部１０２の構成および動作について詳細に説明する。
【００８７】
図１２は、カラー撮像素子部１０２の詳細構成を示すブロック図である。同図において、１２０１は撮像面である。撮像面１２０１上には、水平と垂直に配列された複数の画素１２０２が備えられている。撮像面１２０１はさらに、垂直走査回路１２０３、水平走査回路１２０４、出力回路１２０５、出力アンプ１２０６、タイミングジェネレータ１２０７等の構成要素を備える。画素１２０２の水平行毎の並びと垂直走査回路１２０３は、行選択線１２０８で結ばれている。同様に、画素１２０２の垂直列毎の並びと水平走査回路１２０４および出力回路１２０５とは、列選択線１２０９で結ばれている。
【００８８】
カラー撮像素子部１０２における撮像動作は、ピクセル露光量設定部１０３で決定された露光量設定に基づき、タイミングジェネレータ１２０７にて生成された駆動パルスに基づいて行われる。各画素１２０２は、該駆動パルスによるトランジスタの導通／非導通によって、リセット／読み出しを制御する。各画素１２０２で読み出された電荷は電圧に変換され、水平走査回路１２０４から出力回路１２０５に転送され、アンプ１２０６に出力される。
【００８９】
ここで図１３に、カラー撮像素子（ＣＭＯＳセンサ）１０２を構成する画素１２０２の回路構成例を示す。
【００９０】
画素１２０２は、埋め込み型ＰＤ（フォトダイオード）１３０１と、４つのＮチャンネルＭＯＳトランジスタ（以下、単にトランジスタと称する）１３０２〜１３０５によって構成されている。トランジスタ１３０２，１３０４のドレインと、トランジスタ１３０３のソース接続部は、ＦＤ（フローティングディフュージョン）１３０６で構成されている。また、行信号線１３０７，１３０８、列信号線１３０９，１３１０は、各トランジスタに対する信号線を示し、ＶＤＤは電源、ＧＮＤは接地を示す。なお、信号がＨ（High）であれば各ゲートが導通し、Ｌ（Low）ならば非導通になるものとする。
【００９１】
ＰＤ１３０１は光電変換部であり、被写体からの入射光量に応じた電荷、すなわち入射光を光電変換した電荷を蓄積する。蓄積した信号電荷は、転送ゲートと呼ばれる行転送トランジスタ１３０２あるいは、列転送トランジスタ１３０４によって、ＦＤ１３０６に完全転送されることで出力される。転送された信号電荷は、ＦＤ１３０６に蓄積される。なお、行転送トランジスタ１３０２の電位（行転送パルス）をφＴＸ１、列転送トランジスタ１３０４の電位（列転送パルス）をφＴＸ２で表すとする。
【００９２】
トランジスタ１３０３はリセットトランジスタと呼ばれ、トランジスタ１３０３が導通することによって、ＦＤ１３０６を既定の電位（φＲＳＢ）にリセットする。このリセット動作の際に、ＦＤ１３０６の電位がφＲＳＢに対してばらつくノイズ（リセットノイズ）が発生することがある。なお、リセットトランジスタ１３０３の電位（リセットパルス）をφＲＳＴで表すとする。
【００９３】
トランジスタ１３０５は、ソースフォロワ増幅回路を構成するものであり、ＦＤ１３０６の電位ＶＦＤに対する電流増幅を行うことで、出力インピーダンスを下げる働きをする。また、トランジスタ１３０５のドレインは列選択線１３１０に接続されており、低インピーダンス化されて、画素出力Ｖoutとして列選択線１２０９へ導出される。
【００９４】
●ＣＭＯＳセンサ駆動方式
以下、ＣＭＯＳセンサにおける画素１２０２の駆動方式とその特性について、図１４を用いて説明する。
【００９５】
図１４(a)は、転送ゲートであるトランジスタ１３０２、トランジスタ１３０４、リセットトランジスタ１３０３の導通／非道通を制御する形式の駆動方法を示すタイミングチャートである。同図において、ｔ11〜ｔ15はタイミングを表すものとする。
【００９６】
図１４(a)では、タイミングｔ11で、リセットトランジスタ１３０３、および行転送トランジスタ１３０２のゲート（それぞれ、φＲＳＴ，φＴＸ１に対応）が導通になる。これにより、ＰＤ１３０１の電荷がＦＤ１３０６に完全転送されてリセットされ、ＦＤ１３０６もリセットトランジスタ１３０３のドレイン電位にリセットされる。そしてタイミングｔ12で、リセットトランジスタ１３０３、および行転送トランジスタ１３０２のゲートが非導通になることで、ＰＤ１３０１に電荷の蓄積が開始される。
【００９７】
そしてタイミングｔ13で、列転送トランジスタ１３０４のゲート（φＴＸ２に対応）が導通となり、被写体からの光に応じて蓄積されたＰＤ１３０１の電荷がＦＤ１３０６に完全転送される。そしてタイミングｔ14で、列転送トランジスタ１３０４のゲートが非導通となることでトランジスタ１３０５が導通すると、ＦＤ１３０６の電位が低インピーダンス化されて、画素出力Ｖoutとして、出力回路１２０５へ導出される。そしてタイミングｔ15で出力回路１２０５への導出が終了する。
【００９８】
本実施形態においては、１行内の各画素１２０２に対し、２種類以上のタイミングによる列転送パルスを送信することで露光時間を制御する。なお、列転送タイミングの種類は、上述したように多値化された露光時間マップの値に対応する。例えば、露光時間マップが４値であれば４種類のタイミングのいずれかによって列転送パルスを送信する。以下、この露光時間制御について、図１４(b)、図１４(c)を用いて説明する。本実施形態における露光時間制御はすなわち、列転送トランジスタ毎に複数の導通タイミングのいずれかを与えることにより行われる。
【００９９】
図１４(b)は、ピクセル露光量設定部１０３において、ｎ行目のｍ列〜ｍ＋４列の画素に割り当てられた露光量を示す模式図である。同図によれば、露光時間０〜３の順に露光時間が長くなり、撮像画像ｎ行目のｍ列とｍ＋３列には露光時間３が、ｍ＋１列には露光時間２が、ｍ＋２列には露光時間１が、ｍ＋４列には露光時間０が、それぞれ割り当てられている様子を示す。図１４(c)は、行転送トランジスタ１３０２、列転送トランジスタ１３０４、リセットトランジスタ１３０３の導通／非道通を制御する形式の駆動方法を示すタイミングチャートである。
【０１００】
図１４(c)によれば、タイミングｔ21で、ｎ行目全てのリセットトランジスタ１３０３、およびｎ行目全ての行転送トランジスタ１３０２のゲートが導通になる。これにより、ｎ行目全てのＰＤ１３０１の電荷がＦＤ１３０６に完全転送されてリセットされ、ｎ行目全てのＦＤ１３０６もリセットトランジスタ１３０３のドレイン電位にリセットされる。そしてタイミングｔ22で、ｎ行目全てのリセットトランジスタ１３０３、およびｎ行目全ての行転送トランジスタ１３０２のゲートが非導通になることで、ｎ行目全てのＰＤ１３０１に電荷の蓄積を開始する。
【０１０１】
次にタイミングｔ23で、露光時間３が割り当てられているｍ列目とｍ＋３列目の列転送トランジスタ１３０４のゲートが導通となり、被写体からの光が蓄積されたＰＤ１３０１の電荷がＦＤ１３０６に完全転送される。そしてタイミングｔ24でトランジスタ１３０５が導通すると、ＦＤ１３０６の電位が低インピーダンス化されて、画素出力Ｖoutとして、出力回路１２０５へ導出される。そしてタイミングｔ25で、画素出力Ｖoutの出力回路１２０５への導出が終了する。
【０１０２】
次にタイミングｔ26で、露光時間２が割り当てられているｍ＋１列目の列転送トランジスタ１３０４のゲートが導通となり、被写体からの光が蓄積されたＰＤ１３０１の電荷がＦＤ１３０６に完全転送される。そしてタイミングｔ27でトランジスタ１３０５が導通すると、ＦＤ１３０６の電位が低インピーダンス化されて、画素出力Ｖoutとして、出力回路１２０５へ導出される。そしてタイミングｔ28で、画素出力Ｖoutの出力回路１２０５への導出が終了する。
【０１０３】
次にタイミングｔ29で、露光時間１が割り当てられているｍ＋２列目の列転送トランジスタ１３０４のゲートが導通となり、被写体からの光が蓄積されたＰＤ１３０１の電荷がＦＤ１３０６に完全転送される。そしてタイミングｔ30でトランジスタ１３０５が導通すると、ＦＤ１３０６の電位が低インピーダンス化されて、画素出力Ｖoutとして、出力回路１２０５へ導出される。そしてタイミングｔ31で、画素出力Ｖoutの出力回路１２０５への導出が終了する。
【０１０４】
次にタイミングｔ32で、露光時間０が割り当てられているｍ＋４列目の列転送トランジスタ１３０４のゲートが導通となり、被写体からの光が蓄積されたＰＤ１３０１の電荷がＦＤ１３０６に完全転送される。そしてタイミングｔ33でトランジスタ１３０５が導通すると、ＦＤ１３０６の電位が低インピーダンス化されて、画素出力Ｖoutとして、出力回路１２０５へ導出される。そしてタイミングｔ34で、画素出力Ｖoutの出力回路１２０５への導出が終了する。
【０１０５】
以上、図１４(c)に示す制御により、１行内における読み出しが行われる。このような読み出しを、行をまたがって行う場合のタイミングチャートを図１４(d)に示す。図１４(d)によれば、基本的に、各行のリセットを同じタイミングで行い（ｔ41およびｔ54）、行間で読み出しのタイミングが重ならないようにすることで、任意の画素の露光時間を自由に設定することが可能となる。
【０１０６】
以上のように本実施形態では、多値化された露光時間マップの各値に対応した導通タイミングによって列転送パルスを発生させることにより、画素ごとの露出時間の長短を制御することができる。
【０１０７】
●トランジスタ駆動パルス生成処理（Ｓ８０４）
以下、上記ステップＳ８０４におけるトランジスタ駆動パルスの生成処理について、図１１のフローチャートを用いて説明する。ここではすなわち、ＣＭＯＳセンサの各画素に対して上記トランジスタを制御する。
【０１０８】
まずステップＳ１１０１では、行を表す変数ｌ、列を表す変数ｑをそれぞれ０に設定する等の初期動作を行う。
【０１０９】
次にステップＳ１１０２では、行ｌに対する全ての露光時間マップの値を取得する。
【０１１０】
次にステップＳ１１０４では、ｌ行ｑ列目の画素に対し、取得した露光時間マップの値により、シャッタースピードＴ0〜Ｔ3に対応する、列転送トランジスタ１３０４の駆動パルス（列転送パルス）を割り当てる。
【０１１１】
ステップＳ１１０６では、行中の全ての列について列転送パルスの割り当てが行われたか否かを判定し、行われていれば列を表す変数ｑを０に設定してステップＳ１１０７へ進み、そうでなければ変数ｑに１を加えてステップＳ１１０４へ戻る。
【０１１２】
ステップＳ１１０７では、ｌ行目の画素に対し、行転送トランジスタ１３０２およびリセットトランジスタ１３０３の駆動パルスを生成し、垂直走査回路１２０３に送信する。また、ステップＳ１１０４で割り当てた列転送トランジスタ１３０４の駆動パルスを生成し、水平走査回路１２０４に送信する。
【０１１３】
そしてステップＳ１１０８では、全ての行に対して駆動パルスの送信が行われたか否かを判定し、行われていれば処理を終了するが、そうでなければ行を表す変数ｌに１を加えてステップＳ１１０２へ戻る。
【０１１４】
●ゲイン補正処理（Ｓ２０７）
以下、上記ステップＳ２０７におけるゲイン補正処理について、図１５のフローチャートを用いて説明する。
【０１１５】
まずステップＳ１５０１では、画素番号ｊに０を設定することや、本撮像結果、並びに露光時間０〜３のシャッタースピード（Ｔ0〜Ｔ3）をそれぞれ取得すると共に、メモリ確保等の初期化動作を行う。
【０１１６】
次にステップＳ１５０２では、露光時間の比を算出する。すなわち、露光時間マップにおける各明度領域に対応するシャッタースピードＴ0〜Ｔ3について、最短露光相当のＴ0に対する、他の露光時間の比Ｔ#／Ｔ0（#＝１〜３）を算出する。
【０１１７】
次にステップＳ１５０３では、全画素の露光時間マップを取得する。
【０１１８】
そしてステップＳ１５０４では、画素番号ｊの露光時間を判定し、短秒露光相当、すなわちシャッタースピードがＴ0であればステップＳ１５０５へ、そうでなければステップＳ１５０６へ進む。
【０１１９】
ステップＳ１５０５では、画素番号ｊの画素値Ｐjと露光時間比Ｔ#／Ｔ0に基づき、以下の式(14)によってゲイン演算を行った後、ステップＳ１５０６へ進む。
【０１２０】
Ｐj＝(Ｔ#／Ｔ0)×Ｐj      ・・・(14)
ステップＳ１５０６では画素値Ｐjを記録する。そしてステップＳ１５０７で、全ての画素に対して処理を行ったか否かを判定し、行っていれば処理を終了し、そうでなければ画素番号を表すｊに１を加えてステップＳ１５０４へ戻る。
【０１２１】
以上説明したように本実施形態によれば、以下のような効果が得られる。
【０１２２】
まず、予備撮像によって生成した露光時間マップに基づき、列転送トランジスタ毎に露光時間に応じた複数の導通タイミングのいずれかを与えることによって、画素毎の露光時間制御を行うことを可能とする。これにより、ワンショットの撮影によってＨＤＲ画像を得ることができる。
【０１２３】
また、予備撮像時の被写体の輝度を用いて２値化した画像に対してローパスフィルタを適用して多値化した画像（露光時間マップ）を用いて各画素の露光時間を割り当てる。これにより、白トビ、黒ツブレが発生することなく、さらに露光時間の異なる画素の境界部において疑似輪郭が発生しない、広いダイナミックレンジ撮像を行うことが可能となる。
【０１２４】
また、露光時間による露光量制御を行うため、撮影時の感度を任意に設定することができる。したがって、様々なダイナミックレンジの被写体に対応することが可能となる。
【０１２５】
さらに、一度の撮影で、ＨＤＲ画像を取得することが可能であるため、特に動体撮影時の合成による位置ズレ等の問題が解決される。
【０１２６】
また、固定パターンの感度配置によるＨＤＲ撮像と比較して、解像度が低下する、あるいは、被写体輝度に適さない短秒露光になった際のノイズ増加等の問題も回避できる。
【０１２７】
＜第２実施形態＞
以下、本発明に係る第２実施形態について説明する。
【０１２８】
上述した第１実施形態では２値の露光時間マップを多値化する際にローパスフィルタを用いる例を示したが、第２実施形態では、予備撮像データの画素を間引いて保存し、その後に拡大処理を行う際に露光時間マップを多値化する例を示す。なお、撮像装置の構成およびその他の処理については、第１実施形態と同様である。
【０１２９】
●露光時間マップ生成処理（Ｓ８０３）
図１６は、第２実施形態における露光時間マップの生成処理を示すフローチャートである。同図において、上述した第１実施形態で図９に示したフローチャートと同様の処理については同一ステップ番号（ステップＳ９０１〜Ｓ９０８、Ｓ９１１〜Ｓ９１３）を付し、説明を省略する。Ｓ９０９
図１６のステップＳ１６０９では、全ての画素に対して露光時間マップの作成処理を行ったか否かを判定し、行っていればステップＳ１６１０へ進むが、そうでなければ画素番号ｊに１より大きい値を加えてステップＳ９０６へ戻り、次の画素を処理する。ここで、ステップＳ９０６に戻る際にｊに対して１より大きい値を加えることによって、所望の間隔による間引きが行われる。すなわち、ｊに加える値としては間引きの倍率に等しい値であれば良く、例えば２を加えることによって、２倍の間引きが行われる。
【０１３０】
ステップＳ１６１０では、ステップＳ１６０９までに生成された２値の露光時間マップに対して、間引いた倍率に応じた拡大処理を行う。この拡大処理は多値化を伴うものであり、周辺画素に応じて画素値を決定するバイリニア法やバイキュービック法を用いれば良い。
【０１３１】
ここで図１７に、第２実施形態における多値化（４値化）後の露光時間マップの例を示す。図１７に示すように第２実施形態で最終的に得られる露光時間マップは、２値の露光時間マップを２倍に拡大する際に、周辺画素の値に応じて多値化したものである。この多値化により露光時間マップは、図１７に示すように予備撮像データの各画素を、境界輝度を境とした暗領域、明領域がそれぞれ２値化され、全体としての４値化を実現したものとなる。
【０１３２】
以上説明したように第２実施形態によれば、上述した第１実施形態に対し、予備撮像データの画像を間引いて２値の露光時間マップを生成した後に拡大・多値化することによって、多値の露光時間マップをより短時間で生成することが可能となる。
【０１３３】
＜第３実施形態＞
以下、本発明に係る第３実施形態について説明する。
【０１３４】
上述した第１実施形態では、予備撮像と本撮像を同じＣＭＯＳセンサにより行う例を示したが、これらを互いに異なるセンサによって撮像しても良い。例えば、第１の画素群からなるＣＭＯＳセンサによって予備撮像を行い、第１の画素群よりも多い第２の画素群からなるＣＭＯＳセンサによって本撮像を行うようにしても良い。この場合、第１の画素群に対して露光時間マップを生成し、その後、上述した第２実施形態と同様に、該露光時間マップを第２の画素群のサイズに応じて拡大・多値化すれば良い。
【０１３５】
このように、画素数の少ないＣＭＯＳセンサを用いて予備撮像を行い、生成された２値の露光時間マップを第２実施形態と同様に拡大・多値化することによって、多値の露光時間マップをより短時間で生成することが可能となる。
【０１３６】
尚本発明は、前述した実施形態の機能を実現するソフトウェアのプログラムを、システムあるいは装置に直接あるいは遠隔から供給し、そのシステムあるいは装置のコンピュータが該供給されたプログラムコードを読み出して実行することによっても達成される。なお、この場合のプログラムとは、実施形態において図に示したフローチャートに対応したコンピュータ可読のプログラムである。
【図１】
2011004088.tif 000004
【図２】
2011004088.tif 000005
【図４】
2011004088.tif 000006
【図５】
2011004088.tif 000007
【図６】
2011004088.tif 000008
【図７】
2011004088.tif 000009
【図８】
2011004088.tif 000010
【図９】
2011004088.tif 000011
【図１１】
2011004088.tif 000012
【図１２】
2011004088.tif 000013
【図１３】
2011004088.tif 000014
【図１４】
2011004088.tif 000015
【図１５】
2011004088.tif 000016
【図１６】
2011004088.tif 000017
【図３】
2011004088.tif 000018
【図１０】
2011004088.tif 000019
【図１７】
2011004088.tif 000020