(57)【要約】【課題】露光量を変え複数回の撮影を行って画像を合成することなく、１回の撮影でダイナミックレンジを拡大することができる撮像装置を提供する。【解決手段】補正係数算出部６０により、Ｇフィルタの画素出力に対し、この画素周囲のＲ、Ｂフィルタの画素出力のうちの所定の飽和レベル以上に達していると判定された画素出力に基づいて、Ｇフィルタの画素出力を補正する画素出力補正処理部６１と、画素出力補正処理部６１から出力される、１２ビットから１４ビットに一度拡張された画素出力データを、１２ビット数にビット圧縮するビット圧縮変換部５１と、分割した画面の各領域ごとの画素出力の分布を算出するセンサーＩ／Ｆ３４と、を備え、ビット圧縮変換部５１は、算出された各領域ごとの画素出力の分布に応じてそれぞれ設定されたビット圧縮特性に基づいて、各領域ごとの拡張された画素出力データをビット圧縮する。【選択図】図６
2010161557.tif 000002
【特許請求の範囲】
【請求項１】
光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子と、
前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、
前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力のうちの前記所定の飽和レベル以上に達していると判定された画素出力に基づいて、前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理手段と、
前記画素出力補正処理手段から出力される、第１のビット数から第２のビット数に一度拡張された画素出力データを、再度前記第１のビット数にビット圧縮するビット圧縮変換手段と、
前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの画素出力の分布を算出する画素出力分布算出手段と、を備え、
前記ビット圧縮変換手段は、前記画素出力分布算出手段で算出された前記各エリアごとの画素出力の分布に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴とする撮像装置。
【請求項２】
光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子と、
前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、
前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力のうちの前記所定の飽和レベル以上に達していると判定された画素出力に基づいて、前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理手段と、
前記画素出力補正処理手段から出力される、第１のビット数から第２のビット数に一度拡張された画素出力データを、再度前記第１のビット数にビット圧縮するビット圧縮変換手段と、
前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの平均画素出力値を算出する平均画素出力値算出手段と、を備え、
前記ビット圧縮変換手段は、前記平均画素出力値算出手段で算出された前記各エリアごとの平均画素出力値に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴とする撮像装置。
【請求項３】
光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子と、
前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、
前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定された画素出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上に達している前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理手段と、
前記画素出力補正処理手段から出力される、第１のビット数から第２のビット数に一度拡張された画素出力データを、再度前記第１のビット数にビット圧縮するビット圧縮変換手段と、
前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの画素出力の分布を算出する画素出力分布算出手段と、を備え、
前記ビット圧縮変換手段は、前記画素出力分布算出手段で算出された前記各エリアごとの画素出力の分布に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴とする撮像装置。
【請求項４】
光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子と、
前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、
前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定された画素出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上に達している前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理手段と、
前記画素出力補正処理手段から出力される、第１のビット数から第２のビット数に一度拡張された画素出力データを、再度前記第１のビット数にビット圧縮するビット圧縮変換手段と、
前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの平均画素出力値を算出する平均画素出力値算出手段と、を備え、
前記ビット圧縮変換手段は、前記平均画素出力値算出手段で算出された前記各エリアごとの平均画素出力値に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリア域ごとの拡張された前記画素出力データをビット圧縮することを特徴とする撮像装置。
【請求項５】
前記ビット圧縮特性は、基準となる基準ビット圧縮特性に対して所定の特性範囲幅内となるように設定されていることを特徴とする請求項１乃至４のいずれか一項に記載の撮像装置。
【請求項６】
光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、
前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出ステップと、
前記画素出力検出ステップにより、特定色のフィルタが配置された画素からの出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力のうちの前記所定の飽和レベル以上に達していると判定された画素出力に基づいて、前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理ステップと、
前記画素出力補正処理ステップから出力される、第１のビット数から第２のビット数に一度拡張された画素出力データを、再度前記第１のビット数にビット圧縮するビット圧縮変換ステップと、
前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの画素出力の分布を算出する画素出力分布算出ステップと、を含み、
前記ビット圧縮変換ステップは、前記画素出力分布算出ステップで算出された前記各エリアごとの画素出力の分布に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴とする撮像方法。
【請求項７】
光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、
前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出ステップと、
前記画素出力検出ステップにより、特定色のフィルタが配置された画素からの出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力のうちの前記所定の飽和レベル以上に達していると判定された画素出力に基づいて、前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理ステップと、
前記画素出力補正処理ステップから出力される、第１のビット数から第２のビット数に一度拡張された画素出力データを、再度前記第１のビット数にビット圧縮するビット圧縮変換ステップと、
前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの平均画素出力値を算出する平均画素出力値算出ステップと、を含み、
前記ビット圧縮変換ステップは、前記平均画素出力値算出ステップで算出された前記各エリアごとの平均画素出力値に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴とする撮像方法。
【請求項８】
光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、
前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出ステップと、
前記画素出力検出ステップにより、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定された画素出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上に達している前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理ステップと、
前記画素出力補正処理ステップから出力される、第１のビット数から第２のビット数に一度拡張された画素出力データを、再度前記第１のビット数にビット圧縮するビット圧縮変換ステップと、
前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの画素出力の分布を算出する画素出力分布算出ステップと、を備え、
前記ビット圧縮変換ステップは、前記画素出力分布算出ステップで算出された前記各エリアごとの画素出力の分布に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴とする撮像方法。
【請求項９】
光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、
前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出ステップと、
前記画素出力検出ステップにより、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定された画素出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上に達している前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理ステップと、
前記画素出力補正処理ステップから出力される、第１のビット数から第２のビット数に一度拡張された画素出力データを、再度前記第１のビット数にビット圧縮するビット圧縮変換ステップと、
前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの平均画素出力値を算出する平均画素出力値算出ステップと、を含み、
前記ビット圧縮変換ステップは、前記平均画素出力値算出ステップで算出された前記各エリアごとの平均画素出力値に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴とする撮像方法。
【請求項１０】
前記ビット圧縮特性は、基準となる基準ビット圧縮特性に対して所定の特性範囲幅内となるように設定されていることを特徴とする請求項６乃至９のいずれか一項に記載の撮像方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、デジタルスチルカメラ、デジタルビデオカメラ等の撮像装置および撮像方法に関し、特に撮影画像のダイナミックレンジを拡大することができる撮像装置および撮像方法に関する。
【背景技術】
【０００２】
銀塩写真フィルムを用いる従来の銀塩カメラで撮影される画像のダイナミックレンジに比べ、ＣＣＤ等の固体撮像素子を有するデジタルスチルカメラやデジタルビデオカメラ等で撮影される画像のダイナミックレンジは極めて狭い。ダイナミックレンジが狭いと、被写体の暗い部分は「黒つぶれ」といわれる現象が発生し、逆に被写体の明るい部分は「白とび」といわれる現象が発生して画像品質が低下する。
【０００３】
そこで、ＣＣＤ等の固体撮像素子で撮像される画像のダイナミックレンジを拡大するために、例えば、同一被写体に対して露光量を変えて複数回の撮影を行い、露光量の異なる複数の画像を取得し、これらの画像を加算してダイナミックレンジが拡大された合成画像を生成する技術が従来より知られている（例えば、特許文献１参照）。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０００−９２３７８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
ところで、ダイナミックレンジを拡大するために、前記特許文献１のように露光量を変えて複数回の撮影を行う方法では、移動物体の被写体を撮影したりすると、被写体が２重にずれた画像になり、正しく画像を合成できないことがある。
【０００６】
そこで、本発明は、露光量を変え複数回の撮影を行って画像を合成することなく、１回の撮影によってダイナミックレンジを拡大することができる撮像装置および撮像方法を提供することを目的とする。
【課題を解決するための手段】
【０００７】
前記目的を達成するために請求項１に記載の発明は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子と、前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力のうちの前記所定の飽和レベル以上に達していると判定された画素出力に基づいて、前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理手段と、前記画素出力補正処理手段から出力される、第１のビット数から第２のビット数に一度拡張された画素出力データを、再度前記第１のビット数にビット圧縮するビット圧縮変換手段と、前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの画素出力の分布を算出する画素出力分布算出手段と、を備え、前記ビット圧縮変換手段は、前記画素出力分布算出手段で算出された前記各エリアごとの画素出力の分布に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴としている。
【０００８】
請求項２に記載の発明は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子と、前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力のうちの前記所定の飽和レベル以上に達していると判定された画素出力に基づいて、前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理手段と、前記画素出力補正処理手段から出力される、第１のビット数から第２のビット数に一度拡張された画素出力データを、再度前記第１のビット数にビット圧縮するビット圧縮変換手段と、前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの平均画素出力値を算出する平均画素出力値算出手段と、を備え、前記ビット圧縮変換手段は、前記平均画素出力値算出手段で算出された前記各エリアごとの平均画素出力値に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴としている。
【０００９】
請求項３に記載の発明は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子と、前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定された画素出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上に達している前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理手段と、前記画素出力補正処理手段から出力される、第１のビット数から第２のビット数に一度拡張された画素出力データを、再度前記第１のビット数にビット圧縮するビット圧縮変換手段と、前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの画素出力の分布を算出する画素出力分布算出手段と、を備え、前記ビット圧縮変換手段は、前記画素出力分布算出手段で算出された前記各エリアごとの画素出力の分布に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴としている。
【００１０】
請求項４に記載の発明は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子と、前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定された画素出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上に達している前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理手段と、前記画素出力補正処理手段から出力される、第１のビット数から第２のビット数に一度拡張された画素出力データを、再度前記第１のビット数にビット圧縮するビット圧縮変換手段と、前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの平均画素出力値を算出する平均画素出力値算出手段と、を備え、前記ビット圧縮変換手段は、前記平均画素出力値算出手段で算出された前記各エリアごとの平均画素出力値に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴としている。
【００１１】
請求項５、１０に記載の発明は、前記ビット圧縮特性は、基準となる基準ビット圧縮特性に対して所定の特性範囲幅内となるように設定されていることを特徴としている。
【００１２】
請求項６に記載の発明は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出ステップと、前記画素出力検出ステップにより、特定色のフィルタが配置された画素からの出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力のうちの前記所定の飽和レベル以上に達していると判定された画素出力に基づいて、前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理ステップと、前記画素出力補正処理ステップから出力される、第１のビット数から第２のビット数に一度拡張された画素出力データを、再度前記第１のビット数にビット圧縮するビット圧縮変換ステップと、前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの画素出力の分布を算出する画素出力分布算出ステップと、を含み、前記ビット圧縮変換ステップは、前記画素出力分布算出ステップで算出された前記各エリアごとの画素出力の分布に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴としている。
【００１３】
請求項７に記載の発明は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出ステップと、前記画素出力検出ステップにより、特定色のフィルタが配置された画素からの出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力のうちの前記所定の飽和レベル以上に達していると判定された画素出力に基づいて、前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理ステップと、前記画素出力補正処理ステップから出力される、第１のビット数から第２のビット数に一度拡張された画素出力データを、再度前記第１のビット数にビット圧縮するビット圧縮変換ステップと、前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの平均画素出力値を算出する平均画素出力値算出ステップと、を含み、前記ビット圧縮変換ステップは、前記平均画素出力値算出ステップで算出された前記各エリアごとの平均画素出力値に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴としている。
【００１４】
請求項８に記載の発明は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出ステップと、前記画素出力検出ステップにより、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定された画素出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上に達している前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理ステップと、前記画素出力補正処理ステップから出力される、第１のビット数から第２のビット数に一度拡張された画素出力データを、再度前記第１のビット数にビット圧縮するビット圧縮変換ステップと、前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの画素出力の分布を算出する画素出力分布算出ステップと、を備え、前記ビット圧縮変換ステップは、前記画素出力分布算出ステップで算出された前記各エリアごとの画素出力の分布に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴としている。
【００１５】
請求項９に記載の発明は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出ステップと、前記画素出力検出ステップにより、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定された画素出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上に達している前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理ステップと、前記画素出力補正処理ステップから出力される、第１のビット数から第２のビット数に一度拡張された画素出力データを、再度前記第１のビット数にビット圧縮するビット圧縮変換ステップと、前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの平均画素出力値を算出する平均画素出力値算出ステップと、を含み、前記ビット圧縮変換ステップは、前記平均画素出力値算出ステップで算出された前記各エリアごとの平均画素出力値に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴としている。
【発明の効果】
【００１６】
本発明によれば、特定色のフィルタが配置された画素からの出力が所定の飽和レベル以上に達しているときに、その画素の周囲の他の色のフィルタが配置された画素からの出力に基づいて、飽和レベル以上に達している画素出力を予測補間するように補正してダイナミックレンジを拡大することにより、特殊なセンサを用いることなく、または露光量を変え複数回の撮影を行って画像を合成することなく、１回の撮影によってダイナミックレンジを拡大することができる。
【００１７】
また、撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの画素出力の分布または平均画素出力値に応じてそれぞれ設定されたビット圧縮特性に基づいて、各エリアごとの拡張された画素出力データをビット圧縮することにより、例えば、晴天時の空などの本来明るくてよい領域を暗くしてしまうようなことを防止して、より自然なダイナミックレンジ拡大効果を得ることが可能となる。
【図面の簡単な説明】
【００１８】
【図１】（ａ）は、本発明の実施形態１に係る撮像装置の一例としてのデジタルカメラを示す正面図、（ｂ）は、その上面図、（ｃ）は、その背面図。
【図２】本発明の実施形態１に係る撮像装置の一例としてのデジタルカメラ内のシステム構成の概要を示すブロック図。
【図３】本発明の実施形態１におけるＲＧＢフィルタが配置されたＣＣＤの画素配置位置と処理単位を示す図。
【図４】本発明の実施形態１におけるダイナミックレンジ拡大の原理を説明するための図。
【図５】本発明の実施形態１におけるＹＵＶ変換部の構成を示すブロック図。
【図６】本発明の実施形態１におけるＤレンジ拡大予測補間部の構成を示すブロック図。
【図７】液晶モニタに表示された撮影設定画面の一例を示す図。
【図８】ＲＧＢフィルタの各画素出力に対する所定の飽和判定レベル（ＴＧ、ＴＲ、ＴＢ）を示した図。
【図９】（ａ）は、Ｇフィルタの画素出力が飽和レベルＡ以上に達していて、その周囲のＲ、Ｂフィルタの各画素出力もある程度高い場合を示す図、（ｂ）は、Ｇフィルタの画素出力を飽和レベルＡ以上に拡大するように補正処理した状態を示す図。
【図１０】（ａ）は、Ｇフィルタの画素出力が飽和レベル以上に達しているときに、その周囲のＲ、Ｂフィルタの画素出力が極端に小さい場合を示す図、（ｂ）は、Ｇフィルタの画素出力が飽和レベル以上に達しているときに、その周囲のＲ、Ｂフィルタの画素出力が極端に小さい場合に、Ｇフィルタの画素出力が飽和レベル以下に縮小補正された状態を示す図。
【図１１】（ａ）は、本発明の実施形態１における、拡張したＧフィルタの画素出力の１４ビットデータを１２ビットに縮小する変換特性の一例を示す図、（ｂ）は、本発明の実施形態１の他の例における、拡張したＧフィルタの画素出力の１４ビットデータを１２ビットに縮小する変換特性一例を示す図。
【図１２】１２ビットのＲＧＢのデータを８ビットのＲＧＢのデータに変換（γ変換）する変換テーブルの一例を示す図。
【図１３】（ａ）、（ｂ）は、それぞれＧフィルタの画素出力のヒストグラムの一例を示す図。
【図１４】（ａ）、（ｂ）は、それぞれビット圧縮変換テーブルの一例を示す図。
【図１５】特性範囲を設定したビット圧縮変換テーブルの一例を示す図。
【図１６】本発明の実施形態２で用いたビット圧縮変換テーブルの一例を示す図。
【図１７】本発明の実施形態５におけるＲＧＢフィルタが配置されたＣＣＤの画素配置位置と処理単位を示す図。
【図１８】本発明の実施形態６におけるＲＧＢフィルタが配置されたＣＣＤの画素配置位置と処理単位を示す図。
【発明を実施するための形態】
【００１９】
以下、本発明を図示の実施形態に基づいて説明する。
〈実施形態１〉
図１（ａ）は、本発明の実施形態１に係る撮像装置の一例としてのデジタルスチルカメラ（以下、「デジタルカメラ」という）を示す正面図、図１（ｂ）は、その上面図、図１（ｃ）は、その背面図、図２は、図１（ａ），（ｂ），（ｃ）に示したデジタルカメラ内のシステム構成の概要を示すブロック図である。
【００２０】
（デジタルカメラの外観構成）
図１（ａ），（ｂ），（ｃ）に示すように、本実施形態に係るデジタルカメラ１の上面側には、レリーズボタン（シャッタボタン）２、電源ボタン３、撮影・再生切替ダイアル４が設けられており、デジタルカメラ１の正面（前面）側には、撮影レンズ系５を有する鏡胴ユニット６、ストロボ発光部（フラッシュ）７、光学ファインダ８が設けられている。
【００２１】
デジタルカメラ１の背面側には、液晶モニタ（ＬＣＤ）９、前記光学ファインダ８の接眼レンズ部８ａ、広角側ズーム（Ｗ）スイッチ１０、望遠側ズーム（Ｔ）スイッチ１１、メニュー（ＭＥＮＵ）ボタン１２、確定ボタン（ＯＫボタン）１３等が設けられている。また、デジタルカメラ１の側面内部には、撮影した画像データを保存するためのメモリカード１４（図２参照）を収納するメモリカード収納部１５が設けられている。
【００２２】
（デジタルカメラのシステム構成）
図２に示すように、このデジタルカメラ１は、鏡胴ユニット６の撮影レンズ系５を通して入射される被写体画像が受光面上に結像する固体撮像素子としてのＣＣＤ２０、ＣＣＤ２０から出力される電気信号（アナログＲＧＢ画像信号）をデジタル信号に処理するアナログフロントエンド部（以下、「ＡＦＥ部」という）２１、ＡＦＥ部２１から出力されるデジタル信号を処理する信号処理部２２、データを一時的に格納するＳＤＲＡＭ２３、制御プログラム等が記憶されたＲＯＭ２４、鏡胴ユニット６を駆動するモータドライバ２５等を有している。
【００２３】
鏡胴ユニット６は、ズームレンズやフォーカスレンズ等を有する撮影レンズ系５、絞りユニット２６、メカシャッタユニット２７を備えており、撮影レンズ系５、絞りユニット２６、メカシャッタユニット２７の各駆動ユニットは、モータドライバ２５によって駆動される。モータドライバ２５は、信号処理部２２の制御部（ＣＰＵ）２８からの駆動信号により駆動制御される。
【００２４】
ＣＣＤ２０は、図３に示すように、ＣＣＤ２０を構成する複数の画素２０ａ上にベイヤ配列のＲＧＢ原色フィルタ（以下、「ＲＧＢフィルタ」という）が配置されており、各画素からＲＧＢ３原色に対応した電気信号（アナログＲＧＢ画像信号）が出力される。
【００２５】
ＡＦＥ部２１は、ＣＣＤ２０を駆動するＴＧ（タイミング信号発生部）３０、ＣＣＤ２０から出力される電気信号（アナログＲＧＢ画像信号）をサンプリングするＣＤＳ（相関２重サンプリング部）３１、ＣＤＳ３１にてサンプリングされた信号のゲインを調整するＡＧＣ（アナログ利得制御部）３２、ＡＧＣ３２でゲイン調整された信号をデジタル信号（以下、「ＲＡＷ−ＲＧＢデータ」という）に変換するＡ／Ｄ変換部３３を備えている。
【００２６】
信号処理部２２は、ＡＦＥ部２１のＴＧ３０からの画面水平同期信号（ＨＤ）と画面垂直同期信号（ＶＤ）と画素転送クロック（ピクセルクロック）の出力を受け、これらの同期信号に合わせて、ＡＦＥ部２１のＡ／Ｄ変換部３３から出力されるＲＡＷ−ＲＧＢデータを取り込むセンサーインターフェース（以下、「センサーＩ／Ｆ」という）３４と、ＳＤＲＡＭ２３を制御するメモリコントローラ３５と、取り込んだＲＡＷ−ＲＧＢデータを表示や記録が可能なＹＵＶ形式の画像データに変換するＹＵＶ変換部３６と、表示や記録される画像データのサイズに合わせて画像サイズを変更するリサイズ処理部３７と、画像データの表示出力を制御する表示出力制御部３８と、画像データをＪＰＥＧ形成などで記録するためのデータ圧縮部３９と、画像データをメモリカード１４へ書き込み、又はメモリカード１４に書き込まれた画像データを読み出すメディアインターフェース（以下、「メディアＩ／Ｆ」という）４０と、操作部４１からの操作入力情報に基づき、ＲＯＭ２４に記憶された制御プログラムに基づいてデジタルカメラ１全体のシステム制御等を行う制御部（ＣＰＵ）２８を備えている。
【００２７】
操作部４１は、デジタルカメラ１（図１（ａ），（ｂ），（ｃ）参照）の外観表面に設けられているレリーズボタン２、電源ボタン３、撮影・再生切替ダイアル４、広角側ズームスイッチ１０、望遠側ズームスイッチ１１、メニューボタン１２、確定ボタン１３等であり、撮影者の操作によって所定の動作指示信号が制御部２８に入力される。
【００２８】
ＳＤＲＡＭ２３には、センサーＩ／Ｆ３４に取り込まれたＲＡＷ−ＲＧＢデータが保存されると共に、ＹＵＶ変換部３６で変換処理されたＹＵＶデータ（ＹＵＶ形式の画像データ）が保存され、更に、データ圧縮部３９で圧縮処理されたＪＰＥＧ形成などの画像データが保存される。
【００２９】
なお、前記ＹＵＶデータのＹＵＶは、輝度データ（Ｙ）と、色差（輝度データと青色（Ｂ）成分データの差分（Ｕ）と、輝度データと赤色（Ｒ）成分データの差分（Ｖ））の情報で色を表現する形式である。
【００３０】
（デジタルカメラのモニタリング動作、静止画撮影動作）
次に、前記したデジタルカメラ１のモニタリング動作と静止画撮影動作について説明する。このデジタルカメラ１は、静止画撮影モード時には、以下に説明するようなモニタリング動作を実行しながら静止画撮影動作が行われる。
【００３１】
先ず、撮影者が電源ボタン３をＯＮし、撮影・再生切替ダイアル４を撮影モードに設定することで、デジタルカメラ１が記録モードで起動する。電源ボタン３がＯＮされて、撮影・再生切替ダイアル４が撮影モードに設定されたことを制御部２８が検知すると、制御部２８はモータドライバ２５に制御信号を出力して、鏡胴ユニット６を撮影可能位置に移動させ、かつ、ＣＣＤ２０、ＡＦＥ部２１、信号処理部２２、ＳＤＲＡＭ２３、ＲＯＭ２４、液晶モニタ９等を起動させる。
【００３２】
そして、鏡胴ユニット６の撮影レンズ系５を被写体に向けることにより、撮影レンズ系５を通して入射される被写体画像がＣＣＤ２０の各画素の受光面上に結像する。そして、ＣＣＤ２０から出力される被写体画像に応じた電気信号（アナログＲＧＢ画像信号）は、ＣＤＳ３１、ＡＧＣ３２を介してＡ／Ｄ変換部３３に入力され、Ａ／Ｄ変換部３３により１２ビット（bit）のＲＡＷ−ＲＧＢデータに変換する。
【００３３】
このＲＡＷ−ＲＧＢデータは、信号処理部２２のセンサーＩ／Ｆ３４に取り込まれてメモリコントローラ３５を介してＳＤＲＡＭ２３に保存される。そして、ＳＤＲＡＭ２３から読み出されたＲＡＷ−ＲＧＢデータは、ＹＵＶ変換部３６で表示可能な形式であるＹＵＶデータ（ＹＵＶ信号）に変換された後に、メモリコントローラ３５を介してＳＤＲＡＭ２３にＹＵＶデータが保存される。
【００３４】
そして、ＳＤＲＡＭ２３からメモリコントローラ３５を介して読み出したＹＵＶデータは、表示出力制御部３８を介して液晶モニタ（ＬＣＤ）９へ送られ、撮影画像が表示される。前記した液晶モニタ（ＬＣＤ）９に撮影画像を表示しているモニタリング時においては、センサーＩ／Ｆ３４による画素数の間引き処理により１／３０秒の時間で１フレームを読み出している。
【００３５】
なお、このモニタリング動作時は、電子ファインダとして機能する液晶モニタ（ＬＣＤ）９に撮影画像が表示されているだけで、まだレリーズボタン２が押圧（半押も含む）操作されていない状態である。
【００３６】
この撮影画像の液晶モニタ（ＬＣＤ）９への表示によって、静止画を撮影するための構図の確認等を撮影者が行うことができる。なお、表示出力制御部３８からＴＶビデオ信号として出力して、ビデオケーブルを介して外部のＴＶ（テレビ）に撮影画像を表示することもできる。
【００３７】
そして、信号処理部２２のセンサーＩ／Ｆ３４は、取り込まれたＲＡＷ−ＲＧＢデータより、ＡＦ（自動合焦）評価値、ＡＥ（自動露出）評価値、ＡＷＢ（オートホワイトバランス）評価値を算出する。
【００３８】
ＡＦ評価値は、例えば高周波成分抽出フィルタの出力積分値や、近接画素の輝度差の積分値によって算出される。合焦状態にあるときは、被写体のエッジ部分がはっきりとしているため、高周波成分が一番高くなる。これを利用して、ＡＦ動作時（合焦検出動作時）には、撮影レンズ系５内の各フォーカスレンズ位置におけるＡＦ評価値を取得して、その極大になる点を合焦検出位置としてＡＦ動作が実行される。
【００３９】
ＡＥ評価値とＡＷＢ評価値は、ＲＡＷ−ＲＧＢデータにおけるＲＧＢ値のそれぞれの積分値から算出される。例えば、ＣＣＤ２０の全画素の受光面に対応した画面を１０２４エリアに等分割（水平３２分割、垂直３２分割）し、それぞれのエリアのＲＧＢ積算を算出する。
【００４０】
そして、制御部２８は、算出されたＲＧＢ積算値を読み出し、ＡＥ処理では、画面のそれぞれのエリアの輝度を算出して、画面内の輝度分布から適正な露光量を決定する。決定した露光量に基づいて、露光条件（ＣＣＤ２０の電子シャッタ回数、絞りユニット２６の絞り値等）を設定する。また、ＡＷＢ処理では、ＲＧＢの分布から被写体色や光源色を判定し、光源の色に合わせたＡＷＢの制御値を決定する。このＡＷＢ処理により、ＹＵＶ変換部３６でＹＵＶデータに変換処理するときのホワイトバランスを合わせる。なお、前記したＡＥ処理とＡＷＢ処理は、前記モニタリング動作時には連続的に行われている。
【００４１】
また、画素出力の平均値は、ＡＥ評価値から算出される。上記のようにＲＧＢそれぞれのエリアごとに積分値が算出されるので、制御部２８はそのエリアに含まれるＲＧＢの画素数でＲＧＢの各積分値を除算することで、各エリアの画素出力の平均値を算出することができる。
【００４２】
上記ＡＥ評価値、ＡＷＢ処理と同様に、ＣＣＤ２０の全画素の受光面に対応した画面を１０２４エリアに等分割（水平３２分割、垂直３２分割）し、それぞれのエリアのＧフィルタの画素出力のヒストグラム（分布）が算出される。Ｇフィルタの画素のみで行う理由は、Ｇフィルタの画素出力は光源の色温度による変化が大きくないこと、回路規模を小さくすることができること、輝度Ｙの算出では、Ｇフィルタの画素出力が支配的であることなどが挙げられる。
【００４３】
静止画の撮影は、前記したモニタリング動作時に、レリーズボタン２が押圧（半押しから全押し）操作されて静止画撮影動作が開始されると、合焦位置検出動作であるＡＦ動作と静止画記録処理が行われる。
【００４４】
即ち、レリーズボタン２が押圧（半押しから全押し）操作されると、制御部２８からモータドライバ２５への駆動指令により撮影レンズ系５のフォーカスレンズが移動し、コントラスト評価方式のＡＦ動作が実行される。
【００４５】
ＡＦ（合焦）対象範囲が無限から至近までの全領域であった場合、撮影レンズ系５のフォーカスレンズは、至近から無限、又は無限から至近までの間の各フォーカス位置に移動し、センサーＩ／Ｆ３４で算出されている各フォーカス位置における前記ＡＦ評価値を制御部２８が読み出す。そして、各フォーカス位置のＡＦ評価値が極大になる点を合焦位置としてフォーカスレンズを合焦位置に移動させ、合焦させる。
【００４６】
そして、前記したＡＥ処理が行われ、露光完了時点で、制御部２８からモータドライバ２５への駆動指令によりメカシャッタユニット２７が閉じられ、ＣＣＤ２０から静止画用のアナログＲＧＢ画像信号が出力される。そして、前記モニタリング時と同様に、ＡＦＥ部２１のＡ／Ｄ変換部３３によりＲＡＷ−ＲＧＢデータに変換される。
【００４７】
そして、このＲＡＷ−ＲＧＢデータは、信号処理部２２のセンサーＩ／Ｆ３４に取り込まれ、後述するＹＵＶ変換部３６でＹＵＶデータに変換されて、メモリコントローラ３５を介してＳＤＲＡＭ２３に保存される。そして、このＹＵＶデータはＳＤＲＡＭ２３から読み出されて、リサイズ処理部３７で記録画素数に対応するサイズに変換され、データ圧縮部３９でＪＰＥＧ形式等の画像データへと圧縮される。
【００４８】
圧縮されたＪＰＥＧ形式等の画像データは、ＳＤＲＡＭ２３に書き戻された後にメモリコントローラ３５を介してＳＤＲＡＭ２３から読み出され、メディアＩ／Ｆ４０を介してメモリカード１４に保存される。
【００４９】
（本発明におけるダイナミックレンジの拡大原理）
デジタルカメラ１のＣＣＤ２０を構成する各画素上には、ベイヤ配列のＲＧＢフィルタ（図３参照）が配置されているが、太陽光のように広い波長帯域を持つ光に対して、通常のＲＧＢフィルタは各色ごとに輝度に対する感度が異なっている。
【００５０】
例えば、図４に示すように、Ｇ（グリーン）フィルタの感度が、Ｒ（レッド）フィルタ、Ｂ（ブルー）フィルタの２倍程度の感度を有するＲＧＢフィルタ（図４のａ、ｂ、ｃ）を有するＣＣＤ２０の場合、太陽光のように広い波長帯域を持つ光が同じだけＲＧＢフィルタに入射したときに、Ｒ、Ｂフィルタの各画素出力に対してＧフィルタ（図４のｃの斜線部分）の画素出力の方が先に飽和レベルＡに達してしまう。なお、図４において、ｆはＧフィルタの画素感度特性、ｇはＲ、Ｂフィルタの各画素感度特性であり、Ｇフィルタの画素感度特性は、Ｒ、Ｂフィルタの各画素感度特性の２倍程度の感度を有している。
【００５１】
ところで、ＲＧＢフィルタが配置されたＣＣＤなどの固体撮像素子を有する従来のデジタルカメラでは、図４のａ、ｂ、ｃのＲＧＢフィルタのように、感度の高いＧフィルタの画素出力に応じた飽和レベルＡに合わせてダイナミックレンジの範囲を設定している。このため、Ｇフィルタの画素出力が飽和レベルＡに達している場合でも、Ｒ、Ｂフィルタの画素出力は飽和レベルＡの１／２程度である。
【００５２】
これに対して、本発明では、図４のｄ、ｅのＲＧＢフィルタのように、Ｇフィルタの画素出力が飽和レベルＡを超えていても、Ｒ、Ｂフィルタの各画素出力が飽和レベルＡを超えていない範囲内にあるときに、Ｒ、Ｂフィルタの各画素出力レベルから、Ｒ、Ｂフィルタの各画素感度特性（図４のｇ）とＧフィルタの画素感度特性（図４のｆ）とに基づいてＧフィルタの画素出力レベルを予測補間補正（一点鎖線部分）し、この予測補間した分だけダイナミックレンジを拡大するようにした。
【００５３】
前記したように本実施形態では、太陽光のように広い波長帯域を持つ光に対して、Ｇフィルタの画素感度特性は、Ｒ、Ｂフィルタの各画素感度特性の２倍程度の感度を有している。よって、本実施形態におけるダイナミックレンジの拡大度合の最大値は、ダイナミックレンジの拡大処理動作を行わない通常の撮影動作時に対して２倍程度である。
【００５４】
なお、本実施形態では、Ｇフィルタの画素感度特性がＲ、Ｂフィルタの各画素感度特性の２倍程度の感度を有し、これに基づいてダイナミックレンジの拡大度合の最大値が２倍としたが、ＲＧＢフィルタの各画素感度特性を変化させることにより、ダイナミックレンジの拡大度合の最大値を２倍以上の所定値、あるいは２倍以下の所定値に設定することができる。
【００５５】
（ＹＵＶ変換部３６によるダイナミックレンジ拡大の基本処理）
本実施形態に係るデジタルカメラ１のＹＵＶ変換部３６は、前記したダイナミックレンジを拡大するためのダイナミックレンジ拡大処理機能を有している。
【００５６】
図５に示すように、ＹＵＶ変換部３６は、後述するダイナミックレンジ拡大予測補間部（以下、「Ｄレンジ拡大予測補間部」という）５０、ビット圧縮変換部５１、ホワイトバランス制御部５２、同時化部５３、トーンカーブ変換部５４、ＲＧＢ−ＹＵＶ変換部５５、画像サイズコンバータ部５６、再生輝度ヒストグラム生成部５７、およびエッジエンハンス部５８を備えている。
【００５７】
Ｄレンジ拡大予測補間部５０は、図６に示すように、補正係数算出部６０、画素出力補正処理部６１、およびビット拡張処理部６２を備えている。Ｄレンジ拡大予測補間部５０の補正係数算出部６０、画素出力補正処理部６１の処理動作については後述する。ビット拡張処理部６２は、Ｒ、Ｂフィルタの画素出力に対して、出力レベルの変換を行うことなく１２ビットから１４ビットにそれぞれビット拡張のみを行う。
【００５８】
以下、本実施形態におけるダイナミックレンジの拡大処理動作について説明する。
【００５９】
前記したモニタリング動作時において、撮影者の判断によりメニューボタン１２（図１（Ｃ）参照）を押圧操作することにより、例えば、図７に示すような撮影設定画面が液晶モニタ（ＬＣＤ）９に表示される。そして、この表示画面から「ダイナミックレンジ拡大」の項目で「ＯＮ」を選択することにより、制御部２８からＹＵＶ変換部３６へ制御信号が出力され、ダイナミックレンジを拡大する処理動作が実行される。
【００６０】
そして、ＳＤＲＡＭ２３から読み出した前記ＲＡＷ−ＲＧＢデータが、Ｄレンジ拡大予測補間部５０の補正係数算出部６０に入力される。
【００６１】
補正係数算出部６０は、入力されるＲＡＷ−ＲＧＢデータからＲＧＢフィルタを設けた各画素の画素出力を検出するとともに、Ｇフィルタを設けた画素の画素出力（以下、「Ｇフィルタの画素出力」という）およびその周辺のＲ、Ｂフィルタを設けた画素の画素出力（以下、「Ｒ、Ｂフィルタの画素出力」という）のそれぞれの出力が、予め設定されている所定の飽和レベル以上に達しているかを判定する。
【００６２】
更に、補正係数算出部６０は、Ｇフィルタの画素出力およびＲ、Ｂフィルタの画素出力のいずれかが所定の飽和レベル以上に達している場合に、その飽和レベル以上のデータをもとにＧフィルタの画素出力の補正（予測補間）を行うための後述する補正係数を算出する。なお、前記補正（予測補間）を行うかどうかの判断を、Ｇフィルタの画素出力およびＲ、Ｂフィルタの画素出力のいずれかが飽和レベル以上に達している場合と限定するものではなく、Ｇフィルタの画素出力のみ、またはＲ、Ｂフィルタの画素出力のみとしてもよい。
【００６３】
画素出力補正処理部６１は、補正係数算出部６０で算出された補正係数をＧフィルタの画素出力に乗算することによって、Ｇフィルタの画素出力の補正処理を以下のように行う。
【００６４】
補正係数算出部６０でＧフィルタの画素出力の補正係数を算出する際において、本実施形態では、ＲＧＢフィルタを有するＣＣＤ２０の各画素に対して、図３に示したように、太枠Ａ内の２×２画素（２つのＧフィルタの画素、１つずつのＲ、Ｂフィルタの画素）を処理単位（最小単位）とする。Ｇフィルタの画素出力の補正係数（Ｋ）、補正処理後のＧフィルタの画素出力（Ｇｅ）、は、それぞれ下記の式（１）、式（２）から算出される。
【００６５】
Ｋ＝｛ｌ×ｆ（Ｒｏ）＋ｍ×ｆ（Ｇｏ）＋ｎ×ｆ（Ｂｏ）｝／３      …式（１）
Ｇｅ＝Ｋ×Ｇｏ      …式（２）
ただし、ｌ、ｍ、ｎはＲＧＢの各フィルタの感度比率から設定される係数、Ｇｏは補正処理前のＧフィルタの画素出力である。また、ｆ（Ｒｏ）、ｆ（Ｇｏ）、ｆ（Ｂｏ）は、下記の数１（式（３）〜式（５））で設定される係数である。
【００６６】
【数１】
2010161557.tif 000003
【００６７】
ただし、ＲｏはＲフィルタの画素出力、ＴＲはＲフィルタの画素出力の飽和判定レベル、Ｇｏは補正処理前のＧフィルタの画素出力、ＴＧはＧフィルタの画素出力の飽和判定レベル、ＢｏはＢフィルタの画素出力、ＴＢはＢフィルタの画素出力の飽和判定レベルである。
【００６８】
前記式（３）〜式（５）における各飽和判定レベルＴＲ、ＴＧ、ＴＢは、例えば、図８に示したある光源下におけるＲＧＢフィルタの各画素出力に対する所定の飽和判定レベルに相当する。なお、図８において、Ａ（ＴＧ）はＧフィルタの画素出力の飽和レベル（飽和判定レベル）、ＴＲはＲフィルタの画素出力の飽和判定レベル、ＴＢはＢフィルタの画素出力の飽和判定レベルである。
【００６９】
図８に示すように、この光源下においては、前記したようにＧフィルタを設けた画素の感度が、Ｒ、Ｂフィルタを設けた各画素の感度の２倍となっているため、Ｇフィルタの画素出力が最初に飽和点に達する。そのため、飽和点に達した画素出力値を、Ｇフィルタの画素出力の飽和判定レベルＴＧとした。よって、Ｒ、Ｂフィルタの各画素出力の飽和判定レベルＴＢ、ＴＧは、前記ＴＧの１／２の値となる。なお、ＴＲ、ＴＧ、ＴＢは、撮像装置（デジタルカメラなど）に用いられるＲＧＢフィルタを有する固体撮像素子（ＣＣＤなど）自体の特性（感度比）と光源の色温度に依存し、図８に示したような比率に限定されるものではない。
【００７０】
ＲＧＢフィルタの各画素出力の感度比が、図８に示したような場合、前記式（１）における係数ｌ、ｎをそれぞれ３／２、ｍを０とすることで、Ｇフィルタの画素出力の補正係数（Ｋ）が算出される。そして、この補正係数（Ｋ）により前記式（２）から算出された補正後のＧフィルタの画素出力（Ｇｅ）の値は、処理単位（図３参照）内にある２つのＧフィルタの画素出力値として置き換えられる。
【００７１】
なお、このＧフィルタの画素出力値は１２ビットを超えたデータになるため、ここでは一度１４ビットのデータに置き換える。よって、Ｒ、Ｂフィルタの各画素出力の最大値はいずれも４０９５（１２ビット）なので、Ｇフィルタの画素出力の最大値は８１９０となり、１４ビットを超えることがないので１４ビットのデータとして扱うことができる。
【００７２】
ところで、補正係数算出部６０でＧフィルタの画素出力の補正係数を算出する前に、欠陥画素の補正が完了している必要がある。即ち、ＲＧＢフィルタを設けた各画素中に欠陥画素があり、常に飽和する値を出力する画素があった場合、前記補正係数は大きな値になってしまい、結果として補正後のＧフィルタの画素出力を大きな値に置き換えてしまうため、新たな欠陥画素を生成してしまうことになる。このため、本実施形態では、センサーＩ／Ｆ３４に欠陥画素の出力を取り除く欠陥画素出力除去処理部（不図示）を備えている。
【００７３】
また、前記式（３）〜式（５）において、ＲＧＢフィルタの各画素出力が所定の飽和判定レベル（ＴＲ、ＴＧ、ＴＢ）以下の場合は“１”を設定しているが、これは補正後のＧフィルタの画素出力（Ｇｅ）の値が、補正前のＧフィルタの画素出力（Ｇｏ）よりも小さくならないようにするためである。
【００７４】
例えば、図９（ａ）に示すように、前記処理単位（図３参照）内にあるＧフィルタの画素出力が飽和レベルＡ以上に達しているときに、その周囲のＲ、Ｂフィルタの各画素出力もある程度高い（Ｇフィルタの画素出力に対する飽和レベルＡ以下）場合には、図９（ｂ）に示すように、前記式（１）〜式（５）に基づいて、Ｇフィルタの画素出力を飽和レベルＡ以上に拡大するように補正して、ダイナミックレンジを拡大することができる。
【００７５】
しかしながら、例えば、図１０（ａ）に示すように、前記処理単位（図３参照）内にあるＧフィルタの画素出力が飽和レベルＡ以上に達しているときでも、その周囲のＲ、Ｂフィルタの各画素出力がＧフィルタの画素出力に対して極端に小さい場合がある。この場合に、前記式（３）〜式（５）において、ＲＧＢフィルタの各画素出力が所定の飽和判定レベル（ＴＲ、ＴＧ、ＴＢ）よりも小さいときに“１”を入れるという判定が入っていなかった場合、Ｇフィルタの画素出力を補正すると、図１０（ｂ）に示すように、その周囲の画素出力が極端に小さいＲ、Ｂフィルタの影響により、Ｇフィルタの画素出力が逆に飽和レベルＡ以下に縮小される不具合が生じる。
【００７６】
そこで、前記式（３）〜式（５）のように、所定の飽和判定レベル（ＴＲ、ＴＧ、ＴＢ）との比較を行うことで、演算結果が図９（ｂ）のように、元のＧフィルタの画素出力の値よりも大きくなる場合のみ、ダイナミックレンジ拡大の補正が行われるようにしている。なお、図９（ａ）、（ｂ）および図１０（ａ）、（ｂ）において、Ａ（ＴＧ）はＧフィルタの画素出力の飽和レベル（飽和判定レベル）、ＴＲはＲフィルタの画素出力の飽和判定レベル、ＴＢはＢフィルタの画素出力の飽和判定レベルである。
【００７７】
このように、Ｇフィルタの画素出力が飽和レベルＡ以上に達しているときでも、その周囲のＲ、Ｂフィルタの各画素出力がＧフィルタの画素出力に対して極端に小さい場合には、Ｇフィルタの画素出力に対する補正処理が中止されることにより、Ｇフィルタの画素出力が下げられて、色ずれが生じることを防止することができる。
【００７８】
そして、Ｄレンジ拡大予測補間部５０の画素出力補正処理部６１で補正されたＧフィルタの画素出力値データ、およびビット拡張処理部６２でビット拡張されたのみのＲ、Ｂフィルタの画素出力値データは、ビット圧縮変換部５１に出力される。
【００７９】
ビット圧縮変換部５１は、例えば、図１１（ａ）に示すような変換特性（３箇所の節点を指定し、それらの間を直線で近似する４区間の折れ線近似特性）によって、１４ビットに拡張されたＲ、Ｇ、Ｂフィルタの画素出力のうちのＧフィルタの画素出力を１２ビットに圧縮する。なお、図１１（ａ）において、ａは１２ビットの範囲であり、ｂは最大値８１９０のデータを１／２倍する単純な線形変換特性（一点鎖線部分）である。
【００８０】
図１１（ａ）に示す変換特性（ビット圧縮変換テーブル）では、Ｇフィルタの画素出力の最大値は８１９０なので、８１９０が４０９５になるように圧縮する。そして、Ｇフィルタの画素出力の圧縮倍率に合わせて、Ｒ、Ｂフィルタの画素出力の値も圧縮する。
【００８１】
前記したように本実施形態では、最大値が８１９０に拡張されたＧフィルタの画素出力を最大値が４０９５に圧縮する場合の一例として、図１１（ａ）の実線で示したような３つの節点を有する変換特性を用いた。本実施形態では、単純な節点のない線形変換特性（図１１（ａ）のｂ）では得られない以下のような２つの効果が得られる。
【００８２】
第１の効果としては、データの信頼性が高いデータにより多くのビット数を割り当てることができる。即ち、飽和レベル以上に達しているＧフィルタの画素出力に対して補正処理する場合、前記したようにＧフィルタの画素出力の飽和レベル付近の規定値以上の値になった範囲について補正（予測補間）を行い、この規定値以下の範囲では補正は行われない。よって、補正を行う範囲と行わない範囲とでは、データの精度が異なっている。
【００８３】
例えば、前記式（１）〜式（５）によって飽和しているＧフィルタの画素出力値を補正（予測補間）する場合、主被写体の色によっては、補正を行う範囲においては被写体の輝度レベルが正確に再現できていない場合がある。これに対して補正を行っていない範囲は、ＲＧＢフィルタが配置されたＣＣＤ２０から出力される実際のデータ（アナログＲＧＢ画像信号）をＡ／Ｄ変換したデータであるので、このデータの信頼性は高いものとなる。
【００８４】
即ち、図１１（ａ）に示した本実施形態における変換特性（実線で示した部分）では、例えば、入力１４ビットデータが１０２４ときに出力１２ビットデータは１０２４になっており、元のデータがそのまま使われている。これに対し、例えば、入力１４ビットデータが３０７２ときに出力１２ビットデータは２５６０になっており、この範囲では補正前のビット割付よりも少ない割付となることによって、多少のビット誤差が発生する。
【００８５】
このように、単純な節点のない線形変換を行う特性（一点鎖線で示した部分）ではなく、本実施形態のように３つの節点を有する変換特性（実線で示した部分）を採用することにより、ビット割付をだんだんと少なくしていくことができるので、データの信頼性が高いデータにより多くのビット数を割り当てることができる。
【００８６】
そして、第２の効果としては、低・中輝度における階調を正確に保存することができる。即ち、単純な線形変換特性（図１１（ａ）のｂ）でビット圧縮を行った場合、低輝度側の予測補間が行われていない範囲では、ビット割付が１／４になってしまう。このため、階調感のない画像になってしまう。これに対し、図１１（ａ）に示したような本実施形態における変換特性（実線部分）でビット圧縮を行った場合には、飽和レベル以下で低輝度レベルにおける画素出力に対応したデータに対しては、ビット圧縮変換部５１でビット圧縮する前とビット圧縮した後で略同じ値となるような圧縮率を用いることにより、低輝度レベルにおける階調性を良好に保持することができる。
【００８７】
なお、本実施形態では、拡張したＧフィルタの画素出力の１４ビットデータを１２ビットに縮小するときに、図１１（ａ）のように３つの節点を指定し、それらの間を直線で近似する４区間の折れ線近似特性（変換特性）でビット圧縮を行う構成であったが、この区間数は特に限定されるものではない。例えば、１つの節点を指定する２区間の折れ線近似特性としてもよいが、節点付近でビット割付が大きく変わることにより、前記した２つの効果が小さくなる。よって、３区間以上の区間数を有する折れ線近似特性（変換特性）が好ましい。
【００８８】
また、拡張したＧフィルタの画素出力の１４ビットデータを１２ビットに縮小する変換特性を、図１１（ｂ）に示すように、複数の節点を有していない曲線による変換特性（ビット圧縮変換テーブル）としてもよい。即ち、図１１（ａ）の４区間を有する変換特性に対して、区間数を８１９２にしたものがこの曲線による変換特性となる。なお、図１１（ｂ）において、ａは１２ビットの範囲である。
【００８９】
更に、入力１４ビットデータの０〜８１９２に対して、１２ビットに縮小変換後の数値データを持ったルックアップテーブルを設けておくことにより、この曲線による変換特性で、拡張したＧフィルタの画素出力の１４ビットデータを良好に１２ビットに圧縮することができる。
【００９０】
そして、ビット圧縮変換部５１で１４ビットから１２ビットに圧縮変換されたＲ、Ｇ、Ｂフィルタの各画素出力データは、ホワイトバランス制御部５２に入力される。
【００９１】
ホワイトバランス制御部５２は、入力されるＲＧＢフィルタの画素出力値データに対してホワイトバランスを合わせるための補正係数を乗算する。この補正係数は、センサーＩ／Ｆ３４で生成された前記ＡＷＢ評価値に基づいて制御部２８で算出される。なお、この補正係数は、光源色を白くするような係数である。
【００９２】
そして、ホワイトバランス制御部５２からホワイトバランスが合わされたＲＧＢフィルタの画素出力値データ（１２ビット）は、同時化部５３に入力される。同時化部５３は、ベイヤ配列の１画素に１色のデータしか持っていないＲＡＷデータに対して補間演算処理を行い、１画素に対してＲＧＢの全てのデータを生成する。
【００９３】
そして、同時化部５３で生成されたＲＧＢの全てのデータ（１２ビット）は、トーンカーブ変換部５４に入力される。トーンカーブ変換部５４は、図１２に示すような変換テーブルによって１２ビットのＲＧＢのデータを８ビットのＲＧＢのデータに変換するγ変換を行って、８ビットのＲＧＢ値を生成し、ＲＧＢ−ＹＵＶ変換部５５に出力する。
【００９４】
ＲＧＢ−ＹＵＶ変換部５５は、入力されるＲＧＢデータ（８ビット）をマトリックス演算によりＹＵＶデータに変換し、画像サイズコンバータ部５６に出力する。画像サイズコンバータ部５６は、入力されるＹＵＶデータ（８ビット）に対して所望の画像サイズに縮小または拡大を行い、再生輝度ヒストグラム生成部５７およびエッジエンハンス部５８に出力する。
【００９５】
再生輝度ヒストグラム生成部５７は、入力されるＹＵＶデータにより輝度ヒストグラムを生成する。エッジエンハンス部５８は、入力されるＹＵＶデータに対して画像に合わせたエッジ強調等の処理を行い、メモリコントローラ３５を介してＳＤＲＡＭ２３に保存する。
【００９６】
このように、本実施形態では、処理単位内の感度の高いＧフィルタの画素出力が飽和レベルを超えているような場合においても、感度の低いＲ、Ｂフィルタの画素出力に基づいて、飽和しているＧフィルタの画素出力を補正（予測補間）処理することにより、図４に示したように、Ｇフィルタ（図４のｄ、ｅ）の画素出力の補正（予測補間）処理した拡張領域（図４のｄ、ｅのＧフィルタの画素出力の一点鎖線部分）に基づいて、１回の撮影でダイナミックレンジを２倍に拡大することが可能となる。
【００９７】
よって、撮影画像内の背景等に高輝度部分がある場合でも、白とびの発生を防止して良好な階調性を得ることが可能となる。
【００９８】
なお、前記した実施形態１の説明および図４、図８において、所定の飽和レベル判定値である図４の飽和レベルＡと補正後の１２ビットの最大値である４０９５と、または図８の飽和判定レベルＴＲと補正後の１２ビットの最大値である４０９５とがそれぞれ一致しているように説明したが、これに限定するものではない。例えば、出力が完全に飽和する付近の高輝度部において、出力の直線性（リニアリティー）が良くないＲＧＢフィルタを有するＣＣＤでは、例えば完全に飽和する４０９５よりも小さい値である４０３２を所定の飽和レベル値（図４の飽和レベルＡ）とおいて、その値を超えた画素出力を補正処理の対象としてもよい。
【００９９】
また、デジタルカメラのシステム構成によっては、高輝度被写体でも１２ビットの最大値である４０９５にならないものもある。その場合も同様に所定の飽和レベルを４０９５よりも低い値に設定するとよい。
【０１００】
このように、４０９５未満を所定の飽和レベルとしたときでも、その特性に合わせて図１２（ａ）の変換カーブを切り替えることで、ビット圧縮変換部５１の出力を４０９５にすることができ、後段の処理を変えることなくダイナミックレンジの拡大が可能となる。
【０１０１】
本実施形態に係るデジタルカメラ１は、前記したダイナミックレンジ拡大処理動作によって、飽和しているＧフィルタの画素出力を補正（予測補間）処理することで１回の撮影でダイナミックレンジを２倍に拡大することができるが、更に、以下のような処理機能を有している。
【０１０２】
前記したように信号処理部２２のセンサーＩ／Ｆ３４は、取り込まれたＲＡＷ−ＲＧＢデータより各エリアの画素出力の平均値（出力平均値）と、各エリアのＧフィルタの画素出力のヒストグラム（分布）を算出する機能を有している。また、制御部２８は、この出力平均値と画素出力のヒストグラムを必要に応じて読み出すことが可能である。
【０１０３】
図１３（ａ）、（ｂ）は、それぞれ１０２４エリアに等分割（水平３２分割、垂直３２分割）されたエリアの中の、任意の２エリアにおけるＧフィルタの画素出力のヒストグラムの一例を示したものである。図１３（ａ）のヒストグラムでは、エリア内に高輝度被写体が存在し、飽和している部分（最大輝度部分（２５５））が存在することが分かる。一方、図１３（ｂ）の画素出力のヒストグラムでは、はエリア内に飽和してしまうほどの高輝度被写体はほとんどないことが分かる。なお、図１３（ａ）、（ｂ）の画素出力のヒストグラムは、センサーＩ／Ｆ３４で算出されたものである。
【０１０４】
図１３（ａ）に示した画素出力のヒストグラムのように最大輝度部分（２５５）付近に高輝度被写体が存在する場合、このエリアにおいては、前記式（１）〜式（５）によって、Ｇフィルタの画素出力が図４のｄ，ｅのように飽和レベル以上に拡大されることで、ダイナミックレンジ拡大効果を得ることができる。
【０１０５】
一方、図１３（ｂ）の画素出力のヒストグラムに示すように最大輝度部分（２５５）付近に高輝度被写体が存在せず、規定の飽和レベルになる画素が存在しない場合、このエリアにおいては、前記式（１）〜式（５）によるダイナミックレンジ拡大効果は得られない。そして、この場合に、前記したようにＧフィルタの画素出力に対して、図１１（ａ）に示したようなビット圧縮を行うと、例えば４０９５付近の入力データは３０００以下に減少してしまい、逆にダイナミックレンジを縮小させてしまうことになる。
【０１０６】
そこで、本実施形態では、複数のビット圧縮変換テーブルを予めＲＯＭ２４に保存しておく。そして、制御部２８は、センサーＩ／Ｆ３４から読み出した各エリアにおけるＧフィルタの画素出力のヒストグラム（分布）に応じてＲＯＭ２４から適切なビット圧縮変換テーブルを選択して読み出し、読み出したビット圧縮変換テーブルに基づいて、前記したようにＧフィルタの画素出力データに対してビット圧縮を行うような制御を実行させる。
【０１０７】
なお、制御部２８は、センサーＩ／Ｆ３４から前記画素出力のヒストグラムの代わりに画素出力の平均値（出力平均値）を読み出すような構成でもよい。この場合においても同様に、読み出した各エリアにおける画素出力の平均値（出力平均値）に応じてＲＯＭ２４から適切なビット圧縮変換テーブルを選択して読み出し、読み出したビット圧縮変換テーブルに基づいて、前記したようにＧフィルタの画素出力データに対してビット圧縮を行うような制御を実行させる。
【０１０８】
読み出したビット圧縮変換テーブルは、ビット圧縮変換部５１に設定される。本実施形態では、ビット圧縮変換部５１は、エリア分割の３２×３２ブロックに対応してそれぞれビット圧縮変換テーブルの設定が可能であり、制御部２８は前記したＹＵＶ変換処理を開始する前に、予め各分割エリアで用いるビット圧縮変換テーブルを選択して設定しておくことができる。
【０１０９】
ＲＯＭ２４には、例えば、前記図１１（ａ）、（ｂ）にそれぞれ示したビット圧縮変換テーブルや、図１４（ａ）、（ｂ）にそれぞれ示したビット圧縮変換テーブルなどが保存されている。なお、図１４（ａ）、（ｂ）において、ａは１２ビットの範囲である。
【０１１０】
本実施形態では、例えば、前記のように４０９５以下の４０００を規定の飽和レベルとした場合において、４０００以上が多く存在し、かつ４０５０以上も存在する場合は、図１１（ａ）に示したビット圧縮変換テーブルを選択する。また、４０００以上が存在するが、４０５０以上はない場合は、図１４（ｂ）に示したビット圧縮変換テーブルを選択し、規定の飽和レベル以上の画素出力が存在しない場合は、図１４（ａ）に示したビット圧縮変換テーブルを選択する。なお、図１４（ａ）と図１４（ｂ）の各ビット圧縮変換テーブルの違いは、入力の数値がどの数値以上になったら白飛びさせてしまうかの違いであり、図１４（ａ）のビット圧縮変換テーブルの方が白飛びさせてしまう領域が増える可能性が高い。
【０１１１】
このように、センサーＩ／Ｆ３４から読み出した各エリアにおけるＧフィルタの画素出力のヒストグラムの分布に応じてＲＯＭ２４から適切なビット圧縮変換テーブルを選択することにより、特定エリアに高輝度被写体が存在せず、規定の飽和レベルに達するような画素が存在しないような場合に、このエリアにおけるＧフィルタの画素出力に対する補正量を小さくすることができる。よって、前記したようにＧフィルタの画素出力を飽和レベルＡ以上に拡大するように補正した場合に、高輝度被写体が存在せず、規定の飽和レベルに達するような画素が存在しないエリアに対しては、逆にダイナミックレンジを縮小してしまうようなことを防止することができる。
【０１１２】
なお、前記実施形態では、ビット圧縮変換テーブルとして、図１１（ａ）、（ｂ）や図１４（ａ）、（ｂ）の４種類のビット圧縮変換テーブルを示したが、この４種類のビット圧縮変換テーブルに限定されるものではない。例えば、各エリアの輝度分布の特性に合わせてビット圧縮テーブルを変更することで、エリアごとに異なる特性のビット圧縮テーブルを使用することも可能である。なお、この場合には、隣接するエリアにおいて極端に特性の異なるビット圧縮変換テーブルを設定すると、高輝度部分において、入力が同一輝度なのに出力した画像に輝度差が生じて、色合いが変化してしまう可能性がある。そこで、設定できるビット圧縮変換テーブルの特性範囲幅を予め設定しておく。
【０１１３】
例えば、図１５に示すような特性範囲（実線ａで示した特性と破線ｂで示した特性とで形成される領域）を有するビット圧縮変換テーブルを設定する。図１５において、実線ａが、ＲＧＢフィルタを有するＣＣＤ２０の出力特性より算出された基準となるビット圧縮変換テーブルである。これに対して破線ｂが、輝度分布や平均輝度に応じてダイナミックレンジ拡大効果を縮小させる方向に設定可能な範囲である。なお、図１５において、ｃは１２ビットの範囲である。
【０１１４】
よって、図１５に示すような特性範囲を有するビット圧縮変換テーブルを用いることにより、隣接するエリアにおいて、輝度分布や平均輝度に応じてダイナミックレンジ拡大の効果を縮小させるような場合でも、補正量を基準となるビット圧縮変換テーブルに対して所定の範囲内とすることができるので、画像に輝度差が生じることが抑えられ、色合いが変化することを防止することができる。
【０１１５】
〈実施形態２〉
前記実施形態１では、図１１（ａ）、（ｂ）、図１４（ａ）、（ｂ）の４種類のビット圧縮変換テーブルを示したが、低輝度側の輝度分布に注目し、黒潰れ付近に画素データが多く存在するような場合には、例えば、図１６に示すようなビット圧縮変換テーブルを用いることで、部分的にトーンカーブの補正を行うことも可能である。なお、図１６において、ａは１２ビットの範囲である。このビット圧縮変換テーブルは、図１１（ｂ）に示したビット圧縮変換テーブルと比較すると、低輝度側で出力値が大きくなっていることが分かる。
【０１１６】
〈実施形態３〉
例えば、画面上部でエリア内の平均輝度が高く、かつＧフィルタの画素出力のヒストグラムが高輝度側に偏っていた場合、そのエリアは晴天時の空の可能性がある。このような明るい空を有する風景を撮影する場合に、前記したダイナミックレンジ拡大処理を行って、図１１(ａ)のビット圧縮変換テーブルを用いてビット圧縮を行うと、以下のような理由で明るい空の部分が逆に薄暗くなってしまう可能性ある。
【０１１７】
即ち、前記したダイナミックレンジ拡大処理を行わない通常の撮影モードの場合では、画素出力は１２ビット（０〜４０９５）の範囲（図１１（ａ）の範囲ａ）であり、４０９５以上は画素出力が飽和レベル以上となって白飛びとなる領域である。そして、本発明の実施形態１で述べたようなダイナミックレンジ拡大処理を行うことにより、このような白飛び領域に対しても良好な階調が得られるようにした。前記実施形態１では、図１１（ａ）のように画素出力が４０９５以上に達している場合に、補正（予測補間）処理によって８１９０の範囲に算出できた部分を、再度ビット圧縮によって４０９５の範囲内にデータを割り振るようしている。この場合、高輝度側の方ほどよりビット圧縮を行うようにしている。
【０１１８】
そのため、図１１（ａ）に示したようなビット圧縮変換テーブルにおいて、例えば、入力が３０００以上の高輝度部が“晴天時の明るい空”だったとすると、出力はいずれも元の数値よりも小さい値になってしまう。よって、図１１(ａ)のビット圧縮変換テーブルを用いてビット圧縮を行った場合に、晴天時の明るい空の部分が逆に薄暗くなってしまう。
【０１１９】
そこで、本実施形態では、エリア内の平均輝度が高く、かつＧフィルタの画素出力のヒストグラムが高輝度側に偏っているような場合には、前記したダイナミックレンジ拡大処理を行って、図１１（ａ）に示したビット圧縮変換テーブルの代わりに、図１４（ａ）や図１４（ｂ）に示したビット圧縮変換テーブルを用いてビット圧縮を行うことにより、晴天時の明るい空の部分が逆に薄暗くなってしまうような不具合を防止して、より自然なダイナミックレンジ拡大効果を得ることができる。
【０１２０】
〈実施形態４〉
実施形態１では、Ｇフィルタの画素出力およびＲ、Ｂフィルタの画素出力のいずれかが飽和レベル以上に達している場合に、Ｇフィルタの画素出力の補正（予測補間）を行う例であったが、本実施形態では、Ｇフィルタの画素出力が飽和しているときのみ、Ｄレンジ拡大予測補間部５０（図６参照）によるＧフィルタの画素出力の補正（予測補間）処理を実施するものとする。
【０１２１】
本実施形態においては、Ｄレンジ拡大予測補間部５０の画素出力補正処理部６１では、下記の数２（式（６））のように、Ｇフィルタの画素出力が規定の飽和レベルを超えているときのみ補正処理を実施する。
【０１２２】
【数２】
2010161557.tif 000004
【０１２３】
ただし、Ｇｅは補正後のＧフィルタの画素出力、Ｇｏは補正処理前のＧフィルタの画素出力、Ｋは補正係数、ＴＧはＧフィルタの画素出力の飽和判定レベルである。
【０１２４】
このように、式（６）による補正処理を行うことにより、例えば被写体の色合いによってＲ、Ｂフィルタの画素出力だけが大きく、ＲＧＢフィルタの各画素出力の比率が図８に示したような比率から極端にずれている場合においても、Ｇフィルタの画素出力値がずれてしまうことを防止することができる。
【０１２５】
〈実施形態５〉
前記実施形態１では図３に示したように、ＲＧＢフィルタを有するＣＣＤ２０に対して、２×２画素を処理単位（最小単位）としていたが、本実施形態では、図１７に示すように、太枠Ａ内の５画素（１つのＧフィルタの画素、２つずつのＲ（Ｒ１、Ｒ２）、Ｂ（Ｂ１、Ｂ２）フィルタの画素）を処理単位（最小単位）とし、処理単位を前記実施形態１の場合よりも広い範囲とした例である。なお、デジタルカメラの構成、モニタリング動作、静止画撮影動作、およびダイナミックレンジの拡大処理動作は、前記実施形態１と同様である。
【０１２６】
図１７に示した太枠Ａの処理単位内にあるＧフィルタの画素出力が飽和レベル以上に達している場合、Ｇフィルタの感度は、前記したようにＲ、Ｂフィルタの感度の約２倍であるため、Ｇフィルタの画素出力の補正係数（Ｋ）、補正後のＧフィルタの画素出力（Ｇｅ）は、下記の式（７）、式（８）から算出される。本実施形態では、
【０１２７】
Ｋ＝｛ｌ×ｆ（Ｒａ）＋ｍ×ｆ（Ｇａ）＋ｎ×ｆ（Ｂａ）｝／３      …式（７）
Ｇｅ＝Ｋ×Ｇａ      …式（８）
ただし、ｌ、ｍ、ｎはＲＧＢの各フィルタの感度比率から設定される係数、Ｇａは補正前のＧフィルタの画素出力である。また、ｆ（Ｒａ）、ｆ（Ｇａ）、ｆ（Ｂａ）は、下記の数３（式（９）〜式（１１））で設定される係数である。
【０１２８】
【数３】
2010161557.tif 000005
【０１２９】
ただし、Ｒａは前記処理単位（図１７参照）内でのＲフィルタの画素出力の平均値、ＴＲはＲフィルタの画素出力の飽和判定レベル、Ｇａは前記処理単位（図１７参照）内でのＧフィルタの画素出力、ＴＧはＧフィルタの画素出力の飽和判定レベル、Ｂａは前記処理単位（図１７参照）内でのＢフィルタの画素出力の平均値、ＴＢはＢフィルタの画素出力の飽和判定レベルである。
【０１３０】
なお、前記ＴＲ、ＴＧ、ＴＢは、前記式（３）〜式（５）と同様である。また、前記係数ｌ、ｍ、ｎは、Ｒ、Ｇ、Ｂフィルタの各画素出力の感度比が実施形態１と同様であれば、係数ｌ、ｎがそれぞれ３／２、ｍが０となる。
【０１３１】
そして、図６に示したＤレンジ拡大予測補間部５０の画素出力補正処理部６１は、前記式（８）より算出されたＧフィルタの画素出力値を、前記処理単位（図１７参照）内にあるＧフィルタの画素出力値として置き換え、以下、前記実施形態１と同様の処理を行う。
【０１３２】
このように、処理単位を広くすることで、処理単位内の他のＲ１，Ｒ２フィルタの画素、Ｂ１，Ｂ２フィルタの画素が持っている感度差による影響を緩和することができ、Ｇフィルタの画素出力に対して、より正確なダイナミックレンジ拡大予測補間が可能となる。
【０１３３】
〈実施形態６〉
本実施形態では、図１８に示すように、ＲＧＢフィルタを有するＣＣＤ２０に対して、前記実施形態５の場合よりも更に処理単位（太枠Ａ）を広くした例である。なお、デジタルカメラの構成、モニタリング動作、静止画撮影動作、およびダイナミックレンジの拡大処理動作は、前記実施形態１と同様である。ただし、Ｇフィルタの画素出力に対する予測補間の算出式は、前記実施形態５と同様に式（７）〜式（１１）を用いる。
【０１３４】
処理単位を広くすると、広い範囲の輝度情報に基づいて処理することになるため、ローパスフィルタをかけたことと等価になってしまう。そのため、輝度変化のエッジ部分がなまってしまう。そこで、本実施形態では、広くした処理単位の大きさを、例えば、前記ＡＦ評価値を利用して部分的に変更するものとする。
【０１３５】
即ち、図２に示した信号処理部２２のセンサーＩ／Ｆ３４では、前記したようにＡＦを行うためのＡＦ評価値を算出している。これは、ハイパスフィルタ（ＨＰＦ）の出力であり、撮影画像の画面内に輝度の変化がある部分では大きな値が出力される。そして、制御部２８は、静止画撮影時のＡＦ評価値を読み出し、画面内の輝度変化がある部分とない部分を判別する。
【０１３６】
そして、制御部２８は、この判別データを基にＤレンジ拡大予測補間部５０に対して、輝度変化がある部分には処理単位が狭くなるような設定を行い、輝度変化がない部分には、図１８に示したように処理単位が広い範囲になるように設定を行う。
【０１３７】
このように、処理単位を更に広くした場合でも、輝度変化がある部分には処理単位が狭くなるような設定を行うことで、解像度を落とすことなく、正確なダイナミックレンジ拡大予測補間が可能となる。
【０１３８】
なお、前記した各実施形態では、色分解フィルタとしてＲＧＢの３原色系フィルタを配置した構成であったが、色分解フィルタとして補色系フィルタを配置した構成においても、同様に本発明を適用することができる。
【０１３９】
また、前記した各実施形態では、撮影レンズ系とＣＣＤ等の固体撮像素子を有するデジタルカメラなどの撮像装置についての説明であったが、画像処理装置においも同様に本発明を適用することが可能である。例えば、単板式カラー撮像素子からのアナログ出力をデジタル信号に変換して保存したＲＡＷデータを入力して、ＲＧＢデータやＹＣｂＣｒデータを出力するような画像処理装置においても、同様に本発明を適用することが可能である。
【符号の説明】
【０１４０】
１        デジタルカメラ（撮像装置）
５        撮影レンズ系（光学系）
６        鏡胴ユニット
９        液晶モニタ
１２      メニューボタン
２０      ＣＣＤ（撮像素子）
２１      アナログフロントエンド部
２２      信号処理部
２３      ＳＤＲＡＭ
２８      制御部
３４      センサーＩ／Ｆ（画素出力分布算出手段、平均画素出力値算出手段）
３５      メモリコントローラ
３６      ＹＵＶ変換部
５０      Ｄレンジ拡大予測補間部
５１      ビット圧縮変換部（ビット圧縮変換手段）
６０      補正係数算出部（画素出力検出手段）
６１      画素出力補正処理部（画素出力補正処理手段）
６２      ビット拡張処理部
【図１】
2010161557.tif 000006
【図２】
2010161557.tif 000007
【図３】
2010161557.tif 000008
【図４】
2010161557.tif 000009
【図５】
2010161557.tif 000010
【図６】
2010161557.tif 000011
【図７】
2010161557.tif 000012
【図８】
2010161557.tif 000013
【図９】
2010161557.tif 000014
【図１０】
2010161557.tif 000015
【図１１】
2010161557.tif 000016
【図１２】
2010161557.tif 000017
【図１３】
2010161557.tif 000018
【図１４】
2010161557.tif 000019
【図１５】
2010161557.tif 000020
【図１６】
2010161557.tif 000021
【図１７】
2010161557.tif 000022
【図１８】
2010161557.tif 000023