(57)【特許請求の範囲】
【請求項１】
調節可能な分光感度を有し且つ撮像マスクに従って調節可能である画像センサの色感度の空間不均一性を補償する前記画像センサを含む撮像デバイスの補償方法であって、
デフォルト撮像マスクを前記画像センサに適用するステップと、
前記デフォルト撮像マスクにより調節された前記画像センサを使用してサンプル画像を撮像するステップと、
前記画像センサの色感度の空間不均一性を識別するために前記サンプル画像の色を解析するステップと、
前記画像センサに適用するために、前記画像センサの色感度の空間不均一性を補償するように前記識別された空間不均一性に基づく計算を使用して構成される補償撮像マスクを構成するステップと、
前記補償撮像マスクを前記画像センサに適用するために前記補償撮像マスクを前記撮像デバイスのメモリに格納するステップと
を有することを特徴とする補償方法。
【請求項２】
前記補償撮像マスクを前記画像センサに適用するステップと、
前記補償撮像マスクにより調節された前記画像センサを使用してシーンの画像を撮像及び格納するステップと
を更に備えることを特徴とする請求項１に記載の補償方法。
【請求項３】
前記サンプル画像の色を解析するステップでは、色感度の空間不均一性を、各画素の値を他の画素の値の組合せと比較することにより識別することを特徴とする請求項１に記載の補償方法。
【請求項４】
前記サンプル画像の色を解析するステップでは、前記画像センサの各チャネルは平均化され、色感度の空間不均一性は各チャネルの前記平均からの偏差で識別されることを特徴とする請求項３に記載の補償方法。
【請求項５】
前記補償撮像マスクを構成するステップでは、各チャネルからの信号は、各チャネル毎の前記平均値に正規化されることを特徴とする請求項４に記載の補償方法。
【請求項６】
前記撮像されたサンプル画像は、前記画像センサの視野に広がる完全拡散照明を含むシーンの画像であることを特徴とする請求項１に記載の補償方法。
【請求項７】
前記完全拡散照明は、拡散照明により照明された均一なグレーカードを備えることを特徴とする請求項６に記載の補償方法。
【請求項８】
前記完全拡散照明は積分球を備えることを特徴とする請求項６に記載の補償方法。
【請求項９】
前記撮像デバイスにおいて、前記画像センサはカラーフィルタアレイの前段に配置されないことを特徴とする請求項１記載の補償方法。
【請求項１０】
前記撮像デバイスにおいて、前記画像センサは結像光学系の前段に配置され、前記補償方法は、前記結像光学系が発生させる色感度の空間不均一性を更に補償することを特徴とする請求項１に記載の補償方法。
【請求項１１】
前記結像光学系は他の結像光学系と交換可能であり、別個の補償撮像マスクはそのような結合光学系の各々に提供されることを特徴とする請求項１０に記載の補償方法。
【請求項１２】
別個の補償撮像マスクは、前記シーンの照明の空間不均一性を補償するために提供されることを特徴とする請求項１に記載の補償方法。
【請求項１３】
調節可能な分光感度を有し且つ撮像マスクに従って調節可能である画像センサを含む撮像デバイスであって、
コンピュータが実行可能な処理ステップを格納するように構成されたコンピュータ可読メモリと、
前記メモリに格納された前記コンピュータが実行可能な処理ステップを実行するように構成されたプロセッサとを備え、
前記メモリに格納された前記処理ステップにより前記プロセッサが、
デフォルト撮像マスクを前記画像センサに適用し、
前記デフォルト撮像マスクにより調節された前記画像センサを使用してサンプル画像を撮像し、
前記画像センサの色感度の空間不均一性を識別するために前記サンプル画像の色を解析し、
前記画像センサに適用するために、前記画像センサの色感度の空間不均一性を補償するように前記識別された空間不均一性に基づく計算を使用して構成される補償撮像マスクを構成し、
前記補償撮像マスクを前記画像センサに適用するために前記補償撮像マスクを前記撮像デバイスのメモリに格納する
ことを特徴とする撮像デバイス。
【請求項１４】
調節可能な分光感度を有し且つ撮像マスクに従って調節可能である画像センサの色感度の空間不均一性を補償する前記画像センサを含む撮像デバイスの補償方法をコンピュータに実行させるコンピュータが実行可能な処理ステップを格納する取り外し可能なコンピュータ可読記憶媒体であって、前記方法が、
デフォルト撮像マスクを前記画像センサに適用するステップと、
前記デフォルト撮像マスクにより調節された前記画像センサを使用してサンプル画像を撮像するステップと、
前記画像センサの色感度の空間不均一性を識別するために前記サンプル画像の色を解析するステップと、
前記画像センサに適用するために、前記画像センサの色感度の空間不均一性を補償するように前記識別された空間不均一性に基づく計算を使用して構成される補償撮像マスクを構成するステップと、
前記補償撮像マスクを前記画像センサに適用するために前記補償撮像マスクを前記撮像デバイスのメモリに格納するステップと、
を備えることを特徴とするコンピュータ可読記憶媒体。
【請求項１５】
調節可能な分光感度を有し且つ撮像マスクに従って調節可能である画像センサを含む撮像デバイスの補償方法であって、
前記画像センサの色感度の空間不均一性を補償するように構成される補償撮像マスクをメモリから検索するステップと、
前記補償撮像マスクを前記画像センサに適用するステップと、
前記補償撮像マスクにより調節された前記画像センサを使用してシーンの画像を撮像及び格納するステップと、
を備えることを特徴とする補償方法。
【請求項１６】
調節可能な分光感度を有し且つ撮像マスクに従って調節可能である画像センサの色感度の空間不均一性を補償する前記画像センサを含む撮像デバイスの補償方法であって、
デフォルト撮像マスクを前記画像センサに適用するステップと、
前記デフォルト撮像マスクにより調節された前記画像センサを使用してサンプル画像を撮像するステップと、
チャネル毎の色値がアレイ全体にわたり均一である空間アレイを備える均一色画像を取得するステップと、
前記画像センサに適用するために、前記デフォルト撮像マスクと共に撮像された時の各チャネルの前記色値及び前記均一色画像の前記色値に基づく計算を使用して構成される補償撮像マスクを構成するステップと、
前記補償撮像マスクを前記画像センサに適用するために前記補償撮像マスクを前記撮像デバイスのメモリに格納するステップと、
を備えることを特徴とする補償方法。
【請求項１７】
前記補償撮像マスクは、現在の画素のチャネルの値と別の画素のチャネルの値とを組み合わせること及びシフトされた波長を有する前記現在の画素に対して出力チャネルを生成するように前記組み合わされた画素信号間の相対的な大きさを変更することに基づいて前記現在の画素に対して構成されることを特徴とする請求項１６に記載の方法。
【請求項１８】
前記補償撮像マスクは、画素に対する色値間を遷移する補償値が画素毎に電圧値にマッピングされる、事前に算出されたルックアップテーブル（ＬＵＴ）に基づいて構成されることを特徴とする請求項１６に記載の方法。
【請求項１９】
調節可能な分光感度を有し且つ撮像マスクに従って調節可能である画像センサを含む撮像デバイスであって、
コンピュータが実行可能な処理ステップを格納するように構成されたコンピュータ可読メモリと、
前記メモリに格納された前記コンピュータが実行可能な処理ステップを実行するように構成されたプロセッサとを備え、
前記メモリに格納された前記処理ステップにより前記プロセッサが、
デフォルト撮像マスクを前記画像センサに適用し、
前記デフォルト撮像マスクにより調節された前記画像センサを使用してサンプル画像を撮像し、
チャネル毎の色値がアレイ全体にわたり均一である空間アレイを備える均一色画像を取得し、
前記画像センサに適用するために、前記デフォルト撮像マスクと共に撮像された時の各チャネルの前記色値及び前記均一色画像の前記色値に基づく計算を使用して構成される補償撮像マスクを構成し、
前記補償撮像マスクを前記画像センサに適用するために前記補償撮像マスクを前記撮像デバイスのメモリに格納する
ことを特徴とする撮像デバイス。
【請求項２０】
前記補償撮像マスクは、現在の画素のチャネルの値と別の画素のチャネルの値とを組み合わせること及びシフトされた波長を有する前記現在の画素に対して出力チャネルを生成するように前記組み合わされた画素信号間の相対的な大きさを変更することに基づいて前記現在の画素に対して構成されることを特徴とする請求項１９に記載のデバイス。
【請求項２１】
前記補償撮像マスクは、画素に対する色値間を遷移する補償値が画素毎に電圧値にマッピングされる、事前に算出されたルックアップテーブル（ＬＵＴ）に基づいて構成されることを特徴とする請求項１９に記載のデバイス。
【請求項２２】
調節可能な分光感度を有し且つ撮像マスクに従って調節可能である画像センサの色感度の空間不均一性を補償する前記画像センサを含む撮像デバイスの補償方法をコンピュータに実行させるコンピュータが実行可能な処理ステップを格納する取り外し可能な非一時的なコンピュータ可読記憶媒体であって、前記方法が、
デフォルト撮像マスクを前記画像センサに適用するステップと、
前記デフォルト撮像マスクにより調節された前記画像センサを使用してサンプル画像を撮像するステップと、
チャネル毎の色値がアレイ全体にわたり均一である空間アレイを備える均一色画像を取得するステップと、
前記画像センサに適用するために、前記デフォルト撮像マスクと共に撮像された時の各チャネルの前記色値及び前記均一色画像の前記色値に基づく計算を使用して構成される補償撮像マスクを構成するステップと、
前記補償撮像マスクを前記画像センサに適用するために前記補償撮像マスクを前記撮像デバイスのメモリに格納するステップと、
を備えることを特徴とするコンピュータ可読記憶媒体。
【請求項２３】
前記補償撮像マスクは、現在の画素のチャネルの値と別の画素のチャネルの値とを組み合わせること及びシフトされた波長を有する前記現在の画素に対して出力チャネルを生成するように前記組み合わされた画素信号間の相対的な大きさを変更することに基づいて前記現在の画素に対して構成されることを特徴とする請求項２２に記載のコンピュータ可読記憶媒体。
【請求項２４】
前記補償撮像マスクは、画素に対する色値間を遷移する補償値が画素毎に電圧値にマッピングされる、事前に算出されたルックアップテーブル（ＬＵＴ）に基づいて構成されることを特徴とする請求項２２に記載のコンピュータ可読記憶媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
この出願は、２０１１年２月１６日出願の米国特許出願第１３／０２９０７６号の一部継続出願であって、その出願の利益を請求するものであり、その内容がここに全て言及されているものとして、ここに組み入れられるものである。
【０００２】
本発明は、画像センサにおける不均一性の補償に関する。
【背景技術】
【０００３】
画像センサの分野において、センサの部分に不規則性を生じさせる可能性のある製造公差、不純物及び環境条件等の要因のため、画像センサは、均一な刺激を受けた場合であっても均一な出力信号を生成できない。
【０００４】
不均一性を補償するために、画像センサは手動で校正されることもある。このような校正処理において、バイアス及び変倍係数等の補正パラメータが導出される。撮像中に使用する場合、補正パラメータは、不均一性が減少した補正済み出力信号を取得するように画像センサからのｒａｗ出力に適用される。
【発明の概要】
【発明が解決しようとする課題】
【０００５】
上述の方法に関する１つの問題は、そのような手動の校正が画像データの撮像後に実行されなければならないことである。従って、ｒａｗセンサ出力は、既に不正確に不均一であり、欠陥及び誤差を含む。そのため、画像センサ及び／又は画像自体の処理のいずれの更なる調整も、そのような欠陥及び誤差を既に含むｒａｗ画像信号から開始されなければならない。
【０００６】
本明細書の開示内容は、上述のことに対処し、撮像前に調節可能な画像センサに対して補償撮像マスクを生成し且つ撮像時にマスクを適用することにより画像センサの色感度の空間不均一性を補償する。
【課題を解決するための手段】
【０００７】
従って、本明細書において説明する例示的な一実施形態において、補償は、調節可能な分光感度を有し且つ撮像マスクに従って調節可能である画像センサを含む撮像デバイスに対して実行される。補償は、画像センサの色感度の空間不均一性に対するものである。デフォルト撮像マスクは画像センサに適用され、サンプル画像はデフォルト撮像マスクにより調節された画像センサを使用して撮像される。サンプル画像の色が解析され、画像センサの色感度の空間不均一制を識別する。補償撮像マスクは、画像センサに適用するために構成される。補償撮像マスクは、画像センサの色感度の空間不均一性を補償するように識別された空間不均一性に基づく計算を使用して構成される。補償撮像マスクは、補償撮像マスクを画像センサに適用するために撮像デバイスのメモリに格納される。
【０００８】
マスクがｒａｗ画像信号を撮像しつつ不均一性に対処するため、撮像前に調節可能な画像センサに対して補償撮像マスクを生成し且つ撮像時にマスクを適用して画像センサの色感度の空間不均一性を補償することにより、改善された補償を提供することが一般に可能である。従って、画像センサ及び／又は画像の処理のいずれかの更なる調整も、減少した欠陥及び誤差を含むｒａｗ画像信号から開始される。
【０００９】
この簡単な概要は、本発明の特性を迅速に理解できるように提供された。以下の詳細な説明及び添付の図面を参照することにより、より完全に理解できる。
【図面の簡単な説明】
【００１０】
【図１Ａ】、
【図１Ｂ】図１Ａ及び図１Ｂは、例示的な一実施形態に係る撮像デバイスの外観を示す図である。
【図２Ａ】、
【図２Ｂ】、
【図２Ｃ】図２Ａ、図２Ｂ及び図２Ｃは、例示的な実施形態に係る図１に示された撮像デバイスの内部構造を説明する詳細なブロック図である。
【図３Ａ】、
【図３Ｂ】図３Ａ及び図３Ｂは、例示的な実施形態に係る画像処理モジュールを説明する図である。
【図４Ａ】、
【図４Ｂ】図４Ａ及び図４Ｂは、例示的な実施形態に係る図１に示された撮像デバイスの処理を説明するフローチャートである。
【図５】図５は、例示的な一実施形態に係る調節可能なセンサの補償を説明する図である。
【図６】図６は、一実施形態に係るＲＧＢ感度を説明する図である。
【図７】図７は、例示的な一実施形態に係る組合せ画素の感度を説明する図である。
【図８】図８は、例示的な一実施形態に係る元の分光感度曲線及び補償済み分光感度曲線を説明する図である。
【発明を実施するための形態】
【００１１】
以下の例示的な実施形態において、デジタルスチールカメラ又はデジタルビデオカメラであるデジタルカメラについて説明する。しかし、以下の説明は、画像感知機能を有するデータ処理装置（例えば、パーソナルコンピュータ）又は画像感知機能を有するポータブル端末（例えば、移動電話）等の撮像パラメータに従って調節可能である分光感度を有する結像アセンブリを内蔵又は利用できる任意の構成を含むことが理解される。
【００１２】
図１Ａ及び図１Ｂは、例示的な一実施形態に係る撮像デバイス１００の外観の一例を示す図である。尚、これらの図において、いくつかの構成要素は簡潔にするために省略される。ユーザは、デジタルカメラ１００の電源をＯＮ／ＯＦＦし、撮影パラメータを設定、変更又は確認し、カメラの状態を確認し且つ撮影画像を確認するためにボタン及びスイッチ３０１〜３１１を操作する。
【００１３】
光学ファインダ１０４はビューファインダであり、ユーザはそれを介して撮像されるシーンを閲覧できる。本実施形態において、光学ファインダ１０４は画像表示ユニット２８とは別個であるが、いくつかの実施形態において、画像表示ユニット２８はビューファインダとして更に機能してもよい。
【００１４】
フラッシュ（フラッシュ発光デバイス）４８は、必要に応じて補助光を発光して撮像されるシーンを照明するためのものである。
【００１５】
カメラの内側に隠蔽された画像センサ１４は、光学画像を電気信号に変換する画像センサである。本実施形態において、画像センサ１４は、撮像パラメータに従って調節可能である分光感度を含むマルチスペクトル画像センサである。図２Ａに関連して画像センサ１４を以下に更に詳細に説明する。
【００１６】
電源ボタン３１１は、デジタルカメラ１００を開始又は停止するか、あるいはデジタルカメラ１００の主電源をＯＮ／ＯＦＦするために提供される。メニューボタン３０２は、デジタルカメラ１００の撮影パラメータ及び動作モード等の設定を表示し、且つデジタルカメラ１００の状態を表示するために提供される。メニューは、選択可能な項目又は値が可変である項目を含む。
【００１７】
削除ボタン３０１は、再生モード又は撮影画像確認画面上に表示された画像を削除するために押下される。本発明の実施形態において、撮影画像確認画面（いわゆるクイックレビュー画面）は、撮影結果を確認するために撮影直後に画像表示ユニット２８上に撮影画像を表示するために提供される。更に本発明の実施形態は、ユーザがシャッターボタン３１０を押下することにより撮影を指示した後にシャッターボタンを押下し続ける限り、撮影画像確認画面が表示されるように構成される。
【００１８】
入力ボタン３０３は、モード又は項目を選択するために押下される。入力ボタン３０３が押下されると、システムコントローラ５０（図２Ａに示される）は、この時に選択されたモード又は項目を設定する。表示ＯＮ／ＯＦＦボタン６６は、撮影画像に関する写真情報の表示又は非表示を選択し、且つ画像表示ユニット２８が電子ビューファインダとして機能するように切り替えるために使用される。
【００１９】
左ボタン３５５、右ボタン３５６、上ボタン３５７及び下ボタン３５８は、複数のオプションから選択されたオプション（例えば、項目、画像）の変更、選択されたオプションを特定するインデックス位置の変更、並びに数値（例えば、補正値、日時）の増減等のために使用されてもよい。
【００２０】
シャッターボタン３１０を半押しすることにより、例えばＡＦ処理、ＡＥ処理、ＡＷＢ処理又はＥＦ処理等を開始するようにシステムコントローラ５０に指示する。シャッターボタン３１０を全押しすることにより、撮影を実行するようにシステムコントローラ５０に指示する。
【００２１】
ズーム操作ユニット６５は、画角（ズーム倍率又は撮影倍率）を変更するためにユーザにより操作される。
【００２２】
録画／再生選択スイッチ３１２は、録画モードを再生モードに切り替えるか、あるいは再生モードを録画モードに切り替えるために使用される。尚、上述の操作システムの代わりに、ダイヤルスイッチ又は他の操作システムが採用されてもよい。
【００２３】
図２Ａは、本実施形態に係る撮像デバイスとしてデジタルカメラ１００の構成の一例を示すブロック図である。図２Ａを参照すると、図中符号１０は結像レンズを示し、図中符号１２は絞り機能を有するシャッターを示し、図中符号１４は、撮像パラメータに従って調節可能である分光感度を有し且つ光学画像を電気信号に変換する画像センサである。図中符号１６は、アナログ信号をデジタル信号に変換するＡ／Ｄ変換器を示す。Ａ／Ｄ変換器１６は、画像センサ１４からのアナログ信号出力がデジタル信号に変換される場合及びオーディオコントローラ１１からのアナログ信号出力がデジタル信号に変換される場合に使用される。図中符号１０２は、デジタルカメラ１００のレンズ１０を含む画像センサを覆い、レンズ１０、シャッター１２及び画像センサ１４を含む撮像システムが汚れたり損傷したりするのを防止するシールド又はバリアを示す。
【００２４】
図２Ａにおいて、結像アセンブリは、いくつかの実施形態において画像センサ１４及びレンズ１０から構成されるように、画像センサ１４及び関連付けられた光学系から構成される。
【００２５】
光学系１０は、光学ズーム機能を提供するズームレンズであってもよい。光学ズーム機能は、光学系１０の駆動機構を使用して光学系１０の倍率可変レンズを駆動するか、あるいはデジタルカメラ１００のメインユニット上に提供された機能を駆動することにより実現される。
【００２６】
光学系（画像感知レンズ）１０を貫通するシーンの物体からの光ビーム（レンズの画角に当たっている光ビーム）は、絞り機能を有するシャッター１２の開口部を通過し、画像センサ１４の画像感知表面上に物体の光学画像を形成する。画像センサ１４は、光学画像をアナログ画像信号に変換し、信号をＡ／Ｄ変換器１６に出力する。Ａ／Ｄ変換器１６は、アナログ画像信号をデジタル画像信号（画像データ）に変換する。画像センサ１４及びＡ／Ｄ変換器１６は、タイミング発生器１８により提供されたクロック信号及び制御信号により制御される。タイミング発生器１８は、メモリコントローラ２２及びシステムコントローラ５０により制御される。
【００２７】
画像センサ１４は、撮像パラメータ１７に従って調節可能である分光感度（spectral response）を有する画像センサである。一例において、画像センサ１４は、赤色系チャネル、黄緑色系チャネル、緑色系チャネル、青緑色系チャネル及び青色系チャネルを含む画素毎の色情報の５つ以上のチャネルを出力する。画像センサ１４の分光感度の厳密な特性は、撮像パラメータ１７を介して制御される。本実施形態において、撮像パラメータ１７は、画像センサ１４により出力された情報の各チャネル毎に１つのマスクを含む複数の空間マスクから構成されてもよい。従って、画像センサ１４が５つ以上のチャネルを出力するこの例において、撮像パラメータ１７は、情報の赤色系チャネル用の空間マスクＤＲ、情報の黄緑色系チャネル用の空間マスクＤＧＹ、情報の緑色系チャネル用の空間マスクＤＧ、情報の青緑色系チャネル用の空間マスクＤＢＧ及び情報の青色系チャネル用の空間マスクＤＢを含む。各空間マスクは、画像センサ１４の画素又は画素の領域に対応する制御パラメータのアレイを備える。従って、各画素又は複数の画素の各領域の分光感度は、個別に且つ他の画素又は画素の領域に関係なく調節可能である。その点に関して、画像センサ１４は横方向電界検出器（ＴＦＤ）センサから構成されてもよく、空間マスクＤＲ、ＤＧＹ、ＤＧ、ＤＢＧ及びＤＢは、ＴＦＤセンサの電極を制御するために印加された電圧バイアスに対応してもよい。
【００２８】
本明細書の実施形態において、画像センサ１４はカラーフィルタアレイ（ＣＦＡ）の前段に配置されない。カラーフィルタアレイは、空間不均一性に対処する１つの方法である。そのようなＣＦＡの一例は、内容が参考として本明細書に取り入れられる米国特許第３，２２６，０３４号公報（Ｋａｔａｙａｍａ）において説明される。しかし、ＣＦＡを使用することにより多くの欠点が生じる。例えばＣＦＡは、感度が低いためにかなりの量の信号（データ）が損失する可能性があることが多い。その点に関して、何らかのフィルタを含むことは、画像センサに当たっている光の量をフィルタリングすることにより信号対雑音比を必然的に低下させる。また、画素毎にＣＦＡを実現することは、特により小さいカメラにおいて法外に高くなり、物理的に不可能である。従って、本発明の実施形態に従って、画像センサ１４はＣＦＡの前段に配置されない。
【００２９】
図中符号１８は、クロック信号及び制御信号を画像センサ１４、オーディオコントローラ１１、Ａ／Ｄ変換器１６及びＤ／Ａ変換器２６に供給するタイミング発生器を示す。タイミング発生器１８は、メモリコントローラ１１２２及びシステムコントローラ５０により制御される。図中符号２０は、所定の補間及び縮小等のサイズ変更処理、並びに色変換処理をＡ／Ｄ変換器１６からのデータ又はメモリコントローラ２２からのデータに適用する画像プロセッサを示す。画像プロセッサ２０は、撮像画像データを使用して所定の演算処理を実行し、システムコントローラ５０は、取得した演算結果に基づいて露出制御及びレンジング制御を実行する。
【００３０】
その結果、ＴＴＬ（スルーザレンズ）ＡＦ（オートフォーカス）処理、ＡＥ（自動露出）処理及びＥＦ（フラッシュ事前発光）処理が実行される。画像プロセッサ２０は、撮像画像データを使用して所定の演算処理を更に実行し、取得した演算結果に基づいてＴＴＬ  ＡＷＢ（オートホワイトバランス）処理を更に実行する。他の実施形態において、光学ファインダ１０４は、ＴＴＬ構成と組み合わせて使用されてもよく、あるいはその代わりに使用されてもよい。
【００３１】
Ａ／Ｄ変換器１６からの出力データは、画像プロセッサ２０及びメモリコントローラ２２を介して又はメモリコントローラ２２を介して直接メモリ３０に書き込まれる。メモリ３０は、画像センサ１４により撮像され且つＡ／Ｄ変換器１６によりデジタルデータに変換される画像データ及び画像表示ユニット２８上に表示される画像データを格納する。画像表示ユニット２８は液晶画面であってもよい。尚、メモリ３０は、マイク１３により録音されたオーディオデータ、静止画、映画及び画像ファイルを形成する際のファイルヘッダを格納するために更に使用される。従って、メモリ３０は、所定の数の静止画データ、並びに所定の期間にわたる映画データ及びオーディオデータを格納するのに十分大きい記憶容量を有する。
【００３２】
圧縮／伸張ユニット３２は、適応離散コサイン変換（ＡＤＣＴ）等により画像データを圧縮又は伸張する。圧縮／伸張ユニット３２は、トリガであるシャッター３１０の押下に応答してメモリ３０に格納された撮像画像データをロードし、圧縮処理を実行し、処理データをメモリ３０に書き込む。更に圧縮／伸張ユニット３２は、以下に説明するように、取り外し可能な記録ユニット２０２又は２０１からロードされた圧縮画像データに伸張処理を適用し、処理データをメモリ３０に書き込む。同様に、以下に更に説明されるように、圧縮／伸張ユニット３２によりメモリ３０に書き込まれた画像データはシステムコントローラ５０によりファイルに変換され、そのファイルは記録ユニット２０２又は２１２に記録される。
【００３３】
メモリ３０は、画像表示メモリ（ビデオメモリ）としても動作する。図中符号２６は、メモリ３０に格納された画像表示データをアナログ信号に変換し、且つそのアナログ信号を画像表示ユニット２８に供給するＤ／Ａ変換器を示す。図中符号２８は、ＬＣＤディスプレイの液晶画面２８上にＤ／Ａ変換器２６からのアナログ信号に従って表示する画像表示ユニットを示す。このように、メモリ３０に書き込まれた表示される画像データは、Ｄ／Ａ変換器２６を介して画像表示ユニット２８により表示される。
【００３４】
露出コントローラ４０は、システムコントローラ５０から供給されたデータに基づいて絞り機能を有するシャッター１２を制御する。露出コントローラ４０は、フラッシュ（フラッシュ発光デバイス）４８と結合することにより、フラッシュ露出補償機能を更に有してもよい。フラッシュ４８は、ＡＦ補助光投影機能及びフラッシュ露出補償機能を有する。
【００３５】
距離測定コントローラ４２は、システムコントローラ５０から供給されたデータに基づいて光学系１０の集束レンズを制御する。ズームコントローラ４４は、光学系１０のズームを制御する。シールドコントローラ４６は、光学系１０を保護するようにシールド（バリア）１０２の動作を制御する。
【００３６】
図中符号１３はマイクを示す。マイク１３からのオーディオ信号出力は、増幅器等を含むオーディオコントローラ１１を介してＡ／Ｄ変換器１６に供給され、Ａ／Ｄ変換器１６によりデジタル信号に変換され、その後メモリコントローラ２２によりメモリ３０に格納される。一方、オーディオデータは、メモリ３０からロードされ、Ｄ／Ａ変換器２６によりアナログ信号に変換される。オーディオコントローラ１１は、このアナログ信号に従ってスピーカ１５を駆動することにより、音声を出力する。
【００３７】
不揮発性メモリ５６は、電気的消去可能な記録可能なメモリであり、例えばＥＥＰＲＯＭを使用する。不揮発性メモリ５６は、システムコントローラ５０を操作するために定数及びコンピュータが実行可能なプログラム等を格納する。尚、プログラムは、種々のフローチャートを実行するためのプログラムを含む。
【００３８】
特に、図２Ｂに示されるように、不揮発性メモリ５６は、本明細書において説明されるような画像処理モジュール３００を回復できるように格納している非一時的なコンピュータ可読メモリ媒体の一例である。例示的な本実施形態によると、画像処理モジュール３００は、デフォルト撮像マスクを画像センサに適用するデフォルトマスクモジュール３０１と、デフォルト撮像マスクにより調節された画像センサを使用してサンプル画像を撮像するサンプルモジュール３０２と、画像センサの色感度の空間不均一性を識別するためにサンプル画像の色を解析する解析モジュール３０３とを少なくとも含む。画像処理モジュール３００は、画像センサに適用するために補償撮像マスクを構成する補償マスクモジュール３０４を更に含む。補償撮像マスクは、画像センサの色感度の空間不均一性を補償するように識別された空間不均一性に基づく計算を使用して構成される。格納モジュール３０５は、補償撮像マスクを画像センサに適用するために補償撮像マスクを撮像デバイスのメモリに格納する。図２Ｂに示されるようないくつかの実施形態において、画像処理モジュール３００は、補償撮像マスクを画像センサに適用する適用モジュール３０６と、補償撮像マスクにより調節された画像センサを使用してシーンの画像を撮像及び格納する撮像モジュール３０７とを更に含んでもよい。図３Ａに関連してこれらのモジュールを以下に更に詳細に説明する。
【００３９】
図２Ｃに示された別の例示的な実施形態において、不揮発性メモリ５６は、本明細書において説明されるような画像処理モジュール３７０を回復できるように格納している非一時的なコンピュータ可読メモリ媒体の一例である。例示的な本実施形態によると、画像処理モジュール３７０は、デフォルト撮像マスクを画像センサに適用するデフォルトマスクモジュール３７１と、デフォルト撮像マスクにより調節された画像センサを使用してサンプル画像を撮像するサンプルモジュール３７２と、チャネル毎の色値がアレイ全体にわたり均一である空間アレイを備える均一色画像を取得する均一色モジュール３７３とを少なくとも含む。画像処理モジュール３７０は、画像センサに適用するために補償撮像マスクを構成する補償マスクモジュール３７４を更に含む。補償撮像マスクは、デフォルト撮像マスクと共に撮像された時の各チャネルの色値及び均一色画像の色値に基づく計算を使用して構成される。格納モジュール３７５は、補償撮像マスクを画像センサに適用するために補償撮像マスクを撮像デバイスのメモリに格納する。図２Ｃに示されるようないくつかの実施形態において、画像処理モジュール３７０は、補償撮像マスクを画像センサに適用する適用モジュール３７６と、補償撮像マスクにより調節された画像センサを使用してシーンの画像を撮像及び格納する撮像モジュール３７７とを更に含んでもよい。図３Ｂに関連してこれらのモジュールを以下に更に詳細に説明する。
【００４０】
また、図２Ｂ及び図２Ｃに示されるように、不揮発性メモリ５６は、シーンからの画像データを含む画像データ２５１を更に含む。不揮発性メモリは、結像アセンブリの分光感度を制御するように画像センサ１４に適用するための撮像パラメータを更に格納してもよい。本実施形態において、そのような撮像パラメータは、他の画素又は領域に関係なく分光感度の画素毎の制御又は領域毎の制御を可能にするように画像センサの分光感度を制御する空間マスク２５２を備える。従って、例えば補償撮像マスクは、補償撮像マスクを画像センサに適用するために不揮発性メモリ５６等の撮像デバイスのメモリに格納されてもよい。
【００４１】
図中符号５０は、デジタルカメラ１００全体を制御するシステムコントローラを示す。システムコントローラ５０は、上述の不揮発性メモリ５６に記録されたプログラムを実行し、本実施形態の後で説明される各処理を実現する。図中符号５２は、ＲＡＭを備えるシステムメモリを示す。システムコントローラ５０を操作するのに必要な定数及び変数、並びに不揮発性メモリ５６から読み出されたプログラム等は、システムメモリ５２にマッピングされる。
【００４２】
モード選択スイッチ６０、シャッタースイッチ３１０及び操作ユニット７０は、種々の演算命令をシステムコントローラ５０に入力するために使用される動作手段を形成する。
【００４３】
モード選択スイッチ６０は、結像／再生選択スイッチを含み、システムコントローラ５０の動作モードを静止画記録モード、映画録画モード及び再生モード等のうちの１つに切り替えるために使用される。
【００４４】
シャッタースイッチ６２は、デジタルカメラ１００上に設けられたシャッターボタン３１０の操作の途中（半押し）でｏｎにされ、第１のシャッタースイッチ信号ＳＷ１を生成する。更にシャッタースイッチ６４は、シャッターボタン３１０の操作が完了（全押し）するとｏｎにされ、第２のシャッタースイッチ信号ＳＷ２を生成する。システムコントローラ５０は、第１のシャッタースイッチ信号ＳＷ１に応答してＡＦ（オートフォーカス）処理の動作、ＡＥ（自動露出）処理の動作、ＡＷＢ（オートホワイトバランス）処理の動作及びＥＦ（フラッシュ事前発光）処理の動作等を開始する。更にシステムコントローラ５０は、第２のシャッタースイッチ信号ＳＷ２に応答して、画像センサ１４から画像信号を読み出し、Ａ／Ｄ変換器１６により画像信号を画像データに変換し、画像プロセッサ２０により画像データを処理し且つメモリコントローラ２２を介してデータをメモリ３０に書き込む処理、並びにメモリ３０から画像データを読み出し、圧縮／伸張回路３２により画像データを圧縮し且つ圧縮画像データを記録媒体２００又は２１０に書き込む処理を含む一連の処理（撮影）を開始する。
【００４５】
ズーム操作ユニット６５は、画角（ズーム倍率又は撮影倍率）を変更するためにユーザにより操作される操作ユニットである。操作ユニット６５は、例えばスライド式又はレバー式の操作部材及び部材の動作を検出するスイッチ又はセンサで構成されてもよい。
【００４６】
画像表示ＯＮ／ＯＦＦスイッチ６６は、画像表示ユニット２８のＯＮ／ＯＦＦを設定する。光学ファインダ１０４を用いて画像を撮影する場合、ＴＦＴ又はＬＣＤ等で構成された画像表示ユニット２８のディスプレイは、節電のために電源を遮断するようにｏｆｆにされてもよい。
【００４７】
フラッシュ設定ボタン６８は、フラッシュ動作モードを設定及び変更する。本実施形態において、設定可能なモードは、オートモード、強制発光モード、赤目軽減オートモード及び強制発光（赤目軽減）モードを含む。オートモードにおいて、フラッシュは、物体の明度に従って自動的に発光される。強制発光モードにおいて、フラッシュは、撮影が実行される場合は常に発光される。赤目軽減オートモードにおいて、フラッシュは、物体の明度に従って自動的に発光され、フラッシュ発光の場合、赤目軽減ランプは、撮影が実行される場合は常に発光される。強制発光（赤目軽減）モードにおいて、赤目軽減ランプ及びフラッシュは常に発光される。
【００４８】
操作ユニット７０は、種々のボタン及びタッチパネル等を備える。より具体的には、操作ユニット７０は、メニューボタン、設定ボタン、マクロ選択ボタン、マルチ画像再構成／再ページングボタン、ワンショット撮影／連続ショット／セルフタイマ選択ボタン、前方（＋）メニュー選択ボタン及び後方（−）メニュー選択ボタン等を含む。更に操作ユニット７０は、前方（＋）再構成画像探索ボタン、後方（−）再構成画像探索ボタン、画像撮影品質選択ボタン、露出補償ボタン、日時設定ボタン及び圧縮モードスイッチ等を含んでもよい。
【００４９】
圧縮モードスイッチは、ＪＰＥＧ（Joint Photographic Expert Group）圧縮の圧縮率を設定又は選択し、且つＲＡＷモード等を記録するために提供される。ＲＡＷモードにおいて、画像感知デバイスにより出力されたアナログ画像信号は、そのままデジタル化され（ＲＡＷデータ）、記録される。
【００５０】
尚、本発明の実施形態において、ＲＡＷデータは、画像感知デバイスから光電変換されたデータに対してＡ／Ｄ変換を実行することにより取得されるデータだけでなく、Ａ／Ｄ変換されたデータに対して可逆圧縮を実行することにより取得されるデータも含む。更にＲＡＷデータは、損失なく画像感知デバイスからの出力情報を保持するデータを示す。例えばＲＡＷデータは、ホワイトバランス処理、輝度信号を色信号から分解する色分解処理又は色補間処理されていないＡ／Ｄ変換されたアナログ画像信号である。更にＲＡＷデータは、デジタル化されたデータに限定されず、画像感知デバイスから取得されたアナログ画像信号であってもよい。
【００５１】
本発明の実施形態によると、ＪＰＥＧ圧縮モードは、ノーマルモード及びファインモード等を含む。デジタルカメラ１００のユーザは、撮影画像のデータサイズを重視する場合にノーマルモードを選択し、撮影画像の品質を重視する場合にファインモードを選択する。
【００５２】
ＪＰＥＧ圧縮モードにおいて、圧縮／伸張回路３２は、メモリ３０に書き込まれた画像データを読み出して設定圧縮率で圧縮を実行し、記録媒体２００等に圧縮データを記録する。
【００５３】
ＲＡＷモードにおいて、アナログ画像信号は、画像センサ１４のカラーフィルタの画素配列に従って線の単位で読み出され、Ａ／Ｄ変換器１６及びメモリコントローラ２２を介してメモリ３０に書き込まれた画像データは、記録媒体２００又は２１０に記録される。
【００５４】
尚、本発明の実施形態に係るデジタルカメラ１００は、複数の画像データがユーザによるワンショット撮影命令に応答して記録される複数画像撮影モードを有する。このモードの画像データ記録は、ホワイトバランス及び露出等の撮影パラメータがステップ毎に変化するオートブラケットモードにより特徴を表される画像データ記録を含む。このモードの画像データ記録は、種々の撮影後画像処理コンテンツを有する画像データの記録、例えばＪＰＥＧ形式又はＲＡＷ形式の記録等の種々のデータ形式を有する複数の画像データの記録、同一の形式であるが種々の圧縮率を有する画像データの記録及び所定の画像処理が実行されていてもされていなくてもよい画像データの記録を更に含む。
【００５５】
電力コントローラ８０は、電力検出回路、ＤＣ−ＤＣ変換器及び付勢するブロックを選択するスイッチ回路等を備える。電力コントローラ８０は、電源の有無、電源の種類及び電池残量を検出し、検出結果及びシステムコントローラ５０からの命令に基づいてＤＣ−ＤＣ変換器を制御し、必要な期間必要な電圧を各ブロックに供給する。電源８６は、アルカリ電池又はリチウム電池等の一次電池、ＮｉＣｄ電池、ＮｉＭＨ電池又はＬｉ電池等の二次電池、あるいはＡＣアダプタ等である。デジタルカメラ１００の主なユニットと電源８６とは、それらにそれぞれ備えられたコネクタ８２及び８４により接続される。
【００５６】
記録媒体２００及び２１０は、半導体メモリ及び磁気ディスク等で構成される記録ユニット２０２及び２１２と、デジタルカメラ１００と通信するためのインタフェース２０３及び２１３と、コネクタ２０６及び２１６とを備える。記録媒体２００及び２１０は、デジタルカメラ１００の媒体及びコネクタ９２及び９６のコネクタ２０６及び２１６を介してデジタルカメラ１００に接続される。インタフェース９０及び９４は、コネクタ９２及び９６に接続される。記録媒体２００及び２１０のアタッチ／デタッチ状態は、記録媒体アタッチ／デタッチ状態検出器９８により検出される。
【００５７】
尚、記録媒体を接続するために、本発明の実施形態に係るデジタルカメラ１００はインタフェース及びコネクタの２つのシステムを備えるが、１つ又は複数の任意の数のインタフェース及びコネクタが提供されてもよい。また、種々の規格に準拠するインタフェース及びコネクタがシステム毎に提供されてもよい。
【００５８】
インタフェース９０及び９４、並びにコネクタ９２及び９６に対して、例えばＰＣＭＣＩＡカード及びコンパクトフラッシュ（ＣＦ）（登録商標）カード等の規格に準拠したカードが使用されてもよい。この場合、種々の通信カードを利用する接続は、デジタルカメラとコンピュータ及びプリンタ等の他の周辺デバイスとの間で画像データ及び画像データにアタッチされた制御データを相互に転送／受信できる。通信カードは、例えばＬＡＮカード、モデムカード、ＵＳＢカード、ＩＥＥＥ１３９４カード、Ｐ１２８４カード、ＳＣＳＩカード及びＰＨＳ等に対する通信カードを含んでもよい。
【００５９】
光学ファインダ１０４は、プリズム及び鏡を利用してレンズ１０を貫通した光ビームから画像を形成するＴＴＬファインダ等で構成される。光学ファインダ１０４を利用することにより、画像表示ユニット２８の電子ビューファインダ機能を利用せずに画像を撮影することが可能である。光学ファインダ１０４は、焦点状態、手ブレ警告、フラッシュ充電状態、シャッター速度、ｆストップ値及び露出補償等を示すための表示装置５４の部分を構成する指示器を含む。
【００６０】
通信回路１１０は、ＵＳＢ、ＩＥＥＥ１３９４、Ｐ１２８４、ＳＣＳＩ、モデム、ＬＡＮ、ＲＳ２３２Ｃ及び無線通信等の種々の通信機能を提供する。コネクタ１１２は、デジタルカメラ１００を他のデバイスに接続するために通信回路１１０に接続されてもよく、あるいはアンテナが無線通信のために提供されてもよい。
【００６１】
リアルタイムクロック（ＲＴＣ、不図示）は、日時を測定するために提供されてもよい。ＲＴＣは、電源コントローラ８０とは別に内部電源ユニットを保持し、電源ユニット８６がＯＦＦの場合でも時間を計測し続ける。システムコントローラ５０は、起動時にＲＴＣから取得した日時を使用してシステムタイマを設定し、タイマ制御を実行する。
【００６２】
図３Ａは、例示的な一実施形態に係る画像処理モジュールを説明する図である。図２Ｂに関連して上述したように、画像処理モジュール３００は、不揮発性メモリ５６等の非一時的なコンピュータ可読記憶媒体上に格納されたコンピュータが実行可能な処理ステップを備える。より多くのモジュール又はより少ないモジュールが使用されてもよく、他のアーキテクチャが可能である。
【００６３】
図３Ａに示されるように、画像処理モジュール３００は、デフォルトマスクモジュール３０１を少なくとも含む。デフォルトマスクモジュール３０１は、画像センサ１４と通信し、デフォルト撮像マスクを画像センサ１４に適用する。画像処理モジュール３００は、画像センサ１４と更に通信し、且つデフォルト撮像マスクにより調節された画像センサを使用してサンプル画像を撮像するサンプルモジュール３０２を更に含む。解析モジュール３０３は、画像センサの色感度の空間不均一性を識別するためにサンプルモジュール３０２により撮像されたサンプル画像の色を解析する。補償マスクモジュール３０４は、画像センサに適用するために補償撮像マスクを構成する。補償撮像マスクは、画像センサ１４の色感度の空間不均一性を補償するように識別された空間不均一性に基づく計算を使用して構成される。格納モジュール３０５は、補償撮像マスクを画像センサに適用するために補償撮像マスクを撮像デバイスのメモリに格納する。その点に関して、補償マスクモジュール３０４（及び／又はデフォルトマスクモジュール３０１により適用されたデフォルトマスク）により構成された補償撮像マスクは、例えば図２Ｂに示された空間マスク２５２として不揮発性メモリ５６に格納されてもよい。
【００６４】
図３Ａに示された実施形態において、画像処理モジュール３００は、補償撮像マスクを画像センサ１４に適用する適用モジュール３０６と、補償撮像マスクにより調節された画像センサ１４を使用してシーンの画像を撮像及び格納する撮像モジュール３０７とを更に含む。図４Ａに関連して上述の処理を以下に更に詳細に説明する。
【００６５】
図３Ｂは、別の例示的な実施形態に係る画像処理モジュールを説明する図である。図２Ｃに関連して上述したように、画像処理モジュール７００は、不揮発性メモリ５６等の非一時的なコンピュータ可読記憶媒体上に格納されたコンピュータが実行可能な処理ステップを備える。より多くのモジュール又はより少ないモジュールが使用されてもよく、他のアーキテクチャが可能である。
【００６６】
図３Ｂに示されるように、画像処理モジュール３７０は、デフォルトマスクモジュール３７１を少なくとも含む。デフォルトマスクモジュール３７１は、画像センサ１４と通信し、デフォルト撮像マスクを画像センサ１４に適用する。画像処理モジュール３７０は、画像センサ１４と更に通信し、且つデフォルト撮像マスクにより調節された画像センサを使用してサンプル画像を撮像するサンプルモジュール３７２を更に含む。均一色モジュール(Uniform Color Module)３７３は、チャネル毎の色値がアレイ全体にわたり均一である空間アレイを備える均一色画像を取得する。補償マスクモジュール３７４は、画像センサ１４に適用するために補償撮像マスクを構成する。補償撮像マスクは、デフォルト撮像マスクと共に撮像された時の各チャネルの色値及び均一色画像の色値に基づく計算を使用して構成される。格納モジュール３７５は、補償撮像マスクを画像センサに適用するために補償撮像マスクを撮像デバイスのメモリに格納する。その点に関して、補償マスクモジュール３７４（及び／又はデフォルトマスクモジュール３７１により適用されたデフォルトマスク）により構成された補償撮像マスクは、例えば図２Ｃに示された空間マスク２５２として不揮発性メモリ５６に格納されてもよい。
【００６７】
図３Ｂに示された実施形態において、画像処理モジュール３７０は、補償撮像マスクを画像センサ１４に適用する適用モジュール３７６と、補償撮像マスクにより調節された画像センサ１４を使用してシーンの画像を撮像及び格納する撮像モジュール３７７とを更に含む。図４Ｂ〜図８に関連してこれらの処理を以下に更に詳細に説明する。
【００６８】
図４Ａは、例示的な一実施形態に係る図１に示された撮像デバイスの処理を説明するフローチャートである。
【００６９】
簡単に説明すると、図４Ａにおいて、補償は、調節可能な分光感度を有し且つ撮像マスクに従って調節可能である画像センサを含む撮像デバイスに対して実行される。補償は、画像センサの色感度の空間不均一性に対するものである。デフォルト撮像マスクは画像センサに適用され、サンプル画像は、デフォルト撮像マスクにより調節された画像センサを使用して撮像される。サンプル画像の色が解析され、画像センサの色感度の空間不均一性を識別する。補償撮像マスクが構成される。補償撮像マスクは、画像センサの色感度の空間不均一性を補償するように識別された空間不均一性に基づく計算を使用して構成される。補償撮像マスクは、補償撮像マスクを画像センサに適用するために撮像デバイスのメモリに格納される。
【００７０】
ステップ４０１において、デフォルト撮像マスクは画像センサに適用される。より具体的には、例えばデフォルト撮像設定は、調節可能な結像アセンブリの分光感度を事前に指定されたデフォルト設定に設定するために調節可能な画像センサ１４に適用される。例示的な本実施形態において、デフォルト撮像設定はデフォルト撮像マスクを有する。例えばデフォルト撮像マスクは、シーンの明度及び材料特性に関していくつかの前提を有する電子電圧により与えられてもよく、一般に結像システム組立ラインで行われる校正手順等により予め判定された事前の指定設定である。
【００７１】
ステップ４０２において、サンプル画像は、デフォルト撮像マスクにより調節された画像センサを使用して撮像される。一例において、撮像されたサンプル画像は、画像センサの視野に広がる完全拡散照明(perfectly diffuse illumination)を含むシーンの画像である。
【００７２】
例えば完全拡散照明は、拡散照明により照明された均一なグレーカードを備える。グレーカードは、平面反射スペクトルから導出される純灰色の平坦な物体である。一般にその見掛けの輝度（及び露出判定）は、その光源に対する向きに依存しない。グレーカードを撮影されるシーンに配置し、入射光の方向に対して規定の角度に配向し、且つ反射露出計によりグレーカードから数値を読み取ることにより、写真撮像者は写真にわたり一貫した露出を保証される。
【００７３】
あるいは、完全拡散照明は積分球(integration sphere)を備えてもよい。積分球は、照明をかなり拡散させる高反射的な材料で塗布された球体である。画像センサは、球体を直接結像するのではなく、球体に「跳ね返った」照明を結像する。
【００７４】
ステップ４０３において、サンプル画像の色が解析され、画像センサの色感度の空間不均一性を識別する。その点に関して、サンプル画像の色を解析する場合、各画素の値を他の画素の値の組合せと比較することにより色感度の空間不均一性を識別できる。
【００７５】
画像センサにおいて不均一性が全くなかった場合、同一の画像からの全ての画素信号は同一となるだろう。当然、通常センサにおいて不均一性があるため、すなわち例えば中心画素においてより多くの光が撮像されるため、これは一般的な例ではない。
【００７６】
従って、ステップ４０４において、補償撮像マスクは、画像センサに適用するために構成される。補償撮像マスクは、画像センサの色感度の空間不均一性を補償するように識別された空間不均一性に基づく計算を使用して構成される。
【００７７】
一例において、画像センサの各チャネルが平均化され、色感度の空間不均一性は、各チャネルの平均からの偏差で識別される。その後、補償撮像マスクを構成する場合、各チャネルからの信号は、そのようなチャネル毎に平均値に正規化される。
【００７８】
例えば、赤チャネルの場合においては、画素Ｒ０１、Ｒ０２、．．．Ｒ０ｎを仮定する。平均値は、Ｒaverage＝（Ｒ０１＋Ｒ０２＋．．．＋Ｒ０ｎ）／ｎである。画素Ｒ０１に対する補償値はＲ０１comp＝Ｒaverage／Ｒ０１であり、画素Ｒ０２に対する補償値はＲ０２comp＝Ｒaverage／Ｒ０２．．．Ｒ０ｎcomp＝Ｒaverage／Ｒ０ｎである。
【００７９】
補償撮像マスクを構成する他の方法も可能である。例えば補償撮像マスクは、各チャネルの平均に基づかなくてもよく、例えば中間値及び画素値のパーセンタイル（例えば、６０パーセンタイル）等に基づいてもよい。
【００８０】
構成されたマスクは、バイアス電圧を示し、各画素を調節する。例えば、画素又は領域が暗すぎる場合、その画素又は領域のバイアス電圧は感度を高めるように上昇されてもよく、画素又は領域が明るすぎる場合、その画素又は領域のバイアス電圧は感度を低くするように低下されてもよい。必要なバイアス電圧は、現在の電圧とその画素に対する補償値との差により判定される。従って、例えばＲcurrent  *（Ｖ）＝Ｒcompである。その点に関して、ルックアップテーブル（ＬＵＴ）は、画素に対する現在の値からその画素に対する補償された値に取得するのに必要なバイアス電圧を格納するために使用されてもよい。
【００８１】
上述したように、補償撮像マスクは、補償撮像マスクを画像センサに適用するために、不揮発性メモリ５６等の撮像デバイスのメモリに格納されてもよい。
【００８２】
ステップ４０５において、補償撮像マスクは画像センサに適用される。従って、画素毎のバイアス電圧は、画素の色感度の空間不揮発性を調整するために撮像マスクに従って調整される。
【００８３】
ステップ４０６において、シーンの画像は、補償撮像マスクにより調節された画像センサを使用して撮像される。
【００８４】
ステップ４０７において、撮像画像が格納される。例えば撮像画像は、図２Ｂに示されるように、不揮発性メモリ５６上に画像データ２５１として格納されてもよい。当然、撮像画像は、撮像デバイスが画像データと通信し且つ画像データをカメラから離れた場所に送信できるという条件で、そのような遠隔地を含むどこか他の場所に更に格納されてもよい。
【００８５】
ステップ４０８において、補償撮像マスクにより調節された画像センサにより撮像されたシーンを使用して更なる調整が撮像画像データに対して実行される。例えば以下に説明するように、異なる照明を更に補償するように更なる補正が実行されてもよい。別の例において、撮像画像データは、芸術家又は写真家により所望されるように調整されてもよい。種々の他の応用及び調整が可能であるが、簡潔にするために本明細書において更に説明しない。
【００８６】
一実施形態において、画像センサ１４は結像光学系の前段に配置され、補償方法は、結像光学系が発生させる空間不均一性を更に補償する。例えば、結像光学系は、種々のレンズ又は種々のフラッシュ発光デバイス等の他のそのような結像光学系と交換可能であり、別個の補償撮像マスクは、そのような結像光学系の各々に提供されてもよい。上記の処理は、結像光学系の各集合の色感度の空間不均一性を補償するように補償撮像マスクを構成及び適用するために使用されてもよい。
【００８７】
別の実施形態において、別個の補償撮像マスクは、シーンの照明の空間不均一性を補償するために提供されてもよい。例えば外部の照明状態は、多くの場合、シーンが照明される方法において及びプロの写真等の制御された設定においてであっても不均一性を生じさせるだろう。上述の処理を適用してそのような空間不均一性を補償することにより、画像処理に必要な時間を大幅に削減することが一般に可能である。
【００８８】
更に別の実施形態において、補償撮像マスクはメモリから検索されてもよい。補償撮像マスクは、画像センサの色感度の空間不均一性を補償するように構成される。補償撮像マスクは画像センサに適用され、シーンの画像は、補償撮像マスクにより調節された画像センサを使用して撮像及び格納される。
【００８９】
不均一性を生じさせる複数の状況を補償するために、例えば結像光学系が発生させる色感度の空間不均一性及びシーンの照明の空間不均一性の双方を補償するために、上述の処理を使用することが更に可能である。例えば、補償撮像マスクは結像光学系を補償するように構成されてもよく、第２の補償撮像マスクは照明の不均一性を補正するように構成されてもよい。
【００９０】
マスクがｒａｗ画像信号を撮像しつつ不均一性に対処するため、撮像前に調節可能な画像センサに対して補償撮像マスクを生成し且つ撮像時にマスクを適用して画像センサの色感度の空間不均一性を補償することにより、改善された補償を提供することが一般に可能である。従って、画像センサ及び／又は画像の処理のいずれかの更なる調整も、減少した欠陥及び誤差を含むｒａｗ画像信号から開始される。
【００９１】
図４Ｂ〜図８に関連して画像センサ補償の別の実施形態を説明する。その点に関して、ある特定の環境において、調節可能なフィルタアレイにおける製造公差、色収差及び／又は光源の分光分布の不均一性による色の空間不均一性は、色の空間不均一性を招く可能性がある。
【００９２】
図４Ｂは、別の例示的な実施形態に係る図１に示された撮像デバイスの処理を説明するフローチャートである。
【００９３】
簡単に説明すると、図４Ｂにおいて、補償は、調節可能な分光感度を有し且つ撮像マスクに従って調節可能である画像センサを含む撮像デバイスに対して実行される。デフォルト撮像マスクは画像センサに適用され、サンプル画像は、デフォルト撮像マスクにより調節された画像センサを使用して撮像される。均一色画像が取得される。均一色画像は、チャネル毎の色値がアレイ全体にわたり均一である空間アレイを備える。補償撮像マスクは、画像センサに適用するために構成される。補償撮像マスクは、デフォルト撮像マスクと共に撮像された時の各チャネルの色値及び均一色画像の色値に基づく計算を使用して構成される。補償撮像マスクは、補償撮像マスクを画像センサに適用するために撮像デバイスのメモリに格納される。
【００９４】
更に詳細には、ステップ４５１において、デフォルト撮像マスクが画像センサに適用される。一例において、デフォルト撮像設定は、調節可能な結像アセンブリの分光感度を事前に指定されたデフォルト設定に設定するために調節可能な画像センサ１４に適用される。例示的な本実施形態において、デフォルト撮像設定はデフォルト撮像マスクを有する。例えばデフォルト撮像マスクは、シーンの明度及び材料の特性に関していくつかの前提を有する電子電圧により与えられてもよく、一般に結像システム組立ラインで行われる校正手順等により予め判定された事前の指定設定である。
【００９５】
ステップ４５２において、サンプル画像は、デフォルト撮像マスクにより調節された画像センサを使用して撮像される。一例において、撮像されたサンプル画像は、空間的に均一な対象を含むシーンの画像である。
【００９６】
ステップ４５３において、均一なＲＧＢが取得される。均一なＲＧＢ画像は、例えば撮像デバイス１００でそれを生成することにより取得されてもよい。例えば均一なＲＧＢ画像は、Ｒｎ（赤）、Ｇｎ（緑）及びＢｎ（青）等の３つのチャネルのｘ×ｙの空間アレイを備えてもよい。Ｒｎ、Ｇｎ及びＢｎの値は、互いに異なってもよいが、色が空間的に均一であるという制約を提供するために一般に均一なＲＧＢ画像のアレイ全体にわたり均一であるべきである。一例において、ステップ４５２で使用された空間的に均一な対象がグレー（例えば、グレーカード）である場合、Ｒｎ＝Ｇｎ＝Ｂｎである。
【００９７】
他の例において、チャネル毎の値は、対応する画素の分布の統計値として算出されてもよい。例えばＧｎは、画像中の全ての緑画素の平均として算出されてもよい。あるいはＧｎは、例えば中間Ｇ値、６５％、９０％等の他の統計基準により算出されてもよい。同一の基準が適用され、Ｒｎ及びＢｎを算出してもよい。従って、均一色画像は、用途又は環境に最適に適合する基準に従って形成されてもよい。
【００９８】
ステップ４５４において、補償撮像マスクは、チャネル毎に補償値を算出することにより構成される。例えば、Ｇチャネルに対する補償値はＣｏｍｐｅｎｓａｔｉｏｎＧ＝Ｇｎ／Ｇｏｒｉｇｉｎａｌ（ｘ，ｙ）として算出されてもよい。ここで、式中Ｇｏｒｉｇｉｎａｌ（ｘ，ｙ）は画素（ｘ，ｙ）に対する元のＧチャネルである。同様に、Ｒチャネルに対する補償値はＣｏｍｐｅｎｓａｔｉｏｎＲ＝Ｒｎ／Ｒｏｒｉｇｉｎａｌ（ｘ，ｙ）として算出される。ここで、式中Ｒｏｒｉｇｉｎａｌ（ｘ，ｙ）は画素（ｘ，ｙ）に対する元のＲチャネルである。そして、Ｂチャネルに対する補償値ＣｏｍｐｅｎｓａｔｉｏｎＢ＝Ｂｎ／Ｂｏｒｉｇｉｎａｌ（ｘ，ｙ）として算出されてもよい。式中Ｂｏｒｉｇｉｎａｌ（ｘ，ｙ）は画素（ｘ，ｙ）に対する元のＢチャネルである。
【００９９】
１つの手法において、補償撮像マスクは、現在の画素のチャネルの値と別の画素のチャネルの値との組合せに基づいて、且つシフトされた波長を有する現在の画素に対して出力チャネルを生成するように組み合わされた画素信号間の相対的な大きさを変更することにより現在の画素に対して構成される。換言すると、調節可能な画像センサ１４により、調整可能な大きさの画素の空間的配置が存在し、画素は１つの特定のチャネルを生成するように組み合わされてもよく、組み合わされた画素信号間の相対的な大きさは波長シフトを生成するように変更されてもよい。
【０１００】
一例として、図５は、画像センサの小さな部分及び特に制御可能な振幅を有する画素の空間モザイクを示す。手法はあらゆる任意の空間分布であらゆる任意の色を使用してもよいが、例としてＢａｙｅｒパターン３色センサＡ１１＝Ａ２２＝Ａ１３＝Ａ２４＝Ａ３１＝Ａ４２＝Ａ３３＝Ａ４４＝緑、Ａ１２＝Ａ１４＝Ａ３２＝Ａ３４＝赤、Ａ２１＝Ａ２３＝Ａ４１＝Ａ４３＝青を考慮する。この場合、各チャネルの感度は図６のグラフのように示される。例は、十分な共通部分を含む広帯域チャネルを更に仮定する。
【０１０１】
波長シフトは、３つ以上の画素の信号を組み合わせ（「値域毎にまとめ；binning」）、且つ期待される感度を生成するように各チャネルの大きさを制御することにより、上述の構成を使用して作成されてもよい。
【０１０２】
例えば、図５に示された画素Ａ１１の青チャネルの感度（その感度は図６に示される）をより長い波長にシフトするために、図７に示されるように画素Ａ１１信号を画素Ａ２１信号と組み合わせ（値域毎にまとめ）、且つ線形組合せ０．４＊Ａ１１＋０．８＊Ａ２１を生成するように感度の振幅を電子的又は光学的に制御してもよい。図７において、実線は、０．４を掛けられたＡ１１及びＡ２２を掛けられたＡ２１（それぞれ点線で示される）の感度の線形組合せを示す。図６の青チャネルと比較されるように、図７に示される結果として生じる新たなチャネルは、より長い波長にシフトされる。
【０１０３】
第２の手法において、補償撮像マスクは、画素に対する色値間を遷移する補償値が画素毎に電圧値にマッピングされる事前に算出されたルックアップテーブル（ＬＵＴ）に基づいて構成される。例えば、ステップ４５２において撮像された色が均一にグレーである（例えば、サンプル画像に対してグレーカードを使用して）ことを期待すると仮定する。理想的な状況下で、８ビットで撮像された信号は、Ｒｎ＝１２５、Ｇｎ＝１２５及びＢｎ＝１２５であるべきである。
【０１０４】
しかし、製造過程公差及び他の要因により、特定の画素（ｘ，ｙ）から撮像された信号は、図８の連続線で示されるような感度、Ｒｎ＝１５０、Ｇｎ＝１３５及びＢｎ＝１００を持つかもしれない。従って、この例において、画素は、赤にシフトし、グレー値を生成するように補償されるべきである。その点に関して、ステップ４５４を参照すると、補償値は、Ｒチャネル、Ｇチャネル及びＢチャネルに対してそれぞれ０．８３、０．９３及び１．２５として導出されてもよい。この手法において、補償値は、事前に算出されたＬＵＴを介して電圧値にマッピングされ、そのような新しい電圧値は、画素に適用され、図８に点線で示されたような新しい分光感度を生成する。図８において、長波長Ｒチャネルは振幅が減少し、短波長Ｂチャネルは、大きさが増すだけでなく、波長のピークをシフトしている。Ｇチャネルは、大きさ及びピーク波長の双方が更に変更していてもよい。
【０１０５】
ステップ４５５において、補償撮像マスクは画像センサに適用される。
【０１０６】
ステップ４５６において、シーンの画像は、補償撮像マスクにより調節された画像センサを使用して撮像される。
【０１０７】
ステップ４５７において、撮像画像が格納される。例えば撮像画像は、図２Ｃに示されるように、不揮発性メモリ５６上に画像データ２５１として格納されてもよい。当然、撮像画像は、撮像デバイスが画像データと通信し且つ画像データをカメラから離れた場所に送信できるという条件で、そのような遠隔地を含むどこか他の場所に更に格納されてもよい。
【０１０８】
ステップ４５８において、補償撮像マスクにより調節された画像センサにより撮像されたシーンを使用して更なる調整が撮像画像データに対して実行される。例えば以下に説明するように、異なる照明を更に補償するように更なる補正が実行されてもよい。別の例において、撮像画像データは、芸術家又は写真家により所望されるように調整されてもよい。種々の他の応用及び調整が可能であるが、簡潔にするために本明細書において更に説明しない。
【０１０９】
上記により、製造公差、光学系及び不均一な照明等の要因による空間不均一性感度を補償すること、特に撮像中に画素レベルで１つ以上のチャネルの波長特性を変更することにより補償することが一般に可能である。従って、後処理なしで撮像中に色収差を軽減することが一般に可能である。例えば、レンズの色収差によるカラーアーチファクトを軽減すること、後処理（例えば、蛍光灯により部分的に照明されるシーン及び昼光により照明されるシーンの別の部分において全てを無色に見せること）なしで撮像中に種々の光を含むシーンによる色かぶりを補償すること、並びに種々の画素に対してフィルタ感度を不均一にする製造公差を補償することが一般に可能である。
【０１１０】
本発明により考えられる他の実施形態によると、例示的な実施形態は、上述した機能性を実現するように構成されるシングルコア中央処理装置（ＣＰＵ）又はシングルコアマイクロプロセッサ（ＭＰＵ）、あるいはマルチコアＣＰＵ又はマルチコアＭＰＵ等のコンピュータプロセッサを含んでもよい。コンピュータプロセッサは、スタンドアロン装置又は複数の構成要素から成る装置に組み込まれてもよく、あるいはそのような機能性を実現するために共に動作するように構成される複数のコンピュータプロセッサを備えてもよい。１つ又は複数のコンピュータプロセッサは、コンピュータが実行可能なプログラム（コンピュータが実行可能な命令又はコンピュータが実行可能なコードと呼ばれることもある）を実行し、上述の機能のうちのいくつか又は全てを実行する。コンピュータが実行可能なプログラムはコンピュータプロセッサに事前に格納されてもよく、あるいはコンピュータプロセッサは、コンピュータが実行可能なプログラム又はプログラムステップが格納される非一時的なコンピュータ可読記憶媒体にアクセスするために機能的に接続されてもよい。これらの目的のために、非一時的なコンピュータ可読記憶媒体へのアクセスは、例えばローカルメモリバス構造を介したアクセスによるローカルアクセスであってもよく、あるいは例えば有線ネットワーク又は無線ネットワーク、あるいはインターネットを介したアクセスによるリモートアクセスであってもよい。その後コンピュータプロセッサは、コンピュータが実行可能なプログラム又はプログラムステップを実行するように構成され、上述の実施形態の機能を実行してもよい。
【０１１１】
本発明により考えられる更に別の実施形態によると、例示的な実施形態は、シングルコア中央処理装置（ＣＰＵ）又はシングルコアマイクロプロセッサ（ＭＰＵ）、あるいはマルチコアＣＰＵ又はマルチコアＭＰＵ等のコンピュータプロセッサにより上述の機能性が実行される方法を含んでもよい。上述したように、コンピュータプロセッサは、スタンドアロン装置又は複数の構成要素から成る装置に組み込まれてもよく、あるいはそのような機能性を実現するために共に動作するように構成される複数のコンピュータプロセッサを備えてもよい。１つ又は複数のコンピュータプロセッサは、コンピュータが実行可能なプログラム（コンピュータが実行可能な命令又はコンピュータが実行可能なコードと呼ばれることもある）を実行し、上述の機能のうちのいくつか又は全てを実行する。コンピュータが実行可能なプログラムはコンピュータプロセッサに事前に格納されてもよく、あるいはコンピュータプロセッサは、コンピュータが実行可能なプログラム又はプログラムステップが格納される非一時的なコンピュータ可読記憶媒体にアクセスするために機能的に接続されてもよい。非一時的なコンピュータ可読記憶媒体へのアクセスは、実施形態の方法の一部を形成してもよい。これらの目的のために、非一時的なコンピュータ可読記憶媒体へのアクセスは、例えばローカルメモリバス構造を介したアクセスによるローカルアクセスであってもよく、あるいは例えば有線ネットワーク又は無線ネットワーク、あるいはインターネットを介したアクセスによるリモートアクセスであってもよい。その後コンピュータプロセッサは、コンピュータが実行可能なプログラム又はプログラムステップを実行するように構成され、上述の実施形態の機能を実行してもよい。
【０１１２】
コンピュータが実行可能なプログラム又はプログラムステップが格納される非一時的なコンピュータ可読記憶媒体は、例えばフレキシブルディスク（フロッピディスク）、ハードディスク、光ディスク、光磁気ディスク、コンパクトディスク（ＣＤ）、デジタル汎用ディスク（ＤＶＤ）、マイクロドライブ、読み出し専用メモリ（ＲＯＭ）、ランダムアクセスメモリ（ＲＡＭ）、消去可能プログラマブル読み出し専用メモリ（ＥＰＲＯＭ）、電気的消去可能プログラマブル読み出し専用メモリ（ＥＥＰＲＯＭ）、ダイナミックランダムアクセスメモリ（ＤＲＡＭ）、ビデオＲＡＭ（ＶＲＡＭ）、磁気テープ又は磁気カード、光カード、ナノシステム、分子メモリ集積回路、独立ディスク冗長アレイ（ＲＡＩＤ）、不揮発性メモリカード、フラッシュメモリ素子及び分散コンピューティングシステム等の記憶装置等のうちのいずれかを含むデータを回復できるように格納するように構成される種々の有形の記憶装置のうちのいずれかであってもよい。記憶媒体は、コンピュータプロセッサで使用される装置又はシステムに取り外し可能に挿入され且つ／あるいはコンピュータプロセッサで使用される装置又はシステムによりリモートでアクセスされる機能拡張ユニットであってもよい。
【０１１３】
マスクがｒａｗ画像信号を撮像しつつ不均一性に対処するため、撮像前に調節可能な画像センサに対して補償撮像マスクを生成し且つ撮像時にマスクを適用して画像センサの色感度の空間不均一性を補償することにより、改善された補償を提供することが一般に可能である。従って、画像センサ及び／又は画像の処理のいずれの更なる調整も、減少した欠陥及び誤差を含むｒａｗ画像信号から開始される。
【０１１４】
本発明は、特定の代表的な実施形態に対して詳細な説明を提供した。添付の特許請求の範囲は上述の実施形態に限定されず、特許請求の範囲の範囲から逸脱せずに種々の変更及び変形が行われてもよいことが理解される。
【図１Ａ】
0005247900.tif 000002
【図１Ｂ】
0005247900.tif 000003
【図２Ａ】
0005247900.tif 000004
【図２Ｂ】
0005247900.tif 000005
【図２Ｃ】
0005247900.tif 000006
【図３Ａ】
0005247900.tif 000007
【図３Ｂ】
0005247900.tif 000008
【図４Ａ】
0005247900.tif 000009
【図４Ｂ】
0005247900.tif 000010
【図５】
0005247900.tif 000011
【図６】
0005247900.tif 000012
【図７】
0005247900.tif 000013
【図８】
0005247900.tif 000014