(57)【特許請求の範囲】
【請求項１】
撮影画像に対して補正処理を行う画像処理装置であって、
画像の撮影時における撮影時情報を取得する撮影時情報取得手段と、
撮影画像における画像特徴量から前記撮影画像の補正量を算出する補正量算出手段と、
前記撮影時情報に基づいて前記補正量を修正する修正手段と、
前記修正手段により修正した後の前記補正量を撮影画像に適用して前記補正処理を行う補正処理手段と、
前記修正手段により修正する前の前記補正量を記録する補正量記録手段と、
現在の画像について前記補正処理を行う時に、過去の画像の撮影時において前記補正量記録手段に記録した前記修正する前の補正量を取得する補正量取得手段と、を備え、
前記修正手段は、現在の画像について補正処理を行う時に、前記補正量取得手段により取得した前記過去の画像についての前記修正する前の補正量と、前記撮影時情報取得手段により取得される現在の画像の撮影時における撮影時情報とに基づいて、前記現在の画像について前記補正量を修正し、前記補正処理手段は、修正された前記補正量を現在の撮影画像に適用して前記補正処理を行うことを特徴とする画像処理装置。
【請求項２】
前記修正手段で参照する撮影時情報は撮影時の感度であることを特徴とする請求項１に記載の画像処理装置。
【請求項３】
前記補正処理は階調補正処理であることを特徴とする請求項１に記載の画像処理装置。
【請求項４】
前記撮影画像から白飛び量を算出する白飛び量算出手段と、前記白飛び量の大きさに基づいて前記白飛び量を低減するために撮影時の露出を修正する露出修正手段と、をさらに備えることを特徴とする請求項１に記載の画像処理装置。
【請求項５】
請求項１乃至４のいずれか１項に記載の画像処理装置を備えることを特徴とする撮像装置。
【請求項６】
撮影画像に対して補正処理を行う画像処理方法であって、
画像の撮影時における撮影時情報を取得する撮影時情報取得工程と、
撮影画像における画像特徴量から前記撮影画像の補正量を算出する補正量算出工程と、
前記撮影時情報に基づいて前記補正量を修正する修正工程と、
前記修正工程により修正した後の前記補正量を撮影画像に適用して前記補正処理を行う補正処理工程と、
前記修正工程により修正する前の前記補正量を記録する補正量記録工程と、
現在の画像について前記補正処理を行う時に、過去の画像の撮影時において前記補正量記録工程で記録した前記修正する前の補正量を取得する補正量取得工程と、を備え、
前記修正工程では、現在の画像について補正処理を行う時に、前記補正量取得工程において取得した前記過去の画像についての前記修正する前の補正量と、前記撮影時情報取得工程において取得される現在の画像の撮影時における撮影時情報とに基づいて、前記現在の画像について前記補正量を修正し、前記補正処理工程では、修正された前記補正量を現在の撮影画像に適用して前記補正処理を行うことを特徴とする画像処理方法。
【請求項７】
請求項６に記載の画像処理方法の各工程をコンピュータに実行させるためのプログラム。
【請求項８】
請求項６に記載の画像処理方法の各工程をコンピュータに実行させるためのプログラムを記憶したコンピュータが読み取り可能な記憶媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置に関し、特に入力された画像の補正を行う画像処理装置に関する。
【背景技術】
【０００２】
画像の階調補正を行う技術として、画像から顔を検出し、そこから得られた顔情報を補正量の算出に用いるものが提案されている。例えば特許文献１では、ある撮影シーンに輝度の低い顔が含まれる場合はその顔が適切な明るさになるように階調補正を行う構成が記載されている。
【０００３】
このような手法においては、画像から顔を検出することが可能である場合においては好ましい補正量を算出することが可能となる。しかし、撮影から各種処理、保存までの一連の流れを一つの撮影コマとして考えた場合において、あるコマの撮影時に顔が横を向くなどして顔の検出を失敗してしまうと、そのコマでは顔情報を利用した処理を行うことが出来なくなる。
【０００４】
そのため、例えば特許文献２では過去コマにおける被写体の輝度情報と現在コマにおける被写体の輝度情報を比較し、輝度の変化量に応じて過去コマの補正値を利用することで、過去コマにおいて検出された情報を現在コマにも利用することが可能となっている。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２０１０−０４５４５７号公報
【特許文献２】特開２００２−２４７５９０号公報
【特許文献３】特開２０１０−１８３４６０号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかし、このような過去の階調補正値を現在の撮影画像に適用する方法においては過去コマと現在コマの二つのコマが異なる感度で撮影されたような場合には好ましい補正量とはならない場合がある。
【０００７】
階調補正において、デジタル的に信号を持ち上げるような暗部補正ではノイズを強調してしまうことがある。この時、低感度で撮影された画像に対し暗部補正を行う場合には、暗部補正前の段階でのノイズが少ないため、暗部補正によって多少ノイズが強調されても許容できる場合が多い。しかし、高感度で撮影された画像に対し暗部補正を行う場合には、暗部補正前のノイズが多く、そこからさらに暗部補正によってノイズが強調されてしまうため、許容できない画像となってしまう場合がある。このような問題のため、従来から高感度で撮影されるほど、暗部補正による補正度合を弱める手法（以降「高感度リミッタ」と表記）が行われてきた。このような高感度における補正量の抑制をしながら前述したような過去コマの補正値を利用する場合には以下のような問題が発生する。
【０００８】
まず、図４（ａ）のように、過去コマ４０１が現在コマ４０６よりも高感度で撮影されていた場合、過去コマ４０１で算出された補正量４０４はノイズを強調しすぎないように、補正曲線４０３に高感度リミッタを適用して補正量を抑制したものとなっている。これをそのまま現在コマ４０６の補正曲線４０８として適用してしまうと、本来はもっと明るくした方が好ましく、またノイズ量も問題ない画像となるはずが画像４０９のような補正不足の画像となってしまう。
【０００９】
逆に、図５（ａ）のように、過去コマ４２０が現在コマ４２５よりも低感度で撮影されていた場合、過去コマ４２０で算出された補正曲線４２３は暗部補正前の段階でのノイズが少ないことを前提としたものとなっている。そのため、補正曲線４２３は補正曲線４２２に対してほぼ補正量が抑制されていないものとなっている。これをそのまま現在コマ４２５に補正曲線４２７として適用してしまうと現在コマ４２５は高感度で撮影されているため暗部補正前の段階においてノイズが多く、そこにさらに大きな補正がかかり、画像４２８のようにノイズが強調されすぎた画像となってしまう。
【００１０】
また、階調補正においてはハイライト部の白飛びを抑制するものもあり、例えば特許文献３では白飛び量が多い場合にはやや暗めに撮影し、撮影時に低減された明るさを後で階調補正により補償している。
【００１１】
しかし、このような過去の白飛びを抑制するための補正値を現在の撮影画像に適用する方法においては、過去コマと現在コマの二つのコマが異なる白飛び抑制量で撮影されたような場合には以下のような問題が発生する。
【００１２】
まず、図１１のように、過去コマ４０１では白飛び抑制がされ、現在コマ４０８では白飛び抑制がされていない場合、過去コマ４０１で算出された補正量４０６は白飛び抑制により低減された明るさを補償するための補正量４０５を含んでいる。これをそのまま現在コマ４０８の画像４０９に適用してしまうと、現在コマでは白飛び抑制による明るさの低減がされていないにも関わらず、余分に補正されてしまうため、画像４１１のような過補正な画像になってしまう。
【００１３】
逆に、図１３のように、過去コマ４２５では白飛び抑制がされず、現在コマ４３１では白飛び抑制がされている場合、過去コマ４２５で算出された補正量４２９は顔の明るさを補正する補正量４２７と同等のものとなっている。これをそのまま現在コマ４３１に適用してしまうと現在コマ４３１では白飛び抑制による低減がされているにも関わらず、それを補償する補正がかからない。そのため、画像４３５のように補正不足の画像になってしまい、場合によっては本来の明るさよりも逆に暗くなってしまう場合がある。
【００１４】
本発明は上記の課題に鑑みてなされたものであり、現在コマの補正量算出において過去コマの補正量を参照する際に、過去コマと現在コマが異なる条件で撮影されたような場合においても好ましい補正を行えるようにすることを目的とする。
【課題を解決するための手段】
【００１５】
本発明に係わる画像処理装置は、撮影画像に対して補正処理を行う画像処理装置であって、画像の撮影時における撮影時情報を取得する撮影時情報取得手段と、撮影画像における画像特徴量から前記撮影画像の補正量を算出する補正量算出手段と、前記撮影時情報に基づいて前記補正量を修正する修正手段と、前記修正手段により修正した後の前記補正量を撮影画像に適用して前記補正処理を行う補正処理手段と、前記修正手段により修正する前の前記補正量を記録する補正量記録手段と、現在の画像について前記補正処理を行う時に、過去の画像の撮影時において前記補正量記録手段に記録した前記修正する前の補正量を取得する補正量取得手段と、を備え、前記修正手段は、現在の画像について補正処理を行う時に、前記補正量取得手段により取得した前記過去の画像についての前記修正する前の補正量と、前記撮影時情報取得手段により取得される現在の画像の撮影時における撮影時情報とに基づいて、前記現在の画像について前記補正量を修正し、前記補正処理手段は、修正された前記補正量を現在の撮影画像に適用して前記補正処理を行うことを特徴とする。
【発明の効果】
【００１６】
本発明によれば、現在コマの補正量算出において過去コマの補正量を参照する際に、過去コマと現在コマが異なる条件で撮影されたような場合においても好ましい補正を行うことが可能となる。
【図面の簡単な説明】
【００１７】
【図１】本発明の実施形態に共通する撮像装置のブロック構成図。
【図２】本発明の実施形態に共通する画像処理装置のブロック構成図。
【図３】第１の実施形態による暗部補正処理を示すフローチャート。
【図４】第１の実施形態による過去コマの補正値の引き継ぎの様子を示す図。
【図５】第１の実施形態による過去コマの補正値の引き継ぎの様子を示す図。
【図６】第１の実施形態による暗部補正の例を示す図。
【図７】第１の実施形態による高感度リミッタの例を示す図。
【図８】第２の実施形態による暗部補正処理を示すフローチャート。
【図９】第２の実施形態の変形例による暗部補正処理を示すフローチャート。
【図１０】第３の実施形態による階調補正処理を示すフローチャート。
【図１１】第３の実施形態による過去コマの補正値の引き継ぎの様子を示す図。
【図１２】第３の実施形態による過去コマの補正値の引き継ぎの様子を示す図。
【図１３】第３の実施形態による過去コマの補正値の引き継ぎの様子を示す図。
【図１４】第３の実施形態による過去コマの補正値の引き継ぎの様子を示す図。
【図１５】第３の実施形態による階調補正の例を示す図。
【図１６】第３の実施形態による白飛び抑制補償の例を示す図。
【図１７】第４の実施形態による白飛び抑制量算出の様子を示す図。
【図１８】第４の実施形態による階調補正処理を示すフローチャート。
【発明を実施するための形態】
【００１８】
以下に、本発明の実施形態について、添付図面を参照して詳細に説明する。
【００１９】
（第１の実施形態）
本実施形態においては、補正量算出時に高感度リミッタ適用前と適用後の値を算出し、適用前の情報を記録しておくことで、以降の撮影においてより適した補正量の算出を行う画像処理装置について説明する。
【００２０】
図１は、第１の実施形態の画像処理装置を実現する一つの例である撮像装置１００の構成を示すブロック図である。撮像装置はデジタルカメラ、デジタルビデオカメラなど、被写体を撮像し画像データを得る装置を含む。図１において、光学系１０１は、レンズ、シャッター、絞りから構成されていて、ＣＰＵ１０３の制御によって被写体からの光を撮像素子１０２に結像させる。撮像素子１０２は、光学系１０１を通って結像した光を画像信号に変換する。ＣＰＵ１０３は、入力された信号やプログラムに従って、各種の演算や、撮像装置１００を構成する各部分の制御を行う。
【００２１】
一次記憶装置１０４は、一時的なデータを記憶し、ＣＰＵ１０３の作業用に使われる。二次記憶装置１０５は、撮像装置１００を制御するためのプログラム（ファームウェア）や各種の設定情報を記憶する。記憶媒体１０６は、光学系１０１によって結像され、撮像素子１０２電気信号に変換され、ＣＰＵ１０３によって処理された画像データなどを記憶する。なお、撮影後に記憶媒体１０６は取り外すことが可能であり、パーソナルコンピュータ（以下、ＰＣ）などに装着してデータを読み出すことが可能である。つまり、撮像装置１００は記憶媒体１０６へのアクセス機能を有し、記憶媒体１０６へのデータの読み書きが行えればよい。表示部１０７は、撮影時のビューファインダー画像の表示、撮影した画像の表示、対話的な操作のための文字表示などを行う。操作部１０８は、使用者の操作を受け付けるためのものである。操作部１０８には、例えばボタンやレバー、タッチパネルなどを用いることが可能である。
【００２２】
通信装置１０９は、外部装置と接続し制御コマンドやデータの送受信を行う。接続を確立し、データ通信するためのプロトコルとしては、例えばＰＴＰ（Picture Transfer Protocol）が用いられる。なお、通信装置１０９は、例えばＵＳＢ（Universal Serial Bus）ケーブルなどの有線接続により通信を行ってもよい。また、無線ＬＡＮなどの無線接続により通信を行ってもよい。また、外部装置と直接接続してもよいし、サーバを経由したりインターネットなどのネットワークを介して外部装置と接続してもよい。
【００２３】
図２は、第１の実施形態の画像処理装置を実現するもう一つの例である情報処理装置２００の構成を示すブロック図である。図２において、表示部２０１は、撮影画像の表示や対話的な操作のための文字表示などを行う。操作部２０２は、使用者の操作を受け付けるためのものである。操作部２０２は例えばキーボードやポインティング装置などを用いることが可能である。ＣＰＵ２０３は、入力された信号やプログラムに従って、各種の演算や、情報処理装置２００を構成する各部分の制御を行う。一次記憶装置２０４は、一時的なデータを記憶し、ＣＰＵ２０３の作業用に使われる。二次記憶装置２０５は、画像処理を行うためのプログラムや各種の設定情報を記憶する。通信装置２０６は、外部装置と接続し制御コマンドやデータの送受信を行う。通信装置２０６の形態は通信装置１０９と同じような形態を選択することも可能である。
【００２４】
図３は本実施形態における画像の暗部補正処理の流れを示した図である。以下に、図３を用いて、過去コマの補正量を参照し、現在コマにおいてより適した補正量の算出を行う第１の実施形態について説明する。なお、以下では撮像装置１００における撮影画像に対する輝度暗部補正処理について説明するが、情報処理装置２００でも一般の画像データ（撮影画像に限らない）に対して同様に実施できることは明らかである。
【００２５】
まず、ステップＳ３０１において光学系１０１及び撮像素子１０２を通して画像の撮影が行われると、ＣＰＵ１０３は、ステップＳ３０２において撮影時情報の取得を行う（撮影時情報取得）。この撮影時情報としては例えば撮影時感度などが含まれる。なお、記憶媒体１０６に記憶された画像を読み出して、当該処理の対象としても良い。また、情報処理装置２００で実施した場合は、二次記憶装置２０５に格納された画像や通信装置２０６を介して取得された画像を当該処理の対象とすればよい。
【００２６】
次に、ＣＰＵ１０３は、ステップＳ３０３において、画像特徴量の取得を行う。この画像特徴量は現在コマにおける補正量の算出に用いるものであり、例えば画像中に含まれる顔の輝度情報等が含まれる。
【００２７】
次に、ＣＰＵ１０３は、ステップＳ３０４において、現在コマの補正曲線の算出を行う。この補正曲線算出においては、例えば図６（ａ）に示されるように、ステップＳ３０３で得られた顔の輝度が目標輝度となるような制御点を持つ曲線を描くことで補正曲線を算出することが可能である。
【００２８】
このようにして現在コマの補正曲線の算出が行われると、ＣＰＵ１０３はステップＳ３０５において、過去コマの補正曲線の取得（補正量取得）を行う。ここで言う過去コマの補正曲線は現在処理を行っているコマよりも前に撮影されたものから算出された補正曲線であり、後述するステップＳ３０８において記録されたものとなる。
【００２９】
次に、ＣＰＵ１０３はステップＳ３０６において、過去コマの画像情報を取得する。ここでいう過去コマの画像情報は現在処理を行っているコマよりも前に撮影されたものから得られた画像情報であり、後述するステップＳ３１０において記録されたものとなる。このような過去コマの画像情報としては例えば輝度情報などを記録しておき、後のステップＳ３０７で利用することが可能である。
【００３０】
ステップＳ３０７においては、ＣＰＵ１０３は過去コマの補正値の引き継ぎを行う。この引き継ぎにおいては、例えばステップＳ３０６で得られた過去コマの輝度を用いて、過去コマと現在コマの輝度の変化量を算出し、変化量が一定値以内であればステップＳ３０５で得られた過去コマの補正値を引き継ぐといったような処理が可能である。また、変化量が一定値を超えた場合においては、ステップＳ３０４で得られた現在コマの補正量とステップＳ３０５で得られた過去コマの補正量をミックスし、変化量が大きいほど現在コマのミックス割合を増やしていくといった処理を行うことも可能である。
【００３１】
通常はこのようにして得られた補正量に対し、ステップＳ３０２で得られた撮影時の感度情報を元に高感度リミッタをかけたり、またはステップＳ３０４における補正曲線算出の際に予め高感度リミッタを考慮した補正量を算出したりする。しかし、本実施形態においては、まずステップＳ３０８により、高感度リミッタを適用する（補正量修正）前の補正曲線の記録（補正量記録）を行う。これが以降のコマにおける過去コマ情報として利用されることとなる。そのため、ここで記録される補正曲線は撮影時の感度によらない補正値となっている。なお、ここで記録される補正曲線は必ずしも全ての入力輝度と出力輝度の関係を記録する必要はない。例えば、図６（ｂ）のように、間引いた入力輝度と出力輝度の関係を記録することで記録に必要な容量を削減することも可能である。このような場合においてはステップＳ３０５において、間引いた分を線形補間するといった処理により、図６（ｂ）に示したような元の補正曲線に近いものを再現することが可能となる。
【００３２】
このようにして補正曲線の記録が行われるとＣＰＵ１０３はステップＳ３０９において高感度リミッタを適用する。高感度リミッタの適用においては、例えばあらかじめ特定の輝度における最大補正量を感度毎に決めておき、この最大補正量を超えていた場合に補正曲線全体を抑制する方法が考えられる。図７はこのような処理の一例を示したものである。
【００３３】
まず、ステップＳ３０２において得られた撮影時の感度情報を元にして最大補正量の算出を行う。これには、例えば図７（ａ）のように、ある特定の輝度における補正後輝度の最大値を感度毎に予め定めておき、実際の感度に応じて特定の輝度における補正後輝度の最大値を算出することによって得られる。例えばある感度ｙにおける輝度ａの補正後の輝度の最大値はαになっており、同様に輝度ｂに対してはβ、輝度ｃに対してはγとなっている。これらの関係をプロットしたものが図７（ｂ）中に円で示した点となっている。このような点を超えないように実際の補正量を制限する。なお、図７（ａ）中に示した感度ｘ、ｙ、ｚは必ずしも設定しうるすべての感度で持つ必要はなく、離散的な感度に対する設計値を所持しておき、間を補間により算出することも可能である。このようにして得られた最大補正量を元に、ステップＳ３０９において高感度リミッタを適用する。
【００３４】
図７（ｂ）のｆ（Ｙ）はステップＳ３０４によって得られた補正曲線を示し、ｇ（Ｙ）は入力輝度＝出力輝度となる直線（ｇ（Ｙ）＝Ｙ）を示している。このような場合においては補正量ｆ（ａ）、ｆ（ｂ）、ｆ（ｃ）が図中に円で示した最大補正量を超えているため、補正量を制限する必要がある。このリミッタにおいては、例えば以下のような式によって高感度リミッタ後の補正量ｆ’（Ｙ）が得られる。
【００３５】
ｆ’（Ｙ）＝｛ｆ（Ｙ）−ｇ（Ｙ）｝×ＭＩＮ[｛α−ｇ（ａ）｝／｛ｆ（ａ）−ｇ（ａ）｝，｛β−ｇ（ｂ）｝／｛ｆ（ｂ）−ｇ（ｂ）｝，｛γーｇ（ｃ）｝／｛ｆ（ｃ）−ｇ（ｃ）｝]＋ｇ（Ｙ）
このようにして得られた補正曲線ｆ’（Ｙ）をステップＳ３１１において実際の画像に適用し、画像の暗部補正を行う。
【００３６】
なお、その際に以降の撮影におけるステップＳ３０７において過去補正値引き継ぎを行うため、ＣＰＵ１０３はステップＳ３１０において必要な画像情報を記録する。ここでは、例えばステップＳ３０７において前述したように画像の輝度情報を判定に用いるのであれば、現在のコマの輝度情報等を記録することとなる。
【００３７】
以上が本発明の第１の実施形態となる。なお、図中では参照する情報を明確にするため、補正曲線と画像情報の記録を異なる記録装置に記録しているように表現しているが、必ずしも異なる記憶装置に記憶する必要はない。
【００３８】
このような処理を行うことによる効果を図４、図５を用いて説明する。図４は過去コマと現在コマが異なる感度で撮影された際の過去コマの補正量の引き継がれ方を示している。
【００３９】
まず、図４（ａ）、（ｂ）について説明する。図４（ａ）、（ｂ）では過去コマ４０１、４１０が高感度、現在コマ４０６，４１５が低感度で撮影された場合の例を示している。従来では、まず過去コマ４０１においてそのコマの理想の補正量４０３が算出される。過去コマ４０１においては高感度で撮影されているため、この補正量４０３をそのままかけるとノイズを強調しすぎてしまうため、高感度リミッタが強めにかかり、実際に適用される補正量は４０４のようになる。このような過去コマの補正量を引き継ぐ際に、過去コマ４０１で適用された補正量４０４を引き継いだ場合、この補正量がそのまま現在コマ４０６の画像４０７に適用されてしまう。そのため、現在コマ４０６では暗部補正前の段階でのノイズが少なく、本来の補正量をかけても問題がないにもかかわらず、実際には制限された補正量４０８がかかってしまうことになる。それにより、画像４０９のように補正不足の画像となってしまう。それに対し、本実施形態においては図４（ｂ）のように過去コマ４１０で高感度リミッタを適用する前の補正曲線４１２を引き継ぎ、現在コマ４１５の感度に応じた高感度リミッタを適用する。この時、現在コマ４１５は低感度で撮影されているため、高感度リミッタがあまりかからない補正量４１８が得られる。これにより、現在コマ４１５においては過去コマ４１０で検出された顔情報を利用した、より適した補正を行うことが可能となる。
【００４０】
次に、図５（ａ）、（ｂ）について説明する。図５（ａ）、（ｂ）では過去コマ４２０、４２９が低感度、現在コマ４２５、４３４が高感度で撮影された場合の例を示している。従来では、まず過去コマ４２０においてそのコマの理想の補正量４２２が算出される。過去コマにおいては低感度で撮影されているため、この補正量４２２をそのままかけてもノイズの強調度合は許容範囲内となるため、高感度リミッタがほとんどかからない補正量４２３が得られる。このような過去コマ４２０の補正量を引き継ぐ際に、過去コマ４２０で適用された補正量４２３をそのまま引き継いでしまうと、現在コマ４２５において補正曲線４２７が適用されてしまうことになる。しかし、現在コマ４２５は高感度で撮影されているため、暗部補正前の画像４２６のノイズは多く、暗部補正４２７によりそのノイズがさらに強調されてしまう。それにより、画像４２８のような画質として問題がある画像となってしまう。それに対し、本実施形態においては図５（ｂ）のように過去コマ４２９で高感度リミッタを適用する前の補正曲線４３１を引き継ぎ、現在コマ４３４の感度に応じた高感度リミッタを適用する。この時、現在コマ４３４は高感度で撮影されているため、高感度リミッタが強めにかかった補正量４３７が得られる。これにより、現在コマ４３４においては過去コマ４２９で検出された顔情報を利用しながら、なおかつノイズを強調しすぎない補正を行うことが可能となる。
【００４１】
このようにして、高感度リミッタを適用する前の補正量を記録しておくことで、現在コマの補正量算出において過去コマの補正量を参照する際に、過去コマと現在コマが異なる条件で撮影されたような場合においても好ましい補正量を算出することが可能となる。
【００４２】
（第２の実施形態）
第１の実施形態において、図４、図５を用いて第１の実施形態における効果を示した。ここで、図５（ａ）では過去コマ４２０で高感度リミッタをかけた後の補正量４２３をそのまま現在コマ４２５に引き継いだ画像４２８はノイズが強調されすぎているため、提供するのは問題がある。しかし、図４（ａ）において、過去コマ４０１で高感度リミッタをかけた後の補正量４０４をそのまま現在コマ４０６に引き継いだ画像４０９は補正不足ではあるが、ノイズ量としては問題がない。ここで、この画像４０９、及び図４（ｂ）の画像４１９それぞれの画の利点に着目する。図４（ｂ）の過去コマ４１０において高感度リミッタがかけられる前の補正量４１２を引き継ぎ、現在コマ４１５の感度に応じた高感度リミッタをかけた補正量４１８を適用した画像４１９は、画像１枚としての補正量としては適切なものとなっている。なおかつ過去コマ４１０の画像４１４に対して、ノイズ感としては同程度となる。しかしながら、画像４１９のほうがより強めの補正がかかっているため、画像全体の明るさが画像４１４と異なっている。それに対し、図４（ａ）の画像４０９では補正度合としてはやや不足しているが、画像４０５と同程度の明るさとなっている。
【００４３】
図４（ｂ）の画像４１９のような場合、１枚１枚の画像として見る場合には好ましい画像であると言えるが、連続した画像中の１枚としてみる場合には好ましくない場合がある。つまり、似たようなシーンを同じ露出で撮影したとしても明るさが異なってしまう場合がある。
【００４４】
そこで、本実施形態においては、過去コマと現在コマの感度が異なる際に、低感度から高感度に変化した場合と高感度から低感度に変化した場合とで処理を異ならせるようにする。
【００４５】
まず、図８を用いて本実施形態における処理の一例を説明する。図８では、基本的な処理の流れは図３と同様であるが、図８では高感度リミッタ適用後にステップＳ７１０ａにおいて高感度リミッタ適用後の補正曲線の記録を行っている。このように過去コマの高感度リミッタ適用前の補正値と高感度リミッタ適用後の補正値を記録することにより、ステップＳ７０７ａにおいて引き継ぐ補正値を選択することが可能となる。つまり、図４（ｂ）の画像４１９のように、現在コマと過去コマのノイズ量を同程度にし、現在コマの補正を十分にかけることを優先する場合においては過去コマの高感度リミッタ適用「前」の補正量を引き継ぐ。逆に、図４（ａ）の画像４０９のように、過去コマと現在コマの明るさを同程度にすることを優先する場合においては過去コマの高感度リミッタ適用「後」の補正量を引き継ぐ。
【００４６】
なお、ノイズ量を同程度にし、現在コマの補正を十分にかけることを優先するか、過去コマと現在コマの明るさを同程度にすることを優先するかの選択基準として、例えば以下のようなものがあげられる。
（１）連写または単写
例えば連写中に感度変化があった場合、得られる画像としては常に同程度の明るさであることが好ましいことが多い。また、逆に単写で撮影中に感度変化があった場合、ノイズ感が同程度でなおかつ理想的な補正がかけられた画像が得られることが好ましいことが多い。そのため、連写中の場合には過去コマの高感度リミッタ適用「後」の補正量を引き継ぎ、単写の場合には過去コマの高感度リミッタ適用「前」の補正量を引き継ぐのが好ましいと思われる。
（２）無意識な感度変化または意識的な感度変化
例えば、感度が自動的に制御される撮影モードにおいてユーザが無意識のうちに感度が変わって撮影された場合、得られる画像としては同程度の明るさであることが好ましいことが多い。また、逆にユーザが意識的に感度を変更して撮影した場合、ノイズ感が同程度でなおかつ理想的な補正がかけられた画像が得られることが好ましいことが多い。そのため、感度自動制御による撮影の場合には過去コマの高感度リミッタ適用「後」の補正量を引き継ぎ、感度手動制御による撮影の場合には過去コマの高感度リミッタ適用「前」の補正量を引き継ぐのが好ましいと思われる。
【００４７】
なお、図８を用いた説明においては高感度リミッタ適用前後の補正曲線を共に記録する例を示したが、必ずしもこれに限られるものではなく、例えば図９のように、高感度リミッタ適用時に過去コマの感度情報を参照することによっても可能である。例えば、前述したように過去コマと現在コマでノイズ感が同程度でなおかつ理想的な補正をかけることを優先する場合には「現在コマの」感度に応じた高感度リミッタをかけることで図４（ｂ）の補正曲線４１７から補正曲線４１８が作られる。それに対し、過去コマと現在コマの明るさを同程度にすることを優先する場合においては、「過去コマの」感度に応じた高感度リミッタをかけることで、図４（ｂ）の補正曲線４１７から図４（ａ）の補正曲線４０８相当のものが作られる。
【００４８】
このように本実施形態においては過去コマと現在コマで感度が異なる場合に、高感度から低感度に変化した場合と低感度から高感度に変化した場合で処理を異ならせることにより、より好ましい補正を行うことが可能となる。
【００４９】
なお、本実施形態においては過去コマで顔が検出され、現在コマで顔が検出されなかった際に過去コマで検出された顔情報を現在コマで利用する場合を想定したが、過去コマ・現在コマ共に顔が検出された場合にも同じ考えを適用することが出来る。例えば、連写中に高感度から低感度に感度変化したような場合においては高感度リミッタ適用「後」の補正量を引き継ぐことにより、明るさのばらつきを抑えることが可能となる。逆に、単写中に高感度から低感度に感度変化させたような場合においては高感度リミッタ適用「前」の補正量を引き継ぐことにより、ノイズ感が同程度でなおかつ理想的な補正がかけられた画像を得ることが可能となる。
【００５０】
（第３の実施形態）
本実施形態においては、補正量算出時に白飛び抑制補償適用前と適用後の値を算出し、適用前の情報を記録しておくことで、以降の撮影においてより適した補正量の算出を行う画像処理装置について説明する。なお、本実施形態における撮像装置、画像処理装置の構成は、第１の実施形態で説明した図１に示す撮像装置１００、画像処理装置２００の構成と同様であるので、その説明を省略する。
【００５１】
図１０は本実施形態における画像の階調補正処理の流れを示した図である。以下に、図１０を用いて、過去コマの補正量を参照し、現在コマにおいてより適した補正量の算出を行う第３の実施形態について説明する。なお、以下では撮像装置１００における撮影画像に対する輝度階調補正処理を説明するが、情報処理装置２００でも一般の画像データ（撮影画像に限らない）に対して同様に実施できることは明らかである。
【００５２】
まず、ステップＳ１００１において光学系１０１及び撮像素子１０２を通して画像の撮影が行われる。この際、撮影画像中に白飛びしそうな高輝度な領域が含まれる場合には白飛びを抑制するため、撮影露出を下げてやや暗めに撮影を行う（露出修正）。ここで、撮影時の露出を下げる割合に関しては例えば画像中に含まれる白飛びしそうな領域の面積が大きいほど露出を下げる割合を増加させるなどといった方法を取ることが可能である。これには例えば光学ファインダ近傍に設けた測光センサ（図示せず）の情報等を利用することが可能である。なお、記憶媒体１０６に記憶された画像を読み出して、当該処理の対象としても良い。また、情報処理装置２００で実施した場合は、二次記憶装置２０５に格納された画像や通信装置２０６を介して取得された画像を当該処理の対象とすればよい。
【００５３】
次に、ＣＰＵ１０３はステップＳ１００２において撮影時情報の取得を行う。この撮影時情報としては例えば撮影時における白飛び抑制を行ったかどうかの情報や白飛び抑制量の情報などが含まれる。
【００５４】
次に、ＣＰＵ１０３は、ステップＳ１００３において、画像特徴量の取得を行う。この画像特徴量は現在コマにおける補正量の算出に用いるものであり、例えば画像中に含まれる顔の輝度情報等が含まれる。
【００５５】
次に、ＣＰＵ１０３は、ステップＳ１００４において、現在コマの補正曲線の算出を行う。この補正曲線算出においては、例えば図１５（ａ）に示されるように、ステップＳ１００３で得られた顔の輝度が目標輝度となるような制御点を持つ曲線を描くことで補正曲線を算出することが可能である。この時、画像中から検出された顔輝度は白飛び抑制によって暗めに撮影された画像から取得されたものとなるため、本来の明るさよりも低輝度のものとなっている。そこで、ここでは白飛び抑制補償を考慮した顔輝度の算出を行う。
【００５６】
白飛び抑制補償においては白飛び抑制のために暗く撮影され、低減された明るさを補償する補正をかける。この時、輝度全体を同様に持ち上げてしまうと白飛びを抑制した領域まで再度白く飛んでしまうため、例えば図１６の補正曲線６０２，６０３，６０４のように高輝度領域を持ち上げる量を少なくした補正曲線によって白飛び抑制補償を行う。ここではステップＳ１００１における撮影時の白飛び抑制量がｙであり、白飛び抑制補償曲線６０３を使用する場合を例に挙げる。例えば画像から検出された顔の輝度が補正曲線６０３に示した輝度ａであった場合には実際には白飛び抑制補償により輝度ｂに補正される。そのため、ステップＳ１００４において参照する顔の輝度は輝度ｂを用いることが好ましい。このように算出されたｂをもとに、図１５（ａ）に示されるように、顔輝度ｂが目標輝度となるような制御点を持つ曲線を描くことで顔補正の補正曲線の算出を行う。
【００５７】
このようにして現在コマの補正曲線の算出が行われると、ＣＰＵ１０３はステップＳ１００５において、過去コマの補正曲線の取得を行う。ここで言う過去コマの補正曲線は現在処理を行っているコマよりも前に撮影されたものから算出された補正曲線であり、後述するステップＳ１００８において記録されたものとなる。
【００５８】
次に、ＣＰＵ１０３はステップＳ１００６において、過去コマの画像情報を取得する。ここでいう過去コマの画像情報は現在処理を行っているコマよりも前に撮影されたものから得られた画像情報であり、後述するステップＳ１０１０において記録されたものとなる。このような過去コマの画像情報としては例えば輝度情報などを記録しておき、後のステップＳ１００７で利用することが可能である。
【００５９】
ステップＳ１００７においては、ＣＰＵ１０３は過去コマの補正値の引き継ぎを行う。この引き継ぎにおいては、例えばステップＳ１００６で得られた過去コマの輝度を用いて、過去コマと現在コマの輝度の変化量を算出し、変化量が一定値以内であればステップＳ１００５で得られた過去コマの補正値を引き継ぐといったような処理が可能である。また、変化量が一定値を超えた場合においては、ステップＳ１００４で得られた現在コマの補正量とステップＳ１００５で得られた過去コマの補正量をミックスし、変化量が大きいほど現在コマのミックス割合を増やしていくといった処理を行うことも可能である。
【００６０】
通常はこのようにして得られた補正量に対し、ステップＳ１００２で得られた撮影時における白飛び抑制量を元に白飛び抑制補償を適用する。しかし、本実施形態においては、まずステップＳ１００８により、白飛び抑制補償を適用する前の補正曲線の記録を行う。これが以降のコマにおける過去コマ情報として利用されることとなる。そのため、ここで記録される補正曲線は撮影時の白飛び抑制量によらない補正値となっている。なお、ここで記録される補正曲線は必ずしも全ての入力輝度と出力輝度の関係を記録する必要はない。例えば、図１５（ｂ）のように、間引いた入力輝度と出力輝度の関係を記録することで記録に必要な容量を削減することも可能である。このような場合においてはステップＳ１００５において、間引いた分を線形補間するといった処理により、図１５（ｂ）に示したような元の補正曲線に近いものを再現することが可能となる。
【００６１】
このようにして補正曲線の記録が行われるとＣＰＵ１０３はステップＳ１００９において白飛び抑制補償を適用する。白飛び抑制補償の適用においては、例えばあらかじめ白飛び抑制量に応じた白飛び抑制補償の補正曲線を決めておき、ステップＳ１００４で得られた補正曲線と白飛び抑制補償の補正曲線を合成する方法が考えられる。図１６はこのような処理の一例を示したものである。
【００６２】
まず、ステップＳ１００２において得られた撮影時の白飛び抑制量の情報を元にして白飛び抑制補償曲線を取得する。これには、例えば図１６の６０２、６０３、６０４のような、白飛び抑制量に応じた白飛び抑制補償曲線を予め定めておき、実際の白飛び抑制量に応じて白飛び抑制補償曲線を選択することによって得られる。例えばある白飛び抑制量ｙにおける白飛び抑制補償曲線は６０３のようになっている。まず、撮影された画像におけるある輝度ａは、白飛び抑制補償により輝度ｂに移る。この時、ステップＳ１００４において得られた補正曲線が６０１のような形をしていた場合、前述した輝度ｂはさらに補正曲線６０１によって輝度ｃに移る。つまり、補正曲線６０１と補正曲線６０３を組み合わせた場合、ある輝度ａが輝度ｃに移るような補正曲線となる。このような方法を各入力輝度に対して走査していくことにより、最終的に補正曲線６０１と白飛び抑制補償曲線６０３を合成した補正曲線６０５を得ることが出来る。
【００６３】
このようにして得られた補正曲線をステップＳ１０１１において実際の画像に適用し、画像の階調補正、及び白飛び抑制補償を行う。
【００６４】
なお、その際に以降の撮影におけるステップＳ１００７において過去補正値引き継ぎを行うため、ＣＰＵ１０３はステップＳ１０１０において必要な画像情報を記録する。ここでは、例えばステップＳ１００７において前述したように画像の輝度情報を判定に用いるのであれば、現在のコマの輝度情報等を記録することとなる。
【００６５】
以上が本発明の第３の実施形態となる。なお、図中では参照する情報を明確にするため、補正曲線と画像情報の記録を異なる記録装置に記録しているように表現しているが、必ずしも異なる記憶装置に記憶する必要はない。
【００６６】
このような処理を行うことによる効果を図１１〜図１４を用いて説明する。図１１〜図１４は過去コマと現在コマが異なる白飛び抑制量で撮影された際の過去コマの補正量の引き継がれ方を示している。
【００６７】
まず、図１１、図１２について説明する。図１１、図１２では過去コマ１１０１，１１１２が白飛び抑制あり、現在コマ１１０８，１１１９が白飛び抑制なしで撮影された場合の例を示している。従来では、まず過去コマ１１０１においてそのコマの顔を適切な明るさに補正するための補正量１１０４が算出される。過去コマ１１０１においては白飛びを抑制するためにやや暗く撮影されているため、低減された明るさを補正する補正量１１０５をさらにかけることになる。これにより、実際に適用される補正量は１１０６のようになる。このような過去コマ１１０１の補正量を引き継ぐ際に、過去コマ１１０１で適用された補正量１１０６を引き継いだ場合、この補正量がそのまま現在コマ１１０８の画像１１０９に適用されてしまう。そのため、現在コマ１１０８では白飛び抑制がされずに通常の明るさで撮影されたにもかかわらず、実際には過去コマ１１０１での白飛び抑制補償がされた補正量１１１０がかかってしまうことになる。それにより、画像１１１１のように過補正の画像となってしまう。それに対し、本実施形態においては図１２のように過去コマ１１１２で白飛び抑制補償を適用する前の補正曲線１１１５を引き継ぎ、現在コマ１１１９の白飛び抑制量に応じた白飛び抑制補償曲線１１２２を適用する。この時現在コマ１１１９は白飛び抑制がされていないため、顔補正のみを行う補正量１１２３が得られる。これにより、現在コマ１１１９においては過去コマ１１１２で検出された顔情報を利用した、より適した補正を行うことが可能となる。
【００６８】
次に、図１３、図１４について説明する。図１３、図１４では過去コマ１１２５、１１３６が白飛び抑制なし、現在コマ１１３１、１１４２が白飛び抑制ありで撮影された場合の例を示している。従来では、まず過去コマ１１２５においてそのコマの顔を適切な明るさに補正するための補正量１１２７が算出される。過去コマ１１２５においては白飛び抑制がされず、本来の明るさで撮影されているため、明るさの低減はなく、白飛び抑制補償は入力をそのままスルーする直線１１２８となる。これにより、実際に適用される補正量は１１２９のようになる。このような過去コマ１１２５の補正量を引き継ぐ際に、過去コマ１１２５で適用された補正量１１２９を引き継いだ場合、この補正量がそのまま現在コマ１１３１に適用されてしまう。そのため、現在コマ１１３１は白飛び抑制がされ、やや暗く撮影されたにもかかわらず、実際には白飛び抑制により低減された明るさが補償されていない補正量１１３４がかかってしまうことになる。それにより、画像１１３５のように補正不足の画像となってしまう。それに対し、本実施形態のように過去コマ１１３６で白飛び抑制補償を適用する前の補正曲線１１３８を引き継ぎ、現在コマ１１４２の白飛び抑制量に応じた白飛び抑制補償曲線１１４６を適用する場合、低減された明るさも補償する補正量１１４７が得られる。これにより、現在コマにおいては過去コマで検出された顔情報を利用した、より適した補正を行うことが可能となる。
【００６９】
このようにして、白飛び抑制補償を適用する前の補正量を記録しておくことで、現在コマの補正量算出において過去コマの補正量を参照する際に、過去コマと現在コマが異なる条件で撮影されたような場合においても好ましい補正量を算出することが可能となる。
【００７０】
（第４の実施形態）
第３の実施形態においては、白飛び抑制量を決定する際において画像中に含まれる白飛びしそうな領域の面積が大きいほど露出を下げる割合を増加させる手法を例示した。しかし、例えば画像中に含まれる白飛びしそうな領域の面積が多くあった場合に露出を下げすぎてしまうと、図１６の６０２、６０３、６０４で示したように今度は低減された明るさを補正するために必要な補正量が大きくなっていってしまう。また、画像中に暗い顔が含まれている場合においてはこの白飛び抑制補償量に、さらに図１６の６０１のような顔補正の補正曲線も必要となり、結果として顔補正の補正曲線と白飛び抑制補償曲線を合成した図１６の６０５であらわされる補正曲線が大きくなってしまう。しかし、このように暗部を持ち上げる階調補正においては画像の信号をデジタル的に持ち上げる処理となるため、補正量が大きすぎると画像中に含まれるノイズを強調しすぎてしまうこととなる。このような現象を回避するため、例えばあらかじめ顔補正などの補正量を見積もっておき、その補正量が大きいのであれば白飛び抑制量を小さくし、逆に補正量が小さいのであれば白飛び抑制量を大きくするといった手法があげられる。
【００７１】
しかし、ここで第３の実施形態で示したように、過去のコマにおける補正量を引き継ぐ場合においてはこのような処理がうまくいかない可能性がある。この現象を図１７を用いて説明する。
【００７２】
図１７は撮影時にあらかじめ顔を検出し、顔の輝度から想定される補正量を算出した上で白飛び抑制量を決定する様子を表している。ここでは過去コマにおいては暗い顔が検出され、現在コマにおいては顔が横を向くなどしたことにより、暗い顔を検出出来なかった場合を想定している。まず過去コマにおいては画像７０１から暗い顔が検出されている。そのため、過去コマの撮影時において顔補正としてかかる補正量は補正量７０４が想定されている。そのため、過去コマにおいては後に大きな補正がかかることを見越して白飛び抑制量は少なめに見積もられるため、白飛び抑制補償曲線も７０５のような小さめなものとなる。それにより、過去コマにおいて実際にかかる補正は補正曲線７０６のようになり、ノイズを強調しすぎない範囲での補正を行うことが可能となる。次に、現在コマにおいては画像７１１では顔が横を向いてしまっているため顔検出が出来ていない。そのため、現在コマの撮影時においては補正曲線７０７のように、顔補正がかからないと想定されている。そのため、この時点では後に大きな補正がかからないことを見越して白飛び抑制量を大きめに見積もられてしまう。しかし、過去の補正量を引き継ぐ場合においては現在コマでは過去コマの顔補正の補正量７０４を引き継ぐこととなる。そのため、顔補正による大きな補正量７０８と白飛び抑制補償による大きな補正量７０９が組み合わさり、最終的に大きすぎる補正量７１０がかかってしまうこととなる。それにより、画像７１３はノイズが強調されすぎてしまう場合がある。本実施形態においてはそのような問題への対処を行う。
【００７３】
図１８は本実施形態における処理の流れを表している。各構成要素は図１０で示した第３の実施形態の対応する要素とほぼ同等の動作を行う。ここでは第３の実施形態と違い、実際の撮影が過去補正値引き継ぎよりも後のステップＳ８０７で行われている。
【００７４】
まず、ステップＳ８０１の撮影時情報取得以降の処理に関しては、第３の実施形態では撮影動作に応じて処理を進めて行ったが、本実施形態の場合においては例えばユーザによるシャッターボタン（図示せず）の反押し動作等に応じて処理を開始することも可能である。また、過去補正値引き継ぎにおいて過去の輝度情報との比較等を行う必要があるが、この処理はまだ撮影が行われる前に行われる。これに関しては、例えば光学ファインダ近傍に設けた測光センサ（図示せず）の情報を使用することが可能である。またはスタンバイ時に表示部１０７をＥＶＦとして機能させ、常に所定のレートで連続的に撮像した表示用画像を表示している場合にはその表示用画像から検出したりすることも可能である。このようにして予め得られた補正量をもとにして白飛び抑制量を算出する。
【００７５】
このような処理を行うことにより、ステップＳ８０７における撮影時に予め過去コマの補正量も加味した補正量が算出されているため、より適した白飛び抑制量の元で撮影を行うことが可能となる。
【００７６】
このように本実施形態においては白飛び抑制補償を適用する前の補正量を記録しておくことにより、現在コマの補正量算出において過去コマの補正量を参照する際に、より好ましい白飛び抑制量で現在コマの撮影を行うことが可能となる。
【００７７】
以上、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。上述の実施形態の一部を適宜組み合わせてもよい。
【００７８】
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア（プログラム）を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ（またはＣＰＵやＭＰＵ等）がプログラムを読み出して実行する処理である。
【図１】
0005739752.tif 000002
【図２】
0005739752.tif 000003
【図３】
0005739752.tif 000004
【図６】
0005739752.tif 000005
【図７】
0005739752.tif 000006
【図８】
0005739752.tif 000007
【図９】
0005739752.tif 000008
【図１０】
0005739752.tif 000009
【図１５】
0005739752.tif 000010
【図１６】
0005739752.tif 000011
【図１８】
0005739752.tif 000012
【図４】
0005739752.tif 000013
【図５】
0005739752.tif 000014
【図１１】
0005739752.tif 000015
【図１２】
0005739752.tif 000016
【図１３】
0005739752.tif 000017
【図１４】
0005739752.tif 000018
【図１７】
0005739752.tif 000019