(57)【特許請求の範囲】
【請求項１】
ディジタルカメラからの画像のハイライト復元およびハイライト中性化のうちの少なくとも1つを実施するための方法であって、
所定の範囲内の混合値を生成するステップと、
前記混合値が前記所定の範囲内の最小値である場合、ハイライト復元を実施するステップと、
前記混合値が前記所定の範囲内の最大値である場合、ハイライト中性化を実施するステップと、
前記混合値が所定の範囲内である場合、ハイライト復元およびハイライト中性化の両方を実施し、かつ、前記混合値に応じて前記ハイライト復元およびハイライト中性化の結果を混合するステップと
を含み、
前記ハイライト復元とは、利用可能な画像情報を使用して飽和した色成分を予測する処理を含む処理であり、
前記ハイライト中性化とは、飽和したピクセル中のすべてのチャネルを灰色値に向かって移動させる処理であり、
前記混合値は、基準露出値と実際の露出値との関数である、方法。
【請求項２】
前記混合値の前記所定の範囲がゼロと1の間である、請求項1に記載の方法。
【請求項３】
前記ハイライト復元によって復帰した値と所定の閾値とを比較するステップと、前記復帰した値が前記所定の閾値より小さい場合、ハイライト復元の代わりにハイライト中性化を実施するステップをさらに含む、請求項1に記載の方法。
【請求項４】
前記混合値を生成するステップが、使用者が前記混合値を決定するステップを含む、請求項1に記載の方法。
【請求項５】
前記混合値を生成するステップが、
カメラ捕獲パラメータの関数として基準露出値を生成するステップと、
基準露出値と実際の露出値を比較するステップと
を含む、請求項1に記載の方法。
【請求項６】
前記基準露出値と前記実際の露出値を比較するステップが、
前記実際の露出値と前記基準露出値の差を決定するステップと、
前記差を使用してゼロと1の間でスケーリングするステップと
を含む、請求項5に記載の方法。
【請求項７】
前記基準露出値と前記実際の露出値を比較するステップが、
前記実際の露出値と前記基準露出値の差の絶対値を決定するステップと、
前記差の前記絶対値を使用してゼロと1の間でスケーリングするステップと
を含む、請求項5に記載の方法。
【請求項８】
前記基準露出値と前記実際の露出値を比較するステップが、
前記実際の露出値と前記基準露出値の差を決定するステップと、
前記実際の露出値と前記基準露出値の前記差が所定の閾値より大きい場合にのみ、混合演算を実施するステップと
を含む、請求項5に記載の方法。
【請求項９】
前記基準露出値と前記実際の露出値を比較するステップが、
前記実際の露出値と、前記基準露出値として所定の最適露出値との差を決定するステップと、
前記実際の露出値と前記最適露出値の前記差が所定の閾値より大きい場合にのみ、混合演算を実施するステップと
を含む、請求項5に記載の方法。
【請求項１０】
ハイライトの中性化を実施するステップが、
イメージャの飽和レベルより低い閾値の値より大きい値を3つのすべての色チャネル中に有する前記画像中のすべてのピクセルを識別するステップと、
前記閾値の値より大きい値を3つのすべての色チャネル中に有するものとして識別された前記画像中のすべてのピクセルに対して、前記3つの色チャネル中の値が前記飽和レベルにどの程度近いかを関数として3つのすべての色チャネル中のピクセル値を中性に移動させるステップと
を含む、請求項1に記載の方法。
【請求項１１】
前記画像の飽和マップを作成するステップと、
前記飽和マップを改良するステップと、
前記改良された飽和マップを平滑化するステップと、
個々のピクセル位置における色成分の最大および重み付け平均のうちの1つとして中性化信号を生成するステップと、
元の画像と前記中性化信号を混合するステップと
をさらに含む、請求項10に記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
関連出願
本出願は、2011年5月19日に出願した米国仮特許出願第61/487887号の優先権、および2011年9月14日に出願した米国仮特許出願第61/534556号の優先権を主張するものである。
【０００２】
本発明はディジタル画像の処理に関する。より詳細には、本発明は、ハイライトの復元およびハイライトの中性化(neutralization)を実施するためにディジタル画像中のハイライトを処理するための方法に関する。
【背景技術】
【０００３】
ピクセル中の1つまたは複数の色チャネルが飽和すると、赤色(R)、緑色(G)および青色(B)の相対値は、もはや正確ではない。その結果、最終ピクセルカラーが不適切になるようである。一般的にはハイライトを有する画像領域に存在する飽和ピクセルを修正するために、ディジタル製造者は、通常、色非飽和または色中性化を適用している。このような中性化のレベルは、通常、飽和レベルからのピクセル値の距離が長くなるにつれて低下し、そのために非飽和ピクセルに対する中性化の効果が最小化される。このような修正方法は、画像の色情報およびダイナミックレンジの両方に影響を及ぼすため、異なる解決法が必要である。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】米国特許出願第61/487902号
【特許文献２】米国特許出願第12/961284号
【発明の概要】
【課題を解決するための手段】
【０００５】
本発明によれば、ディジタルカメラ捕獲パラメータ、その飽和のために画像センサによってクリップされた画像値を示す飽和マップ、およびセンサクリッピングの影響を受けていない画像データを使用してディジタル画像中のハイライト領域および飽和領域を処理するための方法が開示される。本発明は、ディジタルカメラ画像中の飽和領域を処理するための有効な方法である。この方法には、修正プロセスを導くための飽和マップが使用されている。このマップは、飽和すると画像センサによってクリップされ(許容される最大値に到達する)、および/または画像処理によってクリップされるピクセルを示している。飽和したピクセルまたはクリップされたピクセルを修正することにより、出力画像中の偽色が回避される。
【０００６】
復元プロセスは、一般的には画像センサデータから直接得ることができ、あるいはピクセル値と所定の閾値とを単純に比較することによって画像化パイプライン内の任意の位置で得ることができる飽和マップによって導かれる。ここで説明されている例では、飽和マップは、画像中の個々のピクセルの3チャネル2進マップであり、1の値は、特定の色成分が飽和したことを表し、また、0の値は、色成分が飽和/クリッピングの影響を受けていないことを表している。飽和マップの他の表現を使用することも可能である。
【０００７】
ディジタル画像上でハイライトの復元を実施するための方法には、飽和したピクセルを識別するために画像中のピクセルと飽和レベル値とを比較するステップが含まれている。飽和したピクセルの飽和マップが作成される。ピクセルの少なくとも1つの色チャネルが非飽和である場合のみ、選択された個々の飽和ピクセルが復元可能ピクセルとして識別される。復元可能ピクセル毎に、選択された飽和ピクセルの上、下、左および右側の最も近い非飽和ピクセルのグループが識別される。復元可能ピクセルの非飽和色チャネルのピクセル値と、近傍の非飽和ピクセルの対応する色チャネルのピクセル値の組合せを使用して、復元可能ピクセルの飽和した色チャネル毎に置換ピクセル値が生成される。
【０００８】
本発明の他の態様によれば、ディジタル画像上でハイライトの復元を実施するための方法には、飽和したピクセルを識別するために画像中のピクセルと飽和レベル値とを比較するステップが含まれている。飽和したピクセルの飽和マップが作成される。ピクセルの少なくとも1つの色チャネルが非飽和である場合のみ、個々の飽和ピクセルが復元可能ピクセルとして識別される。復元可能ピクセル毎に、選択された飽和ピクセルの上、下、左および右側の最も近い非飽和ピクセルのグループが識別される。復元可能ピクセルの非飽和色チャネルのピクセル値と、近傍の非飽和ピクセルの対応する色チャネルのピクセル値の組合せを使用して、復元可能ピクセルの飽和した色チャネル毎に置換ピクセル値が生成される。
【０００９】
本発明の方法は、復元概念および中性化概念を使用して信号飽和問題を処理している。復元概念は、利用可能な画像情報を使用して飽和した色成分を予測し、一方、中性化概念は、飽和したピクセル中のすべてのチャネルを中性(灰色)値に向かって移動させる。
【００１０】
ピクセル中の1つまたは複数の色チャネルが飽和すると、赤色、緑色および青色の相対値はもはや正確ではない。その結果、最終ピクセルカラーが不適切になるようである。例えば12ビット画像表現の場合を考察すると、あるピクセルの青色チャネルの値を6100にしなければならないが、その代わりに4095で飽和する場合、赤色チャネルおよび緑色チャネルの相対値は、そのピクセルの青色値に対して大きくなりすぎ、そのためにピクセルの色が本来の色より黄色がかって見えることになる。復元プロセスは、青色チャネルの適切な値を見出すべく試行し、一方、中性化プロセスは、ピクセルの輝度を維持しつつ、より灰色になるようにピクセル中のすべてのチャネルを変更する。飽和したピクセルの輝度は、より明るくなる傾向があるため、典型的な中性化の結果、ピクセルが白く見えることになる。復元プロセスがうまくいきそうにない過酷な場合、視覚的に快い画像を得るためには中性化プロセスを使用しなければならない。
【００１１】
本発明の方法によれば、復元または中性化のいずれかを使用して画像を修正することができる。例えば適切な色特性を備えた十分な非飽和ピクセルが存在しない場合、および/または画像が著しく過剰に露出される場合などの複雑な状況では、復元プロセスによっていくつかの人工物が生成されることがあるため、より高度なバージョンでは、本発明の方法には、個々のピクセルを処理するために復元と中性化の2つの手順が続けて使用されている。
【００１２】
本発明の他の態様によれば、修正表に基づく手法、および局所近隣で利用することができる非飽和ピクセルを使用する手法の2つの手法を組み合わせてディジタル画像中の飽和領域を処理することができる。実施態様例では、これらの2つの手法を使用して生成された2つの中間ピクセルの平均または重み付け平均として個々の飽和ピクセルを修正することができる。
【図面の簡単な説明】
【００１３】
【図１】本発明の一態様による、ディジタル画像上でハイライトの復元またはハイライトの中性化を実施するための実例による方法を示す流れ図である。
【図２】本発明の一態様による、ディジタル画像上でハイライトの復元を実施するための実例による方法を示す流れ図である。
【図３】本発明の一態様による、ディジタル画像上でハイライトの復元を実施するために非飽和ピクセルを選択するための実例による方法を示す流れ図である。
【図４】本発明の一態様による、ディジタル画像上でハイライトの復元を実施するための実例による方法を示す流れ図である。
【図５】本発明の一態様による、ディジタル画像上でハイライトの復元を実施するための実例による反復方法を示す流れ図である。
【図６】本発明の一態様による、ディジタル画像上でハイライトの復元を実施するための実例による反復方法を示す流れ図である。
【図７】本発明の一態様による、修正係数表を作成し、かつ、それらをディジタル画像に適用するための実例による方法を示す流れ図である。
【図８】修正表および局所近隣で利用することができる非飽和ピクセルの両方を使用して、ディジタル画像上でハイライトの復元を実施するための実例による方法を示す流れ図である。
【図９】本発明の一態様による、ハイライト中性化の実例による方法を示す流れ図である。
【図１０】本発明の一態様による、ハイライト中性化の他の実例による方法を示す流れ図である。
【図１１】本発明の一態様による、ハイライト中性化の他の実例による方法を示す流れ図である。
【発明を実施するための形態】
【００１４】
本発明についての以下の説明は、単に実例による説明にすぎず、何ら本発明を制限するものではないことは当業者には認識されよう。当業者には本発明の他の実施形態が自ら容易に提案されよう。
【００１５】
本発明の方法は、修正表を作成するために使用することができる。本発明の一態様によれば、画像全体にわたって、当該色チャネルが飽和していないピクセルが解析される。これは、他の制約と組み合わせることができ、例えば修正係数表の作成に使用されるピクセルは、特定の閾値より大きい輝度値を有していなければならず、また、これらのピクセルは、それらの色チャネルのいずれをもクリップさせることはできない、等々の制約と組み合わせることができる。この修正表を作成するために選択されるこれらのピクセルの各々に対して、それぞれ1つまたは複数の色チャネルの関数である少なくとも2つの値が計算される。そのうちの1つは、修正係数表中への索引として使用され、他の値は、修正係数そのものである。本発明の方法によれば、このような演算特性が必要である場合、複数の修正係数を計算することができることに留意されたい。
【００１６】
修正係数表の項目の数は、表サイズaによって表される。この設計パラメータは、一般的には前もって決定される。通常、aは、個々の色チャネルを表すために使用されるビットの数以下に設定される。メモリ有効実施態様は、より小さいa値をターゲットにすることができるが(例えば色チャネル当たり12ビット表現の場合、a=255)、値が小さすぎると、非常に異なるピクセルが同じ索引に結合されることになるため、修正精度が悪くなることがある。
【００１７】
索引値は、1つまたは複数の色チャネルの関数である。Bチャネルが修正され、また、Mが、一般的には所与のビット表現における最大許容値に等しい設計パラメータである場合を考察する(他の設定も可能である)。一例では、索引は、復元されていない1つまたは2つの色チャネルの関数であり、例えばこのような関数は、amin(R、M)/M、amin(G、M)/M、aR/(R+G)またはaG/(R+G)として定義することができ、minは最小演算子を表している。他の例では、索引は、復元される色チャネルの関数であり、例えばこのような関数は、amin(B、M)/Mとして定義することができる。さらに他の例では、索引は、復元される色チャネルおよび一方または両方の他の色チャネルの関数であり、例えばこのような関数は、aB/(R+G+B)として定義することができる。最終索引は、上で説明したように計算された索引値の丸めバージョンであることに留意されたい。
【００１８】
修正係数は、複数の方法で決定することも可能である。もう一度Bチャネルが修正される場合を考察する。一例では、修正係数は、修正される色チャネルのスケール値、つまりyBとして計算され、yは前もって決定されるか、あるいは画像統計量に基づいて適応的に決定される。他の例では、修正係数は、ピクセル中の他の2つの色チャネルのうちの一方に対する修正される色チャネルの比率として計算され、例えばこのような修正係数は、B/GまたはB/Rとして定義することができる。他の例では、修正係数は、修正される色チャネルと、ピクセル中の他の2つの色チャネルのうちの一方との差、つまり、例えばB-GまたはB-Rとして計算される。他の例では、修正係数は、修正される色チャネルおよびピクセル中の両方の他の色チャネルの関数として計算され、例えばこのような関数は、2B-R-G、2B/(R+G)またはB2/(RG)として定義することができる。さらに他の例では、2つの修正係数が、修正される色チャネルと、他の2つの色チャネルの各々との間の比率または差として計算される。同じ索引値に対応する異なるピクセルは、同じ修正係数計算手法に対して異なる修正係数を生成することがあるため、修正係数表に記憶される最終修正係数は、ピクセルに関する修正係数の関数として計算される。一例では、同じ索引に対応するすべてのピクセルに対する修正係数が平均化される。他の例では、同じ索引を有するピクセルの異なる修正係数は異なる重みを有しており、これらの重みは、ヒストグラム、特定の値からの距離、等々などのいくつかの所定の基準の関数として誘導することができる。画像全体が調査されて修正係数表が作成されると、既存の項目を補間することによって修正係数表の残りのすべての空欄が埋められる。
【００１９】
復元手順は、飽和マップに基づいて画像中の個々のピクセルを調査する。最初に、所与のピクセルに対する適切な修正係数を得るために修正表に対する索引が計算される(表を作成するために使用された手法と同じ手法を使用して)。この場合もBチャネルが修正されるものとする。yBと同じ色チャネルを使用して修正係数が決定される場合、その値は、修正された出力を直接表している。それ以外の場合は、すべて、修正されるピクセルからの非飽和色成分と対応する修正係数が結合され(つまり修正されるピクセルからの非飽和色成分に、色比率に基づく係数が掛け合わされるか、あるいは色差に基づく係数が加えられる)、次に修正係数計算に対する逆算が実施される。同じ色チャネルに対して複数の修正係数表が作成されている場合、このような表の各々を使用して得られる修正値の組合せとして最終修正値を得ることができることに留意されたい。ピクセルの3つのすべてのチャネルが飽和している場合、復元時におけるあらゆる試行を省略することができる。
【００２０】
上に挙げたすべての例は、修正されるチャネルとしてBチャネルが考察されているが、提案されている方法は、他のチャネルにも容易に適用することができ、その説明はここでは省略する。
【００２１】
また、修正表の概念は、不良ピクセルおよびクラスタ修正、雑音除去、モザイク除去、等々などの他の画像予測問題に使用することができることに留意されたい。提案されている修正手順を適用するためには、修正を適用すべき画像位置のマップを作成する必要がある。例えば不良ピクセル/クラスタ修正の場合、このようなマップは、通常、較正中に作成され、かつ、カメラおよび/またはいわゆる生ファイルに記憶される。また、このマップは、画像を調査して近隣のピクセルから逸脱しているピクセルを見出すことによって作成することも可能である。このような処理は、不良ピクセル修正および雑音除去の両方に適している。モザイク除去の場合、修正位置のマップは、下方に存在している色フィルタのレイアウトから分かる。多くの予測用途では、スーパーピクセルの概念、つまりピクセルのブロック内で利用することができる色成分の組合せに基づいて修正表を作成し、かつ、使用することにより、局所近隣における所望の情報(例えば色情報)の不足を克服することができることに留意されたい。
【００２２】
中性化プロセスの基礎をなしている哲学は、単純に、飽和した色チャネルを有するピクセル中の誤った色よりも中性ピクセルの方が許容可能であることである。中性化されるピクセルは、ピクセル中の個々の色チャネルを輝度値と混合することによって中性値に向かって移動する。中性化のために使用される輝度値は、通常、ハイライト領域における小さい値の生成を回避するために、修正されるピクセルの最大チャネル値に設定される。最終ピクセルがどの程度中性であるべきかを決定するために混合値(ゼロと1の間)が計算される。飽和にほど遠いほとんどのピクセルの場合、混合値は、ピクセルが中性化プロセスの影響を受けていないことを意味するゼロである。
【００２３】
計算による有効な方法は、値1が、一般的には3個または2個に設定される所定の数の色チャネルが所与のピクセルに対して飽和していることを表す、新しい単一チャネル2進マップに飽和マップを変換することである。このマップは、次に、例えばマップ中の1に等しい項目毎に拡張することができ、空間パラメータNを使用した拡張操作によって、その項目のN×N個の近隣が1に設定される。このマップは、さらに、最終空間混合係数を生成するために、例えばこのマップを平均化つまりガウスフィルタにかけることによって改良することができる。
【００２４】
上記空間混合演算に対する代替解決法は強度駆動混合である。この場合も個々のピクセルが調査される。一例では、試験輝度値を計算するために、色成分が、例えば(R+G+B)/3、(R+2G+B)/4、0.3R+0.55G+0.15Bとして直接組み合わされ、あるいは他の重みを使用して組み合わされる。他の例では、ピクセルの色成分が最初に降順に分類され、また、試験強度値が、分類されたこれらの色成分の重み付け平均として計算される。一例では、すべての重みは同じ値を有している。他の例では、分類された個々の色成分は異なる値と結合しており、例えば最も大きい成分に最も重い重みが割り当てられ、また、最も小さい成分に最も軽い重みが割り当てられる。この重み付け平均によって試験輝度値Vが生成され、強度混合係数を得るために、この試験輝度値Vと1つまたは複数の所定の閾値が比較される。例えば混合係数は、max(0、min(1、(V-T)/T)として表すことができ、maxおよびminは、最大演算子および最小演算子を表し、また、Tは所定の閾値である。他の解決法では、混合演算は、max(0、min(1、(V-T)/t)として実施され、tおよびTは所定の閾値である。他の式を使用することも可能である。
【００２５】
空間混合係数および強度混合係数は、いずれも0と1の間の値である。一例では、混合演算は空間混合係数を使用して実施される。他の例では、混合演算は強度混合係数を使用して実施される。さらに他の例では、個々のピクセル位置における最終混合係数は、空間混合係数および強度混合係数の組合せ(例えば平均または重み付け平均)として得られ、最終混合値は、ゼロと1の間を維持しなければならないことに留意されたい。混合値は個々の色チャネルに適用され、出力ピクセル値は、最終混合係数を掛け合わせた中性化輝度値と、1と最終混合値の差を掛け合わせたピクセル値の総和として得られる。
【００２６】
本発明の一態様によれば、ディジタルカメラからのディジタル画像のハイライト復元およびハイライト中性化のうちの少なくとも1つを実施するための方法が提供される。最初に図1を参照すると、流れ図には、本発明のこの態様による実例方法10が示されている。
【００２７】
プロセスは参照数表示12で開始される。参照数表示14で、基準露出値がカメラの捕獲パラメータの関数として生成される。基準露出値は、カメラ捕獲パラメータ(開口、シャッター速度、ISO)を使用して計算され、一方、実際の露出値は、獲得された周囲照明センサ読値の関数である。「METHOD OF ADJUSTING THE BRIGHTNESS OF A DIGITAL CAMERA IMAGE」という名称の同時係属出願である米国特許出願第61/487902号に計算例を見出すことができる。この出願は、参照により本明細書に明白に組み込まれている。
【００２８】
参照数表示16で、基準露出値と実際の露出値を比較することによって混合値が計算される。混合値は、ゼロと1の間の値を有するように正規化される(ゼロおよび1を含む)。
【００２９】
参照数表示18で混合値がゼロに等しいかどうか決定される。混合値がゼロに等しい場合、参照数表示20で示されているようにハイライト復元が実施される。混合値がゼロに等しくない場合、参照数表示22で混合値が1に等しいかどうか決定される。混合値が1に等しい場合、参照数表示24でハイライト中性化が実施される。
【００３０】
参照数表示22で混合値が1に等しくない場合、混合値はゼロではないことが参照数表示18で既に決定されているため、混合値はゼロと1の間でなければならない。この場合、参照数表示26でハイライト復元およびハイライト中性化の両方が実施され、混合値に応じてその2つの結果が混合される。次に参照数表示28でプロセスが終了する。
【００３１】
本発明の一態様によれば、ハイライト復元プロセスは、復元が如何に良好に実施されたかを示す品質係数に戻る。参照数表示30で示されているように、これらの品質係数が特定の閾値未満に低下すると、参照数表示32でハイライト復元が放棄され、その代わりに参照数表示24でハイライト中性化が実施される。
【００３２】
本発明の一例示的実施形態によれば、混合値は、実際の露出値と基準露出値の差として計算され、この差は、最大許容可能差値および最小許容可能差値などの1つまたは複数の所定のパラメータを使用してゼロと1の間でスケール化される。他の例示的実施形態では、混合値は、実際の露出値と基準露出値の絶対差として計算され、この絶対差は、最大許容可能絶対差値および最小許容可能絶対差値などの1つまたは複数の所定のパラメータを使用してゼロと1の間でスケール化される。さらに他の例示的実施形態では、実際の露出値と基準露出値の差が所定の閾値より大きい場合に混合演算が実施される。さらに他の例示的実施形態では、最適露出からの露出の逸脱(例えば画像捕獲プロセスの間にカメラによって決定される)が所定の閾値より大きい場合に混合演算が実施される。
【００３３】
ハイライト復元は、すべての色チャネル中に非飽和値を有するピクセル(「非飽和ピクセル」)を近傍に配置し、かつ、それらの値を使用して、飽和したピクセルの飽和したチャネルを非飽和値に復元することによって飽和ピクセルを復元するために試行することができる。飽和したピクセルまたはその成分は、画像データ値と飽和レベル(前もって決定済みであるか、あるいはセンサおよび画像処理設計特性によって指定される)とを比較することによって得られるマップまたはリストの形態で局部化することができる。この飽和閾値より大きいピクセル値は、飽和していると見なされる。
【００３４】
次に図2を参照すると、流れ図には、本発明の一態様による、ディジタル画像上でハイライトの復元を実施するための実例方法40が示されている。プロセスは参照数表示42で開始される。参照数表示44で、飽和したピクセルのマップを作成するために、画像中のピクセルと、イメージャの特性である飽和レベルが比較される。飽和したピクセルは、1つまたは複数の色チャネル中の飽和レベルより大きい値を有する任意のピクセルである。
【００３５】
本発明の一例示的実施形態によれば、復元プロセスには、得られた飽和マップが直接使用される。他の例では、復元プロセスには、隔離されたすべてのピクセルの使用を回避するために(このようなピクセルは、いわゆるホットピクセルを表す、という仮定に基づいて)、および/または飽和ピクセルを復元するためには疑問である、飽和マップの正しく縁の部分の非飽和ピクセルの使用を回避するために、飽和マップの改良型バージョンが使用される。このような改良は、例えば様々なフィルタリング演算子(例えばメジアン)、形態学的演算子(例えば膨張、浸食)、等々を使用して達成することができる。
【００３６】
参照数表示46で飽和マップ(またはその改良型バージョン)から飽和ピクセルが選択される。参照数表示48で、複数の色チャネルのうちの少なくとも1つが非飽和値を有しているかどうか決定される。選択されたピクセルの複数の色チャネルのうちの少なくとも1つが非飽和値を有している場合、プロセスは参照数表示50へ進行し、そこで、選択されたピクセルの上、下、左および右側の最も近い非飽和ピクセルのグループが識別される。本発明の一実施形態では、単一の非飽和ピクセルが個々の方向に識別される。
【００３７】
参照数表示52で、選択されたピクセルの飽和した色チャネル毎に置換値が生成される。復元すべきピクセル中の良好な色チャネルの値と、近傍の非飽和ピクセルの対応する色チャネルの値の組合せを使用して、修復すべきピクセルの飽和したチャネル毎に置換値が計算される。この計算には、個々の近傍のピクセルまでの距離が最終結果の補間に考慮されている。ピクセルに近いほど、補間におけるその重みが重くなる。2010年12月6日に出願した、「CORRECTING DEFECTIVE PIXELS IN DIGITAL COLOR IMAGES.」という名称の同時係属出願である米国特許出願第12/961284号に計算例を見出すことができる。この出願は、参照により本明細書に明白に組み込まれている。
【００３８】
選択されたピクセルの飽和した色チャネル毎に置換値が生成されると、プロセスは参照数表示54へ進行し、そこで、飽和マップ中のすべてのピクセルが処理されたかどうか決定される。すべてのピクセルが処理されていない場合、プロセスは参照数表示46へ戻り、飽和した他のピクセルが飽和マップから選択される。飽和ピクセルマップ中のすべてのピクセルが処理されると、参照数表示56でプロセスが終了する。
【００３９】
参照数表示48で、どの色チャネルも非飽和値を有していないことが決定されると、ピクセルは、参照数表示58で非復元可能としてマークされ、参照数表示56でプロセスが終了する。
【００４０】
次に図3を参照すると、流れ図には、本発明の一態様による、ディジタル画像上でハイライトの復元を実施するために使用するための非飽和ピクセルの選択方法60の実例が示されている。プロセスは参照数表示62で開始される。
【００４１】
本発明の他の態様によれば、図3の参照数表示64で示されているように、入力画像データから縁マップが作成される。既存の任意の縁検出方法(例えばCanny、Sobel、Laplacian)を使用して縁マップを作成することができる。縁マップは、さらに、雑音を抑制し、復元プロセスのためには不必要な細部を除去するために改良することができる。一実施形態によれば、垂直方向および水平方向で計算された勾配が信号の大きさまたは雑音モデル(較正中に得られる)によってスケール化され、次にスケール化された勾配が組み合わされ、また、次に正規化を使用してゼロと1の間でマップされる。他の例では、このマッピングを実施するために非線形関数(例えばエス字形、指数、双曲線正接)を使用することができる。他の例では、スケール化された縁マップを空間フィルタリング(例えば平均化フィルタ)によって改良することができる。さらに他の例示的実施形態では、縁マップは、さらに、ガンマ修正、ベキ関数によって改良することができ、あるいはmax(0、(縁-ベータ)/(1-ベータ))として改良することができ、ベータは、一般的にはゼロと1の間に設定される所定の調整係数である。他の例では、2進縁マップを作成するために、スケール化された縁マップまたはその改良型バージョンを所定のパラメータを使用して閾値化することができる。
【００４２】
参照数表示66で、飽和したピクセルが飽和マップから選択される。既に指摘したように、ピクセルの3つのすべてのチャネルが飽和している場合、復元は試行されない。その代わりに中性化が実施される。
【００４３】
参照数表示68で、選択されたピクセルの上、下、左および右側の最も近い非飽和ピクセルが調査される。本発明の一実施形態によれば、1つまたは2つの飽和チャネルを有するピクセル毎に、左、右、上および下側に4つの最も近い非飽和ピクセルが配置される。
【００４４】
参照数表示70で、最終縁マップを基準として使用して、調査された非飽和ピクセルのうちのいずれかが縁部分(修復されるピクセルに対して)に存在し、あるいは縁を越えて存在しているかどうか決定される。縁部分に、あるいは縁を越えて存在していない場合、プロセスは参照数表示72へ進行し、そこで「良好修復」としてピクセル復元がマークされ、かつ、良好修復カウントがインクリメントされる。プロセスは、次に参照数表示74へ進行し、そこで4つのすべての非飽和ピクセルがピクセル復元に使用される。選択されたピクセルに対するプロセスは、参照数表示76で終了する。
【００４５】
参照数表示70で、調査された非飽和ピクセルのうちのいずれかが縁部分(修復されるピクセルに対して)に存在し、あるいは縁を越えて存在していることが決定されると、プロセスは参照数表示78へ進行し、そこで、4つのすべての非飽和ピクセルが縁部分に存在し、あるいは縁を越えて存在しているかどうか決定される。すべての非飽和ピクセルが縁部分に存在し、あるいは縁を越えて存在している場合、それらは、すべて、参照数表示74で復元に使用されるが、修復は、参照数表示80で「不良修復」としてマークされ、かつ、不良修復カウントがインクリメントされる。
【００４６】
参照数表示78で、すべてではないが、いくつかの非飽和ピクセルが縁部分に存在し、あるいは縁を越えて存在していることが決定されるか、あるいは飽和マップが複数の方向のうちの1つの方向に画像自体の縁まで及んでいる場合、そのピクセルは復元には使用されず、修復は、決定に際して無視されていない非飽和ピクセルを使用して実施される。
【００４７】
本発明の一例示的実施形態によれば、復元プロセスは反復プロセスである。「良好」修復がマークされたすべてのピクセルが飽和マップから除去される。この時点で、その前の反復で「不良修復」がマークされた飽和ピクセルを復元するための後続する反復にこれらのピクセルを使用することができる。一例では、この修正は、複数回にわたる反復で実施される。他の例では、修正は、単一の反復で実施される。
【００４８】
次に図4を参照すると、流れ図には、本発明の一態様による、ディジタル画像上でハイライトの復元を実施するための実例方法90が示されている。プロセスは参照数表示92で開始される。
【００４９】
参照数表示94で、飽和したピクセルが飽和マップから選択される。既に指摘したように、ピクセルの3つのすべてのチャネルが飽和している場合、復元は試行されない。その代わりに中性化が実施される。参照数表示96で、選択された飽和ピクセル中の色チャネルが選択される。
【００５０】
参照数表示98で、選択された色チャネルが飽和値を含んでいるかどうか決定される。選択された色チャネルが飽和値を含んでいない場合、プロセスは参照数表示100へ進行し、そこで、選択されたピクセルの非飽和色チャネルからの値、および選択されたピクセルの近隣の個々の最も近い非飽和ピクセルの同じ色チャネルからの値を使用して、選択された色チャネルに対する置換ピクセル値が生成される。参照数表示98で、選択された色チャネルが飽和値を含んでいることが決定されると、プロセスは参照数表示102へ進行し、そこで、選択されたピクセルの近隣の個々の最も近い非飽和ピクセルの同じ色チャネルからの値のみを使用して、選択された色チャネルに対する置換ピクセル値が生成される。
【００５１】
参照数表示104で、選択されたピクセルのすべての色チャネルが処理されたかどうか決定される。すべての色チャネルが処理されていない場合、プロセスは参照数表示96へ戻り、選択されたピクセルからの処理されていない色チャネルが選択される。選択されたピクセルのすべての色チャネルが処理されると、プロセスは参照数表示106へ進行し、そこで、すべての飽和ピクセルが処理されたかどうか決定される。すべての飽和ピクセルが処理されていない場合、プロセスは参照数表示94へ戻り、処理されていない飽和ピクセルが選択される。
【００５２】
画像中のすべての飽和ピクセルが処理されると、復元プロセスが完了する。復元プロセスが完了すると、プロセスは参照数表示108へ進行し、そこで、飽和マップ中で識別される個々のピクセル位置に平滑化フィルタが適用される。このフィルタの目的は、修正の副作用として生成されるあらゆるパターンまたはピクセル人工物を抑制することである。プロセスは次に参照数表示110で終了する。
【００５３】
本発明の他の態様によれば、ハイライト復元方法は、復元される領域の品質を予測し、かつ、品質係数を計算する。必要な修正改善をもたらすために、復元品質が十分であるかどうか、あるいは画像をさらに処理すべきかどうか(例えばもっと多くの反復を使用して、あるいはハイライト中性化などの代替処理を使用して)を決定するために、さもなければ復元が失敗したかどうかを決定するために、この品質係数が閾値パラメータ(前もって決定されるか、あるいは実際の画像に対して計算される)と比較される。本発明のこの態様について、図5および6の流れ図を参照して説明する。
【００５４】
図5に示されている一例では、ディジタル画像上でハイライトの復元を実施するための例示的反復方法110が示される。このハイライト復元方法は、不良修復に対する良好修復の比率を計算する。この方法は参照数表示112で開始される。
【００５５】
参照数表示114で、不良修復カウントに対する良好修復カウントの比率として表される品質係数が決定される。参照数表示116で、この比率が閾値より大きいかどうか決定される。閾値以下である場合、プロセスは参照数表示118で終了する。
【００５６】
参照数表示116で比率が閾値より大きいことが決定されると、プロセスは参照数表示120へ進行する。参照数表示120でもう一度復元プロセスが実施されるが、今回の復元プロセスには、1回目の復元プロセスの実施で復元されたピクセルからの追加ピクセル・データが使用される。
【００５７】
参照数表示122で所定の数の反復が実施されたかどうか決定される。所定の数の反復が実施されている場合、プロセスは参照数表示118で終了する。参照数表示122で所定の数の反復が実施されていないことが決定されると、プロセスは参照数表示114へ戻り、今度は、先行する復元プロセスを反映している更新データを使用して、不良修復カウントに対する良好修復カウントの比率が決定される。
【００５８】
図6を参照して示されている方法130の他の実施形態によれば、ハイライト復元ルーチンは、1つのチャネル、2つのチャネルまたは3つのすべてのチャネルが飽和した飽和ピクセルの数の特定の比率を計算する。一例では、このような比率は、r/(r+g+b)、g/(r+g+b)、b/(r+g+b)、(r+g)/(r+g+b)、(r+b)/(r+g+b)および(g+b)/(r+g+b)として計算され、r、gおよびbは、それぞれR色チャネル、G色チャネルおよびB色チャネル中の飽和ピクセルの数を表している。他の例では、このような比率は、r/x、g/x、b/x、(r+g)/x、(r+b)/xおよび(g+b)/xとして計算され、xは、少なくとも1つのチャネルが飽和したピクセルの数を表している。さらに他の例では、このような比率は、x1/x2、x1/x3、x2/x3として計算され、x1、x2およびx3は、正確に1つ、2つまたは3つのチャネルが飽和したピクセルの数を表している。他の解決法も可能である。これらの比率は、復元プロセスが失敗に終わったと見なすかどうかを決定するために使用することができる呼出しルーチンに戻される。例えばこの決定は、上記のようにして計算された比率と所定の閾値との比較に基づくことができる。
【００５９】
プロセスは参照数表示132で開始される。参照数表示134で、1つ、2つまたは3つの飽和した色チャネルを有する飽和ピクセルの比率が計算される。参照数表示136で、これらの比率が閾値の値より大きいかどうか決定される。
【００６０】
どの比率も閾値の値以下である場合、プロセスは参照数表示138で終了する。比率が閾値より大きい場合、参照数表示140で、いずれかの比率が臨界値より大きいかどうか決定される。いずれかの比率が臨界値より大きい場合、参照数表示142で、失敗したことが復元プロセスにマークされ、参照数表示138でプロセスが終了する。
【００６１】
どの比率も臨界値以下である場合、プロセスは参照数表示144へ進行し、そこで反復復元操作が実施される。既に指摘したように、反復復元操作には、先行する復元操作の間に復元されたピクセルからのピクセル値を使用する利点がある。
【００６２】
参照数表示146で、所定の数の反復が実施されたかどうか決定される。所定の数の反復が実施されている場合、参照数表示138でプロセスが終了する。所定の数の反復が実施されていないことが参照数表示146で決定されると、プロセスは参照数表示134へ戻り、1つ、2つまたは3つの飽和した色チャネルを有する飽和ピクセルの比率がもう一度計算される。今度は、先行する復元プロセスを反映している更新データを使用して、1つ、2つまたは3つの飽和した色チャネルを有する飽和ピクセルの比率が決定される。
【００６３】
次に図7を参照すると、流れ図には、本発明の一態様による、修正係数表を作成し、かつ、それらを画像に適用するための実例方法150が示されている。この方法は参照数表示152で開始される。
【００６４】
参照数表示154で、画像全体にわたって、当該色チャネルが飽和していないピクセルが解析される。これは、他の制約と組み合わせることができ、例えば修正係数表の作成に使用されるピクセルは、特定の閾値より大きい輝度値を有していなければならず、および/またはこれらのピクセルは、それらの色チャネルのいずれをもクリップさせることはできない、等々の制約と組み合わせることができる。
【００６５】
修正表を作成するために選択されるピクセルの各々に対して、それぞれ1つまたは複数の色チャネルの関数である少なくとも2つの値が計算される。そのうちの1つは、修正係数表中への索引として使用され、他の値は、修正係数そのものである。参照数表示156で、修正表のための索引値が計算され、また、修正係数の値が計算される。これらの計算を実施する順序は重要ではないことは当業者には認識されよう。本発明の方法には、このような演算特性が必要である場合、複数の修正係数を計算することが企図されていることに留意されたい。
【００６６】
修正係数表の項目の数は、表サイズaによって表される。この設計パラメータは、一般的には前もって決定される。通常、aは、個々の色チャネルを表すために使用されるビットの数以下に設定される。しかしながら、aの値が小さすぎると、非常に異なるピクセルが同じ索引に結合されることになるため、修正精度が悪くなることがある。
【００６７】
索引値は、1つまたは複数の色チャネルの関数である。Bチャネルが修正され、また、Mが、一般的には所与のビット表現における最大許容値に等しい設計パラメータである場合を考察する(他の設定も可能である)。一例では、索引は、復元されていない1つまたは2つの色チャネルの関数であり、例えばこのような関数は、amin(R、M)/M、amin(G、M)/M、aR/(R+G)またはaG/(R+G)として定義することができ、minは最小演算子を表している。他の例では、索引は、復元される色チャネルの関数であり、例えばこのような関数は、amin(B、M)/Mとして定義することができる。さらに他の例では、索引は、復元される色チャネルおよび一方または両方の他の色チャネルの関数であり、例えばこのような関数は、aB/(R+G+B)として定義することができる。最終索引は、上で説明したように計算された索引値の丸めバージョンであることに留意されたい。
【００６８】
修正係数は、複数の方法で決定することも可能である。もう一度Bチャネルが修正される場合を考察する。一例では、修正係数は、修正される色チャネルのスケール値、つまりyBとして計算され、yは前もって決定されるか、あるいは画像統計量に基づいて適応的に決定される。他の例では、修正係数は、ピクセル中の他の2つの色チャネルのうちの一方に対する修正される色チャネルの比率として計算され、例えばこのような修正係数は、B/GまたはB/Rとして定義することができる。他の例では、修正係数は、修正される色チャネルと、ピクセル中の他の2つの色チャネルのうちの一方との差、つまり、例えばB-GまたはB-Rとして計算される。他の例では、修正係数は、修正される色チャネルおよびピクセル中の両方の他の色チャネルの関数として計算され、例えばこのような関数は、2B-R-G、2B/(R+G)またはB2/(RG)として定義することができる。さらに他の例では、2つの修正係数が、修正される色チャネルと、他の2つの色チャネルの各々との間の比率または差として計算される。同じ索引値に対応する異なるピクセルは、同じ修正係数計算手法に対して異なる修正係数を生成することがあるため、修正係数表に記憶される最終修正係数は、ピクセルに関する修正係数の関数として計算される。一例では、同じ索引に対応するすべてのピクセルに対する修正係数が平均化される。他の例では、同じ索引を有するピクセルの異なる修正係数は異なる重みを有しており、これらの重みは、ヒストグラム、特定の値からの距離、等々などのいくつかの所定の基準の関数として誘導することができる。
【００６９】
画像全体が調査されると、参照数表示158で修正係数表が作成され、かつ、既存の項目を補間することによって修正係数表の残りのすべての空欄が埋められる。場合によっては複数の修正係数表を作成することができる。修正表は、索引値として増分によって作成することができ、また、修正係数が決定されることは当業者には認識されよう。
【００７０】
復元手順は、飽和マップに基づいて画像中の個々のピクセルを調査する。参照数表示160でピクセルが選択される。参照数表示162で、ピクセルのすべての色チャネルが飽和しているかどうか決定される。ピクセルのすべての色チャネルが飽和していない場合、ピクセルを処理することができ、また、参照数表示164で、ピクセルの索引値が計算される(表を作成するために使用された手法と同じ手法を使用して)。
【００７１】
参照数表示166で、修正係数を得るために、その索引値を使用して修正表をアドレス指定する。
【００７２】
いくつかの例では複数の修正表が使用されており、このような表の各々を使用して得られる修正値の組合せとして最終修正値を得ることができる。参照数表示168で、追加修正表が使用中であるかどうか決定される。追加修正表が使用中である場合、プロセスは、追加修正係数を得るために参照数表示164および166へ戻る。すべての修正係数表がアクセスされ、修正係数が決定されると、参照数表示170で、修正されたピクセル値を生成するために、得られた修正係数がピクセルに適用される。yBと同じ色チャネルを使用して修正係数が決定される場合、その値は、修正された出力を直接表している。それ以外の場合は、すべて、修正されるピクセルからの非飽和色成分と対応する修正係数が結合され(つまり修正されるピクセルからの非飽和色成分に、色比率に基づく係数が掛け合わされるか、あるいは色差に基づく係数が加えられる)、次に修正係数計算に対する逆算が実施される。使用された修正表が1つのみである場合、修正ピクセル値が直接生成される。あるいは使用された修正表が複数である場合は、中間修正ピクセル値を結合するために、得られたすべての修正係数がピクセルに適用される。次に、最終修正ピクセル値が記憶される。
【００７３】
参照数表示172で、画像中のすべてのピクセルが処理されたかどうか決定される。画像中のすべてのピクセルが処理されていない場合、プロセスは参照数表示160へ戻り、他のピクセルが処理のために選択される。画像中のすべてのピクセルが処理されている場合、参照数表示174でプロセスが終了する。
【００７４】
本発明の他の態様によれば、1つは修正表に基づく手法、もう1つは局所近隣で利用することができる非飽和ピクセルを使用する手法の2つの手法を組み合わせることができる。実施態様例では、これらの2つの手法を使用して生成される2つの中間ピクセルの平均または重み付け平均として個々の飽和ピクセルを修正することができる。このような重み付け平均計算では、偏りのない予測をもたらすためには、重みの総和は1に等しくなければならない。
【００７５】
次に図8を参照すると、流れ図には、修正表および局所近隣で利用することができる非飽和ピクセルの両方を使用して、ディジタル画像上でハイライトの復元を実施するための実例方法180が示されている。この方法は参照数表示182で開始される。
【００７６】
参照数表示184で、画像全体にわたって、当該色チャネルが飽和していないピクセルが解析される。これは、他の制約と組み合わせることができ、例えば修正係数表の作成に使用されるピクセルは、特定の閾値より大きい輝度値を有していなければならず、および/またはこれらのピクセルは、それらの色チャネルのいずれをもクリップさせることはできない、等々の制約と組み合わせることができる。
【００７７】
修正表を作成するために選択されるピクセルの各々に対して、それぞれ1つまたは複数の色チャネルの関数である少なくとも2つの値が計算される。そのうちの1つは、修正係数表中への索引として使用され、他の値は、修正係数そのものである。参照数表示186で、修正表のための索引値が計算され、また、修正係数の値が計算される。これらの計算を実施する順序は重要ではないことは当業者には認識されよう。本発明の方法には、このような演算特性が必要である場合、複数の修正係数を計算することが企図されていることに留意されたい。
【００７８】
画像全体が調査されると、参照数表示188で修正係数表が作成され、かつ、既存の項目を補間することによって修正係数表の残りのすべての空欄が埋められる。場合によっては複数の修正係数表を作成することができる。修正表は、索引値として増分によって作成することができ、また、修正係数が決定されることは当業者には認識されよう。
【００７９】
復元手順は、飽和マップに基づいて画像中の個々のピクセルを調査する。参照数表示190でピクセルが選択される。参照数表示192で、ピクセルのすべての色チャネルが飽和しているかどうか決定される。ピクセルのすべての色チャネルが飽和していない場合、ピクセルを処理することができ、また、参照数表示194で、ピクセルの索引値が計算される(表を作成するために使用された手法と同じ手法を使用して)。
【００８０】
参照数表示196で、修正係数を得るために、その索引値を使用して修正表をアドレス指定する。
【００８１】
いくつかの例では複数の修正表が使用されており、このような表の各々を使用して得られる修正値の組合せとして最終修正値を得ることができる。参照数表示198で、追加修正表が使用中であるかどうか決定される。追加修正表が使用中である場合、プロセスは、追加修正係数を得るために参照数表示194および196へ戻る。すべての修正係数表がアクセスされ、修正係数が決定されると、プロセスは参照数表示200を継続し、そこで、修正されたピクセル値を生成するために、得られた修正係数がピクセルに適用される。yBと同じ色チャネルを使用して修正係数が決定される場合、その値は、修正された出力を直接表している。それ以外の場合は、すべて、修正されるピクセルからの非飽和色成分と対応する修正係数が結合され(つまり修正されるピクセルからの非飽和色成分に、色比率に基づく係数が掛け合わされるか、あるいは色差に基づく係数が加えられる)、次に修正係数計算に対する逆算が実施される。使用された修正表が1つのみである場合、修正ピクセル値が直接生成される。あるいは使用された修正表が複数である場合は、中間修正ピクセル値を結合するために、得られたすべての修正係数がピクセルに適用される。
【００８２】
参照数表示192ですべての色チャネルが飽和していることが決定されると、参照数表示202で、最も近い非飽和ピクセルの同じ色チャネルからの値を使用して置換ピクセル値が生成される。さらに、参照数表示192ですべての色チャネルが飽和していないことが決定されると、参照数表示204で、選択されたピクセルの非飽和色チャネルからの値、および最も近い非飽和ピクセルの同じ色チャネルからの値を使用して置換ピクセル値が生成される。
【００８３】
参照数表示202および204のいずれかの処理が完了すると、プロセスは参照数表示206へ進行し、そこで、最終修正ピクセル値を生成するために、少なくとも1つの修正係数表を使用して得られた修正ピクセル値と、近隣のピクセルを使用して得られた置換ピクセル値が結合される。既に指摘したように、実施態様例では、これらの2つの手法を使用して生成される2つの中間ピクセル値の平均または重み付け平均として個々の飽和ピクセルを修正することができる。このような重み付け平均計算では、偏りのない予測をもたらすためには、重みの総和は1に等しくなければならない。
【００８４】
参照数表示208で、画像中のすべてのピクセルが処理されたかどうか決定される。画像中のすべてのピクセルが処理されていない場合、プロセスは参照数表示190へ戻り、他のピクセルが処理のために選択される。画像中のすべてのピクセルが処理されている場合、参照数表示210でプロセスが終了する。
【００８５】
本明細書において開示されている復元方法の実施に加えて、中性化方法を適用することによって飽和ピクセルを処理することも可能である。ハイライト中性化は、ハイライト領域における色情報の抑制を目的としている。任意の既存の中性化方法を使用して、提案されているハイライト処理フレームワークの中でこのタスクを完了することができる。
【００８６】
本発明の一例示的実施形態によれば、中性化方法は、強度混合係数を生成するためにすべてのピクセルを調査する。これらのピクセルのうちで3つのすべてのチャネルが特定の閾値(飽和レベルより著しく低い何らかの値として決定され、例えばこの閾値は、12ビット画像表現における2000または3000に等しい)を超えている場合、実際にどの程度飽和レベルに近いかに応じてピクセル値が中性に向かって移動される。これは、ピクセル強度に応じて大きくなる強度混合係数によって反映される。すべてのチャネルが飽和レベルより高い場合、ピクセルは完全に中性化されている。
【００８７】
次に図9を参照すると、流れ図には、本発明の一態様による、ハイライトの中性化を実施するための実例方法220が示されている。この方法は参照数表示222で開始される。
【００８８】
参照数表示224で画像からのピクセルが選択される。参照数表示226でピクセル混合係数が生成される。参照数表示228で、選択されたピクセルに対する中性化値が生成される。参照数表示230で、混合係数を使用して、どの程度飽和レベルに近いかに応じてピクセル値が中性化値に向かって移動される。
【００８９】
参照数表示232で、画像中のすべてのピクセルが処理されたかどうか決定される。画像中のすべてのピクセルが処理されていない場合、プロセスは参照数表示224へ戻り、他のピクセルが処理のために選択される。画像中のすべてのピクセルが処理されている場合、参照数表示234でプロセスが終了する。
【００９０】
本発明の他の例示的実施形態によれば、飽和マップを使用して中性化方法が導かれる。飽和マップは、後続する処理ステップでの使用に先立って改良することができる。このような改良は、例えば様々なフィルタリング演算子(例えばメジアン)、形態学的演算子(例えば膨張、浸食)、等々を使用して達成することができる。次のステップで、空間混合マップを作成するために空間平均化フィルタを使用して飽和マップを平滑化することができる。次に、その混合マップを使用して、元の画像(つまりそのハイライト復元バージョン)と、個々のピクセル位置における色成分の最大または重み付け平均として得ることができる中性化信号が混合される。
【００９１】
次に図10を参照すると、流れ図には、本発明の一態様による、ハイライトの中性化を実施するための実例方法240が示されている。この方法は参照数表示242で開始される。
【００９２】
参照数表示244で、飽和したピクセルのマップを作成するために画像中のピクセルと飽和レベルが比較される。参照数表示246で、本明細書において開示されているように飽和マップが改良される。参照数表示248で、空間混合マップを作成するために飽和マップが平滑化される。参照数表示250で、飽和マップからピクセルが選択される。参照数表示252で、選択されたピクセルに対する中性化値が生成される。参照数表示254で、選択されたピクセルと中性化値を混合するために混合マップが使用される。
【００９３】
参照数表示256で、画像中のすべてのピクセルが処理されたかどうか決定される。画像中のすべてのピクセルが処理されていない場合、プロセスは参照数表示250へ戻り、他のピクセルが処理のために選択される。画像中のすべてのピクセルが処理されている場合、参照数表示258でプロセスが終了する。
【００９４】
本発明のさらに他の例示的実施形態によれば、個々のピクセル位置における最終混合係数は、空間混合係数および強度混合係数の組合せ(例えば平均または重み付け平均)として得られ、最終混合値は、ゼロと1の間を維持しなければならないことに留意されたい。混合値は個々の色チャネルに適用され、出力ピクセル値は、最終混合係数を掛け合わせた中性化輝度値と、1と最終混合値の差を掛け合わせたピクセル値の総和として得られる。
【００９５】
次に図11を参照すると、流れ図には、本発明の一態様による、ハイライトの中性化を実施するための実例方法260が示されている。この方法は参照数表示262で開始される。
【００９６】
参照数表示264で、飽和したピクセルのマップを作成するために画像中のピクセルと飽和レベルが比較される。参照数表示266で、本明細書において開示されているように飽和マップが改良される。参照数表示268で、空間混合マップを作成するために飽和マップが平滑化される。参照数表示270で、飽和マップからピクセルが選択される。
【００９７】
参照数表示272で強度混合係数が生成される。参照数表示274で、選択されたピクセルに対する中性化値が生成される。参照数表示276で、空間混合係数と強度混合係数とを結合して最終混合係数が生成される。参照数表示278で、選択されたピクセルを変更するために、結合された混合係数が使用される。
【００９８】
参照数表示280で、画像中のすべてのピクセルが処理されたかどうか決定される。画像中のすべてのピクセルが処理されていない場合、プロセスは参照数表示270へ戻り、他のピクセルが処理のために選択される。画像中のすべてのピクセルが処理されている場合、参照数表示282でプロセスが終了する。
【００９９】
本発明の例示的実施形態についての以上の説明では、本発明の様々な特徴は、開示を簡潔にするために、また、本発明の様々な態様のうちの1つまたは複数の理解を促進するために、場合によっては単一の実施形態、図またはその説明の中で1つにグループ化されていることを理解されたい。本発明の態様の本質は、上で開示した単一の実施形態のすべての特徴にあるのではなく、また、本明細書において説明されている個々の実施形態は、本発明の複数の特徴を含むことができる。
【０１００】
以上、本発明の実施形態および用途について、図に示し、かつ、説明したが、本明細書における本発明の概念から逸脱することなく、上で言及した変更態様よりももっと多くの変更態様が可能であることは当業者には明らかであろう。したがって、特許請求の範囲の精神を除き、本発明を限定してはならない。
【符号の説明】
【０１０１】
10  ディジタルカメラからのディジタル画像のハイライト復元およびハイライト中性化のうちの少なくとも1つを実施するための方法
40  ディジタル画像上でハイライトの復元を実施するための方法
60  ディジタル画像上でハイライトの復元を実施するために使用するための非飽和ピクセルの選択方法
90  ディジタル画像上でハイライトの復元を実施するための方法
110  ディジタル画像上でハイライトの復元を実施するための方法
130  図6を参照して示されている方法
150  修正係数表を作成し、かつ、それらをディジタル画像に適用するための方法
180  修正表および局所近隣で利用することができる非飽和ピクセルの両方を使用して、ディジタル画像上でハイライトの復元を実施するための方法
220  ハイライトの中性化を実施するための方法
240  ハイライトの中性化を実施するための方法
260  ハイライトの中性化を実施するための方法
【図１】
0005567063.tif 000002
【図２】
0005567063.tif 000003
【図３】
0005567063.tif 000004
【図４】
0005567063.tif 000005
【図５】
0005567063.tif 000006
【図６】
0005567063.tif 000007
【図７】
0005567063.tif 000008
【図８】
0005567063.tif 000009
【図９】
0005567063.tif 000010
【図１０】
0005567063.tif 000011
【図１１】
0005567063.tif 000012