(57)【要約】  画像デモザイク化のためのシステム、ならびにシステムを製造および使用するための方法。画像デモザイク化システムは、レンズ、モザイク化フィルタ、イメージセンサアレイ、および処理モジュールを備える。処理モジュールは、レンズおよびモザイク化フィルタを通過する感知された光から生成されたモザイク化済み画像に、適合デモザイク化を実行するように構成される。画像デモザイク化の方法は、水平方向および鉛直方向における知られていない赤色画素、緑色画素、および青色画素の複数の値を補間するステップと、各画素に対する複数の補間結果のうち１つを選択するステップとを備える。開示されるシステムおよび方法は、様々な信号対ノイズ比（ＳＮＲ）で動作しつつ、高品質の画像処理を提供し、最小の計算時間およびオーバヘッドを必要とする。
2017502598.tif 000002
【特許請求の範囲】
【請求項１】
モザイク化済み画像の適合デモザイク化の方法であって、
第１の色、第２の色、および第３の色を含むモザイクパターンを有する前記モザイク化済み画像を受信するステップと、
前記モザイク化済み画像をデモザイク化し、適合デモザイク化済み画像を生成するステップとを備え、
前記適合デモザイク化は、
水平方向もしくは鉛直方向における前記第１の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
水平方向もしくは鉛直方向における前記第２の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
水平方向もしくは鉛直方向における前記第３の色の知られていない複数の画素の部分に対する複数の値を補間するステップとを含む、方法。
【請求項２】
前記第２の色および前記第３の色の知られていない複数の画素の前記部分の複数の値を補間する前記ステップは、前記第１の色の知られていない複数の画素の前記部分に対する第１の複数の値の補間に基づく、請求項１に記載の方法。
【請求項３】
前記第２の色および前記第３の色の知られていない複数の画素の前記部分の複数の値を補間する前記ステップは、前記第１の色の知られていない複数の画素の前記部分に対する第１の複数の値の補間後に行われる、請求項１または２に記載の方法。
【請求項４】
前記モザイク化済み画像は、ベイヤーパターン中に赤色画素、緑色画素、および青色画素を含む、請求項１から３のいずれか１項に記載の方法。
【請求項５】
前記第１の色は、緑色であり、前記第２の色は、赤色であり、前記第３の色は、青色である、請求項１から４のいずれか１項に記載の方法。
【請求項６】
水平方向の補間または鉛直方向の補間は、画素位置の知られた色データに基づいて選択される、請求項１から５のいずれか１項に記載の方法。
【請求項７】
水平方向の補間および鉛直方向の補間のうち１つを選択することは、それぞれ鉛直方向および水平方向の最近傍画素の比較を含む、請求項１から６のいずれか１項に記載の方法。
【請求項８】
水平方向の補間および鉛直方向の補間のうち１つを選択することは、水平方向の勾配を算出することと、鉛直方向の勾配を算出することとを含む、請求項１から７のいずれか１項に記載の方法。
【請求項９】
水平方向の補間および鉛直方向の補間のうち１つは、所与の各画素位置について選択され、
前記第１の色、前記第２の色、および前記第３の色の前記知られていない複数の画素の補間は、選択された補間方向を用いて、該画素位置に対して実行される、請求項１から８のいずれか１項に記載の方法。
【請求項１０】
所与の画素位置に対する水平方向の補間または鉛直方向の補間を選択することは、類似の複数の近傍画素色値のうち最も少ない変化を有する該画素位置において補間方向を識別することに基づく、請求項１から９のいずれか１項に記載の方法。
【請求項１１】
前記適合デモザイク化は、前記デモザイク化済み画像にメジアンフィルタを適用することを更に含む、請求項１から１０のいずれか１項に記載の方法。
【請求項１２】
前記デモザイク化済み画像をディスプレイ上に表示するステップを更に備える、請求項１から１１のいずれか１項に記載の方法。
【請求項１３】
前記モザイク化済み画像を受信する前記ステップは、イメージセンサアレイから前記モザイク化済み画像を受信するステップを有する、請求項１から１２のいずれか１項に記載の方法。
【請求項１４】
レンズおよびモザイク化フィルタを通過する感知された光に基づいて、前記モザイク化済み画像を生成するステップを更に備える、請求項１から１３のいずれか１項に記載の方法。
【請求項１５】
モザイク化済み画像の適合デモザイク化の方法であって、
第１の色、第２の色、および第３の色を有するモザイクパターンを含む前記モザイク化済み画像を受信するステップと、
前記モザイク化済み画像に対するノイズレベルインデックスを取得するステップと、
前記ノイズレベルインデックスが閾値よりも大きいか否かを判断するステップと、
前記ノイズレベルインデックスが前記閾値よりも大きくない場合に、前記モザイク化済み画像に双線形デモザイク化を実行し、双線形デモザイク化済み画像を生成するステップと、
前記ノイズレベルインデックスが前記閾値よりも大きい場合に、前記モザイク化済み画像に適合デモザイク化を実行し、適合デモザイク化済み画像を生成するステップとを備え、
前記適合デモザイク化は、
水平方向もしくは鉛直方向における前記第１の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
水平方向もしくは鉛直方向における前記第２の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
水平方向もしくは鉛直方向における前記第３の色の知られていない複数の画素の部分に対する複数の値を補間するステップとを含む、方法。
【請求項１６】
前記第２の色および前記第３の色の知られていない複数の画素の前記部分の前記複数の値を補間する前記ステップは、前記第１の色の知られていない複数の画素の前記部分に対する第１の複数の値の補間に基づく、請求項１５に記載の方法。
【請求項１７】
前記第２の色および前記第３の色の知られていない複数の画素の前記部分の複数の値を補間する前記ステップは、前記第１の色の知られていない複数の画素の前記部分に対する第１の複数の値の前記補間の後に行われる、請求項１５または１６に記載の方法。
【請求項１８】
前記モザイク化済み画像は、ベイヤーパターン中に赤色画素、緑色画素、および青色画素を含む、請求項１５から１７のいずれか１項に記載の方法。
【請求項１９】
前記第１の色は、緑色であり、前記第２の色は、赤色であり、前記第３の色は、青色である、請求項１５から１８のいずれか１項に記載の方法。
【請求項２０】
水平方向の補間または鉛直方向の補間は、画素位置の知られた色データに基づいて選択される、請求項１５から１９のいずれか１項に記載の方法。
【請求項２１】
水平方向の補間および鉛直方向の補間のうち１つを選択することは、それぞれ鉛直方向および水平方向の最近傍画素の比較を含む、請求項１５から２０のいずれか１項に記載の方法。
【請求項２２】
水平方向の補間および鉛直方向の補間のうち１つを選択することは、水平方向の勾配を算出することと、鉛直方向の勾配を算出することとを含む、請求項１５から２１のいずれか１項に記載の方法。
【請求項２３】
水平方向の補間および鉛直方向の補間のうち１つは、所与の各画素位置について選択され、
前記第１の色、前記第２の色、および前記第３の色の前記知られていない複数の画素の補間は、選択された補間方向を用いて、該画素位置に対して実行される、請求項１５から２２のいずれか１項に記載の方法。
【請求項２４】
所与の画素位置に対する水平方向の補間または鉛直方向の補間を選択することは、類似の複数の近傍画素色値のうち最も少ない変化を有する該画素位置において補間方向を識別することに基づく、請求項１５から２３のいずれか１項に記載の方法。
【請求項２５】
前記適合デモザイク化は、前記デモザイク化済み画像にメジアンフィルタを適用することを更に含む、請求項１５から２４のいずれか１項に記載の方法。
【請求項２６】
前記デモザイク化済み画像をディスプレイ上に表示するステップを更に備える、請求項１５から２５のいずれか１項に記載の方法。
【請求項２７】
前記モザイク化済み画像を受信する前記ステップは、イメージセンサアレイから前記モザイク化済み画像を受信するステップを有する、請求項１５から２６のいずれか１項に記載の方法。
【請求項２８】
レンズおよびモザイク化フィルタを通過する感知された光に基づいて、前記モザイク化済み画像を生成するステップを更に備える、請求項１５から２７のいずれか１項に記載の方法。
【請求項２９】
レンズと、
モザイク化フィルタと、
前記レンズおよび前記モザイク化フィルタを通過する感知された光に基づいて、第１の色、第２の色、および第３の色を含むモザイクパターンを有するモザイク化済み画像を生成するように動作可能なイメージセンサアレイと、
水平方向もしくは鉛直方向における前記第１の色の知られていない複数の画素の部分に対する複数の値を補間し、
水平方向もしくは鉛直方向における前記第２の色の知られていない複数の画素の部分に対する複数の値を補間し、
水平方向もしくは鉛直方向における前記第３の色の知られていない複数の画素の部分に対する複数の値を補間することにより、
知られていない複数の画素の補間により、前記モザイク化済み画像をデモザイク化し、デモザイク化済み画像を生成するように動作可能な処理モジュールとを備える、カメラシステム。
【請求項３０】
前記処理モジュールは、前記第１の色の前記知られていない複数の画素の前記部分に対する第１の複数の値の前記補間に基づいて、前記第２の色および前記第３の色の前記知られていない複数の画素の前記部分に対する前記複数の値を補間する、請求項２９に記載のカメラシステム。
【請求項３１】
前記処理モジュールは、前記第１の色の知られていない複数の画素の前記部分に対する第１の複数の値の前記補間の後に、前記第２の色および前記第３の色の知られていない複数の画素の前記部分に対する前記複数の値を補間する、請求項２９または３０に記載のカメラシステム。
【請求項３２】
前記モザイク化フィルタは、ベイヤーフィルタであり、
前記モザイク化済み画像は、ベイヤーパターン中に赤色画素、緑色画素、および青色画素を含む、請求項２９から３１のいずれか１項に記載のカメラシステム。
【請求項３３】
前記第１の色は、緑色であり、前記第２の色は、赤色であり、前記第３の色は、青色である、請求項２９から３２のいずれか１項に記載のカメラシステム。
【請求項３４】
前記処理モジュールは、補間により前記モザイク化済み画像をデモザイク化し、
水平方向または鉛直方向の補間は、画素位置の知られている色データに基づいて選択される、請求項２９から３３のいずれか１項に記載のカメラシステム。
【請求項３５】
前記処理モジュールは、鉛直方向および水平方向のそれぞれの最近傍画素の比較により、前記第１の色、前記第２の色、および前記第３の色の補間された前記知られていない複数の画素の各々に対する水平方向および鉛直方向の補間のうち１つを選択する、請求項２９から３４のいずれか１項に記載のカメラシステム。
【請求項３６】
前記処理モジュールは、水平方向の勾配を算出し、鉛直方向の勾配を算出することにより、水平方向の補間および鉛直方向の補間のうち１つを選択する、請求項２９から３５のいずれか１項に記載のカメラシステム。
【請求項３７】
前記処理モジュールは、所与の各画素位置に対する水平方向の補間および鉛直方向の補間、ならびに選択された補間方向を用いて該画素位置に対して実行される、前記第１の色、前記第２の色、および前記第３の色の前記知られていない複数の画素の補間のうち１つを選択する、請求項２９から３６のいずれか１項に記載のカメラシステム。
【請求項３８】
前記処理モジュールは、類似の複数の近傍画素色値のうち最も少ない変化を有する所与の画素位置における補間方向を識別することにより、該画素位置に対する水平方向の補間または鉛直方向の補間を選択する、請求項２９から３７のいずれか１項に記載のカメラシステム。
【請求項３９】
前記処理モジュールは、補間により前記モザイク化済み画像をデモザイク化し、
前記デモザイク化済み画像を生成することは、メジアンフィルタを、前記デモザイク化済み画像に適用することを更に含む、請求項２９から３８のいずれか１項に記載のカメラシステム。
【請求項４０】
前記モザイク化済み画像および前記デモザイク化済み画像を格納するように構成されたメモリを更に備える、請求項２９から３９のいずれか１項に記載のカメラシステム。
【請求項４１】
前記デモザイク化済み画像を表示するように構成されたディスプレイを更に備える、請求項２９から４０のいずれか１項に記載のカメラシステム。
【請求項４２】
レンズと、
モザイク化フィルタと、
前記レンズおよび前記モザイク化フィルタを通過する感知された光に基づいて、第１の色、第２の色、および第３の色を含むモザイクパターンを有するモザイク化済み画像を生成する、イメージセンサアレイと、
前記モザイク化済み画像に対するノイズレベルインデックスを判断し、
前記ノイズレベルインデックスが閾値よりも大きいか否かを判断し、
前記ノイズレベルインデックスが前記閾値よりも大きくない場合に、前記モザイク化済み画像に双線形デモザイク化を実行し、双線形デモザイク化済み画像を生成し、
前記ノイズレベルインデックスが前記閾値よりも大きい場合に、前記モザイク化済み画像に適合デモザイク化を実行し、適合デモザイク化済み画像を生成することにより、
知られていない複数の画素値の補間により、前記モザイク化済み画像をデモザイク化し、デモザイク化済み画像を生成するように動作可能な処理モジュールとを備え、
前記適合デモザイク化は、
水平方向もしくは鉛直方向における前記第１の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
水平方向もしくは鉛直方向における前記第２の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
水平方向もしくは鉛直方向における前記第３の色の知られていない複数の画素の部分に対する複数の値を補間するステップとを含む、カメラシステム。
【請求項４３】
前記処理モジュールは、前記第１の色の知られていない複数の画素の前記部分に対する第１の複数の値の前記補間に基づいて、前記第２の色および前記第３の色の知られていない複数の画素の前記部分に対する前記複数の値を補間する、請求項４２に記載のカメラシステム。
【請求項４４】
前記処理モジュールは、前記第１の色の知られていない複数の画素の前記部分に対する第１の複数の値の前記補間の後に、前記第２の色および前記第３の色の知られていない複数の画素の前記部分に対する複数の値を補間する、請求項４２または４３に記載のカメラシステム。
【請求項４５】
前記モザイク化フィルタは、ベイヤーフィルタであり、
前記モザイク化済み画像は、ベイヤーパターン中に赤色画素、緑色画素、および青色画素を含む、請求項４２から４４のいずれか１項に記載のカメラシステム。
【請求項４６】
前記第１の色は、緑色であり、前記第２の色は、赤色であり、前記第３の色は、青色である、請求項４２から４５のいずれか１項に記載のカメラシステム。
【請求項４７】
前記処理モジュールは、補間により前記モザイク化済み画像をデモザイク化し、
水平方向または鉛直方向の補間は、画素位置の知られている色データに基づいて、前記処理モジュールにより選択される、請求項４２から４６のいずれか１項に記載のカメラシステム。
【請求項４８】
前記処理モジュールは、鉛直方向および水平方向のそれぞれの最近傍画素の比較により、前記第１の色、前記第２の色、および前記第３の色の補間された前記知られていない複数の画素の各々に対する水平方向および鉛直方向の補間のうち１つを選択する、請求項４２から４７のいずれか１項に記載のカメラシステム。
【請求項４９】
前記処理モジュールは、水平方向の勾配を算出し、鉛直方向の勾配を算出することにより、水平方向の補間および鉛直方向の補間のうち１つを選択する、請求項４２から４８のいずれか１項に記載のカメラシステム。
【請求項５０】
前記処理モジュールは、所与の各画素位置に対する水平方向の補間および鉛直方向の補間、ならびに選択された補間方向を用いて該画素位置に対して実行される、前記第１の色、前記第２の色、および前記第３の色の前記知られていない複数の画素の補間のうち１つを選択する、請求項４２から４９のいずれか１項に記載のカメラシステム。
【請求項５１】
前記処理モジュールは、類似の複数の近傍画素色値のうち最も少ない変化を有する所与の画素位置における補間方向を識別することにより、該画素位置に対する水平方向の補間または鉛直方向の補間を選択する、請求項４２から５０のいずれか１項に記載のカメラシステム。
【請求項５２】
前記処理モジュールは、補間により前記モザイク化済み画像をデモザイク化し、メジアンフィルタを前記デモザイク化済み画像に適用することにより、前記デモザイク化済み画像を生成する、請求項４２から５１のいずれか１項に記載のカメラシステム。
【請求項５３】
前記モザイク化済み画像および前記デモザイク化済み画像を格納するように構成されたメモリを更に備える、請求項４２から５２のいずれか１項に記載のカメラシステム。
【請求項５４】
前記デモザイク化済み画像を表示するように構成されたディスプレイを更に備える、請求項４２から５３のいずれか１項に記載のカメラシステム。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、概ね撮像および画像処理に関し、より具体的には画像デモザイク化のためのシステムおよび方法に関するが、これに限定されない。
【０００２】
従来の複数のデジタルカメラは、複数の光イメージセンサアレイを用いることにより、複数の画像を得る。しかし、光がこれらのセンサアレイに入る前に、光は、まず、光の１つの波長のみがセンサアレイのいずれかの所定のセンサ画素に入ることを可能にするカラーフィルタアレイ（ＣＦＡ）を通過する。これは、各画素が１つの色のみ、典型的には赤色、緑色、または青色を含むモザイク画像をもたらす。このモザイク画像をフルカラー画像に変換する処理は、「デモザイク化」と呼ばれる。
【０００３】
当技術分野において、様々なデモザイク化方法が存在する。しかし、これらの方法の多くは、色彩のエイリアス等の擬色アーティファクト、ジッパー効果（いくつかの隣接する画素上の強度における突然の不自然な変化）、パープルフリンジおよび画像解像度の損失を含む、変換画像における所望でない複数の効果をもたらす。
【０００４】
更に、最も通常の複数のデモザイク化方法は、高いノイズから低いノイズに渡る複数の画像に対して十分な画像変換を提供することができない。従って、そのような複数のデモザイク化方法は、様々な画像上で用いられるには十分に堅牢ではない。
【０００５】
他の従来の複数のデモザイク化方法は、大きな計算上の複雑性を有し、これは、所望でない緩慢な画像処理速度をもたらし、従来の携帯式カメラシステムにおいて利用可能なハードウェアおよび／またはソフトウェアを用いる高速処理ができない。
【０００６】
上記を考慮すると、従来の複数の画像デモザイク化システムおよび方法の前述した障害および欠陥の克服に努める場合に、改善された画像デモザイク化システムおよび方法に対する必要性が存在する。
【図面の簡単な説明】
【０００７】
【図１ａ】レンズ、モザイク化フィルタ、センサアレイ、およびカメラデバイスを含む、デジタル画像を取り込むためのデジタルカメラシステムの一実施形態を図示する、例示的な図である。
【０００８】
【図１ｂ】補間デモザイク化によりトリプレットＲＧＢ画像データに変換される例示的なモザイク化済みＲＧＢ画像を図示する、例示的な図である。
【０００９】
【図２】モザイク化済みＲＧＢ画像の例示的な部分を図示する、例示的な図である。
【００１０】
【図３ａ】デジタル画像を生成、処理、および提示するための方法のフローチャートである。
【００１１】
【図３ｂ】図３ａにおいて図示される方法の一部である、モザイク化済みデジタル画像を取得するための下位方法のフローチャートである。
【００１２】
【図４】図３ａにおいて図示される方法の一部である、画像を適合デモザイク化するための下位方法のフローチャートである。
【００１３】
【図５】図４において図示される方法の一部である、画像の適合デモザイク化のための下位方法のフローチャートである。
【００１４】
【図６ａ】複数のデモザイク化済み画像のピーク信号対ノイズ比（ＰＳＮＲ）と比較される、複数のモザイク化済み画像の信号対ノイズ比（ＳＮＲ）のグラフを図示する。
【００１５】
【図６ｂ】図６ａのグラフにおいて図示される複数の結果の表を示す。
【００１６】
図面は縮尺通りに描かれず、類似の複数の構造または機能の要素は、図面を通して例示的目的のために同一の参照番号により概ね表されることに留意されたい。また、図面は、専ら好ましい実施形態の説明を容易にすることを意図することに留意されたい。図面は、説明される実施形態の全ての態様を図示せず、本開示の範囲を限定しない。
【発明を実施するための形態】
【００１７】
現在利用可能な複数のデモザイク化システムおよび方法は、最適な画像補間を提供できず、膨大なソフトウェアまたはハードウェアのオーバヘッドを必要とするので、高品質の画像処理を提供しつつ、様々な信号対ノイズ比（ＳＮＲ）で動作し、最小の計算時間およびオーバヘッドを必要とする、改善された複数のデモザイク化システムおよび方法は、所望であることが明らかであり、デジタルカメラシステム等の広範なデジタル撮像用途のための基礎を提供し得る。この成果は、図１ａにおいて図示されるデジタルカメラシステム１００により、本明細書において開示される一実施形態に従って得られ得る。
【００１８】
図１ａを参照すると、レンズ１０５、モザイク化フィルタ１１０、センサアレイ１１５、およびカメラデバイス１２０を含むデジタルＲＧＢカメラシステム１００が、抽象的に示される。カメラデバイス１２０は、センサアレイ１１５に動作可能に接続され、プロセッサ１２１（または処理モジュール）、メモリ１２２、およびディスプレイ１２３を備える。様々な実施形態において、ＲＧＢカメラシステム１００は、好適なカメラハウジング（図示せず）内に配置され得る。
【００１９】
図１ａにおいて図示されるように、光１０１は、レンズ１０５に入り、レンズ１０５は、光１０１をモザイク化フィルタ１１０に合焦する。モザイク化フィルタ１１０は、マトリックス内に配置された複数の半透明の赤色画素１１１Ｒ、緑色画素１１１Ｇ、および青色画素１１１Ｂを備え得る。光１０１は、モザイク化フィルタ１１０を通過し、受光済みの光をデジタル信号に変換する、複数の対応するセンサ画素１１６を有するセンサアレイ１１５に至る。センサアレイ１１５は、図１ｂにおいて図示されるモザイク化済みデジタル画像１３０を生成する。図１ａに留まると、モザイク化フィルタ１１０は、複数の半透明の赤色画素１１１Ｒ、緑色画素１１１Ｇ、および青色画素１１１Ｂのパターンを含み、各センサ画素１１６が赤色光、青色光、または緑色光の値のみを記録するように、光の他の全ての波長を実質的に遮断する。
【００２０】
このモザイク化済みデジタル画像１３０は、本明細書において説明される補間により、従来のＲＧＢトリプレット画像１４０に変換され得る。例えば、従来のＲＧＢ画像における各画素は、赤色、緑色、および青色の成分を含み、これらの成分は、可視光のフルスペクトルからの当該画素の色を定義するべく組み合わされる。従って、従来のＲＧＢトリプレット画像１４０は、赤色部分１４１、緑色部分１４２、および青色部分１４３を備え、これらは、集合的にフルカラーＲＧＢ画像を規定する。
【００２１】
モザイク化済みデジタル画像１３０をＲＧＢトリプレット画像１４０に変換するべく、補間処理により、不明の情報が追加され得る。別の様式で述べれば、モザイク化済みデジタル画像１３０は、形成されたときにＲＧＢトリプレット画像１４０内に存在する全情報の３分の１を有するのみであり、従ってこの周囲の画素に基づいて値を推測することにより、不明情報が追加され得る。例えば、図１ｂに示されるように、モザイク化済みデジタル画像１３０は、９×９のアレイの画素を備え、各画素の値は、赤色の値、緑色の値、または青色値に対して知られている。
【００２２】
しかし、ＲＧＢトリプレット画像１４０に変換する場合、赤色部分１４１、緑色部分１４２、および青色部分１４３の各々に対する９×９画像が生成され得る。例えば、赤色部分１４１については、所定の画素位置に対する複数の赤色値の多くは、モザイク化済みデジタル画像１３０内に存在する値から、すでに１４１Ｋ（赤色部分１４１における任意の場所の「Ｒ」により示される画素１４１Ｋ）であると知られている。しかし、残余の画素値（赤色部分１４１の所定の場所におけるブランク画素により示される画素１４１Ｉ）は、赤色部分１４１の完全な９ｘ９のアレイの赤色値が存在し得るように、補間され得る。同様に、そのような補間は、緑色部分１４２および青色部分１４３についても行われる。緑色部分１４２は、知られている画素１４２Ｋを含み、補間され得る、知られていない画素１４２Ｉを含む。青色部分１４３は、知られている画素１４３Ｋを含み、補間され得る、知られていない画素１４３Ｉを含む。
【００２３】
図１ａおよび図１ｂは、モザイク化フィルタ１１０および取り込まれたモザイク化済みデジタル画像１３０を、ベイヤーフィルタパターン内にあるものとして図示し、全ての赤色１１１Ｒ、または青色画素１１１Ｂに対して２つの緑色画素１１１Ｇが存在し、Ｒ−Ｇのオフセットの交互に繰り返す複数の行、およびＢ−Ｇの交互に繰り返す複数の画素を有する。また、図２は、ベイヤーフィルタパターンを有するモザイク化済みデジタル画像を図示し、図２は、以下の開示を通して、様々な例においてより詳細に参照される。従来、そのようなベイヤーフィルタパターンは、デジタル撮像において使用される。しかし、いくつかの実施形態において、デモザイク化および／または補間の複数の方法は、様々な好適なパターン構成において、２またはこれより多い画素色を備える他の複数のフィルタパターンに適用され得る。例えば、いくつかの実施形態において、全ての緑色画素１１１Ｇ、または青色画素１１１Ｂに対して２つの赤色画素１１１Ｒが存在し、または４つの画素色が存在する（例えば、ＣＭＹＫ）画像を、フィルタを用いて取り込むことが所望であることがある。従って、本開示は、ＲＧＢ撮像のみに限定されず、これに代えて様々な撮像方法、システム、およびプロトコルに適用され得る。
【００２４】
プロセッサ１２１、メモリ１２２、およびディスプレイ１２３を含む抽出デジタルＲＧＢカメラシステム１００が図示されるが、更なる複数の実施形態は、任意の好適なセットのコンポーネントを含み得、いくつかの実施形態において、プロセッサ１２１、メモリ１２２、および／またはディスプレイ１２３のいずれかは、複数であるか、または存在しないことがある。一実施形態において、メモリ１２２は、本明細書において説明される複数の方法のいずれかを実行するための複数の命令を格納し、本明細書において論じられる複数のデジタル画像１３０、１４０を格納し得る。ディスプレイ１２３は、複数のデジタル画像１３０、１４０を表示するように構成され、様々な実施形態において、液晶ディスプレイ（ＬＣＤ）、発光ダイオード（ＬＥＤ）ディスプレイ、有機発光ダイード（ＯＬＥＤ）ディスプレイ、デジタル光プロジェクション（ＤＬＰ）ディスプレイ等を備え得る。
【００２５】
一眼レフ（ＳＬＲ）レンズを用いる抽出デジタルＲＧＢカメラシステム１００が図示されるが、様々な実施形態において、ピンホールレンズ、生物学的レンズ、簡易な凸ガラスレンズ等を含む、任意の好適なレンズシステムが用いられ得る。更に、様々な実施形態による複数のレンズは、マクロレンズ、ズームレンズ、望遠レンズ、魚眼レンズ、広角レンズ等を含む、一定の複数の撮像特性を用いて構成され得る。
【００２６】
更に、デジタルＲＧＢカメラシステム１００は、可視スペクトル中の光を検出し、それから複数の画像を生成するべく用いられ得るが、いくつかの実施形態において、デジタルＲＧＢカメラシステム１００は、ガンマ線、Ｘ線、紫外線、赤外光、マイクロ波、電波等を含む、他の波長の光を検出するように適合され得る。更に、デジタルＲＧＢカメラシステム１００は、静止画、動画、および三次元画像等に適合され得る。従って、本開示は、本明細書において示され、説明される例示的なデジタルＲＧＢカメラシステム１００を限定するものと解釈されるべきではない。図３ａは、一実施形態よる、デジタル画像を生成、処理、および提示するための方法３００のフローチャートである。本方法は、下位方法３０５において開始し、モザイク化済み画像１３０（図１ａに示される）が取得される。下位方法ブロック４００において、モザイク化済み画像１３０は、ＲＧＢトリプレット画像１４０（図１ｂに示される）を生成するべくデモザイク化され、ブロック３３５において、このＲＧＢトリプレット画像１４０は、格納される。ブロック３４０で、任意の好適なレンダリング等による、カメラデバイス１２０のディスプレイ１２３の表現、またはその他の好適なディスプレイもしくはスクリーンの表現を備え得る、デモザイク化済み画像が提示される。
【００２７】
図３ｂは、モザイク化済みデジタル画像１３０を生成するための下位方法３０５Ａのフローチャートである。方法３００Ａは、ブロック３１０において開始し、光１０１（図１ａに示される）は、レンズ１０５（図１ａに示される）を通して受光され得る。ブロック３１５において、光１０１は、モザイク化フィルタ１１０（図１ａに示される）を通して受光され、ブロック３２０において、光１０１は、イメージセンサアレイ１１５（図１ａに示される）において受光される。ブロック３２５において、モザイク化済み画像１３０が、生成および格納される。例えば、モザイク化済み画像１３０は、メモリ１２２内に格納され、メモリ１２２は、バッファまたは他の好適なメモリデバイスを含み得る。更なる複数の実施形態において、モザイク化済み画像１３０を取得するための様々な他の好適な方法３００が存在し得る。例えば、モザイク化済み画像１３０は、メモリから取得され、インターネットからダウンロードされ、サーバ等から受信され得る。
【００２８】
図４は、画像をデモザイク化するための下位方法４００Ａのフローチャートである。下位方法４００Ａは、図３ａにおいて下位方法ブロック４００として図示される。方法４００Ａは、ブロック４１０において開始し、ノイズレベルインデックスが取得される。様々な実施形態において、ノイズレベルインデックスは、デジタルカメラのＩＳＯ（スイス国ジュネーブ市の国際標準化機構）感度値、複数のカメラ自動利得制御（ＡＧＣ）インデックス、カメラデジタル利得制御（ＤＧＣ）インデックス等の全体性に基づいて算出される、外的パラメータであり得る。
【００２９】
判断ブロック４２０において、ノイズレベルインデックスが閾値よりも大きいか否かが、判断される。いくつかの実施形態において、そのような閾値は、特定のハードウェアおよび複数の設定構成に基づいて、手動で判断され得る。例えば、ユーザは、複数の異なるノイズレベルを有する複数の画像を用いてデジタルカメラの所定の構成を試験し、双線形デモザイク化が適合デモザイク化よりも好ましい閾値を視覚的または分析的に判断し、１つのデモザイク化方法が別のものに対して選択される閾値レベルを設定し得る。いくつかの実施形態において、最適な閾値は、所定のカメラにおける集団定性実験および集団計量実験により算出され得る。例えば、判断された１つの最適な閾値は、０．７６になり得る。
【００３０】
ノイズレベルが閾値よりも大きい場合、下位方法４００Ａは、適合デモザイク化が実行される下位方法ブロック５００まで継続する。そのような方法５００の一例は、本明細書において、図５に関連して更に詳細に示され、説明される。しかし、ノイズレベルが閾値よりも小さい場合、方法４００Ａは、双線形デモザイク化が実行されるブロック４３０まで継続する。
【００３１】
双線形デモザイク化は、任意の好適な様式で実行され得る。例えば、一実施形態において、双線形デモザイク化は、他の複数の色の色強度を取得するべく、複数の隣接する画素との相関関係を用いる。再び図２を参照すると、位置Ｒ５において緑色色値を取得するべく、鉛直方向および／または水平方向の複数の最近傍に存在する複数の緑色画素値に依存する、以下の補間方法が用いられ得る。
【数１】
2017502598.tif 000003
【００３２】
例えば、３つのカラーチャネルＲ、Ｇ、Ｂが複数の相関関係を有し、複数の隣接する画素強度が多くの場合、円滑に変化することを考慮して、補間は、周囲の複数の値に基づき得る。従って、水平方向の勾配
【数２】
2017502598.tif 000004
および鉛直方向の勾配
【数３】
2017502598.tif 000005
の算出は、補間方向を選択するべく用いられ得る。例えば、図２の画素Ｒ５は、これらの異なる複数の方向の異なる傾きを有し得る。
【数４】
2017502598.tif 000006
【数５】
2017502598.tif 000007
【００３３】
上述の実施形態において、
【数６】
2017502598.tif 000008
の場合、複数の鉛直方向の補間値が選択され得る。例えば、図２を参照すると、Ｒ５における緑色値は、鉛直方向の複数の最近傍値を平均し、または（Ｇ４＋Ｇ６）／２を算出することにより、鉛直方向の補間を用いて算出され得る。
【００３４】
他方、
【数７】
2017502598.tif 000009
の場合、複数の水平方向の補間値が選択され得る。例えば、図２を参照すると、Ｒ５における複数の緑色値は、水平方向の複数の最近傍値を平均し、または（Ｇ２＋Ｇ８）／２を算出することにより、水平方向の補間を用いて算出され得る。
【００３５】
しかし、
【数８】
2017502598.tif 000010
の場合、４つの最近傍値は、平均され、補間値として用いられ得る。例えば、図２を参照すると、４つの最近傍値は、（Ｇ２＋Ｇ８＋Ｇ４＋Ｇ６）／４を算出することにより、Ｒ５における緑色値を取得するべく、平均され得る。
【００３６】
図５は、図４において図示される方法の一部である、画像の適合デモザイク化のための下位方法５００のフローチャートである。下位方法５００は、ループブロック５０５において、全ての画素位置１３０（図１ｂを参照されたい）に対して開始する。ブロック５１０において、所定の画素位置１３０の知られた色に基づいて、当該画素位置に対するΔＶおよびΔＨの値が判断され、ブロック５１５において、画素位置１３０に対する補間方向が選択される。
【００３７】
例えば、図２を参照すると、知られた赤色画素位置Ｒ５のΔＶおよびΔＨの値の計算は、次式のように実行され得る。
【００３８】
ΔＨ＝｜（Ｒ３＋Ｒ７）／２−Ｒ５）｜
【００３９】
ΔＶ＝｜（Ｒ１＋Ｒ９）／２−Ｒ５）｜
【００４０】
各画素のΔＶおよびΔＨの値の取得は、水平方向または鉛直方向の補間が用いられるべきであるか否かを判断するべく用いられ得る。例えば、いくつかの実施形態において、ΔＨ＞ΔＶの場合、水平方向の補間が選択されるべきであると判断される。他方、ΔＨ＜ΔＶの場合、鉛直方向の補間が選択されるべきであると判断される。  ΔＨ＝ΔＶの場合、任意の選択が行われ、または値を取得するべく、４つの最近傍値は平均され得る。
【００４１】
更なる複数の実施形態において、鉛直方向または水平方向の補間を用いるか否かを判断する他の好適な複数の方法が用いられ、そのような複数の方法は、簡易であるか、または複雑になり得る。例えば、上記の方法は、各方向における１つの最近傍画素を用いる。しかし、いくつかの実施形態において、各方向における２または３より多い最近傍値が用いられ得る。複数の方法は、いくつかの実施形態において、同時に使用され、または組み合われ得る。
【００４２】
いくつかの実施形態において、潜在的な複数のエッジを推定および特定し、そのような複数のエッジ全体における補間を回避することが所望であることがある。例えば、図２を参照すると、画素Ｒ５のΔＶおよびΔＨの値の計算は、次式のように実行され得る。
【００４３】
ΔＨ＝｜（Ｇ４−Ｇ６）｜
【００４４】
ΔＶ＝｜（Ｇ２−Ｇ８）｜
【００４５】
いくつかの実施形態において、エッジ検出および／または急激な複数の強度変化に対してラプラス演算を用いることが所望であることがある。例えば、図２を参照すると、画素Ｒ５のΔＶおよびΔＨの値の計算は、次式のように実行され得る。
【００４６】
ΔＨ＝｜（Ｇ２−Ｇ８）｜＋｜Ｒ５−Ｒ１＋Ｒ５−Ｒ９｜
【００４７】
ΔＶ＝｜（Ｇ４−Ｇ６）｜＋｜Ｒ５−Ｒ３＋Ｒ５−Ｒ７｜
【００４８】
様々な実施形態において、選択方法は、カメラデバイス１２０（図１ａを参照されたい）の複数の機能に対する計量時間および内部の格納コスト、または複数の画像を処理し得る他のデバイスに基づき得る。
【００４９】
ブロック５２０において、ループは、全ての知られていない緑色画素１４２Ｉに対して開始する。ブロック５２５において、所定の知られていない緑色画素１４２Ｉに対する鉛直方向の補間値または水平方向の補間値は、選択された方向に基づいて判断され、ループブロック５５０において、全ての知られていない緑色画素１４２Ｉに対するループは、終了する。全ての画素位置１３０に対するループは、ブロック５３５において終了する。
【００５０】
例えば、いくつかの実施形態において、水平方向の緑色補間値は、以下のように判断され得る。Ｒ（・）、Ｇ（・）、およびＢ（・）は、それぞれベイヤーマップ上の赤色画素、緑色画素、および青色画素を表すものとする。Ｇ（ｘ）−Ｒ（ｘ）は、段階的に変化するものと仮定する。換言すれば、この差分画像の高周波部分は、Ｇ（ｘ）よりも急速に変化する。水平方向の補間値ＲＧＲＧを計算するべく、ベイヤーマップにおけるそれぞれの行（例えば、図２において２０５とラベリングされた画素［Ｒ１、Ｇ２、Ｒ５、Ｇ８、Ｒ９］の行）が用いられる。行２０５において、例えば、奇数の番号が付けられた複数の緑色画素、および偶数の番号が付けられた複数の赤色画素は、全て任意の数量である。ランダム信号は、Ｐ（ｘ）として表され、Ｐ０（ｘ）およびＰ１（ｘ）は、知られた複数の信号の奇数および偶数の値とする。
【数９】
2017502598.tif 000011
【数１０】
2017502598.tif 000012
【００５１】
Ｇ０（ｘ）およびＧ１（ｘ）がそれぞれ、Ｇ（ｘ）の奇数の信号および偶数の信号である場合、Ｇ０（ｘ）は知られており、ベイヤーデータから直接に取得され得るが、Ｇ１（ｘ）は、取得されることができない。例えば、図２の行２０５を参照すると、緑色値の画素Ｇ２およびＧ８が知られている。これらの画素は、すでに緑色画素データのみを含むからである。他方、画素Ｒ１、Ｒ５、およびＲ９は、赤色値のみを含み、従ってこれらの画素位置において緑色値は、知られていない。
【００５２】
従って、Ｇ（ｘ）＝Ｇ０（ｘ）＋Ｇ１（ｘ）であり、式中、全てのＧ０（ｘ）の値は、すでに知られている（例えば、図１ｂにおいて示される緑色部分４４２において「Ｇ」とラベリングされたの画素１４２Ｋ）。しかし、Ｇ１（ｘ）の複数の値（例えば、図１ｂに示される緑色部分４４２のブランク画素１４２Ｉ）は、初期には知られておらず、補間され得る。従って、これは、ほぼレイジーウェーブレットの構造である。
【００５３】
現在の知られていない複数の値Ｇ１（ｘ）を取得するべく、Ｇ（ｘ）は、線形フィルタｈを通過したものと仮定する。換言すれば、Ｇ'（ｘ）＝ｈ（ｘ）×Ｇ（ｘ）である。Ｇ（ｘ）は帯域限定信号であり、ｈ（ｘ）は理想的なローパスフィルタであると仮定すると、次式が導かれ得る。
【００５４】
Ｇ'（ｘ）＝ｈ０（ｘ）×Ｇ０（ｘ）＋ｈ１（ｘ）×Ｇ０（ｘ）＋ｈ０（ｘ）×Ｇ１（ｘ）＋ｈ１（ｘ）×Ｇ１（ｘ）
【００５５】
従って、ローパスフィルタｈ（ｘ）は、以下の複数の特性を有する。
【００５６】
ｈ１（ｘ）×Ｇ０（ｘ）＝０であり、式中、ｘは偶数である。
【００５７】
ｈ０（ｘ）×Ｇ１（ｘ）＝０であり、式中、ｘは偶数である。
【００５８】
ｈ０（ｘ）×Ｇ０（ｘ）＝０であり、式中、ｘは奇数である。
【００５９】
ｈ１（ｘ）×Ｇ１（ｘ）＝０であり、式中、ｘは奇数である。
【００６０】
従って、上記の複数の方程式は、以下のように書き換えられ得る。
【数１１】
2017502598.tif 000013
【００６１】
従って、この式を用いれば、Ｇ０（ｘ）およびＲ１（ｘ）を用いて全ての不明の緑色画素値を補間することが可能である。換言すれば、複数の隣接する緑色画素Ｇ０（ｘ）および知られている複数の赤色画素値Ｒ１（ｘ）からの知られている複数の値を用いて、ＲＧＲＧＲ行における不明の複数の画素値Ｇ１（ｘ）の補間は、行われ得る。複数のＧＢＧＢＧ行の補間は、複数の隣接する緑色画素Ｇ０（ｘ）および知られている複数の青色画素値Ｂ１（ｘ）からの複数の値を用いて、同様に行われ得る。この同一の解析は、複数のＲＧＲＧＲ列またはＧＢＧＢＧ列に適用され、複数の鉛直方向の緑色画素補間値を判断し得る。
【００６２】
上述の複数の制約を満たすゼロ位相の有限インパルス応答（ＦＩＲ）フィルタｈ（ｘ）を取得することは、以下の最適化の問題を解決することにより行われ得る。
【００６３】
【数１２】
2017502598.tif 000014
【００６４】
式中、＾は、フーリエ変換を表し、ｗ（・）は、重み付け関数である。フィルタｈ（ｘ）の設定値を取得するそのような最適化は、Ｍａｔｌａｂ最適化ツールボックス（マサチューセッツ州ＮａｔｉｃｋのＴｈｅ  ＭａｔｈＷｏｒｋｓ，Ｉｎｃ．）等を用いることを含むがこれに限定されない、様々な好適な方法で行われ得る。
【００６５】
補間済み緑色値に対する隣接する赤色画素および緑色画素の効果を考慮するべく、衝撃係数δを導入し、次式のようにｈを判断することが可能である。
【００６６】
ｈ＝［００６７］＋［−０．２５，０，０．５，０，−０．２５］×δ
【００６７】
いくつかの実施形態において、衝撃係数δは１に設定されるが、更なる複数の実施形態において、衝撃係数δは、その他の好適な値を取り得る。
【００６８】
図５の方法５００に戻ると、ループブロック５４０は、全ての知られていない赤色画素値および青色画素値１４１Ｉ、１４３Ｉに対するループを開始し、ブロック５４５において、知られていない赤色値１４１Ｉおよび／または青色値１４３Ｉに対する水平方向または鉛直方向の補間値は、画素位置１３０に対して選択された補間方向に基づいて算出される。ループブロック５５０において、全ての知られていない赤色画素値１４１Ｉおよび青色画素値１４３Ｉに対するループは、終了する。
【００６９】
例えば、水平方向または鉛直方向のすでに知られ、または補間された全ての緑色値を用いて、方法５００は、複数の知られていない青色値および／または赤色値の各々に対する鉛直方向または水平方向の補間値を見出すことにより継続する。図１ｂを参照すると、ＲＧＢトリプレット画像１４０の赤色部分および青色部分１４１、１４３に対する多くの値は、未だに知られておらず（すなわち、画素１４１Ｉおよび１４３Ｉ）、従って補間され得る。例えば、赤色部分１４１において、「Ｒ」とマークされた画素１４１Ｋは、モザイク化済み画像１３０から知られるが、ブランク画素１４１Ｉは、知られておらず、補間され得る。同様に、青色部分１４３において、「Ｂ」とマークされた画素１４３Ｋは、モザイク化済み画像１３０から知られるが、ブランク画素１４３Ｉは、知られておらず、補間され得る。
【００７０】
様々な実施形態において、知られていない青色画素値および／または赤色画素値１４１Ｉ、１４３Ｉの補間は、以下のように実行され得る。例えば、上述のように、差分画像Ｒ−Ｇは、限定された帯域であり、ナイキスト標本抽出率よりも実質的に小さい周波数を有すると仮定される。従って、差分画像Ｒ−Ｇは、すでに知られた差分画像ＲＳ−ＧＳにより再構成され得る。同様に、差分画像Ｂ−Ｇは、すでに知られた差分画像ＢＳ−ＧＳにより再構成され得る。従って、以下の複数の方程式は、Ｒ−ＧおよびＢ−Ｇを算出するべく、それぞれ用いられ得、式中、Ｌはローパスフィルタである。
【００７１】
Ｒ−Ｇ＝Ｌ×（ＲＳ−ＧＳ）
【００７２】
Ｂ−Ｇ＝Ｌ×（ＢＳ−ＧＳ）
【００７３】
従って、所定の画素位置１３０に対する知られていない赤色値および／または青色値は、水平方向または鉛直方向に補間され得る。一実施形態において、Ｌは、ローパスフィルタであり、Ｌ＝［１／４  １／２  １／４；１／２  １１／２；１／４  １／２  １／４］であり得る。しかし、更なる複数の実施形態において、Ｌは、任意の好適なローパスフィルタであるか、または他のタイプのフィルタであり得る。
【００７４】
図５の方法５００に再び戻ると、ブロック５５５において、メジアンフィルタは、完成されたトリプレットＲＧＢ画像１４０に適用され得る。ブロック５９９において、本方法５００が実行される。例えば、様々な実施形態において、上述の補間方法は、いくつかの擬色または他の所望でない複数の効果を生成し得る。Ｒ−Ｇ差分画像およびＢ−Ｇ差分画像における段階的な変化率の仮定を考慮して、メジアンフィルタは、擬色または他の所望でない複数の効果を除去し、または是正するべく適用され得る。例えば、いくつかの実施形態において、メジアンフィルタの適用は、画像中の小さい複数の変化を抑制しつつ、複数の詳細を保存する利益を提供し得る。いくつかの実施形態において、メジアンフィルタは、任意の所望の回数だけ繰り返し適用し、画像に対する所望の効果を生成し得る。
【００７５】
以下の複数の例は、好ましい複数の実施形態を明示するべく、含められる。以下に続く、複数の例において開示された複数の技術が良好に機能することを発見された複数の技術を表し、実施のための好ましい複数の形態を構成するものとみなされ得ることを当業者は理解されたい。しかし、当業者は、本開示に鑑みて、開示され、実施形態の趣旨および範囲を逸脱することなく、同一または類似の結果をなおも取得する、多くの変更が特定の複数の実施形態において行われ得ることを理解されたい。
【００７６】
例１
本明細書において説明される適合デモザイク化方法は、色彩ポーキュパインモアレ試験の目標画像上で用いられ、同一の試験の目標画像上で用いられた他の複数のデモザイク化方法と比較された。例えば、試験は、双線形デモザイク化、勾配可変数（Ｖａｒｉａｂｌｅ  Ｎｕｍｂｅｒ  ｏｆ  Ｇｒａｄｉｅｎｔｓ（ＶＮＧ））デモザイク化、パターンドピクセルグルーピング（Ｐａｔｔｅｒｎｅｄ  Ｐｉｘｅｌ  Ｇｒｏｕｐｉｎｇ（ＰＰＧ））デモザイク化、ＤＣＢデモザイク化（ｗｗｗ．ｌｉｎｕｘｐｈｏｔｏ．ｏｒｇ）、適応フィルタリングデモザイク化（ＡＦＤ）、および色彩差異分散（Ｖａｒｉａｎｃｅ  ｏｆ  Ｃｏｌｏｒ  Ｄｉｆｆｅｒｅｎｃｅｓ（ＶＣＤ））デモザイク化を用いて実行された。本明細書において説明される適合デモザイク化方法を用いて処理された複数の試験目標画像は、他の複数の方法と比較して、より良好な色彩回復効果およびより良好な擬色除去能力を示した。
【００７７】
例２
６４×６４信号ブロックを解析し、本方法の様々なステップを実施する複数のモジュールに対する加算オペレーションおよび乗算オペレーションの数に関する統計を取る例において、上述の例示的な複数の実施形態の計算コストが、算出された（メジアンフィルタリングを含まない）。例えば、モジュール１は、水平方向および鉛直方向のＧ補間、ならびに水平方向のみのＲおよびＢ補間のステップを含んだ。モジュール２は、鉛直方向のＲおよびＢの補間を含んだ。モジュール３は、算出されたΔＨ値およびΔＶ値に基づく水平方向もしくは鉛直方向の補間の選択を含んだ。モジュール４は、メジアンフィルタリングの準備を含んだ。以下の表（メジアンフィルタリングを用いない）は、結果を示し、本明細書において説明される例示的な複数の本実施形態が相対的に極小の計算オーバヘッドで実行され得ることを図示する。これは、本方法がハードウェアおよび／またはソフトウェアにより実行されるか否かに関係なく、所望であり得る。
【表１】
2017502598.tif 000015
【００７８】
例３
５つの異なるノイズレベルの建物の外部におけるモザイク化済み画像は、本明細書において説明される例示的な複数の実施形態を用いてデモザイク化された。５つのモザイク化済み画像の信号対ノイズ比（ＳＮＲ）は、それぞれ１０、２０、４０、６０、および１００であった。図６ａは、デモザイク化済み画像のピーク信号対ノイズ比（ＰＳＮＲ）と比較される各モザイク化済み画像のＳＮＲのグラフ６００を図示し、図６ｂは、図６ａのグラフ６００において図示される複数の結果の表６０５を示す。複数の画像およびデータは、説明される本実施形態が、様々なＳＮＲレベルにおいて堅牢なデモザイク化を提供することを示す。
【００７９】
説明される複数の実施形態は、様々な変更形態および代替形態に受容可能であり、それらの特定の例は、図面において例として示され、本明細書において詳細に説明された。しかし、説明される複数の実施形態は、開示される特定の形態または方法に限定されるものではなく、むしろ、本開示は、全ての変更形態、均等物、および代替形態を包含するものであることを理解されたい。
【図１ａ】
2017502598.tif 000016
【図１ｂ】
2017502598.tif 000017
【図２】
2017502598.tif 000018
【図３ａ】
2017502598.tif 000019
【図３ｂ】
2017502598.tif 000020
【図４】
2017502598.tif 000021
【図５】
2017502598.tif 000022
【図６ａ】
2017502598.tif 000023
【図６ｂ】
2017502598.tif 000024
【手続補正書】
【提出日】平成28年7月6日(2016.7.6)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
モザイク化済み画像のデモザイク化の方法であって、
第１の色、第２の色、および第３の色を有するモザイクパターンを含む前記モザイク化済み画像を受信するステップと、
前記モザイク化済み画像に対するノイズレベルインデックスを取得するステップと、
前記ノイズレベルインデックスが閾値よりも大きいか否かを判断するステップと、
前記ノイズレベルインデックスが前記閾値よりも大きくない場合に、前記モザイク化済み画像に双線形デモザイク化を実行し、双線形デモザイク化済み画像を生成するステップと、
前記ノイズレベルインデックスが前記閾値よりも大きい場合に、前記モザイク化済み画像にデモザイク化を実行し、デモザイク化済み画像を生成するステップとを備え、
前記デモザイク化は、
水平方向もしくは鉛直方向における前記第１の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
水平方向もしくは鉛直方向における前記第２の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
水平方向もしくは鉛直方向における前記第３の色の知られていない複数の画素の部分に対する複数の値を補間するステップとを含む、デモザイク化の方法。
【請求項２】
前記第２の色および前記第３の色の知られていない複数の画素の前記部分の前記複数の値を補間する前記ステップは、前記第１の色の知られていない複数の画素の前記部分に対する第１の複数の値の補間に基づく、請求項１に記載のデモザイク化の方法。
【請求項３】
前記第２の色および前記第３の色の知られていない複数の画素の前記部分の複数の値を補間する前記ステップは、前記第１の色の知られていない複数の画素の前記部分に対する第１の複数の値の前記補間の後に行われる、請求項１または２に記載のデモザイク化の方法。
【請求項４】
前記モザイク化済み画像は、ベイヤーパターン中に赤色画素、緑色画素、および青色画素を含む、請求項１から３のいずれか１項に記載のデモザイク化の方法。
【請求項５】
前記第１の色は、緑色であり、前記第２の色は、赤色であり、前記第３の色は、青色である、請求項１から４のいずれか１項に記載のデモザイク化の方法。
【請求項６】
前記水平方向の補間または前記鉛直方向の補間は、画素位置の知られた色データに基づいて選択される、請求項１から５のいずれか１項に記載のデモザイク化の方法。
【請求項７】
前記水平方向の補間および前記鉛直方向の補間のうち１つを選択することは、それぞれ前記鉛直方向および前記水平方向の最近傍画素の比較を含む、請求項１から６のいずれか１項に記載のデモザイク化の方法。
【請求項８】
前記水平方向の補間および前記鉛直方向の補間のうち１つを選択することは、前記水平方向の勾配を算出することと、前記鉛直方向の勾配を算出するステップを含む、請求項１から７のいずれか１項に記載のデモザイク化の方法。
【請求項９】
前記水平方向の補間および前記鉛直方向の補間のうち１つは、所定の各画素位置について選択され、
前記第１の色、前記第２の色、および前記第３の色の前記知られていない複数の画素の補間は、選択された補間方向を用いて、該画素位置に対して実行される、請求項１から８のいずれか１項に記載のデモザイク化の方法。
【請求項１０】
所定の画素位置に対する前記水平方向の補間または前記鉛直方向の補間を選択することは、類似の複数の近傍画素位置のうち最も少ない変化を有する該画素位置において補間方向を識別することに基づく、請求項１から９のいずれか１項に記載のデモザイク化の方法。
【請求項１１】
前記デモザイク化は、前記デモザイク化済み画像にメジアンフィルタを適用するステップを更に含む、請求項１から１０のいずれか１項に記載のデモザイク化の方法。
【請求項１２】
前記デモザイク化済み画像をディスプレイに表示するステップを更に備える、請求項１から１１のいずれか１項に記載のデモザイク化の方法。
【請求項１３】
前記デモザイク化済み画像を受信する前記ステップは、イメージセンサアレイから前記デモザイク化済み画像を受信するステップを有する、請求項１から１２のいずれか１項に記載のデモザイク化の方法。
【請求項１４】
レンズおよびモザイク化フィルタを通過する感知された光に基づいて、前記デモザイク化済み画像を生成するステップを更に備える、請求項１から１３のいずれか１項に記載のデモザイク化の方法。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】００７９
【補正方法】変更
【補正の内容】
【００７９】
説明される複数の実施形態は、様々な変更形態および代替形態に受容可能であり、それらの特定の例は、図面において例として示され、本明細書において詳細に説明された。しかし、説明される複数の実施形態は、開示される特定の形態または方法に限定されるものではなく、むしろ、本開示は、全ての変更形態、均等物、および代替形態を包含するものであることを理解されたい。
（項目１）
モザイク化済み画像の適合デモザイク化の方法であって、
第１の色、第２の色、および第３の色を含むモザイクパターンを有する上記モザイク化済み画像を受信するステップと、
上記モザイク化済み画像をデモザイク化し、適合デモザイク化済み画像を生成するステップとを備え、
上記適合デモザイク化は、
水平方向もしくは鉛直方向における上記第１の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
水平方向もしくは鉛直方向における上記第２の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
水平方向もしくは鉛直方向における上記第３の色の知られていない複数の画素の部分に対する複数の値を補間するステップとを含む、方法。
（項目２）
上記第２の色および上記第３の色の知られていない複数の画素の上記部分の複数の値を補間する上記ステップは、上記第１の色の知られていない複数の画素の上記部分に対する第１の複数の値の補間に基づく、項目１に記載の方法。
（項目３）
上記第２の色および上記第３の色の知られていない複数の画素の上記部分の複数の値を補間する上記ステップは、上記第１の色の知られていない複数の画素の上記部分に対する第１の複数の値の補間後に行われる、項目１または２に記載の方法。
（項目４）
上記モザイク化済み画像は、ベイヤーパターン中に赤色画素、緑色画素、および青色画素を含む、項目１から３のいずれか１項に記載の方法。
（項目５）
上記第１の色は、緑色であり、上記第２の色は、赤色であり、上記第３の色は、青色である、項目１から４のいずれか１項に記載の方法。
（項目６）
水平方向の補間または鉛直方向の補間は、画素位置の知られた色データに基づいて選択される、項目１から５のいずれか１項に記載の方法。
（項目７）
水平方向の補間および鉛直方向の補間のうち１つを選択することは、それぞれ鉛直方向および水平方向の最近傍画素の比較を含む、項目１から６のいずれか１項に記載の方法。
（項目８）
水平方向の補間および鉛直方向の補間のうち１つを選択することは、水平方向の勾配を算出することと、鉛直方向の勾配を算出することとを含む、項目１から７のいずれか１項に記載の方法。
（項目９）
水平方向の補間および鉛直方向の補間のうち１つは、所与の各画素位置について選択され、
上記第１の色、上記第２の色、および上記第３の色の上記知られていない複数の画素の補間は、選択された補間方向を用いて、該画素位置に対して実行される、項目１から８のいずれか１項に記載の方法。
（項目１０）
所与の画素位置に対する水平方向の補間または鉛直方向の補間を選択することは、類似の複数の近傍画素色値のうち最も少ない変化を有する該画素位置において補間方向を識別することに基づく、項目１から９のいずれか１項に記載の方法。
（項目１１）
上記適合デモザイク化は、上記デモザイク化済み画像にメジアンフィルタを適用することを更に含む、項目１から１０のいずれか１項に記載の方法。
（項目１２）
上記デモザイク化済み画像をディスプレイ上に表示するステップを更に備える、項目１から１１のいずれか１項に記載の方法。
（項目１３）
上記モザイク化済み画像を受信する上記ステップは、イメージセンサアレイから上記モザイク化済み画像を受信するステップを有する、項目１から１２のいずれか１項に記載の方法。
（項目１４）
レンズおよびモザイク化フィルタを通過する感知された光に基づいて、上記モザイク化済み画像を生成するステップを更に備える、項目１から１３のいずれか１項に記載の方法。
（項目１５）
モザイク化済み画像の適合デモザイク化の方法であって、
第１の色、第２の色、および第３の色を有するモザイクパターンを含む上記モザイク化済み画像を受信するステップと、
上記モザイク化済み画像に対するノイズレベルインデックスを取得するステップと、
上記ノイズレベルインデックスが閾値よりも大きいか否かを判断するステップと、
上記ノイズレベルインデックスが上記閾値よりも大きくない場合に、上記モザイク化済み画像に双線形デモザイク化を実行し、双線形デモザイク化済み画像を生成するステップと、
上記ノイズレベルインデックスが上記閾値よりも大きい場合に、上記モザイク化済み画像に適合デモザイク化を実行し、適合デモザイク化済み画像を生成するステップとを備え、
上記適合デモザイク化は、
水平方向もしくは鉛直方向における上記第１の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
水平方向もしくは鉛直方向における上記第２の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
水平方向もしくは鉛直方向における上記第３の色の知られていない複数の画素の部分に対する複数の値を補間するステップとを含む、方法。
（項目１６）
上記第２の色および上記第３の色の知られていない複数の画素の上記部分の上記複数の値を補間する上記ステップは、上記第１の色の知られていない複数の画素の上記部分に対する第１の複数の値の補間に基づく、項目１５に記載の方法。
（項目１７）
上記第２の色および上記第３の色の知られていない複数の画素の上記部分の複数の値を補間する上記ステップは、上記第１の色の知られていない複数の画素の上記部分に対する第１の複数の値の上記補間の後に行われる、項目１５または１６に記載の方法。
（項目１８）
上記モザイク化済み画像は、ベイヤーパターン中に赤色画素、緑色画素、および青色画素を含む、項目１５から１７のいずれか１項に記載の方法。
（項目１９）
上記第１の色は、緑色であり、上記第２の色は、赤色であり、上記第３の色は、青色である、項目１５から１８のいずれか１項に記載の方法。
（項目２０）
水平方向の補間または鉛直方向の補間は、画素位置の知られた色データに基づいて選択される、項目１５から１９のいずれか１項に記載の方法。
（項目２１）
水平方向の補間および鉛直方向の補間のうち１つを選択することは、それぞれ鉛直方向および水平方向の最近傍画素の比較を含む、項目１５から２０のいずれか１項に記載の方法。
（項目２２）
水平方向の補間および鉛直方向の補間のうち１つを選択することは、水平方向の勾配を算出することと、鉛直方向の勾配を算出することとを含む、項目１５から２１のいずれか１項に記載の方法。
（項目２３）
水平方向の補間および鉛直方向の補間のうち１つは、所与の各画素位置について選択され、
上記第１の色、上記第２の色、および上記第３の色の上記知られていない複数の画素の補間は、選択された補間方向を用いて、該画素位置に対して実行される、項目１５から２２のいずれか１項に記載の方法。
（項目２４）
所与の画素位置に対する水平方向の補間または鉛直方向の補間を選択することは、類似の複数の近傍画素色値のうち最も少ない変化を有する該画素位置において補間方向を識別することに基づく、項目１５から２３のいずれか１項に記載の方法。
（項目２５）
上記適合デモザイク化は、上記デモザイク化済み画像にメジアンフィルタを適用することを更に含む、項目１５から２４のいずれか１項に記載の方法。
（項目２６）
上記デモザイク化済み画像をディスプレイ上に表示するステップを更に備える、項目１５から２５のいずれか１項に記載の方法。
（項目２７）
上記モザイク化済み画像を受信する上記ステップは、イメージセンサアレイから上記モザイク化済み画像を受信するステップを有する、項目１５から２６のいずれか１項に記載の方法。
（項目２８）
レンズおよびモザイク化フィルタを通過する感知された光に基づいて、上記モザイク化済み画像を生成するステップを更に備える、項目１５から２７のいずれか１項に記載の方法。
（項目２９）
レンズと、
モザイク化フィルタと、
上記レンズおよび上記モザイク化フィルタを通過する感知された光に基づいて、第１の色、第２の色、および第３の色を含むモザイクパターンを有するモザイク化済み画像を生成するように動作可能なイメージセンサアレイと、
水平方向もしくは鉛直方向における上記第１の色の知られていない複数の画素の部分に対する複数の値を補間し、
水平方向もしくは鉛直方向における上記第２の色の知られていない複数の画素の部分に対する複数の値を補間し、
水平方向もしくは鉛直方向における上記第３の色の知られていない複数の画素の部分に対する複数の値を補間することにより、
知られていない複数の画素の補間により、上記モザイク化済み画像をデモザイク化し、デモザイク化済み画像を生成するように動作可能な処理モジュールとを備える、カメラシステム。
（項目３０）
上記処理モジュールは、上記第１の色の上記知られていない複数の画素の上記部分に対する第１の複数の値の上記補間に基づいて、上記第２の色および上記第３の色の上記知られていない複数の画素の上記部分に対する上記複数の値を補間する、項目２９に記載のカメラシステム。
（項目３１）
上記処理モジュールは、上記第１の色の知られていない複数の画素の上記部分に対する第１の複数の値の上記補間の後に、上記第２の色および上記第３の色の知られていない複数の画素の上記部分に対する上記複数の値を補間する、項目２９または３０に記載のカメラシステム。
（項目３２）
上記モザイク化フィルタは、ベイヤーフィルタであり、
上記モザイク化済み画像は、ベイヤーパターン中に赤色画素、緑色画素、および青色画素を含む、項目２９から３１のいずれか１項に記載のカメラシステム。
（項目３３）
上記第１の色は、緑色であり、上記第２の色は、赤色であり、上記第３の色は、青色である、項目２９から３２のいずれか１項に記載のカメラシステム。
（項目３４）
上記処理モジュールは、補間により上記モザイク化済み画像をデモザイク化し、
水平方向または鉛直方向の補間は、画素位置の知られている色データに基づいて選択される、項目２９から３３のいずれか１項に記載のカメラシステム。
（項目３５）
上記処理モジュールは、鉛直方向および水平方向のそれぞれの最近傍画素の比較により、上記第１の色、上記第２の色、および上記第３の色の補間された上記知られていない複数の画素の各々に対する水平方向および鉛直方向の補間のうち１つを選択する、項目２９から３４のいずれか１項に記載のカメラシステム。
（項目３６）
上記処理モジュールは、水平方向の勾配を算出し、鉛直方向の勾配を算出することにより、水平方向の補間および鉛直方向の補間のうち１つを選択する、項目２９から３５のいずれか１項に記載のカメラシステム。
（項目３７）
上記処理モジュールは、所与の各画素位置に対する水平方向の補間および鉛直方向の補間、ならびに選択された補間方向を用いて該画素位置に対して実行される、上記第１の色、上記第２の色、および上記第３の色の上記知られていない複数の画素の補間のうち１つを選択する、項目２９から３６のいずれか１項に記載のカメラシステム。
（項目３８）
上記処理モジュールは、類似の複数の近傍画素色値のうち最も少ない変化を有する所与の画素位置における補間方向を識別することにより、該画素位置に対する水平方向の補間または鉛直方向の補間を選択する、項目２９から３７のいずれか１項に記載のカメラシステム。
（項目３９）
上記処理モジュールは、補間により上記モザイク化済み画像をデモザイク化し、
上記デモザイク化済み画像を生成することは、メジアンフィルタを、上記デモザイク化済み画像に適用することを更に含む、項目２９から３８のいずれか１項に記載のカメラシステム。
（項目４０）
上記モザイク化済み画像および上記デモザイク化済み画像を格納するように構成されたメモリを更に備える、項目２９から３９のいずれか１項に記載のカメラシステム。
（項目４１）
上記デモザイク化済み画像を表示するように構成されたディスプレイを更に備える、項目２９から４０のいずれか１項に記載のカメラシステム。
（項目４２）
レンズと、
モザイク化フィルタと、
上記レンズおよび上記モザイク化フィルタを通過する感知された光に基づいて、第１の色、第２の色、および第３の色を含むモザイクパターンを有するモザイク化済み画像を生成する、イメージセンサアレイと、
上記モザイク化済み画像に対するノイズレベルインデックスを判断し、
上記ノイズレベルインデックスが閾値よりも大きいか否かを判断し、
上記ノイズレベルインデックスが上記閾値よりも大きくない場合に、上記モザイク化済み画像に双線形デモザイク化を実行し、双線形デモザイク化済み画像を生成し、
上記ノイズレベルインデックスが上記閾値よりも大きい場合に、上記モザイク化済み画像に適合デモザイク化を実行し、適合デモザイク化済み画像を生成することにより、
知られていない複数の画素値の補間により、上記モザイク化済み画像をデモザイク化し、デモザイク化済み画像を生成するように動作可能な処理モジュールとを備え、
上記適合デモザイク化は、
水平方向もしくは鉛直方向における上記第１の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
水平方向もしくは鉛直方向における上記第２の色の知られていない複数の画素の部分に対する複数の値を補間するステップと、
水平方向もしくは鉛直方向における上記第３の色の知られていない複数の画素の部分に対する複数の値を補間するステップとを含む、カメラシステム。
（項目４３）
上記処理モジュールは、上記第１の色の知られていない複数の画素の上記部分に対する第１の複数の値の上記補間に基づいて、上記第２の色および上記第３の色の知られていない複数の画素の上記部分に対する上記複数の値を補間する、項目４２に記載のカメラシステム。
（項目４４）
上記処理モジュールは、上記第１の色の知られていない複数の画素の上記部分に対する第１の複数の値の上記補間の後に、上記第２の色および上記第３の色の知られていない複数の画素の上記部分に対する複数の値を補間する、項目４２または４３に記載のカメラシステム。
（項目４５）
上記モザイク化フィルタは、ベイヤーフィルタであり、
上記モザイク化済み画像は、ベイヤーパターン中に赤色画素、緑色画素、および青色画素を含む、項目４２から４４のいずれか１項に記載のカメラシステム。
（項目４６）
上記第１の色は、緑色であり、上記第２の色は、赤色であり、上記第３の色は、青色である、項目４２から４５のいずれか１項に記載のカメラシステム。
（項目４７）
上記処理モジュールは、補間により上記モザイク化済み画像をデモザイク化し、
水平方向または鉛直方向の補間は、画素位置の知られている色データに基づいて、上記処理モジュールにより選択される、項目４２から４６のいずれか１項に記載のカメラシステム。
（項目４８）
上記処理モジュールは、鉛直方向および水平方向のそれぞれの最近傍画素の比較により、上記第１の色、上記第２の色、および上記第３の色の補間された上記知られていない複数の画素の各々に対する水平方向および鉛直方向の補間のうち１つを選択する、項目４２から４７のいずれか１項に記載のカメラシステム。
（項目４９）
上記処理モジュールは、水平方向の勾配を算出し、鉛直方向の勾配を算出することにより、水平方向の補間および鉛直方向の補間のうち１つを選択する、項目４２から４８のいずれか１項に記載のカメラシステム。
（項目５０）
上記処理モジュールは、所与の各画素位置に対する水平方向の補間および鉛直方向の補間、ならびに選択された補間方向を用いて該画素位置に対して実行される、上記第１の色、上記第２の色、および上記第３の色の上記知られていない複数の画素の補間のうち１つを選択する、項目４２から４９のいずれか１項に記載のカメラシステム。
（項目５１）
上記処理モジュールは、類似の複数の近傍画素色値のうち最も少ない変化を有する所与の画素位置における補間方向を識別することにより、該画素位置に対する水平方向の補間または鉛直方向の補間を選択する、項目４２から５０のいずれか１項に記載のカメラシステム。
（項目５２）
上記処理モジュールは、補間により上記モザイク化済み画像をデモザイク化し、メジアンフィルタを上記デモザイク化済み画像に適用することにより、上記デモザイク化済み画像を生成する、項目４２から５１のいずれか１項に記載のカメラシステム。
（項目５３）
上記モザイク化済み画像および上記デモザイク化済み画像を格納するように構成されたメモリを更に備える、項目４２から５２のいずれか１項に記載のカメラシステム。
（項目５４）
上記デモザイク化済み画像を表示するように構成されたディスプレイを更に備える、項目４２から５３のいずれか１項に記載のカメラシステム。
【国際調査報告】
2017502598.tif 000025
2017502598.tif 000026