(57)【特許請求の範囲】
【請求項１】
水平方向、垂直方向にベイヤ配列に基づくＲＧＢ信号を有する入力画像信号に対して、Ｇ信号を算出する画像処理装置であって、
入力画像信号を垂直方向に補間して色差信号を算出する第１の色差信号算出手段と、
前記入力画像信号を水平方向に補間して色差信号を算出する第２の色差信号算出手段と、
前記第１の色差信号算出手段により算出された色差信号に対してフィルタ処理を行う第１のフィルタ処理手段と、
前記第２の色差信号算出手段により算出された色差信号に対してフィルタ処理を行う第２のフィルタ処理手段と、
Ｒ信号及びＢ信号の少なくとも１つの強度を算出する色信号強度算出手段と、
前記第１のフィルタ処理手段によるフィルタ処理の結果と、前記第２のフィルタ処理手段によるフィルタ処理の結果と、前記色信号強度算出手段により算出された前記Ｒ信号及びＢ信号の少なくとも１つの強度とに基づき、前記Ｇ信号を算出する色信号算出手段とを有し、
前記第１のフィルタ処理手段と前記第２のフィルタ処理手段は、前記色信号強度算出手段によって算出された前記Ｒ信号及びＢ信号の少なくとも１つの強度が予め設定した閾値以上である場合には、フィルタ処理を行わないようにすることを特徴とする画像処理装置。
【請求項２】
水平方向、垂直方向にベイヤ配列に基づくＲＧＢ信号を有する入力画像信号に対して、Ｇ信号を算出する画像処理装置であって、
入力画像信号を垂直方向に補間して色差信号を算出する第１の色差信号算出手段と、
前記入力画像信号を水平方向に補間して色差信号を算出する第２の色差信号算出手段と、
前記第１の色差信号算出手段により算出された色差信号に対してフィルタ処理を行う第１のフィルタ処理手段と、
前記第２の色差信号算出手段により算出された色差信号に対してフィルタ処理を行う第２のフィルタ処理手段と、
Ｒ信号及びＢ信号の少なくとも１つの強度を算出する色信号強度算出手段と、
前記第１のフィルタ処理手段によるフィルタ処理の結果と、前記第２のフィルタ処理手段によるフィルタ処理の結果と、前記色信号強度算出手段により算出された前記Ｒ信号及びＢ信号の少なくとも１つの強度とに基づき、前記Ｇ信号を算出する色信号算出手段とを有し、
前記第１のフィルタ処理手段と前記第２のフィルタ処理手段は、前記色信号強度算出手段によって算出された前記Ｒ信号及びＢ信号の少なくとも１つの強度が予め設定した閾値より小さい場合には、前記Ｒ信号及びＢ信号の少なくとも１つの強度に応じたフィルタ処理を行うことを特徴とする画像処理装置。
【請求項３】
水平方向、垂直方向にベイヤ配列に基づくＲＧＢ信号を有する入力画像信号に対して、補間処理を行うことでＧ信号を算出する画像処理装置であって、
前記入力画像信号に対して色差信号を用いないで前記Ｇ信号を補間する第１の補間手段と、
前記入力画像信号に対して色差信号を用いて前記Ｇ信号を補間する第２の補間手段と、
Ｒ信号及びＢ信号の少なくとも１つの強度を算出する色信号強度算出手段と、
前記色信号強度算出手段の算出結果に基づいて、前記第１の補間手段により補間されたＧ信号と前記第２の補間手段により補間されたＧ信号とを合成する合成手段と、
前記合成手段による合成結果に基づき、最終的な前記Ｇ信号を算出する色信号算出手段とを有し、
前記合成手段は、前記色信号強度算出手段によって算出された前記Ｒ信号及びＢ信号の少なくとも１つの強度が高いほど、前記第１の補間手段の補間結果の割合が高くなるように合成処理を行うことを特徴とする画像処理装置。
【請求項４】
前記第２の補間手段は、
入力画像信号を垂直方向に補間して色差信号を算出する第１の色差信号算出手段と、
前記入力画像信号を水平方向に補間して色差信号を算出する第２の色差信号算出手段と、
前記第１の色差信号算出手段により算出された色差信号に対してフィルタ処理を行う第１のフィルタ処理手段と、
前記第２の色差信号算出手段により算出された色差信号に対してフィルタ処理を行う第２のフィルタ処理手段とを有し、
前記第１のフィルタ処理手段および前記第２のフィルタ処理手段によって処理された信号に基づいて前記Ｇ信号を補間することを特徴とする請求項３に記載の画像処理装置。
【請求項５】
前記第１のフィルタ処理手段は、前記第１の色差信号算出手段により算出された色差信号に対して上方向および下方向のフィルタ処理を行い、
前記第２のフィルタ処理手段は、前記第２の色差信号算出手段により算出された色差信号に対して左方向および右方向のフィルタ処理を行うことを特徴とする請求項１又は２に記載の画像処理装置。
【請求項６】
水平方向、垂直方向にベイヤ配列に基づくＲＧＢ信号を有する入力画像信号に対して、Ｇ信号を算出する画像処理方法であって、
入力画像信号を垂直方向に補間して色差信号を算出する第１の色差信号算出ステップと、
前記入力画像信号を水平方向に補間して色差信号を算出する第２の色差信号算出ステップと、
前記第１の色差信号算出ステップにより算出された色差信号に対してフィルタ処理を行う第１のフィルタ処理ステップと、
前記第２の色差信号算出ステップにより算出された色差信号に対してフィルタ処理を行う第２のフィルタ処理ステップと、
Ｒ信号及びＢ信号の少なくとも１つの強度を算出する色信号強度算出ステップと、
前記第１のフィルタ処理ステップによるフィルタ処理の結果と、前記第２のフィルタ処理ステップによるフィルタ処理の結果と、前記色信号強度算出ステップにより算出された前記Ｒ信号及びＢ信号の少なくとも１つの強度とに基づき、前記Ｇ信号を算出する色信号算出ステップとを有し、
前記第１のフィルタ処理ステップと前記第２のフィルタ処理ステップでは、前記色信号強度算出ステップによって算出された前記Ｒ信号及びＢ信号の少なくとも１つの強度が予め設定した閾値以上である場合には、フィルタ処理を行わないようにすることを特徴とする画像処理方法。
【請求項７】
水平方向、垂直方向にベイヤ配列に基づくＲＧＢ信号を有する入力画像信号に対して、Ｇ信号を算出する画像処理方法であって、
入力画像信号を垂直方向に補間して色差信号を算出する第１の色差信号算出ステップと、
前記入力画像信号を水平方向に補間して色差信号を算出する第２の色差信号算出ステップと、
前記第１の色差信号算出ステップにより算出された色差信号に対してフィルタ処理を行う第１のフィルタ処理ステップと、
前記第２の色差信号算出ステップにより算出された色差信号に対してフィルタ処理を行う第２のフィルタ処理ステップと、
Ｒ信号及びＢ信号の少なくとも１つの強度を算出する色信号強度算出ステップと、
前記第１のフィルタ処理ステップによるフィルタ処理の結果と、前記第２のフィルタ処理ステップによるフィルタ処理の結果と、前記色信号強度算出ステップにより算出された前記Ｒ信号及びＢ信号の少なくとも１つの強度とに基づき、前記Ｇ信号を算出する色信号算出ステップとを有し、
前記第１のフィルタ処理ステップと前記第２のフィルタ処理ステップでは、前記色信号強度算出ステップによって算出された前記Ｒ信号及びＢ信号の少なくとも１つの強度が予め設定した閾値より小さい場合には、前記Ｒ信号及びＢ信号の少なくとも１つの強度に応じたフィルタ処理を行うことを特徴とする画像処理方法。
【請求項８】
水平方向、垂直方向にベイヤ配列に基づくＲＧＢ信号を有する入力画像信号に対して、補間処理を行うことでＧ信号を算出する画像処理方法であって、
前記入力画像信号に対して色差信号を用いないで前記Ｇ信号を補間する第１の補間ステップと、
前記入力画像信号に対して色差信号を用いて前記Ｇ信号を補間する第２の補間ステップと、
Ｒ信号及びＢ信号の少なくとも１つの強度を算出する色信号強度算出ステップと、
前記色信号強度算出ステップの算出結果に基づいて、前記第１の補間ステップにおいて補間されたＧ信号と前記第２の補間ステップにおいて補間されたＧ信号とを合成する合成ステップと、
前記合成ステップによる合成結果に基づき、最終的な前記Ｇ信号を算出する色信号算出ステップとを有し、
前記合成ステップは、前記色信号強度算出ステップによって算出された前記Ｒ信号及びＢ信号の少なくとも１つの強度が高いほど、前記第１の補間ステップの補間結果の割合が高くなるように合成処理を行うことを特徴とする画像処理方法。
【請求項９】
コンピュータを、請求項１〜５の何れか１項に記載の画像処理装置の各手段として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置、画像処理方法及びプログラムに関する。
【背景技術】
【０００２】
特許文献１には、輝度信号の主成分となるＧ信号の補間を行う際に、縦方向、又は横方向の相関を判別し、縦方向の相関がある場合には縦方向にＬＰＦ処理を行い、横方向の相関がある場合には横方向にＬＰＦ処理を行う技術が開示されている。そして、縦方向にも横方向にも相関がない場合には、２次元のＬＰＦ処理を行うことで、縦方向、横方向のエッジがぼけないようにする。
【０００３】
しかし、特許文献１の技術では、縦又は横方向の相関がない場合には２次元のＬＰＦ処理となるため、例えば斜め方向のエッジは、縦方向、横方向のエッジに比べてぼやけてしまう。
【０００４】
そこで、非特許文献１には、Ｒ又はＢ画素の位置のＧ信号の算出方法が開示されている。非特許文献１では、着目画素を含む上、下、左、右方向に、Ｇ画素と、着目画素と同色の画素との色差信号をそれぞれ算出し、各方向の色差信号を合成した色差信号を着目画素に加算することでＧ信号を算出する。このとき、非特許文献１では、各方向の色差信号を、該当する方向の色差信号の傾きに応じて合成することで、方向に因らず解像感の高い画像を生成する。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特許第３８６２５０６号公報
【非特許文献】
【０００６】
【非特許文献１】I. Pekkucuksen，Y. Altunbasak，"Gradient based threshold free color filter array interpolation"，ＩＣＩＰ  ２０１０
【発明の概要】
【発明が解決しようとする課題】
【０００７】
しかし、非特許文献１では、Ｒ、Ｂ信号を用いてＧ信号を生成しているために、赤色被写体や青色被写体のように、Ｇ信号より、Ｒ、Ｂ信号の信号値が高い被写体では、以下のような問題が発生する。つまり、Ｇ信号に対して、Ｒ、Ｂ信号のサンプリングが少ないことに起因したＲ、Ｂ信号の折り返しが、Ｇ信号に存在するエッジよりも振幅の高いエッジとしてＧ信号に加算されることで、折り返しによる偽パターンが目立つ場合がある。
【０００８】
本発明は前述の問題点に鑑み、Ｇ信号より、Ｒ、Ｂ信号の信号値が高い赤色や青色のような被写体に発生する偽パターンを低減した画像を生成できるようにすることを目的としている。
【課題を解決するための手段】
【０００９】
本発明に係る画像処理装置は、水平方向、垂直方向にベイヤ配列に基づくＲＧＢ信号を有する入力画像信号に対して、Ｇ信号を算出する画像処理装置であって、入力画像信号を垂直方向に補間して色差信号を算出する第１の色差信号算出手段と、前記入力画像信号を水平方向に補間して色差信号を算出する第２の色差信号算出手段と、前記第１の色差信号算出手段により算出された色差信号に対してフィルタ処理を行う第１のフィルタ処理手段と、前記第２の色差信号算出手段により算出された色差信号に対してフィルタ処理を行う第２のフィルタ処理手段と、Ｒ信号及びＢ信号の少なくとも１つの強度を算出する色信号強度算出手段と、前記第１のフィルタ処理手段によるフィルタ処理の結果と、前記第２のフィルタ処理手段によるフィルタ処理の結果と、前記色信号強度算出手段により算出された前記Ｒ信号及びＢ信号の少なくとも１つの強度とに基づき、前記Ｇ信号を算出する色信号算出手段とを有し、前記第１のフィルタ処理手段と前記第２のフィルタ処理手段は、前記色信号強度算出手段によって算出された前記Ｒ信号及びＢ信号の少なくとも１つの強度が予め設定した閾値以上である場合には、フィルタ処理を行わないようにすることを特徴とする。
【発明の効果】
【００１０】
本発明によれば、Ｇ信号より、Ｒ、Ｂ信号の信号値が高い赤色や青色のような被写体に発生する偽パターンを低減した画像を生成することができる。
【図面の簡単な説明】
【００１１】
【図１】原色ベイヤ配列の１単位を示す図である。
【図２】実施形態に係る輝度信号生成部の構成例を示すブロック図である。
【図３】第１の実施形態のＧ補間回路の構成例を示すブロック図である。
【図４】第１の実施形態におけるＧ補間回路の処理の流れの一例を示すフローチャートである。
【図５】赤、青被写体検出回路の構成例を示すブロック図である。
【図６】赤、青被写体検出回路の処理の流れの一例を示すフローチャートである。
【図７】色信号Ｃと色信号強度αとの関係を説明するための図である。
【図８】第２の実施形態のＧ補間回路の構成例を示すブロック図である。
【図９】第２の実施形態の第１のＧ補間回路の構成例を示すブロック図である。
【図１０】第２の実施形態の第２のＧ補間回路の構成例を示すブロック図である。
【図１１】第２のＧ補間回路の処理の流れの一例を示すフローチャートである。
【発明を実施するための形態】
【００１２】
（第１の実施形態）
図１は、本発明の第１の実施形態によるベイヤ配列の色フィルタを有する撮像素子を示す図である。撮像装置は、ＣＭＯＳイメージセンサ等の撮像素子を有する。撮像装置は、デジタルカメラ、ビデオカメラの他、スマートフォン、タブレット、工業用カメラ、医療用カメラ等に適用可能である。撮像素子は、２次元行列状に配置された複数の画素を有し、複数の画素の各々は、色フィルタ（例えば、赤（Ｒ）、緑（Ｇ）、青（Ｂ）の３色のうちの一つの色フィルタ）を有する。図１は、原色ベイヤ配列の１単位の色フィルタを示す。撮像素子は、画素毎に、光電変換を行い、アナログデジタル変換を行い、デジタルのＲ信号（赤信号）、Ｇ１信号（緑信号）、Ｇ２信号（緑信号）、又はＢ信号（青信号）を出力する。Ｇ１信号及びＧ２信号は、Ｇ信号（緑信号）である。このようにＧ信号は、Ｒ信号、Ｂ信号に対してサンプリング数が多い。ベイヤ配列の色フィルタを有する撮像装置は、各画素においてＲ、Ｇ、Ｂのうちの一つの色信号しか得られないため、各画素においてＲＧＢすべての色信号を求める場合には、後段の図２の輝度信号生成部２００で補間処理を行う必要がある。
【００１３】
図２は、本実施形態による輝度信号生成部２００の構成例を示す図である。輝度信号生成部２００は、画像処理装置であり、図１の撮像素子からベイヤ配列のデジタルのＲ信号、Ｇ信号及びＢ信号を入力する。輝度信号生成部２００は、ＷＢ回路（ホワイトバランス回路）２０１と、Ｇ補間回路２０２と、Ｒ補間回路２０３と、Ｂ補間回路２０４と、ＡＰＣ回路２０５と、輝度信号生成回路２０６と、加算回路２０７とを有する。
【００１４】
ＷＢ回路２０１は、撮像素子からベイヤ配列のデジタルの画像信号（Ｒ信号、Ｇ信号及びＢ信号）を入力し、画像信号のホワイトバランスを補正する。Ｇ補間回路２０２は、ＷＢ回路２０１から出力されるベイヤ配列の画像信号を入力し、図１のＲ画素及びＢ画素の位置のＧ信号を補間により算出し、全画素のＧ信号を出力する。Ｒ画素は赤フィルタが設けられた画素であり、Ｂ画素は青フィルタが設けられた画素であり、Ｇ画素は緑フィルタが設けられた画素である。Ｇ補間回路２０２の処理の詳細は後述する。
【００１５】
Ｒ補間回路２０３は、ＷＢ回路２０１が出力するベイヤ配列の入力画像信号に対して、図１の入力画像のＧ画素及びＢ画素の位置のＲ信号を補間により算出し、全画素のＲ信号を出力する。例えば、Ｒ補間回路２０３は、ＷＢ回路２０１が出力するベイヤ配列の入力画像信号に対して、Ｒ画素以外の信号レベルを０にした後、２次元のＬＰＦ（ローパスフィルタ）処理によりＲ信号を算出する。
【００１６】
Ｂ補間回路２０４は、ＷＢ回路２０１が出力するベイヤ配列の入力画像信号に対して、図１の入力画像のＲ画素及びＧ画素の位置のＢ信号を補間により算出し、全画素のＢ信号を出力する。例えば、Ｂ補間回路２０４は、ＷＢ回路２０１が出力するベイヤ配列の入力画像信号に対して、Ｂ画素以外の信号レベルを０にした後、２次元のＬＰＦ処理によりＢ信号を算出する。
【００１７】
ＡＰＣ回路２０５は、Ｇ補間回路２０２から出力されるＧ信号に対して、ＨＰＦ（ハイパスフィルタ）等を適応することでアパーチャ補正信号を生成する。加算回路２０７は、Ｇ補間回路２０２が出力するＧ信号とＡＰＣ回路２０５の出力信号とを加算し、全画素のＧ信号を出力する。輝度信号生成回路２０６は、加算回路２０７が出力するＧ信号と、Ｒ補間回路２０３が出力するＲ信号と、Ｂ補間回路２０４が出力するＢ信号とを基に、次式（１）により、全画素の輝度信号Ｙを生成する。
Ｙ＝０．３Ｒ＋０．５９Ｇ＋０．１１Ｂ      ・・・（１）
【００１８】
図３は、図２のＧ補間回路２０２の構成例を示すブロック図である。Ｇ補間回路２０２は、Ｇ画素Ｖ補間回路３０１と、Ｇ画素Ｈ補間回路３０２と、Ｒ，Ｂ画素Ｖ補間回路３０３と、Ｒ，Ｂ画素Ｈ補間回路３０４と、Ｖ色差算出回路３０５と、Ｈ色差算出回路３０６とを有する。さらに、Ｇ補間回路２０２は、Ｖ色差傾き算出回路３０７と、Ｈ色差傾き算出回路３０８と、赤、青被写体検出回路３０９と、Ｎフィルタ回路３１０と、Ｓフィルタ回路３１１と、Ｗフィルタ回路３１２と、Ｅフィルタ回路３１３とを有する。さらに、Ｇ補間回路２０２は、Ｎ重み算出回路３１４と、Ｓ重み算出回路３１５、Ｗ重み算出回路３１６と、Ｅ重み算出回路３１７と、合成回路３１８と、加算回路３１９とを有する。
【００１９】
図４は、Ｇ補間回路２０２の画像処理方法の流れを示すフローチャートである。ステップＳ４０１では、Ｇ画素Ｖ補間回路３０１は、ＷＢ回路２０１が出力するベイヤ配列の入力画像信号に対して、垂直方向に補間処理を行うことによりＧ信号を算出し、全画素のＧ信号を出力する。具体的には、Ｇ画素Ｖ補間回路３０１は、着目画素がＧ画素の場合には、そのままＧ信号として出力し、着目画素がＲ画素又はＢ画素の場合には、垂直方向にＧ信号の補間処理を行うことによりＧ信号を算出する。例えば、Ｇ画素Ｖ補間回路３０１は、画像における着目画素のＸ座標及びＹ座標を（ｊ，ｉ）としたとき、着目画素がＲ画素の場合、Ｇ信号Ｇｖi,jを次式（２）により算出する。また、Ｇ画素Ｖ補間回路３０１は、着目画素がＢ画素の場合も、着目画素がＲ画素の場合と同様の方法によりＧ信号を算出する。
Ｇｖi,j＝（Ｇi-1,j＋Ｇi+1,j）／２      ・・・（２）
【００２０】
次に、ステップＳ４０２では、Ｇ画素Ｈ補間回路３０２は、ＷＢ回路２０１が出力する入力画像信号に対して、水平方向に補間処理を行うことによりＧ信号を算出し、全画素のＧ信号を出力する。具体的には、Ｇ画素Ｈ補間回路３０２は、着目画素がＧ画素の場合には、そのままＧ信号として出力し、着目画素がＲ画素又はＢ画素の場合には、水平方向にＧ信号の補間処理を行うことによりＧ信号を算出する。例えば、Ｇ画素Ｈ補間回路３０２は、着目画素がＲ画素の場合、Ｇ信号Ｇｈi,jを次式（３）により算出する。また、Ｇ画素Ｈ補間回路３０２は、着目画素がＢ画素の場合も、着目画素がＲ画素の場合と同様の方法によりＧ信号を算出する。
Ｇｈi,j＝（Ｇi,j-1＋Ｇi,j+1）／２      ・・・（３）
【００２１】
次に、ステップＳ４０３では、Ｒ，Ｂ画素Ｖ補間回路３０３は、ＷＢ回路２０１が出力する入力画像信号に対して、垂直方向に補間処理を行うことによりＲ信号及びＢ信号を算出し、全画素のＲ信号及びＢ信号を出力する。具体的には、Ｒ，Ｂ画素Ｖ補間回路３０３は、着目画素がＲ画素又はＢ画素の場合には、そのままＲ信号又はＢ信号として出力する。Ｒ，Ｂ画素Ｖ補間回路３０３は、着目画素がＧ画素の場合に、着目画素の垂直方向がＲ画素の場合には、垂直方向に補間処理を行うことによりＲ信号を算出し、着目画素の垂直方向がＢ画素の場合には、垂直方向に補間処理を行うことによりＢ信号を算出する。例えば、Ｒ，Ｂ画素Ｖ補間回路３０３は、着目画素がＧ画素であり、着目画素の垂直方向がＲ画素の場合には、Ｒ信号Ｒｖi,jを次式（４）により算出する。また、Ｒ，Ｂ画素Ｖ補間回路３０３は、着目画素の垂直方向がＢ画素の場合も、着目画素の垂直方向がＲ画素の場合と同様の方法によりＢ信号を算出する。
Ｒｖi,j＝（Ｒi-1,j＋Ｒi+1,j）／２      ・・・（４）
【００２２】
次に、ステップＳ４０４では、Ｒ，Ｂ画素Ｈ補間回路３０４は、ＷＢ回路２０１が出力する入力画像信号に対して、水平方向に補間処理を行うことによりＲ信号及びＢ信号を算出し、全画素のＲ信号及びＢ信号を出力する。具体的には、Ｒ，Ｂ画素Ｈ補間回路３０４は、着目画素がＲ画素又はＢ画素の場合には、そのままＲ信号又はＢ信号として出力する。Ｒ，Ｂ画素Ｈ補間回路３０４は、着目画素がＧ画素の場合に、着目画素の水平方向がＲ画素の場合には、水平方向に補間処理を行うことによりＲ信号を算出し、着目画素の水平方向がＢ画素の場合には、水平方向に補間処理を行うことによりＢ信号を算出する。例えば、Ｒ，Ｂ画素Ｈ補間回路３０４は、着目画素がＧ画素であり、着目画素の水平方向がＲ画素の場合には、Ｒ信号Ｒｈi,jを次式（５）により算出する。また、Ｒ，Ｂ画素Ｈ補間回路３０４は、着目画素の水平方向がＢ画素の場合も、着目画素の水平方向がＲ画素の場合と同様の方法によりＢ信号を算出する。
Ｒｈi,j＝（Ｒi,j-1＋Ｒi,j+1）／２      ・・・（５）
【００２３】
なお、ステップＳ４０１〜Ｓ４０４において、Ｇ画素とＲ，Ｂ画素の垂直及び水平方向の補間方法として、式（２）〜（５）を用いて着目画素の隣接画素から補間を行ったが、これに限定されず、隣接画素以外の画素を用いて補間を行ってもよい。
【００２４】
次に、ステップＳ４０５では、Ｖ色差算出回路３０５は、Ｇ画素Ｖ補間回路３０１から出力されたＧ信号から、Ｒ，Ｂ画素Ｖ補間回路３０３から出力されたＲ信号又はＢ信号を減算することにより、入力画像信号の垂直方向の色差信号を算出する。Ｖ色差算出回路３０５は、第１の色差信号算出手段である。Ｖ色差算出回路３０５は、着目画素（ｊ，ｉ）において、Ｇ画素Ｖ補間回路３０１が出力する信号がＧ信号Ｇｖi,jであり、Ｒ，Ｂ画素Ｖ補間回路３０３が出力する信号がＲ信号Ｒｖi,jの場合、垂直方向の色差信号Ｄｉｆｆ＿ｖを次式（６）により算出する。また、Ｖ色差算出回路３０５は、Ｒ，Ｂ画素Ｖ補間回路３０３が出力する信号がＢ信号の場合も、Ｒ，Ｂ画素Ｖ補間回路３０３が出力する信号がＲ信号の場合と同様の方法により、Ｇ信号とＢ信号の垂直色差信号を算出する。
Ｄｉｆｆ＿ｖi,j＝Ｇｖi,j−Ｒｖi,j      ・・・（６）
【００２５】
次に、ステップＳ４０６では、Ｈ色差算出回路３０６は、Ｇ画素Ｈ補間回路３０２から出力されたＧ信号から、Ｒ，Ｂ画素Ｈ補間回路３０４から出力されたＲ信号又はＢ信号を減算することにより、入力画像信号の水平方向の色差信号を算出する。Ｈ色差算出回路３０６は、第２の色差信号算出手段である。Ｈ色差算出回路３０６は、着目画素（ｊ，ｉ）において、Ｇ画素Ｈ補間回路３０２が出力する信号がＧ信号Ｇｈi,jであり、Ｒ，Ｂ画素Ｈ補間回路３０４が出力する信号がＲ信号Ｒｈi,jの場合、水平方向の色差信号Ｄｉｆｆ＿ｈを次式（７）により算出する。また、Ｈ色差算出回路３０６は、Ｒ，Ｂ画素Ｈ補間回路３０４が出力する信号がＢ信号の場合も、Ｒ，Ｂ画素Ｈ補間回路３０４が出力する信号がＲ信号の場合と同様の方法により、Ｇ信号とＢ信号の水平色差信号を算出する。
Ｄｉｆｆ＿ｈi,j＝Ｇｈi,j−Ｒｈi,j      ・・・（７）
【００２６】
次に、ステップＳ４０７では、Ｖ色差傾き算出回路３０７は、Ｖ色差算出回路３０５から出力された色差信号を基に、垂直方向の色差の傾きを算出する。具体的には、Ｖ色差傾き算出回路３０７は、着目画素（ｊ，ｉ）において、Ｖ色差算出回路３０５から出力された色差信号Ｄｉｆｆ＿ｖを基に、垂直方向の色差の傾き信号Ｇｒａｄ＿ｖを次式（８）により算出する。
Ｇｒａｄ＿ｖi,j＝｜Ｄｉｆｆ＿ｖi-1,j−Ｄｉｆｆ＿ｖi+1,j｜      ・・・（８）
【００２７】
次に、ステップＳ４０８では、Ｈ色差傾き算出回路３０８は、Ｈ色差算出回路３０６から出力された色差信号を基に、水平方向の色差の傾きを算出する。具体的には、Ｈ色差傾き算出回路３０８は、着目画素（ｊ，ｉ）において、Ｈ色差算出回路３０６から出力された色差信号Ｄｉｆｆ＿ｈを基に、水平方向の色差の傾き信号Ｇｒａｄ＿ｈを次式（９）により算出する。
Ｇｒａｄ＿ｈi,j＝｜Ｄｉｆｆ＿ｈi,j-1−Ｄｉｆｆ＿ｈi,j+1｜      ・・・（９）
【００２８】
次に、ステップＳ４０９では、赤、青被写体検出回路３０９は、Ｒ信号の強度が高い赤色の被写体、又は、Ｂ信号の強度が高い青色の被写体、若しくはＲ信号、Ｂ信号が両方とも高いマゼンタ色の被写体を検出する。赤、青被写体検出回路３０９は、色信号強度算出手段である。赤、青被写体検出回路３０９の処理の詳細は後述するが、赤、青被写体検出回路３０９では、被写体が赤色、青色、若しくはマゼンタ色である程度に応じて０．０〜１．０の間の色信号強度αを出力する。色信号強度αは、例えば、被写体が赤色、青色、若しくはマゼンタ色の被写体でないと判断される場合には０．０と出力され、被写体が赤色、青色、若しくはマゼンタ色の被写体であると判断される場合には１．０と出力される。
【００２９】
次に、ステップＳ４１０では、Ｎフィルタ回路３１０は、Ｖ色差算出回路３０５から出力された色差信号に対して、赤、青被写体検出回路３０９から出力された色信号強度αに基づいて上方向のフィルタ処理を行う。具体的には、まず、Ｎフィルタ回路３１０は、Ｖ色差算出回路３０５から出力された色差信号Ｄｉｆｆ＿ｖを用いて、着目画素（ｊ，ｉ）における上方向のフィルタ処理の結果Ｆｉｌ＿ｎを次式（１１）により算出する。
【００３０】
【数１】
0006987622.tif 000002
【００３１】
次に、Ｎフィルタ回路３１０は、色信号強度αに基づいて、色差信号Ｄｉｆｆ＿ｎを次式（１２）により算出して出力する。
Ｄｉｆｆ＿ｎi,j＝αi,j×Ｄｉｆｆ＿ｖi,j
＋（１．０−αi,j）×Ｆｉｌ＿ｎi,j  ・・・（１２）
【００３２】
次に、ステップＳ４１１では、Ｓフィルタ回路３１１は、Ｖ色差算出回路３０５から出力された色差信号に対して、赤、青被写体検出回路３０９から出力された色信号強度αに基づいて下方向のフィルタ処理を行う。具体的には、まず、Ｓフィルタ回路３１１は、Ｖ色差算出回路３０５から出力された色差信号Ｄｉｆｆ＿ｖを用いて、着目画素（ｊ，ｉ）における下方向のフィルタ処理の結果Ｆｉｌ＿ｓを次式（１３）により算出する。
【００３３】
【数２】
0006987622.tif 000003
【００３４】
次に、Ｓフィルタ回路３１１は、色信号強度αに基づいて、色差信号Ｄｉｆｆ＿ｓを次式（１４）により算出して出力する。
Ｄｉｆｆ＿ｓi,j＝αi,j×Ｄｉｆｆ＿ｖi,j 
＋（１．０−αi,j）×Ｆｉｌ＿ｓi,j  ・・・（１４）
【００３５】
次に、ステップＳ４１２では、Ｗフィルタ回路３１２は、Ｈ色差算出回路３０６から出力された色差信号に対して、赤、青被写体検出回路３０９から出力された色信号強度αに基づいて左方向のフィルタ処理を行う。具体的には、まず、Ｗフィルタ回路３１２は、Ｈ色差算出回路３０６から出力された色差信号Ｄｉｆｆ＿ｈを用いて、着目画素（ｊ，ｉ）における左方向のフィルタ処理の結果Ｆｉｌ＿ｗを次式（１５）により算出する。
【００３６】
【数３】
0006987622.tif 000004
【００３７】
次に、Ｗフィルタ回路３１２は、色信号強度αに基づいて、色差信号Ｄｉｆｆ＿Ｗを次式（１６）により算出して出力する。
Ｄｉｆｆ＿ｗi,j＝αi,j×Ｄｉｆｆ＿ｈi,j 
＋（１．０−αi,j）×Ｆｉｌ＿ｗi,j  ・・・（１６）
【００３８】
次に、ステップＳ４１３では、Ｅフィルタ回路３１３は、Ｈ色差算出回路３０６から出力された色差信号に対して、赤、青被写体検出回路３０９から出力された色信号強度αに基づいて右方向のフィルタ処理を行う。具体的には、まず、Ｅフィルタ回路３１３は、Ｈ色差算出回路３０６から出力された色差信号Ｄｉｆｆ＿ｈを用いて、着目画素（ｊ，ｉ）における右方向のフィルタ処理の結果Ｆｉｌ＿ｅを次式（１７）により算出する。
【００３９】
【数４】
0006987622.tif 000005
【００４０】
次に、Ｅフィルタ回路３１３は、色信号強度αに基づいて、色差信号Ｄｉｆｆ＿ｅを次式（１８）により算出して出力する。
Ｄｉｆｆ＿ｅi,j＝αi,j×Ｄｉｆｆ＿ｈi,j 
＋（１．０−αi,j）×Ｆｉｌ＿ｅi,j  ・・・（１８）
【００４１】
次に、ステップＳ４１４では、Ｎ重み算出回路３１４は、Ｖ色差傾き算出回路３０７から出力された垂直方向の色差の傾き信号Ｇｒａｄ＿ｖを基に、上方向の重みＷｎを次式（１９）により算出する。
【００４２】
【数５】
0006987622.tif 000006
【００４３】
次に、ステップＳ４１５では、Ｓ重み算出回路３１５は、Ｖ色差傾き算出回路３０７から出力された垂直方向の色差の傾き信号Ｇｒａｄ＿ｖを基に、下方向の重みＷｓを次式（２０）により算出する。
【００４４】
【数６】
0006987622.tif 000007
【００４５】
次に、ステップＳ４１６では、Ｗ重み算出回路３１６は、Ｈ色差傾き算出回路３０８から出力された水平方向の色差の傾き信号Ｇｒａｄ＿ｈを基に、左方向の重みＷｗを次式（２１）により算出する。
【００４６】
【数７】
0006987622.tif 000008
【００４７】
次に、ステップＳ４１７では、Ｅ重み算出回路３１７は、Ｈ色差傾き算出回路３０８から出力された水平方向の色差の傾き信号Ｇｒａｄ＿ｈを基に、右方向の重みＷｅを次式（２２）により算出する。
【００４８】
【数８】
0006987622.tif 000009
【００４９】
次に、ステップＳ４１８では、合成回路３１８は、Ｎ重み算出回路３１４から入力される重みＷｎ、Ｓ重み算出回路３１５から入力される重みＷｓ、Ｗ重み算出回路３１６から入力される重みＷｗ、及びＥ重み算出回路３１７から入力される重みＷｅを入力する。また、合成回路３１８は、Ｎフィルタ回路３１０から入力される色差信号Ｄｉｆｆ＿ｎと、Ｓフィルタ回路３１１から入力される色差信号Ｄｉｆｆ＿ｓとを入力する。また、合成回路３１８は、Ｗフィルタ回路３１２から入力される色差信号Ｄｉｆｆ＿ｗと、Ｅフィルタ回路３１３から入力される色差信号Ｄｉｆｆ＿ｅとを入力する。合成回路３１８は、重みＷｎ、重みＷｓ、重みＷｗ及び重みＷｅに基づいて、色差信号Ｄｉｆｆ＿ｎと、色差信号Ｄｉｆｆ＿ｓと、色差信号Ｄｉｆｆ＿ｗと、色差信号Ｄｉｆｆ＿ｅとを合成し、色差信号Ｄｉｆｆ＿ｍｉｘを次式（２３）により算出する。
Ｄｉｆｆ＿ｍｉｘi,j＝（Ｗｎi,j×Ｄｉｆｆ＿ｎi,j＋Ｗｓi,j×Ｄｉｆｆ＿ｓi,j
＋Ｗｗi,j×Ｄｉｆｆ＿ｗi,j＋Ｗｅi,j×Ｄｉｆｆ＿ｅi,j）／Ｗｔi,j
Ｗｔi,j＝Ｗｎi,j＋Ｗｓi,j＋Ｗｗi,j＋Ｗｅi,j
・・・（２３）
【００５０】
次に、ステップＳ４１９では、加算回路３１９は、Ｇ補間回路２０２に入力された入力画像信号の着目画素がＲ画素又はＢ画素の場合には、着目画素の信号に対して合成回路３１８で合成された色差信号Ｄｉｆｆ＿ｍｉｘを加算してＧ信号を算出して出力する。また、加算回路３１９は、着目画素がＧ画素の場合には、Ｇ補間回路２０２に入力された画像信号をそのまま出力する。加算回路３１９の出力信号は、Ｇ補間回路２０２の出力信号である。
【００５１】
以上のように、Ｎフィルタ回路３１０は上方向のフィルタ処理を行い、Ｓフィルタ回路３１１は下方向のフィルタ処理を行い、Ｗフィルタ回路３１２は左方向のフィルタ処理を行い、Ｅフィルタ回路３１３は右方向のフィルタ処理を行う。Ｎフィルタ回路３１０とＳフィルタ回路３１１は、第１のフィルタ処理手段であり、垂直方向の色差信号に対してフィルタ処理を行う。Ｗフィルタ回路３１２とＥフィルタ回路３１３は、第２のフィルタ処理手段であり、水平方向の色差信号に対してフィルタ処理を行う。そして、着目画素がＲ画素又はＢ画素の場合には、フィルタ処理後の色差信号が、合成回路３１８で方向毎の重みで合成された後に、加算回路３１９で着目画素に加算され、Ｇ補間回路２０２の出力となるＧ信号が生成される。
【００５２】
図５は、図３の赤、青被写体検出回路３０９の構成例を示すブロック図である。赤、青被写体検出回路３０９は、Ｒ補間回路５０１と、Ｇ補間回路５０２と、Ｂ補間回路５０３と、減算器５０４と、減算器５０５と、リミッタ５０６と、リミッタ５０７と、加算器５０８と、係数算出回路５０９とを有する。
【００５３】
図６は、赤、青被写体検出回路３０９の画像処理方法の流れを示すフローチャートである。ステップＳ６０１では、Ｒ補間回路５０１は、ＷＢ回路２０１が出力するベイヤ配列の入力画像信号に対して、Ｇ画素及びＢ画素の位置のＲ信号を補間により算出し、全画素のＲ信号を出力する。例えば、Ｒ補間回路５０１は、ＷＢ回路２０１が出力するベイヤ配列の入力画像信号に対して、Ｒ画素以外の信号レベルを０にした後、２次元のＬＰＦ処理によりＲ信号を算出する。
【００５４】
ステップＳ６０２では、Ｇ補間回路５０２は、ＷＢ回路２０１が出力するベイヤ配列の入力画像信号に対して、Ｒ画素及びＢ画素の位置のＧ信号を補間により算出し、全画素のＧ信号を出力する。例えば、Ｇ補間回路５０２は、ＷＢ回路２０１が出力するベイヤ配列の入力画像信号に対して、Ｇ画素以外の信号レベルを０にした後、２次元のＬＰＦ処理によりＧ信号を算出する。
【００５５】
ステップＳ６０３では、Ｂ補間回路５０３は、ＷＢ回路２０１が出力するベイヤ配列の入力画像信号に対して、Ｒ画素及びＧ画素の位置のＢ信号を補間により算出し、全画素のＢ信号を出力する。例えば、Ｂ補間回路５０３は、ＷＢ回路２０１が出力するベイヤ配列の入力画像信号に対して、Ｂ画素以外の信号レベルを０にした後、２次元のＬＰＦ処理によりＢ信号を算出する。
【００５６】
次に、ステップＳ６０４では、減算器５０４は、Ｒ補間回路５０１から出力されたＲ信号から、Ｇ補間回路５０２から出力されたＧ信号を減算する。減算器５０４は、着目画素（ｊ，ｉ）において、Ｒ補間回路５０１が出力する信号がＲ信号Ｒi,jであり、Ｇ補間回路５０２が出力する信号がＧ信号Ｇi,jである場合、減算結果である色差信号Ｖi,jは次式（２４）により算出する。
Ｖi,j＝Ｒi,j−Ｇi,j      ・・・（２４）
【００５７】
ステップＳ６０５では、減算器５０５は、Ｂ補間回路５０３から出力されたＢ信号から、Ｇ補間回路５０２から出力されたＧ信号を減算する。減算器５０５は、着目画素（ｊ，ｉ）において、Ｂ補間回路５０３が出力する信号がＢ信号Ｂi,jであり、Ｇ補間回路５０２が出力する信号がＧ信号Ｇi,jである場合、減算結果である色差信号Ｕi,jは次式（２５）により算出する。
Ｕi,j＝Ｂi,j−Ｇi,j      ・・・（２５）
【００５８】
ステップＳ６０６では、リミッタ５０６は、減算器５０４から出力された色差信号Ｖに対して、負の信号を０にクリップする。このようにクリップ処理を行うことで、Ｒ信号よりＧ信号が大きい場合、つまり赤色被写体である可能性がない場合には、色差信号Ｖが０を出力する。
【００５９】
ステップＳ６０７では、リミッタ５０７は、減算器５０５から出力された色差信号Ｕに対して、負の信号を０にクリップする。このようにクリップ処理を行うことで、Ｂ信号よりＧ信号が大きい場合、つまり青色被写体である可能性がない場合には、色差信号Ｕが０を出力する。
【００６０】
ステップＳ６０８では、加算器５０８は、リミッタ５０６から出力された色差信号Ｖと、リミッタ５０７から出力された色差信号Ｕとを加算する。加算器５０８は、着目画素（ｊ，ｉ）において、リミッタ５０６から出力される色差信号ＶがＶi,jであり、リミッタ５０７から出力された色差信号ＵがＵi,jである場合、加算結果である色信号Ｃi,jは次式（２６）により算出する。
Ｃi,j＝Ｖi,j＋Ｕi,j      ・・・（２６）
【００６１】
ステップＳ６０９では、係数算出回路５０９は、加算器５０８から出力される色信号Ｃに基づいて、赤色、青色、若しくはマゼンタ色である程度を示す色信号強度αを算出する。
【００６２】
図７は、係数算出回路５０９が、加算器５０８から出力される色信号Ｃから、色信号強度αを算出する際の変換テーブルの一例を示す図である。図７において、横軸は色信号Ｃを示し、縦軸は色信号強度αを示す。係数算出回路５０９は、算出結果である色信号Ｃが予め設定された第１の閾値Ｔｈ１以下である場合には、被写体が赤色、青色、若しくはマゼンタ色ではないとみなせるので、色信号強度αとして０．０を出力する。また、係数算出回路５０９は、算出結果である色信号Ｃが第２の閾値Ｔｈ２以上である場合には、被写体が赤色、青色、若しくはマゼンタ色であるとみなせるので、色信号強度αとして１．０を出力する。ここで、第２の閾値Ｔｈ２は、第１の閾値Ｔｈ１より大きい。係数算出回路５０９は、算出結果である色信号Ｃが第１の閾値Ｔｈ１より大きく、かつ色信号Ｃが第２の閾値Ｔｈ２未満である場合には、色信号Ｃの大きさに応じて線形的に０．０〜１．０の間の色信号強度αを算出する。
【００６３】
本実施形態では、赤色や青色のような被写体に発生する偽パターンを低減するために、赤、青被写体検出回路３０９を設けている。赤、青被写体検出回路３０９は、色信号Ｃを算出して色信号強度αを算出し、フィルタ回路３１０〜３１３でフィルタ処理を行っていない色差信号の割合を調整する。
【００６４】
赤色、青色、若しくはマゼンタ色の被写体である場合（色信号Ｃが第２の閾値以上の場合）には、色信号強度αは１．０となり、フィルタ回路３１０〜３１３はフィルタ処理を行わない（フィルタ処理の特性を変更する）。このように、被写体が赤色、青色、若しくはマゼンタ色あり、着目画素がＲ画素又はＢ画素の場合、フィルタ回路３１０〜３１３から出力される色差信号は式（２）〜式（７）から、着目画素の左右又は上下のＧ画素と着目画素との差分となる。そして、加算回路３１９で着目画素に加算されると、結果的に左右又は上下のＧ信号から算出した値となる。その結果、Ｒ信号及びＢ信号を用いずにＧ信号を生成できるため、Ｇ信号に対して、Ｒ、Ｂ信号のサンプリングが少ないことに起因したＲ、Ｂ信号の折り返しがＧ信号にも生じることを防止することができる。
【００６５】
一方、被写体が赤色でも青色でもマゼンタ色でもない場合には、色信号強度αは０．０となり、フィルタ回路３１０〜３１３はフィルタ処理を行う。このように、被写体が赤色でも青色でもマゼンタ色でもない場合には、フィルタ処理を行うことで、Ｇ信号だけでなく、Ｒ、Ｂ信号も用いてＧ信号を生成でき、方向に因らず解像感の高い画像を生成することができる。さらに、色信号強度αが０．０〜１．０の場合には、その強度に応じてフィルタ処理を行わない色差信号の強度を変化させることで、赤色や青色のような被写体に発生する偽パターンを低減し、画質を向上させることができる。
【００６６】
以上のように本実施形態によれば、ベイヤ配列の画像信号からＧ信号及び輝度信号を生成する際に、赤色や青色のような被写体に発生する偽パターンを低減した上で、方向に因らず解像感の高い画像を得ることができる。
【００６７】
（第２の実施形態）
以下、本発明の第２の実施形態について説明する。本実施形態に係る輝度信号生成部２００の構成は図２と同様である。なお、本実施形態では、第１の実施形態と異なる部分についてのみ説明する。
【００６８】
図８は、本発明の第２の実施形態によるＧ補間回路２０２の構成例を示すブロック図である。Ｇ補間回路２０２は、第１のＧ補間回路８０１と、第２のＧ補間回路８０２と、赤、青被写体検出回路８０３と、合成回路８０４とを有する。第１のＧ補間回路８０１は第１の補間手段であり、画像信号に対して色差信号を用いないでＧ信号を補間し、第１のＧ信号を出力する。第２のＧ補間回路８０２は第２の補間手段であり、画像信号に対して色差信号を用いてＧ信号を補間し、第２のＧ信号を出力する。合成回路８０４は合成手段であり、赤、青被写体検出回路８０３から出力される色信号強度αに基づいて、第１のＧ補間回路８０１により補間された第１のＧ信号と第２のＧ補間回路８０２により補間された第２のＧ信号とを合成する。その詳細は、後述する。なお、赤、青被写体検出回路８０３は、第１の実施形態の図５の赤、青被写体検出回路３０９と同様の回路である。
【００６９】
図９は、第１のＧ補間回路８０１の構成例を示すブロック図である。第１のＧ補間回路８０１は、０挿入回路９０１と、ＨＶ補間回路９０２とを有する。０挿入回路９０１は、入力された画像信号のうちのＲ画素とＢ画素の信号レベルを０にする。次に、ＨＶ補間回路９０２は、０挿入回路９０１が出力する画像信号に対して、水平方向および垂直方向に補間処理を行うことにより、Ｇ信号を算出する。このとき、ＨＶ補間回路９０２は、水平方向および垂直方向の補間処理には、例えば（１，２，１）／２の係数のフィルタを用いる。
【００７０】
図１０は、第２のＧ補間回路８０２の構成例を示すブロックである。第２のＧ補間回路８０２は、Ｇ画素Ｖ補間回路１００１と、Ｇ画素Ｈ補間回路１００２と、Ｒ，Ｂ画素Ｖ補間回路１００３と、Ｒ，Ｂ画素Ｈ補間回路１００４と、Ｖ色差算出回路１００５と、Ｈ色差算出回路１００６とを有する。さらに、第２のＧ補間回路８０２は、Ｖ色差傾き算出回路１００７と、Ｈ色差傾き算出回路１００８と、Ｎフィルタ回路１００９と、Ｓフィルタ回路１０１０と、Ｗフィルタ回路１０１１と、Ｅフィルタ回路１０１２とを有する。さらに、第２のＧ補間回路８０２は、Ｎ重み算出回路１０１３と、Ｓ重み算出回路１０１４と、Ｗ重み算出回路１０１５と、Ｅ重み算出回路１０１６と、合成回路１０１７と、加算回路１０１８とを有する。
【００７１】
図１１は、第２のＧ補間回路８０２の処理の流れを示すフローチャートである。ステップＳ１１０１では、Ｇ画素Ｖ補間回路１００１は、入力画像信号に対して、垂直方向に補間処理を行うことにより、Ｇ信号を生成する。具体的には、Ｇ画素Ｖ補間回路１００１は、着目画素がＧ画素の場合には、Ｇ画素の信号をそのままＧ信号として出力し、着目画素がＲ画素またはＢ画素の場合には、垂直方向に補間処理を行うことにより、Ｇ信号を生成する。例えば、画像における着目画素のＸ座標およびＹ座標を（ｊ，ｉ）としたとき、Ｇ画素Ｖ補間回路１００１は、着目画素がＲ画素の場合、Ｇ信号Ｇｖi,jを次式（２７）により生成する。
Ｇｖi,j＝（Ｇi-1,j＋Ｇi+1,j）／２＋（２×Ｒi,j−Ｒi-2,j＋Ｒi+2,j）／４
・・・（２７）
【００７２】
なお、Ｇ画素Ｖ補間回路１００１は、着目画素がＢ画素の場合も、上記と同様の方法で、Ｇ信号を生成する。
【００７３】
次に、ステップＳ１１０２では、Ｇ画素Ｈ補間回路１００２は、入力画像信号に対して、水平方向に補間処理を行うことにより、Ｇ信号を生成する。具体的には、Ｇ画素Ｈ補間回路１００２は、着目画素がＧ画素の場合には、Ｇ画素の信号をそのままＧ信号として出力し、着目画素がＲ画素またはＢ画素の場合には、水平方向に補間処理を行うことにより、Ｇ信号を生成する。例えば、Ｇ画素Ｈ補間回路１００２は、着目画素がＲ画素の場合、Ｇ信号Ｇｈi,jを次式（２８）により生成する。
Ｇｈi,j＝（Ｇi,j-1＋Ｇi,j+1）／２＋（２×Ｒi,j−Ｒi,j-2＋Ｒi,j+2）／４
・・・（２８）
【００７４】
なお、Ｇ画素Ｈ補間回路１００２は、着目画素がＢ画素の場合も、上記と同様の方法で、Ｇ信号を生成する。
【００７５】
次に、ステップＳ１１０３では、Ｒ，Ｂ画素Ｖ補間回路１００３は、入力画像信号に対して、垂直方向に補間処理を行うことにより、Ｒ信号またはＢ信号を生成する。具体的には、Ｒ，Ｂ画素Ｖ補間回路１００３は、着目画素がＲ画素またはＢ画素の場合には、Ｒ画素またはＢ画素の信号をそのままＲ信号またはＢ信号として出力する。Ｒ，Ｂ画素Ｖ補間回路１００３は、着目画素がＧ画素の場合に、着目画素の垂直方向がＲ画素の場合には、垂直方向に補間処理を行うことでＲ信号を生成し、同様に、着目画素の垂直方向がＢ画素の場合には、垂直方向に補間処理を行うことでＢ信号を生成する。例えば、着目画素がＧ画素で、着目画素の垂直方向がＲ画素の場合、Ｒ，Ｂ画素Ｖ補間回路１００３は、Ｒ信号Ｒｖi,jを次式（２９）により生成する。
Ｒｖi,j＝（Ｒi-1,j＋Ｒi+1,j）／２＋（２×Ｇi,j−Ｇi-2,j＋Ｇi+2,j）／４
・・・（２９）
【００７６】
なお、Ｒ，Ｂ画素Ｖ補間回路１００３は、着目画素の垂直方向がＢ画素の場合、上記と同様の方法で、Ｂ信号を生成する。
【００７７】
次に、ステップＳ１１０４では、Ｒ，Ｂ画素Ｈ補間回路１００４は、入力画像信号に対して、水平方向に補間処理を行うことにより、Ｒ信号またはＢ信号を生成する。具体的には、Ｒ，Ｂ画素Ｈ補間回路１００４は、着目画素がＲ画素またはＢ画素の場合には、Ｒ画素またはＢ画素の信号をそのままＲ信号またはＢ信号として出力する。Ｒ，Ｂ画素Ｈ補間回路１００４は、着目画素がＧ画素の場合に、着目画素の水平方向がＲ画素の場合には、水平方向に補間処理を行うことでＲ信号を生成し、同様に、着目画素の水平方向がＢ画素の場合には、水平方向に補間処理を行うことでＢ信号を生成する。例えば、着目画素がＧ画素で、着目画素の水平方向がＲ画素の場合、Ｒ，Ｂ画素Ｈ補間回路１００４は、Ｒ信号Ｒｈi,jを次式（３０）により生成する。
Ｒｈi,j＝（Ｒi,j-1＋Ｒi,j+1）／２＋（２×Ｇi,j−Ｇi,j-2＋Ｇi,j+2）／４
・・・（３０）
【００７８】
なお、Ｒ，Ｂ画素Ｈ補間回路１００４は、着目画素の水平方向がＢ画素の場合、上記と同様の方法で、Ｂ信号を生成する。また、ステップＳ１１０１〜Ｓ１１０４の補間方法として、式（２７）〜（３０）を用いたが、これに限定されず、例えば第１の実施形態のように式（２）〜（５）を用いて同色画素を各方向に線形補間してもよい。
【００７９】
次に、ステップＳ１１０５では、Ｖ色差算出回路１００５は、Ｇ画素Ｖ補間回路１００１が出力したＧ信号から、Ｒ，Ｂ画素Ｖ補間回路１００３が出力したＲ信号またはＢ信号を減算し、垂直方向の色差信号を生成する。例えば、Ｖ色差算出回路１００５は、図３のＶ色差算出回路３０５と同様に垂直方向の色差信号Ｄｉｆｆ＿ｖを式（６）により算出する。
【００８０】
次に、ステップＳ１１０６では、Ｈ色差算出回路１００６は、Ｇ画素Ｈ補間回路１００２が出力したＧ信号から、Ｒ，Ｂ画素Ｈ補間回路１００４が出力したＲ信号またはＢ信号を減算し、水平方向の色差信号を生成する。例えば、Ｈ色差算出回路１００６は、図３のＨ色差算出回路３０６と同様に水平方向の色差信号Ｄｉｆｆ＿ｈを式（７）により算出する。
【００８１】
次に、ステップＳ１１０７では、Ｖ色差傾き算出回路１００７は、Ｖ色差算出回路１００５から出力された色差信号を基に、垂直方向の色差の傾きを算出する。具体的には、Ｖ色差傾き算出回路１００７は、図３のＶ色差傾き算出回路３０７と同様に、垂直方向の色差の傾き信号Ｇｒａｄ＿ｖを式（８）により算出する。
【００８２】
なお、傾き信号Ｇｒａｄ＿ｖを算出する式は、式（８）に限定されない。Ｖ色差傾き算出回路１１０７は、例えば、着目画素と上下の隣接画素のそれぞれの差分に基づいて、傾き信号Ｇｒａｄ＿ｖを算出しても良い。Ｖ色差傾き算出回路１００７は、算出した垂直方向の色差の傾き信号Ｇｒａｄ＿ｖを、Ｎ重み算出回路１０１３、Ｓ重み算出回路１０１４にそれぞれ出力する。
【００８３】
次に、ステップＳ１１０８では、Ｈ色差傾き算出回路１００８は、Ｈ色差算出回路１００６から出力された色差信号を基に、水平方向の色差の傾きを算出する。具体的には、Ｈ色差傾き算出回路１００８は、図３のＨ色差傾き算出回路３０８と同様に、水平方向の色差の傾き信号Ｇｒａｄ＿ｈを式（９）により算出する。
【００８４】
なお、傾き信号Ｇｒａｄ＿ｈを算出する式は、式（９）に限定されない。Ｈ色差傾き算出回路１００８は、例えば、着目画素と左右の隣接画素のそれぞれの差分に基づいて、傾き信号Ｇｒａｄ＿ｈを算出しても良い。Ｈ色差傾き算出回路１００８は、算出した水平方向の色差の傾き信号Ｇｒａｄ＿ｈを、Ｗ重み算出回路１０１５、Ｅ重み算出回路１０１６にそれぞれ出力する。
【００８５】
次に、ステップＳ１１０９では、Ｎフィルタ回路１００９は、Ｖ色差算出回路１００５から出力された色差信号に対して、上方向のフィルタ処理を行う。具体的には、Ｎフィルタ回路１００９は、Ｖ色差算出回路１００５から出力された色差信号Ｄｉｆｆ＿ｖを用いて、着目画素（ｊ，ｉ）における上方向のフィルタ処理の結果Ｄｉｆｆ＿ｎを次式（３１）により算出する。
【００８６】
【数９】
0006987622.tif 000010
【００８７】
ステップＳ１１１０では、Ｓフィルタ回路１０１０は、Ｖ色差算出回路１００５から出力された色差信号に対して、下方向のフィルタ処理を行う。具体的には、Ｓフィルタ回路１０１０は、Ｖ色差算出回路１００５から出力された色差信号Ｄｉｆｆ＿ｖを用いて、着目画素（ｊ，ｉ）における下方向のフィルタ処理の結果Ｄｉｆｆ＿ｓを次式（３２）により算出する。
【００８８】
【数１０】
0006987622.tif 000011
【００８９】
ステップＳ１１１１では、Ｗフィルタ回路１０１１は、Ｈ色差算出回路１００６から出力された色差信号に対して、左方向のフィルタ処理を行う。具体的には、Ｗフィルタ回路１０１１は、Ｈ色差算出回路１００６から出力された色差信号Ｄｉｆｆ＿ｈを用いて、着目画素（ｊ，ｉ）における左方向のフィルタ処理の結果Ｄｉｆｆ＿ｗを次式（３３）により算出する。
【００９０】
【数１１】
0006987622.tif 000012
【００９１】
ステップＳ１１１２では、Ｅフィルタ回路１０１２は、Ｈ色差算出回路１００６から出力された色差信号に対して、右方向のフィルタ処理を行う。具体的には、Ｅフィルタ回路１０１２は、Ｈ色差算出回路１００６から出力された色差信号Ｄｉｆｆ＿ｈを用いて、着目画素（ｊ，ｉ）における右方向のフィルタ処理の結果Ｄｉｆｆ＿ｅを次式（３４）により算出する。
【００９２】
【数１２】
0006987622.tif 000013
【００９３】
ステップＳ１１１３では、Ｎ重み算出回路１０１３は、図３のＮ重み算出回路３１４と同様に上方向の重みＷｎを式（１９）により算出する。
【００９４】
ステップＳ１１１４では、Ｓ重み算出回路１０１４は、図３のＳ重み算出回路３１５と同様に下方向の重みＷｓを式（２０）により算出する。
【００９５】
ステップＳ１１１５では、Ｗ重み算出回路１０１５は、図３のＷ重み算出回路３１６と同様に左方向の重みＷｗを式（２１）により算出する。
【００９６】
ステップＳ１１１６では、Ｅ重み算出回路１０１６は、図３のＥ重み算出回路３１７と同様に右方向の重みＷｅを式（２２）により算出する。
【００９７】
ステップＳ１１１７では、合成回路１０１７は、図３の合成回路３１８と同様に、重みＷｎ、Ｗｓ、ＷｗおよびＷｅを基に、色差信号Ｄｉｆｆ＿ｎ、Ｄｉｆｆ＿ｓ、Ｄｉｆｆ＿ｗおよびＤｉｆｆ＿ｅを合成する。そして、合成回路１０１７は、色差信号Ｄｉｆｆ＿ｍｉｘを式（２３）により算出する。
【００９８】
ステップＳ１１１８では、加算回路１０１８は、ＷＢ回路２０１が出力した画像信号に対して、着目画素がＲ画素またはＢ画素の場合には合成回路１０１７で合成された色差信号Ｄｉｆｆ＿ｍｉｘを加算し、第２のＧ信号を出力する。加算回路１０１８の出力信号は、第２のＧ補間回路８０２の出力信号である。上記の結果、第２のＧ補間回路８０２は、Ｒ画素またはＢ画素の画素位置に対して、方向に因らず解像感の高いＧ信号を算出することができる。
【００９９】
次に、図８の合成回路８０４の合成処理について説明する。合成回路８０４は、赤、青被写体検出回路８０３からの色信号強度αに基づいて、第１のＧ補間回路８０１からの第１のＧ信号と第２のＧ補間回路８０２からの第２のＧ信号とを合成し、最終的なＧ信号を出力する。合成回路８０４から出力されるＧ信号は、Ｇ補間回路２０２の出力信号である。合成回路８０４は、画像における着目画素のＸ座標およびＹ座標を（ｊ，ｉ）としたとき、最終的なＧ信号Ｇ＿ｓｉｇi,jを出力する。具体的には、合成回路８０４は、着目画素における第１のＧ信号Ｇ１＿ｓｉｇi,j、第２のＧ信号Ｇ２＿ｓｉｇi,j、合成係数αi,jを用いて、最終的なＧ信号Ｇ＿ｓｉｇi,jを次式（３５）により算出する。つまり、合成係数αi,jが大きいほど、第１のＧ信号の補間結果の割合が高くなる。
Ｇ＿ｓｉｇi,j＝αi,j×Ｇ１＿ｓｉｇi,j＋（１．０−αi,j）×Ｇ２＿ｓｉｇi,j
・・・（３５）
【０１００】
合成回路８０４は、色信号強度αが０．０である場合、つまり、被写体が赤色でも青色でもマゼンタ色でもない場合には、方向に因らず解像感の高い画像を生成できる第２のＧ信号Ｇ２＿ｓｉｇを最終的なＧ信号Ｇ＿ｓｉｇとして出力する。また、合成回路８０４は、合成係数αが１．０である場合、つまり、被写体が赤色、青色、若しくはマゼンタ色である場合には、Ｇ信号のみから生成した第１のＧ信号Ｇ１＿ｓｉｇを最終的なＧ信号Ｇ＿ｓｉｇとして出力する。これにより、Ｇ信号に対して、Ｒ、Ｂ信号のサンプリングが少ないことに起因したＲ、Ｂ信号の折り返しがＧ信号にも生じることを防止することができる。
【０１０１】
（その他の実施形態）
本発明は、上述の実施形態の１以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける１つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、１以上の機能を実現する回路（例えば、ＡＳＩＣ）によっても実現可能である。
【０１０２】
なお、上記実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
【符号の説明】
【０１０３】
３０５  Ｖ色差算出回路、３０６  Ｈ色差算出回路、３０９  赤、青被写体検出回路、３１０  Ｎフィルタ回路、３１１  Ｓフィルタ回路、３１２  Ｗフィルタ回路、３１３  Ｅフィルタ回路
【図１】
0006987622.tif 000014
【図２】
0006987622.tif 000015
【図３】
0006987622.tif 000016
【図４】
0006987622.tif 000017
【図５】
0006987622.tif 000018
【図６】
0006987622.tif 000019
【図７】
0006987622.tif 000020
【図８】
0006987622.tif 000021
【図９】
0006987622.tif 000022
【図１０】
0006987622.tif 000023
【図１１】
0006987622.tif 000024