(57)【要約】【課題】直線上に連続して並んだ欠陥画素の画素データを精度良く補間する補間処理装置を提供する。【解決手段】直線上に連続して並んだ複数の欠陥画素の位置を示す線欠陥情報が記憶された線欠陥情報メモリ５２と、欠陥情報メモリ５２に記憶された線欠陥情報に基づいて、画素データを補間する注目画素を選択する注目画素選択部５３と、注目画素の画素位置を中心とした複数の画素からなる画像領域を設定して、この設定した画像領域を分割した画素ブロックを生成する画素ブロック生成部５４と、各画素ブロック内における画素間の相関を検出する相関検出部５５と、各画素ブロック内における画素間の相関に応じて、注目画素の画素データを補間するための画素を選択して、この選択した画素の画素データから注目画素の画素データを補間する補間処理部５６とを備える。【選択図】  図３
2008277911.tif 000002
【特許請求の範囲】
【請求項１】
撮像手段により撮像された撮像データが入力され、この入力された撮像データを構成する画素データを補間する補間処理装置において、
上記撮像手段により撮像される画像に欠陥が生じる欠陥画素のうち、直線上に連続して並んだ複数の欠陥画素の位置を示す線欠陥情報が記憶された線欠陥情報記憶手段と、
上記線欠陥情報記憶手段に記憶された線欠陥情報に基づいて、上記直線上に連続して並んだ複数の欠陥画素のうち、画素データを補間する注目画素を選択する注目画素選択手段と、
上記入力された撮像データから、上記注目画素選択手段で選択された注目画素の画素位置を中心とした複数の画素からなる画像領域を設定して、この設定した画像領域を少なくとも上記欠陥画素が並んだ直線上を境界として分割した画素ブロックを生成する画素ブロック生成手段と、
上記入力された撮像データを構成する各画素データから、上記画素ブロック生成手段により生成された各画素ブロック内における画素間の相関を検出する相関検出手段と、
上記相関検出手段で検出された各画素ブロック内における画素間の相関に応じて、上記注目画素の画素データを補間するための画素を選択して、この選択した画素の画素データから上記注目画素の画素データを補間する補間手段とを備える補間処理装置。
【請求項２】
３原色の色フィルタが画素単位でベイヤー配列されており、それぞれ赤色信号を出力する画素、緑色信号を出力する画素、及び青色信号を出力する画素がベイヤー配列された画像を撮像する単板式の撮像素子からなる上記撮像手段により撮像された撮像データが入力され、
上記補間手段は、
上記線欠陥情報が示す欠陥画素のうち、緑色信号を出力する画素の画素データが当該補間手段により補間された撮像データを記憶する画像記憶手段と、
上記注目画素選択手段が緑色信号を出力する画素以外の画素を上記注目画素として選択したとき、上記相関検出手段で検出された上記各画素ブロックの相関に応じて、上記注目画素と同じ色信号を出力する画素を選択して、この選択した画素の画素データと、この画素に隣接する緑色信号を出力する画素の画素データとから色相情報を生成する色相情報生成手段と、
上記色相情報生成手段により生成された色相情報と、上記画像記憶手段に記憶され上記注目画素に隣接する緑色信号を出力する画素の画素データとから、上記注目画素の画素データを算出する算出手段とを有することを特徴とする請求項１記載の補間処理装置。
【請求項３】
被写体を撮像した撮像データを生成する撮像手段と、
上記撮像手段により撮像される画像に欠陥が生じる欠陥画素のうち、直線上に連続して並んだ複数の欠陥画素の位置を示す線欠陥情報が記憶された線欠陥情報記憶手段と、
上記線欠陥情報記憶手段に記憶された線欠陥情報に基づいて、上記直線上に連続して並んだ複数の欠陥画素のうち、画素データを補間する注目画素を選択する注目画素選択手段と、
上記撮像手段で撮像された撮像データから、上記注目画素選択手段で選択された注目画素の画素位置を中心とした複数の画素からなる画像領域を設定して、この設定した画像領域を、少なくとも上記欠陥画素が並んだ直線上を境界として分割した画素ブロックを生成する画素ブロック生成手段と、
上記撮像手段により生成された撮像データを構成する各画素データから、上記画素ブロック生成手段により生成された各画素ブロック内における画素間の相関を検出する相関検出手段と、
上記相関検出手段で検出された上記各画素ブロックにおける画素間の相関に応じて、上記注目画素を補間するための画素を選択して、この選択した画素の画素データから上記注目画素の画素データを補間する補間手段とを備える撮像装置。
【請求項４】
撮像素子により撮像された撮像データを構成する画素データを補間する補間処理方法において、
所定の記憶媒体に記憶された情報であって、上記撮像素子により撮像される画像に欠陥が生じる欠陥画素のうち、直線上に連続して並んだ複数の欠陥画素の位置を示す線欠陥情報に基づいて、この直線上に連続して並んだ複数の欠陥画素のうち、画素データを補間する注目画素を選択する注目画素選択工程と、
上記撮像素子により撮像された撮像データから、上記注目画素選択工程で選択された注目画素の位置を中心とした複数の画素からなる画像領域を設定して、この設定した画像領域を、少なくとも上記欠陥画素が並んだ直線上を境界として分割した画素ブロックを生成する画素ブロック生成工程と、
上記撮像素子で撮像された撮像データを構成する各画素データから、上記画素ブロック生成工程で生成された各画素ブロック内における画素間の相関を検出する相関検出工程と、
上記相関検出工程で検出された上記各画素ブロック内における画素間の相関に応じて、上記注目画素の画素データを補間するための画素を選択して、この選択した画素の画素データから上記注目画素の画素データを補間する補間工程とを有する補間処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、撮像素子によって撮像された撮像データに生じる欠陥画素の画素データを補間する補間処理装置、撮像装置、及び、補間処理方法に関するものである。
【背景技術】
【０００２】
ＣＣＤやＣＭＯＳイメージセンサなどの撮像素子は、受光した光を電気信号に変換する複数の受光素子から構成されている。このような撮像素子の中には、次のような原因により、欠陥画素を有するものが製造されてしまう。
【０００３】
例えば、ＣＭＯＳイメージセンサでは、画素単位に配列されたフォトダイオードによって光電変換した撮像信号をトランジスタによるスイッチング動作によって転送するとき、このスイッチングを行うトランジスタが正常に動作しないと、この異常動作を行うトランジスタを経由して読み出される全ての画素について異常な信号を出力してしまう場合がある。このようなトランジスタの異常動作による無効な画素データの発生のうち、特に同一直線上に画素データが欠落してしまうものは、一般的に線欠陥と呼ばれている。
【０００４】
従来、このような線欠陥が発生してしまった撮像素子は、撮像画像に線上の欠陥が生じてしまうので出荷前に欠陥品として選別されているため、生産効率が悪くなる要因の１つとなっている。
【０００５】
このような撮像素子で撮像された画像上に生じる欠陥画素の画素データを補間する従来の手法として、例えば、特許文献１、２には、欠陥画素に隣接する画素を用いて欠陥画素の画素データを補間する補間処理方法が記載されている。
【０００６】
【特許文献１】特開２００６―１８００９９号公報
【特許文献２】特開２００５―３５４６７０号公報
【発明の開示】
【発明が解決しようとする課題】
【０００７】
しかしながら、上述した従来の欠陥画素の画素データを補間する補間処理方法では、例えば画像上に周期的な高周波成分を含む画像に対して、欠陥画素の画素データを視覚的に誤補正してしまう場合があった。
【０００８】
本発明は、このような実情に鑑みて提案されたものであり、撮像素子によって撮像された画像において欠陥が生じる欠陥画素のうち、直線上に連続して並んだ欠陥画素の画素データを精度良く補間する補間処理装置、撮像装置、及び、補間処理方法を提供することを目的とする。
【課題を解決するための手段】
【０００９】
上述した課題を解決するための手段として、本発明に係る補間処理装置は、撮像手段により撮像された撮像データが入力され、この入力された撮像データを構成する画素データを補間する補間処理装置であって、上記撮像手段により撮像される画像に欠陥が生じる欠陥画素のうち、直線上に連続して並んだ複数の欠陥画素の位置を示す線欠陥情報が記憶された線欠陥情報記憶手段と、上記線欠陥情報記憶手段に記憶された線欠陥情報に基づいて、上記直線上に連続して並んだ複数の欠陥画素のうち、画素データを補間する注目画素を選択する注目画素選択手段と、上記入力された撮像データから、上記注目画素選択手段で選択された注目画素の画素位置を中心とした複数の画素からなる画像領域を設定して、この設定した画像領域を少なくとも上記欠陥画素が並んだ直線上を境界として分割した画素ブロックを生成する画素ブロック生成手段と、上記入力された撮像データを構成する各画素データから、上記画素ブロック生成手段により生成された各画素ブロック内における画素間の相関を検出する相関検出手段と、上記相関検出手段で検出された各画素ブロック内における画素間の相関に応じて、上記注目画素の画素データを補間するための画素を選択して、この選択した画素の画素データから上記注目画素の画素データを補間する補間手段とを備える。
【００１０】
また、本発明に係る撮像装置は、被写体を撮像した撮像データを生成する撮像手段と、上記撮像手段により撮像される画像に欠陥が生じる欠陥画素のうち、直線上に連続して並んだ複数の欠陥画素の位置を示す線欠陥情報が記憶された線欠陥情報記憶手段と、上記線欠陥情報記憶手段に記憶された線欠陥情報に基づいて、上記直線上に連続して並んだ複数の欠陥画素のうち、画素データを補間する注目画素を選択する注目画素選択手段と、上記撮像手段で撮像された撮像データから、上記注目画素選択手段で選択された注目画素の画素位置を中心とした複数の画素からなる画像領域を設定して、この設定した画像領域を、少なくとも上記欠陥画素が並んだ直線上を境界として分割した画素ブロックを生成する画素ブロック生成手段と、上記撮像手段により生成された撮像データを構成する各画素データから、上記画素ブロック生成手段により生成された各画素ブロック内における画素間の相関を検出する相関検出手段と、上記相関検出手段で検出された上記各画素ブロックにおける画素間の相関に応じて、上記注目画素を補間するための画素を選択して、この選択した画素の画素データから上記注目画素の画素データを補間する補間手段とを備える。
【００１１】
また、本発明に係る補間処理方法は、撮像素子により撮像された撮像データを構成する画素データを補間する補間処理方法であって、所定の記憶媒体に記憶された情報であり、上記撮像素子により撮像される画像に欠陥が生じる欠陥画素のうち、直線上に連続して並んだ複数の欠陥画素の位置を示す線欠陥情報に基づいて、この直線上に連続して並んだ複数の欠陥画素のうち、画素データを補間する注目画素を選択する注目画素選択工程と、上記撮像素子により撮像された撮像データから、上記注目画素選択工程で選択された注目画素の位置を中心とした複数の画素からなる画像領域を設定して、この設定した画像領域を、少なくとも上記欠陥画素が並んだ直線上を境界として分割した画素ブロックを生成する画素ブロック生成工程と、上記撮像素子で撮像された撮像データを構成する各画素データから、上記画素ブロック生成工程で生成された各画素ブロック内における画素間の相関を検出する相関検出工程と、上記相関検出工程で検出された上記各画素ブロック内における画素間の相関に応じて、上記注目画素の画素データを補間するための画素を選択して、この選択した画素の画素データから上記注目画素の画素データを補間する補間工程とを有する。
【発明の効果】
【００１２】
本発明は、注目画素の位置を中心として設定された画像領域を分割した各画素ブロック内における画素間の相関を検出し、検出した相関に応じて注目画素の画素データを補間するための画素を選択して、この選択した画素の画素データから注目画素の画素データを補間するので、画像領域全体の相関を画素ブロック毎に考慮することができ、欠陥画素の画素データを高精度に補正することができる。
【発明を実施するための最良の形態】
【００１３】
以下、本発明を実施するための最良の形態について、図面を参照しながら詳細に説明する。
【００１４】
本発明が適用された補間処理装置は、撮像素子により撮像された画像に生じる欠陥画素の画素データを補間する処理を行うものである。以下では、この補間処理装置が組み込まれた撮像装置の一例として、図１に示すようなデジタルカメラ１００を用いて、本発明を実施するための最良の形態を詳細に説明する。
【００１５】
デジタルカメラ１００は、図１に示すように、被写体からの光を集光する光学レンズ系１と、光学レンズ系１により取り込まれた光を絞る絞り機構２と、光学レンズ系１で集光され絞り機構２を介して取り込まれた被写体光を受光して電気信号に変換する撮像素子３と、撮像素子３から出力される電気信号にアナログ信号処理を施した撮像信号に変換するアナログ信号処理部４と、アナログ信号処理部４により変換された撮像信号の画像に生じた欠陥画素の画素データを補正する欠陥補正部５と、欠陥補正部５により補正された撮像信号に画像処理を施した画像信号に変換する画像処理部６と、画像処理部６により変換された画像信号を記憶する画像記憶部７とを備える。
【００１６】
光学レンズ系１は、例えば、複数のレンズから構成され、被写体から取り込んだ光を撮像素子３に集光させる。
【００１７】
絞り機構２は、光学レンズ系１により取り込まれた光の光量を絞る。
【００１８】
撮像素子３は、光学レンズ系１により集光され絞り機構２により光量が絞られた被写体光を、例えば、図２に示す画素毎に配列された受光素子で受光して、画素毎に受光した光を電気信号に変換する。
【００１９】
具体的に、撮像素子３は、赤色、緑色、及び青色からなる３原色の色フィルタが受光素子上にベイヤー配列された単板式の撮像素子である。すなわち、撮像素子３は、赤色信号を出力する画素（以下、便宜上Ｒ画素という。）、緑色信号を出力する画素（以下、便宜上Ｇ画素という。）、及び、青色信号を出力する画素（以下、便宜上Ｂ画素という。）がベイヤー配列された各画素から電気信号を読み出す。
【００２０】
なお、撮像素子３は、図２に示すような単板式の撮像素子に限定されるものではなく、３板式の撮像素子を用いるようにしても良い。
【００２１】
アナログ信号処理部４は、撮像素子３の各画素から読み出される電気信号に、ゲイン調整などのアナログ信号処理を施し、その後Ａ／Ｄ変換した撮像データを生成する。
【００２２】
欠陥補正部５は、アナログ信号処理部４により生成された撮像データの画像に生じた欠陥画素の画素データを、具体的には後述する処理によって補正する。
【００２３】
画像処理部６は、欠陥補正部５により補正された撮像データに対して、画素毎に赤色信号、緑色信号、及び青色信号を含んで構成される画像データに変換する。
【００２４】
画像記憶部７は、例えば、フラッシュメモリなどの書換可能な記憶媒体であって、画像処理部６により変換された画像データを記憶する。
【００２５】
以上のような構成を備えるデジタルカメラ１００において、本実施の形態では、特に欠陥補正部５の構成と処理に注目して説明する。
【００２６】
欠陥補正部５は、図３に示すように、アナログ信号処理部４から供給される撮像データを記憶する撮像画像メモリ５１と、撮像素子３により撮像される画像に欠陥が生じる欠陥画素の位置を示す線欠陥情報が記憶された線欠陥情報メモリ５２と、線欠陥情報メモリ５２に記憶された線欠陥情報に基づいて、画素データを補間する注目画素を選択する注目画素選択部５３と、注目画素の位置に応じた画像領域を設定してこの画像領域から画素ブロックを生成する画素ブロック生成部５４と、画素ブロック生成部５４で生成された各画素ブロック内における画素間の相関を検出する相関検出部５５と、相関検出部５５で検出された相関に応じて画素を選択して、この選択された画素の画素データから注目画素の画素データを補間する補間処理部５６とを備える。
【００２７】
撮像画像メモリ５１は、アナログ信号処理部４から供給される撮像データを画像単位で記憶する。また、撮像画像メモリ５１は、後述するように、撮像データを構成する各画素の画素データが、相関検出部５５及び補間処理部５６により読み出される。また、撮像画像メモリ５１は、記憶している撮像データのうち、欠陥画素の画素データが具体的には後述するように補間処理部５６により書き込まれる。
【００２８】
線欠陥情報メモリ５２は、撮像素子３により撮像される画像において、水平又は垂直方向の直線上に連続して並んだ欠陥画素の位置を示す線欠陥情報が記憶されている。
【００２９】
ここで、線欠陥情報は、実際に製造された各撮像素子３毎に異なった位置に生じる欠陥画素の位置を示す情報であって、例えば、製造された撮像素子３の動作確認の際に得られる。また、線欠陥情報が示す欠陥画素は、同一線上にＲ画素、Ｇ画素、及びＢ画素がベイヤー配列に従って配列されたものとなっている。以下では、線欠陥情報が示す欠陥画素を構成するＲ画素、Ｇ画素、及びＢ画素のそれぞれを、便宜上、欠陥Ｒ画素、欠陥Ｇ画素、及び欠陥Ｂ画素と呼ぶ。
【００３０】
また、本実施の形態では、線欠陥情報メモリ５２に、撮像素子３の水平方向に線欠陥が生じていることを示す線欠陥情報が記憶されているものとして説明する。
【００３１】
注目画素選択部５３は、線欠陥情報メモリ５２に記憶された線欠陥情報に基づいて、直線上に連続して並んだ複数の欠陥画素のうち、画素データを補間する注目画素を選択する。
【００３２】
画素ブロック生成部５４は、注目画素選択部５３により選択された注目画素の座標位置を中心点とした複数の画素からなる画像領域を設定し、この画像領域から複数の画素ブロックを生成する。なお、具体的な、画像領域、及び、画素ブロックの画サイズについては、後述する。
【００３３】
相関検出部５５は、画素ブロック生成部５４で生成された各画素ブロックに対して、撮像画像メモリ５１に記憶されている撮像データを用いて、各画素ブロック内における画素間の相関の強さとして、後述するように例えば水平方向、垂直方向、斜め方向の相関の強さを示す相関値を算出する。
【００３４】
補間処理部５６は、相関検出部５５により算出された相関値に応じて、注目画素を補間するための画素を選択して、選択した画素の画素データを撮像画像メモリ５１から読み出して、読み出した画素データを用いて注目画素の画素データを補間する。
【００３５】
具体的に、補間処理部５６は、後述するように、注目画素がＧ画素であるか否かによって、異なる処理を行う。そこで、補間処理部５６は、図４に示すように、注目画素がＧ画素であるか否かを判断するＲＧＢ判断部５６１と、注目画素がＧ画素である判断したとき注目画素の画素データを補間する処理を行うＧ画素用補間算出部５６２と、注目画素がＲ画素又はＢ画素であると判断したとき後述する色相情報を生成する色相情報生成部５６３と、色相情報生成部５６３により生成された色相情報に応じてＲ画素又はＢ画素の画素データを補間するＲＢ画素用補間算出部５６４とからなる。
【００３６】
欠陥補正部５は、図５に示すフローチャートに従って、欠陥画素の画素データを補間する。
【００３７】
ステップＳ１において、欠陥補正部５は、撮像画像メモリ５１に記憶された撮像データを参照して、画素データが補間されていない欠陥Ｇ画素があるか否かを判断する。欠陥補正部５は、画素データが補間されていない欠陥Ｇ画素があると判断するとステップＳ２に進み、画素データが補間されていない欠陥Ｇ画素がないと判断するとステップＳ４に進む。
【００３８】
ステップＳ２において、欠陥補正部５では、注目画素選択部５３が、線欠陥情報が示す複数の欠陥画素の中から、画素データが補間されていない欠陥Ｇ画素を注目画素として選択する。
【００３９】
ステップＳ３において、欠陥補正部５では、後述する第１の欠陥補正処理に従って、注目画素の画素データを補間する。そして、欠陥補正部５は、補間した画素データを撮像画像メモリ５１に記憶されている撮像データに書き込んでステップＳ１に戻る。
【００４０】
欠陥補正部５では、ステップＳ１〜ステップＳ３の処理を繰り返すことにより、撮像画像メモリ５１に記憶されている撮像データに生じている直線上に連続して並んだ複数の欠陥画素のうち、まず欠陥Ｇ画素の画素データを全て補間する。
【００４１】
ステップＳ４において、欠陥補正部５は、撮像画像メモリ５１に記憶された撮像データを参照して、画素データが補間されていない欠陥画素があるかを判断する。欠陥補正部５では、画素データが補間されていない欠陥画素があると判断するとステップＳ５に進み、画素データが補間されていない欠陥画素がないと判断すると第１の欠陥補正処理を終了する。
【００４２】
ステップＳ５において、欠陥補正部５では、注目画素選択部５３が、線欠陥情報が示す複数の欠陥画素の中から、画素データが補間されていない欠陥画素、すなわち欠陥Ｒ画素又は欠陥Ｂ画素を、注目画素に選択する。
【００４３】
ステップＳ６において、欠陥補正部５では、後述する第２の欠陥補正処理に従って、注目画素の画素データを補間する。そして、欠陥補正部５は、補間した画素データを撮像画像メモリ５１に記憶されている撮像データに書き込んでステップＳ４に戻る。
【００４４】
欠陥補正部５では、ステップＳ４〜ステップＳ６の処理を繰り返すことにより、撮像画像メモリ５１に記憶されている画像データに生じている直線上に連続して並んだ複数の欠陥画素のうち、欠陥Ｒ画素の画素データ及び欠陥Ｂ画素の画素データを補間して、第２の欠陥補正処理を終了する。
【００４５】
以上のようにして、欠陥補正部５では、撮像画像メモリ５１に記憶されている撮像データに生じていた全ての欠陥画素の画素データを補間する。全画素に対して有効な画素データを有する撮像データは、撮像画像メモリ５１に記憶され、その後、画像処理部６により読み出される。
【００４６】
上述した第１の欠陥補正処理について詳細に説明する。
【００４７】
第１の欠陥補正処理において、画素ブロック生成部５４は、注目画素として選択された欠陥Ｇ画素の画素位置に応じて、例えば図６に示すような画像領域を設定する。すなわち、画素ブロック生成部５４は、注目画素Ｇ３３の画素位置を中心とした７×７画素の画サイズの画像領域を設定する。
【００４８】
そして、画素ブロック生成部５４は、この設定した画像領域を、例えば、３×３画素の画サイズの第１の画素ブロック〜第６の画素ブロックをそれぞれ生成する。ここで、第１の画素ブロックは、図７（Ａ）の斜線を付した領域に示すように、中心に位置する画素をＧ１１とした画素ブロックである。第２の画素ブロックは、図７（Ｂ）の斜線を付した領域に示すように、中心に位置する画素をＧ１３とした画素ブロックである。第３の画素ブロックは、図７（Ｃ）の斜線を付した領域に示すように、中心に位置する画素をＧ１５とした画素ブロックである。第４の画素ブロックは、図７（Ｄ）の斜線を付した領域に示すように、中心に位置する画素をＧ５１とした画素ブロックである。第５の画素ブロックは、図７（Ｅ）の斜線を付した領域に示すように、中心に位置する画素をＧ５３とした画素ブロックである。第６の画素ブロックは、図７（Ｆ）の斜線を付した領域に示すように、中心に位置する画素をＧ５５とした画素ブロックである。
【００４９】
なお、画素ブロック生成部５４では、上述したように画像領域から６つの画素ブロックを生成する場合に限定されるものではなく、少なくとも画像領域において欠陥画素が連続して並んだ線を境界として分割した画素ブロックを生成すればよい。
【００５０】
相関検出部５５は、画素ブロック生成部５４で分割された第１の画素ブロック〜第６の画素ブロックに対して、各画素ブロック内における画素間の相関の強さを次のようにして検出する。
【００５１】
すなわち、相関検出部５５は、各画素ブロックを構成する画素間の縦方向（以下、ｖｅｒｔｉｃａｌ方向という。）、横方向（以下、ｈｏｒｉｚｏｎｔａｌ方向という。）、及び、２つの斜め方向（以下、それぞれｓｌａｓｈ方向、ｂａｃｋｓｌａｓｈ方向という。）の相関の強さを示す相関値Ｇ（ｖｅｒｔｉｃａｌ）、Ｇ（ｈｏｒｉｚｏｎｔａｌ）、Ｇ（ｓｌａｓｈ）、Ｇ（ｂａｃｋｓｌａｓｈ）をそれぞれ検出する。
【００５２】
相関検出部５５は、第１の画素ブロック〜第６の画素ブロックのＧ（ｖｅｒｔｉｃａｌ：ｎ）の値を下記の式（１−１）〜（１−６）により算出する。ｎは画素ブロックの番号を示す。
【００５３】
【数１】
2008277911.tif 000003
【００５４】
なお、式中の関数ａｂｓは、入力値に対する絶対値を出力する関数である。
【００５５】
相関検出部５５は、第１の画素ブロック〜第６の画素ブロックのＧ（ｈｏｒｉｚｏｎｔａｌ：ｎ）の値を下記の式（２−１）〜（２−６）により算出する。ｎは画素ブロックの番号を示す。
【００５６】
【数２】
2008277911.tif 000004
【００５７】
相関検出部５５は、第１の画素ブロック〜第６の画素ブロックのＧ（ｓｌａｓｈ：ｎ）の値を下記の式（３−１）〜（３−６）により算出する。ｎは画素ブロックの番号を示す。
【００５８】
【数３】
2008277911.tif 000005
【００５９】
相関検出部５５は、第１の画素ブロック〜第６の画素ブロックのＧ（ｂａｃｋｓｌａｓｈ：ｎ）の値を下記の式（４−１）〜（４−６）により算出する。ｎは画素ブロックの番号を示す。
【００６０】
【数４】
2008277911.tif 000006
【００６１】
以上のようにして、相関検出部５５は、相関値を算出して、算出した相関値に関するデータを補間処理部５６に供給する。
【００６２】
補間処理部５６では、Ｇ画素用補間算出部５６２が、相関検出部５５により算出された相関値に応じて、注目画素Ｇ３３の画素データを補間するためのＧ画素を決定する。
【００６３】
Ｇ画素用補間算出部５６２は、相関検出部５５により算出された相関値から、画像領域全体での相関の強さを示す相関値を下記の式（５−１）〜（５−４）により算出する。
【００６４】
【数５】
2008277911.tif 000007
【００６５】
Ｇ画素用補間算出部５６２は、式（５−１）〜（５−４）で算出された各相関値のうち、最も相関が高い方向、すなわち、相関値が最小となる方向を選択する。例えば、ｓｌａｓｈ方向が、最も相関が高い方向として選択されたとき、Ｇ画素用補間算出部５６２は、注目画素Ｇ３３の画素データを、例えば下記の式（６）、又は、式（７）により算出する。
Ｇ３３＝（Ｇ２４＋Ｇ４２）／２・・・式（６）
Ｇ３３＝（Ｇ１５＋２×Ｇ２４＋２×Ｇ４２＋Ｇ５１）／６・・・式（７）
【００６６】
なお、Ｇ画素用補間算出部５６２は、例えば図８（Ａ）に示すように、第１の画素ブロックを構成するＧ画素に欠陥画素が存在するとき、図８（Ｂ）に示すように、第１の画素ブロックを除いた第２の画素ブロック〜第６の画素ブロックにおける各方向の相関値に応じて、式（５−１）〜（５−４）により画像領域全体の相関値を求めるようにしても良い。また、Ｇ画素用補間算出部５６２は、式（５）から得られる相関値が全て所定の閾値より高いとき、画像領域全体において相関が小さいと判断して、相関が強い方向を考慮せずに、注目画素を補間するための画素を決定するようにしても良い。
【００６７】
また、Ｇ画素用補間算出部５６２では、例えば、図７に示すような相関関係が各画素ブロックに成立している場合に、各画素ブロックにおける相関値から、画像領域内に存在するエッジを検出して、この検出したエッジの方向に応じて、注目画素Ｇ３３を補間する画素を決定しても良い。
【００６８】
すなわち、Ｇ画素用補間算出部５６２は、相関検出部５５で検出された相関値から、各画素ブロック毎に最も相関が強い方向を選択する。この選択処理によりＧ画素用補間算出部５６２では、図９に示すように第１の画素ブロック、第２の画素ブロック、第４の画素ブロック、及び第５の画素ブロックにおいてｂａｃｋｓｌａｓｈ方向に相関が最も強く、第３の画素ブロック、及び第６の画素ブロックにおいてｈｏｒｉｚｏｎｔａｌ方向に最も相関が強いので、第２の画素ブロックと第３の画素ブロックとの間、及び、第５の画素ブロックと第６の画素ブロックとの間にエッジが存在するものと判断する。
【００６９】
そして、Ｇ画素用補間算出部５６２は、この判断結果に応じて、例えば、第３の画像ブロックと第６の画像ブロックとを除いた他の画素ブロックにおける相関値を用いて式（５）により画像領域全体の相関値を求め、この求めた相関値に応じて注目画素の画素データを補間するための画素を決定するようにしても良い。
【００７０】
以上のように、欠陥補正部５では、画素ブロック生成部５４により生成された画素ブロック毎に、相関検出部５５が各画素ブロック内における画素間の相関を検出し、この検出した相関に応じて補間処理部５６が注目画素の画素データを補間するための画素を選択して、この選択した画素の画素データを用いて補間処理を行うので、例えば、画像上に周期的な高周波成分を含む画像に対して、欠陥画素の画素データを視覚的に誤補正とならないように、欠陥画素の画素データを高精度に補正することができる。
【００７１】
また、欠陥補正部５では、画素ブロック単位で相関が強い方向を検出するので、例えば、図９に示したように、第２の画素ブロック（第５の画素ブロック）と第３の画素ブロック（第６の画素ブロック）との間に存在するエッジを容易に検出することができ、この検出結果に基づいて、注目画素を適切な画素データとなるように補間することができる。すなわち、欠陥補正部５では、画像領域全体の相関を画素ブロック毎に考慮することができ、欠陥画素の画素データを高精度に補正することができる。
【００７２】
なお、上述した第１の欠陥補正処理では、図６に示すような７×７画素の画サイズの画像領域を設定したが、例えば、図１０に示すような１１×１１画素の画サイズの画像領域を設定することで、画サイズがより大きい画像領域内における相関の強い方向を考慮して選択された画素から、注目画素の画素データを精度良く補間することができる。
【００７３】
次に、上述した第２の欠陥補正処理について詳細に説明する。ここでは、欠陥Ｒ画素の画素データを補間する処理について説明する。なお、欠陥Ｂ画素に係る補間処理に関しては、欠陥Ｒ画素に係る補間処理と同様なのでその説明を省略する。
【００７４】
第２の欠陥補正処理において、画素ブロック生成部５４は、例えば、注目画素として選択された欠陥Ｒ画素の画素位置に応じて、図１１に示すような画像領域を設定する。すなわち、画素ブロック生成部５４は、注目画素Ｒ６６を中心とした１３×１３画素の画サイズの画像領域を設定する。この画像ブロック内に示す欠陥Ｇ画素の画素データ（例えば、Ｇ６５、Ｇ６７）は、上述した第１の欠陥補正処理によって補間され、撮像画像メモリ５１に記憶されている。
【００７５】
画素ブロック生成部５４は、設定した画像領域を、例えば図１２Ａ〜図１２Ｊに示すような、５×５画素の画サイズの画素ブロック（第１〜第１０の画素ブロック）をそれぞれ生成する。
【００７６】
すなわち、第１の画素ブロックは、図１２Ａの斜線を付した領域に示すように、中心に位置する画素をＲ２２とした画素ブロックである。第２の画素ブロックは、図１２Ｂの斜線を付した領域に示すように、中心に位置する画素をＲ２４とした画素ブロックである。第３の画素ブロックは、図１２Ｃの斜線を付した領域に示すように、中心に位置する画素をＲ２６とした画素ブロックである。第４の画素ブロックは、図１２Ｄの斜線を付した領域に示すように、中心に位置する画素をＲ２８とした画素ブロックである。第５の画素ブロックは、図１２Ｅの斜線を付した領域に示すように、中心に位置する画素をＲ２１０とした画素ブロックである。第６の画素ブロックは、図１２Ｆの斜線を付した領域に示すように、中心に位置する画素をＲ１０２とした画素ブロックである。第７の画素ブロックは、図１２Ｇの斜線を付した領域に示すように、中心に位置する画素をＲ０１４とした画素ブロックである。第８の画素ブロックは、図１２Ｈの斜線を付した領域に示すように、中心に位置する画素をＲ１０６とした画素ブロックである。第９の画素ブロックは、図１２Ｉの斜線を付した領域に示すように、中心に位置する画素をＲ１０８とした画素ブロックである。第１０の画素ブロックは、図１２Ｊの斜線を付した領域に示すように、中心に位置する画素をＲ１１０とした画素ブロックである。
【００７７】
ここで、第２の欠陥補正処理において設定される画素ブロックの画サイズは、第１の欠陥補正処理において設定される画素ブロックの画サイズよりも大きいことが次の理由から望ましい。すなわち、撮像画像を構成するＲ画素、Ｇ画素及びＢ画素がベイヤー配列されており、Ｒ画素間の間隔が、Ｇ画素間の間隔に比べて比較的大きいので、同一の画サイズの画素ブロックから相関検出をした場合、第２の欠陥補正処理の検出精度が相対的に悪くなる。したがって、第２の欠陥補正処理において、欠陥補正部５では、第１の欠陥補正処理に対して、１つの画素ブロックを構成する画素数を増やし、より多数の画素データから画素ブロックにおける画素間の相関値を算出することで、検出される相関方向の精度劣化の防止が図られる。
【００７８】
また、相関検出部５５は、上述したように画素ブロックの画サイズが比較的大きいので、各画素ブロックを構成する画素間において、ｖｅｒｔｉｃａｌ方向、ｈｏｒｉｚｏｎｔａｌ方向、ｓｌａｓｈ方向、及びｂａｃｋｓｌａｓｈ方向からなる４方向に加えて、次のような４方向について相関検出を行う。
【００７９】
すなわち、相関検出部５５は、ｓｌａｓｈ方向とｖｅｒｔｉｃａｌ方向との中間角度方向（以下、ｈｉｇｈ＿ｓｌａｓｈ方向という。）、ｓｌａｓｈ方向とｈｏｒｉｚｏｎｔａｌ方向との中間角度方向（以下、ｌｏｗ＿ｓｌａｓｈ方向という。）、ｂａｃｋｓｌａｓｈ方向とｖｅｒｔｉｃａｌ方向との中間角度方向（以下、ｈｉｇｈ＿ｂａｃｋｓｌａｓｈ方向という。）、及び、ｂａｃｋｓｌａｓｈ方向とｈｏｒｉｚｏｎｔａｌ方向との中間角度方向（以下、ｌｏｗ＿ｂａｃｋｓｌａｓｈ方向という。）の相関をそれぞれ検出する。
【００８０】
相関検出部５５は、第１の画素ブロック〜第１０の画素ブロックのｖｅｒｔｉｃａｌ方向の相関の強さＲ（ｖｅｒｔｉｃａｌ：ｎ）の値を下記の式（８−１）〜（８−１０）により算出する。ｎは画素ブロックの番号を示す。
【００８１】
【数６】
2008277911.tif 000008
【００８２】
相関検出部５５は、第１の画素ブロック〜第１０の画素ブロックのｈｏｒｉｚｏｎｔａｌ方向の相関の強さを示す相関値Ｒ（ｈｏｒｉｚｏｎｔａｌ：ｎ）の値を下記の式（９−１）〜（９−１０）により算出する。ｎは画素ブロックの番号を示す。
【００８３】
【数７】
2008277911.tif 000009
【００８４】
相関検出部５５は、第１の画素ブロック〜第１０の画素ブロックのｓｌａｓｈ方向の相関の強さを示す相関値Ｒ（ｓｌａｓｈ：ｎ）の値を下記の式（１０−１）〜（１０−１０）により算出する。ｎは画素ブロックの番号を示す。
【００８５】
【数８】
2008277911.tif 000010
【００８６】
相関検出部５５は、第１の画素ブロック〜第１０の画素ブロックのｂａｃｋｓｌａｓｈ方向の相関の強さを示す相関値Ｒ（ｂａｃｋｓｌａｓｈ：ｎ）の値を下記の式（１１−１）〜（１１−１０）により算出する。ｎは画素ブロックの番号を示す。
【００８７】
【数９】
2008277911.tif 000011
【００８８】
相関検出部５５は、第１の画素ブロック〜第１０の画素ブロックのｈｉｇｈ＿ｓｌａｓｈ方向の相関の強さを示す相関値Ｒ（ｈｉｇｈ＿ｓｌａｓｈ：ｎ）の値を下記の式（１２−１）〜（１２−１０）により算出する。ｎは画素ブロックの番号を示す。
【００８９】
【数１０】
2008277911.tif 000012
【００９０】
相関検出部５５は、第１の画素ブロック〜第１０の画素ブロックのｌｏｗ＿ｓｌａｓｈ方向の相関の強さを示す相関値Ｒ（ｌｏｗ＿ｓｌａｓｈ：ｎ）の値を下記の式（１３−１）〜（１３−１０）により算出する。ｎは画素ブロックの番号を示す。
【００９１】
【数１１】
2008277911.tif 000013
【００９２】
相関検出部５５は、第１の画素ブロック〜第１０の画素ブロックのｈｉｇｈ＿ｂａｃｋｓｌａｓｈ方向の相関の強さを示す相関値Ｒ（ｈｉｇｈ＿ｂａｃｋｓｌａｓｈ：ｎ）の値を下記の式（１４−１）〜（１４−１０）により算出する。ｎは画素ブロックの番号を示す。
【００９３】
【数１２】
2008277911.tif 000014
【００９４】
相関検出部５５は、第１の画素ブロック〜第１０の画素ブロックのｌｏｗ＿ｂａｃｋｓｌａｓｈ方向の相関の強さを示す相関値Ｒ（ｌｏｗ＿ｂａｃｋｓｌａｓｈ：ｎ）の値を下記の式（１５−１）〜（１５−１０）により算出する。ｎは画素ブロックの番号を示す。
【００９５】
【数１３】
2008277911.tif 000015
【００９６】
相関検出部５５は、以上のようにして算出した相関値に関するデータを補間処理部５６に供給する。
【００９７】
補間処理部５６では、まず、色相情報生成部５６３が、相関検出部５５により算出された相関値に応じて、例えば次のようにして注目画素Ｒ６６と同じ色信号を出力するＲ画素を選択する。
【００９８】
色相情報生成部５６３は、相関検出部５５により算出された相関値から、画像領域全体での相関の強さ、すなわち相関値を下記の式（１６−１）〜（１６−８）により算出する。
【００９９】
【数１４】
2008277911.tif 000016
【０１００】
色相情報生成部５６３は、上述した式（１６−１）〜（１６−８）で算出された各相関値のうち、最も相関が強い方向、すなわち、相関値が最小となる方向を選択する。
【０１０１】
例えば、ｖｅｒｔｉｃａｌ方向が最も相関が強い方向として選択された場合、色相情報生成部５６３は、図１３に示すように、まず、注目画素Ｒ６６に対してｖｅｒｔｉｃａｌ方向に位置する最近傍のＲ画素Ｒ４６、Ｒ８６を選択する（ステップＳ１０）。そして、色相情報生成部５６３は、ステップＳ１０で選択されたＲ画素Ｒ４６、Ｒ８６に応じて下記の式（１７）より色相情報Ｒ−Ｇを算出する（ステップＳ１１、Ｓ１２）。
【０１０２】
【数１５】
2008277911.tif 000017
【０１０３】
ここで、Ｒｗｂとは、Ｇ画素に対するＲ画素のホワイトバランス値である。補間処理部５６は、図示しない内部メモリに、撮像画像メモリ５１を参照して求めたホワイトバランス値Ｒｗｂに関するデータが記憶されており、このＲｗｂを参照することにより色相情報Ｒ−Ｇが算出される。すなわち、色相情報Ｒ−Ｇは、Ｇ画素の緑色信号の出力値を基準として、Ｒ画素の出力値とＧ画素の出力値との差分を示す情報である。
【０１０４】
補間処理部５６では、ＲＢ画素用補間算出部５６４が、注目画素Ｒ６６に隣接するＧ画素の画素データから、下記の式（１８）により、注目画素の画素位置における緑色信号の出力値を示す画素データＧ６６を算出する（ステップＳ１３）。
【０１０５】
【数１６】
2008277911.tif 000018
【０１０６】
そして、ＲＢ画素用補間算出部５６４は、色相情報生成部５６３により生成された色相情報Ｒ−Ｇと、ステップＳ１３で算出された画素データＧ６６とから下記の式（１９）により注目画素の赤色信号の出力値を示す画素データＲ６６を算出する（ステップＳ１４）。
【０１０７】
【数１７】
2008277911.tif 000019
【０１０８】
また、ｖｅｒｔｉｃａｌ方向以外の方向に相関が最も強いとき、補間処理部５６では、色相情報生成部５６３が、注目画素Ｒ６６に対して、その最も相関の強い方向に位置する最近傍のＲ画素を選択して、この選択したＲ画素に応じた色相情報を生成すればよい。
【０１０９】
しかしながら、ｈｏｒｉｚｏｎｔａｌ方向に相関が最も強いとき、補間処理部５６では、その最も相関の強い方向に位置する最近傍のＲ画素が欠陥画素となっている。そこで、ｈｏｒｉｚｏｎｔａｌ方向に相関が最も強いとき、すなわち、相関が最も強い方向が線欠陥が生じている方向と同じとき、補間処理部５６では、図１４に示すような処理を行う。
【０１１０】
すなわち、補間処理部５６では、色相情報生成部５６３が、まず、注目画素Ｒ６６に対してｖｅｒｔｉｃａｌ方向に位置する最近傍のＲ画素Ｒ４６、Ｒ８６を選択する（ステップＳ２０）。そして、色相情報生成部５６３は、ステップＳ２０で選択されたＲ画素Ｒ４６、Ｒ８６に応じて下記の式（２０）により色相情報Ｒ−Ｇを算出する（ステップＳ２１、Ｓ２２）。
【０１１１】
【数１８】
2008277911.tif 000020
【０１１２】
そして、補間処理部５６では、ＲＢ画素用補間算出部５６４が、注目画素Ｒ６６に隣接するＧ画素の画素データから、下記の式（２１）により、注目画素の画素位置における緑レベルを示す画素データＧ６６を算出する（ステップＳ２３）。
【０１１３】
【数１９】
2008277911.tif 000021
【０１１４】
そして、ＲＢ画素用補間算出部５６４は、色相情報生成部５６３により生成された色相情報Ｒ−Ｇと、ステップＳ２３で算出された画素データＧ６６とから下記の式（２２）により注目画素の赤色信号の出力値を示す画素データＲ６６を算出する（ステップＳ２４）。
【０１１５】
【数２０】
2008277911.tif 000022
【０１１６】
以上のようにして、欠陥補正部５では、相関検出部５５が検出した相関値に応じて、色相情報生成部５６３が画像領域全体において相関が強い方向の色相を保持するための色相情報を生成し、ＲＢ画素用補間算出部５６４が色相情報と注目画素に隣接するＧ画素の画素データとから注目画素の画素データを補間するので、ベイヤー配列のＲ画素やＢ画素のように、同じ色信号を出力する画素の間隔が非常に離れていても、偽色の発生を防止して欠陥画素の画素データを精度良く補間することができる。
【０１１７】
デジタルカメラ１００では、欠陥補正部５が、欠陥Ｇ画素の画素データを第１の欠陥補正処理に従って補間し、欠陥Ｒ画素の画素データ及び欠陥Ｂ画素の画素データを第２の欠陥補正処理に従って補間することにより、欠陥画素を含む撮像データを高精度に補正することができる。これによって、上述した本実施形態に係る欠陥補正処理によれば、従来欠陥品として扱われていた線欠陥が生じる撮像素子の商品化を図ることができ、撮像素子の生産効率を改善することができる。
【０１１８】
なお、本発明は、以上の実施形態のみに限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変更が可能であることは勿論である。
【図面の簡単な説明】
【０１１９】
【図１】本発明を適用したデジタルカメラの全体構成を示すブロック図である。
【図２】撮像素子のベイヤー画素配列を示した図である。
【図３】欠陥補正部の内部構成を示すブロック図である。
【図４】補間処理部の内部構成を示すブロック図である。
【図５】欠陥補正部が行う処理工程の説明に供するフローチャートである。
【図６】第１の欠陥補正処理において設定される画像領域を示す図である。
【図７】第１の欠陥補正処理において生成される画素ブロックを示す図である。
【図８】第１の欠陥補正処理に係る補間処理部で行われる処理の説明に供する模式図である。
【図９】第１の欠陥補正処理に係る補間処理部で行われるエッジ検出処理の説明に供する模式図である。
【図１０】第１の欠陥補正処理において設定される画像領域を示す図である。
【図１１】第２の欠陥補正処理において設定される画像領域を示す図である。
【図１２Ａ】第２の欠陥補正処理において生成される第１の画素ブロックを示す図である。
【図１２Ｂ】第２の欠陥補正処理において生成される第２の画素ブロックを示す図である。
【図１２Ｃ】第２の欠陥補正処理において生成される第３の画素ブロックを示す図である。
【図１２Ｄ】第２の欠陥補正処理において生成される第４の画素ブロックを示す図である。
【図１２Ｅ】第２の欠陥補正処理において生成される第５の画素ブロックを示す図である。
【図１２Ｆ】第２の欠陥補正処理において生成される第６の画素ブロックを示す図である。
【図１２Ｇ】第２の欠陥補正処理において生成される第７の画素ブロックを示す図である。
【図１２Ｈ】第２の欠陥補正処理において生成される第８の画素ブロックを示す図である。
【図１２Ｉ】第２の欠陥補正処理において生成される第９の画素ブロックを示す図である。
【図１２Ｊ】第２の欠陥補正処理において生成される第１０の画素ブロックを示す図である。
【図１３】第２の欠陥補正処理に係る補間処理部で行われる処理の説明に供する模式図である。
【図１４】第２の欠陥補正処理に係る補間処理部で行われる処理の説明に供する模式図である。
【符号の説明】
【０１２０】
１  光学レンズ系、２  絞り機構、３  撮像素子、４  アナログ信号処理部、５  欠陥補正部、６  画像処理部、７  画像記憶部、５１  撮像画像メモリ、５２  線欠陥情報メモリ、５３  注目画素選択部、５４  画素ブロック生成部、５５  相関検出部、５６  補間処理部、１００  デジタルカメラ、５６１  ＲＧＢ判断部、５６２  Ｇ画素用補間算出部、５６３  色相情報生成部、５６４  ＲＢ画素用補間算出部
【図１】
2008277911.tif 000023
【図２】
2008277911.tif 000024
【図３】
2008277911.tif 000025
【図４】
2008277911.tif 000026
【図５】
2008277911.tif 000027
【図６】
2008277911.tif 000028
【図７】
2008277911.tif 000029
【図８】
2008277911.tif 000030
【図９】
2008277911.tif 000031
【図１０】
2008277911.tif 000032
【図１１】
2008277911.tif 000033
【図１２Ａ】
2008277911.tif 000034
【図１２Ｂ】
2008277911.tif 000035
【図１２Ｃ】
2008277911.tif 000036
【図１２Ｄ】
2008277911.tif 000037
【図１２Ｅ】
2008277911.tif 000038
【図１２Ｆ】
2008277911.tif 000039
【図１２Ｇ】
2008277911.tif 000040
【図１２Ｈ】
2008277911.tif 000041
【図１２Ｉ】
2008277911.tif 000042
【図１２Ｊ】
2008277911.tif 000043
【図１３】
2008277911.tif 000044
【図１４】
2008277911.tif 000045