(57)【要約】【課題】高周波成分をもった被写体に対しても高精度にて対応可能な欠陥補正装置および欠陥補正方法、ならびに欠陥補正装置を用いた撮像装置を提供する。【解決手段】被写体の動きを検出する動き検出手段（手振れ検出回路１６１）と、現フレームで検出された欠陥画素に対して、動き検出手段で検出した動き情報に基づいて前後のフレームでの欠陥画素に対応する画素位置を特定する位置特定手段（欠陥アドレス記憶回路１６２、アドレス演算回路１６３およびアドレス比較器１６４）と、位置特定手段によって特定された前後のフレームの少なくとも一方の画素位置の画素データを用いて欠陥画素のデータを補正する補正手段（補正回路１６７）と、を備える。【選択図】図９
2010187409.tif 000002
【特許請求の範囲】
【請求項１】
被写体の動きを検出する動き検出手段と、
現フレームで検出された欠陥画素に対して、前記動き検出手段で検出した動き情報に基づいて前後のフレームでの前記欠陥画素に対応する画素位置を特定する位置特定手段と、
前記位置特定手段によって特定された前後のフレームの少なくとも一方の画素位置の画素データを用いて前記欠陥画素のデータを補正する補正手段と
を備える欠陥補正装置。
【請求項２】
前記補正手段は、前記位置特定手段によって特定された前後のフレームでの画素位置の画素が欠陥画素に対して同色でない場合は、当該画素位置の画素周辺の同色画素の画素データを用いて補正を行う
請求項１記載の欠陥補正装置。
【請求項３】
前記補正手段は、前記位置特定手段によって特定された後のフレームでの画素位置の画素が手振れによって画面内から画面外へ移動する場合は、前のフレームの画素データを用いて補正を行い、前記位置特定手段によって特定された後のフレームでの画素位置の画素が手振れによって画面外から画面内に移動する場合は、後のフレームの画素データを用いて補正を行う
請求項１記載の欠陥補正装置。
【請求項４】
前記補正手段は、前記位置特定手段によって特定された前のフレームでの画素位置の画素が欠陥画素である場合は、後のフレームの画素データを用いて補正を行い、前記位置特定手段によって特定された後のフレームでの画素位置の画素が欠陥画素である場合は、前のフレームの画素データを用いて補正を行う
請求項１記載の欠陥補正装置。
【請求項５】
前記補正手段は、欠陥画素周辺の画素データの平均値を算出し、フレーム間での平均値の推移分だけ前記画素データに対してレベル補正を行う
請求項１記載の欠陥補正装置。
【請求項６】
前記補正手段は、フレーム間での画像全体の明るさの推移分だけ前記画素データに対してレベル補正を行う
請求項１記載の欠陥補正装置。
【請求項７】
現フレームで検出された欠陥画素に対して、被写体の動き情報に基づいて前後のフレームでの前記欠陥画素に対応する画素位置を特定し、
この特定した前後のフレームの少なくとも一方の画素位置の画素データを用いて前記欠陥画素の画素データを補正する
欠陥補正方法。
【請求項８】
固体撮像素子と、
被写体からの像光を前記固体撮像素子の撮像面上に結像する光学系と、
前記固体撮像素子の欠陥画素を検出する欠陥検出回路と、
現フレームで検出された欠陥画素に対して、被写体の動き情報に基づいて前後のフレームでの前記欠陥画素に対応する画素位置を特定し、この特定した前後のフレームの少なくとも一方の画素位置の画素データを用いて前記欠陥検出回路によって検出された欠陥画素の画素データを補正する欠陥補正回路と
を備える撮像装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、固体撮像素子の欠陥画素を補正する欠陥補正装置および欠陥補正方法、ならびに固体撮像素子を撮像デバイスとして用いるととともに、当該固体撮像素子の信号処理系に欠陥検出回路および欠陥補正回路を有する撮像装置に関する。
【０００２】
ここに、撮像装置とは、撮像デバイスとしての固体撮像素子、当該固体撮像素子の撮像面（受光面）上に被写体の像光を結像させる光学系および当該固体撮像素子の信号処理回路を含むカメラモジュールや、当該カメラモジュールを搭載したカメラシステムを言うものとする。
【背景技術】
【０００３】
撮像デバイスとして、特に多画素の固体撮像素子を用いた撮像装置においては、画素の欠陥を検出し、また補正する技術を適用することが必須となっている。画素の欠陥としては、製造時に発生する欠陥の他、経時変化によって後発的に発生する欠陥、あるいは特定動作モード・環境によって過渡的に発生する欠陥などがある。そして、これら画素欠陥に対して、柔軟に且つ正確に欠陥検出および欠陥補正を行うことが求められている。
【０００４】
従来、欠陥検出・補正の技術としては、カメラ撮像動作中に注目画素とその周辺画素との相関により、任意の画像中における任意の注目画素について欠陥判定を行い、且つその補正を行う技術が知られている（例えば、特許文献１参照）。また、欠陥補正の技術としては、欠陥画素の値を周辺画素の中間値に置き換える技術が知られている（例えば、特許文献２参照）。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開平０９−２４７５４８号公報
【特許文献２】特開２００４−６４５１２号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかしながら、上述した従来技術では、注目画素とその周辺画素との値の比較によって欠陥検出を行うようにしているために、高周波成分をもった被写体、具体的には画素単位で変化する細かい画像の場合に、本来画像に伴う画素値の変化であるにも拘わらず、画素欠陥として誤検出してしまったり、あるいは高周波成分が失われてしまったりする（例えば、夜空の星を撮像した際に星が失われてしまう）という課題があった。
【０００７】
本発明は、上記課題に鑑みてなされたものであって、その目的とするところは、特に高周波成分をもった被写体に対しても高精度にて対応可能な欠陥補正装置および欠陥補正方法、ならびに欠陥補正装置を用いた撮像装置を提供することにある。
【課題を解決するための手段】
【０００８】
上記目的を達成するために、本発明では、欠陥補正に当たって、現フレームで検出された欠陥画素に対して、被写体の動き情報に基づいて前後のフレームでの欠陥画素に対応する画素位置を特定し、この特定した前後のフレームの少なくとも一方の画素位置の画素データを用いて欠陥画素のデータを補正する構成を採っている。
【０００９】
すなわち、高フレームレートで複数フレームの画像を撮像した場合に、各フレーム間では被写体の変化が微量であり、且つ、手振れにより欠陥画素部分のデータが前後のフレームに存在していることを利用して、現フレームの欠陥画素について、前後のフレーム（少なくとも一方のフレーム）における欠陥画素位置に対応する移動前または移動後の画素位置の画素データを補正データとして用いて欠陥補正を行う。
【発明の効果】
【００１０】
本発明によれば、欠陥補正に当たって、現フレームの欠陥画素に対応する移動前後の位置の画素データを補正データとして用いて補正するようにしたので、高周波成分をもった被写体に対しても、欠陥周辺画素を用いる補正に比べて高精度にて欠陥補正を行うことができる。
【図面の簡単な説明】
【００１１】
【図１】本発明の一実施形態に係るカメラシステムの構成を示すブロック図である。
【図２】欠陥点と高周波点との関係を説明する図である。
【図３】欠陥検出回路の構成の一例を示すブロック図である。
【図４】周辺画素との相関を説明する図である。
【図５】欠陥検出の処理手順の一例を示すフローチャートである。
【図６】欠陥検出での例外処理を説明する図である。
【図７】欠陥検出回路の他の構成例の要部を示すブロック図である。
【図８】手振れによる画像の移動を説明する図である。
【図９】欠陥補正回路の構成の一例を示すブロック図である。
【図１０】周辺画素の平均値の推移を説明する図である。
【発明を実施するための形態】
【００１２】
以下、本発明の実施の形態について図面を参照して詳細に説明する。
【００１３】
図１は、本発明の一実施形態に係る撮像装置、例えばカメラシステムの構成を示すブロック図である。
【００１４】
図１において、被写体（図示せず）から入射した像光は、レンズ１１を含む光学系により固体撮像素子、例えばＣＣＤイメージセンサ（以下、単に「イメージセンサ」と記す）１２の撮像面（受光面）上に結像される。なお、固体撮像素子としては、ＣＣＤイメージセンサ１２に限られるものではなく、他の電荷転送型固体撮像素子や、ＣＭＯＳイメージセンサに代表されるＸ−Ｙアドレス型固体撮像素子であっても良い。
【００１５】
イメージセンサ１２から出力される撮像信号は、アナログフロントエンド（ＡＦＥ）部１３において、ＣＤＳ(Correlated Double Sampling;相関二重サンプリング)や、ＡＧＣ(Automatic Gain Control;自動利得制御)などの処理が施された後、Ａ／Ｄ（アナログ／デジタル）変換器１４でデジタルデータに変換されて欠陥検出回路（装置）１５および欠陥補正回路（装置）１６に供給される。
【００１６】
欠陥検出回路１５は、カメラ撮像中にイメージセンサ１２の注目画素とその周辺画素との相関をとることによって画素の欠陥を検出する処理を行う。欠陥補正回路１６は、欠陥検出回路１５の検出結果を基に、当該欠陥検出回路１５によって検出された欠陥画素を補正する処理を行う。これら欠陥検出回路１５および欠陥補正回路１６は、本発明の特徴部分であり、その詳細については後述する。
【００１７】
欠陥補正回路１６を経たデジタルデータは、カメラ信号処理回路１７で種々の信号処理が行われて輝度（Ｙ）信号およびクロマ（Ｃ）信号として出力され、しかる後エンコーダ１８で種々の画像処理が行われて映像信号として出力される。
【００１８】
カメラ信号処理回路１７においては、シェーディング補正回路１７１でのシェーディング補正処理、ＲＧＢ同時化回路１７２でのＲ（赤）データ、Ｇ（緑）データ、Ｂ（青）データの同時化処理、ホワイトバランス回路１７３でのホワイトバランス処理、ガンマ補正回路１７４でのガンマ補正処理、輝度生成回路１７５での輝度信号Ｙの生成処理、色差生成回路１７６での色差信号Ｒ−Ｙ／Ｂ−Ｙの生成処理、色相／ゲイン回路１７７での色相／ゲインの調整処理、オプティカルディテクタ（ＯＰＤ）１７８での輝度積分（検波）処理などが行われる。
【００１９】
オプティカルディテクタ１７８で検出された輝度積分値は、マイクロコンピュータ等からなるシステムコントローラ１９に供給される。システムコントローラ１９は、オプティカルディテクタ１７８からの輝度積分値、即ち被写体像の明るさに基づいて、例えばアナログフロントエンド部１３のＡＧＣゲイン値を制御する。
【００２０】
次に、本発明の特徴部分である欠陥検出回路１５および欠陥補正回路１６について説明する。なお、本カメラシステムでは、欠陥検出回路１５および欠陥補正回路１６が共に以下に説明する構成を採るのに限定されるものではない。すなわち、その一方のみが以下に説明する構成を採る場合もあり得る。
【００２１】
（欠陥検出）
先ず、欠陥検出回路１５での欠陥検出の原理について、図２を用いて説明する。その原理とは、手振れによって撮像画面上において被写体が動いても、画素欠陥は画素そのものの欠陥であり、欠陥画素の位置は絶対的なものであって、変わることがないことに着目して欠陥画素を検出するというものである。
【００２２】
具体的には、高フレームレートで複数枚（複数フレーム）撮像した際に、図２（Ａ）に示すように、例えばあるフレームに欠陥画素である点ａと、高周波成分の被写体である点ｂが存在するものとする。次のフレームでは、図２（Ｂ）に示すように、被写体である点ｂの位置は、手振れによって撮像画面上において移動するのに対して、欠陥画素である点ａは同じ位置に存在する。この原理に基づき、前後のフレームの比較により、手振れが発生しても位置が変化しない点ａを欠陥画素として検出する。
【００２３】
図３は、欠陥検出回路１５の構成の一例を示すブロック図である。図３に示すように、欠陥検出回路１５は、相関検出回路１５１、アドレス取得回路１５２、記憶回路１５３、比較器１５４、手振れ検出器１５５および確定回路１５６を有する構成となっている。
【００２４】
相関検出回路１５１は、Ａ／Ｄ変換器１４（図１参照）から供給される撮像データに基づいて、注目画素とその周辺画素との相関をとり、周辺画素と値が著しく異なる注目画素を欠陥画素の候補となる画素として検出する。
【００２５】
具体的には、一例として、図４に示すように、注目画素と同色の周辺画素との差分をとり、全ての差分が予め設定した閾値を越えるか否かを判定する、あるいは、注目画素と同色の周辺画素の平均値を算出し、その値が予め設定した閾値を越えるか否かを判定することにより、欠陥画素の候補となる画素を検出する。
【００２６】
アドレス取得回路１５２は、撮像データの各画素データに同期して入力される画素のアドレス列の中から、相関検出回路１５１の検出出力に応答して当該相関検出回路１５１で検出された欠陥候補の画素のアドレスを取得する。相関検出回路１５１で検出され、アドレス取得回路１５２で取得された欠陥候補画素のアドレスは、記憶回路１５３に１フレーム分保存される。
【００２７】
比較器１５４は、次のフレームで欠陥候補画素を検出する際に、アドレス抽出回路１５２によって抽出される現フレームの欠陥候補画素のアドレスと、記憶回路１５３に保存されている前フレームの欠陥候補画素のアドレスとを比較することにより、アドレスが一致する画素を検出して当該画素のアドレスを出力する。
【００２８】
手振れ検出器１５５は、角速度センサなどを用いて、当該角速度センサによって検出される角速度情報、即ち被写体の動き情報に基づいて手振れの発生の有無を検出する。
【００２９】
確定回路１５６は、ＡＮＤ回路などからなり、手振れ検出器１５５によって手振れの発生が検出されたとき、比較器１５４によってアドレスの一致が検出された画素を欠陥画素と確定し、当該欠陥画素のアドレスを欠陥アドレスとして出力する。
【００３０】
続いて、上記構成の欠陥検出装置１５における欠陥検出の処理手順の一例について、図５のフローチャートを用いて説明する。この欠陥検出の処理は、毎フレームごとに実行される。したがって、手振れ検出も毎フレームごとに行われる。
【００３１】
あるフレームにおいて、相関検出回路１５１を用いて注目画素とその周辺画素との相関をとることにより、欠陥画素の候補となる画素を検出し（ステップＳ１１）、次いでアドレス取得回路１５２を用いて相関検出回路１５１で検出された欠陥候補の画素のアドレス（以下、「欠陥候補アドレスＡ」と記す）を取得して記憶回路１５３に記憶する（ステップＳ１２）。そして、最初のフレームにおいて各画素を注目画素として欠陥候補画素を検出する処理が全画素について終了したか否かを判断する（ステップＳ１３）。そして、最初のフレームの全画素について処理が完了するまでステップＳ１１，Ｓ１２の処理を繰り返して実行する。
【００３２】
続いて、次のフレームにおいて、相関検出回路１５１を用いて注目画素とその周辺画素との相関をとることにより、欠陥画素の候補となる画素を検出し（ステップＳ１４）、次いでアドレス取得回路１５２を用いて相関検出回路１５１で検出された欠陥候補の画素のアドレス（以下、「欠陥候補アドレスＢ」と記す）を取得し（ステップＳ１５）、次いで比較器１５４で記憶回路１５３に記憶されている欠陥候補アドレスＡの中に欠陥候補アドレスＢと一致（欠陥候補アドレスＡ＝欠陥候補アドレスＢ）するアドレスを検出する（ステップＳ１６）。
【００３３】
続いて、確定回路１５６で手振れ検出器１５５から手振れ情報を取り込み（ステップＳ１７）、その取り込んだ手振れ情報から手振れが発生したか否かを判断する（ステップＳ１８）。そして、手振れの発生がある場合には、ステップＳ１６で検出した欠陥候補アドレスＢ（Ａ）の画素を補正対象の欠陥画素として確定する（ステップＳ１９）。
【００３４】
手振れの発生が無い場合には、ステップＳ１６で検出した欠陥候補アドレスＢ（Ａ）の画素が欠陥画素ではなく、高周波成分の被写体である可能性があるため、例外処理を実行する（ステップＳ２０）。
【００３５】
この場合の例外処理としては、一例として、以下に述べるような処理（ａ）〜（ｃ）が挙げられる。
【００３６】
（ａ）欠陥画素ではないと判断し、補正対象から外す。
（ｂ）図６（Ａ）に示すように、相関検出回路１５１で相関をとる周辺画素の数を多くすることによって欠陥候補画素の検出基準を高くして、ステップＳ１４〜ステップＳ１６の各処理と同じ処理を実行することで、高周波成分の被写体を欠陥画素として誤検出するのをなくすようにする。
（ｃ）図６（Ｂ）に示すように、相関検出回路１５１において、例えば注目画素と同色の周辺画素との差分をとり、全ての差分が予め設定した閾値を越えるか否かを判定する際の当該閾値の値を大きくすることによって欠陥候補画素の検出基準を高くして、ステップＳ１４〜ステップＳ１６の各処理と同じ処理を実行することで、高周波成分の被写体を欠陥画素として誤検出するのをなくすようにする。
【００３７】
（ｂ）または（ｃ）の例外処理において再度、欠陥画素の候補として検出された画素の欠陥候補アドレスＢが記憶回路１５３に記憶されている欠陥候補アドレスＡと一致する場合には、その画素を補正対象の欠陥画素として確定し、検出されなかった場合には補正対象から外す。
【００３８】
ステップＳ１９またはステップＳ２０の処理が終了したら、後フレーム（次フレーム）において各画素を注目画素として欠陥画素として確定する処理が全画素について終了したか否かを判断する（ステップＳ２１）。そして、後フレームの全画素について処理が完了するまでステップＳ１４〜Ｓ２０の処理を繰り返す。
【００３９】
上述したように、イメージセンサ１２の撮像中に注目画素とその周辺画素との相関により、欠陥画素の候補となる画素のアドレスを検出する動作を複数フレームに亘って行い、手振れ検出器１５５による手振れの発生の検出を条件として、複数フレームの相互間でアドレスが一致する画素を欠陥画素と確定することで、高周波成分をもった被写体、具体的には画素単位で変化する細かい画像の場合にも高精度にて欠陥画素を検出することができる。
【００４０】
なお、上記実施形態では、欠陥画素の候補となる画素のアドレスを検出する動作を２つのフレーム間で行う場合を例に挙げて説明したが、これに限られるものではなく、３フレーム以上の複数フレームに亘って行うことも可能であり、フレーム数が増えることで欠陥画素の検出精度を上げることができる。
【００４１】
また、上記実施形態では、手振れの発生が無い場合には、高周波成分の被写体である可能性があることから、上記（ｂ）または上記（ｃ）の処理を例外処理として実行して、欠陥候補画素の検出基準を高くすることで、高周波成分の被写体を欠陥画素として誤検出するのをなくすようにしたが、高周波成分の被写体を検出したときに、欠陥候補画素の検出基準を高くするという技術は、上記構成の欠陥検出回路１５への適用に限られるものではない。
【００４２】
他の適用例として、次のような構成例が挙げられる。すなわち、図７に示すように、高周波検出手段、例えばＨＰＦ（ハイパスフィルタ）１５７を用いて高周波成分の被写体が存在するか否かを監視するようにし、当該ＨＰＦ１５７によって高周波成分の被写体が検出されたとき、その検出出力を受けて制御回路１５８によって相関検出回路１５１の検出基準を高くする制御を行うようにする。
【００４３】
相関検出回路１５１の検出基準を高くするには、相関検出回路１５１が例えば注目画素と同色の周辺画素との差分をとり、全ての差分が予め設定した閾値を越えるか否かを判定する構成を採る場合には、当該閾値を大きくする制御、あるいは注目画素との相関をとる周辺画素の数を増やす制御を行うようにすれば良い。
【００４４】
このように、固体撮像素子の注目画素とその周辺画素との相関をとることによって欠陥画素を検出する相関検出回路１５１を有する欠陥検出装置において、高周波成分の被写体を検出したときには、相関検出回路１５１の検出基準を高くする制御を行うようにすることで、高周波成分の被写体を欠陥画素として誤検出するのをなくすことができるため、欠陥画素の検出精度を上げることができる。
【００４５】
（欠陥補正）
続いて、欠陥補正回路１６について説明する。先ず、欠陥補正回路１６での欠陥補正の原理について説明する。この欠陥補正では、高フレームレートで複数フレーム（複数枚）の画像を撮像することを前提とする。
【００４６】
ここで、高フレームレートとは、通常と言えるフレームレートの最大が３０ｆｐｓ程度であり、また人間が認識できる最高フレームレートが２４０ｆｐｓと言われていることから、３０ｆｐｓ〜２４０ｆｐｓの間で、手振れが認識できるようなレートを言う。
【００４７】
欠陥補正の原理とは、高フレームレートで複数フレームの画像を撮像した場合に、各フレーム間では被写体の変化が微量であり、且つ、手振れにより欠陥画素部分のデータが前後のフレームに存在していることを利用して、現フレームの欠陥画素について、前後のフレーム（少なくとも一方のフレーム）における欠陥画素位置に対応する移動前または移動後の画素位置の画素データを補正データとして用いて欠陥補正を行うというものである。
【００４８】
例えば、図８（Ｂ）の現フレーム内の点ｂが欠陥画素である場合、手振れによって画像が移動していることを考慮すると、手振れによって欠陥画素の位置は変わらないが、図８（Ａ）の前フレーム内の点ａが点ｂへ移動し、また点ｂが図８（Ｃ）の後フレーム内の点ｃに移動したと考えることができる。すなわち、前フレーム内の点ａおよび後フレーム内の点ｃに、欠陥画素ｂに相当する画素データが存在していると考えられる。そこで、前フレームの点ａおよび後フレームの点ｃの一方、または両方の画素データを補正データとして用いて、現フレームの欠陥画素ｂの補正を行うようにする。
【００４９】
図９は、欠陥補正回路１６の構成の一例を示すブロック図である。図９に示すように、欠陥補正回路１６は、被写体の動きを検出する手段、例えば手振れ検出回路１６１、欠陥アドレス記憶回路１６２、アドレス演算回路１６３、アドレス比較器１６４、データ取得回路１６５、補正データ記憶回路１６６、補正データ記憶回路１６７および補正回路１６８を有する構成となっている。
【００５０】
手振れ検出回路１６１は、手振れを検出することによって被写体の動きを検出し、被写体の動きに応じた動きベクトル情報を出力する。欠陥アドレス記憶回路１６２には、例えば先述した欠陥検出装置１６によって検出され、欠陥画素として確定された画素のアドレス（以下、「欠陥アドレス」と記す）が欠陥画素数分だけ記憶される。但し、欠陥アドレス記憶回路１６２に欠陥アドレスを記憶する欠陥画素を検出するための欠陥検出装置としては、先述した欠陥検出装置１６に限られるものではない。
【００５１】
アドレス演算回路１６３は、欠陥アドレス記憶回路１６２に記憶されている欠陥アドレスを基に、手振れ検出回路１６１で検出された動きベクトル情報を用いて、欠陥アドレスの画素位置に対応する画素位置のアドレスを補正アドレスとして、前フレーム、現フレームおよび後フレームの３フレームに亘って算出する。
【００５２】
アドレス比較器１６４は、入力アドレス（撮像データの各画素データに同期して入力される画素のアドレス列）とアドレス演算回路１６３で求められた補正アドレスとを、前フレーム、現フレームおよび後フレームの３フレームに亘って比較し、一致するときに一致検知信号を出力する。これら欠陥アドレス記憶回路１６２、アドレス演算回路１６３およびアドレス比較器１６４等は、欠陥画素に対応する画素位置を特定する位置特定手段を構成している。
【００５３】
データ取得回路１６５は、アドレス比較器１６４がアドレスの一致を検出したときに、その一致検知信号に応答して入力データを補正データとして取得し、前フレーム、現フレームおよび後フレームの３フレーム分について補正データ記憶回路１６６に格納する。すなわち、補正データ記憶回路１６６には、欠陥アドレス記憶回路１６２に格納されている欠陥アドレスに対応した補正データが３フレーム分格納される。
【００５４】
補正回路１６７は、遅延回路１６７１，１６７２、アドレス比較器１６７３およびセレクタ１６７４を有する構成となっている。
【００５５】
遅延回路１６７１は、入力アドレスを１フレーム相当の時間だけ遅延する回路である。遅延回路１６７２は、入力データを１フレーム相当の時間だけ遅延する回路である。アドレス比較器１６７３は、遅延回路１６７１で遅延された現フレームの入力アドレスと、アドレス演算回路１６３で求められた補正アドレスとを比較し、一致するときに一致検知信号（１）を、不一致のときに不一致検知信号（０）をそれぞれ出力する。
【００５６】
セレクタ１６７４は、遅延回路１６７２で遅延された現フレームの入力データと、補正データ記憶回路１６６に格納されている前フレームおよび後フレームの少なくとも一方の補正データとを２入力とし、アドレス比較器１６７３の比較結果に基づいていずれか一方を選択して出力する。
【００５７】
具体的には、セレクタ１６７４は、アドレス比較器１６７３が不一致検知信号（０）を出力したときは現フレームの入力データを選択して出力し、アドレス比較器１６７３が一致検知信号（１）を出力したときは補正データ記憶回路１６６に格納されている前フレームおよび後フレームの少なくとも一方の補正データを選択して出力する。
【００５８】
すなわち、補正回路１６７においては、正常な画素については、アドレス比較器１６７３が不一致検知信号（０）を出力することから、当該正常な画素のその画素データをそのまま出力し、欠陥画素については、アドレス比較器１６７３が一致検知信号（１）を出力することから、前フレームの補正データおよび後フレームの補正データの少なくとも一方と置き換えて出力する補正処理が行われる。
【００５９】
この補正処理では、
（ａ）前フレームの補正データおよび後フレームの補正データの両方を使って補正する。
（ｂ）前フレームの補正データのみ、または後フレームの補正データのみを使って補正する。
の２通りの補正処理いずれかを選ぶことができる。
【００６０】
このように、現フレームに対して前フレームの補正データおよび後フレームの補正データの少なくとも一方、即ち異なるフレームの画素データを用いる場合には、各フレーム間において明るさ（レベル）等が変化することが懸念される。このような懸念に対しては、次のような補正処理を施すようにすれば良い。
【００６１】
すなわち、上記補正処理（ａ）を採る場合は、前フレームの補正データと後フレームの補正データの平均値を求め、その平均値を用いて補正を行うようにし、また上記補正処理（ｂ）を採る場合は、図１０に示すように、補正対象点の周辺画素に対して前後のフレームで平均値を算出し、その平均値の推移により値を求めて補正データに対してレベル補正を行う、あるいはオプティカルディテクタ１７８（図１を参照）での輝度積分値を用いてフレーム間での画像全体の明るさの推移分だけ補正データに対してレベル補正を行うようにすることで、上述した懸念を解消することができる。
【００６２】
これら補正処理（ａ），（ｂ）を採る場合は、例えば、補正データ記憶回路１６６に補正データを格納する際に、前フレームの補正データと後フレームの補正データの平均値を求め、その平均値を補正データとして補正データ記憶回路１６６に格納する一方、補正回路１６７の補正データの入力段に演算回路を設けて、補正データに対して必要な演算処理を行うようにすめば良い。
【００６３】
上述したように、現フレームで検出された欠陥画素に対して、例えば手振れ検出回路１６１によって検出された被写体の動き情報に基づいて前後のフレームでの欠陥画素に対応する画素位置を特定し、この特定した前後のフレームの少なくとも一方の画素位置の画素データを用いて欠陥画素のデータを補正する、即ち現フレームの欠陥画素に対応する移動前後の位置の画素データを補正データとして用いて補正するようにしたので、高周波成分をもった被写体、具体的には画素単位で変化する細かい画像の場合にも、欠陥周辺画素を用いる補正に比べて高精度にて欠陥補正を行うことができる。
【００６４】
ところで、図１に示すように、本欠陥補正回路１６をカメラ信号処理回路１７の前段に配置し、イメージセンサ１２からのＲＡＷデータ（カメラ信号処理回路１７での信号処理前のデータ）に対して補正処理を行う場合、欠陥画素に対して動きベクトルを用いて計算された画素が同色でない場合が考えられる。
【００６５】
この場合には、上記補正処理（ｂ）を採って前後のフレームのうちの同色であるフレームの補正データのみを使用するようにすれば良い。また、前後のフレームの両方共に異色の場合には、欠陥画素に対して動きベクトルを用いて計算された画素（異色）の周辺の同色画素からの距離を計算結果より推定し、重み付けを行って補正する、あるいは、従来通り、欠陥周辺画素を用いる補正方法に切り替えるようにすれば良い。
【００６６】
また、例外処理として、次のような処理が考えられる。
（ａ）手振れによって、欠陥画素に対応する画素が前フレームと後フレームのいずれかで画面外にはみ出てしまう欠陥画素については、画面外にはみ出ない方のフレームの補正データを使う。具体的には、特定された後のフレームでの画素位置の画素が手振れによって画面内から画面外へ移動する場合は、前のフレームの画素データを用いて補正を行い、逆に、画面外から画面内に移動する場合は、後のフレームの画素データを用いて補正を行うようにする。
【００６７】
（ｂ）補正対象データが欠陥である場合には、逆方向の時間軸での動き情報より、前フレームと後フレームのいずれか一方の補正データを用いて補正を行う。具体的には、特定された前のフレームでの画素位置の画素が欠陥画素である場合は、後のフレームの画素データを用いて補正を行い、逆に、特定された後のフレームでの画素位置の画素が欠陥画素である場合は、前のフレームの画素データを用いて補正を行うようにする。
【００６８】
（ｃ）手振れが無い場合には、同じフレーム（現フレーム）内において欠陥画素の周辺画素のデータを用いて補正を行う。
【００６９】
なお、上記実施形態では、補正データ記憶回路１６６には、欠陥画素数分の補正データを格納するとしたが、補正データ記憶回路１６６として画面全体の画素データを記憶するフレームメモリを用い、欠陥補正時にアドレスを計算して補正する構成を採るようにすることも可能である。
【符号の説明】
【００７０】
１１…レンズ、１２…ＣＣＤイメージセンサ、１５…欠陥検出回路、１６…欠陥補正回路、１７…カメラ信号処理回路、１９…システムコントローラ、１５１…相関検出回路、１５２…アドレス取得回路、１５３…記憶回路、１５４…比較器、１５５…手振れ検出器、１５６…確定回路、１６１…手振れ検出回路、１６２…欠陥アドレス記憶回路、１６３…アドレス演算回路、１６４…アドレス比較器、１６５…データ取得回路、１６６…補正データ記憶回路、１６７…補正データ記憶回路、１６８…補正回路
【図１】
2010187409.tif 000003
【図２】
2010187409.tif 000004
【図３】
2010187409.tif 000005
【図４】
2010187409.tif 000006
【図５】
2010187409.tif 000007
【図６】
2010187409.tif 000008
【図７】
2010187409.tif 000009
【図８】
2010187409.tif 000010
【図９】
2010187409.tif 000011
【図１０】
2010187409.tif 000012