(57)【要約】【課題】動画に対してゴミ除去を行う場合に、再生した動画に違和感を生じさせないようにする。【解決手段】入力された画像データと、異物の位置及び大きさに関する情報を含む異物情報とに基づいて、画像データを補正する画像処理装置であって、画像データと、異物情報とに基づいて、画像データ中に写り込んだ異物の影の影響を補正する補正部と、入力された画像データが静止画の場合に適用される、異物の周囲の領域の画像の均一性を判定する静止画用均一性判定部と、入力された画像データが動画の場合に適用される、静止画に適用される判定基準とは異なる判定基準で、異物の周囲の領域の画像の均一性を判定する動画用均一性判定部と、静止画用均一性判定部もしくは動画用均一性判定部により均一性が予め定められた値以下と判定された場合に、補正部による画像データの補正を禁止する制御部とを備える。【選択図】図１７
2010081112.tif 000002
【特許請求の範囲】
【請求項１】
入力された画像データと、前記画像データを撮像した撮像装置における撮像素子の前方に配置された光学素子に付着した異物の位置及び大きさに関する情報を含む異物情報とに基づいて、前記画像データを補正する画像処理装置であって、
前記画像データと、前記異物情報とに基づいて、前記画像データ中に写り込んだ前記異物の影の影響を少なくするように、前記画像データを補正する補正手段と、
入力された画像データが静止画の場合に適用される、前記画像データ中における前記異物の周囲の領域の画像の均一性を判定する静止画用均一性判定手段と、
入力された画像データが動画の場合に適用される、前記静止画用均一性判定手段による静止画に適用される判定基準とは異なる判定基準で、前記画像データ中における前記異物の周囲の領域の画像の均一性を判定する動画用均一性判定手段と、
前記静止画用均一性判定手段もしくは前記動画用均一性判定手段により前記均一性が予め定められた値以下と判定された場合に、前記補正手段による前記画像データの補正を禁止する制御手段と、
を備えることを特徴とする画像処理装置。
【請求項２】
前記動画用均一性判定手段は、動画を構成するフレームに対してエッジ検出を行うエッジ検出手段と、
前記エッジ検出手段により検出されたエッジと、異物の像が重なっているフレームを検出する異物エッジ検出手段と、
前記異物エッジ検出手段により検出された異物とエッジが重なっているフレーム数にもとづいて、前記動画像データに写り込んだ異物の像を補正するかどうかを判定する、動画用補正判定手段と、
を有することを特徴とする請求項１に記載の画像処理装置。
【請求項３】
前記動画用均一性判定手段は、均一性を判定する判定基準を、前記静止画用均一性判定手段に用いる判定基準よりも、前記異物の周囲の領域の画像が複雑であっても均一であると判定される基準とすることを特徴とする請求項１に記載の画像処理装置。
【請求項４】
入力された画像データと、前記画像データを撮像した撮像装置における撮像素子の前方に配置された光学素子に付着した異物の位置及び大きさに関する情報を含む異物情報とに基づいて、前記画像データを補正する画像処理装置を制御する方法であって、
前記画像データと、前記異物情報とに基づいて、前記画像データ中に写り込んだ前記異物の影の影響を少なくするように、前記画像データを補正する補正工程と、
入力された画像データが静止画の場合に適用される、前記画像データ中における前記異物の周囲の領域の画像の均一性を判定する静止画用均一性判定工程と、
入力された画像データが動画の場合に適用される、前記静止画用均一性判定工程による静止画に適用される判定基準とは異なる判定基準で、前記画像データ中における前記異物の周囲の領域の画像の均一性を判定する動画用均一性判定工程と、
前記静止画用均一性判定工程もしくは前記動画用均一性判定工程により前記均一性が予め定められた値以下と判定された場合に、前記補正工程による前記画像データの補正を禁止する制御工程と、
を備えることを特徴とする画像処理装置の制御方法。
【請求項５】
請求項４に記載の制御方法をコンピュータに実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ＣＣＤやＣＭＯＳセンサ等の撮像素子を用いた撮像装置における、光学ローパスフィルター等の表面に付着した異物による画像劣化を抑制する技術に関する。
【背景技術】
【０００２】
レンズ交換式のデジタルカメラでは、レンズをカメラ本体から取り外した際にカメラ本体の内部に空気中に浮遊する埃などが侵入する可能性がある。またカメラ内部には、例えばシャッタ機構等の機械的に動作する各種の機構部が配設されており、これらの機構部が動作することにより、カメラ本体内で金属片などのゴミ等が発生する場合もある。
【０００３】
このようなゴミや埃などの異物がデジタルカメラの撮像部を構成する光学素子である撮像素子の前方に配置された光学ローパスフィルタの表面等に付着すると、その異物は撮影された画像に影となって写り込んでしまい、撮影画像の品位を低下させてしまう。
【０００４】
銀塩フィルムを使用したカメラでは、画像を撮影する度にフィルムが送られるため、同じ異物が連続して画像の同じ位置に写り込むことは極めて稀である。しかしデジタルカメラでは、撮影毎にフィルムのコマを送るような動きが発生しないため、撮影画像の同じ位置に連続して同じ異物が写り込んでしまうという問題がある。
【０００５】
このような問題点を解決するため、異物が写り込んだ画素をその画素の周囲の画素の信号を利用するなどして補正する方法が考えられる。そのような画素を補正する技術として、例えば特許文献１（特開平６−１０５２４１号公報）には、撮像素子の画素欠陥を補正するための画像欠陥補正方法が提案されている。また特許文献２（特開２００４−２４２１５８号公報）には、画素欠陥の位置情報の設定を簡略化するために、ゴミ取得モードで撮影した画像ファイルの拡張子などを通常画像と異ならせることが提案されている。このようにすることで、ＰＣ（パーソナルコンピュータ）側でゴミ情報画像を自動判別し、その情報を用いて補正対象画像を補正する。
【０００６】
また近年、動画情報をデジタルデータとして取り扱い、蓄積・伝送に用いるために、高圧縮率かつ高画質で符号化する技術が提案され広く普及している。
【０００７】
Ｍｏｔｉｏｎ ＪＰＥＧ方式は、静止画符号化（例えば、ＪＰＥＧ（Joint Photographic Coding Experts Group）符号化）を各フレームに適応させることで符号化する。ＪＰＥＧ符号化は、基本的には静止画に対する符号化方式であるが、高速処理させることにより動画にも対応させる製品も出てきている。
【０００８】
また、更なる高圧縮率、高画質を目指した符号化方式としてＨ．２６４（ＭＰＥＧ４−Ｐａｒｔ１０ ＡＶＣ）がある。このＨ．２６４はＭＰＥＧ２やＭＰＥＧ４といった従来の符号化方式と比較して、その符号化、復号により多くの演算量が要求されるものの、より高い符号化効率が実現されることが知られている（非特許文献１参照）。
【０００９】
これらの符号化方式を利用して動画像を記録可能としたコンパクトデジタルカメラも開発、製品化されており、ユーザーはこれらの装置或いはパーソナルコンピュータやＤＶＤプレーヤーなどを用いて簡単に画像を視聴することが可能となっている。
【特許文献１】特開平６−１０５２４１号公報
【特許文献２】特開２００４−２４２１５８号公報
【非特許文献１】ISO/IEC 14496-10,"Advanced Video Coding"
【発明の開示】
【発明が解決しようとする課題】
【００１０】
このような状況の中で、近年では、コンパクトタイプのデジタルカメラのみならず、レンズ交換式のデジタルカメラにおいても、より高画素、高精細な動画像を記録したいニーズも高まっている。しかし、すでに述べたように、レンズ交換式のデジタルカメラではさまざまな要因で撮像素子の表面にゴミが付着するため、そのまま動画記録を行うと、動画再生中、常に同じ位置にゴミが写ってしまう可能性があった。
【００１１】
レンズ交換式のデジタルカメラにおける従来の画像処理によるゴミ除去方法では、ゴミ除去に必要な情報（例えばゴミの位置及び大きさの情報）と画像データとを記録しておき、後にパソコンなどに画像を取り込んで、ゴミ領域の周囲の画素で補間処理してゴミを除去していた。すなわち、記録される画像データにはゴミが写り込んでいることになる。静止画ではゴミを除去する作業は一枚ごとになるが、動画では記録された時間すべてにわたりゴミ除去を行わなければならない。
【００１２】
静止画におけるゴミ除去方法では、ゴミが写った領域を周囲の画素で補間する際に、ゴミの領域の画素の周囲の画像が均一でない場合、補間したゴミ領域とその周辺の領域との間に違和感が生じてしまうことがあった。一方、動画において記録された時間すべてにわたりゴミ除去を行う場合、各フレームにおいてゴミの位置は同じであるが、ゴミが写った領域の周囲の画像はそれぞれ異なる。つまり、フレーム毎にゴミが写った領域の周囲の画像が異なるため、静止画のような各々のフレームで生じる違和感だけでなく、前後のフレームとの間においても違和感が生じてしまう。
【００１３】
例えば、図１５は、任意の時間記録された動画の中から、６フレームを切り出して、１から６まで時系列に並べた図である。なお、図１５中の黒丸は、ゴミを表しており、実線で示した二本のロープを右方向にパンさせながら撮影した動画である。
【００１４】
図１５のような動画に対してゴミ除去処理を行うと、図１６に示すようにフレーム１とフレーム４とフレーム６に写り込んでいるゴミが補間処理され（補正されたゴミは破線の白丸で表す）、それ以外のフレームは補間処理されない。つまり、この図１５の動画を再生した場合、フレーム間で同じところに写ったゴミが、図１６に示すようにフレームによっては補正されて消えたり、補正されないで現れたりすることになり、ゴミ除去処理をすることで大変違和感のある動画になってしまう。
【００１５】
従って、本発明は上述した課題に鑑みてなされたものであり、その目的は、動画に対してゴミ除去を行う場合に、再生した動画に違和感を生じさせないようにすることである。
【課題を解決するための手段】
【００１６】
上述した課題を解決し、目的を達成するために、本発明に係わる画像処理装置は、入力された画像データと、前記画像データを撮像した撮像装置における撮像素子の前方に配置された光学素子に付着した異物の位置及び大きさに関する情報を含む異物情報とに基づいて、前記画像データを補正する画像処理装置であって、前記画像データと、前記異物情報とに基づいて、前記画像データ中に写り込んだ前記異物の影の影響を少なくするように、前記画像データを補正する補正手段と、入力された画像データが静止画の場合に適用される、前記画像データ中における前記異物の周囲の領域の画像の均一性を判定する静止画用均一性判定手段と、入力された画像データが動画の場合に適用される、前記静止画用均一性判定手段による静止画に適用される判定基準とは異なる判定基準で、前記画像データ中における前記異物の周囲の領域の画像の均一性を判定する動画用均一性判定手段と、前記静止画用均一性判定手段もしくは前記動画用均一性判定手段により前記均一性が予め定められた値以下と判定された場合に、前記補正手段による前記画像データの補正を禁止する制御手段と、を備えることを特徴とする。
【００１７】
また、本発明に係わる画像処理装置の制御方法は、入力された画像データと、前記画像データを撮像した撮像装置における撮像素子の前方に配置された光学素子に付着した異物の位置及び大きさに関する情報を含む異物情報とに基づいて、前記画像データを補正する画像処理装置を制御する方法であって、前記画像データと、前記異物情報とに基づいて、前記画像データ中に写り込んだ前記異物の影の影響を少なくするように、前記画像データを補正する補正工程と、入力された画像データが静止画の場合に適用される、前記画像データ中における前記異物の周囲の領域の画像の均一性を判定する静止画用均一性判定工程と、入力された画像データが動画の場合に適用される、前記静止画用均一性判定工程による静止画に適用される判定基準とは異なる判定基準で、前記画像データ中における前記異物の周囲の領域の画像の均一性を判定する動画用均一性判定工程と、前記静止画用均一性判定工程もしくは前記動画用均一性判定工程により前記均一性が予め定められた値以下と判定された場合に、前記補正工程による前記画像データの補正を禁止する制御工程と、を備えることを特徴とする。
【発明の効果】
【００１８】
本発明によれば、動画に対してゴミ除去を行う場合に、再生した動画に違和感を生じさせないようにすることが可能となる。
【発明を実施するための最良の形態】
【００１９】
以下、本発明の好適な実施形態について、図面を参照して詳細に説明する。
【００２０】
（第１の実施形態）
図１は、本発明の第１の実施形態における画像処理機能を有する撮像装置の構成を示すブロック図である。本実施形態においては、撮像装置としてレンズ交換可能な一眼レフタイプのデジタルスチルカメラを例に挙げて説明する。なお撮像装置としては、他にレンズ交換が可能なデジタルビデオカメラ等にも、本発明を適用することが可能である。
【００２１】
図１に示すように、本実施形態の撮像装置は、主にカメラ本体１００と、交換レンズタイプのレンズユニット３００とを備えて構成されている。
【００２２】
レンズユニット３００において、３１０は複数のレンズから成る撮像レンズ、３１２は絞り、３０６はレンズユニット３００をカメラ本体１００と機械的に結合するレンズマウントである。レンズマウント３０６内には、レンズユニット３００をカメラ本体１００と電気的に接続する各種機能が含まれている。３２０は、レンズマウント３０６において、レンズユニット３００をカメラ本体１００と接続するためのインターフェース、３２２はレンズユニット３００をカメラ本体１００と電気的に接続するコネクタである。
【００２３】
コネクタ３２２は、カメラ本体１００とレンズユニット３００との間で制御信号、状態信号、データ信号などを伝え合うと共に、各種電圧の電流を供給される機能も備えている。また、コネクタ３２２は電気通信のみならず、光通信、音声通信などを用いて通信を行う構成としてもよい。
【００２４】
３４０は、測光制御部４６からの測光情報に基づいて、後述するカメラ本体１００のシッター１２を制御するシャッター制御部４０と連携しながら、絞り３１２を制御する絞り制御部である。３４２は撮像レンズ３１０のフォーカシングを制御するフォーカス制御部、３４４は撮像レンズ３１０のズーミングを制御するズーム制御部である。
【００２５】
３５０はレンズユニット３００全体を制御するレンズシステム制御回路である。レンズシステム制御回路３５０は、動作用の定数、変数、プログラムなどを記憶するメモリを備えている。更に、レンズユニット３００固有の番号などの識別情報、管理情報、開放絞り値や最小絞り値、焦点距離などの機能情報、現在や過去の各設定値などを保持する不揮発性メモリも備えている。
【００２６】
次に、カメラ本体１００の構成について説明する。
【００２７】
１０６はカメラ本体１００とレンズユニット３００を機械的に結合するレンズマウント、１３０，１３２はミラーで、撮像レンズ３１０に入射した光線を一眼レフ方式によって光学ファインダー１０４に導く。なお、ミラー１３０はクイックリターンミラーの構成としても、ハーフミラーの構成としても、どちらでも構わない。１２はフォーカルプレーン式のシャッター、１４はＣＣＤ、ＣＭＯＳセンサ等からなり、被写体像を光電変換する撮像素子である。なお、撮像素子１４の前方には、光学ローパスフィルター等の光学素子１４ａが配置されており、この光学素子１４の表面に付着したゴミ等の異物が撮像素子１４で生成される画像に写りこみ、画質を劣化させる。本実施形態は、この画質劣化を抑制する技術に関するものである。
【００２８】
撮像レンズ３１０に入射した光線は、一眼レフ方式によって光量制限手段である絞り３１２、レンズマウント３０６及び１０６、ミラー１３０、シャッター１２を介して導かれ、光学像として撮像素子１４上に結像される。
【００２９】
１６は、撮像素子１４から出力されるアナログ信号（出力信号）をデジタル信号に変換するＡ／Ｄ変換器である。１８は撮像素子１４、Ａ／Ｄ変換器１６、Ｄ／Ａ変換器２６にそれぞれクロック信号や制御信号を供給するタイミング発生回路であり、メモリ制御回路２２及びシステム制御回路５０により制御される。
【００３０】
２０は画像処理回路であり、Ａ／Ｄ変換器１６からのデータ或いはメモリ制御回路２２からのデータに対して所定の画素補間処理や色変換処理を行う。また、画像処理回路２０は、必要に応じて、Ａ／Ｄ変換器１６から出力される画像データを用いて所定の演算処理を行う。得られた演算結果に基づいてシステム制御回路５０がシャッター制御部４０、焦点調節部４２を制御するための、ＴＴＬ（スルー・ザ・レンズ）方式のオートフォーカス（ＡＦ）処理、自動露出（ＡＥ）処理、フラッシュプリ発光（ＥＦ）処理を行うことができる。さらに、画像処理回路２０は、Ａ／Ｄ変換器１６から出力される画像データを用いて所定の演算処理を行い、得られた演算結果に基づいてＴＴＬ方式のオートホワイトバランス（ＡＷＢ）処理も行っている。
【００３１】
なお、本実施形態における図１に示す例では、焦点調節部４２及び測光制御部４６を専用に備えている。従って、焦点調節部４２及び測光制御部４６を用いてＡＦ処理、ＡＥ処理、ＥＦ処理の各処理を行い、画像処理回路２０を用いたＡＦ処理、ＡＥ処理、ＥＦ処理の各処理を行わない構成としても構わない。また、焦点調節部４２及び測光制御部４６を用いてＡＦ処理、ＡＥ処理、ＥＦ処理の各処理を行い、さらに、画像処理回路２０を用いたＡＦ処理、ＡＥ処理、ＥＦ処理の各処理を行う構成としてもよい。
【００３２】
２２はメモリ制御回路であり、Ａ／Ｄ変換器１６、タイミング発生回路１８、画像処理回路２０、画像表示メモリ２４、Ｄ／Ａ変換器２６、メモリ３０、圧縮・伸長回路３２を制御する。Ａ／Ｄ変換器１６から出力される画像データは、画像処理回路２０、メモリ制御回路２２を介して、或いはメモリ制御回路２２のみを介して、画像表示メモリ２４或いはメモリ３０に書き込まれる。
【００３３】
２４は画像表示メモリ、２６はＤ／Ａ変換器、２８はＴＦＴ方式のＬＣＤ等から成る画像表示部であり、画像表示メモリ２４に書き込まれた表示用の画像データはＤ／Ａ変換器２６を介して画像表示部２８により表示される。画像表示部２８を用いて、撮像した画像データを逐次表示することで、電子ビューファインダー（ＥＶＦ）機能を実現することができる。また、画像表示部２８は、システム制御回路５０の指示により任意に表示をＯＮ／ＯＦＦすることが可能であり、表示をＯＦＦにした場合にはカメラ本体１００の電力消費を大幅に低減することができる。
【００３４】
３０は撮影した静止画像あるいは動画像を格納するためのメモリであり、所定枚数の静止画像あるいは所定量の動画像を格納するのに十分な記憶容量を備えている。これにより、複数枚の静止画像を連続して撮影する連写撮影やパノラマ撮影の場合にも、高速かつ大量の画像書き込みをメモリ３０に対して行うことが可能となる。また、動画撮影時には、所定レートで連続的に書き込まれる画像のフレームバッファとして使用される。さらに、メモリ３０はシステム制御回路５０の作業領域としても使用することが可能である。
【００３５】
３１は後述する不揮発性メモリ５６に格納されているゴミ情報と、レンズユニット３００から得られる光学情報を用いて、画像データに含まれるゴミを画像処理により除去するためのゴミ除去回路である。
【００３６】
３２は公知の圧縮方法を用いて画像データを圧縮・伸長する圧縮・伸長回路である。圧縮・伸長回路３２は、メモリ３０に格納された画像を読み込んで圧縮処理或いは伸長処理を行い、処理を終えたデータを再びメモリ３０に書き込む。また、動画像データを所定のフォーマットに圧縮符号化し、又は所定の圧縮符号化データから動画像信号を伸張する機能も有する。
【００３７】
３３は音声信号処理回路であり、マイク（不図示）より入力された音声信号を所定の符号フォーマットに符号化し、又は所定の符号化データから音声信号を復号する機能を有する。なお、本実施形態のデジタルカメラは、スピーカ（不図示）を介して、音声信号処理回路３３により復号された音声データを出力する機能を有する。
【００３８】
４０はシャッター制御部であり、測光制御部４６からの測光情報に基づいて絞り３１２を制御する絞り制御部３４０と連携しながらシャッター１２を制御する。４２はＡＦ（オートフォーカス）処理を行うための焦点調節部である。レンズユニット３００内の撮像レンズ３１０に入射した光線を絞り３１２、レンズマウント３０６，１０６、ミラー１３０及び焦点調節用サブミラー（不図示）を介して一眼レフ方式で入射させることにより、光学像として結像された画像の合焦状態を測定する。
【００３９】
４６はＡＥ（自動露出）処理を行うための測光制御部である。レンズユニット３００内の撮像レンズ３１０に入射した光線を、絞り３１２、レンズマウント３０６，１０６、ミラー１３０及び測光用サブミラー（図示せず）を介して一眼レフ方式で入射させることにより、光学像として結像された画像の露出状態を測定する。４８はフラッシュであり、ＡＦ補助光の投光機能、フラッシュ調光機能も有する。測光制御部４６はフラッシュ４８と連携することにより、ＥＦ（フラッシュ調光）処理機能も有する。
【００４０】
また、焦点調節部４２による測定結果と、Ａ／Ｄ変換器１６からの画像データを画像処理回路２０によって演算した演算結果とを用いて、ＡＦ制御を行うようにしてもよい。さらに、測光制御部４６による測定結果と、Ａ／Ｄ変換器１６からの画像データを画像処理回路２０によって演算した演算結果とを用いて露出制御を行うようにしてもよい。
【００４１】
５０はカメラ本体１００全体を制御するシステム制御回路であり、周知のＣＰＵなどを内蔵する。５２はシステム制御回路５０の動作用の定数、変数、プログラム等を記憶するメモリである。
【００４２】
５４はシステム制御回路５０でのプログラムの実行に応じて、文字、画像、音声などを用いて動作状態やメッセージなどを外部に通知するための通知部である。通知部５４としては、例えばＬＣＤやＬＥＤなどによる視覚的な表示を行う表示部や音声による通知を行う発音素子などが用いられるが、通知部５４はこれらのうち１つ以上の組み合わせにより構成される。特に、表示部の場合には、カメラ本体１００の操作部７０近辺の、視認しやすい、単数あるいは複数箇所に設置される。また、通知部５４は、その一部の機能が光学ファインダ１０４内に設置されている。
【００４３】
通知部５４の表示内容の内、ＬＣＤなどの画像表示部２８に表示するものとしては以下のものがある。まず、単写／連写撮影表示、セルフタイマ表示等、撮影モードに関する表示がある。また、圧縮率表示、記録画素数表示、記録枚数表示、残撮影可能枚数表示等の記録に関する表示がある。また、シャッター速度表示、絞り値表示、露出補正表示、調光補正表示、外部フラッシュ発光量表示、赤目緩和表示等の撮影条件に関する表示がある。その他に、マクロ撮影表示、ブザー設定表示、電池残量表示、エラー表示、複数桁の数字による情報表示、記録媒体２００及びＰＣ２１０の着脱状態表示がある。更に、レンズユニット３００の着脱状態表示、通信Ｉ／Ｆ動作表示、日付・時刻表示、外部コンピュータとの接続状態を示す表示等も行われる。
【００４４】
また、通知部５４の表示内容のうち、光学ファインダ１０４内に表示するものとしては、例えば、以下のものがある。合焦表示、撮影準備完了表示、手振れ警告表示、フラッシュ充電表示、フラッシュ充電完了表示、シャッター速度表示、絞り値表示、露出補正表示、記録媒体書き込み動作表示等である。
【００４５】
５６は後述するプログラムなどが格納された電気的に消去・記録可能な不揮発性メモリであり、例えばＥＥＰＲＯＭ等が用いられる。
【００４６】
５８は光学情報格納メモリであり、レンズユニット３００からコネクタ１２２を介して得られる、後述する各種レンズ情報を記憶する。
【００４７】
６０，６２，６４，６６，６８，７０は、システム制御回路５０の各種の動作指示を入力するための操作手段であり、スイッチやダイアル、タッチパネル、視線検知によるポインティング、音声認識装置等の単数或いは複数の組み合わせで構成される。
【００４８】
ここで、これらの操作手段の具体的な説明を行う。
【００４９】
６０はモードダイアルスイッチで、自動撮影モード、プログラム撮影モード、シャッター速度優先撮影モード、絞り優先撮影モード、マニュアル撮影モード、焦点深度優先（デプス）撮影モード等の各機能撮影モードを切り替え設定することができる。他に、ポートレート撮影モード、風景撮影モード、接写撮影モード、スポーツ撮影モード、夜景撮影モード、パノラマ撮影モードなどの各機能撮影モードを切り替え設定することもできる。
【００５０】
６２はシャッタースイッチＳＷ１で、不図示のシャッターボタンの操作途中（例えば半押し）でＯＮとなり、ＡＦ処理、ＡＥ処理、ＡＷＢ処理、ＥＦ処理等の動作開始を指示する。
【００５１】
６４はシャッタースイッチＳＷ２で、不図示のシャッターボタンの操作完了（例えば全押し）でＯＮとなり、露光処理、現像処理、及び記録処理からなる一連の処理の動作開始を指示する。まず、露光処理では、撮像素子１４から読み出した信号をＡ／Ｄ変換器１６、メモリ制御回路２２を介してメモリ３０に書き込み、更に、画像処理回路２０やメモリ制御回路２２での演算を用いた現像処理が行われる。更に、記録処理では、メモリ３０から画像データを読み出し、圧縮・伸張回路３２で圧縮を行い、記録媒体２００あるいはＰＣ２１０に書き込む、または送信する。
【００５２】
６６は再生スイッチであり、撮影モード状態で撮影した画像をメモリ３０あるいは記録媒体２００、ＰＣ２１０から読み出して画像表示部２８に表示する再生動作の開始を指示する。再生スイッチ６６は、他に、再生モード、マルチ画面再生・消去モード、ＰＣ接続モード等の各機能モードを設定することができる。
【００５３】
６８は単写／連写スイッチで、シャッタースイッチＳＷ２（６４）を押した場合に、１コマの撮影を行って待機状態とする単写モードと、シャッタースイッチＳＷ２（６４）を押している間、連続して撮影を行い続ける連写モードとを設定することができる。
【００５４】
７０は各種ボタンやタッチパネルなどから成る操作部である。一例として、ライブビュー開始／停止ボタン、動画記録開始／停止ボタン、メニューボタン、セットボタン、マルチ画面再生改ページボタン、フラッシュ設定ボタン、単写／連写／セルフタイマー切り換えボタン、メニュー移動＋（プラス）ボタン、メニュー移動−（マイナス）ボタンを含む。更に、再生画像移動＋（プラス）ボタン、再生画像移動−（マイナス）ボタン、撮影画質選択ボタン、露出補正ボタン、調光補正ボタン、外部フラッシュ発光量設定ボタン、日付／時間設定ボタンなども含む。なお、上記プラスボタン及びマイナスボタンの各機能は、回転ダイアルスイッチを備えることによって、より軽快に数値や機能を選択することが可能となる。
【００５５】
また、画像表示部２８のＯＮ／ＯＦＦを設定する画像表示ＯＮ／ＯＦＦスイッチ、撮影直後に撮影した画像データを自動再生するクイックレビュー機能を設定するクイックレビューＯＮ／ＯＦＦスイッチがある。また、ＪＰＥＧ圧縮の圧縮率を選択するため、あるいは撮像素子の信号をそのままデジタル化して記録媒体に記録するＲＡＷモードを選択するためのスイッチである圧縮モードスイッチがある。また、ワンショットＡＦモードとサーボＡＦモードとを設定可能なＡＦモード設定スイッチなどがある。ワンショットＡＦモードでは、シャッタースイッチＳＷ１（６２）を押した際にオートフォーカス動作を開始し、一旦合焦した場合、その合焦状態を保ち続ける。サーボＡＦモードでは、シャッタースイッチＳＷ１（６２）を押している間、連続してオートフォーカス動作を続ける。更に、後述するようにゴミ検出用画像を撮影してゴミ情報を取得する、ゴミ情報取得モードを設定することができる設定スイッチを含む。
【００５６】
７２は電源スイッチであり、カメラ本体１００の電源オン、電源オフの各モードを切り替え設定することができる。また、カメラ本体１００に接続されたレンズユニット３００、外部フラッシュ１１２、記録媒体２００、ＰＣ２１０等の各種付属装置の電源オン、電源オフの設定も合わせて切り替え設定可能である。
【００５７】
８０は電源制御部で、電池検出回路、ＤＣ−ＤＣコンバータ、通電するブロックを切り替えるスイッチ回路等により構成されている。電源制御部８０は、電池の装着の有無、電池の種類、電池残量の検出を行い、検出結果及びシステム制御回路５０の指示に基づいてＤＣ−ＤＣコンバータを制御し、必要な電圧を必要な期間、記録媒体を含む各部へ供給する。
【００５８】
８２，８４はコネクタ、８６はアルカリ電池やリチウム電池等の一次電池、ＮｉＣｄ電池やＮｉＭＨ電池、Ｌｉ‐ｉｏｎ電池、Ｌｉポリマー電池等の二次電池、ＡＣアダプター等からなる電源部である。
【００５９】
９０及び９４はメモリカードやハードディスク等の記録媒体やＰＣとのインターフェース、９２及び９６はメモリカードやハードディスク等の記録媒体やＰＣと接続を行うコネクタである。９８はコネクタ９２及び／或いは９６に記録媒体２００或いはＰＣ２１０が装着されているか否かを検知する記録媒体着脱検知回路である。
【００６０】
なお、本実施形態では記録媒体を取り付けるインターフェース及びコネクタを２系統持つものとして説明しているが、記録媒体を取り付けるインターフェース及びコネクタは、単数或いは複数、いずれの系統数を備える構成としても構わない。また、異なる規格のインターフェース及びコネクタを組み合わせて備える構成としても構わない。
【００６１】
インターフェース及びコネクタとしては、種々の記憶媒体の規格に準拠したものを用いて構成することが可能である。例えば、ＰＣＭＣＩＡ（PersonalComputer Memory Card International Association）カードやＣＦ（コンパクトフラッシュ（登録商標））カード、ＳＤカード等である。インターフェース９０及び９４、そしてコネクタ９２及び９６をＰＣＭＣＩＡカードやＣＦカード等の規格に準拠したものを用いて構成した場合、各種通信カードを接続することができる。通信カードとしては、ＬＡＮカードやモデムカード、ＵＳＢ（Universal Serial Bus）カード、ＩＥＥＥ（Institute of Electrical andElectronic Engineers）１３９４カードがある。他にも、Ｐ１２８４カード、ＳＣＳＩ（Small Computer System Interface）カード、ＰＨＳ等がある。これら各種通信カードを接続することにより、他のコンピュータやプリンタ等の周辺機器との間で画像データや画像データに付属した管理情報を転送し合うことができる。
【００６２】
１０４は光学ファインダであり、撮像レンズ３１０に入射した光線を、一眼レフ方式によって、絞り３１２、レンズマウント３０６，１０６、ミラー１３０，１３２を介して導き、光学像として結像させて表示することができる。これにより、画像表示部２８による電子ファインダー機能を使用すること無しに、光学ファインダーのみを用いて撮影を行うことが可能である。また、光学ファインダー１０４内には、通知部５４の一部の機能、例えば、合焦状態、手振れ警告、フラッシュ充電、シャッター速度、絞り値、露出補正などが表示される。
【００６３】
１１２は、アクセサリシュー１１０を介して装着される、外部フラッシュ装置である。
【００６４】
１２０はレンズマウント１０６内でカメラ本体１００をレンズユニット３００と接続するためのインターフェースである。
【００６５】
１２２はカメラ本体１００をレンズユニット３００と電気的に接続するコネクタである。また、レンズマウント１０６及びコネクタ１２２にレンズユニット３００が装着されているか否かは、不図示のレンズ着脱検知部により検知される。コネクタ１２２はカメラ本体１００とレンズユニット３００との間で制御信号、状態信号、データ信号などを伝え合うと共に、各種電圧の電流を供給する機能も備えている。
【００６６】
コネクタ１２２を介して通信される、レンズユニット３００の各種光学情報（絞り、ズーム位置、瞳位置、焦点距離など）は、カメラ本体１００の光学情報格納メモリ５８に記憶される。通信の要求はカメラ側から行う場合もあれば、レンズ側から情報更新のたびに通信される場合もある。
【００６７】
また、コネクタ１２２は電気通信だけでなく、光通信、音声通信により通信を行う構成としてもよい。
【００６８】
２００はメモリカードやハードディスク等の記録媒体である。この記録媒体２００は、半導体メモリや磁気ディスク等から構成される記録部２０２、カメラ本体１００とのインターフェース２０４、カメラ本体１００と接続を行うコネクタ２０６を備えている。
【００６９】
記録媒体２００としては、ＰＣＭＣＩＡカードやコンパクトフラッシュ（登録商標）等のメモリカード、ハードディスク等を用いることができる。また、マイクロＤＡＴ、光磁気ディスク、ＣＤ−ＲやＣＤ−ＲＷ等の光ディスク、ＤＶＤ等の相変化型光ディスク等で構成されていても勿論構わない。
【００７０】
２１０はＰＣであり、磁気ディスク（ＨＤ）等から構成される記録部２１２、カメラ本体１００とのインターフェース２１４、カメラ本体１００と接続を行うコネクタ２１６を備えている。インターフェース９４はＵＳＢやＩＥＥＥ１３９４などが挙げられるが、特に限定はない。
【００７１】
次に、上記構成を有する撮像装置における撮像素子の前方に配置されたローパスフィルタやカバーガラス等の光学素子１４ａ上のゴミの影響を画像処理により除去する処理について説明する。
【００７２】
本実施形態では、まず、ゴミ（異物）の付着している位置及び大きさ等の情報であるゴミ情報（異物情報）を得るためのゴミ検出用画像を撮影し、ゴミデータを抽出し、ゴミデータを生成しておく。ここでゴミ検出用画像は、できるだけ均一な輝度面を撮影した画像が望ましいが、身近な場所で容易に撮影できることが望ましいため、厳密な均一性を要求するものではない。例えば、青空や白い壁面を撮影することを想定している。
【００７３】
図２は、本実施形態におけるゴミ情報を取得する際の撮像装置（本実施形態ではデジタルカメラ）における処理を示すフローチャートである。
【００７４】
まずステップＳ２０１において、操作部７０によりゴミ情報取得モードが選択されたか否かを判定する。ゴミ情報取得モードが選択されるまでステップＳ２０１の判定を繰り返し、ゴミ情報取得モードが選択されるとステップＳ２０２へ進み、シャッタースイッチＳＷ１（６２）がＯＮされたかどうかを判断する。ＯＦＦであればステップＳ２０１に戻って上記処理を繰り返す。
【００７５】
一方、ＯＮであれば、ステップＳ２０３において、絞り、ＩＳＯ値、シャッタースピード、その他撮影関連のパラメータを設定する。ここで設定されるパラメータを図３に示す。絞りはＦ２２など、絞りを絞り込んだ設定とする。レンズマウント１０６に接続されるレンズユニット３００において設定可能な範囲内で最も絞り込んだ状態で撮影するものとしてもよい。このように絞りを絞るのは、ゴミは通常撮像素子１４の表面ではなく、撮像素子１４を保護する保護用ガラスや、撮像素子より被写体側に配置される光学フィルター（光学素子１４ａ）上に付着しているため、レンズユニット３００の絞り値によって結像状態が異なるためである。そのため、絞りが開放値に近いとゴミの像がぼやけてしまい、適切なゴミ検出用の画像が取得できないので、できるだけ絞り込んだ状態で撮影するのが好ましい。
【００７６】
図２のフローチャートの説明に戻ると、この時までに撮影者はできるだけ白い壁などの均一輝度面に撮像装置を向け、シャッタースイッチＳＷ２（６４）を操作することとなる。
【００７７】
ステップＳ２０４ではシャッタースイッチＳＷ２（６４）がＯＮされたかどうかを判断する。ＯＦＦであればステップＳ２０２に戻りシャッタースイッチＳＷ１（６２）の判定を行う。ＯＮであればステップＳ２０５へ進む。ステップＳ２０５ではゴミ検出用画像の撮影（均一輝度面の撮影）を行って、メモリ３０内に画像データを取り込む。次にステップＳ２０６ではメモリ３０内に記憶した画像データからゴミ情報を取得する。
【００７８】
ここで、ゴミ情報の取得について説明する。具体的には、撮影したゴミ検出用画像からゴミ領域の位置（座標）と大きさを求めるものである。まず、撮影したゴミ検出用画像の領域を複数のブロックに分割し、ブロック内の最大輝度Ｌmax、平均輝度Ｌave を算出し、次式を用いてブロック内のスレッショルド値Ｔ１を算出する。
【００７９】
Ｔ１＝Ｌave×０.６＋Ｌmax×０.４
次に、ゴミが付着している画素はその輝度が周囲の画素の輝度よりも低下するため、スレッショルド値Ｔ１を超えない画素をゴミ画素とし、ゴミ画素によって構成される孤立領域を各々一つのゴミ領域ｄｉ（ｉ＝０，１，…，ｎ）とする。
【００８０】
図４は、ゴミ領域サイズ算出の概要を示す図である。図４に示すように、ゴミ領域毎に、ゴミ領域を構成する画素の水平方向の座標の最大値Ｘmax および最小値Ｘmin、垂直方向の座標の最大値Ｙmax および最小値Ｙmin を求め、ゴミ領域ｄｉのサイズを表す半径ｒｉを次式によって算出する。
【００８１】
ｒｉ＝［√｛（Ｘmax−Ｘmin）2＋（Ｙmax−Ｙmin）2｝］／２
また、このときの中心座標（Ｘｄｉ，Ｙｄｉ）は、近似的に、
Ｘｄｉ＝（Ｘmax＋Ｘmin）／２
Ｙｄｉ＝（Ｙmax＋Ｙmin）／２
で求めるものとする。このように求められた位置（座標）と半径を、ゴミ情報プロファイルとして記録する。
【００８２】
不揮発性メモリ５６のサイズによる制限などにより、ゴミ補正データ（ゴミ情報プロファイル）のデータサイズが制限されている場合がある。このような場合に対応するために、ゴミ位置情報を、大きさやゴミ領域の平均輝度値によってソートする。本実施形態では、ｒｉの大きい順にソートする。ｒｉが等しい場合、平均輝度値の低い順にソートする。 このようにすることで、目立つゴミを優先してゴミ補正データに登録することが出来る。なお、ソート済みのゴミ領域をＤｉ、ゴミ領域Ｄｉの半径をＲｉとする。
【００８３】
なお、予め定められたサイズより大きいゴミ領域がある場合、ソートの対象から外し、ソート済みゴミ領域リストの末尾に配置してもよい。大きいゴミ領域については、後に補間処理をするとかえって画質を低下させる場合があり、補正対象の優先順位としては最下位として扱うことが望ましいからである。
【００８４】
このゴミ情報プロファイルは、図５に示すような構造をとる。図５に示す通り、ゴミ情報プロファイルには、ゴミ検出用画像撮影時の、レンズ情報とゴミの位置、大きさの情報が格納される。更に具体的には、ゴミ検出用画像撮影時のレンズ情報として、ゴミ検出用画像撮影時における実際の絞り値（Ｆ値）と、そのときのレンズ瞳位置を格納する。続いて記憶領域に検出したゴミ領域の数（整数値）を格納し、これに続き、個々の具体的なゴミ領域のパラメータを、ゴミ領域の数だけ繰返して格納する。ゴミ領域のパラメータは、ゴミの半径（例えば２バイト）、有効画像領域における中心のｘ座標（例えば２バイト）、おなじく中心のｙ座標（例えば２バイト）の３つの数値のセットである。
【００８５】
取得したゴミ情報はステップＳ２０７で不揮発性メモリ５６に記憶され、ゴミ情報取得のための処理を終了する。
【００８６】
なお、ゴミ情報取得モードにおける撮影動作は、ゴミ情報を取得することを目的とするため、本実施形態では撮影した画像そのものに対して、圧縮及び記録媒体２００への記録処理は行わない。これは撮影者にとって不要な画像データで記録媒体２００内の容量を無駄に消費することがないようにするためであるが、通常画像と同様に、圧縮後、記録媒体２００へ保存しても良く、また、その際に拡張子を変更するなど何らかの手を加えても構わない。
【００８７】
ここで、本実施形態は、動画を撮影する場合にゴミによる画質劣化を画像処理で補正する方法に関するものであるが、動画の処理について説明する前に、静止画の場合の処理について以下説明する。
【００８８】
静止画の場合には、ゴミ検出用画像の撮影ではない通常の撮影を行った場合、通常撮影時のカメラ設定値等と共に図５に示したゴミ補正データ（ゴミ情報プロファイル）を画像データに関連付けて記録媒体２００に記録する。
【００８９】
具体的には、例えば、撮影時のカメラ設定値等が記録される画像ファイルのヘッダ領域であるＥｘｉｆ領域にゴミ補正データを追記することで、関連付けを実現することができる。または、ゴミ補正データをファイルとして独立して記録し、画像データにはそのゴミ補正データファイルへのリンク情報のみを記録することで関連付けを実現することも可能である。ただし、画像ファイルとゴミ補正データファイルを別々に記録すると、画像ファイルの移動時に、リンク関係が消失する場合があるので、ゴミ補正データは画像データと一体的に保持することが望ましい。
【００９０】
このように、ゴミ補正データを画像データに関連付けて記録するのは、このゴミ補正データが付属されて記録された画像データを外部の画像処理装置に移し、この外部の画像処理装置でゴミ除去処理を行う場合も想定しているからである。
【００９１】
次に、上述したようにして不揮発性メモリ５６に記憶されたゴミ情報を使用した通常撮影時のゴミ除去処理について、図６及び図７のフローチャートを用いて説明する。なお、ここでの説明もまずは静止画におけるゴミ除去処理に関するものであるが、動画においても、静止画と同様のゴミ除去処理を１フレーム毎の画像に施すことにより、同様にごみ除去処理を行うことができる。また、このゴミ除去処理は、図１におけるゴミ除去回路３１を用いて行われる。
【００９２】
図６は本実施形態における通常撮影時の静止画像の撮影処理を示している。
【００９３】
ステップＳ５０１ではシャッタースイッチＳＷ１（６２）がＯＮされるまで、待機する。シャッタースイッチＳＷ１（６２）がＯＮされるとステップＳ５０２へ進んで測光及び焦点調節処理を行い、続いてステップＳ５０３でシャッタースイッチＳＷ２（６４）がＯＮされたかどうかを判断する。シャッタースイッチＳＷ２（６４）がＯＦＦであればステップＳ５０１に戻って上記処理を繰り返し、ＯＮされたことを検出するとステップＳ５０４へ進んで撮影を行う。撮影が終了するとステップＳ５０５へ進み、有効なゴミ情報が不揮発性メモリ５６内に存在するか否かを判定する。ゴミ情報が存在する場合はステップＳ５０６へ進み、存在しない場合はステップＳ５０７へ進んで撮影した画像データを記録媒体２００に格納する。
【００９４】
なお、本実施形態では不揮発性メモリ５６内にゴミ情報が存在するか否かを判定しているが、本来、上述したゴミ情報取得モードでの撮影が行われているかどうかが必要な条件であり、その判定方法に関しては特に限定するものではない。例えば、ゴミ情報取得モードでの撮影時に何らかのフラグをセットしておき、そのフラグを評価する方法でも構わない。
【００９５】
ステップＳ５０６では撮影した画像データに対し、取得済みのゴミ情報を、Ｅｘｉｆ領域などのヘッダ領域に埋め込み、ステップＳ５０７において記録媒体２００にゴミ情報を埋め込んだ画像データを格納する。
【００９６】
続いて、図７を参照してゴミ除去処理の動作について説明する。
【００９７】
ステップＳ６０１では、選択された画像にゴミ情報が埋め込まれているかどうか判定する。埋め込まれている場合はステップＳ６０２へ進み、ゴミ情報を取り込む。ステップＳ６０３では取り込んだゴミ情報から画像データにおけるゴミの影響を除去するべく、ゴミの周辺画素による画素補間処理等による補正処理を行う。
【００９８】
具体的には、抽出したゴミ補正データから座標列Ｄｉ（ｉ＝１，２，…ｎ）、半径列Ｒｉ（ｉ＝１，２，…，ｎ）、絞り値ｆ１とレンズ瞳位置Ｌ１を得る。ここでＲｉは、先にゴミ補正データソート時に求めた座標Ｄｉのゴミの大きさである。また、ｆ１は、ゴミ検出用画像の撮影時のレンズの絞り値、Ｌ１は、同じくゴミ検出用画像の撮影時のレンズの瞳位置である。通常撮影された画像の撮影時の絞り値ｆ２とレンズ瞳位置Ｌ２を取得し、Ｄｉを次式で変換する。ここで、ｄは画像中心から座標Ｄｉまでの距離、Ｈは撮像素子１４の表面とゴミとの距離であるとする。変換後の座標Ｄｉ’と変換後の半径Ｒｉ’は例えば次式で定義する。
【００９９】
Ｄｉ’（ｘ，ｙ）＝（Ｌ２×（Ｌ１−Ｈ）×ｄ／（（Ｌ２−Ｈ）×Ｌ１））×Ｄｉ（ｘ，ｙ）
Ｒｉ’＝（Ｒｉ×ｆ１／ｆ２＋３） （１）
ここでの単位はピクセルであり、Ｒｉ’についての「＋３」はマージン量である。
【０１００】
座標Ｄｉ’、半径Ｒｉ’で示される領域内のゴミを検出し、必要に応じて補間処理を適用する。補間処理の詳細については後述する。全ての座標についてゴミ除去処理を適用し、全ての座標について処理が終わっていれば、ステップＳ６０４に進む。
【０１０１】
ステップＳ６０４では、撮影した画像からゴミの影響を除去した補正処理後の画像を新たに記録する。
【０１０２】
以上でゴミ除去処理を終了する。
【０１０３】
なお、本実施形態では、カメラ本体１００ではゴミ情報を、撮影した画像データに埋め込む形で記録し、後からゴミの影響を除去する補正処理を行う構成を示した。これに対し、カメラ本体１００で画像を撮影して記録する時に、ゴミ情報を埋め込まずにゴミの影響を除去する補正処理を行い、補正処理後の画像を記録媒体２００へ記録するよう構成してもよい。
【０１０４】
次に、ゴミ領域の除去処理の詳細について説明する。
【０１０５】
（ゴミ除去処理）
図８は、ステップＳ６０３のゴミ除去処理の流れを示すフローチャートである。
【０１０６】
まず、ステップＳ７０１において、ゴミ領域以外の領域の均一性を算出する。そして、ステップＳ７０２において、この値が閾値α以下であるかを判断し、閾値α以下である場合に限りステップＳ７０３の補間ルーチンを実行し、ゴミの補間処理を行う。
【０１０７】
ここで、閾値αとは後述のフィルタ処理による輝度の変化量の平均値に対する閾値である。後述のフィルタ処理を適用すると、ノイズなどによる孤立点や強いエッジ部分がボケる。一方、平坦な部分についてはフィルタ処理を適用しても、輝度はあまり変化しない。そこで、フィルタ処理の適用前後の輝度差を算出し、注目領域が平坦かどうかの判定に用いることができる。この適用前後の輝度差に対し閾値α以下であれば平坦であると判断する。本実施形態では、画素値が８ｂｉｔ精度の場合、例えば閾値αを６とする。
【０１０８】
図９は、均一性判定値の算出処理の流れを示すフローチャートである。
【０１０９】
ステップＳ２１０１で、指定領域内の各画素の輝度成分に対し、図１０（ａ）に示すフィルタを適用し、フィルタ適用後の輝度成分からなる第１のビットマップデータを得る。輝度成分の計算は、例えば次式で行う。
【０１１０】
Ｙ＝０．２９９×Ｒ＋０．５８７×Ｇ＋０．１１４×Ｂ
なお、図１０（ａ）のフィルタは平滑化フィルタであり、自身の画素に対して、左上、上、右上、左、自身、右、左下、下、右下の９画素を、均等に重み付けして平均化した値を新たな画素値とするものである。
【０１１１】
次にステップＳ２１０２で、指定領域内の各画素の輝度成分に対し、図１０（ｂ）に示すフィルタを適用し、フィルタ適用後の輝度成分からなる第２のビットマップデータを得る。なお、図１０（ｂ）に示すフィルタは、自身の画素に対して、自身を含めて周囲２５画素を、均等に重み付けして平均化した値を新たな画素値とするものである。
【０１１２】
ステップＳ２１０３で、第１と第２のビットマップデータについて、対応する画素の差分の平均値を算出し、これを均一性判定値とする。
【０１１３】
このような処理を行うことで、画像のノイズ成分の影響も、ある程度排除した状態で均一な領域を抽出し、適切な補間処理を行うことが出来る。
【０１１４】
（補間ルーチン）
図１１は、図８のステップＳ７０３における補間ルーチンの流れを示すフローチャートである。
【０１１５】
まずステップＳ８０１で、ゴミ領域判定を行う。ゴミ領域とは、次の条件全てを満たす領域とする。
（１）中心座標Ｄｉ’、半径Ｒｉ’（式（１）で求められたＤｉ’，Ｒｉ’）に含まれる画素の平均輝度Ｙave と最高輝度Ｙmax を用いて次式で求められるスレッショルド値Ｔ２より暗い領域。
【０１１６】
Ｔ２＝Ｙave×０.６＋Ｙmax×０.４
（２）上記の中心座標Ｄｉ’、半径Ｒｉ’の円と接しない領域。
（３）（１）で選択された輝度の低い画素によって構成される孤立領域に対し、上述の方法で算出した半径値がＸ１画素以上、Ｘ２画素未満である領域。
（４）円の中心座標Ｄｉを含む領域。
【０１１７】
本実施形態では、Ｘ１は３画素、Ｘ２は３０画素とする。このようにすることで、孤立した小領域だけをゴミ領域として扱うことが可能になる。また、レンズ瞳位置が正確に取得できない場合には、（４）の条件は幅を持たせても良い。例えば、着目領域が座標ＤｉからＸ方向、Ｙ方向に夫々±３画素の範囲の座標を含めば、ゴミ領域と判定するなどという条件が考えられる。
【０１１８】
ステップＳ８０２で、画像信号中にこのような領域（部分）があればステップＳ８０３へ進みゴミ領域補間を行い、存在しない場合は処理を終了する。ステップＳ８０３で実行するゴミ領域補間処理は、公知の欠損領域補間法で行う。公知の欠損領域補間法には例えば、特開２００１−２２３８９４号公報に開示されているパターン置換がある。特開２００１−２２３８９４号公報では赤外光を用いて欠損領域を特定しているが、本実施形態ではステップＳ８０１で検出したゴミ領域を欠損領域として扱い、パターン置換によりゴミ領域を周囲の正常画素で補間する。パターン置換で埋められない画素については、パターン補間後の画像データに対し、補間対象画素に最も近い順に正常画素をｐ個選択し、その平均色を用いて補間する。
【０１１９】
静止画のゴミ除去処理では、このように画像にゴミ補正データを添付することで、ゴミ補正用画像データと撮影画像データの対応を意識する必要が無くなるという利点がある。また、ゴミ補正データが位置、大きさ、変換用データ（絞り値、レンズの瞳位置の距離情報）で構成されるコンパクトなデータであるので、撮影画像データサイズが極端に大きくなることもない。また、ゴミ補正データで指定された画素を含む領域だけを補間処理することにより、誤検出の確率を大幅に低減することが可能になる。
【０１２０】
次に、動画の場合の、ゴミによる画質劣化を画像処理で補正する方法について説明する。
【０１２１】
動画においても、静止画と同様に画像ファイルにゴミ補正データを添付することで、同様の利点を得ることができる。そこで、動画の画像ファイルに対してゴミ補正データを添付する方法について説明する。
【０１２２】
まず、近年デジタルカメラやデジタルビデオカメラ等で、動画像データの記録に用いられている動画ファイルフォーマットである、ＭＰ４について説明する。
【０１２３】
ＭＰ４ファイル形式（ＩＳＯ／ＩＥＣ  １４４９６−１４；“Ｉｎｆｏｒｍａｔｉｏｎ  ｔｅｃｈｎｏｌｏｇｙ――Ｃｏｄｉｎｇ  ｏｆ  ａｕｄｉｏ−ｖｉｓｕａｌ  ｏｂｊｅｃｔｓ――Ｐａｒｔ  １４：ＭＰ４  ｆｉｌｅ  ｆｏｒｍａｔ”；ＩＳＯ／ＩＥＣ；２００３−１１−２４を参照）とは、ＩＳＯ／ＩＥＣ  ＪＴＣ１／ＳＣ２９／ＷＧ１１（Ｉｎｔｅｒｎａｔｉｏｎａｌ  Ｏｒｇａｎｉｚａｔｉｏｎ  ｆｏｒ  Ｓｔａｎｄａｒｄｉｚａｔｉｏｎ／Ｉｎｔｅｒｎａｔｉｏｎａｌ  Ｅｎｇｉｎｅｅｒｉｎｇ  Ｃｏｎｓｏｒｔｉｕｍ）によって規格化された、ＭＰＥＧなどの動画・音声のコンテンツデータをファイルに記録するために「ＩＳＯ  Ｂａｓｅ  Ｍｅｄｉａ  Ｆｉｌｅ  Ｆｏｒｍａｔ」（ＩＳＯ／ＩＥＣ  １４４９６−１２；“Ｉｎｆｏｒｍａｔｉｏｎ  ｔｅｃｈｎｏｌｏｇｙ――Ｃｏｄｉｎｇ  ｏｆ  ａｕｄｉｏ−ｖｉｓｕａｌ  ｏｂｊｅｃｔｓ――Ｐａｒｔ  １２：ＩＳＯ  ｂａｓｅ  ｍｅｄｉａ  ｆｉｌｅ  ｆｏｒｍａｔ”；ＩＳＯ／ＩＥＣ；２００４−０１−２３を参照）という汎用のファイル形式を元に拡張されたファイル形式である。なお、本発明はＭＰ４に限らず類似のファイル形式を用いるケースに対しても適用できる。例えば、ＩＳＯではＭＰ４と同様の基本構造を持つファイル形式規格として、「Ｍｏｔｉｏｎ  ＪＰＥＧ  ２０００ファイル形式」（ＩＳＯ／ＩＥＣ  １５４４４−３）や、「ＡＶＣファイル形式」（ＩＳＯ／ＩＥＣ  １４４９６−１５）といった標準規格が制定されている。
【０１２４】
図１２は、ＭＰ４ファイル形式におけるデータ構造を説明するための概念図である。
【０１２５】
ＭＰ４ファイル１００１は、映像・音声データの物理的位置、時間的位置や特性情報を示すメタデータ（ヘッダ情報）１００２と、符号化された映像・音声データの実態を示すメディアデータ１００３から構成される。ＭＰ４形式では、コンテンツ全体のプレゼンテーションを「ムービー」、コンテンツを構成するメディアストリームのプレゼンテーションを「トラック」と呼んでいるが、メタデータ１００２には、典型的には、動画像のデータ全体を論理的に取り扱うビデオトラック１００４と音声のデータ全体を論理的に取り扱うオーディオトラック１００５が含まれており、ビデオトラック１００４とオーディオトラック１００５の基本的な構成内容は、ほとんど同等のものとなっている。すなわち、それぞれのトラックは、実際のメディアデータの様々なメタデータ情報を記録しており、その内容がメディアデータの特性に応じて多少異なっているだけである。
【０１２６】
ビデオトラック１００４に含まれるデータは、例えば、符号化データを復号化するための所謂デコーダの構成情報や動画像の矩形サイズなどの情報が含まれる。加えて、メディアデータが実際に記録されているファイル上の位置を示すオフセット１００６や、メディアデータのそれぞれのフレームデータ（ピクチャと呼ばれることもある）のサイズを示すサンプルサイズ１００７、それぞれのフレームデータのデコード時間を示すタイムスタンプ１００８などが記録されている。
【０１２７】
一方、メディアデータ１００３には、符号化データの基本単位を示す「サンプル」が連続して１つ以上記録されている「チャンク」と呼ばれるデータ構造により、動画像のデータと音声のデータの実体が記録されている。このチャンクは、メタデータ１００２のトラックに従って、動画像のメディアデータを含むビデオチャンク１００９と音声のメディアデータを含むオーディオチャンク１０１０とにより構成されている。
【０１２８】
図１２に示す構成は、ビデオチャンク１００９とオーディオチャンク１０１０が交互に記録されているように示しているが、その記録位置や順序は必ずしもこのようになっている必要はない。この例は、一般的に記録される形式の一例に過ぎない。しかしながら、このような交互の配置（インターリーブ）は、ほぼ同時刻に再生されるべき動画と音声のデータを近い位置に配置することにより、ファイルに記録されたデータのアクセス性を高めるといった効果があり、極めて一般的に見られる方法である。
【０１２９】
チャンクには、個々のメディアデータのサンプルがひとつ以上含まれている。例えば、図１２に示すように、ビデオチャンク１００９には、ビデオサンプル（フレーム）１０１１が連続して記録される。一般的には、このビデオサンプル（フレーム）１０１１は、ビデオのひとつのフレームデータ（ピクチャ）に相当する。それぞれのトラックとチャンクは次のように関連付けられている。
【０１３０】
例えば動画像のデータの場合、ビデオトラック１００４に含まれる情報は、メディアデータ１００３に含まれるそれぞれのビデオチャンク１００９に関する情報を含んでいる。オフセット１００６は、ビデオチャンク１００９のそれぞれのファイル上の相対位置を示す情報のテーブルから構成されており、テーブルの個々のエントリを参照することにより、どの位置に実際のビデオチャンクが記録されていてもその位置を知ることができるようになっている。サンプルサイズ１００７は、複数のチャンク内に含まれる複数のサンプル、すなわちビデオのフレームのそれぞれのサイズをテーブルとして記載している。
【０１３１】
より正確には、個々のチャンクの中に含まれるサンプルの数を記載した情報もビデオトラック１００４の中に記載されており、これらの情報から、個々のビデオチャンク１００９の中に含まれるサンプルを正確に取得することが可能となっている。タイムスタンプ１００８は、個々のサンプルのデコード時間をサンプル間の差分としてテーブルに記録するようになっている。このテーブルを参照することにより、それぞれのサンプルの所謂タイムスタンプを積算時間を計算することにより取得することが可能となる。
【０１３２】
このような、トラックとチャンクの関係は、オーディオトラック１００５とオーディオチャンク１０１０についても同様に成立するよう定義されている。これによって、ＭＰ４ファイルおよびＩＳＯ  Ｂａｓｅ  Ｍｅｄｉａ  Ｆｉｌｅ  Ｆｏｒｍａｔにおいては、メタデータ１００２とメディアデータ１００３により、符号化データを必要な単位で任意の位置からタイムスタンプなどの付加情報を持って取得することが出来るようになっている。なお、説明を簡単にするために、ここには規格化されているすべての記録情報については記載していないことに注意しなければならない。規格化されている定義内容の詳細は、ＩＳＯ／ＩＥＣ  １４４９６の該当部分を参照することで知ることができる。
【０１３３】
ＭＰ４ファイル形式では、ファイルに記録されるデータは「ＢＯＸ」と呼ばれるデータ構造の内部に記述され、ＢＯＸを単位としてファイルに記録される。ＢＯＸは、次のようなフィールドから構成される。
【０１３４】
Ｓｉｚｅ：ｓｉｚｅフィールド自体を含む、ＢＯＸ全体のサイズ。
【０１３５】
Ｔｙｐｅ：ＢＯＸの種類を表す４バイトのタイプ識別子。通常は４文字の英数字で表される。
【０１３６】
その他のフィールドはＢＯＸによってはオプションであるため、ここでは説明を省略する。
【０１３７】
ファイル中に記録されるデータは、その種類によって異なるタイプのＢＯＸに保持される。例えば、メディアデータ１００３は符号化データを格納するＭｅｄｉａ  Ｄａｔａ  ＢＯＸ（ｔｙｐｅフィールドの内容は‘ｍｄａｔ’。以降の説明でＢＯＸのタイプを示す識別子が用いられる場合は、そのタイプで示されるＢＯＸを表現しているものとする）として、メタデータ１００２はコンテンツ全体のメタデータ情報を格納するＭｏｖｉｅ  ＢＯＸ（‘ｍｏｏｖ’）として記録される。前述のチャンクおよびサンプルに関する情報についても、同様に固有の識別子をもつＢＯＸとして、ｍｏｏｖの内部にトラック毎に記録される。
【０１３８】
静止画の場合、画像ファイルのヘッダ領域であるＥｘｉｆ領域にゴミ補正データを追記したが、動画の場合も同様に、画像ファイルのヘッダ領域ｍｏｏｖにゴミ補正データを追記することで、ゴミ補正データを画像データに関連付けて記録することが可能となる。
【０１３９】
もちろん、ゴミ補正データをファイルとして独立して記録し、画像ファイルにはそのゴミ補正データファイルへのリンク情報のみを記録することで関連付けを実現することも可能である。しかし、静止画の場合と同様の理由で、ゴミ補正データは画像ファイルと一体的に保持することが望ましい。
【０１４０】
このように、画像ファイルに関連付けられたゴミ補正データを用いて、動画においても、静止画と同様のゴミ除去処理（図７、図８および図９）を１フレーム毎の画像に施すことにより、動画のごみ除去処理を行うことができる。
【０１４１】
次に、上記のようにゴミ補正データが埋め込まれた動画像データをカメラ外部の画像処理装置に移して、ゴミ除去処理を行う場合について説明する。
【０１４２】
図１３は、画像処理装置のシステム構成の概略を示した図である。
【０１４３】
まず、ＣＰＵ１６０１は、システム全体の動作をコントロールし、一次記憶部１６０２に格納されたプログラムの実行などを行う。一次記憶部１６０２は、主にメモリであり、二次記憶部１６０３に記憶されたプログラムなどを読み込んで格納する。二次記憶部１６０３は、例えばハードディスクなどがこれに該当する。一般に一次記憶部の容量は二次記憶部の容量より小さく、一次記憶部に格納しきれないプログラムやデータなどは二次記憶部に格納される。また、長時間記憶しなくてはならないデータなども二次記憶部に格納される。本実施形態では、プログラムを二次記憶部１６０３に格納し、プログラム実行時に一次記憶部１６０２に読み込んでＣＰＵ１６０１が実行処理を行う。入力デバイス１６０４とは、例えば、システムのコントロールに用いるマウスやキーボードの他、画像データの入力に必要なカードリーダー、スキャナ、フィルムスキャナなどがこれに該当する。出力デバイス１６０５とは、例えば、モニタやプリンタなどが考えられる。この装置の構成方法は他にも様々な形態が考えられるが、本発明の主眼ではないので説明を省略する。
【０１４４】
画像処理装置には、複数のプログラムを並列実行可能なオペレーティングシステムが搭載され、操作者はＧＵＩを使ってこの装置上で動作するプログラムの操作が可能である。
【０１４５】
図１４は、画像処理装置における画像編集プログラムのＧＵＩ（Ｇｒａｐｈｉｃａｌ  ＵｓｅｒＩｎｔｅｒｆａｃｅ）を示す図である。ウィンドウにはクローズボタン１７００とタイトルバー１７０１が備えられ、クローズボタンを押すことでプログラムを終了する。動画の画像ファイルを画像表示領域１７０２にドラッグアンドドロップすることで補正対象とする画像ファイルを指定した場合、タイトルバー１７０１にファイル名を表示する。補正対象の画像ファイルが指定されると、画像表示領域１７０２には、任意の時間単位で区切ったフレームの画像を、２３０１のようにサムネイル形式で並べて表示する。そして、実行ボタン１７０３を押すと、後述するゴミ除去処理を実行し、処理後の各フレームの画像を、２３０１のような形式で画像表示領域１７０２に表示する。再生ボタン１７０４を押すと、ゴミ除去処理が実行されゴミが除去された動画が、画像表示領域１７０２にＦｉｔ表示で再生される。保存ボタン１７０５を押すと、処理後のフレームに差し替えて、画像ファイルを保存する。
【０１４６】
図１７は、本実施形態における画像処理である、ゴミ除去処理を示したフローチャートである。この処理は、図７のステップＳ６０３において、動画の画像ファイルから取り込んだゴミ情報から全フレームの画像データに対するゴミの影響を除去するものである。当該処理を含むゴミ除去処理の動作（図７）は、ＣＰＵ１６０１が二次記憶部１６０３に記憶されたゴミ除去処理プログラムを実行することで実施される。以降では、本実施形態におけるゴミ除去処理（図１７）についてのみ説明する。よって、動画の画像ファイルに埋め込まれたゴミ情報は、図７のステップＳ６０２で一次記憶部１６０２に記憶されているものとする。また、本実施形態において、動画の符号化方式は問わない。例えば、上述のＭｏｔｉｏｎ  ＪＰＥＧ方式やＨ．２６４方式であっても、復号化されたフレームに対して、本実施形態が適用される。
【０１４７】
まず、ステップＳ１７０１で、動画の画像ファイル内に含まれるフレーム数をｙに記憶し、ステップＳ１７０２で現在処理しているフレーム数をあわらすｚを０とする。ステップＳ１７０３で、Ｎフレーム分画像データを読み込み、ステップＳ１７０４で画像データ中における動画均一性判定を行う。この場合、ＣＰＵ１６０１が、動画用均一性判定手段として作用する。なお、この処理の詳細については、後述する。
【０１４８】
動画均一性判定（ステップＳ１７０４）で、Ｎフレーム分のゴミの均一性判定結果が図１９のような形で一次記憶部１６０２に記憶される。そのため、ステップＳ１７０５で処理するフレーム番号ｘを０で初期化し、ステップＳ１７０６で一次記憶部１６０２に記憶されているゴミ毎の動画均一性判定結果を読み込む。そして、該当フレーム番号の該当ゴミが補正ＯＫの判定であれば、ステップＳ７０３の補間ルーチンを実行し、補間処理を適用する。該当ゴミが補正ＮＧであれば何もせずに、ステップＳ１７０８ですべてのゴミに対して判定が終わったかどうかを確認し、終わっていたらステップＳ１７１０へ進む。終わっていなければステップＳ１７０６へ戻り、次のゴミに対する動画均一性判定結果を読み込む。この場合、ＣＰＵ１６０１が補正手段、および制御手段として作用する。
【０１４９】
ステップＳ１７１０では、読み込んだＮフレーム分全てにおいて処理が終わったかどうかを判定し、終わっていればステップＳ１７１１へ進む。終わっていなければステップＳ１７０９で現在処理中のフレーム番号ｘを＋１してステップＳ１７０６に戻り、次のフレームのゴミに対する動画均一性判定結果を読み込む。
【０１５０】
ステップＳ１７１１で、読み込んだフレーム数Ｎをｚに加算し、ステップＳ１７１２でｚが動画の画像ファイルに含まれる全フレーム数ｙと等しいかどうかを判定し、等しければ処理を終了する。等しくなければステップＳ１７０３に戻って次のＮフレーム分を読み込む。
【０１５１】
以上で本実施形態における、動画の画像ファイルに対するゴミ除去処理の説明を終了する。
【０１５２】
次に、図１７のステップＳ１７０４の動画均一性判定処理について、詳細に説明する。
【０１５３】
図１８は、本実施形態における動画均一性判定処理のフローチャートである。以下では、図１５の図を例に、図１８のフローチャートを説明する。
【０１５４】
まず、ステップＳ１８０１では読み込んだＮフレーム分のフレーム、つまり図１５の６フレームに対してエッジ検出処理を行う。ここで用いるエッジ検出処理は、境界を正確に検出できれば良く、本実施形態はその処理方法に特徴を見出すものではないので公知の方法を用いれば良い。この場合、ＣＰＵ１６０１がフレームエッジ検出手段として作用する。
【０１５５】
ステップＳ１８０２で、ステップＳ１８０１で検出したエッジの位置と、一次記憶部１６０２に記憶されているゴミ情報から、エッジの位置とゴミの位置が重なっているフレームを抽出する。図１５においては、ロープとゴミが重なっている２と５のフレームが抽出される。この場合、ＣＰＵ１６０１が異物エッジ検出手段として作用する。
【０１５６】
ステップＳ１８０３で、ステップＳ１８０２で抽出したフレームの番号について、最初にエッジとゴミとが重なったフレームをＮｓ、最後に重なったフレームをＮｅとして記憶する。図１５においては、Ｎｓ＝２、Ｎｅ＝５となる。
【０１５７】
ステップＳ１８０４で、ＮｓとＮｅからこの間の所要時間Ｔｓｅ［ｓ］を求める。所要時間Ｔｓｅ［ｓ］は、動画がフレームレートＦ［ｆｐｓ］で記憶されている場合、
Ｔｓｅ［ｓ］＝（Ｎｅ−Ｎｓ）／Ｆ
で求められる。図１５においては、フレームレートを３０[ｆｐｓ]とするとＴｓｅ＝０．１［ｓ］となる。
【０１５８】
ステップＳ１８０５で、ステップＳ１８０４で求めた所要時間Ｔｓｅ［ｓ］を、動画均一性判定値として、一次記憶部１６０２に記憶する。
【０１５９】
なお、ゴミ情報に複数個のゴミ位置情報が含まれている場合、各ゴミ位置に対してエッジ位置との重なりを調査する必要があるため、動画均一判定性値Ｔｓｅ、ＮｓおよびＮｅはゴミ毎にＴｓｅ（ｉ）、Ｎｓ（ｉ）、Ｎｅ（ｉ）（ｉ＝０，１，２，…，ｎ）として複数個存在することになる。
【０１６０】
ステップＳ１８０６からＳ１８１８の間は、ゴミ情報に記載されているゴミ領域パラメータＤｉ、Ｒｉ（ｉ＝１，２，…，ｎ）に基づいて、読み込んだフレーム毎にゴミ一つずつ処理を行う。
【０１６１】
まず、ステップＳ１８０６で、静止画均一性判定値算出を行う。この処理は、上述の図８のステップＳ７０１で行った処理と同様である。
【０１６２】
そして、ステップＳ１８０７で、図８のステップＳ７０２と同様に、静止画時の閾値αと同じ値を用いて判定する。この場合、ＣＰＵ１６０１が、静止画用均一性判定手段として作用する。ステップＳ１８０７の判定結果を、Ａに対して記憶する（ステップＳ１８０８、ステップＳ１８０９）
ステップＳ１８１０で、ステップＳ１８０５で算出した動画均一判定値が閾値（判定基準）β以下（基準値以下）であるかを判断し、閾値β以下である場合にはＳ１８１１へ、閾値βより大きければＳ１８１４へすすむ。この場合、ＣＰＵ１６０１が、動画用補正判定手段として作用する。
【０１６３】
ここで、閾値βとは、ゴミ除去処理を実行した動画を再生した際に、除去の結果、違和感のある動画になる秒時の閾値である。図１６のように、静止画と同様のゴミ除去処理を行うと、ゴミが消えたり現れたり、ちらついて見えるので、それを防ぐために、閾値βをちらつきが気になる秒時にすることで、閾値β以下であればちらついてしまうと判断する。本実施形態では、例えば、閾値βを１００[ｍｓ]とする。
【０１６４】
ステップＳ１８１０で、処理中のゴミが、現在のフレームがエッジと重なるフレーム間（Ｎｓ（ｉ）＜現フレーム＜Ｎｅ（ｉ））であり、且つ動画均一性判定値Ｔｓｅ（ｉ）が閾値β以下である場合、ステップＳ１８１１へ進む。そして、ちらつくのを防ぐために、後述の動画均一性判定結果から、一つ前のフレームにおける、同じゴミの補正結果を取得し、同じ補正結果をＡに記憶する（ステップＳ１８１２、ステップＳ１８１３）。もちろん、一つ前のフレームが存在しない、先頭フレームであれば静止画均一性判定結果をそのまま動画均一性判定結果とするのは言うまでもない。閾値βより大きい場合、ステップＳ１８１４へ進む。
【０１６５】
ステップＳ１８１４で、Ａに記憶されている現ゴミの判定結果を動画均一性判定結果として、一次記憶部１６０２に図１９のような構造で記憶する。図１９に示す通り、動画均一性判定結果には、フレーム番号、ゴミを一意に識別するためのゴミ番号、補正結果が格納される。
【０１６６】
動画均一性判定結果を一次記憶部１６０２に記憶後、ステップＳ１８１５でゴミ情報に記載された全てのゴミに対して判定処理を実行したかを判断し、実行していなければステップＳ１８１６へ進み次のゴミに対してステップＳ１８０６へ戻って処理を繰り返す。全てのゴミに対して処理が終わっていれば、ステップＳ１８１７へ進み、読み込んだフレーム数分の判定処理が終わっているかを判断する。終わっていなければステップＳ１８１８へすすみ、次のフレームに対して、ステップＳ１８０６へ戻って、ゴミ情報の先頭のゴミから順番に判定処理を繰り返す。
【０１６７】
例えば、図１５においては、上記のように、動画均一性判定値Ｔｓｅが０．１［ｓ］であることから、閾値β（＝１００［ｍｓ］）以下であるため、ステップＳ１８１１で、ちらつきを防ぐために、一つ前のフレームの結果を用いることになる。つまり、フレーム番号３と４においては、フレーム番号２のゴミの補正結果が静止画均一性判定により均一ではないため判定ＮＧとなるので、直前のフレームの結果を用いるとフレーム番号２からフレーム番号５までは補正されない（補正を禁止する）ことになる（図２０を参照）。もちろん、動画均一性判定の閾値βは上述の値に限るものではない。
【０１６８】
なお、前述の説明では別途用意された画像処理装置を用いたゴミ除去処理の説明をしたが、もちろんデジタルカメラ本体内で行っても良い。デジタルカメラ本体内で行う場合、図７、図１７および図１８のフローチャートで示した処理と同様の処理を、ゴミ除去回路３１がゴミ除去処理プログラムを実行することにより実施される。例えば、操作部７０からゴミ除去処理の開始が指示されると、ゴミ除去回路３１は、メモリ３０に記憶されている動画の画像ファイルを呼び出し、図７、図１７および図１８に示す処理を行い、動画に写り込んだゴミの補間処理を実行する。最後に、補間処理結果を新たな動画ファイルとして記録媒体２００に記録する。
【０１６９】
以上述べたように、このような処理を行うことで、例えば図１５のような動画に対してゴミ除去処理をしたことにより、図１６のような短時間にゴミが消えたり現れたりちらついて見えてしまう違和感が生じるのを防ぎ、動画に対してより適切なゴミ除去処理を行い、動画へのゴミの影響を抑制することが可能となる。
【０１７０】
（第２の実施形態）
第１の実施形態では、フレーム間でゴミが消えたり現れたりちらついてしまうのを防ぐために、ちらつく間のフレームに関しては、補間処理を施さない例を示した。本実施形態では、静止画とは異なる観点、つまりより動画としての特徴を考慮した動画均一性判定手段について説明する。
【０１７１】
上述の静止画均一性判定手段とは、静止画において、指定されたゴミを含む領域内が複雑なパターンの場合、その領域を補間すると補間結果が不自然になる場合があるために行われる。ここで、複雑なパターンとは、例えば芝生であったり、絨毯や壁の模様などがある。
【０１７２】
静止画において、上記のような判定手段が必要な理由としては、静止画の閲覧方法にある。静止画の閲覧に使われる多くのアプリケーションには、様々な画像処理機能だけでなく、拡大・縮小表示する機能が備わっている。つまり、静止画は、アプリケーションを用いて様々な画像処理を施し、拡大表示して入念に画像を確認することが可能である。従って、不自然な補正結果になりやすい複雑なパターンを含む領域のゴミは、拡大表示すると不自然さが目立つので補間しないのである。
【０１７３】
しかし、動画においては、各フレームに対してゴミ除去処理を施したとしても、各フレームを拡大して入念に確認することはなく、むしろ動画再生時にゴミが写っていないほうが好まれる。
【０１７４】
例えば、図２１は、図１５の動画の画像ファイルに対して、写り込んだゴミを全て補正したものである。図１９や図２０と比べて、補正されているフレームが増えているのがわかる。図２１において、フレーム２、３、５では、ロープと重なっているゴミを補間処理しているため、ロープが途中できれているような不自然な画像となっている。しかし、動画の場合、このフレーム２、３、５は動画の中の１つのフレームに過ぎず、例えばフレームレートが３０［ｆｐｓ］の場合、約３３［ｍｓ］毎にフレームを更新するので、１フレームを隅々まで正確に認識することは、通常人間の視覚ではできない。
【０１７５】
つまり、図２１のように、写り込んでいるゴミを全て補正してしまい、フレーム毎にそれぞれ独立で見れば不自然な場合でも、動画として連続で見るとフレーム毎の補正の不自然さには気づかず、むしろゴミが写り込んでいないため、逆に違和感のない、より好ましい動画となる。
【０１７６】
以上を鑑みて、本実施形態では、動画の閲覧方法を考慮した動画均一性判定処理について、説明する。
【０１７７】
図２２は、本実施形態の動画均一性判定処理の流れを示したフローチャートである。なお、以下では図１８との相違点についてのみ説明する。
【０１７８】
まず、ステップＳ２２０１で、補正対象が動画の画像ファイルであることから、静止画均一性判定値の閾値αを、静止画のゴミ除去処理に用いる場合よりも大きな値にする。これは、上述のとおり、ゴミを含む領域が平坦であるかどうかの判定に用いており、この値を大きくすることで、多少複雑であっても平坦であると判断することができる。例えば、上述では、αを６としていたが、この場合は１８とする。
【０１７９】
そして、ステップＳ１８０６以降、図１８と同様の処理を行うことにより、静止画におけるゴミ除去処理よりも、より複雑な領域の補正も可能となる。
【０１８０】
以上述べたように、この処理を行うことで、動画の場合、静止画のように動画の各フレームを単独で見ると違和感のある補正結果になるが、動画として連続で見るとその違和感は認識できず、ゴミが写り込んでいない、よりユーザにとって好ましいゴミ除去処理を施した動画を作成することが可能となる。
【０１８１】
（他の実施形態）
また、各実施形態の目的は、次のような方法によっても達成される。すなわち、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体（または記録媒体）を、システムあるいは装置に供給する。そして、そのシステムあるいは装置のコンピュータ（またはＣＰＵやＭＰＵ）が記憶媒体に格納されたプログラムコードを読み出し実行する。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、本発明には次のような場合も含まれる。すなわち、プログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム（ＯＳ）などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される。
【０１８２】
さらに、次のような場合も本発明に含まれる。すなわち、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれる。その後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるＣＰＵなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される。
【０１８３】
本発明を上記記憶媒体に適用する場合、その記憶媒体には、先に説明した手順に対応するプログラムコードが格納されることになる。
【図面の簡単な説明】
【０１８４】
【図１】本発明の第１の実施形態における画像処理機能を有する撮像装置の構成を示すブロック図である。
【図２】ゴミ情報を取得する際の撮像装置（本実施形態ではデジタルカメラ）における処理を示すフローチャートである。
【図３】ゴミ情報取得時の設定パラメータ一覧を示す図である。
【図４】ゴミ領域サイズ算出の概要を示す図である。
【図５】ゴミ情報プロファイルの構造を示す図である。
【図６】通常撮影時の静止画像の撮影処理を示すフローチャートである。
【図７】ゴミ除去処理の動作を示すフローチャートである。
【図８】図７のステップＳ６０３で行われるゴミ除去処理の流れを示すフローチャートである。
【図９】図８のステップＳ７０１で行われる均一性判定値算出処理の流れを示すフローチャートである。
【図１０】平滑化フィルタの例を示す図である。
【図１１】図８のステップＳ７０３で行われる補間ルーチンの流れを示すフローチャートである。
【図１２】ＭＰ４或いは類似のファイル形式におけるメタデータ、メディアデータの概念を説明する図である。
【図１３】画像処理装置のシステム構成の概略を示した図である。
【図１４】画像処理装置におけるＧＵＩの例を示す図である。
【図１５】ゴミが写り込んだ動画の一例を示す図である。
【図１６】ゴミが写り込んだ動画に対して、静止画と同様のゴミ除去処理を適用した動画の一例を示す図である。
【図１７】本発明の第１の実施形態における動画像に対するゴミ除去処理の流れを示すフローチャートである。
【図１８】第１の実施形態における、図１７のステップＳ１７０４で行われる動画均一性判定処理の流れを示すフローチャートである。
【図１９】動画均一性判定結果の構造を示す図である。
【図２０】ゴミが写り込んだ動画に対して第１の実施形態におけるゴミ除去処理を適用した動画の一例を示す図である。
【図２１】ゴミが写り込んだ動画に対して第２の実施形態におけるゴミ除去処理を適用した動画の一例を示す図である。
【図２２】第２の実施形態における、図１７のステップＳ１７０４で行われる動画均一性判定処理の流れを示すフローチャートである。
【図１】
2010081112.tif 000003
【図２】
2010081112.tif 000004
【図３】
2010081112.tif 000005
【図４】
2010081112.tif 000006
【図５】
2010081112.tif 000007
【図６】
2010081112.tif 000008
【図７】
2010081112.tif 000009
【図８】
2010081112.tif 000010
【図９】
2010081112.tif 000011
【図１０】
2010081112.tif 000012
【図１１】
2010081112.tif 000013
【図１２】
2010081112.tif 000014
【図１３】
2010081112.tif 000015
【図１４】
2010081112.tif 000016
【図１５】
2010081112.tif 000017
【図１６】
2010081112.tif 000018
【図１７】
2010081112.tif 000019
【図１８】
2010081112.tif 000020
【図１９】
2010081112.tif 000021
【図２０】
2010081112.tif 000022
【図２１】
2010081112.tif 000023
【図２２】
2010081112.tif 000024