(57)【特許請求の範囲】
【請求項１】
画像内の所定の位置にある画素の画素値を生成し、前記画素値により前記画素を補間する画像処理装置であって、
前記画素を含む画像領域が周期的な画素値の変動を伴う周期領域であるかを判定する周期性判定部と、
第一補間方法を用いて前記画素の画素値および指定された範囲内に存在する当該画素を除く近傍画素の画素値を生成する第一画素値生成部と、
前記第一補間方法とは異なる第二補間方法を用いて前記画素の画素値および前記近傍画素の画素値を生成する第二画素値生成部と、
前記周期性判定部により得られた判定結果から、前記第一画素値生成部と前記第二画素値生成部のいずれを用いて前記画素の画素値および前記近傍画素の画素値を生成するかを判断する制御部と、
前記制御部により決定された前記第一画素値生成部または前記第二画素値生成部が生成した前記画素の画素値を、前記画像内の当該画素へ挿入する画素値挿入部と、
前記制御部により決定された前記第一画素値生成部または前記第二画素値生成部が生成した前記近傍画素の画素値と、前記画像内の当該近傍画素の画素値とを用いて導出される画素値へ、前記画像内の当該近傍画素の画素値を更新する画素値更新部とを含む、画像処理装置。
【請求項２】
前記画素値更新部は、前記制御部による判断結果に応じて、前記生成した近傍画素の画素値と、前記画像内の当該近傍画素の画素値とを用いて導出される画素値へ更新するか、または前記近傍画素の画素値を更新しないかを判断する、請求項１に記載の画像処理装置。
【請求項３】
前記周期性判定部は、前記画像領域を構成する画素の画素値の周期を計算する周期計算部を含み、前記画素値更新部は、前記周期計算部が計算した前記周期を用いて前記範囲を指定する更新範囲指定部を含む、請求項１または２に記載の画像処理装置。
【請求項４】
前記周期性判定部により前記周期領域と判定された場合に、前記画素に近隣して１以上の参照領域を設定し、前記１以上の参照領域に含まれる複数の画素の画素値を用いて導出される画像特徴量が所定の基準を満たすか否かに基づき、前記画素が前記周期領域と非周期領域とのいずれに存在するかを判定する境界判定部をさらに含む、請求項１〜３のいずれか１項に記載の画像処理装置。
【請求項５】
前記画素値更新部は、前記境界判定部により前記画素が前記周期領域と前記非周期領域との境界に近隣した位置に存在すると判定された場合、前記近傍画素の画素値を更新しないか、または前記範囲を狭める、請求項４に記載の画像処理装置。
【請求項６】
前記第一補間方法は、パターンマッチング法であり、前記第一画素値生成部は、前記画素を含む基準パターンを用いて前記画像内に設定された探索領域から一定の基準を満たす１以上の類似パターンを探索し、前記基準パターン内の前記画素の位置および前記近傍画素の位置を基に、前記１以上の類似パターンから１以上の対応する画素の画素値および対応する近傍画素の画素値を得、前記１以上の対応する画素の画素値を合成して、挿入すべき前記画素の画素値を算出し、前記対応する近傍画素の画素値を合成して、更新すべき前記近傍画素の画素値を算出する、請求項１〜５のいずれか１項に記載の画像処理装置。
【請求項７】
前記第一補間方法および前記第二補間方法とは異なる第三補間方法を用いて前記画素の画素値および前記近傍画素の画素値を生成する第三画素値生成部をさらに含み、
前記制御部が、前記周期性判定部により得られた判定結果から、前記第一画素値生成部と前記第二画素値生成部と前記第三画素値生成部のいずれを用いて前記画素の画素値および前記近傍画素の画素値を生成するかを判断する、請求項１〜６のいずれか１項に記載の画像処理装置。
【請求項８】
生成された前記画素の画素値が妥当であるかを検証する妥当性検証部をさらに含み、
前記妥当性検証部は、前記第一画素値生成部が前記画素の画素値を生成する際に得られる関連情報に基づいて該画素の画素値の妥当性を判断し、妥当でないと判断した場合、前記制御部は、前記第一画素値生成部に代えて前記第二画素値生成部により前記画素の画素値および前記近傍画素の画素値を生成させる、請求項１〜６のいずれか１項に記載の画像処理装置。
【請求項９】
生成された前記画素の画素値が妥当であるかを検証する妥当性検証部と、前記第一補間方法および前記第二補間方法とは異なる第三補間方法を用いて前記画素の画素値および前記近傍画素の画素値を生成する第三画素値生成部とをさらに含み、
前記妥当性検証部は、前記第一画素値生成部が前記画素の画素値を生成する際に得られる関連情報に基づいて該画素の画素値の妥当性を判断し、妥当でないと判断した場合、前記第二画素値生成部が前記画素の画素値を生成する際に得られる関連情報に基づいて該画素の画素値の妥当性を判断し、妥当であると判断した場合、前記制御部が、前記第一画素値生成部に代えて前記第二画素値生成部により前記画素の画素値および前記近傍画素の画素値を生成させ、妥当でないと判断した場合、前記制御部が、前記第三画素値生成部により前記画素の画素値および前記近傍画素の画素値を生成させる、請求項１〜６のいずれか１項に記載の画像処理装置。
【請求項１０】
画像処理装置により画像の所定の位置にある画素の画素値を生成し、前記画素値により前記画素を補間する方法であって、
前記画素を含む画像領域が周期的な画素値の変動を伴う周期領域であるかを判定する周期性判定ステップと、
前記周期性判定ステップにより得られた判定結果に基づき、前記画像処理装置が備える第一補間方法を用いて前記画素の画素値および指定された範囲内に存在する当該画素を除いた近傍画素の画素値を生成する第一画素値生成部と、前記第一補間方法とは異なる第二補間方法を用いて前記画素の画素値および前記近傍画素の画素値を生成する第二画素値生成部のいずれを用いて前記画素の画素値および前記近傍画素の画素値を生成するかを判断する判断ステップと、
前記判断ステップで判断された前記第一画素値生成部または前記第二画素値生成部が生成した前記画素の画素値を、前記画像内の当該画素へ挿入する挿入ステップと、
前記判断ステップで判断された前記第一画素値生成部または前記第二画素値生成部が生成した前記近傍画素の画素値と、前記画像内の当該近傍画素の画素値とを用いて導出される画素値へ、前記画像内の当該近傍画素の画素値を更新する更新ステップとを含む、画素補間方法。
【請求項１１】
前記更新ステップでは、前記判断ステップでの判断結果に応じて、前記生成した近傍画素の画素値と、前記画像内の当該近傍画素の画素値とを用いて導出される画素値へ更新するか、または前記近傍画素の画素値を更新しないかを判断する、請求項１０に記載の画素補間方法。
【請求項１２】
前記周期性判定ステップでは、前記画像領域を構成する画素の画素値の周期を計算し、前記更新ステップでは、計算された前記周期を用いて前記範囲を指定する、請求項１０または１１に記載の画素補間方法。
【請求項１３】
前記周期性判定ステップで前記周期領域であると判定された場合に、前記画素に近隣して１以上の参照領域を設定し、前記１以上の参照領域に含まれる複数の画素の画素値を用いて導出される画像特徴量が所定の基準を満たすか否かに基づき、前記画素が前記周期領域と非周期領域とのいずれに存在するかを判定する境界判定ステップをさらに含む、請求項１０〜１２のいずれか１項に記載の画素補間方法。
【請求項１４】
前記更新ステップでは、前記境界判定ステップで前記画素が前記周期領域と前記非周期領域との境界に近隣した位置に存在すると判定された場合、前記近傍画素の画素値を更新しないか、または前記範囲を狭める、請求項１３に記載の画素補間方法。
【請求項１５】
前記第一補間方法は、パターンマッチング法であり、前記第一画素値生成部が、前記画素を含む基準パターンを用いて前記画像内に設定された探索領域から一定の基準を満たす１以上の類似パターンを探索し、前記基準パターン内の前記画素の位置および前記近傍画素の位置を基に、前記１以上の類似パターンから１以上の対応する画素の画素値および対応する近傍画素の画素値を得、前記１以上の対応する画素の画素値を合成して、挿入すべき前記画素の画素値を算出し、前記対応する近傍画素の画素値を合成して、更新すべき前記近傍画素の画素値を算出するステップをさらに含む、請求項１０〜１４のいずれか１項に記載の画素補間方法。
【請求項１６】
前記第一補間方法および前記第二補間方法とは異なる第三補間方法を用いて前記画素の画素値および前記近傍画素の画素値を生成する第三画素値生成部をさらに含み、
前記判断ステップでは、前記周期性判定ステップにより得られた判定結果から、前記第一画素値生成部と前記第二画素値生成部と前記第三画素値生成部のいずれを用いて前記画素の画素値および前記近傍画素の画素値を生成するかを判断する、請求項１０〜１５のいずれか１項に記載の画素補間方法。
【請求項１７】
生成された前記画素の画素値が妥当であるかを検証する妥当性検証ステップをさらに含み、
前記妥当性検証ステップでは、前記第一画素値生成部が前記画素の画素値を生成する際に得られる関連情報に基づいて該画素の画素値の妥当性を判断し、妥当でないと判断した場合、前記判断ステップにおいて、前記第一画素値生成部に代えて前記第二画素値生成部が前記画素の画素値および前記近傍画素の画素値を生成すると判断する、請求項１０〜１５のいずれか１項に記載の画素補間方法。
【請求項１８】
前記画像処理装置は、前記第一補間方法および前記第二補間方法とは異なる第三補間方法を用いて前記画素の画素値および前記近傍画素の画素値を生成する第三画素値生成部をさらに含み、
前記画素補間方法は、生成された前記画素の画素値が妥当であるかを検証する妥当性検証ステップをさらに含み、
前記妥当性検証ステップでは、前記第一画素値生成部が前記画素の画素値を生成する際に得られる関連情報に基づいて該画素の画素値の妥当性を判断し、妥当でないと判断した場合、前記第二画素値生成部が前記画素の画素値を生成する際に得られる関連情報に基づいて該画素の画素値の妥当性を判断し、妥当であると判断された場合、前記判断ステップにおいて、前記第一画素値生成部に代えて前記第二画素値生成部が前記画素の画素値および前記近傍画素の画素値を生成すると判断し、妥当でないと判断された場合、前記判断ステップにおいて、前記第三画素値生成部が前記画素の画素値および前記近傍画素の画素値を生成すると判断する、請求項１０〜１５のいずれか１項に記載の画素補間方法。
【請求項１９】
請求項１０〜１８のいずれか１項に記載の画素補間方法をコンピュータに実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像中の画素値が欠落した画素や不正な画素値を有する画素を補間するために画素補間処理を行う装置、その装置により行われる画素補間方法、その方法を実現するためのコンピュータ可読なプログラムに関する。
【背景技術】
【０００２】
光学的な手段を用いて画像を読み取るスキャナ装置として、ＣＩＳ(Contact Image Sensor)を採用したスキャナ装置、ＣＣＤ(Charge Coupled Device)を採用したスキャナ装置が知られている。ＣＩＳを採用したスキャナ装置は、原稿を読み取り面に密着しなければならないことから、立体的な原稿を読み取ることができない。しかしながら、このＣＩＳを採用したスキャナ装置は、ＣＣＤを採用する装置と比較すると、本体の厚さが薄く、価格も安く、読み取った画像に出やすいノイズを低減する技術が向上してきていることから、近年では広く使用されるようになってきている。例えば、ＣＩＳは、１パス両面読取機能を有する画像読取装置において、裏面を読み取るのに採用されている。
【０００３】
ここで、ＣＩＳは、光源にＲＧＢの発光ダイオード(LED)を用い、ＲＧＢの光をそれぞれ高速に切り換えて、原稿からの光を、レンズを通して撮像素子(CMOSイメージセンサ)へ入力し、ＣＭＯＳイメージセンサで、その入力された原稿からの光を１画素ずつ電圧値へ変換し、出力するものである。
【０００４】
ＣＩＳを採用したスキャナ装置は、原稿をローラでセンサに密着させて１ラインずつ読み取る密着イメージセンサ方式を採用する。ＣＩＳは、１本の長いセンサを作製することが難しいことから、短いセンサを、その長さ方向へ複数並べるように配置して読み取り部を構成する。このため、センサ間に一定のギャップが生じ、このギャップにおいては画像信号を取得することができない。その結果、画像信号の欠落が生じる。
【０００５】
ＣＩＳを採用したスキャナ装置に限られるものではないが、スキャナ装置では、画像信号を読み取るセンサの不具合や、原稿がセットされるコンタクトガラスの汚れ等の光路の途中に遮蔽物が存在することによって、画像信号が欠落したり、読み取られた画像信号が不正な値を示したりすることがある。
【０００６】
このような欠落した画素の存在や、不正な画素値を有する画素の存在は、画質の低下という問題を発生させる。そこで、欠落した画素の画素値や不正な画素値を、その画素の周囲にある画素の画素値を用いて推定し、その推定した値に置き換えて補間する技術が知られている。
【０００７】
例えば、対象画素の周囲にある画素の画素値を用いて線形補間する方法や、２次以上の関数を用いて多項式補間あるいはスプライン補間する方法等がある。線形補間による補間方法は、濃度変化の少ない部分の補間には適しているが、網点領域のように濃度変化の激しい部分の補間には適していない。
【０００８】
多項式補間やスプライン補間による内挿法は、デジタル写真等の、画像を標本化する際のサンプリング周期が画像のパターンの変動周期に対して十分に短いものに対し、高い精度で画素値を推定することができる。しかしながら、網点画像については、網点の線数に比較して画像の解像度が十分でないことから、サンプリング周期が画像の変動周期に対して十分ではなく、この内挿法では、元のパターンを正しく再現することができない場合が多い。
【０００９】
そこで、内挿法の問題点を解決するべく、パターンマッチングを用いる手法が提案されている。この手法では、内挿法では再現することができない高い周波数成分を、補間画素の近隣した位置にある類似パターンを用いて再現することができる。
【００１０】
しかしながら、一般的にパターンマッチングでは、内挿法と比較して広い範囲の情報を用いることから、基準とするパターンに対する最適解が求まるが、それが補間画素に対して最適であるとは限らない。これは、パターンマッチングで類似パターンを探索する際に、全体として少しずつ異なるパターンと、大部分が一致するのであるが、一部大きく異なるパターンとの区別を行わないために生じる問題である。
【００１１】
特に、高数線の網点領域のように、特定の画素に情報が偏在しているケースでは、類似パターンの選択仕方が補間結果に大きな影響を与えることになる。また、濃度の低い網点領域では相対的に背景に属する画素の占める割合が高いため、網点領域ではない背景領域に類似パターンを検出してしまうか、その反対に検出されないことがある。
【００１２】
したがって、補間を行う際には補間画素の属する領域の特性に応じて補間手法を使い分ける必要がある。そこで、補間画素の画素値を正確に推定するため、補間画素の位置が網点領域内であればパターンマッチングを用いて補間画素を含むパターンと類似パターンを画像中から探索し、最も類似するパターン内で補間画素に対応する画素の画素値を、補間画素の画素値として決定する装置が提案されている（特許文献１参照）。
【００１３】
この装置は、画像読取センサによって読み取られた画像データに基づいて、コンタクトイメージセンサの連結部分に対応する補間対象画素位置が網点領域内であるか非網点領域内であるかを判別し、その補間対象画素位置が非網点領域である場合には、線形補間により補間対象画素の画素データを生成し、補間対象画素位置に挿入する。一方、網点領域である場合には、パターンマッチングにより補間対象画素の画素データを生成し、補間対象画素位置に挿入する。
【００１４】
このとき、補間対象画素位置付近の画像領域内に、その補間対象画素を含む１つの基準ブロックと、その基準ブロックと同じ大きさでかつ補間対象画素を含まない複数の参照ブロックとを設定し、その基準ブロック内の画素データと各参照ブロック内の画素データとに基づいて、基準ブロックと各参照ブロックとの間の相関値をそれぞれ算出し、基準ブロックと最も相関が高い参照ブロック内の画素データのうち、基準ブロック内の補間対象画素と対応する画素の画素データを、補間対象画素の画素データとして決定している。
【発明の概要】
【発明が解決しようとする課題】
【００１５】
しかしながら、これまでに知られた補間方法では、画素値の推定精度が十分でない場合、置き換えられた画素とその周囲の画素との画素値の差が大きくなり、不連続な画像になってしまうという問題があった。また、密着イメージセンサ方式を採用するＣＩＳでは、組み付け誤差からセンサチップ間のギャップ幅が画素の幅の整数倍にならない場合があるが、このような場合であっても整数倍であると仮定し、各センサチップから得られた画素値を採用することが多いことから、あるセンサチップにより読み取られた画像領域と、別のセンサチップにより読み取られた画像領域との間に歪みが生じてしまうという問題もあった。
【００１６】
例えば、副走査方向へ延びるように平行線が描かれた原稿を読み取った場合において、平行線を構成する２つの直線間にセンサチップ間のギャップが存在すると、この２つの直線間の距離が他の直線間の距離とは異なってしまう。また、センサチップの組み付け誤差がある場合に、副走査方向に対し斜め方向へ延びるように１本の直線が描かれた原稿を読み取ると、読み取られたデジタル画像上で画像領域ごとに直線が上下左右に平行移動したように構成されてしまう。これらの例では、直線および平行線であるため、画質に深刻な影響を与えることは少ない。これは、１本のセンサにおけるセンサチップ間のギャップ数がそれほど多くなく、これによって生じる歪みも見つかりにくいからである。
【００１７】
これに対し、網点画像の場合は画質に深刻な影響を与えることとなる。網点画像では、網点が主走査方向である水平方向に対し、ある角度（スクリーン角）をもって直線状に、所定の周期（スクリーン線数）で配置されるが、スクリーン線数が１インチあたり４０線から２００線まであり、特に高線数の画像では網点の間隔が０．１ｍｍ程度と極めて密に配置されるため、センサチップの組み付け誤差が無視できないからである。
【００１８】
また、センサチップ間のギャップが網点にかかる場合は、組み付け誤差によって網点の形状が歪む上、ギャップによって欠落する画素の画素値を推定することが困難となり、その画素の左側の画像領域を基準にして補間すべき画素値を推定した場合と、右側の画像領域を基準にして画素値を推定した場合とで結果が異なってしまい、欠落した画素を補間するための画素値に正解がなくなってしまうからである。仮に、左右の画像領域から得られた画素値の平均を取るといった対策を講じたとしても、これでは、画像の歪みに起因する欠落した画素を跨いだ画素値の不連続さが目立ってしまう。
【００１９】
そこで、画素値が欠落した画素や不正な画素値を有する画素を補間するとともに、その画素とその周辺画素との不連続さを緩和し、補間した画素が目立たないようにすることができる装置や方法の提供が望まれていた。
【課題を解決するための手段】
【００２０】
本発明は、上記課題に鑑み、画像中の画素値が欠落した画素や不正な画素値を有する画素（補間画素）の画素値を推定してその画素値で補間するとともに、補間画素を含む指定された範囲内に存在する画素（近傍画素）の画素値を、その範囲の外側にある画素（周辺画素）から補間画素までの画素値が連続的に変化するような値を推定して変更する構成とされる。短い距離で画素値が急激に変動すると、その変化が知覚されやすいが、ある程度の長い距離をもって徐々に変動させると、その変化が知覚されにくくなることから、不連続さを緩和させることができる。
【００２１】
これを実現するための装置は、具体的には以下の各部を備える構成とすることができる。すなわち、補間画素を含む画像領域が周期的な画素値の変動を伴う周期領域であるかを判定する周期性判定部と、この判定結果に基づいて、第一補間方法を用いて画素値を生成する第一画素値生成部と、第一補間方法とは異なる第二補間方法を用いて画素値を生成する第二画素値生成部のいずれを用いるかを判断する制御部と、その判断により決定された画素値生成部によって生成された画素値を補間画素に挿入する画素値挿入部とを備える。
【００２２】
この装置は、画素値更新部をさらに備えていて、これら第一画素値生成部および第二画素値生成部が、補間画素の画素値に加えて、近傍画素の画素値も生成し、この画素値更新部が、生成された近傍画素の画素値へ、画像の近傍画素の画素値を更新する。
【００２３】
このような周期性判定部、制御部を備え、周期性の有無で補間方法を変えることにより、画素値が急激に変化する画像についても高い精度で補間処理を行うことができる。また、第一画素値生成部および第二画素値生成部が、補間画素の画素値のほか、その近傍にある近傍画素の画素値も生成し、画素値更新部が、近傍画素の画素値も変更することで、補間画素と周辺画素との不連続さを緩和し、補間画素が目立たないようにすることができる。
【００２４】
第一補間方法としては、例えば、パターンマッチング法を挙げることができ、第二補間方法としては、第一補間方法とは異なる方法である内挿法を挙げることができる。周期領域であるかは周期性判定部により判定することができるが、その周期性判定部により周期領域であると判定された場合に補間画素に近隣して１以上の参照領域を設定し、その１以上の参照領域の画像特徴に基づき、その補間画素が周期領域と非周期領域とのいずれに存在するかを判定する境界判定部をさらに備えることができる。これにより、補間画素が本当に周期領域にあるかどうかを判定することができる。
【００２５】
画素値更新部は、制御部による判断結果に応じて、生成した近傍画素の画素値へ更新するか、もしくは画像の近傍画素の画素値へ置き換えるか、または近傍画素の画素値を更新しないかを判断することができる。例えば、パターンマッチング法を用いる場合には、生成した近傍画素の画素値へ更新することができ、内挿法を用いる場合は、画像の近傍画素の画素値へ置き換えるか、または近傍画素の画素値を更新しないようにすることができる。これは、内挿法は、補間画素に隣り合う画素の画素値を用いてその補間画素の画素値を求めているため、その隣り合う画素の画素値を他の値に置き換えてしまうと、補間画素の画素値が内挿した値でなくなってしまい、望ましくないからである。
【００２６】
また、周期性判定部が、画像領域を構成する画素の画素値の周期を計算する周期計算部を備えることができ、画素値更新部が、この周期計算部が計算した周期を用いて、上記の近傍画素が含まれる領域を画定するための範囲を指定する更新範囲指定部を備えることができる。これにより、近傍画素の範囲を予め固定された範囲とするのではなく、周期から動的に指定することができる。
【００２７】
また、画素値更新部は、境界判定部が、補間画素が周期領域と非周期領域の境界に近隣した位置に存在すると判定した場合、近傍画素の画素値を更新しないか、または範囲を狭める。これは、近傍画素が非周期領域となる場合、その画素値を更新すると、今まで目立っていなかった画素が目立つようになり、その画素の補間が必要になるからである。また、非周期領域の部分の更新をなくし、更新範囲を狭めることで、更新処理を効率的に行うことができるからである。
【００２８】
第一補間方法としてパターンマッチング法を用いる場合、第一画素値生成部は、補間画素を含む基準パターンを用いて画像内に設定された探索領域から一定の基準を満たす１以上の類似パターンを探索し、その基準パターン内の補間画素の位置および近傍画素の位置を基に、１以上の類似パターンから１以上の対応する画素の画素値および対応する近傍画素の画素値を得、１以上の対応する画素の画素値を合成して、挿入すべき補間画素の画素値を算出し、また、対応する近傍画素の画素値を合成して、更新すべき近傍画素の画素値を算出することができる。
【００２９】
この画像処理装置は、補間精度を高めるために、第一補間方法および第二補間方法とは異なる第三補間方法を用いて補間画素の画素値および近傍画素の画素値を生成する第三画素値生成部をさらに備えることができる。この場合、制御部は、周期性判定部により得られた判定結果から、または境界判定部を採用する場合には周期性判定部および境界判定部により得られた判定結果から、第一画素値生成部と第二画素値生成部と第三画素値生成部のいずれを用いて補間画素の画素値および近傍画素の画素値を生成するかを判断する。
【００３０】
補間精度をさらに高めるには、生成された候補画素値が妥当であるかを検証することが望ましい。そこで、生成された補間画素の画素値が妥当であるかを検証する妥当性検証部をさらに備えることができる。この妥当性検証部は、第一画素値生成部が補間画素の画素値を生成する際に得られる関連情報に基づいて、補間画素の画素値の妥当性を判断し、妥当でないと判断した場合、制御部が、第一画素値生成部に代えて第二画素値生成部により補間画素の画素値および近傍画素の画素値を生成させることができる。関連情報としては、例えば、類似パターンを探索する際に算出される相違度または類似度を用い、その相違度が閾値未満であるか、またはその類似度が閾値以上であるかを判断することにより、妥当であるかを判断することができる。
【００３１】
この妥当性検証部と第三画素値生成部の両方を含む構成とすることもできる。この場合、妥当性検証部は、第一画素値生成部が補間画素の画素値を生成する際に得られる関連情報に基づいて、補間画素の画素値の妥当性を判断し、妥当でないと判断した場合、第二画素値生成部が補間画素の画素値を生成する際に得られる関連情報に基づいて、補間画素の画素値の妥当性を判断し、妥当であると判断した場合、制御部が、第一画素値生成部に代えて第二画素値生成部により補間画素の画素値および近傍画素の画素値を生成させ、妥当でないと判断した場合、制御部が、第三画素値生成部により補間画素の画素値および近傍画素の画素値を生成させることができる。
【００３２】
本発明では、上記の各部を備える画像処理装置を提供することができるが、そのほか、この画像処理装置により補間画素を補間する方法も提供することができる。この方法は、補間画素を含む画像領域が周期領域であるかを判定する周期性判定ステップと、周期性判定ステップにより得られた判定結果に基づき、第一画素値生成部と第二画素値生成部のいずれを用いて補間画素の画素値および近傍画素の画素値を生成するかを判断する判断ステップと、判断ステップで判断された第一画素値生成部または第二画素値生成部が生成した補間画素の画素値を、画像の補間画素へ挿入する挿入ステップと、その画素値生成部が生成した近傍画素の画素値へ、画像の近傍画素の画素値を更新する更新ステップとを含む。
【００３３】
本発明では、この画素補間方法を実現するためのコンピュータ可読なプログラムを提供することもでき、さらには、このプログラムをＣＤ−ＲＯＭやＳＤカード等の記録媒体に格納して提供することも可能である。
【図面の簡単な説明】
【００３４】
【図１】本発明の画像処理装置のハードウェア構成を例示した図。
【図２】画像処理装置の１つの実施形態を示した機能ブロック図。
【図３】補間画素を含む画像を例示した図。
【図４】判定領域と、判定領域における水平方向の画素の位置と画素値との関係を例示した図。
【図５】周期領域および非周期領域の例を示した図。
【図６】代表周期を示す画像とテンプレートとを例示した図。
【図７】補間画素を含むテンプレートを例示した図。
【図８】画素の位置と画素値との関係を例示した図。
【図９】図２に示す画像処理装置により実行される画素補間処理の流れを示したフローチャート図。
【図１０】図９に示すステップ９１０で行われる処理の流れを示したフローチャート図。
【図１１】部分領域の周期性判定に用いる判定領域を例示した図。
【図１２】図１０に示すステップ１０１０、１０２０、１０２５で行われる周期性の判定の詳細な処理を示したフローチャート図。
【図１３】図９に示すステップ９３０で行われる処理の流れを示したフローチャート図。
【図１４】画像処理装置の別の実施形態を示した機能ブロック図。
【図１５】図１４に示す画像処理装置により実行される画素補間処理の流れを示したフローチャート図。
【発明を実施するための形態】
【００３５】
本発明の画像処理装置は、原稿等の画像を読み取るスキャナ装置とケーブルで直接、またはネットワークを介して接続される。スキャナ装置は、これに限られるものではないが、ここではＣＩＳを採用したスキャナ装置とされる。このスキャナ装置により読み取られた画像には、センサ間のギャップにより欠落した画素値や不正な画素値を有する画素が含まれることから、この画像処理装置は、それらの画素（補間画素）に対し、正しい画素値を求め、その画素値を設定する補間処理を行う。
【００３６】
この画像処理装置は、補間処理を施すべき画像データの入力を受け付け、その画像データから生成される画像の中の補間画素を特定し、その画像からどの補間方法を採用するかを決定し、その補間方法により補間画素に挿入すべき画素値を求め、それに加えて、その補間画素の近傍に存在する近傍画素についても、そのさらに周辺に存在する周辺画素と補間画素との不連続さを緩和するような画素値を求め、近傍画素の画素値を更新する装置である。
【００３７】
ここで、画素値は、１画素を８ビットで表すグレースケール画像では、黒が０で、白が２５５の値をとり、１画素をＲＧＢの各色８ビットで表すカラー画像では、赤、緑、青の各色につき０〜２５５の値をとり、すべてが０のとき黒で、すべてが２５５のとき白を表すものである。
【００３８】
これらの処理を実現するために画像処理装置は、ＰＣ、ワークステーション、サーバ、ＭＦＰ等の、この処理を実行可能なプログラムが記録された記憶装置と、このプログラムを読み出し実行するプロセッサと、スキャナ装置やネットワークと接続するためのインタフェースとを含んで構成される。
【００３９】
具体的には、図１に示すように、例えば、プロセッサとしてマイクロプロセッサユニット(MPU）１１を備え、記憶装置として、ＢＩＯＳ(Basic Input Output System)やファームウェアを格納する不揮発性メモリであるＲＯＭ(Read Only Memory)１２と、ＭＰＵ１１によるプログラム処理を可能とする実行記憶空間を提供するＲＡＭ(Random Access Memory)１３とを備える構成とすることができる。
【００４０】
ＭＰＵ１１は、内部バスを介してインタフェースの１つである記憶制御用インタフェース１４に接続され、その記憶制御用インタフェース１４に接続される記憶装置の１つであるハードディスク１５へアクセスし、各種アプリケーションやデータの読み出し、実行し、書き込みを行う。この記憶制御用インタフェース１４としては、ＩＤＥ(Integrated Device Electronics)、ＡＴＡ(AT Attachment)、シリアルＡＴＡ、ＵｌｔｒａＡＴＡ等の規格により、ハードディスク１５の入出力を管理するインタフェースを使用することができる。ＭＰＵ１１は、内部バスを介してＵＳＢ(Universal Serial Bus)、ＩＥＥＥ１３９４等のシリアルまたはパラレル・インタフェース１６を制御し、キーボード、マウス、プリンタといった入出力装置１７と通信し、ユーザからの入力を受け付けることができる。
【００４１】
この画像処理装置１０は、ＭＰＵ１１からの指令に応答して、ビデオ信号を処理し、表示装置１８へと表示させるＶＲＡＭ(Video RAM)１９、グラフィックチップ２０と、ネットワークを介して他の機器と通信するために該ネットワークと接続されるネットワークＩ／Ｆ２１とを含んで構成することができる。ＶＲＡＭ１９は、表示装置１８に対するビデオ表示のための記憶装置として使用されるＲＡＭであり、グラフィックチップ２０は、画像データ処理を行う集積回路である。
【００４２】
また、この画像処理装置１０は、ＲＯＭ１２やハードディスク１５、その他の図示しないＮＶ−ＲＡＭやＳＤカード等の記憶装置に格納されたプログラムをＭＰＵ１１が読み出し、ＲＡＭ１３のメモリ領域に展開することにより、適切なＯＳ(Operating System)の下、後述する各処理を実現し、そのＭＰＵ１１を、各処理を実現するための各部として構成することができる。ＯＳとしては、Ｗｉｎｄｏｗｓ（登録商標）、ＵＮＩＸ（登録商標）、ＬＩＮＵＸ（登録商標）等を採用することができる。なお、この画像処理装置１０は、上述したＰＣ等に限られるものではなく、特定の用途向けに複数機能の回路を１つにまとめたＡＳＩＣ(Application Specific Integrated Circuit)として構成することも可能である。
【００４３】
図２は、本発明の画像処理装置の第１実施形態を示した機能ブロック図である。画像処理装置１０は、上述したように、ＲＯＭ１２やハードディスク１５等の記憶装置に記憶されているプログラムを、プロセッサであるＭＰＵ１１が読み出し実行することにより各機能を実現することができる。すなわち、画像処理装置１０は、周期性判定部３０と、境界判定部３１と、第一画素値生成部３２と、第二画素値生成部３３と、制御部３４と、画素値挿入部３５と、画素値更新部３６とを含む構成とされる。図２には図示していないが、補間画素を設定する画素設定部をさらに備えることができる。
【００４４】
図示しない画素設定部により、画素値を挿入し補間する対象の補間画素を、処理対象となる画像内で検出する。補間画素は、予めユーザが位置を検出しておくこともできるし、装置が逐次その位置を検出することも可能である。位置は、例えば、向かって左下隅の座標を基準座標（０，０）として主走査方向と同じ右方向への画素数ｘと、上方向への画素数ｙとを用い、座標（ｘ，ｙ）として表すことができる。
【００４５】
画像処理装置１０が補間画素を検出する場合の検出方法としては、例えば、予め指定された明るさや色の画素であるかどうかを、１画素ずつ画素値を調べて補間画素を検出する方法や、既知の画像を読み取った際の正解値からのずれ量の大きさを評価することにより補間画素を検出する方法や、水平または鉛直方向の周期性が不連続となる位置を検出し、その位置にある画素を補間画素として検出する方法を挙げることができる。この補間画素は、孤立した点であってもよいし、点が連続した線分であってもよい。この線分であってもよいとしているのは、ギャップは、撮像素子が移動する方向である副走査方向へ連続して形成され、点が連続した線分として構成されることもあるからである。
【００４６】
補間画素を含む画像としては、図３に示す黒色のほぼ同じ大きさの点がほぼ規則正しく配列する網点画像の中に、縦すじが発生したものが挙げられる。この縦すじは、その画像の中央部を横断するように、点が欠落している部分と点が周囲より大きくなっている部分とから構成されている。このような画像の場合、点は一定の間隔で配列していることから周期性を有し、その縦すじの部分において周期性が不連続となる。このため、水平方向の周期性が不連続となる位置を検出することで、補間画素を検出することができる。
【００４７】
周期性判定部３０は、補間画素を含むように所定の大きさの判定領域を定め、その判定領域内で画素値の変動に周期性があるか否かを判定する。判定領域は、補間画素を含む高さ１画素の領域、すなわち画像の１ラインとすることもできるし、補間画素を含む任意の高さをもった矩形領域とすることもできる。
【００４８】
判定領域のサイズは、予めユーザによって設定することもできるし、装置が動的に決定することも可能である。装置が動的に決定する場合、予め指定された領域サイズで一度補間処理を行い、それより小さいサイズでも十分に補間処理を行うことができるようであれば、一定サイズで小さくしていくことができ、反対に補間処理を行うことができない場合には、一定サイズで大きくしていくことができる。
【００４９】
画像の１ラインを抜き出し、判定領域としたものを図４に例示する。図４（ａ）では、黒色で示される網点を表す画素と、白色で示される背景を表す画素とが一定間隔で配置されていて、その間にグラデーションを与えるように画素値が異なるグレーの画素が配置されている。また、この図４（ａ）には、上記のギャップによって欠落した画素４０が示されている。
【００５０】
この判定領域における水平方向の画素の位置と、画素値との関係を例示した図を、図４（ｂ）に示す。画素値はその画素において一定であることから、とびとびの値を示すが、これを滑らかにつなぐと、一定の周期で画素値が増減する波形で表すことができる。このため、この判定領域では画素値の変動に周期性があることを検出することができる。
【００５１】
このような周期性がある判定領域を例示すると、図５（ａ）に示す網点や斜線で表される網点領域を挙げることができる。一方、周期性のない判定領域を例示すると、図５（ｂ）に示す文字や規則的に配列していない点から構成される不連続領域、図５（ｃ）に示す１色やグラデーションで表される背景等の平坦領域を挙げることができる。
【００５２】
なお、網点で表される網点画像は、実際には点が任意のスクリーン角をもって直線状に配置されることから、点が水平方向に一定の間隔で配列したものとはなっておらず、斜めに一定の間隔で配列したものとなっている。このため、図４（ｂ）に示すような同じ振幅の波形にはならないものの、振幅が異なる一定間隔でピークを有する波形になることから、周期性があることを判定することができる。
【００５３】
図３や図４のように図に示すことで、周期性の有無を容易に判断することができるが、実際には図を作成し、それを参照して判断することはできないことから、例えば、プレーン画像の補間画素を含む所定のサイズの領域である判定領域を設定し、その判定領域内において変動周期を計算し、計算された変動周期を用いて判定領域の周期性の有無を判定することにより、周期性を判定することができる。このため、周期性判定部３０は、変動周期を計算するための図示しない周期計算部を備えることができる。
【００５４】
周期性を判定するために変動周期を求める必要があるが、判定領域内の画素値の変動周期が常に一定とは限らない。そこで、周期性を判定するために用いる変動周期として代表周期を採用する。この代表周期を求める一例として、判定領域内において画素値が極大となる位置（ピーク位置）、具体的には図４（ｂ）に示す波形の正方向のピークを示す画素の位置を記録していき、あるピーク位置から次のピーク位置までの距離のヒストグラムを判定領域全体にわたって作成した上で、度数の最も多い階級に対する値である最頻値となる距離を代表周期として採用することができる。この代表周期は、画素数で表すことができ、図４に示す実施形態では、ほぼ６画素ごとにピークとなり、ピーク間距離が６画素となることが最も多いことから、代表周期は６画素とされる。なお、代表周期にある程度の誤差を許容する観点から、代表周期±１の距離を用いることも可能である。
【００５５】
このとき、極大となる位置ではなく、極小となる位置（図４（ｂ）に示す波形の負方向のピークを示す画素の位置）を用いて求めることも可能である。代表周期を求める際に画素値の変動の周期性を利用するとノイズ耐性が低いため、画素値の自己相関を求め、その変動の周期性を利用すればノイズ耐性が上昇する。このため、これらの極大となる位置および極小となる位置を用いて求める場合、自己相関を用いることが望ましい。ここで、ノイズ耐性が上昇する理由は、ノイズが多くの場合に画素値に乗るため、画素値を直接利用する場合よりも、複数の画素値を用いて導出された自己相関という形で利用した場合のほうが、ノイズによる影響を低く抑えることができるからである。
【００５６】
自己相関とは、ある信号とその信号に所定の位相ずれを与えた信号との相関のことである。この場合、判定領域内において自己相関を求めていき、画素値に代えて自己相関の値を用いてヒストグラムを作成し、最頻値を代表周期として採用することができる。この自己相関の値としては、相関係数を用いることもできるし、共分散を用い、より計算を簡便にすることも可能である。
【００５７】
ここで、共分散Ｓは、２つの画素値の共変動の大きさを示す指標で、比較するパターンの一方のｉ番目の画素値をｘｉとし、他方のパターンのｉ番目の画素値をｙｉとし、一方のパターンの画素値の平均値をｘｍとし、他方のパターンの画素値の平均値をｙｍとし、パターンの画素数をｎとすると、下記式１により求めることができる。
【００５８】
【数１】
0005699633.tif 000002
【００５９】
相関係数Ｒは、２つの確率変数の間の類似性の度合いを示す指標で、一方のパターンの標準偏差をσｘとし、他方のパターンの標準偏差をσｙとすると、下記式２により求めることができる。
【数２】
0005699633.tif 000003
【００６０】
信頼度Ｃｖは、例えば、以下の式３を用いて求めることができる。式３中、Ｔは、上記で求めた代表周期で、Ｆｒは、上記ヒストグラムにおける代表周期Ｔに対応する距離の度数で、Ｎは、判定領域の画素数である。なお、Ｆｒは、代表周期Ｔの度数だけでなく、代表周期を推定する際の誤差を許容するためにＴ±１の度数の合計を用いてもよい。この式３は、代表周期と同じピーク位置間の距離を有するものが、判定領域全体のどの程度の割合を占めているかを信頼度として定義することを意味している。
【００６１】
【数３】
0005699633.tif 000004
【００６２】
この信頼度が閾値よりも高い場合に周期性があると判断し、閾値以下である場合には周期性なしと判断するが、この閾値は、予めユーザによって設定することができ、また、動的に決定することも可能である。予めユーザによって設定する場合、シミュレーションや実験を行い、周期性の有無を判断するのに好適な信頼度を求めることにより閾値を決定し、その閾値を設定することができる。動的に決定する場合は、例えば、実際に周期性を有する網点領域と周期性を有しない不連続領域または平坦領域について信頼度を求め、その中間値を閾値として決定することができる。
【００６３】
境界判定部３１は、周期性判定部３０により補間画素を含む領域が周期性のある領域（周期領域）であると判定された場合に、その補間画素が本当に周期領域に属しているか否かを判定する。周期性判定部３０により周期領域であるか否かの判定を行うことができるので、この境界判定部３１はなくてもよいが、ここでは境界判定部３１を用いる場合について説明する。補間画素は、周期領域内またはその周期領域以外の非周期領域内のいずれかに存在し、補間画素の画素値は、同じ領域内のその補間画素の近傍に存在する画素の画素値から推定することが可能である。これは、補間画素を中心とした数個の連続する画素から構成されるパターンが、その近傍に存在するパターンに類似することから、その近傍に存在するパターンから推定可能だからである。
【００６４】
しかしながら、補間画素が周期領域と非周期領域との境界付近に存在する場合、補間画素は周期領域内に存在するのに、その近傍に存在するパターンは非周期領域のものを採用すると、正しく補間することができなくなる。このため、正しい周期領域内のパターンを採用して推定することができるように、境界判定部３１が本当にどちらの領域に属するかを判定する。
【００６５】
その一例として、補間画素を中心として、この補間画素から所定の距離だけ左右に離れた位置に参照領域を設定し、補間画素の左右に設定した参照領域において画像特徴の１つである画素値の分散を個別に求め、左右両方とも分散が閾値以上であれば周期領域に、閾値未満である場合には非周期領域に存在すると判定することができる。
【００６６】
上記所定の距離は、例えば３画素とすることができる。これは、網点が６画素ごとに配置される場合、後述するパターンマッチングに、補間画素を中心としてこの補間画素の左右３画素分をテンプレートとして用いることから、このテンプレートの外側で最も近い位置である、補間画素の左右３画素分離れた位置に参照領域を設定するものである。最も近い位置としているのは、テンプレートにパターンが近似しているものは、テンプレートの近傍に存在していることが多いためである。なお、この距離は３画素に限られるものではなく、適切に判断することができるのであれば、いかなる距離であってもよい。
【００６７】
参照領域は、例えば、補間画素を含む高さ１画素の領域、すなわち画像の１ラインとすることができる。また、参照領域は、上記の判定領域と同様、補間画素を含む任意の高さを有する矩形領域とすることもできる。この領域も、予めユーザによって設定することもできるし、上記判定領域の場合と同様にして、装置が動的に決定することも可能である。この参照領域は、補間画素の左右に限られるものではなく、上下や上下左右等に設定することができ、１以上の領域を設定することができる。
【００６８】
分散は、下記式４により求めることができる。式４中、ｘｉは、参照領域内のｉ番目にある画素の画素値で、ｘｍは、参照領域内にある画素の画素値の平均値であり、ｎは、参照領域内にある画素の画素数である。なお、この分散は、参照領域内の画素の最大輝度値と最小輝度値との差や、カラー画像の場合には最大の緑成分の値（Ｇ成分値）と最小のＧ成分値との差等で代替することも可能である。
【００６９】
【数４】
0005699633.tif 000005
【００７０】
第一画素値生成部３２は、補間方法として、パターンマッチング法を用いて、補間画像の画素値を生成する。パターンマッチング法の具体例として、テンプレートマッチングを用いることができる。テンプレートマッチングは、画像の中から指定した部分、大きさの画像領域である基準パターンとしてのテンプレートを用い、そのテンプレートと似ている位置を探すもので、テンプレートと画像の中のパターン間の一致度を求めることにより行うことができる。
【００７１】
この機能を実現するために第一画素値生成部３２は、最初に、テンプレートのサイズを決定する。テンプレートの幅は、上記のようにして求めた代表周期を基準として設定する。このテンプレートの幅は、代表周期の幅と一致させることができるが、これに限られるものではなく、代表周期の幅の画素数より左右に１画素ずつ大きめにしたり、左右に１画素ずつ小さめとする等、やや大きめまたはやや小さめにすることができる。次に、テンプレートの高さを設定するが、幅と同様に、代表周期の高さと一致させることができる。この高さも、これに限られるものではなく、やや大きめあるいは小さめとすることができる。上記では１画素ずつ大きめあるいは小さめと例示したが、２画素以上であってもよい。
【００７２】
補間画素が網点領域に属する場合には、一辺が概ね代表周期である正方形の領域として設定することが望ましい。これは、代表周期を示す画像を、例えば幅６画素で、高さ１画素の図６（ａ）に示すようなものとすると、幅６画素、高さ６画素の正方形の領域とすることで、図６（ｂ）に示すように網点１つ分を表現することができるからである。このように網点１つ分の領域としてテンプレートのサイズを決定することで、類似パターンを探索する際に、網点１つ分のみの情報を用い、補間画素を含む網点に最適な類似パターンを取得することができる。
【００７３】
また、代表周期が非常に小さい場合、例えば３画素のような場合には、テンプレートのサイズを少し大きめ、例えば、その３画素の左右に１画素ずつ追加した５画素にすることができる。これは、代表周期が非常に小さい場合、一致度の評価に用いる画素数が少なくなってしまい、類似パターンの検出の安定性が低下してしまうからである。
【００７４】
第一画素値生成部３２は、上記のようにして決定したテンプレートのサイズに基づき、補間画素を含む領域を画像の中から切り出し、これをテンプレートに設定する。このとき、テンプレートは、補間画素を中心としてその左右、上下が対称となる形状として切り出し、設定することが好ましい。このように切り出し、設定することで、補間画素を含むパターンの方向性に依存することなく、類似パターンの探索を行うことができる。
【００７５】
第一画素生成部３２は、次に、そのテンプレートを用いて当該テンプレートに類似する類似パターンを探索するにあたって、所定の探索領域を設定する。この探索領域は、代表周期に基づき設定することができる。探索領域は、例えば、代表周期が上記の幅６画素、高さ１画素とされるとき、その代表周期を中心として左右に６画素ずつ追加した幅１８画素で、幅と同じ高さ１８画素の正方形の領域とすることができる。このように、幅と高さを同じ画素数とすることで、探索範囲のパターンの方向性に依存せずに探索を行うことができる。上記の幅１８画素、高さ１８画素の領域は、あくまで１つの例であるので、これに限られるものではなく、これより広い、幅３０画素、高さ３０画素という領域等を探索領域とすることができる。
【００７６】
探索領域は、上記の正方形の領域に限られるものではないが、画像をバッファするメモリの制約等からその範囲の高さを低く抑える必要がある場合は、その分、幅を広くとることが望ましい。高さを低く抑えると、類似パターンを探索する対象が少なくなり、画素補間の精度が低下するからである。また、周期性判定部３０により補間画素に向かって左側に設定された領域が周期性なしと判断された場合、補間画素に向かって左側に設定された領域を探索領域から除外することが望ましい。右側についても同様である。このように探索領域を狭めることにより、類似パターンが検出されるべきでない領域からの誤検出を防止することができる。
【００７７】
第一画素値生成部３２は、探索領域を上記のようにして設定した後、生成したテンプレートを用い、その探索領域内にある類似パターンを探索する。具体的には、探索領域内の各位置においてテンプレートとの一致度を求め、最も一致度が高い位置を類似パターンとして選択する。一致度として、ＳＡＤ(Sum of Absolute Difference)やＳＳＤ(Sum of Squared Difference)等の相違度、相関係数や共分散等の類似度を用いることができる。
【００７８】
ＳＡＤは、テンプレートと比較するパターンを切り出し、テンプレートとパターンの同じ位置にある画素の輝度値の差をそれぞれ求め、その差の絶対値を合計したものであり、この合計値が小さいほど類似し、大きいほど相違することを示すものである。また、ＳＳＤは、その輝度値の差を二乗し、その合計を用いるもので、これも、この合計値が小さいほど類似し、大きいほど相違することを示すものである。相関係数および共分散については上記式１、２により求めることができる。
【００７９】
相関係数は、−１から１までの値をとり、その値が１に近づくほど強い正の相関があり、０に近いほど相関が弱く、−１に近づくほど負の相関がある。これは、１に近づくほど類似するパターンであることを意味し、−１に近づくほど反転したパターンに類似したものとなる。このことから、値が大きいほど類似度が高いと判断することができる。共分散は、相関係数に対応することから、その値が大きいほど類似度が高いと判断することができる。
【００８０】
一致度の評価に際して、補間画素の画素値が一致度に影響を与えないように補間画素を一致度の計算から除外するか、比較対象のパターンにおいて同じ位置にある画素の画素値を用いて仮の画素値を設定しておくことが望ましい。なお、類似するパターンは一致度が高い順に複数選択することも可能である。
【００８１】
また、補間画素が画像全体で複数存在する場合、一致度の計算において、今挿入しようとしている補間画素だけでなく、他の補間画素も計算から除外するか、比較対象のパターンの同じ位置にある画素の画素値を用いて仮の画素値を設定しておくことが望ましい。これは、テンプレートとして用いられる基準パターンや比較対象のパターンに今挿入しようとしている補間画素だけではなく、他の補間画素が含まれている場合があり、補間画素は基本的に画素値が欠落しているか、不正な値を保持しているため、一致度の計算に使用されることは好ましくないからである。なお、既に挿入済みの補間画素の画素値は一致度の計算に使用することができる。また、比較対象パターンに他の補間画素が存在する場合、その補間画素が一致度の計算に用いられないように計算から除外するか、基準パターンの同じ位置にある画素の画素値を用いて仮の画素値を設定しておくことが望ましい。
【００８２】
例えば、補間画素を含むテンプレートが、図７に示すように、画素ａｉ−２，ｊ−２から画素ａｉ＋２，ｊ＋２までの５行、５列からなり、補間すべき画素がｉ列の画素すべてで、今補間しようとしている画素をａｉ，ｊとし、補間画素の処理を順に行い、同じｉ列のａｉ，ｊ−２およびａｉ，ｊ−１には既に画素値が挿入されているものとする。この条件において一致度を計算する場合、１つの方法として、補間画素ａｉ，ｊ−２、ａｉ，ｊ−１、ａｉ，ｊ、ａｉ，ｊ＋１、ａｉ，ｊ＋２を除外して計算を行う方法が挙げられる。第２の方法としては、補間画素ａｉ，ｊ−２、ａｉ，ｊ−１、ａｉ，ｊ、ａｉ，ｊ＋１、ａｉ，ｊ＋２に、比較対象パターンの対応する位置にある画素の画素値を用いて仮の画素値を設定し、計算を行う方法が挙げられる。
【００８３】
第３の方法としては、補間画素ａｉ，ｊ−２、ａｉ，ｊ−１には既に画素値が挿入されているので、その値を用い、それ以外の補間画素ａｉ，ｊ、ａｉ，ｊ＋１、ａｉ，ｊ＋２は除外して計算を行う方法が挙げられる。第４の方法としては、補間画素ａｉ，ｊ−２、ａｉ，ｊ−１には既に画素値が挿入されているので、その値を用い、それ以外の補間画素ａｉ，ｊ、ａｉ，ｊ＋１、ａｉ，ｊ＋２は、比較対象パターンの対応する位置にある画素の画素値を用いて仮の画素値を設定し、計算を行う方法が挙げられる。
【００８４】
このようにして探索した最も類似するパターンにおいて、テンプレートにおける補間画素の位置に対応する位置にある画素の画素値を取得する。最も類似するパターンのみを用いる場合には、このようにして取得した画素値を補間画素の画素値とすることができる。また、一致度が高い順に選択した複数のパターンを用いる場合には、それら複数のパターンから取得した画素値を合成し、補間画素の画素値を求めることができる。画素値を合成する方法としては、一様な重みにより平均する方法、類似パターンの一致度が高いほど大きな重みとなるように制御した上で加重平均を行う方法を挙げることができる。
【００８５】
ここで、テンプレートマッチングには、二次元テンプレートマッチング、一次元テンプレートマッチングがある。二次元テンプレートマッチングでは、画像内の補間画素近辺、すなわち補間画素の左右や上下、斜め方向にある任意の領域をパターンとして切り出し、そのパターンとテンプレートとの一致度を求めることにより、最も類似するパターンを探索する。この実施形態において、第一画素値生成部３２が採用するテンプレートマッチングは二次元テンプレートマッチングである。これに対し、一次元テンプレートマッチングでは、補間画素が存在する１ライン内からパターンを切り出し、一致度を求め、最も類似するパターンを探索する。この二次元テンプレートマッチングと一次元テンプレートマッチングは、異なる補間方法であるため、後述する第二画素値生成部３３や、第三画素値生成部等において採用することができる。
【００８６】
第一画素値生成部３２は、テンプレートにおける補間画素の位置に対応する位置の画素の画素値を、探索して得られた最も類似するパターンから取得するが、そのとき、そのパターン内の補間画素の位置に対応する位置の画素以外の画素を近傍画素とし、その近傍画素の画素値も取得する。図７に示すようなテンプレートを用いる場合、補間画素がａｉ，ｊ−２、ａｉ，ｊ−１、ａｉ，ｊ、ａｉ，ｊ＋１、ａｉ，ｊ＋２であるため、近傍画素は、各補間画素の左右に存在する４画素、計１６画素とされる。これは一例であるので、これに限られるものではない。
【００８７】
第二画素値生成部３３は、第一画素値生成部３２とは異なる補間方法を用いて、補間画素の画素値を生成する。異なる補間方法として、内挿法を用いることができる。この内挿法には、最近傍補間（０次補間）、線形補間（一次補間）、放物線補間（二次補間）、キュービック補間（三次補間）、多項式補間、スプライン補間、ラグランジュ補間等があり、線形補間やキュービック補間を二次元に拡張したバイリニア補間やバイキュービック補間等を用いることも可能である。
【００８８】
１ライン上に順に配列する画素Ａ〜Ｆがあり、画素Ｃの画素値が欠落している場合、これを、画素の位置と画素値との関係を示すグラフに表すと、図８（ａ）に示すようなものとなる。画素Ｃの実際の画素値は、白丸で示す値である。この場合、画素の位置が１つ移動するにつれて画素値が一定の値ほど増加しているので、画素の位置と画素値との関係を一次関数で表すことができ、得られた一次関数を用いて補間すべき画素Ｃの画素値を求めることができる（線形補間）。
【００８９】
また、図８（ｂ）に示すような曲線で表される場合は、その曲線に最も適合する補間方法を選択することにより行うことができる。二次関数により表すことができる場合は、放物線補間を、三次関数により表すことができる場合は、キュービック補間を、多項式により表すことができる場合は、多項式補間あるいはラグランジュ補間を、個別の多項式を用いて表現できる場合は、スプライン補間を選択することができる。
【００９０】
補間画素の画素値の生成に内挿法を用いる場合には、近傍画素の画素値を更新しないことが望ましい。これは、近傍画素の画素値を変更してしまうと、補間画素の画素値が内挿した値でなくなってしまうからである。このため、画素値更新部３６へは、近傍画素の画素値として現在設定されている値を送るか、近傍画素の画素値を変更しないように制御する必要がある。
【００９１】
ここでは、第一画素値生成部３２がパターンマッチング法を採用し、第二画素値生成部３３が内挿法を採用する構成としているが、本発明では、第一画素値生成部３２が内挿法を採用し、第二画素値生成部３３がパターンマッチング法を採用する構成としてもよい。また、本発明では、同じパターンマッチング法ではあるが、二次元テンプレートマッチングと一次元テンプレートマッチングや、同じ内挿法ではあるが、線形補間とスプライン補間といった異なる補間法を採用することも可能である。
【００９２】
制御部３４は、画像データを受け付けるとそれを周期性判定部３０および境界判定部３１へ送り、周期性判定部３０および境界判定部３１が判定した結果を受け取り、それに基づき、第一画素値生成部３２と第二画素値生成部３３のいずれを用いて画素値を生成するかを判断する。具体的には、制御部３４は、周期性判定部３０において周期性があると判定され、境界判定部３１において補間画素が周期領域に存在すると判定された場合に、パターンマッチング法を用いる第一画素値生成部３２を採用し、そうでない場合に内挿法を用いる第二画素値生成部３３を採用して画素値を生成すると判断することができる。そして、決定した第一画素値生成部３２または第二画素値生成部３３へ画像のデータを送り、そのいずれかが生成した画素値を受け付け、その画素値を画素値挿入部３５へ送る。
【００９３】
画素値挿入部３５は、制御部３４から送られてきた画素値を、先に画素設定部が設定した補間画素に挿入する。画素値挿入部３５は、補間画素にその画素値を設定し、また、既に設定されている場合にはその画素値へ置き換えることにより補間画素へ画素値を挿入する。これにより、補間画素１つ分の補間処理が完了する。
【００９４】
画素値更新部３６は、第一画素値生成部３２が生成した近傍画素の画素値を用いて、画像内の対応する近傍画素の画素値（元の画素値）を更新する。画素値を更新する方法としては、生成された近傍画素の画素値で元の画素値を単に置き換える方法のほか、生成された近傍画素の画素値と元の画素値とを加重平均し、導出された画素値で置き換える方法を挙げることができる。加重平均をとる場合、補間画素の距離に応じて重みを変えることができ、例えば、補間画素から距離が遠くなるほど元の画素値の比重が大きくなるように重みを変化させる方法を採用することができる。
【００９５】
画素値を更新する範囲としては、補間画素を中心として左右対称に数画素程度の範囲とすることができる。例えば、上記のようにテンプレートと同じサイズの補間画素を含む範囲等とすることができる。この範囲は、予め固定された値とすることもできるし、周期性判定部３０により推定された周期、すなわちテンプレートサイズを決定したのと同様に代表周期を用いて決定することも可能である。なお、境界判定部３１において補間画素が周期領域と非周期領域の境界付近に存在すると判定された場合には、近傍画素の画素値を更新しないか、更新する範囲を狭めることが望ましい。非周期領域では一定の画素値が連続している場合があり、その画素値を変更してしまうと、反対にその画素が目立ってしまうことになるからである。
【００９６】
画素設定部が補間画素を複数検出した場合は、上記の各部における処理を補間画素の数だけ繰り返し、補間画素への画素値の挿入および近傍画素の画素値の更新が行われる。
【００９７】
これらの各部が各処理を行い、補間画素の画素値を生成し、その画素値により補間画素を補間する処理について、図９に示すフローチャートを参照して説明する。ステップ９００からこの処理を開始し、まず、ステップ９０５において、画素設定部が、画素値を挿入する対象の補間画素を検出し、補間処理すべき補間画素を設定する。この検出は、上述した方法を用いて行うことができる。補間画素が複数存在する場合は、例えばその画素が配置されている座標位置に基づいて順に並べ、順に１つを選択し、その１つを設定することができる。
【００９８】
ステップ９１０において、周期性判定部３０が、補間画素を含む領域を指定し、その領域内で、画素値の変動に周期性を有するか否かを判定する。上述した領域サイズの決定方法、周期性の判定方法を用いて、判定領域を指定し、周期性の有無を判定する。続いて、ステップ９１５において、補間画素が周期領域と非周期領域のどちらに存在するかを判定する。この判定には、上記の境界の判定方法、参照領域のサイズ決定方法を採用し、左右の参照領域で個別に分散を求め、求めた分散がいずれの参照領域についても閾値以上であるかを判断することにより行う。閾値以上であれば、補間画素は周期領域に存在すると判定される。
【００９９】
ステップ９２０で、補間画素に用いる補間方法を決定する。これは、制御部３４が、ステップ９１０およびステップ９１５において判定された結果に基づき、第一画素値生成部３２と第二画素値生成部３３のいずれを採用し、補間画素の画素値を生成するかを判断する。上述したように、周期性判定部３０が周期性ありと判定した場合は、パターンマッチング法と決定し、周期性なしと判定した場合は、内挿法と決定する。
【０１００】
ステップ９２５で、第一画素値生成部３２が採用されたか否かが判断される。ステップ９２０で決定された補間方法が、パターンマッチング法であれば、その方法を用いて補間処理を行う第一画素値生成部３２が採用されたと判断され、それ以外であれば、第一画素値生成部３２は採用されないと判断される。
【０１０１】
ステップ９２５で第一画素値生成部３２が採用されたと判断された場合、ステップ９３０へ進み、第一画素値生成部３２が用いるパターンマッチング法により類似パターンを探索し、その探索した類似パターンに基づき補間画素へ挿入すべき画素値を生成する。一方、ステップ９２５で第一画素値生成部３２が採用されないと判断された場合、ステップ９３５へ進み、第二画素値生成部３３が用いる内挿法により補間画素の画素値を生成する。これらのステップ９３０および９３５では、補間画素の画素値のほか、近傍画素の画素値も生成する。
【０１０２】
ステップ９４０で、画素値挿入部３５が、補間画素の位置に、ステップ９３０またはステップ９３５で生成された補間画素の画素値を挿入する。これにより、補間画素１つ分の補間処理を完了する。ステップ９４５で、画素値更新部３６が、ステップ９３０またはステップ９３５で生成された近傍画素の画素値を用いて画像の近傍画素の画素値を更新する。
【０１０３】
ステップ９５０で、すべての補間画素の補間を終えたかを判定する。すべての補間画素の補間を終えていない場合は、ステップ９０５へ戻り、次の補間画素を設定し、その補間画素を含む領域の周期性を判定する。終えている場合は、ステップ９５５へ進み、この処理を終了する。
【０１０４】
ここで、ステップ９１０では、補間画素を含む領域の周期性を判定するために、図１０に示すような処理を実行することができる。まず、ステップ１０００で、周期性の判定を行うステップを開始すると、ステップ１００５で、判定領域内の各画素の画素値を用い、代表周期を計算する。すなわち、信頼度を計算し、テンプレートのサイズや探索領域を決定する上で必要となる代表周期を算出する。そして、ステップ１０１０で、その代表周期を用い、判定領域全体の周期性を判定する。
【０１０５】
それに続いて、ステップ１０１５で、判定領域を、補間画素を中心として左右の領域に分け、左側の領域と右側の領域とを設定する。ここでは、周期性判定部３０が、さらに部分領域周期性判定部を備えており、この部分領域周期性判定部が左右の領域に分け、それらを部分領域として設定し、各部分領域に周期性があるか否かを判定する。
【０１０６】
したがって、ステップ１０２０において、補間画素に向かって左側の領域に対し、その領域における代表周期を求め、それを用いて周期性を判定し、ステップ１０２５で、補間画素に向かって右側の領域に対し、その領域における代表周期を求め、それを用いて周期性を判定する。これらの判定が終了したところで、ステップ１０３０において周期性の判定を終了する。
【０１０７】
これらのステップ１０１５〜１０２５では、図１１（ａ）に示すように、補間画素５０が中心にくるようにして判定領域５１を設定すると、図１１（ｂ）に示すように、補間画素５０の左右で判定領域を分割し、補間画素５０の左側の領域を、左側の周期性を判定する部分領域５２として、また、補間画素５０の右側の領域を、右側の周期性を判定する部分領域５３として設定し、各部分領域５２、５３につき周期性を判定することができる。
【０１０８】
周期性の有無を適切に判定することができれば、図１１（ｂ）に示すような補間画素５０の高さ方向である真上および真下の領域を除く、補間画素５０の左右に隣接する判定領域５１といった大きい部分領域５２、５３とする必要はなく、これよりも小さい、図１１（ｃ）に示すような範囲の部分領域５４、５５とすることも可能である。また、部分領域は、判定領域５１内でなければならないということはなく、一部が判定領域５１外にはみ出すように設定することも可能である。
【０１０９】
図１１では、判定領域５１を、３画素以上の所定の幅および高さとして二次元の領域として設定しているが、補間画素５０と同じ高さ、すなわち高さ１画素で、所定の画素数からなる幅の一次元の領域を判定領域５１とすることも可能である。
【０１１０】
このように、補間画素の左右の領域の周期性、補間画素を含む判定領域全体の周期性を判定することで、その補間画素を含む領域の周期性を判定することができる。すなわち、左右、全体の領域に周期性があれば、補間画素を含む領域に周期性があると言え、補間画素を含む領域は周期性がある領域と判定することができる。
【０１１１】
ステップ１０１０、ステップ１０２０および１０２５において行われる判定では、各周期性の有無を判定するために、図１２に示すような処理を実行する。まず、ステップ１２００で、各ステップ（ステップ１０１０、ステップ１０２０、ステップ１０２５）の実行を開始すると、その処理を開始し、ステップ１２０５で、上記のようにして判定領域内において画素値が極大となるピーク間の距離の最頻値を求め、その最頻値を画素値の代表周期として算出する。なお、判定領域全体の代表周期は、ステップ１０１０において算出していることから、ここでは省略し、それを採用することができる。
【０１１２】
次に、ステップ１２１０で、先のステップで求めた代表周期を用いて信頼度を計算する。信頼度は、上述した相違度や類似度を計算することにより求めることができる。ステップ１２１５で、その求めた信頼度が閾値を超えるかどうかを判断することにより周期性の有無を判定し、ステップ１２２０においてこの処理を終了する。信頼度が閾値を超える場合は周期性ありと判定し、閾値以下である場合は周期性なしと判定する。
【０１１３】
図１０に示す処理の流れでは、代表周期を推定した後、判定領域全体の周期性を判定し、続いて左側の部分領域の周期性を判定し、それに続いて右側の部分領域の周期性を判定することにより、補間画素を含む領域の周期性を判定しているが、本発明ではこれに限られるものではなく、まず、左右の部分領域の周期性を判定した後に、判定領域全体の周期性を判定することも可能である。また、左右の周期性を判定し、その判定において周期性があれば、それを代表周期として採用するとともに全体が周期性ありと判定し、左右のいずれも周期性がないと判定されれば、全体も周期性なしと判定することも可能である。
【０１１４】
したがって、左右の部分領域の少なくとも一方に周期性があると判断されれば、周期性ありと判定し、両方になければ、周期性なしと判定することができる。これは、少なくとも一方に周期性が認められれば、その補間画素を含む領域は、周期性を有する可能性が高く、周期性を有する際に使用する補間方法を採用して補間処理を行うほうが、高い精度で補間することができるからである。
【０１１５】
図９に示すステップ９３０で第一画素値生成部３２がテンプレートマッチングにより補間画素の画素値を生成する際、この第一画素値生成部３２は、図１３に示す処理を実行する。まず、ステップ１３００でこの処理を開始し、ステップ１３０５でテンプレートのサイズを決定する。このサイズの決定は、上記のように代表周期を基準として行うことができる。
【０１１６】
次に、ステップ１３１０において、決定したテンプレートサイズに基づき、補間画素を含むそのサイズの領域を切り出し、これを基準パターンとして生成する。ステップ１３１５で、代表周期に基づき、類似パターンを探索する探索領域を決定し、設定する。この探索領域は、上記のようにして決定し、その領域を設定することができる。そして、ステップ１３２０で、生成した基準パターンをテンプレートとして用い、設定した探索領域内を、類似パターンを求めて探索する。類似パターンの探索は、テンプレートとの一致度を求め、最も一致度が高いパターンを選択することにより行うことができる。
【０１１７】
ステップ１３２５において、探索した類似パターンと、その類似パターンを探索するために使用したテンプレートとを比較し、テンプレート内の補間画素の位置に対応する位置にある類似パターン内の画素の画素値を、補間画素へ挿入すべき候補の画素値として取得する。また、その類似パターンを指定された範囲とし、その範囲内のその画素の近傍に存在する画素の画素値を、近傍画素の画素値の候補として取得する。この取得により、ステップ１３３０へ進み、この処理を終了する。
【０１１８】
これらの候補の画素値は、最も類似するパターンから取得したものの場合は、そのまま補間画素の画素値や近傍画素の画素値として用いることができ、そのパターンだけでなく、その他の類似パターンからも取得する場合には、上記のように合成して補間画素へ挿入すべき画素値および更新すべき近傍画素の画素値を生成することができる。
【０１１９】
次に、本発明の画像処理装置の第２実施形態について説明する。画像処理装置の構成を、図１４に示す。図２に示す第１実施形態と同様に、周期性判定部６０、境界判定部６１、第一画素値生成部６２、第二画素値生成部６３、制御部６４、画素値挿入部６５、画素値更新部６６を備えているが、それらに加えて、第一画素値生成部６２および第二画素値生成部６３が採用する補間方法とは異なる補間方法を採用して補間画素の画素値および近傍画素の画素値を生成する第三画素値生成部６７を備えた構成とされている。
【０１２０】
この第２実施形態における周期性判定部６０、境界判定部６１、第一画素値生成部６２、第二画素値生成部６３、制御部６４、画素値挿入部６５、画素値更新部６６が行う処理については、上述した第１実施形態と同様であり、第三画素値生成部６７も、補間方法が異なるのみで、第一画素値生成部６２や第二画素値生成部６３と同様、補間画素の画素値および近傍画素の画素値を生成するものであるので、これらについての説明は省略する。
【０１２１】
制御部６４は、周期性判定部６０による周期性の判定と、境界判定部６１による判定との結果に基づき、補間方法を決定し、第一画素値生成部６２、第二画素値生成部６３、第三画素値生成部６７のいずれを採用するかを決定し、決定した画素値生成部に補間画素に挿入すべき画素値を生成させるが、予め第一画素値生成部６２、第二画素値生成部６３、第三画素値生成部６７のすべてにおいて補間画素の画素値を生成しておき、制御部６４がいずれかを選択するという並列処理で実現することも可能である。
【０１２２】
図１４に示す画像処理装置を用いて、補間画素の画素値を補正する処理について、図１５に示すフローチャートを参照して説明する。ステップ１５００からこの処理を開始し、まず、ステップ１５０５において、画素設定部が、補間処理対象の画像につき、画素値を挿入する対象の補間画素を検出し、補間処理すべき補間画素を設定する。この検出は、上述した方法を用いて行うことができる。補間画素が複数存在する場合は、例えばその画素が配置されている座標位置に基づいて順に並べ、順に１つを選択し、その１つを設定することができる。
【０１２３】
ステップ１５１０において、周期性判定部６０が、補間画素を含む領域を指定し、その領域内で、画素値の変動に周期性を有するか否かを判定する。上述した領域サイズの決定方法、周期性の判定方法を用いて、判定領域を指定し、周期性の有無を判定する。続いて、ステップ１５１５において、境界判定部６１が、補間画素が本当に周期領域と非周期領域のどちらの領域に存在するかを判定する。この判定には、上記の境界の判定方法、参照領域のサイズ決定方法を採用し、左右の参照領域で個別に画素値の分散を求め、求めた分散が左右の参照領域でいずれも閾値以上であるかを判断することにより行う。閾値以上であれば、補間画素は周期領域に存在すると判定される。
【０１２４】
次に、ステップ１５２０で、補間画素に用いる補間方法を決定する。これは、制御部６４が、ステップ１５１０およびステップ１５１５において判定された結果に基づき、第一画素値生成部６２が採用する補間方法、第二画素値生成部６３が採用する補間方法、第三画素値生成部６７が採用する補間方法のいずれを用い、候補画素値を生成するかを判断する。
【０１２５】
例えば、補間画素を含む領域に周期性があり、その補間画素が周期領域内に存在するのであれば、第一画素値生成部６２が採用するテンプレートマッチング法、補間画素を含む領域に周期性はあるが、その補間画素が非周期領域内に存在する場合には、第二画素値生成部６３が採用する内挿法、補間画素を含む領域に周期性がなく、その補間画素が非周期領域内に存在する場合には、第三画素値生成部６７が採用するそれ以外の補間方法と決定することができる。
【０１２６】
これ以外に、補間画素を含む領域の周期が短く、その補間画素が周期領域内に存在する場合には、第一画素値生成部６２が採用するテンプレートマッチング法、補間画素を含む領域の周期が短く、その補間画素が非周期領域内に存在する場合は、第二画素値生成部６３が採用する内挿法、それ以外の場合は、第三画素値生成部６７が採用する補間方法と決定することもできる。
【０１２７】
ここで、第三画素値生成部６７が採用する補間方法は、第一画素値生成部６２および第二画素値生成部６３が採用する補間方法以外であればどのような補間方法であってもよい。例えば、第一画素値生成部６２が二次元テンプレートマッチングを採用し、第二画素値生成部６３がキュービック補間を採用する場合、第三画素値生成部６７は、それら以外の、一次元テンプレートマッチング、最近傍補間、線形補間、放物線補間、多項式補間、スプライン補間、ラグランジュ補間、バイリニア補間、バイキュービック補間等を採用することができる。
【０１２８】
次のステップ１５２５では、決定された補間方法に基づき、第一画素値生成部６２が採用されたかを判定する。このステップ１５２５で第一画素値生成部６２が採用されたと判定された場合、ステップ１５３０へ進み、第一画素値生成部６２が用いる補間方法により補間画素の画素値を生成する。このとき、補間画素を中心として左右対称に指定された所定数の画素から構成される範囲、例えばテンプレートを構成する領域を、画素値を更新すべき範囲として設定し、その範囲内に存在する補間画素を除く画素を近傍画素として特定し、その画素の画素値も更新すべき近傍画素の画素値として生成する。
【０１２９】
ステップ１５２５で第一画素値生成部６２が採用されないと判定された場合、ステップ１５３５へ進み、第二画素値生成部６３が採用されたかを判定する。第二画素値生成部６３が採用されたと判定された場合、ステップ１５４０へ進み、第二画素値生成部６３が用いる補間方法により補間画素の画素値を生成する。この場合は、補間方法が内挿法であるため、上述した理由から、近傍画素の画素値は更新しないようにすることが望ましい。
【０１３０】
ステップ１５３５で第二画素値生成部６３が採用されないと判定された場合、ステップ１５４５へ進み、第三画素値生成部６７が用いる補間方法により補間画素の画素値を生成する。予め補間方法ごとに更新が必要であるか否かを設定しておき、それに従い、必要である場合に更新すべき近傍画素の画素値を生成するようにすることができる。補間方法が内挿法である場合、更新しないと設定されていれば、補間方法が内挿法の１つでない限り、画素値を更新すべき範囲を設定し、その範囲内に存在する画素の画素値も更新すべき近傍画素の画素値として生成することができる。
【０１３１】
補間方法が一次元パターンマッチングである場合、更新しないと設定し、二次元パターンマッチングである場合、更新すると設定することができる。これは、一次元パターンマッチングの場合、補間画素に対して上下方向にある画素の画素値は更新されないので、左右方向にある画素の画素値のみが更新されると、その更新された部分が目立つからである。一方、二次元パターンマッチングの場合は、このような問題は生じないからである。したがって、二次元パターンマッチングである場合にのみ、画素値を更新すべき範囲を設定し、その範囲内に存在する画素の画素値も更新すべき近傍画素の画素値として生成することができる。
【０１３２】
ステップ１５５０において、画素値挿入部６５は、ステップ１５３０もしくはステップ１５４０またはステップ１５４５で生成された補間画素の画素値を受け取り、ステップ１５０５において設定した補間画素へその補間画素の画素値を挿入する。そして、ステップ１５５５へ進み、画素値更新部６６が、ステップ１５３０もしくはステップ１５４０またはステップ１５４５で生成された近傍画素の画素値を受け取り、指定された範囲内に存在する近傍画素の画素値を、その生成された近傍画素の画素値へ置き換え、その画素値を更新する。
【０１３３】
その後、ステップ１５６０で、すべての補間画素の補間を終えたかを判断する。ステップ１５０５において設定した補間画素が複数存在する場合は、そのすべてに補間画素の画素値が挿入されたかを判定する。ステップ１５６０においてすべての補間画素の補間を終えたと判断された場合はステップ１５６５へ進み、この処理を終了する。一方、まだ終えていないと判断された場合、ステップ１５０５へ戻り、再び補間画素を設定し、補間画素および近傍画素の画素値の生成を行い、その画素値を挿入およびその画素値へ更新する処理を行う。
【０１３４】
本発明では、さらに、妥当性検証部を備えることができ、この妥当性検証部により第一画素値生成部６２、第二画素値生成部６３、第三画素値生成部６７によって生成された補間画素の候補画素値の妥当性を検証することができる。この検証により、妥当でなければ、他の画素値生成部に指示し、当該他の画素値生成部が補間画素の画素値を生成する。そして、妥当性検証部は、当該他の画素値生成部が生成した補間画素の画素値が妥当であるかを再度検証する。
【０１３５】
例えば、第一画素値生成部６２により生成された補間画素の画素値の妥当性の検証は、第一画素値生成部６２が補間画素の画素値を生成する際に得られる関連情報を用いて行うことができる。関連情報としては、第一画素値生成部６２が補間方法としてパターンマッチング法を用いる場合、テンプレートと比較する対象のパターンとの相違度または類似度を挙げることができる。このとき、テンプレートとしては、補間画素を除いたものを用いることもできるし、生成した画素値を挿入した後のものを用いることも可能である。相違度または類似度は、上述したＳＡＤ、ＳＳＤ、相関係数、共分散等を用いることができる。
【０１３６】
妥当性検証部は、その相違度が閾値未満であるか、またはその類似度が閾値以上であるかを判断することにより、妥当であるかを判断することができる。相違度が閾値未満なら妥当、類似度が閾値以上であれば妥当と判断することができる。このため、妥当性検証部において、相違度または類似度を閾値処理し、相違度が閾値未満または類似度が閾値以上であることを妥当と判断するための条件とすることができる。この閾値も、上述した閾値等と同様に、予めユーザによって設定することもできるし、装置が動的に決定することも可能である。
【０１３７】
制御部６４は、これに伴い、第一画素値生成部６２が採用された際に生成された補間画素の画素値が妥当であるか否かを妥当性検証部によって検証し、妥当性がないと判定された場合、第二画素値生成部６３により補間画素の画素値を生成させ、それでも妥当性がないと判定された場合、第三画素値生成部６７により補間画素の画素値を生成させることができる。制御部６４は、これに限られるものではなく、予め第一画素値生成部６２、第二画素値生成部６３、第三画素値生成部６７のすべてにおいて補間画素の画素値を生成しておき、妥当性検証部による検証結果に基づき、いずれかを選択するという並列処理で実現することも可能である。
【０１３８】
本発明の画像処理装置は、周期性判定部、境界判定部、第一画素値生成部、第二画素値生成部、制御部、画素値挿入部、画素値更新部を含み、それに加えて、妥当性検証部、第三画素値生成部を備えることができる。このため、上記第２実施形態のように、さらに第三画素値生成部のみを備える構成のほか、妥当性検証部のみを備える構成や、第三画素値生成部と妥当性検証部の両方を備える構成を採用することも可能である。また、画素値生成部は、上記の３つに限られるものではなく、それ以上の数の画素値生成部を含んで構成することも可能である。また、周期領域の有無は、周期性判定部により行うことができるので、境界判定部を採用しなくてもよいものである。
【０１３９】
本発明では、上述した画像処理装置や、その画像処理装置により実行される画像検査方法のほか、その方法を実現するためのコンピュータ可読なプログラムも提供することが可能である。なお、このプログラムは、ＦＤ、ＣＤ、ＤＶＤ、ＳＤカード、ＵＳＢメモリ等の記録媒体に格納し、そのプログラムが記録された記録媒体として提供することも可能である。
【０１４０】
これまで本発明を、画像処理装置および画像検査方法として上述した実施の形態をもって説明してきたが、本発明は上述した実施の形態に限定されるものではなく、他の実施の形態、追加、変更、削除など、当業者が想到することができる範囲内で変更することができ、いずれの態様においても本発明の作用・効果を奏する限り、本発明の範囲に含まれるものである。
【符号の説明】
【０１４１】
１０…画像処理装置、１１…ＭＰＵ、１２…ＲＯＭ、１３…ＲＡＭ、１４…記憶制御用インタフェース、１５…ハードディスク、１６…インタフェース、１７…入出力装置、１８…表示装置、１９…ＶＲＡＭ、２０…グラフィックチップ、２１…ネットワークＩ／Ｆ、３０、６０…周期性判定部、３１、６１…境界判定部、３２、６２…第一画素値生成部、３３、６３…第二画素値生成部、３４、６４…制御部、３５、６５…画素値挿入部、３６、６６…画素値更新部、４０…欠落した画素、５０…補間画素、５１…判定領域、５２〜５５…部分領域、６７…第三画素値生成部
【先行技術文献】
【特許文献】
【０１４２】
【特許文献１】特許第４３３０１６４号公報
【図１】
0005699633.tif 000006
【図２】
0005699633.tif 000007
【図３】
0005699633.tif 000008
【図４】
0005699633.tif 000009
【図５】
0005699633.tif 000010
【図６】
0005699633.tif 000011
【図７】
0005699633.tif 000012
【図８】
0005699633.tif 000013
【図９】
0005699633.tif 000014
【図１０】
0005699633.tif 000015
【図１１】
0005699633.tif 000016
【図１２】
0005699633.tif 000017
【図１３】
0005699633.tif 000018
【図１４】
0005699633.tif 000019
【図１５】
0005699633.tif 000020