(57)【要約】斜め補間を用いた場合における誤補間を軽減し、高画質なフィールド内補間を実現することができるようにする。上側斜め相関検出部（２１）には、上上データ列（４１）および上データ列（４２）が入力され、下側斜め相関検出部（２２）には、上データ列（４２）および下データ列（４３）が入力される。下側斜め相関検出部（２２）では、補間ポイントを中心として、補間ポイントの上下の実データライン上における、左斜め方向、中央および右斜め方向の画素の相関を求める。上側斜め相関検出部（２１）では、例えば、補助的に設定された補助補間ポイントを中心として、補助補間ポイントの上下の実データライン上における、左斜め方向、中央および右斜め方向の画素の相関を求める。これらの相関に基づいて、相関の強い方向を検出し、その補間方向にある画素を用いて補間データが生成される。
2004017634.tif 000002
【特許請求の範囲】
【請求項１】
入力信号のフィールド内におけるデータの存在しない部分の画素データを、そのフィールド内に存在する他の画素データから補間して求める画像処理装置であって、
補間対象の画素に対して、垂直上下方向または水平左右方向に隣接する第１の画素ラインおよび第２の画素ライン上の画素の相関を、前記補間対象の画素を中心として複数の方向について検出する第１の相関検出部と、
前記第１の画素ライン上の画素と前記第１の画素ラインの方向に前記補間対象の画素から２ライン分離れた位置にある第３の画素ライン上の画素との相関、または、前記第２の画素ライン上の画素と前記第２の画素ラインの方向に前記補間対象の画素から２ライン分離れた位置にある第４の画素ライン上の画素との相関、の少なくとも一方の相関を、前記補間対象の画素とは異なる位置に設定された補助的な画素を中心として、複数の方向について検出する第２の相関検出部と、
前記第１の相関検出部および前記第２の相関検出部の検出結果に基づいて、補間方向を決定する決定手段と、
その決定された補間方向に存在する、前記第１の画素ラインおよび前記第２の画素ライン上の画素のデータを参照して、前記補間対象の画素の補間データを生成する生成手段とを備え、
前記第２の相関検出部において、
前記第１の画素ライン上の画素と前記第３の画素ライン上の画素との相関を求める場合には、前記第１の画素ラインと前記第３の画素ラインとの間に設定された架空のライン上にある画素を前記補助的な画素として設定し、
前記第２の画素ライン上の画素と前記第４の画素ライン上の画素との相関を求める場合には、前記第２の画素ラインと前記第４の画素ラインとの間に設定された架空のライン上にある画素を前記補助的な画素として設定するようになされている
ことを特徴とする画像処理装置。
【請求項２】
前記架空のライン上で、前記補間対象の画素に対して最も近い位置にある画素、または最も近い位置にある画素の近傍にある画素を、前記補助的な画素として設定する
ことを特徴とする請求の範囲第１項記載の画像処理装置。
【請求項３】
前記第１の相関検出部は、前記補間対象の画素に対して、垂直方向の画素、左斜め方向の画素、および右斜め方向の画素の相関を検出するようになされ、
前記第２の相関検出部は、前記補助的な画素に対して、垂直方向の画素、左斜め方向の画素、および右斜め方向の画素の相関を検出するようになされている
ことを特徴とする請求の範囲第１項記載の画像処理装置。
【請求項４】
前記決定手段は、前記第１の相関検出部及び前記第２の相関検出部から出力された少なくとも前記左斜め方向の画素の相関値による第１の演算結果と、前記第１の相関検出部及び前記第２の相関検出部から出力された少なくとも前記右斜め方向の画素の相関値による第２の演算結果との比較により、前記補間方向を決定する
ことを特徴とする請求の範囲第３項記載の画像処理装置。
【請求項５】
前記第１の演算結果は、前記第１の相関検出部の少なくとも前記左斜め方向を含む複数の方向のうち最も強い相関を示す相関値と前記第２の相関検出部の少なくとも前記左斜め方向を含む複数の方向のうち最も強い相関を示す相関値とを加算した結果であり、前記第２の演算結果は、前記前記第１の相関検出部の少なくとも前記右斜め方向を含む複数の方向のうち最も強い相関を示す相関値と前記第２の相関検出部の少なくとも前記右斜め方向を含む複数の方向のうち最も強い相関を示す相関値とを加算した結果である
ことを特徴とする請求の範囲第４項記載の画像処理装置。
【請求項６】
前記生成手段は、前記決定手段により決定された前記補間方向に基づき、前記第１の相関検出部の前記左斜め方向を含む複数の方向のうち最も強い相関を示す相関値または前記第１の相関検出部の前記右斜め方向を含む複数の方向のうち最も強い相関を示す相関値に対応する補間方向の補間データを生成する
ことを特徴とする請求の範囲５項記載の画像処理装置。
【請求項７】
前記第１の演算結果または前記第２の演算結果が所定の範囲の値ではない場合は、前記補間対象の画素に対して前記垂直方向に隣接する少なくとも２つの画素により補間される
ことを特徴とする請求の範囲第４項記載の画像処理装置。
【請求項８】
インタレース方式の前記入力信号をプログレッシブ方式の信号に変換するためのフィールド内補間を行うものである
ことを特徴とする請求の範囲第１項記載の画像処理装置。
【請求項９】
フィールド内におけるデータの存在しない部分の画素データを、そのフィールド内に存在する他の画素データから補間して求める画像処理方法であって、
補間対象の画素に対して、垂直上下方向または水平左右方向に隣接する第１の画素ラインおよび第２の画素ライン上の画素の相関を、前記補間対象の画素を中心として複数の方向について検出する第１の検出ステップと、
前記第１の画素ライン上の画素と前記第１の画素ラインの方向に前記補間対象の画素から２ライン分離れた位置にある第３の画素ライン上の画素との相関、または、前記第２の画素ライン上の画素と前記第２の画素ラインの方向に前記補間対象の画素から２ライン分離れた位置にある第４の画素ライン上の画素との相関、の少なくとも一方の相関を、前記補間対象の画素とは異なる位置に設定された補助的な画素を中心として、複数の方向について検出する第２の検出ステップと、
前記第１の検出ステップおよび前記第２の検出ステップの検出結果に基づいて、補間方向を決定するステップと、
その決定された補間方向に存在する、前記第１の画素ラインおよび前記第２の画素ライン上の画素のデータを参照して、前記補間対象の画素の補間データを生成するステップと
を含み、
前記第２の検出ステップにおいて、
前記第１の画素ライン上の画素と前記第３の画素ライン上の画素との相関を求める場合には、前記第１の画素ラインと前記第３の画素ラインとの間に設定された架空のライン上にある画素を前記補助的な画素として設定し、
前記第２の画素ライン上の画素と前記第４の画素ライン上の画素との相関を求める場合には、前記第２の画素ラインと前記第４の画素ラインとの間に設定された架空のライン上にある画素を前記補助的な画素として設定するようにした
ことを特徴とする画像処理方法。
【請求項１０】
入力映像信号に対して、フィールド内補間処理を施す画像処理部と、前記画像処理部によって処理された後の映像信号に基づいて映像を表示する表示部とを備えた映像表示装置であって、
前記画像処理部は、
補間対象の画素に対して、垂直上下方向または水平左右方向に隣接する第１の画素ラインおよび第２の画素ライン上の画素の相関を、前記補間対象の画素を中心として複数の方向について検出する第１の相関検出部と、
前記第１の画素ライン上の画素と前記第１の画素ラインの方向に前記補間対象の画素から２ライン分離れた位置にある第３の画素ライン上の画素との相関、または、前記第２の画素ライン上の画素と前記第２の画素ラインの方向に前記補間対象の画素から２ライン分離れた位置にある第４の画素ライン上の画素との相関、の少なくとも一方の相関を、前記補間対象の画素とは異なる位置に設定された補助的な画素を中心として、複数の方向について検出する第２の相関検出部と、
前記第１の相関検出部および前記第２の相関検出部の検出結果に基づいて、補間方向を決定する決定手段と、
その決定された補間方向に存在する、前記第１の画素ラインおよび前記第２の画素ライン上の画素のデータを参照して、前記補間対象の画素の補間データを生成する生成手段とを備え、
前記第２の相関検出部において、
前記第１の画素ライン上の画素と前記第３の画素ライン上の画素との相関を求める場合には、前記第１の画素ラインと前記第３の画素ラインとの間に設定された架空のライン上にある画素を前記補助的な画素として設定し、
前記第２の画素ライン上の画素と前記第４の画素ライン上の画素との相関を求める場合には、前記第２の画素ラインと前記第４の画素ラインとの間に設定された架空のライン上にある画素を前記補助的な画素として設定するようになされている
ことを特徴とする映像表示装置。
【請求項１１】
記録媒体に記録された映像情報に対してフィールド内補間処理を施した信号を再生出力する記録情報再生装置であって、
前記フィールド内補間処理を施すための手段として、
補間対象の画素に対して、垂直上下方向または水平左右方向に隣接する第１の画素ラインおよび第２の画素ライン上の画素の相関を、前記補間対象の画素を中心として複数の方向について検出する第１の相関検出部と、
前記第１の画素ライン上の画素と前記第１の画素ラインの方向に前記補間対象の画素から２ライン分離れた位置にある第３の画素ライン上の画素との相関、または、前記第２の画素ライン上の画素と前記第２の画素ラインの方向に前記補間対象の画素から２ライン分離れた位置にある第４の画素ライン上の画素との相関、の少なくとも一方の相関を、前記補間対象の画素とは異なる位置に設定された補助的な画素を中心として、複数の方向について検出する第２の相関検出部と、
前記第１の相関検出部および前記第２の相関検出部の検出結果に基づいて、補間方向を決定する決定手段と、
その決定された補間方向に存在する、前記第１の画素ラインおよび前記第２の画素ライン上の画素のデータを参照して、前記補間対象の画素の補間データを生成する生成手段とを備え、
前記第２の相関検出部において、
前記第１の画素ライン上の画素と前記第３の画素ライン上の画素との相関を求める場合には、前記第１の画素ラインと前記第３の画素ラインとの間に設定された架空のライン上にある画素を前記補助的な画素として設定し、
前記第２の画素ライン上の画素と前記第４の画素ライン上の画素との相関を求める場合には、前記第２の画素ラインと前記第４の画素ラインとの間に設定された架空のライン上にある画素を前記補助的な画素として設定するようになされている
ことを特徴とする記録情報再生装置。
【発明の詳細な説明】
【技術分野】  本発明は、例えば飛び越し（インタレース）走査から順次（プログレッシブ）走査方式への変換（ＩＰ変換）等に伴う画像補間処理を行うための画像処理装置および方法、ならびに、ＩＰ変換等の画像補間処理機能を備えた映像表示装置および記録情報再生装置に関する。
【背景技術】  一般的なＴＶ（テレビジョン）放送、例えばＮＴＳＣ（Ｎａｔｉｏｎａｌ  Ｔｅｌｅｖｉｓｉｏｎ  Ｓｙｓｔｅｍ  Ｃｏｍｍｉｔｔｅｅ）方式のＴＶ放送では、水平走査線数が２６２．５本のフィールド画像を１秒間に６０枚表示することで、１秒間に３０フレームの画像（１フレームの水平走査線数＝５２５本）を等価的に表示している。このように２つのフィールド画像から、１つのフレーム画像を作って表示する方式は、インタレース方式と呼ばれている。これに対し、走査線数を分割することなく、１つのフレーム画像を一度に表示する方式は、プログレッシブ方式と呼ばれている。インタレース方式が、例えば１／６０秒で水平走査線数２６２．５本のフィールド画像を表示するのに対し、プログレッシブ方式では、１／６０秒で水平走査線数５２５本のフレーム画像を表示するので、画面のちらつきが少なく、高精細な画像を表示することが可能となる。走査線数５２５本のフレーム画像をインタレース方式により表示するような映像規格を“５２５ｉ”、また、プログレッシブ方式により表示するような映像規格を“５２５ｐ”などと表記する場合がある。
ところで、従来より、インタレース方式の画像をプログレッシブ方式の画像へと変換するためのＩＰ変換装置が知られている。インタレース方式の画像（例えば走査線数２６２．５本のフィールド画像）を、プログレッシブ方式の画像（例えば走査線数５２５本のフレーム画像）へとＩＰ変換する場合、元のフィールド画像には含まれていない部分の画素データを補間して作り出す必要がある。
ＩＰ変換では、画素データの補間に関し、信号ソースごとに処理を変えることが一般に行われている。すなわち、映像が静止画である場合にはフィールド間補間、動画である場合にはフィールド内補間が行われる。例えば、第１１図に示したように、あるフィールドＦＥ２内の画素ｈを補間するポイントとすると、フィールド間補間では、補間対象のフィールドＦＥ２に対して、未来または過去にある他のフィールドＦＥ１，ＦＥ３内のデータを用いて、データを補間する。一方、フィールド内補間では、その補間対象の１つのフィールドＦＥ２内のデータを用いて、データを補間する。なお、第１１図の各フィールドＦＥ１〜ＦＥ３において、実線は、実際に映像データが存在するラインを表し、破線は、補間データを作り出すラインを表す。
第１２図を参照して、一般的なフィールド内補間の概念について説明する。第１２図では、インタレース方式における任意のフィールド画像の一部分を表している。図において、ラインＷ，Ｘは、実際に映像データが存在する画素ライン（実データライン）を表している。ラインＹは、現フィールドの１つ過去または１つ未来のフィールドにおいて映像データが存在するラインであり、フィールド内補間時には、補間データを作り出すライン（補間データライン）である。各ライン上の○印は、画素が存在する位置を表す。
第１２図において、画素ｈを補間するポイントとすると、単純なフィールド内補間の手法としては、例えば、画素ｈの真上・真下にある画素ｃ，ｍの画素データ（輝度またはクロマデータなど）を足して２で割った値（平均値）を、補間データとする方法がある。フィールド内補間の手法としては、この他にも、“斜め補間”と呼ばれるものがある。補間対象の画素に対して、隣接する上下２つの実データラインＷ，Ｘから、斜め補間を用いてデータを補間する方法は、例えば特表２００１−５０６１１３号公報に記載されている。
斜め補間は、真上・真下の画素だけでなく、斜め方向の画素をも参照して補間データを算出する手法である。例えば、補間ポイントである画素ｈを中心として、上下方向（中央）の補間軸Ｃ１のみならず、左斜め方向の補間軸Ｌ２，Ｌ１および右斜め方向の補間軸Ｒ２，Ｒ１上にある実データラインＷ，Ｘ上の画素をも参照して補間データを算出する。この場合、各補間軸上の画素の組み合わせ（ａ−ｏ），（ｂ−ｎ），（ｃ−ｍ），（ｄ−ｌ）、および（ｅ−ｋ）の中から、最も相関の強いものを検出し、そのデータを用いて画素ｈのデータを補間する。
相関を検出するには、例えば、各画素データの減算を行いその絶対値をとる。例えば画素（ｄ−ｌ）の組の相関は、以下の式１で表される。ＡＢＳは絶対値を得ることを意味する。この方法では、相関の強いデータの場合に、式１の値が小さくなる。
2004017634.tif 000003
しかしながら、式１を用いた方法では、単に１画素と１画素との相関を調べているために、映像のつながりとして本来はまったく関係のないデータであっても相関が強く出てしまい（誤った補間軸を選択してしまい）、不適切な補間データが発生する場合が多い。例えば、第１３図に示したように、補間軸Ｒ１の方向に細い線状の画像があった場合、適切な方向と異なる他の補間軸を間違って選択してしまう場合がある。そのため、通常は、いくつかのデータをグループとして考えて相関を検出する。
例えば以下の式２のように、画素ｄのデータと画素ｌのデータとの相関を検出するために、画素ｄを中心としたデータグループ２−１（ｃ，ｄ，ｅ）と、画素ｌを中心としたデータグループ２−２（ｋ，ｌ，ｍ）とを用いることで相関検出の間違いを少なくすることができる。
2004017634.tif 000004
式２の場合も式１と同じように、相関の強いものほど演算結果が小さくなる。しかしながら、式２の方法を用いても左斜め、右斜めの両方向に相関の強い画像がある場合には、やはり間違った斜め方向に強い相関を検出してしまい、結果として不適切な補間データを生じる場合があった。
このように、従来の斜め補間を用いたフィールド内補間では、補間ポイントに隣接する上下２つの画素ラインから斜め方向に最適な参照用画素を検索する場合に、同じ輝度の画素があると相関が強く出てしまい、映像のつながりとしては関係ない斜めの画素から誤補間してしまうという問題があった。
本発明はかかる問題点に鑑みてなされたもので、その目的は、斜め補間を用いた場合における誤補間を軽減し、高画質なフィールド内補間を実現することができるようにした画像処理装置および方法、映像表示装置、ならびに記録情報再生装置を提供することにある。
【発明の開示】
本発明による画像処理装置は、補間対象の画素に対して、垂直上下方向または水平左右方向に隣接する第１の画素ラインおよび第２の画素ライン上の画素の相関を、補間対象の画素を中心として複数の方向について検出する第１の相関検出部と、第１の画素ライン上の画素と第１の画素ラインの方向に補間対象の画素から２ライン分離れた位置にある第３の画素ライン上の画素との相関、または、第２の画素ライン上の画素と第２の画素ラインの方向に補間対象の画素から２ライン分離れた位置にある第４の画素ライン上の画素との相関、の少なくとも一方の相関を、補間対象の画素とは異なる位置に設定された補助的な画素を中心として、複数の方向について検出する第２の相関検出部と、第１の相関検出部および第２の相関検出部の検出結果に基づいて、補間方向を決定する決定手段と、その決定された補間方向に存在する、第１の画素ラインおよび第２の画素ライン上の画素のデータを参照して、補間対象の画素の補間データを生成する生成手段とを備えている。第２の相関検出部は、第１の画素ライン上の画素と第３の画素ライン上の画素との相関を求める場合には、第１の画素ラインと第３の画素ラインとの間に設定された架空のライン上にある画素を補助的な画素として設定し、第２の画素ライン上の画素と第４の画素ライン上の画素との相関を求める場合には、第２の画素ラインと第４の画素ラインとの間に設定された架空のライン上にある画素を補助的な画素として設定するようになされている。
本発明による画像処理方法は、補間対象の画素に対して、垂直上下方向または水平左右方向に隣接する第１の画素ラインおよび第２の画素ライン上の画素の相関を、補間対象の画素を中心として複数の方向について検出する第１の検出ステップと、第１の画素ライン上の画素と第１の画素ラインの方向に補間対象の画素から２ライン分離れた位置にある第３の画素ライン上の画素との相関、または、第２の画素ライン上の画素と第２の画素ラインの方向に補間対象の画素から２ライン分離れた位置にある第４の画素ライン上の画素との相関、の少なくとも一方の相関を、補間対象の画素とは異なる位置に設定された補助的な画素を中心として、複数の方向について検出する第２の検出ステップと、第１の検出ステップおよび第２の検出ステップの検出結果に基づいて、補間方向を決定するステップと、その決定された補間方向に存在する、第１の画素ラインおよび第２の画素ライン上の画素のデータを参照して、補間対象の画素の補間データを生成するステップとを含んでいる。第２の検出ステップにおいては、第１の画素ライン上の画素と第３の画素ライン上の画素との相関を求める場合には、第１の画素ラインと第３の画素ラインとの間に設定された架空のライン上にある画素を補助的な画素として設定し、第２の画素ライン上の画素と第４の画素ライン上の画素との相関を求める場合には、第２の画素ラインと第４の画素ラインとの間に設定された架空のライン上にある画素を補助的な画素として設定するようにしている。
本発明による映像表示装置は、入力映像信号に対して、フィールド内補間処理を施す画像処理部と、画像処理部によって処理された後の映像信号に基づいて映像を表示する表示部とを備えている。画像処理部は、補間対象の画素に対して、垂直上下方向または水平左右方向に隣接する第１の画素ラインおよび第２の画素ライン上の画素の相関を、補間対象の画素を中心として複数の方向について検出する第１の相関検出部と、第１の画素ライン上の画素と第１の画素ラインの方向に補間対象の画素から２ライン分離れた位置にある第３の画素ライン上の画素との相関、または、第２の画素ライン上の画素と第２の画素ラインの方向に補間対象の画素から２ライン分離れた位置にある第４の画素ライン上の画素との相関、の少なくとも一方の相関を、補間対象の画素とは異なる位置に設定された補助的な画素を中心として、複数の方向について検出する第２の相関検出部と、第１の相関検出部および第２の相関検出部の検出結果に基づいて、補間方向を決定する決定手段と、その決定された補間方向に存在する、第１の画素ラインおよび第２の画素ライン上の画素のデータを参照して、補間対象の画素の補間データを生成する生成手段とを備えている。第２の相関検出部は、第１の画素ライン上の画素と第３の画素ライン上の画素との相関を求める場合には、第１の画素ラインと第３の画素ラインとの間に設定された架空のライン上にある画素を補助的な画素として設定し、第２の画素ライン上の画素と第４の画素ライン上の画素との相関を求める場合には、第２の画素ラインと第４の画素ラインとの間に設定された架空のライン上にある画素を補助的な画素として設定するようになされている。
本発明による記録情報再生装置は、記録媒体に記録された映像情報に対してフィールド内補間処理を施した信号を再生出力する記録情報再生装置であって、フィールド内補間処理を施すための手段として、補間対象の画素に対して、垂直上下方向または水平左右方向に隣接する第１の画素ラインおよび第２の画素ライン上の画素の相関を、補間対象の画素を中心として複数の方向について検出する第１の相関検出部と、第１の画素ライン上の画素と第１の画素ラインの方向に補間対象の画素から２ライン分離れた位置にある第３の画素ライン上の画素との相関、または、第２の画素ライン上の画素と第２の画素ラインの方向に補間対象の画素から２ライン分離れた位置にある第４の画素ライン上の画素との相関、の少なくとも一方の相関を、補間対象の画素とは異なる位置に設定された補助的な画素を中心として、複数の方向について検出する第２の相関検出部と、第１の相関検出部および第２の相関検出部の検出結果に基づいて、補間方向を決定する決定手段と、その決定された補間方向に存在する、第１の画素ラインおよび第２の画素ライン上の画素のデータを参照して、補間対象の画素の補間データを生成する生成手段とを備えている。第２の相関検出部は、第１の画素ライン上の画素と第３の画素ライン上の画素との相関を求める場合には、第１の画素ラインと第３の画素ラインとの間に設定された架空のライン上にある画素を補助的な画素として設定し、第２の画素ライン上の画素と第４の画素ライン上の画素との相関を求める場合には、第２の画素ラインと第４の画素ラインとの間に設定された架空のライン上にある画素を補助的な画素として設定するようになされている。
なお、本発明による画像処理装置および方法、映像表示装置、ならびに記録情報再生装置において、「画素ライン」とは、垂直上下方向または水平左右方向に連続する画素列のことをいう。
本発明による画像処理装置および方法、映像表示装置、ならびに記録情報再生装置では、補間対象の画素に対して垂直上下方向または水平左右方向に隣接する第１の画素ラインおよび第２の画素ライン上の画素の相関が、補間対象の画素を中心として複数の方向について検出される。また、第１の画素ライン上の画素と第１の画素ラインの方向に補間対象の画素から２ライン分離れた位置にある第３の画素ライン上の画素との相関、または、第２の画素ライン上の画素と第２の画素ラインの方向に補間対象の画素から２ライン分離れた位置にある第４の画素ライン上の画素との相関、の少なくとも一方の相関が、補間対象の画素とは異なる位置に設定された補助的な画素を中心として、複数の方向について検出される。これらの検出結果に基づいて、補間方向が決定され、その決定された補間方向に存在する、第１の画素ラインおよび第２の画素ライン上の画素のデータを参照して、補間対象の画素の補間データが生成される。少なくとも３つの画素ライン上の画素を参照して、補間方向を決定し、補間対象の画素の補間データを生成しているので、単に２つの画素ラインのみを参照して斜め補間を行う場合と比べて、間違いの少ない斜め補間処理が可能となる。
第１の画素ライン上の画素と第３の画素ライン上の画素との相関を求める場合には、第１の画素ラインと第３の画素ラインとの間に設定された架空のライン上にある画素が、補助的な画素として設定される。第２の画素ライン上の画素と第４の前素ライン上の画素との相関を求める場合には、第２の画素ラインと第４の画素ラインとの間に設定された架空のライン上にある画素が、補助的な画素として設定される。
この場合、架空のライン上で、補間対象の画素に対して最も近い位置にある画素、または最も近い位置にある画素の近傍にある画素を、補助的な画素として設定した方が、相関を求めるために参照する画素のデータ範囲が小さくなるので、好ましい。「近傍にある画素」とは、補間対象の画素に対して最も近い位置にある画素を基準として、数画素以内程度の範囲にある画素のことをいう。例えば、ＩＰ変換のように垂直上下方向に画素ラインを補間する場合、第１の画素ラインおよび第２の画素ラインは、補間対象の画素に対して上下に位置し、第３の画素ラインは、第１の画素ラインさらに１つ上に位置している。この場合、補助的な画素は、例えば、第１の画素ラインおよび第２の画素ライン間の架空のライン上で、補間対象の画素に対して真上の画素、または真上の画素から数画素程度離れた位置にある画素に設定される。
【図面の簡単な説明】  第１図は、本発明の一実施の形態に係る画像処理装置としてのＩＰ変換装置の全体構成を示すブロック図である。
第２図は、第１図に示したＩＰ変換装置におけるフィールド内補間部の詳細な構成を示すブロック図である。
第３図は、本発明の一実施の形態に係る画像処理装置が適用される映像表示装置の構成例を示すブロック図である。
第４図は、本発明の一実施の形態に係る画像処理装置を用いた記録情報再生システムの構成例を示すブロック図である。
第５図は、フィールド内補間に関する説明図である。
第６図は、補間ポイントを中心とした相関検出についての説明図である。
第７図は、補助補間ポイントを中心とした相関検出についての説明図である。
第８図は、相関検出の全体的な流れを示す説明図である。
第９図は、他の相関検出方法との比較を示す説明図である。
第１０図は、解像度変換についての説明図である。
第１１図は、ＩＰ変換の概念を示す説明図である。
第１２図は、従来のフィールド内補間の概念を示す説明図である。
第１３図は、斜め補間を用いた場合に生ずる問題点を説明するための図である。
【発明を実施するための最良の形態】  以下、本発明の実施の形態について図面を参照して詳細に説明する。
第１図は、本実施の形態に係る画像処理装置としてのＩＰ変換装置の全体構成を示している。このＩＰ変換装置１０は、５２５ｉ，６２５ｉ，１１２５ｉなどのインタレース方式による映像信号Ｖｉを、５２５ｐ，６２５ｐ，１１２５ｐなどのプログレッシブ方式の映像信号Ｖｐに変換して出力するものである。
このＩＰ変換装置１０は、入力された映像信号Ｖｉをフィールド内補間およびフィールド間補間のいずれの方法で処理すべきかを判定する判定部１１と、入力された映像信号Ｖｉに対してフィールド内補間処理を行うフィールド内補間部１２と、入力された映像信号Ｖｉに対してフィールド間補間処理を行うフィールド間補間部１３とを備えている。
このＩＰ変換装置１０は、また、入力された映像信号Ｖｉを例えば２フィールド分記憶する画像メモリ１４と、水平・垂直同期信号Ｓｈ，Ｓｖに基づいて画像メモリ１４におけるデータの読み出しおよび書き込みアドレスを発生するアドレス発生部１５とを備えている。このＩＰ変換装置１０は、さらに、判定部１１の判定結果に基づいて、フィールド内補間部１２およびフィールド間補間部１３のいずれか１つの信号を最終出力信号Ｖｐとして切り替えて出力する切替部１６とを備えている。
フィールド内補間部１２は、このＩＰ変換装置１０の最も特徴的な部分である。このフィールド内補間部１２は、斜め補間を用いたフィールド内補間を行うものであるが、その補間方向（補間軸）を決定するために、少なくとも３つの画素ラインのデータを用いるようになっている。
例えば、第５図に示したように、画素ｈを補間するポイントとすると、画素ｈに隣接する垂直上下方向のラインＷ，Ｘと、さらに、少なくとももう１つの他の画素ラインとを用いる。他の画素ラインは、ラインＷの上に位置するラインＶ（画素ｈからラインＷの方向に２ライン分離れた位置にある画素ライン）またはラインＸの下に位置するライン（画素ｈからラインＸの方向に２ライン分離れた位置にある画素ライン）のいずれか１つを用いる。本実施の形態では、補間対象の画素ｈに対して上側２つのラインＶ，Ｗと、下側１つのラインＸとの合計３ラインのデータを参照して補間処理を行う場合を例に説明する。
なお、第５図では、インタレース方式における任意のフィールド画像の一部分を表している。図において、ラインＶ，Ｗ，Ｘは、実際に映像データ（輝度およびクロマデータなど）が存在する画素ライン（実データライン）を表している。ラインＡ，Ｙは、現フィールドの１つ過去または１つ未来のフィールドにおいて映像データが存在するラインであり、フィールド内補間時には、補間データを作り出すラインである。各ライン上の○印は、画素が存在する位置を表す。以下では、ラインＹ上の画素ｈを補間ポイントとして着目して説明し、ラインＹを特に「補間データライン」と呼ぶ。また、本実施の形態では、画素ｈの補間データを求める際の補間方向を決定するために、ラインＡ上の画素ｚを補助補間ポイントとして設定する。以下では、ラインＡを特に「架空ライン」と呼ぶ。補助補間ポイントの画素ｚは、図示したように、ラインＡ上で、例えば補間ポイントである画素ｈの真上に設定される。
ここで、本実施の形態において、実データラインＷ，Ｘが、それぞれ本発明における「第１の画素ライン」および「第２の画素ライン」の一具体例に対応する。また、実データラインＶが、本発明における「第３の画素ライン」の一具体例に対応する。また、図示しないが、実データラインＸの１つ下にある実データラインが、本発明における「第４の画素ライン」の一具体例に対応する。
第２図は、このＩＰ変換装置１０の特徴部分であるフィールド内補間部１２の詳細な構成を示している。このフィールド内補間部１２には、上上データ列４１、上データ列４２、および下データ列４３が入力されるようになっている。上データ列４２とは、補間ポイント（画素ｈ）の上に位置する画素を左右に数個含めたデータ列のことであり、例えば、第５図に示した実データラインＷ上の画素ａ，ｂ，ｃ，ｄ，ｅに相当する。下データ列４３とは、補間ポイント（画素ｈ）の下に位置する画素を左右に数個含めたデータ列のことであり、例えば実データラインＸ上の画素ｋ，ｌ，ｍ，ｎ，ｏに相当する。上上データ列４１とは、補助補間ポイント（画素ｚ）の上に位置する画素を左右に数個含めたデータ列のことであり、例えば実データラインＶ上の画素ｐ，ｑ，ｒ，ｓ，ｔに相当する。
このフィールド内補間部１２は、上側斜め相関検出部２１と、下側斜め相関検出部２２とを有している。上側斜め相関検出部２１は、上上データ列４１および上データ列４２に基づいて、補助補間ポイントの画素ｚを中心として複数の方向（左斜め方向、中央および右斜め方向）の各補間軸上の画素に関する相関を求めるようになっている。例えば、第７図に示したように、画素ｚを中心として、実データラインＶ，Ｗ上における、左斜め方向の２つの補間軸Ｌ２，Ｌ１、中央の補間軸Ｃ１、および右斜め方向の２つの補間軸Ｒ２，Ｒ１上の画素に関する相関を求めるようになっている。下側斜め相関検出部２２は、上データ列４２および下データ列４３に基づいて、補間ポイントの画素ｈを中心として、実データラインＷ，Ｘ上における、複数の方向にある各補間軸上の画素に関する相関を求めるようになっている。すなわち、上側斜め相関検出部２１と同様、例えば第６図に示したように、左斜め方向の２つの補間軸Ｌ２，Ｌ１、中央の補間軸Ｃ１、および右斜め方向の２つの補間軸Ｒ２，Ｒ１上の画素に関する相関を求めるようになっている。なお、具体的な相関の求め方については、後に詳述する。
このフィールド内補間部１２はまた、上側右斜め方向検出部２３と、上側左斜め方向検出部２４とを有している。上側右斜め方向検出部２３は、上側斜め相関検出部２１によって求められた、中央の補間軸Ｃ１、および右斜め方向の補間軸Ｒ２，Ｒ１上の画素に関する相関のデータＤ４から、最も相関の強いデータＤ４ｍｉｎを選択して出力するようになっている。上側左斜め方向検出部２４は、上側斜め相関検出部２１によって求められた、中央の補間軸Ｃ１、および左斜め方向の補間軸Ｌ２，Ｌ１上の画素に関する相関のデータＤ３から、最も相関の強いデータＤ３ｍｉｎを選択して出力するようになっている。
このフィールド内補間部１２はまた、下側右斜め方向検出部２５と、下側左斜め方向検出部２６とを有している。下側右斜め方向検出部２５は、下側斜め相関検出部２２によって求められた、中央の補間軸Ｃ１、および右斜め方向の補間軸Ｒ２，Ｒ１上の画素に関する相関のデータＤ２から、最も相関の強いデータＤ２ｍｉｎを選択して出力するようになっている。下側左斜め方向検出部２６は、下側斜め相関検出部２２によって求められた、中央の補間軸Ｃ１、および左斜め方向の補間軸Ｌ２，Ｌ１上の画素に関する相関のデータＤ１から、最も相関の強いデータＤ１ｍｉｎを選択して出力するようになっている。
このフィールド内補間部１２はまた、左右方向決定部２７と、補間データ生成部２８とを有している。左右方向決定部２７は、上側右斜め方向検出部２３、上側左斜め方向検出部２４、下側右斜め方向検出部２５、および下側左斜め方向検出部２６からの出力データＤ４ｍｉｎ〜Ｄ１ｍｉｎに基づいて、補間軸の方向を決定するようになっている。補間データ生成部２８は、左右方向決定部２７によって決定された補間軸の方向の画素データを用いて、補間ポイントである画素ｈの補間データを生成するようになっている。
ここで、本実施の形態において、下側斜め相関検出部２２が、本発明における「第１の相関検出部」の一具体例に対応し、上側斜め相関検出部２１が、本発明における「第２の相関検出部」の一具体例に対応する。また、本実施の形態において、主として左右方向決定部２７が、本発明における「決定手段」の一具体例に対応する。補間データ生成部２８が、本発明における「生成手段」の一具体例に対応する。
第３図は、このＩＰ変換装置１０を用いた映像表示装置の構成例を示している。この映像表示装置は、フロント映像処理部３１と、ＩＰ変換部３２と、駆動部３３と、映像表示部３４とを備えている。
フロント映像処理部３１は、インタレース方式による入力映像信号ＶｉにＡ／Ｄ変換などの信号処理を施してＩＰ変換部３２に出力するようになっている。ＩＰ変換部３２は、上述のＩＰ変換装置１０によって構成されるものであり、フロント映像処理部３１を介して入力された映像信号Ｖｉをプログレッシブ方式の映像信号Ｖｐに変換して出力するようになっている。
映像表示部３４は、映像信号Ｖｐに基づいて実際に映像を表示する部分である。映像表示部３４は、駆動部３３によって駆動されるようになっている。映像表示部３４の形態は特に限定されないが、例えばＣＲＴ（Ｃａｔｈｏｄｅ  Ｒａｙ  Ｔｕｂｅ）、ＬＣＤ（Ｌｉｑｕｉｄ  Ｃｒｙｓｔａｌ  Ｄｉｓｐｌａｙ）またはＰＤＰ（Ｐｌａｓｍａ  Ｄｉｓｐｌａｙ  Ｐａｎｅｌ）などを用いることができる。
第４図は、このＩＰ変換装置１０を用いた記録情報再生システムの構成例を示している。このシステムは、記録情報再生装置５０と、この記録情報再生装置５０によって再生された映像を表示する映像表示装置６０とを備えている。
記録情報再生装置５０は、情報記録媒体５１に記録された映像情報を再生するためのものである。情報記録媒体５１は、例えばＤＶＤ（Ｄｉｇｉｔａｌ  Ｖｅｒｓａｔｉｌｅ  Ｄｉｓｋ）などであり、少なくともインタレース方式の映像情報が記録されている。情報記録媒体５１がＤＶＤである場合、映像情報はＭＰＥＧ（Ｍｏｖｉｎｇ  Ｐｉｃｔｕｒｅ  Ｅｘｐｅｒｔｓ  Ｇｒｏｕｐ）規格により圧縮符号化されて記録されている。
この記録情報再生装置５０は、デコード部５２と、ＩＰ変換部５３とを有している。デコード部５２は、情報記録媒体５１に記録された映像情報を復号化してインタレース方式の映像信号Ｖｉを出力するようになっている。ＩＰ変換部５３は、上述のＩＰ変換装置１０によって構成されるものであり、デコード部５２を介して入力されたインタレース方式の映像信号Ｖｉをプログレッシブ方式の映像信号Ｖｐに変換して出力するようになっている。
映像表示装置６０の形態は特に限定されないが、例えばＣＲＴ、ＬＣＤまたはＰＤＰなどにより構成されている。映像表示装置６０は、Ｄ端子など、プログレッシブ方式の映像信号Ｖｐに対応した映像入力端子６１を有しており、その映像入力端子６１を介して入力された映像信号Ｖｐに基づく映像表示を行う機能を有している。
次に、以上のように構成されたＩＰ変換装置１０、ならびにこのＩＰ変換装置１０を利用した映像表示装置および記録情報再生システムの動作について説明する。
第１図に示したＩＰ変換装置１０には、５２５ｉ，６２５ｉ，１１２５ｉなどのインタレース方式による映像信号Ｖｉが入力される。画像メモリ１４には、現フィールドに対して例えば過去２フィールド分の入力映像信号Ｖｉが入力される。フィールド内補間部１２では、入力された映像信号Ｖｉに対して、後に詳述する方法によりフィールド内補間処理を施し、それにより得られたプログレッシブ方式の映像信号Ｖｐを切替部１６に出力する。フィールド間補間部１３では、入力された映像信号Ｖｉに対して、フィールド間補間処理を施し、それにより得られたプログレッシブ方式の映像信号Ｖｐを切替部１６に出力する。
判定部１１は、現フィールドの映像信号Ｖｉと画像メモリ１４に記憶された過去のフィールドの映像信号Ｖｉとに基づいて、フィールド間補間またはフィールド内補間のいずれの方式によって得られた信号を最終出力信号Ｖｐとして出力すべきかを判定し、その判定結果に基づいて切替部１６を切り替え制御する。例えば映像信号Ｖｉが動画と判定された場合には、フィールド内補間部１２によってフィールド内補間された信号を、最終出力信号Ｖｐとして出力させる。また例えば、映像信号Ｖｉが静止画と判定された場合には、フィールド間補間部１３によってフィールド間補間処理された信号を、最終出力信号Ｖｐとして出力させる。
第３図に示した映像表示装置では、インタレース方式による入力映像信号Ｖｉに対して、フロント映像処理部３１においてＡ／Ｄ変換などの信号処理が施される。ＩＰ変換部３２は、フロント映像処理部３１を介して入力された映像信号Ｖｉをプログレッシブ方式の映像信号Ｖｐに変換して出力する。駆動部３３は、このプログレッシブ方式の映像信号Ｖｐに基づいて映像表示部３４を駆動し、映像表示部３４にプログレッシブ方式による映像を表示させる。
第４図に示した記録情報再生システムでは、ＤＶＤ等の情報記録媒体５１に記録された映像情報が、デコード部５２によって復号化され、インタレース方式の映像信号Ｖｉとして、ＩＰ変換部５３に出力される。ＩＰ変換部５３では、復号化された映像信号Ｖｉをプログレッシブ方式の映像信号Ｖｐに変換する。この変換された映像信号Ｖｐが、記録情報再生装置５０から映像表示装置６０における映像入力端子６１へと出力される。映像表示装置６０では、映像入力端子６１を介して入力された映像信号Ｖｐに基づいて、プログレッシブ方式による映像表示を行う。
次に、ＩＰ変換装置１０の特徴部分であるフィールド内補間部１２（第２図）の処理動作について説明する。
フィールド内補間部１２において、上側斜め相関検出部２１には、上上データ列４１および上データ列４２が入力され、下側斜め相関検出部２２には、上データ列４２および下データ列４３が入力される。上側斜め相関検出部２１では、例えば、第７図に示したように、補助補間ポイントの画素ｚを中心として、実データラインＶ，Ｗ上における、左斜め方向の２つの補間軸Ｌ２，Ｌ１、中央の補間軸Ｃ１、および右斜め方向の２つの補間軸Ｒ２，Ｒ１上の画素の相関を求める。下側斜め相関検出部２２では、補間ポイントの画素ｈを中心として、実データラインＷ，Ｘ上における、左斜め方向の２つの補間軸Ｌ２，Ｌ１、中央の補間軸Ｃ１、および右斜め方向の２つの補間軸Ｒ２，Ｒ１上の画素の相関を求める。
上側斜め相関検出部２１および下側斜め相関検出部２２における画素の相関の検出は、各補間軸上の画素のみならず、その補間軸上の画素を含む数個の画素を１つのグループとして考えて求める方が、相関検出の精度を上げることができる。
例えば、下側斜め相関検出部２２において、補間軸Ｒ１上の画素ｄのデータと画素１のデータとの相関を検出する場合、第６図に示したように、画素ｄを中心としたデータグループ２−１（画素ｃ，ｄ，ｅ）と、画素１を中心としたデータグループ２−２（画素ｋ，ｌ，ｍ）とを用いることで相関検出の間違いを少なくし、検出精度を上げることができる。
データグループ２−１，２−２を用いた相関は、具体的には、例えば以下の式３のように、データグループの差分絶対値和（ＤｉｆｆＧｒｏｕｐ）を計算することで求めることができる。
2004017634.tif 000005
式３において、＊は、乗算記号を示す。ＡＢＳは絶対値を得ることを意味する。例えばＡＢＳ（ｃ−ｋ）は、画素ｃのデータと画素ｋのデータとの差分の絶対値を意味する。α１，α２，α３はあらかじめ設定される係数である。α１，α２，α３は、例えばそのグループ内で中央寄りのもの（つまりＡＢＳ（ｄ−ｌ））ほど大きな値を設定する（大きな重み付けをする）。なお、ここでは、各ラインごとに３つの画素で１つのグループを形成しているが、１つのグループの画素数を増やすことも可能である。
式３のＤｉｆｆＧｒｏｕｐ右１は、右斜め１方向（補間軸Ｒ１上）の画素ｄ，ｌの組についての演算式であるが、他の軸方向の演算も同様の方法で行うことができる。このようにして、下側斜め相関検出部２２は、補間ポイントの画素ｈを中心とした各軸Ｌ２，Ｌ１，Ｃ１，Ｒ１，Ｒ２の方向についてのＤｉｆｆＧｒｏｕｐ左２、ＤｉｆｆＧｒｏｕｐ左１、ＤｉｆｆＧｒｏｕｐ中央、ＤｉｆｆＧｒｏｕｐ右１、およびＤｉｆｆＧｒｏｕｐ右２の値を相関として求める。式３で求められるデータグループの差分絶対値和が小さい程、そのグループの組の相関が強いことを意味する。
同様にして上側斜め相関検出部２１では、式３を用いた手法で、架空ラインＡ上の補助補間ポイント（画素ｚ）を中心として、実データラインＶ，Ｗ上におけるデータグループの差分絶対値和を求め、各グループの組の相関を検出する。例えば、補間軸Ｒ１上の画素ｓのデータと画素ｂのデータとの相関を検出する場合、第７図に示したように、画素ｓを中心としたデータグループ２−３（画素ｒ，ｓ，ｔ）と、画素ｂを中心としたデータグループ２−４（画素ａ，ｂ，ｃ）とを用いて、相関を検出する。
下側斜め相関検出部２２で計算された相関のデータは、下側右斜め方向検出部２５および下側左斜め方向検出部２６に入力される。下側右斜め方向検出部２５では、入力されたデータＤ２（ＤｉｆｆＧｒｏｕｐ中央、ＤｉｆｆＧｒｏｕｐ右１、およびＤｉｆｆＧｒｏｕｐ右２）の中から、最も相関の強い（ＤｉｆｆＧｒｏｕｐの小さい）データＤ２ｍｉｎを選択して出力する。下側左斜め方向検出部２６では、入力されたデータＤ１（ＤｉｆｆＧｒｏｕｐ中央、ＤｉｆｆＧｒｏｕｐ左１、およびＤｉｆｆＧｒｏｕｐ左２）の中から、最も相関の強いデータＤ１ｍｉｎを選択して出力する。
上側斜め相関検出部２１で計算された相関のデータは、上側右斜め方向検出部２３および上側左斜め方向検出部２４に入力される。上側右斜め方向検出部２３および上側左斜め方向検出部２４では、下側右斜め方向検出部２５および下側左斜め方向検出部２６と同様に、入力されたＤｉｆｆＧｒｏｕｐのデータＤ４，Ｄ３の中から、最も相関の強いデータＤ４ｍｉｎ，Ｄ３ｍｉｎを選択して出力する。
上側右斜め方向検出部２３、上側左斜め方向検出部２４、下側右斜め方向検出部２５、および下側左斜め方向検出部２６の出力データＤ４ｍｉｎ〜Ｄ１ｍｉｎは、左右方向決定部２７に送られ、そこで、補間データの算出に用いられるべき補間軸の方向が決定される。左右方向決定部２７によって補間軸の方向が決定されるまでの概念を第８図に示す。
第８図に示したように、左右方向決定部２７では、上側右斜め方向検出部２３で選択されたＤｉｆｆＧｒｏｕｐのデータＤ４ｍｉｎと下側右斜め方向検出部２５で選択されたＤｉｆｆＧｒｏｕｐのデータＤ２ｍｉｎとを加算して、右側の補間軸方向に関する相関を計算する。また、上側左斜め方向検出部２４で選択されたＤｉｆｆＧｒｏｕｐのデータＤ３ｍｉｎと下側左斜め方向検出部２６で選択されたＤｉｆｆＧｒｏｕｐのデータＤ１ｍｉｎとを加算して、左側の補間軸方向に関する相関を計算する。これら右側と左側の２つの計算結果の小さい方を相関が強いと判断し、左斜め方向若しくは右斜め方向の一方について最終的な補間軸の方向を決定して、その決定結果を補間データ生成部２８に送る。
なお、左右方向決定部２７では、相関の強い方向が決まっても、その計算結果がある閾値より大きいときのように所定の範囲にない場合は、その相関の検出に誤りがある危険があると判断し、最終的な補間軸の方向の決定をやめる場合もある。その判定も補間データ生成部２８に送られる。
補間データ生成部２８には、左右方向決定部２７の判定結果のほか、上データ列４２および下データ列４３、ならびに下側右斜め方向検出部２５および下側左斜め方向検出部２６の出力結果が入力される。補間データ生成部２８は、決定された補間方向を示す左右方向決定部２７の判定結果に基づいて、下側右斜め方向検出部２５または、下側左斜め方向検出部２６の結果をもとに、最も相関の強い方向の情報等からさらに詳細な方向を決定し、入力されたデータを用いて、補間ポイントである画素ｈの補間データ４４を生成して出力する。例えば、左右方向決定部２７の判定結果に基づき、補間軸の方向が右斜め方向の補間軸Ｒ１と決定された場合には、例えば、その補間軸Ｒ１上の画素ｄ，ｌの画素データを足して２で割った値（平均値）を、補間データ４４とする。また、左右方向決定部２７において補間軸の方向の決定をやめた場合には、斜め方向の画素ではなく、例えば、少なくとも画素ｈの真上・真下にある画素ｃ，ｍの画素データの平均値を、補間データ４４とする。
以上説明したように、本実施の形態によれば、補間ポイントに隣接する上下２つの実データラインＷ，Ｘのみならず、さらにもう１つ上の実データラインＶ上の画素をも参照して補間軸の方向を決定し、補間データ４４を生成するようにしたので、単に２つの実データラインＷ，Ｘのみを参照して斜め補間を行う場合と比べて、誤補間を回避、軽減し、間違いの少ない斜め補間を実現できる。これにより、高画質なフィールド内補間が実現でき、結果的に高画質なＩＰ変換が実現可能となる。
ところで、本実施の形態では、補助補間ポイント（画素ｚ）を設定することにより、３つのラインを参照して斜め補間を行うようにしたが、３つのラインを参照した斜め補間を、補助補間ポイントを設定せずに行う方法も考えられる。
例えば、第９図に示したように、右斜め方向の相関を検出するために、補間軸Ｒ１の長さを、補間ポイントから２つ上の実データラインＶまで延長し、その実データラインＶ上の画素ｕを相関の検出に用いる方法が考えられる。つまり、右斜めの補間軸Ｒ１方向の相関を、画素ｄ，ｌに加えて画素ｕのデータを参照して検出する。この方法は、本実施の形態の手法と比べて、補助補間ポイントの画素ｚを設定していない点で、その相関検出方法自体が大きく異なるほか、さらに、得られる作用および効果も異なっている。
例えば、本実施の形態の手法では、右斜めの補間軸Ｒ１方向の相関を求める場合、２つ上の実データラインＶ上の参照画素は、補間ポイントの画素ｈから水平方向に１画素分離れたｓ点である（ここでは、説明を簡単にするために画素はグループ化しないものとする）。一方、補間軸を延長する手法では、２つ上の実データラインＶ上の参照画素は、補間ポイントの画素ｈから水平方向に３画素分離れたｕ点となっている。このことは、本実施の形態の手法と比べて、補間ポイントから３倍も離れた画素を参照することを意味する。従って、本実施の形態の手法の方が、相関検出のために参照する画素のデータ範囲が時間的に狭く、処理に要する（参照画素のデータを記憶するための）メモリの量が小さくて済む。
なお、本発明は、上記実施の形態に限定されず種々の変形実施が可能である。例えば、上記実施の形態では、補間ポイントに対して、１つ下にある実データラインＸ上の画素と、上方向にある２つの実データラインＷ，Ｖ上の画素とを用いて相関を検出する場合を例に挙げたが、上方向の実データラインＶに代えて、下方向に２つ目のライン（実データラインＸよりも１つ下のライン）上の画素を用いて相関を検出するようにしても良い。この場合、補助補間ポイントは、下方向の２つの実データライン間に設定された架空ライン上で、補間ポイントの真下に設定される。また、相関の検出に用いる画素ライン（実データライン）は、３ラインに限らず、４ラインに拡張することも可能である。すなわち、上下共に、２つの実データラインを用いるようにしても良い。ライン数をいくつにするかは、コストとのトレードオフになるが、４ラインに拡張することにより、相関の検出精度のさらなる向上が期待できる。
また、上記実施の形態では、相関の検出方向（補間軸の方向）を中央を含めて５方向（Ｌ２，Ｌ１，Ｃ１，Ｒ１，Ｒ２）に設定したが、検出方向をより多く設定することも可能である。さらに、上記実施の形態では、式３に示したように、ＤｉｆｆＧｒｏｕｐの計算をする場合に、３個の画素の値をグループとして設定したが、より多くの画素を利用することで検出精度を向上させることが可能である。さらに、グループ数を増やすことも可能である。
また、上記実施の形態では、補助補間ポイントに用いる画素を、補間ポイントの真上（または真下）の画素ｚとしたが、補助補間ポイントに用いる画素を、真上（または真下）の画素ｚの近傍、数画素以内にある他の画素を用いるようにしても良い。
また、本実施の形態に係るフィールド内補間の手法は、ＩＰ変換の場合のみならず、例えば解像度変換にも応用することが可能である。例えば、第１０図に示したように、水平画素数Ｈ１で垂直画素数Ｖ１の画像を、本実施の形態に係るフィールド内補間の手法を用いて、まず、垂直画素数Ｖ１を２倍に変換し、次いで水平画素数Ｈ１を２倍に変換する。これにより、水平・垂直方向への２倍の解像度変換が高画質で実現できる。このことからも分かるように、本実施の形態に係るフィールド内補間の手法は、垂直上下方向に画素数（走査線数）を増やす場合だけでなく、水平左右方向に画素数を増やす場合にも適用可能である。水平左右方向に画素数を増やす場合には、垂直方向に連続する一連の画素列を１つの画素ラインとして扱う。
以上説明したように、本実施の形態の画像処理装置及び本実施の形態に基づく画像処理方法、映像表示装置、または記録情報再生装置によれば、補間対象の画素に対して、垂直上下方向または水平左右方向に隣接する第１の画素ラインおよび第２の画素ライン上の画素と、その他の第３または第４の画素ライン上の画素とを組み合わせ、少なくとも３つの画素ライン上の画素を参照して、補間方向を決定し、補間対象の画素のデータを生成するようにしたので、単に２つの画素ラインのみを参照して斜め補間を行う場合と比べて、誤補間を回避、軽減し、間違いの少ない斜め補間を実現できる。これにより、高画質なフィールド内補間が実現でき、結果的に高画質なＩＰ変換が実現可能となる。
特に、架空のライン上で、補間対象の画素に対して最も近い位置にある画素、または最も近い位置にある画素の近傍にある画素を、補助的な画素として設定するようにしたので、相関を求めるために参照する画素のデータ範囲を少なく抑えることができる。
【図１】
2004017634.tif 000006
【図２】
2004017634.tif 000007
【図３】
2004017634.tif 000008
【図４】
2004017634.tif 000009
【図５】
2004017634.tif 000010
【図６】
2004017634.tif 000011
【図７】
2004017634.tif 000012
【図８】
2004017634.tif 000013
【図９】
2004017634.tif 000014
【図１０】
2004017634.tif 000015
【図１１】
2004017634.tif 000016
【図１２】
2004017634.tif 000017
【図１３】
2004017634.tif 000018
【国際調査報告】
2004017634.tif 000019
2004017634.tif 000020
2004017634.tif 000021
2004017634.tif 000022