(57)【要約】【課題】  繰り返し模様の誤検出を減少させることにより、高精度なフレーム補間装置を得る。【解決手段】  動きベクトルを検出する動きベクトル検出手段と、入力フレーム画像の空間周波数成分の分布を検出する分布検出手段と、この分布検出手段によって検出された空間周波数成分の分布から入力画像フレームの特徴を分析する特徴分析手段と、特徴分析手段によって検出された特徴に応じて、前記動きベクトル検出手段を制御する制御手段と、前記特徴分析手段によって検出された特徴に応じて、前記検出した動きベクトルを用いて補間画像を作成する補間フレーム作成手段と、前記入力フレーム画像と、前記補間フレーム作成手段により作成された補間フレーム画像を前記入力フレーム画像の間に挿入してフレーム数を増やした出力フレーム画像を出力する出力手段とを備える。【選択図】      図１
2010081411.tif 000002
【特許請求の範囲】
【請求項１】
入力される２枚以上のフレーム画像を用いて、前記入力フレーム画像の間に位置する新たな補間フレーム画像を作成するフレーム補間装置であって、
前記入力フレーム画像を複数のブロックに分割し、この分割した領域毎に前記入力フレーム画像間のブロックマッチングによりフレーム画像内の物体の動きベクトルを検出する動きベクトル検出手段と、
前記入力フレーム画像の空間周波数成分の分布を検出する分布検出手段と、
この分布検出手段によって検出された空間周波数成分の分布から入力画像フレームの特徴を分析する特徴分析手段と、
この特徴分析手段によって検出された特徴に応じて、前記動きベクトル検出手段を制御する制御手段と、
前記特徴分析手段によって検出された特徴に応じて、前記検出した動きベクトルを用いて補間画像を作成する補間フレーム作成手段と、
前記補間フレーム作成手段により作成された補間フレーム画像を前記入力フレーム画像の間に挿入した出力フレーム画像を出力する出力手段とを備えたことを特徴とするフレーム補間装置。
【請求項２】
前記特徴分析手段は、前記入力フレーム画像中の空間周波数成分が低周波域に集中していることを検出し、
前記制御手段は前記動きベクトル検出手段に対して、
前記特徴分析手段によって検出された特徴が前記入力フレーム画像中の空間周波数成分が低周波域のみに集中している場合に、動きベクトルを検出するための画像を、元の入力フレーム画像から前記画像を縮小した画像に変更するよう制御し、
前記特徴分析手段によって検出された特徴が前記入力フレーム画像中の空間周波数成分が低周波域のみに集中していない場合に、動きベクトルを検出するための画像を、元の入力フレーム画像から前記画像を縮小した画像に変更しないように制御することを特徴とする請求項１記載のフレーム補間装置。
【請求項３】
前記特徴分析手段は、前記入力フレーム画像中の空間周波数成分が低周波域に集中していることを検出し、
前記制御手段は前記動きベクトル検出手段に対して、
前記特徴分析手段によって検出された特徴が前記入力フレーム画像中の空間周波数成分が低周波域のみに集中している場合に、動きベクトルとして選択できるベクトルの種類を変更するよう制御し、
前記特徴分析手段によって検出された特徴が前記入力フレーム画像中の空間周波数成分が低周波域のみに集中していない場合に、動きベクトルとして選択できるベクトルの種類を変更しないよう制御することを特徴とする請求項１記載のフレーム補間装置。
【請求項４】
前記特徴分析手段は、前記入力フレーム画像中の空間周波数成分が低周波域に集中していることを検出し、
前記制御手段は前記動きベクトル検出手段に対して、
前記特徴分析手段によって検出された特徴が前記入力フレーム画像中の空間周波数成分が低周波域のみに集中している場合に、前記ブロックマッチングを行うブロックの大きさを変更するよう制御し、
前記特徴分析手段によって検出された特徴が前記入力フレーム画像中の空間周波数成分が低周波域のみに集中していない場合に、前記ブロックマッチングを行うブロックの大きさを変更しないように制御することを特徴とする請求項１記載のフレーム補間装置。
【請求項５】
前記特徴分析手段は、前記入力フレーム画像中の空間周波数成分が特定の周波数に集中していることを検出することにより前記入力フレーム画像中に繰り返し模様が存在することを検出し、
前記制御手段は補間フレーム作成手段に対して、前記特徴分析手段によって検出された前記入力フレーム画像中に繰り返し模様が存在することに応じて、前記検出した動きベクトルを用いて繰り返し模様に起因する誤補間を防ぐようにフレーム補間方法を変更して補間画像を作成させることを特徴とする請求項１記載のフレーム補間装置。
【請求項６】
更に、前記出力フレーム画像を表示する表示手段を備えたことを特徴とする請求項１乃至５のいずれか１項記載のフレーム補間装置。
【請求項７】
入力される２枚以上のフレーム画像を用いて、前記入力フレーム画像の間に位置する新たなフレーム画像を作成するフレーム補間方法であって、
前記入力フレーム画像を複数のブロックに分割し、この分割した領域毎に前記入力フレーム画像間のブロックマッチングによりフレーム画像内の物体の動きベクトルを検出する動きベクトル検出ステップと、
前記入力フレーム画像の空間周波数成分の分布を検出する分布検出ステップと、
この分布検出ステップによって検出された空間周波数成分の分布から入力画像フレームの特徴を分析する特徴分析ステップと、
この特徴分析ステップによって検出された特徴に応じて、前記動きベクトル検出手段を制御する制御ステップと、
前記特徴分析ステップによって検出された特徴に応じて、前記検出した動きベクトルを用いて補間画像を作成する補間フレーム作成ステップと、
前記補間フレーム作成手段により作成された補間フレーム画像を前記入力フレーム画像の間に挿入した出力フレーム画像を出力する出力ステップとを備えたことを特徴とするフレーム補間方法。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明は、フレーム補間装置及び方法に関する。
【背景技術】
【０００２】
従来のフレーム補間装置としては、ブロックマッチングにより求めた動きベクトルと、全画面の動きベクトルを平均した動きベクトルとを比較し、それぞれの動きベクトルが指す領域の絵柄が似通っていれば、その領域に繰り返し模様が存在すると判断し、動きベクトルを変更する（例えば、特許文献１参照）。
【特許文献１】特開２００７−２３５４０３号公報
【発明の開示】
【発明が解決しようとする課題】
【０００３】
しかし、特許文献１に記載の技術では、動きベクトルのみから繰り返し模様を検出するために誤検出を起こしやすいという問題があった。
この発明は、上記したような繰り返し模様の誤検出を減少させることにより、高精度なフレーム補間装置及び方法を得ることを目的とする。
【課題を解決するための手段】
【０００４】
上記の目的を達成するために、この発明においては、入力される２枚以上のフレーム画像を用いて、前記入力フレーム画像の間に位置する新たな補間フレーム画像を作成するフレーム補間装置であって、前記入力フレーム画像を複数のブロックに分割し、この分割した領域毎に前記入力フレーム画像間のブロックマッチングによりフレーム画像内の物体の動きベクトルを検出する動きベクトル検出手段と、前記入力フレーム画像の空間周波数成分の分布を検出する分布検出手段と、この分布検出手段によって検出された空間周波数成分の分布から入力画像フレームの特徴を分析する特徴分析手段と、この特徴分析手段によって検出された特徴に応じて、前記動きベクトル検出手段を制御する制御手段と、前記特徴分析手段によって検出された特徴に応じて、前記検出した動きベクトルを用いて補間画像を作成する補間フレーム作成手段と、前記補間フレーム作成手段により作成された補間フレーム画像を前記入力フレーム画像の間に挿入した出力フレーム画像を出力する出力手段とを備えたことを特徴とするフレーム補間装置を提供する。
【０００５】
また、上記の目的を達成するために、この発明においては、入力される２枚以上のフレーム画像を用いて、前記入力フレーム画像の間に位置する新たなフレーム画像を作成するフレーム補間方法であって、前記入力フレーム画像を複数のブロックに分割し、この分割した領域毎に前記入力フレーム画像間のブロックマッチングによりフレーム画像内の物体の動きベクトルを検出する動きベクトル検出ステップと、前記入力フレーム画像の空間周波数成分の分布を検出する分布検出ステップと、この分布検出ステップによって検出された空間周波数成分の分布から入力画像フレームの特徴を分析する特徴分析ステップと、この特徴分析ステップによって検出された特徴に応じて、前記動きベクトル検出手段を制御する制御ステップと、前記特徴分析ステップによって検出された特徴に応じて、前記検出した動きベクトルを用いて補間画像を作成する補間フレーム作成ステップと、前記補間フレーム作成手段により作成された補間フレーム画像を前記入力フレーム画像の間に挿入した出力フレーム画像を出力する出力ステップとを備えたことを特徴とするフレーム補間方法を提供する。
【０００６】
なお、装置に係る本発明は方法に係る発明としても成立し、方法に係る本発明は装置に係る発明としても成立する。
また、装置または方法に係る本発明は、コンピュータに当該発明に相当する手順を実行させるための（あるいはコンピュータを当該発明に相当する手段として機能させるための、あるいはコンピュータに当該発明に相当する機能を実現させるための）プログラムとしても成立し、該プログラムを記録したコンピュータ読み取り可能な記録媒体としても成立する。
【発明の効果】
【０００７】
この発明によれば、入力画像信号の空間周波数成分の分布に応じて補間フレームの作成方法を変更しているので、より破綻が少ない高精度なフレーム補間装置および方法を得ることができる。
【発明を実施するための最良の形態】
【０００８】
以下、図面を参照しながら本発明の実施形態について説明する。
動画をホールド表示型ディスプレイに表示するときに起こる残像感を軽減したり、映画など１秒当たりのフレーム数が少ない動画を滑らかに表示したりするために、連続する複数のフレームから補間フレームを作成し、元となったフレームの間に作成した補間フレームを挿入して表示する方法が知られている。この方法により、動画の画質を向上させることができる。
【０００９】
ところが、連続する複数のフレーム間に生じる画像の動きがとても大きい場合や、繰り返し模様などによりフレーム間の動きが求めにくい場合に、フレーム補間装置が元画像から誤った動きを検出することがある。このような誤った動きをもとに作成された補間フレームは、本来作られるべき画像と異なる画像となってしまう。このような低精度な補間フレーム画像を元となったフレーム画像間に挿入して表示すると、かえって画質を低下させてしまう。
【００１０】
この発明の目的は、フレーム補間装置が上記した理由による低精度な補間フレームを作成することを防ぎ、高精度な補間フレームを作成することである。
本発明では、上記目的を達成するために、次のような特徴を有するフレーム補間方法を提案する。
まず、補間フレームを作成する元となるフレーム画像信号の空間周波数特性、つまり絵柄の複雑さから、元となるフレーム画像が有する絵柄の特徴を検出する。この検出した絵柄の特徴に応じて、画像信号に相応しい補間フレームの作成方法を選択する。
【００１１】
以下、本発明の大まかな構成と動作について詳細に説明する。この実施形態では、動画の元フレームがどのような特徴を有する画像のとき、どのように補間フレームの作成方法を変更するかによって、高精度な補間フレームを作成しているかを説明する。まず、本発明のフレーム補間装置の構成を述べる。
【００１２】
図１は、本発明のフレーム補間装置の構成を示す図である。
本発明のフレーム補間装置は、入力画像の絵柄の特徴を解析する入力画像空間周波数特性分析部１０１と、入力画像を格納するフレームメモリ１０３と、連続する複数のフレーム間の動きを検出する動きベクトル検出部１０４と、動きベクトル検出部１０４が検出した動きをもとに補間フレームを生成する補間画像作成部１０５と、動きベクトル検出部１０４および補間画像作成部１０５を制御するフレーム補間処理制御部１０２と、フレーム補間処理された画像信号１１８を表示するディスプレイ１１９とから構成される。
【００１３】
次に、このように構成された本発明のフレーム補間装置の動作について説明する。
まず動画の各フレームの画像信号１１１を入力画像空間周波数特性分析部１０１に入力する。入力画像空間周波数特性分析部１０１では、各フレームにおける画像信号の空間周波数特性、つまり絵柄の複雑さをもとに画像の特徴を抽出し、補間フレームをどのように作成するかの制御信号１１２をフレーム補間処理制御部１０２へ送出する。
【００１４】
一方、同じフレーム画像信号１１１をフレームメモリ１０３に記録しながら、１つ前のフレーム画像信号１１３との間の画像の変化を動きベクトル検出部１０４で探索し、フレーム画像間の動きベクトル１１５を補間画像作成部１０５へ送出する。このとき画像を複数の小さなブロックに区切り、各ブロックがフレーム間でどのように動いたかを動きベクトルとして探索するブロックマッチングを行う。フレーム補間処理制御部１０２が送出する補間フレーム作成方法制御信号１１６に従い、前記動きベクトル１１５と、現フレームの画像信号１１１と前フレームの画像信号１１３とから、補間画像作成部１０５にて補間フレーム画像信号１１７を作成する。そして、元の２フレームの間に補間フレームを挿入し、フレーム補間処理された画像信号１１８を出力する。
【００１５】
図１では入力フレーム画像を複数の領域に分割したが、全ての領域で同じフレーム補間処理方法を用いた。しかし、入力フレーム画像を複数の領域に分割し、この分割した領域毎にフレーム補間処理方法を変更しても良い。
【００１６】
図２は、このように分割した領域毎にフレーム補間処理方法を変更する本発明のフレーム補間装置の構成を示す図である。なお、図１と同じ部分については説明を省略する。
【００１７】
図２において、入力フレーム画像の各領域に対するフレーム補間処理制御信号１０１を、画像領域毎のフレーム補間制御方法記憶部２０１に送出する。補間フレーム作成において、フレーム補間処理制御部１０２は、画像領域毎のフレーム補間制御方法記憶部２０１で記憶された制御信号２１１を参照する。
【００１８】
ここで、図３を用いて入力画像空間周波数特性分析部１０１の更に詳細な構成と動作について説明する。
図３は、入力画像空間周波数特性分析部１０１の更に詳細な構成を示す図である。
入力画像空間周波数特性分析部１０１は、複数の空間周波数域成分を取得するための複数のフィルタ３０１〜３０３と、フィルタ３０１〜３０３の出力からヒストグラムを生成するヒストグラム取得部３０４〜３０６と、これらヒストグラム取得部３０４〜３０６から得られるヒストグラムから画像信号の特徴を分析する入力画像空間周波数特性抽出及びフレーム補間方法の制御内容決定部３０７から構成される。
【００１９】
次に、このように構成された入力画像空間周波数特性分析部１０１の動作について説明する。
まず、入力画像信号１１１をそれぞれ特性の異なる複数の空間周波数選択部（フィルタ）３０１〜３０３に入力する。それぞれのフィルタの出力信号３１２〜３１４はそれぞれのヒストグラム取得部３０４〜３０６へ入力され、それぞれヒストグラム３１５〜３１７を生成する。このとき、これらのヒストグラムには、入力画像信号における、それぞれ異なる周波数域ごとの成分が現れる。
【００２０】
よって、入力画像信号の空間周波数成分、すなわち画像の絵柄の空間的な変化がどのように分布しているかがわかる。そして、この空間周波数成分の分布を得る入力画像空間周波数特性抽出、およびフレーム補間方法の制御内容決定部３０７が、入力画像信号に最もふさわしいフレーム補間処理方法を指定する制御信号１１２を出力する。
【００２１】
以下、本発明のフレーム補間装置において、入力画像の絵柄にどのような特徴があるかを検出し、この結果に応じてどのように補間フレームの作成方法を変更するかについて説明する。
【００２２】
（補間フレーム作成方法の第１の例）
補間フレーム作成方法の第１の例について説明する。
入力画像の空間周波数成分が低周波域のみに集中するとき、画像の絵柄の変化が緩やかである。このとき、入力画像は、画像の縮小にともなう高域の空間周波数成分の削除による画質の低下が小さく、絵柄の細かい変化が失われることが少ない。よって、入力画像のある領域で前記の特徴を検出するとき、その領域では、連続するフレーム間の動き探索を、縮小画像を用いて行うように変更する。そして、得られた動きベクトルと縮小する前の元のフレーム画像信号から補間フレームを作成する。
【００２３】
図４は、補間フレーム作成方法の第１の例を実現するためのフレーム補間装置の構成を示す図である。
図４において、入力フレーム画像信号１１１を入力画像空間周波数特性分析部１０１と画像縮小部４０１に入力する。入力画像空間周波数特性分析部１０１で、入力画像の特徴を検出し、フレーム補間方法の制御信号１１２を送出する。前記制御信号１１２は画像領域毎のフレーム補間制御方法記憶部２０１に記憶される。前記制御信号１１２は、前記記憶部２０１から、フレーム補間処理制御部１０２に送出される。一方、画像縮小部４０１で入力画像を縮小する。元の入力画像と、画像縮小部４０１から送出される縮小された画像信号４１１を、それぞれフレームメモリ１０３に格納する。
【００２４】
入力フレーム画像において、空間周波数成分が低周波域のみに集中している領域では、縮小した入力画像４１１と１フレーム前の縮小した入力画像４１２から動きを探索する。
【００２５】
それ以外の空間周波数成分が低周波域のみに集中していない領域では、縮小する前の入力画像１１１と縮小されない前フレームの画像信号１１３から動きを探索する。
【００２６】
求めた各動きベクトル１１５と、フレーム画像信号１１１、縮小されない前フレームの画像信号１１３から補間画像１１７を作成する。そして、元フレーム画像の間に補間画像を挿入し、フレーム補間処理された画像信号１１８を出力する。以上のフレーム補間方法により、作成する補間フレームの精度の低下を防ぎながら、より広い範囲の動きを探索することができるようになる。
【００２７】
（補間フレーム作成方法の第２の例）
補間フレーム作成方法の第２の例を説明する。
入力画像の空間周波数成分が低周波域のみに集中するとき、画像の絵柄の変化は緩やかである。このとき、入力画像には、画像に細かい動きが存在しない。よって、入力画像から前記特徴を検出するとき、連続するフレーム間の動き探索において、図１の動きベクトル検出部１０４で求めることが許される動きベクトルの種類を変更する。そして、得られた動きベクトルと元のフレーム画像信号から補間フレームを作成する。このように探索できる動きベクトルの種類を変更する例を図５に示す。
【００２８】
図５（ａ）に示した動きベクトルを求めるときの探索範囲は、図５（ａ）に示した探索範囲と比べて、動きベクトルの総数は同じまま、より大きな動きベクトルを検出することができる。逆に、図５（ａ）に示した探索範囲は、図５（ａ）に示した探索範囲より、隣同士の動きベクトルの間隔がより密になっており、より細かい動きを検出することができる。
【００２９】
よって、前述した補間フレーム作成方法の第２の例において、空間周波数成分が低周波域のみに集中する領域では、図５（ｂ）に示すような、より広大な探索範囲、それ以外の領域では、図５（ａ）に示すようなより密な探索範囲を選ぶ。以上のフレーム補間方法により、補間フレームの精度の低下を防ぎながら、より広い範囲の動きを探索することができるようになる。
【００３０】
（補間フレーム作成方法の第３の例）
補間フレーム作成方法の第３の例を説明する。入力画像の空間周波数成分が低周波域のみに集中するとき、入力画像の絵柄の変化は緩やかである。このとき、入力画像では、広い範囲にわたって同じような絵柄が続くため、画像のノイズなどに起因してブロックマッチングにおいて本来選ばれるべき動きベクトルとは違う動きベクトルが選ばれやすい。よって、入力画像から前記特徴を検出するとき、連続するフレーム間の動き探索において、より大きな範囲で絵柄の比較を行うために、図１の動きベクトル検出部１０４において、ブロックマッチングを行うブロックの大きさを拡大する。このようにすると、ブロックマッチングを行うブロック内の絵柄の変化が現れやすくなり、本来選ばれるべき動きベクトルが選ばれやすくなる。そして、得られた動きベクトルと元のフレーム画像信号から補間フレームを作成する。以上のフレーム補間方法により、より正確な補間フレームを作成することができるようになる。
【００３１】
（補間フレーム作成方法の第４の例）
補間フレーム作成方法の第４の例を説明する。入力画像の空間周波数成分がある特定の周波数域に集中して検出されるとき、入力画像に繰り返し模様が存在する。よって、繰り返し模様に起因するフレーム間の動きの誤検出を防ぐようにフレーム補間方法を変更してフレーム補間を行う。
【００３２】
以下、上記（補間フレーム作成方法の第４の例）に関し、繰り返し模様による動きベクトルの誤検出を防ぐ例を順に説明する。
繰り返し模様のある画像で動きベクトルの誤検出を起こしやすい理由は、繰り返し模様がある領域では、何通りもの動きを探索できてしまうため、適切な動きを決定しにくいからである。特に、繰り返し模様の位置が連続する２フレーム間でわずかに動くときや、繰り返し模様がノイズなどにより微小に変化するときは、誤った動きベクトルを求めてしまいやすい。
【００３３】
（繰り返し模様による動きベクトルの誤検出を防ぐ方法の第１の例）
繰り返し模様による動きベクトルの誤検出を防ぐ方法の第１の例は、図１における動きベクトル検出部１０４において、探索する動きベクトルの範囲を、繰り返し模様より狭く変更することである。なぜなら、ブロックマッチングにおいて、繰り返し模様の次の繰り返しを参照しないことで、動きベクトル探索において候補となる動きベクトルが減り、誤った動きベクトルが選ばれにくくなるためである。この方法により、繰り返し模様による補間フレームの精度の低下を防ぐことができる。
【００３４】
（繰り返し模様による動きベクトルの誤検出を防ぐ方法の第２の例）
繰り返し模様による動きベクトルの誤検出を防ぐ方法の例は、図１における補間画像作成部１０５で使用できる動きベクトルの範囲を通常より狭く変更することである。
【００３５】
このため補間画像生成部１０５は、使用できる動きベクトルの範囲を、動きベクトル検出部１０４により検出される動きベクトルの範囲に対して変更できる装置とする。補間画像作成部１０５で使用できる動きベクトルの範囲を狭く変更するための技術としては、特開２００８−０６７２０５号公報に開示されている技術を用いればよい。補間画像作成部１０５は、検出した動きベクトルの範囲を制限し、その動きベクトルを補間フレームの作成に使用する。
【００３６】
このとき、元の動きベクトルを小さくした動きベクトルを用いて補間フレームを作成することになるので、フレーム補間の効果は小さくなる。しかし、繰り返し模様により誤って検出した動きベクトルによる、補間フレームの精度の低下も小さくなるため、画質の低下もより小さくなる。
【００３７】
（繰り返し模様による動きベクトルの誤検出を防ぐ方法の第３の例）
繰り返し模様による動きベクトルの誤検出を防ぐ方法は、あるブロックの動きベクトルと、その空間的または時間的に隣り合うブロックの動きベクトルとの間の大きな変化を、より許さなくすることである。動きベクトルのスムーズ化については、特開２００８−０６７２２２号公報に開示されている技術を用いればよい。特開２００８−０６７２２２号公報には、動きベクトルのフィルタリングにおける機能を、入力画像信号の特徴に応じて制御する技術が開示されている。
【００３８】
図６は、この繰り返し模様による動きベクトルの誤検出を防ぐ方法の第３の例に示す方法を実行できるフレーム補間装置の構成を示す図である。
図６において、動きベクトル検出部１０４で探索した１フレーム分の動きベクトル１１５を、動きベクトルメモリ６０１に記憶する。次のフレームの動きベクトル探索において、動きを探索しているブロックの周囲のブロックと、１フレーム前に検出した同じ位置のブロックの、それぞれの動きベクトル６１１を、動きベクトルメモリ６０１から動きベクトル検出部１０４に送出する。そして、探索した動きベクトルが、周囲の動きベクトル６１１に対して孤立した値をとらないように変更する。特に、入力フレーム画像から繰り返し模様を検出するときは、周囲の動きベクトルとの違いをより強く矯正する。この方法により、繰り返し模様によって誤検出した動きベクトルが、その周囲の正しく検出された動きベクトルにより修正されるため、作成する補間フレーム１１７の精度の低下を防ぐことができる。
【００３９】
以上説明したとおり、本発明によれば、入力画像信号の空間周波数成分の分布から、その画像信号の特徴を解析し、この解析結果を補間フレームの作成方法に反映させているので、より破綻が少ない高精度な補間フレーム作成方法および装置を得ることができる。
【００４０】
また、本発明によれば、入力画像信号の空間周波数特性をもとに繰り返し模様を検出する、この検出結果を補間フレームの作成方法に反映させているので、より破綻が少ない高精度な補間フレーム作成方法および装置を得ることができる。
【００４１】
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
【図面の簡単な説明】
【００４２】
【図１】本発明のフレーム補間装置の構成を示す図。
【図２】分割した領域毎にフレーム補間処理方法を変更する本発明のフレーム補間装置の構成を示す図。
【図３】入力画像空間周波数特性分析部１０１の更に詳細な構成を示す図。
【図４】補間フレーム作成方法の第１の例を実現するためのフレーム補間装置の構成を示す図。
【図５】動きベクトルを求めるときの探索範囲を示す図。
【図６】繰り返し模様による動きベクトルの誤検出を防ぐ方法の第３の例に示す方法を実行できるフレーム補間装置の構成を示す図。
【符号の説明】
【００４３】
１０１…入力画像空間周波数特性分析部、１０３…フレームメモリ、１０４…動きベクトル検出部、１０５…補間画像作成部、１０２…フレーム補間処理制御部、１１９…ディスプレイ、２０１…フレーム補間制御方法記憶部、３０１〜３０３…フィルタ、３０４〜３０６…ヒストグラム取得部、３０７…入力画像空間周波数特性抽出及びフレーム補間方法の制御内容決定部、４０１…画像縮小部、６０１…動きベクトルメモリ。
【図１】
2010081411.tif 000003
【図２】
2010081411.tif 000004
【図３】
2010081411.tif 000005
【図４】
2010081411.tif 000006
【図５】
2010081411.tif 000007
【図６】
2010081411.tif 000008
【手続補正書】
【提出日】平成21年12月14日(2009.12.14)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
入力される２枚以上のフレーム画像を用いて、前記入力フレーム画像の間に位置する新たな補間フレーム画像を作成するフレーム補間装置であって、
前記入力フレーム画像を複数の画像ブロックに分割し、この分割した画像ブロック毎に前記入力フレーム画像間のブロックマッチングを行うことによりフレーム画像内の物体の動きベクトルを検出する動きベクトル検出手段と、
前記入力フレーム画像の空間周波数成分の分布を検出する分布検出手段と、
この分布検出手段によって検出された空間周波数成分の分布から前記入力フレーム画像の特徴として空間周波数特性を分析する特徴分析手段と、
この特徴分析手段によって分析された前記入力フレーム画像の空間周波数特性に応じて、前記動きベクトル検出手段による動きベクトルの検出の処理内容に変更を加える制御を行う制御手段と、
前記制御手段により制御された前記動きベクトル検出手段が検出する動きベクトルを用いて、補間フレーム画像を作成する補間フレーム作成手段と、
前記補間フレーム作成手段により作成された補間フレーム画像を前記入力フレーム画像の間に挿入した出力フレーム画像を出力する出力手段とを備えたことを特徴とするフレーム補間装置。
【請求項２】
前記特徴分析手段は、前記入力フレーム画像中で空間周波数成分が低周波域に集中している領域を検出し、
前記制御手段は、前記動きベクトル検出手段に対して、
前記特徴分析手段による分析結果に基づき、前記入力フレーム画像中で空間周波数成分が低周波域のみに集中している領域では、動きベクトルを検出するための対象の画像を、元の入力フレーム画像から当該元の入力フレーム画像を縮小した画像へ変更するよう制御し、
前記特徴分析手段による分析結果に基づき、前記入力フレーム画像中で空間周波数成分が低周波域のみに集中していない領域では、動きベクトルを検出するための対象の画像を、元の入力フレーム画像から当該元の入力フレーム画像を縮小した画像へ変更しないように制御することを特徴とする請求項１記載のフレーム補間装置。
【請求項３】
前記特徴分析手段は、前記入力フレーム画像中で空間周波数成分が低周波域に集中している領域を検出し、
前記制御手段は、前記動きベクトル検出手段に対して、
前記特徴分析手段による分析結果に基づき、前記入力フレーム画像中で空間周波数成分が低周波域のみに集中している領域では、動きベクトルとして選択できるベクトルの種類を変更するよう制御し、
前記特徴分析手段による分析結果に基づき、前記入力フレーム画像中で空間周波数成分が低周波域のみに集中していない領域では、動きベクトルとして選択できるベクトルの種類を変更しないよう制御することを特徴とする請求項１記載のフレーム補間装置。
【請求項４】
前記特徴分析手段は、前記入力フレーム画像の空間周波数成分が低周波域に集中しているか否かを検出し、
前記制御手段は前記動きベクトル検出手段に対して、
前記特徴分析手段による分析結果に基づき、前記入力フレーム画像の空間周波数成分が低周波域のみに集中している場合に、前記ブロックマッチングを行う前記画像ブロックの大きさを変更するよう制御し、
前記特徴分析手段による分析結果に基づき、前記入力フレーム画像の空間周波数成分が低周波域のみに集中していない場合に、前記ブロックマッチングを行う前記画像ブロックの大きさを変更しないように制御することを特徴とする請求項1記載のフレーム補間装置。
【請求項５】
前記特徴分析手段は、前記入力フレーム画像の空間周波数成分が特定の周波数に集中しているか否かを分析することにより前記入力フレーム画像中に繰り返し模様が存在するか否かを検出し、
前記制御手段は、前記特徴分析手段により前記入力フレーム画像中に繰り返し模様が存在することが検出された場合に、前記検出した動きベクトルを用いて繰り返し模様に起因する誤補間を防ぐように前記動きベクトル検出手段による動きベクトルの検出範囲を狭める方向に変更を加えることを特徴とする請求項1記載のフレーム補間装置。
【請求項６】
更に、前記出力フレーム画像を表示する表示手段を備えたことを特徴とする請求項１乃至５のいずれか１項記載のフレーム補間装置。
【請求項７】
入力される２枚以上のフレーム画像を用いて、前記入力フレーム画像の間に位置する新たなフレーム画像を作成するフレーム補間方法であって、
前記入力フレーム画像を複数の画像ブロックに分割し、この分割した画像ブロック毎に前記入力フレーム画像間のブロックマッチングを行うことによりフレーム画像内の物体の動きベクトルを検出する動きベクトル検出ステップと、
前記入力フレーム画像の空間周波数成分の分布を検出する分布検出ステップと、
この分布検出ステップによって検出された空間周波数成分の分布から前記入力フレーム画像の特徴として空間周波数特性を分析する特徴分析ステップと、
この特徴分析ステップによって分析された前記入力フレーム画像の空間周波数特性に応じて、前記動きベクトル検出手段による動きベクトルの検出の処理内容に変更を加える制御を行う制御ステップと、
前記制御ステップにより制御されつつ前記動きベクトル検出ステップで検出された動きベクトルを用いて、補間フレーム画像を作成する補間フレーム作成ステップと、
前記補間フレーム作成ステップにより作成された補間フレーム画像を前記入力フレーム画像の間に挿入した出力フレーム画像を出力する出力ステップとを備えたことを特徴とするフレーム補間方法。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】０００３
【補正方法】変更
【補正の内容】
【０００３】
しかし、特許文献１に記載の技術では、動きベクトルのみから繰り返し模様を検出するために誤検出を起こしやすいという問題があった。
この発明は、より破綻が少ない高精度なフレーム補間装置及び方法を得ることを目的とする。
【手続補正４】
【補正対象書類名】明細書
【補正対象項目名】０００４
【補正方法】変更
【補正の内容】
【０００４】
上記の目的を達成するために、この発明においては、入力される２枚以上のフレーム画像を用いて、前記入力フレーム画像の間に位置する新たな補間フレーム画像を作成するフレーム補間装置であって、前記入力フレーム画像を複数の画像ブロックに分割し、この分割した画像ブロック毎に前記入力フレーム画像間のブロックマッチングを行うことによりフレーム画像内の物体の動きベクトルを検出する動きベクトル検出手段と、前記入力フレーム画像の空間周波数成分の分布を検出する分布検出手段と、この分布検出手段によって検出された空間周波数成分の分布から前記入力フレーム画像の特徴として空間周波数特性を分析する特徴分析手段と、この特徴分析手段によって分析された前記入力フレーム画像の空間周波数特性に応じて、前記動きベクトル検出手段による動きベクトルの検出の処理内容に変更を加える制御を行う制御手段と、前記制御手段により制御された前記動きベクトル検出手段が検出する動きベクトルを用いて、補間フレーム画像を作成する補間フレーム作成手段と、前記補間フレーム作成手段により作成された補間フレーム画像を前記入力フレーム画像の間に挿入した出力フレーム画像を出力する出力手段とを備えたことを特徴とするフレーム補間装置を提供する。
【手続補正５】
【補正対象書類名】明細書
【補正対象項目名】０００５
【補正方法】変更
【補正の内容】
【０００５】
また、上記の目的を達成するために、この発明においては、入力される２枚以上のフレーム画像を用いて、前記入力フレーム画像の間に位置する新たなフレーム画像を作成するフレーム補間方法であって、前記入力フレーム画像を複数の画像ブロックに分割し、この分割した画像ブロック毎に前記入力フレーム画像間のブロックマッチングを行うことによりフレーム画像内の物体の動きベクトルを検出する動きベクトル検出ステップと、前記入力フレーム画像の空間周波数成分の分布を検出する分布検出ステップと、この分布検出ステップによって検出された空間周波数成分の分布から前記入力フレーム画像の特徴として空間周波数特性を分析する特徴分析ステップと、この特徴分析ステップによって分析された前記入力フレーム画像の空間周波数特性に応じて、前記動きベクトル検出手段による動きベクトルの検出の処理内容に変更を加える制御を行う制御ステップと、前記制御ステップにより制御されつつ前記動きベクトル検出ステップで検出された動きベクトルを用いて、補間フレーム画像を作成する補間フレーム作成ステップと、前記補間フレーム作成ステップにより作成された補間フレーム画像を前記入力フレーム画像の間に挿入した出力フレーム画像を出力する出力ステップとを備えたことを特徴とするフレーム補間方法を提供する。
【手続補正６】
【補正対象書類名】明細書
【補正対象項目名】００２８
【補正方法】変更
【補正の内容】
【００２８】
図５（ｂ）に示した動きベクトルを求めるときの探索範囲は、図５（ａ）に示した探索範囲と比べて、動きベクトルの総数は同じまま、より大きな動きベクトルを検出することができる。逆に、図５（ａ）に示した探索範囲は、図５（ｂ）に示した探索範囲より、隣同士の動きベクトルの間隔がより密になっており、より細かい動きを検出することができる。