(57)【要約】【課題】映画の２４Ｈｚの映像信号を６０Ｈｚで表示する際に用いられる３：２プルダウンは、２４Ｈｚに対して不均一な間隔で表示が行われるため動きに不自然さが生じる。一方、従来のフレームレート変換を使用したフィルム・デジャダーでは映画らしさが失われてしまう。【解決手段】２４Ｈｚの映像信号を６０Ｈｚで表示する際、２４Ｈｚの映像から動きベクトルを検出し、この動きベクトルから推定される物体の移動軌跡（＝視線の移動軌跡）からのずれ幅を均等にするために、３：２プルダウンで用いられるフレームのうち、このずれ幅を超えた一部のフレームに検出した動きベクトルを用いた補間フレームを生成する。これにより３：２プルダウンの不自然さを低減しつつ、映画らしさを損なわない表示が可能となる。【選択図】図１
2012182691.tif 000002
【特許請求の範囲】
【請求項１】
第１のフレームレートを有する第１の映像信号を第１のフレームレートより高レートな第２のフレームレートを有する第２映像信号へ変換する画像変換装置において、
前記第１の映像信号の時間的に連続する少なくとも２つのフレームから動きベクトルを検出する動きベクトル検出部と、
前記第１の映像信号と、前記動きベクトルと、補間位相と、に基づいて補間フレームを生成し、前記第１の映像信号のフレームと該補間フレームと、から第２の映像信号を生成するフレーム生成部と、
前記補間フレームを生成する際に、該補間フレームと前記動きベクトルにより示される移動軌跡との位相差の大きさが、前記第２の映像信号に含まれる第１の映像信号のフレームと前記移動軌跡との所定以上の大きさを有する位相差の大きさと、略同一となるように該補間フレームの補間位相を決定する補間制御部と、
を備える画像変換装置。
【請求項２】
前記補間制御部は、前記補間フレームと前記動きベクトルにより示される移動軌跡との位相差の大きさが、前記第２の映像信号に含まれる第１の映像信号のフレームと前記移動軌跡との所定以上の大きさを有する位相差の大きさの中で最小のものと、略同一となるように該補間フレームの補間位相を決定する、
請求項１に記載の画像変換装置。
【請求項３】
前記第１の映像信号は、フレームレートが２４Ｈｚの映像信号であり、
前記第２の映像信号は、フレームレートが６０Ｈｚの映像信号である、
請求項１乃至２に記載の画像変換装置。
【請求項４】
前記補間制御部は、
前記動きベクトルにより示される移動軌跡と生成される前記第２の映像信号のフレームとの位相差が周期的に生じ、前記第２の映像信号のフレームのうち、所定以上の位相差の大きさを有するフレームの位相差の大きさが略一定になるように、前記補間フレームの補間位相を決定し、
前記フレーム生成部は、前記第１の映像のフレームと補間フレームとの比率が３対２になるように、前記第２の映像信号を生成する、
請求項３に記載の画像変換装置。
【請求項５】
前記補間制御部は、補間フレームと、該補間フレームと最も近い前記第１の映像信号のフレームと、の位相差の大きさを略１／５とする、
請求項４に記載の画像変換装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、映像信号のフレーム間の動きベクトルを検出し、検出した動きベクトルを用いて補間フレームの生成を行う画像変換装置、特に２４Ｈｚのフレーム周波数で撮影された映画素材を６０Ｈｚで表示を行う画像変換装置に関するものである。
【背景技術】
【０００２】
映像信号処理技術や半導体技術の進展に伴い、映像信号から動きベクトルを検出し、この検出した動きベクトルを用いて映像信号のフレーム周波数の変換を行うことが可能となってきている。このようなフレーム周波数の変換は、例えばＰＡＬ方式（５０Ｈz）で撮影された映像信号をＮＴＳＣ方式（６０Ｈｚ）に変換する場合や、映画（２４Ｈz）をテレビの信号（６０Ｈzまたは５０Ｈｚ）に変換する際に使用することができる。
【０００３】
一般的に映画は２４Ｈｚのフレームレートで撮影されており、この映像をＮＴＳＣ方式（６０Ｈｚ）で表示する場合、従来、３：２プルダウン方式によるフレームレートの変換（テレシネ変換）が用いられてきた。この３：２プルダウンは、映画の１枚の画像を６０Ｈｚの３フレームと２フレームで交互に表示する（図１２）。この結果６０Ｈｚで表示される映像は、同じ映像が複数回表示され、また本来のフレーム周期と異なる時間間隔での表示が行われることになるため、動きのブレ（フィルム・ジャダー）が生じるとともに、動き方に不自然さが生じてしまう。
【０００４】
これに対して特許文献１では、２４Ｈｚの映像から動きベクトルを検出し、この動きベクトルを用いて６０Ｈｚの表示タイミングにあわせた補間フレームを生成して表示することで、不自然さの無い、滑らかな動きの表示が可能になることが開示されている。このようなフレームレート変換はフィルム・デジャダーと呼ばれている。しかし、このような動きベクトルを用いて２４Ｈｚの映像を６０Ｈｚに変換して表示する場合、動きが滑らかになる半面、２４Ｈｚで撮影された映画とは異なる印象を受けてしまうことがあり、映画らしさが失われてしまう。また、正しい動きベクトルが検出されているかによって、動きのなめらかさに大きな差があるため、動きが大きいなどの理由によって正しい動きベクトルが検出できない場合に、大きな画質劣化生じてしまう。
【０００５】
これに対して特許文献２では、補間フレームを生成する時間軸上の位置を、２４Ｈｚを均等に分割したタイミングより、入力である３：２プルダウンのタイミングに近付けることにより、フィルム・ジャダーの低減度合いを調整できることが開示されている。
【０００６】
上記特許文献１や特許文献２のような補間フレームの生成に使用する動きベクトルの算出は、通常、１フレームの画像を所定の画素数（Ｍ×Ｎ画素）からなる複数のブロックに分割し、このブロック毎に連続するフレーム間で相関が最も大きくなる位置を探索するなどの方法により検出する。この時の位置の差がそのブロックに対する動きベクトルに相当する。例えば図１３に示すように、フレーム（Ｆ）内の対象ブロック（１３０１）の動きベクトルを検出する場合、このブロックと相関が最も大きくなる位置をフレーム（Ｆ−１）内で探索し、この位置の差を動きベクトル（１３０２）として検出する。
【０００７】
この動きベクトルを使用した補間フレームの生成は、図１４に示すように、生成する補間フレームの前後のフレームの少なくとも一方の画素、もしくは画素ブロックを動きベクトルに沿って移動することによって行うことができる。このとき、補間フレームを生成する時間軸上の位置（以降、補間位相とする）は、フレーム（Ｆ−１）とフレーム（Ｆ）の間で任意に選ぶことができ、図１４ではフレーム（Ｆ−１）から１／３の補間位相に生成している場合を示している。以上のように、映像信号から動きベクトルを検出し、検出した動きベクトルを使って補間フレームを生成することにより、フレーム周波数の変換が可能となる。
【０００８】
フレーム周波数の変換で動きベクトルを用いる方法は、動きベクトルが連続するフレームを比較することによって検出するものであるため、物体の移動に関しては正しく検出することができるが、回転や拡大／縮小といった動きは正しく検出できない場合がある。また、動く物体の背景に隠れる領域や、背景から現れる領域、また物体の変形など、連続するフレームの一方にしか含まれない領域についても正しい動きベクトルを検出することはできない場合がある。さらに、通常動きベクトルの検出は検出を行う対象のブロックを基準として、所定の範囲を探索することで検出することが多く、この探索範囲を超える動きがある場合にも正しい動きベクトルが検出できない場合がある。
【０００９】
動きベクトルを用いたフレーム周波数の変換を行う場合において、検出される動きベクトルが正確でない場合、補間生成されたフレーム、およびこれらが連続する映像において、動く物体等の周囲にハロ（Ｈａｌｏ）と呼ばれるノイズが発生することが知られている。このハロは不正確な補間フレームが生成されることによるものであるため、表示されるフレームのうち補間フレームの割合が大きい場合や、補間フレームが表示される時間が長い場合、ハロが顕著に発生する場合がある。
【００１０】
例えば６０Ｈｚの映像を１２０Ｈｚに変換する場合、２フレームのうち１フレームが補間フレームであり、かつ補間フレームが表示される時間は１／１２０秒であるため、ハロは比較的、認識されにくい。一方、２４Ｈｚの映像を６０Ｈｚに変換しフィルム・デジャダーを実現する場合、２４Ｈｚの映像を（１）、（２）、（３）、とすると、６０Ｈｚの映像としては（１）、（１．４）、（１．８）、（２．２）、（２．６）、（３）、を出力する必要がある。ここで、（１．４）、（１．８）、（２．２）、（２．６）は生成された補間フレームであり、５フレームのうち４フレームが生成された補間フレームとなる。また一つの補間フレームは１／６０秒間表示される。このためフィルム・デジャダーでは、動きベクトルが間違った場合の画質劣化への影響が大きい。
【００１１】
特許文献２では、補間フレームを生成する時間軸上の位置を入力に近付けることにより、このハロが低減される効果についても開示されている。これは、補間フレームの生成位置が入力フレームに近づくことにより、同じベクトルを使用した場合の、入力フレームからの移動量が小さくなるため、間違った動きベクトルの影響が小さくなることによるものである。
【先行技術文献】
【特許文献】
【００１２】
【特許文献１】特開平９−１７２６１８号公報
【特許文献２】国際公開第２００８／１０２８２６号
【発明の概要】
【発明が解決しようとする課題】
【００１３】
特許文献２は、２４Ｈｚの映画素材を１２０Ｈｚで表示する場合、すなわちフレームレートを整数倍にする場合の補間フレームの生成位置について開示している。これに対し２４Ｈｚを６０Ｈｚに変換する場合、倍率が２．５倍となるため、この方法をそのまま適用したとしても、一定の効果は得られるが、３：２プルダウンの不均一差に起因する動きの不自然さは依然として残る。また、補間フレームの生成位置を入力フレームに近付けたとしても、表示される５フレームのうち４フレームが補間生成されたフレームであることは変わらないため、間違った動きベクトルベクトルの影響を低減させる効果は十分ではない。
【００１４】
本出願の発明の目的は、映像信号の周波数変換を行う際に、動きベクトルによる画質低下を、従来と比較して抑制することである。
【課題を解決するための手段】
【００１５】
本出願の画像変換装置は、第１のフレームレートを有する第１の映像信号を第１のフレームレートより高レートな第２のフレームレートを有する第２映像信号へ変換する画像変換装置において、前記第１の映像信号の時間的に連続する少なくとも２つのフレームから動きベクトルを検出する動きベクトル検出部と、前記第１の映像信号と、前記動きベクトルと、補間位相と、に基づいて補間フレームを生成し、前記第１の映像信号のフレームと該補間フレームと、から第２の映像信号を生成するフレーム生成部と、前記補間フレームを生成する際に、該補間フレームと前記動きベクトルにより示される移動軌跡との位相差の大きさが、前記第２の映像信号に含まれる第１の映像信号のフレームと前記移動軌跡との所定以上の大きさを有する位相差の大きさと、略同一となるように該補間フレームの補間位相を決定する補間制御部と、を備える。
【００１６】
これにより、移動軌跡と第２の映像信号を構成するフレームとの位相差が生じる場合に、その位相差の大きさが略均一となるので、視聴される映像に含まれる対象物がブレる（複数の対象物が重複して表示されるような現象）を従来と比較して抑制することができる。
【００１７】
なお、上記画像変換装置において、補間制御部は、該補間フレームと前記動きベクトルにより示される移動軌跡との位相差の大きさが、前記第２の映像信号に含まれる第１の映像信号のフレームと前記移動軌跡との所定以上の大きさを有する位相差の大きさの中で最小のものと、略同一となるように該補間フレームの補間位相を決定する、ものであってもよい。
【００１８】
これにより、移動軌跡と第２の映像信号に含まれるフレームとの位相差を全体的に小さくすることができ、よりブレの少ない映像を構成することが可能となる。
【００１９】
また、上記画像変換装置において、第１の映像信号を２４Ｈｚのフレームレートの映像信号とし、第２の映像信号を６０Ｈｚのフレームレートの映像信号としてもよい。
【００２０】
これにより、映画フィルム等の映像をＮＴＳＣ等のＴＶ信号へ変換することも可能となる。
【００２１】
また、上記画像変換装置において、補間制御部は、前記動きベクトルにより示される移動軌跡と、生成される前記第２の映像信号のフレームと、の位相差が周期的に生じ、前記第２の映像信号のフレームのうち、所定以上の位相差の大きさを有するフレームの位相差の大きさが略一定になるように、前記補間フレームの補間位相を決定し、前記フレーム生成部は、前記第１の映像のフレームと補間フレームとの比率が３対２になるように、前記第２の映像信号を生成する、ものであってもよい。
【００２２】
これにより、ブレを完全に抑制できない場合でも、フィルムジャダーのような特性を持った映像を生成することができる。また、生成される第２の映像信号は、第１の映像信号のフレームと補間フレームとの構成比率が３：２となり、従来の、１：４と比較してより信頼性の高い第２の映像を、画像変換装置は生成することが可能となる。
【００２３】
さらに、上記画像変換装置において、補間制御部は、補間フレームと、該補間フレームと最も近い前記第１の映像信号のフレームと、の位相差の大きさを略１／５とする、ものであってもよい。
【００２４】
これにより、第２の映像信号に含まれる補間フレームは、最も位相差の小さい原フレーム（第１の映像のフレーム）との位相差が０．２（１／５）となるので、フレーム生成部が補間フレームを生成する際も、より信頼性の高いフレームを生成することが可能となる。
【発明の効果】
【００２５】
以上のように本発明の画像変換装置によれば、映像信号の周波数変換を行う際に、動きベクトルによる画質低下を、従来と比較して抑制することが可能となる。特に、２４Ｈｚの映像を６０Ｈｚの映像に変換するケースでは、生成する補間フレームの割合を小さくし、かつベクトルによる移動量を小さくすることにより、間違った動きベクトルによる画質低下を小さくすることができる。また、この変換の場合には、映画らしさを残し、かつ３：２プルダウンの不自然な動きを改善することができる。
【図面の簡単な説明】
【００２６】
【図１】本発明の実施の形態における画像変換装置の構成を示す図
【図２】本発明の実施の形態における、フィルム・デジャダー処理の入力映像と補間フレームの生成のタイミング関係を示す図
【図３】３：２プルダウンを用いて表示される映像を示す図
【図４】３：２プルダウンされた映像の見え方を示す図
【図５】フィルム・デジャダーの処理と映像の見え方を示す図
【図６】２：２プルダウンされた映像の見え方を示す図
【図７】２：２プルダウンされた映像での視線からのずれ量を示す図
【図８】３：２プルダウンされた映像での視線からのずれ量を示す図
【図９】本発明の実施の形態における、入力映像と補間フレームの生成のタイミング関係を示す図
【図１０】本発明の実施の形態における、補間フレームの生成方法を示す図
【図１１】本発明の実施の形態における、フレームレート変換を行った場合の視線からのずれ量を示す図
【図１２】従来技術の３：２プルダウンを示す図
【図１３】動きベクトルの仕組みを説明する図
【図１４】動きベクトルから補間フレームの生成例を示す図
【発明を実施するための形態】
【００２７】
（実施の形態１）
図１は、本発明の実施の形態における画像変換装置２０１の主要な構成を示すブロック図である。画像変換装置２０１は、映像メモリ２０２、ベクトル検出回路２０３、補間制御回路２０４、ベクトルメモリ２０５、フレーム生成回路２０６、を備える。なお、画像変換装置２０１に、表示部２０７を追加したものを画像表示装置として、本実施の形態で説明する発明を実現することも可能である。以下の記載では、説明を簡単にするため画像変換装置として説明する。
【００２８】
画像変換装置２０１は、入力映像信号２０８から動きベクトルを検出し、この動きベクトルを使用して補間フレームを生成し、出力映像信号２１５を表示する。ここで入力映像信号２０７は、２４Ｈｚの映像信号であり、出力映像信号２１５は、６０Ｈｚの映像信号とする。表示部２０７は、この６０Ｈｚの映像信号を表示する。すなわち、画像変換装置２０１は、２４Ｈｚの映像信号を入力とし、フレーム周波数の変換を行って６０Ｈｚで映像表示を行う。なお表示部２０７は、ＬＣＤディスプレイやＰＤＰディスプレイなど映像信号の表示が可能なものであればよく、特に制限は無い。
【００２９】
まず、本実施の形態により、一般的な２４Ｈｚから６０Ｈｚへのフレームレート変換（フィルム・デジャダー）を行う場合について説明する。画像変換装置２０１に入力される映像信号２０８は、映像メモリ２０２、およびベクトル検出回路２０３に入力される。
【００３０】
映像メモリ２０２は、入力された映像信号を少なくとも３フレーム分、記憶することが可能であり、また記憶された任意のフレームを読み出し可能なメモリである。映像メモリ２０２は入力された映像信号を記憶するとともに、入力映像信号２０８の１フレーム前の映像信号を読み出し、ベクトル検出回路２０３に出力する。
【００３１】
ベクトル検出回路２０３は、入力映像信号２０８を８画素×８画素からなるブロックに分割し、それぞれのブロックに対して、映像メモリ２０２から入力される前フレーム映像信号２０９から相関の最も大きな位置を探索することで動きベクトルを検出する。このとき探索を行う範囲は、動きベクトルを検出するブロックを基準に、例えば水平±６４画素、垂直±３２ラインのような範囲であり、この範囲の中で相関の最も大きな位置を求める。また相関の値としては、ブロックに含まれる各画素の値と、比較を行う位置の画素の値の差の絶対値をブロック全体で合計したもの（ＳＡＤ：Ｓｕｍ  ｏｆ  Ａｂｓｏｌｕｔｅ  Ｄｉｆｆｅｒｅｎｃｅ、差分絶対値和）を用いることができる。なおブロックの大きさはこれに限りものではなく、これよりも小さくても大きくてもかまわない。また相関の値としてＳＡＤ以外の方法を使用することも可能であり、また探索方法としても処理量を削減し、効率よく動きベクトルを検出する多くの手法が知られており、これらを使用することも可能である。ベクトル検出回路２０３は、入力映像信号２０８と前フレーム映像信号２０９から検出した検出動きベクトル２１０をベクトルメモリ２０５に出力する。
【００３２】
補間制御回路２０４は、以下の制御内容について決定する。具体的には、
（１）後述するベクトルメモリ２０５に記憶された２フレーム分に対応する動きベクトルのうちどちらの動きベクトルを読み出すか、
（２）映像メモリ２０２に記憶された複数フレームの映像信号から生成する補間フレームの前後のフレームとしてどの２つのフレームを読み出すか、
（３）映像メモリ２０２から読み出された２つのフレームの間のどの補間位相に補間フレームを生成するか、
等の制御内容である。補間制御回路２０４は、上記の決定した制御内容に基づいた制御信号をそれぞれ、映像メモリ２０２、ベクトルメモリ２０５、フレーム生成回路２０６、へ出力する。この補間制御回路２０４の詳細については後述する。
【００３３】
補間制御回路２０４は、補間に使用する２つのフレームを決定するフレーム選択信号２１３を映像メモリ２０２へ入力する。映像メモリ２０２は、このフレーム選択信号２１３で指定された２つのフレームを前後フレーム映像信号２１４として、フレーム生成回路２０６に出力する。
【００３４】
ベクトルメモリ２０５は、ベクトル検出回路２０３が検出した動きベクトルを記憶するメモリであり、ベクトル検出回路２０３からの書き込みと、後述するフレーム生成回路２０６からの読み出しの時間差を吸収するためのものである。ベクトルメモリ２０５は、この時間差に相当する容量があればよいが、ここでは入力映像の２フレーム分に対応するベクトルを記憶できるものとする。
【００３５】
補間制御回路２０４から補間に使用するベクトルを選択するベクトル選択信号２１０が入力されると、ベクトルメモリ２０５はベクトル選択信号２１０で指定されるベクトルを補間用動きベクトル２１１として、フレーム生成回路２０６へ出力する。
【００３６】
補間制御回路２０４の制御内容の詳細について以下に説明する。図２は、入力映像信号３０１（２０８）、前フレーム映像信号３０２（２０９）、検出動きベクトル３０３（２１０）、補間用動きベクトル３０４（２１２）、前後フレーム映像信号の前フレーム３０５および後フレーム３０６（２１４）、およびフィルム・デジャダーを行う場合の補間位相３０７（補間位相制御信号２１５）のタイミング関係を示す図である。
【００３７】
ベクトル検出回路２０３は、動きベクトルの検出を入力映像の２４Ｈｚの周期で行う。ベクトル検出回路２０３は、入力映像信号３０１と、前フレーム映像信号３０２と、の間で検出動きベクトル３０３を算出する。例えば、ベクトル検出回路２０３は、入力映像信号３０１としてフレーム（１）が入力されている間、前フレーム映像信号３０２として入力されるフレーム（０）との間で動きベクトルを検出し、算出した動きベクトルをベクトルメモリ２０５に書き込む。以降同様に、ベクトル検出回路２０３は、入力フレームと一つ前のフレームの間で動きベクトルを検出し、結果をベクトルメモリ２０５に書き込む。
【００３８】
補間後の映像信号は、出力する映像の周波数である６０Ｈｚで行われるため、補間制御回路２０４からの各制御信号の出力も６０Ｈｚの周期で出力される。フィルム・デジャダーの場合、入力の映像信号をフレーム（０）、フレーム（１）、フレーム（２）、フレーム（３）、フレーム（４）、フレーム（５）とし、これを基準とした場合、出力する映像信号はフレーム（０）、フレーム（０．４）、フレーム（０．８）、フレーム（１．２）、フレーム（１．６）、フレーム（２）、フレーム（２．４）、フレーム（２．８）、フレーム（３．２）、フレーム（３．６）、フレーム（４）のようになる。このため補間制御回路２０４は、出力映像がフレーム（０．４）となるタイミングでは、補間用動きベクトル３０４としてフレーム（１）とフレーム（０）の間で検出した動きベクトルを選択するための信号をベクトル選択信号２１１として出力する。さらに補間制御回路２０４は、前後フレーム映像信号の前フレーム３０５にフレーム（０）を、前後フレーム映像信号の後フレーム３０６にフレーム（１）を、フレーム生成回路２０６へ出力するためのフレーム選択信号２１３を出力するとともに、補間位相３０７として０．４をフレーム生成回路２０６へ出力する。
【００３９】
出力映像がフレーム（０．８）となるタイミングにおいて、補間制御回路２０４は、補間用動きベクトル３０４としてフレーム（１）とフレーム（０）の間で検出した動きベクトルを選択するための信号をベクトル選択信号２１１として出力し、前後フレーム映像信号の前フレーム３０５にフレーム（０）を、前後フレーム映像信号の後フレーム３０６にフレーム（１）を、出力するためのフレーム選択信号２１３を出力し、補間位相３０７として０．８を出力する。
【００４０】
出力映像がフレーム（１．２）となるタイミングにおいて、補間制御回路２０４は、補間用動きベクトル３０４としてフレーム（２）とフレーム（１）の間で検出した動きベクトルを選択するための信号をベクトル選択信号２１１として出力し、前後フレーム映像信号の前フレーム３０５にフレーム（１）を、前後フレーム映像信号の後フレーム３０６にフレーム（２）を、出力するためのフレーム選択信号２１３を出力し、補間位相３０７として０．２を出力する。
【００４１】
出力映像がフレーム（１．６）となるタイミングにおいて、補間制御回路２０４は、補間用動きベクトル２１２としてフレーム（２）とフレーム（１）の間で検出した動きベクトルを選択するための信号をベクトル選択信号２１１として出力し、前後フレーム映像信号の前フレーム３０５にフレーム（１）を、前後フレーム映像信号の後フレーム３０６にフレーム（２）を出力するためのフレーム選択信号２１３を出力し、補間位相３０７として０．６を出力する。
【００４２】
出力映像がフレーム（０）となるタイミングでは補間は必要無いため、補間用動きベクトル２１２は不要であり、また前後フレーム映像信号の前フレーム３０５及び後フレーム３０６はフレーム（０）のみでよく、補間位相３０７として０を出力する。以降、このような出力映像で５フレーム周期の繰り返しとなる。
【００４３】
補間制御回路２０４は、上記のように生成する補間フレームに必要となる入力フレームと、動きベクトルを適切に選択し、これらをフレーム生成回路２０６に入力するための制御信号を出力する。またこれにあわせて補間位相３０７をフレーム生成回路２０６に出力する。
【００４４】
フレーム生成回路２０６は、前後フレーム映像信号として入力される前フレーム３０５と後フレーム３０６と、この２フレームの間の動きに対応する補間用動きベクトル３０４と、を用いて補間位相３０７で指定される位相位置での補間フレームを生成して出力する。
補間フレームの生成は前述（図１４）のように、前フレームの画素、もしくは後フレームの画素を補間用動きベクトルに沿って移動することによって行うことができる。このとき、例えば補間位相に近い側のフレームのみを用いるなど、いずれか一方から移動した画素を用いて補間フレームを生成することも可能であり、また両フレームから移動した画素を一定の割合、または補間位相に対応する割合で混合するなどによって生成することも可能である。
【００４５】
上記のようにフレーム生成回路２０６で生成された出力映像信号２１６は、表示部２０７で表示される。２４Ｈｚの入力映像信号３０１は、上記のような処理によって６０Ｈｚの映像信号に変換されて表示部２０７で表示されるため、フィルム・ジャダーの無い滑らかな映像として表示される。
【００４６】
次に、２４Ｈｚの映像を３：２プルダウンで表示した際に、フィルム・ジャダーが生じる要因について説明する。図３は画面上をボールが横切るシーンを２４Ｈｚで撮影し、３：２プルダウンを用いて６０Ｈｚで表示する場合の例である。表示される６０Ｈｚの映像では、２４Ｈｚで撮影されたフレームが、３フレームと２フレームで交互に表示される。この６０Ｈｚの映像におけるボールの表示位置と時間との関係をグラフにすると図４に示すようになる。
【００４７】
人がこの例のようにほぼ均一に動くものを見る場合、視聴者の視線は動く対象物を追いかけるように移動することが知られている。図４の例では、視聴者の視線は、表示されているボールを追いかけ、図中の視線の移動軌跡のように移動する。ここでフレーム２、およびフレーム７においては、ボールの表示位置が視線の移動軌跡と一致しているが、それ以外のフレームでは視線の移動軌跡とずれた位置にボールが表示されることとなる。フレーム１、フレーム４、フレーム６は視線が追いかけるボールの位置よりも後ろ側に、フレーム３、フレーム５、フレーム８は前側にボールがあるように見えてしまい、この結果、均一に動いているボールが前後にブレて見える。つまり、一つの対象物が複数、重複して見えるような状態となる。このような状態がフィルム・ジャダーと呼ばれている。
【００４８】
上記のフィルム・ジャダーを抑制する、フィルム・デジャダーの効果を有する２４Ｈｚから６０Ｈｚへのフレームレート変換は、図５に示すようにボールを視線の移動軌跡に一致する位置に移動した補間フレームを生成していることに相当する。これによりフィルム・ジャダーが抑制された、滑らかな動きとして見ることができる。
【００４９】
一方、映画館では２４Ｈｚの映像を４８Ｈｚで表示しており、２：２プルダウンに相当する表示が行われる。この場合の見え方は図６に示すようになり、フィルム・ジャダーが生じる。映画館の表示で生じるフィルム・ジャダーは、図６に示すように視線の移動軌跡に対して均等に、また交互にずれており、この状態を映画らしさと感じる場合が多い。これに対して前述のようなフィルム・デジャダーによる２４Ｈｚから６０Ｈｚへのフレームレート変換では、このようなフィルム・ジャダーが全く無くなるため、映画らしさが失われてしまう。
【００５０】
一方３：２プルダウンで生じるフィルム・ジャダーは、５フレーム周期で視線の移動軌跡に対して不均一なずれ方をしているため、２：２プルダウンとは異なる見え方となり、動きのぎくしゃく感が感じられてしまう。図７に２：２プルダウンの場合の視線の移動軌跡からのずれ方の変化を、図８に３：２プルダウンの場合の視線の移動軌跡からのずれ方の変化を示す。このように３：２プルダウンでは視線の移動軌跡からのずれの大きさが不均一であるため、ぎくしゃくした不自然な動きに感じられてしまう。
【００５１】
これに対して本実施の形態では、６０Ｈｚの表示において映画館に近いフィルム・ジャダーを残し、かつ３：２プルダウンで生じる不均一さを低減する表示方法を開示するものである。以下に、画像変換装置２０１の補間制御回路２０４の処理内容を説明する。
【００５２】
補間制御回路２０４は、図９に示すように、以下のような５フレームの周期で、フレーム選択信号２１３、検出動きベクトル１００３（２１０）および補間位相１００７（補間位相制御信号２１５）を出力する。
【００５３】
１）補間制御回路２０４は、前後フレーム映像信号の前フレーム１００５としてフレーム（０）を出力するためのフレーム選択信号２１３を映像メモリ２０２へ出力し、補間位相１００７として０をフレーム生成回路２０６へ出力する。このステップでは、補間フレームの生成は必要無いため補間用動きベクトル１００４（２１２）は不要である。
【００５４】
２）補間制御回路２０４は、前後フレーム映像信号の前フレーム１００５にフレーム（０）と、後フレーム１００６にフレーム（１）と、を出力するためのフレーム選択信号２１３を映像メモリ２０２へ出力する。補間制御回路２０４は、フレーム（１）とフレーム（０）との間で検出した動きベクトルを選択するベクトル選択信号２１１をベクトルメモリ２０５へ出力し、補間位相１００７として０．２をベクトルメモリ２０５からフレーム生成回路２０６へ出力させる。
【００５５】
３）補間制御回路２０４は、前後フレーム映像信号の前フレーム１００５としてフレーム（１）を出力するためのフレーム選択信号２１３を映像メモリ２０２へ出力し、補間位相１００７として０をフレーム生成回路２０６へ出力する。このステップでは、補間フレームの生成は必要無いため補間用動きベクトル１００４は不要である。
【００５６】
４）補間制御回路２０４は、前後フレーム映像信号の前フレーム１００５としてフレーム（１）を出力するためのフレーム選択信号２１３を映像メモリ２０２へ出力し、補間位相１００７として（０）をフレーム生成回路２０６へ出力する。この時、補間フレームの生成は必要無いため補間用動きベクトル１００４は不要である。
【００５７】
５）補間制御回路２０４は、前後フレーム映像信号の前フレーム１００５にフレーム（１）を、後フレーム１００６にフレーム（２）を、出力するためのフレーム選択信号２１３を映像メモリ２０２へ出力する。さらに補間制御回路２０４は、フレーム（２）とフレーム（１）の間で検出した動きベクトルを選択するベクトル選択信号２１１をベクトルメモリ２０５へ出力し、補間位相１００７として０．８をベクトルメモリ２０５からフレーム生成回路２０６へ出力させる。
【００５８】
この結果、入力の映像信号をフレーム（０）、フレーム（１）、フレーム（２）、フレーム（３）、フレーム（４）、フレーム（５）とし、これを基準とした場合、出力する映像信号はフレーム（０）、フレーム（０．２）、フレーム（１）、フレーム（１）、フレーム（１．８）、フレーム（２）、フレーム（２．２）、フレーム（３）、フレーム（３）、フレーム（３．８）、フレーム（４）のようになる。
【００５９】
上記の場合の補間の様子を図４、図５と同様の図として示すと、図１０のようになる。またこの場合の視線の移動軌跡と補間された映像とのずれの大きさは図１１に示すようになる。図１１の例では、フレーム２、及び７は移動軌跡と映像とのずれ（位相差）の大きさが０で示されている。それ以外のフレームについては、位相差の大きさが略一定となるように公正されている。このように本実施の形態で説明した構成とすると、視線の移動軌跡からのずれの大きさが５フレーム内で均一になるように補間位相を定めているため、フィルム・ジャダーは残るものの、３：２プルダウンで生じる不均一さが低減される。つまり、移動軌跡と補間された映像との位相差の大きさが所定以上のフレームでは(図１１の場合では、０より大きい位相差の場合)、補間された映像に含まれる補間フレームと移動軌跡との位相差の大きさと、補間された映像に含まれる元映像と移動軌跡との位相差の大きさと、が略同一となるように、補間フレームの位相を決定している。これにより、補間された映像のずれ（位相差）の大きさが略一定となるため、不均等なプルダウン処理時に生じやすい映像の不均一さが低減される。また、図１１で示すように、視線の移動軌跡と補間された映像とのずれは、図７に示す２：２プルダウンの例の場合と同様に、周期的に生じるとともに、ずれの大きさが一定しているため、映画館に近い印象の映像を表示することが可能となる。
【００６０】
また、位相差の大きさが略一定というのは、必ずしもすべての位相差が完全に同一である必要はない。例えば、上記の説明では、この位相差の大きさが０．２として説明してあるが、例えば、０．１５〜０．２５の範囲であったりしてもよい。この場合には、位相差の大きさにたいして前後２５％の許容範囲を設けたものである。つまり、目標の位相差の大きさに対して、前後所定の範囲内で位相差の大きさが収まるものであれば良い。
【００６１】
また、上記のように補間位相を制御することにより、一般的な２４Ｈｚから６０Ｈｚへのフレームレート変換（フィルム・デジャダー）では出力フレームの５フレームのうち４フレームが生成された補間フレームであるのに対し、本発明が開示する補間方法では、５フレームのうち２フレームのみが生成された補間フレームとなる。前述のように出力映像に含まれる、動きベクトルを使って生成された補間フレームの割合は、間違った動きベクトルが検出された場合の画質劣化の大きさに影響を与えるものであるため、本発明の補間方法では従来よりも画質劣化の小さいフレームレート変換が可能となる。またこの際、生成する補間フレームの数は、表示するフレームの数の半分であるため、補間フレームの生成に必要な処理量は従来のフィルム・デジャダーの半分にすることができる。
【００６２】
さらに、本発明が開示する補間方法では、生成する補間フレームの補間位相として０．２と０．８のみを用いる。前述のようにフレームを生成する補間位相が入力フレームに近付くと、入力フレームからの移動量が小さくなるため、間違った動きベクトルの影響が小さくなる。このため本発明が開示する補間方法では、０．４、０．６の補間位相を用いる従来のフィルム・デジャダーに比べて、間違った動きベクトルが画質に与える影響が小さい。
【００６３】
以上より、本実施の形態の構成を用いれば、従来と比較して、補間フレームの割合が小さく、かつ入力フレームに近い補間位相を用いることができるため、間違った動きベクトルが検出された場合の画質劣化が小さい。
【００６４】
以上のように、本発明の補間方法によれば、３：２プルダウンで生じる不均一さを低減し、映画館に近い印象のフィルム・ジャダーを残し、かつ動きベクトルに誤検出があった場合の画質低下が小さい２４Ｈｚから６０Ｈｚへのフレームレート変換が可能となる。
【００６５】
なお、上記の実施の形態では、入力映像信号として２４Ｈｚの映像が入力される場合を前提とした説明を行っているが、入力映像信号が３：２プルダウンされた６０Ｈｚの映像信号であってもかまわない。３：２プルダウンされた６０Ｈｚの映像信号から、３：２プルダウンされる前の２４Ｈｚの映像信号を適切に選択することができれば、同様の処理を行うことが可能である。
【００６６】
また、図９に示す入力映像信号１００１と各ブロックの処理と信号のタイミング関係は一例であり、映像メモリ２０２およびベクトルメモリ２０５の容量次第では、これと異なるタイミングで処理を行うことも可能である。
【００６７】
また、本実施の形態では図１で示すようなハードウェア構成を例示として説明したが、本発明はこの態様に限定されるものではない。図１で示す構成と等価なソフトウェア等によっても、本実施の形態で説明した発明を実現することは可能である。
【産業上の利用可能性】
【００６８】
本発明は、映像信号から動きベクトルを検出し、検出した動きベクトルを使用してフレームレートを変換して表示する装置等に用いることができる。
【符号の説明】
【００６９】
２０１  画像変換装置
２０２  映像メモリ
２０３  ベクトル検出回路
２０４  補間制御回路
２０５  ベクトルメモリ
２０６  フレーム生成回路
２０７  表示部
２０８  入力映像信号
２０９  前フレーム映像信号
２１０  検出動きベクトル
２１１  ベクトル選択信号
２１２  補間用動きベクトル
２１３  フレーム選択信号
２１４  前後フレーム映像信号
２１５  補間位相制御信号
２１６  出力映像信号
３０１、１００１  入力映像信号
３０２、１００２  前フレーム映像信号
３０３、１００３  検出動きベクトル
３０４，１００４  補間用動きベクトル
３０５、１００５  前後フレーム映像信号の前フレーム
３０６、１００６  前後フレーム映像信号の後フレーム
３０７、１００７  補間位相
【図１】
2012182691.tif 000003
【図２】
2012182691.tif 000004
【図３】
2012182691.tif 000005
【図４】
2012182691.tif 000006
【図５】
2012182691.tif 000007
【図６】
2012182691.tif 000008
【図７】
2012182691.tif 000009
【図８】
2012182691.tif 000010
【図９】
2012182691.tif 000011
【図１０】
2012182691.tif 000012
【図１１】
2012182691.tif 000013
【図１２】
2012182691.tif 000014
【図１３】
2012182691.tif 000015
【図１４】
2012182691.tif 000016