(57)【要約】【課題】動き補償法を用いた補間フレーム生成装置において、動きベクトル検出の精度向上のために複雑な処理や回路規模の増大をすることなく高画質を実現する。【解決手段】補間フレーム生成に使うには不適当な動きベクトルを発見する不適当ベクトル特定手段と、その情報を元に不適当な画像ブロックに対して平滑化を行う選択的平滑化手段とを備え、正確な動きベクトルを得られなかったブロックが発生しても平滑化処理により目立たなくするので、破綻した画像を表示することによる画質劣化を防止できる。【選択図】図１
2011109229.tif 000002
【特許請求の範囲】
【請求項１】
所定のフレームを用いて補間フレームを生成する装置であって、
所定のフレームからブロック毎に動きベクトルを生成する動きベクトル生成手段と、
前記所定のフレームの入力画像および動きベクトルを用いて動き補償を行い、前記補間
フレームの画像を生成する動き補償手段と、
前記動きベクトル生成手段にて生成された前記動きベクトルの妥当性を判断する不適当動きベクトル特定手段と、
前記不適当動きベクトル特定手段から不適当と判断された動きベクトルを持つ前記動き補償手段により生成された補間フレームのブロック内の画素に対し、平滑化処理を行う選択的平滑化手段と、
を有する補間フレーム生成装置。
【請求項２】
所定のフレームを用いて補間フレームを生成する装置であって、
所定のフレームから画素毎に動きベクトルを生成する動きベクトル生成手段と、
前記所定のフレームの入力画像および動きベクトルを用いて動き補償を行い、前記補間
フレームの画像を生成する動き補償手段と、
前記動きベクトル生成手段にて生成された前記動きベクトルの妥当性を判断する不適当動きベクトル特定手段と、
前記不適当動きベクトル特定手段から不適当と判断された動きベクトルを持つ前記動き補償手段により生成された補間フレームの画素に対し、平滑化処理を行う選択的平滑化手段と、
を有する補間フレーム生成装置。
【請求項３】
所定のフレームを用いて補間フレームを生成する方法であって、
所定のフレームからブロック毎に動きベクトルを生成する動きベクトル生成手段と、
前記所定のフレームの入力画像および動きベクトルを用いて動き補償を行い、前記補間
フレームの画像を生成する動き補償手段と、
前記動きベクトル生成手段にて生成された前記動きベクトルの妥当性を判断する不適当動きベクトル特定手段と、
前記不適当動きベクトル特定手段から不適当と判断された動きベクトルを持つ前記動き補償手段により生成された補間フレームのブロック内の画素に対し、平滑化処理を行う選択的平滑化手段と、
を有する補間フレーム生成方法。
【請求項４】
所定のフレームを用いて補間フレームを生成する方法であって、
所定のフレームから画素毎に動きベクトルを生成する動きベクトル生成手段と、
前記所定のフレームの入力画像および動きベクトルを用いて動き補償を行い、前記補間
フレームの画像を生成する動き補償手段と、
前記動きベクトル生成手段にて生成された前記動きベクトルの妥当性を判断する不適当動きベクトル特定手段と、
前記不適当動きベクトル特定手段から不適当と判断された動きベクトルを持つ前記動き補償手段により生成された補間フレームの画素に対し、平滑化処理を行う選択的平滑化手段と、
を有する補間フレーム生成方法。
【請求項５】
所定のフレームを用いて補間フレームを生成する方法であって、
所定のフレームから画素毎に動きベクトルを生成する動きベクトル生成手段と、
前記所定のフレームの入力画像および動きベクトルを用いて動き補償を行い、前記補間
フレームの画像を生成する動き補償手段と、
前記動きベクトル生成手段にて生成された前記動きベクトルの妥当性を判断する不適当動きベクトル特定手段と、
前記不適当動きベクトル特定手段から不適当と判断された動きベクトルを持つ前記動き補償手段により生成された補間フレームの画素及びその周辺画素に対し、平滑化処理を行う選択的平滑化手段と、
を有する補間フレーム生成方法。
【請求項６】
前記所定のフレームは、連続する２つ以上のフレームであることを特徴とする請求項１乃至５に記載の補間フレーム生成装置
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は２つのフレーム間の画像の動きを補う補間画像を生成する技術に関する。
【背景技術】
【０００２】
近年、画像のフレーム数を増やすことにより、動画表示におけるぼやけ感やガタガタ感といった不自然な動きを改善するために、フレームレート変換を高画質化技術として適用することが一般的になってきている。そして、前記したような動画性能向上に対する明確な改善効果を得るために、精度の高い補間フレーム生成が必要となるとの認識の下、多数の発明がなされている。
【０００３】
よく用いられている高度な補間方法として、現在のフレームと１フレーム前のフレームを用いて、フレーム間の動きベクトルを利用した動き補償処理を用いる方法がある。この方法では動きベクトル情報をもとにフレーム間の動きを特定し、補間フレームを生成する。
かかる方法により、精度の高い補間フレームを得るためには、動きベクトルの精度を如何に上げるかが鍵となる。
しかし、動きベクトルの精度を向上させようとするほど、演算量が飛躍的に増す。そのため、現実的な演算量に収めつつ動きベクトルの精度を向上する手法が提案されている。
【０００４】
特許文献１では、フレームを複数のブロックに分割し、各ブロックの画像を隣接するフレームの探索範囲に含まれる画像と比較し、比較結果に基づいて当該ブロックの動きベクトルを検出する検出ステップにおいて、探索範囲が広い第１処理と探索範囲が狭い第2処理とをブロック毎に選択し、第2処理を選択したブロックについては、当該ブロックに隣接するブロックの既に検出された動きベクトルに基づいて探索範囲を特定することで、精度と演算量の両立を図っている。
【０００５】
【特許文献１】特開２００７−１６６０５０号公報
【発明の開示】
【発明が解決しようとする課題】
【０００６】
しかし、動きベクトルの精度を向上させたとしても、
（１）細かく入り組んだ動きがある場合、正確な動きベクトルの算出が困難である。
（２）サーチレンジを超える動きには追従が困難である。
（３）回転や拡大縮小動作に対して動きベクトルの算出が困難である。
等の課題は完全に解決できておらず、画像の破綻を引き起こし、破綻した部分が目立つことによる画質劣化をなくすことはできていなかった。
【０００７】
本発明は上記問題を鑑みてなされたものであって、発想を転換し、破綻した画像を目立たなくすることによって画質の劣化を防ぎ、コストを抑制しつつ現実的な高画質を実現することを目的とする。
【課題を解決するための手段】
【０００８】
上記目的を達成するために、本発明では、動き補償による補間フレーム生成装置において、更に補間フレーム生成に使うには不適当な動きベクトルを発見する不適当ベクトル特定手段と、その情報を元に不適当な画像ブロックに対して平滑化を行う選択的平滑化手段とを備える。
かかる構成により、正確な動きベクトルを得られなかったブロックが発生しても、平滑化処理により目立たなくするので、破綻した画像を表示することによる画質劣化を防止でき、結果として高画質を実現する。
【発明の効果】
【０００９】
本発明によれば、動き補償法を用いた補間フレーム生成処理において、破綻したブロックを目立たなくできるため、動きベクトル検出の精度向上のために複雑な処理や回路規模の増大をすることなく、高画質を実現できる。
【図面の簡単な説明】
【００１０】
【図１】本発明を適用した補間フレーム生成装置の一実施形態の構成例を示すブロック図である。
【図２】平均化フィルタのインパルス応答による選択的平滑化処理のイメージ図である。
【図３】ガウシアンフィルタのインパルス応答による選択的平滑化処理のイメージ図である。
【図４】補間フレーム生成装置の従来技術の構成例を示すブロック図である。
【図５】画素単位でベクトルのばらつきを求める場合のイメージ図である。
【符号の説明】
【００１１】
（１０）  補間フレーム生成装置
（１１）  前フレームバッファ
（１２）  後フレームバッファ
（１３）  動き推定部
（１４）  動き補償部
（１５）  補間フレームバッファ
（１６）  不適当動きベクトル特定部
（１７）  選択的平滑化フィルタ
【発明を実施するための最良の形態】
【００１２】
以下、本発明の実施形態について図面を参照しつつ説明する。
【００１３】
図１は、本発明の第１の実施形態である補間フレーム生成装置の構成の一例を示すブロック図である。
【００１４】
図１において、補間フレーム生成装置（１０）は、前フレームバッファ（１１）、後フレームバッファ（１２）、動き推定部（１３）、動き補償部（１４）、補間フレームバッファ（１５）、不適当動きベクトル特定部（１６）、選択的平滑化フィルタ（１７）を備える。
【００１５】
前フレームバッファ（１１）、後フレームバッファ（１２）は、夫々入力映像の連続する前後フレームを保持する。
動き推定部（１３）には、前フレームバッファ（１１）と後フレームバッファ（１２）から前後フレームデータが入力され、ブロックマッチング法等により、動きベクトルを検出する。また、検出した動きベクトルの妥当度を算出し、不適当動きベクトル特定部（１６）に出力する。
動き補償部（１４）は、フレームバッファ（１１）（１２）からのフレームデータと、動き推定部（１３）で検出された動きベクトルから、中間フレームを生成する。
不適当動きベクトル特定部（１６）は、動き推定部（１３）から動きベクトルと動きベクトル妥当度のデータが入力され、動き推定部（１３）で検出された動きベクトルが適当か否かを判断し、不適当な動きベクトルと判断されたブロックを特定し、選択的平滑化フィルタ（１７）に出力する。
選択的平滑化フィルタ部（１７）は、動き補償部（１４）で生成された中間フレームデータのうち、不適当動きベクトル特定部で不適当と判断されたブロックに対して、平滑化を行う。
生成された補間フレームは、選択的平滑化フィルタで補正された後、フレームバッファ（１５）に格納される。
【００１６】
（動きベクトル妥当度）
動きベクトル推定部（１３）は、ブロックマッチングにより動きベクトルを検出する過程で、１画素あたりの平均誤差であるＭＡＤ値（Mean Absolute Difference）を算出する。ＭＡＤ値は以下の式にて算出される。
ＭＡＤ=Σ(abs(ブロックA-ブロックB))／ブロック内の画素数
動きベクトルＭＶは、MAD値が最小になるよう算出される。
ＭＶ=arg min(MAD(ブロックA(位置α)),ブロックB(MV+位置α)))
上式のように、動きベクトルを求める過程で、ＭＡＤ値はブロックマッチング法による探索範囲の中で最も小さいものが選ばれるが、必ずしも０ではない。大きなＭＡＤ値でマッチングしている場合は、その探索結果である動きベクトルは正しくない可能性がある。この特性を利用して、ＭＡＤ値を利用して動きベクトル妥当度を判断するため、ＭＡＤ値を動きベクトル妥当度データとして不適当動きベクトル特定部に出力する。
本実施例では、動きベクトル妥当度=ＭＡＤ値として出力しているが、閾値と比較した後に、妥当度レベルを定めてデータとして出力してもよいし、様々な方法を取り得る。また、ＭＡＤの代わりにＭＳＤ（Mean Squared Difference）を採用しても良い。
【００１７】
（不適当動きベクトル特定）
不適当動きベクトル特定部（１６）は、動き推定部（１３）から動きベクトルと動きベクトル妥当度を受け取り、下式によりｈを求める。
ｈ＝(近隣MVとのミスマッチ度)＋K×(MV妥当度)
式中のMVは動きベクトル、MV妥当度はMAD値、Ｋは調整用の係数、近隣MVとのミスマッチ度は、
(近隣MVとのミスマッチ度)=Σ(MVi-MV)２  （MVi：近隣MV)
として求める。求めたｈが特定の閾値を超えた場合、不適当動きベクトルと判断する。本実施例では単に固定の閾値を基準にしたが、閾値を多段にしたり、閾値を用いずにｈをそのまま判断結果としてもよい。
判断結果は、選択的平滑化フィルタ（１７）へ出力される。
【００１８】
（画素単位で動き補償する場合の不適当動きベクトル特定）
画素単位での動き補償の場合でも、基本的な構成や処理は同じである。不適当動きベクトル特定部（１６）は、動き推定部（１３）から例えばオプティカルフロー等を用いて求めた画素毎の動きベクトルを受け取り、周辺画素と比較して対象画素のばらつきを算出し、一定の閾値を超えた場合、その画素の動きベクトルは不適当と判断する。
図５は、不適当ベクトル算出処理におけるイメージ図である。ここでは、対象画素Ｓ１に対し半径３画素以内の画素集合Ｓ２を用いる。動きベクトルのばらつきを下式で求め、閾値を超えた場合、不適当と判断する。
σ２＝ΣＷｐ（Ｖｐ−Ｖ０）２  （ｐ∈Ｓ２）
（pはＳ２中の画素位置、Ｗは重み、Ｖはベクトル、Ｖ０は中心画素のベクトル）
通常、重みＷは常に1（すなわちボックス窓）でよいが、任意のウインドウを採用してもよい。例えばガウス窓、ハミング窓などがある。また、重みＷの算出に際し、不適当動きベクトル特定部で算出した多段或いは連続量の判断結果を用いてもよい。さらに、ブロック毎の不適当動きベクトル特定に対しても、ブロック内画素毎の動きベクトルの分散としても適用可能である。また、他ブロックに対して対象ブロックがブロック単位で持つ動きベクトルの分散としても適用可能である。
【００１９】
（選択的平滑化）
選択的平滑化フィルタ（１７）は、動き補償部（１４）から動き補償された補間フレーム画像データが入力され、不適当動きベクトル特定部（１６）で不適当動きベクトルと判断されたブロックに対し、平滑化処理を行う。
図２は、最も単純な３×３平均化フィルタのインパルス応答のイメージ図である。これを利用した平滑化処理の式を下記に示す。
ａ（ｘ，ｙ）＝１／９×Σａ（ｘ＋ｘｉ、ｙ＋ｙｉ）  
（但し、ｘｉ∈｛−１，０，１｝，ｙｉ∈｛−１，０，１｝）
ブロック内の平均化する画素を中心として３×３＝９画素データの平均値を対象画素データとする。この処理をブロック内の全ての画素データに繰り返す。
本図では一例として、対象画素を含む周辺画素３×３＝９画素データを利用した例を示したが、利用する画素数はこの限りではない。本実施例では一様平均化フィルタのインパルス応答による平均化処理の例を示したが、ガウシアンフィルタのインパルス応答に置き換えてもよい（図３は３×３、σ＝１のガウシアンフィルタのインパルス応答）。
また、単にブロック内の画素の平均値をとることでもよい。この場合ブロック境界が目立ちやすい等の欠点は存在する。その他、フレーム間平均化などを含め様々な平滑化手段が適用可能である。
【００２０】
本実施例では、不適当動きベクトル特定部が動き推定部（１３）から入力される動きベクトル妥当度データを基に不適当動きベクトルを特定する例を示したが、動き推定部（１３）から全ての動きベクトルデータを受け取り、不適当動きベクトル特定部（１６）で動きベクトルの分散を求めることで不適当ブロックを特定することもできる。また、不適当動きベクトル特定部（１３）に直接前後フレームデータ（１１）（１２）を入力し、両フレームデータ間の差分の大きい部分を不適当と指定する方法もある。
【００２１】
なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。十分に高速なＣＰＵやプログラマブルなプロセッサを有するシステムであれば、全て乃至部分的にソフトウェアで実現できることはいうまでもない。
【図１】
2011109229.tif 000003
【図２】
2011109229.tif 000004
【図３】
2011109229.tif 000005
【図４】
2011109229.tif 000006
【図５】
2011109229.tif 000007