(57)【要約】  本発明は、画像を処理する方法に関し、画像の典型的なテクスチャを表すテクスチャパターンブロックがメモリに格納される。当該方法は、現在ブロックの画素の階調レベルを、所定の変換を用いて、周波数係数の現在ブロックへと変換するステップと、融合ブロックの所定の位置にある各周波数係数を、現在ブロックの同一位置にある周波数係数か、メモリに格納されたテクスチャパターンブロックのうちの１つのテクスチャパターンブロックの同一位置にある周波数係数かの何れかに等しくして融合ブロックを構築するステップと、所定の関数に従って融合ブロックを選択するステップと、画像内で現在ブロックを選択された融合ブロックで置換するステップとを有する。本発明はまた、対応する画像を処理する電子装置に関する。
2010534015.tif 000002
【特許請求の範囲】
【請求項１】
少なくとも１つの画像を処理する方法であって、ブロックは前記画像の一部であり、階調レベルが前記画像の各画素に関連付けられ、前記画像のテクスチャを表す少なくとも１つのテクスチャパターンブロックがメモリに格納され、各テクスチャパターンブロックの前記画素の階調レベルが、所定の変換を用いて周波数係数に変換され、当該方法は：
ａ）前記画像の少なくとも１つの部分内で現在ブロックを選択するステップ；
ｂ）前記現在ブロックの前記画素の階調レベルを、前記所定の変換を用いて、周波数係数の現在ブロックへと変換するステップ；
ｃ）融合ブロックを構築する構築ステップであり、該融合ブロックの所定の位置にある各周波数係数は、前記現在ブロックの同一位置にある周波数係数が基準を満たすときに、前記現在ブロックの該周波数係数に等しく、前記現在ブロックの該周波数係数が前記基準を満たさないときには、前記メモリに格納された前記テクスチャパターンブロックのうちの１つのテクスチャパターンブロックの同一位置にある周波数係数に等しい、構築ステップ；
ｄ）所定の関数に従って融合ブロックを選択するステップ；
ｅ）前記画像内で、前記現在ブロックを、前記選択された融合ブロックで置換するステップ；
ｆ）所定の順序に従って、前記画像の前記部分内の次のブロックを選択するステップ；及び
ｇ）前記画像の前記部分の最後まで、ステップａ）からｆ）を実行するステップ；
を有する、ことを特徴とする方法。
【請求項２】
前記メモリには複数のテクスチャパターンブロックが格納され、複数の融合ブロックを構築するように各テクスチャパターンブロックに対してステップｃ）及びｄ）が実行され、ステップｄ）は：
ｄ１）各融合ブロックに対し、前記所定の関数を計算し、前記現在ブロックと該融合ブロックの対応するテクスチャパターンブロックとの間の周波数の類似性と、前記現在ブロックと前記現在ブロックに隣接する少なくとも１つのブロックとの間の階調レベルの勾配と、を表す変動値を取得するステップ；及び
ｄ２）前記現在ブロックを置換する前記選択された融合ブロックとして、最小の変動値を有する融合ブロックを選択するステップ；
を有する、ことを特徴とする請求項１に記載の方法。
【請求項３】
前記所定の関数は、等式：
【数１】
2010534015.tif 000006
から得られる周波数類似性成分を有し、ただし、
−  Ｄは前記周波数類似性成分であり、
−  ＢDCTcurrent（ｉ，ｊ）は、前記現在ブロックの離散コサイン変換の行ｉ、列ｊにおける周波数係数であり、
−  ＢDCTtexture（ｉ，ｊ）は、前記テクスチャパターンブロックの離散コサイン変換の行ｉ、列ｊにおける周波数係数であり、
−  ｋはブロックの行又は列の総数より小さい整数である、
ことを特徴とする請求項２に記載の方法。
【請求項４】
前記所定の順序はラスター走査順であり、前記所定の関数は、等式：
【数２】
2010534015.tif 000007
から得られる階調レベル勾配成分を有し、ただし、
−  Ｃは前記階調レベル勾配成分であり、
−  ｌはブロックの列ｊの総数に等しい整数であり、
−  ｍはブロックの行ｉの総数に等しい整数であり、
−  Ｂcurrent（０，ｊ）は、ｊが各列を表す整数であるとして、前記現在ブロックの第１行に位置する各画素の階調レベルであり、
−  Ｂcurrent（ｉ，０）は、ｉが各行を表す整数であるとして、前記現在ブロックの第１列内の各画素の階調レベルであり、
−  Ｂabove（ｍ，ｊ）は、前記現在ブロックの上に位置するブロックの行ｍ、列ｊの各画素の階調レベルであり、
−  Ｂleft（ｉ，ｌ）は、前記現在ブロックの左側に位置するブロック９２の行ｉ、列ｌの各画素の階調レベルである、
ことを特徴とする請求項２又は３に記載の方法。
【請求項５】
前記所定の関数Ｊは、λが所定のスカラーであるとして、Ｊ＝Ｃ＋λ×Ｄなる関数である、ことを特徴とする請求項２又は３に記載の方法。
【請求項６】
当該方法は、動き補償フレーム間予測を用いて符号化された少なくとも２つの画像上で実行され、現在画像が動き補償予測を用いて参照画像から符号化され、前記現在画像及び前記参照画像は復号化され、前記参照画像上で既にステップａ）からｇ）が実行され、前記現在画像の１つの現在ブロックとそれが予測された前記参照画像の関連ブロックとの間の動きを表す各動きベクトルが前記現在画像の前記復号化から決定され、
当該方法は：
ｊ）前記現在画像内で前記現在ブロックを選択するステップ；
ｋ）前記参照画像内で、前記現在ブロックに関連付けられた前記関連ブロックを、関連する前記動きベクトルを用いて決定するステップ；
ｌ）前記参照画像内で前記現在画像内での前記現在ブロックの位置と同一の位置にある同一位置ブロックを、前記参照画像内で決定するステップ；
ｍ）前記現在ブロックと前記同一位置ブロックとの間の類似係数を計算する計算ステップであり、該類似係数は前記現在ブロックと前記同一位置ブロックとの間のテクスチャ類似性を表す、計算ステップ；
−  前記類似係数が所定の閾値より大きい場合に、ラスター走査順に従って次のブロックを選択し、該ブロック上でステップｊ）からｍ）を繰り返すステップ；
−  前記類似係数が前記所定の閾値より小さい場合に、前記現在画像の前記現在ブロックを、融合ブロックである前記参照画像の前記関連ブロックで置換するステップ；
を有する、
ことを特徴とする請求項１乃至５の何れかに記載の方法。
【請求項７】
前記類似係数Δは、
【数３】
2010534015.tif 000008
から得られ、ただし、
−  Ｂcurrent（ｉ，ｊ）は、前記現在画像の前記現在ブロックの行ｉ、列ｊの画素の階調レベルであり、
−  Ｂcollocated（ｉ，ｊ）は、前記参照画像の前記関連ブロックの行ｉ、列ｊの画素の階調レベルであり、
−  ｌ及びｍは、ブロックの行及び列の総数に等しい、
ことを特徴とする請求項６に記載の方法。
【請求項８】
画像内の或る領域を選択し、選択された領域にのみステップａ）からｇ）を適用するステップを有することを特徴とする請求項１乃至７の何れかに記載の方法。
【請求項９】
ステップｃ）において、前記基準は、前記現在ブロックの前記周波数係数が所定の閾値より低いときに満たされる、ことを特徴とする請求項１乃至８の何れかに記載の方法。
【請求項１０】
前記所定の変換は離散コサイン変換であることを特徴とする請求項１乃至９の何れかに記載の方法。
【請求項１１】
前記所定の変換は規格化されたＨ．２６４変換であることを特徴とする請求項１乃至９の何れかに記載の方法。
【請求項１２】
ビデオシーケンスのうちの少なくとも１つの画像を符号化し且つ復号化する方法であって、ブロックは前記画像の一部であり、前記符号化の段階が：
−  前記画像のテクスチャを表す少なくとも１つのテクスチャパターンブロックを前記画像内で選択するステップ；及び
−  前記テクスチャパターンブロックを規定する情報を生成し、デコーダに送信されるビットストリーム内に該情報を符号化するステップ、
を有し、前記復号化の段階が：
−  前記ビットストリームから前記画像を再構成するステップ；
−  前記ビットストリーム内に含められた前記情報から、前記テクスチャパターンブロックを決定するステップ；
−  決定された前記テクスチャパターンブロックをメモリに格納するステップ；及び
−  請求項１乃至１１の何れかに記載の方法を実行するステップであり、ステップｂ２）において選択されるテクスチャパターンブロックは前記メモリに格納されたテクスチャパターンブロックに属する、ステップ；
を有する、ことを特徴とする方法。
【請求項１３】
前記テクスチャパターンブロックは、前記画像のその他のブロックを符号化するために用いられる量子化指数より低い量子化指数を用いて符号化される、ことを特徴とする請求項１２に記載の方法。
【請求項１４】
前記復号化の段階は、前記画像の典型的なテクスチャを表し且つより低い量子化指数を用いて符号化されたブロックを選択するステップを有する、ことを特徴とする請求項１３に記載の方法。
【請求項１５】
前記画像は規格化されたＨ．２６４変換に従って符号化され、前記テクスチャパターンブロックを規定する前記情報は、規格化されたＨ．２６４変換の“補助強化情報”と呼ばれる領域に含められる、ことを特徴とする請求項１１乃至１３の何れかに記載の方法。
【請求項１６】
少なくとも１つの画像を処理する電子装置であって、ブロックは前記画像の一部であり、階調レベルが前記画像の各画素に関連付けられ、当該電子装置は：
−  各テクスチャパターンブロックの前記画素の階調レベルが所定の変換を用いて周波数係数に変換されている、前記画像の典型的なテクスチャを表す少なくとも１つのテクスチャパターンブロックを格納するメモリ；
−  前記画像の少なくとも１つの部分内で、所定の順序に従って現在ブロックを順次選択する少なくとも第１の選択ユニット；
−  前記現在ブロックの前記画素の階調レベルを、前記所定の変換を用いて、周波数係数に変換するように適応された少なくとも１つの計算ユニット；
−  融合ブロックを構築する少なくとも１つの構築ユニットであり、該融合ブロックの所定の位置にある各周波数係数は、前記現在ブロックの同一位置にある周波数係数が基準を満たすときに、前記現在ブロックの該周波数係数に等しく、前記現在ブロックの該周波数係数が前記基準を満たさないときには、前記メモリに格納された前記テクスチャパターンブロックのうちの１つのテクスチャパターンブロックの同一位置にある周波数係数に等しい、構築ユニット；
−  所定の関数に従って融合ブロックを選択する少なくとも第２の選択ユニット；
−  選択された融合ブロックの周波数係数を、前記所定の変換の逆の変換を用いて、階調レベルに変換するように適応された少なくとも１つの計算ユニット；
を有し、
前記第１の選択ユニットは、前記画像の前記部分内で、前記現在ブロックを前記選択された融合ブロックで置換するように適応されている、
ことを特徴とする電子装置。
【請求項１７】
−  ビデオシーケンスの少なくとも１つの符号化された画像を表すビットストリームを復号化するように適応されたデコーダ；及び
−  前記画像を再構成し、且つ前記ビットストリーム内に含まれる情報から前記テクスチャパターンブロックを再構成するように適応された再構成ユニット；
を有することを特徴とする請求項１６に記載の電子装置。
【請求項１８】
前記再構成ユニットは、より低い量子化指数を用いて符号化されたブロックをテクスチャパターンブロックとして分類するように適応されている、ことを特徴とする請求項１７に記載の電子装置。
【請求項１９】
前記画像は規格化されたＨ．２６４変換を用いて符号化され、前記再構成ユニットは、前記テクスチャパターンブロックを再構成するために、規格化されたＨ．２６４変換の“補助強化情報”と呼ばれる領域内の情報を探索するように適応されている、ことを特徴とする請求項１７に記載の電子装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ビデオの符号化分野及び圧縮分野に属する。具体的には、本発明は、画像を処理するための方法及び装置に関する。
【背景技術】
【０００２】
ＪＰＥＧ、ＭＰＥＧ１、ＭＰＥＧ２又はＨ．２６４規格によって定められる方法のような符号化法においては、各画像は、先ず、サイズに従ってブロック又はマクロブロックと呼ばれる部分に分割され、その後、それらの部分が互いに別々に順々に処理される。復号化処理において、ブロックは互いに独立して次々に再構成され、各画像を復元するように共に組み合わされる。
【０００３】
ブロックは符号化処理中に別々に処理されるので、再構成画像内でブロックアーチファクトが知覚される。これらのアーチファクトは視覚的にうっとうしいものである。
【０００４】
この問題は、論文において、例えばマルコフ確率場（Markovian  Random  Field）、アダプティブフィルタリング、凸集合上への投影などの様々な画像処理技術によって対処されている。これらの手法は何れも、ブロックアーチファクトを除去することにおいて、かなり良好な結果をもたらす。
【０００５】
しかしながら、これらの手法は、視覚的に極めてうっとうしいフリッカー（ちらつき）を誘起する更なるノイズを生じさせる。得られる画像は僅かにぼやけてしまう。
【発明の概要】
【発明が解決しようとする課題】
【０００６】
故に、ブロックアーチファクトを除去するための新たな手法を開発することが望まれる。
【課題を解決するための手段】
【０００７】
本発明により、独立請求項に記載されるような方法及び電子装置が提供される。
【０００８】
さらに、それらの方法及び装置のその他の特徴が従属請求項に記載される。
【０００９】
以下の説明及び図面から、本発明のその他の態様が明らかになる。
【図面の簡単な説明】
【００１０】
【図１】本発明に従った電子装置を示す機能ブロック図である。
【図２】ブロック群に分割された画像を示す模式図である。
【図３】本発明に従ったテクスチャ融合部を示す機能ブロック図である。
【図４】単一の現在ブロックからの２つの異なる融合ブロックの構築を示す模式図である。
【図５】動き補償式フレーム間予測を用いて符号化されたビデオシーケンスの画像群を再構成する方法を例示するフローチャートである。
【図６】イントラ画像を処理するステップ群を例示するフローチャートである。
【図７】融合ブロックを構築するステップ群を例示するフローチャートである。
【図８】本発明に従った変動値の計算を示す模式図である。
【図９】インター画像を処理するステップ群を例示するフローチャートである。
【図１０】インター画像処理を示す模式図である。
【発明を実施するための形態】
【００１１】
本発明に係る状況において、エンコーダは、以下ではブロックと称する８列上の８行の大きさを有する画像の部分群を互いに独立に処理するように適応される。
【００１２】
特に、このエンコーダは、空間的な冗長性を低減するために離散コサイン変換（ＤＣＴ）を用いて、そして時間的な冗長性を低減するために動き補償式フレーム間予測を用いて、ビデオシーケンスの画像を符号化することができる。これらの符号化法は周知である。それらの説明は、「ＭＰＥＧ  ＶＩＤＥＯ  ＣＯＤＩＮＧ：Ａ  ｂａｓｉｃ  ｔｕｔｏｒｉａｌ  ｉｎｔｒｏｄｕｃｔｉｏｎ」という題名のＳ．Ｒ．ＥｌｙによるＢＢＣ研究開発リポートに見出すことができる。
【００１３】
本発明に従って、このエンコーダは、画像内のブロック群を選択し、これらのブロックを識別する情報を、デコーダに送信されるビットストリーム内に導入するように適応される。これらのブロックは、８列上の８行の大きさを有する画像の部分群である。それらは画像の典型的なテクスチャを表す。以下では、それらをテクスチャパターンブロックと称する。
【００１４】
例えば、１つの画像のブロック群のうちの１．５％がテクスチャパターンブロックとして選択され得る。
【００１５】
本発明によれば、これらのテクスチャパターンブロックを識別する情報をビットストリーム内に導入することには、２つの可能な方策が存在する。
【００１６】
第１の方策によれば、テクスチャパターンブロックの座標が既存の規格にて予測される空き空間内に含められる。
【００１７】
第２の方策によれば、ＱＰインデックスとも称する、ビットレートを制御するために符号化中に使用される量子化指数が、テクスチャパターンブロックの符号化のために低下される。このＱＰインデックスはブロック内での量子化を制御し、通常、０と５１との間に設定される。ＱＰインデックスが高く設定されるほど、より多くブロックが圧縮される。
【００１８】
本発明に従って、テクスチャパターンブロックに設定されるＱＰインデックスは、画像のその他のブロックに設定されるＱＰインデックスより低くされる。ＱＰインデックスはテクスチャパターンブロックに対して低いので、これらのブロックのテクスチャは、より良く保存される。
【００１９】
エンコーダは、画像の各ブロックを表すビットストリームデータを、左上のものから右上のものへと相次いで送信する。これらのデータは、ブロックごとに、ＱＰインデックスと周波数係数、又はそのブロックが別の画像の関連ブロックから予測されるときの動きベクトルを有する。
【００２０】
デコーダ側で、後述するように、より低いＱＰインデックスを有するブロックが識別される。
【００２１】
図１を参照するに、本発明に従った電子装置２の概略的なブロック図が示されている。この電子装置２は、上述のエンコーダからビットストリームを受信するように適応されたデコーダである。
【００２２】
電子装置２は、上述のエンコーダによって符号化されたビデオシーケンスを表すビットストリームを受信する入力４と、入力４に結合されたデコーダ６と、デコーダ６に結合された再構成ユニット８と、再構成ユニット８に接続されたメモリ１０とを有している。
【００２３】
デコーダ６は、エンコーダによって送信されたビットストリームを復号化し、図２に示すような画像１５のブロック１１、１２、１３を表すデータ及び／又は動きベクトルを取得するように適応されている。
【００２４】
再構成ユニット８は、周知のように、復号化されたデータから画像の各ブロック１１、１２、１３を再構成するように適応されている。
【００２５】
本発明に従って、再構成ユニット８は更に、エンコーダ側でビットストリーム内に含められた情報から、テクスチャパターンブロック１４、１６を復元することができる。
【００２６】
この目的のため、再構成ユニット８は、標準的な方法にて予測された空き空間内に含められた情報を読み取るか、より低いＱＰインデックスで符号化されたブロックを特定するかの何れかを行うように適応される。
【００２７】
各画像に関して再構成されたテクスチャパターンブロック１４、１６はテクスチャの辞書１７を構成し、辞書１７はメモリ１０に格納される。
【００２８】
電子装置２はまた、再構成ユニット８及びメモリ１０に結合された制御ユニット１８と、メモリ１０及び制御ユニット１８に接続されたテクスチャ融合部（マージャ）２０と、制御ユニット１８に結合された出力２２とを有している。
【００２９】
制御ユニット１８は、イントラブロックと、インター画像に属し、動きベクトルに関連付けられたブロックとを、テクスチャ融合部２０に送信することができ、且つ、インター画像に属し、動きベクトルに関連付けられたブロックに対して、図９に示す方法を実行することができる。
【００３０】
制御ユニット１８は、テクスチャパターンブロックではない再構成画像のブロック群を相次いで選択し、アーチファクトを除去するようにそれらを処理し、且つ各選択ブロックを処理後のブロックで置換するように適応されている。
【００３１】
テクスチャ融合部２０は、制御ユニット１８によって選択された各ブロック１３に対して融合ブロック２４を構築することができる。
【００３２】
図３を参照するに、テクスチャ融合部２０が例示されている。テクスチャ融合部２０は、各テクスチャパターンブロック１４、１６を受信する第１の入力３０と、第１の入力３０に結合され、テクスチャパターンブロックの画素階調レベル（グレーレベル）を周波数係数に変換する第１のＤＣＴユニット３２とを有している。
【００３３】
テクスチャ融合部２０は、制御ユニット１８によって選択されたブロック１３を受信するように適応された第２の入力３８と、該入力３８に結合され、ブロック１３の画素階調レベルを周波数係数に変換する第２のＤＣＴユニット４０と、第１の閾値Ｓ１を格納するメモリ４２と、メモリ４２及び第２のＤＣＴユニット４０に接続された比較器４４とを含んでいる。
【００３４】
各ＤＣＴユニット３２、４０は、階調レベルを有する各入力ブロック１３を、これらの階調レベルを表す周波数係数を有するブロック１３へと変換することが可能な計算ユニットである。ブロックの左上の隅に置かれる係数は通常、ＤＣ係数と呼ばれ、その他の係数は通常、ＡＣ係数と呼ばれる。係数ブロック内での係数の位置はその周波数ランクに対応し、例えば、ブロックの右下に位置するＡＣ係数は最も高い周波数に対応する。
【００３５】
第１の閾値Ｓ１は例えば２０と４０との間である。例えば、第１の閾値Ｓ１は３０に等しい。
【００３６】
比較器４４は、ブロックの周波数係数を、メモリ４２に格納された第１の閾値Ｓ１と比較するように適応されている。
【００３７】
テクスチャ融合部２０は、比較器４４の出力及びＤＣＴユニット３２、４０に接続された構築ユニット４６と、構築ユニット４６、第２のＤＣＴユニット４０及び第２の入力３８に結合された選択ユニット４７と、選択ユニット４７に接続されたＩＤＣＴユニット４８と、ＩＤＣＴユニット４８に結合された出力５０とを有している。
【００３８】
構築ユニット４６は、図４に例示するように各選択ブロック１３及び各テクスチャパターンブロック１４、１６に対して融合ブロック２４、２６を生成するように適応されたプロセッサである。
【００３９】
選択ユニット４７は、現在の処理ブロック１３の各融合ブロック２４、２６に関する変動値Ｊを計算し、ＩＤＣＴユニット４８に送信されるための基準を満たす融合ブロック２４、２６を選択するように適応されている。
【００４０】
この変動値は、選択ブロック１３とテクスチャパターンブロック１４との間の周波数の類似性と、選択ブロック１３と該選択ブロック１３に隣接する少なくとも１つのブロックとの間の階調レベルの勾配とを表す。
【００４１】
選択ユニット４７は、ＩＤＣＴユニット４８から受信した融合ブロック２４を格納するためのメモリ４９を有している。
【００４２】
ＩＤＣＴユニット４８は、逆離散コサイン変換を行って、ユニット４７によって選択された各融合ブロック２４の周波数係数を階調レベルに変換することができる。ＩＤＣＴユニット４８の出力は、階調レベルで表現された融合ブロック２４をメモリ４９に伝送するために、選択ユニット４７に結合されている。
【００４３】
図５を参照するに、本発明に従った方法は、ビットストリームの一部を受信するステップ６０で開始する。
【００４４】
ステップ６２にて、デコーダ６がビットストリームのこの部分を復号化し、データ及び場合により動きベクトルを取得する。
【００４５】
ステップ６３にて、再構成ユニット８が、デコーダ６によって発信されたデータから、画像１５及び場合により動きベクトルを再構成する。
【００４６】
ステップ６４にて、再構成画像１５がイントラ画像、すなわち、その他の画像を参照することなく符号化された画像であるか、インター画像、すなわち、その他の画像からの動き補償予測を用いて符号化された画像であるかを、制御ユニット１８が決定する。
【００４７】
本発明では、ビデオシーケンスの最初の画像はイントラ画像であると仮定する。
【００４８】
受信した画像がイントラ画像であるとき、その画像は図６に例示したフローチャートに従って処理される。
【００４９】
受信した画像がインター画像であるとき、そのインター画像は図９に例示したフローチャートに従って処理される。
【００５０】
図６を参照するに、イントラ画像１５を処理する方法は第１のステップ７０を有し、該ステップ７０において、エンコーダ側で選択されたテクスチャパターンブロック１４、１６が復元され、画像１５の典型的なテクスチャを表すテクスチャ辞書１７が形成される。
【００５１】
ステップ７２にて、制御ユニット１８が、ユニット８から受信した再構成画像から現在ブロック１３を選択する。より低いＱＰインデックスによって適切なテクスチャを有することが保証されるテクスチャパターンブロックを除いて、画像１５の全てのブロックが、ラスター走査順に従って順次選択されることになる。
【００５２】
ステップ７４にて、テクスチャ融合部２０が、辞書１７内の第１のテクスチャパターンブロック１４を選択する。
【００５３】
その後、ステップ７６にて、テクスチャ融合部２０は、図７に例示するステップ群を実行することによって融合ブロック２４を構築する。
【００５４】
ステップ７８において、ＤＣＴユニット３２によって、選択されたテクスチャパターンブロック１４の階調レベルが周波数係数に変換される。
【００５５】
同様に、ステップ８０にて、ＤＣＴユニット４０によって、現在ブロック１３の階調レベルが周波数係数に変換される。
【００５６】
ステップ８２にて、比較器４４によって、現在ブロック１３の座標（ｉ，ｊ）によって定められる位置にある周波数係数が第１の閾値Ｓ１と比較される。
【００５７】
この周波数係数がこの閾値より大きいとき、ステップ８４において、構築ユニット４６がこの係数を、融合ブロックと称する新たなブロック内の、現在ブロック１３の該周波数係数が位置するのと同一の位置（ｉ，ｊ）に複製する。
【００５８】
この周波数係数が第１の閾値Ｓ１より小さいとき、構築ユニット４６は、ステップ８６において、同一位置（ｉ，ｊ）に位置するテクスチャパターンブロック１４の周波数係数を検索し、見出した周波数係数を融合ブロック２４の位置（ｉ，ｊ）に複製する。
【００５９】
得られる融合ブロック２４は、第１の閾値Ｓ１より小さい全ての周波数係数が、選択されたテクスチャパターンブロック１４の周波数係数で置換された、現在ブロックの複製となる。
【００６０】
ステップ８２とステップ８４又は８６とが、ステップ８８で融合ブロック２４が形成されるまで、現在ブロック１３の全ての周波数係数に対して繰り返される。
【００６１】
ステップ９０にて、選択ユニット４７が、関数：Ｊ＝Ｃ＋λＤから変動値Ｊを計算する。ただし、
−  λは所定のスカラーであり、
−  Ｄは周波数類似性成分であり、
−  Ｃは階調レベルの勾配成分である。
【００６２】
例えば、λは０．３と０．８との間であり、例えば、λは０．５に等しい。
【００６３】
周波数類似性成分Ｄは、現在ブロック１３とテクスチャパターンブロック１４との間での低周波数係数の差を表す。
【００６４】
周波数類似性成分Ｄは、以下の等式：
【数１】
2010534015.tif 000003
から得られる。ただし、
−  Ｄは周波数類似性成分であり、
−  ＢDCTcurrent（ｉ，ｊ）は、現在ブロック１３のＤＣＴ変換の行ｉ、列ｊにおける周波数係数であり、
−  ＢDCTtexture（ｉ，ｊ）は、テクスチャパターンブロック１４のＤＣＴ変換の行ｉ、列ｊにおける周波数係数であり、
−  ｋはブロックの行又は列の総数より小さい整数である。
【００６５】
現在ブロックは量子化されているため高周波情報を欠いており、ｋはブロック１３の行及び列の総数より小さく選択される。
【００６６】
例えば、ｋは３と５との間である。
【００６７】
ｋが４であるとき、現在ブロックの左上の隅に位置する最初の１５のＡＣ周波数係数が、周波数類似性成分Ｄの計算に考慮される。これらのＡＣ周波数係数は現在ブロックの低い側の周波数を表す。左上の隅に位置するＤＣ係数は、現在ブロック１３の階調レベルの平均値を表すので、考慮に入れられない。
【００６８】
階調レベルの勾配成分Ｃは、以下の等式：
【数２】
2010534015.tif 000004
から得られる。ただし、
−  Ｃは階調レベルの勾配成分であり、
−  ｌはブロックの列ｊの総数、すなわち、説明される実施形態においては８に等しい整数であり、
−  ｍはブロックの行ｉの総数に等しい整数であり、
−  Ｂcurrent（０，ｊ）は、ｊが各列を表す整数であるとして、現在ブロック１３の第１行に位置する各画素の階調レベルであり、
−  Ｂcurrent（ｉ，０）は、ｉが各行を表す整数であるとして、現在ブロック１３の第１列内の各画素の階調レベルであり、
−  Ｂabove（ｍ，ｊ）は、図８に示す現在ブロック１３の上に位置するブロック９１の行ｍ、列ｊの各画素の階調レベルであり、
−  Ｂleft（ｉ，ｌ）は、現在ブロックの左側に位置するブロック９２の行ｉ、列ｌの各画素の階調レベルである。
【００６９】
階調レベルの勾配成分Ｃは、現在ブロック１３と、それに直に隣接する、当該方法に従って既に処理されたブロックとの間の勾配を計算することから得られる。それらのブロック９１及び９２はメモリ４９に格納されている。
【００７０】
画像はラスター走査順に従って処理されるので、大部分の現在ブロックはその上に位置する１つのブロックと、その左に位置する１つのブロックとを有する。選択された最初のブロックは、画像の左上の隅に置かれ、当該方法に従って既に処理された隣接ブロックを有しない。このブロックに対しては、階調レベルの勾配成分は計算されない。２番目のブロックはその左に、唯一の既に処理された隣接ブロックを有し、該２番目のブロックに対しては、その左の隣接ブロックのみに従って階調レベルの勾配成分Ｃが計算される。
【００７１】
辞書１７のその他全てのテクスチャパターンブロックに対してステップ７４から９０が繰り返され、多数の融合ブロックと、辞書１７内のテクスチャパターンブロックの数に等しい多数の変動値とが取得される。
【００７２】
例えば、図４に示すように、現在ブロック１３及びテクスチャパターンブロック１６から融合ブロック２６が取得される。
【００７３】
故に、辞書の各テクスチャパターンブロック１４、１６に、融合ブロック２４、２６及び変動値Ｊが関連付けられる。
【００７４】
ステップ９４において、選択ユニット４７は、各テクスチャパターンブロック１４、１６に関連付けられた融合ブロック２４、２６の中から、所定の基準を満たす、すなわち、最低の変動値を有する融合ブロック２４を選択する。
【００７５】
ステップ９５にて、ＩＤＣＴユニット４８によって、逆離散コサイン変換を用いて、選択された融合ブロック２４の周波数係数が階調レベルに変換される。
【００７６】
選択された融合ブロック２４は、出力５０を介して制御ユニット１８に送信されるとともに、メモリ４９に格納するために選択ユニット４７に送信される。
【００７７】
ステップ９６にて、制御ユニット１８によって選択されたブロックが、逆ＤＣＴ後に得られた融合ブロック２４で置換される。
【００７８】
処理はステップ７２へと戻り、再構成画像１５の次のブロックがラスター走査順に従って選択される。画像の最後まで、このブロック及び画像１５のその他のブロックに対してステップ７４から９６が繰り返される。
【００７９】
そして、処理はステップ６０へと進み、新たな画像を表すビットストリームの別の部分が処理される。
【００８０】
ステップ６４において検査された画像がインター画像であるとき、当該方法はステップ９９へと進み、図９及び１０に示すように、インター画像１００内で現在ブロック９８が選択される。
【００８１】
ステップ１０４にて、現在画像１００の現在ブロック９８と同一の位置にある参照画像１０２内のブロック１０５が決定される。以下、このブロック１０５を同一位置ブロックと称する。参照画像１０２は、動き補償予測によって現在画像１００を符号化するために用いられた画像である。
【００８２】
ステップ１０６にて、現在ブロック９８とその同一位置ブロック１０５との間の類似係数Δが、以下の等式：
【数３】
2010534015.tif 000005
に従って計算される。ただし、
−  Ｂcurrent（ｉ，ｊ）は、現在画像１００の現在ブロック９８の行ｉ、列ｊの画素の階調レベルであり、
−  ｌ及びｍは、ブロックの行及び列の総数に等しく、
−  Ｂcollocated（ｉ，ｊ）は、参照画像１０２の関連ブロック１０５の行ｉ、列ｊの画素の階調レベルである。
【００８３】
ステップ１０７にて、類似係数Δが第２の閾値Ｓ２と比較される。この閾値Ｓ２は、例えば１５００と２５００との間であり、好ましくは２０００に等しい。
【００８４】
類似係数Δが第２の閾値Ｓ２より大きいとき、現在ブロック９８とその同一位置ブロック１０５との間には高い類似性が存在するので、現在ブロック９８は処理されない。そして、当該方法はステップ９９へと戻り、ラスター走査順に従った次のブロックが選択される。
【００８５】
類似係数Δが第２の閾値Ｓ２より小さいとき、ステップ６２においてビットストリームの復号化から得られた動きベクトル１１１を用いることによって、現在ブロック９８に関連付けられたブロック１１０が探索される。動き補償式フレーム間予測符号化に従って、現在ブロック９８は、関連ブロック１１０から予測されたブロックである。
【００８６】
参照画像１０２は既に本発明に係る方法に従って処理されているので、関連ブロック１１０は上述のステップ７０から９６の実行から得られた融合ブロックである。
【００８７】
ステップ１１４にて、既に処理され、故に既に融合ブロックになっている関連ブロック１１０によって、現在ブロック９８が置換される。
【００８８】
そして、処理は画像の最後までステップ９９から１１４を進める。
【００８９】
インター画像の処理が完了したとき、処理はステップ６０を続け、ビットストリームの別の部分が受信される。
【００９０】
変形例において、エンコーダは、規格ＪＰＥＧ、ＭＰＥＧ１、ＭＰＥＧ２、Ｈ．２６４にて使用されるもののような他の直交変換を用いて符号化を行う。
【００９１】
エンコーダが符号化規格Ｈ．２６４を用いるとき、テクスチャパターンブロックを識別する情報は、補助強化情報（Supplemental  Enhancement  Information；ＳＥＩ）と呼ばれる標準フィールド内に格納される。
【００９２】
テクスチャ辞書データは、別個の独立したネットワーク・アダプテーション・レイヤ（ＮＡＬ）ユニット内で符号化するため、現在フレームの前に送信される。このＮＡＬユニットは、テクスチャ辞書に専用の新たなＳＥＩメッセージタイプに相当し、デコーダ側でテクスチャ融合処理を実行するために必要な全ての情報を含むテクスチャ辞書情報に続かれる。テクスチャ辞書情報は、辞書数、量子化ステップ値、テクスチャブロック数、ＤＣＴサイズ、及びテクスチャ辞書のバイナリーストリームを有する。
【００９３】
変形例において、本発明に従った方法は、例えば鷲の羽根といった特定のテクスチャを有する画像の所定の領域上でのみ実行される。
【００９４】
その場合、画像は先ず区分化（セグメンテーション化）され、セグメンテーションマップがデコーダに送信される。領域ごとに異なるテクスチャ辞書を選択することができる。
【００９５】
ビデオシーケンスがイントラ画像のみを有するとき、本発明に従った処理は、ステップ６０、６２、６４、及び７０乃至９８を実行することによって行われる。
【００９６】
上述の実施形態によれば、本発明に従った方法は、符号化され且つ復号化される画像に適用される。しかしながら、この方法を圧縮された画像に適用することも可能である。その場合、テクスチャパターンブロックの辞書１７は既に形成されており、画像は、既に作成された辞書を用いてステップ７２乃至９６を実行することによって処理される。
【図１】
2010534015.tif 000009
【図２】
2010534015.tif 000010
【図３】
2010534015.tif 000011
【図４】
2010534015.tif 000012
【図５】
2010534015.tif 000013
【図６】
2010534015.tif 000014
【図７】
2010534015.tif 000015
【図８】
2010534015.tif 000016
【図９】
2010534015.tif 000017
【図１０】
2010534015.tif 000018
【手続補正書】
【提出日】平成22年1月19日(2010.1.19)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
少なくとも１つの画像を処理する方法であって、ブロックは前記画像の一部であり、階調レベルが前記画像の各画素に関連付けられ、前記画像のテクスチャを表す少なくとも１つのテクスチャパターンブロックがメモリに格納され、各テクスチャパターンブロックの前記画素の階調レベルが、所定の変換を用いて周波数係数に変換され、当該方法は：
ａ）前記画像内で現在ブロックを選択するステップ；
ｂ）前記現在ブロックの前記画素の階調レベルを、前記所定の変換を用いて、周波数係数の現在ブロックへと変換するステップ；
ｃ）融合ブロックを構築する構築ステップであり、該融合ブロックの所定の位置にある各周波数係数は、前記現在ブロックの同一位置にある周波数係数が基準を満たすときに、前記現在ブロックの該周波数係数に等しく、前記現在ブロックの該周波数係数が前記基準を満たさないときには、前記メモリに格納された前記テクスチャパターンブロックのうちの１つのテクスチャパターンブロックの同一位置にある周波数係数に等しい、構築ステップ；
ｄ）所定の関数に従って融合ブロックを選択するステップ；
ｅ）前記画像内で、前記現在ブロックを、前記選択された融合ブロックで置換するステップ；
を有する、ことを特徴とする方法。
【請求項２】
前記メモリには複数のテクスチャパターンブロックが格納され、複数の融合ブロックを構築するように各テクスチャパターンブロックに対してステップｃ）及びｄ）が実行され、ステップｄ）は：
ｄ１）各融合ブロックに対し、前記所定の関数を計算し、前記現在ブロックと該融合ブロックの対応するテクスチャパターンブロックとの間の周波数の類似性と、前記現在ブロックと前記現在ブロックに隣接する少なくとも１つのブロックとの間の階調レベルの勾配と、を表す変動値を取得するステップ；及び
ｄ２）前記現在ブロックを置換する前記選択された融合ブロックとして、最小の変動値を有する融合ブロックを選択するステップ；
を有する、ことを特徴とする請求項１に記載の方法。
【請求項３】
前記所定の関数は、等式：
【数１】
2010534015.tif 000019
から得られる周波数類似性成分を有し、ただし、
−  Ｄは前記周波数類似性成分であり、
−  ＢDCTcurrent（ｉ，ｊ）は、前記現在ブロックの離散コサイン変換の行ｉ、列ｊにおける周波数係数であり、
−  ＢDCTtexture（ｉ，ｊ）は、前記テクスチャパターンブロックの離散コサイン変換の行ｉ、列ｊにおける周波数係数であり、
−  ｋはブロックの行又は列の総数より小さい整数である、
ことを特徴とする請求項２に記載の方法。
【請求項４】
ステップａ）からｅ）を実行する現在ブロックの前記選択は、前記画像内、又は複数のブロックに分割される前記画像の一部内で、ラスター走査順である所定の順序に従って行われ、前記所定の関数は、等式：
【数２】
2010534015.tif 000020
から得られる階調レベル勾配成分を有し、ただし、
−  Ｃは前記階調レベル勾配成分であり、
−  ｌはブロックの列ｊの総数に等しい整数であり、
−  ｍはブロックの行ｉの総数に等しい整数であり、
−  Ｂcurrent（０，ｊ）は、ｊが各列を表す整数であるとして、前記現在ブロックの第１行に位置する各画素の階調レベルであり、
−  Ｂcurrent（ｉ，０）は、ｉが各行を表す整数であるとして、前記現在ブロックの第１列内の各画素の階調レベルであり、
−  Ｂabove（ｍ，ｊ）は、前記現在ブロックの上に位置するブロックの行ｍ、列ｊの各画素の階調レベルであり、
−  Ｂleft（ｉ，ｌ）は、前記現在ブロックの左側に位置するブロック９２の行ｉ、列ｌの各画素の階調レベルである、
ことを特徴とする請求項２又は３に記載の方法。
【請求項５】
前記所定の関数Ｊは、λが所定のスカラーであるとして、Ｊ＝Ｃ＋λ×Ｄなる関数である、ことを特徴とする請求項２又は３に記載の方法。
【請求項６】
当該方法は、動き補償フレーム間予測を用いて符号化された少なくとも２つの画像上で実行され、現在画像が動き補償予測を用いて参照画像から符号化され、前記現在画像及び前記参照画像は復号化され、前記参照画像のラスター走査順に従って順次選択されたブロック上で既にステップａ）からｅ）が実行され、前記現在画像の１つの現在ブロックとそれが予測された前記参照画像の関連ブロックとの間の動きを表す各動きベクトルが前記現在画像の前記復号化から決定され、
当該方法は：
ｊ）前記現在画像内で前記現在ブロックを選択するステップ；
ｋ）前記参照画像内で、前記現在ブロックに関連付けられた前記関連ブロックを、関連する前記動きベクトルを用いて決定するステップ；
ｌ）前記参照画像内で前記現在画像内での前記現在ブロックの位置と同一の位置にある同一位置ブロックを、前記参照画像内で決定するステップ；
ｍ）前記現在ブロックと前記同一位置ブロックとの間の類似係数を計算する計算ステップであり、該類似係数は前記現在ブロックと前記同一位置ブロックとの間のテクスチャ類似性を表す、計算ステップ；
−  前記類似係数が所定の閾値より大きい場合に、ラスター走査順に従って次のブロックを選択し、該ブロック上でステップｊ）からｍ）を繰り返すステップ；
−  前記類似係数が前記所定の閾値より小さい場合に、前記現在画像の前記現在ブロックを、融合ブロックである前記参照画像の前記関連ブロックで置換するステップ；
を有する、
ことを特徴とする請求項１乃至５の何れかに記載の方法。
【請求項７】
前記類似係数Δは、
【数３】
2010534015.tif 000021
から得られ、ただし、
−  Ｂcurrent（ｉ，ｊ）は、前記現在画像の前記現在ブロックの行ｉ、列ｊの画素の階調レベルであり、
−  Ｂcollocated（ｉ，ｊ）は、前記参照画像の前記関連ブロックの行ｉ、列ｊの画素の階調レベルであり、
−  ｌ及びｍは、ブロックの行及び列の総数に等しい、
ことを特徴とする請求項６に記載の方法。
【請求項８】
画像内の或る領域を選択し、選択された領域のブロックにのみステップａ）からｅ）を適用するステップを有することを特徴とする請求項１乃至７の何れかに記載の方法。
【請求項９】
ステップｃ）において、前記基準は、前記現在ブロックの前記周波数係数が所定の閾値より低いときに満たされる、ことを特徴とする請求項１乃至８の何れかに記載の方法。
【請求項１０】
前記所定の変換は離散コサイン変換であることを特徴とする請求項１乃至９の何れかに記載の方法。
【請求項１１】
前記所定の変換は規格化されたＨ．２６４変換であることを特徴とする請求項１乃至９の何れかに記載の方法。
【請求項１２】
ビデオシーケンスのうちの少なくとも１つの画像を符号化し且つ復号化する方法であって、ブロックは前記画像の一部であり、前記符号化の段階が：
−  前記画像のテクスチャを表す少なくとも１つのテクスチャパターンブロックを前記画像内で選択するステップ；及び
−  前記テクスチャパターンブロックを規定する情報を生成し、デコーダに送信されるビットストリーム内に該情報を符号化するステップ、
を有し、前記復号化の段階が：
−  前記ビットストリームから前記画像を再構成するステップ；
−  前記ビットストリーム内に含められた前記情報から、前記テクスチャパターンブロックを決定するステップ；
−  決定された前記テクスチャパターンブロックをメモリに格納するステップ；及び
−  請求項１乃至１１の何れかに記載の方法を実行するステップ；
を有する、ことを特徴とする方法。
【請求項１３】
前記テクスチャパターンブロックは、前記画像のその他のブロックを符号化するために用いられる量子化指数より低い量子化指数を用いて符号化される、ことを特徴とする請求項１２に記載の方法。
【請求項１４】
前記復号化の段階は、前記画像の典型的なテクスチャを表し且つより低い量子化指数を用いて符号化されたブロックを選択するステップを有する、ことを特徴とする請求項１３に記載の方法。
【請求項１５】
前記画像は規格化されたＨ．２６４変換に従って符号化され、前記テクスチャパターンブロックを規定する前記情報は、規格化されたＨ．２６４変換の“補助強化情報”と呼ばれる領域に含められる、ことを特徴とする請求項１１乃至１３の何れかに記載の方法。
【請求項１６】
少なくとも１つの画像を処理する電子装置であって、ブロックは前記画像の一部であり、階調レベルが前記画像の各画素に関連付けられ、当該電子装置は：
−  各テクスチャパターンブロックの前記画素の階調レベルが所定の変換を用いて周波数係数に変換されている、前記画像の典型的なテクスチャを表す少なくとも１つのテクスチャパターンブロックを格納するメモリ；
−  前記画像内で現在ブロックを選択する少なくとも第１の選択ユニット；
−  前記現在ブロックの前記画素の階調レベルを、前記所定の変換を用いて、周波数係数に変換するように適応された少なくとも１つの計算ユニット；
−  融合ブロックを構築する少なくとも１つの構築ユニットであり、該融合ブロックの所定の位置にある各周波数係数は、前記現在ブロックの同一位置にある周波数係数が基準を満たすときに、前記現在ブロックの該周波数係数に等しく、前記現在ブロックの該周波数係数が前記基準を満たさないときには、前記メモリに格納された前記テクスチャパターンブロックのうちの１つのテクスチャパターンブロックの同一位置にある周波数係数に等しい、構築ユニット；
−  所定の関数に従って融合ブロックを選択する少なくとも第２の選択ユニット；
−  選択された融合ブロックの周波数係数を、前記所定の変換の逆の変換を用いて、階調レベルに変換するように適応された少なくとも１つの計算ユニット；
を有し、
前記第１の選択ユニットは、前記画像内で、前記現在ブロックを前記選択された融合ブロックで置換するように適応されている、
ことを特徴とする電子装置。
【請求項１７】
−  ビデオシーケンスの少なくとも１つの符号化された画像を表すビットストリームを復号化するように適応されたデコーダ；及び
−  前記画像を再構成し、且つ前記ビットストリーム内に含まれる情報から前記テクスチャパターンブロックを再構成するように適応された再構成ユニット；
を有することを特徴とする請求項１６に記載の電子装置。
【請求項１８】
前記再構成ユニットは、より低い量子化指数を用いて符号化されたブロックをテクスチャパターンブロックとして分類するように適応されている、ことを特徴とする請求項１７に記載の電子装置。
【請求項１９】
前記画像は規格化されたＨ．２６４変換を用いて符号化され、前記再構成ユニットは、前記テクスチャパターンブロックを再構成するために、規格化されたＨ．２６４変換の“補助強化情報”と呼ばれる領域内の情報を探索するように適応されている、ことを特徴とする請求項１７に記載の電子装置。
【国際調査報告】
2010534015.tif 000022
2010534015.tif 000023