(57)【特許請求の範囲】
【請求項１】
ビデオ信号を符号化する方法であって、
画像圧縮が実行され、
フレームシーケンスを圧縮するために複数の時間的予測が用いられ、
前記フレームシーケンスの時間的に隣接するフレームである複数の予測フレームが予測ユニット中のメモリに格納され、
前記予測ユニットの前記メモリ内の予測フレームが、他の予測ユニットから別途生成された予測フレームで上書きされ、
前記別途生成された予測フレームは前記フレームシーケンスの時間的に隣接するフレームではなく、
上書きされる前記予測フレームは、メモリ内に最も長く存在する１又はそれ以上の予測フレームであり、
予測フレームは深度視野を用いて生成された予測ビューで上書きされる方法。
【請求項２】
ビデオ信号を復号する方法であって、
フレームシーケンスを解凍するために複数の時間的予測が用いられ、
前記フレームシーケンスの時間的に隣接するフレームである複数の予測フレームが予測ユニット中のメモリに格納され、
前記予測ユニットの前記メモリ内の予測フレームが、他の予測ユニットから別途生成された予測フレームで上書きされ、
前記別途生成された予測フレームは前記フレームシーケンスの時間的に隣接するフレームではなく、
上書きされる前記予測フレームは、メモリ内に最も長く存在する１又はそれ以上の予測フレームであり、
予測フレームは深度視野を用いて生成された予測ビューで上書きされる方法。
【請求項３】
ビデオ信号用のエンコーダであって、
画像圧縮が実行され、
当該エンコーダは、フレームシーケンスを圧縮するために複数の時間的予測を生成して、前記複数の時間的予測を予測ユニット中のメモリに格納し、
前記複数の時間的予測は前記フレームシーケンスの時間的に隣接するフレームであり、
当該エンコーダは、前記予測ユニットのメモリ内の予測フレームを、他の予測ユニットから別途生成された予測フレームで上書きし、
前記別途生成された予測フレームは前記フレームシーケンスの時間的に隣接するフレームではなく、
上書きされる前記予測フレームは、メモリ内に最も長く存在する１又はそれ以上の予測フレームであり、
予測フレームは深度視野を用いて生成された予測ビューで上書きされるエンコーダ。
【請求項４】
圧縮されたビデオ信号用のデコーダであって、
当該デコーダは、フレームシーケンスを解凍するために複数の時間的予測を生成し、前記複数の時間的予測を予測ユニット中のメモリに格納し、
前記複数の時間的予測は前記フレームシーケンスの時間的に隣接するフレームであり、
当該デコーダは、前記予測ユニットのメモリ内の予測フレームを、他の予測ユニットから別途生成された予測フレームで上書きし、
前記別途生成された予測フレームは前記フレームシーケンスの時間的に隣接するフレームではなく、
上書きされる前記予測フレームは、メモリ内に最も長く存在する１又はそれ以上の予測フレームであり、
予測フレームは深度視野を用いて生成された予測ビューで上書きされるデコーダ。
【請求項５】
コンピュータプログラムがコンピュータ上で実行されるときに、請求項１又は請求項２に記載の方法を実行するプログラムコードを有する、コンピュータプログラム。
【請求項６】
コンピュータプログラムがコンピュータ上で実行されるときに、請求項１又は請求項２に記載の方法を実行する、コンピュータ読み取り可能な媒体に格納されたプログラムコードを有する、コンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ビデオ符号化（又はビデオ圧縮）の一般的な分野に関し、実施形態においてはいわゆるスケーラブルビデオ符号化（scalable video coding）に関する。これは、ビデオ信号を符号化するための方法及びシステムであって、画像圧縮、例えばスケーラブル画像圧縮が実行され、複数の時間的予測が用いられ、複数のフレームがメモリに格納される方法及びシステムを提示する。
【０００２】
本発明は、符号化された、例えばスケーラブルビデオ信号、並びに、ビデオ信号を復号するための方法及びシステムにも関する。
【背景技術】
【０００３】
画像表示システムは、多くの場合、圧縮されたデータストリームを受信する。種々の画像圧縮技術が、格納又は送信されるべき画像データ量を削減するために知られている。ビデオ圧縮では、予測を利用し、フレーム又はフレームの部分の内容は、１又はそれ以上の前に受信又は生成されたフレームの内容から予測される。ビデオ信号処理において、信号は、イントラ符号化された（intracoded）フレーム及びインター符号化された（intercoded）フレーム、例えばＩフレーム、Ｐフレーム及びＢフレームで構成される。Ｉフレームは、イントラ符号化されている。Ｐフレーム及びＢフレームは、インター符号化されたフレームと呼ばれている。イントラ符号化フレームは、他のフレームに対する如何なる参照もなく復元され得る。インター符号化フレームは、他のフレームのデータを用いて復元される（前方予測又は後方予測）。Ｐフレーム及びＢフレームは、Ｉフレーム間の情報又は変化だけを含み、多くの場合マクロブロック（macroblock）に関する動きベクトルで表現される。標準的なビデオ信号処理において、その照会（referral）は、比較的単純であり、多くても２つのフレームが参照され、Ｐフレームは、Ｉフレームから前方的に予測され、Ｂフレームは、Ｉフレーム及びＰフレームから前方的及び後方的に予測される。動き推定を用いて、フレームの部分（マクロブロック）の動き推定に用いられる動きベクトルを見つけることができる。ＡＶＣ圧縮スタンダードのような幾つかのより複雑なビデオ圧縮スタンダードは、多くの複数予測の可能性を持つ。比較的多数の時間（即ち前方又は後方）予測が行われる。時間的に最も近いフレームだけでなく、時間的に遠くへ移動されたフレームも予測を行うために考慮される。バッファにおいて、幾つかのフレームは、時間的予測に用いられるべきメモリに格納される。時間の経過とともに、フレームは、メモリ内のバッファを介してシフトされ、新たな"フレッシュな"フレームが格納される場合には、最も古いものがバッファの外にはじき出される。
【発明の概要】
【発明が解決しようとする課題】
【０００４】
既存のスキームは有用であるが、発明者らは、符号化の改良に関する可能性が存在することを理解した。既知の方法は、予測の制限を持つ。制限を除去することにより、既存の（スケーラブル）ビデオ符号化に対して大きな変化を要求することなく新たな可能性が開かれ、それ故、工業的に配備することが容易である新規な機会を提供する。
【課題を解決するための手段】
【０００５】
この課題を達成するために、本発明によれば、メモリ内の予測フレームは、別途生成された予測フレームで上書きされる。
【０００６】
"別途生成"とは、本発明のフレームワーク内では、予測フレームを生成する通常の（時間的な）手順以外からを意味する。予測フレームは、例えばエンコーダのエンハンスメント符号化部分において生成され、ベースストリーム符号化部分において生成される予測フレームは、エンコーダのエンハンスメント部分（より広い意味で見られるときに、依然としてエンコーダの範囲内であるが）とは別に生成される。メモリ内に最も長く存在する予測フレームは、メモリにおいて最も古い予測フレーム、又は、最も古い予測フレームのサブセットの一つである。
【０００７】
本発明は、以下の見識に基づいている。スタンダードにおいては、幾つかの時間的予測が用いられる。格納部に長く存在するフレームは、そのフレームに基づく時間的予測の重要度が概して低くなる。本発明において、時間的予測の原則（dogma）は、別個の予測のために、１又はそれ以上の時間的予測のために確保されたスペースを用いることによりバイパスされる。これは、従来方式で生成された予測フレームに基づく時間的予測の精度を僅かに減少させるだろう。しかしながら、上書きされた情報は、比較的冗長／有用性の低いものである。それ故、この情報を上書きすることは、非常に多くの場合、画質を著しく減少させるものではない。しかしながら、上書きスロットに書き込まれ得る情報は、現在のスタンダードでは達成可能ではないが、既存のスタンダードとはもはや互換性がない、及び／又は、ビデオ信号中のビットの大幅な増加を必要とするような、既存の手順に対する非常に複雑な変更を伴ってのみ達成可能であるという可能性を切り開く。本発明の単純な実施形態において、上書きされた予測は、最も古い予測の一つである。最も古い（メモリにおいて最も長く存在する）予測は、多くの場合、重要性が最も低い。代わりに、方法は、上書きする前に最も重要性が低い予測を選択するためのアルゴリズムを有し得る。
【０００８】
本発明による方法は、既存のＡＶＣスタンダードに対して、より多くのビット又は大きな変化を要求しない。
【０００９】
本発明の一実施形態において、メモリは、エンハンスメント（enhancement）エンコーダ／デコーダ内のメモリであり、別途生成されたフレームは、ベース（base）エンコーダ／デコーダからのアップスケール（upscale）／インターレース解除（de-interlaced）されたフレームである。これは、如何なるシンタックス（syntax）の変更もなく、スケーラブル圧縮用のスタンダードＡＶＣを用いることが可能となる。
【００１０】
他の実施形態において、外部フレームは、深度視野（depth view）を有する。
【００１１】
これは、３Ｄビデオマルチビューコーディング（multiview coding）を生成することを可能にする。
【００１２】
更なる他の実施形態において、図７に示されるように、エンハンスメントストリームは、２とは異なる比率を持つ、より高いフレームレートを提供する。斯様な場合に関する想定されたアプリケーションは、テレビ装置を対象とした５０Ｈｚのベースレイヤ、及び、コンピュータＬＣＤパネル（又は任意の他の高度なディスプレイ）を対象とした７５Ｈｚのエンハンスメントレイヤである。実際には、フレームレートを少なくとも７５Ｈｚに増加させることは、直接１００Ｈｚに直接達するよりも低ビットレートの増加を要求する一方で、大幅な改良を与える。更に、７５Ｈｚは、多くのディスプレイ（主にコンピュータの世界で）の本来のリフレッシュレート（native refresh rate）である。従って、７５／９０Ｈｚエンハンスメントと互換性のある５０／６０Ｈｚソリューションが好ましいが、ＭＰＥＧ２又はＳＶＣによっても実現することはできない。
【００１３】
この互換性は、本発明に基づいて効果的に実現され得る。
【００１４】
これら及び本発明の他の有利な態様は、図面を用いてより詳細に述べられるだろう。
【図面の簡単な説明】
【００１５】
【図１ａ】本発明の一実施形態による符号化する方法を含む後処理方法のプロセスフローを示している。
【図１ｂ】本発明の一実施形態による復号する方法を含む後処理方法のプロセスフローを示している。
【図１ｃ】本発明の一実施形態による後処理方法のプロセスフローであって、より複雑な実施形態を示している。
【図２】図１ａ〜１ｃに示された本発明の実施形態を更に示している。
【図２ｂ】図１ａ〜１ｃに示された本発明の実施形態を更に示している。
【図３】図１ａ〜１ｃに示された本発明の実施形態を更に示している。
【図４】図１ａ〜１ｃに示された本発明の実施形態を更に示している。
【図５】図１ａ〜１ｃに示された本発明の実施形態を更に示している。
【図６】本発明の第２実施形態を示している。
【図７】ベースストリーム及びエンハンスメントストリームが異なるフレームレートを持つ本発明の更なる実施形態を示している。
【図８】（典型的には時間予測のための）予測メモリを備えたビデオ圧縮装置の基本原理を示しており、少なくとも１つのより使用に適さないものが代替予測手段の予測を格納するために用いられる。
【発明を実施するための形態】
【００１６】
図面は実寸で描かれていない。一般に、同一のコンポーネントは、図中の同一の参照符号により示される。
【００１７】
要約すると、本発明は、以下のように示され得る。幾つかのビデオ圧縮スタンダードは、例えば、動き推定／動き補償に関する複数の予測を用いる可能性を持つ。発明者らは、例えばＡＶＣを用いる場合に複数の時間的予測が用いられ、ＩＣがこれらを取り扱うことができるように予め設計されるときには、これらの予測の幾つかは、より冗長であるか、あるいは、有用性が低いものであることを理解した。本発明において、時間的予測の原則は、他の予測を符号化するために、これらの予測の最後（即ち、特に激しい動きに対して通常最も正確でない）を上書きすることにより回避される。デコーダも同様に作用する。
【００１８】
図１は、符号化及び復号する方法を用いた本発明の一実施形態の処理フローを示している。これは、以下のように示される。
〔エンコーダ側〕
【００１９】
図１ａは、本発明による方法及びシステムの一実施形態を示している。図中に用いられた略語は、以下の内容を示す。
DCT：離散コサイン変換（Discrete Cosine Transform）
Q：量子化（Quantization）
DCT-1：離散コサイン逆変換（inverse Discrete Cosine Transform）
Q-1：逆量子化（inverse quantization）
VLC：可変長符号化（Variable Length Coding）
Base str：ベースストリーム（base stream）
Enh str：エンハンスメントストリーム（enhancement stream）
ME/MC：動き推定（Motion estimation）／動き補償（Motion compensation）
R0, R1 etc：ＭＥ／ＭＣにおいて用いられたメモリ内のフレーム
MBi：マクロブロック（MacroBlock）ｉ
PTSi：提示タイムスタンプ（Presentation Time Stamp）ｉ
AVC：高度ビデオ符号化（Advanced Video coding）、高度ビデオ符号化は、例えばH.264及びMPEG4.10符号化スタンダードである。
SEI：追加エンハンスメント情報（Supplemental Enhancement Information）
【００２０】
図１ａは、ベースストリーム及びエンハンスメントストリームが使用される方法を示している。多くの画像送信方法において固有の大量のデータは、大きな影響を与える問題をもたらす。より特に、各デジタル画像フレームは、特定のシステムのディスプレイ解像度に応じてピクセルのアレイから形成された静止画像である。結果として、含まれた未加工のデジタル情報の量は、多くの場合、膨大である。送信されるべきデータの量を削減するために、データを圧縮するために圧縮スキームが用いられる。種々のビデオ圧縮スタンダード又はプロセスが、MPEG-2，MPEG-4及びH.263を含んで確立されている。
【００２１】
多くのアプリケーションは、画像データが、１つのストリームにおいて種々の解像度及び／又は品質で利用可能である場合に可能である。これを達成するための方法は、スケーラビリティ（scalability）技術と漠然と呼ばれる。スケーラビリティを配置し得る３つの軸が存在する。第１は、多くの場合、時間的スケーラビリティと呼ばれる、時間軸上のスケーラビリティである。第２に、多くの場合、信号対雑音スケーラビリティ又は細粒度（fine-grain）スケーラビリティと呼ばれる、品質の軸上のスケーラビリティが存在する。第３の軸は、多くの場合、空間的スケーラビリティ又はレイヤードコーディング（layered coding）と呼ばれる、解像度の軸（画像中のピクセルの数）である。レイヤードコーディングにおいて、ビットストリームは、２又はそれ以上のビットストリーム又はレイヤに分割される。各レイヤは、単一の高品質信号を形成するために組み合わせられ得る。例えば、ベースレイヤが、低品質のビデオ信号を供給し得る一方で、エンハンスメントレイヤが、ベースレイヤの画像を強化し得る追加の情報を供給する。図１ａは、レイヤード信号を供給するための方法及びシステムを示し、この場合、ベースストリーム（base str）、及び、エンハンスメントレイヤとも時々呼ばれるエンハンスメントストリーム（base str）を有している。
【００２２】
入力は、分割され、ローパスフィルタ１、例えばナイキストフィルタを通過した後にベースエンコーダ２に送られる。信号は、ベースエンコーダにおいて、離散コサイン変換（ＤＣＴ）、又は、例えばウェーブレット（wavelet）を用いるような任意の他の類似の変換を受けて、量子化される（Q）。生ずるデータストリームにおいて、可変長符号化が実行され、送信及び／又は格納されるべきベースストリームを供給する。ビデオ信号処理において、信号は、多くの場合、イントラ符号化されたフレーム及びインター符号化されたフレーム、例えばＩフレーム、Ｐフレーム及びＢフレームで構成される。Ｉフレームは、イントラ符号化されている。Ｐフレーム及びＢフレームは、インター符号化されたフレームと呼ばれる。イントラ符号化フレームは、他のフレームに対する如何なる参照もなく復元され得る。インター符号化フレームは、他のフレームのデータを用いて復元される（前方予測又は後方予測）。Ｐフレーム及びＢフレームは、Ｉフレーム間の情報又は変化だけを含み、多くの場合マクロブロックに関する動きベクトルにおいて表現される。差分を発見するためには、オリジナル信号がエンコーダの内部で復元されなければならない。これは、逆量子化（Q-1）及び離散コサイン逆変換（DCT-1）により行われる。生ずる復元されたフレームは、動きベクトルを推定するためにエンコーダの内部で用いられる。単純な装置において、一の復元されたフレームだけが、動き推定及び動き補償のために用いられる。しかしながら、より複雑な方法及びシステムにおいては、多くの復元されたフレームが用いられる。これは、復元が、他よりも幾つかの復元されたフレームに対して大きくなるかもしれないエラーを生じ、前のフレームが、必ずしもフレーム間の差分の動きベクトルの推定に関する開始位置として取るべき最良のフレームではないので、有用である。エンコーダは、シフトレジスタを有し、比較のために、多くの復元されたフレームのデータが、動き推定及び／又は動き推定、即ち予測のために使用するシフトレジスタに格納される。ＡＶＣ圧縮スタンダードのような幾つかのより複雑なビデオ圧縮スタンダードは、多くの複数予測の可能性を持つ。比較的多くの時間的（即ち、前方又は後方）予測が行われる。時間的に最も近いフレームだけでなく、時間的に遠くへ移動されたフレームも予測を行うために考慮される。バッファにおいて、幾つかのフレームは、時間的予測のために用いられるべきバッファに格納される。時間の経過とともに、フレームは、バッファを介してシフトされ、最も古いものは、新たな"フレッシュな"フレームが格納される場合にバッファの外にはじき出される。
【００２３】
生ずるベースストリームは、報知され、受信され、及び、デコーダを介して表示され得るが、ベースストリームは、高解像度（high-definition）と見なされる解像度を供給しない。
【００２４】
図１ａにおいて、システムは、エンハンスメントエンコーダ３も有する。エンハンスメントエンコーダ３においては、ベースストリームエンコーダ２におけるものと同様の方法が、エンハンスメントストリームが処理される差分（即ち、オリジナル信号とベースストリームとの差分）だけで実行される。エンハンスメントデコーダは、強化されたレイヤ信号の離散コサイン変換及び量子化、並びに、復元（DCT-1，Q-1）のための手段を有する。フレームR0，R1等に関するエンハンスメントストリームの復元されたデータは、格納され、エンハンスメントストリームに関する動き推定及び動き補償のために用いられる。当業者は、これらの方法に精通しているだろう。
【００２５】
発明者らは、格納されたフレームが全て同一の関連性（same relevance）を持つとは限らない、排他的ではないが特に、最も少なく最も長く残っているフレームはそれほど重要でないかも知れないことを理解した。より長く格納部に存在するフレームは、フレームに基づく時間的予測の重要性が概して低くなる。本発明において、時間的予測の原則は、別個の予測のために、最後の時間的予測（即ち、"最も古いフレーム"）のために確保されたスペースを用いることによりバイパスされる。これは、時間的予測の精度を僅かに減少させるだろう。しかしながら、上書きされた情報は、比較的冗長／有用性の低いものである。それ故、情報を上書きすることは、非常に多くの場合、画質を著しく減少させるものではない。しかしながら、上書きされたスロットにおいて書かれ得る情報は、現在のスタンダードでは達成可能ではないが、これらが、既存のスタンダードとはもはや互換性がない、及び／又は、ビデオ信号中のビットの大幅な増加を必要とするような、既存の手順に対する非常に複雑な変化を伴ってのみ達成可能であるという点について可能性を広げる。本発明は、１又はそれ以上の最も古いフレームを上書きすることにより用いられ得る。
【００２６】
図１ａは、本発明の方法及びシステムの一実施形態を示している。エンハンスメントエンコーダのメモリ内の最も古いデータは、ベースエンコーダにおいて生成されたアップスケール／インターレースされたフレームにより上書きされる。それ故、符号化の前に、エンハンスメントエンコーダ３における最後（エンハンスメントエンコーダのメモリ５内の最も長くあるもの）の参照フレームRn/1は、PTSi（提示タイムスタンプi；Presentation Time Stamp i）も持つベースエンコーダ／デコーダ２からのアップスケール／インターレース解除されたフレーム４で上書きされる。それ故、エンハンスメントエンコーダ３のメモリ５内のメモリにおいて最も長く存在するフレームは、別途生成されたフレーム、即ち、ベースストリームエンコーダ２からのアップスケール／インターレース解除されたフレーム４により上書きされる。これは、エンハンスメントエンコーダの内部で実行された動き推定／動き補償の精度を僅かに減少させるかも知れないが、これは、如何なるシンタックスもなく、スケーラブル圧縮に対してＡＶＣを使用することを可能にする。これは、例えば、（720p又は1080i HDTVに対する）下位互換性のある手法でフルフレームレートの1080p HDTVを導入することに関連する。原理は、非スケーラブル圧縮に関しても作動する。図１ａは、スケーラブルエンコーダを示している。リソースが180iに制限されるので、本発明によるスキームは、silicon 1080pに対するミラー変更だけで可能となる。最後の予測Rn-1は、例えば、スマートコンテンツ適応可能なアップスケール候補を含む。より詳細な実施形態として、例えば、最後の２つの"ノーマル"時間的予測（Rn-1，Rn-2）は、例えば、２つの異なるインターレース解除アルゴリズムを用いることにより生成された予測（フレーム）で上書きされ得る。
【００２７】
実施形態において、エンハンスメントエンコーダにおけるメモリ内の最も古いフレームだけが上書きされる。本発明の範囲内においては、メモリ内のフレームの数に依存して、１よりも多い最も古いフレームが上書きされ得る。また、この実施形態においては、単純な選択が行われ、最も古いフレームが上書きされる。実施形態において、１つの最後のｎフレームが上書きされ、選択は、１つがフレームに上書きされるべき最も古いもののセットの重要性（ランキング）の推定に基づいて上書きされるように行われ、上書きされたフレームは、まさに最も古いフレームである必要はなく、次に最も古いフレームであってもよい。
【００２８】
図１ｂは、デコーダ側を示している。ＶＬＤは、可変長復号（Variable length decoding）を表す。ベースストリーム２´において生成されたフレーム４は、エンハンスメントデコーダのメモリ５´内の予測フレームRn-1を上書きするために用いられる。
【００２９】
図１ｃは、図１ａで示された設計のより複雑な実施形態に関して示している。差異は、フィルタが用いられ、更に、フィルタ及びアップスケーリングに関するデータがＳＥＩ（Supplemental Enhancement Information）に挿入されることである。これらのデータは、フィルタリング及びアップスケーリングに関する同一パラメータをデコーダ側で構築するために、デコーダにおいて用いられ、その結果、エンコーダにおいて符号化する方法において用いられるパラメータが、復号においても同様に用いられ得る。
【００３０】
この実施形態において、"外側からの"フレームが、復号された画像バッファに入れられるときには、表示されることがないような古いcts（合成タイムスタンプ；composition timestamp）が与えられ、メモリの外にはじき出されないように"長期間参照"としてマークされる。
【００３１】
図２は、外部フレーム（PTSiを持つアップスケールされたベース）がメモリ内のフレームRn-1を上書きすることを確実にするための、エンハンスメント内の異なるステップをフローチャートにおいて示している。
【００３２】
本発明の基本的な見解、即ち、メモリ内に最も長く存在する予測フレームが外部的に生成された予測フレームで上書きされることは、図１ａ〜１ｃに示された実施形態において役立つだけではない。
【００３３】
他のオプションが図２ｂに与えられる。これは、メモリ内の参照フレームを上書きすることが安全であるときの一例を与えている。ここで、出力（ディスプレイ）に既に送られたときにだけフレームが上書きされることが重要である。フレームが中に入ってくる場合には、メモリは、フレーム（メモリ０、メモリ１等）で満たされる。この設定において、参照フレームの数は、３つである。これは、我々が３つのフレームを必要とする場合に、フレームを上書きすることが不可能な最初の３つのフレームを意味する。フレームが表示されたときには、フレームは、メモリ内に上書きされ得る。それ故、この例において、円内部にあるフレームは、上書きされ得る。これらのフレームは、最も古いフレームであるが、必ずしもメモリ内の最も古いフレームが必要とされるものではないことが留意されるべきである。列４において、例えば、未だ表示されていないＢ１フレームではなく、既に表示されたＩ０フレームが上書きされる。矩形は、Ｂ３及びＰ６（最初の矩形）並びにＢ５及びＰ７（最後の矩形）に関する参照のために用いられたフレームを示している。
【００３４】
図３は、一実施形態を示しており、アップスケールされて復号されたＩ０ベースストリームフレームが、エンハンスメントエンコーダ／デコーダのメモリ（バッファ）において、エンハンスメントエンコーダ／デコーダにおける最後の参照予測フレーム（Ｒ２）、この例においてはＰ６を上書きする一実施形態を示している。
【００３５】
図４は、タイムスタンプPTS2を持つアップスケールされて復号されたＰ２、即ち、ベースストリームフレームが、エンハンスメントエンコーダ／デコーダのメモリ（バッファ）において、エンハンスメントエンコーダ／デコーダにおける最後の参照予測フレーム（Ｒ２）、この例においてはＰ４を上書きする一実施形態を示している。
【００３６】
図５は、ベースストリームが720pの出力を持ち、エンハンスメントストリームが1080pの出力を持つ一実施形態を示している。タイムスタンプPTS1を持つアップスケール／インターレース解除されたベースストリームフレームは、ＡＶＣエンハンスメントエンコーダのメモリにおいてフレームＲｎ−１を上書きする。これは、既知の方法では可能性のないかあるいは非常にコストのかかる下位互換性のある手法（720p又は1080i HDTV）においてフルフレームレートの1080p HDTVを導入することを可能にする。
【００３７】
また、より多くの参照フレームのうちの１つを上書きするというこの原理をマルチビューケースに適用することもでき、その結果、シンタックスを変更する必要もなく、基本的にはこのアプリケーションに関する従来のＡＶＣを用いることができる。
【００３８】
マルチビューケースの効果的な圧縮の試みが存在する。mpegにおいて、階層的なＢフレームを使用させるノーマルＡＶＣがマルチビュービデオの効果的な圧縮に用いられ得ることが既に認識されている。斯様な方法において、異なる視野のフレームがインターレースされ、非参照（non-C）視野フレームがタイプ階層Ｂ（格納されたＢ，Ｂｓ）になることを確実に行う。これは、各ＭＢに関し、（同一の視野からの）時間的予測としての双方の空間（隣）を可能にする。
【００３９】
特に、１つがセンタービュー（Ｃ）並びに１つがレフト（Ｌ）ビュー及び１つが（Ｒ）ビューを持つケースは、立体的なビデオ（stereoscopic video）に対して非常に関心がある。ここで、センタービューＣが参照ビューであるだろうし、Ｌ＆Ｒビューが階層的なＢフレームであるだろう。
【００４０】
現在の最良のソリューション（ＡＶＣ+階層的なＢフレーム）は、大改良であるが、３ビューＡＶＣストリームのビットレートは、依然として、ＡＶＣ Ｃストリーム(1+2*0.4/0.5)=1.8..2*に関する多くのアプリケーションに対して高い。
【００４１】
ＭＰＥＧにおいて、人々は、マルチビューＡＶＣエンコーダの性能を改良するために、ＩＢＲ（２Ｄ+深度からの画像レンダリング）を新たな予測モードとして含めるように、新たなモード（新たなシンタックス）でＡＶＣを拡張しようと試みる。しかし、これは、ＡＶＣに対する多くの変化を意味することから、実施に関しては難しいだろう。
【００４２】
しかしながら、発明者らは、本発明の基本的なコンセプト、即ち、より多くの参照フレームのうちの１つをマルチビューケースに上書きするという原理が用いられ、その結果、如何なるシンタックスも変える必要もなく、基本的には、このアプリケーションに対しても従来のＡＶＣを用い得ることを理解した。
【００４３】
これは、図６に示されており、参照フレームの最小数は、（ａ）に示すように、通常４であるだろうし、ＡＶＣエンコーダのメモリにおいて、４つの参照フレーム、即ち、Cfw，Cbw，Bsr，Bslが用いられる。
【００４４】
この数の参照フレームのコースが増大され（図６（ｂ）のCfw，Cbw，Bsr，Bsl，BSr-1，Bsl-1参照）、これは、幾つかの（制限された）ゲインを与えるだろう。この状況は、（ｂ）に示されている。
【００４５】
実際の３Ｄアプリケーションに関しては、３つの深度視野も必要となるだろう。これらの深度視野及びＣの視野に関して、我々は、Ｌ´及びＲ´の近似値（予測）を作り出すために、ＩＢＲ（Image Based Rendering）を適用し得る。予測は、あまり重要でない参照フレームを、新たなフレームの符号化を開始する前に毎回上書きし得る（図６（ｃ）参照）。
【００４６】
ゲインは、（ｂ）と比較した部分（ｃ）に示されるように非常に大きくなるだろう。
【００４７】
この発明により可能にされた第３のアプリケーションは、異なる割合の２つのパワーで、より高いフレームレートに関するエンハンスメントストリームを作り出している。
【００４８】
実際には、５０Ｈｚシーケンスの復号されたフレームは、この発明の一般的なスキームに従って、７５Ｈｚシーケンスの参照リストに入れられる。５０Ｈｚシーケンスからのこの予測フレームは、良好な予測要素であり、これが７５Ｈｚバージョンについて符号化するためのフレームに時間的に非常に近いため、より良い符号化を効率的に達成することを支援する。図７を参照すると、フレームｉは、強化された７５Ｈｚシーケンスに属し、フレームｉ´は、ベース５０Ｈｚシーケンスに属している。
・フレーム１´は、フレーム１と同一の時間的ロケーションを持つ。
・フレーム２´は、７５Ｈｚシーケンスにおける如何なるフレームよりもフレーム２に時間的に近い。
・フレーム２´は、７５Ｈｚシーケンスにおける如何なるフレームよりもフレーム３に時間的に近い。
・フレーム３´は、フレーム４と同一の時間的ロケーションを持つ、等。
【００４９】
要約すると、本発明は以下に示され得る。幾つかのビデオ圧縮スタンダードは、複数の時間的予測を用いる。１又はそれ以上の最も古い時間的予測は、他の予測で上書きされる。エンハンスメントエンコーダにおいて用いられた予測は、実施形態において、ベースストリームエンコーダにおいて生成された予測により上書きされる。他の実施形態において、時間的予測は、３Ｄ視野により上書きされる。
【００５０】
本発明は、例により上述された、符号化する方法及びシステム、並びに、復号する方法及びシステムに関する。
【００５１】
本発明は、符号化されたビデオ信号と、例えば復号する方法における使用のための機能的パラメータを有する制御情報とを有するビデオ信号においても具現される。制御情報は、上述した実施形態の任意のもの又は任意の組み合わせに従ったデータを有してもよい。
【００５２】
本発明によるビデオ信号において開示された制御情報は、１又はそれ以上の以下の情報を有し得る。
〔Ａ〕一般的な情報、即ち、全体のビデオ信号に適用可能な情報
１．方法がビデオ信号を符号化するために用いられ、これは、用いられた１つの標準的な方法だけが存在する将来について、存在する場合に有用である。
２．方法の特定の実施形態がビデオ信号を符号化するために用いられること。
３．方法において用いられたパラメータ。斯様なパラメータは、例えば以下のものであってもよい。
・上書きされるべき特定の予測（メモリ中の最も長く存在するもの若しくはメモリ中の２つの最も長く存在するもの、又は、メモリ中の次に最も長く存在するもの）。
・フィルタ、アップスケーリングアルゴリズム、又は、どの予測が上書きされるかを決定するためのアルゴリズムに関するパラメータのような、ビデオ信号の符号化の間に用いられたパラメータ。
〔Ｂ〕特定の動的情報
【００５３】
ビデオ信号が動的に生成される場合、即ち、符号化の間に行われた或る選択がビデオコンテンツに依存する場合には、エンコーダにおいて行われた選択が、符号化されたビデオ信号に含まれ得る。例えば、予測の１つが、例えば上書きする予測との比較において予測を場合によって上書きされる重要度を推定することにより上書きされるべき決定を行うためのアルゴリズムを符号化方法が有する場合には、ビデオ信号に前記選択アルゴリズムのディテールを含める（及び、それ故にビデオ信号に一般的な情報を含める）という選択が存在する。しかしながら、これは、デコーダが前記アルゴリズムを有する場合にのみ作用する。デコーダがない場合には、特定の動的情報が送られ得る、即ち、これは、特定の予測が上書きされるというビデオ信号の特定の部分に対して（例えばフラッグにより）特定される。
【００５４】
ビデオ信号は、一般的な情報も動的情報も有してもよい。上述のタイプの情報の全て、並びに、本発明による方法の使用に関連する任意の他の情報は、アプリケーションのフレームワークの範囲内において、パラメータと呼ばれる。それ故、パラメータは、単純なＹＥＳ／ＮＯパラメータ（前記〔Ａ〕１）、可能性のセットの範囲内において選択を示すパラメータ（例えば、前記〔Ａ〕２）、又は、方法の範囲内におけるステップの制御に関するパラメータ（前記〔Ａ〕３）若しくは任意の形状若しくはフォームにおける動的パラメータ（前記〔Ｂ〕）であってもよい。
【００５５】
図８は、本発明の（最も一般的な方法に対応する）最も一般的な装置を再び示す。例えば、非可逆変換（lossy transformation）及び動き補償（例えば、ＡＶＣにおいて、時間的予測が、幾つかの前の画像の組み合わせから生じ得る）を行う類似の予測ユニットT，T2により生成された幾つかの予測に基準SEL_F()を適用することを予測ユニット８０１に可能にさせるビデオ圧縮において、これらの"スタンダード"モードの１つは、他の予測ユニットPR_UN（即ち、サブメモリMEM_P2においては、粗く量子化された最初の予測、例えばウェーブレット近似値が、PR_UNからの他のアルゴリズムにより他の予測された領域により上書きされる）から、別個の予測からのデータを格納することにより"再使用"され得る。そして、この新たな予測モードは、既存のスタンダード（これと同等の如何なるもの）に容易に導入され得る。選択基準SEL_F()も変更されてもよい。
【００５６】
他の予測ユニットは、例えばテクスチャ合成を用いてもよい。エンコーダ側が例えばグラス（grass）のパッチ（patch；例えばブロック）の存在を認識した場合には、比較基準又は予測は、（例えば、典型的には剰余更新を伴わない）合成的に生成されたグラスを用いることに用いられる。これは、例えば時間的予測と比較して最良の品質／圧縮された領域として選択され得る。そして、デコーダも、グラス生成を適用するだろう（これは、その領域に関する時間的予測情報を受信することさえも必要としない）。全ての種類の改良された予測は、予測ユニットPR_UNにより、例えば幾つかの画像データ（若しくは、２つの最後における２つの異なるインターレース解除アルゴリズム、例えば時間的予測を伴う競合する予測を形成する最小の正確な時間的予測メモリ）若しくは（例えば、二者一組の時間順次的画像から生成された）３Ｄモデル等をシャープ又は滑らかにするような幾つかの画像変換を適用することにより生成され得る。
【００５７】
斯様な同期化データは、標準化された圧縮された画像信号、例えばSEIsを介して出力され得る。
【００５８】
本発明は、本発明による方法又はデバイスに関する任意のコンピュータプログラムにおいても具現される。コンピュータプログラムにおいて、コマンド単位の任意の物理的な具現化は、汎用又は特定用途のプロセッサが、（中間言語及び最終プロセッサ言語への翻訳のような中間変換を含み得る）一連の負荷ステップの後に、プロセッサにコマンド入力すること、本発明の任意の特徴機能を実行することを可能にする。特に、コンピュータプログラムは、例えばディスク若しくはテープ等のキャリア上のデータ、メモリ内に存在するデータ、有線若しくは無線のネットワーク接続を通るデータ、又は、紙上のプログラムコードとして実現され得る。プログラムコードは別として、プログラムに対して要求された特徴データも、コンピュータプログラムとして具現化されてもよい。
【００５９】
上述した実施形態は、本発明を限定するよりはむしろ例示であり、当業者は、特許請求の範囲から逸脱することなく多くの代替実施形態を設計することができることが留意されるべきである。
【００６０】
特許請求の範囲において、括弧内の如何なる参照符号も特許請求の範囲を限定するものとして考慮されるべきではない。
【００６１】
本発明のフレームワークの範囲内において、多くのバリエーションが可能であることは明らかであろう。本発明が上記で特に示され述べられたものにより限定されないことは当業者により明らかになるだろう。本発明は、一つ一つが新規な特徴を備えており、複数の特徴のあらゆる組み合わせを備えている。特許請求の範囲における参照符号はこれらの保護範囲を限定するものではない。
【００６２】
例えば、方法が画像の一部だけのために用いられてもよく、又は、画像の中心に対して１つの実施形態を用いる一方で、画像の縁部に対して他の実施形態を用いて、本発明の方法の異なる実施形態が画像の異なる部分のために用いられてもよい。
【００６３】
"有する"という用語の使用及びその活用は、特許請求の範囲以外の要素の存在を除外するものではない。要素の単数表記は、斯様な要素の複数の存在を除外するものではない。
【００６４】
本発明はフレームに関して述べられている。本発明のフレームワークの範囲内において、例えば、本発明による方法が、フレームの一部、例えば、ビデオの中間部分だけ又はビデオの最前面だけで行われる場合に、"フレーム"はフレームの一部であってもよい。
【図１ａ】
0005508024.tif 000002
【図１ｂ】
0005508024.tif 000003
【図１ｃ】
0005508024.tif 000004
【図２】
0005508024.tif 000005
【図２ｂ】
0005508024.tif 000006
【図３】
0005508024.tif 000007
【図４】
0005508024.tif 000008
【図５】
0005508024.tif 000009
【図６】
0005508024.tif 000010
【図７】
0005508024.tif 000011
【図８】
0005508024.tif 000012