(57)【特許請求の範囲】
【請求項１】
時間方向及び視差方向の画面間予測を行い、誤差を補正した予測画像を生成して符号化対象映像を予測符号化する映像符号化装置であって、
前記時間方向及び前記視差方向のそれぞれにおいて既に復号済みの画像を参照ピクチャとして符号化対象画像を予測し、それぞれの参照先を示すフレーム間参照情報と視点間参照情報を決定する予測手段と、
前記視点間参照情報から視差予測画像を生成し、前記フレーム間参照情報から動き予測画像を生成する一次予測画像生成手段と、
前記視点間参照情報と前記フレーム間参照情報から補正予測画像を生成する補正予測画像生成手段と、
前記視差予測画像と、前記動き予測画像と、前記補正予測画像とから前記予測画像を生成する予測画像生成手段と
を備えることを特徴とする映像符号化装置。
【請求項２】
前記予測画像生成手段は、前記動き予測画像と前記視差予測画像とを加算し、これから前記補正予測画像を減算して、前記予測画像を生成する
ことを特徴とする請求項１に記載の映像符号化装置。
【請求項３】
前記視点間参照情報及び前記フレーム間参照情報は前記参照ピクチャを特定する情報を含み、
前記補正予測画像生成手段は、前記視点間参照情報の示す前記参照ピクチャと同じ視点の参照ピクチャのうち、前記フレーム間参照情報の示す前記参照ピクチャと同じフレームの参照ピクチャを補正参照ピクチャとして参照して前記補正予測画像を生成する
ことを特徴とする請求項１に記載の映像符号化装置。
【請求項４】
前記視点間参照情報及び前記フレーム間参照情報は前記参照ピクチャ上にある参照位置を特定する情報を更に含み、
前記補正予測画像生成手段は、前記フレーム間参照情報と前記視点間参照情報に基づき前記補正参照ピクチャ上の参照位置を決定し前記補正予測画像を生成する
ことを特徴とする請求項３に記載の映像符号化装置。
【請求項５】
前記視点間参照情報及び前記フレーム間参照情報を特定する情報を予測情報として符号化する予測情報符号化手段を
更に有することを特徴とする請求項１に記載の映像符号化装置。
【請求項６】
前記予測手段は、前記視点間参照情報及び前記フレーム間参照情報のうちいずれか一方を、他方の参照情報が示す参照先の符号化時の予測情報に基づいて生成する
ことを特徴とする請求項１に記載の映像符号化装置。
【請求項７】
時間方向及び視差方向の画面間予測を行い、誤差を補正した予測画像を生成して予測符号化された符号データを復号する映像復号装置であって、
前記時間方向及び前記視差方向のそれぞれにおいて既に復号済みの画像を参照ピクチャとして復号対象画像を予測し、それぞれの参照先を示すフレーム間参照情報と視点間参照情報を決定する予測手段と、
前記視点間参照情報から視差予測画像を生成し前記フレーム間参照情報から動き予測画像を生成する一次予測画像生成手段と、
前記視点間参照情報と前記フレーム間参照情報から補正予測画像を生成する補正予測画像生成手段と、
視差予測画像と動き予測画像と補正予測画像とから予測画像を生成する予測画像生成手段と
を備えることを特徴とする映像復号装置。
【請求項８】
前記予測画像生成手段では、前記動き予測画像と前記視差予測画像とを加算し、これから前記補正予測画像を減算して、前記予測画像を生成する
ことを特徴とする請求項７に記載の映像復号装置。
【請求項９】
前記視点間参照情報及び前記フレーム間参照情報は前記参照ピクチャを特定する情報を含み、
前記補正予測画像生成手段では、前記視点間参照情報の示す前記参照ピクチャと同じ視点の参照ピクチャのうち、前記フレーム間参照情報の示す前記参照ピクチャと同じフレームの参照ピクチャを補正参照ピクチャとして参照して前記補正予測画像を生成する
ことを特徴とする請求項７に記載の映像復号装置。
【請求項１０】
前記視点間参照情報及び前記フレーム間参照情報は前記参照ピクチャ上にある参照位置を特定する情報を更に含み、
前記補正予測画像生成手段では、前記フレーム間参照情報と前記視点間参照情報に基づき前記補正ピクチャ上の参照位置を決定し前記補正予測画像を生成する
ことを特徴とする請求項９に記載の映像復号装置。
【請求項１１】
前記符号データから予測情報を復号し前記フレーム間参照情報と前記視点間参照情報とを特定する予測情報を生成する予測情報復号手段を更に有し、
前記予測手段は、生成された前記予測情報に基づき前記フレーム間参照情報と前記視点間参照情報を決定する
ことを特徴とする請求項７に記載の映像復号装置。
【請求項１２】
前記予測手段は、前記視点間参照情報及び前記フレーム間参照情報のうちいずれか一方を前記符号データから復号し、他方の参照情報は復号された参照情報の示す参照先の復号化時の予測情報に基づいて生成する
ことを特徴とする請求項７に記載の映像復号装置。
【請求項１３】
時間方向及び視差方向の画面間予測を行い、誤差を補正した予測画像を生成して符号化対象映像を予測符号化する映像符号化装置が行う映像符号化方法であって、
前記時間方向及び前記視差方向のそれぞれにおいて既に復号済みの画像を参照ピクチャとして符号化対象画像を予測し、それぞれの参照先を示すフレーム間参照情報と視点間参照情報を決定する予測ステップと、
前記視点間参照情報から視差予測画像を生成し、前記フレーム間参照情報から動き予測画像を生成する予測画像生成ステップと、
前記視点間参照情報と前記フレーム間参照情報から補正予測画像を生成する補正予測画像生成ステップと、
前記視差予測画像と、前記動き予測画像と、前記補正予測画像とから前記予測画像を生成する予測画像生成ステップと
を有することを特徴とする映像符号化方法。
【請求項１４】
時間方向及び視差方向の画面間予測を行い、誤差を補正した予測画像を生成して予測符号化された符号データを復号する映像復号装置が行う映像復号方法であって、
前記時間方向及び前記視差方向のそれぞれにおいて既に復号済みの画像を参照ピクチャとして復号対象画像を予測し、それぞれの参照先を示すフレーム間参照情報と視点間参照情報を決定する予測ステップと、
前記視点間参照情報から視差予測画像を生成し前記フレーム間参照情報から動き予測画像を生成する予測画像生成ステップと、
前記視点間参照情報と前記フレーム間参照情報から補正予測画像を生成する補正予測画像生成ステップと、
視差予測画像と動き予測画像と補正予測画像とから予測画像を生成する予測画像生成ステップと
を有することを特徴とする映像復号方法。
【請求項１５】
請求項１３に記載の映像符号化方法をコンピュータに実行させるための映像符号化プログラム。
【請求項１６】
請求項１４に記載の映像復号方法をコンピュータに実行させるための映像復号プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、映像符号化装置、映像復号装置、映像符号化方法、映像復号方法、映像符号化プログラム、及び映像復号プログラムに関し、特に時間方向及び視差方向の画面間予測符号化及び復号に関する。
【背景技術】
【０００２】
一般的な映像符号化では、被写体の空間的／時間的な連続性を利用して、映像の各フレームを複数の処理単位ブロックに分割し、ブロック毎にその映像信号を空間的／時間的に予測し、その予測方法を示す予測情報と予測残差信号とを符号化することで、映像信号そのものを符号化する場合に比べて大幅な符号化効率の向上を図っている。また、一般的な二次元映像符号化では、同じフレーム内の既に符号化済みのブロックを参照して符号化対象信号を予測するイントラ予測と、既に符号化済みの他のフレームを参照して動き補償などに基づき符号化対象信号を予測するフレーム間（画面間）予測を行う。【０００３】
ここで、多視点映像符号化について説明する。多視点映像符号化とは、同一のシーンを複数のカメラで撮影した複数の映像を、その映像間の冗長性を利用して高い効率で符号化するものである。多視点映像符号化については非特許文献１に詳しい。
また、多視点映像符号化においては、一般的な映像符号化で用いられる予測方法の他に、既に符号化済みの別の視点の映像を参照して視差補償に基づき符号化対象信号を予測する視点間予測と、フレーム間予測により符号化対象信号を予測し、その残差信号を既に符号化済みの別の視点の映像の符号化時の残差信号を参照して予測する視点間残差予測などの方法が用いられる。視点間予測は、ＭＶＣなどの多視点映像符号化ではフレーム間予測とまとめてインター予測として扱われ、Ｂピクチャにおいては２つ以上の予測画像を補間して予測画像とすることができる。
このように、多視点映像符号化においては、フレーム間予測と視点間予測の両方を行うことができるピクチャにおいては、これら双方による予測を行うことができる。
【先行技術文献】
【非特許文献】
【０００４】
【非特許文献１】M. Flierl and B. Girod, "Multiview video compression," Signal Processing Magazine, IEEE, no. November 2007, pp. 66-76, 2007.
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、動き補償予測と視差補償予測とでは誤差の性質が異なり、(画像信号の）シーケンスの性質によっては、フレーム間予測だけを行う場合に比べて互いに誤差を打ち消しあう効果が得られにくい。
そのような誤差には、例えば動き補償予測では被写体の変形等によるものやブレによるもの、視差補償予測ではカメラの性質の違いによるものやオクルージョンの発生によるものなどがある。そのような場合には精度の高い方の予測方法が偏って選択され、双方を用いる予測はほとんど用いられない。
このため、例えば前方向予測と視点間予測が可能な種類のＢピクチャにおいて、構造上は双方を用いる予測が可能であるにもかかわらず、実際には単方向予測しか用いられないために、予測残差の低減に対して十分な効果が得られない場合があるという問題がある。【０００６】
本発明は、このような事情に鑑みてなされたもので、予測残差を低減させて予測残差符号化に必要な符号量を削減することができる映像符号化装置、映像復号装置、映像符号化方法、映像復号方法、映像符号化プログラム、及び映像復号プログラムを提供することを目的とする。
【課題を解決するための手段】
【０００７】
本発明は、時間方向及び視差方向の画面間予測を行い、誤差を補正した予測画像を生成して符号化対象映像を予測符号化する映像符号化装置であって、
前記時間方向及び前記視差方向のそれぞれにおいて既に復号済みの画像を参照ピクチャとして符号化対象画像を予測し、それぞれの参照先を示すフレーム間参照情報と視点間参照情報を決定する予測手段と、
前記視点間参照情報から視差予測画像を生成し、前記フレーム間参照情報から動き予測画像を生成する一次予測画像生成手段と、
前記視点間参照情報と前記フレーム間参照情報から補正予測画像を生成する補正予測画像生成手段と、
前記視差予測画像と、前記動き予測画像と、前記補正予測画像とから前記予測画像を生成する予測画像生成手段と
を備えることを特徴とする映像符号化装置を提供する。【０００８】
典型例として、前記予測画像生成手段は、前記動き予測画像と前記視差予測画像とを加算し、これから前記補正予測画像を減算して、前記予測画像を生成する。【０００９】
好適例として、前記視点間参照情報及び前記フレーム間参照情報は前記参照ピクチャを特定する情報を含み、
前記補正予測画像生成手段は、前記視点間参照情報の示す前記参照ピクチャと同じ視点の参照ピクチャのうち、前記フレーム間参照情報の示す前記参照ピクチャと同じフレームの参照ピクチャを補正参照ピクチャとして参照して前記補正予測画像を生成する。【００１０】
この場合、前記視点間参照情報及び前記フレーム間参照情報は前記参照ピクチャ上にある参照位置を特定する情報を更に含み、
前記補正予測画像生成手段は、前記フレーム間参照情報と前記視点間参照情報に基づき前記補正参照ピクチャ上の参照位置を決定し前記補正予測画像を生成するようにしても良い。【００１１】
別の好適例として、前記視点間参照情報及び前記フレーム間参照情報を特定する情報を予測情報として符号化する予測情報符号化手段を更に有する。【００１２】
前記予測手段は、前記視点間参照情報及び前記フレーム間参照情報のうちいずれか一方を、他方の参照情報が示す参照先の符号化時の予測情報に基づいて生成するようにしても良い。【００１３】
本発明は、時間方向及び視差方向の画面間予測を行い、誤差を補正した予測画像を生成して予測符号化された符号データを復号する映像復号装置であって、
前記時間方向及び前記視差方向のそれぞれにおいて既に復号済みの画像を参照ピクチャとして復号対象画像を予測し、それぞれの参照先を示すフレーム間参照情報と視点間参照情報を決定する予測手段と、
前記視点間参照情報から視差予測画像を生成し前記フレーム間参照情報から動き予測画像を生成する一次予測画像生成手段と、
前記視点間参照情報と前記フレーム間参照情報から補正予測画像を生成する補正予測画像生成手段と、
視差予測画像と動き予測画像と補正予測画像とから予測画像を生成する予測画像生成手段と
を備えることを特徴とする映像復号装置も提供する。【００１４】
典型例として、前記予測画像生成手段では、前記動き予測画像と前記視差予測画像とを加算し、これから前記補正予測画像を減算して、前記予測画像を生成する。【００１５】
好適例として、前記視点間参照情報及び前記フレーム間参照情報は前記参照ピクチャを特定する情報を含み、
前記補正予測画像生成手段では、前記視点間参照情報の示す前記参照ピクチャと同じ視点の参照ピクチャのうち、前記フレーム間参照情報の示す前記参照ピクチャと同じフレームの参照ピクチャを補正参照ピクチャとして参照して前記補正予測画像を生成する。【００１６】
この場合、前記視点間参照情報及び前記フレーム間参照情報は前記参照ピクチャ上にある参照位置を特定する情報を更に含み、
前記補正予測画像生成手段では、前記フレーム間参照情報と前記視点間参照情報に基づき前記補正ピクチャ上の参照位置を決定し前記補正予測画像を生成するようにしても良い。【００１７】
別の好適例として、前記符号データから予測情報を復号し前記フレーム間参照情報と前記視点間参照情報とを特定する予測情報を生成する予測情報復号手段を更に有し、
前記予測手段は、生成された前記予測情報に基づき前記フレーム間参照情報と前記視点間参照情報を決定する。【００１８】
前記予測手段は、前記視点間参照情報及び前記フレーム間参照情報のうちいずれか一方を前記符号データから復号し、他方の参照情報は復号された参照情報の示す参照先の復号化時の予測情報に基づいて生成するようにしても良い。【００１９】
本発明はまた、時間方向及び視差方向の画面間予測を行い、誤差を補正した予測画像を生成して符号化対象映像を予測符号化する映像符号化装置が行う映像符号化方法であって、
前記時間方向及び前記視差方向のそれぞれにおいて既に復号済みの画像を参照ピクチャとして符号化対象画像を予測し、それぞれの参照先を示すフレーム間参照情報と視点間参照情報を決定する予測ステップと、
前記視点間参照情報から視差予測画像を生成し、前記フレーム間参照情報から動き予測画像を生成する予測画像生成ステップと、
前記視点間参照情報と前記フレーム間参照情報から補正予測画像を生成する補正予測画像生成ステップと、
前記視差予測画像と、前記動き予測画像と、前記補正予測画像とから前記予測画像を生成する予測画像生成ステップと
を有することを特徴とする映像符号化方法も提供する。【００２０】
本発明はまた、時間方向及び視差方向の画面間予測を行い、誤差を補正した予測画像を生成して予測符号化された符号データを復号する映像復号装置が行う映像復号方法であって、
前記時間方向及び前記視差方向のそれぞれにおいて既に復号済みの画像を参照ピクチャとして復号対象画像を予測し、それぞれの参照先を示すフレーム間参照情報と視点間参照情報を決定する予測ステップと、
前記視点間参照情報から視差予測画像を生成し前記フレーム間参照情報から動き予測画像を生成する予測画像生成ステップと、
前記視点間参照情報と前記フレーム間参照情報から補正予測画像を生成する補正予測画像生成ステップと、
視差予測画像と動き予測画像と補正予測画像とから予測画像を生成する予測画像生成ステップと
を有することを特徴とする映像復号方法も提供する。【００２１】
本発明はまた、上記映像符号化方法をコンピュータに実行させるための映像符号化プログラムも提供する。【００２２】
本発明はまた、上記映像復号方法をコンピュータに実行させるための映像符号化プログラムも提供する。
【発明の効果】
【００２３】
本発明によれば、予測残差を低減させることで予測残差符号化に必要な符号量を削減することができるため、符号化効率を向上させることができるという効果が得られる。
【図面の簡単な説明】
【００２４】
【図１】本発明の一実施形態による映像符号化装置の構成を示すブロック図である。
【図２】図１に示す映像符号化装置１００の処理動作を示すフローチャートである。
【図３】本発明の一実施形態による映像復号装置の構成を示すブロック図である。
【図４】図３に示す映像復号装置２００の処理動作を示すフローチャートである。
【図５】補正予測の概念を示す図である。
【図６】図１に示す映像符号化装置１００をコンピュータとソフトウェアプログラムとによって構成する場合のハードウェア図である。
【図７】図３に示す映像復号装置２００をコンピュータとソフトウェアプログラムとによって構成する場合のハードウェア図である。
【発明を実施するための形態】
【００２５】
以下、図面を参照して、本発明の一実施形態による映像符号化装置、映像復号装置を説明する。
始めに、映像符号化装置について説明する。図１は同実施形態による映像符号化装置の構成を示すブロック図である。
映像符号化装置１００は、図１に示すように、符号化対象映像入力部１０１、入力画像メモリ１０２、参照ピクチャメモリ１０３、予測部１０４、一次予測画像生成部１０５、補正予測画像生成部１０６、予測画像生成部１０７、減算部１０８、変換・量子化部１０９、逆量子化・逆変換部１１０、加算部１１１、およびエントロピー符号化部１１２を備えている。
【００２６】
符号化対象映像入力部１０１は、符号化対象となる映像を本映像符号化装置１００に入力する。以下の説明では、この符号化対象となる映像のことを符号化対象映像と呼び、特に処理を行うフレームを符号化対象フレームまたは符号化対象画像と呼ぶ。
入力画像メモリ１０２は、入力された符号化対象映像を記憶する。
参照ピクチャメモリ１０３は、それまでに符号化・復号された画像を記憶する。以下では、この記憶されたフレームを参照フレームまたは参照ピクチャと呼ぶ。
【００２７】
予測部１０４は、参照ピクチャメモリ１０３に記憶された参照ピクチャ上で符号化対象画像に対する視差方向と時間方向の双方の予測を行い、予測情報を生成する。
一次予測画像生成部１０５は、予測情報に基づき、動き予測画像と視差予測画像を生成する。
補正予測画像生成部１０６は、予測情報に基づき補正参照ピクチャ及び当該ピクチャ内の補正参照先を決定し、補正予測画像を生成する。
予測画像生成部１０７は、動き予測画像と視差予測画像と補正予測画像とから予測画像を生成する。
減算部１０８は、符号化対象画像と予測画像の差分値を求め、予測残差を生成する。
【００２８】
変換・量子化部１０９は、生成された予測残差を変換・量子化し、量子化データを生成する。
逆量子化・逆変換部１１０は、生成された量子化データを逆量子化・逆変換し、復号予測残差を生成する。
加算部１１１は、復号予測残差と予測画像とを加算し復号画像を生成する。
エントロピー符号化部１１２は、量子化データをエントロピー符号化し符号データを生成する。
【００２９】
次に、図２を参照して、図１に示す映像符号化装置１００の処理動作を説明する。図２は、図１に示す映像符号化装置１００の処理動作を示すフローチャートである。
ここでは、符号化対象映像は多視点映像のうちの一つの映像であることとし、当該多視点映像はフレーム毎に１視点ずつ全視点の映像を符号化し復号する構造をとるとする。また、ここでは符号化対象映像中のある１フレームを符号化する処理について説明する。説明する処理をフレームごとに繰り返すことで、映像の符号化が実現できる。
【００３０】
まず、符号化対象映像入力部１０１は、符号化対象フレームを映像符号化装置１００に入力し、入力画像メモリ１０２に記憶する（ステップＳ１０１）。
なお、符号化対象映像中の幾つかのフレームは既に符号化されているものとし、その復号フレームが参照ピクチャメモリ１０３に記憶されているとする。
また、符号化対象フレームと同じフレームまでの参照可能な別の視点の映像も既に符号化され復号されて、入力画像メモリ１０２に記憶されていることとする。
【００３１】
映像入力の後、符号化対象フレームを符号化対象ブロックに分割し、ブロック毎に符号化対象フレームの映像信号を符号化する（ステップＳ１０２〜Ｓ１１１）。
以下のステップＳ１０３〜Ｓ１１０の処理は、フレーム全てのブロックに対して繰り返し実行する。
【００３２】
符号化対象ブロックごとに繰り返される処理において、まず、予測部１０４は、符号化対象ブロックに対する異なるフレームの参照ピクチャを参照する動き予測と、異なる視点の参照ピクチャを参照する視差予測の双方の予測を行い、予測情報を生成する。そして、一次予測画像生成部１０５は、生成された予測情報に基づき、動き予測画像と視差予測画像を生成する（ステップＳ１０３）。
【００３３】
ここで、予測や予測情報生成はどのように行なっても構わないし、予測情報としてどのような情報を設定しても構わない。
一般的なものとしては、参照ピクチャを特定するインデックスと参照ピクチャ上での参照先を示すベクトルからなる視点間参照情報（視差予測の場合）やフレーム間参照情報（動き予測の場合）を予測情報とする方法がある。
それぞれの参照情報の決定方法もどのような方法でも構わないが、例えば参照ピクチャ上で符号化対象ブロックに対応する領域の探索を行うという方法も適用できるし、既に符号化して復号済みの（符号化対象ブロックの）周辺ブロックの予測情報から決定するという方法も適用できる。
【００３４】
視差予測と動き予測は、それぞれ独立に行なっても構わないし、どちらかを先に実行しても構わないし、交互に繰り返し行なっても構わない。あるいは、参照ピクチャの組み合わせなどを予め定めておき、それに基づきそれぞれ独立に予測を行なっても構わないし、順番に行っても構わない。
例えば、視差予測の参照ピクチャは必ず０番目の視点のピクチャであるとし、動き予測の参照ピクチャは必ず先頭フレームであるとすると予め定めておいてもよい。また、組み合わせを特定する情報を符号化して映像の符号データと多重化しても構わないし、復号側で同じ組み合わせを特定できるのであれば符号化しなくても構わない。
【００３５】
更に、視差予測と動き予測を同時に行う場合には、全ての組み合わせを施行し評価してもよいし、まとめて最適化しても構わないし、一方を仮決定し他方を探索することを繰り返すなどの方法を用いても構わない。
また、予測精度の評価の対象として、それぞれの予測画像の予測精度を別々に評価しても構わないし、双方の予測画像を混合した画像の精度を評価してもよい。あるいは、後述の補正予測も含めた最終的な予測画像の精度を評価しても構わない。その他にどのような評価方法を用いて予測を行なっても構わない。
【００３６】
更に、予測情報は符号化して映像の符号データと多重化しても構わないし、前述のように周辺の予測情報や自身の残差予測情報等から導き出せる場合には符号化しなくても構わない。また、予測情報を予測しその残差を符号化しても構わない。
また、予測情報が視点間参照情報やフレーム間参照情報からなる場合、必要であれば両方符号化しても構わないし、予め定めた規則によって決定できるのであれば符号化しなくても構わない。例えば、いずれか一方を符号化し、他方の予測情報は符号化した方の情報の示す参照先の領域を符号化した時の予測情報に基づいて生成するという方法が適用できる。
【００３７】
次に、補正予測画像生成部１０６は、予測情報に基づき補正参照ピクチャ及び当該ピクチャ内の補正参照先を決定し、補正予測画像を生成する（ステップＳ１０４）。
補正予測画像を生成したら、予測画像生成部１０７は、動き予測画像と視差予測画像と補正予測画像とから予測画像を生成する（ステップＳ１０５）。
【００３８】
補正予測は、符号化対象フレームと異なるフレームの参照ピクチャとの間の動き予測と、符号化対象フレームと異なる視点の参照ピクチャとの間の視差予測のそれぞれの予測誤差を、別の参照ピクチャを用いて補正するものである。
ここでは、動き予測で参照するピクチャを参照フレームピクチャ、視差予測で参照するピクチャを参照視点ピクチャとし、補正予測において参照するピクチャを補正参照ピクチャとする。補正予測の詳細については後述する。
【００３９】
次に、減算部１０８は、予測画像と符号化対象ブロックの差分をとり、予測残差を生成する（ステップＳ１０６）。
なお、ここでは最終的な予測画像を生成してから予測残差を生成しているが、以下のような形で予測残差を生成しても構わない：
（ｉ）補正予測画像と動き及び視差予測の予測画像からそれぞれの予測残差の予測値（「予測予測残差」とも呼ぶ）を生成し、
（ｉｉ）動き及び視差予測の予測画像と符号化対象ブロックのそれぞれの差分をとって動き及び視差予測残差を生成し、
（ｉｉｉ）上記予測残差の予測値に基づき、上記動き及び視差予測残差をそれぞれ更新する形で予測残差を生成する。
【００４０】
次に、予測残差の生成が終了したら、変換・量子化部１０９は当該予測残差を変換・量子化し、量子化データを生成する（ステップＳ１０７）。この変換・量子化は、復号側で正しく逆量子化・逆変換できるものであればどのような方法を用いても構わない。
そして、変換・量子化が終了したら、逆量子化・逆変換部１１０は、量子化データを逆量子化・逆変換し、復号予測残差を生成する（ステップＳ１０８）。
【００４１】
次に、復号予測残差の生成が終了したら、加算部１１１は、復号予測残差と予測画像とを加算して復号画像を生成し、参照ピクチャメモリ１０３に記憶する（ステップＳ１０９）。
ここでも前述のように、予測残差の予測値を生成し、当該予測値に基づき一次予測残差を更新する形で、一次予測画像と符号化対象ブロックの差分である一次予測残差を生成しても構わない。
また、必要であれば復号画像にループフィルタをかけても構わない。通常の映像符号化では、デブロッキングフィルタやその他のフィルタを使用して符号化ノイズを除去する。
【００４２】
次に、エントロピー符号化部１１２は、量子化データをエントロピー符号化して符号データを生成し、必要であれば、予測情報や残差予測情報その他の付加情報も符号化して符号データと多重化し、全てのブロックについて処理が終了したら、符号データを出力する（ステップＳ１１０）。
【００４３】
次に、映像復号装置について説明する。図３は、本発明の一実施形態による映像復号装置の構成を示すブロック図である。
映像復号装置２００は、図３に示すように、符号データ入力部２０１、符号データメモリ２０２、参照ピクチャメモリ２０３、エントロピー復号部２０４、逆量子化・逆変換部２０５、一次予測画像生成部２０６、補正予測画像生成部２０７、予測画像生成部２０８、加算部２０９を備えている。
【００４４】
符号データ入力部２０１は、復号対象となる映像符号データを本映像復号装置２００に入力する。この復号対象となる映像符号データのことを復号対象映像符号データと呼び、特に処理を行うフレームを復号対象フレームまたは復号対象画像と呼ぶ。
符号データメモリ２０２は、入力された復号対象映像を記憶する。
参照ピクチャメモリ２０３は、すでに復号済みの画像を記憶する。
エントロピー復号部２０４は、復号対象フレームの符号データをエントロピー復号して量子化データを生成し、逆量子化・逆変換部２０５は量子化データに逆量子化／逆変換を施して復号予測残差を生成する。
【００４５】
一次予測画像生成部２０６は、動き予測画像と視差予測画像を生成する。
補正予測画像生成部２０７は、補正参照ピクチャ及び当該ピクチャ内の補正参照先を決定し、補正予測画像を生成する。
予測画像生成部２０８は、動き予測画像と視差予測画像と補正予測画像とから予測画像を生成する。
加算部２０９は、復号予測残差と予測画像とを加算し、復号画像を生成する。
【００４６】
次に、図４を参照して、図３に示す映像復号装置２００の処理動作を説明する。図４は、図３に示す映像復号装置２００の処理動作を示すフローチャートである。
ここでは、復号対象映像は多視点映像のうちの一つの映像であることとし、当該多視点映像はフレーム毎に１視点ずつ全視点の映像を復号する構造をとるとする。また、ここでは符号データ中のある１フレームを復号する処理について説明する。説明する処理をフレームごとに繰り返すことで、映像の復号が実現できる。
【００４７】
まず、符号データ入力部２０１は符号データを映像復号装置２００に入力し、符号データメモリ２０２に記憶する（ステップＳ２０１）。
なお、復号対象映像中の幾つかのフレームは既に復号されているものとし、その復号フレームが参照ピクチャメモリ２０３に記憶されているとする。
また、復号対象フレームと同じフレームまでの参照可能な別の視点の映像も既に復号され復号されて、参照ピクチャメモリ２０３に記憶されていることとする。
【００４８】
符号データ入力の後、復号対象フレームを復号対象ブロックに分割し、ブロック毎に復号対象フレームの映像信号を復号する（ステップＳ２０２〜Ｓ２０９）。
以下のステップＳ２０３〜Ｓ２０８の処理は、フレーム全てのブロックに対して繰り返し実行する。
【００４９】
復号対象ブロックごとに繰り返される処理において、まず、エントロピー復号部２０４は、符号データをエントロピー復号する（ステップＳ２０３）。
そして、逆量子化・逆変換部２０５は、逆量子化・逆変換を行い、復号予測残差を生成する（ステップＳ２０４）。予測情報やその他の付加情報が符号データに含まれる場合は、それらも復号し、適宜必要な情報を生成しても構わない。
【００５０】
次に、一次予測画像生成部２０６は、動き予測画像と視差予測画像を生成する（ステップＳ２０５）。
予測情報が符号化され映像の符号データと多重化されている場合には、その情報を（復号して）利用して予測画像の生成を行っても構わないし、前述のように周辺の予測情報や自身の残差予測情報等から導き出せる場合には、係る符号化された情報はなくても構わない。また、一方の予測情報から他方の予測情報を導き出せる場合には、一方の予測情報のみを符号化した情報を使用してもよい。
また、予測情報の予測残差が符号化されている場合には、これを復号して利用して予測情報の予測を行なっても構わない。詳細な処理動作は、符号化装置と同様である。
【００５１】
次に、補正予測画像生成部２０７は、予測情報に基づき補正参照ピクチャ及び当該ピクチャ内の補正参照先を決定し、補正予測画像を生成する（ステップＳ２０６）。
補正予測画像を生成したら、予測画像生成部２０８は、動き予測画像と視差予測画像と補正予測画像とから予測画像を生成する（ステップＳ２０７）。
詳細な処理動作は、符号化装置と同様である。前述の説明では最終的な予測画像を生成してから予測残差を生成しているが、補正予測画像と動き及び視差予測の予測画像からそれぞれの予測残差の予測値（予測予測残差）を生成し、これに基づき復号予測残差を更新する形で予測残差を生成しても構わない。
【００５２】
次に、予測画像の生成が終了したら、加算部２０９は、復号予測残差と予測画像を加算し、復号画像を生成し、参照ピクチャメモリに記憶し、全てのブロックについて処理が終了したら、復号画像を出力する（ステップＳ２０８）。
必要であれば復号画像にループフィルタをかけても構わない。通常の映像復号では、デブロッキングフィルタやその他のフィルタを使用して符号化ノイズを除去する。
【００５３】
次に、図５を参照して、補正予測の詳細な処理動作について説明する。図５は、補正予測の概念を示す図である。
ここでは、動き予測で参照するピクチャを参照フレームピクチャ、視差予測で参照するピクチャを参照視点ピクチャとし、補正予測において参照するピクチャを補正参照ピクチャとする。
補正参照ピクチャとしてはどのようなピクチャを選んでも構わないが、図５においては、参照フレームピクチャと同じフレームに属し、かつ参照視点ピクチャと同じ視点のピクチャを参照ピクチャとする場合の例を示す。
【００５４】
まず、符号化対象ピクチャＡ内の符号化対象ブロックａから予測して、動き予測画像ＰＩＭを生成し、当該画像を含むピクチャを参照フレームピクチャＢとして記憶する。
また、符号化対象ピクチャＡ内の符号化対象ブロックａから予測して視差予測画像ＰＩＤを生成し、当該画像を含むピクチャを参照視点ピクチャＣとして記憶する。
そして、動き予測画像ＰＩＭと視差予測画像ＰＩＤとから補正予測画像ＰＩＣを生成して、当該画像を含むピクチャを補正参照ピクチャＤとして記憶する。
【００５５】
次に、平均化部１０によって動き予測画像ＰＩＭと視差予測画像ＰＩＤとの平均を求め、これを一次予測画像ｅとする。
一方、減算器２０によって動き予測画像ＰＩＭと補正予測画像ＰＩＣとの差分を求め、これを予測視差予測残差ＰＰＲＤとする。
また、減算器３０によって視差予測画像ＰＩＤと補正予測画像ＰＩＣとの差分を求め、これを予測動き予測残差ＰＰＲＭとする。
【００５６】
次に、平均化部４０によって予測視差予測残差ＰＰＲＤと予測動き予測残差ＰＰＲＭとの平均を求め、これを予測予測残差ｆとする。
最後に、加算器５０によって一次予測画像ｅと予測予測残差ｆとを加算して、予測画像ＰＩを生成する。
【００５７】
ここで、予測情報が視点間参照情報やフレーム間参照情報からなる場合、それぞれの参照情報を用いて補正参照ピクチャ上の補正予測画像として参照する領域を決定する。
例えば参照情報に参照フレーム／視点ピクチャ上の領域を示すベクトルが含まれる場合、補正参照ピクチャ上の補正予測画像として参照する領域を示す補正ベクトルＶＣは、動きベクトルＶＭと視差ベクトルＶＤによって以下の式で表される。
ＶＣ＝ＶＭ＋ＶＤ
【００５８】
予測画像生成では、この補正予測画像ＰＩＣと動き予測画像ＰＩＭを用いて、視差予測画像ＰＩＤの符号化対象ブロックに対する予測誤差を予測し、補正予測画像ＰＩＣと視差予測画像ＰＩＤを用いて、動き予測画像ＰＩＭの符号化対象ブロックに対する予測誤差を予測し、動き予測画像と視差予測画像のそれぞれについて誤差を加味した上で最終的な予測画像を生成する。
以下では、予測された動き予測の予測誤差を予測動き予測残差（上記のＰＰＲＭ）と呼び、予測された視差予測の予測残差を予測視差予測残差(上記のＰＰＲＤ）と呼ぶ。
予測方法はどのような方法でも構わないが、図５においては、補正予測画像とそれぞれの予測画像との差分をもって予測(動き/視差）予測残差としている。この場合予測動き予測残差ＰＰＲＭと予測視差予測残差ＰＰＲＤは、以下の式で表される。
ＰＰＲＭ＝ＰＩＤ−ＰＩＣ・ＰＰＲＤ＝ＰＩＭ−ＰＩＣ
【００５９】
また、動き及び視差それぞれの予測画像と符号化対象ブロックとの差分が一次予測残差であり、概念的にはそれぞれの一次予測残差から対応する予測予測残差を差し引き符号化対象の予測残差とすることで、予測残差の符号量を低減することができる。この予測誤差をもって双方の予測の予測画像の補正を行う場合、最終的な予測画像ＰＩは以下の式で表される。
【数１】
0005894338.tif 000002
このように、予測予測残差の生成を行わずに上述のような式を使用して、直接最終的な予測画像を生成してもよい。
【００６０】
また、ここでは補正前の予測画像は両方向の予測画像の平均値であるとしているが、他にどのような重み付けで予測画像を生成し、重みを加味した補正を行なっても構わない。また、予測予測残差に別途重みを付けても構わない。
例えば一方の予測がもう一方の予測に比べて精度が劣る場合に、その精度に応じた重みをつけるなどしてもよい。ここでは、上述の例において動き予測画像ＰＩＭに比べて視差予測画像ＰＩＤの精度が低い場合の重み付けの方法を説明する。視差補償予測画像に対する重みをＷとすると、最終的な予測画像ＰＩは、以下のような式で表すことが出来る。
【数２】
0005894338.tif 000003
上記の重みＷは画像と同じ大きさの行列でも良いし、スカラーでも良い。Ｗ＝１のときには上記「数１」の式と一致する。
また、Ｗはどのように決定してもよい。典型例としては、視差補償予測の精度が良い場合には１として、精度が良くない場合には１／２、精度が著しく悪い場合や使用可能な視差ベクトルがない場合には０とするなどの場合がある。
【００６１】
なお、図２、図４に示す一部の処理は、その順序が前後しても構わない。
また、以上説明した映像符号化装置及び映像復号装置の処理は、コンピュータとソフトウェアプログラムとによっても実現することができ、そのプログラムをコンピュータで読み取り可能な記録媒体に記録して提供することも、ネットワークを通して提供することも可能である。
【００６２】
図６は、前述の映像符号化装置１００をコンピュータとソフトウェアプログラムとによって構成する場合のハードウェア図である。
本システムは：
・プログラムを実行するＣＰＵ３０と
・ＣＰＵ３０がアクセスするプログラムやデータが記憶されるＲＡＭ等のメモリ３１
・カメラ等からの符号化対象の映像信号を映像符号化装置内に入力する符号化対象映像入力部３２（ディスク装置などによる映像信号を記憶する記憶部でもよい）
・図２に示す処理動作をＣＰＵ３０に実行させるソフトウェアプログラムである映像符号化プログラム３３１が記憶されたプログラム記憶装置３３
・ＣＰＵ３０がメモリ３１にロードされた映像符号化プログラムを実行することにより生成された符号データを、例えばネットワークを介して出力する符号データ出力部３４（ディスク装置などによる符号データを記憶する記憶部でもよい）
とが、バスで接続された構成になっている。
また、図示は省略するが、他に、符号データ記憶部、参照フレーム記憶部などのハードウェアが設けられ、本手法の実施に利用される。また、映像信号符号データ記憶部、予測情報符号データ記憶部などが用いられることもある。
【００６３】
図７は、前述の映像復号装置２００をコンピュータとソフトウェアプログラムとによって構成する場合のハードウェア図である。
本システムは：
・プログラムを実行するＣＰＵ４０
・ＣＰＵ４０がアクセスするプログラムやデータが記憶されるＲＡＭ等のメモリ４１
・映像符号化装置が本手法により符号化した符号データを映像復号装置内に入力する符号データ入力部４２（ディスク装置などによる符号データを記憶する記憶部でもよい）
・図４に示す処理動作をＣＰＵ４０に実行させるソフトウェアプログラムである映像復号プログラム４３１が記憶されたプログラム記憶装置４３
・ＣＰＵ４０がメモリ４１にロードされた映像復号プログラムを実行することにより生成された復号映像を、再生装置などに出力する復号映像出力部４４
とが、バスで接続された構成になっている。
また、図示は省略するが、他に、参照フレーム記憶部などのハードウェアが設けられ、本手法の実施に利用される。また、映像信号符号データ記憶部、予測情報符号データ記憶部などが用いられることもある。
【００６４】
以上説明したように、多視点映像符号化におけるフレーム間予測と視点間予測の双方を行うことができるピクチャにおいて、それらフレーム間予測と視点間予測を行う場合に、それぞれの参照先を示す情報から新たに両予測の予測誤差を補正するための補正予測を行うことにより予測残差を低減させ、予測残差符号化に必要な符号量を削減することができる。
【００６５】
前述した実施形態における図１に示す映像符号化装置及び図３に示す映像復号装置をコンピュータで実現するようにしてもよい。
その場合、該当する機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。
なお、ここでいう「コンピュータシステム」とは、ＯＳや周辺機器等のハードウェアを含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ−ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。
また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよく、ＰＬＤ（Programmable Logic Device）やＦＰＧＡ（Field Programmable Gate Array）等のハードウェアを用いて実現されるものであってもよい。
【００６６】
以上、図面を参照して本発明の実施の形態を説明してきたが、上記実施の形態は本発明の例示に過ぎず、本発明が上記実施の形態に限定されるものではないことは明らかである。したがって、本発明の技術思想及び範囲を逸脱しない範囲で構成要素の追加、省略、置換、その他の変更を行ってもよい。
【産業上の利用可能性】
【００６７】
時間方向と視差方向とを併用する予測が不適であるため単方向予測が用いられることで予測残差の符号量が増大する場合に、双方の予測の予測誤差を補正することで符号量を低減することが好適な用途に適用できる。
【符号の説明】
【００６８】
１０１・・・符号化対象映像入力部
１０２・・・入力画像メモリ
１０３・・・参照ピクチャメモリ
１０４・・・予測部
１０５・・・一次予測画像生成部
１０６・・・補正予測画像生成部
１０７・・・予測画像生成部
１０８・・・減算器
１０９・・・変換・量子化部
１１０・・・逆量子化・逆変換部
１１１・・・加算器
１１２・・・エントロピー符号化部
２０１・・・符号データ入力部
２０２・・・符号データメモリ
２０３・・・参照ピクチャメモリ
２０４・・・エントロピー復号部
２０５・・・逆量子化・逆変換部
２０６・・・一次予測画像生成部
２０７・・・補正予測画像生成部
２０８・・・予測画像生成部
２０９・・・加算器
【図１】
0005894338.tif 000004
【図２】
0005894338.tif 000005
【図３】
0005894338.tif 000006
【図４】
0005894338.tif 000007
【図５】
0005894338.tif 000008
【図６】
0005894338.tif 000009
【図７】
0005894338.tif 000010