(57)【要約】【課題】符号化効率の向上を図ることができる符号化方法を提供する。【解決手段】符号化方法は、動画像をブロックごとに符号化する符号化方法であって、符号化処理の際に、第１の画像と、他の再構成画像とを用いて、動きベクトルを導出し、ビットストリームは、デコーダにおいて動きベクトルを導出する機能を有効にするか否かを示す第１の情報と、符号化に用いる前記第１の画像の決定に用いる第２の情報とを含み、前記第１の情報は、シーケンスパラメータセットに含まれ、前記第２の情報は、前記第１の画像の複数候補のうちのいずれか１つを示す１つのインデックスであり、前記第２の情報に応じて、前記第１の画像として用いる再構成画像の位置が異なる。【選択図】図２２Ａ
2019213242.tif 000002
【特許請求の範囲】
【請求項１】
動画像をブロックごとに符号化する符号化方法であって、
符号化処理の際に、第１の画像と、他の再構成画像とを用いて、動きベクトルを導出し、
ビットストリームは、デコーダにおいて動きベクトルを導出する機能を有効にするか否かを示す第１の情報と、符号化に用いる前記第１の画像の決定に用いる第２の情報とを含み、
前記第１の情報は、シーケンスパラメータセットに含まれ、
前記第２の情報は、前記第１の画像の複数候補のうちのいずれか１つを示す１つのインデックスであり、
前記第２の情報に応じて、前記第１の画像として用いる再構成画像の位置が異なる、
符号化方法。
【請求項２】
符号化された動画像を示すビットストリームをブロックごとに復号する復号方法であって、
ビットストリームは、デコーダにおいて動きベクトルを導出する機能を有効にするか否かを示す第１の情報と、符号化に用いる第１の画像の決定に用いる第２の情報とを含み、
前記復号方法は、
復号処理の際に、前記第１の情報が前記機能を有効にすると示す場合、前記第２の情報によって決定される前記第１の画像と、他の復号済み画像とを用いて、前記動きベクトルを導出し、
前記第１の情報は、シーケンスパラメータセットに含まれ、
前記第２の情報は、前記第１の画像の複数候補のうちのいずれか１つを示す１つのインデックスであり、
前記第２の情報に応じて、前記第１の画像として用いる復号済み画像の位置が異なる、
復号方法。
【請求項３】
動画像をブロックごとに符号化する符号化装置であって、
回路と、
メモリを備え、
前記回路は前記メモリを用いて、
符号化処理の際に、第１の画像と、他の再構成画像とを用いて、動きベクトルを導出し、
ビットストリームは、デコーダにおいて動きベクトルを導出する機能を有効にするか否かを示す第１の情報と、符号化に用いる第１の画像の決定に用いる第２の情報とを含み、
前記第１の情報は、シーケンスパラメータセットに含まれ、
前記第２の情報は、前記第１の画像の複数候補のうちのいずれか１つを示す１つのインデックスであり、
前記第２の情報に応じて、前記第１の画像として用いる再構成画像の位置が異なる、
符号化装置。
【請求項４】
符号化された動画像を示すビットストリームをブロックごとに復号する復号装置であって、
回路と、
メモリを備え、
ビットストリームは、デコーダにおいて動きベクトルを導出する機能を有効にするか否かを示す第１の情報と、符号化に用いる第１の画像の決定に用いる第２の情報とを含み、
前記回路は前記メモリを用いて、
復号処理の際に、前記第１の情報が前記機能を有効にすると示す場合、前記第２の情報によって決定される前記第１の画像と、他の復号済み画像とを用いて、前記動きベクトルを導出し、
前記第１の情報は、シーケンスパラメータセットに含まれ、
前記第２の情報は、前記第１の画像の複数候補のうちのいずれか１つを示す１つのインデックスであり、
前記第２の情報に応じて、前記第１の画像として用いる復号済み画像の位置が異なる、
復号装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、あらゆるマルチメディアデータの符号化および復号に関し、特に、デコーダ側の動き探索に対応する画像および映像の符号化および復号に関する。
【背景技術】
【０００２】
次世代映像（例えば、４Ｋ／８Ｋ解像度）の無線送信および有線送信においては、現在の符号化能力を超える符号化効率が求められる可能性がある。より高い符号化効率が不可欠ではあるが、エンコーダを大幅に複雑化することは望ましくなく、その配備には大きな懸念が生じえる。現在の映像符号化規格（非特許文献１参照）において、デコーダの複雑性はエンコーダの複雑性に比べてずっと低い。したがって、複雑性という負荷をデコーダ側に負わせることによって符号化効率を改善するための研究が続けられている。
【０００３】
デコーダサイド・モーションエスティメーション（ＤＳＭＥ）技術に関するいくつかの研究および実験が実施され、その結果、符号化効率の改善が証明されている。動き探索（ＭＥ）処理は、デコーダにおいて、近隣の再構成されたブロックをテンプレートとして用いることで実行され、その結果得られた最適な動きベクトル（ＭＶ）が対象ブロックの動きベクトルとして用いられる。先行技術（非特許文献２参照）では、ビットストリームに明示的に動きベクトルを符号化する代わりに、デコーダ側でテンプレートに基づいて動きベクトルが導出される。よって、その結果、これらの動きベクトルをビットストリームに含めて送信するための負荷を削減することで、符号化効率が改善される。
【先行技術文献】
【非特許文献】
【０００４】
【非特許文献１】ＩＴＵ−Ｔ  Ｈ．２６５  ０４／２０１３
【非特許文献２】Steffan Kamp、外２名、” DECODER SIDE MOTION VECTOR DERIVATION FOR INTER FRAME VIDEO CODING“、アーヘン大学、インターネット＜ＵＲＬ：http://www.ient.rwth-aachen.de/services/bib2web/pdf/KaEvWi08.pdf＞
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、非特許文献２の符号化方法および復号方法であっても、符号化効率が十分には改善されない場合があるという問題がある。
【０００６】
そこで、本発明は、符号化効率の向上を図ることができる符号化方法および復号方法を提供する。
【課題を解決するための手段】
【０００７】
本発明の一態様に係る符号化方法は、動画像をブロックごとに符号化する符号化方法であって、符号化処理の際に、第１の画像と、他の再構成画像とを用いて、動きベクトルを導出し、ビットストリームは、デコーダにおいて動きベクトルを導出する機能を有効にするか否かを示す第１の情報と、符号化に用いる前記第１の画像の決定に用いる第２の情報とを含み、前記第１の情報は、シーケンスパラメータセットに含まれ、前記第２の情報は、前記第１の画像の複数候補のうちのいずれか１つを示す１つのインデックスであり、前記第２の情報に応じて、前記第１の画像として用いる再構成画像の位置が異なる。
【０００８】
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なＣＤ−ＲＯＭなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。
【発明の効果】
【０００９】
本発明の符号化方法および復号方法は、符号化効率の向上を図ることができる。
【図面の簡単な説明】
【００１０】
【図１】図１は、実施の形態１における符号化装置の例示的な構造を示すブロック図である。
【図２】図２は、実施の形態１における、対象ブロックに対して想定される近隣テンプレートの例を示す図である。
【図３】図３は、実施の形態１における、対象ブロックに対して想定される近隣テンプレートの例を示す図である。
【図４】図４は、実施の形態１における、対象ブロックに対して想定される近隣テンプレートの例を示す図である。
【図５】図５は、実施の形態１における、対象ブロックに対して想定される近隣テンプレートの例を示す図である。
【図６】図６は、実施の形態１における、対象ブロックに対して想定される近隣テンプレートの例を示す図である。
【図７】図７は、実施の形態１における、対象ブロックに対して想定される近隣テンプレートの例を示す図である。
【図８】図８は、実施の形態１における符号化処理の一例を示すフローチャートである。
【図９】図９は、実施の形態１における符号化処理の他の例を示すフローチャートである。
【図１０】図１０は、実施の形態１における符号化処理のさらに他の例を示すフローチャートである。
【図１１】図１１は、実施の形態１における、予め定義された基準に基づいて、複数の近隣テンプレートから１つの近隣テンプレートを選択する選択処理の一例を示すフローチャートである。
【図１２】図１２は、実施の形態１における、予め定義された基準に基づいて、複数の近隣テンプレートから１つの近隣テンプレートを選択する選択処理の他の例を示すフローチャートである。
【図１３】図１３は、実施の形態１における、ＤＭＶＤ有効化フラグの位置の例を示す図である。
【図１４】図１４は、実施の形態１における、近隣テンプレートを選択することに関するパラメータの位置の例を示す図である。
【図１５】図１５は、実施の形態１における、複数の予め定義された近隣テンプレートを示す１つ以上のパラメータの位置の例を示す図である。
【図１６Ａ】図１６Ａは、実施の形態１における、近隣テンプレートを選択するためのパラメータの位置の一例を示す図である。
【図１６Ｂ】図１６Ｂは、実施の形態１における、近隣テンプレートを選択するためのパラメータの位置の他の例を示す図である。
【図１６Ｃ】図１６Ｃは、実施の形態１における、近隣テンプレートを選択するためのパラメータの位置のさらに他の例を示す図である。
【図１７】図１７は、実施の形態１における復号装置の例示的な構造を示すブロック図である。
【図１８】図１８は、実施の形態１における復号処理の一例を示すフローチャートである。
【図１９】図１９は、実施の形態１における復号処理の他の例を示すフローチャートである。
【図２０】図２０は、実施の形態１における復号処理のさらに他の例を示すフローチャートである。
【図２１Ａ】図２１Ａは、実施の形態１における、パラメータに基づいて、複数の近隣テンプレートからＤＭＶＤテンプレートを選択する処理の一例を示すフローチャートである。
【図２１Ｂ】図２１Ｂは、実施の形態１における、パラメータに基づいて、複数の近隣テンプレートからＤＭＶＤテンプレートを選択する処理の一例を示すフローチャートである。
【図２１Ｃ】図２１Ｃは、実施の形態１における、パラメータに基づいて、複数の近隣テンプレートからＤＭＶＤテンプレートを選択する処理の他の例を示すフローチャートである。
【図２１Ｄ】図２１Ｄは、実施の形態１における、パラメータに基づいて、複数の近隣テンプレートからＤＭＶＤテンプレートを選択する処理のさらに他の例を示すフローチャートである。
【図２１Ｅ】図２１Ｅは、実施の形態１における、パラメータに基づいて、複数の近隣テンプレートからＤＭＶＤテンプレートを選択する処理のさらに他の例を示すフローチャートである。
【図２１Ｆ】図２１Ｆは、実施の形態１における、パラメータに基づいて、複数の近隣テンプレートからＤＭＶＤテンプレートを選択する処理のさらに他の例を示すフローチャートである。
【図２２Ａ】図２２Ａは、本発明の一態様に係る符号化方法の一例を示すフローチャートである。
【図２２Ｂ】図２２Ｂは、本発明の一態様に係る復号方法の一例を示すフローチャートである。
【図２３】図２３は、コンテンツ配信サービスを実現するコンテンツ供給システムの全体構成図である。
【図２４】図２４は、デジタル放送用システムの全体構成図である。
【図２５】図２５は、テレビの構成例を示すブロック図である。
【図２６】図２６は、光ディスクである記録メディアに情報の読み書きを行う情報再生／記録部の構成例を示すブロック図である。
【図２７】図２７は、光ディスクである記録メディアの構造例を示す図である。
【図２８Ａ】図２８Ａは、携帯電話の一例を示す図である。
【図２８Ｂ】図２８Ｂは、携帯電話の構成例を示すブロック図である。
【図２９】図２９は、多重化データの構成を示す図である。
【図３０】図３０は、各ストリームが多重化データにおいてどのように多重化されているかを模式的に示す図である。
【図３１】図３１は、ＰＥＳパケット列に、ビデオストリームがどのように格納されるかを更に詳しく示した図である。
【図３２】図３２は、多重化データにおけるＴＳパケットとソースパケットの構造を示す図である。
【図３３】図３３は、ＰＭＴのデータ構成を示す図である。
【図３４】図３４は、多重化データ情報の内部構成を示す図である。
【図３５】図３５は、ストリーム属性情報の内部構成を示す図である。
【図３６】図３６は、映像データを識別するステップを示す図である。
【図３７】図３７は、各実施の形態の動画像符号化方法および動画像復号化方法を実現する集積回路の構成例を示すブロック図である。
【図３８】図３８は、駆動周波数を切り替える構成を示す図である。
【図３９】図３９は、映像データを識別し、駆動周波数を切り替えるステップを示す図である。
【図４０】図４０は、映像データの規格と駆動周波数を対応づけたルックアップテーブルの一例を示す図である。
【図４１Ａ】図４１Ａは、信号処理部のモジュールを共有化する構成の一例を示す図である。
【図４１Ｂ】図４１Ｂは、信号処理部のモジュールを共有化する構成の他の一例を示す図である。
【発明を実施するための形態】
【００１１】
（本発明の基礎となった知見）
非特許文献２の符号化方法および復号方法では、対象ブロックに対しては１つのテンプレートだけが予め定められてあり、そのテンプレートしか用いることができない。したがって、テンプレートの大きさおよび形が対象ブロックに対して不適切であれば、動き探索の精度が低下してしまい、符号化効率が改善されない。
【００１２】
このような問題を解決するために、本発明の一態様に係る符号化方法は、動画像をブロックごとに符号化する符号化方法であって、対象ブロックに対して予め定義された、前記対象ブロックの空間的に近隣にある互いに異なる領域を示すＮ個（Ｎは２以上の整数）の近隣テンプレートの中から、１つの近隣テンプレートを選択し、選択された前記近隣テンプレートによって示される領域における再構成画像と、前記対象ブロックを含むピクチャと異なる参照ピクチャとを用いて動きベクトルを導出し、導出された前記動きベクトルを用いて前記対象ブロックに対して動き補償を行うことによって、前記対象ブロックを符号化し、デコーダにおいて動きベクトルを導出する機能であるＤＭＶＤ機能を有効にするか否かを示すＤＭＶＤパラメータを、符号化された前記対象ブロックを含むビットストリームに書き込む。
【００１３】
これにより、対象ブロックに対して予め定義されたＮ個の近隣テンプレートの中から１つの近隣テンプレートが選択されるため、対象ブロックに対して適切な近隣テンプレートを選択することができ、動き探索の精度を向上させることができる。その結果、符号化効率の向上を図ることができる。さらに、ＤＭＶＤパラメータがビットストリームに書き込まれるため、デコーダに対して、対象ブロックの復号のための動きベクトルの導出、つまり動き探索を、必要に応じて実行させることができる。したがって、デコーダは、符号化効率が向上されたビットストリームを適切に復号することができる。
【００１４】
また、前記符号化方法は、さらに、対象ブロックに対して予め定義された前記Ｎ個の近隣テンプレートを識別し、前記近隣テンプレートの選択では、識別された前記Ｎ個の近隣テンプレートの中から前記近隣テンプレートを選択し、前記ＤＭＶＤパラメータの書き込みでは、前記ＤＭＶＤ機能を有効にすることを示す前記ＤＭＶＤパラメータとして、選択された前記近隣テンプレートを識別するための識別パラメータを書き込んでもよい。
【００１５】
これにより、識別パラメータがビットストリームに書き込まれるため、対象ブロックの符号化に用いられた近隣テンプレートをデコーダでも容易に選択して用いることができる。したがって、デコーダは対象ブロックを適切に復号することができる。
【００１６】
また、前記符号化方法は、さらに、それぞれＮ個未満の複数の近隣テンプレートからなる複数のサブセットのうちの何れのサブゼットを用いるか、何れのサブセットも用いないかを決定し、前記サブセットの決定結果を値として示す拡張パラメータを前記ビットストリームに書き込み、前記近隣テンプレートの選択では、（ａ）前記拡張パラメータが予め定められた値を示す場合には、前記複数のサブセットの中から、前記拡張パラメータに応じたサブセットを特定し、前記Ｎ個の近隣テンプレートのうちの、特定された前記サブセットに含まれるＭ個（Ｍは２以上Ｎ未満の整数）の近隣テンプレートの中から、１つの近隣テンプレートを選択し、（ｂ）前記拡張パラメータが予め定められた値を示さない場合には、前記Ｎ個の近隣テンプレートの中から、１つの近隣テンプレートを選択してもよい。
【００１７】
これにより、サブセットが用いられる場合には、Ｎ個の近隣テンプレートよりも少ないＭ個の近隣テンプレートの中から１つの近隣テンプレートが選択されるため、つまり、選択される近隣テンプレートの候補となる複数の近隣テンプレートの数が減るため、近隣テンプレートの選択の処理負担を軽減することができる。
【００１８】
また、前記符号化方法は、さらに、近隣テンプレートを適応的に変更するか否かを決定し、前記ＤＭＶＤパラメータの書き込みでは、前記変更するか否かの決定結果を値として示すパラメータを、前記ＤＭＶＤパラメータとして書き込み、前記近隣テンプレートの選択では、前記ＤＭＶＤパラメータが予め定められた値を示す場合には、前記対象ブロックの符号化時において、当該対象ブロックの周辺に生成されている再構成画像の領域に応じて、前記Ｎ個の近隣テンプレートの中から１つの近隣テンプレートを選択してもよい。
【００１９】
これにより、符号化時の状況に応じて近隣テンプレートを適応的に選択すること、つまり、近隣テンプレートの大きさおよびサイズなどを適応的に変更することができ、符号化効率を向上することができる。
【００２０】
また、前記近隣テンプレートの選択では、前記Ｎ個の近隣テンプレートのうちの候補となる複数の近隣テンプレートのそれぞれに対して優先度を決定し、前記候補となる複数の近隣テンプレートのうちの、前記対象ブロックの符号化時において、当該近隣テンプレートによって示される領域内の全ての再構成画像が生成されている少なくとも１つの近隣テンプレートの中から、最も優先度の高い近隣テンプレートを選択してもよい。
【００２１】
これにより、候補となる複数の近隣テンプレートから１つの近隣テンプレートを適切に選択することができる。また、このような近隣テンプレートの選択の手法を、予め定義された基準として、デコーダ側にも実行させることによって、デコーダ側でも、エンコーダで選択された近隣テンプレートを適切に選択することができる。
【００２２】
また、前記近隣テンプレートの選択では、前記Ｎ個の近隣テンプレートのうちの候補となる複数の近隣テンプレートのそれぞれに対して、当該近隣テンプレートに対して導出される動きベクトルによって示される画像と当該近隣テンプレートの画像との間の歪みの程度を歪み値として算出し、前記候補となる複数の近隣テンプレートの中から、最も歪み値の小さい近隣テンプレートを選択してもよい。
【００２３】
これにより、候補となる複数の近隣テンプレートから１つの近隣テンプレートを適切に選択することができる。また、このような近隣テンプレートの選択の手法を、予め定義された基準として、デコーダ側にも実行させることによって、デコーダ側でも、エンコーダで選択された近隣テンプレートを適切に選択することができる。
【００２４】
また、前記ＤＭＶＤパラメータの書き込みでは、予め定められた閾値よりも大きいか否かによって、前記ＤＭＶＤ機能を有効にするか否かを示す値を、前記ＤＭＶＤパラメータとして書き込んでもよい。
【００２５】
これにより、ＤＭＶＤパラメータを、例えば、候補リストのサイズなどのように、ＤＭＶＤ機能以外の他の機能に用いられる値を示すパラメータと兼用させることができる。したがって、ビットストリームに含まれる他のパラメータをＤＭＶＤパラメータとして用いることができるため、符号化効率をさらに向上することができる。
【００２６】
また、本発明の一態様に係る復号方法は、符号化された動画像を示すビットストリームをブロックごとに復号する復号方法であって、デコーダにおいて動きベクトルを導出する機能であるＤＭＶＤ機能を有効にするか否かを示すＤＭＶＤパラメータを、前記ビットストリームから読み解き、対象ブロックに対して予め定義された、前記対象ブロックの空間的に近隣にある互いに異なる領域を示すＮ個（Ｎは２以上の整数）の近隣テンプレートの中から、１つの近隣テンプレートを選択することを、読み解かれた前記ＤＭＶＤパラメータに基づいて実行し、選択された前記近隣テンプレートによって示される領域における再構成画像と、前記対象ブロックを含むピクチャと異なる参照ピクチャとを用いて動きベクトルを導出し、導出された前記動きベクトルを用いて前記対象ブロックに対して動き補償を行うことによって、前記対象ブロックを復号してもよい。
【００２７】
これにより、ＤＭＶＤパラメータが、ＤＭＶＤ機能を有効にすることを示していれば、対象ブロックに対して予め定義されたＮ個の近隣テンプレートの中から１つの近隣テンプレートが選択される。したがって、対象ブロックに対して適切な近隣テンプレートを選択することができ、符号化効率の向上が図られたビットストリームを適切に復号することができる。
【００２８】
また、前記復号方法は、さらに、対象ブロックに対して予め定義された前記Ｎ個の近隣テンプレートを識別し、前記ＤＭＶＤパラメータの読み解きでは、前記ＤＭＶＤ機能を有効にすることを示す前記ＤＭＶＤパラメータとして、選択されるべき近隣テンプレートを識別するための識別パラメータを読み解き、前記近隣テンプレートの選択では、識別された前記Ｎ個の近隣テンプレートの中から、前記識別パラメータに応じた前記近隣テンプレートを選択してもよい。
【００２９】
これにより、識別パラメータがビットストリームから読み解かれるため、対象ブロックの符号化に用いられた近隣テンプレートを容易に選択して用いることができる。したがって、対象ブロックを適切に復号することができる。
【００３０】
また、前記復号方法は、さらに、それぞれＮ個未満の複数の近隣テンプレートからなる複数のサブセットのうちの何れのサブゼットを用いるか、何れのサブセットも用いないかを、値として示す拡張パラメータを、前記ビットストリームから読み解き、前記近隣テンプレートの選択では、（ａ）前記拡張パラメータが予め定められた値を示す場合には、前記複数のサブセットの中から、前記拡張パラメータに応じたサブセットを特定し、前記Ｎ個の近隣テンプレートのうちの、特定された前記サブセットに含まれるＭ個（Ｍは２以上Ｎ未満の整数）の近隣テンプレートの中から、１つの近隣テンプレートを選択し、（ｂ）前記拡張パラメータが予め定められた値を示さない場合には、前記Ｎ個の近隣テンプレートの中から、１つの近隣テンプレートを選択してもよい。
【００３１】
これにより、サブセットが用いられる場合には、Ｎ個の近隣テンプレートよりも少ないＭ個の近隣テンプレートの中から１つの近隣テンプレートが選択されるため、つまり、選択される近隣テンプレートの候補となる複数の近隣テンプレートの数が減るため、近隣テンプレートの選択の処理負担を軽減することができる。
【００３２】
また、前記ＤＭＶＤパラメータの読み解きでは、近隣テンプレートを適応的に変更するか否かを値として示すパラメータを、前記ＤＭＶＤパラメータとして読み解き、前記近隣テンプレートの選択では、前記ＤＭＶＤパラメータが予め定められた値を示す場合には、前記対象ブロックの復号時において、当該対象ブロックの周辺に生成されている再構成画像の領域に応じて、前記Ｎ個の近隣テンプレートの中から１つの近隣テンプレートを選択してもよい。
【００３３】
これにより、復号時の状況に応じて近隣テンプレートを適応的に選択すること、つまり、近隣テンプレートの大きさおよびサイズなどを適応的に変更することができ、符号化効率の向上が図られたビットストリームを適切に復号することができる。
【００３４】
また、前記近隣テンプレートの選択では、前記Ｎ個の近隣テンプレートのうちの候補となる複数の近隣テンプレートのそれぞれに対して優先度を決定し、前記候補となる複数の近隣テンプレートのうちの、前記対象ブロックの復号時において、当該近隣テンプレートによって示される領域内の全ての再構成画像が生成されている少なくとも１つの近隣テンプレートの中から、最も優先度の高い近隣テンプレートを選択してもよい。
【００３５】
これにより、候補となる複数の近隣テンプレートから１つの近隣テンプレートを適切に選択することができる。また、このような近隣テンプレートの選択の手法が、予め定義された基準として、エンコーダ側でも実行されている場合には、エンコーダで選択された近隣テンプレートを適切に選択することができる。
【００３６】
また、前記近隣テンプレートの選択では、前記Ｎ個の近隣テンプレートのうちの候補となる複数の近隣テンプレートのそれぞれに対して、当該近隣テンプレートに対して導出される動きベクトルによって示される画像と当該近隣テンプレートの画像との間の歪みの程度を歪み値として算出し、前記候補となる複数の近隣テンプレートの中から、最も歪み値の小さい近隣テンプレートを選択してもよい。
【００３７】
これにより、候補となる複数の近隣テンプレートから１つの近隣テンプレートを適切に選択することができる。また、このような近隣テンプレートの選択の手法が、予め定義された基準として、エンコーダ側にも実行されている場合には、エンコーダで選択された近隣テンプレートを適切に選択することができる。
【００３８】
また、前記ＤＭＶＤパラメータの読み解きでは、予め定められた閾値よりも大きいか否かによって、前記ＤＭＶＤ機能を有効にするか否かを示す値を、前記ＤＭＶＤパラメータとして読み解いてもよい。
【００３９】
これにより、ＤＭＶＤパラメータを、例えば、候補リストのサイズなどのように、ＤＭＶＤ機能以外の他の機能に用いられる値を示すパラメータと兼用させることができる。したがって、ビットストリームに含まれる他のパラメータをＤＭＶＤパラメータとして用いることができるため、符号化効率のさらなる向上が図られたビットストリームを適切に復号することができる。
【００４０】
なお、これらの包括的または具体的な態様は、システム、装置、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なＣＤ−ＲＯＭなどの記録媒体で実現されてもよく、システム、装置、集積回路、コンピュータプログラムまたは記録媒体の任意な組み合わせで実現されてもよい。
【００４１】
以下、実施の形態について、図面を参照しながら具体的に説明する。
【００４２】
なお、以下で説明する実施の形態は、いずれも包括的または具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
【００４３】
（実施の形態１）
図１は、本実施の形態における符号化装置の例示的な構造を示すブロック図である。
【００４４】
符号化装置１００は、ブロック単位で入力映像（つまり動画像）を符号化することによって、ビットストリームＢｓを生成する。図１に示されるように、符号化装置１００は、変換部１０１、量子化部１０２、逆量子化部１０３、逆変換部１０４、ブロックメモリ１０５、ピクチャメモリ（フレームメモリともいう）１０６、イントラ予測部１０７、インター予測部１０８、エントロピー符号化部１０９、減算器１１０、加算器１１１、制御部１３０、動きベクトル予測部１３１、および書込部１３６を備えてもよい。
【００４５】
減算器１１０は、入力映像に含まれる符号化対象のブロック（以下、対象ブロックという）から、その対象ブロックに対応する予測画像を減算することによって、複数の減算値からなる差分画像を生成し、その差分画像を変換部１０１に出力する。なお、予測画像は、イントラ予測部１０７またはインター予測部１０８によって生成された画像である。変換部１０１は、その差分画像を複数の周波数係数に変換し、得られた複数の周波数係数を量子化部１０２に出力する。量子化部１０２は、入力された複数の周波数係数を量子化し、その量子化によって得られた複数の量子化値を逆量子化部１０３およびエントロピー符号化部１０９に出力する。エントロピー符号化部１０９は、量子化部１０２から出力された複数の量子化値をエントロピー符号化し、エントロピー符号化された複数の量子化値を含むビットストリームＢｓを出力する。つまり、このビットストリームＢｓは、符号化された対象ブロックを含む。
【００４６】
逆量子化部１０３は、量子化部１０２から出力された複数の量子化値を逆量子化し、その逆量子化によって得られた複数の周波数係数を逆変換部１０４に出力する。逆変換部１０４は、複数の周波数係数を逆周波数変換することによって、それらの周波数係数を、複数の画素値（サンプル値ともいう）からなる差分画像に変換し、その差分画像を加算器１１１に出力する。加算器１１１は、逆変換部１０４から出力された差分画像を、インター予測部１０８またはイントラ予測部１０７から出力された予測画像に加算することによって、再構成画像を生成する。そして、加算器１１１は、生成された再構成画像を、ブロックメモリ１０５またはピクチャメモリ１０６に、さらなる予測のため出力する。
【００４７】
イントラ予測部１０７は、ブロックメモリ１０５に格納されている少なくとも１つの再構成画像を用いてイントラ予測を行い、そのイントラ予測によって対象ブロックに対する予測画像を生成する。インター予測部１０８は、動きベクトル予測部１３１によって導出または選択された動きベクトルに基づいて動き補償を行う。つまり、インター予測部１０８は、ピクチャメモリ１０６に格納されている少なくとも１つの再構成画像からなる参照ピクチャ内から、その動きベクトルに基づいて、例えば対象ブロック（または、後述の近隣テンプレート）の画像に最も類似した画像を取得する。これにより、予測画像（予測ブロックまたは予測サンプルともいう）が生成される。なお、参照ピクチャは、対象ブロックを含むピクチャとは異なるピクチャであって、例えば、参照インデックスによって指定される。
【００４８】
制御部１３０は、複数の定義された近隣テンプレートおよび動きベクトル予測（ＭＶＰ）を導出するための複数のパラメータを受け取る。例えば、これらの複数のパラメータはそれぞれ、参照インデックス、候補インデックス、または複数の近隣テンプレートなどを示すパラメータである。本実施の形態では、上記参照ピクチャの種類に基づいて、制御部１３０は、候補リスト（候補セットともいう）に含めるための動きベクトル予測候補を生成するために、複数の予め定義された近隣テンプレートを決定または識別する。かつ／または、制御部１３０は、それらの近隣テンプレート（具体的には、複数の予め定義された近隣テンプレートに基づく動きベクトル）を候補セットに含めるか否かを決定する。制御部１３０は、その後、その決定の結果を示す信号１３３を、動きベクトル予測部１３１に出力する。
【００４９】
動きベクトル予測部１３１は、動きベクトルおよび参照ピクチャを有する対象ブロックに対する（動きベクトル予測候補の）候補リストに用いられる少なくとも１つの動きベクトル予測候補を導出する。さらに、動きベクトル予測部１３１は、動き探索を行うことによって、動きベクトルを導出する。動きベクトル予測部１３１はまた、当該候補リストに含まれる少なくとも１つの動きベクトル予測候補から、動き探索によって導出された動きベクトルに基づいて、１つの動きベクトル予測候補を動きベクトル予測として導出する。その後、動きベクトル予測部１３１は、制御部１３０からの信号１３３に基づいて作成される候補リストから、導出された動きベクトル予測を特定するための候補インデックスを信号１３７に含めて書込部１３６に出力する。さらに、動きベクトル予測部１３１は、動き探索によって導出された動きベクトルと、導出された動きベクトル予測との差分をデルタ動きベクトルとして算出し、そのデルタ動きベクトルおよび参照ピクチャの参照インデックスなどを上述の信号１３７に含めて書込部１３６に出力する。
【００５０】
書込部１３６は、制御部１３０によって決定または識別された、対象ブロックに対して予め定義された複数の近隣テンプレートを示すパラメータ１３８を制御部１３０から取得し、そのパラメータ１３８をビットストリームＢｓに書き込む。さらに、書込部１３６は、信号１３７に含まれる候補インデックス、デルタ動きベクトルおよび参照インデックスなどをビットストリームＢｓに書き込む。
【００５１】
ここで、本実施の形態における符号化装置１００は、デコーダサイド・モーションエスティメーション（ＤＳＭＥ）技術に関する装置であって、言い換えれば、デコーダ側において動きベクトルを導出する機能（ＤＭＶＤ：Ｄｅｃｏｄｅｒ  ｓｉｄｅ  Ｍｏｔｉｏｎ  Ｖｅｃｔｏｒ  Ｄｅｒｉｖａｔｉｏｎ）に対応する装置である。したがって、符号化装置１００の動きベクトル予測部１３１は、ＤＭＶＤを実現するために、対象ブロックの空間的に近隣にある領域である近隣テンプレート内の再構成画像に基づく動き探索（以下、近隣テンプレートに基づく動き探索という）を行う。
【００５２】
つまり、本実施の形態における制御部１３０は、入力映像に含まれる対象ブロックに基づく動き探索（以下、入力画像に基づく動き探索という）を行うか、近隣テンプレートに基づく動き探索を行うかを決定する。入力画像に基づく動き探索は、対象ブロックの画像に類似するブロックを、対象ブロックを含むピクチャと異なる参照ピクチャの中から探索する処理である。また、近隣テンプレートに基づく動き探索は、近隣テンプレート内の再構成画像に類似するブロックを、対象ブロックを含むピクチャと異なる参照ピクチャの中から探索する処理である。
【００５３】
制御部１３０は、近隣テンプレートに基づく動き探索を行うと決定する際には、上述のように、対象ブロックに対して予め定義された複数の近隣テンプレートを決定または識別し、それらの近隣テンプレートを候補リストに含めると決定する。さらに、その近隣テンプレートに対する動き探索によって導出される動きベクトルを候補セットに含めると決定する。
【００５４】
動きベクトル予測部１３１は、入力画像に基づく動き探索を行うと決定されると、その入力画像に基づく動き探索を行い、その動き探索によって得られる動きベクトルをインター予測部１０８に出力する。一方、動きベクトル予測部１３１は、近隣テンプレートに基づく動き探索を行うと決定されると、信号１３３によって示される複数の予め定義された近隣テンプレートを含む候補リストを生成する。なお、この複数の予め定義された近隣テンプレートはＮ個（Ｎは２以上の整数）である。そして、動きベクトル予測部１３１は、そのＮ個の近隣テンプレートの中から、１つの近隣テンプレートを選択する。さらに、動きベクトル予測部１３１は、選択された近隣テンプレートによって示される領域における再構成画像と、参照ピクチャとを用いて動きベクトルを導出する。つまり、動きベクトル予測部１３１は、その近隣テンプレートに基づく動き探索を行う。そして、動きベクトル予測部１３１は、その動き探索によって導出される動きベクトルをインター予測部１０８に出力する。また、動きベクトル予測部１３１は、選択されたテンプレートを識別するための識別パラメータを候補インデックスとして信号１３７に含めて書込部１３６に出力する。
【００５５】
図２〜図７のそれぞれは、対象ブロックに対して想定されるいくつかの近隣テンプレートの例を示す図である。図示された近隣テンプレートは全て、デコーダ側の動きベクトル導出（ＤＭＶＤ）処理の機能性に対応できるため、これらは本実施の形態においてＤＭＶＤテンプレートとして表される。しかしながら、ＤＭＶＤテンプレートは、図２〜図７に図示された例に限定されない。
【００５６】
例えば、図２の（ａ）〜（ｅ）に示すように、対象ブロックの上に隣接する矩形の領域（図２において、斜め斜線のハッチングで示される領域）が近隣テンプレートとして識別されてもよい。ここで、図２の（ｃ）〜（ｅ）に示すように、選択される近隣テンプレートが対象ブロックの上に位置する場合、選択される近隣テンプレートの幅は対象ブロックの幅以上であってもよい。また、図２の（ｅ）に示すように、選択される近隣テンプレートの高さが対象ブロックの高さよりも小さい場合、選択される近隣テンプレートの面積は対象ブロックの面積以上であってもよい。
【００５７】
また、図３の（ａ）〜（ｅ）に示すように、対象ブロックの左に隣接する矩形の領域（図３において、斜め斜線のハッチングで示される領域）が近隣テンプレートとして識別されてもよい。ここで、図３の（ｃ）〜（ｅ）に示すように、選択される近隣テンプレートが対象ブロックの左側に位置する場合、選択される近隣テンプレートの高さは対象ブロックの高さ以上であってもよい。また、図３の（ｅ）に示すように、選択される近隣テンプレートの幅が対象ブロックの幅よりも小さい場合、選択される近隣テンプレートの面積は対象ブロックの面積以上であってもよい。
【００５８】
さらに、図４の（ａ）および（ｂ）と図５の（ｃ）および（ｄ）に示すように、対象ブロックの上および左に隣接する逆Ｌ字形の領域（図４および図５において、斜め斜線のハッチングで示される領域）が近隣テンプレートとして識別されてもよい。
【００５９】
また、例えば、図６の（ａ）に示すように、幅３個×高さ２個のブロックからなるブロック群のうち、右下端のブロックが対象ブロックである場合、そのブロック群のうちの対象ブロックを除く５個のブロックを、近隣テンプレートに利用可能なブロックとして扱ってもよい。したがって、５個のブロックのうちの少なくとも１つのブロックの組み合わせからなる領域が、その対象ブロックの近隣テンプレートまたはＤＭＶＤテンプレートとして識別される。この組み合わせは複数あるため、複数の予め定義された近隣テンプレートが識別される。そして、図６の（ｂ）に示すように、例えば対象ブロックの左にある２つのブロックからなる領域が近隣テンプレートとして選択される。
【００６０】
また、例えば、図７の（ａ）または（ｂ）に示すように、対象ブロックの左または上に隣接する、互いに大きさの異なる２つの正方形の領域が、その対象ブロックに対して予め定義された近隣テンプレートとして識別されてもよい。そして、それらの近隣テンプレートから、何れか１つの近隣テンプレートが選択される。このように、選択される近隣テンプレートは、対象ブロックに隣接する利用可能な近隣ブロックである。なお、利用可能な近隣ブロックとは、対象ブロックの符号化時において、近隣ブロックに含まれる全ての再構成画像が生成されているブロックである。
【００６１】
このような本実施の形態における符号化装置１００は、動画像をブロックごとに符号化する符号化装置であって、選択部と、導出部と、符号化部と、書込部１３６とを備える。
【００６２】
選択部は、動きベクトル予測部１３１の一部の機能によって実現される。つまり、選択部は、対象ブロックに対して予め定義された、その対象ブロックの空間的に近隣にある互いに異なる領域を示すＮ個（Ｎは２以上の整数）の近隣テンプレートの中から、１つの近隣テンプレートを選択する。導出部は、動きベクトル予測部１３１の一部の機能によって実現される。つまり、導出部は、選択された近隣テンプレートによって示される領域における再構成画像と、その対象ブロックを含むピクチャと異なる参照ピクチャとを用いて動きベクトルを導出する。符号化部は、インター予測部１０８と、変換部１０１、量子化部１０２、逆量子化部１０３、逆変換部１０４、ピクチャメモリ１０６、エントロピー符号化部１０９、減算器１１０、および加算器１１１のうちの少なくとも１つとからなる。つまり、符号化部は、導出された前記動きベクトルを用いて対象ブロックに対して動き補償を行うことによって、その対象ブロックを符号化する。また、書込部１３６は、デコーダにおいて動きベクトルを導出する機能であるＤＭＶＤ機能を有効にするか否かを示すＤＭＶＤパラメータを、符号化された対象ブロックを含むビットストリームＢｓに書き込む。例えば、書込部１３６は、選択された近隣テンプレートを識別するための識別パラメータ（例えば候補インデックス）をＤＭＶＤパラメータとしてビットストリームＢｓに書き込む。
【００６３】
これにより、対象ブロックに対して予め定義されたＮ個の近隣テンプレートの中から１つの近隣テンプレートが選択されるため、対象ブロックに対して適切な近隣テンプレートを選択することができ、動き探索の精度を向上させることができる。その結果、符号化効率の向上を図ることができる。さらに、ＤＭＶＤパラメータがビットストリームＢｓに書き込まれるため、デコーダに対して、対象ブロックの復号のための動きベクトルの導出、つまり動き探索を、必要に応じて実行させることができる。したがって、デコーダは、符号化効率が向上されたビットストリームＢｓを適切に復号することができる。
【００６４】
図８〜図１０を参照し、本実施の形態による、近隣テンプレートを用いた動き探索処理を実行する符号化方法を説明する。
【００６５】
図８は、本実施の形態における符号化処理の一例を示すフローチャートである。
【００６６】
符号化装置１００の制御部１３０は、最初のステップＳ１００１として、対象ブロックに対する、複数の予め定義された近隣テンプレートを識別する。次のステップＳ１００２において、動きベクトル予測部１３１は、複数の予め定義された近隣テンプレートの中から、予め定義された基準に基づいて１つの近隣テンプレートを選択する。次にステップＳ１００３において、動きベクトル予測部１３１は、動き探索処理の間に、選択された近隣テンプレートを用いて動きベクトルを導出する。ステップＳ１００４において、インター予測部１０８は、導出された動きベクトルを用いて動き補償を実行する。この動き補償によって、対象ブロックが符号化される。最後にステップＳ１００８において、書込部１３６は、選択された近隣テンプレートを特定する１以上の識別パラメータを、ビットストリームＢｓに書き込む。
【００６７】
なお、ステップＳ１００３において、対象ブロックが、ＢピクチャまたはＢスライスに含まれるブロックとして２つの参照ピクチャリストに基づいて符号化される場合には、選択された近隣テンプレートから複数の動きベクトルが導出される。また、対象ブロックが、ＢピクチャおよびＢスライスの何れにも含まれていない場合においても、選択された近隣テンプレートから動きベクトルの候補として複数の動きベクトルが導出されてもよい。
【００６８】
このように、図８のフローチャートによって示される符号化処理では、識別パラメータがビットストリームＢｓに書き込まれるため、対象ブロックの符号化に用いられた近隣テンプレートをデコーダでも容易に選択して用いることができる。したがって、デコーダは対象ブロックを適切に復号することができる。
【００６９】
図９は、本実施の形態における符号化処理の他の例を示すフローチャートである。
【００７０】
符号化装置１００の制御部１３０は、最初のステップＳ１１０１として、動き探索処理に拡張テンプレート（いわゆる後述のサブセット）を用いるか否かを決定する。書込部１３６は、次のステップＳ１１０２において、その決定の結果を表す拡張パラメータをビットストリームＢｓのヘッダに書き込む。次のステップＳ１１０３において、動きベクトル予測部１３１は、その拡張パラメータが予め定義された値を有するか否かを判定する。拡張パラメータが予め定義された値を有する場合（ステップＳ１１０３のＹｅｓ）、動きベクトル予測部１３１は、ステップＳ１１０４において、複数の予め定義された近隣テンプレートから、拡張パラメータに基づいて、候補テンプレートのサブセットを識別する。なお、複数の予め定義された近隣テンプレートがＮ個（Ｎは２以上の整数）であれば、サブセットは、そのＮ個の近隣テンプレートのうちのＭ個（Ｍは２以上Ｎ未満の整数）の近隣テンプレートをそれぞれ候補テンプレートとして含む。
【００７１】
その後、ステップＳ１１０５において、動きベクトル予測部１３１は、識別されたサブセットに含まれる複数の候補テンプレートの中から、予め定義された基準に基づいて、１つの候補テンプレート、つまり近隣テンプレートを選択する。この近隣テンプレートの選択は、例えば、後述の図１１または図１２に示す選択処理にしたがって行われる。
【００７２】
一方、拡張パラメータが予め定義された値を有しない場合（ステップＳ１１０３のＮｏ）、ステップＳ１１０６において、動きベクトル予測部１３１は、予め定義された基準に基づいて、複数（例えばＮ個）の予め定義された近隣テンプレートから、１つの近隣テンプレートを直接選択する。
【００７３】
次にステップＳ１１０７において、動きベクトル予測部１３１は、動き探索処理の間に、選択された近隣テンプレートを用いて、対象ブロックに対する動きベクトルを導出する。その後、ステップＳ１１０８において、インター予測部１０８は、導出された動きベクトルを用いて動き補償処理を実行する。最後にステップＳ１１０９において、書込部１３６は、選択された近隣テンプレートを特定する１以上の識別パラメータを、ビットストリームＢｓに書き込む。
【００７４】
このように、図９のフローチャートによって示される符号化処理では、符号化装置１００は、さらに、それぞれＮ個未満の複数の近隣テンプレートからなる複数のサブセットのうちの何れのサブゼットを用いるか、何れのサブセットも用いないかを決定する。そして、符号化装置１００は、サブセットの決定結果を値として示す拡張パラメータをビットストリームＢｓに書き込む。そして、符号化装置１００は、近隣テンプレートの選択では、拡張パラメータが予め定められた値を示す場合には、複数のサブセットの中から、拡張パラメータに応じたサブセットを特定する。さらに、符号化装置１００は、そのＮ個の近隣テンプレートのうちの、特定されたサブセットに含まれるＭ個（Ｍは２以上Ｎ未満の整数）の近隣テンプレートの中から、１つの近隣テンプレートを選択する。一方、符号化装置１００は、拡張パラメータが予め定められた値を示さない場合には、Ｎ個の近隣テンプレートの中から、１つの近隣テンプレートを選択する。
【００７５】
これにより、サブセットが用いられる場合には、Ｎ個の近隣テンプレートよりも少ないＭ個の近隣テンプレートの中から１つの近隣テンプレートが選択されるため、つまり、選択される近隣テンプレートの候補となる複数の近隣テンプレートの数が減るため、近隣テンプレートの選択の処理負担を軽減することができる。
【００７６】
図１０は、本実施の形態における符号化処理のさらに他の例を示すフローチャートである。符号化装置１００の制御部１３０は、最初のステップＳ１２０１として、デコーダにおける動き探索処理に適応的テンプレート形を用いるか否かを決定する。つまり、制御部１３０は、近隣テンプレートを適応的に変更するか否かを決定する。書込部１３６は、次のステップＳ１２０２において、その決定の結果を示すパラメータを（上述のＤＭＶＤパラメータとして）ビットストリームＢｓのヘッダに書き込む。動きベクトル予測部１３１は、次のステップＳ１２０３において、当該パラメータが予め定義された値を有するか否かを判定する。当該パラメータが予め定義された値を有する場合（ステップＳ１２０３のＹｅｓ）、最後にステップＳ１２０４において、動きベクトル予測部１３１は、適応的テンプレート形を用いて動き探索処理を実行する。適応的テンプレート形は、近隣テンプレートの位置、大きさおよび形のうちの少なくとも一方を適応的に変えることである。
【００７７】
つまり、動きベクトル予測部１３１は、対象ブロックの符号化時において、その対象ブロックの周辺に生成されている再構成画像の領域に応じて、Ｎ個の近隣テンプレートの中から１つの近隣テンプレートを選択する。より具体的には、動きベクトル予測部１３１は、Ｎ個の近隣テンプレートのうちの、対象ブロックの符号化時において、その近隣テンプレートによって示される領域内の全ての再構成画像が生成されている少なくとも１つの近隣テンプレートの中から、１つの近隣テンプレートを選択する。
【００７８】
これにより、符号化時の状況に応じて近隣テンプレートを適応的に選択すること、つまり、近隣テンプレートの位置、大きさおよびサイズなどを適応的に変更することができ、符号化効率を向上することができる。
【００７９】
図１１は、予め定義された基準に基づいて、複数の近隣テンプレートから１つの近隣テンプレートを選択する選択処理の一例を示すフローチャートである。
【００８０】
動きベクトル予測部１３１は、最初のステップＳ２２０１において、候補となる複数の近隣テンプレートのそれぞれを、予め定められた順序に配列する、つまり並べる。例えば、動きベクトル予測部１３１は、最も大きなものから最も小さなものの順に複数の近隣テンプレートを配列する。つまり、候補となる複数の近隣テンプレートのそれぞれに対しては、その近隣テンプレートのサイズが大きいほど、高い優先度が決定される。このとき、候補となる複数の近隣テンプレートのそれぞれは、先頭から後に向かって近隣テンプレートのサイズが小さくなるように並べられ、その並べられた順にしたがって、複数の近隣テンプレートのそれぞれの優先度が決定される。
【００８１】
最後にステップＳ２２０２において、動きベクトル予測部１３１は、その予め定義された順序に配列されている複数の近隣テンプレートから、所定の基準を満たす先頭の近隣テンプレートを選択する。この所定の基準は、再構成されている画素（画像サンプル）で近隣テンプレートの全体が満たされるという基準である。複数の近隣テンプレートの中には、対象ブロックの符号化順序が原因で、動き探索に用いられるために必要とされる時に、全ての画像サンプルが再構成されていないものもある。よって、これらの不完全な近隣テンプレートは、選択処理において選択されない。
【００８２】
このように、図１１のフローチャートによって示される選択処理では、動きベクトル予測部１３１は、Ｎ個の近隣テンプレートのうちの候補となる複数の近隣テンプレートのそれぞれに対して優先度を決定する。さらに、動きベクトル予測部１３１は、候補となる複数の近隣テンプレートのうちの、対象ブロックの符号化時において、その近隣テンプレートによって示される領域内の全ての再構成画像が生成されている少なくとも１つの近隣テンプレートの中から、最も優先度の高い近隣テンプレートを選択する。
【００８３】
これにより、候補となる複数の近隣テンプレートから１つの近隣テンプレートを適切に選択することができる。また、このような近隣テンプレートの選択の手法を、予め定義された基準として、デコーダ側にも実行させることによって、デコーダ側でも、エンコーダで選択された近隣テンプレートを適切に選択することができる。
【００８４】
図１２は、予め定義された基準に基づいて、複数の近隣テンプレートから１つの近隣テンプレートを選択する選択処理の他の例を示すフローチャートである。
【００８５】
動きベクトル予測部１３１は、最初のステップＳ２３０１において、候補となる複数の近隣テンプレートのそれぞれに対して動き探索を実行することで、複数の近隣テンプレートのそれぞれに対する動きベクトルを導出する。次のステップＳ２３０２において、インター予測部１３４は、近隣テンプレートごとに、導出された動きベクトルを用いてその近隣テンプレートに対する動き補償処理を実行する。ステップＳ２３０３において、動きベクトル予測部１３１は、近隣テンプレートごとに、その近隣テンプレートに対する動き補償処理に基づいて歪み値を計算する。この歪み値は、動き補償処理によって生成される画像と、近隣テンプレートの元の画像との差分を示す値である。最後にステップＳ２３０４において、動きベクトル予測部１３１は、候補となる複数の近隣テンプレートのうち歪み値が最も低い近隣テンプレートを選択する。
【００８６】
このように、図１１のフローチャートによって示される選択処理では、動きベクトル予測部１３１は、Ｎ個の近隣テンプレートのうちの候補となる複数の近隣テンプレートのそれぞれに対して歪み値を算出する。その歪み値は、近隣テンプレートに対して導出される動きベクトルによって示される画像と当該近隣テンプレートの画像との間の歪みの程度を示す値である。そして、動きベクトル予測部１３１は、候補となる複数の近隣テンプレートの中から、最も歪み値の小さい近隣テンプレートを選択する。
【００８７】
これにより、図１０に示す選択処理と同様、候補となる複数の近隣テンプレートから１つの近隣テンプレートを適切に選択することができる。また、このような近隣テンプレートの選択の手法を、予め定義された基準として、デコーダ側にも実行させることによって、デコーダ側でも、エンコーダで選択された近隣テンプレートを適切に選択することができる。
【００８８】
図１３は、ＤＭＶＤ有効化フラグの位置の例を示す図である。ＤＭＶＤ有効化フラグがビットストリームにない場合、本実施の形態の残りの処理は、独立して実行される。なお、ＤＭＶＤ有効化フラグは、デコーダにおいて動きベクトルを導出する機能であるＤＭＶＤ機能を有効にするか否かを示すＤＭＶＤパラメータである。
【００８９】
例えば、書込部１３６は、図１３の（ｉ）に示すように、ビデオパラメータセット（ＶＰＳ）にＤＭＶＤ有効化フラグをｖｐｓ＿ＤＭＶＤ＿ｆｌａｇとして書き込んでもよい。このｖｐｓ＿ＤＭＶＤ＿ｆｌａｇがＤＭＶＤ機能の有効を示す場合、ビットストリームＢｓに含まれる画像の全体に対して、ＤＭＶＤを実現するための処理、つまり近隣テンプレートに基づく動き探索が行われる。また、書込部１３６は、図１３の（ｉｉ）に示すように、シーケンスパラメータセット（ＳＰＳ）にＤＭＶＤ有効化フラグをｓｐｓ＿ＤＭＶＤ＿ｆｌａｇとして書き込んでもよい。このｓｐｓ＿ＤＭＶＤ＿ｆｌａｇがＤＭＶＤ機能の有効を示す場合、そのＳＰＳに対応するシーケンスに含まれる画像の全体に対して、ＤＭＶＤを実現するための処理が行われる。また、書込部１３６は、図１３の（ｉｉｉ）に示すように、ピクチャパラメータセット（ＰＰＳ）にＤＭＶＤ有効化フラグをｐｐｓ＿ＤＭＶＤ＿ｆｌａｇとして書き込んでもよい。このｐｐｓ＿ＤＭＶＤ＿ｆｌａｇがＤＭＶＤ機能の有効を示す場合、そのＰＰＳに対応するピクチャに含まれる画像の全体に対して、ＤＭＶＤを実現するための処理が行われる。
【００９０】
また、書込部１３６は、図１３の（ｉｖ）に示すように、スライスヘッダにＤＭＶＤ有効化フラグをｓｌｉｃｅ＿ＤＭＶＤ＿ｆｌａｇとして書き込んでもよい。このｓｌｉｃｅ＿ＤＭＶＤ＿ｆｌａｇがＤＭＶＤ機能の有効を示す場合、そのスライスヘッダに対応するスライスに含まれる画像の全体に対して、ＤＭＶＤを実現するための処理が行われる。また、書込部１３６は、図１３の（ｖ）に示すように、符号化単位にＤＭＶＤ有効化フラグをｂｌｏｃｋ＿ＤＭＶＤ＿ｆｌａｇとして書き込んでもよい。このｂｌｏｃｋ＿ＤＭＶＤ＿ｆｌａｇがＤＭＶＤ機能の有効を示す場合、その符号化単位に含まれる画像の全体に対して、ＤＭＶＤを実現するための処理が行われる。
【００９１】
また、書込部１３６は、候補リストのサイズ（つまり、候補リストに含まれる候補の数）を示すパラメータをＤＭＶＤパラメータとしてビットストリームＢｓに書き込んでもよい。この場合、候補リストに含まれる候補の数が閾値よりも大きい場合には、その候補リストに近隣テンプレートの候補が含まれ、候補の数が閾値以下の場合には、その候補リストに近隣テンプレートの候補は含まれていない。したがって、候補リストのサイズを示すパラメータは、デコーダにおいて動きベクトルを導出する機能であるＤＭＶＤ機能を有効にするか否かを示す。つまり、書込部１３６は、予め定められた閾値よりも大きいか否かによって、ＤＭＶＤ機能を有効にするか否かを示す値を、ＤＭＶＤパラメータとしてビットストリームＢｓに書き込んでもよい。これにより、ＤＭＶＤパラメータを、例えば、候補リストのサイズなどのように、ＤＭＶＤ機能以外の他の機能に用いられる値を示すパラメータと兼用させることができる。したがって、ビットストリームＢｓに含まれる他のパラメータをＤＭＶＤパラメータとして用いることができるため、符号化効率をさらに向上することができる。
【００９２】
図１４は、複数の予め定義された近隣テンプレートから１つの近隣テンプレートを選択することに関するパラメータの位置の例を示す図である。なお、このパラメータは、選択された近隣テンプレートを識別するための識別パラメータである。
【００９３】
例えば、書込部１３６は、図１４の（ｉ）に示すように、符号化単位にパラメータを書き込んでもよい。このパラメータは、例えばブロック（対象ブロック）の幅および高さなどを示す。また、書込部１３６は、図１４の（ｉｉ）に示すように、スライスヘッダにパラメータを書き込んでもよい。このパラメータは、例えばスライスのタイプ（ｓｌｉｃｅ＿ｔｙｐｅ）または候補リストに含まれる動きベクトル予測候補の数の最大値（ｍａｘ＿ｎｕｍ＿ｃａｎｄ）などを示す。
【００９４】
または、書込部１３６は、図１４の（ｉｉｉ）に示すように、ピクチャパラメータセットにパラメータを書き込んでもよい。このパラメータは、例えばピクチャのタイプ（ｐｉｃ＿ｔｙｐｅ）などを示す。また、書込部１３６は、図１４の（ｉｖ）に示すように、シーケンスパラメータセット（ＳＰＳ）にパラメータを書き込んでもよい。このパラメータは、例えば、時間階層符号化における階層識別子（ｔｅｍｐｌｒａｌ＿ｉｄ）またはＮＡＬユニットのタイプ（ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ）などを示す。
【００９５】
図１５は、複数の予め定義された近隣テンプレートを示す１つ以上のパラメータの位置の例を示す図である。例えば、複数の予め定義された近隣テンプレートを示す１つ以上のパラメータは、図１５の（ｉ）および（ｉｉ）に示すように、シーケンスパラメータセット（ＳＰＳ）またはピクチャパラメータセット（ＰＰＳ）の何れかに含まれる。そして、ブロックごとに選択された近隣テンプレートを明示的または暗示的に示す識別パラメータは、そのブロックに含まれて送信される。また、複数の予め定義された近隣テンプレートを示す１つ以上のパラメータは、図１５の（ｉｉｉ）および（ｉｖ）に示すように、スライスヘッダまたは符号化単位の何れかに含まれていてもよい。
【００９６】
また、複数の予め定義された近隣テンプレートのそれぞれは、候補インデックスに基づいて近隣テンプレートが検索できるルックアウトテーブルまたは分類テーブル内に表されてもよい。例えば、最初に選択された近隣テンプレートのサブセットがＴｅｍｐｌａｔｅ＿Ａであれば、動き探索に用いられる近隣テンプレートを、サブセット内の候補となる複数の近隣テンプレートＡ０〜Ａｎから選ぶことができる。
【００９７】
図１６Ａ〜図１６Ｃは、近隣テンプレートを選択するためのパラメータの例示的な位置を示す図である。図１６Ａの（ｉ）〜（ｉｖ）に示すように、１つの近隣テンプレートを選択するための固有識別パラメータ（このパラメータは、サブセットから近隣テンプレートを選択するときにも有効である）は、選択される近隣テンプレートを識別するための識別パラメータであって、特に、その近隣テンプレートに固有のパラメータである。この固有識別パラメータは、テンプレート識別パラメータとして、例えばＳＰＳ、ＰＰＳ、スライスヘッダ、またはスライスデータに含まれてもよい。また、図１６Ｂの（ｉ）〜（ｉｖ）に示すように、サブセットを識別するためのパラメータが、テンプレート識別パラメータとして、例えばＳＰＳ、ＰＰＳ、スライスヘッダ、またはスライスデータに含まれてもよい。さらに、最大候補バッファサイズ（ｍａｘ＿ｃａｎｄ＿ｂｕｆｆｅｒ＿ｓｉｚｅ）が、サブセットから近隣テンプレートを決定するためのテンプレートＩＤとして、スライスヘッダまたはスライスデータに含まれてもよい。また、図１６Ｃの（ｉ）〜（ｉｖ）に示すように、サブセットつまり拡張テンプレートを特定するパラメータ（ｅｎａｂｌｅｄ＿ｅｘｔｅｎｄｅｄ＿ｔｅｍｐｌａｔｅ＿ｓｅｌｅｃｔｉｏｎ）が、例えばＳＰＳ、ＰＰＳ、スライスヘッダ、またはスライスデータに明示的に含まれてもよい。
【００９８】
図１７は、本実施の形態における復号装置の例示的な構造を示すブロック図である。
【００９９】
復号装置２００は、符号化された動画像を示すビットストリームＢｓをブロック単位で復号することによって、復号映像を出力する。図１７に示されるように、復号装置２００は、エントロピー復号部２０１、逆量子化部２０２、逆変換部２０３、ブロックメモリ２０４、ピクチャメモリ（フレームメモリともいう）２０５、イントラ予測部２０６、インター予測部２０７、動きベクトル予測部２１０、制御部２１２、読解部２１３、および加算器２１５を備える。
【０１００】
エントロピー復号部２０１は、ビットストリームＢｓをエントロピー復号し、そのエントロピー復号によって得られた複数の量子化値を逆量子化部２０２に出力する。逆量子化部２０２は、それらの量子化値を逆量子化し、その逆量子化によって得られた複数の周波数係数を逆変換部２０３に出力する。逆変換部２０３は、複数の周波数係数を逆周波数変換することによって、それらの周波数係数を、複数の画素値（サンプル値ともいう）からなる差分画像に変換し、その差分画像を加算器２１５に出力する。加算器２１５は、その差分画像を、インター予測部２０７またはイントラ予測部２０６から出力された予測画像（つまり、復号対象ブロックに対する予測画像）に加算することによって、再構成画像を生成する。そして、加算器２１５は、少なくとも１つの再構成画像からなる復号映像を表示するために出力し、かつ、さらなる予測のため、生成された再構成画像をブロックメモリ２０４またはピクチャメモリ２０５に出力する。
【０１０１】
イントラ予測部２０６は、ブロックメモリ２０４に格納されている少なくとも１つの再構成画像を用いてイントラ予測を行い、そのイントラ予測によって復号対象ブロック（以下、対象ブロックという）に対する予測画像を生成する。インター予測部２０７は、動きベクトル予測部２１０から導出または選択された動きベクトルに基づいて動き補償を行う。つまり、インター予測部２０７は、ピクチャメモリ２０５に格納されている少なくとも１つの再構成画像からなる参照ピクチャ内から、その動きベクトルに基づいて、例えば対象ブロック（または、後述の近隣テンプレート）の画像に最も類似した画像を取得する。これにより、予測画像が生成される。
【０１０２】
読解部２１３は、ビットストリームＢｓから複数のパラメータ２０９を読み解き、読み解かれた複数のパラメータ２０９を制御部２１２に出力する。それらのパラメータ２０９は、複数の予め定義された近隣テンプレートを示すパラメータと、選択された近隣テンプレートを示す識別パラメータとを含む。なお、それらのパラメータ２０９は、拡張テンプレートの利用可否を示す拡張パラメータを含んでもよい。読解部２１３はまた、ビットストリームＢｓに含まれる、例えば候補インデックス、用いられた参照ピクチャを示す参照インデックス、およびデルタ動きベクトルなどを含む予測情報２０８を、動きベクトル予測部２１０に出力してもよい。
【０１０３】
制御部２１２は、読解部２１３からの読み解かれた複数のパラメータ２０９に基づいて、複数の予め定義された近隣テンプレートを識別し、その複数の近隣テンプレートの中から１つの近隣テンプレートを選択する。なお、複数の予め定義された近隣テンプレートの動きベクトルが動きベクトル予測候補として候補リストに含まれている場合には、複数のパラメータ２０９のうち、選択された近隣テンプレートを示すパラメータは、その候補リストの候補インデックスであってもよい。制御部２１２はその選択された近隣テンプレートを示すパラメータを信号２１４に含めて動きベクトル予測部２１０に出力する。
【０１０４】
動きベクトル予測部２１０は、候補リストに用いられる少なくとも１つの動きベクトル予測候補を導出する。動きベクトル予測部２１０は、当該候補リストに含まれる少なくとも１つの動きベクトル予測候補から、予測情報２０８に含まれる候補インデックスに基づいて、１つの動きベクトル予測候補を動きベクトル予測として選択する。このときには、動きベクトル予測部２１０は、選択された動きベクトル予測にデルタ動きベクトルを加算することによって、対象ブロックの動きベクトルを導出する。また、動きベクトル予測部２１０は、制御部２１２によって近隣テンプレートが選択されたときには、その近隣テンプレートに基づく動き探索を行うことによって、対象ブロックの動きベクトルを導出する。そして、動きベクトル予測部２１０は、その導出された動きベクトルを含む信号２１１をインター予測部２０７に出力する。
【０１０５】
このような本実施の形態における復号装置２００は、ビットストリームＢｓをブロックごとに復号する復号装置であって、読解部２１３と、選択部と、導出部と、復号部とを備える。
【０１０６】
読解部２１３は、ＤＭＶＤパラメータとして識別パラメータを前記ビットストリームから読み解く。選択部は、制御部２１２からなり、対象ブロックに対して予め定義されたＮ個（Ｎは２以上の整数）の近隣テンプレートの中から、１つの近隣テンプレートを選択することを、読み解かれたＤＭＶＤパラメータに基づいて実行する。
【０１０７】
導出部は、動きベクトル予測部２１０からなり、選択された近隣テンプレートによって示される領域における再構成画像と、対象ブロックを含むピクチャと異なる参照ピクチャとを用いて動きベクトルを導出する。復号部は、インター予測部２０７と、エントロピー復号部２０１、逆量子化部２０２、逆変換部２０３、ピクチャメモリ２０５、および加算器２１５のうちの少なくとも１つとからなる。つまり、復号部は、導出された動きベクトルを用いて対象ブロックに対して動き補償を行うことによって、対象ブロックを復号する。
【０１０８】
これにより、ＤＭＶＤパラメータが、ＤＭＶＤ機能を有効にすることを示していれば、対象ブロックに対して予め定義されたＮ個の近隣テンプレートの中から１つの近隣テンプレートが選択される。したがって、対象ブロックに対して適切な近隣テンプレートを選択することができ、符号化効率の向上が図られたビットストリームを適切に復号することができる。なお、読解部２１３は、予め定められた閾値よりも大きいか否かによって、ＤＭＶＤ機能を有効にするか否かを示す値を、ＤＭＶＤパラメータとして読み解いてもよい。これにより、ＤＭＶＤパラメータを、例えば、候補リストのサイズなどのように、ＤＭＶＤ機能以外の他の機能に用いられる値を示すパラメータと兼用させることができる。したがって、ビットストリームに含まれる他のパラメータをＤＭＶＤパラメータとして用いることができるため、符号化効率のさらなる向上が図られたビットストリームを適切に復号することができる。
【０１０９】
図１８〜図２０を参照し、本発実施の形態による、近隣テンプレートを用いた動き探索処理を実行する復号方法を説明する。
【０１１０】
図１８は、本実施の形態における復号処理の一例を示すフローチャートである。なお、このフローチャートによって示される復号処理は、図８のフローチャートによって示される符号化処理に対応する処理である。
【０１１１】
復号装置２００の読解部２１３は、最初のステップＳ２００２として、対象ブロックに対する識別パラメータをビットストリームＢｓから読み解く。ステップＳ２００３において、制御部２１２は、対象ブロックに対して予め定義された複数の近隣テンプレートを識別する。その後、ステップＳ２００４において、制御部２１２は、読解部２１３で読み解かれた識別パラメータに基づいて、複数の予め定義された近隣テンプレートの中から１つの近隣テンプレートを選択する。ステップＳ２００５において、動きベクトル予測部２１０は、動き探索処理の間に、選択された近隣テンプレートを用いて動きベクトルを導出する。最後のステップＳ２００６において、インター予測部２０７は、導出された動きベクトルを用いて動き補償を実行する。この動き補償によって、対象ブロックが復号される。
【０１１２】
なお、ステップＳ２００５において、対象ブロックが、ＢピクチャまたはＢスライスに含まれるブロックとして２つの参照ピクチャリストに基づいて復号される場合には、選択された近隣テンプレートから複数の動きベクトルが導出される。また、対象ブロックが、ＢピクチャおよびＢスライスの何れにも含まれていない場合においても、選択された近隣テンプレートから動きベクトルの候補として複数の動きベクトルが導出されてもよい。
【０１１３】
このように、図１８のフローチャートによって示される復号処理では、識別パラメータがビットストリームＢｓから読み解かれるため、対象ブロックの符号化に用いられた近隣テンプレートを容易に選択して用いることができる。したがって、対象ブロックを適切に復号することができる。なお、ステップＳ２００４では、識別パラメータに基づいて１つの近隣テンプレートを選択したが、例えば図１１または図１２のフローチャートによって示される予め定義された基準に基づいて、１つの近隣テンプレートを選択してもよい。
【０１１４】
図１９は、本実施の形態における復号処理の他の例を示すフローチャートである。なお、このフローチャートによって示される復号処理は、図９のフローチャートによって示される符号化処理に対応する処理である。
【０１１５】
復号装置２００の読解部２１３は、最初のステップＳ２１０１として、拡張テンプレートの利用可否を示す拡張パラメータと識別パラメータとを含む複数のパラメータを、ビットストリームＢｓから読み解く。次のステップＳ２１０２において、制御部２１２は、読み解かれた拡張パラメータが、予め定義された値を有するか否かを判定する。読み解かれた拡張パラメータが、予め定義された値を有する場合（ステップＳ２１０２のＹｅｓ）、ステップＳ２１０４において、制御部２１２は、その読み解かれた拡張パラメータに基づいて、予め定義された複数の近隣テンプレートの中から、候補テンプレートのサブセットを識別する。その後、ステップＳ２１０５において、制御部２１２は、読み解かれた識別パラメータに基づいて、識別されたサブセットに含まれる複数の候補テンプレートの中から１つの候補テンプレート（つまり近隣テンプレート）を選択する。
【０１１６】
一方、ステップＳ２１０２において、読み解かれた拡張パラメータが予め定義された値を有しない場合（ステップＳ２１０２のＮｏ）、ステップＳ２１０３において、制御部２１２は、読み解かれた識別パラメータに基づいて、複数の予め定義された近隣テンプレートから、１つの近隣テンプレートを選択する。なお、このとき、制御部２１２は、例えば図１１または図１２のフローチャートによって示される予め定義された基準に基づいて、１つの近隣テンプレートを選択してもよい。
【０１１７】
ステップＳ２１０６において、動きベクトル予測部２１０は、動き探索処理の間に、選択された近隣テンプレートを用いて、対象ブロックに対する動きベクトルを導出する。最後のステップＳ２１０７において、インター予測部２０７は、導出された動きベクトルを用いて、動き補償を実行する。
【０１１８】
このように、図１９のフローチャートによって示される復号処理では、復号装置２００は、さらに、それぞれＮ個未満の複数の近隣テンプレートからなる複数のサブセットのうちの何れのサブゼットを用いるか、何れのサブセットも用いないかを、値として示す拡張パラメータを、ビットストリームＢｓから読み解く。そして、復号装置２００は、記近隣テンプレートの選択では、拡張パラメータが予め定められた値を示す場合には、複数のサブセットの中から、その拡張パラメータに応じたサブセットを特定する。さらに、復号装置２００は、そのＮ個の近隣テンプレートのうちの、特定された前記サブセットに含まれるＭ個（Ｍは２以上Ｎ未満の整数）の近隣テンプレートの中から、１つの近隣テンプレートを選択する。一方、復号装置２００は、拡張パラメータが予め定められた値を示さない場合には、Ｎ個の近隣テンプレートの中から、１つの近隣テンプレートを選択する。
【０１１９】
これにより、サブセットが用いられる場合には、Ｎ個の近隣テンプレートよりも少ないＭ個の近隣テンプレートの中から１つの近隣テンプレートが選択されるため、つまり、選択される近隣テンプレートの候補となる複数の近隣テンプレートの数が減るため、近隣テンプレートの選択の処理負担を軽減することができる。
【０１２０】
図２０は、本実施の形態における復号処理のさらに他の例を示すフローチャートである。なお、このフローチャートによって示される復号処理は、図１０のフローチャートによって示される符号化処理に対応する処理である。
【０１２１】
復号装置２００の読解部２１３は、最初のステップＳ２４０１として、デコーダにおける動き探索処理に適応的テンプレート形を用いるか否かを示すパラメータを（上述のＤＭＶＤパラメータとして）ビットストリームＢｓのヘッダから読み解く。次のステップＳ２４０２において、制御部２１２は、読み解かれたパラメータが予め定義された値を有するか否かを判定する。読み解かれたパラメータが予め定義された値を有する場合は（ステップＳ２４０２のＹｅｓ）、ステップＳ２４０３において、動きベクトル予測部２１０は、適応的テンプレート形を用いて動き探索処理を実行することで、動きベクトルを導出する。
【０１２２】
このように、図２０のフローチャートによって示される復号処理では、読解部２１３は、近隣テンプレートを適応的に変更するか否かを値として示すパラメータを、ＤＭＶＤパラメータとして読み解く。そして、制御部２１２は、そのＤＭＶＤパラメータが予め定められた値を示す場合には、対象ブロックの復号時において、その対象ブロックの周辺に生成されている再構成画像の領域に応じて、Ｎ個の近隣テンプレートの中から１つの近隣テンプレートを選択する。より具体的には、制御部２１２は、Ｎ個の近隣テンプレートのうちの、対象ブロックの復号時において、その近隣テンプレートによって示される領域内の全ての再構成画像が生成されている少なくとも１つの近隣テンプレートの中から、１つの近隣テンプレートを選択する。
【０１２３】
これにより、復号時の状況に応じて近隣テンプレートを適応的に選択すること、つまり、近隣テンプレートの大きさおよびサイズなどを適応的に変更することができ、符号化効率の向上が図られたビットストリームＢｓを適切に復号することができる。
【０１２４】
また、図１８のステップＳ２００４および図１９のステップＳ２１０５では、制御部２１２は、例えば図１１または図１２のフローチャートによって示される予め定義された基準に基づいて、１つの近隣テンプレートを選択してもよい。これにより、候補となる複数の近隣テンプレートから１つの近隣テンプレートを適切に選択することができる。また、このような近隣テンプレートの選択の手法が、予め定義された基準として、エンコーダ側でも実行されている場合には、エンコーダで選択された近隣テンプレートを適切に選択することができる。
【０１２５】
上述の復号処理において、対象ブロックに対して想定されるいくつかの近隣テンプレートは、図２〜７のそれぞれによって例示されている。図示された近隣テンプレートは全て、デコーダ側の動きベクトル導出（ＤＭＶＤ）処理の機能性に対応するため、これらは本実施の形態においてＤＭＶＤテンプレートとして表される。しかしながら、ＤＭＶＤテンプレートは、図２〜図７に図示された例に限定されない。
【０１２６】
図２１Ａ〜図２１Ｆは、ビットストリームＢｓから読み解かれたパラメータに基づいて、複数の近隣テンプレートからＤＭＶＤテンプレートを選択する処理の例を示すフローチャートである。
【０１２７】
例えば、復号装置２００は、図２１Ａに示すように、対象ブロックに用いられる近隣テンプレートを決定するために、ビットストリームＢｓから複数のパラメータを読み解く（ステップＳ２５０１）。次に、復号装置２００は、複数の読み解かれたパラメータのうち、近隣テンプレートを識別するための識別パラメータを決定する（ステップＳ２５０２）。次に、復号装置２００は、例えば、符号化装置１００において構成される予め定義されたテンプレートリスト、ルックアプトテーブルまたは候補リストにしたがって、複数の予め定義された近隣テンプレートを識別する（ステップＳ２５０３）。そして、復号装置２００は、識別された複数の近隣テンプレートの中から、１つの近隣テンプレート（ＤＭＶＤテンプレート）を、ステップＳ２５０２で決定された識別パラメータに基づいて選択する（ステップＳ２５０４）。
【０１２８】
また、復号装置２００は、図２１Ｂに示すように、ステップＳ２６０１〜Ｓ２６０４の処理を行ってもよい。つまり、復号装置２００は、ステップＳ２６０２において、識別パラメータの代わりに、対象ブロックのサイズを示すパラメータを決定する。そして、復号装置２００は、ステップＳ２６０４において、識別された複数の近隣テンプレートの中から、１つの近隣テンプレート（ＤＭＶＤテンプレート）を、決定されたサイズを示すパラメータに基づいて選択する。
【０１２９】
あるいは、復号装置２００は、図２１Ｃに示すように、ステップＳ２７０１〜Ｓ２７０４の処理を行ってもよい。つまり、復号装置２００は、ステップＳ２７０２において、識別パラメータの代わりに、対象ブロックのピクチャタイプまたはスライスタイプを示すパラメータを決定する。そして、復号装置２００は、ステップＳ２７０４において、識別された複数の近隣テンプレートの中から、１つの近隣テンプレート（ＤＭＶＤテンプレート）を、決定されたピクチャタイプまたはスライスタイプを示すパラメータに基づいて選択する。
【０１３０】
また、復号装置２００は、図２１Ｄに示すように、ステップＳ２８０１〜Ｓ２８０４の処理を行ってもよい。つまり、復号装置２００は、ステップＳ２８０２において、識別パラメータの代わりに、対象ブロックを含む対象ピクチャの時間層を示すパラメータ（テンポラルＩＤ）を決定する。そして、復号装置２００は、ステップＳ２８０４において、識別された複数の近隣テンプレートの中から、１つの近隣テンプレート（ＤＭＶＤテンプレート）を、決定された時間層を示すパラメータに基づいて選択する。
【０１３１】
あるいは、復号装置２００は、図２１Ｅに示すように、ステップＳ２９０１〜Ｓ２９０４の処理を行ってもよい。つまり、復号装置２００は、ステップＳ２９０２において、識別パラメータの代わりに、対象ブロックを含む対象シーケンスの符号化構造を示すパラメータを決定する。そして、復号装置２００は、ステップＳ２９０４において、識別された複数の近隣テンプレートの中から、１つの近隣テンプレート（ＤＭＶＤテンプレート）を、決定された符号化構造を示すパラメータに基づいて選択する。
【０１３２】
また、復号装置２００は、図２１Ｆに示すように、ステップＳ３００１〜Ｓ３００４の処理を行ってもよい。つまり、復号装置２００は、ステップＳ３００２において、識別パラメータの代わりに、ＤＭＶＤテンプレートの利用可否を示すパラメータ（ＤＭＶＤパラメータ）を決定する。そして、復号装置２００は、ステップＳ３００４において、識別された複数の近隣テンプレートの中から、１つの近隣テンプレート（ＤＭＶＤテンプレート）を、決定された、ＤＭＶＤテンプレートの利用可否を示すパラメータに基づいて選択する。
【０１３３】
なお、図２１Ａ〜図２１Ｆに示すフローチャートは、いくつか想定されるパラメータに基づいてＤＭＶＤテンプレートを選択するための例示的な処理として示される。これらの例示的なパラメータに限らず、他のパラメータに基づいてＤＭＶＤパラメータを選択してもよい。
【０１３４】
また、図２１Ａ〜図２１Ｆに示すフローチャートでは、選択される近隣テンプレート、つまりＤＭＶＤテンプレートが、暗示的なパラメータに基づいて選択されている。ここで、その暗示的なパラメータを、デコーダにおいて動きベクトルを導出する機能であるＤＭＶＤ機能を有効にするか否かを示すＤＭＶＤパラメータとして用いてもよい。例えば、その暗示的なパラメータは、対象ブロックのサイズを示すパラメータ、スライスの種類を示すパラメータ、または、時間層を示すパラメータ（テンポラルＩＤ）である。
【０１３５】
つまり、ビットストリーム内のＤＭＶＤパラメータは、予め定義された決定方式に基づいて、ＤＭＶＤ機能を有効にするか否かを決定し得る暗示的なパラメータである。例えば、その暗示的なパラメータは、スライスの種類を示すパラメータである。この場合、復号装置２００は、そのパラメータが特定の種類のスライスを示す場合に、ＤＭＶＤ機能を有効にすると決定する。または、その暗示的なパラメータは、対象ブロックのサイズを示すパラメータである。この場合、復号装置２００は、対象ブロックのサイズと予め定義されたサイズとを比較することによって、ＤＭＶＤ機能を有効にするか否かを決定する。または、その暗示的なパラメータは、時間階層符号化におけるピクチャのテンポラルＩＤである。この場合、復号装置２００は、テンポラルＩＤと予め定義された閾値とを比較することによって、ＤＭＶＤ機能を有効にするか否かを決定する。
【０１３６】
以上、本発明に係る符号化方法および復号方法について、実施の形態に基づいて説明したが、本発明は、この実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、本発明の範囲内に含まれてもよい。
【０１３７】
例えば、図２２Ａおよび図２２Ｂに示す符号化方法および復号方法も本発明に含まれる。
【０１３８】
図２２Ａは、本発明の一態様に係る符号化方法の一例を示すフローチャートである。
【０１３９】
この符号化方法は、動画像をブロックごとに符号化する符号化方法であって、対象ブロックに対して予め定義された、前記対象ブロックの空間的に近隣にある互いに異なる領域を示すＮ個（Ｎは２以上の整数）の近隣テンプレートの中から、１つの近隣テンプレートを選択するステップＳ１１と、選択された前記近隣テンプレートによって示される領域における再構成画像と、前記対象ブロックを含むピクチャと異なる参照ピクチャとを用いて動きベクトルを導出するステップＳ１２と、導出された前記動きベクトルを用いて前記対象ブロックに対して動き補償を行うことによって、前記対象ブロックを符号化するステップＳ１３と、デコーダにおいて動きベクトルを導出する機能であるＤＭＶＤ機能を有効にするか否かを示すＤＭＶＤパラメータを、符号化された前記対象ブロックを含むビットストリームに書き込むステップＳ１４とを含む。
【０１４０】
これにより、上記実施の形態と同様の効果を奏することができる。つまり、符号化効率の向上を図ることができる。
【０１４１】
図２２Ｂは、本発明の一態様に係る復号方法の一例を示すフローチャートである。
【０１４２】
この復号方法は、符号化された動画像を示すビットストリームをブロックごとに復号する復号方法であって、デコーダにおいて動きベクトルを導出する機能であるＤＭＶＤ機能を有効にするか否かを示すＤＭＶＤパラメータを、前記ビットストリームから読み解くステップＳ２１と、対象ブロックに対して予め定義された、前記対象ブロックの空間的に近隣にある互いに異なる領域を示すＮ個（Ｎは２以上の整数）の近隣テンプレートの中から、１つの近隣テンプレートを選択することを、読み解かれた前記ＤＭＶＤパラメータに基づいて実行するステップＳ２２と、選択された前記近隣テンプレートによって示される領域における再構成画像と、前記対象ブロックを含むピクチャと異なる参照ピクチャとを用いて動きベクトルを導出するステップＳ２３と、導出された前記動きベクトルを用いて前記対象ブロックに対して動き補償を行うことによって、前記対象ブロックを復号するステップＳ２４とを含む。
【０１４３】
これにより、上記実施の形態と同様の効果を奏することができる。つまり、符号化効率の向上が図られたビットストリームを適切に復号することができる。
【０１４４】
なお、上記実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、ＣＰＵまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。ここで、上記実施の形態の符号化装置および復号化装置などを実現するソフトウェアは、コンピュータに、図２２Ａまたは図２２Ｂによって示される各ステップを実行させる。
【０１４５】
（実施の形態２）
上記各実施の形態で示した動画像符号化方法（画像符号化方法）または動画像復号化方法（画像復号方法）の構成を実現するためのプログラムを記憶メディアに記録することにより、上記各実施の形態で示した処理を独立したコンピュータシステムにおいて簡単に実施することが可能となる。記憶メディアは、磁気ディスク、光ディスク、光磁気ディスク、ＩＣカード、半導体メモリ等、プログラムを記録できるものであればよい。
【０１４６】
さらにここで、上記各実施の形態で示した動画像符号化方法（画像符号化方法）や動画像復号化方法（画像復号方法）の応用例とそれを用いたシステムを説明する。当該システムは、画像符号化方法を用いた画像符号化装置、及び画像復号方法を用いた画像復号装置からなる画像符号化復号装置を有することを特徴とする。システムにおける他の構成について、場合に応じて適切に変更することができる。
【０１４７】
図２３は、コンテンツ配信サービスを実現するコンテンツ供給システムｅｘ１００の全体構成を示す図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ固定無線局である基地局ｅｘ１０６、ｅｘ１０７、ｅｘ１０８、ｅｘ１０９、ｅｘ１１０が設置されている。
【０１４８】
このコンテンツ供給システムｅｘ１００は、インターネットｅｘ１０１にインターネットサービスプロバイダｅｘ１０２および電話網ｅｘ１０４、および基地局ｅｘ１０６からｅｘ１１０を介して、コンピュータｅｘ１１１、ＰＤＡ（Ｐｅｒｓｏｎａｌ  Ｄｉｇｉｔａｌ  Ａｓｓｉｓｔａｎｔ）ｅｘ１１２、カメラｅｘ１１３、携帯電話ｅｘ１１４、ゲーム機ｅｘ１１５などの各機器が接続される。
【０１４９】
しかし、コンテンツ供給システムｅｘ１００は図２３のような構成に限定されず、いずれかの要素を組合せて接続するようにしてもよい。また、固定無線局である基地局ｅｘ１０６からｅｘ１１０を介さずに、各機器が電話網ｅｘ１０４に直接接続されてもよい。また、各機器が近距離無線等を介して直接相互に接続されていてもよい。
【０１５０】
カメラｅｘ１１３はデジタルビデオカメラ等の動画撮影が可能な機器であり、カメラｅｘ１１６はデジタルカメラ等の静止画撮影、動画撮影が可能な機器である。また、携帯電話ｅｘ１１４は、ＧＳＭ（登録商標）（Ｇｌｏｂａｌ  Ｓｙｓｔｅｍ  ｆｏｒ  Ｍｏｂｉｌｅ  Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ）方式、ＣＤＭＡ（Ｃｏｄｅ  Ｄｉｖｉｓｉｏｎ  Ｍｕｌｔｉｐｌｅ  Ａｃｃｅｓｓ）方式、Ｗ−ＣＤＭＡ（Ｗｉｄｅｂａｎｄ−Ｃｏｄｅ  Ｄｉｖｉｓｉｏｎ  Ｍｕｌｔｉｐｌｅ  Ａｃｃｅｓｓ）方式、若しくはＬＴＥ（Ｌｏｎｇ  Ｔｅｒｍ  Ｅｖｏｌｕｔｉｏｎ）方式、ＨＳＰＡ（Ｈｉｇｈ  Ｓｐｅｅｄ  Ｐａｃｋｅｔ  Ａｃｃｅｓｓ）の携帯電話機、またはＰＨＳ（Ｐｅｒｓｏｎａｌ  Ｈａｎｄｙｐｈｏｎｅ  Ｓｙｓｔｅｍ）等であり、いずれでも構わない。
【０１５１】
コンテンツ供給システムｅｘ１００では、カメラｅｘ１１３等が基地局ｅｘ１０９、電話網ｅｘ１０４を通じてストリーミングサーバｅｘ１０３に接続されることで、ライブ配信等が可能になる。ライブ配信では、ユーザがカメラｅｘ１１３を用いて撮影するコンテンツ（例えば、音楽ライブの映像等）に対して上記各実施の形態で説明したように符号化処理を行い（即ち、本発明の一態様に係る画像符号化装置として機能する）、ストリーミングサーバｅｘ１０３に送信する。一方、ストリーミングサーバｅｘ１０３は要求のあったクライアントに対して送信されたコンテンツデータをストリーム配信する。クライアントとしては、上記符号化処理されたデータを復号化することが可能な、コンピュータｅｘ１１１、ＰＤＡｅｘ１１２、カメラｅｘ１１３、携帯電話ｅｘ１１４、ゲーム機ｅｘ１１５等がある。配信されたデータを受信した各機器では、受信したデータを復号化処理して再生する（即ち、本発明の一態様に係る画像復号装置として機能する）。
【０１５２】
なお、撮影したデータの符号化処理はカメラｅｘ１１３で行っても、データの送信処理をするストリーミングサーバｅｘ１０３で行ってもよいし、互いに分担して行ってもよい。同様に配信されたデータの復号化処理はクライアントで行っても、ストリーミングサーバｅｘ１０３で行ってもよいし、互いに分担して行ってもよい。また、カメラｅｘ１１３に限らず、カメラｅｘ１１６で撮影した静止画像および／または動画像データを、コンピュータｅｘ１１１を介してストリーミングサーバｅｘ１０３に送信してもよい。この場合の符号化処理はカメラｅｘ１１６、コンピュータｅｘ１１１、ストリーミングサーバｅｘ１０３のいずれで行ってもよいし、互いに分担して行ってもよい。
【０１５３】
また、これら符号化・復号化処理は、一般的にコンピュータｅｘ１１１や各機器が有するＬＳＩｅｘ５００において処理する。ＬＳＩｅｘ５００は、ワンチップであっても複数チップからなる構成であってもよい。なお、動画像符号化・復号化用のソフトウェアをコンピュータｅｘ１１１等で読み取り可能な何らかの記録メディア（ＣＤ−ＲＯＭ、フレキシブルディスク、ハードディスクなど）に組み込み、そのソフトウェアを用いて符号化・復号化処理を行ってもよい。さらに、携帯電話ｅｘ１１４がカメラ付きである場合には、そのカメラで取得した動画データを送信してもよい。このときの動画データは携帯電話ｅｘ１１４が有するＬＳＩｅｘ５００で符号化処理されたデータである。
【０１５４】
また、ストリーミングサーバｅｘ１０３は複数のサーバや複数のコンピュータであって、データを分散して処理したり記録したり配信するものであってもよい。
【０１５５】
以上のようにして、コンテンツ供給システムｅｘ１００では、符号化されたデータをクライアントが受信して再生することができる。このようにコンテンツ供給システムｅｘ１００では、ユーザが送信した情報をリアルタイムでクライアントが受信して復号化し、再生することができ、特別な権利や設備を有さないユーザでも個人放送を実現できる。
【０１５６】
なお、コンテンツ供給システムｅｘ１００の例に限らず、図２４に示すように、デジタル放送用システムｅｘ２００にも、上記各実施の形態の少なくとも動画像符号化装置（画像符号化装置）または動画像復号化装置（画像復号装置）のいずれかを組み込むことができる。具体的には、放送局ｅｘ２０１では映像データに音楽データなどが多重化された多重化データが電波を介して通信または衛星ｅｘ２０２に伝送される。この映像データは上記各実施の形態で説明した動画像符号化方法により符号化されたデータである（即ち、本発明の一態様に係る画像符号化装置によって符号化されたデータである）。これを受けた放送衛星ｅｘ２０２は、放送用の電波を発信し、この電波を衛星放送の受信が可能な家庭のアンテナｅｘ２０４が受信する。受信した多重化データを、テレビ（受信機）ｅｘ３００またはセットトップボックス（ＳＴＢ）ｅｘ２１７等の装置が復号化して再生する（即ち、本発明の一態様に係る画像復号装置として機能する）。
【０１５７】
また、ＤＶＤ、ＢＤ等の記録メディアｅｘ２１５に記録した多重化データを読み取り復号化する、または記録メディアｅｘ２１５に映像信号を符号化し、さらに場合によっては音楽信号と多重化して書き込むリーダ／レコーダｅｘ２１８にも上記各実施の形態で示した動画像復号化装置または動画像符号化装置を実装することが可能である。この場合、再生された映像信号はモニタｅｘ２１９に表示され、多重化データが記録された記録メディアｅｘ２１５により他の装置やシステムにおいて映像信号を再生することができる。また、ケーブルテレビ用のケーブルｅｘ２０３または衛星／地上波放送のアンテナｅｘ２０４に接続されたセットトップボックスｅｘ２１７内に動画像復号化装置を実装し、これをテレビのモニタｅｘ２１９で表示してもよい。このときセットトップボックスではなく、テレビ内に動画像復号化装置を組み込んでもよい。
【０１５８】
図２５は、上記各実施の形態で説明した動画像復号化方法および動画像符号化方法を用いたテレビ（受信機）ｅｘ３００を示す図である。テレビｅｘ３００は、上記放送を受信するアンテナｅｘ２０４またはケーブルｅｘ２０３等を介して映像データに音声データが多重化された多重化データを取得、または出力するチューナｅｘ３０１と、受信した多重化データを復調する、または外部に送信する多重化データに変調する変調／復調部ｅｘ３０２と、復調した多重化データを映像データと、音声データとに分離する、または信号処理部ｅｘ３０６で符号化された映像データ、音声データを多重化する多重／分離部ｅｘ３０３を備える。
【０１５９】
また、テレビｅｘ３００は、音声データ、映像データそれぞれを復号化する、またはそれぞれの情報を符号化する音声信号処理部ｅｘ３０４、映像信号処理部ｅｘ３０５（本発明の一態様に係る画像符号化装置または画像復号装置として機能する）を有する信号処理部ｅｘ３０６と、復号化した音声信号を出力するスピーカｅｘ３０７、復号化した映像信号を表示するディスプレイ等の表示部ｅｘ３０８を有する出力部ｅｘ３０９とを有する。さらに、テレビｅｘ３００は、ユーザ操作の入力を受け付ける操作入力部ｅｘ３１２等を有するインタフェース部ｅｘ３１７を有する。さらに、テレビｅｘ３００は、各部を統括的に制御する制御部ｅｘ３１０、各部に電力を供給する電源回路部ｅｘ３１１を有する。インタフェース部ｅｘ３１７は、操作入力部ｅｘ３１２以外に、リーダ／レコーダｅｘ２１８等の外部機器と接続されるブリッジｅｘ３１３、ＳＤカード等の記録メディアｅｘ２１６を装着可能とするためのスロット部ｅｘ３１４、ハードディスク等の外部記録メディアと接続するためのドライバｅｘ３１５、電話網と接続するモデムｅｘ３１６等を有していてもよい。なお記録メディアｅｘ２１６は、格納する不揮発性／揮発性の半導体メモリ素子により電気的に情報の記録を可能としたものである。テレビｅｘ３００の各部は同期バスを介して互いに接続されている。
【０１６０】
まず、テレビｅｘ３００がアンテナｅｘ２０４等により外部から取得した多重化データを復号化し、再生する構成について説明する。テレビｅｘ３００は、リモートコントローラｅｘ２２０等からのユーザ操作を受け、ＣＰＵ等を有する制御部ｅｘ３１０の制御に基づいて、変調／復調部ｅｘ３０２で復調した多重化データを多重／分離部ｅｘ３０３で分離する。さらにテレビｅｘ３００は、分離した音声データを音声信号処理部ｅｘ３０４で復号化し、分離した映像データを映像信号処理部ｅｘ３０５で上記各実施の形態で説明した復号化方法を用いて復号化する。復号化した音声信号、映像信号は、それぞれ出力部ｅｘ３０９から外部に向けて出力される。出力する際には、音声信号と映像信号が同期して再生するよう、バッファｅｘ３１８、ｅｘ３１９等に一旦これらの信号を蓄積するとよい。また、テレビｅｘ３００は、放送等からではなく、磁気／光ディスク、ＳＤカード等の記録メディアｅｘ２１５、ｅｘ２１６から多重化データを読み出してもよい。次に、テレビｅｘ３００が音声信号や映像信号を符号化し、外部に送信または記録メディア等に書き込む構成について説明する。テレビｅｘ３００は、リモートコントローラｅｘ２２０等からのユーザ操作を受け、制御部ｅｘ３１０の制御に基づいて、音声信号処理部ｅｘ３０４で音声信号を符号化し、映像信号処理部ｅｘ３０５で映像信号を上記各実施の形態で説明した符号化方法を用いて符号化する。符号化した音声信号、映像信号は多重／分離部ｅｘ３０３で多重化され外部に出力される。多重化する際には、音声信号と映像信号が同期するように、バッファｅｘ３２０、ｅｘ３２１等に一旦これらの信号を蓄積するとよい。なお、バッファｅｘ３１８、ｅｘ３１９、ｅｘ３２０、ｅｘ３２１は図示しているように複数備えていてもよいし、１つ以上のバッファを共有する構成であってもよい。さらに、図示している以外に、例えば変調／復調部ｅｘ３０２や多重／分離部ｅｘ３０３の間等でもシステムのオーバフロー、アンダーフローを避ける緩衝材としてバッファにデータを蓄積することとしてもよい。
【０１６１】
また、テレビｅｘ３００は、放送等や記録メディア等から音声データ、映像データを取得する以外に、マイクやカメラのＡＶ入力を受け付ける構成を備え、それらから取得したデータに対して符号化処理を行ってもよい。なお、ここではテレビｅｘ３００は上記の符号化処理、多重化、および外部出力ができる構成として説明したが、これらの処理を行うことはできず、上記受信、復号化処理、外部出力のみが可能な構成であってもよい。
【０１６２】
また、リーダ／レコーダｅｘ２１８で記録メディアから多重化データを読み出す、または書き込む場合には、上記復号化処理または符号化処理はテレビｅｘ３００、リーダ／レコーダｅｘ２１８のいずれで行ってもよいし、テレビｅｘ３００とリーダ／レコーダｅｘ２１８が互いに分担して行ってもよい。
【０１６３】
一例として、光ディスクからデータの読み込みまたは書き込みをする場合の情報再生／記録部ｅｘ４００の構成を図２６に示す。情報再生／記録部ｅｘ４００は、以下に説明する要素ｅｘ４０１、ｅｘ４０２、ｅｘ４０３、ｅｘ４０４、ｅｘ４０５、ｅｘ４０６、ｅｘ４０７を備える。光ヘッドｅｘ４０１は、光ディスクである記録メディアｅｘ２１５の記録面にレーザスポットを照射して情報を書き込み、記録メディアｅｘ２１５の記録面からの反射光を検出して情報を読み込む。変調記録部ｅｘ４０２は、光ヘッドｅｘ４０１に内蔵された半導体レーザを電気的に駆動し記録データに応じてレーザ光の変調を行う。再生復調部ｅｘ４０３は、光ヘッドｅｘ４０１に内蔵されたフォトディテクタにより記録面からの反射光を電気的に検出した再生信号を増幅し、記録メディアｅｘ２１５に記録された信号成分を分離して復調し、必要な情報を再生する。バッファｅｘ４０４は、記録メディアｅｘ２１５に記録するための情報および記録メディアｅｘ２１５から再生した情報を一時的に保持する。ディスクモータｅｘ４０５は記録メディアｅｘ２１５を回転させる。サーボ制御部ｅｘ４０６は、ディスクモータｅｘ４０５の回転駆動を制御しながら光ヘッドｅｘ４０１を所定の情報トラックに移動させ、レーザスポットの追従処理を行う。システム制御部ｅｘ４０７は、情報再生／記録部ｅｘ４００全体の制御を行う。上記の読み出しや書き込みの処理はシステム制御部ｅｘ４０７が、バッファｅｘ４０４に保持された各種情報を利用し、また必要に応じて新たな情報の生成・追加を行うと共に、変調記録部ｅｘ４０２、再生復調部ｅｘ４０３、サーボ制御部ｅｘ４０６を協調動作させながら、光ヘッドｅｘ４０１を通して、情報の記録再生を行うことにより実現される。システム制御部ｅｘ４０７は例えばマイクロプロセッサで構成され、読み出し書き込みのプログラムを実行することでそれらの処理を実行する。
【０１６４】
以上では、光ヘッドｅｘ４０１はレーザスポットを照射するとして説明したが、近接場光を用いてより高密度な記録を行う構成であってもよい。
【０１６５】
図２７に光ディスクである記録メディアｅｘ２１５の模式図を示す。記録メディアｅｘ２１５の記録面には案内溝（グルーブ）がスパイラル状に形成され、情報トラックｅｘ２３０には、予めグルーブの形状の変化によってディスク上の絶対位置を示す番地情報が記録されている。この番地情報はデータを記録する単位である記録ブロックｅｘ２３１の位置を特定するための情報を含み、記録や再生を行う装置において情報トラックｅｘ２３０を再生し番地情報を読み取ることで記録ブロックを特定することができる。また、記録メディアｅｘ２１５は、データ記録領域ｅｘ２３３、内周領域ｅｘ２３２、外周領域ｅｘ２３４を含んでいる。ユーザデータを記録するために用いる領域がデータ記録領域ｅｘ２３３であり、データ記録領域ｅｘ２３３より内周または外周に配置されている内周領域ｅｘ２３２と外周領域ｅｘ２３４は、ユーザデータの記録以外の特定用途に用いられる。情報再生／記録部ｅｘ４００は、このような記録メディアｅｘ２１５のデータ記録領域ｅｘ２３３に対して、符号化された音声データ、映像データまたはそれらのデータを多重化した多重化データの読み書きを行う。
【０１６６】
以上では、１層のＤＶＤ、ＢＤ等の光ディスクを例に挙げ説明したが、これらに限ったものではなく、多層構造であって表面以外にも記録可能な光ディスクであってもよい。また、ディスクの同じ場所にさまざまな異なる波長の色の光を用いて情報を記録したり、さまざまな角度から異なる情報の層を記録したりなど、多次元的な記録／再生を行う構造の光ディスクであってもよい。
【０１６７】
また、デジタル放送用システムｅｘ２００において、アンテナｅｘ２０５を有する車ｅｘ２１０で衛星ｅｘ２０２等からデータを受信し、車ｅｘ２１０が有するカーナビゲーションｅｘ２１１等の表示装置に動画を再生することも可能である。なお、カーナビゲーションｅｘ２１１の構成は例えば図２５に示す構成のうち、ＧＰＳ受信部を加えた構成が考えられ、同様なことがコンピュータｅｘ１１１や携帯電話ｅｘ１１４等でも考えられる。
【０１６８】
図２８Ａは、上記実施の形態で説明した動画像復号化方法および動画像符号化方法を用いた携帯電話ｅｘ１１４を示す図である。携帯電話ｅｘ１１４は、基地局ｅｘ１１０との間で電波を送受信するためのアンテナｅｘ３５０、映像、静止画を撮ることが可能なカメラ部ｅｘ３６５、カメラ部ｅｘ３６５で撮像した映像、アンテナｅｘ３５０で受信した映像等が復号化されたデータを表示する液晶ディスプレイ等の表示部ｅｘ３５８を備える。携帯電話ｅｘ１１４は、さらに、操作キー部ｅｘ３６６を有する本体部、音声を出力するためのスピーカ等である音声出力部ｅｘ３５７、音声を入力するためのマイク等である音声入力部ｅｘ３５６、撮影した映像、静止画、録音した音声、または受信した映像、静止画、メール等の符号化されたデータもしくは復号化されたデータを保存するメモリ部ｅｘ３６７、又は同様にデータを保存する記録メディアとのインタフェース部であるスロット部ｅｘ３６４を備える。
【０１６９】
さらに、携帯電話ｅｘ１１４の構成例について、図２８Ｂを用いて説明する。携帯電話ｅｘ１１４は、表示部ｅｘ３５８及び操作キー部ｅｘ３６６を備えた本体部の各部を統括的に制御する主制御部ｅｘ３６０に対して、電源回路部ｅｘ３６１、操作入力制御部ｅｘ３６２、映像信号処理部ｅｘ３５５、カメラインタフェース部ｅｘ３６３、ＬＣＤ（Ｌｉｑｕｉｄ  Ｃｒｙｓｔａｌ  Ｄｉｓｐｌａｙ）制御部ｅｘ３５９、変調／復調部ｅｘ３５２、多重／分離部ｅｘ３５３、音声信号処理部ｅｘ３５４、スロット部ｅｘ３６４、メモリ部ｅｘ３６７がバスｅｘ３７０を介して互いに接続されている。
【０１７０】
電源回路部ｅｘ３６１は、ユーザの操作により終話及び電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することにより携帯電話ｅｘ１１４を動作可能な状態に起動する。
【０１７１】
携帯電話ｅｘ１１４は、ＣＰＵ、ＲＯＭ、ＲＡＭ等を有する主制御部ｅｘ３６０の制御に基づいて、音声通話モード時に音声入力部ｅｘ３５６で収音した音声信号を音声信号処理部ｅｘ３５４でデジタル音声信号に変換し、これを変調／復調部ｅｘ３５２でスペクトラム拡散処理し、送信／受信部ｅｘ３５１でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナｅｘ３５０を介して送信する。また携帯電話ｅｘ１１４は、音声通話モード時にアンテナｅｘ３５０を介して受信した受信データを増幅して周波数変換処理およびアナログデジタル変換処理を施し、変調／復調部ｅｘ３５２でスペクトラム逆拡散処理し、音声信号処理部ｅｘ３５４でアナログ音声信号に変換した後、これを音声出力部ｅｘ３５７から出力する。
【０１７２】
さらにデータ通信モード時に電子メールを送信する場合、本体部の操作キー部ｅｘ３６６等の操作によって入力された電子メールのテキストデータは操作入力制御部ｅｘ３６２を介して主制御部ｅｘ３６０に送出される。主制御部ｅｘ３６０は、テキストデータを変調／復調部ｅｘ３５２でスペクトラム拡散処理をし、送信／受信部ｅｘ３５１でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナｅｘ３５０を介して基地局ｅｘ１１０へ送信する。電子メールを受信する場合は、受信したデータに対してこのほぼ逆の処理が行われ、表示部ｅｘ３５８に出力される。
【０１７３】
データ通信モード時に映像、静止画、または映像と音声を送信する場合、映像信号処理部ｅｘ３５５は、カメラ部ｅｘ３６５から供給された映像信号を上記各実施の形態で示した動画像符号化方法によって圧縮符号化し（即ち、本発明の一態様に係る画像符号化装置として機能する）、符号化された映像データを多重／分離部ｅｘ３５３に送出する。また、音声信号処理部ｅｘ３５４は、映像、静止画等をカメラ部ｅｘ３６５で撮像中に音声入力部ｅｘ３５６で収音した音声信号を符号化し、符号化された音声データを多重／分離部ｅｘ３５３に送出する。
【０１７４】
多重／分離部ｅｘ３５３は、映像信号処理部ｅｘ３５５から供給された符号化された映像データと音声信号処理部ｅｘ３５４から供給された符号化された音声データを所定の方式で多重化し、その結果得られる多重化データを変調／復調部（変調／復調回路部）ｅｘ３５２でスペクトラム拡散処理をし、送信／受信部ｅｘ３５１でデジタルアナログ変換処理及び周波数変換処理を施した後にアンテナｅｘ３５０を介して送信する。
【０１７５】
データ通信モード時にホームページ等にリンクされた動画像ファイルのデータを受信する場合、または映像およびもしくは音声が添付された電子メールを受信する場合、アンテナｅｘ３５０を介して受信された多重化データを復号化するために、多重／分離部ｅｘ３５３は、多重化データを分離することにより映像データのビットストリームと音声データのビットストリームとに分け、同期バスｅｘ３７０を介して符号化された映像データを映像信号処理部ｅｘ３５５に供給するとともに、符号化された音声データを音声信号処理部ｅｘ３５４に供給する。映像信号処理部ｅｘ３５５は、上記各実施の形態で示した動画像符号化方法に対応した動画像復号化方法によって復号化することにより映像信号を復号し（即ち、本発明の一態様に係る画像復号装置として機能する）、ＬＣＤ制御部ｅｘ３５９を介して表示部ｅｘ３５８から、例えばホームページにリンクされた動画像ファイルに含まれる映像、静止画が表示される。また音声信号処理部ｅｘ３５４は、音声信号を復号し、音声出力部ｅｘ３５７から音声が出力される。
【０１７６】
また、上記携帯電話ｅｘ１１４等の端末は、テレビｅｘ３００と同様に、符号化器・復号化器を両方持つ送受信型端末の他に、符号化器のみの送信端末、復号化器のみの受信端末という３通りの実装形式が考えられる。さらに、デジタル放送用システムｅｘ２００において、映像データに音楽データなどが多重化された多重化データを受信、送信するとして説明したが、音声データ以外に映像に関連する文字データなどが多重化されたデータであってもよいし、多重化データではなく映像データ自体であってもよい。
【０１７７】
このように、上記各実施の形態で示した動画像符号化方法あるいは動画像復号化方法を上述したいずれの機器・システムに用いることは可能であり、そうすることで、上記各実施の形態で説明した効果を得ることができる。
【０１７８】
また、本発明はかかる上記実施の形態に限定されるものではなく、本発明の範囲を逸脱することなく種々の変形または修正が可能である。
【０１７９】
（実施の形態３）
上記各実施の形態で示した動画像符号化方法または装置と、ＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１など異なる規格に準拠した動画像符号化方法または装置とを、必要に応じて適宜切替えることにより、映像データを生成することも可能である。
【０１８０】
ここで、それぞれ異なる規格に準拠する複数の映像データを生成した場合、復号する際に、それぞれの規格に対応した復号方法を選択する必要がある。しかしながら、復号する映像データが、どの規格に準拠するものであるか識別できないため、適切な復号方法を選択することができないという課題を生じる。
【０１８１】
この課題を解決するために、映像データに音声データなどを多重化した多重化データは、映像データがどの規格に準拠するものであるかを示す識別情報を含む構成とする。上記各実施の形態で示す動画像符号化方法または装置によって生成された映像データを含む多重化データの具体的な構成を以下説明する。多重化データは、ＭＰＥＧ−２トランスポートストリーム形式のデジタルストリームである。
【０１８２】
図２９は、多重化データの構成を示す図である。図２９に示すように多重化データは、ビデオストリーム、オーディオストリーム、プレゼンテーショングラフィックスストリーム（ＰＧ）、インタラクティブグラフィックスストリームのうち、１つ以上を多重化することで得られる。ビデオストリームは映画の主映像および副映像を、オーディオストリーム（ＩＧ）は映画の主音声部分とその主音声とミキシングする副音声を、プレゼンテーショングラフィックスストリームは、映画の字幕をそれぞれ示している。ここで主映像とは画面に表示される通常の映像を示し、副映像とは主映像の中に小さな画面で表示する映像のことである。また、インタラクティブグラフィックスストリームは、画面上にＧＵＩ部品を配置することにより作成される対話画面を示している。ビデオストリームは、上記各実施の形態で示した動画像符号化方法または装置、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠した動画像符号化方法または装置によって符号化されている。オーディオストリームは、ドルビーＡＣ−３、Ｄｏｌｂｙ  Ｄｉｇｉｔａｌ  Ｐｌｕｓ、ＭＬＰ、ＤＴＳ、ＤＴＳ−ＨＤ、または、リニアＰＣＭのなどの方式で符号化されている。
【０１８３】
多重化データに含まれる各ストリームはＰＩＤによって識別される。例えば、映画の映像に利用するビデオストリームには０ｘ１０１１が、オーディオストリームには０ｘ１１００から０ｘ１１１Ｆまでが、プレゼンテーショングラフィックスには０ｘ１２００から０ｘ１２１Ｆまでが、インタラクティブグラフィックスストリームには０ｘ１４００から０ｘ１４１Ｆまでが、映画の副映像に利用するビデオストリームには０ｘ１Ｂ００から０ｘ１Ｂ１Ｆまで、主音声とミキシングする副音声に利用するオーディオストリームには０ｘ１Ａ００から０ｘ１Ａ１Ｆが、それぞれ割り当てられている。
【０１８４】
図３０は、多重化データがどのように多重化されるかを模式的に示す図である。まず、複数のビデオフレームからなるビデオストリームｅｘ２３５、複数のオーディオフレームからなるオーディオストリームｅｘ２３８を、それぞれＰＥＳパケット列ｅｘ２３６およびｅｘ２３９に変換し、ＴＳパケットｅｘ２３７およびｅｘ２４０に変換する。同じくプレゼンテーショングラフィックスストリームｅｘ２４１およびインタラクティブグラフィックスｅｘ２４４のデータをそれぞれＰＥＳパケット列ｅｘ２４２およびｅｘ２４５に変換し、さらにＴＳパケットｅｘ２４３およびｅｘ２４６に変換する。多重化データｅｘ２４７はこれらのＴＳパケットを１本のストリームに多重化することで構成される。
【０１８５】
図３１は、ＰＥＳパケット列に、ビデオストリームがどのように格納されるかをさらに詳しく示している。図３１における第１段目はビデオストリームのビデオフレーム列を示す。第２段目は、ＰＥＳパケット列を示す。図３１の矢印ｙｙ１，ｙｙ２，ｙｙ３，ｙｙ４に示すように、ビデオストリームにおける複数のＶｉｄｅｏ  Ｐｒｅｓｅｎｔａｔｉｏｎ  ＵｎｉｔであるＩピクチャ、Ｂピクチャ、Ｐピクチャは、ピクチャ毎に分割され、ＰＥＳパケットのペイロードに格納される。各ＰＥＳパケットはＰＥＳヘッダを持ち、ＰＥＳヘッダには、ピクチャの表示時刻であるＰＴＳ（Ｐｒｅｓｅｎｔａｔｉｏｎ  Ｔｉｍｅ−Ｓｔａｍｐ）やピクチャの復号時刻であるＤＴＳ（Ｄｅｃｏｄｉｎｇ  Ｔｉｍｅ−Ｓｔａｍｐ）が格納される。
【０１８６】
図３２は、多重化データに最終的に書き込まれるＴＳパケットの形式を示している。ＴＳパケットは、ストリームを識別するＰＩＤなどの情報を持つ４ＢｙｔｅのＴＳヘッダとデータを格納する１８４ＢｙｔｅのＴＳペイロードから構成される１８８Ｂｙｔｅ固定長のパケットであり、上記ＰＥＳパケットは分割されＴＳペイロードに格納される。ＢＤ−ＲＯＭの場合、ＴＳパケットには、４ＢｙｔｅのＴＰ＿Ｅｘｔｒａ＿Ｈｅａｄｅｒが付与され、１９２Ｂｙｔｅのソースパケットを構成し、多重化データに書き込まれる。ＴＰ＿Ｅｘｔｒａ＿ＨｅａｄｅｒにはＡＴＳ（Ａｒｒｉｖａｌ＿Ｔｉｍｅ＿Ｓｔａｍｐ）などの情報が記載される。ＡＴＳは当該ＴＳパケットのデコーダのＰＩＤフィルタへの転送開始時刻を示す。多重化データには図３２下段に示すようにソースパケットが並ぶこととなり、多重化データの先頭からインクリメントする番号はＳＰＮ（ソースパケットナンバー）と呼ばれる。
【０１８７】
また、多重化データに含まれるＴＳパケットには、映像・音声・字幕などの各ストリーム以外にもＰＡＴ（Ｐｒｏｇｒａｍ  Ａｓｓｏｃｉａｔｉｏｎ  Ｔａｂｌｅ）、ＰＭＴ（Ｐｒｏｇｒａｍ  Ｍａｐ  Ｔａｂｌｅ）、ＰＣＲ（Ｐｒｏｇｒａｍ  Ｃｌｏｃｋ  Ｒｅｆｅｒｅｎｃｅ）などがある。ＰＡＴは多重化データ中に利用されるＰＭＴのＰＩＤが何であるかを示し、ＰＡＴ自身のＰＩＤは０で登録される。ＰＭＴは、多重化データ中に含まれる映像・音声・字幕などの各ストリームのＰＩＤと各ＰＩＤに対応するストリームの属性情報を持ち、また多重化データに関する各種ディスクリプタを持つ。ディスクリプタには多重化データのコピーを許可・不許可を指示するコピーコントロール情報などがある。ＰＣＲは、ＡＴＳの時間軸であるＡＴＣ（Ａｒｒｉｖａｌ  Ｔｉｍｅ  Ｃｌｏｃｋ）とＰＴＳ・ＤＴＳの時間軸であるＳＴＣ（Ｓｙｓｔｅｍ  Ｔｉｍｅ  Ｃｌｏｃｋ）の同期を取るために、そのＰＣＲパケットがデコーダに転送されるＡＴＳに対応するＳＴＣ時間の情報を持つ。
【０１８８】
図３３はＰＭＴのデータ構造を詳しく説明する図である。ＰＭＴの先頭には、そのＰＭＴに含まれるデータの長さなどを記したＰＭＴヘッダが配置される。その後ろには、多重化データに関するディスクリプタが複数配置される。上記コピーコントロール情報などが、ディスクリプタとして記載される。ディスクリプタの後には、多重化データに含まれる各ストリームに関するストリーム情報が複数配置される。ストリーム情報は、ストリームの圧縮コーデックなどを識別するためストリームタイプ、ストリームのＰＩＤ、ストリームの属性情報（フレームレート、アスペクト比など）が記載されたストリームディスクリプタから構成される。ストリームディスクリプタは多重化データに存在するストリームの数だけ存在する。
【０１８９】
記録媒体などに記録する場合には、上記多重化データは、多重化データ情報ファイルと共に記録される。
【０１９０】
多重化データ情報ファイルは、図３４に示すように多重化データの管理情報であり、多重化データと１対１に対応し、多重化データ情報、ストリーム属性情報とエントリマップから構成される。
【０１９１】
多重化データ情報は図３４に示すようにシステムレート、再生開始時刻、再生終了時刻から構成されている。システムレートは多重化データの、後述するシステムターゲットデコーダのＰＩＤフィルタへの最大転送レートを示す。多重化データ中に含まれるＡＴＳの間隔はシステムレート以下になるように設定されている。再生開始時刻は多重化データの先頭のビデオフレームのＰＴＳであり、再生終了時刻は多重化データの終端のビデオフレームのＰＴＳに１フレーム分の再生間隔を足したものが設定される。
【０１９２】
ストリーム属性情報は図３５に示すように、多重化データに含まれる各ストリームについての属性情報が、ＰＩＤ毎に登録される。属性情報はビデオストリーム、オーディオストリーム、プレゼンテーショングラフィックスストリーム、インタラクティブグラフィックスストリーム毎に異なる情報を持つ。ビデオストリーム属性情報は、そのビデオストリームがどのような圧縮コーデックで圧縮されたか、ビデオストリームを構成する個々のピクチャデータの解像度がどれだけであるか、アスペクト比はどれだけであるか、フレームレートはどれだけであるかなどの情報を持つ。オーディオストリーム属性情報は、そのオーディオストリームがどのような圧縮コーデックで圧縮されたか、そのオーディオストリームに含まれるチャンネル数は何であるか、何の言語に対応するか、サンプリング周波数がどれだけであるかなどの情報を持つ。これらの情報は、プレーヤが再生する前のデコーダの初期化などに利用される。
【０１９３】
本実施の形態においては、上記多重化データのうち、ＰＭＴに含まれるストリームタイプを利用する。また、記録媒体に多重化データが記録されている場合には、多重化データ情報に含まれる、ビデオストリーム属性情報を利用する。具体的には、上記各実施の形態で示した動画像符号化方法または装置において、ＰＭＴに含まれるストリームタイプ、または、ビデオストリーム属性情報に対し、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示す固有の情報を設定するステップまたは手段を設ける。この構成により、上記各実施の形態で示した動画像符号化方法または装置によって生成した映像データと、他の規格に準拠する映像データとを識別することが可能になる。
【０１９４】
また、本実施の形態における動画像復号化方法のステップを図３６に示す。ステップｅｘＳ１００において、多重化データからＰＭＴに含まれるストリームタイプ、または、多重化データ情報に含まれるビデオストリーム属性情報を取得する。次に、ステップｅｘＳ１０１において、ストリームタイプ、または、ビデオストリーム属性情報が上記各実施の形態で示した動画像符号化方法または装置によって生成された多重化データであることを示しているか否かを判断する。そして、ストリームタイプ、または、ビデオストリーム属性情報が上記各実施の形態で示した動画像符号化方法または装置によって生成されたものであると判断された場合には、ステップｅｘＳ１０２において、上記各実施の形態で示した動画像復号方法により復号を行う。また、ストリームタイプ、または、ビデオストリーム属性情報が、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠するものであることを示している場合には、ステップｅｘＳ１０３において、従来の規格に準拠した動画像復号方法により復号を行う。
【０１９５】
このように、ストリームタイプ、または、ビデオストリーム属性情報に新たな固有値を設定することにより、復号する際に、上記各実施の形態で示した動画像復号化方法または装置で復号可能であるかを判断することができる。従って、異なる規格に準拠する多重化データが入力された場合であっても、適切な復号化方法または装置を選択することができるため、エラーを生じることなく復号することが可能となる。また、本実施の形態で示した動画像符号化方法または装置、または、動画像復号方法または装置を、上述したいずれの機器・システムに用いることも可能である。
【０１９６】
（実施の形態４）
上記各実施の形態で示した動画像符号化方法および装置、動画像復号化方法および装置は、典型的には集積回路であるＬＳＩで実現される。一例として、図３７に１チップ化されたＬＳＩｅｘ５００の構成を示す。ＬＳＩｅｘ５００は、以下に説明する要素ｅｘ５０１、ｅｘ５０２、ｅｘ５０３、ｅｘ５０４、ｅｘ５０５、ｅｘ５０６、ｅｘ５０７、ｅｘ５０８、ｅｘ５０９を備え、各要素はバスｅｘ５１０を介して接続している。電源回路部ｅｘ５０５は電源がオン状態の場合に各部に対して電力を供給することで動作可能な状態に起動する。
【０１９７】
例えば符号化処理を行う場合には、ＬＳＩｅｘ５００は、ＣＰＵｅｘ５０２、メモリコントローラｅｘ５０３、ストリームコントローラｅｘ５０４、駆動周波数制御部ｅｘ５１２等を有する制御部ｅｘ５０１の制御に基づいて、ＡＶ  Ｉ／Ｏｅｘ５０９によりマイクｅｘ１１７やカメラｅｘ１１３等からＡＶ信号を入力する。入力されたＡＶ信号は、一旦ＳＤＲＡＭ等の外部のメモリｅｘ５１１に蓄積される。制御部ｅｘ５０１の制御に基づいて、蓄積したデータは処理量や処理速度に応じて適宜複数回に分けるなどされ信号処理部ｅｘ５０７に送られ、信号処理部ｅｘ５０７において音声信号の符号化および／または映像信号の符号化が行われる。ここで映像信号の符号化処理は上記各実施の形態で説明した符号化処理である。信号処理部ｅｘ５０７ではさらに、場合により符号化された音声データと符号化された映像データを多重化するなどの処理を行い、ストリームＩ／Ｏｅｘ５０６から外部に出力する。この出力された多重化データは、基地局ｅｘ１０７に向けて送信されたり、または記録メディアｅｘ２１５に書き込まれたりする。なお、多重化する際には同期するよう、一旦バッファｅｘ５０８にデータを蓄積するとよい。
【０１９８】
なお、上記では、メモリｅｘ５１１がＬＳＩｅｘ５００の外部の構成として説明したが、ＬＳＩｅｘ５００の内部に含まれる構成であってもよい。バッファｅｘ５０８も１つに限ったものではなく、複数のバッファを備えていてもよい。また、ＬＳＩｅｘ５００は１チップ化されてもよいし、複数チップ化されてもよい。
【０１９９】
また、上記では、制御部ｅｘ５０１が、ＣＰＵｅｘ５０２、メモリコントローラｅｘ５０３、ストリームコントローラｅｘ５０４、駆動周波数制御部ｅｘ５１２等を有するとしているが、制御部ｅｘ５０１の構成は、この構成に限らない。例えば、信号処理部ｅｘ５０７がさらにＣＰＵを備える構成であってもよい。信号処理部ｅｘ５０７の内部にもＣＰＵを設けることにより、処理速度をより向上させることが可能になる。また、他の例として、ＣＰＵｅｘ５０２が信号処理部ｅｘ５０７、または信号処理部ｅｘ５０７の一部である例えば音声信号処理部を備える構成であってもよい。このような場合には、制御部ｅｘ５０１は、信号処理部ｅｘ５０７、またはその一部を有するＣＰＵｅｘ５０２を備える構成となる。
【０２００】
なお、ここでは、ＬＳＩとしたが、集積度の違いにより、ＩＣ、システムＬＳＩ、スーパーＬＳＩ、ウルトラＬＳＩと呼称されることもある。
【０２０１】
また、集積回路化の手法はＬＳＩに限るものではなく、専用回路または汎用プロセッサで実現してもよい。ＬＳＩ製造後に、プログラムすることが可能なＦＰＧＡ（Ｆｉｅｌｄ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｇａｔｅ  Ａｒｒａｙ）や、ＬＳＩ内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。このようなプログラマブル・ロジック・デバイスは、典型的には、ソフトウェア又はファームウェアを構成するプログラムを、ロードする又はメモリ等から読み込むことで、上記各実施の形態で示した動画像符号化方法、又は動画像復号化方法を実行することができる。
【０２０２】
さらには、半導体技術の進歩または派生する別技術によりＬＳＩに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。
【０２０３】
（実施の形態５）
上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データを復号する場合、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データを復号する場合に比べ、処理量が増加することが考えられる。そのため、ＬＳＩｅｘ５００において、従来の規格に準拠する映像データを復号する際のＣＰＵｅｘ５０２の駆動周波数よりも高い駆動周波数に設定する必要がある。しかし、駆動周波数を高くすると、消費電力が高くなるという課題が生じる。
【０２０４】
この課題を解決するために、テレビｅｘ３００、ＬＳＩｅｘ５００などの動画像復号化装置は、映像データがどの規格に準拠するものであるかを識別し、規格に応じて駆動周波数を切替える構成とする。図３８は、本実施の形態における構成ｅｘ８００を示している。駆動周波数切替え部ｅｘ８０３は、映像データが、上記各実施の形態で示した動画像符号化方法または装置によって生成されたものである場合には、駆動周波数を高く設定する。そして、上記各実施の形態で示した動画像復号化方法を実行する復号処理部ｅｘ８０１に対し、映像データを復号するよう指示する。一方、映像データが、従来の規格に準拠する映像データである場合には、映像データが、上記各実施の形態で示した動画像符号化方法または装置によって生成されたものである場合に比べ、駆動周波数を低く設定する。そして、従来の規格に準拠する復号処理部ｅｘ８０２に対し、映像データを復号するよう指示する。
【０２０５】
より具体的には、駆動周波数切替え部ｅｘ８０３は、図３７のＣＰＵｅｘ５０２と駆動周波数制御部ｅｘ５１２から構成される。また、上記各実施の形態で示した動画像復号化方法を実行する復号処理部ｅｘ８０１、および、従来の規格に準拠する復号処理部ｅｘ８０２は、図３７の信号処理部ｅｘ５０７に該当する。ＣＰＵｅｘ５０２は、映像データがどの規格に準拠するものであるかを識別する。そして、ＣＰＵｅｘ５０２からの信号に基づいて、駆動周波数制御部ｅｘ５１２は、駆動周波数を設定する。また、ＣＰＵｅｘ５０２からの信号に基づいて、信号処理部ｅｘ５０７は、映像データの復号を行う。ここで、映像データの識別には、例えば、実施の形態３で記載した識別情報を利用することが考えられる。識別情報に関しては、実施の形態３で記載したものに限られず、映像データがどの規格に準拠するか識別できる情報であればよい。例えば、映像データがテレビに利用されるものであるか、ディスクに利用されるものであるかなどを識別する外部信号に基づいて、映像データがどの規格に準拠するものであるか識別可能である場合には、このような外部信号に基づいて識別してもよい。また、ＣＰＵｅｘ５０２における駆動周波数の選択は、例えば、図４０のような映像データの規格と、駆動周波数とを対応付けたルックアップテーブルに基づいて行うことが考えられる。ルックアップテーブルを、バッファｅｘ５０８や、ＬＳＩの内部メモリに格納しておき、ＣＰＵｅｘ５０２がこのルックアップテーブルを参照することにより、駆動周波数を選択することが可能である。
【０２０６】
図３９は、本実施の形態の方法を実施するステップを示している。まず、ステップｅｘＳ２００では、信号処理部ｅｘ５０７において、多重化データから識別情報を取得する。次に、ステップｅｘＳ２０１では、ＣＰＵｅｘ５０２において、識別情報に基づいて映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものであるか否かを識別する。映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものである場合には、ステップｅｘＳ２０２において、駆動周波数を高く設定する信号を、ＣＰＵｅｘ５０２が駆動周波数制御部ｅｘ５１２に送る。そして、駆動周波数制御部ｅｘ５１２において、高い駆動周波数に設定される。一方、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合には、ステップｅｘＳ２０３において、駆動周波数を低く設定する信号を、ＣＰＵｅｘ５０２が駆動周波数制御部ｅｘ５１２に送る。そして、駆動周波数制御部ｅｘ５１２において、映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものである場合に比べ、低い駆動周波数に設定される。
【０２０７】
さらに、駆動周波数の切替えに連動して、ＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置に与える電圧を変更することにより、省電力効果をより高めることが可能である。例えば、駆動周波数を低く設定する場合には、これに伴い、駆動周波数を高く設定している場合に比べ、ＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置に与える電圧を低く設定することが考えられる。
【０２０８】
また、駆動周波数の設定方法は、復号する際の処理量が大きい場合に、駆動周波数を高く設定し、復号する際の処理量が小さい場合に、駆動周波数を低く設定すればよく、上述した設定方法に限らない。例えば、ＭＰＥＧ４−ＡＶＣ規格に準拠する映像データを復号する処理量の方が、上記各実施の形態で示した動画像符号化方法または装置により生成された映像データを復号する処理量よりも大きい場合には、駆動周波数の設定を上述した場合の逆にすることが考えられる。
【０２０９】
さらに、駆動周波数の設定方法は、駆動周波数を低くする構成に限らない。例えば、識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合には、ＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置に与える電圧を高く設定し、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合には、ＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置に与える電圧を低く設定することも考えられる。また、他の例としては、識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合には、ＣＰＵｅｘ５０２の駆動を停止させることなく、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合には、処理に余裕があるため、ＣＰＵｅｘ５０２の駆動を一時停止させることも考えられる。識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合であっても、処理に余裕があれば、ＣＰＵｅｘ５０２の駆動を一時停止させることも考えられる。この場合は、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合に比べて、停止時間を短く設定することが考えられる。
【０２１０】
このように、映像データが準拠する規格に応じて、駆動周波数を切替えることにより、省電力化を図ることが可能になる。また、電池を用いてＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置を駆動している場合には、省電力化に伴い、電池の寿命を長くすることが可能である。
【０２１１】
（実施の形態６）
テレビや、携帯電話など、上述した機器・システムには、異なる規格に準拠する複数の映像データが入力される場合がある。このように、異なる規格に準拠する複数の映像データが入力された場合にも復号できるようにするために、ＬＳＩｅｘ５００の信号処理部ｅｘ５０７が複数の規格に対応している必要がある。しかし、それぞれの規格に対応する信号処理部ｅｘ５０７を個別に用いると、ＬＳＩｅｘ５００の回路規模が大きくなり、また、コストが増加するという課題が生じる。
【０２１２】
この課題を解決するために、上記各実施の形態で示した動画像復号方法を実行するための復号処理部と、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する復号処理部とを一部共有化する構成とする。この構成例を図４１Ａのｅｘ９００に示す。例えば、上記各実施の形態で示した動画像復号方法と、ＭＰＥＧ４−ＡＶＣ規格に準拠する動画像復号方法とは、エントロピー符号化、逆量子化、デブロッキング・フィルタ、動き補償などの処理において処理内容が一部共通する。共通する処理内容については、ＭＰＥＧ４−ＡＶＣ規格に対応する復号処理部ｅｘ９０２を共有し、ＭＰＥＧ４−ＡＶＣ規格に対応しない、本発明の一態様に特有の他の処理内容については、専用の復号処理部ｅｘ９０１を用いるという構成が考えられる。復号処理部の共有化に関しては、共通する処理内容については、上記各実施の形態で示した動画像復号化方法を実行するための復号処理部を共有し、ＭＰＥＧ４−ＡＶＣ規格に特有の処理内容については、専用の復号処理部を用いる構成であってもよい。
【０２１３】
また、処理を一部共有化する他の例を図４１Ｂのｅｘ１０００に示す。この例では、本発明の一態様に特有の処理内容に対応した専用の復号処理部ｅｘ１００１と、他の従来規格に特有の処理内容に対応した専用の復号処理部ｅｘ１００２と、本発明の一態様に係る動画像復号方法と他の従来規格の動画像復号方法とに共通する処理内容に対応した共用の復号処理部ｅｘ１００３とを用いる構成としている。ここで、専用の復号処理部ｅｘ１００１、ｅｘ１００２は、必ずしも本発明の一態様、または、他の従来規格に特有の処理内容に特化したものではなく、他の汎用処理を実行できるものであってもよい。また、本実施の形態の構成を、ＬＳＩｅｘ５００で実装することも可能である。
【０２１４】
このように、本発明の一態様に係る動画像復号方法と、従来の規格の動画像復号方法とで共通する処理内容について、復号処理部を共有することにより、ＬＳＩの回路規模を小さくし、かつ、コストを低減することが可能である。
【産業上の利用可能性】
【０２１５】
本発明に係る符号化方法および復号方法は、符号化効率を向上することができるという効果を奏し、例えば、テレビ、デジタルビデオレコーダー、カーナビゲーション、携帯電話、デジタルカメラ、デジタルビデオカメラ等の情報表示機器や撮像機器に利用可能である。
【符号の説明】
【０２１６】
１００    符号化装置
１０１    変換部
１０２    量子化部
１０３    逆量子化部
１０４    逆変換部
１０５    ブロックメモリ
１０６    ピクチャメモリ
１０７    イントラ予測部
１０８    インター予測部
１０９    エントロピー符号化部
１１０    減算器
１１１    加算器
１３０    制御部
１３１    動きベクトル予測部
１３６    書込部
２００    復号装置
２０１    エントロピー復号部
２０２    逆量子化部
２０３    逆変換部
２０４    ブロックメモリ
２０５    ピクチャメモリ
２０６    イントラ予測部
２０７    インター予測部
２１０    動きベクトル予測部
２１２    制御部
２１３    読解部
２１５    加算器
【図１】
2019213242.tif 000003
【図２】
2019213242.tif 000004
【図３】
2019213242.tif 000005
【図４】
2019213242.tif 000006
【図５】
2019213242.tif 000007
【図６】
2019213242.tif 000008
【図７】
2019213242.tif 000009
【図８】
2019213242.tif 000010
【図９】
2019213242.tif 000011
【図１０】
2019213242.tif 000012
【図１１】
2019213242.tif 000013
【図１２】
2019213242.tif 000014
【図１３】
2019213242.tif 000015
【図１４】
2019213242.tif 000016
【図１５】
2019213242.tif 000017
【図１６Ａ】
2019213242.tif 000018
【図１６Ｂ】
2019213242.tif 000019
【図１６Ｃ】
2019213242.tif 000020
【図１７】
2019213242.tif 000021
【図１８】
2019213242.tif 000022
【図１９】
2019213242.tif 000023
【図２０】
2019213242.tif 000024
【図２１Ａ】
2019213242.tif 000025
【図２１Ｂ】
2019213242.tif 000026
【図２１Ｃ】
2019213242.tif 000027
【図２１Ｄ】
2019213242.tif 000028
【図２１Ｅ】
2019213242.tif 000029
【図２１Ｆ】
2019213242.tif 000030
【図２２Ａ】
2019213242.tif 000031
【図２２Ｂ】
2019213242.tif 000032
【図２３】
2019213242.tif 000033
【図２４】
2019213242.tif 000034
【図２５】
2019213242.tif 000035
【図２６】
2019213242.tif 000036
【図２７】
2019213242.tif 000037
【図２８Ａ】
2019213242.tif 000038
【図２８Ｂ】
2019213242.tif 000039
【図２９】
2019213242.tif 000040
【図３０】
2019213242.tif 000041
【図３１】
2019213242.tif 000042
【図３２】
2019213242.tif 000043
【図３３】
2019213242.tif 000044
【図３４】
2019213242.tif 000045
【図３５】
2019213242.tif 000046
【図３６】
2019213242.tif 000047
【図３７】
2019213242.tif 000048
【図３８】
2019213242.tif 000049
【図３９】
2019213242.tif 000050
【図４０】
2019213242.tif 000051
【図４１Ａ】
2019213242.tif 000052
【図４１Ｂ】
2019213242.tif 000053