(57)【要約】【課題】符号化対象の画像が拡大や縮小する場合の符号化効率を向上させることができるようにする。【解決手段】参照画像バッファは、インター符号化画像に対する参照画像の拡大または縮小の率を表すlog2_expanding_factorに基づいて、参照画像を拡大または縮小する。生成部は、拡大または縮小された参照画像を用いて予測画像を生成する。インター符号化画像は、予測画像を用いて復号される。本開示は、例えば、HEVC（High Efficiency Video Coding）方式の復号装置等に適用することができる。【選択図】図４
2015128205.tif 000002
【特許請求の範囲】
【請求項１】
インター符号化画像に対する参照画像の拡大または縮小の率を表す拡大縮小率情報に基づいて、前記参照画像を拡大または縮小する拡大縮小部と、
前記拡大縮小部により拡大または縮小された前記参照画像を用いて予測画像を生成する生成部と、
前記生成部により生成された前記予測画像を用いて、前記インター符号化画像を復号する復号部と
を備える復号装置。
【請求項２】
前記拡大縮小部は、前記拡大縮小率情報が拡大の率を表す場合、前記参照画像内の１つの画素を、前記予測画像を構成する複数の画素として生成する
ように構成された
請求項１に記載の復号装置。
【請求項３】
前記拡大縮小部は、前記拡大縮小率情報が縮小の率を表す場合、前記参照画像の領域内の１つの画素を、その領域に対応する予測画像の画素として生成する
ように構成された
請求項１に記載の復号装置。
【請求項４】
前記拡大縮小部により拡大または縮小された前記参照画像に対して、ブロック単位でローパスフィルタ処理を施すフィルタ処理部
をさらに備え、
前記生成部は、前記フィルタ処理部によりローパスフィルタ処理が施された前記参照画像を用いて前記予測画像を生成する
請求項１に記載の復号装置。
【請求項５】
前記フィルタ処理部は、前記ブロックのサイズが所定のサイズより小さい場合、前記参照画像に対して前記ローパスフィルタ処理を施す
ように構成された
請求項４に記載の復号装置。
【請求項６】
前記拡大縮小率情報は、前記インター符号化画像の水平方向と垂直方向について独立して設定される
ように構成された
請求項１に記載の復号装置。
【請求項７】
前記拡大縮小部は、前記インター符号化画像より符号化順で前の前記参照画像または後の前記参照画像のいずれか一方に対する前記拡大縮小率情報と、前記インター符号化画像並びに前記インター符号化画像より符号化順で前の前記参照画像および後の前記参照画像の時間距離とに基づいて、他方に対する前記拡大縮小率情報を算出する
ように構成された
請求項１に記載の復号装置。
【請求項８】
前記予測画像のブロックに対応する前記拡大縮小率情報と、そのブロックの周辺のブロックである周辺ブロックに対応する前記拡大縮小率情報との差分と、前記周辺ブロックの前記拡大縮小率情報とに基づいて、前記予測画像のブロックの前記拡大縮小率情報を決定する情報復号部
をさらに備える
請求項１に記載の復号装置。
【請求項９】
前記インター符号化画像における動きベクトルの符号化モードがマージモードである場合、前記マージモードで動きベクトルが参照される前記予測画像のブロックに対応する拡大縮小率情報を、参照元の前記予測画像のブロックに対応する前記拡大縮小率情報に決定する決定部
をさらに備える
請求項１に記載の復号装置。
【請求項１０】
復号装置が、
インター符号化画像に対する参照画像の拡大または縮小の率を表す拡大縮小率情報に基づいて、前記参照画像を拡大または縮小する拡大縮小ステップと、
前記拡大縮小ステップの処理により拡大または縮小された前記参照画像を用いて予測画像を生成する生成ステップと、
前記生成ステップの処理により生成された前記予測画像を用いて、前記インター符号化画像を復号する復号ステップと
を含む復号方法。
【請求項１１】
符号化対象の画像に対する参照画像の拡大または縮小の率を表す拡大縮小率情報に基づいて、前記参照画像を拡大または縮小する拡大縮小部と、
前記拡大縮小部により拡大または縮小された前記参照画像を用いて予測画像を生成する生成部と、
前記生成部により生成された前記予測画像を用いて、前記符号化対象の画像を符号化し、符号化データを生成する符号化部と、
前記符号化部により生成された前記符号化データと前記拡大縮小率情報とを伝送する伝送部と
を備える符号化装置。
【請求項１２】
前記拡大縮小部は、前記拡大縮小率情報が拡大の率を表す場合、前記参照画像内の１つの画素を、前記予測画像を構成する複数の画素として生成する
ように構成された
請求項１１に記載の符号化装置。
【請求項１３】
前記拡大縮小部は、前記拡大縮小率情報が縮小の率を表す場合、前記参照画像の領域内の１つの画素を、その領域に対応する予測画像の画素として生成する
ように構成された
請求項１１に記載の符号化装置。
【請求項１４】
前記拡大縮小部により拡大または縮小された前記参照画像に対して、ブロック単位でローパスフィルタ処理を施すフィルタ処理部
をさらに備え、
前記生成部は、前記フィルタ処理部によりローパスフィルタ処理が施された前記参照画像を用いて前記予測画像を生成する
請求項１１に記載の符号化装置。
【請求項１５】
前記フィルタ処理部は、前記ブロックのサイズが所定のサイズより小さい場合、前記参照画像に対して前記ローパスフィルタ処理を施す
ように構成された
請求項１４に記載の符号化装置。
【請求項１６】
前記拡大縮小率情報は、前記符号化対象の画像の水平方向と垂直方向について独立して設定される
ように構成された
請求項１１に記載の符号化装置。
【請求項１７】
前記伝送部は、前記符号化対象の画像より符号化順で前の前記参照画像または後の前記参照画像のいずれか一方に対する前記拡大縮小率情報のみを伝送する
ように構成された
請求項１１に記載の符号化装置。
【請求項１８】
前記予測画像のブロックに対応する前記拡大縮小率情報と、そのブロックの周辺のブロックである周辺ブロックに対応する前記拡大縮小率情報との差分を算出する情報符号化部
をさらに備え、
前記伝送部は、前記情報符号化部により算出された前記拡大縮小率情報の差分を伝送する
ように構成された
請求項１１に記載の符号化装置。
【請求項１９】
前記符号化対象の画像における動きベクトルの符号化モードがマージモードである場合、前記マージモードで動きベクトルが参照される前記予測画像のブロックに対応する拡大縮小率情報を、参照元の前記予測画像のブロックに対応する前記拡大縮小率情報に決定する決定部
をさらに備え、
前記伝送部は、前記動きベクトルの符号化モードがマージモード以外である場合、前記拡大縮小率情報を伝送する
請求項１１に記載の符号化装置。
【請求項２０】
符号化装置が、
符号化対象の画像に対する参照画像の拡大または縮小の率を表す拡大縮小率情報に基づいて、前記参照画像を拡大または縮小する拡大縮小ステップと、
前記拡大縮小ステップの処理により拡大または縮小された前記参照画像を用いて予測画像を生成する生成ステップと、
前記生成ステップの処理により生成された前記予測画像を用いて、前記符号化対象の画像を符号化し、符号化データを生成する符号化ステップと、
前記符号化ステップの処理により生成された前記符号化データと前記拡大縮小率情報とを伝送する伝送ステップと
を含む符号化方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、復号装置および復号方法、並びに、符号化装置および符号化方法に関し、特に、符号化対象の画像が拡大や縮小する場合の符号化効率を向上させることができるようにした復号装置および復号方法、並びに、符号化装置および符号化方法に関する。
【背景技術】
【０００２】
近年、画像情報特有の冗長性を利用して、離散コサイン変換等の直交変換と動き補償により圧縮するMPEG（Moving Picture Experts Group phase）などの方式に準拠した装置が、放送局などの情報配信、および一般家庭における情報受信の双方において普及しつつある。
【０００３】
特に、MPEG2（ISO/IEC 13818-2）方式は、汎用画像符号化方式として定義されている。MPEG2は、飛び越し走査画像及び順次走査画像の双方、並びに標準解像度画像及び高精細画像を網羅する標準である。MPEG2は、プロフェッショナル用途及びコンシューマー用途の広範なアプリケーションに現在広く用いられている。MPEG2方式を用いることにより、例えば720×480画素を持つ標準解像度の飛び越し走査画像であれば4乃至8Mbps、1920×1088画素を持つ高解像度飛び越し走査画像であれば18乃至22MBpsの符号量を割り当てることで、高い圧縮率と良好な画質の実現が可能である。
【０００４】
MPEG2は主として放送用に適合する高画質符号化を対象としていたが、MPEG1より低い符号量（ビットレート）、つまりより高い圧縮率の符号化方式には対応していなかった。携帯端末の普及により、今後そのような符号化方式のニーズは高まると思われ、これに対応してMPEG4符号化方式の標準化が行われた。MPEG4の画像符号化方式に関しては、1998年12月にISO/IEC 14496-2として規格が国際標準に承認された。
【０００５】
更に、近年、当初テレビ会議用の画像符号化を目的として、H．26L（ITU-T Q6/16 VCEG）という標準の規格化が進んでいる。H．26LはMPEG2やMPEG4といった符号化方式に比べ、その符号化、復号化により多くの演算量が要求されるものの、より高い符号化効率が実現されることが知られている。
【０００６】
また、近年、MPEG4の活動の一環として、このH．26Lをベースに、H．26Lではサポートされない機能をも取り入れ、より高い符号化効率を実現する標準化がJoint Model of Enhanced-Compression Video Codingとして行われた。この標準化は、2003年3月にH．264及びMPEG-4 Part10（AVC（Advanced Video Coding））という名の元に国際標準化された。
【０００７】
更に、その拡張として、RGB，4:2:2や4:4:4の色差信号フォーマット等の業務用に必要な符号化ツールや、MPEG2で規定されていた8×8DCT(Discrete Cosine Transform)や量子化マトリクスをも含んだFRExt (Fidelity Range Extension)の標準化が2005年2月に完了した。これにより、AVC方式が、映画に含まれるフィルムノイズをも良好に表現することが可能な符号化方式となり、ＢＤ（Blu-ray（登録商標） Disc ）等の幅広いアプリケーションに用いられる運びとなった。
【０００８】
しかしながら、昨今、ハイビジョン画像の4倍の4000×2000画素程度の画像を圧縮したい、または、インターネットのような限られた伝送容量の環境においてハイビジョン画像を配信したいといった、更なる高圧縮率符号化に対するニーズが高まっている。このため、ITU-T傘下のVCEG(Video Coding Expert Group)において、符号化効率の改善に関する検討が継続されている。
【０００９】
また、現在、AVCより更なる符号化効率の向上を目的として、ITU-Tと、ISO/IECの共同の標準化団体であるJCTVC(Joint Collaboration Team − Video Coding)により、 HEVC(High Efficiency Video Coding)と呼ばれる符号化方式の標準化が進められている。2013年12月現在、Draftとして非特許文献１が発行されている。
【先行技術文献】
【非特許文献】
【００１０】
【非特許文献１】Benjamin Bross,Gary J.Sullivan,Ye-Kui Wang,”Editors’ proposed corrections to HEVC version 1”,JCTVC-M0432_v3,2013.4.18-4.26
【発明の概要】
【発明が解決しようとする課題】
【００１１】
HEVCのインター予測処理は、MPEG-2やAVCと同様に平行移動モデルに基づくものであり、符号化対象の画像が拡大や縮小する場合の符号化効率を向上させることができなかった。
【００１２】
本開示は、このような状況に鑑みてなされたものであり、符号化対象の画像が拡大や縮小する場合の符号化効率を向上させることができるようにするものである。
【課題を解決するための手段】
【００１３】
本開示の第１の側面の復号装置は、インター符号化画像に対する参照画像の拡大または縮小の率を表す拡大縮小率情報に基づいて、前記参照画像を拡大または縮小する拡大縮小部と、前記拡大縮小部により拡大または縮小された前記参照画像を用いて予測画像を生成する生成部と、前記生成部により生成された前記予測画像を用いて、前記インター符号化画像を復号する復号部とを備える復号装置である。
【００１４】
本開示の第１の側面の復号方法およびプログラムは、本開示の第１の側面の復号装置に対応する。
【００１５】
本開示の第１の側面においては、インター符号化画像に対する参照画像の拡大または縮小の率を表す拡大縮小率情報に基づいて、前記参照画像が拡大または縮小され、拡大または縮小された前記参照画像を用いて予測画像が生成され、前記予測画像を用いて、前記インター符号化画像が復号される。
【００１６】
本開示の第２の側面の符号化装置は、符号化対象の画像に対する参照画像の拡大または縮小の率を表す拡大縮小率情報に基づいて、前記参照画像を拡大または縮小する拡大縮小部と、前記拡大縮小部により拡大または縮小された前記参照画像を用いて予測画像を生成する生成部と、前記生成部により生成された前記予測画像を用いて、前記符号化対象の画像を符号化し、符号化データを生成する符号化部と、前記符号化部により生成された前記符号化データと前記拡大縮小率情報とを伝送する伝送部とを備える符号化装置である。
【００１７】
本開示の第２の側面の符号化方法およびプログラムは、本開示の第２の側面の符号化装置に対応する。
【００１８】
本開示の第２の側面においては、符号化対象の画像に対する参照画像の拡大または縮小の率を表す拡大縮小率情報に基づいて、前記参照画像が拡大または縮小され、拡大または縮小された前記参照画像を用いて予測画像が生成され、前記予測画像を用いて、前記符号化対象の画像が符号化されて符号化データが生成され、前記符号化データと前記拡大縮小率情報とが伝送される。
【００１９】
なお、第１の側面の復号装置および第２の側面の符号化装置は、コンピュータにプログラムを実行させることにより実現することができる。
【００２０】
また、第１の側面の復号装置および第２の側面の符号化装置を実現するために、コンピュータに実行させるプログラムは、伝送媒体を介して伝送することにより、又は、記録媒体に記録して、提供することができる。
【００２１】
第１の側面の復号装置および第２の側面の符号化装置は、独立した装置であっても良いし、１つの装置を構成している内部ブロックであっても良い。
【００２２】
ネットワークとは、少なくとも２つの装置が接続され、ある装置から、他の装置に対して、情報の伝達をできるようにした仕組みをいう。ネットワークを介して通信する装置は、独立した装置どうしであっても良いし、１つの装置を構成している内部ブロックどうしであっても良い。
【発明の効果】
【００２３】
本開示の第１の側面によれば、符号化ストリームを復号することができる。また、本開示の第１の側面によれば、符号化対象の画像が拡大や縮小する場合の符号化効率を向上させるように符号化された符号化ストリームを復号することができる。
【００２４】
本開示の第２の側面によれば、画像を符号化することができる。また、本開示の第２の側面によれば、符号化対象の画像が拡大や縮小する場合の符号化効率を向上させることができる。
【００２５】
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
【図面の簡単な説明】
【００２６】
【図１】本開示を適用した符号化装置の第１実施の形態の構成例を示すブロック図である。
【図２】図１の符号化部の構成例を示すブロック図である。
【図３】CUを説明する図である。
【図４】図２の動き予測・補償部の構成例を示すブロック図である。
【図５】インター予測のＰＵを説明する図である
【図６】輝度信号に対する内挿フィルタ処理を説明する図である。
【図７】輝度信号に対する内挿フィルタ処理のフィルタ係数を説明する図である。
【図８】色差信号に対する内挿フィルタ処理を説明する図である。
【図９】色差信号に対する内挿フィルタ処理のフィルタ係数を説明する図である。
【図１０】図４の参照画像バッファにおける読み出し処理を説明する図である。
【図１１】図４の参照画像バッファにおける読み出し処理を説明する図である。
【図１２】マージモードにおける周辺ＰＵの例を示す図である。
【図１３】ＰＵのmvd_codingのシンタクスの例を示す図である。
【図１４】図１の符号化装置のストリーム生成処理を説明するフローチャートである。
【図１５】図１４の符号化処理の詳細を説明するフローチャートである。
【図１６】図１４の符号化処理の詳細を説明するフローチャートである。
【図１７】図１５の動き予測・補償処理の詳細を説明するフローチャートである。
【図１８】本開示を適用した復号装置の第１実施の形態の構成例を示すブロック図である。
【図１９】図１８の復号部の構成例を示すブロック図である。
【図２０】図１９の動き補償部の構成例を示すブロック図である。
【図２１】図１８の復号装置の画像生成処理を説明するフローチャートである。
【図２２】図２１の復号処理の詳細を説明するフローチャートである。
【図２３】図２２の動き補償処理の詳細を説明するフローチャートである。
【図２４】参照方向ごとの拡大縮小率情報の算出方法を説明する図である。
【図２５】本開示を適用した符号化装置の第２実施の形態の符号化部の構成例を示すブロック図である。
【図２６】図２５の動き予測・補償部の構成例を示すブロック図である。
【図２７】図２５の符号化部の符号化処理を説明するフローチャートである。
【図２８】図２５の符号化部の符号化処理を説明するフローチャートである。
【図２９】図２７の動き予測・補償処理の詳細を説明するフローチャートである。
【図３０】本開示を適用した復号装置の第２実施の形態の復号部の構成例を示すブロック図である。
【図３１】図３０の動き補償部の構成例を示すブロック図である。
【図３２】図３０の復号部の復号処理を説明するフローチャートである。
【図３３】図３２の動き補償処理の詳細を説明するフローチャートである。
【図３４】コンピュータのハードウエアの構成例を示すブロック図である。
【図３５】多視点画像符号化方式の例を示す図である。
【図３６】本開示を適用した多視点画像符号化装置の構成例を示す図である。
【図３７】本開示を適用した多視点画像復号装置の構成例を示す図である。
【図３８】階層画像符号化方式の例を示す図である。
【図３９】スペーシャルなスケーラブル符号化の例を説明する図である。
【図４０】テンポラルなスケーラブル符号化の例を説明する図である。
【図４１】信号雑音比のスケーラブル符号化の例を説明する図である。
【図４２】本開示を適用した階層画像符号化装置の構成例を示す図である。
【図４３】本開示を適用した階層画像復号装置の構成例を示す図である。
【図４４】本開示を適用したテレビジョン装置の概略構成例を示す図である。
【図４５】本開示を適用した携帯電話機の概略構成例を示す図である。
【図４６】本開示を適用した記録再生装置の概略構成例を示す図である。
【図４７】本開示を適用した撮像装置の概略構成例を示す図である。
【図４８】スケーラブル符号化利用の一例を示すブロック図である。
【図４９】スケーラブル符号化利用の他の例を示すブロック図である。
【図５０】スケーラブル符号化利用のさらに他の例を示すブロック図である。
【図５１】本開示を適用したビデオセットの概略的な構成の一例を示している。
【図５２】本開示を適用したビデオプロセッサの概略的な構成の一例を示している。
【図５３】本開示を適用したビデオプロセッサの概略的な構成の他の例を示している。
【発明を実施するための形態】
【００２７】
＜第１実施の形態＞
（符号化装置の第１実施の形態の構成例）
図１は、本開示を適用した符号化装置の第１実施の形態の構成例を示すブロック図である。
【００２８】
図１の符号化装置１０は、設定部１１、符号化部１２、および伝送部１３により構成され、画像をHEVC方式に準ずる方式で符号化する。
【００２９】
具体的には、符号化装置１０の設定部１１は、SPS（Sequence Parameter Set）,PPS（Picture Parameter Set），VUI(Video Usability Information),SEI（Supplemental Enhancement Information）などのパラメータセットを設定する。設定部１１は、設定されたパラメータセットを符号化部１２に供給する。
【００３０】
符号化部１２には、フレーム単位の画像が入力される。符号化部１２は、入力された画像をHEVC方式で符号化する。符号化部１２は、符号化の結果得られる符号化データと設定部１１から供給されるパラメータセットから符号化ストリームを生成し、伝送部１３に供給する。
【００３１】
伝送部１３は、符号化部１２から供給される符号化ストリームを、後述する復号装置に伝送する。
【００３２】
（符号化部の構成例）
図２は、図１の符号化部１２の構成例を示すブロック図である。
【００３３】
図２の符号化部１２は、A/D変換部３１、画面並べ替えバッファ３２、演算部３３、直交変換部３４、量子化部３５、可逆符号化部３６、蓄積バッファ３７、生成部３８、逆量子化部３９、逆直交変換部４０、および加算部４１を有する。また、符号化部１２は、デブロックフィルタ４２、適応オフセットフィルタ４３、適応ループフィルタ４４、フレームメモリ４５、スイッチ４６、イントラ予測部４７、動き予測・補償部４８、決定部４９、予測画像選択部５０、およびレート制御部５１を有する。
【００３４】
符号化部１２のA/D変換部３１は、符号化対象として入力されたフレーム単位の画像をA/D変換する。A/D変換部３１は、変換後のデジタル信号である画像を画面並べ替えバッファ３２に出力して記憶させる。
【００３５】
画面並べ替えバッファ３２は、記憶した表示の順番のフレーム単位の画像を、GOP構造に応じて、符号化のための順番に並べ替える。画面並べ替えバッファ３２は、並べ替え後の画像を、演算部３３、イントラ予測部４７、および動き予測・補償部４８に出力する。
【００３６】
演算部３３は、符号化部として機能し、画面並べ替えバッファ３２から供給される画像から、予測画像選択部５０から供給される予測画像を減算することにより符号化を行う。演算部３３は、その結果得られる画像を、残差情報として直交変換部３４に出力する。なお、予測画像選択部５０から予測画像が供給されない場合、演算部３３は、画面並べ替えバッファ３２から生成された画像をそのまま残差情報として直交変換部３４に出力する。
【００３７】
直交変換部３４は、演算部３３からの残差情報をＴＵ（transform unit）単位で直交変換する。直交変換部３４は、直交変換の結果得られる直交変換係数を量子化部３５に供給する。
【００３８】
量子化部３５は、直交変換部３４から供給される直交変換係数に対して量子化を行う。量子化部３５は、量子化された直交変換係数を可逆符号化部３６に供給する。
【００３９】
可逆符号化部３６は、最適イントラ予測モードを示すイントラ予測モード情報をイントラ予測部４７から取得する。また、可逆符号化部３６は、最適インター予測モードを示すインター予測モード情報、動きベクトルに関する動きベクトル情報、参照画像を特定する参照画像特定情報、拡大縮小率を表す拡大縮小率情報の符号化結果である符号化拡大縮小率情報などを動き予測・補償部４８から取得する。拡大縮小率とは、符号化対象の画像に対する参照画像の拡大または縮小の率であり、ここでは、水平方向および垂直方向で同一である。
【００４０】
また、可逆符号化部３６は、適応オフセットフィルタ４３からオフセットフィルタに関するオフセットフィルタ情報を取得し、適応ループフィルタ４４からフィルタ係数を取得する。
【００４１】
可逆符号化部３６は、量子化部３５から供給される量子化された直交変換係数に対して、可変長符号化（例えば、CAVLC（Context-Adaptive Variable Length Coding）など）、算術符号化（例えば、CABAC（Context-Adaptive Binary Arithmetic Coding）など）などの可逆符号化を行う。
【００４２】
また、可逆符号化部３６は、イントラ予測モード情報、または、インター予測モード情報、動きベクトル情報、参照画像特定情報、および符号化拡大縮小率情報、オフセットフィルタ情報、並びにフィルタ係数を、符号化に関する符号化情報として可逆符号化する。可逆符号化部３６は、可逆符号化された符号化情報と直交変換係数を、符号化データとして蓄積バッファ３７に供給し、蓄積させる。なお、可逆符号化された符号化情報は、スライスヘッダ等のヘッダ部として符号化データに付加されるようにしてもよい。
【００４３】
蓄積バッファ３７は、可逆符号化部３６から供給される符号化データを、一時的に記憶する。また、蓄積バッファ３７は、記憶している符号化データを生成部３８に供給する。
【００４４】
生成部３８は、図１の設定部１１から供給されるパラメータセットと蓄積バッファ３７から供給される符号化データから符号化ストリームを生成し、図１の伝送部１３に供給する。
【００４５】
また、量子化部３５より出力された、量子化された直交変換係数は、逆量子化部３９にも入力される。逆量子化部３９は、量子化部３５により量子化された直交変換係数に対して、量子化部３５における量子化方法に対応する方法で逆量子化を行う。逆量子化部３９は、逆量子化の結果得られる直交変換係数を逆直交変換部４０に供給する。
【００４６】
逆直交変換部４０は、ＴＵ単位で、逆量子化部３９から供給される直交変換係数に対して、直交変換部３４における直交変換方法に対応する方法で逆直交変換を行う。逆直交変換部４０は、その結果得られる残差情報を加算部４１に供給する。
【００４７】
加算部４１は、逆直交変換部４０から供給される残差情報と、予測画像選択部５０から供給される予測画像を加算し、局部的に復号を行う。なお、予測画像選択部５０から予測画像が供給されない場合、加算部４１は、逆直交変換部４０から供給される残差情報を局部的に復号された画像とする。加算部４１は、局部的に復号された画像をデブロックフィルタ４２とフレームメモリ４５に供給する。
【００４８】
デブロックフィルタ４２は、加算部４１から供給される局部的に復号された画像に対して、ブロック歪を除去するデブロックフィルタ処理を行い、その結果得られる画像を適応オフセットフィルタ４３に供給する。
【００４９】
適応オフセットフィルタ４３は、デブロックフィルタ４２によるデブロックフィルタ処理後の画像に対して、主にリンギングを除去する適応オフセットフィルタ(SAO（Sample adaptive offset)）処理を行う。
【００５０】
具体的には、適応オフセットフィルタ４３は、最大の符号化単位であるLCU（Largest Coding Unit）ごとに適応オフセットフィルタ処理の種類を決定し、その適応オフセットフィルタ処理で用いられるオフセットを求める。適応オフセットフィルタ４３は、求められたオフセットを用いて、デブロックフィルタ処理後の画像に対して、決定された種類の適応オフセットフィルタ処理を行う。
【００５１】
適応オフセットフィルタ４３は、適応オフセットフィルタ処理後の画像を適応ループフィルタ４４に供給する。また、適応オフセットフィルタ４３は、行われた適応オフセットフィルタ処理の種類とオフセットを示す情報を、オフセットフィルタ情報として可逆符号化部３６に供給する。
【００５２】
適応ループフィルタ４４は、例えば、２次元のウィナーフィルタ（Wiener Filter）により構成される。適応ループフィルタ４４は、適応オフセットフィルタ４３から供給される適応オフセットフィルタ処理後の画像に対して、例えば、LCUごとに、適応ループフィルタ（ALF(Adaptive Loop Filter)）処理を行う。
【００５３】
具体的には、適応ループフィルタ４４は、LCUごとに、画面並べ替えバッファ３２から出力される画像である原画像と適応ループフィルタ処理後の画像の残差が最小となるように、適応ループフィルタ処理で用いられるフィルタ係数を算出する。そして、適応ループフィルタ４４は、適応オフセットフィルタ処理後の画像に対して、算出されたフィルタ係数を用いて、LCUごとに適応ループフィルタ処理を行う。
【００５４】
適応ループフィルタ４４は、適応ループフィルタ処理後の画像をフレームメモリ４５に供給する。また、適応ループフィルタ４４は、適応ループフィルタ処理に用いられたフィルタ係数を可逆符号化部３６に供給する。
【００５５】
なお、ここでは、適応ループフィルタ処理は、LCUごとに行われるものとするが、適応ループフィルタ処理の処理単位は、LCUに限定されない。但し、適応オフセットフィルタ４３と適応ループフィルタ４４の処理単位を合わせることにより、処理を効率的に行うことができる。
【００５６】
フレームメモリ４５は、適応ループフィルタ４４から供給される画像と、加算部４１から供給される画像を蓄積する。フレームメモリ４５に蓄積されたフィルタ処理が行われていない画像のうちのＰＵ（Prediction Unit）に隣接する画素は、周辺画素としてスイッチ４６を介してイントラ予測部４７に供給される。一方、フレームメモリ４５に蓄積されたフィルタ処理が行われた画像は、参照画像としてスイッチ４６を介して動き予測・補償部４８に出力される。
【００５７】
イントラ予測部４７は、ＰＵ単位で、フレームメモリ４５からスイッチ４６を介して読み出された周辺画素を用いて、候補となる全てのイントラ予測モードのイントラ予測処理を行う。
【００５８】
また、イントラ予測部４７は、画面並べ替えバッファ３２から読み出された画像と、イントラ予測処理の結果生成される予測画像とに基づいて、候補となる全てのイントラ予測モードに対してコスト関数値（詳細は後述する）を算出する。そして、イントラ予測部４７は、コスト関数値が最小となるイントラ予測モードを、最適イントラ予測モードに決定する。
【００５９】
イントラ予測部４７は、最適イントラ予測モードで生成された予測画像、および、対応するコスト関数値を、予測画像選択部５０に供給する。イントラ予測部４７は、予測画像選択部５０から最適イントラ予測モードで生成された予測画像の選択が通知された場合、イントラ予測モード情報を可逆符号化部３６に供給する。
【００６０】
なお、コスト関数値は、RD(Rate Distortion)コストともいい、例えば、H．264/AVC方式における参照ソフトウエアであるJM(Joint Model)で定められているような、High Complexity モードまたはLow Complexity モードの手法に基づいて算出される。なお、H．264/AVC方式における参照ソフトウエアは、http://iphome.hhi.de/suehring/tml/index.htmにおいて公開されている。
【００６１】
具体的には、コスト関数値の算出手法としてHigh Complexity モードが採用される場合、候補となる全ての予測モードに対して、仮に復号までが行われ、次の式（１）で表わされるコスト関数値が各予測モードに対して算出される。
【００６２】
【数１】
2015128205.tif 000003
【００６３】
Dは、原画像と復号画像の差分（歪）、Rは、直交変換の係数まで含んだ発生符号量、λは、量子化パラメータQPの関数として与えられるラグランジュ未定乗数である。
【００６４】
一方、コスト関数値の算出手法としてLow Complexity モードが採用される場合、候補となる全ての予測モードに対して、予測画像の生成、および、符号化情報の符号量の算出が行われ、次の式（２）で表わされるコスト関数Cost(Mode)が各予測モードに対して算出される。
【００６５】
【数２】
2015128205.tif 000004
【００６６】
Dは、原画像と予測画像の差分（歪）、Header_Bitは、符号化情報の符号量、QPtoQuantは、量子化パラメータQPの関数として与えられる関数である。
【００６７】
Low Complexity モードにおいては、全ての予測モードに対して、予測画像を生成するだけでよく、復号画像を生成する必要がないため、演算量が少なくて済む。
【００６８】
動き予測・補償部４８は、ＰＵ単位で、決定部４９から供給される拡大縮小率、候補となるインター予測モード、動きベクトル、および参照画像に基づいて、動き予測・補償処理を行う。具体的には、動き予測・補償部４８は、フレームメモリ４５からスイッチ４６を介して候補となる参照画像を読み出す。動き予測・補償部４８は、参照画像に対して内挿フィルタ処理を行うことにより、参照画像を高解像度化する。
【００６９】
また、動き予測・補償部４８は、候補となるインター予測モード、分数画素精度の動きベクトル、および拡大縮小率に基づいて、高解像度化された参照画像に補償処理を施し、予測画像を生成する。なお、インター予測モードとは、ＰＵのサイズと動きベクトルの符号化モードを表すモードである。動きベクトルの符号化モードとしては、マージモード、AMVP(Advanced Motion Vector Prediction)モードなどがある。
【００７０】
マージモードとは、処理対象のＰＵの時間的および空間的に周辺のＰＵ（以下、周辺ＰＵという）の動きベクトルを用いて処理対象のＰＵの動きベクトルを生成し、動きベクトル情報を伝送しないモードである。なお、時間的な周辺ＰＵの動きベクトルは、マージモードの動きベクトルの生成に用いないようにすることもできる。この場合、時間的な周辺ＰＵの動きベクトルをマージモードの動きベクトルの生成に用いないかどうかを表す情報（emporal_mvp_enabled_flag）がSPSまたはスライスヘッダに設定されるようにしてもよい。
【００７１】
また、AMVPモードとは、周辺ＰＵの動きベクトルと処理対象のＰＵの動きベクトルの差分を、動きベクトル情報として伝送するモードである。動きベクトルの符号化モードがマージモードであり、直交変換係数が伝送されないブロックが、スキップモードブロック（スキップマクロ）である。
【００７２】
また、動き予測・補償部４８は、画面並べ替えバッファ３２から供給される画像と予測画像とに基づいて、インター予測モード、動きベクトル、拡大縮小率、および参照画像の組み合わせに対してコスト関数値を算出する。動き予測・補償部４８は、コスト関数値が最小となるインター予測モードを最適インター予測モードに決定する。また、動き予測・補償部４８は、コスト関数値が最小となる動きベクトル、拡大縮小率、および参照画像を、最適な動きベクトル、拡大縮小率、および参照画像に決定する。そして、動き予測・補償部４８は、最適インター予測モードの予測画像とコスト関数値を予測画像選択部５０に供給する。
【００７３】
また、動き予測・補償部４８は、予測画像選択部５０から最適インター予測モードで生成された予測画像の選択が通知された場合、インター予測モード情報、並びに、最適な動きベクトルの動きベクトル情報、参照画像の参照画像特定情報、および拡大縮小率の符号化拡大縮小率情報を可逆符号化部３６に出力する。
【００７４】
決定部４９は、ＰＵ単位で、候補となる拡大縮小率を動き予測・補償部４８に供給する。本実施の形態では、拡大縮小率は、水平方向および垂直方向で共通の２ｒ（rは整数）であり、拡大縮小率情報はrを表す。
【００７５】
予測画像選択部５０は、イントラ予測部４７および動き予測・補償部４８から供給されるコスト関数値に基づいて、最適イントラ予測モードと最適インター予測モードのうちの、対応するコスト関数値が小さい方を、最適予測モードに決定する。そして、予測画像選択部５０は、最適予測モードの予測画像を、演算部３３および加算部４１に供給する。また、予測画像選択部５０は、最適予測モードの予測画像の選択をイントラ予測部４７または動き予測・補償部４８に通知する。
【００７６】
レート制御部５１は、蓄積バッファ３７に蓄積された符号化データに基づいて、オーバーフローあるいはアンダーフローが発生しないように、量子化部３５の量子化動作のレートを制御する。
【００７７】
（符号化単位の説明）
図３は、HEVC方式における符号化単位であるCoding Unit(CU)を説明する図である。
【００７８】
HEVC方式では、4000画素×2000画素のUHD（Ultra High Definition）などのような大きな画枠の画像も対象としているため、符号化単位のサイズを16画素×16画素に固定することは最適ではない。従って、HEVC方式では、符号化単位としてCUが定義されている。このCUの詳細については、非特許文献１に記載されている。
【００７９】
CUは、AVC方式におけるマクロブロックと同様の役割を果たす。具体的には、CUはPUに分割されたり、TUに分割されたりする。TUのサイズは、例えば、4×4画素、16×16画素、32×32画素である。
【００８０】
但し、CUのサイズは、シーケンスごとに可変の２のべき乗画素で表される正方形である。具体的には、CUは、最大のサイズのCUであるLCUを、最小のサイズのCUであるSCU(Smallest Coding Unit)より小さくならないように、任意の回数だけ水平方向および垂直方向に２分割することにより設定される。即ち、LCUを、SCUになるまで、上の階層のサイズが下の階層のサイズの1/4となるように階層化したときの任意の階層のサイズがCUのサイズである。
【００８１】
例えば、図３では、LCUのサイズが128であり、SCUのサイズが8である。従って、LCUの階層深度（Depth）は0乃至4となり、階層深度数は5となる。即ち、CUに対応する分割数は0乃至4のいずれかである。
【００８２】
なお、LCUとSCUのサイズを指定する情報は、SPSに含められる。また、CUに対応する分割数は、各階層においてさらに分割するかどうかを表すsplit_flagにより指定される。
【００８３】
TUのサイズは、CUのsplit_flagと同様に、split_transform_flagを用いて指定することができる。インター予測時およびイントラ予測時のTUの最大分割数は、それぞれ、max_transform_hierarchy_depth_inter,max_transform_hierarchy_depth_intraとして、SPSにより指定される。
【００８４】
また、本明細書において、CTU（Coding Tree Unit）は、LCUのCTB（Coding Tree Block）と、そのLCUベース（レベル）で処理するときのパラメータを含む単位であるとする。また、CTUを構成するCUは、CB(Coding Block)と、そのCUベース（レベル）で処理するときのパラメータを含む単位であるとする。
【００８５】
（動き予測・補償部の構成例）
図４は、図２の動き予測・補償部４８の構成例を示すブロック図である。
【００８６】
図４の動き予測・補償部４８は、線形内挿フィルタ８１、参照画像バッファ８２、ローパスフィルタ８３、生成部８４、入力画像バッファ８５、ＰＵバッファ８６、算出部８７、決定部８８、および情報符号化部８９により構成される。
【００８７】
動き予測・補償部４８の線形内挿フィルタ８１は、２次元の線形内挿フィルタである。線形内挿フィルタ８１は、候補となる参照画像をフレームメモリ４５からスイッチ４６を介して読み出す。線形内挿フィルタ８１は、読み出された参照画像に対して内挿フィルタ処理を行うことにより、高解像度化を行う。線形内挿フィルタ８１は、高解像度化された参照画像を参照画像バッファ８２に供給する。
【００８８】
参照画像バッファ８２は、線形内挿フィルタ８１から供給される参照画像を保持する。参照画像バッファ８２は、拡大縮小部として機能し、決定部４９から供給される拡大縮小率に基づいて、保持している参照画像を読み出すことにより、拡大縮小率で拡大または縮小された参照画像を生成し、ローパスフィルタ８３に供給する。
【００８９】
ローパスフィルタ８３は、例えば、121型のローパスフィルタである。ローパスフィルタ８３は、参照画像バッファ８２から供給される参照画像に対して、水平方向および垂直方向にローパスフィルタ処理を施す。これにより、参照画像の折り返し歪みを減少させることができる。その結果、予測精度が向上し、符号化効率が向上する。ローパスフィルタ８３は、ローパスフィルタ処理後の参照画像を生成部８４に供給する。
【００９０】
生成部８４は、ＰＵ単位で、候補となる動きベクトルに基づいて、ローパスフィルタ８３から供給される参照画像に補償処理を施し、予測画像を生成する。生成部８４は、予測画像を算出部８７に供給する。候補となる動きベクトルは、マージモードまたはAMVPモード時の動きベクトルとしての、周辺ＰＵの動きベクトルを用いて決定される動きベクトルと、分数精度の所定の動きベクトルである。
【００９１】
入力画像バッファ８５は、画面並べ替えバッファ３２から供給される画像を保持する。入力画像バッファ８５は、候補となるインター予測モードごとに、保持している画像をＰＵ単位でＰＵバッファ８６に供給する。ＰＵバッファ８６は、入力画像バッファ８５から供給されるＰＵ単位の画像を保持する。
【００９２】
算出部８７は、ＰＵバッファ８６からＰＵ単位の画像を読み出す。算出部８７は、インター予測モード、動きベクトル、参照画像、および拡大縮小率の組み合わせに対して、読み出された画像と予測画像とに基づいて、コスト関数値を算出する。算出部８７は、コスト関数値と、対応するインター予測モード、動きベクトル、参照画像、および拡大縮小率の組み合わせ並びに予測画像とを決定部８８に供給する。
【００９３】
決定部８８は、算出部８７から供給されるコスト関数値が最小となるときのインター予測モードを最適インター予測モードに決定し、動きベクトル、参照画像、および拡大縮小率を最適な動きベクトル、参照画像、および拡大縮小率に決定する。決定部８８は、最適インター予測モードの予測画像とコスト関数値を図２の予測画像選択部５０に供給する。また、予測画像選択部５０から最適インター予測モードで生成された予測画像の選択が通知された場合、決定部８８は、最適インター予測モード、並びに、最適な動きベクトル、参照画像の参照画像特定情報、および拡大縮小率の拡大縮小率情報を情報符号化部８９に供給する。
【００９４】
情報符号化部８９は、決定部８８から供給される拡大縮小率情報をコンテクストモデリングにより符号化し、符号化拡大縮小率情報を生成する。具体的には、情報符号化部８９は、処理対象のＰＵの拡大縮小率情報と処理対象のＰＵの周辺のＰＵの拡大縮小率情報の差分を、符号化拡大縮小率情報として算出する。
【００９５】
また、情報符号化部８９は、動きベクトルの符号化モードがマージモードである場合、動きベクトル情報として何も生成しない。情報符号化部８９は、動きベクトルの符号化モードがAMVPモードである場合、処理対象のＰＵの動きベクトルと周辺ＰＵの動きベクトルの差分を、動きベクトル情報として生成する。一方、動きベクトルの符号化モードがマージモードおよびAMVPモードではない場合、情報符号化部８９は、処理対象のＰＵの動きベクトルを表す情報を動きベクトル情報として生成する。
【００９６】
情報符号化部８９は、インター予測モード情報、動きベクトル情報、参照画像特定情報、および符号化拡大縮小率情報を図２の可逆符号化部３６に供給する。
【００９７】
（インター予測のＰＵの説明）
図５は、インター予測のＰＵ（動き補償パーテーション）を説明する図である。
【００９８】
図５では、ＣＵが２Ｎ×２Ｎ画素であるものとする。
【００９９】
インター予測のＰＵは、図５の上段に示すようにＣＵを対称分割したり、図５の下段に示すようにＣＵを非対称分割したりすることにより形成される。
【０１００】
具体的には、インター予測のＰＵは、ＣＵそのものである２Ｎ×２Ｎ画素、ＣＵを左右対称に２分割したＮ×２Ｎ画素、またはＣＵを上下対称に２分割した２Ｎ×Ｎ画素とすることができる。但し、インター予測のＰＵは、ＣＵを上下左右対称に２分割したＮ×Ｎ画素とすることはできない。従って、例えば、１６×１６画素をインター予測のＰＵとする場合には、ＣＵを３２×３２画素ではなく、１６×１６画素にする必要がある。
【０１０１】
また、インター予測のＰＵは、ＣＵを非対称分割（AMP（asymmetric motion partition)）することにより構成されることもできる。即ち、インター予測のＰＵは、ＣＵを左右非対称に左側が小さくなるように２分割した1/2Ｎ×２Ｎ画素（Left）、またはＣＵを左右非対称に右側が小さくなるように２分割した1/2Ｎ×２Ｎ画素（Right）とすることもできる。また、インター予測のＰＵは、ＣＵを上下非対称に上側が小さくなるように２分割した２Ｎ×1/2Ｎ画素（Upper）、または、ＣＵを上下非対称に下側が小さくなるように２分割した２Ｎ×1/2Ｎ画素（Lower）とすることもできる。
【０１０２】
インター予測のＰＵが、ＣＵを非対称分割することにより構成されるかどうかを表す情報（amp_enabled_flag）は、SPSに設定される。
【０１０３】
インター予測の各ＰＵに対しては、独立して、インター予測モード、動きベクトル、参照画像、拡大縮小率などが設定される。HEVC方式では、ＣＵの最小サイズが８×８画素であり、インター予測のＰＵの最小サイズは、４×８画素または８×４画素である。HEVC方式では、メモリバンド幅を緩和するため、インター予測のＰＵのサイズを４×４画素とすることはできない。
【０１０４】
（輝度信号に対する内挿フィルタ処理の説明）
図６は、図４の線形内挿フィルタ８１による輝度信号に対する内挿フィルタ処理を説明する図である。
【０１０５】
なお、図６において、斜線が付された正方形は、内挿フィルタ処理前の参照画像の画素（以下、前画素という）を表し、斜線が付されていな正方形は、内挿フィルタ処理後の参照画像の画素（以下、後画素という）を表す。このことは、後述する図８においても同様である。
【０１０６】
動き予測・補償部４８は、1/4画素精度で輝度信号の動き予測・補償処理を行う。従って、線形内挿フィルタ８１は、８タップまたは７タップの２次元の線形内挿適応フィルタを用いて、参照画像の輝度信号に対して水平方向および垂直方向に内挿フィルタ処理を行うことにより、前画素の間隔の1/4の間隔の後画素を生成する。
【０１０７】
例えば、ある前画素Ａ０，０に対して、前画素Ａ０，０と、前画素Ａ０，０に隣接する前画素Ａ１，０および前画素Ａ０，１との間に、前画素Ａ０，０の位置を左上の位置とした4×4の位置の前画素Ａ０，０並びに後画素ａ０，０乃至ｋ０，０，ｎ０，０、およびｐ０，０乃至ｒ０，０が生成される。なお、前画素Ａｉ，ｊのｉは、前画素Ａｉ，ｊの水平方向の位置を表し、ｊは垂直方向の位置を表す。また、後画素ａｉ，ｊ乃至ｋｉ，ｊ，ｎｉ，ｊ、およびｐｉ，ｊ乃至ｒｉ，ｊのｉは、対応する前画素Ａｉ，ｊの水平方向の位置を表し、ｊは垂直方向の位置を表す。
【０１０８】
８タップまたは７タップの２次元の線形内挿適応フィルタのフィルタ係数は、図７に示すようになる。即ち、生成する後画素に最も近い前画素のインデックス（index）が０とされ、その画素の前画素に対する方向に並ぶ画素のインデックスが、生成する後画素から近い順に大きくされ、その方向と逆の方向に並ぶ画素のインデックスが、生成する後画素から近い順に小さくされる。
【０１０９】
このとき、内挿フィルタ処理の方向に最も近い前画素との距離が前画素の間隔の1/2である後画素を生成する際の各インデックスi(i=-3,-2,-1,0,1,2,3,4)の画素に対する８タップのフィルタ係数（hfilter[i]）は、iが小さい方から順に、-1,4,-11,40,40,-11,4,-1となる。
【０１１０】
また、内挿フィルタ処理の方向に最も近い前画素との距離が前画素の間隔の1/4である後画素を生成する際の各インデックスiの画素に対する７タップのフィルタ係数（qfilter[i]）は、iが小さい方から順に、-1,4,-10,58,17,-5,1となる。
【０１１１】
従って、後画素ａ０，０乃至ｄ０，０，ｈ０，０、およびｎ０，０は、以下の式（３）により算出される。
【０１１２】
【数３】
2015128205.tif 000005
【０１１３】
なお、式（３）において、shift1は、符号化対象の画像の輝度信号のビット深度BitDepthyから8を減算した値である。
【０１１４】
また、後画素ｅ０，０乃至ｇ０，０，ｉ０，０乃至ｋ０，０、およびｐ０，０乃至ｒ０，０は、以下の式（４）により算出される。
【０１１５】
【数４】
2015128205.tif 000006
【０１１６】
なお、式（４）において、shift2は、ビット深度BitDepthyから6を減算した値である。
【０１１７】
（色差信号に対する内挿フィルタ処理の説明）
図８は、図４の線形内挿フィルタ８１による色差信号に対する内挿フィルタ処理を説明する図である。
【０１１８】
動き予測・補償部４８は、1/8画素精度で色差信号の動き予測・補償処理を行う。従って、線形内挿フィルタ８１は、４タップの２次元の線形内挿適応フィルタを用いて、参照画像の色差信号に対して水平方向および垂直方向に内挿フィルタ処理を行うことにより、前画素の間隔の1/8の間隔の後画素を生成する。
【０１１９】
例えば、ある前画素Ｂ０，０に対して、前画素Ｂ０，０と、前画素Ｂ０，０に隣接する前画素Ｂ１，０および前画素Ｂ０，１との間に、前画素Ｂ０，０の位置を左上の位置とした8×8の位置の前画素Ｂ０，０並びに後画素ａｂ０，０乃至ａｈ０，０，ｂａ０，０乃至ｂｈ０，０，ｃａ０，０乃至ｃｈ０，０，ｄａ０，０乃至ｄｈ０，０，ｅａ０，０乃至ｅｈ０，０，ｆａ０，０乃至ｆｈ０，０，ｇａ０，０乃至ｇｈ０，０、およびｈａ０，０乃至ｈｈ０，０が生成される。
【０１２０】
なお、前画素Ｂｉ，ｊのｉは、前画素Ａｉ，ｊの水平方向の位置を表し、ｊは垂直方向の位置を表す。また、後画素ａｂｉ，ｊ乃至ａｈｉ，ｊ，ｂａｉ，ｊ乃至ｂｈｉ，ｊ，ｃａｉ，ｊ乃至ｃｈｉ，ｊ，ｄａｉ，ｊ乃至ｄｈｉ，ｊ，ｅａｉ，ｊ乃至ｅｈｉ，ｊ，ｆａｉ，ｊ乃至ｆｈｉ，ｊ，ｇａｉ，ｊ乃至ｇｈｉ，ｊ、およびｈａｉ，ｊ乃至ｈｈｉ，ｊのｉは、対応する前画素Ｂｉ，ｊの水平方向の位置を表し、ｊは垂直方向の位置を表す。
【０１２１】
４タップの２次元の線形内挿適応フィルタのフィルタ係数は、図９に示すようになる。即ち、生成する後画素に最も近い画素のインデックスが０とされ、その画素の前画素に対する方向に並ぶ画素のインデックスが、生成する後画素から近い順に大きくされ、その方向と逆の方向に並ぶ画素のインデックスが、生成する後画素から近い順に小さくされる。
【０１２２】
このとき、内挿フィルタ処理の方向に最も近い前画素との距離が前画素の間隔の1/8である後画素を生成する際の各インデックスi(i=-1,0,1,2)の画素に対するフィルタ係数（filter1[i]）は、iが小さい方から順に、-2,58,10,-2となる。
【０１２３】
また、内挿フィルタ処理の方向に最も近い前画素との距離が前画素の間隔の2/8である後画素を生成する際の各インデックスiの画素に対するフィルタ係数（filter2[i]）は、iが小さい方から順に、-4,54,16,-2となる。内挿フィルタ処理の方向に最も近い前画素との距離が前画素の間隔の3/8である後画素を生成する際の各インデックスiの画素に対するフィルタ係数（filter3[i]）は、iが小さい方から順に、-6,46,28,-4となる。
【０１２４】
さらに、内挿フィルタ処理の方向に最も近い前画素との距離が前画素の間隔の4/8である後画素を生成する際の各インデックスiの画素に対するフィルタ係数（filter4[i]）は、iが小さい方から順に、-4,36,36,-4となる。
【０１２５】
従って、後画素ａｂ０，０乃至ａｈ０，０は、以下の式（５）により算出される。
【０１２６】
【数５】
2015128205.tif 000007
【０１２７】
なお、式（５）において、shift1は、符号化対象の画像の色差信号のビット深度BitDepthcから8を減算した値である。このことは、後述する式（６）においても同様である。
【０１２８】
また、後画素ｂａ０，０乃至ｈａ０，０は、以下の式（６）により算出される。
【０１２９】
【数６】
2015128205.tif 000008
【０１３０】
さらに、後画素ｂＸ０，０乃至ｈＸ０，０(X=b,c,d,e,f,g,h)は、以下の式（７）により算出される。
【０１３１】
【数７】
2015128205.tif 000009
【０１３２】
なお、式（７）において、shift2は、ビット深度BitDepthcから6を減算した値である。
【０１３３】
輝度信号および色差信号の内挿フィルタ処理は、16ビット精度に収まるようにされる。
【０１３４】
（参照画像バッファにおける読み出し処理の説明）
図１０および図１１は、図４の参照画像バッファ８２における読み出し処理を説明する図である。なお、図１０および図１１において、丸は画素を表す。
【０１３５】
図１０に示すように、拡大縮小率情報が0より小さい値である場合、即ち、拡大縮小率情報が拡大の率を表す場合、参照画像バッファ８２は、拡大縮小率情報が表す拡大縮小率に基づいて、参照画像９１を拡大し、拡大後の参照画像９２を生成する。
【０１３６】
例えば、図１０に示すように、拡大縮小率情報が-1であり、参照画像９１のサイズが4×4画素である場合、参照画像バッファ８２は、参照画像９１の各画素９１ａを、その画素９１ａに対応する位置の2×2の画素９２ａ乃至９２ｄとして読み出す。これにより、参照画像バッファ８２は、8×8画素の拡大後の参照画像９２を生成する。
【０１３７】
一方、図１１に示すように、拡大縮小率情報が0より大きい値である場合、参照画像バッファ８２は、拡大縮小率情報が表す拡大縮小率に基づいて、参照画像９３を縮小し、縮小後の参照画像９４を生成する。
【０１３８】
例えば、図１１に示すように、拡大縮小率情報が1であり、参照画像９３のサイズが8×8画素である場合、参照画像バッファ８２は、参照画像９３を2×2画素のブロック９３aに分割する。参照画像バッファ８２は、各ブロック９３ａ内の１つの画素９３ｂ（図１１の例では左上の画素）を代表画素として選択する。参照画像バッファ８２は、各ブロック９３ａの画素９３ｂを、そのブロック９３ａに対応する位置の画素９４ａとして読み出す。これにより、参照画像バッファ８２は、4×4画素の縮小後の参照画像９４を生成する。
【０１３９】
なお、参照画像バッファ８２は、代表画素として選択された画素９３ｂを画素９４ａにするのではなく、ブロック９３ａ内の画素を用いてブロック９３ａの中央の画素を生成し、画素９４ａとしてもよい。
【０１４０】
（マージモードにおける周辺ＰＵの例）
図１２は、マージモードにおける周辺ＰＵの例を示す図である。
【０１４１】
図１２に示すように、処理対象のＰＵ１０１のマージモードにおける空間的な周辺ＰＵの候補としては、ＰＵ１０１と左方向に隣接するＰＵ１０２および左下方向に隣接するＰＵ１０３がある。また、上方向に隣接するＰＵ１０４、右上方向に隣接するＰＵ１０５、左上方向に隣接するＰＵ１０６がある。
【０１４２】
空間的な周辺ＰＵとしては、availableのＰＵ１０２および１０３、並びに、ＰＵ１０４乃至１０６のうちのavailableのＰＵから、それぞれ１つずつが、以下の優先順位にしたがって選択される。なお、ＰＵ１０２乃至ＰＵ１０６の中で動きベクトルが同一であるものは、冗長性を排除するため、１つを除いて全てnot availableとされる。
【０１４３】
１．処理対象のＰＵ１０１と、参照画像および予測方向が同一であるＰＵ
２．処理対象のＰＵ１０１と、参照画像は同一であるが、予測方向は異なるＰＵ
３．処理対象のＰＵ１０１と、参照画像は異なるが、予測方向は同一であるＰＵ
４．処理対象のＰＵ１０１と、参照画像も、予測方向も異なるＰＵ
【０１４４】
優先順位が３番目または４番目である空間的な周辺ＰＵが選択される場合には、その周辺ＰＵの動きベクトルに対して以下の式（８）に示すスケーリング処理が行われ、スケーリング処理後の動きベクトルが、処理対象のＰＵ１０１の動きベクトルの生成に用いられる。
【０１４５】
【数８】
2015128205.tif 000010
【０１４６】
なお、式（８）において、mvLxAは、空間的な周辺ＰＵの動きベクトルである。また、tbとtdは、以下の式（９）で定義される。
【０１４７】
【数９】
2015128205.tif 000011
【０１４８】
式（９）によれば、tdは、処理対象のＰＵ１０１にコロケーテッドなＰＵ１０８とＰＵ１０８の参照画像のPOCの差分である。また、tbは、処理対象のＰＵ１０１とＰＵ１０１の参照画像のPOC（Picture Order Count）の差分である。なお、処理対象のＰＵ１０１にコロケーテッドなＰＵ１０８とは、処理対象のＰＵ１０１とは時間的に異なるが、空間的な位置は同一であるＰＵである。
【０１４９】
また、処理対象のＰＵ１０１のマージモードにおける時間的な周辺ＰＵの候補としては、処理対象のＰＵ１０１とは時間的に異なるが、空間的な位置およびサイズが同一である領域１０７の中央のＰＵ１０８と右下のＰＵ１０９がある。
【０１５０】
ＰＵ１０９がavailableである場合、時間的な周辺ＰＵはＰＵ１０９とされる。また、ＰＵ１０９がnot availableであるが、ＰＵ１０８がavailableである場合には、時間的な周辺ＰＵはＰＵ１０８とされる。
【０１５１】
（mvd_codingのシンタクスの例）
図１３は、ＰＵのmvd_codingのシンタクスの例を示す図である。
【０１５２】
図１３に示すように、拡大縮小率情報は、mvd_codingにlog2_expanding_factorとして設定される。
【０１５３】
（符号化装置の処理の説明）
図１４は、図１の符号化装置１０のストリーム生成処理を説明するフローチャートである。
【０１５４】
図１４のステップＳ１１において、符号化装置１０の設定部１１は、パラメータセットを設定する。設定部１１は、設定されたパラメータセットを符号化部１２に供給する。
【０１５５】
ステップＳ１２において、符号化部１２は、外部から入力されたフレーム単位の画像をHEVC方式で符号化する符号化処理を行う。この符号化処理の詳細は、後述する図１５および図１６を参照して説明する。
【０１５６】
ステップＳ１３において、符号化部１２の生成部３８（図２）は、設定部１１から供給されるパラメータセットと蓄積バッファ３７から供給される符号化データから符号化ストリームを生成し、伝送部１３に供給する。
【０１５７】
ステップＳ１４において、伝送部１３は、設定部１１から供給される符号化ストリームを、後述する復号装置に伝送し、処理を終了する。
【０１５８】
図１５および図１６は、図１４のステップＳ１２の符号化処理の詳細を説明するフローチャートである。
【０１５９】
図１５のステップＳ３０において、符号化部１２のA/D変換部３１は、符号化対象として入力されたフレーム単位の画像をA/D変換する。A/D変換部３１は、変換後のデジタル信号である画像を画面並べ替えバッファ３２に出力して記憶させる。
【０１６０】
ステップＳ３１において、画面並べ替えバッファ３２は、記憶した表示の順番のフレームの画像を、GOP構造に応じて、符号化のための順番に並べ替える。画面並べ替えバッファ３２は、並べ替え後のフレーム単位の画像を、演算部３３、イントラ予測部４７、および動き予測・補償部４８に供給する。
【０１６１】
ステップＳ３２において、イントラ予測部４７は、ＰＵ単位で、候補となる全てのイントラ予測モードのイントラ予測処理を行う。また、イントラ予測部４７は、画面並べ替えバッファ３２から読み出された画像と、イントラ予測処理の結果生成される予測画像とに基づいて、候補となる全てのイントラ予測モードに対してコスト関数値を算出する。そして、イントラ予測部４７は、コスト関数値が最小となるイントラ予測モードを、最適イントラ予測モードに決定する。イントラ予測部４７は、最適イントラ予測モードで生成された予測画像、および、対応するコスト関数値を、予測画像選択部５０に供給する。
【０１６２】
また、動き予測・補償部４８は、ＰＵ単位で、候補となるインター予測モード、動きベクトル、参照画像、および拡大縮小率に基づいて、動き予測・補償処理を行う。この動き予測・補償処理の詳細は、後述する図１７を参照して説明する。
【０１６３】
ステップＳ３３において、予測画像選択部５０は、イントラ予測部４７および動き予測・補償部４８から供給されるコスト関数値に基づいて、最適イントラ予測モードと最適インター予測モードのうちのコスト関数値が最小となる方を、最適予測モードに決定する。そして、予測画像選択部５０は、最適予測モードの予測画像を、演算部３３および加算部４１に供給する。
【０１６４】
ステップＳ３４において、予測画像選択部５０は、最適予測モードが最適インター予測モードであるかどうかを判定する。ステップＳ３４で最適予測モードが最適インター予測モードであると判定された場合、予測画像選択部５０は、最適インター予測モードで生成された予測画像の選択を動き予測・補償部４８に通知する。これにより、動き予測・補償部４８の決定部８８（図４）は、最適インター予測モード、並びに、最適な動きベクトル、参照画像の参照画像特定情報、および拡大縮小率の拡大縮小率情報を情報符号化部８９に供給する。
【０１６５】
そして、ステップＳ３５において、情報符号化部８９は、動きベクトルの符号化モードに応じて動きベクトル情報を生成する。また、情報符号化部８９は、決定部８８から供給される拡大縮小率をコンテクストモデリングにより符号化し、符号化拡大縮小率情報を生成する。
【０１６６】
ステップＳ３６において、情報符号化部８９は、インター予測モード情報、動きベクトル情報、参照画像特定情報、および符号化拡大縮小率情報を可逆符号化部３６に供給し、処理をステップＳ３８に進める。
【０１６７】
一方、ステップＳ３４で最適予測モードが最適インター予測モードではないと判定された場合、即ち最適予測モードが最適イントラ予測モードである場合、予測画像選択部５０は、最適イントラ予測モードで生成された予測画像の選択をイントラ予測部４７に通知する。そして、ステップＳ３７において、イントラ予測部４７は、イントラ予測モード情報を可逆符号化部３６に供給し、処理をステップＳ３８に進める。
【０１６８】
ステップＳ３８において、演算部３３は、画面並べ替えバッファ３２から供給される画像から、予測画像選択部５０から供給される予測画像を減算することにより符号化を行う。演算部３３は、その結果得られる画像を、残差情報として直交変換部３４に出力する。
【０１６９】
ステップＳ３９において、直交変換部３４は、演算部３３からの残差情報に対してＴＵ単位で直交変換を施し、その結果得られる直交変換係数を量子化部３５に供給する。
【０１７０】
ステップＳ４０において、量子化部３５は、直交変換部３４から供給される直交変換係数を量子化し、量子化された直交変換係数を可逆符号化部３６と逆量子化部３９に供給する。
【０１７１】
図１６のステップＳ４１において、逆量子化部３９は、量子化部３５から供給される量子化された直交変換係数を逆量子化し、その結果得られる直交変換係数を逆直交変換部４０に供給する。
【０１７２】
ステップＳ４２において、逆直交変換部４０は、逆量子化部３９から供給される直交変換係数に対してＴＵ単位で逆直交変換を施し、その結果得られる残差情報を加算部４１に供給する。
【０１７３】
ステップＳ４３において、加算部４１は、逆直交変換部４０から供給される残差情報と、予測画像選択部５０から供給される予測画像を加算し、局部的に復号を行う。加算部４１は、局部的に復号された画像をデブロックフィルタ４２とフレームメモリ４５に供給する。
【０１７４】
ステップＳ４４において、デブロックフィルタ４２は、加算部４１から供給される局部的に復号された画像に対して、デブロックフィルタ処理を行う。デブロックフィルタ４２は、その結果得られる画像を適応オフセットフィルタ４３に供給する。
【０１７５】
ステップＳ４５において、適応オフセットフィルタ４３は、デブロックフィルタ４２から供給される画像に対して、LCUごとに適応オフセットフィルタ処理を行う。適応オフセットフィルタ４３は、その結果得られる画像を適応ループフィルタ４４に供給する。また、適応オフセットフィルタ４３は、LCUごとに、オフセットフィルタ情報を可逆符号化部３６に供給する。
【０１７６】
ステップＳ４６において、適応ループフィルタ４４は、適応オフセットフィルタ４３から供給される画像に対して、LCUごとに適応ループフィルタ処理を行う。適応ループフィルタ４４は、その結果得られる画像をフレームメモリ４５に供給する。また、適応ループフィルタ４４は、適応ループフィルタ処理で用いられたフィルタ係数を可逆符号化部３６に供給する。
【０１７７】
ステップＳ４７において、フレームメモリ４５は、適応ループフィルタ４４から供給される画像と加算部４１から供給される画像を蓄積する。フレームメモリ４５に蓄積されたフィルタ処理が行われていない画像のうちのＰＵに隣接する画素は、周辺画素としてスイッチ４６を介してイントラ予測部４７に供給される。一方、フレームメモリ４５に蓄積されたフィルタ処理が行われた画像は、参照画像としてスイッチ４６を介して動き予測・補償部４８に出力される。
【０１７８】
ステップＳ４８において、可逆符号化部３６は、イントラ予測モード情報、または、インター予測モード情報、動きベクトル情報、参照画像特定情報、および符号化拡大縮小率情報、オフセットフィルタ情報、並びにフィルタ係数を、符号化情報として可逆符号化する。
【０１７９】
ステップＳ４９において、可逆符号化部３６は、量子化部３５から供給される量子化された直交変換係数を可逆符号化する。そして、可逆符号化部３６は、ステップＳ４８の処理で可逆符号化された符号化情報と可逆符号化された直交変換係数から、符号化データを生成し、蓄積バッファ３７に供給する。
【０１８０】
ステップＳ５０において、蓄積バッファ３７は、可逆符号化部３６から供給される符号化データを、一時的に蓄積する。
【０１８１】
ステップＳ５１において、レート制御部５１は、蓄積バッファ３７に蓄積された符号化データに基づいて、オーバーフローあるいはアンダーフローが発生しないように、量子化部３５の量子化動作のレートを制御する。
【０１８２】
ステップＳ５２において、蓄積バッファ３７は、記憶している符号化データを、生成部３８に出力する。そして、処理は、図１４のステップＳ１２に戻り、ステップＳ１３に進む。そして、処理は、図１４のステップＳ１２に戻り、ステップＳ１３に進む。
【０１８３】
なお、図１５および図１６の符号化処理では、説明を簡単化するため、常に、イントラ予測処理と動き予測・補償処理が行われるようにしたが、実際には、ピクチャタイプ等によっていずれか一方のみが行われる場合もある。
【０１８４】
図１７は、図１５のステップＳ３２の動き予測・補償処理の詳細を説明するフローチャートである。この動き予測・補償処理は、ＰＵ単位で行われる。
【０１８５】
図１７のステップＳ７１において、動き予測・補償部４８は、候補となる参照画像のうちのまだ現在の処理の参照画像に決定されていないものを、現在の処理の参照画像に決定する。
【０１８６】
ステップＳ７２において、決定部４９は、候補となる拡大縮小率のうちのまだ現在の処理の拡大縮小率に決定されていないものを、現在の処理の拡大縮小率に決定する。
【０１８７】
ステップＳ７３において、動き予測・補償部４８は、候補となるインター予測モードが表すＰＵのサイズのうちの、まだ現在の処理のＰＵのサイズに決定されていないものを、現在の処理のＰＵのサイズに決定する。
【０１８８】
ステップＳ７４において、動き予測・補償部４８の線形内挿フィルタ８１（図４）は、ステップＳ７１で決定された参照画像を、フレームメモリ４５からスイッチ４６を介して読み出す。
【０１８９】
ステップＳ７５において、線形内挿フィルタ８１は、読み出された参照画像に対して内挿フィルタ処理を行うことにより、参照画像を高解像度化する。線形内挿フィルタ８１は、高解像度化された参照画像を参照画像バッファ８２に供給して保持させる。
【０１９０】
ステップＳ７６において、参照画像バッファ８２は、決定部４９から供給される拡大縮小率に基づいて、保持している参照画像を読み出すことにより、拡大縮小率で拡大または縮小された参照画像を生成し、ローパスフィルタ８３に供給する。
【０１９１】
ステップＳ７７において、ローパスフィルタ８３は、参照画像バッファ８２から供給される参照画像に対して、水平方向および垂直方向にローパスフィルタ処理を施す。
【０１９２】
ステップＳ７８において、入力画像バッファ８５は、画面並べ替えバッファ３２から供給され、保持している画像のうちの、ステップＳ７３で決定されたサイズのＰＵを読み出し、ＰＵバッファ８６に供給して保持させる。
【０１９３】
ステップＳ７９において、生成部８４は、候補となる動きベクトルのうちの、まだ現在の処理対象の動きベクトルとして決定されていないものを、現在の処理対象の動きベクトルに決定する。
【０１９４】
ステップＳ８０において、生成部８４は、ステップＳ７９で決定された動きベクトルに基づいて、ローパスフィルタ８３から供給される参照画像に補償処理を施し、予測画像を生成する。生成部８４は、予測画像を算出部８７に供給する。
【０１９５】
ステップＳ８１において、算出部８７は、ＰＵバッファ８６からＰＵ単位の画像を読み出し、その画像と予測画像とに基づいてコスト関数値を算出する。算出部８７は、コスト関数値と予測画像を決定部８８に供給する。また、算出部８７は、ステップＳ７１，Ｓ７２、およびＳ７９で決定された参照画像、拡大縮小率、および動きベクトル、並びに、その動きベクトルに対応する動きベクトルの符号化モードとステップＳ７３で決定されたＰＵのサイズとを表すインター予測モードの組み合わせを決定部８８に供給する。
【０１９６】
ステップＳ８２において、動き予測・補償部４８は、候補となる動きベクトルの全てについてコスト関数値を算出したかどうか、即ち、ステップＳ７９で候補となる動きベクトルの全てが現在の処理の動きベクトルに決定されたかどうかを判定する。
【０１９７】
ステップＳ８２で候補となる動きベクトルの全てについてコスト関数値を算出していないと判定された場合、処理はステップＳ７９に戻る。そして、候補となる動きベクトルの全てについてコスト関数値を算出したと判定されるまで、ステップＳ７９乃至Ｓ８２の処理が繰り返される。
【０１９８】
一方、ステップＳ８２で候補となる動きベクトルの全てについてコスト関数値を算出したと判定された場合、処理はステップＳ８３に進む。ステップＳ８３において、動き予測・補償部４８は、候補となるＰＵのサイズの全てについてコスト関数値を算出したかどうか、即ち、ステップＳ７３で候補となるＰＵのサイズの全てが現在の処理のＰＵのサイズに決定されたかどうかを判定する。
【０１９９】
ステップＳ８３で候補となるＰＵのサイズの全てについてコスト関数値を算出していないと判定された場合、処理はステップＳ７３に戻る。そして、候補となるＰＵのサイズの全てについてコスト関数値を算出したと判定されるまで、ステップＳ７３乃至Ｓ８３の処理が繰り返される。
【０２００】
一方、ステップＳ８３で候補となるＰＵのサイズの全てについてコスト関数値を算出したと判定された場合、処理はステップＳ８４に進む。ステップＳ８４において、決定部４９は、候補となる拡大縮小率の全てについてコスト関数値を算出したかどうか、即ち、ステップＳ７２で候補となる拡大縮小率の全てが現在の処理の拡大縮小率に決定されたかどうかを判定する。
【０２０１】
ステップＳ８４で候補となる拡大縮小率の全てについてコスト関数値を算出していないと判定された場合、処理はステップＳ７２に戻る。そして、候補となる拡大縮小率の全てについてコスト関数値を算出したと判定されるまで、ステップＳ７２乃至Ｓ８４の処理が繰り返される。
【０２０２】
一方、ステップＳ８４で候補となる拡大縮小率の全てについてコスト関数値を算出したと判定された場合、処理はステップＳ８５に進む。ステップＳ８５において、動き予測・補償部４８は、候補となる参照画像の全てについてコスト関数値を算出したかどうか、即ち、ステップＳ７１で候補となる参照画像の全てが現在の処理の参照画像に決定されたかどうかを判定する。
【０２０３】
ステップＳ８５で候補となる参照画像の全てについてコスト関数値を算出していないと判定された場合、処理はステップＳ７１に戻る。そして、候補となる参照画像の全てについてコスト関数値を算出したと判定されるまで、ステップＳ７１乃至Ｓ８５の処理が繰り返される。
【０２０４】
一方、ステップＳ８５で候補となる参照画像の全てについてコスト関数値を算出したと判定された場合、ステップＳ８６において、決定部８８は、算出部８７から供給されるコスト関数値が最小となるときのインター予測モードを最適インター予測モードに決定する。また、決定部８８は、コスト関数値が最小となるときの動きベクトル、参照画像、および拡大縮小率を、最適な動きベクトル、参照画像、および拡大縮小率に決定する。
【０２０５】
ステップＳ８７において、決定部８８は、最適インター予測モードのコスト関数値と予測画像を図２の予測画像選択部５０に供給する。
【０２０６】
以上のように、符号化装置１０は、拡大縮小率情報に基づいて参照画像を拡大または縮小し、拡大または縮小された参照画像を用いて予測画像を生成する。従って、符号化対象の画像が拡大や縮小する場合の予測精度が向上し、符号化効率が向上する。
【０２０７】
（復号装置の第１実施の形態の構成例）
図１８は、図１の符号化装置１０から伝送される符号化ストリームを復号する、本開示を適用した復号装置の第１実施の形態の構成例を示すブロック図である。
【０２０８】
図１８の復号装置１１０は、受け取り部１１１、抽出部１１２、および復号部１１３により構成される。
【０２０９】
復号装置１１０の受け取り部１１１は、図１の符号化装置１０から伝送されてくる符号化ストリームを受け取り、抽出部１１２に供給する。
【０２１０】
抽出部１１２は、受け取り部１１１から供給される符号化ストリームから、パラメータセットと符号化データを抽出し、復号部１１３に供給する。
【０２１１】
復号部１１３は、抽出部１１２から供給される符号化データをHEVC方式で復号する。このとき、復号部１１３は、必要に応じて、抽出部１１２から供給されるパラメータセットも参照する。復号部１１３は、復号の結果得られる画像を出力する。
【０２１２】
（復号部の構成例）
図１９は、図１８の復号部１１３の構成例を示すブロック図である。
【０２１３】
図１９の復号部１１３は、蓄積バッファ１３１、可逆復号部１３２、逆量子化部１３３、逆直交変換部１３４、加算部１３５、デブロックフィルタ１３６、適応オフセットフィルタ１３７、適応ループフィルタ１３８、および画面並べ替えバッファ１３９を有する。また、復号部１１３は、D/A変換部１４０、フレームメモリ１４１、スイッチ１４２、イントラ予測部１４３、動き補償部１４４、情報復号部１４５、およびスイッチ１４６を有する。
【０２１４】
復号部１１３の蓄積バッファ１３１は、図１８の抽出部１１２から符号化データを受け取り、蓄積する。蓄積バッファ１３１は、蓄積されている符号化データを可逆復号部１３２に供給する。
【０２１５】
可逆復号部１３２は、蓄積バッファ１３１からの符号化データに対して、図２の可逆符号化部３６の可逆符号化に対応する、可変長復号や、算術復号等の可逆復号を施すことで、量子化された直交変換係数と符号化情報を得る。可逆復号部１３２は、量子化された直交変換係数を逆量子化部１３３に供給する。また、可逆復号部１３２は、符号化情報としてのイントラ予測モード情報などをイントラ予測部１４３に供給する。可逆復号部１３２は、インター予測モード情報と参照画像特定情報を動き補償部１４４に供給し、インター予測モード情報、動きベクトル情報、および符号化拡大縮小率情報を情報復号部１４５に供給する。
【０２１６】
さらに、可逆復号部１３２は、符号化情報としてのイントラ予測モード情報またはインター予測モード情報をスイッチ１４６に供給する。可逆復号部１３２は、符号化情報としてのオフセットフィルタ情報を適応オフセットフィルタ１３７に供給する。可逆復号部１３２は、符号化情報としてのフィルタ係数を適応ループフィルタ１３８に供給する。
【０２１７】
逆量子化部１３３、逆直交変換部１３４、加算部１３５、デブロックフィルタ１３６、適応オフセットフィルタ１３７、適応ループフィルタ１３８、フレームメモリ１４１、スイッチ１４２、イントラ予測部１４３、および動き補償部１４４は、図２の逆量子化部３９、逆直交変換部４０、加算部４１、デブロックフィルタ４２、適応オフセットフィルタ４３、適応ループフィルタ４４、フレームメモリ４５、スイッチ４６、イントラ予測部４７、および動き予測・補償部４８とそれぞれ同様の処理を行い、これにより、画像が復号される。
【０２１８】
具体的には、逆量子化部１３３は、可逆復号部１３２からの量子化された直交変換係数を逆量子化し、その結果得られる直交変換係数を逆直交変換部１３４に供給する。
【０２１９】
逆直交変換部１３４は、逆量子化部１３３からの直交変換係数に対してＴＵ単位で逆直交変換を行う。逆直交変換部１３４は、逆直交変換の結果得られる残差情報を加算部１３５に供給する。
【０２２０】
加算部１３５は、復号部として機能し、逆直交変換部１３４から供給される残差情報と、スイッチ１４６から供給される予測画像を加算することにより、復号を行う。加算部１３５は、復号の結果得られる画像をデブロックフィルタ１３６とフレームメモリ１４１に供給する。
【０２２１】
なお、スイッチ１４６から予測画像が供給されない場合、加算部１３５は、逆直交変換部１３４から供給される残差情報である画像を復号の結果得られる画像として、デブロックフィルタ１３６とフレームメモリ１４１に供給する。
【０２２２】
デブロックフィルタ１３６は、加算部１３５から供給される画像に対してデブロックフィルタ処理を行い、その結果得られる画像を適応オフセットフィルタ１３７に供給する。
【０２２３】
適応オフセットフィルタ１３７は、LCUごとに、可逆復号部１３２からのオフセットフィルタ情報が表すオフセットを用いて、デブロックフィルタ処理後の画像に対して、オフセットフィルタ情報が表す種類の適応オフセットフィルタ処理を行う。適応オフセットフィルタ１３７は、適応オフセットフィルタ処理後の画像を適応ループフィルタ１３８に供給する。
【０２２４】
適応ループフィルタ１３８は、適応オフセットフィルタ１３７から供給される画像に対して、可逆復号部１３２から供給されるフィルタ係数を用いて、LCUごとに適応ループフィルタ処理を行う。適応ループフィルタ１３８は、その結果得られる画像をフレームメモリ１４１および画面並べ替えバッファ１３９に供給する。
【０２２５】
画面並べ替えバッファ１３９は、適応ループフィルタ１３８から供給される画像をフレーム単位で記憶する。画面並べ替えバッファ１３９は、記憶した符号化のための順番のフレーム単位の画像を、元の表示の順番に並び替え、D/A変換部１４０に供給する。
【０２２６】
D/A変換部１４０は、画面並べ替えバッファ１３９から供給されるフレーム単位の画像をD/A変換し、出力する。
【０２２７】
フレームメモリ１４１は、適応ループフィルタ１３８から供給される画像と加算部１３５から供給される画像を蓄積する。フレームメモリ１４１に蓄積されたフィルタ処理が行われていない画像のうちのＰＵに隣接する画素は、周辺画素としてスイッチ１４２を介してイントラ予測部１４３に供給される。一方、フレームメモリ１４１に蓄積されたフィルタ処理が行われた画像は、参照画像として、スイッチ１４２を介して動き補償部１４４に供給される。
【０２２８】
イントラ予測部１４３は、ＰＵ単位で、フレームメモリ１４１からスイッチ１４２を介して読み出された周辺画素を用いて、可逆復号部１３２から供給されるイントラ予測モード情報が示す最適イントラ予測モードのイントラ予測処理を行う。イントラ予測部１４３は、その結果生成される予測画像をスイッチ１４６に供給する。
【０２２９】
動き補償部１４４は、ＰＵ単位で、情報復号部１４５から供給される拡大縮小率情報および動きベクトル、並びに、可逆復号部１３２から供給されるインター予測モード情報および参照画像特定情報に基づいて、動き補償処理を行う。具体的には、動き補償部１４４は、フレームメモリ１４１からスイッチ１４２を介して、可逆復号部１３２から供給される参照画像特定情報により特定される参照画像を読み出す。動き補償部１４４は、参照画像に対して内挿フィルタ処理を行うことにより、参照画像を高解像度化する。動き補償部１４４は、情報復号部１４５から供給される拡大縮小率情報および動きベクトル、並びに、インター予測モード情報が表すＰＵのサイズに基づいて、高解像度化された参照画像を用いて予測画像を生成する。動き補償部１４４は、予測画像をスイッチ１４６に供給する。
【０２３０】
情報復号部１４５は、可逆復号部１３２から供給される符号化拡大縮小率情報を復号する。具体的には、情報復号部１４５は、処理対象のＰＵの周辺のＰＵの拡大縮小率情報と、符号化拡大縮小率情報である差分を加算し、処理対象のＰＵの拡大縮小率情報を生成する。
【０２３１】
また、情報復号部１４５は、可逆復号部１３２から供給されるインター予測情報が表す動きベクトルの符号化モードがマージモードである場合、周辺ＰＵの動きベクトルを用いて処理対象のＰＵの動きベクトルを生成する。一方、情報復号部１４５は、動きベクトルの符号化モードがAMVPモードである場合、処理対象のＰＵの周辺のＰＵの動きベクトルと動きベクトル情報である動きベクトルの差分とを加算し、処理対象のＰＵの動きベクトルを生成する。
【０２３２】
また、情報復号部１４５は、動きベクトルの符号化モードがマージモードおよびAMVPモードではない場合、動きベクトル情報である動きベクトルを、処理対象のＰＵの動きベクトルとして生成する。情報復号部１４５は、拡大縮小率情報と動きベクトルを動き補償部１４４に供給する。
【０２３３】
スイッチ１４６は、可逆復号部１３２からイントラ予測モード情報が供給された場合、イントラ予測部１４３から供給される予測画像を加算部１３５に供給する。一方、可逆復号部１３２からインター予測モード情報が供給された場合、スイッチ１４６は、動き補償部１４４から供給される予測画像を加算部１３５に供給する。
【０２３４】
（動き補償部の構成例）
図２０は、図１９の動き補償部１４４の構成例を示すブロック図である。
【０２３５】
図２０の動き補償部１４４は、線形内挿フィルタ１６１、参照画像バッファ１６２、ローパスフィルタ１６３、および生成部１６４により構成される。
【０２３６】
動き補償部１４４の線形内挿フィルタ１６１は、２次元の線形内挿フィルタである。線形内挿フィルタ１６１は、図１９の可逆復号部１３２から供給される参照画像特定情報で特定される参照画像を、フレームメモリ１４１からスイッチ１４２を介して読み出す。線形内挿フィルタ１６１は、読み出された参照画像に対して内挿フィルタ処理を行うことにより、高解像度化を行う。線形内挿フィルタ１６１は、高解像度化された参照画像を参照画像バッファ１６２に供給する。
【０２３７】
参照画像バッファ１６２は、線形内挿フィルタ１６１から供給される参照画像を保持する。参照画像バッファ１６２は、拡大縮小部として機能し、図４の参照画像バッファ８２と同様に、情報復号部１４５から供給される拡大縮小率情報に基づいて、保持している参照画像を読み出す。これにより、拡大縮小率情報が表す拡大縮小率で拡大または縮小された参照画像が生成される。参照画像バッファ１６２は、参照画像をローパスフィルタ１６３に供給する。
【０２３８】
ローパスフィルタ１６３は、例えば、121型のローパスフィルタである。ローパスフィルタ１６３は、参照画像バッファ１６２から供給される参照画像に対して、ローパスフィルタ８３と同様に、水平方向および垂直方向にローパスフィルタ処理を施す。ローパスフィルタ１６３は、ローパスフィルタ処理後の参照画像を生成部１６４に供給する。
【０２３９】
生成部１６４は、可逆復号部１３２から供給されるインター予測モードが表すＰＵのサイズと、情報復号部１４５から供給される動きベクトルとに基づいて、ＰＵ単位で、ローパスフィルタ１６３から供給される参照画像に補償処理を施す。生成部１６４は、その結果生成される予測画像を図１９のスイッチ１４６に供給する。
【０２４０】
（復号装置の処理の説明）
図２１は、図１８の復号装置１１０の画像生成処理を説明するフローチャートである。
【０２４１】
図２１のステップＳ１１１において、復号装置１１０の受け取り部１１１は、図１の符号化装置１０から伝送されてくる符号化ストリームを受け取り、抽出部１１２に供給する。
【０２４２】
ステップＳ１１２において、抽出部１１２は、受け取り部１１１から供給される符号化ストリームから、符号化データとパラメータセットを抽出し、復号部１１３に供給する。
【０２４３】
ステップＳ１１３において、復号部１１３は、必要に応じて抽出部１１２から供給されるパラメータセットを用いて、抽出部１１２から供給される符号化データをHEVC方式に準ずる方式で復号する復号処理を行う。この復号処理の詳細は、後述する図２２を参照して説明する。そして、処理は終了する。
【０２４４】
図２２は、図２１のステップＳ１１３の復号処理の詳細を説明するフローチャートである。
【０２４５】
図２２のステップＳ１３０において、復号部１１３の蓄積バッファ１３１（図１９）は、図１８の抽出部１１２からフレーム単位の符号化データを受け取り、蓄積する。蓄積バッファ１３１は、蓄積されている符号化データを可逆復号部１３２に供給する。
【０２４６】
ステップＳ１３１において、可逆復号部１３２は、蓄積バッファ１３１からの符号化データを可逆復号し、量子化された直交変換係数と符号化情報を得る。可逆復号部１３２は、量子化された直交変換係数を逆量子化部１３３に供給する。
【０２４７】
また、可逆復号部１３２は、符号化情報としてのイントラ予測モード情報などをイントラ予測部１４３に供給する。可逆復号部１３２は、インター予測モード情報と参照画像特定情報を動き補償部１４４に供給し、インター予測モード情報、動きベクトル情報、および符号化拡大縮小率情報を情報復号部１４５に供給する。
【０２４８】
さらに、可逆復号部１３２は、符号化情報としてのイントラ予測モード情報またはインター予測モード情報をスイッチ１４６に供給する。可逆復号部１３２は、符号化情報としてのオフセットフィルタ情報を適応オフセットフィルタ１３７に供給し、フィルタ係数を適応ループフィルタ１３８に供給する。
【０２４９】
ステップＳ１３２において、逆量子化部１３３は、可逆復号部１３２からの量子化された直交変換係数を逆量子化し、その結果得られる直交変換係数を逆直交変換部１３４に供給する。
【０２５０】
ステップＳ１３３において、逆直交変換部１３４は、逆量子化部１３３からの直交変換係数に対して逆直交変換を施し、その結果得られる残差情報を加算部１３５に供給する。
【０２５１】
ステップＳ１３４において、動き補償部１４４は、可逆復号部１３２からインター予測モード情報が供給されたかどうかを判定する。ステップＳ１３４でインター予測モード情報が供給されたと判定された場合、処理はステップＳ１３５に進む。
【０２５２】
ステップＳ１３５において、情報復号部１４５は、可逆復号部１３２から供給されるインター予測情報が表す動きベクトルの符号化モードに応じて、ＰＵ単位で、動きベクトル情報から動きベクトルを生成する。また、情報復号部１４５は、ＰＵ単位で、可逆復号部１３２から供給される符号化拡大縮小率情報を復号し、拡大縮小率情報を生成する。情報復号部１４５は、拡大縮小率情報と動きベクトルを動き補償部１４４に供給する。
【０２５３】
ステップＳ１３６において、動き補償部１４４は、ＰＵ単位で、情報復号部１４５から供給される拡大縮小率および動きベクトル、並びに、可逆復号部１３２から供給されるインター予測モード情報および参照画像特定情報に基づいて、動き補償処理を行う。この動き補償処理の詳細は、後述する図２３を参照して説明する。ステップＳ１３６の処理後、処理はステップＳ１３８に進む。
【０２５４】
一方、ステップＳ１３４でインター予測モード情報が供給されていないと判定された場合、即ちイントラ予測モード情報がイントラ予測部１４３に供給された場合、処理はステップＳ１３７に進む。
【０２５５】
ステップＳ１３７において、イントラ予測部１４３は、ＰＵ単位で、フレームメモリ１４１からスイッチ１４２を介して読み出された周辺画素を用いて、イントラ予測モード情報が示すイントラ予測モードのイントラ予測処理を行う。イントラ予測部１４３は、イントラ予測処理の結果生成される予測画像を、スイッチ１４６を介して加算部１３５に供給し、処理をステップＳ１３８に進める。
【０２５６】
ステップＳ１３８において、加算部１３５は、逆直交変換部１３４から供給される残差情報と、スイッチ１４６から供給される予測画像を加算することにより、局部的に復号を行う。加算部１３５は、復号の結果得られる画像をデブロックフィルタ１３６とフレームメモリ１４１に供給する。
【０２５７】
ステップＳ１３９において、デブロックフィルタ１３６は、加算部１３５から供給される画像に対してデブロックフィルタ処理を行い、ブロック歪を除去する。デブロックフィルタ１３６は、その結果得られる画像を適応オフセットフィルタ１３７に供給する。
【０２５８】
ステップＳ１４０において、適応オフセットフィルタ１３７は、可逆復号部１３２から供給されるオフセットフィルタ情報に基づいて、デブロックフィルタ１３６からの画像に対して、LCUごとに適応オフセットフィルタ処理を行う。適応オフセットフィルタ１３７は、適応オフセットフィルタ処理後の画像を、適応ループフィルタ１３８に供給する。
【０２５９】
ステップＳ１４１において、適応ループフィルタ１３８は、適応オフセットフィルタ１３７から供給される画像に対して、可逆復号部１３２から供給されるフィルタ係数を用いて、LCUごとに適応ループフィルタ処理を行う。適応ループフィルタ１３８は、その結果得られる画像をフレームメモリ１４１および画面並べ替えバッファ１３９に供給する。
【０２６０】
ステップＳ１４２において、フレームメモリ１４１は、加算部１３５から供給される画像と、適応ループフィルタ１３８から供給される画像を蓄積する。フレームメモリ１４１に蓄積されたフィルタ処理が行われていない画像のうちのＰＵに隣接する画素は、周辺画素としてスイッチ１４２を介してイントラ予測部１４３に供給される。一方、フレームメモリ１４１に蓄積されたフィルタ処理が行われた画像は、参照画像として、スイッチ１４２を介して動き補償部１４４に供給される。
【０２６１】
ステップＳ１４３において、画面並べ替えバッファ１３９は、適応ループフィルタ１３８から供給される画像をフレーム単位で記憶し、記憶した符号化のための順番のフレーム単位の画像を、元の表示の順番に並び替え、D/A変換部１４０に供給する。
【０２６２】
ステップＳ１４４において、D/A変換部１４０は、画面並べ替えバッファ１３９から供給されるフレーム単位の画像をD/A変換し、出力する。そして、処理は、図２１のステップＳ１１３に戻り、終了する。
【０２６３】
図２３は、図２２のステップＳ１３６の動き補償処理の詳細を説明するフローチャートである。この動き補償処理は、ＰＵ単位で行われる。
【０２６４】
図２３のステップＳ１５０において、動き補償部１４４の線形内挿フィルタ１６１（図２０）は、可逆復号部１３２から参照画像特定情報を取得する。ステップＳ１５１において、線形内挿フィルタ１６１は、参照画像特定情報で特定される参照画像をフレームメモリ１４１からスイッチ１４２を介して読み出す。
【０２６５】
ステップＳ１５２において、線形内挿フィルタ１６１は、読み出された参照画像に対して内挿フィルタ処理を行うことにより、参照画像を高解像度化する。線形内挿フィルタ１６１は、高解像度化された参照画像を参照画像バッファ１６２に供給し、保持させる。
【０２６６】
ステップＳ１５３において、参照画像バッファ１６２は、情報復号部１４５から拡大縮小率情報を取得する。ステップＳ１５４において、参照画像バッファ１６２は、拡大縮小率情報に基づいて保持している参照画像を読み出すことにより、拡大縮小率が表す拡大縮小率で拡大または縮小された参照画像を生成する。参照画像バッファ１６２は、参照画像をローパスフィルタ１６３に供給する。
【０２６７】
ステップＳ１５５において、ローパスフィルタ１６３は、参照画像バッファ１６２から供給される参照画像に対して、水平方向および垂直方向にローパスフィルタ処理を施す。ローパスフィルタ１６３は、ローパスフィルタ処理後の参照画像を生成部１６４に供給する。
【０２６８】
ステップＳ１５６において、生成部１６４は、可逆復号部１３２からインター予測モードを取得する。ステップＳ１５７において、生成部１６４は、情報復号部１４５から動きベクトルを取得する。
【０２６９】
ステップＳ１５８において、生成部１６４は、インター予測モード情報が表すＰＵのサイズと動きベクトルに基づいて、ローパスフィルタ１６３から供給される参照画像に補償処理を施す。生成部１６４は、その結果生成される予測画像を図１９のスイッチ１４６に供給する。
【０２７０】
以上のように、復号装置１１０は、拡大縮小率情報に基づいて参照画像を拡大または縮小し、拡大または縮小された参照画像を用いて予測画像を生成する。従って、符号化装置１０により符号化対象の画像が拡大や縮小する場合の符号化効率を向上させるように符号化された符号化ストリームを復号することができる。
【０２７１】
なお、参照画像に対してローパスフィルタ処理を施さないようにすることもできる。また、ローパスフィルタ処理の有無は、ＰＵやＣＵ単位で制御されるようにしてもよい。この場合、例えば、ＰＵやＣＵのサイズが所定のサイズより小さい場合、即ち折り返し歪みによる画質劣化が顕著である場合にのみ、ローパスフィルタ処理が施されるようにすることができる。また、この場合、必要に応じて、符号化装置１０は、ローパスフィルタ処理が施されたかどうかを表す情報をＰＵやＣＵ単位で復号装置１１０に伝送し、復号装置１１０は、その情報に基づいて参照画像に対してローパスフィルタ処理を施す。
【０２７２】
また、参照画像の拡大および縮小は、ピクチャ単位でオンオフされるようにしてもよい。この場合、PPSに参照画像を拡大または縮小するかどうかを表す情報（enabled_flag）が設定され、enabled_flagが参照画像を拡大または縮小することを表す１である場合、拡大縮小率が設定される。そして、enabled_flagが１である場合、参照画像がPPSに設定されている拡大縮小率で拡大または縮小され、０である場合、参照画像は拡大および縮小されない。同様に、参照画像の拡大および縮小は、スライス単位でオンオフされるようにしてもよい。この場合、スライスヘッダにenabled_flagが設定され、enabled_flagが１である場合、拡大縮小率が設定される。また、参照画像の拡大および縮小は、ＣＵ単位でオンオフされるようにしてもよい。
【０２７３】
さらに、符号化拡大縮小率情報は、ＰＵ単位で伝送されるようにしてもよいし、ＣＵ単位で伝送されるようにしてもよい。
【０２７４】
また、動きベクトルの符号化モードがマージモードである場合、動きベクトルの参照先である周辺ＰＵの拡大縮小率が、参照元の処理対象のＰＵの最適な拡大縮小率に決定されてもよい。この場合、符号化装置１０は、符号化拡大縮小率情報を伝送せず、復号装置１１０は、マージモード時に、周辺ＰＵの拡大縮小率を処理対象のＰＵの拡大縮小率とする。
【０２７５】
さらに、上述した説明では、拡大縮小率は、水平方向および垂直方向で同一であるようにしたが、異なるようにしてもよい。
【０２７６】
また、拡大縮小率は、参照方向ごとに独立して設定されるようにしてもよい。参照方向には、参照画像の符号化順が符号化対象の画像より前である前方向と、参照画像の符号化順が符号化対象の画像より後である後方向がある。
【０２７７】
拡大縮小率が参照方向ごとに独立して設定される場合、符号化装置１０は、参照方向ごとに符号化拡大縮小率情報を伝送するようにしてもよいし、前方向と後方向のうちのいずれか一方の符号化拡大縮小率情報のみを伝送するようにしてもよい。
【０２７８】
符号化装置１０が、参照方向のうちのいずれか一方の符号化拡大縮小率情報のみを伝送する場合、復号装置１１０は、一方の参照画像、復号対象の画像、および他方の参照画像の時間的距離と、一方の拡大縮小率とに基づいて、他方の拡大縮小率を算出する。
【０２７９】
具体的には、例えば、図２４に示すように、参照方向が前方向である場合の拡大縮小率情報が-1であり、その拡大縮小率情報の符号化拡大縮小率情報が伝送される場合、復号装置１１０は、符号化対象の画像１８１と前方向の参照画像１８２との時間的距離を算出する。また、復号装置１１０は、符号化対象の画像１８１と後方向の参照画像１８３との時間的距離を算出する。なお、時間的距離とは、POC(Picture Order Count)の差分である。
【０２８０】
図２４の例では、符号化対象の画像１８１と参照画像１８２の時間的距離と、符号化対象の画像１８１と参照画像１８３の時間的距離は同一である。従って、復号装置１１０は、参照方向が前方向である場合の拡大縮小率情報の正負を反対にした値の1倍、即ち1を、参照方向が後方向である場合の拡大縮小率情報として生成する。
【０２８１】
＜第２実施の形態＞
（符号化装置の第２実施の形態の構成例）
本開示を適用した符号化装置の第２実施の形態の構成は、符号化部１２を除いて、図１の符号化装置１０と同様に構成される。従って、以下では、符号化部についてのみ説明する。
【０２８２】
図２５は、本開示を適用した符号化装置の第２実施の形態の符号化部の構成例を示すブロック図である。
【０２８３】
図２５に示す構成のうち、図２の構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
【０２８４】
図２５の符号化部２００の構成は、決定部４９が設けられない点、拡大縮小部２０１が設けられる点、および、フレームメモリ４５、動き予測・補償部４８、可逆符号化部３６の代わりにフレームメモリ２０２、動き予測・補償部２０３、可逆符号化部２０４が設けられる点が、図２の符号化部１２の構成と異なる。符号化部２００は、各復号画像について拡大縮小率の異なる複数の復号画像をフレームメモリ２０２に保持し、その復号画像に対して異なる参照画像特定情報を付与する。
【０２８５】
具体的には、符号化部２００の拡大縮小部２０１は、PPSに設定される拡大縮小率対応情報に基づいて、適応ループフィルタ４４から供給される画像を参照画像の候補として拡大または縮小し、フレームメモリ２０２に供給する。拡大縮小率対応情報とは、参照画像の候補の参照画像特定情報と、その参照画像特定情報で特定される参照画像の候補の拡大縮小率の対応関係を表す情報である。この拡大縮小率は、水平方向および垂直方向で同一であってもよいし、異なっていてもよい。
【０２８６】
フレームメモリ２０２は、拡大縮小部２０１から供給される画像と、加算部４１から供給される画像を蓄積する。フレームメモリ２０２に蓄積されたフィルタ処理が行われていない画像のうちのＰＵに隣接する画素は、周辺画素としてスイッチ４６を介してイントラ予測部４７に供給される。一方、フレームメモリ２０２に蓄積されたフィルタ処理が行われた画像は、参照画像としてスイッチ４６を介して動き予測・補償部２０３に出力される。
【０２８７】
動き予測・補償部２０３は、ＰＵ単位で、候補となるインター予測モード、動きベクトル、および参照画像に基づいて、動き予測・補償処理を行う。具体的には、動き予測・補償部２０３は、フレームメモリ２０２からスイッチ４６を介して候補となる参照画像を読み出す。動き予測・補償部２０３は、参照画像に対して内挿フィルタ処理を行うことにより、参照画像を高解像度化する。
【０２８８】
また、動き予測・補償部２０３は、候補となるインター予測モードと分数画素精度の動きベクトルに基づいて、高解像度化された参照画像に補償処理を施し、予測画像を生成する。動き予測・補償部２０３は、画面並べ替えバッファ３２から供給される画像と予測画像とに基づいて、インター予測モード、動きベクトル、および参照画像の組み合わせに対してコスト関数値を算出する。動き予測・補償部２０３は、コスト関数値が最小となるインター予測モードを最適インター予測モードに決定する。また、動き予測・補償部２０３は、コスト関数値が最小となる動きベクトルと参照画像を、最適な動きベクトルと参照画像に決定する。そして、動き予測・補償部２０３は、最適インター予測モードの予測画像とコスト関数値を予測画像選択部５０に供給する。
【０２８９】
また、動き予測・補償部２０３は、予測画像選択部５０から最適インター予測モードで生成された予測画像の選択が通知された場合、インター予測モード情報、並びに、最適な動きベクトルの動きベクトル情報および参照画像の参照画像特定情報を可逆符号化部２０４に出力する。
【０２９０】
可逆符号化部２０４は、量子化部３５から供給される量子化された直交変換係数に対して可逆符号化を行う。また、可逆符号化部２０４は、イントラ予測モード情報、または、インター予測モード情報、動きベクトル情報、および参照画像特定情報、オフセットフィルタ情報、並びにフィルタ係数を、符号化情報として可逆符号化する。可逆符号化部２０４は、可逆符号化された符号化情報と直交変換係数を、符号化データとして蓄積バッファ３７に供給し、蓄積させる。なお、可逆符号化された符号化情報は、スライスヘッダ等のヘッダ部として符号化データに付加されるようにしてもよい。
【０２９１】
（動き予測・補償部の構成例）
図２６は、図２５の動き予測・補償部２０３の構成例を示すブロック図である。
【０２９２】
図２６に示す構成のうち、図４の構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
【０２９３】
図２６の動き予測・補償部２０３の構成は、ローパスフィルタ８３が設けられない点、参照画像バッファ８２、生成部８４、算出部８７、決定部８８、情報符号化部８９の代わりに、参照画像バッファ２２１、生成部２２２、算出部２２３、決定部２２４、情報符号化部２２５が設けられる点が、図４の動き予測・補償部４８の構成と異なる。
【０２９４】
参照画像バッファ２２１は、線形内挿フィルタ８１から供給される参照画像を保持する。
【０２９５】
生成部２２２は、ＰＵ単位で、候補となる動きベクトルに基づいて、参照画像バッファ２２１に保持されている参照画像に補償処理を施し、予測画像を生成する。生成部２２２は、予測画像を算出部２２３に供給する。候補となる動きベクトルは、第１実施の形態の場合と同様である。
【０２９６】
算出部２２３は、ＰＵバッファ８６からＰＵ単位の画像を読み出す。算出部２２３は、インター予測モード、動きベクトル、および参照画像の組み合わせに対して、読み出された画像と予測画像とに基づいて、コスト関数値を算出する。算出部２２３は、コスト関数値と、対応するインター予測モード、動きベクトル、および参照画像の組み合わせ並びに予測画像とを決定部２２４に供給する。
【０２９７】
決定部２２４は、算出部２２３から供給されるコスト関数値が最小となるときのインター予測モードを最適インター予測モードに決定し、動きベクトルおよび参照画像を最適な動きベクトルおよび参照画像に決定する。決定部２２４は、最適インター予測モードの予測画像とコスト関数値を図２５の予測画像選択部５０に供給する。また、予測画像選択部５０から最適インター予測モードで生成された予測画像の選択が通知された場合、決定部２２４は、最適インター予測モード、並びに、最適な動きベクトルおよび参照画像の参照画像特定情報を情報符号化部２２５に供給する。
【０２９８】
情報符号化部２２５は、図４の情報符号化部８９と同様に、処理対象のＰＵの動きベクトル情報を生成する。情報符号化部２２５は、最適インター予測モード、動きベクトル情報、および参照画像特定情報を図２５の可逆符号化部２０４に供給する。
【０２９９】
（符号化部の処理の説明）
図２７および図２８は、図２５の符号化部２００の符号化処理を説明するフローチャートである。
【０３００】
図２７のステップＳ１７０およびＳ１７１の処理は、図１５のステップＳ３０およびＳ３１の処理と同様であるので、説明は省略する。
【０３０１】
ステップＳ１７２において、イントラ予測部４７は、ＰＵ単位で、候補となる全てのイントラ予測モードのイントラ予測処理を行う。また、イントラ予測部４７は、画面並べ替えバッファ３２から読み出された画像と、イントラ予測処理の結果生成される予測画像とに基づいて、候補となる全てのイントラ予測モードに対してコスト関数値を算出する。そして、イントラ予測部４７は、コスト関数値が最小となるイントラ予測モードを、最適イントラ予測モードに決定する。イントラ予測部４７は、最適イントラ予測モードで生成された予測画像、および、対応するコスト関数値を、予測画像選択部５０に供給する。
【０３０２】
また、動き予測・補償部２０３は、ＰＵ単位で、候補となるインター予測モード、動きベクトル、および参照画像に基づいて、動き予測・補償処理を行う。この動き予測・補償処理の詳細は、後述する図２９を参照して説明する。
【０３０３】
ステップＳ１７３およびＳ１７４の処理は、図１５のステップＳ３３およびＳ３４の処理と同様であるので、説明は省略する。
【０３０４】
ステップＳ１７５において、動き予測・補償部２０３の情報符号化部２２５（図２６）は、動きベクトルの符号化モードに応じて動きベクトル情報を生成する。ステップＳ１７６において、情報符号化部２２５は、インター予測モード情報、動きベクトル情報、および参照画像特定情報を可逆符号化部２０４に供給し、処理をステップＳ１７８に進める。
【０３０５】
ステップＳ１７７乃至Ｓ１８６の処理は、図１５および図１６のステップＳ３７乃至Ｓ４６の処理と同様であるので、説明は省略する。
【０３０６】
ステップＳ１８７において、拡大縮小部２０１は、PPSに設定される拡大縮小率対応情報に基づいて、適応ループフィルタ４４から供給される画像を参照画像の候補として拡大または縮小する。具体的には、拡大縮小部２０１は、拡大縮小率対応情報において、適応ループフィルタ４４から供給される画像を特定する複数の参照画像特定情報に対応付けられている全ての拡大縮小率を、その画像の拡大縮小率とする。
【０３０７】
拡大縮小部２０１は、拡大縮小率が拡大の率である場合、適応ループフィルタ４４から供給される画像内の１つの画素を、拡大後の画像を構成する複数の画素として生成する。また、拡大縮小部２０１は、拡大縮小率が縮小の率である場合、適応ループフィルタ４４から供給される画像の複数の画素からなる領域内の１つの画素を、その領域に対応する縮小後の画像の画素として生成する。そして、拡大縮小部２０１は、拡大後の画像または縮小後の画像を、フレームメモリ２０２に供給する。
【０３０８】
ステップＳ１８８において、フレームメモリ２０２は、拡大縮小部２０１から供給される画像と加算部４１から供給される画像を蓄積する。フレームメモリ２０２に蓄積されたフィルタ処理が行われていない画像のうちのＰＵに隣接する画素は、周辺画素としてスイッチ４６を介してイントラ予測部４７に供給される。一方、フレームメモリ２０２に蓄積されたフィルタ処理が行われた画像は、参照画像としてスイッチ４６を介して動き予測・補償部２０３に出力される。
【０３０９】
ステップＳ１８９乃至Ｓ１９３の処理は、図１６のステップＳ４８乃至Ｓ５２の処理と同様であるので、説明は省略する。
【０３１０】
図２９は、図２７のステップＳ１７２の動き予測・補償処理の詳細を説明するフローチャートである。
【０３１１】
図２９のステップＳ２０１乃至Ｓ２０７の処理は、図１７のステップＳ７１，Ｓ７３乃至Ｓ７５、およびＳ７８乃至Ｓ８０の処理と同様であるので、説明は省略する。
【０３１２】
ステップＳ２０８において、算出部２２３は、ＰＵバッファ８６からＰＵ単位の画像を読み出し、その画像と予測画像とに基づいてコスト関数値を算出する。算出部２２３は、コスト関数値と予測画像を決定部２２４に供給する。また、算出部２２３は、ステップＳ２０１およびＳ２０６で決定された参照画像および動きベクトル、並びに、その動きベクトルに対応する動きベクトルの符号化モードとステップＳ２０２で決定されたＰＵのサイズとを表すインター予測モードの組み合わせを決定部２２４に供給する。
【０３１３】
ステップＳ２０９乃至Ｓ２１１の処理は、ステップＳ８２，Ｓ８３、およびＳ８５の処理と同様であるので、説明は省略する。
【０３１４】
ステップＳ２１２において、決定部２２４は、算出部２２３から供給されるコスト関数値が最小となるときのインター予測モードを最適インター予測モードに決定する。また、決定部２２４は、コスト関数値が最小となるときの動きベクトルと参照画像を、最適な動きベクトルと参照画像に決定する。
【０３１５】
ステップＳ２１３において、決定部２２４は、最適インター予測モードのコスト関数値と予測画像を図２５の予測画像選択部５０に供給する。
【０３１６】
以上のように、符号化部２００は、拡大縮小率対応情報に基づいて、参照画像の候補となる復号画像を拡大または縮小し、拡大または縮小された復号画像を参照画像として用いて予測画像を生成する。従って、符号化対象の画像が拡大や縮小する場合の予測精度が向上し、符号化効率が向上する。
【０３１７】
（復号装置の第２実施の形態の構成例）
本開示を適用した復号装置の第２実施の形態の構成は、復号部１１３を除いて、図１８の復号装置１１０と同様であるので、以下では、復号部についてのみ説明する。
【０３１８】
図３０は、本開示を適用した復号装置の第２実施の形態の復号部の構成例を示すブロック図である。
【０３１９】
図３０に示す構成のうち、図１９の構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
【０３２０】
図３０の復号部２４０の構成は、可逆復号部１３２、情報復号部１４５、フレームメモリ１４１、動き補償部１４４の代わりに、可逆復号部２４１、情報復号部２４２、フレームメモリ２４４、動き補償部２４５が設けられる点、および、拡大縮小部２４３が新たに設けられる点が、図１９の復号部１１３の構成と異なる。
【０３２１】
具体的には、可逆復号部２４１は、蓄積バッファ１３１からの符号化データに対して、図２５の可逆符号化部２０４の可逆符号化に対応する可逆復号を施すことで、量子化された直交変換係数と符号化情報を得る。可逆復号部２４１は、量子化された直交変換係数を逆量子化部１３３に供給する。また、可逆復号部２４１は、符号化情報としてのイントラ予測モード情報などをイントラ予測部１４３に供給する。可逆復号部２４１は、インター予測モード情報と参照画像特定情報を動き補償部２４５に供給し、インター予測モード情報と動きベクトル情報を情報復号部２４２に供給する。
【０３２２】
情報復号部２４２は、図１９の情報復号部１４５と同様に、可逆復号部２４１から供給されるインター予測情報が表す動きベクトルの符号化モードに基づいて、処理対象のＰＵの動きベクトルを生成する。情報復号部２４２は、生成された動きベクトルを動き補償部２４５に供給する。
【０３２３】
拡大縮小部２４３は、図１８の抽出部１１２から供給されるPPSに含まれる拡大縮小率対応情報に基づいて、適応ループフィルタ１３８から供給される画像を拡大または縮小し、フレームメモリ２４４に供給する。
【０３２４】
フレームメモリ２４４は、拡大縮小部２４３から供給される画像と加算部１３５から供給される画像を蓄積する。フレームメモリ２４４に蓄積されたフィルタ処理が行われていない画像のうちのＰＵに隣接する画素は、周辺画素としてスイッチ１４２を介してイントラ予測部１４３に供給される。一方、フレームメモリ２４４に蓄積されたフィルタ処理が行われた画像は、参照画像として、スイッチ１４２を介して動き補償部２４５に供給される。
【０３２５】
動き補償部２４５は、ＰＵ単位で、情報復号部２４２から供給される動きベクトル、並びに、可逆復号部２４１から供給されるインター予測モード情報および参照画像特定情報に基づいて、動き補償処理を行う。具体的には、動き補償部２４５は、フレームメモリ２４４からスイッチ１４２を介して、可逆復号部２４１から供給される参照画像特定情報により特定される参照画像を読み出す。動き補償部２４５は、参照画像に対して内挿フィルタ処理を行うことにより、参照画像を高解像度化する。動き補償部２４５は、情報復号部２４２から供給される動きベクトルとインター予測モード情報が表すＰＵのサイズとに基づいて、高解像度化された参照画像を用いて予測画像を生成する。動き補償部２４５は、予測画像をスイッチ１４６に供給する。
【０３２６】
（動き補償部の構成例）
図３１は、図３０の動き補償部２４５の構成例を示すブロック図である。
【０３２７】
図３１に示す構成のうち、図２０の構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
【０３２８】
図３１の動き補償部２４５の構成は、参照画像バッファ１６２の代わりに参照画像バッファ２６１が設けられる点が、図２０の動き補償部１４４の構成と異なる。
【０３２９】
動き補償部２４５の参照画像バッファ２６１は、線形内挿フィルタ１６１から供給される参照画像を保持する。この参照画像は、生成部１６４において補償処理が施される。
【０３３０】
（復号部の処理の説明）
図３２は、図３０の復号部２４０の復号処理を説明するフローチャートである。
【０３３１】
図３２のステップＳ２３０において、復号部２４０の蓄積バッファ１３１は、図１８の抽出部１１２からフレーム単位の符号化データを受け取り、蓄積する。蓄積バッファ１３１は、蓄積されている符号化データを可逆復号部２４１に供給する。
【０３３２】
ステップＳ２３１において、可逆復号部２４１は、蓄積バッファ１３１からの符号化データを可逆復号し、量子化された直交変換係数と符号化情報を得る。可逆復号部２４１は、量子化された直交変換係数を逆量子化部１３３に供給する。
【０３３３】
また、可逆復号部２４１は、符号化情報としてのイントラ予測モード情報などをイントラ予測部１４３に供給する。可逆復号部２４１は、インター予測モード情報と参照画像特定情報を動き補償部１４４に供給し、インター予測モード情報と動きベクトル情報を情報復号部２４２に供給する。
【０３３４】
さらに、可逆復号部２４１は、符号化情報としてのイントラ予測モード情報またはインター予測モード情報をスイッチ１４６に供給する。可逆復号部２４１は、符号化情報としてのオフセットフィルタ情報を適応オフセットフィルタ１３７に供給し、フィルタ係数を適応ループフィルタ１３８に供給する。
【０３３５】
ステップＳ２３２乃至Ｓ２３４の処理は、図２２のステップＳ１３２乃至Ｓ１３４の処理と同様であるので、説明は省略する。
【０３３６】
ステップＳ２３５において、情報復号部２４２は、可逆復号部２４１から供給されるインター予測情報が表す動きベクトルの符号化モードに基づいて、処理対象のＰＵの動きベクトルを生成する。
【０３３７】
ステップＳ２３６において、動き補償部２４５は、ＰＵ単位で、情報復号部２４２から供給される動きベクトル、並びに、可逆復号部２４１から供給されるインター予測モード情報および参照画像特定情報に基づいて、動き補償処理を行う。この動き補償処理の詳細は、後述する図３３を参照して説明する。
【０３３８】
ステップＳ２３７乃至Ｓ２４１の処理は、図３２のステップＳ１３７乃至Ｓ１４１の処理と同様であるので、説明は省略する。
【０３３９】
ステップＳ２４２において、拡大縮小部２４３は、図１８の抽出部１１２から供給されるPPSに含まれる拡大縮小率対応情報に基づいて、適応ループフィルタ１３８から供給される画像を拡大または縮小し、フレームメモリ２４４に供給する。
【０３４０】
ステップＳ２４３において、フレームメモリ２４４は、加算部１３５から供給される画像と、拡大縮小部２４３から供給される画像を蓄積する。フレームメモリ２４４に蓄積されたフィルタ処理が行われていない画像のうちのＰＵに隣接する画素は、周辺画素としてスイッチ１４２を介してイントラ予測部１４３に供給される。一方、フレームメモリ２４４に蓄積されたフィルタ処理が行われた画像は、参照画像として、スイッチ１４２を介して動き補償部１４４に供給される。
【０３４１】
ステップＳ２４４およびＳ２４５は、図２２のステップＳ１４３およびＳ１４４の処理と同様であるので、説明は省略する。
【０３４２】
図３３は、図３２のステップＳ２３６の動き補償処理の詳細を説明するフローチャートである。
【０３４３】
図３３のステップＳ２６０乃至Ｓ２６５の処理は、図２３のステップＳ１５０乃至Ｓ１５２およびＳ１５６乃至Ｓ１５８の処理と同様であるので、説明は省略する。
【０３４４】
以上のように、復号部２４０は、拡大縮小率対応情報に基づいて参照画像の候補となる復号画像を拡大または縮小し、拡大または縮小された復号画像を参照画像として用いて予測画像を生成する。従って、符号化部２００を備える符号化装置１０により符号化対象の画像が拡大や縮小する場合の符号化効率を向上させるように符号化された符号化ストリームを復号することができる。
【０３４５】
なお、第２実施の形態においても、第１実施の形態の場合と同様に、拡大または縮小された画像に対してローパスフィルタ処理が施されるようにしてもよい。
【０３４６】
＜第３実施の形態＞
（本開示を適用したコンピュータの説明）
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
【０３４７】
図３４は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。
【０３４８】
コンピュータ５００において、CPU（Central Processing Unit）５０１，ROM（Read Only Memory）５０２，RAM（Random Access Memory）５０３は、バス５０４により相互に接続されている。
【０３４９】
バス５０４には、さらに、入出力インタフェース５０５が接続されている。入出力インタフェース５０５には、入力部５０６、出力部５０７、記憶部５０８、通信部５０９、及びドライブ５１０が接続されている。
【０３５０】
入力部５０６は、キーボード、マウス、マイクロホンなどよりなる。出力部５０７は、ディスプレイ、スピーカなどよりなる。記憶部５０８は、ハードディスクや不揮発性のメモリなどよりなる。通信部５０９は、ネットワークインタフェースなどよりなる。ドライブ５１０は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブルメディア５１１を駆動する。
【０３５１】
以上のように構成されるコンピュータ５００では、CPU５０１が、例えば、記憶部５０８に記憶されているプログラムを、入出力インタフェース５０５及びバス５０４を介して、RAM５０３にロードして実行することにより、上述した一連の処理が行われる。
【０３５２】
コンピュータ５００（CPU５０１）が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア５１１に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
【０３５３】
コンピュータ５００では、プログラムは、リムーバブルメディア５１１をドライブ５１０に装着することにより、入出力インタフェース５０５を介して、記憶部５０８にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部５０９で受信し、記憶部５０８にインストールすることができる。その他、プログラムは、ROM５０２や記憶部５０８に、あらかじめインストールしておくことができる。
【０３５４】
なお、コンピュータ５００が実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【０３５５】
＜第４実施の形態＞
（多視点画像符号化・多視点画像復号への適用）
上述した一連の処理は、多視点画像符号化・多視点画像復号に適用することができる。図３５は、多視点画像符号化方式の一例を示す。
【０３５６】
図３５に示されるように、多視点画像は、複数の視点（ビュー（view））の画像を含む。この多視点画像の複数のビューは、他のビューの画像を利用せずに自身のビューの画像のみを用いて符号化・復号を行うベースビューと、他のビューの画像を利用して符号化・復号を行うノンベースビューとによりなる。ノンベースビューは、ベースビューの画像を利用するようにしても良いし、他のノンベースビューの画像を利用するようにしてもよい。
【０３５７】
図３５のような多視点画像を符号化・復号する場合、各ビューの画像を符号化・復号するが、この各ビューの符号化・復号に対して、上述した第１および２実施の形態の方法を適用するようにしてもよい。このようにすることにより、符号化対象の画像が拡大や縮小する場合の符号化効率を向上させることができる。
【０３５８】
さらに、各ビューの符号化・復号において、上述した第１および２実施の形態の方法で使用されるフラグやパラメータを共有するようにしてもよい。より具体的には、例えば、mvd_codingやPPSのシンタクス要素等を、各ビューの符号化・復号において共有するようにしてもよい。もちろん、これら以外の必要な情報も、各ビューの符号化・復号において共有するようにしてもよい。
【０３５９】
このようにすることにより、冗長な情報の伝送を抑制し、伝送する情報量（符号量）を低減することができる（つまり、符号化効率の低減を抑制することができる）。
【０３６０】
（多視点画像符号化装置）
図３６は、上述した多視点画像符号化を行う多視点画像符号化装置を示す図である。図３６に示されるように、多視点画像符号化装置６００は、符号化部６０１、符号化部６０２、および多重化部６０３を有する。
【０３６１】
符号化部６０１は、ベースビュー画像を符号化し、ベースビュー画像符号化ストリームを生成する。符号化部６０２は、ノンベースビュー画像を符号化し、ノンベースビュー画像符号化ストリームを生成する。多重化部６０３は、符号化部６０１において生成されたベースビュー画像符号化ストリームと、符号化部６０２において生成されたノンベースビュー画像符号化ストリームとを多重化し、多視点画像符号化ストリームを生成する。
【０３６２】
この多視点画像符号化装置６００の符号化部６０１および符号化部６０２に対して、符号化装置の第１および第２実施の形態を適用することができる。つまり、各ビューに対する符号化において、符号化対象の画像が拡大や縮小する場合の符号化効率を向上させることができる。また、符号化部６０１および符号化部６０２は、互いに同一のフラグやパラメータ（例えば、画像間の処理に関するシンタクス要素等）を用いて、符号化を行うことができる（すなわち、フラグやパラメータを共有することができる）ので、符号化効率の低減を抑制することができる。
【０３６３】
（多視点画像復号装置）
図３７は、上述した多視点画像復号を行う多視点画像復号装置を示す図である。図３７に示されるように、多視点画像復号装置６１０は、逆多重化部６１１、復号部６１２、および復号部６１３を有する。
【０３６４】
逆多重化部６１１は、ベースビュー画像符号化ストリームとノンベースビュー画像符号化ストリームとが多重化された多視点画像符号化ストリームを逆多重化し、ベースビュー画像符号化ストリームと、ノンベースビュー画像符号化ストリームとを抽出する。復号部６１２は、逆多重化部６１１により抽出されたベースビュー画像符号化ストリームを復号し、ベースビュー画像を得る。復号部６１３は、逆多重化部６１１により抽出されたノンベースビュー画像符号化ストリームを復号し、ノンベースビュー画像を得る。
【０３６５】
この多視点画像復号装置６１０の復号部６１２および復号部６１３に対して、復号装置の第１および第２実施の形態を適用することができる。つまり、各ビューに対する復号において、符号化対象の画像が拡大や縮小する場合の符号化効率を向上させるように符号化された符号化ストリームを復号することができる。また、復号部６１２および復号部６１３は、互いに同一のフラグやパラメータ（例えば、画像間の処理に関するシンタクス要素等）を用いて、復号を行うことができる（すなわち、フラグやパラメータを共有することができる）ので、符号化効率の低減を抑制することができる。
【０３６６】
＜第５実施の形態＞
（階層画像符号化・階層画像復号への適用）
上述した一連の処理は、階層画像符号化・階層画像復号（スケーラブル符号化・スケーラブル復号）に適用することができる。図３８は、階層画像符号化方式の一例を示す。
【０３６７】
階層画像符号化（スケーラブル符号化）は、画像データを、所定のパラメータについてスケーラブル（scalable）機能を有するように、画像を複数レイヤ化（階層化）し、レイヤ毎に符号化するものである。階層画像復号（スケーラブル復号）は、その階層画像符号化に対応する復号である。
【０３６８】
図３８に示されるように、画像の階層化においては、スケーラブル機能を有する所定のパラメータを基準として１の画像が複数の画像（レイヤ）に分割される。つまり、階層化された画像（階層画像）は、その所定のパラメータの値が互いに異なる複数の階層（レイヤ）の画像を含む。この階層画像の複数のレイヤは、他のレイヤの画像を利用せずに自身のレイヤの画像のみを用いて符号化・復号を行うベースレイヤと、他のレイヤの画像を利用して符号化・復号を行うノンベースレイヤ（エンハンスメントレイヤとも称する）とによりなる。ノンベースレイヤは、ベースレイヤの画像を利用するようにしても良いし、他のノンベースレイヤの画像を利用するようにしてもよい。
【０３６９】
一般的に、ノンベースレイヤは、冗長性が低減されるように、自身の画像と、他のレイヤの画像との差分画像のデータ（差分データ）により構成される。例えば、１の画像をベースレイヤとノンベースレイヤ（エンハンスメントレイヤとも称する）に２階層化した場合、ベースレイヤのデータのみで元の画像よりも低品質な画像が得られ、ベースレイヤのデータとノンベースレイヤのデータを合成することで、元の画像（すなわち高品質な画像）が得られる。
【０３７０】
このように画像を階層化することにより、状況に応じて多様な品質の画像を容易に得ることができる。例えば携帯電話のような、処理能力の低い端末に対しては、ベースレイヤ（base layer）のみの画像圧縮情報を伝送し、空間時間解像度の低い、或いは、画質の良くない動画像を再生し、テレビやパーソナルコンピュータのような、処理能力の高い端末に対しては、ベースレイヤ（base layer）に加えて、エンハンスメントレイヤ（enhancement layer）の画像圧縮情報を伝送し、空間時間解像度の高い、或いは、画質の高い動画像を再生するといったように、トランスコード処理を行うことなく、端末やネットワークの能力に応じた画像圧縮情報を、サーバから送信することが可能となる。
【０３７１】
図３８の例のような階層画像を符号化・復号する場合、各レイヤの画像を符号化・復号するが、この各レイヤの符号化・復号に対して、上述した第１および２実施の形態の方法を適用するようにしてもよい。このようにすることにより、符号化対象の画像が拡大や縮小する場合の符号化効率を向上させることができる。
【０３７２】
さらに、各レイヤの符号化・復号において、上述した第１および２実施の形態の方法で使用されるフラグやパラメータを共有するようにしてもよい。より具体的には、例えば、mvd_codingやPPSのシンタクス要素等を、各レイヤの符号化・復号において共有するようにしてもよい。もちろん、これら以外の必要な情報も、各レイヤの符号化・復号において共有するようにしてもよい。
【０３７３】
このようにすることにより、冗長な情報の伝送を抑制し、伝送する情報量（符号量）を低減することができる（つまり、符号化効率の低減を抑制することができる）。
【０３７４】
（スケーラブルなパラメータ）
このような階層画像符号化・階層画像復号（スケーラブル符号化・スケーラブル復号）において、スケーラブル（scalable）機能を有するパラメータは、任意である。例えば、図３９に示されるような空間解像度をそのパラメータとしてもよい（spatial scalability）。このスペーシャルスケーラビリティ（spatial scalability）の場合、レイヤ毎に画像の解像度が異なる。つまり、この場合、図３９に示されるように、各ピクチャが、元の画像より空間的に低解像度のベースレイヤと、ベースレイヤと合成することにより元の空間解像度が得られるエンハンスメントレイヤの２階層に階層化される。もちろん、この階層数は一例であり、任意の階層数に階層化することができる。
【０３７５】
また、このようなスケーラブル性を持たせるパラメータとして、他には、例えば、図４０に示されるような、時間解像度を適用しても良い（temporal scalability）。このテンポラルスケーラビリティ（temporal scalability）の場合、レイヤ毎にフレームレートが異なる。つまり、この場合、図４０に示されるように、各ピクチャが、元の動画像より低フレームレートのベースレイヤと、ベースレイヤと合成することにより元のフレームレートが得られるエンハンスメントレイヤの２階層に階層化される。もちろん、この階層数は一例であり、任意の階層数に階層化することができる。
【０３７６】
さらに、このようなスケーラブル性を持たせるパラメータとして、例えば、信号雑音比（SNR（Signal to Noise ratio））を適用しても良い（SNR scalability）。このSNRスケーラビリティ（SNR scalability）の場合、レイヤ毎にSN比が異なる。つまり、この場合、図４１に示されるように、各ピクチャが、元の画像よりSNRの低いベースレイヤと、ベースレイヤと合成することにより元のSNRが得られるエンハンスメントレイヤの２階層に階層化される。もちろん、この階層数は一例であり、任意の階層数に階層化することができる。
【０３７７】
スケーラブル性を持たせるパラメータは、上述した例以外であっても、もちろんよい。例えば、スケーラブル性を持たせるパラメータとして、ビット深度を用いることもできる（bit-depth scalability）。このビット深度スケーラビリティ（bit-depth scalability）の場合、レイヤ毎にビット深度が異なる。この場合、例えば、ベースレイヤ（base layer）が８ビット（bit）画像よりなり、これにエンハンスメントレイヤ（enhancement layer）を加えることにより、10ビット（bit）画像が得られるようにすることができる。
【０３７８】
また、スケーラブル性を持たせるパラメータとして、クロマフォーマットを用いることもできる（chroma scalability）。このクロマスケーラビリティ（chroma scalability）の場合、レイヤ毎にクロマフォーマットが異なる。この場合、例えば、ベースレイヤ（base layer）が4:2:0フォーマットのコンポーネント画像よりなり、これにエンハンスメントレイヤ（enhancement layer）を加えることにより、4:2:2フォーマットのコンポーネント画像が得られるようにすることができる。
【０３７９】
（階層画像符号化装置）
図４２は、上述した階層画像符号化を行う階層画像符号化装置を示す図である。図４２に示されるように、階層画像符号化装置６２０は、符号化部６２１、符号化部６２２、および多重化部６２３を有する。
【０３８０】
符号化部６２１は、ベースレイヤ画像を符号化し、ベースレイヤ画像符号化ストリームを生成する。符号化部６２２は、ノンベースレイヤ画像を符号化し、ノンベースレイヤ画像符号化ストリームを生成する。多重化部６２３は、符号化部６２１において生成されたベースレイヤ画像符号化ストリームと、符号化部６２２において生成されたノンベースレイヤ画像符号化ストリームとを多重化し、階層画像符号化ストリームを生成する。
【０３８１】
この階層画像符号化装置６２０の符号化部６２１および符号化部６２２に対して、符号化装置の第１および第２実施の形態を適用することができる。つまり、各レイヤに対する符号化において、符号化対象の画像が拡大や縮小する場合の符号化効率を向上させることができる。また、符号化部６２１および符号化部６２２は、互いに同一のフラグやパラメータ（例えば、画像間の処理に関するシンタクス要素等）を用いて、イントラ予測のフィルタ処理の制御等を行うことができる（すなわち、フラグやパラメータを共有することができる）ので、符号化効率の低減を抑制することができる。
【０３８２】
（階層画像復号装置）
図４３は、上述した階層画像復号を行う階層画像復号装置を示す図である。図４３に示されるように、階層画像復号装置６３０は、逆多重化部６３１、復号部６３２、および復号部６３３を有する。
【０３８３】
逆多重化部６３１は、ベースレイヤ画像符号化ストリームとノンベースレイヤ画像符号化ストリームとが多重化された階層画像符号化ストリームを逆多重化し、ベースレイヤ画像符号化ストリームと、ノンベースレイヤ画像符号化ストリームとを抽出する。復号部６３２は、逆多重化部６３１により抽出されたベースレイヤ画像符号化ストリームを復号し、ベースレイヤ画像を得る。復号部６３３は、逆多重化部６３１により抽出されたノンベースレイヤ画像符号化ストリームを復号し、ノンベースレイヤ画像を得る。
【０３８４】
この階層画像復号装置６３０の復号部６３２および復号部６３３に対して、復号装置の第１および第２実施の形態を適用することができる。つまり、各レイヤに対する復号において、符号化対象の画像が拡大や縮小する場合の符号化効率を向上させるように符号化された符号化ストリームを復号することができる。また、復号部６１２および復号部６１３は、互いに同一のフラグやパラメータ（例えば、画像間の処理に関するシンタクス要素等）を用いて、復号を行うことができる（すなわち、フラグやパラメータを共有することができる）ので、符号化効率の低減を抑制することができる。
【０３８５】
＜第６実施の形態＞
（テレビジョン装置の構成例）
図４４は、本技術を適用したテレビジョン装置の概略構成を例示している。テレビジョン装置９００は、アンテナ９０１、チューナ９０２、デマルチプレクサ９０３、デコーダ９０４、映像信号処理部９０５、表示部９０６、音声信号処理部９０７、スピーカ９０８、外部インタフェース部９０９を有している。さらに、テレビジョン装置９００は、制御部９１０、ユーザインタフェース部９１１等を有している。
【０３８６】
チューナ９０２は、アンテナ９０１で受信された放送波信号から所望のチャンネルを選局して復調を行い、得られた符号化ビットストリームをデマルチプレクサ９０３に出力する。
【０３８７】
デマルチプレクサ９０３は、符号化ビットストリームから視聴対象である番組の映像や音声のパケットを抽出して、抽出したパケットのデータをデコーダ９０４に出力する。また、デマルチプレクサ９０３は、ＥＰＧ（Electronic Program Guide）等のデータのパケットを制御部９１０に供給する。なお、スクランブルが行われている場合、デマルチプレクサ等でスクランブルの解除を行う。
【０３８８】
デコーダ９０４は、パケットの復号化処理を行い、復号処理化によって生成された映像データを映像信号処理部９０５、音声データを音声信号処理部９０７に出力する。
【０３８９】
映像信号処理部９０５は、映像データに対して、ノイズ除去やユーザ設定に応じた映像処理等を行う。映像信号処理部９０５は、表示部９０６に表示させる番組の映像データや、ネットワークを介して供給されるアプリケーションに基づく処理による画像データなどを生成する。また、映像信号処理部９０５は、項目の選択などのメニュー画面等を表示するための映像データを生成し、それを番組の映像データに重畳する。映像信号処理部９０５は、このようにして生成した映像データに基づいて駆動信号を生成して表示部９０６を駆動する。
【０３９０】
表示部９０６は、映像信号処理部９０５からの駆動信号に基づき表示デバイス（例えば液晶表示素子等）を駆動して、番組の映像などを表示させる。
【０３９１】
音声信号処理部９０７は、音声データに対してノイズ除去などの所定の処理を施し、処理後の音声データのＤ／Ａ変換処理や増幅処理を行いスピーカ９０８に供給することで音声出力を行う。
【０３９２】
外部インタフェース部９０９は、外部機器やネットワークと接続するためのインタフェースであり、映像データや音声データ等のデータ送受信を行う。
【０３９３】
制御部９１０にはユーザインタフェース部９１１が接続されている。ユーザインタフェース部９１１は、操作スイッチやリモートコントロール信号受信部等で構成されており、ユーザ操作に応じた操作信号を制御部９１０に供給する。
【０３９４】
制御部９１０は、ＣＰＵ(Central Processing Unit)やメモリ等を用いて構成されている。メモリは、ＣＰＵにより実行されるプログラムやＣＰＵが処理を行う上で必要な各種のデータ、ＥＰＧデータ、ネットワークを介して取得されたデータ等を記憶する。メモリに記憶されているプログラムは、テレビジョン装置９００の起動時などの所定タイミングでＣＰＵにより読み出されて実行される。ＣＰＵは、プログラムを実行することで、テレビジョン装置９００がユーザ操作に応じた動作となるように各部を制御する。
【０３９５】
なお、テレビジョン装置９００では、チューナ９０２、デマルチプレクサ９０３、映像信号処理部９０５、音声信号処理部９０７、外部インタフェース部９０９等と制御部９１０を接続するためバス９１２が設けられている。
【０３９６】
このように構成されたテレビジョン装置では、デコーダ９０４に本願の復号装置（復号方法）の機能が設けられる。このため、符号化対象の画像が拡大や縮小する場合の符号化効率を向上させるように符号化された符号化ストリームを復号することができる。
【０３９７】
＜第７実施の形態＞
（携帯電話機の構成例）
図４５は、本技術を適用した携帯電話機の概略構成を例示している。携帯電話機９２０は、通信部９２２、音声コーデック９２３、カメラ部９２６、画像処理部９２７、多重分離部９２８、記録再生部９２９、表示部９３０、制御部９３１を有している。これらは、バス９３３を介して互いに接続されている。
【０３９８】
また、通信部９２２にはアンテナ９２１が接続されており、音声コーデック９２３には、スピーカ９２４とマイクロホン９２５が接続されている。さらに制御部９３１には、操作部９３２が接続されている。
【０３９９】
携帯電話機９２０は、音声通話モードやデータ通信モード等の各種モードで、音声信号の送受信、電子メールや画像データの送受信、画像撮影、またはデータ記録等の各種動作を行う。
【０４００】
音声通話モードにおいて、マイクロホン９２５で生成された音声信号は、音声コーデック９２３で音声データへの変換やデータ圧縮が行われて通信部９２２に供給される。通信部９２２は、音声データの変調処理や周波数変換処理等を行い、送信信号を生成する。また、通信部９２２は、送信信号をアンテナ９２１に供給して図示しない基地局へ送信する。また、通信部９２２は、アンテナ９２１で受信した受信信号の増幅や周波数変換処理および復調処理等を行い、得られた音声データを音声コーデック９２３に供給する。音声コーデック９２３は、音声データのデータ伸張やアナログ音声信号への変換を行いスピーカ９２４に出力する。
【０４０１】
また、データ通信モードにおいて、メール送信を行う場合、制御部９３１は、操作部９３２の操作によって入力された文字データを受け付けて、入力された文字を表示部９３０に表示する。また、制御部９３１は、操作部９３２におけるユーザ指示等に基づいてメールデータを生成して通信部９２２に供給する。通信部９２２は、メールデータの変調処理や周波数変換処理等を行い、得られた送信信号をアンテナ９２１から送信する。また、通信部９２２は、アンテナ９２１で受信した受信信号の増幅や周波数変換処理および復調処理等を行い、メールデータを復元する。このメールデータを、表示部９３０に供給して、メール内容の表示を行う。
【０４０２】
なお、携帯電話機９２０は、受信したメールデータを、記録再生部９２９で記憶媒体に記憶させることも可能である。記憶媒体は、書き換え可能な任意の記憶媒体である。例えば、記憶媒体は、ＲＡＭや内蔵型フラッシュメモリ等の半導体メモリ、ハードディスク、磁気ディスク、光磁気ディスク、光ディスク、USB（Universal Serial Bus）メモリ、またはメモリカード等のリムーバブルメディアである。
【０４０３】
データ通信モードにおいて画像データを送信する場合、カメラ部９２６で生成された画像データを、画像処理部９２７に供給する。画像処理部９２７は、画像データの符号化処理を行い、符号化データを生成する。
【０４０４】
多重分離部９２８は、画像処理部９２７で生成された符号化データと、音声コーデック９２３から供給された音声データを所定の方式で多重化して通信部９２２に供給する。通信部９２２は、多重化データの変調処理や周波数変換処理等を行い、得られた送信信号をアンテナ９２１から送信する。また、通信部９２２は、アンテナ９２１で受信した受信信号の増幅や周波数変換処理および復調処理等を行い、多重化データを復元する。この多重化データを多重分離部９２８に供給する。多重分離部９２８は、多重化データの分離を行い、符号化データを画像処理部９２７、音声データを音声コーデック９２３に供給する。画像処理部９２７は、符号化データの復号化処理を行い、画像データを生成する。この画像データを表示部９３０に供給して、受信した画像の表示を行う。音声コーデック９２３は、音声データをアナログ音声信号に変換してスピーカ９２４に供給して、受信した音声を出力する。
【０４０５】
このように構成された携帯電話装置では、画像処理部９２７に本願の符号化装置および復号装置（符号化方法および復号方法）の機能が設けられる。このため、符号化対象の画像が拡大や縮小する場合の符号化効率を向上させることができる。また、符号化対象の画像が拡大や縮小する場合の符号化効率を向上させるように符号化された符号化ストリームを復号することができる。
【０４０６】
＜第８実施の形態＞
（記録再生装置の構成例）
図４６は、本技術を適用した記録再生装置の概略構成を例示している。記録再生装置９４０は、例えば受信した放送番組のオーディオデータとビデオデータを、記録媒体に記録して、その記録されたデータをユーザの指示に応じたタイミングでユーザに提供する。また、記録再生装置９４０は、例えば他の装置からオーディオデータやビデオデータを取得し、それらを記録媒体に記録させることもできる。さらに、記録再生装置９４０は、記録媒体に記録されているオーディオデータやビデオデータを復号して出力することで、モニタ装置等において画像表示や音声出力を行うことができるようにする。
【０４０７】
記録再生装置９４０は、チューナ９４１、外部インタフェース部９４２、エンコーダ９４３、ＨＤＤ（Hard Disk Drive）部９４４、ディスクドライブ９４５、セレクタ９４６、デコーダ９４７、ＯＳＤ（On-Screen Display）部９４８、制御部９４９、ユーザインタフェース部９５０を有している。
【０４０８】
チューナ９４１は、図示しないアンテナで受信された放送信号から所望のチャンネルを選局する。チューナ９４１は、所望のチャンネルの受信信号を復調して得られた符号化ビットストリームをセレクタ９４６に出力する。
【０４０９】
外部インタフェース部９４２は、ＩＥＥＥ１３９４インタフェース、ネットワークインタフェース部、ＵＳＢインタフェース、フラッシュメモリインタフェース等の少なくともいずれかで構成されている。外部インタフェース部９４２は、外部機器やネットワーク、メモリカード等と接続するためのインタフェースであり、記録する映像データや音声データ等のデータ受信を行う。
【０４１０】
エンコーダ９４３は、外部インタフェース部９４２から供給された映像データや音声データが符号化されていないとき所定の方式で符号化を行い、符号化ビットストリームをセレクタ９４６に出力する。
【０４１１】
ＨＤＤ部９４４は、映像や音声等のコンテンツデータ、各種プログラムやその他のデータ等を内蔵のハードディスクに記録し、また再生時等にそれらを当該ハードディスクから読み出す。
【０４１２】
ディスクドライブ９４５は、装着されている光ディスクに対する信号の記録および再生を行う。光ディスク、例えばＤＶＤディスク（ＤＶＤ−Ｖｉｄｅｏ、ＤＶＤ−ＲＡＭ、ＤＶＤ−Ｒ、ＤＶＤ−ＲＷ、ＤＶＤ＋Ｒ、ＤＶＤ＋ＲＷ等）やＢｌｕ−ｒａｙ（登録商標）ディスク等である。
【０４１３】
セレクタ９４６は、映像や音声の記録時には、チューナ９４１またはエンコーダ９４３からのいずれかの符号化ビットストリームを選択して、ＨＤＤ部９４４やディスクドライブ９４５のいずれかに供給する。また、セレクタ９４６は、映像や音声の再生時に、ＨＤＤ部９４４またはディスクドライブ９４５から出力された符号化ビットストリームをデコーダ９４７に供給する。
【０４１４】
デコーダ９４７は、符号化ビットストリームの復号化処理を行う。デコーダ９４７は、復号処理化を行うことにより生成された映像データをＯＳＤ部９４８に供給する。また、デコーダ９４７は、復号処理化を行うことにより生成された音声データを出力する。
【０４１５】
ＯＳＤ部９４８は、項目の選択などのメニュー画面等を表示するための映像データを生成し、それをデコーダ９４７から出力された映像データに重畳して出力する。
【０４１６】
制御部９４９には、ユーザインタフェース部９５０が接続されている。ユーザインタフェース部９５０は、操作スイッチやリモートコントロール信号受信部等で構成されており、ユーザ操作に応じた操作信号を制御部９４９に供給する。
【０４１７】
制御部９４９は、ＣＰＵやメモリ等を用いて構成されている。メモリは、ＣＰＵにより実行されるプログラムやＣＰＵが処理を行う上で必要な各種のデータを記憶する。メモリに記憶されているプログラムは、記録再生装置９４０の起動時などの所定タイミングでＣＰＵにより読み出されて実行される。ＣＰＵは、プログラムを実行することで、記録再生装置９４０がユーザ操作に応じた動作となるように各部を制御する。
【０４１８】
このように構成された記録再生装置では、デコーダ９４７に本願の復号装置（復号方法）の機能が設けられる。このため、符号化対象の画像が拡大や縮小する場合の符号化効率を向上させるように符号化された符号化ストリームを復号することができる。
【０４１９】
＜第９実施の形態＞
（撮像装置の構成例）
図４７は、本技術を適用した撮像装置の概略構成を例示している。撮像装置９６０は、被写体を撮像し、被写体の画像を表示部に表示させたり、それを画像データとして、記録媒体に記録する。
【０４２０】
撮像装置９６０は、光学ブロック９６１、撮像部９６２、カメラ信号処理部９６３、画像データ処理部９６４、表示部９６５、外部インタフェース部９６６、メモリ部９６７、メディアドライブ９６８、ＯＳＤ部９６９、制御部９７０を有している。また、制御部９７０には、ユーザインタフェース部９７１が接続されている。さらに、画像データ処理部９６４や外部インタフェース部９６６、メモリ部９６７、メディアドライブ９６８、ＯＳＤ部９６９、制御部９７０等は、バス９７２を介して接続されている。
【０４２１】
光学ブロック９６１は、フォーカスレンズや絞り機構等を用いて構成されている。光学ブロック９６１は、被写体の光学像を撮像部９６２の撮像面に結像させる。撮像部９６２は、ＣＣＤまたはＣＭＯＳイメージセンサを用いて構成されており、光電変換によって光学像に応じた電気信号を生成してカメラ信号処理部９６３に供給する。
【０４２２】
カメラ信号処理部９６３は、撮像部９６２から供給された電気信号に対してニー補正やガンマ補正、色補正等の種々のカメラ信号処理を行う。カメラ信号処理部９６３は、カメラ信号処理後の画像データを画像データ処理部９６４に供給する。
【０４２３】
画像データ処理部９６４は、カメラ信号処理部９６３から供給された画像データの符号化処理を行う。画像データ処理部９６４は、符号化処理を行うことにより生成された符号化データを外部インタフェース部９６６やメディアドライブ９６８に供給する。また、画像データ処理部９６４は、外部インタフェース部９６６やメディアドライブ９６８から供給された符号化データの復号化処理を行う。画像データ処理部９６４は、復号化処理を行うことにより生成された画像データを表示部９６５に供給する。また、画像データ処理部９６４は、カメラ信号処理部９６３から供給された画像データを表示部９６５に供給する処理や、ＯＳＤ部９６９から取得した表示用データを、画像データに重畳させて表示部９６５に供給する。
【０４２４】
ＯＳＤ部９６９は、記号、文字、または図形からなるメニュー画面やアイコンなどの表示用データを生成して画像データ処理部９６４に出力する。
【０４２５】
外部インタフェース部９６６は、例えば、ＵＳＢ入出力端子などで構成され、画像の印刷を行う場合に、プリンタと接続される。また、外部インタフェース部９６６には、必要に応じてドライブが接続され、磁気ディスク、光ディスク等のリムーバブルメディアが適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて、インストールされる。さらに、外部インタフェース部９６６は、ＬＡＮやインターネット等の所定のネットワークに接続されるネットワークインタフェースを有する。制御部９７０は、例えば、ユーザインタフェース部９７１からの指示にしたがって、メディアドライブ９６８から符号化データを読み出し、それを外部インタフェース部９６６から、ネットワークを介して接続される他の装置に供給させることができる。また、制御部９７０は、ネットワークを介して他の装置から供給される符号化データや画像データを、外部インタフェース部９６６を介して取得し、それを画像データ処理部９６４に供給したりすることができる。
【０４２６】
メディアドライブ９６８で駆動される記録メディアとしては、例えば、磁気ディスク、光磁気ディスク、光ディスク、または半導体メモリ等の、読み書き可能な任意のリムーバブルメディアが用いられる。また、記録メディアは、リムーバブルメディアとしての種類も任意であり、テープデバイスであってもよいし、ディスクであってもよいし、メモリカードであってもよい。もちろん、非接触IC（Integrated Circuit）カード等であってもよい。
【０４２７】
また、メディアドライブ９６８と記録メディアを一体化し、例えば、内蔵型ハードディスクドライブやＳＳＤ（Solid State Drive）等のように、非可搬性の記憶媒体により構成されるようにしてもよい。
【０４２８】
制御部９７０は、ＣＰＵを用いて構成されている。メモリ部９６７は、制御部９７０により実行されるプログラムや制御部９７０が処理を行う上で必要な各種のデータ等を記憶する。メモリ部９６７に記憶されているプログラムは、撮像装置９６０の起動時などの所定タイミングで制御部９７０により読み出されて実行される。制御部９７０は、プログラムを実行することで、撮像装置９６０がユーザ操作に応じた動作となるように各部を制御する。
【０４２９】
このように構成された撮像装置では、画像データ処理部９６４に本願の符号化装置および復号装置（符号化方法および復号方法）の機能が設けられる。このため、符号化対象の画像が拡大や縮小する場合の符号化効率を向上させることができる。また、符号化対象の画像が拡大や縮小する場合の符号化効率を向上させるように符号化された符号化ストリームを復号することができる。
【０４３０】
＜スケーラブル符号化の応用例＞
（第１のシステム）
次に、スケーラブル符号化（階層符号化）されたスケーラブル符号化データの具体的な利用例について説明する。スケーラブル符号化は、例えば、図４８に示される例のように、伝送するデータの選択のために利用される。
【０４３１】
図４８に示されるデータ伝送システム１０００において、配信サーバ１００２は、スケーラブル符号化データ記憶部１００１に記憶されているスケーラブル符号化データを読み出し、ネットワーク１００３を介して、パーソナルコンピュータ１００４、AV機器１００５、タブレットデバイス１００６、および携帯電話機１００７等の端末装置に配信する。
【０４３２】
その際、配信サーバ１００２は、端末装置の能力や通信環境等に応じて、適切な品質の符号化データを選択して伝送する。配信サーバ１００２が不要に高品質なデータを伝送しても、端末装置において高画質な画像を得られるとは限らず、遅延やオーバーフローの発生要因となる恐れがある。また、不要に通信帯域を占有したり、端末装置の負荷を不要に増大させたりしてしまう恐れもある。逆に、配信サーバ１００２が不要に低品質なデータを伝送しても、端末装置において十分な画質の画像を得ることができない恐れがある。そのため、配信サーバ１００２は、スケーラブル符号化データ記憶部１００１に記憶されているスケーラブル符号化データを、適宜、端末装置の能力や通信環境等に対して適切な品質の符号化データとして読み出し、伝送する。
【０４３３】
例えば、スケーラブル符号化データ記憶部１００１は、スケーラブルに符号化されたスケーラブル符号化データ（BL+EL）１０１１を記憶するとする。このスケーラブル符号化データ（BL+EL）１０１１は、ベースレイヤとエンハンスメントレイヤの両方を含む符号化データであり、復号することにより、ベースレイヤの画像およびエンハンスメントレイヤの画像の両方を得ることができるデータである。
【０４３４】
配信サーバ１００２は、データを伝送する端末装置の能力や通信環境等に応じて、適切なレイヤを選択し、そのレイヤのデータを読み出す。例えば、配信サーバ１００２は、処理能力の高いパーソナルコンピュータ１００４やタブレットデバイス１００６に対しては、高品質なスケーラブル符号化データ（BL+EL）１０１１をスケーラブル符号化データ記憶部１００１から読み出し、そのまま伝送する。これに対して、例えば、配信サーバ１００２は、処理能力の低いAV機器１００５や携帯電話機１００７に対しては、スケーラブル符号化データ（BL+EL）１０１１からベースレイヤのデータを抽出し、スケーラブル符号化データ（BL+EL）１０１１と同じコンテンツのデータであるが、スケーラブル符号化データ（BL+EL）１０１１よりも低品質なスケーラブル符号化データ（BL）１０１２として伝送する。
【０４３５】
このようにスケーラブル符号化データを用いることにより、データ量を容易に調整することができるので、遅延やオーバーフローの発生を抑制したり、端末装置や通信媒体の負荷の不要な増大を抑制したりすることができる。また、スケーラブル符号化データ（BL+EL）１０１１は、レイヤ間の冗長性が低減されているので、各レイヤの符号化データを個別のデータとする場合よりもそのデータ量を低減させることができる。したがって、スケーラブル符号化データ記憶部１００１の記憶領域をより効率よく使用することができる。
【０４３６】
なお、パーソナルコンピュータ１００４乃至携帯電話機１００７のように、端末装置には様々な装置を適用することができるので、端末装置のハードウエアの性能は、装置によって異なる。また、端末装置が実行するアプリケーションも様々であるので、そのソフトウエアの能力も様々である。さらに、通信媒体となるネットワーク１００３も、例えばインターネットやLAN（Local Area Network）等、有線若しくは無線、またはその両方を含むあらゆる通信回線網を適用することができ、そのデータ伝送能力は様々である。さらに、他の通信等によっても変化する恐れがある。
【０４３７】
そこで、配信サーバ１００２は、データ伝送を開始する前に、データの伝送先となる端末装置と通信を行い、端末装置のハードウエア性能や、端末装置が実行するアプリケーション（ソフトウエア）の性能等といった端末装置の能力に関する情報、並びに、ネットワーク１００３の利用可能帯域幅等の通信環境に関する情報を得るようにしてもよい。そして、配信サーバ１００２が、ここで得た情報を基に、適切なレイヤを選択するようにしてもよい。
【０４３８】
なお、レイヤの抽出は、端末装置において行うようにしてもよい。例えば、パーソナルコンピュータ１００４が、伝送されたスケーラブル符号化データ（BL+EL）１０１１を復号し、ベースレイヤの画像を表示しても良いし、エンハンスメントレイヤの画像を表示しても良い。また、例えば、パーソナルコンピュータ１００４が、伝送されたスケーラブル符号化データ（BL+EL）１０１１から、ベースレイヤのスケーラブル符号化データ（BL）１０１２を抽出し、記憶したり、他の装置に転送したり、復号してベースレイヤの画像を表示したりするようにしてもよい。
【０４３９】
もちろん、スケーラブル符号化データ記憶部１００１、配信サーバ１００２、ネットワーク１００３、および端末装置の数はいずれも任意である。また、以上においては、配信サーバ１００２がデータを端末装置に伝送する例について説明したが、利用例はこれに限定されない。データ伝送システム１０００は、スケーラブル符号化された符号化データを端末装置に伝送する際、端末装置の能力や通信環境等に応じて、適切なレイヤを選択して伝送するシステムであれば、任意のシステムに適用することができる。
【０４４０】
（第２のシステム）
また、スケーラブル符号化は、例えば、図４９に示される例のように、複数の通信媒体を介する伝送のために利用される。
【０４４１】
図４９に示されるデータ伝送システム１１００において、放送局１１０１は、地上波放送１１１１により、ベースレイヤのスケーラブル符号化データ（BL）１１２１を伝送する。また、放送局１１０１は、有線若しくは無線またはその両方の通信網よりなる任意のネットワーク１１１２を介して、エンハンスメントレイヤのスケーラブル符号化データ（EL）１１２２を伝送する（例えばパケット化して伝送する）。
【０４４２】
端末装置１１０２は、放送局１１０１が放送する地上波放送１１１１の受信機能を有し、この地上波放送１１１１を介して伝送されるベースレイヤのスケーラブル符号化データ（BL）１１２１を受け取る。また、端末装置１１０２は、ネットワーク１１１２を介した通信を行う通信機能をさらに有し、このネットワーク１１１２を介して伝送されるエンハンスメントレイヤのスケーラブル符号化データ（EL）１１２２を受け取る。
【０４４３】
端末装置１１０２は、例えばユーザ指示等に応じて、地上波放送１１１１を介して取得したベースレイヤのスケーラブル符号化データ（BL）１１２１を、復号してベースレイヤの画像を得たり、記憶したり、他の装置に伝送したりする。
【０４４４】
また、端末装置１１０２は、例えばユーザ指示等に応じて、地上波放送１１１１を介して取得したベースレイヤのスケーラブル符号化データ（BL）１１２１と、ネットワーク１１１２を介して取得したエンハンスメントレイヤのスケーラブル符号化データ（EL）１１２２とを合成して、スケーラブル符号化データ（BL+EL）を得たり、それを復号してエンハンスメントレイヤの画像を得たり、記憶したり、他の装置に伝送したりする。
【０４４５】
以上のように、スケーラブル符号化データは、例えばレイヤ毎に異なる通信媒体を介して伝送させることができる。したがって、負荷を分散させることができ、遅延やオーバーフローの発生を抑制することができる。
【０４４６】
また、状況に応じて、伝送に使用する通信媒体を、レイヤ毎に選択することができるようにしてもよい。例えば、データ量が比較的多いベースレイヤのスケーラブル符号化データ（BL）１１２１を帯域幅の広い通信媒体を介して伝送させ、データ量が比較的少ないエンハンスメントレイヤのスケーラブル符号化データ（EL）１１２２を帯域幅の狭い通信媒体を介して伝送させるようにしてもよい。また、例えば、エンハンスメントレイヤのスケーラブル符号化データ（EL）１１２２を伝送する通信媒体を、ネットワーク１１１２とするか、地上波放送１１１１とするかを、ネットワーク１１１２の利用可能帯域幅に応じて切り替えるようにしてもよい。もちろん、任意のレイヤのデータについて同様である。
【０４４７】
このように制御することにより、データ伝送における負荷の増大を、より抑制することができる。
【０４４８】
もちろん、レイヤ数は任意であり、伝送に利用する通信媒体の数も任意である。また、データ配信先となる端末装置１１０２の数も任意である。さらに、以上においては、放送局１１０１からの放送を例に説明したが、利用例はこれに限定されない。データ伝送システム１１００は、スケーラブル符号化された符号化データを、レイヤを単位として複数に分割し、複数の回線を介して伝送するシステムであれば、任意のシステムに適用することができる。
【０４４９】
（第３のシステム）
また、スケーラブル符号化は、例えば、図５０に示される例のように、符号化データの記憶に利用される。
【０４５０】
図５０に示される撮像システム１２００において、撮像装置１２０１は、被写体１２１１を撮像して得られた画像データをスケーラブル符号化し、スケーラブル符号化データ（BL+EL）１２２１として、スケーラブル符号化データ記憶装置１２０２に供給する。
【０４５１】
スケーラブル符号化データ記憶装置１２０２は、撮像装置１２０１から供給されるスケーラブル符号化データ（BL+EL）１２２１を、状況に応じた品質で記憶する。例えば、通常時の場合、スケーラブル符号化データ記憶装置１２０２は、スケーラブル符号化データ（BL+EL）１２２１からベースレイヤのデータを抽出し、低品質でデータ量の少ないベースレイヤのスケーラブル符号化データ（BL）１２２２として記憶する。これに対して、例えば、注目時の場合、スケーラブル符号化データ記憶装置１２０２は、高品質でデータ量の多いスケーラブル符号化データ（BL+EL）１２２１のまま記憶する。
【０４５２】
このようにすることにより、スケーラブル符号化データ記憶装置１２０２は、必要な場合のみ、画像を高画質に保存することができるので、画質劣化による画像の価値の低減を抑制しながら、データ量の増大を抑制することができ、記憶領域の利用効率を向上させることができる。
【０４５３】
例えば、撮像装置１２０１が監視カメラであるとする。撮像画像に監視対象（例えば侵入者）が写っていない場合（通常時の場合）、撮像画像の内容は重要でない可能性が高いので、データ量の低減が優先され、その画像データ（スケーラブル符号化データ）は、低品質に記憶される。これに対して、撮像画像に監視対象が被写体１２１１として写っている場合（注目時の場合）、その撮像画像の内容は重要である可能性が高いので、画質が優先され、その画像データ（スケーラブル符号化データ）は、高品質に記憶される。
【０４５４】
なお、通常時であるか注目時であるかは、例えば、スケーラブル符号化データ記憶装置１２０２が、画像を解析することにより判定しても良い。また、撮像装置１２０１が判定し、その判定結果をスケーラブル符号化データ記憶装置１２０２に伝送するようにしてもよい。
【０４５５】
なお、通常時であるか注目時であるかの判定基準は任意であり、判定基準とする画像の内容は任意である。もちろん、画像の内容以外の条件を判定基準とすることもできる。例えば、収録した音声の大きさや波形等に応じて切り替えるようにしてもよいし、所定の時間毎に切り替えるようにしてもよいし、ユーザ指示等の外部からの指示によって切り替えるようにしてもよい。
【０４５６】
また、以上においては、通常時と注目時の２つの状態を切り替える例を説明したが、状態の数は任意であり、例えば、通常時、やや注目時、注目時、非常に注目時等のように、３つ以上の状態を切り替えるようにしてもよい。ただし、この切り替える状態の上限数は、スケーラブル符号化データのレイヤ数に依存する。
【０４５７】
また、撮像装置１２０１が、スケーラブル符号化のレイヤ数を、状態に応じて決定するようにしてもよい。例えば、通常時の場合、撮像装置１２０１が、低品質でデータ量の少ないベースレイヤのスケーラブル符号化データ（BL）１２２２を生成し、スケーラブル符号化データ記憶装置１２０２に供給するようにしてもよい。また、例えば、注目時の場合、撮像装置１２０１が、高品質でデータ量の多いベースレイヤのスケーラブル符号化データ（BL+EL）１２２１を生成し、スケーラブル符号化データ記憶装置１２０２に供給するようにしてもよい。
【０４５８】
以上においては、監視カメラを例に説明したが、この撮像システム１２００の用途は任意であり、監視カメラに限定されない。
【０４５９】
＜第１０実施の形態＞
（実施のその他の例）
以上において本技術を適用する装置やシステム等の例を説明したが、本技術は、これに限らず、このような装置またはシステムを構成する装置に搭載するあらゆる構成、例えば、システムLSI（Large Scale Integration）等としてのプロセッサ、複数のプロセッサ等を用いるモジュール、複数のモジュール等を用いるユニット、ユニットにさらにその他の機能を付加したセット等（すなわち、装置の一部の構成）として実施することもできる。
【０４６０】
（ビデオセットの構成例）
本技術をセットとして実施する場合の例について、図５１を参照して説明する。図５１は、本技術を適用したビデオセットの概略的な構成の一例を示している。
【０４６１】
近年、電子機器の多機能化が進んでおり、その開発や製造において、その一部の構成を販売や提供等として実施する場合、１機能を有する構成として実施を行う場合だけでなく、関連する機能を有する複数の構成を組み合わせ、複数の機能を有する１セットとして実施を行う場合も多く見られるようになってきた。
【０４６２】
図５１に示されるビデオセット１３００は、このような多機能化された構成であり、画像の符号化や復号（いずれか一方でもよいし、両方でも良い）に関する機能を有するデバイスに、その機能に関連するその他の機能を有するデバイスを組み合わせたものである。
【０４６３】
図５１に示されるように、ビデオセット１３００は、ビデオモジュール１３１１、外部メモリ１３１２、パワーマネージメントモジュール１３１３、およびフロントエンドモジュール１３１４等のモジュール群と、コネクティビティ１３２１、カメラ１３２２、およびセンサ１３２３等の関連する機能を有するデバイスとを有する。
【０４６４】
モジュールは、互いに関連するいくつかの部品的機能をまとめ、まとまりのある機能を持った部品としたものである。具体的な物理的構成は任意であるが、例えば、それぞれ機能を有する複数のプロセッサ、抵抗やコンデンサ等の電子回路素子、その他のデバイス等を配線基板等に配置して一体化したものが考えられる。また、モジュールに他のモジュールやプロセッサ等を組み合わせて新たなモジュールとすることも考えられる。
【０４６５】
図５１の例の場合、ビデオモジュール１３１１は、画像処理に関する機能を有する構成を組み合わせたものであり、アプリケーションプロセッサ、ビデオプロセッサ、ブロードバンドモデム１３３３、およびRFモジュール１３３４を有する。
【０４６６】
プロセッサは、所定の機能を有する構成をSoC（System On a Chip）により半導体チップに集積したものであり、例えばシステムLSI（Large Scale Integration）等と称されるものもある。この所定の機能を有する構成は、論理回路（ハードウエア構成）であってもよいし、CPU、ROM、RAM等と、それらを用いて実行されるプログラム（ソフトウエア構成）であってもよいし、その両方を組み合わせたものであってもよい。例えば、プロセッサが、論理回路とCPU、ROM、RAM等とを有し、機能の一部を論理回路（ハードウエア構成）により実現し、その他の機能をCPUにおいて実行されるプログラム（ソフトウエア構成）により実現するようにしてもよい。
【０４６７】
図５１のアプリケーションプロセッサ１３３１は、画像処理に関するアプリケーションを実行するプロセッサである。このアプリケーションプロセッサ１３３１において実行されるアプリケーションは、所定の機能を実現するために、演算処理を行うだけでなく、例えばビデオプロセッサ１３３２等、ビデオモジュール１３１１内外の構成を必要に応じて制御することもできる。
【０４６８】
ビデオプロセッサ１３３２は、画像の符号化・復号（その一方若しくは両方）に関する機能を有するプロセッサである。
【０４６９】
ブロードバンドモデム１３３３は、インターネットや公衆電話回線網等の広帯域の回線を介して行われる有線若しくは無線（またはその両方）の広帯域通信に関する処理を行うプロセッサ（若しくはモジュール）である。例えば、ブロードバンドモデム１３３３は、送信するデータ（デジタル信号）をデジタル変調する等してアナログ信号に変換したり、受信したアナログ信号を復調してデータ（デジタル信号）に変換したりする。例えば、ブロードバンドモデム１３３３は、ビデオプロセッサ１３３２が処理する画像データや画像データが符号化されたストリーム、アプリケーションプログラム、設定データ等、任意の情報をデジタル変調・復調することができる。
【０４７０】
RFモジュール１３３４は、アンテナを介して送受信されるRF（Radio Frequency）信号に対して、周波数変換、変復調、増幅、フィルタ処理等を行うモジュールである。例えば、RFモジュール１３３４は、ブロードバンドモデム１３３３により生成されたベースバンド信号に対して周波数変換等を行ってRF信号を生成する。また、例えば、RFモジュール１３３４は、フロントエンドモジュール１３１４を介して受信されたRF信号に対して周波数変換等を行ってベースバンド信号を生成する。
【０４７１】
なお、図５１において点線１３４１に示されるように、アプリケーションプロセッサ１３３１とビデオプロセッサ１３３２を、一体化し、１つのプロセッサとして構成されるようにしてもよい。
【０４７２】
外部メモリ１３１２は、ビデオモジュール１３１１の外部に設けられた、ビデオモジュール１３１１により利用される記憶デバイスを有するモジュールである。この外部メモリ１３１２の記憶デバイスは、どのような物理構成により実現するようにしてもよいが、一般的にフレーム単位の画像データのような大容量のデータの格納に利用されることが多いので、例えばDRAM（Dynamic Random Access Memory）のような比較的安価で大容量の半導体メモリにより実現するのが望ましい。
【０４７３】
パワーマネージメントモジュール１３１３は、ビデオモジュール１３１１（ビデオモジュール１３１１内の各構成）への電力供給を管理し、制御する。
【０４７４】
フロントエンドモジュール１３１４は、RFモジュール１３３４に対してフロントエンド機能（アンテナ側の送受信端の回路）を提供するモジュールである。図５１に示されるように、フロントエンドモジュール１３１４は、例えば、アンテナ部１３５１、フィルタ１３５２、および増幅部１３５３を有する。
【０４７５】
アンテナ部１３５１は、無線信号を送受信するアンテナおよびその周辺の構成を有する。アンテナ部１３５１は、増幅部１３５３から供給される信号を無線信号として送信し、受信した無線信号を電気信号（RF信号）としてフィルタ１３５２に供給する。フィルタ１３５２は、アンテナ部１３５１を介して受信されたRF信号に対してフィルタ処理等を行い、処理後のRF信号をRFモジュール１３３４に供給する。増幅部１３５３は、RFモジュール１３３４から供給されるRF信号を増幅し、アンテナ部１３５１に供給する。
【０４７６】
コネクティビティ１３２１は、外部との接続に関する機能を有するモジュールである。コネクティビティ１３２１の物理構成は、任意である。例えば、コネクティビティ１３２１は、ブロードバンドモデム１３３３が対応する通信規格以外の通信機能を有する構成や、外部入出力端子等を有する。
【０４７７】
例えば、コネクティビティ１３２１が、Bluetooth（登録商標）、IEEE 802.11（例えばWi-Fi（Wireless Fidelity、登録商標））、NFC（Near Field Communication）、IrDA（InfraRed Data Association）等の無線通信規格に準拠する通信機能を有するモジュールや、その規格に準拠した信号を送受信するアンテナ等を有するようにしてもよい。また、例えば、コネクティビティ１３２１が、USB（Universal Serial Bus）、HDMI（登録商標）（High-Definition Multimedia Interface）等の有線通信規格に準拠する通信機能を有するモジュールや、その規格に準拠した端子を有するようにしてもよい。さらに、例えば、コネクティビティ１３２１が、アナログ入出力端子等のその他のデータ（信号）伝送機能等を有するようにしてもよい。
【０４７８】
なお、コネクティビティ１３２１が、データ（信号）の伝送先のデバイスを含むようにしてもよい。例えば、コネクティビティ１３２１が、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等の記録媒体に対してデータの読み出しや書き込みを行うドライブ（リムーバブルメディアのドライブだけでなく、ハードディスク、SSD（Solid State Drive）、NAS（Network Attached Storage）等も含む）を有するようにしてもよい。また、コネクティビティ１３２１が、画像や音声の出力デバイス（モニタやスピーカ等）を有するようにしてもよい。
【０４７９】
カメラ１３２２は、被写体を撮像し、被写体の画像データを得る機能を有するモジュールである。カメラ１３２２の撮像により得られた画像データは、例えば、ビデオプロセッサ１３３２に供給されて符号化される。
【０４８０】
センサ１３２３は、例えば、音声センサ、超音波センサ、光センサ、照度センサ、赤外線センサ、イメージセンサ、回転センサ、角度センサ、角速度センサ、速度センサ、加速度センサ、傾斜センサ、磁気識別センサ、衝撃センサ、温度センサ等、任意のセンサ機能を有するモジュールである。センサ１３２３により検出されたデータは、例えば、アプリケーションプロセッサ１３３１に供給されてアプリケーション等により利用される。
【０４８１】
以上においてモジュールとして説明した構成をプロセッサとして実現するようにしてもよいし、逆にプロセッサとして説明した構成をモジュールとして実現するようにしてもよい。
【０４８２】
以上のような構成のビデオセット１３００において、後述するようにビデオプロセッサ１３３２に本技術を適用することができる。したがって、ビデオセット１３００は、本技術を適用したセットとして実施することができる。
【０４８３】
（ビデオプロセッサの構成例）
図５２は、本技術を適用したビデオプロセッサ１３３２（図５１）の概略的な構成の一例を示している。
【０４８４】
図５２の例の場合、ビデオプロセッサ１３３２は、ビデオ信号およびオーディオ信号の入力を受けてこれらを所定の方式で符号化する機能と、符号化されたビデオデータおよびオーディオデータを復号し、ビデオ信号およびオーディオ信号を再生出力する機能とを有する。
【０４８５】
図５２に示されるように、ビデオプロセッサ１３３２は、ビデオ入力処理部１４０１、第１画像拡大縮小部１４０２、第２画像拡大縮小部１４０３、ビデオ出力処理部１４０４、フレームメモリ１４０５、およびメモリ制御部１４０６を有する。また、ビデオプロセッサ１３３２は、エンコード・デコードエンジン１４０７、ビデオES（Elementary Stream）バッファ１４０８Ａおよび１４０８Ｂ、並びに、オーディオESバッファ１４０９Ａおよび１４０９Ｂを有する。さらに、ビデオプロセッサ１３３２は、オーディオエンコーダ１４１０、オーディオデコーダ１４１１、多重化部（MUX（Multiplexer））１４１２、逆多重化部（DMUX（Demultiplexer））１４１３、およびストリームバッファ１４１４を有する。
【０４８６】
ビデオ入力処理部１４０１は、例えばコネクティビティ１３２１（図５１）等から入力されたビデオ信号を取得し、デジタル画像データに変換する。第１画像拡大縮小部１４０２は、画像データに対してフォーマット変換や画像の拡大縮小処理等を行う。第２画像拡大縮小部１４０３は、画像データに対して、ビデオ出力処理部１４０４を介して出力する先でのフォーマットに応じて画像の拡大縮小処理を行ったり、第１画像拡大縮小部１４０２と同様のフォーマット変換や画像の拡大縮小処理等を行ったりする。ビデオ出力処理部１４０４は、画像データに対して、フォーマット変換やアナログ信号への変換等を行って、再生されたビデオ信号として例えばコネクティビティ１３２１（図５１）等に出力する。
【０４８７】
フレームメモリ１４０５は、ビデオ入力処理部１４０１、第１画像拡大縮小部１４０２、第２画像拡大縮小部１４０３、ビデオ出力処理部１４０４、およびエンコード・デコードエンジン１４０７によって共用される画像データ用のメモリである。フレームメモリ１４０５は、例えばDRAM等の半導体メモリとして実現される。
【０４８８】
メモリ制御部１４０６は、エンコード・デコードエンジン１４０７からの同期信号を受けて、アクセス管理テーブル１４０６Ａに書き込まれたフレームメモリ１４０５へのアクセススケジュールに従ってフレームメモリ１４０５に対する書き込み・読み出しのアクセスを制御する。アクセス管理テーブル１４０６Ａは、エンコード・デコードエンジン１４０７、第１画像拡大縮小部１４０２、第２画像拡大縮小部１４０３等で実行される処理に応じて、メモリ制御部１４０６により更新される。
【０４８９】
エンコード・デコードエンジン１４０７は、画像データのエンコード処理、並びに、画像データが符号化されたデータであるビデオストリームのデコード処理を行う。例えば、エンコード・デコードエンジン１４０７は、フレームメモリ１４０５から読み出した画像データを符号化し、ビデオストリームとしてビデオESバッファ１４０８Ａに順次書き込む。また、例えば、ビデオESバッファ１４０８Ｂからビデオストリームを順次読み出して復号し、画像データとしてフレームメモリ１４０５に順次書き込む。エンコード・デコードエンジン１４０７は、これらの符号化や復号において、フレームメモリ１４０５を作業領域として使用する。また、エンコード・デコードエンジン１４０７は、例えばマクロブロック毎の処理を開始するタイミングで、メモリ制御部１４０６に対して同期信号を出力する。
【０４９０】
ビデオESバッファ１４０８Ａは、エンコード・デコードエンジン１４０７によって生成されたビデオストリームをバッファリングして、多重化部（MUX）１４１２に供給する。ビデオESバッファ１４０８Ｂは、逆多重化部（DMUX）１４１３から供給されたビデオストリームをバッファリングして、エンコード・デコードエンジン１４０７に供給する。
【０４９１】
オーディオESバッファ１４０９Ａは、オーディオエンコーダ１４１０によって生成されたオーディオストリームをバッファリングして、多重化部（MUX）１４１２に供給する。オーディオESバッファ１４０９Ｂは、逆多重化部（DMUX）１４１３から供給されたオーディオストリームをバッファリングして、オーディオデコーダ１４１１に供給する。
【０４９２】
オーディオエンコーダ１４１０は、例えばコネクティビティ１３２１（図５１）等から入力されたオーディオ信号を例えばデジタル変換し、例えばMPEGオーディオ方式やAC3（AudioCode number 3）方式等の所定の方式で符号化する。オーディオエンコーダ１４１０は、オーディオ信号が符号化されたデータであるオーディオストリームをオーディオESバッファ１４０９Ａに順次書き込む。オーディオデコーダ１４１１は、オーディオESバッファ１４０９Ｂから供給されたオーディオストリームを復号し、例えばアナログ信号への変換等を行って、再生されたオーディオ信号として例えばコネクティビティ１３２１（図５１）等に供給する。
【０４９３】
多重化部（MUX）１４１２は、ビデオストリームとオーディオストリームとを多重化する。この多重化の方法（すなわち、多重化により生成されるビットストリームのフォーマット）は任意である。また、この多重化の際に、多重化部（MUX）１４１２は、所定のヘッダ情報等をビットストリームに付加することもできる。つまり、多重化部（MUX）１４１２は、多重化によりストリームのフォーマットを変換することができる。例えば、多重化部（MUX）１４１２は、ビデオストリームとオーディオストリームとを多重化することにより、転送用のフォーマットのビットストリームであるトランスポートストリームに変換する。また、例えば、多重化部（MUX）１４１２は、ビデオストリームとオーディオストリームとを多重化することにより、記録用のファイルフォーマットのデータ（ファイルデータ）に変換する。
【０４９４】
逆多重化部（DMUX）１４１３は、多重化部（MUX）１４１２による多重化に対応する方法で、ビデオストリームとオーディオストリームとが多重化されたビットストリームを逆多重化する。つまり、逆多重化部（DMUX）１４１３は、ストリームバッファ１４１４から読み出されたビットストリームからビデオストリームとオーディオストリームとを抽出する（ビデオストリームとオーディオストリームとを分離する）。つまり、逆多重化部（DMUX）１４１３は、逆多重化によりストリームのフォーマットを変換（多重化部（MUX）１４１２による変換の逆変換）することができる。例えば、逆多重化部（DMUX）１４１３は、例えばコネクティビティ１３２１やブロードバンドモデム１３３３等（いずれも図５１）から供給されたトランスポートストリームを、ストリームバッファ１４１４を介して取得し、逆多重化することにより、ビデオストリームとオーディオストリームとに変換することができる。また、例えば、逆多重化部（DMUX）１４１３は、例えばコネクティビティ１３２１により（図５１）各種記録媒体から読み出されたファイルデータを、ストリームバッファ１４１４を介して取得し、逆多重化することにより、ビデオストリームとオーディオストリームとに変換することができる。
【０４９５】
ストリームバッファ１４１４は、ビットストリームをバッファリングする。例えば、ストリームバッファ１４１４は、多重化部（MUX）１４１２から供給されたトランスポートストリームをバッファリングし、所定のタイミングにおいて、若しくは外部からの要求等に基づいて、例えばコネクティビティ１３２１やブロードバンドモデム１３３３（いずれも図５１）等に供給する。
【０４９６】
また、例えば、ストリームバッファ１４１４は、多重化部（MUX）１４１２から供給されたファイルデータをバッファリングし、所定のタイミングにおいて、若しくは外部からの要求等に基づいて、例えばコネクティビティ１３２１（図５１）等に供給し、各種記録媒体に記録させる。
【０４９７】
さらに、ストリームバッファ１４１４は、例えばコネクティビティ１３２１やブロードバンドモデム１３３３等（いずれも図５１）を介して取得したトランスポートストリームをバッファリングし、所定のタイミングにおいて、若しくは外部からの要求等に基づいて、逆多重化部（DMUX）１４１３に供給する。
【０４９８】
また、ストリームバッファ１４１４は、例えばコネクティビティ１３２１（図５１）等において各種記録媒体から読み出されたファイルデータをバッファリングし、所定のタイミングにおいて、若しくは外部からの要求等に基づいて、逆多重化部（DMUX）１４１３に供給する。
【０４９９】
次に、このような構成のビデオプロセッサ１３３２の動作の例について説明する。例えば、コネクティビティ１３２１（図５１）等からビデオプロセッサ１３３２に入力されたビデオ信号は、ビデオ入力処理部１４０１において４：２：２Ｙ／Ｃｂ／Ｃｒ方式等の所定の方式のデジタル画像データに変換され、フレームメモリ１４０５に順次書き込まれる。このデジタル画像データは、第１画像拡大縮小部１４０２または第２画像拡大縮小部１４０３に読み出されて、４：２：０Ｙ／Ｃｂ／Ｃｒ方式等の所定の方式へのフォーマット変換および拡大縮小処理が行われ、再びフレームメモリ１４０５に書き込まれる。この画像データは、エンコード・デコードエンジン１４０７によって符号化され、ビデオストリームとしてビデオESバッファ１４０８Ａに書き込まれる。
【０５００】
また、コネクティビティ１３２１（図５１）等からビデオプロセッサ１３３２に入力されたオーディオ信号は、オーディオエンコーダ１４１０によって符号化され、オーディオストリームとして、オーディオESバッファ１４０９Ａに書き込まれる。
【０５０１】
ビデオESバッファ１４０８Ａのビデオストリームと、オーディオESバッファ１４０９Ａのオーディオストリームは、多重化部（MUX）１４１２に読み出されて多重化され、トランスポートストリーム若しくはファイルデータ等に変換される。多重化部（MUX）１４１２により生成されたトランスポートストリームは、ストリームバッファ１４１４にバッファされた後、例えばコネクティビティ１３２１やブロードバンドモデム１３３３（いずれも図５１）等を介して外部ネットワークに出力される。また、多重化部（MUX）１４１２により生成されたファイルデータは、ストリームバッファ１４１４にバッファされた後、例えばコネクティビティ１３２１（図５１）等に出力され、各種記録媒体に記録される。
【０５０２】
また、例えばコネクティビティ１３２１やブロードバンドモデム１３３３（いずれも図５１）等を介して外部ネットワークからビデオプロセッサ１３３２に入力されたトランスポートストリームは、ストリームバッファ１４１４にバッファされた後、逆多重化部（DMUX）１４１３により逆多重化される。また、例えばコネクティビティ１３２１（図５１）等において各種記録媒体から読み出され、ビデオプロセッサ１３３２に入力されたファイルデータは、ストリームバッファ１４１４にバッファされた後、逆多重化部（DMUX）１４１３により逆多重化される。つまり、ビデオプロセッサ１３３２に入力されたトランスポートストリームまたはファイルデータは、逆多重化部（DMUX）１４１３によりビデオストリームとオーディオストリームとに分離される。
【０５０３】
オーディオストリームは、オーディオESバッファ１４０９Ｂを介してオーディオデコーダ１４１１に供給され、復号されてオーディオ信号が再生される。また、ビデオストリームは、ビデオESバッファ１４０８Ｂに書き込まれた後、エンコード・デコードエンジン１４０７により順次読み出されて復号されてフレームメモリ１４０５に書き込まれる。復号された画像データは、第２画像拡大縮小部１４０３によって拡大縮小処理されて、フレームメモリ１４０５に書き込まれる。そして、復号された画像データは、ビデオ出力処理部１４０４に読み出されて、４：２：２Ｙ／Ｃｂ／Ｃｒ方式等の所定の方式にフォーマット変換され、さらにアナログ信号に変換されて、ビデオ信号が再生出力される。
【０５０４】
このように構成されるビデオプロセッサ１３３２に本技術を適用する場合、エンコード・デコードエンジン１４０７に、上述した各実施形態に係る本技術を適用すればよい。つまり、例えば、エンコード・デコードエンジン１４０７が、第１および第２実施の形態に係る符号化装置や復号装置の機能を有するようにすればよい。このようにすることにより、ビデオプロセッサ１３３２は、図１乃至図７００を参照して上述した効果と同様の効果を得ることができる。
【０５０５】
なお、エンコード・デコードエンジン１４０７において、本技術（すなわち、上述した各実施形態に係る画像符号化装置や画像復号装置の機能）は、論理回路等のハードウエアにより実現するようにしてもよいし、組み込みプログラム等のソフトウエアにより実現するようにしてもよいし、それらの両方により実現するようにしてもよい。
【０５０６】
（ビデオプロセッサの他の構成例）
図５３は、本技術を適用したビデオプロセッサ１３３２（図５１）の概略的な構成の他の例を示している。図５３の例の場合、ビデオプロセッサ１３３２は、ビデオデータを所定の方式で符号化・復号する機能を有する。
【０５０７】
より具体的には、図５３に示されるように、ビデオプロセッサ１３３２は、制御部１５１１、ディスプレイインタフェース１５１２、ディスプレイエンジン１５１３、画像処理エンジン１５１４、および内部メモリ１５１５を有する。また、ビデオプロセッサ１３３２は、コーデックエンジン１５１６、メモリインタフェース１５１７、多重化・逆多重化部（MUX DMUX）１５１８、ネットワークインタフェース１５１９、およびビデオインタフェース１５２０を有する。
【０５０８】
制御部１５１１は、ディスプレイインタフェース１５１２、ディスプレイエンジン１５１３、画像処理エンジン１５１４、およびコーデックエンジン１５１６等、ビデオプロセッサ１３３２内の各処理部の動作を制御する。
【０５０９】
図５３に示されるように、制御部１５１１は、例えば、メインCPU１５３１、サブCPU１５３２、およびシステムコントローラ１５３３を有する。メインCPU１５３１は、ビデオプロセッサ１３３２内の各処理部の動作を制御するためのプログラム等を実行する。メインCPU１５３１は、そのプログラム等に従って制御信号を生成し、各処理部に供給する（つまり、各処理部の動作を制御する）。サブCPU１５３２は、メインCPU１５３１の補助的な役割を果たす。例えば、サブCPU１５３２は、メインCPU１５３１が実行するプログラム等の子プロセスやサブルーチン等を実行する。システムコントローラ１５３３は、メインCPU１５３１およびサブCPU１５３２が実行するプログラムを指定する等、メインCPU１５３１およびサブCPU１５３２の動作を制御する。
【０５１０】
ディスプレイインタフェース１５１２は、制御部１５１１の制御の下、画像データを例えばコネクティビティ１３２１（図５１）等に出力する。例えば、ディスプレイインタフェース１５１２は、デジタルデータの画像データをアナログ信号に変換し、再生されたビデオ信号として、またはデジタルデータの画像データのまま、コネクティビティ１３２１（図５１）のモニタ装置等に出力する。
【０５１１】
ディスプレイエンジン１５１３は、制御部１５１１の制御の下、画像データに対して、その画像を表示させるモニタ装置等のハードウエアスペックに合わせるように、フォーマット変換、サイズ変換、色域変換等の各種変換処理を行う。
【０５１２】
画像処理エンジン１５１４は、制御部１５１１の制御の下、画像データに対して、例えば画質改善のためのフィルタ処理等、所定の画像処理を施す。
【０５１３】
内部メモリ１５１５は、ディスプレイエンジン１５１３、画像処理エンジン１５１４、およびコーデックエンジン１５１６により共用される、ビデオプロセッサ１３３２の内部に設けられたメモリである。内部メモリ１５１５は、例えば、ディスプレイエンジン１５１３、画像処理エンジン１５１４、およびコーデックエンジン１５１６の間で行われるデータの授受に利用される。例えば、内部メモリ１５１５は、ディスプレイエンジン１５１３、画像処理エンジン１５１４、またはコーデックエンジン１５１６から供給されるデータを格納し、必要に応じて（例えば、要求に応じて）、そのデータを、ディスプレイエンジン１５１３、画像処理エンジン１５１４、またはコーデックエンジン１５１６に供給する。この内部メモリ１５１５は、どのような記憶デバイスにより実現するようにしてもよいが、一般的にブロック単位の画像データやパラメータ等といった小容量のデータの格納に利用することが多いので、例えばSRAM（Static Random Access Memory）のような比較的（例えば外部メモリ１３１２と比較して）小容量だが応答速度が高速な半導体メモリにより実現するのが望ましい。
【０５１４】
コーデックエンジン１５１６は、画像データの符号化や復号に関する処理を行う。このコーデックエンジン１５１６が対応する符号化・復号の方式は任意であり、その数は１つであってもよいし、複数であってもよい。例えば、コーデックエンジン１５１６は、複数の符号化・復号方式のコーデック機能を備え、その中から選択されたもので画像データの符号化若しくは符号化データの復号を行うようにしてもよい。
【０５１５】
図５３に示される例において、コーデックエンジン１５１６は、コーデックに関する処理の機能ブロックとして、例えば、MPEG-2 Video１５４１、AVC/H.264１５４２、HEVC/H.265１５４３、HEVC/H.265(Scalable)１５４４、HEVC/H.265(Multi-view)１５４５、およびMPEG-DASH１５５１を有する。
【０５１６】
MPEG-2 Video１５４１は、画像データをMPEG-2方式で符号化したり復号したりする機能ブロックである。AVC/H.264１５４２は、画像データをAVC方式で符号化したり復号したりする機能ブロックである。HEVC/H.265１５４３は、画像データをHEVC方式で符号化したり復号したりする機能ブロックである。HEVC/H.265(Scalable)１５４４は、画像データをHEVC方式でスケーラブル符号化したりスケーラブル復号したりする機能ブロックである。HEVC/H.265(Multi-view)１５４５は、画像データをHEVC方式で多視点符号化したり多視点復号したりする機能ブロックである。
【０５１７】
MPEG-DASH１５５１は、画像データをMPEG-DASH（MPEG-Dynamic Adaptive Streaming over HTTP）方式で送受信する機能ブロックである。MPEG-DASHは、HTTP（HyperText Transfer Protocol）を使ってビデオのストリーミングを行う技術であり、予め用意された解像度等が互いに異なる複数の符号化データの中から適切なものをセグメント単位で選択し伝送することを特徴の１つとする。MPEG-DASH１５５１は、規格に準拠するストリームの生成やそのストリームの伝送制御等を行い、画像データの符号化・復号については、上述したMPEG-2 Video１５４１乃至HEVC/H.265(Multi-view)１５４５を利用する。
【０５１８】
メモリインタフェース１５１７は、外部メモリ１３１２用のインタフェースである。画像処理エンジン１５１４やコーデックエンジン１５１６から供給されるデータは、メモリインタフェース１５１７を介して外部メモリ１３１２に供給される。また、外部メモリ１３１２から読み出されたデータは、メモリインタフェース１５１７を介してビデオプロセッサ１３３２（画像処理エンジン１５１４若しくはコーデックエンジン１５１６）に供給される。
【０５１９】
多重化・逆多重化部（MUX DMUX）１５１８は、符号化データのビットストリーム、画像データ、ビデオ信号等、画像に関する各種データの多重化や逆多重化を行う。この多重化・逆多重化の方法は任意である。例えば、多重化の際に、多重化・逆多重化部（MUX DMUX）１５１８は、複数のデータを１つにまとめるだけでなく、所定のヘッダ情報等をそのデータに付加することもできる。また、逆多重化の際に、多重化・逆多重化部（MUX DMUX）１５１８は、１つのデータを複数に分割するだけでなく、分割した各データに所定のヘッダ情報等を付加することもできる。つまり、多重化・逆多重化部（MUX DMUX）１５１８は、多重化・逆多重化によりデータのフォーマットを変換することができる。例えば、多重化・逆多重化部（MUX DMUX）１５１８は、ビットストリームを多重化することにより、転送用のフォーマットのビットストリームであるトランスポートストリームや、記録用のファイルフォーマットのデータ（ファイルデータ）に変換することができる。もちろん、逆多重化によりその逆変換も可能である。
【０５２０】
ネットワークインタフェース１５１９は、例えばブロードバンドモデム１３３３やコネクティビティ１３２１（いずれも図５１）等向けのインタフェースである。ビデオインタフェース１５２０は、例えばコネクティビティ１３２１やカメラ１３２２（いずれも図５１）等向けのインタフェースである。
【０５２１】
次に、このようなビデオプロセッサ１３３２の動作の例について説明する。例えば、例えばコネクティビティ１３２１やブロードバンドモデム１３３３（いずれも図５１）等を介して外部ネットワークからトランスポートストリームを受信すると、そのトランスポートストリームは、ネットワークインタフェース１５１９を介して多重化・逆多重化部（MUX DMUX）１５１８に供給されて逆多重化され、コーデックエンジン１５１６により復号される。コーデックエンジン１５１６の復号により得られた画像データは、例えば、画像処理エンジン１５１４により所定の画像処理が施され、ディスプレイエンジン１５１３により所定の変換が行われ、ディスプレイインタフェース１５１２を介して例えばコネクティビティ１３２１（図５１）等に供給され、その画像がモニタに表示される。また、例えば、コーデックエンジン１５１６の復号により得られた画像データは、コーデックエンジン１５１６により再符号化され、多重化・逆多重化部（MUX DMUX）１５１８により多重化されてファイルデータに変換され、ビデオインタフェース１５２０を介して例えばコネクティビティ１３２１（図５１）等に出力され、各種記録媒体に記録される。
【０５２２】
さらに、例えば、コネクティビティ１３２１（図５１）等により図示せぬ記録媒体から読み出された、画像データが符号化された符号化データのファイルデータは、ビデオインタフェース１５２０を介して多重化・逆多重化部（MUX DMUX）１５１８に供給されて逆多重化され、コーデックエンジン１５１６により復号される。コーデックエンジン１５１６の復号により得られた画像データは、画像処理エンジン１５１４により所定の画像処理が施され、ディスプレイエンジン１５１３により所定の変換が行われ、ディスプレイインタフェース１５１２を介して例えばコネクティビティ１３２１（図５１）等に供給され、その画像がモニタに表示される。また、例えば、コーデックエンジン１５１６の復号により得られた画像データは、コーデックエンジン１５１６により再符号化され、多重化・逆多重化部（MUX DMUX）１５１８により多重化されてトランスポートストリームに変換され、ネットワークインタフェース１５１９を介して例えばコネクティビティ１３２１やブロードバンドモデム１３３３（いずれも図５１）等に供給され図示せぬ他の装置に伝送される。
【０５２３】
なお、ビデオプロセッサ１３３２内の各処理部の間での画像データやその他のデータの授受は、例えば、内部メモリ１５１５や外部メモリ１３１２を利用して行われる。また、パワーマネージメントモジュール１３１３は、例えば制御部１５１１への電力供給を制御する。
【０５２４】
このように構成されるビデオプロセッサ１３３２に本技術を適用する場合、コーデックエンジン１５１６に、上述した各実施形態に係る本技術を適用すればよい。つまり、例えば、コーデックエンジン１５１６が、第１および第２実施の形態に係る符号化装置や復号装置を実現する機能ブロックを有するようにすればよい。コーデックエンジン１５１６が、このようにすることにより、ビデオプロセッサ１３３２は、図１乃至図７００を参照して上述した効果と同様の効果を得ることができる。
【０５２５】
なお、コーデックエンジン１５１６において、本技術（すなわち、上述した各実施形態に係る画像符号化装置や画像復号装置の機能）は、論理回路等のハードウエアにより実現するようにしてもよいし、組み込みプログラム等のソフトウエアにより実現するようにしてもよいし、それらの両方により実現するようにしてもよい。
【０５２６】
以上にビデオプロセッサ１３３２の構成を２例示したが、ビデオプロセッサ１３３２の構成は任意であり、上述した２例以外のものであってもよい。また、このビデオプロセッサ１３３２は、１つの半導体チップとして構成されるようにしてもよいが、複数の半導体チップとして構成されるようにしてもよい。例えば、複数の半導体を積層する３次元積層LSIとしてもよい。また、複数のLSIにより実現されるようにしてもよい。
【０５２７】
（装置への適用例）
ビデオセット１３００は、画像データを処理する各種装置に組み込むことができる。例えば、ビデオセット１３００は、テレビジョン装置９００（図４４）、携帯電話機９２０（図４５）、記録再生装置９４０（図４６）、撮像装置９６０（図４７）等に組み込むことができる。ビデオセット１３００を組み込むことにより、その装置は、図１乃至図７００を参照して上述した効果と同様の効果を得ることができる。
【０５２８】
また、ビデオセット１３００は、例えば、図４８のデータ伝送システム１０００におけるパーソナルコンピュータ１００４、AV機器１００５、タブレットデバイス１００６、および携帯電話機１００７等の端末装置、図４９のデータ伝送システム１１００における放送局１１０１および端末装置１１０２、並びに、図５０の撮像システム１２００における撮像装置１２０１およびスケーラブル符号化データ記憶装置１２０２等にも組み込むことができる。ビデオセット１３００を組み込むことにより、その装置は、図１乃至図７００を参照して上述した効果と同様の効果を得ることができる。
【０５２９】
なお、上述したビデオセット１３００の各構成の一部であっても、ビデオプロセッサ１３３２を含むものであれば、本技術を適用した構成として実施することができる。例えば、ビデオプロセッサ１３３２のみを本技術を適用したビデオプロセッサとして実施することができる。また、例えば、上述したように点線１３４１により示されるプロセッサやビデオモジュール１３１１等を本技術を適用したプロセッサやモジュール等として実施することができる。さらに、例えば、ビデオモジュール１３１１、外部メモリ１３１２、パワーマネージメントモジュール１３１３、およびフロントエンドモジュール１３１４を組み合わせ、本技術を適用したビデオユニット１３６１として実施することもできる。いずれの構成の場合であっても、図１乃至図７００を参照して上述した効果と同様の効果を得ることができる。
【０５３０】
つまり、ビデオプロセッサ１３３２を含むものであればどのような構成であっても、ビデオセット１３００の場合と同様に、画像データを処理する各種装置に組み込むことができる。例えば、ビデオプロセッサ１３３２、点線１３４１により示されるプロセッサ、ビデオモジュール１３１１、または、ビデオユニット１３６１を、テレビジョン装置９００（図４４）、携帯電話機９２０（図４５）、記録再生装置９４０（図４６）、撮像装置９６０（図４７）、図４８のデータ伝送システム１０００におけるパーソナルコンピュータ１００４、AV機器１００５、タブレットデバイス１００６、および携帯電話機１００７等の端末装置、図４９のデータ伝送システム１１００における放送局１１０１および端末装置１１０２、並びに、図５０の撮像システム１２００における撮像装置１２０１およびスケーラブル符号化データ記憶装置１２０２等に組み込むことができる。そして、本技術を適用したいずれかの構成を組み込むことにより、その装置は、ビデオセット１３００の場合と同様に、図１乃至図７００を参照して上述した効果と同様の効果を得ることができる。
【０５３１】
なお、本明細書では、拡大縮小率情報、拡大縮小率対応情報などの各種情報が、符号化データに多重化されて、符号化側から復号側へ伝送される例について説明した。しかしながら、これら情報を伝送する手法はかかる例に限定されない。例えば、これら情報は、符号化データに多重化されることなく、符号化データと関連付けられた別個のデータとして伝送され又は記録されてもよい。ここで、「関連付ける」という用語は、ビットストリームに含まれる画像（スライスやブロックなど、画像の一部であってもよい）と当該画像に対応する情報とを復号時にリンクさせ得るようにすることを意味する。即ち、情報は、符号化データとは別の伝送路上で伝送されてもよい。また、情報は、符号化データとは別の記録媒体（又は同一の記録媒体の別の記録エリア）に記録されてもよい。さらに、情報と符号化データとは、例えば、複数フレーム、１フレーム、又はフレーム内の一部分などの任意の単位で互いに関連付けられてよい。
【０５３２】
本開示は、MPEG,H.26ｘ等のように、離散コサイン変換等の直交変換と動き補償によって圧縮されたビットストリームを、衛星放送、ケーブルＴＶ、インターネット、携帯電話などのネットワークメディアを介して受信する際、または光、磁気ディスク、フラッシュメモリのような記憶メディア上で処理する際に用いられる符号化装置や復号装置に適用することができる。
【０５３３】
また、本開示は、インター予測処理を行うHEVC方式以外の符号化方式の符号化装置および復号装置に適用することもできる。
【０５３４】
また、本明細書において、システムとは、複数の構成要素（装置、モジュール（部品）等）の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、１つの筐体の中に複数のモジュールが収納されている１つの装置は、いずれも、システムである。
【０５３５】
さらに、本明細書に記載された効果はあくまで例示であって限定されるものではなく、他の効果があってもよい。
【０５３６】
また、本開示の実施の形態は、上述した実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。
【０５３７】
例えば、本開示は、１つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
【０５３８】
また、上述のフローチャートで説明した各ステップは、１つの装置で実行する他、複数の装置で分担して実行することができる。
【０５３９】
さらに、１つのステップに複数の処理が含まれる場合には、その１つのステップに含まれる複数の処理は、１つの装置で実行する他、複数の装置で分担して実行することができる。
【０５４０】
本開示は、以下のような構成もとることができる。
【０５４１】
（１）
インター符号化画像に対する参照画像の拡大または縮小の率を表す拡大縮小率情報に基づいて、前記参照画像を拡大または縮小する拡大縮小部と、
前記拡大縮小部により拡大または縮小された前記参照画像を用いて予測画像を生成する生成部と、
前記生成部により生成された前記予測画像を用いて、前記インター符号化画像を復号する復号部と
を備える復号装置。
（２）
前記拡大縮小部は、前記拡大縮小率情報が拡大の率を表す場合、前記参照画像内の１つの画素を、前記予測画像を構成する複数の画素として生成する
ように構成された
前記（１）に記載の復号装置。
（３）
前記拡大縮小部は、前記拡大縮小率が縮小の率を表す場合、前記参照画像の領域内の１つの画素を、その領域に対応する予測画像の画素として生成する
ように構成された
前記（１）または（２）に記載の復号装置。
（４）
前記拡大縮小部により拡大または縮小された前記参照画像に対して、ブロック単位でローパスフィルタ処理を施すフィルタ処理部
をさらに備え、
前記生成部は、前記フィルタ処理部によりローパスフィルタ処理が施された前記参照画像を用いて前記予測画像を生成する
前記（１）乃至（３）のいずれかに記載の復号装置。
（５）
前記フィルタ処理部は、前記ブロックのサイズが所定のサイズより小さい場合、前記参照画像に対して前記ローパスフィルタ処理を施す
ように構成された
前記（４）に記載の復号装置。
（６）
前記拡大縮小率情報は、前記インター符号化画像の水平方向と垂直方向について独立して設定される
ように構成された
前記（１）乃至（５）のいずれかに記載の復号装置。
（７）
前記拡大縮小部は、前記インター符号化画像より符号化順で前の前記参照画像または後の前記参照画像のいずれか一方に対する前記拡大縮小率情報と、前記インター符号化画像並びに前記インター符号化画像より符号化順で前の前記参照画像および後の前記参照画像の時間距離とに基づいて、他方に対する前記拡大縮小率情報を算出する
ように構成された
前記（１）乃至（６）のいずれかに記載の復号装置。
（８）
前記予測画像のブロックに対応する前記拡大縮小率情報と、そのブロックの周辺のブロックである周辺ブロックに対応する前記拡大縮小率情報との差分と、前記周辺ブロックの前記拡大縮小率情報とに基づいて、前記予測画像のブロックの前記拡大縮小率情報を決定する情報復号部
をさらに備える
前記（１）乃至（７）のいずれかに記載の復号装置。
（９）
前記インター符号化画像における動きベクトルの符号化モードがマージモードである場合、前記マージモードで動きベクトルが参照される前記予測画像のブロックに対応する拡大縮小率情報を、参照元の前記予測画像のブロックに対応する前記拡大縮小率情報に決定する決定部
をさらに備える
前記（１）乃至（８）のいずれかに記載の復号装置。
（１０）
復号装置が、
インター符号化画像に対する参照画像の拡大または縮小の率を表す拡大縮小率情報に基づいて、前記参照画像を拡大または縮小する拡大縮小ステップと、
前記拡大縮小ステップの処理により拡大または縮小された前記参照画像を用いて予測画像を生成する生成ステップと、
前記生成ステップの処理により生成された前記予測画像を用いて、前記インター符号化画像を復号する復号ステップと
を含む復号方法。
（１１）
符号化対象の画像に対する参照画像の拡大または縮小の率を表す拡大縮小率情報に基づいて、前記参照画像を拡大または縮小する拡大縮小部と、
前記拡大縮小部により拡大または縮小された前記参照画像を用いて予測画像を生成する生成部と、
前記生成部により生成された前記予測画像を用いて、前記符号化対象の画像を符号化し、符号化データを生成する符号化部と、
前記符号化部により生成された前記符号化データと前記拡大縮小率情報とを伝送する伝送部と
を備える符号化装置。
（１２）
前記拡大縮小部は、前記拡大縮小率情報が拡大の率を表す場合、前記参照画像内の１つの画素を、前記予測画像を構成する複数の画素として生成する
ように構成された
前記（１１）に記載の符号化装置。
（１３）
前記拡大縮小部は、前記拡大縮小率情報が縮小の率を表す場合、前記参照画像の領域内の１つの画素を、その領域に対応する予測画像の画素として生成する
ように構成された
前記（１１）または（１２）に記載の符号化装置。
（１４）
前記拡大縮小部により拡大または縮小された前記参照画像に対して、ブロック単位でローパスフィルタ処理を施すフィルタ処理部
をさらに備え、
前記生成部は、前記フィルタ処理部によりローパスフィルタ処理が施された前記参照画像を用いて前記予測画像を生成する
前記（１１）乃至（１３）のいずれかに記載の符号化装置。
（１５）
前記フィルタ処理部は、前記ブロックのサイズが所定のサイズより小さい場合、前記参照画像に対して前記ローパスフィルタ処理を施す
ように構成された
前記（１４）に記載の符号化装置。
（１６）
前記拡大縮小率情報は、前記符号化対象の画像の水平方向と垂直方向について独立して設定される
ように構成された
前記（１１）乃至（１５）のいずれかに記載の符号化装置。
（１７）
前記伝送部は、前記符号化対象の画像より符号化順で前の前記参照画像または後の前記参照画像のいずれか一方に対する前記拡大縮小率情報のみを伝送する
ように構成された
前記（１１）乃至（１６）のいずれかに記載の符号化装置。
（１８）
前記予測画像のブロックに対応する前記拡大縮小率情報と、そのブロックの周辺のブロックである周辺ブロックに対応する前記拡大縮小率情報との差分を算出する情報符号化部
をさらに備え、
前記伝送部は、前記情報符号化部により算出された前記拡大縮小率情報の差分を伝送する
ように構成された
前記（１１）乃至（１７）のいずれかに記載の符号化装置。
（１９）
前記符号化対象の画像における動きベクトルの符号化モードがマージモードである場合、前記マージモードで動きベクトルが参照される前記予測画像のブロックに対応する拡大縮小率情報を、参照元の前記予測画像のブロックに対応する前記拡大縮小率情報に決定する決定部
をさらに備え、
前記伝送部は、前記動きベクトルの符号化モードがマージモード以外である場合、前記拡大縮小率情報を伝送する
前記（１１）乃至（１８）のいずれかに記載の符号化装置。
（２０）
符号化装置が、
符号化対象の画像に対する参照画像の拡大または縮小の率を表す拡大縮小率情報に基づいて、前記参照画像を拡大または縮小する拡大縮小ステップと、
前記拡大縮小ステップの処理により拡大または縮小された前記参照画像を用いて予測画像を生成する生成ステップと、
前記生成ステップの処理により生成された前記予測画像を用いて、前記符号化対象の画像を符号化し、符号化データを生成する符号化ステップと、
前記符号化ステップの処理により生成された前記符号化データと前記拡大縮小率情報とを伝送する伝送ステップと
を含む符号化方法。
【符号の説明】
【０５４２】
１０  符号化装置，  １３  伝送部，  ３３  演算部，  ８２  参照画像バッファ，  ８３  ローパスフィルタ，  ８４  生成部，  １１０  復号装置，  １３５  加算部，  １４５  情報復号部，  １６２  参照画像バッファ，  １６３  ローパスフィルタ，  １６４  生成部
【図１】
2015128205.tif 000012
【図２】
2015128205.tif 000013
【図３】
2015128205.tif 000014
【図４】
2015128205.tif 000015
【図５】
2015128205.tif 000016
【図６】
2015128205.tif 000017
【図７】
2015128205.tif 000018
【図８】
2015128205.tif 000019
【図９】
2015128205.tif 000020
【図１０】
2015128205.tif 000021
【図１１】
2015128205.tif 000022
【図１２】
2015128205.tif 000023
【図１３】
2015128205.tif 000024
【図１４】
2015128205.tif 000025
【図１５】
2015128205.tif 000026
【図１６】
2015128205.tif 000027
【図１７】
2015128205.tif 000028
【図１８】
2015128205.tif 000029
【図１９】
2015128205.tif 000030
【図２０】
2015128205.tif 000031
【図２１】
2015128205.tif 000032
【図２２】
2015128205.tif 000033
【図２３】
2015128205.tif 000034
【図２４】
2015128205.tif 000035
【図２５】
2015128205.tif 000036
【図２６】
2015128205.tif 000037
【図２７】
2015128205.tif 000038
【図２８】
2015128205.tif 000039
【図２９】
2015128205.tif 000040
【図３０】
2015128205.tif 000041
【図３１】
2015128205.tif 000042
【図３２】
2015128205.tif 000043
【図３３】
2015128205.tif 000044
【図３４】
2015128205.tif 000045
【図３５】
2015128205.tif 000046
【図３６】
2015128205.tif 000047
【図３７】
2015128205.tif 000048
【図３８】
2015128205.tif 000049
【図３９】
2015128205.tif 000050
【図４０】
2015128205.tif 000051
【図４１】
2015128205.tif 000052
【図４２】
2015128205.tif 000053
【図４３】
2015128205.tif 000054
【図４４】
2015128205.tif 000055
【図４５】
2015128205.tif 000056
【図４６】
2015128205.tif 000057
【図４７】
2015128205.tif 000058
【図４８】
2015128205.tif 000059
【図４９】
2015128205.tif 000060
【図５０】
2015128205.tif 000061
【図５１】
2015128205.tif 000062
【図５２】
2015128205.tif 000063
【図５３】
2015128205.tif 000064