(57)【要約】【課題】入力がインターレース信号である場合の動きベクトルの符号化または復号において、符号化効率を向上させることができるようにする。【解決手段】ステップＳ１０１において、シンタクス書き込み部は、シーケンスパラメータセットにおいて、field_coding_flagを付加し、伝送させる。ステップＳ１０２において、field_coding_flagが１であると判定された場合、処理は、ステップＳ１０３に進む。シンタクス書き込み部は、ステップＳ１０３において、APSにおいてbottom_field_flagを付加し、伝送させる。本開示は、例えば、画像処理装置に適用することができる。【選択図】図１５
2013150124.tif 000002
【特許請求の範囲】
【請求項１】
符号化ストリームと、シーケンス毎に伝送されるフィールド符号化であるか否かを示すフィールド符号化フラグとを受け取る受け取り部と、
前記受け取り部により受け取られたフィールド符号化フラグに応じて、前記受け取り部により受け取られた符号化ストリームを復号処理して画像を生成する復号部と
を備える画像処理装置。
【請求項２】
前記受け取り部は、ピクチャ毎に伝送されるフィールド毎のパリティを示すパリティフラグを受け取り、
前記復号部は、前記受け取り部により受け取られたフィールド符号化フラグがフィールド符号化であることを示す場合、前記受け取り部により受け取られたパリティフラグに応じて、前記受け取り部により受け取られた符号化ストリームを復号処理して画像を生成する
請求項１に記載の画像処理装置。
【請求項３】
前記フィールド符号化フラグは、シーケンスパラメータセットに設定されている
請求項２に記載の画像処理装置。
【請求項４】
前記パリティフラグは、adaptation parameter setに設定されている
請求項３に記載の画像処理装置。
【請求項５】
前記受け取り部は、Supplemental Enhanced Informationメッセージに設定されて伝送されるインターレース信号としての表示の指定情報を受け取り、
前記復号部は、前記受け取り部により受け取られたフィールド符号化フラグがフレーム符号化であることを示す場合、前記受け取り部により受け取られた指定情報に応じて、前記受け取り部により受け取られた符号化ストリームを復号処理して画像を生成し、生成された画像をインターレース信号として出力する
請求項４に記載の画像処理装置。
【請求項６】
画像処理装置が、
符号化ストリームと、シーケンス毎に伝送されるフィールド符号化であるか否かを示すフィールド符号化フラグとを受け取り、
受け取られたフィールド符号化フラグに応じて、受け取られた符号化ストリームを復号処理して画像を生成する
画像処理方法。
【請求項７】
画像をフィールド符号化するか否かに応じて、前記画像を符号化し、符号化ストリームを生成する符号化部と、
前記画像をフィールド符号化するか否かを示すフィールド符号化フラグをシーケンス毎に設定する設定部と、
前記符号化部により生成された符号化ストリームと、前記設定部によりシーケンス毎に設定されたフィールド符号化フラグとを伝送する伝送部と
を備える画像処理装置。
【請求項８】
前記設定部は、前記画像をフィールド符号化する場合、フィールド毎のパリティを示すパリティフラグをピクチャ毎に設定し、
前記伝送部は、前記設定部により設定されたパリティフラグをピクチャ毎に伝送する
請求項７に記載の画像処理装置。
【請求項９】
前記設定部は、前記フィールド符号化フラグを、シーケンスパラメータセットに設定する
請求項８に記載の画像処理装置。
【請求項１０】
前記設定部は、前記パリティフラグを、adaptation parameter setに設定する
請求項９に記載の画像処理装置。
【請求項１１】
前記設定部は、前記画像をフレーム符号化するが、インターレース信号として表示する場合、インターレース信号としての表示の指定情報をSupplemental Enhanced Informationメッセージに設定し、
前記伝送部は、前記設定部により前記指定情報が設定されたSupplemental Enhanced Informationメッセージを伝送する
請求項１０に記載の画像処理装置。
【請求項１２】
画像処理装置が、
画像をフィールド符号化するか否かに応じて、前記画像を符号化し、符号化ストリームを生成し、
前記画像をフィールド符号化するか否かを示すフィールド符号化フラグをシーケンス毎に設定し、
生成された符号化ストリームと、シーケンス毎に設定されたフィールド符号化フラグとを伝送する
画像処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は画像処理装置および方法に関し、特に、入力がインターレース信号である場合に、符号化または復号処理を効率的に行うことができるようにした画像処理装置および方法に関する。
【背景技術】
【０００２】
近年、画像情報をデジタルとして取り扱い、その際、効率の高い情報の伝送、蓄積を目的とし、画像情報特有の冗長性を利用して、離散コサイン変換等の直交変換と動き補償により圧縮する符号化方式を採用して画像を圧縮符号する装置が普及しつつある。この符号化方式には、例えば、MPEG（Moving Picture Experts Group）などがある。
【０００３】
特に、MPEG2(ISO/IEC 13818-2)は、汎用画像符号化方式として定義されており、飛び越し走査画像及び順次走査画像の双方、並びに標準解像度画像及び高精細画像を網羅する標準である。例えば、MPEG2は、プロフェッショナル用途及びコンシューマ用途の広範なアプリケーションに現在広く用いられている。MPEG2圧縮方式を用いることにより、例えば720×480画素を持つ標準解像度の飛び越し走査画像であれば4乃至8Mbpsの符号量（ビットレート）が割り当てられる。また、MPEG2圧縮方式を用いることにより、例えば1920×1088画素を持つ高解像度の飛び越し走査画像であれば18乃至22 Mbpsの符号量（ビットレート）が割り当てられる。これにより、高い圧縮率と良好な画質の実現が可能である。
【０００４】
MPEG2は主として放送用に適合する高画質符号化を対象としていたが、MPEG1より低い符号量（ビットレート）、つまりより高い圧縮率の符号化方式には対応していなかった。携帯端末の普及により、今後そのような符号化方式のニーズは高まると思われ、これに対応してMPEG4符号化方式の標準化が行われた。画像符号化方式に関しては、1998年12月にISO/IEC 14496-2としてその規格が国際標準に承認された。
【０００５】
標準化のスケジュールとしては、2003年3月にはH．264及びMPEG-4 Part10 （Advanced Video Coding、以下AVC方式と称する）という国際標準となっている。
【０００６】
さらに、このAVC方式の拡張として、RGBや4:2:2、4:4:4といった、業務用に必要な符号化ツールや、MPEG-2で規定されていた8x8DCTや量子化マトリクスをも含んだFRExt (Fidelity Range Extension) の標準化が2005年2月に完了した。これにより、AVC方式を用いて、映画に含まれるフィルムノイズをも良好に表現することが可能な符号化方式となって、Blu-Ray Disc（商標）等の幅広いアプリケーションに用いられる運びとなった。
【０００７】
しかしながら、昨今、ハイビジョン画像の4倍の、4000×2000画素程度の画像を圧縮したい、あるいは、インターネットのような、限られた伝送容量の環境において、ハイビジョン画像を配信したいといった、更なる高圧縮率符号化に対するニーズが高まっている。このため、先述の、ITU-T傘下のVCEG (=Video Coding Expert Group) において、符号化効率の改善に関する検討が継続され行なわれている。
【０００８】
ところで、マクロブロックサイズを１６画素×１６画素とするのは、次世代符号化方式の対象となるような、UHD（Ultra High Definition；4000画素×2000画素）といった大きな画枠に対しては、最適ではない恐れがあった。
【０００９】
そこで、現在、AVCより更なる符号化効率の向上を目的として、ITU-Tと、ISO/IECの共同の標準化団体であるJCTVC（Joint Collaboration Team - Video Coding）により、HEVC（High Efficiency Video Coding）と呼ばれる符号化方式の標準化が進められている（例えば、非特許文献２参照）。
【００１０】
このHEVC方式においては、AVC方式におけるマクロブロックと同様の処理単位としてコーディングユニット（ＣＵ（Coding Unit））が定義されている。このＣＵは、AVC方式のマクロブロックのようにサイズが16×16画素に固定されず、それぞれのシーケンスにおいて、画像圧縮情報中において指定される。また、それぞれのシーケンスにおいては、ＣＵの最大サイズ(ＬＣＵ=Largest Coding Unit)と最小サイズ(ＳＣＵ=Smallest Coding Unit)も規定されている。
【００１１】
ＣＵは、イントラ若しくはインター予測の処理単位となる領域（ピクチャ単位の画像の部分領域）であるプレディクションユニット（Prediction Unit（ＰＵ））に分割され、また、直交変換の処理単位となる領域（ピクチャ単位の画像の部分領域）である、トランスフォームユニット（Transform Unit（ＴＵ））に分割される。
【００１２】
インターＰＵにおいては、１つのＣＵの大きさが２Ｎ×２Ｎである場合、２Ｎ×２Ｎ、２Ｎ×Ｎ、Ｎ×２Ｎ、およびＮ×Ｎのいずれかの大きさに分割することが可能である。
【００１３】
ところで、AVC方式においては、入力となる画像がインターレース信号である場合、ピクチャ単位またはマクロブロックペア単位で、フレーム符号化とフィールド符号化とを選択することが可能である。インターレース信号においては、フレームおよび各マクロブロックが、トップフィールドおよびボトムフィールドという異なるパリティ（トップまたはボトム）のフィールドで交互に構成されている。
【００１４】
フィールド符号化は、トップフィールドおよびボトムフィールドからなるフィールド毎に符号化を行う方法であり、フレーム符号化は、トップフィールドおよびボトムフィールドを分けずに符号化を行う方法である。
【００１５】
そして、AVC方式においては、フィールド符号化が行われる場合、当該フィールドと参照フィールドが異なるときに、色差信号に関する動きベクトルの垂直方向成分のシフト処理が行われる。
【先行技術文献】
【非特許文献】
【００１６】
【非特許文献１】Joel Jung,Guillaume Laroche,"Competition-Based Scheme for Motion Vector Selection and Coding", VCEG-AC06,ITU - Telecommunications Standardization SectorSTUDY GROUP 16 Question 6Video Coding Experts Group (VCEG)29th Meeting: Klagenfurt, Austria, 17-18 July, 2006
【発明の概要】
【発明が解決しようとする課題】
【００１７】
上述したインターレース信号に関する機能は、HEVCにも適用されることが想定される。しかしながら、入力がインターレース信号の場合に、HEVCにおいて定められている処理単位であるＣＵに、マクロブロックペア単位でフィールド符号化か、またはフレーム符号化かを選択する処理を適用することは、処理が複雑になってしまう。
【００１８】
本開示は、このような状況に鑑みてなされたものであり、入力がインターレース信号である場合に、符号化または復号処理を効率的に行うことができるものである。
【課題を解決するための手段】
【００１９】
本開示の一側面の画像処理装置は、符号化ストリームと、シーケンス毎に伝送されるフィールド符号化であるか否かを示すフィールド符号化フラグとを受け取る受け取り部と、前記受け取り部により受け取られたフィールド符号化フラグに応じて、前記受け取り部により受け取られた符号化ストリームを復号処理して画像を生成する復号部とを備える。
【００２０】
前記受け取り部は、ピクチャ毎に伝送されるフィールド毎のパリティを示すパリティフラグを受け取り、前記復号部は、前記受け取り部により受け取られたフィールド符号化フラグがフィールド符号化であることを示す場合、前記受け取り部により受け取られたパリティフラグに応じて、前記受け取り部により受け取られた符号化ストリームを復号処理して画像を生成することができる。
【００２１】
前記フィールド符号化フラグは、シーケンスパラメータセットに設定されている。
【００２２】
前記パリティフラグは、adaptation parameter setに設定されている。
【００２３】
前記受け取り部は、Supplemental Enhanced Informationメッセージに設定されて伝送されるインターレース信号としての表示の指定情報を受け取り、前記復号部は、前記受け取り部により受け取られたフィールド符号化フラグがフレーム符号化であることを示す場合、前記受け取り部により受け取られた指定情報に応じて、前記受け取り部により受け取られた符号化ストリームを復号処理して画像を生成し、生成された画像をインターレース信号として出力することができる。
【００２４】
本開示の一側面の画像処理方法は、画像処理装置が、符号化ストリームと、シーケンス毎に伝送されるフィールド符号化であるか否かを示すフィールド符号化フラグとを受け取り、受け取られたフィールド符号化フラグに応じて、受け取られた符号化ストリームを復号処理して画像を生成する。
【００２５】
本開示の他の側面の画像処理装置は、画像をフィールド符号化するか否かに応じて、前記画像を符号化し、符号化ストリームを生成する符号化部と、前記画像をフィールド符号化するか否かを示すフィールド符号化フラグをシーケンス毎に設定する設定部と、前記符号化部により生成された符号化ストリームと、前記設定部によりシーケンス毎に設定されたフィールド符号化フラグとを伝送する伝送部とを備える。
【００２６】
前記設定部は、前記画像をフィールド符号化する場合、フィールド毎のパリティを示すパリティフラグをピクチャ毎に設定し、前記伝送部は、前記設定部により設定されたパリティフラグをピクチャ毎に伝送することができる。
【００２７】
前記設定部は、前記フィールド符号化フラグを、シーケンスパラメータセットに設定することができる。
【００２８】
前記設定部は、前記パリティフラグを、adaptation parameter setに設定することができる。
【００２９】
前記設定部は、前記画像をフレーム符号化するが、インターレース信号として表示する場合、インターレース信号としての表示の指定情報をSupplemental Enhanced Informationメッセージに設定し、前記伝送部は、前記設定部により前記指定情報が設定されたSupplemental Enhanced Informationメッセージを伝送することができる。
【００３０】
本開示の他の側面の画像処理方法は、画像処理装置が、画像をフィールド符号化するか否かに応じて、前記画像を符号化し、符号化ストリームを生成し、前記画像をフィールド符号化するか否かを示すフィールド符号化フラグをシーケンス毎に設定し、生成された符号化ストリームと、シーケンス毎に設定されたフィールド符号化フラグとを伝送する。
【００３１】
本開示の一側面においては、符号化ストリームと、シーケンス毎に伝送されるフィールド符号化であるか否かを示すフィールド符号化フラグとが受け取られ、受け取られたフィールド符号化フラグに応じて、受け取られた符号化ストリームを復号処理して画像が生成される。
【００３２】
本開示の他の側面においては、画像をフィールド符号化するか否かに応じて、前記画像が符号化され、符号化ストリームが生成される。そして、前記画像をフィールド符号化するか否かを示すフィールド符号化フラグがシーケンス毎に設定され、生成された符号化ストリームと、シーケンス毎に設定されたフィールド符号化フラグとが伝送される。
【００３３】
なお、上述の画像処理装置は、独立した装置であっても良いし、１つの画像符号化装置
または画像復号装置を構成している内部ブロックであってもよい。
【発明の効果】
【００３４】
本開示の一側面によれば、画像を復号することができる。特に、入力がインターレース信号である場合の復号の処理効率を向上させることができる。
【００３５】
本開示の他の側面によれば、画像を符号化することができる。特に、入力がインターレース信号である場合の符号化の処理効率を向上させることができる。
【図面の簡単な説明】
【００３６】
【図１】画像符号化装置の主な構成例を示すブロック図である。
【図２】コーディングユニットの構成例を説明する図である。
【図３】ピクチャ単位でのインターレース信号の符号化の例を示す図である。
【図４】マクロブロックペア単位でのインターレース信号の符号化の例を示す図である。
【図５】AVC方式のシーケンスパラメータセットのシンタックスの例を示す図である。
【図６】AVC方式のシーケンスパラメータセットのシンタックスの例を示す図である。
【図７】AVC方式のスライスヘッダのシンタックスの例を示す図である。
【図８】AVC方式のスライスヘッダのシンタックスの例を示す図である。
【図９】AVC方式のスライスデータのシンタックスの例を示す図である。
【図１０】動きベクトルのシフト処理の例を示す図である。
【図１１】動きベクトルのシフト処理の例を示す図である。
【図１２】本技術のシンタックスの例を示す図である。
【図１３】本技術のシンタックスの例を示す図である。
【図１４】インターレースパラメータ符号化部および可逆符号化部の主な構成例を示すブロック図である。
【図１５】符号化処理の流れの例を説明するフローチャートである。
【図１６】VCLにおける符号化処理の流れの例を説明するフローチャートである。
【図１７】インター動き予測処理の流れの例を説明するフローチャートである。
【図１８】画像復号装置の主な構成例を示すブロック図である。
【図１９】インターレースパラメータ受け取り部および可逆復号部の主な構成例を示すブロック図である。
【図２０】復号処理の流れの例を説明するフローチャートである。
【図２１】VCLにおける復号処理の流れの例を説明するフローチャートである。
【図２２】コンピュータの主な構成例を示すブロック図である。
【図２３】テレビジョン装置の概略的な構成の一例を示すブロック図である。
【図２４】携帯電話機の概略的な構成の一例を示すブロック図である。
【図２５】記録再生装置の概略的な構成の一例を示すブロック図である。
【図２６】撮像装置の概略的な構成の一例を示すブロック図である。
【発明を実施するための形態】
【００３７】
以下、本開示を実施するための形態（以下実施の形態とする）について説明する。なお、説明は以下の順序で行う。
１．第１の実施の形態（画像符号化装置）
２．第２の実施の形態（画像復号装置）
３．第３の実施の形態（コンピュータ）
４．応用例
【００３８】
＜１．第１の実施の形態＞
［画像符号化装置］
図１は、画像符号化装置の主な構成例を示すブロック図である。
【００３９】
図１に示される画像符号化装置１００は、例えば、HEVC（High Efficiency Video Coding）に準ずる方式の予測処理を用いて画像データを符号化する。
【００４０】
図１に示されるように画像符号化装置１００は、A/D変換部１０１、画面並べ替えバッファ１０２、演算部１０３、直交変換部１０４、量子化部１０５、可逆符号化部１０６、蓄積バッファ１０７、逆量子化部１０８、および逆直交変換部１０９を有する。また、画像符号化装置１００は、演算部１１０、デブロックフィルタ１１１、フレームメモリ１１２、選択部１１３、イントラ予測部１１４、動き予測・補償部１１５、予測画像選択部１１６、およびレート制御部１１７を有する。
【００４１】
画像符号化装置１００は、さらに、インターレースパラメータ符号化部１２１および動きベクトルシフト部１２２を有する。
【００４２】
A/D変換部１０１は、入力された画像データをA/D変換し、変換後の画像データ（デジタルデータ）を、画面並べ替えバッファ１０２に供給し、記憶させる。
【００４３】
ここで、画像符号化装置１００においては、インターレース信号による入力および出力が取り扱われるものとする。インターレース信号においては、１フレームを構成する２つのフィールドのうち、空間的に上にあるフィールドがトップフィールドと呼ばれ、空間的に下にあるフィールドがボトムフィールドと呼ばれる。そして、このトップまたはボトムからなるフィールドの種類が、パリティと呼ばれる。
【００４４】
また、画像符号化装置１００においては、入力される画像がインターレース信号である場合、フィールド符号化するか、またはフレーム符号化するかを設定することが可能である。入力される画像がインターレース信号である場合、画面並べ替えバッファ１０２には、図示せぬ操作入力部などを介して、フィールド符号化するか否かを示すフィールド符号化情報が入力される。
【００４５】
画面並べ替えバッファ１０２は、フィールド符号化情報に基づいて、記憶した表示の順番のフレームの画像を、GOP（Group Of Picture）に応じて、符号化のためのフレームの順番に並べ替える。そして、画面並べ替えバッファ１０２は、フレームの順番を並び替えた画像を、演算部１０３に供給する。画面並べ替えバッファ１０２は、フレームの順番を並び替えた画像を、イントラ予測部１１４および動き予測・補償部１１５にも供給する。
【００４６】
また、画面並べ替えバッファ１０２は、インターレースパラメータ符号化部１２１に、フィールド符号化情報を供給する。なお、フィールド符号化を行う場合には、画面並べ替えバッファ１０２は、フィールド毎のパリティ情報もインターレースパラメータ符号化部１２１に供給する。
【００４７】
演算部１０３は、画面並べ替えバッファ１０２から読み出された画像から、予測画像選択部１１６を介してイントラ予測部１１４若しくは動き予測・補償部１１５から供給される予測画像を減算し、その差分情報を直交変換部１０４に出力する。
【００４８】
例えば、インター符号化が行われる画像の場合、演算部１０３は、画面並べ替えバッファ１０２から読み出された画像から、動き予測・補償部１１５から供給される予測画像を減算する。
【００４９】
直交変換部１０４は、演算部１０３から供給される差分情報に対して、離散コサイン変換やカルーネン・レーベ変換等の直交変換を施す。なお、この直交変換の方法は任意である。直交変換部１０４は、その変換係数を量子化部１０５に供給する。
【００５０】
量子化部１０５は、直交変換部１０４から供給される変換係数を量子化する。量子化部１０５は、レート制御部１１７から供給される符号量の目標値に関する情報に基づいて量子化パラメータを設定し、その量子化を行う。なお、この量子化の方法は任意である。量子化部１０５は、量子化された変換係数を可逆符号化部１０６に供給する。
【００５１】
可逆符号化部１０６は、量子化部１０５において量子化された変換係数を任意の符号化方式で符号化する。係数データは、レート制御部１１７の制御の下で量子化されているので、この符号量は、レート制御部１１７が設定した目標値となる（若しくは目標値に近似する）。
【００５２】
可逆符号化部１０６は、インターレースパラメータ符号化部１２１から、フィールド符号化するか否かを示すフィールド符号化情報（フラグ）を取得する。また、フィールド符号化を行う場合には、可逆符号化部１０６は、フィールド毎のパリティ情報（フラグ）もインターレースパラメータ符号化部１２１から取得する。また、可逆符号化部１０６は、イントラ予測のモードを示す情報などをイントラ予測部１１４から取得し、インター予測のモードを示す情報や差分動きベクトル情報などを動き予測・補償部１１５から取得する。
【００５３】
可逆符号化部１０６は、これらの各種情報を任意の符号化方式で符号化し、符号化データ（符号化ストリームとも称する）のヘッダ情報の一部とする（多重化する）。可逆符号化部１０６は、符号化して得られた符号化データを蓄積バッファ１０７に供給して蓄積させる。
【００５４】
可逆符号化部１０６の符号化方式としては、例えば、可変長符号化または算術符号化等が挙げられる。可変長符号化としては、例えば、AVC方式で定められているCAVLC（Context-Adaptive Variable Length Coding）などが挙げられる。算術符号化としては、例えば、CABAC（Context-Adaptive Binary Arithmetic Coding）などが挙げられる。
【００５５】
蓄積バッファ１０７は、可逆符号化部１０６から供給された符号化データを、一時的に保持する。蓄積バッファ１０７は、所定のタイミングにおいて、保持している符号化データを、例えば、後段の図示せぬ記録装置（記録媒体）や伝送路などに出力する。すなわち、蓄積バッファ１０７は、符号化データを伝送する伝送部でもある。
【００５６】
また、量子化部１０５において量子化された変換係数は、逆量子化部１０８にも供給される。逆量子化部１０８は、その量子化された変換係数を、量子化部１０５による量子化に対応する方法で逆量子化する。この逆量子化の方法は、量子化部１０５による量子化処理に対応する方法であればどのような方法であってもよい。逆量子化部１０８は、得られた変換係数を、逆直交変換部１０９に供給する。
【００５７】
逆直交変換部１０９は、逆量子化部１０８から供給された変換係数を、直交変換部１０４による直交変換処理に対応する方法で逆直交変換する。この逆直交変換の方法は、直交変換部１０４による直交変換処理に対応する方法であればどのようなものであってもよい。逆直交変換された出力（復元された差分情報）は、演算部１１０に供給される。
【００５８】
演算部１１０は、逆直交変換部１０９から供給された逆直交変換結果である、復元された差分情報に、予測画像選択部１１６を介してイントラ予測部１１４若しくは動き予測・補償部１１５からの予測画像を加算し、局部的に復号された画像（復号画像）を得る。その復号画像は、デブロックフィルタ１１１またはフレームメモリ１１２に供給される。
【００５９】
デブロックフィルタ１１１は、演算部１１０から供給される復号画像に対して適宜デブロックフィルタ処理を行う。例えば、デブロックフィルタ１１１は、復号画像に対してデブロックフィルタ処理を行うことにより復号画像のブロック歪を除去する。
【００６０】
デブロックフィルタ１１１は、フィルタ処理結果（フィルタ処理後の復号画像）をフレームメモリ１１２に供給する。なお、上述したように、演算部１１０から出力される復号画像は、デブロックフィルタ１１１を介さずにフレームメモリ１１２に供給することができる。つまり、デブロックフィルタ１１１によるフィルタ処理は省略することができる。
【００６１】
フレームメモリ１１２は、供給される復号画像を記憶し、所定のタイミングにおいて、記憶している復号画像を参照画像として、選択部１１３に供給する。
【００６２】
選択部１１３は、フレームメモリ１１２から供給される参照画像の供給先を選択する。例えば、インター予測の場合、選択部１１３は、フレームメモリ１１２から供給される参照画像を動き予測・補償部１１５に供給する。
【００６３】
イントラ予測部１１４は、選択部１１３を介してフレームメモリ１１２から供給される参照画像である処理対象ピクチャ内の画素値を用いて、基本的にプレディクションユニット（ＰＵ）を処理単位として予測画像を生成するイントラ予測（画面内予測）を行う。イントラ予測部１１４は、予め用意された複数のイントラ予測モードでこのイントラ予測を行う。
【００６４】
イントラ予測部１１４は、候補となる全てのイントラ予測モードで予測画像を生成し、画面並べ替えバッファ１０２から供給される入力画像を用いて各予測画像のコスト関数値を評価し、最適なモードを選択する。イントラ予測部１１４は、最適なイントラ予測モードを選択すると、その最適なモードで生成された予測画像を、予測画像選択部１１６に供給する。
【００６５】
また、上述したように、イントラ予測部１１４は、採用されたイントラ予測モードを示すイントラ予測モード情報等を、適宜可逆符号化部１０６に供給し、符号化させる。
【００６６】
動き予測・補償部１１５は、画面並べ替えバッファ１０２から供給される入力画像と、選択部１１３を介してフレームメモリ１１２から供給される参照画像とを用いて、基本的にＰＵを処理単位として、動き予測（インター予測）を行う。動き予測・補償部１１５は、検出された動きベクトルに応じて動き補償処理を行い、予測画像（インター予測画像情報）を生成する。動き予測・補償部１１５は、予め用意された複数のインター予測モードでこのようなインター予測を行う。
【００６７】
動き予測・補償部１１５は、画面並べ替えバッファ１０２から供給される入力画像と動きベクトルの情報などを用いて、各予測画像のコスト関数値を評価し、最適なモードを選択する。動き予測・補償部１１５は、最適なインター予測モードを選択すると、その最適なモードで予測画像を生成し、生成した予測画像を予測画像選択部１１６に供給する。
【００６８】
なお、フィールド符号化を行う場合には、動き予測・補償部１１５から、動きベクトルシフト部１２２に輝度信号の動きベクトル情報と、参照ＰＵに関する情報が供給される。これらの供給に対応して、動きベクトルシフト部１２２により、動きベクトルのシフト処理が行われ、動きベクトルシフト部１２２から、シフト処理後の色差信号の動きベクトル情報が供給される。したがって、フィールド符号化を行う場合の予測画像の生成には、動きベクトルシフト部１２２によりシフト処理された色差信号の動きベクトル情報が用いられる。
【００６９】
動き予測・補償部１１５は、採用されたインター予測モードを示す情報や、符号化データを復号する際に、そのインター予測モードで処理を行うために必要な情報等を可逆符号化部１０６に供給し、符号化させる。
【００７０】
予測画像選択部１１６は、演算部１０３や演算部１１０に供給する予測画像の供給元を選択する。例えば、インター符号化の場合、予測画像選択部１１６は、予測画像の供給元として動き予測・補償部１１５を選択し、その動き予測・補償部１１５から供給される予測画像を演算部１０３や演算部１１０に供給する。
【００７１】
レート制御部１１７は、蓄積バッファ１０７に蓄積された符号化データの符号量に基づいて、オーバーフローあるいはアンダーフローが発生しないように、量子化部１０５の量子化動作のレートを制御する。
【００７２】
インターレースパラメータ符号化部１２１は、シーケンス毎に、画面並べ替えバッファ１０２からフィールド符号化するか否かを示すフィールド符号化情報を取得する。インターレースパラメータ符号化部１２１は、取得したフィールド符号化情報を、所定のタイミングで、動きベクトルシフト部１２２に供給する。また、インターレースパラメータ符号化部１２１は、取得したフィールド符号化情報を、フィールド符号化フラグとして設定し、シーケンス毎に可逆符号化部１０６に供給する。
【００７３】
フィールド符号化情報がフィールド符号化をすることを示す場合、インターレースパラメータ符号化部１２１は、画面並べ替えバッファ１０２から、フィールド毎のパリティ情報を取得する。インターレースパラメータ符号化部１２１は、取得したパリティ情報を、所定のタイミングで、動きベクトルシフト部１２２に供給する。また、インターレースパラメータ符号化部１２１は、取得したパリティ情報を、パリティフラグとして設定して、ピクチャ毎に可逆符号化部１０６に供給する。
【００７４】
動きベクトルシフト部１２２は、インターレースパラメータ符号化部１２１からのフィールド毎のパリティ情報を取得すると、動き予測・補償部１１５から輝度信号の動きベクトル情報を取得する。動きベクトルシフト部１２２は、取得した輝度信号の動きベクトル情報を用いて、インターレースパラメータ符号化部１２１からのフィールド毎のパリティ情報に応じてシフトさせることにより、色差信号の動きベクトルのシフト処理を行う。なお、このとき、参照ＰＵに関する情報も動き予測・補償部１１５から取得され、処理に用いられる。動きベクトルシフト部１２２は、シフトさせた色差信号の動きベクトル情報を、動き予測・補償部１１５に供給する。
【００７５】
［コーディングユニット］
次に、HEVC方式で規定されているコーディングユニットについて説明する。マクロブロックサイズを１６画素×１６画素とするのは、次世代符号化方式の対象となるような、UHD（Ultra High Definition；４０００画素×２０００画素）といった大きな画枠に対しては、最適ではない。
【００７６】
そこで、AVC方式においては、マクロブロックとサブマクロブロックによる階層構造が規定されているが、例えば、HEVC方式においては、図２に示されるように、コーディングユニット（ＣＵ（Coding Unit））が規定されている。
【００７７】
ＣＵは、Coding Tree Block（CTB）とも呼ばれ、AVC方式におけるマクロブロックと同様の役割を果たす、ピクチャ単位の画像の部分領域である。後者は、１６×１６画素の大きさに固定されているのに対し、前者の大きさは固定されておらず、それぞれのシーケンスにおいて、画像圧縮情報中において指定されることになる。
【００７８】
例えば、出力となる符号化データに含まれるシーケンスパラメータセット（SPS（Sequence Parameter Set））において、ＣＵの最大サイズ（ＬＣＵ（Largest Coding Unit））と最小サイズ（ＳＣＵ（Smallest Coding Unit））が規定される。
【００７９】
それぞれのＬＣＵ内においては、ＳＣＵのサイズを下回らない範囲で、split-flag=1とすることにより、より小さなサイズのＣＵに分割することができる。図１０の例では、ＬＣＵの大きさが１２８であり、最大階層深度が５となる。２Ｎ×２Ｎの大きさのＣＵは、split_flagの値が「１」である時、１つ下の階層となる、Ｎ×Ｎの大きさのＣＵに分割される。
【００８０】
更に、ＣＵは、イントラ若しくはインター予測の処理単位となる領域（ピクチャ単位の画像の部分領域）であるプレディクションユニット（Prediction Unit（ＰＵ））に分割される。ＰＵは、また、直交変換の処理単位となる領域（ピクチャ単位の画像の部分領域）である、トランスフォームユニット（Transform Unit（ＴＵ））に分割される。現在、HEVC方式においては、４×４及び８×８に加え、１６×１６及び３２×３２直交変換を用いることが可能である。
【００８１】
インターＰＵにおいては、１つのＣＵの大きさが２Ｎ×２Ｎである場合、２Ｎ×２Ｎ、２Ｎ×Ｎ、Ｎ×２Ｎ、およびＮ×Ｎのいずれかの大きさに分割することが可能である。なお、上述したシーケンスパラメータセットにおいては、inter _4×4_enable_flagが定義されており、この値が０に設定されることで、４×４ブロックサイズのインターＣＵの使用を禁止することが可能である。
【００８２】
以上のHEVC方式のように、ＣＵを定義し、そのＣＵを単位として各種処理を行うような符号化方式の場合、AVC方式におけるマクロブロックはＬＣＵに相当し、ブロック（サブブロック）はＣＵに相当すると考えることができる。また、AVC方式における動き補償ブロックは、ＰＵに相当すると考えることができる。ただし、ＣＵは、階層構造を有するので、その最上位階層のＬＣＵのサイズは、例えば128×128画素のように、AVC方式のマクロブロックより大きく設定されることが一般的である。
【００８３】
［インターレース信号の符号化］
次に、AVC方式におけるインターレース信号の符号化について説明する。インターレース信号においては、ピクチャが、トップフィールドおよびボトムフィールドという異なるパリティ（トップまたはボトム）のフィールドで交互に構成されている。また、AVC方式においては、入力となる画像がインターレース信号である場合、ピクチャ単位またはマクロブロックペア単位で、フレーム符号化とフィールド符号化とを選択することが可能である。以下、このようなインターレース信号の符号化を、適宜、フレーム・フィールド符号化と称する。
【００８４】
図３は、ピクチャ単位でのインターレース信号の符号化の例を示す図である。図３の例においては、左から順に、フレーム符号化されているピクチャと、フィールド符号化されているピクチャが示されている。斜線で示されるフィールドは、トップフィールドを表し、白で示されるフィールドは、ボトムフィールドを表している。
【００８５】
フレーム符号化において、ピクチャは、そのまま、トップフィールドおよびボトムフィールドを交互に含むように符号化される。これに対して、フィールド符号化において、ピクチャは、トップフィールドおよびボトムフィールドに分けて、すなわち、異なるパリティ毎に符号化される。
【００８６】
図４は、マクロブロックペア単位でのインターレース信号の符号化の例を示す図である。AVC方式では、通常１６×１６の画素で構成されるマクロブロックが用いられ、図中正方形の枠で示されるそれぞれが個々のマクロブロックとされる。マクロブロックは、例えば、画像の左上から順に設定され、この例では、最も左上側のマクロブロックが番号０のマクロブロックとされ、番号０のマクロブロックの下側に隣接するマクロブロックが番号１のマクロブロックとされている。さらに、番号０のマクロブロックの右側に隣接するマクロブロックが番号２のマクロブロックとされ、番号０のマクロブロックの右側に隣接するマクロブロックが番号３のマクロブロックとされている。
【００８７】
AVC方式では、画像の中で上下に隣接する２つのマクロブロックによって構成されるマクロブロックペアのそれぞれについてフレーム符号化するか、またはフィールド符号化をするかを適応的に選択することができるようになされている。この例では、番号０と番号１の２つのマクロブロックにより１つのマクロブロックペアが構成され、番号２と番号３の２つのマクロブロックにより１つのマクロブロックペアが構成され、・・・のようにマクロブロックペアが構成されることになる。
【００８８】
図４に示されるマクロブロックペアの場合も、図３で上述したピクチャ単位の場合と同様に、フィールド符号化において、マクロブロックペアは、そのまま、トップフィールドおよびボトムフィールドを交互に含むように符号化される。これに対して、フィールド符号化において、マクロブロックペアは、トップフィールドおよびボトムフィールドに分けて、すなわち、異なるパリティ毎に符号化される。
【００８９】
このようなインターレース信号の符号化は、AVC方式におけるシンタクス要素として、図５乃至図９に示されるものが規定されている。
【００９０】
［AVC方式のシンタクスの例］
図５および図６は、画像符号化装置１００により生成されるシーケンスパラメータセットのシンタックスの例を示す図である。各行の左端の数字は説明のために付した行番号である。
【００９１】
図５および図６の例において、第４６行目のframe_mbs_only_flagは、その値が１のとき、フレーム符号化のみが適用されることを示し、その値が０のとき、ピクチャ単位またはマクロブロック単位でのフレーム・フィールド符号化が適用されることを示す。
【００９２】
第４６行目のframe_mbs_only_flagが０のとき、第４８行目のmb_adaptive_frame_field_flagが指定される。第４８行目のmb_adaptive_frame_field_flagは、マクロブロックペア単位でのフレーム・フィールド符号化を適用するか否かを示すフラグである。mb_adaptive_frame_field_flagの値が１のとき、図４を参照して上述したマクロブロックペア単位でのフレーム・フィールド符号化が適用される。
【００９３】
図７および図８は、画像符号化装置１００により生成されるスライスヘッダのシンタックスの例を示す図である。各行の左端の数字は説明のために付した行番号である。
【００９４】
図７および図８の例において、第９行目のfield_pic_flagは、上述した図５および図６の第４６行目のframe_mbs_only_flagが０のときに伝送されるフラグである。field_pic_flagは、その値が１のとき、図３を参照して上述したピクチャ単位でのフレーム・フィールド符号化が適用されることを示す。
【００９５】
第１１行目のbottom_field_flagは、その値が０のとき、当該スライスがトップフィールドに関するデータであることを示し、その値が１のとき、当該スライスがボトムフィールドに関するデータであることを示す。
【００９６】
図９は、画像符号化装置１００により生成されるスライスデータのシンタックスの例を示す図である。各行の左端の数字は説明のために付した行番号である。
【００９７】
図９の例において、第２３行目のmb_field_decoding_fragは、その値が１のとき、当該マクロブロックペアが、フィールド符号化されていることを示し、その値が０のとき、当該マクロブロックペアが、フレーム符号化されていることを示す。
【００９８】
なお、第２２行目のif文は、第２３行目のmb_field_decoding_fragを、マクロブロックペアの一方で送った場合、他方では送らないことを表すシンタクスである。
【００９９】
［動きベクトルのシフト処理］
また、AVC方式においては、図３または図４を参照して上述したフィールド符号化が行われる場合、色差信号に関する動きベクトルの垂直成分のシフト処理が行われる。
【０１００】
図１０は、当該フィールドがトップフィールドであり、参照フィールドがボトムフィールドである場合の動きベクトルのシフト処理の例を示す図である。図１１の例においては、当該フィールドがボトムフィールドであり、参照フィールドがトップフィールドである場合の動きベクトルのシフト処理の例を示す図である。
【０１０１】
図１０および図１１の例においては、入力が４：２：０のフィールド符号化の場合の例が示されている。点線は、輝度信号の画素間隔を表し、実線四角は、動き補償ブロック（ＰＵ）を表している。白丸は、輝度信号の画素を表しており、白四角は、色差信号の画素を表している。黒四角は、色差信号の動きベクトルの垂直成分がシフトされた後に対応する色差信号の画素を表している。
【０１０２】
例えば、トップフィールドにおいては、輝度信号の上から１番目と３番目の画素位置に色差信号の画素が位置する場合、ボトムフィールドにおいては、輝度信号の上から２番目と４番目の画素位置に色差信号の画素が位置される。
【０１０３】
すなわち、図１０に示されるように、輝度信号動きベクトルＭＶをスケーリングして、色差信号動きベクトルＭＶａとすると、対応する色差信号の画素ａが、輝度信号の画素に比べて−１／４ずれている。したがって、この場合、画素ａを−１／４シフトして、対応する色差信号の画素が画素ｂとなるように、色差信号動きベクトルＭＶａをシフト処理し、シフト後の色差信号動きベクトルＭＶｂとする処理が行われる。これにより、輝度信号動きベクトルＭＶと色差信号動きベクトルＭＶｂとの位相が合わせられる。
【０１０４】
図１１の場合も同様に、輝度信号動きベクトルＭＶをスケーリングして、色差信号動きベクトルＭＶｃとすると、対応する色差信号の画素ｃが、輝度信号の画素に比べて１／４ずれている。したがって、この場合、画素ｃを１／４シフトして、対応する色差信号の画素が画素ｄとなるように、色差信号動きベクトルＭＶｃをシフト処理し、シフト後の色差信号動きベクトルＭＶｄとする処理が行われる。これにより、輝度信号動きベクトルＭＶと色差信号動きベクトルＭＶｄとの位相が合わせられる。
【０１０５】
以上のように、図３および図４を参照して上述した、インターレース信号についてのAVC方式の機能であるフレーム・フィールド符号化は、HEVC方式にも適用可能である。しかしながら、HEVCにおいて定められているＣＵに、図４を参照して上述したマクロブロックペア単位のフレーム・フィールド符号化を適用することは、処理が複雑になってしまうため、非現実的である。
【０１０６】
これに対して、本技術においては、図３に示されるピクチャ単位のフレーム符号化とフィールド符号化のみを適用する。ただし、同一シーケンス内で、図３に示されたフレーム符号化とフィールド符号化とを混在させることは、デブロッキングフィルタのかけ方や、動き予測・補償処理のための参照関係が複雑になってしまう。
【０１０７】
また、AVC方式においては、ピクチャパラメータセットなどに、量子化パラメータのように同一ピクチャ内で用いられるパラメータと、Adaptive Loop Filterなどの同一ピクチャ内でも変更される可能性があるパラメータが混在していた。このため、後者のパラメータが変更した場合、変更のない前者のパラメータまでもが再送されていた。
【０１０８】
［本技術の概要とシンタクスの例］
そこで、本技術においては、図１２のシンタクス要素に示されるように、シーケンスパラメータセットに、フィールド符号化を行うか否かを示すフィールド符号化情報であるfield_coding_flagが設定され、復号側へ伝送される。
【０１０９】
図１２のシーケンスパラメータセットに設定されるfield_coding_flagは、その値が１である場合、当該シーケンスにおいては、図３を参照して上述したフィールド符号化が全体にわたって適用される。field_coding_flagの値が０である場合、当該シーケンスにおいては、フレーム符号化が全体にわたって適用される。
【０１１０】
なお、HEVCにおいては、APS(adaptation parameter set)と呼ばれるシンタクス要素が導入されており、Adaptive Loop Filterなどのピクチャ単位で適用されるパラメータが格納されている。
【０１１１】
そこで、field_coding_flagが１である場合、図１３のシンタクス要素に示されるように、APSに、フィールドがボトムフィールドであるか否かを示すパリティ情報であるbottom_field _flagが設定され、復号側に伝送される。
【０１１２】
図１３のAPSに設定されるbottom_field _flagは、その値が０である場合、当該フィールドがトップフィールドであることを示し、その値が１である場合、当該フィールドがボトムフィールドであることを示す。
【０１１３】
そして、画像符号化装置１００においては、このパリティ情報であるbottom_field _flagの値に応じて、図１０および図１１を参照して上述した色差信号の動きベクトルのシフト処理のような、インターレースに関する符号化処理が行われる。
【０１１４】
すなわち、ピクチャ内で統一して用いられるパラメータは、ピクチャパラメータセットなどにまとめて復号側に送る。一方、フィールド毎に異なるパリティ情報は、ピクチャ内でも変更可能性があるパラメータである、Adaptive Loop Filterなどのパラメータを送るAPSにまとめて送る。これにより、ピクチャパラメータセットが再送されることを防止することができる。
【０１１５】
したがって、以上のようなシンタクス構造を、HEVCに適用することにより、AVC方式に対するシンタクスの冗長性を排除し、効率的なインターレース符号化または復号処理を行うことが可能である。
【０１１６】
なお、入力信号がインターレースであっても、field_coding_flagの値は、０であってもよい。この場合は、符号化ストリームとともに、サプリメンタルエンファンスドインフォメーション(Supplemental Enhanced Information:SEI)を復号側に伝送し、インターレース信号として出力（表示）させるようにすることが可能である。これに対応して、復号側では、field_coding_flagに基づいて、フレーム符号化に対応する復号を行って画像を生成し、生成した画像をインターレース信号として出力（表示）させる。
【０１１７】
［インターレースパラメータ符号化部および可逆符号化部の構成例］
図１４は、インターレースパラメータ符号化部１２１および可逆符号化部１０６の主な構成例を示すブロック図である。
【０１１８】
図１４の例のインターレースパラメータ符号化部１２１は、フィールド符号化バッファ１５１、およびパリティバッファ１５２を含むように構成される。
【０１１９】
可逆符号化部１０６は、少なくとも、シンタクス書き込み部１６１を含むように構成される。
【０１２０】
フィールド符号化バッファ１５１は、画面並べ替えバッファ１０２から、画像をフィールド符号化するか否かを示すフィールド符号化情報を取得し、取得したフィールド符号化情報を一旦格納し、所定のタイミングで、パリティバッファ１５２に供給する。このとき、フィールド符号化バッファ１５１は、フィールド符号化情報を、フィールド符号化フラグ（field_coding_flag）として設定して、シンタクス書き込み部１６１に供給する。
【０１２１】
パリティバッファ１５２は、フィールド符号化バッファ１５１からのフィールド符号化情報がフィールド符号化することを示す場合、画面並べ替えバッファ１０２から、各フィールドのパリティ情報を取得し、取得したパリティ情報を一旦格納する。そして、パリティバッファ１５２は、所定のタイミングで、各フィールドのパリティ情報を、動きベクトルシフト部１２２に供給する。このとき、パリティバッファ１５２は、各フィールドのパリティ情報を、パリティフラグ（bottom_field_flag）として設定して、シンタクス書き込み部１６１に供給する。
【０１２２】
シンタクス書き込み部１６１は、フィールド符号化バッファ１５１からのフィールド符号化フラグを、符号化ストリームにおける、図１２で示したシーケンスパラメータセットに付加する。また、シンタクス書き込み部１６１は、パリティバッファ１５２からのパリティフラグを、符号化ストリームにおける、図１３で示したAPSに付加する。
【０１２３】
なお、動きベクトルシフト部１２２は、パリティバッファ１５２からのフィールド毎のパリティ情報を取得すると、動き予測・補償部１１５から輝度信号の動きベクトル情報を取得し、色差信号の動きベクトルのシフト処理を行う。すなわち、取得したフィールド毎のパリティ情報に基づいて、動き予測・補償部１１５から輝度信号の動きベクトル情報を用いて、図１０を参照して上述したようにシフトさせる処理である、色差信号の動きベクトルのシフト処理が行われる。
【０１２４】
［符号化処理の流れ］
次に、以上のような画像符号化装置１００により実行される各処理の流れについて説明する。最初に、図１５のフローチャートを参照して、符号化処理の流れの例を説明する。
【０１２５】
入力される画像がインターレース信号である場合、画面並べ替えバッファ１０２には、図示せぬ操作入力部などを介して、フィールド符号化するか否かを示すフィールド符号化情報が入力される。画面並べ替えバッファ１０２は、フィールド符号化情報に基づいて、並び替え処理をするとともに、そのフィールド符号化情報をフィールド符号化バッファ１５１に供給する。
【０１２６】
フィールド符号化バッファ１５１は、画面並べ替えバッファ１０２から、画像をフィールド符号化するか否かを示すフィールド符号化情報を取得し、取得したフィールド符号化情報を一旦格納する。そして、フィールド符号化バッファ１５１は、格納したフィールド符号化情報を、field_coding_flagとして、シンタクス書き込み部１６１に供給する。
【０１２７】
これに対応して、ステップＳ１０１において、シンタクス書き込み部１６１は、符号化ストリームのシーケンスパラメータセットにおいて、field_coding_flagを付加し、伝送させる。すなわち、field_coding_flagは、符号化ストリームにおける、図１２で示したシーケンスパラメータセットに付加される。
【０１２８】
field_coding_flagがシーケンスパラメータセットに付加された符号化ストリームは、蓄積バッファ１０７に供給され、後述する図１８の画像復号装置２００に伝送される。
【０１２９】
シンタクス書き込み部１６１は、ステップＳ１０２において、field_coding_flagが１であるか否かを判定する。ステップＳ１０２において、field_coding_flagが１である、すなわち、このシーケンスがフィールド符号化であると判定された場合、処理は、ステップＳ１０３に進む。
【０１３０】
フィールド符号化を行う場合には、画面並べ替えバッファ１０２は、フィールド毎のパリティ情報もパリティバッファ１５２に供給する。パリティバッファ１５２は、画面並べ替えバッファ１０２から、各フィールドのパリティ情報を取得し、取得したパリティ情報を一旦格納する。そして、パリティバッファ１５２は、格納したパリティ情報を、bottom_field_flagとして、シンタクス書き込み部１６１に供給する。なお、このパリティ情報は、動きベクトルシフト部１２２にも供給され、後述する図１７のステップＳ１５５において用いられる。
【０１３１】
シンタクス書き込み部１６１は、ステップＳ１０３において、符号化ストリームのAPSにおいてbottom_field_flagを付加し、伝送させる。すなわち、bottom_field_flagは、符号化ストリームにおける、図１３で示したAPSに付加される。
【０１３２】
bottom_field_flagがAPSに付加された符号化ストリームは、蓄積バッファ１０７に供給され、後述する図１８の画像復号装置２００に伝送される。
【０１３３】
一方、ステップＳ１０２において、field_coding_flagが１ではない、すなわち、このシーケンスがフレーム符号化であると判定された場合、ステップＳ１０３はスキップされ、処理は、ステップＳ１０４に進む。
【０１３４】
ステップＳ１０４において、画像符号化装置１００の各部は、VCL（ビデオコーディングレイヤ）における符号化処理を行う。VCLにおける符号化処理とは、スライスヘッダ未満のDCT係数や動きベクトルなどの符号化処理のことである。このVCLにおける符号化処理は、図１６を参照して後述する。
【０１３５】
ステップＳ１０４のVCLにおける符号化処理により、VCL情報以下が符号化され、画像復号装置２００に伝送される。
【０１３６】
ステップＳ１０５において、シンタクス書き込み部１６１は、シーケンスが終了したか否かを判定する。ステップＳ１０５において、シーケンスが終了していないと判定された場合、処理は、ステップＳ１０２に戻り、それ以降の処理を繰り返す。
【０１３７】
ステップＳ１０５において、シーケンスが終了したと判定された場合、画像符号化装置１００の符号化処理は終了される。
【０１３８】
［VCLにおける符号化処理の流れ］
次に、図１６のフローチャートを参照して、図１５のステップＳ１０４のVCLにおける符号化処理について説明する。
【０１３９】
ステップＳ１２１において、A/D変換部１０１は入力された画像をA/D変換する。ステップＳ１２２において、画面並べ替えバッファ１０２は、A/D変換された画像を記憶し、各ピクチャの表示する順番から符号化する順番への並べ替えを行う。ステップＳ１２３において、イントラ予測部１１４は、イントラ予測モードのイントラ予測処理を行う。
【０１４０】
ステップＳ１２４において、動き予測・補償部１１５は、インター予測モードでの動き予測や動き補償を行うインター動き予測処理を行う。なお、インター動き予測処理の詳細は、図１７を参照して後述される。
【０１４１】
ステップＳ１２４の処理により、当該ＰＵの輝度信号の動きベクトルが探索され、コスト関数値が計算され、全てのインター予測モードの中から、最適インター予測モードが決定される。そして、最適インター予測モードの予測画像が生成される。なお、フィールド符号化である場合、色差信号の動きベクトルがシフト処理され、輝度信号の動きベクトルと、シフト処理された色差信号の動きベクトルが用いられて、予測画像が生成される。
【０１４２】
決定された最適インター予測モードの予測画像とコスト関数値は、動き予測・補償部１１５から予測画像選択部１１６に供給される。また、決定された最適インター予測モードの情報や動きベクトルの情報も、可逆符号化部１０６に供給され、後述するステップＳ１３４において、可逆符号化される。
【０１４３】
ステップＳ１２５において、予測画像選択部１１６は、イントラ予測部１１４および動き予測・補償部１１５から出力された各コスト関数値に基づいて、最適なモードを決定する。つまり、予測画像選択部１１６は、イントラ予測部１１４により生成された予測画像と、動き予測・補償部１１５により生成された予測画像のいずれか一方を選択する。
【０１４４】
ステップＳ１２６において、演算部１０３は、ステップＳ１２２の処理により並び替えられた画像と、ステップＳ１２５の処理により選択された予測画像との差分を演算する。差分データは元の画像データに較べてデータ量が低減される。したがって、画像をそのまま符号化する場合に較べて、データ量を圧縮することができる。
【０１４５】
ステップＳ１２７において、直交変換部１０４は、ステップＳ１２６の処理により生成された差分情報を直交変換する。具体的には、離散コサイン変換、カルーネン・レーベ変換等の直交変換が行われ、変換係数が出力される。
【０１４６】
ステップＳ１２８において、量子化部１０５は、レート制御部１１７からの量子化パラメータを用いて、ステップＳ１２７の処理により得られた直交変換係数を量子化する。
【０１４７】
ステップＳ１２８の処理により量子化された差分情報は、次のようにして局部的に復号される。すなわち、ステップＳ１２９において、逆量子化部１０８は、ステップＳ１２８の処理により生成された量子化された直交変換係数（量子化係数とも称する）を量子化部１０５の特性に対応する特性で逆量子化する。ステップＳ１３０において、逆直交変換部１０９は、ステップＳ１２９の処理により得られた直交変換係数を、直交変換部１０４の特性に対応する特性で逆直交変換する。
【０１４８】
ステップＳ１３１において、演算部１１０は、予測画像を局部的に復号された差分情報に加算し、局部的に復号された画像（演算部１０３への入力に対応する画像）を生成する。ステップＳ１３２においてデブロックフィルタ１１１は、ステップＳ１３１の処理により得られた局部的な復号画像に対して、デブロックフィルタ処理を適宜行う。
【０１４９】
ステップＳ１３３において、フレームメモリ１１２は、ステップＳ１３２の処理によりデブロックフィルタ処理が施された復号画像を記憶する。なお、フレームメモリ１１２にはデブロックフィルタ１１１によりフィルタ処理されていない画像も演算部１１０から供給され、記憶される。
【０１５０】
ステップＳ１３４において、可逆符号化部１０６は、ステップＳ１２８の処理により量子化された変換係数を符号化する。すなわち、差分画像に対して、可変長符号化や算術符号化等の可逆符号化が行われる。
【０１５１】
また、このとき、可逆符号化部１０６は、ステップＳ１２５の処理により選択された予測画像の予測モードに関する情報を符号化し、差分画像を符号化して得られる符号化データに付加する。つまり、可逆符号化部１０６は、イントラ予測部１１４から供給される最適イントラ予測モード情報、または、動き予測・補償部１１５から供給される最適インター予測モードに応じた情報なども符号化し、符号化データに付加する。
【０１５２】
ステップＳ１３５において蓄積バッファ１０７は、ステップＳ１３４の処理により得られた符号化データを蓄積する。蓄積バッファ１０７に蓄積された符号化データは、適宜読み出され、伝送路や記録媒体を介して復号側に伝送される。
【０１５３】
ステップＳ１３６においてレート制御部１１７は、ステップＳ１３５の処理により蓄積バッファ１０７に蓄積された符号化データの符号量（発生符号量）に基づいて、オーバーフローあるいはアンダーフローが発生しないように、量子化部１０５の量子化動作のレートを制御する。
【０１５４】
ステップＳ１３６の処理が終了すると、符号化処理が終了される。
【０１５５】
［インター動き予測処理の流れ］
次に、図１７のフローチャートを参照して、図１６のステップＳ１２４において実行されるインター動き予測処理の流れの例を説明する。
【０１５６】
ステップＳ１５１において、動き予測・補償部１１５は、各インター予測モードについて動き探索を行う。
【０１５７】
動き予測・補償部１１５は、ステップＳ１５２において、画面並べ替えバッファ１０２からの入力画像や、探索した動きベクトル情報などを用いて、各インター予測モードに関するコスト関数値を算出する。
【０１５８】
ステップＳ１５３において、動き予測・補償部１１５は、各予測モードのうち、コスト関数値を最小とする予測モードを、最適インター予測モードに決定する。動き予測・補償部１１５により、最適インター予測モードの輝度信号の動きベクトル情報と参照ＰＵに関する情報は、動きベクトルシフト部１２２に供給される。
【０１５９】
一方、フィールド符号化バッファ１５１からのシーケンス毎のフィールド符号化情報は、パリティバッファ１５２に供給される。
【０１６０】
パリティバッファ１５２は、フィールド符号化バッファ１５１からのフィールド符号化情報に基づいて、ステップＳ１５４において、このシーケンスがフィールド符号化であるか否かを判定する。ステップＳ１５４において、このシーケンスが、フィールド符号化であると判定された場合、処理は、ステップＳ１５５に進む。このとき、パリティバッファ１５２は、フィールド毎に、画面並べ替えバッファ１０２からの各フィールドのパリティ情報を動きベクトルシフト部１２２に供給する。
【０１６１】
動きベクトルシフト部１２２は、ステップＳ１５５において、色差信号の動きベクトルのシフト処理を行う。すなわち、動き予測・補償部１１５から輝度信号の動きベクトル情報をスケーリングして色差信号の動きベクトルが生成される。そして、その色差信号の動きベクトルの垂直成分に対して、ステップＳ１５５により、フィールド毎のパリティ情報に基づいて、図１０を参照して上述したようにシフトさせる処理である、色差信号の動きベクトルのシフト処理が行われる。動きベクトルシフト部１２２は、シフト後の色差信号の動きベクトル情報を、動き予測・補償部１１５に供給する。
【０１６２】
ステップＳ１５４において、このシーケンスが、フレーム符号化であると判定された場合、ステップＳ１５５は、スキップされ、処理は、ステップＳ１５６に進む。すなわち、この場合、シフト処理は行われず、輝度信号の動きベクトルをスケーリングさせて生成された色差信号の動きベクトルが、次のステップＳ１５６において用いられる。
【０１６３】
動き予測・補償部１１５は、ステップＳ１５６において、輝度信号および色差信号の動きベクトル情報を用いて、最適インター予測モードの予測画像を生成し、予測画像選択部１１６に供給する。
【０１６４】
ステップＳ１５７において、動き予測・補償部１１５は、最適インター予測モードに関する情報を、可逆符号化部１０６に供給し、最適インター予測モードに関する情報を符号化させる。
【０１６５】
なお、最適インター予測モードに関する情報には、例えば、最適インター予測モードの情報、動きベクトルに関する情報、最適インター予測モードの参照ピクチャ情報などが含まれる。
【０１６６】
ステップＳ１５６の処理に対応して、供給されたこれらの情報は、図１６のステップＳ１３４において符号化される。
【０１６７】
以上のように、画像符号化装置１００においては、シーケンス全体においてフィールド符号化するか否かが決定され、符号化ストリームのシーケンスパラメータセットにおいてフィールド符号化するか否かのフラグが付加され、復号側に伝送される。
【０１６８】
フィールド符号化が決定された場合には、フィールド毎にパリティ情報が用いられて、例えば、動きベクトルシフト処理などが行われて、符号化ストリームのAPSにおいてパリティ情報を示すフラグが付加され、復号側に伝送される。
【０１６９】
このようにすることで、入力がインターレース信号である場合の符号化処理を、複雑にすることなく、効率的に行うことができる。
【０１７０】
＜２．第２の実施の形態＞
［画像復号装置］
次に、以上のように符号化された符号化データ（符号化ストリーム）の復号について説明する。図１８は、図１の画像符号化装置１００に対応する画像復号装置の主な構成例を示すブロック図である。
【０１７１】
図１８に示される画像復号装置２００は、画像符号化装置１００が生成した符号化データを、その符号化方法に対応する復号方法で復号する。なお、画像復号装置２００は、画像符号化装置１００と同様に、プレディクションユニット（ＰＵ）毎にインター予測を行うものとする。
【０１７２】
図２２に示されるように画像復号装置２００は、蓄積バッファ２０１、可逆復号部２０２、逆量子化部２０３、逆直交変換部２０４、演算部２０５、デブロックフィルタ２０６、画面並べ替えバッファ２０７、およびD/A変換部２０８を有する。また、画像復号装置２００は、フレームメモリ２０９、選択部２１０、イントラ予測部２１１、動き予測・補償部２１２、および選択部２１３を有する。
【０１７３】
さらに、画像復号装置２００は、インターレースパラメータ受け取り部２２１、および動きベクトルシフト部２２２を有する。
【０１７４】
蓄積バッファ２０１は、伝送されてきた符号化データを受け取る受け取り部でもある。蓄積バッファ２０１は、伝送されてきた符号化データを受け取って、蓄積し、所定のタイミングにおいてその符号化データを可逆復号部２０２に供給する。
【０１７５】
符号化データのシーケンスパラメータセットには、シーケンス毎に、フィールド符号化を行うか否かを示す情報であるフラグ(field_coding_flag)が付加されている。また、符号化データのAPSには、フィールド符号化を行う場合には、フィールドのパリティ情報であるフラグ(bottom_field_flag)が付加されている。
【０１７６】
可逆復号部２０２は、フィールド符号化フラグや、フィールドのパリティフラグを、インターレースパラメータ受け取り部２２１に供給する。
【０１７７】
さらに、符号化データのスライスヘッダ未満のVCL情報には、DCT係数の他に、予測モード情報、および動きベクトル情報などの復号に必要な情報が付加されている。可逆復号部２０２は、蓄積バッファ２０１より供給された、図１の可逆符号化部１０６により符号化された情報を、可逆符号化部１０６の符号化方式に対応する方式で復号する。可逆復号部２０２は、復号して得られた差分画像の量子化された係数データを、逆量子化部２０３に供給する。
【０１７８】
また、可逆復号部２０２は、最適な予測モードにイントラ予測モードが選択されたかインター予測モードが選択されたかを判定する。可逆復号部２０２は、その最適な予測モードに関する情報を、イントラ予測部２１１および動き予測・補償部２１２の内、選択されたと判定したモードの方に供給する。つまり、例えば、画像符号化装置１００において最適な予測モードとしてインター予測モードが選択された場合、その最適な予測モードに関する情報が動き予測・補償部２１２に供給される。
【０１７９】
逆量子化部２０３は、可逆復号部２０２により復号されて得られた量子化された係数データを、図１の量子化部１０５の量子化方式に対応する方式で逆量子化し、得られた係数データを逆直交変換部２０４に供給する。
【０１８０】
逆直交変換部２０４は、図１の直交変換部１０４の直交変換方式に対応する方式で逆量子化部２０３から供給される係数データを逆直交変換する。逆直交変換部２０４は、この逆直交変換処理により、画像符号化装置１００において直交変換される前の残差データに対応する復号残差データを得る。
【０１８１】
逆直交変換されて得られた復号残差データは、演算部２０５に供給される。また、演算部２０５には、選択部２１３を介して、イントラ予測部２１１若しくは動き予測・補償部２１２から予測画像が供給される。
【０１８２】
演算部２０５は、その復号残差データと予測画像とを加算し、画像符号化装置１００の演算部１０３により予測画像が減算される前の画像データに対応する復号画像データを得る。演算部２０５は、その復号画像データをデブロックフィルタ２０６に供給する。
【０１８３】
デブロックフィルタ２０６は、供給された復号画像に対して、デブロックフィルタ処理を適宜施し、それを画面並べ替えバッファ２０７に供給する。デブロックフィルタ２０６は、復号画像に対してデブロックフィルタ処理を行うことにより復号画像のブロック歪を除去する。
【０１８４】
デブロックフィルタ２０６は、フィルタ処理結果（フィルタ処理後の復号画像）を画面並べ替えバッファ２０７およびフレームメモリ２０９に供給する。なお、演算部２０５から出力される復号画像は、デブロックフィルタ２０６を介さずに画面並べ替えバッファ２０７やフレームメモリ２０９に供給することができる。つまり、デブロックフィルタ２０６によるフィルタ処理は省略することができる。
【０１８５】
画面並べ替えバッファ２０７は、画像の並べ替えを行う。なお、図１８には図示されていないが、インターレースパラメータ受け取り部２２１などから、フィールド符号化情報が供給されて、フィールド符号化情報に基づいて、画面並べ替えバッファ２０７は、画像の並べ替えを行う。すなわち、図１の画面並べ替えバッファ１０２により符号化の順番のために並べ替えられたフレームの順番が、元の表示の順番に並べ替えられる。D/A変換部２０８は、画面並べ替えバッファ２０７から供給された画像をD/A変換し、図示せぬディスプレイに出力し、表示させる。
【０１８６】
フレームメモリ２０９は、供給される復号画像を記憶し、所定のタイミングにおいて、若しくは、イントラ予測部２１１や動き予測・補償部２１２等の外部の要求に基づいて、記憶している復号画像を参照画像として、選択部２１０に供給する。
【０１８７】
選択部２１０は、フレームメモリ２０９から供給される参照画像の供給先を選択する。選択部２１０は、イントラ符号化された画像を復号する場合、フレームメモリ２０９から供給される参照画像をイントラ予測部２１１に供給する。また、選択部２１０は、インター符号化された画像を復号する場合、フレームメモリ２０９から供給される参照画像を動き予測・補償部２１２に供給する。
【０１８８】
イントラ予測部２１１には、ヘッダ情報を復号して得られたイントラ予測モードを示す情報等が可逆復号部２０２から適宜供給される。イントラ予測部２１１は、図１のイントラ予測部１１４において用いられたイントラ予測モードで、フレームメモリ２０９から取得した参照画像を用いてイントラ予測を行い、予測画像を生成する。イントラ予測部２１１は、生成した予測画像を選択部２１３に供給する。
【０１８９】
動き予測・補償部２１２は、ヘッダ情報を復号して得られた情報（最適予測モード情報、動きベクトル情報、および参照画像情報等）を可逆復号部２０２から取得する。
【０１９０】
動き予測・補償部２１２は、可逆復号部２０２から取得された最適予測モード情報が示すインター予測モードで、フレームメモリ２０９から取得した参照画像を用いてインター予測を行い、予測画像を生成する。なお、フィールド符号化である場合、輝度信号の動きベクトル情報と参照ＰＵに関する情報は、動きベクトルシフト部２２２に供給される。これに対応して、動きベクトルシフト部２２２によりシフトされた色差信号の動きベクトルが供給される。予測画像の生成には、このシフトされた色差信号の動きベクトルが用いられる。
【０１９１】
選択部２１３は、イントラ予測部２１１からの予測画像または動き予測・補償部２１２からの予測画像を、演算部２０５に供給する。そして、演算部２０５においては、動きベクトルが用いられて生成された予測画像と逆直交変換部２０４からの復号残差データ（差分画像情報）とが加算されて元の画像が復号される。すなわち、動き予測・補償部２１２、可逆復号部２０２、逆量子化部２０３、逆直交変換部２０４、演算部２０５は、動きベクトルを用いて、符号化データを復号し、元の画像を生成する復号部でもある。
【０１９２】
インターレースパラメータ受け取り部２２１は、図１のインターレースパラメータ符号化部１２１と基本的に同様に構成される。インターレースパラメータ受け取り部２２１は、シーケンス毎に、可逆復号部２０２からフィールド符号化するか否かを示すフィールド符号化フラグを取得する。インターレースパラメータ受け取り部２２１は、取得したフィールド符号化フラグを、フィールド符号化情報として、所定のタイミングで動きベクトルシフト部２２２に供給する。
【０１９３】
また、フィールド符号化情報がフィールド符号化をすることを示す場合、インターレースパラメータ受け取り部２２１は、可逆復号部２０２から、フィールド毎のパリティフラグを取得する。インターレースパラメータ受け取り部２２１は、取得したパリティフラグを、パリティ情報として、所定のタイミングで、動きベクトルシフト部２２２に供給する。
【０１９４】
動きベクトルシフト部２２２は、図１の動きベクトルシフト部１２２と基本的に同様に構成される。動きベクトルシフト部２２２は、インターレースパラメータ受け取り部２２１からのフィールド毎のパリティ情報を取得すると、動き予測・補償部２１２から輝度信号の動きベクトル情報を取得する。
【０１９５】
動きベクトルシフト部２２２は、取得した輝度信号の動きベクトル情報を用いて、インターレースパラメータ受け取り部２２１からのフィールド毎のパリティ情報に応じてシフトさせることにより、色差信号の動きベクトルのシフト処理を行う。すなわち、動きベクトルシフト部２２２においても、図１０を参照して上述したようにシフト処理が行われる。なお、このとき、参照ＰＵに関する情報も動き予測・補償部２１２から取得され、処理に用いられる。動きベクトルシフト部２２２は、シフトさせた色差信号の動きベクトル情報を、動き予測・補償部２１２に供給する。
【０１９６】
［可逆復号部およびインターレースパラメータ受け取り部の構成例］
図２０は、可逆復号部２０２およびインターレースパラメータ受け取り部２２１の主な構成例を示すブロック図である。
【０１９７】
図２０の例において、可逆復号部２０２は、シンタクス受け取り部２５１を含むように構成される。
【０１９８】
インターレースパラメータ受け取り部２２１は、フィールド復号バッファ２６１、およびパリティバッファ２６２を含むように構成される。
【０１９９】
シンタクス受け取り部２５１は、符号化ストリームのシーケンスパラメータセットから、このシーケンスがフィールド符号化であるか否かを示すフィールド符号化フラグを取得し、取得したフラグを、フィールド復号バッファ２６１に供給する。また、シンタクス受け取り部２５１は、シーケンスがフィールド符号化である場合、フィールド符号化符号化ストリームのAPSから、各フィールドのパリティフラグを取得し、取得したパリティフラグを、パリティバッファ２６２に供給する。
【０２００】
フィールド復号バッファ２６１は、シンタクス受け取り部２５１から、フィールド符号化フラグを取得し、フィールド符号化情報として、一旦格納し、フィールド符号化情報を、所定のタイミングでパリティバッファ２６２に供給する。
【０２０１】
パリティバッファ２６２は、フィールド復号バッファ２６１からのフィールド符号化情報がフィールド符号化であることを示す場合、シンタクス受け取り部２５１から、各フィールドのパリティフラグを取得し、パリティ情報として、一旦格納する。そして、パリティバッファ２６２は、フィールド毎に、各フィールドのパリティ情報を、動きベクトルシフト部２２２に供給する。
【０２０２】
これに対応して、動きベクトルシフト部２２２は、パリティバッファ２６２からのフィールド毎のパリティ情報を取得すると、動き予測・補償部２１２から輝度信号の動きベクトル情報を取得し、色差信号の動きベクトルのシフト処理を行う。すなわち、取得したフィールド毎のパリティ情報に基づいて、動き予測・補償部２１２から輝度信号の動きベクトル情報を用いて、図１０を参照して上述したようにシフトさせる処理である、色差信号の動きベクトルのシフト処理が行われる。
【０２０３】
［復号処理の流れ］
次に、以上のような画像復号装置２００により実行される各処理の流れについて説明する。最初に、図２０のフローチャートを参照して、復号処理の流れの例を説明する。
【０２０４】
シンタクス受け取り部２５１は、ステップＳ２０１において、符号化ストリームのシーケンスパラメータセットから、このシーケンスがフィールド符号化であるか否かを示すフィールド符号化情報であるフラグ(field_coding_flag)を受け取る。シンタクス受け取り部２５１は、受け取ったフラグを、フィールド復号バッファ２６１に供給する。
【０２０５】
ステップＳ２０２において、シンタクス受け取り部２５１は、ステップＳ２０１で受け取った、フィールド符号化であるか否かを示すフラグが１であるか否かを判定する。ステップＳ２０２において、フラグが１である、すなわち、フィールド符号化であると判定された場合、処理は、ステップＳ２０３に進む。
【０２０６】
ステップＳ２０３において、シンタクス受け取り部２５１は、符号化ストリームのAPSにおいて、各フィールドのパリティ情報であるフラグ(bottom_field_flag)を受け取り、受け取ったパリティフラグを、パリティバッファ２６２に供給する。
【０２０７】
一方、フィールド符号化であるか否かを示すフラグが１ではない、すなわち、フレーム符号化であると判定された場合、ステップＳ２０３はスキップされ、処理は、ステップＳ２０４に進む。
【０２０８】
ステップＳ２０４において、画像復号装置２００の各部は、VCLにおける復号処理を行う。このVCLにおける復号処理は、図２１を参照して後述するが、ステップＳ２０４のVCLにおける復号処理により、スライスヘッダ未満のストリームが復号される。
【０２０９】
ステップＳ２０５において、シンタクス受け取り部２５１は、シーケンスが終了したか否かを判定する。ステップＳ２０５において、シーケンスが終了していないと判定された場合、処理は、ステップＳ２０２に戻り、それ以降の処理を繰り返す。
【０２１０】
ステップＳ２０５において、シーケンスが終了したと判定された場合、画像復号装置２００の復号処理は終了される。
【０２１１】
［VCLにおける復号処理の流れ］
次に、図２１のフローチャートを参照して、図２０のステップＳ２０４のVCLにおける復号処理について説明する。
【０２１２】
VCLにおける復号処理が開始されると、ステップＳ２２１において、蓄積バッファ２０１は、伝送されてきた符号化ストリームを受け取り、蓄積する。ステップＳ２２２において、可逆復号部２０２は、蓄積バッファ２０１から供給される符号化ストリーム（符号化された差分画像情報）を復号する。すなわち、図１の可逆符号化部１０６により符号化されたＩピクチャ、Ｐピクチャ、並びにＢピクチャが復号される。
【０２１３】
このとき、ヘッダ情報などの符号化ストリームに含められた差分画像情報以外の各種情報も復号される。可逆復号部２０２は、例えば、予測モード情報、動きベクトル情報などを取得する。可逆復号部２０２は、取得した情報を、対応する部に供給する。
【０２１４】
ステップＳ２２３において、逆量子化部２０３は、ステップＳ２０２の処理により得られた、量子化された直交変換係数を逆量子化する。なお、この逆量子化処理には、後述するステップＳ２２８の処理により得られる量子化パラメータが用いられる。ステップＳ２２４において逆直交変換部２０４は、ステップＳ２２３において逆量子化された直交変換係数を逆直交変換する。
【０２１５】
ステップＳ２２５において、可逆復号部２０２は、ステップＳ２２２において復号した最適な予測モードに関する情報に基づいて、処理対象の符号化データがイントラ符号化されているか否かを判定する。イントラ符号化されていると判定された場合、処理は、ステップＳ２２６に進む。
【０２１６】
ステップＳ２２６において、イントラ予測部２１１は、イントラ予測モード情報を取得する。ステップＳ２２７において、イントラ予測部２１１は、ステップＳ２２６において取得したイントラ予測モード情報を用いてイントラ予測を行い、予測画像を生成する。
【０２１７】
また、ステップＳ２２６において、処理対象の符号化データがイントラ符号化されていない、すなわち、インター符号化されていると判定された場合、処理は、ステップＳ２２８に進む。
【０２１８】
ステップＳ２２８において、動き予測・補償部２１２は、インター予測モード情報を取得する。このとき、動きベクトル情報も取得される。
【０２１９】
パリティバッファ２６２は、フィールド復号バッファ２６１からのフィールド符号化情報に基づいて、ステップＳ２２９において、このシーケンスがフィールド符号化であるか否かを判定する。ステップＳ２２９において、このシーケンスが、フィールド符号化であると判定された場合、処理は、ステップＳ２３０に進む。このとき、パリティバッファ２６２は、フィールド毎に、シンタクス受け取り部２５１からの各フィールドのパリティフラグを、パリティ情報として、動きベクトルシフト部２２２に供給する。
【０２２０】
動きベクトルシフト部２２２は、ステップＳ２３０において、色差信号の動きベクトルのシフト処理を行う。すなわち、動き予測・補償部２１２から輝度信号の動きベクトル情報をスケーリングして色差信号の動きベクトルが生成される。そして、その色差信号の動きベクトルの垂直成分に対して、ステップＳ２３０により、フィールド毎のパリティ情報に基づいて、図１０を参照して上述したようにシフトさせる処理である、色差信号の動きベクトルのシフト処理が行われる。動きベクトルシフト部２２２は、シフト後の色差信号の動きベクトル情報を、動き予測・補償部２１２に供給する。
【０２２１】
ステップＳ２２９において、このシーケンスが、フレーム符号化であると判定された場合、ステップＳ２３０は、スキップされ、処理は、ステップＳ２３１に進む。すなわち、この場合、輝度信号の動きベクトルをスケーリングさせて生成された色差信号の動きベクトルが、次のステップＳ２３１において用いられる。
【０２２２】
ステップＳ２３１において、動き予測・補償部２１２は、輝度信号および色差信号の動きベクトルを用いて、予測画像を生成する。生成した予測画像は、選択部２１３に供給される。
【０２２３】
ステップＳ２３２において、選択部２１３は、ステップＳ２２７またはステップＳ２３１において生成された予測画像を選択する。ステップＳ２３３において、演算部２０５は、ステップＳ２２４において逆直交変換されて得られた差分画像情報に、ステップＳ２３２において選択された予測画像を加算する。これにより元の画像が復号される。すなわち、動きベクトルが用いられて、予測画像が生成され、生成された予測画像と逆直交変換部２０４からの差分画像情報とが加算されて元の画像が復号される。
【０２２４】
ステップＳ２３４において、デブロックフィルタ２０６は、ステップＳ２３３において得られた復号画像に対して、デブロックフィルタ処理を適宜行う。
【０２２５】
ステップＳ２３５において、画面並べ替えバッファ２０７は、ステップＳ２３４においてフィルタ処理された画像の並べ替えを行う。すなわち画像符号化装置１００の画面並べ替えバッファ１０２により符号化のために並べ替えられたフレームの順序が、元の表示の順序に並べ替えられる。
【０２２６】
ステップＳ２３６において、D/A変換部２０８は、ステップＳ２３５においてフレームの順序が並べ替えられた画像をD/A変換する。この画像が図示せぬディスプレイに出力され、画像が表示される。
【０２２７】
ステップＳ２３７において、フレームメモリ２０９は、ステップＳ２３６においてフィルタ処理された画像を記憶する。
【０２２８】
ステップＳ２３７の処理が終了すると、復号処理が終了される。
【０２２９】
以上のように各処理を行うことにより、画像復号装置２００は、画像符号化装置１００が符号化した符号化データを正しく復号することができ、符号化効率の向上を実現させることができる。
【０２３０】
すなわち、画像復号装置２００においては、符号化ストリームのシーケンスパラメータセットから、フィールド符号化するか否かのフラグが取得され、それに基づいて、符号化ストリームが復号される。
【０２３１】
フィールド符号化が決定された場合には、さらに、符号化ストリームのAPSから、パリティ情報を示すフラグが取得され、それに基づいて、例えば、動きベクトルシフト処理などが行われる。
【０２３２】
このようにすることで、入力がインターレース信号である場合の復号処理を、複雑にすることなく、効率的に行うことができる。
【０２３３】
また、パリティ情報を示すフラグをAPSに入れて伝送するようにしたので、AVC方式の場合のシンタクスの冗長性を排除し、効率的なインターレース符号化または復号処理を行うことが可能である。
【０２３４】
なお、上記説明においては、フィールド符号化の場合のパリティ情報を用いる処理として、動きベクトルのシフト処理を例に説明したが、動きベクトルのシフト処理は、一例である。すなわち、フィールド符号化の場合のパリティ情報を用いる処理であれば、他の処理にも、本技術を適用することが可能である。
【０２３５】
また、上記説明においては、HEVCに準ずる場合を例に説明してきたが、本技術の適用範囲は、HEVCに準ずる例だけに限らない。本技術は、入力がインターレース信号である符号化処理および復号処理を行う装置であれば、他の符号化方式を用いる装置でも適用することができる。
【０２３６】
さらに、本技術は、例えば、MPEG、H．26x等の様に、離散コサイン変換等の直交変換と動き補償によって圧縮された画像情報（ビットストリーム）を、衛星放送、ケーブルテレビジョン、インターネット、または携帯電話機などのネットワークメディアを介して受信する際に用いられる画像符号化装置および画像復号装置に適用することができる。また、本技術は、光、磁気ディスク、およびフラッシュメモリのような記憶メディア上で処理する際に用いられる画像符号化装置および画像復号装置に適用することができる。さらに、本技術は、それらの画像符号化装置および画像復号装置などに含まれる動き予測補償装置にも適用することができる。
【０２３７】
＜３．第３の実施の形態＞
［コンピュータ］
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な汎用のパーソナルコンピュータなどが含まれる。
【０２３８】
図２２において、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。
【０２３９】
コンピュータ５００において、CPU（Central Processing Unit）５０１，ROM（Read Only Memory）５０２，RAM（Random Access Memory）５０３は、バス５０４により相互に接続されている。
【０２４０】
バス５０４には、さらに、入出力インタフェース５０５が接続されている。入出力インタフェース５０５には、入力部５０６、出力部５０７、記憶部５０８、通信部５０９、及びドライブ５１０が接続されている。
【０２４１】
入力部５０６は、キーボード、マウス、マイクロホンなどよりなる。出力部５０７は、ディスプレイ、スピーカなどよりなる。記憶部５０８は、ハードディスクや不揮発性のメモリなどよりなる。通信部５０９は、ネットワークインタフェースなどよりなる。ドライブ５１０は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブルメディア５１１を駆動する。
【０２４２】
以上のように構成されるコンピュータでは、CPU５０１が、例えば、記憶部５０８に記憶されているプログラムを、入出力インタフェース５０５及びバス５０４を介して、RAM５０３にロードして実行することにより、上述した一連の処理が行われる。
【０２４３】
コンピュータ５００（CPU５０１）が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア５１１に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
【０２４４】
コンピュータでは、プログラムは、リムーバブルメディア５１１をドライブ５１０に装着することにより、入出力インタフェース５０５を介して、記憶部５０８にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部５０９で受信し、記憶部５０８にインストールすることができる。その他、プログラムは、ROM５０２や記憶部５０８に、あらかじめインストールしておくことができる。
【０２４５】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【０２４６】
また、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【０２４７】
また、本明細書において、システムとは、複数のデバイス（装置）により構成される装置全体を表すものである。
【０２４８】
また、以上において、１つの装置（または処理部）として説明した構成を分割し、複数の装置（または処理部）として構成するようにしてもよい。逆に、以上において複数の装置（または処理部）として説明した構成をまとめて１つの装置（または処理部）として構成されるようにしてもよい。また、各装置（または各処理部）の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置（または処理部）の構成の一部を他の装置（または他の処理部）の構成に含めるようにしてもよい。つまり、本技術は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
【０２４９】
上述した実施形態に係る画像符号化装置及び画像復号装置は、衛星放送、ケーブルＴＶなどの有線放送、インターネット上での配信、及びセルラー通信による端末への配信などにおける送信機若しくは受信機、光ディスク、磁気ディスク及びフラッシュメモリなどの媒体に画像を記録する記録装置、又は、これら記憶媒体から画像を再生する再生装置などの様々な電子機器に応用され得る。以下、４つの応用例について説明する。
【０２５０】
＜４．応用例＞
［第１の応用例：テレビジョン受像機］
図２３は、上述した実施形態を適用したテレビジョン装置の概略的な構成の一例を示している。テレビジョン装置９００は、アンテナ９０１、チューナ９０２、デマルチプレクサ９０３、デコーダ９０４、映像信号処理部９０５、表示部９０６、音声信号処理部９０７、スピーカ９０８、外部インタフェース９０９、制御部９１０、ユーザインタフェース９１１、及びバス９１２を備える。
【０２５１】
チューナ９０２は、アンテナ９０１を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ９０２は、復調により得られた符号化ビットストリームをデマルチプレクサ９０３へ出力する。即ち、チューナ９０２は、画像が符号化されている符号化ストリームを受信する、テレビジョン装置９００における伝送手段としての役割を有する。
【０２５２】
デマルチプレクサ９０３は、符号化ビットストリームから視聴対象の番組の映像ストリーム及び音声ストリームを分離し、分離した各ストリームをデコーダ９０４へ出力する。また、デマルチプレクサ９０３は、符号化ビットストリームからEPG（Electronic Program Guide）などの補助的なデータを抽出し、抽出したデータを制御部９１０に供給する。なお、デマルチプレクサ９０３は、符号化ビットストリームがスクランブルされている場合には、デスクランブルを行ってもよい。
【０２５３】
デコーダ９０４は、デマルチプレクサ９０３から入力される映像ストリーム及び音声ストリームを復号する。そして、デコーダ９０４は、復号処理により生成される映像データを映像信号処理部９０５へ出力する。また、デコーダ９０４は、復号処理により生成される音声データを音声信号処理部９０７へ出力する。
【０２５４】
映像信号処理部９０５は、デコーダ９０４から入力される映像データを再生し、表示部９０６に映像を表示させる。また、映像信号処理部９０５は、ネットワークを介して供給されるアプリケーション画面を表示部９０６に表示させてもよい。また、映像信号処理部９０５は、映像データについて、設定に応じて、例えばノイズ除去などの追加的な処理を行ってもよい。さらに、映像信号処理部９０５は、例えばメニュー、ボタン又はカーソルなどのGUI（Graphical User Interface）の画像を生成し、生成した画像を出力画像に重畳してもよい。
【０２５５】
表示部９０６は、映像信号処理部９０５から供給される駆動信号により駆動され、表示デバイス（例えば、液晶ディスプレイ、プラズマディスプレイ又はOELD（Organic ElectroLuminescence Display）（有機ELディスプレイ）など）の映像面上に映像又は画像を表示する。
【０２５６】
音声信号処理部９０７は、デコーダ９０４から入力される音声データについてD/A変換及び増幅などの再生処理を行い、スピーカ９０８から音声を出力させる。また、音声信号処理部９０７は、音声データについてノイズ除去などの追加的な処理を行ってもよい。
【０２５７】
外部インタフェース９０９は、テレビジョン装置９００と外部機器又はネットワークとを接続するためのインタフェースである。例えば、外部インタフェース９０９を介して受信される映像ストリーム又は音声ストリームが、デコーダ９０４により復号されてもよい。即ち、外部インタフェース９０９もまた、画像が符号化されている符号化ストリームを受信する、テレビジョン装置９００における伝送手段としての役割を有する。
【０２５８】
制御部９１０は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、プログラムデータ、EPGデータ、及びネットワークを介して取得されるデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、テレビジョン装置９００の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース９１１から入力される操作信号に応じて、テレビジョン装置９００の動作を制御する。
【０２５９】
ユーザインタフェース９１１は、制御部９１０と接続される。ユーザインタフェース９１１は、例えば、ユーザがテレビジョン装置９００を操作するためのボタン及びスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース９１１は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部９１０へ出力する。
【０２６０】
バス９１２は、チューナ９０２、デマルチプレクサ９０３、デコーダ９０４、映像信号処理部９０５、音声信号処理部９０７、外部インタフェース９０９及び制御部９１０を相互に接続する。
【０２６１】
このように構成されたテレビジョン装置９００において、デコーダ９０４は、上述した実施形態に係る画像復号装置の機能を有する。それにより、テレビジョン装置９００での画像の復号に際して、入力がインターレース信号である場合に、復号処理を効率的に行うことができることができる。
【０２６２】
［第２の応用例：携帯電話機］
図２４は、上述した実施形態を適用した携帯電話機の概略的な構成の一例を示している。携帯電話機９２０は、アンテナ９２１、通信部９２２、音声コーデック９２３、スピーカ９２４、マイクロホン９２５、カメラ部９２６、画像処理部９２７、多重分離部９２８、記録再生部９２９、表示部９３０、制御部９３１、操作部９３２、及びバス９３３を備える。
【０２６３】
アンテナ９２１は、通信部９２２に接続される。スピーカ９２４及びマイクロホン９２５は、音声コーデック９２３に接続される。操作部９３２は、制御部９３１に接続される。バス９３３は、通信部９２２、音声コーデック９２３、カメラ部９２６、画像処理部９２７、多重分離部９２８、記録再生部９２９、表示部９３０、及び制御部９３１を相互に接続する。
【０２６４】
携帯電話機９２０は、音声通話モード、データ通信モード、撮影モード及びテレビ電話モードを含む様々な動作モードで、音声信号の送受信、電子メール又は画像データの送受信、画像の撮像、及びデータの記録などの動作を行う。
【０２６５】
音声通話モードにおいて、マイクロホン９２５により生成されるアナログ音声信号は、音声コーデック９２３に供給される。音声コーデック９２３は、アナログ音声信号を音声データへ変換し、変換された音声データをA/D変換し圧縮する。そして、音声コーデック９２３は、圧縮後の音声データを通信部９２２へ出力する。通信部９２２は、音声データを符号化及び変調し、送信信号を生成する。そして、通信部９２２は、生成した送信信号を、アンテナ９２１を介して基地局（図示せず）へ送信する。また、通信部９２２は、アンテナ９２１を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部９２２は、受信信号を復調及び復号して音声データを生成し、生成した音声データを音声コーデック９２３へ出力する。音声コーデック９２３は、音声データを伸張し及びD/A変換し、アナログ音声信号を生成する。そして、音声コーデック９２３は、生成した音声信号をスピーカ９２４に供給して音声を出力させる。
【０２６６】
また、データ通信モードにおいて、例えば、制御部９３１は、操作部９３２を介するユーザによる操作に応じて、電子メールを構成する文字データを生成する。また、制御部９３１は、文字を表示部９３０に表示させる。また、制御部９３１は、操作部９３２を介するユーザからの送信指示に応じて電子メールデータを生成し、生成した電子メールデータを通信部９２２へ出力する。通信部９２２は、電子メールデータを符号化及び変調し、送信信号を生成する。そして、通信部９２２は、生成した送信信号を、アンテナ９２１を介して基地局（図示せず）へ送信する。また、通信部９２２は、アンテナ９２１を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部９２２は、受信信号を復調及び復号して電子メールデータを復元し、復元した電子メールデータを制御部９３１へ出力する。制御部９３１は、表示部９３０に電子メールの内容を表示させると共に、電子メールデータを記録再生部９２９の記憶媒体に記憶させる。
【０２６７】
記録再生部９２９は、読み書き可能な任意の記憶媒体を有する。例えば、記憶媒体は、RAM又はフラッシュメモリなどの内蔵型の記憶媒体であってもよく、ハードディスク、磁気ディスク、光磁気ディスク、光ディスク、USB（Unallocated Space Bitmap）メモリ、又はメモリカードなどの外部装着型の記憶媒体であってもよい。
【０２６８】
また、撮影モードにおいて、例えば、カメラ部９２６は、被写体を撮像して画像データを生成し、生成した画像データを画像処理部９２７へ出力する。画像処理部９２７は、カメラ部９２６から入力される画像データを符号化し、符号化ストリームを記憶再生部９２９の記憶媒体に記憶させる。
【０２６９】
また、テレビ電話モードにおいて、例えば、多重分離部９２８は、画像処理部９２７により符号化された映像ストリームと、音声コーデック９２３から入力される音声ストリームとを多重化し、多重化したストリームを通信部９２２へ出力する。通信部９２２は、ストリームを符号化及び変調し、送信信号を生成する。そして、通信部９２２は、生成した送信信号を、アンテナ９２１を介して基地局（図示せず）へ送信する。また、通信部９２２は、アンテナ９２１を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。これら送信信号及び受信信号には、符号化ビットストリームが含まれ得る。そして、通信部９２２は、受信信号を復調及び復号してストリームを復元し、復元したストリームを多重分離部９２８へ出力する。多重分離部９２８は、入力されるストリームから映像ストリーム及び音声ストリームを分離し、映像ストリームを画像処理部９２７、音声ストリームを音声コーデック９２３へ出力する。画像処理部９２７は、映像ストリームを復号し、映像データを生成する。映像データは、表示部９３０に供給され、表示部９３０により一連の画像が表示される。音声コーデック９２３は、音声ストリームを伸張し及びD/A変換し、アナログ音声信号を生成する。そして、音声コーデック９２３は、生成した音声信号をスピーカ９２４に供給して音声を出力させる。
【０２７０】
このように構成された携帯電話機９２０において、画像処理部９２７は、上述した実施形態に係る画像符号化装置及び画像復号装置の機能を有する。それにより、携帯電話機９２０での画像の符号化及び復号に際して、入力がインターレース信号である場合に、符号化または復号処理を効率的に行うことができる。
【０２７１】
［第３の応用例：記録再生装置］
図２５は、上述した実施形態を適用した記録再生装置の概略的な構成の一例を示している。記録再生装置９４０は、例えば、受信した放送番組の音声データ及び映像データを符号化して記録媒体に記録する。また、記録再生装置９４０は、例えば、他の装置から取得される音声データ及び映像データを符号化して記録媒体に記録してもよい。また、記録再生装置９４０は、例えば、ユーザの指示に応じて、記録媒体に記録されているデータをモニタ及びスピーカ上で再生する。このとき、記録再生装置９４０は、音声データ及び映像データを復号する。
【０２７２】
記録再生装置９４０は、チューナ９４１、外部インタフェース９４２、エンコーダ９４３、HDD（Hard Disk Drive）９４４、ディスクドライブ９４５、セレクタ９４６、デコーダ９４７、OSD（On-Screen Display）９４８、制御部９４９、及びユーザインタフェース９５０を備える。
【０２７３】
チューナ９４１は、アンテナ（図示せず）を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ９４１は、復調により得られた符号化ビットストリームをセレクタ９４６へ出力する。即ち、チューナ９４１は、記録再生装置９４０における伝送手段としての役割を有する。
【０２７４】
外部インタフェース９４２は、記録再生装置９４０と外部機器又はネットワークとを接続するためのインタフェースである。外部インタフェース９４２は、例えば、IEEE1394インタフェース、ネットワークインタフェース、USBインタフェース、又はフラッシュメモリインタフェースなどであってよい。例えば、外部インタフェース９４２を介して受信される映像データ及び音声データは、エンコーダ９４３へ入力される。即ち、外部インタフェース９４２は、記録再生装置９４０における伝送手段としての役割を有する。
【０２７５】
エンコーダ９４３は、外部インタフェース９４２から入力される映像データ及び音声データが符号化されていない場合に、映像データ及び音声データを符号化する。そして、エンコーダ９４３は、符号化ビットストリームをセレクタ９４６へ出力する。
【０２７６】
HDD９４４は、映像及び音声などのコンテンツデータが圧縮された符号化ビットストリーム、各種プログラムおよびその他のデータを内部のハードディスクに記録する。また、HDD９４４は、映像及び音声の再生時に、これらデータをハードディスクから読み出す。
【０２７７】
ディスクドライブ９４５は、装着されている記録媒体へのデータの記録及び読み出しを行う。ディスクドライブ９４５に装着される記録媒体は、例えばDVDディスク（DVD-Video、DVD-RAM、DVD-R、DVD-RW、DVD+R、DVD+RW等）又はBlu-ray（登録商標）ディスクなどであってよい。
【０２７８】
セレクタ９４６は、映像及び音声の記録時には、チューナ９４１又はエンコーダ９４３から入力される符号化ビットストリームを選択し、選択した符号化ビットストリームをHDD９４４又はディスクドライブ９４５へ出力する。また、セレクタ９４６は、映像及び音声の再生時には、HDD９４４又はディスクドライブ９４５から入力される符号化ビットストリームをデコーダ９４７へ出力する。
【０２７９】
デコーダ９４７は、符号化ビットストリームを復号し、映像データ及び音声データを生成する。そして、デコーダ９４７は、生成した映像データをOSD９４８へ出力する。また、デコーダ９０４は、生成した音声データを外部のスピーカへ出力する。
【０２８０】
OSD９４８は、デコーダ９４７から入力される映像データを再生し、映像を表示する。また、OSD９４８は、表示する映像に、例えばメニュー、ボタン又はカーソルなどのGUIの画像を重畳してもよい。
【０２８１】
制御部９４９は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、記録再生装置９４０の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース９５０から入力される操作信号に応じて、記録再生装置９４０の動作を制御する。
【０２８２】
ユーザインタフェース９５０は、制御部９４９と接続される。ユーザインタフェース９５０は、例えば、ユーザが記録再生装置９４０を操作するためのボタン及びスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース９５０は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部９４９へ出力する。
【０２８３】
このように構成された記録再生装置９４０において、エンコーダ９４３は、上述した実施形態に係る画像符号化装置の機能を有する。また、デコーダ９４７は、上述した実施形態に係る画像復号装置の機能を有する。それにより、記録再生装置９４０での画像の符号化及び復号に際して、入力がインターレース信号である場合に、符号化または復号処理を効率的に行うことができる。
【０２８４】
［第４の応用例：撮像装置］
図２６は、上述した実施形態を適用した撮像装置の概略的な構成の一例を示している。撮像装置９６０は、被写体を撮像して画像を生成し、画像データを符号化して記録媒体に記録する。
【０２８５】
撮像装置９６０は、光学ブロック９６１、撮像部９６２、信号処理部９６３、画像処理部９６４、表示部９６５、外部インタフェース９６６、メモリ９６７、メディアドライブ９６８、OSD９６９、制御部９７０、ユーザインタフェース９７１、及びバス９７２を備える。
【０２８６】
光学ブロック９６１は、撮像部９６２に接続される。撮像部９６２は、信号処理部９６３に接続される。表示部９６５は、画像処理部９６４に接続される。ユーザインタフェース９７１は、制御部９７０に接続される。バス９７２は、画像処理部９６４、外部インタフェース９６６、メモリ９６７、メディアドライブ９６８、OSD９６９、及び制御部９７０を相互に接続する。
【０２８７】
光学ブロック９６１は、フォーカスレンズ及び絞り機構などを有する。光学ブロック９６１は、被写体の光学像を撮像部９６２の撮像面に結像させる。撮像部９６２は、CCD（Charge Coupled Device）又はCMOS（Complementary Metal Oxide Semiconductor）などのイメージセンサを有し、撮像面に結像した光学像を光電変換によって電気信号としての画像信号に変換する。そして、撮像部９６２は、画像信号を信号処理部９６３へ出力する。
【０２８８】
信号処理部９６３は、撮像部９６２から入力される画像信号に対してニー補正、ガンマ補正、色補正などの種々のカメラ信号処理を行う。信号処理部９６３は、カメラ信号処理後の画像データを画像処理部９６４へ出力する。
【０２８９】
画像処理部９６４は、信号処理部９６３から入力される画像データを符号化し、符号化データを生成する。そして、画像処理部９６４は、生成した符号化データを外部インタフェース９６６又はメディアドライブ９６８へ出力する。また、画像処理部９６４は、外部インタフェース９６６又はメディアドライブ９６８から入力される符号化データを復号し、画像データを生成する。そして、画像処理部９６４は、生成した画像データを表示部９６５へ出力する。また、画像処理部９６４は、信号処理部９６３から入力される画像データを表示部９６５へ出力して画像を表示させてもよい。また、画像処理部９６４は、OSD９６９から取得される表示用データを、表示部９６５へ出力する画像に重畳してもよい。
【０２９０】
OSD９６９は、例えばメニュー、ボタン又はカーソルなどのGUIの画像を生成して、生成した画像を画像処理部９６４へ出力する。
【０２９１】
外部インタフェース９６６は、例えばUSB入出力端子として構成される。外部インタフェース９６６は、例えば、画像の印刷時に、撮像装置９６０とプリンタとを接続する。また、外部インタフェース９６６には、必要に応じてドライブが接続される。ドライブには、例えば、磁気ディスク又は光ディスクなどのリムーバブルメディアが装着され、リムーバブルメディアから読み出されるプログラムが、撮像装置９６０にインストールされ得る。さらに、外部インタフェース９６６は、LAN又はインターネットなどのネットワークに接続されるネットワークインタフェースとして構成されてもよい。即ち、外部インタフェース９６６は、撮像装置９６０における伝送手段としての役割を有する。
【０２９２】
メディアドライブ９６８に装着される記録媒体は、例えば、磁気ディスク、光磁気ディスク、光ディスク、又は半導体メモリなどの、読み書き可能な任意のリムーバブルメディアであってよい。また、メディアドライブ９６８に記録媒体が固定的に装着され、例えば、内蔵型ハードディスクドライブ又はSSD（Solid State Drive）のような非可搬性の記憶部が構成されてもよい。
【０２９３】
制御部９７０は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、撮像装置９６０の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース９７１から入力される操作信号に応じて、撮像装置９６０の動作を制御する。
【０２９４】
ユーザインタフェース９７１は、制御部９７０と接続される。ユーザインタフェース９７１は、例えば、ユーザが撮像装置９６０を操作するためのボタン及びスイッチなどを有する。ユーザインタフェース９７１は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部９７０へ出力する。
【０２９５】
このように構成された撮像装置９６０において、画像処理部９６４は、上述した実施形態に係る画像符号化装置及び画像復号装置の機能を有する。それにより、撮像装置９６０での画像の符号化及び復号に際して、入力がインターレース信号である場合に、符号化または復号処理を効率的に行うことができる。
【０２９６】
なお、本明細書では、フィールド符号化情報であるフラグ、パリティ情報であるフラグ、動きベクトル情報、および予測モード情報などの各種情報が、符号化ストリームに多重化されて、符号化側から復号側へ伝送される例について説明した。しかしながら、これら情報を伝送する手法はかかる例に限定されない。例えば、これら情報は、符号化ビットストリームに多重化されることなく、符号化ビットストリームと関連付けられた別個のデータとして伝送され又は記録されてもよい。ここで、「関連付ける」という用語は、ビットストリームに含まれる画像（スライス若しくはブロックなど、画像の一部であってもよい）と当該画像に対応する情報とを復号時にリンクさせ得るようにすることを意味する。即ち、情報は、画像（又はビットストリーム）とは別の伝送路上で伝送されてもよい。また、情報は、画像（又はビットストリーム）とは別の記録媒体（又は同一の記録媒体の別の記録エリア）に記録されてもよい。さらに、情報と画像（又はビットストリーム）とは、例えば、複数フレーム、１フレーム、又はフレーム内の一部分などの任意の単位で互いに関連付けられてよい。
【０２９７】
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示はかかる例に限定されない。本開示の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
【０２９８】
なお、本技術は以下のような構成も取ることができる。
（１）  符号化ストリームと、シーケンス毎に伝送されるフィールド符号化であるか否かを示すフィールド符号化フラグとを受け取る受け取り部と、
前記受け取り部により受け取られたフィールド符号化フラグに応じて、前記受け取り部により受け取られた符号化ストリームを復号処理して画像を生成する復号部と
を備える画像処理装置。
（２）  前記受け取り部は、ピクチャ毎に伝送されるフィールド毎のパリティを示すパリティフラグを受け取り、
前記復号部は、前記受け取り部により受け取られたフィールド符号化フラグがフィールド符号化であることを示す場合、前記受け取り部により受け取られたパリティフラグに応じて、前記受け取り部により受け取られた符号化ストリームを復号処理して画像を生成する
前記（１）に記載の画像処理装置。
（３）    前記フィールド符号化フラグは、シーケンスパラメータセットに設定されている
前記（２）に記載の画像処理装置。
（４）  前記パリティフラグは、adaptation parameter setに設定されている
前記（２）または（３）に記載の画像処理装置。
（５）  前記受け取り部は、Supplemental Enhanced Informationメッセージに設定されて伝送されるインターレース信号としての表示の指定情報を受け取り、
前記復号部は、前記受け取り部により受け取られたフィールド符号化フラグがフレーム符号化であることを示す場合、前記受け取り部により受け取られた指定情報に応じて、前記受け取り部により受け取られた符号化ストリームを復号処理して画像を生成し、生成された画像をインターレース信号として出力する
前記（１）乃至（４）のいずれかに記載の画像処理装置。
（６）  画像処理装置が、
符号化ストリームと、シーケンス毎に伝送されるフィールド符号化であるか否かを示すフィールド符号化フラグとを受け取り、
受け取られたフィールド符号化フラグに応じて、受け取られた符号化ストリームを復号処理して画像を生成する
画像処理方法。
（７）  画像をフィールド符号化するか否かに応じて、前記画像を符号化し、符号化ストリームを生成する符号化部と、
前記画像をフィールド符号化するか否かを示すフィールド符号化フラグをシーケンス毎に設定する設定部と、
前記符号化部により生成された符号化ストリームと、前記設定部によりシーケンス毎に設定されたフィールド符号化フラグとを伝送する伝送部と
を備える画像処理装置。
（８）  前記設定部は、前記画像をフィールド符号化する場合、フィールド毎のパリティを示すパリティフラグをピクチャ毎に設定し、
前記伝送部は、前記設定部により設定されたパリティフラグをピクチャ毎に伝送する
前記（７）に記載の画像処理装置。
（９）  前記設定部は、前記フィールド符号化フラグを、シーケンスパラメータセットに設定する
前記（７）または（８）に記載の画像処理装置。
（１０）  前記設定部は、前記パリティフラグを、adaptation parameter setに設定する
前記（８）または（９）に記載の画像処理装置。
（１１）  前記設定部は、前記画像をフレーム符号化するが、インターレース信号として表示する場合、インターレース信号としての表示の指定情報をSupplemental Enhanced Informationメッセージに設定し、
前記伝送部は、前記設定部により前記指定情報が設定されたSupplemental Enhanced Informationメッセージを伝送する
前記（７）乃至（１０）のいずれかに記載の画像処理装置。
（１２）  画像処理装置が、
画像をフィールド符号化するか否かに応じて、前記画像を符号化し、符号化ストリームを生成し、
前記画像をフィールド符号化するか否かを示すフィールド符号化フラグをシーケンス毎に設定し、
生成された符号化ストリームと、シーケンス毎に設定されたフィールド符号化フラグとを伝送する
画像処理方法。
【符号の説明】
【０２９９】
１００  画像符号化装置，  １０６  可逆符号化部，  １１５  動き予測・補償部，  １２１  インターレースパラメータ符号化部，  １２２  動きベクトルシフト部，  １５１  フィールド符号化バッファ，  １５２  パリティバッファ，  １６１  シンタクス書き込み部，  ２００  画像復号装置，  ２０２  可逆復号部，    ２１２  動き予測・補償部，  ２２１  インターレースパラメータ受け取り部，  ２２２  動きベクトルシフト部，  ２５１  シンタクス受け取り部，  ２６１  フィールド復号バッファ，  ２６２  パリティバッファ
【図１】
2013150124.tif 000003
【図２】
2013150124.tif 000004
【図３】
2013150124.tif 000005
【図４】
2013150124.tif 000006
【図５】
2013150124.tif 000007
【図６】
2013150124.tif 000008
【図７】
2013150124.tif 000009
【図８】
2013150124.tif 000010
【図９】
2013150124.tif 000011
【図１０】
2013150124.tif 000012
【図１１】
2013150124.tif 000013
【図１２】
2013150124.tif 000014
【図１３】
2013150124.tif 000015
【図１４】
2013150124.tif 000016
【図１５】
2013150124.tif 000017
【図１６】
2013150124.tif 000018
【図１７】
2013150124.tif 000019
【図１８】
2013150124.tif 000020
【図１９】
2013150124.tif 000021
【図２０】
2013150124.tif 000022
【図２１】
2013150124.tif 000023
【図２２】
2013150124.tif 000024
【図２３】
2013150124.tif 000025
【図２４】
2013150124.tif 000026
【図２５】
2013150124.tif 000027
【図２６】
2013150124.tif 000028