(57)【要約】【課題】符号化効率を向上させることができるようにする。【解決手段】制約付きイントラ予測において、前記制約付きイントラ予測の処理対象である当該領域に隣接し、予測に利用される周辺画素であって、利用可能な２つの周辺画素に挟まれる１つ若しくは連続する複数の利用不可能な周辺画素に対して、その位置に応じた値の補間画素値を生成する補間画素生成部と、前記補間画素生成部により生成された補間画素値を利用して、イントラ予測を行い、予測画像を生成する予測画像生成部とを備える。本開示は画像処理装置に適用することができる。【選択図】図６
2013012840.tif 000002
【特許請求の範囲】
【請求項１】
制約付きイントラ予測において、前記制約付きイントラ予測の処理対象である当該領域に隣接し、予測に利用される周辺画素であって、利用可能な２つの周辺画素に挟まれる１つ若しくは連続する複数の利用不可能な周辺画素に対して、その位置に応じた値の補間画素値を生成する補間画素生成部と、
前記補間画素生成部により生成された補間画素値を利用して、イントラ予測を行い、予測画像を生成する予測画像生成部と
を備える画像処理装置。
【請求項２】
前記補間画素生成部は、利用可能な前記周辺画素との距離に応じた値の補間画素値を生成する
請求項１に記載の画像処理装置。
【請求項３】
前記補間画素生成部は、利用可能な２つの前記周辺画素を用いた線形内挿により前記補間画素値を生成する
請求項２に記載の画像処理装置。
【請求項４】
前記補間画素生成部は、前記線形内挿において、２のべき乗の近似値を用いて割り算を行う
請求項３に記載の画像処理装置。
【請求項５】
前記補間画素生成部は、当該領域の左上の、利用不可能な周辺画素に対して、
前記周辺画素の右隣の画素が利用可能な場合、前記右隣の画素の画素値を前記周辺画素の補間画素値とし、
前記周辺画素の右隣の画素が利用不可能であり、かつ、前記周辺画素の下の画素が利用可能である場合、前記下の画素の画素値を前記周辺画素の補間画素値とする
請求項１に記載の画像処理装置。
【請求項６】
イントラ予測に関するフラグ情報の値を判定するフラグ判定部をさらに備え、
前記補間画素生成部は、前記フラグ判定部により、前記フラグ情報により前記制約付きイントラ予測が指定されていると判定された場合、前記補間画素値を生成する
請求項１に記載の画像処理装置。
【請求項７】
当該領域の大きさを判定するサイズ判定部をさらに備え、
前記補間画素生成部は、前記サイズ判定部により当該領域が小さいと判定された場合、前記補間画素値を生成する
請求項１に記載の画像処理装置。
【請求項８】
前記サイズ判定部は、閾値を用いて、当該領域の大きさを判定し、
前記補間画素生成部は、前記サイズ判定部により当該領域が閾値以下であると判定された場合、前記補間画素値を生成する
請求項７に記載の画像処理装置。
【請求項９】
前記閾値を伝送する伝送部をさらに備える
請求項８に記載の画像処理装置。
【請求項１０】
伝送される前記閾値を受け取る受け取り部をさらに備え、
前記サイズ判定部は、前記受け取り部により受け取られた前記閾値を用いて当該領域の大きさを判定する
請求項８に記載の画像処理装置。
【請求項１１】
前記閾値はプロファイルレベルに応じて設定される
請求項８に記載の画像処理装置。
【請求項１２】
画像処理装置の画像処理方法であって、
補間画素生成部が、制約付きイントラ予測において、前記制約付きイントラ予測の処理対象である当該領域に隣接し、予測に利用される周辺画素であって、利用可能な２つの周辺画素に挟まれる１つ若しくは連続する複数の利用不可能な周辺画素に対して、その位置に応じた値の補間画素値を生成し、
予測画像生成部が、生成された補間画素値を利用して、イントラ予測を行い、予測画像を生成する
画像処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、画像処理装置および方法に関し、特に、符号化効率を向上させることができるようにした画像処理装置および方法に関する。
【背景技術】
【０００２】
近年、画像情報をデジタルとして取り扱い、その際、効率の高い情報の伝送、蓄積を目的とし、画像情報特有の冗長性を利用して、離散コサイン変換等の直交変換と動き補償により圧縮するMPEG（Moving Picture Experts Group）などの方式に準拠した装置が、放送局などの情報配信、及び一般家庭における情報受信の双方において普及した。
【０００３】
特に、MPEG2（ISO（International Organization for Standardization）/IEC（International Electrotechnical Commission） 13818-2）は、汎用画像符号化方式として定義されており、飛び越し走査画像及び順次走査画像の双方、並びに標準解像度画像及び高精細画像を網羅する標準で、プロフェッショナル用途及びコンシューマ用途の広範なアプリケーションに現在広く用いられている。MPEG2圧縮方式を用いることにより、例えば７２０×４８０画素を持つ標準解像度の飛び越し走査画像であれば４〜８Ｍｂｐｓ、１９２０×１０８８画素を持つ高解像度の飛び越し走査画像であれば１８〜２２Ｍｂｐｓの符号量（ビットレート）を割り当てることで、高い圧縮率と良好な画質の実現が可能である。
【０００４】
MPEG2は主として放送用に適合する高画質符号化を対象としていたが、MPEG1より低い符号量（ビットレート）、つまりより高い圧縮率の符号化方式には対応していなかった。携帯端末の普及により、今後そのような符号化方式のニーズは高まると思われ、これに対応してMPEG4符号化方式の標準化が行われた。画像符号化方式に関しては、１９９８年１２月にISO/IEC 14496-2としてその規格が国際標準に承認された。
【０００５】
更に、近年、当初テレビ会議用の画像符号化を目的として、H.26L （ITU-T（International Telecommunication Union Telecommunication Standardization Sector） Q6/16 VCEG（Video Coding Expert Group））という標準の規格化が進んでいる。H.26LはMPEG2やMPEG4といった従来の符号化方式に比べ、その符号化、復号化により多くの演算量が要求されるものの、より高い符号化効率が実現されることが知られている。また、現在、MPEG4の活動の一環として、このH.26Lをベースに、H.26Lではサポートされない機能も取り入れ、より高い符号化効率を実現する標準化がJoint Model of Enhanced-Compression Video Codingとして行われた。
【０００６】
標準化のスケジュールとしては、２００３年３月にはH.264及びMPEG-4 Part10 （Advanced Video Coding、以下AVCと記す）という名の元に国際標準となった。
【０００７】
更に、その拡張として、RGBや4:2:2、4:4:4といった、業務用に必要な符号化ツールや、MPEG-2で規定されていた8x8DCT（Discrete Cosine Transform）や量子化マトリクスをも含んだFRExt（Fidelity Range Extension）の標準化が２００５年２月に完了し、これにより、AVCを用いて、映画に含まれるフィルムノイズをも良好に表現することが可能な符号化方式となって、Blu-Ray Disc等の幅広いアプリケーションに用いられる運びとなった。
【０００８】
しかしながら、昨今、ハイビジョン画像の４倍の、４０００×２０００画素程度の画像を圧縮したい、或いは、インターネットのような、限られた伝送容量の環境において、ハイビジョン画像を配信したいといった、更なる高圧縮率符号化に対するニーズが高まっている。このため、ITU-T傘下のVCEG（Video Coding Expert Group）において、符号化効率の改善に関する検討が継続され行なわれている。
【０００９】
ところで、従来のように、マクロブロックサイズを１６画素×１６画素とするのは、次世代符号化方式の対象となるような、UHD（Ultra High Definition；4000画素×2000画素）といった大きな画枠に対しては、最適ではない恐れがあった。
【００１０】
そこで、現在、AVCより更なる符号化効率の向上を目的として、ITU-Tと、ISO/IECの共同の標準化団体であるJCTVC（Joint Collaboration Team - Video Coding）により、HEVC（High Efficiency Video Coding）と呼ばれる符号化方式の標準化が進められている（例えば、非特許文献１参照）。
【００１１】
このHEVC符号化方式においては、AVCにおけるマクロブロックと同様の処理単位としてコーディングユニット（CU（Coding Unit））が定義されている。このCUは、AVCのマクロブロックのようにサイズが16×16画素に固定されず、それぞれのシーケンスにおいて、画像圧縮情報中において指定される。
【００１２】
ところで、AVCには、インターピクチャにおいて、インター予測（画面間予測）により再構成された画素からのイントラ予測（画面内予測）を禁止するモードが用意されている。このモードはインター予測、もしくはインター予測で参照する画像にエラー混入していた際に、そのエラーがイントラ予測に影響することを防ぐためのものである。AVCにおけるシンタックスではピクチャパラメータ中に存在するconstrained_intra_pred_flagで示させるフラグが１の時に上述したモードで復号されることが規定されている。
【００１３】
しかしながら、HEVCの場合、LCU内にインター予測を行うCUとイントラ予測を行うCUとが混在することができる。このような場合に、constrained_intra_pred_flag＝１であるとすると、イントラ予測において周辺画素の参照が不可能になることが頻発し、利用可能な予測モードの数が大幅に制限され、符号化効率が低減する恐れがあった。
【００１４】
そこで、constrained_intra_pred_flag＝１でのイントラ予測の場合、インター予測から構成されるブロック（単に、インター予測のブロックとも称する）の隣接画素を、そのブロックに隣接する、イントラ予測から構成されるブロック（単に、イントラ予測のブロックとも称する）の画素で置き換える方法が考えられた（例えば、非特許文献２参照）。
【先行技術文献】
【非特許文献】
【００１５】
【非特許文献１】Thomas Wiegand, Woo-Jin Han, Benjamin Bross, Jens-Rainer Ohm, Gary J. Sullivan, "Working Draft 1 of High-Efficiency Video Coding ", JCTVC-C403, Joint Collaborative Team on Video Coding (JCT-VC)of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG113rd Meeting: Guangzhou, CN, 7-15 October, 2010
【非特許文献２】Rickard Sjoberg, Changcai Lai, Keiichi Chono, Viktor Wahadaniah, "BoG report on padding of unavailable reference samples for intra prediction", JCTVC-E488, Joint Collaborative Team on Video Coding (JCT-VC)of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG115th Meeting: Geneva, CH, 16-23 March, 2011
【発明の概要】
【発明が解決しようとする課題】
【００１６】
しかしながら、非特許文献２に記載の方法の場合、利用不可能な（not availableな）周辺画素値を、利用可能な（availableな）周辺画素を用いて補間する際、画素の位置に寄らず、同一の値を用いるため、十分な符号化効率を実現できない恐れがあった。
【００１７】
本開示は、このような状況に鑑みてなされたものであり、利用不可能なインター予測のブロックの画素を、より精度の高い画素を用いて置き換えることができるようにし、符号化効率を向上させることができるようにすることを目的とする。
【課題を解決するための手段】
【００１８】
本開示の一側面は、制約付きイントラ予測において、前記制約付きイントラ予測の処理対象である当該領域に隣接し、予測に利用される周辺画素であって、利用可能な２つの周辺画素に挟まれる１つ若しくは連続する複数の利用不可能な周辺画素に対して、その位置に応じた値の補間画素値を生成する補間画素生成部と、前記補間画素生成部により生成された補間画素値を利用して、イントラ予測を行い、予測画像を生成する予測画像生成部とを備える画像処理装置である。
【００１９】
前記補間画素生成部は、利用可能な前記周辺画素との距離に応じた値の補間画素値を生成することができる。
【００２０】
前記補間画素生成部は、利用可能な２つの前記周辺画素を用いた線形内挿により前記補間画素値を生成することができる。
【００２１】
前記補間画素生成部は、前記線形内挿において、２のべき乗の近似値を用いて割り算を行うことができる。
【００２２】
前記補間画素生成部は、当該領域の左上の、利用不可能な周辺画素に対して、前記周辺画素の右隣の画素が利用可能な場合、前記右隣の画素の画素値を前記周辺画素の補間画素値とし、前記周辺画素の右隣の画素が利用不可能であり、かつ、前記周辺画素の下の画素が利用可能である場合、前記下の画素の画素値を前記周辺画素の補間画素値とすることができる。
【００２３】
イントラ予測に関するフラグ情報の値を判定するフラグ判定部をさらに備え、前記補間画素生成部は、前記フラグ判定部により、前記フラグ情報により前記制約付きイントラ予測が指定されていると判定された場合、前記補間画素値を生成することができる。
【００２４】
当該領域の大きさを判定するサイズ判定部をさらに備え、前記補間画素生成部は、前記サイズ判定部により当該領域が小さいと判定された場合、前記補間画素値を生成することができる。
【００２５】
前記サイズ判定部は、閾値を用いて、当該領域の大きさを判定し、前記補間画素生成部は、前記サイズ判定部により当該領域が閾値以下であると判定された場合、前記補間画素値を生成することができる。
【００２６】
前記閾値を伝送する伝送部をさらに備えることができる。
【００２７】
伝送される前記閾値を受け取る受け取り部をさらに備え、前記サイズ判定部は、前記受け取り部により受け取られた前記閾値を用いて当該領域の大きさを判定することができる。
【００２８】
前記閾値はプロファイルレベルに応じて設定されるようにすることができる。
【００２９】
本開示の一側面は、また、画像処理装置の画像処理方法であって、補間画素生成部が、制約付きイントラ予測において、前記制約付きイントラ予測の処理対象である当該領域に隣接し、予測に利用される周辺画素であって、利用可能な２つの周辺画素に挟まれる１つ若しくは連続する複数の利用不可能な周辺画素に対して、その位置に応じた値の補間画素値を生成し、予測画像生成部が、生成された補間画素値を利用して、イントラ予測を行い、予測画像を生成する画像処理方法である。
【００３０】
本開示の一側面においては、制約付きイントラ予測において、制約付きイントラ予測の処理対象である当該領域に隣接し、予測に利用される周辺画素であって、利用可能な２つの周辺画素に挟まれる１つ若しくは連続する複数の利用不可能な周辺画素に対して、その位置に応じた値の補間画素値が生成され、その生成された補間画素値を利用して、イントラ予測が行われ、予測画像が生成される。
【発明の効果】
【００３１】
本開示によれば、画像を処理することができる。特に、符号化効率を向上させることができる。
【図面の簡単な説明】
【００３２】
【図１】画像符号化装置の主な構成例を示すブロック図である。
【図２】コーディングユニットの構成例を説明する図である。
【図３】Angular Prediction イントラ予測方式の例を説明する図である。
【図４】Arbitrary Directional Intra イントラ予測方式の例を説明する図である。
【図５】周辺画素の置き換えの様子の例を説明する図である。
【図６】制約付きイントラ予測部等の主な構成例を示すブロック図である。
【図７】周辺画素の置き換えの様子の例を説明する図である。
【図８】周辺画素の置き換えの様子の例を説明する図である。
【図９】符号化処理の流れの例を説明するフローチャートである。
【図１０】イントラ予測処理の流れの例を説明するフローチャートである。
【図１１】画像復号装置の主な構成例を示すブロック図である。
【図１２】制約付きイントラ予測部等の他の構成例を示すブロック図である。
【図１３】復号処理の流れの例を説明するフローチャートである。
【図１４】予測処理の流れの例を説明するフローチャートである。
【図１５】イントラ予測処理の流れの、他の例を説明するフローチャートである。
【図１６】制約付きイントラ予測部等の、さらに他の構成例を示すブロック図である。
【図１７】イントラ予測処理の流れの、さらに他の例を説明するフローチャートである。
【図１８】制約付きイントラ予測部等の、さらに他の構成例を示すブロック図である。
【図１９】イントラ予測処理の流れの、さらに他の例を説明するフローチャートである。
【図２０】パーソナルコンピュータの主な構成例を示すブロック図である。
【図２１】テレビジョン装置の概略的な構成の一例を示すブロック図である。
【図２２】携帯電話機の概略的な構成の一例を示すブロック図である。
【図２３】記録再生装置の概略的な構成の一例を示すブロック図である。
【図２４】撮像装置の概略的な構成の一例を示すブロック図である。
【発明を実施するための形態】
【００３３】
以下、本開示を実施するための形態（以下実施の形態とする）について説明する。なお、説明は以下の順序で行う。
１．第１の実施の形態（画像符号化装置）
２．第２の実施の形態（画像復号装置）
３．第３の実施の形態（制約付きイントラ予測部の他の例）
４．第４の実施の形態（コンピュータ）
５．第５の実施の形態（テレビジョン受像機）
６．第６の実施の形態（携帯電話機）
７．第７の実施の形態（記録再生装置）
８．第８の実施の形態（撮像装置）
【００３４】
＜１．第１の実施の形態＞
［画像符号化装置］
図１は、画像処理装置である画像符号化装置の主な構成例を示すブロック図である。
【００３５】
図１に示される画像符号化装置１００は、例えばH．264及びMPEG（Moving Picture Experts Group）4 Part10（AVC（Advanced Video Coding））符号化方式のように、予測処理を用いて画像データを符号化する。
【００３６】
図１に示されるように画像符号化装置１００は、A/D変換部１０１、画面並べ替えバッファ１０２、演算部１０３、直交変換部１０４、量子化部１０５、可逆符号化部１０６、および蓄積バッファ１０７を有する。また、画像符号化装置１００は、逆量子化部１０８、逆直交変換部１０９、演算部１１０、ループフィルタ１１１、フレームメモリ１１２、選択部１１３、イントラ予測部１１４、動き予測・補償部１１５、予測画像選択部１１６、およびレート制御部１１７を有する。
【００３７】
画像符号化装置１００は、さらに、制約付きイントラ予測部１２１を有する。
【００３８】
A/D変換部１０１は、入力された画像データをA/D変換し、変換後の画像データ（デジタルデータ）を、画面並べ替えバッファ１０２に供給し、記憶させる。画面並べ替えバッファ１０２は、記憶した表示の順番のフレームの画像を、GOP（Group Of Picture）に応じて、符号化のためのフレームの順番に並べ替え、フレームの順番を並び替えた画像を、演算部１０３に供給する。また、画面並べ替えバッファ１０２は、フレームの順番を並び替えた画像を、イントラ予測部１１４および動き予測・補償部１１５にも供給する。
【００３９】
演算部１０３は、画面並べ替えバッファ１０２から読み出された画像から、予測画像選択部１１６を介してイントラ予測部１１４若しくは動き予測・補償部１１５から供給される予測画像を減算し、その差分情報を直交変換部１０４に出力する。
【００４０】
例えば、イントラ符号化が行われる画像の場合、演算部１０３は、画面並べ替えバッファ１０２から読み出された画像から、イントラ予測部１１４から供給される予測画像を減算する。また、例えば、インター符号化が行われる画像の場合、演算部１０３は、画面並べ替えバッファ１０２から読み出された画像から、動き予測・補償部１１５から供給される予測画像を減算する。
【００４１】
直交変換部１０４は、演算部１０３から供給される差分情報に対して、離散コサイン変換やカルーネン・レーベ変換等の直交変換を施す。なお、この直交変換の方法は任意である。直交変換部１０４は、その変換係数を量子化部１０５に供給する。
【００４２】
量子化部１０５は、直交変換部１０４から供給される変換係数を量子化する。量子化部１０５は、レート制御部１１７から供給される符号量の目標値に関する情報に基づいて量子化パラメータを設定し、その量子化を行う。なお、この量子化の方法は任意である。量子化部１０５は、量子化された変換係数を可逆符号化部１０６に供給する。
【００４３】
可逆符号化部１０６は、量子化部１０５において量子化された変換係数を、任意の符号化方式で符号化する。係数データは、レート制御部１１７の制御の下で量子化されているので、この符号量は、レート制御部１１７が設定した目標値となる（若しくは目標値に近似する）。
【００４４】
また、可逆符号化部１０６は、イントラ予測のモードを示す情報等を含むイントラ予測情報をイントラ予測部１１４から取得し、インター予測のモードを示す情報や動きベクトル情報などを含むインター予測情報を動き予測・補償部１１５から取得する。さらに、可逆符号化部１０６は、ループフィルタ１１１において使用されたフィルタ係数等を取得する。
【００４５】
可逆符号化部１０６は、これらの各種情報を任意の符号化方式で符号化し、符号化データのヘッダ情報の一部とする（多重化する）。可逆符号化部１０６は、符号化して得られた符号化データを蓄積バッファ１０７に供給して蓄積させる。
【００４６】
可逆符号化部１０６の符号化方式としては、例えば、可変長符号化または算術符号化等が挙げられる。可変長符号化としては、例えば、H．264/AVC方式で定められているCAVLC（Context-Adaptive Variable Length Coding）などが挙げられる。算術符号化としては、例えば、CABAC（Context-Adaptive Binary Arithmetic Coding）などが挙げられる。
【００４７】
蓄積バッファ１０７は、可逆符号化部１０６から供給された符号化データを、一時的に保持する。蓄積バッファ１０７は、所定のタイミングにおいて、保持している符号化データを、ビットストリームとして、例えば、後段の図示せぬ記録装置（記録媒体）や伝送路などに出力する。つまり、符号化された各種情報が復号側に供給される。
【００４８】
また、量子化部１０５において量子化された変換係数は、逆量子化部１０８にも供給される。逆量子化部１０８は、その量子化された変換係数を、量子化部１０５による量子化に対応する方法で逆量子化する。この逆量子化の方法は、量子化部１０５による量子化処理に対応する方法であればどのような方法であってもよい。逆量子化部１０８は、得られた変換係数を、逆直交変換部１０９に供給する。
【００４９】
逆直交変換部１０９は、逆量子化部１０８から供給された変換係数を、直交変換部１０４による直交変換処理に対応する方法で逆直交変換する。この逆直交変換の方法は、直交変換部１０４による直交変換処理に対応する方法であればどのようなものであってもよい。逆直交変換された出力（局所的に復元された差分情報）は、演算部１１０に供給される。
【００５０】
演算部１１０は、逆直交変換部１０９から供給された逆直交変換結果、すなわち、局所的に復元された差分情報に、予測画像選択部１１６を介してイントラ予測部１１４若しくは動き予測・補償部１１５から供給される予測画像を加算し、局所的に再構成された画像（以下、再構成画像と称する）を得る。その再構成画像は、ループフィルタ１１１またはフレームメモリ１１２に供給される。
【００５１】
ループフィルタ１１１は、デブロックフィルタや適応ループフィルタ等を含み、演算部１１０から供給される復号画像に対して適宜フィルタ処理を行う。例えば、ループフィルタ１１１は、復号画像に対してデブロックフィルタ処理を行うことにより復号画像のブロック歪を除去する。また、例えば、ループフィルタ１１１は、そのデブロックフィルタ処理結果（ブロック歪みの除去が行われた復号画像）に対して、ウィナーフィルタ（Wiener Filter）を用いてループフィルタ処理を行うことにより画質改善を行う。
【００５２】
なお、ループフィルタ１１１が、復号画像に対して任意のフィルタ処理を行うようにしてもよい。また、ループフィルタ１１１は、必要に応じて、フィルタ処理に用いたフィルタ係数等の情報を可逆符号化部１０６に供給し、それを符号化させるようにすることもできる。
【００５３】
ループフィルタ１１１は、フィルタ処理結果（以下、復号画像と称する）をフレームメモリ１１２に供給する。
【００５４】
フレームメモリ１１２は、演算部１１０から供給される再構成画像と、ループフィルタ１１１から供給される復号画像とをそれぞれ記憶する。フレームメモリ１１２は、所定のタイミングにおいて、若しくは、イントラ予測部１１４等の外部からの要求に基づいて、記憶している再構成画像を、選択部１１３を介して、イントラ予測部１１４に供給する。また、フレームメモリ１１２は、所定のタイミングにおいて、若しくは、動き予測・補償部１１５等の外部からの要求に基づいて、記憶している復号画像を、選択部１１３を介して、動き予測・補償部１１５に供給する。
【００５５】
選択部１１３は、フレームメモリ１１２から出力される画像の供給先を示す。例えば、イントラ予測の場合、選択部１１３は、フレームメモリ１１２からフィルタ処理されていない画像（再構成画像）を読み出し、周辺画素として、イントラ予測部１１４に供給する。
【００５６】
また、例えば、インター予測の場合、選択部１１３は、フレームメモリ１１２からフィルタ処理された画像（復号画像）を読み出し、参照画像として、それを動き予測・補償部１１５に供給する。
【００５７】
イントラ予測部１１４は、フレームメモリ１１２から、処理対象領域の周辺に位置する周辺領域の画像（周辺画像）を取得すると、その周辺画像の画素値を用いて、基本的にプレディクションユニット（PU）を処理単位として予測画像を生成するイントラ予測（画面内予測）を行う。イントラ予測部１１４は、予め用意された複数のモード（イントラ予測モード）でこのイントラ予測を行う。
【００５８】
イントラ予測部１１４は、候補となる全てのイントラ予測モードで予測画像を生成し、画面並べ替えバッファ１０２から供給される入力画像を用いて各予測画像のコスト関数値を評価し、最適なモードを選択する。イントラ予測部１１４は、最適なイントラ予測モードを選択すると、その最適なモードで生成された予測画像を、予測画像選択部１１６に供給する。
【００５９】
また、イントラ予測部１１４は、最適なイントラ予測モード等、イントラ予測に関する情報を含むイントラ予測情報を、適宜可逆符号化部１０６に供給し、符号化させる。
【００６０】
動き予測・補償部１１５は、画面並べ替えバッファ１０２から供給される入力画像と、フレームメモリ１１２から供給される参照画像とを用いて、基本的にPUを処理単位として、動き予測（インター予測）を行い、検出された動きベクトルに応じて動き補償処理を行い、予測画像（インター予測画像情報）を生成する。動き予測・補償部１１５は、予め用意された複数のモード（インター予測モード）でこのようなインター予測を行う。
【００６１】
動き予測・補償部１１５は、候補となる全てのインター予測モードで予測画像を生成し、各予測画像のコスト関数値を評価し、最適なモードを選択する。動き予測・補償部１１５は、最適なインター予測モードを選択すると、その最適なモードで生成された予測画像を、予測画像選択部１１６に供給する。
【００６２】
また、動き予測・補償部１１５は、最適なインター予測モード等、インター予測に関する情報を含むインター予測情報を可逆符号化部１０６に供給し、符号化させる。また、動き予測・補償部１１５は、最適な予測モードとしてインター予測が選択されると、その最適なインター予測モードの情報をイントラ予測部１１４に通知する。
【００６３】
予測画像選択部１１６は、演算部１０３や演算部１１０に供給する予測画像の供給元を選択する。例えば、イントラ符号化の場合、予測画像選択部１１６は、予測画像の供給元としてイントラ予測部１１４を選択し、そのイントラ予測部１１４から供給される予測画像を演算部１０３や演算部１１０に供給する。また、例えば、インター符号化の場合、予測画像選択部１１６は、予測画像の供給元として動き予測・補償部１１５を選択し、その動き予測・補償部１１５から供給される予測画像を演算部１０３や演算部１１０に供給する。
【００６４】
レート制御部１１７は、蓄積バッファ１０７に蓄積された符号化データの符号量に基づいて、オーバーフローあるいはアンダーフローが発生しないように、量子化部１０５の量子化動作のレートを制御する。
【００６５】
制約付きイントラ予測部１２１は、constrained_intra_pred_flag＝１の場合のイントラ予測（制約付きイントラ予測）のための周辺画素の補間に関する処理を行う。
【００６６】
［コーディングユニット］
ここで、HEVC符号化方式について説明する。まず、HEVC符号化方式において定められている、コーディングユニット（Coding Unit）について説明する。
【００６７】
Coding Unit（CU）は、Coding Tree Block（CTB）とも呼ばれ、AVCにおけるマクロブロックと同様の役割を果たす、ピクチャ単位の画像の部分領域である。後者は、１６×１６画素の大きさに固定されているのに対し、前者の大きさは固定されておらず、それぞれのシーケンスにおいて、画像圧縮情報中において指定されることになる。
【００６８】
特に、最大の大きさを持つCUを、LCU（Largest Coding Unit）と呼び、また、最小の大きさを持つCUをSCU（Smallest Coding Unit）と称する。例えば画像圧縮情報に含まれるシーケンスパラメータセットにおいて、これらの領域のサイズが指定されることになるが、それぞれ、正方形で、２の冪乗で表される大きさに限定される。
【００６９】
図２に、HEVCで定義されているコーディングユニット（Coding Unit）の例を示す。図２の例では、LCUの大きさが１２８であり、最大階層深度が５となる。２Ｎ×２Ｎの大きさのCUは、split_flagの値が「１」である時、１つ下の階層となる、Ｎ×Ｎの大きさのCUに分割される。
【００７０】
更に、CUは、イントラ若しくはインター予測の処理単位となる領域（ピクチャ単位の画像の部分領域）であるプレディクションユニット（Prediction Unit（PU））に分割され、また、直交変換の処理単位となる領域（ピクチャ単位の画像の部分領域）である、トランスフォームユニット（Transform Unit（TU））に分割される。
【００７１】
なお、以下において、「領域」には、各種領域（例えば、AVCのマクロブロックやサブマクロブロック、LCU、CU、SCU、PU、およびTU等）を全て含む（それらのいずれであってもよい）。もちろん、上述した以外の単位が含まれてもよいし、説明の内容に応じて不可能な単位は、適宜、除外するものとする。
【００７２】
［HEVCイントラ予測方式］
次に、HEVCにおいて定められているイントラ予測方式について説明する。
【００７３】
HEVCにおいては、イントラ予測のためのPUの単位は、４×４、８×８、１６×１６、３２×３２若しくは６４×６４である。
【００７４】
４×４の大きさに関しては、AVCと同様のイントラ予測処理が行われる。
【００７５】
８×８の大きさに関しては、後述する、Angular Predictionと呼ばれる方式に基づいてイントラ予測処理が行われる。
【００７６】
１６×１６及び３２×３２及び６４×６４の大きさに関しては、後述するArbitrary Directional Intra（ADI）と呼ばれる方式に基づいて、イントラ予測処理が行われる。
【００７７】
更に、イントラ予測を行うに先立ち、符号化効率を向上させる場合には、係数（1,2,1）によるローパスフィルタ処理が、周辺画素値に施される。施す・施さないに関する情報が、それぞれのPU毎に、画像圧縮情報中に伝送されることになる。
【００７８】
以下では、HEVC符号化方式において規定されている、Angular Predictionイントラ予測方式について述べる。
【００７９】
［Angular Predictionイントラ予測方式］
図３に、Angular Predictionイントラ予測方式を説明するための図を示す。
【００８０】
すなわち、Angular Predictionにおいては、図３Ａに示されるような角度のイントラ予測処理を行うことが可能である。
【００８１】
また、図３Ａのような角度のイントラ予測を行うためには、図３Ｂに示されるように、周辺画素の間の画素値を用いる必要が生じるが、このため、Angular Predictionにおいては、１／８画素精度の線形内挿処理を行うことが可能となっている。
【００８２】
［Arbitrary Directional Intra（ADI）イントラ予測方式］
次に、HEVC符号化方式において規定されている、Arbitrary Directional Intra（ADI）イントラ予測方式について述べる。
【００８３】
図４に、Arbitrary Directional Intra（ADI）イントラ予測方式を説明するための図を示す。
【００８４】
Arbitrary Directional Intra（ADI）イントラ予測方式においては、図４Ａに示されるように、左下に位置する隣接画素値も用いられる。
【００８５】
AVC符号化方式の場合と同様に、Vertical，Horizontal，DC，Diagonal Down-Left，Diagonal Down-Right，Vertical-Right，Horizontal-Down，Vertical-Left、およびHorizontal-Upの各予測モードが定義されているが、その他のモードに関しては、図４Ｂに示されるように、（dx,dy）を符号化情報として画像圧縮情報中に伝送される。
【００８６】
［制約付きイントラ予測］
ところで、例えばAVCやHEVCにおいては、インターピクチャにおいて、インター予測により再構成された画素からのイントラ予測を禁止するモード（制約付きイントラ予測）が用意されている。このモードは、インター予測の画像、若しくは、インター予測で参照する画像にエラー混入していた場合においても、そのエラーのイントラ予測への影響を抑制するためのモードである。
【００８７】
例えば、シンタックスのピクチャパラメータ中にconstrained_intra_pred_flagが設けられ、その値が、「１」の場合、上述したような制約付きイントラ予測が採用される。
【００８８】
ところが、HEVCの場合、１つのLCU内に、インター予測を行うCUとイントラ予測を行うCUを混在させることが可能である。
【００８９】
このような場合、constrained_intra_pred_flag＝１である（制約付きイントラ予測）とすると、予測において多くの周辺画素が参照できなくなる可能性が高い。その結果、利用できる予測モードの数が大幅に抑制され、符号化効率が低減する可能性がある。
【００９０】
図５を参照して、具体的に説明する。図５に示されるように、イントラ予測の処理対象の当該領域CU（CU#n）が１６×１６画素であるとする。図５には、この当該領域CU#nについて、イントラ予測するために必要な周辺の隣接画素と、その隣接画素が含まれる周辺CUでのインター予測・イントラ予測の状態の例が図示してある。
【００９１】
周辺CUの内、Ａ、Ｂ、Ｄ、Ｅ、Ｆ、Ｈ、およびＩがインター予測されたＣＵであり、Ｃ、Ｇ、Ｊ、およびＫがイントラ予測されたＣＵである。
【００９２】
図５に示されるように、処理対象の当該領域CU#nの周辺隣接画素はインター予測された画素とイントラ予測された画素が混在している。このため、制約付きイントラ予測（constrained_intra_pred_flag＝１）の場合、利用可能なイントラ予測モードがＤＣ（平均値）予測モードのみになってしまう。しかも既存の規格では周辺画素が利用できないために画素値を固定の１２８で予測することになる。
【００９３】
このようにHEVCのインターピクチャにおけるイントラ予測において、インター予測によって再構成された画素をイントラ予測で利用しないモード（constrained_intra_pred_flag＝１）の場合、周辺のすべての画素が利用可能でないために、利用できるイントラ予測モードが大幅に制限されてしまう可能性があった。
【００９４】
特にHEVCのIntra Angular Predictionではイントラ予測の予測方向が３３方向とAVC等における従来のイントラ予測に比べて細かく設定することにより符号化効率の向上を目指しているため、上述の制限は符号化効率の大幅な低下を招くことになる可能性があった。
【００９５】
これに対して、インターピクチャでの制約付きイントラ予測において、図５のような周辺画素の構成になっていた場合に、以下の式でインター予測から構成される周辺画素値を計算する方法が、非特許文献２に開示されている。
【００９６】
例えば、
PT：インター予測から構成される周辺画素領域
PRA：PTの右もしくは上に隣接するイントラ予測から構成される画素
PLD：PTの左もしくは下に隣接するイントラ予測から構成される画素
とする。
【００９７】
領域PTの左右もしくは上下両方に隣接するイントラ予測から構成される画素が存在する場合、以下の式（１）のように、インター予測画素から構成される周辺画素をイントラ予測から構成される画素から計算し、周辺画素をすべて利用可能な状態にしてイントラ予測を行う。
【００９８】
PT＝（PRA＋PLD＋1） >> 1  ・・・（１）
【００９９】
また、左右もしくは上下のうち一方に隣接するイントラ予測から構成される画素しか存在しない場合、以下の式（２）のように、インター予測画素から構成される周辺画素をイントラ予測から構成される画素から計算し、周辺画素をすべて利用可能な状態にしてイントラ予測を行う。
【０１００】
PT＝PRA          若しくは  PT＝PLD  ・・・（２）
【０１０１】
しかしながら、この方法の場合、画素の位置に寄らず、同一の値を用いるため、置き換えられる値が置き換える前の値と大きく異なってしまう可能性がある。特に、PTの領域が大きい場合、その誤差はより顕著になる可能性が高くなる。
【０１０２】
このため、効率の良いイントラ予測処理が行えず、特に、グラデーションのようにブロック内において画素値の変化がある入力信号に対して、十分な符号化効率を達成できない恐れがあった。
【０１０３】
そこで、画像符号化装置１００は、画素の位置に応じた補間処理を行う。
【０１０４】
なお、このconstrained_intra_pred_flagは、シーケンスパラメータセットやピクチャパラメータセットに含められて、ビットストリームとして復号側に伝送される。
【０１０５】
［制約付きイントラ予測部等］
図６は、制約付きイントラ予測部等の主な構成例を示すブロック図である。
【０１０６】
図６に示されるように、イントラ予測部１１４は、候補予測画像生成部１３１、コスト関数値算出部１３２、予測モード判定部１３３、予測画像生成部１３４、およびモードバッファ１３５を有する。
【０１０７】
また、制約付きイントラ予測部１２１は、フラグ判定部１４１、利用可否判定部１４２、および補間画素生成部１４３を有する。
【０１０８】
フラグ判定部１４１は、constrained_intra_pred_flagの値を判定し、処理対象である当該領域に対して、制約付きイントラ予測を行うか、通常のイントラ予測（インター予測により再構成された画素からのイントラ予測も許可するモード）を行うかを決定し、どちらのイントラ予測を行うかを指示する制御指示を、候補予測画像生成部１３１、利用可否判定部１４２、および補間画素生成部１４３に供給する。
【０１０９】
候補予測画像生成部１３１は、当該領域の周辺に位置する周辺領域の画素値である周辺画素値をフレームメモリ１１２から取得する。
【０１１０】
候補予測画像生成部１３１は、フラグ判定部１４１から供給された制御指示により通常のイントラ予測が指定される場合、そのフレームメモリ１１２から取得した周辺画素値を用いて、各イントラ予測モードで、予測画像（候補予測画像）を生成し、その画素値（候補予測画像画素値）をコスト関数値算出部１３２に供給する。
【０１１１】
これに対して、フラグ判定部１４１から供給された制御指示により制約付きイントラ予測が指定される場合、候補予測画像生成部１３１は、フレームメモリ１１２から取得した周辺画素値の内、補間画素生成部１４３により画素の補間に使用される周辺画素値を、補間画素生成部１４３に供給する。
【０１１２】
そして、候補予測画像生成部１３１は、その補間された画素の画素値（補間画素値）を補間画素生成部１４３から取得する。候補予測画像生成部１３１は、フレームメモリ１１２から取得した周辺画素値と、その補間画素値とを用いて、各イントラ予測モードで、予測画像（候補予測画像）を生成し、その画素値（候補予測画像画素値）をコスト関数値算出部１３２に供給する。
【０１１３】
コスト関数値算出部１３２は、画面並べ替えバッファ１０２から入力画像の画素値（入力画像画素値）を取得し、その入力画像画素値と候補予測画像画素値とを用いて、AVCやHEVC等の場合と同様の方法で各モードのコスト関数値を算出する。コスト関数値算出部１３２は、算出したコスト関数値を予測モード判定部１３３に供給する。
【０１１４】
予測モード判定部１３３は、供給されたコスト関数値の大きさに基づいて、最適なイントラ予測モードを判定し、その判定結果（最適イントラモード）を予測画像生成部１３４に通知する。
【０１１５】
予測画像生成部１３４は、予測モード判定部１３３から通知された最適なイントラ予測モード（最適イントラモード）で予測画像を生成する。
【０１１６】
例えば、通常のイントラ予測の場合、予測画像生成部１３４は、フレームメモリ１１２から当該領域の周辺画素値を取得し、その周辺画素値を用いて予測画像を生成する。
【０１１７】
また、例えば、制約付きイントラ予測の場合、予測画像生成部１３４は、フレームメモリ１１２から当該領域の周辺画素値を取得するとともに、補間画素生成部１４３から補間画素値を取得し、それらを用いて予測画像を生成する。
【０１１８】
また、予測画像生成部１３４は、生成した予測画像の画素値（予測画像画素値）を予測画像選択部１１６に供給する。予測画像選択部１１６において最適な予測モードとしてイントラ予測が選択された場合、その予測画像が演算部１０３や演算部１１０に供給され、差分画像や再構築画像の生成に用いられる。また、その場合、予測画像生成部１３４は、最適イントラモードとした予測モード（予測画像の予測モード）を示す情報であるイントラモード情報を可逆符号化部１０６に供給し、符号化側に伝送させる。さらに、その場合、予測画像生成部１３４は、最適イントラモードとした予測モード（予測画像の予測モード）をモードバッファ１３５に供給する。
【０１１９】
モードバッファ１３５は、予測画像選択部１１６において選択された最適な予測モードの情報を記憶する。つまり、モードバッファ１３５は、予測画像生成部１３４から供給される最適なイントラ予測モードに関する情報、若しくは、動き予測・補償部１１５から供給される最適なインター予測モードに関する情報を取得し、記憶する。
【０１２０】
モードバッファ１３５は、所定のタイミングにおいて、若しくは、外部からの要求に基づいて、記憶している予測モードを周辺領域予測モードとして利用可否判定部１４２に供給する。つまり、当該領域の予測モードが、その当該領域の予測モードより後に処理される領域に対する制約付きイントラ予測において、周辺領域予測モードとして利用される。
【０１２１】
フラグ判定部１４１により制約付きイントラ予測を行うと判定された場合、利用可否判定部１４２は、モードバッファ１３５から周辺領域予測モードを取得し、周辺画素が利用可能か否かを判定する。すなわち、利用可否判定部１４２は、当該領域の各周辺画素について、インター予測により生成された周辺画素を利用不可と判定し、イントラ予測により生成された周辺画素を利用可と判定する。利用可否判定部１４２は、その判定結果を補間画素生成部１４３に通知する。
【０１２２】
フラグ判定部１４１により制約付きイントラ予測を行うと判定された場合、補間画素生成部１４３は、利用可否判定部１４２から供給される判定結果を取得する。そして、補間画素生成部１４３は、利用不可の画素（すなわち、インター予測された画素）について、補間処理を行う。つまり、補間画素生成部１４３は、利用不可の画素の補間に必要な周辺画素値を、候補予測画像生成部１３１から取得し、その周辺画素値を用いて補間処理を行う。
【０１２３】
その際、補間画素生成部１４３は、補間する画素の位置に応じた補間画素値を生成する。補間画素生成部１４３は、補間により生成した画素値（補間画素値）を候補予測画像生成部１３１および予測画像生成部１３４に供給する。
【０１２４】
［補間処理］
次に、補間画素生成部１４３による補間処理の詳細について説明する。
【０１２５】
上述したように、従来の方法の場合、垂直方向若しくは水平方向に連続する利用不可の周辺画素群の各画素に対して同一の値による画素の補間が行われていた。このため、効率の良いイントラ予測処理が行えず、特に、グラデーションのようにブロック内において画素値の変化がある入力信号に対して、十分な符号化効率を達成することが困難であった。
【０１２６】
これに対して補間画素生成部１４３は、図７に示されるように、画素の位置に応じた補間処理を行う。図７において、画素qおよび画素rを、イントラ予測により生成された利用可能（available）な領域に属する周辺画素とする。また、画素ｐを補間対象の画素とする。つまり、画素ｐは、補間により生成されるべき画素（すなわち、インター予測により生成された利用不可能（not available）な領域に属する周辺画素）である。なお、以下において、画素ｑの画素値を画素値ｑと称する。また、画素ｒの画素値を画素値ｒと称する。さらに、画素ｐの補間画素値を補間画素値ｐと称する。
【０１２７】
図７に示されるように、画素ｐを含む利用不可能な画素が連続する部分（画素列）は、画素ｑと画素ｒに挟まれている。すなわち、画素ｑおよび画素ｒは、利用不可能（not available）な領域に隣接する利用可能（available）な領域の、当該領域と、その利用不可能（not available）な領域との両方に隣接する画素である。
【０１２８】
また、図７に示されるように、距離t1は、画素ｑと画素ｐとの間の距離である。距離t2は、画素ｒと画素ｐとの間の距離である。つまり、距離t1および距離t2は、補間対象の画素と、その補間対象の画素の両側の、その補間対象の画素に最も近い、利用可能（available）な領域に属する画素との間の距離である。
【０１２９】
補間画素生成部１４３は、以下の式（３）を用いて、画素ｐの位置に応じた値の補間画素値pを算出する。
【０１３０】
p= (t2*q + t1*r) / (t1+t2)  ・・・（３）
【０１３１】
なお、図７においては、水平方向について示されているが、補間画素生成部１４３は、垂直方向の場合も同様に補間する。例えば、図５の、インター予測されたＨやＩ等の領域の周辺画素についても、式（３）を用いて補間画素値を算出する。
【０１３２】
つまり、補間画素生成部１４３は、制約付きイントラ予測において、予測に利用される周辺画素であって、水平方向若しくは垂直方向に、利用可能な周辺画素に挟まれる１つ若しくは連続する複数の利用不可能な周辺画素に対して、その位置に応じた値の補間画素値を生成する。
【０１３３】
より具体的には、補間画素生成部１４３は、式（３）に示されるように、利用可能な周辺画素との距離に応じた値の補間画素値を生成する。
【０１３４】
以上のように、補間画素生成部１４３は、補間する画素の位置に応じた補間画素値を生成する。このようにすることにより、補間画素生成部１４３は、例えばグラデーション等のような画素値が変化する部分の画素を補間する場合も、その変化を、上述した従来の補間方法の場合よりも正しく再現することができる。
【０１３５】
なお、式（３）の演算を除算ではなくシフト演算で実現することができるように、式（３）の分母(t1+t2)の代わりに、２のべき乗（2n）の近似値を用いるようにしてもよい。
【０１３６】
水平方向若しくは垂直方向に連続するインター予測された周辺領域の合計サイズは、２のべき乗にならない場合があり、その場合、式（３）の演算において除算が必要になり、負荷が増大する可能性がある。
【０１３７】
そこで、式（３）の分母に２のべき乗の近似値、すなわち、t1+t2の値に最も近い２のべき乗の値を、t1+t2の代わりに用いるようにする。このようにすることにより、式（３）の割り算をシフト演算により実現することができるので、負荷の増大を抑制することができる。
【０１３８】
さらに、以上においては、補間対象の画素をその両側の利用可能な１画素（合計２画素）を用いて補間するように説明したが、これに限らず、例えば、両側の２画素以上（合計４画素以上）を用いて補間するようにしてもよい。また、その際、図７に示されるような補間対象の画素群の画素値（補間画素値）を、上述した式（３）を用いた場合のように、その画素の位置に応じて直線的に変化させるようにしてもよいし、上述した式（３）とは異なるｎ次関数を用いてｎ次曲線的に変化させるようにしてもよい。
【０１３９】
また、補間に用いる画素は、イントラ予測された領域の、当該領域とインター予測された領域に隣接する画素であるように説明したが、これに限らない。しかしながら、できるだけ補間対象の画素に近い位置の画素を用いる方が望ましい。
【０１４０】
また、従来の方法の場合、片側のみの画素値が利用可（available）であるときは、式（２）を用いて補間されていた。しかしながら、当該領域の左上の画素について、このような補間処理を行うと、符号化効率を低減させる恐れがあった。
【０１４１】
そこで、補間画素生成部１４３は、当該領域の左上の画素について、以下のように補間処理を行う。
【０１４２】
図８において、例えば、画素pが、当該領域CU#nの左上の周辺画素であり、インター予測により生成された利用不可能（not available）な領域に属する周辺画素である場合、その画素pの左に隣接する画素qの画素値（画素値ｑ）、若しくは、画素pの下に隣接する画素ｒの画素値（画素値ｒ）を補間画素値ｐとする。
【０１４３】
画素ｑがイントラ予測により生成された利用可能（available）な領域に属する周辺画素である場合、補間画素生成部１４３は、画素ｑの画素値（画素値ｑ）を補間画素値ｐとする。また、画素ｑがインター予測により生成された利用不可能（not available）な領域に属する周辺画素であり、画素ｒがイントラ予測により生成された利用可能（available）な領域に属する周辺画素である場合、補間画素生成部１４３は、画素ｑの画素値（画素値ｑ）を補間画素値ｐとする。さらに、画素ｑおよび画素ｒがともにインター予測により生成された利用不可能（not available）な領域に属する周辺画素である場合、補間画素生成部１４３は、補間画素値ｐの生成（当該領域の左上の周辺画素ｐの補間処理）を省略する。
【０１４４】
このように、補間画素生成部１４３は、当該領域の左上の周辺画素については、水平方向だけでなく、垂直方向の隣接画素も用いて補間処理を行う。つまり、補間画素生成部１４３は、当該領域の左上の周辺画素の補間処理を、上述した他の周辺画素とは異なる方法で行い、補間する画素の位置に応じた補間画素値を生成する。
【０１４５】
このようにすることにより、補間画素生成部１４３は、当該領域左上の周辺画素を、その周辺画素により近い画素によって補間することができる。したがって、補間画素生成部１４３は、上述した従来の補間方法の場合よりも正しい補間結果を得ることができる。
【０１４６】
なお、画素ｑおよび画素ｒがともにインター予測により生成された利用不可能（not available）な領域に属する周辺画素である場合、補間画素生成部１４３は、補間画素値ｐを、その２画素以外の任意の画素を用いて生成するようにしてもよい。
【０１４７】
つまり、補間画素値の正しさに拘らず、当該領域の左上の周辺画素に、利用可能な画素値を用意することを優先させるようにしてもよい。このように、当該領域の左上の周辺画素を利用可能とすることにより、その他の画素の画素値を補間する際に、必ず、その両側の画素値を用いて補間を行うことができるようになる。したがって、例えばグラデーションのような画素値が変化する部分の画素を補間する場合、片側の画素を用いて補間を行う場合よりも正しい補間結果を得ることができる。なお、その場合も、できるだけ補間対象の画素に近い位置の画素を用いるようにするのが望ましい。
【０１４８】
以上のように、制約付きイントラ予測を行うことにより、イントラ予測部１１４は、より正しい補間結果を用いて制約付きイントラ予測を行うことができるので、イントラ予測の予測精度を向上させることができる。したがって、画像符号化装置１００は、符号化効率を向上させることができる。
【０１４９】
［符号化処理の流れ］
次に、以上のような画像符号化装置１００により実行される各処理の流れについて説明する。最初に、図９のフローチャートを参照して、符号化処理の流れの例を説明する。
【０１５０】
ステップＳ１０１において、A/D変換部１０１は入力された画像をA/D変換する。ステップＳ１０２において、画面並べ替えバッファ１０２は、A/D変換された画像を記憶し、各ピクチャの表示する順番から符号化する順番への並べ替えを行う。
【０１５１】
ステップＳ１０３において、イントラ予測部１１４は、イントラ予測処理を行う。ステップＳ１０４において、動き予測・補償部１１５は、インター動き予測処理を行う。ステップＳ１０５において、予測画像選択部１１６は、イントラ予測により生成された予測画像、および、インター予測により生成された予測画像の内、いずれか一方を選択する。なお、この選択結果（最適予測モードを示す情報）は、モードバッファ１３５に記憶される。
【０１５２】
ステップＳ１０６において、演算部１０３は、ステップＳ１０３の処理により並び替えられた画像と、ステップＳ１０５の処理により選択された予測画像との差分を演算する（差分画像を生成する）。生成された差分画像は元の画像に較べてデータ量が低減される。したがって、画像をそのまま符号化する場合に比べて、データ量を圧縮することができる。
【０１５３】
ステップＳ１０７において、直交変換部１０４は、ステップＳ１０６の処理により生成された差分画像を直交変換する。具体的には、離散コサイン変換、カルーネン・レーベ変換等の直交変換が行われ、直交変換係数が出力される。ステップＳ１０８において、量子化部１０５は、ステップＳ１０７の処理により得られた直交変換係数を量子化する。
【０１５４】
ステップＳ１０８の処理により量子化された差分画像は、次のようにして局部的に復号される。すなわち、ステップＳ１０９において、逆量子化部１０８は、ステップＳ１０８の量子化処理により生成された量子化された直交変換係数（量子化係数とも称する）を逆量子化する。ステップＳ１１０において、逆直交変換部１０９は、ステップＳ１０９の逆量子化処理により得られた直交変換係数を、直交変換部１０４の特性に対応する特性で逆直交変換する。これにより差分画像が復元される。
【０１５５】
ステップＳ１１１において、演算部１１０は、ステップＳ１０５において選択された予測画像を、ステップＳ１１０において生成された差分画像に加算し、局部的に復号された復号画像（再構成画像）を生成する。ステップＳ１１２において、ループフィルタ１１１は、ステップＳ１１１の処理により得られた再構成画像に対して、デブロックフィルタ処理や適応ループフィルタ処理等を含むループフィルタ処理を適宜行い、復号画像を生成する。
【０１５６】
ステップＳ１１３において、フレームメモリ１１２は、ステップＳ１１２の処理により生成された復号画像、若しくは、ステップＳ１１１の処理により生成された再構成画像を記憶する。
【０１５７】
ステップＳ１１４において、可逆符号化部１０６は、ステップＳ１０７の処理により量子化された直交変換係数を符号化する。すなわち、差分画像に対して、可変長符号化や算術符号化等の可逆符号化が行われる。なお、可逆符号化部１０６は、予測に関する情報や、量子化に関する情報や、フィルタ処理に関する情報等を符号化し、ビットストリームに付加する。
【０１５８】
ステップＳ１１５において、蓄積バッファ１０７は、ステップＳ１１４の処理により得られたビットストリームを蓄積する。蓄積バッファ１０７に蓄積された符号化データは、適宜読み出され、伝送路や記録媒体を介して復号側に伝送される。
【０１５９】
ステップＳ１１６においてレート制御部１１７は、ステップＳ１１５の処理により蓄積バッファ１０７に蓄積された符号化データの符号量（発生符号量）に基づいて、オーバーフローあるいはアンダーフローが発生しないように、量子化部１０５の量子化動作のレートを制御する。
【０１６０】
ステップＳ１１６の処理が終了すると、符号化処理が終了される。
【０１６１】
［イントラ予測処理の流れ］
次に、図１０のフローチャートを参照して、イントラ予測処理の流れの例を説明する。イントラ予測処理が開始されると、ステップＳ１３１において、フラグ判定部１４１は、制約付きイントラ予測を行うか否かを判定する。constrained_intra_pred_flag＝１であり、制約付きイントラ予測を行うと判定された場合、フラグ判定部１４１は、処理をステップＳ１３２に進める。
【０１６２】
ステップＳ１３２において、利用可否判定部１４２は、周辺領域予測モードをモードバッファ１３５から取得し、その情報に基づいて、当該領域の左上の周辺画素の画素値は、利用可能であるか否かを判定する。利用可能でないと判定した場合、利用可否判定部１４２は、処理をステップＳ１３３に進める。
【０１６３】
ステップＳ１３３において、利用可否判定部１４２は、モードバッファ１３５から取得した周辺領域予測モードに基づいて、当該領域の左上の周辺画素の代替えとなる画素（例えば、当該領域の左上の周辺画素の右若しくは下の画素）の画素値は利用可能であるか否かを判定する。代替えとなる画素が利用可能であると判定された場合、利用可否判定部１４２は、処理をステップＳ１３４に進める。
【０１６４】
ステップＳ１３４において、補間画素生成部１４３は、左上の画素の画素値を、図８を参照して説明したように、水平方向の周辺画素だけでなく垂直方向の周辺画素も候補として補間する。補間が終了すると、補間画素生成部１４３は、処理をステップＳ１３５に進める。
【０１６５】
また、ステップＳ１３３において、代替えとなる画素が利用不可能であると判定された場合、利用可否判定部１４２は、ステップＳ１３４の処理を省略し、ステップＳ１３５に処理を進める。
【０１６６】
また、ステップＳ１３２において、当該領域の左上の周辺画素の画素値が利用可能であると判定された場合、利用可否判定部１４２は、ステップＳ１３３およびステップＳ１３４の処理を省略し、ステップＳ１３５に処理を進める。
【０１６７】
ステップＳ１３５において、利用可否判定部１４２は、周辺領域予測モードに基づいて、当該領域の左上以外の周辺画素について、画素値を利用不可能な画素が存在するか否かを判定する。画素値を利用不可能な画素が存在すると判定された場合、利用可否判定部１４２は、処理をステップＳ１３６に進める。
【０１６８】
ステップＳ１３６において、補間画素生成部１４３は、利用不可能な画素の、その位置に応じた補間画素値を、図７を参照して上述したように生成する。補間が終了すると、補間画素生成部１４３は、処理をステップＳ１３７に進める。
【０１６９】
また、ステップＳ１３５において、画素値を利用不可能な画素が存在しないと判定された場合、利用可否判定部１４２は、ステップＳ１３６の処理を省略し、ステップＳ１３７に処理を進める。
【０１７０】
さらに、ステップＳ１３１において、制約付きイントラ予測を行わない（通常のイントラ予測を行う）と判定された場合、フラグ判定部１４１は、ステップＳ１３２乃至ステップＳ１３６の処理を省略し、ステップＳ１３７に処理を進める。
【０１７１】
ステップＳ１３７において、候補予測画像生成部１３１は、各モードで当該領域のイントラ予測を行う。ステップＳ１３８において、コスト関数値算出部１３２は、各モードのコスト関数値を算出する。ステップＳ１３９において、予測モード判定部１３３は、最適イントラ予測モードを決定する。ステップＳ１４０において、予測画像生成部１３４は、最適イントラ予測モードで予測画像を生成する。
【０１７２】
ステップＳ１４０の処理が終了すると、予測画像生成部１３４は、イントラ予測処理を終了し、処理を図９に戻す。
【０１７３】
以上のように各処理を行うことにより、画像符号化装置１００は、符号化効率を向上させることができる。
【０１７４】
＜２．第２の実施の形態＞
［画像復号装置］
次に、以上のように符号化された符号化データの復号について説明する。図１１は、図１の画像符号化装置１００に対応する画像処理装置である画像復号装置の主な構成例を示すブロック図である。
【０１７５】
図１１に示される画像復号装置２００は、画像符号化装置１００が生成した符号化データを、その符号化方法に対応する復号方法で復号する。
【０１７６】
図１１に示されるように画像復号装置２００は、蓄積バッファ２０１、可逆復号部２０２、逆量子化部２０３、逆直交変換部２０４、演算部２０５、ループフィルタ２０６、画面並べ替えバッファ２０７、およびD/A変換部２０８を有する。また、画像復号装置２００は、フレームメモリ２０９、選択部２１０、イントラ予測部２１１、動き予測・補償部２１２、および選択部２１３を有する。
【０１７７】
さらに、画像復号装置２００は、制約付きイントラ予測部２２１を有する。
【０１７８】
蓄積バッファ２０１は、伝送されてきた符号化データを蓄積し、所定のタイミングにおいてその符号化データを可逆復号部２０２に供給する。可逆復号部２０２は、蓄積バッファ２０１より供給された、図１の可逆符号化部１０６により符号化された情報を、可逆符号化部１０６の符号化方式に対応する方式で復号する。可逆復号部２０２は、復号して得られた差分画像の量子化された係数データを、逆量子化部２０３に供給する。
【０１７９】
また、可逆復号部２０２は、符号化データを復号して得られた最適な予測モードに関する情報を参照し、最適な予測モードにイントラ予測モードが選択されたかインター予測モードが選択されたかを判定する。つまり、可逆復号部２０２は、伝送されてきた符号化データにおいて採用された予測モードが、イントラ予測であるか、インター予測であるかを判定する。
【０１８０】
可逆復号部２０２は、その判定結果に基づいて、その予測モードに関する情報を、イントラ予測部２１１若しくは動き予測・補償部２１２に供給する。例えば、画像符号化装置１００において最適な予測モードとしてイントラ予測モードが選択された場合、可逆復号部２０２は、符号化側から供給された、その選択されたイントラ予測モードに関する情報であるイントラ予測情報をイントラ予測部２１１に供給する。また、例えば、画像符号化装置１００において最適な予測モードとしてインター予測モードが選択された場合、可逆復号部２０２は、符号化側から供給された、その選択されたインター予測モードに関する情報であるインター予測情報を動き予測・補償部２１２に供給する。
【０１８１】
逆量子化部２０３は、可逆復号部２０２により復号されて得られた量子化された係数データを逆量子化する。つまり、逆量子化部２０３は、図１の量子化部１０５の量子化方式に対応する方式で逆量子化を行う。逆量子化部２０３は、その逆量子化により得られた係数データを逆直交変換部２０４に供給する。
【０１８２】
逆直交変換部２０４は、図１の直交変換部１０４の直交変換方式に対応する方式で逆量子化部２０３から供給される係数データを逆直交変換する。逆直交変換部２０４は、この逆直交変換処理により、画像符号化装置１００において直交変換される前の差分画像に対応する差分画像を得る。
【０１８３】
逆直交変換されて得られた差分画像は、演算部２０５に供給される。また、演算部２０５には、選択部２１３を介して、イントラ予測部２１１若しくは動き予測・補償部２１２から予測画像が供給される。
【０１８４】
演算部２０５は、差分画像と予測画像とを加算し、画像符号化装置１００の演算部１０３により予測画像が減算される前の画像に対応する再構成画像を得る。演算部２０５は、その再構成画像をループフィルタ２０６に供給する。
【０１８５】
ループフィルタ２０６は、供給された再構成画像に対して、デブロックフィルタ処理や適応ループフィルタ処理等を含むループフィルタ処理を適宜施して復号画像を生成する。例えば、ループフィルタ２０６は、再構成画像に対してデブロックフィルタ処理を行うことにより、ブロック歪を除去する。また、例えば、ループフィルタ２０６は、そのデブロックフィルタ処理結果（ブロック歪みの除去が行われた再構成画像）に対して、ウィナーフィルタ（Wiener Filter）を用いてループフィルタ処理を行うことにより画質改善を行う。
【０１８６】
なお、ループフィルタ２０６が行うフィルタ処理の種類は任意であり、上述した以外のフィルタ処理を行ってもよい。また、ループフィルタ２０６が、図１の画像符号化装置１００から供給されたフィルタ係数を用いてフィルタ処理を行うようにしてもよい。
【０１８７】
ループフィルタ２０６は、フィルタ処理結果である復号画像を画面並べ替えバッファ２０７およびフレームメモリ２０９に供給する。なお、このループフィルタ２０６によるフィルタ処理は省略することもできる。つまり、演算部２０５の出力が、フィルタ処理されずに、フレームメモリ２０９に格納されるようにすることもできる。例えば、イントラ予測部２１１は、この画像に含まれる画素の画素値を周辺画素の画素値として利用する。
【０１８８】
画面並べ替えバッファ２０７は、供給された復号画像の並べ替えを行う。すなわち、図１の画面並べ替えバッファ１０２により符号化の順番のために並べ替えられたフレームの順番が、元の表示の順番に並べ替えられる。D/A変換部２０８は、画面並べ替えバッファ２０７から供給された復号画像をD/A変換し、図示せぬディスプレイに出力し、表示させる。
【０１８９】
フレームメモリ２０９は、供給される再構成画像や復号画像を記憶する。また、フレームメモリ２０９は、所定のタイミングにおいて、若しくは、イントラ予測部２１１や動き予測・補償部２１２等の外部の要求に基づいて、記憶している再構成画像や復号画像を、選択部２１０を介してイントラ予測部２１１や動き予測・補償部２１２に供給する。
【０１９０】
イントラ予測部２１１は、図１のイントラ予測部１１４と基本的に同様の処理を行う。ただし、イントラ予測部２１１は、符号化の際にイントラ予測により予測画像が生成された領域に対してのみ、イントラ予測を行う。
【０１９１】
動き予測・補償部２１２は、可逆復号部２０２から供給されるインター予測情報に基づいてインター動き予測処理を行い、予測画像を生成する。なお、動き予測・補償部２１２は、可逆復号部２０２から供給されるインター予測情報に基づいて、符号化の際にインター予測が行われた領域に対してのみ、インター動き予測処理を行う。
【０１９２】
イントラ予測部２１１若しくは動き予測・補償部２１２は、予測処理単位の領域毎に、生成した予測画像を、選択部２１３を介して演算部２０５に供給する。
【０１９３】
選択部２１３は、イントラ予測部２１１から供給される予測画像、若しくは、動き予測・補償部２１２から供給される予測画像を演算部２０５に供給する。
【０１９４】
制約付きイントラ予測部２２１は、制約付きイントラ予測部１２１と同様に、constrained_intra_pred_flag＝１の場合のイントラ予測（制約付きイントラ予測）のための周辺画素の補間に関する処理を行う。
【０１９５】
［制約付きイントラ予測部２２１等］
図１２は、制約付きイントラ予測等の主な構成例を示すブロック図である。
【０１９６】
図１２に示されるように、イントラ予測部２１１は、予測モード情報バッファ２３１、予測画像生成部２３２、および周辺モードバッファ２３３を有する。
【０１９７】
また、制約付きイントラ予測部２２１は、フラグ判定部２４１、利用可否判定部２４２、および補間画素生成部２４３を有する。
【０１９８】
予測モード情報バッファ２３１は、可逆復号部２０２においてビットストリームが復号されて得られたイントラモード情報を取得し、記憶する。予測モード情報バッファ２３１は、当該領域がイントラ予測モードの場合、所定のタイミングにおいて、若しくは、外部からの要求に従って、記憶している当該領域の予測モード（イントラ予測モード）を予測画像生成部２３２に供給する。
【０１９９】
フラグ判定部２４１は、フラグ判定部１４１と同様の処理を行う。すなわち、フラグ判定部２４１は、符号化側から伝送されたconstrained_intra_pred_flagの値を判定し、処理対象である当該領域に対して、制約付きイントラ予測を行うか、通常のイントラ予測（インター予測により再構成された画素からのイントラ予測も許可するモード）を行うかを決定する。なお、このconstrained_intra_pred_flagは、例えば、シーケンスパラメータセットやピクチャパラメータセット等に含められて符号化側（画像符号化装置１００）から伝送される。そして、そのconstrained_intra_pred_flagは、例えば、可逆復号部２０２において抽出され、フラグ判定部２４１に供給される。フラグ判定部２４１は、どちらのイントラ予測を行うかを指示する制御指示を、予測画像生成部２３２、利用可否判定部２４２、および補間画素生成部２４３に供給する。
【０２００】
予測画像生成部２３２は、フラグ判定部１４１から供給された制御指示により通常のイントラ予測が指定される場合、予測モード情報バッファ２３１から供給されるイントラ予測モードにおける周辺画素値を、フレームメモリ２０９から取得する。予測画像生成部２３２は、その周辺画素値を用いて、予測モード情報バッファ２３１から供給されるイントラ予測モードで予測画像を生成し、その画素値（予測画像画素値）を演算部２０５に供給する。
【０２０１】
これに対して、フラグ判定部２４１から供給された制御指示により制約付きイントラ予測が指定される場合、予測画像生成部２３２は、予測モード情報バッファ２３１から供給されるイントラ予測モードにおける周辺画素値を、フレームメモリ２０９から取得する。フラグ判定部２４１は、さらに、そのフレームメモリ２０９から取得した周辺画素値の内、補間画素生成部２４３により画素の補間に使用される周辺画素値を、補間画素生成部２４３に供給する。
【０２０２】
そして、予測画像生成部２３２は、その補間された画素の画素値（補間画素値）を補間画素生成部２４３から取得する。予測画像生成部２３２は、フレームメモリ２０９から取得した周辺画素値と、その補間画素値とを用いて、予測モード情報バッファ２３１から供給されるイントラ予測モードで、予測画像（候補予測画像）を生成し、その画素値（予測画像画素値）を演算部２０５に供給する。
【０２０３】
周辺モードバッファ２３３は、当該領域の予測モードの情報を記憶する。つまり、周辺モードバッファ２３３は、予測モード情報バッファ２３１から供給されるイントラ予測モードに関する情報、若しくは、動き予測・補償部２１２から供給される最適なインター予測モードに関する情報を取得し、記憶する。
【０２０４】
周辺モードバッファ２３３は、所定のタイミングにおいて、若しくは、外部からの要求に基づいて、記憶している予測モードを周辺領域予測モードとして利用可否判定部２４２に供給する。つまり、当該領域の予測モードが、その当該領域の予測モードより後に処理される領域に対する制約付きイントラ予測において、周辺領域予測モードとして利用される。
【０２０５】
フラグ判定部１４１により制約付きイントラ予測を行うと判定された場合、利用可否判定部２４２は、利用可否判定部１４２の場合と同様に、周辺モードバッファ２３３から周辺領域予測モードを取得し、周辺画素が利用可能か否かを判定する。利用可否判定部２４２は、その判定結果を補間画素生成部２４３に通知する。
【０２０６】
フラグ判定部１４１により制約付きイントラ予測を行うと判定された場合、補間画素生成部２４３は、補間画素生成部１４３の場合と同様に、利用可否判定部２４２から供給される判定結果に基づいて、利用不可の画素（すなわち、インター予測された画素）について、補間処理を行う。つまり、補間画素生成部２４３は、利用不可の画素の補間に必要な周辺画素値を、予測画像生成部２３２から取得し、その周辺画素値を用いて補間処理を行う。
【０２０７】
その際、補間画素生成部２４３は、補間画素生成部１４３の場合と同様に（図７および図８を参照して説明したように）、補間する画素の位置に応じた補間画素値を生成する。したがって、補間画素生成部２４３は、補間画素生成部１４３と同様の補間結果を得ることができ、イントラ予測部２１１は、イントラ予測部１１４と同様の予測を行うことができ、同様の予測画像を得ることができる。したがって、画像復号装置２００は、画像符号化装置１００において生成された符号化データを正しく復号することができ、符号化効率の向上を実現させることができる。
【０２０８】
［復号処理の流れ］
次に、以上のような画像復号装置２００により実行される各処理の流れについて説明する。最初に、図１３のフローチャートを参照して、復号処理の流れの例を説明する。
【０２０９】
復号処理が開始されると、ステップＳ２０１において、蓄積バッファ２０１は、伝送されてきたビットストリームを蓄積する。ステップＳ２０２において、可逆復号部２０２は、蓄積バッファ２０１から供給されるビットストリーム（符号化された差分画像情報）を復号する。このとき、予測モード情報に関する情報等、ビットストリームに含められた差分画像情報以外の各種情報も復号される。
【０２１０】
ステップＳ２０３において、逆量子化部２０３は、ステップＳ２０２の処理により得られた、量子化された直交変換係数を逆量子化する。ステップＳ２０４において逆直交変換部２０４は、ステップＳ２０３において逆量子化された直交変換係数を逆直交変換する。
【０２１１】
ステップＳ２０５において、イントラ予測部２１１若しくは動き予測・補償部２１２は、供給された情報を用いて予測処理を行う。ステップＳ２０６において、演算部２０５は、ステップＳ２０４において逆直交変換されて得られた差分画像情報に、ステップＳ２０５において生成された予測画像を加算する。これにより再構成画像が生成される。
【０２１２】
ステップＳ２０７において、ループフィルタ２０６は、ステップＳ２０６において得られた再構成画像に対して、デブロックフィルタ処理や適応ループフィルタ処理等を含むループフィルタ処理を適宜行う。
【０２１３】
ステップＳ２０８において、画面並べ替えバッファ２０７は、ステップＳ２０７においてフィルタ処理されて生成された復号画像の並べ替えを行う。すなわち画像符号化装置１００の画面並べ替えバッファ１０２により符号化のために並べ替えられたフレームの順序が、元の表示の順序に並べ替えられる。
【０２１４】
ステップＳ２０９において、D/A変換部２０８は、フレームの順序が並べ替えられた復号画像をD/A変換する。この復号画像が図示せぬディスプレイに出力され、表示される。
【０２１５】
ステップＳ２１０において、フレームメモリ２０９は、ステップＳ２０７においてフィルタ処理されて得られた復号画像を記憶する。この復号画像は、インター予測処理において参照画像として利用される。
【０２１６】
ステップＳ２１０の処理が終了すると、復号処理が終了される。
【０２１７】
［予測処理の流れ］
次に、図１４のフローチャートを参照して、図１３のステップＳ２０５において実行される予測処理の流れの例を説明する。
【０２１８】
予測処理が開始されると、可逆復号部２０２は、ステップＳ２２１において、当該領域がイントラ予測（イントラ符号化）が行われた領域であるか否かを判定する。当該領域が、イントラ予測が行われた領域であると判定された場合、可逆復号部２０２は、処理をステップＳ２３２に進める。
【０２１９】
この場合、イントラ予測部２１１および制約付きイントラ予測部２２１は、ステップＳ２２２において、イントラ予測処理を行う。予測画像が生成されると、イントラ予測部２１１は、予測処理を終了し、処理を図１３に戻す。
【０２２０】
また、ステップＳ２２１において、当該領域が、インター予測が行われた領域であると判定した場合、可逆復号部２０２は、処理をステップＳ２２３に進める。ステップＳ２２３において、動き予測・補償部２１２は、インター動き予測処理を行う。インター動き予測処理が終了すると、動き予測・補償部２１２は、予測処理を終了し、処理を図１３に戻す。
【０２２１】
［イントラ予測処理の流れ］
図１５のフローチャートを参照して、図１４のステップＳ２２２において実行されるイントラ予測処理の流れの例を説明する。
【０２２２】
イントラ予測処理が開始されると、ステップＳ２４１乃至ステップＳ２４６の各処理が、図１０のステップＳ１３１乃至ステップＳ１３６の各処理と同様に実行される。つまり、制約付きイントラ予測の画素補間に関する処理は、符号化の際と基本的に同様に行われる。
【０２２３】
ステップＳ２４７において、予測モード情報バッファ２３１は、ビットストリームより抽出されたイントラモード情報を取得する。ステップＳ２４８において、予測画像生成部２３２は、ステップＳ２４７において取得されたイントラモード情報において指定される予測モードで、フレームメモリ２０９から取得した周辺画素値や補間画素生成部２４３により生成された補間画素値を適宜用いて、予測画像を生成する。
【０２２４】
予測画像が生成されると、予測画像生成部２３２は、イントラ予測処理を終了する。
【０２２５】
以上のように各処理を行うことにより、画像復号装置２００は、画像符号化装置１００において生成された符号化データを正しく復号することができ、符号化効率の向上を実現させることができる。
【０２２６】
＜３．第１の実施の形態＞
［制約付きイントラ予測部の他の例］
上述した非特許文献２に記載の従来の補間方法と、上述した本技術の補間方法とを、当該領域の大きさに応じて切り替えるようにしも良い。例えば、当該領域が所定の閾値より小さい場合、本技術の補間方法を適用し、当該領域が所定の閾値より大きい場合、非特許文献２に記載の従来の補間方法を適用するようにする。
【０２２７】
テクスチャを含む画像は、より小さな領域が選択されやすい。換言するに、小さな領域の画像は、高周波成分を多く含む細かな画像である可能性が高い。そのため、小さな領域に対して、非特許文献２に記載の従来の方法を適用すると、画像の劣化が大きい。
【０２２８】
これに対して、テクスチャを含まない画像は、より大きな領域が選択されやすい。換言するに、大きな領域の画像は、高周波成分を多く含まない画像である可能性が高い。したがって、非特許文献２に記載の従来の方法を適用することでの劣化は小さい。
【０２２９】
したがって、小さな領域に対してのみ、本技術の補間方法を適用するようにしても符号化効率の向上を実現することができる。
【０２３０】
［制約付きイントラ予測部等］
図１６は、この場合の制約付きイントラ予測部等の主な構成例を示すブロック図である。
【０２３１】
図１６に示されるように、イントラ予測部１１４は、図６を参照して説明した場合と同様の構成を有する。また、制約付きイントラ予測部１２１は、図６を参照して説明した場合と基本的に同様の構成を有するが、フラグ判定部１４１の代わりに、フラグ・サイズ閾値判定部３４１を有する。
【０２３２】
フラグ・サイズ閾値判定部３４１は、constrained_intra_pred_flagの値を判定するだけでなく、所定の閾値を用いた当該領域のサイズ判定を行う。つまり、フラグ・サイズ閾値判定部３４１は、当該領域のサイズに応じて本技術を適用するか否かを制御する所定の閾値を予め記憶している。フラグ・サイズ閾値判定部３４１は、当該領域の大きさが、その閾値以下であるか否かを判定する。そして、フラグ・サイズ閾値判定部３４１は、それらの判定結果に基づいて、制約付きイントラ予測を行うか否か、行う場合、本技術の補間方法を適用するか否か等を指定する制御指示を、候補予測画像生成部１３１、利用可否判定部１４２、および補間画素生成部１４３に供給する。
【０２３３】
候補予測画像生成部１３１、利用可否判定部１４２、および補間画素生成部１４３は、その制御指示に基づいて、通常のイントラ予測を行うか、従来の補間方法を用いた制約付きイントラ予測を行うか、若しくは、本技術の補間方法を用いた制約付きイントラ予測を行うかを決定し、それぞれの処理を行う。
【０２３４】
このようにすることにより、大きな領域に対してのみ本技術の補間方法を適用し、その演算量を増大させ、補間処理の負荷を増大させることを抑制しながら、符号化効率を向上させることができる。
【０２３５】
なお、上述した閾値は、ビットストリームのシーケンスパラメータセット等任意の位置に含めて復号側に伝送されるようにしても良い。また、上述した閾値は、例えば画枠サイズ等、プロファイル・レベルに応じて規定されるようにしても良い。
【０２３６】
［符号化側のイントラ予測処理の流れ］
図１７のフローチャートを参照して、この場合のイントラ予測部１１４および制約付きイントラ予測部１２１によるイントラ予測処理の流れの例を説明する。
【０２３７】
この場合も、基本的に図１０のフローチャートを参照して説明した第１の実施の形態の場合と同様に各処理が行われる。すなわち、ステップＳ３０１、ステップＳ３０３乃至ステップＳ３０７、並びに、ステップＳ３０９乃至ステップＳ３１２の各処理は、図１０のステップＳ１３１乃至ステップＳ１４０の各処理と同様に行われる。
【０２３８】
ただし、図１７の場合、フラグ・サイズ閾値判定部３４１は、ステップＳ３０１において制約付きイントラ予測が行われるか否かを判定し、行われると判定された場合、処理をステップＳ３０２に進め、さらに、当該領域のサイズが閾値以下であるか否かを判定する。
【０２３９】
当該領域のサイズが所定の閾値以下である場合、フラグ・サイズ閾値判定部３４１は、処理をステップＳ３０３に進める。すなわち、この場合、図１０の場合と同様に、本技術の補間方法を適用した制約付きイントラ予測が行われる。
【０２４０】
これに対して、ステップＳ３０２において、当該領域のサイズが閾値より大きいと判定された場合、フラグ・サイズ閾値判定部３４１は、処理をステップＳ３０８に進める。ステップＳ３０８において、利用可否判定部１４２および補間画素生成部１４３は、非特許文献２に記載の従来の補間方法を適用した制約付きイントラ予測を行う。ステップＳ３０８の処理が終了すると、補間画素生成部１４３は、処理をステップＳ３０９に進める。
【０２４１】
なお、ステップＳ３０１において、制約付きイントラ予測を行わないと判定された場合、フラグ・サイズ閾値判定部３４１は、処理をステップＳ３０９に進める。
【０２４２】
このようにすることにより、大きな領域に対してのみ本技術の補間方法を適用することができ、画像符号化装置１００は、補間処理の負荷の増大を抑制しながら、符号化効率を向上させることができる。
【０２４３】
［制約付きイントラ予測部等］
図１８は、この場合の制約付きイントラ予測部等の主な構成例を示すブロック図である。
【０２４４】
図１８に示されるように、イントラ予測部２１１は、図１２を参照して説明した場合と同様の構成を有する。また、制約付きイントラ予測部２２１は、図１２を参照して説明した場合と基本的に同様の構成を有するが、フラグ判定部２４１の代わりに、フラグ・サイズ閾値判定部４４１を有する。
【０２４５】
フラグ・サイズ閾値判定部４４１は、フラグ・サイズ閾値判定部３４１と同様の処理部であり、constrained_intra_pred_flagの値を判定するだけでなく、所定の閾値を用いた当該領域のサイズ判定を行う。フラグ・サイズ閾値判定部４４１は、それらの判定結果に基づいて、制御指示を、予測画像生成部２３２、利用可否判定部２４２、および補間画素生成部２４３に供給する。
【０２４６】
予測画像生成部２３２、利用可否判定部２４２、および補間画素生成部２４３は、その制御指示に基づいて、通常のイントラ予測を行うか、従来の補間方法を用いた制約付きイントラ予測を行うか、若しくは、本技術の補間方法を用いた制約付きイントラ予測を行うかを決定し、それぞれの処理を行う。
【０２４７】
このようにすることにより、符号化側と同様に、大きな領域に対してのみ本技術の補間方法を適用することができるので、画像復号装置２００は、補間処理の負荷の増大を抑制しながら、符号化効率を向上させることができる。
【０２４８】
［復号側のイントラ予測処理の流れ］
図１９のフローチャートを参照して、この場合のイントラ予測部２１１および制約付きイントラ予測部２２１によるイントラ予測処理の流れの例を説明する。
【０２４９】
この場合も、第２の実施の形態の場合と同様に、符号化側と同様に各処理を行うことができる。すなわち、図１９のステップＳ４０１乃至ステップＳ４０８の各処理は、図１７のステップＳ３０１乃至ステップＳ３０８の各処理と同様に行われる。
【０２５０】
また、ステップＳ４０９およびステップＳ４１０の各処理は、図１５のステップＳ２４７およびステップＳ２４８の各処理と同様に（すなわち、第２の実施の形態の場合と同様に）行われる。
【０２５１】
このようにすることにより、符号化側と同様に、大きな領域に対してのみ本技術の補間方法を適用することができ、画像復号装置２００は、補間処理の負荷の増大を抑制しながら、符号化効率を向上させることができる。
【０２５２】
なお、本技術を適用する符号化・復号方式は任意であり、制約付きイントラ予測処理を用いる方式であればどのような符号化・復号方式に適用することもできる。
【０２５３】
なお、本技術は、例えば、MPEG、H．26x等の様に、離散コサイン変換等の直交変換と動き補償によって圧縮された画像情報（ビットストリーム）を、衛星放送、ケーブルテレビジョン、インターネット、または携帯電話機などのネットワークメディアを介して受信する際に用いられる画像符号化装置および画像復号装置に適用することができる。また、本技術は、光、磁気ディスク、およびフラッシュメモリのような記憶メディア上で処理する際に用いられる画像符号化装置および画像復号装置に適用することができる。さらに、本技術は、それらの画像符号化装置および画像復号装置などに含まれる動き予測補償装置にも適用することができる。
【０２５４】
＜４．第４の実施の形態＞
［コンピュータ］
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な汎用のパーソナルコンピュータなどが含まれる。
【０２５５】
図２０において、パーソナルコンピュータ５００のCPU（Central Processing Unit）５０１は、ROM（Read Only Memory）５０２に記憶されているプログラム、または記憶部５１３からRAM（Random Access Memory）５０３にロードされたプログラムに従って各種の処理を実行する。RAM５０３にはまた、CPU５０１が各種の処理を実行する上において必要なデータなども適宜記憶される。
【０２５６】
CPU５０１、ROM５０２、およびRAM５０３は、バス５０４を介して相互に接続されている。このバス５０４にはまた、入出力インタフェース５１０も接続されている。
【０２５７】
入出力インタフェース５１０には、キーボード、マウスなどよりなる入力部５１１、CRT（Cathode Ray Tube）やLCD（Liquid Crystal Display）などよりなるディスプレイ、並びにスピーカなどよりなる出力部５１２、ハードディスクなどより構成される記憶部５１３、モデムなどより構成される通信部５１４が接続されている。通信部５１４は、インターネットを含むネットワークを介しての通信処理を行う。
【０２５８】
入出力インタフェース５１０にはまた、必要に応じてドライブ５１５が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア５２１が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部５１３にインストールされる。
【０２５９】
上述した一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、ネットワークや記録媒体からインストールされる。
【０２６０】
この記録媒体は、例えば、図２０に示されるように、装置本体とは別に、ユーザにプログラムを配信するために配布される、プログラムが記録されている磁気ディスク（フレキシブルディスクを含む）、光ディスク（CD-ROM（Compact Disc - Read Only Memory）,DVD（Digital Versatile Disc）を含む）、光磁気ディスク（MD（Mini Disc）を含む）、若しくは半導体メモリなどよりなるリムーバブルメディア５２１により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに配信される、プログラムが記録されているROM５０２や、記憶部５１３に含まれるハードディスクなどで構成される。
【０２６１】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【０２６２】
また、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【０２６３】
また、本明細書において、システムとは、複数のデバイス（装置）により構成される装置全体を表すものである。
【０２６４】
また、以上において、１つの装置（または処理部）として説明した構成を分割し、複数の装置（または処理部）として構成するようにしてもよい。逆に、以上において複数の装置（または処理部）として説明した構成をまとめて１つの装置（または処理部）として構成されるようにしてもよい。また、各装置（または各処理部）の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置（または処理部）の構成の一部を他の装置（または他の処理部）の構成に含めるようにしてもよい。つまり、本技術は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
【０２６５】
上述した実施形態に係る画像符号化装置及び画像復号装置は、衛星放送、ケーブルＴＶなどの有線放送、インターネット上での配信、及びセルラー通信による端末への配信などにおける送信機若しくは受信機、光ディスク、磁気ディスク及びフラッシュメモリなどの媒体に画像を記録する記録装置、又は、これら記憶媒体から画像を再生する再生装置などの様々な電子機器に応用され得る。以下、４つの応用例について説明する。
【０２６６】
＜５．第５の実施の形態＞
［第１の応用例：テレビジョン受像機］
図２１は、上述した実施形態を適用したテレビジョン装置の概略的な構成の一例を示している。テレビジョン装置９００は、アンテナ９０１、チューナ９０２、デマルチプレクサ９０３、デコーダ９０４、映像信号処理部９０５、表示部９０６、音声信号処理部９０７、スピーカ９０８、外部インタフェース９０９、制御部９１０、ユーザインタフェース９１１、及びバス９１２を備える。
【０２６７】
チューナ９０２は、アンテナ９０１を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ９０２は、復調により得られた符号化ビットストリームをデマルチプレクサ９０３へ出力する。即ち、チューナ９０２は、画像が符号化されている符号化ストリームを受信する、テレビジョン装置９００における伝送部としての役割を有する。
【０２６８】
デマルチプレクサ９０３は、符号化ビットストリームから視聴対象の番組の映像ストリーム及び音声ストリームを分離し、分離した各ストリームをデコーダ９０４へ出力する。また、デマルチプレクサ９０３は、符号化ビットストリームからEPG（Electronic Program Guide）などの補助的なデータを抽出し、抽出したデータを制御部９１０に供給する。なお、デマルチプレクサ９０３は、符号化ビットストリームがスクランブルされている場合には、デスクランブルを行ってもよい。
【０２６９】
デコーダ９０４は、デマルチプレクサ９０３から入力される映像ストリーム及び音声ストリームを復号する。そして、デコーダ９０４は、復号処理により生成される映像データを映像信号処理部９０５へ出力する。また、デコーダ９０４は、復号処理により生成される音声データを音声信号処理部９０７へ出力する。
【０２７０】
映像信号処理部９０５は、デコーダ９０４から入力される映像データを再生し、表示部９０６に映像を表示させる。また、映像信号処理部９０５は、ネットワークを介して供給されるアプリケーション画面を表示部９０６に表示させてもよい。また、映像信号処理部９０５は、映像データについて、設定に応じて、例えばノイズ除去などの追加的な処理を行ってもよい。さらに、映像信号処理部９０５は、例えばメニュー、ボタン又はカーソルなどのGUI（Graphical User Interface）の画像を生成し、生成した画像を出力画像に重畳してもよい。
【０２７１】
表示部９０６は、映像信号処理部９０５から供給される駆動信号により駆動され、表示デバイス（例えば、液晶ディスプレイ、プラズマディスプレイ又はOELD（Organic ElectroLuminescence Display）（有機ELディスプレイ）など）の映像面上に映像又は画像を表示する。
【０２７２】
音声信号処理部９０７は、デコーダ９０４から入力される音声データについてD/A変換及び増幅などの再生処理を行い、スピーカ９０８から音声を出力させる。また、音声信号処理部９０７は、音声データについてノイズ除去などの追加的な処理を行ってもよい。
【０２７３】
外部インタフェース９０９は、テレビジョン装置９００と外部機器又はネットワークとを接続するためのインタフェースである。例えば、外部インタフェース９０９を介して受信される映像ストリーム又は音声ストリームが、デコーダ９０４により復号されてもよい。即ち、外部インタフェース９０９もまた、画像が符号化されている符号化ストリームを受信する、テレビジョン装置９００における伝送部としての役割を有する。
【０２７４】
制御部９１０は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、プログラムデータ、EPGデータ、及びネットワークを介して取得されるデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、テレビジョン装置９００の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース９１１から入力される操作信号に応じて、テレビジョン装置９００の動作を制御する。
【０２７５】
ユーザインタフェース９１１は、制御部９１０と接続される。ユーザインタフェース９１１は、例えば、ユーザがテレビジョン装置９００を操作するためのボタン及びスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース９１１は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部９１０へ出力する。
【０２７６】
バス９１２は、チューナ９０２、デマルチプレクサ９０３、デコーダ９０４、映像信号処理部９０５、音声信号処理部９０７、外部インタフェース９０９及び制御部９１０を相互に接続する。
【０２７７】
このように構成されたテレビジョン装置９００において、デコーダ９０４は、上述した実施形態に係る画像復号装置の機能を有する。それにより、テレビジョン装置９００での画像の復号に際して、符号化効率の向上を実現することができる。
【０２７８】
＜６．第６の実施の形態＞
［第２の応用例：携帯電話機］
図２２は、上述した実施形態を適用した携帯電話機の概略的な構成の一例を示している。携帯電話機９２０は、アンテナ９２１、通信部９２２、音声コーデック９２３、スピーカ９２４、マイクロホン９２５、カメラ部９２６、画像処理部９２７、多重分離部９２８、記録再生部９２９、表示部９３０、制御部９３１、操作部９３２、及びバス９３３を備える。
【０２７９】
アンテナ９２１は、通信部９２２に接続される。スピーカ９２４及びマイクロホン９２５は、音声コーデック９２３に接続される。操作部９３２は、制御部９３１に接続される。バス９３３は、通信部９２２、音声コーデック９２３、カメラ部９２６、画像処理部９２７、多重分離部９２８、記録再生部９２９、表示部９３０、及び制御部９３１を相互に接続する。
【０２８０】
携帯電話機９２０は、音声通話モード、データ通信モード、撮影モード及びテレビ電話モードを含む様々な動作モードで、音声信号の送受信、電子メール又は画像データの送受信、画像の撮像、及びデータの記録などの動作を行う。
【０２８１】
音声通話モードにおいて、マイクロホン９２５により生成されるアナログ音声信号は、音声コーデック９２３に供給される。音声コーデック９２３は、アナログ音声信号を音声データへ変換し、変換された音声データをA/D変換し圧縮する。そして、音声コーデック９２３は、圧縮後の音声データを通信部９２２へ出力する。通信部９２２は、音声データを符号化及び変調し、送信信号を生成する。そして、通信部９２２は、生成した送信信号を、アンテナ９２１を介して基地局（図示せず）へ送信する。また、通信部９２２は、アンテナ９２１を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部９２２は、受信信号を復調及び復号して音声データを生成し、生成した音声データを音声コーデック９２３へ出力する。音声コーデック９２３は、音声データを伸張し及びD/A変換し、アナログ音声信号を生成する。そして、音声コーデック９２３は、生成した音声信号をスピーカ９２４に供給して音声を出力させる。
【０２８２】
また、データ通信モードにおいて、例えば、制御部９３１は、操作部９３２を介するユーザによる操作に応じて、電子メールを構成する文字データを生成する。また、制御部９３１は、文字を表示部９３０に表示させる。また、制御部９３１は、操作部９３２を介するユーザからの送信指示に応じて電子メールデータを生成し、生成した電子メールデータを通信部９２２へ出力する。通信部９２２は、電子メールデータを符号化及び変調し、送信信号を生成する。そして、通信部９２２は、生成した送信信号を、アンテナ９２１を介して基地局（図示せず）へ送信する。また、通信部９２２は、アンテナ９２１を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部９２２は、受信信号を復調及び復号して電子メールデータを復元し、復元した電子メールデータを制御部９３１へ出力する。制御部９３１は、表示部９３０に電子メールの内容を表示させると共に、電子メールデータを記録再生部９２９の記憶媒体に記憶させる。
【０２８３】
記録再生部９２９は、読み書き可能な任意の記憶媒体を有する。例えば、記憶媒体は、ＲＡＭ又はフラッシュメモリなどの内蔵型の記憶媒体であってもよく、ハードディスク、磁気ディスク、光磁気ディスク、光ディスク、USB（Unallocated Space Bitmap）メモリ、又はメモリカードなどの外部装着型の記憶媒体であってもよい。
【０２８４】
また、撮影モードにおいて、例えば、カメラ部９２６は、被写体を撮像して画像データを生成し、生成した画像データを画像処理部９２７へ出力する。画像処理部９２７は、カメラ部９２６から入力される画像データを符号化し、符号化ストリームを記憶再生部９２９の記憶媒体に記憶させる。
【０２８５】
また、テレビ電話モードにおいて、例えば、多重分離部９２８は、画像処理部９２７により符号化された映像ストリームと、音声コーデック９２３から入力される音声ストリームとを多重化し、多重化したストリームを通信部９２２へ出力する。通信部９２２は、ストリームを符号化及び変調し、送信信号を生成する。そして、通信部９２２は、生成した送信信号を、アンテナ９２１を介して基地局（図示せず）へ送信する。また、通信部９２２は、アンテナ９２１を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。これら送信信号及び受信信号には、符号化ビットストリームが含まれ得る。そして、通信部９２２は、受信信号を復調及び復号してストリームを復元し、復元したストリームを多重分離部９２８へ出力する。多重分離部９２８は、入力されるストリームから映像ストリーム及び音声ストリームを分離し、映像ストリームを画像処理部９２７、音声ストリームを音声コーデック９２３へ出力する。画像処理部９２７は、映像ストリームを復号し、映像データを生成する。映像データは、表示部９３０に供給され、表示部９３０により一連の画像が表示される。音声コーデック９２３は、音声ストリームを伸張し及びD/A変換し、アナログ音声信号を生成する。そして、音声コーデック９２３は、生成した音声信号をスピーカ９２４に供給して音声を出力させる。
【０２８６】
このように構成された携帯電話機９２０において、画像処理部９２７は、上述した実施形態に係る画像符号化装置及び画像復号装置の機能を有する。それにより、携帯電話機９２０での画像の符号化及び復号に際して、符号化効率を向上させることができる。
【０２８７】
＜７．第７の実施の形態＞
［第３の応用例：記録再生装置］
図２３は、上述した実施形態を適用した記録再生装置の概略的な構成の一例を示している。記録再生装置９４０は、例えば、受信した放送番組の音声データ及び映像データを符号化して記録媒体に記録する。また、記録再生装置９４０は、例えば、他の装置から取得される音声データ及び映像データを符号化して記録媒体に記録してもよい。また、記録再生装置９４０は、例えば、ユーザの指示に応じて、記録媒体に記録されているデータをモニタ及びスピーカ上で再生する。このとき、記録再生装置９４０は、音声データ及び映像データを復号する。
【０２８８】
記録再生装置９４０は、チューナ９４１、外部インタフェース９４２、エンコーダ９４３、HDD（Hard Disk Drive）９４４、ディスクドライブ９４５、セレクタ９４６、デコーダ９４７、OSD（On-Screen Display）９４８、制御部９４９、及びユーザインタフェース９５０を備える。
【０２８９】
チューナ９４１は、アンテナ（図示せず）を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ９４１は、復調により得られた符号化ビットストリームをセレクタ９４６へ出力する。即ち、チューナ９４１は、記録再生装置９４０における伝送部としての役割を有する。
【０２９０】
外部インタフェース９４２は、記録再生装置９４０と外部機器又はネットワークとを接続するためのインタフェースである。外部インタフェース９４２は、例えば、IEEE1394インタフェース、ネットワークインタフェース、USBインタフェース、又はフラッシュメモリインタフェースなどであってよい。例えば、外部インタフェース９４２を介して受信される映像データ及び音声データは、エンコーダ９４３へ入力される。即ち、外部インタフェース９４２は、記録再生装置９４０における伝送部としての役割を有する。
【０２９１】
エンコーダ９４３は、外部インタフェース９４２から入力される映像データ及び音声データが符号化されていない場合に、映像データ及び音声データを符号化する。そして、エンコーダ９４３は、符号化ビットストリームをセレクタ９４６へ出力する。
【０２９２】
HDD９４４は、映像及び音声などのコンテンツデータが圧縮された符号化ビットストリーム、各種プログラム及びその他のデータを内部のハードディスクに記録する。また、HDD９４４は、映像及び音声の再生時に、これらデータをハードディスクから読み出す。
【０２９３】
ディスクドライブ９４５は、装着されている記録媒体へのデータの記録及び読み出しを行う。ディスクドライブ９４５に装着される記録媒体は、例えばDVDディスク（DVD-Video、DVD-RAM、DVD-R、DVD-RW、DVD+R、DVD+RW等）又はBlu-ray（登録商標）ディスクなどであってよい。
【０２９４】
セレクタ９４６は、映像及び音声の記録時には、チューナ９４１又はエンコーダ９４３から入力される符号化ビットストリームを選択し、選択した符号化ビットストリームをHDD９４４又はディスクドライブ９４５へ出力する。また、セレクタ９４６は、映像及び音声の再生時には、HDD９４４又はディスクドライブ９４５から入力される符号化ビットストリームをデコーダ９４７へ出力する。
【０２９５】
デコーダ９４７は、符号化ビットストリームを復号し、映像データ及び音声データを生成する。そして、デコーダ９４７は、生成した映像データをOSD９４８へ出力する。また、デコーダ９０４は、生成した音声データを外部のスピーカへ出力する。
【０２９６】
OSD９４８は、デコーダ９４７から入力される映像データを再生し、映像を表示する。また、OSD９４８は、表示する映像に、例えばメニュー、ボタン又はカーソルなどのGUIの画像を重畳してもよい。
【０２９７】
制御部９４９は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、記録再生装置９４０の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース９５０から入力される操作信号に応じて、記録再生装置９４０の動作を制御する。
【０２９８】
ユーザインタフェース９５０は、制御部９４９と接続される。ユーザインタフェース９５０は、例えば、ユーザが記録再生装置９４０を操作するためのボタン及びスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース９５０は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部９４９へ出力する。
【０２９９】
このように構成された記録再生装置９４０において、エンコーダ９４３は、上述した実施形態に係る画像符号化装置の機能を有する。また、デコーダ９４７は、上述した実施形態に係る画像復号装置の機能を有する。それにより、記録再生装置９４０での画像の符号化及び復号に際して、符号化効率を向上させることができる。
【０３００】
＜８．第８の実施の形態＞
［第４の応用例：撮像装置］
図２４は、上述した実施形態を適用した撮像装置の概略的な構成の一例を示している。撮像装置９６０は、被写体を撮像して画像を生成し、画像データを符号化して記録媒体に記録する。
【０３０１】
撮像装置９６０は、光学ブロック９６１、撮像部９６２、信号処理部９６３、画像処理部９６４、表示部９６５、外部インタフェース９６６、メモリ９６７、メディアドライブ９６８、OSD９６９、制御部９７０、ユーザインタフェース９７１、及びバス９７２を備える。
【０３０２】
光学ブロック９６１は、撮像部９６２に接続される。撮像部９６２は、信号処理部９６３に接続される。表示部９６５は、画像処理部９６４に接続される。ユーザインタフェース９７１は、制御部９７０に接続される。バス９７２は、画像処理部９６４、外部インタフェース９６６、メモリ９６７、メディアドライブ９６８、OSD９６９、及び制御部９７０を相互に接続する。
【０３０３】
光学ブロック９６１は、フォーカスレンズ及び絞り機構などを有する。光学ブロック９６１は、被写体の光学像を撮像部９６２の撮像面に結像させる。撮像部９６２は、CCD（Charge Coupled Device）又はCMOS（Complementary Metal Oxide Semiconductor）などのイメージセンサを有し、撮像面に結像した光学像を光電変換によって電気信号としての画像信号に変換する。そして、撮像部９６２は、画像信号を信号処理部９６３へ出力する。
【０３０４】
信号処理部９６３は、撮像部９６２から入力される画像信号に対してニー補正、ガンマ補正、色補正などの種々のカメラ信号処理を行う。信号処理部９６３は、カメラ信号処理後の画像データを画像処理部９６４へ出力する。
【０３０５】
画像処理部９６４は、信号処理部９６３から入力される画像データを符号化し、符号化データを生成する。そして、画像処理部９６４は、生成した符号化データを外部インタフェース９６６又はメディアドライブ９６８へ出力する。また、画像処理部９６４は、外部インタフェース９６６又はメディアドライブ９６８から入力される符号化データを復号し、画像データを生成する。そして、画像処理部９６４は、生成した画像データを表示部９６５へ出力する。また、画像処理部９６４は、信号処理部９６３から入力される画像データを表示部９６５へ出力して画像を表示させてもよい。また、画像処理部９６４は、OSD９６９から取得される表示用データを、表示部９６５へ出力する画像に重畳してもよい。
【０３０６】
OSD９６９は、例えばメニュー、ボタン又はカーソルなどのGUIの画像を生成して、生成した画像を画像処理部９６４へ出力する。
【０３０７】
外部インタフェース９６６は、例えばUSB入出力端子として構成される。外部インタフェース９６６は、例えば、画像の印刷時に、撮像装置９６０とプリンタとを接続する。また、外部インタフェース９６６には、必要に応じてドライブが接続される。ドライブには、例えば、磁気ディスク又は光ディスクなどのリムーバブルメディアが装着され、リムーバブルメディアから読み出されるプログラムが、撮像装置９６０にインストールされ得る。さらに、外部インタフェース９６６は、LAN又はインターネットなどのネットワークに接続されるネットワークインタフェースとして構成されてもよい。即ち、外部インタフェース９６６は、撮像装置９６０における伝送部としての役割を有する。
【０３０８】
メディアドライブ９６８に装着される記録媒体は、例えば、磁気ディスク、光磁気ディスク、光ディスク、又は半導体メモリなどの、読み書き可能な任意のリムーバブルメディアであってよい。また、メディアドライブ９６８に記録媒体が固定的に装着され、例えば、内蔵型ハードディスクドライブ又はSSD（Solid State Drive）のような非可搬性の記憶部が構成されてもよい。
【０３０９】
制御部９７０は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、撮像装置９６０の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース９７１から入力される操作信号に応じて、撮像装置９６０の動作を制御する。
【０３１０】
ユーザインタフェース９７１は、制御部９７０と接続される。ユーザインタフェース９７１は、例えば、ユーザが撮像装置９６０を操作するためのボタン及びスイッチなどを有する。ユーザインタフェース９７１は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部９７０へ出力する。
【０３１１】
このように構成された撮像装置９６０において、画像処理部９６４は、上述した実施形態に係る画像符号化装置及び画像復号装置の機能を有する。それにより、撮像装置９６０での画像の符号化及び復号に際して、符号化効率を向上させることができる。
【０３１２】
なお、本明細書では、閾値などの様々な情報が、符号化ストリームのヘッダに多重化されて、符号化側から復号側へ伝送される例について説明した。しかしながら、これら情報を伝送する手法はかかる例に限定されない。例えば、これら情報は、符号化ビットストリームに多重化されることなく、符号化ビットストリームと関連付けられた別個のデータとして伝送され又は記録されてもよい。ここで、「関連付ける」という用語は、ビットストリームに含まれる画像（スライス若しくはブロックなど、画像の一部であってもよい）と当該画像に対応する情報とを復号時にリンクさせ得るようにすることを意味する。即ち、情報は、画像（又はビットストリーム）とは別の伝送路上で伝送されてもよい。また、情報は、画像（又はビットストリーム）とは別の記録媒体（又は同一の記録媒体の別の記録エリア）に記録されてもよい。さらに、情報と画像（又はビットストリーム）とは、例えば、複数フレーム、１フレーム、又はフレーム内の一部分などの任意の単位で互いに関連付けられてよい。
【０３１３】
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示はかかる例に限定されない。本開示の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
【０３１４】
なお、本技術は以下のような構成も取ることができる。
（１）  制約付きイントラ予測において、前記制約付きイントラ予測の処理対象である当該領域に隣接し、予測に利用される周辺画素であって、利用可能な２つの周辺画素に挟まれる１つ若しくは連続する複数の利用不可能な周辺画素に対して、その位置に応じた値の補間画素値を生成する補間画素生成部と、
前記補間画素生成部により生成された補間画素値を利用して、イントラ予測を行い、予測画像を生成する予測画像生成部と
を備える画像処理装置。
（２）  前記補間画素生成部は、利用可能な前記周辺画素との距離に応じた値の補間画素値を生成する
前記（１）に記載の画像処理装置。
（３）  前記補間画素生成部は、利用可能な２つの前記周辺画素を用いた線形内挿により前記補間画素値を生成する
前記（２）に記載の画像処理装置。
（４）  前記補間画素生成部は、前記線形内挿において、２のべき乗の近似値を用いて割り算を行う
前記（３）に記載の画像処理装置。
（５）  前記補間画素生成部は、当該領域の左上の、利用不可能な周辺画素に対して、
前記周辺画素の右隣の画素が利用可能な場合、前記右隣の画素の画素値を前記周辺画素の補間画素値とし、
前記周辺画素の右隣の画素が利用不可能であり、かつ、前記周辺画素の下の画素が利用可能である場合、前記下の画素の画素値を前記周辺画素の補間画素値とする
前記（１）乃至（４）のいずれかに記載の画像処理装置。
（６）  イントラ予測に関するフラグ情報の値を判定するフラグ判定部をさらに備え、
前記補間画素生成部は、前記フラグ判定部により、前記フラグ情報により前記制約付きイントラ予測が指定されていると判定された場合、前記補間画素値を生成する
前記（１）乃至（５）のいずれかに記載の画像処理装置。
（７）  当該領域の大きさを判定するサイズ判定部をさらに備え、
前記補間画素生成部は、前記サイズ判定部により当該領域が小さいと判定された場合、前記補間画素値を生成する
前記（１）乃至（６）のいずれかに記載の画像処理装置。
（８）  前記サイズ判定部は、閾値を用いて、当該領域の大きさを判定し、
前記補間画素生成部は、前記サイズ判定部により当該領域が閾値以下であると判定された場合、前記補間画素値を生成する
前記（７）に記載の画像処理装置。
（９）  前記閾値を伝送する伝送部をさらに備える
前記（８）に記載の画像処理装置。
（１０）  伝送される前記閾値を受け取る受け取り部をさらに備え、
前記サイズ判定部は、前記受け取り部により受け取られた前記閾値を用いて当該領域の大きさを判定する
前記（８）に記載の画像処理装置。
（１１）  前記閾値はプロファイルレベルに応じて設定される
前記（８）に記載の画像処理装置。
（１２）  画像処理装置の画像処理方法であって、
補間画素生成部が、制約付きイントラ予測において、前記制約付きイントラ予測の処理対象である当該領域に隣接し、予測に利用される周辺画素であって、利用可能な２つの周辺画素に挟まれる１つ若しくは連続する複数の利用不可能な周辺画素に対して、その位置に応じた値の補間画素値を生成し、
予測画像生成部が、生成された補間画素値を利用して、イントラ予測を行い、予測画像を生成する
画像処理方法。
【符号の説明】
【０３１５】
１００  画像符号化装置，  １１４  イントラ予測部，  １２１  制約付きイントラ予測部，  １４１  フラグ判定部，  １４２  利用可否判定部，  １４３  補間画素生成部，  ２００  画像復号装置，  ２１１  イントラ予測部，  ２２１  制約付きイントラ予測部，  ２４１  フラグ判定部，  ２４２  利用可否判定部，  ２４３  補間画素生成部，  ３４１  フラグ・サイズ閾値判定部，  ４４１  フラグ・サイズ閾値判定部
【図１】
2013012840.tif 000003
【図２】
2013012840.tif 000004
【図３】
2013012840.tif 000005
【図４】
2013012840.tif 000006
【図５】
2013012840.tif 000007
【図６】
2013012840.tif 000008
【図７】
2013012840.tif 000009
【図８】
2013012840.tif 000010
【図９】
2013012840.tif 000011
【図１０】
2013012840.tif 000012
【図１１】
2013012840.tif 000013
【図１２】
2013012840.tif 000014
【図１３】
2013012840.tif 000015
【図１４】
2013012840.tif 000016
【図１５】
2013012840.tif 000017
【図１６】
2013012840.tif 000018
【図１７】
2013012840.tif 000019
【図１８】
2013012840.tif 000020
【図１９】
2013012840.tif 000021
【図２０】
2013012840.tif 000022
【図２１】
2013012840.tif 000023
【図２２】
2013012840.tif 000024
【図２３】
2013012840.tif 000025
【図２４】
2013012840.tif 000026