(57)【要約】【課題】予測ブロック内の絵柄が特定の非直線な模様や文字などであっても、予測精度を高めて、高い符号化効率を実現することができるようにする。【解決手段】画像符号化装置のイントラ予測部５が、それぞれ、予測ブロックの色差信号に対するフラグが色信号間予測処理の非実施を明示していれば、輝度信号と同一の色差信号のイントラ予測パラメータを用いて、その色差信号の予測画像を生成するイントラ予測処理を実施し、フラグが色信号間予測処理の実施を明示していれば、符号化済みの色差信号を参照して、当該予測ブロックにおける色差信号の予測画像を生成する色信号間予測処理を実施する【選択図】図１
2018166329.tif 000002
【特許請求の範囲】
【請求項１】
予測処理単位のブロックである予測ブロック毎に、当該予測ブロックにおける輝度信号のイントラ予測パラメータを用いて、その輝度信号の予測画像を生成するイントラ予測処理を実施するイントラ予測手段を備え、
前記イントラ予測手段は、当該予測ブロックの色差信号に対するフラグが色信号間予測処理の非実施を明示していれば、輝度信号と同一の色差信号のイントラ予測パラメータを用いて、その色差信号の予測画像を生成するイントラ予測処理を実施し、上記フラグが色信号間予測処理の実施を明示していれば、符号化済みの色差信号を参照して、当該予測ブロックにおける色差信号の予測画像を生成する色信号間予測処理を実施することを特徴とする画像符号化装置。
【請求項２】
予測処理単位のブロックである予測ブロック毎に、当該予測ブロックにおける輝度信号のイントラ予測パラメータを用いて、その輝度信号の予測画像を生成するイントラ予測処理を実施するイントラ予測手段を備え、
前記イントラ予測手段は、当該予測ブロックの色差信号に対するフラグが色信号間予測処理の非実施を明示していれば、輝度信号と同一の色差信号のイントラ予測パラメータを用いて、その色差信号の予測画像を生成するイントラ予測処理を実施し、上記フラグが色信号間予測処理の実施を明示していれば、符号化済みの色差信号を参照して、当該予測ブロックにおける色差信号の予測画像を生成する色信号間予測処理を実施することを特徴とする画像復号装置。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明は、画像を高効率で符号化を行う画像符号化装置及び画像符号化方法と、高効率で符号化されている画像を復号する画像復号装置及び画像復号方法に関するものである。
【背景技術】
【０００２】
例えば、以下の非特許文献１に記載されている画像符号化装置では、入力されたカラー画像を所定の大きさの最大符号化ブロックに分割し、さらに、最大符号化ブロックをより細かい符号化ブロックに階層分割する。
また、その符号化ブロックをさらに細かい予測ブロック（予測処理単位のブロック）に分割し、その予測ブロックに対する画面内予測や動き補償予測を実施することで予測画像（予測誤差）を生成する。
また、その予測画像を符号化ブロック内で階層的に変換ブロックに分割し、それぞれの変換ブロックの変換係数をエントロピー符号化することで高い圧縮率を達成している。
【０００３】
非特許文献１では、画面内の符号化済み画素を用いる予測としてイントラ予測を用いている。
このイントラ予測には、予測ブロックに隣接している画素を参照画素として、一定の方向にコピーする方向性予測、予測ブロック内の画素の予測値を参照画素の平均値とする平均値（ＤＣ）予測や、参照画素から予測ブロック内を内挿する平面（Ｐｌａｎａｒ）予測がある。
画像信号は一般に空間的相関が高いため、隣接する画素を用いた様々なバリエーションの予測を適切に切り替えることで高い予測効率を実現することができる。
【先行技術文献】
【非特許文献】
【０００４】
【非特許文献１】B．Bross，W.-J. Han，J.-R. Ohm，G. J. Sullivan，Y.-K. Wang and T. Wiegand，“High Efficiency Video Coding（HEVC）text specification draft 10（for FDIS & Consent）”，doc. JCTVC-L1003，Joint Collaborative Team on Video Coding（JCT-VC）of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11，12th Meeting，2013
【発明の概要】
【発明が解決しようとする課題】
【０００５】
従来の画像符号化装置は以上のように構成されているので、予測ブロックに対するイントラ予測を適正に選択することができれば、予測精度を高めて、高い符号化効率を実現することができる。しかし、予測ブロック内の絵柄が、例えば、特定の非直線な模様や文字である場合など、予測ブロック内の絵柄によっては、予め用意されているどのイントラ予測を選択しても、精度良く予測できない場合がある。このような場合には、予測精度が低下して、高い符号化効率を実現することができない課題があった。
【０００６】
この発明は上記のような課題を解決するためになされたもので、予測ブロック内の絵柄が特定の非直線な模様や文字などであっても、予測精度を高めて、高い符号化効率を実現することができる画像符号化装置及び画像符号化方法を得ることを目的とする。
また、この発明は、上記のような画像符号化装置及び画像符号化方法により生成された符号化ビットストリームを正しく復号することができる画像復号装置及び画像復号方法を得ることを目的とする。
【課題を解決するための手段】
【０００７】
この発明に係る画像符号化装置は、予測処理単位のブロックである予測ブロック毎に、当該予測ブロックにおける輝度信号のイントラ予測パラメータを用いて、その輝度信号の予測画像を生成するイントラ予測処理を実施するイントラ予測手段を備え、イントラ予測手段は、当該予測ブロックの色差信号に対するフラグが色信号間予測処理の非実施を明示していれば、輝度信号と同一の色差信号のイントラ予測パラメータを用いて、その色差信号の予測画像を生成するイントラ予測処理を実施し、上記フラグが色信号間予測処理の実施を明示していれば、符号化済みの色差信号を参照して、当該予測ブロックにおける色差信号の予測画像を生成する色信号間予測処理を実施するようにしたものである。
【発明の効果】
【０００８】
この発明によれば、イントラ予測手段が、当該予測ブロックの色差信号に対するフラグが色信号間予測処理の非実施を明示していれば、輝度信号と同一の色差信号のイントラ予測パラメータを用いて、その色差信号の予測画像を生成するイントラ予測処理を実施し、上記フラグが色信号間予測処理の実施を明示していれば、符号化済みの色差信号を参照して、当該予測ブロックにおける色差信号の予測画像を生成する色信号間予測処理を実施するように構成したので、予測ブロック内の絵柄が特定の非直線な模様や文字などであっても、予測精度を高めて、高い符号化効率を実現することができる効果がある。
【図面の簡単な説明】
【０００９】
【図１】この発明の実施の形態１による画像符号化装置を示す構成図である。
【図２】この発明の実施の形態１による画像符号化装置の処理内容（画像符号化方法）を示すフローチャートである。
【図３】この発明の実施の形態１による画像復号装置を示す構成図である。
【図４】この発明の実施の形態１による画像復号装置の処理内容（画像復号方法）を示すフローチャートである。
【図５】最大符号化ブロックが階層的に複数の符号化ブロックに分割される例を示す説明図である。
【図６】（ａ）は分割後の符号化ブロック及び予測ブロックの分布を示し、（ｂ）は階層分割によって符号化モードｍ（Ｂｎ）が割り当てられる状況を示す説明図である。
【図７】符号化ブロックＢｎ内の各予測ブロックＰｉｎが選択可能なイントラ予測モードの一例を示す説明図である。
【図８】ｌｉｎ＝ｍｉｎ＝４の場合の予測画像生成ブロック内の画素の予測値を生成する際に用いる画素の一例を示す説明図である。
【図９】予測画像生成ブロック内の左上画素を原点とする相対座標を示す説明図である。
【図１０】量子化マトリクスの一例を示す説明図である。
【図１１】この発明の実施の形態１による画像符号化装置のループフィルタ部で複数のループフィルタ処理を用いる場合の構成例を示す説明図である。
【図１２】この発明の実施の形態１による画像復号装置のループフィルタ部で複数のループフィルタ処理を用いる場合の構成例を示す説明図である。
【図１３】符号化ビットストリームの一例を示す説明図である。
【図１４】画素適応オフセット処理のクラス分類手法のインデックスを示す説明図である。
【図１５】１６×１６画素のサイズの直交変換における変換係数の符号化順を示す説明図である。
【図１６】１６×１６画素のサイズの直交変換における変換係数の分布の一例を示す説明図である。
【図１７】平均値予測時のフィルタ処理におけるフィルタの切り替え領域を示す説明図である。
【図１８】平均値予測時のフィルタ処理の参照画素配置を示す説明図である。
【図１９】４×４画素と８×８画素のサイズの直交変換における変換係数の符号化順の一例を示す説明図である。
【図２０】ＹＵＶ４：２：０フォーマットの信号における輝度信号及び色差信号の圧縮処理を実施する際の変換ブロックサイズを示す説明図である。
【図２１】ＹＵＶ４：２：２フォーマットの信号における輝度信号及び色差信号の圧縮処理を実施する際の変換ブロックサイズを示す説明図である。
【図２２】ＹＵＶ４：４：４フォーマットの信号における輝度信号及び色差信号の圧縮処理を実施する際の変換ブロックサイズを示す説明図である。
【図２３】色差信号のイントラ予測パラメータと色差イントラ予測モードの対応例を示す説明図である。
【図２４】ＹＵＶ４：２：０フォーマットの信号において輝度信号と色差信号で同一の方向性予測を用いた場合を示す説明図である。
【図２５】ＹＵＶ４：２：２フォーマットの信号において輝度信号と色差信号で同一の方向性予測を用いた場合を示す説明図である。
【図２６】ＹＵＶ４：４：４フォーマットとＹＵＶ４：２：２フォーマットの関係を示す説明図である。
【図２７】ＹＵＶ４：４：４フォーマットの信号において輝度信号と色差信号で同一の方向性予測を用いることと等価となるＹＵＶ４：２：２フォーマットでの方向性予測の例を示す説明図である。
【図２８】ＹＵＶ４：２：２フォーマットの信号での方向性予測の予測方向ベクトルを示す説明図である。
【図２９】方向性予測と角度の関係を示す説明図である。
【図３０】ＹＵＶ４：２：２フォーマットの信号において輝度信号のイントラ予測モードインデックスと色差信号のイントラ予測モードインデックスの関係を示す説明図である。
【図３１】イントラ予測モードインデックスとｔａｎθの関係を示す説明図である。
【図３２】イントラブロックコピーの一例を示す説明図である。
【図３３】イントラブロックコピーにおいて未符号化領域の画素に特定の画素値を埋めた場合の効果を示す説明図である。
【図３４】イントラブロックコピーにおける画素埋め処理の一例を示す説明図である。
【図３５】イントラブロックコピーにおける画素埋め処理に用いるＭｏｖｅ−Ｔｏ−Ｆｒｏｎｔ法の説明図である。
【図３６】イントラブロックコピーにおける画素埋め処理として実施する水平方向又は垂直方向のフィルタ処理の参照画素の一例を示す説明図である。
【図３７】イントラブロックコピーにおける参照ブロックの一例を示す説明図である。
【図３８】イントラブロックコピーにおける画素埋め処理として実施するＬ字型のフィルタ処理の説明図である。
【図３９】イントラブロックコピーにおける画素埋め処理として実施する水平方向フィルタ処理に対して参照画素を拡張した場合の一例を示す説明図である。
【図４０】イントラブロックコピーにおける画素埋め処理として実施する垂直方向フィルタ処理に対して参照画素を拡張した場合の一例を示す説明図である。
【図４１】イントラブロックコピーにおける画素埋め処理として実施するＬ字型のフィルタ処理に対して参照画素を拡張した場合の説明図である。
【図４２】イントラブロックコピー予測処理において、ブロックシフトベクトルが指し示す参照ブロックが、予測対象符号化ブロック内の未符号化領域を含む例を示す説明図である。
【図４３】イントラブロックコピー予測処理において、未符号化領域の画素を埋める画素値を求める処理の処理手順の例を示すフローチャートである。
【図４４】図４３のフローチャートにおける「Ｌｍａｘ判定及びＳｍａｘ更新」処理の処理手順の例を示すフローチャートである。
【図４５】入力信号フォーマットがＹＵＶ４：４：４フォーマットの信号での色信号間予測の例を示す説明図である。
【図４６】予測画像生成対象ブロックが８×８画素の場合の色信号間予測の相関パラメータを算出する際に参照する画素位置の例を示す説明図である。
【図４７】符号化ブロックが８×８画素において、予測画像生成対象ブロックが予測ブロックである場合の色信号間予測の相関パラメータを算出する際に参照する画素位置の例を示す説明図である。
【図４８】色信号間予測を含めた色差信号のイントラ予測パラメータの例を示す説明図である。
【発明を実施するための形態】
【００１０】
実施の形態１．
図１はこの発明の実施の形態１による画像符号化装置を示す構成図である。
この実施の形態１の画像符号化装置が処理対象とする映像信号は、輝度信号と２つの色差信号からなるＹＵＶ信号や、ディジタル撮像素子から出力されるＲＧＢ信号等の任意の色空間のカラー映像信号のほか、モノクロ画像信号や赤外線画像信号など、映像フレームが水平・垂直２次元のディジタルサンプル（画素）列から構成される任意の映像信号である。
各画素の階調は８ビットでもよいし、１０ビット、１２ビットなどの階調であってもよい。
また、入力信号は映像信号ではなく静止画像信号でもよいことは、静止画像信号を１フレームのみで構成される映像信号と解釈できることから当然である。
【００１１】
以下の説明においては、便宜上、特に断らない限り、入力される映像信号が、２つの色差成分Ｕ，Ｖが輝度成分Ｙに対して、縦横ともに２分の１にサブサンプルされたＹＵＶ４：２：０フォーマット、２つの色差成分Ｕ，Ｖが輝度成分Ｙに対して、横方向に２分の１にサブサンプルされたＹＵＶ４：２：２フォーマット、あるいは、２つの色差成分Ｕ，Ｖが輝度成分Ｙと同じサンプル数であるＹＵＶ４：４：４フォーマットの信号であるものとする。また、赤色（Ｒ）、緑色（Ｇ）、青色（Ｂ）の三原色の信号からなるＲＧＢ４：４：４フォーマットの色信号については、それぞれの色信号をＹＵＶ４：４：４フォーマットの色信号とみなしてＹＵＶ４：４：４フォーマットと同一の符号化を行う。ただし、ＲＧＢ４：４：４フォーマットの各色信号（ＲＧＢ）のＹＵＶ４：４：４フォーマットの各色信号（ＹＵＶ）への対応付けについては限定しない（任意に設定できる）。
この対応付けはインデックス情報として上位ヘッダで符号化して画像復号装置側で認識できるようにしてもよい。このようにすることで、画像復号装置によって復号した復号画像の色を復号された符号化データのみから認識することができ、正しく表示することができる。また、ＹＵＶ４：４：４フォーマット信号やＲＧＢ４：４：４フォーマット信号の場合、各色信号をモノクローム画像信号とみなしてそれぞれ独立にモノクローム（ＹＵＶ４：０：０）符号化してビットストリームを生成するようにしてもよい。
このようにすることで各信号並列に符号化処理を実施することができる。その際、各モノクローム信号がどの色信号であるかを示す情報をインデックス情報として上位ヘッダで符号化して画像復号装置側で認識できるようにしてもよい。このようにすることで、画像復号装置によって復号した復号画像の色を正しく表示することができる。
なお、上記では４：４：４フォーマット信号の各色信号をモノクローム画像信号とみなしてそれぞれ独立にモノクローム（ＹＵＶ４：０：０）符号化する場合について説明したが、実際にモノクローム画像信号を対象としてモノクローム符号化することも当然可能である。
また、上記ではＹＵＶ信号フォーマットやＲＧＢ信号フォーマットの場合について説明したが、その他の色信号のフォーマット（ＹＣｂＣｒや、ＸＹＺ等）においても同様に４：２：０、４：２：２、４：４：４フォーマットのいずれかであれば、ＹＵＶフォーマットと同様に符号化できる。ただし、対象とするフォーマットの各色信号がＹＵＶフォーマットにおいていずれの色信号に対応するかについては限定しない（任意に設定できる）。もちろん、ＲＧＢフォーマットの場合について上記で説明したように、色信号の対応付けはインデックス情報として上位ヘッダで符号化して画像復号装置側で認識できるようにしてもよい。
なお、映像の各フレームに対応する処理データ単位を「ピクチャ」と称し、この実施の形態１では、「ピクチャ」は順次走査（プログレッシブスキャン）された映像フレームの信号として説明を行う。ただし、映像信号がインタレース信号である場合、「ピクチャ」は映像フレームを構成する単位であるフィールド画像信号であってもよい。
【００１２】
図１において、符号化制御部１は符号化処理が実施される際の処理単位となる符号化ブロックの最大サイズを決定するとともに、最大サイズの符号化ブロックが階層的に分割される際の上限の階層数を決定することで、各々の符号化ブロックのサイズを決定する処理を実施する。
また、符号化制御部１は選択可能な１以上の符号化モード（予測処理単位を示す予測ブロックのサイズなどが異なる１以上のイントラ符号化モード、予測処理単位を示す予測ブロックのサイズなどが異なる１以上のイントラブロックコピー符号化モード、予測ブロックのサイズなどが異なる１以上のインター符号化モード）の中から、ブロック分割部３から出力される符号化ブロックに適用する符号化モードを選択する処理を実施する。
選択手法の例としては、選択可能な１以上の符号化モードの中から、ブロック分割部３から出力される符号化ブロックに対する符号化効率が最も高い符号化モードを選択する手法がある。
【００１３】
また、符号化制御部１は符号化効率が最も高い符号化モードがイントラ符号化モードである場合、そのイントラ符号化モードで符号化ブロックに対するイントラ予測処理を実施する際に用いるイントラ予測パラメータを上記イントラ符号化モードが示す予測処理単位である予測ブロック毎に決定し、符号化効率が最も高い符号化モードがイントラブロックコピー符号化モードである場合、そのイントラブロックコピー符号化モードで符号化ブロックに対するイントラブロックコピー予測処理を実施する際に用いるイントラブロックコピー予測パラメータを上記イントラブロックコピー符号化モードが示す予測処理単位である予測ブロック毎に決定し、符号化効率が最も高い符号化モードがインター符号化モードである場合、そのインター符号化モードで符号化ブロックに対する動き補償予測処理を実施する際に用いるインター予測パラメータを上記インター符号化モードが示す予測処理単位である予測ブロック毎に決定する処理を実施する。
なお、符号化制御部１は、色差信号については、予測ブロックに対して、イントラ予測処理、イントラブロックコピー予測処理、動き補償予測処理よりも、符号化済みの色信号を参照して、予測ブロックにおける色差信号の予測画像を生成する色信号間予測処理を実施する色信号間予測処理を実施する方が符号化効率が高くなるような場合、ブロック分割部３から出力される符号化ブロックに適用する符号化モード（イントラ符号化モード、イントラブロックコピー符号化モード、インター符号化モード）にかかわらず、予測処理として色信号間予測を実施するように、当該符号化ブロックに関わる後述する色信号間予測フラグをＯＮに設定する。
また、色信号間予測処理を実施するか否かの選択単位を符号化ブロック単位として、色信号間予測処理を実施する符号化モードとして色信号間予測モードを定義するようにしてもよい。このようにすることで、予測ブロック単位に色信号間予測フラグを設定する場合より、色信号間予測の選択に関する情報の符号量を削減することができる。
【００１４】
さらに、符号化制御部１は変換・量子化部９及び逆量子化・逆変換部１０に与える予測差分符号化パラメータを決定する処理を実施する。予測差分符号化パラメータには、符号化ブロックにおける直交変換処理単位となる変換ブロックの分割情報を示す変換ブロック分割情報や、変換係数の量子化を行う際の量子化ステップサイズを規定する量子化パラメータなどが含まれる。
【００１５】
ここで、図２０はＹＵＶ４：２：０フォーマットの信号における輝度信号及び色差信号の圧縮処理（変換処理、量子化処理）を実施する際の変換ブロックサイズを示す説明図である。
変換ブロックサイズは、図２０に示すように、符号化ブロックを四分木状に階層分割することによって決定される。
例えば、変換ブロックを分割する場合と変換ブロックを分割しない場合での符号量や、符号化誤差を加味した評価尺度などに基づいて、評価値が最小になるように変換ブロックを分割するか否かを決定することで、符号量と符号化誤差のトレードオフの観点から最適な変換ブロックの分割形状を決定することができる。
【００１６】
輝度信号については、例えば、図２０に示すように、符号化ブロックが１つ又は複数の正方形の変換ブロックに階層的に分割されるように構成する。
色差信号については、図２０に示すように、入力信号フォーマットがＹＵＶ４：２：０信号である場合、輝度信号と同様に、符号化ブロックが１つ又は複数の正方形の変換ブロックに階層的に分割されるように構成する。
この場合、色差信号の変換ブロックサイズは、対応する輝度信号の変換ブロックの縦横ともに半分のサイズとなる。
【００１７】
入力信号フォーマットがＹＵＶ４：２：２信号である場合、図２１に示すように、輝度信号と同様の四分木状の階層分割を行う。また、分割したブロックの形状が、垂直方向の画素数が水平方向の画素数の２倍になる長方形となるため、さらに、分割したブロックを上下に二分することで、ＹＵＶ４：２：０信号での色差信号と同じブロックサイズ（輝度信号の変換ブロックの縦横ともに半分のサイズ）の変換ブロック２つで構成するようにする。
【００１８】
また、入力信号フォーマットがＹＵＶ４：４：４信号である場合、図２２に示すように、色差信号の変換ブロックは、常に輝度信号の変換ブロックと同様の分割を行い、同じサイズの変換ブロックとなるように構成する。
輝度信号の変換ブロックの分割情報は、例えば、階層毎に分割するか否かを示す変換ブロック分割フラグとして可変長符号化部１５に出力する。
【００１９】
スライス分割部２は入力画像として映像信号を入力すると、その入力画像を符号化制御部１により決定されたスライス分割情報にしたがって１以上の“スライス”という部分画像に分割する処理を実施する。スライスの分割単位は、上述した符号化ブロック単位まで細かくすることができる。
【００２０】
ブロック分割部３はスライス分割部２により分割されたスライスを入力する毎に、そのスライスを符号化制御部１により決定された最大サイズの符号化ブロックである最大符号化ブロックに分割するとともに、符号化制御部１により決定された上限の階層数に至るまで、その最大符号化ブロックを階層的に各符号化ブロックへ分割する処理を実施する。
即ち、ブロック分割部３はスライスを符号化制御部１により決定された分割に応じて各符号化ブロックに分割して、その符号化ブロックを出力する処理を実施する。また、各符号化ブロックは予測処理単位となる１つないし複数の予測ブロックに分割される。
【００２１】
切換スイッチ４は符号化制御部１により決定された符号化モードがイントラ符号化モードであれば、ブロック分割部３から出力された符号化ブロックをイントラ予測部５に出力し、符号化制御部１により決定された符号化モードがイントラブロックコピー符号化モードであれば、ブロック分割部３から出力された符号化ブロックをイントラブロックコピー予測部６に出力し、符号化制御部１により決定された符号化モードがインター符号化モードであれば、ブロック分割部３から出力された符号化ブロックを動き補償予測部７に出力する処理を実施する。
【００２２】
イントラ予測部５は切換スイッチ４から出力された符号化ブロックに対応する符号化モードとして、符号化制御部１によりイントラ符号化モードが選択された場合、イントラ用メモリ１２に格納されている局所復号画像を参照しながら、符号化制御部１により決定されたイントラ予測パラメータを用いたイントラ予測処理（フレーム内予測処理）を実施してイントラ予測画像を生成する処理を実施する。
【００２３】
即ち、イントラ予測部５は、輝度信号については、輝度信号のイントラ予測パラメータを用いたイントラ予測処理（フレーム内予測処理）を実施して、輝度信号の予測画像を生成する。
一方、色差信号については、色差信号のイントラ予測パラメータが、輝度信号に対するイントラ予測モードと同じイントラ予測モードを用いる旨を示している場合（イントラ予測パラメータが輝度色差共通イントラ予測モード（ＤＭモード）を示している場合）、輝度信号と同じフレーム内予測を実施して、色差信号の予測画像を生成する。
図２４はＹＵＶ４：２：０フォーマットの信号において輝度信号と色差信号で同一の方向性予測を用いた場合を示し、図２５はＹＵＶ４：２：２フォーマットの信号において輝度信号と色差信号で同一の方向性予測を用いた場合を示している。
また、色差信号のイントラ予測パラメータが、垂直方向予測モード又は水平方向予測モードを示している場合、色差信号に対する方向性予測を実施して、色差信号の予測画像を生成する。
【００２４】
入力信号フォーマットがＹＵＶ４：２：２信号である場合、図２６に示すように、輝度信号が正方ブロックであれば、色差信号は輝度信号と比較して水平方向の画素数が１／２となる長方形のブロックとなる。したがって、図２７に示すように、ＹＵＶ４：４：４信号をＹＵＶ４：２：２信号に変換した際に、輝度信号と色差信号で同一方向の予測となるようにするためには、ＹＵＶ４：２：２信号上では、垂直方向予測と水平方向予測以外の方向性予測の場合には、色差信号の予測方向が輝度信号の予測方向と異なることとなる。
具体的には、図２８に示すように、輝度信号の予測方向ベクトルをｖＬ＝（ｄｘＬ，ｄｙＬ）とした場合、色差信号の予測方向ベクトルは、ｖＣ＝（ｄｘＬ／２，ｄｙＬ）となる。即ち、図２９に示すように、予測方向の角度をθとした場合、輝度信号の予測方向の角度をθＬ、色差信号の予測方向の角度をθＣとして、ｔａｎθＣ＝２ｔａｎθＬの関係となる予測方向で予測する必要がある。
【００２５】
したがって、輝度信号と色差信号で同一方向の予測を行う上記ＤＭモードを正しく実施できるようにするために、入力信号フォーマットがＹＵＶ４：２：２信号である場合、輝度信号に使用したイントラ予測モードのインデックスを色差信号の予測に用いるイントラ予測モードのインデックスに変換し、変換後のインデックスに対応するイントラ予測モードによる色差信号の予測処理を実施する。具体的には、インデックスの変換テーブルを用意し、その変換テーブルを参照することで、インデックスを変換するように構成してもよいし、予め変換式を用意して、その変換式に従ってインデックスを変換するように構成してもよい。
このように構成することで、方向性予測処理自体を変更することなく、インデックスの変換のみで、ＹＵＶ４：２：２信号のフォーマットに応じた色差信号の適切な予測を実施することができる。
【００２６】
イントラ予測部５は、輝度信号の予測画像の生成については常にイントラ予測処理を実施するが、色差信号の予測画像の生成については、各予測ブロックに対して、符号化制御部１により当該予測ブロックで色信号間予測を実施するか否かを示すフラグ（色信号間予測フラグ）が有効（ＯＮ）に設定されている場合、イントラ予測処理を実施せずに、符号化済みの色信号を参照して、予測ブロックにおける色差信号の予測画像を生成する色信号間予測処理を実施する。なお、イントラ予測部５はイントラ予測手段を構成している。
【００２７】
イントラブロックコピー予測部６は切換スイッチ４から出力された符号化ブロックに対応する符号化モードとして、符号化制御部１によりイントラブロックコピー符号化モードが選択された場合、その符号化ブロック内の予測ブロック（予測処理単位のブロック）が属している最大サイズの符号化ブロック（最大符号化ブロック）の中で、未だ局所復号が済んでいない領域内の各画素の画素値を所定の方法で仮定する処理を実施する。
また、イントラブロックコピー予測部６は符号化ブロック内の予測ブロック毎に、同一のピクチャ内で既に符号化が行われて局所復号が済んでいる領域の中から、当該予測ブロックと最も近似しているブロックである参照ブロックを探索して、その参照ブロックを当該予測ブロックの予測画像に決定する処理を実施する。
イントラブロックコピー予測部６は、輝度信号の予測画像の生成については常にイントラブロックコピー予測処理を実施するが、色差信号の予測画像の生成については、各予測ブロックに対して、符号化制御部１により当該予測ブロックの色信号間予測フラグがＯＮに設定されている場合、イントラブロックコピー予測処理を実施せずに、符号化済みの色信号を参照して、予測ブロックにおける色差信号の予測画像を生成する色信号間予測処理を実施する。なお、イントラブロックコピー予測部６はイントラブロックコピー予測手段を構成している。
【００２８】
動き補償予測部７は切換スイッチ４から出力された符号化ブロックに対応する符号化モードとして、符号化制御部１によりインター符号化モードが選択された場合、符号化ブロックと動き補償予測フレームメモリ１４に格納されている１フレーム以上の局所復号画像を比較して動きベクトルを探索し、その動きベクトルと符号化制御部１により決定された参照するフレーム番号などのインター予測パラメータを用いて、その符号化ブロックに対するインター予測処理（動き補償予測処理）を実施してインター予測画像を生成する処理を実施する。
動き補償予測部７は、輝度信号の予測画像の生成については常に動き補償予測処理を実施するが、色差信号の予測画像の生成については、各予測ブロックに対して、符号化制御部１により当該予測ブロックの色信号間予測フラグがＯＮに設定されている場合、動き補償予測処理を実施せずに、符号化済みの色信号を参照して、予測ブロックにおける色差信号の予測画像を生成する色信号間予測処理を実施する。なお、動き補償予測部７は動き補償予測手段を構成している。
【００２９】
この実施の形態１では、各予測ブロックに対して、符号化制御部１により当該予測ブロックの色信号間予測フラグがＯＮに設定されている場合、イントラ予測部５、イントラブロックコピー予測部６又は動き補償予測部７のいずれかが色信号間予測処理を実施することを想定しているが、色信号間予測処理を実施する予測部を別途設けるようにしてもよい。
イントラ予測部５、イントラブロックコピー予測部６又は動き補償予測部７が色信号間予測処理を実施するか否かの判断は、例えば、符号化制御部１から出力される色信号間予測パラメータに含まれている色信号間予測フラグ（色信号間予測処理を実施するか否かを示す予測ブロック単位のＯＮ／ＯＦＦ情報であり、ＯＮであれば色信号間予測処理の実施を明示し、ＯＦＦであれば色信号間予測処理の非実施を明示している）を参照することで行う。
【００３０】
したがって、イントラ予測部５は、色信号間予測パラメータに含まれている色信号間予測フラグがＯＮであれば色信号間予測処理を実施し、そのフラグがＯＦＦであればイントラ予測処理を実施する。
また、イントラブロックコピー予測部６は、色信号間予測パラメータに含まれている色信号間予測フラグがＯＮであれば色信号間予測処理を実施し、そのフラグがＯＦＦであればイントラブロックコピー予測処理を実施する。
また、動き補償予測部７は、色信号間予測パラメータに含まれている色信号間予測フラグがＯＮであれば色信号間予測処理を実施し、そのフラグがＯＦＦであれば動き補償予測処理を実施する。
色信号間予測パラメータは、符号化制御部１がイントラ予測パラメータ、イントラブロックコピー予測パラメータ又はインター予測パラメータを出力する際、これらの予測パラメータに含めるようにしてもよいし、これらの予測パラメータと別途に出力するようにしてもよい。
【００３１】
後述する可変長符号化部１５では、符号化制御部１から出力される色信号間予測パラメータを符号化して、可変長符号化して符号化データを生成する。
また、色差信号のイントラ予測パラメータ、イントラブロックコピー予測パラメータ及びインター予測パラメータについては、色信号間予測パラメータに含まれている色信号間予測フラグがＯＦＦである場合に限り、可変長符号化して符号化データを生成する。あるいは、色差信号のイントラ予測パラメータ、イントラブロックコピー予測パラメータ及びインター予測パラメータは輝度信号と同じとしても良い。すなわち、上記色信号間予測フラグがＯＦＦである場合、輝度信号のイントラ予測パラメータ、イントラブロックコピー予測パラメータ、インター予測パラメータを用いて色差信号の予測処理を実施する。このようにすることで、色差信号の予測に必要なパラメータを別途符号化しないで済むため、符号量を削減することができる。特にイントラブロックコピー予測及び動き補償予測については、一般に画像の絵柄や動きは色信号間で高い相関を有することから、色差信号の予測パラメータと輝度信号の予測パラメータを共通化することで符号量を削減しつつ高い予測効率が実現できる。
ここでは、予測ブロック単位に色信号間予測処理の実施の有無を選択しているが、符号化ブロック単位あるいは最大サイズの符号化ブロック単位に、色信号間予測処理の実施の有無を選択するようにしてもよい。このようにすることで色信号間予測処理の切り替え単位が大きくなって予測効率が低下するが、色信号間予測フラグの符号化に要する符号量を削減することができる。あるいは、変換ブロック単位に選択しても良い。このようにすることで符号化ブロックより細かい単位で制御ができるため、予測性能が向上する。このとき、予測ブロックの中に複数の変換ブロックが存在する場合は上記色信号間予測フラグがＯＮの変換ブロックのみ色信号間予測を実施し、上記色信号間予測フラグがＯＦＦの変換ブロックでは色差信号に対するイントラ予測、イントラブロックコピー予測あるいは動き補償予測を行う。
あるいは、色信号間予測フラグを切り替えるブロックサイズを最大サイズの符号化ブロック、符号化ブロック、予測ブロック、変換ブロックとは独立に設定しても良い。このようにすることで、色信号間予測処理に最適なブロックサイズを設定することができる。独立に設定するブロックサイズは四分木によって表現される分割情報で定めるようにしても良く、このようにすることで、画像の局所性質に応じてブロックサイズを変更することができる。本ブロックサイズ情報は符号化して、画像復号装置で復号することでわかるようにしても良いし、画像符号化装置と画像復号装置共通のサイズを予め固定サイズとして設定しても良い。
また、色信号間予測フラグは、２つの色差信号（Ｕ、Ｖ信号）で共通でもよいし、Ｕ信号とＶ信号で独立にフラグを持つようにしてもよい。Ｕ信号とＶ信号で相関の高い色信号（輝度信号または色差信号）が同じ場合は共通とすることで、色信号間予測フラグの符号量を削減しながら、高精度な予測を実現することができる。一方、Ｕ信号とＶ信号で相関の高い色信号（輝度信号または色差信号）が異なる場合には、Ｕ信号とＶ信号で独立にフラグを持つようにすることで、より適応的に色信号間予測処理の切り替えが可能になり、予測精度を改善することができる。
【００３２】
減算部８はブロック分割部３より出力された符号化ブロックから、イントラ予測部５により生成されたイントラ予測画像、イントラブロックコピー予測部６により生成されたイントラブロックコピー予測画像、又は、動き補償予測部７により生成されたインター予測画像を減算して、その減算結果である差分画像を示す予測差分信号を変換・量子化部９に出力する処理を実施する。
変換・量子化部９は符号化制御部１により決定された予測差分符号化パラメータに含まれる変換ブロック分割情報を参照して、減算部８から出力された予測差分信号に対する直交変換処理（例えば、ＤＣＴ（離散コサイン変換）やＤＳＴ（離散サイン変換）、予め特定の学習系列に対して基底設計がなされているＫＬ変換等の直交変換処理）を変換ブロック単位に実施して変換係数を算出するとともに、その予測差分符号化パラメータに含まれる量子化パラメータを参照して、その変換ブロック単位の変換係数を量子化し、量子化後の変換係数である圧縮データを逆量子化・逆変換部１０及び可変長符号化部１５に出力する処理を実施する。
【００３３】
変換・量子化部９は変換係数を量子化する際、上記量子化パラメータから算出される量子化ステップサイズを変換係数毎にスケーリングする量子化マトリクスを用いて、変換係数の量子化処理を実施するようにしてもよい。
ここで、図１０は４×４ＤＣＴの量子化マトリクスの一例を示す説明図である。
図中の数字は、各変換係数の量子化ステップサイズのスケーリング値を示している。
例えば、符号化ビットレートを抑制するために、図１０に示すように、高域の変換係数程、量子化ステップサイズを大きな値にスケーリングすることで、複雑な画像領域等で発生する高域の変換係数を抑制して符号量を抑えつつ、主観品質に大きく影響する低域の係数の情報を落とさずに符号化することができる。
このように、変換係数毎の量子化ステップサイズを制御したい場合には量子化マトリクスを用いればよい。
【００３４】
また、量子化マトリクスは、各直交変換サイズで色信号や符号化モード（イントラ符号化かインター符号化か）毎に独立したマトリクスを使用することができ、初期値として、画像符号化装置及び画像復号装置で予め共通に用意されている量子化マトリクスや既に符号化された量子化マトリクスの中から選択するか、新しい量子化マトリクスを用いるかをそれぞれ選択することができる。
したがって、変換・量子化部９は、各直交変換サイズに対して色信号や符号化モード毎に、新しい量子化マトリクスを用いるか否かを示すフラグを符号化すべき量子化マトリクスパラメータに設定する。
【００３５】
さらに、新しい量子化マトリクスを用いる場合には、図１０に示すような量子化マトリクスの各スケーリング値を符号化すべき量子化マトリクスパラメータに設定する。
一方、新しい量子化マトリクスを用いない場合には、初期値として、画像符号化装置及び画像復号装置で、予め共通に用意されている量子化マトリクス、又は、既に符号化された量子化マトリクスの中から、使用するマトリクスを特定するインデックスを符号化すべき量子化マトリクスパラメータに設定する。ただし、参照可能な既に符号化された量子化マトリクスが存在しない場合、画像符号化装置及び画像復号装置で予め共通に用意されている量子化マトリクスのみ選択可能となる。
【００３６】
逆量子化・逆変換部１０は符号化制御部１により決定された予測差分符号化パラメータに含まれる量子化パラメータ及び変換ブロック分割情報を参照して、変換ブロック単位に変換・量子化部９から出力された圧縮データを逆量子化するとともに、逆量子化後の圧縮データである変換係数に対する逆直交変換処理を実施して、減算部８から出力された予測差分信号に相当する局所復号予測差分信号を算出する処理を実施する。なお、変換・量子化部９が量子化マトリクスを用いて、量子化処理を実施している場合には、逆量子化処理時においても、その量子化マトリクスを参照して、対応する逆量子化処理を実施する。
加算部１１は逆量子化・逆変換部１０により算出された局所復号予測差分信号と、イントラ予測部５により生成されたイントラ予測画像、イントラブロックコピー予測部６により生成されたイントラブロックコピー予測画像、又は、動き補償予測部７により生成されたインター予測画像とを加算して、ブロック分割部３から出力された符号化ブロックに相当する局所復号画像を算出する処理を実施する。
【００３７】
イントラ用メモリ１２は加算部１１により算出された局所復号画像を格納する記録媒体である。
ループフィルタ部１３は加算部１１により算出された局所復号画像に対して、所定のフィルタ処理を実施して、フィルタ処理後の局所復号画像を出力する処理を実施する。
具体的には、変換ブロックの境界や予測ブロックの境界に発生する歪みを低減するフィルタ（デブロッキングフィルタ）処理、画素単位に適応的にオフセットを加算する（画素適応オフセット）処理、ウィーナフィルタ等の線形フィルタを適応的に切り替えてフィルタ処理する適応フィルタ処理などを行う。
【００３８】
ただし、ループフィルタ部１３は、上記のデブロッキングフィルタ処理、画素適応オフセット処理及び適応フィルタ処理のそれぞれについて、処理を行うか否かを決定し、各処理の有効フラグをヘッダ情報として可変長符号化部１５に出力する。なお、上記のフィルタ処理を複数使用する際は、各フィルタ処理を順番に実施する。図１１は複数のフィルタ処理を用いる場合のループフィルタ部１３の構成例を示している。
一般に使用するフィルタ処理の種類が多いほど、画像品質は向上するが、一方で処理負荷は高くなる。即ち、画像品質と処理負荷はトレードオフの関係にある。また、各フィルタ処理の画像品質改善効果はフィルタ処理対象画像の特性によって異なる。したがって、画像符号化装置が許容する処理負荷や符号化処理対象画像の特性にしたがって使用するフィルタ処理を決めればよい。例えば、図１１の構成よりも処理負荷を削減したい場合、デブロッキングフィルタ処理と画素適応オフセット処理のみで構成するといったことが考えられる。
【００３９】
ここで、デブロッキングフィルタ処理では、ブロック境界にかけるフィルタ強度の選択に用いる各種パラメータを初期値から変更することができる。変更する場合には、そのパラメータをヘッダ情報として可変長符号化部１５に出力する。
画素適応オフセット処理では、最初に、画像を複数のブロックに分割し、そのブロック単位に、オフセット処理を行わない場合もクラス分類手法の一つとして定義して、予め用意されている複数のクラス分類手法の中から、１つのクラス分類手法を選択する。
次に、選択したクラス分類手法によって、ブロック内の各画素をクラス分類し、クラス毎に符号化歪みを補償するオフセット値を算出する。
最後に、局所復号画像の画素値に対して、そのオフセット値を加算する処理を行うことで局所復号画像の画像品質を改善する。
したがって、画素適応オフセット処理では、ブロック分割情報、各ブロックのクラス分類手法を示すインデックス、ブロック単位の各クラスのオフセット値を特定するオフセット情報をヘッダ情報として可変長符号化部１５に出力する。
なお、画素適応オフセット処理において、例えば、最大符号化ブロックといった固定サイズのブロック単位に常に分割して、そのブロック毎にクラス分類手法を選択して、クラス毎の適応オフセット処理を行ってもよい。この場合、上記ブロック分割情報が不要となり、ブロック分割情報に要する符号量分だけ符号量が削減され、符号化効率を高めることができる。
【００４０】
適応フィルタ処理では、局所復号画像を所定の手法でクラス分類し、各クラスに属する領域（局所復号画像）毎に、重畳されている歪みを補償するフィルタを設計し、そのフィルタを用いて、当該局所復号画像のフィルタ処理を実施する。
そして、クラス毎に設計したフィルタをヘッダ情報として可変長符号化部１５に出力する。
クラス分類手法としては、画像を空間的に等間隔に区切る簡易な手法や、ブロック単位に画像の局所的な特性（分散など）に応じて分類する手法がある。
また、適応フィルタ処理で使用するクラス数は、予め画像符号化装置及び画像復号装置に共通の値として設定してもよいし、符号化すべきパラメータとしてもよい。
前者と比較して後者の方が、使用するクラス数を自由に設定することができるため、画像品質改善効果が上がるが、一方でクラス数を符号化するために、その分の符号量が増加する。
【００４１】
なお、画素適応オフセット処理及び適応フィルタ処理を行う場合には、図１１に示すように、映像信号をループフィルタ部１３で参照する必要があるため、映像信号がループフィルタ部１３に入力されるように、図１の画像符号化装置を変更する必要がある。
【００４２】
動き補償予測フレームメモリ１４はループフィルタ部１３のフィルタ処理後の局所復号画像を格納する記録媒体である。
可変長符号化部１５は変換・量子化部９から出力された圧縮データと、符号化制御部１の出力信号（最大符号化ブロック内のブロック分割情報、符号化モード、予測差分符号化パラメータ、イントラ予測パラメータ、イントラブロックコピー予測パラメータ、インター予測パラメータ、色信号間予測フラグを含む色信号間予測パラメータ）と、動き補償予測部７から出力された動きベクトル（符号化モードがインター符号化モードである場合）とを可変長符号化して符号化データを生成する処理を実施する。
また、可変長符号化部１５は、図１３に例示するように、符号化ビットストリームのヘッダ情報として、シーケンスレベルヘッダ、ピクチャレベルヘッダを符号化し、ピクチャデータと共に符号化ビットストリームを生成する処理を実施する。なお、可変長符号化部１５は符号化手段を構成している。
【００４３】
ただし、ピクチャデータは１以上のスライスデータから構成され、各スライスデータはスライスレベルヘッダと当該スライス内にある上記符号化データをまとめたものである。ピクチャデータはスライスデータの他に補足情報を示すヘッダ情報を含む場合もある。
シーケンスレベルヘッダは、画像サイズ、色信号フォーマット、輝度信号や色差信号の信号値のビット深度、シーケンス単位でのループフィルタ部１３における各フィルタ処理（適応フィルタ処理、画素適応オフセット処理、デブロッキングフィルタ処理）の有効フラグ、量子化マトリクスの有効フラグなど、一般的にシーケンス単位に共通となるヘッダ情報をまとめたものである。
ピクチャレベルヘッダは、参照するシーケンスレベルヘッダのインデックスや動き補償時の参照ピクチャ数、エントロピー符号化の確率テーブル初期化フラグ、対象ピクチャに対する有効フラグを含めた量子化マトリクスパラメータなど、ピクチャ単位で設定するヘッダ情報をまとめたものである。
【００４４】
スライスレベルヘッダは、当該スライスがピクチャのどの位置にあるかを示す位置情報、どのピクチャレベルヘッダを参照するかを示すインデックス、スライスの符号化タイプ（オールイントラ符号化、インター符号化など）、ループフィルタ部１３における各フィルタ処理（適応フィルタ処理、画素適応オフセット処理、デブロッキングフィルタ処理）を行うか否かを示すフラグなどのスライス単位のパラメータをまとめたものである。
【００４５】
ここでは、可変長符号化部１５が色信号間予測フラグを含む色信号間予測パラメータを可変長符号化する例を示しているが、シーケンスレベルヘッダ、ピクチャレベルヘッダ及びスライスレベルヘッダのうち、少なくとも１つのヘッダに色信号間予測処理を実施するか否かを示すフラグ（上位ヘッダ色信号間予測有効フラグ）を含めて符号化するようにしてもよい。このようにすることで、シーケンス、ピクチャ、あるいはスライス単位で、色信号間予測処理による高精度な予測が可能な領域（色信号間の相関が高い領域）である場合のみ有効とすることができる一方、色信号間予測処理の予測精度が低い領域は無効とすることで、色信号間予測処理に関する符号化パラメータを符号化せずに済み、符号量を削減することができる。上記上位ヘッダ色信号間予測有効フラグはイントラ予測、イントラブロックコピー予測、動き補償予測それぞれに用意しても良いし、共通としても良い。
例えば、イントラ予測部５で輝度信号のイントラ予測処理を行う場合のみ色信号間予測処理を有効とすることで、輝度信号について、その他の予測処理（イントラブロックコピー予測処理、動き補償予測処理）を行う場合には、色信号間予測処理に関する符号化パラメータを符号化せずに済み、符号量を削減することができると共に、イントラブロックコピー予測部６及び動き補償予測部７の構成を簡易化することができる。あるいは、上記上位ヘッダ色信号間予測有効フラグをイントラ予測、イントラブロックコピー予測、動き補償予測共通の情報として、色信号間予測の予測効率が高いスライスのみ有効とすることで、色信号間予測の予測効率が低い領域でのブロック単位の色信号間予測パラメータの符号化による符号量増加を回避することができる。
【００４６】
また、上記上位ヘッダ色信号間予測有効フラグについて、シーケンスレベルヘッダ、ピクチャレベルヘッダ及びスライスレベルヘッダのうち、２つ以上のヘッダで符号化する場合、優先度はスライスレベルヘッダ、ピクチャレベルヘッダ、シーケンスレベルヘッダの順となる。即ち、スライスレベルヘッダとピクチャレベルヘッダに上記フラグが存在する場合は、スライスレベルヘッダ内のフラグが優先され、ピクチャレベルヘッダ及びシーケンスレベルヘッダ内にフラグが存在する場合はピクチャレベルヘッダ内のフラグが優先される。
さらに、上記上位ヘッダ色信号間予測有効フラグについて、ピクチャを分割するサブピクチャの単位に設けるようにしても良い。具体的には、非特許文献１記載のＴｉｌｅやＷａｖｅｆｒｏｎｔ  Ｐａｒａｌｌｅｌ  Ｐｒｏｃｅｓｓｉｎｇのサブピクチャの分割単位に上記上位ヘッダ色信号間予測有効フラグを設けることで、色信号間予測が効果的な領域のみ有効とすることが可能となり符号量の増加を抑制しつつ高精度な予測が実現できる。
【００４７】
各ヘッダ情報とピクチャデータはＮＡＬユニットによって識別される。具体的には、シーケンスパラメータセット（上記シーケンスレベルヘッダに相当）、ピクチャパラメータヘッダ（上記ピクチャレベルヘッダに相当）、スライスデータはそれぞれ固有のＮＡＬユニットタイプとして定義され、ＮＡＬユニットタイプの識別情報（インデックス）と共に符号化される。補足情報についても、存在する場合には固有のＮＡＬユニットとして定義される。また、上記ピクチャデータはアクセスユニットとして定義され、スライスデータを示すＮＡＬユニットや補足情報を示すＮＡＬユニット等の当該ピクチャに関わるＮＡＬユニットをまとめた、各ピクチャのデータアクセスの単位を示している。
【００４８】
図１の例では、画像符号化装置の構成要素である符号化制御部１、スライス分割部２、ブロック分割部３、切換スイッチ４、イントラ予測部５、イントラブロックコピー予測部６、動き補償予測部７、減算部８、変換・量子化部９、逆量子化・逆変換部１０、加算部１１、イントラ用メモリ１２、ループフィルタ部１３、動き補償予測フレームメモリ１４及び可変長符号化部１５のそれぞれが専用のハードウェアで構成（イントラ用メモリ１２及び動き補償予測フレームメモリ１４以外の構成要素は、例えば、ＣＰＵを実装している半導体集積回路や、ワンチップマイコンなどで構成）されているものを想定しているが、画像符号化装置がコンピュータで構成されていてもよい。
画像符号化装置をコンピュータで構成する場合、イントラ用メモリ１２及び動き補償予測フレームメモリ１４をコンピュータのメモリ上に構成するとともに、符号化制御部１、スライス分割部２、ブロック分割部３、切換スイッチ４、イントラ予測部５、イントラブロックコピー予測部６、動き補償予測部７、減算部８、変換・量子化部９、逆量子化・逆変換部１０、加算部１１、ループフィルタ部１３及び可変長符号化部１５の処理内容を記述しているプログラムをコンピュータのメモリに格納し、当該コンピュータのＣＰＵが当該メモリに格納されているプログラムを実行するようにすればよい。
図２はこの発明の実施の形態１による画像符号化装置の処理内容（画像符号化方法）を示すフローチャートである。
【００４９】
図３はこの発明の実施の形態１による画像復号装置を示す構成図である。
図３において、可変長復号部３１は図１の画像符号化装置により生成された符号化ビットストリームを入力すると、そのビットストリームからシーケンスレベルヘッダ、ピクチャレベルヘッダ、スライスレベルヘッダなどの各ヘッダ情報とピクチャデータを復号する処理を実施する。
ただし、ピクチャデータは１以上のスライスデータから構成されており、各スライスデータはスライスレベルヘッダと当該スライス内にある符号化データがまとめられているものである。ピクチャデータはスライスデータの他に補足情報を示すヘッダ情報を含む場合もある。このとき、ＹＵＶ４：４：４フォーマット信号やＲＧＢ４：４：４フォーマット信号の各信号をモノクローム画像信号とみなしてそれぞれ独立にモノクローム（ＹＵＶ４：０：０）符号化していることを示す情報がヘッダ情報に含まれる場合、各色信号の符号化ビットストリームに対してそれぞれ独立に復号処理を実施することができる。
【００５０】
各ヘッダ情報とピクチャデータはＮＡＬユニットによって識別される。具体的には、シーケンスパラメータセット（上記シーケンスレベルヘッダに相当）、ピクチャパラメータヘッダ（上記ピクチャレベルヘッダに相当）、スライスデータはそれぞれ固有のＮＡＬユニットタイプとして定義され、ＮＡＬユニットタイプの識別情報（インデックス）を復号することで識別される。補足情報についても、存在する場合には固有のＮＡＬユニットとして識別される。また、ピクチャデータはスライスデータを示すＮＡＬユニットや補足情報を示すＮＡＬユニット等の当該ピクチャに関わるＮＡＬユニットをまとめたアクセスユニットとして識別される。
【００５１】
上記ヘッダ情報に含まれる量子化マトリクスの有効フラグが“有効”を示す場合、可変長復号部３１は量子化マトリクスパラメータを可変長復号し、量子化マトリクスを特定する。具体的には、各直交変換サイズの色信号や符号化モード毎に、量子化マトリクスパラメータが初期値として、画像符号化装置及び画像復号装置で予め共通に用意されている量子化マトリクス、又は、既に復号された量子化マトリクスである（新しい量子化マトリクスでない）ことを示す場合は、上記マトリクスの内のどの量子化マトリクスであるかを特定するインデックス情報を参照して量子化マトリクスを特定し、量子化マトリクスパラメータが新しい量子化マトリクスを用いることを示す場合は、量子化マトリクスパラメータに含まれる量子化マトリクスを使用する量子化マトリクスとして特定する。
【００５２】
また、可変長復号部３１は、スライスレベルヘッダを参照して、スライス分割状態を特定するとともに、各スライスのスライスデータを復号して、最大符号化ブロックの符号化データを特定すると共に、スライスデータに含まれるブロック分割情報を復号して、最大符号化ブロックを階層的に分割して復号処理を行う単位である符号化ブロックを特定し、各々の符号化ブロックに係る圧縮データ、符号化モード、イントラ予測パラメータ（符号化モードがイントラ符号化モードである場合）、イントラブロックコピー予測パラメータ（符号化モードがイントラブロックコピー符号化モードである場合）、インター予測パラメータ（符号化モードがインター符号化モードである場合）、動きベクトル（符号化モードがインター符号化モードである場合）、色信号間予測を実施するか否かのフラグ（色信号間予測フラグ）を含む色信号間予測パラメータ及び予測差分符号化パラメータを可変長復号する処理を実施する。
【００５３】
ここでは、可変長復号部３１が、各符号化ブロックに関わる色信号間予測パラメータを可変長復号する例を示したが、図１の画像符号化装置が、シーケンスレベルヘッダ、ピクチャレベルヘッダ、スライスレベルヘッダの内、少なくとも１つのヘッダに色信号間予測処理を実施するか否かを示すフラグ（上位ヘッダ色信号間予測有効フラグ）を含めて符号化している場合、可変長復号部３１が上記上位ヘッダ色信号間予測有効フラグを復号し、そのフラグがＯＮである場合（色信号間予測処理を実施する場合）のみ、対応するイントラ予測部３４、イントラブロックコピー予測部３５、動き補償予測部３６で色信号間予測処理を有効とし、色信号間予測処理が有効である符号化モードを示す符号化ブロックのみ当該符号化ブロックに関わる上記色信号間予測パラメータを可変長復号する。色信号間予測処理が有効でない符号化モードを示す符号化ブロックについては、この符号化ブロックに関わる上記色信号間予測パラメータは可変長復号されず、対応する上記色信号間予測フラグはＯＦＦ（色信号間予測を実施しない）に設定される。
ここで、上記上位ヘッダ色信号間予測有効フラグは、図１の画像符号化装置がイントラ予測、イントラブロックコピー予測、動き補償予測それぞれに用意している場合、対応する画像復号装置はそれぞれ個別に用意されたフラグを復号するように構成し、一方、図１の画像符号化装置がイントラ予測、イントラブロックコピー予測、動き補償予測共通で用意している場合、対応する画像復号装置はその共通のフラグを復号するように構成する。
ただし、図１の画像符号化装置が、色信号間予測処理の有効化に関する各フラグを、シーケンスレベルヘッダ、ピクチャレベルヘッダ、スライスレベルヘッダのうち、２つ以上のヘッダで符号化している場合、可変長復号部３１によって復号されたフラグについて、スライスレベルヘッダ、ピクチャレベルヘッダ、シーケンスレベルヘッダの順に優先度を設定する。
即ち、スライスレベルヘッダとピクチャレベルヘッダ内にフラグが存在する場合はスライスレベルヘッダ内のフラグが優先され、ピクチャレベルヘッダとシーケンスレベルヘッダ内にフラグが存在する場合はピクチャレベルヘッダ内のフラグが優先される。
また、上記上位ヘッダ色信号間予測有効フラグについて、図１の画像符号化装置がピクチャを分割するサブピクチャの単位に上記上位ヘッダ色信号間予測有効フラグを設けるように構成している場合、対応する画像復号装置はサブピクチャの単位に復号するように構成する。このようにすることで、サブピクチャ単位の色信号間予測の有効・無効制御を行っている画像符号化装置の符号化ビットストリームを正しく復号することができる。
【００５４】
逆量子化・逆変換部３２は可変長復号部３１により可変長復号された予測差分符号化パラメータに含まれる量子化パラメータ及び変換ブロック分割情報を参照して、可変長復号部３１により可変長復号された圧縮データを変換ブロック単位に逆量子化するとともに、逆量子化後の圧縮データである変換係数に対する逆直交変換処理を実施して、図１の逆量子化・逆変換部１０から出力された局所復号予測差分信号と同一の復号予測差分信号を算出する処理を実施する。
ここで、上記変換ブロック分割情報から、符号化ブロックにおける変換ブロックの分割状態を特定する。例えば、ＹＵＶ４：２：０フォーマットの信号の場合、変換ブロックサイズは、図２０に示すように、符号化ブロックを四分木状に階層分割することによって決定される。
【００５５】
輝度信号については、例えば、図２０に示すように、符号化ブロックが１つ又は複数の正方形の変換ブロックに階層的に分割されるように構成する。
色差信号については、図２０に示すように、入力信号フォーマットがＹＵＶ４：２：０信号である場合、輝度信号と同様に、符号化ブロックが１つ又は複数の正方形の変換ブロックに階層的に分割されるように構成する。この場合、色差信号の変換ブロックサイズは、対応する輝度信号の変換ブロックの縦横ともに半分のサイズとなる。
【００５６】
入力信号フォーマットがＹＵＶ４：２：２信号である場合、図２１に示すように、輝度信号と同様の四分木状の階層分割を行う。また、分割したブロックの形状が、垂直方向の画素数が水平方向の画素数の２倍になる長方形となるため、さらに、分割したブロックを上下に二分することで、ＹＵＶ４：２：０信号での色差信号と同じブロックサイズ（輝度信号の変換ブロックの縦横ともに半分のサイズ）の変換ブロック２つで構成するようにする。
入力信号フォーマットがＹＵＶ４：４：４信号である場合、図２２に示すように、色差信号の変換ブロックは、常に輝度信号の変換ブロックと同様の分割を行い、同じサイズの変換ブロックとなるように構成する。
【００５７】
また、可変長復号部３１により可変長復号された各ヘッダ情報が、当該スライスで量子化マトリクスを用いて、逆量子化処理を実施することを示している場合、量子化マトリクスを用いて逆量子化処理を行う。
具体的には、各ヘッダ情報から特定される量子化マトリクスを用いて逆量子化処理を行う。
【００５８】
切換スイッチ３３は可変長復号部３１により可変長復号された符号化モードがイントラ符号化モードであれば、可変長復号部３１により可変長復号されたイントラ予測パラメータをイントラ予測部３４に出力し、可変長復号部３１により可変長復号された符号化モードがイントラブロックコピー符号化モードであれば、可変長復号部３１により可変長復号されたイントラブロックコピー予測パラメータをイントラブロックコピー予測部３５に出力し、可変長復号部３１により可変長復号された符号化モードがインター符号化モードであれば、可変長復号部３１により可変長復号されたインター予測パラメータ及び動きベクトルを動き補償予測部３６に出力する処理を実施する。
【００５９】
イントラ予測部３４は可変長復号部３１により可変長復号されたブロック分割情報から特定される符号化ブロックに係る符号化モードがイントラ符号化モードである場合、イントラ用メモリ３８に格納されている復号画像を参照しながら、切換スイッチ３３から出力されたイントラ予測パラメータを用いたイントラ予測処理（フレーム内予測処理）を実施してイントラ予測画像を生成する処理を実施する。
【００６０】
即ち、イントラ予測部３４は、輝度信号については、輝度信号に対する上記イントラ予測パラメータを用いたイントラ予測処理（フレーム内予測処理）を実施して、輝度信号の予測画像を生成する。
一方、色差信号については、各予測ブロックに対して、当該予測ブロックの上記色信号間予測フラグがＯＦＦである（色信号間予測処理の非実施を明示している）場合、イントラ予測処理を実施する。
このとき、色差信号のイントラ予測パラメータが、輝度信号に対するイントラ予測モードと同じ予測モードを用いる旨を示している場合（イントラ予測パラメータが輝度色差共通イントラ予測モード（ＤＭモード）を示している場合）、輝度信号と同じフレーム内予測を実施して、色差信号の予測画像を生成する。
また、色差信号のイントラ予測パラメータが、垂直方向予測モード又は水平方向予測モードを示している場合、色差信号に対する方向性予測を実施して、色差信号の予測画像を生成する。
【００６１】
入力信号フォーマットがＹＵＶ４：２：２信号である場合、図２６に示すように、輝度信号が正方ブロックであれば、色差信号は輝度信号と比較して水平方向の画素数が１／２となる長方形のブロックとなる。したがって、図２７に示すように、ＹＵＶ４：４：４信号をＹＵＶ４：２：２信号に変換した際に、輝度信号と色差信号で同一方向の予測となるようにするためには、ＹＵＶ４：２：２信号上では、垂直方向予測と水平方向予測以外の方向性予測の場合には、色差信号の予測方向が輝度信号の予測方向と異なることとなる。
具体的には、図２８に示すように、輝度信号の予測方向ベクトルをｖＬ＝（ｄｘＬ，ｄｙＬ）とした場合、色差信号の予測方向ベクトルは、ｖＣ＝（ｄｘＬ／２，ｄｙＬ）となる。即ち、図２９に示すように、予測方向の角度をθとした場合、輝度信号の予測方向の角度をθＬ、色差信号の予測方向の角度をθＣとして、ｔａｎθＣ＝２ｔａｎθＬの関係となる予測方向で予測する必要がある。
【００６２】
したがって、輝度信号と色差信号で同一方向の予測を行う上記ＤＭモードを正しく実施できるようにするために、入力信号フォーマットがＹＵＶ４：２：２信号である場合、輝度信号に使用したイントラ予測モードのインデックスを色差信号の予測に用いるイントラ予測モードのインデックスに変換し、変換後のインデックスに対応するイントラ予測モードによる色差信号の予測処理を実施する。具体的には、インデックスの変換テーブルを用意し、その変換テーブルを参照することで、インデックスを変換するように構成してもよいし、予め変換式を用意して、その変換式に従ってインデックスを変換するように構成してもよい。
このように構成することで、方向性予測処理自体を変更することなく、インデックスの変換のみで、ＹＵＶ４：２：２信号のフォーマットに応じた色差信号の適切な予測を実施することができる。
【００６３】
イントラ予測部３４は、輝度信号の予測画像の生成については常にイントラ予測処理を実施するが、色差信号の予測画像の生成については、各予測ブロックに対して、当該予測ブロックの色信号間予測フラグがＯＮである場合（色信号間予測処理の実施を明示している場合）、イントラ予測処理を実施せずに、符号化済みの色信号を参照して、予測ブロックにおける色差信号の予測画像を生成する色信号間予測処理を実施する。なお、イントラ予測部３４はイントラ予測手段を構成している。
【００６４】
イントラブロックコピー予測部３５は可変長復号部３１により可変長復号されたブロック分割情報から特定される符号化ブロックに係る符号化モードがイントラブロックコピー符号化モードである場合、その符号化ブロック内の予測ブロックが属している最大符号化ブロックの中で、未だ復号が済んでいない領域内の各画素の画素値を所定の方法で仮定する処理を実施する。
また、イントラブロックコピー予測部３５は符号化ブロック内の予測ブロック毎に、同一のピクチャ内で既に復号が済んでいる領域の中から、当該予測ブロックと最も近似しているブロックである参照ブロックを探索して、その参照ブロックを当該予測ブロックの予測画像に決定する処理を実施する。
イントラブロックコピー予測部３５は、輝度信号の予測画像の生成については常にイントラブロックコピー予測処理を実施するが、色差信号の予測画像の生成については、各予測ブロックに対して、当該予測ブロックの色信号間予測フラグがＯＮである場合（色信号間予測処理の実施を明示している場合）、イントラブロックコピー予測処理を実施せずに、符号化済みの色信号を参照して、予測ブロックにおける色差信号の予測画像を生成する色信号間予測処理を実施する。なお、イントラブロックコピー予測部３５はイントラブロックコピー予測手段を構成している。
【００６５】
動き補償予測部３６は可変長復号部３１により可変長復号されたブロック分割情報から特定される符号化ブロックに係る符号化モードがインター符号化モードである場合、動き補償予測フレームメモリ４０に格納されている復号画像を参照しながら、切換スイッチ３３から出力された動きベクトルとインター予測パラメータを用いたインター予測処理（動き補償予測処理）を実施してインター予測画像を生成する処理を実施する。
動き補償予測部３６は、輝度信号の予測画像の生成については常に動き補償予測処理を実施するが、色差信号の予測画像の生成については、各予測ブロックに対して、当該予測ブロックの色信号間予測フラグがＯＮである場合（色信号間予測処理の実施を明示している場合）、動き補償予測処理を実施せずに、符号化済みの色信号を参照して、予測ブロックにおける色差信号の予測画像を生成する色信号間予測処理を実施する。なお、動き補償予測部３６は動き補償予測手段を構成している。
【００６６】
この実施の形態１では、可変長復号部３１により可変長復号された色信号間予測パラメータに含まれている色信号間予測フラグがＯＮである場合、イントラ予測部３４、イントラブロックコピー予測部３５又は動き補償予測部３６のいずれかが色信号間予測処理を実施することを想定しているが、色信号間予測処理を実施する予測部を別途設けるようにしてもよい。
また、この実施の形態１では、色信号間予測パラメータに含まれている色信号間予測フラグを参照して、色信号間予測処理の実施の有無を選択しているが、図１の画像符号化装置が、符号化ブロック単位あるいは最大サイズの符号化ブロック単位でフラグを符号化している場合、対応する画像復号装置では、図１の画像符号化装置と同じ単位でフラグを復号することで、図１の画像符号化装置と同じ単位に、色信号間予測処理の実施の有無を識別する。このようにすることで、正しく符号化パラメータを復号することができる。
あるいは、図１の画像符号化装置が、変換ブロック単位に色信号間予測フラグを符号化するように構成している場合、対応する画像復号装置も変換ブロック単位の色信号間予測フラグを復号するように構成する。このとき、予測ブロックの中に複数の変換ブロックが存在する場合は上記色信号間予測フラグがＯＮの変換ブロックのみ色信号間予測を実施し、上記色信号間予測フラグがＯＦＦの変換ブロックでは色差信号に対するイントラ予測、イントラブロックコピー予測あるいは動き補償予測を行う。
また、色信号間予測フラグは、図１の画像符号化装置が２つの色差信号（Ｕ、Ｖ信号）で共通とするように構成する場合、画像復号装置では、可変長復号部３１により２つの色差信号（Ｕ、Ｖ信号）で共通のフラグを復号する。
一方、図１の画像符号化装置がＵ信号とＶ信号で独立に色信号間予測フラグを持つように構成する場合、画像復号装置では、可変長復号部３１によりＵ信号のフラグとＶ信号のフラグを別々に復号する。このようにすることで正しく符号化パラメータを復号することができる。
【００６７】
加算部３７は逆量子化・逆変換部３２により算出された復号予測差分信号と、イントラ予測部３４により生成されたイントラ予測画像、イントラブロックコピー予測部３５により生成されたイントラブロックコピー予測画像、又は、動き補償予測部３６により生成されたインター予測画像とを加算して、図１の加算部１１から出力された局所復号画像と同一の復号画像を算出する処理を実施する。
【００６８】
イントラ用メモリ３８は加算部３７により算出された復号画像をイントラ予測処理及びイントラブロックコピー予測処理で用いる参照画像として格納する記録媒体である。
ループフィルタ部３９は加算部３７により算出された復号画像に対して、所定のフィルタ処理を実施して、フィルタ処理後の復号画像を出力する処理を実施する。
具体的には、変換ブロックの境界や予測ブロックの境界に発生する歪みを低減するフィルタ（デブロッキングフィルタ）処理、画素単位に適応的にオフセットを加算する（画素適応オフセット）処理、ウィーナフィルタ等の線形フィルタを適応的に切り替えてフィルタ処理する適応フィルタ処理などを行う。
ただし、ループフィルタ部３９は、上記のデブロッキングフィルタ処理、画素適応オフセット処理、適応フィルタ処理のそれぞれについて、可変長復号部３１により可変長復号された各ヘッダ情報を参照して、当該スライスで行うか否かを特定する。
このとき、２つ以上のフィルタ処理を行う場合において、例えば、画像符号化装置のループフィルタ部１３が図１１のように構成されていれば、図１２に示すようにループフィルタ部３９が構成される。当然、画像符号化装置のループフィルタ部１３がデブロッキングフィルタ処理と画素適応オフセット処理から構成されていれば、ループフィルタ部３９もデブロッキングフィルタ処理と画素適応オフセット処理で構成される。
【００６９】
ここで、デブロッキングフィルタ処理では、可変長復号部３１により可変長復号されたヘッダ情報を参照し、ブロック境界にかけるフィルタ強度の選択に用いる各種パラメータを初期値から変更する情報が存在する場合、その変更情報に基づいて、デブロッキングフィルタ処理を実施する。変更情報がない場合は、予め定められた手法に従って行う。
【００７０】
画素適応オフセット処理では、可変長復号部３１により可変長復号された画素適応オフセット処理のブロック分割情報に基づいて復号画像を分割し、そのブロック単位に、可変長復号部３１により可変長復号されたブロック単位のクラス分類手法を示すインデックスを参照して、そのインデックスが“オフセット処理を行わない”ことを示すインデックスでない場合、ブロック単位にブロック内の各画素を上記インデックスが示すクラス分類手法に従ってクラス分類する。
なお、クラス分類手法の候補として、ループフィルタ部１３の画素適応オフセット処理のクラス分類手法の候補と同一のものが予め用意されている。
そして、ブロック単位の各クラスのオフセット値を特定するオフセット情報を参照して、復号画像の画素値にオフセットを加算する処理を行う。
【００７１】
ただし、画像符号化装置のループフィルタ部１３の画素適応オフセット処理において、ブロック分割情報は符号化せずに、常に画像を固定サイズのブロック単位（例えば、最大符号化ブロック単位）に分割し、そのブロック毎にクラス分類手法を選択して、クラス毎の適応オフセット処理を行うように構成されている場合、ループフィルタ部３９においても、ループフィルタ部１３と同一の固定サイズのブロック単位に画素適応オフセット処理を実施する。
【００７２】
適応フィルタ処理では、可変長復号部３１により可変長復号されたクラス毎のフィルタを用いて、図１の画像符号化装置と同一の手法でクラス分類した後に、そのクラス分類情報に基づいてフィルタ処理を行う。
動き補償予測フレームメモリ４０はループフィルタ部３９のフィルタ処理後の復号画像をインター予測処理（動き補償予測処理）で用いる参照画像として格納する記録媒体である。
【００７３】
図３の例では、画像復号装置の構成要素である可変長復号部３１、逆量子化・逆変換部３２、切換スイッチ３３、イントラ予測部３４、イントラブロックコピー予測部３５、動き補償予測部３６、加算部３７、イントラ用メモリ３８、ループフィルタ部３９及び動き補償予測フレームメモリ４０のそれぞれが専用のハードウェアで構成（イントラ用メモリ３８及び動き補償予測フレームメモリ４０以外の構成要素は、例えば、ＣＰＵを実装している半導体集積回路や、ワンチップマイコンなどで構成）されているものを想定しているが、画像復号装置がコンピュータで構成されていてもよい。
画像復号装置をコンピュータで構成する場合、イントラ用メモリ３８及び動き補償予測フレームメモリ４０をコンピュータのメモリ上に構成するとともに、可変長復号部３１、逆量子化・逆変換部３２、切換スイッチ３３、イントラ予測部３４、イントラブロックコピー予測部３５、動き補償予測部３６、加算部３７及びループフィルタ部３９の処理内容を記述しているプログラムをコンピュータのメモリに格納し、当該コンピュータのＣＰＵが当該メモリに格納されているプログラムを実行するようにすればよい。
図４はこの発明の実施の形態１による画像復号装置の処理内容（画像復号方法）を示すフローチャートである。
【００７４】
次に動作について説明する。
この実施の形態１では、映像の各フレーム画像を入力画像として、符号化済みの近傍画素からのイントラ予測又は近接フレーム間での動き補償予測を実施して、得られた予測差分信号に対して直交変換・量子化による圧縮処理を施し、その後、可変長符号化を行って符号化ビットストリームを生成する画像符号化装置と、その画像符号化装置から出力される符号化ビットストリームを復号する画像復号装置について説明する。
【００７５】
図１の画像符号化装置は、映像信号の空間・時間方向の局所的な変化に適応して、映像信号を多様なサイズのブロックに分割して、フレーム内・フレーム間適応符号化を行うことを特徴としている。
一般的に、映像信号は、空間・時間的に信号の複雑さが局所的に変化する特性を有している。空間的に見ると、ある映像フレーム上では、例えば、空や壁などのような比較的広い画像領域中で均一な信号特性を有する絵柄もあれば、人物や細かいテクスチャを含む絵画など、小さい画像領域内で複雑なテクスチャパターンを有する絵柄も混在することがある。
時間的に見ても、空や壁は局所的に時間方向の絵柄の変化は小さいが、動く人物や物体は、その輪郭が時間的に剛体・非剛体の運動をするため、時間的な変化が大きい。
【００７６】
符号化処理は、時間・空間的な予測によって、信号電力やエントロピーの小さい予測差分信号を生成して、全体の符号量を削減する処理を行うが、予測に用いるパラメータをできるだけ大きな画像信号領域に均一に適用できれば、当該パラメータの符号量を小さくすることができる。
一方、時間的・空間的に変化の大きい画像信号パターンに対して、同一の予測パラメータを大きな画像領域に適用すると、予測の誤りが増えてしまうため、予測差分信号の符号量が増加してしまう。
したがって、時間的・空間的に変化が大きい領域では、同一の予測パラメータを適用して予測処理を行うブロックサイズを小さくして、予測に用いるパラメータのデータ量を増やし、予測差分信号の電力・エントロピーを低減する方が望ましい。
【００７７】
この実施の形態１では、このような映像信号の一般的な性質に適応した符号化を行うため、最初に所定の最大ブロックサイズから予測処理等を開始し、階層的に映像信号の領域を分割し、分割した領域毎に予測処理や、その予測差分の符号化処理を適応化させる構成をとるようにしている。
【００７８】
最初に、図１の画像符号化装置の処理内容を説明する。
まず、符号化制御部１は、符号化対象となるピクチャ（カレントピクチャ）のスライス分割状態を決めると共に、ピクチャの符号化に用いる最大符号化ブロックのサイズと、最大符号化ブロックを階層分割する階層数の上限を決定する（図２のステップＳＴ１）。
最大符号化ブロックのサイズの決め方としては、例えば、入力画像の映像信号の解像度に応じて、全てのピクチャに対して同一のサイズを定めてもよいし、入力画像の映像信号の局所的な動きの複雑さの違いをパラメータとして定量化して、動きの激しいピクチャには、小さいサイズを定める一方、動きが少ないピクチャには、大きいサイズを定めるようにしてもよい。
【００７９】
分割階層数の上限の決め方としては、例えば、入力画像の映像信号の解像度に応じて、全てのピクチャに対して同一の階層数を定める方法や、入力画像の映像信号の動きが激しい場合には、階層数を深くして、より細かい動きが検出できるように設定し、動きが少ない場合には、階層数を抑えるように設定する方法などがある。
なお、上記最大符号化ブロックのサイズと、最大符号化ブロックを階層分割する階層数の上限は、シーケンスレベルヘッダなどで符号化する。その場合、分割階層数の上限の代わりに、符号化ブロックの最小ブロックサイズを符号化するようにしてもよい。即ち、最大符号化ブロックを分割階層数の上限まで分割したときのブロックのサイズが、符号化ブロックの最小ブロックサイズであるため、画像復号装置側において、最大符号化ブロックのサイズと符号化ブロックの最小ブロックサイズから分割階層数の上限を特定することができる。
【００８０】
また、符号化制御部１は、利用可能な１以上の符号化モードの中から、階層的に分割される各々の符号化ブロックに対応する符号化モードを選択する（ステップＳＴ２）。
即ち、符号化制御部１は、最大符号化ブロックサイズの画像領域毎に、先に定めた分割階層数の上限に至るまで、階層的に符号化ブロックサイズを有する符号化ブロックに分割して、各々の符号化ブロックに対する符号化モードを決定する。
符号化モードには、１つないし複数のイントラ符号化モード（総称して「ＩＮＴＲＡ」と称する）と、１つないし複数のイントラブロックコピー符号化モード（総称して「ＩＣＯＰＹ」と称する）と、１つないし複数のインター符号化モード（総称して、「ＩＮＴＥＲ」と称する）とがあり、符号化制御部１は、当該ピクチャで利用可能な全ての符号化モード、又は、そのサブセットの中から、各々の符号化ブロックに対応する符号化モードを選択する。
【００８１】
ただし、後述するブロック分割部３により階層的に分割される各々の符号化ブロックは、さらに予測処理を行う単位である１つないし複数の予測ブロックに分割され、予測ブロックの分割状態も符号化モードの中に情報として含まれる。即ち、符号化モードは、どのような予測ブロック分割を持つイントラ符号化モード、イントラブロックコピー符号化モード又はインター符号化モードかを識別するインデックスである。
符号化制御部１による符号化モードの選択方法は、公知の技術であるため詳細な説明を省略するが、例えば、利用可能な任意の符号化モードを用いて、符号化ブロックに対する符号化処理を実施して符号化効率を検証し、利用可能な複数の符号化モードの中で、最も符号化効率がよい符号化モードを選択する方法などがある。
【００８２】
また、符号化制御部１は、各々の符号化ブロック毎に、差分画像が圧縮される際に用いられる量子化パラメータ及び変換ブロック分割状態を決定するとともに、予測処理が実施される際に用いられる予測パラメータ（イントラ予測パラメータ、イントラブロックコピー予測パラメータ、インター予測パラメータ又は色信号間予測パラメータ）を決定する。
ただし、符号化ブロックがさらに予測処理を行う予測ブロック単位に分割される場合は、予測ブロック毎に予測パラメータ（イントラ予測パラメータ、イントラブロックコピー予測パラメータ、インター予測パラメータ又は色信号間予測パラメータ）を選択する。
【００８３】
ここで、図２０は４：２：０フォーマットの信号における輝度信号及び色差信号の圧縮処理（変換処理、量子化処理）を実施する際の変換ブロックサイズを示す説明図である。
変換ブロックサイズは、図２０に示すように、符号化ブロックを四分木状に階層分割することによって決定される。
例えば、変換ブロックを分割する場合と変換ブロックを分割しない場合での符号量や、符号化誤差を加味した評価尺度などに基づいて、評価値が最小になるように変換ブロックを分割するか否かを決定することで、符号量と符号化誤差のトレードオフの観点から最適な変換ブロックの分割形状を決定することができる。
【００８４】
輝度信号については、例えば、図２０に示すように、符号化ブロックが１つ又は複数の正方形の変換ブロックに階層的に分割されるように構成する。
色差信号については、図２０に示すように、入力信号フォーマットがＹＵＶ４：２：０信号である場合、輝度信号と同様に、符号化ブロックが１つ又は複数の正方形の変換ブロックに階層的に分割されるように構成する。この場合、色差信号の変換ブロックサイズは、対応する輝度信号の変換ブロックの縦横ともに半分のサイズとなる。
【００８５】
入力信号フォーマットがＹＵＶ４：２：２信号である場合、図２１に示すように、輝度信号と同様の四分木状の階層分割を行う。また、分割したブロックの形状が、垂直方向の画素数が水平方向の画素数の２倍になる長方形となるため、さらに、分割したブロックを上下に二分することで、ＹＵＶ４：２：０信号での色差信号と同じブロックサイズ（輝度信号の変換ブロックの縦横ともに半分のサイズ）の変換ブロック２つで構成するようにする。
また、入力信号フォーマットがＹＵＶ４：４：４信号である場合、図２２に示すように、色差信号の変換ブロックは、常に輝度信号の変換ブロックと同様の分割を行い、同じサイズの変換ブロックとなるように構成する。
【００８６】
符号化制御部１は、符号化ブロックにおける変換ブロックの分割情報を示す変換ブロック分割情報や、変換係数の量子化を行う際の量子化ステップサイズを規定する量子化パラメータなどを含む予測差分符号化パラメータを変換・量子化部９、逆量子化・逆変換部１０及び可変長符号化部１５に出力する。
また、符号化制御部１は、符号化モードとして、イントラ予測モードを選択している場合、輝度信号については輝度信号のイントラ予測パラメータをイントラ予測部５に出力し、色差信号については、色信号間予測処理を実施するか否かの色信号間予測フラグを含む色信号間予測パラメータをイントラ予測部５に出力する。さらに、上記色信号間予測フラグがＯＦＦである場合、色差信号のイントラ予測パラメータをイントラ予測部５に出力する。
ただし、常に輝度信号と色差信号で共通のイントラ予測パラメータを用いるように画像符号化装置を構成する場合、色差信号のイントラ予測パラメータはイントラ予測部５に出力する必要はない。
【００８７】
また、符号化制御部１は、符号化モードとして、イントラブロックコピー予測モードを選択している場合、輝度信号については輝度信号のイントラブロックコピー予測パラメータをイントラブロックコピー予測部６に出力し、色差信号については、色信号間予測を実施するか否かの色信号間予測フラグを含む色信号間予測パラメータをイントラブロックコピー予測部６に出力する。さらに、上記色信号間予測フラグがＯＦＦである場合、色差信号のイントラブロックコピー予測パラメータをイントラブロックコピー予測部６に出力する。
ただし、常に輝度信号と色差信号で共通のイントラブロックコピー予測パラメータを用いるように画像符号化装置を構成する場合、色差信号のイントラブロックコピー予測パラメータはイントラブロックコピー予測部６に出力する必要はない。
【００８８】
また、符号化制御部１は、符号化モードとして、インター予測モードを選択している場合、輝度信号については輝度信号のインター予測パラメータを動き補償予測部７に出力し、色差信号については、色信号間予測を実施するか否かの色信号間予測フラグを含む色信号間予測パラメータを動き補償予測部７に出力する。さらに、上記色信号間予測フラグがＯＦＦである場合、色差信号のインター予測パラメータを動き補償予測部７に出力する。
ただし、常に輝度信号と色差信号で共通のインター予測パラメータを用いるように画像符号化装置を構成する場合、色差信号のインター予測パラメータは動き補償部７に出力する必要はない。
【００８９】
スライス分割部２は、入力画像として映像信号を入力すると、その入力画像を符号化制御部１により決定されたスライス分割情報にしたがって１以上の部分画像であるスライスに分割する。
ブロック分割部３は、スライス分割部２から各スライスを入力する毎に、そのスライスを符号化制御部１により決定された最大符号化ブロックサイズに分割し、さらに、分割した最大符号化ブロックを符号化制御部１により決定された符号化ブロックへ階層的に分割して、その符号化ブロックを出力する。
【００９０】
ここで、図５は最大符号化ブロックが階層的に複数の符号化ブロックに分割される例を示す説明図である。
図５において、最大符号化ブロックは、「第０階層」と記されている輝度成分が（Ｌ０，Ｍ０）のサイズを有する符号化ブロックである。
最大符号化ブロックを出発点として、４分木構造で別途定める所定の深さまで、階層的に分割を行うことによって符号化ブロックを得るようにしている。
深さｎにおいては、符号化ブロックはサイズ（Ｌｎ，Ｍｎ）の画像領域である。
ただし、ＬｎとＭｎは、同じであってもよいし、異なっていてもよいが、図５では、Ｌｎ＝Ｍｎのケースを示している。
【００９１】
以降、符号化制御部１により決定される符号化ブロックサイズは、符号化ブロックの輝度成分におけるサイズ（Ｌｎ，Ｍｎ）と定義する。
４分木分割を行うため、常に、（Ｌｎ＋１，Ｍｎ＋１）＝（Ｌｎ／２，Ｍｎ／２）が成立する。
なお、ＲＧＢ信号など、全ての色成分が同一サンプル数を有するカラー映像信号（４：４：４フォーマット）では、全ての色成分のサイズが（Ｌｎ，Ｍｎ）になるが、４：２：０フォーマットを扱う場合、対応する色差成分の符号化ブロックサイズは（Ｌｎ／２，Ｍｎ／２）になる。
【００９２】
以降、第ｎ階層の符号化ブロックをＢｎで表し、符号化ブロックＢｎで選択可能な符号化モードをｍ（Ｂｎ）で表すものとする。
複数の色成分からなるカラー映像信号の場合、符号化モードｍ（Ｂｎ）は、色成分毎に、それぞれ個別のモードを用いるように構成されてもよいし、全ての色成分に対し共通のモードを用いるように構成されてもよい。以降、特に断らない限り、ＹＵＶ信号、４：２：０フォーマットの符号化ブロックの輝度成分に対する符号化モードを指すものとして説明を行う。
【００９３】
符号化ブロックＢｎは、図５に示すように、ブロック分割部３によって、予測処理単位を表す１つないし複数の予測ブロックに分割される。
以降、符号化ブロックＢｎに属する予測ブロックをＰｉｎ（ｉは、第ｎ階層における予測ブロック番号）と表記する。図５にはＰ００とＰ１０の例を示している。
符号化ブロックＢｎ内の予測ブロックの分割が、どのようになされているかは、符号化モードｍ（Ｂｎ）の中に情報として含まれる。
予測ブロックＰｉｎは、全て符号化モードｍ（Ｂｎ）に従って予測処理が行われるが、予測ブロックＰｉｎ毎に、個別の予測パラメータ（イントラ予測パラメータ、イントラブロックコピー予測パラメータ又はインター予測パラメータ）を選択することができる。
【００９４】
符号化制御部１は、最大符号化ブロックに対して、例えば、図６に示すようなブロック分割状態を生成して、符号化ブロックを特定する。
図６（ａ）の点線で囲まれた矩形が各符号化ブロックを表し、各符号化ブロック内にある斜線で塗られたブロックが各予測ブロックの分割状態を表している。
図６（ｂ）は、図６（ａ）の例について、階層分割によって符号化モードｍ（Ｂｎ）が割り当てられる状況を４分木グラフで示したものである。図６（ｂ）の□で囲まれているノードは、符号化モードｍ（Ｂｎ）が割り当てられたノード（符号化ブロック）である。
この４分木グラフの情報は符号化モードｍ（Ｂｎ）と共に符号化制御部１から可変長符号化部１５に出力されて、ビットストリームに多重化される。
【００９５】
切換スイッチ４は、符号化制御部１により決定された符号化モードｍ（Ｂｎ）がイントラ符号化モードである場合（ｍ（Ｂｎ）∈ＩＮＴＲＡの場合）、ブロック分割部３から出力された符号化ブロックＢｎをイントラ予測部５に出力し、符号化制御部１により決定された符号化モードｍ（Ｂｎ）がイントラブロックコピー符号化モードである場合（ｍ（Ｂｎ）∈ＩＣＯＰＹの場合）、ブロック分割部３から出力された符号化ブロックＢｎをイントラブロックコピー予測部６に出力し、符号化制御部１により決定された符号化モードｍ（Ｂｎ）がインター符号化モードである場合（ｍ（Ｂｎ）∈ＩＮＴＥＲの場合）、ブロック分割部３から出力された符号化ブロックＢｎを動き補償予測部７に出力する。
【００９６】
イントラ予測部５は、符号化制御部１により決定された符号化モードｍ（Ｂｎ）がイントラ符号化モードであり（ｍ（Ｂｎ）∈ＩＮＴＲＡの場合）、切換スイッチ４から符号化ブロックＢｎを受けると（ステップＳＴ３）、イントラ用メモリ１２に格納されている局所復号画像を参照しながら、符号化制御部１により決定されたイントラ予測パラメータを用いて、その符号化ブロックＢｎ内の各予測ブロックＰｉｎに対するイントラ予測処理を実施して、イントラ予測画像ＰＩＮＴＲＡｉｎを生成する（ステップＳＴ４）。
【００９７】
ただし、詳細は後述するが、イントラ予測画像を生成する処理を行う際に、予測ブロックに隣接する符号化済みの画素を用いることから、イントラ予測画像を生成する処理は、予測処理に用いる予測ブロックに隣接する画素が既に符号化済みとなるように常に変換ブロック単位に行われなくてはならない。
したがって、符号化モードがイントラ符号化モードである符号化ブロックでは、選択可能な変換ブロックのブロックサイズは、予測ブロックのサイズ以下に制限され、さらに、変換ブロックが予測ブロックより小さい場合（予測ブロック内に複数の変換ブロックが存在する場合）には、変換ブロック単位に、当該予測ブロックで定められたイントラ予測パラメータを用いたイントラ予測処理を実施してイントラ予測画像を生成する処理を実施する。
なお、画像復号装置がイントラ予測画像ＰＩＮＴＲＡｉｎと全く同じイントラ予測画像を生成する必要があるため、イントラ予測画像ＰＩＮＴＲＡｉｎの生成に用いられたイントラ予測パラメータは、符号化制御部１から可変長符号化部１５に出力されて、ビットストリームに多重化される。
イントラ予測部５におけるイントラ予測処理の詳細は後述する。
【００９８】
イントラ予測部５は、輝度信号の予測画像の生成については常にイントラ予測処理を実施するが、色差信号の予測画像の生成については、各予測ブロックに対して、符号化制御部１により当該予測ブロックの色信号間予測フラグがＯＮに設定されている場合、イントラ予測処理を実施せずに、符号化済みの色信号を参照して、予測ブロックにおける色差信号の予測画像を生成する色信号間予測処理を実施する。一方、符号化制御部１により当該予測ブロックの色信号間予測フラグがＯＦＦに設定されている場合は、色差信号もイントラ予測処理を実施する。
【００９９】
イントラブロックコピー予測部６は、符号化制御部１により決定された符号化モードｍ（Ｂｎ）がイントラブロックコピー符号化モードであり（ｍ（Ｂｎ）∈ＩＣＯＰＹの場合）、切換スイッチ４から符号化ブロックＢｎを受けると（ステップＳＴ３）、その符号化ブロックＢｎ内の各予測ブロックＰｉｎとイントラ用メモリ１２に格納されている局所復号画像を比較してブロックシフトベクトルを探索する。
即ち、イントラブロックコピー予測部６は、イントラ用メモリ１２に格納されている局所復号画像の中で、予測ブロックＰｉｎと最も近似している領域のブロック（参照ブロック）を特定して、その参照ブロックを指し示すブロックシフトベクトルを探索する。
イントラブロックコピー予測部６は、参照ブロックを指し示すブロックシフトベクトルを探索すると、そのブロックシフトベクトルが指し示す参照ブロックを予測ブロックＰｉｎの予測画像として、イントラブロックコピー予測画像ＰＩＣＯＰＹｉｎを生成する（ステップＳＴ５）。
【０１００】
ただし、図３２に示すように、予測ブロックＰｉｎと最も近似している領域が未符号化領域（未だ符号化が行われておらず、局所復号が済んでいない領域であり、図３２では斜線の領域及び予測ブロックＰｉｎが該当する）を跨ぐ位置に存在しているような場合には、予測ブロックＰｉｎと同じサイズの参照ブロックが、局所復号が済んでいない画素を含んでしまうため、通常のイントラブロックコピー予測処理では、当該参照ブロックを指し示すブロックシフトベクトルを選択することができない。
そこで、この実施の形態１では、予測ブロックＰｉｎと最も近似している参照ブロックが未符号化領域の一部を含んでしまう場合でも、その参照ブロックを指し示すブロックシフトベクトルを探索することができるようにするために、図３３に示すように、事前に、予測ブロックが属している符号化対象の最大符号化ブロック（当該最大符号化ブロック）の中で、未符号化領域内の各画素の画素値を所定の方法で仮定する処理を実施する（所定の手法で定まる画素値で未符号化領域内の画素を埋める処理を実施する）。
【０１０１】
具体的には、以下の（１）から（３）のいずれかの手法によって、未符号化領域内の各画素の画素値を仮定する。なお、下記では画素値の取り得る範囲を８ビット精度である０〜２５５として説明するが、１０ビットや１２ビット等、８ビット精度でない場合も同様の手法で処理を行う。即ち、１０ビット精度であれば、画素値の取り得る範囲を０〜１０２３、１２ビット精度であれば、画素値の取り得る範囲を０〜４０９５として扱う。さらに、画素値の取り得る値が符号付きである場合も同様の処理を行う（例えば、８ビット精度で取り得る値が−１２３〜１２２である場合）。
また、以下の手法は、各色信号（輝度信号（Ｙ）、色差信号（Ｕ、Ｖ）あるいはその他の色信号（赤色（Ｒ）、緑色（Ｇ）、青色（Ｂ）の信号等））それぞれで実施して未符号化領域内の各画素を埋める画素値を決定する。
【０１０２】
（１）図３４に示すように、予測ブロックが属している最大符号化ブロック（当該最大符号化ブロック）の左に隣接している複数の画素（図中、縦方向に並んでいる一列の画素）の画素値（画素値）の中で最も画素数の多い画素値を特定し、その画素値の画素を未符号化領域内に埋める。
図３４の例では、“０”の画素値を有する画素と、“６４”の画素値を有する画素とが、当該最大符号化ブロックの左に隣接しており、“６４”の画素値を有する画素の数が、“０”の画素値を有する画素の数より多いので、“６４”の画素値で未符号化領域内の画素を埋める。
一般的に、最も画素数の多い画素値は背景色となる可能性が高いため、画素埋めを行った未符号化領域と、符号化済み領域の背景との間に、不自然な輝度変化が発生せず、予測効率の低下を抑えることができる。
【０１０３】
上記例では、当該最大符号化ブロックの左に隣接している複数の画素の画素値の中で、画素数の最も多い画素値で未符号化領域を埋めるようにしているが、当該最大符号化ブロックの上に隣接している複数の画素の画素値の中で、画素数の最も多い画素値で未符号化領域を埋めるようにしてもよい。この場合、垂直方向に相関の高い画像において未符号化領域を埋める画素値を高精度に算出することができる。さらに、当該最大符号化ブロックの左及び上に隣接している複数の画素の画素値の中で、画素数の最も多い画素値で未符号化領域を埋めるようにしてもよい。このようにすることで、演算量は増加するものの参照する画素数の増加により、予測精度の改善を期待することができる。このとき、当該最大符号化ブロックの左上の画素も合わせて参照するようにしてもよい。
あるいは、図３７に示すブロックシフトベクトルが指す参照ブロック内の未符号化領域の形状によって、当該最大符号化ブロックの左に隣接している複数の画素を用いるか、上に隣接している複数の画素を用いるかを適応的に切り替えてもよい。
【０１０４】
具体的には、垂直方向の未符号化部分が短くなるｄｈ＜ｄｗのときは当該最大符号化ブロックの上に隣接している複数の画素から未符号化領域を埋める画素値を求め、その他（ｄｈ≧ｄｗ）のときは当該最大符号化ブロックの左に隣接している複数の画素から未符号化領域を埋める画素値を求めるようにする。このようにすることで、常に当該最大符号化ブロックに隣接する符号化済み画素と、当該最大符号化ブロックの右端又は下端の画素との距離（ｄｈ、ｄｗ）が短い方の符号化済み隣接画素を選択することができるため、画像の空間的相関を精度良く利用することができる。
また、参照する隣接画素の一部の画素が存在しない場合、予め定めた手法によって参照する画素を生成する。例えば、予め定めた固定値で代替する方法や、存在する別の位置の隣接画素の画素値で代替する方法等がある。さらに、参照する隣接画素が一つも存在しない場合については、予め定めた固定値で未符号化領域の画素を埋めるようにする。なお、予め定める固定値としては、取り得る画素値の中間値等が挙げられる。
【０１０５】
（２）予め設定された画素値（固定値）で未符号化領域内の画素を埋める。
イントラブロックコピー予測処理は、一般的に、テキスト画像やＣＡＤ画像などのグラフィックス描画された文字や線分等に効果が高い予測処理であるが、例えば、テキスト画像は、一般的に白地の背景が多いため、例えば、白色の画素（画素値が０〜２５５を取り得る場合、“２５５”の画素値を有する画素）をテキスト画像の未符号化領域内に埋めると、イントラブロックコピー予測処理が効果的となり、多くの画像で性能改善効果を期待することができる。その他、取り得る画素値の中間値（画素値が０〜２５５を取り得る場合、“１２８”の画素値を有する画素）とする等、設定する画素値は上記以外でも良い。
予め設定された画素値（固定値）で未符号化領域内の画素を埋める手法は、コンテンツによっては予測精度が低下してしまう可能性があるが、処理負荷が非常に小さいメリットがある。
【０１０６】
上記の手法を拡張する手法として、最大符号化ブロック単位に最適な画素値を選択し、その画素値を符号化する方法が考えられる。
このとき、選択可能な画素値の候補としては、存在している全ての画素値でもよいし、選択可能な画素値の代表値を決めて、その代表値だけを選択できるようにしてもよい。
代表値を定める場合には、可変長符号化部１５が代表値自体を符号化するのではなく、その代表値を示すインデックスを符号化するようにすれば、符号化ビットストリームの符号量を抑制することができる。
具体的には、代表値が、例えば、０、６４、１２８、１９２、２５６である場合、その順番にインデックスを０、１、２、３、４と定義し、選択した代表値を示すインデックスを可変長符号化する。
このような代表値を定める例として、白（最大値）、グレー（中間値）、黒（最小値）等の固定的な値を代表値として定めて、これらの代表値の中から任意の代表値を選択する方法や、図３５に示すようなＭｏｖｅ−Ｔｏ−Ｆｒｏｎｔ法を用いて、適応的に代表値を変える方法がある。
【０１０７】
Ｍｏｖｅ−Ｔｏ−Ｆｒｏｎｔ法は、インデックスを出現頻度に応じて並べ替える手法である。
本例の場合、初期テーブルとして、画素値を例えば白（最大値）から黒（最小値）の順番に並べたのち、図３５のように、例えば、“２５５”の画素値が選択されれば、“２５５”の画素値を示す“６”のインデックスを符号化する一方、“２５５”の画素値がテーブルの一番上にくるように並び替える（“２５５”の画素値を示すインデックスが“１”になるようにテーブルを並び替える）ものである。
各最大符号化ブロックにおいて、テーブル上位の１つ以上の画素値（例えば、上位８つ）を代表値として、これらの代表値から任意の代表値を選択するようにする。
【０１０８】
（３）フィルタ処理によって未符号化領域内の画素を生成する。
具体的には、図３６に示すような画素を参照するフィルタ処理を実施する（実線の円は参照画素を示し、点線の円はフィルタ処理対象画素を示している）。
Ｓ（ｘ，ｙ）を座標（ｘ，ｙ）における符号化済み画素の画素値（復号された画素値）又はフィルタ生成画素値（未符号化領域の場合）とすると、フィルタ処理対象画素の座標を（ｘ，ｙ）とした場合、下記の式でフィルタ処理が実行される。
水平方向フィルタ：
2018166329.tif 000003
垂直方向フィルタ：
2018166329.tif 000004
ここで、ｃｎ（ｎ＝０、１、・・・、２Ｎｈ＋１），ｃ’ｍ（ｍ＝０、１、・・・、２Ｎｖ＋１）はフィルタ係数、Ｎｈ，Ｎｖはフィルタの参照画素数を決める定数である。
即ち、水平方向フィルタはフィルタ処理対象画素の左に位置する隣接画素群によるフィルタ処理を示し、垂直方向フィルタはフィルタ処理対象画素の上に位置する隣接画素群によるフィルタ処理を示している。
【０１０９】
このとき、ｃ０＋ｃ１＋・・・＋ｃ２Ｎｈ＝１、ｃ’０＋ｃ’１＋・・・＋ｃ’２Ｎｖ＝１となるとき、平滑化フィルタであることを示す。また、ｃ２Ｎｈ＋１、ｃ’２Ｎｖ＋１はオフセット値を表している。上記フィルタの例としては下記が挙げられる。
水平方向フィルタ：
Ｎｈ＝１、ｃ０＝１／４、ｃ１＝１／２、ｃ２＝１／４、ｃ３＝０
（ｃ３はオフセット値、本例ではオフセットなしとしている）
垂直方向フィルタ：
Ｎｖ＝１、ｃ’０＝１／４、ｃ’１＝１／２、ｃ’２＝１／４、ｃ’３＝０
（ｃ’３はオフセット値、本例ではオフセットなしとしている）
【０１１０】
Ｎｈ，Ｎｖやフィルタ係数は予め画像符号化装置及び画像復号装置の共通の値として定義する。本例ではフィルタ処理対象画素に近い画素のフィルタ係数ほど大きい値としている。これは、一般にフィルタ処理対象画素に近い画素程、フィルタ処理対象画素との相関が高いためである。このようにすることで、未符号化領域内の画素として精度の高い画素を生成することができる。
【０１１１】
なお、フィルタ処理の手順としては、水平方向フィルタ処理の場合は未符号化領域の左端の列から右端の列に向かって一列ずつフィルタ処理を行い、垂直方向フィルタ処理の場合は未符号化領域の上端の行から下端の行に向かって一行ずつフィルタ処理を行う。その際、参照不可能な画素がフィルタの参照画素として含まれる場合、参照可能な画素のうち、最も近い画素のフィルタ係数に参照不可能な画素のフィルタ係数を加算する（ただし、最も近い画素が複数ある場合は、フィルタ処理対象画素の座標（ｘ，ｙ）に最も近い画素を対象とする）。例えば、水平方向フィルタ処理において、座標（ｘ−１，ｙ＋１）以下の画素が参照できない場合、下記の式となる。
2018166329.tif 000005
したがって、上記の例（Ｎｈ＝１、ｃ０＝１／４、ｃ１＝１／２、ｃ２＝１／４、ｃ３＝０の例）の場合、
ｃ０＝１／４、ｃ１＝３／４、ｃ２＝０、ｃ３＝０
となる。なお、このような参照不可能な画素が生じるフィルタ処理については、別途フィルタ係数やＮｈ，Ｎｖを定義するようにしてもよい。例えば、上記の水平方向フィルタの例では、Ｎｈ＝１のままとして、
ｃ０＝１／２、ｃ１＝１／２、ｃ２＝０、ｃ３＝０
としてもよい。この場合、フィルタ演算が２画素の単純平均となり、処理が簡易になるメリットがある。
【０１１２】
上記で説明したフィルタ例以外のフィルタの例として、
水平方向フィルタ：
Ｎｈ＝０、ｃ０＝１、ｃ１＝０
（ｃ１はオフセット値、本例ではオフセットなしとしている）
垂直方向フィルタ：
Ｎｖ＝０、ｃ’０＝１、ｃ’１＝０
（ｃ’１はオフセット値、本例ではオフセットなしとしている）
も挙げられる。
この例の場合、水平方向フィルタは対象画素の左の画素の画素値、垂直方向フィルタは対象画素の上の画素の画素値をコピーすることとなる。即ち、水平方向フィルタは水平方向に、垂直方向フィルタは垂直方向に当該最大符号化ブロックに隣接する画素の画素値が一様にコピーされることと等価であり、フィルタ処理に要する演算量を削減できると共に、当該最大符号化ブロック内の画素全てを同時に生成することができる（当該最大符号化ブロック内の画素全てを並列に処理して生成することができる）。
【０１１３】
水平方向フィルタと垂直方向フィルタのどちらを用いるのかについては、予め画像符号化装置と画像復号装置共通で決めておくようにする。例えば、テキスト画像では水平方向に文字が並ぶことが多いため、常に水平方向フィルタを用いるものとして画像符号化装置及び画像復号装置を構成する。
あるいは、図３７に示すブロックシフトベクトルが指す参照ブロック内の未符号化領域の形状によって、水平方向フィルタと垂直方向フィルタのどちらを用いるかを適応的に切り替えてもよい。具体的には、垂直方向の未符号化部分が短くなるｄｈ＜ｄｗのときは垂直方向フィルタを用い、その他（ｄｈ≧ｄｗ）のときは水平方向フィルタを用いるようにする。このようにすることで、常にフィルタ対象画素と符号化済み画素との距離（ｄｈ、ｄｗ）が短くなるフィルタを選択できるため、画像の空間的相関を精度良く利用することができる。
【０１１４】
（３）のその他の例として、図３８に示す参照画素配置のフィルタ処理を行うように画像符号化装置を構成してもよい（実線の円は参照画素を示し、点線の円はフィルタ処理対象画素を示している）。フィルタ処理対象画素の座標を（ｘ，ｙ）とした場合、下記の式でフィルタ処理が実行される。
2018166329.tif 000006
ここで、ｃ”ｌ（ｌ＝０、１、・・・、３）はフィルタ係数を示している。また、ｃ”０＋ｃ”１＋ｃ”２＝１となるとき、平滑化フィルタであることを示している。また、ｃ”３はオフセット値を表している。上記フィルタの例としては下記が挙げられる。
ｃ”０＝１／４、ｃ”１＝３／８、ｃ”２＝３／８、ｃ”３＝０
（ｃ”３はオフセット値、本例ではオフセットなしとしている）
本例ではフィルタ処理対象画素に近い画素程フィルタ係数が大きくなっており、これは一般にフィルタ処理対象画素に近い画素程、フィルタ処理対象画素との相関が高いためである。なお、フィルタ処理の手順としては、未符号化領域の左上の画素からフィルタ処理を実施し、隣接する未符号化領域の画素を順にフィルタ処理していくことで、常に参照画素Ｓ（ｘ−１，ｙ−１）、Ｓ（ｘ，ｙ−１）、Ｓ（ｘ−１，ｙ）が存在するようにフィルタ処理を行うことができる。
【０１１５】
なお、上記で説明した下記例について、
水平方向フィルタ：
Ｎｈ＝１、ｃ０＝１／４、ｃ１＝１／２、ｃ２＝１／４、ｃ３＝０
垂直方向フィルタ：
Ｎｖ＝１、ｃ’０＝１／４、ｃ’１＝１／２、ｃ’２＝１／４、ｃ’３＝０
図３８のフィルタ：
ｃ”０＝１／４、ｃ”１＝３／８、ｃ”２＝３／８、ｃ”３＝０
これらのフィルタは、有意なフィルタ係数の分母が全て２のべき乗であるため、計算機による整数演算として実現する場合、下記の式に置き換えることができる。
水平方向フィルタ：
2018166329.tif 000007
垂直方向フィルタ：
2018166329.tif 000008
図３８のフィルタ：
2018166329.tif 000009
ここで、“＞＞”は右ビットシフト演算を示している。これらの計算式は全て整数精度のため、元の式と比べて小数精度の誤差は生じるものの、整数演算とビットシフトのみで実行できるため、高速な計算を実現することができる。
【０１１６】
上記では、フィルタ処理対象画素の座標（ｘ，ｙ）から水平方向又は垂直方向のいずれかが±１となる座標の範囲内の画素を参照してフィルタ処理を行う手法について説明したが、図３９、図４０、図４１に示すようにフィルタ処理対象画素の座標（ｘ，ｙ）から水平方向・垂直方向共に±２以上となる画素も用いたフィルタ処理としてもよい。図３９、図４０及び図４１において、実線の円が参照画素を示し、点線の円がフィルタ処理対象画素を示している。また、Ｎｈ，Ｎｖと同様に、Ｍｈ，Ｍｖ，Ｎｌ，Ｍｌは各フィルタの参照画素数を決める定数を示している。
この場合も上記で説明したフィルタと同様に、フィルタ処理を各参照画素に対するフィルタ係数とオフセット値から定式化することができる。このようにフィルタの参照画素を増やすことで、演算量は増加するものの、未符号化領域画素の高精度な生成を実現することができる。
【０１１７】
また、上記の例では、未符号化領域内の画素を埋め込む単位が最大符号化ブロックであるものを示したが、これに限るものではなく、例えば、符号化ブロック単位や予測ブロック単位で更新するようにしてもよい。このようにすることで、処理量が増加してしまうが、精度が良い画素埋め処理を実現することができる。
【０１１８】
例えば、上記（１）〜（３）の手法では最大符号化ブロック単位で未符号化領域の画素を埋める処理について説明したが、符号化ブロック単位で本処理を行うようにしてもよい。
即ち、最大符号化ブロックの未符号化領域のうち、予測対象の符号化ブロック（当該符号化ブロック）内のみ、上記（１）〜（３）の手法で画素を埋めるようにする。具体的には、下記の通りとする。
（１）の手法の場合：
予測対象の符号化ブロック（当該符号化ブロック）の左に隣接している複数の画素の画素値の中で画素数の最も多い画素値で当該符号化ブロック内の未符号化領域の画素を埋めるようにする。
（２）の手法の場合：
予測対象の符号化ブロック（当該符号化ブロック）に対して、当該符号化ブロック内の未符号化領域を埋める代表値を決定する。代表値（あるいは代表値を示すインデックス）は符号化ブロック単位に符号化する。
（３）の手法の場合：
予測対象の符号化ブロック（当該符号化ブロック）に対して、当該符号化ブロック内の未符号化領域をフィルタ処理によって埋めるようにする。
したがって、図４２に示す例のように、各符号化ブロックのイントラブロックコピー予測処理において、ブロックシフトベクトルが指し示す参照ブロックが含んでよい未符号化領域は、当該符号化ブロック内のみとなる。したがって、最大符号化ブロック単位で未符号化領域の画素を埋める処理を行う場合と比較して参照可能な領域は狭くなる。しかし、最大符号化ブロックより小さい符号化ブロックの単位で適応的に画素を埋める処理が行えるため、埋める画素の予測精度が向上し、イントラブロックコピー予測の予測効率の改善を期待することができる。
【０１１９】
なお、（１）においては、当該符号化ブロックの左に隣接している複数の画素ではなく、当該符号化ブロックの上に隣接している複数の画素の画素値の中で、画素数の最も多い画素値で当該符号化ブロック内の未符号化領域の画素を埋めるようにしてもよい。この場合、垂直方向に相関の高い画像において未符号化領域を埋める画素値を精度良く得られる。さらに、当該符号化ブロックの左及び上に隣接している複数の画素の画素値の中で、画素数の最も多い画素値で当該符号化ブロック内の未符号化領域を埋めるようにしてもよい。このようにすることで、演算量は増加するものの参照する画素数の増加により、予測精度の改善を期待することができる。このとき、当該符号化ブロックの左上の画素も合わせて参照するようにしてもよい。
【０１２０】
あるいは、図３７に示すブロックシフトベクトルが指す参照ブロック内の未符号化領域の形状によって、当該符号化ブロックの左に隣接している複数の画素を用いるか、上に隣接している複数の画素を用いるかを適応的に切り替えてもよい。具体的には、垂直方向の未符号化部分が短くなるｄｈ＜ｄｗのときは当該符号化ブロックの上に隣接している複数の画素から未符号化領域を埋める画素値を求め、その他（ｄｈ≧ｄｗ）のときは当該符号化ブロックの左に隣接している複数の画素から未符号化領域を埋める画素値を求めるようにする。このようにすることで、常に当該符号化ブロックに隣接する符号化済み画素と当該符号化ブロックの右端又は下端の画素との距離（ｄｈ、ｄｗ）が短い方の符号化済み隣接画素を選択できるため、画像の空間的相関を精度良く利用することができる。
また、参照する隣接画素の一部の画素が存在しない場合、予め定めた手法によって参照する画素を生成する。例えば、予め定めた固定値で代替する方法や、存在する別の位置の隣接画素の画素値で代替する方法等がある。さらに、参照する隣接画素が一つも存在しない場合については、予め定めた固定値で未符号化領域の画素を埋めるようにする。なお、予め定める固定値としては、取り得る画素値の中間値等が挙げられる。
【０１２１】
なお、最大符号化ブロック単位で未符号化領域の画素を埋める処理の場合においても、ブロックシフトベクトルが指し示す参照ブロックが含んでよい未符号化領域を、予測対象の符号化ブロック内のみとしてもよい。このようにすることで、予測対象の符号化ブロックに近い、すなわち、空間的相関の高い領域のみ、未符号化領域も参照可能として探索可能な領域を拡大するため、最大符号化ブロック内の未符号化領域全体を探索可能とする場合と比較して、ブロックシフトベクトル探索に要する演算の負荷の増加を抑制しつつ予測精度を同様に改善することができる。さらに、探索範囲の抑制により、画像復号装置で必要とする参照可能領域を記憶するメモリのサイズの増加も抑制することができる。
【０１２２】
（１）の未符号化領域の画素を埋める処理について、画素数を数える画素値を限定してもよい。このようにすることで、画素値が取り得る値の数の分のカウンタが必要な（１）の手法よりも必要なカウンタの個数が減るため、カウンタとして必要なメモリ量を削減することができる。なお、未符号化領域内の画素を埋め込む単位は最大符号化ブロック、符号化ブロック、予測ブロックのいずれの単位であっても各々で設定された参照画素に対して本処理を実施するものとする。
画素数を数える画素値を限定する手法の例を次に述べる。まず、画素値を量子化する例について説明する。本例では、画素値を予め定めた量子化器によって量子化し、その量子化後の代表値の数を数える。そして、最も多い画素数の代表値で未符号化領域の画素を埋めるようにする。ここで、取り得る画素値が０〜２ｂｉｔ_ｄｅｐｔｈ−１であり、取り得る画素値をＮＱ個の代表値に量子化するとする（ｂｉｔ_ｄｅｐｔｈは０以上の整数、ＮＱは１以上の整数）。この時の量子化処理の例として、整数精度の演算で行う例を下記に示している。
ｐｏｗ＝ｂｉｔ_ｄｅｐｔｈ−ｂａｓｅ
（代表値）＝（（（画素値）＋（１＜＜（ｐｏｗ−１）））＞＞ｐｏｗ）＜＜ｐｏｗ
【０１２３】
ただし、代表値が２ｂｉｔ_ｄｅｐｔｈ−１を超える場合、２ｂｉｔ_ｄｅｐｔｈ−１に代表値を丸める。“＜＜”は左ビットシフト演算、“＞＞”は右ビットシフト演算を示し、ｂａｓｅは０以上の整数とし、ＮＱ＝２ｂａｓｅ＋１の関係が成立する。例えば、ｂｉｔ_ｄｅｐｔｈ＝８、かつ、ｂａｓｅ＝１の場合、画素値０〜６３の代表値が０、画素値６４〜１９１の代表値が１２８、画素値１９２〜２５５の代表値が２５５となる。なお、画素値の量子化手法については、上記手法に限るものではなく、上記の式において画素値に１＜＜（ｐｏｗ−１）を加算しない等の等間隔に量子化する手法を用いる等、どのような手法でも良い。
画素数を数える画素値を限定する手法のその他の例として、画素数を数えている画素値の個数が所定の数に達したら、新しく出現する画素値を無効とする手法がある。
具体的には、所定の数Ｎｃ個のカウンタを用意し、隣接画素を順に数えていく中で新しい画素値が出現する度に未使用のカウンタを当該画素値のカウンタとして割り当てていくようにする。そして、所定の数Ｎｃ個のカウンタ全てを使用している状態に達した以降は、これまでに出現していない新しい画素値が出現した際にはその画素値を無効とする。このようにすることで、所定の数Ｎｃ個の画素値のみから未符号化領域を埋める画素値を決定することとなり、画素数を数える画素値を限定することができる。なお、本手法の場合、隣接画素を数える順番が結果に影響する。したがって、隣接画素を数える順番は予め決定しておくようにする。例えば、最大符号化ブロックの左及び上に隣接している画素を参照する場合、左下の画素から左上の画素、そして右上の画素に向かって参照していく、というように予め定める。
なお、画素数を数える画素値を限定する手法については、上記手法に限るものではなく、上記以外の手法でも良い。
【０１２４】
また、（１）の手法では、画素値毎の画素数を数えるカウンタのためのメモリが必要となる。したがって、各画素値の画素数を覚える必要のない、同一画素値の連続数を用いる手法で未符号化領域を埋める画素値に決定するようにしても良い。具体的には、参照する隣接画素は（１）と同一とし、所定の参照順に同一の画素値が連続する画素数を数える。
そして、連続する画素数が最大となった画素値を未符号化領域の画素を埋める画素値に決定する。なお、未符号化領域内の画素を埋め込む単位は最大符号化ブロック、符号化ブロック、予測ブロックのいずれの単位であっても各々で設定された参照画素に対して本処理を実施するものとする。
本手法の場合、最大の連続画素数Ｌｍａｘと、それに対応する画素値Ｓｍａｘ、現在連続している画素値Ｓｔｍｐと、その連続画素数Ｌｔｍｐとを記憶し、所定の参照順に画素を参照していく際に、現在参照している画素の画素値ＳｃｕｒとＳｔｍｐが同じ場合は連続画素数Ｌｔｍｐを１増やし、異なる場合は、ＬｔｍｐとＬｍａｘを比較してＬｔｍｐが大きい場合にＬｍａｘ＝Ｌｔｍｐ、Ｓｍａｘ＝Ｓｔｍｐとした後で、Ｌｔｍｐを初期化すると共にＳｔｍｐ＝Ｓｃｕｒとする。これを全ての参照画素に対して行った後のＳｍａｘが連続する画素数が最大となる画素値となる。
【０１２５】
図４３及び図４４は本手法の処理手順の例を示すフローチャートである。
ただし、図４４は図４３に記載のステップＳＴ１０５及びステップＳＴ１０６の「Ｌｍａｘ判定及びＳｍａｘ更新」の処理手順例を示している。本例では、ステップＳＴ１００でＬｍａｘ及びＳｍａｘを１（連続画素数１）に初期化すると共に、ＳｔｍｐとＬｔｍｐを最初に参照する隣接画素の画素値に設定する。そして、残りの参照する隣接画素に対して（ステップＳＴ１０１）、ＳｍａｘとＬｍａｘを更新する処理を実施する（ステップＳＴ１０２〜ステップＳＴ１０６）。
まず、これから参照する画素の画素値をＳｃｕｒとし（ステップＳＴ１０２）、ＳｃｕｒとＳｔｍｐが同じか比較する（ステップＳＴ１０３）。そして、ＳｃｕｒとＳｔｍｐが同じ場合は連続画素数Ｌｔｍｐの値を１増加し（ステップＳＴ１０４）、異なる場合は図４４記載のＬｍａｘ判定及びＳｍａｘ更新処理を行う（ステップＳＴ１０５）。
【０１２６】
具体的には、ＬｔｍｐとＬｍａｘを比較して（ステップＳＴ２００）、ＬｔｍｐがＬｍａｘより大きい場合にＬｍａｘ＝Ｌｔｍｐ、Ｓｍａｘ＝Ｓｔｍｐとする（ステップＳＴ２０１）。その後、Ｌｔｍｐ＝１に初期化すると共に、Ｓｔｍｐ＝Ｓｃｕｒに設定する（ステップＳＴ２０２）。そして、上記処理を全ての参照する隣接画素に対して完了した後、現在の連続画素数Ｌｔｍｐに対しても図４４記載のＬｍａｘ判定及びＳｍａｘ更新処理を行う（ステップＳＴ１０６）。そして、上記処理を終えた時のＳｍａｘを未符号化領域の画素を埋める素値に設定する（ステップＳＴ１０７）。
ただし、ステップＳＴ１０６については、ステップＳＴ２０１の処理の内のＬｍａｘ＝Ｌｔｍｐとする処理と、ステップＳＴ２０２の処理は不要のため、省略して良い。
【０１２７】
以上より、（１）の手法で必要な各画素値の画素数を数えるカウンタのためのメモリは不要となり、メモリ量を削減することができる。さらに、連続する画素数が最も多い画素値は参照する隣接画素の中で最も画素数の多い画素値である可能性が高いため、（１）と同程度の（未符号化領域の画素を埋める画素値の）予測精度を得ることができる。
なお、本手法の参照する隣接画素は（１）と同一とするため、（１）で説明した図３７に示すブロックシフトベクトルが指す参照ブロック内の未符号化領域の形状によって、当該符号化ブロックの左に隣接している複数の画素を用いるか、上に隣接している複数の画素を用いるかを適応的に切り替えるようにしてもよい。切り替え手法も（１）と同一である。
【０１２８】
後述する画像復号装置では、イントラブロックコピー予測画像ＰＩＣＯＰＹｉｎと全く同じイントラブロックコピー予測画像を生成する必要があるため、イントラブロックコピー予測画像ＰＩＣＯＰＹｉｎの生成に用いられたイントラブロックコピー予測パラメータは、符号化制御部１から可変長符号化部１５に出力されて、ビットストリームに多重化される。
イントラブロックコピー予測パラメータとしては、イントラブロックコピー予測部６により探索されたブロックシフトベクトルや、未符号化領域の画素値埋め処理で符号化すべきパラメータが存在する場合は対象のパラメータが挙げられる。また、ブロックシフトベクトルは直前の符号化済み予測ブロックのブロックシフトベクトル、あるいは当該予測ブロックの周囲の符号化済み予測ブロックのブロックシフトベクトルとの差分値をイントラブロックコピー予測パラメータの一部として符号化するようにしてもよい。
【０１２９】
色差信号については、輝度信号と同一のベクトルによる予測を実施する。あるいは、輝度信号のベクトルを基準として探索し、輝度信号のベクトルの差分ベクトルを符号化するようにしてもよい。このようにすることで色差信号の予測精度を改善することができる。
この差分ベクトルはＵ信号とＶ信号でそれぞれ独立に決定するようにしてもよい。このようにすることで一層自由度が高まるため、色差信号の予測精度を更に改善することができる。
また、上記の差分ベクトルは、±Ｍ画素以内（Ｍ：自然数）に限定するようにしてもよい。このように探索する範囲を限定することで探索に要する演算量を削減することができる。また、対応する画像復号装置においても用意する参照画像が限定されることで参照画像のメモリ量を削減することができる。
このとき、小数画素精度を禁止するようにしてもよい。このようにすることで、さらに探索に要する演算量を削減しながら、参照画像に要するメモリ量を削減することができる。
あるいは、±１画素以内の小数画素精度に限定するようにしてもよい。この場合も、探索する範囲を限定することで探索に要する演算量及び参照画像に要するメモリ量を削減することができる。
【０１３０】
イントラブロックコピー予測部６は、輝度信号の予測画像の生成については常にイントラブロックコピー予測処理を実施するが、色差信号の予測画像の生成については、各予測ブロックに対して、符号化制御部１により当該予測ブロックの色信号間予測フラグがＯＮに設定されている場合、イントラブロックコピー予測処理を実施せずに、符号化済みの色信号を参照して、予測ブロックにおける色差信号の予測画像を生成する色信号間予測処理を実施する。一方、符号化制御部１により当該予測ブロックの色信号間予測フラグがＯＦＦに設定されている場合は、色差信号もイントラブロックコピー予測処理を実施する。
【０１３１】
動き補償予測部７は、符号化制御部１により決定された符号化モードｍ（Ｂｎ）がインター符号化モードであり（ｍ（Ｂｎ）∈ＩＮＴＥＲの場合）、切換スイッチ４から符号化ブロックＢｎを受けると（ステップＳＴ３）、その符号化ブロックＢｎ内の各予測ブロックＰｉｎと動き補償予測フレームメモリ１４に格納されているフィルタ処理後の局所復号画像を比較して動きベクトルを探索し、その動きベクトルと符号化制御部１により決定されたインター予測パラメータを用いて、その符号化ブロックＢｎ内の各予測ブロックＰｉｎに対する動き補償予測処理を実施して、インター予測画像ＰＩＮＴＥＲｉｎを生成する（ステップＳＴ６）。
なお、画像復号装置がインター予測画像ＰＩＮＴＥＲｉｎと全く同じインター予測画像を生成する必要があるため、インター予測画像ＰＩＮＴＥＲｉｎの生成に用いられたインター予測パラメータは、符号化制御部１から可変長符号化部１５に出力されて、ビットストリームに多重化される。
また、動き補償予測部７により探索された動きベクトルも可変長符号化部１５に出力されて、ビットストリームに多重化される。
【０１３２】
色差信号については、輝度信号と同一のベクトルによる予測を実施する。あるいは、輝度信号のベクトルを基準として探索し、輝度信号のベクトルの差分ベクトルを符号化するようにしてもよい。このようにすることで色差信号の予測精度を改善することができる。
この差分ベクトルはＵ信号とＶ信号でそれぞれ独立に決定するようにしてもよい。このようにすることで一層自由度が高まるため、色差信号の予測精度を更に改善することができる。
また、上記の差分ベクトルは、±Ｍ画素以内（Ｍ：自然数）に限定するようにしてもよい。このように探索する範囲を限定することで探索に要する演算量を削減することができる。また、対応する画像復号装置においても用意する参照画像が限定されることで参照画像のメモリ量を削減することができる。
このとき、小数画素精度を禁止するようにしてもよい。このようにすることで、さらに探索に要する演算量を削減しながら、参照画像に要するメモリ量を削減することができる。
あるいは、小数画素精度の画素のみに限定するようにしてもよい。例えば、±１画素以内の小数画素精度の画素に限定することで、小数画素精度の高精度な予測を実現しつつ、探索に要する演算量及び参照画像に要するメモリ量を削減することができる。
【０１３３】
動き補償予測部７は、輝度信号の予測画像の生成については常に動き補償予測処理を実施するが、色差信号の予測画像の生成については、各予測ブロックに対して、符号化制御部１により当該予測ブロックの色信号間予測フラグがＯＮに設定されている場合、動き補償予測処理を実施せずに、符号化済みの色信号を参照して、予測ブロックにおける色差信号の予測画像を生成する色信号間予測処理を実施する。一方、符号化制御部１により当該予測ブロックの色信号間予測フラグがＯＦＦに設定されている場合は、色差信号も動き補償予測処理を実施する。
【０１３４】
ここで、イントラ予測部５、イントラブロックコピー予測部６又は動き補償予測部７が、色信号間予測処理を実施して、色差信号の予測画像を生成する際の処理内容を具体的に説明する。
色信号間予測パラメータに含まれているフラグがＯＮである場合、色差信号では、イントラ予測処理、イントラブロックコピー予測処理、動き補償予測処理を行わず、図４５に示すように、色信号間ベクトルが指し示す符号化済みの色差信号のブロックを参照して予測画像を生成する。
【０１３５】
図４６は入力信号フォーマットがＹＵＶ４：４：４フォーマットの信号であり、予測画像の生成対象ブロックが８×８画素である場合の色信号間予測の一例を示す説明図である。
図４６の灰色の画素で示す予測画像生成対象ブロックと、参照する符号化済み色信号のブロックの上及び左に隣接している複数の画素を用いて、参照する符号化済み色信号のブロックの画素値と、予測対象の色差信号の予測画像の画素値との相関を示す相関パラメータを算出し、その相関パラメータによって補正された対応する符号化済み色差信号のブロックの画素値を色差信号の予測画像の画素値とする。相関パラメータによる画素値の補正式は下記の通りである。
補正式：  （予測画像の画素値）＝α×（参照ブロックの画素値）＋β
補正式において、α、βは相関パラメータを示し、α、βのうち、どちらか一方のみで補正するものとしても良い。具体的には、以下の通りである。
（予測画像の画素値）＝α×（参照ブロックの画素値）
あるいは、
（予測画像の画素値）＝（参照ブロックの画素値）＋β
このようにすることで、相関パラメータの算出に要する演算量を削減することができる。
【０１３６】
ただし、予測画像生成対象ブロックの単位は、符号化ブロック単位、予測ブロック単位、変換ブロック単位のいずれでもよい。一般に、小さいブロック単位で予測を行うことで予測精度は向上するが、相関パラメータの算出処理に要する演算量が増加するため、構成する画像符号化装置の演算性能等に応じて構成すればよい。例えば、演算時間の制約がなく複雑な計算を許容できる場合は、符号化ブロックのブロックサイズ以下のブロックサイズとなる予測ブロックや変換ブロック単位で予測画像生成処理を行うように構成することで高精度な予測を実現することができる。例えば、イントラ予測部５では予測画像を生成する単位である変換ブロック、イントラブロックコピー予測部６及び動き補償予測部７では予測ブロックとすることで高精度な予測を実現することができる。
なお、イントラブロックコピー予測部６及び動き補償予測部７において、予測画像生成対象ブロックの単位を予測ブロック単位とする場合、当該符号化ブロック内の画素は符号化されていないため、各予測ブロックの相関パラメータは、各予測ブロックが属する符号化ブロックに隣接する画素を参照して算出する。図４７に符号化ブロックを左右に２分割している予測ブロックの例を示す。このとき、灰色の画素で示す当該符号化ブロックに隣接する画素を用いて予測ブロックの相関パラメータを算出する。したがって、予測ブロックの分割状態に関わらず、符号化ブロック内の各予測ブロックの相関パラメータは同一となる。
あるいは、図４７の灰色の画素の内、当該予測ブロック（予測画像生成対象ブロック）に隣接する画素のみを用いて相関パラメータを算出するようにしても良い。このようにすることで、当該予測ブロックに隣接した、当該予測ブロック内の画素との相関の高い画素のみから相関パラメータが算出されるため、パラメータ算出精度を高めることができる。さらに、パラメータ算出処理で参照する灰色の画素数を常に２のべき乗としてもよい。このようにすることで、相関パラメータの算出式を簡易化でき、演算量を削減することができる。なお、上述した相関パラメータの算出例は全て２のべき乗となる。
【０１３７】
上記の例では、相関パラメータを算出して符号化済み色差信号のブロックの画素値を補正するとしているが、相関パラメータを算出せずに、符号化済み色差信号のブロックの画素値をそのまま予測画像の画素値とするように画像符号化装置を構成してもよい。このようにすることで、相関パラメータを算出する演算処理が不要となり、演算量を削減することができる。
なお、入力信号フォーマットがＹＵＶ４：２：０フォーマットあるいはＹＵＶ４：２：２フォーマットの場合は、参照する符号化済み色信号を予測画像生成対象ブロックと同一のサイズとなるようにブロックサイズをスケーリングして参照する。
具体的には、ＹＵＶ４：２：０フォーマットの場合、輝度（Ｙ）信号を参照する際には縦及び横のサイズを１／２に縮小した輝度信号を用いる。同様に、ＹＵＶ４：２：２フォーマットの場合、輝度（Ｙ）信号を参照する際には横のサイズを１／２に縮小した輝度信号を用いる。
また、色信号間ベクトルは±Ｍ画素以内（Ｍ：自然数）に限定するようにしてもよい。このように探索する範囲を限定することで探索に要する演算量を削減することができる。
また、対応する画像復号装置においても用意する参照画像が限定されることで参照画像のメモリ量を削減することができる。このとき、小数画素精度を禁止するようにしてもよい。このようにすることで、さらに探索に要する演算量を削減しながら、参照画像に要するメモリ量を削減することができる。
あるいは、小数画素精度の画素のみに限定するようにしてもよい。例えば、±１画素以内の小数画素精度の画素に限定することで、小数画素精度の高精度な予測を実現しつつ、探索に要する演算量及び参照画像に要するメモリ量を削減することができる。
【０１３８】
上記の例では、色信号間予測処理として、色信号間ベクトルが指し示す符号化済み色信号のブロックを参照して予測画像を生成するようにしているが、常に、予測画像生成対象ブロックと同一位置のブロックを参照するように構成してもよい。一般に、同一位置の符号化済み色信号のブロックは絵柄が一致する可能性が高いため、このようにすることで、予測精度の低下を抑制しながら、色信号間ベクトルを符号化せずに済むため符号量を削減することができる。
また、参照する符号化済み色信号について、Ｙ（輝度）信号、Ｕ信号、Ｖ信号の順番で符号化する場合、Ｕ信号はＹ信号、Ｖ信号はＹ信号又はＵ信号を参照する。このとき、Ｖ信号については、Ｙ信号とＵ信号のどちらを参照するかを画像符号化装置と画像復号装置共通で固定的に構成してもよいし（例えば、常にＵ信号を参照するように構成する）、どちらを参照するかを切り替え可能として、その切り替え単位毎に参照信号情報を符号化するようにしてもよい。
切り替えの単位は、シーケンス、ピクチャ、スライス単位としてもよいし、符号化ブロック、予測ブロック、変換ブロック等のブロック単位としてもよい。一般に、切り替え単位が細かい程予測効率は高くなる。一方、切り替え単位を大まかにすることで符号化する参照信号情報を符号化する際に発生する符号量を抑えることができる。
【０１３９】
さらに、ブロック単位に参照信号を切り替え可能とする場合、シーケンスレベルヘッダ、ピクチャレベルヘッダ、スライスレベルヘッダに上記ブロック単位の切り替え処理を有効とするか否かを示すフラグを持つようにしてもよい。このようにすることで、本切り替え処理が効果的な場合のみ有効とするようにして、本切り替え処理が効果的でない場合に上記ブロック単位の参照信号情報を符号化せずに済み、符号化効率を高めることができる。
上記の例では、上記の参照信号情報について、Ｙ信号とＵ信号のどちらを参照するかを決定する情報として説明したが、さらにＹ信号とＵ信号を共に参照して重み付き平均によって参照ブロックを生成する場合も含めるようにしてもよい。即ち、設定した切り替え単位毎に、Ｙ信号のみを参照して予測画像を生成するか、Ｕ信号のみを参照して予測画像を生成するか、Ｙ信号とＵ信号を共に参照して予測画像を生成するかを選択するようにする。このようにすることで、より高精度な予測を実現することができる。
【０１４０】
色信号間予測処理は、予測ブロック単位に実施の有無を選択し、その実施の有無を示すフラグを色信号間予測パラメータとして符号化する。色信号間予測処理がＯＦＦの予測ブロックは、輝度信号と同一の予測部（イントラ予測部５、イントラブロックコピー予測部６あるいは動き補償予測部７）で予測を実施する。したがって、イントラ予測部５の色差信号のイントラ予測パラメータのうち、色信号間予測を行わない予測ブロックのイントラ予測パラメータだけを符号化する。
同様に、イントラブロックコピー予測部６あるいは動き補償予測部７で色差信号用の差分ベクトルを符号化するように構成している場合、上記のフラグがＯＦＦの予測ブロックのみの色差信号用の差分ベクトルを符号化する。ただし、輝度信号と色差信号でイントラブロックコピー予測パラメータあるいはインター予測パラメータを共通とするように画像符号化装置を構成する場合、上記ブロックシフトベクトルあるいは動きベクトルは常に輝度信号と色差信号で同一であるため、差分ベクトルは符号化しない。対応する画像復号装置は、輝度信号のイントラブロックコピー予測パラメータあるいはインター予測パラメータを色差信号でも用いるように構成する。もしくは、色差信号の差分ベクトルは常に０と解釈するように構成する。
また、イントラ予測部５の色差信号のイントラ予測パラメータと色信号間予測フラグを組み合わせて、図４８に示すような色差信号のイントラ予測パラメータとして符号化するようにしてもよい。この場合、イントラ予測パラメータが色信号間予測処理を示す場合に色信号間予測処理を行うものとし、それ以外の場合は、イントラ予測パラメータに従ってイントラ予測を実施する。
【０１４１】
上記の例では、予測ブロック単位に色信号間予測処理の実施の有無を選択しているが、符号化ブロック単位あるいは最大サイズの符号化ブロック単位に実施の有無を選択するようにしてもよい。このようにすることで色信号間予測の切り替え単位が大きくなって予測効率は低下するが、色信号間予測フラグの符号化に要する符号量を削減することができる。
さらに、符号化済み色信号の参照信号情報と色信号間予測フラグを一つの情報としてもよい。即ち、参照信号情報に、色信号間予測処理を行わない（符号化済み色信号を参照しない）場合も含めるようにしてもよい。
【０１４２】
減算部８は、ブロック分割部３から符号化ブロックＢｎを受けると、その符号化ブロックＢｎ内の予測ブロックＰｉｎから、イントラ予測部５により生成されたイントラ予測画像ＰＩＮＴＲＡｉｎ、イントラブロックコピー予測部６により生成されたイントラブロックコピー予測画像ＰＩＣＯＰＹｉｎ、又は、動き補償予測部７により生成されたインター予測画像ＰＩＮＴＥＲｉｎのいずれかを減算して、その減算結果である差分画像を示す予測差分信号ｅｉｎを変換・量子化部９に出力する（ステップＳＴ７）。
【０１４３】
変換・量子化部９は、減算部８から予測差分信号ｅｉｎを受けると、符号化制御部１により決定された予測差分符号化パラメータに含まれる変換ブロック分割情報を参照して、その予測差分信号ｅｉｎに対する直交変換処理（例えば、ＤＣＴ（離散コサイン変換）やＤＳＴ（離散サイン変換）、予め特定の学習系列に対して基底設計がなされているＫＬ変換等の直交変換処理）を変換ブロック単位に実施して、変換係数を算出する。
また、変換・量子化部９は、その予測差分符号化パラメータに含まれる量子化パラメータを参照して、その変換ブロック単位の変換係数を量子化し、量子化後の変換係数である圧縮データを逆量子化・逆変換部１０及び可変長符号化部１５に出力する（ステップＳＴ８）。このとき、上記量子化パラメータから算出される量子化ステップサイズを変換係数毎にスケーリングする量子化マトリクスを用いて量子化処理を実施するようにしてもよい。
【０１４４】
量子化マトリクスは、各直交変換サイズで色信号や符号化モード（イントラ符号化かインター符号化か）毎に独立しているマトリクスを使用することができ、初期値として、画像符号化装置及び画像復号装置で、予め共通に用意されている量子化マトリクスや既に符号化された量子化マトリクスの中から選択するか、新しい量子化マトリクスを用いるかをそれぞれ選択することができる。
したがって、変換・量子化部９は、各直交変換サイズに対して色信号や符号化モード毎に、新しい量子化マトリクスを用いるか否かを示すフラグを符号化すべき量子化マトリクスパラメータに設定する。
さらに、新しい量子化マトリクスを用いる場合には、図１０に示すような量子化マトリクスの各スケーリング値を符号化すべき量子化マトリクスパラメータに設定する。
一方、新しい量子化マトリクスを用いない場合には、初期値として、画像符号化装置及び画像復号装置で、予め共通に用意されている量子化マトリクス、又は、既に符号化された量子化マトリクスの中から、使用するマトリクスを特定するインデックスを符号化すべき量子化マトリクスパラメータに設定する。ただし、参照可能な既に符号化された量子化マトリクスが存在しない場合、画像符号化装置及び画像復号装置で、予め共通に用意されている量子化マトリクスのみ選択可能となる。
そして、変換・量子化部９は、設定した量子化マトリクスパラメータを可変長符号化部１５に出力する。
【０１４５】
逆量子化・逆変換部１０は、変換・量子化部９から圧縮データを受けると、符号化制御部１により決定された予測差分符号化パラメータに含まれる量子化パラメータ及び変換ブロック分割情報を参照して、変換ブロック単位にその圧縮データを逆量子化する。
変換・量子化部９が量子化処理に量子化マトリクスを用いている場合には、逆量子化処理時においても、その量子化マトリクスを参照して、対応した逆量子化処理を実施する。
また、逆量子化・逆変換部１０は、変換ブロック単位に逆量子化後の圧縮データである変換係数に対する逆直交変換処理（例えば、逆ＤＣＴ、逆ＤＳＴ、逆ＫＬ変換など）を実施して、減算部８から出力された予測差分信号ｅｉｎに相当する局所復号予測差分信号を算出して加算部１１に出力する（ステップＳＴ９）。
【０１４６】
加算部１１は、逆量子化・逆変換部１０から局所復号予測差分信号を受けると、その局所復号予測差分信号と、イントラ予測部５により生成されたイントラ予測画像ＰＩＮＴＲＡｉｎ、イントラブロックコピー予測部６により生成されたイントラブロックコピー予測画像ＰＩＣＯＰＹｉｎ、又は、動き補償予測部７により生成されたインター予測画像ＰＩＮＴＥＲｉｎのいずれかを加算することで、局所復号画像を算出する（ステップＳＴ１０）。
なお、加算部１１は、その局所復号画像をループフィルタ部１３に出力するとともに、その局所復号画像をイントラ用メモリ１２に格納する。
この局所復号画像が、以降のイントラ予測処理及びイントラブロックコピー予測処理の際に用いられる符号化済みの画像信号になる。
【０１４７】
ループフィルタ部１３は、加算部１１から局所復号画像を受けると、その局所復号画像に対して、所定のフィルタ処理を実施して、フィルタ処理後の局所復号画像を動き補償予測フレームメモリ１４に格納する（ステップＳＴ１１）。
具体的には、変換ブロックの境界や予測ブロックの境界に発生する歪みを低減するフィルタ（デブロッキングフィルタ）処理、画素単位に適応的にオフセットを加算する（画素適応オフセット）処理、ウィーナフィルタ等の線形フィルタを適応的に切り替えてフィルタ処理する適応フィルタ処理などを行う。
【０１４８】
ただし、ループフィルタ部１３は、上記のデブロッキングフィルタ処理、画素適応オフセット処理、適応フィルタ処理のそれぞれについて、処理を行うか否かを決定し、各処理の有効フラグをシーケンスレベルヘッダの一部及びスライスレベルヘッダの一部として可変長符号化部１５に出力する。なお、上記のフィルタ処理を複数使用する際は、各フィルタ処理を順番に実施する。図１１は複数のフィルタ処理を用いる場合のループフィルタ部１３の構成例を示している。
一般に使用するフィルタ処理の種類が多いほど、画像品質は向上するが、一方で処理負荷は高くなる。即ち、画像品質と処理負荷はトレードオフの関係にある。また、各フィルタ処理の画像品質改善効果はフィルタ処理対象画像の特性によって異なる。したがって、画像符号化装置が許容する処理負荷や符号化処理対象画像の特性にしたがって使用するフィルタ処理を決めればよい。
【０１４９】
ここで、デブロッキングフィルタ処理では、ブロック境界にかけるフィルタ強度の選択に用いる各種パラメータを初期値から変更することができる。変更する場合には、そのパラメータをヘッダ情報として可変長符号化部１５に出力する。
【０１５０】
画素適応オフセット処理では、最初に、画像を複数のブロックに分割し、そのブロック単位に、オフセット処理を行わない場合もクラス分類手法の一つとして定義して、予め用意している複数のクラス分類手法の中から、１つのクラス分類手法を選択する。
次に、選択したクラス分類手法によってブロック内の各画素をクラス分類し、クラス毎に符号化歪みを補償するオフセット値を算出する。
最後に、局所復号画像の画素値に対して、そのオフセット値を加算する処理を行うことで局所復号画像の画像品質を改善する。
【０１５１】
クラス分類手法としては、局所復号画像の画素値の大きさで分類する手法（ＢＯ手法と呼ぶ）や、エッジの方向毎に各画素の周囲の状況（エッジ部か否か等）に応じて分類する手法（ＥＯ手法と呼ぶ）がある。
これらの手法は、予め画像符号化装置及び画像復号装置で共通に用意されており、例えば図１４に示すように、オフセット処理を行わない場合もクラス分類手法の一つとして定義して、これらの手法のうち、どの手法でクラス分類を行うかを示すインデックスを上記ブロック単位に選択する。
【０１５２】
したがって、画素適応オフセット処理は、ブロックの分割情報、ブロック単位のクラス分類手法を示すインデックス、ブロック単位のオフセット情報をヘッダ情報として可変長符号化部１５に出力する。
なお、画素適応オフセット処理において、例えば最大符号化ブロックといった固定サイズのブロック単位に常に分割して、そのブロック毎にクラス分類手法を選択して、クラス毎の適応オフセット処理を行ってもよい。この場合、上記ブロック分割情報が不要となり、ブロック分割情報に要する符号量分だけ符号量が削減され、符号化効率を高めることができる。
【０１５３】
また、適応フィルタ処理では、局所復号画像を所定の手法でクラス分類し、各クラスに属する領域（局所復号画像）毎に、重畳されている歪みを補償するフィルタを設計し、そのフィルタを用いて、当該局所復号画像のフィルタ処理を実施する。
そして、クラス毎に設計したフィルタをヘッダ情報として可変長符号化部１５に出力する。
ここで、クラス分類手法としては、画像を空間的に等間隔に区切る簡易な手法や、ブロック単位に画像の局所的な特性（分散など）に応じて分類する手法がある。また、適応フィルタ処理で使用するクラス数は、予め画像符号化装置及び画像復号装置で共通の値に設定してもよいし、符号化すべきパラメータの一つとしてもよい。
前者と比較して後者の方が、使用するクラス数を自由に設定することができるため、画像品質改善効果が上がるが、一方でクラス数を符号化するために、その分の符号量が増加する。
【０１５４】
ステップＳＴ３〜ＳＴ１０の処理は、階層的に分割された全ての符号化ブロックＢｎに対する処理が完了するまで繰り返し実施され、全ての符号化ブロックＢｎに対する処理が完了すると、ステップＳＴ１４の処理に移行する（ステップＳＴ１２，ＳＴ１３）。
【０１５５】
可変長符号化部１５は、変換・量子化部９から出力された圧縮データと、符号化制御部１から出力された最大符号化ブロック内のブロック分割情報（図６（ｂ）を例とする４分木情報）、符号化モードｍ（Ｂｎ）及び予測差分符号化パラメータと、符号化制御部１から出力されたイントラ予測パラメータ（符号化モードがイントラ符号化モードである場合）、イントラブロックコピー予測パラメータ（符号化モードがイントラブロックコピー符号化モードである場合）又はインター予測パラメータ（符号化モードがインター符号化モードである場合）と、色信号間予測フラグを含む色信号間予測パラメータと、動き補償予測部７から出力された動きベクトル（符号化モードがインター符号化モードである場合）とを可変長符号化し、それらの符号化結果を示す符号化データを生成する（ステップＳＴ１４）。
【０１５６】
その際、量子化された直交変換係数である圧縮データの符号化手法として、変換ブロックをさらにＣｏｅｆｆｉｃｉｅｎｔ Ｇｒｏｕｐ（ＣＧ）と呼ばれる４×４画素単位のブロック（符号化サブブロック）に分割して、ＣＧ単位に係数の符号化処理を実施する。
図１５は１６×１６画素の変換ブロックにおける係数の符号化順（スキャン順）を示している。
このように、４×４画素単位の１６個のＣＧを右下のＣＧから順に符号化処理し、さらに、各ＣＧはＣＧ内の１６個の係数を右下の係数から順に符号化する。
【０１５７】
具体的には、まず、ＣＧ内の１６個の係数の中に有意（非零）係数が存在するか否かのフラグを符号化し、次に、ＣＧ内に有意（非零）係数が存在する場合のみ、ＣＧ内の各係数が有意（非零）係数であるかを上記順に符号化し、最後に有意（非零）係数に対して、その係数値情報を順に符号化する。これをＣＧ単位に上記順に行う。
その際、有意（非零）係数がなるべく連続で発生するように偏るスキャン順とした方がエントロピー符号化による符号化効率を高めることができる。
直交変換後の係数は、左上に位置する直流成分をはじめとして、左上に近い程、低い周波数成分の低い係数を表すことから、図１６に示す例のように、一般的に左上に近いほど有意（非零）係数が多く発生するために、図１５に示すように、右下から順に符号化することで効率的に符号化することができる。
なお、上記では１６×１６画素の変換ブロックについて説明したが、８×８画素や３２×３２画素の変換ブロック等、１６×１６画素以外のブロックサイズにおいてもＣＧ（符号化サブブロック）単位の符号化処理を実施するものとする。
また、イントラ予測が選択されている４×４画素と８×８画素の変換ブロックについては、イントラ予測モードのインデックスに応じて、図１５のスキャン順ではなく図１９に示すスキャン順で処理を行う。これはイントラ予測の方向によって予測差分信号の周波数成分の分布が異なる傾向があるためである。
【０１５８】
また、可変長符号化部１５は、図１３に例示するように、符号化ビットストリームのヘッダ情報として、シーケンスレベルヘッダ、ピクチャレベルヘッダを符号化し、ピクチャデータと共に符号化ビットストリームを生成する。
ただし、ピクチャデータは１以上のスライスデータから構成され、各スライスデータはスライスレベルヘッダと当該スライス内にある上記符号化データをまとめたものである。ピクチャデータはスライスデータの他に補足情報を示すヘッダ情報を含む場合もある。
【０１５９】
シーケンスレベルヘッダは、画像サイズ、色信号フォーマット、輝度信号や色差信号の信号値のビット深度、シーケンス単位でのループフィルタ部１３における各フィルタ処理（適応フィルタ処理、画素適応オフセット処理、デブロッキングフィルタ処理）の有効フラグ、量子化マトリクスの有効フラグなど、一般的にシーケンス単位に共通となるヘッダ情報をまとめたものである。
ピクチャレベルヘッダは、参照するシーケンスレベルヘッダのインデックスや動き補償時の参照ピクチャ数、エントロピー符号化の確率テーブル初期化フラグ等のピクチャ単位で設定するヘッダ情報をまとめたものである。
スライスレベルヘッダは、当該スライスがピクチャのどの位置にあるかを示す位置情報、どのピクチャレベルヘッダを参照するかを示すインデックス、スライスの符号化タイプ（オールイントラ符号化、インター符号化など）、ループフィルタ部１３における各フィルタ処理（適応フィルタ処理、画素適応オフセット処理、デブロッキングフィルタ処理）を行うか否かを示すフラグなどといったスライス単位のパラメータをまとめたものである。
【０１６０】
各ヘッダ情報とピクチャデータはＮＡＬユニットによって識別される。
具体的には、シーケンスパラメータセット（上記シーケンスレベルヘッダに相当）、ピクチャパラメータヘッダ（上記ピクチャレベルヘッダに相当）、スライスデータはそれぞれ固有のＮＡＬユニットタイプとして定義され、ＮＡＬユニットタイプの識別情報（インデックス）と共に符号化される。
補足情報についても存在する場合には、固有のＮＡＬユニットとして定義される。また、上記ピクチャデータはアクセスユニットとして定義され、スライスデータを示すＮＡＬユニットや補足情報を示すＮＡＬユニット等の当該ピクチャに関わるＮＡＬユニットをまとめた、各ピクチャのデータアクセスの単位を示している。
【０１６１】
次に、イントラ予測部５におけるイントラ予測処理を詳細に説明する。
イントラ予測部５は、上述したように、予測ブロックＰｉｎのイントラ予測パラメータを参照して、その予測ブロックＰｉｎに対するイントラ予測処理を実施して、イントラ予測画像ＰＩＮＴＲＡｉｎを生成するが、ここでは、輝度信号における予測ブロックＰｉｎのイントラ予測画像を生成するイントラ処理について説明する。
【０１６２】
図７は符号化ブロックＢｎ内の各予測ブロックＰｉｎが選択可能なイントラ予測モードの一例を示す説明図であり、イントラ予測モードのインデックス値と、そのイントラ予測モードが示す予測方向ベクトルを示している。上記イントラ予測モードのインデックス値がイントラ予測パラメータを示している。
なお、イントラ予測モード数は、処理対象となるブロックのサイズに応じて異なるように構成してもよい。
大きいサイズのブロックでは、イントラ予測の効率が低下するため、選択できるイントラ予測方向数を少なくし、小さいサイズのブロックでは、選択できるイントラ予測方向数を多くするように構成することで演算量を抑制することができる。
【０１６３】
まず、イントラ予測画像を生成する処理は、処理対象のブロックに隣接する符号化済みの画素を用いることから、上述した通り、変換ブロック単位に行われなくてはならない。
ここで、イントラ予測画像を生成する変換ブロックを予測画像生成ブロックと呼ぶこととする。したがって、イントラ予測部５は、予測画像生成ブロック単位に下記に述べるイントラ予測画像生成処理を実施して、予測ブロックＰｉｎのイントラ予測画像を生成する。
予測画像生成ブロックのサイズをｌｉｎ×ｍｉｎ画素とする。
図８はｌｉｎ＝ｍｉｎ＝４の場合の予測画像生成ブロック内の画素の予測値を生成する際に用いる画素の一例を示す説明図である。
図８では、予測画像生成ブロックの上の符号化済みの画素（２×ｌｉｎ＋１）個と、左の符号化済みの画素（２×ｍｉｎ）個を予測に用いる画素としているが、予測に用いる画素は、図８に示す画素より多くても少なくてもよい。
また、図８では、予測画像生成ブロックの近傍の１行又は１列分の画素を予測に用いているが、２行又は２列、あるいは、それ以上の画素を予測に用いてもよい。
【０１６４】
予測画像生成ブロックが属する予測ブロックＰｉｎに対するイントラ予測モードのインデックス値が０（平面（Ｐｌａｎａｒ）予測）の場合には、予測画像生成ブロックの上に隣接する符号化済み画素と、予測画像生成ブロックの左に隣接する符号化済み画素を用いて、これら画素と予測画像生成ブロック内の予測対象画素との距離に応じて内挿した値を予測値として予測画像を生成する。
【０１６５】
予測画像生成ブロックが属する予測ブロックＰｉｎに対するイントラ予測モードのインデックス値が１（平均値（ＤＣ）予測）の場合には、予測画像生成ブロックの上に隣接する符号化済み画素と、予測画像生成ブロックの左に隣接する符号化済み画素の平均値を予測画像生成ブロック内の画素の予測値として予測画像を生成する。
さらに、予測画像生成ブロックの上端及び左端に位置する図１７の領域Ａ，Ｂ，Ｃに対して、ブロック境界を平滑化するフィルタ処理を行って最終的な予測画像とする。例えば、下記の式（１）にしたがって、図１８のフィルタの参照画素配置で、下記のフィルタ係数を用いてフィルタ処理を実施する。
2018166329.tif 000010
・領域Ａ（Ｐｉｎの左上の画素）
ａ０＝１／２，ａ１＝１／４，ａ２＝１／４
・領域Ｂ（領域Ａ以外のＰｉｎの上端の画素）
ａ０＝３／４，ａ２＝１／４，（ａ１＝０）
・領域Ｃ（領域Ａ以外のＰｉｎの左端の画素）
ａ０＝３／４，ａ１＝１／４，（ａ２＝０）
【０１６６】
ただし、式（１）において、ａｎ（ｎ＝０，１，２）は参照画素にかかるフィルタ係数、ｐｎ（ｎ＝０，１，２）はフィルタ処理対象画素ｐ０を含むフィルタの参照画素、Ｓ’（ｐ０）はフィルタ処理対象画素ｐ０におけるフィルタ処理後の予測値、Ｓ（ｐｎ）（ｎ＝０，１，２）はフィルタ処理対象画素ｐ０を含む参照画素のフィルタ処理前の予測値を表している。
【０１６７】
さらに、上記フィルタ処理を行う予測画像生成ブロックのブロックサイズは限定してもよい。
一般にブロック端のみフィルタ処理を行って予測値を変化させる場合、大きなブロックサイズのブロックでは、フィルタ処理により予測値が変化する領域の占める割合が小さいために、この予測値の変化によって生じた予測差分信号の変化を非常に高い周波数成分で表されることになり、この高周波数成分を符号化するために符号化効率の悪化を生じさせてしまう傾向がある。また、符号化効率を優先して、この高周波数成分を符号化しないようにすることで、ブロック端の予測差分信号の変化を復元できずに、ブロック境界に歪みが生じてしまう傾向がある。
【０１６８】
一方、小さなブロックサイズのブロックでは、フィルタ処理により予測値が変化する領域の占める割合が大きいために、この予測値の変化によって生じた予測差分信号の変化が大きなブロックサイズのブロックの時のような高い周波数成分で表されることはなく、適切に予測差分信号を符号化することができ、本フィルタ処理によって、ブロック境界の連続性を高めた分、復号画像の品質を高めることができる。
したがって、例えば、３２×３２画素以上のブロックサイズの予測画像生成ブロックでは、上記フィルタ処理を適用せずに、３２×３２画素より小さいブロックのみに上記フィルタ処理を適用することで、従来の平均値予測よりも予測性能を向上させながら、演算量の増加を抑えることができる。
【０１６９】
予測画像生成ブロックに属する予測ブロックＰｉｎに対するイントラ予測モードのインデックス値が２６（垂直方向予測）の場合、下記の式（２）から予測画像生成ブロック内の画素の予測値を算出して予測画像を生成する。
2018166329.tif 000011
ただし、座標（ｘ，ｙ）は予測画像生成ブロック内の左上画素を原点とする相対座標（図９を参照）であり、Ｓ’（ｘ，ｙ）は座標（ｘ，ｙ）における予測値、Ｓ（ｘ，ｙ）は座標（ｘ，ｙ）における符号化済み画素の画素値（復号された画素値）である。また、算出した予測値が画素値の取り得る値の範囲を超えている場合、予測値がその範囲内に収まるように値を丸めるようにする。
【０１７０】
なお、式（２）の１行目の式は、ＭＰＥＧ−４  ＡＶＣ／Ｈ．２６４における垂直方向予測の予測値であるＳ（ｘ，−１）に対し、隣接する符号化済み画素の垂直方向の画素値の変化量Ｓ（−１，ｙ）−Ｓ（−１，−１）を１／２にした値を加算することで、ブロック境界が平滑化されるようにフィルタ処理したものを予測値とすることを意味しており、式（２）の２行目の式は、ＭＰＥＧ−４  ＡＶＣ／Ｈ．２６４における垂直方向予測と同じ予測式を示している。
【０１７１】
予測画像生成ブロックが属する予測ブロックＰｉｎに対するイントラ予測モードのインデックス値が１０（水平方向予測）の場合、下記の式（３）から予測画像生成ブロック内の画素の予測値を算出して予測画像を生成する。
2018166329.tif 000012
ただし、座標（ｘ，ｙ）は予測画像生成ブロック内の左上画素を原点とする相対座標（図９を参照）であり、Ｓ’（ｘ，ｙ）は座標（ｘ，ｙ）における予測値、Ｓ（ｘ，ｙ）は座標（ｘ，ｙ）における符号化済み画素の画素値（復号された画素値）である。また、算出した予測値が画素値の取り得る値の範囲を超えている場合、予測値がその範囲内に収まるように値を丸めるようにする。
【０１７２】
なお、式（３）の１行目の式は、ＭＰＥＧ−４  ＡＶＣ／Ｈ．２６４における水平方向予測の予測値であるＳ（−１，ｙ）に対し、隣接する符号化済み画素の水平方向の画素値の変化量Ｓ（ｘ，−１）−Ｓ（−１，−１）を１／２にした値を加算することで、ブロック境界が平滑化されるようにフィルタ処理したものを予測値とすることを意味しており、式（３）の２行目の式は、ＭＰＥＧ−４  ＡＶＣ／Ｈ．２６４における水平方向予測と同じ予測式を示している。
【０１７３】
ただし、式（２）の垂直方向予測、式（３）の水平方向予測を行う予測画像生成ブロックのブロックサイズを限定してもよい。
一般にブロック端のみ予測方向の画素値の変化量に比例する値を加算するフィルタ処理を行うことで予測値を変化させる場合、大きなブロックサイズのブロックでは、上述した予測画像生成ブロックのブロック端のフィルタ処理により予測値が変化する領域の占める割合が小さいために、この予測値の変化によって生じた予測差分信号の変化を非常に高い周波数成分で表されることになり、この高周波数成分を符号化するために符号化効率の悪化を生じさせてしまう傾向がある。また、符号化効率を優先して、この高周波数成分を符号化しないようにすることで、ブロック端の予測差分信号の変化を復元できずにブロック境界に歪みが生じてしまう傾向がある。
【０１７４】
一方、小さなブロックサイズのブロックでは、上記フィルタ処理により予測値が変化する領域の占める割合が大きいために、この予測値の変化によって生じた予測差分信号の変化が大きなブロックサイズのブロックの時のような高い周波数成分で表されることはなく、適切に予測差分信号を符号化することができ、本フィルタ処理によってブロック境界の連続性を高めた分、復号画像の品質を高めることができる。
したがって、例えば、３２×３２画素以上のブロックサイズの予測画像生成ブロックでは、予測対象画素の座標によらず、式（２）及び式（３）の２行目の式を常に用いるようにし（予測画像生成ブロックのブロック端のフィルタ処理を行わないことにする）、３２×３２画素より小さいブロックのみに、上記フィルタ処理を行う式（２）及び式（３）を適用することで、従来の垂直方向予測、水平方向予測よりも予測性能を向上させながら、演算量の増加を抑えることができる。
【０１７５】
イントラ予測モードのインデックス値が０（平面予測）、１（平均値予測）、２６（垂直方向予測）、１０（水平方向予測）以外の場合には、インデックス値が示す予測方向ベクトルυｐ＝（ｄｘ，ｄｙ）に基づいて、予測画像生成ブロック内の画素の予測値を生成する。
図９に示すように、予測画像生成ブロックの左上画素を原点として、予測画像生成ブロック内の相対座標を（ｘ，ｙ）と設定すると、予測に用いる参照画素の位置は、下記のＬと隣接画素の交点になる。
2018166329.tif 000013
ただし、ｋは負の実数である。
【０１７６】
参照画素が整数画素位置にある場合には、その整数画素を予測対象画素の予測値とし、参照画素が整数画素位置にない場合には、参照画素に隣接する整数画素から生成される補間画素を予測値とする。
図８の例では、参照画素は整数画素位置にないので、参照画素に隣接する２画素から内挿したものを予測値とする。なお、隣接する２画素のみではなく、隣接する２画素以上の画素から補間画素を生成して予測値としてもよい。
補間処理に用いる画素を多くすることで補間画素の補間精度を向上させる効果がある一方、補間処理に要する演算の複雑度が増加することから、演算負荷が大きくても高い符号化性能を要求する画像符号化装置の場合には、より多くの画素から補間画素を生成するようにした方がよい。
【０１７７】
以上に述べた処理によって、予測画像生成ブロック単位に予測ブロックＰｉｎ内の輝度信号の全ての画素に対する予測画素を生成して、イントラ予測画像ＰＩＮＴＲＡｉｎを出力する。
なお、イントラ予測画像ＰＩＮＴＲＡｉｎの生成に用いられたイントラ予測パラメータ（イントラ予測モード）は、ビットストリームに多重化するために可変長符号化部１５に出力される。
【０１７８】
なお、先に説明したＭＰＥＧ−４  ＡＶＣ／Ｈ．２６４における８×８画素のブロックのイントラ予測時に参照画素に対して施される平滑化処理と同様に、イントラ予測部５において、予測画像生成ブロックの予測画像を生成する際の参照画素を、予測画像生成ブロックに隣接する符号化済み画素を平滑化処理した画素とするように構成した場合であっても、上述の例と同様の予測画像に対するフィルタ処理を行うことができる。このようにすることで参照画素へのフィルタ処理による参照画素のノイズが除去され、これを用いて予測を行うことで予測の精度高めることができる。
あるいは、上記参照画素へのフィルタ処理は予測画像へのフィルタ処理を行う平均値予測、垂直方向予測、水平方向予測以外の予測の際のみ実施するようにしてもよい。このようにすることで、各予測モードに対して最大で１つのフィルタ処理しか行わずに済み、演算量の増加を抑えることができる。
【０１７９】
上記では、輝度信号の予測画像生成処理について説明したが、色差成分に対する予測画像は次のように生成する。
予測ブロックＰｉｎの色差信号に対して、色差信号のイントラ予測パラメータ（イントラ予測モード）に基づくイントラ予測処理を実施し、イントラ予測画像の生成に用いられたイントラ予測パラメータを可変長符号化部１５に出力する。
【０１８０】
図２３は色差信号のイントラ予測パラメータ（インデックス値）と色差イントラ予測モードの対応例を示す説明図である。
色差信号のイントラ予測パラメータが、輝度信号に対するイントラ予測モードと同じ予測モードを用いる旨を示している場合（イントラ予測パラメータが輝度色差共通イントラ予測モード（ＤＭモード）を示している場合）、輝度信号と同じフレーム内予測を実施して、色差信号の予測画像を生成する。
【０１８１】
また、色差信号のイントラ予測パラメータが、垂直方向予測モード又は水平方向予測モードを示している場合、色差信号に対する方向性予測を実施して、色差信号の予測画像を生成する。
【０１８２】
入力信号フォーマットがＹＵＶ４：２：２信号である場合、図２６に示すように、輝度信号が正方ブロックであれば、色差信号は輝度信号と比較して水平方向の画素数が１／２となる長方形のブロックとなる。したがって、図２７に示すように、ＹＵＶ４：４：４信号をＹＵＶ４：２：２信号に変換した際に、輝度信号と色差信号で同一方向の予測となるようにするためには、ＹＵＶ４：２：２信号上では、垂直方向予測と水平方向予測以外の方向性予測の場合には、色差信号の予測方向が輝度信号の予測方向と異なることとなる。
具体的には、図２８に示すように、輝度信号の予測方向ベクトルをｖＬ＝（ｄｘＬ，ｄｙＬ）とした場合、色差信号の予測方向ベクトルは、ｖＣ＝（ｄｘＬ／２，ｄｙＬ）となる。即ち、図２９に示すように、予測方向の角度をθとした場合、輝度信号の予測方向の角度をθＬ、色差信号の予測方向の角度をθＣとして、ｔａｎθＣ＝２ｔａｎθＬの関係となる予測方向で予測する必要がある。
【０１８３】
したがって、輝度信号と色差信号で同一方向の予測を行う上記ＤＭモードを正しく実施できるようにするために、入力信号フォーマットがＹＵＶ４：２：２信号である場合、輝度信号に使用したイントラ予測モードのインデックスを色差信号の予測に用いるイントラ予測モードのインデックスに変換し、変換後のインデックスに対応するイントラ予測モードによる色差信号の予測処理を実施する。
図３０は図７のイントラ予測モードにおけるイントラ予測モードインデックスの変換例を示している。
図３０の変換テーブルは、予測方向の角度がθであるとき（図２９を参照）、イントラ予測モードの方向性予測が図３１に示すｔａｎθとなる角度である場合、ｔａｎθＣ＝２ｔａｎθＬの関係に最も近い角度θＣに変換するテーブルの例である。
変換処理の実現は、上記のように、インデックスの変換テーブルを用意し、その変換テーブルを参照することでインデックスを変換するように構成してもよいし、変換式を用意し、その変換式に従ってインデックスを変換するように構成してもよい。
このように構成することで、方向性予測処理自体を変更することなく、インデックスの変換のみでＹＵＶ４：２：２信号のフォーマットに応じた色差信号の適切な予測を実施することができる。
【０１８４】
さらに、色差信号では、平均値（ＤＣ）予測、垂直方向予測、水平方向予測について、輝度信号の場合で説明したブロック境界のフィルタ処理を行わずに、ＭＰＥＧ−４  ＡＶＣ／Ｈ．２６４と同様の予測手法としてもよい。このようにフィルタ処理を行わないことで、予測処理の低演算化を図ることができる。
【０１８５】
次に、図３の画像復号装置の処理内容を具体的に説明する。
可変長復号部３１は、図１の画像符号化装置により生成された符号化ビットストリームを入力すると、そのビットストリームに対する可変長復号処理を実施して（図４のステップＳＴ２１）、１フレーム以上のピクチャから構成されるシーケンス単位のヘッダ情報（シーケンスレベルヘッダ）及びピクチャ単位のヘッダ情報（ピクチャレベルヘッダ）などの各ヘッダ情報とピクチャデータを復号する。ただし、ピクチャデータは１以上のスライスデータから構成され、各スライスデータはスライスレベルヘッダと当該スライス内にある符号化データがまとめられているものである。ピクチャデータはスライスデータの他に補足情報を示すヘッダ情報を含む場合もある。
【０１８６】
このとき、上記ヘッダ情報に含まれる量子化マトリクスの有効フラグが“有効”を示す場合、可変長復号部３１は量子化マトリクスパラメータを可変長復号し、量子化マトリクスを特定する。
具体的には、各直交変換サイズの色信号や符号化モード毎に、量子化マトリクスパラメータが初期値として、画像符号化装置及び画像復号装置で、予め共通に用意されている量子化マトリクス、又は、既に復号された量子化マトリクスである（新しい量子化マトリクスでない）ことを示す場合は、量子化マトリクスパラメータに含まれる上記マトリクスの内のどの量子化マトリクスであるかを特定するインデックス情報を参照して量子化マトリクスを特定し、量子化マトリクスパラメータが新しい量子化マトリクスを用いることを示す場合は、量子化マトリクスパラメータに含まれる量子化マトリクスを使用する量子化マトリクスとして特定する。
そして、ピクチャ単位のデータを構成するスライスデータから、スライス分割情報等のスライス単位のヘッダ情報（スライスレベルヘッダ）を復号し、各スライスの符号化データを復号する。
【０１８７】
また、可変長復号部３１は、上記ヘッダ情報から、最大符号化ブロックサイズ及び分割階層数の上限を特定する（ステップＳＴ２２）。
ただし、分割階層数の上限の代わりに、符号化ブロックの最小ブロックサイズが符号化されている場合、これを復号することで分割階層数の上限を決定する。即ち、最大符号化ブロックを上記最小ブロックサイズまで分割した場合が分割階層数の上限となる。
可変長復号部３１は、決定された最大符号化ブロック単位に、図６で示されるような最大符号化ブロックの分割状態を復号する。復号された分割状態に基づき、階層的に符号化ブロックを特定する（ステップＳＴ２３）。
【０１８８】
次に、可変長復号部３１は、符号化ブロックに割り当てられている符号化モードを復号する。復号した符号化モードに含まれる情報に基づき、符号化ブロックをさらに１つないし複数の予測処理単位である予測ブロックに分割し、予測ブロック単位に割り当てられている予測パラメータを復号する（ステップＳＴ２４）。
【０１８９】
即ち、可変長復号部３１は、符号化ブロックに割り当てられている符号化モードがイントラ符号化モードである場合、符号化ブロックに含まれており、予測処理単位となる１つ以上の予測ブロック毎にイントラ予測パラメータを復号し、符号化ブロックに割り当てられている符号化モードがイントラブロックコピー符号化モードである場合、符号化ブロックに含まれており、予測処理単位となる１つ以上の予測ブロック毎にイントラブロックコピー予測パラメータを復号する。また、符号化ブロックに割り当てられている符号化モードがインター符号化モードである場合、符号化ブロックに含まれており、予測処理単位となる１つ以上の予測ブロック毎にインター予測パラメータ及び動きベクトルを復号する。また、色信号間予測フラグを含む色信号間予測パラメータを復号する（ステップＳＴ２４）。
【０１９０】
さらに、可変長復号部３１は、予測差分符号化パラメータに含まれる変換ブロック分割情報に基づき、変換ブロック毎に圧縮データ（変換・量子化後の変換係数）を復号する（ステップＳＴ２４）。
その際、図１の画像符号化装置の可変長符号化部１５での圧縮データの符号化処理と同様に、ＣＧ単位の係数の復号処理を実施する。
したがって、図１５に示すように、４×４画素単位の１６個のＣＧを右下のＣＧから順に復号処理し、さらに、各ＣＧはＣＧ内の１６個の係数を右下の係数から順に復号していくことになる。
【０１９１】
具体的には、まず、ＣＧ内の１６個の係数の中に有意（非零）係数が存在するか否かのフラグを復号し、次に復号したフラグがＣＧ内に有意（非零）係数が存在することを示す場合のみＣＧ内の各係数が有意（非零）係数であるかを上記順に復号し、最後に有意（非零）係数を示す係数に対して、その係数値情報を順に復号する。これをＣＧ単位に上記順に行う。
ただし、スキャン順については、イントラ予測が選択されている４×４画素と８×８画素の変換ブロックの場合、イントラ予測モードのインデックスに応じて、図１５のスキャン順ではなく図１９に示すスキャン順で処理を行う。
【０１９２】
切換スイッチ３３は、可変長復号部３１により可変長復号された符号化モードｍ（Ｂｎ）がイントラ符号化モードであれば（ｍ（Ｂｎ）∈ＩＮＴＲＡの場合）、可変長復号部３１により可変長復号された予測ブロック単位のイントラ予測パラメータをイントラ予測部３４に出力し、可変長復号部３１により可変長復号された符号化モードｍ（Ｂｎ）がイントラブロックコピー符号化モードであれば（ｍ（Ｂｎ）∈ＩＣＯＰＹの場合）、可変長復号部３１により可変長復号された予測ブロック単位のイントラブロックコピー予測パラメータをイントラブロックコピー予測部３５に出力し、可変長復号部３１により可変長復号された符号化モードｍ（Ｂｎ）がインター符号化モードであれば（ｍ（Ｂｎ）∈ＩＮＴＥＲの場合）、可変長復号部３１により可変長復号された予測ブロック単位のインター予測パラメータ及び動きベクトルを動き補償予測部３６に出力する。
【０１９３】
イントラ予測部３４は、可変長復号部３１により可変長復号された符号化モードｍ（Ｂｎ）がイントラ符号化モード（ｍ（Ｂｎ）∈ＩＮＴＲＡ）である場合（ステップＳＴ２５）、切換スイッチ３３から出力された予測ブロック単位のイントラ予測パラメータを受け取って、図１のイントラ予測部５と同様の手順で、イントラ用メモリ３８に格納されている復号画像を参照しながら、上記イントラ予測パラメータを用いた符号化ブロックＢｎ内の各予測ブロックＰｉｎに対するイントラ予測処理を実施して、イントラ予測画像ＰＩＮＴＲＡｉｎを生成する（ステップＳＴ２６）。
【０１９４】
また、イントラ予測部３４は、輝度信号については、輝度信号に対する上記イントラ予測パラメータを用いたイントラ予測処理（フレーム内予測処理）を実施して、輝度信号の予測画像を生成する。
一方、色差信号については、色信号間予測フラグがＯＦＦである場合（色信号間予測処理の非実施を示している場合）、色差信号のイントラ予測パラメータに基づくイントラ予測処理を実施して、色差信号の予測画像を生成する。
【０１９５】
図２３は色差信号のイントラ予測パラメータ（インデックス値）と色差イントラ予測モードの対応例を示す説明図である。
色差信号のイントラ予測パラメータが、輝度信号に対するイントラ予測モードと同じ予測モードを用いる旨を示している場合（イントラ予測パラメータが輝度色差共通イントラ予測モード（ＤＭモード）を示している場合）、輝度信号と同じフレーム内予測を実施して、色差信号の予測画像を生成する。
【０１９６】
また、色差信号のイントラ予測パラメータが、垂直方向予測モード又は水平方向予測モードを示している場合、色差信号に対する方向性予測を実施して、色差信号の予測画像を生成する。
【０１９７】
入力信号フォーマットがＹＵＶ４：２：２信号である場合、図２６に示すように、輝度信号が正方ブロックであれば、色差信号は輝度信号と比較して水平方向の画素数が１／２となる長方形のブロックとなる。したがって、図２７に示すように、ＹＵＶ４：４：４信号をＹＵＶ４：２：２信号に変換した際に、輝度信号と色差信号で同一方向の予測となるようにするためには、ＹＵＶ４：２：２信号上では、垂直方向予測と水平方向予測以外の方向性予測の場合には、色差信号の予測方向が輝度信号の予測方向と異なることとなる。
具体的には、図２８に示すように、輝度信号の予測方向ベクトルをｖＬ＝（ｄｘＬ，ｄｙＬ）とした場合、色差信号の予測方向ベクトルは、ｖＣ＝（ｄｘＬ／２，ｄｙＬ）となる。即ち、図２９に示すように、予測方向の角度をθとした場合、輝度信号の予測方向の角度をθＬ、色差信号の予測方向の角度をθＣとして、ｔａｎθＣ＝２ｔａｎθＬの関係となる予測方向で予測する必要がある。
【０１９８】
したがって、輝度信号と色差信号で同一方向の予測を行う上記ＤＭモードを正しく実施できるようにするために、入力信号フォーマットがＹＵＶ４：２：２信号である場合、輝度信号に使用したイントラ予測モードのインデックスを色差信号の予測に用いるイントラ予測モードのインデックスに変換し、変換後のインデックスに対応するイントラ予測モードによる色差信号の予測処理を実施する。
図３０は図７のイントラ予測モードにおけるイントラ予測モードインデックスの変換例を示している。
図３０の変換テーブルは、予測方向の角度がθであるとき（図２９を参照）、イントラ予測モードの方向性予測が図３１に示すｔａｎθとなる角度である場合、ｔａｎθＣ＝２ｔａｎθＬの関係に最も近い角度θＣに変換するテーブルの例である。
変換処理の実現は、上記のように、インデックスの変換テーブルを用意し、その変換テーブルを参照することでインデックスを変換するように構成してもよいし、変換式を用意し、その変換式に従ってインデックスを変換するように構成してもよい。
このように構成することで、方向性予測処理自体を変更することなく、インデックスの変換のみでＹＵＶ４：２：２信号のフォーマットに応じた色差信号の適切な予測を実施することができる。
【０１９９】
さらに、色差信号では、平均値（ＤＣ）予測、垂直方向予測、水平方向予測について、輝度信号の場合で説明したブロック境界のフィルタ処理を行わずに、ＭＰＥＧ−４  ＡＶＣ／Ｈ．２６４と同様の予測手法として画像符号化装置が構成されている場合、その画像符号化装置から生成される符号化ビットストリームが復号できるように画像復号装置も同様の構成とする。
このようにフィルタ処理を行わないことで、予測処理の低演算化を図ることができる。
【０２００】
イントラ予測部３４は、輝度信号の予測画像の生成については常にイントラ予測処理を実施するが、色差信号の予測画像の生成については、各予測ブロックに対して、当該予測ブロックの色信号間予測フラグがＯＮである場合（色信号間予測処理の実施を明示している場合）、イントラ予測処理を実施せずに、復号済みの色信号を参照して、予測ブロックにおける色差信号の予測画像を生成する色信号間予測処理を実施する。
【０２０１】
イントラブロックコピー予測部３５は、可変長復号部３１により可変長復号された符号化モードｍ（Ｂｎ）がイントラブロックコピー符号化モード（ｍ（Ｂｎ）∈ＩＣＯＰＹ）である場合（ステップＳＴ２５）、切換スイッチ３３から出力された予測ブロック単位のブロックシフトベクトルを含むイントラブロックコピー予測パラメータを受け取って、イントラ用メモリ３８に格納されている復号画像を参照しながら、上記イントラブロックコピー予測パラメータを用いた符号化ブロックＢｎ内の各予測ブロックＰｉｎに対するイントラブロックコピー予測処理を実施して、イントラブロックコピー予測画像ＰＩＣＯＰＹｉｎを生成する（ステップＳＴ２７）。
【０２０２】
図１の画像符号化装置において、ブロックシフトベクトルは直前の符号化（復号）済み予測ブロックのブロックシフトベクトル、あるいは当該予測ブロックの周囲の符号化（復号）済み予測ブロックのブロックシフトベクトルとの差分値をイントラブロックコピー予測パラメータの一部として符号化するようにしている場合、イントラブロックコピー予測パラメータに含む差分値と上記ブロックシフトベクトルとを加算して、当該予測ブロックのブロックシフトベクトルを算出する。
このとき、ブロックシフトベクトルが指すブロックが復号済み領域を超えるような参照を可能とするように、復号対象の最大符号化ブロック内の復号前の領域（未復号領域）の画素を図１の画像符号化装置におけるイントラブロックコピー予測部６と同一の手法で定まる画素値で埋める処理を行う。このとき、未復号領域を上記画素値で埋める処理に必要なパラメータがイントラブロックコピー予測パラメータの一部としてビットストリームに含まれる場合は、可変長復号部３１により可変長復号された上記パラメータを用いて未復号領域を上記画素値で埋める処理を行う。
色差信号については、輝度信号と同一のベクトルによる予測を実施する。あるいは、輝度信号のベクトルを基準として探索し、輝度信号のベクトルの差分ベクトルを符号化するように図１の画像符号化装置が構成されている場合、可変長復号部３１は差分ベクトルを復号して色差信号のベクトルを算出する。
【０２０３】
イントラブロックコピー予測部３５は、輝度信号の予測画像の生成については常にイントラブロックコピー予測処理を実施するが、色差信号の予測画像の生成については、各予測ブロックに対して、当該予測ブロックの色信号間予測フラグがＯＮである場合（色信号間予測処理の実施を明示している場合）、イントラブロックコピー予測処理を実施せずに、復号済みの色信号を参照して、予測ブロックにおける色差信号の予測画像を生成する色信号間予測処理を実施する。
【０２０４】
動き補償予測部３６は、可変長復号部３１により可変長復号された符号化モードｍ（Ｂｎ）がインター符号化モード（ｍ（Ｂｎ）∈ＩＮＴＥＲ）である場合（ステップＳＴ２５）、切換スイッチ３３から出力された予測ブロック単位の動きベクトルとインター予測パラメータを受け取って、動き補償予測フレームメモリ４０に格納されているフィルタ処理後の復号画像を参照しながら、その動きベクトルとインター予測パラメータを用いた符号化ブロックＢｎ内の各予測ブロックＰｉｎに対する動き補償予測処理を実施してインター予測画像ＰＩＮＴＥＲｉｎを生成する（ステップＳＴ２８）。
色差信号については、輝度信号と同一のベクトルによる予測を実施する。あるいは、輝度信号のベクトルを基準として探索し、輝度信号のベクトルの差分ベクトルを符号化するように図１の画像符号化装置が構成されている場合、可変長復号部３１は差分ベクトルを復号して色差信号のベクトルを算出する。
【０２０５】
動き補償予測部３６は、輝度信号の予測画像の生成については常に動き補償予測処理を実施するが、色差信号の予測画像の生成については、各予測ブロックに対して、当該予測ブロックの色信号間予測フラグがＯＮである場合（色信号間予測処理の実施を明示している場合）、動き補償予測処理を実施せずに、復号済みの色信号を参照して、予測ブロックにおける色差信号の予測画像を生成する色信号間予測処理を実施する。
【０２０６】
ここで、イントラ予測部３４、イントラブロックコピー予測部３５又は動き補償予測部３６が、色信号間予測処理を実施して、色差信号の予測画像を生成する際の処理内容を具体的に説明する。
色信号間予測パラメータに含まれている色信号間予測フラグがＯＮである場合、色差信号では、イントラ予測処理、イントラブロックコピー予測処理、動き補償予測処理を行わず、図４５に示すように、色信号間ベクトルが指し示す復号済み色信号のブロックを参照して予測画像を生成する。
このとき、図１の画像符号化装置と同一の手法で、参照する復号済み色信号のブロックの画素値と予測対象の色差信号の予測画像の画素値との相関を示す相関パラメータを算出し、その相関パラメータによって補正された対応する復号済み色信号のブロックの画素値を予測対象である色差信号の予測画像の画素値とする。予測画像生成対象ブロックの単位は画像符号化装置と同一の単位（符号化ブロック単位、予測ブロック単位、変換ブロック単位のいずれか）である。
【０２０７】
上記の例では、相関パラメータを算出して復号済み色信号のブロックの画素値を補正するとしているが、図１の画像符号化装置が相関パラメータを算出せずに符号化済み色信号のブロックの画素値をそのまま予測画像の画素値とする場合、画像復号装置では、相関パラメータを算出せずに復号済み色信号のブロックの画素値をそのまま予測画像の画素値とする。
なお、入力信号フォーマットがＹＵＶ４：２：０フォーマットあるいはＹＵＶ４：２：２フォーマットの場合は、図１の画像符号化装置と同様に、参照する復号済み色信号を予測画像生成対象ブロックと同一のサイズとなるようにブロックサイズをスケーリングして参照する。
【０２０８】
可変長復号部３１により可変長復号された色信号間予測パラメータは、色信号間予測が有効か否かを示すシーケンス、ピクチャ、スライスレベルの情報、予測ブロック単位の色信号間予測処理の実施の有無を示す色信号間予測フラグを含んでいる。
色信号間予測処理がＯＦＦのブロックは、輝度信号と同一の予測部（イントラ予測部３４、イントラブロックコピー予測部３５あるいは動き補償予測部３６）で予測を実施する。したがって、イントラ予測部３４の色差信号のイントラ予測パラメータのうち、色信号間予測を行わない予測ブロックのイントラ予測パラメータだけが復号され、そのイントラ予測パラメータにしたがってイントラ予測処理が実施される。
同様に、図１の画像符号化装置が色差信号用の差分ベクトルを符号化するように構成している場合、色信号間予測フラグがＯＦＦである場合に限り、イントラブロックコピー予測部３５あるいは動き補償予測部３６が用いる色差信号用の差分ベクトルが復号される。
【０２０９】
また、図１の画像符号化装置が、イントラ予測部３４の色差信号のイントラ予測パラメータと色信号間予測フラグを組み合わせて、図４８の色差信号のイントラ予測パラメータとして符号化している場合、画像復号装置のイントラ予測部３４では、可変長復号部３１により可変長復号された色差信号のイントラ予測パラメータから、色信号間予測を実施するか、イントラ予測を行うかを判断する。
上記の例では、予測ブロック単位に色信号間予測処理の実施の有無を選択する場合について説明しているが、図１の画像符号化装置が符号化ブロック単位あるいは最大サイズの符号化ブロック単位に選択を実施するように構成されている場合、画像復号装置では、同一のブロック単位の色信号間予測フラグを復号するように構成する。このようにすることで正しく符号化パラメータを復号することができる。
さらに、可変長復号部３１により可変長復号された色信号間予測パラメータとして、色信号間予測フラグがＯＮの場合には、可変長復号部３１は参照信号のブロックの位置を示す色信号間ベクトルやどの色信号を参照するかを示す参照信号情報を復号する。ただし、図１の画像符号化装置で上記色信号間ベクトルや上記参照信号情報を用いないように構成している場合、画像復号装置でも、これらパラメータは復号せずに、画像符号化装置と同一の参照信号の、同一の位置のブロックを参照して予測画像を生成する。
【０２１０】
逆量子化・逆変換部３２は、可変長復号部３１から圧縮データ及び予測差分符号化パラメータを受けると、図１の逆量子化・逆変換部１０と同様の手順で、その予測差分符号化パラメータに含まれる量子化パラメータ及び変換ブロック分割情報を参照して、変換ブロック単位にその圧縮データを逆量子化する。
このとき、可変長復号部３１により可変長復号された各ヘッダ情報を参照し、各ヘッダ情報が、当該スライスで量子化マトリクスを用いて、逆量子化処理を実施することを示している場合は、量子化マトリクスを用いて逆量子化処理を行う。
【０２１１】
この際、可変長復号部３１により可変長復号された各ヘッダ情報を参照して、各直交変換サイズで色信号や符号化モード（イントラ符号化、イントラブロックコピー符号化、インター符号化）毎に使用する量子化マトリクスを特定する。
また、逆量子化・逆変換部３２は、変換ブロック単位に逆量子化後の圧縮データである変換係数に対する逆直交変換処理を実施して、図１の逆量子化・逆変換部１０から出力された局所復号予測差分信号と同一の復号予測差分信号を算出する（ステップＳＴ２９）。
【０２１２】
加算部３７は、逆量子化・逆変換部３２により算出された復号予測差分信号と、イントラ予測部３４により生成されたイントラ予測画像ＰＩＮＴＲＡｉｎ、イントラブロックコピー予測部３５により生成されたイントラブロックコピー予測画像ＰＩＣＯＰＹｉｎ、又は、動き補償予測部３６により生成されたインター予測画像ＰＩＮＴＥＲｉｎのいずれかを加算して復号画像を算出し、その復号画像をループフィルタ部３９に出力するとともに、その復号画像をイントラ用メモリ３８に格納する（ステップＳＴ３０）。
この復号画像が、以降のイントラ予測処理及びイントラブロックコピー予測処理の際に用いられる復号済みの画像信号になる。
【０２１３】
ループフィルタ部３９は、全ての符号化ブロックＢｎに対するステップＳＴ２３〜ＳＴ３０の処理が完了すると（ステップＳＴ３１）、加算部３７から出力された復号画像に対して、所定のフィルタ処理を実施して、フィルタ処理後の復号画像を動き補償予測フレームメモリ４０に格納する（ステップＳＴ３２）。
具体的には、変換ブロックの境界や予測ブロックの境界に発生する歪みを低減するフィルタ（デブロッキングフィルタ）処理、画素単位に適応的にオフセットを加算する（画素適応オフセット）処理、ウィーナフィルタ等の線形フィルタを適応的に切り替えてフィルタ処理する適応フィルタ処理などを行う。
ただし、ループフィルタ部３９は、上記のデブロッキングフィルタ処理、画素適応オフセット処理、適応フィルタ処理のそれぞれについて、可変長復号部３１により可変長復号された各ヘッダ情報を参照して、当該スライスで処理を行うか否かを特定する。
このとき、２つ以上のフィルタ処理を行う場合に、例えば、画像符号化装置のループフィルタ部１３が図１１のように構成されている場合には、図１２に示すようにループフィルタ部３９が構成される。
【０２１４】
ここで、デブロッキングフィルタ処理では、可変長復号部３１により可変長復号されたヘッダ情報を参照し、ブロック境界にかけるフィルタ強度の選択に用いる各種パラメータを初期値から変更する情報が存在する場合には、その変更情報に基づいて、デブロッキングフィルタ処理を実施する。変更情報がない場合は、予め定められた手法に従って行う。
【０２１５】
画素適応オフセット処理では、可変長復号部３１により可変長復号された画素適応オフセット処理のブロック分割情報に基づいて分割し、そのブロック単位に、可変長復号部３１により可変長復号されたブロック単位のクラス分類手法を示すインデックスを参照して、そのインデックスが“オフセット処理を行わない”ことを示すインデックスでない場合、ブロック単位にブロック内の各画素を上記インデックスが示すクラス分類手法に従ってクラス分類する。
なお、クラス分類手法の候補として、ループフィルタ部１３の画素適応オフセット処理のクラス分類手法の候補と同一のものが予め用意されている。
【０２１６】
そして、ループフィルタ部３９は、ブロック単位の各クラスのオフセット値を特定する可変長復号部３１により可変長復号されたオフセット情報を参照して、復号画像の画素値にオフセットを加算する処理を行う。
【０２１７】
適応フィルタ処理では、可変長復号部３１により可変長復号されたクラス毎のフィルタを用いて、図１の画像符号化装置と同一の手法でクラス分類した後に、そのクラス分類情報に基づいてフィルタ処理を行う。
このループフィルタ部３９によるフィルタ処理後の復号画像が、動き補償予測用の参照画像となり、また、再生画像となる。
【０２１８】
以上で明らかなように、この実施の形態１によれば、画像符号化装置のイントラ予測部５、イントラブロックコピー予測部６又は動き補償予測部７が、各予測ブロックに対して、当該予測ブロックの色信号間予測フラグが色信号間予測処理の実施を明示していれば、イントラ予測処理、イントラブロックコピー予測処理、動き補償予測処理を実施せずに、符号化済みの色信号を参照して、予測ブロックにおける色差信号の予測画像を生成する色信号間予測処理を実施するように構成したので、予測ブロック内の絵柄が特定の非直線な模様や文字などであっても、予測精度を高めて、高い符号化効率を実現することができる効果を奏する。
【０２１９】
また、この実施の形態１によれば、上記効果を持つ画像符号化装置及び画像符号化方法が生成する符号化ビットストリームを正しく復号することができる画像復号装置及び画像復号方法が得られる効果を奏する。
【０２２０】
実施の形態２．
この実施の形態２では、予測差分信号の色信号間相関除去処理を実施する画像符号化装置及び画像復号装置について説明する。
即ち、上記実施の形態１の画像符号化装置における色差信号の予測差分信号に対して、符号化済み色信号の局所復号予測差分信号との差分値を変換・量子化部９に入力すると共に、逆量子化・逆変換部１０で得られる色差信号の局所復号予測差分信号に対して上記符号化済み信号の予測差分信号を加算して最終的な局所復号予測差分信号を得る画像符号化装置を構成する。
また、上記実施の形態１の画像復号装置における逆量子化・逆変換部３２で得られる色差信号の復号予測差分信号に対して、この実施の形態２の画像符号化装置と同一の符号化済み色信号の復号予測差分信号を加算して最終的な復号予測差分信号を得る画像復号装置を構成する。
このようにすることで色信号間の予測差分の相関を低減し、色差信号の予測差分信号の符号化に要する符号量を削減することができる。
【０２２１】
このとき、画像符号化装置における参照する局所復号予測差分信号は、上記実施の形態１の色信号間予測処理と同様に、周囲の符号化済み画素を用いて相関パラメータを算出して、本相関パラメータにて加工された局所復号予測差分信号を参照するようにしてもよい。このようにすることで、色信号間の予測差分の相関除去精度を改善することができ、符号化効率を高めることができる。この場合、画像復号装置における参照する復号予測差分信号も周囲の復号済み画素を用いて相関パラメータを算出して、本相関パラメータにて加工された復号予測差分信号を参照する。
【０２２２】
上記の例では、相関パラメータは周囲の符号化（復号）済み画素を用いて算出するとしているが、相関パラメータは複数の候補を予め用意し、変換ブロック単位に選択して符号化するようにしてもよい。このようにすることで、変換ブロック単位に最適な相関パラメータを利用することができ、符号化効率を高めることができる。この場合、画像復号装置は上記相関パラメータを変換ブロック単位に復号する。
さらに、変換ブロック単位に、上記予測差分信号の色信号間相関除去処理を行うか否かを示すＯＮ／ＯＦＦ情報をフラグ情報として符号化するようにしてもよい。このようにすることで、変換ブロック単位に色信号間相関除去処理を行う場合と行わない場合の２つの中から符号化効率が高い方を選択することができるため、符号化効率を高めることができる。
なお、上記ＯＮ／ＯＦＦ情報は、上記相関パラメータの一部として符号化するようにしてもよい。具体的には、相関パラメータが特定の値の場合（例えば、０）は、上記色信号間相関除去処理を行わないことを示すものとすればよい。
【０２２３】
また、上記実施の形態１の色信号間予測処理と同様に、色信号間ベクトルを用意して、本ベクトルの指すブロックを参照するようにしても良い。このとき、色信号間ベクトルは上記実施の形態１の色信号間予測処理と共通でも良いし、独立に持つようにしても良い。独立に用意する場合は、より適応的な制御ができるため予測差分信号の値を一層小さくすることができるが、上記実施の形態１の色信号間予測処理の色信号間ベクトルとは別に符号化する必要があり、画像の特性によって独立にした場合と共通にした場合のどちらが符号化効率が高いのかは異なる。したがって、シーケンスレベルヘッダ、ピクチャレベルヘッダ、スライスレベルヘッダの少なくとも一箇所に色信号間ベクトルを用いるか否かのフラグと上記実施の形態１の色信号間予測処理と独立とするか共通とするかのフラグを用意し、画像符号化装置にて上記フラグを符号化するように構成してもよい。このとき、画像復号装置はこれらフラグを復号することで、予測差分信号の色信号間相関除去処理における色信号間ベクトルの有無とその値を識別する。
【０２２４】
さらに、上記実施の形態１の色信号間予測処理と同様に、参照する符号化済み色信号を静的、あるいは動的に切り替えるようにしても良い。具体的には、Ｙ（輝度）信号、Ｕ信号、Ｖ信号の順番で符号化する場合、Ｕ信号はＹ信号、Ｖ信号はＹ信号又はＵ信号を参照する。このとき、Ｖ信号については、Ｙ信号とＵ信号のどちらを参照するかを画像符号化装置と画像復号装置共通で固定的に構成してもよいし（例えば、常にＵ信号を参照するように構成する）、どちらを参照するかを切り替え可能として、その切り替え単位毎に参照信号情報を符号化するようにしてもよい。
切り替えの単位は、シーケンス、ピクチャ、スライス単位としてもよいし、符号化ブロック、予測ブロック、変換ブロック等のブロック単位としてもよい。一般に、切り替え単位が細かい程予測効率は高くなる。一方、切り替え単位を大まかにすることで符号化する参照信号情報を符号化する際に発生する符号量を抑えることができる。
さらに、ブロック単位に参照信号を切り替え可能とする場合、シーケンスレベルヘッダ、ピクチャレベルヘッダ、スライスレベルヘッダに上記ブロック単位の切り替え処理を有効とするか否かを示すフラグを持つようにしてもよい。このようにすることで、本切り替え処理が効果的な場合のみ有効とするようにして、本切り替え処理が効果的でない場合に上記ブロック単位の参照信号情報を符号化せずに済み、符号化効率を高めることができる。
【０２２５】
上記の例では、上記の参照信号情報について、Ｙ信号とＵ信号のどちらを参照するかを決定する情報として説明したが、さらにＹ信号とＵ信号を共に参照して重み付き平均によって参照ブロックを生成する場合も含めるようにしてもよい。即ち、設定した切り替え単位毎に、Ｙ信号のみを参照して予測画像を生成するか、Ｕ信号のみを参照して予測画像を生成するか、Ｙ信号とＵ信号を共に参照して予測画像を生成するかを選択するようにする。このようにすることで、より予測差分信号を小さくすることができ、符号化効率を高めることができる。
【０２２６】
また、画像符号化装置と画像復号装置共通で固定的に参照色信号を設定するように構成する場合でも、上記参照信号情報を符号化するように構成する場合でも、上記実施の形態１の色信号間予測処理と共通としても良いし、独立に設定するようにしても良い。独立に用意する場合は、より適応的な制御ができるため予測差分信号の値を一層小さくすることができる。ただし、上記参照信号情報を符号化するように構成する場合では、上記実施の形態１の色信号間予測処理の参照信号情報とは別に参照信号情報を符号化する必要があり、画像の特性によって独立にした場合と共通にした場合のどちらが符号化効率が高いのかは異なる。したがって、シーケンスレベルヘッダ、ピクチャレベルヘッダ、スライスレベルヘッダの少なくとも一箇所に上記実施の形態１の色信号間予測処理と独立とするか共通とするかのフラグを用意し、画像符号化装置にて上記フラグを符号化するように構成してもよい。このとき、画像復号装置は本フラグを復号することで、予測差分信号の色信号間相関除去処理における参照信号情報を識別する。
【０２２７】
また、上記実施の形態１の色信号間予測処理と、上記予測差分信号の色信号間相関除去処理との組み合わせとして、上記実施の形態１の色信号間予測処理を実施するブロックでは、上記予測差分信号の色信号間相関除去処理を実施しないものとしてもよい。このようにすることで、色信号間予測処理を実施するブロックでは、予測差分信号の色信号間相関除去処理に関わる符号化パラメータ（相関パラメータ、ＯＮ／ＯＦＦ情報など）を符号化する必要がないため、符号化量を削減することができる。この場合、画像復号装置では、可変長復号部３１により可変長復号された色信号間予測パラメータが色信号間予測処理を行わないことを示している場合のみ、可変長復号部３１が予測差分信号の色信号間相関除去処理に関わる符号化パラメータを復号する。
この場合、上記実施の形態１の色信号間予測処理のブロック単位のＯＮ／ＯＦＦ情報と上記予測差分信号の色信号間相関除去処理のブロック単位のＯＮ／ＯＦＦ情報を統合してもよい。具体的には、上記実施の形態１の色信号間予測処理を行う場合、上記予測差分信号の色信号間相関除去処理を行う場合、両処理共に実施しない場合をインデックス情報とする（たとえば順に、インデックス２、１、０とする）。このとき、両処理のＯＮ／ＯＦＦ情報の切り替え単位は統一しなくてはならない。すなわち、この場合、ＯＮ／ＯＦＦ処理は符号化ブロック、予測ブロック、変換ブロック単位のいずれかに統一する。あるいは独自のブロック単位としても良い。このようにすることで、両処理に最適なブロックサイズを設定することができる。
【０２２８】
上記予測差分信号の色信号間相関除去処理を制御するパラメータとして、本処理の有効フラグ（上位ヘッダ残差色信号間予測有効フラグ）をシーケンスレベルヘッダ、ピクチャレベルヘッダ、スライスレベルヘッダのうち、少なくとも１つのヘッダで符号化するようにしてもよい。このようにすることで、予測差分信号の色信号間相関除去処理が効果的でない場合に無効とすることができ、符号化効率の低下を抑制することができる。この場合、画像復号装置では、可変長復号部３１が上記上位ヘッダ残差色信号間予測有効フラグを復号し、上記上位ヘッダ残差色信号間予測有効フラグが有効を示す場合のみ、予測差分信号の色信号間相関除去処理を有効とし、変換ブロック単位の上記ＯＮ／ＯＦＦ情報を復号する。
さらに、上記上位ヘッダ残差色信号間予測有効フラグについて、ピクチャを分割するサブピクチャの単位に設けるようにしても良い。具体的には、非特許文献１記載のＴｉｌｅやＷａｖｅｆｒｏｎｔ  Ｐａｒａｌｌｅｌ  Ｐｒｏｃｅｓｓｉｎｇのサブピクチャの分割単位に上記上位ヘッダ残差色信号間予測有効フラグを設けることで、色信号間予測が効果的な領域のみ有効とすることが可能となり符号量の増加を抑制しつつ高精度な予測が実現できる。
【０２２９】
さらに、予測差分信号の色信号間相関除去処理を有効とするか否かを示すシーケンスレベル、ピクチャレベル、スライスレベル、サブピクチャレベルのフラグと、上記実施の形態１の色信号間予測処理を有効とするか否かを示すシーケンスレベル、ピクチャレベル、スライスレベル、サブピクチャレベルのフラグを組み合わせてもよい。具体的には、予測差分信号の色信号間相関除去処理と色信号間予測処理の有効・無効の組み合わせ（有効・有効、有効・無効、無効・有効、無効・無効の全４種類）を示すインデックスとして符号化する。この場合、画像復号装置では、可変長復号部３１が上記のインデックスを復号し、そのインデックスに基づいて、予測差分信号の色信号間相関除去処理と色信号間予測処理の有効・無効を決定する。
【０２３０】
また、上記予測差分信号の色信号間相関除去処理を実施する変換ブロックの直交変換処理を常にＤＳＴとするようにしても良い。予測差分信号の色信号間相関除去処理を実施した変換ブロックの予測差分信号は信号間の相関が非常に低くなるため、ＤＣＴよりもＤＳＴの方が効率的である可能性が高く、ＤＣＴを用いるよりも符号化効率を高めることができる。
あるいは、ＤＣＴとＤＳＴをブロックサイズ、符号化モード、イントラ予測パラメータ、イントラブロックコピー予測パラメータ、動き補償予測パラメータ等に応じて切り替えるようにしても良い。例えば、対象とする変換ブロックのサイズが特定のブロックサイズ（しきい値）より小さい場合、ＤＳＴを行うようにする、等が考えられる。このようにすることで、対象とする変換ブロックの特性に応じた変換が実現でき、符号化効率を高めることができる。他にも、ＤＣＴとＤＳＴのうち符号化効率が高くなる方を選択し、その選択情報を符号化するようにしても良い。このようにすることで、変換ブロック毎にＤＣＴとＤＳＴから適切な方を用いて変換することができ、符号化効率を高めることができる。
上記以外の構成として、予測差分信号の色信号間相関除去処理を実施した変換ブロックの予測差分信号に適切なＫＬ変換を予め設計する、または動的に学習して設計するようにしても良い。このようにすることで、予測差分信号の色信号間相関除去処理を実施した変換ブロックの予測差分信号に一層適した基底による変換が実現でき、符号化効率を高めることができる。
なお、上記で説明した事項以外、この実施の形態２は、上記実施の形態１と同じ構成、処理を実施する。
【０２３１】
実施の形態３．
この実施の形態３では、上記実施の形態１または上記実施の形態２に対して、色信号間予測処理の相関パラメータを複数の候補から選択するように構成する。選択の単位は、シーケンス、ピクチャ、スライス単位としてもよいし、符号化ブロック、予測ブロック、変換ブロック等のブロック単位としてもよい。一般に、切り替え単位が細かい程予測効率は高くなる。一方、切り替え単位を大まかにすることで符号化する参照信号情報を符号化する際に発生する符号量を抑えることができる。
さらに、相関パラメータを上記実施の形態２の予測差分信号の色信号間相関除去処理の相関パラメータと共通化してもよい。このようにすることで、相関パラメータに関する符号量を削減することができる。
なお、上記で説明した事項以外、この実施の形態３は上記実施の形態１，２と同じ構成、処理を実施する。
【０２３２】
なお、本願発明はその発明の範囲内において、各実施の形態の自由な組み合わせ、あるいは各実施の形態の任意の構成要素の変形、もしくは各実施の形態において任意の構成要素の省略が可能である。
【符号の説明】
【０２３３】
１  符号化制御部、２  スライス分割部、３  ブロック分割部、４  切換スイッチ、５  イントラ予測部（イントラ予測手段）、６  イントラブロックコピー予測部（イントラブロックコピー予測手段）、７  動き補償予測部（動き補償予測手段）、８  減算部、９  変換・量子化部、１０  逆量子化・逆変換部、１１  加算部、１２  イントラ用メモリ、１３  ループフィルタ部、１４  動き補償予測フレームメモリ、１５  可変長符号化部（符号化手段）、３１  可変長復号部、３２  逆量子化・逆変換部、３３  切換スイッチ、３４  イントラ予測部（イントラ予測手段）、３５  イントラブロックコピー予測部（イントラブロックコピー予測手段）、３６  動き補償予測部（動き補償予測手段）、３７  加算部、３８  イントラ用メモリ、３９  ループフィルタ部、４０  動き補償予測フレームメモリ。
【図１】
2018166329.tif 000014
【図２】
2018166329.tif 000015
【図３】
2018166329.tif 000016
【図４】
2018166329.tif 000017
【図５】
2018166329.tif 000018
【図６】
2018166329.tif 000019
【図７】
2018166329.tif 000020
【図８】
2018166329.tif 000021
【図９】
2018166329.tif 000022
【図１０】
2018166329.tif 000023
【図１１】
2018166329.tif 000024
【図１２】
2018166329.tif 000025
【図１３】
2018166329.tif 000026
【図１４】
2018166329.tif 000027
【図１５】
2018166329.tif 000028
【図１６】
2018166329.tif 000029
【図１７】
2018166329.tif 000030
【図１８】
2018166329.tif 000031
【図１９】
2018166329.tif 000032
【図２０】
2018166329.tif 000033
【図２１】
2018166329.tif 000034
【図２２】
2018166329.tif 000035
【図２３】
2018166329.tif 000036
【図２４】
2018166329.tif 000037
【図２５】
2018166329.tif 000038
【図２６】
2018166329.tif 000039
【図２７】
2018166329.tif 000040
【図２８】
2018166329.tif 000041
【図２９】
2018166329.tif 000042
【図３０】
2018166329.tif 000043
【図３１】
2018166329.tif 000044
【図３２】
2018166329.tif 000045
【図３３】
2018166329.tif 000046
【図３４】
2018166329.tif 000047
【図３５】
2018166329.tif 000048
【図３６】
2018166329.tif 000049
【図３７】
2018166329.tif 000050
【図３８】
2018166329.tif 000051
【図３９】
2018166329.tif 000052
【図４０】
2018166329.tif 000053
【図４１】
2018166329.tif 000054
【図４２】
2018166329.tif 000055
【図４３】
2018166329.tif 000056
【図４４】
2018166329.tif 000057
【図４５】
2018166329.tif 000058
【図４６】
2018166329.tif 000059
【図４７】
2018166329.tif 000060
【図４８】
2018166329.tif 000061