(57)【要約】      （修正有）【課題】ヒストグラムが疎になるスクリーンコンテンツの局所復号画像に生じる符号化歪みを十分に低減することができるようにする端末装置及びデータ管理装置を提供する。【解決手段】演算処理部により処理されたデータに対して、符号化対象画像の圧縮データから得られる局所復号画像における画素値のヒストグラムを算出し、算出されたヒストグラムから符号化歪みに伴うノイズが重畳している画素を特定して、ノイズが重畳している画素の画素値を補正して符号化する符号化部を備えるように構成する。【選択図】図１３
2015177294.tif 000002
【特許請求の範囲】
【請求項１】
データを受信する受信部と、
前記受信部により受信されたデータを処理する演算処理部と、
前記演算処理部により処理されたデータに対して、符号化対象画像の圧縮データから得られる局所復号画像における画素値のヒストグラムを算出し、前記算出されたヒストグラムから符号化歪みに伴うノイズが重畳している画素を特定して、前記ノイズが重畳している画素の画素値を補正して符号化する符号化部と、
前記符号化部により符号化されたデータを保存するデータ保存部と、
を備えることを特徴とする端末装置。
【請求項２】
データを取得するデータ取得部と、
データ取得部からのデータに対して、符号化対象画像の圧縮データから得られる局所復号画像における画素値のヒストグラムを算出し、前記算出されたヒストグラムから符号化歪みに伴うノイズが重畳している画素を特定して、前記ノイズが重畳している画素の画素値を補正して符号化する符号化部と、
前記符号化部により符号化された符号化データを送信する送信部と、
を備えることを特徴とする端末装置。
【請求項３】
符号化されたデータを保存するデータ保存部と、
前記データ保存部に保存されたデータに対して、符号化対象画像の圧縮データから得られる復号画像における画素値のヒストグラムを算出し、前記算出されたヒストグラムから符号化歪みに伴うノイズが重畳している画素を特定して、前記ノイズが重畳している画素の画素値を補正して復号する復号部と、
前記復号部により復号された復号データに基づいて送信データを生成するデータ生成部と、
前記データ生成部により生成された送信データに対して、符号化対象画像の圧縮データから得られる局所復号画像における画素値のヒストグラムを算出し、前記算出されたヒストグラムから符号化歪みに伴うノイズが重畳している画素を特定して、前記ノイズが重畳している画素の画素値を補正して符号化する符号化部と、
前記符号化部により符号化された符号化データを送信する送信部と、
を備えることを特徴とするデータ管理装置。
【請求項４】
符号化されたデータを保存するデータ保存部と、
前記データ保存部に保存された符号化データから表示データを選択する閲覧処理部と、
前記閲覧処理部により選択された符号化データに対して、符号化対象画像の圧縮データから得られる復号画像における画素値のヒストグラムを算出し、前記算出されたヒストグラムから符号化歪みに伴うノイズが重畳している画素を特定して、前記ノイズが重畳している画素の画素値を補正して復号する復号部と、
前記復号部により復号された復号データを表示する表示処理部と、
を備えることを特徴とする端末装置。
【請求項５】
符号化されたデータを受信する受信部と、
受信部により受信された符号化データに対して、符号化対象画像の圧縮データから得られる復号画像における画素値のヒストグラムを算出し、前記算出されたヒストグラムから符号化歪みに伴うノイズが重畳している画素を特定して、前記ノイズが重畳している画素の画素値を補正して復号する復号部と、
前記復号部により復号された復号データを表示する表示処理部と、
を備えることを特徴とする端末装置。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明は、画像を高効率で符号化を行う符号化部と、高効率で符号化されている画像を復号する復号部を備える端末装置及びデータ管理装置に関するものである。
【背景技術】
【０００２】
動画像を伝送・蓄積する際には、ＭＰＥＧ（Ｍｏｖｉｎｇ Ｐｉｃｔｕｒｅ  Ｅｘｐｅｒｔ  Ｇｒｏｕｐｓ）やＩＴＵ−Ｔ Ｈ．２６ｘなどの国際標準動画像符号化方式を用いて情報量を圧縮することが一般的に行われる。特に、２０１３年１月に標準化を完了したＨＥＶＣ（Ｈｉｇｈ  Ｅｆｆｉｃｉｅｎｃｙ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ）は、４ＫやＳＨＶ（Ｓｕｐｅｒ  Ｈｉ−Ｖｉｓｉｏｎ）といったＵＨＤＴＶ（Ｕｌｔｒａ  Ｈｉｇｈ  Ｄｅｆｉｎｉｔｉｏｎ  Ｔｅｌｅｖｉｓｉｏｎ）による放送・通信サービスや、モバイル回線でのＨＤ（Ｈｉｇｈ  Ｄｅｆｉｎｉｔｉｏｎ）映像伝送の実現に向けて必要不可欠な技術である。
【０００３】
原画像である符号化対象画像の動画像符号化が行われた場合、符号化対象画像の圧縮データを復号することで得られる復号画像には、本来原画像に存在しないノイズ（符号化歪みに伴うノイズ）が発生することがある。
このノイズの存在は、復号画像の画質を低下させるだけでなく、画像符号化装置が符号化を実施する際に用いる参照画像の画質も低下させる。参照画像の画質の低下は、符号化効率の低下を招くため、符号化歪みに伴うノイズは可能な限り取り除く必要がある。
【０００４】
符号化歪みに伴うノイズを低減するための手法として、復号画像に対してフィルタを適用するループフィルタがある。
例えば、以下の特許文献１に開示されている画像符号化装置では、ループフィルタの一つとして、画素適応オフセットと呼ばれるフィルタを利用している。これは、予め定められたルールに従って復号画像の各画素を複数のクラスに分類し、同じクラスに属する画素毎に、一定のオフセットを画素値に対して加算するという手法である。オフセットの値は、画像符号化装置で決定されて画像復号装置に伝送される。
例えば、原画像と復号画像の画素値の差分平均値をオフセットとすれば、画素適応オフセットの適用により復号画像が原画像に近付き、符号化歪みに伴うノイズを低減することができる。
【０００５】
画素適応オフセットにおける画素の分類方法には、大きく分けてバンドオフセットとエッジオフセットの２種類がある（例えば、非特許文献１を参照）。
バンドオフセットは、画素値の最小値から最大値までを等間隔に分割し、対象画素の画素値が、どの領域に属するかで画素を分類する。一方、エッジオフセットは、対象画素の画素値と、その近傍画素の画素値を比較して、対象画素がエッジであるか否かを判断し、対象画素がエッジである場合には、そのエッジの方向に応じて画素の分類を行う。バンドオフセットとエッジオフセットのどちらを用いるかは画像符号化装置が決定する。
【０００６】
ところで、現在、スマートフォンやタブレットの普及に伴ってニーズが拡大している画面共有や、ＦＡ・ビル用ディスプレイ、サイネージ、メディアアーカイブなどにおいて、ＰＣ・制御端末画面等を動画像として記録するニーズが高まっている。これらは、通常のカメラにより撮影された動画像と区別するため、スクリーンコンテンツと呼ばれている。
スクリーンコンテンツは、カメラにより撮影された動画像とは異なるいくつかの性質を有している。
【０００７】
図４２はスクリーンコンテンツの特徴例の説明図である。
カメラにより撮影された画像における画素値のヒストグラム（画素値ごとの出現頻度）を算出すると、一般的には、図４２（ａ）に示すように密なヒストグラムになる。
これに対して、スクリーンコンテンツにおける画素値のヒストグラムを算出すると、図４２（ｂ）に示すように、極めて限られた画素値しか出現しておらず、非常に疎なヒストグラムとなる。
【０００８】
このような特性を有するスクリーンコンテンツを符号化すると、前述の符号化歪みによってヒストグラムに変化が生じる。
図４３はスクリーンコンテンツにおける符号化前後のヒストグラムの変化を示す説明図である。
符号化前のスクリーンコンテンツのヒストグラムでは、一本の鋭いピークのある箇所の周辺にはピークが存在していないが、そのスクリーンコンテンツを符号化してから復号した場合、符号化歪みが生じることで、その復号したスクリーンコンテンツのヒストグラムでは、一本の鋭いピークのある箇所の周辺には複数のピーク（符号化歪みに伴うノイズ）が存在している。
符号化歪みに伴うノイズは、復号画像の画質を低下させる原因となるため、前述のループフィルタなどによって取り除く必要がある。
【先行技術文献】
【特許文献】
【０００９】
【特許文献１】特開２０１２−５１１３号公報（段落番号［０００５］）
【非特許文献】
【００１０】
【非特許文献１】H.265勧告書、p. 158-160
【発明の概要】
【発明が解決しようとする課題】
【００１１】
従来の画像符号化装置は以上のように構成されているので、符号化対象画像がカメラにより撮影された画像であるように、画素値のヒストグラムが密になる画像であれば、画素適応オフセットなどのループフィルタを適用することで、符号化歪みに伴うノイズを低減することができる。しかし、ヒストグラムが疎になるスクリーンコンテンツの局所復号画像に対して、画素適応オフセットなどのループフィルタを適用しても、符号化歪みに伴うノイズを十分に低減することができない課題があった。
【００１２】
この発明は上記のような課題を解決するためになされたもので、ヒストグラムが疎になるスクリーンコンテンツの局所復号画像に生じる符号化歪みに伴うノイズを十分に低減することができる符号化部を備える端末装置及びデータ管理装置を得ることを目的とする。
また、この発明は、ヒストグラムが疎になるスクリーンコンテンツの復号画像に生じる符号化歪みに伴うノイズを十分に低減することができる復号部を備える端末装置及びデータ管理装置を得ることを目的とする。
【課題を解決するための手段】
【００１３】
この発明に係る端末装置は、データを受信する受信部と、受信部により受信されたデータを処理する演算処理部と、演算処理部により処理されたデータに対して、符号化対象画像の圧縮データから得られる局所復号画像における画素値のヒストグラムを算出し、前記算出されたヒストグラムから符号化歪みに伴うノイズが重畳している画素を特定して、前記ノイズが重畳している画素の画素値を補正して符号化する符号化部と、符号化部により符号化されたデータを保存するデータ保存部とを備えるようにしたものである。
【発明の効果】
【００１４】
この発明によれば、データを受信する受信部と、受信部により受信されたデータを処理する演算処理部と、演算処理部により処理されたデータに対して、符号化対象画像の圧縮データから得られる局所復号画像における画素値のヒストグラムを算出し、前記算出されたヒストグラムから符号化歪みに伴うノイズが重畳している画素を特定して、前記ノイズが重畳している画素の画素値を補正して符号化する符号化部と、符号化部により符号化されたデータを保存するデータ保存部とを備えるように構成したので、ヒストグラムが疎になるスクリーンコンテンツの局所復号画像に生じる符号化歪みに伴うノイズを十分に低減することができる効果、及びネットワーク上の離れたコンピュータを遠隔操作するためのプロトコルを用いずに済み、セキュリティを向上することができる効果がある。
【図面の簡単な説明】
【００１５】
【図１】この発明の実施の形態１による画像符号化装置を示す構成図である。
【図２】ＹＵＶ４：２：０フォーマットの信号における輝度信号及び色差信号の圧縮処理を実施する際の変換ブロックサイズを示す説明図である。
【図３】ＹＵＶ４：２：２フォーマットの信号における輝度信号及び色差信号の圧縮処理を実施する際の変換ブロックサイズを示す説明図である。
【図４】ＹＵＶ４：４：４フォーマットの信号における輝度信号及び色差信号の圧縮処理を実施する際の変換ブロックサイズを示す説明図である。
【図５】ＹＵＶ４：２：０フォーマットの信号において輝度信号と色差信号で同一の方向性予測を用いた場合を示す説明図である。
【図６】ＹＵＶ４：２：２フォーマットの信号において輝度信号と色差信号で同一の方向性予測を用いた場合を示す説明図である。
【図７】ＹＵＶ４：４：４フォーマットとＹＵＶ４：２：２フォーマットの関係を示す説明図である。
【図８】ＹＵＶ４：４：４フォーマットの信号において輝度信号と色差信号で同一の方向性予測を用いることと等価となるＹＵＶ４：２：２フォーマットでの方向性予測の例を示す説明図である。
【図９】ＹＵＶ４：２：２フォーマットの信号での方向性予測の予測方向ベクトルを示す説明図である。
【図１０】方向性予測と角度の関係を示す説明図である。
【図１１】４×４ＤＣＴの量子化マトリクスの一例を示す説明図である。
【図１２】複数のフィルタ処理を用いる場合のループフィルタ部１３の構成例を示す説明図である。
【図１３】ヒストグラム補正処理を実施するループフィルタ部１３内の処理部を示す構成図である。
【図１４】補正前後の画素値のヒストグラムを示す説明図である。
【図１５】符号化ビットストリームの一例を示す説明図である。
【図１６】この発明の実施の形態１による画像符号化装置の処理内容を示すフローチャートである。
【図１７】この発明の実施の形態１による画像復号装置を示す構成図である。
【図１８】複数のフィルタ処理を用いる場合のループフィルタ部３９の構成例を示す説明図である。
【図１９】ヒストグラム補正処理を実施するループフィルタ部３９内の処理部を示す構成図である。
【図２０】この発明の実施の形態１による画像復号装置の処理内容を示すフローチャートである。
【図２１】最大符号化ブロックが階層的に複数の符号化ブロックに分割される例を示す説明図である。
【図２２】（ａ）は分割後の符号化ブロック及び予測ブロックの分布を示し、（ｂ）は階層分割によって符号化モードｍ（Ｂｎ）が割り当てられる状況を示す説明図である。
【図２３】画素適応オフセット処理のクラス分類手法のインデックスを示す説明図である。
【図２４Ａ】この発明の実施の形態１による画像符号化装置におけるヒストグラム補正処理の内容を示すフローチャートである。
【図２４Ｂ】この発明の実施の形態１による画像符号化装置におけるヒストグラム補正処理の内容を示すフローチャートである。
【図２５】１６×１６画素のサイズの直交変換における変換係数の符号化順を示す説明図である。
【図２６】１６×１６画素のサイズの直交変換における変換係数の分布の一例を示す説明図である。
【図２７】４×４画素と８×８画素のサイズの直交変換における変換係数の符号化順の一例を示す説明図である。
【図２８】符号化ブロックＢｎ内の各予測ブロックＰｉｎが選択可能なイントラ予測モードの一例を示す説明図である。
【図２９】ｌｉｎ＝ｍｉｎ＝４の場合の予測画像生成ブロック内の画素の予測値を生成する際に用いる画素の一例を示す説明図である。
【図３０】平均値予測時のフィルタ処理におけるフィルタの切り替え領域を示す説明図である。
【図３１】平均値予測時のフィルタ処理の参照画素配置を示す説明図である。
【図３２】予測画像生成ブロック内の左上画素を原点とする相対座標を示す説明図である。
【図３３】色差信号のイントラ予測パラメータ（インデックス値）と色差イントラ予測モードの対応例を示す説明図である。
【図３４】ＹＵＶ４：２：２フォーマットの信号において輝度信号のイントラ予測モードインデックスと色差信号のイントラ予測モードインデックスの関係を示す説明図である。
【図３５】イントラ予測モードインデックスとｔａｎθの関係を示す説明図である。
【図３６】色差信号のイントラ予測パラメータと色差イントラ予測モードの対応例を示す説明図である。
【図３７】この発明の実施の形態１による画像復号装置におけるヒストグラム補正処理の内容を示すフローチャートである。
【図３８】複数のフィルタ処理を用いる場合のループフィルタ部１３の構成例を示す説明図である。
【図３９】ヒストグラム補正処理を実施するループフィルタ部３９内の処理部を示す構成図である。
【図４０】インデックスとオフセット適用手法の対応例を示す説明図である。
【図４１】図４０における複数のオフセット適用手法の中から、使用するオフセット適用手法を選択する手順を示すフローチャートである。
【図４２】スクリーンコンテンツの特徴例の説明図である。
【図４３】スクリーンコンテンツにおける符号化前後のヒストグラムの変化を示す説明図である。
【図４４】画素適応オフセット処理において、最大符号化ブロックであるＣｏｄｉｎｇ  Ｔｒｅｅ  Ｕｎｉｔ（ＣＴＵ）の単位で常に分割する場合を例として、画素適応オフセット処理におけるパラメータを符号化してビットストリームに挿入する位置を示す説明図である。
【図４５】可変長符号化部１５においてどのように画素適応オフセット処理パラメータを符号化してビットストリームに加えるかを示したフローチャートである。
【図４６】可変長復号部３１による画素値適応オフセット処理パラメータの復号手順を示すフローチャートである。
【図４７Ａ】実施の形態３におけるループフィルタ部１３の動作を示すフローチャートである。
【図４７Ｂ】実施の形態３におけるループフィルタ部１３の動作を示すフローチャートである。
【図４８】ヒストグラム補正処理によるブロック分割を示す説明図である。
【図４９】パラメータの流用方法を示す説明図である。
【図５０】パラメータの流用方法を示す説明図である。
【図５１】パラメータ符号化方法のインデックス表を示す説明図である。
【図５２】可変長符号化部１５の動作を表すフローチャートである。
【図５３】ヒストグラム補正処理に関する可変長復号部３１の動作を示すフローチャートである。
【図５４】パラメータ符号化方法のインデックス表を示す説明図である。
【図５５】実施の形態３を実施の形態２と組み合わせた場合の可変長符号化部１５のオフセット処理に係る動作を示すフローチャートである。
【図５６】実施の形態３を実施の形態２と組み合わせた場合の可変長復号部３１のオフセット処理に係る動作を示すフローチャートである。
【図５７】補正対象の画素値と出現頻度の関係を示す説明図である。
【図５８】補正対象の画素値と出現頻度の関係を示す説明図である。
【図５９】オフセット適用手法のインデックス表を示す説明図である。
【図６０】本実施の形態７におけるシステム構成の例を示す説明図である。
【図６１】端末装置の例を示す構成図である。
【図６２】保守員端末の例を示す構成図である。
【図６３】本実施の形態７における別のシステム構成の例を示す説明図である。
【図６４】データ管理センターの例を示す構成図である。
【図６５】情報装置の例を示す構成図である。
【発明を実施するための形態】
【００１６】
実施の形態１．
図１はこの発明の実施の形態１による画像符号化装置を示す構成図である。
この実施の形態１の画像符号化装置が処理対象とする映像信号は、輝度信号と２つの色差信号からなるＹＵＶ信号や、ディジタル撮像素子から出力されるＲＧＢ信号等の任意の色空間のカラー映像信号のほか、モノクロ画像信号や赤外線画像信号など、映像フレームが水平・垂直２次元のディジタルサンプル（画素）列から構成される任意の映像信号である。各画素の階調は８ビットでもよいし、１０ビット、１２ビットなどの階調であってもよい。また、入力信号は映像信号ではなく静止画像信号でもよいことは、静止画像信号を１フレームのみで構成される映像信号と解釈できることから当然である。
【００１７】
以下の説明においては、便宜上、特に断らない限り、入力される映像信号が、２つの色差成分Ｕ，Ｖが輝度成分Ｙに対して、縦横ともに２分の１にサブサンプルされたＹＵＶ４：２：０フォーマット、２つの色差成分Ｕ，Ｖが輝度成分Ｙに対して、横方向に２分の１にサブサンプルされたＹＵＶ４：２：２フォーマット、あるいは、２つの色差成分Ｕ，Ｖが輝度成分Ｙと同じサンプル数であるＹＵＶ４：４：４フォーマットの信号であるものとする。また、赤色（Ｒ）、緑色（Ｇ）、青色（Ｂ）の三原色の信号からなるＲＧＢ４：４：４フォーマットの信号については、それぞれの信号をＹＵＶ４：４：４フォーマットの信号とみなしてＹＵＶ４：４：４フォーマットと同一の符号化を行う。ただし、ＲＧＢ４：４：４フォーマットの各信号（ＲＧＢ）のＹＵＶ４：４：４フォーマットの各信号（ＹＵＶ）への対応付けについては限定しない（任意に設定できる）。この対応付けはインデックス情報として上位ヘッダで符号化して画像復号装置側で認識できるようにしてもよい。このようにすることで、画像復号装置によって復号した復号画像の色を正しく表示することができる。
【００１８】
また、ＹＵＶ４：４：４フォーマット信号やＲＧＢ４：４：４フォーマット信号の場合、各信号をモノクローム画像信号とみなしてそれぞれ独立にモノクローム（ＹＵＶ４：０：０）符号化してビットストリームを生成するようにしてもよい。このようにすることで各信号並列に符号化処理を実施することができる。その際、各モノクローム信号がどの色信号であるかを示す情報をインデックス情報として上位ヘッダで符号化して画像復号装置側で認識できるようにしてもよい。このようにすることで、画像復号装置によって復号した復号画像の色を正しく表示することができる。
なお、映像の各フレームに対応する処理データ単位を「ピクチャ」と称し、この実施の形態１では、「ピクチャ」は順次走査（プログレッシブスキャン）された映像フレームの信号として説明を行う。ただし、映像信号がインタレース信号である場合、「ピクチャ」は映像フレームを構成する単位であるフィールド画像信号であってもよい。
【００１９】
図１において、符号化制御部１は符号化処理が実施される際の処理単位となる符号化ブロックの最大サイズを決定するとともに、最大サイズの符号化ブロックが階層的に分割される際の上限の階層数を決定することで、各々の符号化ブロックのサイズを決定する処理を実施する。また、符号化制御部１は選択可能な１以上の符号化モード（予測処理単位を示す予測ブロックのサイズなどが異なる１以上のイントラ符号化モード、予測処理単位を示す予測ブロックのサイズなどが異なる１以上のイントラブロックコピー符号化モード、予測ブロックのサイズなどが異なる１以上のインター符号化モード）の中から、ブロック分割部３から出力される符号化ブロックに適用する符号化モードを選択する処理を実施する。選択手法の例としては、選択可能な１以上の符号化モードの中から、ブロック分割部３から出力される符号化ブロックに対する符号化効率が最も高い符号化モードを選択する手法がある。
【００２０】
また、符号化制御部１は符号化効率が最も高い符号化モードがイントラ符号化モードである場合、そのイントラ符号化モードで符号化ブロックに対するイントラ予測処理を実施する際に用いるイントラ予測パラメータを上記イントラ符号化モードが示す予測処理単位である予測ブロック毎に決定し、符号化効率が最も高い符号化モードがイントラブロックコピー符号化モードである場合、そのイントラブロックコピー符号化モードで符号化ブロックに対するイントラブロックコピー予測処理を実施する際に用いるイントラブロックコピー予測パラメータを上記イントラブロックコピー符号化モードが示す予測処理単位である予測ブロック毎に決定し、符号化効率が最も高い符号化モードがインター符号化モードである場合、そのインター符号化モードで符号化ブロックに対するインター予測処理を実施する際に用いるインター予測パラメータを上記インター符号化モードが示す予測処理単位である予測ブロック毎に決定する処理を実施する。
【００２１】
さらに、符号化制御部１は変換・量子化部９及び逆量子化・逆変換部１０に与える予測差分符号化パラメータを決定する処理を実施する。予測差分符号化パラメータには、符号化ブロックにおける直交変換処理単位となる変換ブロックの分割情報を示す変換ブロック分割情報や、変換係数の量子化を行う際の量子化ステップサイズを規定する量子化パラメータなどが含まれる。
【００２２】
ここで、図２はＹＵＶ４：２：０フォーマットの信号における輝度信号及び色差信号の圧縮処理（変換処理、量子化処理）を実施する際の変換ブロックサイズを示す説明図である。変換ブロックサイズは、図２に示すように、符号化ブロックを四分木状に階層分割することによって決定される。例えば、変換ブロックを分割する場合と変換ブロックを分割しない場合での符号量や、符号化誤差を加味した評価尺度などに基づいて、評価値が最小になるように変換ブロックを分割するか否かを決定することで、符号量と符号化誤差のトレードオフの観点から最適な変換ブロックの分割形状を決定することができる。
【００２３】
輝度信号については、例えば、図２に示すように、符号化ブロックが１つ又は複数の正方形の変換ブロックに階層的に分割されるように構成する。色差信号については、図２に示すように、入力信号フォーマットがＹＵＶ４：２：０信号である場合、輝度信号と同様に、符号化ブロックが１つ又は複数の正方形の変換ブロックに階層的に分割されるように構成する。この場合、色差信号の変換ブロックサイズは、対応する輝度信号の変換ブロックの縦横ともに半分のサイズとなる。
【００２４】
入力信号フォーマットがＹＵＶ４：２：２信号である場合、図３に示すように、輝度信号と同様の四分木状の階層分割を行う。また、分割したブロックの形状が、垂直方向の画素数が水平方向の画素数の２倍になる長方形となるため、さらに、分割したブロックを上下に二分することで、ＹＵＶ４：２：０信号での色差信号と同じブロックサイズ（輝度信号の変換ブロックの縦横ともに半分のサイズ）の変換ブロック２つで構成するようにする。
【００２５】
また、入力信号フォーマットがＹＵＶ４：４：４信号である場合、図４に示すように、色差信号の変換ブロックは、常に輝度信号の変換ブロックと同様の分割を行い、同じサイズの変換ブロックとなるように構成する。輝度信号の変換ブロックの分割情報は、例えば、階層毎に分割するか否かを示す変換ブロック分割フラグとして可変長符号化部１５に出力する。
【００２６】
スライス分割部２は入力画像として映像信号を入力すると、その入力画像を符号化制御部１により決定されたスライス分割情報にしたがって１以上の“スライス”という部分画像に分割する処理を実施する。スライスの分割単位は、上述した符号化ブロック単位まで細かくすることができる。
ブロック分割部３はスライス分割部２により分割されたスライスを入力する毎に、そのスライスを符号化制御部１により決定された最大サイズの符号化ブロックである最大符号化ブロックに分割するとともに、符号化制御部１により決定された上限の階層数に至るまで、その最大符号化ブロックを階層的に各符号化ブロックへ分割する処理を実施する。即ち、ブロック分割部３はスライスを符号化制御部１により決定された分割に応じて各符号化ブロックに分割して、その符号化ブロックを出力する処理を実施する。また、各符号化ブロックは予測処理単位となる１つないし複数の予測ブロックに分割される。
【００２７】
切換スイッチ４は符号化制御部１により決定された符号化モードがイントラ符号化モードであれば、ブロック分割部３から出力された符号化ブロックをイントラ予測部５に出力し、符号化制御部１により決定された符号化モードがイントラブロックコピー符号化モードであれば、ブロック分割部３から出力された符号化ブロックをイントラブロックコピー予測部６に出力し、符号化制御部１により決定された符号化モードがインター符号化モードであれば、ブロック分割部３から出力された符号化ブロックを動き補償予測部７に出力する処理を実施する。
【００２８】
イントラ予測部５は切換スイッチ４から出力された符号化ブロックに対応する符号化モードとして、符号化制御部１によりイントラ符号化モードが選択された場合、イントラ用メモリ１２に格納されている局所復号画像を参照しながら、符号化制御部１により決定されたイントラ予測パラメータを用いたイントラ予測処理（フレーム内予測処理）を実施してイントラ予測画像を生成する処理を実施する。
【００２９】
即ち、イントラ予測部５は、輝度信号については、輝度信号のイントラ予測パラメータを用いたイントラ予測処理（フレーム内予測処理）を実施して、輝度信号の予測画像を生成する。一方、色差信号については、色差信号のイントラ予測パラメータが、輝度信号に対するイントラ予測モードと同じ予測モードを用いる旨を示している場合（イントラ予測パラメータが輝度色差共通イントラ予測モード（ＤＭモード）を示している場合）、輝度信号と同じフレーム内予測を実施して、色差信号の予測画像を生成する。図５はＹＵＶ４：２：０フォーマットの信号において輝度信号と色差信号で同一の方向性予測を用いた場合を示し、図６はＹＵＶ４：２：２フォーマットの信号において輝度信号と色差信号で同一の方向性予測を用いた場合を示している。
【００３０】
また、色差信号のイントラ予測パラメータが、垂直方向予測モード又は水平方向予測モードを示している場合、色差信号に対する方向性予測を実施して、色差信号の予測画像を生成する。また、色差信号のイントラ予測パラメータが、輝度相関利用色差信号予測モード（ＬＭモード）を示している場合、予測画像の生成対象ブロックの上及び左に隣接している複数の画素の輝度信号及び色差信号を用いて、輝度信号と色差信号の相関を示す相関パラメータを算出し、その相関パラメータと予測処理対象の色差信号のブロックに対応する輝度信号を用いて、色差信号の予測画像を生成する。
【００３１】
入力信号フォーマットがＹＵＶ４：２：２信号である場合、図７に示すように、輝度信号が正方ブロックであれば、色差信号は輝度信号と比較して水平方向の画素数が１／２となる長方形のブロックとなる。したがって、図８に示すように、ＹＵＶ４：４：４信号をＹＵＶ４：２：２信号に変換した際に、輝度信号と色差信号で同一方向の予測となるようにするためには、ＹＵＶ４：２：２信号上では、垂直方向予測と水平方向予測以外の方向性予測の場合には、色差信号の予測方向が輝度信号の予測方向と異なることとなる。具体的には、図９に示すように、輝度信号の予測方向ベクトルをｖＬ＝（ｄｘＬ，ｄｙＬ）とした場合、色差信号の予測方向ベクトルは、ｖＣ＝（ｄｘＬ／２，ｄｙＬ）となる。即ち、図１０に示すように、予測方向の角度をθとした場合、輝度信号の予測方向の角度をθＬ、色差信号の予測方向の角度をθＣとして、ｔａｎθＣ＝２ｔａｎθＬの関係となる予測方向で予測する必要がある。
【００３２】
したがって、輝度信号と色差信号で同一方向の予測を行う上記ＤＭモードを正しく実施できるようにするために、入力信号フォーマットがＹＵＶ４：２：２信号である場合、輝度信号に使用したイントラ予測モードのインデックスを色差信号の予測に用いるイントラ予測モードのインデックスに変換し、変換後のインデックスに対応するイントラ予測モードによる色差信号の予測処理を実施する。具体的には、インデックスの変換テーブルを用意し、その変換テーブルを参照することで、インデックスを変換するように構成してもよいし、予め変換式を用意して、その変換式に従ってインデックスを変換するように構成してもよい。このように構成することで、方向性予測処理自体を変更することなく、インデックスの変換のみで、ＹＵＶ４：２：２信号のフォーマットに応じた色差信号の適切な予測を実施することができる。
【００３３】
イントラブロックコピー予測部６は切換スイッチ４から出力された符号化ブロックに対応する符号化モードとして、符号化制御部１によりイントラブロックコピー符号化モードが選択された場合、その符号化ブロック内の予測ブロック（予測処理単位のブロック）が属している最大サイズの符号化ブロック（最大符号化ブロック）の中で、未だ局所復号が済んでいない領域内の各画素の画素値を所定の方法で仮定する処理を実施する。また、イントラブロックコピー予測部６は符号化ブロック内の予測ブロック毎に、同一のピクチャ内で既に符号化が行われて局所復号が済んでいる領域の中から、当該予測ブロックと最も近似しているブロックである参照ブロックを探索して、その参照ブロックを当該予測ブロックの予測画像に決定する処理を実施する。
【００３４】
動き補償予測部７は切換スイッチ４から出力された符号化ブロックに対応する符号化モードとして、符号化制御部１によりインター符号化モードが選択された場合、符号化ブロックと動き補償予測フレームメモリ１４に格納されている１フレーム以上の局所復号画像を比較して動きベクトルを探索し、その動きベクトルと符号化制御部１により決定された参照するフレーム番号などのインター予測パラメータを用いて、その符号化ブロックに対するインター予測処理（動き補償予測処理）を実施してインター予測画像を生成する処理を実施する。
【００３５】
減算部８はブロック分割部３より出力された符号化ブロックから、イントラ予測部５により生成されたイントラ予測画像、イントラブロックコピー予測部６により生成されたイントラブロックコピー予測画像、又は、動き補償予測部７により生成されたインター予測画像を減算して、その減算結果である差分画像を示す予測差分信号を変換・量子化部９に出力する処理を実施する。
【００３６】
変換・量子化部９は符号化制御部１により決定された予測差分符号化パラメータに含まれる変換ブロック分割情報を参照して、減算部８から出力された予測差分信号に対する直交変換処理（例えば、ＤＣＴ（離散コサイン変換）やＤＳＴ（離散サイン変換）、予め特定の学習系列に対して基底設計がなされているＫＬ変換等の直交変換処理）を変換ブロック単位に実施して変換係数を算出するとともに、その予測差分符号化パラメータに含まれる量子化パラメータを参照して、その変換ブロック単位の変換係数を量子化し、量子化後の変換係数である圧縮データを逆量子化・逆変換部１０及び可変長符号化部１５に出力する処理を実施する。
変換・量子化部９は変換係数を量子化する際、上記量子化パラメータから算出される量子化ステップサイズを変換係数毎にスケーリングする量子化マトリクスを用いて、変換係数の量子化処理を実施するようにしてもよい。
【００３７】
ここで、図１１は４×４ＤＣＴの量子化マトリクスの一例を示す説明図である。図中の数字は、各変換係数の量子化ステップサイズのスケーリング値を示している。例えば、符号化ビットレートを抑制するために、図１１に示すように、高域の変換係数程、量子化ステップサイズを大きな値にスケーリングすることで、複雑な画像領域等で発生する高域の変換係数を抑制して符号量を抑えつつ、主観品質に大きく影響する低域の係数の情報を落とさずに符号化することができる。このように、変換係数毎の量子化ステップサイズを制御したい場合には量子化マトリクスを用いればよい。
【００３８】
また、量子化マトリクスは、各直交変換サイズで色信号や符号化モード（イントラ符号化かインター符号化か）毎に独立したマトリクスを使用することができ、初期値として、画像符号化装置及び画像復号装置で予め共通に用意されている量子化マトリクスや既に符号化された量子化マトリクスの中から選択するか、新しい量子化マトリクスを用いるかをそれぞれ選択することができる。したがって、変換・量子化部９は、各直交変換サイズに対して色信号や符号化モード毎に、新しい量子化マトリクスを用いるか否かを示すフラグ情報を符号化すべき量子化マトリクスパラメータに設定する。
【００３９】
さらに、新しい量子化マトリクスを用いる場合には、図１１に示すような量子化マトリクスの各スケーリング値を符号化すべき量子化マトリクスパラメータに設定する。一方、新しい量子化マトリクスを用いない場合には、初期値として、画像符号化装置及び画像復号装置で、予め共通に用意されている量子化マトリクス、又は、既に符号化された量子化マトリクスの中から、使用するマトリクスを特定するインデックスを符号化すべき量子化マトリクスパラメータに設定する。ただし、参照可能な既に符号化された量子化マトリクスが存在しない場合、画像符号化装置及び画像復号装置で予め共通に用意されている量子化マトリクスのみ選択可能となる。
【００４０】
逆量子化・逆変換部１０は符号化制御部１により決定された予測差分符号化パラメータに含まれる量子化パラメータ及び変換ブロック分割情報を参照して、変換ブロック単位に変換・量子化部９から出力された圧縮データを逆量子化するとともに、逆量子化後の圧縮データである変換係数に対する逆直交変換処理を実施して、減算部８から出力された予測差分信号に相当する局所復号予測差分信号を算出する処理を実施する。なお、変換・量子化部９が量子化マトリクスを用いて、量子化処理を実施している場合には、逆量子化処理時においても、その量子化マトリクスを参照して、対応する逆量子化処理を実施する。
【００４１】
加算部１１は逆量子化・逆変換部１０により算出された局所復号予測差分信号と、イントラ予測部５により生成されたイントラ予測画像、イントラブロックコピー予測部６により生成されたイントラブロックコピー予測画像、又は、動き補償予測部７により生成されたインター予測画像とを加算して、ブロック分割部３から出力された符号化ブロックに相当する局所復号画像を算出する処理を実施する。
イントラ用メモリ１２は加算部１１により算出された局所復号画像を格納する記録媒体である。
【００４２】
ループフィルタ部１３は加算部１１により算出された局所復号画像に対して、所定のフィルタ処理を実施して、フィルタ処理後の局所復号画像を出力する処理を実施する。具体的には、変換ブロックの境界や予測ブロックの境界に発生する歪みを低減するフィルタ（デブロッキングフィルタ）処理、画素単位に適応的にオフセットを加算する（画素適応オフセット）処理、ウィーナフィルタ等の線形フィルタを適応的に切り替えてフィルタ処理する適応フィルタ処理などを行う。
これらのループフィルタは、復号画像の画質を向上させることを目的として適用されるが、図４２に示すようなスクリーンコンテンツの特殊なヒストグラム形状を考慮しておらず、十分な画質改善効果が得られない。そこで、この実施の形態１では、新たなループフィルタ処理としてヒストグラム補正処理を実施する。
【００４３】
ループフィルタ部１３は、上記のデブロッキングフィルタ処理、画素適応オフセット処理、適応フィルタ処理及びヒストグラム補正処理のそれぞれについて処理を行うか否かを決定し、各処理の有効フラグをヘッダ情報として可変長符号化部１５に出力する。なお、上記のフィルタ処理を複数使用する際には、各フィルタ処理を順番に実施する。図１２は複数のフィルタ処理を用いる場合のループフィルタ部１３の構成例を示している。
ただし、図１２に示しているループフィルタの種類と順序は一例に過ぎず、適用するループフィルタの種類と適用順序は必ずしも図１２のようにする必要はない。例えば、デブロッキングフィルタ処理、画素適応オフセット処理、ヒストグラム補正処理の３種類だけでループフィルタ部１３を構成することや、適用順序をデブロッキングフィルタ処理、ヒストグラム補正処理、画素適応オフセット処理の順にすることなどが考えられる。
【００４４】
デブロッキングフィルタ処理では、ブロック境界にかけるフィルタ強度の選択に用いる各種パラメータを初期値から変更することができる。変更する場合には、そのパラメータをヘッダ情報として可変長符号化部１５に出力する。
画素適応オフセット処理では、最初に、画像を複数のブロックに分割し、そのブロック単位に、オフセット処理を行わない場合もクラス分類手法の一つとして定義して、予め用意されている複数のクラス分類手法の中から、１つのクラス分類手法を選択する。次に、選択したクラス分類手法によって、ブロック内の各画素をクラス分類し、クラス毎に符号化歪みを補償するオフセット値を算出する。最後に、局所復号画像の画素値に対して、そのオフセット値を加算する処理を行うことで局所復号画像の画像品質を改善する。
【００４５】
したがって、画素適応オフセット処理では、ブロック分割情報、各ブロックのクラス分類手法を示すインデックス、ブロック単位の各クラスのオフセット値を特定するオフセット情報をヘッダ情報として可変長符号化部１５に出力する。
なお、画素適応オフセット処理において、例えば、最大符号化ブロックといった固定サイズのブロック単位に常に分割して、そのブロック毎にクラス分類手法を選択して、クラス毎の適応オフセット処理を行ってもよい。この場合、上記ブロック分割情報が不要となり、ブロック分割情報に要する符号量分だけ符号量が削減され、符号化効率を高めることができる。
【００４６】
適応フィルタ処理では、局所復号画像を所定の手法でクラス分類し、各クラスに属する領域（局所復号画像）毎に、重畳されている歪みを補償するフィルタを設計し、そのフィルタを用いて、当該局所復号画像のフィルタ処理を実施する。そして、クラス毎に設計したフィルタをヘッダ情報として可変長符号化部１５に出力する。クラス分類手法としては、画像を空間的に等間隔に区切る簡易な手法や、ブロック単位に画像の局所的な特性（分散など）に応じて分類する手法がある。また、適応フィルタ処理で使用するクラス数は、予め画像符号化装置及び画像復号装置に共通の値として設定してもよいし、符号化すべきパラメータとしてもよい。前者と比較して後者の方が、使用するクラス数を自由に設定することができるため、画像品質改善効果が上がるが、一方でクラス数を符号化するために、その分の符号量が増加する。
【００４７】
図１３はヒストグラム補正処理を実施するループフィルタ部１３内の処理部を示す構成図である。
図１３において、ヒストグラム算出部２１は映像信号が示す入力画像（符号化対象画像）を複数のブロックに分割するとともに、加算部１１により算出された局所復号画像を複数のブロックに分割し、その局所復号画像のブロック毎に画素値のヒストグラムを算出する処理を実施する。なお、ヒストグラム算出部２１はヒストグラム算出手段を構成している。
画素値補正部２２はヒストグラム算出部２１により算出されたヒストグラムから符号化歪みに伴うノイズが重畳している画素を特定して、そのノイズが重畳している画素の画素値を補正する処理を実施する。なお、画素値補正部２２は画素値補正手段を構成している。
【００４８】
画素値補正部２２の第１の誤差算出部２３はブロック単位の入力画像と局所復号画像との誤差を算出する処理を実施する。
第２の誤差算出部２４はヒストグラム算出部２１により算出されたヒストグラムにおけるピーク画素値を含む補正画素値範囲内の画素値を前記ピーク画素値に置換したと仮定した場合のブロック単位の局所復号画像と、ブロック単位の入力画像との誤差を算出する処理を実施する。
【００４９】
補正画素値範囲保存部２５は第２の誤差算出部２４により算出された誤差が第１の誤差算出部２３により算出された誤差より小さければ、第１の誤差算出部２３により算出された誤差を第２の誤差算出部２４により算出された誤差に置き換えて、その補正画素値範囲を上書き保存する。
繰り返し処理部２６は前記補正画素値範囲が予め設定された最大範囲に至るまで、その補正画素値範囲を更新して、誤差の算出処理の再実施を第２の誤差算出部２４に繰り返し指示する処理を実施する。
画素値置換部２７は繰り返し処理部２６により更新された補正画素値範囲が予め設定された最大範囲に至ったのち、補正画素値範囲保存部２５により保存されている補正画素値範囲内の画素値をピーク画素値に置換する処理を実施する。
【００５０】
即ち、ヒストグラム補正処理では、最初に、ヒストグラム算出部２１が、映像信号が示す入力画像を複数のブロックに分割するとともに、加算部１１により算出された局所復号画像を複数のブロックに分割し、その局所復号画像のブロック毎に画素値のヒストグラムを算出する。
画素値補正部２２は、ヒストグラム算出部２１により算出されたヒストグラムのピーク画素値を所定の方法によって特定する。そのピーク画素値の近傍には、符号化歪みによるノイズが存在するため、ピーク画素値に近い画素値を持つ画素（補正画素値範囲内の画素値）に対して、その画素値をピーク画素値で置換することで符号化歪みを低減する。
ここで、図１４は補正前後の画素値のヒストグラムを示す説明図である。
図１４では、どれだけの範囲の画素値に対して補正を実施するのかを示す補正幅（補正画素値範囲）をｗで表しており、この補正幅ｗは、ピーク画素値の位置や画像の特性に応じて最適な値が変わるため、画素値補正部２２が算出する。
【００５１】
図１において、動き補償予測フレームメモリ１４はループフィルタ部１３のフィルタ処理後の局所復号画像を格納する記録媒体である。
可変長符号化部１５は変換・量子化部９から出力された圧縮データと、符号化制御部１の出力信号（最大符号化ブロック内のブロック分割情報、符号化モード、予測差分符号化パラメータ、ループフィルタパラメータ、イントラ予測パラメータ、イントラブロックコピー予測パラメータ、インター予測パラメータ）と、動き補償予測部７から出力された動きベクトル（符号化モードがインター符号化モードである場合）と、画素値補正部２２により算出された最適な補正幅ｗ（補正画素値範囲）とを可変長符号化して符号化データを生成する処理を実施する。
また、可変長符号化部１５は、図１５に例示するように、符号化ビットストリームのヘッダ情報として、シーケンスレベルヘッダ、ピクチャレベルヘッダを符号化し、ピクチャデータと共に符号化ビットストリームを生成する処理を実施する。なお、可変長符号化部１５は符号化手段を構成している。
【００５２】
ただし、ピクチャデータは１以上のスライスデータから構成され、各スライスデータはスライスレベルヘッダと当該スライス内にある上記符号化データをまとめたものである。ピクチャデータはスライスデータの他に補足情報を示すヘッダ情報を含む場合もある。
シーケンスレベルヘッダは、画像サイズ、色信号フォーマット、輝度信号や色差信号の信号値のビット深度、シーケンス単位でのループフィルタ部１３における各フィルタ処理（適応フィルタ処理、画素適応オフセット処理、デブロッキングフィルタ処理、ヒストグラム補正処理）の有効フラグ情報、量子化マトリクスの有効フラグ情報など、一般的にシーケンス単位に共通となるヘッダ情報をまとめたものである。
【００５３】
ピクチャレベルヘッダは、参照するシーケンスレベルヘッダのインデックスや動き補償時の参照ピクチャ数、エントロピー符号化の確率テーブル初期化フラグ、量子化マトリクスパラメータなど、ピクチャ単位で設定するヘッダ情報をまとめたものである。
スライスレベルヘッダは、当該スライスがピクチャのどの位置にあるかを示す位置情報、どのピクチャレベルヘッダを参照するかを示すインデックス、スライスの符号化タイプ（オールイントラ符号化、インター符号化など）、ループフィルタ部１３における各フィルタ処理（適応フィルタ処理、画素適応オフセット処理、デブロッキングフィルタ処理、適応オフセット処理）を行うか否かを示すフラグ情報などのスライス単位のパラメータをまとめたものである。
【００５４】
各ヘッダ情報とピクチャデータはＮＡＬユニットによって識別される。具体的には、シーケンスパラメータセット（上記シーケンスレベルヘッダに相当）、ピクチャパラメータヘッダ（上記ピクチャレベルヘッダに相当）、スライスデータはそれぞれ固有のＮＡＬユニットタイプとして定義され、ＮＡＬユニットタイプの識別情報（インデックス）と共に符号化される。補足情報についても、存在する場合には固有のＮＡＬユニットとして定義される。また、上記ピクチャデータはアクセスユニットとして定義され、一つのピクチャの符号化データを含むデータアクセスの単位を示している。
【００５５】
図１の例では、画像符号化装置の構成要素である符号化制御部１、スライス分割部２、ブロック分割部３、切換スイッチ４、イントラ予測部５、イントラブロックコピー予測部６、動き補償予測部７、減算部８、変換・量子化部９、逆量子化・逆変換部１０、加算部１１、イントラ用メモリ１２、ループフィルタ部１３、動き補償予測フレームメモリ１４及び可変長符号化部１５のそれぞれが専用のハードウェアで構成（イントラ用メモリ１２及び動き補償予測フレームメモリ１４以外の構成要素は、例えば、ＣＰＵを実装している半導体集積回路や、ワンチップマイコンなどで構成）されているものを想定しているが、画像符号化装置がコンピュータで構成されていてもよい。
【００５６】
画像符号化装置をコンピュータで構成する場合、イントラ用メモリ１２及び動き補償予測フレームメモリ１４をコンピュータのメモリ上に構成するとともに、符号化制御部１、スライス分割部２、ブロック分割部３、切換スイッチ４、イントラ予測部５、イントラブロックコピー予測部６、動き補償予測部７、減算部８、変換・量子化部９、逆量子化・逆変換部１０、加算部１１、ループフィルタ部１３及び可変長符号化部１５の処理内容を記述しているプログラムをコンピュータのメモリに格納し、当該コンピュータのＣＰＵが当該メモリに格納されているプログラムを実行するようにすればよい。
図１６はこの発明の実施の形態１による画像符号化装置の処理内容を示すフローチャートである。
【００５７】
図１７はこの発明の実施の形態１による画像復号装置を示す構成図である。
図１７において、可変長復号部３１は図１の画像符号化装置により生成された符号化ビットストリームを入力すると、そのビットストリームからシーケンスレベルヘッダ、ピクチャレベルヘッダ、スライスレベルヘッダなどの各ヘッダ情報とピクチャデータを復号する処理を実施する。
ただし、ピクチャデータは１以上のスライスデータから構成されており、各スライスデータはスライスレベルヘッダと当該スライス内にある符号化データがまとめられているものである。ピクチャデータはスライスデータの他に補足情報を示すヘッダ情報を含む場合もある。このとき、ＹＵＶ４：４：４フォーマット信号やＲＧＢ４：４：４フォーマット信号の各信号をモノクローム画像信号とみなしてそれぞれ独立にモノクローム（ＹＵＶ４：０：０）符号化していることを示す情報がヘッダ情報に含まれる場合、各色信号の符号化ビットストリームに対してそれぞれ独立に復号処理を実施することができる。
【００５８】
各ヘッダ情報とピクチャデータはＮＡＬユニットによって識別される。具体的には、シーケンスパラメータセット（上記シーケンスレベルヘッダに相当）、ピクチャパラメータヘッダ（上記ピクチャレベルヘッダに相当）、スライスデータはそれぞれ固有のＮＡＬユニットタイプとして定義され、ＮＡＬユニットタイプの識別情報（インデックス）を復号することで識別される。補足情報についても、存在する場合には固有のＮＡＬユニットとして識別される。また、ピクチャデータはスライスデータを示すＮＡＬユニット等をまとめたアクセスユニットとして識別される。
【００５９】
上記ヘッダ情報に含まれる量子化マトリクスの有効フラグ情報が“有効”を示す場合、可変長復号部３１は量子化マトリクスパラメータを可変長復号し、量子化マトリクスを特定する。具体的には、各直交変換サイズの色信号や符号化モード毎に、量子化マトリクスパラメータが初期値として、画像符号化装置及び画像復号装置で予め共通に用意されている量子化マトリクス、又は、既に復号された量子化マトリクスである（新しい量子化マトリクスでない）ことを示す場合は、上記マトリクスの内のどの量子化マトリクスであるかを特定するインデックス情報を参照して量子化マトリクスを特定し、量子化マトリクスパラメータが新しい量子化マトリクスを用いることを示す場合は、量子化マトリクスパラメータに含まれる量子化マトリクスを使用する量子化マトリクスとして特定する。
【００６０】
また、可変長復号部３１は、スライスレベルヘッダを参照して、スライス分割状態を特定するとともに、各スライスのスライスデータを復号して、最大符号化ブロックの符号化データを特定すると共に、スライスデータに含まれるブロック分割情報を復号して、最大符号化ブロックを階層的に分割して復号処理を行う単位である符号化ブロックを特定し、各々の符号化ブロックに係る圧縮データ、符号化モード、イントラ予測パラメータ（符号化モードがイントラ符号化モードである場合）、イントラブロックコピー予測パラメータ（符号化モードがイントラブロックコピー符号化モードである場合）、インター予測パラメータ（符号化モードがインター符号化モードである場合）、動きベクトル（符号化モードがインター符号化モードである場合）、最適な補正幅ｗ（補正画素値範囲）及び予測差分符号化パラメータを可変長復号する処理を実施する。なお、可変長復号部３１は復号手段を構成している。
【００６１】
逆量子化・逆変換部３２は可変長復号部３１により可変長復号された予測差分符号化パラメータに含まれる量子化パラメータ及び変換ブロック分割情報を参照して、可変長復号部３１により可変長復号された圧縮データを変換ブロック単位に逆量子化するとともに、逆量子化後の圧縮データである変換係数に対する逆直交変換処理を実施して、図１の逆量子化・逆変換部１０から出力された局所復号予測差分信号と同一の復号予測差分信号を算出する処理を実施する。
【００６２】
ここで、上記変換ブロック分割情報から、符号化ブロックにおける変換ブロックの分割状態を特定する。例えば、ＹＵＶ４：２：０フォーマットの信号の場合、変換ブロックサイズは、図２に示すように、符号化ブロックを四分木状に階層分割することによって決定される。
輝度信号については、例えば、図２に示すように、符号化ブロックが１つ又は複数の正方形の変換ブロックに階層的に分割されるように構成する。色差信号については、図２に示すように、入力信号フォーマットがＹＵＶ４：２：０信号である場合、輝度信号と同様に、符号化ブロックが１つ又は複数の正方形の変換ブロックに階層的に分割されるように構成する。この場合、色差信号の変換ブロックサイズは、対応する輝度信号の変換ブロックの縦横ともに半分のサイズとなる。
【００６３】
入力信号フォーマットがＹＵＶ４：２：２信号である場合、図３に示すように、輝度信号と同様の四分木状の階層分割を行う。また、分割したブロックの形状が、垂直方向の画素数が水平方向の画素数の２倍になる長方形となるため、さらに、分割したブロックを上下に二分することで、ＹＵＶ４：２：０信号での色差信号と同じブロックサイズ（輝度信号の変換ブロックの縦横ともに半分のサイズ）の変換ブロック２つで構成するようにする。
入力信号フォーマットがＹＵＶ４：４：４信号である場合、図４に示すように、色差信号の変換ブロックは、常に輝度信号の変換ブロックと同様の分割を行い、同じサイズの変換ブロックとなるように構成する。
【００６４】
また、可変長復号部３１により可変長復号された各ヘッダ情報が、当該スライスで量子化マトリクスを用いて、逆量子化処理を実施することを示している場合、量子化マトリクスを用いて逆量子化処理を行う。具体的には、各ヘッダ情報から特定される量子化マトリクスを用いて逆量子化処理を行う。
【００６５】
切換スイッチ３３は可変長復号部３１により可変長復号された符号化モードがイントラ符号化モードであれば、可変長復号部３１により可変長復号されたイントラ予測パラメータをイントラ予測部３４に出力し、可変長復号部３１により可変長復号された符号化モードがイントラブロックコピー符号化モードであれば、可変長復号部３１により可変長復号されたイントラブロックコピー予測パラメータをイントラブロックコピー予測部３５に出力し、可変長復号部３１により可変長復号された符号化モードがインター符号化モードであれば、可変長復号部３１により可変長復号されたインター予測パラメータ及び動きベクトルを動き補償予測部３６に出力する処理を実施する。
【００６６】
イントラ予測部３４は可変長復号部３１により可変長復号されたブロック分割情報から特定される符号化ブロックに係る符号化モードがイントラ符号化モードである場合、イントラ用メモリ３８に格納されている復号画像を参照しながら、切換スイッチ３３から出力されたイントラ予測パラメータを用いたイントラ予測処理（フレーム内予測処理）を実施してイントラ予測画像を生成する処理を実施する。
【００６７】
即ち、イントラ予測部３４は、輝度信号については、輝度信号に対する上記イントラ予測パラメータを用いたイントラ予測処理（フレーム内予測処理）を実施して、輝度信号の予測画像を生成する。一方、色差信号については、色差信号のイントラ予測パラメータが、輝度信号に対するイントラ予測モードと同じ予測モードを用いる旨を示している場合（イントラ予測パラメータが輝度色差共通イントラ予測モード（ＤＭモード）を示している場合）、輝度信号と同じフレーム内予測を実施して、色差信号の予測画像を生成する。
【００６８】
また、色差信号のイントラ予測パラメータが、垂直方向予測モード又は水平方向予測モードを示している場合、色差信号に対する方向性予測を実施して、色差信号の予測画像を生成する。また、色差信号のイントラ予測パラメータが、輝度相関利用色差信号予測モード（ＬＭモード）を示している場合、予測画像の生成対象ブロックの上及び左に隣接している複数の画素の輝度信号及び色差信号を用いて、輝度信号と色差信号の相関を示す相関パラメータを算出し、その相関パラメータと予測処理対象の色差信号のブロックに対応する輝度信号を用いて、色差信号の予測画像を生成する。
【００６９】
入力信号フォーマットがＹＵＶ４：２：２信号である場合、図７に示すように、輝度信号が正方ブロックであれば、色差信号は輝度信号と比較して水平方向の画素数が１／２となる長方形のブロックとなる。したがって、図８に示すように、ＹＵＶ４：４：４信号をＹＵＶ４：２：２信号に変換した際に、輝度信号と色差信号で同一方向の予測となるようにするためには、ＹＵＶ４：２：２信号上では、垂直方向予測と水平方向予測以外の方向性予測の場合には、色差信号の予測方向が輝度信号の予測方向と異なることとなる。具体的には、図９に示すように、輝度信号の予測方向ベクトルをｖＬ＝（ｄｘＬ，ｄｙＬ）とした場合、色差信号の予測方向ベクトルは、ｖＣ＝（ｄｘＬ／２，ｄｙＬ）となる。即ち、図１０に示すように、予測方向の角度をθとした場合、輝度信号の予測方向の角度をθＬ、色差信号の予測方向の角度をθＣとして、ｔａｎθＣ＝２ｔａｎθＬの関係となる予測方向で予測する必要がある。
【００７０】
したがって、輝度信号と色差信号で同一方向の予測を行う上記ＤＭモードを正しく実施できるようにするために、入力信号フォーマットがＹＵＶ４：２：２信号である場合、輝度信号に使用したイントラ予測モードのインデックスを色差信号の予測に用いるイントラ予測モードのインデックスに変換し、変換後のインデックスに対応するイントラ予測モードによる色差信号の予測処理を実施する。具体的には、インデックスの変換テーブルを用意し、その変換テーブルを参照することで、インデックスを変換するように構成してもよいし、予め変換式を用意して、その変換式に従ってインデックスを変換するように構成してもよい。このように構成することで、方向性予測処理自体を変更することなく、インデックスの変換のみで、ＹＵＶ４：２：２信号のフォーマットに応じた色差信号の適切な予測を実施することができる。
【００７１】
イントラブロックコピー予測部３５は可変長復号部３１により可変長復号されたブロック分割情報から特定される符号化ブロックに係る符号化モードがイントラブロックコピー符号化モードである場合、その符号化ブロック内の予測ブロックが属している最大符号化ブロックの中で、未だ復号が済んでいない領域内の各画素の画素値を所定の方法で仮定する処理を実施する。また、イントラブロックコピー予測部３５は符号化ブロック内の予測ブロック毎に、同一のピクチャ内で既に復号が済んでいる領域の中から、当該予測ブロックと最も近似しているブロックである参照ブロックを探索して、その参照ブロックを当該予測ブロックの予測画像に決定する処理を実施する。
【００７２】
動き補償予測部３６は可変長復号部３１により可変長復号されたブロック分割情報から特定される符号化ブロックに係る符号化モードがインター符号化モードである場合、動き補償予測フレームメモリ４０に格納されている復号画像を参照しながら、切換スイッチ３３から出力された動きベクトルとインター予測パラメータを用いたインター予測処理（動き補償予測処理）を実施してインター予測画像を生成する処理を実施する。
【００７３】
加算部３７は逆量子化・逆変換部３２により算出された復号予測差分信号と、イントラ予測部３４により生成されたイントラ予測画像、イントラブロックコピー予測部３５により生成されたイントラブロックコピー予測画像、又は、動き補償予測部３６により生成されたインター予測画像とを加算して、図１の加算部１１から出力された局所復号画像と同一の復号画像を算出する処理を実施する。
イントラ用メモリ３８は加算部３７により算出された復号画像をイントラ予測処理及びイントラブロックコピー予測処理で用いる参照画像として格納する記録媒体である。
【００７４】
ループフィルタ部３９は加算部３７により算出された復号画像に対して、所定のフィルタ処理を実施して、フィルタ処理後の復号画像を出力する処理を実施する。具体的には、変換ブロックの境界や予測ブロックの境界に発生する歪みを低減するフィルタ（デブロッキングフィルタ）処理、画素単位に適応的にオフセットを加算する（画素適応オフセット）処理、ウィーナフィルタ等の線形フィルタを適応的に切り替えてフィルタ処理する適応フィルタ処理などを行う。
これらのループフィルタは、復号画像の画質を向上させることを目的として適用されるが、図４２に示すようなスクリーンコンテンツの特殊なヒストグラム形状を考慮しておらず、十分な画質改善効果が得られない。そこで、この実施の形態１では、新たなループフィルタ処理としてヒストグラム補正処理を実施する。
【００７５】
ループフィルタ部３９は、上記のデブロッキングフィルタ処理、画素適応オフセット処理、適応フィルタ処理及びヒストグラム補正処理のそれぞれについて、可変長復号部３１により可変長復号された各ヘッダ情報を参照することで、当該スライスで行うか否かを特定する。
このとき、２つ以上のフィルタ処理を行う場合において、例えば、画像符号化装置のループフィルタ部１３が図１２のように構成されていれば、図１８に示すようにループフィルタ部３９が構成される。当然、画像符号化装置のループフィルタ部１３がデブロッキングフィルタ処理、画素適応オフセット処理及びヒストグラム補正処理から構成されていれば、ループフィルタ部３９もデブロッキングフィルタ処理、画素適応オフセット処理及びヒストグラム補正処理で構成される。
【００７６】
デブロッキングフィルタ処理では、可変長復号部３１により可変長復号されたヘッダ情報を参照し、ブロック境界にかけるフィルタ強度の選択に用いる各種パラメータを初期値から変更する情報が存在する場合、その変更情報に基づいて、デブロッキングフィルタ処理を実施する。変更情報がない場合は、予め定められた手法に従って行う。
画素適応オフセット処理では、可変長復号部３１により可変長復号された画素適応オフセット処理のブロック分割情報に基づいて復号画像を分割し、そのブロック単位に、可変長復号部３１により可変長復号されたブロック単位のクラス分類手法を示すインデックスを参照して、そのインデックスが“オフセット処理を行わない”ことを示すインデックスでない場合、ブロック単位にブロック内の各画素を上記インデックスが示すクラス分類手法に従ってクラス分類する。なお、クラス分類手法の候補として、ループフィルタ部１３の画素適応オフセット処理のクラス分類手法の候補と同一のものが予め用意されている。そして、ブロック単位の各クラスのオフセット値を特定するオフセット情報を参照して、復号画像の画素値にオフセットを加算する処理を行う。
【００７７】
ただし、画像符号化装置のループフィルタ部１３の画素適応オフセット処理において、ブロック分割情報は符号化せずに、常に画像を固定サイズのブロック単位（例えば、最大符号化ブロック単位）に分割し、そのブロック毎にクラス分類手法を選択して、クラス毎の適応オフセット処理を行うように構成されている場合、ループフィルタ部３９においても、ループフィルタ部１３と同一の固定サイズのブロック単位に画素適応オフセット処理を実施する。
適応フィルタ処理では、可変長復号部３１により可変長復号されたクラス毎のフィルタを用いて、図１の画像符号化装置と同一の手法でクラス分類した後に、そのクラス分類情報に基づいてフィルタ処理を行う。
【００７８】
図１９はヒストグラム補正処理を実施するループフィルタ部３９内の処理部を示す構成図である。
図１９において、ヒストグラム算出部４１は加算部１１により算出された復号画像を複数のブロックに分割し、その局所復号画像のブロック毎に画素値のヒストグラムを算出する処理を実施する。なお、ヒストグラム算出部４１はヒストグラム算出手段を構成している。
画素値補正部４２はヒストグラム算出部４１により算出されたヒストグラムから符号化歪みに伴うノイズが重畳している画素を特定して、そのノイズが重畳している画素の画素値を補正する処理を実施する。
即ち、画素値補正部４２はヒストグラム算出部４１により算出されたヒストグラムにおけるピーク画素値を含む補正幅ｗ（補正画素値範囲）内の画素値をピーク画素値に置換する処理を実施する。なお、画素値補正部４２は画素値補正手段を構成している。
【００７９】
即ち、ヒストグラム補正処理では、ヒストグラム算出部４１が、可変長復号部３１により可変長復号されたヒストグラム補正処理のブロック分割情報に基づいて復号画像を分割し、そのブロック単位に、可変長復号部３１により可変長復号されたヒストグラム補正を実施するか否かを表すフラグを参照して、そのフラグが“ヒストグラム補正処理を行わない”ことを示す値でない場合、当該ブロックで画素値のヒストグラムを算出する。
画素値補正部４２は、ヒストグラム算出部４１により算出されたヒストグラムのピーク画素値を所定の方法によって特定する。そのピーク画素値の近傍には、符号化歪みによるノイズが存在するため、ピーク画素値に近い画素値を持つ画素（可変長復号部３１により可変長復号された補正幅ｗ内の画素値）に対して、その画素値をピーク画素値で置換することで符号化歪みを低減する。
【００８０】
図１７において、動き補償予測フレームメモリ４０はループフィルタ部３９のフィルタ処理後の復号画像をインター予測処理（動き補償予測処理）で用いる参照画像として格納する記録媒体である。
【００８１】
図１７の例では、画像復号装置の構成要素である可変長復号部３１、逆量子化・逆変換部３２、切換スイッチ３３、イントラ予測部３４、イントラブロックコピー予測部３５、動き補償予測部３６、加算部３７、イントラ用メモリ３８、ループフィルタ部３９及び動き補償予測フレームメモリ４０のそれぞれが専用のハードウェアで構成（イントラ用メモリ３８及び動き補償予測フレームメモリ４０以外の構成要素は、例えば、ＣＰＵを実装している半導体集積回路や、ワンチップマイコンなどで構成）されているものを想定しているが、画像復号装置がコンピュータで構成されていてもよい。
【００８２】
画像復号装置をコンピュータで構成する場合、イントラ用メモリ３８及び動き補償予測フレームメモリ４０をコンピュータのメモリ上に構成するとともに、可変長復号部３１、逆量子化・逆変換部３２、切換スイッチ３３、イントラ予測部３４、イントラブロックコピー予測部３５、動き補償予測部３６、加算部３７及びループフィルタ部３９の処理内容を記述しているプログラムをコンピュータのメモリに格納し、当該コンピュータのＣＰＵが当該メモリに格納されているプログラムを実行するようにすればよい。
図２０はこの発明の実施の形態１による画像復号装置の処理内容を示すフローチャートである。
【００８３】
次に動作について説明する。
この実施の形態１では、映像の各フレーム画像を入力画像として、符号化済みの近傍画素からのイントラ予測又は近接フレーム間での動き補償予測を実施して、得られた予測差分信号に対して直交変換・量子化による圧縮処理を施し、その後、可変長符号化を行って符号化ビットストリームを生成する画像符号化装置と、その画像符号化装置から出力される符号化ビットストリームを復号する画像復号装置について説明する。
【００８４】
図１の画像符号化装置は、映像信号の空間・時間方向の局所的な変化に適応して、映像信号を多様なサイズのブロックに分割して、フレーム内・フレーム間適応符号化を行うことを特徴としている。一般的に、映像信号は、空間・時間的に信号の複雑さが局所的に変化する特性を有している。空間的に見ると、ある映像フレーム上では、例えば、空や壁などのような比較的広い画像領域中で均一な信号特性を有する絵柄もあれば、人物や細かいテクスチャを含む絵画など、小さい画像領域内で複雑なテクスチャパターンを有する絵柄も混在することがある。時間的に見ても、空や壁は局所的に時間方向の絵柄の変化は小さいが、動く人物や物体は、その輪郭が時間的に剛体・非剛体の運動をするため、時間的な変化が大きい。
【００８５】
符号化処理は、時間・空間的な予測によって、信号電力やエントロピーの小さい予測差分信号を生成して、全体の符号量を削減する処理を行うが、予測に用いるパラメータをできるだけ大きな画像信号領域に均一に適用できれば、当該パラメータの符号量を小さくすることができる。一方、時間的・空間的に変化の大きい画像信号パターンに対して、同一の予測パラメータを大きな画像領域に適用すると、予測の誤りが増えてしまうため、予測差分信号の符号量が増加してしまう。したがって、時間的・空間的に変化が大きい領域では、同一の予測パラメータを適用して予測処理を行うブロックサイズを小さくして、予測に用いるパラメータのデータ量を増やし、予測差分信号の電力・エントロピーを低減する方が望ましい。
この実施の形態１では、このような映像信号の一般的な性質に適応した符号化を行うため、最初に所定の最大ブロックサイズから予測処理等を開始し、階層的に映像信号の領域を分割し、分割した領域毎に予測処理や、その予測差分の符号化処理を適応化させる構成をとるようにしている。
【００８６】
最初に、図１の画像符号化装置の処理内容を説明する。
まず、符号化制御部１は、符号化対象となるピクチャ（カレントピクチャ）のスライス分割状態を決めると共に、ピクチャの符号化に用いる最大符号化ブロックのサイズと、最大符号化ブロックを階層分割する階層数の上限を決定する（図１６のステップＳＴ１）。
最大符号化ブロックのサイズの決め方としては、例えば、入力画像の映像信号の解像度に応じて、全てのピクチャに対して同一のサイズを定めてもよいし、入力画像の映像信号の局所的な動きの複雑さの違いをパラメータとして定量化して、動きの激しいピクチャには、小さいサイズを定める一方、動きが少ないピクチャには、大きいサイズを定めるようにしてもよい。
【００８７】
分割階層数の上限の決め方としては、例えば、入力画像の映像信号の解像度に応じて、全てのピクチャに対して同一の階層数を定める方法や、入力画像の映像信号の動きが激しい場合には、階層数を深くして、より細かい動きが検出できるように設定し、動きが少ない場合には、階層数を抑えるように設定する方法などがある。なお、上記最大符号化ブロックのサイズと、最大符号化ブロックを階層分割する階層数の上限は、シーケンスレベルヘッダなどで符号化する。その場合、分割階層数の上限の代わりに、符号化ブロックの最小ブロックサイズを符号化するようにしてもよい。即ち、最大符号化ブロックを分割階層数の上限まで分割したときのブロックのサイズが、符号化ブロックの最小ブロックサイズであるため、画像復号装置側において、最大符号化ブロックのサイズと符号化ブロックの最小ブロックサイズから分割階層数の上限を特定することができる。
【００８８】
また、符号化制御部１は、利用可能な１以上の符号化モードの中から、階層的に分割される各々の符号化ブロックに対応する符号化モードを選択する（図１６のステップＳＴ２）。即ち、符号化制御部１は、最大符号化ブロックサイズの画像領域毎に、先に定めた分割階層数の上限に至るまで、階層的に符号化ブロックサイズを有する符号化ブロックに分割して、各々の符号化ブロックに対する符号化モードを決定する。
【００８９】
符号化モードには、１つないし複数のイントラ符号化モード（総称して「ＩＮＴＲＡ」と称する）と、１つないし複数のイントラブロックコピー符号化モード（総称して「ＩＣＯＰＹ」と称する）と、１つないし複数のインター符号化モード（総称して、「ＩＮＴＥＲ」と称する）とがあり、符号化制御部１は、当該ピクチャで利用可能な全ての符号化モード、又は、そのサブセットの中から、各々の符号化ブロックに対応する符号化モードを選択する。
ただし、後述するブロック分割部３により階層的に分割される各々の符号化ブロックは、さらに予測処理を行う単位である１つないし複数の予測ブロックに分割され、予測ブロックの分割状態も符号化モードの中に情報として含まれる。即ち、符号化モードは、どのような予測ブロック分割を持つイントラ符号化モード、イントラブロックコピー符号化モード又はインター符号化モードかを識別するインデックスである。
符号化制御部１による符号化モードの選択方法は、公知の技術であるため詳細な説明を省略するが、例えば、利用可能な任意の符号化モードを用いて、符号化ブロックに対する符号化処理を実施して符号化効率を検証し、利用可能な複数の符号化モードの中で、最も符号化効率がよい符号化モードを選択する方法などがある。
【００９０】
また、符号化制御部１は、各々の符号化ブロック毎に、差分画像が圧縮される際に用いられる量子化パラメータ及び変換ブロック分割状態を決定するとともに、予測処理が実施される際に用いられる予測パラメータ（イントラ予測パラメータ、イントラブロックコピー予測パラメータ又はインター予測パラメータ）を決定する。ただし、符号化ブロックがさらに予測処理を行う予測ブロック単位に分割される場合は、予測ブロック毎に予測パラメータ（イントラ予測パラメータ、イントラブロックコピー予測パラメータ又はインター予測パラメータ）を選択する。
【００９１】
ここで、図２は４：２：０フォーマットの信号における輝度信号及び色差信号の圧縮処理（変換処理、量子化処理）を実施する際の変換ブロックサイズを示す説明図である。変換ブロックサイズは、図２に示すように、符号化ブロックを四分木状に階層分割することによって決定される。
例えば、変換ブロックを分割する場合と変換ブロックを分割しない場合での符号量や、符号化誤差を加味した評価尺度などに基づいて、評価値が最小になるように変換ブロックを分割するか否かを決定することで、符号量と符号化誤差のトレードオフの観点から最適な変換ブロックの分割形状を決定することができる。
【００９２】
輝度信号については、例えば、図２に示すように、符号化ブロックが１つ又は複数の正方形の変換ブロックに階層的に分割されるように構成する。色差信号については、図２に示すように、入力信号フォーマットがＹＵＶ４：２：０信号である場合、輝度信号と同様に、符号化ブロックが１つ又は複数の正方形の変換ブロックに階層的に分割されるように構成する。この場合、色差信号の変換ブロックサイズは、対応する輝度信号の変換ブロックの縦横ともに半分のサイズとなる。
【００９３】
入力信号フォーマットがＹＵＶ４：２：２信号である場合、図３に示すように、輝度信号と同様の四分木状の階層分割を行う。また、分割したブロックの形状が、垂直方向の画素数が水平方向の画素数の２倍になる長方形となるため、さらに、分割したブロックを上下に二分することで、ＹＵＶ４：２：０信号での色差信号と同じブロックサイズ（輝度信号の変換ブロックの縦横ともに半分のサイズ）の変換ブロック２つで構成するようにする。
また、入力信号フォーマットがＹＵＶ４：４：４信号である場合、図４に示すように、色差信号の変換ブロックは、常に輝度信号の変換ブロックと同様の分割を行い、同じサイズの変換ブロックとなるように構成する。
【００９４】
符号化制御部１は、符号化ブロックにおける変換ブロックの分割情報を示す変換ブロック分割情報や、変換係数の量子化を行う際の量子化ステップサイズを規定する量子化パラメータなどを含む予測差分符号化パラメータを変換・量子化部９、逆量子化・逆変換部１０及び可変長符号化部１５に出力する。
符号化制御部１は、イントラ予測パラメータを必要に応じてイントラ予測部５に出力する。
また、符号化制御部１は、イントラブロックコピー予測パラメータを必要に応じてイントラブロックコピー予測部６に出力する。
また、符号化制御部１は、インター予測パラメータを必要に応じて動き補償予測部７に出力する。
【００９５】
スライス分割部２は、入力画像として映像信号を入力すると、その入力画像を符号化制御部１により決定されたスライス分割情報にしたがって１以上の部分画像であるスライスに分割する。
ブロック分割部３は、スライス分割部２から各スライスを入力する毎に、そのスライスを符号化制御部１により決定された最大符号化ブロックサイズに分割し、さらに、分割した最大符号化ブロックを符号化制御部１により決定された符号化ブロックへ階層的に分割して、その符号化ブロックを出力する。
【００９６】
ここで、図２１は最大符号化ブロックが階層的に複数の符号化ブロックに分割される例を示す説明図である。
図２１において、最大符号化ブロックは、「第０階層」と記されている輝度成分が（Ｌ０，Ｍ０）のサイズを有する符号化ブロックである。最大符号化ブロックを出発点として、４分木構造で別途定める所定の深さまで、階層的に分割を行うことによって符号化ブロックを得るようにしている。深さｎにおいては、符号化ブロックはサイズ（Ｌｎ，Ｍｎ）の画像領域である。ただし、ＬｎとＭｎは、同じであってもよいし、異なっていてもよいが、図２１では、Ｌｎ＝Ｍｎのケースを示している。
【００９７】
以降、符号化制御部１により決定される符号化ブロックサイズは、符号化ブロックの輝度成分におけるサイズ（Ｌｎ，Ｍｎ）と定義する。４分木分割を行うため、常に、（Ｌｎ＋１，Ｍｎ＋１）＝（Ｌｎ／２，Ｍｎ／２）が成立する。なお、ＲＧＢ信号など、全ての色成分が同一サンプル数を有するカラー映像信号（４：４：４フォーマット）では、全ての色成分のサイズが（Ｌｎ，Ｍｎ）になるが、４：２：０フォーマットを扱う場合、対応する色差成分の符号化ブロックサイズは（Ｌｎ／２，Ｍｎ／２）になる。
【００９８】
以降、第ｎ階層の符号化ブロックをＢｎで表し、符号化ブロックＢｎで選択可能な符号化モードをｍ（Ｂｎ）で表すものとする。複数の色成分からなるカラー映像信号の場合、符号化モードｍ（Ｂｎ）は、色成分毎に、それぞれ個別のモードを用いるように構成されてもよいし、全ての色成分に対し共通のモードを用いるように構成されてもよい。以降、特に断らない限り、ＹＵＶ信号、４：２：０フォーマットの符号化ブロックの輝度成分に対する符号化モードを指すものとして説明を行う。
【００９９】
符号化ブロックＢｎは、図２１に示すように、ブロック分割部３によって、予測処理単位を表す１つないし複数の予測ブロックに分割される。以降、符号化ブロックＢｎに属する予測ブロックをＰｉｎ（ｉは、第ｎ階層における予測ブロック番号）と表記する。図２１にはＰ００とＰ１０の例を示している。符号化ブロックＢｎ内の予測ブロックの分割が、どのようになされているかは、符号化モードｍ（Ｂｎ）の中に情報として含まれる。予測ブロックＰｉｎは、全て符号化モードｍ（Ｂｎ）に従って予測処理が行われるが、予測ブロックＰｉｎ毎に、個別の予測パラメータ（イントラ予測パラメータ、イントラブロックコピー予測パラメータ又はインター予測パラメータ）を選択することができる。
【０１００】
符号化制御部１は、最大符号化ブロックに対して、例えば、図２２に示すようなブロック分割状態を生成して、符号化ブロックを特定する。図２２（ａ）の点線で囲まれた矩形が各符号化ブロックを表し、各符号化ブロック内にある斜線で塗られたブロックが各予測ブロックの分割状態を表している。図２２（ｂ）は、図２２（ａ）の例について、階層分割によって符号化モードｍ（Ｂｎ）が割り当てられる状況を４分木グラフで示したものである。図２２（ｂ）の□で囲まれているノードは、符号化モードｍ（Ｂｎ）が割り当てられたノード（符号化ブロック）である。この４分木グラフの情報は符号化モードｍ（Ｂｎ）と共に符号化制御部１から可変長符号化部１５に出力されて、ビットストリームに多重化される。
【０１０１】
切換スイッチ４は、符号化制御部１により決定された符号化モードｍ（Ｂｎ）がイントラ符号化モードである場合（ｍ（Ｂｎ）∈ＩＮＴＲＡの場合）、ブロック分割部３から出力された符号化ブロックＢｎをイントラ予測部５に出力し、符号化制御部１により決定された符号化モードｍ（Ｂｎ）がイントラブロックコピー符号化モードである場合（ｍ（Ｂｎ）∈ＩＣＯＰＹの場合）、ブロック分割部３から出力された符号化ブロックＢｎをイントラブロックコピー予測部６に出力し、符号化制御部１により決定された符号化モードｍ（Ｂｎ）がインター符号化モードである場合（ｍ（Ｂｎ）∈ＩＮＴＥＲの場合）、ブロック分割部３から出力された符号化ブロックＢｎを動き補償予測部７に出力する。
【０１０２】
イントラ予測部５は、符号化制御部１により決定された符号化モードｍ（Ｂｎ）がイントラ符号化モードであり（ｍ（Ｂｎ）∈ＩＮＴＲＡの場合）、切換スイッチ４から符号化ブロックＢｎを受けると（図１６のステップＳＴ３）、イントラ用メモリ１２に格納されている局所復号画像を参照しながら、符号化制御部１により決定されたイントラ予測パラメータを用いて、その符号化ブロックＢｎ内の各予測ブロックＰｉｎに対するイントラ予測処理を実施して、イントラ予測画像ＰＩＮＴＲＡｉｎを生成する（図１６のステップＳＴ４）。
【０１０３】
ただし、詳細は後述するが、イントラ予測画像を生成する処理を行う際に、予測ブロックに隣接する符号化済みの画素を用いることから、イントラ予測画像を生成する処理は、予測処理に用いる予測ブロックに隣接する画素が既に符号化済みとなるように常に変換ブロック単位に行われなくてはならない。したがって、符号化モードがイントラ符号化モードである符号化ブロックでは、選択可能な変換ブロックのブロックサイズは、予測ブロックのサイズ以下に制限され、さらに、変換ブロックが予測ブロックより小さい場合（予測ブロック内に複数の変換ブロックが存在する場合）には、変換ブロック単位に、当該予測ブロックで定められたイントラ予測パラメータを用いたイントラ予測処理を実施してイントラ予測画像を生成する処理を実施する。
なお、図１７の画像復号装置がイントラ予測画像ＰＩＮＴＲＡｉｎと全く同じイントラ予測画像を生成する必要があるため、イントラ予測画像ＰＩＮＴＲＡｉｎの生成に用いられたイントラ予測パラメータは、符号化制御部１から可変長符号化部１５に出力されて、ビットストリームに多重化される。イントラ予測部５の処理内容の詳細は後述する。
【０１０４】
イントラブロックコピー予測部６は、符号化制御部１により決定された符号化モードｍ（Ｂｎ）がイントラブロックコピー符号化モードであり（ｍ（Ｂｎ）∈ＩＣＯＰＹの場合）、切換スイッチ４から符号化ブロックＢｎを受けると（図１６のステップＳＴ３）、その符号化ブロックＢｎ内の各予測ブロックＰｉｎとイントラ用メモリ１２に格納されている局所復号画像を比較してブロックシフトベクトルを探索する。即ち、イントラブロックコピー予測部６は、イントラ用メモリ１２に格納されている局所復号画像の中で、予測ブロックＰｉｎと最も近似している領域のブロック（参照ブロック）を特定して、その参照ブロックを指し示すブロックシフトベクトルを探索する。
イントラブロックコピー予測部６は、参照ブロックを指し示すブロックシフトベクトルを探索すると、そのブロックシフトベクトルが指し示す参照ブロックを予測ブロックＰｉｎの予測画像として、イントラブロックコピー予測画像ＰＩＣＯＰＹｉｎを生成する（図１６のステップＳＴ５）。
【０１０５】
図１７の画像復号装置では、イントラブロックコピー予測画像ＰＩＣＯＰＹｉｎと全く同じイントラブロックコピー予測画像を生成する必要があるため、イントラブロックコピー予測画像ＰＩＣＯＰＹｉｎの生成に用いられたイントラブロックコピー予測パラメータは、符号化制御部１から可変長符号化部１５に出力されて、ビットストリームに多重化される。
イントラブロックコピー予測パラメータとしては、イントラブロックコピー予測部６により探索されたブロックシフトベクトルが挙げられる。また、ブロックシフトベクトルは直前の符号化済み予測ブロックのブロックシフトベクトル、あるいは当該予測ブロックの周囲の符号化済み予測ブロックのブロックシフトベクトルとの差分値をイントラブロックコピー予測パラメータの一部として符号化するようにしてもよい。
【０１０６】
動き補償予測部７は、符号化制御部１により決定された符号化モードｍ（Ｂｎ）がインター符号化モードであり（ｍ（Ｂｎ）∈ＩＮＴＥＲの場合）、切換スイッチ４から符号化ブロックＢｎを受けると（図１６のステップＳＴ３）、その符号化ブロックＢｎ内の各予測ブロックＰｉｎと動き補償予測フレームメモリ１４に格納されているフィルタ処理後の局所復号画像を比較して動きベクトルを探索し、その動きベクトルと符号化制御部１により決定されたインター予測パラメータを用いて、その符号化ブロックＢｎ内の各予測ブロックＰｉｎに対するインター予測処理を実施して、インター予測画像ＰＩＮＴＥＲｉｎを生成する（図１６のステップＳＴ６）。
【０１０７】
図１７の画像復号装置がインター予測画像ＰＩＮＴＥＲｉｎと全く同じインター予測画像を生成する必要があるため、インター予測画像ＰＩＮＴＥＲｉｎの生成に用いられたインター予測パラメータは、符号化制御部１から可変長符号化部１５に出力されて、ビットストリームに多重化される。
また、動き補償予測部７により探索された動きベクトルも可変長符号化部１５に出力されて、ビットストリームに多重化される。
【０１０８】
減算部８は、ブロック分割部３から符号化ブロックＢｎを受けると、その符号化ブロックＢｎ内の予測ブロックＰｉｎから、イントラ予測部５により生成されたイントラ予測画像ＰＩＮＴＲＡｉｎ、イントラブロックコピー予測部６により生成されたイントラブロックコピー予測画像ＰＩＣＯＰＹｉｎ、又は、動き補償予測部７により生成されたインター予測画像ＰＩＮＴＥＲｉｎのいずれかを減算して、その減算結果である差分画像を示す予測差分信号ｅｉｎを変換・量子化部９に出力する（図１６のステップＳＴ７）。
【０１０９】
変換・量子化部９は、減算部８から予測差分信号ｅｉｎを受けると、符号化制御部１により決定された予測差分符号化パラメータに含まれる変換ブロック分割情報を参照して、その予測差分信号ｅｉｎに対する直交変換処理（例えば、ＤＣＴ（離散コサイン変換）やＤＳＴ（離散サイン変換）、予め特定の学習系列に対して基底設計がなされているＫＬ変換等の直交変換処理）を変換ブロック単位に実施して、変換係数を算出する。
また、変換・量子化部９は、その予測差分符号化パラメータに含まれる量子化パラメータを参照して、その変換ブロック単位の変換係数を量子化し、量子化後の変換係数である圧縮データを逆量子化・逆変換部１０及び可変長符号化部１５に出力する（図１６のステップＳＴ８）。このとき、上記量子化パラメータから算出される量子化ステップサイズを変換係数毎にスケーリングする量子化マトリクスを用いて量子化処理を実施するようにしてもよい。
【０１１０】
量子化マトリクスは、各直交変換サイズで色信号や符号化モード（イントラ符号化かインター符号化か）毎に独立しているマトリクスを使用することができ、初期値として、画像符号化装置及び画像復号装置で、予め共通に用意されている量子化マトリクスや既に符号化された量子化マトリクスの中から選択するか、新しい量子化マトリクスを用いるかをそれぞれ選択することができる。したがって、変換・量子化部９は、各直交変換サイズに対して色信号や符号化モード毎に、新しい量子化マトリクスを用いるか否かを示すフラグ情報を符号化すべき量子化マトリクスパラメータに設定する。
【０１１１】
さらに、新しい量子化マトリクスを用いる場合には、図１１に示すような量子化マトリクスの各スケーリング値を符号化すべき量子化マトリクスパラメータに設定する。一方、新しい量子化マトリクスを用いない場合には、初期値として、画像符号化装置及び画像復号装置で、予め共通に用意されている量子化マトリクス、又は、既に符号化された量子化マトリクスの中から、使用するマトリクスを特定するインデックスを符号化すべき量子化マトリクスパラメータに設定する。ただし、参照可能な既に符号化された量子化マトリクスが存在しない場合、画像符号化装置及び画像復号装置で、予め共通に用意されている量子化マトリクスのみ選択可能となる。そして、変換・量子化部９は、設定した量子化マトリクスパラメータを可変長符号化部１５に出力する。
【０１１２】
逆量子化・逆変換部１０は、変換・量子化部９から圧縮データを受けると、符号化制御部１により決定された予測差分符号化パラメータに含まれる量子化パラメータ及び変換ブロック分割情報を参照して、変換ブロック単位にその圧縮データを逆量子化する。変換・量子化部９が量子化処理に量子化マトリクスを用いている場合には、逆量子化処理時においても、その量子化マトリクスを参照して、対応した逆量子化処理を実施する。
また、逆量子化・逆変換部１０は、変換ブロック単位に逆量子化後の圧縮データである変換係数に対する逆直交変換処理（例えば、逆ＤＣＴ、逆ＤＳＴ、逆ＫＬ変換など）を実施して、減算部８から出力された予測差分信号ｅｉｎに相当する局所復号予測差分信号を算出して加算部１１に出力する（図１６のステップＳＴ９）。
【０１１３】
加算部１１は、逆量子化・逆変換部１０から局所復号予測差分信号を受けると、その局所復号予測差分信号と、イントラ予測部５により生成されたイントラ予測画像ＰＩＮＴＲＡｉｎ、イントラブロックコピー予測部６により生成されたイントラブロックコピー予測画像ＰＩＣＯＰＹｉｎ、又は、動き補償予測部７により生成されたインター予測画像ＰＩＮＴＥＲｉｎのいずれかを加算することで、局所復号画像を算出する（図１６のステップＳＴ１０）。
また、加算部１１は、その局所復号画像をループフィルタ部１３に出力するとともに、その局所復号画像をイントラ用メモリ１２に格納する。この局所復号画像が、以降のイントラ予測処理及びイントラブロックコピー予測処理の際に用いられる符号化済みの画像信号になる。
【０１１４】
ループフィルタ部１３は、加算部１１から局所復号画像を受けると、その局所復号画像に対して、所定のフィルタ処理を実施して、フィルタ処理後の局所復号画像を動き補償予測フレームメモリ１４に格納する（図１６のステップＳＴ１１）。具体的には、変換ブロックの境界や予測ブロックの境界に発生する歪みを低減するフィルタ（デブロッキングフィルタ）処理、画素単位に適応的にオフセットを加算する（画素適応オフセット）処理、ウィーナフィルタ等の線形フィルタを適応的に切り替えてフィルタ処理する適応フィルタ処理などを行う。
これらのループフィルタは、復号画像の画質を向上させることを目的として適用されるが、図４２に示すようなスクリーンコンテンツの特殊なヒストグラム形状を考慮しておらず、十分な画質改善効果が得られない。そこで、この実施の形態１では、新たなループフィルタ処理としてヒストグラム補正処理を実施する。
【０１１５】
ループフィルタ部１３は、上記のデブロッキングフィルタ処理、画素適応オフセット処理、適応フィルタ処理及びヒストグラム補正処理のそれぞれについて処理を行うか否かを決定し、各処理の有効フラグをヘッダ情報として可変長符号化部１５に出力する。なお、上記のフィルタ処理を複数使用する際には、各フィルタ処理を順番に実施する。図１２は複数のフィルタ処理を用いる場合のループフィルタ部１３の構成例を示している。
ただし、図１２に示しているループフィルタの種類と順序は一例に過ぎず、適用するループフィルタの種類と適用順序は必ずしも図１２のようにする必要はない。例えば、デブロッキングフィルタ処理、画素適応オフセット処理、ヒストグラム補正処理の３種類だけでループフィルタ部１３を構成することや、適用順序をデブロッキングフィルタ処理、ヒストグラム補正処理、画素適応オフセット処理の順にすることなどが考えられる。
【０１１６】
ここで、デブロッキングフィルタ処理では、ブロック境界にかけるフィルタ強度の選択に用いる各種パラメータを初期値から変更することができる。変更する場合には、そのパラメータをヘッダ情報として可変長符号化部１５に出力する。
画素適応オフセット処理では、最初に、画像を複数のブロックに分割し、そのブロック単位に、オフセット処理を行わない場合もクラス分類手法の一つとして定義して、予め用意されている複数のクラス分類手法の中から、１つのクラス分類手法を選択する。次に、選択したクラス分類手法によって、ブロック内の各画素をクラス分類し、クラス毎に符号化歪みを補償するオフセット値を算出する。最後に、局所復号画像の画素値に対して、そのオフセット値を加算する処理を行うことで局所復号画像の画像品質を改善する。
【０１１７】
クラス分類手法としては、局所復号画像の画素値の大きさで分類する手法（ＢＯ手法と呼ぶ）や、エッジの方向毎に各画素の周囲の状況（エッジ部か否か等）に応じて分類する手法（ＥＯ手法と呼ぶ）がある。これらの手法は、予め画像符号化装置及び画像復号装置で共通に用意されており、例えば、図２３に示すように、オフセット処理を行わない場合もクラス分類手法の一つとして定義して、これらの手法のうち、どの手法でクラス分類を行うかを示すインデックスを上記ブロック単位に選択する。
したがって、画素適応オフセット処理は、ブロックの分割情報、ブロック単位のクラス分類手法を示すインデックス、ブロック単位のオフセット情報をヘッダ情報として可変長符号化部１５に出力する。
【０１１８】
なお、画素適応オフセット処理において、例えば、最大符号化ブロックといった固定サイズのブロック単位に常に分割し、そのブロック毎にクラス分類手法を選択して、クラス毎の適応オフセット処理を行ってもよい。この場合、上記ブロック分割情報が不要となり、ブロック分割情報に要する符号量分だけ符号量が削減され、符号化効率を高めることができる。
また、適応フィルタ処理では、局所復号画像を所定の手法でクラス分類し、各クラスに属する領域（局所復号画像）毎に、重畳されている歪みを補償するフィルタを設計し、そのフィルタを用いて、当該局所復号画像のフィルタ処理を実施する。そして、クラス毎に設計したフィルタをヘッダ情報として可変長符号化部１５に出力する。
【０１１９】
ここで、クラス分類手法としては、画像を空間的に等間隔に区切る簡易な手法や、ブロック単位に画像の局所的な特性（分散など）に応じて分類する手法がある。また、適応フィルタ処理で使用するクラス数は、予め画像符号化装置及び画像復号装置で共通の値に設定してもよいし、符号化すべきパラメータの一つとしてもよい。前者と比較して後者の方が、使用するクラス数を自由に設定することができるため、画像品質改善効果が上がるが、一方でクラス数を符号化するために、その分の符号量が増加する。
【０１２０】
図２４Ａ及び図２４Ｂはこの発明の実施の形態１による画像符号化装置におけるヒストグラム補正処理の内容を示すフローチャートである。
以下、図２４Ａ及び図２４Ｂを参照しながら、ヒストグラム補正処理の流れを説明する。
ヒストグラム補正処理では、最初に、図１３のヒストグラム算出部２１が、映像信号が示す入力画像を複数のブロックに分割するとともに、加算部１１により算出された局所復号画像を複数のブロックに分割する。
画素値補正部２２の第１の誤差算出部２３は、ヒストグラム算出部２１により分割されたブロック単位の入力画像と局所復号画像との誤差Ｅｍｉｎを算出する（図２４ＡのステップＳＴ１００〜ＳＴ１０１）。
【０１２１】
誤差Ｅｍｉｎの算出方法として、例えば、画素値の絶対値差分を合計するＳＡＤ（Ｓｕｍ  ｏｆ  Ａｂｓｏｌｕｔｅ  Ｄｉｆｆｅｒｅｎｃｅｓ）、画素値の差分を二乗した値を合計するＳＳＤ（Ｓｕｍ  ｏｆ  Ｓｑｕａｒｅｄ  Ｄｉｆｆｅｒｅｎｃｅｓ）などを用いることが考えられる。これらの指標が小さいほど、入力画像と局所復号画像が似通っており、符号化による歪みが小さいことを意味する。
また、誤差ではなく画質を表す指標を算出するようにしてもよい。画質を表す指標としては、信号が取り得る最大のパワーと劣化をもたらすノイズの比率を表すＰＳＮＲ（Ｐｅａｋ  Ｓｉｇｎａｌ−ｔｏ−Ｎｏｉｓｅ  Ｒａｔｉｏ）などが考えられる。画質を表す指標を用いた場合は、値が大きいほど符号化歪みが小さいことを意味する。
【０１２２】
また、ヒストグラム算出部２１は、その局所復号画像のブロック毎に画素値のヒストグラムを算出し（図２４ＡのステップＳＴ１０２）、ヒストグラムの値が最大となる画素値を選択し、その画素値をｐ（以下、「ピーク画素値」と称する）とする（図２４ＡのステップＳＴ１０３）。
なお、ヒストグラムのステップ幅は、必ずしも１とする必要はなく、１以上の値としてもよい。ヒストグラム生成のためのステップ幅を大きくすると、ヒストグラムの精度は落ちるが、ヒストグラム生成のために必要なメモリなどを小さく抑えることが可能である。ヒストグラムのステップ幅を１以上とした場合は、ピーク画素値ｐはステップ幅の中央値などに設定することが考えられる。
【０１２３】
また、必ずしもブロック内の全ての画素を用いてヒストグラムを計算する必要はなく、一部の画素だけを用いてヒストグラムを求めてもよい。ヒストグラム計算に使用する画素数を削減することで、ヒストグラム計算に必要な演算量を削減することが可能である。
【０１２４】
なお、求めたヒストグラムを直接用いてその値が最大となる画素値を選択するだけでなく、例えばヒストグラムを微分してからその最大値を求めることも考えられる。このようにすることで、隣接したピークからの差分が大きい顕著なピークだけを特定できる効果が期待できる。
【０１２５】
次に、第２の誤差算出部２４、補正画素値範囲保存部２５及び繰り返し処理部２６が、補正を適用する幅である図１４の補正幅ｗを決定する処理を実施する。
まず、補正幅ｗの初期値として、補正幅ｗｔｅｍｐが例えば１に設定されたのち（図２４ＡのステップＳＴ１０４）、第２の誤差算出部２４が、補正幅ｗｔｅｍｐ内の画素値（（ピーク画素値ｐ−補正幅ｗｔｅｍｐ）〜（ピーク画素値ｐ＋補正幅ｗｔｅｍｐ）の画素値）をピーク画素値ｐに置換する（図２４ＡのステップＳＴ１０５〜ＳＴ１０８）。ただし、ここでの置換は、補正幅ｗを決定するために仮に置換するだけであり、実際の置換（画素値の補正）は最適な補正幅ｗが決定されてから、画素値置換部２７で行われる。
【０１２６】
具体的には、以下のように、画素値の置換を行う。
2015177294.tif 000003
ここで、（ｘ，ｙ）はブロック単位の局所復号画像における画素の座標を表し、Ｌ（ｘ，ｙ）は置換前の画素値、Ｌ’（ｘ，ｙ）は置換後の画素値を表している。
ブロック内の全部または一部の画素に対して上記の補正を実施する。なお、上式において、ｐ−ｗｔｅｍｐが画素値の下限を下回った場合はこれを画素値の下限に置き換え、ｐ＋ｗｔｅｍｐが画素値の上限を上回った場合はこれを画素値の上限に置き換えてもよい。
ここでは、補正幅ｗｔｅｍｐをピーク画素値ｐよりも大きい側と小さい側で同一としているが、必ずしも両者を一致させる必要はなく、それぞれに対して異なる補正幅ｗｔｅｍｐを使用してもよい。
【０１２７】
第２の誤差算出部２４は、補正幅ｗｔｅｍｐ内の画素値を仮にピーク画素値ｐに置換すると、ブロック単位の局所復号画像と、ブロック単位の入力画像との誤差Ｅを算出する（図２４ＡのステップＳＴ１０９）。
補正画素値範囲保存部２５は、第２の誤差算出部２４が誤差Ｅを算出すると、その誤差Ｅと第１の誤差算出部２３により算出された誤差Ｅｍｉｎとを比較し（図２４ＡのステップＳＴ１１０）、その誤差Ｅが誤差Ｅｍｉｎより小さければ（Ｅ＜Ｅｍｉｎ）、第１の誤差算出部２３により算出された誤差Ｅｍｉｎを誤差Ｅに置き換えるとともに、補正幅ｗｔｅｍｐを現在のピーク画素値に対する最適な補正幅ｗｉ（初期値は０）として上書き保存する（図２４ＡのステップＳＴ１１１）。
ただし、ｉは処理中のピーク画素値を示すインデックスであり、初期値は０である。なお、誤差Ｅが誤差Ｅｍｉｎよりも大きい場合は、画素値を置換することで誤差が増加しているので、誤差Ｅｍｉｎ及び補正幅ｗｔｅｍｐの更新を行わない。なお、誤差としてＰＳＮＲなどの画質を表す指標を用いる場合は、ステップＳＴ１１０の不等号が逆向きになる。
【０１２８】
次に、繰り返し処理部２６は、その補正幅ｗｔｅｍｐに対して、例えば、１を加算することで、その補正幅ｗｔｅｍｐを更新して（図２４ＡのステップＳＴ１１２）、ピーク画素値ｐに置換した補正幅ｗｔｅｍｐ内の画素値を元の画素値に戻してから（図２４ＡのステップＳＴ１１３）、更新後の補正幅ｗｔｅｍｐと予め設定された最大補正幅ｗｍａｘを比較する（図２４ＡのステップＳＴ１１４）。
繰り返し処理部２６は、更新後の補正幅ｗｔｅｍｐが最大補正幅ｗｍａｘ以下であれば（ｗｔｅｍｐ≦ｗｍａｘ）、誤差Ｅの算出処理の再実施を第２の誤差算出部２４に指示して、ステップＳＴ１０５の処理に戻る。
一方、更新後の補正幅ｗｔｅｍｐが最大補正幅ｗｍａｘより大きければ（ｗｔｅｍｐ＞ｗｍａｘ）、ステップＳＴ１１５の処理に移行する。
【０１２９】
ステップＳＴ１０５からＳＴ１１４の処理の繰り返し回数は、最大補正幅ｗｍａｘに依存する。最大補正幅ｗｍａｘの値は画像符号化装置が自由に設定してよいが、大きな値を設定するとヒストグラム補正処理による画質改善効果は高くなるが、繰り返し回数が増えるために計算時間が増大する。逆に小さな値を設定すると画質改善効果は小さくなるが、計算時間も抑えられるというトレードオフの関係が存在する。最大補正幅ｗｍａｘの具体例としては１５などが考えられる。
【０１３０】
なお、ｗｍａｘの値は必ずしも常に固定値とする必要はなく、符号化処理中に符号化パラメータに応じて変更してもよい。例えば、量子化パラメータが大きく、符号化歪みが大きい場合はｗｍａｘを大きくして画質改善効果を高め、量子化パラメータが小さく、符号化歪みが小さい場合はｗｍａｘを小さくして計算時間を削減することなどが考えられる。
【０１３１】
また、補正幅ｗは、例えば２のべき乗などの値に限定するようにしてもよい。このようにした場合、補正幅ｗを符号化する際に指数部だけを符号化すればよいため、補正幅ｗの符号化に必要な符号量を削減することが可能である。
【０１３２】
画素値置換部２７は、更新後の補正幅ｗｔｅｍｐが最大補正幅ｗｍａｘより大きくなると（ｗｔｅｍｐ＞ｗｍａｘ）、以下のように、補正画素値範囲保存部２５により保存されている最適な補正幅ｗｉ内の画素値（（ピーク画素値ｐ−補正幅ｗｉ）〜（ピーク画素値ｐ＋補正幅ｗｉ）の画素値）をピーク画素値ｐに置換する（図２４ＢのステップＳＴ１１５〜ＳＴ１１８）。
2015177294.tif 000004
ブロック内の全部または一部の画素に対して上記の補正を実施する。なお、上式において、ｐ−ｗｉが画素値の下限を下回った場合はこれを画素値の下限に置き換え、ｐ＋ｗｉが画素値の上限を上回った場合はこれを画素値の上限に置き換えてもよい。
【０１３３】
次に、画素値置換部２７は、ピーク画素値を示すインデックスｉに１を加え、ＳＴ１０２でヒストグラム算出部２１により算出されたヒストグラムから、画素値がｐとなる画素に相当する部分を削除する（図２４ＢのステップＳＴ１１９〜ＳＴ１２０）。
画素値置換部２７は、インデックスｉと予め設定された最大ピーク数Ｐｍａｘを比較し（図２４ＢのステップＳＴ１２１）、インデックスｉが最大ピーク数Ｐｍａｘより小さければ（ｉ＜Ｐｍａｘ）、ピーク画素値の再選択をヒストグラム算出部２１に指示して、ステップＳＴ１０３の処理に戻る。
一方、インデックスｉが最大ピーク数Ｐｍａｘに到達していれば（ｉ≧Ｐｍａｘ）、ヒストグラム補正処理を終了する。
【０１３４】
この実施の形態１では、画素値補正部２２が、ヒストグラムの各ピーク画素値に対する最適な補正幅ｗｉを求め、可変長符号化部１５が、各ピーク画素値に対する最適な補正幅ｗｉを符号化する。
したがって、補正を実施するピークの数Ｐｍａｘの分だけ補正幅ｗｉを符号化（ｗ０，ｗ１，ｗ２，…，ｗＰｍａｘ−１の全てを符号化）する必要があり、最大ピーク数Ｐｍａｘが大きくなると画質改善効果は大きくなるが符号量が増大し、逆に最大ピーク数Ｐｍａｘが小さくなると画質改善効果は小さくなるが符号量が抑えられるというトレードオフの関係が存在する。
また、当然ながら最大ピーク数Ｐｍａｘが大きいほど計算時間も増える。最大ピーク数Ｐｍａｘの具体例としては４などが考えられる。
【０１３５】
例えば、全てのピーク画素値に対する補正幅ｗｉが０である場合（ヒストグラム補正処理を実施しても効果が見られない場合）などは、当該ブロックに対してはヒストグラム補正処理を適用しないようにすることも可能である。このようにすることで、不要な情報を符号化することを避け、符号量を削減することで符号化効率を高めることができる。
ヒストグラム補正処理を適用するか否かの判定には、この他にも様々な手法を用いることができ、例えば、実際にヒストグラム補正処理を実施して符号化を行った場合にどれだけ符号化効率を改善できるかを調べるようにしてもよいし、テクスチャやエッジなどの画像特徴や、スクリーンコンテンツであるか否かを判定した結果を利用して決定するようにしてもよい。
したがって、ヒストグラム補正処理では、まず、ブロック分割情報をヘッダ情報として可変長符号化部１５に出力し、さらにブロック毎に補正を実施するか否かのフラグ、補正を実施する場合は各ピーク画素値に対する適正な補正幅ｗｉ（ｉ＝０、１、…、Ｐｍａｘ−１）をヘッダ情報として可変長符号化部１５に出力する。
また、ヒストグラム補正処理を実施するか否かは、映像単位やスライス、ピクチャ単位に決定してもよい。例えば、映像単位でのヘッダ部（シーケンスパラメータセット）にフラグを追加し、映像がスクリーンコンテンツではなく、ヒストグラム補正処理が効果的でないとあらかじめ判断できる場合には、このフラグを０などに設定することでヒストグラム補正処理が実施されないようにしてもよい。もちろん、ピクチャやスライス単位でのヘッダ部（ピクチャパラメータセット、スライスパラメータセット）にフラグを追加し、ピクチャやスライス単位で切り替えることも考えられる。このようにすることで、ヒストグラム補正処理の効果がない映像あるいはピクチャ、スライスに対してはヒストグラム補正処理に係るパラメータを符号化する必要がなくなるため、符号量を削減することが可能である。
なお、ヒストグラム補正処理において、例えば、最大符号化ブロックといった固定サイズのブロック単位に常に分割して、そのブロック毎にヒストグラムを算出し、各ピーク画素値に対する補正幅ｗｉを求めて補正処理を行ってもよい。この場合、上記のブロック分割情報が不要になり、ブロック分割情報に要する符号量分だけ符号量が削減されるため、符号化効率を高めることができる。
【０１３６】
また、既にヒストグラム補正処理済みの近傍ブロックの補正幅などを用いて、処理中ブロックの補正幅ｗｉを予測し、その予測誤差のみを可変長符号化部１５に出力して符号化するようにしてもよい。このようにすることで、補正幅ｗｉの符号量を削減することができる。
【０１３７】
図１６のステップＳＴ３〜ＳＴ１０の処理は、階層的に分割された全ての符号化ブロックＢｎに対する処理が完了するまで繰り返し実施され、全ての符号化ブロックＢｎに対する処理が完了すると、ステップＳＴ１４の処理に移行する（図１６のステップＳＴ１２，ＳＴ１３）。
【０１３８】
可変長符号化部１５は、変換・量子化部９から出力された圧縮データと、符号化制御部１から出力された最大符号化ブロック内のブロック分割情報（図２２（ｂ）を例とする４分木情報）、符号化モードｍ（Ｂｎ）及び予測差分符号化パラメータと、ループフィルタパラメータと、符号化制御部１から出力されたイントラ予測パラメータ（符号化モードがイントラ符号化モードである場合）、イントラブロックコピー予測パラメータ（符号化モードがイントラブロックコピー符号化モードである場合）又はインター予測パラメータ（符号化モードがインター符号化モードである場合）と、動き補償予測部７から出力された動きベクトル（符号化モードがインター符号化モードである場合）と、画素値補正部２２により算出された全てのピーク画素値に対する補正幅ｗｉとを可変長符号化し、それらの符号化結果を示す符号化データを生成する（図１６のステップＳＴ１４）。
【０１３９】
その際、量子化された直交変換係数である圧縮データの符号化手法として、変換ブロックをさらにＣｏｅｆｆｉｃｉｅｎｔ Ｇｒｏｕｐ（ＣＧ）と呼ばれる４×４画素単位のブロック（符号化サブブロック）に分割して、ＣＧ単位に係数の符号化処理を実施する。
図２５は１６×１６画素の変換ブロックにおける係数の符号化順（スキャン順）を示している。このように、４×４画素単位の１６個のＣＧを右下のＣＧから順に符号化処理し、さらに、各ＣＧはＣＧ内の１６個の係数を右下の係数から順に符号化する。
【０１４０】
具体的には、まず、ＣＧ内の１６個の係数の中に有意（非零）係数が存在するか否かのフラグ情報を符号化し、次に、ＣＧ内に有意（非零）係数が存在する場合のみ、ＣＧ内の各係数が有意（非零）係数であるかを上記順に符号化し、最後に有意（非零）係数に対して、その係数値情報を順に符号化する。これをＣＧ単位に上記順に行う。その際、有意（非零）係数がなるべく連続で発生するように偏るスキャン順とした方がエントロピー符号化による符号化効率を高めることができる。
直交変換後の係数は、左上に位置する直流成分をはじめとして、左上に近い程、低い周波数成分の低い係数を表すことから、図２６に示す例のように、一般的に左上に近いほど有意（非零）係数が多く発生するために、図２５に示すように、右下から順に符号化することで効率的に符号化することができる。
【０１４１】
なお、上記では１６×１６画素の変換ブロックについて説明したが、８×８画素や３２×３２画素の変換ブロック等、１６×１６画素以外のブロックサイズにおいてもＣＧ（符号化サブブロック）単位の符号化処理を実施するものとする。また、イントラ予測が選択されている４×４画素と８×８画素の変換ブロックについては、イントラ予測モードのインデックスに応じて、図２５のスキャン順ではなく図２７に示すスキャン順で処理を行う。これはイントラ予測の方向によって残差信号の周波数成分の分布が異なる傾向があるためである。
【０１４２】
また、可変長符号化部１５は、図１５に例示するように、符号化ビットストリームのヘッダ情報として、シーケンスレベルヘッダ、ピクチャレベルヘッダを符号化し、ピクチャデータと共に符号化ビットストリームを生成する。ただし、ピクチャデータは１以上のスライスデータから構成され、各スライスデータはスライスレベルヘッダと当該スライス内にある上記符号化データをまとめたものである。ピクチャデータはスライスデータの他に補足情報を示すヘッダ情報を含む場合もある。
シーケンスレベルヘッダは、画像サイズ、色信号フォーマット、輝度信号や色差信号の信号値のビット深度、シーケンス単位でのループフィルタ部１３における各フィルタ処理（適応フィルタ処理、画素適応オフセット処理、デブロッキングフィルタ処理、ヒストグラム補正処理）の有効フラグ情報、量子化マトリクスの有効フラグ情報など、一般的にシーケンス単位に共通となるヘッダ情報をまとめたものである。
【０１４３】
ピクチャレベルヘッダは、参照するシーケンスレベルヘッダのインデックスや動き補償時の参照ピクチャ数、エントロピー符号化の確率テーブル初期化フラグ等のピクチャ単位で設定するヘッダ情報をまとめたものである。
スライスレベルヘッダは、当該スライスがピクチャのどの位置にあるかを示す位置情報、どのピクチャレベルヘッダを参照するかを示すインデックス、スライスの符号化タイプ（オールイントラ符号化、インター符号化など）、ループフィルタ部１３における各フィルタ処理（適応フィルタ処理、画素適応オフセット処理、デブロッキングフィルタ処理、ヒストグラム補正処理）を行うか否かを示すフラグ情報などといったスライス単位のパラメータをまとめたものである。
【０１４４】
各ヘッダ情報とピクチャデータはＮＡＬユニットによって識別される。具体的には、シーケンスパラメータセット（上記シーケンスレベルヘッダに相当）、ピクチャパラメータヘッダ（上記ピクチャレベルヘッダに相当）、スライスデータはそれぞれ固有のＮＡＬユニットタイプとして定義され、ＮＡＬユニットタイプの識別情報（インデックス）と共に符号化される。補足情報についても存在する場合には、固有のＮＡＬユニットとして定義される。また、上記ピクチャデータはアクセスユニットとして定義され、一つのピクチャの符号化データを含むデータアクセスの単位を示している。
【０１４５】
次に、イントラ予測部５の処理内容を詳細に説明する。
イントラ予測部５は、上述したように、予測ブロックＰｉｎのイントラ予測パラメータを参照して、その予測ブロックＰｉｎに対するイントラ予測処理を実施して、イントラ予測画像ＰＩＮＴＲＡｉｎを生成するが、ここでは、輝度信号における予測ブロックＰｉｎのイントラ予測画像を生成するイントラ処理について説明する。
【０１４６】
図２８は符号化ブロックＢｎ内の各予測ブロックＰｉｎが選択可能なイントラ予測モードの一例を示す説明図であり、イントラ予測モードのインデックス値と、そのイントラ予測モードが示す予測方向ベクトルを示している。上記イントラ予測モードのインデックス値がイントラ予測パラメータを示している。なお、イントラ予測モード数は、処理対象となるブロックのサイズに応じて異なるように構成してもよい。大きいサイズのブロックでは、イントラ予測の効率が低下するため、選択できるイントラ予測方向数を少なくし、小さいサイズのブロックでは、選択できるイントラ予測方向数を多くするように構成することで演算量を抑制することができる。
【０１４７】
まず、イントラ予測画像を生成する処理は、処理対象のブロックに隣接する符号化済みの画素を用いることから、上述した通り、変換ブロック単位に行われなくてはならない。ここで、イントラ予測画像を生成する変換ブロックを予測画像生成ブロックと呼ぶこととする。したがって、イントラ予測部５は、予測画像生成ブロック単位に下記に述べるイントラ予測画像生成処理を実施して、予測ブロックＰｉｎのイントラ予測画像を生成する。予測画像生成ブロックのサイズをｌｉｎ×ｍｉｎ画素とする。
図２９はｌｉｎ＝ｍｉｎ＝４の場合の予測画像生成ブロック内の画素の予測値を生成する際に用いる画素の一例を示す説明図である。図２９では、予測画像生成ブロックの上の符号化済みの画素（２×ｌｉｎ＋１）個と、左の符号化済みの画素（２×ｍｉｎ）個を予測に用いる画素としているが、予測に用いる画素は、図２９に示す画素より多くても少なくてもよい。また、図２９では、予測画像生成ブロックの近傍の１行又は１列分の画素を予測に用いているが、２行又は２列、あるいは、それ以上の画素を予測に用いてもよい。
【０１４８】
予測画像生成ブロックが属する予測ブロックＰｉｎに対するイントラ予測モードのインデックス値が０（平面（Ｐｌａｎａｒ）予測）の場合には、予測画像生成ブロックの上に隣接する符号化済み画素と、予測画像生成ブロックの左に隣接する符号化済み画素を用いて、これら画素と予測画像生成ブロック内の予測対象画素との距離に応じて内挿した値を予測値として予測画像を生成する。
予測画像生成ブロックが属する予測ブロックＰｉｎに対するイントラ予測モードのインデックス値が１（平均値（ＤＣ）予測）の場合には、予測画像生成ブロックの上に隣接する符号化済み画素と、予測画像生成ブロックの左に隣接する符号化済み画素の平均値を予測画像生成ブロック内の画素の予測値として予測画像を生成する。
【０１４９】
さらに、予測画像生成ブロックの上端及び左端に位置する図３０の領域Ａ，Ｂ，Ｃに対して、ブロック境界を平滑化するフィルタ処理を行って最終的な予測画像とする。例えば、下記の式（１）にしたがって、図３１のフィルタの参照画素配置で、下記のフィルタ係数を用いてフィルタ処理を実施する。
2015177294.tif 000005
・領域Ａ（Ｐｉｎの左上の画素）
ａ０＝１／２，ａ１＝１／４，ａ２＝１／４
・領域Ｂ（領域Ａ以外のＰｉｎの上端の画素）
ａ０＝３／４，ａ２＝１／４，（ａ１＝０）
・領域Ｃ（領域Ａ以外のＰｉｎの左端の画素）
ａ０＝３／４，ａ１＝１／４，（ａ２＝０）
【０１５０】
ただし、式（１）において、ａｎ（ｎ＝０，１，２）は参照画素にかかるフィルタ係数、ｐｎ（ｎ＝０，１，２）はフィルタ処理対象画素ｐ０を含むフィルタの参照画素、Ｓ’（ｐ０）はフィルタ処理対象画素ｐ０におけるフィルタ処理後の予測値、Ｓ（ｐｎ）（ｎ＝０，１，２）はフィルタ処理対象画素ｐ０を含む参照画素のフィルタ処理前の予測値を表している。
【０１５１】
さらに、上記フィルタ処理を行う予測画像生成ブロックのブロックサイズは限定してもよい。一般にブロック端のみフィルタ処理を行って予測値を変化させる場合、大きなブロックサイズのブロックでは、フィルタ処理により予測値が変化する領域の占める割合が小さいために、この予測値の変化によって生じた予測残差信号の変化を非常に高い周波数成分で表されることになり、この高周波数成分を符号化するために符号化効率の悪化を生じさせてしまう傾向がある。また、符号化効率を優先して、この高周波数成分を符号化しないようにすることで、ブロック端の予測残差信号の変化を復元できずに、ブロック境界に歪みが生じてしまう傾向がある。
【０１５２】
一方、小さなブロックサイズのブロックでは、フィルタ処理により予測値が変化する領域の占める割合が大きいために、この予測値の変化によって生じた予測残差信号の変化が大きなブロックサイズのブロックの時のような高い周波数成分で表されることはなく、適切に残差信号を符号化することができ、本フィルタ処理によって、ブロック境界の連続性を高めた分、復号画像の品質を高めることができる。したがって、例えば、３２×３２画素以上のブロックサイズの予測画像生成ブロックでは、上記フィルタ処理を適用せずに、３２×３２画素より小さいブロックのみに上記フィルタ処理を適用することで、従来の平均値予測よりも予測性能を向上させながら、演算量の増加を抑えることができる。
【０１５３】
予測画像生成ブロックに属する予測ブロックＰｉｎに対するイントラ予測モードのインデックス値が２６（垂直方向予測）の場合、下記の式（２）から予測画像生成ブロック内の画素の予測値を算出して予測画像を生成する。
2015177294.tif 000006
ただし、座標（ｘ，ｙ）は予測画像生成ブロック内の左上画素を原点とする相対座標（図３２を参照）であり、Ｓ’（ｘ，ｙ）は座標（ｘ，ｙ）における予測値、Ｓ（ｘ，ｙ）は座標（ｘ，ｙ）における符号化済み画素の輝度値（復号された輝度値）である。また、算出した予測値が輝度値の取り得る値の範囲を超えている場合、予測値がその範囲内に収まるように値を丸めるようにする。
【０１５４】
なお、式（２）の１行目の式は、ＭＰＥＧ−４  ＡＶＣ／Ｈ．２６４における垂直方向予測の予測値であるＳ（ｘ，−１）に対し、隣接する符号化済み画素の垂直方向の輝度値の変化量Ｓ（−１，ｙ）−Ｓ（−１，−１）を１／２にした値を加算することで、ブロック境界が平滑化されるようにフィルタ処理したものを予測値とすることを意味しており、式（２）の２行目の式は、ＭＰＥＧ−４  ＡＶＣ／Ｈ．２６４における垂直方向予測と同じ予測式を示している。
【０１５５】
予測画像生成ブロックが属する予測ブロックＰｉｎに対するイントラ予測モードのインデックス値が１０（水平方向予測）の場合、下記の式（３）から予測画像生成ブロック内の画素の予測値を算出して予測画像を生成する。
2015177294.tif 000007
ただし、座標（ｘ，ｙ）は予測画像生成ブロック内の左上画素を原点とする相対座標（図３２を参照）であり、Ｓ’（ｘ，ｙ）は座標（ｘ，ｙ）における予測値、Ｓ（ｘ，ｙ）は座標（ｘ，ｙ）における符号化済み画素の輝度値（復号された輝度値）である。また、算出した予測値が輝度値の取り得る値の範囲を超えている場合、予測値がその範囲内に収まるように値を丸めるようにする。
【０１５６】
なお、式（３）の１行目の式は、ＭＰＥＧ−４  ＡＶＣ／Ｈ．２６４における水平方向予測の予測値であるＳ（−１，ｙ）に対し、隣接する符号化済み画素の水平方向の輝度値の変化量Ｓ（ｘ，−１）−Ｓ（−１，−１）を１／２にした値を加算することで、ブロック境界が平滑化されるようにフィルタ処理したものを予測値とすることを意味しており、式（３）の２行目の式は、ＭＰＥＧ−４  ＡＶＣ／Ｈ．２６４における水平方向予測と同じ予測式を示している。
【０１５７】
ただし、式（２）の垂直方向予測、式（３）の水平方向予測を行う予測画像生成ブロックのブロックサイズを限定してもよい。一般にブロック端のみ予測方向の輝度値の変化量に比例する値を加算するフィルタ処理を行うことで予測値を変化させる場合、大きなブロックサイズのブロックでは、上述した予測画像生成ブロックのブロック端のフィルタ処理により予測値が変化する領域の占める割合が小さいために、この予測値の変化によって生じた予測残差信号の変化を非常に高い周波数成分で表されることになり、この高周波数成分を符号化するために符号化効率の悪化を生じさせてしまう傾向がある。また、符号化効率を優先して、この高周波数成分を符号化しないようにすることで、ブロック端の予測残差信号の変化を復元できずにブロック境界に歪みが生じてしまう傾向がある。
【０１５８】
一方、小さなブロックサイズのブロックでは、上記フィルタ処理により予測値が変化する領域の占める割合が大きいために、この予測値の変化によって生じた予測残差信号の変化が大きなブロックサイズのブロックの時のような高い周波数成分で表されることはなく、適切に残差信号を符号化することができ、本フィルタ処理によってブロック境界の連続性を高めた分、復号画像の品質を高めることができる。したがって、例えば、３２×３２画素以上のブロックサイズの予測画像生成ブロックでは、予測対象画素の座標によらず、式（２）及び式（３）の２行目の式を常に用いるようにし（予測画像生成ブロックのブロック端のフィルタ処理を行わないことにする）、３２×３２画素より小さいブロックのみに、上記フィルタ処理を行う式（２）及び式（３）を適用することで、従来の垂直方向予測、水平方向予測よりも予測性能を向上させながら、演算量の増加を抑えることができる。
【０１５９】
イントラ予測モードのインデックス値が０（平面予測）、１（平均値予測）、２６（垂直方向予測）、１０（水平方向予測）以外の場合には、インデックス値が示す予測方向ベクトルυｐ＝（ｄｘ，ｄｙ）に基づいて、予測画像生成ブロック内の画素の予測値を生成する。
図３２に示すように、予測画像生成ブロックの左上画素を原点として、予測画像生成ブロック内の相対座標を（ｘ，ｙ）と設定すると、予測に用いる参照画素の位置は、下記のＬと隣接画素の交点になる。
2015177294.tif 000008
ただし、ｋは負の実数である。
【０１６０】
参照画素が整数画素位置にある場合には、その整数画素を予測対象画素の予測値とし、参照画素が整数画素位置にない場合には、参照画素に隣接する整数画素から生成される補間画素を予測値とする。図２９の例では、参照画素は整数画素位置にないので、参照画素に隣接する２画素から内挿したものを予測値とする。なお、隣接する２画素のみではなく、隣接する２画素以上の画素から補間画素を生成して予測値としてもよい。補間処理に用いる画素を多くすることで補間画素の補間精度を向上させる効果がある一方、補間処理に要する演算の複雑度が増加することから、演算負荷が大きくても高い符号化性能を要求する画像符号化装置の場合には、より多くの画素から補間画素を生成するようにした方がよい。
【０１６１】
以上に述べた処理によって、予測画像生成ブロック単位に予測ブロックＰｉｎ内の輝度信号の全ての画素に対する予測画素を生成して、イントラ予測画像ＰＩＮＴＲＡｉｎを出力する。なお、イントラ予測画像ＰＩＮＴＲＡｉｎの生成に用いられたイントラ予測パラメータ（イントラ予測モード）は、ビットストリームに多重化するために可変長符号化部１５に出力される。
【０１６２】
なお、先に説明したＭＰＥＧ−４  ＡＶＣ／Ｈ．２６４における８×８画素のブロックのイントラ予測時に参照画素に対して施される平滑化処理と同様に、イントラ予測部５において、予測画像生成ブロックの予測画像を生成する際の参照画素を、予測画像生成ブロックに隣接する符号化済み画素を平滑化処理した画素とするように構成した場合であっても、上述の例と同様の予測画像に対するフィルタ処理を行うことができる。このようにすることで参照画素へのフィルタ処理による参照画素のノイズが除去され、これを用いて予測を行うことで予測の精度高めることができる。あるいは、上記参照画素へのフィルタ処理は予測画像へのフィルタ処理を行う平均値予測、垂直方向予測、水平方向予測以外の予測の際のみ実施するようにしてもよい。このようにすることで、各予測モードに対して最大で１つのフィルタ処理しか行わずに済み、演算量の増加を抑えることができる。
【０１６３】
上記では、輝度信号の予測画像生成処理について説明したが、色差成分に対する予測画像は次のように生成する。予測ブロックＰｉｎの色差信号に対して、色差信号のイントラ予測パラメータ（イントラ予測モード）に基づくイントラ予測処理を実施し、イントラ予測画像の生成に用いられたイントラ予測パラメータを可変長符号化部１５に出力する。
【０１６４】
図３３は色差信号のイントラ予測パラメータ（インデックス値）と色差イントラ予測モードの対応例を示す説明図である。色差信号のイントラ予測パラメータが、輝度信号に対するイントラ予測モードと同じ予測モードを用いる旨を示している場合（イントラ予測パラメータが輝度色差共通イントラ予測モード（ＤＭモード）を示している場合）、輝度信号と同じフレーム内予測を実施して、色差信号の予測画像を生成する。
また、色差信号のイントラ予測パラメータが、垂直方向予測モード又は水平方向予測モードを示している場合、色差信号に対する方向性予測を実施して、色差信号の予測画像を生成する。また、色差信号のイントラ予測パラメータが、輝度相関利用色差信号予測モード（ＬＭモード）を示している場合、予測画像の生成対象ブロックの上及び左に隣接している複数の画素の輝度信号及び色差信号を用いて、輝度信号と色差信号の相関を示す相関パラメータを算出し、その相関パラメータと予測処理対象の色差信号のブロックに対応する輝度信号を用いて、色差信号の予測画像を生成する。
【０１６５】
入力信号フォーマットがＹＵＶ４：２：２信号である場合、図７に示すように、輝度信号が正方ブロックであれば、色差信号は輝度信号と比較して水平方向の画素数が１／２となる長方形のブロックとなる。したがって、図８に示すように、ＹＵＶ４：４：４信号をＹＵＶ４：２：２信号に変換した際に、輝度信号と色差信号で同一方向の予測となるようにするためには、ＹＵＶ４：２：２信号上では、垂直方向予測と水平方向予測以外の方向性予測の場合には、色差信号の予測方向が輝度信号の予測方向と異なることとなる。具体的には、図９に示すように、輝度信号の予測方向ベクトルをｖＬ＝（ｄｘＬ，ｄｙＬ）とした場合、色差信号の予測方向ベクトルは、ｖＣ＝（ｄｘＬ／２，ｄｙＬ）となる。即ち、図１０に示すように、予測方向の角度をθとした場合、輝度信号の予測方向の角度をθＬ、色差信号の予測方向の角度をθＣとして、ｔａｎθＣ＝２ｔａｎθＬの関係となる予測方向で予測する必要がある。
したがって、輝度信号と色差信号で同一方向の予測を行う上記ＤＭモードを正しく実施できるようにするために、入力信号フォーマットがＹＵＶ４：２：２信号である場合、輝度信号に使用したイントラ予測モードのインデックスを色差信号の予測に用いるイントラ予測モードのインデックスに変換し、変換後のインデックスに対応するイントラ予測モードによる色差信号の予測処理を実施する。
【０１６６】
図３４は図２８のイントラ予測モードにおけるイントラ予測モードインデックスの変換例を示している。図３４の変換テーブルは、予測方向の角度がθであるとき（図１０を参照）、イントラ予測モードの方向性予測が図３５に示すｔａｎθとなる角度である場合、ｔａｎθＣ＝２ｔａｎθＬの関係に最も近い角度θＣに変換するテーブルの例である。
変換処理の実現は、上記のように、インデックスの変換テーブルを用意し、その変換テーブルを参照することでインデックスを変換するように構成してもよいし、変換式を用意し、その変換式に従ってインデックスを変換するように構成してもよい。このように構成することで、方向性予測処理自体を変更することなく、インデックスの変換のみでＹＵＶ４：２：２信号のフォーマットに応じた色差信号の適切な予測を実施することができる。
【０１６７】
また、色差信号に対して上記ＬＭモードを行わないように構成してもよい。このときの色差信号のイントラ予測パラメータ（インデックス値）と色差イントラ予測モードの対応例として、図３４が挙げられる。このようにＬＭモードも用いないようにすることで、予測対象画素の輝度信号と色差信号の依存性がなくなるため、輝度信号と色差信号の予測処理の並列化が可能となり、高速な演算処理を実現することができる。
さらに、色差信号では、平均値（ＤＣ）予測、垂直方向予測、水平方向予測について、輝度信号の場合で説明したブロック境界のフィルタ処理を行わずに、ＭＰＥＧ−４  ＡＶＣ／Ｈ．２６４と同様の予測手法としてもよい。このようにフィルタ処理を行わないことで、予測処理の低演算化を図ることができる。
【０１６８】
次に、図１７の画像復号装置の処理内容を具体的に説明する。
可変長復号部３１は、図１の画像符号化装置により生成された符号化ビットストリームを入力すると、そのビットストリームに対する可変長復号処理を実施して（図２０のステップＳＴ２１）、１フレーム以上のピクチャから構成されるシーケンス単位のヘッダ情報（シーケンスレベルヘッダ）及びピクチャ単位のヘッダ情報（ピクチャレベルヘッダ）などの各ヘッダ情報とピクチャデータを復号する。ただし、ピクチャデータは１以上のスライスデータから構成され、各スライスデータはスライスレベルヘッダと当該スライス内にある符号化データがまとめられているものである。ピクチャデータはスライスデータの他に補足情報を示すヘッダ情報を含む場合もある。
【０１６９】
このとき、上記ヘッダ情報に含まれる量子化マトリクスの有効フラグ情報が“有効”を示す場合、可変長復号部３１は量子化マトリクスパラメータを可変長復号し、量子化マトリクスを特定する。具体的には、各直交変換サイズの色信号や符号化モード毎に、量子化マトリクスパラメータが初期値として、画像符号化装置及び画像復号装置で、予め共通に用意されている量子化マトリクス、又は、既に復号された量子化マトリクスである（新しい量子化マトリクスでない）ことを示す場合は、量子化マトリクスパラメータに含まれる上記マトリクスの内のどの量子化マトリクスであるかを特定するインデックス情報を参照して量子化マトリクスを特定し、量子化マトリクスパラメータが新しい量子化マトリクスを用いることを示す場合は、量子化マトリクスパラメータに含まれる量子化マトリクスを使用する量子化マトリクスとして特定する。そして、ピクチャ単位のデータを構成するスライスデータから、スライス分割情報等のスライス単位のヘッダ情報（スライスレベルヘッダ）を復号し、各スライスの符号化データを復号する。
【０１７０】
また、可変長復号部３１は、上記ヘッダ情報から、最大符号化ブロックサイズ及び分割階層数の上限を特定する（図２０のステップＳＴ２２）。ただし、分割階層数の上限の代わりに、符号化ブロックの最小ブロックサイズが符号化されている場合、これを復号することで分割階層数の上限を決定する。即ち、最大符号化ブロックを上記最小ブロックサイズまで分割した場合が分割階層数の上限となる。
可変長復号部３１は、決定された最大符号化ブロック単位に、図２２で示されるような最大符号化ブロックの分割状態を復号する。復号された分割状態に基づき、階層的に符号化ブロックを特定する（図２０のステップＳＴ２３）。
【０１７１】
次に、可変長復号部３１は、符号化ブロックに割り当てられている符号化モードを復号する。復号した符号化モードに含まれる情報に基づき、符号化ブロックをさらに１つないし複数の予測処理単位である予測ブロックに分割し、予測ブロック単位に割り当てられている予測パラメータを復号する（図２０のステップＳＴ２４）。
即ち、可変長復号部３１は、符号化ブロックに割り当てられている符号化モードがイントラ符号化モードである場合、符号化ブロックに含まれており、予測処理単位となる１つ以上の予測ブロック毎にイントラ予測パラメータを復号し、符号化ブロックに割り当てられている符号化モードがイントラブロックコピー符号化モードである場合、符号化ブロックに含まれており、予測処理単位となる１つ以上の予測ブロック毎にイントラブロックコピー予測パラメータを復号する。また、符号化ブロックに割り当てられている符号化モードがインター符号化モードである場合、符号化ブロックに含まれており、予測処理単位となる１つ以上の予測ブロック毎にインター予測パラメータ及び動きベクトルを復号する（図２０のステップＳＴ２４）。また、全てのピーク画素値に対する補正幅ｗｉを復号する。
【０１７２】
さらに、可変長復号部３１は、予測差分符号化パラメータに含まれる変換ブロック分割情報に基づき、変換ブロック毎に圧縮データ（変換・量子化後の変換係数）を復号する（図２０のステップＳＴ２４）。その際、図１の画像符号化装置の可変長符号化部１５での圧縮データの符号化処理と同様に、ＣＧ単位の係数の復号処理を実施する。したがって、図２５に示すように、４×４画素単位の１６個のＣＧを右下のＣＧから順に復号処理し、さらに、各ＣＧはＣＧ内の１６個の係数を右下の係数から順に復号していくことになる。
【０１７３】
具体的には、まず、ＣＧ内の１６個の係数の中に有意（非零）係数が存在するか否かのフラグ情報を復号し、次に復号したフラグ情報がＣＧ内に有意（非零）係数が存在することを示す場合のみＣＧ内の各係数が有意（非零）係数であるかを上記順に復号し、最後に有意（非零）係数を示す係数に対して、その係数値情報を順に復号する。これをＣＧ単位に上記順に行う。ただし、スキャン順については、イントラ予測が選択されている４×４画素と８×８画素の変換ブロックの場合、イントラ予測モードのインデックスに応じて、図２５のスキャン順ではなく図２７に示すスキャン順で処理を行う。
【０１７４】
切換スイッチ３３は、可変長復号部３１により可変長復号された符号化モードｍ（Ｂｎ）がイントラ符号化モードであれば（ｍ（Ｂｎ）∈ＩＮＴＲＡの場合）、可変長復号部３１により可変長復号された予測ブロック単位のイントラ予測パラメータをイントラ予測部３４に出力し、可変長復号部３１により可変長復号された符号化モードｍ（Ｂｎ）がイントラブロックコピー符号化モードであれば（ｍ（Ｂｎ）∈ＩＣＯＰＹの場合）、可変長復号部３１により可変長復号された予測ブロック単位のイントラブロックコピー予測パラメータをイントラブロックコピー予測部３５に出力し、可変長復号部３１により可変長復号された符号化モードｍ（Ｂｎ）がインター符号化モードであれば（ｍ（Ｂｎ）∈ＩＮＴＥＲの場合）、可変長復号部３１により可変長復号された予測ブロック単位のインター予測パラメータ及び動きベクトルを動き補償予測部３６に出力する。
【０１７５】
イントラ予測部３４は、可変長復号部３１により可変長復号された符号化モードｍ（Ｂｎ）がイントラ符号化モード（ｍ（Ｂｎ）∈ＩＮＴＲＡ）である場合（図２０のステップＳＴ２５）、切換スイッチ３３から出力された予測ブロック単位のイントラ予測パラメータを受け取って、図１のイントラ予測部５と同様の手順で、イントラ用メモリ３８に格納されている復号画像を参照しながら、上記イントラ予測パラメータを用いた符号化ブロックＢｎ内の各予測ブロックＰｉｎに対するイントラ予測処理を実施して、イントラ予測画像ＰＩＮＴＲＡｉｎを生成する（図２０のステップＳＴ２６）。
また、イントラ予測部３４は、輝度信号については、輝度信号に対する上記イントラ予測パラメータを用いたイントラ予測処理（フレーム内予測処理）を実施して、輝度信号の予測画像を生成する。
一方、色差信号については、色差信号のイントラ予測パラメータに基づくイントラ予測処理を実施して、色差信号の予測画像を生成する。
【０１７６】
図３３に示すように、色差信号のイントラ予測パラメータが、輝度信号に対するイントラ予測モードと同じ予測モードを用いる旨を示している場合（イントラ予測パラメータが輝度色差共通イントラ予測モード（ＤＭモード）を示している場合）、輝度信号と同じフレーム内予測を実施して、色差信号の予測画像を生成する。
また、色差信号のイントラ予測パラメータが、垂直方向予測モード又は水平方向予測モードを示している場合、色差信号に対する方向性予測を実施して、色差信号の予測画像を生成する。また、色差信号のイントラ予測パラメータが、輝度相関利用色差信号予測モード（ＬＭモード）を示している場合、予測画像の生成対象ブロックの上及び左に隣接している複数の画素の輝度信号及び色差信号を用いて、輝度信号と色差信号の相関を示す相関パラメータを算出し、その相関パラメータと予測処理対象の色差信号のブロックに対応する輝度信号を用いて、色差信号の予測画像を生成する。
【０１７７】
入力信号フォーマットがＹＵＶ４：２：２信号である場合、図７に示すように、輝度信号が正方ブロックであれば、色差信号は輝度信号と比較して水平方向の画素数が１／２となる長方形のブロックとなる。したがって、図８に示すように、ＹＵＶ４：４：４信号をＹＵＶ４：２：２信号に変換した際に、輝度信号と色差信号で同一方向の予測となるようにするためには、ＹＵＶ４：２：２信号上では、垂直方向予測と水平方向予測以外の方向性予測の場合には、色差信号の予測方向が輝度信号の予測方向と異なることとなる。具体的には、図９に示すように、輝度信号の予測方向ベクトルをｖＬ＝（ｄｘＬ，ｄｙＬ）とした場合、色差信号の予測方向ベクトルは、ｖＣ＝（ｄｘＬ／２，ｄｙＬ）となる。即ち、図１０に示すように、予測方向の角度をθとした場合、輝度信号の予測方向の角度をθＬ、色差信号の予測方向の角度をθＣとして、ｔａｎθＣ＝２ｔａｎθＬの関係となる予測方向で予測する必要がある。
【０１７８】
したがって、輝度信号と色差信号で同一方向の予測を行う上記ＤＭモードを正しく実施できるようにするために、入力信号フォーマットがＹＵＶ４：２：２信号である場合、輝度信号に使用したイントラ予測モードのインデックスを色差信号の予測に用いるイントラ予測モードのインデックスに変換し、変換後のインデックスに対応するイントラ予測モードによる色差信号の予測処理を実施する。
【０１７９】
図３４の変換テーブルは、予測方向の角度がθであるとき（図１０を参照）、イントラ予測モードの方向性予測が図３５に示すｔａｎθとなる角度である場合、ｔａｎθＣ＝２ｔａｎθＬの関係に最も近い角度θＣに変換するテーブルの例である。変換処理の実現は、上記のように、インデックスの変換テーブルを用意し、その変換テーブルを参照することでインデックスを変換するように構成してもよいし、変換式を用意し、その変換式に従ってインデックスを変換するように構成してもよい。このように構成することで、方向性予測処理自体を変更することなく、インデックスの変換のみでＹＵＶ４：２：２信号のフォーマットに応じた色差信号の適切な予測を実施することができる。
【０１８０】
また、色差信号に対して、上記ＬＭモードを行わないように画像符号化装置が構成されている場合、その画像符号化装置から生成される符号化ビットストリームが復号できるように画像復号装置も同様の構成とする。このときの色差信号のイントラ予測パラメータ（インデックス値）と色差イントラ予測モードの対応例として、図３４が挙げられる。このようにＬＭモードも用いないようにすることで、予測対象画素の輝度信号と色差信号の依存性がなくなるため、輝度信号と色差信号の予測処理の並列化が可能になり、高速な演算処理を実現することができる。
さらに、色差信号では、平均値（ＤＣ）予測、垂直方向予測、水平方向予測について、輝度信号の場合で説明したブロック境界のフィルタ処理を行わずに、ＭＰＥＧ−４  ＡＶＣ／Ｈ．２６４と同様の予測手法として画像符号化装置が構成されている場合、その画像符号化装置から生成される符号化ビットストリームが復号できるように画像復号装置も同様の構成とする。このようにフィルタ処理を行わないことで、予測処理の低演算化を図ることができる。
【０１８１】
イントラブロックコピー予測部３５は、可変長復号部３１により可変長復号された符号化モードｍ（Ｂｎ）がイントラブロックコピー符号化モード（ｍ（Ｂｎ）∈ＩＣＯＰＹ）である場合（ステップＳＴ２５）、切換スイッチ３３から出力された予測ブロック単位のブロックシフトベクトルを含むイントラブロックコピー予測パラメータを受け取って、イントラ用メモリ３８に格納されている復号画像を参照しながら、上記イントラブロックコピー予測パラメータを用いた符号化ブロックＢｎ内の各予測ブロックＰｉｎに対するイントラブロックコピー予測処理を実施して、イントラブロックコピー予測画像ＰＩＣＯＰＹｉｎを生成する（ステップＳＴ２７）。画像符号化装置において、ブロックシフトベクトルは直前の符号化（復号）済み予測ブロックのブロックシフトベクトル、あるいは当該予測ブロックの周囲の符号化（復号）済み予測ブロックのブロックシフトベクトルとの差分値をイントラブロックコピー予測パラメータの一部として符号化するようにしている場合、イントラブロックコピー予測パラメータに含む差分値と上記ブロックシフトベクトルとを可算して、当該予測ブロックのブロックシフトベクトルを算出する。
【０１８２】
動き補償予測部３６は、可変長復号部３１により可変長復号された符号化モードｍ（Ｂｎ）がインター符号化モード（ｍ（Ｂｎ）∈ＩＮＴＥＲ）である場合（図２０のステップＳＴ２５）、切換スイッチ３３から出力された予測ブロック単位の動きベクトルとインター予測パラメータを受け取って、動き補償予測フレームメモリ４０に格納されているフィルタ処理後の復号画像を参照しながら、その動きベクトルとインター予測パラメータを用いた符号化ブロックＢｎ内の各予測ブロックＰｉｎに対するインター予測処理を実施してインター予測画像ＰＩＮＴＥＲｉｎを生成する（図２０のステップＳＴ２８）。
【０１８３】
逆量子化・逆変換部３２は、可変長復号部３１から圧縮データ及び予測差分符号化パラメータを受けると、図１の逆量子化・逆変換部１０と同様の手順で、その予測差分符号化パラメータに含まれる量子化パラメータ及び変換ブロック分割情報を参照して、変換ブロック単位にその圧縮データを逆量子化する。このとき、可変長復号部３１により可変長復号された各ヘッダ情報を参照し、各ヘッダ情報が、当該スライスで量子化マトリクスを用いて、逆量子化処理を実施することを示している場合は、量子化マトリクスを用いて逆量子化処理を行う。
【０１８４】
この際、可変長復号部３１により可変長復号された各ヘッダ情報を参照して、各直交変換サイズで色信号や符号化モード（イントラ符号化、イントラブロックコピー符号化、インター符号化）毎に使用する量子化マトリクスを特定する。また、逆量子化・逆変換部３２は、変換ブロック単位に逆量子化後の圧縮データである変換係数に対する逆直交変換処理を実施して、図１の逆量子化・逆変換部１０から出力された局所復号予測差分信号と同一の復号予測差分信号を算出する（図２０のステップＳＴ２９）。
【０１８５】
加算部３７は、逆量子化・逆変換部３２により算出された復号予測差分信号と、イントラ予測部３４により生成されたイントラ予測画像ＰＩＮＴＲＡｉｎ、イントラブロックコピー予測部３５により生成されたイントラブロックコピー予測画像ＰＩＣＯＰＹｉｎ、又は、動き補償予測部３６により生成されたインター予測画像ＰＩＮＴＥＲｉｎのいずれかを加算して復号画像を算出し、その復号画像をループフィルタ部３９に出力するとともに、その復号画像をイントラ用メモリ３８に格納する（図２０のステップＳＴ３０）。この復号画像が、以降のイントラ予測処理及びイントラブロックコピー予測処理の際に用いられる復号済みの画像信号になる。
【０１８６】
ループフィルタ部３９は、全ての符号化ブロックＢｎに対するステップＳＴ２３〜ＳＴ３０の処理が完了すると（図２０のステップＳＴ３１）、加算部３７から出力された復号画像に対して、所定のフィルタ処理を実施して、フィルタ処理後の復号画像を動き補償予測フレームメモリ４０に格納する（図２０のステップＳＴ３２）。
具体的には、変換ブロックの境界や予測ブロックの境界に発生する歪みを低減するフィルタ（デブロッキングフィルタ）処理、画素単位に適応的にオフセットを加算する（画素適応オフセット）処理、ウィーナフィルタ等の線形フィルタを適応的に切り替えてフィルタ処理する適応フィルタ処理などを行う。
これらのループフィルタは、復号画像の画質を向上させることを目的として適用されるが、図４２に示すようなスクリーンコンテンツの特殊なヒストグラム形状を考慮しておらず、十分な画質改善効果が得られない。そこで、この実施の形態１では、新たなループフィルタ処理としてヒストグラム補正処理を実施する。
【０１８７】
ループフィルタ部３９は、上記のデブロッキングフィルタ処理、画素適応オフセット処理、適応フィルタ処理及びヒストグラム補正処理のそれぞれについて、可変長復号部３１により可変長復号された各ヘッダ情報を参照することで、当該スライスで行うか否かを特定する。
このとき、２つ以上のフィルタ処理を行う場合において、例えば、図１の画像符号化装置のループフィルタ部１３が図１２のように構成されていれば、図１８に示すようにループフィルタ部３９が構成される。当然、画像符号化装置のループフィルタ部１３がデブロッキングフィルタ処理、画素適応オフセット処理及びヒストグラム補正処理から構成されていれば、ループフィルタ部３９もデブロッキングフィルタ処理、画素適応オフセット処理及びヒストグラム補正処理で構成される。
【０１８８】
ここで、デブロッキングフィルタ処理では、可変長復号部３１により可変長復号されたヘッダ情報を参照し、ブロック境界にかけるフィルタ強度の選択に用いる各種パラメータを初期値から変更する情報が存在する場合には、その変更情報に基づいて、デブロッキングフィルタ処理を実施する。変更情報がない場合は、予め定められた手法に従って行う。
画素適応オフセット処理では、可変長復号部３１により可変長復号された画素適応オフセット処理のブロック分割情報に基づいて分割し、そのブロック単位に、可変長復号部３１により可変長復号されたブロック単位のクラス分類手法を示すインデックスを参照して、そのインデックスが“オフセット処理を行わない”ことを示すインデックスでない場合、ブロック単位にブロック内の各画素を上記インデックスが示すクラス分類手法に従ってクラス分類する。なお、クラス分類手法の候補として、ループフィルタ部１３の画素適応オフセット処理のクラス分類手法の候補と同一のものが予め用意されている。
【０１８９】
そして、ループフィルタ部３９は、ブロック単位の各クラスのオフセット値を特定する可変長復号部３１により可変長復号されたオフセット情報を参照して、復号画像の画素値にオフセットを加算する処理を行う。
適応フィルタ処理では、可変長復号部３１により可変長復号されたクラス毎のフィルタを用いて、図１の画像符号化装置と同一の手法でクラス分類した後に、そのクラス分類情報に基づいてフィルタ処理を行う。
【０１９０】
ヒストグラム補正処理では、ヒストグラム算出部４１が、可変長復号部３１により可変長復号されたヒストグラム補正処理のブロック分割情報に基づいて復号画像を分割し、そのブロック単位に、可変長復号部３１により可変長復号されたヒストグラム補正を実施するか否かを表すフラグを参照して、そのフラグが“ヒストグラム補正処理を行わない”ことを示す値でない場合、当該ブロックに対してヒストグラム補正処理を実行する。
【０１９１】
図３７はこの発明の実施の形態１による画像復号装置におけるヒストグラム補正処理の内容を示すフローチャートである。
以下、図３７を参照しながら、ヒストグラム補正処理の流れを説明する。
ヒストグラム補正処理では、最初に、図１９のヒストグラム算出部４１が、加算部３７により算出された復号画像を複数のブロックに分割し、その復号画像のブロック毎に画素値のヒストグラムを算出する（図３７のステップＳＴ２００〜ＳＴ２０１）。また、ヒストグラムの値が最大となる画素値を選択し、その画素値をｐ（以下、「ピーク画素値」と称する）とする（図３７のステップＳＴ２０２）。
なお、ヒストグラムのステップ幅は、必ずしも１とする必要はないが、ループフィルタ部３９の出力画像を図１の画像符号化装置におけるループフィルタ部１３の出力画像と一致させる必要があるため、ここではループフィルタ部１３と同じステップ幅を用いる。また、ヒストグラムのステップ幅を１以上とした場合は、ｐはステップ幅の中央値などに設定することが考えられるが、これも上記と同様の理由によりループフィルタ部１３と一致させる必要がある。
【０１９２】
また、必ずしもブロック内の全ての画素を用いてヒストグラムを計算する必要はなく、一部の画素だけを用いてヒストグラムを求めてもよい。ヒストグラム計算に使用する画素数を削減することで、ヒストグラム計算に必要な演算量を削減することが可能である。なお、これも上記と同様の理由によりループフィルタ部１３と一致させる必要がある。
【０１９３】
また、求めたヒストグラムを直接用いてその値が最大となる画素値を選択するだけでなく、例えばヒストグラムを微分してからその最大値を求めることも考えられるが、これも上記と同様の理由によりループフィルタ部１３と一致させる必要がある。
【０１９４】
画素値補正部４２は、可変長復号部３１により可変長復号されたｉ番目のピークに対する補正幅ｗｉ内の画素値（（ピーク画素値ｐ−補正幅ｗｉ）〜（ピーク画素値ｐ＋補正幅ｗｉ）の画素値）をピーク画素値ｐに置換する（図３７のステップＳＴ２０３〜ＳＴ２０６）。
2015177294.tif 000009
ここで、（ｘ，ｙ）はブロック単位の復号画像における画素の座標を表し、Ｄ（ｘ，ｙ）は置換前の画素値、Ｄ’（ｘ，ｙ）は置換後の画素値を表している。
【０１９５】
ブロック内の全部または一部の画素に対して上記の補正を実施する。なお、上式において、ｐ−ｗｉが画素値の下限を下回った場合はこれを画素値の下限に置き換え、ｐ＋ｗｉが画素値の上限を上回った場合はこれを画素値の上限に置き換えてもよい。
ここでは、補正幅ｗｉをピーク画素値ｐよりも大きい側と小さい側で同一としているが、必ずしも両者を一致させる必要はなく、それぞれに対して異なる補正幅ｗｉを使用してもよい。ただし、ループフィルタ部３９の出力画像を図１の画像符号化装置におけるループフィルタ部１３の出力画像と一致させる必要があるため、ループフィルタ部１３と同様の方式を用いなければならない。
【０１９６】
次に、画素値補正部４２は、ピーク画素値を示すインデックスｉに１を加え、ＳＴ２０２でヒストグラム算出部４１により算出されたヒストグラムから、画素値がｐとなる画素に相当する部分を削除する（図３７のステップＳＴ２０７〜ＳＴ２０８）。
画素値補正部４２は、インデックスｉと予め設定された最大ピーク数Ｐｍａｘを比較し（図３７のステップＳＴ２０９）、インデックスｉが最大ピーク数Ｐｍａｘより小さければ（ｉ＜Ｐｍａｘ）、ピーク画素値の再選択をヒストグラム算出部４１に指示して、ステップＳＴ２０２の処理に戻る。
一方、インデックスｉが最大ピーク数Ｐｍａｘに到達していれば（ｉ≧Ｐｍａｘ）、ヒストグラム補正処理を終了する。
このループフィルタ部３９によるフィルタ処理後の復号画像が、動き補償予測用の参照画像となり、また、再生画像となる。
【０１９７】
以上で明らかなように、この実施の形態１によれば、入力画像の圧縮データから得られる局所復号画像における画素値のヒストグラムを算出するヒストグラム算出部２１と、ヒストグラム算出部２１により算出されたヒストグラムから符号化歪みに伴うノイズが重畳している画素を特定して、そのノイズが重畳している画素の画素値を補正する画素値補正部２２とを備えるように構成したので、ヒストグラムが疎になるスクリーンコンテンツの局所復号画像に生じる符号化歪みに伴うノイズを十分に低減することができる効果を奏する。
即ち、画像符号化装置におけるループフィルタ部１３の画素値補正部２２が、局所復号画像のブロック毎に、ヒストグラムの各ピーク画素値に対する最適な補正幅ｗｉを求め、その補正幅ｗｉ内の画素値をピーク画素値ｐに置換することで、局所復号画像からノイズを取り除くよう構成したので、図４２に示すように、ヒストグラムの各ピークが鋭く、疎であるようなスクリーンコンテンツに対して、局所復号画像の大幅な画質改善を実現することができる効果を奏する。ただし、本効果はスクリーンコンテンツに限定されるものではなく、同様のヒストグラム特徴を持つ映像信号であれば、当然ながら同様の効果が得られる。
【０１９８】
また、この実施の形態１によれば、画像符号化装置の可変長符号化部１５が、各ピーク画素値に対する補正幅ｗｉを符号化して出力する一方、画像復号装置の可変長復号部３１が、各ピーク画素値に対する補正幅ｗｉを復号し、ループフィルタ部３９の画素値補正部４２が、可変長復号部３１により復号された補正幅ｗｉ内の画素値をピーク画素値ｐに置換することで、局所復号画像からノイズを取り除くよう構成したので、図４２に示すように、ヒストグラムの各ピークが鋭く、疎であるようなスクリーンコンテンツに対して、復号画像の大幅な画質改善を実現することができる効果を奏する。ただし、本効果はスクリーンコンテンツに限定されるものではなく、同様のヒストグラム特徴を持つ映像信号であれば、当然ながら同様の効果が得られる。
また、この実施の形態１によれば、上記効果を持つ画像符号化装置及び画像符号化方法が生成する符号化ビットストリームを正しく復号することができる画像復号装置及び画像復号方法が得られる効果を奏する。
【０１９９】
実施の形態２．
上記実施の形態１では、図１の画像符号化装置のループフィルタ部１３に対して、図１２に示すようにヒストグラム補正処理を追加し、さらに、図１７の画像復号装置のループフィルタ部３９に対して、図１８に示すようにヒストグラム補正処理を追加しているものを示したが、既存のループフィルタの一部としてヒストグラム補正処理を実現するように構成することで、符号化する情報量を削減するようにしてもよい。
【０２００】
この実施の形態２による画像符号化装置は、上記実施の形態１における図１の画像符号化装置と同様の構成であるが、図１２に示すループフィルタ部１３の内部構成のみが、図３８のように変更される。
ここでは、図３８に示す変更後のループフィルタ部１３の構成についてのみ説明する。
【０２０１】
図３８のループフィルタ部１３は、加算部１１により算出された局所復号画像に対して、所定のフィルタ処理を実施して、フィルタ処理後の局所復号画像を出力する処理を実施する。具体的には、変換ブロックの境界や予測ブロックの境界に発生する歪みを低減するフィルタ（デブロッキングフィルタ）処理、画素単位に適応的にオフセットを加算する（画素適応オフセット）処理、ウィーナフィルタ等の線形フィルタを適応的に切り替えてフィルタ処理する適応フィルタ処理などを行う。
【０２０２】
これらのループフィルタは、復号画像の画質を向上させることを目的として適用されるが、図４２に示したようなスクリーンコンテンツの特殊なヒストグラム形状を考慮しておらず、十分な画質改善効果が得られない。
そこで、上記実施の形態１では、新たなループフィルタを追加する形でヒストグラム補正処理を実施しているが、この実施の形態２では、既存のループフィルタの一部としてヒストグラム補正処理を実施する。
【０２０３】
この実施の形態２では、画素適応オフセットの一部としてヒストグラム補正処理を実施する場合について説明する。
ただし、ヒストグラム補正処理との組み合わせは必ずしも画素適応オフセットに限定されるものではなく、他のループフィルタとの組み合わせも当然考えられる。
【０２０４】
図３８のループフィルタ部１３は、上記のデブロッキングフィルタ処理、画素適応オフセット処理、適応フィルタ処理のそれぞれについて、処理を行うか否かを決定し、各処理の有効フラグをヘッダ情報として可変長符号化部１５に出力する。なお、上記のフィルタ処理を複数使用する際は、各フィルタ処理を順番に実施する。図３８は複数のフィルタ処理を用いる場合のループフィルタ部１３の構成例を示している。
ただし、図３８に示しているループフィルタの種類と順序は一例に過ぎず、適用するループフィルタの種類と適用順序は必ずしも図３８のようにする必要はない。例えば、デブロッキングフィルタ処理と画素適応オフセット処理の２種類だけでループフィルタ部１３を構成することや、適用順序を画素適応オフセット処理、デブロッキングフィルタ処理の順にすることなどが考えられる。
【０２０５】
ここで、デブロッキングフィルタ処理では、ブロック境界にかけるフィルタ強度の選択に用いる各種パラメータを初期値から変更することができる。変更する場合には、そのパラメータをヘッダ情報として可変長符号化部１５に出力する。
画素適応オフセット処理では、最初に、画像を複数のブロックに分割し、そのブロック単位に、オフセット処理を行わない場合も含めて、複数のオフセットの適用方法の中から一つを選択する。
この実施の形態２では、このオフセットの適用方法の一つとしてヒストグラム補正処理を選択することが可能である。図３８のループフィルタ部１３は、選択したオフセット適用方法に応じて、ブロック内の各画素をクラス分類し、クラス毎に符号化歪みを補償するオフセット値を算出するか、あるいは、ヒストグラム補正を実施するための最適な補正幅Ｗｉをピーク画素値毎に算出する。
最後に、局所復号画像の画素値に対してオフセット値を加算する処理を行うか、あるいは、局所復号画像のヒストグラムを補正することによって局所復号画像の画像品質を改善する。
【０２０６】
補正幅がｗｉである場合、ヒストグラム補正処理は、以下のように行う。
2015177294.tif 000010
ここで、（ｘ，ｙ）はブロック単位の局所復号画像における画素の座標を表し、Ｌ（ｘ，ｙ）は置換前の画素値、Ｌ’（ｘ，ｙ）は置換後の画素値を表している。
ブロック内の全部または一部の画素に対して上記の補正を実施する。なお、上式において、ｐ−ｗｉが画素値の下限を下回った場合はこれを画素値の下限に置き換え、ｐ＋ｗｉが画素値の上限を上回った場合はこれを画素値の上限に置き換えてもよい。
ここでは、補正幅ｗｉをピーク画素値ｐよりも大きい側と小さい側で同一としているが、必ずしも両者を一致させる必要はなく、それぞれに対して異なる補正幅ｗｉを使用してもよい。
【０２０７】
ヒストグラム補正処理では、上記のようにして最初のピークを補正した後、次のピークに移動し、同様の処理を所定のピーク数に達するまで繰り返し実施する。
画素適応オフセット処理では、ブロック分割情報、各ブロックのクラス分類手法を示すインデックス、ブロック単位の各クラスのオフセット値を特定するオフセット情報あるいはヒストグラム補正のためのヒストグラムの各ピークに対する補正幅をヘッダ情報として可変長符号化部１５に出力する。
【０２０８】
上記実施の形態１では、画素適応オフセット処理のための情報に加えてヒストグラム補正処理のための情報を符号化する必要があったが、この実施の形態２では、画素適応オフセット処理の一部としてヒストグラム補正処理を実施することによって、オフセット処理のための情報とヒストグラム補正処理のための情報のいずれか一方だけを符号化すればよいため、ループフィルタ全体での符号量を削減することができる。
【０２０９】
なお、画素適応オフセット処理において、例えば、最大符号化ブロックといった固定サイズのブロック単位に常に分割して、そのブロック毎にクラス分類手法を選択して、クラス毎の適応オフセット処理を行ってもよい。この場合、上記ブロック分割情報が不要となり、ブロック分割情報に要する符号量分だけ符号量が削減され、符号化効率を高めることができる。
【０２１０】
適応フィルタ処理では、局所復号画像を所定の手法でクラス分類し、各クラスに属する領域（局所復号画像）毎に、重畳されている歪みを補償するフィルタを設計し、そのフィルタを用いて、当該局所復号画像のフィルタ処理を実施する。そして、クラス毎に設計したフィルタをヘッダ情報として可変長符号化部１５に出力する。クラス分類手法としては、画像を空間的に等間隔に区切る簡易な手法や、ブロック単位に画像の局所的な特性（分散など）に応じて分類する手法がある。また、適応フィルタ処理で使用するクラス数は、予め画像符号化装置及び画像復号装置に共通の値として設定してもよいし、符号化すべきパラメータとしてもよい。前者と比較して後者の方が、使用するクラス数を自由に設定することができるため、画像品質改善効果が上がるが、一方でクラス数を符号化するために、その分の符号量が増加する。
【０２１１】
この実施の形態２による画像復号装置は、上記実施の形態１における図１７の画像復号装置と同様の構成であるが、図１８に示すループフィルタ部３９の内部構成のみが、図３９のように変更される。
ここでは、図３９に示す変更後のループフィルタ部３９の構成についてのみ説明する。
【０２１２】
図３９のループフィルタ部３９は、加算部３７により算出された復号画像に対して、所定のフィルタ処理を実施して、フィルタ処理後の復号画像を出力する処理を実施する。具体的には、変換ブロックの境界や予測ブロックの境界に発生する歪みを低減するフィルタ（デブロッキングフィルタ）処理、画素単位に適応的にオフセットを加算する（画素適応オフセット）処理、ウィーナフィルタ等の線形フィルタを適応的に切り替えてフィルタ処理する適応フィルタ処理などを行う。
【０２１３】
これらのループフィルタは、復号画像の画質を向上させることを目的として適用されるが、図４２に示したようなスクリーンコンテンツの特殊なヒストグラム形状を考慮しておらず、十分な画質改善効果が得られない。
そこで、上記実施の形態１では、新たなループフィルタを追加する形でヒストグラム補正処理を実施しているが、この実施の形態２では、既存のループフィルタの一部としてヒストグラム補正処理を実施する。
【０２１４】
この実施の形態２では、画素適応オフセットの一部としてヒストグラム補正処理を実施する場合について説明する。
ただし、ヒストグラム補正処理との組み合わせは必ずしも画素適応オフセットに限定されるものではなく、他のループフィルタとの組み合わせも当然考えられる。ただし、組み合わせ方法は、画像符号化装置のループフィルタ部１３と同様にする必要がある。
【０２１５】
図３９のループフィルタ部３９は、上記のデブロッキングフィルタ処理、画素適応オフセット処理、適応フィルタ処理のそれぞれについて、可変長復号部３１により可変長復号された各ヘッダ情報を参照して、当該スライスで行うか否かを特定する。
このとき、２つ以上のフィルタ処理を行う場合において、例えば、画像符号化装置のループフィルタ部１３が図３８のように構成されていれば、図３９に示すようにループフィルタ部３９が構成される。当然、画像符号化装置のループフィルタ部１３がデブロッキングフィルタ処理と画素適応オフセット処理から構成されていれば、ループフィルタ部３９もデブロッキングフィルタ処理と画素適応オフセット処理で構成される。
【０２１６】
ここで、デブロッキングフィルタ処理では、可変長復号部３１により可変長復号されたヘッダ情報を参照し、ブロック境界にかけるフィルタ強度の選択に用いる各種パラメータを初期値から変更する情報が存在する場合、その変更情報に基づいて、デブロッキングフィルタ処理を実施する。変更情報がない場合は、予め定められた手法に従って行う。
画素適応オフセット処理では、可変長復号部３１により可変長復号された画素適応オフセット処理のブロック分割情報に基づいて復号画像を分割し、そのブロック単位に、可変長復号部３１により可変長復号されたブロック単位のクラス分類手法を示すインデックスを参照して、そのインデックスが“オフセット処理を行わない”ことを示すインデックスではなく、かつ“ヒストグラム補正処理を行う”ことを示すインデックスではない場合、そのインデックスに応じてブロック単位にブロック内の各画素を上記インデックスが示すクラス分類手法に従ってクラス分類する。なお、クラス分類手法の候補として、図３８のループフィルタ部１３の画素適応オフセット処理のクラス分類手法の候補と同一のものが予め用意されている。そして、ブロック単位の各クラスのオフセット値を特定するオフセット情報を参照して、復号画像の画素値にオフセットを加算する処理を行う。
【０２１７】
一方、可変長復号部３１により可変長復号されたブロック単位のクラス分類手法を示すインデックスが“オフセット処理を行わない”ことを示すインデックスではなく、かつ“ヒストグラム補正処理を行う”ことを示すインデックスである場合、当該ブロックにおける画素値のヒストグラムを算出し、そのヒストグラムのピーク画素値の位置を所定の方法によって決定する。
【０２１８】
画素値補正部４２は、可変長復号部３１により可変長復号されたｉ番目のピークに対する補正幅ｗｉ内の画素値（（ピーク画素値ｐ−補正幅ｗｉ）〜（ピーク画素値ｐ＋補正幅ｗｉ）の画素値）をピーク画素値ｐに置換する。
2015177294.tif 000011
ここで、（ｘ，ｙ）はブロック単位の復号画像における画素の座標を表し、Ｄ（ｘ，ｙ）は置換前の画素値、Ｄ’（ｘ，ｙ）は置換後の画素値を表している。
ブロック内の全部または一部の画素に対して上記の補正を実施する。なお、上式において、ｐ−ｗｉが画素値の下限を下回った場合はこれを画素値の下限に置き換え、ｐ＋ｗｉが画素値の上限を上回った場合はこれを画素値の上限に置き換えてもよい。
【０２１９】
ここでは、補正幅ｗｉをピーク画素値ｐよりも大きい側と小さい側で同一としているが、必ずしも両者を一致させる必要はなく、それぞれに対して異なる補正幅ｗｉを使用してもよい。ただし、ループフィルタ部３９の出力画像を画像符号化装置におけるループフィルタ部１３の出力画像と一致させる必要があるため、ループフィルタ部１３と同様の方式を用いなければならない。
ヒストグラム補正処理では、上記のようにして最初のピークを補正した後、次のピークに移動し、同様の処理を所定のピーク数に達するまで繰り返し実施する。
【０２２０】
ただし、画像符号化装置のループフィルタ部１３の画素適応オフセット処理において、ブロック分割情報は符号化せずに、常に画像を固定サイズのブロック単位（例えば、最大符号化ブロック単位）に分割し、そのブロック毎にクラス分類手法を選択して、クラス毎の適応オフセット処理を行うように構成されている場合、ループフィルタ部３９においても、ループフィルタ部１３と同一の固定サイズのブロック単位に画素適応オフセット処理を実施する。
適応フィルタ処理では、可変長復号部３１により可変長復号されたクラス毎のフィルタを用いて、図１の画像符号化装置と同一の手法でクラス分類した後に、そのクラス分類情報に基づいてフィルタ処理を行う。
【０２２１】
次に、この実施の形態２による画像符号化装置において、上記実施の形態１による画像符号化装置と構成が異なるループフィルタ部１３についての動作を説明する。その他の動作は、上記実施の形態１と同様である。
図３８のループフィルタ部１３は、加算部１１から局所復号画像を受けると、その局所復号画像に対して、所定のフィルタ処理を実施して、フィルタ処理後の局所復号画像を動き補償予測フレームメモリ１４に格納する（図１６のステップＳＴ１１）。具体的には、変換ブロックの境界や予測ブロックの境界に発生する歪みを低減するフィルタ（デブロッキングフィルタ）処理、画素単位に適応的にオフセットを加算する（画素適応オフセット）処理、ウィーナフィルタ等の線形フィルタを適応的に切り替えてフィルタ処理する適応フィルタ処理などを行う。
【０２２２】
これらのループフィルタは、復号画像の画質を向上させることを目的として適用されるが、図４２に示したようなスクリーンコンテンツの特殊なヒストグラム形状を考慮しておらず、十分な画質改善効果が得られない。
そこで、上記実施の形態１では、新たなループフィルタを追加する形でヒストグラム補正処理を実施しているが、この実施の形態２では、既存のループフィルタの一部としてヒストグラム補正処理を実施する。
この実施の形態２では、画素適応オフセットの一部としてヒストグラム補正処理を実施する場合について説明する。
ただし、ヒストグラム補正処理との組み合わせは必ずしも画素適応オフセットに限定されるものではなく、他のループフィルタとの組み合わせも当然考えられる。
【０２２３】
図３８のループフィルタ部１３は、上記のデブロッキングフィルタ処理、画素適応オフセット処理、適応フィルタ処理のそれぞれについて、処理を行うか否かを決定し、各処理の有効フラグをヘッダ情報として可変長符号化部１５に出力する。なお、上記のフィルタ処理を複数使用する際は、各フィルタ処理を順番に実施する。図３８は複数のフィルタ処理を用いる場合のループフィルタ部１３の構成例を示している。
ただし、図３８に示しているループフィルタの種類と順序は一例に過ぎず、適用するループフィルタの種類と適用順序は必ずしも図３８のようにする必要はない。例えば、デブロッキングフィルタ処理と画素適応オフセット処理の２種類だけでループフィルタ部１３を構成することや、適用順序を画素適応オフセット処理、デブロッキングフィルタ処理の順にすることなどが考えられる。
【０２２４】
ここで、デブロッキングフィルタ処理では、ブロック境界にかけるフィルタ強度の選択に用いる各種パラメータを初期値から変更することができる。変更する場合には、そのパラメータをヘッダ情報として可変長符号化部１５に出力する。
画素適応オフセット処理では、最初に、画像を複数のブロックに分割し、そのブロック単位に、オフセット処理を行わない場合も含めて、複数のオフセットの適用方法の中から一つを選択する。
この実施の形態２では、このオフセットの適用方法の一つとしてヒストグラム補正処理を選択することが可能である。図３８のループフィルタ部１３は、選択したオフセット適用方法に応じて、ブロック内の各画素をクラス分類し、クラス毎に符号化歪みを補償するオフセット値を算出するか、あるいは、ヒストグラム補正を実施するための最適な補正幅Ｗｉをピーク画素値毎に算出する。
最後に、局所復号画像の画素値に対してオフセット値を加算する処理を行うか、あるいは、局所復号画像のヒストグラムを補正することによって局所復号画像の画像品質を改善する。
【０２２５】
オフセット適用手法としては、局所復号画像の画素値の大きさでクラス分類する手法（ＢＯ手法と呼ぶ）や、エッジの方向毎に各画素の周囲の状況（エッジ部か否か等）に応じてクラス分類する手法（ＥＯ手法と呼ぶ）がある。
この実施の形態２では、上記実施の形態１と異なり、ここにヒストグラム補正処理を追加している。これらの手法は、予め画像符号化装置及び画像復号装置で共通に用意されており、例えば、図４０に示すように、オフセット処理を行わない場合もオフセット適用手法の一つとして定義し、これらの手法のうち、どの手法を用いるか示すインデックスを上記ブロック単位に選択する。
【０２２６】
また、図４０に示すオフセット適用手法は、あらかじめいくつかのセットを用意しておき、それを切り替えて用いてもよい。例えば、入力映像がスクリーンコンテンツであるか否かを示すフラグ（ここではＳＣフラグと呼ぶ）をシーケンスごとに付与するヘッダ（シーケンスパラメータセット）に用意し、そのフラグに応じて図５９に示す２つのセットを切り替えるようにすることが考えられる。図５９では、入力映像がスクリーンコンテンツでない場合はＢＯ手法またはＥＯ手法を用いるようにし、入力映像がスクリーンコンテンツの場合はＢＯ手法またはヒストグラム補正処理を用いるようにしている。このようにすることで、オフセット適用手法を表現するのに必要なインデックスのビット数を削減することが可能である。なお、ＳＣフラグは必ずしもシーケンスパラメータセットに置く必要はなく、ピクチャ単位に切り替えるためにピクチャごとに付与するヘッダ（ピクチャパラメータセット）に置いたり、スライス単位に切り替えるためにスライスごとに付与するヘッダ（スライスパラメータセット）に置くことなども考えられる。さらに、ブロック単位に切り替えることも当然考えられる。また、当然ながらＳＣフラグも任意の条件で変更可能なフラグに一般化できる。
【０２２７】
図４１は図４０における複数のオフセット適用手法の中から、使用するオフセット適用手法を選択する手順を示すフローチャートである。
まず、図３８のループフィルタ部１３は、画素適応オフセット処理を適用せずに符号化を実施した場合の符号化コストＣｏｆｆを求める（図４１のステップＳＴ３００）。
符号化コストの算出方法には様々な手法が考えられるが、原画像との誤差をｄ、ヘッダ情報などを送るのに必要となる符号量をｒとすると、ｄ＋λｒという形で表現することが一般的である。ここで、λはビットレートなどに応じて画像符号化装置が決定する係数である。
【０２２８】
次に、図３８のループフィルタ部１３は、図４０に示すＢＯ手法やＥＯ手法のそれぞれについて、ブロック内の各画素をクラス分類し、クラス毎に符号化歪みを補償するオフセット値を算出する。クラス分類手法やオフセット算出手法については公知の技術であるためここでは説明を割愛する。
そして、図３８のループフィルタ部１３は、これらのオフセット値を局所復号画像の画素値に対して加算した場合の符号化コストを求める（図４１のステップＳＴ３０１〜ＳＴ３０５）。
【０２２９】
この実施の形態２では、上記の他に、図３８のループフィルタ部１３が、ヒストグラム補正を実施するためのヒストグラムの各ピーク画素値に対する補正幅ｗｉを算出する。補正幅ｗｉの算出方法は、上記実施の形態１と同様に行うことが考えられる。
図３８のループフィルタ部１３は、各ピーク画素値に対する補正幅ｗｉを用いて局所復号画像のヒストグラム補正を実施した場合の符号化コストを求める（図４１のステップＳＴ３０６）。
図３８のループフィルタ部１３は、図４０における複数のオフセット適用手法の中から、最も小さい符号化コストを示す手法を選択する（図４１のステップＳＴ３０７）。
【０２３０】
上記の比較の結果、画素適応オフセット処理を適用しても符号化効率の改善が見られない場合（Ｃｏｆｆが最小となる場合）、インデックス０をヘッダ情報として可変長符号化部１５に出力して終了する（図４１のステップＳＴ３０８〜ＳＴ３０９）。これは、画素適応オフセット処理を適用しないことを意味する。
一方、符号化コストを最小化する手法として、ＢＯ手法またはＥＯ手法が選択された場合、選択された手法を表すインデックスを図４０に従ってヘッダ情報として可変長符号化部１５に出力し、さらに、各クラスに対するオフセットをヘッダ情報として可変長符号化部１５に出力して終了する（図４１のステップＳＴ３１０〜ＳＴ３１１）。
また、符号化コストを最小化する手法として、ヒストグラム補正が選択された場合、選択された手法を表すインデックスを図４０に従ってヘッダ情報として可変長符号化部１５に出力し、さらに、ヒストグラムの各ピークに対する補正幅をヘッダ情報として可変長符号化部１５に出力して終了する（図４１のステップＳＴ３１２）。
【０２３１】
図４１からも明らかなように、この実施の形態２では、ＢＯ手法またはＥＯ手法を適用するためのオフセットか、あるいは、ヒストグラム補正を適用するための補正幅ｗｉのどちらか一方だけが符号化される。したがって、両者を符号化する必要がある上記実施の形態１よりも符号量を削減することが可能である。
ただし、ＢＯ手法またはＥＯ手法及びヒストグラム補正の両方を適用することが可能である上記実施の形態１に対し、この実施の形態２では、ＢＯ手法またはＥＯ手法か、ヒストグラム補正のどちらか一方だけしか適用できないため、画質改善効果は上記実施の形態１よりも劣る可能性がある。
【０２３２】
ＢＯ手法またはＥＯ手法で分類するクラスの数と、ヒストグラム補正処理を適用するヒストグラムのピークの数（上記実施の形態１における最大ピーク数Ｐｍａｘ）とを同一とすれば、オフセットまたは補正幅を符号化するためのシンタックスを共通にして簡易化することができる。もちろん、クラス数とヒストグラムのピーク数を異なる値とすることも可能である。
したがって、画素適応オフセット処理は、ブロックの分割情報、ブロック単位のオフセット適用手法を示すインデックス、ブロック単位のオフセット情報あるいはヒストグラム補正のため補正幅ｗｉをヘッダ情報として可変長符号化部１５に出力する。
【０２３３】
なお、画素適応オフセット処理において、例えば、最大符号化ブロックといった固定サイズのブロック単位に常に分割して、そのブロック毎にクラス分類手法を選択して、クラス毎の適応オフセット処理を行ってもよい。この場合、上記ブロック分割情報が不要となり、ブロック分割情報に要する符号量分だけ符号量が削減され、符号化効率を高めることができる。
【０２３４】
図４４は、画素適応オフセット処理において、最大符号化ブロックであるＣｏｄｉｎｇ  Ｔｒｅｅ  Ｕｎｉｔ（ＣＴＵ）の単位で常に分割する場合を例として、画素適応オフセット処理におけるパラメータを符号化してビットストリームに挿入する位置を図示したものである。なお、図４４はあくまでも一例であり、必ずしもこのように符号化を行う必要はない。図４４では、スライスヘッダに続く各ＣＴＵのデータの先頭にまずオフセット適用手法を示すインデックス（図４０）を符号化して挿入し、続いてＥＯ手法またはＢＯ手法を用いる場合は各クラスに対するオフセット、ヒストグラム補正処理を行う場合は、画素値ヒストグラムの各ピークに対応する補正幅を符号化して挿入している。なお、画素適応オフセット処理を行わない場合は、インデックス以降には何も符号化しない。
【０２３５】
また、図４５は、可変長符号化部１５においてどのように画素適応オフセット処理パラメータを符号化してビットストリームに加えるかを示したフローチャートである。可変長符号化部１５は、まず、図４０に示す各オフセット適用手法に対応するインデックスを符号化する（図４５のステップＳＴ４００）。そして、オフセットを適用しない場合（図４５のステップＳＴ４０１）はそのまま終了し、ＥＯ手法またはＢＯ手法を用いる場合は各クラスに対するオフセットを全て符号化する（図４５のステップＳＴ４０２，ＳＴ４０３）。一方、ヒストグラム補正処理を行う場合は、画素値ヒストグラムの各ピークに対応する補正幅を全て符号化する（図４５のステップＳＴ４０４）。なお、図４５では、ＥＯ手法またはＢＯ手法におけるクラスの数およびヒストグラム補正において補正対象とする画素値ヒストグラムのピークの数をいずれも４としている。
【０２３６】
また、適応フィルタ処理では、局所復号画像を所定の手法でクラス分類し、各クラスに属する領域（局所復号画像）毎に、重畳されている歪みを補償するフィルタを設計し、そのフィルタを用いて、当該局所復号画像のフィルタ処理を実施する。そして、クラス毎に設計したフィルタをヘッダ情報として可変長符号化部１５に出力する。
【０２３７】
ここで、クラス分類手法としては、画像を空間的に等間隔に区切る簡易な手法や、ブロック単位に画像の局所的な特性（分散など）に応じて分類する手法がある。また、適応フィルタ処理で使用するクラス数は、予め画像符号化装置及び画像復号装置で共通の値に設定してもよいし、符号化すべきパラメータの一つとしてもよい。前者と比較して後者の方が、使用するクラス数を自由に設定することができるため、画像品質改善効果が上がるが、一方でクラス数を符号化するために、その分の符号量が増加する。
【０２３８】
次に、この実施の形態２による画像復号装置において、上記実施の形態１による画像復号装置と構成が異なるループフィルタ部３９についての動作を説明する。なお、その他の動作は、上記実施の形態１と同様である。
図２０に示す画像復号装置の動作を表すフローチャートにおいて、図３９のループフィルタ部３９は、全ての符号化ブロックＢｎに対するステップＳＴ２３〜ＳＴ３０の処理が完了した後（図２０のステップＳＴ３１）、加算部３７から出力された復号画像に対して、所定のフィルタ処理を実施して、フィルタ処理後の復号画像を動き補償予測フレームメモリ４０に格納する（図２０のステップＳＴ３２）。
【０２３９】
具体的には、変換ブロックの境界や予測ブロックの境界に発生する歪みを低減するフィルタ（デブロッキングフィルタ）処理、画素単位に適応的にオフセットを加算する（画素適応オフセット）処理、ウィーナフィルタ等の線形フィルタを適応的に切り替えてフィルタ処理する適応フィルタ処理などを行う。
これらのループフィルタは、復号画像の画質を向上させることを目的として適用されるが、図４２に示したようなスクリーンコンテンツの特殊なヒストグラム形状を考慮しておらず、十分な画質改善効果が得られない。
そこで、上記実施の形態１では、新たなループフィルタを追加する形でヒストグラム補正処理を実施しているが、この実施の形態２では、既存のループフィルタの一部としてヒストグラム補正処理を実施する。
【０２４０】
ただし、図３９のループフィルタ部３９は、上記のデブロッキングフィルタ処理、画素適応オフセット処理、適応フィルタ処理のそれぞれについて、可変長復号部３１により可変長復号された各ヘッダ情報を参照して、当該スライスで処理を行うか否かを特定する。このとき、２つ以上のフィルタ処理を行う場合に、例えば、画像符号化装置のループフィルタ部１３が図３８のように構成されている場合には、図３９に示すようにループフィルタ部３９が成される。
ここで、デブロッキングフィルタ処理では、可変長復号部３１により可変長復号されたヘッダ情報を参照し、ブロック境界にかけるフィルタ強度の選択に用いる各種パラメータを初期値から変更する情報が存在する場合には、その変更情報に基づいて、デブロッキングフィルタ処理を実施する。変更情報がない場合は、予め定められた手法に従って行う。
【０２４１】
画素適応オフセット処理では、可変長復号部３１により可変長復号された画素適応オフセット処理のブロック分割情報に基づいて復号画像を分割し、そのブロック単位に、可変長復号部３１により可変長復号されたブロック単位のクラス分類手法を示すインデックスを参照して、そのインデックスが“オフセット処理を行わない”ことを示すインデックスではなく、かつ“ヒストグラム補正処理を行う”ことを示すインデックスではない場合、そのインデックスに応じてブロック単位にブロック内の各画素を上記インデックスが示すクラス分類手法に従ってクラス分類する。
クラス分類手法の候補として、図３８のループフィルタ部１３の画素適応オフセット処理のクラス分類手法の候補と同一のものが予め用意されている。そして、ブロック単位の各クラスのオフセット値を特定するオフセット情報を参照して、復号画像の画素値にオフセットを加算する処理を行う。
【０２４２】
一方、可変長復号部３１により可変長復号されたブロック単位のクラス分類手法を示すインデックスが“オフセット処理を行わない”ことを示すインデックスではなく、かつ“ヒストグラム補正処理を行う”ことを示すインデックスである場合、当該ブロックに対してヒストグラム補正処理を実行する。
【０２４３】
図４６は、可変長復号部３１による画素値適応オフセット処理パラメータの復号手順を示すフローチャートである。
【０２４４】
この実施の形態２による画像復号装置におけるヒストグラム補正処理の処理内容は、上記実施の形態１による画像復号装置におけるヒストグラム補正処理と同様である。
【０２４５】
即ち、ヒストグラム算出部４１が、加算部３７により算出された復号画像を複数のブロックに分割し、その復号画像のブロック毎に画素値のヒストグラムを算出する（図３７のステップＳＴ２００〜ＳＴ２０１）。また、ヒストグラムの値が最大となる画素値を選択し、その画素値をピーク画素値ｐとする（図３７のステップＳＴ２０２）。
なお、ヒストグラムのステップ幅は、必ずしも１とする必要はないが、ループフィルタ部３９の出力画像を図３８のループフィルタ部１３の出力画像と一致させる必要があるため、ここではループフィルタ部１３と同じステップ幅を用いる。また、ヒストグラムのステップ幅を１以上とした場合は、ｐはステップ幅の中央値などに設定することが考えられるが、これも上記と同様の理由によりループフィルタ部１３と一致させる必要がある。
【０２４６】
画素値補正部４２は、可変長復号部３１により可変長復号されたｉ番目のピークに対する補正幅ｗｉ内の画素値（（ピーク画素値ｐ−補正幅ｗｉ）〜（ピーク画素値ｐ＋補正幅ｗｉ）の画素値）をピーク画素値ｐに置換する（図３７のステップＳＴ２０３〜ＳＴ２０６）。
2015177294.tif 000012
ここで、（ｘ，ｙ）はブロック単位の復号画像における画素の座標を表し、Ｄ（ｘ，ｙ）は置換前の画素値、Ｄ’（ｘ，ｙ）は置換後の画素値を表している。
【０２４７】
ブロック内の全部または一部の画素に対して上記の補正を実施する。なお、上式において、ｐ−ｗｉが画素値の下限を下回った場合はこれを画素値の下限に置き換え、ｐ＋ｗｉが画素値の上限を上回った場合はこれを画素値の上限に置き換えてもよい。
ここでは、補正幅ｗｉをピーク画素値ｐよりも大きい側と小さい側で同一としているが、必ずしも両者を一致させる必要はなく、それぞれに対して異なる補正幅ｗｉを使用してもよい。ただし、ループフィルタ部３９の出力画像を図３８のループフィルタ部１３の出力画像と一致させる必要があるため、ループフィルタ部１３と同様の方式を用いなければならない。
【０２４８】
次に、画素値補正部４２は、ピーク画素値を示すインデックスｉに１を加え、ＳＴ２０２でヒストグラム算出部４１により算出されたヒストグラムから、画素値がｐとなる画素に相当する部分を削除する（図３７のステップＳＴ２０７〜ＳＴ２０８）。
画素値補正部４２は、インデックスｉと予め設定された最大ピーク数Ｐｍａｘを比較し（図３７のステップＳＴ２０９１）、インデックスｉが最大ピーク数Ｐｍａｘより小さければ（ｉ＜Ｐｍａｘ）、ピーク画素値の再選択をヒストグラム算出部４１に指示して、ステップＳＴ２０２の処理に戻る。
一方、インデックスｉが最大ピーク数Ｐｍａｘに到達していれば（ｉ≧Ｐｍａｘ）、ヒストグラム補正処理を終了する。
【０２４９】
ただし、図３８のループフィルタ部１３の画素適応オフセット処理において、ブロック分割情報は符号化せずに、常に画像を固定サイズのブロック単位（例えば、最大符号化ブロック単位）に分割し、そのブロック毎にクラス分類手法を選択して、クラス毎の適応オフセット処理を行うように構成されている場合、ループフィルタ部３９においても、ループフィルタ部１３と同一の固定サイズのブロック単位に画素適応オフセット処理を実施する。
適応フィルタ処理では、可変長復号部３１により可変長復号されたクラス毎のフィルタを用いて、図１の画像符号化装置と同一の手法でクラス分類した後に、そのクラス分類情報に基づいてフィルタ処理を行う。
このループフィルタ部３９によるフィルタ処理後の復号画像が、動き補償予測用の参照画像となり、また、再生画像となる。
【０２５０】
この実施の形態２では、上記実施の形態１と同様に、画像符号化装置のループフィルタ部１３が、局所復号画像のブロック毎にヒストグラムの各ピーク画素値に対する最適な補正幅ｗｉを求め、ヒストグラムを補正することで局所復号画像からノイズを取り除くよう構成したので、図４２に示すようにヒストグラムの各ピークが鋭く、疎であるようなスクリーンコンテンツに対して局所復号画像の大幅な画質改善を実現することができる効果を奏する。ただし、本効果はスクリーンコンテンツに限定されるものではなく、同様のヒストグラム特徴を持つ映像信号であれば当然ながら同様の効果が得られる。
【０２５１】
さらに、この実施の形態２では、上記のヒストグラム補正を既存のループフィルタ（例えば、画素適応オフセット）の一部として実行するようにし、画像符号化装置で一つの手法を選択して適用する（例えば、図４０に示す手法の中から、いずれか一つだけを選択して適用する）ように構成したので、ループフィルタに関して符号化するヘッダ情報を上記実施の形態１よりも少なくすることができ、符号量を削減することができる効果を奏する。
【０２５２】
また、この実施の形態２では、上記実施の形態１と同様に、画像符号化装置の可変長符号化部１５が、上記のヒストグラム補正に必要な各ピークの補正幅ｗｉを符号化して出力し、画像復号装置は、各ピークの補正幅ｗｉを可変長復号し、ループフィルタ部３９において復号画像のヒストグラム補正を行って復号画像からノイズを取り除くよう構成したので、図４２に示すようにヒストグラムの各ピークが鋭く、疎であるようなスクリーンコンテンツに対して復号画像の大幅な画質改善を実現することができる効果を奏する。ただし、本効果はスクリーンコンテンツに限定されるものではなく、同様のヒストグラム特徴を持つ映像信号であれば当然ながら同様の効果が得られる。
【０２５３】
また、この実施の形態２によれば、上記効果を持つ画像符号化装置及び画像符号化方法が生成する符号化ビットストリームを正しく復号することができる画像復号装置及び画像復号方法が得られる効果を奏する。
【０２５４】
実施の形態３．
上記実施の形態１では、画像符号化装置において常にそれぞれのブロックに対して新たにヒストグラム補正処理のパラメータ（画素値ヒストグラムの各ピークに対する補正幅など）を算出して符号化していたのに対し、この実施の形態３では、過去に計算した他ブロックのパラメータを流用できるように構成することで、符号化する情報量を削減できる場合を説明する。
【０２５５】
実施の形態３による画像符号化装置は、基本的に図１に示す実施の形態１の画像符号化装置と同様の構成および動作である。ただし、図１２に示すループフィルタ部１３および可変長符号化部１５のヒストグラム補正処理に関する動作のみが異なる。以降ではまず、ループフィルタ部１３のヒストグラム補正処理に関する動作について説明する。
【０２５６】
図４７Ａ及び図４７Ｂは、実施の形態３におけるループフィルタ部１３の動作を示すフローチャートであり、これに基づいてループフィルタ部１３の動作を説明する。まず、ループフィルタ部１３は、ヒストグラム補正処理を行わない場合の符号化コストＣＯＦＦを求め（図４７ＡのステップＳＴ６００）、続いて実施の形態１と同様の手順（図２４）で画素値ヒストグラムの各ピークに対する最適な補正幅を求め、このパラメータを符号化する場合の符号化コストＣＮＥＷを求める（図４７ＡのステップＳＴ６０１）。
【０２５７】
ここで、ヒストグラム補正処理により図４８のようなブロック分割が行われ、右下のブロックがヒストグラム補正処理中のブロックであるとする。また、このとき、その周囲のブロック１、２、３はすでにヒストグラム補正処理が完了しているものとする。この実施の形態３では、ヒストグラム補正中のブロックにて新たに計算したパラメータを用いてもよいし、すでに処理が完了しているブロック１、２、３のいずれかのパラメータを流用してもよい。なお、図４８はあくまでも参照可能なブロックの例を示しているに過ぎず、他にも、処理中ブロックの真上と左だけを参照するなどのさまざまなバリエーションが考えられる。
【０２５８】
パラメータの流用方法を図４９に示す。例えば、図４８に示すヒストグラム補正処理済みブロック１において、図４９上段のようにヒストグラム補正処理が施されたものとする。図４９上段において、ｐ０、ｐ１、ｐ２、ｐ３は補正処理を施したピークの位置を表しており、ヒストグラムの値はｐ０＞ｐ１＞ｐ２＞ｐ３である。また、各ピークに対する補正幅をｗ０、ｗ１、ｗ２、ｗ３とする。このとき、ヒストグラム補正中ブロックでは、図４９下段に示すように画素値のヒストグラムを求め、さらにヒストグラム補正処理済みブロック１を参照して補正幅ｗ０をヒストグラムの値が最大となるピークｐ０’に適用して当該ピークの補正を行う。続いて、ヒストグラムの値がｐ０’の次に大きいｐ１’に対してｗ１の補正幅で補正を実施する。以降これを繰り返し、ヒストグラム補正処理済みブロック１のパラメータを流用してｐ０’、ｐ１’、ｐ２’、ｐ３’の補正を行う。
【０２５９】
また、異なるパラメータの流用方法として、図５０に示すように常に同じピーク位置に対して補正を実施することも考えられる。図４９では、ヒストグラム補正処理済みブロックの補正幅ｗ０、ｗ１、ｗ２、ｗ３だけを参照し、ピーク位置ｐ０’、ｐ１’、ｐ２’、ｐ３’については補正中ブロックにおいて新たに計算していた。これに対し、図５０に示す流用方法では、補正幅に加えてピーク位置ｐ０、ｐ１、ｐ２、ｐ３についても補正処理済みブロックを参照し、補正中ブロックのヒストグラム形状によらず、常にｐ０、ｐ１、ｐ２、ｐ３に対して幅ｗ０、ｗ１、ｗ２、ｗ３の補正を施すようにする。
【０２６０】
図４９に示すパラメータ流用方法の利点として、保持するパラメータの量を最小限に抑えられることが挙げられる。パラメータを流用するために保持する必要があるのは各ブロックにおける補正幅ｗ０、ｗ１、ｗ２、ｗ３のみである。しかし、補正中ブロックにおいてピーク位置を求めるために画素値のヒストグラムを計算しなければならない。これに対し、図５０に示すパラメータ流用方法では、補正幅に加えてピーク位置も流用しているため、補正中ブロックにおいてヒストグラムを計算する必要がない。しかし、補正幅のみでなくピーク位置も保持しておく必要があるため、パラメータ保持のためのメモリサイズは図４９に示す手法に比べて大きくなる。
【０２６１】
いま、図４８に示すとおり参照可能なブロックを左上、真上、左とすると、これらのブロックにおけるヒストグラム補正処理パラメータを流用するか、新規に計算したパラメータを用いるか、あるいはヒストグラム補正処理を行わないかを図５１に示すインデックスで表現することができる。つまり、ヒストグラム補正処理を行わない場合はインデックス０を符号化し、新規に計算したパラメータを用いる場合はインデックス１を符号化した後にそれに続いて計算したヒストグラム補正処理パラメータを符号化する。一方、周囲のブロックのパラメータを流用する場合は、そのブロック位置を表すインデックスだけを符号化すればよく、別途パラメータを符号化する必要がない。そのため、新規にパラメータを符号化する場合に比べて、符号量を削減することが可能である。なお、図５１はあくまでもインデックスの一例であり、図５１と異なるインデックスを用いることも考えられる。
【０２６２】
このように周囲のブロックのパラメータを流用する場合は、インデックスだけを符号化すればよいことを考慮して、左上、真上、左のブロックのヒストグラム補正処理パラメータを流用した場合の符号化コストＣＴＬ、ＣＴ、ＣＬをそれぞれ計算する（図４７ＡのステップＳＴ６０２からＳＴ６０４）。
【０２６３】
そして、各符号化コストを比較し、ＣＯＦＦが最も小さい場合は図５１に基づいてインデックス０を可変長符号化部１５に出力して終了する（図４７ＢのステップＳＴ６０５，ＳＴ６０６）。一方、ＣＮＥＷが最も小さい場合は新規にパラメータを符号化することを意味するインデックス１を可変長符号化部１５に出力し（図４７ＢのステップＳＴ６０７、ＳＴ６０８）、それに続いてヒストグラム補正処理パラメータを可変長符号化部１５に出力して終了する（図４７ＢのステップＳＴ６０９）。
【０２６４】
また、ＣＴＬ、ＣＴ、ＣＬのいずれかが最小コストとなる場合は、対応するブロックの位置を表すインデックスだけを可変長符号化部１５に出力して終了する（図４７ＢのステップＳＴ６１０〜ＳＴ６１４）。
【０２６５】
図５２は、可変長符号化部１５の動作を表すフローチャートである。図５２を用いてこの実施の形態３に関わるヒストグラム補正処理における可変長符号化部１５の動作を説明する。可変長符号化部１５は、ループフィルタ部１３からヒストグラム補正処理について図５１に示すパラメータ符号化方法を表すインデックスを受け取り、まずこれを符号化する（図５２のステップＳＴ７００）。
【０２６６】
続いて、新規にパラメータを符号化する（図５１においてインデックスが１）場合（ステップＳＴ７０１）、インデックスの後にループフィルタ部１３から受け取ったヒストグラム補正処理のためのパラメータ（各ピークに対する補正幅）を符号化して終了する（図５２のステップＳＴ７０２）。一方、新規にパラメータを符号化しない（図５１においてインデックスが１以外）場合、インデックスのみを符号化して終了する。
【０２６７】
この実施の形態３による画像復号装置は、基本的に図１７に示す実施の形態１の画像復号装置と同様の構成および動作である。ただし、図１８に示すループフィルタ部３９および可変長復号部３１のヒストグラム補正処理に関する動作のみが異なる。以降ではまず、可変長復号部３１のヒストグラム補正処理に関する動作について説明する。
【０２６８】
図５３は、ヒストグラム補正処理に関する可変長復号部３１の動作を示すフローチャートである。可変長復号部３１は、まず、ビットストリームから当該ブロックのヒストグラム補正処理について、パラメータの符号化方法を示すインデックスを復号する（図５２のステップＳＴ８００）。復号したインデックスが、新規にパラメータを符号化していることを意味する値である場合（図５１のインデックス１）、さらにヒストグラム補正処理パラメータを復号する（図５２のステップＳＴ８０１，ＳＴ８０２）。
【０２６９】
この実施の形態３による画像復号装置におけるヒストグラム補正処理の処理内容は、上記実施の形態１による画像復号装置におけるヒストグラム補正処理と基本的に同様であるが、他ブロックのパラメータを流用する場合の動作が異なる。
【０２７０】
即ち、可変長復号部３１を参照して得られる図５１のインデックスが０または１である場合、その動作は実施の形態１による画像復号装置におけるヒストグラム補正処理と同様である。一方、インデックスが２、３、４のいずれかである場合は、図４８に示すヒストグラム補正処理済みのブロックのうちインデックスに対応するブロックを参照し、ヒストグラム補正処理に係るパラメータを流用する。
【０２７１】
パラメータの流用方法を図４９に示す。例えば、図４８に示すヒストグラム補正処理済みブロック１において、図４９上段のようにヒストグラム補正処理が施されたものとする。図４９上段において、ｐ０、ｐ１、ｐ２、ｐ３は補正処理を施したピークの位置を表しており、ヒストグラムの値はｐ０＞ｐ１＞ｐ２＞ｐ３である。また、各ピークに対する補正幅をｗ０、ｗ１、ｗ２、ｗ３とする。このとき、ヒストグラム補正中ブロックでは、図４９下段に示すように画素値のヒストグラムを求め、さらにヒストグラム補正処理済みブロック１を参照して補正幅ｗ０をヒストグラムの値が最大となるピークｐ０’に適用して当該ピークの補正を行う。続いて、ヒストグラムの値がｐ０’の次に大きいｐ１’に対してｗ１の補正幅で補正を実施する。以降これを繰り返し、ヒストグラム補正処理済みブロック１のパラメータを流用してｐ０’、ｐ１’、ｐ２’、ｐ３’の補正を行う。
【０２７２】
また、異なるパラメータの流用方法として、図５０に示すように常に同じピーク位置に対して補正を実施することも考えられる。図４９では、ヒストグラム補正処理済みブロックの補正幅ｗ０、ｗ１、ｗ２、ｗ３だけを参照し、ピーク位置ｐ０’、ｐ１’、ｐ２’、ｐ３’については補正中ブロックにおいて新たに計算していた。これに対し、図５０に示す流用方法では、補正幅に加えてピーク位置ｐ０、ｐ１、ｐ２、ｐ３についても補正処理済みブロックを参照し、補正中ブロックのヒストグラム形状によらず、常にｐ０、ｐ１、ｐ２、ｐ３に対して幅ｗ０、ｗ１、ｗ２、ｗ３の補正を施すようにする。
【０２７３】
図４９に示すパラメータ流用方法の利点として、保持するパラメータの量を最小限に抑えられることが挙げられる。パラメータを流用するために保持する必要があるのは各ブロックにおける補正幅ｗ０、ｗ１、ｗ２、ｗ３のみである。しかし、補正中ブロックにおいてピーク位置を求めるために画素値のヒストグラムを計算しなければならない。これに対し、図５０に示すパラメータ流用方法では、補正幅に加えてピーク位置も流用しているため、補正中ブロックにおいてヒストグラムを計算する必要がない。しかし、補正幅のみでなくピーク位置も保持しておく必要があるため、パラメータ保持のためのメモリサイズは図４９に示す手法に比べて大きくなる。
【０２７４】
なお、ループフィルタ部３９の出力画像を図３８のループフィルタ部１３の出力画像と一致させる必要があるため、パラメータの流用方式はループフィルタ部１３と同様のものを用いなければならない。
【０２７５】
このループフィルタ部３９によるフィルタ処理後の復号画像が、動き補償予測用の参照画像となり、また、再生画像となる。
【０２７６】
この実施の形態３では、上記実施の形態１と同様に、画像符号化装置のループフィルタ部１３が、局所復号画像のブロック毎にヒストグラムの各ピーク画素値に対する最適な補正幅ｗｉを求め、ヒストグラムを補正することで局所復号画像からノイズを取り除くよう構成したので、図４２に示すようにヒストグラムの各ピークが鋭く、疎であるようなスクリーンコンテンツに対して局所復号画像の大幅な画質改善を実現することができる効果を奏する。ただし、本効果はスクリーンコンテンツに限定されるものではなく、同様のヒストグラム特徴を持つ映像信号であれば当然ながら同様の効果が得られる。
【０２７７】
さらに、この実施の形態３では、上記のヒストグラム補正に係るパラメータを既にヒストグラム補正処理済みのブロックから参照できるように構成したので、常に上記のパラメータを符号化する場合に比べて符号化するヘッダ情報を上記実施の形態１よりも少なくすることができ、符号量を削減することができる効果を奏する。
【０２７８】
また、この実施の形態３では、上記実施の形態１と同様に、画像符号化装置の可変長符号化部１５が、上記のヒストグラム補正に必要な各ピークの補正幅ｗｉまたは参照するブロックのインデックスを符号化して出力し、画像復号装置は、各ピークの補正幅ｗｉあるいは参照するブロックのインデックスを可変長復号し、ループフィルタ部３９において復号画像のヒストグラム補正を行って復号画像からノイズを取り除くよう構成したので、図４２に示すようにヒストグラムの各ピークが鋭く、疎であるようなスクリーンコンテンツに対して復号画像の大幅な画質改善を実現することができる効果を奏する。ただし、本効果はスクリーンコンテンツに限定されるものではなく、同様のヒストグラム特徴を持つ映像信号であれば当然ながら同様の効果が得られる。
【０２７９】
また、この実施の形態３によれば、上記効果を持つ画像符号化装置及び画像符号化方法が生成する符号化ビットストリームを正しく復号することができる画像復号装置及び画像復号方法が得られる効果を奏する。
【０２８０】
また、この実施の形態３は、上記実施の形態２とも容易に組み合わせることができる。例えば、図４０に示すインデックス表を図５４に示すように２種類のインデックスを用いたものに置き換えることが考えられる。
【０２８１】
図５５は、この実施の形態３を上記実施の形態２と組み合わせた場合の可変長符号化部１５のオフセット処理に係る動作を図示したものである。まず、可変長符号化部１５は、図５４に示すインデックス１を符号化する（図５５のステップＳＴ９００）。即ち、当該ブロックにおいてオフセット処理（ヒストグラム補正処理を含む）を実施しない場合は０、新たに符号化したパラメータを用いてオフセット処理を実施する場合は１、処理済みブロックのパラメータを流用してオフセット処理を実施する場合は２を符号化する。
【０２８２】
続いて、当該ブロックにおいてオフセット処理を実施しない場合は終了し（図５５のステップＳＴ９０１）、実施する場合はインデックス２を符号化する（図５５のステップＳＴ９０２）。即ち、新規にパラメータを符号化する場合（インデックス１が１）はオフセット適用手法を表す値を符号化し、処理済みブロックのパラメータを流用する場合はブロック位置を表す値を符号化する。
【０２８３】
続いて、処理済みブロックのパラメータを流用する場合は終了し、新規にパラメータを符号化する場合はそのパラメータを符号化する（図５５のステップＳＴ９０３，ＳＴ９０４）。
【０２８４】
また、図５６は、実施の形態３を実施の形態２と組み合わせた場合の可変長復号部３１のオフセット処理に係る動作を図示したものである。まず、可変長復号部３１は、図５４に示すインデックス１を復号する（図５６のステップＳＴ１０００）。
【０２８５】
続いて、復号したインデックス１を参照し、当該ブロックにおいてオフセット処理を実施しない場合は終了し（図５６のステップＳＴ１００１）、実施する場合はインデックス２を復号する（図５６のステップＳＴ１００２）。
【０２８６】
続いて、復号したインデックス２を参照し、処理済みブロックのパラメータを流用する場合は終了し、新規にパラメータが符号化されている場合はそのパラメータを復号する（図５６のステップＳＴ１００３，ＳＴ１００４）。
【０２８７】
実施の形態４．
上記実施の形態１では、画像符号化装置において画素値ヒストグラムの各ピークに対して最適な補正幅を求め、それらを可変長符号化してビットストリームに加えていたが、この実施の形態４では、補正幅ではなくノイズ除去を実施するピークの個数を符号化するよう構成することで、符号化する情報量を削減できる場合を説明する。
【０２８８】
この実施の形態４による画像符号化装置は、基本的に図１に示す実施の形態１の画像符号化装置と同様の構成および動作である。ただし、ヒストグラム補正処理に必要なパラメータとして、ヒストグラムの各ピークの補正幅ではなく、ノイズ除去を実施するピークの個数を符号化している。
【０２８９】
図１におけるループフィルタ部１３は、図５７に示すように画素値ヒストグラムの各ピークに対する補正幅を全てｗとし、補正を実施するピークの個数ＮＰを決定する。図５７はＮＰ＝４の例を示している。ｐ０、ｐ１、ｐ２、ｐ３、ｐ４、ｐ５は各ピークの高さを表し、ｐ０＞ｐ１＞ｐ２＞ｐ３＞ｐ４＞ｐ５である。即ち、値の大きなピークから順に幅ｗの補正を実施する。
【０２９０】
このとき、ループフィルタ部１３は、上記実施の形態１でピークごとの補正幅の最適値を求めた場合と同様にして、ＮＰを変化させながら画質改善効果や符号化効率が最も高くなるようなＮＰを求める。なお、補正幅ｗは例えば１５などの定数をあらかじめ設定しておいてもよいし、ヒストグラム補正処理を実施するブロックごとに最適な値を求めてもよい。
【０２９１】
そして、求めたピークの個数の最適値ＮＰを可変長符号化部１５に出力して符号化する。なお、補正幅ｗをブロックごとに変化させる場合は補正幅ｗも併せて符号化する。
【０２９２】
この実施の形態４による画像復号装置は、基本的に図１７に示す実施の形態１の画像復号装置と同様の構成および動作である。ただし、可変長復号部３１は、ヒストグラム補正処理に必要なパラメータとしてノイズ除去を実施するピークの個数ＮＰを復号し、ループフィルタ部３９はこれを参照してヒストグラム補正処理を実施する。また、補正幅ｗが符号化されている場合は、これも併せて可変長復号部３１で復号し、ループフィルタ部３９で参照してヒストグラム補正処理を実施する。
【０２９３】
このループフィルタ部３９によるフィルタ処理後の復号画像が、動き補償予測用の参照画像となり、また、再生画像となる。
【０２９４】
この実施の形態４では、画像符号化装置のループフィルタ部１３が、局所復号画像のブロック毎にノイズ除去を実施する最適なヒストグラムのピークの個数ＮＰ（あるいはこれに加えて補正幅ｗ）を求め、ヒストグラムを補正することで局所復号画像からノイズを取り除くよう構成したので、図４２に示すようにヒストグラムの各ピークが鋭く、疎であるようなスクリーンコンテンツに対して局所復号画像の大幅な画質改善を実現することができる効果を奏する。ただし、本効果はスクリーンコンテンツに限定されるものではなく、同様のヒストグラム特徴を持つ映像信号であれば当然ながら同様の効果が得られる。
【０２９５】
この実施の形態４では、ピークの個数ＮＰの一種類、あるいは個数ＮＰと幅ｗの二種類だけをヒストグラム補正処理に必要なパラメータとして符号化するため、上記実施の形態１に比べて符号化するパラメータの個数が減り、符号化するヘッダ情報を少なくすることができ、符号量を削減することができる効果を奏する。
【０２９６】
また、この実施の形態４では、画像符号化装置の可変長符号化部１５が、上記のヒストグラム補正に必要なピークの個数ＮＰ（あるいはこれに加えて補正幅ｗ）を符号化して出力し、画像復号装置は、ピークの個数ＮＰ（あるいはこれに加えて補正幅ｗ）を可変長復号し、ループフィルタ部３９において復号画像のヒストグラム補正を行って復号画像からノイズを取り除くよう構成したので、図４２に示すようにヒストグラムの各ピークが鋭く、疎であるようなスクリーンコンテンツに対して復号画像の大幅な画質改善を実現することができる効果を奏する。ただし、本効果はスクリーンコンテンツに限定されるものではなく、同様のヒストグラム特徴を持つ映像信号であれば当然ながら同様の効果が得られる。
【０２９７】
また、この実施の形態４によれば、上記効果を持つ画像符号化装置及び画像符号化方法が生成する符号化ビットストリームを正しく復号することができる画像復号装置及び画像復号方法が得られる効果を奏する。
【０２９８】
また、この実施の形態４は、他の実施の形態とも容易に組み合わせることができる。例えば、上記実施の形態１〜３のようにヒストグラムの各ピークに対して最適な補正幅を求めて符号化するのに加え、補正を実施するピークの本数も符号化する（ＮＰとｗｉ（ｉ＝０〜ＮＰ−１）の全てを符号化する）ことで、より画質改善効果を高めることができる。ただし、符号化するヘッダ情報が増えることで符号量が増加することに注意が必要である。
【０２９９】
なお、上記の他の実施の形態との組み合わせ方は、映像単位、あるいはピクチャやスライス、ブロック単位で適応的に変更してもよい。このようにすることで、画質改善効果や符号化効率がより向上する。このとき、組み合わせ方を示すフラグなどを変更単位に応じてヘッダ（シーケンスパラメータセットやピクチャパラメータセット、スライスパラメータセットなど）に追加し、画像符号化装置にて符号化してもよい。
【０３００】
実施の形態５．
上記実施の形態１では、画像符号化装置において画素値ヒストグラムの各ピークに対して最適な補正幅を求め、それらを可変長符号化してビットストリームに加えていたが、この実施の形態５では、補正幅ではなくノイズ除去を実施するピークの位置を符号化するよう構成することで、復号処理における演算量を削減できる場合を説明する。
【０３０１】
この実施の形態５による画像符号化装置は、基本的に図１に示す実施の形態１の画像符号化装置と同様の構成および動作である。ただし、ヒストグラム補正処理に必要なパラメータとして、ヒストグラムの各ピークの補正幅ではなく、ノイズ除去を実施するピークの位置を用いる。
【０３０２】
図１におけるループフィルタ部１３は、図５８に示すように画素値ヒストグラムの各ピークに対する補正幅を全てｗとし、補正を実施するピークの位置ｖ０、ｖ１、ｖ２、ｖ３を決定する。図５７では、補正するピークの個数を４としている。
【０３０３】
このとき、ループフィルタ部１３は、上記実施の形態１でピークごとの補正幅の最適値を求めた場合と同様にして、補正値ｖｉ（図５７の例ではｉ＝０、１、２、３）を変化させながら画質改善効果や符号化効率が最も高くなるようなｖｉを求める。なお、補正幅ｗは例えば１５などの定数をあらかじめ設定しておいてもよいし、ヒストグラム補正処理を実施するブロックごとに最適な値を求めてもよい。
【０３０４】
そして、求めたピークの位置の最適値ｖｉを可変長符号化部１５に出力して符号化する。なお、補正幅ｗをブロックごとに変化させる場合は補正幅ｗも併せて符号化する。
【０３０５】
この実施の形態５による画像復号装置は、基本的に図１７に示す実施の形態１の画像復号装置と同様の構成および動作である。ただし、可変長復号部３１は、ヒストグラム補正処理に必要なパラメータとしてノイズ除去を実施するピークの位置ｖｉを復号し、ループフィルタ部３９はこれを参照してヒストグラム補正処理を実施する。また、補正幅ｗが符号化されている場合は、これも併せて可変長復号部３１で復号し、ループフィルタ部３９で参照してヒストグラム補正処理を実施する。
【０３０６】
なお、補正するピークの位置ｖｉがループフィルタ部３９で既知となるため、実際にはループフィルタ部３９でヒストグラムを求める必要はない。即ち、この実施の形態５では、実施の形態１に比べてループフィルタ部３９における演算量を削減することが可能である。
【０３０７】
このループフィルタ部３９によるフィルタ処理後の復号画像が、動き補償予測用の参照画像となり、また、再生画像となる。
【０３０８】
この実施の形態５では、画像符号化装置のループフィルタ部１３が、局所復号画像のブロック毎にノイズ除去を実施する最適なヒストグラムのピークの位置ｖｉ（あるいはこれに加えて補正幅ｗ）を求め、ヒストグラムを補正することで局所復号画像からノイズを取り除くよう構成したので、図４２に示すようにヒストグラムの各ピークが鋭く、疎であるようなスクリーンコンテンツに対して局所復号画像の大幅な画質改善を実現することができる効果を奏する。ただし、本効果はスクリーンコンテンツに限定されるものではなく、同様のヒストグラム特徴を持つ映像信号であれば当然ながら同様の効果が得られる。
【０３０９】
この実施の形態５では、ピークの位置ｖｉ（あるいはこれに加えて補正幅ｗ）をヒストグラム補正処理に必要なパラメータとして符号化するため、復号時にループフィルタ部３９にてヒストグラム計算をする必要がなくなり、上記実施の形態１に比べて復号処理のための演算量を削減することができる効果を奏する。
【０３１０】
また、この実施の形態５では、画像符号化装置の可変長符号化部１５が、上記のヒストグラム補正に必要なピークの位置ｖｉ（あるいはこれに加えて補正幅ｗ）を符号化して出力し、画像復号装置は、ピークの位置ｖｉ（あるいはこれに加えて補正幅ｗ）を可変長復号し、ループフィルタ部３９において復号画像のヒストグラム補正を行って復号画像からノイズを取り除くよう構成したので、図４２に示すようにヒストグラムの各ピークが鋭く、疎であるようなスクリーンコンテンツに対して復号画像の大幅な画質改善を実現することができる効果を奏する。ただし、本効果はスクリーンコンテンツに限定されるものではなく、同様のヒストグラム特徴を持つ映像信号であれば当然ながら同様の効果が得られる。
【０３１１】
また、この実施の形態５によれば、上記効果を持つ画像符号化装置及び画像符号化方法が生成する符号化ビットストリームを正しく復号することができる画像復号装置及び画像復号方法が得られる効果を奏する。
【０３１２】
また、この実施の形態５は、他の実施の形態とも容易に組み合わせることができる。例えば、上記実施の形態１から３のようにヒストグラムの各ピークに対して最適な補正幅を求めて符号化するのに加え、上記実施の形態４のように補正を実施するピークの本数も符号化する（ＮＰ、ｖｉ、ｗｉ（ｉ＝０〜ＮＰ−１）の全てを符号化する）ことで、より画質改善効果を高めることができる。ただし、符号化するヘッダ情報が増えることで符号量が増加することに注意が必要である。
【０３１３】
なお、上記の他の実施の形態との組み合わせ方は、映像単位、あるいはピクチャやスライス、ブロック単位で適応的に変更してもよい。このようにすることで、画質改善効果や符号化効率がより向上する。このとき、組み合わせ方を示すフラグなどを変更単位に応じてヘッダ（シーケンスパラメータセットやピクチャパラメータセット、スライスパラメータセットなど）に追加し、画像符号化装置にて符号化してもよい。
【０３１４】
実施の形態６．
上記実施の形態１では、画像符号化装置において画素値ヒストグラムの各ピークに対して最適な補正幅を求め、それらを可変長符号化してビットストリームに加えていたが、この実施の形態６では、ブロック単位にヒストグラム補正を実施するか否かのフラグだけを符号化するように構成することで、ヒストグラム補正処理に必要なパラメータの符号化に係る符号量を削減できる場合を説明する。
【０３１５】
この実施の形態６による画像符号化装置は、基本的に図１に示す実施の形態１の画像符号化装置と同様の構成および動作である。ただし、ヒストグラム補正処理のパラメータとして、ヒストグラム補正を当該ブロックで実施するか否かのフラグだけを符号化する。
【０３１６】
図１におけるループフィルタ部１３は、所定のピーク本数に対して所定の補正幅で補正を実施し、その際の符号化コストを求める。なお、ピーク本数は常に固定値としてもよいし、スライスやブロックといった任意の単位で変更できるようにしてもよい。また、補正幅についても、全てのピークに対して常に同じ固定値を用いるようにしてもよいし、ピークごとに異なる値を用いるようにしてもよい。
【０３１７】
そして、求めた符号化コストが、ヒストグラム補正処理を実施しない場合の符号化コストよりも小さくなる場合、当該ブロックにてヒストグラム補正処理を実施するか否かを示すフラグに例えば１を代入して可変長符号化部１５に出力する。また、求めた符号化コストが、ヒストグラム補正処理を実施しない場合の符号化コストよりも大きくなる場合、当該ブロックにてヒストグラム補正処理を実施するか否かを示すフラグに例えば０を代入して可変長符号化部１５に出力する。
【０３１８】
この実施の形態６による画像復号装置は、基本的に図１７に示す実施の形態１の画像復号装置と同様の構成および動作である。ただし、可変長復号部３１は、ヒストグラム補正処理に必要なパラメータとして当該ブロックにてヒストグラム補正処理を実施するか否かを示すフラグを復号し、ループフィルタ部３９はこれを参照してヒストグラム補正処理を実施する。
【０３１９】
即ち、ループフィルタ部３９は、可変長復号部３１で復号したフラグを参照し、これが１である場合は、所定のピーク本数に対して所定の補正幅で補正を実施する。なお、ピーク本数は常に固定値としてもよいし、スライスやブロックといった任意の単位で変更できるようにしてもよいが、ループフィルタ部３９の出力画像を図１の画像符号化装置におけるループフィルタ部１３の出力画像と一致させる必要があるため、ループフィルタ部１３と同様にする必要がある。また、補正幅についても、全てのピークに対して常に同じ固定値を用いるようにしてもよいし、ピークごとに異なる値を用いるようにしてもよいが、これもループフィルタ部１３と同様にする必要がある。
【０３２０】
また、可変長復号部３１で復号したフラグが０である場合は、ループフィルタ部３９は、当該ブロックにてヒストグラム補正処理を実施しない。
【０３２１】
このループフィルタ部３９によるフィルタ処理後の復号画像が、動き補償予測用の参照画像となり、また、再生画像となる。
【０３２２】
この実施の形態６では、画像符号化装置のループフィルタ部１３が、局所復号画像のブロック毎に所定のピーク本数と補正幅を参照してヒストグラムを補正することで局所復号画像からノイズを取り除くよう構成したので、図４２に示すようにヒストグラムの各ピークが鋭く、疎であるようなスクリーンコンテンツに対して局所復号画像の大幅な画質改善を実現することができる効果を奏する。ただし、本効果はスクリーンコンテンツに限定されるものではなく、同様のヒストグラム特徴を持つ映像信号であれば当然ながら同様の効果が得られる。
【０３２３】
この実施の形態６では、当該ブロックにてヒストグラム補正処理を実施するか否かを示すフラグだけを符号化するため、上記実施の形態１に比べてヒストグラム補正処理に係るパラメータの符号化に必要な符号量を削減することができる効果を奏する。
【０３２４】
また、この実施の形態６では、画像符号化装置の可変長符号化部１５が、当該ブロックにて上記のヒストグラム補正を実施するか否かを表すフラグを符号化して出力し、画像復号装置は、上記のフラグを可変長復号し、フラグがヒストグラム補正処理を実施することを示す値である場合はループフィルタ部３９において復号画像のヒストグラム補正を行って復号画像からノイズを取り除くよう構成したので、図４２に示すようにヒストグラムの各ピークが鋭く、疎であるようなスクリーンコンテンツに対して復号画像の大幅な画質改善を実現することができる効果を奏する。ただし、本効果はスクリーンコンテンツに限定されるものではなく、同様のヒストグラム特徴を持つ映像信号であれば当然ながら同様の効果が得られる。
【０３２５】
また、この実施の形態６によれば、上記効果を持つ画像符号化装置及び画像符号化方法が生成する符号化ビットストリームを正しく復号することができる画像復号装置及び画像復号方法が得られる効果を奏する。
【０３２６】
実施の形態７．
上記実施の形態では、符号化雑音を低減するループフィルタを備えた符号化装置、復号化装置について説明した。
本実施の形態７では、上記符号化装置、上記復号化装置を利用した実施例について説明する。
【０３２７】
図６０は、本実施の形態７におけるシステム構成の例を示す説明図である。図６０において、制御装置（１０１Ａ〜１０１Ｃ）は、例えば、FAシステムにおけるシーケンサやプラントシステムにおける制御装置に相当するものである。端末装置（１０２Ａ〜１０２Ｃ）は、例えば、FAシステムにおけるGOT(Graphic Operation Terminal)やプラントシステムにおけるOPS(Operator Station)に相当するものである。保守員端末１０３は、例えば、FAシステムやプラントシステムにおける保守員が現場等からアクセスするのに使用するスマートフォンやタブレット等の端末である。
【０３２８】
図６０のようなシステムにおいて、例えば、端末装置（１０２Ａ〜１０２Ｃ）から制御装置（１０１Ａ〜１０１Ｃ)の検証作業を行った検証画面の情報を記録して残しておきたいという要求がある。あるいは、保守現場にいる保守員が、保守員端末１０３を使用して端末装置（１０２Ａ〜１０２Ｃ)からの情報に基づいて作業を行いたいという要求がある。更には、保守員端末１０３で撮影した動画にコメント等のグラフィックテキストを多重化して端末装置（１０２Ａ〜１０２Ｃ)に送信したいといった要求がある。
【０３２９】
静止画データやテキストデータのようなデータ量のそれほど多くないデータであれば、従来技術として、ネットワーク上の離れたコンピュータを遠隔操作するためのプロトコルとしてVNC(Virtual Network Computing)があり、このような通信プロトコルを使用してデータの送受信を行うことができた。しかし、上記のような検証画面の情報、端末装置（１０２Ａ〜１０２Ｃ)からの情報等に動画データが含まれている場合や、グラフィックテキストが多重化された動画等のデータ処理を行う場合は、VNCのような通信プロトコルでは対応できないといった問題があった。
【０３３０】
このため、上記のような動画情報を含むデータを処理する場合には、より圧縮効率の高い符号化復号化技術が必要となる。そこで、本実施の形態７では、上記実施の形態で説明した符号化復号化技術を用いて、上記のような動画情報を含むデータ処理を実施する場合について説明する。
【０３３１】
例えば、端末装置（１０２Ａ〜１０２Ｃ)から制御装置（１０１Ａ〜１０１Ｃ)の検証作業を行った検証画面の大容量の情報を記録する場合、端末装置（１０２Ａ〜１０２Ｃ)は、上記実施の形態で説明した符号化方法を用いて、検証画面の情報を符号化して、記憶装置(図示しない)に保存する。
【０３３２】
また、保守現場にいる保守員が、保守員端末１０３を使用して端末装置（１０２Ａ〜１０２Ｃ)からの動画像を含む大容量の情報に基づいて作業を行う場合、端末装置（１０２Ａ〜１０２Ｃ)は、上記実施の形態で説明した符号化方法を用いて、保守員端末１０３に表示させる情報を符号化した後、インターネットを介して保守員端末１０３に送信する。端末装置（１０２Ａ〜１０２Ｃ)から符号化された情報を受け取った保守員端末１０３は、上記実施の形態で説明した復号化方法を用いて復号して表示する。
【０３３３】
また、保守員端末１０３で撮影した動画像にコメント等のグラフィックテキストを多重化して端末装置（１０２Ａ〜１０２Ｃ)に送信する場合、保守員端末１０３は、上記実施の形態で説明した符号化方法を用いて、撮影した動画像にコメント等のグラフィックテキストを多重化した情報を符号化した後、インターネットを介して端末装置（１０２Ａ〜１０２Ｃ)に送信する。保守員端末１０３から符号化された情報を受け取った端末装置（１０２Ａ〜１０２Ｃ)は、上記実施の形態で説明した復号化方法を用いて復号して表示する。ここで、動画像を含む大容量データであるために、上記実施の形態で説明した符号化復号化方法を用いることが有効であるが、更に動画像にグラフィックテキストを多重化すると、その境界部分での画質の劣化が発生するため、本実施の形態７で説明した符号化復号化技術のベースとなっている非特許文献１に記載したH.265の技術が有効となる。
【０３３４】
次に各装置の構成と動作について説明する。
図６１は、端末装置１０２Ａの内部構成を示す一例である。
端末装置１０２Ａは、受信部２０１と、演算処理部２０２、表示処理部２０３と、符号化部２０４と、データ保存部２０５と、記録部２０６と、要求処理部２０７と、配信部２０８と、送信部２０９と、閲覧処理部２１０と、復号部２１１とを備える。
受信部２０１は、制御ネットワークを介して制御装置から出力されたデータを受信する。
受信部２０１は、受信したデータ（のヘッダー部）を解析する。
【０３３５】
なお、本実施の形態７における端末装置１０２Ａは、制御装置（１０１Ａ〜１０１Ｃ）が出力するデータ、保守員端末１０３が出力するデータ、保守員端末１０３が出力する要求指示の三種類を受信する場合について説明を行うが、これら以外のデータを受信し、対応する処理を行うようにしてもよい。
【０３３６】
受信部２０１は、受信したデータを解析した結果、（１）制御装置（１０１Ａ〜１０１Ｃ）が出力する符号化されていないデータで有った場合、演算処理部２０２へ受信したデータを渡し、（２）保守員端末１０３が出力する符号化されたデータだった場合、記録部２０６へ受信したデータを渡し、（３）保守員端末１０３が出力する要求指示だった場合、要求処理部２０７へ受信したデータを渡す。
【０３３７】
演算処理部２０２は、受信部２０１からデータを受け取り、端末装置１０２Ａの本来の動作を行う。例えば、制御装置１０１Aから出力されるデータをグラフに表示し、予め設定された値を超えた場合に警報を発令するプログラムであってもよい。
また、演算処理部２０２は、監視対象である制御装置（１０１A〜１０１C）を模した図を画面上に表示したり、制御装置（１０１Ａ〜１０１Ｃ）が有する処理機能の相関関係を整理した機能系統図を表示したりするプログラムであってもよい。
【０３３８】
また、制御装置（１０１Ａ〜１０１Ｃ）から受け取ったデータが動画であった場合、この動画に対し、文字列やグラフや記号を重畳した映像を作成したりしても良い。
【０３３９】
演算処理部２０２は、受信部２０１から受け取ったデータに対し、演算処理を行った結果を表示処理部２０３へ渡す。
【０３４０】
記録部２０６は、受信部２０１で受信したデータが保守員端末１０３の出力する符号化されたデータであった場合、受信部２０１からデータを受け取る。
記録部２０６は、受信部２０１から受け取ったデータに、そのデータの固有情報を付加し、データ保存部２０５へ渡す。データの固有情報として、例えば、送られて来たデータがどの保守員端末から送られたものなのかを示す情報、データが送られてきた日時の情報を用いても良い。なお、受信部２０１から受け取ったデータが、どの保守員端末から送られてきたのかを示す情報、送られてきた日時を示す情報などは、データのヘッダー部を解析する事で確認しても良い。
【０３４１】
要求処理部２０７は、受信部２０１で受信したデータが保守員端末１０３からの要求であった場合、受信部２０１からデータを受け取る。
受信部２０１から受け取ったデータは、例えば、どの保守員端末からの要求データかを一意に特定できる固有情報である。例えば、情報が出力された保守員端末もしくは制御装置のＩＰ（Ｉｎｔｅｒｎｅｔ  Ｐｒｏｔｏｃｏｌ）アドレスと、情報が出力された時刻で指定しても良いし、そのＩＰアドレスから何番目に出力されたデータであっても良い。
また、現在、端末装置１０２Ａの出力用デバイス（図示せず、例えばディスプレイ等）に出力されているリアルタイムな情報であっても良い。また、端末装置１０２Ａの出力用デバイスに出力されているリアルタイムな情報は、画面全体でも良いし、画面の一部でも良い。画面の一部の場合、領域を指定しても良いし、自動的に取り決めてもよい。
【０３４２】
配信部２０８は、要求処理部２０７からデータを特定するための条件を受け取り、データ保存部２０５から条件と一致するデータを取得し、取得したデータを送信部２０９へ渡す。
【０３４３】
送信部２０９は、配信部２０８から渡されたデータを制御ネットワークに出力する。
送信部２０９が制御ネットワークに出力するデータは、ブロードキャスト送信することによって、誰でも受け取れるようにしてもよい。また、要求処理を発した保守員端末に対してのみ送信するようにしてもよい。
【０３４４】
閲覧処理部２１０は、データ保存部２０５に格納されたデータを端末装置１０２Ａの表示用デバイスに出力したい場合に用いる。
閲覧処理部２１０は、例えば、端末装置１０２Ａを操作するためのユーザインターフェース（図示せず、例えばキーボードやタッチパネル等）を用いて、データ保存部２０５に保存されているデータを選択する。
閲覧処理部２１０は、選択されたデータをデータ保存部２０５から読み出し、復号部２１１へ出力する。
【０３４５】
復号部２１１は、上記実施の形態で述べた復号化装置と同等の機能を有する。
閲覧処理部２１０は、復号部２１１で復号されたデータを受け取り、表示処理部２０３へ渡す。
【０３４６】
表示処理部２０３は、閲覧処理部２１０から受け取ったデータを表示用デバイス（図示せず、例えばディスプレイ等）に表示する。
また、表示処理部２０３は、演算処理部２０２から受け取ったデータを表示用デバイスに表示する。
表示用デバイスは、例えば、液晶画面やモニタ等を用いてもよい。
【０３４７】
また、表示処理部２０３は、表示用デバイスに表示するために用いたデータを符号化部２０４で符号化する。
【０３４８】
なお、表示処理部２０３は、演算処理部２０２からデータを受け取って表示用デバイスに表示を行った場合、演算処理部２０２から受け取ったデータを符号化部２０４へ出力し、符号化する。
【０３４９】
符号化部２０４は、上記実施の形態で述べた符号化装置と同等の機能を有する。
表示処理部２０３は、符号化部２０４で符号化したデータをデータ保存部２０５に保存する。
【０３５０】
なお、本実施の形態７では、データ保存部２０５に保存されるデータは全て符号化されたデータであるようにしたが、データに符号化されているか否かを示す情報を付け足すことにより、符号化されているデータと符号化されていないデータを混在させてもよい。
【０３５１】
なお、データ保存部２０５に、符号化されているデータと符号化されていないデータを混在させる場合には、符号化されていないデータを送信する際には、配信部２０８または送信部２０９から符号化部２０４を呼び出し、符号化したデータを送信できるようにする。
【０３５２】
なお、端末装置は複数でもよい。また、符号化部２０４、復号部２１１は、表示処理部２０３、閲覧処理部２１０を介して動作しているが、表示処理部２０３の後や閲覧処理部２１０の後で動作するようにしてもよい。
図６２は、保守員端末１０３の内部構成を示す一例である。
【０３５３】
なお、図６２における保守員端末１０３は、端末装置１０２Ａとやりとりをする場合を例に説明を行う。
【０３５４】
保守員端末１０３は、受信部３０１と、復号部２１１と、表示処理部３０２と、データ取得部３０３と、送信部３０４と、符号化部２０４を備える。
【０３５５】
受信部３０１は、制御ネットワークを介し、端末装置１０２Ａが出力するデータを受け取る。
受信部３０１は、受け取ったデータを復号部２１１へ渡す。
なお、受信部３０１は、端末装置１０２Ａ〜１０２Ｃが出力するデータ以外を受け取った場合には、データに応じた処理を行うその他の処理部（図示せず）にデータを渡す。
【０３５６】
復号部２１１は、受信部３０１から受け取ったデータを復号し、受信部３０１に出力する。
【０３５７】
表示処理部３０２は、受信部３０１から出力されたデータを表示用デバイス（図示せず、例えばディスプレイ等）に表示する。
【０３５８】
データ取得部３０３は、センサやカメラ（静止画像用あるいは動画用）である。
データ取得部３０３は、センサからの測定データやカメラからの静止画あるいは動画を送信部３０４に出力する。
【０３５９】
送信部３０４は、データ取得３０３から出力されたデータを符号化部２０４へ出力する。
符号化部２０４は、上記実施の形態で述べた符号化装置と同等の機能を有する。
送信部３０４は、符号化部２０４で符号化されたデータを制御ネットワークに出力する。
送信部３０４が符号化されたデータを送信する相手は、保守員端末１０３のユーザインタフェース（図示せず）を用いてどの端末装置なのかを設定できるようにしても良いし、予め固定された送り先であっても良いし、相手先を指定せず、ブロードキャストするように設定しても良い。
【０３６０】
なお、保守員端末は複数でもよい。また、符号化部２０４、復号部２１１は、送信部３０４、受信部３０１を介して動作しているが、送信部３０４前や受信部３０１の後で動作するようにしてもよい。
【０３６１】
また、図６３は、本実施の形態７における別のシステム構成の例を示す説明図である。図６３において、情報装置（１０４Ａ〜１０４Ｃ）は、例えば、テレマティクスにおける様々な情報を持つ情報装置であり、この情報装置は車両に搭載されるものである。データ管理センター１０５は、例えば、テレマティクスにおける情報装置を搭載した車両からの情報を集める。情報装置（１０４Ａ〜１０４Ｃ）とデータ管理センター１０５との間は、ネットワークで接続され、このネットワークは有線でも無線でもよい。
図６３のようなシステムにおいて、例えば、情報装置（１０４Ａ〜１０４Ｃ）が搭載された車両に関する情報や、車両に搭載されるカメラ等の動画あるいは静止画を用いた交通渋滞や事故の情報を、データ管理センターに集約したいという要求がある。あるいは、情報装置を搭載した車両が、データ管理センターから交通渋滞、事故が発生した過去の状況等をデータ管理サーバーから受け取りたいといった要求（フィードバック）がある。
【０３６２】
静止画データやテキストデータのようなデータ量のそれほど多くないデータであれば、従来技術として、ネットワーク上の離れたコンピュータを遠隔操作するためのプロトコルとしてVNC(Virtual Network Computing)があり、このような通信プロトコルを使用してデータの送受信を行うことができた。しかし、上記のような情報装置（１０４Ａ〜１０４Ｃ）からの情報等に動画データが含まれている場合や、グラフィックテキストが多重化された動画等のデータ処理を行う場合は、VNCのような通信プロトコルでは対応できないといった問題があった。
【０３６３】
このため、上記のような動画情報を含むデータを処理する場合には、より圧縮効率の高い符号化復号化技術が必要となる。そこで、本実施の形態７では、上記実施の形態で説明した符号化復号化技術を用いて、上記のような動画情報を含むデータ処理を実施する場合について説明する。
【０３６４】
例えば、情報装置（１０４Ａ〜１０４Ｃ）で撮影され、データ管理センター１０５に集約された動画像に道路案内、交通情報等のグラフィックテキストを多重化して、情報装置（１０４Ａ〜１０４Ｃ）に送信する場合、データ管理センター１０５は、上記実施の形態で説明した符号化方法を用いて、集約した動画像に道路案内、交通情報等のグラフィックテキストを多重化した情報を符号化した後、インターネットを介して情報装置（１０４Ａ〜１０４Ｃ）に送信する。
【０３６５】
情報装置（１０４Ａ〜１０４Ｃ）から符号化された情報を受け取ったデータ管理センター１０５は、上記実施の形態で説明した復号化方法を用いて復号してデータの解析、分類、整理などの処理を行う。
【０３６６】
ここで用いる情報は、動画像を含む大容量データであるために、符号化復号化方法を用いることが有効であるが、更に動画像にグラフィックテキストを多重化すると、その境界部分での画質の劣化が発生するため、本実施の形態７で説明した符号化復号化技術のベースとなっている非特許文献１に記載したH.265の技術が有効となる。
【０３６７】
図６４は、データ管理センター１０５の内部構成を示す一例である。
データ管理センター１０５は、受信部２０１と、記録部２０６と、データ保存部２０５と、データ生成部５０１と、復号部２１１と、配信部２０８と、送信部２０９と、符号化部２０４を備える。
【０３６８】
受信部２０１は、ネットワークを介し、車両に搭載される情報端末が出力するデータを受け取る。なお、ネットワークは有線でも無線でもよい。
受信部２０１は、受け取ったデータにデータの固有情報を付加し、記録部２０６に出力する。
固有情報は、データを送ってきた情報端末を一意に特定できる固有ＩＤもしくはＩＰアドレスであってよい。また、固有情報として、データが送られてきた時間、もしくはその情報端末から送られたデータの通し番号を用いてもよい。
【０３６９】
記録部２０６は、受信部３０１から出力されたデータをデータ保存部２０５に出力する。
本実施の形態７では、受信部２０１で受け取ったデータに固有情報のみを付加したものをデータ保存部２０５に保存するような構成を用いて説明したが、情報端末に配信し易いデータに予めデータを加工したり、組み替えたりしておいてもよい。
【０３７０】
データ生成部５０１は、データ保存部２０５に保存されたデータを参照し（車両に搭載されている）情報端末に向けて配信するためのデータ生成を行う。
データ生成部５０１は、データ保存部２０５から読み出したデータを復号部２１１に出力する。
復号部２１１は、上記実施の形態で述べた復号化装置と同等の機能を有する。
復号部２１１は、データ生成部５０１から受け取ったデータを復号し、データ生成部５０１に出力する。
データ生成部５０１は、復号されたデータを用いて、配信用データを生成し、符号化部２０４に出力する。
【０３７１】
送信部２０９は、配信部２０８から渡された配信用データを符号化部２０４に出力する。
符号化部２０４は、上記実施の形態で述べた符号化装置と同等の機能を有する。
符号化部２０４は、送信部２０９から渡された配信用データを符号化し、送信部２０９に出力する。
送信部２０９は、符号化された配信用データを送信する。送信する方法は相手を指定して良いし、ブロードキャストで送信しても良い。
【０３７２】
なお、データ管理センターは複数でもよい。また、符号化部２０４は、送信部２０９を介して動作しているが、送信部２０９の前で動作するようにしてもよい。
【０３７３】
図６５は、情報装置１０４Ａの内部構成を示す一例である。
情報装置１０４Ａは、受信部２０１と、復号部２１１と、表示処理部３０２と、データ取得部３０３と、送信部２０９と符号化部２０４を備える。
受信部２０１は、ネットワークを介し、データ管理センター１０５が出力するデータを受け取る。
【０３７４】
受信部２０１は、受け取ったデータを復号部２１１に出力する。
なお、受信部２０１は、データ管理センター１０５が出力するデータ以外を受け取った場合には、データに応じた処理を行うその他の処理部（図示せず）にデータを渡す。
【０３７５】
復号部２１１は、受信部３０１から受け取ったデータを復号し、受信部３０１に出力する。
【０３７６】
表示処理部３０２は、受信部２０１から渡されたデータを表示用デバイス（図示せず、例えばディスプレイ等）に表示する。
【０３７７】
データ取得部３０３は、センサやカメラ（静止画像用あるいは動画用）である。
データ取得部３０３は、センサからの測定データやカメラからの静止画あるいは動画を送信部２０９に出力する。
【０３７８】
送信部２０９は、データ取得部３０３から出力されたデータを符号化部２０４に出力する。
符号化部２０４は、上記実施の形態で述べた符号化装置と同等の機能を有する。
送信部２０９は、符号化部２０４で符号化されたデータをデータ管理センター１０５に送信する。
送信部２０９が符号化されたデータを送信する相手として、情報装置７００のユーザインタフェース（図示せず）を用いてどのデータ管理センターなのかを設定できるようにしても良いし、予め固定された送り先であっても良いし、相手先を指定せず、ブロードキャストするように設定しても良い。
【０３７９】
なお、情報装置は複数でもよい。また、符号化部２０４、復号部２１１は、送信部３０４、受信部３０１等を介して動作しているが、送信部３０４の前や受信部３０１の後で動作するようにしてもよい。
また、本実施の形態７では、制御装置（１０１Ａ〜１０１Ｃ）から端末装置（１０２Ａ〜１０２Ｃ）に送付されるデータが符号化されていない場合について説明したが、制御装置（１０１Ａ〜１０１Ｃ）が上記実施の形態で述べた符号化装置を備え、符号化したデータを送付し、端末装置（１０２Ａ〜１０２Ｃ）も符号化されたデータを受信するようにしてもよい。
【０３８０】
以上説明したように、この実施の形態７によれば、符号化部２０４および復号部２１１を用いることにより、符号化雑音を低減して圧縮効率を高めることができ（635492予測効率を高めることができ）、動画情報を含むデータを処理することができる。
【０３８１】
また、符号化部２０４および復号部２１１を用いることにより、ＶＮＣ等のネットワーク上の離れたコンピュータを遠隔操作するためのプロトコルを用いずに済むため、セキュリティを向上することができる。
【０３８２】
なお、本願発明はその発明の範囲内において、各実施の形態の自由な組み合わせ、あるいは各実施の形態の任意の構成要素の変形、もしくは各実施の形態において任意の構成要素の省略が可能である。
【符号の説明】
【０３８３】
１  符号化制御部、２  スライス分割部、３  ブロック分割部、４  切換スイッチ、５  イントラ予測部、６  イントラブロックコピー予測部、７  動き補償予測部、８  減算部、９  変換・量子化部、１０  逆量子化・逆変換部、１１  加算部、１２  イントラ用メモリ、１３  ループフィルタ部、１４  動き補償予測フレームメモリ、１５  可変長符号化部（符号化手段）、２１  ヒストグラム算出部（ヒストグラム算出手段）、２２  画素値補正部（画素値補正手段）、２３  第１の誤差算出部、２４  第２の誤差算出部、２５  補正画素値範囲保存部、２６  繰り返し処理部、２７  画素値置換部、３１  可変長復号部（復号手段）、３２  逆量子化・逆変換部、３３  切換スイッチ、３４  イントラ予測部、３５  イントラブロックコピー予測部、３６  動き補償予測部、３７  加算部、３８  イントラ用メモリ、３９  ループフィルタ部、４０  動き補償予測フレームメモリ、４１  ヒストグラム算出部（ヒストグラム算出手段）、４２  画素値補正部（画素値補正手段）、１０１A〜１０１C  制御装置、１０２A〜１０２C  端末装置、１０３  保守員端末、１０４A〜１０４C  情報装置、１０５  データ管理センター、２０１  受信部、２０２  演算処理部、２０３  表示処理部、２０４  符号化部、２０５  データ保存部、２０６  記録部、２０７  要求処理部、２０８  配信部、２０９  送信部、２１０  閲覧処理部、２１１  復号部、３０１  受信部、３０２  表示処理部、３０３  データ取得部、３０４送信部、５０１  データ生成部。
【図１】
2015177294.tif 000013
【図２】
2015177294.tif 000014
【図３】
2015177294.tif 000015
【図４】
2015177294.tif 000016
【図５】
2015177294.tif 000017
【図６】
2015177294.tif 000018
【図７】
2015177294.tif 000019
【図８】
2015177294.tif 000020
【図９】
2015177294.tif 000021
【図１０】
2015177294.tif 000022
【図１１】
2015177294.tif 000023
【図１２】
2015177294.tif 000024
【図１３】
2015177294.tif 000025
【図１４】
2015177294.tif 000026
【図１５】
2015177294.tif 000027
【図１６】
2015177294.tif 000028
【図１７】
2015177294.tif 000029
【図１８】
2015177294.tif 000030
【図１９】
2015177294.tif 000031
【図２０】
2015177294.tif 000032
【図２１】
2015177294.tif 000033
【図２２】
2015177294.tif 000034
【図２３】
2015177294.tif 000035
【図２４Ａ】
2015177294.tif 000036
【図２４Ｂ】
2015177294.tif 000037
【図２５】
2015177294.tif 000038
【図２６】
2015177294.tif 000039
【図２７】
2015177294.tif 000040
【図２８】
2015177294.tif 000041
【図２９】
2015177294.tif 000042
【図３０】
2015177294.tif 000043
【図３１】
2015177294.tif 000044
【図３２】
2015177294.tif 000045
【図３３】
2015177294.tif 000046
【図３４】
2015177294.tif 000047
【図３５】
2015177294.tif 000048
【図３６】
2015177294.tif 000049
【図３７】
2015177294.tif 000050
【図３８】
2015177294.tif 000051
【図３９】
2015177294.tif 000052
【図４０】
2015177294.tif 000053
【図４１】
2015177294.tif 000054
【図４２】
2015177294.tif 000055
【図４３】
2015177294.tif 000056
【図４４】
2015177294.tif 000057
【図４５】
2015177294.tif 000058
【図４６】
2015177294.tif 000059
【図４７Ａ】
2015177294.tif 000060
【図４７Ｂ】
2015177294.tif 000061
【図４８】
2015177294.tif 000062
【図４９】
2015177294.tif 000063
【図５０】
2015177294.tif 000064
【図５１】
2015177294.tif 000065
【図５２】
2015177294.tif 000066
【図５３】
2015177294.tif 000067
【図５４】
2015177294.tif 000068
【図５５】
2015177294.tif 000069
【図５６】
2015177294.tif 000070
【図５７】
2015177294.tif 000071
【図５８】
2015177294.tif 000072
【図５９】
2015177294.tif 000073
【図６０】
2015177294.tif 000074
【図６１】
2015177294.tif 000075
【図６２】
2015177294.tif 000076
【図６３】
2015177294.tif 000077
【図６４】
2015177294.tif 000078
【図６５】
2015177294.tif 000079