(57)【要約】【課題】動画像データに適用されるループ内フィルタに関する符号化効率を向上できる動画像符号化装置を提供する。【解決手段】動画像符号化装置１は、符号化対象ブロックに適用されるループ内フィルタのモードと、符号化対象ブロックに隣接する符号化済みの参照ブロックに適用されるループ内フィルタのモードとが同一である場合、参照ブロックに適用されるループ内フィルタのフィルタ係数を、参照ブロックに適用される量子化値と符号化対象ブロックに適用される量子化値とに基づいて補正する補正部（１５２）と、補正されたフィルタ係数を用いて、符号化対象ブロックを一旦符号化してから復号して得られる局所復号ブロックにループ内フィルタを適用するフィルタ処理部（１５４）と、ループ内フィルタに関して符号化対象ブロックにおいて参照ブロックを参照することを示す情報を符号化対象ブロックの符号化データに付加する付加部（１７）とを有する。【選択図】図５
2018110313.tif 000002
【特許請求の範囲】
【請求項１】
動画像データに含まれる、符号化対象ピクチャが分割された複数のブロックのうちの符号化対象ブロックを符号化する動画像符号化装置であって、
前記符号化対象ブロックの各画素の予測誤差信号を直交変換して直交変換係数を算出し、前記直交変換係数を前記符号化対象ブロックに適用される量子化値に従って量子化することにより前記符号化対象ブロックを符号化するソース符号化部と、
符号化された前記符号化対象ブロックを復号して局所復号ブロックを生成する復号部と、
前記符号化対象ブロックに適用されるループ内フィルタのモードと、前記符号化対象ブロックに隣接する符号化済みの参照ブロックに適用されるループ内フィルタのモードとが同一である場合、前記参照ブロックに適用される前記ループ内フィルタのフィルタ係数を、前記参照ブロックに適用される量子化値と前記符号化対象ブロックに適用される前記量子化値とに基づいて補正して、補正されたフィルタ係数を算出する補正部と、
前記補正されたフィルタ係数を用いて、前記局所復号ブロックに前記ループ内フィルタを適用するフィルタ処理部と、
前記ループ内フィルタに関して前記符号化対象ブロックにおいて前記参照ブロックを参照することを示す情報を前記符号化対象ブロックの符号化データに付加する付加部と、
を有する動画像符号化装置。
【請求項２】
前記補正部は、前記符号化対象ブロックに、前記量子化値を個別に設定可能な複数の量子化グループが含まれる場合、前記複数の量子化グループのそれぞれの前記量子化値の統計的代表値を前記符号化対象ブロックの前記量子化値として、前記補正されたフィルタ係数を算出する、請求項１に記載の動画像符号化装置。
【請求項３】
前記補正部は、前記符号化対象ブロックに、前記量子化値を個別に設定可能な複数の量子化グループが含まれる場合、前記複数の量子化グループのそれぞれごとに、当該量子化グループの前記量子化値を前記符号化対象ブロックの前記量子化値として前記補正されたフィルタ係数を算出し、
前記フィルタ処理部は、前記複数の量子化グループのそれぞれごとに、当該量子化グループについて算出された前記補正されたフィルタ係数を用いて、前記局所復号ブロックの当該量子化グループに前記ループ内フィルタを適用する、請求項１に記載の動画像符号化装置。
【請求項４】
前記補正部は、前記参照ブロックに適用される前記ループ内フィルタのモード及び前記符号化対象ブロックに適用される前記ループ内フィルタのモードの両方がサンプルアダプティブオフセットのエッジオフセットである場合に、前記参照ブロックについて適用される前記フィルタ係数である画素値変動の複数のカテゴリのそれぞれのオフセット値を補正して、前記補正されたフィルタ係数として前記複数のカテゴリのそれぞれの補正されたオフセット値を算出する、請求項１〜３の何れか一項に記載の動画像符号化装置。
【請求項５】
前記補正部は、前記参照ブロックに適用される前記量子化値に対する前記符号化対象ブロックに適用される前記量子化値の比が大きくなるほど、前記複数のカテゴリのそれぞれの補正されたオフセット値が大きくなるように、前記複数のカテゴリのそれぞれの補正されたオフセット値を算出する、請求項４に記載の動画像符号化装置。
【請求項６】
前記符号化対象ブロック内の各画素の値に基づいて、前記ループ内フィルタの前記フィルタ係数を算出するフィルタ係数算出部と、
前記符号化対象ブロックに適用されるループ内フィルタのモードと、前記参照ブロックに適用されるループ内フィルタのモードとが同一である場合に前記補正部に前記補正されたフィルタ係数を算出させ、一方、前記符号化対象ブロックに適用されるループ内フィルタのモードと、前記参照ブロックに適用されるループ内フィルタのモードとが異なる場合に前記フィルタ係数算出部に前記フィルタ係数を算出させる判定部とをさらに有し、
前記フィルタ処理部は、前記補正されたフィルタ係数が算出された場合、当該補正されたフィルタ係数を用いて前記局所復号ブロックに前記ループ内フィルタを適用し、一方、前記フィルタ係数が算出された場合、当該フィルタ係数を用いて前記局所復号ブロックに前記ループ内フィルタを適用する、請求項１〜５の何れか一項に記載の動画像符号化装置。
【請求項７】
動画像データに含まれる、符号化対象ピクチャが分割された複数のブロックのうちの符号化対象ブロックを符号化する動画像符号化方法であって、
前記符号化対象ブロックの各画素の予測誤差信号を直交変換して直交変換係数を算出し、前記直交変換係数を前記符号化対象ブロックに適用される量子化値に従って量子化することにより前記符号化対象ブロックを符号化し、
符号化された前記符号化対象ブロックを復号して局所復号ブロックを生成し、
前記符号化対象ブロックに適用されるループ内フィルタのモードと、前記符号化対象ブロックに隣接する符号化済みの参照ブロックに適用されるループ内フィルタのモードとが同一である場合、前記参照ブロックに適用される前記ループ内フィルタのフィルタ係数を、前記参照ブロックに適用される量子化値と前記符号化対象ブロックに適用される前記量子化値とに基づいて補正して、補正されたフィルタ係数を算出し、
前記補正されたフィルタ係数を用いて、前記局所復号ブロックに前記ループ内フィルタを適用し、
前記ループ内フィルタに関して前記符号化対象ブロックにおいて前記参照ブロックを参照することを示す情報を前記符号化対象ブロックの符号化データに付加する、
ことを含む動画像符号化方法。
【請求項８】
動画像データに含まれる、符号化対象ピクチャが分割された複数のブロックのうちの符号化対象ブロックを符号化する動画像符号化用コンピュータプログラムであって、
前記符号化対象ブロックの各画素の予測誤差信号を直交変換して直交変換係数を算出し、前記直交変換係数を前記符号化対象ブロックに適用される量子化値に従って量子化することにより前記符号化対象ブロックを符号化し、
符号化された前記符号化対象ブロックを復号して局所復号ブロックを生成し、
前記符号化対象ブロックに適用されるループ内フィルタのモードと、前記符号化対象ブロックに隣接する符号化済みの参照ブロックに適用されるループ内フィルタのモードとが同一である場合、前記参照ブロックに適用される前記ループ内フィルタのフィルタ係数を、前記参照ブロックに適用される量子化値と前記符号化対象ブロックに適用される前記量子化値とに基づいて補正して、補正されたフィルタ係数を算出し、
前記補正されたフィルタ係数を用いて、前記局所復号ブロックに前記ループ内フィルタを適用し、
前記ループ内フィルタに関して前記符号化対象ブロックにおいて前記参照ブロックを参照することを示す情報を前記符号化対象ブロックの符号化データに付加する、
ことをコンピュータに実行させるための動画像符号化用コンピュータプログラム。
【請求項９】
符号化された動画像データに含まれる、復号対象ピクチャを分割した複数のブロックのうちの復号対象ブロックを復号する動画像復号装置であって、
前記復号対象ブロックの符号化データに含まれる量子化係数を、前記復号対象ブロックに適用される量子化値に従って逆量子化して直交変換係数を算出し、前記直交変換係数を逆直交変換して前記復号対象ブロックの各画素の予測誤差信号を算出し、各画素の前記予測誤差信号に基づいて前記復号対象ブロックを復号する復号部と、
前記復号対象ブロックの符号化データに、ループ内フィルタに関して前記復号対象ブロックに隣接する復号済みの参照ブロックを参照することを示す情報が含まれている場合、前記符号化された動画像データに含まれる、前記参照ブロックに適用される前記ループ内フィルタのフィルタ係数を、前記参照ブロックに適用される量子化値と前記復号対象ブロックに適用される前記量子化値とに基づいて補正して、補正されたフィルタ係数を算出する補正部と、
前記補正されたフィルタ係数を用いて、前記復号された復号対象ブロックに前記ループ内フィルタを適用するフィルタ処理部と、
を有する動画像復号装置。
【請求項１０】
符号化された動画像データに含まれる、復号対象ピクチャを分割した複数のブロックのうちの復号対象ブロックを復号する動画像復号方法であって、
前記復号対象ブロックの符号化データに含まれる量子化係数を、前記復号対象ブロックに適用される量子化値に従って逆量子化して直交変換係数を算出し、前記直交変換係数を逆直交変換して前記復号対象ブロックの各画素の予測誤差信号を算出し、各画素の前記予測誤差信号に基づいて前記復号対象ブロックを復号し、
前記復号対象ブロックの符号化データに、ループ内フィルタに関して前記復号対象ブロックに隣接する復号済みの参照ブロックを参照することを示す情報が含まれている場合、前記符号化された動画像データに含まれる、前記参照ブロックに適用される前記ループ内フィルタのフィルタ係数を、前記参照ブロックに適用される量子化値と前記復号対象ブロックに適用される前記量子化値とに基づいて補正して、補正されたフィルタ係数を算出し、
前記補正されたフィルタ係数を用いて、前記復号された復号対象ブロックに前記ループ内フィルタを適用する、
ことを含む動画像復号方法。
【請求項１１】
符号化された動画像データに含まれる、復号対象ピクチャを分割した複数のブロックのうちの復号対象ブロックを復号する動画像復号用コンピュータプログラムであって、
前記復号対象ブロックの符号化データに含まれる量子化係数を、前記復号対象ブロックに適用される量子化値に従って逆量子化して直交変換係数を算出し、前記直交変換係数を逆直交変換して前記復号対象ブロックの各画素の予測誤差信号を算出し、各画素の前記予測誤差信号に基づいて前記復号対象ブロックを復号し、
前記復号対象ブロックの符号化データに、ループ内フィルタに関して前記復号対象ブロックに隣接する復号済みの参照ブロックを参照することを示す情報が含まれている場合、前記符号化された動画像データに含まれる、前記参照ブロックに適用される前記ループ内フィルタのフィルタ係数を、前記参照ブロックに適用される量子化値と前記復号対象ブロックに適用される前記量子化値とに基づいて補正して、補正されたフィルタ係数を算出し、
前記補正されたフィルタ係数を用いて、前記復号された復号対象ブロックに前記ループ内フィルタを適用する、
ことをコンピュータに実行させるための動画像復号用コンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、例えば、動画像符号化装置、動画像符号化方法及び動画像符号化用コンピュータプログラム、ならびに、動画像復号装置、動画像復号方法及び動画像復号用コンピュータプログラムに関する。
【背景技術】
【０００２】
動画像データは、一般に非常に大きなデータ量を有する。そのため、動画像データを扱う装置は、動画像データを他の装置へ送信しようとする場合、あるいは、動画像データを記憶装置に記憶しようとする場合、動画像データを符号化することにより圧縮する。代表的な動画像の符号化標準として、Advanced Video Coding（MPEG-4 AVC|ITU-T H.264）及びHigh Efficiency Video Coding（HEVC|ITU-T H.265）が策定されている。
【０００３】
このような符号化標準では、符号化対象のピクチャは複数のブロックに分割される。そして符号化対象ブロックごとに、既に符号化された他のピクチャまたは符号化対象ピクチャの符号化済みの領域から予測ブロックが生成される。そして符号化対象ブロックと予測ブロック間の予測誤差信号を直交変換して得られる直交変換係数を量子化することで情報量の圧縮が図られる。
【０００４】
しかしながら、直交変換係数を量子化することにより、ピクチャの符号化データを復号して得られる、再生されたピクチャの画質は、元のピクチャの画質と比較して劣化する。そこで、直交変換係数の量子化によって生じる劣化を軽減するためのループ内フィルタとして、デブロッキングフィルタがMPEG-4 AVCから採用されている。さらに、量子化により、ピクチャ上に写っている被写体のエッジ近傍にて、モスキート歪と呼ばれるアーティファクトが生じることがある。そこで、HEVCでは、ループ内フィルタとして、デブロッキングフィルタに加え、適応フィルタの一種であるサンプルアダプティブオフセット(sample adaptive offset, SAO)フィルタが採用されている（例えば、特許文献１及び非特許文献１を参照）。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２０１５−１０４０６１号公報
【非特許文献】
【０００６】
【非特許文献１】ISO/IEC 23008-2:2015 Information technology -- High efficiency coding and media delivery in heterogeneous environments -- Part 2: High efficiency video coding、2015年
【発明の概要】
【発明が解決しようとする課題】
【０００７】
SAOフィルタは、ポストフィルタの一例であり、デブロッキングフィルタ処理後に適用される。SAOフィルタには、バンドオフセットと、エッジオフセットの二つのモードが含まれ、その二つのモード及びSAOフィルタの適用可否は、コーディングツリーユニット(Coding Tree Unit, CTU)単位で選択可能となっている。また、SAOフィルタが適用される場合において使用される、SAOフィルタのパラメータも、CTU単位で選択可能となっている。以下では、SAOフィルタにおいて使用される各種パラメータ及びSAOフィルタの適用可否を表すパラメータを、単にSAOパラメータと呼ぶ。
【０００８】
ここで、求められたSAOパラメータを全て送る場合、SAOパラメータ自体の情報量が無視できないレベルとなることがある。そのため、HEVCでは、符号化対象CTUの左もしくは上に隣接する符号化済みのCTUのSAOパラメータを符号化対象CTUにそのまま適用するモード（以下、SAOのマージモードあるいは単にマージモードと呼ぶ）が用意されている。具体的に、HEVCでは、SAOのマージモードが適用されるか否かを表すために、CTU単位でシグナリングが可能な、SaoMergeLeftFlagとSaoMergeUpFlagの二つのフラグが用意されている。SaoMergeLeftFlagが'1'に設定される場合、符号化対象CTUの左側に隣接するCTUのSAOパラメータがそのまま符号化対象CTUのSAOパラメータとして利用される。また、SaoMergeLeftFlagが'0'に設定され、かつ、SaoMergeUpFlagが'1'に設定される場合、符号化対象CTUの上側に隣接するCTUのSAOパラメータがそのまま符号化対象CTUのSAOパラメータとして利用される。
【０００９】
量子化に起因する画質の劣化の度合いは、量子化幅に応じて変化する。したがって、適用される量子化幅が変われば、適切なSAOパラメータも変化する。一方、固定ビットレート制御を実現するために、HEVCは、他の符号化標準と同様に、直交変換係数の量子化幅を規定する量子化値をピクチャ内で調整することを可能にしている。HEVCでの量子化値の変更単位は、量子化グループである。すなわち、動画像符号化装置は、量子化グループごとに、個別に量子化値を設定できる。量子化グループは、パラメータdiff_cu_qp_delta_depthから計算される値以下の大きさを持つCoding Unit(CU)の集合である。例えば、CTUのサイズが64(=26)*64で、diff_cu_qp_delta_depthが1の場合には、32(=2(6-1))*32のサイズ以上のCUが個々の量子化グループとなり、一方、CUのサイズが16*16の場合には処理順番で連続する4つのCU（32*32に相当）が一つの量子化グループに属する。なお、CTUに含まれる量子化グループの数は、一つとは限られず、複数であることがある。
【００１０】
符号化対象CTUと隣接するCTUとが共に類似した画素値分布を持ち、かつ同じ量子化値が適用される場合、その二つのCTUにおいて、エッジ近辺に生じるモスキート歪の大きさも略同一となる。そのため、マージモードを適用することで、動画像符号化装置は、符号化対象CTUのモスキート歪みを軽減しつつ、SAOパラメータに関する符号化情報量を削減できる。しかし、符号化対象CTUと隣接するCTUとに、互いに異なる量子化値が適用される場合、モスキート歪の大きさがそれら二つのCTU間で異なる。そのため、符号化対象CTUに隣接CTUのSAOパラメータがそのまま適用されると、符号化対象CTUにて生じるモスキート歪が十分に除去されないことがある。
【００１１】
一つの側面では、本発明は、動画像データに適用されるループ内フィルタに関する符号化効率を向上できる動画像符号化装置を提供することを目的とする。
【課題を解決するための手段】
【００１２】
一つの実施形態によれば、動画像データに含まれる、符号化対象ピクチャが分割された複数のブロックのうちの符号化対象ブロックを符号化する動画像符号化装置が提供される。この動画像符号化装置は、符号化対象ブロックの各画素の予測誤差信号を直交変換して直交変換係数を算出し、直交変換係数を符号化対象ブロックに適用される量子化値に従って量子化することにより符号化対象ブロックを符号化するソース符号化部と、符号化された符号化対象ブロックを復号して局所復号ブロックを生成する復号部と、符号化対象ブロックに適用されるループ内フィルタのモードと、符号化対象ブロックに隣接する符号化済みの参照ブロックに適用されるループ内フィルタのモードとが同一である場合、参照ブロックに適用されるループ内フィルタのフィルタ係数を、参照ブロックに適用される量子化値と符号化対象ブロックに適用される量子化値とに基づいて補正して、補正されたフィルタ係数を算出する補正部と、補正されたフィルタ係数を用いて、局所復号ブロックにループ内フィルタを適用するフィルタ処理部と、ループ内フィルタに関して符号化対象ブロックにおいて参照ブロックを参照することを示す情報を符号化対象ブロックの符号化データに付加する付加部とを有する。
【００１３】
また他の実施形態によれば、符号化された動画像データに含まれる、復号対象ピクチャを分割した複数のブロックのうちの復号対象ブロックを復号する動画像復号装置が提供される。この動画像復号装置は、復号対象ブロックの符号化データに含まれる量子化係数を、復号対象ブロックに適用される量子化値に従って逆量子化して直交変換係数を算出し、直交変換係数を逆直交変換して復号対象ブロックの各画素の予測誤差信号を算出し、各画素の予測誤差信号に基づいて復号対象ブロックを復号する復号部と、復号対象ブロックの符号化データに、ループ内フィルタに関して復号対象ブロックに隣接する復号済みの参照ブロックを参照することを示す情報が含まれている場合、符号化された動画像データに含まれる、参照ブロックに適用されるループ内フィルタのフィルタ係数を、参照ブロックに適用される量子化値と復号対象ブロックに適用される量子化値とに基づいて補正して、補正されたフィルタ係数を算出する補正部と、補正されたフィルタ係数を用いて、復号された復号対象ブロックにループ内フィルタを適用するフィルタ処理部とを有する。
【発明の効果】
【００１４】
一つの側面では、動画像データに適用されるループ内フィルタに関する符号化効率を向上できる。
【図面の簡単な説明】
【００１５】
【図１】エッジオフセットの概要の説明図である。
【図２】バンドオフセットの概要の説明図である。
【図３】エッジオフセットが適用される前と適用された後の画素値の変化を説明する図である。
【図４】一つの実施形態による動画像符号化装置の概略構成図である。
【図５】SAOフィルタ処理に関する、動画像符号化装置のループ内フィルタ部のブロック図である。
【図６】ループ内フィルタ処理の動作フローチャートである。
【図７】動画像符号化処理の動作フローチャートである。
【図８】動画像復号装置の概略構成図である。
【図９】SAOフィルタ処理に関する、動画像復号装置のループ内フィルタ部のブロック図である。
【図１０】動画像復号処理の動作フローチャートである。
【図１１】実施形態またはその変形例による動画像符号化装置または動画像復号装置の各部の機能を実現するコンピュータプログラムが動作することにより、動画像符号化装置または動画像復号装置として動作するコンピュータの構成図である。
【発明を実施するための形態】
【００１６】
以下、図を参照しつつ、一つの実施形態による、動画像符号化装置について説明する。この動画像符号化装置は、符号化対象CTUに適用されるSAOのモードと、符号化対象CTUに隣接する符号化済みのCTUに適用されるSAOのモードとが同一である場合、それら二つのCTUのそれぞれに適用される量子化値に応じて隣接CTUのSAOパラメータを補正する。そして動画像符号化装置は、補正されたSAOパラメータを符号化対象CTUに適用する。これにより、この動画像符号化装置は、量子化により生じるモスキート歪を抑制しつつ、SAOのマージモードを適用可能なCTUの数を増やすことで、符号化効率を向上する。
【００１７】
最初に、SAOのモード及びSAOパラメータについて説明する。
図１は、SAOのモードの一つであるエッジオフセットの概要の説明図である。エッジオフセットは、CTU１００全体にわたって一つのエッジ方向を選択し、CTU１００内の各画素に対して、選択したエッジ方向における画素値変動の形状を表すカテゴリに応じたオフセット値を加算するフィルタである。なお、CTU１００は、動画像符号化装置においては、例えば、局所復号され、かつ、デブロッキングフィルタ処理されたCTUである。ここで、エッジ方向は、４個のクラス（クラス１ 水平方向、クラス２ 垂直方向、クラス３ 45度方向、クラス４ 135度方向）の何れかに分類される。例えば、CTU１００内の各画素について、クラスごとのエッジ強度が１次微分フィルタまたは２次微分フィルタに従って算出され、エッジ強度の平均値が最大となるクラスが選択される。
【００１８】
また、選択された方向における画素値変動の形状は、５個のカテゴリ（カテゴリ１, カテゴリ２, カテゴリ３, カテゴリ４, その他）の何れかに分類される。CTU１００内の各画素について、選択された方向に沿ってカテゴリごとの画素値変動の大きさが計算され、画素ごとに、画素値変動の大きさが最大となるカテゴリに分類される。例えば、選択された方向がクラス１である場合、CTU１００の画素１０１の画素値変動を調べる際に、画素１０１の左側及び右側に隣接する画素が参照される。また、カテゴリごとのオフセット値は、CTU１００に対応するオリジナルのCTUとエッジオフセット適用後のCTU１０２との対応画素間の画素値の差の絶対値和が最小となるように算出される。そしてCTU１００内の各画素について、その画素に対応するカテゴリのオフセット値がその画素の値に加算されることで、エッジオフセットが適用されたCTU１０２が得られる。例えば、CTU１００内の画素１０１（画素値p）の画素値変動の形状がカテゴリ１に分類される場合には、テーブル１１０に示される、カテゴリごとのオフセット値のうち、カテゴリ１のオフセット値o1が画素値pに加算される。したがって、エッジオフセットが適用されたCTU１０２では、画素１０１の画素値は(p+o1)となる。
【００１９】
図２は、SAOのモードの他の一つであるバンドオフセットの概要の説明図である。バンドオフセットは、CTU２００内の各画素に対して、その画素の値が属する画素値のレンジに対応したオフセット値を加算するフィルタである。なお、CTU２００も、動画像符号化装置においては、例えば、局所復号され、かつ、デブロッキングフィルタ処理されたCTUである。例えば、画素値が取り得る範囲（例えば、0〜255）を所定数で等間隔に分割することにより、複数のレンジが設定される。すなわち、個々のレンジには、そのレンジの上限となる画素値と下限となる画素値とが設定され、かつ、各レンジは互いに重ならない。そしてテーブル２１０に示されるように、レンジごとに、CTU２００内の画素が属するレンジが決定される。また、テーブル２１１に示されるように、レンジごとに、そのレンジに対応するオフセット値が設定される。なお、レンジごとのオフセット値は、CTU２００に対応するオリジナルのCTUとバンドオフセット適用後のCTU２０２との対応画素間の画素値の差の絶対値和が最小となるように算出される。そしてCTU２００内の画素ごとに、その画素が属するレンジに対応するオフセット値が、その画素の値に加算されることで、バンドオフセットが適用されたCTU２０２が得られる。例えば、CTU２００内の画素２０１の画素値pがレンジ２に属する場合、テーブル２１１に示される、レンジごとのオフセット値のうち、レンジ２のオフセット値o2が画素値pに加算される。したがって、バンドオフセットが適用されたCTU２０２では、画素２０１の画素値は(p+o2)となる。
【００２０】
図３は、エッジオフセットが適用される前と適用された後の画素値の変化を説明する図である。図３において、横軸は、CTU上の位置を表し、縦軸は、画素値を表す。図３の上側には、デブロッキングフィルタが適用された局所復号されたCTU内の一つの画素列における画素値変動を模式的に表すプロファイル３０１が示される。プロファイル３０１に示されるように、直交変換係数を量子化する際に、特に直交変換係数の高周波成分を荒く量子化することで、エッジ近辺の平坦部分において画素値が[-Δ, Δ]の範囲で変動するモスキート歪３１１が発生する。画素値の変動幅Δは量子化値に比例する。この場合、例えば、カテゴリごとのオフセット値は、テーブル３１０に示されるようになる。したがって、CTU内の各画素にエッジオフセットが適用され、カテゴリ１（極小値）となる画素の値にΔを加算し、カテゴリ４（極大値）となる画素の値からΔを減算することで、モスキート歪が相殺される。その結果として、同じ画素列についてのエッジオフセット適用後の画素値の変動は、図３の下側に示されるプロファイル３０２のように、エッジ以外の平坦部分が平滑化されたものとなる。
【００２１】
ここで、SAOの適用モード（エッジオフセット、バンドオフセット、フィルタ未適用）を表すフラグ、エッジオフセットの適用クラス及び各カテゴリのオフセット値、バンドオフセットの各レンジの上限及び下限とオフセット値とがSAOパラメータに含まれる。本実施形態では、符号化対象CTUと隣接する符号化済みCTUの両方にエッジオフセットが適用される場合、動画像符号化装置は、隣接CTUに適用された各カテゴリのオフセット値を、その二つのCTUのそれぞれに属する量子化グループの量子化値に基づいて補正する。これにより、参照される隣接CTUの各カテゴリのオフセット値に基づいて、符号化対象CTUに適用される各カテゴリのオフセット値が算出されるので、符号化対象CTUについては、マージモードが適用可能となる。
【００２２】
なお、ピクチャは、フレームまたはフィールドの何れであってもよい。フレームは、動画像データ中の一つの静止画像であり、一方、フィールドは、フレームから奇数行のデータあるいは偶数行のデータのみを取り出すことにより得られる静止画像である。また、CTUは、ピクチャを複数に分割して得られるブロックの一例である。また、エッジオフセットにおける、画素値変動の各クラスのオフセット値は、ループ内フィルタのフィルタ係数の一例である。
【００２３】
また本実施形態では、動画像符号化装置は、HEVCに準拠して動画像データを符号化するものとする。しかし、動画像符号化装置は、SAOのマージモードを適用可能、かつ、量子化値を符号化対象ブロックごとに調節可能な他の符号化標準に準拠して動画像データを符号化してもよい。
【００２４】
図４は、一つの実施形態による動画像符号化装置の概略構成図である。動画像符号化装置１は、動き探索部１１と、符号化制御部１２と、ソース符号化部１３と、復号部１４と、ループ内フィルタ部１５と、記憶部１６と、エントロピー符号化部１７とを有する。動画像符号化装置１が有するこれらの各部は、それぞれ、別個の回路として動画像符号化装置１に実装される。あるいは、動画像符号化装置１が有するこれらの各部は、その各部の機能を実現する回路が集積された一つまたは複数の集積回路として動画像符号化装置１に実装されてもよい。あるいはまた、動画像符号化装置１が有するこれらの各部は、動画像符号化装置１が有するプロセッサ上で実行されるコンピュータプログラムにより実現される機能モジュールであってもよい。
【００２５】
動画像符号化装置１は、符号化対象のピクチャについて、各CTUをラスタスキャン順に符号化する。そこで、以下では、動画像符号化装置１の各部について、一つのCTUに対する処理を例として説明する。
【００２６】
動き探索部１１は、符号化対象CTUを含む符号化対象ピクチャがインター予測符号化方式が適用可能なPピクチャまたはBピクチャである場合、符号化対象CTUについて適用可能なPrediction Unit(PU)ごとに動きベクトルを算出する。なお、符号化対象ピクチャの種別は、例えば、制御部（図示せず）が符号化対象の動画像データに適用するGroup Of Pictures(GOP)の構造及び符号化対象ピクチャのGOP内での位置に基づいて決定される。
【００２７】
動き探索部１１は、符号化対象CTUの着目するPUについて、一旦符号化されてから復号されたピクチャ（以下、局所復号ピクチャと呼ぶ）についての参照可能な領域に対してブロックマッチングを行って、着目するPUと最も一致する参照ブロックを特定する。そして動き探索部１１は、着目するPUと参照ブロック間の移動量を表すベクトルを動きベクトルとして算出する。なお、動き探索部１１は、符号化対象ピクチャがBピクチャである場合、L0予測とL1予測の両方について動きベクトルを算出する。動き探索部１１は、各PUの動きベクトルを、記憶部１６に記憶するとともに、符号化制御部１２へ通知する。
【００２８】
符号化制御部１２は、符号化対象CTUを分割するCU、PU及びTUの分割モード及びCUごとに適用される符号化モードを決定する。さらに、符号化制御部１２は、各量子化グループの量子化値、及び、符号化対象CTUに適用されるSAOのモードを決定する。なお、符号化対象CTUに設定される量子化グループは、例えば、予め設定されてもよい。
【００２９】
符号化制御部１２は、例えば、図示しない制御部から取得した、符号化対象CTUが含まれる符号化対象のピクチャのタイプを示す情報に基づいて、そのCTUの符号化モードを決定する。符号化対象のピクチャのタイプがイントラ予測符号化方式のみが適用可能なIピクチャであれば、符号化制御部１２は、適用される符号化モードとしてイントラ予測符号化方式を選択する。また、符号化対象のピクチャのタイプが、PピクチャまたはBピクチャであれば、符号化制御部１２は、例えば、適用される符号化モードとして、インター予測符号化方式及びイントラ予測符号化方式の何れかを選択する。
【００３０】
符号化制御部１２は、適用可能な符号化モードについての符号化対象CTUの符号化されたデータ量の評価値である符号化コストをCU単位でそれぞれ算出する。例えば、符号化制御部１２は、インター予測符号化方式については、CTUを分割するCU分割モード、PU分割モード及び動きベクトルの予測ベクトルの生成方法を規定するベクトルモードの組み合わせごとに符号化コストを算出する。なお、符号化制御部１２は、ベクトルモードとして、例えば、Adaptive Motion Vector Prediction(AMVP)モード、及び、Mergeモードの何れかを利用できる。
【００３１】
また、イントラ予測符号化方式については、符号化制御部１２は、CTUを分割するCU分割モード、PU分割モード及び予測ブロックの生成方法を規定する予測モードの組み合わせごとに符号化コストを算出する。
【００３２】
符号化制御部１２は、符号化コストを算出するために、例えば、着目するPUについて、次式に従って、予測誤差、すなわち画素差分絶対値和SADを算出する。
SAD=Σ|OrgPixel-PredPixel|
ここで、OrgPixelは着目するPUに含まれる画素の値であり、PredPixelは着目するブロックに対応する、符号化コストの算出対象となる符号化モードに従って生成された予測ブロックに含まれる画素の値である。
【００３３】
そして符号化制御部１２は、例えば、次式に従って、着目するCUについての符号化コストCostを算出する。
Cost=ΣSAD + λ*B
ここで、ΣSADは、着目するCUに含まれる各PUについて算出されたSADの総和である。またBは、動きベクトル、予測モードを表すフラグなど、予測誤差以外の項目についての符号量の推定値である。そしてλはラグランジュの未定乗数である。
【００３４】
なお、符号化制御部１２は、SADの代わりに、着目するPUと予測ブロックとの差分画像をアダマール変換した後の各画素のアダマール係数の絶対値和SATDを算出してもよい。
【００３５】
符号化制御部１２は、符号化対象CTUについて、例えば、取り得るCUサイズの中でサイズが大きい方から順に着目するCUを設定する。そして符号化制御部１２は、着目するCUについて、イントラ予測符号化方式に関してそのCU内のPU分割モードごとにコストが最小となる予測モードを選択する。また、符号化制御部１２は、着目するCUについて、インター予測符号化方式に関してそのCU内のPU分割モードごとにコストが最小となるベクトルモードを選択する。さらに、符号化制御部１２は、同サイズのCUごとに、イントラ予測符号化方式とインター予測符号化方式のうちで、符号化コストが小さい方を、そのCUについて適用する符号化モードとして選択する。
【００３６】
さらに、符号化制御部１２は、着目するCUを４分割したCUのそれぞれを、次に着目するCUとして、同様の処理を実行して、最小符号化コストを算出する。そして符号化制御部１２は、４分割したCUのそれぞれについて算出された、最小符号化コストの総和と、着目するCUについての最小符号化コストよりも小さければ、着目するCUを４分割する。符号化制御部１２は、各CUが分割されなくなるまで、上記の処理を繰り返すことで、符号化対象CTUに適用されるCU分割モード及びPU分割モードを決定する。
【００３７】
さらに、符号化制御部１２は、上記のようにして決定したCU分割モードに従ったCUごとに、TU分割モードを決定するとともに、符号化対象CTUに適用されるSAOのモード及び各量子化グループの量子化値を決定する。その際、符号化制御部１２は、適用可能なTU分割モード、SAOモード及び各量子化グループの量子化値の組み合わせごとに、次式に従ってRDコストCostを算出する。
【数１】
2018110313.tif 000003
ここで、org(i)は、着目するCUに含まれる画素の値であり、ldec(i)は、着目するTU分割モードを用いてそのCUを符号化し、さらに復号して得られる復号画素の値を表す。ldec(i)を算出する際、符号化制御部１２は、着目するSAOモードにしたがって復号されたCUの各画素にSAOフィルタ処理を行うことでldec(i)を算出すればよい。またbitは、そのCUを着目するTU分割モード及び着目する量子化値を用いて符号化したときの符号量を表す。なお、符号化制御部１２は、固定ビットレート(constant bitrate, CBR)で各ピクチャを符号化するように、各量子化グループの量子化値を設定してもよい。
【００３８】
（１）式の右辺の第一項は、符号化歪みを表し、右辺の第二項は符号量を表す。そのため、RDコストが最小となるTU分割モード、SAOモード及び各量子化グループの量子化値の組み合わせでは、符号化歪みと符号量が最適なバランスとなっている。そこで、符号化制御部１２は、RDコストCostが最小となるTU分割モード、SAOモード及び各量子化グループの量子化値の組み合わせを選択する。
【００３９】
符号化制御部１２は、符号化対象CTUについて選択したCU、PU及びTUの分割モード及び符号化モードの組み合わせをソース符号化部１３に通知する。また符号化制御部１２は、符号化対象CTUについて選択したCU、PU及びTUの分割モード及び符号化モードの組み合わせを記憶部１６に保存する。さらに、符号化制御部１２は、適用されるSAOのモードをループ内フィルタ部１５へ通知する。
【００４０】
ソース符号化部１３は、符号化対象CTU内の各画素について、PU単位で生成した予測ブロックの対応画素との間の差分を表す予測誤差信号を算出し、各画素の予測誤差信号をTU単位で直交変換することで直交変換係数を算出する。そしてソース符号化部１３は、各TUの直交変換係数を、そのTUが属する量子化グループの量子化値で量子化する。
【００４１】
まず、ソース符号化部１３は、符号化対象CTUについて選択されたCU及びPUの分割モード及び符号化モードの組み合わせに従ってPUごとに予測ブロックを生成する。ソース符号化部１３は、着目するCUがイントラ予測符号化される場合、そのCU内のPUごとに選択された予測モードに従って参照される、そのPUの周囲の符号化済みの領域内の画素の値に基づいて予測ブロックを生成する。
【００４２】
一方、ソース符号化部１３は、着目するCUがインター予測符号化される場合、そのCU内のPUごとに、記憶部１６から読み出した局所復号ピクチャを、そのPUについて算出された動きベクトルに基づいて動き補償することで予測ブロックを生成する。
【００４３】
ソース符号化部１３は、符号化対象CTU内の各画素について、予測ブロックの対応画素との差分演算を実行する。そしてソース符号化部１３は、符号化対象CTU内の各TUについて、その差分演算により得られたTU内の各画素についての差分値を予測誤差信号とする。
【００４４】
さらに、ソース符号化部１３は、インター予測符号化される各PUについて、符号化制御部１２により適用されると判定されたベクトルモードにしたがってそのPUの予測ベクトルを作成する。そしてソース符号化部１３は、そのPUの動きベクトルと予測ベクトル間の予測誤差信号を算出する。ソース符号化部１３は、インター予測符号化される各PUの動きベクトルの予測誤差信号をエントロピー符号化部１７へわたす。
【００４５】
予測誤差信号が算出されると、ソース符号化部１３は、符号化対象CTU内の各TUについて、そのTUの予測誤差信号を直交変換することで予測誤差信号の水平方向の周波数成分及び垂直方向の周波数成分を表す直交変換係数を求める。例えば、ソース符号化部１３は、予測誤差信号に対して、直交変換処理として離散コサイン変換(Discrete Cosine Transform, DCT)を実行することにより、直交変換係数として、DCT係数の組を得る。
【００４６】
各TUの直交変換係数が算出されると、ソース符号化部１３は、符号化対象CTUにおいて、TUごとの直交変換係数を、そのTUが属する量子化グループの量子化値に従って量子化することにより、量子化された直交変換係数を算出する。なお、以下では、量子化された直交変換係数を、単に量子化係数と呼ぶことがある。
ソース符号化部１３は、量子化された直交変換係数を復号部１４及びエントロピー符号化部１７へ出力する。
【００４７】
復号部１４は、符号化対象CTUに後続する他のCTUなどを符号化する際に符号化対象CTUを参照可能なように、符号化対象CTU内の各TUの量子化係数から符号化対象CTUを局所復号する。なお、以下では、局所復号された符号化対象CTUを局所復号ブロックと呼ぶ。そこで、復号部１４は、各TUの量子化された量子化係数を、そのTUに適用された量子化値に従って逆量子化することで、量子化前の直交変換係数を復元する。
【００４８】
復号部１４は、TUごとに、復元された直交変換係数に対して逆直交変換を行う。例えば、ソース符号化部１３が直交変換としてDCTを用いている場合、復号部１４は、逆直交変換として逆DCT処理を実行する。これにより、復号部１４は、TUごとに、符号化前の予測誤差信号と同程度の情報を有する予測誤差信号を復元する。
【００４９】
復号部１４は、TUごとに、そのTUの予測ブロックの各画素値に、復元された予測誤差信号を加算することで、局所復号ブロックを生成する。
復号部１４は、局所復号ブロックを生成する度に、その局所復号ブロックをループ内フィルタ部１５にわたす。
【００５０】
さらに、復号部１４は、ループ内フィルタ処理が行われた１枚のピクチャ分の局所復号ブロックを各CTUの符号化順序にしたがって結合することで得られる局所復号ピクチャを記憶部１６に書き込む。
【００５１】
ループ内フィルタ部１５は、局所復号ブロックが得られると、その局所復号ブロックに対してループ内フィルタ処理を実行する。例えば、ループ内フィルタ部１５は、ループ内フィルタ処理として、デブロッキングフィルタ処理及びSAOフィルタ処理を実行する。
【００５２】
ループ内フィルタ部１５は、局所復号ブロックに対してデブロッキングフィルタ処理を行った後、その局所復号ブロック内の各画素に対して、符号化制御部１２により決定されたSAOのモードにしたがって、SAOフィルタ処理を実行する。なお、ループ内フィルタ部１５は、デブロッキングフィルタ処理として、HEVCで規定されているデブロッキングフィルタ処理を局所復号ブロックに実行すればよい。
【００５３】
図５は、SAOフィルタ処理に関する、ループ内フィルタ部１５のブロック図である。ループ内フィルタ部１５は、マージモード適用判定部１５１と、パラメータ補正部１５２と、パラメータ設定部１５３と、フィルタ処理部１５４とを有する。
【００５４】
マージモード適用判定部１５１は、判定部の一例である。そしてマージモード適用判定部１５１は、符号化対象CTUに隣接する、符号化済みのCTU、すなわち、符号化対象CTUの左側または上側に隣接するCTUに適用されるSAOのモードと、符号化対象CTUに適用されるSAOのモードがともにエッジオフセットか否か判定する。符号化対象CTUの左側に隣接するCTUまたは上側に隣接するCTUの何れかにエッジオフセットが適用され、かつ、符号化対象CTUにエッジオフセットが適用される場合、マージモード適用判定部１５１は、符号化対象CTUにマージモードを適用すると判定する。そしてマージモード適用判定部１５１は、SaoMergeLeftFlagとSaoMergeUpFlagのフラグの値を、その二つの隣接CTUのうち、エッジオフセットが適用されるCTUを参照することを示すように設定する。なお、符号化対象CTUの左側に隣接するCTU及び上側に隣接するCTUの両方について、エッジオフセットが適用される場合、マージモード適用判定部１５１は、符号化対象CTUについて、その二つの隣接CTUの何れを参照するように設定してもよい。その際、マージモード適用判定部１５１は、符号化対象CTUに含まれる各量子化グループの量子化値の統計的代表値（例えば、平均値、中央値または最頻値）と、二つの隣接CTUのそれぞれに含まれる各量子化グループの量子化値の統計的代表値を算出してもよい。そしてマージモード適用判定部１５１は、その二つの隣接CTUのうち、量子化値の統計的代表値が符号化対象CTUについての量子化値の統計的代表値に近い方のCTUを参照するようにしてもよい。
【００５５】
マージモード適用判定部１５１は、符号化対象CTUにマージモードが適用されるか否かの判定結果を、パラメータ補正部１５２及びパラメータ設定部１５３に通知する。さらに、マージモード適用判定部１５１は、符号化対象CTUについてのマージモードの適用可否、及び、マージモードに関して参照される隣接CTUを示すフラグの値を設定し、そのフラグをエントロピー符号化部１７へ通知する。
【００５６】
パラメータ補正部１５２は、補正部の一例である。そしてパラメータ補正部１５２は、符号化対象CTUにマージモードが適用される場合、参照する隣接CTUのSAOのパラメータを、隣接CTUに属する各量子化グループの量子化値と符号化対象CTUに属する各量子化グループの量子化値とに基づいて補正する。なお、以下では、説明の便宜上、参照する隣接CTUを、単に参照CTUと呼ぶ。
【００５７】
本実施形態では、パラメータ補正部１５２は、エッジオフセットにおける、参照CTUについての各カテゴリのオフセット値を、次式に従って補正する。
【数２】
2018110313.tif 000004
ここで、Oxは、参照CTUにおける、カテゴリx(x=[0,3])のオフセット値を表し、O'xは、補正後のカテゴリxのオフセット値を表す。また、qPprevは、参照CTUについての量子化値を表し、qPcurrは、符号化対象CTUについての量子化値を表す。そしてlevelScale[i](i=[0,5])は、量子化値に対応する量子化スケールを表し、例えば、levelScale[i](i=[0,5])は、{40, 45, 51, 57, 64, 72}である。
【００５８】
なお、参照CTUに含まれる量子化グループの数が一つである場合、qPprevは、その量子化グループに適用される量子化値とすることができる。一方、参照CTUに複数の量子化グループが含まれる場合、qPprevは、それら複数の量子化グループのそれぞれの量子化値の統計的代表値（例えば、平均値、中央値あるいは最頻値）とすることができる。あるいは、qPprevは、参照CTUに含まれる複数の量子化グループのうち、符号化順で最後の量子化グループに適用される量子化値であってもよい。
【００５９】
同様に、符号化対象CTUに含まれる量子化グループの数が一つである場合、qPcurrは、その量子化グループに適用される量子化値とすることができる。一方、符号化対象CTUに複数の量子化グループが含まれる場合、qPcurrは、それら複数の量子化グループのそれぞれの量子化値の統計的代表値（例えば、平均値、中央値あるいは最頻値）とすることができる。あるいは、qPcurrは、符号化対象CTUに含まれる複数の量子化グループのうち、符号化順で先頭の量子化グループに適用される量子化値であってもよい。このように、パラメータ補正部１５２は、符号化対象CTUに適用される量子化値及び参照CTUに適用される量子化値を決定することで、符号化対象CTUまたは参照CTUに複数の量子化グループが含まれる場合でも、適切に各カテゴリのオフセット値を補正できる。
【００６０】
パラメータ補正部１５２は、補正された各カテゴリのオフセット値をフィルタ処理部１５４へ通知する。
【００６１】
パラメータ設定部１５３は、フィルタ係数算出部の一例であり、符号化対象CTUにマージモードが適用されない場合、符号化対象CTUに適用されるSAOのモード（エッジオフセットまたはバンドオフセット）についての各パラメータを決定する。
【００６２】
すなわち、適用されるSAOのモードがエッジオフセットである場合、パラメータ設定部１５３は、図１とともに説明したように、デブロッキングフィルタ処理された局所復号ブロックのエッジ方向を選択し、選択したエッジ方向に沿って各画素のカテゴリを決定する。またパラメータ設定部１５３は、各カテゴリのオフセット値を決定する。その際、パラメータ設定部１５３は、例えば、オリジナルの符号化対象CTUと、デブロッキングフィルタ処理及びエッジオフセット処理が行われた局所復号ブロックの対応画素間の差の絶対値和が最小となるように、各カテゴリのオフセット値を決定する。そしてパラメータ設定部１５３は、選択されたエッジ方向を表すクラス、各画素が属するカテゴリ及びカテゴリごとのオフセット値をフィルタ処理部１５４へ通知する。
【００６３】
また、符号化対象CTUにマージモードが適用される場合、パラメータ設定部１５３は、上記と同様の処理を行って、エッジ方向を選択し、各画素が属するカテゴリを決定する。そしてパラメータ設定部１５３は、選択されたエッジ方向を表すクラス、及び、各画素が属するカテゴリをフィルタ処理部１５４及びエントロピー符号化部１７へ通知する。
【００６４】
さらにまた、符号化対象CTUにバンドオフセットが適用される場合、パラメータ設定部１５３は、図２とともに説明したように、局所復号ブロックの各画素が属するレンジを決定する。なお、各レンジの上限値及び下限値は、予め設定されてもよい。さらに、パラメータ設定部１５３は、レンジごとのオフセット値を設定する。その際、パラメータ設定部１５３は、例えば、オリジナルの符号化対象CTUと、デブロッキングフィルタ処理及びバンドオフセット処理が行われた局所復号ブロックの対応画素間の差の絶対値和が最小となるように、各レンジのオフセット値を決定する。
パラメータ設定部１５３は、各レンジの上限値及び下限値と、オフセット値とをフィルタ処理部１５４及びエントロピー符号化部１７へ通知する。
【００６５】
フィルタ処理部１５４は、デブロッキング処理が行われた局所復号ブロックの各画素について、適用されるSAOのモードにしたがって、そのモードのSAOフィルタ処理を実行する。
【００６６】
適用されるSAOのモードがエッジオフセットである場合、フィルタ処理部１５４は、局所復号ブロックの各画素について、その画素が属する画素値変動のカテゴリのオフセット値を、その画素の画素値に加算する。その際、フィルタ処理部１５４は、局所復号ブロックにマージモードが適用される場合、各カテゴリのオフセット値として、パラメータ補正部１５２により算出された、補正されたオフセット値を使用する。一方、局所復号ブロックにマージモードが適用されない場合、フィルタ処理部１５４は、各カテゴリのオフセット値として、パラメータ設定部１５３により算出されたオフセット値を使用すればよい。
【００６７】
また、適用されるSAOのモードがバンドオフセットである場合、フィルタ処理部１５４は、局所復号ブロックの各画素について、その画素が属するレンジに対応するオフセット値を、その画素の画素値に加算する。
【００６８】
フィルタ処理部１５４は、SAOフィルタ処理が行われた、局所復号ブロックを記憶部１６に記憶する。
【００６９】
図６は、ループ内フィルタ部１５により実行されるループ内フィルタ処理の動作フローチャートである。ループ内フィルタ部１５は、局所復号ブロックごとに、以下に示す動作フローチャートに従ってループ内フィルタ処理を実行する。
【００７０】
ループ内フィルタ部１５は、局所復号ブロックにデブロッキングフィルタ処理を実行する（ステップＳ１０１）。
【００７１】
マージモード適用判定部１５１は、局所復号ブロックに適用されるSAOのモード、及び、局所復号ブロックの左または上側に隣接するCTUに適用されるSAOのモードがともにエッジオフセットであるか否か判定する（ステップＳ１０２）。
【００７２】
局所復号ブロックに適用されるSAOのモードと、局所復号ブロックの左または上側に隣接するCTUに適用されるSAOのモードがともにエッジオフセットとする（ステップＳ１０２−Ｙｅｓ）。この場合、マージモード適用判定部１５１は、局所復号ブロックにマージモードを適用すると判定する（ステップＳ１０３）。そしてパラメータ補正部１５２は、エッジオフセットが適用される隣接CTUである参照CTUの各カテゴリのオフセット値を、参照CTUの量子化値と局所復号ブロックの量子化値とに基づいて補正する（ステップＳ１０４）。パラメータ補正部１５２は、補正された各カテゴリのオフセット値をフィルタ処理部１５４へ通知する。また、パラメータ設定部１５３は、局所復号ブロックのエッジ方向、及び、局所復号ブロックの各画素が属するカテゴリを決定する（ステップＳ１０５）。そしてパラメータ設定部１５３は、局所復号ブロックのエッジ方向、及び、局所復号ブロックの各画素が属するカテゴリをフィルタ処理部１５４へ通知する。
【００７３】
フィルタ処理部１５４は、補正された各カテゴリのオフセット値を用いて、局所復号ブロックの各画素にエッジオフセット処理を実行する（ステップＳ１０６）。
【００７４】
一方、ステップＳ１０２にて、局所復号ブロックに適用されるSAOのモードがバンドオフセットである場合（ステップＳ１０２−Ｎｏ）、マージモード適用判定部１５１は、局所復号ブロックにマージモードを適用しないと判定する（ステップＳ１０７）。また、局所復号ブロックの左に隣接するCTU及び上側に隣接するCTUのそれぞれに適用されるSAOのモードがバンドオフセットである場合も、マージモード適用判定部１５１は、局所復号ブロックにマージモードを適用しないと判定する。そしてパラメータ設定部１５３は、局所復号ブロックに適用されるSAOのモードにしたがって、SAOのパラメータを決定する（ステップＳ１０８）。
【００７５】
フィルタ処理部１５４は、局所復号ブロックに適用されるSAOのモードにしたがって、局所復号ブロックの各画素にSAOフィルタ処理を実行する（ステップＳ１０９）。
ステップＳ１０６またはＳ１０９の後、ループ内フィルタ部１５は、ループ内フィルタ処理を終了する。
【００７６】
記憶部１６は、ループ内フィルタ部１５から受け取った、ループ内フィルタ処理が行われた局所復号ブロックを一時的に記憶する。記憶部１６は、動き探索部１１、符号化制御部１２及びソース符号化部１３に、局所復号ピクチャまたは局所復号ブロックを供給する。なお、記憶部１６は、符号化対象ピクチャが参照する可能性がある、予め定められた所定枚数分の局所復号ピクチャを記憶し、局所復号ピクチャの枚数がその所定枚数を超えると、符号化順序が古い局所復号ピクチャから順に破棄する。
さらに、記憶部１６は、インター予測符号化された局所復号ブロックのそれぞれについての動きベクトルを記憶する。さらにまた、記憶部１６は、各CTUについて選択したCU、PU及びTUの分割モード及び符号化モードの組み合わせを記憶する。
【００７７】
エントロピー符号化部１７は、付加部の一例である。エントロピー符号化部１７は、符号化対象CTUの各TUの量子化係数及び各PUの動きベクトルの予測誤差信号、及び、分割モード、適用される符号化モード、各量子化グループの量子化値及びSAOパラメータ等を表す各種シンタックスなどをエントロピー符号化する。そしてエントロピー符号化部１７は、エントロピー符号化された量子化係数などに、エントロピー符号化された各種シンタックスを付加する。
【００７８】
本実施形態では、エントロピー符号化部１７は、エントロピー符号化方式として、Context-based Adaptive Binary Arithmetic Coding(CABAC)といった算術符号化処理を用いる。そしてエントロピー符号化部１７は、エントロピー符号化により得られたビットストリームを出力する。
【００７９】
エントロピー符号化部１７により出力された各CTUのビットストリームは所定の順序で結合され、HEVCで規定されるヘッダ情報などを付加することで、符号化された動画像データを含む符号化ビットストリームが得られる。動画像符号化装置１は、その符号化ビットストリームを磁気記録媒体、光記録媒体あるいは半導体メモリなどを有する記憶装置（図示せず）に記憶するか、あるいはその符号化ビットストリームを他の機器へ出力する。
【００８０】
図７は、動画像符号化装置１により実行される、動画像符号化処理の動作フローチャートである。動画像符号化装置１は、CTUごとに以下に示される動作フローチャートに従って動画像符号化処理を実行する。
【００８１】
動き探索部１１は、符号化対象CTU内の適用可能な各PUについて動きベクトルを算出する（ステップＳ２０１）。そして動き探索部１１は、各PUの動きベクトルを符号化制御部１２へ通知する。なお、符号化対象CTUが含まれる符号化対象ピクチャがBピクチャである場合には、L0方向及びL1方向のそれぞれについて動きベクトルを算出する。また、符号化対象ピクチャがIピクチャである場合には、ステップＳ２０１の処理は省略されてもよい。
【００８２】
符号化制御部１２は、符号化対象CTUについて、CU、PU及びTUのそれぞれの分割モード、適用される符号化モードを決定する（ステップＳ２０２）。さらに、符号化制御部１２は、符号化対象CTUについて、適用されるSAOのモード及び符号化対象CTUに含まれる各量子化グループの量子化値を決定する（ステップＳ２０３）。そして符号化制御部１２は、CU、PU及びTUの分割モード、適用される符号化モード及び各量子化グループの量子化値をソース符号化部１３に通知する。また符号化制御部１２は、各量子化グループの量子化値及び適用されるSAOのモードをループ内フィルタ部１５に通知する。
【００８３】
ソース符号化部１３は、決定されたCU及びPUの分割モード、適用される符号化モードに応じて予測ブロックを生成する（ステップＳ２０４）。そしてソース符号化部１３は、符号化対象CTUと予測ブロックの対応画素間の予測誤差信号を算出する（ステップＳ２０５）。
【００８４】
ソース符号化部１３は、各画素の予測誤差信号をTUごとに直交変換することで、TUごとに直交変換係数を算出する（ステップＳ２０６）。そしてソース符号化部１３は、符号化対象CTUの各TUの直交変換係数を、そのTUが属する量子化グループの量子化値に従って量子化して量子化係数を算出する（ステップＳ２０７）。そしてソース符号化部１３は、各TUの量子化係数を復号部１４及びエントロピー符号化部１７へ出力する。
【００８５】
復号部１４は、符号化対象CTUの各TUについての量子化係数から、そのCTUに対応する局所復号ブロックを生成する（ステップＳ２０８）。そして復号部１４は、局所復号ブロックをループ内フィルタ部１５へわたす。
【００８６】
ループ内フィルタ部１５は、局所復号ブロックに対してループ内フィルタ処理を実行する（ステップＳ２０９）。そしてループ内フィルタ部１５は、ループ内フィルタ処理が行われた局所復号ブロックを記憶部１６に記憶する。
【００８７】
エントロピー符号化部１７は、符号化対象CTUの各TUについての量子化係数及び動きベクトルについての予測誤差などをエントロピー符号化する。さらに、エントロピー符号化部１７は、符号化対象CTUに適用されるSAOパラメータ及び各量子化グループの量子化値を含む、各種シンタックスをエントロピー符号化する（ステップＳ２１０）。エントロピー符号化部１７は、得られた符号化ビットストリームを出力する。そして動画像符号化装置１は、一つのCTUに対する動画像符号化処理を終了する。
【００８８】
以上に説明してきたように、この動画像符号化装置は、符号化対象CTUに適用されるSAOのモードと参照CTUに適用されるSAOのモードが同じである場合、各CTUに適用される量子化値に基づいて、参照CTUのSAOのパラメータを補正する。そして動画像符号化装置は、補正したパラメータを利用して、符号化対象CTUにSAOフィルタ処理を実行する。そのため、この動画像符号化装置は、符号化対象CTUに適用される量子化値と参照CTUに適用される量子化値とが異なっていても、符号化対象CTUにSAOのマージモードを適用できるとともに、その二つのCTUに適用される量子化値の違いによる画質の劣化も抑制できる。したがって、この動画像符号化装置は、画質の劣化を抑制しつつ、SAOに関する符号化効率を向上できる。
【００８９】
図８は、上記の実施形態による動画像符号化装置により符号化された動画像データを復号する動画像復号装置の概略構成図である。動画像復号装置２は、エントロピー復号部２１と、復号部２２と、ループ内フィルタ部２３と、記憶部２４とを有する。
動画像復号装置２が有するこれらの各部は、それぞれ別個の回路として形成される。あるいは動画像復号装置２が有するこれらの各部は、その各部に対応する回路が集積された一つの集積回路として動画像復号装置２に実装されてもよい。さらに、動画像復号装置２が有するこれらの各部は、動画像復号装置２が有するプロセッサ上で実行されるコンピュータプログラムにより実現される、機能モジュールであってもよい。
【００９０】
動画像復号装置２は、符号化された動画像データを含む符号化ビットストリームを、例えば、通信ネットワーク及び動画像復号装置２を通信ネットワークに接続するためのインターフェース回路を介して取得する。そして動画像復号装置２は、その符号化ビットストリームを、図示しないバッファメモリに記憶させる。動画像復号装置２は、符号化ビットストリームを、CTU単位でバッファメモリから読み出し、そのCTU単位の符号化ビットストリームをエントロピー復号部２１へ入力する。
【００９１】
エントロピー復号部２１は復号対象CTUの符号化ビットストリームをエントロピー復号する。その際、エントロピー復号部２１は、動画像符号化装置１にて採用されたエントロピー符号化方式にしたがって、符号化ビットストリームをエントロピー復号すればよい。そしてエントロピー復号部２１は、符号化ピットストリームをエントロピー復号することで、復号対象CTU内の各TUの量子化係数を復元する。またエントロピー復号部２１は、インター予測符号化されている各CUについて、そのCUに含まれる各PUについての動きベクトルの予測誤差信号を復元する。さらに、エントロピー復号部２１は、イントラ予測符号化されている各CUについて、そのCUに含まれる各PUについての予測モードを復元する。さらに、エントロピー復号部２１は、適用された分割モード、符号化モード、各量子化グループの量子化値、及び、SAOパラメータを含む、各種シンタックスを復元する。そしてエントロピー復号部２１は、分割モード、符号化モード等を表すシンタックス、動きベクトルの予測誤差信号及び量子化係数などを復号部２２へ渡す。またエントロピー復号部２１は、SAOパラメータをループ内フィルタ部２３へ渡す。
【００９２】
復号部２２は、復号対象CTUについて、復号済みのピクチャまたは復号対象ピクチャの復号済みの領域を参照して、復号対象CTU内のCUごとに、そのCUに含まれる各PUの予測ブロックを生成する。その際、復号部２２は、動画像符号化装置１のソース符号化部１３と同様の処理を実行することにより予測ブロックを生成すればよい。さらに、復号部２２は、適用されたベクトルモードを表す情報、及び、動きベクトルの予測誤差信号などから動きベクトルも再生する。
【００９３】
復号部２２は、エントロピー復号部２１から受け取った各TUの量子化係数を、そのTUが属する量子化グループについての復号された量子化値に従って逆量子化する。この逆量子化により、各TUの直交変換係数が復元される。その後、復号部２２は、TUごとに、直交変換係数を逆直交変換処理する。逆量子化処理及び逆直交変換処理を各TUの量子化係数に対して実行することにより、CTU全体の各画素の予測誤差信号が再生される。
【００９４】
復号部２２は、復号対象CTU内の各PUの予測ブロックの各画素値に、その画素に対応する再生された予測誤差信号を加算することにより、各PUを復号できる。そして復号部２２は、復号された各PUを、符号化順序に従って結合することにより、CTUを復号する。復号部２２は、復号されたCTUをループ内フィルタ部２３へわたす。また、復号部２２は、復号され、ループ内フィルタ部２３によりループ内フィルタ処理が行われたCTUを、符号化順序に従って結合することでピクチャ全体を復号する。復号部２２は、復号されたピクチャを記憶部２４に記憶するとともに、復号されたピクチャをバッファメモリに記憶する。バッファメモリに記憶されている復号された各ピクチャは、制御部（図示せず）により、表示順序に従って表示装置（図示せず）へ出力される。
【００９５】
ループ内フィルタ部２３は、動画像符号化装置１のループ内フィルタ部１５と同様に、復号されたCTUに対してデブロッキングフィルタ処理及びSAOフィルタ処理といったループ内フィルタ処理を実行する。
【００９６】
図９は、SAOフィルタ処理に関する、ループ内フィルタ部２３のブロック図である。ループ内フィルタ部２３は、マージモード適用判定部２３１と、パラメータ補正部２３２と、パラメータ設定部２３３と、フィルタ処理部２３４とを有する。
【００９７】
マージモード適用判定部２３１は、復号対象CTUについて付された、復号されたSAOのパラメータを参照して、エッジオフセット及びバンドオフセットの何れが適用されるか、あるいはSAOが適用されないかを判定する。
【００９８】
さらに、マージモード適用判定部２３１は、復号対象CTUに付された、SAOのマージモードの適用可否を表すフラグ(SaoMergeLeftFlag及びSaoMergeUpFlag)を参照して、復号対象CTUにマージモードが適用されるか否かを判定する。すなわち、二つのフラグSaoMergeLeftFlag及びSaoMergeUpFlagのうち、何れか一方が'1'となっていれば、マージモード適用判定部２３１は、復号対象CTUにマージモードが適用されると判定する。そしてマージモード適用判定部２３１は、その二つのフラグのうち、'1'の値を持つ方のフラグに基づいて、参照CTUを特定する。
マージモード適用判定部２３１は、復号対象CTUにマージモードが適用されるか否かの判定結果をパラメータ補正部２３２及びフィルタ処理部２３４へ通知する。
【００９９】
パラメータ補正部２３２は、復号対象CTUにマージモードが適用される場合、動画像符号化装置１のパラメータ補正部１５２と同様に、参照CTUについて求められたエッジオフセットの各カテゴリのオフセット値を、（２）式に従って補正する。そしてパラメータ補正部２３２は、補正された各カテゴリのオフセット値をフィルタ処理部２３４へ通知する。
【０１００】
パラメータ設定部２３３は、動画像符号化装置１のパラメータ設定部１５３と同様に、エッジオフセットが適用される場合、復号対象CTUの各画素が属するカテゴリを決定する。さらに、復号対象CTUにマージモードが適用されない場合、パラメータ設定部２３３は、復号されたSAOパラメータに従って各カテゴリのオフセット値を決定する。また、パラメータ設定部２３３は、バンドオフセットが適用される場合、復号されたSAOパラメータに従って各レンジの画素値の範囲、各画素が属するレンジ及びレンジごとのオフセット値を決定する。
【０１０１】
パラメータ設定部２３３は、復号対象CTUについて決定したSAOの各種パラメータをフィルタ処理部２３４へ通知する。
【０１０２】
フィルタ処理部２３４は、動画像符号化装置１のフィルタ処理部１５４と同様に、復号対象CTUの各画素に対してSAOフィルタ処理を実行する。その際、フィルタ処理部２３４は、復号対象CTUにエッジオフセットが適用され、かつ、マージモードが適用されない場合、そのCTU内に対して復号された各カテゴリのオフセット値を用いて、エッジオフセット処理を実行する。一方、フィルタ処理部２３４は、復号対象CTUにマージモードが適用される場合、補正された各カテゴリのオフセット値を用いて、エッジオフセット処理を実行する。
【０１０３】
また、フィルタ処理部２３４は、復号対象CTUにバンドオフセットが適用される場合、そのCTU内に対して復号された各レンジのオフセット値を用いて、バンドオフセット処理を実行すればよい。
【０１０４】
記憶部２４は、復号部２２から受け取った、復号され、かつループ内フィルタ処理が行われたCTU及び復号されたピクチャを一時的に記憶する。そして記憶部２４は、復号部２２に、CTUを参照領域として、あるいはピクチャを参照ピクチャとして供給する。なお、記憶部２４は、予め定められた所定枚数分のピクチャを記憶し、記憶されているデータ量がその所定枚数に相当する量を超えると、符号化順序が古いピクチャから順に破棄する。
【０１０５】
図１０は、動画像復号装置２により実行される、動画像復号処理の動作フローチャートである。動画像復号装置２は、復号対象となるCTUごとに図１０に示される動画像復号処理を実行する。
エントロピー復号部２１は、復号対象CTUの符号化ビットストリームをエントロピー復号することにより、復号対象CTUの各TUの量子化係数、及び、各量子化グループの量子化値及びSAOパラメータを含む各種シンタックスなどを再生する（ステップＳ３０１）。
【０１０６】
復号部２２は、復号対象CTUに含まれる各CUについて適用された符号化モードに応じて、復号済みのピクチャまたは復号対象ピクチャの復号済みの領域を参照してPUごとに予測ブロックを生成する（ステップＳ３０２）。
【０１０７】
復号部２２は、エントロピー復号部２１から受け取った量子化係数に、量子化値により決定された量子化幅に相当する所定数を乗算することにより逆量子化する。そして、復号部２２は、直交変換信号をTU単位で逆直交変換処理することにより復号対象CTUの各画素の予測誤差信号を再生する。その後、復号部２２は、予測ブロックの各画素値に、その画素に対応する再生された予測誤差信号を加算することにより、復号対象CTUを再生する（ステップＳ３０３）。復号部２２は、再生したCTUをループ内フィルタ部２３へわたす。
【０１０８】
ループ内フィルタ部２３は、再生された復号対象CTUにデブロッキングフィルタ処理を実行する（ステップＳ３０４）。また、ループ内フィルタ部２３のマージモード適用判定部２３１は、再生された復号対象CTUについてのSAOのマージモードの適用可否を表すフラグを参照して、マージモードが適用されるか否か判定する（ステップＳ３０５）。マージモードが適用される場合（ステップＳ３０５−Ｙｅｓ）、マージモード適用判定部２３１は、そのフラグを参照して、参照CTUを特定する。そしてループ内フィルタ部２３のパラメータ補正部２３２は、参照CTUのSAOのパラメータを、参照CTUの量子化値及び復号対象CTUの量子化値に基づいて補正する（ステップＳ３０６）。ループ内フィルタ部２３のフィルタ処理部２３４は、補正されたSAOのパラメータを用いて、再生され、かつデブロッキングフィルタ処理が行われた復号対象CTUにSAOフィルタ処理を実行する（ステップＳ３０７）。
【０１０９】
一方、マージモードが適用されない場合（ステップＳ３０５−Ｎｏ）、フィルタ処理部２３４は、復号対象CTUについての復号されたSAOのパラメータを利用する。そしてフィルタ処理部２３４は、再生され、かつデブロッキングフィルタ処理が行われた復号対象CTUにSAOフィルタ処理を実行する（ステップＳ３０８）。ステップＳ３０７またはＳ３０８の後、ループ内フィルタ部２３は、SAOフィルタ処理が行われた復号対象CTUを記憶部２４に記憶する。そして動画像復号装置２は、復号対象CTUについての動画像復号処理を終了する。
【０１１０】
以上に説明してきたように、この動画像復号装置は、上記の実施形態による動画像符号化装置により、参照CTUと復号対象CTUとで異なる量子化値が適用される場合でも、再生された復号対象CTUに対してSAOのマージモードを適用できる。
【０１１１】
なお、変形例によれば、符号化（復号）対象CTUに複数の量子化グループが含まれ、かつ、符号化対象CTUにSAOのマージモードが適用される場合、量子化グループごとにエッジオフセットの各カテゴリのオフセット値が補正されてもよい。この場合も、動画像符号化装置１のパラメータ補正部１５２及び動画像復号装置２のパラメータ補正部２３２は、（２）式に従って量子化グループごとの各カテゴリのオフセット値の補正値を算出すればよい。ただしこの場合には、パラメータ補正部１５２及びパラメータ補正部２３２は、（２）式におけるqPcurrとして、着目する量子化グループの量子化値を用いればよい。
この変形例によれば、符号化（復号）対象CTUに複数の量子化グループが含まれ、かつ、量子化グループごとに異なる量子化値が用いられる場合でも、各量子化グループにとって適切なオフセット値が算出される。
【０１１２】
また他の変形例によれば、パラメータ補正部１５２及びパラメータ補正部２３２は、符号化（復号）対象CTUの量子化値またはそのCTUに属する各量子化グループの量子化値qPcurrを、（２）式の変数Qcurrとして用いて、各カテゴリのオフセット値を補正してもよい。同様に、パラメータ補正部１５２及びパラメータ補正部２３２は、参照CTUの量子化値qPprevを、（２）式における変数Qprevとして用いて、各カテゴリのオフセット値を補正してもよい。
【０１１３】
さらに他の変形例によれば、マージモード適用判定部１５１は、符号化対象CTUと符号化対象CTUの上または左に隣接する符号化済みのCTUの両方にバンドオフセットが適用される場合も、符号化対象CTUについてマージモードが適用されると判定してもよい。この場合も、マージモード適用判定部１５１は、符号化対象CTUの上または左に隣接する二つの符号化済みのCTUのうち、バンドオフセットが適用されるCTUを参照CTUとすればよい。そしてパラメータ補正部１５２及びパラメータ補正部２３２は、（２）式に従って、参照CTUの各レンジのオフセット値を補正すればよい。なお、バンドオフセットの各レンジのオフセット値は、ループ内フィルタのフィルタ係数の他の一例である。すなわち、パラメータ補正部１５２及びパラメータ補正部２３２は、（２）式において、Ox及びO'x(x=[0,m-1]、mはレンジの総数)を、それぞれ、各レンジのオフセット値及び補正後のオフセット値とすればよい。そして動画像符号化装置１のフィルタ処理部１５４及び動画像復号装置２のフィルタ処理部２３４は、補正された各レンジのオフセット値を、符号化（復号）対象CTUについて用いればよい。さらに、この変形例においても、符号化（復号）対象CTUに属する量子化グループごとに、各レンジのオフセット値が補正されてもよい。
この変形例によれば、マージモードの適用対象となるCTUが増えるので、符号化効率がより向上する。
【０１１４】
さらに他の変形例によれば、動画像符号化装置１の符号化制御部１２は、符号化対象CTUについて、SAOのマージモードが適用されるか否かも判定してもよい。この場合には、符号化制御部１２は、上または左に隣接する符号化済みのCTUにエッジオフセットが適用されている場合、エッジオフセットについてのマージモードが適用される場合の符号化コストも（１）式に従って算出すればよい。同様に、符号化制御部１２は、上または左に隣接する符号化済みのCTUにバンドオフセットが適用されている場合、バンドオフセットについてのマージモードが適用される場合の符号化コストも（１）式に従って算出すればよい。そして符号化制御部１２は、エッジオフセットについてマージモードが適用される場合の符号化コストが最小となる場合に、符号化対象CTUに対してエッジオフセットについてのマージモードを適用すると判定すればよい。また、符号化制御部１２は、バンドオフセットについてマージモードが適用される場合の符号化コストが最小となる場合に、符号化対象CTUに対してバンドオフセットについてのマージモードを適用すると判定すればよい。
【０１１５】
この変形例によれば、動画像符号化装置は、マージモードの適用可否をより適切に決定できる。なお、この変形例によれば、マージモード適用判定部１５１は省略されてもよい。
【０１１６】
さらに他の実施形態によれば、動画像符号化装置１のループ内フィルタ部１５及び動画像復号装置２のループ内フィルタ部２３は、デブロッキングフィルタ処理を省略してもよい。
【０１１７】
さらに他の実施形態によれば、ループ内フィルタとして、SAOフィルタ以外の適応フィルタが用いられてもよい。この場合も、上記の実施形態または変形例と同様に、参照CTUについて適用されるその適応フィルタのフィルタ係数も、符号化対象CTUに適用される量子化値と参照CTUに適用される量子化値とに基づいて、（２）式に従って補正されてもよい。そして補正されたフィルタ係数が符号化対象CTUについての局所復号ブロックに適用されてもよい。
【０１１８】
上述した実施形態またはその変形例による動画像符号化装置及び動画像復号装置は、様々な用途に利用される。例えば、この動画像符号化装置及び動画像復号装置は、映像送信装置、映像受信装置、テレビ電話システム、仮想デスクトップシステム、コンピュータ、あるいは携帯電話機などに組み込まれる。
【０１１９】
図１１は、上記の実施形態またはその変形例による動画像符号化装置または動画像復号装置の各部の機能を実現するコンピュータプログラムが動作することにより、動画像符号化装置または動画像復号装置として動作するコンピュータの構成図である。
【０１２０】
コンピュータ１００は、ユーザインターフェース部１０１と、通信インターフェース部１０２と、記憶部１０３と、記憶媒体アクセス装置１０４と、プロセッサ１０５とを有する。プロセッサ１０５は、ユーザインターフェース部１０１、通信インターフェース部１０２、記憶部１０３及び記憶媒体アクセス装置１０４と、例えば、バスを介して接続される。
【０１２１】
ユーザインターフェース部１０１は、例えば、キーボードとマウスなどの入力装置と、液晶ディスプレイといった表示装置とを有する。または、ユーザインターフェース部１０１は、タッチパネルディスプレイといった、入力装置と表示装置とが一体化された装置を有してもよい。そしてユーザインターフェース部１０１は、例えば、ユーザの操作に応じて、符号化する動画像データあるいは復号する符号化動画像データを選択する操作信号をプロセッサ１０５へ出力する。またユーザインターフェース部１０１は、プロセッサ１０５から受け取った、復号された動画像データを表示してもよい。
【０１２２】
通信インターフェース部１０２は、コンピュータ１００を、動画像データを生成する装置、例えば、ビデオカメラと接続するための通信インターフェース及びその制御回路を有してもよい。そのような通信インターフェースは、例えば、Universal Serial Bus（ユニバーサル・シリアル・バス、USB）とすることができる。
【０１２３】
さらに、通信インターフェース部１０２は、イーサネット（登録商標）などの通信規格に従った通信ネットワークに接続するための通信インターフェース及びその制御回路を有してもよい。
【０１２４】
この場合には、通信インターフェース部１０２は、通信ネットワークに接続された他の機器から、符号化する動画像データまたは復号する符号化された動画像データを含む符号化ビットストリームを取得し、それらのデータをプロセッサ１０５へ渡す。また通信インターフェース部１０２は、プロセッサ１０５から受け取った、符号化動画像データまたは復号された動画像データを通信ネットワークを介して他の機器へ出力してもよい。
【０１２５】
記憶部１０３は、例えば、読み書き可能な半導体メモリと読み出し専用の半導体メモリとを有する。そして記憶部１０３は、プロセッサ１０５上で実行される、動画像符号化処理または動画像復号処理を実行するためのコンピュータプログラム、及びこれらの処理の途中または結果として生成されるデータを記憶する。
【０１２６】
記憶媒体アクセス装置１０４は、例えば、磁気ディスク、半導体メモリカード及び光記憶媒体といった記憶媒体１０６にアクセスする装置である。記憶媒体アクセス装置１０４は、例えば、記憶媒体１０６に記憶されたプロセッサ１０５上で実行される、動画像符号化処理または動画像復号処理用のコンピュータプログラムを読み込み、プロセッサ１０５に渡す。
【０１２７】
プロセッサ１０５は、上記の実施形態または変形例による動画像符号化処理用コンピュータプログラムを実行することにより、符号化動画像データを生成する。そしてプロセッサ１０５は、生成された符号化動画像データを記憶部１０３に保存し、または通信インターフェース部１０２を介して他の機器へ出力する。またプロセッサ１０５は、上記の実施形態または変形例による動画像復号処理用コンピュータプログラムを実行することにより、符号化された動画像データを復号する。そしてプロセッサ１０５は、復号された動画像データを記憶部１０３に保存し、ユーザインターフェース部１０１に表示し、または通信インターフェース部１０２を介して他の機器へ出力する。
【０１２８】
なお、動画像符号化装置１の各部の機能をプロセッサ上で実行可能なコンピュータプログラムは、コンピュータによって読み取り可能な媒体に記録された形で提供されてもよい。同様に、動画像復号装置２の各部の機能をプロセッサ上で実行可能なコンピュータプログラムは、コンピュータによって読み取り可能な媒体に記録された形で提供されてもよい。ただし、そのような記録媒体には、搬送波は含まれない。
【０１２９】
ここに挙げられた全ての例及び特定の用語は、読者が、本発明及び当該技術の促進に対する本発明者により寄与された概念を理解することを助ける、教示的な目的において意図されたものであり、本発明の優位性及び劣等性を示すことに関する、本明細書の如何なる例の構成、そのような特定の挙げられた例及び条件に限定しないように解釈されるべきものである。本発明の実施形態は詳細に説明されているが、本発明の精神及び範囲から外れることなく、様々な変更、置換及び修正をこれに加えることが可能であることを理解されたい。
【０１３０】
以上説明した実施形態及びその変形例に関し、更に以下の付記を開示する。
（付記１）
動画像データに含まれる、符号化対象ピクチャが分割された複数のブロックのうちの符号化対象ブロックを符号化する動画像符号化装置であって、
前記符号化対象ブロックの各画素の予測誤差信号を直交変換して直交変換係数を算出し、前記直交変換係数を前記符号化対象ブロックに適用される量子化値に従って量子化することにより前記符号化対象ブロックを符号化するソース符号化部と、
符号化された前記符号化対象ブロックを復号して局所復号ブロックを生成する復号部と、
前記符号化対象ブロックに適用されるループ内フィルタのモードと、前記符号化対象ブロックに隣接する符号化済みの参照ブロックに適用されるループ内フィルタのモードとが同一である場合、前記参照ブロックに適用される前記ループ内フィルタのフィルタ係数を、前記参照ブロックに適用される量子化値と前記符号化対象ブロックに適用される前記量子化値とに基づいて補正して、補正されたフィルタ係数を算出する補正部と、
前記補正されたフィルタ係数を用いて、前記局所復号ブロックに前記ループ内フィルタを適用するフィルタ処理部と、
前記ループ内フィルタに関して前記符号化対象ブロックにおいて前記参照ブロックを参照することを示す情報を前記符号化対象ブロックの符号化データに付加する付加部と、
を有する動画像符号化装置。
（付記２）
前記補正部は、前記符号化対象ブロックに、前記量子化値を個別に設定可能な複数の量子化グループが含まれる場合、前記複数の量子化グループのそれぞれの前記量子化値の統計的代表値を前記符号化対象ブロックの前記量子化値として、前記補正されたフィルタ係数を算出する、付記１に記載の動画像符号化装置。
（付記３）
前記補正部は、前記符号化対象ブロックに、前記量子化値を個別に設定可能な複数の量子化グループが含まれる場合、前記複数の量子化グループのうちの符号化順で先頭の量子化グループの前記量子化値を前記符号化対象ブロックの前記量子化値として、前記補正されたフィルタ係数を算出する、付記１に記載の動画像符号化装置。
（付記４）
前記補正部は、前記符号化対象ブロックに、前記量子化値を個別に設定可能な複数の量子化グループが含まれる場合、前記複数の量子化グループのそれぞれごとに、当該量子化グループの前記量子化値を前記符号化対象ブロックの前記量子化値として前記補正されたフィルタ係数を算出し、
前記フィルタ処理部は、前記複数の量子化グループのそれぞれごとに、当該量子化グループについて算出された前記補正されたフィルタ係数を用いて、前記局所復号ブロックの当該量子化グループに前記ループ内フィルタを適用する、付記１に記載の動画像符号化装置。
（付記５）
前記補正部は、前記参照ブロックに適用される前記ループ内フィルタのモード及び前記符号化対象ブロックに適用される前記ループ内フィルタのモードの両方がサンプルアダプティブオフセットのエッジオフセットである場合に、前記参照ブロックについて適用される前記フィルタ係数である画素値変動の複数のカテゴリのそれぞれのオフセット値を補正して、前記補正されたフィルタ係数として前記複数のカテゴリのそれぞれの補正されたオフセット値を算出する、付記１〜４の何れかに記載の動画像符号化装置。
（付記６）
前記補正部は、前記参照ブロックに適用される前記量子化値に対する前記符号化対象ブロックに適用される前記量子化値の比が大きくなるほど、前記複数のカテゴリのそれぞれの補正されたオフセット値が大きくなるように、前記複数のカテゴリのそれぞれの補正されたオフセット値を算出する、付記５に記載の動画像符号化装置。
（付記７）
前記補正部は、前記参照ブロックに適用される前記ループ内フィルタのモード及び前記符号化対象ブロックに適用される前記ループ内フィルタのモードの両方がサンプルアダプティブオフセットのバンドオフセットである場合に、前記参照ブロックについて適用される前記フィルタ係数である画素値の複数のレンジのそれぞれのオフセット値を補正して、前記補正されたフィルタ係数として前記複数のレンジのそれぞれの補正されたオフセット値を算出する、付記１〜４の何れかに記載の動画像符号化装置。
（付記８）
前記符号化対象ブロック内の各画素の値に基づいて、前記ループ内フィルタの前記フィルタ係数を算出するフィルタ係数算出部と、
前記符号化対象ブロックに適用されるループ内フィルタのモードと、前記参照ブロックに適用されるループ内フィルタのモードとが同一である場合に前記補正部に前記補正されたフィルタ係数を算出させ、一方、前記符号化対象ブロックに適用されるループ内フィルタのモードと、前記参照ブロックに適用されるループ内フィルタのモードとが異なる場合に前記フィルタ係数算出部に前記フィルタ係数を算出させる判定部とをさらに有し、
前記フィルタ処理部は、前記補正されたフィルタ係数が算出された場合、当該補正されたフィルタ係数を用いて前記局所復号ブロックに前記ループ内フィルタを適用し、一方、前記フィルタ係数が算出された場合、当該フィルタ係数を用いて前記局所復号ブロックに前記ループ内フィルタを適用する、付記１〜７の何れかに記載の動画像符号化装置。
（付記９）
動画像データに含まれる、符号化対象ピクチャが分割された複数のブロックのうちの符号化対象ブロックを符号化する動画像符号化方法であって、
前記符号化対象ブロックの各画素の予測誤差信号を直交変換して直交変換係数を算出し、前記直交変換係数を前記符号化対象ブロックに適用される量子化値に従って量子化することにより前記符号化対象ブロックを符号化し、
符号化された前記符号化対象ブロックを復号して局所復号ブロックを生成し、
前記符号化対象ブロックに適用されるループ内フィルタのモードと、前記符号化対象ブロックに隣接する符号化済みの参照ブロックに適用されるループ内フィルタのモードとが同一である場合、前記参照ブロックに適用される前記ループ内フィルタのフィルタ係数を、前記参照ブロックに適用される量子化値と前記符号化対象ブロックに適用される前記量子化値とに基づいて補正して、補正されたフィルタ係数を算出し、
前記補正されたフィルタ係数を用いて、前記局所復号ブロックに前記ループ内フィルタを適用し、
前記ループ内フィルタに関して前記符号化対象ブロックにおいて前記参照ブロックを参照することを示す情報を前記符号化対象ブロックの符号化データに付加する、
ことを含む動画像符号化方法。
（付記１０）
動画像データに含まれる、符号化対象ピクチャが分割された複数のブロックのうちの符号化対象ブロックを符号化する動画像符号化用コンピュータプログラムであって、
前記符号化対象ブロックの各画素の予測誤差信号を直交変換して直交変換係数を算出し、前記直交変換係数を前記符号化対象ブロックに適用される量子化値に従って量子化することにより前記符号化対象ブロックを符号化し、
符号化された前記符号化対象ブロックを復号して局所復号ブロックを生成し、
前記符号化対象ブロックに適用されるループ内フィルタのモードと、前記符号化対象ブロックに隣接する符号化済みの参照ブロックに適用されるループ内フィルタのモードとが同一である場合、前記参照ブロックに適用される前記ループ内フィルタのフィルタ係数を、前記参照ブロックに適用される量子化値と前記符号化対象ブロックに適用される前記量子化値とに基づいて補正して、補正されたフィルタ係数を算出し、
前記補正されたフィルタ係数を用いて、前記局所復号ブロックに前記ループ内フィルタを適用し、
前記ループ内フィルタに関して前記符号化対象ブロックにおいて前記参照ブロックを参照することを示す情報を前記符号化対象ブロックの符号化データに付加する、
ことをコンピュータに実行させるための動画像符号化用コンピュータプログラム。
（付記１１）
符号化された動画像データに含まれる、復号対象ピクチャを分割した複数のブロックのうちの復号対象ブロックを復号する動画像復号装置であって、
前記復号対象ブロックの符号化データに含まれる量子化係数を、前記復号対象ブロックに適用される量子化値に従って逆量子化して直交変換係数を算出し、前記直交変換係数を逆直交変換して前記復号対象ブロックの各画素の予測誤差信号を算出し、各画素の前記予測誤差信号に基づいて前記復号対象ブロックを復号する復号部と、
前記復号対象ブロックの符号化データに、ループ内フィルタに関して前記復号対象ブロックに隣接する復号済みの参照ブロックを参照することを示す情報が含まれている場合、前記符号化された動画像データに含まれる、前記参照ブロックに適用される前記ループ内フィルタのフィルタ係数を、前記参照ブロックに適用される量子化値と前記復号対象ブロックに適用される前記量子化値とに基づいて補正して、補正されたフィルタ係数を算出する補正部と、
前記補正されたフィルタ係数を用いて、前記復号された復号対象ブロックに前記ループ内フィルタを適用するフィルタ処理部と、
を有する動画像復号装置。
（付記１２）
符号化された動画像データに含まれる、復号対象ピクチャを分割した複数のブロックのうちの復号対象ブロックを復号する動画像復号方法であって、
前記復号対象ブロックの符号化データに含まれる量子化係数を、前記復号対象ブロックに適用される量子化値に従って逆量子化して直交変換係数を算出し、前記直交変換係数を逆直交変換して前記復号対象ブロックの各画素の予測誤差信号を算出し、各画素の前記予測誤差信号に基づいて前記復号対象ブロックを復号し、
前記復号対象ブロックの符号化データに、ループ内フィルタに関して前記復号対象ブロックに隣接する復号済みの参照ブロックを参照することを示す情報が含まれている場合、前記符号化された動画像データに含まれる、前記参照ブロックに適用される前記ループ内フィルタのフィルタ係数を、前記参照ブロックに適用される量子化値と前記復号対象ブロックに適用される前記量子化値とに基づいて補正して、補正されたフィルタ係数を算出し、
前記補正されたフィルタ係数を用いて、前記復号された復号対象ブロックに前記ループ内フィルタを適用する、
ことを含む動画像復号方法。
（付記１３）
符号化された動画像データに含まれる、復号対象ピクチャを分割した複数のブロックのうちの復号対象ブロックを復号する動画像復号用コンピュータプログラムであって、
前記復号対象ブロックの符号化データに含まれる量子化係数を、前記復号対象ブロックに適用される量子化値に従って逆量子化して直交変換係数を算出し、前記直交変換係数を逆直交変換して前記復号対象ブロックの各画素の予測誤差信号を算出し、各画素の前記予測誤差信号に基づいて前記復号対象ブロックを復号し、
前記復号対象ブロックの符号化データに、ループ内フィルタに関して前記復号対象ブロックに隣接する復号済みの参照ブロックを参照することを示す情報が含まれている場合、前記符号化された動画像データに含まれる、前記参照ブロックに適用される前記ループ内フィルタのフィルタ係数を、前記参照ブロックに適用される量子化値と前記復号対象ブロックに適用される前記量子化値とに基づいて補正して、補正されたフィルタ係数を算出し、
前記補正されたフィルタ係数を用いて、前記復号された復号対象ブロックに前記ループ内フィルタを適用する、
ことをコンピュータに実行させるための動画像復号用コンピュータプログラム。
【符号の説明】
【０１３１】
１    動画像符号化装置
１１    動き探索部
１２    符号化制御部
１３    ソース符号化部
１４    復号部
１５    ループ内フィルタ部
１６    記憶部
１７    エントロピー符号化部
２    動画像復号装置
２１    エントロピー復号部
２２    復号部
２３    ループ内フィルタ部
２４    記憶部
１５１、２３１    マージモード適用判定部
１５２、２３２    パラメータ補正部
１５３、２３３    パラメータ設定部
１５４、２３４    フィルタ処理部
１００    コンピュータ
１０１    ユーザインターフェース部
１０２    通信インターフェース部
１０３    記憶部
１０４    記憶媒体アクセス装置
１０５    プロセッサ
１０６    記憶媒体
【図１】
2018110313.tif 000005
【図２】
2018110313.tif 000006
【図３】
2018110313.tif 000007
【図４】
2018110313.tif 000008
【図５】
2018110313.tif 000009
【図６】
2018110313.tif 000010
【図７】
2018110313.tif 000011
【図８】
2018110313.tif 000012
【図９】
2018110313.tif 000013
【図１０】
2018110313.tif 000014
【図１１】
2018110313.tif 000015