(57)【要約】      （修正有）【課題】演算コストの増大を抑制しつつ、擬似輪郭を抑制する。【解決手段】動画像符号化装置は、動画像を分割して得られたブロックごとに、量子化手段により量子化が行われるよりも前に残差信号を制御して、当該量子化手段により量子化した値が「１」以上になるようにするレベル値制御手段を備える。レベル値制御手段は、イントラ予測が適用されたブロックについては、残差信号の制御を行い、インター予測が適用されたブロックについては、インター予測におけるレート歪最適化のコスト値を制御して、当該ブロックのインター予測が行われる際に片方向予測が選択されやすくする。【選択図】図１１
2019110568.tif 000002
【特許請求の範囲】
【請求項１】
動画像を符号化して符号化データを生成する動画像符号化装置であって、
前記動画像を分割して得られたブロックごとに、予測画像を生成する予測画像生成手段と、
前記動画像を分割して得られたブロックごとに、前記動画像と、前記予測画像生成手段により生成された予測画像と、の残差信号を量子化する量子化手段と、
前記動画像を分割して得られたブロックごとに、前記量子化手段により量子化が行われるよりも前に前記残差信号を制御して、当該量子化手段により量子化した値が「１」以上になるようにするレベル値制御手段と、を備えることを特徴とする動画像符号化装置。
【請求項２】
前記レベル値制御手段は、
イントラ予測が適用されたブロックについては、前記残差信号の制御を行い、
インター予測が適用されたブロックについては、インター予測におけるレート歪最適化のコスト値を制御して、当該ブロックのインター予測が行われる際に片方向予測が選択されやすくすることを特徴とする請求項１に記載の動画像符号化装置。
【請求項３】
前記動画像を分割して得られた各ブロックの中から対象ブロックを検出する検出手段を備え、
前記レベル値制御手段は、前記検出手段により前記対象ブロックとして検出されたブロックごとに、前記残差信号の制御を行い、
前記検出手段は、
予測対象ブロックに属する各画素の画素値のうち最も大きいものと、当該予測対象ブロックに属する各画素の画素値のうち最も小さいものと、の差分が第１の閾値以上かつ第２の閾値未満であることと、
前記予測対象ブロックに属する各画素のうち互いに隣接する画素同士について、画素値の差分を算出し、算出した画素値の差分の合計値が第３の閾値以上であることと、
前記予測対象ブロックに属する各画素の画素値の分散値が第４の閾値以下であることと、
のうち少なくともいずれかを満たす場合に、前記予測対象ブロックを前記対象ブロックとして検出することを特徴とする請求項１に記載の動画像符号化装置。
【請求項４】
前記レベル値制御手段は、
イントラ予測が適用されるとともに前記検出手段により前記対象ブロックとして検出されたブロックについては、前記残差信号の制御を行い、
インター予測が適用されるとともに前記検出手段により前記対象ブロックとして検出されたブロックについては、インター予測におけるレート歪最適化のコスト値を制御して、当該ブロックのインター予測が行われる際に片方向予測が選択されやすくすることを特徴とする請求項３に記載の動画像符号化装置。
【請求項５】
動画像を符号化して符号化データを生成する動画像符号化装置と、当該符号化データを復号する動画像復号装置と、を備える動画像処理システムであって、
前記動画像符号化装置は、
前記動画像を分割して得られたブロックごとに、予測画像を生成する予測画像生成手段と、
前記動画像を分割して得られたブロックごとに、前記動画像と、前記予測画像生成手段により生成された予測画像と、の残差信号を量子化する量子化手段と、
前記動画像を分割して得られたブロックごとに、前記量子化手段により量子化が行われるよりも前に前記残差信号を制御して、当該量子化手段により量子化した値が「１」以上になるようにするレベル値制御手段と、
前記動画像を分割して得られたブロックごとに抽出された明るさの変化方向を含む、前記符号化データを生成する符号化データ生成手段と、を備え、
前記動画像復号装置は、
前記符号化データを復号する復号手段を備えることを特徴とする動画像処理システム。
【請求項６】
予測画像生成手段、量子化手段、およびレベル値制御手段を備え、動画像を符号化して符号化データを生成する動画像符号化装置における動画像符号化方法であって、
前記予測画像生成手段が、前記動画像を分割して得られたブロックごとに、予測画像を生成する第１のステップと、
前記量子化手段が、前記動画像を分割して得られたブロックごとに、前記動画像と、前記第１のステップにより生成された予測画像と、の残差信号を量子化する第２のステップと、
前記レベル値制御手段が、前記動画像を分割して得られたブロックごとに、前記第２のステップにより量子化が行われるよりも前に前記残差信号を制御して、当該第２のステップにより量子化した値が「１」以上になるようにする第３のステップと、を備えることを特徴とする動画像符号化方法。
【請求項７】
予測画像生成手段、量子化手段、およびレベル値制御手段を備え、動画像を符号化して符号化データを生成する動画像符号化装置における動画像符号化方法を、コンピュータに実行させるためのプログラムであって、
前記予測画像生成手段が、前記動画像を分割して得られたブロックごとに、予測画像を生成する第１のステップと、
前記量子化手段が、前記動画像を分割して得られたブロックごとに、前記動画像と、前記第１のステップにより生成された予測画像と、の残差信号を量子化する第２のステップと、
前記レベル値制御手段が、前記動画像を分割して得られたブロックごとに、前記第２のステップにより量子化が行われるよりも前に前記残差信号を制御して、当該第２のステップにより量子化した値が「１」以上になるようにする第３のステップと、をコンピュータに実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、動画像符号化装置、動画像処理システム、動画像符号化方法、およびプログラムに関する。
【背景技術】
【０００２】
非圧縮の動画像において主観的に明るさが滑らかに変化している領域では、ＨＥＶＣ（例えば、非特許文献１参照）といった動画像符号化方式による符号化により、明るさの滑らかさが失われて擬似輪郭が発生することがある。この擬似輪郭は、例えば夜明けのシーンや夜空のシーンのように、画素値の変動が小さく（画素値の最大値と最小値との差分が１から１６程度）、明るさが滑らかに変化している領域において、顕著に知覚される。そこで、擬似輪郭を抑制する手法が提案されている（例えば、特許文献１、２参照）。
【０００３】
特許文献１に示されている手法では、ブロックノイズを含んでいる参照画素を用いてイントラ予測を行うと、このブロックノイズが予測対象ブロックに伝搬することに着目し、参照画素へのフィルタ処理により、参照画素の信号を緩やかに変化させる。
【０００４】
特許文献２に示されている手法では、画像を高階調化して高階調画像を生成した後に、人間の視覚特性において相対的に感度の低い帯域に量子化誤差が変調されるように高階調画像を量子化して、階調数を削減する。
【先行技術文献】
【非特許文献】
【０００５】
【非特許文献１】ITU-T  H.265  High  Efficiency  Video  Coding.
【特許文献】
【０００６】
【特許文献１】特開２０１４−０６４２４９号公報
【特許文献２】特開２０１１−０２９９９８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００７】
しかし、特許文献１に示されている手法では、上述のフィルタ処理を、ブロックノイズが発生する程度まで画素値の変動が大きい参照画素を対象としている。このため、ブロックノイズが発生する程度までは画素値の変動が大きくない参照画素に対しては、フィルタ処理を行わないので、上述の擬似輪郭を抑制できない場合があった。
【０００８】
一方、特許文献２に示されている手法では、高階調画像を生成するために、画像を高階調化する処理が必要になる。このため、演算コストが増大してしまうおそれがあった。
【０００９】
そこで、本発明は、上述の課題を鑑みてなされたものであり、演算コストの増大を抑制しつつ、擬似輪郭を抑制することを目的とする。
【課題を解決するための手段】
【００１０】
本発明は、上記の課題を解決するために、以下の事項を提案している。
（１）  本発明は、動画像（例えば、図２の入力画像ＳＩＧ１に相当）を符号化して符号化データ（例えば、図２のビットストリームＳＩＧ２に相当）を生成する動画像符号化装置（例えば、図２の動画像符号化装置１に相当）であって、前記動画像を分割して得られたブロックごとに、明るさの変化方向を抽出する抽出手段（例えば、図２の抽出部７０に相当）と、前記動画像を分割して得られたブロックごとに、前記抽出手段により抽出された明るさの変化方向に基づいて、局所復号画像（例えば、図２のフィルタ前局所復号画像ＳＩＧ９に相当）の画素値を制御する画素値制御手段（例えば、図２のインループフィルタ部８０に相当）と、を備えることを特徴とする動画像符号化装置を提案している。
【００１１】
この発明によれば、動画像を分割して得られたブロックごとに、抽出手段によって、明るさの変化方向を抽出し、画素値制御手段によって、抽出手段により抽出された明るさの変化方向に基づいて局所復号画像の画素値を制御することとした。このため、上述の特許文献１に示されている手法では擬似輪郭を抑制できないほどに局所復号画像の画素値の変動が小さい場合であっても、明るさの変化方向に基づいて局所復号画像の画素値を制御して、擬似輪郭を抑制することができる。
【００１２】
また、この発明によれば、上述のように、動画像を分割して得られたブロックごとに、抽出手段によって、明るさの変化方向を抽出し、画素値制御手段によって、抽出手段により抽出された明るさの変化方向に基づいて局所復号画像の画素値を制御することとした。このため、上述の特許文献２に示されている手法のように高階調画像を生成する必要がないため、演算コストの増大を抑制することができる。
【００１３】
（２）  本発明は、（１）の動画像符号化装置について、前記画素値制御手段は、前記局所復号画像の画素値に対して、前記抽出手段により抽出された明るさの変化方向を反映させた乱数を加算することを特徴とする動画像符号化装置を提案している。
【００１４】
この発明によれば、（１）の動画像符号化装置において、画素値制御手段によって、局所復号画像の画素値に対して、抽出手段により抽出された明るさの変化方向を反映させた乱数を加算することとした。このため、抑制したい擬似輪郭の輪郭線の近傍において、明るさの変化方向を考慮しつつ、この輪郭線に沿って画素値が規則的に変化しないようにすることができる。したがって、局所復号画像の画素値に対して、明るさの変化方向に応じて規則的に変化する値を加算したり乗算したりすると、抑制したい擬似輪郭の輪郭線の近傍において、この輪郭線に沿って画素値が規則的に変化する領域ができてしまい、擬似輪郭を抑制できなかったり、新たに擬似輪郭が発生してしまったりするおそれがあったが、擬似輪郭を的確に抑制することができる。
【００１５】
（３）  本発明は、（１）または（２）の動画像符号化装置について、前記抽出手段は、イントラ予測または双方向予測が適用されたブロックごとに、前記明るさの変化方向の抽出を行い、前記画素値制御手段は、イントラ予測または双方向予測が適用されたブロックごとに、前記局所復号画像の画素値の制御を行うことを特徴とする動画像符号化装置を提案している。
【００１６】
この発明によれば、（１）または（２）の動画像符号化装置において、イントラ予測または双方向予測が適用されたブロックごとに、抽出手段による明るさの変化方向の抽出と、画素値制御手段による局所復号画像の画素値の制御と、を行うこととした。ここで、本発明者らは、片方向予測が適用されたブロックでは擬似輪郭が発生しにくいことを見出した。このため、片方向予測が適用されたブロック、すなわち擬似輪郭が発生しにくいブロックでは、抽出手段および画素値制御手段における処理を削減して、演算コストを抑制することができる。
【００１７】
（４）  本発明は、（１）または（２）の動画像符号化装置について、前記動画像を分割して得られた各ブロックの中から対象ブロックを検出する検出手段（例えば、図２の検出部６０に相当）を備え、前記抽出手段は、前記検出手段により前記対象ブロックとして検出されたブロックごとに、前記明るさの変化方向の抽出を行い、前記画素値制御手段は、前記検出手段により前記対象ブロックとして検出されたブロックごとに、前記局所復号画像の画素値の制御を行い、前記検出手段は、予測対象ブロックに属する各画素の画素値のうち最も大きいものと、当該予測対象ブロックに属する各画素の画素値のうち最も小さいものと、の差分（例えば、後述のブロック内変動値に相当）が第１の閾値（例えば、後述の「１」に相当）以上かつ第２の閾値（例えば、後述のαに相当）未満であることと、前記予測対象ブロックに属する各画素のうち互いに隣接する画素同士について、画素値の差分を算出し、算出した画素値の差分の合計値（例えば、後述のエッジ値に相当）が第３の閾値（例えば、後述のβに相当）以上であることと、前記予測対象ブロックに属する各画素の画素値の分散値（例えば、後述のブロック内分散値に相当）が第４の閾値以下であることと、のうち少なくともいずれかを満たす場合に、前記予測対象ブロックを前記対象ブロックとして検出することを特徴とする動画像符号化装置を提案している。
【００１８】
この発明によれば、（１）または（２）の動画像符号化装置において、検出手段によって、以下の３つの条件のうち少なくとも１つを満たす場合に、予測対象ブロックを対象ブロックとして検出し、検出手段により対象ブロックとして検出されたブロックごとに、抽出手段による明るさの変化方向の抽出と、画素値制御手段による局所復号画像の画素値の制御と、を行うこととした。１つ目の条件は、予測対象ブロックに属する各画素の画素値のうち最も大きいものと最も小さいものとの差分が第１の閾値以上かつ第２の閾値未満であることとした。２つ目の条件は、予測対象ブロックに属する各画素のうち互いに隣接する画素同士について、画素値の差分を算出し、算出した画素値の差分の合計値が第３の閾値以上であることとした。３つ目の条件は、予測対象ブロックに属する各画素の画素値の分散値が第４の閾値以下であることとした。ここで、擬似輪郭は、画素値の変動が小さく、かつ明るさが滑らかに変化しているブロックで発生しやすい。このため、検出手段により、画素値の変動が小さく、かつ明るさが滑らかに変化しているブロックを検出して、このブロックに対して、抽出手段および画素値制御手段による処理を行うことができる。したがって、画素値の変動が大きいブロックや明るさが滑らかには変化していないブロック、すなわち擬似輪郭が発生しにくいブロックでは、抽出手段および画素値制御手段における処理を削減して、演算コストを抑制することができる。
【００１９】
（５）  本発明は、（４）の動画像符号化装置について、前記検出手段は、イントラ予測または双方向予測が適用されたブロックごとに、前記対象ブロックの検出を行い、前記抽出手段は、イントラ予測または双方向予測が適用されるとともに前記検出手段により前記対象ブロックとして検出されたブロックごとに、前記明るさの変化方向の抽出を行い、前記画素値制御手段は、イントラ予測または双方向予測が適用されるとともに前記検出手段により前記対象ブロックとして検出されたブロックごとに、前記局所復号画像の画素値の制御を行うことを特徴とする動画像符号化装置を提案している。
【００２０】
この発明によれば、（４）の動画像符号化装置において、イントラ予測または双方向予測が適用されたブロックごとに、検出手段による対象ブロックの検出を行うこととした。また、イントラ予測または双方向予測が適用されるとともに検出手段により対象ブロックとして検出されたブロックごとに、抽出手段による明るさの変化方向の抽出と、画素値制御手段による局所復号画像の画素値の制御と、を行うこととした。このため、片方向予測が適用されたブロックと、画素値の変動が大きいブロックや明るさが滑らかには変化していないブロックとでは、抽出手段および画素値制御手段における処理を削減して、演算コストを抑制することができる。
【００２１】
（６）  本発明は、動画像（例えば、図８の入力画像ＳＩＧ１に相当）を符号化して符号化データ（例えば、図８のビットストリームＳＩＧ２に相当）を生成する動画像符号化装置（例えば、図８の動画像符号化装置１Ｂに相当）であって、前記動画像を分割して得られたブロックごとに、予測画像（例えば、図８の予測画像ＳＩＧ５に相当）を生成する予測画像生成手段（例えば、図８のインター予測部１０やイントラ予測部２０に相当）と、前記動画像を分割して得られたブロックごとに、前記動画像と、前記予測画像生成手段により生成された予測画像と、の残差信号（例えば、図８の残差信号ＳＩＧ６に相当）を量子化する量子化手段（例えば、図８の変換・量子化部３０Ａに相当）と、前記動画像を分割して得られたブロックごとに、前記量子化手段により量子化が行われるよりも前に前記残差信号を制御して、当該量子化手段により量子化した値が「１」以上になるようにするレベル値制御手段（例えば、図８の制御部７０Ｂに相当）と、を備えることを特徴とする動画像符号化装置を提案している。
【００２２】
この発明によれば、レベル値制御手段によって、動画像を分割して得られたブロックごとに、量子化手段により量子化が行われるよりも前に残差信号を制御して、量子化手段により量子化した値が「１」以上になるようにすることとした。このため、量子化手段における量子化幅よりも階調の小さな変動についても、量子化後に「１」以上の有意な値にすることができる。したがって、量子化幅を量子化パラメータの最小値に決定しても、量子化幅よりも階調の小さな変動については量子化後にゼロになってしまうため、上述の特許文献２に示されている手法では、擬似輪郭を抑制できない場合があったが、擬似輪郭を抑制することができる。
【００２３】
また、この発明によれば、上述のように、レベル値制御手段によって、動画像を分割して得られたブロックごとに、量子化手段により量子化が行われるよりも前に残差信号を制御して、量子化手段により量子化した値が「１」以上になるようにすることとした。このため、上述の特許文献１に示されている手法では擬似輪郭を抑制できないほどに局所復号画像の画素値の変動が小さい場合であっても、明るさの変化方向に基づいて局所復号画像の画素値を制御して、擬似輪郭をさらに抑制することができる。
【００２４】
また、この発明によれば、上述のように、レベル値制御手段によって、動画像を分割して得られたブロックごとに、量子化手段により量子化が行われるよりも前に残差信号を制御して、量子化手段により量子化した値が「１」以上になるようにすることとした。このため、上述の特許文献２に示されている手法のように高階調画像を生成する必要がないため、演算コストの増大を抑制することができる。
【００２５】
（７）  本発明は、（６）の動画像符号化装置について、前記レベル値制御手段は、イントラ予測が適用されたブロックについては、前記残差信号の制御を行い、インター予測が適用されたブロックについては、インター予測におけるレート歪最適化のコスト値を制御して、当該ブロックのインター予測が行われる際に片方向予測が選択されやすくすることを特徴とする動画像符号化装置を提案している。
【００２６】
この発明によれば、（６）の動画像符号化装置において、イントラ予測が適用されたブロックについては、レベル値制御手段により、残差信号の制御を行うこととした。また、インター予測が適用されたブロックについては、レベル値制御手段により、インター予測におけるレート歪最適化のコスト値を制御して、このブロックのインター予測が行われる際に片方向予測が選択されやすくすることとした。ここで、本発明者らは、片方向予測が適用されたブロックでは擬似輪郭が発生しにくいことを見出した。このため、インター予測において片方向予測が選択されやすくすることができ、擬似輪郭をさらに抑制することができる。
【００２７】
（８）  本発明は、（６）の動画像符号化装置について、前記動画像を分割して得られた各ブロックの中から対象ブロックを検出する検出手段（例えば、図８の検出部６０に相当）を備え、前記レベル値制御手段は、前記検出手段により前記対象ブロックとして検出されたブロックごとに、前記残差信号の制御を行い、前記検出手段は、予測対象ブロックに属する各画素の画素値のうち最も大きいものと、当該予測対象ブロックに属する各画素の画素値のうち最も小さいものと、の差分（例えば、後述のブロック内変動値に相当）が第１の閾値（例えば、後述の「１」に相当）以上かつ第２の閾値（例えば、後述のαに相当）未満であることと、前記予測対象ブロックに属する各画素のうち互いに隣接する画素同士について、画素値の差分を算出し、算出した画素値の差分の合計値（例えば、後述のエッジ値に相当）が第３の閾値（例えば、後述のβに相当）以上であることと、前記予測対象ブロックに属する各画素の画素値の分散値（例えば、後述のブロック内分散値に相当）が第４の閾値以下であることと、のうち少なくともいずれかを満たす場合に、前記予測対象ブロックを前記対象ブロックとして検出することを特徴とする動画像符号化装置を提案している。
【００２８】
この発明によれば、（６）の動画像符号化装置において、検出手段によって、以下の３つの条件のうち少なくとも１つを満たす場合に、予測対象ブロックを対象ブロックとして検出し、検出手段により対象ブロックとして検出されたブロックごとに、レベル値制御手段による残差信号の制御を行うこととした。１つ目の条件は、予測対象ブロックに属する各画素の画素値のうち最も大きいものと最も小さいものとの差分が第１の閾値以上かつ第２の閾値未満であることとした。２つ目の条件は、予測対象ブロックに属する各画素のうち互いに隣接する画素同士について、画素値の差分を算出し、算出した画素値の差分の合計値が第３の閾値以上であることとした。３つ目の条件は、予測対象ブロックに属する各画素の画素値の分散値が第４の閾値以下であることとした。ここで、擬似輪郭は、画素値の変動が小さく、かつ明るさが滑らかに変化しているブロックで発生しやすい。このため、検出手段により、画素値の変動が小さく、かつ明るさが滑らかに変化しているブロックを検出して、このブロックに対して、レベル値制御手段による処理を行うことができる。したがって、画素値の変動が大きいブロックや明るさが滑らかには変化していないブロック、すなわち擬似輪郭が発生しにくいブロックでは、レベル値制御手段における処理を削減して、演算コストを抑制することができる。
【００２９】
（９）  本発明は、（８）の動画像符号化装置について、前記レベル値制御手段は、イントラ予測が適用されるとともに前記検出手段により前記対象ブロックとして検出されたブロックについては、前記残差信号の制御を行い、インター予測が適用されるとともに前記検出手段により前記対象ブロックとして検出されたブロックについては、インター予測におけるレート歪最適化のコスト値を制御して、当該ブロックのインター予測が行われる際に片方向予測が選択されやすくすることを特徴とする動画像符号化装置を提案している。
【００３０】
この発明によれば、（８）の動画像符号化装置において、イントラ予測が適用された対象ブロックについては、レベル値制御手段によって、残差信号の制御を行うこととした。また、インター予測が適用された対象ブロックについては、レベル値制御手段によって、インター予測におけるレート歪最適化のコスト値を制御して、このブロックのインター予測が行われる際に片方向予測が選択されやすくすることとした。このため、インター予測において片方向予測が選択されやすくすることができ、擬似輪郭をさらに抑制することができる。
【００３１】
（１０）  本発明は、動画像（例えば、図２の入力画像ＳＩＧ１に相当）を符号化して得られた符号化データ（例えば、図３のビットストリームＳＩＧ２に相当）を復号する動画像復号装置（例えば、図３の動画像復号装置１００に相当）であって、前記符号化データを復号して、前記動画像を分割して得られたブロックごとに抽出された明るさの変化方向を取得する復号手段（例えば、図３のエントロピー復号部１１０に相当）と、前記動画像を分割して得られたブロックごとに、前記復号手段により取得された明るさの変化方向に基づいて、局所復号画像（例えば、図３のフィルタ前局所復号画像ＳＩＧ１０７に相当）の画素値を制御する画素値制御手段（例えば、図３のインループフィルタ部１５０に相当）と、を備えることを特徴とする動画像復号装置を提案している。
【００３２】
この発明によれば、復号手段によって、符号化データを復号して、動画像を分割して得られたブロックごとに抽出された明るさの変化方向を取得し、画素値制御手段によって、動画像を分割して得られたブロックごとに、復号手段により取得された明るさの変化方向に基づいて、局所復号画像の画素値を制御することとした。このため、上述の特許文献１に示されている手法では擬似輪郭を抑制できないほどに局所復号画像の画素値の変動が小さい場合であっても、明るさの変化方向に基づいて局所復号画像の画素値を制御して、擬似輪郭を抑制することができる。
【００３３】
また、この発明によれば、上述のように、復号手段によって、符号化データを復号して、動画像を分割して得られたブロックごとに抽出された明るさの変化方向を取得し、画素値制御手段によって、動画像を分割して得られたブロックごとに、復号手段により取得された明るさの変化方向に基づいて、局所復号画像の画素値を制御することとした。このため、上述の特許文献２に示されている手法のように高階調画像を生成する必要がないため、演算コストの増大を抑制することができる。
【００３４】
（１１）  本発明は、（１０）の動画像復号装置について、前記画素値制御手段は、前記局所復号画像の画素値に対して、前記復号手段により取得された明るさの変化方向を反映させた乱数を加算することを特徴とする動画像復号装置を提案している。
【００３５】
この発明によれば、（１０）の動画像復号装置において、画素値制御手段によって、局所復号画像の画素値に対して、復号手段により取得された明るさの変化方向を反映させた乱数を加算することとした。このため、抑制したい擬似輪郭の輪郭線の近傍において、明るさの変化方向を考慮しつつ、この輪郭線に沿って画素値が規則的に変化しないようにすることができる。したがって、局所復号画像の画素値に対して、明るさの変化方向に応じて規則的に変化する値を加算したり乗算したりすると、抑制したい擬似輪郭の輪郭線の近傍において、この輪郭線に沿って画素値が規則的に変化する領域ができてしまい、擬似輪郭を抑制できなかったり、新たに擬似輪郭が発生してしまったりするおそれがあったが、擬似輪郭を的確に抑制することができる。
【００３６】
（１２）  本発明は、（１０）または（１１）の動画像復号装置について、前記画素値制御手段は、イントラ予測または双方向予測が適用されたブロックごとに、前記局所復号画像の画素値の制御を行うことを特徴とする動画像復号装置を提案している。
【００３７】
この発明によれば、（１０）または（１１）の動画像復号装置において、イントラ予測または双方向予測が適用されたブロックごとに、画素値制御手段による局所復号画像の画素値の制御を行うこととした。ここで、本発明者らは、片方向予測が適用されたブロックでは擬似輪郭が発生しにくいことを見出した。このため、片方向予測が適用されたブロック、すなわち擬似輪郭が発生しにくいブロックでは、画素値制御手段における処理を削減して、演算コストを抑制することができる。
【００３８】
（１３）  本発明は、動画像（例えば、図２の入力画像ＳＩＧ１に相当）を符号化して符号化データ（例えば、図２のビットストリームＳＩＧ２に相当）を生成する動画像符号化装置（例えば、図２の動画像符号化装置１に相当）と、当該符号化データを復号する動画像復号装置（例えば、図３の動画像復号装置１００に相当）と、を備える動画像処理システム（例えば、図１の動画像処理システムＡＡに相当）であって、前記動画像符号化装置は、前記動画像を分割して得られたブロックごとに、明るさの変化方向を抽出する抽出手段（例えば、図２の抽出部７０に相当）と、前記動画像を分割して得られたブロックごとに、前記抽出手段により抽出された明るさの変化方向に基づいて、局所復号画像（例えば、図２のフィルタ前局所復号画像ＳＩＧ９に相当）の画素値を制御する符号化側画素値制御手段（例えば、図２のインループフィルタ部８０に相当）と、前記動画像を分割して得られたブロックごとに抽出された明るさの変化方向を含む、前記符号化データを生成する符号化データ生成手段（例えば、図２のエントロピー符号化部４０に相当）と、を備え、前記動画像復号装置は、前記符号化データを復号して、前記動画像を分割して得られたブロックごとに抽出された明るさの変化方向を取得する復号手段（例えば、図３のエントロピー復号部１１０に相当）と、前記動画像を分割して得られたブロックごとに、前記復号手段により取得された明るさの変化方向に基づいて、局所復号画像（例えば、図３のフィルタ前局所復号画像ＳＩＧ１０７に相当）の画素値を制御する復号側画素値制御手段（例えば、図３のインループフィルタ部１５０に相当）と、を備えることを特徴とする動画像処理システムを提案している。
【００３９】
この発明によれば、上述した効果と同様の効果を奏することができる。
【００４０】
（１４）  本発明は、動画像（例えば、図８の入力画像ＳＩＧ１に相当）を符号化して符号化データ（例えば、図８のビットストリームＳＩＧ２に相当）を生成する動画像符号化装置（例えば、図８の動画像符号化装置１Ｂに相当）と、当該符号化データを復号する動画像復号装置（例えば、図９の動画像復号装置１００Ｂに相当）と、を備える動画像処理システム（例えば、図７の動画像処理システムＣＣに相当）であって、前記動画像符号化装置は、前記動画像を分割して得られたブロックごとに、予測画像（例えば、図８の予測画像ＳＩＧ５に相当）を生成する予測画像生成手段（例えば、図８のインター予測部１０やイントラ予測部２０に相当）と、前記動画像を分割して得られたブロックごとに、前記動画像と、前記予測画像生成手段により生成された予測画像と、の残差信号（例えば、図８の残差信号ＳＩＧ６に相当）を量子化する量子化手段（例えば、図８の変換・量子化部３０Ａに相当）と、前記動画像を分割して得られたブロックごとに、前記量子化手段により量子化が行われるよりも前に前記残差信号を制御して、当該量子化手段により量子化した値が「１」以上になるようにするレベル値制御手段（例えば、図８の制御部７０Ｂに相当）と、前記動画像を分割して得られたブロックごとに抽出された明るさの変化方向を含む、前記符号化データを生成する符号化データ生成手段（例えば、図８のエントロピー符号化部４０Ａに相当）と、を備え、前記動画像復号装置は、前記符号化データを復号する復号手段（例えば、図９のエントロピー復号部１１０Ａに相当）を備えることを特徴とする動画像処理システムを提案している。
【００４１】
この発明によれば、上述した効果と同様の効果を奏することができる。
【００４２】
（１５）  本発明は、抽出手段（例えば、図２の抽出部７０に相当）および画素値制御手段（例えば、図２のインループフィルタ部８０に相当）を備え、動画像（例えば、図２の入力画像ＳＩＧ１に相当）を符号化して符号化データ（例えば、図２のビットストリームＳＩＧ２に相当）を生成する動画像符号化装置（例えば、図２の動画像符号化装置１に相当）における動画像符号化方法であって、前記抽出手段が、前記動画像を分割して得られたブロックごとに、明るさの変化方向を抽出する第１のステップと、前記画素値制御手段が、前記動画像を分割して得られたブロックごとに、前記第１のステップにより抽出された明るさの変化方向に基づいて、局所復号画像（例えば、図２のフィルタ前局所復号画像ＳＩＧ９に相当）の画素値を制御する第２のステップと、を備えることを特徴とする動画像符号化方法を提案している。
【００４３】
この発明によれば、上述した効果と同様の効果を奏することができる。
【００４４】
（１６）  本発明は、予測画像生成手段（例えば、図８のインター予測部１０やイントラ予測部２０に相当）、量子化手段（例えば、図８の変換・量子化部３０Ａに相当）、およびレベル値制御手段（例えば、図８の制御部７０Ｂに相当）を備え、動画像（例えば、図８の入力画像ＳＩＧ１に相当）を符号化して符号化データ（例えば、図８のビットストリームＳＩＧ２に相当）を生成する動画像符号化装置（例えば、図８の動画像符号化装置１Ｂに相当）における動画像符号化方法であって、前記予測画像生成手段が、前記動画像を分割して得られたブロックごとに、予測画像（例えば、図８の予測画像ＳＩＧ５に相当）を生成する第１のステップと、前記量子化手段が、前記動画像を分割して得られたブロックごとに、前記動画像と、前記第１のステップにより生成された予測画像と、の残差信号（例えば、図８の残差信号ＳＩＧ６に相当）を量子化する第２のステップと、前記レベル値制御手段が、前記動画像を分割して得られたブロックごとに、前記第２のステップにより量子化が行われるよりも前に前記残差信号を制御して、当該第２のステップにより量子化した値が「１」以上になるようにする第３のステップと、を備えることを特徴とする動画像符号化方法を提案している。
【００４５】
この発明によれば、上述した効果と同様の効果を奏することができる。
【００４６】
（１７）  本発明は、復号手段（例えば、図３のエントロピー復号部１１０に相当）および画素値制御手段（例えば、図３のインループフィルタ部１５０に相当）を備え、動画像（例えば、図２の入力画像ＳＩＧ１に相当）を符号化して得られた符号化データ（例えば、図３のビットストリームＳＩＧ２に相当）を復号する動画像復号装置（例えば、図３の動画像復号装置１００に相当）における動画像復号方法であって、前記復号手段が、前記符号化データを復号して、前記動画像を分割して得られたブロックごとに抽出された明るさの変化方向を取得する第１のステップと、前記画素値制御手段が、前記動画像を分割して得られたブロックごとに、前記第１のステップにより取得された明るさの変化方向に基づいて、局所復号画像（例えば、図３のフィルタ前局所復号画像ＳＩＧ１０７に相当）の画素値を制御する第２のステップと、を備えることを特徴とする動画像復号方法を提案している。
【００４７】
この発明によれば、上述した効果と同様の効果を奏することができる。
【００４８】
（１８）  本発明は、抽出手段（例えば、図２の抽出部７０に相当）および画素値制御手段（例えば、図２のインループフィルタ部８０に相当）を備え、動画像（例えば、図２の入力画像ＳＩＧ１に相当）を符号化して符号化データ（例えば、図２のビットストリームＳＩＧ２に相当）を生成する動画像符号化装置（例えば、図２の動画像符号化装置１に相当）における動画像符号化方法を、コンピュータに実行させるためのプログラムであって、前記抽出手段が、前記動画像を分割して得られたブロックごとに、明るさの変化方向を抽出する第１のステップと、前記画素値制御手段が、前記動画像を分割して得られたブロックごとに、前記第１のステップにより抽出された明るさの変化方向に基づいて、局所復号画像（例えば、図２のフィルタ前局所復号画像ＳＩＧ９に相当）の画素値を制御する第２のステップと、をコンピュータに実行させるためのプログラムを提案している。
【００４９】
この発明によれば、上述した効果と同様の効果を奏することができる。
【００５０】
（１９）  本発明は、予測画像生成手段（例えば、図８のインター予測部１０やイントラ予測部２０に相当）、量子化手段（例えば、図８の変換・量子化部３０Ａに相当）、およびレベル値制御手段（例えば、図８の制御部７０Ｂに相当）を備え、動画像（例えば、図８の入力画像ＳＩＧ１に相当）を符号化して符号化データ（例えば、図８のビットストリームＳＩＧ２に相当）を生成する動画像符号化装置（例えば、図８の動画像符号化装置１Ｂに相当）における動画像符号化方法を、コンピュータに実行させるためのプログラムであって、前記予測画像生成手段が、前記動画像を分割して得られたブロックごとに、予測画像（例えば、図８の予測画像ＳＩＧ５に相当）を生成する第１のステップと、前記量子化手段が、前記動画像を分割して得られたブロックごとに、前記動画像と、前記第１のステップにより生成された予測画像と、の残差信号（例えば、図８の残差信号ＳＩＧ６に相当）を量子化する第２のステップと、前記レベル値制御手段が、前記動画像を分割して得られたブロックごとに、前記第２のステップにより量子化が行われるよりも前に前記残差信号を制御して、当該第２のステップにより量子化した値が「１」以上になるようにする第３のステップと、をコンピュータに実行させるためのプログラムを提案している。
【００５１】
この発明によれば、上述した効果と同様の効果を奏することができる。
【００５２】
（２０）  本発明は、復号手段（例えば、図３のエントロピー復号部１１０に相当）および画素値制御手段（例えば、図３のインループフィルタ部１５０に相当）を備え、動画像（例えば、図２の入力画像ＳＩＧ１に相当）を符号化して得られた符号化データ（例えば、図３のビットストリームＳＩＧ２に相当）を復号する動画像復号装置（例えば、図３の動画像復号装置１００に相当）における動画像復号方法を、コンピュータに実行させるためのプログラムであって、前記復号手段が、前記符号化データを復号して、前記動画像を分割して得られたブロックごとに抽出された明るさの変化方向を取得する第１のステップと、前記画素値制御手段が、前記動画像を分割して得られたブロックごとに、前記第１のステップにより取得された明るさの変化方向に基づいて、局所復号画像（例えば、図３のフィルタ前局所復号画像ＳＩＧ１０７に相当）の画素値を制御する第２のステップと、をコンピュータに実行させるためのプログラムを提案している。
【００５３】
この発明によれば、上述した効果と同様の効果を奏することができる。
【発明の効果】
【００５４】
本発明によれば、演算コストの増大を抑制しつつ、擬似輪郭を抑制することができる。
【図面の簡単な説明】
【００５５】
【図１】本発明の第１実施形態に係る動画像処理システムのブロック図である。
【図２】本発明の第１実施形態に係る動画像符号化装置のブロック図である。
【図３】本発明の第１実施形態に係る動画像復号装置のブロック図である。
【図４】本発明の第２実施形態に係る動画像処理システムのブロック図である。
【図５】本発明の第２実施形態に係る動画像符号化装置のブロック図である。
【図６】本発明の第２実施形態に係る動画像復号装置のブロック図である。
【図７】本発明の第３実施形態に係る動画像処理システムのブロック図である。
【図８】本発明の第３実施形態に係る動画像符号化装置のブロック図である。
【図９】本発明の第３実施形態に係る動画像復号装置のブロック図である。
【図１０】本発明の第４実施形態に係る動画像処理システムのブロック図である。
【図１１】本発明の第４実施形態に係る動画像符号化装置のブロック図である。
【発明を実施するための形態】
【００５６】
以下、本発明の実施の形態について図面を参照しながら説明する。なお、以下の実施形態における構成要素は適宜、既存の構成要素などとの置き換えが可能であり、また、他の既存の構成要素との組み合わせを含む様々なバリエーションが可能である。したがって、以下の実施形態の記載をもって、特許請求の範囲に記載された発明の内容を限定するものではない。
【００５７】
＜第１実施形態＞
［動画像処理システムＡＡの構成および動作］
図１は、本発明の第１実施形態に係る動画像処理システムＡＡのブロック図である。動画像処理システムＡＡは、動画像を符号化してビットストリームを生成する動画像符号化装置１と、動画像符号化装置１により生成されたビットストリームを復号する動画像復号装置１００と、を備える。これら動画像符号化装置１と動画像復号装置１００とは、上述のビットストリームを、例えば伝送路を介して送受信する。
【００５８】
［動画像符号化装置１の構成および動作］
図２は、動画像符号化装置１のブロック図である。動画像符号化装置１は、インター予測部１０、イントラ予測部２０、変換・量子化部３０、エントロピー符号化部４０、逆変換・逆量子化部５０、検出部６０、抽出部７０、インループフィルタ部８０、およびバッファ部９０を備える。
【００５９】
インター予測部１０は、入力画像ＳＩＧ１と、バッファ部９０から供給される後述のフィルタ後局所復号画像ＳＩＧ１３と、を入力とする。このインター予測部１０は、入力画像ＳＩＧ１およびフィルタ後局所復号画像ＳＩＧ１３を用いてインター予測を行ってインター予測画像ＳＩＧ３を生成し、出力する。
【００６０】
イントラ予測部２０は、入力画像ＳＩＧ１と、後述のフィルタ前局所復号画像ＳＩＧ９と、を入力とする。このイントラ予測部２０は、入力画像ＳＩＧ１およびフィルタ前局所復号画像ＳＩＧ９を用いてイントラ予測を行ってイントラ予測画像ＳＩＧ４を生成し、出力する。
【００６１】
変換・量子化部３０は、誤差（残差）信号ＳＩＧ６を入力とする。残差信号ＳＩＧ６とは、入力画像ＳＩＧ１と、予測画像ＳＩＧ５と、の差分信号のことであり、予測画像ＳＩＧ５とは、インター予測画像ＳＩＧ３およびイントラ予測画像ＳＩＧ４のうち、最も高い符号化性能の期待される予測方法により算出された予測画像のことである。変換・量子化部３０は、入力された残差信号ＳＩＧ６に対して直交変換処理を行い、この直交変換処理により得られた変換係数について量子化処理を行って、量子化されたレベル値ＳＩＧ７として出力する。
【００６２】
エントロピー符号化部４０は、量子化されたレベル値ＳＩＧ７と、後述の検出結果ＳＩＧ１０と、後述の抽出結果ＳＩＧ１１と、を入力とする。このエントロピー符号化部４０は、入力された信号をエントロピー符号化し、ビットストリームＳＩＧ２として出力する。
【００６３】
逆変換・逆量子化部５０は、量子化されたレベル値ＳＩＧ７を入力とする。この逆変換・逆量子化部５０は、量子化されたレベル値ＳＩＧ７に対して逆量子化処理を行い、この逆量子化処理により得られた変換係数に対して逆直交変換処理を行って、逆直交変換された残差信号ＳＩＧ８として出力する。
【００６４】
検出部６０は、入力画像ＳＩＧ１を入力とする。入力画像ＳＩＧ１は、予め複数のブロックに分割されており、検出部６０は、画素値の変動が小さく、かつ明るさが滑らかに変化しているブロックを、対象ブロックとして入力画像ＳＩＧ１の中から検出し、検出結果ＳＩＧ１０として出力する。
【００６５】
具体的には、検出部６０は、まず、ブロックごとに、ブロック内変動値およびエッジ値を求める。
【００６６】
予測対象ブロックにおけるブロック内変動値を求める場合、検出部６０は、最初に、入力画像ＳＩＧ１に基づいて、予測対象ブロックに属する各画素の画素値を求める。次に、求めた画素値のうち最も大きい画素値と、求めた画素値のうち最も小さい画素値と、の差分を算出して、予測対象ブロックにおけるブロック内変動値とする。
【００６７】
また、予測対象ブロックにおけるエッジ値を求める場合、検出部６０は、最初に、入力画像ＳＩＧ１に基づいて、予測対象ブロックに属する各画素の中から、互いに隣接する画素同士の組み合わせを求める。次に、それぞれの組み合わせにおける画素同士の画素値の差分を算出し、算出した画素値の差分の合計を算出して、予測対象ブロックにおけるエッジ値とする。
【００６８】
検出部６０は、次に、ブロックサイズが３２×３２以上で、ブロック内変動値が１以上α未満で、かつエッジ値がβ以上であるブロックを、上述の対象ブロックとして検出する。なお、上述のαは、以下の数式（１）で定まり、上述のβは、以下の数式（２）で定まるものとする。
【００６９】
【数１】
2019110568.tif 000003
【００７０】
【数２】
2019110568.tif 000004
【００７１】
抽出部７０は、入力画像ＳＩＧ１と、検出結果ＳＩＧ１０と、を入力とする。この抽出部７０は、検出部６０により検出された対象ブロックごとに、明るさの変化方向を抽出し、抽出結果ＳＩＧ１１として出力する。
【００７２】
具体的には、抽出部７０は、まず、入力画像ＳＩＧ１および検出結果ＳＩＧ１０に基づいて、対象ブロックに属する各画素の画素値を取得する。
【００７３】
抽出部７０は、次に、３次元空間を想定し、３次元空間のＸ軸方向を対象ブロックの水平方向とし、３次元空間のＹ軸方向を対象ブロックの垂直方向とし、３次元空間のＺ軸方向を対象ブロックに属する各画素の画素値として、これら各画素の画素値を近似する平面を求める。なお、上述の平面は、例えば最小二乗法を用いて求めることができる。
【００７４】
抽出部７０は、次に、求めた平面の傾きから、上述の明るさの変化方向を抽出する。
【００７５】
インループフィルタ部８０は、フィルタ前局所復号画像ＳＩＧ９と、検出結果ＳＩＧ１０と、抽出結果ＳＩＧ１１と、を入力とする。フィルタ前局所復号画像ＳＩＧ９とは、予測画像ＳＩＧ５と、逆直交変換された残差信号ＳＩＧ８と、を合算した信号のことである。インループフィルタ部８０は、検出結果ＳＩＧ１０および抽出結果ＳＩＧ１１に基づいてフィルタ前局所復号画像ＳＩＧ９に対してフィルタ処理を行って、フィルタ後局所復号画像ＳＩＧ１２を生成し、出力する。
【００７６】
具体的には、インループフィルタ部８０は、まず、検出結果ＳＩＧ１０に基づいて、予測対象ブロックが対象ブロックであるか否かを判別する。
【００７７】
インループフィルタ部８０は、次に、対象ブロックではないと判別した予測対象ブロックについては、フィルタ前局所復号画像ＳＩＧ９に対してデブロックフィルタといったインループフィルタを適用して、フィルタ後局所復号画像ＳＩＧ１２として出力する。
【００７８】
一方、対象ブロックであると判別した予測対象ブロックについては、明るさの変化を画素値変動の分布により再現するようにフィルタ前局所復号画像ＳＩＧ９に対して処理を行った後に、この処理後のフィルタ前局所復号画像ＳＩＧ９に対して、対象ブロックではない場合と同様にインループフィルタを適用して、フィルタ後局所復号画像ＳＩＧ１２として出力する。
【００７９】
ここで、明るさの変化を画素値変動の分布により再現するようにフィルタ前局所復号画像ＳＩＧ９に対して行う処理では、フィルタ前局所復号画像ＳＩＧ９の対象ブロックに属する各画素の画素値に対して、明るさの変化方向を反映させた乱数を加算する。この処理の一例を、以下に説明する。インループフィルタ部８０は、最初に、対象ブロックに属する各画素に対して、０以上１以下の乱数を１つずつ生成する。次に、対象ブロックに属する各画素に対して、明るさの変化方向に沿って明るくなるに従って大きくなる係数を１つずつ設定する。次に、対象ブロックに属する画素ごとに、生成した乱数と、設定した係数と、を乗算する。次に、対象ブロックに属する画素ごとに、乗算結果を画素値に加算する。
【００８０】
バッファ部９０は、フィルタ後局所復号画像ＳＩＧ１２を蓄積し、適宜、フィルタ後局所復号画像ＳＩＧ１３としてインター予測部１０に供給する。
【００８１】
［動画像復号装置１００の構成および動作］
図３は、動画像復号装置１００のブロック図である。動画像復号装置１００は、エントロピー復号部１１０、逆変換・逆量子化部１２０、インター予測部１３０、イントラ予測部１４０、インループフィルタ部１５０、およびバッファ部１６０を備える。
【００８２】
エントロピー復号部１１０は、ビットストリームＳＩＧ２を入力とする。このエントロピー復号部１１０は、ビットストリームＳＩＧ２をエントロピー復号し、量子化係数レベルＳＩＧ１０２と、動画像符号化装置１で生成された検出結果ＳＩＧ１０と、動画像符号化装置１で生成された抽出結果ＳＩＧ１１と、を導出して出力する。
【００８３】
逆変換・逆量子化部１２０は、量子化係数レベルＳＩＧ１０２を入力とする。この逆変換・逆量子化部１２０は、量子化係数レベルＳＩＧ１０２に対して逆量子化処理を行い、この逆量子化処理により得られた結果に対して逆直交変換処理を行って、残差信号ＳＩＧ１０３として出力する。
【００８４】
インター予測部１３０は、バッファ部１６０から供給される後述のフィルタ後局所復号画像ＳＩＧ１０９を入力とする。このインター予測部１３０は、フィルタ後局所復号画像ＳＩＧ１０９を用いてインター予測を行ってインター予測画像ＳＩＧ１０４を生成し、出力する。
【００８５】
イントラ予測部１４０は、フィルタ前局所復号画像ＳＩＧ１０７を入力とする。フィルタ前局所復号画像ＳＩＧ１０７とは、残差信号ＳＩＧ１０３と、予測画像ＳＩＧ１０６と、を合算した信号のことであり、予測画像ＳＩＧ１０６とは、インター予測画像ＳＩＧ１０４およびイントラ予測画像ＳＩＧ１０５のうち、最も高い符号化性能の期待される予測方法により算出された予測画像のことである。イントラ予測部１４０は、フィルタ前局所復号画像ＳＩＧ１０７を用いてイントラ予測を行ってイントラ予測画像ＳＩＧ１０５を生成し、出力する。
【００８６】
インループフィルタ部１５０は、検出結果ＳＩＧ１０と、抽出結果ＳＩＧ１１と、フィルタ前局所復号画像ＳＩＧ１０７と、を入力とする。このインループフィルタ部１５０は、フィルタ前局所復号画像ＳＩＧ１０７に対して、動画像符号化装置１に設けられたインループフィルタ部８０と同様に検出結果ＳＩＧ１０および抽出結果ＳＩＧ１１に基づいてフィルタ処理を行って、フィルタ後局所復号画像ＳＩＧ１０８を生成し、出力する。
【００８７】
具体的には、インループフィルタ部１５０は、まず、検出結果ＳＩＧ１０に基づいて、予測対象ブロックが対象ブロックであるか否かを判別する。
【００８８】
インループフィルタ部１５０は、次に、対象ブロックではないと判別した予測対象ブロックについては、フィルタ前局所復号画像ＳＩＧ１０７に対してデブロックフィルタといったインループフィルタを適用して、フィルタ後局所復号画像ＳＩＧ１０８として出力する。
【００８９】
一方、対象ブロックであると判別した予測対象ブロックについては、明るさの変化を画素値変動の分布により再現するようにフィルタ前局所復号画像ＳＩＧ１０７に対して処理を行った後に、この処理後のフィルタ前局所復号画像ＳＩＧ１０７に対して、対象ブロックではない場合と同様にインループフィルタを適用して、フィルタ後局所復号画像ＳＩＧ１０８として出力する。
【００９０】
ここで、明るさの変化を画素値変動の分布により再現するようにフィルタ前局所復号画像ＳＩＧ１０７に対して行う処理では、フィルタ前局所復号画像ＳＩＧ１０７の対象ブロックに属する各画素の画素値に対して、明るさの変化方向を反映させた乱数を加算する。この処理の一例を、以下に説明する。インループフィルタ部１５０は、最初に、対象ブロックに属する各画素に対して、０以上１以下の乱数を１つずつ生成する。次に、対象ブロックに属する各画素に対して、明るさの変化方向に沿って明るくなるに従って大きくなる係数を１つずつ設定する。次に、対象ブロックに属する画素ごとに、生成した乱数と、設定した係数と、を乗算する。次に、対象ブロックに属する画素ごとに、乗算結果を画素値に加算する。
【００９１】
バッファ部１６０は、フィルタ後局所復号画像ＳＩＧ１０８を蓄積し、適宜、フィルタ後局所復号画像ＳＩＧ１０９としてインター予測部１３０に供給するとともに、復号済み画像ＳＩＧ１０１として出力する。
【００９２】
以上の動画像符号化装置１によれば、以下の効果を奏することができる。
【００９３】
動画像符号化装置１は、検出部６０により検出された対象ブロックごとに、抽出部７０により、明るさの変化方向を抽出し、インループフィルタ部８０により、抽出部７０により抽出された明るさの変化方向に基づいてフィルタ前局所復号画像ＳＩＧ９の画素値を制御する。このため、上述の特許文献１に示されている手法では擬似輪郭を抑制できないほどにフィルタ前局所復号画像ＳＩＧ９の画素値の変動が小さい場合であっても、明るさの変化方向に基づいてフィルタ前局所復号画像ＳＩＧ９の画素値を制御して、擬似輪郭を抑制することができる。
【００９４】
また、動画像符号化装置１は、上述のように、検出部６０により検出された対象ブロックごとに、抽出部７０により、明るさの変化方向を抽出し、インループフィルタ部８０により、抽出部７０により抽出された明るさの変化方向に基づいてフィルタ前局所復号画像ＳＩＧ９の画素値を制御する。このため、上述の特許文献２に示されている手法のように高階調画像を生成する必要がないため、演算コストの増大を抑制することができる。
【００９５】
また、動画像符号化装置１は、インループフィルタ部８０により、フィルタ前局所復号画像ＳＩＧ９の画素値に対して、抽出部７０により抽出された明るさの変化方向を反映させた乱数を加算する。このため、抑制したい擬似輪郭の輪郭線の近傍において、明るさの変化方向を考慮しつつ、この輪郭線に沿って画素値が規則的に変化しないようにすることができるので、擬似輪郭を的確に抑制することができる。
【００９６】
また、動画像符号化装置１は、検出部６０により、ブロックサイズが３２×３２以上で、ブロック内変動値が１以上α未満で、かつエッジ値がβ以上であるブロックを、上述の対象ブロックとして検出する。また、検出部６０により対象ブロックとして検出されたブロックごとに、抽出部７０による明るさの変化方向の抽出と、インループフィルタ部８０による明るさの変化方向に基づくフィルタ前局所復号画像ＳＩＧ９の画素値の制御と、を行う。このため、検出部６０により、画素値の変動が小さく、かつ明るさが滑らかに変化しているブロックを検出して、このブロックに対して、抽出部７０による処理と、インループフィルタ部８０による明るさの変化方向に基づく処理と、を行うことができる。したがって、画素値の変動が大きいブロックや明るさが滑らかには変化していないブロック、すなわち擬似輪郭が発生しにくいブロックでは、抽出部７０による処理と、インループフィルタ部８０による明るさの変化方向に基づく処理と、を削減して、演算コストを抑制することができる。
【００９７】
以上の動画像復号装置１００によれば、以下の効果を奏することができる。
【００９８】
動画像復号装置１００は、エントロピー復号部１１０により、ビットストリームＳＩＧ２をエントロピー復号して、ブロックごとに抽出された明るさの変化方向を取得し、インループフィルタ部１５０により、ブロックごとに、エントロピー復号部１１０により取得された明るさの変化方向に基づいて、フィルタ前局所復号画像ＳＩＧ１０７の画素値を制御する。このため、上述の特許文献１に示されている手法では擬似輪郭を抑制できないほどにフィルタ前局所復号画像ＳＩＧ１０７の画素値の変動が小さい場合であっても、明るさの変化方向に基づいてフィルタ前局所復号画像ＳＩＧ１０７の画素値を制御して、擬似輪郭を抑制することができる。
【００９９】
また、動画像復号装置１００は、上述のように、エントロピー復号部１１０により、ビットストリームＳＩＧ２をエントロピー復号して、ブロックごとに抽出された明るさの変化方向を取得し、インループフィルタ部１５０により、ブロックごとに、エントロピー復号部１１０により取得された明るさの変化方向に基づいて、フィルタ前局所復号画像ＳＩＧ１０７の画素値を制御する。このため、上述の特許文献２に示されている手法のように高階調画像を生成する必要がないため、演算コストの増大を抑制することができる。
【０１００】
また、動画像復号装置１００は、インループフィルタ部１５０により、フィルタ前局所復号画像ＳＩＧ１０７の画素値に対して、エントロピー復号部１１０により取得された明るさの変化方向を反映させた乱数を加算する。このため、抑制したい擬似輪郭の輪郭線の近傍において、明るさの変化方向を考慮しつつ、この輪郭線に沿って画素値が規則的に変化しないようにすることができるので、擬似輪郭を的確に抑制することができる。
【０１０１】
＜第２実施形態＞
［動画像処理システムＢＢの構成および動作］
図４は、本発明の第２実施形態に係る動画像処理システムＢＢのブロック図である。動画像処理システムＢＢは、図１に示した本発明の第１実施形態に係る動画像処理システムＡＡとは、動画像符号化装置１の代わりに動画像符号化装置１Ａを備える点と、動画像復号装置１００の代わりに動画像復号装置１００Ａを備える点と、で異なる。
【０１０２】
［動画像符号化装置１Ａの構成および動作］
図５は、動画像符号化装置１Ａのブロック図である。動画像符号化装置１Ａは、図２に示した本発明の第１実施形態に係る動画像符号化装置１とは、検出部６０の代わりに検出部６０Ａを備える点と、抽出部７０の代わりに抽出部７０Ａを備える点と、インループフィルタ部８０の代わりにインループフィルタ部８０Ａを備える点と、で異なる。なお、動画像符号化装置１Ａにおいて、動画像符号化装置１と同一構成要件については、同一符号を付し、その説明を省略する。
【０１０３】
検出部６０Ａは、入力画像ＳＩＧ１を入力とする。この検出部６０Ａは、検出部６０と同様に、画素値の変動が小さく、かつ明るさが滑らかに変化しているブロックを、対象ブロックとして入力画像ＳＩＧ１の中から検出し、検出結果ＳＩＧ１０として出力する。ただし、検出部６０Ａは、上述の検出を、予測画像ＳＩＧ５の算出の際にイントラ予測または双方向予測が適用されたブロックに対してのみ行う。
【０１０４】
抽出部７０Ａは、入力画像ＳＩＧ１と、検出結果ＳＩＧ１０と、を入力とする。この抽出部７０Ａは、抽出部７０と同様に、検出部６０Ａにより検出された対象ブロックについて、明るさの変化方向を抽出し、抽出結果ＳＩＧ１１として出力する。ただし、抽出部７０Ａは、上述の抽出を、予測画像ＳＩＧ５の算出の際にイントラ予測または双方向予測が適用されるとともに検出部６０Ａにより対象ブロックとして検出されたブロックに対してのみ行う。
【０１０５】
インループフィルタ部８０Ａは、フィルタ前局所復号画像ＳＩＧ９と、検出結果ＳＩＧ１０と、抽出結果ＳＩＧ１１と、を入力とする。このインループフィルタ部８０Ａは、インループフィルタ部８０と同様に、検出結果ＳＩＧ１０および抽出結果ＳＩＧ１１に基づいてフィルタ前局所復号画像ＳＩＧ９に対してフィルタ処理を行って、フィルタ後局所復号画像ＳＩＧ１２を生成し、出力する。ただし、インループフィルタ部８０Ａは、予測画像ＳＩＧ５の算出の際にイントラ予測または双方向予測のいずれも適用されなかったブロックに対しては、対象ブロックであったとしても、対象ブロックではない場合と同様の処理を行う。
【０１０６】
［動画像復号装置１００Ａの構成および動作］
図６は、動画像復号装置１００Ａのブロック図である。動画像復号装置１００Ａは、図３に示した本発明の第１実施形態に係る動画像復号装置１００とは、インループフィルタ部１５０の代わりにインループフィルタ部１５０Ａを備える点で異なる。なお、動画像復号装置１００Ａにおいて、動画像復号装置１００と同一構成要件については、同一符号を付し、その説明を省略する。
【０１０７】
インループフィルタ部１５０Ａは、検出結果ＳＩＧ１０と、抽出結果ＳＩＧ１１と、フィルタ前局所復号画像ＳＩＧ１０７と、を入力とする。このインループフィルタ部１５０Ａは、インループフィルタ部１５０と同様に、検出結果ＳＩＧ１０および抽出結果ＳＩＧ１１に基づいてフィルタ前局所復号画像ＳＩＧ１０７に対してフィルタ処理を行って、フィルタ後局所復号画像ＳＩＧ１０８を生成し、出力する。ただし、インループフィルタ部１５０Ａは、予測画像ＳＩＧ１０６の算出の際にイントラ予測または双方向予測のいずれも適用されなかったブロックに対しては、対象ブロックであったとしても、対象ブロックではない場合と同様の処理を行う。
【０１０８】
以上の動画像符号化装置１Ａによれば、動画像符号化装置１が奏することできる上述の効果に加えて、以下の効果を奏することができる。
【０１０９】
動画像符号化装置１Ａは、イントラ予測または双方向予測が適用されたブロックごとに、検出部６０Ａによる対象ブロックの検出を行う。また、イントラ予測または双方向予測が適用されるとともに検出部６０Ａにより対象ブロックとして検出されたブロックごとに、抽出部７０Ａによる明るさの変化方向の抽出と、インループフィルタ部８０Ａによる明るさの変化方向に基づくフィルタ前局所復号画像ＳＩＧ９の画素値の制御と、を行う。このため、片方向予測が適用されたブロックと、画素値の変動が大きいブロックや明るさが滑らかには変化していないブロックとでは、抽出部７０Ａによる処理と、インループフィルタ部８０Ａによる明るさの変化方向に基づく処理と、を削減して、演算コストを抑制することができる。
【０１１０】
以上の動画像復号装置１００Ａによれば、動画像復号装置１００が奏することできる上述の効果に加えて、以下の効果を奏することができる。
【０１１１】
動画像復号装置１００Ａは、イントラ予測または双方向予測が適用されたブロックごとに、インループフィルタ部１５０Ａによる明るさの変化方向に基づくフィルタ前局所復号画像ＳＩＧ１０７の画素値の制御を行う。このため、片方向予測が適用されたブロック、すなわち擬似輪郭が発生しにくいブロックでは、インループフィルタ部１５０Ａによる明るさの変化方向に基づく処理を削減して、演算コストを抑制することができる。
【０１１２】
＜第３実施形態＞
［動画像処理システムＣＣの構成および動作］
図７は、本発明の第３実施形態に係る動画像処理システムＣＣのブロック図である。動画像処理システムＣＣは、図１に示した本発明の第１実施形態に係る動画像処理システムＡＡとは、動画像符号化装置１の代わりに動画像符号化装置１Ｂを備える点と、動画像復号装置１００の代わりに動画像復号装置１００Ｂを備える点と、で異なる。
【０１１３】
［動画像符号化装置１Ｂの構成および動作］
図８は、動画像符号化装置１Ｂのブロック図である。動画像符号化装置１Ｂは、図２に示した本発明の第１実施形態に係る動画像符号化装置１とは、変換・量子化部３０の代わりに変換・量子化部３０Ａを備える点と、エントロピー符号化部４０の代わりにエントロピー符号化部４０Ａを備える点と、抽出部７０の代わりに制御部７０Ｂを備える点と、インループフィルタ部８０の代わりにインループフィルタ部８０Ｂを備える点と、で異なる。なお、動画像符号化装置１Ｂにおいて、動画像符号化装置１と同一構成要件については、同一符号を付し、その説明を省略する。
【０１１４】
制御部７０Ｂは、検出結果ＳＩＧ１０と、残差信号ＳＩＧ６と、を入力とする。この制御部７０Ｂは、検出部６０により検出された対象ブロックごとに、残差信号ＳＩＧ６を適宜制御して、制御結果ＳＩＧ２１として適宜出力する。具体的には、制御部７０Ｂは、残差信号ＳＩＧ６に対して変換・量子化部３０Ａにより直交変換処理および量子化処理を行った結果が「１」以上の有意な値になるように、残差信号ＳＩＧ６を適宜制御する。
【０１１５】
より具体的には、制御部７０Ｂは、検出結果ＳＩＧ１０に基づいて、対象ブロックであるか否かを判別する。制御部７０Ｂは、対象ブロックではないと判別した場合には、処理を行わない。このため、対象ブロックではない場合には、制御結果ＳＩＧ２１は出力されない。一方、制御部７０Ｂは、対象ブロックであると判別した場合には、以下の処理を行って、制御結果ＳＩＧ２１を出力する。
【０１１６】
制御部７０Ｂは、まず、対象ブロックについて、残差信号ＳＩＧ６に対して変換・量子化部３０Ａと同様の直交変換処理を行って、従来の量子化アルゴリズムではゼロとなってしまう残差信号ＳＩＧ６について、変換・量子化部３０Ａにより直交変換処理および量子化処理を行った結果が「１」以上の有意な値となるレベル位置を決定する。具体的には、制御部７０Ｂは、最初に、残差信号ＳＩＧ６に対して変換・量子化部３０Ａと同様の直交変換処理を行って変換係数を取得し、取得した変換係数を高周波成分からスキャンする。次に、高周波成分の位置から変換係数が初めて「０．７５」を超えた位置までのうち、変換係数が「０．２５」以上になる位置を、残差信号ＳＩＧ６を制御する対象として決定する。
【０１１７】
制御部７０Ｂは、次に、対象ブロックについて、決定したレベル位置に基づいて残差信号ＳＩＧ６を制御して、制御結果ＳＩＧ２１とする。具体的には、制御部７０Ｂは、対象ブロックのうち制御する対象として決定した位置について、残差信号ＳＩＧ６に対して変換・量子化部３０Ａにより直交変換処理および量子化処理を行った結果が「１」以上の有意な値となるように、残差信号ＳＩＧ６を制御する。
【０１１８】
変換・量子化部３０Ａは、残差信号ＳＩＧ６と、制御結果ＳＩＧ２１と、を入力とする。この変換・量子化部３０Ａは、制御部７０Ｂから制御結果ＳＩＧ２１が入力されなかった場合には、残差信号ＳＩＧ６に対して、変換・量子化部３０と同様に直交変換処理および量子化処理を行って、量子化されたレベル値ＳＩＧ７として出力する。一方、制御部７０Ｂから制御結果ＳＩＧ２１が入力された場合には、制御結果ＳＩＧ２１に対して、変換・量子化部３０と同様に直交変換処理および量子化処理を行って、量子化されたレベル値ＳＩＧ７として出力する。
【０１１９】
エントロピー符号化部４０Ａは、量子化されたレベル値ＳＩＧ７を入力とする。このエントロピー符号化部４０は、入力された信号をエントロピー符号化し、ビットストリームＳＩＧ２として出力する。
【０１２０】
インループフィルタ部８０Ｂは、フィルタ前局所復号画像ＳＩＧ９を入力とする。このインループフィルタ部８０Ｂは、フィルタ前局所復号画像ＳＩＧ９に対してデブロックフィルタといったインループフィルタを適用して、フィルタ後局所復号画像ＳＩＧ１２として出力する。
【０１２１】
［動画像復号装置１００Ｂの構成および動作］
図９は、動画像復号装置１００Ｂのブロック図である。動画像復号装置１００Ｂは、図３に示した本発明の第１実施形態に係る動画像復号装置１００とは、エントロピー復号部１１０の代わりにエントロピー復号部１１０Ａを備える点と、インループフィルタ部１５０の代わりにインループフィルタ部１５０Ｂを備える点と、で異なる。なお、動画像復号装置１００Ｂにおいて、動画像復号装置１００と同一構成要件については、同一符号を付し、その説明を省略する。
【０１２２】
エントロピー復号部１１０Ａは、ビットストリームＳＩＧ２を入力とする。このエントロピー復号部１１０Ａは、ビットストリームＳＩＧ２をエントロピー復号し、量子化係数レベルＳＩＧ１０２を導出して出力する。
【０１２３】
インループフィルタ部１５０Ｂは、フィルタ前局所復号画像ＳＩＧ１０７を入力とする。このインループフィルタ部１５０Ｂは、フィルタ前局所復号画像ＳＩＧ１０７に対してデブロックフィルタといったインループフィルタを適用して、フィルタ後局所復号画像ＳＩＧ１０８として出力する。
【０１２４】
以上の動画像符号化装置１Ｂによれば、以下の効果を奏することができる。
【０１２５】
動画像符号化装置１Ｂは、インループフィルタ部８０Ｂにより、検出部６０により検出された対象ブロックごとに、変換・量子化部３０Ａにより直交変換処理および量子化処理が行われるよりも前に残差信号ＳＩＧ６を制御して、従来の量子化アルゴリズムではゼロになってしまう残差信号ＳＩＧ６を、変換・量子化部３０Ａによる直交変換処理および量子化処理の後に「１」以上の有意な値になるようにする。このため、変換・量子化部３０Ａにおける量子化幅よりも階調の小さな変動についても、直交変換処理および量子化処理の後に「１」以上の有意な値にすることができるので、擬似輪郭を抑制することができる。
【０１２６】
また、動画像符号化装置１Ｂは、上述のように、インループフィルタ部８０Ｂにより、検出部６０により検出された対象ブロックごとに、変換・量子化部３０Ａにより直交変換処理および量子化処理が行われるよりも前に残差信号ＳＩＧ６を制御して、従来の量子化アルゴリズムではゼロになってしまう残差信号ＳＩＧ６を、変換・量子化部３０Ａによる直交変換処理および量子化処理の後に「１」以上の有意な値になるようにする。このため、上述の特許文献１に示されている手法では擬似輪郭を抑制できないほどにフィルタ前局所復号画像ＳＩＧ９の画素値の変動が小さい場合であっても、明るさの変化方向に基づいてフィルタ前局所復号画像ＳＩＧ９の画素値を制御して、擬似輪郭を抑制することができる。
【０１２７】
また、動画像符号化装置１Ｂは、上述のように、インループフィルタ部８０Ｂにより、検出部６０により検出された対象ブロックごとに、変換・量子化部３０Ａにより直交変換処理および量子化処理が行われるよりも前に残差信号ＳＩＧ６を制御して、従来の量子化アルゴリズムではゼロになってしまう残差信号ＳＩＧ６を、変換・量子化部３０Ａによる直交変換処理および量子化処理の後に「１」以上の有意な値になるようにする。このため、上述の特許文献２に示されている手法のように高階調画像を生成する必要がないため、演算コストの増大を抑制することができる。
【０１２８】
また、動画像符号化装置１Ｂは、検出部６０により、ブロックサイズが３２×３２以上で、ブロック内変動値が１以上α未満で、かつエッジ値がβ以上であるブロックを、上述の対象ブロックとして検出する。また、検出部６０により対象ブロックとして検出されたブロックごとに、制御部７０Ｂによる処理を行う。このため、検出部６０により、画素値の変動が小さく、かつ明るさが滑らかに変化しているブロックを検出して、このブロックに対して、制御部７０Ｂによる処理を行うことができる。したがって、画素値の変動が大きいブロックや明るさが滑らかには変化していないブロック、すなわち擬似輪郭が発生しにくいブロックでは、制御部７０Ｂによる処理を削減して、演算コストを抑制することができる。
【０１２９】
以上の動画像復号装置１００Ｂによれば、以下の効果を奏することができる。
【０１３０】
動画像符号化装置１Ｂにおいて、上述のように、変換・量子化部３０Ａにより直交変換処理および量子化処理が行われるよりも前に残差信号ＳＩＧ６を制御して、従来の量子化アルゴリズムではゼロになってしまう残差信号ＳＩＧ６を、変換・量子化部３０Ａによる直交変換処理および量子化処理の後に「１」以上の有意な値になるようにする。このため、動画像符号化装置１ＢでビットストリームＳＩＧ２を生成する際に、従来の量子化アルゴリズムではゼロとなってしまう残差信号ＳＩＧ６が、変換・量子化部３０Ａによる直交変換処理および量子化処理の後に「１」以上の有意な値になるように制御されていることになる。したがって、動画像符号化装置１Ｂで生成されたビットストリームＳＩＧ２を受信する動画像復号装置１００Ｂは、ビットストリームＳＩＧ２に対して、エントロピー復号部１１０Ａで復号し、逆変換・逆量子化部１２０で逆量子化処理および逆直交変換処理を行えば、ゼロ以外の有意な値となる残差信号ＳＩＧ１０３を得ることができる。よって、擬似輪郭を抑制することができる。
【０１３１】
＜第４実施形態＞
［動画像処理システムＤＤの構成および動作］
図１０は、本発明の第４実施形態に係る動画像処理システムＤＤのブロック図である。動画像処理システムＤＤは、図７に示した本発明の第３実施形態に係る動画像処理システムＣＣとは、動画像符号化装置１Ｂの代わりに動画像符号化装置１Ｃを備える点で異なる。なお、動画像処理システムＤＤにおいて、動画像処理システムＣＣと同一構成要件については、同一符号を付し、その説明を省略する。
【０１３２】
［動画像符号化装置１Ｃの構成および動作］
図１１は、動画像符号化装置１Ｃのブロック図である。動画像符号化装置１Ｃは、図８に示した本発明の第３実施形態に係る動画像符号化装置１Ｂとは、インター予測部１０の代わりにインター予測部１０Ａを備える点と、制御部７０Ｂの代わりに制御部７０Ｃを備える点と、で異なる。なお、動画像符号化装置１Ｃにおいて、動画像符号化装置１Ｂと同一構成要件については、同一符号を付し、その説明を省略する。
【０１３３】
制御部７０Ｃは、検出結果ＳＩＧ１０と、残差信号ＳＩＧ６と、を入力とする。この制御部７０Ｃは、予測画像ＳＩＧ５の算出の際にイントラ予測が適用された対象ブロックについては、制御部７０Ｂと同様に、従来の量子化アルゴリズムではゼロとなってしまう残差信号ＳＩＧ６を、変換・量子化部３０Ａによる直交変換処理および量子化処理の後に「１」以上の有意な値となるように制御して、制御結果ＳＩＧ２１として出力する。一方、予測画像ＳＩＧ５の算出の際にインター予測が適用された対象ブロックについては、インター予測におけるレート歪最適化のコスト値を制御して、この対象ブロックのインター予測が行われる際に片方向予測が選択されやすくし、制御したコスト値をコスト値ＳＩＧ３１として出力する。
【０１３４】
インター予測部１０Ａは、入力画像ＳＩＧ１と、フィルタ後局所復号画像ＳＩＧ１３と、コスト値ＳＩＧ３１と、を入力とする。このインター予測部１０Ａは、インター予測における最適なモードをコスト値ＳＩＧ３１に基づいて決定し、決定したモードで、入力画像ＳＩＧ１およびフィルタ後局所復号画像ＳＩＧ１３を用いてインター予測を行ってインター予測画像ＳＩＧ３を生成し、出力する。
【０１３５】
以上の動画像符号化装置１Ｃによれば、動画像符号化装置１Ｂが奏することできる上述の効果に加えて、以下の効果を奏することができる。
【０１３６】
動画像符号化装置１Ｃは、イントラ予測が適用された対象ブロックについては、制御部７０Ｃにより、残差信号ＳＩＧ６の制御を行う。また、インター予測が適用された対象ブロックについては、制御部７０Ｃにより、インター予測におけるレート歪最適化のコスト値を制御して、このブロックのインター予測が行われる際に片方向予測が選択されやすくする。このため、インター予測において片方向予測が選択されやすくすることができ、擬似輪郭をさらに抑制することができる。
【０１３７】
なお、本発明の動画像符号化装置１、１Ａ、１Ｂ、１Ｃや動画像復号装置１００、１００Ａ、１００Ｂの処理を、コンピュータ読み取り可能な非一時的な記録媒体に記録し、この記録媒体に記録されたプログラムを動画像符号化装置１、１Ａ、１Ｂ、１Ｃや動画像復号装置１００、１００Ａ、１００Ｂに読み込ませ、実行することによって、本発明を実現できる。
【０１３８】
ここで、上述の記録媒体には、例えば、ＥＰＲＯＭやフラッシュメモリといった不揮発性のメモリ、ハードディスクといった磁気ディスク、ＣＤ−ＲＯＭなどを適用できる。また、この記録媒体に記録されたプログラムの読み込みおよび実行は、動画像符号化装置１、１Ａ、１Ｂ、１Ｃや動画像復号装置１００、１００Ａ、１００Ｂに設けられたプロセッサによって行われる。
【０１３９】
また、上述のプログラムは、このプログラムを記憶装置などに格納した動画像符号化装置１、１Ａ、１Ｂ、１Ｃや動画像復号装置１００、１００Ａ、１００Ｂから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネットなどのネットワーク（通信網）や電話回線などの通信回線（通信線）のように情報を伝送する機能を有する媒体のことをいう。
【０１４０】
また、上述のプログラムは、上述の機能の一部を実現するためのものであってもよい。さらに、上述の機能を動画像符号化装置１、１Ａ、１Ｂ、１Ｃや動画像復号装置１００、１００Ａ、１００Ｂにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル（差分プログラム）であってもよい。
【０１４１】
以上、この発明の実施形態につき、図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計なども含まれる。
【０１４２】
例えば、上述の各実施形態では、インループフィルタ部８０、８０Ａは、明るさの変化を画素値変動の分布により再現するようにフィルタ前局所復号画像ＳＩＧ９に対して処理を行った後に、この処理後のフィルタ前局所復号画像ＳＩＧ９に対してインループフィルタを適用することとした。しかし、これに限らず、フィルタ前局所復号画像ＳＩＧ９に対してインループフィルタを適用した後に、インループフィルタの適用後のフィルタ前局所復号画像ＳＩＧ９に対して明るさの変化を画素値変動の分布により再現するように処理を行うこととしてもよい。
【０１４３】
また、上述の各実施形態では、検出部６０、６０Ａは、ブロック内変動値およびエッジ値を用いて、対象ブロックの検出を行うこととした。しかし、これに限らず、ブロック内変動値と、エッジ値と、予測対象ブロックに属する各画素の画素値の分散値（ブロック内分散値）と、のうち少なくともいずれかを用いて、対象ブロックの検出を行うこととしてもよい。ブロック内分散値を用いる場合には、ブロック内分散値が閾値以下である場合に、予測対象ブロックを対象ブロックとして検出し、ブロック内分散値が閾値より大きい場合に、予測対象ブロックを対象ブロックとして検出しないこととする。
【０１４４】
また、上述の第１実施形態に係る動画像符号化装置１において、変換・量子化部３０の代わりに、上述の第３実施形態に係る変換・量子化部３０Ａおよび制御部７０Ｂを適用してもよい。
【０１４５】
また、上述の第１実施形態に係る動画像符号化装置１において、インター予測部１０および変換・量子化部３０の代わりに、上述の第４実施形態に係るインター予測部１０Ａ、変換・量子化部３０Ａ、および制御部７０Ｃを適用してもよい。
【０１４６】
また、上述の第２実施形態に係る動画像符号化装置１Ａにおいて、変換・量子化部３０の代わりに、上述の第３実施形態に係る変換・量子化部３０Ａおよび制御部７０Ｂを適用してもよい。
【０１４７】
また、上述の第２実施形態に係る動画像符号化装置１Ａにおいて、インター予測部１０および変換・量子化部３０の代わりに、上述の第４実施形態に係るインター予測部１０Ａ、変換・量子化部３０Ａ、および制御部７０Ｃを適用してもよい。
【符号の説明】
【０１４８】
ＡＡ、ＢＢ、ＣＣ、ＤＤ・・・動画像処理システム
１、１Ａ、１Ｂ、１Ｃ・・・動画像符号化装置
１０、１０Ａ・・・インター予測部
６０、６０Ａ・・・検出部
７０、７０Ａ・・・抽出部
７０Ｂ、７０Ｃ・・・制御部
８０、８０Ａ、８０Ｂ・・・インループフィルタ部
１００、１００Ａ、１００Ｂ・・・動画像復号装置
１１０、１１０Ａ・・・エントロピー復号部
１５０、１５０Ａ、１５０Ｂ・・・インループフィルタ部
【図１】
2019110568.tif 000005
【図２】
2019110568.tif 000006
【図３】
2019110568.tif 000007
【図４】
2019110568.tif 000008
【図５】
2019110568.tif 000009
【図６】
2019110568.tif 000010
【図７】
2019110568.tif 000011
【図８】
2019110568.tif 000012
【図９】
2019110568.tif 000013
【図１０】
2019110568.tif 000014
【図１１】
2019110568.tif 000015