(57)【要約】【課題】イントラ予測を用いるブロックベースの画像符号化・復号において，復号信号に対するブロック歪みを効果的に低減させるデブロッキングフィルタ処理を実現する。【解決手段】復号信号におけるデブロッキングフィルタにおけるフィルタ強度の調整に用いるパラメータ（フィルタリング項を補正する補正項，フィルタリング閾値を補正する補正閾値）を，参照画素と予測画素との間の距離に応じて変化させ，その画素間の距離が大きいほど，フィルタ強度が強くなるようにし，また，その画素間の距離が大きいほど，フィルタ処理を行うか否かの判別に用いる閾値を大きくして，フィルタ処理が適用されやすくなるようにする。【選択図】図３
2008193548.tif 000002
【特許請求の範囲】
【請求項１】
所定のサイズの矩形領域を単位として，復号画素値を参照してイントラ予測を行い，画像を符号化または復号する場合に，復号信号に対してデブロッキングフィルタ処理を施すデブロッキング処理方法において，
デブロッキングフィルタ処理対象画素のイントラ予測における参照画素からの垂直方向距離または水平方向距離または垂直方向距離と水平方向距離との平均値に応じて，デブロッキングフィルタ処理における画素値の修正幅を補正する補正値を変化させ，
前記補正値による修正幅の補正により，前記垂直方向距離または水平方向距離または垂直方向距離と水平方向距離との平均値が大きいほど，デブロッキングフィルタの強度が大きくなるフィルタ処理を実行する
ことを特徴とする適応デブロッキング処理方法。
【請求項２】
所定のサイズの矩形領域を単位として，復号画素値を参照してイントラ予測を行い，画像を符号化または復号する場合に，復号信号に対してデブロッキングフィルタ処理を施すデブロッキング処理方法において，
デブロッキングフィルタ処理対象画素のイントラ予測における参照画素からの垂直方向距離または水平方向距離または垂直方向距離と水平方向距離との平均値に応じて，当該画素にフィルタリングを適用するか否かを判別するためのフィルタリング条件の閾値を変化させ，前記垂直方向距離または水平方向距離または垂直方向距離と水平方向距離との平均値が大きいほど，フィルタリングを適用する値の範囲が広がる閾値を設定し，
前記設定された閾値を用いてフィルタリング条件を判別してフィルタ処理を実行する
ことを特徴とする適応デブロッキング処理方法。
【請求項３】
所定のサイズの矩形領域を単位として，復号画素値を参照してイントラ予測を行い，画像を符号化または復号する場合に，復号信号に対してデブロッキングフィルタ処理を施すデブロッキング処理方法において，
デブロッキングフィルタ処理対象画素のイントラ予測における参照画素からの垂直方向距離または水平方向距離または垂直方向距離と水平方向距離との平均値に応じて，当該画素にフィルタリングを適用するか否かを判別するためのフィルタリング条件の閾値を変化させ，前記垂直方向距離または水平方向距離または垂直方向距離と水平方向距離との平均値が大きいほど，フィルタリングを適用する値の範囲が広がる閾値を設定する過程と，
前記設定された閾値を用いてフィルタリング条件を判別する過程と，
前記フィルタリング条件を判別した結果に基づきフィルタリング処理を実行する場合に，デブロッキングフィルタ処理対象画素のイントラ予測における参照画素からの垂直方向距離または水平方向距離または垂直方向距離と水平方向距離との平均値に応じて，デブロッキングフィルタ処理における画素値の修正幅を補正する補正値を設定する過程と，
前記補正値による修正幅の補正により，前記垂直方向距離または水平方向距離または垂直方向距離と水平方向距離との平均値が大きいほど，デブロッキングフィルタの強度が大きくなるフィルタ処理を実行する過程とを有する
ことを特徴とする適応デブロッキング処理方法。
【請求項４】
所定のサイズの矩形領域を単位として，復号画素値を参照してイントラ予測を行い，画像を符号化または復号する場合に，復号信号に対してデブロッキングフィルタ処理を施すデブロッキング処理装置において，
デブロッキングフィルタ処理対象画素のイントラ予測における参照画素からの垂直方向距離または水平方向距離または垂直方向距離と水平方向距離との平均値に応じて，デブロッキングフィルタ処理における画素値の修正幅を補正する補正値を設定する手段と，
前記補正値による修正幅の補正により，前記垂直方向距離または水平方向距離または垂直方向距離と水平方向距離との平均値が大きいほど，デブロッキングフィルタの強度が大きくなるフィルタ処理を実行する手段とを備える
ことを特徴とする適応デブロッキング処理装置。
【請求項５】
所定のサイズの矩形領域を単位として，復号画素値を参照してイントラ予測を行い，画像を符号化または復号する場合に，復号信号に対してデブロッキングフィルタ処理を施すデブロッキング処理装置において，
デブロッキングフィルタ処理対象画素のイントラ予測における参照画素からの垂直方向距離または水平方向距離または垂直方向距離と水平方向距離との平均値に応じて，当該画素にフィルタリングを適用するか否かを判別するためのフィルタリング条件の閾値を変化させ，前記垂直方向距離または水平方向距離または垂直方向距離と水平方向距離との平均値が大きいほど，フィルタリングを適用する値の範囲が広がる閾値を設定する手段と，
前記設定された閾値を用いてフィルタリング条件を判別してフィルタ処理を実行する手段とを備える
ことを特徴とする適応デブロッキング処理装置。
【請求項６】
所定のサイズの矩形領域を単位として，復号画素値を参照してイントラ予測を行い，画像を符号化または復号する場合に，復号信号に対してデブロッキングフィルタ処理を施すデブロッキング処理装置において，
デブロッキングフィルタ処理対象画素のイントラ予測における参照画素からの垂直方向距離または水平方向距離または垂直方向距離と水平方向距離との平均値に応じて，当該画素にフィルタリングを適用するか否かを判別するためのフィルタリング条件の閾値を変化させ，前記垂直方向距離または水平方向距離または垂直方向距離と水平方向距離との平均値が大きいほど，フィルタリングを適用する値の範囲が広がる閾値を設定する手段と，
前記設定された閾値を用いてフィルタリング条件を判別する手段と，
前記フィルタリング条件を判別した結果に基づきフィルタリング処理を実行する場合に，デブロッキングフィルタ処理対象画素のイントラ予測における参照画素からの垂直方向距離または水平方向距離または垂直方向距離と水平方向距離との平均値に応じて，デブロッキングフィルタ処理における画素値の修正幅を補正する補正値を設定する手段と，
前記補正値による修正幅の補正により，前記垂直方向距離または水平方向距離または垂直方向距離と水平方向距離との平均値が大きいほど，デブロッキングフィルタの強度が大きくなるフィルタ処理を実行する手段とを備える
ことを特徴とする適応デブロッキング処理装置。
【請求項７】
請求項１，請求項２または請求項３記載の適応デブロッキング処理方法を，コンピュータに実行させるための適応デブロッキング処理プログラム。
【請求項８】
請求項１，請求項２または請求項３記載の適応デブロッキング処理方法を，コンピュータに実行させるための適応デブロッキング処理プログラムを記録したコンピュータ読み取り可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は，高能率画像信号符号化および復号において，復号画像のブロック歪みを低減するための適応デブロッキング処理方法に関する。
【背景技術】
【０００２】
Ｈ．２６４に代表される動画像符号化方法では，ブロックベースの動き補償と離散コサイン変換（ＤＣＴ）の組合せによる符号化手法が用いられられている。これは，動き補償により時間方向の冗長性を除去し，ＤＣＴにより空間方向の冗長性を除去する狙いがある。しかし，ブロックベースの方式であるため，原理上，ブロック歪みが内在する。つまり，低レートにおいて，量子化ステップ幅が大きくなると，隣接ブロックとの不連続性が大きくなり，ブロック境界においてブロック歪みが顕在化する。このため，ブロック歪みの低減が復号画像の画質向上には不可欠となる。
【０００３】
そこで，ブロック境界におけるブロック歪みを低減するためにデブロッキングフィルタが利用される。Ｈ．２６４のデブロッキング処理（例えば，非特許文献１参照）では，まず，空間的な位置（マクロブロック境界か否か），符号化モード（イントラ符号化されたか否か），直交変換係数の有無，参照フレームの枚数・動きベクトルの差異等によりフィルタの強度を５通りに設定する。この強度を表すのはＢｓ値と呼ばれるパラメータであり，０，１，２，３，４のいずれかの値をとる。さらに，量子化パラメータの大小に応じて，デブロッキングフィルタの形状が設定される。
【０００４】
デブロッキングフィルタ処理は，４×４のブロック単位で行われる。処理の対象となる画素は，ブロック境界に位置する１２画素であり，各画素位置に応じてフィルタリング処理が行われる。例えば，図１１に示す網掛けで示した四角の位置の画素値を変数ｐk ，ｑk （ｋ＝０，１，２，３）に格納した場合，以下の処理となる。
【０００５】
〔１〕Ｂｓ＝１，２，３の場合：
ｐ0 ，ｑ0 に対して，４タップフィルタに基づくフィルタリングが施される。
【０００６】
ｐ′0 ＝ｐ0 ＋Δ0                                                   （１）
ｑ′0 ＝ｑ0 ＋Δ0                                                   （２）
ここで，Δ0 は以下の通りである。
【０００７】
Δ0 ＝Ｃｌｉｐ［−ｔｃ，ｔｃ，
｛（ｑ0 −ｐ0 ）×４  ＋（ｐ1 −ｑ1 ）＋４｝／８］    （３）
なお，Ｃｌｉｐ［ａ，ｂ，ｃ］はｃの範囲がａ≦ｃ≦ｂとなるように次式のクリップ処理を行うことを意味する。
【０００８】
・ａ≦ｃ≦ｂのとき，  Ｃｌｉｐ［ａ，ｂ，ｃ］＝ｃ
・ｃ＜ａのとき，      Ｃｌｉｐ［ａ，ｂ，ｃ］＝ａ
・ｂ＜ｃのとき，      Ｃｌｉｐ［ａ，ｂ，ｃ］＝ｂ                    （４）
また，ｔｃは，｜ｐ2 −ｐ0 ｜，｜ｑ2 −ｑ0 ｜，および閾値βから定められる。なお，以下では，Δ0 をｐ0 ，ｑ0 のフィルタリング項と呼ぶ。
【０００９】
ｐ1 ，ｑ1 に対して，以下のフィルタリングが施される。
【００１０】
〔1-1a〕  ｜ｐ2 −ｐ0 ｜＜βの場合：
ｐ′1 ＝ｐ1 ＋Δ1 (p)                                               （５）
ここで，Δ1 (p) は以下の通りである。また，ｔｃ0 はＢｓ値，量子化パラメータＱＰにより定まる。
【００１１】
Δ1 (p) ＝Ｃｌｉｐ［−ｔｃ0 ，ｔｃ0 ，
ｐ2 ＋｛（ｐ0 ＋ｑ0 ＋１）−２ｐ1 ｝／２］    （６）
〔1-2a〕  それ以外の場合：
ｐ′1 ＝ｐ1 
〔1-1b〕  ｜ｑ2 −ｑ0 ｜＜βの場合：
ｑ′1 ＝ｑ1 ＋Δ1 (q)                                               （７）
ここで，Δ1 (q) は以下の通りである。
【００１２】
Δ1 (q) ＝Ｃｌｉｐ［−ｔｃ0 ，ｔｃ0 ，
ｑ2 ＋｛（ｐ0 ＋ｑ0 ＋１）−２ｑ1 ｝／２］    （８）
〔1-2b〕  それ以外の場合：
ｑ′1 ＝ｑ1 
なお，以下では，Δ1 (p) ，Δ1 (q) を，各々，ｐ1 ，ｑ1 のフィルタリング項と呼ぶ。
【００１３】
前述の〔1-1a〕，〔1-1b〕における条件を，Ｂｓ＝１，２，３の場合のフィルタリング条件と呼び，その際に用いた閾値βを，Ｂｓ＝１，２，３の場合のフィルタリング閾値と呼ぶ。
【００１４】
〔２〕Ｂｓ＝４の場合：
輝度成分に対して，以下のフィルタリングが施される。
【００１５】
〔2-1 〕  ｜ｐ2 −ｐ0 ｜＜βかつ｜ｐ0 −ｑ0 ｜＜α／４＋２の場合：
ｐ′0 ＝（ｐ2 ＋２ｐ1 ＋２ｐ0 ＋２ｑ0 ＋ｑ1 ＋４）／８
ｐ′1 ＝（ｐ2 ＋ｐ1 ＋ｐ0 ＋ｑ0 ＋２）／４
ｐ′2 ＝（２ｐ3 ＋３ｐ2 ＋ｐ1 ＋ｐ0 ＋ｑ0 ＋４）／８                （９）
〔2-2 〕  それ以外の場合：
ｐ′0 ＝（２ｐ1 ＋ｐ0 ＋ｑ1 ＋２）／４
ｐ′1 ＝ｐ1 
ｐ′2 ＝ｐ2                                                       （１０）
前述の〔2-1 〕における条件を，Ｂｓ＝４の場合のフィルタリング条件と呼び，その際に用いた閾値β，α／４＋２を，Ｂｓ＝４の場合のフィルタリング閾値と呼ぶ。
【非特許文献１】Adaptive deblocking filter，P.List，et.al.，IEEE Transactions on Circuits and Systems for Video Technology，Volume 13 ，Issue 7 ，July 2003 ，pp.614-619
【発明の開示】
【発明が解決しようとする課題】
【００１６】
前述のとおり，Ｈ．２６４において用いられるデブロックキングフィルタは，ブロック内の各画素に対しては一様な処理を施している。つまり，ブロック内の予測誤差が統計的に定常な状態であることを想定して設計されたフィルタである。このため，画像信号のもつ非定常を考慮して設計されておらず，同予測誤差がブロック内において局所的に大きく変動する場合，十分なブロック歪み低減効果が期待できない。
【００１７】
本発明はかかる事情に鑑みてなされたものであって，ブロックベースのフレーム内予測およびＤＣＴに基づき生成される復号信号に対するブロック歪み低減処理において，空間的な局所性を利用してブロック境界部の予測誤差を抑制するデブロッキングフィルタの設計法を確立することを目的とする。
【課題を解決するための手段】
【００１８】
本発明は，ブロックベースのイントラ（フレーム内）予測符号化におけるブロック歪みを効果的に低減させるため，デブロッキングフィルタにおけるフィルタ強度の調整に用いるパラメータを，参照画素と予測画素との間の距離に応じて適応的に変化させることを特徴とする。ここで制御対象となるパラメータとして，次の２種類のものがある。
（１）フィルタリングにおける画素値の補正項（フィルタリング項を補正する補正項）を，参照画素と予測画素の画素間の距離に応じて適応的に変化させる。
（２）フィルタリングの適用の判別を行う閾値（フィルタリング閾値を補正する補正閾値）を，参照画素と予測画素の画素間の距離に応じて適応的に変化させる。
【００１９】
これにより，上記画素間の距離が大きいほど，フィルタ強度が強くなるようにする。また，上記画素間の距離が大きいほど，フィルタ処理を行うか否かの判別に用いる閾値を大きくし，フィルタ処理が適用されやすくなるようにする。
【００２０】
具体的には，本発明は，所定のサイズの矩形領域を単位として，復号画素値を参照してイントラ予測を行い，画像を符号化または復号する場合に，復号信号に対してデブロッキングフィルタ処理を施すデブロッキング処理方法において，デブロッキングフィルタ処理対象画素のイントラ予測における参照画素からの垂直方向距離または水平方向距離または垂直方向距離と水平方向距離との平均値に応じて，デブロッキングフィルタ処理における画素値の修正幅を補正する補正値を変化させ，前記補正値による修正幅の補正により，前記垂直方向距離または水平方向距離または垂直方向距離と水平方向距離との平均値が大きいほど，デブロッキングフィルタの強度が大きくなるフィルタ処理を実行することを特徴する。
【００２１】
また，本発明は，デブロッキングフィルタ処理対象画素のイントラ予測における参照画素からの垂直方向距離または水平方向距離または垂直方向距離と水平方向距離との平均値に応じて，当該画素にフィルタリングを適用するか否かを判別するためのフィルタリング条件の閾値を変化させ，前記垂直方向距離または水平方向距離または垂直方向距離と水平方向距離との平均値が大きいほど，フィルタリングを適用する値の範囲が広がる閾値を設定し，前記設定された閾値を用いてフィルタリング条件を判別してフィルタ処理を実行することを特徴とする。
【発明の効果】
【００２２】
本発明は，ブロックベースのフレーム内予測およびＤＣＴに基づき生成される復号信号に対するブロック歪み低減処理において，イントラ予測誤差の空間的な局所性に着目し，参照画素からの距離に応じて，デブロックキングフィルタの強度を変化させる適応処理を導入している。このため，イントラ予測の方向に応じて変化するブロック歪みを効果的に抑圧することができ，主観画質，符号化効率の両面において，大きな向上をもたらすことが期待させる。
【発明を実施するための最良の形態】
【００２３】
以下では，イントラ予測において選択される可能性の高い３つのモード（垂直方向予測，水平方向予測，平均値予測）に関して議論する。なお，以下では，ｆ（ｘ，ｙ）はフレーム内の位置（ｘ，ｙ）における原信号の画素値を表す。 *ｆ（ｘ，ｙ）はフレーム内の位置（ｘ，ｙ）における復号信号の画素値を表す。Ｅ［・］は期待値演算を表す。
【００２４】
［第１の実施形態］
Ｈ．２６４におけるイントラ予測における予測誤差の空間的な性質を考察する。例えば，予測モード０（垂直方向予測）の場合，図１２に示す垂直方向の予測が行われる。このとき，参照画素が原信号とすると，予測誤差は次のようにモデル化できる。
【００２５】
Ｅ［｜ｆ（ｘ，ｙ＋ｋ）−ｆ（ｘ，ｙ−１）｜2 ］
＝Ｅ［ｆ（ｘ，ｙ＋ｋ）2 ］＋Ｅ［ｆ（ｘ，ｙ−１）2 ］
−２Ｅ［ｆ（ｘ，ｙ＋ｋ）ｆ（ｘ，ｙ−１）］
＝２σ2 （１−ρx k+1 ）                                      （１１）
ここでは，
Ｅ［｜ｆ（ｘ，ｙ）｜2 ］＝σ2 
とし，さらに，画像の空間相関に関する以下の斉次モデルを用いた。
【００２６】
Ｅ［ｆ（ｘ，ｙ）ｆ（ｘ＋１，ｙ）］＝ρx σ2 
ここで，ρx は相関係数であり，１以下の値をとる。次に，参照画素が復号信号となる場合，予測誤差は次のようにモデル化できる。
【００２７】
Ｅ［｜ｆ（ｘ，ｙ＋ｋ）− *ｆ（ｘ，ｙ−１）｜2 ］
＝Ｅ［ｆ（ｘ，ｙ＋ｋ）2 ］＋Ｅ［ *ｆ（ｘ，ｙ−１）2 ］
−Ｅ［２ｆ（ｘ，ｙ＋ｋ） *ｆ（ｘ，ｙ−１）］
＝２σ2 （１−αx ρx k+1 ）                                  （１２）
ここで，αx （≦１）は参照信号である復号信号が含む符号化歪みにより，予測誤差が増加することを表す係数である。
【００２８】
上述の考察より，参照画素からの距離が大きくなるほど，予測誤差が増大することが分かる。こうした予測誤差の増大はブロック歪みとなって現れ，符号化効率，主観画質を劣化させる。このため，垂直方向予測を用いて予測を行う場合，デブロッキングフィルタの強度を参照画素からの垂直距離に応じて，制御する必要がある。
【００２９】
そこで，本実施形態では，画素ｐi （ｉ＝０，１，２，３）を含むブロックが予測モード０のイントラ予測を行う場合，式（１）を以下のように修正する。
【００３０】
ｐ′0 ＝ｐ0 ＋（Δ0 ＋ *Δ0 (p) ［０］）                          （１３）
また，式（５）を以下のように修正する。なお，次式は式（５）と同様，｜ｐ2 −ｐ0 ｜＜βの場合に適用するものとする。
【００３１】
ｐ′1 ＝ｐ1 ＋Δ1 (p) ＋ *Δ1 (p) ［０］                          （１４）
上式の *Δ0 (p) ［０］， *Δ1 (p) ［０］は，いずれもイントラ予測に用いる参照画素からの垂直方向の距離ｋに応じて定まるパラメータである。具体的な設定方法は外部から与えられるものとするが，ｋに関する非減少関数となるように与えられるものとする。なお，以下では， *Δ0 (p) ［０］， *Δ1 (p) ［０］を予測モード０における補正項と呼ぶ。あるいは，式（３）におけるｔｃ，また，式（５）におけるｔｃ0 を参照画素からの垂直方向の距離ｋに応じて適応的に変化させる方法もある。この際も，ｔｃ，ｔｃ0 はｋに関する非減少関数となるように与えられるものとする。なお，具体的な設定方法は外部から与えられるものとする。外部から与える場合に，具体的な値は，例えば予め多くのサンプル画像についての視覚実験を行い，その結果から適切な値を求めておき，その値を記憶装置に格納しておいて用いてもよい。後述する他の実施形態も同様である。
【００３２】
イントラ予測を行うブロックのサイズＬp ×Ｌp と直交変換のブロックのサイズＬt ×Ｌt が異なる場合も，参照画素からの垂直方向の距離ｋに応じて適応的に変化させる。Ｈ．２６４の場合，Ｌp ＝４，８，１６，Ｌt ＝４，８である。本実施形態では，参照画素からの距離に応じて適応処理を行うため，Ｌp ＞Ｌt の場合は，同じ直交変換・量子化を用いた復号信号であっても，マクロブロック内の位置に応じて，デブロッキングフィルタの強度が異なる。これも，Ｈ．２６４のデブロッキングフィルタとは大きく異なる点である。
【００３３】
［第２の実施形態］
前述と同様の理由により，Ｂｓ＝１，２，３における予測モード０の場合，式（５）を適用する条件を以下のように修正する。
【００３４】
｜ｐ2 −ｐ0 ｜＜β＋δBs<4［０：β］
ここで，δBs<4［０：β］は，イントラ予測に用いる参照画素からの垂直方向の距離ｋに応じて定まるパラメータであり，Ｂｓ＝１，２，３における予測モード０の補正閾値と呼ぶ。具体的な設定方法は外部から与えられるものとするが，ｋに関する非減少関数となるように与えられるものとする。
【００３５】
Ｂｓ＝４における予測モード０の場合，式（９）を適用する条件を以下のように修正する。
【００３６】
｜ｐ2 −ｐ0 ｜＜β＋δBs=4［０：β］
かつ｜ｐ0 −ｑ0 ｜＜α／４＋２＋δBs=4［０：α］
ここで，δBs=4［０：β］，δBs=4［０：α］は，イントラ予測に用いる参照画素からの垂直方向の距離ｋに応じて定まるパラメータであり，Ｂｓ＝４における予測モード０の補正閾値と呼ぶ。具体的な設定方法は外部から与えられるものとするが，ｋに関する非減少関数となるように与えられるものとする。
【００３７】
なお，本実施形態は前述の第１の実施形態と併用することが可能である。
【００３８】
［第３の実施形態］
予測モード１（水平方向予測）の場合，図１３に示す水平方向の予測が行われるが，この場合にも同様に，予測誤差に関して次式を得る。
【００３９】
Ｅ［｜ｆ（ｘ＋ｋ，ｙ）− *ｆ（ｘ−１，ｙ）｜2 ］
＝Ｅ［ｆ（ｘ＋ｋ，ｙ）2 ］＋Ｅ［ *ｆ（ｘ−１，ｙ）2 ］
−Ｅ［２ｆ（ｘ＋ｋ，ｙ） *ｆ（ｘ−１，ｙ）］
＝２σ2 （１−αρy k+1 ）                                    （１５）
こうした予測誤差の増大はブロック歪みとなって現れ，符号化効率，主観画質を劣化させる。このため，水平方向予測を用いて予測を行う場合，デブロッキングフィルタの強度を参照画素からの水平距離に応じて，強める必要がある。
【００４０】
画素ｐi （ｉ＝０，１，２，３）を含むブロックが予測モード０のイントラ予測を行う場合，式（１）を以下のように修正する。
【００４１】
ｐ′0 ＝ｐ0 ＋（Δ0 ＋ *Δ0 (p) ［１］）                          （１６）
また，式（５）を以下のように修正する。なお，次式は式（５）と同様，｜ｐ2 −ｐ0 ｜＜βの場合に適用するものとする。
【００４２】
ｐ′1 ＝ｐ1 ＋Δ1 (p) ＋ *Δ1 (p) ［１］                          （１７）
上式の *Δ0 (p) ［１］， *Δ1 (p) ［１］は，いずれもイントラ予測に用いる参照画素からの水平方向の距離ｋに応じて定まるパラメータである。具体的な設定方法は外部から与えられるものとするが，ｋに関する非減少関数となるように与えられるものとする。なお，以下では， *Δ0 (p) ［１］， *Δ1 (p) ［１］を予測モード１における補正項と呼ぶ。あるいは，式（３）におけるｔｃ，また，式（５）におけるｔｃ0 を参照画素からの水平方向の距離ｋに応じて適応的に変化させる方法もある。この際も，ｔｃ，ｔｃ0 はｋに関する非減少関数となるように与えられるものとする。なお，具体的な設定方法は外部から与えられるものとする。
【００４３】
［第４の実施形態］
前述と同様の理由により，Ｂｓ＝１，２，３における予測モード１の場合，式（５）を適用する条件を以下のように修正する。
【００４４】
｜ｐ2 −ｐ0 ｜＜β＋δBs<4［１：β］
ここで，δBs<4［１：β］は，イントラ予測に用いる参照画素からの水平方向の距離ｋに応じて定まるパラメータであり，Ｂｓ＝１，２，３における予測モード１の補正閾値と呼ぶ。具体的な設定方法は外部から与えられるものとするが，ｋに関する非減少関数となるように与えられるものとする。
【００４５】
Ｂｓ＝４における予測モード１の場合，式（９）を適用する条件を以下のように修正する。
【００４６】
｜ｐ2 −ｐ0 ｜＜β＋δBs=4［１：β］
かつ｜ｐ0 −ｑ0 ｜＜α／４＋２＋δBs=4［１：α］
ここで，δBs=4［１：β］，δBs=4［１：α］は，イントラ予測に用いる参照画素からの水平方向の距離ｋに応じて定まるパラメータであり，Ｂｓ＝４における予測モード１の補正閾値と呼ぶ。具体的な設定方法は外部から与えられるものとするが，ｋに関する非減少関数となるように与えられるものとする。
【００４７】
なお，本実施形態は前述の第３の実施形態と併用することが可能である。
【００４８】
［第５の実施形態］
予測モード２（平均値予測）の場合，デブロッキングフィルタの強度を参照画素からの垂直距離，水平距離に応じて強める。
【００４９】
画素ｐi （ｉ＝０，１，２，３）を含むブロックが予測モード２のイントラ予測を行う場合，式（１）を以下のように修正する。
【００５０】
ｐ′0 ＝ｐ0 ＋（Δ0 ＋ *Δ0 (p) ［２］）                          （１８）
また，式（５）を以下のように修正する。なお，次式は式（５）と同様，｜ｐ2 −ｐ0 ｜＜βの場合に適用するものとする。
【００５１】
ｐ′1 ＝ｐ1 ＋Δ1 (p) ＋ *Δ1 (p) ［２］                          （１９）
上式の *Δ0 (p) ［２］， *Δ1 (p) ［２］は，いずれもイントラ予測に用いる参照画素からの垂直方向の距離ｋh および水平方向の距離ｋv の平均値ｋmean＝（ｋh ＋ｋv ）／２に応じて定まるパラメータである。具体的な設定方法は外部から与えられるものとするが，ｋmeanに関する非減少関数となるように与えられるものとする。なお，以下では， *Δ0 (p) ［２］， *Δ1 (p) ［２］を予測モード２における補正項と呼ぶ。あるいは，式（３）におけるｔｃ，また，式（５）におけるｔｃ0 を参照画素からの距離ｋmeanに応じて適応的に変化させる方法もある。この際も，ｔｃ0 ，ｔｃ0 はｋmeanに関する非減少関数となるように与えられるものとする。なお，具体的な設定方法は外部から与えられるものとする。
【００５２】
［第６の実施形態］
前述と同様の理由により，Ｂｓ＝１，２，３における予測モード２の場合，式（５）を適用する条件を以下のように修正する。
【００５３】
｜ｐ2 −ｐ0 ｜＜β＋δBs<4［２：β］
ここで，δBs<4［２：β］は，イントラ予測に用いる参照画素からの垂直方向の距離ｋh および水平方向の距離ｋv の平均値ｋmean＝（ｋh ＋ｋv ）／２に応じて定まるパラメータであり，Ｂｓ＝１，２，３における予測モード２の補正閾値と呼ぶ。具体的な設定方法は外部から与えられるものとするが，ｋに関する非減少関数となるように与えられるものとする。
【００５４】
Ｂｓ＝４における予測モード２の場合，式（９）を適用する条件を以下のように修正する。
【００５５】
｜ｐ2 −ｐ0 ｜＜β＋δBs=4［２：β］
かつ｜ｐ0 −ｑ0 ｜＜α／４＋２＋δBs=4［２：α］
ここで，δBs=4［２：β］，δBs=4［２：α］は，イントラ予測に用いる参照画素からの垂直方向の距離ｋh および水平方向の距離ｋv の平均値ｋmean＝（ｋh ＋ｋv ）／２に応じて定まるパラメータであり，Ｂｓ＝４における予測モード２の補正閾値と呼ぶ。具体的な設定方法は外部から与えられるものとするが，ｋmeanに関する非減少関数となるように与えられるものとする。
【００５６】
なお，本実施形態は前述の第５の実施形態と併用することが可能である。
【００５７】
［符号化装置］
図１は，本発明が適用される符号化装置の構成例を示す。本発明は，例えば図１に示す符号化装置１０における復号信号に対して施されるデブロッキングフィルタ処理において用いられる。
【００５８】
図１において，変換部１０１は，符号化対象の画像信号を入力とし，例えば離散コサイン変換処理などの変換処理を行い，算出された変換係数を変換係数記憶部１０２へ書き出す。量子化部１０３は，変換係数記憶部１０２から読み出した変換係数を入力とし，量子化処理を行い，量子化値を量子化値記憶部１０４へ書き出す。
【００５９】
逆量子化部１０５は，量子化値記憶部１０４から読み出した量子化値を入力とし，逆量子化処理を行い，逆量子化値記憶部１０６へ書き出す。逆変換部１０７は，逆量子化値記憶部１０６から読み出した変換係数を入力とし，逆変換処理を行い，予測誤差復号信号記憶部１０８へ書き出す。
【００６０】
デブロッキング処理部１０９は，予測誤差復号信号記憶部１０８から読み出した予測誤差の復号信号と遅延器１１３の出力との加算値を入力とし，その加算値の復号信号に対してデブロッキングフィルタ処理を行い，結果のデブロッキング信号をローカル復号信号記憶部１１０へ書き出す。予測処理部１１１は，ローカル復号信号記憶部１１０から読み出した復号信号を入力とし，予測処理を行い，予測信号記憶部１１２に書き出す。予測処理部１１１における処理は，ブロックベースの動き補償，輝度補償のようなセグメント情報を必要とする予測処理である。予測信号記憶部１１２から読み出した予測信号は，遅延器１１３に入力され１フレーム分遅延される。
【００６１】
エントロピ符号化部１１４は，量子化値記憶部１０４から読み出した量子化値を入力とし，エントロピ符号化処理を行い，符号化結果を符号化ストリーム記憶部１１５へ書き出す。
【００６２】
［復号装置］
図２は，本発明が適用される復号装置の構成例を示す。本発明は，例えば図２に示す復号装置２０における復号信号に対して施されるデブロッキングフィルタ処理においても，図１の符号化装置１０と同様に用いられる。
【００６３】
図２において，符号化ストリーム記憶部２０１は，符号化装置から出力された符号化ストリームを記憶する。エントロピ復号部２０２は，符号化ストリーム記憶部２０１から読み出した符号化ストリームを入力とし，エントロピ復号処理を行い，復号された量子化値を量子化値記憶部２０３へ書き出す。逆量子化部２０４は，量子化値記憶部２０３から読み出した量子化値を入力とし，逆量子化処理を行い，変換係数記憶部２０５へ書き出す。逆変換部２０６は，変換係数記憶部２０５から読み出した変換係数を入力とし，逆変換処理を行い，予測誤差復号信号記憶部２０７へ書き出す。
【００６４】
デブロッキング処理部２０８は，予測誤差復号信号記憶部２０７から読み出した予測誤差の復号信号と，予測信号記憶部２１２の出力である予測値との加算値を入力とし，その加算値の復号信号に対してデブロッキングフィルタ処理を行い，結果のデブロッキング信号を復号信号記憶部２０９へ書き出す。予測処理部２１１は，復号信号記憶部２０９から読み出した復号信号を遅延器２１０によって１フレーム分遅延した信号を予測信号として予測処理を行い，予測信号記憶部２１２に書き出す。
【００６５】
［デブロッキング処理装置］
本発明によるデブロッキング処理装置は，例えば図１の構成の符号化装置１０におけるデブロッキングフィルタとして，デブロッキング処理部１０９における処理に用いられる。あるいは，図２の構成の復号装置２０におけるデブロッキングフィルタとして，デブロッキング処理部２０８における処理に用いられる。
【００６６】
図３は，本発明に係るデブロッキング処理装置の構成例を示すブロック図である。なお，以下では，フィルタリング対象ブロック内の画素値をブロック画素値と略記する。以下，図３に示すデブロッキング処理装置３０の各部について説明する。
【００６７】
予測モード記憶部３０１：処理対象となるブロックの予測モードを記憶する。
【００６８】
予測モード判定部３０２：予測モード記憶部３０１から読み出した予測モードを入力とし，予測モードがモード番号０の垂直方向予測，モード番号１の水平方向予測，モード番号２の平均値予測のいずれかであれば，Ｂｓ値算出部３０４の処理に移り，それ以外のモードであれば，デフォルトデブロッキング処理部３０３の処理に移る。
【００６９】
デフォルトデブロッキング処理部３０３：Ｈ．２６４において規定されたデブロッキング処理を行い，処理後の画素値を画素値記憶部３１５に書き出す。
【００７０】
Ｂｓ値算出部３０４：デブロッキングフィルタ処理に先立ち，同処理の強度を示すＢｓ値を算出し，算出された値をＢｓ値記憶部３０５に書き出す。なお，具体的な算出方法については，Ｈ．２６４の方法に従うものとする。
【００７１】
Ｂｓ値判定部３０６：Ｂｓ値記憶部３０５から読み出したＢｓ値を入力とし，Ｂｓ値が４であれば，Ｂｓ＝４に対するフィルタリング処理部３０８（フィルタリング閾値設定部３０９，フィルタリング処理部３１０）の処理に移り，Ｂｓ＝０の場合には，入力されたブロック画素値をそのまま画素値記憶部３１５に書き出す。それ以外であれば，Ｂｓ＝１，２，３に対するフィルタリング処理部３１１（フィルタリング閾値設定部３１２，閾値判定無しフィルタリング処理部３１３，閾値判定付きフィルタリング処理部３１４）の処理に移る。
【００７２】
フィルタリング閾値設定部３０９：ブロック画素値を入力し，同画素値のブロック内の位置に応じてフィルタリング閾値を設定する。このフィルタリング閾値設定部３０９の処理の詳細は，図６を用いて後述する。
【００７３】
フィルタリング処理部３１０：Ｂｓ＝４の場合のＨ．２６４において規定されたデブロッキング処理を行い，処理後の画素値を画素値記憶部３１５に書き出す。
【００７４】
フィルタリング閾値設定部３１２：ブロック画素値を入力し，同画素値のブロック内の位置に応じてフィルタリング閾値を設定する。このフィルタリング閾値設定部３１２の処理の詳細は，図６を用いて後述する。
【００７５】
閾値判定無しフィルタリング処理部３１３：ブロック画素値を入力とし，ｐ0 の位置にある画素に対して，デブロッキング処理を行い，処理後の画素値を画素値記憶部３１５に書き出す。本処理の詳細は，図５を用いて後述する。
【００７６】
閾値判定付きフィルタリング処理部３１４：ブロック画素値を入力とし，ｐ1 の位置にある画素に対して，閾値判定後に，デブロッキング処理を行い，処理後の画素値を画素値記憶部３１５に書き出す。本処理の詳細は，図４を用いて後述する。
【００７７】
図４は，Ｂｓ＝１，２，３において，変数ｐ0 に格納される画素値に対する処理であり，図５は，Ｂｓ＝１，２，３において，変数ｐ1 に格納される画素値に対する処理である。まず，図４に従って，変数ｐ0 に格納される画素値に対する処理を説明する。
【００７８】
ブロック画素値記憶部４０１：ブロック画素値を格納する。
【００７９】
パラメータ記憶部４０２：デブロッキングフィルタ処理に用いるパラメータとして，Ｂｓ値，α，β，ＱＰ等を格納する。
【００８０】
フィルタリング項算出部４０３：ブロック画素値を入力し，同画素値のブロック内の位置に応じてフィルタリング項を算出する処理を行い，算出した値をフィルタリング項記憶部４０４に出力する。具体的な算出方法は，式（３），式（６），式（８）に従う。
【００８１】
垂直距離算出部／水平距離算出部４０５：処理対象となっている画素のマクロブロック内の位置を入力とし，垂直方向予測（予測モード０）の場合，イントラ予測における参照画素値と当該画素の垂直方向の距離を算出し，水平方向予測（予測モード１）の場合，イントラ予測における参照画素値と当該画素の水平方向の距離を算出し，平均値予測（予測モード２）の場合，イントラ予測における参照画素値と当該画素の垂直・水平方向の距離の平均値を算出する処理を行い，算出した距離を画素間距離記憶部４０６に出力する。デブロッキング処理そのものは，４×４画素のブロック単位で行われるが，イントラ予測は４×４，８×８，１６×１６画素のブロックに対して行われるため，画素間距離記憶部４０６に格納される値は，４×４，８×８，１６×１６画素ブロックの場合，各々，最大で４，８，１６となる。
【００８２】
補正項算出部４０７：画素間距離記憶部４０６から読み出した水平距離，垂直距離を入力とし，補正項 *Δ0 (p) ［０］， *Δ0 (p) ［１］， *Δ0 (p) ［２］を算出する処理を行い，算出した値を補正項記憶部４０８に出力する。具体的な算出方法は，外部から与えられるものとする。事前にテーブルに格納した値を参照しても良い。
【００８３】
フィルタリング処理部４０９：ブロック画素値記憶部４０１から読み出した当該画素の画素値，フィルタリング項記憶部４０４から読み出した当該画素に対するフィルタリング項，補正項記憶部４０８から読み出した当該画素に対する補正項を入力とし，３つの値を加算する処理を行い，加算結果を出力する。この出力値はフィルタリング画素値記憶部４１０に書き出される。
【００８４】
繰返し処理判定部４１１：フィルタリングの対象となっている全ての画素について，上述の処理を繰り返す。
【００８５】
図５において，ブロック画素値記憶部５０１から画素間距離記憶部５０６，補正項記憶部５０８から繰返し処理判定部５１１の処理構成は，各々，図４のブロック画素値記憶部４０１から画素間距離記憶部４０６，補正項記憶部４０８から繰返し処理判定部４１１と同じである。
【００８６】
補正項算出部５０７：画素間距離記憶部５０６から読み出した水平距離，垂直距離を入力とし，補正項 *Δ1 (p) ［０］， *Δ1 (p) ［１］， *Δ1 (p) ［２］を算出する処理を行い，算出した値を補正項記憶部５０８に出力する。具体的な算出方法は，外部から与えられるものとする。事前にテーブルに格納した値を参照しても良い。
【００８７】
フィルタリング条件判定部５１２：フィルタリング閾値，画素値を入力として，フィルタリング条件を満たすか否かの判定を行い，判定が真の場合，フィルタリング項算出部５０３の処理に移り，判定が偽の場合，ブロック画素値記憶部５０１の値をフィルタリング画素値記憶部５１０に書き出す。
【００８８】
図３におけるフィルタリング閾値設定部３０９，３１２の詳細を図６を用いて示す。
【００８９】
座標値記憶部６０１：当該画素値の座標値を読み込む。
【００９０】
予測モード記憶部６０２：当該画素を含むブロックの予測モードを読み込む。
【００９１】
Ｂｓ値記憶部６０３：当該画素を含むブロックのＢｓ値を読み込む。
【００９２】
垂直距離算出部／水平距離算出部６０４：処理対象となっている画素のマクロブロック内の位置を入力とし，垂直方向予測（予測モード０）の場合，イントラ予測における参照画素値と当該画素の垂直方向の距離を算出し，水平方向予測（予測モード１）の場合，イントラ予測における参照画素値と当該画素の水平方向の距離を算出し，平均値予測（予測モード２）の場合，イントラ予測における参照画素値と当該画素の垂直・水平方向の距離の平均値を算出する処理を行い，算出した距離を画素間距離記憶部６０５に出力する。デブロッキング処理そのものは，４×４画素のブロック単位で行われるが，イントラ予測は４×４，８×８，１６×１６画素のブロックに対して行われるため，画素間距離記憶部６０５に格納される値は，４×４，８×８，１６×１６画素ブロックの場合，各々，最大で４，８，１６となる。
【００９３】
フィルタリング閾値算出部６０６：画素間距離記憶部６０５から読み出した水平距離，垂直距離を入力とし，フィルタリング閾値として，δBs=4［ｍ：β］およびδBs=4［ｍ：α］（Ｂｓ＝４の場合），δBs<4［ｍ：β］（Ｂｓ＝１，２，３の場合）を算出する処理を行い，算出した値をフィルタリング閾値記憶部６０７に出力する。ここで，ｍは，予測モード記憶部６０２に格納された予測モードのモード番号であり，ｍ＝０，１，２のいずれかである。なお，フィルタリング閾値の具体的な算出方法は，外部から与えられるものとする。事前にテーブルに格納した値を参照しても良い。
【００９４】
繰返し処理判定部６０８：フィルタリングの対象となっている全ての画素について，上述の処理を繰り返す。
【００９５】
［処理の流れ］
本発明の実施形態によるデブロッキング処理の流れついて，図７に従って説明する。
【００９６】
ステップＳ１０：処理対象となるブロックの予測モードを読み込み，レジスタに書き出す。
【００９７】
ステップＳ１１：ステップＳ１０で読み込んだ予測モードを入力とし，予測モードがモード番号０の垂直方向予測，モード番号１の水平方向予測，モード番号２の平均値予測のいずれかであれば，ステップＳ１３の処理に移り，予測モードが前述の３つ以外のモードであれば，ステップＳ１２の処理に移る。
【００９８】
ステップＳ１２：Ｈ．２６４に規定されているデブロッキング処理を行う。
【００９９】
ステップＳ１３：デブロッキングフィルタ処理に先立ち，同処理の強度を示すＢｓ値を算出し，算出された値をレジスタに書き出す。なお，具体的な算出方法については，Ｈ．２６４の方法に従うものとする。
【０１００】
ステップＳ１４：ステップＳ１３で設定したＢｓ値を入力とし，Ｂｓ値が０であれば，処理を終了し，それ以外であれば，ステップＳ１５の処理に移る。
【０１０１】
ステップＳ１５：ステップＳ１３で設定したＢｓ値を入力とし，Ｂｓ値が４であれば，ステップＳ１６の処理に移り，それ以外であれば，ステップＳ１８の処理に移る。
【０１０２】
ステップＳ１６：ブロック画素値を入力し，同画素値のブロック内の位置に応じてフィルタリング閾値を設定する。本処理の詳細は，図１０を用いて後述する。
【０１０３】
ステップＳ１７：ブロック画素値，およびステップＳ１６で設定されたフィルタリング閾値を入力し，Ｂｓ＝４の場合のＨ．２６４において規定されたデブロッキング処理（フィルタリング閾値はステップＳ１６で設定された値を用いる）を行い，処理後の画素値をレジスタに書き出す。
【０１０４】
ステップＳ１８：ブロック画素値を入力し，同画素値のブロック内の位置に応じてフィルタリング閾値を設定する。本処理の詳細は，図１０を用いて後述する。
【０１０５】
ステップＳ１９：ブロック画素値，およびステップＳ１８で設定されたフィルタリング閾値を入力し，デブロッキング処理（フィルタリング閾値はステップＳ１８で設定された値を用いる）を行い，処理後の画素値をレジスタに書き出す。本処理の詳細は，図８，図９を用いて後述する。
【０１０６】
図７におけるステップＳ１９の詳細を，図８，図９を用いて説明する。図８は，Ｂｓ＝１，２，３において，変数ｐ0 に格納される画素値に対する処理であり，図９は，Ｂｓ＝１，２，３において，変数ｐ1 に格納される画素値に対する処理である。
【０１０７】
ステップＳ２０：ブロック画素値を読み込み，レジスタに格納する。
【０１０８】
ステップＳ２１：デブロッキングフィルタ処理に用いるパラメータとして，Ｂｓ値，α，β，ＱＰ等を読み込み，レジスタに格納する。
【０１０９】
ステップＳ２２：ブロック画素値を入力し，同画素値のブロック内の位置に応じてフィルタリング項を算出する処理を行い，算出した値をレジスタに出力する。具体的な算出方法は，式（３），式（６），式（８）に従う。
【０１１０】
ステップＳ２３：予測モードを入力として，予測モードが垂直方向予測（予測モード０）であるか否かの判定を行い，判定が真の場合，ステップＳ２４の処理に移り，判定が偽の場合，ステップＳ２６の処理に移る。
【０１１１】
ステップＳ２４：処理対象となっている画素のマクロブロック内の位置を入力とし，イントラ予測における参照画素値との垂直方向の距離を算出し，算出した距離をレジスタに出力する。
【０１１２】
ステップＳ２５：ステップＳ２４で算出した垂直距離を入力とし，補正項 *Δ0 (p) ［０］を算出する処理を行い，算出した値をレジスタに出力する。具体的な算出方法は，外部から与えられるものとする。事前にテーブルに格納した値を参照することも可能である。
【０１１３】
ステップＳ２６：予測モードを入力として，予測モードが水平方向予測（予測モード１）であるか否かの判定を行い，判定が真の場合，ステップＳ２７の処理に移り，判定が偽の場合，ステップＳ２９の処理に移る。
【０１１４】
ステップＳ２７：イントラ予測における参照画素値との水平方向の距離を算出し，算出した距離をレジスタに出力する。
【０１１５】
ステップＳ２８：ステップＳ２７で算出した水平距離を入力とし，補正項 *Δ0 (p) ［１］を算出する処理を行い，算出した値をレジスタに出力する。具体的な算出方法は，外部から与えられるものとする。事前にテーブルに格納した値を参照することも可能である。
【０１１６】
ステップＳ２９：イントラ予測における参照画素値との水平方向および垂直方向の距離を算出し，算出した距離を用いて平均距離を算出し，算出した平均距離をレジスタに出力する。
【０１１７】
ステップＳ３０：ステップＳ２９で算出した水平距離と垂直距離の平均距離を入力とし，補正項 *Δ0 (p) ［２］を算出する処理を行い，算出した値をレジスタに出力する。具体的な算出方法は，外部から与えられるものとする。事前にテーブルに格納した値を参照することも可能である。
【０１１８】
ステップＳ３１：当該画素の画素値，当該画素に対するフィルタリング項，当該画素に対する補正項を入力とし，３つの値を加算する処理を行い，加算結果をレジスタに書き出す。
【０１１９】
ステップＳ３２：フィルタリングの対象となっている全ての画素について，上述の処理を繰り返す。
【０１２０】
図９において，ステップＳ４０からＳ５２（ただし，ステップＳ４５，Ｓ４８，Ｓ５０を除く）は，各々，図８におけるステップＳ２０からＳ３２に同じである。
【０１２１】
ステップＳ４５：ステップＳ４４で算出した垂直距離を入力とし，補正項 *Δ1 (p) ［０］を算出する処理を行い，算出した値をレジスタに出力する。具体的な算出方法は，外部から与えられるものとする。事前にテーブルに格納した値を参照することも可能である。
【０１２２】
ステップＳ４８：ステップＳ４７で算出した水平距離を入力とし，補正項 *Δ1 (p) ［１］を算出する処理を行い，算出した値をレジスタに出力する。具体的な算出方法は，外部から与えられるものとする。事前にテーブルに格納した値を参照することも可能である。
【０１２３】
ステップＳ５０：ステップＳ４９で算出した水平距離と垂直距離の平均距離を入力とし，補正項 *Δ1 (p) ［２］を算出する処理を行い，算出した値をレジスタに出力する。具体的な算出方法は，外部から与えられるものとする。事前にテーブルに格納した値を参照することも可能である。
【０１２４】
ステップＳ５３：フィルタリング閾値，画素値を入力として，フィルタリング条件を満たすか否かの判定を行い，判定が真の場合，ステップＳ４２の処理に移り，判定が偽の場合，ステップＳ５２の処理に移る。
【０１２５】
次に，図７におけるステップＳ１６，ステップＳ１８の詳細を，図１０を用いて説明する。
【０１２６】
ステップＳ６０：当該画素の座標値を読み込む。
【０１２７】
ステップＳ６１：Ｂｓ値を読み込む。
【０１２８】
ステップＳ６２：予測モードを読み込む。
【０１２９】
ステップＳ６３：予測モードを入力として，予測モードが垂直方向予測（予測モード０）であるか否かの判定を行い，判定が真の場合，ステップＳ６４の処理に移り，判定が偽の場合，ステップＳ６６の処理に移る。
【０１３０】
ステップＳ６４：処理対象となっている画素のマクロブロック内の位置を入力とし，イントラ予測における参照画素値との垂直方向の距離を算出し，算出した距離をレジスタに出力する。
【０１３１】
ステップＳ６５：ステップＳ６４で算出した垂直距離を入力とし，フィルタリング閾値δBs=4［０：β］およびδBs=4［０：α］（Ｂｓ＝４の場合），δBs<4［０：β］（Ｂｓ＝１，２，３の場合）を算出する処理を行い，算出した値をレジスタに出力する。具体的な算出方法は，外部から与えられるものとする。事前にテーブルに格納した値を参照することも可能である。
【０１３２】
ステップＳ６６：予測モードを入力として，予測モードが水平方向予測（予測モード１）であるか否かの判定を行い，判定が真の場合，ステップＳ６７の処理に移り，判定が偽の場合，ステップＳ６９の処理に移る。
【０１３３】
ステップＳ６７：イントラ予測における参照画素値との水平方向の距離を算出し，算出した距離をレジスタに出力する。
【０１３４】
ステップＳ６８：ステップＳ６７で算出した水平距離を入力とし，フィルタリング閾値δBs=4［１：β］およびδBs=4［１：α］（Ｂｓ＝４の場合），δBs<4［１：β］（Ｂｓ＝１，２，３の場合）を算出する処理を行い，算出した値をレジスタに出力する。具体的な算出方法は，外部から与えられるものとする。事前にテーブルに格納した値を参照することも可能である。
【０１３５】
ステップＳ６９：イントラ予測における参照画素値との水平方向および垂直方向の距離を算出し，算出した距離を用いて平均距離を算出し，算出した平均距離をレジスタに出力する。
【０１３６】
ステップＳ７０：ステップＳ６９で算出した水平距離と垂直距離の平均距離を入力とし，フィルタリング閾値δBs=4［２：β］およびδBs=4［２：α］（Ｂｓ＝４の場合），δBs<4［２：β］（Ｂｓ＝１，２，３の場合）を算出する処理を行い，算出した値をレジスタに出力する。具体的な算出方法は，外部から与えられるものとする。事前にテーブルに格納した値を参照することも可能である。
【０１３７】
ステップＳ７１：以上の処理をフィルタリングの対象となった全ての画素について行う。
【０１３８】
以上のデブロッキングフィルタ処理は，コンピュータとソフトウェアプログラムとによって実現することができ，そのプログラムをコンピュータ読み取り可能な記録媒体に記録して提供することも，ネットワークを通して提供することも可能である。
【図面の簡単な説明】
【０１３９】
【図１】符号化装置の構成例を示す図である。
【図２】復号装置の構成例を示す図である。
【図３】デブロッキングフィルタ処理装置の構成例を示す図である。
【図４】デブロッキングフィルタ処理装置の部分構成例を示す図である。
【図５】デブロッキングフィルタ処理装置の部分構成例を示す図である。
【図６】デブロッキングフィルタ処理装置の部分構成例を示す図である。
【図７】デブロッキングフィルタ処理の流れを示す図である。
【図８】本発明の実施例の処理の流れを示す図である。
【図９】本発明の実施例の処理の流れを示す図である。
【図１０】本発明の実施例の処理の流れを示す図である。
【図１１】フィルタリング処理の判定に用いる画素を示す図である。
【図１２】イントラ予測モード０を示す図である。
【図１３】イントラ予測モード１を示す図である。
【符号の説明】
【０１４０】
３０  デブロッキング処理装置
３０１  予測モード記憶部
３０２  予測モード判定部
３０３  デフォルトデブロッキング処理部
３０４  Ｂｓ値算出部
３０５  Ｂｓ値記憶部
３０６  Ｂｓ値判定部
３０８  Ｂｓ＝４に対するフィルタリング処理部
３０９  フィルタリング閾値設定部
３１０  フィルタリング処理部
３１１  Ｂｓ＝１，２，３に対するフィルタリング処理部
３１２  フィルタリング閾値設定部
３１３  閾値判定無しフィルタリング処理部
３１４  閾値判定付きフィルタリング処理部
３１５  画素値記憶部
【図１】
2008193548.tif 000003
【図２】
2008193548.tif 000004
【図３】
2008193548.tif 000005
【図４】
2008193548.tif 000006
【図５】
2008193548.tif 000007
【図６】
2008193548.tif 000008
【図７】
2008193548.tif 000009
【図８】
2008193548.tif 000010
【図９】
2008193548.tif 000011
【図１０】
2008193548.tif 000012
【図１１】
2008193548.tif 000013
【図１２】
2008193548.tif 000014
【図１３】
2008193548.tif 000015