(57)【要約】【課題】フィルタ処理により画質を改善して、符号化性能を向上させること。【解決手段】動画像符号化装置および動画像復号装置は、事前解析部５を備え、事前解析部５は、画素値勾配特徴量算出部５１、動的閾値決定部５２、および閾値処理分類部５３を備える。画素値勾配特徴量算出部５１は、フィルタ処理前のローカルデコード画像を構成する画素または小領域ごとに、画素値勾配を算出する。動的閾値決定部５２は、画素または小領域ごとの画素値勾配に基づいて、閾値を動的に決定する。閾値処理分類部５３は、動的に決定された閾値を用いて、画素または小領域を分類する。【選択図】図２
2014239338.tif 000002
【特許請求の範囲】
【請求項１】
符号化処理ループ内で適応フィルタ処理を許容し、画素単位または複数の画素で構成される小領域単位でのフィルタ設計を許容する動画像符号化装置であって、
復号画像の画素値の特徴量を、前記画素単位または前記小領域単位で求める画素値特徴量算出手段と、
前記画素値特徴量算出手段により求められた特徴量と、閾値と、を比較し、当該比較結果に基づいて、前記画素のそれぞれまたは前記小領域のそれぞれを分類する閾値処理分類手段と、
前記画素値特徴量算出手段により求められた特徴量に基づいて、前記閾値を決定する動的閾値決定手段と、を備えることを特徴とする動画像符号化装置。
【請求項２】
前記動的閾値決定手段は、前記画素値特徴量算出手段により求められた特徴量の分布に基づいて、前記閾値を決定することを特徴とする請求項１に記載の動画像符号化装置。
【請求項３】
前記動的閾値決定手段は、
前記画素値特徴量算出手段により求められた特徴量のヒストグラムを求め、求めたヒストグラムの各階級の中から度数の集中している階級を検出する特徴的階級検出手段と、
前記特徴的階級検出手段により検出された階級のうち互いに隣り合う２つの階級の度数を求め、求めた２つの度数の間の値を、当該２つの階級に対する前記閾値として決定する閾値決定手段と、を備えることを特徴とする請求項１または２に記載の動画像符号化装置。
【請求項４】
前記特徴的階級検出手段は、前記度数の集中している階級の検出を、前記ヒストグラムの各階級のうち互いに隣り合うものの度数に関する１次微分および２次微分を用いて行うことを特徴とする請求項３に記載の動画像符号化装置。
【請求項５】
前記特徴的階級検出手段は、前記特徴的階級検出手段により検出された階級のうち互いに隣り合う２つの階級の度数の平均値、または、前記特徴的階級検出手段により検出された階級のうち互いに隣り合う２つの階級の度数の重み付け平均値を、当該２つの階級に対する前記閾値として決定することを特徴とする請求項３または４に記載の動画像符号化装置。
【請求項６】
前記画素値特徴量算出手段は、前記特徴量として画素値勾配を求めることを特徴とする請求項１から５のいずれかに記載の動画像符号化装置。
【請求項７】
前記画素値特徴量算出手段は、ｓｏｂｅｌフィルタまたはラプラシアンフィルタを用いて前記画素値勾配を求めることを特徴とする請求項６に記載の動画像符号化装置。
【請求項８】
復号処理ループ内で適応フィルタ処理を許容し、画素単位または複数の画素で構成される小領域単位でのフィルタ適用を許容する動画像復号装置であって、
復号画像の画素値の特徴量を、前記画素単位または前記小領域単位で求める画素値特徴量算出手段と、
前記画素値特徴量算出手段により求められた特徴量と、閾値と、を比較し、当該比較結果に基づいて、前記画素のそれぞれまたは前記小領域のそれぞれを分類する閾値処理分類手段と、
前記画素値特徴量算出手段により求められた特徴量に基づいて、前記閾値を決定する動的閾値決定手段と、を備えることを特徴とする動画像復号装置。
【請求項９】
前記動的閾値決定手段は、前記画素値特徴量算出手段により求められた特徴量の分布に基づいて、前記閾値を決定することを特徴とする請求項８に記載の動画像復号装置。
【請求項１０】
前記動的閾値決定手段は、
前記画素値特徴量算出手段により求められた特徴量のヒストグラムを求め、求めたヒストグラムの各階級の中から度数の集中している階級を検出する特徴的階級検出手段と、
前記特徴的階級検出手段により検出された階級のうち互いに隣り合う２つの階級の度数を求め、求めた２つの度数の間の値を、当該２つの階級に対する前記閾値として決定する閾値決定手段と、を備えることを特徴とする請求項８または９に記載の動画像復号装置。
【請求項１１】
前記特徴的階級検出手段は、前記度数の集中している階級の検出を、前記ヒストグラムの各階級のうち互いに隣り合うものの度数に関する１次微分および２次微分を用いて行うことを特徴とする請求項１０に記載の動画像復号装置。
【請求項１２】
前記特徴的階級検出手段は、前記特徴的階級検出手段により検出された階級のうち互いに隣り合う２つの階級の度数の平均値、または、前記特徴的階級検出手段により検出された階級のうち互いに隣り合う２つの階級の度数の重み付け平均値を、当該２つの階級に対する前記閾値として決定することを特徴とする請求項１０または１１に記載の動画像復号装置。
【請求項１３】
前記画素値特徴量算出手段は、前記特徴量として画素値勾配を求めることを特徴とする請求項８から１２のいずれかに記載の動画像復号装置。
【請求項１４】
前記画素値特徴量算出手段は、前記特徴量として画素値の分散値を求めることを特徴とする請求項８から１２のいずれかに記載の動画像復号装置。
【請求項１５】
前記画素値特徴量算出手段は、ｓｏｂｅｌフィルタまたはラプラシアンフィルタを用いて前記画素値勾配を求めることを特徴とする請求項１３に記載の動画像復号装置。
【請求項１６】
符号化処理ループ内で適応フィルタ処理を許容し、画素単位または複数の画素で構成される小領域単位でのフィルタ設計を許容する動画像符号化装置と、復号処理ループ内で適応フィルタ処理を許容し、当該画素単位または当該小領域単位でのフィルタ適用を許容する動画像復号装置と、を備える動画像システムであって、
前記動画像符号化装置は、
復号画像の画素値の特徴量を、前記画素単位または前記小領域単位で求める符号化側画素値特徴量算出手段と、
前記符号化側画素値特徴量算出手段により求められた特徴量と、閾値と、を比較し、当該比較結果に基づいて、前記画素のそれぞれまたは前記小領域のそれぞれを分類する符号化側閾値処理分類手段と、
前記符号化側画素値特徴量算出手段により求められた特徴量に基づいて、前記閾値を決定する符号化側動的閾値決定手段と、を備え、
前記動画像復号装置は、
復号画像の画素値の特徴量を、前記画素単位または前記小領域単位で求める復号側画素値特徴量算出手段と、
前記復号側画素値特徴量算出手段により求められた特徴量と、閾値と、を比較し、当該比較結果に基づいて、前記画素のそれぞれまたは前記小領域のそれぞれを分類する復号側閾値処理分類手段と、
前記復号側画素値特徴量算出手段により求められた特徴量に基づいて、前記閾値を決定する復号側動的閾値決定手段と、を備えることを特徴とする動画像システム。
【請求項１７】
符号化処理ループ内で適応フィルタ処理を許容し、画素単位または複数の画素で構成される小領域単位でのフィルタ設計を許容する動画像符号化装置と、復号処理ループ内で適応フィルタ処理を許容し、当該画素単位または当該小領域単位でのフィルタ適用を許容する動画像復号装置と、を備える動画像システムであって、
前記動画像符号化装置は、
復号画像の画素値の特徴量を、前記画素単位または前記小領域単位で求める符号化側画素値特徴量算出手段と、
前記符号化側画素値特徴量算出手段により求められた特徴量と、閾値と、を比較し、当該比較結果に基づいて、前記画素のそれぞれまたは前記小領域のそれぞれを分類する符号化側閾値処理分類手段と、
前記符号化側画素値特徴量算出手段により求められた特徴量に基づいて、前記閾値を決定する符号化側動的閾値決定手段と、
前記符号化側閾値処理分類手段による分類結果、または、前記符号化側動的閾値決定手段により決定された前記閾値を、前記動画像復号装置に送信する送信手段と、を備え、
前記動画像復号装置は、
前記送信手段から送信された前記分類結果または前記閾値を受信する受信手段を備えることを特徴とする動画像システム。
【請求項１８】
画素値特徴量算出手段、閾値処理分類手段、および動的閾値決定手段を備え、符号化処理ループ内で適応フィルタ処理を許容し、画素単位または複数の画素で構成される小領域単位でのフィルタ設計を許容する動画像符号化装置における動画像符号化方法であって、
前記画素値特徴量算出手段が、復号画像の画素値の特徴量を、前記画素単位または前記小領域単位で求める第１のステップと、
前記閾値処理分類手段が、前記画素値特徴量算出手段により求められた特徴量と、閾値と、を比較し、当該比較結果に基づいて、前記画素のそれぞれまたは前記小領域のそれぞれを分類する第２のステップと、
前記動的閾値決定手段が、前記画素値特徴量算出手段により求められた特徴量に基づいて、前記閾値を決定する第３のステップと、を備えることを特徴とする動画像符号化方法。
【請求項１９】
画素値特徴量算出手段、閾値処理分類手段、および動的閾値決定手段を備え、復号処理ループ内で適応フィルタ処理を許容し、画素単位または複数の画素で構成される小領域単位でのフィルタ適用を許容する動画像復号装置における動画像復号方法であって、
前記画素値特徴量算出手段が、復号画像の画素値の特徴量を、前記画素単位または前記小領域単位で求める第１のステップと、
前記閾値処理分類手段が、前記画素値特徴量算出手段により求められた特徴量と、閾値と、を比較し、当該比較結果に基づいて、前記画素のそれぞれまたは前記小領域のそれぞれを分類する第２のステップと、
前記動的閾値決定手段が、前記画素値特徴量算出手段により求められた特徴量に基づいて、前記閾値を決定する第３のステップと、を備えることを特徴とする動画像復号方法。
【請求項２０】
画素値特徴量算出手段、閾値処理分類手段、および動的閾値決定手段を備え、符号化処理ループ内で適応フィルタ処理を許容し、画素単位または複数の画素で構成される小領域単位でのフィルタ設計を許容する動画像符号化装置における動画像符号化方法を、コンピュータに実行させるためのプログラムであって、
前記画素値特徴量算出手段が、復号画像の画素値の特徴量を、前記画素単位または前記小領域単位で求める第１のステップと、
前記閾値処理分類手段が、前記画素値特徴量算出手段により求められた特徴量と、閾値と、を比較し、当該比較結果に基づいて、前記画素のそれぞれまたは前記小領域のそれぞれを分類する第２のステップと、
前記動的閾値決定手段が、前記画素値特徴量算出手段により求められた特徴量に基づいて、前記閾値を決定する第３のステップと、をコンピュータに実行させるためのプログラム。
【請求項２１】
画素値特徴量算出手段、閾値処理分類手段、および動的閾値決定手段を備え、復号処理ループ内で適応フィルタ処理を許容し、画素単位または複数の画素で構成される小領域単位でのフィルタ適用を許容する動画像復号装置における動画像復号方法を、コンピュータに実行させるためのプログラムであって、
前記画素値特徴量算出手段が、復号画像の画素値の特徴量を、前記画素単位または前記小領域単位で求める第１のステップと、
前記閾値処理分類手段が、前記画素値特徴量算出手段により求められた特徴量と、閾値と、を比較し、当該比較結果に基づいて、前記画素のそれぞれまたは前記小領域のそれぞれを分類する第２のステップと、
前記動的閾値決定手段が、前記画素値特徴量算出手段により求められた特徴量に基づいて、前記閾値を決定する第３のステップと、をコンピュータに実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、動画像符号化装置、動画像復号装置、動画像システム、動画像符号化方法、動画像復号方法、およびプログラムに関する。
【背景技術】
【０００２】
非特許文献１から４には、映像圧縮符号化処理において、符号化済み画像に対してフィルタ処理を施すことで画質を改善する手法が示されている。
【０００３】
特に、非特許文献１、２には、映像圧縮符号化の標準規格が示されている。この標準規格によれば、圧縮符号化によりブロック境界に生じる品質劣化を低減するフィルタ処理を、適用できる。
【０００４】
一方、非特許文献３、４には、符号化劣化を復元するフィルタを、フレームごとに適応的に更新する手法が示されている。
【０００５】
特に、非特許文献３には、画面全体を対象として原画像との二乗誤差が最小になるように、画面全体に対して１種類のフィルタを算出することが示されている。一方、非特許文献４には、最適なフィルタ設計の局所性を考慮して、フレームごとに複数のフィルタを設計することが示されている。
【先行技術文献】
【非特許文献】
【０００６】
【非特許文献１】Joint  Video  Team(JVT)  of  ISO/IEC  MPEG  and  ITU-T  VCEG,  "Text  of  ISO/IEC  14496-10  Advanced  Video  Coding,"  July  2004.
【非特許文献２】"High  Efficiency  Video  Coding  (HEVC)  text  specification  draft10,"  JCT-VC  12th  meeting,  JCTVC-L1003  v34,  Jan.  2013.
【非特許文献３】T.  Chujoh,  G.  Yasuda,  N.  Wada  and  T.  Yamagake,  "Block-based  adaptive  loop  filter,"  ITU-T  Q.6/SG16,  VCEG-AI18,  2008.
【非特許文献４】M.  Karczewicz,  P.  Chen,  R.  Joshi,  X.  Wang,  W.  Chien,  R.  Panchal,  "Video  coding  technology  proposal  by  Qualcomm  Inc.,"  JCTVC-A121,  April  2010.
【発明の概要】
【発明が解決しようとする課題】
【０００７】
非特許文献１や非特許文献２おけるフィルタ処理は、ブロック境界に生じる品質劣化にのみ適用される。このため、フィルタ処理による画質の改善効果は、限定的であった。
【０００８】
一方、非特許文献３におけるフィルタ処理は、画面全体に適応的に適用される。しかし、非特許文献３におけるフィルタ処理では、フィルタは、上述のように画面全体に対して１種類しか算出されない。
【０００９】
ここで、画面全体には、エッジと、エッジにより区分された平坦領域と、が含まれ、画面全体で見ると、平坦領域を構成する画素の方が、エッジを構成する画素よりも多くなる。このため、非特許文献３において算出される画面全体に対して１種類のフィルタでは、エッジと比べて平坦領域の方が支配的になる。したがって、エッジがくずれると人は違和感を覚えやすく、エッジは重要な絵柄であるにもかかわらず、非特許文献３におけるフィルタ処理では、エッジ成分を保持できず、フィルタ処理による画質の改善効果を十分には得られない場合があった。
【００１０】
また、非特許文献４におけるフィルタ処理では、上述のように、最適なフィルタ設計の局所性を考慮して、フレームごとに複数のフィルタを設計する。具体的には、まず、デコード画像の画素値について、予め定められた小領域ごとに画素値勾配に基づく特徴量を算出し、予め定められた閾値を用いた閾値処理により各小領域を分類する。次に、分類した画素ごとに最適なフィルタを設計する。これによれば、エッジに対するフィルタと、平坦領域に対するフィルタと、をそれぞれ別に設計することができる。
【００１１】
しかし、画素値勾配に基づく特徴量は、画像の絵柄に依存する。このため、上述の予め定められた閾値を用いた閾値処理では、各小領域の分類を、フィルタ設計に最適に実施することができず、フィルタ処理による画質の改善効果を十分には得られない場合があった。
【００１２】
そこで、本発明は、上述の課題に鑑みてなされたものであり、フィルタ処理により画質を改善して、符号化性能を向上させることを目的とする。
【課題を解決するための手段】
【００１３】
本発明は、上記の課題を解決するために、以下の事項を提案している。
（１）  本発明は、符号化処理ループ内で適応フィルタ処理を許容し、画素単位または複数の画素で構成される小領域単位でのフィルタ設計を許容する動画像符号化装置（例えば、図１の動画像符号化装置ＡＡに相当）であって、復号画像（例えば、図１のフィルタ処理前のローカルデコード画像ｈに相当）の画素値の特徴量（例えば、後述の画素値勾配に相当）を、前記画素単位または前記小領域単位で求める画素値特徴量算出手段（例えば、図２の画素値勾配特徴量算出部５１に相当）と、前記画素値特徴量算出手段により求められた特徴量と、閾値と、を比較し、当該比較結果に基づいて、前記画素のそれぞれまたは前記小領域のそれぞれを分類する閾値処理分類手段（例えば、図２の閾値処理分類部５３に相当）と、前記画素値特徴量算出手段により求められた特徴量に基づいて、前記閾値を決定する動的閾値決定手段（例えば、図２の動的閾値決定部５２に相当）と、を備えることを特徴とする動画像符号化装置を提案している。
【００１４】
この発明によれば、各画素または各小領域を分類する際に用いる閾値を、画素単位または小領域単位で求めた特徴量に基づいて決定することとした。このため、画像の絵柄を考慮して閾値を動的に決定することができるので、各画素または各小領域の分類を、フィルタ設計に最適に実施することができる。したがって、フィルタ処理による画質を改善して、符号化性能を向上させることができる。
【００１５】
（２）  本発明は、（１）の動画像符号化装置について、前記動的閾値決定手段は、前記画素値特徴量算出手段により求められた特徴量の分布（例えば、後述のヒストグラムに相当）に基づいて、前記閾値を決定することを特徴とする動画像符号化装置を提案している。
【００１６】
この発明によれば、（１）の動画像符号化装置において、閾値を、特徴量の分布に基づいて決定することができる。
【００１７】
（３）  本発明は、（１）または（２）の動画像符号化装置について、前記動的閾値決定手段は、前記画素値特徴量算出手段により求められた特徴量のヒストグラムを求め、求めたヒストグラムの各階級の中から度数の集中している階級を検出する特徴的階級検出手段と、前記特徴的階級検出手段により検出された階級のうち互いに隣り合う２つの階級の度数を求め、求めた２つの度数の間の値を、当該２つの階級に対する前記閾値として決定する閾値決定手段と、を備えることを特徴とする動画像符号化装置を提案している。
【００１８】
この発明によれば、（１）または（２）の動画像符号化装置において、特徴量のヒストグラムを求め、求めたヒストグラムの各階級の中から度数の集中している階級を検出し、検出した階級のうち互いに隣り合う２つの階級の度数の間の値を、これら２つの階級に対する閾値として決定することとした。このため、閾値を、特徴量のヒストグラムを用いて決定することができる。
【００１９】
（４）  本発明は、（３）の動画像符号化装置について、前記特徴的階級検出手段は、前記度数の集中している階級の検出を、前記ヒストグラムの各階級のうち互いに隣り合うものの度数に関する１次微分（例えば、後述の１次微分評価値Ｄ１（ｋ）に相当）および２次微分（例えば、後述の２次微分評価値Ｄ２（ｋ）に相当）を用いて行うことを特徴とする動画像符号化装置を提案している。
【００２０】
この発明によれば、（３）の動画像符号化装置において、度数の集中している階級の検出を、互いに隣り合う階級の度数に関する１次微分および２次微分を用いて行うこととした。このため、度数に関する１次微分および２次微分により、互いに隣り合う階級の度数の変化を検出することができ、度数の集中している階級を適切に検出することができる。
【００２１】
（５）  本発明は、（３）または（４）の動画像符号化装置について、前記特徴的階級検出手段は、前記特徴的階級検出手段により検出された階級のうち互いに隣り合う２つの階級の度数の平均値、または、前記特徴的階級検出手段により検出された階級のうち互いに隣り合う２つの階級の度数の重み付け平均値を、当該２つの階級に対する前記閾値として決定することを特徴とする動画像符号化装置を提案している。
【００２２】
この発明によれば、（３）または（４）の動画像符号化装置において、度数が集中しており互いに隣り合う２つの階級の度数の平均値、または、度数が集中しており互いに隣り合う２つの階級の度数の重み付け平均値を、これら２つの階級に対する閾値として決定することとした。このため、これら２つの階級のそれぞれに属する画素または小領域を、閾値により適切に分類することができ、上述した効果と同様の効果を奏することができる。
【００２３】
（６）  本発明は、（１）から（５）のいずれかの動画像符号化装置について、前記画素値特徴量算出手段は、前記特徴量として画素値勾配を求めることを特徴とする動画像符号化装置を提案している。
【００２４】
この発明によれば、（１）から（５）のいずれかの動画像符号化装置において、特徴量として画素値勾配を用いて、閾値を動的に決定することができる。
【００２５】
（７）  本発明は、（６）の動画像符号化装置について、前記画素値特徴量算出手段は、ｓｏｂｅｌフィルタまたはラプラシアンフィルタを用いて前記画素値勾配を求めることを特徴とする動画像符号化装置を提案している。
【００２６】
この発明によれば、（６）の動画像符号化装置において、ｓｏｂｅｌフィルタまたはラプラシアンフィルタを用いて画素値勾配を求めることができる。
【００２７】
（８）  本発明は、復号処理ループ内で適応フィルタ処理を許容し、画素単位または複数の画素で構成される小領域単位でのフィルタ適用を許容する動画像復号装置（例えば、図３の動画像復号装置ＢＢに相当）であって、復号画像（例えば、図３のフィルタ処理前のデコード画像Ｆに相当）の画素値の特徴量（例えば、後述の画素値勾配に相当）を、前記画素単位または前記小領域単位で求める画素値特徴量算出手段と、前記画素値特徴量算出手段により求められた特徴量と、閾値と、を比較し、当該比較結果に基づいて、前記画素のそれぞれまたは前記小領域のそれぞれを分類する閾値処理分類手段と、前記画素値特徴量算出手段により求められた特徴量に基づいて、前記閾値を決定する動的閾値決定手段と、を備えることを特徴とする動画像復号装置を提案している。
【００２８】
この発明によれば、各画素または各小領域を分類する際に用いる閾値を、画素単位または小領域単位で求めた特徴量に基づいて決定することとした。このため、画像の絵柄を考慮して閾値を動的に決定することができるので、各画素または各小領域の分類を、フィルタ設計に最適に実施することができる。したがって、フィルタ処理による画質を改善して、符号化性能を向上させることができる。
【００２９】
（９）  本発明は、（８）の動画像復号装置について、前記動的閾値決定手段は、前記画素値特徴量算出手段により求められた特徴量の分布（例えば、後述のヒストグラムに相当）に基づいて、前記閾値を決定することを特徴とする動画像復号装置を提案している。
【００３０】
この発明によれば、（８）の動画像復号装置において、閾値を、特徴量の分布に基づいて決定することができる。
【００３１】
（１０）  本発明は、（８）または（９）の動画像復号装置について、前記動的閾値決定手段は、前記画素値特徴量算出手段により求められた特徴量のヒストグラムを求め、求めたヒストグラムの各階級の中から度数の集中している階級を検出する特徴的階級検出手段と、前記特徴的階級検出手段により検出された階級のうち互いに隣り合う２つの階級の度数を求め、求めた２つの度数の間の値を、当該２つの階級に対する前記閾値として決定する閾値決定手段と、を備えることを特徴とする動画像復号装置を提案している。
【００３２】
この発明によれば、（８）または（９）の動画像復号装置において、特徴量のヒストグラムを求め、求めたヒストグラムの各階級の中から度数の集中している階級を検出し、検出した階級のうち互いに隣り合う２つの階級の度数の間の値を、これら２つの階級に対する閾値として決定することとした。このため、閾値を、特徴量のヒストグラムを用いて決定することができる。
【００３３】
（１１）  本発明は、（１０）の動画像復号装置について、前記特徴的階級検出手段は、前記度数の集中している階級の検出を、前記ヒストグラムの各階級のうち互いに隣り合うものの度数に関する１次微分（例えば、後述の１次微分評価値Ｄ１（ｋ）に相当）および２次微分（例えば、後述の２次微分評価値Ｄ２（ｋ）に相当）を用いて行うことを特徴とする動画像復号装置を提案している。
【００３４】
この発明によれば、（１０）の動画像復号装置において、度数の集中している階級の検出を、互いに隣り合う階級の度数に関する１次微分および２次微分を用いて行うこととした。このため、度数に関する１次微分および２次微分により、互いに隣り合う階級の度数の変化を検出することができ、度数の集中している階級を適切に検出することができる。
【００３５】
（１２）  本発明は、（１０）または（１１）の動画像復号装置について、前記特徴的階級検出手段は、前記特徴的階級検出手段により検出された階級のうち互いに隣り合う２つの階級の度数の平均値、または、前記特徴的階級検出手段により検出された階級のうち互いに隣り合う２つの階級の度数の重み付け平均値を、当該２つの階級に対する前記閾値として決定することを特徴とする動画像復号装置を提案している。
【００３６】
この発明によれば、（１０）または（１１）の動画像復号装置において、度数が集中しており互いに隣り合う２つの階級の度数の平均値、または、度数が集中しており互いに隣り合う２つの階級の度数の重み付け平均値を、これら２つの階級に対する閾値として決定することとした。このため、これら２つの階級のそれぞれに属する画素または小領域を、閾値により適切に分類することができ、上述した効果と同様の効果を奏することができる。
【００３７】
（１３）  本発明は、（８）から（１２）のいずれかの動画像復号装置について、前記画素値特徴量算出手段は、前記特徴量として画素値勾配を求めることを特徴とする動画像復号装置を提案している。
【００３８】
この発明によれば、（８）から（１２）のいずれかの動画像復号装置において、特徴量として画素値勾配を用いて、閾値を動的に決定することができる。
【００３９】
（１４）  本発明は、（８）から（１２）のいずれかの動画像復号装置について、前記画素値特徴量算出手段は、前記特徴量として画素値の分散値を求めることを特徴とする動画像復号装置を提案している。
【００４０】
この発明によれば、（８）から（１２）のいずれかの動画像復号装置において、特徴量として画素値の分散値を用いて、閾値を動的に決定することができる。
【００４１】
（１５）  本発明は、（１３）の動画像復号装置について、前記画素値特徴量算出手段は、ｓｏｂｅｌフィルタまたはラプラシアンフィルタを用いて前記画素値勾配を求めることを特徴とする動画像復号装置を提案している。
【００４２】
この発明によれば、（１３）の動画像復号装置において、ｓｏｂｅｌフィルタまたはラプラシアンフィルタを用いて画素値勾配を求めることができる。
【００４３】
（１６）  本発明は、符号化処理ループ内で適応フィルタ処理を許容し、画素単位または複数の画素で構成される小領域単位でのフィルタ設計を許容する動画像符号化装置（例えば、図１の動画像符号化装置ＡＡに相当）と、復号処理ループ内で適応フィルタ処理を許容し、当該画素単位または当該小領域単位でのフィルタ適用を許容する動画像復号装置（例えば、図３の動画像復号装置ＢＢに相当）と、を備える動画像システムであって、前記動画像符号化装置は、復号画像（例えば、図１のフィルタ処理前のローカルデコード画像ｈに相当）の画素値の特徴量（例えば、後述の画素値勾配に相当）を、前記画素単位または前記小領域単位で求める符号化側画素値特徴量算出手段（例えば、図２の画素値勾配特徴量算出部５１に相当）と、前記符号化側画素値特徴量算出手段により求められた特徴量と、閾値と、を比較し、当該比較結果に基づいて、前記画素のそれぞれまたは前記小領域のそれぞれを分類する符号化側閾値処理分類手段（例えば、図２の閾値処理分類部５３に相当）と、前記符号化側画素値特徴量算出手段により求められた特徴量に基づいて、前記閾値を決定する符号化側動的閾値決定手段（例えば、図２の動的閾値決定部５２に相当）と、を備え、前記動画像復号装置は、復号画像（例えば、図３のフィルタ処理前のデコード画像Ｆに相当）の画素値の特徴量（例えば、後述の画素値勾配に相当）を、前記画素単位または前記小領域単位で求める復号側画素値特徴量算出手段と、前記復号側画素値特徴量算出手段により求められた特徴量と、閾値と、を比較し、当該比較結果に基づいて、前記画素のそれぞれまたは前記小領域のそれぞれを分類する復号側閾値処理分類手段と、前記復号側画素値特徴量算出手段により求められた特徴量に基づいて、前記閾値を決定する復号側動的閾値決定手段と、を備えることを特徴とする動画像システムを提案している。
【００４４】
この発明によれば、動画像符号化装置および動画像復号装置のそれぞれにおいて、各画素または各小領域を分類する際に用いる閾値を、画素単位または小領域単位で求めた特徴量に基づいて決定することとした。このため、画像の絵柄を考慮して閾値を動的に決定することができるので、各画素または各小領域の分類を、フィルタ設計に最適に実施することができる。したがって、フィルタ処理による画質を改善して、符号化性能を向上させることができる。
【００４５】
また、この発明によれば、動画像符号化装置および動画像復号装置のそれぞれにおいて、各画素または各小領域を分類する際に用いる閾値を、画素単位または小領域単位で求めた特徴量に基づいて決定し、決定した閾値を用いて各画素または各小領域を分類することとした。このため、動画像符号化装置で決定された閾値や、動画像符号化装置での各画素または各小領域の分類結果を、動画像復号装置に送信する必要がないため、これら閾値や分類結果を動画像符号化装置から動画像復号装置に送信する場合と比べて、符号化性能をさらに向上させることができる。
【００４６】
（１７）  本発明は、符号化処理ループ内で適応フィルタ処理を許容し、画素単位または複数の画素で構成される小領域単位でのフィルタ設計を許容する動画像符号化装置（例えば、図１の動画像符号化装置ＡＡに相当）と、復号処理ループ内で適応フィルタ処理を許容し、当該画素単位または当該小領域単位でのフィルタ適用を許容する動画像復号装置（例えば、図３の動画像復号装置ＢＢに相当）と、を備える動画像システムであって、前記動画像符号化装置は、復号画像（例えば、図１のフィルタ処理前のローカルデコード画像ｈに相当）の画素値の特徴量（例えば、後述の画素値勾配に相当）を、前記画素単位または前記小領域単位で求める符号化側画素値特徴量算出手段（例えば、図２の画素値勾配特徴量算出部５１に相当）と、前記符号化側画素値特徴量算出手段により求められた特徴量と、閾値と、を比較し、当該比較結果に基づいて、前記画素のそれぞれまたは前記小領域のそれぞれを分類する符号化側閾値処理分類手段（例えば、図２の閾値処理分類部５３に相当）と、前記符号化側画素値特徴量算出手段により求められた特徴量に基づいて、前記閾値を決定する符号化側動的閾値決定手段（例えば、図２の動的閾値決定部５２に相当）と、前記符号化側閾値処理分類手段による分類結果、または、前記符号化側動的閾値決定手段により決定された前記閾値を、を前記動画像復号装置に送信する送信手段と、を備え、前記動画像復号装置は、前記送信手段から送信された前記分類結果または前記閾値を受信する受信手段を備えることを特徴とする動画像システムを提案している。
【００４７】
この発明によれば、動画像符号化装置において、各画素または各小領域を分類する際に用いる閾値を、画素単位または小領域単位で求めた特徴量に基づいて決定し、決定した閾値を用いて各画素または各小領域を分類することとした。このため、画像の絵柄を考慮して閾値を動的に決定することができるので、各画素または各小領域の分類を、フィルタ設計に最適に実施することができる。したがって、フィルタ処理による画質を改善して、符号化性能を向上させることができる。
【００４８】
また、この発明によれば、動画像符号化装置において、各画素または各小領域を分類する際に用いる閾値を、画素単位または小領域単位で求めた特徴量に基づいて決定し、決定した閾値を用いて各画素または各小領域を分類し、分類結果または閾値を動画像復号装置に送信することとした。このため、動画像復号装置は、閾値を求めたり、閾値を用いて各画素または各小領域を分類したりする必要がないため、動画像符号化装置および動画像復号装置のそれぞれにおいて閾値を求めたり分類したりする場合と比べて、動画像復号装置における演算量を削減することができる。
【００４９】
（１８）  本発明は、画素値特徴量算出手段（例えば、図２の画素値勾配特徴量算出部５１に相当）、閾値処理分類手段（例えば、図２の閾値処理分類部５３に相当）、および動的閾値決定手段（例えば、図２の動的閾値決定部５２に相当）を備え、符号化処理ループ内で適応フィルタ処理を許容し、画素単位または複数の画素で構成される小領域単位でのフィルタ設計を許容する動画像符号化装置（例えば、図１の動画像符号化装置ＡＡに相当）における動画像符号化方法であって、前記画素値特徴量算出手段が、復号画像（例えば、図１のフィルタ処理前のローカルデコード画像ｈに相当）の画素値の特徴量（例えば、後述の画素値勾配に相当）を、前記画素単位または前記小領域単位で求める第１のステップと、前記閾値処理分類手段が、前記画素値特徴量算出手段により求められた特徴量と、閾値と、を比較し、当該比較結果に基づいて、前記画素のそれぞれまたは前記小領域のそれぞれを分類する第２のステップと、前記動的閾値決定手段が、前記画素値特徴量算出手段により求められた特徴量に基づいて、前記閾値を決定する第３のステップと、を備えることを特徴とする動画像符号化方法を提案している。
【００５０】
この発明によれば、各画素または各小領域を分類する際に用いる閾値を、画素単位または小領域単位で求めた特徴量に基づいて決定することとした。このため、画像の絵柄を考慮して閾値を動的に決定することができるので、各画素または各小領域の分類を、フィルタ設計に最適に実施することができる。したがって、フィルタ処理による画質を改善して、符号化性能を向上させることができる。
【００５１】
（１９）  本発明は、画素値特徴量算出手段、閾値処理分類手段、および動的閾値決定手段を備え、復号処理ループ内で適応フィルタ処理を許容し、画素単位または複数の画素で構成される小領域単位でのフィルタ適用を許容する動画像復号装置（例えば、図３の動画像復号装置ＢＢに相当）における動画像復号方法であって、前記画素値特徴量算出手段が、復号画像（例えば、図３のフィルタ処理前のデコード画像Ｆに相当）の画素値の特徴量（例えば、後述の画素値勾配に相当）を、前記画素単位または前記小領域単位で求める第１のステップと、前記閾値処理分類手段が、前記画素値特徴量算出手段により求められた特徴量と、閾値と、を比較し、当該比較結果に基づいて、前記画素のそれぞれまたは前記小領域のそれぞれを分類する第２のステップと、前記動的閾値決定手段が、前記画素値特徴量算出手段により求められた特徴量に基づいて、前記閾値を決定する第３のステップと、を備えることを特徴とする動画像復号方法を提案している。
【００５２】
この発明によれば、各画素または各小領域を分類する際に用いる閾値を、画素単位または小領域単位で求めた特徴量に基づいて決定することとした。このため、画像の絵柄を考慮して閾値を動的に決定することができるので、各画素または各小領域の分類を、フィルタ設計に最適に実施することができる。したがって、フィルタ処理による画質を改善して、符号化性能を向上させることができる。
【００５３】
（２０）  本発明は、画素値特徴量算出手段（例えば、図２の画素値勾配特徴量算出部５１に相当）、閾値処理分類手段（例えば、図２の閾値処理分類部５３に相当）、および動的閾値決定手段（例えば、図２の動的閾値決定部５２に相当）を備え、符号化処理ループ内で適応フィルタ処理を許容し、画素単位または複数の画素で構成される小領域単位でのフィルタ設計を許容する動画像符号化装置（例えば、図１の動画像符号化装置ＡＡに相当）における動画像符号化方法を、コンピュータに実行させるためのプログラムであって、前記画素値特徴量算出手段が、復号画像（例えば、図１のフィルタ処理前のローカルデコード画像ｈに相当）の画素値の特徴量（例えば、後述の画素値勾配に相当）を、前記画素単位または前記小領域単位で求める第１のステップと、前記閾値処理分類手段が、前記画素値特徴量算出手段により求められた特徴量と、閾値と、を比較し、当該比較結果に基づいて、前記画素のそれぞれまたは前記小領域のそれぞれを分類する第２のステップと、前記動的閾値決定手段が、前記画素値特徴量算出手段により求められた特徴量に基づいて、前記閾値を決定する第３のステップと、をコンピュータに実行させるためのプログラムを提案している。
【００５４】
この発明によれば、各画素または各小領域を分類する際に用いる閾値を、画素単位または小領域単位で求めた特徴量に基づいて決定することとした。このため、画像の絵柄を考慮して閾値を動的に決定することができるので、各画素または各小領域の分類を、フィルタ設計に最適に実施することができる。したがって、フィルタ処理による画質を改善して、符号化性能を向上させることができる。
【００５５】
（２１）  本発明は、画素値特徴量算出手段、閾値処理分類手段、および動的閾値決定手段を備え、復号処理ループ内で適応フィルタ処理を許容し、画素単位または複数の画素で構成される小領域単位でのフィルタ適用を許容する動画像復号装置（例えば、図３の動画像復号装置ＢＢに相当）における動画像復号方法を、コンピュータに実行させるためのプログラムであって、前記画素値特徴量算出手段が、復号画像（例えば、図３のフィルタ処理前のデコード画像Ｆに相当）の画素値の特徴量（例えば、後述の画素値勾配に相当）を、前記画素単位または前記小領域単位で求める第１のステップと、前記閾値処理分類手段が、前記画素値特徴量算出手段により求められた特徴量と、閾値と、を比較し、当該比較結果に基づいて、前記画素のそれぞれまたは前記小領域のそれぞれを分類する第２のステップと、前記動的閾値決定手段が、前記画素値特徴量算出手段により求められた特徴量に基づいて、前記閾値を決定する第３のステップと、をコンピュータに実行させるためのプログラムを提案している。
【００５６】
この発明によれば、各画素または各小領域を分類する際に用いる閾値を、画素単位または小領域単位で求めた特徴量に基づいて決定することとした。このため、画像の絵柄を考慮して閾値を動的に決定することができるので、各画素または各小領域の分類を、フィルタ設計に最適に実施することができる。したがって、フィルタ処理による画質を改善して、符号化性能を向上させることができる。
【発明の効果】
【００５７】
本発明によれば、フィルタ処理による画質を改善して、符号化性能を向上させることができる。
【図面の簡単な説明】
【００５８】
【図１】本発明の一実施形態に係る動画像符号化装置のブロック図である。
【図２】前記実施形態に係る動画像符号化装置が備える事前解析部のブロック図である。
【図３】本発明の一実施形態に係る動画像復号装置のブロック図である。
【発明を実施するための形態】
【００５９】
以下、本発明の実施の形態について図面を参照しながら説明する。なお、以下の実施形態における構成要素は適宜、既存の構成要素などとの置き換えが可能であり、また、他の既存の構成要素との組合せを含む様々なバリエーションが可能である。したがって、以下の実施形態の記載をもって、特許請求の範囲に記載された発明の内容を限定するものではない。
【００６０】
［動画像符号化装置ＡＡの構成および動作］
図１は、本発明の一実施形態に係る動画像符号化装置ＡＡのブロック図である。動画像符号化装置ＡＡは、符号化処理ループ内で適応フィルタ処理を許容し、画素単位または複数の画素で構成される小領域単位でのフィルタ設計を許容する。この動画像符号化装置ＡＡは、予測値生成部１、ＤＣＴ／量子化部２、エントロピー符号化部３、逆ＤＣＴ／逆量子化部４、事前解析部５、フィルタ係数算出部６、適応フィルタ処理部７、およびローカルメモリ８を備える。
【００６１】
予測値生成部１は、入力画像としての原画像ａと、ローカルメモリ８から出力される後述のフィルタ処理済みローカルデコード画像ｄと、を入力とする。この予測値生成部１は、イントラ予測やインター予測などの予測方法を用いて予測値を生成する。そして、最も高い符号化性能が期待される予測方法を用いて生成した予測値を、予測値ｅとして出力する。
【００６２】
ＤＣＴ／量子化部２は、原画像ａと、予測値ｅと、の差分である予測残差信号を入力とする。このＤＣＴ／量子化部２は、予測残差信号に対して直交変換処理を施し、その結果により得られる変換係数について量子化処理を施して、量子化された変換係数ｆとして出力する。
【００６３】
エントロピー符号化部３は、量子化された変換係数ｆを入力とする。このエントロピー符号化部３は、量子化された変換係数ｆに対してエントロピー符号化を施し、その結果を、符号化データへの記述規則（符号化シンタックス）に従って符号化データに記述して、符号化データｂとして出力する。
【００６４】
逆ＤＣＴ／逆量子化部４は、量子化された変換係数ｆを入力とする。この逆ＤＣＴ／逆量子化部４は、量子化された変換係数ｆに対して逆量子化処理を施し、その結果により得られる変換係数に対して逆変換処理を施して、逆直交変換された画素信号ｇとして出力する。
【００６５】
事前解析部５は、フィルタ処理前のローカルデコード画像ｈを入力とする。フィルタ処理前のローカルデコード画像ｈとは、予測値ｅと、逆直交変換された画素信号ｇと、の和のことである。この事前解析部５は、フィルタ処理前のローカルデコード画像ｈを構成する各画素または各小領域を分類し、分類結果ｉとして出力する。事前解析部５の詳細については、図２を用いて後に説明する。
【００６６】
フィルタ係数算出部６は、原画像ａと、フィルタ処理前のローカルデコード画像ｈと、分類結果ｉと、を入力とする。このフィルタ係数算出部６は、分類結果ｉに従って分類される画素または小領域ごとに、原画像ａとフィルタ処理前のローカルデコード画像ｈとの誤差が最小となるフィルタ係数を、最適なフィルタ係数として算出する。そして、算出したフィルタ係数を、符号化データ（フィルタ係数）ｃとして出力する。
【００６７】
適応フィルタ処理部７は、符号化データ（フィルタ係数）ｃと、フィルタ処理前のローカルデコード画像ｈと、分類結果ｉと、を入力とする。この適応フィルタ処理部７は、分類結果ｉに従って分類される画素または小領域ごとに、フィルタ処理前のローカルデコード画像ｈの各画素に対して、フィルタ係数算出部６により算出されたフィルタ係数を用いてフィルタ処理を施す。また、適応フィルタ処理部７は、フィルタ制御単位ブロックごとに、適用したフィルタ係数を示す情報を、適否情報として求める。そして、フィルタ処理の結果と、適否情報と、をフィルタ処理済みローカルデコード画像ｄとして出力する。
【００６８】
ローカルメモリ８は、適応フィルタ処理部７から出力されるフィルタ処理済みローカルデコード画像ｄを入力とする。このローカルメモリ８は、入力されたフィルタ処理済みローカルデコード画像ｄを蓄積し、適宜、予測値生成部１に出力する。
【００６９】
［事前解析部５の構成および動作］
図２は、事前解析部５のブロック図である。事前解析部５は、画素値勾配特徴量算出部５１、動的閾値決定部５２、および閾値処理分類部５３を備える。
【００７０】
画素値勾配特徴量算出部５１は、フィルタ処理前のローカルデコード画像ｈを入力とする。この画素値勾配特徴量算出部５１は、フィルタ処理前のローカルデコード画像ｈを構成する画素または小領域ごとに、画素値勾配を算出し、画素または小領域ごとの特徴量ｊとして出力する。
【００７１】
なお、画素値勾配を、画素ごとに算出するのか、小領域ごとに算出するのかは、予め定められているものとする。また、画素値勾配を小領域ごとに算出する場合には、これら小領域のそれぞれがどの画素を含んで構成されるのかが、予め定められているものとする。また、これら予め定められている情報は、事前解析部５だけでなく、図３を用いて後述する事前解析部１４０にも保持されているものとする。
【００７２】
また、小領域ごとに画素値勾配を算出する例として、Ｎ画素×Ｎ画素の小領域ごとに画素値勾配を算出する場合には、まず、この小領域に含まれるＮ×Ｎ個の各画素の画素値勾配を求める。次に、これら各画素の画素値勾配の平均値を算出し、この小領域の画素値勾配とする。
【００７３】
また、画素値勾配の算出には、例えば、ｓｏｂｅｌフィルタやラプラシアンフィルタを用いる手法を適用することができる。
【００７４】
動的閾値決定部５２は、画素または小領域ごとの特徴量ｊを入力とする。この動的閾値決定部５２は、画素または小領域ごとの特徴量ｊに基づいて、閾値を決定し、動的閾値ｍとして出力する。具体的には、まず、画素または小領域ごとの特徴量ｊをステップ幅Ｑで量子化し、量子化した特徴量の値に関してヒストグラムを求める。次に、求めたヒストグラムの各階級の中から度数の集中している階級を検出する。次に、検出した階級のうち互いに隣り合う２つの階級の度数を求め、求めた２つの度数の間の値を、これら２つの階級に対する閾値として決定する。これによれば、度数の集中している階級同士を分類できるように、閾値が動的に決定されることになる。
【００７５】
例えば、画素または小領域ごとの特徴量ｊをステップ幅Ｑで量子化した結果、Ｋ種類の階級が得られた場合について、以下に説明する。この場合、ヒストグラムの第ｋ番目（ｋは、０≦ｋ≦Ｋ−１を満たす任意の整数）の度数がｈ（ｋ）で表されるものとすると、動的閾値決定部５２は、ヒストグラムの連続する階級における度数の変化を評価する。
【００７６】
具体的には、まず、便宜的にｈ（Ｋ）＝ｈ（Ｋ−１）と定義して、以下の数式（１）に示す度数変化の１次微分評価値Ｄ１（ｋ）を求める。
【００７７】
【数１】
2014239338.tif 000003
【００７８】
次に、便宜的にｈ（−１）＝ｈ（０）、ｈ（Ｋ）＝ｈ（Ｋ−１）と定義して、以下の数式（２）に示す度数変化の２次微分評価値Ｄ２（ｋ）を求める。
【００７９】
【数２】
2014239338.tif 000004
【００８０】
次に、以下の数式（３）を満たすｋを求め、求めたｋにおける度数ｈ（ｋ）を、上述の度数の集中している階級の度数（特徴的な度数）として検出する。なお、数式（３）において、Ｔ１およびＴ２のそれぞれは、予め定められた値であるものとする。
【００８１】
【数３】
2014239338.tif 000005
【００８２】
次に、上述の特徴的な度数がＳ個検出されたものとし、これらＳ個の特徴的な度数を階級の小さいものから順にｆ（ｓ）（ｓは、０≦ｓ≦Ｓ−１を満たす任意の整数）と表すこととすると、ｆ（ｓ）とｆ（ｓ＋１）との間の値の中から、これらｆ（ｓ）およびｆ（ｓ＋１）に対する閾値を決定する。これによれば、（Ｓ−１）個の閾値が決定されることになる。
【００８３】
ｆ（ｓ）とｆ（ｓ＋１）との間の値の中から上述の閾値を決定する方法としては、例えば以下の２つの方法を適用できる。ここで、ｆ（ｓ）の度数に相当するヒストグラムの階級をｋ１とし、ｆ（ｓ＋１）の度数に相当するヒストグラムの階級をｋ２と表すこととする。
【００８４】
１つ目の方法では、動的閾値決定部５２は、ｋ１の度数と、ｋ２の度数と、の平均値を、これらｋ１およびｋ２に対する閾値として決定する。
【００８５】
２つ目の方法では、動的閾値決定部５２は、ｋ１の度数およびｋ２の度数のそれぞれに対して、以下の数式（４）および数式（５）のそれぞれで重み付けし、その結果の和を、これらｋ１およびｋ２に対する閾値として決定する。
【００８６】
【数４】
2014239338.tif 000006
【００８７】
【数５】
2014239338.tif 000007
【００８８】
閾値処理分類部５３は、画素または小領域ごとの特徴量ｊと、動的閾値ｍと、を入力とする。この閾値処理分類部５３は、画素または小領域ごとの特徴量ｊについて動的閾値ｍに基づいて閾値判定処理を行って、画素または小領域ごとの特徴量ｊと動的閾値ｍとを比較する。そして、比較結果に基づいてこれら画素または小領域を分類し、分類の結果を分類結果ｉとして出力する。これによれば、（Ｓ−１）個の閾値により、画素または小領域がＳ個に分類されることになる。
【００８９】
［動画像復号装置ＢＢの構成および動作］
図３は、本発明の一実施形態に係る動画像復号装置ＢＢのブロック図である。動画像復号装置ＢＢは、復号処理ループ内で適応フィルタ処理を許容し、画素単位または複数の画素で構成される小領域単位でのフィルタ適用を許容する。この動画像復号装置ＢＢは、エントロピー復号部１１０、予測値生成部１２０、逆ＤＣＴ／逆量子化部１３０、事前解析部１４０、フィルタ処理部１５０、およびメモリ１６０を備える。
【００９０】
エントロピー復号部１１０は、符号化データｂを入力とする。このエントロピー復号部１１０は、符号化データｂに記載されている内容を符号化データ構造に従って解析し、エントロピー復号し、エントロピー復号の結果として得られる予測情報Ｂおよび残差信号Ｃを出力する。
【００９１】
予測値生成部１２０は、予測情報Ｂと、メモリ１６０から出力される後述の復号済み画像Ａと、を入力とする。この予測値生成部１２０は、予測情報Ｂに基づいて予測方法を決定し、決定した予測方法に従って復号済み画像Ａから予測値Ｄを生成し、出力する。
【００９２】
逆ＤＣＴ／逆量子化部１３０は、残差信号Ｃを入力とする。この逆ＤＣＴ／逆量子化部１３０は、残差信号Ｃに対して逆量子化処理を施し、その結果に対して逆変換処理を施して、逆直交変換結果Ｅとして出力する。
【００９３】
事前解析部１４０は、フィルタ処理前のデコード画像Ｆを入力とする。フィルタ処理前のデコード画像Ｆとは、予測値Ｄと逆直交変換結果Ｅとの和のことである。この事前解析部１４０は、事前解析部５と同様の構成を備えており、事前解析部５と同様の動作を行って、フィルタ処理前のデコード画像Ｆを構成する各画素または各小領域に分類し、分類結果Ｇとして出力する。
【００９４】
フィルタ処理部１５０は、フィルタ処理前のデコード画像Ｆと、符号化データ（フィルタ係数）ｃと、分類結果Ｇと、を入力とする。このフィルタ処理部１５０は、分類結果Ｇに従って分類される画素または小領域ごとに、フィルタ処理前のデコード画像Ｆの各画素に対して、符号化データ（フィルタ係数）ｃを用いてフィルタ処理を施す。そして、フィルタ処理により得られた復号済み画像Ａを出力する。
【００９５】
メモリ１６０は、復号済み画像Ａを入力とする。このメモリ１６０は、入力された復号済み画像Ａを蓄積し、適宜、予測値生成部１２０に出力する。
【００９６】
以上の動画像符号化装置ＡＡおよび動画像復号装置ＢＢによれば、以下の効果を奏することができる。
【００９７】
動画像符号化装置ＡＡおよび動画像復号装置ＢＢのそれぞれは、画素または小領域を分類する際に用いる閾値を、画素または小領域ごとの画素値勾配に基づいて決定する。このため、画像の絵柄を考慮して閾値を動的に決定することができるので、画素または小領域の分類を、フィルタ設計に最適に実施することができる。したがって、フィルタ処理による画質を改善して、符号化性能を向上させることができる。
【００９８】
また、動画像符号化装置ＡＡおよび動画像復号装置ＢＢのそれぞれは、画素または小領域ごとの画素値勾配に関してヒストグラムを求め、求めたヒストグラムの各階級の中から度数の集中している階級を検出し、検出した階級のうち互いに隣り合う２つの階級の度数の間の値を、これら２つの階級に対する閾値として決定する。このため、閾値を、画素または小領域ごとの画素値勾配に関するヒストグラムを用いて決定することができる。
【００９９】
また、動画像符号化装置ＡＡおよび動画像復号装置ＢＢのそれぞれは、上述の数式（１）、（２）、（３）を用いて説明したように、度数の集中している階級の検出を、互いに隣り合う階級の度数に関する１次微分および２次微分を用いて行う。このため、度数に関する１次微分および２次微分により、互いに隣り合う階級の度数の変化を検出することができ、度数の集中している階級を適切に検出することができる。
【０１００】
また、動画像符号化装置ＡＡおよび動画像復号装置ＢＢのそれぞれは、度数が集中しており互いに隣り合う２つの階級の度数の平均値、または、度数が集中しており互いに隣り合う２つの階級の度数の重み付け平均値（上述の数式（４）、（５）参照）を、これら２つの階級に対する閾値として決定する。このため、これら２つの階級のそれぞれに属する画素または小領域を、閾値により適切に分類することができ、上述した効果と同様の効果を奏することができる。
【０１０１】
また、動画像符号化装置ＡＡおよび動画像復号装置ＢＢのそれぞれは、ｓｏｂｅｌフィルタやラプラシアンフィルタを用いて、画素または小領域ごとの画素値勾配を算出することができる。
【０１０２】
また、動画像符号化装置ＡＡおよび動画像復号装置ＢＢのそれぞれは、閾値を動的に決定し、決定した閾値を用いて画素または小領域を分類する。このため、動画像符号化装置ＡＡで動的に決定された閾値や、動画像符号化装置ＡＡでの画素または小領域の分類結果を、動画像復号装置ＢＢに送信する必要がないため、これら閾値や分類結果を動画像符号化装置ＡＡから動画像復号装置ＢＢに送信する場合と比べて、符号化性能をさらに向上させることができる。
【０１０３】
なお、本発明の動画像符号化装置ＡＡや動画像復号装置ＢＢの処理を、コンピュータ読み取り可能な非一時的な記録媒体に記録し、この記録媒体に記録されたプログラムを動画像符号化装置ＡＡや動画像復号装置ＢＢに読み込ませ、実行することによって、本発明を実現できる。
【０１０４】
ここで、上述の記録媒体には、例えば、ＥＰＲＯＭやフラッシュメモリといった不揮発性のメモリ、ハードディスクといった磁気ディスク、ＣＤ−ＲＯＭなどを適用できる。また、この記録媒体に記録されたプログラムの読み込みおよび実行は、動画像符号化装置ＡＡや動画像復号装置ＢＢに設けられたプロセッサによって行われる。
【０１０５】
また、上述のプログラムは、このプログラムを記憶装置などに格納した動画像符号化装置ＡＡや動画像復号装置ＢＢから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネットなどのネットワーク（通信網）や電話回線などの通信回線（通信線）のように情報を伝送する機能を有する媒体のことをいう。
【０１０６】
また、上述のプログラムは、上述の機能の一部を実現するためのものであってもよい。さらに、上述の機能を動画像符号化装置ＡＡや動画像復号装置ＢＢにすでに記録されているプログラムとの組合せで実現できるもの、いわゆる差分ファイル（差分プログラム）であってもよい。
【０１０７】
以上、この発明の実施形態につき、図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計なども含まれる。
【０１０８】
例えば、上述の実施形態では、画素または小領域ごとの特徴量として、画素または小領域ごとの画素値勾配を用いることとしたが、これに限らず、例えば、画素または小領域ごとの画素値の分散値を用いてもよい。
【０１０９】
また、上述の実施形態では、動的閾値決定部５２は、数式（３）を満たすｋを求め、求めたｋにおける度数ｈ（ｋ）を上述の特徴的な度数として検出することとした。しかし、これに限らず、ヒストグラムのピークを検出し、検出したピークにおける度数を特徴的な度数として検出できればよく、例えば以下の４つの方法のいずれかにより、ヒストグラムのピークを検出することとしてもよい。
【０１１０】
第１の方法では、動的閾値決定部５２は、数式（１）の１次微分評価値Ｄ１（ｋ）の符号が正から負に変化する途中で、この１次微分評価値Ｄ１（ｋ）がゼロになる際のｋを求め、求めた第ｋ番目の階級を、ピークとして検出する。これによれば、ヒストグラムの上に凸になっている部分の頂点を、ピークとして決定することができる。
【０１１１】
第２の方法では、動的閾値決定部５２は、予め定められた値よりも大きい数式（２）の２次微分評価値Ｄ２（ｋ）を求め、このときの第ｋ番目の階級を、ピークとして検出する。これによれば、予め定められた値よりも度数の増加傾向が高い階級を、ピークとして決定することができる。
【０１１２】
第３の方法では、動的閾値決定部５２は、予め定められた値よりも度数ｈ（ｋ）の高い階級を、ピークまたはピークを含む範囲として検出する。
【０１１３】
第４の方法では、動的閾値決定部５２は、上述の第１の方法、第２の方法、および第３の方法のいずれかによりヒストグラムの谷を検出し、隣り合う谷の間をピークとして検出する。第１の方法によりヒストグラムの谷を検出する場合には、数式（１）の１次微分評価値Ｄ１（ｋ）の符号が負から正に変化する途中で、この１次微分評価値Ｄ１（ｋ）がゼロになる際のｋを求め、求めた第ｋ番目の階級を、谷として検出する。また、第２の方法によりヒストグラムの谷を検出する場合には、予め定められた値よりも小さい数式（２）の２次微分評価値Ｄ２（ｋ）を求め、このときの第ｋ番目の階級を、谷として検出する。また、第３の方法によりヒストグラムの谷を検出する場合には、予め定められた値よりも度数ｈ（ｋ）の低い階級を、谷または谷を含む範囲として検出する。
【０１１４】
また、上述の実施形態では、動画像符号化装置ＡＡおよび動画像復号装置ＢＢのそれぞれにおいて、閾値を動的に決定し、決定した閾値を用いて画素または小領域を分類することとしたが、これに限らず、動画像符号化装置ＡＡで動的に決定した閾値や、動画像符号化装置ＡＡでの画素または小領域の分類結果を、動画像符号化装置ＡＡから動画像復号装置ＢＢに送信するものとしてもよい。これによれば、閾値の決定や、画素または小領域の分類を動画像復号装置ＢＢで行う必要がないため、動画像復号装置ＢＢにおける演算量を削減することができる。
【符号の説明】
【０１１５】
５、１４０・・・事前解析部
６・・・フィルタ係数算出部
７・・・適応フィルタ処理部
１５０・・・フィルタ処理部
５１・・・画素値勾配特徴量算出部
５２・・・動的閾値決定部
５３・・・閾値処理分類部
ＡＡ・・・動画像符号化装置
ＢＢ・・・動画像復号装置
【図１】
2014239338.tif 000008
【図２】
2014239338.tif 000009
【図３】
2014239338.tif 000010