(57)【要約】【課題】マクロブロックが平坦集合エリアに属する場合と、そうではない場合とのどちらのケースでも良好な画像を得る。【解決手段】入力画像の各マクロブロックについて、平坦集合エリアに属するか否かを判定する。そして、各マクロブロックの符号化モードをインター予測モードとイントラ予測モードとのいずれにするかを決定する際に、当該判定結果を利用する。即ち、平坦集合エリアに属する場合は、インター予測モードが選択されやすくなくようにコスト値を補正した上で補正後のコスト値の比較を行う。また、平坦な集合エリアに属さない場合には、コスト値の補正を行わず、単純なコスト値の比較により予測モードの選択を行う。【選択図】図１
2011015171.tif 000002
【特許請求の範囲】
【請求項１】
入力画像につき、マクロブロック毎にインター予測モードとイントラ予測モードとのいずれかを選択して符号化処理を行う符号化装置であって、
注目マクロブロックに含まれる画素値に基づいて平坦度を算出し、該注目マクロブロックが平坦なマクロブロックであるかを判定する平坦判定手段と、
前記平坦判定手段により平坦なマクロブロックと判定された前記注目マクロブロックが、平坦なマクロブロックが集合するエリアに属するか否かを判定するエリア判定手段と、
前記エリア判定手段の判定結果を利用して、前記注目マクロブロックの符号化処理の予測モードとして、前記インター予測モードと前記イントラ予測モードとのいずれかを選択する予測モード選択手段と、
前記予測モード選択手段が選択した予測モードに従って、予測符号化を行う符号化手段と
を備え、
前記予測モード選択手段は、
前記インター予測モードとイントラ予測モードとのそれぞれについて、前記符号化処理において参照する参照画像と前記入力画像との差分に基づくコスト値を比較して前記予測モードを選択し、
前記エリアに属する注目マクロブロックについては、前記インター予測モードのコスト値に対する前記イントラ予測モードのコスト値の比率が増大するように前記コスト値を補正し、補正後のコスト値を比較して前記予測モードを選択する
ことを特徴とする符号化装置。
【請求項２】
前記エリア判定手段は、前記平坦判定手段により平坦なマクロブロックと判定された前記注目マクロブロックの周辺のマクロブロックのうち、前記平坦判定手段により前記平坦なマクロブロックと判定されたマクロブロックの数に基づいて、前記エリアに属するか否かの判定を行うことを特徴とする請求項１に記載の符号化装置。
【請求項３】
前記符号化手段は、
前記注目マクロブロックと前記参照画像とを用いて動き予測を行う動き予測手段と、
前記注目マクロブロックと該注目マクロブロックの周辺の画素を用いて予測を行うイントラ予測手段と、
前記予測モード選択手段が前記インター予測モードを選択した場合には前記動き予測手段における予測結果を直交変換し、前記イントラ予測モードを選択した場合には前記イントラ予測手段における予測結果を直交変換する直交変換手段と、
前記直交変換手段における前記直交変換により得られた変換係数を、量子化ステップサイズに基づいて量子化する量子化手段と、
前記量子化手段における量子化後の変換係数をエントロピー符号化するエントロピー符号化手段と
を備え、
前記エリア判定手段は、前記注目マクロブロックの前記量子化手段における前記量子化ステップサイズが一定値以上の大きさを有する場合に、該注目マクロブロックが前記エリアに属するか否かを判定し、前記一定値より小さい場合には、該注目マクロブロックが前記エリアに属しないと判定する
ことを特徴とする請求項１または２に記載の符号化装置。
【請求項４】
前記補正は、所定値を前記イントラ予測モードのコスト値に加算、または、乗算することにより行われるか、または、前記インター予測モードを前記所定値で除算することにより行われることを特徴とする請求項１乃至３のいずれか１項に記載の符号化装置。
【請求項５】
前記平坦判定手段は、前記マクロブロックに含まれる画素値の分散に基づいて前記平坦度を算出することを特徴とする請求項１乃至４のいずれか１項に記載の符号化装置。
【請求項６】
入力画像につき、マクロブロック毎にインター予測モードとイントラ予測モードとのいずれかを選択して符号化処理を行う符号化装置の制御方法であって、
平坦判定手段が、注目マクロブロックに含まれる画素値に基づいて平坦度を算出し、該注目マクロブロックが平坦なマクロブロックであるかを判定する平坦判定工程と、
エリア判定手段が、前記平坦判定工程において平坦なマクロブロックと判定された前記注目マクロブロックが、平坦なマクロブロックが集合するエリアに属するか否かを判定するエリア判定工程と、
予測モード選択手段が、前記エリア判定工程における判定結果を利用して、前記注目マクロブロックの符号化処理の予測モードとして、前記インター予測モードと前記イントラ予測モードとのいずれかを選択する予測モード選択工程と、
符号化手段が、前記予測モード選択工程において選択された予測モードに従って、予測符号化を行う符号化工程と
を備え、
前記予測モード選択工程では、
前記インター予測モードとイントラ予測モードとのそれぞれについて、前記符号化処理において参照する参照画像と前記入力画像との差分に基づくコスト値を比較して、コスト値の少ない方の予測モードを選択し、
前記エリアに属する注目マクロブロックについては、前記インター予測モードのコスト値に対する前記イントラ予測モードのコスト値の比率が増大するように前記コスト値を補正し、補正後のコスト値を比較して前記予測モードを選択する
ことを特徴とする符号化装置の制御方法。
【請求項７】
コンピュータを請求項１乃至５のいずれか１項に記載の符号化装置として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は符号化装置及びその制御方法、コンピュータプログラムに関する。
【背景技術】
【０００２】
動画像の符号化処理において、H.２６４符号化方式ではインタースライスにおいて、インター予測モードとイントラ予測モードとを選択することができる。インター予測モードにおいては、符号化を行うマクロブロックに対して、参照画像と符号化画像の間でブロックマッチングを取り、最も符号化効率が良い位置を動きベクトル位置として決定する。この動きベクトル位置の決定には、一般的に符号化画像と参照画像との減算から得られる差分データをベースにしたコスト関数が用いられる。コスト関数には色々な関数が考えられるが、代表的なものとして式（１）が挙げられる。
【０００３】
Ｃｏｓｔ＝  ＳＡＴＤ＋Ｑｐ×Ｍｖｃｏｓｔ・・・（１）
ここでSATDとは、符号化画像と参照画像を減算して得られた差分データに対してアダマール変換をかけたものに対し、差分絶対値和演算を行ったものである。Qpは量子化処理に使用される量子化値であり、Mvcostは動きベクトルの長さに応じた動きベクトルの符号量相当のコスト値である。このコスト関数を用い、最もコスト値の小さい位置を動きベクトル位置として決定する。このようにして決定された動きベクトル位置の参照画像と符号化画像との間で減算を行い、差分データを生成する。その差分データに対して直交変換処理、量子化処理、可変長符号化処理を行うことにより、インター予測モードの符号化が行われる。
【０００４】
これに対して、イントラ予測モードでは参照画像として、符号化を行うマクロブロックの周辺の画素が用いられる。イントラ予測モードに用いられる参照画像用の画素を図２に示す。イントラ予測モードにはイントラ４×４予測、イントラ８×８予測、イントラ１６×１６予測があり、それぞれ垂直予測モード、水平予測モード、DC予測モード等、複数の予測モードが存在する。ここでは、イントラ４×４予測モードを例に説明する。符号化を行う４×４ブロックの画素ａからｐに対して、周辺の画素ＡからＭが参照画像用の画素として用いられる。画素ＡからＤは符号化を行う４×４ブロックの上方向に隣接する４画素であり、画素ＥからＨは画素Ｄの右方向に続く４画素である。画素ＩからＬは符合化を行う４×４ブロックの左方向に隣接する４画素であり、画素Mは画素Iの上の位置の画素である。この周辺の画素ＡからＭは、原画像の画素ではなく符号化が行われたローカルデコード画像の画素が用いられる。
【０００５】
この周辺の画素を用いて参照画像がどのように作られるかは、予測モードによって異なる。図３のようにイントラ４×４予測には予測モード０から予測モード８まで９つの予測モードが用意されている。それぞれの予測モードにおける参照画像の作成方法を図４に示す。例えば、予測モード０では垂直方向に隣接する画素ＡからＤから参照画像を生成するモードである。符号化を行う４×４ブロックの画素aからpに対して、１列目の画素a、e、ｉ、mに対する参照画像は画素Ａ、２列目の画素b、f、j、nに対する参照画像は画素Ｂとなる。同様に、３列目の画素c、g、k、oに対する参照画像は画素Ｃ、４列目の画素d、h、l、pに対する参照画像は画素Ｄとなる。
【０００６】
また予測モード２はＤＣ予測であり、式（２）で示される画素が画素aからpの全てに対する参照画像となる。
【０００７】
（Ａ＋Ｂ＋Ｃ＋Ｄ＋Ｉ＋Ｊ＋Ｋ＋Ｌ＋４）＞＞ ３……（２）
このように各予測モードで生成された参照画像と符号化画像との間で減算を行い差分データを生成する。それを用いて式（１）のコスト関数に適用し（イントラ予測モードの場合、Mvcostは予測モードの符号量相当のコストになる）、最もコスト値の小さいものを符号化に用いる予測モードとして決定する。決定した予測モードにおける参照画像と符号化画像との差分データに対して直交変換処理、量子化処理、可変長符号化処理を行うことにより、イントラ予測モードの符号化が行われる。
【０００８】
インタースライスにおいて、インター予測モードが用いられるか、イントラ予測モードが用いられるかは、動きベクトル位置のコスト値とイントラ予測の最適予測モードのコスト値を比較して判定される。
ここで、コスト値が小さい方が符号化効率が良く一般的に画質が良くなるため、コスト値が小さい方の予測モードを選択するという方法がある。
この方法を用いると、当該マクロブロックの符号化効率はいいのだが、以下のような問題がある。まず、インター予測モードとイントラ予測モードとでは、参照画像の生成方法が異なっている。従って、芝生やグラウンド等の地面のように平坦なマクロブロックの集合エリアにおいてインター予測モードとイントラ予測モードが混在する場合、同程度のコスト値でも視覚的な劣化具合が異なり、イントラ予測モードの方が劣化が激しく見えてしまう。そのため、地面のように平坦なマクロブロックの集合エリアの中で、イントラ予測モードで符号化されたマクロブロックは特に劣化が目につきやすく、画質を損なってしまう。
【０００９】
この問題を解決するために、従来技術では、地面のような平坦な部分、すなわち各マクロブロックの平坦度を示すアクティビティが低いほどイントラ予測モードが選択されにくい判定式にするというものがある（例えば、特許文献１参照）。
【先行技術文献】
【特許文献】
【００１０】
【特許文献１】特開２００６−０９４０８１号公報
【発明の概要】
【発明が解決しようとする課題】
【００１１】
ここで符号化対象の画像には、平坦なマクロブロックが集合している平坦集合エリアが存在する一方で、高周波成分を多く持つマクロブロックと、そうではないマクロブロックとが混在するようなエリアも存在する。後者のようなエリアにおいて高周波成分を含む平坦度の低いマクロブロックを符号化する場合、イントラ予測モードを選択した場合でも特に視覚的劣化が目立つわけではない。しかし、上記の提案技術ではマクロブロック単位での平坦度のみを考慮するため、イントラ予測モードが選択されにくくなってしまう。そのため、単純にインター予測モードのコスト値とイントラ予測モードのコスト値の小さい方を選択する場合と比較し、符号化効率が低下し、画質が損なわれてしまうという問題がある。
【００１２】
そこで本発明は、当該マクロブロックが平坦集合エリアに属する場合と、そうではない場合とのどちらのケースでも良好な画像を得ることを目的とする。
【課題を解決するための手段】
【００１３】
上記課題を解決するための本発明は、入力画像につき、マクロブロック毎にインター予測モードとイントラ予測モードとのいずれかを選択して符号化処理を行う符号化装置であって、
注目マクロブロックに含まれる画素値に基づいて平坦度を算出し、該注目マクロブロックが平坦なマクロブロックであるかを判定する平坦判定手段と、
前記平坦判定手段により平坦なマクロブロックと判定された前記注目マクロブロックが、平坦なマクロブロックが集合するエリアに属するか否かを判定するエリア判定手段と、
前記エリア判定手段の判定結果を利用して、前記注目マクロブロックの符号化処理の予測モードとして、前記インター予測モードと前記イントラ予測モードとのいずれかを選択する予測モード選択手段と、
前記予測モード選択手段が選択した予測モードに従って、予測符号化を行う符号化手段と
を備え、
前記予測モード選択手段は、
前記インター予測モードとイントラ予測モードとのそれぞれについて、前記符号化処理において参照する参照画像と前記入力画像との差分に基づくコスト値を比較して前記予測モードを選択し、
前記エリアに属する注目マクロブロックについては、前記インター予測モードのコスト値に対する前記イントラ予測モードのコスト値の比率が増大するように前記コスト値を補正し、補正後のコスト値を比較して前記予測モードを選択することを特徴とする。
【発明の効果】
【００１４】
本発明によれば、マクロブロックが平坦集合エリアに属する場合と、そうではない場合とのどちらのケースでもインター予測モードとイントラ予測モードの選択において最適な予測モード選択を行うことができ、良好な画像を得ることができる。
【図面の簡単な説明】
【００１５】
【図１】発明の第１の実施形態の符号化装置の構成例を示すブロック図。
【図２】イントラ予測モードの参照画像に使用する画素の説明図。
【図３】イントラ４×４予測における予測モードの説明図。
【図４】イントラ予測モードにおける参照画像の作成方法の説明図。
【図５Ａ】特徴検出部１０１の機能構成の一例を示す図。
【図５Ｂ】発明の実施形態の予測モードの選択処理の一例を示すフローチャート。
【図６】平坦集合エリアに属するか否かの判定方法の説明図。
【図７】平坦集合エリアに属するかの判定結果を示す図。
【図８】発明の第２の実施形態の符号化装置の構成例を示すブロック図。
【図９】特徴検出部８０１の動作を示すフローチャート。
【発明を実施するための形態】
【００１６】
以下、図面を参照しながら本発明の好適な実施の形態を説明する。
【００１７】
［第１の実施形態］
図１は本実施形態による符号化装置の構成を説明するブロック図である。特徴検出部１０１では、これから符号化処理を行う画像が入力され、その入力画像に対してどの部分が平坦集合エリアであるかの判定を行う。ここでの判定結果は、マクロブロック単位に平坦集合エリアに属するかどうかを示す平坦集合エリアフラグとして、予測モード選択部１０５に出力される。
【００１８】
図５Ａに特徴検出部１０１の内部構成の例を示す。図５Ｂに特徴検出部１０１及び予測モード選択部１０５における予測モードの選択に関わるフローチャートを示す。まず、Ｓ１０１で平坦判定部５０１には入力画像が入力され、マクロブロック（例えば、１６画素×１６画素）単位に該マクロブロックが平坦であるかどうかが判定される。平坦判定には、いくつかの方法が考えられる。例えば、マクロブロックにおける画素値の分散値を平坦度を表す値として算出し、平坦度が所定の閾値より低いものを平坦であると判定することができる。Ｓ１０２において平坦フラグバッファ５０２は、平坦判定部５０１からの判定結果を受け取り、マクロブロックごとに平坦か、平坦ではないかのフラグを格納しておく。本実施形態では、一例としてフラグ値を平坦の場合に「１」、平坦でない場合に「０」とする。平坦フラグバッファ５０２は１画面分の平坦フラグを格納することができ、後段の平坦集合エリア判定部５０３が動作する前に、１画面分全ての平坦判定を完了するよう動作する。
【００１９】
平坦集合エリア判定部５０３は、Ｓ１０３及びＳ１０４において平坦フラグバッファ５０２に格納されている平坦フラグから、各マクロブロックが平坦集合エリアに属しているかどうかの判定を行う。図６に判定方法の例を示す。ここでは、平坦であると判定されたマクロブロックを「１」、平坦ではないと判定されたマクロブロックを「０」で表している。平坦集合エリア判定部５０３は、Ｓ１０３において注目マクロブロックとその周辺マクロブロックのフラグ値を平坦フラグバッファ５０２から取得して、これを判定に用いる。Ｓ１０４では、注目マクロブロックが平坦であり、かつ周辺の８つのマクロブロックのうち平坦と判定されたものがＮ個以上ある場合に、平坦集合エリアに属すると判定する。Ｎの値は例えば４とすることができるが、これは一例であって、４未満でも４より大きくても良い。
【００２０】
図６（ａ）では、丸印６０１で囲んだ注目マクロブロックは平坦であるが、周辺のマクロブロックのうち平坦であると判定されたものは１つしかない。この場合、平坦集合エリアには属さないと判定される。一方図６（ｂ）では、注目マクロブロック６０２が平坦であり、かつ周辺のマクロブロックのうち平坦であると判定されたものが４つある。この場合、平坦集合エリアに属すると判定される。このようにして、平坦集合エリアに属するかどうかの判定を行い、判定結果を予測モード選択部１０５に出力する。ここでの判定結果も２値で表すことができ、本実施形態では、平坦集合エリアに属する場合を「１」、平坦集合エリアに属しない場合を「０」とする。
【００２１】
以上のようにして各マクロブロックについて判定を行った結果を図７に示す。図７（ａ）は平坦フラグバッファ５０２における１画面分の平坦フラグを示している。ここで網掛部分７０１は、平坦であると判定されたマクロブロックであるが、平坦集合エリアではないと判定されたマクロブロックである。一方、太線で囲まれた領域７０２に含まれるマクロブロックは平坦集合エリアとして判定される。図７（ｂ）は、平坦集合エリアフラグ５０４の一例を示したものであって、ここでは網掛部分７０１のフラグ値が「０」となっている。これにより、当該マクロブロックは平坦集合エリアに属していないことを表すことができる。一方、太線領域７０２内は全てフラグ値が「１」となっており、当該マクロブロックは平坦集合エリアに属していることを表している。なお、特徴検出部１０１の構成は図５のようなものに限ったものではなく、平坦な集合エリアを検出できれば、どのような構成をとっても良い。
【００２２】
以上のようにして生成されたエリア判定結果としての平坦集合エリアフラグは、Ｓ１０５において平坦集合エリア判定部５０３から、符号化処理対象の注目マクロブロック毎に予測モード選択部１０５に出力される。予測モード選択部１０５は、Ｓ１０６において取得した平坦集合エリアフラグと、動き予測部１０３及びイントラ予測部１０４から取得したコスト値とを用いて、予測符号化における予測モードを選択する。以下、Ｓ１０６における予測モードの選択処理の詳細を説明する。
【００２３】
図１のブロック図の説明に戻る。フレームバッファ１０２には、符号化対象の入力画像が格納されており、動き予測部１０３、ならびにイントラ予測部１０４に処理対象画像を出力する。動き予測部１０３では、フレームバッファ１０２からの処理対象画像と参照フレームバッファ１１４からの参照画像との間でブロックマッチングをとり、符号化効率を示すコスト関数によるコスト値の最も小さい位置の動きベクトルを算出する。動きベクトル位置の参照画像と処理対象画像との差分データとしての動き予測結果と、コスト値とが予測モード選択部１０５に出力される。
【００２４】
イントラ予測部１０４では、フレームバッファ１０２から読み込んだ処理対象画像と参照フレームバッファ１１４から読み込んだ参照画像との間でイントラ予測を行う。各予測モードのうち、符号化効率を示すコスト関数によるコスト値の最も小さい予測モードを選択する。選択した予測モードにおける参照画像と処理対象画像との差分データとしてのイントラ予測結果と、コスト値とが予測モード選択部１０５に出力される。
【００２５】
予測モード選択部１０５では、符号化を行う注目マクロブロックが平坦集合エリアに属するかどうかを示すフラグ値を特徴検出部１０１から取得する。特徴検出部１０１は、処理対象のマクロブロック毎に平坦集合エリアフラグ５０４を出力する。フラグ値が当該マクロブロックが平坦集合エリアに属することを示す場合、同程度のコスト値ではインター予測モードよりもイントラ予測モードの方が劣化が激しく見えてしまうため、インター予測モードが優先的に採用されるようにする。具体的には、ある程度のコスト値の差がないとイントラ予測モードにならないように、下記の式（３）のイントラ・インター判定式を用いる。
【００２６】
InterCOST  ＞  IntraCOST  +  α  の場合、イントラ予測
InterCOST  ＜=  IntraCOST  +  α  の場合、インター予測・・・（３）
ここで、InterCOSTは動き予測部１０３から入力されるインター予測モードのコスト値、IntraCOSTはイントラ予測部１０４から入力されるイントラ予測モードのコスト値である。また、αはイントラ予測モードのコスト値の補正値であり、任意に設定できる定数とする。
【００２７】
次に、フラグが平坦集合エリアに属しないことを示す場合、コスト値が小さい予測モードを選択した方が符号化効率が良く、画質も良くなるため、式（４）のイントラ・インター判定式を用いる。
【００２８】
InterCOST  ＞  IntraCOST  の場合、イントラ予測
InterCOST  ＜=  IntraCOST  の場合、インター予測・・・（４）
これらの判定式に従い、イントラ予測モードとインター予測モードとのいずれを採用すべきかを決定する。これにより平坦なマクロブロックの集合エリアではインター予測モードよりもイントラ予測モードの方がコスト値が非常に小さい、即ち画質劣化がより少ないマクロブロックがイントラ予測モードで符号化されることになる。よって、インター予測モードとイントラ予測モードが混在している場合の画質劣化を抑えることができる。また、平坦なマクロブロックの集合エリアではない場合では、コスト値が小さい方の予測モードを選択することにより、符号化効率を損なわずに良い画質を得ることができる。
【００２９】
このようにして決定した予測モードの予測結果である差分データを直交変換部１０６に送る。直交変換部１０６では、差分データに対して離散コサイン変換を行い、変換係数を生成し、量子化部１０８に送る。量子化部１０８では、送られてきた変換係数に対して、量子化制御部１０７が出力する量子化ステップサイズに従い、量子化を行う。量子化された変換係数はエントロピー符号化部１０９、ならびローカルデコード画像作成のため逆量子化部１１０に送られる。エントロピー符号化部１０９では、量子化後の変換係数に対してジグザグスキャン、オルタネートスキャン等を行い、可変長符号化が行われる。これに対して、動きベクトルや量子化ステップサイズ、マクロブロック分割情報などの符号化方式情報を可変長符号化したものが付加され、符号化ストリームを生成する。また、符号化の際にマクロブロックごとの発生符号量を算出し、量子化制御部１０７に送る。量子化制御部１０７では、エントロピー符号化部１０９から受け取った発生符号量を用いて、目標とする符号量になるように量子化ステップサイズを決定し、量子化部１０８へ出力する。
【００３０】
逆量子化部１１０では、入力された量子化後の変換係数に対して逆量子化を行い、ローカルデコード用の変換係数を生成する。この変換係数は逆直交変換部１１１に出力される。逆直交変換部１１１では、入力された変換係数に対して、逆離散コサイン変換を行い、差分画像を生成する。差分画像は動き補償部１１２に出力される。動き補償部１１２では、動きベクトル位置の参照画像を参照フレームバッファ１１４から読み出し、入力された差分画像を加算することにより、ローカルデコード用の画像データを作成する。作成された画像データはデブロッキングフィルタ部１１３に出力される。デブロッキングフィルタ部１１３では、入力された画像をデブロッキングフィルタをかける前に一旦参照フレームバッファ１１４に格納する。これはイントラ予測において、デブロッキングフィルタをかける前の参照画像が必要だからである。そのあと、デブロッキングフィルタをかけ、フィルタ後の画像がローカルデコード画像として参照フレームバッファ１１４に格納される。このような動作により、符号化ストリーム、ローカルデコード画像が作成される。
【００３１】
なお、以上の実施形態では、任意の定数αを加算することによりイントラ予測モードのコスト値の補正を行ったが、補正方法は所定値を用いた加算に限定されるものではなく減算、乗算、除算によってもよい。例えば、上記定数αをインター予測モードのコスト値から減算しても良い。また、任意の係数α’をイントラ予測モードのコスト値に乗算しても良いし、或いは、インター予測モードのコスト値を任意の係数α”により割っても良い。それ以外の補正方法でも、補正前のコスト値がほぼ同一の場合にインター予測モードがイントラ予測モードに優先して採用されるものであれば利用することができる。なお、当該補正は、インター予測モードにおけるコスト値に対するイントラ予測モードにおけるコスト値の比率（IntraCOST／InterCOST）が増大するように行われる。
【００３２】
以上のように本実施形態では、入力画像の各マクロブロックについて、平坦集合エリアに属するか否かを判定する。そして、各マクロブロックの符号化モードをインター予測モードとイントラ予測モードとのいずれにするかを決定する際に、当該判定結果を利用する。即ち、平坦集合エリアに属する場合は、インター予測モードが選択されやすくなるようにコスト値を補正した上で補正後のコスト値の比較を行う。これにより、画質劣化がより少ないマクロブロックがイントラ予測モードとして選択されるようになる。また、平坦な集合エリアに属さない場合には、コスト値の補正を行わず、単純なコスト値の比較により予測モードの選択を行う。これにより、マクロブロックが平坦集合エリアに属するか否かにかかわらず良好な画像を得ることができる。
【００３３】
［第２の実施形態］
図８は本発明による第２の実施形態による符号化装置の構成を説明するブロック図である。ここでは、第１の実施形態との差異についてのみ詳細に説明する。第１の実施形態とは、特徴検出部８０１の動作が特徴検出部１０１の動作と違う点、及び、量子化制御部１０７から特徴検出部８０１に対して量子化ステップサイズが通知されている点で異なる。まず、特徴検出部８０１では、量子化ステップサイズがある判定閾値より大きい場合に、平坦集合エリアかどうかの判定を行う。これは量子化ステップサイズが小さい場合には、劣化の度合いが少ないため、平坦集合エリアにおいてイントラ予測とインター予測が混在しても劣化が目立たないからである。
【００３４】
図９に本実施形態における特徴検出部８０１の動作を表すフローチャートを示す。まずＳ２０１で、特徴検出部８０１は処理対象の注目マクロブロックの量子化ステップサイズ（Qstep）を量子化制御部１０７から取得する。ここで、平坦集合エリアかどうかの判定を行う量子化ステップサイズの閾値をβとする。Ｓ２０２では、特徴検出部８０１は量子化ステップサイズ（Qstep）が閾値βより小さいかどうかを判定する。もし、量子化ステップサイズ（Qstep）が閾値βより小さい場合、Ｓ２０３に移行する。Ｓ２０３では、平坦集合エリアかどうかの判定は行わず、予測モード選択部１０５に対して平坦集合エリアではないというフラグを出力する。一方、量子化ステップサイズ（Qstep）が閾値β以上の場合、Ｓ２０４に移行する。Ｓ２０４では注目マクロブロックが平坦集合エリアに属するかどうかを判定する。もし、注目マクロブロックが平坦集合エリアに属する場合は（Ｓ２０４で「ＹＥＳ」）、Ｓ２０５にて平坦集合エリアであるとのフラグ値「１」を出力する。一方、注目マクロブロックが平坦集合エリアに属しない場合は（Ｓ２０４で「ＮＯ」）、Ｓ２０６にて平坦集合エリアでないとのフラグ値「０」を出力する。
【００３５】
予測モード選択部１０５では、符号化を行う注目マクロブロックが平坦集合エリアに属するかどうかを示すフラグ値を特徴検出部８０１から取得する。予測モード選択部１０５における処理は第１の実施形態において説明したものと同様であるので本実施形態では説明を省略する。
【００３６】
以上のように本実施形態によれば、量子化ステップサイズが一定値以上の大きさを有する場合にのみ、平坦集合エリアかどうかの判定を行う。平坦な集合エリアに属すると判定されれば、第１の実施形態と同様に予測モードの選択を行って、画質劣化が少ないマクロブロックのみがイントラ予測モードとして選択されるようにする。また量子化ステップサイズが一定値より小さい場合、もしくは平坦集合エリアに属さない場合には、コスト値のみを考慮して予測モードを選択する。これにより、マクロブロックが平坦集合エリアに属するか否かにかかわらず良好な画像を得ることができる。
【００３７】
［その他の実施形態］
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア（プログラム）を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ（またはＣＰＵやＭＰＵ等）がプログラムを読み出して実行する処理である。
【図１】
2011015171.tif 000003
【図２】
2011015171.tif 000004
【図３】
2011015171.tif 000005
【図４】
2011015171.tif 000006
【図５Ａ】
2011015171.tif 000007
【図５Ｂ】
2011015171.tif 000008
【図６】
2011015171.tif 000009
【図７】
2011015171.tif 000010
【図８】
2011015171.tif 000011
【図９】
2011015171.tif 000012