(57)【要約】  複数の予測モードおよび予測ブロックサイズを有し、それらを符号化時に切り替え可能なイントラ予測符号化で用いられるイントラ予測符号化制御方法で、符号化対象領域の平坦度を示す平坦度合いを算出する過程と、前記算出した平坦度合いに応じて、符号化対象領域のイントラ予測符号化に用いる予測ブロックサイズを決定する過程と、前記決定した予測ブロックサイズで、符号化対象領域のイントラ予測符号化に用いる予測モードを選択する過程とを有する。
2008044658.tif 000002
【特許請求の範囲】
【請求項１】
複数の予測モードおよび予測ブロックサイズを有し、それらを符号化時に切り替え可能なイントラ予測符号化で用いられるイントラ予測符号化制御方法であって、
符号化対象領域の平坦度を示す平坦度合いを算出する過程と、
前記算出した平坦度合いに応じて、符号化対象領域のイントラ予測符号化に用いる予測ブロックサイズを決定する過程と、
前記決定した予測ブロックサイズで、符号化対象領域のイントラ予測符号化に用いる予測モードを選択する過程と
を有するイントラ予測符号化制御方法。
【請求項２】
請求項１に記載のイントラ予測符号化制御方法において、
前記予測ブロックサイズを決定する過程では、符号化対象領域の平坦度が低い場合には、符号化に用いる予測ブロックサイズとして小さい予測ブロックサイズを決定し、符号化対象領域の平坦度が高い場合には、符号化に用いる予測ブロックサイズとして大きい予測ブロックサイズを決定するイントラ予測符号化制御方法。
【請求項３】
請求項２に記載のイントラ予測符号化制御方法において、
前記予測ブロックサイズを決定する過程では、符号化対象領域の平坦度合いと、選択可能な予測ブロックサイズに応じて設定された閾値とを比較して、その比較結果に基づいて、符号化に用いる予測ブロックサイズを決定するイントラ予測符号化制御方法。
【請求項４】
請求項３に記載のイントラ予測符号化制御方法において、
符号化対象領域の量子化ステップサイズを算出する過程と、
前記算出した量子化ステップサイズに基づいて前記閾値を設定する過程とを有するイントラ予測符号化制御方法。
【請求項５】
請求項４に記載のイントラ予測符号化制御方法において、
前記量子化ステップサイズを算出する過程では、前記予測ブロックサイズを決定する過程の実行前に符号化対象領域の量子化ステップサイズを算出することができない場合には、他の領域の、既に算出されている量子化ステップサイズに基づいて、符号化対象領域の量子化ステップサイズを算出するイントラ予測符号化制御方法。
【請求項６】
請求項４に記載のイントラ予測符号化制御方法において、
前記閾値を設定する過程では、前記算出した量子化ステップサイズが相対的に小さい場合には、相対的に小さい予測ブロックサイズが決定されることになる割合が大きくなるような閾値を設定するイントラ予測符号化制御方法。
【請求項７】
請求項１に記載のイントラ予測符号化制御方法において、
前記符号化対象領域の平坦度合いを算出する過程では、符号化対象領域内の輝度信号の統計量に基づいて平坦度合いを算出するイントラ予測符号化制御方法。
【請求項８】
請求項１に記載のイントラ予測符号化制御方法において、
前記符号化対象領域の平坦度合いを算出する過程では、符号化対象領域を小領域に分割して各小領域について平坦度合いを算出して、それらの平坦度合いに基づいて、符号化対象領域の平坦度合いを算出するイントラ予測符号化制御方法。
【請求項９】
複数の予測モードおよび予測ブロックサイズを有し、それらを符号化時に切り替え可能なイントラ予測符号化で用いられるイントラ予測符号化制御装置であって、
符号化対象領域の平坦度を示す平坦度合いを算出する算出手段と、
前記算出手段の算出した平坦度合いに応じて、符号化対象領域のイントラ予測符号化に用いる予測ブロックサイズを決定する決定手段と、
前記決定手段の決定した予測ブロックサイズで、符号化対象領域のイントラ予測符号化に用いる予測モードを選択する選択手段と
を有するイントラ予測符号化制御装置。
【請求項１０】
請求項９に記載のイントラ予測符号化制御装置において、
前記決定手段は、符号化対象領域の平坦度が低い場合には、符号化に用いる予測ブロックサイズとして小さい予測ブロックサイズを決定し、符号化対象領域の平坦度が高い場合には、符号化に用いる予測ブロックサイズとして大きい予測ブロックサイズを決定するイントラ予測符号化制御装置。
【請求項１１】
請求項１に記載のイントラ予測符号化制御方法の実現に用いられる処理をコンピュータに実行させるためのイントラ予測符号化制御プログラム。
【請求項１２】
請求項１に記載のイントラ予測符号化制御方法の実現に用いられる処理をコンピュータに実行させるためのイントラ予測符号化制御プログラムを記録したコンピュータ読み取り可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、複数の予測モードおよび予測ブロックサイズを切り替え可能なイントラ予測符号化で用いられるイントラ予測符号化制御方法およびその装置と、そのイントラ予測符号化制御方法の実現に用いられるイントラ予測符号化制御プログラムおよびそのプログラムを記録したコンピュータ読み取り可能な記録媒体とに関し、特に、演算コストの削減を実現するイントラ予測符号化制御方法およびその装置と、そのイントラ予測符号化制御方法の実現に用いられるイントラ予測符号化制御プログラムおよびそのプログラムを記録したコンピュータ読み取り可能な記録媒体とに関する。
本願は、２００６年１０月１０日に出願された特願２００６−２７５９５１号に基づき優先権を主張し、その内容をここに援用する。
【背景技術】
【０００２】
標準動画像符号化方式であるＩＴＵ−Ｔ  Ｈ.264（例えば、非特許文献１参照）では、符号化効率を向上させるため、イントラ符号化を行う際に、近傍画素から予測信号を生成する予測符号化方式を採用している。【０００３】
Ｈ.264のイントラ予測符号化方式では、予測モードや予測ブロックサイズを適応的に切り替え可能である。この予測符号化方式の採用により、従来の映像符号化方式に比べてイントラ符号化の符号化効率が格段に向上している。【０００４】
図６Ａ〜８Ｂに、Ｈ.264で採用している予測ブロックサイズと予測モードを示す。【０００５】
ここで、図６Ａ，６Ｂは、符号化対象のマクロブロック（１６×１６画素）を４×４画素の予測ブロックサイズでイントラ予測符号化するときの説明図であり、図６Ａは、符号化対象ブロックと既符号化済みブロックとの位置関係を示し、図６Ｂは、予測方向を示す。
同様に、図７Ａ，７Ｂは、符号化対象のマクロブロックを８×８画素の予測ブロックサイズでイントラ予測符号化するときの説明図であり、図７Ａは、符号化対象ブロックと既符号化済みブロックとの位置関係を示し、図７Ｂは、予測方向を示す。
同様に、図８Ａ，８Ｂは、符号化対象のマクロブロックを、これと同一サイズの１６×１６画素の予測ブロックサイズでイントラ予測符号化するときの説明図であり、図８Ａは、符号化対象ブロックと既符号化済み信号（画素）との位置関係を示し、図８Ｂは、各種方向や手法による予測を示す。【０００６】
このように、Ｈ.264では、符号化効率に応じて、様々な予測ブロックサイズや予測方向を選択することができるようになっている。【０００７】
しかし、選択可能な予測モードや予測ブロックサイズの増加は、符号化効率を向上させるものの、予測モードや予測ブロックサイズの選択のために演算コストが増加する。そこで、イントラ予測符号化の演算コスト削減方法が提案されている。【０００８】
非特許文献１に記載される発明では、図９に示すフローチャートの手順に従って、最初に、エッジ方向の判定を行い、続いて、予測モードを制限し、続いて、予測モードを選択し、続いて、予測ブロックサイズを決定して、イントラ予測符号化を行うようにしている。【０００９】
このように、非特許文献１に記載される発明では、予めエッジの方向を調べることで選択確率の低い予測モードを除外し、これにより演算コストの削減を図っている。【００１０】
また、下記に示す非特許文献２に記載される発明では、図１０に示すフローチャートの手順に従って、最初に、４×４サイズのブロックで予測モードを選択し、続いて、その予測モードの偏りを測定して、その測定結果に基づいて、８×８サイズの予測モードの選択のスキップを可能にしつつ、８×８サイズや１６×１６サイズの予測モードを選択し（８×８サイズについては、スキップしない場合）、続いて、予測ブロックサイズを決定して、イントラ予測符号化を行うようにしている。【００１１】
このように、非特許文献２に記載される発明では、最初に、最小ブロックサイズである４×４サイズのブロックで予測モードを選択し、その４×４サイズでの予測モードの出現頻度により、８×８サイズや１６×１６サイズの予測モードの制限、および、予測ブロックサイズ選択の制御を行っている。【００１２】
この非特許文献２に記載される発明では、最小ブロックサイズでの偏りを見て、８×８サイズの予測モードを制限したり、８×８サイズの予測をスキップすることで、演算コストの削減を図っているのである。【００１３】
また、下記に示す特許文献１に記載される発明では、近傍ブロックの予測モードの頻度情報に重み付けをし、その重み付けされた頻度情報に基づいて予測モードを限定するようにしている。【００１４】
この特許文献１に記載される発明では、最初に、参照ブロックの予測モードおよび重み係数を取得し、続いて、予測モードの優先順位を取得する。続いて、その取得した予測モードおよび重み係数の情報に基づいて、予測モードについて加重ヒストグラムを作成し、続いて、その加重ヒストグラムに基づいて、予測モードの候補を選定する。このとき、加重ヒストグラムにおいて候補決定のための所定数を満たす予測モードがない場合は、優先順位の高い予測モードを選択し、続いて、各予測モードのコストを算出して予測モードを選択して、イントラ予測符号化を行うようにしている。【００１５】
このように、特許文献１に記載される発明では、近傍ブロックの予測モードの統計情報から、利用する予測モードを限定することで、予測モード選択時に必要となるコスト計算の回数を削減している。
【非特許文献１】Feng Pan et al., "Fast Mode Decision Algorithm for Intraprediction in H.264/AVC Video Coding," IEEETrans. Circuits Syst. Video Technol.,vol.15, NO.7, pp. 813-822, July 2005.
【非特許文献２】常松祐一他,"モードの偏りを用いたH.264/AVC FRExt Intra モード決定方法, "2005年電子情報通信学会総合大会, D-11-55, p. 55,Mar. 2005.
【特許文献１】特開２００５−３４８２８０号公報
【発明の開示】
【発明が解決しようとする課題】
【００１６】
先に述べたように、従来方法では、イントラ予測符号化を行うときに、利用する予測モードを制限することで演算コストの削減を図っている。【００１７】
この構成を採るときに、従来方法では、イントラ予測符号化に用いる予測モードを制限するための情報として、入力信号のエッジ方向や、最小ブロックサイズでの予測モード選択の結果や、近傍ブロックでの予測モードの頻度情報などを利用している。【００１８】
しかしながら、いずれの従来方法も、マクロブロックサイズ（１６×１６）より小さい４×４サイズや８×８サイズの予測モードの利用を制限していなかったり、あるいは、利用を制限しているにしても部分的な制限にとどまっている。【００１９】
マクロブロックサイズより小さい４×４サイズや８×８サイズの予測モードの決定には、仮の復号画像を生成する必要がある。これは、マクロブロック内の、左上の小ブロックを除く小ブロックでは、予測モード判定に隣接小ブロックの復号画像の参照を必要とするためである。【００２０】
復号画像の生成には、直交変換、量子化、逆量子化、逆直交変換の処理が必要になる。これらの処理は、実際に符号化に利用されるわけではなく、予測モード選択のための仮の復号結果である。そのブロックサイズが選択されない場合、この仮の復号結果は破棄されることになる。【００２１】
図１１に、Ｈ.264で採用されている各ブロックサイズで、予測モードの選択に必要な復号処理量を示す。【００２２】
この図から分かるように、例えば、３ブロックサイズ（４×４，８×８，１６×１６）を利用した場合、予測モードの選択に必要な復号処理量は、４×４サイズで１５ブロック（２４０画素）分、８×８サイズで３ブロック（１９２画素）分が必要となる。最終的に予測モードが１６×１６サイズに決定した場合、実際に符号化する１６×１６サイズの復号処理を含めて、約３マクロブロック分の復号処理を行う必要がある。【００２３】
このように、従来方法では、最終的に選択されるかどうか不明な予測ブロックサイズに対して、予測モード選択時に仮の復号処理を行う必要がある。【００２４】
これから、例えば、最終的に１６×１６のブロックサイズ（即ち、マクロブロックサイズ）が選択された場合、４×４サイズと８×８サイズについての仮の復号結果は破棄され、少なくとも４３２（＝２４０＋１９２）画素分の復号処理が無駄となる。【００２５】
本発明はかかる事情に鑑みてなされたものであって、イントラ予測符号化を行うときに、不要な復号処理の省略を実現することにより演算コストの削減を実現する新たなイントラ予測符号化制御技術の提供を目的とする。
【課題を解決するための手段】
【００２６】
この目的を達成するために、本発明のイントラ予測符号化制御装置は、複数の予測モードおよび予測ブロックサイズを有し、それらを符号化時に切り替え可能なイントラ予測符号化で用いられるときにあって、（１）符号化対象領域の平坦度を示す平坦度合いを算出する算出手段と、（２）算出手段の算出した平坦度合いに応じて、符号化対象領域のイントラ予測符号化に用いる予測ブロックサイズを決定する決定手段と、（３）決定手段の決定した予測ブロックサイズで、符号化対象領域のイントラ予測符号化に用いる予測モードを選択する選択手段とを備えるという構成を採る。【００２７】
この構成を採るときにあって、さらに、（４）符号化対象領域の量子化ステップサイズを算出する計算手段と、（５）計算手段の算出した量子化ステップサイズに基づいて、決定手段の用いる閾値を設定する設定手段とを備えることがある。【００２８】
ここで、以上の各処理手段が動作することで実現される本発明のイントラ予測符号化制御方法はコンピュータプログラムでも実現できるものであり、このコンピュータプログラムは、適当なコンピュータ読み取り可能な記録媒体に記録して提供されたり、ネットワークを介して提供され、本発明を実施する際にインストールされてＣＰＵなどの制御手段上で動作することにより本発明を実現することになる。【００２９】
このように構成される本発明のイントラ予測符号化制御装置では、最初に、符号化対象領域内の輝度信号の統計量に基づいて平坦度合いを算出することなどにより、符号化対象領域の平坦度を示す平坦度合いを算出する。【００３０】
このとき、符号化対象領域が広いことで複数の平坦度合いを持つ領域が含まれることがあることを考慮し、符号化対象領域を小領域に分割して各小領域について平坦度合いを算出して、それらの平坦度合いに基づいて、符号化対象領域の平坦度合いを算出することがある。【００３１】
続いて、符号化対象領域の平坦度が低い場合には、イントラ予測符号化に用いる予測ブロックサイズとして小さい予測ブロックサイズを決定し、符号化対象領域の平坦度が高い場合には、イントラ予測符号化に用いる予測ブロックサイズとして大きい予測ブロックサイズを決定するというように、算出した平坦度合いに応じて、符号化対象領域のイントラ予測符号化に用いる予測ブロックサイズを決定する。【００３２】
続いて、決定した予測ブロックサイズに従って、予測ブロックサイズを固定にする形で、符号化対象領域のイントラ予測符号化に用いる予測モードを選択する。【００３３】
このようにして、本発明のイントラ予測符号化制御装置では、符号化対象領域の平坦度を示す平坦度合いを用いて、予測モード判定をせずに、符号化対象領域のイントラ予測符号化に用いる予測ブロックサイズを決定するように処理するのである。【００３４】
この予測ブロックサイズの決定にあたって、本発明のイントラ予測符号化制御装置では、例えば、算出した符号化対象領域の平坦度合いと選択可能な予測ブロックサイズに応じて設定された閾値とを比較して、その比較結果に基づいて、イントラ予測符号化に用いる予測ブロックサイズを決定することになる。【００３５】
このときに使用する閾値については、符号化効率の低下を軽減すべく、符号化対象領域の量子化ステップサイズに基づいて設定することがあり、例えば、量子化ステップサイズが小さくなる場合には、小さい予測ブロックサイズが決定されることになる割合が大きくなるようにと設定することになる。【００３６】
この閾値の設定にあたって、予測ブロックサイズの決定処理の前に符号化対象領域の量子化ステップサイズを算出することができない場合には、既に算出されている他の領域の量子化ステップサイズに基づいて、符号化対象領域の量子化ステップサイズに代わる量子化ステップサイズを算出することになる。
【発明の効果】
【００３７】
本発明によれば、イントラ予測符号化を行うときに、符号化対象領域の平坦度を示す平坦度合いを用いて、予測モード判定をせずに、符号化対象領域の予測ブロックサイズを決定することができるようになる。【００３８】
これにより、本発明によれば、イントラ予測符号化を行うときに、判定する予測モード数を制限できるだけでなく、各予測ブロックサイズで必要となる予測モード決定のための仮の復号処理が不要となることで、演算コストを削減できるようになる。
【図面の簡単な説明】
【００３９】
【図１】本発明に従った映像符号化装置の実行するフローチャートである。
【図２】本発明に従った映像符号化装置の一実施例である。
【図３】閾値テーブルのテーブルデータの説明図である。
【図４】ルックアップテーブルのテーブルデータの説明図である。
【図５】イントラ予測符号化機構の実行するフローチャートである。
【図６Ａ】Ｈ.264で採用している４×４画素の予測ブロックサイズを用いた符号化の説明図である。
【図６Ｂ】図６Ａにおける予測方向の説明図である。
【図７Ａ】Ｈ.264で採用している８×８画素の予測ブロックサイズを用いた符号化の説明図である。
【図７Ｂ】図７Ａにおける予測方向の説明図である。
【図８Ａ】Ｈ.264で採用している１６×１６画素の予測ブロックサイズを用いた符号化の説明図である。
【図８Ｂ】図８Ａにおける各種方向や手法による予測の説明図である。
【図９】非特許文献２に記載される発明の実行するフローチャートである。
【図１０】非特許文献３に記載される発明の実行するフローチャートである。
【図１１】Ｈ.264で予測モードの選択に必要な復号処理量の説明図である。
【符号の説明】
【００４０】
１    映像符号化装置
２    イントラ予測符号化機構
３    予測ブロックサイズ決定機構
４    予測モード選択機構
５    符号化機構
６    量子化ステップサイズ算出部
３０  マクロブロック分割部
３１  Ｌ１分散算出部
３２  マクロブロック平坦度合い算出部
３３  予測ブロックサイズ決定部
３４  閾値テーブル
３５  ルックアップテーブル
３６  テーブルデータ登録部
３７  閾値設定部
【発明を実施するための最良の形態】
【００４１】
以下、実施の形態に従って本発明を詳細に説明する。【００４２】
本発明は、イントラ予測符号化を行う場合に、従来方法のように予測モードを限定するのではなく、最初に予測ブロックサイズを限定する。このようにして、最初に予測ブロックサイズを限定することで、不要な復号処理を省略することができ、演算コストの削減を可能にする。【００４３】
図１に、本発明に従った映像符号化装置の実行するフローチャートの一例を図示する。このフローチャートに従って、本発明を具備する映像符号化装置の実行する処理について説明する。【００４４】
本映像符号化装置は、先ず最初に、ステップＳ１０で、符号化対象領域の平坦度を示す平坦度合いを算出する。【００４５】
続いて、ステップＳ１１で、算出した平坦度合いと比較することになる閾値を、利用可能な予測ブロックサイズに応じて設定する。【００４６】
続いて、ステップＳ１２で、算出した平坦度合いと設定した閾値との比較結果に基づいて、符号化対象領域の予測ブロックサイズを決定する。【００４７】
このとき、平坦度が低いブロックほど小さいブロックサイズを選択し、また、平坦度が高いブロックほど大きいブロックサイズを選択することで、符号化対象領域の予測ブロックサイズを決定する。【００４８】
続いて、ステップＳ１３で、このようにして決定した予測ブロックサイズに従って、予測ブロックサイズを固定なものとして扱って予測モードを選択する。【００４９】
最後に、ステップＳ１４で、決定した予測ブロックサイズと選択した予測モードとに基づいて、符号化対象領域をイントラ予測符号化する。【００５０】
次に、これらの処理について詳細に説明する。【００５１】
本発明では、符号化対象領域の平坦度合いを用いて、最初に、符号化対象領域のイントラ予測符号化に用いる予測ブロックサイズを決定する。【００５２】
この平坦度合いは、画素値の分散や平均値などから算出できるものであり、例えば、下記の式（１）に示すＬ２分散を使って算出したり、下記の式（２）に示すＬ１分散を使って算出する。【００５３】
【数１】
2008044658.tif 000003
【００５４】
ここで、ｓ（ｉ，ｊ）は符号化対象領域内の位置（ｉ，ｊ）の画素値を示し、＜ｓ＞はそれらの画素値の平均値を示す。
これらの式で示すように、算出される「平坦度合い」値が大きいほど、平坦度は低く、「平坦度合い」値が小さいほど、平坦度は高い。【００５５】
符号化対象領域が広い場合、複数の平坦度合いを持つ領域が含まれる可能性があるため、符号化対象領域を小領域に分割して平坦度合いを算出することもできる。その際、符号化対象領域の平坦度合いは、小領域の数だけ求まるため、その中の最小値や最大値を符号化対象領域の平坦度合いとする。【００５６】
例えば、１６×１６サイズのマクロブロックを８×８サイズの小ブロックに分割し、各小ブロック毎に平坦度合いを算出する。このようにすると、１マクロブロック当たり４つの平坦度合いが算出されるため、その最小値や最大値をマクロブロックの平坦度合いとするのである。【００５７】
なお、この平坦度合いについては、量子化制御など他の符号化処理でも利用される例があり、共用する場合は、イントラ予測符号化制御の演算コストを考える必要がない。このため、エッジ方向を求める場合などとは異なり、付加的な演算コストも小さくなる可能性がある。【００５８】
平坦度合いと比較する閾値は、予測ブロックサイズに応じて設定する。【００５９】
例えば、Ｈ.264に従って、４×４サイズ、８×８サイズ、１６×１６サイズという３種類の予測ブロックサイズを切り替える場合には、これらの予測ブロックサイズを切り替え可能とするために、４×４サイズと８×８サイズの切り替えに用いるＴＨ4-8 と、８×８サイズと１６×１６サイズの切り替えに用いるＴＨ8-16という２つの閾値（ＴＨ4-8 ＞ＴＨ8-16）を設定する。【００６０】
この２つの閾値を使い、
平坦度合い≧ＴＨ4-8 
という平坦度が低い場合には、予測ブロックサイズを小さくしないと予測精度が落ちるので、予測ブロックサイズを最も小さい４×４サイズに決定し、一方、
ＴＨ4-8 ＞平坦度合い≧ＴＨ8-16
という平坦度が中程度の場合には、予測ブロックサイズを中程度にした方が好ましいので、予測ブロックサイズを８×８サイズに決定し、一方、
ＴＨ8-16＞平坦度合い
という平坦度が高い場合には、予測ブロックサイズを大きくしても予測精度が落ちず、しかも符号量を削減できるので、予測ブロックサイズを最も大きい１６×１６サイズに決定するのである。【００６１】
ここで、平坦度合いとの比較に用いた閾値は、量子化ステップサイズに応じて変動させることもできる。【００６２】
各予測モードは、オーバヘッド情報（予測モード情報、有意係数ブロック情報など）の符号量が異なるため、量子化ステップサイズにより、予測ブロックサイズと平坦度合いとの間の関係が変化する。そのため、量子化ステップサイズによって閾値を変動させることで、符号化効率の低下を軽減できる。【００６３】
本願発明者が実験により得た知見によれば、量子化ステップサイズが小さくなる場合、すなわち、こまかく量子化を行うことになる場合には、小さい予測ブロックサイズが決定されることになる割合（確率）が大きくなるように閾値を設定することで、符号化効率の低下をより軽減できることが判明した。【００６４】
これから、量子化ステップサイズが小さくなる場合には、例えば、閾値ＴＨ4-8 をより小さな値に設定するように処理することになる。このようにすることで、最も小さい４×４の予測ブロックサイズがより選択されやすくなることで、符号化効率の低下を軽減できることになる。【００６５】
ここで、量子化ステップサイズについては、符号化対象領域を量子化する際に用いる値が好ましい。しかし、予測ブロックサイズの決定処理より前に量子化ステップサイズが求められない場合には、直前に符号化した領域の量子化ステップサイズや、画面内で処理済みのブロックの量子化ステップサイズの平均値などを利用することができる。【００６６】
このようにして、本発明によれば、イントラ予測符号化を行うときに、符号化対象領域の平坦度合いを用いて、予測モード判定をせずに、符号化対象領域の予測ブロックサイズを決定することができるようになる。【００６７】
これにより、本発明によれば、イントラ予測符号化を行うときに、判定する予測モード数を制限できるだけでなく、各予測ブロックサイズで必要となる予測モード決定のための仮の復号処理が不要となることで、演算コストを削減できるようになる。
【実施例】
【００６８】
次に、実施例に従って本発明を詳細に説明する。【００６９】
以下に説明する実施例では、イントラ予測符号化方式としてＨ.264を前提とし、イントラ予測符号化に用いるブロックサイズは、１６×１６サイズ，８×８サイズ，４×４サイズの３種類とする。【００７０】
図２に、本発明の一実施例としての、映像符号化装置１を図示する。【００７１】
この図に示すように、本映像符号化装置１は、本発明に従ってイントラ予測符号化を実行するイントラ予測符号化機構２を備えるものである。
このイントラ予測符号化機構２は、本発明に特徴的な処理を行うことで、符号化対象マクロブロックのイントラ予測符号化に用いる予測ブロックサイズを決定する予測ブロックサイズ決定機構３と、予測ブロックサイズ決定機構３の決定した予測ブロックサイズに従って予測ブロックサイズを固定のものとして扱って、符号化対象マクロブロックのイントラ予測符号化に用いる予測モードを選択する予測モード選択機構４と、予測ブロックサイズ決定機構３の決定した予測ブロックサイズと予測モード選択機構４の選択した予測モードとに基づいて、符号化対象マクロブロックをイントラ予測符号化する符号化機構５とを備える。【００７２】
ここで、図中に示す６は、量子化制御機構などに備えられる量子化ステップサイズ算出部であって、符号化対象マクロブロックの量子化ステップサイズを算出して、それをイントラ予測符号化機構２に通知する処理を行うものである。【００７３】
予測ブロックサイズ決定機構３は、符号化対象マクロブロックのイントラ予測符号化に用いる予測ブロックサイズを決定する処理を行うために、マクロブロック分割部３０と、Ｌ１分散算出部３１と、マクロブロック平坦度合い算出部３２と、予測ブロックサイズ決定部３３と、閾値テーブル３４と、ルックアップテーブル３５と、テーブルデータ登録部３６と、閾値設定部３７とを備える。【００７４】
マクロブロック分割部３０は、符号化対象のマクロブロックを８×８サイズの４つの小ブロックに分割する。【００７５】
Ｌ１分散算出部３１は、マクロブロック分割部３０の分割した８×８サイズの小ブロックのそれぞれについて、小ブロックの平坦度を示す値（平坦度合い）として、下記に示す式（３）に従って、輝度信号のＬ１分散 actn を算出する。【００７６】
【数２】
2008044658.tif 000004
【００７７】
ここで、ｓy （ｉ，ｊ）は小ブロックｎ（ｎ＝０〜３）の輝度信号の画素値を示し、＜ｓy ＞は小ブロックｎの輝度信号の平均値を示す。【００７８】
マクロブロック平坦度合い算出部３２は、Ｌ１分散算出部３１の算出した４つのＬ１分散 actn について、その最大値 actmax を算出する。【００７９】
すなわち、
actmax ＝ｍａｘ（ act0 ， act1 ， act2 ， act3 ）
を算出するのである。【００８０】
予測ブロックサイズ決定部３３は、閾値テーブル３４から読み出した２つの閾値ＴＨ4-8,ＴＨ8-16（ＴＨ4-8 ＞ＴＨ8-16）を使い、
actmax
≧ＴＨ4-8 
という関係が成立する場合には、４×４サイズを予測ブロックサイズとして決定し、
ＴＨ4-8 ＞ actmax ≧ＴＨ8-16
という関係が成立する場合には、８×８サイズを予測ブロックサイズとして決定し、
ＴＨ8-16＞ actmax 
という関係が成立する場合には、１６×１６サイズを予測ブロックサイズとして決定する。【００８１】
閾値テーブル３４は、図３に示すように、予測ブロックサイズ決定部３３の使用する２つの閾値ＴＨ4-8,ＴＨ8-16を管理する。【００８２】
ルックアップテーブル３５は、図４に示すように、量子化ステップサイズ範囲に対応付けて、その量子化ステップサイズ範囲のときに使用する閾値ＴＨ4-8,ＴＨ8-16を管理する。【００８３】
テーブルデータ登録部３６は、ルックアップテーブル３５に対して、量子化ステップサイズ範囲と閾値ＴＨ4-8,ＴＨ8-16との対応関係データを登録する。このとき登録する対応関係データでは、量子化ステップサイズが小さくなる場合には、小さい予測ブロックサイズが決定されることになる割合（確率）が大きくなるようにと閾値が設定されることになる。【００８４】
閾値設定部３７は、量子化ステップサイズ算出部６の算出した量子化ステップサンズをキーにしてルックアップテーブル３５を参照することで、その量子化ステップサイズに適合する閾値ＴＨ4-8,ＴＨ8-16を取得して、それを閾値テーブル３４に書き込むことで閾値ＴＨ4-8,ＴＨ8-16を設定する。【００８５】
図５に、このように構成されるイントラ予測符号化機構２の実行するフローチャートの一例を図示する。このフローチャートに従って、このように構成されるイントラ予測符号化機構２の実行する処理について詳細に説明する。【００８６】
イントラ予測符号化機構２は、符号化対象マクロブロックの情報が与えられると、図５のフローチャートに示すように、先ず最初に、ステップＳ１００で、符号化対象マクロブロック（１６×１６サイズ）を８×８サイズの４つの小ブロックに分割する。【００８７】
続いて、ステップＳ１０１で、分割した４つの小ブロックのそれぞれについて、前述した式（３）に従って、輝度信号のＬ１分散 act0,act1, act2, act3を算出する。【００８８】
続いて、ステップＳ１０２で、算出した４つのＬ１分散 act0,act1, act2,
act3の中の最大値 actmax
actmax ＝ｍａｘ（ act0 ， act1 ， act2 ， act3 ）
を算出して、その算出した最大値 actmax
を符号化対象マクロブロックの平坦度を示す平坦度合いとする。【００８９】
続いて、ステップＳ１０３で、予測ブロックサイズの判定に用いる閾値ＴＨ4-8,ＴＨ8-16を設定する。【００９０】
この閾値の設定処理は、具体的には、量子化ステップサイズ算出部６により算出された符号化対象マクロブロックの量子化ステップサイズをキーにしてルックアップテーブル３５を参照することで、その量子化ステップサイズに適合する閾値ＴＨ4-8,ＴＨ8-16を取得して、それを閾値テーブル３４に書き込むことで行う。【００９１】
続いて、ステップＳ１０４で、符号化対象マクロブロックの平坦度合いとして算出したＬ１分散の最大値 actmax と、閾値テーブル３４から読み出した２つの閾値ＴＨ4-8,ＴＨ8-16とを比較することで、符号対象マクロブロックの平坦度を判定する。【００９２】
この判定処理は、具体的には、
actmax
≧ＴＨ4-8 
という関係が成立する場合には、平坦度は低いと判定し、
ＴＨ4-8 ＞ actmax ≧ＴＨ8-16
という関係が成立する場合には、平坦度は中程度と判定し、
ＴＨ8-16＞ actmax 
という関係が成立する場合には、平坦度は高いと判定することで行う。【００９３】
このステップＳ１０４の判定処理に従って、符号対象マクロブロックの平坦度が高いと判定する場合には、ステップＳ１０５に進んで、１６×１６サイズを予測ブロックサイズとして決定し、続くステップＳ１０６で、その決定した予測ブロックにて符号化対象マクロブロックの予測モードを選択する。【００９４】
一方、ステップＳ１０４の判定処理に従って、符号対象マクロブロックの平坦度が中程度と判定する場合には、ステップＳ１０７に進んで、８×８サイズを予測ブロックサイズとして決定し、続くステップＳ１０８で、その決定した予測ブロックにて符号化対象マクロブロックの予測モードを選択する。【００９５】
一方、ステップＳ１０４の判定処理に従って、符号対象マクロブロックの平坦度が低いと判定する場合には、ステップＳ１０９に進んで、４×４サイズを予測ブロックサイズとして決定し、続くステップＳ１１０で、その決定した予測ブロックにて符号化対象マクロブロックの予測モードを選択する。【００９６】
このようにして、ステップＳ１０５〜ステップＳ１１０の処理に従って、符号化対象マクロブロックの予測ブロックサイズおよび予測モードを選択すると、続くステップＳ１１１で、その予測ブロックサイズおよび予測モードで符号化対象マクロブロックをイントラ予測符号化する。【００９７】
このようにして、本発明では、イントラ予測符号化を行うときにあって、予測モードの判定を行う前に、符号化に使用する予測ブロックサイズを決定することができるようになる。【００９８】
以上に説明した実施例では、各予測ブロックサイズにおいて予測モードの制限を行っていないが、利用可能な予測モード数を制限することで、更に演算コストを削減することが可能である。
【産業上の利用可能性】
【００９９】
本発明は、イントラ予測符号化を行うときに適用できるものであり、判定する予測モード数を制限できるだけでなく、各予測ブロックサイズで必要となる予測モード決定のための仮の復号処理が不要となることで、演算コストを削減できるようになる。
【図１】
2008044658.tif 000005
【図２】
2008044658.tif 000006
【図３】
2008044658.tif 000007
【図４】
2008044658.tif 000008
【図５】
2008044658.tif 000009
【図６Ａ】
2008044658.tif 000010
【図６Ｂ】
2008044658.tif 000011
【図７Ａ】
2008044658.tif 000012
【図７Ｂ】
2008044658.tif 000013
【図８Ａ】
2008044658.tif 000014
【図８Ｂ】
2008044658.tif 000015
【図９】
2008044658.tif 000016
【図１０】
2008044658.tif 000017
【図１１】
2008044658.tif 000018
【国際調査報告】
2008044658.tif 000019
2008044658.tif 000020
2008044658.tif 000021
2008044658.tif 000022