(57)【要約】【課題】面内予測符号化において、面内予測モード決定の処理量を削減すること。【解決手段】対象ブロックの入力画像を構成する少なくとも３つの領域の代表値を計算し、１つの方向上に分布する少なくとも２つの前記代表値の誤差和と、前記方向とは異なる少なくとも１つの方向上に分布する少なくとも２つの前記代表値の誤差和を計算し、前記計算された少なくとも２つの誤差の内、前記誤差和が最小となる方向に面内予測する面内予測モードを少なくとも１つ候補とすることにより、上記課題を解決する。【選択図】図４
2009060153.tif 000002
【特許請求の範囲】
【請求項１】
入力画像と面内で生成された面内予測画像との予測誤差を符号化する面内予測符号化において、
対象ブロックの入力画像を構成する少なくとも３つの領域の代表値を計算し、１つの方向上に分布する少なくとも２つの前記代表値の誤差和と、前記方向とは異なる少なくとも１つの方向上に分布する少なくとも２つの前記代表値の誤差和を計算する代表値分布解析ステップと、
前記代表値分布解析ステップで計算された少なくとも２つの誤差の内、前記誤差和が最小となる方向に面内予測する面内予測モードを少なくとも１つ候補とする面内予測モード候補選定ステップと、
前記面内予測モード候補選定ステップで選定された少なくとも１つの面内予測モードから符号化効率の最も良い面内予測モードを１つ選択する面内予測モード決定ステップ、
とを含むことを特徴とする面内予測モード決定方法。
【請求項２】
前記代表値分布解析ステップでは、前記少なくとも２つの方向として、互い直交する２つの方向を採用する、
ことを特徴とする請求項１記載の面内予測モード決定方法。
【請求項３】
前記代表値分布解析ステップでは、前記代表値計算対象の領域を前記対象ブロック中において左上と右上と左下と右下に位置する４つの矩形ブロックとする、
ことを特徴とする請求項２記載の面内予測モード決定方法。
【請求項４】
前記代表値分布解析ステップでは、前記代表値を計算する際に、前記４つの矩形ブロックの上部と左部に位置する画素を用いて計算する、
ことを特徴とする請求項３記載の面内予測モード決定方法。
【請求項５】
前記代表値分布解析ステップでは、前記誤差和を計算する際に、前記面内予測方向の起点に近い領域の代表値との誤差和を計算する、
ことを特徴とする請求項１記載の面内予測モード決定方法。
【請求項６】
前記代表値分布解析ステップでは、前記代表値を平均値とする、
ことを特徴とする請求項１記載の面内予測モード決定方法。
【請求項７】
前記代表値分布解析ステップでは、前記代表値を中央値とする、
ことを特徴とする請求項１記載の面内予測モード決定方法。
【請求項８】
前記代表値分布解析ステップでは、前記代表値を最頻値とする、
ことを特徴とする請求項１記載の面内予測モード決定方法。
【請求項９】
対象ブロックの入力画像を構成する少なくとも３つの領域の代表値を計算し、１つの方向上に分布する少なくとも２つの前記代表値の誤差和と、前記方向とは異なる少なくとも１つの方向上に分布する少なくとも２つの前記代表値の誤差和を計算する代表値分布解析手段と、
前記代表値分布解析手段で計算された少なくとも２つの誤差の内、前記誤差和が最小となる方向に面内予測する面内予測モードを少なくとも１つ候補とする面内予測モード候補選定手段と、
前記面内予測モード候補選定手段で選定された少なくとも１つの面内予測モードから符号化効率の最も良い面内予測モードを１つ選択する面内予測モード決定手段、
とを含むことを特徴とする面内予測モード決定装置。
【請求項１０】
対象ブロックの入力画像を構成する少なくとも３つの領域の代表値を計算し、１つの方向上に分布する少なくとも２つの前記代表値の誤差和と、前記方向とは異なる少なくとも１つの方向上に分布する少なくとも２つの前記代表値の誤差和を計算する代表値分布解析ステップと、
前記代表値分布解析ステップで計算された少なくとも２つの誤差の内、前記誤差和が最小となる方向に面内予測する面内予測モードを少なくとも１つ候補とする面内予測モード候補選定ステップと、
前記面内予測モード候補選定ステップで選定された少なくとも１つの面内予測モードから符号化効率の最も良い面内予測モードを１つ選択する面内予測モード決定ステップ、
とをコンピュータで実行させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、Ｈ．２６４／ＡＶＣの面内予測符号化における面内予測モード決定方法並びに装置に関するものである。
【背景技術】
【０００２】
ＩＴＵ−ＴおよびＩＳＯ／ＩＥＣによって策定された動画像の符号化標準であるＨ．２６４／ＡＶＣは、従来の符号化標準であるＭＰＥＧ−４やＨ．２６３に比べて約２倍の圧縮効率を実現している。本標準は、従来標準と同様、時間相関を利用した面間予測符号化技術に加え、空間相関を利用した面内予測符号化技術を採用している点に特徴を有する。
【０００３】
面内予測符号化とは、入力画像と面内で生成した面内予測画像との予測誤差画像を周波数変換等により、符号化する技術である。面内予測画像は、符号化対象ブロックに隣接する画素を用いて面内予測方向に画素値をコピーすることで生成される。Ｈ．２６４／ＡＶＣでは複数種類の面内予測モードが定められており、選択できる面内予測モードの数は、対象ブロックのサイズにより異なる。具体的には、４×４、８×８の輝度成分で、図５（ａ）に示す９種類、１６×１６の輝度成分で、図５（ｂ）に示す４種類、色差成分も同様に、図５（ｂ）に示す４種類、が用意されている（以下、特に断りが無い限り、８×８の輝度成分について説明する）。尚、図５の矢印に付与されている番号は面内予測モード番号である。
【０００４】
図６（ａ）（ｂ）（ｃ）は、面内予測の具体例である。図６のＡ〜Ｙは対象ブロックに隣接する画素の値である。図６（ａ）に示す通り、垂直方向の面内予測を行う垂直予測モード０では、隣接画素の値を垂直方向にコピーして面内予測画像を生成する。同様に、水平方向の面内予測を行う水平予測モード１では、図６（ｂ）に示す通り、隣接画素の値を水平方向にコピーして面内予測画像を生成する。更に、右下４５度方向の面内予測を行う斜め予測モード３では、図６（ｃ）に示す通り、隣接画素の値を右下４５度方向にコピーして面内予測画像を生成する。
【０００５】
次に、Ｈ．２６４／ＡＶＣの面内予測符号化を実現する符号化装置について説明する。図１は、Ｈ．２６４／ＡＶＣの面内予測符号化を実現する符号化装置のブロック図である。図１において、１０は面内予測部、１１は予測誤差符号化部、１２は予測誤差復号化部、１３はフレームメモリ、１４は可逆符号化部、１０００は差分器、１００１は加算器である。以下、各処理機能に関して順に説明する。
【０００６】
面内予測部１０は、フレームメモリ１３に保存されている復号画像を入力とし、対象ブロックに隣接する画素を用いて面内予測画像を生成する。面内予測画像は、前述の通り、複数種類の面内予測モードから選択された最適な面内予測モードが定める予測方向に隣接画素の値をコピーすることで生成される。面内予測部１０で生成された面内予測画像は、差分器１０００と加算器１００１へ出力される。
【０００７】
予測誤差符号化部１１は、差分器１０００より出力される入力画像と面内予測画像との予測誤差画像を入力とし、当予測誤差画像に離散コサイン変換またはカーネル・レーベ変換等の周波数変換処理と量子化処理を施して、予測誤差信号を生成する。生成された予測誤差信号は、可逆符号化部１４と予測誤差復号化部１２へ出力される。
【０００８】
予測誤差復号化部１２は、予測誤差符号化部１１より出力される予測誤差信号を入力とし、当予測誤差信号列に対して逆量子化・逆周波数変換処理を施し、予測誤差復号画像を生成する。生成された予測誤差復号画像は、加算器１００１へ出力される。
【０００９】
加算器１００１は、面内予測部１０より出力される面内予測画像と予測誤差符号化部１１より出力される予測誤差復号画像を入力とし、両者を加算し、復号画像としてフレームメモリ１３へ出力する。
【００１０】
フレームメモリ１３は、加算器１００１より出力される復号画像を入力とし、当復号画像を保存する。保存されている復号画像は、面内予測画像を作成する際に、面内予測部１０へ出力される。
【００１１】
可逆符号化部１４は、予測誤差符号化部１１より出力される予測誤差信号を入力とし、当予測誤差信号に対して可変長符号化若しくは算術符号化に基づく可逆符号化を施し、符号語を生成する。生成された符号語が、最終的な符号化画像となる。
【００１２】
図１１は、図１に示すＨ．２６４／ＡＶＣの面内予測符号化を実現する符号化装置のフローチャートである。以下の処理フローは、周波数変換サイズのブロック単位に処理が施される。
【００１３】
最初に、面内予測部１０で、入力画像ｏｒｇ＿ｂｌｋと面内予測画像ｐｒｄ＿ｂｌｋ［ｍｏｄｅ］（ｍｏｄｅ＝０，１，．．．，８）との予測誤差を予測評価値ｃｏｓｔとし、最小の予測評価値ｍｉｎ＿ｃｏｓｔを取る面内予測モードｂｅｓｔ＿ｍｏｄｅを１つ選択する（ステップＡ０）。これは、入力画像と面内で生成する面内予測画像との予測誤差が小さいほど、符号化効率が向上するためである。当ステップの詳細な処理フローに関しては、後述する。
【００１４】
次に、面内予測部１０で、ステップＡ０で選択された最適な面内予測モードｂｅｓｔ＿ｍｏｄｅが定める予測方向に隣接画素の値をコピーして面内予測画像ｐｒｄ＿ｂｌｋ［ｂｅｓｔ＿ｍｏｄｅ］を生成する（ステップＡ１）。
【００１５】
そして、差分器１０１で、入力画像ｏｒｇ＿ｂｌｋとステップＡ１で生成された面内予測画像ｐｒｄ＿ｂｌｋ［ｂｅｓｔ＿ｍｏｄｅ］との予測誤差画像ｄｉｆｆ＿ｂｌｋを生成する（ステップＡ２）。
【００１６】
更に、予測誤差符号化部１１で、ステップＡ２で生成された予測誤差画像ｄｉｆｆ＿ｂｌｋに離散コサイン変換またはカーネル・レーベ変換等の周波数変換と量子化を施し、予測誤差信号ｄｉｆｆ＿ｓｉｇｎａｌを生成する（ステップＡ３）。
【００１７】
最後に、可逆符号化部１４で、ステップＡ３で生成された予測誤差信号ｄｉｆｆ＿ｓｉｇｎａｌに対して可変長符号化若しくは算術符号化に基づく可逆符号化を施し、符号語を生成する（ステップＡ４）。
【００１８】
以上が、Ｈ．２６４／ＡＶＣの面内予測符号化の処理フローである。
【００１９】
次に、図１１のステップＡ０の最適な面内予測モードを決定する処理フローに関して説明する。図１２は、面内予測モードの候補選定に係るフローチャートである。以下の処理フローは、図１１と同様、周波数変換サイズのブロック単位に処理が施される。
【００２０】
最初に、面内予測モード候補選定部１０１で、面内予測モードｍｏｄｅ（ｍｏｄｅ＝０，１，．．．，８）の候補を選定する（ステップＢ０）。候補は、候補フラグｆｌａｇ［ｍｏｄｅ］を用いて指定する。候補フラグｆｌａｇ［ｍｏｄｅ］は、１の値を取るとき、面内予測モードｍｏｄｅが候補、０の値を取るとき、候補外であることを示す。本ステップの詳細な処理フローに関しては、後述する。
【００２１】
次に、面内予測モード決定部１０２で、最適な面内予測モードの予測評価値ｍｉｎ＿ｃｏｓｔと最適な面内予測モードｂｅｓｔ＿ｍｏｄｅの初期化を行う（ステップＢ１）。最適な面内予測モードの予測評価値ｍｉｎ＿ｃｏｓｔに関しては、予測評価値が取り得ない大きい値ＭＡＸＣＯＳＴに設定する。また、最適な面内予測モードｂｅｓｔ＿ｍｏｄｅに関しては、面内予測モードＢＥＳＴＭＯＤＥ（任意の面内予測モードｍｏｄｅ（ｍｏｄｅ＝０，１，．．．，８））に設定する。
【００２２】
そして、面内予測モード決定部１０２で、全ての面内予測モードｍｏｄｅ（ｍｏｄｅ＝０，１，．．．，８）に対して（ステップＢ２）、候補フラグｆｌａｇ［ｍｏｄｅ］が０か１かを判定する（ステップＢ３）。面内予測モードｍｏｄｅが１、すなわち、面内予測モードｍｏｄｅが面内予測の候補である場合、面内予測モードｍｏｄｅが定める面内予測方向に隣接画素の値をコピーして面内予測画像ｐｒｄ＿ｂｌｋ［ｍｏｄｅ］を生成する（ステップＢ４）。そして、面内予測モード決定部１０２で、入力画像ｏｒｇ＿ｂｌｋとステップＣ４において生成した面内予測画像ｐｒｄ＿ｂｌｋ［ｍｏｄｅ］を用いて予測評価値ｃｏｓｔを計算する（ステップＢ５）。
【００２３】
最後に、面内予測モード決定部１０２で、ステップＢ５で計算された予測評価値ｃｏｓｔと最適な面内予測モードの予測評価値ｍｉｎ＿ｃｏｓｔの大小関係を比較する（ステップＢ６）。予測評価値ｃｏｓｔの方が小さい場合、面内予測モード決定部３０２で、最適な面内予測モードの予測評価値ｍｉｎ＿ｃｏｓｔを予測評価値ｃｏｓｔに、最適な面内予測モードｂｅｓｔ＿ｍｏｄｅを面内予測モードｍｏｄｅに置き換える（ステップＢ７）。
【００２４】
以上の処理を全ての面内予測モードｍｏｄｅ（ｍｏｄｅ＝０，１，．．．，８）について実施することで、最小の予測評価値を取る最適な面内予測モードｂｅｓｔ＿ｍｏｄｅが決まる。
【００２５】
しかしながら、上述した従来の面内予測符号化方法では、最適な面内予測モードを決定するにあたり、全ての面内予測モードに対して、逐一、面内予測画像を生成し、入力画像と面内予測画像との予測評価値を計算する必要がある。そこで、非特許文献１のように入力画像のエッジ特性に基づいて面内予測モードの候補を選定する方法や、非特許文献２のように入力画像の周波数特性に基づいて面内予測モードの候補を選定する方法が提案されている。
【００２６】
最初に、エッジ特性に基づく方法を説明する。エッジ特性に基づく方法は、最適な面内予測モードの予測方向は、エッジ方向にほぼ一致するという考えに基づく方法である。
【００２７】
図２に、エッジ特性に基づく面内予測モードの候補選定を実現する面内予測部１０のブロック図を示す。図２において、１００はエッジ特性解析部、１０１は面内予測モード候補選定部、１０２は面内予測モード決定部、である。以下、各処理機能に関して順に説明する。
【００２８】
エッジ特性解析部１００は、入力画像を入力とし、当入力画像の各画素に対して、エッジ検出フィルタであるＳＯＢＥＬフィルタを適用し、図７に示す通り、エッジ方向を面内予測方向別に分類し、ヒストグラムを作成する。そして、エッジ特性解析部１００は、当ヒストグラムをエッジ特性情報として、面内予測モード候補選定部１０１に出力する。
【００２９】
面内予測モード候補選定部１０１は、エッジ特性解析部１００より出力されるエッジ特性情報から、最頻の面内予測方向とその近傍方向に面内予測する面内予測モードを候補として選定する。そして、面内予測モード候補選定部１０１は、当面内予測モードの候補を、面内予測モード候補情報として、面内予測モード決定部１０２へ出力する。
【００３０】
面内予測モード決定部１０２は、面内予測モード候補選定部１０１より出力される面内予測モード候補情報を入力とし、面内予測モードの候補から１つ面内予測モードを選択し、当面内予測モードに対応する面内予測画像を出力する。
【００３１】
以上が、エッジ特性に基づく面内予測モードの候補選定を実現する面内予測部１０のブロック図の説明である。
【００３２】
次に、エッジ特性に基づく面内予測モードの候補選定に係る処理フローに関して説明する。図１３は、エッジ特性に基づく面内予測モードの候補選定に係るフローチャートである。以下の処理フローは、周波数変換サイズのブロック単位に実施される。
【００３３】
最初に、面内予測モード候補選定部１０１で、面内予測モードｍｏｄｅ（ｍｏｄｅ＝０，１，．．．，８）の候補フラグｆｌａｇ［ｍｏｄｅ］を０に初期化する。
【００３４】
次に、エッジ特性解析部１００で、入力画像ｏｒｇ＿ｂｌｋのブロック内の各画素に対して（ステップＣ０）、ＳＯＢＥＬフィルタを施し（ステップＣ１）、各画素のエッジ方向を面内予測方向別に分類し、個々の方向別に頻度をカウントする（ステップＣ２）。
【００３５】
そして、最後に、最頻の面内予測方向とその近傍方向に面内予測する面内予測モードｍｏｄｅ＿ｅｄｇｅの候補フラグｆｌａｇ［ｍｏｄｅ＿ｅｄｇｅ］を１にする（ステップＣ３）。
【００３６】
以上が、エッジ特性に基づく面内予測モードの候補選定に係るフローチャートである。
【００３７】
次に、周波数特性に基づく方法を説明する。
【００３８】
図３に、周波数特性に基づく面内予測モードの候補選定を実現する面内予測部１０のブロック図を示す。図３において、２００は周波数特性解析部、２０１は面内予測モード候補選定部、２０２は面内予測モード決定部、である。以下、各処理機能に関して順に説明する。
【００３９】
周波数特性解析部２００は、入力画像を入力とし、当入力画像に対して、離散コサイン変換またはカーネル・レーベ変換等の周波数変換を適用し、水平方向の周波数成分、垂直方向の周波数成分、水平方向のエネルギー強度、垂直方向のエネルギー強度、の４変数を計算する。そして、周波数特性解析部２００は、当４変数を周波数特性情報として、面内予測モード候補選定部２０１に出力する。
【００４０】
面内予測モード候補選定部２０１は、周波数特性解析部２００より出力される周波数特性情報を入力とし、水平・垂直方向の周波数成分とエネルギーの偏りから、図８に示す分布パターンに分類し、当分布パターンから面内予測モードの候補を選定する。そして、面内予測モード候補選定部２０１は、当面内予測モードの候補を面内予測モード候補情報として、面内予測モード決定部２０２へ出力する。
【００４１】
面内予測モード決定部２０２は、面内予測モード決定部１０２と同様、面内予測モード候補選定部２０１より出力される面内予測モード候補情報を入力とし、面内予測モードの候補から１つ面内予測モードを選択し、当面内予測モードに対応する面内予測画像を出力する。
【００４２】
以上が、周波数特性に基づく面内予測モードの候補選定を実現する面内予測部１０のブロック図の説明である。
【００４３】
次に、周波数特性に基づく面内予測モードの候補選定に係る処理フローに関して説明する。図１４は、周波数特性に基づく面内予測モードの候補選定に係るフローチャートである。以下の処理フローは、周波数変換サイズのブロック単位に実施される。
【００４４】
最初に、面内予測モード候補選定部３０１で、面内予測モードｍｏｄｅ（ｍｏｄｅ＝０，１，．．．，８）の候補フラグｆｌａｇ［ｍｏｄｅ］を０に初期化する。
【００４５】
次に、周波数特性解析部２００で、入力画像ｏｒｇ＿ｂｌｋに対して、離散コサイン変換またはカーネル・レーベ変換等の周波数変換を施し（ステップＤ０）、水平・垂直方向の周波数成分ＣＨ、ＣＶ（ステップＤ１）と、水平・垂直方向のエネルギーＥＨ、ＥＶ（ステップＤ２）を計算する。
【００４６】
そして、最後に、面内予測モード候補選定部２０１で、水平・垂直方向の周波数成分ＣＨ、ＣＶとエネルギーＥＨ，ＥＶから、図８に示す分布パターンに分類し、対応する面内予測モードｍｏｄｅ＿ｆｒｅｑの候補フラグｆｌａｇ［ｍｏｄｅ＿ｆｒｅｑ］を１にする（ステップＤ３）。
【００４７】
以上が、周波数特性に基づく面内予測モードの候補選定に係るフローチャートである。
【非特許文献１】Ｆｅｎｇ  Ｐ．  ｅｔ  ａｌ，”Ｆａｓｔ  Ｍｏｄｅ  Ｄｅｃｉｓｉｏｎ  ｆｏｒ  Ｉｎｔｒａ  Ｐｒｅｄｉｃｔｉｏｎ”，ＪＶＴ−Ｇ０１３，Ｍａｒ，２００３．
【非特許文献２】筑波，永吉，花村，富永，”周波数特性に基づくＨ．２６４／ＡＶＣイントラ予測モード決定方法に関する検討”，２００４―ＡＶＭ―４７．
【発明の開示】
【発明が解決しようとする課題】
【００４８】
しかしながら、上記の２つの方法は、入力画像に対して、エッジ検出フィルタの適用や、離散コサイン変換またはカーネル・レーベ変換等の周波数変換を必要とするため、処理量が大きくなるという課題がある。
【００４９】
本発明では、上記課題を鑑みてなされたものであり、符号化効率をある程度維持しつつ、処理量を大幅に削減できる面内予測モード決定装置、面内予測モード決定方法、及び、プログラムを提供することを目的とする。
【課題を解決するための手段】
【００５０】
前記した目的を達成するために、本発明では、入力画像と面内で生成された面内予測画像との予測誤差を符号化する面内予測符号化において、対象ブロックの入力画像を構成する少なくとも３つの領域の代表値を計算し、１つの方向上に分布する少なくとも２つの前記代表値の誤差和と、前記方向とは異なる少なくとも１つの方向上に分布する少なくとも２つの前記代表値の誤差和を計算する代表値分布解析ステップと、前記代表値分布解析ステップで計算された少なくとも２つの誤差の内、前記誤差和が最小となる方向に面内予測する面内予測モードを少なくとも１つ候補とする面内予測モード候補選定ステップと、前記面内予測モード候補選定ステップで選定された少なくとも１つの面内予測モードから符号化効率の最も良い面内予測モードを１つ選択する面内予測モード決定ステップ、とを具備した点に特徴がある。
【００５１】
これにより、面内予測画像を実際に生成する回数が減るため、面内予測モード決定に係る処理量の削減が可能となる。
【００５２】
また、前記代表値分布解析ステップでは、前記少なくとも２つの方向として、互い直交する２つの方向を採用する、点に特徴がある。
【００５３】
これにより、２つの方向が面内で最も離れるため、面内予測方向の候補選定に係る分離能に優れる。
【００５４】
また、前記代表値分布解析ステップでは、前記代表値計算対象の領域を前記対象ブロック中において左上と右上と左下と右下に位置する４つの矩形ブロックとする、点に特徴がある。
【００５５】
これにより、面内予測頻度の高い垂直・水平方向とその中間の斜め４５度方向の差分和を計算することができるため、面内予測方向の候補選定に係る分離能に優れる。
【００５６】
また、前記代表値分布解析ステップでは、前記代表値を計算する際に、前記４つの矩形ブロックの上部と左部に位置する画素を用いて計算する、点に特徴がある。
【００５７】
これにより、実際に面内予測画像を生成する際に用いる隣接画素に近い画素を用いているため、選定精度が向上する。
【００５８】
また、前記代表値分布解析ステップでは、前記誤差和を計算する際に、前記面内予測方向の起点に近い領域の代表値との誤差和を計算する、点に特徴がある。
【００５９】
これにより、実際に面内予測画像を生成する際に用いる隣接画素に近い画素を用いているため、選定精度が向上する。
【発明の効果】
【００６０】
本発明によれば、低処理量で面内予測モードの絞込みが可能であるので、消費電力の削減に貢献できる。
【発明を実施するための最良の形態】
【００６１】
（実施の形態１）
以下に、図面を参照して、本発明の実施の形態１を詳細に説明する。図４に、本発明の実施の形態１に係る面内予測部１０のブロック図を示す。図４において、３００は輝度平均値代表値分布解析部、３０１は面内予測モード候補選定部、３０２は面内予測モード決定部、である。以下、各処理機能に関して順に説明する。
【００６２】
輝度平均値分布解析部３００は、入力画像を入力とし、図１２（ａ）に示す通り、当入力画像の対象ブロックを構成する４つのサブブロックｉ（ｉ＝０，１，２，３）の輝度平均値ａｖｇ［ｉ］を計算する。輝度平均値ｘ［ｉ］は、（数１）で与えられる。
【００６３】
【数１】
2009060153.tif 000003
【００６４】
ここで、ｊは画素座標、ｎはサブブロックｉ内の画素数を示す。図１２（ａ）の例では、周波数変換サイズが８×８サイズ単位であるため、サブブロックｉ（ｉ＝０，１，２，３）のサイズは４×４、つまり、画素数ｎは１６となる。そして、輝度平均値分布解析部３００は、右下方向上に分布する２つのサブブロックｉ（ｉ＝０，３）の輝度平均値の差分絶対値ｄｅｌｔａ＿ａと左下方向上に分布する２つのサブブロックｉ（ｉ＝１，２）の輝度平均値の差分絶対値ｄｅｌｔａ＿ｂを計算する。すなわち、
【００６５】
【数２】
2009060153.tif 000004
【００６６】
【数３】
2009060153.tif 000005
【００６７】
を計算する。そして、輝度平均値分布解析部３００は、差分絶対値ｄｅｌｔａ＿ａとｄｅｌｔａ＿ｂを輝度平均値分布特性情報として、面内予測モード候補選定部２０１へ出力する。
【００６８】
面内予測モード候補選定部３０１は、輝度平均値分布解析部３００より出力される輝度平均値分布特性情報を入力とし、２つの差分絶対値ｄｅｌｔａ＿ａとｄｅｌｔａ＿ｂの大小関係から面内予測モードの候補を選定する。具体的には、差分絶対値ｄｅｌｔａ＿ａが差分絶対値ｄｅｌｔａ＿ｂより小さい場合は、右下方向に面内予測を行う面内予測モードｍｏｄｅ（ｍｏｄｅ＝４，５，６）を候補に入れ、逆に、差分絶対値ｄｅｌｔａ＿ｂが差分絶対値ｄｅｌｔａ＿ａより小さい場合は、左下方向に面内予測を行う面内予測モードｍｏｄｅ（ｍｏｄｅ＝３，７，８）を候補に入れる。そして、面内予測モード候補選定部３０１は、候補として選定した面内予測モードを面内予測モード候補情報として、面内予測モード決定部２０２へ出力する。
【００６９】
面内予測モード決定部３０２は、面内予測モード決定部１０２と２０２と同様、面内予測モード候補選定部３０１より出力される面内予測モード候補情報を入力とし、面内予測モードの候補から１つ面内予測モードを選択し、当面内予測モードに対応する面内予測画像を出力する。
【００７０】
次に、本発明の面内予測モードの候補決定に係る処理フローを説明する。図１５は、本発明の面内予測モードの候補決定に係るフローチャートである。以下の処理フローは、周波数変換サイズのブロック単位に実施される。
【００７１】
最初に、面内予測モード候補選定部３０１で、面内予測頻度の高い垂直・水平・ＤＣ予測モードを候補に入れる（ステップＥ０）。これは、一般的な画像に、垂直・水平方向のテクスチャが多く含まれているためである。候補の指定方法は、前述の通り、候補フラグｆｌａｇ［ｍｏｄｅ］（ｍｏｄｅ＝０，１，．．．，８）を用いて指定する。本ステップの場合、候補フラグｆｌａｇ［ｍｏｄｅ］（ｍｏｄｅ＝０，１，２）を１とし、候補フラグｆｌａｇ［ｍｏｄｅ］（ｍｏｄｅ＝３，４，．．．，８）を０にする。
【００７２】
次に、輝度平均値分布解析部３００で、図１０（ａ）に示す通り、対象ブロックを構成する４つのサブブロックｉ（ｉ＝０，１，２，３）の輝度平均値ａｖｇ［ｉ］を計算する（ステップＥ１）。輝度平均値ａｖｇ［ｉ］は、前述の通り、（数１）で与えられる。
【００７３】
そして、次のステップでは、輝度平均値分布解析部３００で、右下方向と左下方向上に分布するサブブロックｉ（ｉ＝０，１，２，３）の輝度平均値ａｖｇ［ｉ］の差分絶対値ｄｅｌｔａを計算する。
【００７４】
右下方向の差分絶対値ｄｅｌｔａ＿ａは、図１０（ａ）に示す対象ブロックの左上と右下に位置するサブブロックｉ（ｉ＝０，３）の輝度平均値ａｖｇ［ｉ］を用いて、（数２）の通り、計算される。同様にして、左下方向の差分絶対値ｄｅｌｔａ＿ｂは、対象ブロックの右上と左下に位置するサブブロックｉ（ｉ＝１，２）の輝度平均値ａｖｇ［ｉ］を用いて、３式の通り、計算される（ステップＥ２）。
【００７５】
そして、面内予測モード候補選定部３０１で、２つの差分絶対値ｄｅｌｔａ＿ａとｄｅｌｔａ＿ｂの大小関係を比較する（ステップＥ３）。差分絶対値ｄｅｌｔａ＿ａが差分絶対値ｄｅｌｔａ＿ｂより小さい場合は、右下方向の面内予測を行う面内予測モードｍｏｄｅ（ｍｏｄｅ＝４，５，６）を候補に入れる。すなわち、候補フラグｆｌａｇ［ｍｏｄｅ］（ｍｏｄｅ＝４，５，６）を１とする（ステップＥ４）。逆に、差分絶対値ｄｅｌｔａ＿ｂが差分絶対値ｄｅｌｔａ＿ａより小さい場合は、左下方向の面内予測を行う面内予測モードｍｏｄｅ（ｍｏｄｅ＝３，７，８）を候補に入れる。すなわち、候補フラグｆｌａｇ［ｍｏｄｅ］（ｍｏｄｅ＝３，７，８）を１とする（ステップＥ５）。
【００７６】
以上の本発明の第一の実施形態によれば、低処理量で斜め方向の面内予測モードの候補選別が可能であるため、面内予測全体の処理量を削減できる。
【００７７】
（実施の形態２）
本発明の実施の形態１では、面内予測モードの候補選定に、（数１）の計算を必要としたが、本発明の実施の形態２では、平坦部を細かく量子化し、複雑部を粗く量子化する、量子化変調方法の中間データを活用する。当量子化変調方法は、主観品質向上方法の１つであり、人間の目は平坦部対して敏感で、逆に、複雑部に対しては鈍いことを利用し、平坦部の画質を相対的に向上させるものである。
【００７８】
本発明の実施の形態２で扱う量子化変調方法では、入力画像の輝度分散値ｖａｒに基づいて平坦部と複雑部に分類する。このとき、輝度分散値ｖａｒの計算で必要となる輝度平均値ａｖｇを、サブブロックｉ（ｉ＝０，１，２，３）の輝度平均値ａｖｇ［ｉ］から計算する。すななち、
【００７９】
【数４】
2009060153.tif 000006
【００８０】
【数５】
2009060153.tif 000007
【００８１】
となる。ここで、ｏｒｇ＿ｂｌｋは入力画像の輝度成分の画素値、ｊは画素座標、ｎは直交変換サイズのブロック内の画素数を示す。
【００８２】
以上の本発明の実施の形態２によれば、量子化変調方法を適用する場合、（数１）の処理を共有化できる。
【００８３】
（実施の形態３）
本発明の実施の形態３では、実施の形態１や実施の形態２と異なり、４つのサブブロックｉ（ｉ＝０，１，２，３）の輝度平均値ａｖｇ［ｉ］の計算にあたり、サブブロックｉ内の全画素を用いて計算せずに、図１９（ａ）（ｂ）に示す通り、画素を間引いて計算しても良い。特に、図１９（ｂ）に示す通り、サブブロックの上部と左部の画素を用いて輝度平均値ａｖｇ［ｉ］（ｉ＝０，１，２，３）を計算すると、全画素を用いる場合よりも候補選定精度の若干向上する画像もある。
【００８４】
尚、上記説明では、サブブロックｉ（ｉ＝０，１，２，３）の輝度平均値ａｖｇ［ｉ］を計算したが、特に輝度平均値に限定するものではなく、中央値、最頻値、等の代表値で良い。更に、正方形に限定するものではなく、例えば、長方形、等でも良い。
【００８５】
また、上記説明では、４つのサブブロックｉ（ｉ＝０，１，２，３）の輝度平均値ａｖｇ［ｉ］を計算したが、少なくとも２つの方向の差分絶対値ｄｅｌｔａが計算できれば良く、サブブロックは少なくとも３つあれば良い。更に、１つの方向上に分布するサブブロックは２つであったが、少なくとも２つで良く、１つの方向上にサブブロックが少なくとも３つ分布する場合、面内予測方向の起点に近い領域の代表値との誤差和を計算する。すなわち、誤差和をｄｅｌｔａとすると、
【００８６】
【数６】
2009060153.tif 000008
【００８７】
で与えられる。ここで、ａｖｇ［ｉ］（ｉ＝０，１，．．．，ｎ−１）は、面内予測方向の起点に近い領域からｉ番目の輝度平均値、ｎは１つの方向上に分布するサブブロックの数である。
【産業上の利用可能性】
【００８８】
本発明に係る面内予測符号化方法および面内予測符号化装置は、ソフトウェアによる処理量の削減が可能であり、例えば、携帯電話、ハードディスクレコーダ、及び、パーソナルコンピュータ等で、動画像を符号化する際に、有用である。
【図面の簡単な説明】
【００８９】
【図１】面内予測符号化を実現する符号化装置のブロック図
【図２】エッジ特性に基づく面内予測部のブロック図
【図３】周波数特性に基づく面内予測部のブロック図
【図４】代表値分布特性に基づく面内予測部のブロック図
【図５】Ｈ．２６４／ＡＶＣの面内予測モードを示す図
【図６】Ｈ．２６４／ＡＶＣの面内予測の一例を示す図
【図７】エッジ方向に関する頻度分布を示すグラフ
【図８】周波数特性と面内予測モードの候補の関係を示す図
【図９】サブブロックと候補選定に用いる方向の関係を示す図
【図１０】代表値計算に用いるサブブロック内の画素を示す図
【図１１】面内予測符号化処理のフローチャート
【図１２】面内予測処理のフローチャート
【図１３】エッジ特性に基づく候補選定処理のフローチャート
【図１４】周波数特性に基づく候補選定処理のフローチャート
【図１５】代表値分布特性に基づく候補選定処理のフローチャート
【符号の説明】
【００９０】
１０    面内予測部
１１    予測誤差符号化部
１２    予測誤差復号化部
１３    フレームメモリ
１４    可逆符号化部
１００    エッジ特性解析部
１０１    面内予測モード候補選定部
１０２    面内予測モード決定部
２００    周波数特性解析部
２０１    面内予測モード候補選定部
２０２    面内予測モード決定部
３００    輝度平均値分布解析部
３０１    面内予測モード候補選定部
３０２    面内予測モード決定部
１０００    減算器
１００１    加算器
Ａ〜Ｙ    隣接画素の値
【図１】
2009060153.tif 000009
【図２】
2009060153.tif 000010
【図３】
2009060153.tif 000011
【図４】
2009060153.tif 000012
【図５】
2009060153.tif 000013
【図６】
2009060153.tif 000014
【図７】
2009060153.tif 000015
【図８】
2009060153.tif 000016
【図９】
2009060153.tif 000017
【図１０】
2009060153.tif 000018
【図１１】
2009060153.tif 000019
【図１２】
2009060153.tif 000020
【図１３】
2009060153.tif 000021
【図１４】
2009060153.tif 000022
【図１５】
2009060153.tif 000023