(57)【要約】【課題】本発明は、画面内予測を用いて画像を符号化するときに、より圧縮効率の高い画面内予測符号化を実現する新たな技術の提供を目的とする。【解決手段】予測画素の座標と任意の角度に設定される予測角度とに基づいて、予測画素の予測信号の生成に用いる予測直線を生成して、その生成した予測直線と参照画素により生成される線分との交点座標を算出し、その算出した交点座標とその交点座標に位置する参照画素の中心座標との間の距離を算出して、その算出した距離と参照画素間距離との比率値を算出し、その算出した比率値と交点座標に位置する参照画素を含む複数の参照画素の値とに基づいて、予測画素の予測信号を生成する。この構成に従って、予測角度を任意の角度に設定することが可能になることで予測モード数を増加させることが可能になり、これにより、より圧縮効率の高い画面内予測符号化を実現できるようになる。【選択図】図１
2009284275.tif 000002
【特許請求の範囲】
【請求項１】
画面内予測を用いて画像を符号化する画像符号化装置が実行する画像符号化方法であって、
予測画素の座標と任意の角度に設定される予測角度とに基づいて、予測画素の予測信号の生成に用いる予測直線を生成する過程と、
前記予測直線と参照画素により生成される線分との交点座標を算出する過程と、
前記交点座標と前記交点座標に位置する参照画素の中心座標との間の距離を算出して、その算出した距離と参照画素間距離との比率値を算出する過程と、
前記比率値と前記交点座標に位置する参照画素を含む一部又は全ての参照画素の値とに基づいて、予測画素の予測信号を生成する過程とを備えることを、
特徴とする画像符号化方法。
【請求項２】
請求項１に記載の画像符号化方法において、
前記生成した予測画素の予測信号に基づいて符号化コストを算出して、その符号化コストが最小となる予測角度を特定することで、任意の角度に設定される複数の予測角度の中から画面内予測に用いる予測角度を選択する過程を備えることを、
特徴とする画像符号化方法。
【請求項３】
請求項２に記載の画像符号化方法において、
予測角度に対応付けて予測モード番号を定義して、前記選択した予測角度に対応付けられる予測モード番号を符号化する過程を備えることを、
特徴とする画像符号化方法。
【請求項４】
画面内予測を用いて符号化された画像の符号化データを復号する画像復号装置が実行する画像復号方法であって、
任意の角度に設定される複数の予測角度の中から選択された画像符号化側が画面内予測に用いた予測角度についての符号化データを復号する過程と、
予測画素の座標と前記復号した予測角度とに基づいて、画像符号化側が予測画素の予測信号の生成に用いた予測直線を生成する過程と、
前記予測直線と参照画素により生成される線分との交点座標を算出する過程と、
前記交点座標と前記交点座標に位置する参照画素の中心座標との間の距離を算出して、その算出した距離と参照画素間距離との比率値を算出する過程と、
前記比率値と前記交点座標に位置する参照画素を含む一部又は全ての参照画素の値とに基づいて、画像符号化側が生成した予測画素の予測信号を復元する過程と、
画像符号化側が符号化した予測残差信号の符号化データを復号して、その復号した予測残差信号と前記復元した予測信号とに基づいて復号画像信号を生成する過程とを備えることを、
特徴とする画像復号方法。
【請求項５】
画面内予測を用いて画像を符号化する画像符号化装置であって、
予測画素の座標と任意の角度に設定される予測角度とに基づいて、予測画素の予測信号の生成に用いる予測直線を生成する手段と、
前記予測直線と参照画素により生成される線分との交点座標を算出する手段と、
前記交点座標と前記交点座標に位置する参照画素の中心座標との間の距離を算出して、その算出した距離と参照画素間距離との比率値を算出する手段と、
前記比率値と前記交点座標に位置する参照画素を含む一部又は全ての参照画素の値とに基づいて、予測画素の予測信号を生成する手段とを備えることを、
特徴とする画像符号化装置。
【請求項６】
画面内予測を用いて符号化された画像の符号化データを復号する画像復号装置であって、
任意の角度に設定される複数の予測角度の中から選択された画像符号化側が画面内予測に用いた予測角度についての符号化データを復号する手段と、
予測画素の座標と前記復号した予測角度とに基づいて、画像符号化側が予測画素の予測信号の生成に用いた予測直線を生成する手段と、
前記予測直線と参照画素により生成される線分との交点座標を算出する手段と、
前記交点座標と前記交点座標に位置する参照画素の中心座標との間の距離を算出して、その算出した距離と参照画素間距離との比率値を算出する手段と、
前記比率値と前記交点座標に位置する参照画素を含む一部又は全ての参照画素の値とに基づいて、画像符号化側が生成した予測画素の予測信号を復元する手段と、
画像符号化側が符号化した予測残差信号の符号化データを復号して、その復号した予測残差信号と前記復元した予測信号とに基づいて復号画像信号を生成する手段とを備えることを、
特徴とする画像復号装置。
【請求項７】
請求項１ないし３のいずれか１項に記載の画像符号化方法をコンピュータに実行させるための画像符号化プログラム。
【請求項８】
請求項１ないし３のいずれか１項に記載の画像符号化方法をコンピュータに実行させるための画像符号化プログラムを記録したコンピュータ読み取り可能な記録媒体。
【請求項９】
請求項４に記載の画像復号方法をコンピュータを実行させるための画像復号プログラム。
【請求項１０】
請求項４に記載の画像復号方法をコンピュータに実行させるための画像復号プログラムを記録したコンピュータ読み取り可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画面内予測を用いて画像を符号化する画像符号化方法およびその装置と、その画像符号化技術により符号化された符号化データを復号する画像復号方法およびその装置と、その画像符号化方法の実現に用いられる画像符号化プログラムおよびそのプログラムを記録したコンピュータ読み取り可能な記録媒体と、その画像復号方法の実現に用いられる画像復号プログラムおよびそのプログラムを記録したコンピュータ読み取り可能な記録媒体とに関する。
【０００２】
同一の画面内で画像信号の予測を実行する画面内予測符号化は、異なる画面間で画像信号の予測を実行する画面間予測符号化と比較して大きな圧縮効率を達成できない。そのため、より圧縮効率の高い画面内予測符号化方式が望まれている。
【背景技術】
【０００３】
画面内予測は映像符号化国際標準Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣ（例えば、非特許文献１参照）から取り入れられている手法であり、隣接画素間の相関を利用してエッジ部分に発生しやすい高周波成分を除去することが出来る。
【０００４】
画面内予測はいくつかの画素をまとめたブロック単位で行われ、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣ  ＦＲＥｘｔ（例えば、非特許文献２参照）では、輝度信号に対して、１６×１６のマクロブロック内を４×４、８×８、１６×１６の３種類のブロックサイズに分割して予測を行う。
【０００５】
これら輝度信号に対して、４×４、８×８のブロックに対しては９種類の予測モードが適用可能で、１６×１６のブロックに対しては４種類の予測モードが適用可能であり、ラグランジュコストの計算により最も符号化効率の高い予測モードとブロックサイズとが決定される。
【０００６】
４×４、８×８のブロックでは、１種類のＤＣ成分を参照することで予測信号を生成することに加えて、４５°〜２０６．５７°の予測角度範囲を８種類に不等角度で分割したときに生じる直線と交叉する復号済みの各画素値・画素間中心値を参照することで予測信号の生成を実現している。
【０００７】
図１５に、輝度信号の符号化に使用される４×４ブロックに適用可能な９種類の予測モード０〜８とその予測角度を示す。
【０００８】
ここで、予測モード０〜２では、図１６（ａ）に定義する符号化対象ブロックの上に位置するブロックの持つ画素Ａ，Ｂ，Ｃ，Ｄの値と、図１６（ａ）に定義する符号化対象ブロックの左に位置するブロックの持つ画素Ｉ，Ｊ，Ｋ，Ｌの値を使って、符号化対象ブロックの持つ画素ａ〜ｐの値を予測する。
【０００９】
また、予測モード３〜８では、これらの画素Ａ，Ｂ，Ｃ，Ｄ，Ｉ，Ｊ，Ｋ，Ｌの値と、図１６（ａ）に定義する符号化対象ブロックの左上に位置するブロックの持つ画素Ｘの値と、図１６（ａ）に定義する符号化対象ブロックの右上に位置するブロックの持つ画素Ｅ，Ｆ，Ｇ，Ｈの値とに基づいて、図１６（ｂ）に示すように、それらの画素Ｘ，Ａ〜Ｌの値に対応付けられる値Ｘ’，Ａ’〜Ｌ’を算出するとともに、図１６（ａ）に定義する符号化対象ブロックの左下に位置するブロックの持つ画素Ｍの値に対応付けられる値Ｍ’を算出し、さらに、画素間中心に対応付けられる値Ａ''〜Ｆ''，Ｉ''〜Ｌ''を算出して、それらの値Ｘ’，Ａ’〜Ｍ’，Ａ''〜Ｆ''，Ｉ''〜Ｌ''を使って符号化対象ブロックの持つ画素ａ〜ｐの値を予測する。
【００１０】
すなわち、図１５に示すように、予測モード０では、画素Ａ，Ｂ，Ｃ，Ｄの値を予測角度９０°の方向（垂直方向）にコピーすることで符号化対象ブロックの持つ画素ａ〜ｐの値を予測し、予測モード１では、画素Ｉ，Ｊ，Ｋ，Ｌの値を予測角度１８０°の方向（水平方向）にコピーすることで符号化対象ブロックの持つ画素ａ〜ｐの値を予測し、予測モード２では、（Ａ＋Ｂ＋Ｃ＋Ｄ＋Ｉ＋Ｊ＋Ｋ＋Ｌ＋４）／８の値に従って符号化対象ブロックの持つ画素ａ〜ｐの値を予測する。
【００１１】
そして、予測モード３では、画素値に対応付ける形で算出した該当の値を予測角度４５°の方向にコピーすることで符号化対象ブロックの持つ画素ａ〜ｐの値を予測し、予測モード４では、画素値に対応付ける形で算出した該当の値を予測角度１３５°の方向にコピーすることで符号化対象ブロックの持つ画素ａ〜ｐの値を予測する。
【００１２】
そして、予測モード５では、画素値に対応付ける形で算出した該当の値と画素間中心に対応付ける形で算出した該当の値とを予測角度１１６．５７°の方向にコピーすることで符号化対象ブロックの持つ画素ａ〜ｐの値を予測し、予測モード６では、画素値に対応付ける形で算出した該当の値と画素間中心に対応付ける形で算出した該当の値とを予測角度１５３．４３°の方向にコピーすることで符号化対象ブロックの持つ画素ａ〜ｐの値を予測し、予測モード７では、画素値に対応付ける形で算出した該当の値と画素間中心に対応付ける形で算出した該当の値とを予測角度６３．４３°の方向にコピーすることで符号化対象ブロックの持つ画素ａ〜ｐの値を予測し、予測モード８では、画素値に対応付ける形で算出した該当の値と画素間中心に対応付ける形で算出した該当の値とを予測角度２０６．５７°の方向にコピーすることで符号化対象ブロックの持つ画素ａ〜ｐの値を予測する。
【００１３】
このようにして、従来技術では、画面内予測符号化を実行する場合に、４×４、８×８のブロックでは、１種類のＤＣ成分を参照することで予測信号を生成することに加えて、４５°〜２０６．５７°の予測角度範囲を８種類に不等角度で分割したときに生じる直線と交叉する復号済みの各画素値・画素間中心値を参照することで予測信号の生成を実現している。
【非特許文献１】ITU-T Rec. H.264｜ISO/IEC 14496-10 version１ (2003)
【非特許文献２】ITU-T Rec. H.264｜ISO/IEC 14496-10 version４ (2005)
【発明の開示】
【発明が解決しようとする課題】
【００１４】
このように、従来の画面内予測手法では、４×４、８×８ブロックにおいて、予測方向が８種類しか存在しない。すなわち、従来の画面内予測手法では、画素値および画素間中心値をコピーすることに合わせて、予測角度＝９０°，１８０°，４５°，１３５°，１１６．５７°，１５３．４３°，６３．４３°，２０６．５７°という８種類の予測方向しか存在しない。
【００１５】
これから、例えば、図１７に示すように、符号化対象ブロックが予測モード４（予測角度＝１３５°）と予測モード５（予測角度＝１１６．５７°）との中間の角度１２５．７８°に強い相関があるような場合には、従来手法の画面内予測手法に従っていると予測残差信号は大きくなってしまうという問題がある。
【００１６】
すなわち、符号化対象ブロックが図１７に示すような画素値を持つ場合に、予測モード４を用いる場合には、図１８（ａ）に示すような予測残差信号となり、予測モード５を用いる場合には、図１８（ｂ）に示すような予測残差信号となって、予測残差信号が大きくなってしまうのである。
【００１７】
このように、従来の画面内予測手法に従っていると、予測残差信号が大きくなってしまうことがあり、そのため予測残差信号表現のためにＤＣＴ係数が増加し、符号量が増加することがあるという問題がある。
【００１８】
本発明はかかる事情に鑑みてなされたものであって、画面内予測を用いて画像を符号化するときに、より圧縮効率の高い画面内予測符号化を実現する新たな画像符号化技術の提供を目的とする。
【課題を解決するための手段】
【００１９】
〔１〕本発明の画像符号化装置の構成
前記の目的を達成するために、本発明の画像符号化装置は、画面内予測を用いて画像を符号化するという構成を採るときにあって、（イ）予測画素の座標と任意の角度に設定される予測角度とに基づいて、予測画素の予測信号の生成に用いる予測直線を生成する予測直線生成手段と、（ロ）予測直線生成手段の生成した予測直線と参照画素により生成される線分との交点座標を算出する交点座標算出手段と、（ハ）交点座標算出手段の算出した交点座標とその交点座標に位置する参照画素の中心座標との間の距離を算出して、その算出した距離と参照画素間距離との比率値を算出する比率値算出手段と、（ニ）比率値算出手段の算出した比率値と交点座標算出手段の算出した交点座標に位置する参照画素を含む一部又は全ての参照画素の値とに基づいて、予測画素の予測信号を生成する予測信号生成手段と、（ホ）予測信号生成手段の生成した予測画素の予測信号に基づいて符号化コストを算出して、その符号化コストが最小となる予測角度を特定することで、任意の角度に設定される複数の予測角度の中から画面内予測に用いる予測角度を選択する予測角度選択手段とを備える。
【００２０】
この構成を採るときに、予測角度の符号量を削減するために、予測角度に対応付けて予測モード番号を定義して、予測角度選択手段の選択した予測角度に対応付けられる予測モード番号を符号化する予測モード番号符号化手段を備えることがある。
【００２１】
以上の各処理手段が動作することで実現される本発明の画像符号化方法はコンピュータプログラムでも実現できるものであり、このコンピュータプログラムは、適当なコンピュータ読み取り可能な記録媒体に記録して提供されたり、ネットワークを介して提供され、本発明を実施する際にインストールされてＣＰＵなどの制御手段上で動作することにより本発明を実現することになる。
【００２２】
〔２〕本発明の画像復号装置の構成
本発明の画像符号化装置を受けて、本発明の画像復号装置は、画面内予測を用いて符号化された画像の符号化データを復号するという構成を採るときにあって、（イ）任意の角度に設定される複数の予測角度の中から選択された画像符号化側が画面内予測に用いた予測角度についての符号化データを復号する予測角度復号手段と、（ロ）予測画素の座標と予測角度復号手段の復号した予測角度とに基づいて、画像符号化側が予測画素の予測信号の生成に用いた予測直線を生成する予測直線生成手段と、（ハ）予測直線生成手段の生成した予測直線と参照画素により生成される線分との交点座標を算出する交点座標算出手段と、（ニ）交点座標算出手段の算出した交点座標とその交点座標に位置する参照画素の中心座標との間の距離を算出して、その算出した距離と参照画素間距離との比率値を算出する比率値算出手段と、（ホ）比率値算出手段の算出した比率値と交点座標算出手段の算出した交点座標に位置する参照画素を含む一部又は全ての参照画素の値とに基づいて、画像符号化側が生成した予測画素の予測信号を復元する予測信号復元手段と、（ヘ）画像符号化側が符号化した予測残差信号の符号化データを復号して、その復号した予測残差信号と予測信号復元手段の復元した予測信号とに基づいて復号画像信号を生成する復号画像信号生成手段とを備える。
【００２３】
以上の各処理手段が動作することで実現される本発明の画像復号方法はコンピュータプログラムでも実現できるものであり、このコンピュータプログラムは、適当なコンピュータ読み取り可能な記録媒体に記録して提供されたり、ネットワークを介して提供され、本発明を実施する際にインストールされてＣＰＵなどの制御手段上で動作することにより本発明を実現することになる。
【００２４】
〔３〕本発明の処理
このように構成される本発明では、画像符号化装置は、画面内予測を用いて画像を符号化する場合、まず最初に、予測画素の座標と任意の角度に設定される予測角度とに基づいて、予測画素の予測信号の生成に用いる予測直線を生成する。
【００２５】
例えば、図１に示すように、４×４ブロックを符号化対象として画面内予測を用いて符号化する場合にあって、図中に示す任意の角度に設定される予測角度θに基づいて、図中に示すPredPixel で示される予測画素の予測信号を生成する場合には、この予測画素PredPixel の中心座標と予測角度θとに基づいて、図中に示す予測直線PredLineを生成するのである。
【００２６】
続いて、その生成した予測直線と参照画素により生成される線分との交点座標を算出する。
【００２７】
例えば、図１に示すように、参照画素Ｘ，Ａ〜Ｈにより生成される水平方向の参照直線RefLine と、参照画素Ｘ，Ｉ〜Ｐにより生成される垂直方向の参照直線RefLine の内、予測直線PredLineが垂直方向の参照直線RefLine と参照画素Ｊ上で交叉する場合には、その交点座標を算出するのである。
【００２８】
続いて、その算出した交点座標とその交点座標に位置する参照画素の中心座標との間の距離を算出して、その算出した距離と参照画素間距離との比率値を算出する。
【００２９】
例えば、図１に示すように、交点座標と交点座標に位置する参照画素Ｊの中心座標との間の距離と参照画素間距離との比率値である“ 1.0−ｈ”を算出するのである。ここで、図１では、参照画素間距離が１であることを想定するとともに、交点座標と参照画素Ｘに近い方で隣接する参照画素Ｉの中心座標との間の距離と参照画素間距離との比率値が“ｈ”であることを想定している。
【００３０】
続いて、その算出した比率値と交点座標に位置する参照画素を含む一部又は全ての複数の参照画素の値とに基づいて、予測画素の予測信号となる交点座標に対応付けられる参照画素間値（これをコピーすることで予測信号を生成する）を算出することで、予測画素の予測信号を生成する。
【００３１】
例えば、図１に示すように、交点座標に位置する参照画素Ｊの値γと、交点座標と参照画素Ｘに近い方で隣接する参照画素Ｉの値βとを使い、
Ｖ＝（１−ｈ）β＋ｈγ  ・・・・  （１）式
というリニア補間式に従って、予測画素PredPixel の予測信号Ｖを生成するのである。
【００３２】
ここで、このようなリニア補間式を用いるのではなくて、交点座標に位置する参照画素Ｊを含む一部又は全ての複数の参照画素（Ｘ，Ａ〜Ｈ，Ｉ〜Ｐ）の値を使い、キュービック補間式に従って、予測画素PredPixel の予測信号Ｖを生成するようにしてもよい。
【００３３】
このとき、従来技術では使用されていなかった参照画素Ｌ以下の画素Ｍ〜Ｐについても参照可能としてもよく、この場合に、これらの画素Ｍ〜Ｐが復号済みブロックに該当する場合にはその値を参照画素値とし、復号されていなかった場合には復号済みの参照画素Ｌの値を外挿して参照画素値とする。
【００３４】
このようにして、本発明では、ＤＣＴ係数の増加する原因の一つである予測残差信号を抑える目的を達成するために、任意の角度に設定される予測角度を用いて予測画素の予測信号を生成するように処理する。
【００３５】
そして、本発明では、このようにして生成した予測画素の予測信号に基づいて符号化コストを算出して、その符号化コストが最小となる予測角度を特定することで、任意の角度に設定可能となることで従来技術よりも多く設定される複数の予測角度の中から画面内予測に用いる予測角度を選択し、これにより、予測残差信号・符号量がより小さい画面内予測符号化を実現する。
【００３６】
この画像符号化装置の生成する符号化データを受けて、画像復号装置は、任意の角度に設定される複数の予測角度の中から選択された画像符号化側が画面内予測に用いた予測角度についての符号化データを復号して、予測画素の座標とその復号した予測角度とに基づいて、画像符号化側が予測画素の予測信号の生成に用いた予測直線を生成する。続いて、その生成した予測直線と参照画素により生成される線分との交点座標を算出して、その算出した交点座標とその交点座標に位置する参照画素の中心座標との間の距離を算出して、その算出した距離と参照画素間距離との比率値を算出する。続いて、その算出した比率値と交点座標に位置する参照画素を含む一部又は全ての参照画素の値とに基づいて、画像符号化側が生成した予測画素の予測信号を復元する。そして、画像符号化側が符号化した予測残差信号の符号化データを復号して、その復号した予測残差信号とその復元した予測信号とに基づいて復号画像信号を生成する。
【発明の効果】
【００３７】
以上説明したように、本発明によれば、従来の画面内予測では対応できなかった画素間値への参照を可能とすることで、微小な角度を持つ画像に対して効率的な画面内予測を実現することが可能となる。その結果、本発明によれば、画面内予測符号化効率を大きく改善することができるようになる。
【発明を実施するための最良の形態】
【００３８】
以下、実施の形態に従って本発明を詳細に説明する。
【００３９】
図２に、本発明を具備する画面内予測符号化装置１０の一実施形態例を図示する。
【００４０】
本発明の画面内予測符号化装置１０は、静止画像を処理対象としたり、映像に含まれるイントラ符号化対象の画像を処理対象として、処理対象の画像を画面内予測を用いて符号化するものであり、図２に示すように、予測モード選択部１０１と、予測残差信号生成部１０２と、符号化部１０３と、コスト算出部１０４と、コスト最小値記憶部１０５と、コスト最小値初期化部１０６と、コスト判定部１０７と、最適予測モード番号記憶部１０８と、モード選択終了判定部１０９と、最適予測モード番号符号化部１１０と、画面内予測符号化部１１１とを備える。
【００４１】
ここで、本発明の画面内予測符号化装置１０は、例えば、４×４ブロックを符号化対象として、予測モード番号をｎ（０≦ｎ＜MaxPred ）で表すならば、例えば、画面内予測による予測角度の範囲４５°〜２２５°を任意の分割数に等角度分割したときの予測角度θを、
θ＝４５＋１８０ｎ／MaxPred ［°］  ・・・・  （２）式
によって設定する。例えば、予測角度の範囲４５°〜２２５°を１６分割するときには、予測角度は図３のように設定されることになる。
【００４２】
この予測モード選択部１０１は、符号化対象ブロックについての画面内予測符号化の予測モード（ＤＣ成分を使う予測モードを含み、それ以外の予測モードについては予測角度と対応付けられている）を選択する。予測残差信号生成部１０２は、予測モード選択部１０１の選択した予測モードに基づいて、符号化対象ブロックの画像信号の予測信号を生成して、その画像信号とその生成した予測信号との差分を算出することで予測残差信号を生成する。
【００４３】
符号化部１０３は、予測残差信号生成部１０２の生成した予測残差信号を符号化（画面内予測符号化となる）するとともに、予測モード選択部１０１の選択した予測モードの番号を符号化する。コスト算出部１０４は、符号化部１０３の符号化結果に基づいてラグランジュコストを算出する。コスト最小値記憶部１０５は、コスト算出部１０４の算出したラグランジュコストの最小値を記憶する。コスト最小値初期化部１０６は、符号化対象ブロックの画面内予測符号化に入る時点に、コスト最小値記憶部１０５に対して、大きな値を示すラグランジュコストの初期値を書き込む。
【００４４】
コスト判定部１０７は、コスト算出部１０４の算出したラグランジュコストと、コスト最小値記憶部１０５の記憶するラグランジュコストとを比較して、コスト算出部１０４の算出した方のが小さい場合には、コスト算出部１０４の算出したラグランジュコストに従って、コスト最小値記憶部１０５の記憶するラグランジュコストを更新し、さらに、予測モード選択部１０１の選択した予測モードに従って、最適予測モード番号記憶部１０８の記憶する予測モード番号を更新する。最適予測モード番号記憶部１０８は、コスト判定部１０７により更新されることになる最適な予測モードの番号を記憶する。
【００４５】
モード選択終了判定部１０９は、コスト判定部１０７の処理が終了する時点に、予測モード選択部１０１に対して次の予測モードの選択を指示することで、全ての予測モードが選択されるように制御するとともに、全ての予測モードの選択を終了するときには、最適予測モード番号符号化部１１０および画面内予測符号化部１１１に対して符号化を指示する。
【００４６】
最適予測モード番号符号化部１１０は、モード選択終了判定部１０９から符号化指示があると、最適予測モード番号記憶部１０８から最適な予測モードの番号を読み出し、それを符号化する。画面内予測符号化部１１１は、モード選択終了判定部１０９から符号化指示があると、最適予測モード番号記憶部１０８から最適な予測モードの番号を読み出し、その読み出した予測モード番号の指す最適な予測モードに基づいて、符号化対象ブロックの画像信号の予測信号を算出して、その画像信号とその算出した予測信号との差分を算出することで予測残差信号を生成して、それを符号化する。
【００４７】
図４〜図６に、本発明の画面内予測符号化装置１０の実行するフローチャートを図示する。次に、このフローチャートに従って、図２のように構成される本発明の画面内予測符号化装置１０の実行する処理について説明する。
【００４８】
本発明の画面内予測符号化装置１０は、画面内予測符号化の処理対象となる符号化対象ブロックが与えられると、図４のフローチャートに示すように、まず最初に、ステップＳ１０１で、後述するステップＳ１０７で用いるラグランジュコストＬcostの最小値Ｌmin を十分大きな値（＋∞）で初期化する。
【００４９】
続いて、以下に説明するステップＳ１０２〜ステップＳ１０９で、ラグランジュコストＬcostを最小化する予測モードの番号ｎを検出するためのループ処理を実行する。ここで、このフローチャートでは、予測モードの総数がMaxPred であることを想定している。
【００５０】
すなわち、ステップＳ１０２で、未選択の予測モードの番号ｎを１つ選択すると、続いて、ステップＳ１０３で、後述する図５で説明するフローチャートの処理に従って予測残差信号を生成する。
【００５１】
続いて、ステップＳ１０４で、ステップＳ１０２で選択した予測モード番号ｎを符号化し、続くステップＳ１０５で、ステップＳ１０３で生成した予測残差信号をＤＣＴし量子化して符号化する。
【００５２】
ここで、ステップＳ１０４では、例えば、隣接ブロックからの予測信号から決定される１ビットのフラグを使用し、予測が外れた場合は固定長や可変長符号化を行うことで予測モード番号ｎの符号化を行う。また、ステップＳ１０５では、従来の手法を用いて予測残差信号の符号化を行う。
【００５３】
続いて、ステップＳ１０６で、ステップＳ１０４，ステップＳ１０５の符号化により生成されたビット数と原画像との誤差から従来の手法（例えば、Ｈ.264 Reference Software JM ver. 13.2 Encoder, http://iphome.hhi.de/suehring/tml/, 2008）を用いてラグランジュコストＬcostを算出する。
【００５４】
続いて、ステップＳ１０７で、
Ｌcost＜Ｌmin 
が成立するのか否かを判断することで、ステップＳ１０６で算出したラグランジュコストＬcostが最小かどうかの判定を行う。
【００５５】
このステップＳ１０７の判断処理に従って、ステップＳ１０６で算出したラグランジュコストＬcostが最小ラグランジュコストＬmin を下回ることを判断するときには、ステップＳ１０８に進んで、ステップＳ１０６で算出したラグランジュコストＬcostに従って最小ラグランジュコストＬmin を更新する。
【００５６】
一方、ステップＳ１０７の判断処理に従って、ステップＳ１０６で算出したラグランジュコストＬcostが最小ラグランジュコストＬmin を下回らないことを判断するときには、ステップＳ１０８の処理を行わず、最小ラグランジュコストＬmin の更新処理は行わない。
【００５７】
以上の処理（ステップＳ１０２〜ステップＳ１０９）を０≦ｎ＜MaxPred −１の範囲内で繰り返し、これにより、最小ラグランジュコストＬmin を実現する最適な予測モードの番号ｎを特定する。
【００５８】
これから、続いて、ステップＳ１１０で、この特定した最適な予測モード番号を符号化する。
【００５９】
続いて、ステップＳ１１１で、後述する図６で説明するフローチャートの処理に従って最適予測モードにおける予測残差信号を生成する。
【００６０】
そして、最後に、ステップＳ１１２で、ステップＳ１１１で生成した予測残差信号をＤＣＴし量子化して符号化することで、符号化対象ブロックの画面内予測符号化を実行する。
【００６１】
次に、図５のフローチャートに従って、図４のフローチャートのステップＳ１０３で実行する処理について詳細に説明する。
【００６２】
ステップＳ１０３の処理に入ると、図５のフローチャートに示すように、まず最初に、ステップＳ２０１で、ステップＳ１０２で選択した予測モード番号ｎに従って、その予測モード番号ｎの指す予測モードがＤＣ成分を使う予測モードであるのか、予測角度を持つ予測モードであるのかを判断する。
【００６３】
このステップＳ２０１の判断処理に従って、ステップＳ１０２で選択した予測モード番号ｎの指す予測モードが予測角度を持つ予測モードであることを判断するときには、ステップＳ２０２に進んで、ステップＳ１０２で選択した予測モード番号ｎから予測角度θを生成する。予測モード番号ｎと予測角度θとは、例えば、前述した（２）式に従って、
θ＝４５＋１８０ｎ／MaxPred ［°］
というように１対１に対応付けられているので、この式に従って、ステップＳ１０２で選択した予測モード番号ｎに対応付けられる予測角度θを生成するのである。
【００６４】
続いて、以下に説明するステップＳ２０３〜ステップＳ２１０で、符号化対象ブロックの持つ予測画素PredPixel （図１５に示す画素ａ〜ｐ）毎に予測信号を算出するためのループ処理を実行する。
【００６５】
すなわち、ステップＳ２０３で、符号化対象ブロックの持つ予測画素PredPixel の中かから未選択の予測画素PredPixel を１つ選択する。
【００６６】
続いて、ステップＳ２０４で、ステップＳ２０２で選択した予測画素PredPixel の座標（ｉ，ｊ）と、ステップＳ２０２で生成した予測角度θとから、図１に示すような予測直線PredLineを生成する。
【００６７】
すなわち、
ｙ＝（ｘ−ｉ）ｔａｎθ＋ｊ  ・・・・  （３）式
という予測直線PredLineを生成するのである。ここで、符号化対象ブロックにおける左上端の予測画素PredPixel の中心座標を原点とし、ｙ軸下方向にラスタスキャンするごとにｊの値は小さくなるものとする。
【００６８】
続いて、ステップＳ２０５で、図１で説明したように、ステップＳ２０４で生成した予測直線PredLineと参照画素により生成される参照直線RefLine との交点座標を算出して、図１で説明した比率値ｈ（交点座標と参照画素Ｘに近い方の隣接参照画素の中心座標との間の距離を参照画素間距離で割り算した値）を算出する。
【００６９】
続いて、ステップＳ２０６で、交点座標の周辺に位置する参照画素の値を取得する。例えば、図７に示すような形で、交点座標の周辺に位置する参照画素α，β，γ，δを定義する場合にあって、キュービック補間に従って予測画素PredPixel の予測信号Ｖを算出する場合には、交点座標の周辺に位置する参照画素α，β，γ，δの値を取得し、リニア補間に従って予測画素PredPixel の予測信号Ｖを算出する場合には、交点座標の周辺に位置する参照画素β，γの値を取得するのである。
【００７０】
続いて、ステップＳ２０７で、リニア補間やキュービック補間の補間手法（その他の補間手法を用いることも可能である）を用いて、予測画素PredPixel の予測信号となる交点座標に対応付けられる参照画素間値（これをコピーすることで予測信号を生成する）を算出することで、ステップＳ２０２で選択した予測画素PredPixel の予測信号の実数値Ｖを算出する。
【００７１】
例えば、リニア補間の補間手法を用いる場合には、前述した（１）式のリニア補間式
Ｖ＝（１−ｈ）β＋ｈγ  ・・・・  （１）式
に従って、予測画素PredPixel の予測信号の実数値Ｖを算出する。また、例えば参照画素α，β，γ，δの値を用いるキュービック補間の補間手法を用いる場合には、下記のキュービック補間式
Ｖ＝αＷ（ｈ−１）＋βＷ（ｈ）＋γＷ（１−ｈ）＋δＷ（２−ｈ）
Ｗ（ｌ）＝（ｗ＋２）｜ｌ｜3 −（ｗ＋３）｜ｌ｜2 ＋１    ｜ｌ｜＜１
＝ｗ｜ｌ｜3 −５ｗ｜ｌ｜2 ＋８ｗ｜ｌ｜−４ｗ    １≦｜ｌ｜＜２
＝０                                            ２≦｜ｌ｜
ただし、ｗ：重み係数
ｌ：参照画素間距離
・・・・  （４）式
に従って、予測画素PredPixel の予測信号の実数値Ｖを算出する。
【００７２】
続いて、ステップＳ２０８で、算出した実数値Ｖを四捨五入により整数に変換した後、画素深度にクリッピング（整数値が符号化前の画像のビット深度Ｄの表現域以下である場合にはＶ＝０とし、表現域以上である場合にはＶ＝Ｄmax とするクリッピング）し、続くステップＳ２０９で、そのクリッピンクした値をステップＳ２０２で選択した予測画素PredPixel の予測信号とする。
【００７３】
以上の処理（ステップＳ２０２〜ステップＳ２１０）を符号化対象ブロックの持つ予測画素PredPixel について繰り返し、これにより、ステップＳ１０２で選択した予測モード番号ｎの指す予測モードが予測角度を持つ予測モードである場合において、符号化対象ブロックの持つ全ての予測画素PredPixel （図１５に示す画素ａ〜ｐ）の予測信号を生成する。
【００７４】
一方、ステップＳ２０１の判断処理に従って、ステップＳ１０２で選択した予測モード番号ｎの指す予測モードがＤＣ成分を使う予測モードであることを判断するときには、ステップＳ２１１に進んで、参照画素Ａ〜Ｄ，Ｉ〜Ｌ（図１に示すもの）の値の平均値としてＤＣ成分を算出する。
【００７５】
続いて、ステップＳ２１２で、算出したＤＣ成分を符号化対象ブロックの持つ全ての予測画素PredPixel （図１５に示す画素ａ〜ｐ）の予測信号とすることで、ステップＳ１０２で選択した予測モード番号ｎの指す予測モードがＤＣ成分を使う予測モードである場合において、符号化対象ブロックの持つ全ての予測画素PredPixel （図１５に示す画素ａ〜ｐ）の予測信号を生成する。
【００７６】
このようにして、ステップＳ２０１〜ステップＳ２１２の処理に従って、符号化対象ブロックの持つ画像信号についての予測信号を生成すると、ステップＳ２１３に進んで、その画像信号とその予測信号との差分値を算出することで予測残差信号を生成し、これにより、図４のフローチャートのステップＳ１０３の処理を終了する。
【００７７】
次に、図６のフローチャートに従って、図４のフローチャートのステップＳ１１１で実行する処理について詳細に説明する。
【００７８】
ステップＳ１１１の処理に入ると、図６のフローチャートに示すように、まず最初に、ステップＳ３０１で、ループ１の処理により特定された最適予測モード番号ｎに従って、最適予測モードがＤＣ成分を使う予測モードであるのか、予測角度を持つ予測モードであるのかを判断する。
【００７９】
このステップＳ３０１の判断処理に従って、最適予測モードが予測角度を持つ予測モードであることを判断するときには、ステップＳ３０２に進んで、図５のフローチャートのステップＳ２０２と同様の処理を実行することで、最適予測モードの番号ｎから予測角度θを生成する。
【００８０】
続いて、以下のステップＳ３０３〜ステップＳ３１０で、図５のフローチャートのステップＳ２０３〜ステップＳ２１０と同様の処理を実行することで、最適予測モード番号ｎの指す予測モードが予測角度を持つ予測モードである場合において、符号化対象ブロックの持つ全ての予測画素PredPixel （図１５に示す画素ａ〜ｐ）の予測信号を生成する。
【００８１】
一方、ステップＳ３０１の判断処理に従って、最適予測モードがＤＣ成分を使う予測モードであることを判断するときには、ステップＳ３１１，ステップＳ３１２で、図５のフローチャートのステップＳ２１１，ステップＳ２１２と同様の処理を実行することで、最適予測モード番号ｎの指す予測モードがＤＣ成分を使う予測モードである場合において、符号化対象ブロックの持つ全ての予測画素PredPixel （図１５に示す画素ａ〜ｐ）の予測信号を生成する。
【００８２】
このようにして、ステップＳ３０１〜ステップＳ３１２の処理に従って、符号化対象ブロックの持つ画像信号についての予測信号を生成すると、ステップＳ３１３に進んで、図５のフローチャートのステップＳ２１３と同様の処理を実行することで、最適予測モードにおける予測残差信号を生成し、これにより、図４のフローチャートのステップＳ１１１の処理を終了する。
【００８３】
このようにして、本発明の画面内予測符号化装置１０は、符号化対象ブロックを画面内予測を用いて符号化する場合に、任意の角度に設定される予測角度を用いて予測信号を生成することを可能として、そのようにして生成した予測信号に基づいて画面内予測符号化を実現するという構成を採るものであり、これにより、図１５に示す８種類の予測方向しか存在しない従来技術に比べて予測方向の数を大幅に増加させることができるようになることで予測精度を高めることができるようになって、予測残差信号を大きく低減できるようになるのである。
【００８４】
例えば、図８（ａ）（図１７に示すものと同じもの）に示すように、符号化対象ブロックが従来の予測モード４（予測角度＝１３５°）と従来の予測モード５（予測角度＝１１６．５７°）との中間の角度１２５．７８°に強い相関があるような場合には、従来手法の画面内予測手法に従っていると、図８（ｂ）（図１８に示すものと同じもの）に示すように、予測残差信号は大きくなってしまうという問題があるが、本発明の画面内予測符号化装置１０では、予測角度１２５．７８°という予測モードを実現することも可能であることから、図８（ｃ）に示すように、予測残差信号を大きく低減できるようになる。
【００８５】
すなわち、図８（ｂ）の左側に示す従来の予測モード４による予測残差の絶対値の総和は“５０２”となり、図８（ｂ）の右側に示す従来の予測モード５による予測残差の絶対値の総和は“５９５”となるのに対して、図８（ｃ）に示す予測角度１２５．７８°という予測モードによる予測残差の絶対値の総和は“２０１”となり、予測残差信号を大きく低減できるようになるのである。なお、図８（ｂ)(ｃ）では、前述した（１）式に示すリニア補間式に従って予測信号を生成するようにしている。
【００８６】
図９に、図２のように構成される本発明の画面内予測符号化装置１０の生成した符号化データを復号する本発明の画面内予測復号装置２０の一実施形態例を図示する。
【００８７】
この図に示すように、本発明の画面内予測復号装置２０は、図２のように構成される本発明の画面内予測符号化装置１０の生成した符号化データを復号するために、予測モード番号復号部２０１と、予測信号復元部２０２と、予測残差信号復号部２０３と、復号画像信号生成部２０４とを備える。
【００８８】
この予測モード番号復号部２０１は、本発明の画面内予測符号化装置１０が生成した予測モード番号の符号化データを復号することで予測モード番号を復号する。予測信号復元部２０２は、予測モード番号復号部２０１の復号した予測モード番号の指す予測モードに基づいて、本発明の画面内予測符号化装置１０が生成した予測信号を復元する。予測残差信号復号部２０３は、本発明の画面内予測符号化装置１０が生成した予測残差信号の符号化データを復号して、それを逆量子化、逆ＤＣＴすることで予測残差信号を復号する。復号画像信号生成部２０４は、予測信号復元部２０２の復元した予測信号と予測残差信号復号部２０３の復号した予測残差信号とを加算することで、復号画像信号を生成する。
【００８９】
図１０および図１１に、本発明の画面内予測復号装置２０の実行するフローチャートを図示する。次に、このフローチャートに従って、図９のように構成される本発明の画面内予測復号装置２０の実行する処理について説明する。
【００９０】
本発明の画面内予測復号装置２０は、本発明の画面内予測符号化装置１０の生成した符号化データを受け取ると、図１０のフローチャートに示すように、まず最初に、ステップＳ４０１で、予測モード番号の符号化データを復号することで予測モード番号を復号する。
【００９１】
続いて、ステップＳ４０２で、後述する図１１で説明するフローチャートの処理に従って、本発明の画面内予測符号化装置１０が生成した予測信号を復元する。
【００９２】
続いて、ステップＳ４０３で、予測残差信号の符号化データを復号して、それを逆量子化、逆ＤＣＴすることで予測残差信号を復号する。
【００９３】
そして、最後に、ステップＳ４０４で、ステップＳ４０２で復元した予測信号とステップＳ４０３で復号した予測残差信号とを加算することで復号画像信号を生成して、処理を終了する。
【００９４】
次に、図１１のフローチャートに従って、図１０のフローチャートのステップＳ４０２で実行する処理について詳細に説明する。
【００９５】
ステップＳ４０２の処理に入ると、図１１のフローチャートに示すように、まず最初に、ステップＳ５０１で、ステップＳ４０１で復号した予測モード番号ｎに従って、その予測モード番号ｎの指す予測モードがＤＣ成分を使う予測モードであるのか、予測角度を持つ予測モードであるのかを判断する。
【００９６】
このステップＳ５０１の判断処理に従って、ステップＳ４０１で復号した予測モード番号ｎの指す予測モードが予測角度を持つ予測モードであることを判断するときには、ステップＳ５０２に進んで、図５のフローチャートのステップＳ２０２と同様の処理を実行することで、ステップＳ４０１で復号した予測モード番号ｎから予測角度θを生成する。
【００９７】
続いて、以下のステップＳ５０３〜ステップＳ５１０で、図５のフローチャートのステップＳ２０３〜ステップＳ２１０と同様の処理を実行することで、ステップＳ４０１で復号した予測モード番号ｎの指す予測モードが予測角度を持つ予測モードである場合において、本発明の画面内予測符号化装置１０が生成した復号対象ブロックの持つ全ての予測画素PredPixel の予測信号を復元する。
【００９８】
一方、ステップＳ５０１の判断処理に従って、ステップＳ４０１で復号した予測モード番号ｎの指す予測モードがＤＣ成分を使う予測モードであることを判断するときには、ステップＳ５１１，ステップＳ５１２で、図５のフローチャートのステップＳ２１１，ステップＳ２１２と同様の処理を実行することで、ステップＳ４０１で復号した予測モード番号ｎの指す予測モードがＤＣ成分を使う予測モードである場合において、本発明の画面内予測符号化装置１０が生成した復号対象ブロックの持つ全ての予測画素PredPixel の予測信号を復元する。
【００９９】
このようにして、ステップＳ５０１〜ステップＳ５１２の処理に従って、復号対象ブロックの持つ画像信号についての予測信号を生成して、これにより、図１０のフローチャートのステップＳ４０２の処理を終了する。
【０１００】
このようにして、本発明の画面内予測復号装置２０は、任意の角度に設定される予測角度を用いて予測信号を生成するという構成を採る本発明の画面内予測符号化装置１０の生成した符号化データを復号するのである。
【０１０１】
次に、本発明の有効性を検証するために行った実験の結果について説明する。本実験は、符号化対象画像を１６×１６マクロブロックに分割し、さらに、１６×１６マクロブロックを４×４ブロックに分割して、４×４ブロックに対して画面内予測値を生成することで行った。また、予測角度は４５°〜２２５°の角度範囲を等角度に分割して設定し、画面内予測値はリニア補間で算出することで行った。
【０１０２】
本発明では、画面内予測符号化において、予測モード数を増加させることを実現することで予測精度を高めることを実現し、これによりＤＣＴ係数が減少し、その結果としてＤＣＴ係数の符号化に必要なビット量を削減できるようになって符号化効率を向上させることができるようになる。一方、予測モード数を増加させることから、予測モード番号の符号化に必要なビット量が増加する。本実験では、この点を考慮して実験を行った。
【０１０３】
本実験の内容について説明するならば、本発明もまた、Ｈ．２６４と同様に、符号化対象画像から各予測値を減算した予測残差に対してＤＣＴおよび量子化マトリックスを用いて量子化を行い、整数値化したＤＣＴ係数群をＣＡＶＬＣの形式（改訂版Ｈ.264/AVC教科書(ISBN4-8443-2204-4).p.147 表6-7 参照）で格納する。
【０１０４】
Ｈ．２６４では、ここで格納した数値群に対して、隣接ブロックの情報を用いて適応的に可変長符号化を行う。この点について、本実験では簡略化のために、これらの数値群に対して、以下の手法によって可変長符号化を行うようにする。そのため、客観的なデータ比較を可能とするために、本実験で用いるＨ．２６４方式（本来のＨ．２６４とはアルゴリズムを一部変えているのでＨ．２６４方式と称する）においても、以下の手法によって可変長符号化を行うようにしている。
【０１０５】
・TotalCoeff                ０始まりの絶対値 (0=1bit,1=2bits,2=3bits,...) 
・TrailingOnes              ０始まりの絶対値 (0=1bit,1=2bits,2=3bits,...) 
・trailing-ones-sigh-flag   正負符号
・level                     正負符号＋１始まりの絶対値 (1=2bits,-1=2bits,2= 
3bits,-2=3bits,...)
・total-zeros           改訂版Ｈ.264/AVC教科書. p.302,303 表13-17,13-18 参照
・run-before            改訂版Ｈ.264/AVC教科書. p.303,304 表13-20 参照
また、Ｈ．２６４方式では、本来のＨ．２６４と同様に、９パターンの予測値を生成する。また、Ｈ．２６４方式では、本来のＨ．２６４と同様に、隣接する上・左の４×４ブロックにおける予測方向を用いて予測方向の予測を行って、予測方向の予測値と一致している場合には１ビットのフラグで表記し、異なる場合には１ビットのフラグに加えて、３ビットの補正値によって予測方向の補正を行う。一方、本発明における方式では、分割数に応じた数だけ予測値を生成する。また、固定長にて予測方向を符号化するため、全ての４×４ブロックに対して、１６分割時には４ビット、３２分割時には５ビットを必要とする。
【０１０６】
本実験では、Ｈ．２６４方式では９パターン、本発明における方式では分割数に応じたパターン数だけ符号化に必要なビット数と符号化対象画像との二乗誤差をそれぞれ算出し、ラグランジュコストの最も小さい値を用いて符号化を行うことで実験を行った。
【０１０７】
図１２に、「ＨＡＲＢＯＵＲ  ＣＩＦ（３５２×２８８）」を符号化対象画像として、Ｈ．２６４方式、１６分割の本発明方式、３２分割の本発明方式、６４分割の本発明方式で符号化を行った場合の実験結果のＲＤ（Rate-Distortion)曲線を図示し、図１３に、「ＦＯＲＥＭＡＮ  ＣＩＦ（３５２×２８８）」を符号化対象画像として、Ｈ．２６４方式、１６分割の本発明方式、３２分割の本発明方式、６４分割の本発明方式で符号化を行った場合の実験結果のＲＤ曲線を図示する。
【０１０８】
ＲＤ曲線の縦軸はＰＳＮＲを示す。ＰＳＮＲは符号化前の画像と符号化後の画像との誤差を対数で表したものであり、この指標はその数値が高いほど符号化前の画像との差が小さく、より忠実に画像が再現できていることを表す。一般に、輝度信号に対してはＰＳＮＲ＝３５〜３８程度の数値がよく利用されている。
【０１０９】
また、ＲＤ曲線の横軸は任意の符号化手法を用いて画像を符号化した際に生ずるビット数を示す。つまり、異なる符号化手法の性能を比較するとき、同等のＰＳＮＲ（画像の綺麗さ）において符号化を行った場合、ビット数が少ない手法の方が優れているとみなすことができる。
【０１１０】
図１２および図１３では、Ｈ．２６４準拠の符号化方式を用い、画面内予測における予測手法についてのみＨ．２６４準拠の９パターンの予測手法を本発明における分割数を増やす手法に変更した手法（１６分割、３２分割、６４分割）と、Ｈ．２６４準拠の９パターンの予測手法（Ｈ．２６４方式）との比較を行ったものである。なお、本発明における手法では、全ての分割数においてθ＝４５°方向は例外として周辺参照画素の平均値（ＤＣ成分）を予測値として用いている。
【０１１１】
図１２に示すＲＤ曲線において、ＰＳＮＲ＝３６に注目したときに、最も符号化効率のよい６４分割を用いて符号化を行うと、Ｈ．２６４方式と比較して符号量を約７．９％削減可能なことが確認でき、本発明の有効性を検証できた。
【０１１２】
図１４に、予測残差を最小とする予測を行った場合に生ずる予測残差を比較した実験結果を図示する。
【０１１３】
ここで、図１４におけるSum of absolute differenceは、以下の手順で算出した予測残差絶対値総和における６０フレームの平均値を表す。
【０１１４】
（１）符号化前の画像を全て１６×１６マクロブロックに分割し、さらに、１６×１６マクロブロックを４×４ブロックに分割して、規定のアクセス順序に従って４×４ブロックを順次選択する。
【０１１５】
（２）各４×４ブロックに対して、RefPixelを用いて下記の全手法・全予測方向をそれぞれ計算し、各手法ごとに予測残差が最小となる方向で予測した際に生ずる予測残差絶対値を算出する（RefPixelには全ての符号化対象画像の画素値を用いている）。
【０１１６】
・Ｈ．２６４準拠の画面内予測手法
・４５°〜２２５°を１６等角度分割し、予測角度θ＝４５°を隣接画素の平均値と      して計算する手法（Ｄｉｖ１６）
・４５°〜２２５°を３２等角度分割し、予測角度θ＝４５°を隣接画素の平均値と      して計算する手法（Ｄｉｖ３２）
・４５°〜２２５°を６４等角度分割し、予測角度θ＝４５°を隣接画素の平均値と      して計算する手法（Ｄｉｖ６４）
・４５°〜２２５°を１２８等角度分割し、予測角度θ＝４５°を隣接画素の平均値      として計算する手法（Ｄｉｖ１２８）
・４５°〜２２５°を２５６等角度分割し、予測角度θ＝４５°を隣接画素の平均値      として計算する手法（Ｄｉｖ２５６）
・４５°〜２２５°を５１２等角度分割し、予測角度θ＝４５°を隣接画素の平均値      として計算する手法（Ｄｉｖ５１２）
（３）手順２で算出した予測残差絶対値の総和（Sum of absolute difference）を画像当たり、手法ごとに算出する。
【０１１７】
Ｈ．２６４．では、符号化を行う際、予測残差に対してＤＣＴを行うため、予測残差と符号量とが必ずしも比例する訳ではないが、予測残差が小さい方が符号量を削減できる可能性は高い。Ｈ．２６４準拠の画面内予測を用いたときに算出される予測残差として、本発明における各分割数ごとの予測残差の減少率を図１４におけるGainに示す。この図１４の実験データからも、本発明の有効性を検証できた。
【０１１８】
本発明では、画面内予測符号化において、予測モード数を増加させることを実現することで予測精度を高めることを実現し、これによりＤＣＴ係数が減少し、その結果としてＤＣＴ係数の符号化に必要なビット量を削減できるようになって符号化効率を向上させることができるようになる。一方、予測モード数を増加させることから、予測モード番号の符号化に必要なビット量が増加する。
【０１１９】
そのため、符号化効率を示すＲＤ曲線は、図１２および図１３にも示すように、分割数が増加する毎に効率の上昇率は鈍化し、それ以上になると、符号化効率の優劣の逆転が生ずることになる。図１２および図１３の実験結果から、一般的によく使用されるＰＳＮＲ＝３５〜３８程度では、３２や６４の分割数の程度を用いるのが適当であることが分かる。
【０１２０】
以上に説明した実施形態例では、前述した（２）式に従って等角度に分割した予測角度を用いて予測を行うようにしたが、不等角度に分割した角度を用いて予測を行うことも可能である。例えば、Ｈ．２６４／ＭＰＥＧ４  ＡＶＣと同様の不等角度に分割した角度を用いた予測は、図１５に記載するような各予測モードの予測角度（不等角度）を符号化器・復号器の両方でテーブルに保持しておくことで実現できる。また、Ｈ．２６４／ＭＰＥＧ４  ＡＶＣ以上に細分化した角度も符号化器・復号器で互いに既知であればオーバーヘッドなしで容易に実現できる。
【０１２１】
また、以上に説明した実施形態例では説明しなかったが、符号化対象画像に対して、予め計算によって効率よく予測残差を減らすことができる予測角度出現確率分布のＬＵＴ（look-up table)を構築するようにしておくと、さらに予測残差を減らすことができるようになる。
【０１２２】
この予測角度出現確率分布ＬＵＴを構築する場合には、この予測角度出現確率分布ＬＵＴをビットストリームに付加することによってデコーダ側でも予測信号が生成可能となる。予測角度出現確率分布ＬＵＴは予測角度最大分割数Ｎ（＝MaxPred ）をｘビットで符号化し、各予測角度を固定小数点ｙビットでＮ個構築した場合、ｘ＋Ｎｙビットのオーバーヘッド付加によって実現できる。
【図面の簡単な説明】
【０１２３】
【図１】本発明の処理について説明する図である。
【図２】本発明の画面内予測符号化装置の装置構成図である。
【図３】予測角度の設定の一例を示す図である。
【図４】本発明の画面内予測符号化装置の実行するフローチャートである。
【図５】本発明の画面内予測符号化装置の実行するフローチャートである。
【図６】本発明の画面内予測符号化装置の実行するフローチャートである。
【図７】交点座標の周辺に位置する参照画素の説明図である。
【図８】本発明の有効性について説明する図である。
【図９】本発明の画面内予測復号装置の装置構成図である。
【図１０】本発明の画面内予測復号装置の実行するフローチャートである。
【図１１】本発明の画面内予測復号装置の実行するフローチャートである。
【図１２】本発明の有効性を検証するために行った実験の実験データである。
【図１３】本発明の有効性を検証するために行った実験の実験データである。
【図１４】本発明の有効性を検証するために行った実験の実験データである。
【図１５】従来の画面内予測手法で用いる予測角度の説明図である。
【図１６】従来の画面内予測手法で用いる参照画素の画素値の説明図である。
【図１７】符号化対象ブロックの画像信号の一例を示す図である。
【図１８】従来の画面内予測手法の説明図である。
【符号の説明】
【０１２４】
１０    画面内予測符号化装置
１０１  予測モード選択部
１０２  予測残差信号生成部
１０３  符号化部
１０４  コスト算出部
１０５  コスト最小値記憶部
１０６  コスト最小値初期化部
１０７  コスト判定部
１０８  最適予測モード番号記憶部
１０９  モード選択終了判定部
１１０  最適予測モード番号符号化部
１１１  画面内予測符号化部
【図１】
2009284275.tif 000003
【図２】
2009284275.tif 000004
【図３】
2009284275.tif 000005
【図４】
2009284275.tif 000006
【図５】
2009284275.tif 000007
【図６】
2009284275.tif 000008
【図７】
2009284275.tif 000009
【図８】
2009284275.tif 000010
【図９】
2009284275.tif 000011
【図１０】
2009284275.tif 000012
【図１１】
2009284275.tif 000013
【図１２】
2009284275.tif 000014
【図１３】
2009284275.tif 000015
【図１４】
2009284275.tif 000016
【図１５】
2009284275.tif 000017
【図１６】
2009284275.tif 000018
【図１７】
2009284275.tif 000019
【図１８】
2009284275.tif 000020