(57)【要約】【課題】  ビデオコーディング時、整数変換行列の選択方法及び関連整数の変換方法を提供する。【解決手段】  ８×８ＤＣＴ整数変換が採択された中国の第１オーディオ及びビデオコーディング標準（ＡＶＳ）によれば、減相関効率及びエネルギー集中化効率で変換ベースの品質を評価するために使われた整数変換ベース選択方法が提案される。計算複雑性も選択手順で考慮される。このような方法に基づいて、２グループの８×８変換ベース（５,６,４,１）及び（４,５,３,１）が選択され、このような２グループのための高速変換アルゴリズムが提供される。【選択図】      図１ 
2005269657.tif 000002
【特許請求の範囲】
【請求項１】
ビデオコーディング時、整数変換行列を選択するための方法において、
（ａ）特定範囲で直交条件を満足する全ての整数変換ベースを検索するが、８×８変換行列Ｐのための変換ベースは、（ｋ１，ｋ２，ｋ３，ｋ４）と定義され、
【数１】
2005269657.tif 000060
変換ベース係数値の範囲は、ｋ１、ｋ２、ｋ３∈［１,１０］であり、ｋ４∈［１,４］であり、Ｐ・ＰＴ＝Ｄｉａｇを満足する全ての整数直交変換ベースが獲得され、Ｄｉａｇは対角行列である段階と、
（ｂ）相関係数
【数２】
2005269657.tif 000061
の値が０.７５、０.８、０.８５、０.９及び０.９５である時、入力イメージ残留エラーデータの共分散行列ＣＯＶ（ＸＶ）を樹立するが、８の長さを有する１次元イメージ予測残留エラーベクトルは、ＸＶ＝［ｘ１，ｘ２，．．．ｘ８］と仮定し、１次マルコフモデルに基づいて樹立されたＸＶ要素の共分散行列ＣＯＶ（ＸＶ）は
【数３】
2005269657.tif 000062
であり、
【数４】
2005269657.tif 000063
は、隣接ＸＶ要素間の相関係数であり、
【数５】
2005269657.tif 000064
である段階と、
（ｃ）変換ベースに相応する変換行列Ｐを通じて、変換ドメインの共分散行列ＣＯＶ（ＹＶ）を獲得するが、変換ベース（ｋ１，ｋ２，ｋ３，ｋ４）に相応する変換行列Ｐは標準化され、すなわち、Ｐの各行は、直交行列Ｐｕを獲得するために行のベクトル長ほど分割され、ＸＶは、ＹＶ＝ＰｕＸＶのように直交的に変換され、ＹＶの共分散行列は、
【数６】
2005269657.tif 000065
である段階と、
（ｄ）前記（ｂ）、（ｃ）段階を通じて、相関係数
【数７】
2005269657.tif 000066
の値が０.７５、０.８、０.８５、０.９及び０.９５である時、エネルギー集中化効率
【数８】
2005269657.tif 000067
及び減相関効率
【数９】
2005269657.tif 000068
を計算するが、前記エネルギー集中化効率
【数１０】
2005269657.tif 000069
は、以下のように定義され、
【数１１】
2005269657.tif 000070
前記減相関効率
【数１２】
2005269657.tif 000071
は、以下のように定義される段階と、
【数１３】
2005269657.tif 000072
（ｅ）所定の相関係数
【数１４】
2005269657.tif 000073
の値でそれぞれの変換ベースのためのエネルギー集中化効率
【数１５】
2005269657.tif 000074
及び減相関効率
【数１６】
2005269657.tif 000075
の標準化された結果を計算するが、前記同じ
【数１７】
2005269657.tif 000076
で第ｉ変換ベースのための
【数１８】
2005269657.tif 000077
の標準化された結果は、次の通りであり、
【数１９】
2005269657.tif 000078
第ｉ変換ベースのための
【数２０】
2005269657.tif 000079
の標準化された結果は、次のような段階と、
【数２１】
2005269657.tif 000080
（ｆ）各相関係数
【数２２】
2005269657.tif 000081
で、全てのグループのベースに対する前記エネルギー集中化効率
【数２３】
2005269657.tif 000082
及び前記減相関効率
【数２４】
2005269657.tif 000083
の複合評価値ＥｖａｌＥ及びＥｖｌａＣを獲得するために、加重された和を計算するが、５個の
【数２５】
2005269657.tif 000084
に相応する加重値は、それぞれ１／１５、２／１５、３／１５、４／１５及び５／１５である段階と、
（ｇ）変換ベース性能に対する複合評価値Ｅｖａｌを獲得するために、前記ＥｖｌａＣ及びＥｖａｌＥの加重された和を計算するが、ＥｖｌａＣ及びＥｖａｌＥの加重値は、それぞれ０.４及び０.６であることを特徴とする方法。
【請求項２】
前記変換ベースの性能に対する前記複合評価値Ｅｖａｌが獲得された後、変換ベース（ｋ１，ｋ２，ｋ３，ｋ４）のための計算複雑性を評価するための段階が追加され、まず、さらに高い複合評価値Ｅｖａｌを有する変換ベースが選択され、もしＥｖａｌ値の差が０.０２より小さければ、計算複雑性でさらに多くの利点を提供するベース、すなわち、さらに少ない加算／減算及びさらに少ないシフティング演算を要求するベースが、さらに良いリアルタイム性能を要求するアプリケーションに望ましいことを特徴とする請求項１に記載の方法。
【請求項３】
ビデオコーディング時、整数変換方法として、
イントラフレームまたはインターフレームを通じたエンコーディング側面で、ブロックの予測残留エラーが獲得され、予測及びブロック変換は、エネルギーが少量の係数に集中されるように実行され、次いで、量子化、スキャニング、ランレングスコーディング及びエントロピーコーディングを通じて、イメージデータは圧縮され、コーディングビットストリームに記録され、
デコーディング側面で、エントロピーコーディングのブロック変換係数は、ビットストリームから抽出され、次いで、逆量子化及び逆変換を通じて、ブロックの予測残留エラーが再構成され、ビデオデータを再構成するために予測情報が共に使われる方法において、
（ａ）前記請求項１または２に記載のビデオコーディング時、整数変換行列の選択方法を通じて、ビデオコーディング時、８×８整数変換時に使われた変換行列Ｐを獲得するが、前記変換行列Ｐは、以下のように表現され、前記相応する整数変換ベースは（５，６，４，１）である段階と、
【数２６】
2005269657.tif 000085
（ｂ）８×８イメージ残留エラーデータブロック上でＹ＝ＰＸＰＴで表現される整数変換を実行するが、基本変換ユニットは、ｙ＝Ｐｘのように表現される８ポイント１次元変換であり、ここで、ｘ＝［ｘ０，ｘ１，ｘ２，ｘ３，ｘ４，ｘ５，ｘ６，ｘ７］Ｔ、出力ベクトルｙ＝［ｙ０，ｙ１，ｙ２，ｙ３，ｙ４，ｙ５，ｙ６，ｙ７］Ｔであり、計算は、次のような段階；
Ａ.ａ＝ｘ０−ｘ７；ａ１＝ｘ１−ｘ６；ａ２＝ｘ２−ｘ５；ａ３＝ｘ３−ｘ４；ａ４＝ｘ０＋ｘ７；ａ５＝ｘ１＋ｘ６；ａ６＝ｘ２＋ｘ５；ａ７＝ｘ３＋ｘ４；
Ｂ.ｂ０＝ａ４＋ａ７；ｂ１＝ａ５＋ａ６；ｂ２＝ａ４−ａ７；ｂ３＝ａ５−ａ６；
Ｃ.ｙ０＝ｂ０＋ｂ１；ｙ４＝ｂ０−ｂ１；ｙ２＝ｂ２＜＜１＋ｂ３；ｙ６＝ｂ２−ｂ３＜＜１；
以下の式と同一に表現される計算過程を完成させ、
【数２７】
2005269657.tif 000086
Ｄ.ｃ０＝ａ０＜＜２＋ａ０＋ａ３；ｃ１＝ａ２−ａ１−ａ１＜＜２；ｃ２＝ａ１＋ａ２＋ａ２＜＜２；ｃ３＝ａ３＜＜２＋ａ３−ａ０；
Ｅ.ｙ１＝ｃ０−ｃ１＋ｃ２；ｙ３＝ｃ０−ｃ２−ｃ３；ｙ５＝ｃ０＋ｃ１＋ｃ３；ｙ７＝ｃ１＋ｃ２−ｃ３；
（ｃ）１次元逆変換を行うが、ｘ＝ＰＴｙを１次元変換の基本ユニットと定義し、ｙ＝［ｙ０，ｙ１，ｙ２，ｙ３，ｙ４，ｙ５，ｙ６，ｙ７］Ｔ、ｘ＝［ｘ０，ｘ１，ｘ２，ｘ３，ｘ４，ｘ５，ｘ６，ｘ７］Ｔであり、前記１次元逆変換は、以下のように行われ、
Ａ.ｍ０＝ｙ０＋ｙ４；ｍ１＝ｙ０−ｙ４；ｍ２＝ｙ２＜＜１＋ｙ６；ｍ３＝ｙ２−ｙ６＜＜１；
Ｂ.ｂ０＝ｍ０＋ｍ２；ｂ１＝ｍ１＋ｍ３；ｂ２＝ｍ１−ｍ３；ｂ３＝ｍ０−ｍ２；
Ｃ．以下の式を利用して、４×４行列積を計算し、
【数２８】
2005269657.tif 000087
前記計算で、変換時、４×４行列積は同じであり、単に入力及び出力のみが交換され、
Ｄ.ｘ０＝ａ０＋ｂ０；ｘ１＝ａ１＋ｂ１；ｘ２＝ａ２＋ｂ２；ｘ３＝ａ３＋ｂ３；
ｘ７＝−ａ０＋ｂ０；ｘ６＝−ａ１＋ｂ１；ｘ５＝−ａ２＋ｂ２；ｘ４＝−ａ３＋ｂ３；
ここで、“＜＜”演算は、レフトシフティング演算を表し、加算／減算演算の優先順位よりさらに高い優先順位を有し、“ａ＜＜ｂ”は、ａがビットレフトシフトされたということを表す段階とを含む方法。
【請求項４】
ビデオコーディング時、整数変換方法として、
イントラフレームまたはインターフレームを通じたエンコーディング側面で、ブロックの予測残留エラーが獲得され、予測及びブロック変換は、エネルギーが少量の係数に集中されるように実行され、次いで、量子化、スキャニング、ランレングスコーディング及びエントロピーコーディングを通じて、イメージデータは圧縮され、コーディングビットストリームに記録され、
デコーディング側面で、エントロピーコーディングのブロック変換係数は、ビットストリームから抽出され、次いで、逆量子化及び逆変換を通じて、ブロックの予測残留エラーが再構成され、ビデオデータを再構成するために予測情報が共に使われる方法において、
（ａ）前記請求項１または２に記載のビデオコーディング時、整数変換行列の選択方法を通じて、ビデオコーディング時、８×８整数変換時に使われた変換行列Ｐを獲得するが、前記変換行列Ｐは、以下のように表現され、前記相応する整数変換ベースは、（４,５,３,１）である段階と、
【数２９】
2005269657.tif 000088
（ｂ）８×８イメージ残留エラーデータブロック上で、Ｙ＝ＰＸＰＴで表現される整数変換を実行するが、基本変換ユニットは、ｙ＝Ｐｘのように表現される８ポイント１次元変換であり、ここで、ｘ＝［ｘ０，ｘ１，ｘ２，ｘ３，ｘ４，ｘ５，ｘ６，ｘ７］Ｔ、出力ベクトルｙ＝［ｙ０，ｙ１，ｙ２，ｙ３，ｙ４，ｙ５，ｙ６，ｙ７］Ｔであり、計算は、次のような段階と、
Ａ.ａ＝ｘ０−ｘ７；ａ１＝ｘ１−ｘ６；ａ２＝ｘ２−ｘ５；ａ３＝ｘ３−ｘ４；ａ４＝ｘ０＋ｘ７；ａ５＝ｘ１＋ｘ６；ａ６＝ｘ２＋ｘ５；ａ７＝ｘ３＋ｘ４；
Ｂ.ｂ０＝ａ４＋ａ７；ｂ１＝ａ５＋ａ６；ｂ２＝ａ４−ａ７；ｂ３＝ａ５−ａ６；
Ｃ.ｙ０＝ｂ０＋ｂ１；ｙ４＝ｂ０−ｂ１；ｙ２＝ｂ２＜＜１＋ｂ３；ｙ６＝ｂ２−ｂ３＜＜１；
以下の式と同一に表現される計算過程を完成させ、
【数３０】
2005269657.tif 000089
Ｄ.ｃ０＝ａ０＜＜２＋ａ３；ｃ１＝ａ２−ａ１＜＜２；ｃ２＝ａ１＋ａ２＜＜２；ｃ３＝ａ３＜＜２−ａ０；
Ｅ.ｙ１＝ｃ０−ｃ１＋ｃ２；ｙ３＝ｃ０−ｃ２−ｃ３；ｙ５＝ｃ０＋ｃ１＋ｃ３；ｙ７＝ｃ１＋ｃ２−ｃ３；
（ｃ）１次元逆変換を行うが、ｘ＝ＰＴｙを１次元変換の基本ユニットと定義し、ｙ＝［ｙ０，ｙ１，ｙ２，ｙ３，ｙ４，ｙ５，ｙ６，ｙ７］Ｔ、ｘ＝［ｘ０，ｘ１，ｘ２，ｘ３，ｘ４，ｘ５，ｘ６，ｘ７］Ｔであり、前記１次元逆変換は、以下のように行われ、
Ａ.ｍ０＝ｙ０＋ｙ４；ｍ１＝ｙ０−ｙ４；ｍ２＝ｙ２＜＜１＋ｙ６；ｍ３＝ｙ２−ｙ６＜＜１；
Ｂ.ｂ０＝ｍ０＋ｍ２；ｂ１＝ｍ１＋ｍ３；ｂ２＝ｍ１−ｍ３；ｂ３＝ｍ０−ｍ２；
Ｃ.以下の式を利用して、４×４行列積を計算し、
【数３１】
2005269657.tif 000090
前記計算で、変換時４×４行列積は同じであり、単に入力及び出力のみが交換され、
Ｄ.ｘ０＝ａ０＋ｂ０；ｘ１＝ａ１＋ｂ１；ｘ２＝ａ２＋ｂ２；ｘ３＝ａ３＋ｂ３；
ｘ７＝−ａ０＋ｂ０；ｘ６＝−ａ１＋ｂ１；ｘ５＝−ａ２＋ｂ２；ｘ４＝−ａ３＋ｂ３；
ここで、“＜＜”演算は、レフトシフティング演算を表し、加算／減算演算の優先順位よりさらに高い優先順位を有し、“ａ＜＜ｂ”は、ａがビットレフトシフトされるということを表す段階とを含む方法。
【請求項５】
ビデオコーディング時、整数変換行列を選択するための方法において、
（ａ）所定の範囲で直交条件を満足する整数変換ベースを検索し、８×８変換行列Ｐのための変換ベースは、（ｋ１，ｋ２，ｋ３，ｋ４）と定義される段階と、
【数３２】
2005269657.tif 000091
（ｂ）多様なイメージ残留エラーデータの相関係数
【数３３】
2005269657.tif 000092
を設定する段階と、
（ｃ）前記設定された相関係数
【数３４】
2005269657.tif 000093
に対するエネルギー集中化効率
【数３５】
2005269657.tif 000094
及び減相関効率
【数３６】
2005269657.tif 000095
を計算する段階と、
（ｄ）所定の相関係数
【数３７】
2005269657.tif 000096
で、それぞれの変換ベースのためのエネルギー集中化効率
【数３８】
2005269657.tif 000097
及び減相関効率
【数３９】
2005269657.tif 000098
の標準化された結果を計算する段階と、
（ｅ）前記相関係数
【数４０】
2005269657.tif 000099
で、前記変換ベースに対する前記標準化されたエネルギー集中化効率
【数４１】
2005269657.tif 000100
及び減相関効率
【数４２】
2005269657.tif 000101
の複合評価値ＥｖａｌＥ及びＥｖｌａＣを獲得するために、加重された和を計算する段階とを含むことを特徴とする方法。
【請求項６】
前記（ｃ）段階は、
（ｃ１）所定の相関係数
【数４３】
2005269657.tif 000102
のための入力イメージ残留エラーデータの共分散行列ＣＯＶ（ＸＶ）を計算する段階と、
（ｃ２）前記変換ベースのための直交変換行列Ｐｕを計算する段階と、
（ｃ３）前記変換ベースに相応する変換行列Ｐを通じて、変換ドメインの共分散行列ＣＯＶ（ＹＶ）を計算する段階とをさらに含むことを特徴とする請求項５に記載の方法。
【請求項７】
前記共分散行列ＣＯＶ（ＸＶ）は、
【数４４】
2005269657.tif 000103
であり、ＸＶ＝［ｘ１，ｘ２，．．．ｘ８］と仮定し、１次マルコフモデルに基づいて樹立されたＸＶ要素の
【数４５】
2005269657.tif 000104
は、隣接ＸＶ要素間の相関係数であり、
【数４６】
2005269657.tif 000105
であり、そして、
前記共分散行列ＣＯＶ（ＹＶ）は、
【数４７】
2005269657.tif 000106
であり、変換ベース（ｋ１，ｋ２，ｋ３，ｋ４）に相応する変換行列Ｐは標準化され、すなわち、Ｐの各行は、直交行列Ｐｕを獲得するために行のベクトル長ほど分割され、ＸＶは、ＹＶ＝ＰｕＸＶのように直交的に変換され、
前記エネルギー集中化効率
【数４８】
2005269657.tif 000107
及び減相関効率
【数４９】
2005269657.tif 000108
は、それぞれ
【数５０】
2005269657.tif 000109
のように定義されることを特徴とする請求項６に記載の方法。
【請求項８】
（ｆ）変換ベースの性能に対する複合評価値Ｅｖａｌを獲得するために、前記ＥｖｌａＣ及びＥｖａｌＥの加重された和を計算する段階をさらに含むことを特徴とする請求項５に記載の方法。
【請求項９】
前記ＥｖｌａＣ及びＥｖａｌＥの加重値は、それぞれ０.４及び０.６であることを特徴とする請求項８に記載の方法。
【請求項１０】
（ｇ）前記変換ベースのための計算複雑性を評価するための段階をさらに含むことを特徴とする請求項８に記載の方法。
【請求項１１】
前記変換ベース性能に対する複合評価値Ｅｖａｌがさらに高い変換ベースを選択し、もし、Ｅｖａｌ値の差が所定値より小さければ、計算複雑性が有利な変換ベースを選択することを特徴とする請求項１０に記載の方法。
【請求項１２】
前記変換ベース係数値の範囲は、ｋ１、ｋ２、ｋ３∈［１,１０］であり、ｋ４∈［１,４］であり、Ｐ・ＰＴ＝Ｄｉａｇを満足する全ての整数直交変換ベースが獲得され、Ｄｉａｇは対角行列であることを特徴とする請求項５に記載の方法。
【請求項１３】
前記相関係数
【数５１】
2005269657.tif 000110
の値は、０.７５、０.８、０.８５、０.９及び０.９５と設定されることを特徴とする請求項５に記載の方法。
【請求項１４】
前記（ｅ）段階で、５個の相関係数
【数５２】
2005269657.tif 000111
に相応する加重値は、それぞれ１／１５、２／１５、３／１５、４／１５及び５／１５であることを特徴とする請求項１３に記載の方法。
【請求項１５】
ビデオコーディング時、整数変換方法において、
（ａ）前記請求項５に記載のビデオコーディング時、整数変換行列の選択方法を通じて、ビデオコーディング時、８×８整数変換時に使われた変換行列Ｐを獲得する段階と、
（ｂ）８×８イメージ残留エラーデータブロック上でＹ＝ＰＸＰＴで表現される整数変換を実行するが、基本変換ユニットは、ｙ＝Ｐｘのように表現される８ポイント１次元変換であり、ここで、ｘ＝［ｘ０，ｘ１，ｘ２，ｘ３，ｘ４，ｘ５，ｘ６，ｘ７］Ｔ、出力ベクトルｙ＝［ｙ０，ｙ１，ｙ２，ｙ３，ｙ４，ｙ５，ｙ６，ｙ７］Ｔである段階と、
（ｃ）１次元逆変換を行うが、ｘ＝ＰＴｙを１次元変換の基本ユニットと定義し、ｙ＝［ｙ０，ｙ１，ｙ２，ｙ３，ｙ４，ｙ５，ｙ６，ｙ７］Ｔ、ｘ＝［ｘ０，ｘ１，ｘ２，ｘ３，ｘ４，ｘ５，ｘ６，ｘ７］Ｔである段階とを含む方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、イメージ処理技術に係り、さらに詳細には、ビデオコーデックでイメージデータ圧縮の整数変換に関する。
【背景技術】
【０００２】
本発明は、整数変換の変換ベース（変換行列）を選択するための方法及び前記変換ベースの選択に基づいてブロック変換を具現するための方法を含む。
【０００３】
Ｈ.２６４及びＭＰＥＧ−４のような、現在国際ビデオコーディング標準で、ビデオ信号は、シーケンス、フレーム、スライス、マクロブロック及びブロックに階層的に分割され、ブロックは、最小処理ユニットとなる。エンコーディング側面で、イントラフレームまたはインターフレーム予測を通じて、ブロックの予測残留エラーが獲得され、ブロック変換は、エネルギーが少数の係数に集中されるように実行され、次いで、量子化、スキャニング、ランレングスコーディング及びエントロピーコーディングを通じて、イメージデータは圧縮され、コーディングされたビットストリームに記録される。デコーディング側面で、処理手順は逆になる。まず、エントロピーコーディングのブロック変換係数がビットストリームから抽出される。次いで、逆量子化及び逆変換を通じて、ブロックの予測残留エラーは再構成され、予測情報は、ブロックのビデオデータを再構成するために使われる。エンコーディング／デコーディング処理手順で、変換モジュールはビデオ圧縮の基礎であり、変換性能はコーデックの一般的な性能に直接的に影響を与える。
【０００４】
離散コサイン変換（ＤＣＴ：Ｄｉｓｃｒｅｔｅ  Ｃｏｓｉｎｅ  Ｔｒａｎｓｆｏｒｍ）は、ＭＰＥＧ−１及びＨ.２６１のような初期ビデオコーディング標準で採択された。１９７４年のＤＣＴの提案以後に、ＤＣＴは、イメージ及びビデオコーディング分野で広く使われた。変換ドメイン内のイメージ要素の相関性を除去し、高効率イメージ圧縮のための基盤を設けるため、その変換性能は、全ての次善変換のうち優秀である。しかし、ＤＣＴ変換行列は、浮動小数点数で表現されるため、大量の浮動小数点計算によって多くのシステム資源が消耗される。変換効率を改善するために、固定小数点計算または大型整数変換を使用した接近法は、浮動小数点計算ＤＣＴを終了するために開発された。しかし、量子化がない時も、精密なエラーの登場によって、逆変換後にイメージデータは完全に再構成できない。すなわち、コーディングの逆変換性は十分でなかった。整数変換は、計算の正確性及びコーディング効率に対する問題点を解決する。整数変換の特性は、以下を含む。ＤＣＴの浮動小数点変換行列は、整数変換行列に代替されて、整数演算は、全体変換過程で実行され、精密なエラーが存在せず、したがって、コーディングの逆変換性が保証される。さらに、整数の乗算は、加算／減算及びシフティング演算に代替されうる。したがって、変換過程は、加算／減算及びシフティング演算によって完全に具現されうるので、計算量は、非常に減少する。整数変換は、最近、国際ビデオコーディング標準Ｈ.２６４／ＭＰＥＧ−４パート１０で使われ、優秀な変換結果が獲得された。最近、整数変換に行われた研究は、イメージ及びビデオ処理分野で相当である。整数変換で他国から獲得した特許は、次の通りである。
【０００５】
１．特許文献１：“デジタル信号のための無損失変換システム”
前記特許によれば、固定値は、ＤＣＴ変換行列の各行に乗算され、各乗算の結果はラウンドされ、変換行列の係数は、逆変換可能な変換を具現するために整数に転換される。しかし、変換直交性の考慮なしに変換行列のかかる誘導は、整数変換が直交ということを保証できない。したがって、変換効率は、影響を受ける。さらに、計算は、量子化過程で行われた複数の乗算／割算で複雑になる。さらに、高速変換アルゴリズムで複数の乗算は、変換効率に影響を与える。
【０００６】
２．特許文献２：“整数演算を利用した整数コサイン変換”
３．特許文献３：“画像コーディングのための整数変換行列”
整数変換行列の変換効率を評価するための方法は、ＤＣＴとの類似性の比較を通じて主に提供される。前記方法は、変換の直交性を保証する。前記特許によれば、理論的に最も最適の行列は、４×４、８×８及び１６×１６の３つの条件下で提案された。しかし、変換性能上の計算複雑性の効果は考慮されなかった。さらに、行列の各ラインまたは行の同じベクトル基準を保証するために、選択された変換行列は、変換効率でＤＣＴに最も近接していない。
【０００７】
４．特許文献４：“ビデオブロック変換”
直交及び非直交で整数変換及び逆変換の行列は、Ｈ.２６Ｌに基づいた４×４ブロックを形成し、マクロブロックＤＣ係数の変換行列及び直交変換に相応する量子化された段階長さは、本特許で提供される。前記特許による変換行列のサイズは、本発明のサイズとは異なる。さらに、前記特許の小さな変換行列は、ＨＤＴＶのようなアプリケーションに適切でない。
【０００８】
８×８ＤＣＴは、次の式（１）で表現されうる。
【０００９】
【数５３】
2005269657.tif 000003
ここで、
【００１０】
【数５４】
2005269657.tif 000004
である。式は、Ｙ＝Ｐ０ＸＰ０Ｔのような行列の形態で表現され、Ｘは、８×８ピクセル予測残留エラー行列であり、Ｙは、変換された行列である。
【００１１】
【数５５】
2005269657.tif 000005
ここで、
【００１２】
【数５６】
2005269657.tif 000006
国際標準Ｈ.２６４による４×４ＤＣＴ変換のための修正手順によれば、８×８変換は、次のように再記録されうる。共通係数は、ベクトルＶ８＝［ａ,ｍ,ｆ,ｍ,ａ,ｍ,ｆ,ｍ］を獲得するために行列の各行から抽出され、ここで、ｍは、行列Ｐ０の偶数ナンバリングされた行から抽出された共通係数であり、ｋ４より大きくない正数値である。そして、変換行列は、次のように再記録される。
【００１３】
【数５７】
2005269657.tif 000007
ここで、
【００１４】
【数５８】
2005269657.tif 000008
行列Ｅ８＝Ｖ８ＴＶ８、８×８行列と定義され、前記変換は、次のように表現されうる。
【００１５】
【数５９】
2005269657.tif 000009
ここで、
【００１６】
【数６０】
2005269657.tif 000010
は、ベクトル積演算を表し、すなわち、行列の相応する要素が乗算される。式（２）の場合、行列Ｅ８の
【００１７】
【数６１】
2005269657.tif 000011
演算は、変換を簡単化するために量子化演算と共に行われうる。したがって、変換の核心は、Ｐ１ＸＰ１Ｔの計算にあり、ここで、Ｘは８×８ピクセル予測残留エラー行列であり、整数を有する。もし、Ｐ１の変数ｋ１、ｋ２、ｋ３、ｋ４及びｋ５が整数であれば、全体変換は、整数演算に転換されうる。したがって、残りの作業は、５個のパラメータｋ１、ｋ２、ｋ３、ｋ４及びｋ５の選択を決定する。本発明による多数の実験を通じて、ｋ１、ｋ２、ｋ３及びｋ４が選択された後、ｋ５の値を２と設定する時、変換性能が最善であることを立証した。Ｃｈａｍは、‘ダイアジック対称の原理による整数コサイン変換の改善’という論文（非特許文献１）で類似した結論を導出した。したがって、ｋ５は、本発明で固定値２と設定され、残りの４個のパラメータの選択のみ研究される。（ｋ１，ｋ２，ｋ３，ｋ４）は、変換ベースと定義される。相応する変換行列Ｐは、次の通りである。
【００１８】
【数６２】
2005269657.tif 000012
【特許文献１】米国特許第５,９９９,９５７号明細書
【特許文献２】ＷＯ０１／０８００１Ａ１
【特許文献３】米国特許第２００２０１１１９７９Ａ１号明細書
【特許文献４】米国特許第２００３／００９３４５２Ａ１号明細書
【特許文献５】韓国特許公開第２００４−０４４２５４号公報
【特許文献６】特開平１０−３０８６７２号公報
【特許文献７】韓国特許公開第２００３−０５０３４４号公報
【特許文献８】ＷＯ特許公報第２００１−５８１６７号明細書
【非特許文献１】ＩＥＥ  Ｐｒｏｃｅｅｄｉｎｇｓ，１９８９，１３６（４）：ｐｐ２７６〜２８８
【発明の開示】
【発明が解決しようとする課題】
【００１９】
ビデオコーディング時、整数変換行列選択方法及び関連整数変換方法は、本発明で提案される。８×８整数ＤＣＴ変換が採択される中国の第１オーディオ及びビデオコーディング標準（ＡＶＳ）を考慮して、整数変換の変換ベースを選択するための方法が提案され、ここで、減相関効率及び変換ベースのエネルギー集中化効率、変換ベースのダイナミック変換範囲及び計算複雑性が評価される。さらに、２個の８×８整数変換ベース（５,６,４,１）及び（４,５,３,１）は、このような方法によって提案され、そして、２個のグループベースに基づいた高速変換アルゴリズムも提案される。
【課題を解決するための手段】
【００２０】
変換ベースの選択は、以下の原則に基づく。
【００２１】
原則１：変換直交性
直交変換は、変換が単に座標システムの回転やイメージのエネルギーは、変化しないということを保証する。変換の直交性を保証するために、式（２）で、Ｐは、次の条件を満足せねばならない。
【００２２】
【数６３】
2005269657.tif 000013
ここで、Ｄｉａｇは対角行列であり、すなわち、その非リーディング対角要素は、‘０’である。そして、量子化手順は、量子化行列の調節を通じて変換直交性を満足させる。
【００２３】
原則２：エネルギー集中化
ＤＣＴ変換の目的は、可能な限り、少ない係数に変換した後に多量のエネルギーを集中させるために、要素中に相関性を除去し、量子化後にエントロピーコーディングの圧縮効率を改善させる。整数変換ベースの選択も、このような原則で行われる。
【００２４】
原則３：高速変換アルゴリズムの簡素化
変換ベースの値は、あまり大きくなく、計算の数は、可能な限り小さいことが要求される。
【００２５】
本発明によるビデオコーディングでの整数変換行列の選択方法は、連続的に特定範囲で直交条件を満足する全ての整数変換ベースを検索するが、８×８変換行列Ｐのための変換ベースは（ｋ１，ｋ２，ｋ３，ｋ４）と定義され、
【００２６】
【数６４】
2005269657.tif 000014
変換ベース係数値の範囲は、ｋ１、ｋ２、ｋ３∈［１,１０］であり、ｋ４∈［１,４］であり、Ｐ・ＰＴ＝Ｄｉａｇを満足する全ての整数直交変換ベースが獲得され、Ｄｉａｇは対角行列である段階と、
（ｂ）相関係数
【００２７】
【数６５】
2005269657.tif 000015
の値が０.７５、０.８、０.８５、０.９及び０.９５である時、入力イメージ残留エラーデータの共分散行列ＣＯＶ（ＸＶ）を樹立するが、８長を有する１次元イメージ予測残留エラーベクトルは、ＸＶ＝［ｘ１，ｘ２，．．．ｘ８］と仮定し、１次マルコフモデルに基づいて樹立されたＸＶ要素の共分散行列ＣＯＶ（ＸＶ）は
【００２８】
【数６６】
2005269657.tif 000016
であり、
【００２９】
【数６７】
2005269657.tif 000017
は、隣接ＸＶ要素間の相関係数であり、
【００３０】
【数６８】
2005269657.tif 000018
である段階と、
（ｃ）変換ベースに相応する変換行列Ｐを通じて、変換ドメインの共分散行列ＣＯＶ（ＹＶ）を獲得するが、
変換ベース（ｋ１，ｋ２，ｋ３，ｋ４）に相応する変換行列Ｐは標準化され、すなわち、Ｐの各行は、直交行列Ｐｕを獲得するために行のベクトル長ほど分割され、ＸＶは、ＹＶ＝ＰｕＸＶのように直交的に変換され、ＹＶの共分散行列は、
【００３１】
【数６９】
2005269657.tif 000019
である段階と、
（ｄ）前記（ｂ）、（ｃ）段階を通じて、相関係数
【００３２】
【数７０】
2005269657.tif 000020
の値が０.７５、０.８、０.８５、０.９及び０.９５である時、エネルギー集中化効率
【００３３】
【数７１】
2005269657.tif 000021
及び減相関効率
【００３４】
【数７２】
2005269657.tif 000022
を計算するが、
前記エネルギー集中化効率
【００３５】
【数７３】
2005269657.tif 000023
は、以下のように定義され、
【００３６】
【数７４】
2005269657.tif 000024
前記減相関効率
【００３７】
【数７５】
2005269657.tif 000025
は、以下のように定義される段階と、
【００３８】
【数７６】
2005269657.tif 000026
（ｅ）所定の相関係数
【００３９】
【数７７】
2005269657.tif 000027
の値でそれぞれの変換ベースのためのエネルギー集中化効率
【００４０】
【数７８】
2005269657.tif 000028
及び減相関効率
【００４１】
【数７９】
2005269657.tif 000029
の標準化された結果を計算するが、前記同じ
【００４２】
【数８０】
2005269657.tif 000030
で第ｉ変換ベースのための
【００４３】
【数８１】
2005269657.tif 000031
の標準化された結果は、次の通りであり、
【００４４】
【数８２】
2005269657.tif 000032
第ｉ変換ベースのための
【００４５】
【数８３】
2005269657.tif 000033
の標準化された結果は、次のような段階と、
【００４６】
【数８４】
2005269657.tif 000034
（ｆ）各相関係数
【００４７】
【数８５】
2005269657.tif 000035
で、全てのグループのベースに対する前記エネルギー集中化効率
【００４８】
【数８６】
2005269657.tif 000036
及び前記減相関効率
【００４９】
【数８７】
2005269657.tif 000037
の複合評価値ＥｖａｌＥ及びＥｖｌａＣを獲得するために、加重された和を計算するが、５個の
【００５０】
【数８８】
2005269657.tif 000038
に相応する加重値は、それぞれ１／１５、２／１５、３／１５、４／１５及び５／１５である段階と、
（ｇ）変換ベース性能に対する複合評価値Ｅｖａｌを獲得するために、前記ＥｖｌａＣ及びＥｖａｌＥの加重された和を計算するが、ＥｖｌａＣ及びＥｖａｌＥの加重値は、それぞれ０.４及び０.６であることを特徴とする。
【００５１】
ビデオコーディング時、前述した整数変換行列の選択方法の他の特徴は、変換ベースの性能に対する前記複合評価値Ｅｖａｌが獲得された後、変換ベース（ｋ１，ｋ２，ｋ３，ｋ４）のための計算複雑性を評価するための段階が追加され、まず、さらに高い複合評価値Ｅｖａｌを有する変換ベースが選択され、もしＥｖａｌ値の差が０.０２より小さければ、計算複雑性でさらに多くの利点を提供するベース、すなわち、さらに少ない加算／減算及びさらに少ないシフティング演算を要求するベースが、さらに良いリアルタイム性能を要求するアプリケーションに望ましいことを特徴とする。
【００５２】
本発明のビデオコーディング時、整数変換方法によれば、イントラフレームまたはインターフレームを通じたエンコーディング側面で、ブロックの予測残留エラーが獲得され、予測及びブロック変換は、エネルギーが少量の係数に集中されるように実行され、次いで、量子化、スキャニング、ランレングスコーディング及びエントロピーコーディングを通じて、イメージデータは圧縮され、コーディングビットストリームに記録され、デコーディング側面で、エントロピーコーディングのブロック変換係数は、ビットストリームから抽出され、次いで、逆量子化及び逆変換を通じて、ブロックの予測残留エラーが再構成され、ビデオデータを再構成するために予測情報が共に使われる方法として、
（ａ）前記請求項１または２に記載のビデオコーディング時、整数変換行列の選択方法を通じて、ビデオコーディング時、８×８整数変換時に使われた変換行列Ｐを獲得するが、前記変換行列Ｐは、以下のように表現され、前記相応する整数変換ベースは（５，６，４，１）である段階と、
【００５３】
【数８９】
2005269657.tif 000039
（ｂ）８×８イメージ残留エラーデータブロック上でＹ＝ＰＸＰＴで表現される整数変換を実行するが、基本変換ユニットは、ｙ＝Ｐｘのように表現される８ポイント１次元変換であり、ここで、ｘ＝［ｘ０，ｘ１，ｘ２，ｘ３，ｘ４，ｘ５，ｘ６，ｘ７］Ｔ、出力ベクトルｙ＝［ｙ０，ｙ１，ｙ２，ｙ３，ｙ４，ｙ５，ｙ６，ｙ７］Ｔであり、計算は、次のような段階と、
Ａ.ａ＝ｘ０−ｘ７；ａ１＝ｘ１−ｘ６；ａ２＝ｘ２−ｘ５；ａ３＝ｘ３−ｘ４；ａ４＝ｘ０＋ｘ７；ａ５＝ｘ１＋ｘ６；ａ６＝ｘ２＋ｘ５；ａ７＝ｘ３＋ｘ４；
Ｂ.ｂ０＝ａ４＋ａ７；ｂ１＝ａ５＋ａ６；ｂ２＝ａ４−ａ７；ｂ３＝ａ５−ａ６；
Ｃ.ｙ０＝ｂ０＋ｂ１；ｙ４＝ｂ０−ｂ１；ｙ２＝ｂ２＜＜１＋ｂ３；ｙ６＝ｂ２−ｂ３＜＜１；
次の式と同一に表現される計算過程を完成させ、
【００５４】
【数９０】
2005269657.tif 000040
Ｄ.ｃ０＝ａ０＜＜２＋ａ０＋ａ３；ｃ１＝ａ２−ａ１−ａ１＜＜２；ｃ２＝ａ１＋ａ２＋ａ２＜＜２；ｃ３＝ａ３＜＜２＋ａ３−ａ０；
Ｅ.ｙ１＝ｃ０−ｃ１＋ｃ２；ｙ３＝ｃ０−ｃ２−ｃ３；ｙ５＝ｃ０＋ｃ１＋ｃ３；ｙ７＝ｃ１＋ｃ２−ｃ３；
（ｃ）１次元逆変換を行うが、ｘ＝ＰＴｙを１次元変換の基本ユニットと定義し、ｙ＝［ｙ０，ｙ１，ｙ２，ｙ３，ｙ４，ｙ５，ｙ６，ｙ７］Ｔ、ｘ＝［ｘ０，ｘ１，ｘ２，ｘ３，ｘ４，ｘ５，ｘ６，ｘ７］Ｔであり、前記１次元逆変換は、以下のように行われ、
Ａ.ｍ０＝ｙ０＋ｙ４；ｍ１＝ｙ０−ｙ４；ｍ２＝ｙ２＜＜１＋ｙ６；ｍ３＝ｙ２−ｙ６＜＜１；
Ｂ.ｂ０＝ｍ０＋ｍ２；ｂ１＝ｍ１＋ｍ３；ｂ２＝ｍ１−ｍ３；ｂ３＝ｍ０−ｍ２；
Ｃ．次の式を利用して、４×４行列積を計算し、
【００５５】
【数９１】
2005269657.tif 000041
前記計算で、変換時、４×４行列積は同じであり、単に入力及び出力のみが交換され、
Ｄ.ｘ０＝ａ０＋ｂ０；ｘ１＝ａ１＋ｂ１；ｘ２＝ａ２＋ｂ２；ｘ３＝ａ３＋ｂ３；
ｘ７＝−ａ０＋ｂ０；ｘ６＝−ａ１＋ｂ１；ｘ５＝−ａ２＋ｂ２；ｘ４＝−ａ３＋ｂ３；
ここで、“＜＜”演算は、レフトシフティング演算を表し、加算／減算演算の優先順位よりさらに高い優先順位を有し、“ａ＜＜ｂ”は、ａがビットレフトシフトされたということを表す段階とを含む。
【００５６】
本発明のビデオコーディング時、他の整数変換方法によれば、イントラフレームまたはインターフレームを通じたエンコーディング側面で、ブロックの予測残留エラーが獲得され、予測及びブロック変換は、エネルギーが少量の係数に集中されるように実行され、次いで、量子化、スキャニング、ランレングスコーディング及びエントロピーコーディングを通じて、イメージデータは圧縮され、コーディングビットストリームに記録され、デコーディング側面で、エントロピーコーディングのブロック変換係数は、ビットストリームから抽出され、次いで、逆量子化及び逆変換を通じて、ブロックの予測残留エラーが再構成され、ビデオデータを再構成するために予測情報が共に使われる方法において、
（ａ）前記請求項１または２に記載のビデオコーディング時、整数変換行列の選択方法を通じて、ビデオコーディング時、８×８整数変換時に使われた変換行列Ｐを獲得するが、前記変換行列Ｐは、次のように表現され、前記相応する整数変換ベースは、（４,５,３,１）である段階と、
【００５７】
【数９２】
2005269657.tif 000042
（ｂ）８×８イメージ残留エラーデータブロック上で、Ｙ＝ＰＸＰＴで表現される整数変換を実行するが、基本変換ユニットは、ｙ＝Ｐｘのように表現される８ポイント１次元変換であり、ここで、ｘ＝［ｘ０，ｘ１，ｘ２，ｘ３，ｘ４，ｘ５，ｘ６，ｘ７］Ｔ、出力ベクトルｙ＝［ｙ０，ｙ１，ｙ２，ｙ３，ｙ４，ｙ５，ｙ６，ｙ７］Ｔであり、計算は、次のような段階と、
Ａ.ａ＝ｘ０−ｘ７；ａ１＝ｘ１−ｘ６；ａ２＝ｘ２−ｘ５；ａ３＝ｘ３−ｘ４；ａ４＝ｘ０＋ｘ７；ａ５＝ｘ１＋ｘ６；ａ６＝ｘ２＋ｘ５；ａ７＝ｘ３＋ｘ４；
Ｂ.ｂ０＝ａ４＋ａ７；ｂ１＝ａ５＋ａ６；ｂ２＝ａ４−ａ７；ｂ３＝ａ５−ａ６；
Ｃ.ｙ０＝ｂ０＋ｂ１；ｙ４＝ｂ０−ｂ１；ｙ２＝ｂ２＜＜１＋ｂ３；ｙ６＝ｂ２−ｂ３＜＜１；
次の式と同一に表現される計算過程を完成させ、
【００５８】
【数９３】
2005269657.tif 000043
Ｄ.ｃ０＝ａ０＜＜２＋ａ３；ｃ１＝ａ２−ａ１＜＜２；ｃ２＝ａ１＋ａ２＜＜２；ｃ３＝ａ３＜＜２−ａ０；
Ｅ.ｙ１＝ｃ０−ｃ１＋ｃ２；ｙ３＝ｃ０−ｃ２−ｃ３；ｙ５＝ｃ０＋ｃ１＋ｃ３；ｙ７＝ｃ１＋ｃ２−ｃ３；
（ｃ）１次元逆変換を行うが、ｘ＝ＰＴｙを１次元変換の基本ユニットと定義し、ｙ＝［ｙ０，ｙ１，ｙ２，ｙ３，ｙ４，ｙ５，ｙ６，ｙ７］Ｔ、ｘ＝［ｘ０，ｘ１，ｘ２，ｘ３，ｘ４，ｘ５，ｘ６，ｘ７］Ｔであり、前記１次元逆変換は、以下のように行われ、
Ａ.ｍ０＝ｙ０＋ｙ４；ｍ１＝ｙ０−ｙ４；ｍ２＝ｙ２＜＜１＋ｙ６；ｍ３＝ｙ２−ｙ６＜＜１；
Ｂ.ｂ０＝ｍ０＋ｍ２；ｂ１＝ｍ１＋ｍ３；ｂ２＝ｍ１−ｍ３；ｂ３＝ｍ０−ｍ２；
Ｃ.次の式を利用して、４×４行列積を計算し、
【００５９】
【数９４】
2005269657.tif 000044
前記計算で、変換時４×４行列積は同じであり、単に入力及び出力のみが交換され、
Ｄ.ｘ０＝ａ０＋ｂ０；ｘ１＝ａ１＋ｂ１；ｘ２＝ａ２＋ｂ２；ｘ３＝ａ３＋ｂ３；
ｘ７＝−ａ０＋ｂ０；ｘ６＝−ａ１＋ｂ１；ｘ５＝−ａ２＋ｂ２；ｘ４＝−ａ３＋ｂ３；
ここで、“＜＜”演算は、レフトシフティング演算を表し、加算／減算演算の優先順位よりさらに高い優先順位を有し、“ａ＜＜ｂ”は、ａがビットレフトシフトされるということを表す段階とを含む。
【発明の効果】
【００６０】
本発明によれば、整数変換ベースの性能のための複合評価方法が提案され、そして、このような方法に基づいたさらに良い性能を有するいくつかのグループの変換ベースが選択され、２つのグループの変換ベースのための高速変換方法が提供される。高解像度ビデオテスティングシーケンスのテスト結果、本発明による望ましい変換ベースグループの性能は、ＪＶＴのＡＢＴ（適応性ブロック変換：Ａｄａｐｔｉｖｅ
Ｂｌｏｃｋ Ｔｒａｎｓｆｏｒｍ）８×８変換より優秀であるということを証明し、ここで、ベース（１０,９,６,２）は、最善の変換性能を表し、（４,５,３,１）は、最低の計算複雑性を提供し、そして（５,６,４,１）の性能は、前記両者の中間に位置する。ＡＢＴ８×８変換と比較して、３つのグループベースは、変換性能及び計算複雑性での利点を維持した。さらに、選択された変換ベースのテストされた性能は、本発明による変換ベース選択方法の正確性及び実行可能性を立証する。前記方法は、整数変換行列に適するだけでなく、変換行列の選択のための重要性を含む多様な変換行列の性能評価にも適している。
【発明を実施するための最良の形態】
【００６１】
以下、添付された図面を参照して本発明を詳細に説明する。
【００６２】
（１）変換ベースの選択
変換ベースの評価手順は、図１に示されている。
【００６３】
多様なイメージ残留エラーデータの相関係数
【００６４】
【数９５】
2005269657.tif 000045
の値は、０.７５と０.９５との間で主に分配される。０.７５、０.８、０.８５、０.９及び０.９５の値で、それぞれの変換ベースに相応するエネルギー集中化効率
【００６５】
【数９６】
2005269657.tif 000046
値が計算され、同じ
【００６６】
【数９７】
2005269657.tif 000047
で多様な変換ベースの
【００６７】
【数９８】
2005269657.tif 000048
値は標準化される。相異なる相関係数
【００６８】
【数９９】
2005269657.tif 000049
で同じ変換ベースに相応した
【００６９】
【数１００】
2005269657.tif 000050
の標準化された結果の加重された和は、ベースグループに相応したエネルギー集中化効率
【００７０】
【数１０１】
2005269657.tif 000051
の複合評価値ＥｖａｌＥを獲得するために計算され、ここで、加重値は、相異なる
【００７１】
【数１０２】
2005269657.tif 000052
値の確率によって決定される。本発明によれば、５個の
【００７２】
【数１０３】
2005269657.tif 000053
ポイントに相応する加重値は、連続的に１／１５、２／１５、３／１５、４／１５、５／１５と設定される。変換ベースグループに相応した減相関効率
【００７３】
【数１０４】
2005269657.tif 000054
の複合評価値ＥｖａｌＣは、同じ手順で計算されうる。
【００７４】
最終的に、変換ベースに相応したエネルギー集中化効率の複合評価値Ｅｖａｌ及び減相関効率は、ＥｖａｌＥ及びＥｖａｌＣの加重された和を計算することによって獲得されうる。エネルギー集中化効率は、変換後に圧縮性能に直接的に影響を与えるため、それの加重値はさらに大きい。評価値ＥｖａｌＥ及びＥｖａｌＣの加重値は、本発明でそれぞれ０.６及び０.４と定義される。
【００７５】
Ｅｖａｌの値を終了する時、さらに低い計算複雑性を有するベースは、さらによく行われる。
【００７６】
次の表は、５個のグループベースに相応する
【００７７】
【数１０５】
2005269657.tif 000055
及び
【００７８】
【数１０６】
2005269657.tif 000056
の複合評価値を示し、変換ベースの範囲がｋ１、ｋ２、ｋ３∈［１,１０］及びｋ４∈［１,４］である時、８ポイント１次元変換を完成するために必要な加算回数及びシフティング演算の回数を表す（変換及び逆変換のための演算の回数は同一である）。
【００７９】
【表１】
2005269657.tif 000057
（１０,９,６,２）及び（６,６,３,２）は、関連論文で提案された。ベース（５,６,４,１）に相応する減相関効率及びエネルギー集中化効率の複合評価値は、ベース（１０,９,６,２）に相応するものの次であり、計算複雑性はさらに低い。ベース（４,５,３,１）に相応する複合評価値は、ベース（６,６,３,２）に相応する複合評価値より多少低いが、計算複雑性での利点は明白である。実際ビデオシーケンステストは、ベース（５,６,４,１）、（４,５,３,１）及び（６,７,５,１）によって提供された歪曲率性能は、（６,６,３,２）によるものより良く、ベース（１０,９,６,２）による性能に最も近接している。
【００８０】
（２）８×８整数変換高速アルゴリズムの具現度
図２ないし図５で、ｘ０、ｘ１、ｘ２、ｘ３、ｘ４、ｘ５、ｘ６及びｘ７は、整数変換の１次元変換の８入力値を表し、同時に逆変換の８出力値である。そして、ｙ０、ｙ１、ｙ２、ｙ３、ｙ４、ｙ５、ｙ６及びｙ７は、１次元変換の８出力値であり、同時に逆変換の８入力値である。データ処理方向は、左側から右側へである。点で交差する２本のラインは、２個の数の加算を表し、１点で交差する３本のラインは、３個の数の加算を表す。四角形は、係数による乗算を表し、ここで、“−”は、否正を表し、“２”は、２の乗算、すなわち、１ビットずつレフトシフティングを表し、“４”は、４の乗算、すなわち、２ビットずつレフトシフティングを表す。
【００８１】
１．変換
整数変換は、８×８イメージ残留エラーデータブロック上で実行され、基本変換ユニットは、ｙ＝Ｐｘのような８ポイント１次元変換であり、ｘ＝［ｘ０，ｘ１，ｘ２，ｘ３，ｘ４，ｘ５，ｘ６，ｘ７］Ｔであり、出力ｙ＝［ｙ０，ｙ１，ｙ２，ｙ３，ｙ４，ｙ５，ｙ６，ｙ７］Ｔである。計算手順は、次の通りである。
【００８２】
まず、変換が相異なる変換行列Ｐで実行される時、共通段階は、次の通りである。
【００８３】
（１）ａ＝０ｘ０−ｘ７；ａ１＝ｘ１−ｘ６；ａ２＝ｘ２−ｘ５；ａ３＝ｘ３−ｘ４；ａ４＝ｘ０＋ｘ７；ａ５＝ｘ１＋ｘ６；ａ６＝ｘ２＋ｘ５；ａ７＝ｘ３＋ｘ４；
（２）ｂ０＝ａ４＋ａ７；ｂ１＝ａ５＋ａ６；ｂ２＝ａ４−ａ７；ｂ３＝ａ５−ａ６；
（３）ｙ０＝ｂ０＋ｂ１；ｙ４＝ｂ０−ｂ１；ｙ２＝ｂ２＜＜１＋ｂ３；ｙ６＝ｂ２−ｂ３＜＜１；
ここで、計算の同じ部分は、１６加算／減算及び２シフティング演算が必要である。
【００８４】
次いで、次の式で計算されるものと同じ個別段階が実行される。
【００８５】
【数１０７】
2005269657.tif 000058
ベース（５,６,４,１）に相応する計算段階は、次の通りである。
【００８６】
（１）ｃ０＝ａ０＜＜２＋ａ０＋ａ３；ｃ１＝ａ２−ａ１−ａ１＜＜２；ｃ２＝ａ１＋ａ２＋ａ２＜＜２；ｃ３＝ａ３＜＜２＋ａ３−ａ０；
（２）ｙ１＝ｃ０−ｃ１＋ｃ２；ｙ３＝ｃ０−ｃ２−ｃ３；ｙ５＝ｃ０＋ｃ１＋ｃ３；ｙ７＝ｃ１＋ｃ２−ｃ３；
全体１６加算／減算及び４シフティング演算が必要である。
【００８７】
ベース（４,５,３,１）のための計算段階は、次の通りである。
【００８８】
（１）ｃ０＝ａ０＜＜２＋ａ３；ｃ１＝ａ２−ａ１＜＜２；ｃ２＝ａ１＋ａ２＜＜２；ｃ３＝ａ３＜＜２−ａ０；
（２）ｙ１＝ｃ０−ｃ１＋ｃ２；ｙ３＝ｃ０−ｃ２−ｃ３；ｙ５＝ｃ０＋ｃ１＋ｃ３；ｙ７＝ｃ１＋ｃ２−ｃ３；
全体１２加算／減算及び４シフティング演算が必要である。
【００８９】
したがって、ｙ＝Ｐｘを一度に完成するために、変換ベース（５,６,４,１）に対して全体３２加算／減算及び６シフティング演算が必要であり、変換ベース（４,５,３,１）に対して２８加算／減算及び６シフティング演算が必要である。８×８ブロックに一回の整数変換を完成させるために必要な計算量は、前述されたユニット計算量の１６倍である。ベース（５,６,４,１）のための変換の高速アルゴリズムは、図２に示される。ベース（４,５,３,１）のための変換の高速アルゴリズムは、図４に示される。
【００９０】
２．逆変換
基本１次元変換ユニットは、ｘ＝ＰＴｙと定義され、ｙ＝［ｙ０，ｙ１，ｙ２，ｙ３，ｙ４，ｙ５，ｙ６，ｙ７］Ｔ、ｘ＝［ｘ０，ｘ１，ｘ２，ｘ３，ｘ４，ｘ５，ｘ６，ｘ７］Ｔである。以下の段階は、１回のｘ＝ＰＴｙ計算である。
【００９１】
（１）ｍ０＝ｙ０＋ｙ４；ｍ１＝ｙ０−ｙ４；ｍ２＝ｙ２＜＜１＋ｙ６；ｍ３＝ｙ２−ｙ６＜＜１；
（２）ｂ０＝ｍ０＋ｍ２；ｂ１＝ｍ１＋ｍ３；ｂ２＝ｍ１−ｍ３；ｂ３＝ｍ０−ｍ２；
（３）次の式を利用して、４×４行列積を計算する段階：
【００９２】
【数１０８】
2005269657.tif 000059
計算式及び変換で、行列積とアルゴリズムとは同じであり、単に入力及び出力データベクトルのみが交換される。２つの表現の計算量は同じである。ベース（５,６,４,１）のために、１６加算／減算及び４シフティング演算が必要であり、ベース（４,５,３,１）のために、１２加算／減算及び４シフティング演算が必要である。
【００９３】
（４）ｘ０＝ａ０＋ｂ０；ｘ１＝ａ１＋ｂ１；ｘ２＝ａ２＋ｂ２；ｘ３＝ａ３＋ｂ３；
ｘ７＝−ａ０＋ｂ０；ｘ６＝−ａ１＋ｂ１；ｘ５＝−ａ２＋ｂ２；ｘ４＝−ａ３＋ｂ３；
“＜＜”演算は、レフトシフティング演算を表し、加算／減算演算の優先順位よりさらに高い優先順位を有する。“ａ＜＜ｂ”は、ａがビットレフトシフトされるということを表す。
【００９４】
共通部分の計算量は、１６加算／減算及び２シフティング演算である。
【００９５】
したがって、１回のｘ＝ＰＴｙを完成させるために、ベース（５,６,４,１）のために、３２加算／減算及び６シフティング演算が必要であり、ベース（４,５,３,１）のために、２８加算／減算及び６シフティング演算が必要である。ベース（５,６,４,１）のための逆変換の高速アルゴリズムは、図３に示される。ベース（４,５,３,１）のための逆変換の高速アルゴリズムは、図５に示される。８×８ブロックに１回の整数変換の逆変換を完成させるために必要な計算量は、前述したユニット計算量の１６倍である。
【産業上の利用可能性】
【００９６】
本発明は、イメージ処理技術に適用可能であり、さらに具体的には、ビデオコーデックでイメージデータ圧縮の整数変換に適用可能である。
【図面の簡単な説明】
【００９７】
【図１】変換ベースの評価手順を示すフローチャートである。
【図２】（５，６，４，１）の変換ベースを有する変換の高速変換アルゴリズムを示す図である。
【図３】（５，６，４，１）の変換ベースを有する逆変換の高速変換アルゴリズムを示す図である。
【図４】（４，５，３，１）の変換ベースを有する高速変換アルゴリズムを示す図である。
【図５】（４，５，３，１）の変換ベースを有する逆変換の高速変換アルゴリズムを示す図である。
【図１】
2005269657.tif 000112
【図２】
2005269657.tif 000113
【図３】
2005269657.tif 000114
【図４】
2005269657.tif 000115
【図５】
2005269657.tif 000116