(57)【要約】  非線形適応重複変換（ＮＡＬＴ）を導出し使用する方法、装置及び製品である。一実施形態では、方法は、原フレームデータと処理済みのフレームデータの局所統計量の間の統計的フィットのパラメータを受信するステップと、フレームデータへの逆重複変換の適用のためのアダプテーションパラメータを決定するステップと、フィルタリングアダプテーションパラメータに応じてフレームデータをフィルタ処理するステップとを備える。【選択図】  図１
2008547288.tif 000002
【特許請求の範囲】
【請求項１】
原フレームデータと処理済みのフレームデータの局所統計量の間の統計的フィットのパラメータを受信するステップと、
フレームデータへの逆重複変換の適用のためのアダプテーションパラメータを決定するステップと、
フィルタリングアダプテーションパラメータに応答して前記フレームデータをフィルタ処理するステップと、
を備える方法。
【請求項２】
システムによって実行されたときに、
原フレームデータと処理済みのフレームデータの局所統計量の間の統計的フィットのパラメータを受信するステップと、
フレームデータへの逆重複変換の適用のためのアダプテーションパラメータを決定するステップと、
フィルタリングアダプテーションパラメータに応答して前記フレームデータをフィルタ処理するステップと、
を備える方法を前記システムに実行させる命令を記憶する１つ以上のコンピュータ読み取り可能な媒体を有する製品。
【請求項３】
フレームデータへの逆重複変換の適用のためのアダプテーションパラメータを決定する重複変換パラメータ再構成モジュールと、
フィルタリングアダプテーションパラメータに応答して前記データにフィルタリングを実行するポストフィルタモジュールと、
を備えるビデオデコーダ。
【請求項４】
映像フレーム内のデータを符号化するビデオコーダであって、
前記データへの重複変換の適用のためのアダプテーションパラメータを決定するためフレームデータを操作する第１のモジュールと、
前記第１のモジュールから受信されたフィルタリングアダプテーションパラメータに基づいて前記データをフィルタ処理するプリフィルタと、
前記データの逆重複変換によって使用される前記アダプテーションパラメータを決定するため再構成済みフレームデータを操作する第２のモジュールと、
受信された再構成済み重複変換アダプテーションパラメータに基づいて再構成済みフレームデータをフィルタ処理するポストフィルタと、
を備えるビデオコーダ。
【請求項５】
映像フレーム内のデータを映像符号化する方法であって、
前記データへの重複変換の適用のためのアダプテーションパラメータを決定するステップと、
前記アダプテーションパラメータに基づいて前記データをフィルタ処理するステップと、
前記データに基づく再構成済みフレームデータの逆重複変換によって使用される前記アダプテーションパラメータを決定するステップと、
決定された逆重複変換アダプテーションパラメータに基づいて前記再構成済みフレームデータをフィルタ処理するステップと、
を備える方法。
【発明の詳細な説明】
【優先権】
【０００１】
[0001]本特許出願は、２００５年６月１７日に出願され、名称が“Ｍｅｔｈｏｄ  Ａｎｄ  Ａｐｐａｒａｔｕｓ  Ｆｏｒ  Ｌａｐｐｅｄ  Ｔｒａｎｓｆｏｒｍ  Ｃｏｄｉｎｇ  ａｎｄ  Ｄｅｃｏｄｉｎｇ”である対応する仮特許出願第６０／６９１，７５８号の優先権を主張し、参照として組み入れる。
【発明の分野】
【０００２】
[0002]本発明は重複変換符号化の分野に関し、特に、本発明はオーバーヘッドが低減された適応重複変換符号化に関する。
【発明の背景】
【０００３】
[0003]データの変換符号化の要素のうちの１つはデータへの変換の適用によって表現される。画像内のデータのブロックを独立に処理するためにブロック変換を使用することは符号化性能を制限し、再構成された画像に目に見える望ましくないブロッキングアーティファクトを生み出す。これらのアーティファクトを低減するため、ブロック間のある量のオーバーラップが変換符号化プロセスで考慮に入れられ、その結果、画像又は映像符号化及び復号化のため重複変換が使用されることになる。重複変換の設計は変換符号化及び復号化プロセスのレート歪み性能のため、並びに、ブロッキングアーティファクトが低減され得る程度を決定するため重要である。
【０００４】
[0004]重複直交変換（ＬＯＴ）は、Ｃａｓｓｅｒｅａｕ，  “Ａ  Ｎｅｗ  Ｃｌａｓｓ  ｏｆ  Ｏｐｔｉｍａｌ  Ｕｎｉｔａｒｙ  Ｔｒａｎｓｆｏｒｍｓ  ｆｏｒ  Ｉｍａｇｅ  Ｐｒｏｃｅｓｓｉｎｇ，”  Ｍ．Ｓ．  Ｔｈｅｓｉｓ，  Ｍａｓｓ．  Ｉｎｓｔ．  Ｔｅｃｈ．，  Ｍａｙ  １９８５における業績に基づいて、Ｈ．Ｓ．  Ｍａｌｖａｒ及びＤ．Ｈ．  Ｓｔａｅｌｉｎ，  “Ｔｈｅ  ＬＯＴ：  Ｔｒａｎｓｆｏｒｍ  Ｃｏｄｉｎｇ  Ｗｉｔｈｏｕｔ  Ｂｌｏｃｋｉｎｇ  Ｅｆｆｅｃｔｓ，”  ＩＥＥＥ  Ｔｒａｎｓａｃｔｉｏｎｓ  ｏｎ  Ａｃｏｕｓｔｉｃｓ，  Ｓｐｅｅｃｈ，  ａｎｄ  Ｓｉｇｎａｌ  Ｐｒｏｃｅｓｓｉｎｇ，  ｖｏｌ．ＡＳＳＰ−３７，  ｐｐ．５５３−５５９，  Ａｐｒｉｌ  １９８９で発表された。ＬＯＴは、離散コサイン変換（ＤＣＴ）基底関数に基づいて設計された直交変換である。ＬＯＴは、ブロッキングアーティファクトを低減することにより、ブロックＤＣＴを改良することが可能である。しかし、ＬＯＴの低周波数の基底関数のテール部分が正確に零まで減衰しないので、依然としてある程度のブロッキングアーティファクトが、特に、低データビットレートで、画像に残る。
【０００５】
[0005]ＬＯＴの欠点に対処するため、重複双直交変換（ＬＢＴ）が、順重複変換及び逆重複変換の基底関数のテール部においてサンプルのスケーリングによってＬＯＴを変化させることにより、Ｈ．Ｓ．  Ｍａｌｖａｒ，  “Ｂｉｏｒｔｈｏｇｏｎａｌ  ａｎｄ  Ｎｏｎ−ｕｎｉｆｏｒｍ  Ｌａｐｐｅｄ  Ｔｒａｎｓｆｏｒｍｓ  ｆｏｒ  Ｔｒａｎｓｆｏｒｍ  Ｃｏｄｉｎｇ  ｗｉｔｈ  Ｒｅｄｕｃｅｄ  Ｂｌｏｃｋｉｎｇ  ａｎｄ  Ｒｉｎｇｉｎｇ  Ａｒｔｉｆａｃｔｓ，”  ＩＥＥＥ  Ｔｒａｎｓａｃｔｉｏｎｓ  ｏｎ  Ｓｉｇｎａｌ  Ｐｒｏｃｅｓｓｉｎｇ，  ｖｏｌ．４６，  ｐｐ．１０４３−１０５３，  Ａｐｒｉｌ  １９９８と、Ｒ．Ｌ．  ｄｅ  Ｑｕｅｉｒｏｚ，  Ｔ．Ｑ．  Ｎｇｕｙｅｎ，  及び  Ｋ．Ｒ．  Ｒａｏ，  “Ｔｈｅ  Ｇｅｎｅｒａｌｉｚｅｄ  Ｌａｐｐｅｄ  Ｏｒｔｈｏｇｏｎａｌ  Ｔｒａｎｓｆｏｒｍｓ，”  Ｅｌｅｃｔｒｏｎｉｃｓ  Ｌｅｔｔｅｒｓ，  ｖｏｌ．３０，  Ｊａｎｕａｒｙ  １９９に提案された。
【０００６】
[0006]重複直交変換は、データの複数のブロックに亘るオーバーラップの量を増加させることによって一般化される。かくして、一般化ＬＯＴ（ＧｅｎＬＯＴ）が生まれる。Ｒ．Ｌ．  ｄｅ  Ｑｕｅｉｒｏｚ，  Ｔ．Ｑ．  Ｎｇｕｙｅｎ，  ａｎｄ  Ｋ．Ｒ．  Ｒａｏ，  “Ｔｈｅ  Ｇｅｎｅｒａｌｉｚｅｄ  Ｌａｐｐｅｄ  Ｏｒｔｈｏｇｏｎａｌ  Ｔｒａｎｓｆｏｒｍｓ，”  Ｅｌｅｃｔｒｏｎｉｃｓ  Ｌｅｔｔｅｒｓ，  ｖｏｌ．３０，  Ｊａｎｕａｒｙ  １９９４と、Ｒ．Ｌ．  ｄｅ  Ｑｕｅｉｒｏｚ，  Ｔ．Ｑ．  Ｎｇｕｙｅｎ，  ａｎｄ  Ｋ．Ｒ．  Ｒａｏ，  “Ｔｈｅ  ＧｅｎＬＯＴ：  Ｇｅｎｅｒａｌｉｚｅｄ  Ｌｉｎｅａｒ  Ｐｈａｓｅ  Ｌａｐｐｅｄ  Ｏｒｔｈｏｇｏｎａｌ  Ｔｒａｎｓｆｏｒｍ，”  ＩＥＥＥ  Ｔｒａｎｓａｃｔｉｏｎｓ  ｏｎ  Ｓｉｇｎａｌ  ｐｒｏｃｅｓｓｉｎｇ，  ｖｏｌ．４４，  ｐｐ．４９７−５０７，  Ｍａｒｃｈ  １９９６を参照のこと。
【０００７】
[0007]リフト型重複変換の実施が既に使用されているが、リフト型重複変換は非適応変換である。逆重複変換の係数を重み付けすることにより、エンコーダにおけるＤＣＴ変換の使用によって持ち込まれるアーティファクトを訂正しようとする逆重複変換が存在する。重み付けの決定は、変換され再構成されたデータ中の実画像特徴からのブロッキングアーティファクト効果の識別に依存し、信頼性に欠け、容易でない。重み付けは逆重複変換だけに適用され、原則的に加重後処理アプローチという結果になる。
【０００８】
[0008]重複変換は画像内のブロッキングアーティファクトを低減するが、重複変換は、複数のブロックに亘って広がる可能性がある変換の基底関数が長くなることに起因して、リンギングアーティファクトを生成することもある。この問題を緩和するため、可変長重複変換（ＶＬＬＯＴ）が提案された。可変長重複変換は、ブロッキングアーティファクトを低減するように作られた長い基底関数、並びに、リンギングアーティファクトを低減させることができる短い基底関数を保有している。
【０００９】
[0009]画像及び映像符号化で使用されている既存の重複変換は、処理されているデータに関する事前統計学的仮説の組に基づいて決定される。主な事例では、事前統計学的仮説は実際には満たされない。よって、不一致が重複変換の設計と重複変換が適用されるデータの特性との間に存在する。さらに、殆どの事例では、一意の重複変換が画像内の全ブロックを処理するために使用されるか、又は、高々変換の基底関数の長さが変更されるだけである。この変換設計は、変換が適用される画像データ内の統計的変動を捕捉し利用するために（固定長であるか可変長であるかを問わず）変換の基底関数の構造に必要とされる適応性が欠けている。さらに、局所適応条件が存在するならば、結果として大きなオーバーヘッドが生じ、プロセスの全体性能に悪影響を与える。デコーダで利用可能である再構成されたデータの特性だけに基づく逆重複変換だけのアダプテーションは別の制限要因である。
【発明の概要】
【００１０】
[0010]非線形適応重複変換（ＮＡＬＴ）を導出し使用する方法、装置及び製品である。一実施形態では、方法は、原フレームデータと処理済みのフレームデータの局所統計量の間の統計的フィットのパラメータを受信するステップと、フレームデータへの逆重複変換の適用のためのアダプテーションパラメータを決定するステップと、フィルタリングアダプテーションパラメータに応じてフレームデータをフィルタ処理するステップとを備える。
【本発明の詳細な説明】
【００１１】
[0011]本発明は以下に記載されている詳細な説明と発明の種々の実施形態についての添付図面からより完全に理解されるが、添付図面は発明を特定の実施形態に限定するために利用されるべきではなく、説明と理解だけを目的としている。
【００１２】
[0025]非線形適応重複変換（ＮＡＬＴ）を導出し使用する方法、装置及び製品である。一実施形態では、ＮＡＬＴの決定は、エンコーダからデコーダへ伝達される低い関連オーバーヘッドを維持したまま、エンコーダにおける変換の基底関数を、画像の局所統計量、及び、デコーダでの逆重複変換パラメータの推定量に適応させることに基づいている。一実施形態では、重複変換は、レート歪み符号化性能を増加させる画像内の局所ブロック統計量に適応し、コーダからデコーダへ伝達される関連オーバーヘッド情報の量を低減し、可能であれば、最小限に抑えるように構築されている。一実施形態では、アダプテーションは順重複変換と逆重複変換の両方で行われている。
【００１３】
[0026]以下の説明中、多数の細部が本発明のより完全な説明を行うために記載されている。しかし、当業者に明白であるように、本発明はこれらの特定の細部を用いることなく実施される。別の事例では、周知の構成及び装置は、本発明を分かりにくくすることを避けるために、細部にわたることなくブロック図形式で示されている。
【００１４】
[0027]以下の詳細な説明の一部は、アルゴリズム及びコンピュータメモリ内のデータビットへの演算の記号表現という形で提示されている。これらのアルゴリズム的な記述及び表現は、データ処理技術の専門家が自分の業績の内容を他の当業者へ最も効率的に伝えるためにデータ処理技術の専門家によって使用される手段である。アルゴリズムは、本明細書中で、及び、一般的に、所望の結果につながるステップの首尾一貫したシーケンスであると考えられている。ステップは、物理量の物理的操作を必要とするステップである。通常は、不可欠ではないが、物理量は、記憶、転送、合成、比較、及び、その他の操作の対象となり得る電気的又は磁気的信号の形をとる。主として慣用法の理由で、電気的又は磁気的信号をビット、値、要素、シンボル、文字、項、番号などのように呼ぶことが時には便利であることがわかった。
【００１５】
[0028]しかし、上記の用語及び類似した用語は、適切な物理量と関連付けられるべきであり、電気的又は磁気的信号に適用される便宜的なラベルに過ぎないことに注意すべきである。特に断らない限り、以下の説明から明白であるように、説明の全体を通じて、「処理」又は「コンピューティング」又は「計算」又は「決定」又は「表示」のような用語を利用する説明は、コンピュータシステムのレジスタ及びメモリ内で物理（電子）量として表現されているデータを操作し、コンピュータシステムメモリ若しくはレジスタ内、又は、その他の情報記憶装置、伝送機器、又は、表示機器内で物理量として同様に表現される他のデータへ変換する、コンピュータシステム、又は、類似した電子コンピュータ装置の作用及びプロセスを指している。
【００１６】
[0029]本発明は中で演算を実行する装置にも関する。この装置は、必要な目的のため特別に構成されることがあり、或いは、この装置は、コンピュータに記憶されているコンピュータプログラムによって選択的に作動されるか、又は、再構成される汎用コンピュータを備える。このようなコンピュータプログラムは、限定されることはないが、たとえば、各々がコンピュータシステムバスに接続されているフロッピーディスク、光ディスク、ＣＤ−ＲＯＭ、及び、光磁気ディスクを含むあらゆるタイプのディスクと、リードオンリーメモリ（ＲＯＭ）と、ランダムアクセスメモリ（ＲＡＭ）と、ＥＰＲＯＭと、ＥＥＰＲＯＭと、磁気又は光カードと、電子命令を記憶するため適した任意のタイプの媒体などのようなコンピュータ読み取り可能な記憶媒体に記憶されてもよい。
【００１７】
[0030]本明細書に提示されているアルゴリズム及び表示は、何らかの特有のコンピュータ又はその他の装置に本質的に関係していない。様々な汎用システムが本明細書における教示によるプログラムと共に使用され、又は、要求されている方法ステップを実行するためにより特殊化された装置を構築する方が好都合であるとわかることもある。多種多様なこれらのシステムの必要とされる構成は以下の説明からわかるであろう。さらに、本発明は何らかの特有のプログラミング言語に関して記載されていない。多種多様なプログラミング言語が本明細書に記載されている発明の教示を実施するために使用されることが認められるであろう。
【００１８】
[0031]機械読み取り可能な媒体は、機械（たとえば、コンピュータ）によって読み取り可能な形式で情報を記憶又は伝送するメカニズムを含む。たとえば、機械読み取り可能な媒体は、リードオンリーメモリ（「ＲＯＭ」）と、ランダムアクセスメモリ（「ＲＡＭ」）と、磁気ディスク記憶媒体と、光記憶媒体と、フラッシュメモリ機器と、電気的、光学的、音響的又はその他の形式の伝搬信号（たとえば、搬送波、赤外線信号、デジタル信号など）等々を含む。
【００１９】
概論
[0032]本発明の実施形態は重複変換を用いる符号化を含む。一実施形態では、重複変換は、画像データの境界に水平フィルタリング及び垂直フィルタリングを適用し、その後に続いて、ブロック変換を適用することによって実施される。水平フィルタリング及び垂直フィルタリングはどのような順序で実行されてもかまわない。水平フィルタリングを実行するとき、フィルタリングは、境界が領域の左側と右側のどちらでフィルタ処理されているかに依存して、左又は右で近傍ブロックに達する。同様に、垂直フィルタリングを実行するとき、フィルタリングは、境界が領域の上と下のどちらでフィルタ処理されているかに依存して、領域の上及び下で近傍ブロックに達する。
【００２０】
[0033]同様に、水平フィルタリング又は垂直フィルタリングを実行するとき、一実施形態では、フレーム内の境界の全てが同時にフィルタ処理される。すなわち、水平フィルタリングでフィルタ処理されている全ての境界は、垂直フィルタリングが実行される前にフィルタ処理される。一実施形態では、ブロック変換はＤＣＴ変換であるが、どのような変換が使用されてもよい。
【００２１】
[0034]技術は、固定長を使用してもなお変換の基底関数が適応するという点で適応性がある。一実施形態では、変換は、データの各領域に適用される変換が局所統計量に依存するように適応している。すなわち、データの一部の統計量は、ある量のフィルタリング（たとえば、より強力なフィルタリング）が適用されるべきであるかどうかを決定するために検査される。一実施形態では、検査された統計量はデータの標準偏差又は分散である。適応方法は水平方向と垂直方向の両方で同じ量であるが、同じ量であることは必須ではない。
【００２２】
[0035]アダプテーションは、図７に示されているように、境界を形成するサンプルのベクトル毎にベクトル単位のアダプテーションであることに注意すべきである。代替的に、アダプテーションは２つ以上のベクトル又は全てのベクトルに基づくことがある。本明細書での目的のため、アダプテーションの単位は（ブロック境界内の１つのベクトルであるか、又は、２つ以上のベクトルであるかとは無関係に）、本明細書では、ＮＡＬＴアダプテーションの要素と呼ばれる。このような事例では、各ベクトルは依然として個別にフィルタ処理されるが、フィルタリングは選択されたフィルタに基づいていることに注意すべきである。
【００２３】
[0036]エンコーダによって実行されるアダプテーションに関してデコーダに通知するため、エンコーダは、使用されている統計量（たとえば、標準偏差）の間の統計的フィットを表現する関数を決定する。一実施形態では、統計的フィットは、対応するオリジナルの標準偏差と、再構成（逆量子化及び逆ブロック変換）されているが、しかし、未だ重複しているアダプテーションの要素との間にある。一実施形態では、このような関数は、水平方向と垂直方向の両方のため生成され、これらの関数のためのパラメータがデコーダへ送られる。後述されているように、ＬＴ−ＰＤＭは、これらの関数を識別し、符号化され、符号化ビットストリームに組み込まれるべきパラメータを送る。一実施形態では、関数は２次多項式である。しかし、その他の関数が使用されることもある。
【００２４】
エンコーダの実施例
[0037]図１はビデオコーダのブロック図である。図１を参照すると、ビデオコーダは、動き推定モジュール（ＭＥＭ）１２９と、動き補償モジュール（ＭＣＭ）１３１と、変換符号化モジュール（ＴＣＭ）１１４と、動きデータ処理モジュール（ＭＤＰＭ）１２７と、重複変換パラメータ決定モジュール（ＬＴ−ＰＤＭ）１５２と、重複変換パラメータ再構成モジュール（ＬＴ−ＰＲＭ）１５４と、プリフィルタリングモジュール（ｐｒｅ−ｆｉｌｔｅｒ）１５１と、ポストフィルタリングモジュール（ｐｏｓｔ  ｆｉｌｔｅｒ）１５５と、フレーム記憶装置（メモリ）１２６と、減算器１０３と、加算器１１７と、スイッチＳＷ１１８、１４１、１４２、１５２、１５６と、セレクタ１５３とを含む。変換符号化モジュール（ＴＣＭ）１１４は、今度は、変換モジュール１１１と、量子化モジュール１１２と、エントロピー符号化モジュール１１３とを含む。一実施形態では、プリフィルタ１５１は順変換（順フィルタ）を備え、ポストフィルタ１５２は逆変換（逆フィルタ）を備える。
【００２５】
[0038]プリフィルタ（ｐｒｅ−ｆｉｌｔｅｒ）１５１の入力でのフレームデータは、映像フレーム又は変位フレーム差（ＤＦＤ）フレームで構成される。ＤＦＤフレームは、映像符号化プロセスにおける慣例通りに、映像フレーム中のデータとＭＣＭ１３１の出力に生成されたこのデータの予測との間の差を利用することによってビデオコーダにおいて取得される。ＭＣＭ１３１は、フレーム記憶装置１２６に格納されている再構成済み映像フレームに基づいて、ＭＥＭ１２９によって生成された動き情報（すなわち、動くベクトル１５０）を使用して、予測、すなわち、予測映像フレーム１３２を生成する。
【００２６】
[0039]代替的に、ビデオコーダが、従来型のコーダのイントラ符号化モードに対応して、予測を用いることなく映像フレームをそのまま符号化するとき、ＭＥＭ１２９、ＭＣＭ１３１及びＭＤＰＭ１２７は利用されない。
【００２７】
[0040]ビデオコーダは、例示的に、ブロック内の各位置でのルミナンス値及びクロミナンス値により構成されたブロック分割フレームデータで順次に作動する。
【００２８】
[0041]より詳細には、図１を参照すると、映像フレーム１０１はビデオコーダに入力される。予測が生成される場合、フレームデータ１０１は、予測を実行するときに閉成されるスイッチ１４２を介してＭＥＭ１２９に供給される。同様に、映像フレーム１０１は減算器１０３の一方の入力に接続されている。減算器１０３のもう一方の入力は、予測を行うときに閉成されるスイッチ１４１経由のＭＣＭ１３１からの予測映像フレーム１３２からなる。減算器１０３の出力はプリフィルタ１５１の一方の入力と、図１において（１）として示されているように、ＬＴ−ＰＤＭ１５２の入力とに接続されているフレームデータ１０２である。よって、（１）は、イントラ符号化モードが選択されているならば、映像フレームで構成され、予測フレームが作成されているならば、予測誤差フレームにより構成されている。２つのタイプのデータは、本明細書では、フレームデータと呼ばれている。
【００２９】
[0042]フレームデータ１０２に応答して、ＬＴ−ＰＤＭ１５２は、プリフィルタ１５１によってフレームデータ１０２に適用されるべき一方向（たとえば、水平）に適用されるフィルタを選択する。ＬＴ−ＰＤＭ１５２は、重複変換をデータに適用するためのフィルタパラメータを決定するためにフレームデータで作動する。一実施形態では、ＬＴ−ＰＤＭ１５２は、フレーム内のブロック境界の統計量を決定するために局所統計量計算モジュールを含み、局所統計量に基づいて順重複変換のパラメータを決定するためにプリフィルタパラメータ計算モジュールを含む。
【００３０】
[0043]ＬＴ−ＰＤＭ１５２は、（複数の）フィルタを指定するフィルタパラメータ、ＮＡＬＴパラメータ１５０をプリフィルタ１５１へ送る（（２）として示されている）。ＮＡＬＴパラメータに応答して、プリフィルタ１５１は、ＬＴ−ＰＤＭ１５２から受信されたフィルタリングパラメータに基づいて一方向（たとえば、水平）にフレームデータ１０２をフィルタ処理する。一実施形態では、プリフィルタ１５１は、受信されたパラメータに基づいてフレームデータをフィルタ処理するために水平適応フィルタを備える。水平フィルタ処理されたデータは、方向フィルタ処理されたデータ１６１としてプリフィルタ１５１からＬＴ−ＰＤＭ１５２へ送られる（（３）として示されている）。
【００３１】
[0044]方向フィルタ処理されたデータ１６１に応答して、ＬＴ−ＰＤＭ１５２は、プリフィルタ１５１において方向フィルタ処理されたデータ１６１（たとえば、水平フィルタ処理されたデータ）に適用されるべきであると決定された、フィルタに対応する別のフィルタパラメータの組を生成するために、他の方向（たとえば、垂直）を除いて、フレーム１０２に対し実行されたプロセスと同じプロセスを繰り返す。ＬＴ−ＰＤＭ１５２は、ＮＡＬＴパラメータ１５０としてフィルタパラメータをプリフィルタ１５１に送り（（４）として示されている）、プリフィルタはパラメータを使用し、水平フィルタ処理されたデータに他の方向（たとえば、垂直）にフィルタリングを実行する。一実施形態では、プリフィルタ１５１は、ＬＴ−ＰＤＭ１５２から受信されたフィルタパラメータに基づいてフレームデータをフィルタ処理するために垂直適応フィルタを備える。この時点で、フレームデータ１０２は両方向に、すなわち、水平及び垂直にフィルタ処理されている。
【００３２】
[0045]プリフィルタ１５１から出力されるフィルタ処理されたフレームデータは、スイッチ１５２が閉成されているならば、変換コーダ１１４へ送られる。上述されているように、変換コーダ１１４は、フレームデータ１０２に応答して変換係数１０４を生成する変換モジュール１１１と、変換係数１０４を受信し、量子化変換係数１０５を生成する量子化器１１２と、量子化変換係数を受信し、符号化フレームデータ１０６を生成するエントロピーコーダ１１３とを含み、符号化フレームデータは変換コーダ１１４から出力され符号化データ１０７を生じる。
【００３３】
[0046]量子化器１１２から出力された量子化変換係数１０５は、逆量子化器１１５にも入力され、逆量子化器は、量子化変換係数に応答して、再構成済み変換係数１０８を生成する。逆変換１１６は、再構成済み変換係数１０８を受信し、再構成済み重複フレームデータ１０９を生成する。プリフィルタ１５１から逆変換１１６の出力までのパスが（５）として示されていることに注意すべきである。
【００３４】
[0047]再構成済み重複フレームデータ１０９は、セレクタ１５３を介してＬＴ−ＰＤＭ１５２と、ＬＴ−ＰＲＭ１５４とに送られる（（６）として示されている）。ＬＴ−ＰＤＭ１５２は、原フレームデータ１０２の局所統計量と対応する再構成済み重複フレームデータ１０９における局所統計量との間の依存性に関数をフィットさせるパラメータを決定するために、統計的依存性計算モジュールを含む。このパスにおいて、ＬＴ−ＰＤＭ１５２の局所統計量計算モジュールは、アダプテーションの要素のレベルで、再構成されているが、依然として重複しているデータの局所統計量を計算する。一実施形態では、統計的依存性計算モジュールは、２組のデータの間で最小二乗フィットを実行する。統計的依存性計算モジュールの出力は、ＬＴ−ＰＲＭ１５４へ送られる統計量フィットパラメータ１６２である（（７）として示されている）。
【００３５】
[0048]統計量フィットパラメータ１６２及び再構成済みフレームデータ１０９に応答して、ＬＴ−ＰＲＭ１５４は、データの逆重複変換によって使用される一方向（たとえば、垂直）のためのフィルタパラメータを決定する。一実施形態では、ＬＴ−ＰＲＭ１５４は、再構成済みフレーム内のブロック境界の統計量を決定する局所統計量計算モジュールと、受信された局所統計量及び統計量依存性フィットパラメータとに基づいて逆重複変換のフィルタパラメータを決定するポストフィルタパラメータ計算モジュールとを備える。ＬＴ−ＰＲＭ１５４は再構成ＮＡＬＴパラメータ１６４をポストフィルタ１５５へ送る（（８）として示されている）。
【００３６】
[0049]再構成ＮＡＬＴパラメータ１６４に応答して、ポストフィルタ１５５は、方向フィルタ処理済みの再構成済みフレームデータ１６５を生成するために一方向（たとえば、垂直）に再構成済み重複フレームデータをフィルタ処理し、再構成済みフレームデータ１６５を（セレクタ１５３の設定に基づいて再構成済みフレームデータ１６３として）ＬＴ−ＰＲＭ１５４及びＬＴ−ＰＤＭ１５２へ送る（（９）として示されている）。一実施形態では、ポストフィルタ１５５は、アダプテーションパラメータに基づいて再構成済みフレームデータをフィルタ処理するため垂直適応フィルタを備える。
【００３７】
[0050]方向フィルタ処理済みの再構成済みフレームデータ１６５に応答して、ＬＴ−ＰＤＭ１５２は、統計量フィットパラメータ１６２を生成し、ＬＴ−ＰＲＭ１５４へ送る（（１０）として示されている）。統計量フィットパラメータに応答して、ＬＴ−ＰＲＭ１５４は、ポストフィルタ１５５により適用される逆重複変換によって使用されるべき他の方向（たとえば、水平）のためのフィルタパラメータを決定する。ＬＴ−ＰＲＭ１５４は再構成ＮＡＬＴパラメータ１６４としてフィルタパラメータをポストフィルタ１５５へ送る（（１１）として示されている）。フィルタパラメータに応答して、ポストフィルタ１５５は、方向フィルタ処理された再構成済みフレームデータ１６５にある方向（たとえば、水平）に逆変換を適用する。一実施形態では、ポストフィルタ１５５は、フィルタパラメータに基づいて再構成済みフレームデータをフィルタ処理するために水平適応フィルタを含む。
【００３８】
[0052]エントロピーコーダ１１３もまたＬＴ−ＰＤＭ１５２からの統計量フィットパラメータ１６２と、ＭＤＰＭ１２６からの処理済みの動きデータ１１０とを受信し、符号化する。統計量フィットパラメータ１６２の場合、パラメータは、水平方向と垂直方向の両方向の処理のパラメータからなり、一体として符号化されるか、又は、２つのグループとして別々に符号化される。
【００３９】
[0053]ポストフィルタ１５５の出力もまたスイッチ１５６及び１１８を介してフレーム記憶装置１２６又は加算器１１７に接続されている。予測ブロックを処理するならば、スイッチ１１８はポストフィルタ１５５からの再構成済みフレームデータを加算器１７７へ送る。Ｉフレーム又はイントラブロックを処理するならば、スイッチ１１８はポストフィルタ１５５からの再構成済みフレームデータをフレーム記憶装置１２６へそのまま送る。
【００４０】
[0054]加算器は、フレーム記憶装置１２６に格納される再構成済み映像フレーム１４０を生成するために、予測ブロック１２２をＭＣＭ１３１からの予測映像フレーム１３２に加算する。
【００４１】
[0055]図８は、ビデオコーダにおいてＮＡＬＴを決定し使用するプロセスの一実施形態のフローチャートである。プロセスは、ハードウェア（たとえば、回路、専用ロジックなど）、（たとえば、汎用コンピュータシステム又は専用機械上で動かされる）ソフトウェア、又は、両者の組み合わせを備えるプロセシングロジックによって実行される。
【００４２】
[0056]図８を参照すると、フレームからのブロックが読み取られ、現在フレームの全ブロックが処理されるまで、順次に処理される。図１中のスイッチＳＷ３は開いている。スイッチＳＷ１、ＳＷ２、ＳＷ４は、ビデオコーダにおける慣例通りに、処理中のフレーム／ブロック（イントラ又は予測）のタイプに依存して開閉される。
【００４３】
[0057]処理は、プロセシングロジックによってフレームデータを生成することから始まる（処理ブロック８０１）。一実施形態では、プロセシングロジックは、入力に存在する映像フレームデータを読み取ることによりビデオコーダ内でフレームデータを生成する。一実施形態では、フレームデータは、上述されているように、入力映像フレームデータ、又は、ＤＦＤフレームにより構成されている。
【００４４】
[0058]次に、プロセシングロジックは、方向局所統計量及びＮＡＬＴパラメータを決定し記憶する（処理ブロック８０２）。一実施形態では、ＬＴ−ＰＤＭ内のプロセシングロジックは、第１の処理方向（水平又は垂直の何れか）のための現在フレームに対する方向局所統計量及びＮＡＬＴパラメータを記憶する。
【００４５】
[0059]プロセシングロジックは、次に、ＮＡＬＴパラメータを使用してフレームデータを方向フィルタ処理し記憶する（処理ブロック８０３）。一実施形態では、プリフィルタ内のプロセシングロジックがこのフィルタリングをフィルタ実行する。次に、プロセシングロジックは、両方の方向が処理済みであるかどうかをテストする（処理ブロック８０４）。処理済みでなければ、プロセシングロジックは記憶されているフィルタデータをＬＴ−ＰＤＭへ送り（処理ブロック８０５）、処理が処理ブロック８０２へ移り、処理が継続し、方向フィルタ処理済みのフレームデータに関して第２の処理方向（垂直又は水平の何れか）について繰り返される。一実施形態では、プリフィルタ内のプロセシングロジックは記憶されているフィルタデータをＬＴ−ＰＤＭへ送る。
【００４６】
[0060]両方の方向が処理された後、スイッチＳＷ３は閉じ、プロセシングロジックがフィルタ処理済みのフレームデータを処理する（処理ブロック８０６）。一実施形態では、このプロセスは、従来型の変換符号化プロセスに従ってフレームのブロックを順次に処理する変換コーダモジュールによって実行される。プロセシングロジックはその後にフレームデータを再構成し、ＬＴ−ＰＤＭへ送る（処理ブロック８０７）。一実施形態では、プロセシングロジックはビデオコーダ内にある。一実施形態では、プロセシングロジックはその後に逆量子化演算を実行し、逆変換がフィルタ処理済みの変換符号化フレームのブロックに実行され、それによって、再構成済みフレーム（再構成済みフレームデータ１０９）を取得する。
【００４７】
[0061]フレームデータが再構成された後、プロセシングロジックは、原フレームデータと再構成済みフレームデータ（再構成済みフレームデータ１０９）の対応する統計量の間で方向統計量フィットを決定する（処理ブロック８０８）。一実施形態では、方向統計量フィットを決定するプロセシングロジックはＬＴ−ＰＤＭ内にある。プロセシングロジックは方向統計量フィットパラメータをＥＣへ送り（処理ブロック８０９）、ＬＴ−ＰＲＭ内のプロセシングロジックが、再構成済みフレームデータ及び統計量フィットのパラメータを使用して、現在の処理方向のための方向ＮＡＬＴパラメータを再構成し（処理ブロック８１０）、プロセシングロジックは、再構成済みＮＡＬＴパラメータを使用して現在の処理方向のためのフレームデータをフィルタ処理し、フィルタ処理済みのデータを記憶する（処理ブロック８１１）。一実施形態では、方向ＮＡＬＴパラメータはＬＴ−ＰＲＭ内のプロセシングロジックによって再構成され、フレームデータはポストフィルタによって再構成済みＮＡＬＴパラメータを使用してフィルタ処理され記憶される。
【００４８】
[0062]その後、プロセシングロジックは、両方の方向が処理済みであるかどうかをテストする（処理ブロック８１２）。処理済みでなければ、プロセシングロジックは、記憶されているフィルタデータをＬＴ−ＰＤＭ及びＬＴ−ＰＲＭへ送り（処理ブロック８１３）、処理が処理ブロック８０８へ移り、プロセスが第２の処理方向に対して繰り返される。一実施形態では、記憶されているフィルタ処理済みのデータは、ポストフィルタ内のプロセシングロジックによってＬＴ−ＰＤＭ及びＬＴ−ＰＲＭへ送られる。両方の方向が処理済みであるならば、プロセシングロジックは、ＮＡＬＴフィルタ処理済みの再構成済みフレームデータをフレーム記憶装置に記憶し（処理ブロック８１４）、全フレームが処理済みであるかどうかをテストする（処理ブロック８１５）。処理済みでなければ、処理が処理ブロック８０１へ移り、プロセスが符号化されている映像シーケンス内の全フレームに対して繰り返される。処理済みであれば、プロセスは終了する。
【００４９】
[0063]図２はＬＴ−ＰＤＭの一実施形態のブロック図である。図２を参照すると、ＬＴ−ＰＤＭは、局所統計量計算モジュール（ＬＳＣＭ）２１１と、メモリモジュール２１３と、プリフィルタパラメータ計算モジュール（ＰＰＣＭ）２１２と、統計量依存性計算モジュール（ＳＤＣＭ）２１４とを含む。ＬＴ−ＰＤＭは、フレームデータ２０１、方向フィルタ処理済みのフレームデータ２０２、又は、再構成済み重複フレームデータ２０３の何れかを含む入力を有する。ＬＴ−ＰＤＭは、方向ＮＡＬＴパラメータ２２１及び統計量フィットパラメータ２２２により構成されている出力を有する。
【００５０】
[0064]ＬＳＣＭ２１１は、フレームデータ２０１又は方向フィルタ処理済みのフレームデータ２０２を受信し、何れかの入力に基づいて局所統計量を計算する。計算された局所統計量はメモリ２１３に記憶され、ＰＰＣＭ２１２へ送られる。局所統計量に応答して、ＰＰＣＭ２１２は、プリフィルタパラメータを計算し、ＮＡＬＴパラメータ２２１を出力する。メモリ２１３は再構成済みフレームデータ２０３も記憶する。ＳＤＣＭ２１４はメモリ２１３から局所統計量２３１を受信し、統計量依存性フィットを計算する。ＳＤＣＭ２１４は統計量フィットパラメータ２２２を出力する。
【００５１】
[0065]ＬＴ−ＰＤＭの一実施形態における重複変換（ＮＡＬＴ）パラメータの決定は図９のフローチャートによって説明されている。プロセスは、ハードウェア（たとえば、回路、専用ロジックなど）、（たとえば、汎用コンピュータシステム又は専用機械上で動かされる）ソフトウェア、又は、両者の組み合わせを備えるプロセシングロジックによって実行される。
【００５２】
[0066]このプロセスについて記載する前に、ブロック境界データの定義が、水平処理方向における境界の事例について、図７に説明されている。境界データは、図７に示されている境界の各ベクトルｘ又は全部のベクトルｘにより構成されている（境界の局所統計量はＬＳＣＭ２１１で計算される）。類似した境界が垂直処理方向についても定義されている。
【００５３】
[0067]図９を参照すると、フレーム内の全部のブロックに対して順次に動作して、プロセシングロジックは、インデックスｉを１に初期化し（処理ブロック９０１）、最初にフレームデータからブロック境界データｂ（ｉ）を受信し（処理ブロック９０２）、現在の処理方向の境界データｂ（ｉ）の統計量ｓ（ｉ）を計算し記憶し（処理ブロック９０３）、これらの統計量を使用して、現在の境界データ及び現在の処理方向に対応するＮＡＬＴパラメータを計算し記憶する（処理ブロック９０４）。境界データｂ（ｉ）の統計量ｓ（ｉ）の計算はＬＣＳＭ内で後述の通り進行する。図６に示されているように、ある処理方向（水平）に対して、２次元フレームデータブロックのサイズがＭ×Ｍであるならば、ブロック間の境界を横切る一方向に見ると、Ｍ個のブロック境界交差ベクトルｘが存在する（これらのベクトルのサンプルは記号的に表されたｂ（ｉ）境界データを形成する）。一実施形態では、境界のデータサンプルの局所統計量を計算するため、各境界ベクトルｘの標準偏差を計算し、獲得されたＭ個の標準偏差を平均化する。別の実施形態では、境界のデータサンプルの局所統計量を計算するため、各境界交差ベクトルｘの標準偏差が計算される。何れの事例でも、結果は局所統計量ｓ（ｉ）である。すなわち、局所統計量ｓ（ｉ）はベクトル毎のＭ個の個別の統計量でもよく、又は、境界ｂ（ｉ）内のＭ個のベクトルのＭ個の統計量の平均を表現する単一の数でもよい。
【００５４】
[0068]境界交差データｂ（ｉ）に対応するＮＡＬＴパラメータの決定はＰＰＣＭ内で後述の通り実行される。ＮＡＬＴパラメータを定義するため、図６におけるように、ｘがＭ×１次元境界交差ベクトルを表すと仮定する。ＮＡＬＴパラメータを収容するＮＡＬＴプリフィルタリング行列はＰＰｒｅによって表され、以下のようにベクトルｘをプリフィルタリングするプリフィルタ内で使用される。
ｙ＝ＰＰｒｅｘ                                  （１）
式中、ｙはフィルタ処理済みの境界交差ベクトルである。一実施形態では、サイズがＭ×１である境界交差ベクトルｘの場合、Ｍ×ＭのＮＡＬＴプリフィルタリング行列ＰＰｒｅは、
【数１】
2008547288.tif 000003
として計算され、式中、ＩはサイズＭ／２×Ｍ／２の単位行列であり、ＪはサイズＭ／２×Ｍ／２の鏡像単位行列であり、０はサイズＭ／２×Ｍ／２の全部零のエントリーを有する行列である。一例として、Ｍ＝４のとき、行列Ｉ及びＪは、
【数２】
2008547288.tif 000004
である。Ｖ１はＭ／２×Ｍ／２のＮＡＬＴパラメータ行列であり、
Ｖ１＝Ｉ＋Ｖ．／α（ｉ，ｕ，ｔ）                  （４）
として計算され、式中、（ｕ，ｔ）は行列Ｖのエントリーのインデックスであり（たとえば、サイズ２×２の行列Ｖのとき、ｕ＝｛０，１｝、ｔ＝｛０，１｝である）、かつ、
【数３】
2008547288.tif 000005
であり、ここで、Ｍ／２×Ｍ／２型行列Ｖは、ベースライン変換（たとえば、重複双直交変換、又は、フレーム全体に対して大域的に最適化された変換）の固定パラメータを格納し、ｓ（ｉ）は上述されているようにアダプテーションの要素のデータサンプルについて計算された統計量を表現している。演算「．／」は、行列Ｖ内のエントリーをα（ｉ，ｕ，ｔ）で要素毎に割り算することを意味している。文字ｑは、映像符号化プロセスによって使用される量子化幅を表現し、ｍ（ｕ，ｔ）、ｎ（ｕ，ｔ）はモデルのパラメータを表現し、モデルのパラメータの値はユーザによって経験的に設定される。ｍ及びｎの｛ｕ，ｔ｝への依存性は、α（ｉ，ｕ，ｔ）が行列Ｖ内のエントリー毎に異なる値を取るという事実を意味している。
【００５５】
一実施形態では、αで割り算するときに、アダプテーションの要素が境界内のベクトルである事例では、各αは区別できることに注意すべきである。このような事例では、インデックスｊは上記の行列乗算中のｍ及びｎに加算されることがある。
【００５６】
[0069]再び図９を参照すると、プロセシングロジックは、処理対象である現在のブロック境界を指定するため使用されるインデックスｉを増加させ（処理ブロック９０５）、全ブロック境界が処理済みであるかどうかをテストする（処理ブロック９０６）。未だ処理されていないブロック境界が存在するならば、プロセスは処理ブロック９０２へ移り、プロセスが繰り返される。存在しないならば、処理はＬＴ−ＰＤＭの第２の動作フェーズを開始する。
【００５７】
[0070]ＬＴ−ＰＤＭの第２の動作フェーズでは、フィルタ処理済みのフレームデータが変換コーダによって処理され、図８のフローチャートにおいて上述されているように再構成された後、再構成済みフレームデータはＬＴ−ＰＤＭの入力で利用可能である。したがって、図９のフローチャートに示されているように、ＬＴ−ＰＤＭ内のプロセシングロジックは、現在の処理方向の再構成済みフレームデータを記憶する（処理ブロック９０７）。プロセシングロジックはインデックスｉをリセットして１に等しくさせ（処理ブロック９０８）、次に、再構成済み重複フレームデータ１０９又は方向再構成済みフレームデータ１６５からの記憶されているフレームデータからブロック境界データｃ（ｉ）を読み取り（処理ブロック９０９）、現在の処理方向の境界データｃ（ｉ）の統計量を計算し記憶する（処理ブロック９１０）。図６に示されているように、処理のある方向（水平）に対し、２次元フレームデータブロックのサイズがＭ×Ｍであるならば、ブロック間の境界を横切る一方向にＭ個のブロック境界交差ベクトルｘが存在する（これらのベクトルのサンプルは記号的に表されたｃ（ｉ）境界データを形成する）。一実施形態では、境界のデータサンプルの局所統計量を計算するため、各境界交差ベクトルｘの標準偏差が計算され、取得されたＭ個の標準偏差が平均化される。その結果が局所統計量ｒ（ｉ）である。アダプテーションの要素がブロック境界内のサンプルの１つのベクトルである別の実施形態では、境界のデータサンプルの局所統計量を計算するため、各境界交差ベクトルｘの標準偏差が計算される。その結果がこの事例に対応する局所統計量ｒ（ｉ）である。
【００５８】
[0071]プロセシングロジックはその後にインデックスｉを１ずつ増加させ（処理ブロック９１１）、現在の処理方向のため未だ処理されていないブロック境界が存在するかどうかをテストする（処理ブロック９１２）。存在するならば、プロセスは処理ブロック９０９へ移り、上述のプロセスが繰り返される。全境界が処理済みであるとき、プロセスは処理ブロック９１３へ移り、ＬＴ−ＰＤＭ内のプロセシングロジックはメモリから、フレーム内の対応するアダプテーションの要素のための原データ及び再構成済みデータについての境界データの計算済みの統計量ｓ及び統計量ｒを取り出し、２組の統計量の間で依存性フィットを計算する（処理ブロック９１４）。一実施形態では、この依存性フィットは以下の方法で計算されている。ある処理方向に対し、ｓ及びｒは、それぞれ、境界統計量ｓ（ｉ）及びｒ（ｉ）のＮ×１ベクトルであり、上述されているように計算されている。最良フィッティング多項式曲線ｇは最小二乗規準に基づいてこの依存性にフィットさせられている。この関数ｇをフィットさせたのち、
【数４】
2008547288.tif 000006
として表されるｓ（ｉ）の近似は、
【数５】
2008547288.tif 000007
という結果になり、式中、ｉはある処理方向におけるフレーム内のブロック境界を指している。処理方向（水平及び垂直）毎に決定された異なる関数ｇを保有することが可能である。
【００５９】
関数ｇは、
ｇ（ｚ）＝ａｎ−１ｚｎ−１＋ａｎ−２ｚｎ−２＋．．．＋ａ０      （６）
という形式の関数であり、式中、ｚはダミー変数であり、ｎは多項式次数である。一実施形態では、ｎは３に等しく、１つの処理方向毎にｇの３つのパラメータが存在する。これらのパラメータは、本明細書では、統計量依存性フィットのパラメータと呼ばれている。
【００６０】
[0072]最後に、プロセシングロジックは、フィットパラメータをＬＴ−ＰＲＭと、符号化のためのエントロピーコーダＥＣの両方に送り（処理ブロック９１５）、プロセスが終了する。
【００６１】
[0073]図３はプリフィルタモジュール（ｐｒｅ−ｆｉｌｔｅｒ）の一実施形態のブロック図である。図３を参照すると、プリフィルタは、フレームデータ３０１と、ＬＴ−ＰＤＭによって決定されたＮＡＬＴパラメータ３０２とを含む入力を有する。プリフィルタは、方向フィルタ処理済みのフレームデータ、又は、完全にフィルタ処理済みのフレームデータ（両方の方向フィルタ処理済み）３２１により構成される出力を有する。
【００６２】
[0074]水平ＮＡＬＴフィルタ３１２は、フレームデータ３１２及びＮＡＬＴパラメータ３０２を受信し、メモリ３０１に記憶される方向ＮＡＬＴフィルタ処理済みのフレームデータ３３１を生成する。垂直ＮＡＬＴフィルタ３１３は、方向ＮＡＬＴフィルタ処理済みのフレームデータ３３１及びＮＡＬＴパラメータ３０２を受信し、ＮＡＬＴフィルタ処理済みのデータ３２１を生成する。
【００６３】
[0075]プリフィルタの一実施形態の動作は図１０のフローチャートによってより具体的に説明されている。プリフィルタは２つの処理方向（水平及び垂直）に順次に動作する。方向処理の順序は変更可能である（垂直、その後に水平）。プリフィルタは２つの処理方向のため同様に動作するので、１方向プロセスの説明だけが必要である。
【００６４】
[0076]図１０のプロセスは、ハードウェア（たとえば、回路、専用ロジックなど）、（たとえば、汎用コンピュータシステム又は専用機械上で動かされる）ソフトウェア、又は、両者の組み合わせを備えるプロセシングロジックによって実行される。（一実施形態では、プロセスはプリフィルタ及びポストフィルタによって実行される）。
【００６５】
[0077]図１０を参照すると、プロセスは、プロセシングロジックがフレームデータ又は（もし第２の処理方向が実行されているならば）方向フィルタ処理済みのフレームデータを取り出すことによって始まり（処理ブロック１００１）、プロセシングロジックがＬＴ＿ＰＤＭから対応するＮＡＬＴパラメータを取り出す（処理ブロック１００２）。プロセシングロジックは、ブロック境界データを指示するインデックス変数をセットして１に等しくさせる（処理ブロック１００３）。
【００６６】
[0078]その後、プロセシングロジックは、境界データｆ（ｉ）をフェッチし（処理ブロック１００４）、対応するＮＡＬＴフィルタパラメータを使用して、式（１）におけるように、フレームデータ内の各境界データｆ（ｉ）を方向フィルタ処理する（処理ブロック１００５）。よって、境界データｆ（ｉ）内の各境界交差ベクトルｘは（図６におけるように）式（１）を使用してフィルタ処理される。第１の方向にフィルタ処理した後、プロセシングロジックは、フィルタ処理済みのデータをメモリに記憶し、プリフィルタの出力にフィルタ処理済みのデータを出力する（処理ブロック１００６）。次に、プロセシングロジックはインデックス変数を１だけ増加させ（処理ブロック１００７）、全ブロック境界が処理済みであるかどうかをテストする（処理ブロック１００８）。処理済みでなければ、処理は処理ブロック１００４へ移り、プロセスは処理ブロック１００４から継続する。各処理方向においてフレーム内の全ブロックの境界が処理済みであるならば、プロセスは終了する。
【００６７】
[0079]図４はＬＴ−ＰＲＭの一実施形態のブロック図である。ＬＴ−ＰＲＭは、再構成済み重複フレームデータ４０１又は方向フィルタ処理済みの再構成済みフレームデータ４０２の何れかと、（式（６）の多項式ｇの）統計量フィットパラメータ４０３とを入力として有する。ＬＴ−ＰＲＭは、出力として、再構成済み方向ＮＡＬＴ行列パラメータ４２１を有する。
【００６８】
[0080]局所統計量計算モジュール（ＬＳＣＭ）４１１は、フレームデータ４０１及び方向フィルタ処理済みの再構成済みフレームデータ４０２を受信し、局所統計量を計算する。計算済みの局所統計量はメモリ４１３に記憶され、ポストフィルタパラメータ計算モジュール（ＰＰＣＭ４１２）へ送られる。計算済みの局所統計量に応答して、ＰＰＣＭ４１２はポストフィルタパラメータを計算し、再構成済みＮＡＬＴパラメータ４２１を出力する。メモリ４１３はさらに再構成済みフレームデータ４０３を記憶する。
【００６９】
[0081]ＬＴ−ＰＲＭの一実施形態の動作は図１１のフローチャートによって説明されている。プロセスは、ハードウェア（たとえば、回路、専用ロジックなど）、（たとえば、汎用コンピュータシステム又は専用機械上で動かされる）ソフトウェア、又は、両者の組み合わせを備えるプロセシングロジックによって実行される。
【００７０】
[0082]図１１を参照すると、プロセスは、プロセシングロジックがインデックス変数ｉを１に等しく初期化することにより始まる（処理ブロック１１０１）。次に、フレーム内の全てのブロック境界に対し順次に動作して、ＬＴ−ＰＲＭ内のプロセシングロジックは、再構成済みフレームデータ１０９からブロック境界データｃ（ｉ）を、又は、（第２の処理方向が実行されているならば）方向フィルタ処理済みの再構成済みフレームデータ１６５を取り出し（処理ブロック１１０２）、現在の処理方向のための境界データｃ（ｉ）の統計量ｒ（ｉ）を計算し記憶する（処理ブロック１１０３）。図６に示されているように、１方向（水平）の処理に対し２次元フレームデータブロックのサイズがＭ×Ｍであるならば、ブロック間の境界を横切る１方向に見ると、Ｍ個のブロック境界交差ベクトルｘが存在する（これらのベクトルのサンプルは記号的に表されたｃ（ｉ）境界データを形成する）。一実施形態では、境界のデータサンプルの局所統計量を計算するために、境界交差ベクトルｘのそれぞれの標準偏差が計算され、取得されたＭ個の標準偏差が平均化される。その結果は局所統計量ｒ（ｉ）である。アダプテーションの要素がブロック境界内のサンプルの１つのベクトルである別の実施形態では、境界のデータサンプルの局所統計量を計算するために、各境界交差ベクトルｘの標準偏差が計算される。その結果はこの事例に対応する局所統計量ｒ（ｉ）である。
【００７１】
[0083]プロセシングロジックはインデックス変数ｉを１ずつ増加させ（処理ブロック１１０４）、全境界ｃ（ｉ）が処理済みであるかどうかをテストする。未処理のブロック境界が未だに存在するならば、プロセスは処理ブロック１１０２へ移り、上述のプロセスが繰り返される。
【００７２】
[0084]プロセシングロジックの第２の動作フェーズでは、プロセシングロジックは処理ブロック１１０６へ移り、インデックス変数ｉは１に等しくリセットされ、ＬＴ−ＰＲＭ内のプロセシングロジックはＬＴ−ＰＤＭから統計量フィットパラメータを受信する（処理ブロック１１０７）。ＬＴ−ＰＲＭは、今度は、処理中の現在の方向に対応するブロック境界データに関して順次に動作する。ＬＴ−ＰＤＭから受信された（式（６）におけるような）統計量フィットパラメータと、記憶されている方向統計量ｒとを使用して、ＬＴ−ＰＲＭ内のプロセシングロジックは、処理されている境界データのための方向ＮＡＬＴパラメータを再構成し記憶する（処理ブロック１１０８）。一実施形態では、ＮＡＬＴパラメータの再構成は以下の通り行われる。
【００７３】
[0085]ＬＴ−ＰＲＭはＬＴ−ＰＤＭから式（６）における多項式ｇのパラメータを受信し、現在の処理方向のための再構成済みフレーム内の各境界に対応する統計量ｒ（ｉ）を計算する。多項式ｇのパラメータ及び統計量を使用して、元の境界ベースの統計量
【数６】
2008547288.tif 000008
の推定値は、
【数７】
2008547288.tif 000009
として計算され、式中、ｉは所定の処理方向における境界統計量を指す。
【数８】
2008547288.tif 000010
を使用して、再構成済みＮＡＬＴパラメータがポストフィルタリング行列Ｐｐｏｓｔを形成するために計算される。
【数９】
2008547288.tif 000011
式中、Ｉ、Ｊは式（３）に記載されているものと同じ意味をもち、
【数１０】
2008547288.tif 000012
かつ
【数１１】
2008547288.tif 000013
であり、ここで、式（４）におけるのと同様に、Ｖはパラメータの既知の固定行列であり、
【数１２】
2008547288.tif 000014
は式（７）のように計算され、ｑは量子化幅であり、ｍ、ｎはユーザによって選択された経験的パラメータであり、行列Ｖ内のエントリーのインデックスである（ｕ，ｔ）に依存する。
【００７４】
[0086]プロセッシングロジックはその後にインデックス変数ｉを１ずつ増加させ（処理ブロック１１０９）、全境界ｃ（ｉ）が処理済みであるかどうかをテストする（処理ブロック１１１０）。未処理のブロック境界が存在するならば、プロセスは処理ブロック１１０７へ移り、上記の処理が繰り返される。現在の処理方向の全ブロック境界が上述されているように処理済みであるとき、ＬＴ−ＰＲＭ内のプロセシングロジックは対応する計算済みのＮＡＬＴパラメータをポストフィルタへ送り（処理ブロック１１１１）、プロセスが終了する。
【００７５】
[0087]図５はポストフィルタモジュール（ｐｏｓｔ  ｆｉｌｔｅｒ）の一実施形態のブロック図である。ポストフィルタは、再構成済みフレームデータ５０１及び再構成済みＮＡＬＴパラメータ５０２を含む入力を有する。ポストフィルタは、方向フィルタ処理済みのフレームデータ、又は、完全に処理済みのフレームデータ（両方の方向フィルタ処理済み５０１）により構成されている出力を有する。上述のプリフィルタと同様に、ポストフィルタは２つの処理方向（水平及び垂直）に順次に動作する。方向処理の順序は、プリフィルタによる実行の順序に従って変更可能である（垂直、その後に水平）。ポストフィルタモジュールはプリフィルタと同様に動作するが、ポストフィルタモジュールの入力データが上述されている通りである点で差異がある。水平ＮＡＬＴフィルタ５１２は、再構成済みフレームデータ５１２及びＮＡＬＴパラメータ５０２を受信し、メモリ５０１に記憶される方向ＮＡＬＴフィルタ処理済みの再構成済みフレームデータ５３１を生成する。垂直ＮＡＬＴフィルタ５１３は、方向ＮＡＬＴフィルタ処理済みの再構成済みフレームデータ５３１及びＮＡＬＴパラメータ５０２を受信し、ＮＡＬＴフィルタ処理済みのデータ５２１を生成する。一実施形態では、ポストフィルタリング動作は、このとき、
ｙ＝Ｐｐｏｓｔｘ                                    （９）
として指定され、式中、ｘは、今度は、処理方向に対する再構成済みフレーム内の境界交差ベクトルを表し、ｙは、ＮＡＬＴポストフィルタリング行列Ｐｐｏｓｔを使用するポストフィルタ処理済みの境界交差ベクトルを表す。
【００７６】
[0088]図６は、ＮＡＬＴを使用するビデオデコーダ（ＶＤ）の一実施形態のブロック図である。一実施形態では、ビデオデコーダは、逆重複変換をフレームデータに適用するためのアダプテーションパラメータを決定する重複変換パラメータ再構成モジュール（ＬＴ−ＰＲＭ）と、フィルタリングアダプテーションパラメータに応答してデータにフィルタリングを実行するポストフィルタモジュールとを備える。
【００７７】
[0089]より詳細には、図６を参照すると、ビデオデコーダは、変換デコーダ（ＴＤ）と、ＬＴパラメータ再構成モジュール（ＬＴ−ＰＲＭ）と、ポストフィルタ（ｐｏｓｔ  ｆｉｌｔｅｒ）と、フレーム記憶装置（メモリ）と、動きデータ処理モジュールと、動き補償モジュールとを含む。ポストフィルタリングが後に続けられる逆変換は逆ＮＡＬＴを実施する。変換デコーダブロックは、エントロピーデコーダ、逆量子化器、及び、逆変換モジュールを含む。
【００７８】
[0090]一実施形態では、ビデオデコーダは、変換デコーダからフレームデータを取り出すことによりフレームデータを処理し、１つの処理方向のため、フレームデータの方向局所統計量を決定し、逆重複変換アダプテーションパラメータを決定し、アダプテーションパラメータに基づいてフレームデータをポストフィルタ処理し、別の処理方向のためのプロセスを繰り返す。一実施形態では、逆重複変換アダプテーションパラメータは、フレームデータを取り出し、フレームデータの局所方向統計量を計算し記憶し、受信された統計量依存性フィットパラメータ及びフレームデータの局所方向統計量を用いて逆重複変換アダプテーションパラメータを決定することにより、決定される。
【００７９】
[0091]図１２は、ビデオデコーダによって実行される映像復号化プロセスの一実施形態のフローチャートである。プロセスは、ハードウェア（たとえば、回路、専用ロジックなど）、（たとえば、汎用コンピュータシステム又は専用機械上で動かされる）ソフトウェア、又は、両者の組み合わせを備えるプロセシングロジックによって実行される。
【００８０】
[0092]図１２を参照すると、プロセスは、プロセシングロジックが再構成済みフレームデータを生成することにより始まる（処理ブロック１２０１）。一実施形態では、再構成済みフレームデータはビデオデコーダによって生成される。ビデオデコーダは、変換デコーダの出力とポストフィルタの入力に再構成済みフレームデータを生成するために従来型の復号化プロセスに従って動作する。
【００８１】
[0093]再構成済みフレームデータに基づいて、現在の処理方向に対し、プロセシングロジックは、ビデオコーダ内の上述されているＬＴ−ＰＲＭプロセスと同様に、再構成済みフレームデータ内のブロック境界ｃ（ｉ）の方向局所統計量を決定する（処理ブロック１２０２）。相違点は、デコーダにおいて、ＬＴ−ＰＲＭがエントロピーデコーダから局所統計量フィットパラメータを受信することである（デコーダはＬＴ−ＰＤＭを含んでいない）。一実施形態では、ＮＡＬＴパラメータ内の方向局所統計量は、ＬＴ−ＰＲＭ内のプロセシングロジックによって決定される。エントロピーデコーダから受信された統計量フィットパラメータ（多項式ｇパラメータ）と、計算済みの局所統計量ｒ（ｉ）とを使用することにより、ＬＴ−ＰＲＭは、ビデオコーダ内で行われるＬＴ−ＰＲＭプロセスに関して記載されているようにＮＡＬＴ行列パラメータを決定するが、相違点は、今度のＬＴ−ＰＲＭがエントロピーデコーダから（式（６）における多項式ｇの）統計量依存性フィットパラメータを受信することである。
【００８２】
[0094]ＮＡＬＴパラメータ内の方向局所統計量を決定した後、ＮＡＬＴパラメータを使用して、プロセシングロジックは、エンコーダ内のポストフィルタプロセスにおいて記述されているように再構成済みフレームデータを方向フィルタ処理し、フレームデータを記憶する（処理ブロック１２０３）。一実施形態では、フレームデータはポストフィルタによってＮＡＬＴパラメータを使用して記憶される。
【００８３】
[0095]フレームデータをフィルタ処理した後、プロセシングロジックは、両方の方向が処理済みであるかどうかをテストする（処理ブロック１２０４）。処理済みでなければ、プロセシングロジックは記憶されているフレームデータをＬＴ−ＰＲＭへ送り（処理ブロック１２０５）、処理ブロック１２０２へ移り、プロセスが他の方向のため繰り返される。一実施形態では、記憶されているフィルタ処理済みのデータはポストフィルタ内のプロセシングロジックによってＬＴ−ＰＲＭへ送られる。
【００８４】
[0096]両方の方向が処理されたならば、プロセシングロジックは、従来型の映像復号化プロセスに従って、ＮＡＬＴフィルタ処理済みの再構成済みフレームデータを使用して映像フレームデータを決定し記憶し（処理ブロック１２０６）、全フレームが処理済みであるかどうかをテストする（処理ブロック１２０７）。処理済みでなければ、プロセシングロジックは処理ブロック１２０１へ移り、プロセスが映像シーケンス内で復号化されるべき残りの全フレームに対し繰り返される。全フレームが処理済みであるならば、プロセスは終了する。
【００８５】
コンピュータシステムの実施例
[0097]図１３は、本明細書に記載されている１つ以上の動作を実行する例示的なコンピュータシステムのブロック図である。図１３を参照すると、コンピュータシステム１３００は、例示的なクライアント又はサーバーコンピュータシステムを備える。コンピュータシステム１３００は、情報を通信する通信メカニズム又はバス１３１１と、バス１３１１と接続され、情報を処理するプロセッサ１３１２とを備える。プロセッサ１３１２は、たとえば、Ｐｅｎｔｉｕｍ（商標）、ＰｏｗｅｒＰＣ（商標）などのようなマイクロプロセッサを含むが、マイクロプロセッサには限定されない。
【００８６】
[0098]システム１３００は、バス１３１１に接続され、情報及びプロセッサ１３１２によって実行されるべき命令を記憶するランダムアクセスメモリ（ＲＡＭ）、又は、その他のダイナミック記憶装置１３０４（主メモリと呼ばれる）をさらに備える。主メモリ１３０４は、プロセッサ１３１２による命令の実行中に、一時変数又はその他の中間情報を記憶するためにも使用される。
【００８７】
[0099]コンピュータシステム１３００は、バス１３１１に接続され、静的情報及びプロセッサ１３１２のための命令を記憶するリードオンリーメモリ（ＲＯＭ）及び／又はその他のスタティック記憶装置１３０６と、磁気ディスク又は光ディスク及びこれらのディスクに対応するディスクドライブのようなデータ記憶装置１３０７とをさらに備える。データ記憶装置１３０７はバス１３１１に接続され、情報及び命令を記憶する。
【００８８】
[00100]コンピュータシステム１３００は、バス１３１１に接続され情報をコンピュータユーザへ提示する陰極線管（ＣＲＴ）又は液晶ディスプレイ（ＬＣＤ）のような表示装置１３２１にさらに接続されている。英数字キー及びその他のキーを含む英数字入力装置１３２２もまたバス１３１１に接続され、情報及びコマンド選択をプロセッサ１３１２へ通信する。付加的なユーザ入力装置は、バス１３１１に接続され、方向情報及びコマンド選択をプロセッサ１３１２へ通信し、ディスプレイ１３２１上のカーソル移動を制御するマウス、トラックボール、トラックパッド、スタイラス、又は、カーソル方向キーのようなカーソル制御装置１３２３である。
【００８９】
[00101]バス１３１１に接続される別の装置は、紙、フィルム、又は、同様のタイプの媒体のような媒体上に情報を記録するハードコピー装置１３２４である。バス１３１１に接続される別の装置は、電話機又はハンドヘルド式パーム型装置へ通信するための有線／無線通信機能装置１３２５である。
【００９０】
[00102]システム１３００の何れか又は全部のコンポーネント、及び、関連したハードウェアが本発明において使用されることに注意すべきである。しかし、コンピュータシステムのその他の構造は装置の一部又は全部を含むことがある。
【００９１】
[00103]本発明の多数の代替及び変更は、おそらく上記の説明を読んだ後に当業者に明白になるが、例示のために図示され記載された特有の実施形態が制限的であるとみなされることは決して意図されていないことが理解されるべきである。したがって、様々な実施形態の細部への言及は、発明に不可欠であると考えられる特徴だけを本質的に列挙している、請求項の範囲を制限することを目的としていない。
【図面の簡単な説明】
【００９２】
【図１】ビデオコーダ（ＶＣ）の一実施形態のブロック図である。
【図２】ＬＴパラメータ設計モジュール（ＬＴ−ＰＤＭ）の一実施形態のブロック図である。
【図３】プリフィルタの一実施形態のブロック図である。
【図４】ＬＴパラメータ再構成モジュール（ＬＴ−ＰＲＭ）の一実施形態のブロック図である。
【図５】ポストフィルタの一実施形態のブロック図である。
【図６】ビデオデコーダの一実施形態のブロック図である。
【図７】境界交差ベクトル（水平方向に示されている）の説明図である。
【図８】ビデオコーダ（ＶＣ）においてＮＡＬＴを決定し使用するプロセスの一実施形態のフローチャートである。
【図９】ＬＴ−ＰＤＭにおいてＮＡＬＴパラメータを決定するプロセスの一実施形態のフローチャートである。
【図１０】プリフィルタモジュール及びポストフィルタモジュールにおける方向フィルタリングを行うプロセスの一実施形態のフローチャートである。
【図１１】ＬＴ−ＰＲＭにおけるＮＡＬＴパラメータを再構成するプロセスの一実施形態のフローチャートである。
【図１２】ビデオデコーダにおけるＮＡＬＴを決定し使用するプロセスの一実施形態のフローチャートである。
【図１３】例示的なコンピュータシステムのブロック図である。
【図１】
2008547288.tif 000015
【図２】
2008547288.tif 000016
【図３】
2008547288.tif 000017
【図４】
2008547288.tif 000018
【図５】
2008547288.tif 000019
【図６】
2008547288.tif 000020
【図７】
2008547288.tif 000021
【図８】
2008547288.tif 000022
【図９】
2008547288.tif 000023
【図１０】
2008547288.tif 000024
【図１１】
2008547288.tif 000025
【図１２】
2008547288.tif 000026
【図１３】
2008547288.tif 000027
【手続補正書】
【提出日】平成20年2月19日(2008.2.19)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
原フレームデータと処理済みのフレームデータの局所統計量の間の統計的フィットのパラメータを受信するステップと、
フレームデータへの逆重複変換の適用のためのアダプテーションパラメータを決定するステップと、
フィルタリングアダプテーションパラメータに応答して前記フレームデータをフィルタ処理するステップと、
を備える方法。
【請求項２】
フレームデータへの逆重複変換の適用のためのアダプテーションパラメータを決定するステップが、第１の処理方向に対して、
前記フレームデータの前記第１の処理方向に対応する方向局所統計量を決定するステップと、
前記第１の処理方向に対する前記方向局所統計量及び前記統計量フィットパラメータに基づいて逆重複変換アダプテーションパラメータを決定するステップと、
を備える、請求項１に記載の方法。
【請求項３】
第２の処理方向に対して、
前記フレームデータの前記第２の処理方向に対応する方向局所統計量を決定するステップと、
前記第２の処理方向に対する前記方向局所統計量及び前記統計量フィットパラメータに基づいて逆重複変換アダプテーションパラメータを決定するステップと、
をさらに備える、請求項２に記載の方法。
【請求項４】
前記局所統計量が標準偏差に対応している、請求項２に記載の方法。
【請求項５】
変換デコーダから前記フレームデータを取り出すステップをさらに備える、請求項２に記載の方法。
【請求項６】
フレームデータを取り出すステップと、
前記フレームデータの局所方向統計量を計算し記憶するステップと、
をさらに備え、
前記逆重複変換アダプテーションパラメータを決定するステップが、受信された統計量依存性フィットパラメータ及び前記フレームデータの局所方向統計量を使用して前記逆重複変換アダプテーションパラメータを決定するステップを備える、請求項２に記載の方法。
【請求項７】
前記統計量依存性フィットパラメータが２次多項式に対応している、請求項５に記載の方法。
【請求項８】
システムによって実行されたときに、
原フレームデータと処理済みのフレームデータの局所統計量の間の統計的フィットのパラメータを受信するステップと、
フレームデータへの逆重複変換の適用のためのアダプテーションパラメータを決定するステップと、
フィルタリングアダプテーションパラメータに応答して前記フレームデータをフィルタ処理するステップと、
を備える方法を前記システムに実行させる命令を記憶する１つ以上のコンピュータ読み取り可能な媒体を有する製品。
【請求項９】
フレームデータへの逆重複変換の適用のためのアダプテーションパラメータを決定する重複変換パラメータ再構成モジュールと、
フィルタリングアダプテーションパラメータに応答して前記データにフィルタリングを実行するポストフィルタモジュールと、
を備えるビデオデコーダ。
【請求項１０】
前記重複変換パラメータ再構成モジュールが、一度に一方向ずつ実行される２つの処理方向に対して、
前記フレームデータの第１の処理方向に対応する方向局所統計量を決定し、
前記方向局所統計量及び統計量フィットパラメータに基づいて逆重複変換アダプテーションパラメータを決定することにより、
フレームデータへの逆重複変換の適用のためのアダプテーションパラメータを決定し、
前記フレームデータのフィルタリングが前記方向局所統計量に基づく前記逆重複変換アダプテーションパラメータに基づいている、請求項９に記載のビデオデコーダ。
【請求項１１】
前記局所統計量が標準偏差に対応している、請求項９に記載のビデオデコーダ。
【請求項１２】
前記重複変換パラメータ再構成モジュールが受信された統計量依存性フィットパラメータ及びフレームデータの局所方向統計量を使用して前記逆重複変換アダプテーションパラメータを決定する、請求項９に記載のビデオデコーダ。
【請求項１３】
前記統計量依存性フィットパラメータが２次多項式に対応している、請求項１２に記載のビデオデコーダ。
【請求項１４】
前記フレームデータを生成する変換デコーダをさらに備える、請求項９に記載のビデオデコーダ。
【請求項１５】
前記重複変換パラメータ再構成モジュールが、
フレームデータに応答して局所統計量を計算する局所統計量計算モジュールと、
前記局所統計量計算モジュールに連結され、計算済みの局所統計量を記憶するメモリと、
前記計算済みの統計量に応答してポストフィルタパラメータを計算し、再構成済みＮＡＬＴパラメータを出力するポストフィルタパラメータ計算モジュールと、
を備える、請求項９に記載のビデオデコーダ。
【請求項１６】
映像フレーム内のデータを符号化するビデオコーダであって、
前記データへの重複変換の適用のためのアダプテーションパラメータを決定するためフレームデータを操作する第１のモジュールと、
前記第１のモジュールから受信されたフィルタリングアダプテーションパラメータに基づいて前記データをフィルタ処理するプリフィルタと、
前記データの逆重複変換によって使用される前記アダプテーションパラメータを決定するため再構成済みフレームデータを操作する第２のモジュールと、
受信された再構成済み重複変換アダプテーションパラメータに基づいて再構成済みフレームデータをフィルタ処理するポストフィルタと、
を備えるビデオコーダ。
【請求項１７】
前記第１のモジュールが、
フレーム内のブロック境界の統計量を決定する局所統計量計算モジュールと、
局所統計量に基づいて順重複変換のアダプテーションパラメータを決定するプリフィルタパラメータ計算モジュールと、
関数を前記フレームデータの前記局所統計量と前記再構成済みフレームデータ内の対応する局所統計量との間の依存性にフィットさせるパラメータを決定する統計的依存性計算モジュールと、
を備える、請求項１６に記載のエンコーダ。
【請求項１８】
前記プリフィルタが、
受信されたアダプテーションパラメータに基づいてフレームデータをフィルタ処理する水平適応フィルタと、
前記受信されたアダプテーションパラメータに基づいてフレームデータをフィルタ処理する垂直適応フィルタと、
を備える、請求項１６に記載のエンコーダ。
【請求項１９】
前記第２のモジュールが、
再構成済みフレーム内のブロック境界の統計量を決定する局所統計量計算モジュールと、
受信された局所統計量及び統計量依存性フィットパラメータに基づいて逆重複変換のアダプテーションパラメータを決定するポストフィルタパラメータ計算モジュールと、
を備える、請求項１６に記載のエンコーダ。
【請求項２０】
前記ポストフィルタが、
アダプテーションパラメータに基づいて再構成済みフレームデータをフィルタ処理する水平適応フィルタと、
アダプテーションパラメータに基づいて再構成済みフレームデータをフィルタ処理する垂直適応フィルタと、
を備える、請求項１６に記載のエンコーダ。
【請求項２１】
映像フレーム内のデータを映像符号化する方法であって、
前記データへの重複変換の適用のためのアダプテーションパラメータを決定するステップと、
前記アダプテーションパラメータに基づいて前記データをフィルタ処理するステップと、
前記データに基づく再構成済みフレームデータの逆重複変換によって使用される前記アダプテーションパラメータを決定するステップと、
決定された逆重複変換アダプテーションパラメータに基づいて前記再構成済みフレームデータをフィルタ処理するステップと、
を備える方法。
【請求項２２】
前記データへの重複変換の適用のためのアダプテーションパラメータを決定するステップが、
フレーム内のブロック境界の統計量を決定するステップと、
局所統計量に基づいて順重複変換の前記アダプテーションパラメータを決定するステップと、
関数を前記フレームデータの前記局所統計量と前記再構成済み重複フレームデータ内の対応する局所統計量との間の依存性にフィットさせるパラメータを決定するステップと、
を備える、請求項２１に記載の符号化方法。
【請求項２３】
前記アダプテーションパラメータに基づいて前記データをフィルタ処理するステップが、
受信されたアダプテーションパラメータに基づいてフレームデータをフィルタ処理するため水平フィルタリング動作を実行するステップと、
前記受信されたアダプテーションパラメータに基づいてフレームデータをフィルタ処理するため垂直フィルタリング動作を実行するステップと、
を備える、請求項２１に記載の符号化方法。
【請求項２４】
前記データに基づく再構成済みフレームデータの逆重複変換によって使用される前記アダプテーションパラメータを決定するステップが、
再構成済みフレーム内のブロック境界の統計量を決定するステップと、
決定された局所統計量及び統計量依存性フィットパラメータに基づいて逆重複変換のアダプテーションパラメータを決定するステップと、
を備える、請求項２１に記載の符号化方法。
【請求項２５】
ポストフィルタ処理するステップが、
アダプテーションパラメータに基づいて再構成済みフレームデータをフィルタ処理するため水平フィルタリング動作を実行するステップと、
アダプテーションパラメータに基づいて再構成済みフレームデータをフィルタ処理するため垂直フィルタリング動作を実行するステップと、
を備える、請求項２１に記載の符号化方法。
【国際調査報告】
2008547288.tif 000028
2008547288.tif 000029
2008547288.tif 000030