レート歪最適化RateDistortionOptimization:RDOを用いた処理済みビデオデータのサンプル適応オフセットSampleAdaptiveOffset:SAO補償のためのモード決定の方法であって、前記方法は、前記処理済みビデオデータを受信するステップ、SAOモードを識別するステップ、歪み削減量に従って前記モードの各々と関連付けられた歪みを決定するステップであって、前記歪み削減量は、第1の歪みと第2の歪みとの間の差に関連し、前記第1の歪みは、前記処理済みビデオデータと関連付けられた元の信号とSAO補償された信号とに関連し、前記第2の歪みは、前記処理済みビデオデータと関連付けられた元の信号と再構成信号とに関連する、ステップ、前記モードの各々の歪みに基づきレート歪みRateDistortion:RDコストを決定するステップ、前記モードの中から最適モードを選択するステップであって、前記最適モードは、最小RDコストを有する、ステップ、選択された前記最適モードに従って前記処理済みビデオデータにSAOを適用するステップ、を有する方法。前記歪み削減量は、前記モードの各々のピクセル数iCount、前記モードの各々に属するピクセルに加算されるべきオフセット値iOffset、及び前記処理済みビデオデータに関連付けられた再構成信号と元の信号との間のオフセット値の和iOffsetOrgに関連する、請求項1に記載の方法。前記歪み削減量は、に関連する、請求項2に記載の方法。前記モードが領域分割又は領域マージと関連付けられるとき、小さい領域の前記歪み削減量は、個々の大きい領域の歪み削減量を計算するために再利用される、請求項1に記載の方法。処理済みビデオデータのサンプル適応オフセットSampleAdaptiveOffset:SAO補償の方法であって、前記処理済みビデオデータを受信するステップ、分類に従って前記処理済みビデオデータの現在のピクセルのカテゴリを決定するステップであって、前記分類は、前記現在のピクセルと1又は複数の近隣ピクセルとに関連する、ステップ、補償された現在のピクセルを生成するために、前記カテゴリに関連付けられたオフセット値を用いて前記現在のピクセルを補償するステップ、前記現在のピクセルと前記1又は複数の近隣ピクセルとの間の関係を格納するステップ、前記現在のピクセルのカテゴリを決定した後に、実質的に少数のピクセル期間内に、前記現在のピクセルを前記補償された現在のピクセルで置換するステップ、を有する方法。前記現在のピクセルと前記1又は複数の近隣ピクセルとの間の関係の少なくとも一部は、別のピクセルのカテゴリを決定するために用いられる、請求項5に記載の方法。前記現在のピクセルと前記1又は複数の近隣ピクセルとの間の関係は、sign関数に基づく、請求項5に記載の方法。ルックアップテーブルが、前記現在のピクセルのカテゴリを決定するために用いられる、請求項5に記載の方法。レート歪最適化RateDistortionOptimization:RDOを用いた処理済みビデオデータのサンプル適応オフセットSampleAdaptiveOffset:SAO補償のためのモードを決定する装置であって、前記装置は、前記処理済みビデオデータを受信する手段、SAOモードを識別する手段、歪み削減量に従って前記モードの各々と関連付けられた歪みを決定する手段であって、前記歪み削減量は、第1の歪みと第2の歪みとの間の差に関連し、前記第1の歪みは、SAO補償された信号と前記処理済みビデオデータと関連付けられた元の信号とに関連し、前記第2の歪みは、再構成信号と前記処理済みビデオデータと関連付けられた元の信号とに関連する、手段、前記モードの各々の歪みに基づきレート歪みRateDistortion:RDコストを決定する手段、前記モードの中から最適モードを選択する手段であって、前記最適モードは、最小RDコストを有する、手段、選択された前記最適モードに従って前記処理済みビデオデータにSAOを適用する手段、を有する装置。前記歪み削減量は、前記モードの各々のピクセル数iCount、前記モードの各々に属するピクセルに加算されるべきオフセット値iOffset、及び前記処理済みビデオデータに関連付けられた再構成信号と元の信号との間のオフセット値の和iOffsetOrgに関連する、請求項9に記載の装置。前記歪み削減量は、に関連する、請求項10に記載の装置。前記モードが領域分割又は領域マージと関連付けられるとき、小さい領域の前記歪み削減量は、個々の大きい領域の歪み削減量を計算するために再利用される、請求項9に記載の装置。処理済みビデオデータのサンプル適応オフセットSampleAdaptiveOffset:SAO補償の装置であって、前記処理済みビデオデータを受信する手段、分類に従って前記処理済みビデオデータの現在のピクセルのカテゴリを決定する手段であって、前記分類は、前記現在のピクセルと1又は複数の近隣ピクセルとに関連する、手段、補償された現在のピクセルを生成するために、前記カテゴリに関連付けられたオフセット値を用いて前記現在のピクセルを補償する手段、前記現在のピクセルと前記1又は複数の近隣ピクセルとの間の関係を格納する手段、前記現在のピクセルのカテゴリを決定した後に、実質的に少数のピクセル期間内に、前記現在のピクセルを前記補償された現在のピクセルで置換する手段、を有する装置。前記現在のピクセルと前記1又は複数の近隣ピクセルとの間の関係の少なくとも一部は、別のピクセルのカテゴリを決定するために用いられる、請求項13に記載の装置。前記現在のピクセルと前記1又は複数の近隣ピクセルとの間の関係は、sign関数に基づく、請求項13に記載の装置。ルックアップテーブルが、前記現在のピクセルのカテゴリを決定するために用いられる、請求項13に記載の装置。レート歪最適化RateDistortionOptimization:RDOを用いた処理済みビデオデータのサンプル適応オフセットSampleAdaptiveOffset:SAO補償のためのモード決定の装置及び方法が開示される。本発明による方法は、前記処理済みビデオデータを受信するステップ、SAOモードを識別するステップ、歪み削減量の推定に従って前記モードの各々と関連付けられた歪みを決定するステップ、前記モードの各々の歪みに基づきレート歪みRateDistortion:RDコストを決定するステップ、前記モードの中から最適モードを選択するステップであって、前記最適モードは、最小RDコストを有する、ステップ、選択された前記最適モードに従って前記処理済みビデオデータにSAOを適用するステップ、を有する。前記歪み削減量の推定は、前記モードの各々のピクセル数iCount、前記モードの各々に属するピクセルに加算されるべきオフセット値iOffset、及び前記処理済みビデオデータに関連付けられた再構成信号と元の信号との間のオフセット値の和iOffsetOrgに関連する。さらに、前記歪み削減量の推定は、に関連する。本発明の別の態様は、SAO領域分割又は領域マージのための高速アルゴリズムを扱い、該高速アルゴリズムでは、小さい領域の前記歪み削減量は、個々の大きい領域の歪み削減量を計算するために再利用される。処理済みビデオデータのサンプル適応オフセットSampleAdaptiveOffset:SAO補償の装置及び方法が開示される。本発明による方法は、処理済みビデオデータを受信するステップ、分類に基づくエッジオフセットEOに従って前記処理済みビデオデータの現在のピクセルのカテゴリを決定するステップであって、前記EOに基づく分類は、前記現在のピクセルと1又は複数の近隣ピクセルとに関連する、ステップ、補償された現在のピクセルを生成するために、前記カテゴリに関連付けられたオフセット値を用いて前記現在のピクセルを補償するステップ、前記現在のピクセルと前記1又は複数の近隣ピクセルとの間の関係を格納するステップ、前記現在のピクセルのカテゴリを決定した後に、実質的に少数のピクセル期間内に、前記現在のピクセルを前記補償された現在のピクセルで置換するステップ、を有する。必要な計算を更に削減するため、前記現在のピクセルと前記1又は複数の近隣ピクセルとの間の関係の少なくとも一部は、別のピクセルのカテゴリを決定するために用いられる。前記現在のピクセルと前記1又は複数の近隣ピクセルとの間の関係はsign関数に基づき、前記現在のピクセルのgateゴリを決定するためにルックアップテーブルが用いられる。ビデオ符号化システムでは、ビデオデータは、予測、変換、量子化、デブロッキング及び適応ループフィルタリングのような種々の処理を受ける。ビデオ符号化システムの処理経路に沿って、処理されたビデオデータの特定の特性は、ビデオデータに適用される操作により、元のビデオデータから変更され得る。例えば、処理されたビデオの平均値がシフトされ得る。強度シフトは、視覚的欠陥又はアーティファクトを生じ得る。これは、強度シフトがピクチャ毎に異なる場合に特に一層目立つ。したがって、ピクセル強度シフトは、アーティファクトを軽減するために、注意深く補償されるか修復されなければならない。処理済みビデオデータの特定の特性を変更させ得る種々の理由がある。処理済みビデオデータの特性の変化は、本質的に適用される操作に関連し得る。例えば、低域通過フィルタがビデオデータに適用されるとき、はっきりしたエッジに対応するピクセル値は少ない勾配を有するだろう。エッジの片側のピクセル値は増大し、エッジの他方の側のピクセル値は減少し得る。この例では、サンプル適応オフセットがエッジ特性を考慮できれば、ビデオ品質は向上し得る。オリジナルのHEVCHighEfficiencyVideoCodingに提案された適応オフセットスキームは、処理済みビデオデータ内の各ピクセルを、選択されたコンテキストに従って複数のカテゴリのうちの1つに分類する。例えば、コンテキストは、処理されるビデオデータのピクセル強度であっても良い。或いは、コンテキストは、現在のピクセルとその周囲のピクセルとの組合せであっても良い。適応オフセットがどこに適用されるかに依存して、処理済みビデオデータは、再構成ビデオ、デブロックビデオ、適応ループフィルタリングされたビデオ、又は中間段階の他のビデオを表し得る。特性測定は、選択されたコンテキストに従って導出され、カテゴリは、測定された特性に従って決定される。カテゴリ毎に、元のピクセルと処理済みピクセルとの間の強度シフトが決定される。強度シフトは、本願明細書ではオフセット値とも称される。したがって、オフセット値は、強度シフトを補償するために、カテゴリに属する処理済みピクセルに適用される。各ピクセルのカテゴリに基づく処理済みビデオデータに対する強度シフト補償又は修復の処理は、本願明細書ではサンプル適応オフセットSampleAdaptiveOffsetSAOと称される。従来のSAOスキームは、ピクチャ毎又はスライス毎にピクセルのカテゴリを決定する場合が多い。しかしながら、ピクチャコンテンツは、動的である場合が多く、特性は1つのフレーム内の領域によって変化し得る。したがって、処理済みビデオデータを異なるサイズを有する領域に適応して区分する領域区分スキームを用いてピクチャ内の動的特性を考慮可能なサンプル適応オフセットスキームを開発することが望ましい。さらに、従来のSAOスキームは、常に固定したコンテキストを用いて処理済みビデオデータのピクセルのカテゴリを決定する。例えば、SAOは、サンプル適応オフセットに固定した16バンドのバンドオフセットBOのみを用いる。別の例では、SAOは、3x3ウインドウ内のピクセルのみをコンテキストとして用いて処理済みビデオデータのピクセルのカテゴリを決定する。サンプル適応オフセットスキームは、SAOタイプのグループからSAOタイプを適応して選択し、SAO処理を処理済みビデオデータの特性に合わせ、良好な品質を達成することが望ましい。したがって、本願明細書では、処理済みビデオデータの動的特性を活用できるサンプル適応オフセットスキームが開示される。図1に示す例示的なエンコーダは、イントラ/インター予測を用いるシステムを表す。イントラ予測110は、同一ピクチャ内のビデオデータに基づき予測データを提供する。インター予測では、動き推定ME及び動き補償MC112が用いられ、1又は複数の他のピクチャからのビデオデータに基づき予測データを提供する。スイッチ114は、イントラ予測又はインター予測データを選択する。選択された予測データは、加算器116に供給され、残差とも称される予測誤差を形成する。次に、予測誤差は、変換T118により、その次に量子化Q120により処理される。次に、変換され量子化された残差は、エントロピー符号化112により符号化され、圧縮ビデオデータに対応するビットストリームを形成する。変換係数に関連するビットストリームは、次に、動き、モード及び画像領域に関連する他の情報のようなサイド情報と共にパッキングされる。サイド情報も、必要帯域幅を減少させるためにエントロピー符号化を受けて良い。したがって、サイド情報に関連するデータは、図1に示すように、エントロピー符号化122に提供される。インター予測モードが用いられるとき、1又は複数の参照ピクチャは、エンコーダ端で再構成されなければならない。したがって、変換され量子化された残差は、逆量子化IQ124及び逆変換IT126により処理され、残差を復元させる。次に、残差は、再構成REC128において予測データ136に再び加算され、ビデオデータを再構成する。再構成ビデオデータは、参照ピクチャバッファ134に格納され、他のピクチャの予測のために用いられても良い。再構成ビデオデータが参照ピクチャバッファに格納される前に、ビデオ品質を向上させるために、デブロッキングフィルタ130及び適応ループフィルタ132が、再構成ビデオデータに適用される。適応ループフィルタ情報はビットストリーム内で送信され、デコーダが適応ループフィルタを適用するために必要な情報を正しく回復できるようにしても良い。したがって、ALF132からの適応ループフィルタ情報は、ビットストリームへの結合のためにエントロピー符号化122に提供される。図1に示すように、入力ビデオデータは、符号化システム内で一連の処理を受ける。REC128からの再構成ビデオデータは、この一連の処理による強度シフトを受け得る。再構成ビデオデータは、デブロッキング130及び適応ループフィルタ132により更に処理される。これは、更なる強度シフトを生じ得る。したがって、サンプル適応オフセットを組み込み、強度シフトを修復又は補償することが望ましい。図2は、デブロッキングフィルタと適応ループフィルタを有する例示的なビデオデコーダのシステムブロック図を示す。エンコーダは、ビデオデータを再構成するためにローカルデコーダも有するので、幾つかのデコーダ構成要素は、エントロピー復号化222を除いてエンコーダで既に用いられている。さらに、動き補償212のみがデコーダ側で必要である。スイッチ214は、イントラ予測又はインター予測データを選択する。選択された予測データは、再構成REC128に供給され、復元された残差と結合される。圧縮ビデオデータにエントロピー復号化を実行するのに加え、エントロピー復号化222は、サイド情報のエントロピー復号化も担い、サイド情報を個々のブロックに提供する。例えば、イントラモード情報はイントラ予測110に供給され、インターモード情報は動き補償212に供給され、適応ループフィルタ情報はALF132に供給され、残差は逆量子化124に供給される。残差は、IQ124、IT126及び後続の再構成処理により処理され、ビデオデータを再構成する。また、図2に示すように、REC128からの再構成ビデオデータは、IQ124及びIT126を含む一連の処理を受け、強度シフトを受ける。再構成ビデオデータは、デブロッキングフィルタ130及び適応ループフィルタ132により更に処理される。これは、更なる強度シフトを生じ得る。したがって、サンプル適応オフセットを組み込み、強度シフトを補償することが望ましい。オフセット問題を克服するために、McCann等は、Samsung’sResponsetotheCallforProposalsonVideoCompressionTechnology、文献JCTVCA124JointCollaborativeTeamonVideoCodingofITUTSG16WP3andISOIECJTC1SC29WG111stMeetingDresdenDE1523April2010で、コンテンツ適応型の極端な補正及びバンド補正を開示している。近隣ピクセルに基づくコンテンツ情報の使用は、局所的なエッジ特性を探索でき、良好な視覚的品質又はビットレートの低減の点で性能を向上させ得る。McCann等は、図3に示すような近隣ピクセル構成を開示している。ここで、Cは現在のピクセル値であり、n1-n4はそれぞれ現在のピクセルの上、左、右及び下側の4つの近隣ピクセルである。McCann等によるピクセルを7個のカテゴリに分類する方法を表1に示す。カテゴリ0では、ピクセルCが極小であり、谷とも称される。カテゴリ5では、ピクセルCが極小であり、谷とも称される。カテゴリ1、2、3、4では、ピクセルCはオブジェクトエッジにある。各カテゴリのピクセルについて、処理済みビデオデータの平均と元のビデオデータの平均との間の差が計算され、デコーダに送信される。処理済みビデオデータは、REC128からの再構成ビデオデータ、DF130からのデブロッキングされたデータ、又はALF132からの適応ループフィルタリングされたデータであり得る。McCann等は、エッジ特性をカテゴリに分類する。カテゴリは、クラスとも称される。図1及び2はビデオ符号化のためのサンプル適応オフセットが適用できる例示的なシステムを示すが、他のシステムも、強度シフト問題を克服するために本発明を用いることができる。例えば、カメラ画像処理システムでは、モザイク解除、ホワイトバランス、及び/又はエッジ強調により処理されたビデオデータも、強度シフトを受け得る。上述のように、McCann等は、第1の強度オフセットを適用して、基礎的ピクセルのエッジ特性に従ってDF130とALF132との間の処理済みデータを修復する。基礎的ピクセルのエッジ特性に基づく適応オフセットは、McCann等により極端な補正ExtremeCorrection:EXCと命名された。McCann等によると、上述の極端な補正は、再構成ビデオデータに適用される。クラスcに対応する再構成平均強度値Vrc及びクラスcに対応する元の平均強度値Vocは、ビデオピクチャに対して決定される。クラスcに対応するオフセットVdcは、次式に従って決定できる。VdVoVr上述のように計算されたオフセットVdcは、クラスcに属する再構成ビデオデータに加算される。つまり次式の通りである。Vr’VrVdここで、Vr’cは、オフセット補正されたビデオデータである。デコーダが個々のクラスに適正なオフセットを適用するために、全てのクラスのオフセットVdcの値がデコーダへ送信される必要がある。オフセットVdc値を組み込むために、適正なビットストリームシンタックスが必要である。図4に示すように、McCann等によるEXCに基づく適応オフセット410は、DF130とALF132との間のビデオデータに適用される。McCann等は、基礎的なピクセルが属するバンドに従う別の適応オフセット補正を開示している。この方法は、バンド補正bandcorrectionBDCとも称される。McCann等によると、バンドに基づく分類の主な動機は、再構成ビデオデータ及び元のビデオデータに対応する基礎的なデータの2つの異なる確率密度関数PDFを等しくすることである。McCann等は、ピクセルのp個の最上位ビットを用いることによるバンドに基づく分類を開示している。これは、強度を、均一な間隔を有する2p個のクラスに分割することと等価である。ある実装では、McCann等は、p=4を選択し、強度を16個の等しい間隔のバンドに分割した。バンドはクラスとも称される。各バンド又はクラスでは、平均差が計算され、デコーダへ送信される。そして、オフセットがバンド毎に個々に補正され得る。バンドc又はクラスcに対応する再構成平均強度値Vrc、及びバンドc又はクラスcに対応する元の平均強度値Vocは、ビデオピクチャに対して決定される。便宜上、EXCでは同一の数学的記号Vrc及びVocが用いられている。エッジ特性に基づく適応オフセット補正は、対応するクラスcに関連するオフセットVdcは、次式に従って決定できる。VdVoVr上述のように計算されたオフセットVdcは、次に、クラスcに属する再構成ビデオデータに加算される。つまり次式の通りである。Vr’VrVdここで、Vr’cは、オフセット補正されたビデオデータである。McCann等は、バンド補正を、ALF132と参照ピクチャバッファ134図示しないとの間の処理済みビデオデータに適用する。McCann等は、DF130とALF132との間、又はALF132と参照ピクチャバッファ134との間にAOを適用するが、図5に示すように、AO510は、REC128とDF130との間に適用されても良い。バンド分類のための16個の均一なバンドに加えて、ゼロでない可能性を増大させるために、バンド分類のための32個の均一なバンドが、CE8Subset3PictureQuadtreeAdaptiveOffset、文献:JCTVCD122JointCollaborativeTeamonVideoCodingofITUTSG16WP3andISOIECJTC1SC29WG114thMeetingDaeguKR2028January2011、CE13SampleAdaptiveOffsetwithLCUIndependentDecoding、文献:JCTVCE049JointCollaborativeTeamonVideoCodingofITUTSG16WP3andISOIECJTC1SC29WG115thMeetingGenevaCH1623March2011、及び米国非仮特許出願番号12987151、名称ApparatusandMethodofAdaptiveOffsetforVideoCoding、2011年1月9日出願に開示されている。32オフセットから16にサイド情報を減少させるために、図6に示すように、32個の均一なバンドは、2つのグループに分割される。中央の16個のバンドはグループ1に割り当てられ、両側の16個のバンドはグループ2に割り当てられる。したがって、オフセットの1つの集合は、中央の16個のバンドグループ1のために送られ、オフセットの1つの集合は、外側の16個のバンドグループ2のために送られる。McCann等は、基礎的なピクセルのエッジ特性に関する適応処理を開示している。ピクセル分類はピクチャ全体に基づく。適応オフセットに基づく代替エッジは、係属中の米国特許出願番号12987151、名称ApparatusandMethodofAdaptiveOffsetforVideoCoding、2011年1月9日出願に開示されている。該特許出願では、2個の近隣ピクセルを用いる簡略化された線形ピクセル構成が用いられる。簡略化されたピクセル構成の使用は、必要な計算を減少させる。したがって、図7A―Dに示すような、ピクセルパターンとも称される4個の簡略化されたピクセル構成が開示される。図7A―Dは、それぞれ垂直線90度、水平線0度、135度線、45度線に対応する。短い線のように配置された各ピクセル構成は、その線に沿った強度遷移に応答する。例えば、水平エッジは、他の方向を有する線よりも、垂直線においてより目立ち易い強度遷移を生じる。同様に、垂直エッジは、他の方向を有する線よりも、水平線においてより目立ち易い強度遷移を生じる。ピクセル構成の選択は領域毎に決定でき、各領域にフラグが必要である。ピクセル構成に基づき、基礎的なピクセルは、表2に示すようにエッジ、ピーク、谷、それ以外に対応する6個のクラスに分類される。上述のSAOスキームはバンドオフセットBOコンテキスト又はエッジオフセットEOコンテキストを用いてピクセルをカテゴリに分類するが、本発明による実施形態は複数のSAOタイプを用いる。例えば、複数のSAOタイプは、BOコンテキスト及びEOコンテキストの両方を含んでも良い。各SAOタイプは、割り当てられた数のカテゴリを有する。例えば、上述の例では、16個のカテゴリつまり、16個のバンドがグループ1BO及びグループ2BOに関連付けられる。6個のカテゴリは、4個のEO構成又はコンテキストの各々に関連付けられる。上述の例で言及したカテゴリの数は、説明を目的とし、本発明を限定するものと見なされるべきではない。本発明によるSAOタイプの総数は、予め定められるか又はユーザにより定められ得る。さらに、各SAOタイプのカテゴリの数は、予め定められるか、ユーザにより定められるか、又は画像サイズに依存し得る。複数のSAOタイプが用いられるとき、シンタックスの要素saotypeidxは、選択されたSAOタイプを識別するために用いられても良い。表3は、BOコンテキスト及びEOコンテキストの両方を含む複数のSAOタイプの例を示す。サンプル適応オフセットは、ビデオ信号を修復するために、常に再構成後のビデオ信号に適用されるが、サンプル適応オフセットは、再構成前のビデオ信号に適用されても良い。例えば、図8に示すように、サンプル適応オフセット810は、再構成REC128の前の逆変換された残差に適用されても良い。逆変換IT126の出力における回復された残差信号は、変換118、量子化120、逆量子化124及び逆変換126により処理されている。したがって、残差信号は強度シフトを受けている可能性がある。強度シフトを修復するために適応オフセットが有用である。適応オフセットに関連するサイド情報は、エントロピー符号化され、ビットストリーム内に組み込まれる。別の例では、図9に示すように、サンプル適応オフセットは、予測子が元のビデオ信号から減算される前に、イントラ/インター予測子に適用される。イントラ又はインター予測に従って導出された予測子は、強度シフトを生じ得る種々の操作を受ける。したがって、強度シフトを修復するためにサンプル適応オフセットが有用である。更に別の例では、図10に示すように、サンプル適応オフセット1010は、逆量子化124と逆変換126との間のビデオ信号に適用されても良い。McCann等による方法では、AOは、常にピクチャ全体又はピクチャのグループに基づく。特定のビデオデータでは、小さいピクチャエリアに対応する領域は、適応型処理では一層有利である。なぜなら、小さいピクチャエリアに関連付けられたカテゴリは、領域内の基礎的なビデオデータを厳密に特徴付けることができるからである。したがって、本発明では、複数レベルの領域区分が用いられる。各領域は、四分木を用いて4個のサブ領域に再帰的に分割できる。領域区分に関する情報は、シンタックスを用いて伝達できる。領域の境界は、符号化単位codingunit:CUに又は最大符号化単位largestcodingunit:LCUに揃えることができる。上記の表に示したように、各領域は、2種類のバンドオフセットBO、4種類のエッジオフセットEO、及び処理されないOFFのようなサンプル適応オフセットSAOタイプのうちの1つを選択できる。図11は、領域に区分されたピクチャの例を示す。各領域はBO、EO又はOFFタイプを用いてSAOにより処理される。図11において、各小ブロックはLCUを表す。SAOの領域区分は、ブロックに基づく。四分木区分における深さの数は、ブロックサイズに依存する。領域の幅又は領域の高さがブロックサイズより小さい場合、現在の領域の分割処理は終了する。最大の四分木深さは、ユーザにより定められた深さ、所定の深さ、又は画像サイズであり得る。ブロックサイズは、LCUサイズより小さい、それに等しい、又はそれより大きくても良い。図12は、LCUの位置に合わせられた領域区分の例を示す。領域はLCUサイズにより測定される。WidthInLCUは現在の領域の幅に対するLCUの数である。HeightInLCUは現在の領域の高さに対するLCUの数である。水平方向の区分は、WidthInLCUを幅Floor及びWidthInLCUFloorを有する2個のサブ領域に分割する。ここでFloorはフロア関数である。同様に、垂直方向の区分は、HeightInLCUを幅Floor及びHeightInLCUFloorを有する2個のサブ領域に分割する。1-DエッジオフセットEO分類は、2-DエッジオフセットEO分類よりも計算効率が良い。しかしながら、表2に記載した1-DEO分類アルゴリズムは、依然としてかなりの数の操作を必要とする。計算効率を更に向上させることが望ましい。したがって、本発明の一態様は、EOに基づく分類のための高速アルゴリズムを開示する。高速アルゴリズムは、現在のピクセルを2個の近隣ピクセルと比較する。比較の結果は、カテゴリを決定するためにルックアップテーブルに供給される。比較は、sign関数として実施できる。例えば、図13に、0度EO1310の現在のピクセルCと2個の近隣ピクセルB及びDを示す。sign操作がC-B及びC-Dに対して実行される。つまり、sign及びsignが実行され、ここで次式の通りである。ルックアップテーブル、つまりedgetableを用いて、比較結果をカテゴリインデックスに変換できる。ここで、edgetablex12034である。したがって、1-DEO分類のカテゴリCategoryは、次式により得られる。Categoryedgetable2signsignth値が零のとき、ピクセル分類は表2と全く同じである。CとDの比較は、ピクセルCについて計算される。図13に示すように、DとCの比較は、1-DEO1320のピクセルDについて計算される。CとDの比較は、DとCの比較のために再利用されても良い。つまり、signsignであり、これは幾つかの操作を省くことができる。sign関数が現在のピクセルとその近隣ピクセルとの間の関係を決定する手段として用いられるが、他の計測も用いられても良い。0度1-DEOを一例として示したが、同じ高速アルゴリズムが45度、90度及び135度EOに適用できる。本発明の別の態様は、SAO決定のための簡易レート歪最適化ratedistortionoptimizationRDOに関する。RDOratedistortionoptimizationは、良好な符号化効率を得るためにビデオ符号化で用いられる広く知られた技術である。RDOは、領域区分及び領域マージのようなSAOの決定に適用できる。例えば、図14は、SAOのための領域分割/領域マージの例を示す。種々の領域区分の中で最適なRD性能を達成するために、ピクチャ又は領域のようなピクチャエリアは、最大ピクチャエリアから首尾良く分割されても良いトップダウン分割。或いは、小さいピクチャ領域が、RDO技術を用いて、より大きい領域に首尾良くマージされても良いボトムアップマージ。図14は、3レベルのピクチャ構造を示す。ここで、J0乃至J20は、個々の領域に関連するR-Dコストである。トップダウン分割法では、各領域に関連するコストは、対応する分割領域のコストと比較される。例えば、コストJ3は、コストJ13J14J17J18と比較される。J3>J13J14J17J18の場合、J3と関連付けられた領域が分割される。その他の場合、この領域は分割されない。同様に、J0>J1J2J3J3の場合、J0と関連付けられた領域が分割される。その他の場合、この領域は分割されない。領域マージの処理は、個々の領域に関連付けられたコストとマージされた領域に関連付けられるコストを比較することにより同様に行うことができる。RDO処理は、非常に計算負荷が大きい。RDO処理を高速化する手段を開発することが望ましい。例えば、領域分割及び領域マージにおいて、より大きい領域に関連付けられた統計値つまり、レート及び/又は歪みは、対応するより小さい領域から導出できる。さらに、SAOでは、1つのピクチャ内に複数の領域が存在し、領域毎にテストされるべき複数のSAOタイプが存在する。1つのSAOタイプを有する1つの領域が与えられる場合、エンコーダは、通常、オフセットを求め、オフセットをピクセルに加算し、そして歪みを計算する。したがって、SAOのモード決定処理は、ピクチャバッファに何回もアクセスする必要がある。このマルチパス符号化アルゴリズムは、多くの外部メモリアクセスを必要とし、結果として高い電力消費及び長い待ち時間をもたらし得る。追加ピクチャバッファアクセスを有しないでSAOのモード決定を実行することが望ましい。したがって、全てのSAOパラメータが導出された後、1つの追加パスのみがオフセット補償を実行するために必要なだけである。したがって、実際のレート及び/又は歪みの値を計算する代わりに、これらの値は推定され得る。例えば、SAOの歪みは次のように推定できる。skは、元の信号である。xkは、再構成信号であり、デブロッキングされた信号であり得る。εreckは、再構成信号の推定歪みである。εAOkは、SAO信号の推定歪みである。Kは、フィルタにより処理されるべきピクセルのセットである。Cは、1つの種類のAOカテゴリに属するピクセルのセットである。Pは、SAOカテゴリのセットである。また、Pは、全てのSAOカテゴリの集合体である。acは、加算されるべきオフセット値である。SAO信号の歪み削減量は、εSAOk-εreckである。これは、それぞれSAOにより処理された信号及び再構成信号に対応する平均二乗誤差の差を表す。εrec=再構成信号と元の信号との間の平均二乗誤差εSAO=オフセット信号と元の信号との間の平均二乗誤差dεSAO=εSAO-εrec=SAOが適用された後のオフセット信号の歪み削減量ここで、Ncは現在のカテゴリのピクセルの数である。acsは、カテゴリkに属するピクセルに加算されるべきオフセット値である。acは、元の信号と再構成信号との間のオフセット値の和である。上述の導出によると、SAOが適用された後のオフセット信号の歪み削減量dεSAOは、次式により推定できる。式1によると、SAOが適用された後のオフセット信号の歪み削減量dεSAOは、現在のカテゴリのピクセルの数、カテゴリkに属するピクセルに加算されるべきオフセット値、及び元の信号と再構成信号との間のオフセット値の和に基づき推定できる。RDO処理のコスト関数で用いられる歪みは、SAO処理された信号と元の信号との間で導出される。種々のSAOモードが、最適モードを選択するためにRDOに対して評価される。ここで、SAO処理が同じ再構成信号に適用される。したがって、歪み削減量dεSAOは、オフセット信号と元の信号との間の平均二乗誤差εSAOを置換するために用いることができる。式1に示すように、歪み削減量dεSAOの計算は、高速アルゴリズムを用いて推定できる。一方で、元の歪み削減量又はオフセット信号と元の信号との間の元の歪みに基づく導出は、元の信号の自己相関、再構成信号の自己相関、元の信号と再構成信号との間の相互相関の計算を含むだろう。したがって、歪み削減量の推定は、必要な計算及びピクチャバッファへのアクセスを大幅に低減できる。本発明による実施形態は、モード毎に歪み削減量の推定を計算し、推定した歪み削減量を用いてRDOコスト関数を評価する。モードは、最適化されるべき領域分割/領域マージに関連付けられた領域であり得る。モード候補に関連付けられたRDOコスト関数に従って、最適モードが選択される。上述のような本発明によるサンプル適応オフセット補償の実施形態は、種々のハードウェア、ソフトウェアコード又はこれらの組合せで実装できる。例えば、本発明の実施形態は、本願明細書に記載した処理を実行するために、ビデオ圧縮チップに組み込まれた回路又は圧縮ソフトウェアに組み込まれたプログラムコードであり得る。本発明の実施形態は、本願明細書に記載した処理を実行するために、DSPDigitalSignalProcessorで実行されるプログラムコードであっても良い。本発明は、コンピュータプロセッサ、デジタル信号プロセッサ、マイクロプロセッサ又はFPGAfieldprogrammablegatearrayにより実行される多数の機能を有しても良い。これらのプロセッサは、本発明により実現される特定の方法を定める機械可読ソフトウェアコード又はファームウェアコードを実行することにより、本発明による特定のタスクを実行するよう構成され得る。ソフトウェアコード又はファームウェアコードは、異なるプログラミング言語及び異なるフォーマット若しくはスタイルで開発されても良い。ソフトウェアコードは、異なるターゲットプラットフォームのためにコンパイルされても良い。しかしながら、ソフトウェアコード及び本発明に従ってタスクを実行するようコードを構成する他の手段の異なるコードフォーマット、スタイル及び言語は、本発明の精神及び範囲から逸脱するものではない。本発明は、本発明の精神又は基本的特徴から逸脱することなく他の特定の形式で実施できる。説明した例は、あらゆる面で、単に説明であり限定的でないと考えられる。従って、本発明の範囲は、前述の説明によるのではなく、添付の特許請求の範囲により示される。請求項の等価物の意味及び範囲の範囲内で生じる全ての変化は、請求項の範囲内に包含される。[関連出願の参照]本発明は、米国仮特許出願番号61432482、2011年1月13日出願、名称PictureQuadtreeAdaptiveOffset、米国仮特許出願番号61436296、2011年1月26日出願、名称ImprovedOffsetMethod、米国仮特許出願番号61466083、2011年3月22日出願、名称SampleAdaptiveOffset、米国非仮特許出願番号12987151、2011年1月9日出願、名称ApparatusandMethodofAdaptiveOffsetforVideoCoding、米国非仮特許出願番号13177424、2011年7月6日出願、名称APPARATUSANDMETHODOFEFFICIENTSAMPLEADAPTIVEOFFSET、米国非仮特許出願番号13158427、2011年6月12日出願、名称ApparatusandMethodofSampleAdaptiveOffsetforVideoCodingの優先権を主張する。これらの米国仮特許出願及び米国非仮特許出願は、参照されることによりそれらの全体が本願明細書に組み込まれる。