【手続補正書】
【提出日】平成28年1月19日(2016.1.19)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
ビデオブロックに関連付けられたビデオ残差データを処理する方法であって、
選択された量子化ステップサイズパラメータに基づいて適用されることになるスケール係数のセットをメモリにおいて確立するステップと、
変換ユニットを介して、前記ビデオ残差データを、単一の１次元変換を使用して変換し、前記ビデオブロックに関連付けられた変換係数の第１のセットを生成するステップと、
量子化ユニットを介して、変換係数の前記第１のセットを量子化して、量子化された係数の第１のグループを生成するステップであって、変換係数の前記第１のセットを前記量子化することは、（１）Ｎが偶数の整数であるという条件で、２N次変換サイズを用いた前記単一の１次元変換に対する前記選択された量子化ステップサイズパラメータに基づいてスケール係数の前記セットにおける前記スケール係数のうちの最初の１つを適用し、および（２）Ｎが奇数の整数であるという条件で、前記２N次変換サイズを用いた前記単一の１次元変換に対する前記選択された量子化ステップサイズパラメータに基づいてスケール係数の前記セットにおける前記スケール係数のうちの２番目の１つを適用し、前記ビデオ残差データを処理する前記方法は、係数の前記第１のセットおよび前記第１のグループのいずれかをビットシフトするステップを含む、ステップと、
前記ビットシフトするステップの後に、量子化された係数の前記第１のグループをエントロピコーディングするステップと、
量子化された係数の前記エントロピコーディングされた第１のグループを送信するステップと
を備えたことを特徴とする方法。
【請求項２】
選択された量子化ステップサイズパラメータに基づいて適用されることになる逆スケール係数のセットをメモリにおいて確立するステップと、
逆量子化ユニットを介して、量子化された係数の前記第１のグループを逆量子化して、逆量子化された変換係数の第２のセットを生成するステップであって、量子化された係数の前記第１のグループを前記逆量子化することは、（１）Ｎが偶数の整数であるという条件で、前記２N次変換サイズを用いた前記単一の１次元変換に対する前記選択された量子化ステップサイズパラメータに基づいて逆スケール係数の前記セットにおける前記逆スケール係数のうちの最初の１つを適用し、および（２）Ｎが奇数の整数であるという条件で、前記２N次変換サイズを用いた前記単一の１次元変換に対する前記選択された量子化ステップサイズパラメータに基づいて逆スケール係数の前記セットにおける前記逆スケール係数のうちの２番目の１つを適用する、ステップと、
逆変換ユニットを介して、前記ビデオ残差データを生成するための逆変換された出力として、単一の１次元逆変換を使用して、逆量子化された変換係数の前記第２のセットを逆変換するステップと、
逆量子化された変換係数の前記第２のセット、または前記逆変換された出力を、ビット数によってビットシフトするステップであって、シフトされる前記ビット数は、前記選択された量子化ステップサイズパラメータに基づく、ステップと
をさらに備えたことを特徴とする請求項１に記載の方法。
【請求項３】
前記単一の１次元変換は、順方向水平変換または順方向垂直変換であることを特徴とする請求項１に記載の方法。
【請求項４】
前記ビデオ残差データを前記処理することは、ビットシフトするステップが、複数のユニットのうちの１または複数においてまたは後に発生するように、少なくとも前記変換ユニットおよび前記量子化ユニットを含む前記複数のユニット内で実行されることを特徴とする請求項１に記載の方法。
【請求項５】
前記処理することにおいて使用された前記ビデオブロックに関連する量子化された係数の前記送信され、エントロピコーディングされた第１のグループから再構成された、再構成されたビデオブロックの同一のダイナミックレンジを保持するステップをさらに備えたことを特徴とする請求項４に記載の方法。
【請求項６】
前記再構成されたビデオブロックの前記同一のダイナミックレンジを保持する前記ステップは、前記複数のユニットの各々においてまたは後で前記ダイナミックレンジを調整するステップを含むことを特徴とする請求項５に記載の方法。
【請求項７】
前記ビデオブロックを前記処理することは、１６ビット整数演算によって実現されることを特徴とする請求項１に記載の方法。
【請求項８】
（１）係数の前記第１のセットを前記ビットシフトするステップは、Ｎビット演算によって実現されたそのダイナミックレンジを最大にすることであり、Ｎは、正の整数値であり、（２）係数の前記第２のセットを前記ビットシフトするステップは、Ｎビット演算によって実現されたその前記ダイナミックレンジを最大にすることであり、Ｎは、正の整数値であり、（３）量子化された係数の前記第１のグループを前記ビットシフトするステップは、前記ビデオ残差データのダイナミックレンジに対してその前記ダイナミックレンジを調整することであることを特徴とする請求項２に記載の方法。
【請求項９】
ビデオブロックに関連付けられたビデオ残差データを処理する方法であって、
選択された量子化ステップサイズパラメータに基づいて適用されることになるスケール係数のセットをメモリにおいて確立するステップと、
第１のブロックのビデオ残差データに対して、
変換ユニットを介して、前記第１のブロックの前記ビデオ残差データを、２方向において１次元変換を使用して変換し、変換係数の第１のセットを生成するステップと、
量子化ユニットを介して、変換係数の前記第１のセットを量子化して、量子化された変換係数の第１のグループを生成するステップであって、変換係数の前記第１のセットを前記量子化することは、前記選択された量子化ステップサイズパラメータに基づいてスケール係数の前記セットにおける前記スケール係数のうちの最初の１つを適用する、ステップと、
エントロピコーディングのために、係数の前記第１のセットおよび前記第１のグループのいずれかをビットシフトするステップと、
第２のブロックのビデオ残差データに対して、
前記変換ユニットを介して、前記第２のブロックの前記ビデオ残差データを、１方向において１次元変換を使用して変換し、変換係数の第２のセットを生成するステップと、
前記量子化ユニットを介して、変換係数の前記第２のセットを量子化して、量子化された変換係数の第２のグループを生成するステップであって、変換係数の前記第２のセットを前記量子化することは、前記選択された量子化ステップサイズパラメータに基づいてスケール係数の前記セットにおける前記スケール係数のうちの異なる１つを適用する、ステップと、
エントロピコーディングのために、係数の前記第２のセットおよび前記第２のグループのいずれかをビットシフトするステップと
を備えたことを特徴とする方法。
【請求項１０】
選択された前記量子化ステップサイズパラメータに基づいて適用されることになる逆スケール係数のセットをメモリにおいて確立するステップと、
量子化された変換係数の前記第１のグループに対して、
逆量子化ユニットを介して、量子化された変換係数の前記第１のセットを逆量子化して、逆量子化された変換係数の第３のセットを生成するステップであって、量子化された変換係数の前記第１のグループを前記逆量子化することは、前記選択された量子化ステップサイズパラメータに基づいて逆スケール係数の前記セットにおける前記逆スケール係数のうちの最初の１つを適用する、ステップと、
逆変換ユニットを介して、前記ビデオ残差データを再構成するための第１の逆変換された出力として、１次元逆変換を使用して、逆量子化された変換係数の前記第３のセットを逆変換するステップと、
逆量子化された変換係数の前記第３のセット、または前記逆変換された出力を、第１のビット数によってビットシフトするステップであって、シフトされる前記第１のビット数は、前記選択された量子化ステップサイズパラメータに基づく、ステップと、
量子化された変換係数の前記第２のグループに対して、
前記逆量子化ユニットを介して、量子化された変換係数の前記第２のグループを逆量子化して、逆量子化された変換係数の第４のセットを生成するステップであって、量子化された変換係数の前記第２のグループを前記逆量子化することは、前記選択された量子化ステップサイズパラメータに基づいて逆スケール係数の前記セットにおける前記逆スケール係数のうちの２番目の１つを適用する、ステップと、
前記逆変換ユニットを介して、前記ビデオ残差データを再構成するための第２の逆変換された出力として、１次元逆変換を使用して、逆量子化された変換係数の前記第４のセットを逆変換するステップと、
逆量子化された変換係数の前記第４のセット、または前記逆変換された出力を、第２のビット数によってビットシフトするステップであって、シフトされる前記第２のビット数は、前記選択された量子化ステップサイズパラメータに基づき、および前記第２のビット数は、前記第１のビット数と異なる、ステップと
をさらに備えたことを特徴とする請求項９に記載の方法。
【請求項１１】
ビデオブロックに関連付けられたビデオ残差データを処理する方法であって、
選択された量子化ステップサイズパラメータに基づいて適用されることになる逆スケール係数のセットをメモリにおいて確立するステップと、
量子化された変換係数の第１のグループを取得するステップと、
逆量子化ユニットを介して、変換係数の前記第１のグループを逆量子化して、逆量子化された変換係数の第１のセットを生成するステップであって、量子化された変換係数の前記第１のグループを前記逆量子化することは、（１）Ｎが偶数の整数であるという条件で、２N次変換サイズを用いた単一の１次元変換に対する前記選択された量子化ステップサイズパラメータに基づいて逆スケール係数の前記セットにおける前記逆スケール係数のうちの最初の１つを適用し、および（２）Ｎが奇数の整数であるという条件で、前記２N次変換サイズを用いた前記単一の１次元変換に対する前記選択された量子化ステップサイズパラメータに基づいて逆スケール係数の前記セットにおける前記逆スケール係数のうちの２番目の１つを適用する、ステップと、
逆変換ユニットを介して、前記ビデオ残差データを再構成するための逆変換された出力として、単一の１次元逆変換を使用して、逆量子化された変換係数の前記第１のセットを逆変換するステップと、
逆量子化された変換係数の前記第１のセットまたは前記逆変換された出力を、ビット数によってビットシフトするステップであって、シフトされる前記ビット数は、前記選択された量子化ステップサイズパラメータに基づく、ステップと
を備えたことを特徴とする方法。
【請求項１２】
ビデオブロックに関連付けられたビデオ残差データを処理する方法であって、
選択された量子化ステップサイズパラメータに基づいて適用されることになる逆スケール係数のセットをメモリにおいて確立するステップと、
第１のブロックに対する量子化された変換係数の第１のグループ、および第２のブロックに対する量子化された変換係数の第２のグループを取得するステップと、
量子化された変換係数の前記第１のグループに対して、
逆量子化ユニットを介して、量子化された変換係数の前記第１のグループを逆量子化して、逆量子化された変換係数の第１のセットを生成するステップであって、量子化された変換係数の前記第１のグループを前記逆量子化することは、前記選択された量子化ステップサイズパラメータに基づいて逆スケール係数の前記セットにおける前記逆スケール係数のうちの最初の１つを適用する、ステップと、
逆変換ユニットを介して、前記第１のブロックの前記ビデオ残差データを再構成するための第１の逆変換された出力として、単一の１次元逆変換を使用して、逆量子化された変換係数の前記第１のセットを逆変換するステップと、
逆量子化された変換係数の前記第１のセット、または前記第１の逆変換された出力を、第１のビット数によってビットシフトするステップと
量子化された変換係数の前記第２のグループに対して、
前記逆量子化ユニットを介して、量子化された変換係数の前記第２のグループを逆量子化して、逆量子化された変換係数の第２のセットを生成するステップであって、量子化された変換係数の前記第２のグループを前記逆量子化することは、前記選択された量子化ステップサイズパラメータに基づいて逆スケール係数の前記セットにおける前記逆スケール係数のうちの２番目の１つを適用する、ステップと、
前記逆変換ユニットを介して、前記第２のブロックの前記ビデオ残差データを再構成するための第２の逆変換された出力として、１次元逆変換を使用して、逆量子化された変換係数の前記第２のセットを逆変換するステップと、
逆量子化された変換係数の前記第２のセット、または前記逆変換された出力を、前記選択された量子化ステップサイズパラメータに基づく第２のビット数によってビットシフトするステップであって、前記第２のビット数は、前記第１のビット数と異なる、ステップと
を備えたことを特徴とする方法。
【請求項１３】
スケール係数の前記セットにおける前記スケール係数のうちの前記２番目の１つは、スケール係数の前記セットにおける前記スケール係数のうちの前記最初の１つに関連して循環的にシフトされることを特徴とする請求項１または９に記載の方法。
【請求項１４】
スケール係数の前記セットにおける前記スケール係数の前記２番目の１つが、スケール係数の前記セットにおける前記スケール係数の前記最初の１つからの３つの循環位置となるように、スケール係数の前記セットは、スケール係数の循環的に順序付けられたセットであることを特徴とする請求項１または９に記載の方法。
【請求項１５】
逆スケール係数の前記セットにおける前記逆スケール係数のうちの前記２番目の１つは、逆スケール係数の前記セットにおける前記逆スケール係数のうちの前記最初の１つに関連して循環的にシフトされることを特徴とする請求項２、１０、１１、または１２に記載の方法。
【請求項１６】
逆スケール係数の前記セットにおける前記逆スケール係数の前記２番目の１つが、逆スケール係数の前記セットにおける前記逆スケール係数の前記最初の１つからの３つの循環位置となるように、逆スケール係数の前記セットは、逆スケール係数の循環的に順序付けられたセットであることを特徴とする請求項２、１０、１１、または１２に記載の方法。
【請求項１７】
ビデオを処理する方法であって、
前記ビデオのビデオブロックを取得するステップと、
Ｎに依存する関数として量子化に対する量子化パラメータを選択または決定するステップであって、Ｎは、前記ビデオブロックの前記処理することにおいて使用された変換の次元の整数個数であり、Ｎは、０、１、および２とすることができる、ステップと、
量子化ユニットを介して、前記選択されたまたは決定された量子化パラメータを使用して、変換されたまたは変換されていないビデオ残差データを量子化して、量子化されたデータの第１のセットを生成するステップと、
逆量子化ユニットを介して、前記選択されたまたは決定された量子化パラメータを使用して、量子化されたデータの前記第１のセットを逆量子化して、逆量子化されたデータの第２のセットを生成するステップであって、前記選択されたまたは決定された量子化パラメータは、前記ビデオを前記処理することにおいて使用された前記変換の次元の数に基づく、ステップと
を備えたことを特徴とする方法。
【請求項１８】
ビデオを処理する方法であって、
送受信ユニットを介して、前記ビデオのビデオブロックに関連付けられた符号化され量子化されたデータの第１のセットを取得するステップと、
Ｎに依存する関数として量子化に対する逆量子化パラメータを選択または決定するステップであって、Ｎは、前記ビデオブロックを前記処理することにおいて使用された変換の次元の数に対応する非負の整数である、ステップと、
エントロピ復号ユニットを介して、量子化されたデータの前記第１のセットをエントロピ復号するステップと、
逆量子化ユニットを介して、前記選択されたまたは決定された逆量子化パラメータを使用して、復号された量子化されたデータの前記第１のセットを逆量子化して、逆量子化されたデータの第２のセットを生成するステップであって、前記選択されたまたは決定された逆量子化パラメータは、前記ビデオを前記処理することにおいて使用された変換の次元の数に基づく、ステップと
を備えたことを特徴とする方法。
【請求項１９】
逆変換ユニットを介して、Ｎ次元における前記変換を使用して、逆量子化されたデータの前記第２のセットを逆変換して、再構成されたビデオブロックを生成するステップをさらに備えたことを特徴とする請求項１８に記載の方法。
【請求項２０】
前記逆量子化パラメータは、前記ビデオを前記処理することに使用された前記変換の次元の数が減る時に減ることを特徴とする請求項１８乃至１９のいずれか１つに記載の方法。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】０１４７
【補正方法】変更
【補正の内容】
【０１４７】
ある種の代表的な実施形態では、量子化ユニット２０６を介する量子化の手順は、（１）変換を正規化するためにＹMxN（ｉ，ｊ）（０≦ｉ＜Ｍ，０≦ｊ＜Ｎ）を（ＴM（０，０）×ＴM（０，０）×√ＭＮ）によって除算すること、および／または（２）ターゲットビットレートを達成するためにＹMxN（ｉ，ｊ）を量子化ステップサイズＺMxN（ｉ，ｊ）によって除算することを含む。ＴM（０，０）およびＴN（０，０）は、それぞれＴMおよびＴNの左上要素を指す。出力を、ＷMxN（ｉ，ｊ）と表す。