"復号される画像の変換係数データを逆直交変換する際に選択される直交変換方式に応じて、前記変換係数データを逆量子化する際に用いられる量子化行列を各変換単位に設定する設定部と、前記設定部により設定された前記量子化行列を用いて、前記変換係数データを逆量子化する逆量子化部と、前記選択される直交変換方式を用いて、前記逆量子化部により逆量子化された前記変換係数データを逆直交変換する変換部と、を備える画像処理装置。符号化ストリームのパラメータセット又はヘッダ内での定義に基づいて、前記量子化行列を生成する生成部、をさらに備える、請求項1に記載の画像処理装置。選択される直交変換方式の候補は、第1の直交変換方式及び前記第1の直交変換方式とは異なる第2の直交変換方式を含み、前記第1の直交変換方式に対応する量子化行列は、符号化ストリームのパラメータセット又はヘッダ内で定義され、前記生成部は、前記第2の直交変換方式に対応する量子化行列を前記第1の直交変換方式に対応する量子化行列から生成する、請求項2に記載の画像処理装置。前記第1の直交変換方式は、離散コサイン変換DCT方式であり、前記第2の直交変換方式は、離散サイン変換DST方式である、請求項3に記載の画像処理装置。前記生成部は、前記DCT方式に対応する量子化行列の低域から高域にかけての要素値の勾配をより緩やかにするように、前記DCT方式に対応する量子化行列から前記DST方式に対応する量子化行列を生成する、請求項4に記載の画像処理装置。前記生成部は、前記DCT方式に対応する量子化行列の前記勾配を所定の割合で変化させることにより、前記DST方式に対応する量子化行列を生成する、請求項5に記載の画像処理装置。前記生成部は、前記DCT方式に対応する量子化行列の各要素に要素位置に対応する係数を乗算することにより、前記DST方式に対応する量子化行列を生成する、請求項5に記載の画像処理装置。前記生成部は、前記第1の直交変換方式に対応する量子化行列から前記第2の直交変換方式に対応する量子化行列を生成することを示すフラグが符号化ストリームのパラメータセット又はヘッダ内に含まれる場合に、前記第1の直交変換方式に対応する量子化行列から前記第2の直交変換方式に対応する量子化行列を生成する、請求項3に記載の画像処理装置。前記生成部は、前記第2の直交変換方式に対応する量子化行列が用いられることを示すフラグが符号化ストリームのパラメータセット又はヘッダ内に含まれる場合に、前記第2の直交変換方式に対応する量子化行列を生成する、請求項3に記載の画像処理装置。前記変換部は、垂直方向の直交変換と水平方向の直交変換とで異なる直交変換方式を選択可能であり、前記設定部は、前記垂直方向の直交変換について用いられる直交変換方式と前記水平方向の直交変換について用いられる直交変換方式との組合せごとに異なる量子化行列を各変換単位に設定する、請求項1に記載の画像処理装置。前記垂直方向及び前記水平方向の直交変換についてそれぞれ用いられる2つの直交変換方式が互いに異なる場合に対応する複合変換用の量子化行列を、当該2つの直交変換方式が等しい場合に対応する1つ以上の非複合変換用の量子化行列から生成する生成部、をさらに備える、請求項10に記載の画像処理装置。前記複合変換用の量子化行列は、離散コサイン変換DCT方式と離散サイン変換DST方式との組合せに対応する量子化行列であり、前記1つ以上の非複合変換用の量子化行列は、前記DCT方式に対応する量子化行列及び前記DST方式に対応する量子化行列を含む、請求項11に記載の画像処理装置。前記生成部は、前記複合変換用の量子化行列を、前記DCT方式に対応する量子化行列と前記DST方式に対応する量子化行列との加重平均により生成する、請求項12に記載の画像処理装置。前記生成部は、符号化ストリームのパラメータセット又はヘッダから、前記加重平均の重みを特定するためのパラメータを取得する、請求項13に記載の画像処理装置。復号される画像の変換係数データを逆直交変換する際に選択される直交変換方式に応じて、前記変換係数データを逆量子化する際に用いられる量子化行列を各変換単位に設定するステップと、設定された前記量子化行列を用いて、前記変換係数データを逆量子化するステップと、前記選択される直交変換方式を用いて、逆量子化された前記変換係数データを逆直交変換するステップと、を含む画像処理方法。符号化される画像の各変換単位について選択される直交変換方式を用いて、画像データを変換係数データに変換する変換部と、前記変換部により用いられる直交変換方式に応じて、前記変換係数データを量子化する際に用いられる量子化行列を各変換単位に設定する設定部と、前記設定部により設定された前記量子化行列を用いて、前記変換係数データを量子化する量子化部と、を備える画像処理装置。符号化される画像の各変換単位について選択される直交変換方式を用いて、画像データを変換係数データに変換するステップと、前記画像データの変換の際に用いられる直交変換方式に応じて、前記変換係数データを量子化する際に用いられる量子化行列を各変換単位に設定するステップと、設定された前記量子化行列を用いて、前記変換係数データを量子化するステップと、を含む画像処理方法。しかしながら、画像データの直交変換の際に使用される直交変換方式に依存して、導かれる変換係数データの傾向は異なる。例えば、DST方式では、DCT方式と比較して、より高域の変換係数が生じ易いことが知られている。従って、上記非特許文献2の提案のように複数の直交変換方式が使用され得る場合には、量子化による画質の劣化を防ぐ観点から、使用される直交変換方式に応じて適応的に量子化行列を切り替えることのできる仕組みが提供されることが望ましい。本開示によれば、復号される画像の変換係数データを逆直交変換する際に選択される直交変換方式に応じて、前記変換係数データを逆量子化する際に用いられる量子化行列を各変換単位に設定する設定部と、前記設定部により設定された前記量子化行列を用いて、前記変換係数データを逆量子化する逆量子化部と、前記選択される直交変換方式を用いて、前記逆量子化部により逆量子化された前記変換係数データを逆直交変換する変換部と、を備える画像処理装置が提供される。上記画像処理装置は、典型的には、画像を復号する画像復号装置として実現され得る。また、本開示によれば、復号される画像の変換係数データを逆直交変換する際に選択される直交変換方式に応じて、前記変換係数データを逆量子化する際に用いられる量子化行列を各変換単位に設定するステップと、設定された前記量子化行列を用いて、前記変換係数データを逆量子化するステップと、前記選択される直交変換方式を用いて、逆量子化された前記変換係数データを逆直交変換するステップと、を含む画像処理方法が提供される。また、本開示によれば、符号化される画像の各変換単位について選択される直交変換方式を用いて、画像データを変換係数データに変換する変換部と、前記変換部により用いられる直交変換方式に応じて、前記変換係数データを量子化する際に用いられる量子化行列を各変換単位に設定する設定部と、前記設定部により設定された前記量子化行列を用いて、前記変換係数データを量子化する量子化部と、を備える画像処理装置が提供される。上記画像処理装置は、典型的には、画像を符号化する画像符号化装置として実現され得る。また、本開示によれば、符号化される画像の各変換単位について選択される直交変換方式を用いて、画像データを変換係数データに変換するステップと、前記画像データの変換の際に用いられる直交変換方式に応じて、前記変換係数データを量子化する際に用いられる量子化行列を各変換単位に設定するステップと、設定された前記量子化行列を用いて、前記変換係数データを量子化するステップと、を含む画像処理方法が提供される。以上説明したように、本開示によれば、使用される直交変換方式に応じて適応的に量子化行列を切り替えることが可能となる。以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。また、以下の順序で説明を行う。1.一実施形態に係る画像符号化装置の構成例1-1.全体的な構成例1-2.シンタックス処理部の構成例1-3.直交変換部の構成例1-4.量子化部の構成例1-5.パラメータ構成例1-6.DST用の量子化行列の生成1-7.複合変換用の量子化行列の生成2.シンタックスの例3.一実施形態に係る符号化時の処理の流れ4.一実施形態に係る画像復号装置の構成例4-1.全体的な構成例4-2.シンタックス処理部の構成例4-3.逆量子化部の構成例4-4.逆直交変換部の構成例5.一実施形態に係る復号時の処理の流れ6.応用例7.まとめ<1.一実施形態に係る画像符号化装置の構成例>本節では、一実施形態に係る画像符号化装置の構成例について説明する。[1-1.全体的な構成例]図1は、一実施形態に係る画像符号化装置10の構成の一例を示すブロック図である。図1を参照すると、画像符号化装置10は、A/DAnaloguetoDigital変換部11、並べ替えバッファ12、シンタックス処理部13、減算部14、直交変換部15、量子化部16、可逆符号化部17、蓄積バッファ18、レート制御部19、逆量子化部21、逆直交変換部22、加算部23、デブロックフィルタ24、フレームメモリ25、セレクタ26、イントラ予測部30、動き探索部40、及びモード選択部50を備える。A/D変換部11は、アナログ形式で入力される画像信号をデジタル形式の画像データに変換し、一連のデジタル画像データを並べ替えバッファ12へ出力する。並べ替えバッファ12は、A/D変換部11から入力される一連の画像データに含まれる画像を並べ替える。並べ替えバッファ12は、符号化処理に係るGOPGroupofPictures構造に応じて画像を並べ替えた後、並べ替え後の画像データをシンタックス処理部13へ出力する。並べ替えバッファ12からシンタックス処理部13へ出力される画像データは、NALNetworkAbstractionLayer:ネットワーク抽象レイヤユニットという単位でビットストリームへマッピングされる。画像データのストリームは、1つ以上のシーケンスを含む。シーケンスの先頭のピクチャは、IDRInstantaneousDecodingRefreshピクチャと呼ばれる。各シーケンスは1つ以上のピクチャを含み、さらに各ピクチャは1つ以上のスライスを含む。H.264/AVC及びHEVCでは、これらスライスが映像の符号化及び復号の基本的な単位である。各スライスのデータは、VCLVideoCodingLayer:ビデオ符号化レイヤNALユニットとして認識される。シンタックス処理部13は、並べ替えバッファ12から入力される画像データのストリーム内のNALユニットを順次認識し、ヘッダ情報を格納する非VCLNALユニットをストリームに挿入する。シンタックス処理部13がストリームに挿入する非VCLNALユニットは、シーケンスパラメータセットSPS:SequenceParameterSet及びピクチャパラメータセットPPS:PictureParameterSetを含む。なお、SPS及びPPSとは異なる新たなパラメータセットが定義されてもよい。例えば、シンタックス処理部13は、後に説明する量子化行列に関連するパラメータのみを格納する量子化行列パラメータセットQMPS:QuantizationMatrixParameterSetをストリームに挿入してもよい。また、シンタックス処理部13は、スライスの先頭にスライスヘッダSH:SliceHeaderを付加する。そして、シンタックス処理部13は、VCLNALユニット及び非VCLNALユニットを含む画像データのストリームを、減算部14、イントラ予測部30及び動き探索部40へ出力する。シンタックス処理部13の詳細な構成について、後にさらに説明する。減算部14には、シンタックス処理部13から入力される画像データ、及び後に説明するモード選択部50により選択される予測画像データが供給される。減算部14は、シンタックス処理部13から入力される画像データとモード選択部50から入力される予測画像データとの差分である予測誤差データを算出し、算出した予測誤差データを直交変換部15へ出力する。直交変換部15は、符号化される画像の各変換単位について、複数の直交変換方式の候補から選択される直交変換方式を用いて画像データを変換係数データに変換する。直交変換部15による直交変換の対象となる画像データは、減算部14から入力される予測誤差データである。複数の直交変換方式の候補は、例えば、離散コサイン変換DCT方式、離散サイン変換DST方式、アダマール変換方式及びカルーネンレーベ変換方式、並びにこれらの組合せなどを含んでよい。なお、本明細書の以下の説明では、DCT方式及びDST方式、並びにこれら2つの方式の組合せ以下、複合変換方式というが直交変換部15により選択され得るものとする。直交変換部15は、直交変換処理を通じて予測誤差データから変換された変換係数データを量子化部16へ出力する。直交変換部15の詳細な構成について、後にさらに説明する。量子化部16は、直交変換部15から入力される変換係数データを量子化行列を用いて量子化し、量子化後の変換係数データ以下、量子化データというを可逆符号化部17及び逆量子化部21へ出力する。量子化データのビットレートは、レート制御部19からのレート制御信号に基づいて制御される。量子化部16により使用される量子化行列は、SPS若しくはPPS、又はその他のパラメータセット内で定義され、スライスごとにスライスヘッダ内で指定され得る。量子化行列が指定されない場合には、全ての成分について等しい量子化ステップを有するフラットな量子化行列が使用される。量子化部16の詳細な構成について、後にさらに説明する。可逆符号化部17は、量子化部16から入力される量子化データについて可逆符号化処理を行うことにより、符号化ストリームを生成する。可逆符号化部17による可逆符号化は、例えば、可変長符号化、又は算術符号化などであってよい。また、可逆符号化部17は、モード選択部50から入力されるイントラ予測に関する情報又はインター予測に関する情報を、符号化ストリームのヘッダ内に多重化する。そして、可逆符号化部17は、生成した符号化ストリームを蓄積バッファ18へ出力する。蓄積バッファ18は、可逆符号化部17から入力される符号化ストリームを半導体メモリなどの記憶媒体を用いて一時的に蓄積する。そして、蓄積バッファ18は、蓄積した符号化ストリームを、伝送路の帯域に応じたレートで、図示しない伝送部例えば、通信インタフェース又は周辺機器との接続インタフェースなどへ出力する。レート制御部19は、蓄積バッファ18の空き容量を監視する。そして、レート制御部19は、蓄積バッファ18の空き容量に応じてレート制御信号を生成し、生成したレート制御信号を量子化部16へ出力する。例えば、レート制御部19は、蓄積バッファ18の空き容量が少ない時には、量子化データのビットレートを低下させるためのレート制御信号を生成する。また、例えば、レート制御部19は、蓄積バッファ18の空き容量が十分大きい時には、量子化データのビットレートを高めるためのレート制御信号を生成する。逆量子化部21は、量子化部16から入力される量子化データについて、量子化部16による量子化処理の際に設定されたものと同じ量子化行列を用いて、逆量子化処理を行う。そして、逆量子化部21は、逆量子化処理により取得される変換係数データを、逆直交変換部22へ出力する。逆直交変換部22は、逆量子化部21から入力される変換係数データについて逆直交変換処理を行うことにより、予測誤差データを復元する。逆直交変換部22により使用される直交変換方式は、直交変換部15による直交変換処理の際に選択された方式と等しい。そして、逆直交変換部22は、復元した予測誤差データを加算部23へ出力する。加算部23は、逆直交変換部22から入力される復元された予測誤差データとモード選択部50から入力される予測画像データとを加算することにより、復号画像データを生成する。そして、加算部23は、生成した復号画像データをデブロックフィルタ24及びフレームメモリ25へ出力する。デブロックフィルタ24は、画像の符号化時に生じるブロック歪みを減少させるためのフィルタリング処理を行う。デブロックフィルタ24は、加算部23から入力される復号画像データをフィルタリングすることによりブロック歪みを除去し、フィルタリング後の復号画像データをフレームメモリ25へ出力する。フレームメモリ25は、加算部23から入力される復号画像データ、及びデブロックフィルタ24から入力されるフィルタリング後の復号画像データを記憶媒体を用いて記憶する。セレクタ26は、イントラ予測のために使用されるフィルタリング前の復号画像データをフレームメモリ25から読み出し、読み出した復号画像データを参照画像データとしてイントラ予測部30に供給する。また、セレクタ26は、インター予測のために使用されるフィルタリング後の復号画像データをフレームメモリ25から読み出し、読み出した復号画像データを参照画像データとして動き探索部40に供給する。イントラ予測部30は、シンタックス処理部13から入力される符号化対象の画像データ、及びセレクタ26を介して供給される復号画像データに基づいて、各イントラ予測モードのイントラ予測処理を行う。例えば、イントラ予測部30は、各イントラ予測モードによる予測結果を所定のコスト関数を用いて評価する。そして、イントラ予測部30は、コスト関数値が最小となるイントラ予測モード、即ち圧縮率が最も高くなるイントラ予測モードを、最適なイントラ予測モードとして選択する。そして、イントラ予測部30は、予測画像データ、選択した最適なイントラ予測モードなどを含むイントラ予測に関する情報、及びコスト関数値を、モード選択部50へ出力する。イントラ予測に関する情報は、イントラ予測における最適な予測方向を表す情報を含み得る。動き探索部40は、シンタックス処理部13から入力される符号化対象の画像データ、及びセレクタ26を介して供給される復号画像データに基づいて、インター予測処理フレーム間予測処理を行う。例えば、動き探索部40は、各予測モードによる予測結果を所定のコスト関数を用いて評価する。次に、動き探索部40は、コスト関数値が最小となる予測モード、即ち圧縮率が最も高くなる予測モードを、最適な予測モードとして選択する。また、動き探索部40は、当該最適な予測モードに従って予測画像データを生成する。そして、動き探索部40は、予測画像データ、選択した最適な予測モードなどを含むインター予測に関する情報、及びコスト関数値を、モード選択部50へ出力する。モード選択部50は、イントラ予測部30から入力されるイントラ予測に関するコスト関数値と動き探索部40から入力されるインター予測に関するコスト関数値とを比較する。そして、モード選択部50は、イントラ予測及びインター予測のうちコスト関数値がより少ない予測手法を選択する。モード選択部50は、イントラ予測を選択した場合には、イントラ予測に関する情報を直交変換部15及び可逆符号化部17へ出力すると共に、予測画像データを減算部14及び加算部23へ出力する。また、モード選択部50は、インター予測を選択した場合には、インター予測に関する上述した情報を可逆符号化部17へ出力すると共に、予測画像データを減算部14及び加算部23へ出力する。[1-2.シンタックス処理部の構成例]図2は、図1に示した画像符号化装置10のシンタックス処理部13の詳細な構成の一例を示すブロック図である。図2を参照すると、シンタックス処理部13は、設定保持部132、パラメータ生成部134及び挿入部136を有する。1設定保持部設定保持部132は、画像符号化装置10による符号化処理のために使用される様々な設定を保持する。例えば、設定保持部132は、画像データの各シーケンスのプロファイル、各ピクチャの符号化モード、GOP構造に関するデータ、並びに符号化単位及び変換単位の設定などを保持する。また、本実施形態において、設定保持部132は、量子化部16及び逆量子化部21により使用される量子化行列についての設定を保持する。これら設定は、典型的には、オフラインでの画像の解析に基づいて予め決定され得る。2パラメータ生成部パラメータ生成部134は、設定保持部132により保持されている設定を定義するパラメータを生成し、生成したパラメータを挿入部136へ出力する。例えば、本実施形態において、パラメータ生成部134は、量子化部16により使用され得る量子化行列を生成するための量子化行列パラメータを生成する。量子化部16により使用され得る量子化行列は、直交変換部15により選択され得る直交変換方式の候補の各々に対応する量子化行列を含む。パラメータ生成部134により生成される量子化行列パラメータの一例について、後にさらに説明する。3挿入部挿入部136は、パラメータ生成部134により生成されるパラメータ群をそれぞれ含むSPS、PPS及びスライスヘッダなどのヘッダ情報を、並べ替えバッファ12から入力される画像データのストリームに挿入する。挿入部136により画像データのストリームに挿入されるヘッダ情報には、パラメータ生成部134により生成される量子化行列パラメータが含まれる。そして、挿入部136は、ヘッダ情報の挿入された画像データのストリームを、減算部14、イントラ予測部30及び動き探索部40へ出力する。[1-3.直交変換部の構成例]図3は、図1に示した画像符号化装置10の直交変換部15の詳細な構成の一例を示すブロック図である。図3を参照すると、直交変換部15は、変換方式選択部152及び直交変換演算部154を有する。1変換方式選択部変換方式選択部152は、複数の直交変換方式の候補から、各変換単位の予測誤差データの直交変換のために使用すべき直交変換方式を選択する。例えば、H.264/AVCでは、予測誤差データの直交変換のために使用される直交変換方式は、DCT方式である。これに対し、本実施形態において、変換方式選択部152は、上記非特許文献2において提案されている考え方を応用し、以下の4通りの直交変換方式を選択可能である:aDCT方式bDST方式c複合変換方式DST_DCTd複合変換方式DCT_DSTこのうち、aDCT方式は、H.264/AVCなどで通常使用される直交変換方式であり、垂直方向及び水平方向の双方についてDCTが行われる。bDST方式では、垂直方向及び水平方向の双方についてDSTが行われる。cDST_DCT方式では、垂直方向の周波数成分がDSTにより抽出され、水平方向の周波数成分がDCTにより抽出される。dDCT_DST方式では、垂直方向の周波数成分がDCTにより抽出され、水平方向の周波数成分がDSTにより抽出される。即ち、本実施形態において、変換方式選択部152は、垂直方向の直交変換と水平方向の直交変換とで異なる直交変換方式を選択可能である。図4は、変換方式選択部152により選択可能な上述した4つの直交変換方式の基底のパターンを概念的に示す説明図である。図4を参照すると、左上にaDCT方式、右下にbDST方式、右上にcDST_DCT方式、左下にdDCT_DST方式の基底のパターンの一例がそれぞれ示されている。基底の各パターンにおいて帯域は濃淡の変化で示されており、各パターンの左上から右下に向けて帯域は低域から高域へ変化する。図4から理解される点の1つは、DCT方式以外の3つの方式において、左上端の要素が完全な直流DC成分ではないことである。従って、垂直方向及び水平方向の少なくとも一方についてDSTが行われる場合には、両方向についてDCTが行われる場合と比較して、DSTが行われる方向において高周波成分に有意な変換係数が現れやすいと言える。また、いずれの方向についてDSTが行われるかによって、直交変換により導かれる変換係数データの傾向は異なる。変換方式選択部152による直交変換方式の選択は、上記非特許文献2に記載された手法に従って行われてよい。その場合、変換方式選択部152は、モード選択部50により選択される予測手法イントラ予測/インター予測、予測単位のサイズ及び予測方向に基づいて、各方向について直交変換方式を選択する。例えば、変換方式選択部152は、インター予測の場合又は8×8以上のイントラ予測の場合には、DCT方式を選択する。一方、変換方式選択部152は、4×4のイントラ予測の場合には、イントラ予測の予測方向に応じて直交変換方式を切り替える。イントラ予測の予測方向と選択される直交変換方式とのマッピングは、上記非特許文献2のテーブル1に記載された通りのマッピングであってよい。また、他のマッピングが使用されてもよい。そして、変換方式選択部152は、各変換単位について選択した直交変換方式を直交変換演算部154に通知する。2直交変換演算部直交変換演算部154は、各変換単位について、変換方式選択部152により選択される直交変換方式を用いて、減算部14から入力される予測誤差データを変換係数データに変換する。そして、直交変換演算部154は、変換後の変換係数データを量子化部16へ出力する。また、変換方式選択部152は、各変換単位について選択した直交変換方式を表す変換方式情報を量子化部16へ出力する。[1-4.量子化部の構成例]図5は、図1に示した画像符号化装置10の量子化部16の詳細な構成の一例を示すブロック図である。図5を参照すると、量子化部16は、量子化行列設定部162及び量子化演算部164を有する。1量子化行列設定部量子化行列設定部162は、直交変換部15により使用される直交変換方式に応じて、変換係数データの量子化のための量子化行列を各変換単位に設定する。例えば、量子化行列設定部162は、まず、直交変換部15から変換方式情報を取得する。変換方式情報は、各変換単位について選択された直交変換方式を識別する識別情報であってもよい。その代わりに、変換方式情報は、各変換単位に対応する予測手法イントラ予測/インター予測、予測単位のサイズ及び予測方向を表す情報であってもよい。量子化行列設定部162は、取得した変換方式情報から各変換単位について使用される直交変換方式を認識し、認識した直交変換方式に対応する量子化行列を各変換単位に設定する。量子化行列設定部162は、例えば、インター予測の場合又は8×8以上のイントラ予測の場合には、DCT方式用の量子化行列を一律的に変換単位に設定してもよい。設定される量子化行列の量子化ステップは、レート制御部19からのレート制御信号に応じて調整されてもよい。一方、量子化行列設定部162は、4×4のイントラ予測の場合には、次の表1に示すマッピングに従って、認識した直交変換方式に対応する量子化行列を決定し得る。表1において、MDCTはDCT用の量子化行列、MDSTはDST用の量子化行列、MDST_DCTはDST_DCT用の量子化行列、MDCT_DSTはDCT_DST用の量子化行列である。DST用の量子化行列MDSTは、DCT用の量子化行列MDCTと比較して低域から高域にかけての量子化ステップの勾配が緩やかとなるように与えられ得る。それにより、DSTを通じて導かれる変換係数データの高周波成分の変換係数の有意性が失われにくくなる。例えば、DCT用の量子化行列MDCT及びDST用の量子化行列MDSTは、次のような行列であってよい:また、例えば、DST_DCT用の量子化行列MDST_DCT及びDCT_DST用の量子化行列MDCT_DSTは、次のような行列であってよい:上記の例では、DST_DCT用の量子化行列MDST_DCTにおいて、垂直方向の量子化ステップの勾配が水平方向の量子化ステップの勾配よりも緩やかである。また、DCT_DST用の量子化行列MDCT_DSTにおいて、水平方向の量子化ステップの勾配が垂直方向の量子化ステップの勾配よりも緩やかである。2量子化演算部量子化演算部164は、各変換単位について、量子化行列設定部162により設定される量子化行列を用いて、直交変換部15から入力される変換係数データを量子化する。そして、量子化演算部164は、量子化後の変換係数データ量子化データを可逆符号化部17及び逆量子化部21へ出力する。なお、量子化行列設定部162により設定される量子化行列は、逆量子化部21における逆量子化の際にも使用され得る。[1-5.パラメータ構成例]図6は、シンタックス処理部13のパラメータ生成部134により生成される量子化行列パラメータのうち、DCT用の量子化行列以外の量子化行列に関するパラメータの一例を示している。なお、DCT用の量子化行列に関するパラメータは、H.264/AVCなどの既存の映像符号化方式と同様のパラメータであってよい。図6を参照すると、量子化行列パラメータは、デフォルトフラグ、DST用行列フラグ及び各量子化行列を生成するためのパラメータ群を含む。デフォルトフラグは、既定の量子化行列を使用するか否かを表すフラグである。デフォルトフラグが0:Noを示す場合には、既定の量子化行列とは異なる独自の量子化行列が定義され、当該独自の量子化行列が量子化の際に使用される。一方、デフォルトフラグが1:Yesを示す場合には、既定の量子化行列が量子化の際に使用される。DST用行列フラグは、DST用の量子化行列を生成するか否かを表すフラグである。DST用行列フラグが0:Noを示す場合には、DCT方式以外の直交変換方式が選択される変換単位についてもDCT用の量子化行列が使用される。一方、DST用行列フラグが1:Yesを示す場合には、DST用の量子化行列及び複合変換用の量子化行列が使用され得るため、復号側でこれら量子化行列の生成が行われる。DST用の量子化行列を生成するためのパラメータの1つは、生成モードである。当該生成モードは、DST用の量子化行列をどのように生成すべきかを表す区分である。一例として、生成モードの区分は、次のいずれかの値をとり得る。0:全スキャンモード1:残差モード2:勾配演算モード3:係数テーブルモードDST用の生成モードが0:全スキャンモードであれば、量子化行列パラメータは、さらにDST用の差分データを含む。差分データは、DST用の量子化行列の全ての要素をジグザグスキャンによって1次元配列化し、その1次元配列をDPCMDifferentialPulseCodeModulation方式で符号化したデータであってよい。DST用の生成モードが1:残差モードであれば、量子化行列パラメータは、さらにDST用の残差データを含む。残差データは、DST用の量子化行列とDCT用の量子化行列との間の全ての要素についての差分をジグザグスキャンによって1次元配列化したデータであってよい。DST用の生成モードが2:勾配演算モードであれば、量子化行列パラメータは、さらに勾配比を含む。勾配比は、DCT用の量子化行列の低域から高域にかけての勾配とDST用の量子化行列の低域から高域にかけての勾配との間の比を特定するデータである。勾配演算モードでのDST用の量子化行列生成処理について、後にさらに説明する。DST用の生成モードが3:係数テーブルモードであれば、量子化行列パラメータは、さらにテーブル番号を含む。テーブル番号は、DST用の量子化行列を生成するためにDCT用の量子化行列の各要素に乗算すべき係数を格納したテーブルの番号を特定するデータである。係数テーブルモードでのDST用の量子化行列生成処理について、後にさらに説明する。ブレンド演算フラグは、複合変換用の量子化行列を生成するためのパラメータである。ブレンド演算フラグは、複合変換用の量子化行列を、DCT用の量子化行列及びDST用の量子化行列に基づくブレンド演算あるいは加重平均によって算出するか否かを表すフラグである。ブレンド演算フラグが0:Noを示す場合には、複合変換用の量子化行列は全スキャンモード又は残差モードで生成される。一方、ブレンド演算フラグが1:Yesを示す場合には、複合変換用の量子化行列はブレンド演算によって算出される。ブレンド演算フラグが1:Yesであれば、量子化行列パラメータは、さらにブレンド比を含む。ブレンド比は、DST用の量子化行列とDCT用の量子化行列とをブレンドする場合の要素ごとの比率あるいは重みを特定するデータである。ブレンド演算モードでの複合変換用の量子化行列生成処理について、後にさらに説明する。ブレンド演算フラグが0:Noであれば、量子化行列パラメータは、さらに複合変換用の生成モードを含む。当該生成モードは、複合変換用の量子化行列をどのように生成すべきかを表す区分である。一例として、生成モードの区分は、次のいずれかの値をとり得る。0:全スキャンモード1:残差モード複合変換用の生成モードが0:全スキャンモードであれば、量子化行列パラメータは、さらにDST_DCT及びDCT_DSTの各々についての差分データを含む。差分データは、各量子化行列の全ての要素をジグザグスキャンによって1次元配列化し、その1次元配列をDPCM方式で符号化したデータであってよい。複合変換用の生成モードが1:残差モードであれば、量子化行列パラメータは、さらにDST_DCT及びDCT_DSTの各々についての残差データを含む。残差データは、各量子化行列とDCT用の量子化行列との間の全ての要素についての差分をジグザグスキャンによって1次元配列化したデータであってよい。図6に例示した量子化行列パラメータは、上述したように、SPS若しくはPPS、又はこれらパラメータセットとは異なる新たなパラメータセット内に挿入されてよい。なお、これら量子化行列パラメータは、一例に過ぎない。即ち、上述した量子化行列パラメータのうち一部のパラメータが省略されてもよく、又は他のパラメータが追加されてもよい。[1-6.DST用の量子化行列の生成]図6に関連して説明したように、本実施形態では、DST用の量子化行列をDCT用の量子化行列から生成するためのいくつかのモードがサポートされる。これらモードは、DST用の量子化行列を全スキャンモードで伝送する場合よりも符号化効率を高めるためのモードであり、複数のモードの候補から符号化効率を最適化するモードが適応的に選択されてよい。DST用の量子化行列をDCT用の量子化行列から生成するためのモードは、残差モード、勾配演算モード及び係数テーブルモードを含み得る。1残差モード残差モードでは、DST用の量子化行列とDCT用の量子化行列との間の全ての要素についての差分の1次元配列を表す残差データが符号化側から復号側へ伝送され得る。そして、復号側において、DCT用の量子化行列の各要素の値に残差データに含まれる各要素の残差が加算され、DST用の量子化行列が生成される。2勾配演算モード勾配演算モードは、低域から高域にかけての要素値の勾配をより緩やかにするようにDCT用の量子化行列を変形することにより、DST用の量子化行列を生成するためのモードである。勾配演算モードでは、要素値の勾配の変化の割合を表す勾配比が符号化側から復号側へ伝送され得る。例えば、DST用の量子化行列のi行j列の要素値MDSTi,jは、勾配比gradを用いて、次式に従って算出され得る:図7は、勾配演算モードでのDST用の量子化行列の生成について説明するための説明図である。図7の左には、一例としてのDCT用の量子化行列MDCTが示されている。要素位置ごとの勾配は、当該要素位置の要素値と左上端の0行0列の要素値との差として導かれる。図7の例では、勾配比grad=0.5である。DST用の量子化行列MDSTは、DCT用の量子化行列MDCTの各要素に、当該要素に対応する勾配に勾配比を乗算して得られた値を加算することにより算出されている。上述した勾配演算モードによれば、勾配比のみを符号化側から復号側へ伝送するだけで、異なる直交変換方式に適した量子化行列を1つの量子化行列から生成することができる。従って、符号化効率を大きく低下させることなく、複数の量子化行列の候補を生成して量子化行列を適応的に切り替えることが可能となる。また、上述した勾配比を用いた計算式によれば、勾配比のみを指定するだけで、低域から高域にかけての勾配が緩やかとなったDST用の量子化行列を簡易に生成することができる。3係数テーブルモード係数テーブルモードは、勾配演算モードと同様、低域から高域にかけての要素値の勾配をより緩やかにするようにDCT用の量子化行列を変形することにより、DST用の量子化行列を生成するためのモードである。係数テーブルモードでは、DCT用の量子化行列の要素に乗算される係数をそれぞれ格納する複数の係数テーブルの候補が予め定義され、符号化側及び復号側の双方において記憶される。そして、使用すべき係数テーブルを特定するテーブル番号が、符号化側から復号側へ伝送され得る。なお、1つの係数テーブルのみが定義される場合には、テーブル番号の伝送は省略されてもよい。例えば、DST用の量子化行列のi行j列の要素値MDSTi,jは、テーブル番号t-numにより特定されるテーブルのi行j列の要素Tt-numi,jを用いて、次式に従って算出され得る:図8は、係数テーブルモードでのDST用の量子化行列の生成について説明するための説明図である。図8の左には、一例としてのDCT用の量子化行列MDCTが示されている。また、図8の下には、予め定義される4種類の係数テーブルTt-numテーブル番号t-num=1,2,3,4が示されている。これら係数テーブルの各係数は1以下の正の数であり、低域の係数と比較して高域の係数の値が小さくなるように定義される。図8の例では、テーブル番号t-num=3が指定されており、従って、DST用の量子化行列MDSTは、DCT用の量子化行列MDCTの各要素に係数テーブルT3の各係数を乗算することにより算出されている。上述した係数テーブルモードによれば、テーブル番号のみを符号化側から復号側へ伝送するだけで、異なる直交変換方式に適した量子化行列を1つの量子化行列から生成することができる。従って、符号化効率を大きく低下させることなく、複数の量子化行列の候補を生成して量子化行列を適応的に切り替えることが可能となる。また、複数の係数テーブルモードから最適な係数テーブルを選択可能なため、使用される直交変換方式の性質又は変換係数データの傾向に特に適合する係数テーブルを選択して、量子化に伴う画質の劣化を効果的に抑制することができる。[1-7.複合変換用の量子化行列の生成]本実施形態では、複合変換用の量子化行列をDCT用の量子化行列及びDST用の量子化行列の一方又は双方から生成するためのいくつかのモードがサポートされる。これらモードは、複合変換用の量子化行列を全スキャンモードで伝送する場合よりも符号化効率を高めるためのモードであり、複数のモードの候補から符号化効率を最適化するモードが適応的に選択されてよい。複合変換用の量子化行列を生成するためのモードは、全スキャンモードの他に、残差モード及びブレンド演算モードを含み得る。なお、DST_DCT用の量子化行列及びDCT_DST用の量子化行列の各々について異なる生成モードが指定されてもよい。1残差モード残差モードでは、複合変換用の量子化行列とDCT用又はDST用の量子化行列との間の全ての要素についての差分の1次元配列を表す残差データが符号化側から復号側へ伝送され得る。そして、復号側において、DCT用又はDST用の量子化行列の各要素の値に残差データに含まれる各要素の残差が加算され、複合変換用の各量子化行列が生成される。2ブレンド演算モードブレンド演算モードは、DCT用の量子化行列及びDST用の量子化行列をブレンド加重平均することにより、複合変換用の量子化行列を生成するためのモードである。ブレンド演算モードでは、ブレンド演算のための要素位置ごとのブレンド比重みを特定するデータが、符号化側から復号側へ伝送され得る。なお、符号化側と復号側との間でブレンド比を予め固定的に定義することにより、ブレンド比の伝送が省略されてもよい。例えば、DST_DCT用の量子化行列のi行j列の要素値MDST_DCTi,jは、垂直方向対水平方向のブレンド比Svi,j:Chi,jを用いて、次式に従って算出され得る:同様に、DCT_DST用の量子化行列のi行j列の要素値MDCT_DSTi,jは、垂直方向対水平方向のブレンド比Cvi,j:Shi,jを用いて、次式に従って算出され得る:ここで、ブレンド比を構成する値Ch,Sv,Cv,Shは、例えば次のような値であってよい。なお、Ch及びCvがDCT用の量子化行列に乗算される重みに相当し、Sv及びShがDST用の量子化行列に乗算される重みに相当する:図9は、ブレンド演算モードでの複合変換用の量子化行列の生成について説明するための説明図である。図9の左には、一例としてのDCT用の量子化行列MDCT及びDST用の量子化行列MDSTが示されている。また、図9の上には、DST_DCT用の量子化行列MDST_DCTを生成するためのブレンド比Ch:Svの行列が示されている。このようなブレンド比Ch:Svを用いて2つの量子化行列MDCT及びMDSTの加重平均を計算することにより、DST_DCT用の量子化行列MDST_DCTが算出され得る。図9の下には、DCT_DST用の量子化行列MDCT_DSTを生成するためのブレンド比Cv:Shの行列が示されている。このようなブレンド比Cv:Shを用いて2つの量子化行列MDCT及びMDSTの加重平均を計算することにより、DCT_DST用の量子化行列MDCT_DSTが算出され得る。その結果、DSTが使用される方向に沿った勾配がDCTが使用される方向に沿った勾配よりも緩やかな2つの量子化行列MDST_DCT及びMDCT_DSTが生成される。上述したブレンド演算モードによれば、複合変換用の量子化行列の定義を伝送することなく、複合変換用の量子化行列を非複合変換用の量子化行列から生成することができる。従って、垂直方向の直交変換と水平方向の直交変換とで異なる直交変換方式が選択され得る場合にも、符号化効率を大きく低下させることなく、直交変換方式の各組合せに対応する様々な量子化行列の候補を適切に生成することが可能となる。<2.シンタックスの例>図10~図14は、本実施形態に係る量子化行列パラメータのシンタックスを表現する例示的な擬似コードを示している。擬似コードの左端には、行番号が付されている。また、擬似コード内の変数に付された下線は、当該変数に対応するパラメータがパラメータセット内で特定され得ることを意味する。なお、説明の簡明さのために、量子化行列に関するパラメータ以外のパラメータについての説明は省略する。図10の第1行の関数XXParameterSetは、1つのパラメータセットのシンタックスを表現する関数である。第2行において、当該パラメータセットのIDXXparametersetidが特定される。このパラメータセットのIDを各スライスヘッダにおいて指定することで、当該スライスにおいて使用すべき量子化行列を識別することが可能となる。第3行において、デフォルトフラグusedefaultonlyflagが特定される。デフォルトフラグがゼロであれば、第5行以降において、各直交変換方式に対応する既定ではない量子化行列のためのパラメータが特定される。第6行から第10行までのシンタックスは、DCT用の量子化行列のためのシンタックスである。DCT用の量子化行列のためのシンタックスは、既存の映像符号化方式と同様のシンタックスであってよい。第12行において、DST用行列フラグが特定される。DST用行列フラグusedstquantizationmatrixflagが1であれば、さらにDST用の量子化行列及び複合変換用の量子化行列のためのパラメータが特定される。DST用の量子化行列のためのパラメータのシンタックスは、図11に記載されている。また、複合変換用の量子化行列のためのパラメータのシンタックスは、図13に記載されている。図11において、第15行及び第16行のfor文は、行列のサイズ及びタイプごとの繰り返しを意味する。但し、本実施形態では、4×4の輝度Yのイントラ予測についてのみDST用の量子化行列が使用される。そのため、実質的にはこれらfor文に囲まれた処理は1度しか実行されない。しかしながら、他のサイズ又は他のタイプについてもDST用の量子化行列が使用される場合には、より多くの回数の繰り返し処理が行われてもよい。第17行において、DST用の量子化行列についての生成モードpredictmodeが特定される。第19行の関数qmatrixdstは、全スキャンモードにおける差分データを特定する。第21行の関数residualmatrixは、残差モードにおける残差データを特定する。第23行の関数calcdstmtxgradientは、勾配モードにおける勾配比gradientを特定する図12参照。第25行の関数calcdstmtxtranstableは、係数テーブルモードにおけるテーブル番号transtablenumを特定する図12参照。図13を参照すると、第31行において、ブレンド演算フラグblendflagが特定される。ブレンド演算フラグが1であれば、さらに第33行において関数calculatefromdctanddstqmatrixによりブレンド比blendratioが特定される図14参照。ブレンド演算フラグが1でなければ、第35行以降のシンタックスがさらに特定される。第35行のfor文は、2つの複合変換方式、即ちDST_DCT方式及びDCT_DST方式についての繰り返しを意味する。第38行において、複合変換用の量子化行列についての生成モードpredictmodeが特定される。第40行の関数qmatrixdctdstは、全スキャンモードにおける差分データを特定する。第42行の関数residualmatrixは、残差モードにおける残差データを特定する。<3.一実施形態に係る符号化時の処理の流れ>1量子化処理図15は、本実施形態に係る量子化部16による量子化処理の流れの一例を示すフローチャートである。図15に示した量子化処理は、符号化される画像内の各変換単位を対象として繰り返し行われ得る。図15を参照すると、まず、量子化行列設定部162は、直交変換部15から変換方式情報を取得するステップS100。次に、量子化行列設定部162は、対象の変換単位について4×4のイントラ予測が選択されているか否かを判定するステップS102。ここで、4×4のイントラ予測が選択されていない場合には、処理はステップS116へ進む。この場合、量子化行列設定部162は、対象の変換単位TUにDCT用の量子化行列MDCTを設定するステップS116。一方、4×4のイントラ予測が選択されている合には、処理はステップS104へ進む。ステップS104において、量子化行列設定部162は、対象の変換単位の垂直方向についてDSTが行われるか否かを判定するステップS104。また、量子化行列設定部162は、対象の変換単位の水平方向についてDSTが行われるか否かを判定するステップS106,S108。そして、量子化行列設定部162は、垂直方向及び水平方向の双方についてDSTが行われる場合には、対象の変換単位にDST用の量子化行列MDSTを設定するステップS110。また、量子化行列設定部162は、垂直方向についてDST、水平方向についてDCTがそれぞれ行われる場合には、対象の変換単位にDST_DCT用の量子化行列MDST_DCTを設定するステップS112。また、量子化行列設定部162は、垂直方向についてDCT、水平方向についてDSTがそれぞれ行われる場合には、対象の変換単位にDCT_DST用の量子化行列MDCT_DSTを設定するステップS114。また、量子化行列設定部162は、垂直方向及び水平方向の双方についてDCTが行われる場合には、対象の変換単位にDCT用の量子化行列MDCTを設定するステップS116。そして、量子化演算部164は、対象の変換単位について、量子化行列設定部162により設定された量子化行列を用いて、直交変換部15から入力される変換係数データを量子化するステップS118。2変形例本実施形態では、垂直方向の直交変換について使用される直交変換方式と水平方向の直交変換について使用される直交変換方式との組合せごとに異なる4種類の量子化行列が各変換単位に設定され得る例について主に説明した。しかしながら、装置の実装の複雑さを低減するために、複合変換用の量子化行列を使用することなく、DCT用の量子化行列及びDST用の量子化行列のみを使用することも可能である。複合変換用の量子化行列が使用されない場合、量子化行列設定部162は、次の表2に示すマッピングに従って、直交変換部15により選択される直交変換方式に対応する量子化行列を決定し得る。表2によれば、垂直方向及び水平方向の少なくとも一方についてDCTが行われる変換単位にDCT用の量子化行列MDCTが設定され、垂直方向及び水平方向の双方についてDSTが行われる変換単位にDST用の量子化行列MDSTが設定される。図16は、本変形例に係る量子化部16による量子化処理の流れの一例を示すフローチャートである。図16に示した量子化処理は、符号化される画像内の各変換単位を対象として繰り返し行われ得る。図16を参照すると、まず、量子化行列設定部162は、直交変換部15から変換方式情報を取得するステップS130。次に、量子化行列設定部162は、対象の変換単位の垂直方向及び水平方向の双方についてDSTが行われるか否かを判定するステップS132。ここで、垂直方向及び水平方向の双方についてDSTが行われる場合には、量子化行列設定部162は、対象の変換単位にDST用の量子化行列MDSTを設定するステップS134。これに対し、量子化行列設定部162は、垂直方向及び水平方向の少なくとも一方についてDCTが行われる場合には、対象の変換単位にDCT用の量子化行列MDCTを設定するステップS136。そして、量子化演算部164は、対象の変換単位について、量子化行列設定部162により設定された量子化行列を用いて、直交変換部15から入力される変換係数データを量子化するステップS138。本変形例によれば、より少ない種類の量子化行列のみが使用されるため、装置の実装の複雑さが低減される。従って、直交変換方式に応じて適応的に量子化行列を切り替える場合にも、装置の実装に伴うコストの増大を抑制することができる。図6に例示した量子化行列パラメータのうち複合変換用の量子化行列を生成するためのパラメータ例えばブレンド演算フラグなどは、シンタックスから省略されてよい。<4.一実施形態に係る画像復号装置の構成例>本節では、一実施形態に係る画像復号装置の構成例について説明する。[4-1.全体的な構成例]図17は、一実施形態に係る画像復号装置60の構成の一例を示すブロック図である。図17を参照すると、画像復号装置60は、シンタックス処理部61、可逆復号部62、逆量子化部63、逆直交変換部64、加算部65、デブロックフィルタ66、並べ替えバッファ67、D/ADigitaltoAnalogue変換部68、フレームメモリ69、セレクタ70及び71、イントラ予測部80、並びに動き補償部90を備える。シンタックス処理部61は、伝送路を介して入力される符号化ストリームからSPS、PPS及びスライスヘッダなどのヘッダ情報を取得し、取得したヘッダ情報に基づいて画像復号装置60による復号処理のための様々な設定を認識する。例えば、本実施形態において、シンタックス処理部61は、各パラメータセットに含まれる量子化行列パラメータに基づいて、逆量子化部63による逆量子化処理の際に使用され得る量子化行列の候補を生成する。シンタックス処理部61の詳細な構成について、後にさらに説明する。可逆復号部62は、シンタックス処理部61から入力される符号化ストリームを、符号化の際に使用された符号化方式に従って復号する。そして、可逆復号部62は、復号後の量子化データを逆量子化部63へ出力する。また、可逆復号部62は、ヘッダ情報に含まれるイントラ予測に関する情報をイントラ予測部80へ出力し、インター予測に関する情報を動き補償部90へ出力する。逆量子化部63は、シンタックス処理部61により生成される量子化行列の候補の間で適応的に切り替えられる量子化行列を用いて、可逆復号部62による復号後の量子化データ即ち、量子化された変換係数データを逆量子化する。逆量子化部63の詳細な構成について、後にさらに説明する。逆直交変換部64は、符号化の際に使用された直交変換方式であって複数の直交変換方式の候補から選択される直交変換方式を用いて、逆量子化部63により逆量子化された変換係数データを逆直交変換し、予測誤差データを生成する。そして、逆直交変換部64は、生成した予測誤差データを加算部65へ出力する。逆直交変換部64により使用され得る直交変換方式の候補は、上述したように、離散コサイン変換DCT方式、離散サイン変換DST方式、アダマール変換方式及びカルーネンレーベ変換方式、並びにこれらの組合せなどを含み得る。但し、ここではDCT方式及びDST方式、並びにこれら2つの方式の組合せである複合変換方式について主に言及する。逆直交変換部64の詳細な構成について、後にさらに説明する。加算部65は、逆直交変換部64から入力される予測誤差データと、セレクタ71から入力される予測画像データとを加算することにより、復号画像データを生成する。そして、加算部65は、生成した復号画像データをデブロックフィルタ66及びフレームメモリ69へ出力する。デブロックフィルタ66は、加算部65から入力される復号画像データをフィルタリングすることによりブロック歪みを除去し、フィルタリング後の復号画像データを並べ替えバッファ67及びフレームメモリ69へ出力する。並べ替えバッファ67は、デブロックフィルタ66から入力される画像を並べ替えることにより、時系列の一連の画像データを生成する。そして、並べ替えバッファ67は、生成した画像データをD/A変換部68へ出力する。D/A変換部68は、並べ替えバッファ67から入力されるデジタル形式の画像データをアナログ形式の画像信号に変換する。そして、D/A変換部68は、例えば、画像復号装置60と接続されるディスプレイ図示せずにアナログ画像信号を出力することにより、画像を表示させる。フレームメモリ69は、加算部65から入力されるフィルタリング前の復号画像データ、及びデブロックフィルタ66から入力されるフィルタリング後の復号画像データを記憶媒体を用いて記憶する。セレクタ70は、可逆復号部62により取得されるモード情報に応じて、画像内のブロックごとに、フレームメモリ69からの画像データの出力先をイントラ予測部80と動き補償部90との間で切り替える。例えば、セレクタ70は、イントラ予測モードが指定された場合には、フレームメモリ69から供給されるフィルタリング前の復号画像データを参照画像データとしてイントラ予測部80へ出力する。また、セレクタ70は、インター予測モードが指定された場合には、フレームメモリ69から供給されるフィルタリング後の復号画像データを参照画像データとして動き補償部90へ出力する。セレクタ71は、可逆復号部62により取得されるモード情報に応じて、画像内のブロックごとに、加算部65へ供給すべき予測画像データの出力元をイントラ予測部80と動き補償部90との間で切り替える。例えば、セレクタ71は、イントラ予測モードが指定された場合には、イントラ予測部80から出力される予測画像データを加算部65へ供給する。セレクタ71は、インター予測モードが指定された場合には、動き補償部90から出力される予測画像データを加算部65へ供給する。イントラ予測部80は、可逆復号部62から入力されるイントラ予測に関する情報とフレームメモリ69からの参照画像データとに基づいて画素値の画面内予測を行い、予測画像データを生成する。そして、イントラ予測部80は、生成した予測画像データをセレクタ71へ出力する。動き補償部90は、可逆復号部62から入力されるインター予測に関する情報とフレームメモリ69からの参照画像データとに基づいて動き補償処理を行い、予測画像データを生成する。そして、動き補償部90は、生成した予測画像データをセレクタ71へ出力する。[4-2.シンタックス処理部の構成例]図18は、図17に示した画像復号装置60のシンタックス処理部61の詳細な構成の一例を示すブロック図である。図18を参照すると、シンタックス処理部61は、パラメータ取得部212及び生成部214を有する。1パラメータ取得部パラメータ取得部212は、画像データのストリームからSPS、PPS及びスライスヘッダなどのヘッダ情報を認識し、ヘッダ情報に含まれるパラメータを取得する。例えば、本実施形態において、パラメータ取得部212は、量子化行列を定義する量子化行列パラメータを各パラメータセットから取得する。そして、パラメータ取得部212は、取得したパラメータを生成部214へ出力する。また、パラメータ取得部212は、画像データのストリームを可逆復号部62へ出力する。2生成部生成部214は、パラメータ取得部212により取得される量子化行列パラメータに基づいて、逆直交変換部64により使用され得る直交変換方式の各候補に対応する量子化行列を生成する。本実施形態において、生成部214により生成される量子化行列は、DCT用の量子化行列MDCT、DST用の量子化行列MDST、DST_DCT用の量子化行列MDST_DCT及びDCT_DST用の量子化行列MDCT_DSTを含む。より具体的には、生成部214は、例えば、既定の量子化行列が使用されない場合に、符号化ストリームのパラメータセット又はヘッダ内での定義に基づいて、DCT用の量子化行列MDCTを生成する。また、生成部214は、DST用の量子化行列が使用される場合に、DST用の量子化行列を生成する。DST用の量子化行列は、上述した全スキャンモード、残差モード、勾配演算モード及び係数テーブルモードのいずれかに従って生成されてよい。典型的には、低域から高域にかけての要素値の勾配がDCT用の量子化行列よりも緩やかなDST用の量子化行列が生成され得る。さらに、生成部214は、複合変換方式用の量子化行列MDST_DCT及びMDCT_DSTを生成する。複合変換方式用の量子化行列MDST_DCT及びMDCT_DSTは、上述したブレンド演算モード、全スキャンモード及び残差モードのいずれかに従って生成されてよい。生成部214は、このように生成される量子化行列を逆量子化部63へ出力する。[4-3.逆量子化部の構成例]図19は、図17に示した画像復号装置60の逆量子化部63の詳細な構成の一例を示すブロック図である。図19を参照すると、逆量子化部63は、量子化行列設定部232及び逆量子化演算部234を有する。1量子化行列設定部量子化行列設定部232は、複数の直交変換方式の候補のうち逆直交変換部64により使用される直交変換方式に応じて、変換係数データの逆量子化のための量子化行列を各変換単位に設定する。例えば、量子化行列設定部232は、符号化ストリームのヘッダ情報に含まれる変換方式情報を取得する。変換方式情報は、各変換単位について選択された直交変換方式を識別する識別情報であってもよく、又は各変換単位に対応する予測手法、予測単位のサイズ及び予測方向を表す情報であってもよい。そして、量子化行列設定部232は、変換方式情報から各変換単位について使用される直交変換方式を認識し、シンタックス処理部61の生成部214により生成され得る量子化行列のうち認識した直交変換方式に対応する量子化行列を各変換単位に設定する。量子化行列設定部232による量子化行列の設定は、上述した表1又は表2に示すマッピングに従って行われてよい。なお、量子化行列MDCT、MDST、MDST_DCT及びMDCT_DSTのいずれかを直接的に指定する情報が符号化ストリームのヘッダ情報に含まれてもよい。その場合には、量子化行列設定部232は、当該情報により指定される量子化行列を各変換単位に設定する。2逆量子化演算部逆量子化演算部234は、各変換単位について、量子化行列設定部232により設定される量子化行列を用いて、可逆復号部62から入力される変換係数データ量子化データを逆量子化する。そして、逆量子化演算部234は、逆量子化後の変換係数データを逆直交変換部64へ出力する。[4-4.逆直交変換部の構成例]図20は、図17に示した画像復号装置60の逆直交変換部64の詳細な構成の一例を示すブロック図である。図20を参照すると、逆直交変換部64は、変換方式選択部242及び逆直交変換演算部244を有する。1変換方式選択部変換方式選択部242は、複数の直交変換方式の候補から、各変換単位の変換係数データの逆直交変換のために使用すべき直交変換方式を選択する。本実施形態において、変換方式選択部242は、aDCT方式、bDST方式、cDST_DCT方式及びdDCT_DST方式という、4通りの直交変換方式を選択可能である。変換方式選択部242は、上述した変換方式情報に基づき、画像符号化装置10の直交変換部15の変換方式選択部152と同様の手法に従って直交変換方式を選択してもよい。その代わりに、変換方式選択部242は、符号化ストリームのヘッダ情報において直接的に指定され得る直交変換方式を選択してもよい。2直交変換演算部逆直交変換演算部244は、各変換単位について、変換方式選択部242により選択される直交変換方式を用いて、逆量子化部63から入力される変換係数データを予測誤差データに変換する。そして、逆直交変換演算部244は、変換後の予測誤差データを加算部65へ出力する。<5.一実施形態に係る復号時の処理の流れ>1量子化行列生成処理図21は、本実施形態に係るシンタックス処理部61の生成部214による量子化行列生成処理の流れの一例を示すフローチャートである。図21に示した量子化行列生成処理は、量子化行列パラメータを含むパラメータセットごとに行われ得る。なお、各パラメータセットは、図10から図14に例示したようなシンタックスに従って定義される量子化行列パラメータを有するものとする。図21を参照すると、まず、生成部214は、デフォルトフラグを取得するステップS200。そして、生成部214は、デフォルトフラグの値に基づいて、既定の量子化行列が使用されるか否かを判定するステップS202。ここで、既定の量子化行列が使用される場合には、その後の処理はスキップされる。一方、既定の量子化行列が使用されない場合には、処理はステップS204へ進む。ステップS204では、生成部214は、既存の映像符号化方式と同様のパラメータを用いて、1つ以上のDCT用の量子化行列MDCTを生成するステップS204。ここで生成されるDCT用の量子化行列MDCTは、4×4、8×8、16×16及び32×32の各変換単位のサイズに対応する、最大で6種類の量子化行列イントラ予測/インター予測のY/Cb/Cr成分を含み得る。次に、生成部214は、DST用行列フラグを取得するステップS206。そして、生成部214は、DST用行列フラグの値に基づいて、DST用の量子化行列を生成するか否かを判定するステップS208。ここで、DST用の量子化行列を生成しないと判定した場合には、生成部214は、例えば4×4のイントラ予測の輝度YについてのDCT用の量子化行列MDCTをDST用の量子化行列MDSTにコピーするステップS210。一方、DST用の量子化行列を生成すると判定した場合には、生成部214は、DST用の量子化行列生成処理ステップS220及び複合変換用の量子化行列生成処理ステップS250を行う。図22は、図21のステップS220に相当するDST用の量子化行列生成処理の流れの一例を示している。図22を参照すると、まず、生成部214は、DST用の生成モードを取得するステップS222。そして、生成部214は、取得した生成モードの値に応じて、その後の処理を切り替える。例えば、生成部214は、生成モードが全スキャンモードを示している場合にはステップS224、差分データを取得しステップS226、全スキャンモードでDST用の量子化行列MDSTを生成するステップS228。この場合、生成部214は、1次元配列化された差分データをDPCM方式に従って復号することにより、要素値の1次元配列を得る。そして、生成部214は、要素値の1次元配列をジグザグスキャンのスキャンパターンに従って2次元の量子化行列MDSTに再構成する。また、例えば、生成部214は、生成モードが残差モードを示している場合にはステップS230、残差データを取得しステップS232、残差モードでDST用の量子化行列MDSTを生成するステップS234。この場合、生成部214は、1次元配列化された残差データをジグザグスキャンのスキャンパターンに従って2次元の残差行列に再構成する。そして、生成部214は、再構成された残差行列とDCT用の量子化行列MDCTとを加算することにより、DST用の量子化行列MDSTを生成する。また、例えば、生成部214は、生成モードが勾配演算モードを示している場合にはステップS236、勾配比を取得しステップS238、図7を用いて説明した勾配演算モードでDST用の量子化行列MDSTを生成するステップS240。この場合、生成部214は、DCT用の量子化行列MDCTの低域から高域にかけての要素値の勾配を、取得した勾配比を用いて変化させることにより、DST用の量子化行列MDSTを生成する。また、例えば、生成部214は、生成モードが係数テーブルモードを示している場合には、テーブル番号を取得しステップS242、図8を用いて説明した係数テーブルモードでDST用の量子化行列MDSTを生成するステップS244。この場合、生成部214は、テーブル番号により識別される係数テーブル内の各係数をDCT用の量子化行列MDCTの各要素に乗算することにより、DST用の量子化行列MDSTを生成する。図23は、図21のステップS250に相当する複合変換用の量子化行列生成処理の流れの一例を示している。図23を参照すると、まず、生成部214は、ブレンド演算フラグを取得するステップS252。そして、生成部214は、ブレンド演算フラグの値に基づいて、ブレンド演算を行うか否かを判定するステップS254。ここで、ブレンド演算を行うと判定された場合には、処理はステップS256へ進む。一方、ブレンド演算を行わないと判定された場合には、処理はステップS262へ進む。ステップS256では、生成部214は、ブレンド比を取得するステップS256。そして、生成部214は、図9を用いて説明したブレンド演算モードでDST_DCT用の量子化行列MDST_DCTを生成するステップS258。また、生成部214は、ブレンド演算モードでDCT_DST用の量子化行列MDCT_DSTを生成するステップS260。ステップS262では、生成部214は、複合変換用の生成モードを取得するステップS262。そして、生成部214は、取得した生成モードの値に応じて、その後の処理を切り替える。例えば、生成部214は、生成モードが全スキャンモードを示している場合にはステップS264、DST_DCT用の差分データを取得しステップS266、全スキャンモードでDST_DCT用の量子化行列MDST_DCTを生成するステップS268。また、生成部214は、DCT_DST用の差分データを取得しステップS270、全スキャンモードでDCT_DST用の量子化行列MDCT_DSTを生成するステップS272。また、例えば、生成部214は、生成モードが残差モードを示している場合には、DST_DCT用の残差データを取得しステップS274、残差モードでDST_DCT用の量子化行列MDST_DCTを生成するステップS276。また、生成部214は、DCT_DST用の残差データを取得しステップS278、残差モードでDCT_DST用の量子化行列MDCT_DSTを生成するステップS280。2逆量子化処理本実施形態に係る逆量子化部63による逆量子化処理の流れは、図15に示した符号化時の量子化処理の流れに類似する。即ち、量子化行列設定部232により各変換単位についての直交変換方式が認識され、認識された直交変換方式に対応する量子化行列が各変換単位に設定される。そして、逆量子化演算部により、各変換単位について、量子化行列設定部232により設定された量子化行列を用いて、変換係数データが逆量子化される。また、逆量子化部63においても、複合変換用の量子化行列を使用することなく、DCT用の量子化行列及びDST用の量子化行列のみが使用されてもよい。その場合には、量子化行列の設定は上述した表2に示すマッピングに従って行われ得る。そして、図16に示した量子化処理に類似する流れで逆量子化部63による逆量子化処理が行われ得る。<6.応用例>上述した実施形態に係る画像符号化装置10及び画像復号装置60は、衛星放送、ケーブルTVなどの有線放送、インターネット上での配信、及びセルラー通信による端末への配信などにおける送信機若しくは受信機、光ディスク、磁気ディスク及びフラッシュメモリなどの媒体に画像を記録する記録装置、又は、これら記憶媒体から画像を再生する再生装置などの様々な電子機器に応用され得る。以下、4つの応用例について説明する。[6-1.第1の応用例]図24は、上述した実施形態を適用したテレビジョン装置の概略的な構成の一例を示している。テレビジョン装置900は、アンテナ901、チューナ902、デマルチプレクサ903、デコーダ904、映像信号処理部905、表示部906、音声信号処理部907、スピーカ908、外部インタフェース909、制御部910、ユーザインタフェース911、及びバス912を備える。チューナ902は、アンテナ901を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ902は、復調により得られた符号化ビットストリームをデマルチプレクサ903へ出力する。即ち、チューナ902は、画像が符号化されている符号化ストリームを受信する、テレビジョン装置900における伝送手段としての役割を有する。デマルチプレクサ903は、符号化ビットストリームから視聴対象の番組の映像ストリーム及び音声ストリームを分離し、分離した各ストリームをデコーダ904へ出力する。また、デマルチプレクサ903は、符号化ビットストリームからEPGElectronicProgramGuideなどの補助的なデータを抽出し、抽出したデータを制御部910に供給する。なお、デマルチプレクサ903は、符号化ビットストリームがスクランブルされている場合には、デスクランブルを行ってもよい。デコーダ904は、デマルチプレクサ903から入力される映像ストリーム及び音声ストリームを復号する。そして、デコーダ904は、復号処理により生成される映像データを映像信号処理部905へ出力する。また、デコーダ904は、復号処理により生成される音声データを音声信号処理部907へ出力する。映像信号処理部905は、デコーダ904から入力される映像データを再生し、表示部906に映像を表示させる。また、映像信号処理部905は、ネットワークを介して供給されるアプリケーション画面を表示部906に表示させてもよい。また、映像信号処理部905は、映像データについて、設定に応じて、例えばノイズ除去などの追加的な処理を行ってもよい。さらに、映像信号処理部905は、例えばメニュー、ボタン又はカーソルなどのGUIGraphicalUserInterfaceの画像を生成し、生成した画像を出力画像に重畳してもよい。表示部906は、映像信号処理部905から供給される駆動信号により駆動され、表示デバイス例えば、液晶ディスプレイ、プラズマディスプレイ又はOLEDなどの映像面上に映像又は画像を表示する。音声信号処理部907は、デコーダ904から入力される音声データについてD/A変換及び増幅などの再生処理を行い、スピーカ908から音声を出力させる。また、音声信号処理部907は、音声データについてノイズ除去などの追加的な処理を行ってもよい。外部インタフェース909は、テレビジョン装置900と外部機器又はネットワークとを接続するためのインタフェースである。例えば、外部インタフェース909を介して受信される映像ストリーム又は音声ストリームが、デコーダ904により復号されてもよい。即ち、外部インタフェース909もまた、画像が符号化されている符号化ストリームを受信する、テレビジョン装置900における伝送手段としての役割を有する。制御部910は、CPUCentralProcessingUnitなどのプロセッサ、並びにRAMRandomAccessMemory及びROMReadOnlyMemoryなどのメモリを有する。メモリは、CPUにより実行されるプログラム、プログラムデータ、EPGデータ、及びネットワークを介して取得されるデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、テレビジョン装置900の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース911から入力される操作信号に応じて、テレビジョン装置900の動作を制御する。ユーザインタフェース911は、制御部910と接続される。ユーザインタフェース911は、例えば、ユーザがテレビジョン装置900を操作するためのボタン及びスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース911は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部910へ出力する。バス912は、チューナ902、デマルチプレクサ903、デコーダ904、映像信号処理部905、音声信号処理部907、外部インタフェース909及び制御部910を相互に接続する。このように構成されたテレビジョン装置900において、デコーダ904は、上述した実施形態に係る画像復号装置60の機能を有する。従って、テレビジョン装置900で復号される映像について、各変換単位に使用される直交変換方式に応じて適応的に量子化行列を切り替えることができる。[6-2.第2の応用例]図25は、上述した実施形態を適用した携帯電話機の概略的な構成の一例を示している。携帯電話機920は、アンテナ921、通信部922、音声コーデック923、スピーカ924、マイクロホン925、カメラ部926、画像処理部927、多重分離部928、記録再生部929、表示部930、制御部931、操作部932、及びバス933を備える。アンテナ921は、通信部922に接続される。スピーカ924及びマイクロホン925は、音声コーデック923に接続される。操作部932は、制御部931に接続される。バス933は、通信部922、音声コーデック923、カメラ部926、画像処理部927、多重分離部928、記録再生部929、表示部930、及び制御部931を相互に接続する。携帯電話機920は、音声通話モード、データ通信モード、撮影モード及びテレビ電話モードを含む様々な動作モードで、音声信号の送受信、電子メール又は画像データの送受信、画像の撮像、及びデータの記録などの動作を行う。音声通話モードにおいて、マイクロホン925により生成されるアナログ音声信号は、音声コーデック923に供給される。音声コーデック923は、アナログ音声信号を音声データへ変換し、変換された音声データをA/D変換し圧縮する。そして、音声コーデック923は、圧縮後の音声データを通信部922へ出力する。通信部922は、音声データを符号化及び変調し、送信信号を生成する。そして、通信部922は、生成した送信信号をアンテナ921を介して基地局図示せずへ送信する。また、通信部922は、アンテナ921を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部922は、受信信号を復調及び復号して音声データを生成し、生成した音声データを音声コーデック923へ出力する。音声コーデック923は、音声データを伸張し及びD/A変換し、アナログ音声信号を生成する。そして、音声コーデック923は、生成した音声信号をスピーカ924に供給して音声を出力させる。また、データ通信モードにおいて、例えば、制御部931は、操作部932を介するユーザによる操作に応じて、電子メールを構成する文字データを生成する。また、制御部931は、文字を表示部930に表示させる。また、制御部931は、操作部932を介するユーザからの送信指示に応じて電子メールデータを生成し、生成した電子メールデータを通信部922へ出力する。通信部922は、電子メールデータを符号化及び変調し、送信信号を生成する。そして、通信部922は、生成した送信信号をアンテナ921を介して基地局図示せずへ送信する。また、通信部922は、アンテナ921を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部922は、受信信号を復調及び復号して電子メールデータを復元し、復元した電子メールデータを制御部931へ出力する。制御部931は、表示部930に電子メールの内容を表示させると共に、電子メールデータを記録再生部929の記憶媒体に記憶させる。記録再生部929は、読み書き可能な任意の記憶媒体を有する。例えば、記憶媒体は、RAM又はフラッシュメモリなどの内蔵型の記憶媒体であってもよく、ハードディスク、磁気ディスク、光磁気ディスク、光ディスク、USBメモリ、又はメモリカードなどの外部装着型の記憶媒体であってもよい。また、撮影モードにおいて、例えば、カメラ部926は、被写体を撮像して画像データを生成し、生成した画像データを画像処理部927へ出力する。画像処理部927は、カメラ部926から入力される画像データを符号化し、符号化ストリームを記録再生部929の記憶媒体に記憶させる。また、テレビ電話モードにおいて、例えば、多重分離部928は、画像処理部927により符号化された映像ストリームと、音声コーデック923から入力される音声ストリームとを多重化し、多重化したストリームを通信部922へ出力する。通信部922は、ストリームを符号化及び変調し、送信信号を生成する。そして、通信部922は、生成した送信信号をアンテナ921を介して基地局図示せずへ送信する。また、通信部922は、アンテナ921を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。これら送信信号及び受信信号には、符号化ビットストリームが含まれ得る。そして、通信部922は、受信信号を復調及び復号してストリームを復元し、復元したストリームを多重分離部928へ出力する。多重分離部928は、入力されるストリームから映像ストリーム及び音声ストリームを分離し、映像ストリームを画像処理部927、音声ストリームを音声コーデック923へ出力する。画像処理部927は、映像ストリームを復号し、映像データを生成する。映像データは、表示部930に供給され、表示部930により一連の画像が表示される。音声コーデック923は、音声ストリームを伸張し及びD/A変換し、アナログ音声信号を生成する。そして、音声コーデック923は、生成した音声信号をスピーカ924に供給して音声を出力させる。このように構成された携帯電話機920において、画像処理部927は、上述した実施形態に係る画像符号化装置10及び画像復号装置60の機能を有する。従って、携帯電話機920で符号化及び復号される映像について、各変換単位に使用される直交変換方式に応じて適応的に量子化行列を切り替えることができる。[6-3.第3の応用例]図26は、上述した実施形態を適用した記録再生装置の概略的な構成の一例を示している。記録再生装置940は、例えば、受信した放送番組の音声データ及び映像データを符号化して記録媒体に記録する。また、記録再生装置940は、例えば、他の装置から取得される音声データ及び映像データを符号化して記録媒体に記録してもよい。また、記録再生装置940は、例えば、ユーザの指示に応じて、記録媒体に記録されているデータをモニタ及びスピーカ上で再生する。このとき、記録再生装置940は、音声データ及び映像データを復号する。記録再生装置940は、チューナ941、外部インタフェース942、エンコーダ943、HDDHardDiskDrive944、ディスクドライブ945、セレクタ946、デコーダ947、OSDOnScreenDisplay948、制御部949、及びユーザインタフェース950を備える。チューナ941は、アンテナ図示せずを介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ941は、復調により得られた符号化ビットストリームをセレクタ946へ出力する。即ち、チューナ941は、記録再生装置940における伝送手段としての役割を有する。外部インタフェース942は、記録再生装置940と外部機器又はネットワークとを接続するためのインタフェースである。外部インタフェース942は、例えば、IEEE1394インタフェース、ネットワークインタフェース、USBインタフェース、又はフラッシュメモリインタフェースなどであってよい。例えば、外部インタフェース942を介して受信される映像データ及び音声データは、エンコーダ943へ入力される。即ち、外部インタフェース942は、記録再生装置940における伝送手段としての役割を有する。エンコーダ943は、外部インタフェース942から入力される映像データ及び音声データが符号化されていない場合に、映像データ及び音声データを符号化する。そして、エンコーダ943は、符号化ビットストリームをセレクタ946へ出力する。HDD944は、映像及び音声などのコンテンツデータが圧縮された符号化ビットストリーム、各種プログラム及びその他のデータを内部のハードディスクに記録する。また、HDD944は、映像及び音声の再生時に、これらデータをハードディスクから読み出す。ディスクドライブ945は、装着されている記録媒体へのデータの記録及び読み出しを行う。ディスクドライブ945に装着される記録媒体は、例えばDVDディスクDVD-Video、DVD-RAM、DVD-R、DVD-RW、DVDR、DVDRW等又はBlu-ray登録商標ディスクなどであってよい。セレクタ946は、映像及び音声の記録時には、チューナ941又はエンコーダ943から入力される符号化ビットストリームを選択し、選択した符号化ビットストリームをHDD944又はディスクドライブ945へ出力する。また、セレクタ946は、映像及び音声の再生時には、HDD944又はディスクドライブ945から入力される符号化ビットストリームをデコーダ947へ出力する。デコーダ947は、符号化ビットストリームを復号し、映像データ及び音声データを生成する。そして、デコーダ947は、生成した映像データをOSD948へ出力する。また、デコーダ904は、生成した音声データを外部のスピーカへ出力する。OSD948は、デコーダ947から入力される映像データを再生し、映像を表示する。また、OSD948は、表示する映像に、例えばメニュー、ボタン又はカーソルなどのGUIの画像を重畳してもよい。制御部949は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、記録再生装置940の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース950から入力される操作信号に応じて、記録再生装置940の動作を制御する。ユーザインタフェース950は、制御部949と接続される。ユーザインタフェース950は、例えば、ユーザが記録再生装置940を操作するためのボタン及びスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース950は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部949へ出力する。このように構成された記録再生装置940において、エンコーダ943は、上述した実施形態に係る画像符号化装置10の機能を有する。また、デコーダ947は、上述した実施形態に係る画像復号装置60の機能を有する。従って、記録再生装置940で符号化及び復号される映像について、各変換単位に使用される直交変換方式に応じて適応的に量子化行列を切り替えることができる。[6-4.第4の応用例]図27は、上述した実施形態を適用した撮像装置の概略的な構成の一例を示している。撮像装置960は、被写体を撮像して画像を生成し、画像データを符号化して記録媒体に記録する。撮像装置960は、光学ブロック961、撮像部962、信号処理部963、画像処理部964、表示部965、外部インタフェース966、メモリ967、メディアドライブ968、OSD969、制御部970、ユーザインタフェース971、及びバス972を備える。光学ブロック961は、撮像部962に接続される。撮像部962は、信号処理部963に接続される。表示部965は、画像処理部964に接続される。ユーザインタフェース971は、制御部970に接続される。バス972は、画像処理部964、外部インタフェース966、メモリ967、メディアドライブ968、OSD969、及び制御部970を相互に接続する。光学ブロック961は、フォーカスレンズ及び絞り機構などを有する。光学ブロック961は、被写体の光学像を撮像部962の撮像面に結像させる。撮像部962は、CCD又はCMOSなどのイメージセンサを有し、撮像面に結像した光学像を光電変換によって電気信号としての画像信号に変換する。そして、撮像部962は、画像信号を信号処理部963へ出力する。信号処理部963は、撮像部962から入力される画像信号に対してニー補正、ガンマ補正、色補正などの種々のカメラ信号処理を行う。信号処理部963は、カメラ信号処理後の画像データを画像処理部964へ出力する。画像処理部964は、信号処理部963から入力される画像データを符号化し、符号化データを生成する。そして、画像処理部964は、生成した符号化データを外部インタフェース966又はメディアドライブ968へ出力する。また、画像処理部964は、外部インタフェース966又はメディアドライブ968から入力される符号化データを復号し、画像データを生成する。そして、画像処理部964は、生成した画像データを表示部965へ出力する。また、画像処理部964は、信号処理部963から入力される画像データを表示部965へ出力して画像を表示させてもよい。また、画像処理部964は、OSD969から取得される表示用データを、表示部965へ出力する画像に重畳してもよい。OSD969は、例えばメニュー、ボタン又はカーソルなどのGUIの画像を生成して、生成した画像を画像処理部964へ出力する。外部インタフェース966は、例えばUSB入出力端子として構成される。外部インタフェース966は、例えば、画像の印刷時に、撮像装置960とプリンタとを接続する。また、外部インタフェース966には、必要に応じてドライブが接続される。ドライブには、例えば、磁気ディスク又は光ディスクなどのリムーバブルメディアが装着され、リムーバブルメディアから読み出されるプログラムが、撮像装置960にインストールされ得る。さらに、外部インタフェース966は、LAN又はインターネットなどのネットワークに接続されるネットワークインタフェースとして構成されてもよい。即ち、外部インタフェース966は、撮像装置960における伝送手段としての役割を有する。メディアドライブ968に装着される記録媒体は、例えば、磁気ディスク、光磁気ディスク、光ディスク、又は半導体メモリなどの、読み書き可能な任意のリムーバブルメディアであってよい。また、メディアドライブ968に記録媒体が固定的に装着され、例えば、内蔵型ハードディスクドライブ又はSSDSolidStateDriveのような非可搬性の記憶部が構成されてもよい。制御部970は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、撮像装置960の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース971から入力される操作信号に応じて、撮像装置960の動作を制御する。ユーザインタフェース971は、制御部970と接続される。ユーザインタフェース971は、例えば、ユーザが撮像装置960を操作するためのボタン及びスイッチなどを有する。ユーザインタフェース971は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部970へ出力する。このように構成された撮像装置960において、画像処理部964は、上述した実施形態に係る画像符号化装置10及び画像復号装置60の機能を有する。従って、撮像装置960で符号化及び復号される映像について、各変換単位に使用される直交変換方式に応じて適応的に量子化行列を切り替えることができる。<7.まとめ>ここまで、図1~図27を用いて、一実施形態に係る画像符号化装置10及び画像復号装置60について説明した。本実施形態によれば、変換係数データの量子化及び逆量子化の際に、複数の直交変換方式の候補のうち直交変換又は逆直交変換のために選択される直交変換方式に応じて異なる量子化行列が各変換単位に設定される。そして、各変換単位に設定された量子化行列を用いて、変換係数データが量子化又は逆量子化される。かかる構成によれば、使用される直交変換方式に応じて適応的に量子化行列を切り替えることができる。即ち、直交変換方式の性質又は変換係数データの傾向により適した量子化行列を用いて量子化又は逆量子化が行われるため、固定的な量子化行列が使用される場合と比較して、量子化による画質の劣化を抑制することができる。また、本実施形態によれば、上記複数の直交変換方式の候補は、離散コサイン変換DCT方式と離散サイン変換DST方式とを含む。これら2つの直交変換方式では、上述したように、特に高周波成分における変換係数の現れやすさが異なる。従って、上述した量子化行列の切り替えの仕組みを採用することで、量子化後にも変換係数の有意な差異を適切に残しながら変換係数データの符号量を圧縮することができる。また、本実施形態によれば、DST方式に対応する量子化行列は、DCT方式に対応する量子化行列から生成され得る。従って、DST用の量子化行列の伝送のために多くの符号量が必要とされないため、上述した量子化行列の切り替えの仕組みを符号化効率を大きく低下させることなく導入することができる。なお、上述した例に限定されず、例えばDST方式又はそれ以外の直交変換方式に対応する量子化行列から、DCT方式又はそれ以外の直交変換方式に対応する量子化行列が生成されてもよい。また、本実施形態によれば、垂直方向及び水平方向のそれぞれについて直交変換方式が選択され得る場合に、垂直方向及び水平方向の直交変換方式の組合せごとに異なる量子化行列が各変換単位に設定され得る。従って、変換係数データの様々な傾向に適した量子化行列が各変換単位に的確に設定されるため、画質の劣化を効果的に抑制することができる。また、本実施形態によれば、複合変換方式2つの方向で互いに異なる種類の直交変換が行われる方式に対応する量子化行列が、非複合変換方式2つの方向で同じ種類の直交変換が行われる方式に対応する量子化行列から生成され得る。従って、複合変換用の量子化行列の伝送についても、多くの符号量が発生して符号化効率が低下することが回避される。なお、本明細書では、量子化行列パラメータが、符号化ストリームのヘッダに多重化されて、符号化側から復号側へ伝送される例について説明した。しかしながら、量子化行列パラメータを伝送する手法はかかる例に限定されない。例えば、ヘッダ情報は、符号化ビットストリームに多重化されることなく、符号化ビットストリームと関連付けられた別個のデータとして伝送され又は記録されてもよい。ここで、関連付けるという用語は、ビットストリームに含まれる画像スライス若しくはブロックなど、画像の一部であってもよいと当該画像に対応する情報とを復号時にリンクさせ得るようにすることを意味する。即ち、情報は、画像又はビットストリームとは別の伝送路上で伝送されてもよい。また、情報は、画像又はビットストリームとは別の記録媒体又は同一の記録媒体の別の記録エリアに記録されてもよい。さらに、情報と画像又はビットストリームとは、例えば、複数フレーム、1フレーム、又はフレーム内の一部分などの任意の単位で互いに関連付けられてよい。以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。なお、以下のような構成も本開示の技術的範囲に属する。1復号される画像の変換係数データを逆直交変換する際に選択される直交変換方式に応じて、前記変換係数データを逆量子化する際に用いられる量子化行列を各変換単位に設定する設定部と、前記設定部により設定された前記量子化行列を用いて、前記変換係数データを逆量子化する逆量子化部と、前記選択される直交変換方式を用いて、前記逆量子化部により逆量子化された前記変換係数データを逆直交変換する変換部と、を備える画像処理装置。2符号化ストリームのパラメータセット又はヘッダ内での定義に基づいて、前記量子化行列を生成する生成部、をさらに備える、前記1に記載の画像処理装置。3選択される直交変換方式の候補は、第1の直交変換方式及び前記第1の直交変換方式とは異なる第2の直交変換方式を含み、前記第1の直交変換方式に対応する量子化行列は、符号化ストリームのパラメータセット又はヘッダ内で定義され、前記生成部は、前記第2の直交変換方式に対応する量子化行列を前記第1の直交変換方式に対応する量子化行列から生成する、前記2に記載の画像処理装置。4前記第1の直交変換方式は、離散コサイン変換DCT方式であり、前記第2の直交変換方式は、離散サイン変換DST方式である、前記3に記載の画像処理装置。5前記生成部は、前記DCT方式に対応する量子化行列の低域から高域にかけての要素値の勾配をより緩やかにするように、前記DCT方式に対応する量子化行列から前記DST方式に対応する量子化行列を生成する、前記4に記載の画像処理装置。6前記生成部は、前記DCT方式に対応する量子化行列の前記勾配を所定の割合で変化させることにより、前記DST方式に対応する量子化行列を生成する、前記5に記載の画像処理装置。7前記生成部は、前記DCT方式に対応する量子化行列の各要素に要素位置に対応する係数を乗算することにより、前記DST方式に対応する量子化行列を生成する、前記5に記載の画像処理装置。8前記生成部は、前記第1の直交変換方式に対応する量子化行列から前記第2の直交変換方式に対応する量子化行列を生成することを示すフラグが符号化ストリームのパラメータセット又はヘッダ内に含まれる場合に、前記第1の直交変換方式に対応する量子化行列から前記第2の直交変換方式に対応する量子化行列を生成する、前記3~7のいずれか1項に記載の画像処理装置。9前記生成部は、前記第2の直交変換方式に対応する量子化行列が用いられることを示すフラグが符号化ストリームのパラメータセット又はヘッダ内に含まれる場合に、前記第2の直交変換方式に対応する量子化行列を生成する、前記3~8のいずれか1項に記載の画像処理装置。10前記変換部は、垂直方向の直交変換と水平方向の直交変換とで異なる直交変換方式を選択可能であり、前記設定部は、前記垂直方向の直交変換について用いられる直交変換方式と前記水平方向の直交変換について用いられる直交変換方式との組合せごとに異なる量子化行列を各変換単位に設定する、前記1に記載の画像処理装置。11前記垂直方向及び前記水平方向の直交変換についてそれぞれ用いられる2つの直交変換方式が互いに異なる場合に対応する複合変換用の量子化行列を、当該2つの直交変換方式が等しい場合に対応する1つ以上の非複合変換用の量子化行列から生成する生成部、をさらに備える、前記10に記載の画像処理装置。12前記複合変換用の量子化行列は、離散コサイン変換DCT方式と離散サイン変換DST方式との組合せに対応する量子化行列であり、前記1つ以上の非複合変換用の量子化行列は、前記DCT方式に対応する量子化行列及び前記DST方式に対応する量子化行列を含む、前記11に記載の画像処理装置。13前記生成部は、前記複合変換用の量子化行列を、前記DCT方式に対応する量子化行列と前記DST方式に対応する量子化行列との加重平均により生成する、前記12に記載の画像処理装置。14前記生成部は、符号化ストリームのパラメータセット又はヘッダから、前記加重平均の重みを特定するためのパラメータを取得する、前記13に記載の画像処理装置。15復号される画像の変換係数データを逆直交変換する際に選択される直交変換方式に応じて、前記変換係数データを逆量子化する際に用いられる量子化行列を各変換単位に設定するステップと、設定された前記量子化行列を用いて、前記変換係数データを逆量子化するステップと、前記選択される直交変換方式を用いて、逆量子化された前記変換係数データを逆直交変換するステップと、を含む画像処理方法。16符号化される画像の各変換単位について選択される直交変換方式を用いて、画像データを変換係数データに変換する変換部と、前記変換部により用いられる直交変換方式に応じて、前記変換係数データを量子化する際に用いられる量子化行列を各変換単位に設定する設定部と、前記設定部により設定された前記量子化行列を用いて、前記変換係数データを量子化する量子化部と、を備える画像処理装置。17符号化される画像の各変換単位について選択される直交変換方式を用いて、画像データを変換係数データに変換するステップと、前記画像データの変換の際に用いられる直交変換方式に応じて、前記変換係数データを量子化する際に用いられる量子化行列を各変換単位に設定するステップと、設定された前記量子化行列を用いて、前記変換係数データを量子化するステップと、を含む画像処理方法。"