(57)【特許請求の範囲】
【請求項１】
符号化対象の動画像データを構成するピクチャデータを２パスで量子化および符号化する符号化方法であって、
前記処理対象の前記ピクチャデータを第１の量子化スケールで第１の量子化処理した後に第１の符号化処理を行う第１の工程と、
処理対象の前記ピクチャデータと他のピクチャデータとの間の相関度を検出する第２の工程と、
前記第１の工程によって得られた符号化データの第１の発生ビット量を検出する第３の工程と、
前記第１の工程で用いた前記第１の量子化スケールと前記第３の工程で検出した前記第１の発生ビット量とを基に、第２の発生ビット量を決定する第４の工程と、
前記第１の工程で用いた前記第１の量子化スケールと、前記第３の工程で検出した前記第１の発生ビット量と、前記第４の工程で決定した前記第２の発生ビット量とを用いて所定の演算式に基づいて第２の量子化スケールを決定する第５の工程と、
前記処理対象のピクチャデータを前記第５の工程で決定した前記第２の量子化スケールで第２の量子化処理した後に第２の符号化処理を行う第６の工程と
を有し、
前記第５の工程は、前記第２の工程で検出した前記相関度に基づいて複数の前記演算式を切り換えて使用して前記第２の量子化スケールを決定する
符号化方法。
【請求項２】
前記第５の工程は、
前記第２の工程で検出した前記相関度が、第１のしきい値より小さいか、あるいは前記第１のしきい値より大きな第２のしきい値より大きい場合に、第１の前記演算式を使用して前記第２の量子化スケールを決定し、
前記第２の工程で検出した前記相関度が第１のしきい値と前記第２のしきい値の間にあり、前記第１の量子化スケールが第３のしきい値より大きい場合に、前記第１の演算式を使用して前記第２の量子化スケールを決定し、
前記第２の工程で検出した前記相関度が第１のしきい値と前記第２のしきい値の間にあり、前記第１の量子化スケールが第３のしきい値以下の場合に、第２の前記演算式を使用して前記第２の量子化スケールを決定する
請求項１に記載の符号化方法。
【請求項３】
前記第５の工程は、前記第１の発生ビット量の対数と前記第２の発生ビット量の対数との差分と、前記第１の量子化スケールの対数と前記第２の量子化スケールの対数との第１の差分との比が相互に異なる前記複数の演算式を切り換えて使用して前記第２の量子化スケールを決定する
請求項１または請求項２に記載の符号化方法。
【請求項４】
前記第５の工程は、前記第１の発生ビット量の対数と前記第２の発生ビット量の対数との差分と、前記第１の量子化スケールの対数と前記第２の量子化スケールの対数との第１の差分との比が、前記第１の演算式と前記第２の演算式とで異なる
請求項２に記載の符号化方法。
【請求項５】
前記第４の工程は、各ピクチャデータについて当該ピクチャデータの量子化に用いた前記第１の量子化スケールと、当該量子化による前記第１の発生ビット量とを基に複雑度を算出し、同じグループに属する複数のピクチャデータの前記複雑度と、当該グループに割り当てられた発生ビット量とを基に、前記ピクチャデータの前記第２の発生ビット量を決定する
請求項１〜４のいずれかに記載の符号化方法。
【請求項６】
前記第１の工程は、処理対象の前記ピクチャデータがＢピクチャデータである場合に、Ｉ、Ｐピクチャデータである場合に比べて大きい前記第１の量子化スケールで第１の量子化処理を行い、
前記第４の工程は、前記第１の工程の処理に応じて、前記Ｂピクチャデータの前記複雑度を補正する
請求項５に記載の符号化方法。
【請求項７】
符号化対象の動画像データを構成するピクチャデータを２パスで量子化および符号化する符号化装置であって、
処理対象の前記ピクチャデータと他のピクチャデータとの間の相関度を検出する相関検出回路と、
前記処理対象のピクチャデータを量子化する量子化回路と、
前記量子化回路が量子化した前記ピクチャデータを符号化する符号化回路と、
１パス目において、前記量子化回路に第１の量子化スケールを指定して量子化させ、それに応じて前記符号化回路が生成した符号化データの第１の発生ビット量と、前記第１の量子化スケールとを基に第２の発生ビット量を決定し、前記第１の量子化スケールと、前記第１の発生ビット量と、前記第２の発生ビット量とを用いて所定の演算式に基づいて第２の量子化スケールを決定し、２パス目において、前記量子化回路に前記第２の量子化スケールを指定して量子化させる制御回路と
を有し、
前記制御回路は、前記相関検出回路が検出した前記相関度に基づいて複数の前記演算式を切り換えて使用して前記第２の量子化スケールを決定する
符号化装置。
【請求項８】
符号化対象の動画像データを構成するピクチャデータを２パスで量子化および符号化するコンピュータが実行するプログラムであって、
前記処理対象の前記ピクチャデータを第１の量子化スケールで第１の量子化処理した後に第１の符号化処理を行う第１の手順と、
処理対象の前記ピクチャデータと他のピクチャデータとの間の相関度を検出する第２の手順と、
前記第１の手順によって得られた符号化データの第１の発生ビット量を検出する第３の手順と、
前記第１の手順で用いた前記第１の量子化スケールと前記第３の手順で検出した前記第１の発生ビット量とを基に、第２の発生ビット量を決定する第４の手順と、
前記第１の手順で用いた前記第１の量子化スケールと、前記第３の手順で検出した前記第１の発生ビット量と、前記第４の手順で決定した前記第２の発生ビット量とを用いて所定の演算式に基づいて第２の量子化スケールを決定する第５の手順と、
前記処理対象のピクチャデータを前記第５の手順で決定した前記第２の量子化スケールで第２の量子化処理した後に第２の符号化処理を行う第６の手順と
を前記コンピュータに実行させ、
前記第５の手順において、前記第２の手順で検出した前記相関度に基づいて複数の前記演算式を切り換えて使用して前記第２の量子化スケールを決定する処理を前記コンピュータに実行させる
プログラム。
【請求項９】
符号化対象の動画像データを構成するピクチャデータを２パスで量子化および符号化するコンピュータが実行するプログラムを記録した記録媒体であって、
前記プログラムは、
前記処理対象の前記ピクチャデータを第１の量子化スケールで第１の量子化処理した後に第１の符号化処理を行う第１の手順と、
処理対象の前記ピクチャデータと他のピクチャデータとの間の相関度を検出する第２の手順と、
前記第１の手順によって得られた符号化データの第１の発生ビット量を検出する第３の手順と、
前記第１の手順で用いた前記第１の量子化スケールと前記第３の手順で検出した前記第１の発生ビット量とを基に、第２の発生ビット量を決定する第４の手順と、
前記第１の手順で用いた前記第１の量子化スケールと、前記第３の手順で検出した前記第１の発生ビット量と、前記第４の手順で決定した前記第２の発生ビット量とを用いて所定の演算式に基づいて第２の量子化スケールを決定する第５の手順と、
前記処理対象のピクチャデータを前記第５の手順で決定した前記第２の量子化スケールで第２の量子化処理した後に第２の符号化処理を行う第６の手順と
を前記コンピュータに実行させ、
前記第５の手順において、前記第２の手順で検出した前記相関度に基づいて複数の前記演算式を切り換えて使用して前記第２の量子化スケールを決定する処理を前記コンピュータに実行させる
記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、動画像データの符号化装置、符号化方法、プログラムおよび記録媒体に関する。
【背景技術】
【０００２】
近年、画像データデジタルとして取り扱い、その際、効率の高い情報の伝送、蓄積を目的とし、画像情報特有の冗長性を利用して、離散コサイン変換等の直交変換と動き補償により圧縮するＭＰＥＧ(Moving Picture Experts Group)に続いて、より圧縮率が高いＨ．２６４／ＡＶＣ(Advanced Video Coding)などの符号化方式に準拠した符号化装置および復号装置が、放送局などの情報配信、及び一般家庭における情報受信の双方において普及しつつある。
【０００３】
ところで、従来の符号化装置には、符号化対象の動画像データを２パスで量子化および符号化するものがある。
このような符号化装置では、例えば、１パス目で用いた量子化スケールと、１パス目の量子化による発生ビット量と、２パス目で割り当てる発生ビット量と、２パス目で用いる量子化スケールとを基に行った所定の演算値が無条件に固定値になるとの前提により、２パス目で用いる量子化スケールを計算している。
【発明の開示】
【発明が解決しようとする課題】
【０００４】
しかしながら、上述した従来の符号化装置では、符号化対象のピクチャデータが、特殊な画像、例えば、フィルムグレイン（映画フィルムをキャプチャしたときに、画面全体に存在するランダムな粒状のノイズ）を含む画像である場合に、上記所定の演算値は上記固定値にはならない。そのため、２パス目で用いる量子化スケールを適切に決定できず、復号画像の画質が劣化したり、符号化効率が低下するという問題がある。
【０００５】
本発明はかかる事情に鑑みてなされたものであり、２パスで量子化および符号化を行う場合に、復号画像の画質および符号化効率を向上できる符号化装置、符号化方法、プログラムおよび記録媒体を提供することを目的とする。
【課題を解決するための手段】
【０００６】
上述した従来技術の問題点を解決し、上述した目的を達成するため、第１の観点の発明の符号化方法は、符号化対象の動画像データを構成するピクチャデータを２パスで量子化および符号化する符号化方法であって、前記処理対象の前記ピクチャデータを第１の量子化スケールで第１の量子化処理した後に第１の符号化処理を行う第１の工程と、処理対象の前記ピクチャデータと他のピクチャデータとの間の相関度を検出する第２の工程と、前記第１の工程によって得られた符号化データの第１の発生ビット量を検出する第３の工程と、前記第１の工程で用いた前記第１の量子化スケールと前記第３の工程で検出した前記第１の発生ビット量とを基に、第２の発生ビット量を決定する第４の工程と、前記第１の工程で用いた前記第１の量子化スケールと、前記第３の工程で検出した前記第１の発生ビット量と、前記第４の工程で決定した前記第２の発生ビット量とを用いて所定の演算式に基づいて第２の量子化スケールを決定する第５の工程と、前記処理対象のピクチャデータを前記第５の工程で決定した前記第２の量子化スケールで第２の量子化処理した後に第２の符号化処理を行う第６の工程とを有し、前記第５の工程は、前記第２の工程で検出した前記相関度に基づいて複数の前記演算式を切り換えて使用して前記第２の量子化スケールを決定する。
【０００７】
第２の観点の発明の符号化装置は、符号化対象の動画像データを構成するピクチャデータを２パスで量子化および符号化する符号化装置であって、処理対象の前記ピクチャデータと他のピクチャデータとの間の相関度を検出する相関検出回路と、前記処理対象のピクチャデータを量子化する量子化回路と、前記量子化回路が量子化した前記ピクチャデータを符号化する符号化回路と、１パス目において、前記量子化回路に第１の量子化スケールを指定して量子化させ、それに応じて前記符号化回路が生成した符号化データの第１の発生ビット量と、前記第１の量子化スケールとを基に第２の発生ビット量を決定し、前記第１の量子化スケールと、前記第１の発生ビット量と、前記第２の発生ビット量とを用いて所定の演算式に基づいて第２の量子化スケールを決定し、２パス目において、前記量子化回路に前記第２の量子化スケールを指定して量子化させる制御回路とを有し、前記制御回路は、前記相関検出回路が検出した前記相関度に基づいて複数の前記演算式を切り換えて使用して前記第２の量子化スケールを決定する。
【０００８】
第３の観点のプログラムは、符号化対象の動画像データを構成するピクチャデータを２パスで量子化および符号化するコンピュータが実行するプログラムであって、前記処理対象の前記ピクチャデータを第１の量子化スケールで第１の量子化処理した後に第１の符号化処理を行う第１の手順と、処理対象の前記ピクチャデータと他のピクチャデータとの間の相関度を検出する第２の手順と、前記第１の手順によって得られた符号化データの第１の発生ビット量を検出する第３の手順と、前記第１の手順で用いた前記第１の量子化スケールと前記第３の手順で検出した前記第１の発生ビット量とを基に、第２の発生ビット量を決定する第４の手順と、前記第１の手順で用いた前記第１の量子化スケールと、前記第３の手順で検出した前記第１の発生ビット量と、前記第４の手順で決定した前記第２の発生ビット量とを用いて所定の演算式に基づいて第２の量子化スケールを決定する第５の手順と、前記処理対象のピクチャデータを前記第５の手順で決定した前記第２の量子化スケールで第２の量子化処理した後に第２の符号化処理を行う第６の手順とを前記コンピュータに実行させ、前記第５の手順において、前記第２の手順で検出した前記相関度に基づいて複数の前記演算式を切り換えて使用して前記第２の量子化スケールを決定する処理を前記コンピュータに実行させる。
【０００９】
第４の観点の発明の記録媒体は、符号化対象の動画像データを構成するピクチャデータを２パスで量子化および符号化するコンピュータが実行するプログラムを記録した記録媒体であって、前記プログラムは、前記処理対象の前記ピクチャデータを第１の量子化スケールで第１の量子化処理した後に第１の符号化処理を行う第１の手順と、処理対象の前記ピクチャデータと他のピクチャデータとの間の相関度を検出する第２の手順と、前記第１の手順によって得られた符号化データの第１の発生ビット量を検出する第３の手順と、前記第１の手順で用いた前記第１の量子化スケールと前記第３の手順で検出した前記第１の発生ビット量とを基に、第２の発生ビット量を決定する第４の手順と、前記第１の手順で用いた前記第１の量子化スケールと、前記第３の手順で検出した前記第１の発生ビット量と、前記第４の手順で決定した前記第２の発生ビット量とを用いて所定の演算式に基づいて第２の量子化スケールを決定する第５の手順と、前記処理対象のピクチャデータを前記第５の手順で決定した前記第２の量子化スケールで第２の量子化処理した後に第２の符号化処理を行う第６の手順とを前記コンピュータに実行させ、前記第５の手順において、前記第２の手順で検出した前記相関度に基づいて複数の前記演算式を切り換えて使用して前記第２の量子化スケールを決定する処理を前記コンピュータに実行させる。
【発明の効果】
【００１０】
本発明によれば、２パスで量子化および符号化を行う場合に、復号画像の画質および符号化効率を向上できる符号化装置、符号化方法、プログラムおよび記録媒体を提供することができる。
【発明を実施するための最良の形態】
【００１１】
以下、本発明の実施形態の通信システムについて説明する。
先ず、本実施形態の構成と本発明の構成との関係を説明する。
本実施形態の量子化スケールＱＳ（１）が本発明の第１の量子化スケールの一例であり、本実施形態の量子化スケールＱＳ（２）が本発明の第２の量子化スケールの一例である。
また、本実施形態の発生ビット量Ｒ（１）が本発明の第１の発生ビット量の一例であり、本実施形態のビット量Ｒ（２）が本発明の第２の発生ビット量の一例である。
また、図５に示すステップＳＴ１１の量子化が本発明の第１の工程の一例であり、ステップＳＴ１２が本発明の第２の工程の一例であり、ステップＳＴ１１の検出が本発明の第３の工程の一例であり、ステップＳＴ１３〜ＳＴ１８が本発明の第４の工程の一例であり、ステップＳＴ１９が本発明の第５の工程の一例であり、ステップＳＴ２０が本発明の第６の工程の一例である。
また、図２に示す動き予測・補償回路４３が本発明の相関検出回路の一例であり、量子化回路３３が量子化回路の一例であり、可逆符号化回路３５が符号化回路の一例であり、レート制御回路５１および量子化スケール算出回路５２が制御回路の一例である。
また、図６に示すプログラムＰＲＧが本発明のプログラムの一例であり、メモリ２５２が本発明の記録媒体の一例である。
記録媒体は、半導体メモリの他、光ディスク、光磁気ディスクあるいは磁気ディスクなどであってもよい。
【００１２】
図１は、本実施形態の通信システム１の概念図である。
図１に示すように、通信システム１は、送信側に設けられた符号化装置２と、受信側に設けられた復号装置３とを有する。
【００１３】
通信システム１では、送信側の符号化装置２において、離散コサイン変換やカルーネン・レーベ変換などの直交変換と動き補償によって圧縮したフレーム画像データ（ビットストリーム）を生成し、当該フレーム画像データを変調した後に、衛星放送波、ケーブルＴＶ網、電話回線網、携帯電話回線網などの伝送媒体を介して送信する。
受信側では、復号装置３において受信した画像信号を復調した後に、上記変調時の直交変換の逆変換と動き補償によって伸張したフレーム画像データを生成して利用する。
なお、上記伝送媒体は、光ディスク、磁気ディスクおよび半導体メモリなどの記録媒体であってもよい。
【００１４】
<符号化装置２＞
以下、図１に示す符号化装置２について説明する。
図２は、図１に示す符号化装置２の全体構成図である。
図２に示すように、符号化装置２は、例えば、Ａ／Ｄ変換回路２１、画面並べ替え回路２３、演算回路３１、直交変換回路３２、量子化回路３３、可逆符号化回路３５、バッファメモリ３６、逆量子化回路３７、逆直交変換回路３８、加算回路３９、デブロックフィルタ４０、フレームメモリ４１、イントラ予測回路４２、動き予測・補償回路４３、レート制御回路５１および量子化スケール算出回路５２を有する。
【００１５】
図２に示す符号化装置２では、レート制御回路５１において、１パス目の量子化スケールＱＳ（１）と、その発生ビット量Ｒ（１）とを基に、２パス目に割り当てるビット量Ｒ（２）を決定する。
量子化スケール算出回路５２は、量子化スケールＱＳ（１），ビット量Ｒ（１），Ｒ（２）を基に、動き予測・補償回路４３からの指標データｉｎｔｅｒＡＤに応じて異なる複数の演算式を選択的に用いて、２パス目の量子化スケールＱＳ（２）を決定し、これを量子化回路３３に指示する。
なお、本実施形態は、ピクチャデータは、フレームデータあるいはフィールドデータである。
【００１６】
以下、符号化装置２の構成要素について説明する。
［Ａ／Ｄ変換回路２１］
Ａ／Ｄ変換回路２１は、入力されたアナログの輝度信号Ｙ、色差信号Ｐｂ，Ｐｒから構成される原画像信号Ｓ１０をデジタルの原ピクチャデータに変換し、これを画面並べ替え回路２３に出力する。
【００１７】
［画面並べ替え回路２３］
画面並べ替え回路２３は、Ａ／Ｄ変換回路２１が生成したピクチャデータを、予め割り当てたピクチャタイプＩ，Ｐ，ＢからなるＧＯＰ(Group Of Pictures) 構造に応じて、符号化する順番に並べ替えて演算回路３１、イントラ予測回路４２および動き予測・補償回路４３に出力する。
【００１８】
［演算回路３１］
演算回路３１は、画面並べ替え回路２３から入力した符号化対象のピクチャデータと、イントラ予測回路４２あるいは動き予測・補償回路４３から入力した予測画像データＰＩとの差分を示す画像データＳ３１を生成し、これを直交変換回路３２に出力する。
【００１９】
［直交変換回路３２］
直交変換回路３２は、演算回路３１から入力した画像データＳ３１に離散コサイン変換（ＤＣＴ：Discrete Cosine Transform）やカルーネン・レーベ変換などの直交変換を施して変換係数を示す画像データ（例えばＤＣＴ係数）を生成し、これを量子化回路３３に出力する。
【００２０】
［量子化回路３３］
量子化回路３３は、直交変換回路３２から入力した画像データ（量子化前の変換係数）を、量子化スケール算出回路５２から入力した量子化スケールＱＳを基に量子化して量子化後の変換係数を示す画像データＳ３３を生成し、これを可逆符号化回路３５および逆量子化回路３７に出力する。
具体的には、量子化回路３３は、直交変換回路３２から入力した画像データＳ２５を、１パス目において量子化スケール算出回路５２から入力した量子化スケールＱＳ（１）を基に量子化し、２パス目において量子化スケール算出回路５２から入力した量子化スケールＱＳ（２）を基に量子化する。
【００２１】
［可逆符号化回路３５］
可逆符号化回路３５は、量子化回路３３から入力した画像データＳ３３を可変長符号化した符号化データＳ３５をバッファ２８に格納する。
このとき、可逆符号化回路３５は、動き予測・補償回路４３から入力した動きベクトルＭＶあるいはその差分動きベクトル、参照画像データの識別データ、並びにイントラ予測回路４２から入力したイントラ予測モードをヘッダデータなどに格納する。
また、可逆符号化回路３５は、符号化データＳ３５の発生ビット量（レート）Ｒを検出し、これをレート制御回路５１に出力する。
具体的には、可逆符号化回路３５は、１パス目の符号化において生成した符号化データＳ３５の発生ビット量Ｒ（１）をレート制御回路５１に出力する。
【００２２】
［バッファメモリ３６］
バッファメモリ３６に格納された画像データは、変調等された後に画像データＳ２として送信される。
当該画像データＳ２は、後述するように、復号装置３によって復号される。
［逆量子化回路３７］
逆量子化回路３７は、量子化回路３３の量子化に対応した逆量子化処理を、量子化回路３３からの画像データに施して、それによって得られたデータを生成し、これを逆直交変換回路３８に出力する。
［逆直交変換回路３８］
逆直交変換回路３８は、逆量子化回路３７から入力したデータに、直交変換回路３２における直交変換の逆変換を施して生成した画像データを加算回路３９に出力する。
【００２３】
［加算回路３９］
加算回路３９は、逆直交変換回路３８から入力した（デコードされた）画像データと、イントラ予測回路４２あるいは動き予測・補償回路４３から入力した予測画像データＰＩとを加算して参照（再構成）ピクチャデータを生成し、これをデブロックフィルタ４０に出力する。
【００２４】
［デブロックフィルタ４０］
デブロックフィルタ４０は、加算回路３９から入力した参照ピクチャデータのブロック歪みを除去してフレームメモリ４１に書き込む。
【００２５】
［イントラ予測回路４２］
イントラ予測回路４２は、イントラ符号化するマクロブロックにおいて、残差が最小となるイントラ予測のモードおよび予測ブロックのブロックサイズを決定する。
イントラ予測回路４２は、ブロックサイズとして、４ｘ４、８ｘ８および１６ｘ１６画素を用いる。
イントラ予測回路４２は、イントラ予測が選択された場合に、イントラ予測による予測画像データＰＩを演算回路３１および加算回路３９に出力する。
【００２６】
［動き予測・補償回路４３］
動き予測・補償回路４３は、既に符号化後に局所復号されてフレームメモリ４１に記憶されている参照ピクチャデータＲＥＦを基に動き予測を行い、残差を最小にする動きベクトルおよび動く補償のブロックサイズを決定する。
動き予測・補償回路４３は、ブロックサイズとして、１６ｘ１６、１６ｘ８、８ｘ１６、８ｘ８、８ｘ４、４ｘ８および４ｘ４画素を用いる。
動き予測・補償回路４３は、インター予測が選択された場合に、インター予測による予測画像データＰＩを演算回路３１および加算回路３９に出力する。
【００２７】
動き予測・補償回路４３は、画面並べ替え回路２３から入力した各原ピクチャデータ内の各マクロブロックＭＢについて、下記式（１）に示すように、当該マクロブロックＭＢの画素データＯｒｇ（ｋ，ｎ，ｘ，ｙ）と、それに対応するインター予測画像のマクロブロックＭＢの画素データｉｎｔｅｒＰｒｅｄ（ｋ，ｎ，ｘ，ｙ）との画素データの差分の絶対値和を示す指標データｉｎｔｅｒＡＤを算出する。
動き予測・補償回路４３は、指標データｉｎｔｅｒＡＤを量子化スケール算出回路５２に出力する。
ここで、ｋはピクチャデータの番号を示し、ｎはマクロブロックＭＢの番号を示す。
また、ａｂｓは、絶対値を示す。
【００２８】
（数１）
ｉｎｔｅｒＡＤ＝Σａｂｓ（Ｏｒｇ（ｋ，ｎ，ｘ，ｙ）−ｉｎｔｅｒＰｒｅｄ（ｋ，ｎ，ｘ，ｙ））
…（１）
【００２９】
[レート制御回路５１]
レート制御回路５１は、各ピクチャデータについて可逆符号化回路３５から入力した１パス目の量子化および符号化の発生ビット量Ｒ（１）と、１パス目の量子化に用いた量子化スケールＱＳ（１）とを基に、下記式（２）に従って複雑度指標データＣを生成する。
【００３０】
（数２）
Ｃ＝ＱＳ（１）×Ｒ（１）
…（２）
【００３１】
また、レート制御回路５１は、上記生成した各ピクチャデータの複雑度指標データＣに対して、Ｂピクチャデータについてのみ「２―N／6」を乗じて新たな複雑度指標データＣ’を生成する。
これは、後述するように、量子化スケール算出回路５２が、Ｂピクチャデータについて、Ｐ，Ｉピクチャデータに比べて大きい量子化スケールＱＳを指定するためである。
【００３２】
また、レート制御回路５１は、各ＧＯＰｉについて、当該ＧＯＰを構成する全てのピクチャデータの複雑度指標データＣ’の総和Ｇｉを計算する。
そして、レート制御回路５１は、シーン全体への割り当てレートをＲとし、各ＧＯＰｉに対する割り当てレートＲｉを下記式（３）に従って計算する。
【００３３】
（数３）
Ｒｉ＝Ｒ×Ｇｉ１／２／ΣＧｉ１／２
…（３）
【００３４】
また、レート制御回路５１は、上記計算した１ＧＯＰ分の総和Ｇｉと、上記計算した各ＧＯＰｉに対する割り当てレートＲｉを基に、下記式（４）に従って各ＧＯＰｉに対する量子化スケールＱＳｉを計算する。
【００３５】
（数４）
ＱＳｉ＝Ｇｉ／Ｒｉ
…（４）
【００３６】
そして、レート制御回路５１は、ＧＯＰｉ内の各ピクチャデータに対する割り当てビット量（レート）Ｒ（２）を、当該ピクチャデータについて上記計算した複雑度指標データＣ’と、上記計算したＧＯＰｉに対する量子化スケールＱＳｉとを基に、下記式（５）に従って計算する。
【００３７】
（数５）
Ｒ（２）＝Ｃ’／ＱＳｉ
…（５）
【００３８】
そして、レート制御回路５１は、上記計算した割り当てビット量Ｒ（２）を量子化スケール算出回路５２および量子化回路３３に出力する。
【００３９】
［量子化スケール算出回路５２］
量子化スケール算出回路５２は、１パス目において、量子化回路３３に予め決められた量子化スケールＱＳ（１）を各ピクチャデータについて指定（出力）する。
このとき、量子化スケール算出回路５２は、Ｂピクチャデータについて、Ｐ，Ｉピクチャデータに比べて大きい量子化スケールＱＳを指定する。
【００４０】
量子化スケール算出回路５２は、１パス目で用いた量子化スケールＱＳ（１）と、１パス目で可逆符号化回路３５が検出した発生ビット量Ｒ（１）と、レート制御回路５１から入力した２パス目の割り当てビット量Ｒ（２）と、動き予測・補償回路４３から入力した
指標データｉｎｔｅｒＡＤとを基に、下記式（６）で規定する関係に従って、２パス目の量子化スケールＱＳ（２）を算出する。
【００４１】
（数６）
ＱＲＧｒａｄｉｅｎｔ＝（ｌｏｇ（Ｒ１）−ｌｏｇ（Ｒ２））／（ｌｏｇ（ＱＳ（１））−ｌｏｇ（ＱＳ（２）））
…（６）
【００４２】
一般的に、ｌｏｇＱとｌｏｇＲとの関係は、図３（Ａ）に示すように複数の折れ線によって構成されるパターンとなる。
本実施形態では、量子化スケール算出回路５２は、しきい値ＴＨ１，ＴＨ２，Ｑｔとした場合に、図３（Ｂ）に示すように、「ＴＨ１≦ｉｎｔｅｒＡＤ≦ＴＨ２」であり、且つ、「ＱＳ（１）≦Ｑｔ」の場合に、上記式（６）のＱＲＧｒａｄｉｅｎｔとして、Ｇａを用い、それ以外の場合に、Ｇ（≠
Ｇａ）を用いる。
すなわち、量子化スケール算出回路５２は、量子化対象のピクチャデータに動きが殆どない場合（ｉｎｔｅｒＡＤ＜ＴＨ１）、あるいは、動きが激しい場合（ＴＨ２＜ｉｎｔｅｒＡＤ）には、通常の画像であると判断して、ＱＲＧｒａｄｉｅｎｔとして、Ｇを用いる。
一方、量子化スケール算出回路５２は、「ＴＨ１≦ｉｎｔｅｒＡＤ≦ＴＨ２」の場合には、特殊な画像であるとして、量子化スケールＱＳ（１）が経験的に規定されたしきい値Ｑｔよりも小さい範囲については、ＱＲＧｒａｄｉｅｎｔとして、Ｇａを用いる。
これにより、量子化スケール算出回路５２は、実際の特性に対応するように上記式（６）を調整することができ、高品質な量子化スケールＱＳ（２）を生成できる。
なお、本実施形態において、「Ｇ」は、例えば、「−１」である。
【００４３】
図３（Ｂ）では、ＱＲＧｒａｄｉｅｎｔ＝ＧとＧａとの２つの折れ線パターンを例示したが、これらは一例であり、３以上の線によって構成される折れ線パターンでもよい。
【００４４】
図４は、量子化スケール算出回路５２の処理を説明するためのフローチャートである。
図４に示す各ステップを説明する。
ステップＳＴ１：
量子化スケール算出回路５２は、「ｉｎｔｅｒＡＤ＜ＴＨ１」あるいは「ＴＨ２＜ｉｎｔｅｒＡＤ」を満たすと、ステップＳＴ２に進み、そうでない場合にステップＳＴ３に進む。
【００４５】
ステップＳＴ２：
量子化スケール算出回路５２は、例えば、上記式（６）のＱＲＧｒａｄｉｅｎｔとして「Ｇ」を用い、さらに、１パス目で用いた量子化スケールＱＳ（１）と、１パス目で可逆符号化回路３５が検出した発生ビット量Ｒ（１）と、レート制御回路５１から入力した２パス目の割り当てビット量Ｒ（２）とを基に、２パス目の量子化スケールＱＳ（２）を算出する。
【００４６】
ステップＳＴ３：
量子化スケール算出回路５２は、「ＱＳ（１）＞Ｑｔ」を満たすか否かを判断し、満たすと判断するとステップＳＴ４に進み、そうでない場合にはステップＳＴ５に進む。
【００４７】
ステップＳＴ４：
量子化スケール算出回路５２は、例えば、上記式（６）のＱＲＧｒａｄｉｅｎｔとして「Ｇ」を用い、さらに、１パス目で用いた量子化スケールＱＳ（１）と、１パス目で可逆符号化回路３５が検出した発生ビット量Ｒ（１）と、レート制御回路５１から入力した２パス目の割り当てビット量Ｒ（２）とを基に、２パス目の量子化スケールＱＳ（２）を算出する。
【００４８】
ステップＳＴ５：
量子化スケール算出回路５２は、例えば、上記式（６）のＱＲＧｒａｄｉｅｎｔとして「Ｇａ」を用い、さらに、１パス目で用いた量子化スケールＱＳ（１）と、１パス目で可逆符号化回路３５が検出した発生ビット量Ｒ（１）と、レート制御回路５１から入力した２パス目の割り当てビット量Ｒ（２）とを基に、２パス目の量子化スケールＱＳ（２）を算出する。
【００４９】
ステップＳＴ６：
量子化スケール算出回路５２は、上記算出した量子化スケールＱＳ（２）を量子化回路３３に出力する。
【００５０】
以下、図２に示す符号化装置２の全体動作例を説明する。
なお、以下の説明では、逆量子化回路３７、逆直交変換回路３８、加算回路３９、イントラ予測回路４２、並びに動き予測・補償回路４３の動作の一部の説明は省略する。
図５は、図２に示す符号化装置２の全体動作例を説明するためのフローチャートである。
ステップＳＴ１１：
レート制御回路５１は、量子化回路３３に１パス目の量子化スケールＱＳ（１）を指定する。
これにより、量子化回路３３は、量子化スケールＱＳ（１）で、直交変換回路３２からの画像データを量子化して画像データＳ３３を生成し、これを可逆符号化回路３５および逆量子化回路３７に出力する。
逆量子化回路３７は、画像データＳ３３の発生ビット量Ｒ（１）を検出し、これをレート制御回路５１および量子化スケール算出回路５２に出力する。
【００５１】
ステップＳＴ１２：
動き予測・補償回路４３は、画面並べ替え回路２３から入力した各原ピクチャデータ内の各マクロブロックＭＢについて、上記式（１）に示すように、当該マクロブロックＭＢの画素データＯｒｇ（ｋ，ｎ，ｘ，ｙ）と、それに対応するインター予測画像のマクロブロックＭＢの画素データｉｎｔｅｒＰｒｅｄ（ｋ，ｎ，ｘ，ｙ）との画素データの差分の絶対値和を示す指標データｉｎｔｅｒＡＤを算出する。
動き予測・補償回路４３は、指標データｉｎｔｅｒＡＤを量子化スケール算出回路５２に出力する。
【００５２】
ステップＳＴ１３：
レート制御回路５１は、１パス目の各ピクチャデータＰの符号化において、量子化回路３３から入力した量子化スケールＱＳ（１）と、可逆符号化回路３５から入力した発生レートＲ（１）とを基に上記式（２）に示すように複雑度指標データＣを生成する。
【００５３】
ステップＳＴ１４：
レート制御回路５１は、ステップＳＴ１１で生成した各ピクチャデータの複雑度指標データＣに対して、Ｂピクチャデータについてのみ「２―N／6」を乗じて新たな複雑度指標データＣ’を生成する。
【００５４】
ステップＳＴ１５：
レート制御回路５１は、各ＧＯＰｉについて、当該ＧＯＰを構成する全てのピクチャデータの複雑度指標データＣ’の総和Ｇｉを計算する。
【００５５】
ステップＳＴ１６：
レート制御回路５１は、シーン全体への割り当てレートをＲとし、各ＧＯＰｉに対する割り当てレートＲｉを上記式（３）に従って計算する。
【００５６】
ステップＳＴ１７：
レート制御回路５１は、ステップＳＴ１３で計算した１ＧＯＰ分の総和Ｇｉと、ステップＳＴ１４で計算した各ＧＯＰｉに対する割り当てレートＲｉを基に、上記式（４）に従って各ＧＯＰｉに対する量子化スケールＱＳｉを計算する。
【００５７】
ステップＳＴ１８：
レート制御回路５１はＧＯＰｉ内の各ピクチャデータに対する割り当てビット量Ｒ（２）を、当該ピクチャデータのステップＳＴ１２で計算した複雑度指標データＣ’と、ステップＳＴ１５で計算したＧＯＰｉに対する量子化スケールＱＳｉとを基に、上記式（５）に従って計算する。
レート制御回路５１は、ステップＳＴ１６で計算した割り当てビット量Ｒ（２）を量子化スケール算出回路５２に出力する。
【００５８】
ステップＳＴ１９：
量子化スケール算出回路５２は、ステップＳＴ１２で入力した指標データｉｎｔｅｒＡＤ、量子化スケールＱＳ（１）、ビット量Ｒ（１），（Ｒ（２）に基づいて、図４に示す手順で、２パス目の量子化スケールＱＳ（２）を計算する。
量子化スケール算出回路５２は、上記２パス目の量子化スケールＱＳ（２）を量子化回路３３に出力する。
【００５９】
ステップＳＴ２０：
量子化回路３３は、ステップＳＴ１９で入力した量子化スケールＱＳ（２）に基づいて、直交変換回路３２から入力した画像データに２パス目の量子化を行い、その結果の画像データＳ３３を可逆符号化回路３５および逆量子化回路３７に出力する。
【００６０】
以上説明したように、符号化装置２では、量子化スケール算出回路５２において、図４に示すように、量子化スケールＱＳ（１），ビット量Ｒ（１），Ｒ（２）を基に、動き予測・補償回路４３からの指標データｉｎｔｅｒＡＤに応じて異なる複数の演算式を選択的に用いて、２パス目の量子化スケールＱＳ（２）を決定し、これを量子化回路３３に指示する。
具体的には、量子化スケール算出回路５２は、量子化対象の画像が、「ＴＨ１≦ｉｎｔｅｒＡＤ≦ＴＨ２」を満たす特殊な画像である場合に、量子化スケールＱＳ（１）が経験的に規定されたしきい値Ｑｔよりも小さい範囲については、ＱＲＧｒａｄｉｅｎｔとして、Ｇａを用いる。
これにより、量子化スケール算出回路５２は、実際の特性に対応するように上記式（６）を調整することができ、高品質な量子化スケールＱＳ（２）を生成できる。
そのため、復号画像の画質および符号化効率の向上を図れる。
【００６１】
また、符号化装置２では、図５を用いて説明したように、レート制御回路５１において、２パス目の各ピクチャデータの割り当てビット量Ｒ（２）を、ステップＳＴ１４において、Ｂピクチャデータについては補正した値を用いて決定する。そのため、量子化回路３３における実際の量子化スケールに適合した高精度な割り当てビット量Ｒ（２）を決定できる。
【００６２】
本発明は上述した実施形態には限定されない。
すなわち、当業者は、本発明の技術的範囲またはその均等の範囲内において、上述した実施形態の構成要素に関し、様々な変更、コンビネーション、サブコンビネーション、並びに代替を行ってもよい。
例えば、上述した符号化装置２の機能の全部あるいは一部を、図６に示すように、メモリ２５２に記憶されたプログラムＰＲＧの記述に従ってＣＰＵ(Central Processing Unit)などの処理回路２５３が実行してもよい。
この場合に、インターフェース２５１を介して、符号化対象の画像データが入力され、その処理結果が出力される。
【００６３】
また、上述した実施形態では、図５に示すステップＳＴ１４のようにＢピクチャデータの複雑度を補正する場合を例示したが、当該補正を行わなくてもよい。
また、上述した実施形態では、本発明の所定の演算式として上記式（６）を例示したが、これ以外の演算式であってもよい。
また、上述した動き予測・補償回路４３は、上記式（１）に示す指標データｉｎｔｅｒＡＤの他に、例えば、直前のピクチャデータとの間の単純な画素データ間の差分の総和、動きベクトルの平均値や分散、ＤＣ成分の差分値を用いてもよい。
また、動き予測・補償回路４３は、各ピクチャデータと、直前のピクチャデータとの間の相関の他に、処理対象のピクチャデータを含むシーン、ＧＯＰ、シーケンス内でのピクチャデータ毎の平均値またはマクロブロックＭＢ毎の平均値の差分などを用いてもよい。
【図面の簡単な説明】
【００６４】
【図１】図１は、本発明は、本発明の実施形態の通信システムの構成図である。
【図２】図２は、図１に示す符号化装置の機能ブロック図である。
【図３】図３は、図２に示す量子化スケール算出回路の処理を説明するための図である。
【図４】図４は、図２に示す量子化スケール算出回路の処理を説明するためのフローチャートである。
【図５】図５は、図２に示す符号化装置の全体動作例を説明するためのフローチャートである。
【図６】図６は、図１に示す符号化装置の変形例を説明するための図である。
【符号の説明】
【００６５】
１…通信システム、２…符号化装置、３…復号装置、２１…Ａ／Ｄ変換回路、２３…画面並べ替え回路、３１…演算回路、３２…直交変換回路、３３…量子化回路、３４…レート制御回路、３５…可逆符号化回路、３６…バッファメモリ、３７…逆量子化回路、３８…逆直交変換回路、３９…加算回路、４０…デブロックフィルタ、４１…フレームメモリ、４２…イントラ予測回路、４３…動き予測・補償回路、５１…レート制御回路、５２…量子化スケール算出回路
【図１】
0004517963.tif 000002
【図２】
0004517963.tif 000003
【図３】
0004517963.tif 000004
【図４】
0004517963.tif 000005
【図５】
0004517963.tif 000006
【図６】
0004517963.tif 000007