(57)【要約】【課題】画像の符号化において、画質を考慮した符号量制御を実現する。【解決手段】入力画像について、符号量が互いに異なる複数の符号データが生成し（Ｓ１２）、これら各符号データからｎ個の参照画像を生成する（Ｓ１３）。そして、これら各参照画像について画質評価を行い（Ｓ１４）、この画質評価の結果に基づいて、符号データを選択する（Ｓ１５）。すなわち、再生時に得られるものと同じ参照画像の画質評価の結果から、符号データの選択が行われるので、画質を考慮した符号量制御が可能になり、適切な符号量で高画質の符号データを確実に得ることができる。【選択図】　　図１
2004128941.tif 000002
【特許請求の範囲】
【請求項１】
動画像の符号化を行う画像符号化方法であって、
一の画像について、符号量が互いに異なる複数の符号データを生成する第１のステップと、
前記各符号データから、復号化によって、予測符号化を行うための複数の参照画像を生成する第２のステップと、
前記複数の参照画像について、画質評価を行う第３のステップと、
前記画質評価の結果に基づいて、前記複数の符号データの中から、少なくとも１つの符号データを選択する第４のステップとを備えている
ことを特徴とする画像符号化方法。
【請求項２】
請求項１において、
前記第１のステップにおいて、
目標符号量を複数設定し、
前記一の画像について、その符号量が前記各目標符号量に収束するように符号量制御をしつつ、符号化をそれぞれ行い、前記複数の符号データを生成する
ことを特徴とする画像符号化方法。
【請求項３】
請求項２において、
前記各目標符号量は、フレーム単位で設定され、
前記符号量制御において、マクロブロック単位で、符号化パラメータを制御する
ことを特徴とする画像符号化方法。
【請求項４】
請求項１において、
前記第１のステップにおいて、
前記一の画像について、互いに異なる複数の符号化パラメータを用いて、符号化をそれぞれ行い、前記複数の符号データを生成する
ことを特徴とする画像符号化方法。
【請求項５】
請求項１において、
前記一の画像は、フレーム単位で与えられ、
前記第４のステップにおいて、符号データの選択を、フレーム単位で行う
ことを特徴とする画像符号化方法。
【請求項６】
請求項１において、
前記一の画像は、フレーム単位で与えられ、
前記第１のステップにおいて、
前記一の画像について、他のフレームのｎ個（ｎは２以上の整数）の参照画像を参照して、ｎ個の予測符号化画像を生成し、
前記ｎ個の予測符号化画像について、符号量が互いに異なるｍ個（ｍは２以上の整数）の符号データを、それぞれ生成することによって、前記複数の符号データとして（ｎ×ｍ）個の符号データを生成する
ことを特徴とする画像符号化方法。
【請求項７】
請求項６において、
前記第４のステップにおいて、
前記（ｎ×ｍ）個の符号データの中からｎ個の符号データを選択し、このｎ個の符号データに対応するｎ個の参照画像を、他のフレーム画像の予測符号化に用いる
ことを特徴とする画像符号化方法。
【請求項８】
請求項１において、
前記第３のステップにおいて、
前記複数の参照画像のうち、符号量が最大の符号データから得られた参照画像を、リファレンス画像として定め、
前記各参照画像について、前記リファレンス画像との差分をそれぞれ取り、この差分から、画質評価の評価値を求める
ことを特徴とする画像符号化方法。
【請求項９】
請求項８において、
前記第４のステップにおいて、
前記評価値が許容範囲にある参照画像に係る符号データの中から、符号データの選択を行う
ことを特徴とする画像符号化方法。
【請求項１０】
請求項８において、
前記第３のステップにおいて、
前記リファレンス画像について、高周波成分を抽出し、
前記評価値を求める際に、前記差分を、当該画素における前記高周波成分に応じて、変調する
ことを特徴とする画像符号化方法。
【請求項１１】
請求項８において、
前記差分からなる差分画像のパターンを評価し、ノイズ情報を抽出し、
前記ノイズ情報を、当該参照画像に係る符号データに、付加する
ことを特徴とする画像符号化方法。
【請求項１２】
請求項１において、
前記第３のステップにおいて、
前記各参照画像の画質評価を、マクロブロック単位で行い、
前記第４のステップにおいて、
符号データの選択をマクロブロック単位で行い、選択された複数のマクロブロック単位の符号データを組み合わせて、新たな符号データを再構成する
ことを特徴とする画像符号化方法。
【請求項１３】
請求項１２において、
前記第４のステップにおいて、新たな符号データを再構成する際に、
選択された符号データのうち予測符号化された部分について、一旦復号化して、予測符号化されていない符号データに変換し、再構成した後、予測符号化を行う
ことを特徴とする画像符号化方法。
【請求項１４】
請求項１において、
前記一の画像は、フレーム単位で与えられ、
前記第１のステップにおいて、前記一の画像について、インター符号化とイントラ符号化とを行い、
前記第４のステップにおいて、インター符号化またはイントラ符号化のいずれかを、選択する
ことを特徴とする画像符号化方法。
【請求項１５】
請求項１において、
前記第４のステップにおいて、
前記画質評価の結果に加えて、前記複数の符号データのそれぞれの符号量に基づいて、符号データの選択を行う
ことを特徴とする画像符号化方法。
【請求項１６】
請求項１５において、
前記第４のステップにおいて、
画質評価の評価値について、その許容範囲である画質許容範囲を設けるとともに、符号量の許容範囲である符号量許容範囲を設け、
評価値が画質評価範囲に含まれ、かつ、符号量が符号量評価範囲に含まれる符号データの中から、所定の法則に基づいて、符号データの選択を行う
ことを特徴とする画像符号化方法。
【請求項１７】
請求項１５において、
前記第４のステップにおいて、
フレーム単位に、符号量の許容範囲である符号量許容範囲を設定し、
マクロブロック単位に、画質評価によって、符号データを選択し、
フレーム全体の符号量が前記符号量許容範囲を越えたとき、符号量が前記符号量許容範囲内に収まるように、符号データの選択変更を、その選択変更時に画質劣化が小さく、かつ、符号量の減少が大きいマクロブロックを優先して、行う
ことを特徴とする画像符号化方法。
【請求項１８】
一の画像について、符号量が互いに異なる複数の符号データを生成する画像符号化部と、
前記画像符号化部によって生成された各符号データから、局所復号化によって、予測符号化を行うための複数の参照画像を生成する局所復号化部と、
前記局所復号化部によって生成された複数の参照画像について、画質評価を行う画質評価部と、
前記画質評価部の処理結果に基づいて、前記複数の符号データの中から、少なくとも１つの符号データを選択する符号データ選択部とを備えた
ことを特徴とする画像符号化装置。
【請求項１９】
請求項１８において、
前記複数の符号データを格納するための第１の記憶部と、
前記複数の参照画像を格納するための第２の記憶部とを備え、
前記第１および第２の記憶部は、共通のメモリ素子によって構成されている
ことを特徴とする画像符号化装置。
【請求項２０】
請求項１８において、
前記画像符号化部および前記局所復号化部は、時分割動作し、前記符号データおよび参照画像の組を、時列的に直列に、生成する
ことを特徴とする画像符号化装置。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、動画像を圧縮するための画像符号化に関するものであり、特に、民生用ビデオレコーダやビデオカメラ等で必要とされるリアルタイム符号化における、符号量制御の精度を向上させる技術に属する。
【０００２】
【従来の技術】
図１７は従来の符号量制御を含む画像符号化を示すフローチャートである。従来の符号量制御は、過去に符号化したデータの符号量に基づき今後の符号化のパラメータを決定し符号量を所定の範囲に収めるという制御を行っている（例えば、特許文献１参照）。まず、画像の最初のフレームを入力し（ＳＺ１）、予め定められた初期パラメータに従って最初のマクロブロックを符号化する（ＳＺ２）。なお、符号化はマクロブロックと呼ばれる矩形領域単位で行われる。次のマクロブロック以降は、すで符号化されたマクロブロックの符号量を計算し（ＳＺ３）、符号量が所定の目標値に比べて大きいか小さいかを判断し、大きい場合は符号量が小さくなる方に、小さい場合は符号量が大きくなる方に符号化パラメータを制御する（ＳＺ４）。次のフレームの画像が入力されると（ＳＺ５）、その前のフレームの符号量も含めて目標値との差を計算し（ＳＺ６）、今後の符号化パラメータを制御する（ＳＺ７）。最終フレームになるまで、ステップＳＺ５〜ＳＺ７を繰り返し実行する（ＳＺ８）。
【０００３】
【特許文献１】
特開平７−１０７４７３号公報
【０００４】
【発明が解決しようとする課題】
ところが、従来の方法では、過去の符号化データから今後の符号化パラメータを制御するというフィードバック方式を用いているために、常に最適な符号量が選択できるという保証はない。例えば、最初に符号量を多く与え過ぎたため、その後、本来なら多くの符号量を与えるべき画像にそれだけの符号量を与えることができなくなり、画質を著しく損なう、というような問題が発生しうる。
【０００５】
また、符号量のみを評価して符号化パラメータを制御しているため、画像の性質に応じて、与える符号量を適切に制御する、といった符号量制御を行うことは困難であった。
【０００６】
前記の問題に鑑み、本発明は、画像の符号化において、画質を考慮した符号量制御を実現することを課題とする。
【０００７】
【課題を解決するための手段】
前記の課題を解決するために、請求項１の発明が講じた解決手段は、動画像の符号化を行う画像符号化方法として、一の画像について、符号量が互いに異なる複数の符号データを生成する第１のステップと、前記各符号データから、復号化によって、予測符号化を行うための複数の参照画像を生成する第２のステップと、前記複数の参照画像について画質評価を行う第３のステップと、前記画質評価の結果に基づいて、前記複数の符号データの中から少なくとも１つの符号データを選択する第４のステップとを備えているものである。
【０００８】
請求項１の発明によると、一の画像について、符号量が互いに異なる複数の符号データが生成され、これら各符号データから、複数の参照画像が生成される。そして、これら各参照画像について画質評価が行われ、この画質評価の結果に基づいて、符号データの選択が行われる。すなわち、再生時に得られるものと同じ参照画像の画質評価の結果から、符号データの選択が行われるので、画質を考慮した符号量制御が可能になり、したがって、適切な符号量で高画質の符号データを確実に得ることができる。
【０００９】
請求項２の発明では、前記請求項１の第１のステップにおいて、目標符号量を複数設定し、前記一の画像について、その符号量が前記各目標符号量に収束するように符号量制御をしつつ符号化をそれぞれ行い、前記複数の符号データを生成するものとする。
【００１０】
請求項３の発明では、前記請求項２において、前記各目標符号量はフレーム単位で設定され、前記符号量制御において、マクロブロック単位で符号化パラメータを制御するものとする。
【００１１】
請求項４の発明では、前記請求項１の第１のステップにおいて、前記一の画像について、互いに異なる複数の符号化パラメータを用いて符号化をそれぞれ行い、前記複数の符号データを生成するものとする。
【００１２】
請求項５の発明では、前記請求項１において、前記一の画像はフレーム単位で与えられ、前記第４のステップにおいて、符号データの選択をフレーム単位で行うものとする。
【００１３】
請求項６の発明では、前記請求項１において、前記一の画像はフレーム単位で与えられ、前記第１のステップにおいて、前記一の画像について、他のフレームのｎ個（ｎは２以上の整数）の参照画像を参照してｎ個の予測符号化画像を生成し、前記ｎ個の予測符号化画像について、符号量が互いに異なるｍ個（ｍは２以上の整数）の符号データををそれぞれ生成することによって、前記複数の符号データとして（ｎ×ｍ）個の符号データを生成するものとする。
【００１４】
請求項７の発明では、前記請求項６の第４のステップにおいて、前記（ｎ×ｍ）個の符号データの中からｎ個の符号データを選択し、このｎ個の符号データに対応するｎ個の参照画像を、他のフレーム画像の予測符号化に用いるものとする。
【００１５】
請求項８の発明では、前記請求項１の第３のステップにおいて、前記複数の参照画像のうち、符号量が最大の符号データから得られた参照画像をリファレンス画像として定め、前記各参照画像について、前記リファレンス画像との差分をそれぞれ取り、この差分から画質評価の評価値を求めるものとする。
【００１６】
請求項８の発明によると、画質が最も高いと想定される，符号量が最大の符号データから得られた参照画像をリファレンス画像として定め、各参照画像について、このリファレンス画像との差分をとり、この差分から画質評価の評価値が求められる。このため、精度の高い画質評価を、簡易な方法によって実現できる。
【００１７】
請求項９の発明では、前記請求項８の第４のステップにおいて、前記評価値が許容範囲にある参照画像に係る符号データの中から符号データの選択を行うものとする。
【００１８】
請求項１０の発明では、前記請求項８の第３のステップにおいて、前記リファレンス画像について高周波成分を抽出し、前記評価値を求める際に、前記差分を、当該画素における前記高周波成分に応じて変調するものとする。
【００１９】
請求項１０の発明によると、画像同士の差分がリファレンス画像の高周波成分に応じて変調されるので、画像の複雑度が画質評価の評価値に加味される。したがって、人間の目の特性に応じた尺度によって、精度の高い画質評価を行うことができる。
【００２０】
請求項１１の発明では、前記請求項８において、前記差分からなる差分画像のパターンを評価し、ノイズ情報を抽出し、前記ノイズ情報を、当該参照画像に係る符号データに付加するものとする。
【００２１】
請求項１１の発明によると、抽出したノイズ情報が符号データに付加されるので、符号データの再生時にノイズ除去処理を有効に機能させることができる。このため、再生時に高画質化をさらに図ることができる。
【００２２】
請求項１２の発明では、前記請求項１の第３のステップにおいて、前記各参照画像の画質評価をマクロブロック単位で行い、前記第４のステップにおいて、符号データの選択をマクロブロック単位で行い、選択された複数のマクロブロック単位の符号データを組み合わせて新たな符号データを再構成するものとする。
【００２３】
請求項１２の発明によると、マクロブロック単位で画質評価を行い、マクロブロック単位で符号データを選択する。これにより、フレーム内においても画質評価に基づく符号量制御が行われるので、さらに画質を向上することができる。
【００２４】
請求項１３の発明では、前記請求項９の第４のステップにおいて、新たな符号データを再構成する際に、選択された符号データのうち予測符号化された部分について、一旦復号化して、予測符号化されていない符号データに変換し、再構成した後、予測符号化を行うものとする。
【００２５】
請求項１４の発明では、請求項１において、前記一の画像はフレーム単位で与えられ、前記第１のステップにおいて、前記一の画像について、インター符号化とイントラ符号化とを行い、前記第４のステップにおいて、インター符号化またはイントラ符号化のいずれかを選択するものとする。
【００２６】
請求項１４の発明によると、いわゆるイントラ／インター判定も、画質評価に基づいて行われるので、画質をさらに向上させることができる。
【００２７】
請求項１５の発明では、前記請求項１の第４のステップにおいて、前記画質評価の結果に加えて、前記複数の符号データのそれぞれの符号量に基づいて、符号データの選択を行うものとする。
【００２８】
請求項１５の発明によると、符号データの選択が、画質評価の結果に加えて、各符号データのそれぞれの符号量に基づいて、行われる。このため、画質を重視しつつも符号量の変動を抑えた符号量制御を実現することができ、したがって、再生時の復号装置の規模を抑えることができる。
【００２９】
請求項１６の発明では、前記請求項１５の第４のステップにおいて、画質評価の評価値についてその許容範囲である画質許容範囲を設けるとともに、符号量の許容範囲である符号量許容範囲を設け、評価値が画質評価範囲に含まれ、かつ、符号量が符号量評価範囲に含まれる符号データの中から、所定の法則に基づいて、符号データの選択を行うものとする。
【００３０】
請求項１７の発明では、前記請求項１５の第４のステップにおいて、フレーム単位に、符号量の許容範囲である符号量許容範囲を設定し、マクロブロック単位に、画質評価によって符号データを選択し、フレーム全体の符号量が前記符号量許容範囲を越えたとき、符号量が前記符号量許容範囲内に収まるように、符号データの選択変更を、その選択変更時に画質劣化が小さく、かつ、符号量の減少が大きいマクロブロックを優先して行うものとする。
【００３１】
請求項１７の発明によると、フレーム全体の符号量が符号量許容範囲を超えたとき、符号データの選択変更を、画質劣化が小さく、かつ、符号量の減少が大きいマクロブロックを優先して行うので、画質の劣化を最小限に留めつつ、符号量の変動を抑えることができる。
【００３２】
また、請求項１８の発明が講じた解決手段は、画像符号化装置として、一の画像について、符号量が互いに異なる複数の符号データを生成する画像符号化部と、前記画像符号化部によって生成された各符号データから、局所復号化によって、予測符号化を行うための複数の参照画像を生成する局所復号化部と、前記局所復号化部によって生成された複数の参照画像について、画質評価を行う画質評価部と、前記画質評価部の処理結果に基づいて、前記複数の符号データの中から少なくとも１つの符号データを選択する符号データ選択部とを備えたものである。
【００３３】
請求項１８の発明によると、画像符号化部によって、一の画像について符号量が互いに異なる複数の符号データが生成され、局所復号化部によって、これら各符号データから複数の参照画像が生成される。そして、画質評価部によって、これら各参照画像について画質評価が行われ、この画質評価の結果に基づいて、符号データの選択が符号データ選択部によって行われる。すなわち、再生時に得られるものと同じ参照画像の画質評価の結果から、符号データの選択が行われるので、画質を考慮した符号量制御が可能になり、したがって、適切な符号量で高画質の符号データを確実に得ることができる。
【００３４】
請求項１９の発明では、前記請求項１８において、前記複数の符号データを格納するための第１の記憶部と、前記複数の参照画像を格納するための第２の記憶部とを備え、前記第１および第２の記憶部は、共通のメモリ素子によって構成されているものとする。
【００３５】
請求項１９の発明によると、複数の符号データを格納するための第１の記憶部と、複数の参照画像を格納するための第２の記憶部とが、共通のメモリ素子によって構成される。このため、デジタルカメラなど元来大容量メモリを備えた装置については、その既存のメモリを用いることができ、これにより、コストを低減することができる。
【００３６】
請求項２０の発明では、前記請求項１８における画像符号化部および前記局所復号化部は、時分割動作し、前記符号データおよび参照画像の組を、時列的に直列に、生成するものとする。
【００３７】
請求項２０の発明によると、画像符号化部および局所復号化部は、時分割動作し、符号データおよび参照画像の組を、時列的に直列に生成するので、複数の符号データおよび参照画像を生成するために、新たなハードウェアを設ける必要がない。すなわち、ＤＶＤレコーダなど元来高い処理能力を有する装置について、その能力をうまく利用して、例えば圧縮率が高いにもかかわらず高画質な符号データを生成させることができ、目的に応じて切り換えて用いることによって、より広いアプリケーションに適用することができる。
【００３８】
【発明の実施の形態】
以下、本発明の実施の形態について、図面を参照して説明する。
【００３９】
（第１の実施形態）
図１は本発明の第１の実施形態に係る画像符号化方法における基本的な処理の流れを示すフローチャートである。図１に示すように、まず、動画像の最初のフレームを入力し（Ｓ１１）、このフレーム画像について、符号量が互いに異なるｎ個（ｎは２以上の整数）の符号データを生成する（Ｓ１２、第１のステップ）。そして、このｎ個の符号データに対してそれぞれ復号化を行い、予測符号化を行うためのｎ個の参照画像を生成する（Ｓ１３、第２のステップ）。次に、このｎ個の参照画像について、画質評価を行い（Ｓ１４、第３のステップ）、この画質評価の結果に基づいて、記録すべき最適な符号データをフレーム単位で選択する（Ｓ１５、第４のステップ）。他の符号データは記録せずに破棄する（Ｓ１６）。そして、最終フレームになるまで、ステップＳ１１〜Ｓ１６を繰り返し実行する（Ｓ１７）。
【００４０】
なお、この方法では、次のフレームの符号化において、参照画像と入力画像の差分、すなわち予測符号化画像を符号化するか、または、入力画像そのものを符号化するかの判断（これを「イントラ／インター判定」と呼ぶ）は、フレーム内でマクロブロック単位で行うものとする。すなわち、マクロブロック単位でイントラ／インター判定を行った１つの画像について、ｎ個の符号データを生成する。
【００４１】
ここで、ステップＳ１２では、ｎ個の目標符号量を設定し、フレーム画像の符号量が各目標符号量に収束するように符号量制御をしつつ、符号化をそれぞれ行うものとする。この符号量制御では、従来のフィードバック法を用いる。すなわち、フレーム単位に設定されたｎ個の目標符号量に対応して最初のマクロブロックの符号化パラメータを決定し、それに基づき符号化を行い、次のマクロブロックからは既に符号化されたデータの符号量と目標値との差を評価して符号化パラメータを決定し、最終的に、フレームの符号量が目標符号量に収束するように制御を行う。
【００４２】
なお、ステップＳ１２において、互いに異なる複数の符号化パラメータを用いて、符号化をそれぞれ行うことによって、符号量が異なる複数の符号データを生成してもかまわない。ここでの符号化パラメータは、代表的には、量子化係数または量子化ステップであるが、この他にも、ハフマンテーブルや量子化テーブルなどを用いてもよい。
【００４３】
図２は本実施形態に係る画像符号化装置の構成例を示すブロック図である。図２において、動きベクトル検出部２、予測符号化部３、ＤＣＴ処理部４、量子化ブロック５および可変長符号化ブロック６によって、画像符号化部が構成されており、逆量子化ブロック８、逆ＤＣＴ処理ブロック９および参照画像生成ブロック１０によって、局所復号化部が構成されている。なお、構成を簡易にするために、局所復号化部には、複数の符号データＣＤ１，ＣＤ２，ＣＤ３を与える代わりに、量子化ブロック５の出力を与えている。
【００４４】
入力された動画像データは、一旦入力画像バッファ１に格納される。入力画像バッファ１は、参照画像メモリ１１とともに、動きベクトル検出や予測符号化画像の生成のために必要となり、その容量はマクロブロックを形成するために必要なライン数に相当する容量となる。動きベクトル検出部２は入力画像バッファ１内の画像と参照画像との比較演算を行い、参照画像に対する入力画像の動きベクトルをマクロブロック単位で検出する。予測符号化部３は検出された動きベクトル情報に基づき、入力画像と参照画像との差分を取り、予測符号化画像を生成する。
【００４５】
予測符号化画像は、次にフレーム内符号化される。まずＤＣＴ処理部４においてＤＣＴが行われＤＣＴ係数が生成され、これが量子化ブロック５において量子化される。図２の構成では、量子化ブロック５は互いに異なる量子化係数が準備された３個の量子化部５ａ，５ｂ，５ｃを備えており、各量子化部５ａ，５ｂ，５ｃから量子化されたＤＣＴ係数が出力される。次に、それぞれのＤＣＴ係数が可変長符号化ブロック６においてハフマン符号等の可変長符号によって符号化され、これによって生成された第１〜第３符号データＣＤ１，ＣＤ２，ＣＤ３が符号データバッファ７に格納される。
【００４６】
その一方で、量子化されたＤＣＴ係数は、逆量子化ブロック８においてそれぞれ逆量子化され、さらに逆ＤＣＴブロック９において逆ＤＣＴされる。これによって、予測符号化画像まで復号される。そして、参照画像生成ブロック１０において、復号した予測符号化画像と、参照画像メモリブロック１１に格納されている前フレームの参照画像とを、動きベクトル情報に基づき加算することによって、予測符号の復号が行われる。これによって、次フレームの入力画像の予測符号化に用いる参照画像が生成され、新たに参照画像メモリブロック１１に格納される。本装置では、３種類の参照画像が生成される。
【００４７】
画質評価部１３はこの３種類の参照画像について、画質をそれぞれ評価し、その評価結果から１つの参照画像を選択する。符号データ選択部１４は第１〜第３符号データＣＤ１，ＣＤ２，ＣＤ３の中から、画質評価部１３によって選択された参照画像に対応する符号データを選択し、記録部１５に記録する。
【００４８】
＜画質評価＞
図３は画質評価ステップＳ１４における処理の一例を示すフローチャートである。図３に示すように、本実施形態における画質評価は、基本的には、符号量が最大の符号データから得られた参照画像をリファレンス画像として定め（Ｓ１４１）、各参照画像について、リファレンス画像との差分を画素毎に取り（Ｓ１４４）、その差分の絶対値を積算し、これを画質評価の評価値とする（Ｓ１４６）ものである。リファレンス画像との差分を評価尺度としたのは、この差分が、画像圧縮によって発生したノイズとみなすことができるからである。差分の絶対値の積算は、本実施形態では画質評価をフレーム単位で行うものとしているので、画面全体にわたって行うが、マクロブロック単位で画質評価を行う場合は、マクロブロック単位で積算する。ステップＳ１５では、例えば、ステップＳ１４で得られた評価値が所定の許容範囲にある参照画像を選択し、その参照画像に対応する符号データの中で、最も符号量が小さいものを選択する。
【００４９】
ここで、符号量が最大の符号データから得られた参照画像をリファレンス画像としたのは、通常、符号量が多くなるほど画質が高くなると考えられるからである。したがって、複数の符号データの生成を複数の符号化パラメータを用いて行う場合には、最も高画質となる符号化パラメータによる符号データから得た参照画像を、リファレンス画像として設定すればよい。
【００５０】
ところが、ノイズが画質に与える影響は、単に、その大きさだけで決まるわけではない。例えば、複雑な絵柄に発生したノイズと単純な絵柄に発生したノイズとを比較すると、単純な絵柄に発生したノイズの方が、画像上よく目立つため、影響が大きいといえる。
【００５１】
このため、図３の処理では、ノイズが画像上で目立つ度合が、評価値に盛り込まれるようにしている。すなわち、リファレンス画像について高周波成分を抽出し、評価値を求める際に、上述の差分を当該画素における高周波成分に応じて変調する。より具体的には、高周波成分が大きいほど、差分の絶対値が小さくなるようにする。
【００５２】
まず、リファレンス画像にハイパスフィルタ（ＨＰＦ）処理を施す（Ｓ１４２）。これにより、リファレンス画像から低周波成分が除去される。高周波成分のみの画像は正負の値を持つのでこれを絶対値化し、さらにローパスフィルタ（ＬＰＦ）処理を行う（Ｓ１４３）。このＬＰＦ処理は必ずしも必要ではないが、差分を変調する度合を緩やかにする効果がある。この処理の結果を、高周波成分含有度とする。そして、ステップＳ１４４で得られた差分の絶対値に、高周波成分含有度に応じた係数を掛ける（Ｓ１４５）。この係数は、高周波含有度が大きいほど小さくなるように設定する。最後に、係数のかかった差分の絶対値を、画面全体で、またはマクロブロック単位で、積算する（Ｓ１４６）。
【００５３】
なお、この差分を利用して、再生画像をさらに高画質にすることができる。上述のとおり、リファレンス画像との差分は、圧縮によるノイズ成分とみなせる。そこで、差分からなる差分画像のパターンを評価して、含まれているノイズパターンを示すノイズ情報を抽出し、このノイズ情報を符号データに付加するようにする。そして、再生時に、このノイズ情報が示すノイズパターンを除去するノイズリダクション処理を行うことによって、符号量が少ない符号データから画質の良い再生画像を得ることができる。すなわち、ノイズ情報が付加されているために、再生画像からノイズ成分を検知する必要がなく、精度の良いノイズ除去が可能になる。
【００５４】
（第２の実施形態）
第１の実施形態では、１フレーム毎に画質評価を行い、符号データの選択を行っている。ところが、予測符号化を行う場合には、他のフレームの参照画像を符号化に用いるため、その画質は、他のフレームにおける符号化の影響を受ける。よって、できれば、複数フレームにわたってそれぞれ複数の条件を設定して、複数の符号データを生成し、これらから得られる画像を画質評価する方が望ましい。そこで、本発明の第２の実施形態では、２フレーム単位で画質評価を行い、符号データを選択するものとする。すなわち、他のフレームの複数の参照画像を参照することによって複数の予測符号化画像を生成し、各予測符号化画像について、それぞれ、符号量が異なる符号データを生成する。
【００５５】
図４は本実施形態に係る画像符号化方法における処理の流れを示すフローチャートである。図４において、まず、動画像の最初のフレームを入力し（Ｓ２１）、このフレーム画像について、符号量が異なるｎ個（ｎは２以上の整数）の符号データを生成する（Ｓ２２）。そして、このｎ個の符号データに対してそれぞれ復号化を行い、ｎ個の参照画像を生成する（Ｓ２３）。
【００５６】
次に、次フレームの画像を入力し（Ｓ２４）、この入力画像について、ｎ個の参照画像を参照してｎ個の予測符号化画像を生成する（Ｓ２５）。そしてｎ個の予測符号化画像に対して、それぞれ、符号量が異なるｍ個（ｍは２以上の整数、通常はｍ＝ｎ）の符号データを生成し、これにより（ｎ×ｍ）個の符号データが生成される（Ｓ２６）。この各符号データを復号して（ｎ×ｍ）個の参照画像を生成する（Ｓ２８）。
【００５７】
そして、これらの参照画像について、第１の実施形態と同様に画質評価を行い（Ｓ２８）、この画質評価の結果に基づいて、記録すべき符号データを選択する（Ｓ２Ａ）。これで、２フレーム分の符号化データの組み合わせに対して画質評価が行われたことになる。また、画質評価の結果に基づいて、（ｎ×ｍ）個の参照画像の中からｎ個の参照画像を選択する（Ｓ２Ａ）。このｎ個の参照照画像は、次のフレーム画像の予測符号化のために用いられる。
【００５８】
このような処理を、最終フレームまで繰り返し実行する（Ｓ２９）。最終フレームでは、画質評価の結果に基づいて、最終的に記録する１つの符号データを選定する（Ｓ２Ｂ）。
【００５９】
（第３の実施形態）
上述の実施形態では、イントラ／インター判定はフレーム内でマクロブロック単位で行っており、例えば、イントラ符号化とインター符号化のうち、同一符号化パラメータにおいて発生符号量の小さい方を選択するようにしている。ところが、参照画像にはすでに符号化による画質劣化が含まれており、予測符号化画像を用いた符号化はさらに画質劣化するため、イントラ／インター判定についても画質評価によって行った方が望ましい。本実施形態では、イントラ／インター判定も画質評価によって行うものとする。
【００６０】
図５は図１に示す第１の実施形態に係る画像符号化に、画質評価によるイントラ／インター判定を加えた方法を示すフローチャートである。図１と異なるのは、ステップＳ３２，Ｓ３３である。ステップＳ３２において、入力画像と予測符号化画像に対して、それぞれ、符号量が異なるｎ個の符号データを生成し、ステップＳ３３において、ステップＳ３２で生成された計２ｎ個の符号データから、２ｎ個の参照画像を生成する。そして、この２ｎ個の参照画像について画質評価を行い（Ｓ１４）、符号データの選択を行う（Ｓ１５）。これにより、第１の実施形態ではフレーム内で行われていたイントラ／インター判定が、画質評価によって行われることになる。
【００６１】
図６は図４に示す第２の実施形態に係る画像符号化に、画質評価によるイントラ／インター判定を加えた方法を示すフローチャートである。図４と異なるのは、ステップＳ４６，Ｓ４７である。ステップＳ４６において、入力画像とｎ個の予測符号化画像のそれぞれに対して、符号量が異なるｍ個の符号データを生成し、ステップＳ４７において、ステップＳ４６で生成された計（ｎ＋１）×ｍ個の符号データから、（ｎ＋１）×ｍ個の参照画像を生成する。そして、この（ｎ＋１）×ｍ個の参照画像について画質評価を行い（Ｓ２８）、符号データの選択を行う（Ｓ２Ａ）。これにより、第２の実施形態ではフレーム内で行われていたイントラ／インター判定が、画質評価によって行われることになる。
【００６２】
（第４の実施形態）
上述の各実施形態では、画質評価に基づく符号データの選択は、あくまでもフレーム単位であった。また、第３の実施形態で示したイントラ／インター判定をフレーム単位の画質評価で行った場合には、マクロブロックが、全て予測符号化画像になるか、または、全て入力画像になるかのいずれかに限られてしまう。そこで、本発明の第４の実施形態では、フレーム内のマクロブロック単位の符号量制御についても、画質評価によって行うものとする。
【００６３】
図７は本発明の第４の実施形態に係る画像符号化方法における処理の流れを示すフローチャートである。図７において、まず、動画像の最初のフレームを入力し（Ｓ５１）、このフレーム画像について、符号量が異なるｎ個の符号データを生成する（Ｓ５２）。ここでは、互いに異なるｎ個の符号化パラメータを用いて、符号化をそれぞれ行うことによって、ｎ個の符号データを生成するものとする。すなわち、マクロブロック毎に異なる符号化パラメータを与える符号量制御は行わず、各符号データは、全マクロブロックが同一符号化パラメータによって符号化されたものとなる。
【００６４】
そして、このｎ個の符号データについてそれぞれ復号化を行い、ｎ個の参照画像を生成する（Ｓ５３）。次に、このｎ個の参照画像について、画質評価を行う（Ｓ５４）。画質評価はマクロブロック単位で行うものとし、したがって、最適な画像がマクロブロック単位で選択される。すなわち、マクロブロック単位で異なる参照画像が選択される場合も起こりうる。次に、マクロブロック単位に選択された参照画像に対応した符号データをｎ個の符号データから抽出し（Ｓ５５）、これらを組み合わせて新たな符号データを生成する（Ｓ５６）。そして元の符号データは破棄する（Ｓ５７）。そして、最終フレームになるまで、ステップＳ５１〜Ｓ５７を繰り返し実行する（Ｓ５８）。
【００６５】
図８は本実施形態に係る画像符号化装置の構成例を示すブロック図であり、図２と共通の構成要素には、図２と同一の符号を付しており、ここではその詳細な説明を省略する。図８の構成では、符号データ選択部１４の指示に従って、符号データバッファ７に格納された第１〜第３の符号データＣＤ１，ＣＤ２，ＣＤ３から、新たな符号データを、再構成によって生成する再構成部２１が設けられている。
【００６６】
＜符号データの再構成＞
図９は符号データ再構成ステップＳ５６における処理の一例を示すフローチャートである。ここで、もしマクロブロック単位で独立して符号化されている場合には、符号データの再構成のためには、必要なマクロブロックの符号データを単純に取り出して組み合わせるだけでよい。ところが、一部のデータは、他のマクロブロックの符号データとの差分を符号化する予測符号化（フレーム内予測符号化）がなされている場合がある。この場合は、一旦その予測符号を復号化し、必要なマクロブロックを組み合わせた後、再度予測符号化を行う。
【００６７】
図１０はフレーム内符号化を含む符号データの再構成処理を模式的に示す図である。まず、マクロブロックの符号データから、フレーム内予測符号化している部分を抽出する（Ｓ５６１）。これは、マクロブロック内の全ての符号データがフレーム内予測符号化されているわけではなく、例えばＤＣＴのＤＣ係数のような一部のデータのみがフレーム内予測符号化されているためである。続いてフレーム内予測符号を復号する（Ｓ５６２）。図１０に示すように、最初のマクロブロックのデータ（ここではＤＣ係数）はそのまま用いられる。２番目のマクロブロックのデータは最初のマクロブロックのデータとの差分なので、最初のマクロブロックのデータとの加算によって、元のデータが復号される。続いて３番目のマクロブロックのデータと復号された２番目のマクロブロックのデータとを加算することによって、３番目のマクロブロックの元のデータが復号される。このような処理を続けていくことによって、フレーム内予測符号化を用いていない符号データが得られる。
【００６８】
次に、マクロブロック単位に画質評価で選択された参照画像に対応する符号データを抽出し、組み合わせて、１つの符号データを再構成する（Ｓ５６３）。図１０では３本の符号データＣＤ１〜ＣＤ３からマクロブロック毎に符号データが抽出され、１本の新符号データが再構成されている。最後に、再構成された新符号データの中で、予測符号化を行うべき部分（ここではＤＣＴのＤＣ係数）について再度、予測符号化を行う。
【００６９】
＜符号量を加味した符号データの選択＞
画質評価のみによって符号量制御を行う場合には、画像の複雑度の変動に符号量の変動が追従するため、符号量の変動が激しくなるという問題がある。符号量に大きな変動があると、再生時の復号のために大きなバッファメモリを準備する必要があり、機器の小型化、ローコスト化という点で不利である。そこで、ここでは、画質評価に加えて、符号量も考慮して符号データの選択を行うことによって、ある程度、符号量の変動を抑える方法を説明する。
【００７０】
基本的な考え方は、符号量にも許容範囲を設け（これを「符号量許容範囲」と呼ぶ）、上述の画質許容範囲に含まれた参照画像に対応した符号データの中から、符号量許容範囲に入っているものを選び、その中から所定の規則に従って、記録すべき符号データを選択する。この処理を図１１を用いて説明する。図１１において、（ａ）は参照画像の画質を模式的に表している。縦軸が画質であり、上に行くほど画質が高いことを示している。また、（ｂ）は各参照画像に対応した符号データの符号量を模式的に表している。縦軸が符号量であり、上に行くほど符号量が多いことを示している。
【００７１】
図１１（ａ）において、最も画質が高いリファレンス画像が最も上に位置しており、その下に比較対象となる参照画像が並んでいる。そして、参照画像１〜５が画質許容範囲に含まれている。また図１１（ｂ）において、符号量が最も多いリファレンス画像の符号データが最も上に位置しており、その下に参照画像の符号データが並んでいる。この並び順は一般的には、画質の順と同様である。そして、符号データ２〜６が符号量許容範囲に含まれている。
【００７２】
この場合、符号量が符号量許容範囲に含まれており、かつ参照画像の画質が画質許容範囲に含まれている符号データは、符号データ２〜５の４個である。この中から、記録すべき符号データを選択する。例えば、第１の実施形態のように、１フレーム単位で画質評価を行う場合には、符号データ２を選択する。また第２の実施形態のように２フレーム単位で画質評価を行う場合には、例えば符号データ２〜４を選択すればよい。
【００７３】
また、図１２に示すように、画像許容範囲に含まれている参照画像の符号データが、いずれも符号量許容範囲に含まれない場合は、例えば、符号量許容範囲内で最大の符号量の符号データを選択するようにすればよい。この符号データは、符号量許容範囲内の符号データの中で、最も画質が良いと考えられるからである。なおこの場合、複数の符号データを選択する方法においても、最大符号量の符号データ１つのみを選択するのが好ましい。これは、他のデータは画質が悪いため、結果として、複数フレーム間の評価によって選択される可能性が極めて低いからである。
【００７４】
なお、この方法をフレーム単位で適用した場合、符号量の変動量が大きいため、変動幅に比べて許容範囲を小さく設定する必要があるが、この方法をマクロブロック単位で適用した場合は、変動量が小さいため、変動幅に比べて許容範囲を大きく設定しやすくなる。ところが、全てのマクロブロックにおいて符号量が同じように変動した場合、フレーム全体としては符号量が大きく変動することになり、好ましくない。
【００７５】
このため、フレーム単位で符号量許容範囲を設定して、マクロブロック単位で画質評価によって符号データを選択し、フレーム全体の符号量が符号量許容範囲を超える場合は、マクロブロック単位での符号データの選択を見直して、符号量許容範囲内に収まるようにするのが好ましい。この場合、符号データの選択変更を、その選択変更時に画質劣化が小さく、かつ、符号量の減少が大きいマクロブロックを優先して、行うことによって、フレーム全体としての画質劣化を最小限に抑えた符号量制御が可能になる。
【００７６】
＜装置構成の具体例＞
本発明の具体的な構成例について説明する。まず、デジタルカメラに応用する場合について説明する。図１３は一般的なデジタルカメラの構成を示す図である。まず、レンズ３１で結像された光学像はＣＣＤイメージセンサ３２によって電気信号に変換され、アナログ前処理部３３によって前処理が施された後、Ａ／Ｄ変換部３４によってデジタル信号に変換される。デジタル信号処理部３５がこのデジタル信号について色分離や圧縮等の処理を行うが、この処理のために大容量のメモリが必要であり、デジタルカメラでは外付けのＤＲＡＭ等のメモリ３６が用いられる。そして、処理後のデジタル信号は記録媒体３７に記録される。
【００７７】
このように、デジタルカメラは元々大容量のメモリが設けられているため、本発明を適用する際にはこれを利用するのが好ましい。図１４は本発明を応用したデジタルカメラの画像符号化部４０の構成を示す。この画像符号化部４０はデジタル信号処理部３５の内部に設けられており、基本的な構成および動作は図２と同様である。メモリコントローラ４１は、各処理部からのデータの入出力を調停し、ＤＲＡＭなどのメモリ素子としての外付け大容量メモリ３６とのデータのやり取りを行う。図１４の構成では、複数の参照画像を格納するための領域４２と、複数の符号化データを格納するための領域４３とをメモリ３６に格納する。すなわち、参照画像生成部１０によって生成された参照画像はメモリコントローラ４１を介して外部メモリ３６に格納され、また符号データもメモリコントローラ４１を介して外部メモリ３６に格納される。言い換えると、図２の構成における第１の記憶部としての符号データバッファ７と第２の記憶部としての参照画像メモリブロック１１とが、共通のメモリ素子としての外部メモリ３６によって、構成されている。
【００７８】
次に、ＤＶＤレコーダ等のＭＰＥＧ−２を利用したビデオレコーダに応用した具体例について説明する。図１５はＭＰＥＧ−２でＴＶ解像度の動画像を符号化するＤＶＤレコーダの構成例である。まず、ＮＴＳＣ／ＰＡＬデコーダ＆Ａ／Ｄ部５１がＮＴＳＣまたはＰＡＬ信号について、Ｙ／Ｃ分離およびカラー復調を行うとともにＡＤ変換を行う。次にＭＰＥＧ−２エンコーダ５２がこのデジタル信号をＭＰＥＧ−２に従って符号化し符号データを生成する。次にストリームコントローラ５３が、ＤＶＤドライブ５４向けの記録・再生ストリームデータの調停および入出力制御を行う。再生時には、ＭＰＥＧ−２デコーダ５５がＭＰＥＧ−２に従って復号を行い画像信号を生成し、ＮＴＳＣ／ＰＡＬエンコーダ＆Ｄ／Ａ部５６がＮＴＳＣまたはＰＡＬ信号への変調およびＤＡ変換を行う。ＭＰＥＧ−２エンコーダ５２およびＭＰＥＧ−２デコーダ５５には、処理用の外付け大容量メモリ５７，５８が接続されている。
【００７９】
ところで、ＤＶＤレコーダは、ＴＶ画面という比較的画面サイズの大きい動画像を、高画質で記録するために用いられることが多い。このため、高い処理能力と大容量のメモリが必須であり、この条件下で、高画質を実現するために比較的圧縮率の低い符号データを生成する。ところがその一方で、小さな画面（低解像度）でかまわないが、符号量はできる限り小さい（圧縮率が高い）符号データを得たい、というニーズも存在する。このようなニーズに対しては、従来は、解像度変換を行い、小さな画面をＭＰＥＧ−２で記録するようにしていた。これに対して、本発明を適用することによって、高画質でかつ圧縮率の高い符号データを得ることができる。そして、ＤＶＤレコーダのような元来処理能力が高い画像符号化装置を、時分割動作させ、複数の符号化パラメータを用いて符号化を行うことによって、回路規模の増大を招くことなく、上述のようなニーズを容易に満たすことができる。
【００８０】
図１６は本発明を応用したＤＶＤレコーダの画像符号化部６０の構成を示す。基本的な構成は図１４とほぼ同様であるが、量子化部５Ａ、可変長符号化部６Ａ、および局所復号化部（逆量子化部８Ａ，逆ＤＣＴ処理部９Ａおよび参照画像生成部１０Ａ）がそれぞれ１つずつしかない点が異なる。また、ＤＣＴ処理部４と量子化部５Ａとの間にＤＣＴ係数を格納するためのＤＣＴメモリ６２を備えている。
【００８１】
まず、ＤＶＤレコーダとして通常の動作を行う場合には、１枚の画像に対して１個の符号データを生成する。これに対して、小画面の画像を高い圧縮率で符号化する場合には、ＤＣＴ処理部４から出力されたＤＣＴ係数がＤＣＴ係数メモリ６２に格納される。そして、この格納されたデータに対し、以降の処理を、異なる符号化パラメータを用いて複数回、時分割で行う。すなわち、まず符号化パラメータａで量子化し可変長符号化する。そして、逆量子化、逆ＤＣＴ、参照画像生成を行い、参照画像Ａを得る。次に符号化パラメータｂで量子化し可変長符号化する。そして、逆量子化、逆ＤＣＴ、参照画像生成を行い、参照画像Ｂを得る。さらに異なる符号化パラメータで行う場合も同様である。なお、これらはマクロブロック単位で行われ、１画面分の処理が終了すると、複数の符号データと参照画像が得られる。その後、上述の各実施形態と同様に、所定の条件に従って、符号データの選択を行う。
【００８２】
【発明の効果】
以上のように本発明によると、再生時に得られるものと同じ参照画像の画質評価の結果から符号データの選択が行われるので、画質を考慮した符号量制御が可能になり、したがって、適切な符号量で高画質の符号データを確実に得ることができる。
【図面の簡単な説明】
【図１】本発明の第１の実施形態に係る画像符号化方法を示すフローチャートである。
【図２】本発明の第１の実施形態に係る画像符号化装置の構成例を示すブロック図である。
【図３】画質評価の処理の一例を示すフローチャートである。
【図４】本発明の第２の実施形態に係る画像符号化方法を示すフローチャートである。
【図５】本発明の第３の実施形態に係る画像符号化であって、第１の実施形態にイントラ／インター判定を加えた方法を示すフローチャートである。
【図６】本発明の第３の実施形態に係る画像符号化であって、第２の実施形態にイントラ／インター判定を加えた方法を示すフローチャートである。
【図７】本発明の第４の実施形態に係る画像符号化方法を示すフローチャートである。
【図８】本発明の第４の実施形態に係る画像符号化装置の構成例を示すフローチャートである。
【図９】符号データの再構成処理の一例を示すフローチャートである。
【図１０】符号データの再構成処理を模式的に示す図である。
【図１１】符号量を考慮した符号データ選択を模式的に示す図である。
【図１２】符号量を考慮した符号データ選択を模式的に示す図である。
【図１３】一般的なデジタルカメラの構成を示す図である。
【図１４】本発明を応用したデジタルカメラの画像符号化部の構成を示す図である。
【図１５】ＤＶＤレコーダの構成例を示す図である。
【図１６】本発明を応用したＤＶＤレコーダの画像符号化部の構成を示す図である。
【図１７】従来の画像符号化処理を示すフローチャートである。
【符号の説明】
Ｓ１２　第１のステップ
Ｓ１３　第２のステップ
Ｓ１４　第３のステップ
Ｓ１５　第４のステップ
Ｓ２５，Ｓ２６　第１のステップ
Ｓ２７　第２のステップ
Ｓ２８　第３のステップ
Ｓ２Ａ，Ｓ２Ｂ　第４のステップ
Ｓ３２　第１のステップ
Ｓ３３　第２のステップ
Ｓ２５，Ｓ４６　第１のステップ
Ｓ４７　第２のステップ
２　動きベクトル検出部
３　予測符号化部
４　ＤＣＴ処理部
５　量子化ブロック
５ａ，５ｂ，５ｃ　量子化部
６　可変長符号化ブロック
６ａ，６ｂ，６ｃ　可変長符号化部
７　符号化データバッファ（第１の記憶部）
８　逆量子化ブロック
９　逆ＤＣＴ処理ブロック
１０　参照画像生成ブロック
１１　参照画像メモリブロック（第２の記憶部）
１３　画質評価部
１４　符号データ選択部
３６　外部メモリ（メモリ素子）
５Ａ　量子化部
６Ａ　可変長符号化部
８Ａ　逆量子化部
９Ａ　逆ＤＣＴ処理部
１０Ａ　参照画像生成部
【図１】
2004128941.tif 000003
【図２】
2004128941.tif 000004
【図３】
2004128941.tif 000005
【図４】
2004128941.tif 000006
【図５】
2004128941.tif 000007
【図６】
2004128941.tif 000008
【図７】
2004128941.tif 000009
【図８】
2004128941.tif 000010
【図９】
2004128941.tif 000011
【図１０】
2004128941.tif 000012
【図１１】
2004128941.tif 000013
【図１２】
2004128941.tif 000014
【図１３】
2004128941.tif 000015
【図１４】
2004128941.tif 000016
【図１５】
2004128941.tif 000017
【図１６】
2004128941.tif 000018
【図１７】
2004128941.tif 000019