(57)【特許請求の範囲】
【請求項１】
入力画像信号を符号化単位となるブロックに分解して、該ブロックに対して直交変換符号化を行なうイントラ符号化と、入力画像信号のフレーム間の動き予測を行ない、その残差信号をブロックに分解して、該ブロックに対して直交変換符号化を行なうインター符号化との内の符号化効率の良い符号化方法が選択される符号化手段と、
上記ブロックをフレームで構成するかフィールドで構成するかの直交変換符号化タイプを、上記ブロックの輝度信号に対して、フレーム内で隣接した画素間の第１の画素間差分値と、フィールド内で隣接した画素間の第２の画素間差分値とを比較し、上記第１の画素間差分値が上記第２の画素間差分値以下のときフレーム直交変換符号化タイプと判定し、それ以外のときフィールド直交変換符号化タイプと判定する符号化タイプ判定手段と、
上記判定手段により判定された直交変換符号化タイプに基づいて計算される画像内予測残差と、上記入力画像信号の動き予測残差量とを比較して、上記符号化手段が入力画像信号をイントラ符号化するかインター符号化するかを制御する制御手段と
を有することを特徴とする信号符号化装置。
【請求項２】
上記制御手段は、
上記符号化タイプ判定手段で判定された直交変換符号化タイプに基づいて、ブロック毎の輝度信号の平均値からの画素差分値の絶対値和又は二乗和としてのブロック内予測残差を計算して画像内予測残差を求める画像内予測残差計算手段と、
この画像内予測残差量と上記入力画像信号の動き予測残差量とを比較して、上記画像内予測残差量より上記入力画像信号の動き予測残差量が大きいとき該入力画像信号をイントラ符号化すると判定し、それ以外のときインター符号化すると判定するイントラ／インター判定手段と
を有して成ることを特徴とする請求項１記載の信号符号化装置。
【請求項３】
上記画像内予測残差は、４個のブロックの上記ブロック内予測残差の和であることを特徴とする請求項２記載の信号符号化装置。
【請求項４】
入力画像信号のフレーム間の動き予測を行ない、その残差信号をブロックに分解して、該ブロックに対してＤＣＴ等の直交変換符号化を行なうインター符号化工程と、入力画像信号そのものをブロックに分解して、該ブロックに対して直交変換符号化を行なうイントラ符号化工程との内の符号化効率の良い符号化工程を選択する信号符号化方法であって、
上記ブロックをフレームで構成するかフィールドで構成するかの直交変換符号化タイプを、上記ブロックの輝度信号に対して、フレーム内で隣接した画素間の第１の画素間差分値と、フィールド内で隣接した画素間の第２の画素間差分値とを比較し、上記第１の画素間差分値が上記第２の画素間差分値以下のときフレーム直交変換符号化タイプと判定し、それ以外のときフィールド直交変換符号化タイプと判定する直交変換符号化タイプ判定工程と、
上記判定された直交変換符号化タイプに基づいて計算される画像内予測残差と、上記入力画像信号の動き予測残差量とを比較して、上記入力画像信号をイントラ符号化するかインター符号化するかを制御する制御工程と
を有することを特徴とする信号符号化方法。
【請求項５】
上記制御工程は、
上記符号化タイプ判定工程で判定された直交変換符号化タイプに基づいて、ブロック毎の輝度信号の平均値からの画素差分値の絶対値和又は二乗和としてのブロック内予測残差を計算して画像内予測残差を求める画像内予測残差計算工程と、
この画像内予測残差量と上記入力画像信号の動き予測残差量とを比較して、上記画像内予測残差量より上記入力画像信号の動き予測残差量が大きいとき該入力画像信号をイントラ符号化すると判定し、それ以外のときインター符号化すると判定するイントラ／インター判定工程と
を有して成ることを特徴とする請求項４記載の信号符号化方法。
【請求項６】
符号化された信号が記録される信号記録媒体において、
上記符号化された信号は、入力画像信号のフレーム間の動き予測を行ない、その残差信号をブロックに分解して、該ブロックに対してＤＣＴ等の直交変換符号化を行なうインター符号化と、入力画像信号そのものをブロックに分解して、該ブロックに対して直交変換符号化を行なうイントラ符号化との内の符号化効率の良い符号化がされたものであり、
これらの符号化は、上記ブロックをフレームで構成するかフィールドで構成するかの直交変換符号化タイプが、上記ブロックの輝度信号に対して、フレーム内で隣接した画素間の第１の画素間差分値と、フィールド内で隣接した画素間の第２の画素間差分値とを比較し、上記第１の画素間差分値が上記第２の画素間差分値以下のときフレーム直交変換符号化タイプと判定され、それ以外のときフィールド直交変換符号化タイプと判定され、
上記判定された直交変換符号化タイプに基づいて計算される画像内予測残差と、上記入力画像信号の動き予測残差量とを比較することにより、上記入力画像信号をイントラ符号化するかインター符号化するかを判定されて制御されたものである
ことを特徴とする信号記録媒体。
【請求項７】
入力画像信号のフレーム間の動き予測を行ない、その残差信号をブロックに分解して、上記ブロックに対してＤＣＴ等の直交変換符号化を行なうインター符号化工程と、入力画像信号そのものをブロックに分解して、上記ブロックに対して直交変換符号化を行なうイントラ符号化工程との内の符号化効率の良い符号化工程が選択され、
上記ブロックをフレームで構成するかフィールドで構成するかの直交変換符号化タイプを、上記ブロックの輝度信号に対して、フレーム内で隣接した画素間の第１の画素間差分値と、フィールド内で隣接した画素間の第２の画素間差分値とを比較し、上記第１の画素間差分値が上記第２の画素間差分値以下のときフレーム直交変換符号化タイプと判定し、それ以外のときフィールド直交変換符号化タイプと判定する直交変換符号化タイプ判定工程と、
上記判定された直交変換符号化タイプに基づいて計算される画像内予測残差と、上記入力画像信号の動き予測残差量とを比較して、上記入力画像信号をイントラ符号化するかインター符号化するかを制御する制御工程と、
生成された符号化データを伝送する工程と
を有することを特徴とする信号伝送方法。
【請求項８】
上記制御工程は、
上記符号化タイプ判定工程で判定された直交変換符号化タイプに基づいて、ブロック毎の輝度信号の平均値からの画素差分値の絶対値和又は二乗和としてのブロック内予測残差を計算して画像内予測残差を求める画像内予測残差計算工程と、
この画像内予測残差量と上記入力画像信号の動き予測残差量とを比較して、上記画像内予測残差量より上記入力画像信号の動き予測残差量が大きいとき該入力画像信号をイントラ符号化すると判定し、それ以外のときインター符号化すると判定するイントラ／インター判定工程と
を有して成ることを特徴とする請求項７記載の信号伝送方法。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、信号符号化装置、信号符号化方法、信号記録媒体及び信号伝送方法に関し、特に、例えば動画像信号を光ディスクや磁気テープなどの記録媒体に記録し再生してディスプレイなどに表示したり、テレビ会議システム、テレビ電話システムや放送用機器等のように動画像信号を伝送路を介して送信側から受信側へ伝送する際に適用して好適な信号符号化装置、信号符号化方法、信号記録媒体及び信号伝送方法に関するものである。
【０００２】
【従来の技術】
ディジタルビデオ信号はデータ量が極めて多いため、これを小型で記憶容量の少ない記録媒体に長時間記録しようとする場合、または、これを限られた通信路の中で多くのチャネル数で伝送しようとする場合、ビデオ信号を高能率符号化する手段が不可欠となる。このような要求に応えるべく、ビデオ信号、特に動画像信号の相関を利用した高能率符号化方式が提案されており、その一つにＭＰＥＧ方式がある。このＭＰＥＧ（Ｍｏｖｉｎｇ  Ｐｉｃｔｕｒｅ  Ｉｍａｇｅ  Ｃｏｄｉｎｇ  Ｅｘｐｅｒｔｓ  Ｇｒｏｕｐ）  とは、ＩＳＯ−ＩＥＣ／ＪＴＣ１／ＳＣ２／ＷＧ１１にて議論され、標準案として提案されたものであり、動き補償予測符号化と離散コサイン変換（ＤＣＴ：Ｄｉｓｃｒｅｔｅ  Ｃｏｓｉｎｅ  Ｔｒａｎｓｆｏｒｍ）  符号化とを組み合わせたハイブリッド方式である。このＭＰＥＧ方式では、まず動画像信号のフレーム間の動き予測を行ない、その残差信号を計算して時間軸方向の冗長度を落し、この残差信号に対して離散コサイン変換（ＤＣＴ）を用いて空間軸方向の冗長度を落としてビデオ信号を能率良く符号化する。
【０００３】
ＭＰＥＧ方式では、図７に示すように各ピクチャを、Ｉピクチャ、ＰピクチャまたはＢピクチャの３種類のピクチャのいずれかのピクチャとし、画像信号を圧縮符号化するようにしている。Ｉピクチャは、イントラ符号化ピクチャであり、他のピクチャとは独立して符号化される。Ｐピクチャは、順方向予測符号化ピクチャであり、時間的に過去に位置するＩまたはＰピクチャから予測符号化を行なう。Ｂピクチャは、双方向予測符号化ピクチャであり、時間的に前後に位置するＩまたはＰピクチャを用いて、順方向，逆方向，または双方向のピクチャから予測符号化を行なう。そして、ピクチャの集合がＧＯＰ（グループオブピクチャ：Ｇｒｏｕｐ  Ｏｆ  Ｐｉｃｔｕｒｅｓ）  を構成する。それぞれのピクチャは、ＭＢ（マクロブロック）に分けられる。例えば４：２：０フォーマットの場合、ＭＢは、４つの輝度のブロックとＹ１，Ｙ２，Ｙ３，Ｙ４と空間的に対応したＣｂとＣｒの２つの色差ブロックの６つのブロックで構成される。１つのブロックは、８画素×８ラインの６４個の画素からなる。
【０００４】
ＰピクチャとＢピクチャでは、ＭＢ（マクロブロック）毎に符号化方法をイントラ符号化（Ｉｎｔｒａ  Ｃｏｄｉｎｇ：画像内予測符号化）またはインター符号化（Ｉｎｔｅｒ  Ｃｏｄｉｎｇ：動き補償予測符号化）に変更することができる。Ｐピクチャのインター符号化は、順方向予測モードの１種類である。Ｂピクチャのインター符号化は、順方向予測モード，逆方向予測モード，双方向予測モードの３種類があり、この中から最も効率の良い予測モードをインター符号化の方法とする。
【０００５】
ＭＢ（マクロブロック）をイントラ（Ｉｎｔｒａ）符号化するかインター（Ｉｎｔｅｒ）符号化するかの判定は、理想的には、両方法で符号化を試みてから、伝送データが一番少なくなる方法を選択するのが望ましい。しかし、この方法は、計算時間または計算量が大きくなる問題がある。
【０００６】
そこで、簡単化したイントラ／インター符号化判定方法が、ＭＰＥＧ  Ｖｉｄｅｏ  Ｓｉｍｕｌａｔｉｏｎ  Ｍｏｄｅｌ  ３  （ＩＳＯ／ＩＥＣ  ＪＴＣ１／ＳＣ２／ＷＧ１１  Ｎ００１０  ＭＰＥＧ９０／０４１  Ｊｕｌｙ  １９９０）で提案されている。このＳｉｍｕｌａｔｉｏｎ  Ｍｏｄｅｌ  ３の方法（以下「モデル３」の方法という。）は、インター符号化の時の符号化効率を動き補償の予測残差量から推定し、またイントラ符号化の時の符号化効率をＭＢ内予測残差量から推定し、そして動き補償の予測残差量とＭＢ内予測残差量を比較することにより、イントラ／インター符号化を判定するものである。この処理方法について、図８のフローチャートを用いて説明する。
【０００７】
図８のステップ２００においては、入力ＭＢ（マクロブロック）の輝度信号の１６×１６画素の動き予測残差信号の平均二乗値ＶＡＲを計算する。具体的には、下記の式（１）に示すように、入力ＭＢ信号Ａ［ｉ，ｊ］と、動きベクトル（ｘ，ｙ）により参照される予測ＭＢ信号Ｆ［ｘ＋ｉ，ｙ＋ｊ］の差分の平均二乗値を求める。
ＶＡＲ  ＝  （Σ（Ａ［ｉ，ｊ］−Ｆ［ｘ＋ｉ，ｙ＋ｊ］）２）／２５６    （ｉ＝０〜１５，ｊ＝０〜１５）    （１）
なお、二乗値の代わりに絶対値を用いてもよい。
【０００８】
次のステップ２０１では、入力ＭＢのＭＢ内予測残差量として、輝度信号１６×１６画素の分散値ＶＡＲＯＲを、下記の式（２）により計算する。
ＶＡＲＯＲ  ＝  （Σ（Ａ［ｉ，ｊ］２）／２５６  −  ＭＥＡＮ２      （ｉ＝０〜１５，ｊ＝０〜１５）    （２）
ＭＥＡＮ  ＝  （ΣＡ［ｉ，ｊ］）／２５６                                      （３）
次のステップ２０２では、上記ＶＡＲと上記ＶＡＲＯＲとを図５の特性により比較する。すなわち、
ＶＡＲ＞ＴＨＲ  かつ  ＶＡＲＯＲ＜ＶＡＲ
であれば、ＭＢモードをイントラ（ＩＮＴＲＡ）  符号化とし（ステップ２０３）、それ以外ではＭＢモードをインター（ＩＮＴＥＲ）  符号化とする（ステップ２０４）。ここでＴＨＲは閾値を示し、例えばＴＨＲ＝６４である。
【０００９】
ステップ２０５では、入力ＭＢを指定されたＭＢモードで符号化する。イントラ符号化では入力ＭＢ、またインター符号化では予測残差ＭＢをブロックに分解して、各ブロックに対して８×８ＤＣＴ符号化が行なわれる。
【００１０】
【発明が解決しようとする課題】
ところで、ＭＰＥＧ２では、２種類のＤＣＴ符号化タイプをＭＢ毎に切替えることができる。例えば、図２に各ＤＣＴ符号化タイプにおけるＭＢの輝度信号とブロックの関係を示す。ブロックは、８×８ＤＣＴ符号化が行なわれる単位である。フレームＤＣＴ符号化タイプでは、ＭＢの輝度信号を４個のブロックに分解する際に、各ブロックがフレームで構成されるように分解する。一方、フィールドＤＣＴ符号化タイプでは、各ブロックがフィールドで構成されるように分解する。
【００１１】
上述の「モデル３」（Ｓｉｍｕｌａｔｉｏｎ  Ｍｏｄｅｌ  ３）の方法は、イントラ符号化の時の符号化効率を推定するために、１６×１６画素の輝度信号の分散値を計算しているが、この方法では、２種類のＤＣＴ符号化タイプのそれぞれの場合での符号化効率を推定することができないので、問題があった。すなわち、従来例で説明した理想的な選択方法であるイントラ符号化とインター符号化をそれぞれ実際に試みてから、伝送データが一番少なくなる方法を選択する方法と比べて、「モデル３」（Ｓｉｍｕｌａｔｉｏｎ  Ｍｏｄｅｌ  ３）の方法は、誤って符号化効率の悪い符号化方法を選択する場合が多いことがわかった。
【００１２】
また、上述の「モデル３」（Ｓｉｍｕｌａｔｉｏｎ  Ｍｏｄｅｌ  ３）の方法は、イントラ符号化の時の符号化効率を推定するために、１６×１６画素の輝度信号の分散値を計算しているが、この方法では、各ブロックに対する８×８ＤＣＴ符号化の符号化効率を推定するためには不十分であり、問題があった。すなわち、従来例で説明した理想的な選択方法と比べて、「モデル３」（Ｓｉｍｕｌａｔｉｏｎ  Ｍｏｄｅｌ  ３）の方法は、誤って符号化効率の悪い符号化方法を選択する場合が多いことがわかった。
【００１３】
本発明はこのような実情に鑑みてなされたものであり、上述したような「モデル３」（Ｓｉｍｕｌａｔｉｏｎ  Ｍｏｄｅｌ  ３）の方法に改良を加え、符号化効率を上げることができるような信号符号化装置、信号符号化方法、信号記録媒体及び信号伝送方法を提供することを目的とする。
【００１４】
【課題を解決するための手段】
本発明は、上述した目的を達成するために、入力画像信号を符号化単位となるブロックに分解して、該ブロックに対して直交変換符号化を行なうイントラ符号化と、入力画像信号のフレーム間の動き予測を行ない、その残差信号をブロックに分解して、該ブロックに対して直交変換符号化を行なうインター符号化との内の符号化効率の良い符号化方法を選択する際に、上記ブロックをフレームで構成するかフィールドで構成するかの直交変換符号化タイプを、上記ブロックの輝度信号に対して、フレーム内で隣接した画素間の第１の画素間差分値と、フィールド内で隣接した画素間の第２の画素間差分値とを比較し、上記第１の画素間差分値が上記第２の画素間差分値以下のときフレーム直交変換符号化タイプと判定し、それ以外のときフィールド直交変換符号化タイプと判定し、この判定された直交変換符号化タイプに基づいて計算される画像内予測残差と、上記入力画像信号の動き予測残差量とを比較して、入力画像信号をイントラ符号化するかインター符号化するかを制御することを特徴としている。
【００１５】
上記入力画像信号をイントラ符号化するかインター符号化するかの制御は、上記判定された直交変換符号化タイプに基づいて、ブロック毎の輝度信号の平均値からの画素差分値の絶対値和又は二乗和としてのブロック内予測残差を計算して画像内予測残差を求め、この画像内予測残差量と上記入力画像信号の動き予測残差量とを比較して、上記画像内予測残差量より上記入力画像信号の動き予測残差量が大きいとき該入力画像信号をイントラ符号化すると判定し、それ以外のときインター符号化すると判定することが挙げられる。
【００１６】
上記ブロックは、例えば８×８画素の大きさのものが用いられ、上記ブロックの画像内予測残差は、ブロックの平均値からの画素差分値の絶対値和を計算することにより計算するか、または、ブロックの平均値からの画素差分値の二乗和を計算することにより求めるようにすればよい。
【００１７】
【発明の実施の形態】
以下、本発明の動画像符号化方法、動画像符号化装置の好ましい実施の形態について、図面を参照しながら説明する。
【００１８】
図１は、本発明の動画像符号化方法を適用した動画像符号化装置の構成例を示すブロック図である。
この図１において、端子１０から入力された動画像信号Ｓ１は、予測残差を得るための演算器１１を介して、ＤＣＴ回路１２、量子化回路１３、逆量子化回路１４、逆ＤＣＴ回路１５、演算器１６及び動き補償回路１７から成る、動き予測を伴うＤＣＴ符号化部に送られる。この符号化部については後述する。
【００１９】
また、端子１０から入力された動画像信号Ｓ１は、動きベクトル検出・動き予測残差計算器２１へ入力される。動きベクトル検出・動き予測残差計算器２１における動きベクトル検出は、参照フレームと入力ＭＢ（マクロブロック）の輝度信号のパターンマッチングで行なうことにより、入力ＭＢの動きベクトルを検出するものである。すなわち、例えば下記の式（３）に示すように、入力ＭＢ信号の輝度信号Ａ［ｉ，ｊ］と、任意の動きベクトル（ｘ，ｙ）により参照されるＭＢ信号の輝度信号Ｆ［ｘ＋ｉ，ｙ＋ｊ］の差の絶対値の和Ｅｆを求める。
【００２０】
Ｅｆ  ＝  Σ｜Ａ［ｉ，ｊ］  −  Ｆ［ｘ＋ｉ，ｙ＋ｊ］｜    （ｉ＝０〜１５，ｊ＝０〜１５）    （３）
ここで、参照フレーム信号は原画像である入力動画像信号Ｓ１であることが好ましいが、動き補償回路１７の中にあるフレームメモリに記憶されているローカルデコードされたフレーム信号を用いても良い。後者の場合、動き補償回路１７から参照フレーム信号Ｓ７が動きベクトル検出・動き予測残差計算器２１へ入力される。動きベクトル検出・動き予測残差計算器２１は、上記Ｅｆが最小となる座標（ｘ，ｙ）を現在ＭＢの動きベクトルＳ６とし、またその時のＥｆを動きベクトルの予測残差ＶＡＲとして出力する。
【００２１】
また、上記動画像信号Ｓ１は、フレーム／フィールドＤＣＴ符号化タイプ判定器２２へ入力され、ここで入力ＭＢのＤＣＴ符号化タイプの判定がされる。
【００２２】
図２に、各ＤＣＴ符号化タイプにおけるＭＢ（マクロブロック）の輝度信号とブロックの関係を示す。１ブロックは、８×８ＤＣＴ符号化が行なわれる単位である。フレームＤＣＴ符号化タイプでは、ＭＢの輝度信号を４個のブロックに分解する際に、各ブロックがフレームで構成されるように分解する。一方、フィールドＤＣＴ符号化タイプでは、各ブロックがフィールドで構成されるように分解する。
【００２３】
このＤＣＴ符号化タイプの判定方法を示すプログラムの例を図３に示す。
この図３において、まず、入力ＭＢの１６×１６画素の輝度信号ｍｂに対して、フレーム内で垂直方向に隣接した画素間差分の絶対値和ｄｉｆ＿ｆｒとフィールド内で垂直方向に隣接した画素間差分の絶対値和ｄｉｆ＿ｆｉを計算する。次に、ｄｉｆ＿ｆｒがｄｉｆ＿ｆｉ以下の場合は、フレームＤＣＴ符号化タイプとして、それ以外の場合は、フィールドＤＣＴ符号化タイプと判定する。フレーム／フィールドＤＣＴ符号化タイプ判定器２２は、ＤＣＴ符号化タイプＳ９を出力して、画像内予測残差計算器２３へ入力する。
【００２４】
また、動画像信号Ｓ１は、画像内予測残差計算器２３へ入力され、ここで現在ＭＢのフレームＤＣＴ符号化タイプのブロックとフィールドＤＣＴ符号化タイプのブロックの各々のブロック内予測残差に基づいて、入力ＭＢの画像内予測残差ＶＡＲＯＲを計算する。
【００２５】
図４にＶＡＲＯＲの計算方法のプログラムの例を示す。
この図４のプログラムにおいては、上記図２に示したように、入力ＭＢの輝度信号のフレームＤＣＴ符号化タイプのブロックをｂｆｒ０［ｉ，ｊ］，ｂｆｒ１［ｉ，ｊ］，ｂｆｒ２［ｉ，ｊ］，ｂｆｒ３［ｉ，ｊ］とし、フィールドＤＣＴ符号化タイプのブロックをｂｆｉ０［ｉ，ｊ］，ｂｆｉ１［ｉ，ｊ］，ｂｆｉ２［ｉ，ｊ］，ｂｆｉ３［ｉ，ｊ］とする。ｉは、水平方向の画素のインデックスであり、ｉ＝０〜７，また、ｊは垂直方向の画素のインデックスであり、ｊ＝０〜７である。それぞれのブロックのブロック内予測残差として、それぞれのブロックの平均値からの画素差分値の絶対値和を計算する。そして、フレームＤＣＴ符号化タイプの時の画像内予測残差ＶＡＲＯＲ＿ｍｂｆｒをフレームＤＣＴ符号化タイプの４個のブロックのブロック内予測残差の和とし、フィールドＤＣＴ符号化タイプの時の画像内予測残差ＶＡＲＯＲ＿ｍｂｆｉをフィールドＤＣＴ符号化タイプの４個のブロックのブロック内予測残差の和とする。そして、ＤＣＴ符号化タイプ（フレーム／フィールドＤＣＴ符号化タイプ判定器２２から入力されるＳ９）がフレームタイプの場合は、ＶＡＲＯＲ＿ｍｂｆｒをＶＡＲＯＲとし、またフィールドタイプの場合は、ＶＡＲＯＲ＿ｍｂｆｉをＶＡＲＯＲとする。ＭＢ内予測残差計算器２３は、ＶＡＲＯＲを出力する。
【００２６】
この図４のアルゴリズムの変形例をいくつか説明する。上述のブロック内予測残差を計算する時に、絶対値和の代わりに、二乗和を計算してもよい。その場合は、前記式（３）の計算でも絶対値の代わりに、二乗和を計算した方が良い。
【００２７】
また、上述のブロックの平均値からの画素差分値の絶対値和を計算する時の平均値を以下のように計算しても良い。
ｍｅａｎ＿ｍｂ  ＝  （ｍｅａｎ＿ｂｆｒ０  ＋  ｍｅａｎ＿ｂｆｒ１  ＋  ｍｅａｎ＿ｂｆｒ２  ＋  ｍｅａｎ＿ｂｆｒ３）／４
ｍｅａｎ＿ｂｆｒ０  ＝  ｍｅａｎ＿ｂｆｒ１  ＝  ｍｅａｎ＿ｂｆｒ２  ＝  ｍｅａｎ＿ｂｆｒ３  ＝  ｍｅａｎ＿ｍｂ
ｍｅａｎ＿ｔｏｐ        ＝  （ｍｅａｎ＿ｂｆｉ０  ＋  ｍｅａｎ＿ｂｆｉ１）／２
ｍｅａｎ＿ｂｏｔｔｏｍ  ＝  （ｍｅａｎ＿ｂｆｉ２  ＋  ｍｅａｎ＿ｂｆｉ３）／２
ｍｅａｎ＿ｂｆｉ０  ＝  ｍｅａｎ＿ｂｆｉ１  ＝  ｍｅａｎ＿ｔｏｐ
ｍｅａｎ＿ｂｆｉ２  ＝  ｍｅａｎ＿ｂｆｉ３  ＝  ｍｅａｎ＿ｂｏｔｔｏｍ
これらの式で、ｍｅａｎ＿ｘ  とは、ｘの平均値を表す。
【００２８】
また、上記ｍｅａｎ＿ｍｂ  を入力ＭＢの輝度信号の１６×１６画素の平均値としても良い。また上記ｍｅａｎ＿ｔｏｐを入力ＭＢの輝度信号のトップフィールドの１６×８画素の平均値として、上記ｍｅａｎ＿ｂｏｔｔｏｍ  を入力ＭＢの輝度信号のボトムフィールドの１６×８画素の平均値としても良い。
【００２９】
ｉｎｔｒａ／ｉｎｔｅｒ（イントラ／インター）判定器２４は、入力ＭＢ（マクロブロック）の上記ＶＡＲとＶＡＲＯＲに基づいて、入力ＭＢをイントラ符号化とするかインター符号化とするかを判定する。その判定方法の例を図５に示す。すなわち、この図５において、
ＶＡＲ＞ＴＨＲ  かつ  ＶＡＲＯＲ＜ＶＡＲ
であれば、ＭＢモードをイントラ符号化とし、それ以外ではＭＢモードをインター符号化とする。ｉｎｔｒａ／ｉｎｔｅｒ判定器２４は、ＭＢモードＳ８を動き補償回路１７へ出力する。ここで、ＴＨＲは所定の閾値である。
【００３０】
上述した入力ＭＢをイントラ符号化とするかインター符号化とするかを判定するアルゴリズムのフローチャートを図６に示す。
【００３１】
この図６において、最初のステップ１００では、入力ＭＢの輝度信号１６×１６画素の動き予測残差量ＶＡＲを計算する。
次のステップ１０１では、入力ＭＢの輝度信号のフレームＤＣＴ符号化タイプのブロックのブロック内予測残差の和ＶＡＲＯＲ＿ｍｂｆｒとフィールドＤＣＴ符号化タイプのブロックのブロック内予測残差の和ＶＡＲＯＲ＿ｍｂｆｉを計算する。次のステップ１０２では、入力ＭＢのＤＣＴ符号化タイプを判定する。これらのステップ１０１とステップ１０２との順序は入れ替わっても良い。
【００３２】
次のステップ１０３では、ＤＣＴ符号化タイプがフレームタイプの場合は、ＶＡＲＯＲをＶＡＲＯＲ＿ｍｂｆｒとし（ステップ１０４）、またフィールドタイプの場合は、ＶＡＲＯＲをＶＡＲＯＲ＿ｍｂｆｉとする（ステップ１０５）。
【００３３】
次のステップ１０６では、ＶＡＲとＶＡＲＯＲに基づいて、入力ＭＢのＭＢモードをイントラ符号化とするか（ステップ１０７）、インター符号化とするか（ステップ１０８）を判定する。
【００３４】
次のステップ１０９では、入力ＭＢを指定されたＭＢモードで符号化する。イントラ符号化では入力ＭＢ、またインター符号化では予測残差ＭＢを指定されたＤＣＴ符号化タイプに従ってブロックに分解して、各ブロックに対して８×８ＤＣＴ符号化が行なわれる。
【００３５】
これによって、入力ＭＢのイントラ／インターの符号化方法の判定をする時に、従来に比べて符号化効率の良い方法を選択することができるので、符号化効率を一段と向上し得る動画像符号化方法及び動画像符号化装置を実現することができる。
【００３６】
図１の説明に戻り、入力ＭＢのＭＢモードＳ８が決定されてからの符号化処理について詳細に説明する。
【００３７】
動き補償回路１７は、画像メモリを備え、ローカルデコードされた画像を動き補償の参照画像のために記憶している。ＭＢモードＳ８がインター符号化の場合、動き補償回路１７は、その画像メモリから動きベクトルＳ６に基づいて予測ＭＢ信号Ｓ２を読み出す。演算器１１は、入力動画像Ｓ１の入力ＭＢ信号を加算信号とし、上記動き補償回路１７からの上記予測ＭＢ信号Ｓ２を減算信号として加算処理を行うことにより、上記入力ＭＢ信号と予測ＭＢ信号の差分を計算し、当該差分を予測残差ＭＢ信号として出力する。一方、ＭＢモードＳ８がイントラ符号化の場合には、予測を行なわず、入力ＭＢ信号がそのまま演算器１１から出力される。
【００３８】
演算器１１からの予測残差ＭＢ信号（イントラ符号化の時は入力ＭＢ信号）は、ＤＣＴ回路１２に送られる。このＤＣＴ回路では、前記予測残差ＭＢ信号を指定されたＤＣＴ符号化タイプに従ってブロックに分解して、各ブロックに対して８×８ＤＣＴを施す。このＤＣＴ回路１２から出力されたＤＣＴ係数は、量子化回路１３にて、バッファ１９のビット占有量に従った所定のステップサイズで量子化される。この量子化回路１３の量子化出力信号は、逆量子化回路１４と可変長符号化回路１８とに送られる。
【００３９】
逆量子化回路１４では、量子化回路１３で使われた量子化ステップに対応して、前記量子化出力信号に逆量子化処理を施す。当該逆量子化回路１４の出力は、逆ＤＣＴ回路１５に入力され、ここで逆ＤＣＴ処理されて復号された予測残差ＭＢ信号が、演算器１６へ入力される。この演算器１６にはまた、前記した演算器１１に供給されている予測ＭＢ信号Ｓ２と同一の信号が供給されている。演算器１６は、前記復号された予測残差ＭＢ信号に予測ＭＢ信号Ｓ２を加算する。これにより、ローカルデコードした画像信号が得られる。ローカルデコードした画像信号は、動き補償回路１７の中の画像メモリに記憶されて、次の動き補償の参照画像として使用される。
【００４０】
一方、可変長符号化回路１８は、量子化回路１３から出力信号や量子化ステップサイズや動きベクトルなどをハフマン符号化して、例えばＩＳＯ／ＩＥＣ１３８２８−２（ＭＰＥＧ２ビデオ）のシンタクスに基づいたビットストリームを出力する。前記ビットストリームは、バッファメモリ１９へ入力される。バッファメモリ１９は、出力端子２０から出力されるビットストリームＳ６のビットレートを平滑化するためにある。またバッファメモリ１９がオーバーフロウしそうになった時には、そのことを量子化情報として量子化回路１３へフィードバックする。この時、量子化回路１３では量子化ステップを大きくし、これにより量子化回路１３から出力される情報量が少なくなされる。端子２０から出力された符号化信号のビットストリームは、ディスクやテープ等の信号記録媒体に記録されたり、伝送路を介して伝送されることになる。
【００４１】
以上説明したように、本発明の実施の形態となる動画像符号化装置は、入力画像信号のフレーム間の動き予測を行ない、その残差信号をブロックに分解して、前記ブロックに対してＤＣＴ等の直交変換符号化を行なうインター符号化手段と、入力画像信号そのものをブロックに分解して、前記ブロックに対して直交変換符号化を行なうイントラ符号化手段とを有する動画像符号化装置において、
（ａ）上記ブロックをフレームで構成するかフィールドで構成するかの直交変換符号化方法を判定する手段（フレーム／フィールドＤＣＴ符号化タイプ判定器２２）と、
（ｂ）前記判定された直交変換符号化方法に基づいて、入力画像信号をイントラ符号化するかインター符号化するかを判定する方法を制御する手段（画像内予測残差計算器２３及びｉｎｔｒａ／ｉｎｔｅｒ判定器２４）  と、
を有している。
【００４２】
上記手段（ｂ）は、手段（ａ）で判定された直交変換符号化方法に基づいて、ブロック毎の画像内予測残差の総和を所定の方法で計算して、前記画像内予測残差量と入力画像の動き予測残差量とを比較することにより、入力画像信号をイントラ符号化するかインター符号化するかを判定する手段である。
【００４３】
上記ブロックは、８×８画素の大きさである。上記ブロックの画像内予測残差は、ブロックの平均値からの画素差分値の絶対値和を計算することにより計算する。または、上記ブロックの画像内予測残差は、ブロックの平均値からの画素差分値の二乗和を計算することにより計算する。
【００４４】
これにより、入力ＭＢのイントラ／インターの符号化方法の判定をする時に、従来に比べて符号化効率の良い方法を選択することができるので、符号化効率を一段と向上し得る動画像符号化装置を実現できる。
【００４５】
なお、本発明は、上述した実施の形態のみに限定されるものではなく、例えば取り扱うディジタル信号はＭＰＥＧ方式の動画像信号に限定されず、イントラ／インターの符号化と直交変換とを組み合わせて符号化された種々のディジタル動画像信号等にも適用できる。この他、本発明の要旨を逸脱しない範囲において、種々の変更が可能であることは勿論である。
【００４６】
【発明の効果】
本発明によれば、入力画像信号を符号化単位となるブロックに分解して、該ブロックに対して直交変換符号化を行なうイントラ符号化と、入力画像信号のフレーム間の動き予測を行ない、その残差信号をブロックに分解して、該ブロックに対して直交変換符号化を行なうインター符号化とを選択制御する際に、上記符号化ブロックをフレームで構成するかフィールドで構成するかの直交変換符号化タイプを判定し、この判定された直交変換符号化タイプに基づいて、入力画像信号をイントラ符号化するかインター符号化するかを制御しているため、入力画像信号のイントラ／インター符号化として、従来に比べて符号化効率の良い符号化を選択することができ、符号化効率を向上させることができる。
【００４７】
ここで、上記イントラ符号化するかインター符号化するかの制御は、上記判定された直交変換符号化タイプに基づいて、ブロック毎の画像内予測残差の総和を所定の方法で計算して、前記画像内予測残差量と入力画像の動き予測残差量とを比較することにより、入力画像信号をイントラ符号化するかインター符号化するかを判定することにより行うことが挙げられる。
【００４８】
これによって、入力画像信号のイントラ／インターの符号化方法の判定をする時に、従来に比べて符号化効率の良い方法を選択することができ、符号化効率を一段と向上し得る信号符号化装置及び信号符号化方法を実現することができる。
【００４９】
また、このような効率の良い符号化がなされた信号を信号記録媒体に記録することにより、媒体利用効率の良好な信号記録媒体を得ることができ、さらに、このような符号化がなされた信号を伝送することにより、伝送効率の良い信号伝送が行える。
【図面の簡単な説明】
【図１】本発明の実施の形態を適用した動画像符号化装置の概略構成を示すブロック図である。
【図２】フレームＤＣＴ符号化タイプとフィールドＤＣＴ符号化タイプの時のＭＢの輝度信号とブロックの関係を示す図である。
【図３】フレーム／フィールドＤＣＴ符号化タイプの判定方法を説明するプログラムを示す図である。
【図４】本発明での入力ＭＢの画像内予測残差量ＶＡＲＯＲの計算方法例を説明するプログラムを示す図である。
【図５】入力ＭＢの画像内予測残差量ＶＡＲＯＲと入力ＭＢの動き予測残差量ＶＡＲを比較して、入力ＭＢをイントラ符号化またはインター符号化にするかを判定する時の特性を説明するための図である。
【図６】本発明の実施の形態における入力ＭＢの符号化方法をイントラ符号化またはインター符号化にするかを判定するアルゴリズムを説明するためのフローチャートである。
【図７】ＭＰＥＧのＧＯＰとピクチャとＭＢとブロックの関係を示す図である。
【図８】従来ある入力ＭＢの符号化方法をイントラ符号化またはインター符号化にするかを判定するアルゴリズムを説明するためのフローチャートである。
【符号の説明】
１２  ＤＣＴ回路、  １３  量子化回路、  １４  逆量子化回路、  １５  逆ＤＣＴ回路、  １７  動き補償回路、  １８  可変長符号化回路、  １９  バッファメモリ、  ２１  動きベクトル検出・動き予測残差計算器、  ２２  フレーム／フィールドＤＣＴ符号化タイプ判定器、  ２３  画像内予測残差計算回路、２４  ｉｎｔｒａ／ｉｎｔｅｒ判定器
【図１】
0003633204.tif 000002
【図２】
0003633204.tif 000003
【図３】
0003633204.tif 000004
【図４】
0003633204.tif 000005
【図５】
0003633204.tif 000006
【図６】
0003633204.tif 000007
【図７】
0003633204.tif 000008
【図８】
0003633204.tif 000009