(57)【特許請求の範囲】
【請求項１】
順次走査の第１の映像信号が２−３プルダウンによってインターレース走査の第２の映像信号に変換され、上記第２の映像信号のシーケンスを検出するシーケンス検出装置において、
上記第２の映像信号の１フレームがトップフィールドおよびボトムフィールドによって構成され、
上記トップフィールドおよび上記ボトムフィールドのそれぞれに関してフレーム間差分を演算し、上記フレーム間差分に基づいて上記第１の映像信号のフレーム周期で、第１のフラグＰＦ、第２のフラグＴＦＦおよび第３のフラグＲＦＦの組合せによって規定される複数の状態間で状態を遷移させ、
上記第１のフラグＰＦは、順次走査でｙ（ｙ：２進データの一方の値）となり、インターレス走査でｎ（ｎ：２進データの他方の値）となり、上記第２のフラグＴＦＦは、最初のフィールドがトップでｙとなり、これがボトムでｎとなり、上記第３のフラグＲＦＦは、繰り返しフィールドが存在する時にｙとなり、これが存在しない時にｎとなり、
シーケンス検出がロックしている場合では、第１の状態Ｆ２（ＰＦ，ＴＦＦ，ＲＦＦ＝ｙ，ｙ，ｙ）、第２の状態Ｆ３（ＰＦ，ＴＦＦ，ＲＦＦ＝ｙ，ｎ，ｎ）、第３の状態Ｆ４（ＰＦ，ＴＦＦ，ＲＦＦ＝ｙ，ｎ，ｙ）、第４の状態Ｆ１（ＰＦ，ＴＦＦ，ＲＦＦ＝ｙ，ｙ，ｎ）を順次遷移し、
上記第１の状態Ｆ２から上記第２の状態Ｆ３へ無条件で遷移し、
上記第３の状態Ｆ４から上記第４の状態Ｆ１へ無条件で遷移し、
上記第２の状態Ｆ３において、シーケンス検出のロックが外れたことを検出すると、第５の状態ｆ３（ＰＦ，ＴＦＦ，ＲＦＦ＝ｎ，ｎ，ｎ）に遷移し、上記第３の状態Ｆ４への遷移の条件が検出されて上記第３の状態Ｆ４に遷移するまで、上記第５の状態ｆ３を継続し、
上記第４の状態Ｆ１において、シーケンス検出のロックが外れたことを検出すると、第６の状態ｆ１（ＰＦ，ＴＦＦ，ＲＦＦ＝ｎ，ｙ，ｎ）に遷移し、上記第１の状態Ｆ２への遷移の条件が検出されて上記第１の状態Ｆ２に遷移するまで、上記第６の状態ｆ１を継続し、
上記第１乃至第３のフラグを上記第２の映像信号と共に出力することを特徴とするシーケンス検出装置。
【請求項２】
請求項１において、
シーケンス検出の結果に応じて制御されるフィールド／フレーム変換部をさらに有し、
繰り返しフィールドが存在することを上記第３のフラグＲＦＦがｙとなることによって検出し、
上記フィールド／フレーム変換部において、上記繰り返しフィールドを間引くことを特徴とするシーケンス検出装置。
【請求項３】
請求項１において、
上記インターレス走査と順次走査を区別する上記第１のフラグＰＦのセットと連動して、フレーム予測とフィールド予測を区別するフラグをセットし、
上記フレーム予測とフィールド予測とを区別するフラグを出力することを特徴とするシーケンス検出装置。
【請求項４】
順次走査の第１の映像信号が２−３プルダウンによってインターレース走査の第２の映像信号に変換され、上記第２の映像信号のシーケンスがシーケンス検出装置によって検出され、上記シーケンス検出装置からの上記第２の映像信号とフラグとがエンコーダに供給される画像データ符号化装置において、
上記シーケンス検出装置は、
上記第２の映像信号の１フレームがトップフィールドおよびボトムフィールドによって構成され、
上記トップフィールドおよび上記ボトムフィールドのそれぞれに関してフレーム間差分を演算し、上記フレーム間差分に基づいて上記第１の映像信号のフレーム周期で、第１のフラグＰＦ、第２のフラグＴＦＦおよび第３のフラグＲＦＦの組合せによって規定される複数の状態間で状態を遷移させ、
上記第１のフラグＰＦは、順次走査でｙ（ｙ：２進データの一方の値）となり、インターレス走査でｎ（ｎ：２進データの他方の値）となり、上記第２のフラグＴＦＦは、最初のフィールドがトップでｙとなり、これがボトムでｎとなり、上記第３のフラグＲＦＦは、繰り返しフィールドが存在する時にｙとなり、これが存在しない時にｎとなり、
シーケンス検出がロックしている場合では、第１の状態Ｆ２（ＰＦ，ＴＦＦ，ＲＦＦ＝ｙ，ｙ，ｙ）、第２の状態Ｆ３（ＰＦ，ＴＦＦ，ＲＦＦ＝ｙ，ｎ，ｎ）、第３の状態Ｆ４（ＰＦ，ＴＦＦ，ＲＦＦ＝ｙ，ｎ，ｙ）、第４の状態Ｆ１（ＰＦ，ＴＦＦ，ＲＦＦ＝ｙ，ｙ，ｎ）を順次遷移し、
上記第１の状態Ｆ２から上記第２の状態Ｆ３へ無条件で遷移し、
上記第３の状態Ｆ４から上記第４の状態Ｆ１へ無条件で遷移し、
上記第２の状態Ｆ３において、シーケンス検出のロックが外れたことを検出すると、第５の状態ｆ３（ＰＦ，ＴＦＦ，ＲＦＦ＝ｎ，ｎ，ｎ）に遷移し、上記第３の状態Ｆ４への遷移の条件が検出されて上記第３の状態Ｆ４に遷移するまで、上記第５の状態ｆ３を継続し、
上記第４の状態Ｆ１において、シーケンス検出のロックが外れたことを検出すると、第６の状態ｆ１（ＰＦ，ＴＦＦ，ＲＦＦ＝ｎ，ｙ，ｎ）に遷移し、上記第１の状態Ｆ２への遷移の条件が検出されて上記第１の状態Ｆ２に遷移するまで、上記第６の状態ｆ１を継続し、
上記第１乃至第３のフラグを上記第２の映像信号と共に圧縮符号化のエンコーダに対して出力し、
上記エンコーダは、上記インターレス走査と順次走査を区別する上記第１のフラグＰＦと連動して、フレーム予測とフィールド予測を区別するフラグをセットし、上記フラグに従ってフレーム予測方式およびフィールド予測方式の一方の圧縮符号化を行うようにしたことを特徴とする画像データ符号化装置。
【請求項５】
請求項４において、
上記シーケンス検出装置がシーケンス検出の結果に応じて制御されるフィールド／フレーム変換部をさらに有し、
繰り返しフィールドが存在することを上記第３のフラグＲＦＦがｙとなることによって検出し、
上記フィールド／フレーム変換部において、上記繰り返しフィールドが間引かれた上記第２の映像信号が上記圧縮符号化のエンコーダに対して入力されることを特徴とする画像データ符号化装置。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
この発明は、映画等のフィルム素材の画像情報をビデオ信号に変換し、さらに、ビデオ信号を圧縮するのに適用される画像データのシーケンス検出装置および符号化装置に関する。
【０００２】
【従来の技術】
映画等のフィルム素材は、毎秒２４コマのデータであり、一方、ビデオ信号例えばＮＴＳＣ方式のビデオ信号は、毎秒３０フレームである。従って、フィルム素材をビデオ信号に変換する場合では、２４コマから３０フレームを生成する処理が必要とされる。このような処理は、所定の変換パターンで２個のフィールドを３個のフィールドに変換する処理を含むことから、一般に２：３プルダウンと称される。すなわち、自動的に５フレームに２回の割合で第１フィールドの繰り返しを発生させることにより、２４コマから３０フレームの変換がなされる。テレシネ装置がフィルム素材をテレビジョン素材に変換する装置として知られている。
【０００３】
画像データは、一般的にデータ量が多いので、伝送、記録に際して、データ量を圧縮する圧縮処理がなされる。上述した２：３プルダウン処理により得られたビデオ信号を圧縮する時には、フレーム数を増やすために挿入したフィールド（繰り返しフィールド）の情報が冗長であるため、繰り返しフィールドを除去するように圧縮符号化を行い、圧縮の効率を向上するようになされる。このように、２：３プルダウン処理によりフレーム数を毎秒３０フレームに増やした画像データの繰り返しフィールドを検出し、繰り返しフィールドを除去し、再びフレーム数を２４フレームに減らす処理は、逆２：３プルダウン処理と呼ばれる。繰り返しフィールドの検出は、フレーム間差分に基づいてなされる。
【０００４】
【発明が解決しようとする課題】
しかしながら、フィルム素材から変換されたビデオ信号を編集した場合には、２：３プルダウンの処理のシーケンスが乱れることがある。また、映画の途中にＣＭが入るように、途中で２：３プルダウンでない素材が混入されることがある。さらに、撮像管を使用したテレシネ装置によりフィルム素材をビデオ信号へ変換した場合、フレームメモリを使用したノイズリデューサによるノイズ処理を受けた場合では、フレーム間に残像が発生し、２：３プルダウンのシーケンスが乱れることがある。これらの２：３プルダウンでない素材が入ったり、２：３プルダウンのシーケンスが乱れた素材が存在する場合には、繰り返しフィールドを正しく検出することが困難である。若し、誤った検出に基づいて、圧縮符号化を行うと、復号画像が不自然な動きとなる問題があった。
【０００５】
このような不自然な動きを含む時でも、ＤＶＤ、磁気テープ等のストレージメディアの場合では、検出方法および検出条件を適宜変更して検出を行うことによって、２：３プルダウンのシーケンスを予め探しておき、編集等により途中でシーケンスが乱れても、圧縮効率を高めることが可能である。しかしながら、ディジタル放送のような放送用のメディアでは、リアルタイム性が要求されるために、検出方法および検出条件を変更して予めシーケンスを探しておくことができない。このため、ディジタル放送では、２：３プルダウン処理されたビデオ信号を圧縮符号化する場合、繰り返しフィールドの除去の処理を行わないのが普通であり、圧縮効率が低下する問題があった。
【０００６】
従って、この発明の目的は、圧縮符号化のために２：３プルダウンのシーケンスを検出する時に、シーケンスが検出できない場合でも、圧縮符号化を良好に行うことが可能な画像データのシーケンス検出装置および符号化装置を提供することにある。
【０００７】
【課題を解決するための手段】
上記の目的を達成するために、請求項１の発明は、順次走査の第１の映像信号が２−３プルダウンによってインターレース走査の第２の映像信号に変換され、第２の映像信号のシーケンスを検出するシーケンス検出装置において、
第２の映像信号の１フレームがトップフィールドおよびボトムフィールドによって構成され、
トップフィールドおよびボトムフィールドのそれぞれに関してフレーム間差分を演算し、フレーム間差分に基づいて第１の映像信号のフレーム周期で、第１のフラグＰＦ、第２のフラグＴＦＦおよび第３のフラグＲＦＦの組合せによって規定される複数の状態間で状態を遷移させ、
第１のフラグＰＦは、順次走査でｙ（ｙ：２進データの一方の値）となり、インターレス走査でｎ（ｎ：２進データの他方の値）となり、第２のフラグＴＦＦは、最初のフィールドがトップでｙとなり、これがボトムでｎとなり、第３のフラグＲＦＦは、繰り返しフィールドが存在する時にｙとなり、これが存在しない時にｎとなり、
シーケンス検出がロックしている場合では、第１の状態Ｆ２（ＰＦ，ＴＦＦ，ＲＦＦ＝ｙ，ｙ，ｙ）、第２の状態Ｆ３（ＰＦ，ＴＦＦ，ＲＦＦ＝ｙ，ｎ，ｎ）、第３の状態Ｆ４（ＰＦ，ＴＦＦ，ＲＦＦ＝ｙ，ｎ，ｙ）、第４の状態Ｆ１（ＰＦ，ＴＦＦ，ＲＦＦ＝ｙ，ｙ，ｎ）を順次遷移し、
第１の状態Ｆ２から第２の状態Ｆ３へ無条件で遷移し、
第３の状態Ｆ４から第４の状態Ｆ１へ無条件で遷移し、
第２の状態Ｆ３において、シーケンス検出のロックが外れたことを検出すると、第５の状態ｆ３（ＰＦ，ＴＦＦ，ＲＦＦ＝ｎ，ｎ，ｎ）に遷移し、第３の状態Ｆ４への遷移の条件が検出されて第３の状態Ｆ４に遷移するまで、第５の状態ｆ３を継続し、
第４の状態Ｆ１において、シーケンス検出のロックが外れたことを検出すると、第６の状態ｆ１（ＰＦ，ＴＦＦ，ＲＦＦ＝ｎ，ｙ，ｎ）に遷移し、第１の状態Ｆ２への遷移の条件が検出されて第１の状態Ｆ２に遷移するまで、第６の状態ｆ１を継続し、
第１乃至第３のフラグを第２の映像信号と共に出力することを特徴とするシーケンス検出装置である。
【０００８】
請求項４の発明は、順次走査の第１の映像信号が２−３プルダウンによってインターレース走査の第２の映像信号に変換され、第２の映像信号のシーケンスがシーケンス検出装置によって検出され、シーケンス検出装置からの第２の映像信号とフラグとがエンコーダに供給される画像データ符号化装置において、
シーケンス検出装置は、
第２の映像信号の１フレームがトップフィールドおよびボトムフィールドによって構成され、
トップフィールドおよびボトムフィールドのそれぞれに関してフレーム間差分を演算し、フレーム間差分に基づいて第１の映像信号のフレーム周期で、第１のフラグＰＦ、第２のフラグＴＦＦおよび第３のフラグＲＦＦの組合せによって規定される複数の状態間で状態を遷移させ、
第１のフラグＰＦは、順次走査でｙ（ｙ：２進データの一方の値）となり、インターレス走査でｎ（ｎ：２進データの他方の値）となり、第２のフラグＴＦＦは、最初のフィールドがトップでｙとなり、これがボトムでｎとなり、第３のフラグＲＦＦは、繰り返しフィールドが存在する時にｙとなり、これが存在しない時にｎとなり、
シーケンス検出がロックしている場合では、第１の状態Ｆ２（ＰＦ，ＴＦＦ，ＲＦＦ＝ｙ，ｙ，ｙ）、第２の状態Ｆ３（ＰＦ，ＴＦＦ，ＲＦＦ＝ｙ，ｎ，ｎ）、第３の状態Ｆ４（ＰＦ，ＴＦＦ，ＲＦＦ＝ｙ，ｎ，ｙ）、第４の状態Ｆ１（ＰＦ，ＴＦＦ，ＲＦＦ＝ｙ，ｙ，ｎ）を順次遷移し、
第１の状態Ｆ２から第２の状態Ｆ３へ無条件で遷移し、
第３の状態Ｆ４から第４の状態Ｆ１へ無条件で遷移し、
第２の状態Ｆ３において、シーケンス検出のロックが外れたことを検出すると、第５の状態ｆ３（ＰＦ，ＴＦＦ，ＲＦＦ＝ｎ，ｎ，ｎ）に遷移し、第３の状態Ｆ４への遷移の条件が検出されて第３の状態Ｆ４に遷移するまで、第５の状態ｆ３を継続し、
第４の状態Ｆ１において、シーケンス検出のロックが外れたことを検出すると、第６の状態ｆ１（ＰＦ，ＴＦＦ，ＲＦＦ＝ｎ，ｙ，ｎ）に遷移し、第１の状態Ｆ２への遷移の条件が検出されて第１の状態Ｆ２に遷移するまで、第６の状態ｆ１を継続し、
第１乃至第３のフラグを第２の映像信号と共に圧縮符号化のエンコーダに対して出力し、
エンコーダは、インターレス走査と順次走査を区別する第１のフラグＰＦと連動して、フレーム予測とフィールド予測を区別するフラグをセットし、フラグに従ってフレーム予測方式およびフィールド予測方式の一方の圧縮符号化を行うようにしたことを特徴とする画像データ符号化装置である。
【００１１】
２：３プルダウンの素材の場合でも、ＣＭの挿入、編集等によってプルダウンのシーケンスが乱れることがある。その場合に、直前のフィールドの関係を維持したまま、順次走査からインターレス走査に信号として扱って符号化する。それによって、画面のブレが生じることを防止することができる。
【００１２】
【発明の実施の形態】
この発明の理解を容易とするために、毎秒２４コマのフィルム素材を毎秒３０フレームのＮＴＳＣ方式のテレビジョン素材に変換する処理、すなわち、２：３プルダウンの処理について図１を参照して説明する。フィルム素材は、毎秒２４コマであり、同一の画像の２フィールド（第１および第２フィールド）の画像を各コマから形成し、毎秒４８フィールドの画像信号を形成する。次に、フィルム素材の４コマ（８フィールド）をビデオ信号例えばＮＴＳＣ方式のビデオ信号の５フレーム（１０フィールド）へ変換する。
【００１３】
そして、図１において、略三角形で囲まれた３フィールドの中の時間的に最後のフィールドがフィールド数を増やすために繰り返されたフィールド、すなわち、リピートファーストフィールドである。リピートファーストフィールドは、５フレームに２回の割合で生じる。このように、２：３プルダウン処理がなされたビデオ信号に付随して、top field first （ＴＦＦと略称する）、repeat first field（ＲＦＦと略称する）の二つのフラグが伝送される。ＴＦＦは、フレームストラクチュアの場合、最初のフィールドがトップかボトムかを示すフラグである。ＲＦＦは、繰り返しフィールドの存在を示すフラグである。
【００１４】
画像圧縮符号化としてのＭＰＥＧ２では、５フレームに２回の割合で発生するフラグＲＦＦを参照して、繰り返しフィールドを除いた４フレーム分の画像データを符号化している。それにより符号化効率を高くすることができる。しかしながら、前述したように、繰り返しフィールドが挿入されるシーケンスが編集、ＣＭの挿入等により乱れるので、フラグＲＦＦのみでシーケンスを検出することは検出の正確性を損なう問題がある。
【００１５】
この発明の一実施形態においては、プルダウンのシーケンスを検出するために、トップフィールドとボトムフィールドの各フィールドに関してフレーム間差分を求める。フレーム間差分は、時間的に連続するフレームにそれぞれ属するトップフィールド（またはボトムフィールド）の画面上の同一位置の画素値の差分の絶対値を１画面の画素について積算したものである。フレーム間差分としては、画素値の差分の自乗和を積算したものでも良い。さらに、１画面の全画素について積算を行わずに、しきい値より大きな画素値の差分の絶対値を積算しても良い。
【００１６】
図２は、フレーム間差分を示すもので、Ｄ０，Ｄ２，Ｄ４，．．．がトップフィールドに関するフレーム間差分であり、Ｄ１，Ｄ３，Ｄ５，．．．がボトムフィールドに関するフレーム間差分である。例えばＤ０は、トップフィールドと１フレーム後のトップフィールドの間で、画面上の同じ位置の画素の値の差分を計算し、差分の絶対値を１フィールドにわたって積算した値である。
【００１７】
プルダウンのシーケンスを検出するためには、少なくとも３．５フレーム分のフレーム間差分を必要とする。そのため、求められたフレーム間差分をパイプラインレジスタにより４フレーム分記憶しておき、順次遅延させる。一方、画像データも、プルダウン判定ができるまで、同様にフレームメモリに蓄えられ、３フレーム分遅延される。
【００１８】
図２のタイミングチャート、図３の状態遷移図および図４のフローチャートを参照してプルダウンのシーケンスの検出処理について説明する。符号化を開始するために、エンコーダを初期化する時、プルダウンのシーケンスが見つかっていないので、インターレスの状態から開始する。なお、図２および図３において、状態については、Ｆ１，Ｆ２，Ｆ３，Ｆ４，ｆ１，ｆ３の参照符号が使用される。また、図３において、各状態を表す円形の領域内の３ビットは、ＭＰＥＧ２の規格で規定されているフラグの３ビットの値を示している。すなわち、３ビットは、（ＰＦ，ＴＦＦ，ＲＦＦ）である。
【００１９】
この発明の一実施形態では、これらの３個のフラグとそれぞれ対応する３ビットによって状態遷移が規定される。プルダウンのシーケンス検出がロックしている場合では、（１１１）の状態Ｆ２→（１００）の状態Ｆ３→（１０１）の状態Ｆ４→（１１０）の状態Ｆ１が１／２４（秒）周期で遷移する。
【００２０】
フラグＴＦＦは、上述したように、最初のフィールドがトップの場合で、（ＴＦＦ＝"1" ）となり、これがボトムの場合で、（ＴＦＦ＝"0" ）となるフラグである。ＲＦＦは、繰り返しフィールドの存在を示すフラグであり、繰り返しフィールドが存在するときに、（ＲＦＦ＝"1" ）となり、これが存在しないときに、（ＲＦＦ＝"0" ）となる。ＰＦは、Progressive Frame の略称であり、このピクチュアが順次（プログレッシブ）走査でできているか、インターレス走査でできているかを示すフラグである。順次走査のフレームで（ＰＦ＝"1" ）、インターレス走査のフレームで（ＰＦ＝"0" ）である。映画素材の場合では、毎秒２４フレームの各フレーム内の画素は、全て同一時間にサンプリングされたものであるので、順次走査のデータである。
【００２１】
符号化の最初では、インターレスの状態から開始し、また、最初のフィールドがトップであり、さらに、繰り返しフィールドがないので、（ＰＦ，ＴＦＦ，ＲＦＦ）＝（０１０）である。この状態をｆ１と表記する。フローチャートの最初のステップＳ１では、変数ｊの初期値が設定され、次のステップＳ２で、３個のフラグの値と対応する、状態レジスタの内容が（０１０）にセットされる。
【００２２】
ｆ１の状態でプルダウンのシーケンスが検出されるのを待機する。そして、次の条件を満たした場合には、プルダウンであると判定し、次のフレームでＦ２の状態に遷移する。状態Ｆ２は、（ＰＦ，ＴＦＦ，ＲＦＦ）＝（１１１）である。それ以外では、ｆ１の状態のままである。図４では、ステップＳ３およびＳ４の処理がなされ、下記の条件が満足されると、ステップＳ４の結果が肯定となり、ステップＳ５において、状態レジスタの内容が（１１１）とされる。ステップＳ４で、条件が満たされないと、ステップＳ２に処理が戻る。
【００２３】
Ｄ０−Ｄ２＞Ｔｐ  でかつ  Ｄ４−Ｄ２＞Ｔｐ  でかつ  Ｄ２＜Ｔｉ
ここで、Ｔｐは、検出のためのしきい値である。フレーム間差分Ｄ０およびＤ２の差、フレーム間差分Ｄ４およびＤ２の差をしきい値Ｔｐとそれぞれ比較する。これは、ノイズが多い画像の場合、フレーム間差分もノイズの影響を受けて変動しやすいため、フレーム間差分の差をとることによりノイズ成分をキャンセルするためである。素材によって、しきい値Ｔｐを変更する必要はない。
【００２４】
Ｔｉは、ノイズマージンを含んだ動き検出のしきい値であり、フレーム間差分そのものと比較する。しきい値Ｔｐ、動き検出しきい値Ｔｉは、実験的に求めるが、一般的なフィルム素材の場合では、ＴｐをＴｉに比べて十分に大きな値とする。このように条件を厳しくすることによって、前後のフレーム間差分が大きく、そのフレーム自身のフレーム間差分が小さいものを検出することができるので、シーケンスを正しく検出することができる。
【００２５】
状態Ｆ２では、ＰＦおよびＲＦＦが反転し、（ＰＦ，ＴＦＦ，ＲＦＦ）＝（１１１）となる。すなわち、順次走査であり（ＰＦ＝"1" ）、最初のフィールドがトップであり（ＴＦＦ＝"1" ）、繰り返しフィールドが存在する（ＲＦＦ＝"1" ）。圧縮符号化においては、この繰り返しフィールド（１フィールド）を間引いてフレームピクチャを構成する。Ｆ２の状態からは、無条件で次のフレームで、状態Ｆ３へ遷移する。図４では、ステップＳ６を経てステップＳ７に移り、状態レジスタの内容が（１００）とされる。
【００２６】
状態Ｆ３では、ＴＦＦおよびＲＦＦが反転し、（ＰＦ，ＴＦＦ，ＲＦＦ）＝（１００）となる。すなわち、順次走査であり（ＰＦ＝"1" ）、最初のフィールドがボトムであり（ＴＦＦ＝"0" ）、繰り返しフィールドが存在しない（ＲＦＦ＝"0" ）。この状態では、既にプルダウンのシーケンスが検出されているので、アンロック検出のみを行う。アンロックの検出は、プルダウンのシーケンスを検出しているロック状態から、これを検出できないアンロック状態に移行することを検出することである。例えばＣＭが挿入されている場合、編集がされている場合等では、プルダウンのシーケンスが乱れ、インターレスフレームが連続することがある。
【００２７】
そして、次の条件を満たした場合は、プルダウンではないと判定し、次のフレームで状態ｆ３へ遷移する。それ以外は、プルダウンと判断し、状態Ｆ４に遷移する。状態ｆ３では、（ＰＦ，ＴＦＦ，ＲＦＦ）＝（０００）となる。また、状態Ｆ４では、（ＰＦ，ＴＦＦ，ＲＦＦ）＝（１０１）となる。このように、状態Ｆ３からＰＦが"0" に反転し、ＴＦＦ，ＲＦＦが"0" のままの状態ｆ３に遷移し、シーケンス検出がロックするまで待機する。
【００２８】
Ｄ７≧Ｔｎ
Ｔｎは、ノイズマージンを含んだ動き検出のしきい値Ｔｉと同じでも良い。シーケンスが不連続になることが多いと予想される場合は、しきい値ＴｎをＴｉと同様に小さい値とし、不連続になることが少ないと予想される場合は、しきい値Ｔｎを大きな値として、アンロックを検出しにくくすることができる。
【００２９】
図４のフローチャートでは、ステップＳ８の後のステップＳ９において、上述した条件が満たされるかどうかが決定される。ステップＳ９では、（Ｄｋ＜Ｔｎ？）とされているので、否定の結果でステップＳ１０に処理が移り、状態レジスタの内容が（０００）とされる。一方、ステップＳ９の肯定の結果で、処理がステップＳ１３に移り、状態レジスタの内容が（１０１）とされる。
【００３０】
上述した条件検出に基づいて、状態Ｆ３から状態ｆ３への遷移を可能としている点がこの発明の特徴的な部分である。すなわち、状態ｆ３では、（ＴＦＦ＝"0" ）状態を引き継ぐが、（ＰＦ＝"0" ）として、インターレス走査の符号化を行う。なお、ＭＰＥＧ２のシンタックス（符号化規則）では、（ＲＦＦ＝"1" ）の連続を許していないので、（ＲＦＦ＝"0" ）である。この状態ｆ３は、最初の状態ｆ１と比較すると、フィールドが反転した対称的な状態である。状態ｆ３では、プルダウンシーケンスが再び検出されるのを待機する。
【００３１】
状態ｆ３において、次の条件が満たされる場合は、プルダウンと判定し、次のフレームで状態Ｆ４に遷移する。それ以外は、状態ｆ３のままである。
【００３２】
Ｄ５−Ｄ７＞Ｔｐ  且つ  Ｄ９−Ｄ７＞Ｔｐ  且つ  Ｄ７＜Ｔｉ
図４のフローチャートでは、ステップＳ１１の後のステップＳ１２が条件判定のステップである。ステップＳ１２の結果が肯定で、ステップＳ１３に処理移り、状態レジスタの内容が（１０１）とされる。そうでないと、ステップＳ１０に処理が戻り、ステップＳ１１を経てステップＳ１２で再び判定がなされる。
【００３３】
若し、状態ｆ３を設けないと、プルダウンのシーケンスが乱れた場合に、インターレスの状態ｆ１に戻すには、もう一度、（ＲＦＦ＝"1" ）の状態、すなわち、繰り返しフィールドが存在するものとして、１フレームの符号化を行う必要がある。その結果、この部分で画面のブレが発生する問題が生じる。状態ｆ３によってかかる問題を解決できる。
【００３４】
（ＰＦ，ＴＦＦ，ＲＦＦ）＝（１０１）の状態Ｆ４では、繰り返しフィールド（１フィールド）を間引いてフレームピクチャを構成する。状態Ｆ４からは、無条件で、次のフレームで状態Ｆ１に遷移する。図４のフローチャートでは、ステップＳ１４を経て、ステップＳ１５において、状態レジスタの内容が（１１０）とされる。
【００３５】
状態Ｆ１では、ＴＦＦが"1" に反転し、ＲＦＦが"0" に反転し、ＰＦは、"1" のままである。この状態Ｆ１では、既にプルダウンのシーケンスが検出されているので、アンロック検出のみを行う。次の条件を満たしている場合には、プルダウンではないと判定し、次のフレームで状態ｆ１に遷移する。それ以外では、状態Ｆ２へ遷移する。
【００３６】
Ｄ１２≧Ｔｎ
図４のフローチャートでは、ステップＳ１６の後の決定のステップＳ１７において、上述の条件が満たされるかどうかが決定される。但し、ステップＳ１７では、（Ｄｋ＜Ｔｎ？）とされているので、ステップＳ１７の結果が否定の場合に、ステップＳ２（ｆ１の状態）に処理が移り、その結果が肯定の場合に、ステップＳ５（状態Ｆ２）に処理が移る。
【００３７】
上述したように、プルダウンのシーケンスが連続する場合では、１／２４（秒）の周期で（Ｆ１→Ｆ２→Ｆ３→Ｆ４）の順に状態が遷移する。このプルダウンのシーケンスの検出に基づいて、繰り返しフィールドを間引く処理を行うと、５フレームで４枚のフレームピクチャが構成される。
【００３８】
なお、図３の状態遷移図に存在しない他の２つの状態、すなわち、（ＰＦ，ＴＦＦ，ＲＦＦ）＝（００１）、（ＰＦ，ＴＦＦ，ＲＦＦ）＝（０１１）は、ＰＦ＝"0" 、ＲＦＦ＝"1" となり、ＭＰＥＧ２のシンタックスでは、禁止されている状態である。
【００３９】
上述したフラグは、後述するようなフラグの処理を受けて、処理後のフラグがＭＰＥＧ２のエンコーダに対して出力される。また、ＴＦＦおよびＲＦＦは、符号化前にフィールドデータからフレームピクチャを構成する、フィールド／フレーム変換処理のために使用される。一方、ＰＦは、それに続くその他のフラグを連動させることによって、圧縮効率を高めることができる。
【００４０】
ＰＦと連動する他のフラグは、frame predictive frame DCT（ＦＰＦＤと表記する）、chroma 420 type （Ｃ４２０Ｔと表記する）、alternate scan（ＡＳと表記する）である。ＦＰＦＤは、フレームストラクチュアの場合、フレームモードＤＣＴの予測がフレームモードだけであることを示すフラグである。Ｃ４２０Ｔは、（４：２：０）の場合ではＰＦと同じ値であり、そうでない場合で"0" となるフラグである。ＡＳは、ジグザクスキャンを使うか、オルタネートスキャンを使うかの選択のフラグである。ＰＦとこれらのフラグの連動は、次に示すものである。
【００４１】
（ＰＦ，ＦＰＦＤ，Ｃ４２０Ｔ，ＡＳ）＝（１，１，１，０）
（ＰＦ，ＦＰＦＤ，Ｃ４２０Ｔ，ＡＳ）＝（０，０，０，１）
かかるフラグの処理によって、プルダウンのシーケンスが検出される、プルダウン素材では、（ＰＦ＝"1" ）であり、インターレス素材では、（ＰＦ＝"0" ）である。フラグＰＦに応じて符号化方法を最適なものとすることができる。フラグＦＰＦＤによって、プルダウン素材では、フレーム予測、フレームＤＣＴに固定することができ、インターレス素材の場合のみ、フィールド予測、フィールドＤＣＴに切り換える。
【００４２】
フラグＣ４２０Ｔによって、色差信号の間引き／補間方式をインターレス素材とプルダウン素材とで切り換えて色のにじみを防止することができる。さらに、ＡＳによって、オルタネートスキャンは、インターレス素材の場合に使用し、プルダウン素材では、通常のジグザクスキャンを使用する。オルタネートスキャンおよびジグザクスキャンは、共にＤＣＴで発生した係数データを１次元のデータ系列に変換する手法であり、オルタネートスキャンによって、インターレス成分を効率よく拾うことができる。
【００４３】
なお、上述したものに対して変形したフラグ処理が可能である。例えばフラグＦＰＦＤは、ＰＦ＝"0" になった場合には、同時に"0" とするが、ＰＦ＝"0" になった場合には、予測する画像がまだ順次走査になっていないので、次にＩピクチャが来るまで"0" のままとし、Ｉピクチャ以降に"1" としても良い。
【００４４】
上述のようなプルダウンの検出およびフラグの処理を行い、次に、ＭＰＥＧ２の符号化を行うようにしたこの発明の一実施形態の構成について、より具体的に説明する。図５は、一実施形態の構成の概要である。図５において、１で示す入力端子から（４：２：２）のビデオデータがビデオデータ処理部２に供給される。ビデオデータ処理部２において、上述したプルダウンのシーケンスの検出と、フラグの処理がなされる。ビデオデータ処理部２からのフラグおよびビデオデータがＭＰＥＧ２のエンコーダ３に供給される。エンコーダ３では、受け取ったフラグを使用してＭＰＥＧ２の符号化を行い、符号化出力（エレメンタリーストリーム）を発生する。フラグは、符号化出力中のヘッダとして挿入される。
【００４５】
図６を参照してビデオデータ処理部２について説明する。入力端子１に供給されたビデオデータがフレームメモリ２１およびフレーム間差分検出部２２に供給される。フレーム間差分検出部２２では、入力データとフレームメモリ２１からの前フレームのデータとが供給され、１フレーム離れたトップフィールド同士の同一位置の画素値の差分の絶対値と、１フレーム離れたボトムフィールド同士の同一位置の画素値の差分の絶対値とが演算される。演算されたフレーム間差分がシフトレジスタ２３に格納される。
【００４６】
プルダウン検出部２４は、シフトレジスタ２３に格納されているフレーム間差分を参照して、プルダウンのシーケンスを検出する。すなわち、図３の状態遷移図および図４のフローチャートを参照して説明したように、プルダウンのシーケンスを検出し、また、フラグの処理を行う。
【００４７】
フレームメモリ２１からのビデオデータがフィールド／フレーム変換部２５に供給される。フィールド／フレーム変換部２５では、５フレームに２回の割合で発生する繰り返しフィールドを間引いて４フレームのデータに変換する。具体的には、フィールド単位で記憶できるメモリが設けられ、繰り返しフィールドを除去し、２４フレーム／秒のデータがメモリから読出される。さらに、フィールド／フレーム変換部２５では、（４：２：２）から（４：２：０）の変換がなされる。この場合に、色差信号の間引き処理がプルダウン素材とインターレス素材とで切り換えられる。フィールド／フレーム変換部２５のこれらの処理は、プルダウン検出部２４からの出力フラグに基づいて制御される。
【００４８】
図７は、ビデオデータ処理部２の出力が供給されるＭＰＥＧ２エンコーダ３の一例を示す。ビデオデータ処理部２の出力端子２ａからのフラグと、出力端子２ｂからの（４：２：０）のビデオデータがＭＰＥＧ２エンコーダ３の入力端子３ａおよび３ｂにそれぞれ供給される。
【００４９】
ビデオデータは、動き検出部３２に供給され、動きベクトルが検出される。この場合、フラグＰＦ、ＦＰＦＤに基づいてフレーム予測とフィールド予測の一方が動き検出部３２に対して指示される。フラグは、レートコントロール、モードコントロール部３１に供給される。
【００５０】
レートコントロール、モードコントロール部３１は、符号化を制御する制御部である。フレームまたはフィールド単位でＭＰＥＧ２のエンコーダの各構成要素を制御し、入力画像データをＩピクチャ、Ｐピクチャ、Ｂピクチャの内のいずれかのピクチャタイプに圧縮処理を行う。さらに、量子化特性を制御し、符号化出力のレートを制御する。
【００５１】
動き検出部３２を通ったビデオデータが減算部３３に供給される。減算部３３には、動き補償部４０から動き補償されたローカル復号データが供給される。入力データとローカル復号データの差分データが減算部３３から発生する。この差分データがＤＣＴ部３４に供給される。ＤＣＴ部３４に対して、レートコントロール、モードコントロール部３１からフィールドＤＣＴとフレームＤＣＴとの一方を指示するコントロール信号が供給される。
【００５２】
ＤＣＴ部３４の出力が量子化部３５に供給される。量子化部３５には、レートコントロール、モードコントロール部３１から量子化特性を指定するコントロール信号が供給される。量子化部３５に対して逆量子化部３８、逆ＤＣＴ部３９および動き補償部４０からなるローカル復号部が接続される。すなわち、逆量子化部３８は、量子化部３５と逆の処理を行い、逆ＤＣＴ部３９は、ＤＣＴ部３４と逆の処理を行う。動き補償部４０からのローカル復号出力が減算部３３に供給され、予測誤差が検出される。動き補償部４０では、順方向予測、逆方向予測、双方向予測が可能とされている。
【００５３】
量子化部３５に対してスキャン部３６が接続される。スキャン部３６は、ＤＣＴの係数データを量子化したデータを１次元のデータに変換する部分である。スキャン部３６に対してレートコントロール、モードコントロール部３１からスキャン方法を指示するコントロール信号が供給される。上述したように、フレーム予測では、通常ジグザグスキャンでデータが出力され、フィールド予測では、オルタネートスキャンでデータが出力される。
【００５４】
スキャン部３６からのデータがＶＬＣ（可変長符号化）部３７に供給され、可変長符号化される。また、ＶＬＣ部３７は、レートコントロール用の情報をレートコントロール、モードコントロール部３１に対してフィードバックする。さらに、ＶＬＣ部３７では、伝送される付加的な情報がピクチャヘッダとして挿入される。ヘッダに挿入される情報は、レートコントロール、モードコントロール部３１からのフラグ等の情報、動き検出部３２からの動きベクトルである。ＶＬＣ部３７から出力端子４に対して、ＭＰＥＧ２の符号化出力が取り出される。
【００５５】
図７に示す構成は、一例であって、種々の変形が可能である。例えば動き検出を動き補償部４０において行うこともできる。
【００５６】
【発明の効果】
上述したこの発明は、２：３プルダウンのシーケンスが不連続な場合でも、不自然な動きが見えないように符号化することができる。この発明では、２：３プルダウンのシーケンス検出動作を常に働かせることによって、素材の特性を予め調べる必要がない。従って、リアルタイムで放送しながら、プルダウン素材が到来したら、自動的にフラグＲＦＦを発生させ、効率良く圧縮符号化を行うことができる。
【００５７】
また、この発明は、プルダウン検出に基づいて生成されるフラグＰＦに対して、他のフラグを連動させることによって、次のステップの圧縮符号化を素材に適したものに制御することができ、効率良く符号化を行うことが可能となる。さらに、この発明において、圧縮符号化としてＭＰＥＧ２を採用する場合では、ＭＰＥＧ２の規格を満足することによって、デコーダに対して一切の変更が要求されない利点がある。
【図面の簡単な説明】
【図１】この発明を適用することができる２：３プルダウンを説明するための略線図である。
【図２】２：３プルダウンのシーケンスを検出するのに使用するフレーム間差分の説明に用いる略線図である。
【図３】この発明の一実施形態における状態遷移を説明するための略線図である。
【図４】この発明の一実施形態を説明するためのフローチャートである。
【図５】この発明の一実施形態の全体的構成を示すブロック図である。
【図６】この発明の一実施形態におけるビデオデータ処理部の一例の構成を示すブロック図である。
【図７】この発明の一実施形態における圧縮符号化のエンコーダの一例の構成を示すブロック図である。
【符号の説明】
２・・・ビデオデータ処理部、３・・・ＭＰＥＧ２のエンコーダ、２２・・・フレーム間差分検出部、２４・・・プルダウン検出部、２５・・・フィールド／フレーム変換部、３２・・・動き検出部、３４・・・ＤＣＴ部、３５・・・量子化部、３６・・・スキャン部
【図１】
0004186239.tif 000002
【図２】
0004186239.tif 000003
【図３】
0004186239.tif 000004
【図４】
0004186239.tif 000005
【図５】
0004186239.tif 000006
【図６】
0004186239.tif 000007
【図７】
0004186239.tif 000008