(57)【特許請求の範囲】
【請求項１】
フィールド毎に偶数行のラインに配された画素の画像データと奇数行のラインに配された画素の画像データとが交互に入力され、画像データの入力されていないラインの各画素における被写体の動きを検出する動き検出装置において、
動きの検出が行われる第１画素の配されたラインの上下に隣接したラインに配されるとともに前記第１画素に隣接した第２画素及び第３画素の画像データの差分に基づいて閾値が定められ、
前記第１、第２、及び第３画素の２フィールド間の画像データの差分がそれぞれ前記閾値と比較されて得た結果に基づいて、前記第１画素に動きがあったか否かが検出されることを特徴とする動き検出装置。
【請求項２】
前記第１、第２及び第３画素を含む前記第１画素を中心に前記第１画素に近接した複数の画素それぞれにおける２フィールド間の画像データの差分が、各画素について設定された前記閾値と比較され、この複数の比較結果に基づいて、前記第１画素に動きがあったか否かが検出されることを特徴とする請求項１に記載の動き検出装置。
【請求項３】
動きの検出が行われる前記第１画素の配されたラインの上下いずれかに隣接したラインに配されるとともに前記第１画素に隣接した前記第２又は第３画素と前記第１画素との画像データの差分の絶対値が第１閾値より小さく、且つ、前記第１画素の２フィールド間における画像データの差分の絶対値が第２閾値より小さく、且つ、前記第２又は第３画素の２フィールド間における画像データの差分の絶対値が前記第２閾値より小さいとき、前記第１画素に動きがないものとされることを特徴とする請求項１又は請求項２に記載の動き検出装置。
【請求項４】
フィールド毎に偶数行のラインに配された画素の画像データと奇数行のラインに配された画素の画像データとが交互に入力され、画像データの入力されていないラインの各画素における被写体の動きを検出する動き検出装置において、
前記偶数行及び奇数行のラインのうち、動きの検出が行われる画素が配される一方のラインを第１ラインとするとともに、画像データを有する画素が配される他方のラインを第２ラインとし、
又、動きの検出が行われるフィールドを第１フィールド、該第１フィールドの１フィールド前に入力されたフィールドを第２フィールド、前記第１フィールドの２フィールド前に入力されたフィールドを第３フィールド、前記第１フィールドの３フィールド前に入力されたフィールドを第４フィールド、とし、
更に、現在動きの検出が行われる第１ライン上の画素を第１画素、該第１画素と隣接するとともに該第１画素と同列に配された前記第２ライン上の第２画素及び第３画素としたとき、
前記第２画素の前記第１フィールドにおける画像データと前記第３画素の前記第１フィールドにおける画像データの差分に基づいて、閾値を設定する閾値制御回路と、
前記第１画素の前記第２フィールド及び前記第４フィールドにおける画像データの差分、前記第２及び第３画素の前記第１フィールド及び前記第３フィールドにおける画像データの差分を求める差分演算回路と、
前記差分演算回路で求められた前記第１、第２及び第３画素の画像データの差分が、それぞれ、前記閾値制御回路で設定される閾値と比較され、前記第１、第２及び第３画素のうち、前記画像データの差分の絶対値が前記閾値より大きくなる画素に動きがあると判断される比較回路と、
前記比較回路より与えられる前記第１、第２及び第３画素を含む前記第１画素に近接した複数の画素についての比較結果に基づいて、前記第１画素に動きがあったか否かが検出される検出回路と、
を有することを特徴とする動き検出装置。
【請求項５】
前記比較回路が、
前記第１画素の前記第２フィールド及び前記第４フィールドにおける画像データの差分の絶対値と前記閾値とを比較するとともに、前記第１画素の画像データの差分の絶対値が前記閾値より大きいときは１を比較結果として出力し、又、前記第１画素の画像データの差分の絶対値が前記閾値より小さいときは０を比較結果として出力する第１比較回路と、
前記第２画素の前記第１フィールド及び前記第３フィールドにおける画像データの差分の絶対値と前記閾値とを比較するとともに、前記第２画素の画像データの差分の絶対値が前記閾値より大きいときは１を比較結果として出力し、又、前記第２画素の画像データの差分の絶対値が前記閾値より小さいときは０を比較結果として出力する第２比較回路と、
前記第３画素の前記第１フィールド及び前記第３フィールドにおける画像データの差分の絶対値と前記閾値とを比較するとともに、前記第３画素の画像データの差分の絶対値が前記閾値より大きいときは１を比較結果として出力し、又、前記第３画素の画像データの差分の絶対値が前記閾値より小さいときは０を比較結果として出力する第３比較回路と、を有し、
前記検出回路が、前記第１、第２及び第３比較回路のそれぞれから連続して出力される複数の比較結果に重み係数を乗じて重み付け加算を行い、該重み付け加算の結果が大きくなったとき、前記第１画素に動きが検出されることを特徴とする請求項４に記載の動き検出装置。
【請求項６】
前記検出回路において重み付け加算が行われる際、前記第１、第２及び第３画素を含む前記第１画素に近接した複数の画素に関する前記比較回路における比較結果に乗ずる重み係数が、前記第１画素に離れた位置に配される画素ほど小さいことを特徴とする請求項５に記載の動き検出装置。
【請求項７】
前記閾値設定回路において、前記第２画素の画像データと前記第３画素の画像データの差分の絶対値が小さいとき前記閾値の値が小さく、又、前記第２画素の画像データと前記第３画素の画像データの差分の絶対値が大きいとき、前記閾値の値が大きくなるように設定されることを特徴する請求項４〜請求項６のいずれかに記載の動き検出装置。
【請求項８】
前記前記第２画素の画像データと前記第３画素の画像データの差分の絶対値をｄ、前記閾値をTHとしたとき、
前記閾値THと前記画像データの差分の絶対値ｄの関係が、min、max、αを定数としたとき、
TH＝min＋(ｄ−α)（min≦TH≦max）
を満たすような関係になるように、前記閾値設定回路において、前記閾値が設定されることを特徴する請求項４〜請求項６のいずれかに記載の動き検出装置。
【請求項９】
前記第１画素の前記第２フィールドにおける画像データと前記第２画素の前記第１フィールドにおける画像データとの差分が第１閾値より小さく、且つ、前記第１画素の画像データの第２フィールド及び第４フィールドにおける画像データの差分が第２閾値より小さく、且つ、前記第２画素の画像データの第１フィールド及び第３フィールドにおける画像データの差分が前記第２閾値より小さいとき、
又は、前記第１画素の前記第２フィールドにおける画像データと前記第３画素の前記第１フィールドにおける画像データとの差分が前記第１閾値より小さく、且つ、前記第１画素の画像データの第２フィールド及び第４フィールドにおける画像データの差分が前記第２閾値より小さく、且つ、前記第３画素の画像データの第１フィールド及び第３フィールドにおける画像データの差分が前記第２閾値より小さいとき、
前記比較回路より出力される前記比較結果に関係なく、前記第１画素に動きがないものとされることを特徴とする請求項４〜請求項８のいずれかに記載の動き検出装置。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、動画が再生される際において、各フィールド毎に再生される被写体の動きを検出するための動き検出装置に関する。
【０００２】
【従来の技術】
インターレース方式で撮影された画像は、各フィールド毎に偶数ラインの画素と奇数ラインの画素とが交互に撮像動作が行われることによって撮影される。よって、このようなインターレース方式で撮影された画像を再生する場合、各フィールド毎に撮影時の画像データを有していない画素の画像データを補間する必要がある。このように、画像データのない画素における画像データの補間を行う方法として、近接した複数の画素の画像データに基づいて補間する空間的な補間方法と、現在再生されているフィールドの前後複数のフィールドにおける同一画素の画像データに基づいて補間する時間的な補間方法とがある。
【０００３】
そして、この空間的な補間方法と時間的な補間方法のいずれを使用して画像データの補間を行うか、画像上の被写体の動きを検出することによって判断されている。即ち、動きのある被写体を撮像している画素の画像データは空間的な補間方法によって、又、動きのない被写体を撮像している画素の画像データは時間的な補間方法によって、それぞれ補間される。このように、各画素が撮像している被写体の動きの状態に応じて、補間方法を切り換えることによって、各フィールドにおける再生画像を、撮像された被写体により忠実な画像とすることができる。
【０００４】
このような動きを検出するために、従来は、偶数フィールド同士又は奇数フィールド同士における同一画素の画像データの差分を演算し、この差分と所定の閾値とを比較することによって、動きの検出を行っていた。即ち、補間される画素で撮像される被写体の動きを検出するために、１フィールド前のフィールドと３フィールド前のフィールドの補間される画素における画像データの差を、所定の閾値と比較し、その差が閾値より大きくなったとき、補間される画素によって撮像された被写体に動きがあるものと判断される。
【０００５】
【発明が解決しようとする課題】
このように同一画素におけるフィールド間の画像データの差を所定の閾値と比較することによって、補間される画素によって撮像された被写体に動きがあるか否かが判断される。このように比較する閾値を一定とすることによって、例えば、再生される現フィールドの前のフィールドまで動きがあったが、現フィールドにおいて動きがなくなった場合においても、前のフィールドまで動きがあるため、現フィールドにおいても動きがあるものと誤って判断される。よって、実際は隣接したフィールドの画像データの値がほぼ等しいために時間的な補間を行う方が最適であるが、空間的な補間を行われるために、実際の画像に忠実なものとできず、動画再生される際にちらつきなどが発生することがある。
【０００６】
このような問題を鑑みて、本発明は、動きの検出される画素周辺の画素の画像データを用いることで、その検出精度をより向上させた動き検出装置を提供することを目的とする。
【０００７】
【課題を解決するための手段】
上記目的を達成するために、請求項１に記載の動き検出装置は、フィールド毎に偶数行のラインに配された画素の画像データと奇数行のラインに配された画素の画像データとが交互に入力され、画像データの入力されていないラインの各画素における被写体の動きを検出する動き検出装置において、動きの検出が行われる第１画素の配されたラインの上下に隣接したラインに配されるとともに前記第１画素に隣接した第２画素及び第３画素の画像データの差分に基づいて閾値が定められ、前記第１、第２、及び第３画素の２フィールド間の画像データの差分がそれぞれ前記閾値と比較されて得た結果に基づいて、前記第１画素に動きがあったか否かが検出されることを特徴とする。
【０００８】
このような動き検出装置において、第２画素と第３画素の画像データの差分が大きくなるとき、動き検出の判定基準が厳しくなるように、閾値を設定するようにして、例えば後続に補間回路が接続される場合、この動き検出装置で検出した結果を補間回路に与え、第２画素と第３画素の画像データの差分が小さくなる場合でも、誤って時間的な補間が行わることを防ぎ、又、第２画素と第３画素の画像データの差分が大きくなる場合でも、誤って空間的な補間が行われることを防ぐ。このように補間されたとき、より自然的な画像が再生される。
【０００９】
又、請求項２に記載するように、前記第１、第２及び第３画素を含む前記第１画素を中心に前記第１画素に近接した複数の画素それぞれにおける２フィールド間の画像データの差分が、各画素について設定された前記閾値と比較され、この複数の比較結果に基づいて、前記第１画素に動きがあったか否かが検出されるようにしても構わない。
【００１０】
このようにしたとき、例えば、前記閾値と比較されて得た結果を重み付け加算することによって得た結果より、第１画素に動きがあったか否かが検出されるようにしても構わない。又、このとき、重み付け係数が、第１画素に離れた位置の画素における比較結果に与えられるものほど小さくなるようにして、第１画素の比較結果に重みを置くようにしても構わない。
【００１１】
請求項３に記載の動き検出装置は、フィールド毎に偶数行のラインに配された画素の画像データと奇数行のラインに配された画素の画像データとが交互に入力され、画像データの入力されていないラインの各画素における被写体の動きを検出する動き検出装置において、動きの検出が行われる第１画素の配されたラインの上下いずれかに隣接したラインに配されるとともに前記第１画素に隣接した第２画素と前記第１画素との画像データの差分の絶対値が第１閾値より小さく、且つ、前記第１画素の２フィールド間における画像データの差分の絶対値が第２閾値より小さく、且つ、前記第２画素の２フィールド間における画像データの差分の絶対値が前記第２閾値より小さいとき、前記第１画素に動きがないものとされることを特徴とする。
【００１２】
例えば、第１画素に字幕が表示される場合、第１画素の２フィールド間における画像データ、及び、第１画素の上下に隣接した少なくとも一方のラインに配された第２画素の２フィールド間における画像データは、それぞれ、略等しい値となる。又、この隣接した第１画素及び第２画素の画像データについても略等しい値となる。よって、第１及び第２画素の画像データによる差分が第１閾値より小さく、且つ、第１及び第２画素の２フィールド間における画像データの差分が第２閾値より小さいとき、第１画素に動きがないものと見なされる。
【００１３】
請求項４に記載の動き検出装置は、フィールド毎に偶数行のラインに配された画素の画像データと奇数行のラインに配された画素の画像データとが交互に入力され、画像データの入力されていないラインの各画素における被写体の動きを検出する動き検出装置において、前記偶数行及び奇数行のラインのうち、動きの検出が行われる画素が配される一方のラインを第１ラインとするとともに、画像データを有する画素が配される他方のラインを第２ラインとし、又、動きの検出が行われるフィールドを第１フィールド、該第１フィールドの１フィールド前に入力されたフィールドを第２フィールド、前記第１フィールドの２フィールド前に入力されたフィールドを第３フィールド、前記第１フィールドの３フィールド前に入力されたフィールドを第４フィールド、とし、更に、現在動きの検出が行われる第１ライン上の画素を第１画素、該第１画素と隣接するとともに該第１画素と同列に配された前記第２ライン上の第２画素及び第３画素としたとき、前記第２画素の前記第１フィールドにおける画像データと前記第３画素の前記第１フィールドにおける画像データの差分に基づいて、閾値を設定する閾値制御回路と、前記第１画素の前記第２フィールド及び前記第４フィールドにおける画像データの差分、前記第２及び第３画素の前記第１フィールド及び前記第３フィールドにおける画像データの差分を求める差分演算回路と、前記差分演算回路で求められた前記第１、第２及び第３画素の画像データの差分が、それぞれ、前記閾値制御回路で設定される閾値と比較され、前記第１、第２及び第３画素のうち、前記画像データの差分の絶対値が前記閾値より大きくなる画素に動きがあると判断される比較回路と、前記比較回路より与えられる前記第１、第２及び第３画素を含む前記第１画素に近接した複数の画素についての比較結果に基づいて、前記第１画素に動きがあったか否かが検出される検出回路と、を有することを特徴とする。
【００１４】
このような動き検出装置において、請求項５に記載するように、前記比較回路が、前記第１画素の前記第２フィールド及び前記第４フィールドにおける画像データの差分の絶対値と前記閾値とを比較するとともに、前記第１画素の画像データの差分の絶対値が前記閾値より大きいときは１を比較結果として出力し、又、前記第１画素の画像データの差分の絶対値が前記閾値より小さいときは０を比較結果として出力する第１比較回路と、前記第２画素の前記第１フィールド及び前記第３フィールドにおける画像データの差分の絶対値と前記閾値とを比較するとともに、前記第２画素の画像データの差分の絶対値が前記閾値より大きいときは１を比較結果として出力し、又、前記第２画素の画像データの差分の絶対値が前記閾値より小さいときは０を比較結果として出力する第２比較回路と、前記第３画素の前記第１フィールド及び前記第３フィールドにおける画像データの差分の絶対値と前記閾値とを比較するとともに、前記第３画素の画像データの差分の絶対値が前記閾値より大きいときは１を比較結果として出力し、又、前記第３画素の画像データの差分の絶対値が前記閾値より小さいときは０を比較結果として出力する第３比較回路と、を有し、前記検出回路が、前記第１、第２及び第３比較回路のそれぞれから連続して出力される複数の比較結果に重み係数を乗じて重み付け加算を行い、該重み付け加算の結果が大きくなったとき、前記第１画素に動きが検出されるようにしても構わない。
【００１５】
更に、請求項６に記載するように、前記検出回路において重み付け加算が行われる際、前記第１、第２及び第３画素を含む前記第１画素に近接した複数の画素に関する前記比較回路における比較結果に乗ずる重み係数が、前記第１画素に離れた位置に配される画素ほど小さくなるようにしても構わない。このようにすることで、重み付け加算が行われる際、第１画素の比較結果に重みをおくとともに、周囲に近接する画素の関連性を考慮して動きを検出することができる。
【００１６】
請求項４〜請求項６のいずれかに記載の動き検出装置において、請求項７に記載の動き検出装置は、前記閾値設定回路において、前記第２画素の画像データと前記第３画素の画像データの差分の絶対値が小さいとき前記閾値の値が小さく、又、前記第２画素の画像データと前記第３画素の画像データの差分の絶対値が大きいとき、前記閾値が大きくなるように設定されることを特徴する。
【００１７】
例えば、動き検出装置の後続に補間回路を接続したとき、動き検出装置で動きがあると判断された画素については、空間的な補間が行われ、又、動きがないと判断された画素については、時間的な補間が行われる。このようにしたとき、補間される画素の上下に隣接した画素の画像データの差が小さいとき、補間する画素において動きがない場合でも、空間的な補間を行うことによって再生された画像が、人間の目に自然に映ることがある。よって、第２及び第３画素の画像データの差が小さいとき、動きが検出されやすくなるよう、閾値の値が小さくなるように設定される。
【００１８】
請求項８に記載の動き検出装置は、請求項４〜請求項６のいずれかに記載の動き検出装置において、前記前記第２画素の画像データと前記第３画素の画像データの差分の絶対値をｄ、前記閾値をTHとしたとき、前記閾値THと前記画像データの差分の絶対値ｄの関係が、min、max、αを定数としたとき、TH＝min＋(ｄ−α)（min≦TH≦max）を満たすような関係になるように、前記閾値設定回路において、前記閾値が設定されることを特徴する。
【００１９】
請求項９に記載の動き検出装置は、請求項４〜請求項７のいずれかに記載の動き検出装置において、前記第１画素の前記第２フィールドにおける画像データと前記第２画素の前記第１フィールドにおける画像データとの差分が第１閾値より小さく、且つ、前記第１画素の画像データの第２フィールド及び第４フィールドにおける画像データの差分が第２閾値より小さく、且つ、前記第２画素の画像データの第１フィールド及び第３フィールドにおける画像データの差分が前記第２閾値より小さいとき、又は、前記第１画素の前記第２フィールドにおける画像データと前記第３画素の前記第１フィールドにおける画像データとの差分が前記第１閾値より小さく、且つ、前記第１画素の画像データの第２フィールド及び第４フィールドにおける画像データの差分が前記第２閾値より小さく、且つ、前記第３画素の画像データの第１フィールド及び第３フィールドにおける画像データの差分が前記第２閾値より小さいとき、前記比較回路より出力される前記比較結果に関係なく、前記第１画素に動きがないものとされることを特徴とする。
【００２０】
例えば、第１画素に字幕が表示される場合、第１画素の２フィールド間における画像データ、及び、第２又は第３画素における画像データは、それぞれ、略等しい値となる。又、この隣接した第１画素の画像データと第２又は第３画素の画像データについても略等しい値となる。よって、第１画素の画像データと第２又は第３画素の画像データによる差分が第１閾値より小さく、且つ、第１画素と第２又は第３画素の２フィールド間における画像データの差分が第２閾値より小さいとき、第１画素に動きがないものと見なされる。このようにすることで、第１画素が字幕表示などの動きのない場合にあっても、検出回路で動きがあると誤検出することがなくなる。
【００２１】
【発明の実施の形態】
＜第１の実施形態＞
本発明の第１の実施形態について、図面を参照して説明する。図１は、本実施形態の動き検出装置の内部構成を示すブロック図である。
【００２２】
図１の動き検出装置は、１フィールド分の画像データを格納するフィールドメモリ１，２，３，４と、フィールドメモリ１，３から出力される同一画素における画像データを減算する減算回路５と、フィールドメモリ２，４から出力される同一画素における画像データを減算する減算回路６と、減算回路５，６の出力の絶対値をそれぞれ演算する絶対値演算回路７，８と、絶対値演算回路７，８の出力を閾値制御回路１１で設定される閾値と比較する比較回路９，１０と、フィールドメモリ１より与えられる画像データに基づいて閾値の値を制御する閾値制御回路１１と、比較回路９，１０からの出力を重み付け加算する加算回路１２と、加算回路１２の出力より動きの検出を行う動き検出回路１３とを有する。
【００２３】
この動き検出装置は、入力される１フィールド分の画像データがフィールドメモリ１に格納される。このフィールドメモリ１に格納された１フィールド分の画像データは、フィールドメモリ２及び減算回路５及び閾値制御回路１１に送出される。又、フィールドメモリ２に格納された１フィールド分の画像データは、フィールドメモリ３及び減算回路６に送出され、フィールドメモリ３に格納された１フィールド分の画像データがフィールドメモリ４及び減算回路５に送出される。そして、フィールドメモリ４に格納された１フィールド分の減算回路６に送出される。
【００２４】
よって、フィールドメモリ１には、動き検出するためのフィールドである現フィールド（以下、「第１フィールド」と呼ぶ）の画像データが格納される。そして、フィールドメモリ２には現フィールドの１フィールド前のフィールド（以下、「第２フィールド」と呼ぶ）の画像データが、フィールドメモリ３には現フィールドの２フィールド前のフィールド（以下、「第３フィールド」と呼ぶ）の画像データが、フィールドメモリ４には現フィールドの３フィールド前のフィールド（以下、「第４フィールド」と呼ぶ）の画像データが、それぞれ格納される。そして、減算回路５では、第１フィールドと第３フィールドの同一画素における画像データの差分が求められるとともに、減算回路６では、第２フィールドと第４フィールドの同一画素における画像データの差分が求められる。
【００２５】
このとき、後続の不図示の補間回路で補間されるとともに動きの検出対象とされる対象画素に隣接された複数の画素の２フィールド間における画像データの差が求められる。即ち、図２のように配列している３ライン分の画素において、その中心のラインＬ２に配置される各画素の画像データが補間されるとき、ラインＬ２の上下のラインＬ１，Ｌ３に配置される各画素の第１フィールドと第３フィールドの差分が減算回路５で、ラインＬ２に配置される各画素の第２フィールドと第４フィールドの差分が減算回路６で、それぞれ求められる。
【００２６】
この減算回路５，６で求められた第１フィールドと第３フィールドとの差分、及び第２及び第４フィールドとの差分が、絶対値演算回路７，８に与えられると、絶対値演算回路７，８で、第１フィールドと第３フィールドとの差分の絶対値、及び第２及び第４フィールドとの差分の絶対値が求められる。よって、図２のように、画素Ｇａ〜Ｇｉが３ライン分配列されているとき、絶対値演算回路７においてラインＬ１に配列される画素Ｇａ，Ｇｂ，Ｇｃ及びラインＬ３に配列される画素Ｇｇ，Ｇｈ，Ｇｉの第１フィールドと第３フィールドの差分の絶対値が、絶対値演算回路８においてラインＬ２に配列される画素Ｇｄ，Ｇｅ，Ｇｆの第２フィールドと第４フィールドの差分の絶対値が、それぞれ求められる。
【００２７】
今、画素Ｇａ〜Ｇｃ，Ｇｇ〜Ｇｉの第１フィールドの画像データをga1〜gc1，gg1〜gi1と、画素Ｇａ〜Ｇｃ，Ｇｇ〜Ｇｉの第３フィールドの画像データをga3〜gc3，gg3〜gi3と、画素Ｇｄ〜Ｇｆの第２フィールドの画像データをgd2〜gf2と、画素Ｇｄ〜Ｇｆの第４フィールドの画像データをgd4〜gf4と、する。このとき、減算回路６及び絶対値演算回路８において、画素Ｇｄの画像データの第２フィールドと第４フィールドとの差分の絶対値|gd2−gd4|が求められるとき、減算回路５及び絶対値演算回路７において、画素Ｇａ，Ｇｇの画像データの第１フィールドと第３フィールドとの差分の絶対値|ga1−ga3|、|gg1−gg3|が求められる。
【００２８】
又、減算回路６及び絶対値演算回路８において、画素Ｇｅの画像データの第２フィールドと第４フィールドとの差分の絶対値|ge2−ge4|が求められるとき、減算回路５及び絶対値演算回路７において、画素Ｇｂ，Ｇｈの画像データの第１フィールドと第３フィールドとの差分の絶対値|gb1−gb3|、|gh1−gh3|が求められる。更に、減算回路６及び絶対値演算回路８において、画素Ｇｆの画像データの第２フィールドと第４フィールドとの差分の絶対値|gf2−gf4|が求められるとき、減算回路５及び絶対値演算回路７において、画素Ｇｃ，Ｇiの画像データの第１フィールドと第３フィールドとの差分の絶対値|gc1−gc3|、|gi1−gi3|が求められる。
【００２９】
このように、減算回路６，７及び絶対値演算回路８，９において、各画素における２フィールド間での画像データの差分が求められたとき、閾値制御回路１１によって、フィールドメモリ１より与えられる第１フィールドの画像データより、各画素毎の比較回路９，１０における閾値が設定される。このとき、対象画素が配されるラインＬ２の上下のラインＬ１，Ｌ３に配される２画素間の第１フィールドにおける画像データの差分の絶対値を求め、このラインＬ１，Ｌ３に配される２画素間の画像データの差分の絶対値に基づいて、比較回路９，１０に与える閾値が設定される。
【００３０】
即ち、画素Ｇｄが対象画素となるときは、画素Ｇａ，Ｇｇの第１フィールドにおける画像データの差分の絶対値|ga1−gg1|に基づいて、画素Ｇｅが対象画素となるときは、画素Ｇｂ，Ｇｈの第１フィールドにおける画像データの差分の絶対値|gb1−gh1|に基づいて、画素Ｇｆが対象画素となるときは、画素Ｇｃ，Ｇｉの第１フィールドにおける画像データの差分の絶対値|gc1−gi1|に基づいて、それぞれ、比較回路９，１０に与える閾値が設定される。
【００３１】
このように閾値が設定される際、対象画素の上下２画素間の画像データの差分の絶対値をｄとしたとき、この差分の絶対値ｄに対して、図３のグラフのような関係に基づいて、閾値THが求められる。即ち、閾値THと差分の絶対値ｄの関係が、以下の（１）式で表される。尚、min、max、αは定数である。
TH＝min＋(ｄ−α)  (min≦TH≦max)    …  （１）
【００３２】
よって、今、画素Ｇｅが対象画素となるとき、閾値制御回路１１において、まず、フィールドメモリ１より与えられる画素Ｇｂ，Ｇｈの第１フィールドにおける画像データの差分の絶対値|gb1−gh1|が求められる。そして、上記の（１）式に基づいて、閾値THが求められる。即ち、閾値THが以下のようになる。尚、β＝max−min＋αである。
|gb1−gh1|≦αのとき  TH＝min
α＜|gb1−gh1|＜βのとき  TH＝min＋(|gb1−gh1|−α)
|gb1−gh1|≧βのとき  TH＝max
【００３３】
このようにして求められた閾値THが比較回路９，１０に与えられて、絶対値演算回路７，８からの出力と比較され、絶対値演算回路７，８からの出力が閾値THより大きいとき動きがあるものとし、動き情報として“１”を出力し、絶対値演算回路７，８からの出力が閾値THより小さいとき動きがあるものとし、動き情報として“０”を出力する。
【００３４】
即ち、画素Ｇｅが対象画素となるときは、絶対値演算回路７から出力される画素Ｇｂ，Ｇｈの第１フィールド及び第３フィールドの画像データの差分の絶対値|gb1−gb3|、|gh1−gh3|がそれぞれ、比較回路９において閾値制御回路１１から与えられる閾値THと比較され、動き情報が出力される。又、絶対値演算回路８から出力される画素Ｇｅの第２フィールド及び第４フィールドの画像データの差分の絶対値|ge2−ge4|が、比較回路１０において閾値制御回路１１から与えられる閾値THと比較され、動き情報が出力される。
【００３５】
そして、各画素毎の動き情報が比較回路９，１０より加算回路１２に出力されると、対象画素及びこの対象画素に近接する複数の画素の動き情報に、重み付けを行って加算される。このとき、対象画素を中心としたとき、対象画素の動き情報にもっとも大きい重み係数を与え、この対象画素より離れた位置にある画素ほど、与えられる重み係数の値が小さくなるように、重み付けが施される。尚、本実施形態では、対象画素を中心に９つの画素の動き情報の重み付け加算が行われるものとする。
【００３６】
即ち、図２において、画素Ｇｅが対象画素となるものとすると、比較回路９より与えられる画素Ｇａ〜Ｇｃ，Ｇｇ〜Ｇｉの動き情報Ａ〜Ｃ，Ｇ〜Ｉ、及び、比較回路１０より与えられる画素Ｇｄ〜Ｇｆの動き情報Ｄ〜Ｆが、加算回路１２で以下の（２）式のようにして重み付け加算され、動き加算レベルｍが求められる。尚、ka〜kfを重み付け係数とする。
0003653450.tif 000002
【００３７】
このようにして動き加算レベルｍが求められる際、重み付け係数は、例えば、ka＝１，kb＝２，kc＝１，kd＝２，ke＝４，kf＝２，kg＝１，kh＝２，ki＝１のように、以下のような関係になるようにして設定される。
ka＝kc＝kg＝ki≦kb＝kd＝kf＝kh≦ke
【００３８】
尚、更に多くの動き情報に基づいて、加算回路１２で重み加算が行われる際、重み係数を以下のように定めても構わない。以下の３例は、対象画素を中心に水平方向に２ｍ−１、垂直方向に２ｎ−１、配列された(２ｍ−１)×(２ｎ−１)の画素（即ち、２ｍ−１個の画素が配される２ｎ−１行分の画素）による動き情報が重み加算された場合において定められる重み係数の例である。
【００３９】
１．設定される重み係数の第１例
今、２ｎ−１行のラインを上から順に、ラインＬ1，Ｌ2，…Ｌ2n-1とする。このとき、ラインＬ1，Ｌ2n-1に配された画素から得られる動き情報に乗算される重み係数が、ラインＬnに配された対象画素からの距離が近い位置の画素から順に、ｍ，ｍ−１，ｍ−２，…，１とされる。即ち、ラインＬ1，Ｌ2n-1に配された画素から得られる動き情報に乗算される重み係数が左から順に、１，２，…，ｍ−１，ｍ，ｍ−１，…，２，１とされる。
【００４０】
又、対象画素に対して垂直方向に１画素分近い位置に配列されるラインＬ2，Ｌ2n-2上の画素から得られる動き情報に乗算される重み係数は、それぞれ、ラインＬ1，Ｌ2n-1上の画素から得られる動き情報に乗算される重み係数に１を加えた、２，３，…，ｍ，ｍ＋１，ｍ，…，３，２とされる。そして、更に垂直方向に１画素近い位置に配列されるラインＬ3，Ｌ2n-3上の画素から得られる動き情報に乗算される重み係数は、それぞれ、ラインＬ2，Ｌ2n-2上の画素から得られる動き情報に乗算される重み係数に１を加えた、３，４，…，ｍ＋１，ｍ＋２，ｍ＋１，…，４，３とされる。そして、対象画素が配されるラインＬnの画素から得られる動き情報に乗算される重み係数は、ｎ，ｎ＋１，…，ｍ＋ｎ−２，ｍ＋ｎ−１，ｍ＋ｎ−２，…，ｎ＋１，ｎとされる。
【００４１】
このようにして、ラインの位置が動き検出される画素に対して１画素分近い位置に配されると、ライン上の画素から得られる動き情報に乗算される重み係数が、それぞれ１画素分遠い位置に配されたライン上の画素から得られる動き情報に乗算される重み係数に１を加えた値となる。
【００４２】
よって、左側から１列目又は２ｍ−１列目に配された画素から得られる動き情報に乗算される重み係数は、上から順に１，２，…，ｎ−１，ｎ，ｎ−１，…，２，１とされる。又、左側から２列目又は２ｍ−２列目に配された画素から得られる動き情報に乗算される重み係数は、上から順に、左側から１列目又は２ｍ−１目に配された画素から得られる動き情報に乗算される重み係数に１を加えた、２，３，…，ｎ，ｎ＋１，ｎ，…，３，２とされる。更に、左側から３列目又は２ｍ−３列目に配された画素から得られる動き情報に乗算される重み係数は、上から順に、左側から２列目又は２ｍ−２目に配された画素から得られる動き情報に乗算される重み係数に１を加えた、３，４，…，ｎ＋１，ｎ＋２，ｎ＋１，…，４，３とされる。そして、対象画素が配されるｍ列目に配された画素から得られる動き情報に乗算される重み係数は、ｍ，ｍ＋１，…，ｍ＋ｎ−２，ｍ＋ｎ−１，ｍ＋ｎ−２，…，ｍ＋１，ｍとされる。
【００４３】
２．設定される重み係数の第２例
今、２ｎ−１行のラインを上から順に、ラインＬ1，Ｌ2，…Ｌ2n-1とする。このとき、ラインＬ1，Ｌ2n-1に配された画素から得られる動き情報に乗算される重み係数が、ラインＬnに配された対象画素からの距離が近い位置の画素から順に、ｍ，ｍ−１，ｍ−２，…，１とされる。即ち、ラインＬ1，Ｌ2n-1に配された画素から得られる動き情報に乗算される重み係数が左から順に、１，２，…，ｍ−１，ｍ，ｍ−１，…，２，１とされる。
【００４４】
又、対象画素に対して垂直方向に１画素分近い位置に配列されるラインＬ2，Ｌ2n-2上の画素から得られる動き情報に乗算される重み係数は、それぞれ、ラインＬ1，Ｌ2n-1上の画素から得られる動き情報に乗算される重み係数に２を乗じた、２，４，…，２×(ｍ−１)，２×ｍ，２×(ｍ−１)，…，４，２とされる。そして、更に垂直方向に１画素近い位置に配列されるラインＬ3，Ｌ2n-3上の画素から得られる動き情報に乗算される重み係数は、それぞれ、ラインＬ2，Ｌ2n-2上の画素から得られる動き情報に乗算される重み係数に２を乗じた、４，８，…，４×(ｍ−１)，４×ｍ，４×(ｍ−１)，…，８，４とされる。そして、対象画素が配されるラインＬnの画素から得られる動き情報に乗算される重み係数は、２n-1，２n-1×２，…，２n-1×(ｍ−１)，２n-1×ｍ，２n-1×(ｍ−１)，…，２n-1×２，２n-1とされる。
【００４５】
このようにして、ラインの位置が対象画素に対して１画素分近い位置に配されると、ライン上の画素から得られる動き情報に乗算される重み係数が、それぞれ１画素分遠い位置に配されたライン上の画素から得られる動き情報に乗算される重み係数に２を乗じた値となる。
【００４６】
よって、左側から１列目又は２ｍ−１列目に配された画素から得られる動き情報に乗算される重み係数は、上から順に１，２，…，２n-2，２n-1，２n-2，…，２，１とされる。又、左側から２列目又は２ｍ−２列目に配された画素から得られる動き情報に乗算される重み係数は、上から順に、２，４，…，２n-2×２，２n-1×２，２n-2×２，…，４，２とされる。更に、左側から３列目又は２ｍ−３列目に配された画素から得られる動き情報に乗算される重み係数は、上から順に、３，６，…，２n-2×３，２n-1×３，２n-2×３，…，６，３とされる。そして、対象画素が配されるｍ列目に配された画素から得られる動き情報に乗算される重み係数は、ｍ，２×ｍ，…，２n-2×ｍ，２n-1×ｍ，２n-2×ｍ，…，２×ｍ，ｍとされる。
【００４７】
３．設定される重み係数の第３例
今、２ｎ−１行のラインを上から順に、ラインＬ1，Ｌ2，…Ｌ2n-1とする。このとき、ラインＬ1，Ｌ2n-1に配された画素から得られる動き情報に乗算される重み係数が、ラインＬnに配された対象画素からの距離が近い位置の画素から順に、２m-1，２m-2，２m-3，…，１とされる。即ち、ラインＬ1，Ｌ2n-1に配された画素から得られる動き情報に乗算される重み係数が左から順に、１，２，…，２m-2，２m-1，２m-2，…，２，１とされる。
【００４８】
又、対象画素に対して垂直方向に１画素分近い位置に配列されるラインＬ2，Ｌ2n-2上の画素から得られる動き情報に乗算される重み係数は、それぞれ、ラインＬ1，Ｌ2n-1上の画素から得られる動き情報に乗算される重み係数に２を乗じた、２，４，…，２m-1，２m，２m-1，…，４，２とされる。そして、更に垂直方向に１画素近い位置に配列されるラインＬ3，Ｌ2n-3上の画素から得られる動き情報に乗算される重み係数は、それぞれ、ラインＬ2，Ｌ2n-2上の画素から得られる動き情報に乗算される重み係数に２を乗じた、４，８，…，２m，２m+1，２m，…，８，４とされる。そして、対象画素が配されるラインＬnの画素から得られる動き情報に乗算される重み係数は、２n-1，２n，…，２m+n-3，２m+n-2，２m+n-3，…，２n，２n-1とされる。
【００４９】
このようにして、ラインの位置が対象画素に対して１画素分近い位置に配されると、ライン上の画素から得られる動き情報に乗算される重み係数が、それぞれ１画素分遠い位置に配されたライン上の画素から得られる動き情報に乗算される重み係数に２を乗じた値となる。
【００５０】
よって、左側から１列目又は２ｍ−１列目に配された画素から得られる動き情報に乗算される重み係数は、上から順に、１，２，…，２n-2，２n-1，２n-2，…，２，１とされる。又、左側から２列目又は２ｍ−２列目に配された画素から得られる動き情報に乗算される重み係数は、上から順に、左側から１列目又は２ｍ−１目に配された画素から得られる動き情報に乗算される重み係数に２を乗じた、２，４，…，２n-1，２n，２n-1，…，４，２とされる。更に、左側から３列目又は２ｍ−３列目に配された画素から得られる動き情報に乗算される重み係数は、上から順に、左側から２列目又は２ｍ−２目に配された画素から得られる動き情報に乗算される重み係数に２を乗じた、４，８，…，２n，２n+1，２n，…，８，４とされる。そして、対象画素が配されるｍ列目に配された画素から得られる動き情報に乗算される重み係数は、２m-1，２m，…，２m+n-3，２m+n-2，２m+n-3，…，２m，２m-1とされる。
【００５１】
このようにして定められた重み係数が、加算回路１２において、各画素における動き情報に乗算されることで重み付け加算が施され、動き加算レベルｍが求められ、動き検出回路１３に送出される。そして、動き検出回路１３では、加算回路１２より送出される動き加算レベルｍの値が大きいほど動きがあると判断され、動き検出結果が出力される。そして、例えば、後続の補間回路（不図示）で補間される画素の画像データが空間的な補間（ライン間補間）で得られた画像データと、時間的な補間（フィールド間補間）で得られた画像データとに重み係数を与えて重み付け加算して求める際、動き検出回路１３より出力される動き検出結果に基づいて、重み係数の値を変更するようにすることができる。
【００５２】
動き検出回路１３からの動き検出結果は、例えば、（１）ｍ＜sum1、（２）sum1≦ｍ＜sum2、（３）sum2≦ｍ＜sum3、（４）sum3≦ｍ＜sum4、（５）sum4≦ｍのそれぞれの場合に応じて出力されるようにしても構わない。このとき、後続に補間回路を設け、時間的な補間で得られた画像データｇ１、空間的な補間で得られた画像データｇ２とし、この画像データｇ１，ｇ２を重み付け加算することによって補間される画素の画像データｇが生成されるものとする。
【００５３】
よって、上述したように動き検出結果を５段階にしたとき、画像データｇを求める重み付け加算を行うための式ｇ＝ｘ×ｇ１＋ｙ×ｇ２における重み係数ｘ、ｙを、例えば、以下のように変更することができる。
（１）ｍ＜sum1のとき  (ｘ，ｙ)＝(１，０)
（２）sum1≦ｍ＜sum2のとき  (ｘ，ｙ)＝(3/4，1/4)
（３）sum2≦ｍ＜sum3のとき  (ｘ，ｙ)＝(1/2，1/2)
（４）sum3≦ｍ＜sum4のとき  (ｘ，ｙ)＝(1/4，3/4)
（５）sum4≦ｍのとき  (ｘ，ｙ)＝(０，１)
【００５４】
＜第２の実施形態＞
本発明の第２の実施形態について、図面を参照して説明する。図４は、本実施形態の動き検出装置の内部構成を示すブロック図である。尚、図４の動き検出装置において、図１の動き検出装置と同一の目的で使用する部分については、同一の符号を付してその詳細な説明は省略する。
【００５５】
本実施形態の動き検出装置は、第１の実施形態（図１）の動き検出装置に、更に、字幕検出回路１４が設けられたものである。即ち、フィールドメモリ１，２及び絶対値演算回路７，８からの出力より、対象画素が字幕表示を行っているか否かを判定し、判定結果を出力として動き検出回路１３に送出する。このような構成の動き検出装置は、減算回路５，６、絶対値演算回路７，８、比較回路９，１０、閾値演算回路１１、及び加算回路１２の動作については、第１の実施形態と同様であるので、第１の実施形態を参照するものとし、その詳細な説明については省略し、以下に、第１の実施形態と異なる動作を行う字幕検出回路１４と動き検出回路１３の動作について説明する。
【００５６】
第１の実施形態では、閾値制御回路１１で、対象画素の上下の画素の第１フィールドにおける画像データの差分によって閾値が設定される。このとき、画像データの差分の絶対値が小さいとき閾値が小さくなるようにすることで、動き検出回路１３において動きとして検出されやすくなる。よって、例えば、図２のように配置された９つの画素において、ラインＬ1，Ｌ2に字幕が表示されているような場合において、例えば、画素Ｇｅを対象画素としたときに、画素Ｇｂ，Ｇｈの画像データの差分の絶対値|gb1−gh1|が小さくなるとともに、加算回路１２より出力する動き検出結果が大きくなった場合、動き検出回路１３において画素Ｇｅにおいて動きがあると誤判別される恐れがある。
【００５７】
よって、このとき、字幕検出回路１４によって、対象画素の上下の２画素の第１フィールドにおける画像データ、対象画素の第２フィールドにおける画像データ、対象画素の上下の２画素の第１フィールドと第３フィールドとにおける画像データの差分、及び、対象画素の第２フィールドと第４フィールドとにおける画像データの差分に基づいて、対象画素において字幕が表示されているか否かが判別される。このように、対象画素の画像データが、字幕表示用のデータであるか否かが判別される際の字幕検出回路１４での動作を、以下に説明する。
【００５８】
今、図２の画素Ｇｅが対象画素となるとき、フィールドメモリ１より、画素Ｇｂ，Ｇｈの第１フィールドにおける画像データgb1，gh1が、フィールドメモリ２より画素Ｇｅの第２フィールドにおける画像データge2が、それぞれ、字幕検出回路１４に送出される。そして、字幕検出回路１４において、画素Ｇｂの画像データgb1と画素Ｇｅの画像データge2との差分の絶対値|gb1−ge2|と、画素Ｇｈの画像データgh1と画素Ｇｅの画像データge2との差分の絶対値|gh1−ge2|とが求められる。又、このとき、絶対値演算回路７より画素Ｇｂ，Ｇｈの第１フィールドと第３フィールドの画像データの差分の絶対値|gb1−gb3|、|gh1−gh3|が、絶対値演算回路８より画素Ｇｅの第２フィールドと第４フィールドの画像データの差分の絶対値|ge2−ge4|が、それぞれ、字幕検出回路１４に送出される。
【００５９】
そして、これらの画像データのフィールド間の差分|gb1−gb3|、|ge2−ge4|、|gh1−gh3|、及びライン間の差分|gb1−ge2|、|gh1−ge2|に基づいて、字幕検出が行われる。このとき、フィールド間の差分は閾値TH1と、ライン間の差分は閾値TH2とそれぞれ比較され、その比較結果に基づいて、画素Ｇｅに字幕が表示されているか否か判別される。即ち、（１）|gb1−gb3|＜TH1、且つ|ge2−ge4|＜TH1、且つ|gb1−ge2|＜TH2のとき、又は、（２）|ge2−ge4|＜TH1、且つ|gh1−gh3|＜TH1、且つ|gh1−ge2|＜TH2のとき、画素Ｇｅに字幕が表示されているものと判別される。
【００６０】
つまり、（１）|gb1−gb3|＜TH1、且つ|ge2−ge4|＜TH1、且つ|gb1−ge2|＜TH2のときは、画素Ｇｂ，Ｇｅの２フィールド間の画像データが小さいことにより、画素Ｇｂ，Ｇｅにおける動きが小さいと判断でき、且つ、画素Ｇｂ，Ｇｅの２画素（２ライン）間の画像データが小さいため、ラインＬ1，Ｌ2において字幕が表示されていると判別することが適している。又、（２）|ge2−ge4|＜TH1、且つ|gh1−gh3|＜TH1、且つ|gh1−ge2|＜TH2のときは、画素Ｇｅ，Ｇｈの２フィールド間の画像データが小さいことにより、画素Ｇｅ，Ｇｈにおける動きが小さいと判断でき、且つ、画素Ｇｅ，Ｇｈの２画素（２ライン）間の画像データが小さいため、ラインＬ2，Ｌ3において字幕が表示されていると判別することが適している。
【００６１】
そして、このように、（１）|gb1−gb3|＜TH1、且つ|ge2−ge4|＜TH1、且つ|gb1−ge2|＜TH2のとき、又は、（２）|ge2−ge4|＜TH1、且つ|gh1−gh3|＜TH1、且つ|gh1−ge2|＜TH2のときに、画素Ｇｅに字幕が表示されているものと判別されると、動き検出回路１３は強制的に画素Ｇｅに動きがないものと判断する。よって、このとき、動き検出回路１３に加算回路１２より入力される動き加算レベルの値に関わらず、画素Ｇｅに動きがないことを表す動き検出結果を出力するため、例えば、後続に補間回路が接続される場合、画素Ｇｅの画像データが１フィールド前の画像データとされる時間的な補間が施される。
【００６２】
尚、本実施形態では、垂直方向に隣接した３画素の画像データによって、その中心の対象画素に字幕が表示されているか否かが判断されたが、この隣接した３画素に水平方向に隣接した複数の画素の画像データにおける上述した関係と同様の関係に基づいて、中心の対象画素に字幕が表示されているか否かが判断されるようにしても構わない。
【００６３】
【発明の効果】
本発明によると、動きが検出される第１画素に隣接した第２及び第３画素の画像データの関係に基づいて、第１画素における動きが検出される。よって、フィールド間の画像データの関係のみで動きがあるか否か判断される場合に比べ、その動きの誤判定を行う割合を低減することができる。特に、第２及び第３画素の画像データの差分が小さいときは、動きがないものとする方が有利である。よって、本発明において、第２及び第３画素の画像データの差分が小さいとき、閾値の値を小さくすることによって、第１画素に動きがないと判断することができるので、例えば、第１画素の画像データを補間するときなどにおいて、空間補間で補間された画像データを優先的に選択することができる。
【００６４】
又、この動き検出のほかに、第１画素のフィールド間の画像データの差分、第２又は第３画素のフィールド間の画像データの差分、及び、第１画素と第２又は第３画素のとの画像データの差分が、それぞれ所定の値より小さいとき、強制的に、第１画素に動きがないものと判断される。よって、例えば、字幕などを第１画素が表示されているとき、誤って、動きがあるものと判定されることを防ぐことができる。
【図面の簡単な説明】
【図１】第１の実施形態の動き検出装置の内部構成を示すブロック図。
【図２】画素の配置を示す図。
【図３】閾値とライン間の画像データの差分との関係を示すグラフ。
【図４】第２の実施形態の動き検出装置の内部構成を示すブロック図。
【符号の説明】
１，２，３，４    フィールドメモリ
５，６    減算回路
７，８    絶対値演算回路
９，１０    比較回路
１１    閾値制御回路
１２    加算回路
１３    動き検出回路
１４    字幕検出回路
【図１】
0003653450.tif 000003
【図２】
0003653450.tif 000004
【図３】
0003653450.tif 000005
【図４】
0003653450.tif 000006