(57)【特許請求の範囲】
【請求項１】
画像信号に対する電子透かしの埋め込み処理を実行する電子透かし埋め込み処理装置であり、
埋め込み情報に基づいて第１の電子透かしパターンを生成する電子透かしパターン生成手段と、
電子透かしパターン埋め込み処理対象となる画像信号を分割したブロック領域単位で動きベクトルを取得し、取得された複数の動きベクトルの大きさおよび方向の統計的評価に基き一つの動きベクトルを求め、該一つの動きベクトルを前記画像信号の動き情報として出力する動き検出手段と、
前記動き情報のベクトル量分だけ前記第１の電子透かしパターン全体を平行移動させることにより、前記第１の電子透かしパターンを前記動き情報の示す動きに追従する動きを示すように修正した第２の電子透かしパターンを生成する電子透かしパターン修正手段と、
電子透かしパターン修正手段により生成した前記第２の電子透かしパターンを前記画像信号に対して埋め込む処理を実行する加算手段と、
を有することを特徴とする電子透かし埋め込み処理装置。
【請求項２】
画像信号に対する電子透かしの埋め込み処理を実行する電子透かし埋め込み処理方法であり、
埋め込み情報に基づいて第１の電子透かしパターンを生成する電子透かしパターン生成ステップと、
電子透かしパターン埋め込み処理対象となる画像信号を分割したブロック領域単位で動きベクトルを取得し、取得された複数の動きベクトルの大きさおよび方向の統計的評価に基き一つの動きベクトルを求め、該一つの動きベクトルを前記画像信号の動き情報として出力する動き検出ステップと、
前記動き情報のベクトル量分だけ前記第１の電子透かしパターン全体を平行移動させることにより、前記第１の電子透かしパターンを前記動き情報の示す動きに追従する動きを示すように修正した第２の電子透かしパターンを生成する電子透かしパターン修正ステップと、
前記電子透かしパターン修正ステップにおいて生成した前記第２の電子透かしパターンを前記画像信号に対して埋め込む処理を実行する加算ステップと、
を有することを特徴とする電子透かし埋め込み処理方法。
【請求項３】
前記動き検出ステップは、
画像信号をフレーム毎に読み込み、フレーム内の画像を複数ブロックに分割する信号分割ステップと、
前記信号分割ステップにおいて分割した各ブロックデータに基づいて、時間的に連続する複数のフレームデータ間の相関を、各ブロック単位で計算し相関情報を出力する相関計算ステップと、
前記相関計算ステップにおいて出力するブロック単位の相関情報に基づいて、各ブロック毎に動きベクトルを算出し、ブロック数に応じて算出された複数の動きベクトルの大きさおよび方向の統計的評価処理を実行して前記フレーム毎に一つの動きベクトルを求め、該一つの動きベクトルを前記フレームの動き情報Ｖとして出力する動き判定ステップとを有し、
前記電子透かしパターン修正ステップは、前記動き情報Ｖのベクトル量分だけ前記第１の電子透かしパターン全体を平行移動させることにより、前記第１の電子透かしパターンを前記動き情報の示す動きに追従する動きを示すように修正した第２の電子透かしパターンを生成するステップであることを特徴とする請求項２に記載の電子透かし埋め込み処理方法。
【請求項４】
前記動き検出ステップは、
電子透かしパターン埋め込み処理対象となる画像信号をフレーム単位で均等に複数分割したブロック領域毎に動きベクトルを取得する処理を実行することを特徴とする請求項２に記載の電子透かし埋め込み処理方法。
【請求項５】
前記動き検出ステップは、
電子透かしパターン埋め込み処理対象となる画像信号をフレーム単位で微少領域に分割したブロック領域毎に動きベクトルを取得する処理を実行し、同様の動きベクトルを持つ画像領域を１つのオブジェクト領域と判定し、オブジェクト単位の動きベクトル間における評価処理に基づいて動き情報を出力することを特徴とする請求項２に記載の電子透かし埋め込み処理方法。
【請求項６】
前記動き検出ステップは、
ブロック領域単位で求められる複数の動きベクトルの評価処理を、複数の動きベクトルについて、過半数をしめる方向および大きさを持つ動きベクトルに対応する情報を動き情報Ｖとして出力する構成であることを特徴とする請求項２に記載の電子透かし埋め込み処理方法。
【請求項７】
前記動き検出ステップは、
ブロック領域単位で求められる複数の動きベクトルの評価処理を、複数の動きベクトルについて、方向および大きさが最多数の動きベクトルに対応する情報を動き情報Ｖとして出力することを特徴とする請求項２に記載の電子透かし埋め込み処理方法。
【請求項８】
前記動き検出ステップは、
ブロック領域単位で求められる複数の動きベクトルの評価処理を、複数の動きベクトルについての平均値の取得処理として実行し、動き情報Ｖとして出力することを特徴とする請求項２に記載の電子透かし埋め込み処理方法。
【請求項９】
前記動き検出ステップは、
ブロック領域単位で求められる複数の動きベクトルについて、大きな動きを示す動きベクトルに対しては、重み付けを大とし、小さな動きを示す動きベクトルに対しては、重み付けを小とした評価処理に基づいて動き情報Ｖを出力することを特徴とする請求項２に記載の電子透かし埋め込み処理方法。
【請求項１０】
前記動き検出ステップは、
ブロック領域単位で求められる複数の動きベクトルについて、画像中心に近い領域の動きベクトルに対しては、重み付けを大とし、画像周辺部に近い領域の動きベクトルに対しては、重み付けを小とした評価処理に基づいて動き情報Ｖを出力することを特徴とする請求項２に記載の電子透かし埋め込み処理方法。
【請求項１１】
前記電子透かし埋め込み処理方法は、さらに、
電子透かしパターン埋め込み処理対象となる画像信号の画像フォーマットの縮小処理を実行する信号縮小ステップを有し、
前記動き検出ステップは、
前記信号縮小ステップにおいて縮小された画像データについて、分割したブロック領域単位で動きベクトルを取得し、該動きベクトルの評価処理に基いて動き情報を出力することを特徴とする請求項２に記載の電子透かし埋め込み処理方法。
【請求項１２】
画像信号に対する電子透かしの埋め込み処理をコンピュータ・システム上で実行せしめるプログラムであって、
埋め込み情報に基づいて第１の電子透かしパターンを生成する電子透かしパターン生成ステップと、
電子透かしパターン埋め込み処理対象となる画像信号を分割したブロック領域単位で動きベクトルを取得し、取得された複数の動きベクトルの大きさおよび方向の統計的評価に基き一つの動きベクトルを求め、該一つの動きベクトルを前記画像信号の動き情報として出力する動き検出ステップと、
前記動き情報のベクトル量分だけ前記第１の電子透かしパターン全体を平行移動させることにより、前記第１の電子透かしパターンを前記動き情報の示す動きに追従する動きを示すように修正した第２の電子透かしパターンを生成する電子透かしパターン修正ステップと、
前記電子透かしパターン修正ステップにおいて生成した前記第２の電子透かしパターンを前記画像信号に対して埋め込む処理を実行する加算ステップと、
を有することを特徴とするプログラム。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、画像等のデータに著作権情報、編集情報などの付加情報を埋め込みまたは読み取る技術に関し、例えば画像中に通常の観察状態では認識困難な付加情報として電子透かし（ウォーターマーク:Digital Watermarkingまたは、Data Hidingとも呼ばれる）を埋め込む処理を実行する電子透かし埋め込み処理装置、および電子透かし埋め込み処理方法、並びにプログラムに関する。
【０００２】
【従来の技術】
デジタル技術の進歩に伴い、記録、再生処理の繰り返し実行による画質劣化、音質劣化等の発生しないデジタル記録再生装置が普及し、また一方では、様々な画像、音楽等のデジタテルコンテンツがＤＶＤ，ＣＤなどの媒体またはネットワーク等を通じて配信、流通可能な状態となってきている。
【０００３】
デジタル記録再生では、アナログ記録再生と異なり、記録再生処理を繰り返し実行してもデータの劣化が発生しないため、オリジナルデータと同様の品質が保たれる。このようなデジタル記録再生技術の普及は不正コピーの氾濫を招く結果となり、著作権の保護という観点から大きな問題となっている。
【０００４】
デジタルコンテンツについての不正な複製（コピー）による著作権侵害に対処するため、デジタルコンテンツに複製制御のための複製制御情報を付加し、コンテンツの記録再生時に複製制御情報を読み取り、読み取られた制御情報に従った処理を実行することにより不正な複製を防止する構成が提案されている。
【０００５】
コンテンツ複製制御態様には様々な態様があるが、例えば代表的方式として、ＣＧＭＳ（Ｃｏｐｙ Ｇｅｎｅｒａｔｉｏｎ Ｍａｎａｇｅｍｅｎｔ Ｓｙｓｔｅｍ；コピー・ジェネレーション・マネージメント・システム）方式がある。このＣＧＭＳ方式は、アナログ映像信号（ＣＧＭＳ−Ａと呼ばれる）であれば、その輝度信号の垂直ブランキング期間内の特定の１水平区間、例えばＮＴＳＣ信号の場合には、第２０水平区間の有効映像部分に重畳する２０ビットの付加情報のうちの２ビットを複製制御用の情報として重畳し、また、デジタル映像信号（ＣＧＭＳ−Ｄと呼ばれる）であれば、デジタル映像データに挿入付加する付加情報として、複製制御用の２ビットの情報を含めて伝送する方式である。
【０００６】
このＣＧＭＳ方式の場合の２ビットの情報（以下、ＣＧＭＳ情報という）の意味内容は、［００］……複製可能［１０］……１回複製可能（１世代だけ複製可能）
［１１］……複製禁止（絶対複製禁止）
である。
【０００７】
上述のＣＧＭＳ方式は代表的な複製制御方式の１例であり、他にもコンテンツの著作権保護のための方式が様々ある。例えば放送局が行なうデジタル放送などでは、デジタルデータを構成するトランスポートストリーム（ＴＳ）パケットに含まれる番組配列情報（ＳＩ：Service Information）内にデジタル複製制御記述子（Digital Copy Control Descriptor）を格納し、受信機器において受信したデータを記録装置に記録する際に記述子に従った複製世代制御を行なう方式がある。
【０００８】
しかし、上述の制御情報は例えばコンテンツのヘッダ等にビットデータとして付加されるものであり、付加されたデータの改竄の可能性を完全に排除することが困難である。データ改竄の可能性の排除という点で有利な構成が電子透かし（ウォーターマーク）である。電子透かし（ウォーターマーク）は、通常のコンテンツ（画像データまたは音声データ）の再生状態では視覚あるいは知覚困難であり、電子透かしの検出、埋め込みは特定のアルゴリズムの実行、または特定のデバイスによる処理によってのみ可能となる。受信器、記録再生装置等におけるコンテンツ処理時に電子透かし（ウォーターマーク（ＷＭ））を検出して、電子透かしに従った制御を行なうことにより、より信頼度の高い制御が可能となる。
【０００９】
光ディスク等の記録媒体や、放送局等より衛星波や地上波、ケーブル等の媒体を介して伝送されるコンテンツ等についての電子透かし（ウォーターマーク（ＷＭ））による著作権の保護方法は、ビデオ信号やオーディオ信号等の再生に影響を与えない程度の微小な信号レベルにより、著作権に関するデータの変調信号等をビデオ信号やオーディオ信号等に重畳して記録するものである。画像、音声、データ等様々なデジタルコンテンツが劣化のない状態でコピーされたり配信されたりする可能性のあるデジタルネットワーク時代において、電子透かし技術はコンテンツ自身に情報を埋め込むことにより著作権を保護することのできる有力な技術である。
【００１０】
電子透かし（ウォーターマーク（ＷＭ））によってコンテンツに埋め込まれる情報としては、上述の複製制御情報に限らず、コンテンツの著作権情報、コンテンツ加工情報、コンテンツ構成情報、コンテンツ処理情報、コンテンツ編集情報、あるいはコンテンツ再生処理方式等、様々な情報が埋め込み可能であり、例えばコンテンツの編集処理時に編集情報を埋め込み、各編集ステップにおいて、電子透かしを参照して処理ステップを確認することなどが行なわれる。このような編集情報は、例えばコンテンツの編集ステップ毎にコンテンツに対して新たな電子透かしとして埋め込まれ、最終的にコンテンツから取り除かれるなどの処理が行なわれる。
【００１１】
データに対する電子透かしの埋め込みおよび検出態様としては様々な手法が提案されている。１つの代表的な電子透かし埋め込み検出態様には、元信号としてのデータ、例えば画像のもつ統計的性質に基づいた手法がある。デジタルビデオ信号等の画像信号の持つ統計的な性質に基づいて、ＰＮ系列の乱数データを基本パターンとして電子透かしを埋め込む方法について説明する。簡単のため輝度信号のフレームデータを水平サイズ８画素、垂直サイズ６画素とする。
【００１２】
まずＰＮ系列の乱数データＰＮを、下記式のように設定する。
【００１３】
【数１】
0003861623.tif 000002
【００１４】
この乱数データＰＮは統計的に総和が０になるように生成される。次に埋め込み情報ＤＣを、上記式のような性質を持つ乱数データＰＮによりスペクトラム拡散する。すなわち埋め込み情報ＤＣの極性が“１”の場合には、乱数データＰＮのパターンをそのまま使用することにより、電子透かしパターンＷＭは、下記式のようになる。
【００１５】
【数２】
0003861623.tif 000003
【００１６】
また埋め込み情報ＤＣの極性が“０”の場合には、乱数データＰＮのパターンを反転したものを使用することにより、電子透かしパターンＷＭは、下記式のようになる。
【００１７】
【数３】
0003861623.tif 000004
【００１８】
なお埋め込み情報ＤＣが複数の情報ビットから構成される場合には、例えば輝度信号のフレームデータを適当な小領域に分割し、各情報ビットをそれぞれの小領域に対応させればよい。また、例えば互いに直行するような複数の異なる電子透かしパターンを使用し、各情報ビットをそれぞれの電子透かしパターンに対応させればよい。また、これらの手法を組み合わせて使用してもよい。
【００１９】
一方デジタルビデオ信号等の画像信号において、あるフレームデータの輝度信号画素値を示すフレームデータＤＶ１が以下のような式で示されたとする。なお、デジタルビデオ信号の画像信号において、近接する輝度信号は同程度の画素値を持つという性質があり、隣接する画素の値は近似した値に設定してある。
【００２０】
【数４】
0003861623.tif 000005
【００２１】
電子透かしの埋め込みは、輝度信号のフレームデータＤＶ１に電子透かしパターンＷＭを加算することによって実現する。電子透かし埋め込み情報ＤＣの極性が“１”の場合には、前述の［数２］に示される電子透かしパターンＷＭを、上述の［数４］に示される輝度信号に加算する処理となり、電子透かしを埋め込んだ輝度信号のフレームデータＤＶ２は、下記式によって示されるデータとなる。
【００２２】
【数５】
0003861623.tif 000006
【００２３】
このようにして電子透かしを埋め込んだ輝度信号のフレームデータＤＶ２から、埋め込み情報ＤＣを検出するためには、埋め込み時と同一のＰＮ系列の乱数データＰＮを使用する。まず元の輝度信号のフレームデータＤＶ１と乱数データＰＮとの内積値Ｐ１は、下記式によって示される値を持つ。
【００２４】
【数６】
Ｐ１＝ＤＶ１・ＰＮ＝１
【００２５】
画像信号の持つ統計的な性質から内積値Ｐ１は０近傍の値となる。これに対して電子透かしを埋め込んだ輝度信号のフレームデータＤＶ２と乱数データＰＮとの内積値Ｐ２は、埋め込み情報ＤＣの極性が“１”の場合には、下記式によって示される値を持つ。
【００２６】
【数７】
0003861623.tif 000007
【００２７】
一方、埋め込み情報ＤＣの極性が“０”の場合には、下記式によって示される値を持つ。
【００２８】
【数８】
0003861623.tif 000008
【００２９】
すなわち内積値Ｐ２の絶対値は、乱数データＰＮ自身の内積値ＰＮ2近傍の値となる。元の輝度信号のフレームデータＤＶ１と乱数データＰＮの内積値Ｐ１および、電子透かしを埋め込んだ輝度信号のフレームデータＤＶ２と乱数データＰＮの内積値Ｐ２を様々な画像に対して計算すると、内積値Ｐ１およびＰ２の分布は図１に示すような確率密度関数で表現することができる。したがって、適当な非負の閾値ＴＨを設定することによって、以下に示すように電子透かしの有無および極性を判別することが可能となる。
【００３０】
【数９】
Ｐ２≦−ＴＨ    ：電子透かしあり（極性０）
｜Ｐ２｜＜ＴＨ    ：電子透かしなし
Ｐ２≧ＴＨ      ：電子透かしあり（極性１）
【００３１】
上記式のように、電子透かしを埋め込んだ輝度信号のフレームデータＤＶ２から埋め込み情報ＤＣを検出することができる。
【００３２】
実際に電子透かしを実現する際には、電子透かし検出の信頼性と、電子透かしの画質に及ぼす影響の２点が重要なポイントである。電子透かしの有無を正確に判別するためには、図１における“電子透かしあり”の場合の確率密度関数と、“電子透かしなし”の場合の確率密度関数の分離を精度良く行うような閾値ＴＨを設定しなければならない。しかし実際には確率密度関数の裾野が重なり合い、電子透かしの有無を正確に判別できるような閾値ＴＨの選択は難しい。電子透かしが埋め込まれていないのに“電子透かしあり”と判断されてしまう確率を特にＦａｌｓｅ Ｐｏｓｉｔｉｖｅと呼び、健全なコンテンツ流通を保証するためには極めて小さいＦａｌｓｅ Ｐｏｓｉｔｉｖｅ値が要求される。したがって電子透かし検出の信頼性を向上するためには、非負のスカラー量Ｃを用いて電子透かしの埋め込み強度を大きくする処理が実行される。スカラー量Ｃを用いて電子透かしの埋め込み強度を大きくして電子透かしを埋め込んだ場合の輝度信号のフレームデータＤＶ２は、下記式によって示される値を持つ。
【００３３】
【数１０】
ＤＶ２＝ＤＶ１＋ＣＷＭ
【００３４】
電子透かしを埋め込んだ輝度信号のフレームデータＤＶ２と乱数データＰＮの内積値Ｐ２を十分に大きくすればよい。具体的には、フレームデータＤＶ２は、下記式によって示される値を持つ。
【００３５】
【数１１】
0003861623.tif 000009
【００３６】
しかし、このようにして電子透かしの埋め込み強度を大きくした場合、電子透かしの画質に及ぼす影響は無視できないものになってしまう。電子透かし検出の信頼性と電子透かしの画質に及ぼす影響とは、トレードオフの関係にある。
【００３７】
電子透かしを埋め込んだ画像に対して、画像フォーマット変換、デジタル-アナログ変換、ＭＰＥＧ圧縮、フィルタリング、クリッピング、リサイズ、ローテーション等の種々の攻撃を加えた場合にも、埋め込まれた電子透かし情報は正しく検出されなければならない。著作権を不当に侵そうとする者は、電子透かしを埋め込んだ画像に対して悪意を持ってこれらの攻撃を加える恐れがある。そこでこれらの攻撃に対する耐性を強化して、電子透かし検出の信頼性を確保するために、様々な手法が提案されている。しかしあらゆる攻撃に対して頑強な耐性を有するような電子透かし技術は未だ開発されておらず、早急な対策が望まれている。
【００３８】
図２は、電子透かしを用いてコピー制御情報をデータに埋め込み、電子透かし検出によるコピー制御を実行する態様について説明する図である。
【００３９】
ビデオソースであるデジタルビデオ信号ＤＶを放送局等より衛星波や地上波、ケーブル等の媒体を介して送信する際に、電子透かし埋め込み処理装置１００により電子透かし情報ＤＣを付加して送信する。ここで埋め込む電子透かし情報ＤＣはビデオソースの著作権情報等により構成され、“Ｃｏｐｙ Ｏｎｃｅ”（１回コピー可）という情報を持つものとする。
【００４０】
このように、“Ｃｏｐｙ Ｏｎｃｅ”（１回コピー可）という情報を電子透かしにより埋め込んで送信されたデジタルビデオ信号のうちセットトップボックス等により受信して再生するデジタルビデオ信号においては、再生したデジタルビデオ信号から録画機器２に内蔵する電子透かし検出装置３により埋め込まれた電子透かし情報ＤＣを検出する。
【００４１】
録画機器２に内蔵された電子透かし検出装置３が、“Ｃｏｐｙ Ｏｎｃｅ”という電子透かし情報を検出すると、録画機器２に内蔵する電子透かし書換装置４が電子透かし情報ＤＣを書き換えて光ディスク５等に記録する。ここで書き換える電子透かし情報ＤＣはビデオソースの著作権情報等により構成され、“Ｎｏ Ｍｏｒｅ Ｃｏｐｙ”（コピー禁止）という情報を有する。
【００４２】
このようにして録画機器２によって複製記録された光ディスク５が、例えば市場に流通する媒体として提供された場合、提供された複製記録光ディスク５を録画機器６において再度複製しようとすると、録画機器６に内蔵する電子透かし検出装置３が再生したデジタルビデオ信号から埋め込まれた電子透かし情報ＤＣを検出する。
【００４３】
この場合の電子透かし情報ＤＣは、複製を許可しない“Ｎｏ Ｍｏｒｅ Ｃｏｐｙ”という情報であり、録画機器６は、“Ｎｏ Ｍｏｒｅ Ｃｏｐｙ”に従った処理、すなわち、再生したデジタルビデオ信号を光ディスク７に記録するのを中止する。これによりコピー世代が管理される。
【００４４】
また、電子透かし埋め込み処理装置１００は、ビデオソースであるデジタルビデオ信号ＤＶを格納した光ディスク８を製造する際に、“Ｎｅｖｅｒ Ｃｏｐｙ”（コピー禁止）という情報を持つ電子透かし情報ＤＣを付加して光ディスク８等に記録する処理を実行したとする。
【００４５】
このようにして記録された光ディスク８が市場に流通する場合において、提供された光ディスク８を録画機器６において再生して他の記録媒体に複製しようとすると、録画機器６に内蔵する電子透かし検出装置３が再生したデジタルビデオ信号から埋め込まれた電子透かし情報ＤＣを検出する。
【００４６】
この場合の電子透かし情報ＤＣは、複製を許可しない“Ｎｅｖｅｒ Ｃｏｐｙ”（コピー禁止）という情報であり、録画機器６は、“Ｎｅｖｅｒ Ｃｏｐｙ”に従った処理、すなわち、再生したデジタルビデオ信号を光ディスク７に記録するのを中止する。これにより不正コピーが排除される。
【００４７】
電子透かし検出の信頼性を確保しつつ、電子透かしの画質に及ぼす影響を極力抑えるために、人間の視覚特性を効果的に利用して電子透かしを埋め込む手法が提案されている。これらの手法は人間の視覚特性を考慮して、電子透かしパターンを画像内で配分しなおすものや、電子透かしパターンを画像の動きに追従させるもの等であり、全体の埋め込み強度を変えることなく電子透かしの画質に及ぼす影響を効果的に抑えている。人間の目は平坦部分等の低周波領域での変化には敏感であるが、エッジ部分等の高周波領域での変化には鈍感である。これを利用して電子透かしパターンを目立ちやすい平坦部分から目立ちにくいエッジ部分へと再配分することにより、電子透かし検出の信頼性を確保しつつ、電子透かしの画質に及ぼす影響を抑えることができる。また画像が静止している場合には電子透かしパターンも静止させ、画像が動いている場合には電子透かしパターンも追従して動かすことにより、人間の目に感知しにくくなるように電子透かしを埋め込むことができる。
【００４８】
動き検出は、動画像符号化の国際標準規格ＭＰＥＧ２（Ｍｏｖｉｎｇ Ｐｉｃｔｕｒｅ Ｅｘｐｅｒｔｓ Ｇｒｏｕｐ-２）やサンプリングレート変換等において用いられる手法である。しかし電子透かしの重畳に応用して好適な動き検出手法は未だ提案されておらず、効果的な動き検出手法を実現して、電子透かしの画質に及ぼす影響を抑制することが望まれている。
【００４９】
【発明が解決しようとする課題】
本発明は、上述の問題点に鑑みてなされたものであり、動画に対する電子透かし埋め込みに際して、動き検出を実行して、電子透かし検出の信頼性を確保しながら人間の目に感知しにくくなるように電子透かしを埋め込むことを可能とする電子透かし埋め込み処理装置、および電子透かし埋め込み処理方法、並びにプログラムを提供することを目的とする。
【００５０】
さらに具体的には、画像が静止している場合には電子透かしパターンも静止させ、画像が動いている場合には電子透かしパターンも追従して動かすことにより、電子透かし検出の信頼性を確保しながら人間の目に感知しにくくなるように電子透かしを埋め込むことを可能とした電子透かし埋め込み処理装置、および電子透かし埋め込み処理方法、並びにプログラムを提供することを目的とする。
【００５１】
【課題を解決するための手段】
本発明の第１の側面は、
画像信号に対する電子透かしの埋め込み処理を実行する電子透かし埋め込み処理装置であり、
埋め込み情報に基づいて第１の電子透かしパターンを生成する電子透かしパターン生成手段と、
電子透かしパターン埋め込み処理対象となる画像信号を分割したブロック領域単位で動きベクトルを取得し、取得された複数の動きベクトルの大きさおよび方向の統計的評価に基き一つの動きベクトルを求め、該一つの動きベクトルを前記画像信号の動き情報として出力する動き検出手段と、
前記動き情報のベクトル量分だけ前記第１の電子透かしパターン全体を平行移動させることにより、前記第１の電子透かしパターンを前記動き情報の示す動きに追従する動きを示すように修正した第２の電子透かしパターンを生成する電子透かしパターン修正手段と、
電子透かしパターン修正手段により生成した前記第２の電子透かしパターンを前記画像信号に対して埋め込む処理を実行する加算手段と、
を有することを特徴とする電子透かし埋め込み処理装置にある。
【００６１】
さらに、本発明の第２の側面は、
画像信号に対する電子透かしの埋め込み処理を実行する電子透かし埋め込み処理方法であり、
埋め込み情報に基づいて第１の電子透かしパターンを生成する電子透かしパターン生成ステップと、
電子透かしパターン埋め込み処理対象となる画像信号を分割したブロック領域単位で動きベクトルを取得し、取得された複数の動きベクトルの大きさおよび方向の統計的評価に基き一つの動きベクトルを求め、該一つの動きベクトルを前記画像信号の動き情報として出力する動き検出ステップと、
前記動き情報のベクトル量分だけ前記第１の電子透かしパターン全体を平行移動させることにより、前記第１の電子透かしパターンを前記動き情報の示す動きに追従する動きを示すように修正した第２の電子透かしパターンを生成する電子透かしパターン修正ステップと、
前記電子透かしパターン修正ステップにおいて生成した前記第２の電子透かしパターンを前記画像信号に対して埋め込む処理を実行する加算ステップと、
を有することを特徴とする電子透かし埋め込み処理方法にある。
【００６２】
さらに、本発明の電子透かし埋め込み処理方法の一実施態様において、前記動き検出ステップは、画像信号をフレーム毎に読み込み、フレーム内の画像を複数ブロックに分割する信号分割ステップと、前記信号分割ステップにおいて分割した各ブロックデータに基づいて、時間的に連続する複数のフレームデータ間の相関を、各ブロック単位で計算し相関情報を出力する相関計算ステップと、前記相関計算ステップにおいて出力するブロック単位の相関情報に基づいて、各ブロック毎に動きベクトルを算出し、ブロック数に応じて算出された複数の動きベクトルの大きさおよび方向の統計的評価処理を実行して前記フレーム毎に一つの動きベクトルを求め、該一つの動きベクトルを前記フレームの動き情報Ｖとして出力する動き判定ステップとを有し、前記電子透かしパターン修正ステップは、前記動き情報Ｖのベクトル量分だけ前記第１の電子透かしパターン全体を平行移動させることにより、前記第１の電子透かしパターンを前記動き情報の示す動きに追従する動きを示すように修正した第２の電子透かしパターンを生成するステップであることを特徴とする。
【００６３】
さらに、本発明の電子透かし埋め込み処理方法の一実施態様において、前記動き検出ステップは、電子透かしパターン埋め込み処理対象となる画像信号をフレーム単位で均等に複数分割したブロック領域毎に動きベクトルを取得する処理を実行することを特徴とする。
【００６４】
さらに、本発明の電子透かし埋め込み処理方法の一実施態様において、前記動き検出ステップは、電子透かしパターン埋め込み処理対象となる画像信号をフレーム単位で微少領域に分割したブロック領域毎に動きベクトルを取得する処理を実行し、同様の動きベクトルを持つ画像領域を１つのオブジェクト領域と判定し、オブジェクト単位の動きベクトル間における評価処理に基づいて動き情報を出力することを特徴とする。
【００６５】
さらに、本発明の電子透かし埋め込み処理方法の一実施態様において、前記動き検出ステップは、ブロック領域単位で求められる複数の動きベクトルの評価処理を、複数の動きベクトルについて、過半数をしめる方向および大きさを持つ動きベクトルに対応する情報を動き情報Ｖとして出力する構成であることを特徴とする。
【００６６】
さらに、本発明の電子透かし埋め込み処理方法の一実施態様において、前記動き検出ステップは、ブロック領域単位で求められる複数の動きベクトルの評価処理を、複数の動きベクトルについて、方向および大きさが最多数の動きベクトルに対応する情報を動き情報Ｖとして出力することを特徴とする。
【００６７】
さらに、本発明の電子透かし埋め込み処理方法の一実施態様において、前記動き検出ステップは、ブロック領域単位で求められる複数の動きベクトルの評価処理を、複数の動きベクトルについての平均値の取得処理として実行し、動き情報Ｖとして出力することを特徴とする。
【００６８】
さらに、本発明の電子透かし埋め込み処理方法の一実施態様において、前記動き検出ステップは、ブロック領域単位で求められる複数の動きベクトルについて、大きな動きを示す動きベクトルに対しては、重み付けを大とし、小さな動きを示す動きベクトルに対しては、重み付けを小とした評価処理に基づいて動き情報Ｖを出力することを特徴とする。
【００６９】
さらに、本発明の電子透かし埋め込み処理方法の一実施態様において、前記動き検出ステップは、ブロック領域単位で求められる複数の動きベクトルについて、画像中心に近い領域の動きベクトルに対しては、重み付けを大とし、画像周辺部に近い領域の動きベクトルに対しては、重み付けを小とした評価処理に基づいて動き情報Ｖを出力することを特徴とする。
【００７０】
さらに、本発明の電子透かし埋め込み処理方法の一実施態様において、前記電子透かし埋め込み処理方法は、さらに、電子透かしパターン埋め込み処理対象となる画像信号の画像フォーマットの縮小処理を実行する信号縮小ステップを有し、前記動き検出ステップは、前記信号縮小ステップにおいて縮小された画像データについて、分割したブロック領域単位で動きベクトルを取得し、該動きベクトルの評価処理に基いて動き情報を出力することを特徴とする。
【００７１】
さらに、本発明の第３の側面は、
画像信号に対する電子透かしの埋め込み処理をコンピュータ・システム上で実行せしめるプログラムであって、
埋め込み情報に基づいて第１の電子透かしパターンを生成する電子透かしパターン生成ステップと、
電子透かしパターン埋め込み処理対象となる画像信号を分割したブロック領域単位で動きベクトルを取得し、取得された複数の動きベクトルの大きさおよび方向の統計的評価に基き一つの動きベクトルを求め、該一つの動きベクトルを前記画像信号の動き情報として出力する動き検出ステップと、
前記動き情報のベクトル量分だけ前記第１の電子透かしパターン全体を平行移動させることにより、前記第１の電子透かしパターンを前記動き情報の示す動きに追従する動きを示すように修正した第２の電子透かしパターンを生成する電子透かしパターン修正ステップと、
前記電子透かしパターン修正ステップにおいて生成した前記第２の電子透かしパターンを前記画像信号に対して埋め込む処理を実行する加算ステップと、
を有することを特徴とするプログラムにある。
【００７２】
なお、本発明のプログラムは、例えば、様々なプログラム・コードを実行可能な汎用コンピュータ・システムに対して、コンピュータ可読な形式で提供する媒体、例えば、ＣＤやＦＤ、ＭＯなどの記憶媒体に格納されて提供可能であり、本発明のプログラムは、例えば、様々なプログラム・コードを実行可能な汎用コンピュータ・システムに対して、コンピュータ・プログラムをコンピュータ可読な形式で提供する媒体に記憶可能である。媒体は、ＣＤやＦＤ、ＭＯなどの記録媒体、あるいは、ネットワークなどの伝送媒体など、その形態は特に限定されない。
【００７３】
このようなプログラムは、プロセッサ制御の下でプログラムの読み取りに基づき、システムの有する各種機能の実行を規程するとともに、システム上の協働的作用を発揮するものであり、本発明の他の側面と同様の作用効果を得ることができるものである。
【００７４】
本発明のさらに他の目的、特徴や利点は、後述する本発明の実施例や添付する図面に基づくより詳細な説明によって明らかになるであろう。
【００７５】
【発明の実施の形態】
以下、図面を参照して、本発明の電子透かし埋め込み処理装置、および電子透かし埋め込み処理方法について詳細に説明する。
【００７６】
［電子透かし埋め込み処理装置構成例１］
図３は、本発明の一実施例に係る電子透かし埋め込み処理装置１００を示すブロック図である。電子透かし埋め込み処理装置１００において、ＰＮ生成部１２１はＰＮ（Ｐｓｅｕｄｏｒａｎｄｏｍ Ｎｏｉｓｅ；擬似雑音符号）系列の乱数データＰＮを生成し、これを基本パターンとして電子透かしを埋め込む。続く乗算部１２２は電子透かし埋め込み情報ＤＣをこの乱数データＰＮによりスペクトラム拡散し、これを電子透かしパターンＷＭ１とする。埋め込み情報ＤＣを乱数データＰＮによりスペクトラム拡散することにより、解析困難な電子透かしパターンＷＭ１を生成することができる。図３の構成において、ＰＮ生成部１２１、乗算部１２２が電子透かしパターンＷＭ１を生成するための第１の電子透かしパターン生成手段を構成する。
【００７７】
なお、電子透かし埋め込み情報ＤＣは、例えば複製制御情報として、電子透かし埋め込み対象信号に応じて、「複製可能（ＣｏｐｙＦｒｅｅ）」、「１回複製可能（Ｃｏｐｙ Ｏｎｃｅ）」「絶対複製禁止（Ｎｅｖｅｒ Ｃｏｐｙ）」などを意味する情報を含む情報である。
【００７８】
電子透かし埋め込み処理装置１００において、動き検出部１２３は順次入力されるデジタルビデオ信号ＤＶ１に対して画像の動き検出を行い、動き情報Ｖを出力する。この動き検出部１２３における動き検出処理は人間の視覚特性を考慮した画像分析手法により、入力画像を分析することにより実行される。
【００７９】
本発明の電子透かし埋め込み処理装置１００は、動き検出部１２３の検出した動き情報に基づいて、画像が静止している場合には電子透かしパターンも静止させ、画像が動いている場合には電子透かしパターンも追従して動かす処理を実行する構成としたことにより、人間の目に感知しにくくなるように電子透かしを埋め込むものである。これにより全体の埋め込み強度を変えることなく、電子透かしの画質に及ぼす影響を効果的に抑えることができる。
【００８０】
図４は、電子透かし埋め込み処理装置１００中の動き検出部１２３の詳細構成を示すブロック図である。動き検出部１２３において、信号記憶部１２６は順次入力されるデジタルビデオ信号ＤＶ１をフレーム毎に記憶し、１フレーム遅延させた遅延デジタルビデオ信号ＤＶ１’を出力する。ここでは時間的に連続する２つの画像信号は相関の高い画素値となることを利用して、最適に設定した探索範囲においてフレーム相関が最大になるような動きベクトルを決定することにより、画像信号の動き検出を行う。
【００８１】
続く相関計算部１２７は、この信号記憶部１２６が出力する遅延デジタルビデオ信号ＤＶ１’と入力デジタルビデオ信号ＤＶ１とのフレーム相関を計算し、相関情報Ｍを出力する。ここでは時間的に連続する２つのデジタルビデオ信号ＤＶ１’とＤＶ１において、例えばそれぞれ対応する画素間で輝度値の差分の絶対値を計算し、フレーム内で総和したマッチング値をフレーム相関の指標とする。すなわち、動きベクトルの探索範囲（Ｖｘ，Ｖｙ）におけるマッチング値は、以下の式で示される値となる。
【００８２】
【数１２】
Ｍ（Ｖｘ，Ｖｙ）
＝Σ｜ＤＶ１’（ｘ，ｙ）−ＤＶ１（ｘ＋Ｖｘ，ｙ＋Ｖｙ）｜
【００８３】
次に動きベクトルの探索範囲を変更して、上記［数１２］の計算を繰り返し、それぞれの動きベクトルに対するマッチング値を全て算出する。これにより、動きベクトルの探索範囲（Ｖｘ，Ｖｙ）におけるフレーム相関平面が得られる。
【００８４】
続く動き判定部１２８は、この相関計算部１２７が出力する相関情報Ｍに基づいてフレーム相関が最大になる動きベクトル（Ｖｘ，Ｖｙ）を決定し、動き情報Ｖを出力する。すなわち相関計算部１２７で得られたフレーム相関平面において、最大の相関を与える（この場合は最小のマッチング値となる）動きベクトル（Ｖｘ，Ｖｙ）を動き情報Ｖとして出力する。動き情報は以下に示す式によって示される。
【００８５】
【数１３】
Ｖ（ｘ，ｙ）
＝ａｒｇ  ｍｉｎ  Ｍ（Ｖｘ，Ｖｙ）
【００８６】
このとき遅延デジタルビデオ信号ＤＶ１’は、動きベクトル（Ｖｘ，Ｖｙ）により移動して入力デジタルビデオ信号ＤＶ１に時間変化したことになる。これにより最適に設定した探索範囲において、時間的に連続する２つの画像信号のフレーム相関を最大化するような動きベクトルを決定することにより、画像信号の動き情報を検出することができる。
【００８７】
図３に戻り、電子透かし埋め込み処理装置の説明を続ける。信号変調部１２４は、動き検出部１２３が出力する動き情報Ｖを入力し、動き情報Ｖに基づいて電子透かしパターンＷＭ１を変調し、人間の視覚特性を考慮した電子透かしパターンＷＭ２を加算部１２５に出力する。すなわち、信号変調部１２４は、動き検出部１２３が出力する動き情報Ｖのベクトル量に対応した分だけ第１の電子透かしパターンＷＭ１全体を平行移動させて電子透かしパターンＷＭ２を生成することにより、第１の電子透かしパターンを動き情報の示す動きに追従する動きを示すように修正した第２の電子透かしパターンを生成する電子透かしパターン修正手段として機能する。
【００８８】
信号変調部１２４は、入力デジタルビデオ信号ＤＶ１が静止している場合には、動き検出部１２３が出力する動き情報Ｖ＝（０，０）に応じて電子透かしパターンＷＭ１も静止させたパターンとして変調して電子透かしパターンＷＭ２を生成し、入力デジタルビデオ信号ＤＶ１が動きベクトル（Ｖｘ，Ｖｙ）により移動する場合には、動き検出部１２３が出力する動き情報Ｖ＝（Ｖｘ，Ｖｙ）に応じて電子透かしパターンＷＭ１を画像に追従して動かす処理を実行した変調処理により電子透かしパターンＷＭ２を生成して加算部１２５に出力する。この処理により、静止画には、静止した電子透かしパターン埋め込み、動画には、動きに追従した電子透かしパターン埋め込みが可能となり、人間の目に感知しにくくなるように電子透かしを埋め込むことができる。これにより全体の埋め込み強度を変えることなく、電子透かしの画質に及ぼす影響を効果的に抑制することが可能になる。
【００８９】
動き検出部１２３が出力する動き情報Ｖに従って、信号変調部１２４が電子透かしパターンＷＭ１の変調処理を実行することによって生成した電子透かしパターンＷＭ２を入力する加算部１２５は、入力デジタルビデオ信号ＤＶ１に信号変調部１２４が出力する電子透かしパターンＷＭ２を加算することにより、入力デジタルビデオ信号ＤＶ１と同一の形式により電子透かし情報ＤＣを埋め込んだデジタルビデオ信号ＤＶ２を出力する。
【００９０】
この出力デジタルビデオ信号ＤＶ２は、例えば、所定のエンコーダによりエンコードして放送局等より衛星波や地上波、ケーブル等の媒体を介して伝送されたり、また出力デジタルビデオ信号ＤＶ２を所定のエンコーダによりエンコードしてディスク原盤を露光し、このディスク原盤より光ディスクによって提供される。
【００９１】
このように、図３に示す本発明の電子透かし埋め込み処理装置は、電子透かしの埋め込み処理対象画像の動き情報を取得し、動き情報に応じて電子透かしパターンの変調処理を実行して、静止画に対しては静止した電子透かしパターンを入力画像に加算し、動画には、動きに追従した電子透かしパターン埋め込みを実行する構成としたので、人間の目に感知しにくくなるように電子透かしを埋め込むことができる。これにより全体の埋め込み強度を変えることなく、電子透かしの画質に及ぼす影響を効果的に抑制することが可能になる。
【００９２】
［電子透かし埋め込み処理フロー］
次に、本発明の電子透かし埋め込み処理装置における処理手順について、図５に示すフローを参照して説明する。図５は、例えばデジタルビデオ信号等の入力信号に対して動き検出を実行して、動き情報に応じた電子透かしパターンの変調を実行して入力信号に埋め込む処理を実行する電子透かし埋め込み処理装置の処理手順を示すフローチャートである。各ステップについて説明する。
【００９３】
電子透かし埋め込み処理装置は、まず、ステップＳ１１においてＰＮ系列の乱数データを生成し、ステップＳ１２において、電子透かし埋め込み対象信号に応じて、「複製可能（ＣｏｐｙＦｒｅｅ）」、「１回複製可能（Ｃｏｐｙ Ｏｎｃｅ）」「絶対複製禁止（Ｎｅｖｅｒ Ｃｏｐｙ）」などの複製制御情報などからなる埋め込み情報を乱数データＰＮによりスペクトラム拡散し、電子透かしパターンＷＭ１を生成する。
【００９４】
続いて電子透かし埋め込み処理装置は、ステップＳ１３において、入力デジタルビデオ信号ＤＶ１を順次フレームデータ毎に読み込み、ステップＳ１４において、時間的に連続する入力デジタルビデオ信号ＤＶ１に対して画像相関を計算し、相関情報Ｍを出力する。続いて電子透かし埋め込み処理装置はステップＳ１５において、相関情報Ｍに基づいて画像の動き検出を行い、動き情報Ｖを出力する。すなわち入力デジタルビデオ信号ＤＶ１をフレーム毎に記憶して１フレーム遅延させた遅延デジタルビデオ信号ＤＶ１’を生成し、時間的に連続する２つのデジタルビデオ信号ＤＶ１’とＤＶ１とに基づいて、前述の［数１２］を適用して、動きベクトルの探索範囲（Ｖｘ，Ｖｙ）においてフレーム相関平面を算出し、さらに［数１３］を適用して最大の相関を与える動きベクトル（Ｖｘ，Ｖｙ）を決定し、これを動き情報Ｖとして出力する。
【００９５】
続いて電子透かし埋め込み処理装置は、ステップＳ１６において、動き情報Ｖに基づいて電子透かしパターンＷＭ１を変調し、人間の視覚特性を考慮した電子透かしパターンＷＭ２を出力する。すなわち検出された動き情報Ｖに基づいて、入力デジタルビデオ信号ＤＶ１が静止している場合には電子透かしパターンＷＭ１も静止させ、入力デジタルビデオ信号ＤＶ１が動いている場合には電子透かしパターンＷＭ１も追従して動かす処理を実行して電子透かしパターンＷＭ２を生成して出力する。
【００９６】
このような変調処理のなされた電子透かしパターンＷＭ２は、入力画像が静止しているときは、静止し、入力画像に動きがあるときは、画像の動きに併せて移動することになり、人間の目に感知しにくくなる。これにより全体の埋め込み強度を変えることなく、電子透かしの画質に及ぼす影響を効果的に抑制することが可能になる。
【００９７】
続いて電子透かし埋め込み処理装置は、ステップＳ１７に移り、入力信号にこの変調した電子透かしパターンＷＭ２を加算し、続くステップＳ１８において、入力信号と同一の形式により電子透かし情報を埋め込んだ信号を出力する。
【００９８】
続いて電子透かし埋め込み処理装置はステップＳ１９において、入力信号の処理を完了したか否かを判断し、ここで否定結果が得られるとステップＳ１３に戻り、以下の処理を繰り返し実行する。電子透かし埋め込み処理装置は、順次入力信号について、同様の処理を繰り返して入力信号を処理し、ステップＳ１９における入力終了の判定において肯定結果が得られると、処理を完了する。
【００９９】
［電子透かし埋め込み処理装置構成例２］
上述した電子透かし埋め込み処理装置は、画像信号のフレーム相関を利用して動き検出を行なう構成であった。しかし、このようなフレーム相関からの動き検出処理に基づく電子透かしパターンの調整処理においても電子透かしパターンが目立たないように設定されない場合がある。
【０１００】
例えば図６は画像信号が横方向にシフトする場合の、図７は画像信号がズームアウトする場合の、ブロック分割を施した動き検出を説明する図である。この図６、図７の画像の例は走行している車と背景の家や木、そしてさらに後方の景色といった具合に画像信号中に複数の動きベクトルが存在する画像信号である。時間的に連続する画像信号（ａ）および（ｂ）に対してフレーム相関を利用して、前述の［数１２］および［数１３］により動き情報を検出すると、フレーム全体に対して画像相関を計算することになるため、検出される動き情報は面積比が大きい物体の動きベクトルに大きく影響されることになる。
【０１０１】
このため、例えば図６の横方向シフトの例において、上述の手法では、フレーム相関による動き情報が面積比に依存して出力されることになり、電子透かしパターンは後方の景色の動きベクトル、この場合、ほとんど静止状態を示す動きベクトルであり、動き情報Ｖは、静止した動きベクトルに大きく依存することになる。従って、電子透かしを例えば走行している車の動きベクトルに電子透かしパターンを追従させようとしても、上述の方法では、追従がなされないことになる。
【０１０２】
また図７のズームアウトの例において、フレーム全体としては、例えば１方向へのシフトが存在しないため電子透かしパターンを静止させようとしても、フレーム相関による動き情報が面積比に依存することにより、電子透かしパターンは何らかの予期せぬ方向への動きベクトルに追従する可能性があり、通常の観察状態においても人間の視覚にとらえられてしまうような電子透かしとなる場合がある。
【０１０３】
上述のような問題を解決するために、画像信号に対してブロック分割等の前処理を施した上で画像信号のブロック相関を利用して動き検出を行って電子透かしの埋め込み処理を実行する電子透かし埋め込み処理装置について、以下、説明する。
【０１０４】
図６および図７の例において、まず時間的に連続する画像信号（ａ）および（ｂ）に対して複数の画像ブロックへの分割を行い、適当なブロックサイズの分割画像信号（ｃ）および（ｄ）に変換した上で、これらの分割画像信号（ｃ）および（ｄ）の各ブロックに対してブロック相関を利用して、前述のマッチング値算出式［数１２］および動き情報算出式［数１３］に基づいて、各ブロックにおける動き情報（ｅ）を検出する。図６，図７の例では、１フレーム画像を９ブロックに分割してあるが、分割ブロック数は任意の数に設定可能である。
【０１０５】
分割した各ブロックに対して動きベクトルが算出され、算出された複数の動きベクトルについて、所定の評価を行ない、評価結果に基づいてその画像信号全体の最適な動き情報（ｆ）を一つ設定する。
【０１０６】
ブロック領域単位で求められる複数の動きベクトルについての評価方法は、様々に設定可能である。例えば複数の動きベクトルについて、方向および大きさが最多数の動きベクトルを選択して、この最多数を占めるベクトルに対応する情報を動き情報Ｖとして出力する。または、複数の動きベクトルについての平均値を取得して、平均値を動き情報Ｖとして出力するなどの処理が可能である。
【０１０７】
さらに、ブロック領域単位で求められる複数の動きベクトルについて、大きな動きを示す動きベクトルに対しては、重み付けを大とし、小さな動きを示す動きベクトルに対しては、重み付けを小とした評価処理に基づいて動き情報Ｖを出力する。あるいは、画像中心に近い領域の動きベクトルに対しては、重み付けを大とし、画像周辺部に近い領域の動きベクトルに対しては、重み付けを小とした評価処理に基づいて動き情報Ｖを出力する構成とするなどである。
【０１０８】
具体的には、例えば分割した複数ブロックのうち過半数以上のブロックにおいて１方向への動きベクトルが算出された場合には、多数決によりその動きベクトルをこの画像信号の動き情報とする方法がある。
【０１０９】
また各ブロック毎に算出された動きベクトルに対して、その動きベクトルの大きさで重み付けを行って動きベクトルを評価判定する構成としてもよい。人間の目は、より大きな動きを持つ領域に集中しやすい傾向があり、動きベクトルが大きい場合には重み付けを大とすることで、人間の目が集中しやすい動きのある部分を重視した、画像信号の動き情報を取得することができる。
【０１１０】
さらに各ブロック毎に算出された動きベクトルに対して、画像中央部分のブロックが大きく、画像周縁部分のブロックが小さくなるような重み付けを行って動きベクトルを評価判定することにより、人間の目が集中しやすい画像中央部分を重視した、画像信号の動き情報を取得することができる。
【０１１１】
このように、ブロック分割した各領域において、動きベクトルを算出し、算出された複数の動きベクトルの評価に基づいて取得した動き情報に基づいて、埋め込み電子透かしパターンの調整をする。このような構成によれば、例えば図６の横方向シフトの例において、前述のフレーム相関を利用した際には後方の景色の動きベクトルが画像信号の動き情報として検出され、ほとんど静止状態の電子透かしパターン埋め込みがなされるのに対して、本実施例におけるブロック相関を利用した複数の動きベクトル検出による手法を実行し、例えば人間の目が集中しやすい動きのある部分や画像中央部分を重視して動きベクトルを評価判定すれば、走行する車に追従するような画像信号の動き情報（ｆ）を抽出して、走行する車に追従する電子透かしパターン埋め込みがなされることになる。
【０１１２】
また図７のズームアウトの例において、前述のフレーム相関を利用した際には何らかの予期せぬ方向への動きベクトルが画像信号の動き情報として検出され、予期せぬ方向への動きを示す電子透かしパターン埋め込みがなされるのに対して、本実施例におけるブロック相関を利用した複数の動きベクトル検出による手法を実行し、例えば多数決により動きベクトルを評価判定する方法を採用すれば、どの方向にも追従しない静止画と同様の動き情報（ｆ）を抽出することができ、ほとんど静止状態の電子透かしパターン埋め込みがなされることになる。
【０１１３】
このように、ブロック分割した各領域において、動きベクトルを算出し、算出された複数の動きベクトルの評価に基づいて動き情報を取得することにより、人間の視覚特性に合致した動き検出が可能になり、元の電子透かしパターン（ｇ）を取得された動きベクトルに追従させるように調整処理により電子透かしパターン（ｈ）を変調した後、画像信号に重畳することにより、電子透かしの画質に及ぼす影響を効果的に抑制し、視覚的に目立たない電子透かしの埋め込みが可能となる。
【０１１４】
図６、図７では、画像を９ブロックに分割した例について説明したが、さらに細密なブロック分割を行った上で、画像信号のオブジェクト毎のブロック相関を利用して動き検出を行い、画像信号の動き情報を検出してもよい。
【０１１５】
例えば図８は、先に説明した図６に示す画像と同様、画像信号が横方向シフトする場合の、微少ブロックへの分割を施し、各ブロックの動き情報からオブジェクト毎の動きを検出する処理を説明する図である。この図８に示す例において、まず時間的に連続する画像信号（ａ）および（ｂ）に対して多数の微少な画像ブロックへの分割を行い、各ブロックについて動きベクトル検出処理を実行する。
【０１１６】
すなわち、各ブロックサイズの分割画像信号（ｃ）および（ｄ）に変換し、これらの分割画像信号（ｃ）および（ｄ）の各ブロックに対してブロック相関を利用して、前述のマッチング値算出式［数１２］および動きベクトル算出式［数１３］に基づいて、各ブロックにおける動き情報（ｅ）を検出する。
【０１１７】
微少ブロックにおける多数の動きベクトルのうち同方向への動きベクトルを有する複数ブロックをまとめて１つのオブジェクトとして判定する。図８（ｅ）のように、家、車、木の各領域において、ほぼ同様の動きベクトルを持つ領域が抽出され、３つの異なる動きベクトルを持つオブジェクトが抽出される。さらに、各オブジェクト毎に算出された複数の動きベクトルを評価判定し、その結果、その画像信号全体の最適な動き情報（ｆ）を一つ抽出する。すなわち、同様の動きベクトルを持つ画像領域を１つのオブジェクト領域と判定し、オブジェクト単位の動きベクトル間における評価処理に基づいて動き情報を出力する。
【０１１８】
なお、動きベクトルの評価は、前述したように、過半数をしめるベクトルを抽出、多数決、または最も動きの大きなものに大きな重み付けを行なう、あるいは画面中央部に大きな重み付けを行なうなどの方法が適用可能である。また、これらの評価は複合的に適用、すなわち、動きの大きなもので中央部にあるものについては、さらに大きな重みづけを行なうといった評価方法を適用してもよい。
【０１１９】
このように、ブロック分割した各領域において、動きベクトルを算出し、算出された複数の動きベクトルの評価に基づいて動き情報を取得して取得した動き情報に基づいて電子透かしの埋め込み処理を実行する電子透かし埋め込み処理装置は、先の図３の電子透かし埋め込み処理装置１００において動き検出部１２３の構成を変更することによって実現される。
【０１２０】
図９は、ブロック分割等の前処理を施した上で画像信号のブロック相関を利用して動き検出を行う、電子透かし埋め込み処理装置１００中の動き検出部１２３を示すブロック図である。まず動き検出部１２３において、信号分割部１２９は順次入力されるデジタルビデオ信号ＤＶ１を適当なサイズの複数ブロック（例えばｎ）に分割し、ブロック分割された分割デジタルビデオ信号ＤＶ１Ｂを出力する。続く信号記憶部１３０は、この信号分割部１２９が出力する分割デジタルビデオ信号ＤＶ１Ｂをフレーム毎に記憶し、１フレーム遅延させた遅延分割デジタルビデオ信号ＤＶ１Ｂ’を出力する。ここでは時間的に連続する２つの画像信号は相関の高い画素値となることを利用して、最適に設定した探索範囲において、ｎ個の各ブロック毎にブロック相関が最大になるような動きベクトルを評価判定することにより、画像信号の動き検出を行う。
【０１２１】
続く相関計算部１３１は、信号記憶部１３０が出力する遅延分割デジタルビデオ信号ＤＶ１Ｂ’と分割デジタルビデオ信号ＤＶ１Ｂとの各ブロック毎のブロック相関を計算し、相関情報Ｍを出力する。ここでは時間的に連続する２つのデジタルビデオ信号ＤＶ１Ｂ’とＤＶ１Ｂにおいて、前述の［数１２］を適用してそれぞれ対応する画素間で輝度値の差分の絶対値を各ブロック内で総和したマッチング値を計算し、これをブロック相関の指標とする。次に動きベクトルの探索範囲を変更して［数１２］の計算を繰り返し、それぞれの動きベクトルに対するマッチング値を全て算出する。これにより、動きベクトルの探索範囲（Ｖｘ，Ｖｙ）におけるｎ個の各ブロック毎のブロック相関平面が得られる。
【０１２２】
動き判定部１３２は、相関計算部１３１が出力する相関情報Ｍに基づいてｎ個の各ブロック毎にブロック相関が最大になる動きベクトル（Ｖｘ，Ｖｙ）を決定し、さらにこれらの複数の動きベクトルを評価判定することにより動き情報Ｖを出力する。すなわち相関計算部１３１で得られた各ブロック毎のブロック相関平面において、前述の［数１３］に基づいて最大の相関を与えるｎ個の動きベクトル（Ｖｘ，Ｖｙ）が算出される。
【０１２３】
次に、動き判定部１３２は、これらのｎ個のブロックに対応するｎ個の動きベクトル（Ｖｘ，Ｖｙ）の評価を実行する。評価は、前述したように、多数決方式、あるいは最も動きの大きなものに大きな重み付けを行なったり、画面中央部に大きな重み付けを行なうなどの方法が適用可能である。
【０１２４】
例えば、多数決方式の評価を実行する場合は、分割したｎ個の複数ブロックのうち過半数以上のブロックにおいて１方向への動きベクトルが算出された場合には、その動きベクトルをこの画像信号の動き情報Ｖとして設定する。また各ブロック毎に算出された動きベクトルに対して、その動きベクトルの大きさで重み付けを行って動きベクトルを評価判定する場合は、重み付け係数を各算出ベクトルに乗算し総和を算出するなどの演算を実行する。このような手法で出力した動き情報Ｖに基づいて電子透かしパターンの調整を実行することにより、人間の目が集中しやすい動きのある部分を重視した、画像信号の動き情報を検出することができる。
【０１２５】
あるいは、各ブロック毎に算出された動きベクトルに対して、画像中央部分のブロックに大きく、画像周縁部分のブロックに小さい重み付けを行って、各動きベクトルを評価判定も可能である。この評価手法によれば、人間の目が集中しやすい画像中央部分を重視した、画像信号の動き情報を検出することができる。
【０１２６】
［画像フォーマット変換を伴う動きベクトル検出処理］
ところで画像相関を利用した動き情報の検出は演算量が膨大であり、前述のマッチング算出式［数１２］の演算量は画像信号のフレームサイズと動きベクトル探索範囲との積に比例する。これはＨＤ（Ｈｉｇｈ  Ｄｅｆｉｎｉｔｉｏｎ）画像信号から動き検出を行って電子透かし情報を埋め込む際に特に問題となり、動きベクトルを精度良く検出するためには高効率な動き検出アルゴリズムの実現が重要である。
【０１２７】
この演算量の増加という問題を解決する構成について、以下、説明する。演算量の増加を解決するために、画像信号に対してフォーマット縮小等の前処理を施した上で画像信号のフレーム相関を利用して動き検出を行う。
【０１２８】
図１０は、画像信号が横方向シフトする場合の、フォーマット縮小を施した動き検出処理について説明する図である。まず時間的に連続する画像信号（ａ）および（ｂ）に対して画像フォーマットの縮小を行い、適当なフレームサイズの縮小画像信号（ｃ）および（ｄ）に変換する。
【０１２９】
これらの縮小画像信号（ｃ）および（ｄ）に対してフレーム相関を利用して、前述のマッチング値算出式［数１２］および動きベクトル算出式［数１３］に基づいて、動きベクトル、すなわち動き情報（ｅ）を算出する。このような縮小処理による画像フォーマット変換を経た場合でも時間的に連続する２つの画像信号は相関の高い画素値となる。この縮小画像信号（ｃ）および（ｄ）において最適に設定した探索範囲においてフレーム相関が最大になるような動きベクトルを決定する。このように、画像フォーマットの縮小を行なうことにより、少ない演算量で画像信号の動き検出を行うことができる。なおこのようにして検出された動き情報（ｅ）は縮小画像信号の動きベクトルであり、元の縮尺に拡大することにより元の画像信号の動き情報（ｆ）を得ることができる。
【０１３０】
図１０に示す例は、画像全体の処理を実行して１つの動きベクトルを算出する処理例を示しているが、図６、図７、図８等を用いて説明したブロック分割を実行して、各ブロックにおいて、前述のマッチング値算出式［数１２］および動きベクトル算出式［数１３］に基づいて、各ブロック毎の動きベクトルを算出する場合も、このような縮小処理による画像フォーマット変換を経た後に算出処理を実行することで演算量が低減する。この構成例については、後段で説明する。
【０１３１】
例えば画像信号に対して水平方向、垂直方向共に１／２になるような画像フォーマット変換を施した場合、縮小画像信号のフレームサイズは元の画像信号の（１／２）×（１／２）＝１／４に低減することができる。このようにすれば、前述の［数１２］を適用した演算において、動き検出に要する演算量は画像信号のフレームサイズと動きベクトル探索範囲との積に比例するから、１／４の演算量で画像信号の高効率な動き検出を行うことができ、高速処理が可能となる。
【０１３２】
なお、画像フォーマットの縮小を行なうことにより設定可能な動きベクトルの探索範囲も水平方向、垂直方向共に１／２の精度に落ちるため、実用上十分な検出精度が確保できる範囲において画像信号のフレームサイズを縮小し、動き検出に要する演算量を低減させる必要がある。このようにして検出された縮小画像信号の動き情報（ｅ）を２倍することにより元の画像信号の動き情報（ｆ）が得られ、元の電子透かしパターン（ｇ）をこうして検出された動きベクトルにより移動して電子透かしパターン（ｈ）に変調した後画像信号に重畳することにより、電子透かしの画質に及ぼす影響を効果的に抑制し、視覚的に目立ち難い電子透かし埋め込みが実現される。
【０１３３】
また画像フォーマットの縮小に際しては、実用上十分な検出精度が確保できる範囲においてより簡易的にフォーマット変換を施すことができる。例えば水平方向１／ｍ、垂直方向１／ｎになるように画像フォーマットを縮小する場合には、水平方向１／ｍ、垂直方向１／ｎになるようにサンプルを間引くことによりフォーマット変換を施してもよい。また水平方向ｍピクセル×垂直方向ｎピクセルのブロックにおいて、相加平均等により新しいサンプルを算出することによりフォーマット変換を施してもよい。
【０１３４】
このように、画像のフォーマット変換をした後、動きベクトルを算出し、算出された動きベクトルに基づいて動き情報を取得して取得した動き情報に基づいて電子透かしの埋め込み処理を実行する電子透かし埋め込み処理装置は、先の図３の電子透かし埋め込み処理装置１００において動き検出部１２３の構成を変更することによって実現される。
【０１３５】
図１１は、このように画像信号に対してフォーマット縮小等の前処理を施した上で画像信号のフレーム相関を利用して動き検出を行う電子透かし埋め込み処理装置１００中の動き検出部１２３を示すブロック図である。図１１に示す動き検出部１２３において、信号縮小部１３３は順次入力されるデジタルビデオ信号ＤＶ１を適当なフレームサイズの縮小画像にフォーマット変換し、フォーマット変換された縮小デジタルビデオ信号ＤＶ１Ｒを出力する。続く信号記憶部１３４は、この信号縮小部１３３が出力する縮小デジタルビデオ信号ＤＶ１Ｒをフレーム毎に記憶し、１フレーム遅延させた遅延縮小デジタルビデオ信号ＤＶ１Ｒ’を出力する。ここでは時間的に連続する２つの縮小画像信号は相関の高い画素値となることを利用して、最適に設定した探索範囲においてフレーム相関が最大になるような動きベクトルを決定することにより、画像信号の動き検出を行う。
【０１３６】
続く相関計算部１３５は、この信号記憶部１３４が出力する遅延縮小デジタルビデオ信号ＤＶ１Ｒ’と縮小デジタルビデオ信号ＤＶ１Ｒとのフレーム相関を計算し、相関情報Ｍを出力する。ここでは時間的に連続する２つのデジタルビデオ信号ＤＶ１Ｒ’とＤＶ１Ｒにおいて、前述の［数１２］を適用して、それぞれ対応する画素間で輝度値の差分の絶対値をフレーム内で総和したマッチング値を計算し、これをフレーム相関の指標とする。次に動きベクトルの探索範囲を変更して［数１２］の計算を繰り返し、それぞれの動きベクトルに対するマッチング値を全て算出する。これにより、動きベクトルの探索範囲（Ｖｘ，Ｖｙ）におけるフレーム相関平面が得られる。
【０１３７】
動き判定部１３６は、相関計算部１３５が出力する相関情報Ｍに基づいてフレーム相関が最大になる動きベクトル（Ｖｘ，Ｖｙ）を決定し、動き情報Ｖを出力する。すなわち相関計算部１３５で得られたフレーム相関平面において、前述の［数１３］に基づいて最大の相関を与える動きベクトル（Ｖｘ，Ｖｙ）を動き情報Ｖとして出力する。最適設定探索範囲において、時間的に連続する２つの縮小画像信号のフレーム相関を最大化するような動きベクトルを決定することにより、効果的に演算量を低減して高効率に画像信号の動き情報を検出することができる。
【０１３８】
［フォーマット変換およびブロック分割を実行する電子透かし埋め込み処理装置］
次に、画像信号に対してフォーマット縮小等の前処理を施し、さらに、前述の複数ブロックに分割して各ブロック毎に動きベクトルを算出して、複数の動きベクトルに基づいて動き情報を算出する構成とした電子透かし埋め込み処理装置について説明する。このような電子透かし埋め込み処理装置は、先の図３の電子透かし埋め込み処理装置１００において動き検出部１２３の構成を変更することによって実現される。
【０１３９】
動き検出部の構成を図１２を用いて説明する。図１２示す動き検出部１２３において、信号縮小部１４１は順次入力されるデジタルビデオ信号ＤＶ１を適当なフレームサイズの縮小画像にフォーマット変換し、フォーマット変換された縮小デジタルビデオ信号ＤＶ１Ｒを出力する。続いて、縮小画像データは、信号分割部１４２に入力され、信号分割部１４２は順次入力される縮小デジタルビデオ信号ＤＶ１Ｒを適当なサイズの複数ブロック（例えばｎ）に分割し、ブロック分割された分割デジタルビデオ信号ＤＶ１ＲＢを出力する。
【０１４０】
信号記憶部１４３は、信号分割部１４２が出力する縮小分割デジタルビデオ信号ＤＶ１ＲＢをフレーム毎に記憶し、１フレーム遅延させた遅延分割デジタルビデオ信号ＤＶ１ＲＢ’を出力する。ここでは時間的に連続する２つの画像信号は相関の高い画素値となることを利用して、最適に設定した探索範囲において、ｎ個の各ブロック毎にブロック相関が最大になるような動きベクトルを評価判定することにより、画像信号の動き検出を行う。
【０１４１】
続く相関計算部１４４は、信号記憶部１４３が出力する遅延分割デジタルビデオ信号ＤＶ１ＲＢ’と分割デジタルビデオ信号ＤＶ１ＲＢとの各ブロック毎のブロック相関を計算し、相関情報Ｍを出力する。ここでは時間的に連続する２つのデジタルビデオ信号ＤＶ１ＲＢ’とＤＶ１ＲＢにおいて、前述の［数１２］を適用してそれぞれ対応する画素間で輝度値の差分の絶対値を各ブロック内で総和したマッチング値を計算し、これをブロック相関の指標とする。次に動きベクトルの探索範囲を変更して［数１２］の計算を繰り返し、それぞれの動きベクトルに対するマッチング値を全て算出する。これにより、縮小画像の各ブロックにおける動きベクトルの探索範囲（Ｖｘ，Ｖｙ）でブロック毎のブロック相関平面が得られる。
【０１４２】
動き判定部１４５は、相関計算部１４４が出力する相関情報Ｍに基づいてｎ個の各ブロック毎にブロック相関が最大になる動きベクトル（Ｖｘ，Ｖｙ）を決定し、さらにこれらの複数の動きベクトルを評価判定することにより動き情報Ｖを出力する。すなわち相関計算部１４４で得られた各ブロック毎のブロック相関平面において、前述の［数１３］に基づいて最大の相関を与えるｎ個の動きベクトル（Ｖｘ，Ｖｙ）が算出される。
【０１４３】
次に、動き判定部１４５は、これらのｎ個のブロックに対応するｎ個の動きベクトル（Ｖｘ，Ｖｙ）の評価を実行する。評価は、前述したように、多数決方式、あるいは最も動きの大きなものに大きな重み付けを行なったり、画面中央部に大きな重み付けを行なうなどの方法が適用可能である。
【０１４４】
例えば、多数決方式の評価を実行する場合は、分割したｎ個の複数ブロックのうち過半数以上のブロックにおいて１方向への動きベクトルが算出された場合には、その動きベクトルをこの画像信号の動き情報Ｖとして設定する。また各ブロック毎に算出された動きベクトルに対して、その動きベクトルの大きさで重み付けを行って動きベクトルを評価判定する場合は、重み付け係数を各算出ベクトルに乗算し総和を算出するなどの演算を実行する。このような手法で出力した動き情報Ｖに基づいて電子透かしパターンの調整を実行することにより、人間の目が集中しやすい動きのある部分を重視した、画像信号の動き情報を検出することができる。
【０１４５】
あるいは、各ブロック毎に算出された動きベクトルに対して、画像中央部分のブロックに大きく、画像周縁部分のブロックに小さい重み付けを行って、各動きベクトルを評価判定も可能である。この評価手法によれば、人間の目が集中しやすい画像中央部分を重視した、画像信号の動き情報を検出することができる。
【０１４６】
このように、縮小処理によるフォーマット変換を実行し、かつブロック分割した領域毎に動きベクトルを取得して、動き情報を取得する構成によれば、動きベクトルの算出処理数は、プロック数に応じて増加するが、縮小処理により演算量の低減が実現でき、演算量を大幅に増大させることなく、最適な電子透かし調整、埋め込みが可能となり、高効率に画像信号の動き情報を検出し、電子透かしの画質に及ぼす影響を効果的に抑制し、視覚的に目立ち難い電子透かし埋め込みが実現される。
【０１４７】
［電子透かし埋め込み処理フロー］
次に、上述したブロック分割あるいはフォーマット変換等の処理を実行する電子透かし埋め込み処理装置における処理手順について、図１３に示すフローを参照して説明する。図１３は、例えばデジタルビデオ信号等の入力信号に対してブロック分割あるいはフォーマット変換等の処理を実行した後、動き検出を実行して、動き情報に応じた電子透かしパターンの変調を実行して入力信号に埋め込む処理を実行する電子透かし埋め込み処理装置の処理手順を示すフローチャートである。各ステップについて説明する。
【０１４８】
電子透かし埋め込み処理装置は、まず、ステップＳ３１においてＰＮ系列の乱数データを生成し、ステップＳ３２において、電子透かし埋め込み対象信号に応じて、「複製可能（ＣｏｐｙＦｒｅｅ）」、「１回複製可能（Ｃｏｐｙ Ｏｎｃｅ）」「絶対複製禁止（Ｎｅｖｅｒ Ｃｏｐｙ）」などの複製制御情報などからなる埋め込み情報を乱数データＰＮによりスペクトラム拡散し、電子透かしパターンＷＭ１を生成する。
【０１４９】
続いて電子透かし埋め込み処理装置は、ステップＳ３３において、入力デジタルビデオ信号ＤＶ１を順次フレームデータ毎に読み込み、ステップＳ３４において、入力デジタルビデオ信号ＤＶ１に対して前処理を施す。この前処理は、前述したブロック分割処理、あるいは縮小等のフォーマット変換の少なくともいずれかの処理、または２つの処理をシーケンシャルに実行する処理として行なわれる。
【０１５０】
例えば前処理として、入力デジタルビデオ信号ＤＶ１に対してブロック分割を施し、分割デジタルビデオ信号ＤＶ１Ｂを出力する。このブロック分割により、人間の視覚特性に合致した画像信号の動き検出が可能となる。または入力デジタルビデオ信号ＤＶ１に対してフォーマット縮小を施し、縮小デジタルビデオ信号ＤＶ１Ｒを出力する。この前処理により、少ない演算量で画像信号の動き検出が可能となる。あるいは、入力デジタルビデオ信号ＤＶ１に対してフォーマット縮小を施し、縮小デジタルビデオ信号ＤＶ１Ｒを出力し、さらに、入力デジタルビデオ信号ＤＶ１Ｒに対してブロック分割を施し、分割デジタルビデオ信号ＤＶ１ＲＢを出力する。
【０１５１】
次に、ステップＳ３５において、前処理の施された時間的に連続する入力デジタルビデオ信号ＤＶ１Ｒ、またはＤＶ１Ｂ、またはＤＶ１ＲＢに対して画像相関を計算し、相関情報Ｍを出力する。続いて電子透かし埋め込み処理装置はステップＳ３６において、相関情報Ｍに基づいて画像の動き検出を行い、動き情報Ｖを出力する。
【０１５２】
例えば、分割デジタルビデオ信号ＤＶ１Ｂをフレーム毎に記憶して１フレーム遅延させた遅延デジタルビデオ信号ＤＶ１Ｂ’を生成し、時間的に連続する２つのデジタルビデオ信号ＤＶ１Ｂ’とＤＶ１Ｂにおいて、前述の［数１２］に基づいて、動きベクトルの探索範囲（Ｖｘ，Ｖｙ）における各ブロック毎のブロック相関平面を算出し、［数１３］に基づいて各ブロック毎に最大の相関を与える動きベクトル（Ｖｘ，Ｖｙ）を決定し、これらの複数の動きベクトルを評価判定することにより動き情報Ｖを出力する。
【０１５３】
または、縮小デジタルビデオ信号ＤＶ１Ｒをフレーム毎に記憶して１フレーム遅延させた縮小デジタルビデオ信号ＤＶ１Ｒ’を生成し、時間的に連続する２つのデジタルビデオ信号ＤＶ１Ｒ’とＤＶ１Ｒにおいて、前述の［数１２］に基づいて、動きベクトルの探索範囲（Ｖｘ，Ｖｙ）におけるフレーム相関平面を算出し、前述の［数１３］に基づいて、最大の相関を与える動きベクトル（Ｖｘ，Ｖｙ）を決定し、これを動き情報Ｖとして出力する。
【０１５４】
あるいは、縮小分割デジタルビデオ信号ＤＶ１ＲＢをフレーム毎に記憶して１フレーム遅延させた遅延デジタルビデオ信号ＤＶ１ＲＢ’を生成し、時間的に連続する２つの縮小分割デジタルビデオ信号ＤＶ１ＲＢ’とＤＶ１ＲＢにおいて、前述の［数１２］に基づいて、動きベクトルの探索範囲（Ｖｘ，Ｖｙ）における各ブロック毎のブロック相関平面を算出し、［数１３］に基づいて各ブロック毎に最大の相関を与える動きベクトル（Ｖｘ，Ｖｙ）を決定し、これらの複数の動きベクトルを評価判定することにより動き情報Ｖを出力する。
【０１５５】
続いて電子透かし埋め込み処理装置は、ステップＳ３７において、動き情報Ｖに基づいて電子透かしパターンＷＭ１を変調し、人間の視覚特性を考慮した電子透かしパターンＷＭ２を出力する。すなわち検出された動き情報Ｖに基づいて、入力デジタルビデオ信号ＤＶ１が静止している場合には電子透かしパターンＷＭ１も静止させ、入力デジタルビデオ信号ＤＶ１が動いている場合には電子透かしパターンＷＭ１も追従して動かす処理を実行して電子透かしパターンＷＭ２を生成して出力する。このような変調処理のなされた電子透かしパターンＷＭ２は、入力画像が静止ししているときは、静止し、入力画像に動きがあるときは、画像の動きに併せて移動することになる。
【０１５６】
続いて電子透かし埋め込み処理装置は、ステップＳ３８に移り、入力信号にこの変調した電子透かしパターンＷＭ２を加算し、続くステップＳ３９において、入力信号と同一の形式により電子透かし情報を埋め込んだ信号を出力する。
【０１５７】
続いて電子透かし埋め込み処理装置はステップＳ４０において、入力信号の処理を完了したか否かを判断し、ここで否定結果が得られるとステップＳ３３に戻り、以下の処理を繰り返し実行する。電子透かし埋め込み処理装置は、順次入力信号について、同様の処理を繰り返して入力信号を処理し、ステップＳ４０における入力終了の判定において肯定結果が得られると、処理を完了する。
【０１５８】
本発明のブロック分割した各領域において、動きベクトルを算出し、算出された複数の動きベクトルの評価に基づいて動き情報を取得する構成によれば、人間の視覚特性に合致した動き検出に基づく電子透かしパターンの変調が可能となり、画像信号に重畳することにより、電子透かしの画質に及ぼす影響を効果的に抑制し、視覚的に目立たない電子透かしの埋め込みが可能となる。
【０１５９】
また、本発明の画像縮小等のフォーマット変換処理後の画像についての動きベクトルを算出する構成によれば、動きベクトルの算出に必要な演算量が低減され、動きベクトルの算出効率、電子透かし埋め込み処理効率の向上が達成される。
【０１６０】
［電子透かし検出処理装置］
次に図１４を参照して、電子透かし検出処理装置の構成について説明する。図１４に示す電子透かし検出処理装置１５０は、例えば放送局等より衛星波や地上波、ケーブル等の媒体を介して受信して得られるデジタルビデオ信号ＤＶ２や、光ディスク等を再生して得られるデジタルビデオ信号ＤＶ２より、埋め込まれた電子透かし情報ＤＣを検出する。
【０１６１】
電子透かし検出装置１５０において、ＰＮ生成部１５１はＰＮ系列の乱数データＰＮを生成し、これを基本パターンとして電子透かしを検出する。このときＰＮ生成部１５１は、電子透かし埋め込み処理装置１００におけるＰＮ生成部１２１またはＰＮ生成部１４１と同一の乱数データＰＮを生成することにより、スペクトラム拡散を用いて解析困難に埋め込んだ電子透かし情報ＤＣを正しく検出することができる。
【０１６２】
電子透かし検出装置１５０において、内積計算部１５２は順次入力されるデジタルビデオ信号ＤＶ２に対して乱数データＰＮとの内積値を計算し、内積値Ｓを出力する。続く比較判定部１５３は、この内積値Ｓを最適に設定した閾値と比較することにより、電子透かし情報ＤＣの有無、さらには埋め込まれた電子透かし情報ＤＣの極性を判定する。すなわち非負の閾値ＴＨに基づいて以下に示す判定を行なう。
【０１６３】
【数１４】
Ｓ≦−ＴＨ    ：電子透かしあり（極性０）
｜Ｓ｜＜ＴＨ    ：電子透かしなし
Ｓ≧ＴＨ      ：電子透かしあり（極性１）
【０１６４】
上記式のように、入力信号から埋め込み電子透かし情報ＤＣを検出することができる。
【０１６５】
例えば、放送局等より衛星波や地上波、ケーブル等の媒体を介して受信して得られるデジタルビデオ信号ＤＶ２や、光ディスク等を再生して得られるデジタルビデオ信号ＤＶ２をコピーする際に、この電子透かし情報ＤＣに基づいてコピー制限できるように成され、さらに不正コピーされた疑いのあるソースについては、ソースの出所を究明できるように成されている。
【０１６６】
［電子透かし検出処理フロー］
次に、電子透かし検出処理装置における処理手順について、図１５に示すフローを参照して説明する。各ステップについて説明する。
【０１６７】
電子透かし検出処理装置は、まず、ステップＳ５１において、ＰＮ系列の乱数データＰＮを生成する。続いて電子透かし検出処理装置は、ステップＳ５２において、例えばデジタルビデオ信号ＤＶ２等のフレームデータを順次読み込み、ステップＳ５３において、入力フレームデータと乱数データＰＮとの内積値を計算し、内積値Ｓを出力する。
【０１６８】
続いて電子透かし検出処理装置はステップＳ５４において、算出した内積値Ｓを設定した閾値（ＴＨ）と比較することにより、電子透かし情報ＤＣの有無、さらには埋め込まれた電子透かし情報ＤＣの極性を判定する。すなわち非負の閾値ＴＨに対して、上述の［数１４］の判定に基づいて入力信号から電子透かし情報ＤＣを検出することができる。続いて電子透かし検出処理装置は、ステップＳ５５において、このようにして検出された電子透かし情報ＤＣを出力する。
【０１６９】
続いて電子透かし検出処理装置は、ステップＳ５６に移り、入力信号の処理を完了したか否かを判断し、ここで否定結果が得られるとステップＳ５２に戻り、順次入力データ毎に同様の処理手順を繰り返して入力信号を処理する。ステップＳ５６において入力信号の終了判定について肯定結果が得られると、処理を完了する。
【０１７０】
［システム構成］
上述の実施例で述べた一連の処理は、ハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたデータ処理装置内のメモリにインストールして実行させるか、あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。一連の処理をソフトウェアによって行う場合には、そのソフトウェアを構成するプログラムが、例えば汎用のコンピュータや１チップのマイクロコンピュータ等にインストールされる。図１６は、上述した一連の処理、具体的には、電子透かし埋め込み、検出の少なくともいずれかの処理を実行する装置のシステム構成例を示している。
【０１７１】
システムは、ＣＰＵ(Central Processing Unit)２０２を有する。ＣＰＵ(Central processing Unit)２０２は、各種アプリケーションプログラムや、ＯＳ（Operating System）を実際に実行する。ＲＯＭ（Read-Only-Memory）２０３は、ＣＰＵ２０２が実行するプログラム、あるいは演算パラメータとしての固定データを格納する。ＲＡＭ（Random Access Memory）２０４は、ＣＰＵ２０２の処理において実行されるプログラム、およびプログラム処理において適宜変化するパラメータの格納エリア、ワーク領域として使用される。ＣＰＵ２０２、ＲＯＭ２０３、ＲＡＭ２０４、およびハードディスク２０５はバス２０１によって接続されており、相互にデータ転送が実行可能である。さらに入出力インタフェース２１１に接続された各種入出力装置とのデータ転送が可能となっている。
【０１７２】
キーボード２１２、マウス２１３はＣＰＵ２０２に各種の指令を入力するためにユーザにより操作され、コマンド入力データ入力などの際にユーザによって操作され、キーボードマウスコントローラ２１４介して入力される。
【０１７３】
ドライブ２０９は、フロッピーディスク、ＣＤ−ＲＯＭ(Compact Disc Read Only Memory)，ＭＯ(Magneto optical)ディスク，ＤＶＤ(Digital Versatile Disc)、磁気ディスク、半導体メモリなどのリムーバブル記録媒体２１０の記録再生を実行するドライブであり、各リムーバブル記録媒体２１０からのプログラムまたはデータ再生、リムーバブル記録媒体２１０に対するプログラムまたはデータ格納を実行する。
【０１７４】
ＣＰＵ２０２は、入出力インタフェース２１０を介して、キーボード２１２やマウス２１３等を介して指令が入力されると、入力にしたがって、ＲＯＭ(Read Only Memory)２０３に格納されているプログラムを実行する。
【０１７５】
上述の実施例における電子透かしの埋め込み対象となる画像等の信号、あるいは検出対象となる信号は、入力部２０７に接続されたカメラ２０７１他の入力機器、例えばスキャナ等のデータ入力装置、あるいはドライブ２０９に接続されたフロッピーディスク、ＣＤ−ＲＯＭ(Compact Disc Read Only Memory)，ＭＯ(Magneto optical)ディスク，ＤＶＤ(Digital Versatile Disc)、磁気ディスク、半導体メモリなどのリムーバブル記録媒体２１０から入力可能である。音声データの入力もマイク２０７２を介して可能な構成である。さらに、通信部２０８を介して受信するデータを電子透かしの埋め込み対象とするデータ、あるいは検出対象となるデータとして処理することも可能である。
【０１７６】
ＣＰＵ２０２は、ＲＯＭ格納プログラムに限らず、ハードディスク２０５に格納されているプログラム、衛星若しくはネットワークから転送され、通信部２０８で受信されてハードディスク２０５にインストールされたプログラム、またはドライブ２０９に装着されたリムーバブル記録媒体２１０から読み出されてハードディスク２０５にインストールされたプログラムを、ＲＡＭ(Random Access Memory)２０４にロードして実行することも可能である。
【０１７７】
図１６に示す構成を持つシステムにおいて、ＣＰＵ２０２は、上述した各実施例にしたがった処理、あるいは上述したブロック図、フローチャートに従って行われる処理を行う。そして、ＣＰＵ２０２は、その処理結果を、必要に応じて、例えば、入出力インタフェース２１１を介して、ＬＣＤ(Liquid Crystal Display)やＣＲＴなどの表示装置２０６１、スピーカ２０６２に対して出力部２０６を介して出力する。また、処理データは通信部２０８からの送信、さらには、ハードディスク２０５等の記録媒体に対する格納処理が可能である。
【０１７８】
各種処理の実行プログラムは、システムに内蔵されている記録媒体としてのハードディスク２０５やＲＯＭ２０３に予め記録しておくことができる。あるいは、プログラムはフロッピーディスク、ＣＤ−ＲＯＭ(Compact Disc Read Only Memory)，ＭＯ(Magneto optical)ディスク，ＤＶＤ(Digital Versatile Disc)、磁気ディスク、半導体メモリなどのリムーバブル記録媒体２１０に、一時的あるいは永続的に格納（記録）しておくことができる。このようなリムーバブル記録媒体２１０は、いわゆるパッケージソフトウエアとして提供することができる。
【０１７９】
なお、プログラムは、上述したようなリムーバブル記録媒体２１０からコンピュータにインストールする他、ダウンロードサイトから、ディジタル衛星放送用の人工衛星を介して、コンピュータに無線で転送したり、ＬＡＮ(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送し、コンピュータでは、そのようにして転送されてくるプログラムを、通信部２０８で受信し、内蔵するハードディスク２０５にインストールすることができる。
【０１８０】
ここで、本明細書において、コンピュータに各種の処理を行わせるためのプログラムを記述する処理ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいは個別に実行される処理（例えば、並列処理あるいはオブジェクトによる処理）も含むものである。
【０１８１】
また、プログラムは、１つのコンピュータにより処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。
【０１８２】
なお上述の実施の形態においては、時間的に連続する２つのデジタルビデオ信号において、それぞれ対応する画素間で輝度値の差分の絶対値を計算して総和する例を中心として説明したが、本発明はこれに限らず、例えばそれぞれ対応する画素間で輝度値の積を計算して総和する相互相関を用いる構成においても適用することができる。
【０１８３】
また上述の実施の形態においては、時間的に連続する２つのデジタルビデオ信号の画像相関（マッチング）を利用して動き検出を行う場合について述べたが、本発明はこれに限らず、例えば時間的に連続する２つのデジタルビデオ信号の勾配や位相相関を利用して動き検出を行う構成においても適用することができる。
【０１８４】
また上述の実施の形態においては、時間的に連続する２つのデジタルビデオ信号の画像相関を利用して動き検出を行う場合について述べたが、本発明はこれに限らず、例えば時間的に連続する３つ以上のデジタルビデオ信号の画像相関を利用して動き検出を行う構成としてもよい。このように３以上の複数画像の相関を検出する処理構成とすれば、その分時間方向への変動の小さい動き検出を行うことができる。
【０１８５】
また上述の実施の形態においては、デジタルビデオ信号に対してフォーマット縮小を施した上で動き検出を行う場合について述べたが、本発明はこれに限らず、実用上十分な精度を確保できる場合には、より簡易的にデジタルビデオ信号を縮小して動き検出を行う場合に広く適用することができる。このようにすれば、その分全体構成を簡略化することができる。
【０１８６】
また上述の実施の形態においては、デジタルビデオ信号のフレーム信号に対して動き検出を行う場合について述べたが、本発明はこれに限らず、デジタルビデオ信号のフィールド信号に対して動き検出を行う場合に広く適用することができる。この場合には各フィールド信号毎に動き検出を行ってもよく、またはどちらか一方のフィールド信号に対してのみ動き検出を行ってもよい。このようにすれば、より少ない演算量により動き検出を行うことができる。
【０１８７】
また上述の実施の形態においては、人間の視覚特性を考慮した画像分析に際して、デジタルビデオ信号の動き情報を検出して電子透かしパターンをこれに追従させる場合について述べたが、本発明はこれに限らず、デジタルビデオ信号のエッジ情報等を検出して電子透かしパターンを変調する場合や、デジタルビデオ信号の輝度情報や色情報等の種々の情報を分析して処理する場合等と組み合わせて画像分析を行う場合に広く適用することができる。
【０１８８】
また上述の実施の形態においては、著作権情報を乱数データによりスペクトラム拡散することで電子透かしパターンを生成し、この電子透かしパターンをデジタルビデオ信号に加算する場合について述べたが、本発明はこれに限らず、デジタルビデオ信号のベースバンド信号上で電子透かしの重畳を行う種々の電子透かし埋め込み方式、さらにはデジタルビデオ信号のビットストリーム信号上で電子透かしの重畳を行う種々の電子透かし埋め込み方式に広く適用することができる。
【０１８９】
また上述の実施の形態においては、著作権情報をＰＮ系列の乱数データによりスペクトラム拡散する場合について述べたが、本発明はこれに限らず、統計的に総和が０になるような種々の数値パターンにより著作権情報を解析困難に変調する場合に広く適用することができる。
【０１９０】
さらに上述の実施の形態においては、著作権情報を重畳する場合について述べたが、本発明はこれに限らず、必要に応じて種々の情報を重畳して伝送する場合に広く適用することができる。
【０１９１】
以上、特定の実施例を参照しながら、本発明について詳解してきた。しかしながら、本発明の要旨を逸脱しない範囲で当業者が該実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本発明の要旨を判断するためには、冒頭に記載した特許請求の範囲の欄を参酌すべきである。
【０１９２】
なお、明細書に記載された各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。また、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
【０１９３】
【発明の効果】
以上の説明から明らかなように本発明によれば、入力デジタルビデオ信号を処理する際に、時間的に連続する入力デジタルビデオ信号に対してフレーム相関を用いて動き検出を行い、検出された動き情報に基づいて、画像が静止している場合には電子透かしパターンも静止させ、画像が動いている場合には電子透かしパターンも追従して動かすことにより、人間の目に感知しにくくなるように入力デジタルビデオ信号に電子透かしを重畳することができ、これにより全体の埋め込み強度を変えることなく、電子透かしの画質に及ぼす影響を効果的に抑制することが可能になる。
【０１９４】
さらに、本発明によれば、入力デジタルビデオ信号を処理する際に、時間的に連続する入力デジタルビデオ信号に対してブロック分割等の前処理を施した上でブロック相関を用いて動き検出を行い、各ブロック毎に算出された複数の動き情報を多数決や重み付け等により評価判定し、検出された動き情報に基づいて電子透かしパターンを画像に追従させることにより、人間の目が集中しやすい部分を重視する等より視覚特性に合致するように入力デジタルビデオ信号に電子透かしを重畳することができる。
【０１９５】
さらに、本発明によれば、入力デジタルビデオ信号を処理する際に、時間的に連続する入力デジタルビデオ信号に対してフォーマット縮小等の前処理を施した上でフレーム相関を用いて動き検出を行い、検出された動き情報に基づいて電子透かしパターンを画像に追従させることにより、より演算量を低減して高効率に入力デジタルビデオ信号に電子透かしを重畳することができる。
【０１９６】
本発明によれば、画像信号の動きを検出してこれに追従する電子透かし情報の埋め込みが可能となり、デジタルネットワーク時代のコンテンツ配信において、画質劣化の少なく信頼性の高い著作権保護システムを構築することができ、今後デジタル放送等において開始されるＨＤ画像コンテンツの配信に際しても電子透かしの高効率な重畳を実現することが可能になる。
【図面の簡単な説明】
【図１】電子透かし検出の説明に供する、内積値の確率密度関数を示す図である。
【図２】電子透かしの埋め込み、検出処理による著作権保護処理について説明する図である。
【図３】本発明の電子透かしの埋め込み処理装置の構成例を示す図である。
【図４】本発明の電子透かしの埋め込み処理装置における動き検出部の構成例を示す図である。
【図５】本発明の電子透かしの埋め込み処理装置の処理例を示すフロー図である。
【図６】本発明の電子透かしの埋め込み処理装置におけるブロック分割処理について説明する図である。
【図７】本発明の電子透かしの埋め込み処理装置におけるブロック分割処理について説明する図である。
【図８】本発明の電子透かしの埋め込み処理装置におけるブロック分割処理について説明する図である。
【図９】本発明の電子透かしの埋め込み処理装置における動き検出部の構成例を示す図である。
【図１０】本発明の電子透かしの埋め込み処理装置におけるフォーマット変換処理について説明する図である。
【図１１】本発明の電子透かしの埋め込み処理装置における動き検出部の構成例を示す図である。
【図１２】本発明の電子透かしの埋め込み処理装置における動き検出部の構成例を示す図である。
【図１３】本発明の電子透かしの埋め込み処理装置における処理フローを示す図である。
【図１４】電子透かしの検出処理装置の構成例を示す図である。
【図１５】電子透かしの検出処理装置の処理例を示すフロー図である。
【図１６】電子透かし埋め込み、検出の少なくともいずれかの処理を実行するシステム構成例を示す図である。
【符号の説明】
１  電子透かし埋め込み装置
２  録画機器
３  電子透かし検出装置
４  電子透かし書き換え装置
５  光ディスク
６  録画機器
７  光ディスク
８  光ディスク
１００  電子透かし埋め込み処理装置
１２１  ＰＮ生成部
１２２  乗算部
１２３  動き検出部
１２４  信号変調部
１２５  加算部
１２６  信号記憶部
１２７  相関計算部
１２８  動き判定部
１２９  信号分割部
１３０  信号記憶部
１３１  相関計算部
１３２  動き判定部
１３３  信号縮小部
１３４  信号記憶部
１３５  相関計算部
１３６  動き判定部
１４１  信号縮小部
１４２  信号分割部
１４３  信号記憶部
１４４  相関計算部
１４５  動き判定部
１５０  電子透かし検出処理装置
１５１  ＰＮ生成部
１５２  内積計算部
１５３  比較判定部
２０２  ＣＰＵ
２０３  ＲＯＭ
２０４  ＲＡＭ
２０５  ハードディスク
２０６  出力部
２０７  入力部
２０８  通信部
２０９  ドライブ
２１０  リムーバブル記録媒体
２１２  キーボード
２１３  マウス
２１４  キーボードマウスコントローラ
２０６１  表示装置
２０６２  スピーカ
２０７１  カメラ
２０７２  マイク
【図１】
0003861623.tif 000010
【図２】
0003861623.tif 000011
【図３】
0003861623.tif 000012
【図４】
0003861623.tif 000013
【図５】
0003861623.tif 000014
【図６】
0003861623.tif 000015
【図７】
0003861623.tif 000016
【図８】
0003861623.tif 000017
【図９】
0003861623.tif 000018
【図１０】
0003861623.tif 000019
【図１１】
0003861623.tif 000020
【図１２】
0003861623.tif 000021
【図１３】
0003861623.tif 000022
【図１４】
0003861623.tif 000023
【図１５】
0003861623.tif 000024
【図１６】
0003861623.tif 000025