(57)【要約】【課題】位置情報等の付加情報を暗号化して電子透かしとして埋込む上で、画像データの劣化を極力抑制しながら高圧縮化する。【解決手段】画像自体が動画の場合或いは撮像素子が移動する場合のように被写体と撮像側との間で相対的に移動する動きがある場合、その動きの方向に一致する各方向の高周波成分が高くなる性質があるので、当該画像の動きの方向に直交する方向の高周波成分を含む２次元ウェーブレット係数部分に暗号化された付加情報を電子透かしとして埋込むことで、画質劣化を抑制する。例えば、水平方向に動きのある画像の場合であれば、２次元ウェーブレット係数ＨＬ，ＨＨ部分に埋込み、垂直方向に動きのある画像の場合であれば、２次元ウェーブレット係数ＬＨ，ＨＨ部分に埋込むように埋込み場所を特定する。【選択図】        図８
2004221925.tif 000002
【特許請求の範囲】
【請求項１】
画像データを２次元ウェーブレット係数へ変換する過程を経て圧縮符号化する圧縮手段を有する画像処理装置において、
圧縮符号化の対象となる画像に関する性質を判定する判定手段と、
圧縮符号化される画像データ中に埋込む暗号化された付加情報を生成する付加情報生成手段と、
前記判定手段による判定結果に基づき、前記圧縮手段により圧縮符号化される画像データ中で高周波成分の多くなる２次元ウェーブレット係数部分に、暗号化された前記付加情報を電子透かしとして埋込む電子透かし埋込み手段と、
を備えることを特徴とする画像処理装置。
【請求項２】
圧縮符号化の対象となる被写体の画像を撮像する撮像素子を備え、
前記判定手段が判定する画像に関する性質が、当該画像の動きの方向に関する性質であり、
前記電子透かし埋込み手段は、当該画像の動きの方向に直交する方向の高周波成分を含む２次元ウェーブレット係数部分に暗号化された前記付加情報を電子透かしとして埋込む、
ことを特徴とする請求項１記載の画像処理装置。
【請求項３】
前記判定手段が判定する画像に関する性質が、対象となる被写体が動画像であることによる画像の動きの方向性であることを特徴とする請求項２記載の画像処理装置。
【請求項４】
前記判定手段が判定する画像に関する性質が、被写体に対して前記撮像素子側が移動することによる前記画像の相対的な動きの方向性であることを特徴とする請求項２記載の画像処理装置。
【請求項５】
ＧＰＳ衛星からの電波を受信するＧＰＳ受信器を備え、
前記付加情報生成手段は前記付加情報として前記ＧＰＳ受信器から得られる当該装置の地球上での位置情報を含む、ことを特徴とする請求項１ないし４の何れか一記載の画像処理装置。
【請求項６】
被写体撮像の方角を検知する方角センサを備え、
前記付加情報生成手段は前記付加情報として前記方角センサから得られる当該装置による被写体撮像の方向性を示す方角情報を含む、ことを特徴とする請求項１ないし５の何れか一記載の画像処理装置。
【請求項７】
被写体撮像の上下方向の方向性を検知する上下角度センサを備え、
前記付加情報生成手段は前記付加情報として前記上下角度センサから得られる当該装置による被写体撮像の上下方向の方向性を示す上下角度情報を含む、ことを特徴とする請求項１ないし６の何れか一記載の画像処理装置。
【請求項８】
当該装置の高度位置を検知する高度センサを備え、
前記付加情報生成手段は前記付加情報として前記高度センサから得られる当該装置の高度情報を含む、ことを特徴とする請求項１ないし７の何れか一記載の画像処理装置。
【請求項９】
被写体撮像に伴う当該装置の姿勢を検知する姿勢検知手段を備え、
前記付加情報生成手段は前記付加情報として前記姿勢検知手段から得られる当該装置の姿勢情報を含む、ことを特徴とする請求項１ないし８の何れか一記載の画像処理装置。
【請求項１０】
画像データを２次元ウェーブレット係数へ変換する過程を経て圧縮符号化する圧縮機能を有する画像処理装置が備えるコンピュータにインストールされ又は解釈されて実行されるプログラムであって、前記コンピュータに、
圧縮符号化の対象となる画像に関する性質を判定する判定機能と、
圧縮符号化される画像データ中に埋込む暗号化された付加情報を生成する付加情報生成機能と、
前記判定機能による判定結果に基づき、前記圧縮機能により圧縮符号化される画像データ中で高周波成分の多くなる２次元ウェーブレット係数部分に、暗号化された前記付加情報を電子透かしとして埋込む電子透かし埋込み機能と、
を実行させることを特徴とするプログラム。
【請求項１１】
画像データを２次元ウェーブレット係数への変換過程を経て圧縮符号化する圧縮機能を有する画像処理装置が備えるコンピュータにインストールされ又は解釈されて実行されるプログラムであって、前記コンピュータに、
圧縮符号化の対象となる画像に関する性質を判定する判定機能と、
圧縮符号化される画像データ中に埋込む暗号化された付加情報を生成する付加情報生成機能と、
前記判定機能による判定結果に基づき、前記圧縮機能により圧縮符号化される画像データ中で高周波成分の多くなる２次元ウェーブレット係数部分に、暗号化された前記付加情報を電子透かしとして埋込む電子透かし埋込み機能と、
を実行させるプログラムが格納された記憶媒体。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、被写体を撮像するデジタルカメラに代表される撮像装置等の画像処理装置、その画像処理用に用いられるプログラム及び記憶媒体に関する。
【０００２】
【従来の技術】
近年、画像処理技術の進歩により、画像に対する高精細化の要求が高まっている。画像処理装置の一例として、デジタルカメラを例に挙げると、３００万以上の画素数を持つ高性能な電荷結合素子の低価格化が進み、普及価格帯の製品においても広く用いられるようになっている。こうした高性能で低価格な画像処理機器の市場投入効果によって、高精細画像の大衆化が始まっており、今後は、あらゆる場面で高精細画像の需要が高まると予想されている。
【０００３】
以上のようなことを背景として、高精細画像を容易に取扱うことのできる圧縮伸長技術に対する要求も、今後ますます高まっていくことは必至と思われる。そこで、そのような要求を満たす画像圧縮技術の一つとして、従来、高精細画像を小さい単位に分割して処理することが可能であり、高圧縮率でも高画質な画像を復号可能なＪＰＥＧ２０００という技術がある。
【０００４】
ここに、デジタルカメラ等では、画像データを圧縮符号化する際に、何らかの付加情報を電子透かしとして埋込むようにしたものがある。その一例として、例えば、デジタルカメラにより撮影された画像の証拠としての信憑性を増すためにＧＰＳ（Ｇｌｏｂａｌ  Ｐｏｓｉｔｉｏｎ  Ｓｙｓｔｅｍ）衛星を利用することにより検知される撮影場所の位置情報を付加情報の一つとし、かつ、付加情報に関して改ざんを困難にするために、暗号化し、かつ、電子透かしとして埋込むようにした提案例がある（例えば、特許文献１参照）。この他、この種の画像処理、特に画像圧縮処理においては、付加情報の付与、電子透かしによる埋込み等に関して、多数提案されている。
【０００５】
【特許文献１】
特開２０００−５０１９３公報
【０００６】
【発明が解決しようとする課題】
ところが、特許文献１の例に限らず、位置情報などの付加情報を画像データ中に電子透かしとして埋込むと、その埋込み画像によって元の画像データに比べて画質が劣化してしまう、という問題がある。従って、画質を優先させたい場合には、位置情報などの付加情報を電子透かしとして埋込むことは妥当ではなくなってしまい、例えば、当該画像の証拠としての信憑性を高めたいという要望との両立は困難となる。
【０００７】
本発明の目的は、位置情報等の付加情報を暗号化して電子透かしとして埋込む上で、画像データの劣化を極力抑制しながら高圧縮化することである。
【０００８】
特に、当該画像の証拠としての信憑性を高めつつ、画像データの劣化を極力抑制することである。
【０００９】
【課題を解決するための手段】
請求項１記載の発明の画像処理装置は、画像データを２次元ウェーブレット係数へ変換する過程を経て圧縮符号化する圧縮手段を有する画像処理装置において、圧縮符号化の対象となる画像に関する性質を判定する判定手段と、圧縮符号化される画像データ中に埋込む暗号化された付加情報を生成する付加情報生成手段と、前記判定手段による判定結果に基づき、前記圧縮手段により圧縮符号化される画像データ中で高周波成分の多くなる２次元ウェーブレット係数部分に、暗号化された前記付加情報を電子透かしとして埋込む電子透かし埋込み手段と、を備える。
【００１０】
従って、圧縮符号化する際に画像データを２次元ウェーブレット係数へ変換する過程を経るＪＰＥＧ２０００によれば、撮像画像のような自然画像のデータに関しては高周波成分の情報は元々ランダムに近く画質が悪いものであり、当該高周波成分に対応する２次元ウェーブレット係数部分のデータを削除しても、元の画像に復元した時の画質劣化は少ないので、対象となる画像の性質に応じて、このような高周波成分が多くなる２次元ウェーブレット係数部分に電子透かしを埋込むことで、復元される画像の劣化を抑制しつつ、その画像圧縮の圧縮率を向上させることができる。
【００１１】
請求項２記載の発明は、請求項１記載の画像処理装置において、圧縮符号化の対象となる被写体の画像を撮像する撮像素子を備え、前記判定手段が判定する画像に関する性質が、当該画像の動きの方向に関する性質であり、前記電子透かし埋込み手段は、当該画像の動きの方向に直交する方向の高周波成分を含む２次元ウェーブレット係数部分に暗号化された前記付加情報を電子透かしとして埋込む。
【００１２】
従って、画像自体が動画の場合（例えば、請求項３）或いは撮像素子が移動する場合（例えば、請求項４）のように被写体と撮像側との間で相対的に移動する動きがある場合、その動きの方向に一致する各方向の高周波成分が高くなる性質があるので、当該画像の動きの方向に直交する方向の高周波成分を含む２次元ウェーブレット係数部分に暗号化された付加情報を電子透かしとして埋込むことで、画質劣化を抑制することができる。
【００１３】
請求項５記載の発明は、請求項１ないし４の何れか一記載の画像処理装置において、ＧＰＳ衛星からの電波を受信するＧＰＳ受信器を備え、前記付加情報生成手段は前記付加情報として前記ＧＰＳ受信器から得られる当該装置の地球上での位置情報を含む。
【００１４】
従って、対象となる画像データの撮像位置等の位置情報が付加情報に含まれているので、当該画像に関する証拠としての信憑性を高めつつ、当該付加情報を埋込むことによる画質劣化を抑制できる。
【００１５】
請求項６記載の発明は、請求項１ないし５の何れか一記載の画像処理装置において、被写体撮像の方角を検知する方角センサを備え、前記付加情報生成手段は前記付加情報として前記方角センサから得られる当該装置による被写体撮像の方向性を示す方角情報を含む。
【００１６】
従って、被写体撮像の東西南北等の方角に関する方角情報が付加情報に含まれているので、撮像時の状況を詳しく知ることが可能な上に、当該付加情報を埋込むことによる画質劣化を抑制できる。
【００１７】
請求項７記載の発明は、請求項１ないし６の何れか一記載の画像処理装置において、被写体撮像の上下方向の方向性を検知する上下角度センサを備え、前記付加情報生成手段は前記付加情報として前記上下角度センサから得られる当該装置による被写体撮像の上下方向の方向性を示す上下角度情報を含む。
【００１８】
従って、被写体撮像の上下方向の方向性（上下角）に関する上下角度情報が付加情報に含まれているので、撮像時の状況を詳しく知ることが可能な上に、当該付加情報を埋込むことによる画質劣化を抑制できる。
【００１９】
請求項８記載の発明は、請求項１ないし７の何れか一記載の画像処理装置において、当該装置の高度位置を検知する高度センサを備え、前記付加情報生成手段は前記付加情報として前記高度センサから得られる当該装置の高度情報を含む。
【００２０】
従って、被写体撮像の高度情報が付加情報に含まれているので、撮像時の状況を詳しく知ることが可能な上に、当該付加情報を埋込むことによる画質劣化を抑制できる。
【００２１】
請求項９記載の発明は、請求項１ないし８の何れか一記載の画像処理装置において、被写体撮像に伴う当該装置の姿勢を検知する姿勢検知手段を備え、前記付加情報生成手段は前記付加情報として前記姿勢検知手段から得られる当該装置の姿勢情報を含む。
【００２２】
従って、被写体撮像に伴う当該装置の姿勢情報が付加情報に含まれているので、撮像時の状況を詳しく知ることが可能な上に、当該付加情報を埋込むことによる画質劣化を抑制できる。
【００２３】
請求項１０記載の発明のプログラムは、画像データを２次元ウェーブレット係数へ変換する過程を経て圧縮符号化する圧縮機能を有する画像処理装置が備えるコンピュータにインストールされ又は解釈されて実行されるプログラムであって、前記コンピュータに、圧縮符号化の対象となる画像に関する性質を判定する判定機能と、圧縮符号化される画像データ中に埋込む暗号化された付加情報を生成する付加情報生成機能と、前記判定機能による判定結果に基づき、前記圧縮機能により圧縮符号化される画像データ中で高周波成分の多くなる２次元ウェーブレット係数部分に、暗号化された前記付加情報を電子透かしとして埋込む電子透かし埋込み機能と、を実行させる。
【００２４】
従って、圧縮符号化する際に画像データを２次元ウェーブレット係数へ変換する過程を経るＪＰＥＧ２０００によれば、撮像画像のような自然画像のデータに関しては高周波成分の情報は元々ランダムに近く画質が悪いものであり、当該高周波成分に対応する２次元ウェーブレット係数部分のデータを削除しても、元の画像に復元した時の画質劣化は少ないので、対象となる画像の性質に応じて、高周波成分が多くなる２次元ウェーブレット係数部分に埋込むことで、復元される画像の劣化を抑制しつつ、その画像圧縮の圧縮率を向上させることができる。
【００２５】
請求項１１記載の発明の記憶媒体は、画像データを２次元ウェーブレット係数への変換過程を経て圧縮符号化する圧縮機能を有する画像処理装置が備えるコンピュータにインストールされ又は解釈されて実行されるプログラムであって、前記コンピュータに、圧縮符号化の対象となる画像に関する性質を判定する判定機能と、圧縮符号化される画像データ中に埋込む暗号化された付加情報を生成する付加情報生成機能と、前記判定機能による判定結果に基づき、前記圧縮機能により圧縮符号化される画像データ中で高周波成分の多くなる２次元ウェーブレット係数部分に、暗号化された前記付加情報を電子透かしとして埋込む電子透かし埋込み機能と、を実行させるプログラムが格納されている。
【００２６】
従って、圧縮符号化する際に画像データを２次元ウェーブレット係数へ変換する過程を経るＪＰＥＧ２０００によれば、撮像画像のような自然画像のデータに関しては高周波成分の情報は元々ランダムに近く画質が悪いものであり、当該高周波成分に対応する２次元ウェーブレット係数部分のデータを削除しても、元の画像に復元した時の画質劣化は少ないので、対象となる画像の性質に応じて、高周波成分が多くなる２次元ウェーブレット係数部分に埋込むことで、復元される画像の劣化を抑制しつつ、その画像圧縮の圧縮率を向上させることができる。
【００２７】
【発明の実施の形態】
本発明の一実施の形態を図面に基づいて説明する。
【００２８】
［ＪＰＥＧ２０００アルゴリズムの概要について］
本実施の形態は、ＪＰＥＧ２０００アルゴリズムを利用するものであるが、ＪＰＥＧ２０００アルゴリズム自体は各種文献、公報等により周知であるので、詳細は省略し、その概要について説明する。図１は、ＪＰＥＧ２０００アルゴリズムの概要を説明するためのブロック図である。ＪＰＥＧ２０００のアルゴリズムは、色空間変換・逆変換部１１０、２次元ウェーブレット変換・逆変換部１１１、量子化・逆量子化部１１２、エントロピー符号化・復号化部１１３、タグ処理部１１４で構成されている。ＪＰＥＧ２０００の特徴の一つは、前述したように高圧縮領域における画質が良いという長所を持つ２次元離散ウェーブレット変換（ＤＷＴ：Ｄｉｓｃｒｅｔｅ  Ｗａｖｅｌｅｔ  Ｔｒａｎｓｆｏｒｍ）を用いている点である。また、もう一つの大きな特徴は、最終段に符号形成を行うために、タグ処理部１１４と呼ばれる機能ブロックが追加されており、コードストリームの生成や解釈が行われる。そして、コードストリームによって、ＪＰＥＧ２０００は様々な便利な機能を実現できるようになった。例えば、図２は、デコンポジションレベル（ウェーブレット分割レベル＋１）が３の場合の、各デコンポジションレベルにおけるサブバンドの一例を示す図で、図２に示したブロックベースでのＤＷＴにおけるオクターブ分割の階層に対応した任意の階層で、静止画像の圧縮伸長処理を停止させることができる。
【００２９】
また、原画像の入出力部分には、色空間変換・逆変換部１１０が用意されることが多い。例えば、原色系のＲ（赤）／Ｇ（緑）／Ｂ（青）の各コンポーネントからなるＲＧＢ表色系や、補色系のＹ（黄）／Ｍ（マゼンタ）／Ｃ（シアン）の各コンポーネントからなるＹＭＣ表色系から、ＹＣｒＣｂあるいはＹＵＶ表色系への変換又は逆の変換を行う部分がこれに相当する。
【００３０】
以下、ＪＰＥＧ２０００アルゴリズム、特にウェーブレット変換について、説明する。
【００３１】
符号化時には、各コンポーネントの各タイルのデータが、色空間変換部１１０に入力され、色空間変換を施された後、２次元ウェーブレット変換部１１１で２次元ウェーブレット変換（順変換）が適用されて周波数帯に空間分割される。
【００３２】
図２には、デコンポジションレベルが３の場合の、各デコンポジションレベルにおけるサブバンドを示している。即ち、原画像のタイル分割によって得られたタイル原画像（０ＬＬ）（デコンポジションレベル０（符号１２０））に対して、２次元ウェーブレット変換を施し、デコンポジションレベル１（符号１２１）に示すサブバンド（１ＬＬ，１ＨＬ，１ＬＨ，１ＨＨ）を分離する。そして引き続き、この階層における低周波成分１ＬＬに対して、２次元ウェーブレット変換を施し、デコンポジションレベル２（符号１２２）に示すサブバンド（２ＬＬ，２ＨＬ，２ＬＨ，２ＨＨ）を分離する。順次同様に、低周波成分２ＬＬに対しても、２次元ウェーブレット変換を施し、デコンポジションレベル３（符号１２３）に示すサブバンド（３ＬＬ，３ＨＬ，３ＬＨ，３ＨＨ）を分離する。
【００３３】
さらに、図２では、各デコンポジションレベルにおいて符号化の対象となるサブバンドを、グレーで表してある。例えば、デコンポジションレベルを３とした時、グレーで示したサブバンド（３ＨＬ，３ＬＨ，３ＨＨ，２ＨＬ，２ＬＨ，２ＨＨ，１ＨＬ，１ＬＨ，１ＨＨ）が符号化対象となり、３ＬＬサブバンドは符号化されない。
【００３４】
次いで、指定した符号化の順番で符号化の対象となるビットが定められ、量子化部１１２で対象ビット周辺のビットからコンテキストが生成される。量子化の処理が終わったウェーブレット係数は、個々のサブバンド毎に、プレシンクトと呼ばれる重複のない矩形に分割される。ウェーブレット変換後の係数値は、そのまま量子化し符号化することも可能であるが、ＪＰＥＧ２０００では符号化効率を上げるために、係数値を「ビットプレーン」単位に分解し、画素或いはコード・ブロック毎に「ビットプレーン」に順位付けを行うことができる。
【００３５】
エントロピー符号化部１１３では、コンテキストと対象ビットから確率推定によって、各コンポーネントのタイルに対する符号化を行う。こうして、原画像の全てのコンポーネントについて、タイル単位で符号化処理が行われる。最後にタグ処理部１１４は、エントロピコーダ部からの全符号化データを１本のコードストリームに結合するとともに、それにタグを付加する処理を行う。図３に、コードストリームの構造を簡単に示している。このようなコードストリームの先頭と各タイルを構成する部分タイルの先頭には、ヘッダと呼ばれるタグ情報が付加され、その後に、各タイルの符号化データが続く。そして、コードストリームの終端には、再びタグが置かれる。
【００３６】
一方、復号化時には、符号化時とは逆に、各コンポーネントの各タイルのコードストリームから画像データを生成する。この場合、タグ処理部１１４は、外部より入力したコードストリームに付加されたタグ情報を解釈し、コードストリームを各コンポーネントの各タイルのコードストリームに分解し、その各コンポーネントの各タイルのコードストリーム毎に復号化処理が行われる。コードストリーム内のタグ情報に基づく順番で復号化の対象となるビットの位置が定められるとともに、逆量子化部１１２で、その対象ビット位置の周辺ビット（既に復号化を終えている）の並びからコンテキストが生成される。エントロピー復号化部１１３で、このコンテキストとコードストリームから確率推定によって復号化を行い対象ビットを生成し、それを対象ビットの位置に書き込む。
【００３７】
このようにして復号化されたデータは周波数帯域毎に空間分割されているため、これを２次元ウェーブレット逆変換部１１１で２次元ウェーブレット逆変換を行うことにより、画像データの各コンポーネントの各タイルが復元される。復元されたデータは色空間逆変換部１１０によって元の表色系のデータに変換される。
【００３８】
以上が、「ＪＰＥＧ２０００アルゴリズム」の概要である。
【００３９】
［画像処理装置］
図４は、本発明が適用される画像処理装置の一例としてのデジタルカメラ１のハードウエア構成を概略的に示すブロック図、図５はその外観構成を示す概略斜視図である。
【００４０】
本実施の形態のデジタルカメラ１は、概略的には、図４に示すように、撮像部１１と、信号処理部１２と、メモリ制御部１３と、主制御部１４と、フレームメモリ１５と、インタフェース１６と、表示部１７と、外部記憶部１８と、撮影モード設定部１９とを備える。そして、撮像部１１はレンズ２１と、絞り２２と、シャッタ２３と、光電変換素子２４と、前処理部２５とを含む。
【００４１】
ここで、信号処理部１２は、前処理部２５とメモリ制御部１３、主制御部１４及びインタフェース１６に接続されている。また、メモリ制御部１３はさらにフレームメモリ１５に接続されている。主制御部１４はさらに、メモリ制御部１３と撮影モード設定部１９に接続されている。また、フレームメモリ１５は、メモリ制御部１３に接続されている。インタフェース１６はさらに表示部１７及び外部記憶部１８に接続されている。
【００４２】
一方、撮像部１１においては、レンズ２１と絞り２２、シャッタ２３、光電変換素子２４が光軸上でこの順に配置され、光電変換素子２４は前処理部２５に接続されている。
【００４３】
また、撮像部１１の光電変換素子２４には例えばＣＣＤが使用されている。また、前処理部２５にはプリアンプや自動利得制御回路（Ａｕｔｏ  Ｇａｉｎ  Ｃｏｎｔｒｏｌ−ＡＧＣ）等からなるアナログ信号処理部やアナログ−デジタル変換器（Ａ／Ｄ変換器）が備えられ、光電変換素子２４より出力されたアナログ映像信号に対して、増幅やクランプ等の前処理が施された後、上記アナログ映像信号がデジタル映像信号に変換される。
【００４４】
また、信号処理部１２はデジタル信号処理プロセッサ（ＤＳＰプロセッサ）等により構成され、前述のＪＰＥＧ２０００アルゴリズムによる画像圧縮機能を有し、撮像部１１において得られたデジタル映像信号に対して色分解、ホワイトバランス調整、γ補正など種々の画像処理を施す。また、メモリ制御部１３はこのようにして処理された画像信号をフレームメモリ１５へ格納したり、逆にフレームメモリ１５に格納された画像信号を読出したりする処理を行う。また、主制御部１４は当該デジタルカメラの各部を集中的に制御するＣＰＵ、このＣＰＵが使用する各種制御プログラムなどを記憶したＲＯＭ、ワークエリアとなるＲＡＭを有するマイクロコンピュータ構成のものである。なお、ＲＯＭに格納されている制御プログラムに代えて、図５に示すように当該制御プログラムを格納した記憶媒体２６をデジタルカメラ１に装着し、デジタルカメラ１のＣＰＵに当該制御プログラムを実行させるようにしてもよい。また、フレームメモリ１５は少なくとも２枚の画像を格納し、一般的にはＶＲＡＭ，ＳＲＡＭ，ＤＲＡＭ等の半導体メモリが使用される。
【００４５】
ここで、フレームメモリ１５から読出された画像信号は、信号処理部１２において画像圧縮等の信号処理が施された後、インタフェース１６を介して外部記憶部１８に保存される。この外部記憶部１８はインタフェース１６を介して供給される画像信号などの種々の信号を読み書きし、ＩＣメモリカードや光磁気ディスク等により構成される。ここで外部記憶部１８として、モデムカードやＩＳＤＮカードが使用されれば、ネットワークを経由して画像信号を直接遠隔地の記録媒体に送信することもできる。
【００４６】
また、逆に外部記憶部１８に記録された画像信号の読出しは、インタフェース１６を介して信号処理部１２へ画像信号が送信され、信号処理部１２において画像伸長が施されることによって行われる。一方、外部記憶部１８及びフレームメモリ１５から読出された画像信号の表示は、信号処理部１２において画像信号に対してデジタル−アナログ変換（Ｄ／Ａ変換）や増幅などの信号処理を施した後、インタフェース１６を介して表示部１７に送信することにより行われる。ここで、表示部１７は、インタフェース１６を介して供給された画像信号に応じて画像を表示し、例えばデジタルカメラ１の筐体に設置された液晶表示装置により構成される。
【００４７】
また、外観的には、図５に示すように、電源スイッチ３１、シャッタ３２、ファインダ３３、撮影モード設定部１９に撮影モードを設定するための撮影モード設定キー３４、表示部１７に表示された画像を上下方向にスクロールさせるためのスクロールキー３５，３６、決定キー３７等を備えている。
【００４８】
さらに、このようなデジタルカメラ１においてその撮影位置等の各種情報を取得するためのセンサ類４１が設けられており、信号処理部１２に接続されている。このセンサ類４１としては、ＧＰＳ衛星（図示せず）からの電波を受信して或る時点での当該デジタルカメラ１の地球上での位置情報（緯度及び経度）を時間情報とともに検知するためのＧＰＳ受信器４２、被写体撮像の方角（東西南北等）を検知する方角センサとしての方位計４３、被写体撮像の上下方向の方向性を検知する上下角度センサとしての加速度センサ４４、当該デジタルカメラ１が位置する場所の高度（標高）を検知するための高度センサとしての高度計４５、被写体撮像に伴う当該デジタルカメラ１の姿勢を検知する姿勢検知手段としてのジャイロスコープ４６等が設けられている。これらのセンサ類による各々の情報の検知方法等については、周知であるため、その説明は省略する。
【００４９】
なお、例えばＧＰＳ受信器４２等は、当該デジタルカメラ１のカメラボディに対して着脱自在に設けられており、任意に取外し自在とされている。例えば、全てのユーザが位置情報等を後述のように画像データ中に付加情報として埋込むことを希望するとは限らず、また、画像を見ればどこで撮影されたか周知の場合などは付加情報を入れることで圧縮画像データ量が大きくなってしまうこともあるので、不要であれば画像データへ付加情報を入れないことも選択できるほうが便利なためである。さらに、持ち運ぶことを想定しているデジタルカメラ１のような携帯機器の場合には、当該機器を軽くするため、及び、電池寿命を長くするために、例えば、ＧＰＳ受信器４２部分をカメラボディから取外せることが望ましい。
【００５０】
［撮影画像の圧縮符号化処理］
信号処理部１２において実行される本実施の形態の撮影画像の圧縮符号化処理について、図６に示す概略機能ブロック図を参照して説明する。即ち、信号処理部１２は図１に示したようなＪＰＥＧ２０００アルゴリズムによる画像圧縮機能を有するが、図６では特に圧縮符号化のみに関与する圧縮手段１１５を抽出して示すものである。この圧縮手段１１５に対して、当該圧縮手段１１５に入力される圧縮符号化の対象となる撮像部１１で撮像された画像データとセンサ類４１からのデータとを入力として、前述の画像に関する性質を判定する性質判定手段５１が設けられている。ここに、画像に関する性質として、本実施の形態では、当該画像の動きの方向に関する性質を対象としている。この動きの方向としては、画像自体が動画の場合であって被写体の動く方向（例えば、水平方向とか上下方向）であってもよく、或いは、被写体は固定で（静止画）デジタルカメラ１（撮像部１１）側が移動する場合であってもよく、要は、被写体とデジタルカメラ１（撮像部１１）との間で相対的に移動する動きがある場合の方向性であればよい。デジタルカメラ１側が移動する場合であれば、ＧＰＳ受信器４２により検知される位置情報の変化やジャイロスコープ４６により検知されるデジタルカメラ１の姿勢情報の変化の様子により判定すればよい。
【００５１】
さらに、デジタルカメラ１で撮像された画像データ中に付与する付加情報を生成する付加情報生成手段５２が設けられている。この付加情報生成手段５２が生成する付加情報の内容は任意であるが、本実施の形態では、撮像時点で主にセンサ類４１から取得される位置情報等の各種検知情報をその内容とするため、センサ類４１の検知情報が付加情報生成手段５２に入力されている。この付加情報生成手段５２中の出力側には、生成された付加情報の内容の改ざんを防止する等のために暗号化させる暗号化手段５３が含まれている。この暗号化手段５３による暗号化方法しては公知の手法を用いればよく、例えば、復号化時に付加情報を再現するための秘密鍵（カメラメーカ毎、カメラ機種毎、等で設定される）を利用する等の方法によればよい。
【００５２】
また、この暗号化手段５３により暗号化された付加情報を圧縮手段１１５により圧縮符号化される画像データ中に電子透かしとして視覚的に見えない状態で埋込む電子透かし埋込み手段５４が設けられている。この電子透かしの埋込み方法自体に関しては各種あるが、それらの公知の手法を利用すればよい。ここに、本実施の形態の電子透かし埋込み手段５４は電子透かしを２次元ウェーブレット変換部１１１により２次元ウェーブレット係数に変換された係数部分に埋込むものであり、その埋込み部分を性質判定手段５１による判定結果に基づき特定するものである。
【００５３】
このような構成の下、主制御部１４のＣＰＵにより実行される撮像時の画像圧縮符号化処理の動作制御例を図７に示す概略フローチャートを参照して説明する。まず、この圧縮符号化処理は、シャッタ３２操作による撮像毎に行われるため、シャッタ３２操作の有無を判定する（ステップＳ１）。シャッタ３２押されて被写体が撮像された場合には（Ｓ１のＹ）、その撮像時点の位置情報等に基づき付加情報が生成され、かつ、暗号化される（Ｓ２）。このステップＳ２の処理が付加情報生成手段５２の機能として実行される。また、撮像時点の画像に関して動きがあるか否かを判定する（Ｓ３）。このステップＳ３の処理が性質判定手段５１の機能として実行され、画像に動きがあるか（動画又はデジタルカメラ１に動きがあるか）又は動きがないかが判定される。画像に動きがない場合には（Ｓ３のＮ）、２次元ウェーブレット係数中の水平方向高周波・垂直方向高周波成分となるサブバンドＨＨの部分を埋込み部分として、暗号化された付加情報を電子透かしとして埋込む（Ｓ４）。画像に動きがある場合（Ｓ３のＹ）、その動きの方向が左右方向であれば（Ｓ５のＹ）、２次元ウェーブレット係数中でその動きの方向（水平方向）に直交する方向（垂直方向）の高周波成分を含むサブバンドＨＬ，ＨＨの部分を埋込み部分として、暗号化された付加情報を電子透かしとして埋込む（Ｓ６）。一方、その動きの方向が上下方向（垂直方向）であれば（Ｓ５のＮ）、２次元ウェーブレット係数中でその動きの方向（垂直方向）に直交する方向（水平方向）の高周波成分を含むサブバンドＬＨ，ＨＨの部分を埋込み部分として、暗号化された付加情報を電子透かしとして埋込む（Ｓ７）。これらのステップＳ４〜Ｓ７の処理が電子透かし埋込み手段５４の機能として実行される。
【００５４】
その後は、量子化等の通常のＪＰＥＧ２０００アルゴリズムに従った圧縮符号化処理を行う（Ｓ８）。
【００５５】
つまり、本実施の形態では、圧縮符号化の対象となる画像の性質、特にその動きの方向に応じて、暗号化された付加情報を電子透かしとして埋込む２次元ウェーブレット係数部分を特定することで、画像の劣化を防止するようにしたものである。
【００５６】
これは、ＪＰＥＧ２０００アルゴリズムにおいて図３等で説明したウェーブレット変換の特徴を利用したものである。いま、図８（ａ）に示すような或る自然画像データをウェーブレット変換すると、その変換結果は、図８（ｂ）に示すように表すことができる。即ち、水平方向低周波・垂直方向低周波成分となるサブバンドＬＬには画像データ中の全体像が１／２に縮小されて現れ、水平方向低周波・垂直方向高周波成分となるサブバンドＬＨには横線（水平方向の線）画像が現れ、水平方向高周波・垂直方向低周波成分となるサブバンドＨＬには縦線（垂直方向の線）画像が現れ、水平方向高周波・垂直方向高周波成分となるサブバンドＨＨには斜め線画像が現れる特性を有する。
【００５７】
即ち、ＪＰＥＧ２０００アルゴリズムではウェーブレット変換を使用しているため、水平方向と垂直方向とに対して低周波成分と高周波成分とに分離されたデータが得られる。図８でサブバンドＨＨは水平、垂直とも高周波成分、サブバンドＨＬは垂直は低周波、水平は高周波成分、サブバンドＬＨは垂直は高周波成分、水平は低周波成分、サブバンドＬＬは水平、垂直とも低周波成分のデータになる。一般的な自然画像データは高周波成分の情報はランダムに近く、元々画質が悪いため、情報を削除しても、元の画像に復元したときの劣化は少ない。これを利用してＪＰＥＧ２０００アルゴリズムでは基本的に高圧縮でも高画質の画像圧縮を可能にしている。そこで、本実施の形態では、暗号化された付加情報を電子透かしとして埋込む際、画質を重要視するのであれば高周波成分が多くなるウェーブレット係数部分に埋込むことで、画質の劣化が少なくなるようにしたものである。例えば、動画の場合、デジタルカメラ１が水平方向に動いているとき名水平方向の高周波成分が高くなる性質があり、このため、ウェーブレット係数にしたとき、サブバンドＨＬ，ＨＨの成分がサブバンドＬＬ，ＬＨの成分に比べて大きくなる。しかし、サブバンドＨＬ，ＨＨ成分は高周波成分なのでデータを削減しても復号時の画質の劣化が少なくなる。そこで、付加情報の電子透かしの情報をウェーブレット係数のサブバンドＨＬ，ＨＨの部分に埋込むことで、画質の劣化を少なくすることができる。上下方向（垂直方向）に動く場合には、同様に、付加情報の電子透かしの情報をウェーブレット係数のサブバンドＬＨ，ＨＨの部分に埋込むことで、画質の劣化を少なくすることができる。
【００５８】
この場合、電子透かしとして埋込まれる付加情報中には、ＧＰＳ受信器４２により検知された撮像時点での位置情報及び時間情報が含まれているので、改ざんが困難な上に、当該画像の証拠としての信憑性の高いものとなり、例えば、事件が発生した場合の証拠画像としての有効性が高まる。
【００５９】
また、本実施の形態では、画像が撮影された位置情報に限らず、画像が撮影された方角（東西南北）、上下角度、高さ（高度）に関する情報を付加情報中に含ませることが可能とされており、これらの情報を含めて付加情報として画像データ中に埋込んでおくことにより、画像が撮影された状況を詳しく知ることができる。また、撮影された画像が動画データの場合、画像を撮影する場所が少しずつ動く場合がある。このときに、どの位置からどのように動いたかを示すデジタルカメラ１の姿勢情報を付加情報として画像データ中に埋込んでおくことにより、画像が撮影された状況を詳しく知ることが可能になる。
【００６０】
【発明の効果】
請求項１，１０，１１記載の発明によれば、圧縮符号化する際に画像データを２次元ウェーブレット係数へ変換する過程を経るＪＰＥＧ２０００においては、撮像画像のような自然画像のデータに関しては高周波成分の情報は元々ランダムに近く画質が悪いものであり、当該高周波成分に対応する２次元ウェーブレット係数部分のデータを削除しても、元の画像に復元した時の画質劣化は少ないことから、対象となる画像の性質に応じて、このような高周波成分が多くなる２次元ウェーブレット係数部分に電子透かしを埋込むことで、復元される画像の劣化を抑制しつつ、その画像圧縮の圧縮率を向上させることができる。
【００６１】
請求項２，３，４記載の発明によれば、請求項１記載の画像処理装置において、画像自体が動画の場合或いは撮像素子が移動する場合のように被写体と撮像側との間で相対的に移動する動きがある場合、その動きの方向に一致する各方向の高周波成分が高くなる性質があることから、当該画像の動きの方向に直交する方向の高周波成分を含む２次元ウェーブレット係数部分に暗号化された付加情報を電子透かしとして埋込むことで、画質劣化を抑制することができる。
【００６２】
請求項５記載の発明によれば、請求項１ないし４の何れか一記載の画像処理装置において、対象となる画像データの撮像位置等の位置情報を付加情報に含ませたので、当該画像に関する証拠としての信憑性を高めつつ、当該付加情報を埋込むことによる画質劣化を抑制することができる。
【００６３】
請求項６記載の発明によれば、請求項１ないし５の何れか一記載の画像処理装置において、被写体撮像の東西南北等の方角に関する方角情報を付加情報に含ませたので、撮像時の状況を詳しく知ることが可能な上に、当該付加情報を埋込むことによる画質劣化を抑制することができる。
【００６４】
請求項７記載の発明によれば、請求項１ないし６の何れか一記載の画像処理装置において、被写体撮像の上下方向の方向性（上下角）に関する上下角度情報を付加情報に含ませたので、撮像時の状況を詳しく知ることが可能な上に、当該付加情報を埋込むことによる画質劣化を抑制することができる。
【００６５】
請求項８記載の発明によれば、請求項１ないし７の何れか一記載の画像処理装置において、被写体撮像の高度情報を付加情報に含ませたので、撮像時の状況を詳しく知ることが可能な上に、当該付加情報を埋込むことによる画質劣化を抑制することができる。
【００６６】
請求項９記載の発明によれば、請求項１ないし８の何れか一記載の画像処理装置において、被写体撮像に伴う当該装置の姿勢情報を付加情報に含ませたので、撮像時の状況を詳しく知ることが可能な上に、当該付加情報を埋込むことによる画質劣化を抑制することができる。
【図面の簡単な説明】
【図１】本発明の実施の形態の前提となるＪＰＥＧ２０００方式の基本となるアルゴリズムを実現するシステムの機能ブロック図である。
【図２】デコンポジションレベル数が３の場合の、各デコンポジションレベルにおけるサブバンドを示す説明図である。
【図３】コードストリームを示す説明図である。
【図４】画像処理装置としてのデジタルカメラのハードウエア構成を概略的に示すブロック図である。
【図５】その外観構成を示す概略斜視図である
【図６】圧縮符号化手段の構成例を示す機能ブロック図である。
【図７】その圧縮符号化処理例を示す概略フローチャートである。
【図８】ウェーブレット変換処理による各サブバンドの特徴を模式的に示す説明図である。
【符号の説明】
１      画像処理装置
２４      撮像素子
４２      ＧＰＳ受信器
４３      方角センサ
４４      上下角度センサ
４５      高度センサ
４６      姿勢センサ
５１      判定手段
５２      付加情報生成手段
５４      電子透かし埋込み手段
１１５    圧縮手段
【図１】
2004221925.tif 000003
【図２】
2004221925.tif 000004
【図３】
2004221925.tif 000005
【図４】
2004221925.tif 000006
【図５】
2004221925.tif 000007
【図６】
2004221925.tif 000008
【図７】
2004221925.tif 000009
【図８】
2004221925.tif 000010