(57)【要約】【課題】特徴的な被写体の画質を高画質に保ちつつ画像のデータ量を低減することができる画像処理装置を提供すること。【解決手段】画像処理装置であって、動画に含まれる複数の動画構成画像から、特徴領域を検出する特徴領域検出部と、複数の動画構成画像のそれぞれにおける複数の特徴領域を包含する包含領域を特定する包含領域特定部と、複数の動画構成画像のそれぞれにおける包含領域以外の領域の画素値を固定値化する固定値化部と、固定値化された複数の動画構成画像を符号化する符号化部とを備える。【選択図】図８
2011172291.tif 000002
【特許請求の範囲】
【請求項１】
動画に含まれる複数の動画構成画像から、特徴領域を検出する特徴領域検出部と、
複数の前記動画構成画像のそれぞれにおける複数の前記特徴領域を包含する包含領域を特定する包含領域特定部と、
複数の前記動画構成画像のそれぞれにおける前記包含領域以外の領域の画素値を固定値化する固定値化部と、
前記固定値化された複数の前記動画構成画像を符号化する符号化部と
を備える画像処理装置。
【請求項２】
前記固定値化された複数の前記動画構成画像のうち少なくとも１つの動画構成画像を、他の動画構成画像と比較する画像比較部
をさらに備え、
前記符号化部は、前記画像比較部による比較結果に基づいて前記少なくとも１つの動画構成画像を符号化することにより、前記固定値化された複数の前記動画構成画像を符号化する
請求項１に記載の画像処理装置。
【請求項３】
前記動画を、複数の前記動画構成画像をそれぞれ含む複数の部分動画に分割する動画分割部
をさらに備え、
前記包含領域特定部は、複数の前記部分動画のそれぞれにおいて、前記部分動画に含まれる複数の前記動画構成画像のそれぞれにおける複数の前記特徴領域を包含する包含領域を特定し、
前記固定値化部は、複数の前記部分動画のそれぞれにおいて、前記部分動画に含まれる複数の前記動画構成画像における前記包含領域以外の領域の画素値を固定値化し、
前記画像比較部は、複数の前記部分動画のそれぞれにおいて、前記少なくとも１つの動画構成画像を同じ前記部分動画に含まれる他の動画構成画像と比較し、
前記符号化部は、複数の前記部分動画のそれぞれにおいて、前記画像比較部による比較結果に基づいて前記少なくとも１つの動画構成画像を符号化することにより、前記固定値化された複数の前記動画構成画像を複数の前記部分動画毎に符号化する
請求項２に記載の画像処理装置。
【請求項４】
前記包含領域特定部は、複数の前記動画構成画像のそれぞれにおける複数の前記特徴領域を包含する、予め定められた部分領域の集合領域を、前記包含領域として特定し、
前記画像比較部は、複数の前記部分動画のそれぞれにおいて、前記少なくとも１つの動画構成画像に含まれる複数の部分領域毎に、同じ前記部分動画に含まれる他の動画構成画像と比較し、
前記符号化部は、複数の前記部分動画のそれぞれにおいて、前記画像比較部による比較結果に基づいて前記少なくとも１つの動画構成画像を前記部分領域毎に圧縮することにより、前記固定値化された複数の前記動画構成画像を複数の前記部分動画毎に符号化する
請求項３に記載の画像処理装置。
【請求項５】
前記画像比較部は、複数の前記部分動画のそれぞれにおいて、前記少なくとも１つの動画構成画像に含まれる複数の前記部分領域毎に、同じ前記部分動画に含まれる他の動画構成画像に含まれる画像との間の画像の差分量を算出し、
前記符号化部は、複数の前記部分動画のそれぞれにおいて、前記画像比較部が算出した差分量に基づいて前記少なくとも１つの動画構成画像を前記部分領域毎に符号化することにより、前記固定値化された複数の前記動画構成画像を複数の前記部分動画毎に符号化する
請求項４に記載の画像処理装置。
【請求項６】
前記画像比較部は、複数の前記部分動画のそれぞれにおいて、前記少なくとも１つの動画構成画像に含まれる複数の前記部分領域毎に同じ前記部分動画に含まれる他の動画構成画像と比較して、前記部分領域との間の画像の差分量が予め定められた値より小さい領域である前記他の動画構成画像における差分対象領域を特定し、特定した前記差分対象領域との間の画像の差分量を算出し、
前記符号化部は、前記画像比較部が算出した差分量及び前記差分対象領域の位置と前記部分領域の位置との間の差に基づいて前記少なくとも１つの動画構成画像を前記部分領域毎に符号化することにより、前記固定値化された複数の前記動画構成画像を複数の前記部分動画毎に符号化する
請求項５に記載の画像処理装置。
【請求項７】
前記包含領域特定部は、複数の前記動画構成画像のそれぞれにおける複数の前記特徴領域を包含する、ＭＰＥＧ符号化におけるブロックの集合領域を、前記包含領域として特定し、
前記画像比較部は、複数の前記部分動画のそれぞれにおいて、前記少なくとも１つの動画構成画像に含まれる複数のブロック又はマクロブロック毎に、同じ前記部分動画に含まれる他の動画構成画像と比較して、動きベクトル及び前記画像の差分量を算出し、
前記符号化部は、前記画像比較部が算出した動きベクトル及び前記画像の差分量に基づいて前記少なくとも１つの動画構成画像を前記ブロック及びマクロブロック毎に符号化することにより、前記固定値化された複数の前記動画構成画像を複数の前記部分動画毎にＭＰＥＧ符号化する
請求項６に記載の画像処理装置。
【請求項８】
前記包含領域特定部は、複数の前記動画構成画像のそれぞれにおける複数の前記特徴領域を包含する、ＭＰＥＧ符号化におけるマクロブロック又はスライスの集合領域を、前記包含領域として特定する
請求項７に記載の画像処理装置。
【請求項９】
前記包含領域特定部は、
複数の前記動画構成画像のそれぞれにおける複数の前記特徴領域を包含する複数の前記部分領域のうち、前記特徴領域及び前記特徴領域以外の境界をともに含む部分領域である境界領域を特定する境界領域特定部と、
前記境界領域に隣接し、前記特徴領域を含まない、前記部分領域の集合領域を部分領域である周辺領域を特定する周辺領域特定部と、
前記特徴領域を含み前記特徴領域以外の領域を含まない部分領域、前記境界領域、及び前記周辺領域を、前記包含領域として決定する包含領域決定部
を有する
請求項４に記載の画像処理装置。
【請求項１０】
前記周辺領域特定部は、前記境界領域特定部が特定した前記境界領域のうち、前記画像比較部により比較される対象である前記他の動画構成画像から特定された前記特徴領域を含む前記境界領域を特定し、当該特定した前記境界領域に隣接し、当該特定した前記特徴領域を含まない部分領域を、前記周辺領域として特定する
請求項９に記載の画像処理装置。
【請求項１１】
前記符号化部は、前記固定値化された複数の前記動画構成画像を含む特徴領域動画と、複数の前記動画構成画像における前記特徴領域以外の領域を含む領域の画像である背景領域画像を複数含む背景領域動画とを、異なる圧縮強度で符号化する
請求項３に記載の画像処理装置。
【請求項１２】
前記複数の特徴領域動画と前記背景領域動画とを、それぞれの特徴量に応じて画質を低減することにより圧縮する画質低減部
をさらに備え、
前記符号化部は、前記画質低減部が低減した前記複数の特徴領域動画と前記背景領域動画とを符号化する
を有する請求項１１に記載の画像処理装置。
【請求項１３】
前記画質低減部は、前記複数の特徴領域動画と前記背景領域動画とを、それぞれの特徴量に応じて解像度またはフレームレートを低減することにより圧縮する
請求項１２に記載の画像処理装置。
【請求項１４】
動画に含まれる複数の動画構成画像から、特徴領域を検出する特徴領域検出段階と、
複数の前記動画構成画像のそれぞれにおける複数の前記特徴領域を包含する包含領域を特定する包含領域特定段階と、
複数の前記動画構成画像のそれぞれにおける前記包含領域以外の領域の画素値を固定値化する固定値化段階と、
前記固定値化された複数の前記動画構成画像を符号化する符号化段階と
を備える画像処理方法。
【請求項１５】
画像処理装置用のプログラムであって、前記画像処理装置を、
動画に含まれる複数の動画構成画像から、特徴領域を検出する特徴領域検出部、
複数の前記動画構成画像のそれぞれにおける複数の前記特徴領域を包含する包含領域を特定する包含領域特定部、
複数の前記動画構成画像のそれぞれにおける前記包含領域以外の領域の画素値を固定値化する固定値化部、
前記固定値化された複数の前記動画構成画像を符号化する符号化部
として機能させるプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置、画像処理方法及びプログラムに関する。本発明は、特に、画像を処理する画像処理装置及び画像処理方法、並びに画像処理装置用のプログラムに関する。
【背景技術】
【０００２】
入力画像信号のうち特定領域以外の領域の画像信号を選択的に空間方向および時間軸方向の少なくとも一方の方向にフィルタリングして、フィルタリングされた画像信号を符号化する画像符号化装置が知られている（例えば、特許文献１参照。）。また、符号化された画面とこれから符号化すべき画面とを比較することにより画面内の変化領域を抽出して、符号化すべき画面を複数の画像ブロックに分割して、変化領域を含む画像ブロックを符号化する動画像符号化装置が知られている（例えば、特許文献２参照。）。この動画像符号化装置では、変化領域を含む画像ブロックのうち、より限定された領域を含む画像ブロックに対して、他の変化領域を含む画像ブロックに割り当てられた情報ビット数より多くの情報ビット数を割り当てて符号化する。
【特許文献１】特許３０４６３７９号公報
【特許文献２】特許２８２８９７７号公報
【発明の開示】
【発明が解決しようとする課題】
【０００３】
しかしながら、上記特許文献の技術により、特定の領域以外をフィルタリングしたり情報ビット数を落としたりしても、ある程度の画像信号が残ってしまう。したがって、上記特許文献の技術によると、そのような特定の領域以外の画像領域が不要である場合には、無駄に帯域を消費してしまう。
【課題を解決するための手段】
【０００４】
上記課題を解決するために、本発明の第１の形態によると、画像処理装置であって、動画に含まれる複数の動画構成画像から、特徴領域を検出する特徴領域検出部と、複数の動画構成画像のそれぞれにおける複数の特徴領域を包含する包含領域を特定する包含領域特定部と、複数の動画構成画像のそれぞれにおける包含領域以外の領域の画素値を固定値化する固定値化部と、固定値化された複数の動画構成画像を符号化する符号化部とを備える。
【０００５】
固定値化された複数の動画構成画像のうち少なくとも１つの動画構成画像を、他の動画構成画像と比較する画像比較部をさらに備え、符号化部は、画像比較部による比較結果に基づいて少なくとも１つの動画構成画像を符号化することにより、固定値化された複数の動画構成画像を符号化してよい。
【０００６】
動画を、複数の動画構成画像をそれぞれ含む複数の部分動画に分割する動画分割部をさらに備え、包含領域特定部は、複数の部分動画のそれぞれにおいて、部分動画に含まれる複数の動画構成画像のそれぞれにおける複数の特徴領域を包含する包含領域を特定し、固定値化部は、複数の部分動画のそれぞれにおいて、部分動画に含まれる複数の動画構成画像における包含領域以外の領域の画素値を固定値化し、画像比較部は、複数の部分動画のそれぞれにおいて、少なくとも１つの動画構成画像を同じ部分動画に含まれる他の動画構成画像と比較し、符号化部は、複数の部分動画のそれぞれにおいて、画像比較部による比較結果に基づいて少なくとも１つの動画構成画像を符号化することにより、固定値化された複数の動画構成画像を複数の部分動画毎に符号化してよい。
【０００７】
包含領域特定部は、複数の動画構成画像のそれぞれにおける複数の特徴領域を包含する、予め定められた部分領域（ブロック、マクロブロック、スライス）の集合領域を、包含領域として特定し、画像比較部は、複数の部分動画のそれぞれにおいて、少なくとも１つの動画構成画像に含まれる複数の部分領域毎に、同じ部分動画に含まれる他の動画構成画像と比較し、符号化部は、複数の部分動画のそれぞれにおいて、画像比較部による比較結果に基づいて少なくとも１つの動画構成画像を部分領域毎に圧縮することにより、固定値化された複数の動画構成画像を複数の部分動画毎に符号化してよい。
【０００８】
画像比較部は、複数の部分動画のそれぞれにおいて、少なくとも１つの動画構成画像に含まれる複数の部分領域毎に、同じ部分動画に含まれる他の動画構成画像に含まれる画像との間の画像の差分量を算出し、符号化部は、複数の部分動画のそれぞれにおいて、画像比較部が算出した差分量に基づいて少なくとも１つの動画構成画像を部分領域毎に符号化することにより、固定値化された複数の動画構成画像を複数の部分動画毎に符号化してよい。
【０００９】
画像比較部は、複数の部分動画のそれぞれにおいて、少なくとも１つの動画構成画像に含まれる複数の部分領域毎に同じ部分動画に含まれる他の動画構成画像と比較して、部分領域との間の画像の差分量が予め定められた値より小さい領域である他の動画構成画像における差分対象領域を特定し、特定した差分対象領域との間の画像の差分量を算出し、符号化部は、画像比較部が算出した差分量及び差分対象領域の位置と部分領域の位置との間の差に基づいて少なくとも１つの動画構成画像を部分領域毎に符号化することにより、固定値化された複数の動画構成画像を複数の部分動画毎に符号化してよい。
【００１０】
包含領域特定部は、複数の動画構成画像のそれぞれにおける複数の特徴領域を包含する、ＭＰＥＧ符号化におけるブロックの集合領域を、包含領域として特定し、画像比較部は、複数の部分動画のそれぞれにおいて、少なくとも１つの動画構成画像に含まれる複数のブロック又はマクロブロック毎に、同じ部分動画に含まれる他の動画構成画像と比較して、動きベクトル及び画像の差分量を算出し、符号化部は、画像比較部が算出した動きベクトル及び画像の差分量に基づいて少なくとも１つの動画構成画像をブロック及びマクロブロック毎に符号化することにより、固定値化された複数の動画構成画像を複数の部分動画毎にＭＰＥＧ符号化してよい。
【００１１】
本発明の第２の形態によると、画像処理方法であって、動画に含まれる複数の動画構成画像から、特徴領域を検出する特徴領域検出段階と、複数の動画構成画像のそれぞれにおける複数の特徴領域を包含する包含領域を特定する包含領域特定段階と、複数の動画構成画像のそれぞれにおける包含領域以外の領域の画素値を固定値化する固定値化段階と、固定値化された複数の動画構成画像を符号化する符号化段階とを備える。
【００１２】
本発明の第３の形態によると、画像処理装置用のプログラムであって、画像処理装置を、動画に含まれる複数の動画構成画像から、特徴領域を検出する特徴領域検出部、複数の動画構成画像のそれぞれにおける複数の特徴領域を包含する包含領域を特定する包含領域特定部、複数の動画構成画像のそれぞれにおける包含領域以外の領域の画素値を固定値化する固定値化部、固定値化された複数の動画構成画像を符号化する符号化部として機能させる。
【００１３】
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
【発明を実施するための最良の形態】
【００１４】
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
【００１５】
図１は、一実施形態に係る画像処理システム１０の一例を示す。画像処理システム１０は、特徴的な被写体の画質を高画質に保ちつつ画像のデータ量を低減することを目的とする。
【００１６】
画像処理システム１０は、監視対象空間１５０を撮像する複数の撮像装置１００ａ−ｃ（以下、撮像装置１００と総称する。）、画像を処理する複数の画像処理装置１２０ａ−ｃ（以下、画像処理装置１２０と総称する。）、画像処理装置１７０、通信ネットワーク１１０、および複数の表示装置１８０ａ−ｃ（以下、表示装置１８０と総称する。）を備える。
【００１７】
画像処理装置１２０ａは、撮像装置１００ａに接続されている。また、画像処理装置１２０ｂは、撮像装置１００ｂに接続されている。また、画像処理装置１２０ｃは、撮像装置１００ｃに接続されている。なお、画像処理装置１７０および表示装置１８０は、監視対象空間１５０と異なる空間１６０に設けられている。
【００１８】
以下に、撮像装置１００ａ、画像処理装置１２０ａ、画像処理装置１７０、および表示装置１８０ａの動作を説明する。撮像装置１００ａは、監視対象空間１５０を撮像して得られた撮像動画をＭＰＥＧ符号化して撮像動画データを生成して、撮像装置１００ａが接続されている画像処理装置１２０ａに出力する。
【００１９】
画像処理装置１２０ａは、撮像装置１００ａが生成した撮像動画データを取得する。画像処理装置１２０は、撮像装置１００から取得した撮像動画データを復号して撮像動画を生成して、生成した撮像動画から人物１３０、車輌等の移動物体１４０等、特徴の種類が異なる複数の特徴領域を検出する。そして、画像処理装置１２０ａは、撮像動画から、特徴の種類のそれぞれについて特徴領域が他の領域より高画質な動画を生成することによって、複数の特徴領域動画を生成する。また、画像処理装置１２０ａは、特徴領域以外の背景領域の動画であって、特徴領域動画より低画質な背景領域動画を生成する。
【００２０】
そして、画像処理装置１２０ａは、生成した複数の特徴領域動画および背景領域動画をそれぞれ符号化することによって複数の特徴領域動画データおよび背景領域動画データを生成する。同時に、画像処理装置１２０ａは、符号化して得られた複数の特徴領域動画データおよび背景領域動画データを互いに関連づけて、通信ネットワーク１１０を通じて画像処理装置１７０に送信する。
【００２１】
画像処理装置１７０は、画像処理装置１２０ａから受信した関連付けされた複数の特徴領域動画データおよび背景領域動画データをそれぞれ復号することによって、複数の特徴領域動画および背景領域動画を取得する。そして、画像処理装置１７０は、複数の特徴領域動画および背景領域動画を合成することによって一の合成動画を生成して、生成した合成動画を表示装置１８０ａに供給する。表示装置１８０ａは、画像処理装置１７０から供給された動画を表示する。
【００２２】
なお、撮像装置１００ｂおよび撮像装置１００ｃの機能および動作は、それぞれ画像処理装置１２０ｂおよび画像処理装置１２０ｃに撮像動画データを提供することを除いて、撮像装置１００ａの機能および動作と同様であるので、その説明を省略する。また、画像処理装置１２０ｂおよび画像処理装置１２０ｃの機能および動作は、それぞれ撮像装置１００ｂおよび撮像装置１００ｃから撮像動画データを取得することを除いて、画像処理装置１２０ａの機能および動作と同様であってよい。よって、その説明を省略する。また、画像処理装置１７０は、撮像装置１００ｂおよび撮像装置１００ｃのそれぞれから受信した関連付けされた複数の特徴領域動画データおよび背景領域動画データをから、一の動画をそれぞれ生成して、それぞれ表示装置１８０ｂおよび表示装置１８０ｃに供給する。また、表示装置１８０ｂおよび表示装置１８０ｃは、画像処理装置１７０から供給されたそれぞれの動画を表示する。
【００２３】
本実施形態の画像処理システム１０を、例えば監視システムとして実際に適用した場合には、人物、移動物体等、監視対象として特徴的な被写体を高画質で残すことができる場合がある。そのうえ、動画のデータ量を低下することができる場合がある。
【００２４】
図２は、画像処理装置１２０のブロック構成の一例を示す。画像処理装置１２０は、圧縮動画取得部２０１、圧縮動画伸張部２０２、特徴領域検出部２０３、画像分割部２０４、画像生成部２０５、固定値化ユニット２１０、低減化ユニット２２０、符号化ユニット２３０、対応付け処理部２０６、および出力部２０７を有する。
【００２５】
固定値化ユニット２１０は、複数の固定値化部２１１ａ−２１１ｃ（以下、固定値化部２１１と総称する。）を含む。低減化ユニット２２０は、複数の画質低減部２２１ａ−ｄ（以下、画質低減部２２１と総称する。）を含む。
【００２６】
符号化ユニット２３０は、背景領域動画符号化部２３１ａおよび複数の特徴領域動画符号化部２３１ｂ−ｄ（以下、特徴領域動画符号化部２３１と総称する。）を含む。なお、背景領域動画符号化部２３１ａおよび特徴領域動画符号化部２３１ｂ−ｄを総称して、符号化部２３１と呼ぶ場合がある。
【００２７】
なお、画質低減部２２１ａおよび背景領域動画符号化部２３１ａは、圧縮部２４０ａとして機能する。また、画質低減部２２１ｂおよび背景領域動画符号化部２３１ｂは、圧縮部２４０ｂとして機能する。同様に、画質低減部２２１ｃおよび背景領域動画符号化部２３１ｃは圧縮部２４０ｃとして機能する。画質低減部２２１ｄおよび背景領域動画符号化部２３１ｄは圧縮部２４０ｄとして機能する。なお、複数の圧縮部２４０ａ−ｄを、圧縮部２４０と総称する。
【００２８】
圧縮動画取得部２０１は、圧縮された動画を取得する。具体的には、圧縮動画取得部２０１は、撮像装置１００が生成した、符号化された撮像動画データを取得する。圧縮動画伸張部２０２は、圧縮動画取得部２０１が取得した動画を復元して、動画に含まれる複数の動画構成画像を生成する。具体的には、圧縮動画伸張部２０２は、圧縮動画取得部２０１が取得した撮像動画データを復号して、動画に含まれる複数の動画構成画像を生成する。なお、動画構成画像はフレーム画像およびフィールド画像を含む。
【００２９】
特徴領域検出部２０３は、動画に含まれる複数の動画構成画像から、特徴領域を検出する。そして、画像分割部２０４は、複数の動画構成画像のそれぞれを、特徴領域と背景領域とに分割する。
【００３０】
画像生成部２０５は、複数の動画構成画像から特徴領域画像を抽出することにより、複数の特徴領域画像をそれぞれ含む複数の特徴領域圧縮用動画を生成する。具体的には、画像生成部２０５は、動画を複製することにより、複数の特徴領域動画のそれぞれを圧縮するための複数の特徴領域圧縮用動画および背景領域動画を圧縮するための背景領域圧縮用動画を生成する。
【００３１】
そして、固定値化部２１１は、特徴領域圧縮用動画に含まれる複数の動画構成画像における特徴領域画像以外の領域の画素値を固定値化する。例えば、固定値化部２１１は、特徴領域画像以外の領域の画素値を所定の値（例えば、輝度値０）に設定する。そして、圧縮部２４０は、特徴領域画像以外の領域の画素値が固定値化された複数の動画構成画像をそれぞれ含む複数の特徴領域圧縮用画像を、それぞれの特徴量に応じた強度で圧縮する。このように、圧縮部２４０は、複数の特徴領域圧縮用動画のそれぞれと、背景領域圧縮用動画とを、それぞれの特徴量に応じた強度で圧縮する。
【００３２】
以上説明したように、特徴領域検出部２０３は、画像から特徴領域を検出する。そして、画像分割部２０４は、画像を、特徴領域と、特徴領域以外の背景領域とに分割する。そして、圧縮部２４０は、特徴領域の画像である特徴領域画像と背景領域の画像である背景領域画像とを、それぞれ異なる強度で圧縮する。そして、圧縮部２４０は、特徴領域画像を複数含む特徴領域動画と背景領域画像を複数含む背景領域動画とを、それぞれ異なる強度で圧縮する。
【００３３】
なお、圧縮部２４０ｂ、圧縮部２４０ｃ、および圧縮部２４０ｄには、いずれの種類の特徴領域動画を圧縮すべきかが予め定められており、圧縮部２４０ｂ、圧縮部２４０ｃ、および圧縮部２４０ｄは予め定められた特徴の種類の特徴領域動画を圧縮する。なお、特徴領域動画を圧縮する場合の圧縮強度は、複数の特徴の種類ごとに予め定められており、圧縮部２４０ｂ、圧縮部２４０ｃ、および圧縮部２４０ｄは、予め定められた特徴の種類の特徴領域動画を、当該特徴の種類に予め定められた圧縮強度で圧縮する。このように、圧縮部２４０は、画像分割部２０４によって分割された画像領域ごとに設けられた圧縮器を用いて、複数の領域を並行して圧縮する。
【００３４】
なお、圧縮部２４０は、一つの圧縮器によって実装されてよく、複数の特徴領域動画および背景領域動画を時間的に順次圧縮してもよい。他にも、圧縮部２４０は、圧縮動画伸張部２０２によって復号された撮像動画を、画像分割部２０４が分割した領域ごとに、各領域の特徴の種類および背景のそれぞれに対して予め定められた圧縮率で圧縮することによって、一の動画データを生成してよい。
【００３５】
なお、特徴領域検出部２０３は、画像である動画に含まれる複数の動画構成画像から、特徴の種類が異なる複数の特徴領域を検出する。そして、画像分割部２０４は、複数の動画構成画像を、複数の特徴領域のそれぞれと、複数の特徴領域以外の背景領域とに分割する。そして、圧縮部２４０は、複数の特徴領域動画と背景領域動画とを、それぞれの特徴量に応じた強度で圧縮する。なお、特徴量とは、被写体の種類、被写体の大きさ、移動物体が移動する移動速さ、および特徴領域の大きさを含む。
【００３６】
具体的には、画質低減部２２１は、複数の特徴領域動画と背景領域動画とを、それぞれの特徴量に応じて画質を低減することにより圧縮する。より具体的には、画質低減部２２１は、複数の特徴領域動画と背景領域動画とを、それぞれの特徴量に応じて解像度またはフレームレートを低減することにより圧縮する。そして、符号化部２３１は、複数の特徴領域動画と背景領域動画とを、それぞれの特徴量に応じた設定値を用いて符号化することにより圧縮する。例えば、符号化部２３１は、複数の特徴領域動画と背景領域動画とを、それぞれの特徴量に応じた割り当て符号量を用いて符号化することにより圧縮する。
【００３７】
対応付け処理部２０６は、複数の圧縮部２４０が複数の特徴領域動画および背景領域動画を圧縮することによって生成した複数の特徴領域動画データおよび背景領域動画データを、例えばタグ情報等を付帯する等して互いに対応づける。出力部２０７は、対応付け処理部２０６が対応づけた複数の特徴領域動画データおよび背景領域動画データを通信ネットワーク１１０に送出する。
【００３８】
図３は、画像処理装置１７０のブロック構成の一例を示す。画像処理装置１７０は、圧縮動画取得部３０１、対応付け解析部３０２、圧縮動画伸張ユニット３１０、合成部３０３、および出力部３０４を有する。圧縮動画伸張ユニット３１０は、複数の圧縮動画伸張部３１１ａ−ｄ（以下、圧縮動画伸張部３１１と総称する。）を含む。
【００３９】
圧縮動画取得部３０１は、出力部２０７が出力した、対応づけられた複数の特徴領域動画データおよび背景領域動画データを取得する。対応付け解析部３０２は、例えば付帯されたタグ情報を解析して、圧縮動画取得部３０１が取得した対応づけられた複数の特徴領域動画データおよび背景領域動画データを取り出す。
【００４０】
圧縮動画伸張部３１１は、複数の特徴領域動画データおよび背景領域動画データを復号する。具体的には、圧縮動画伸張部３１１ａは背景領域動画データを復号する。また、圧縮動画伸張部３１１ｂ−ｄは、複数の特徴領域動画データのうち、一の特徴領域動画を復号して、複数の特徴領域動画および背景領域動画を取得する。なお、圧縮動画伸張部３１１ｂ−ｄは、特徴の種類ごとに設けられ、それぞれ、いずれかの種類の特徴領域動画データを復号する。
【００４１】
合成部３０３は、圧縮動画伸張部３１１が復号することによって得られた動画構成画像を合成する。具体的には、合成部３０３は、圧縮動画伸張部３１１ｂ−ｄにより復号された複数の特徴領域動画のそれぞれが含む動画構成画像の特徴領域の画像を、背景領域動画が含む動画構成画像に重ね合わせた動画構成画像を生成する。出力部３０４は、合成部３０３が生成した複数の動画構成画像を含む動画を、表示装置１８０に供給する。
【００４２】
なお、本実施形態の圧縮動画伸張ユニット３１０は、特徴の種類の数に応じた複数の圧縮動画伸張部３１１を含むが、他の形態では、圧縮動画伸張ユニット３１０が含む一の圧縮動画伸張部３１１が、背景領域動画データおよび複数の特徴領域動画データを順次復号してもよい。また、画像処理装置１２０から一の動画データとして提供される場合には、一の圧縮動画伸張部３１１が当該一の動画データを復号して、復号した得られた動画を出力部３０４が出力してもよい。
【００４３】
図４は、画像処理装置１２０の処理フローの一例を示す。圧縮動画取得部２０１が撮像動画データを取得（４０１）。圧縮動画伸張部２０２は、撮像動画データを復号することによって複数のフレーム画像４１０を生成する。特徴領域検出部２０３は、フレーム画像４１０の画像内容又は複数のフレーム画像４１０の画像内容に基づいて、特徴領域の一例であるＲＯＩ（Ｒｅｇｉｏｎ  ｏｆ  ｉｎｔｅｒｅｓｔ）を検出する（４０２）。
【００４４】
特徴領域検出部２０３は、人物の顔、人体、および移動物体を含む領域を、異なる種類のＲＯＩとして検出する。例えば、特徴領域検出部２０３は、予め定められた人物の顔に関するパターンに対する一致度が、予め定められた一致度より大きいオブジェクトを含む領域をパターンマッチング等により検出して、検出した顔領域をＲＯＩとする。また、特徴領域検出部２０３は、人物の体に関するパターンに対する一致度が予め定められた一致度より大きいオブジェクトを含む人体領域をパターンマッチング等により検出して、検出した領域をＲＯＩとする。なお、特徴領域検出部２０３は、顔領域の近傍に存在する領域から人体領域を検出してもよい。
【００４５】
また、特徴領域検出部２０３は、複数のフレーム画像の画像内容に基づいて、移動物体を含む領域である動領域を特定する。例えば、他のフレーム画像との間で画素値の変化量が予め定められた変化量より大きい領域を、動領域として特定する。他にも、特徴領域検出部２０３は、エッジ抽出等により複数のフレーム画像のそれぞれに含まれるオブジェクトを抽出する。そして、特徴領域検出部２０３は、他のフレーム画像の異なる位置に含まれるオブジェクトであって、予め定められた一致度より大きい一致度で一致するオブジェクトを特定して、特定したオブジェクトを含む領域を動領域として特定してもよい。
【００４６】
このように、特徴領域検出部２０３は、予め定められた画像内容に関する条件に適合する領域を、ＲＯＩとして検出する。より具体的には、特徴領域検出部２０３は、予め定められた条件に適合するオブジェクトを含む領域を、ＲＯＩとして検出する。例えば、特徴領域検出部２０３は、予め定められた形状との間の一致度が予め定められた一致度より大きいオブジェクトを含む領域を、ＲＯＩとして検出する。また、特徴領域検出部２０３は、画像の変化量が予め定められた変化量より大きい領域を、ＲＯＩとして検出する。例えば、他のフレーム画像との間で画素値の変化量が予め定められた変化量より大きい領域をＲＯＩとして検出する。
【００４７】
そして、画像処理装置１２０は、検出されたＲＯＩに基づいて圧縮用動画を生成する（４０３）。具体的には、画像分割部２０４は、フレーム画像をＲＯＩとそれ以外の領域に分割する。そして、画像生成部２０５は、複数のフレーム画像４１０を複製することによって、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０と、背景領域動画４２０とを生成する。具体的には、画像生成部２０５は、複数のフレーム画像４１０を複製することによって、顔領域用の特徴領域動画４５０、人領域用の特徴領域動画４４０、動領域用の特徴領域動画４３０、および背景領域用の背景領域動画４２０を生成する。
【００４８】
そして、画像処理装置１２０は、固定値化部２１１および画質低減部２２１により、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０と、背景領域動画４２０とに対して、画質を低減する（４０４ａ、４０４ｂ、４０４ｃ、４０４ｄ）。具体的には、固定値化部２１１は、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０のそれぞれが含むフレーム画像において、画像分割部２０４が分割したＲＯＩ内の画素値は変化させず、ＲＯＩ以外の領域に対する画素値を所定の値（例えば、輝度値０）にする。なお、固定値化部２１１は、ＲＯＩ以外の領域の画素値を、当該ＲＯＩに近傍する領域の画素値の平均的な画素値にしてよい。
【００４９】
このように、画像生成部２０５および固定値化部２１１により、同じ視野角の複数のフレーム画像をそれぞれ含む特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０および背景領域動画４２０が生成される。なお、後に詳しく説明するように、画像処理装置１７０は、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０のようなＲＯＩ以外の領域が固定値化されている動画を、背景領域動画４２０に重ね合わせた動画を生成する。したがって、背景領域動画４２０、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０は、それぞれ背景レイヤー、動領域レイヤー、人領域レイヤー、および顔領域レイヤーとみなすことができる。
【００５０】
また、画質低減部２２１は、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０のそれぞれが含むフレーム画像におけるＲＯＩ内の画像の画質を、特徴の種類に応じて低減する。具体的には、顔領域、人領域、および動領域のそれぞれの画質を定めるパラメータとして、解像度、階調数、および色数の少なくとも１つが予め定められている。例えば、顔領域、人領域、動領域の順に高い解像度が予め定められている。
【００５１】
そして、画質低減部２２１は、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０のそれぞれが含むフレーム画像におけるＲＯＩ内の画像の画質を、特徴の種類に対して予め定められた解像度、階調数、および色数の画像に変換する。また、画質低減部２２１は、背景領域動画のフレーム画像の画質を、ＲＯＩ内の画像の画質より低くする。例えば、画質低減部２２１は、背景領域動画のフレーム画像の解像度を、ＲＯＩ内の画像のより小さくする。
【００５２】
また、画質低減部２２１は、背景領域動画４２０、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０のフレームレートを低減する。例えば、特徴の種類ごとに、例えば顔領域、人領域、および動領域ごとに、予めフレームレートが定められている。そして、画質低減部２２１は、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０に含まれるフレーム画像を、特徴の種類に応じて予め定められたフレームレートに従って所定の間隔で間引くことによって、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０のフレームレートを低減する。また、画質低減部２２１は、背景領域動画４２０に含まれるフレーム画像を、背景領域動画のフレームレートとして予め定められたフレームレートに従って間引くことによって、背景領域動画４２０のフレームレートを低減する。
【００５３】
なお、画質低減部２２１ａは、背景領域動画４２０の画質を低減する。また、画質低減部２２１ｂ、画質低減部２２１ｃ、および画質低減部２２１ｄは、それぞれ特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０の画質を低減する。
【００５４】
そして、背景領域動画符号化部２３１ａ、および領域動画符号化部２３１ｂ−ｄは、画質低減部２２１により画質が低減された動画をそれぞれ符号化する（４０５ａ、４０５ｂ、４０５ｃ、４０５ｄ）。例えば、背景領域動画符号化部２３１ａ、および領域動画符号化部２３１ｂ−ｄは、画質低減部２２１により画質が低減された動画をそれぞれＭＰＥＧ符号化する。
【００５５】
例えば、背景領域動画符号化部２３１ａは、背景領域動画用の符号化設定で背景領域動画をＭＰＥＧ符号化する。特徴領域動画符号化部２３１ｂ、特徴領域動画符号化部２３１ｃ、および特徴領域動画符号化部２３１ｄは、それぞれ動領域、人領域、および顔領域のそれぞれの特徴領域動画用の符号化設定で、特徴領域動画をそれぞれＭＰＥＧ符号化する。なお、符号化設定は、例えばＭＰＥＧ符号化における量子化テーブルを設定することを含む。なお、符号化設定については図５に関連して説明する。
【００５６】
そして、対応付け処理部２０６は、背景領域動画符号化部２３１ａおよび特徴領域動画符号化部２３１ｂ−ｄが符号化することによって得られた背景領域動画データおよび複数の特徴領域動画データにタグ情報を付帯する等して関連付けして、出力部２０７が表示装置１８０に出力する（４０６）。このとき、対応付け処理部２０６は、背景領域動画および複数の特徴領域動画のそれぞれが含むフレーム画像の表示タイミングを示す情報を含むタイミング情報（例えば、タイムスタンプ）を、タグ情報等に付加してよい。また、対応付け処理部２０６は、複数の特徴領域の範囲をそれぞれ示す情報を含む特徴領域情報、背景領域動画および複数の特徴領域動画の元となった撮像動画データを撮像した撮像装置１００を識別する識別情報等を、タグ情報等に付加してよい。
【００５７】
以上説明したように、特徴領域検出部２０３は、画像である動画に含まれる複数の動画構成画像から、被写体の種類が異なる複数の特徴領域を検出する。そして、圧縮部２４０は、複数の特徴領域動画を、それぞれの被写体の種類に応じた強度で圧縮する。なお、本実施形態では、被写体の種類の一例として人物の顔および人体領域について説明したが、他の例では、自動車のナンバープレートおよびナンバープレート以外の車体を被写体の種類としてよい。
【００５８】
また、人物の正面の顔および横顔を被写体の種類としてもよい。また、静止している被写体および動いている被写体を被写体の種類としてもよい。また、特徴領域検出部２０３は、撮像装置１００から被写体までの距離が異なる複数の被写体を含む領域を、特徴の種類が異なる複数の特徴領域として検出してもよい。
【００５９】
なお、圧縮部２４０は、特徴の種類の一例である、動き領域、人体、人物の横顔、人物の正面の顔の順に大きい圧縮強度で圧縮してよい。なお、本実施形態では、画像処理システム１０を監視システムとして利用する利用目的を鑑みて、人物の顔を含む領域をＲＯＩとして検出して、検出したＲＯＩをＲＯＩ以外の領域より高画質にするとした。しかしながら、画像処理システム１０を、例えば街角の風景を撮像するシステムとして利用することもできる。このような形態で画像処理システム１０を利用する場合には、個人情報を保護することを目的として、人物の顔を含む領域をＲＯＩとして検出して、検出したＲＯＩをＲＯＩ以外の領域より低画質にしてもよい。例えば圧縮部２４０は、人物の正面の顔、人物の横顔、人体、動き領域、背景領域の順に大きい圧縮強度で、特徴領域動画および背景領域動画を圧縮してよい。
【００６０】
その他にも、特徴領域検出部２０３は、複数のフレーム画像から、被写体の速度が異なる複数の特徴領域を検出してもよい。この場合、画質低減部２２１は、特徴領域動画を、被検体の速度がより速いほど、より高いフレームレートの動画に変換してもよい。このように、圧縮部２４０は、複数の特徴領域動画を、それぞれの被写体の速度に応じた強度で圧縮してよい。
【００６１】
以上説明したように、画像処理装置１２０は、特徴領域動画に含まれるフレーム画像におけるＲＯＩ以外の領域を固定値化して、視野角が同じ複数の特徴領域動画および背景領域動画を生成する。このため、画像処理装置１２０によると、特別に設計された符号化器を使用することなく、汎用の符号化器を使用して特徴領域動画を高い圧縮率で圧縮することができる場合がある。例えば、ＭＰＥＧ符号化等のように動きベクトルを用いて特徴領域動画を符号化すると、固定値化した領域中のマクロブロックについては画素値の差分値が０になる場合が多くなる。したがって、このような固定値化により、圧縮率を高く維持しながら画像処理装置１２０の製造コストを低減することができる場合がある。
【００６２】
以上の説明では、圧縮部２４０は、ＲＯＩ領域以外の領域が固定値化されたフレーム画像を含む特徴領域動画を圧縮することとした。なお、圧縮部２４０は、特徴領域動画に含まれるフレーム画像におけるＲＯＩ内の画像を切り出して圧縮して特徴領域動画として出力してもよい。
【００６３】
なお、特徴領域検出部２０３がＲＯＩを検出していない場合には、出力部２０７は、圧縮部２４０ａが出力する背景領域動画データを画像処理装置１７０に出力する。この場合、画像生成部２０５は特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０を生成しなくてよい。そして、画像生成部２０５は、特徴領域検出部２０３がＲＯＩを検出したことを条件として、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０を生成して、出力部２０７は上記の処理によって生成された複数の特徴領域動画データおよび背景領域動画データを画像処理装置１７０に出力する。この間、圧縮部２４０ａは、背景領域動画４２０を圧縮すべく予め定められた背景領域用圧縮率で背景領域動画４２０を圧縮しつづけてよい。
【００６４】
その他にも、特徴領域検出部２０３がＲＯＩを検出していない間には、圧縮部２４０は、背景領域用圧縮率より低く、かつ、特徴領域動画を圧縮する圧縮率より高い、予め定められたＲＯＩ非検出期間圧縮率で、背景領域動画を圧縮してよい。そして、圧縮部２４０は、特徴領域検出部２０３がＲＯＩを検出したことを条件として、背景領域動画を背景領域用圧縮率で圧縮してよい。このとき、圧縮部２４０は、特徴領域動画をＲＯＩ非検出期間圧縮率より低い圧縮率で圧縮してよい。
【００６５】
なお、圧縮部２４０は、特徴領域検出部２０３がＲＯＩを検出してから予め定められた期間の背景領域動画をＲＯＩ非検出期間圧縮率で圧縮するとともに、予め定められた期間より長い期間が経過したことを条件として、背景領域動画を背景領域用圧縮率で圧縮してよい。こうすると、本来ＲＯＩとして検出されるべき領域がＲＯＩとして検出されなかった場合でも、ある程度の画質の背景領域動画を提供することができる場合がある。また、圧縮部２４０は、特徴領域検出部２０３が検出した複数のフレーム画像におけるＲＯＩ領域の位置から推定される他のフレーム画像におけるＲＯＩ領域を含む領域の画質を、他の領域の画質より高い画質にすべく、圧縮率を領域ごとに異ならせてもよい。
【００６６】
図５は、複数の特徴領域動画および背景領域動画の画質の一例を示す。ここでは、説明を簡単にすることを目的として、圧縮動画取得部２０１が取得した撮像動画データのフレームレートが１６ｆｐｓであり、当該撮像動画データに含まれるフレーム画像の解像度が７２ｄｐｉであるとする。
【００６７】
撮像動画に含まれるフレーム画像４１０の解像度に対する画質低減後の背景領域動画４２０に含まれるフレーム画像の解像度の比率を示す解像度比率は予め１／８と定められている。画質低減部２２１は、画像生成部２０５によって撮像動画が複製されることによって生成された画質低減前の背景領域動画４２０に含まれるフレーム画像に対して１／８の解像度である９ｄｐｉのフレーム画像を、画質低減前の背景領域動画４２０に含まれるフレーム画像の画素を間引くことによって生成する。また、撮像動画のフレームレートに対する画質低減後の背景領域動画４２０のフレームレートの比率を示すフレームレート比率は予め１／８と定められている。画質低減部２２１は、画質低減前の背景領域動画４２０のフレームレートの１／８のフレームレートである２ｆｐｓのフレームレートの背景領域動画４２０を、画質低減前の背景領域動画４２０に含まれるフレーム画像を間引くことによって生成する。
【００６８】
同様に、複数の特徴領域動画のそれぞれに対しても、解像度比率およびフレームレート比率が定められている。例えば、特徴領域動画４３０については解像度比率およびフレームレート比率は１／４が定められており、特徴領域動画４４０については解像度比率およびフレームレート比率として１／２が定められており、特徴領域動画４５０については解像度比率およびフレームレート比率として１／１が定められている。これにより、画質低減部２２１ｂは、フレームレートが４ｆｐｓ、フレーム画像の解像度が１８ｄｐｉの特徴領域動画４３０を生成する。また、画質低減部２２１ｃは、フレームレートが８ｆｐｓ、フレーム画像の解像度が３６ｄｐｉの特徴領域動画４４０を生成する。また、画質低減部２２１ｄは、フレームレートが１６ｆｐｓ、フレーム画像の解像度が７２ｄｐｉの特徴領域動画４５０を生成する。
【００６９】
なお、上記の例では、画質低減部２２１が複数の特徴領域動画および背景領域動画に含まれるフレーム画像の画素を間引くことによってフレーム画像の画質を低減する場合を例に挙げて説明した。その他にも、画質低減部２２１は、例えばローパスフィルタ等の、所定の周波数領域を通過するフィルタを用いてフレーム画像の画質を低減してもよい。この場合、フィルタが通過する周波数帯域および通過する度合いを示す強度は、特徴の種類ごと、例えば背景領域、動領域、人領域、および顔領域ごとに予め定められてよい。
【００７０】
なお、画質低減部２２１による画質低減に加えて、又は画質低減部２２１による画質低減に替えて、符号化部２３１がフレーム画像の画質を低減してもよい。例えば、符号化部２３１が、ＭＰＥＧ符号化における量子化テーブルの値を大きくすることによって、画質を低減することができる。量子化テーブルの値の大きさは、特徴の種類ごとに予め定められてよい。例えば、背景領域動画符号化部２３１ａおよび複数の特徴領域動画符号化部２３１ｂ−ｄのそれぞれが、予め設定された値を持つ量子化テーブルを用いて符号化してよい。また、量子化テーブルにおける周波数成分ごとの値が特徴の種類ごとに予め定められていてよい。
【００７１】
また、画質低減部２２１はさらに、背景領域動画に含まれる複数のフレーム画像を平均化してもよい。これによれば、移動物体を示すオブジェクトがフレーム画像に含まれている場合に、移動物体のオブジェクトが平均化されたフレーム画像が得られる。そして、このような複数のフレーム画像を連続表示させると、移動物体の動きが閲覧者の目に滑らかに映る場合がある。
【００７２】
なお、以上の説明では、画像生成部２０５が撮像動画を複製してから、複製して得られた複数の特徴領域動画および背景領域動画に含まれるフレーム画像を間引いたり、画素を間引いたりすることによって、複数の特徴領域動画および背景領域動画を圧縮する形態について説明した。その他にも、画像生成部２０５は、撮像動画に含まれる複数のフレーム画像をフレームレート比率に従って間引いて選択することによって、フレームレートが低減された複数の特徴領域動画および背景領域動画を生成してもよい。その後に、固定値化部２１１ａが固定値化して、画質低減部２２１が解像度を低減することによって、複数の特徴領域動画および背景領域動画の画質を低減してよい。なお、背景領域動画のフレームレートは固定であってよいが、可変であってよい。例えば、画質低減部２２１は、フレーム画像に予め定められた量を超える変化が生じたタイミング以外のタイミングのフレーム画像を間引くことによって、背景領域動画の画質を低減してもよい。
【００７３】
図６は、画像処理装置１７０の処理フローの一例を示す。圧縮動画取得部３０１は、画像処理装置１２０から、対応づけされた複数の特徴領域動画データおよび背景領域動画データを取得して、付帯されたタグ情報によりタイミング情報、撮像装置１００を識別する情報等を取得する（６０１）。そして、圧縮動画伸張部３１１は、それぞれ複数の特徴領域動画データおよび背景領域動画データを復号することにより、背景レイヤーを示す背景領域動画６１０を生成する（６０２ａ）。同時に、圧縮動画伸張部３１１は、動領域レイヤーを示す特徴領域動画６２０、人領域レイヤーを示す特徴領域動画６３０、および顔領域レイヤーを示す特徴領域動画６４０を生成する（６０２ｂ、６０２ｃ、および６０２ｄ）。
【００７４】
合成部３０３は、背景領域動画６１０並びに特徴領域動画６２０、特徴領域動画６３０、および特徴領域動画６４０に含まれるフレーム画像を合成する（６０３）。このとき、合成部３０３は、背景領域動画および複数の特徴領域動画のそれぞれに含まれるフレーム画像の解像度に応じて、最大の解像度を有するフレーム画像と同じ位置の被写体が重ね合うようフレーム画像を拡大して、拡大したフレーム画像を重ね合わせて合成フレーム画像を生成する。
【００７５】
このとき、合成部３０３は、特徴領域動画６２０、特徴領域動画６３０、および特徴領域動画６４０に含まれるフレーム画像における特徴領域の画像を切り出して、背景領域動画６１０に含まれるフレーム画像に上書きすることによって合成フレーム画像を生成する。また、合成部３０３は、背景領域動画６１０並びに特徴領域動画６２０、特徴領域動画６３０、および特徴領域動画６４０のフレームレートが異なる場合には、背景領域動画６１０並びに特徴領域動画６２０、特徴領域動画６３０、および特徴領域動画６４０の最新のフレーム画像を合成する。
【００７６】
これにより、合成部３０３は、合成フレーム画像を生成する。合成部３０３は、複数の合成フレーム画像を含む合成動画６５０を生成する。そして、出力部３０４は、圧縮動画取得部３０１が取得したタグ情報等に基づいて、合成動画を表示させる表示装置１８０を選択して、選択した表示装置１８０に合成動画を供給する（６０４）。
【００７７】
図７は、圧縮部２４０の構成の一例を示す。圧縮部２４０は、動画分割ユニット７３０及び画像比較ユニット７４０を有する。動画分割ユニット７３０は、背景領域動画分割部７３１ａ、特徴領域動画分割部７３１ｂ−ｄ（以下、特徴領域動画分割部７３１と総称する。）を有する。なお、背景領域動画分割部７３１ａ、特徴領域動画分割部７３１ｂ−ｄを、動画分割部７３１と総称する場合がある。
【００７８】
画像比較ユニット７４０は、背景領域画像比較部７４１ａ、特徴領域画像比較部７４１ｂ−ｄ（以下、特徴領域画像比較部７４１と総称する。）を有する。なお、背景領域画像比較部７４１ａ、特徴領域画像比較部７４１ｂ−ｄを、画像比較部７４１と総称する場合がある。
【００７９】
図８は、画像処理装置１２０がさらに有する圧縮制御ユニット８００の構成の一例を示す。圧縮制御ユニット８００は、特徴領域特定部８１０、対応領域特定部８２０、オブジェクト動き算出部８３０、適合度算出部８４０、条件格納部８５０、圧縮制御部８６０、及び包含領域特定部８７０を含む。包含領域特定部８７０は、境界領域特定部８７２、周辺領域特定部８７４、及び包含領域決定部８７６を持つ。
【００８０】
以下に、図７に示した圧縮部２４０及び図８で示した圧縮制御ユニット８００が含む各構成要素の機能及び動作を、図２で説明した画像処理装置１２０の機能及び動作とともに説明する。
【００８１】
包含領域特定部８７０は、複数の動画構成画像のそれぞれにおける複数の特徴領域を包含する包含領域を特定する。そして、固定値化部２１１は、複数の動画構成画像のそれぞれにおける包含領域以外の領域の画素値を固定値化する。そして、符号化部２３１は、固定値化された複数の動画構成画像を符号化する。
【００８２】
なお、固定値化部２１１は、複数のフレーム画像の間で、同じ位置の画素値を時間的に不変にすることが好ましい。また、固定値化部２１１は、一のフレーム画像内の包含領域以外の領域の画素値を同一にすることによって固定値化することが好ましい。また、固定値化部２１１は、一のフレーム画像内の包含領域以外の領域に含まれるブロック内の画素値を少なくとも同一にすることが好ましい。
【００８３】
画像比較部７４１は、固定値化された複数の動画構成画像のうち少なくとも１つの動画構成画像を、他の動画構成画像と比較する。そして、符号化部は、画像比較部７４１による比較結果に基づいて少なくとも１つの動画構成画像を符号化することにより、固定値化された複数の動画構成画像を符号化する。
【００８４】
動画分割部７３１は、動画を、複数の動画構成画像をそれぞれ含む複数の部分動画に分割する。具体的には、背景領域動画分割部７３１ａは、画質低減部２２１ａが画質を低減させた背景領域動画を分割する。また、特徴領域動画分割部７３１ｂ、特徴領域動画分割部７３１ｃ、及び特徴領域動画分割部７３１ｄのそれぞれは、画質低減部２２１ｂ、２２１ｃ、及び２２１ｄが画質を低減させた背景領域動画をそれぞれ分割する。
【００８５】
そして、包含領域特定部８７０は、複数の部分動画のそれぞれにおいて、部分動画に含まれる複数の動画構成画像のそれぞれにおける複数の特徴領域を包含する包含領域を特定する。そして、固定値化部２１１は、複数の部分動画のそれぞれにおいて、部分動画に含まれる複数の動画構成画像における包含領域以外の領域の画素値を固定値化する。
【００８６】
そして、画像比較部７４１は、複数の部分動画のそれぞれにおいて、少なくとも１つの動画構成画像を同じ部分動画に含まれる他の動画構成画像と比較する。具体的には、背景領域画像比較部７４１ａは、背景領域動画分割部７３１ａが分割した複数の部分動画のそれぞれにおいて、少なくとも１つの動画構成画像を同じ部分動画に含まれる他の動画構成画像と比較する。また、特徴領域画像比較部７４１ｂは、特徴領域動画分割部７３１ｂが分割した複数の部分動画のそれぞれにおいて、少なくとも１つの動画構成画像を同じ部分動画に含まれる他の動画構成画像と比較する。同様に、特徴領域画像比較部７４１ｃは、特徴領域動画分割部７３１ｃが分割した複数の部分動画のそれぞれにおいて、少なくとも１つの動画構成画像を同じ部分動画に含まれる他の動画構成画像と比較する。また、特徴領域画像比較部７４１ｄは、特徴領域動画分割部７３１ｄが分割した複数の部分動画のそれぞれにおいて、少なくとも１つの動画構成画像を同じ部分動画に含まれる他の動画構成画像と比較する。
【００８７】
そして、符号化部２３１は、複数の部分動画のそれぞれにおいて、画像比較部７４１による比較結果に基づいて少なくとも１つの動画構成画像を符号化することにより、固定値化された複数の動画構成画像を複数の部分動画毎に符号化する。
【００８８】
なお、包含領域特定部８７０は、複数の動画構成画像のそれぞれにおける複数の特徴領域を包含する、予め定められた部分領域の集合領域を、包含領域として特定する。そして、画像比較部７４１は、複数の部分動画のそれぞれにおいて、少なくとも１つの動画構成画像に含まれる複数の部分領域毎に、同じ部分動画に含まれる他の動画構成画像と比較する。そして、符号化部２３１は、複数の部分動画のそれぞれにおいて、画像比較部７４１による比較結果に基づいて少なくとも１つの動画構成画像を部分領域毎に圧縮することにより、固定値化された複数の動画構成画像を複数の部分動画毎に符号化する。
【００８９】
具体的には、画像比較部７４１は、複数の部分動画のそれぞれにおいて、少なくとも１つの動画構成画像に含まれる複数の部分領域毎に、同じ部分動画に含まれる他の動画構成画像に含まれる画像との間の画像の差分量を算出する。そして、符号化部２３１は、複数の部分動画のそれぞれにおいて、画像比較部７４１が算出した差分量に基づいて少なくとも１つの動画構成画像を部分領域毎に符号化することにより、固定値化された複数の動画構成画像を複数の部分動画毎に符号化する。
【００９０】
画像比較部７４１は、複数の部分動画のそれぞれにおいて、少なくとも１つの動画構成画像に含まれる複数の部分領域毎に同じ部分動画に含まれる他の動画構成画像と比較して、部分領域との間の画像の差分量が予め定められた値より小さい領域である他の動画構成画像における差分対象領域を特定し、特定した差分対象領域との間の画像の差分量を算出する。
符号化部２３１は、画像比較部７４１が算出した差分量及び差分対象領域の位置と部分領域の位置との間の差に基づいて少なくとも１つの動画構成画像を部分領域毎に符号化することにより、固定値化された複数の動画構成画像を複数の部分動画毎に符号化する。なお、差分対象領域の位置と部分領域の位置との間の差は、一例としてＭＰＥＧ符号化における移動ベクトルであってよい。
【００９１】
なお、包含領域特定部８７０は、複数の動画構成画像のそれぞれにおける複数の特徴領域を包含する、ＭＰＥＧ符号化におけるブロックの集合領域を、包含領域として特定する。そして、画像比較部７４１は、複数の部分動画のそれぞれにおいて、少なくとも１つの動画構成画像に含まれる複数のブロック又はマクロブロック毎に、同じ部分動画に含まれる他の動画構成画像と比較して、動きベクトル及び画像の差分量を算出する。
【００９２】
そして、符号化部２３１は、画像比較部７４１が算出した動きベクトル及び画像の差分量に基づいて少なくとも１つの動画構成画像をブロック及びマクロブロック毎に符号化することにより、固定値化された複数の動画構成画像を複数の部分動画毎にＭＰＥＧ符号化する。なお、包含領域特定部８７０は、複数の動画構成画像のそれぞれにおける複数の特徴領域を包含する、ＭＰＥＧ符号化におけるマクロブロック又はスライスの集合領域を、包含領域として特定してもよい。
【００９３】
境界領域特定部８７２は、複数の動画構成画像のそれぞれにおける複数の特徴領域を包含する複数の部分領域のうち、特徴領域及び特徴領域以外の境界をともに含む部分領域である境界領域を特定する。周辺領域特定部８７４は、境界領域に隣接し、特徴領域を含まない、部分領域の集合領域を部分領域である周辺領域を特定する。そして、包含領域決定部８７６は、特徴領域を含み特徴領域以外の領域を含まない部分領域、境界領域、及び周辺領域を、包含領域として決定する。
【００９４】
なお、周辺領域特定部８７４は、境界領域特定部８７２が特定した境界領域のうち、画像比較部７４１により比較される対象である他の動画構成画像から特定された特徴領域を含む境界領域を特定してよい。そして、周辺領域特定部８７４は、当該特定した境界領域に隣接し、当該特定した特徴領域を含まない部分領域を、周辺領域として特定してよい。
【００９５】
なお、圧縮動画取得部２０１は、複数の撮像装置１００のそれぞれにより撮像された複数の画像を取得する。なお、圧縮動画取得部２０１は、この発明における画像取得部の一例であってよい。そして、特徴領域検出部２０３は、複数の画像のうちの一の画像から、特徴領域を検出する。そして、対応領域特定部８２０は、特徴領域に含まれる被写体と同じ被写体を含むべき対応領域を、一の画像の他の画像において特定する。そして、特徴領域特定部８１０は、対応領域特定部８２０が特定した他の画像における対応領域から、他の画像における特徴領域を特定する。
【００９６】
なお、特徴領域特定部８１０は、対応領域特定部８２０が特定した対応領域を、他の画像における特徴領域として特定してよい。他にも、特徴領域特定部８１０は、対応領域特定部８２０が特定した対応領域から、他の画像における特徴領域を抽出してよい。
【００９７】
圧縮動画取得部２０１は、複数の撮像装置１００のそれぞれにより撮像された複数の動画のそれぞれに含まれる複数の動画構成画像を取得する。そして、特徴領域検出部２０３は、複数の動画のうちの一の動画に含まれる複数の動画構成画像から特徴領域を検出する。そして、対応領域特定部８２０は、特徴領域に含まれる被写体と同じ被写体を含むべき、他の動画に含まれる複数の動画構成画像における対応領域を特定する。
【００９８】
そして、特徴領域特定部８１０は、対応領域特定部８２０が特定した他の動画に含まれる動画構成画像における対応領域から、他の動画に含まれる動画構成画像における特徴領域を特定する。なお、対応特徴領域特定部８１０は、特徴領域検出部２０３が検出した特徴領域の画像における位置と、複数の撮像装置が複数の画像を撮像したときの撮像範囲のそれぞれとに基づいて、対応領域を特定してよい。
【００９９】
なお、適合度算出部８４０は、特徴領域検出部２０３が検出した特徴領域の画像の画像内容及び特徴領域特定部８１０が特定した特徴領域の画像の画像内容のそれぞれが予め定められた条件に適合する適合度を算出する。そして、圧縮部２４０は、特徴領域検出部２０３が検出した特徴領域及び特徴領域特定部８１０が特定した特徴領域のうち、適合度算出部８４０がより大きい適合度を算出した特徴領域の画像を含む特徴領域動画をより小さい強度で圧縮する。
【０１００】
条件格納部８５０は、特徴領域として特定されるべき領域の画像内容が適合すべき条件を格納する。そして、特徴領域検出部２０３は、画像取得部が取得した複数の画像のうちの一の画像の画像内容に基づいて、条件格納部８５０が格納している条件に適合する領域を特徴領域として特定する。そして、特徴領域特定部８１０は、対応領域特定部８２０が特定した対応領域の画像の画像内容に基づいて、条件格納部８５０が格納している条件より緩和された条件に適合する領域を、特徴領域として抽出してよい。
【０１０１】
なお、オブジェクト動き算出部８３０は、特徴領域検出部２０３が検出した特徴領域に含まれるオブジェクトの動きを特定する。そして、対応領域特定部８２０は、オブジェクト動き算出部８３０が算出したオブジェクトの動きと一致する動きを示すオブジェクトを含む、他の動画に含まれる領域を、他の動画に含まれる複数の動画構成画像における対応領域として特定してもよい。
【０１０２】
図９は、対応領域特定部８２０が特定した対応領域の一例を示す。画像処理装置１２０ａの特徴領域検出部２０３は、例えば撮像装置１００ａが撮像した撮像動画から生成されたフレーム画像９１０から、ＲＯＩ領域９１２を特定したとする。このとき、画像処理装置１２０ｂの対応領域特定部８２０は、フレーム画像９１０におけるＲＯＩ領域９１２を示す情報を画像処理装置１２０ａから取得する。そして、画像処理装置１２０ｂの対応領域特定部８２０は、撮像装置１００ｂが撮像した撮像動画から生成されたフレーム画像９２０から、フレーム画像９１０におけるＲＯＩ領域９１２に写っているオブジェクトが示す被写体と同じ被写体を含むべき領域９２２を特定する。
【０１０３】
このとき、画像処理装置１２０ｂの対応領域特定部８２０は、撮像装置１００ａが撮像する撮像範囲及び撮像装置１００ｂが撮像する撮像範囲を示す情報を取得する。そして、画像処理装置１２０ｂの対応領域特定部８２０は、取得した情報及びフレーム画像９１０におけるＲＯＩ領域９１２の位置に基づいて、領域９２２を特定してよい。そして、画像処理装置１２０ｂの特徴領域特定部８１０は、対応領域特定部８２０が特定した領域９２２を含む領域９２４から、ＲＯＩを検出する。なお、画像処理装置１２０ｂの特徴領域特定部８１０は、対応領域特定部８２０が特定した領域９２２を、フレーム画像９２０におけるＲＯＩとして特定してよい。
【０１０４】
なお、画像処理装置１２０ｂの特徴領域検出部２０３は、フレーム画像９２０を含む撮像動画を撮像した撮像装置１００ｂの撮像範囲と、撮像装置１００ｂ以外の撮像装置１００ａ又は撮像装置１００ｃの撮像範囲とが重なる範囲を特定して、特定した範囲の被写体が撮像されているフレーム画像９２０上の領域である重複撮像領域を特定する。そして、画像処理装置１２０ｂの特徴領域検出部２０３は、フレーム画像９２０における重複撮像領域以外の領域からＲＯＩを検出してよい。そして、画像処理装置１２０ｂは、特徴領域検出部２０３が検出したＲＯＩを、他の画像処理装置１２０の対応領域特定部８２０に通知してよい。そして、画像処理装置１２０ｂの特徴領域特定部８１０が、重複撮像領域の領域からＲＯＩを検出してよい。
【０１０５】
このように、特徴領域特定部８１０は、一の撮像装置１００が撮像した撮像動画から生成されたフレーム画像から検出されたＲＯＩの位置に基づいて、他の撮像装置１００が撮像した撮像動画から生成されたフレーム画像におけるＲＯＩを検出する。これにより、ＲＯＩを検出するのに要する時間を短縮することができる場合がある。
【０１０６】
図１０は、条件格納部８５０が格納しているデータの一例をテーブル形式で示す。条件格納部８５０は、頭部形状一致度及び顔要素一致度を格納する。頭部形状一致度は、人物の頭部の輪郭形状として予め定められた頭部形状パターンと、フレーム画像からエッジ抽出等により抽出されたオブジェクトの輪郭との間の一致度を示す。
【０１０７】
また、顔要素一致度は、人物の顔に含まれる目、口、鼻等のオブジェクトの輪郭形状を含む顔パターンと、フレーム画像からエッジ抽出等により抽出されたにオブジェクトの輪郭との間の一致度を示す。なお、それらのパターンとオブジェクトの輪郭との間の一致度は、パターンとオブジェクトの輪郭とを重ね合わせた場合における、パターン又はオブジェクトの面積に対する、パターンとオブジェクトとが重なる面積の割合であってよい。
【０１０８】
そして、特徴領域検出部２０３は、頭部形状一致度が条件格納部８５０が格納している頭部形状一致度より大きく、顔要素一致度が条件格納部８５０が格納している顔要素一致度より大きいオブジェクトを、人物を示すオブジェクトとして特定する。そして、特徴領域検出部２０３は、特定したオブジェクトを含む領域をＲＯＩとして決定する。
【０１０９】
なお、ここでは特徴領域検出部２０３が条件格納部８５０が格納している条件に基づいてＲＯＩを検出する動作を説明したが、特徴領域特定部８１０も、特徴領域検出部２０３と同様にして、条件格納部８５０が格納している条件に基づいて領域９２４からＲＯＩを検出してよい。
【０１１０】
図１１は、オブジェクト動き算出部８３０が算出したオブジェクトの動きの一例を示す。オブジェクト動き算出部８３０は、複数のフレーム画像のそれぞれが撮像されたタイミング及び複数のフレーム画像におけるＲＯＩに含まれるオブジェクトの位置に基づいて、オブジェクトが動く速度を算出する。なお、複数の画像処理装置１２０のそれぞれのオブジェクト動き算出部８３０が、それぞれオブジェクトが動く速度を算出する。このようにして、オブジェクト動き算出部８３０は、速度の時間変化１１１０及び１１２０を算出する。なお、時間変化１１１０は、一の画像処理装置１２０のオブジェクト動き算出部８３０が算出した速度の時間変化を示し、時間変化１１２０は、他の画像処理装置１２０のオブジェクト動き算出部８３０が算出した速度の時間変化を示す。
【０１１１】
そして、圧縮制御部８６０は、オブジェクト動き算出部８３０が算出した速度の時間変化と、他の画像処理装置１２０のオブジェクト動き算出部８３０が算出した速度の時間変化とを比較して、他の画像処理装置１２０のオブジェクト動き算出部８３０が算出した速度の時間変化と予め定められた一致度より大きい一致度で一致する速度の時間変化で動くオブジェクトを特定する。具体的には、圧縮制御部８６０は、それぞれの速度の時間変化に基づいて速度が変化するタイミングを特定して、特定したタイミングの差が小さいほど、より大きい一致度を算出してよい。なお、以下の説明では、当該オブジェクトを一致オブジェクトと呼ぶ。また、他の画像処理装置１２０において抽出された、速度の時間変化が一致オブジェクトの速度の時間変化と予め定められた一致度より大きい一致度で一致するオブジェクトを、対応オブジェクトと呼ぶ。
【０１１２】
そして、圧縮制御部８６０は、適合度算出部８４０が算出した適合度が、他の画像処理装置１２０の適合度算出部８４０が対応オブジェクトを含むＲＯＩに対して算出した適合度より大きい場合に、一致オブジェクトを含むＲＯＩを圧縮する圧縮強度としてより小さい圧縮強度を決定する。具体的には、圧縮制御部８６０は、一致オブジェクトを含むＲＯＩを圧縮する圧縮強度として、他の画像処理装置１２０の圧縮部２４０が対応オブジェクトを含むＲＯＩを圧縮する圧縮強度よりも小さい圧縮強度を決定する。そして、圧縮制御部８６０は、決定した圧縮強度で圧縮部２４０に圧縮させる。
【０１１３】
なお、圧縮制御部８６０は、他の画像処理装置１２０から、他の画像処理装置１２０の適合度算出部８４０が算出した適合度及び他の画像処理装置１２０のオブジェクト動き算出部８３０が算出した速度を取得することによって、上記処理を行ってよい。また、対応領域特定部８２０は、オブジェクト動き算出部８３０が算出した速度の時間変化と、他の画像処理装置１２０のオブジェクト動き算出部８３０が算出した速度の時間変化とを比較して、他の画像処理装置１２０のオブジェクト動き算出部８３０が算出した速度の時間変化と予め定められた一致度より大きい一致度で一致する速度の時間変化で動くオブジェクトを含む領域を、同じ被写体を含むべきＲＯＩとして決定してよい。
【０１１４】
このように、圧縮制御部８６０は、他の画像処理装置１２０によって検出されたＲＯＩと同じ被写体を含むＲＯＩの圧縮強度を、条件格納部８５０が格納している条件に適合する適合度が高いほど低くし、条件格納部８５０が格納している条件に適合する適合度が低いほど高くする。このような制御により、画像処理装置１２０は、他の撮像装置１００によって同じ被写体が撮像されている場合に、当該被写体を示すオブジェクトを含むＲＯＩを圧縮する圧縮強度を、適合度に応じて動的に増減させることができる。これにより、複数の撮像装置１００で同じ被写体が写っているにもかかわらず圧縮強度を変化させない場合に比べて、複数の画像処理装置１２０から出力される動画データの合計のデータ量を低減しながら、注目すべき被写体のより高画質な画像を提供することができる場合がある。
【０１１５】
図１２は、画像処理装置１２０のそれぞれが出力する動画データのデータ量の時間発展の一例を示す。既に説明したようにして、複数の画像処理装置１２０のそれぞれは、被写体の画像内容に応じて動的に圧縮強度を増減させることができる。ここで、複数の画像処理装置１２０が出力する動画データの合計のデータ量は、予め定められていてよい。例えば、複数の画像処理装置１２０が出力する動画データの合計の符号量が予め定められてよい。
【０１１６】
このような場合、圧縮制御部８６０は、合計のデータ量を予め定められた量にすべく、特徴領域動画及び背景領域動画を圧縮する圧縮強度を決定する。具体的には、圧縮制御部８６０は、既に説明した適合度、ＲＯＩの種類、検出されたＲＯＩの数、検出されたＲＯＩの面積、検出されたＲＯＩの位置、ＲＯＩに含まれる人物の向き、ＲＯＩに含まれるオブジェクトの形、ＲＯＩに含まれるオブジェクトの種類等に対応づけて予め定められたＲＯＩの種類毎の割り当て符合量を、複数の特徴領域動画及び背景領域動画のそれぞれを符号化する場合の割り当て符合量として決定する。
【０１１７】
そして、圧縮制御部８６０は、予め定められた符号量を、決定した割り当て符合量の合計値で除した値を算出する。そして、圧縮制御部８６０は、算出した値を係数として、複数の特徴領域動画及び背景領域動画のそれぞれを符号化する場合の割り当て符合量に乗じる。圧縮制御部８６０は、係数を乗ずることにより得られた値を、複数の特徴領域動画及び背景領域動画のそれぞれを符号化する場合の割り当て符合量として決定する。これにより、複数の画像処理装置１２０が出力する動画データの符号量の合計値を略一定にすることができる。なお、割り当て符号量は、ＶＢＶバッファ量を指標とするものであってよい。
【０１１８】
このように、圧縮部２４０は、特徴領域検出部２０３が検出した特徴領域の画像を含む特徴領域動画が持つ符号量及び特徴領域特定部８１０が特定した特徴領域の画像を含む特徴領域動画が持つ符号量の合計値を予め定められた範囲内にすべく、特徴領域検出部２０３が検出した特徴領域の画像を含む特徴領域動画及び特徴領域特定部８１０が特定した特徴領域の画像を含む特徴領域動画のそれぞれを圧縮する強度を調整する。
【０１１９】
図１３は、包含領域特定部８７０が特定する包含領域の一例を示す。ここでは、特徴領域検出部２０３が検出したＲＯＩの輪郭の一部を、符号１３７０で示す。そして、ＲＯＩ内部及びＲＯＩの輪郭の近辺のマクロブロックを、マクロブロック１３０１−１３０４、マクロブロック１３１１−１３１５、マクロブロック１３２１−１３２６、マクロブロック１３３１−１３３７、マクロブロック１３４１−１３４７、マクロブロック１３５１−１３５７で示す。
【０１２０】
境界領域特定部８７２は、特徴領域検出部２０３が検出したＲＯＩの輪郭１３７０を含むマクロブロック１３１１、１３１２、１３１３、１３２３、１３２４、１３３４、１３３５、１３４５、及び１３５５を特定する。なお、周辺領域特定部８７４は、境界領域特定部８７２が特定したマクロブロックに隣接する、ＲＯＩを含まないマクロブロック１３０１−１３０３、１３１４、１３２５、１３３６、１３４６、及び１３５６を特定する。そして、包含領域決定部８７６は、輪郭１３７０内の領域を少なくとも含むマクロブロックの他に、周辺領域特定部８７４が特定したマクロブロック１３０１−１３０３、１３１４、１３２５、１３３６、１３４６、及び１３５６を含む領域を、包含領域として決定する。このようにして、包含領域特定部８７０は、輪郭１３８０で示される包含領域の境界を特定する。
【０１２１】
このように、包含領域特定部８７０は、１以上のマクロブロックよりなる周辺領域を、包含領域に含める。そして、固定値化部２１１は、包含領域以外の領域を固定値化する。これにより、包含領域内のマクロブロックが、固定値化部２１１によって固定値化された領域との間で差分がとられて符号化される可能性を低減することができる場合がある。したがって、固定値化することで符号化後の動画データのデータ量がかえって増大してしまうことを未然に防ぐことができる場合がある。
【０１２２】
なお、固定値化部２１１は、包含領域内における平均的な輝度値又は平均的な色で、包含領域外の画素値を固定値化してもよい。これにより、包含領域内のマクロブロックを符号化する場合に、包含領域内のマクロブロックの画素値が、固定値化された領域の画素値との間で差分がとられたとしても、差分値の大きさを低減することができる。
【０１２３】
なお、マクロブロックは、この発明における部分領域の一例であってよい。他にも、この発明における部分領域は、ブロック及びスライス等であってよい。また、部分領域がスライスである場合には、包含領域決定部８７６は、Ｘ方向に連続する複数のマクロブロックよりなるスライスのうち、ＲＯＩを含むスライスを含む領域を、包含領域として決定してよい。また、包含領域決定部８７６は、ＲＯＩを含むＸ方向に連続する複数のマクロブロックのうちの一部よりなるスライスのうち、ＲＯＩを含むスライスを含む領域を、包含領域として決定してもよい。このように、包含領域決定部８７６は、ブロック単位、マクロブロック単位、又はスライス単位、並びにその組合せの集合領域を、包含領域として決定してよい。
【０１２４】
なお、包含領域決定部８７６は、例えばＭＰＥＧ符号化におけるＩピクチャ又はＰピクチャとして符号化されるフレーム画像に含まれるＲＯＩの周辺領域を含む領域を、包含領域として決定してよい。また、包含領域決定部８７６は、Ｂピクチャに符号化されるフレーム画像については、ＲＯＩにおいて境界領域特定部８７２が特定した境界領域を含む領域を、包含領域として決定してもよい。
【０１２５】
図１４は、包含領域特定部８７０が特定した包含領域の一例を示す。包含領域特定部８７０は、１ＧＯＰとして符号化すべき複数のフレーム画像のそれぞれから特徴領域検出部２０３が検出した複数のＲＯＩを重ね合わせた包含領域を特定する。なお、このとき、包含領域特定部８７０は、１ＧＯＰに含まれる複数のフレーム画像から特徴領域検出部２０３が検出したＲＯＩを重ね合わせる。このように、包含領域特定部８７０は、ＧＯＰ毎に固定された包含領域を特定する。なお、包含領域特定部８７０は、図１３に関連して説明したように、周辺領域を含む領域を包含領域として特定してよい。
【０１２６】
このように、包含領域特定部８７０がＧＯＰ毎に包含領域を特定して、固定値化部２１１が包含領域以外の領域を固定値化する。このため、固定値化によるデータ量の低減だけでなく、図１３に関連して説明したように符号化後のデータ量を著しく低減することができる場合がある。このため、符号化部２３１の機能を汎用の符号器で実装したとしても、データ量を効果的に低減することができる場合がある。このため、符号化部２３１の機能をＲＯＩ領域を符号化するのに特化した符号器で実装する場合に比べて、画像処理装置１２０のコストを著しく削減することができる場合がある。
【０１２７】
図１５は、画像処理装置１２０及び画像処理装置１７０のハードウェア構成の一例を示す。画像処理装置１２０及び画像処理装置１７０は、ＣＰＵ周辺部と、入出力部と、レガシー入出力部とを備える。ＣＰＵ周辺部は、ホスト・コントローラ１５８２により相互に接続されるＣＰＵ１５０５、ＲＡＭ１５２０、グラフィック・コントローラ１５７５、及び表示デバイス１５８０を有する。入出力部は、入出力コントローラ１５８４によりホスト・コントローラ１５８２に接続される通信インターフェイス１５３０、ハードディスクドライブ１５４０、及びＣＤ−ＲＯＭドライブ１５６０を有する。レガシー入出力部は、入出力コントローラ１５８４に接続されるＲＯＭ１５１０、フレキシブルディスク・ドライブ１５５０、及び入出力チップ１５７０を有する。
【０１２８】
ホスト・コントローラ１５８２は、ＲＡＭ１５２０と、高い転送レートでＲＡＭ１５２０をアクセスするＣＰＵ１５０５、及びグラフィック・コントローラ１５７５とを接続する。ＣＰＵ１５０５は、ＲＯＭ１５１０、及びＲＡＭ１５２０に格納されたプログラムに基づいて動作して、各部の制御をする。グラフィック・コントローラ１５７５は、ＣＰＵ１５０５等がＲＡＭ１５２０内に設けたフレーム・バッファ上に生成する画像データを取得して、表示デバイス１５８０上に表示させる。これに代えて、グラフィック・コントローラ１５７５は、ＣＰＵ１５０５等が生成する画像データを格納するフレーム・バッファを、内部に含んでもよい。
【０１２９】
入出力コントローラ１５８４は、ホスト・コントローラ１５８２と、比較的高速な入出力装置であるハードディスクドライブ１５４０、通信インターフェイス１５３０、ＣＤ−ＲＯＭドライブ１５６０を接続する。ハードディスクドライブ１５４０は、ＣＰＵ１５０５が使用するプログラム、及びデータを格納する。通信インターフェイス１５３０は、ネットワーク通信装置１５９８に接続してプログラムまたはデータを送受信する。ＣＤ−ＲＯＭドライブ１５６０は、ＣＤ−ＲＯＭ１５９５からプログラムまたはデータを読み取り、ＲＡＭ１５２０を介してハードディスクドライブ１５４０、及び通信インターフェイス１５３０に提供する。
【０１３０】
入出力コントローラ１５８４には、ＲＯＭ１５１０と、フレキシブルディスク・ドライブ１５５０、及び入出力チップ１５７０の比較的低速な入出力装置とが接続される。ＲＯＭ１５１０は、放射線撮像システムが起動時に実行するブート・プログラム、あるいは放射線撮像システムのハードウェアに依存するプログラム等を格納する。フレキシブルディスク・ドライブ１５５０は、フレキシブルディスク１５９０からプログラムまたはデータを読み取り、ＲＡＭ１５２０を介してハードディスクドライブ１５４０、及び通信インターフェイス１５３０に提供する。入出力チップ１５７０は、フレキシブルディスク・ドライブ１５５０、あるいはパラレル・ポート、シリアル・ポート、キーボード・ポート、マウス・ポート等を介して各種の入出力装置を接続する。
【０１３１】
ＣＰＵ１５０５が実行するプログラムは、フレキシブルディスク１５９０、ＣＤ−ＲＯＭ１５９５、またはＩＣカード等の記録媒体に格納されて利用者によって提供される。記録媒体に格納されたプログラムは圧縮されていても非圧縮であってもよい。プログラムは、記録媒体からハードディスクドライブ１５４０にインストールされ、ＲＡＭ１５２０に読み出されてＣＰＵ１５０５により実行される。ＣＰＵ１５０５により実行されるプログラムは、画像処理装置１２０を、図１から図１４に関連して説明した圧縮動画取得部２０１、圧縮動画伸張部２０２、特徴領域検出部２０３、画像分割部２０４、画像生成部２０５、固定値化部２１１、画質低減部２２１、符号化部２３１、対応付け処理部２０６、出力部２０７、動画分割ユニット７３０、動画分割部７３１、画像比較部７４１、特徴領域特定部８１０、対応領域特定部８２０、オブジェクト動き算出部８３０、適合度算出部８４０、条件格納部８５０、圧縮制御部８６０、包含領域特定部８７０、境界領域特定部８７２、周辺領域特定部８７４、及び包含領域決定部８７６として機能させる。また、ＣＰＵ１５０５により実行されるプログラムは、画像処理装置１７０を、図１から図１４に関連して説明した圧縮動画取得部３０１、対応付け解析部３０２、圧縮動画伸張部３１１、合成部３０３、及び出力部３０４として機能させる。
【０１３２】
以上に示したプログラムは、外部の記憶媒体に格納されてもよい。記憶媒体としては、フレキシブルディスク１５９０、ＣＤ−ＲＯＭ１５９５の他に、ＤＶＤまたはＰＤ等の光学記録媒体、ＭＤ等の光磁気記録媒体、テープ媒体、ＩＣカード等の半導体メモリ等を用いることができる。また、専用通信ネットワークあるいはインターネットに接続されたサーバシステムに設けたハードディスクまたはＲＡＭ等の記憶装置を記録媒体として使用して、ネットワークを介したプログラムとして画像処理装置１２０及び画像処理装置１７０に提供してもよい。
【０１３３】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
【図面の簡単な説明】
【０１３４】
【図１】一実施形態に係る画像処理システム１０の一例を示す図である。
【図２】画像処理装置１２０のブロック構成の一例を示す図である。
【図３】画像処理装置１７０のブロック構成の一例を示す図である。
【図４】画像処理装置１２０の処理フローの一例を示す図である。
【図５】複数の特徴領域動画および背景領域動画の画質の一例を示す図である。
【図６】画像処理装置１７０の処理フローの一例を示す図である。
【図７】圧縮部２４０の構成の一例を示す図である。
【図８】画像処理装置１２０がさらに有する圧縮制御ユニット８００の構成の一例を示す図である。
【図９】対応領域特定部８２０が特定した対応領域の一例を示す図である。
【図１０】条件格納部８５０が格納しているデータの一例をテーブル形式で示す図である。
【図１１】オブジェクト動き算出部８３０が算出したオブジェクトの動きの一例を示す図である。
【図１２】画像処理装置１２０のそれぞれが出力する動画データのデータ量の時間発展の一例を示す図である。
【図１３】包含領域特定部８７０が特定する包含領域の一部を示す図である。
【図１４】包含領域特定部８７０が特定した包含領域の一例を示す図である。
【図１５】画像処理装置１２０及び画像処理装置１７０のハードウェア構成の一例を示す図である。
【符号の説明】
【０１３５】
１０  画像処理システム
１００  撮像装置
１１０  通信ネットワーク
１２０  画像処理装置
１３０  人物
１４０  移動物体
１５０  監視対象空間
１６０  空間
１７０  画像処理装置
１８０  表示装置
２０１  圧縮動画取得部
２０２  圧縮動画伸張部
２０３  特徴領域検出部
２０４  画像分割部
２０５  画像生成部
２０６  対応付け処理部
２０７  出力部
２１０  固定値化ユニット
２１１  固定値化部
２２０  低減化ユニット
２２１  画質低減部
２３０  符号化ユニット
２３１  符号化部
２３１ａ  背景領域動画符号化部
２３１ｂ−ｄ  特徴領域動画符号化部
２４０  圧縮部
３０１  圧縮動画取得部
３０２  対応付け解析部
３１０  圧縮動画伸張ユニット
３１１  圧縮動画伸張部
３０３  合成部
３０４  出力部
７３０  動画分割ユニット
７３１  動画分割部
７３１ａ  背景領域動画分割部
７３１ｂ−ｄ  特徴領域動画分割部
７４０  画像比較ユニット
７４１  画像比較部
７４１ａ  背景領域画像比較部
７４１ｂ−ｄ  特徴領域画像比較部
８００  圧縮制御ユニット
８１０  特徴領域特定部
８２０  対応領域特定部
８３０  オブジェクト動き算出部
８４０  適合度算出部
８５０  条件格納部
８６０  圧縮制御部
８７０  包含領域特定部
８７２  境界領域特定部
８７４  周辺領域特定部
８７６  包含領域決定部
【図１】
2011172291.tif 000003
【図２】
2011172291.tif 000004
【図３】
2011172291.tif 000005
【図４】
2011172291.tif 000006
【図５】
2011172291.tif 000007
【図６】
2011172291.tif 000008
【図７】
2011172291.tif 000009
【図８】
2011172291.tif 000010
【図９】
2011172291.tif 000011
【図１０】
2011172291.tif 000012
【図１１】
2011172291.tif 000013
【図１２】
2011172291.tif 000014
【図１３】
2011172291.tif 000015
【図１４】
2011172291.tif 000016
【図１５】
2011172291.tif 000017
【手続補正書】
【提出日】平成23年6月6日(2011.6.6)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
動画に含まれる複数の動画構成画像のそれぞれから、特徴領域を検出する特徴領域検出部と、
前記複数の動画構成画像のそれぞれから検出された複数の前記特徴領域を包含する包含領域を特定する包含領域特定部と、
前記複数の動画構成画像のそれぞれにおける前記包含領域以外の領域の画素値を固定値化する固定値化部と、
前記固定値化された前記複数の動画構成画像を符号化する符号化部と
を備える画像処理装置。
【請求項２】
前記動画を、前記複数の動画構成画像をそれぞれ含む複数の部分動画に分割する動画分割部と、
複数の複数の部分動画のそれぞれにおいて、前記固定値化された前記複数の動画構成画像のうち少なくとも１つの動画構成画像に含まれる予め定められた部分領域毎に同じ部分動画に含まれる他の動画構成画像と比較して、前記部分領域との間の画像の差分量が予め定められた値より小さい領域である前記他の動画構成画像における差分対象領域を特定し、特定した前記差分対象領域との間の画像の差分量を算出する画像比較部と
をさらに備え、
前記符号化部は、前記画像比較部が算出した差分量及び前記差分対象領域の位置と前記部分領域の位置との間の差に基づいて前記少なくとも１つの動画構成画像を前記部分領域毎に符号化することにより、前記固定値化された複数の動画構成画像を前記複数の部分動画毎に符号化する
請求項１に記載の画像処理装置。
【請求項３】
前記包含領域特定部は、前記複数の動画構成画像のそれぞれにおける前記複数の特徴領域を包含する、ＭＰＥＧ符号化におけるブロックの集合領域を、前記包含領域として特定し、
前記画像比較部は、前記複数の部分動画のそれぞれにおいて、前記少なくとも１つの動画構成画像に含まれる複数のブロック又はマクロブロック毎に、前記同じ部分動画に含まれる他の動画構成画像と比較して、動きベクトル及び前記画像の差分量を算出し、
前記符号化部は、前記画像比較部が算出した動きベクトル及び前記画像の差分量に基づいて前記少なくとも１つの動画構成画像を前記ブロック及びマクロブロック毎に符号化することにより、前記固定値化された複数の前記動画構成画像を複数の前記部分動画毎にＭＰＥＧ符号化する
請求項２に記載の画像処理装置。
【請求項４】
前記包含領域特定部は、
前記複数の動画構成画像のそれぞれにおける前記特徴領域及び前記特徴領域以外の境界をともに含む部分領域である境界領域を特定する境界領域特定部と、
前記境界領域に隣接し、前記特徴領域を含まない周辺領域を特定する周辺領域特定部と、
前記特徴領域を含み前記特徴領域以外の領域を含まない部分領域、前記境界領域、及び前記周辺領域を、前記包含領域として決定する包含領域決定部
を有する
請求項２に記載の画像処理装置。
【請求項５】
前記周辺領域特定部は、前記境界領域特定部が特定した前記境界領域のうち、前記画像比較部により比較される対象である前記他の動画構成画像から特定された前記特徴領域を含む前記境界領域を特定し、当該特定した前記境界領域に隣接し、当該特定した前記特徴領域を含まない部分領域を、前記周辺領域として特定する
請求項４に記載の画像処理装置。
【請求項６】
前記符号化部は、前記固定値化された前記複数の動画構成画像を含む特徴領域動画と、前記複数の動画構成画像における前記特徴領域以外の領域を含む領域の画像である背景領域画像を複数含む背景領域動画とを、異なる圧縮強度で符号化する
請求項１に記載の画像処理装置。
【請求項７】
前記特徴領域動画と前記背景領域動画とを、それぞれの特徴量に応じて画質を低減することにより圧縮する画質低減部
をさらに備え、
前記符号化部は、前記画質低減部が低減した前記特徴領域動画と前記背景領域動画とを符号化する
を有する請求項６に記載の画像処理装置。
【請求項８】
前記画質低減部は、前記特徴領域動画と前記背景領域動画とを、それぞれの特徴量に応じて解像度またはフレームレートを低減することにより圧縮する
請求項７に記載の画像処理装置。
【請求項９】
請求項１から請求項８のいずれか一つに記載の画像処理装置としてコンピュータを機能させるためのプログラム。
【請求項１０】
動画に含まれる複数の動画構成画像のそれぞれから、特徴領域を検出する特徴領域検出段階と、
前記複数の動画構成画像のそれぞれから検出された複数の前記特徴領域を包含する包含領域を特定する包含領域特定段階と、
前記複数の動画構成画像のそれぞれにおける前記包含領域以外の領域の画素値を固定値化する固定値化段階と、
前記固定値化された前記複数の動画構成画像を符号化する符号化段階と
を備える画像処理方法。