(57)【特許請求の範囲】
【請求項１】
空間的な切り出し基準に基づき、１つの動画像のうちの時間的に共通の部分から空間的に内容の異なる複数の動画像を切り出す、又は当該１つの動画像のうちの空間的に共通の部分から、時間的な切り出し基準に基づき、時間的に内容の異なる複数の動画像を切り出す切出手段と、
切り出された前記複数の動画像を、空間的な結合を伴わずに、時間的な結合基準に基づく順であって、元となる１つの動画像の時系列とは異なる順に、時間的に結合して、新たな１つの動画像を生成する生成手段と、
を備えることを特徴とする画像処理装置。
【請求項２】
前記切出手段は、動画像を構成する個々の画面内に含まれる所定の被写体部分を、前記空間的な切り出し基準として、空間的に切り出し、
複数の所定の被写体部分が含まれる画面からは、当該所定の被写体部分各々を独立に、空間的に切り出し、時間的に共通の部分から空間的に内容の異なる複数の動画像を切り出す
ことを特徴とする請求項１に記載の画像処理装置。
【請求項３】
前記切出手段は、動画像を構成する複数のフレームのうち所定の被写体が含まれるフレームを、前記時間的な切り出し基準として、時間的に切り出し、
複数の所定の被写体部分が含まれるフレームを、当該所定の被写体部分各々に応じて、異なるフレームとして時間的に切り出し、空間的に共通の部分から時間的に内容の異なる複数の動画像を切り出す
ことを特徴とする請求項１又は２に記載の画像処理装置。
【請求項４】
１つの動画像から、空間的及び／又は時間的な切り出し基準に基づき、内容の異なる複数の動画像を切り出す切出手段と、
切り出された前記複数の動画像を、空間的な結合を伴わずに、時間的な結合基準に基づく順であって、元となる１つの動画像の時系列とは異なる順に、時間的に結合して、新たな１つの動画像を生成する生成手段と、
を備え、
前記切出手段は、元となる１つの動画像を構成する個々のフレームが重複しない、１の所定の被写体を撮影する方法の違いを、前記時間的な切り出し基準として、内容の異なる複数の動画像を時間的に切り出し、
前記生成手段は、切り出された前記複数の動画像を、空間的な結合を伴わずに、時間的な結合基準に基づく順であって、元となる１つの動画像の時系列とは異なる順に、時間的に結合して、元となる１つの動画像と同じ再生時間となるように、新たな１つの動画像を生成する、
ことを特徴とする画像処理装置。
【請求項５】
１つの動画像から、空間的及び／又は時間的な切り出し基準に基づき、内容の異なる複数の動画像を切り出す切出手段と、
切り出された前記複数の動画像を、空間的な結合を伴わずに、時間的な結合基準に基づく順であって、元となる１つの動画像の時系列とは異なる順に、時間的に結合して、新たな１つの動画像を生成する生成手段と、
を備え、
前記切出手段は、内容の異なる複数の動画像の個々が元となる１つの動画像と同じ再生時間となるように、切り出し、
前記生成手段は、切り出された前記複数の動画像を、空間的な結合を伴わずに、時間的な結合基準に基づく順であって、元となる１つの動画像の時系列とは異なる順に、時間的に結合して、元となる１つの動画像より長い再生時間となるように、新たな１つの動画像を生成する、
ことを特徴とする画像処理装置。
【請求項６】
前記生成手段は、切り出された動画像の個々を優先順位に基づいて、時間的に繋げることを、前記時間的な結合基準として、新たな１つの動画像を生成する、
ことを特徴とする請求項１から５のいずれか一項に記載の画像処理装置。
【請求項７】
空間的な切り出し基準に基づき、１つの動画像のうちの時間的に共通の部分から空間的に内容の異なる複数の動画像を切り出す、又は当該１つの動画像のうちの空間的に共通の部分から、時間的な切り出し基準に基づき、時間的に内容の異なる複数の動画像を切り出す切出処理と、
切り出された前記複数の動画像を、空間的な結合を伴わずに、時間的な結合基準に基づく順であって、元となる１つの動画像の時系列とは異なる順に、時間的に結合して、新たな１つの動画像を生成する生成処理と、
を含むことを特徴とする画像処理方法。
【請求項８】
コンピュータに、
空間的な切り出し基準に基づき、１つの動画像のうちの時間的に共通の部分から空間的に内容の異なる複数の動画像を切り出す、又は当該１つの動画像のうちの空間的に共通の部分から、時間的な切り出し基準に基づき、時間的に内容の異なる複数の動画像を切り出す切出機能と、
切り出された前記複数の動画像を、空間的な結合を伴わずに、時間的な結合基準に基づく順であって、元となる１つの動画像の時系列とは異なる順に、時間的に結合して、新たな１つの動画像を生成する生成機能と、
を実現させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置、画像処理方法及びプログラムに関する。
【背景技術】
【０００２】
近年、撮像素子の高画素化、或いは、動画像の規格が標準画質からフルハイビジョン、さらに４Ｋへと高画素化が進み、１つの画面から部分を切り出しても充分な画質を得られるようになってきている。
こういった流れの中で、注目する人物を追尾しつつ画質を落とさない範囲で切り出しを行う技術が開示されている（例えば、特許文献１参照）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１３−１１５５９７号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、注目する人物を追尾して切り出しを行う従来の技術は、注目する人物が一人、或いは複数でも画像内における時間的な位置と空間的な位置の両方が近接している場合には有効であっても、複数の人物の画像内における時間的な位置と空間的な位置のいずれかが離れている場合には、効果が得られないという課題がある。これは、人物に限らず、画像内の注目する部分が離れて存在する場合においても同様である。
【０００５】
本発明の課題は、画像内に存在する複数の被写体の位置関係によらず、効果的な画像を生成することである。
【課題を解決するための手段】
【０００６】
上記目的を達成するため、本発明の一態様の画像処置装置は、
１空間的な切り出し基準に基づき、１つの動画像のうちの時間的に共通の部分から空間的に内容の異なる複数の動画像を切り出す、又は当該１つの動画像のうちの空間的に共通の部分から、時間的な切り出し基準に基づき、時間的に内容の異なる複数の動画像を切り出す切出手段と、
切り出された前記複数の動画像を、空間的な結合を伴わずに、時間的な結合基準に基づく順であって、元となる１つの動画像の時系列とは異なる順に、時間的に結合して、新たな１つの動画像を生成する生成手段と、
を備えることを特徴とする。
【発明の効果】
【０００７】
本発明によれば、画像内に存在する複数の被写体の位置関係によらず、効果的な画像を生成することができる。
【図面の簡単な説明】
【０００８】
【図１】本発明の一実施形態に係る画像処理装置のハードウェアの構成を示すブロック図である。
【図２】図１の画像処理装置の機能的構成のうち、画像生成処理を実行するための機能的構成を示す機能ブロック図である。
【図３】レイアウトテーブルの一例を示す図である。
【図４】レイアウトの一例を示す模式図であり、図４（Ａ）はレイアウト２Ａ、図４（Ｂ）はレイアウト２Ｂ、図４（Ｃ）はレイアウト３Ｇ、図４（Ｄ）はレイアウト３Ｈを示す図である。
【図５】空間的切り出し基準の概念を示す模式図であり、図５（Ａ）、（Ｂ）は空間的切り出し基準１、図５（Ｃ）、（Ｄ）は空間的切り出し基準２、図５（Ｅ）、（Ｆ）は空間的切り出し基準３、図５（Ｇ）、（Ｈ）、（Ｉ）は空間的切り出し基準４の概念を示す模式図である。
【図６】画像生成手順全体の概念を示す模式図である。
【図７】画像生成手順全体の概念を示す模式図である。
【図８】画像生成手順全体の概念を示す模式図である。
【図９】画像生成手順全体の概念を示す模式図である。
【図１０】図２の機能的構成を有する図１の画像処理装置が実行する画像生成処理の流れを説明するフローチャートである。
【図１１】図１０におけるステップＳ３の切り出し処理の流れを説明するフローチャートである。
【図１２】図１０におけるステップＳ７の空間的結合処理の流れを説明するフローチャートである。
【図１３】図１０におけるステップＳ８の時間的結合処理の流れを説明するフローチャートである。
【図１４】第２実施形態における画像処理装置が実行する画像生成処理の流れを説明するフローチャートである。
【図１５】図１４におけるステップＳ１０３の切り出し処理の流れを説明するフローチャートである。
【図１６】図１４におけるステップＳ１０６の結合処理の流れを説明するフローチャートである。
【図１７】複数の被写体をまとめて空間的に切り出す概念を示す模式図である。
【発明を実施するための形態】
【０００９】
以下、本発明の実施形態について、図面を用いて説明する。
【００１０】
［第１実施形態］
［構成］
図１は、本発明の一実施形態に係る画像処理装置１のハードウェアの構成を示すブロック図である。
画像処理装置１は、例えばデジタルカメラとして構成される。
【００１１】
画像処理装置１は、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）１１と、ＲＯＭ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）１２と、ＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）１３と、バス１４と、入出力インターフェース１５と、撮像部１６と、入力部１７と、出力部１８と、記憶部１９と、通信部２０と、ドライブ２１と、を備えている。
【００１２】
ＣＰＵ１１は、ＲＯＭ１２に記録されているプログラム、または、記憶部１９からＲＡＭ１３にロードされたプログラムに従って各種の処理を実行する。例えば、ＣＰＵ１１は、後述する画像生成処理のためのプログラムに従って、画像生成処理を実行する。
【００１３】
ＲＡＭ１３には、ＣＰＵ１１が各種の処理を実行する上において必要なデータ等も適宜記憶される。
【００１４】
ＣＰＵ１１、ＲＯＭ１２及びＲＡＭ１３は、バス１４を介して相互に接続されている。このバス１４にはまた、入出力インターフェース１５も接続されている。入出力インターフェース１５には、撮像部１６、入力部１７、出力部１８、記憶部１９、通信部２０及びドライブ２１が接続されている。
【００１５】
撮像部１６は、図示はしないが、光学レンズ部と、イメージセンサと、を備えている。
【００１６】
光学レンズ部は、被写体を撮影するために、光を集光するレンズ、例えばフォーカスレンズやズームレンズ等で構成される。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
光学レンズ部にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
【００１７】
イメージセンサは、光電変換素子や、ＡＦＥ（Ａｎａｌｏｇ  Ｆｒｏｎｔ  Ｅｎｄ）等から構成される。
光電変換素子は、例えばＣＭＯＳ（Ｃｏｍｐｌｅｍｅｎｔａｒｙ  Ｍｅｔａｌ  Ｏｘｉｄｅ  Ｓｅｍｉｃｏｎｄｕｃｔｏｒ）型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換（撮像）して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてＡＦＥに順次供給する。
ＡＦＥは、このアナログの画像信号に対して、Ａ／Ｄ（Ａｎａｌｏｇ／Ｄｉｇｉｔａｌ）変換処理等の各種信号処理を実行する。各種信号処理によって、ディジタル信号が生成され、撮像部１６の出力信号として出力される。
このような撮像部１６の出力信号を、以下、「撮像画像」と呼ぶ。撮像画像は、ＣＰＵ１１等に適宜供給される。
【００１８】
入力部１７は、各種ボタン等で構成され、ユーザの指示操作に応じて各種情報を入力する。
出力部１８は、ディスプレイやスピーカ等で構成され、画像や音声を出力する。
記憶部１９は、ハードディスク或いはフラッシュメモリ等で構成され、各種画像のデータを記憶する。
通信部２０は、インターネットを含むネットワークを介して他の装置（図示せず）との間で行う通信を制御する。
【００１９】
ドライブ２１には、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等よりなる、リムーバブルメディア３１が適宜装着される。ドライブ２１によってリムーバブルメディア３１から読み出されたプログラムは、必要に応じて記憶部１９にインストールされる。また、リムーバブルメディア３１は、記憶部１９に記憶されている画像のデータ等の各種データも、記憶部１９と同様に記憶することができる。
【００２０】
図２は、このような画像処理装置１の機能的構成のうち、画像生成処理を実行するための機能的構成を示す機能ブロック図である。
画像生成処理とは、複数の人物が撮影された１つの動画像から、登録されている顔情報を基にそれぞれの人物の顔の部分を空間的または時間的に切り出し、切り出された動画像を結合して新たな動画像を生成する一連の処理をいう。
【００２１】
画像生成処理が実行される場合、図２に示すように、ＣＰＵ１１において、画像選択部５１と、切り出し基準特定部５２と、切り出し処理部５３と、結合基準特定部５４と、結合処理部５５と、レイアウト選択部５６と、が機能する。
【００２２】
また、記憶部１９の一領域には、画像記憶部７１と、レイアウト記憶部７２と、生成画像記憶部７３と、顔情報記憶部７４と、が設定される。
【００２３】
画像記憶部７１には、画像処理装置１または他の装置によって撮像された動画像のデータが記憶される。
レイアウト記憶部７２には、新たな動画像を生成する際に用いられるレイアウトのデータと、レイアウトを選択するための条件が定義されたレイアウトテーブルと、が記憶される。
【００２４】
図３は、レイアウトテーブルの一例を示す図である。
図３に示すように、レイアウトテーブルには、動画像から切り出された部分の数を示す切り出し画像数と、動画像から切り出された部分のうち最も高い優先順位が設定された部分を示す最優先の切り出し対象と、対応するレイアウトとが対応付けて記憶されている。
具体的には、レイアウトテーブルには、切り出し画像数として「２、３」等の数値、最優先の切り出し対象として「人物Ａ、Ｂ、Ｃの顔」、「正面、右向き、左向き等の顔の向き」、「最優先の切り出し対象なし」等の切り出し対象の属性、対応レイアウトとして「レイアウト２Ａ、２Ｂ・・・２Ｎ、レイアウト３Ａ、３Ｂ・・・３Ｎ」等のレイアウトのデータが対応付けられている。
【００２５】
図４は、レイアウトの一例を示す模式図であり、図４（Ａ）はレイアウト２Ａ、図４（Ｂ）はレイアウト２Ｂ、図４（Ｃ）はレイアウト３Ｇ、図４（Ｄ）はレイアウト３Ｈを示す図である。
図４の各模式図に示すように、レイアウトには、背景と、背景に合成する画像の数と、大きさ及び位置関係とが定義されている。なお、図４（Ａ）のレイアウト２Ａや、図４（Ｂ）のレイアウト２Ｂのように、画面全体に画像が合成される場合には、背景として枠のみが表示される。
【００２６】
具体的には、レイアウトには、背景に合成する所定数の画像の合成位置が設定され、それぞれの合成位置には優先順位が設定されている。また、各合成位置には、合成する画像の大きさが設定されている。
例えば、図４（Ａ）のレイアウト２Ａは、２枚の画像を左右に並ぶ合成位置に、同一の大きさで配置するレイアウトであり、左側の合成位置が優先順位１、右側の合成位置が優先順位２となっている。また、図４（Ｃ）のレイアウト３Ｇは、３枚の画像を左上、中央、右下に並ぶ合成位置に、中央の合成位置を大きく、左上及び右下の合成位置を小さく配置するレイアウトであり、中央の合成位置が優先順位１、左上の合成位置が優先順位２、右下の合成位置が優先順位３となっている。
【００２７】
図２に戻り、生成画像記憶部７３には、切り出された動画像をレイアウトに従って結合した新たな動画像のデータが記憶される。
顔情報記憶部７４には、人物の顔（正面、右向き、左向き）の認証用データが記憶されている。人物の顔の認証用データは、動画像において検出された顔が、特定の人物の顔であるか否かを認証するために用いられる。なお、動画像から顔を検出する処理及び検出された顔が特定の人物であるか否かを認証する処理には、公知の各種顔検出技術及び顔認証技術を用いることができる。
【００２８】
画像選択部５１は、画像記憶部７１に記憶された画像のデータの中から、ユーザの指示入力に対応する動画像のデータを選択する。以下、選択された動画像のデータを「オリジナルの動画像」と呼ぶ。
切り出し基準特定部５２は、動画像から人物の顔の部分を切り出す際の切り出し基準を特定する。
本実施形態では、切り出し基準として、空間的切り出し基準と、時間的切り出し基準とが定義されており、切り出し基準特定部５２は、動画像の切り出しが行われる際に、前回使用された空間的切り出し基準または時間的切り出し基準のいずれかを特定する。なお、切り出し基準特定部５２が、ユーザによる任意の切り出し基準の特定を受け付けることとしてもよい。
具体的には、空間的切り出し基準及び時間的切り出し基準は、以下のように設定されている。
【００２９】
（空間的切り出し基準１）
動画像を構成するフレーム毎の画面において検出され、特定の人物として認証された顔それぞれを切り出し対象とする。
（空間的切り出し基準２）
動画像を構成するフレーム毎の画面において検出された顔及び特定の人物として認証された顔それぞれを切り出し対象とする。
（空間的切り出し基準３）
動画像を構成するフレーム毎の画面において特定の人物として認証された顔を切り出し対象としない。
（空間的切り出し基準４）
動画像を構成するフレーム毎の画面において検出された一人の顔または特定の人物として認証された一人の顔の正面／右向き／左向きを別々に切り出し対象とする。ただし、認証された顔を検出された顔よりも優先し、複数の顔が検出または認証された場合は、認証対象として登録された顔に設定されている優先順位や、検出または認証された顔の大きさに応じて切り出し対象を決定する。
【００３０】
（時間的切り出し基準１）
動画像を構成する連続するフレームにおいて顔が検出された場合または特定の人物として顔が認証された場合、検出された顔及び認証された顔が存在しているか否かによらず、同じ時間の長さで各顔に対応する動画像を切り出す。ただし、顔が検出または認証されなかったフレームの期間には、オリジナルの動画像をそのまま挿入することで、同じフレーム数となるようにする。
（時間的切り出し基準２）
動画像を構成する連続するフレームにおいて顔が検出された場合または特定の人物として顔が認証された場合、検出された顔及び認証された顔が存在しているか否かによらず、同じ時間の長さで各顔に対応する動画像を切り出す。ただし、顔が検出または認証されなかったフレームの期間は切り出しを行わずに時間的に圧縮した動画像を切り出し、最も長い動画像の長さに合わせるように、他の短い動画像のフレームレートを低下させることで、異なるフレーム数でも同じ時間となるようにする。
【００３１】
（時間的切り出し基準３）
動画像を構成する連続するフレームにおいて顔が検出された場合または特定の人物として顔が認証された場合、検出された顔及び認証された顔が存在している部分のフレームの期間のみを切り出し、時間的に圧縮した動画を切り出す。ただし、切り出し対象とする部分は、連続して顔が検出または認証される時間が所定の閾値時間以上の部分とする。なお、検出または認証された顔の正面／右向き／左向きを区別して時間的に切り出すこととしてもよい。
【００３２】
切り出し処理部５３は、切り出し基準特定部５２によって特定された切り出し基準に従って、動画像から人物の顔の部分を切り出す切り出し処理を実行する。具体的には、切り出し処理部５３は、オリジナルの動画像をサーチし、切り出し対象となる被写体を特定する。そして、切り出し処理部５３は、切り出し基準特定部５２によって特定された切り出し基準に従って、フレーム毎の画面内の特定の人物の顔を含む矩形領域を空間的に切り出したり、特定の人物の顔を含むフレームの期間を時間的に切り出したりする。なお、空間的に切り出された動画像は、後述するレイアウトへの合成の際に、レイアウトによっては切り出された領域の一部をカットして、サイズやアスペクト比等が変更される場合がある。そのため、切り出し処理部５３において切り出し対象となる被写体を空間的に切り出す場合には、被写体の周囲に一定の余白領域を含めて切り出しておくこととしてもよい。
【００３３】
結合基準特定部５４は、切り出し処理部５３によって切り出された動画像を結合する際の結合基準を特定する。
本実施形態では、結合基準として、空間的結合基準と、時間的結合基準とが定義されており、結合基準特定部５４は、動画像の結合が行われる際に、前回使用された空間的結合基準または時間的結合基準のいずれかを特定する。なお、結合基準特定部５４が、ユーザによる任意の結合基準の特定を受け付けることとしてもよい。
具体的には、空間的結合基準及び時間的切り出し基準は、以下のように設定されている。
【００３４】
（空間的結合基準１）
切り出し画像数と、予め登録されている優先順位が最も高い切り出し対象とに対応するレイアウトを選択し、切り出された動画像の優先順位の順に、合成位置の領域に割り当てる。
（空間的結合基準２）
切り出し画像数と、切り出し部分が最も大きい切り出し対象とに対応するレイアウトを選択し、切り出された動画像の優先順位の順に、合成位置の領域に割り当てる。
（空間的結合基準３）
切り出し画像数と、切り出し時間（切り出し後に時間の長さを変更する場合には、元の切り出し時間）が最も長い切り出し対象とに対応するレイアウトを選択し、切り出された動画像の優先順位の順に、合成位置の領域に割り当てる。
【００３５】
（時間的結合基準１）
予め登録されている優先順位の順に結合する。ただし、認証された顔を検出された顔よりも優先し、複数の顔が検出または認証された場合は、認証対象として登録された顔に設定されている優先順位や、検出または認証された顔の大きさに応じて結合順序を決定する。
（時間的結合基準２）
切り出し部分の大きさの順に結合する。
（時間的結合基準３）
切り出し時間（切り出し後に時間の長さを変更する場合には、オリジナルの動画像を挿入していない、或いはフレームレートを低下させていない元の切り出し時間）の長さの順に結合する。
【００３６】
結合処理部５５は、結合基準特定部５４によって特定された結合基準に従って、切り出し処理部５３によって切り出された各動画像を結合する。具体的には、結合処理部５５は、切り出された各動画像を空間的結合基準に従って結合する空間的結合処理、または、切り出された各動画像を時間的結合基準に従って結合する時間的結合処理を実行する。
レイアウト選択部５６は、結合処理部５５によって動画像の空間的な結合が行われる場合に、切り出し画像数及び最優先の切り出し対象に基づいて、レイアウトテーブルを参照し、レイアウトデータを選択する。
【００３７】
［画像生成手順の概念］
図５は、空間的切り出し基準の概念を示す模式図であり、図５（Ａ）、（Ｂ）は空間的切り出し基準１、図５（Ｃ）、（Ｄ）は空間的切り出し基準２、図５（Ｅ）、（Ｆ）は空間的切り出し基準３、図５（Ｇ）、（Ｈ）、（Ｉ）は空間的切り出し基準４の概念を示す模式図である。なお、図５の各模式図における破線は、空間的な切り出し領域を示している。
空間的切り出し基準１では、図５（Ａ）に示すように、動画像内に特定の人物として認証された人物Ａ〜Ｃの顔が含まれる場合、人物Ａ〜Ｃの顔それぞれが切り出し対象となる。また、図５（Ｂ）に示すように、動画像内に特定の人物として認証された人物Ａ，Ｂの顔及びそれ以外の人物Ｘの顔が含まれる場合、人物Ａ，Ｂの顔それぞれが切り出し対象となり、人物Ｘの顔は切り出し対象とならない。
【００３８】
空間的切り出し基準２では、図５（Ｃ）に示すように、動画像内に特定の人物として認証された人物Ａ〜Ｃの顔が含まれる場合、図５（Ａ）と同様に、人物Ａ〜Ｃの顔それぞれが切り出し対象となる。一方、図５（Ｄ）に示すように、動画像内に特定の人物として認証された人物Ａ，Ｂの顔及びそれ以外の人物Ｘの顔が含まれる場合、人物Ａ，Ｂの顔及び人物Ｘの顔それぞれが切り出し対象となる。
【００３９】
空間的切り出し基準３では、図５（Ｅ）に示すように、動画像内に特定の人物として認証された人物Ａ〜Ｃの顔が含まれる場合、人物Ａ〜Ｃの顔は切り出し対象となない。また、図５（Ｆ）に示すように、動画像内に特定の人物として認証された人物Ａ，Ｂの顔及びそれ以外の人物（不特定の人物）Ｘの顔が含まれる場合、人物Ａ，Ｂの顔は切り出し対象とならず、人物Ｘの顔は切り出し対象となる。
空間的切り出し基準４では、図５（Ｇ）〜（Ｉ）に示すように、動画像内に特定の人物として認証された人物またはそれ以外の人物の顔が含まれる場合、優先順位の最も高い顔の向きが正面の状態、右向きの状態及び左向きの状態それぞれが別々に切り出し対象となる。
【００４０】
図６〜９は、画像生成手順全体の概念を示す模式図である。なお、図６〜９においては、時間的切り出し基準によって動画が切り出された場合を例として、時間的結合基準及び空間的結合基準によって動画像が生成される場合の概念を示している。
具体的には、図６は時間的切り出し基準１で動画像を切り出した場合、図７は時間的切り出し基準２で動画像を切り出した場合、図８は時間的切り出し基準３で動画像を切り出した場合であって、切り出した動画像間で切り出しフレームが重複する場合、図９は時間的切り出し基準３で動画像を切り出した場合であって、切り出した動画像間で切り出しフレームが重複しない場合の例を示す図である。
【００４１】
図６に示すように、時間的切り出し基準１では、図６（Ａ）に示すオリジナルの動画像内に特定の人物として認証された人物Ａ，Ｂ，Ｃの顔が含まれる場合、同じ時間の長さで人物Ａ，Ｂ，Ｃそれぞれの顔に対応する動画像が切り出される（図６（Ｂ）参照）。なお、図６（Ａ）に示すオリジナルの動画像では、人物Ａ，Ｂ，Ｃの顔が全フレームの期間において認証されているが、図７（Ａ）に示すオリジナルの動画像のように顔が検出または認証されなかったフレームの期間がある場合には、その期間にオリジナルの動画像が挿入される。そのため、切り出される各動画像の時間、フレーム数及びフレームレートは、オリジナルの動画像と同じとなる。
このとき、予め登録されている優先順位が人物Ａ、人物Ｂ、人物Ｃの順に高く、切り出された部分の大きさが人物Ｂ、人物Ａ、人物Ｃの順に大きいものとする。
【００４２】
すると、図６（Ｃ）に示すように、切り出された動画像を時間的結合基準１に従って結合する場合、予め登録されている優先順位に応じて、人物Ａ、人物Ｂ、人物Ｃの順に、切り出された動画像が結合される。
一方、切り出された動画像を時間的結合基準２に従って結合する場合、切り出し部分の大きさに応じて、人物Ｂ、人物Ａ、人物Ｃの順に、切り出された動画像が結合される。また、時間的結合基準３に従って結合する場合、切り出される動画像の時間は人物Ａ、人物Ｂ、人物Ｃで同じであるが、図７（Ａ）に示すオリジナルの動画像のようにオリジナルの動画像を挿入する前の元の切り出された動画像の長さが異なる場合は、長さの順に応じて、人物Ａ、人物Ｂ、人物Ｃの順に、結合する。
また、図６（Ｄ）に示すように、切り出された動画像を空間的結合基準１に従って結合する場合、予め登録されている優先順位に応じて、人物Ａが優先順位１の合成位置の領域、人物Ｂが優先順位２の合成位置の領域、人物Ｃが優先順位３の合成位置の領域に結合される。なお、このとき、切り出し画像数が３であり、人物Ａが最優先の切り出し対象であるため、レイアウトテーブルを参照して、レイアウト３Ａが選択される。
【００４３】
一方、切り出された動画像を空間的結合基準２に従って結合する場合、切り出された部分の大きさに応じて、人物Ｂが優先順位１の合成位置の領域、人物Ａが優先順位２の合成位置の領域、人物Ｃが優先順位３の合成位置の領域に結合される。また、空間的結合基準３に従って結合する場合、切り出される動画像の時間は人物Ａ、人物Ｂ、人物Ｃで同じであるが、図７（Ａ）に示すオリジナルの動画像のようにオリジナルの動画像を挿入する前の元の切り出された動画像の長さが異なる場合は、長さの順に応じて、人物Ａ、人物Ｂ、人物Ｃの順に優先順位の高い合成位置の領域に結合する。なお、このとき、切り出し画像数が３であり、人物Ｂが最優先の切り出し対象であるため、レイアウトテーブルを参照して、レイアウト３Ｂが選択される。
【００４４】
また、図７に示すように、時間的切り出し基準２では、図７（Ａ）に示すオリジナルの動画像内に特定の人物として認証された人物Ａ，Ｂ，Ｃの顔が含まれる場合、同じ時間の長さで人物Ａ，Ｂ，Ｃそれぞれの顔に対応する動画像が切り出される（図７（Ｂ）参照）。なお、図７（Ａ）に示すオリジナルの動画像では、人物Ｂ，Ｃの顔が一部のフレームの期間において認証されていないが、顔が検出または認証されなかったフレームの期間がある場合には、その期間が切り出されず圧縮される。そのため、時間の長さを合わせるためにフレームレートをオリジナルの動画像より低下させる。
このとき、予め登録されている優先順位が人物Ａ、人物Ｂ、人物Ｃの順に高く、切り出された部分の大きさが人物Ｂ、人物Ａ、人物Ｃの順に大きく、切り出された動画像のフレームレートが人物Ａ、人物Ｂ、人物Ｃの順に高い（即ち、時間の長さを合わせる前の長さが人物Ａ、人物Ｂ、人物Ｃの順に長い）ものとする。
【００４５】
すると、図７（Ｃ）に示すように、切り出された動画像を時間的結合基準１に従って結合する場合、予め登録されている優先順位に応じて、人物Ａ、人物Ｂ、人物Ｃの順に、切り出された動画像が結合される。
一方、切り出された動画像を時間的結合基準２に従って結合する場合、切り出し部分の大きさに応じて、人物Ｂ、人物Ａ、人物Ｃの順に、切り出された動画像が結合される。
さらに、切り出された動画像を時間的結合基準３に従って結合する場合、切り出し時間の長さが同じであるが、この場合は、フレームレートを低下させる前の元の切り出された動画像の長さに応じて、人物Ａ、人物Ｂ、人物Ｃの順に、切り出された動画像が結合される。
【００４６】
また、図７（Ｄ）に示すように、切り出された動画像を空間的結合基準１に従って結合する場合、予め登録されている優先順位に応じて、人物Ａが優先順位１の合成位置の領域、人物Ｂが優先順位２の合成位置の領域、人物Ｃが優先順位３の合成位置の領域に結合される。なお、このとき、切り出し画像数が３であり、人物Ａが最優先の切り出し対象であるため、レイアウトテーブルを参照して、レイアウト３Ａが選択される。
一方、切り出された動画像を空間的結合基準２に従って結合する場合、切り出された部分の大きさに応じて、人物Ｂが優先順位１の合成位置の領域、人物Ａが優先順位２の合成位置の領域、人物Ｃが優先順位３の合成位置の領域に結合される。なお、このとき、切り出し画像数が３であり、人物Ｂが最優先の切り出し対象であるため、レイアウトテーブルを参照して、レイアウト３Ｂが選択される。
【００４７】
さらに、切り出された動画像を空間的結合基準３に従って結合する場合、切り出し時間の長さが同じであるが、この場合は、フレームレートを低下させる前の元の切り出された動画像の長さに応じて、人物Ａが優先順位１の合成位置の領域、人物Ｂが優先順位２の合成位置の領域、人物Ｃが優先順位３の合成位置の領域に結合される。なお、このとき、切り出し画像数が３であり、人物Ａが最優先の切り出し対象であるため、レイアウトテーブルを参照して、レイアウト３Ａが選択される。
【００４８】
また、図８に示すように、時間的切り出し基準３では、図８（Ａ）に示すオリジナルの動画像内に特定の人物として認証された人物Ａ，Ｂ，Ｃの顔が含まれる場合、人物Ａ，Ｂ，Ｃの顔が含まれる部分のみが人物Ａ，Ｂ，Ｃそれぞれの顔に対応する動画像として切り出される（図８（Ｂ）参照）。図８に示す例では、オリジナルの動画像において、人物Ａ、人物Ｂ、人物Ｃの顔が含まれるフレームが時間的に重複している。なお、図８（Ａ）に示すオリジナルの動画像では、人物Ｂ，Ｃの顔が一部のフレームの期間において認証されていないが、顔が検出または認証されなかったフレームの期間がある場合には、オリジナルの動画像以下となる。
このとき、予め登録されている優先順位が人物Ａ、人物Ｂ、人物Ｃの順に高く、切り出された部分の大きさが人物Ｂ、人物Ａ、人物Ｃの順に大きく、切り出された動画像の長さが人物Ａ、人物Ｂ、人物Ｃの順に長いものとする。
【００４９】
すると、図８（Ｃ）に示すように、切り出された動画像を時間的結合基準１に従って結合する場合、予め登録されている優先順位に応じて、人物Ａ、人物Ｂ、人物Ｃの順に、切り出された動画像が結合される。
一方、切り出された動画像を時間的結合基準２に従って結合する場合、切り出し部分の大きさに応じて、人物Ｂ、人物Ａ、人物Ｃの順に、切り出された動画像が結合される。
さらに、切り出された動画像を時間的結合基準３に従って結合する場合、切り出し時間の長さに応じて、人物Ａ、人物Ｂ、人物Ｃの順に、切り出された動画像が結合される。
【００５０】
また、図８（Ｄ）に示すように、切り出された動画像を空間的結合基準１に従って結合する場合、予め登録されている優先順位に応じて、人物Ａが優先順位１の合成位置の領域、人物Ｂが優先順位２の合成位置の領域、人物Ｃが優先順位３の合成位置の領域に結合される。なお、このとき、切り出し画像数が３であり、人物Ａが最優先の切り出し対象であるため、レイアウトテーブルを参照して、レイアウト３Ａが選択される。
一方、切り出された動画像を空間的結合基準２に従って結合する場合、切り出された部分の大きさに応じて、人物Ｂが優先順位１の合成位置の領域、人物Ａが優先順位２の合成位置の領域、人物Ｃが優先順位３の合成位置の領域に結合される。なお、このとき、切り出し画像数が３であり、人物Ｂが最優先の切り出し対象であるため、レイアウトテーブルを参照して、レイアウト３Ｂが選択される。
【００５１】
さらに、切り出された動画像を空間的結合基準３に従って結合する場合、切り出し時間の長さに応じて、人物Ａが優先順位１の合成位置の領域、人物Ｂが優先順位２の合成位置の領域、人物Ｃが優先順位３の合成位置の領域に結合される。なお、このとき、切り出し画像数が３であり、人物Ａが最優先の切り出し対象であるため、レイアウトテーブルを参照して、レイアウト３Ａが選択される。
【００５２】
また、図９に示すように、時間的切り出し基準３では、図９（Ａ）に示すオリジナルの動画像内に特定の人物として認証された人物の正面、右向き及び左向きの顔が含まれる場合、正面、右向き及び左向きの顔が含まれる部分のみがそれぞれ動画像として切り出される（図９（Ｂ）参照）。図９（Ａ）に示すオリジナルの動画像では、人物の顔が全フレームの期間において認証されており、正面、右向き及び左向きの顔が含まれる各々のフレームは時間的に重複していない。そのため、切り出される動画像の長さの合計は、オリジナルの動画像の長さと同じとなる。
このとき、予め登録されている優先順位が正面、右向き、左向きの順に高く、切り出された部分の大きさが右向き、正面、左向きの順に大きく、切り出された動画像の長さが正面、右向き、左向きの順に長いものとする。
【００５３】
すると、図９（Ｃ）に示すように、切り出された動画像を時間的結合基準１に従って結合する場合、予め登録されている優先順位に応じて、正面、右向き、左向きの順に、切り出された動画像が結合される。
一方、切り出された動画像を時間的結合基準２に従って結合する場合、切り出し部分の大きさに応じて、右向き、正面、左向きの順に、切り出された動画像が結合される。
さらに、切り出された動画像を時間的結合基準３に従って結合する場合、切り出し時間の長さに応じて、正面、右向き、左向きの順に、切り出された動画像が結合される。
【００５４】
また、図９（Ｄ）に示すように、切り出された動画像を空間的結合基準１に従って結合する場合、予め登録されている優先順位に応じて、正面が優先順位１の合成位置の領域、右向きが優先順位２の合成位置の領域、左向きが優先順位３の合成位置の領域に結合される。なお、このとき、切り出し画像数が３であり、正面が最優先の切り出し対象であるため、レイアウトテーブルを参照して、レイアウト３Ｇが選択される。
一方、切り出された動画像を空間的結合基準２に従って結合する場合、切り出された部分の大きさに応じて、右向きが優先順位１の合成位置の領域、正面が優先順位２の合成位置の領域、左向きが優先順位３の合成位置の領域に結合される。なお、このとき、切り出し画像数が３であり、右向きが最優先の切り出し対象であるため、レイアウトテーブルを参照して、レイアウト３Ｈが選択される。
【００５５】
さらに、切り出された動画像を空間的結合基準３に従って結合する場合、切り出し時間の長さに応じて、正面が優先順位１の合成位置の領域、右向きが優先順位２の合成位置の領域、左向きが優先順位３の合成位置の領域に結合される。なお、このとき、切り出し画像数が３であり、正面が最優先の切り出し対象であるため、レイアウトテーブルを参照して、レイアウト３Ｇが選択される。
【００５６】
［動作］
次に、動作を説明する。
［画像生成処理］
図１０は、図２の機能的構成を有する図１の画像処理装置１が実行する画像生成処理の流れを説明するフローチャートである。
画像生成処理は、ユーザによる入力部１７への画像生成処理開始のための操作により開始される。
【００５７】
ステップＳ１において、画像選択部５１は、画像記憶部７１に記憶された画像のデータの中から、ユーザの指示入力に対応する動画像のデータを選択する。この選択された動画像のデータが、オリジナルの動画像となる。
ステップＳ２において、切り出し基準特定部５２は、動画像から人物の顔の部分を切り出す際の切り出し基準を特定する。ここでは、前回選択された切り出し基準を今回使用する切り出し基準として特定するが、ユーザによる入力部１７への切り出し基準の選択のための操作により特定してもよい。
【００５８】
ステップＳ３において、切り出し処理部５３は、切り出し基準特定部５２によって特定された切り出し基準に従って、動画像から人物の顔の部分を切り出す切り出し処理を実行する。なお、切り出し処理の詳細は後述する。
ステップＳ４において、結合基準特定部５４は、切り出し処理部５３によって切り出された動画像を結合する際の結合基準を特定する。ここでは、前回選択された結合基準を今回使用する結合基準として特定するが、ユーザによる入力部１７への結合基準の選択のための操作により特定してもよい。
【００５９】
ステップＳ５において、結合処理部５５は、ステップＳ４において特定された結合基準に基づき、切り出された動画像を空間的に結合するか否かの判定を行う。
切り出された動画像を空間的に結合しない場合、ステップＳ５においてＮＯと判定されて、処理はステップＳ８に移行する。
一方、切り出された動画像を空間的に結合する場合、ステップＳ５においてＹＥＳと判定されて、処理はステップＳ６に移行する。
【００６０】
ステップＳ６において、レイアウト選択部５６は、ステップＳ４において特定された結合基準に基づき、ステップ３において切り出し処理により切り出された切り出し画像数及び最優先の切り出し対象に基づいて、レイアウトテーブルを参照し、レイアウトデータを選択する。
ステップＳ７において、結合処理部５５は、切り出された動画像を空間的結合基準に従って結合する空間的結合処理を実行する。なお、空間的結合処理の詳細は後述する。
【００６１】
ステップＳ８において、結合処理部５５は、切り出された動画像を時間的結合基準に従って結合する時間的結合処理を実行する。なお、時間的結合処理の詳細は後述する。
ステップＳ７及びステップＳ８の後、画像生成処理は終了となる。
【００６２】
［切り出し処理］
図１１は、図１０におけるステップＳ３の切り出し処理の流れを説明するフローチャートである。
ステップＳ３１において、切り出し処理部５３は、オリジナルの動画像をサーチし、切り出し対象となる被写体を特定する。
【００６３】
ステップＳ３２において、切り出し処理部５３は、特定されている空間的切り出し基準または時間的切り出し基準に基づいて、最優先の被写体を処理対象として選択する。
ステップＳ３３において、切り出し処理部５３は、選択された被写体を空間的または時間的に切り出し、中間動画像を生成する。中間動画像とは、特定のファイル形式とされていない一時的に記憶されるフレームデータの集合である。
【００６４】
ステップＳ３４において、切り出し処理部５３は、全ての切り出し対象となる被写体の切り出し処理が終了したか否かの判定を行う。
全ての切り出し対象となる被写体の切り出し処理が終了していない場合、ステップＳ３４においてＮＯと判定されて、処理はステップＳ３５に移行する。
【００６５】
ステップＳ３５において、切り出し処理部５３は、次の優先順位の被写体を処理対象として選択する。
ステップＳ３５の後、処理はステップＳ３３に移行する。
一方、全ての切り出し対象となる被写体の切り出し処理が終了した場合、ステップＳ３４においてＹＥＳと判定されて、処理は図１０の画像生成処理に戻る。
【００６６】
［空間的結合処理］
図１２は、図１０におけるステップＳ７の空間的結合処理の流れを説明するフローチャートである。
ステップＳ５１において、結合処理部５５は、選択されたレイアウトの各合成位置の優先順位に対応する中間動画像（サイズやアスペクト比を調整した中間動画像）をレイアウトに従って合成することにより結合する。
【００６７】
ステップＳ５２において、結合処理部５５は、中間動画像を結合した動画像をファイル化する。なお、本実施形態において、動画像をファイル化する際のファイル形式としては、例えば、ＭＰＥＧ（Ｍｏｖｉｎｇ  Ｐｉｃｔｕｒｅ  Ｅｘｐｅｒｔｓ  Ｇｒｏｕｐ）４、Ｈ．２６４或いはＨ．２６５等に準拠したものとすることができる。
ステップＳ５２の後、処理は画像生成処理に戻る。
【００６８】
［時間的結合処理］
図１３は、図１０におけるステップＳ８の時間的結合処理の流れを説明するフローチャートである。
ステップＳ７１において、結合処理部５５は、特定された時間的結合基準の優先順位の順に中間動画像を繋いで結合する。
【００６９】
ステップＳ７２において、結合処理部５５は、中間動画像を結合した動画像をファイル化する。
ステップＳ７２の後、処理は画像生成処理に戻る。
【００７０】
このような処理の結果、ユーザによって選択された動画像（オリジナルの動画像）において、複数の人物が被写体として含まれる場合であっても、空間的切り出し基準または時間的切り出し基準に従って、複数の切り出し対象が切り出される。そして、切り出された動画像が、空間的結合基準または時間的結合基準に従って、優先順位に応じて結合され、新たな動画像が生成される。
そのため、複数の人物が画面内で離れている場合であっても、それぞれの人物を適切に動画像から切り出して、新たな動画像を生成することができる。
したがって、画面内に存在する複数の被写体の位置関係によらず、効果的な画像を生成することが可能となる。
【００７１】
また、空間的切り出し基準に従って切り出された切り出し対象を、時間的結合基準に従って結合し、新たな動画像を生成することができる。
そのため、動画像において離れた位置に写っている被写体を、予め設定された基準に適合させて、時間的に連続して表示することが可能となる。
また、時間的切り出し基準に従って切り出された切り出し対象を、空間的結合基準に従って結合し、新たな動画像を生成することができる。
そのため、動画像において同時に写っている被写体であるか否かに関わらず、予め設定された基準に適合させて、複数の被写体の動画像を空間的に配置された状態で表示することが可能となる。
【００７２】
なお、本実施形態においては、画像を切り出す対象として、動画像を例に挙げて説明したが、動画像の他、連写された複数の静止画像等、連続する静止画像を対象に画像を切り出すこととしてもよい。
【００７３】
［第２実施形態］
次に、本発明の第２実施形態について説明する。
第２実施形態に係る画像処理装置１は、静止画像を対象として被写体の空間的な切り出しを行い、切り出された静止画像を空間的に結合して新たな静止画像を生成する。
即ち、第２実施形態に係る画像処理装置１は、ハードウェアの構成及び、画像生成処理を実行するための機能的構成は第１実施形態と共通で、主として画像生成処理の内容が第１実施形態と異なっている。
【００７４】
図１４は、第２実施形態における画像処理装置１が実行する画像生成処理の流れを説明するフローチャートである。
画像生成処理は、ユーザによる入力部１７への画像生成処理開始のための操作により開始される。
【００７５】
ステップＳ１０１において、画像選択部５１は、画像記憶部７１に記憶された画像のデータの中から、ユーザの指示入力に対応する静止画像のデータを選択する。以下、選択された静止画像のデータを「オリジナルの静止画像」と呼ぶ。
ステップＳ１０２において、切り出し基準特定部５２は、静止画像から人物の顔の部分を切り出す際の切り出し基準（空間的切り出し基準）を特定する。なお、本実施形態においては、第１実施形態における空間的切り出し基準１〜４のうち、空間的切り出し基準１〜３のいずれかが特定される。ここでも、第１実施形態同様、前回選択された切り出し基準を今回使用する切り出し基準として特定するが、ユーザによる入力部１７への切り出し基準の選択のための操作により特定してもよい。
【００７６】
ステップＳ１０３において、切り出し処理部５３は、切り出し基準特定部５２によって特定された切り出し基準に従って、静止画像から人物の顔の部分を切り出す切り出し処理を実行する。なお、切り出し処理の詳細は後述する。
ステップＳ１０４において、結合基準特定部５４は、切り出し処理部５３によって切り出された静止画像を結合する際の結合基準（空間的結合基準）を特定する。なお、本実施形態においては、第１実施形態における空間的結合基準１〜３のうち、空間的結合基準１，２のいずれかが特定される。ここでも、第１実施形態同様、前回選択された結合基準を今回使用する結合基準として特定するが、ユーザによる入力部１７への切り出し基準の選択のための操作により特定してもよい。
【００７７】
ステップＳ１０５において、レイアウト選択部５６は、ステップＳ１０４において特定された結合基準に基づき、ステップＳ１０３において切り出し処理により切り出された切り出し画像数及び最優先の切り出し対象に基づいて、レイアウトテーブルを参照し、レイアウトデータを選択する。
ステップＳ１０６において、結合処理部５５は、切り出された静止画像を空間的結合基準に従って結合する結合処理を実行する。なお、結合処理の詳細は後述する。
ステップＳ１０６の後、画像生成処理は終了となる。
【００７８】
［切り出し処理］
図１５は、図１４におけるステップＳ１０３の切り出し処理の流れを説明するフローチャートである。
ステップＳ１２１において、切り出し処理部５３は、オリジナルの静止画像をサーチし、切り出し対象となる被写体を特定する。
【００７９】
ステップＳ１２２において、切り出し処理部５３は、特定されている空間的切り出し基準に基づいて、最優先の被写体を処理対象として選択する。
ステップＳ１２３において、切り出し処理部５３は、選択された被写体を空間的に切り出し、中間静止画像を生成する。中間静止画像とは、特定のファイル形式とされていない一時的に記憶される画素データの集合である。
【００８０】
ステップＳ１２４において、切り出し処理部５３は、全ての切り出し対象となる被写体の切り出し処理が終了したか否かの判定を行う。
全ての切り出し対象となる被写体の切り出し処理が終了していない場合、ステップＳ１２４においてＮＯと判定されて、処理はステップＳ１２５に移行する。
【００８１】
ステップＳ１２５において、切り出し処理部５３は、次の優先順位の被写体を処理対象として選択する。
ステップＳ１２５の後、処理はステップＳ１２３に移行する。
一方、全ての切り出し対象となる被写体の切り出し処理が終了した場合、ステップＳ１２４においてＹＥＳと判定されて、処理は図１４の画像生成処理に戻る。
【００８２】
［結合処理］
図１６は、図１４におけるステップＳ１０６の結合処理の流れを説明するフローチャートである。
ステップＳ１４１において、結合処理部５５は、選択されたレイアウトの各合成位置の優先順位に対応する中間静止画像（サイズやアスペクト比を調整した中間静止画像）をレイアウトに従って合成することにより結合する。
【００８３】
ステップＳ１４２において、結合処理部５５は、中間静止画像を結合した静止画像をファイル化する。なお、本実施形態において、静止画像をファイル化する際のファイル形式としては、例えば、ＪＰＥＧ（Ｊｏｉｎｔ  Ｐｈｏｔｏｇｒａｐｈｉｃ  Ｅｘｐｅｒｔｓ  Ｇｒｏｕｐ）或いはＧＩＦ（Ｇｒａｐｈｉｃ  Ｉｎｔｅｒｃｈａｎｇｅ  Ｆｏｒｍａｔ）等に準拠したものとすることができる。
ステップＳ１４２の後、処理は図１４の画像生成処理に戻る。
【００８４】
このような処理の結果、ユーザによって選択された静止画像において、複数の人物が被写体として含まれる場合であっても、空間的切り出し基準に従って、複数の切り出し対象が切り出される。そして、切り出された静止画像が、空間的結合基準に従って、優先順位に応じて結合され、新たな静止画像が生成される。
そのため、複数の人物が画面内で離れている場合であっても、それぞれの人物を適切に静止画像から切り出して、新たな静止画像を生成することができる。
したがって、画面内に存在する複数の被写体の位置関係によらず、効果的な画像を生成することが可能となる。
【００８５】
［変形例１］
上述の実施形態においては、人物の顔等の被写体を空間的に切り出す際に、各被写体を個別に切り出す場合を例に挙げて説明した。これに対し、人物の顔等の被写体を空間的に切り出す際に、画面内で近接している複数の被写体を、１つの領域でまとめて切り出すこととしてもよい。
図１７は、複数の被写体をまとめて空間的に切り出す概念を示す模式図である。
図１７においては、動画像のフレームまたは静止画像内に、特定の人物として認証された人物Ａ〜Ｃの顔が含まれており、人物Ａ及び人物Ｂの顔が設定された閾値以内の距離に位置している。
このとき、人物Ａ及び人物Ｂの顔をまとめて１つの領域で空間的に切り出すことができる。
これにより、空間的に関連性が高い被写体が分離されることなく切り出されるため、新たな画像を生成する際に、被写体の状況に応じて、被写体間の関係をより適切なものとすることができる。
【００８６】
以上のように構成される画像処理装置１は、切り出し処理部５３と、結合処理部５５と、を備える。
切り出し処理部５３は、１つの動画像から、空間的及び／又は時間的な切り出し基準に基づき、複数の動画像を切り出す。
結合処理部５５は、切り出された前記複数の動画像を、空間的及び／又は時間的な結合基準に基づき、時間的又は空間的に結合して、新たな１つの動画像を生成する。
これにより、空間的及び／又は時間的な切り出し基準に従って切り出された複数の動画像から、空間的及び／又は時間的な結合基準に従って１つの動画像を生成することができる。
そのため、複数の被写体が画面内で離れている場合であっても、それぞれの被写体を適切に動画像から切り出して、新たな動画像を生成することができる。
したがって、画面内に存在する複数の被写体の位置関係によらず、効果的な画像を生成することが可能となる。
【００８７】
また、結合処理部５５は、空間的な切り出し基準で切り出された複数の動画像を、時間的な結合基準で結合する。
これにより、動画像において離れた位置に写っている被写体を、予め設定された時間的な結合基準に適合させて、時間的に連続して表示することが可能となる。
【００８８】
また、結合処理部５５は、時間的な切り出し基準で切り出された複数の動画像を、空間的な結合基準で結合する。
これにより、動画像において同時に写っている被写体であるか否かに関わらず、予め設定された空間的な結合基準に適合させて、複数の被写体の動画像を空間的に配置された状態で表示することが可能となる。
【００８９】
また、切り出し処理部５３は、空間的な切り出し基準として、動画像を構成する個々の画面内に含まれる所定の被写体部分を空間的に切り出す。
これにより、動画像の各画面において、所定の被写体の領域を適切に切り出すことができる。
【００９０】
また、切り出し処理部５３は、時間的な切り出し基準として、動画像を構成するフレームのうち所定の被写体が含まれるフレームを時間的に切り出す。
これにより、動画像において、所定の被写体が含まれるフレームの期間を適切に切り出すことができる。
【００９１】
また、所定の被写体は、予め登録されている人物の顔である。
これにより、予め登録された複数の人物が画面内で離れて写っている場合であっても、それぞれの被写体を適切に動画像から切り出すことができる。
【００９２】
また、所定の被写体は、更に、不特定の人物の顔を含む。
これにより、不特定の人物の顔が写っている動画において、複数の人物を適切に動画像から切り出すことができる。
【００９３】
また、切り出し処理部５３による切り出しの対象としない人物の顔が予め登録される。
これにより、動画像に写っている複数の人物の中から、特定の人物を除外して、効果的な動画像を生成することができる。
【００９４】
また、結合処理部５５は、空間的な結合基準として、切り出された動画像の個々を優先順位に基づいて、画面を空間的に分割し優先順位が付けられた各領域に割り当てる。
これにより、切り出された被写体の動画像の優先順位と空間的な優先順位と対応させて、効果的な動画像を生成することができる。
【００９５】
また、画像処理装置１は、レイアウト選択部５６を備える。
レイアウト選択部５６は、切り出された動画像の数、或いは画像に含まれる被写体に対応する、複数の画像を結合する数、大きさ或いは位置関係が定義されたレイアウトを選択する。
結合処理部５５は、切り出された複数の画像を、選択されたレイアウトに結合して新たな１つの画像を生成する。
これにより、切り出された動画像を自動的に適切なレイアウトに結合して、新たな動画像を生成することができる。
【００９６】
また、結合処理部５５は、時間的な結合基準として、切り出された動画像の個々を優先順位に基づいて、時間的に繋げる。
これにより、切り出された動画像の優先順位に対応する順序で、複数の被写体の動画像を繋げて新たな動画像を生成することができる。
【００９７】
また、優先順位は、画像に含まれる被写体に対応する予め登録されている優先順位、切り出された被写体部分の空間的な大きさ、或いは切り出された動画像の時間的な長さである。
これにより、切り出された動画像の属性に応じて、適切な優先順位を設定することができる。
【００９８】
また、画像処理装置１は、切り出し処理部５３と、レイアウト選択部５６と、結合処理部５５と、を備える。
切り出し処理部５３は、１つの画像から、空間的な切り出し基準に基づき、複数の画像を切り出す。
レイアウト選択部５６は、切り出された画像の特徴に基づき、複数の画像を結合する数、大きさ或いは位置関係が定義されたレイアウトを選択する。
結合処理部５５は、切り出された複数の画像を、選択されたレイアウトに結合して新たな１つの画像を生成する。
これにより、空間的な切り出し基準に従って切り出された複数の画像から、空間的な結合基準に従って１つの静止画像または動画像を生成することができる。
そのため、複数の被写体が画面内で離れている場合であっても、それぞれの被写体を適切に静止画像から切り出して、新たな静止画像または動画像を生成することができる。
したがって、画面内に存在する複数の被写体の位置関係によらず、効果的な画像を生成することが可能となる。
【００９９】
なお、本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。
【０１００】
上述の実施形態において、人物の顔を切り出しの対象として説明したが、これに限られない。即ち、人物の他の部位であってもよく、更に他の生物でも、物でも、それらの部分でも、画像から認証或いは検出が可能であればよい。
【０１０１】
上述の実施形態において、オリジナルの静止画像または動画像から切り出された画像を結合して生成される新たな静止画像または動画像のサイズ及びアスペクト比は、オリジナルの静止画像または動画像と同一または異なるものとすることができる。
【０１０２】
また、上述の実施形態において、レイアウトには、背景と、背景に合成する画像の数と、大きさ及び位置関係とが定義されているものとして説明したが、これに限られない。即ち、レイアウトには、背景、合成する画像の数、大きさ、位置関係のうちの一部を定義したり、これら以外の要素を定義したりすることができる。
【０１０３】
また、上述の実施形態において、画像記憶部７１に記憶されている画像のデータを対象として画像生成処理を行うこととして説明したが、これに限られない。例えば、撮像部１６によって撮像される静止画像または動画像を対象として画像生成処理を行うこととしてもよい。
【０１０４】
また、上述の実施形態において、空間的切り出し基準４では、動画像において検出された一人の顔または特定の人物として認証された一人の顔の正面／右向き／左向きを別々に切り出し対象としたが、これに限られない。例えば、動画像において検出された一人の顔または特定の人物として認証された一人の顔の笑顔、怒った顔、泣き顔等を別々に切り出し対象としてもよい。
【０１０５】
また、上述の実施形態において、レイアウトの種類は、切り出された画像を結合できるものであれば種々のものを採用することができる。例えば、レイアウトの種類は、画面内により小さい画面を重ねて画像を表示するＰｉｎＰ（Ｐｉｃｔｕｒｅ  Ｉｎ  Ｐｉｃｔｕｒｅ）の形態等とすることができる。
【０１０６】
また、上述の実施形態では、本発明が適用される画像処理装置１は、デジタルカメラを例として説明したが、特にこれに限定されない。
例えば、本発明は、画像生成処理機能を有する電子機器一般に適用することができる。具体的には、本発明は、ノート型のパーソナルコンピュータ、プリンタ、テレビジョン受像機、ビデオカメラ、携帯型ナビゲーション装置、携帯電話機、スマートフォン、ポータブルゲーム機等に適用可能である。
【０１０７】
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。
換言すると、図２の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が画像処理装置１に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図２の例に限定されない。
また、１つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
【０１０８】
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
【０１０９】
このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布される図１のリムーバブルメディア３１により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等で構成される。リムーバブルメディア３１は、例えば、磁気ディスク（フロッピディスクを含む）、光ディスク、または光磁気ディスク等により構成される。光ディスクは、例えば、ＣＤ−ＲＯＭ（Ｃｏｍｐａｃｔ  Ｄｉｓｋ−Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ），ＤＶＤ（Ｄｉｇｉｔａｌ  Ｖｅｒｓａｔｉｌｅ  Ｄｉｓｋ），Ｂｌｕ−ｒａｙ（登録商標）  Ｄｉｓｃ（ブルーレイディスク）等により構成される。光磁気ディスクは、ＭＤ（Ｍｉｎｉ−Ｄｉｓｋ）等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されている図１のＲＯＭ１２や、図１の記憶部１９に含まれるハードディスク等で構成される。
【０１１０】
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的或いは個別に実行される処理をも含むものである。
【０１１１】
以上、本発明のいくつかの実施形態について説明したが、これらの実施形態は、例示に過ぎず、本発明の技術的範囲を限定するものではない。本発明はその他の様々な実施形態を取ることが可能であり、さらに、本発明の要旨を逸脱しない範囲で、省略や置換等種々の変更を行うことができる。これら実施形態やその変形は、本明細書等に記載された発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【０１１２】
以下に、本願の出願当初の特許請求の範囲に記載された発明を付記する。
［付記１］
１つの動画像から、空間的及び／又は時間的な切り出し基準に基づき、複数の動画像を切り出す切出手段と、
切り出された前記複数の動画像を、空間的及び／又は時間的な結合基準に基づき、時間的又は空間的に結合して、新たな１つの動画像を生成する生成手段と、
を備えることを特徴とする画像処理装置。
［付記２］
前記生成手段は、前記空間的な切り出し基準で切り出された複数の動画像を、時間的な結合基準で結合する、
ことを特徴とする付記１に記載の画像処理装置。
［付記３］
前記生成手段は、前記時間的な切り出し基準で切り出された複数の動画像を、空間的な結合基準で結合する、
ことを特徴とする付記１に記載の画像処理装置。
［付記４］
前記切出手段は、前記空間的な切り出し基準として、動画像を構成する個々の画面内に含まれる所定の被写体部分を空間的に切り出す、
ことを特徴とする付記１から３のいずれか１つに記載の画像処理装置。
［付記５］
前記切出手段は、前記時間的な切り出し基準として、動画像を構成するフレームのうち所定の被写体が含まれるフレームを時間的に切り出す、
ことを特徴とする付記１から４のいずれか１つに記載の画像処理装置。
［付記６］
前記所定の被写体は、予め登録されている人物の顔である、
ことを特徴とする付記４または５に記載の画像処理装置。
［付記７］
前記所定の被写体は、更に、不特定の人物の顔を含む、
ことを特徴とする付記６に記載の画像処理装置。
［付記８］
前記切出手段による切り出しの対象としない人物の顔が予め登録される、
ことを特徴とする付記６に記載の画像処理装置。
［付記９］
前記生成手段は、前記空間的な結合基準として、切り出された動画像の個々を優先順位に基づいて、画面を空間的に分割し優先順位が付けられた各領域に割り当てる、
ことを特徴とする付記１から８のいずれか１つに記載の画像処理装置。
［付記１０］
切り出された動画像の数、或いは画像に含まれる被写体に対応する、複数の画像を結合する数、大きさ或いは位置関係が定義されたレイアウトを選択する選択手段を更に備え、
前記生成手段は、切り出された複数の画像を、選択された前記レイアウトに結合して新たな１つの画像を生成する、
ことを特徴とする付記９に記載の画像処理装置。
［付記１１］
前記生成手段は、前記時間的な結合基準として、切り出された動画像の個々を優先順位に基づいて、時間的に繋げる、
ことを特徴とする付記４に記載の画像処理装置。
［付記１２］
前記優先順位は、画像に含まれる被写体に対応する予め登録されている優先順位、切り出された被写体部分の空間的な大きさ、或いは切り出された動画像の時間的な長さである、
ことを特徴とする付記９から１１のいずれか１つに記載の画像処理装置。
［付記１３］
１つの画像から、所定の切り出し基準に基づき、複数の画像を切り出す切出手段と、
切り出された前記画像の特徴に基づき、複数の画像を結合する数、大きさ或いは位置関係が定義されたレイアウトを選択する選択手段と、
切り出された前記複数の画像を、選択された前記レイアウトに結合して新たな１つの画像を生成する生成手段と、
を備えることを特徴とする画像処理装置。
［付記１４］
前記選択手段は、切り出された画像の特徴として、画像の数、或いは画像に含まれる被写体に対応する前記レイアウトを選択する、
ことを特徴とする付記１３に記載の画像処理装置。
［付記１５］
前記切出手段は、所定の被写体が含まれる画像から、所定の被写体部分を切り出す、
ことを特徴とする付記１３または１４に記載の画像処理装置。
［付記１６］
１つの動画像から、空間的及び／又は時間的な切り出し基準に基づき、複数の動画像を切り出す切出処理と、
切り出された前記複数の動画像を、空間的及び／又は時間的な結合基準に基づき、時間的又は空間的に結合して、新たな１つの動画像を生成する生成処理と、
を含むことを特徴とする画像処理方法。
［付記１７］
コンピュータに、
１つの動画像から、空間的及び／又は時間的な切り出し基準に基づき、複数の動画像を切り出す切出機能と、
切り出された前記複数の動画像を、空間的及び／又は時間的な結合基準に基づき、時間的又は空間的に結合して、新たな１つの動画像を生成する生成機能と、
を実現させることを特徴とするプログラム。
［付記１８］
１つの画像から、所定の切り出し基準に基づき、複数の画像を切り出す切出処理と、
切り出された前記画像の特徴に基づき、複数の画像を結合する数、大きさ或いは位置関係が定義されたレイアウトを選択する選択処理と、
切り出された前記複数の画像を、選択された前記レイアウトに結合して新たな１つの画像を生成する生成処理と、
を含むことを特徴とする画像処理方法。
［付記１９］
コンピュータに、
１つの画像から、所定の切り出し基準に基づき、複数の画像を切り出す切出機能と、
切り出された前記画像の特徴に基づき、複数の画像を結合する数、大きさ或いは位置関係が定義されたレイアウトを選択する選択機能と、
切り出された前記複数の画像を、選択された前記レイアウトに結合して新たな１つの画像を生成する生成機能と、
を実現させることを特徴とするプログラム。
【符号の説明】
【０１１３】
１・・・画像処理装置，１１・・・ＣＰＵ，１２・・・ＲＯＭ，１３・・・ＲＡＭ，１４・・・バス，１５・・・入出力インターフェース，１６・・・撮像部，１７・・・入力部，１８・・・出力部，１９・・・記憶部，２０・・・通信部，２１・・・ドライブ，３１・・・リムーバブルメディア，５１・・・画像選択部，５２・・・切り出し基準特定部，５３・・・切り出し処理部，５４・・・結合基準特定部，５５・・・結合処理部，５６・・・レイアウト選択部，７１・・・画像記憶部，７２・・・レイアウト記憶部，７３・・・生成画像記憶部，７４・・・顔情報記憶部
【図１】
0006332864.tif 000002
【図２】
0006332864.tif 000003
【図３】
0006332864.tif 000004
【図４】
0006332864.tif 000005
【図５】
0006332864.tif 000006
【図６】
0006332864.tif 000007
【図７】
0006332864.tif 000008
【図８】
0006332864.tif 000009
【図９】
0006332864.tif 000010
【図１０】
0006332864.tif 000011
【図１１】
0006332864.tif 000012
【図１２】
0006332864.tif 000013
【図１３】
0006332864.tif 000014
【図１４】
0006332864.tif 000015
【図１５】
0006332864.tif 000016
【図１６】
0006332864.tif 000017
【図１７】
0006332864.tif 000018