(57)【特許請求の範囲】
【請求項１】
画像をページにレイアウトしてアルバムを作成する画像処理装置であって、
所定数である複数のページへのレイアウト候補である複数の画像を、少なくとも１つの画像を含む複数の画像群に分割する分割手段と、
前記複数の画像群の数が前記所定数より多い場合、前記複数の画像群の一部を、前記複数のページへのレイアウト対象から除外する除外手段と、
前記除外手段により一部の画像群が除外された前記複数の画像群に含まれる画像を、当該複数の画像群に対応する前記複数のページにレイアウトするレイアウト手段と
を備え、
前記除外手段は、所定の画像群と他の画像群との間の第１の条件と、前記所定の画像群内の第２の条件とに基づいて、前記所定の画像群を除外することを特徴とする画像処理装置。
【請求項２】
前記分割手段は、前記複数の画像を複数の画像群に分割し、当該複数の画像群が前記所定数よりも少ない場合、前記複数の画像を再分割し、
前記除外手段は、前記再分割により得られた複数の画像群の一部を除外することを特徴とする請求項１に記載の画像処理装置。
【請求項３】
前記レイアウト手段は、複数の画像群の数と前記所定数とが一致する場合に、当該複数の画像群に含まれている画像を、前記複数のページにレイアウトすることを特徴とする請求項１または２に記載の画像処理装置。
【請求項４】
前記第１の条件は、前記所定の画像群の撮影日時と、前記所定の画像群と撮影日時において隣接する他の画像群の撮影日時との時間差が所定時間以内であることであり、前記第２の条件は、シーン内の画像の数が所定数以下であることを特徴とする請求項１乃至３のいずれか１項に記載の画像処理装置。
【請求項５】
前記第１の条件は、前記所定の画像群の撮影日時と、前記所定の画像群と撮影日時において隣接する他の画像群の撮影日時との時間差が所定時間以内であることであり、前記第２の条件は、前記所定の画像群内の人物の数または人物の割合が所定数以下であることを特徴とする請求項１乃至３のいずれか１項に記載の画像処理装置。
【請求項６】
前記第１の条件は、前記所定の画像群の撮影日時と、前記所定の画像群と撮影日時において隣接する他の画像群の撮影日時との時間差が所定時間以内であることであり、前記第２の条件は、前記所定の画像群内の重要人物の数または重要人物の割合が所定数以下であることを特徴とする請求項１乃至３のいずれか１項に記載の画像処理装置。
【請求項７】
前記第１の条件は、前記所定の画像群の撮影日時と、前記所定の画像群と撮影日時において隣接する他の画像群の撮影日時との時間差が所定時間以内であることであり、前記第２の条件は、前記所定の画像群内のコンテンツが所定のものであることを特徴とする請求項１乃至３のいずれか１項に記載の画像処理装置。
【請求項８】
前記分割手段により前記複数の画像が分割された複数の画像群の数と、前記所定数とが一致しない場合、前記複数の画像群の一部を統合する統合手段を更に含むことを特徴とする請求項１乃至７のいずれか一項に記載の画像処理装置。
【請求項９】
ユーザーの指示に応じてアルバムのページ数を入力する入力手段を備え、
前記分割手段は、前記入力手段により入力されたページ数に対応する数を前記所定数として、前記分割を行うことを特徴とする請求項１乃至８のいずれか１項に記載の画像処理装置。
【請求項１０】
前記ページは、互いに隣接する一対のページである見開きページであることを特徴とする請求項１乃至９のいずれか１項に記載の画像処理装置。
【請求項１１】
請求項１乃至１０のいずれか一項に記載の画像処理装置の各手段してコンピュータを機能させるためのプログラム。
【請求項１２】
情報処理装置により画像をページにレイアウトしてアルバムを作成するアルバム作成方法であって、
所定数である複数のページへのレイアウト候補である複数の画像を、少なくとも１つの画像を含む複数の画像群に分割する分割工程と、
前記複数の画像群の数が、前記所定数より多い場合、前記複数の画像群の一部を、前記複数のページへのレイアウト対象から除外する除外工程と、
前記除外工程において一部の画像群が除外された前記複数の画像群に含まれる画像を、当該複数の画像群に対応する前記複数のページにレイアウトするレイアウト工程と
を有し、
前記除外工程では、所定の画像群と他の画像群との間の第１の条件と、前記所定の画像群内の第２の条件とに基づいて、前記所定の画像群を除外することを特徴とするアルバム作成方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は画像処理装置およびアルバム作成方法およびプログラムに関し、より具体的にはアルバム作成アプリケーション（アプリ）における自動レイアウト生成に関する。
【背景技術】
【０００２】
近年、デジタルスチルカメラやカメラ機能が搭載された可搬型多機能携帯電話（以下、モバイルコンピュータ）が普及し、写真を撮る機会が増加している。そして、膨大な写真を手動で整理することを困難であると感じるユーザーも少なくない。それに伴い、自動で複数の画像を複数ページに割り当てることでアルバムを作成する方法として様々な方法が提案されている。画像を複数の見開きページにわたって割り当てるアルバムでは、単に各見開きページに撮影順に画像を並べただけでは、各見開きページごとの画像のまとまりがなくなってしまうおそれがある。そこで、例えば、画像を日や月などの期間単位に区切って見開きページに割り当てる方法が提案されている（例えば、特許文献１参照）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特許第４４９３６２７号
【発明の概要】
【発明が解決しようとする課題】
【０００４】
全画像を期間等の所定の単位に複数の画像群に区切って各画像群を見開きに割り当て、割り当てられた画像群から好ましい画像を選択し見開きにレイアウトする場合、区切られた期間の数と、見開きの数が一致しない場合がある。
【０００５】
本発明は、上記の課題に鑑みてなされたものでありレイアウト対象の複数の画像を複数のテンプレートに適切にレイアウトすることのできる画像処理装置および方法およびプログラムを提供することを目的とするものである。
【課題を解決するための手段】
【０００６】
上記課題を解決する為に、本発明は以下の手段を有する。
【０００７】
画像をページにレイアウトしてアルバムを作成する画像処理装置であって、
所定数である複数のページへのレイアウト候補である複数の画像を、少なくとも１つ以上の画像を含む複数の画像群に分割する分割手段と、
前記複数の画像群の数が前記所定数より多い場合、前記複数の画像群の一部を、前記複数のページへのレイアウト対象から除外する除外手段と、
前記除外手段により一部の画像群が除外された前記複数の画像群に含まれる画像を、当該複数の画像群に対応する前記複数のページにレイアウトするレイアウト手段と
を備え、
前記除外手段は、所定の画像群と他の画像群との間の第１の条件と、前記所定の画像群内の第２の条件とに基づいて、前記所定の画像群を除外することを特徴とする。
【発明の効果】
【０００８】
本発明によれば、レイアウト対象の複数の画像を複数のテンプレートに適切にレイアウトすることができる。
【図面の簡単な説明】
【０００９】
【図１】本発明に係るアプリケーションを実行可能なハードウェアブロック図
【図２】本発明に係るアプリケーションのソフトウェアブロック図
【図３】本発明に係るアプリケーションのUI（ユーザーインターフェイス）構成図
【図４】本発明に係る自動レイアウトの処理フロー図
【図５】本発明に係る画像解析情報を説明する図
【図６】本発明に係る画像群分割を説明する図
【図７】本発明に係るシーン分類を説明する図
【図８】本発明に係る画像得点を説明する図
【図９】本発明に係る画像選択を説明する図
【図１０】本発明に係る画像レイアウトを説明する図
【図１１】本発明に係わるシーン削除処理フロー図
【図１２】本発明に係わるシーン分割結果の一例を説明する図
【図１３】本発明に係わるサブシーン分割処理フロー図
【図１４】本発明に係わるサブシーン削除処理フロー図
【図１５】本発明に係わるサブシーン分割処理フロー図
【発明を実施するための形態】
【００１０】
［第１実施形態］
本実施形態では、画像処理装置上で、アルバム作成アプリケーション（アプリ）を動作させ、自動レイアウトを生成するまでの手順について説明する。図１は、本発明に係る画像処理装置のハードウェアの構成を説明するブロック図である。なお、画像処理装置としては、情報処理装置、例えば、ＰＣ、スマートフォン等が挙げられ、本実施形態ではＰＣとする。
【００１１】
図１において、CPU（中央演算装置／プロセッサー）１０１は、本実施形態で説明する画像処理方法をプログラムに従って実行する処理部である。図中のCPUは１つであるが、複数ある場合も本実施形態では該CPUの一部として表す。ＲＯＭ１０２は、CPU１０１により実行されるプログラムが記憶されている。ＲＡＭ１０３は、CPU１０１によるプログラムの実行時に、各種情報を一時的に記憶するためのメモリを提供している。ＨＤＤ（ハードディスク）１０４は、画像ファイルや画像解析などの処理結果を保持するデータベースなどを記憶するための記憶媒体である。ＲＯＭ１０２、ＲＡＭ１０３、ハードディスク１０４が記憶部を構成する。ディスプレイ１０５は、本実施形態のUI（ユーザーインターフェイス）や画像のレイアウト結果をユーザーに提示する装置であり、表示部を構成する。ディスプレイ１０５はタッチセンサー機能を備えても良い。キーボード１０６は、ディスプレイ１０５に表示されたUI上に例えば作成したいアルバムの見開き数を入力するためにユーザーが利用する。マウス１０７は座標指示デバイスであり、ディスプレイ１０５に表示されたUI上のボタンをクリックするためなどに使用される。キーボード１０６、マウス１０７が入力部であり、ディスプレイ１０５とあわせてユーザーインターフェイスを構成する。データ通信装置１０８は、自動レイアウトのデータをPCに接続されたプリンタやサーバーに送信する。データバス１０９は前記した各部とCPU１０１を接続する。本発明に係るアルバム作成アプリケーションはHDD１０４に保存され、後述するようにユーザーがディスプレイ１０５に表示されているアプリケーションのアイコンをマウス１０７を使ってダブルクリックして起動する。
【００１２】
＜自動レイアウト処理部＞
図２は、本発明に係るアルバム作成アプリケーションの自動レイアウト処理部２１６に関するソフトウェアブロック図である。アルバム作成アプリケーションは様々な機能を持つが、本実施形態では、特に自動レイアウト処理部２１６により提供される自動レイアウト機能に関して説明する。自動レイアウト機能は、撮影された写真をその内容や属性に基づいて分類し、あるいは選択して写真をレイアウトし、ディスプレイ１０５に表示するアルバム画像を生成するための機能である。
【００１３】
図２において、２０１は条件指定部であり、入力部たとえばマウス１０７による後述のUI操作に応じたアルバム作成条件を自動レイアウト処理部２１６に指定する。指定はたとえば条件指定部２０１を介してユーザーが行う。指定される条件には、たとえば対象となる画像や主人公のID、アルバムの見開き数、テンプレート情報、画像補正のON／OFF条件等の指定が含まれる。画像の指定は、たとえば撮影日時など個別の画像データの付随情報や属性情報による指定であってもよいし、デバイスやディレクトの指定など、画像データを含むファイルシステムの構造に基づく指定であってもよい。なお見開きとは、たとえば表示においてはひとつの表示用ウィンドウに相当し、印刷においては、異なるシートに印刷された、互いに隣接する１対のページに相当する。画像取得部２０２は、条件指定部２０１から指定された画像群をHDD１０４から取得する。画像変換２０３は、以降の処理に使う画像データを所望の画素数や色情報に変換する。本実施形態では、短辺の画素数として４２０画素を持ち、sRGBの色情報の解析画像データ（以下、解析画像と呼ぶ）に変換する。画像解析部２０４は、解析画像から後述の特徴量取得、顔検出、表情認識、個人認識を実施する処理である。また、HDD１０４から取得した画像に付随したデータ、例えばExif情報から撮影日時の取得も画像処理部２０４で実施する。画像分類部２０５は、画像群に対して撮影日時情報や枚数、検出した顔情報を使って後述のシーン分割、シーン分類を実施する処理である。シーンとは、旅行や日常、結婚式等の撮影シーンのことである。シーンとは、例えば、一つの撮影対象について一時期の撮影機会に撮影された画像の集まりであるということもできる。画像得点部２０７は、各画像に対してレイアウトに適した画像が高得点になるように得点付けをする。後述するが、得点付けの際は、本実施形態では画像解析部からの情報と、画像分類部からの情報とを使う。他の情報を付加的に或いは代替的に用いてもよい。主人公情報入力部２０６は、条件指定部２０１から指示された主人公のID（識別情報）を画像得点部に入力する。画像得点部２０７は、主人公情報入力部２０６から入力された主人公IDが含まれる画像の得点をアップできる構成となっている。見開き割当部２０９は、画像群を分割して各見開きに割り当てる。見開き入力部２０８は、条件指定部２０１から指定されたアルバムの見開き数を見開き割当部２０９に入力する。見開き割当部２０９は、入力された見開き数に応じて画像群を分割して各見開きに画像群の一部を割り当てる。画像選択部２１０は、見開き割当部２０９で各見開きに割り当てられた画像群の一部から画像得点部２０７で付けた得点を参考に画像を選択する。
【００１４】
画像レイアウト部２１２は、画像のレイアウトを決定する。テンプレート入力部２１１は、条件指定部２０１から指定されたテンプレート情報に応じた複数のテンプレートを画像レイアウト部２１２に入力する。画像レイアウト部２１２は、画像選択部２１０に適したテンプレートを、テンプレート入力部２１１から入力された複数のテンプレートから選択し、画像のレイアウトを決定する。レイアウト情報出力部２１５は、画像レイアウト部２１２が決定した画像レイアウトに従って、ディスプレイ１０５に表示する為のレイアウト情報を出力する。レイアウト情報は例えば、選択したテンプレートに選択した画像をレイアウトしたビットマップデータである。画像補正部２１４は、覆い焼き補正、赤目補正、コントラスト補正をする。画像補正条件入力部２１３は、条件指定部２０１から指定された画像補正のON／OFF（オンまたはオフ）条件を画像補正部２１４に入力する。画像補正のオンまたはオフは、補正の種類ごとに指定されてもよいし、全ての種類についてまとめて指定されてもよい。画像補正部２１４は、画像補正条件がONの場合は、画像に対して補正を実施する。画像補正条件がOFFの場合は、補正を実施しない。尚、画像補正部２１４は、画像変換部２０３から入力された画像に対して、画像補正のON／OFFに従って補正を実施する。画像変換部２０３から画像補正部２１４に入力する画像の画素数は、画像レイアウト部２１２で決定したレイアウトのサイズに合わせて変えられる構成となっている。レイアウト情報出力部２１５から出力される画像データは、例えば図３に示すような形式でディスプレイ１０５に表示される。
【００１５】
本実施形態に係るアルバム作成アプリケーションは、PCにインストールするとPC上で動作するOS（オペレーティングシステム）のトップ画面（デスクトップ）上に起動アイコンが表示される。ユーザーはディスプレイ１０５に表示されているデスクトップ上の起動アイコンをマウス１０７でダブルクリックすると、HDD１０４に保存されているアルバム作成アプリケーションのプログラムがRAM１０３にロードされる。RAM１０３のプログラムがCPU１０１によって実行されて、アルバム作成アプリケーションが起動する。もちろんプログラムはROM１０２に記憶しておいてもよい。
【００１６】
＜表示例＞
図３は起動したアルバム作成アプリケーションが提供するUI構成画面３０１であり、ディスプレイ１０５に表示される。ユーザーは、表示画面であるUI構成画面３０１を介して、後述するアルバムの作成条件を設定することができる。ＵＩ構成画面３０１のパスボックス３０２はアルバム作成の対象となる画像群のHDD１０４中の保存場所（パス）を示す。ユーザーはフォルダ選択ボタン３０３をマウス１０７でクリックして、アルバム作成の対象とする画像群を含むフォルダを、表示されるツリー構成から選択する。選択した画像群を含むフォルダパスがパスボックス３０２に表示される。主人公指定アイコン３０４は、人物の顔画像が表示されるアイコンである。主人公指定アイコン３０４には複数の異なる顔画像のアイコンが並び、それぞれの顔画像は個人IDと関連付けられている。なおこの主人公指定アイコンは、解析対象の画像すなわち写真に写った人物から中心人物である主人公を特定するために用いられる。顔画像は、たとえば予め画像から検出され、個人IDと関連付けて顔データベースに登録されている。主人公アイコン３０４は、たとえば顔データベースに登録された人物の顔画像のうち、ユーザーが選択した人物の顔画像である。主人公は図４の手順で自動設定することもできるが、主人公アイコン３０４を指定することで、ユーザーが手動設定することもできる。ユーザーはたとえばマウス１０７によってクリックするなどして顔データベースから主人公アイコンを選択できる。見開き数ボックス３０５には、見開き数を指定するである。ユーザーはキーボード１０６を使って見開き数ボックス３０５に直接数字を入力するか、マウス１０７を使ってリストから見開き数ボックスに数字を入力する。テンプレート指定アイコン３０６は、テンプレートのテイスト（ポップ調やシック調等）が分かるイラスト画像である。複数のテンプレートアイコンが並び、マウス１０７によってクリックして選択できる。チェックボックス３０７は、画像補正のON／OFFを指定することができる。マウス１０７でチェックを入れると画像補正ONであり、チェックを入れないと画像補正OFFである。図３の例ではすべての補正についてまとめてオンまたはオフが指定される。
【００１７】
OKボタン３０８は、UI構成画面３０１上で指定されている状態を条件指定部２０１に伝える為のボタンである。ユーザーがOKボタン３０８をマウス１０７でクリックすると、条件指定部２０１を介して、自動レイアウト処理部２１６にアルバム作成条件が指定される。パスボックス３０２に入力されているパスは画像取得部２０２に伝えられる。主人公指定アイコン３０４で選択されている主人公の個人IDは主人公情報入力部２０６に伝えられる。見開き数ボックス３０５に入力されている見開き数は見開き数入力部２０８に伝えられる。テンプレート指定アイコン３０６で選択されているテンプレート情報はテンプレート入力部２１１に伝えられる。画像補正チェックボックスの画像補正のON／OFFは画像補正条件入力部２１３に伝えられる。リセットボタン３０９はUI構成画面上の各設定情報をリセットするためのボタンである。
【００１８】
＜自動レイアウト処理＞
図４は本実施形態に係るアルバム作成アプリケーションの自動レイアウト処理部２１６に関する処理フロー図である。図４に示すフローチャートは、例えば、ＣＰＵ１０１がＨＤＤ１０４に格納されたプログラムをＲＯＭ１０２やＲＡＭ１０３に読み出して実行することにより実現される。図４を使って、自動レイアウトの処理フローを以下説明する。
【００１９】
Step01では、指定された画像群に含まれる画像に順次着目して、画像変換部２０３で着目画像の解析画像を生成する。すなわち、条件指定部２０１で指定されたHDD１０４の画像群の各画像を所望の画素数と色情報に変換する。本実施形態では、短辺４２０画素のサイズとsRGBの色情報とを持つ解析画像に変換する。
【００２０】
Step02では、画像解析部２０４で着目画像の画像特徴量を取得する。HDD１０４から取得した着目画像画像データに付随する例えばExif情報から撮影日時を取得する。また、Step01で生成された着目画像の解析画像から特徴量を取得する。特徴量としては、例えば、ピントが挙げられる。エッジの検出方法として一般的にソーベルフィルタが知られている。ソーベルフィルタでエッジ検出して、エッジの始点と終点の輝度差を始点と終点の距離で割ればエッジの傾きすなわち輝度勾配を算出できる。対象画像中のエッジの平均傾きを算出して、平均傾き大の画像は平均傾き小の画像よりもピントが合っていると考えることが出来る。傾きに対して異なる値の複数の閾値を設定し、算出した平均傾きと閾値との比較に基づいてピント量を出せる。本実施形態では異なる２つの閾値を設定し、○△×の３段階でピント量を判別する。例えば、算出した平均輝度勾配が大きい方の閾値以上であれば良好（○）、大きい方の閾値より小さく小さい方の閾値以上であれば許容可（△）、小さい方の閾値より小さければ不良（×）と判定する。そして、アルバムに採用したいピントの傾きを○、許容できるピントの傾きを△、許容できない傾きを×として、実験を通して閾値を設定する。
【００２１】
Step03では、画像解析部２０４で顔検出を実施する。ここではStep01で生成された着目画像の解析画像から顔を検出する。顔の検出は、公知の方法を用いることができ、例えば、複数用意した弱識別器から強識別器を作成するAdaboostが挙げられる。本実施形態では、Adaboostにより作成した強識別器により人物（オブジェクト）の顔を検出する。顔画像を抽出すると共に、検出した顔領域の左上座標値と右下座標値を取得する。この２種の座標を持つ為、顔の位置と顔のサイズを知ることが可能である。顔に限らず、犬や猫等の動物、花、食べ物、建物、置物等のオブジェクトを顔の代わりの検出対象としてAdaboostによって強識別器を作成することができる。これにより、顔以外のオブジェクトを検出することができる。
【００２２】
Step04では、画像解析部２０４で個人認識をする。Step03で抽出した顔画像と顔辞書データベースに個人ID毎に保存されている代表顔画像との類似性を比較する。類似性が閾値以上で最も類似性が高いIDを抽出した顔画像のIDとする。尚、類似性が閾値未満の場合は新規の顔として新規の個人IDとして顔辞書データベースに抽出した顔画像を登録する。
【００２３】
Step02からStep04で取得した画像解析情報５００は、図５に示すように各画像を識別するID５０１毎に区別して記憶する。Step02で取得した撮影日時情報５０２とピント判別結果５０３、Step03で検出した顔の数５０４と位置情報５０５を保存する。尚、顔の位置情報はStep04で取得した個人ID毎に区別して記憶する。
【００２４】
Step05では、条件指定部２０１で指定されたHDD１０４の画像群の全画像に対してStep01からStep04が終了したか否かを判定する。終了していない場合（No）は新たな画像を着目画像としてStep01に戻る。終了している場合（Yes）はStep06に移行する。
【００２５】
Step06では、画像分類部２０５でシーン分割をする。Step02で取得済みの撮影日時情報から算出した画像と画像との時間差に基づいて画像群を複数に分割する。分割の基準の例は以下のとおりである。画像群のうち、たとえば最も撮影日時が古い（或いは新しい）画像に最初に着目し、その次に古い（新しい）画像との時間差を参照する。これを、着目画像を順次撮影日時が新しい（或いは古い）ものに置き換えつつ以下の判断を行う。なお以下の説明で分割するとは、２つの画像間を境に撮影日時の新しい方と古い方とに画像群を分割するという意味である。
１．画像間に撮影していない日が存在する場合は分割する。
２．撮影日が連続し、かつ時間差が１６時間以上空いている場合は分割する。
３．撮影日が連続し、かつ時間差が１６時間未満の場合は、連続する各日の最初の撮影から最後の撮影までの時間差が４時間未満なら分割する。
４．撮影日が連続し、かつ時間差が１６時間未満、かつ連続する各日の最初の撮影から最後の撮影までの時間差が４時間以上の場合は、連続する各日の撮影枚数が５０枚未満なら分割する。
５．上記以外の場合には分割しない。
【００２６】
もちろんこれ以外にも分割の基準はあり得る。たとえば撮影地が画像の付随情報に含まれている場合には、時間的には分割しない場合に該当しても、撮影地が所定距離以上離れていれば分割するものとしてもよい。図６（Ａ）は前記説明したシーン分割方法で分割した結果を示している。なお分割後の画像群を分割と呼ぶ。
【００２７】
Step07では、画像分類部２０６でシーン分類をする。本実施形態では、旅行、日常、セレモニーに分類する例で説明する。シーン分類のためには、予め、旅行、日常、セレモニーだと判定した画像群をそれぞれ複数集める。各画像群について、特徴量を取得する。ここで取得する特徴量の例は、例えば撮影期間、撮影枚数、撮影人数である。撮影期間は画像群の最初の撮影から最後の撮影までの時間差である。撮影枚数は画像群に含まれた画像の撮影枚数である。撮影人数は顔が写っている画像における顔の数である。シーン毎に集めた複数の画像群に対して次の値を求める。撮影期間の平均値と標準偏差、撮影枚数の平均値と標準偏差、１画像あたりの人数の平均値と標準偏差である。図７は本実施形態で求めた各平均値と標準偏差を示しており、シーン分類のためにあらかじめ用意されたテーブル７００を示す。これらの求めた値を含むテーブル７００をアルバム作成アプリケーションのプログラムに予め組み込んでおく。テーブル７００では、シーンID７０１に対応付けて、撮影期間７０２、撮影枚数７０３、撮影人数７０４それぞれの平均値と標準偏差とが登録されている。Step07では、アルバム作成アプリケーションが起動された後、ユーザーがパスボックス３０２で指定した画像群のStep06でシーン分割された各分割群に対して、撮影期間と撮影枚数、撮影人数の平均値を算出する。各分割群の撮影期間、撮影枚数、撮影人数の特徴量について、図７に示したシーン毎の平均値と標準偏差を使って以下の得点化を実施する。なお下式の平均値および標準偏差は、テーブル７００に登録されたシーンの分類ごとの撮影期間、撮影枚数、撮影人数それぞれの平均値および標準偏差であり、特徴量は、分割ごとの撮影期間と撮影枚数、撮影人数それぞれの値である。特徴量項目数は本例では３となる。
シーン分類および特徴量ごとの得点＝５０−｜１０×（シーン分類および特徴量ごとの平均値−分割群ごとの特徴量）／シーン分類および特徴量ごとの標準偏差｜
シーン分類ごとの平均得点＝（シーン分類ごとの撮影期間の得点＋シーン分類ごとの撮影枚数の得点＋シーン分類ごとの撮影人数の得点）／特徴量項目数。
上記第１式により、着目分割の、各シーンおよび各特徴量についての得点が求められる。例えば、旅行シーンの撮影期間、撮影枚数、撮影人数それぞれの得点が求められる。これら得点を第２式により平均化して、当該シーン分類に関する得点とする。同様に、日常、セレモニーという他のシーンについても得点が得られる。
【００２８】
以上によって、各分割に対して旅行、日常、セレモニー毎の平均得点が算出される。分割毎に平均得点が最高点のシーンをその分割のシーンだと分類する。同点の場合は、優先シーンに分類する。例えば本実施形態では、日常＞セレモニー＞旅行の優先順であり、日常の優先度を最も高くしている。図６（Ａ）のシーン分割された後の画像群（シーン）５は、たとえば撮影期間が３６時間、撮影枚数が３００枚、撮影人数が１．７人であった。旅行の平均得点は４５．３２、日常の平均得点は１８．３８、セレモニーの平均得点は−２９．９２となり、シーンは最高得点のシーンである旅行に分類される。分類したシーンは識別ができるようにシーンIDで管理する。
【００２９】
Step08はStep06で分割された全シーンに対してStep07のシーン分類が終了したか否かを判定する。終了していない場合（No）は処理が済んでいない新たな分割に着目してStep07に戻る。終了している場合（Yes）はStep09に移行する。
【００３０】
Step09では、画像得点化部２０７で主人公設定をする。主人公設定はユーザーが指定した画像群に対して実施され、自動と手動の２種類がある。Step04において実施された個人認識の結果と、Step06において実施されたシーン分割の結果から、画像群に登場する各個人IDの回数、各シーンに登場する各個人IDの回数、各個人IDが登場するシーンの回数等を知ることが可能である。これらの情報から自動で主人公を設定する。本実施形態では、画像群に複数シーンがある場合は複数のシーンに登場する個人IDを主人公IDと設定し、画像群が単一シーンである場合は、単一シーンの登場回数が多い個人IDを主人公IDと設定する。主人公設定アイコン３０４をユーザーが指定している場合は、主人公情報入力部２０６を介して個人IDが画像得点部２０７に伝えられる。ユーザー指定の個人IDがある場合は、前記説明した自動設定の主人公IDは無視して、ユーザー指定の個人IDを主人公IDと設定する。この設定を手動設定と呼ぶ。
【００３１】
Step10では、画像得点化部２０７で得点化をする。得点化とは、後述の画像選択時に参照する値であり、画像毎に後述の観点で評価した得点を付ける。図１０は画像のレイアウトに使うテンプレート群を示している。１枚のテンプレート１００１には、メインスロット１００２、サブスロット１００３と１００４とが含まれる。メインスロット１００２とは、テンプレート１００１でメインとなるスロット（画像をレイアウトする枠）であり、サブスロット１００３と１００４よりもサイズが大きい特徴を持っている。得点化は、メインスロット用の得点とサブスロット用の得点の両方を画像毎に付ける処理である。図８（Ａ）は旅行、日常、セレモニーの各シーンによってアルバムに採用する画像の特徴をメインスロットとサブスロットに分けてまとめた表である。図８（Ａ）に示す表において、各シーンのメインスロット向き画像特徴とサブスロット向きの特徴それぞれに適合すると判定した複数の画像を予め集めておく。集めた各画像の顔の数、顔の位置、顔のサイズの特徴量を抽出して、それら特徴量の平均値と標準偏差とを、収集した画像が対応する各シーンおよび各スロット種類（メインスロットとサブスロット）に対して求めて、アルバム作成アプリケーションのプログラムとともに記憶しておく。その例を図８の表８００に示す。ユーザーが指定した画像群の各画像がどのシーンに属すかはStep07のシーン分類の結果から知ることができる。注目画像のシーンに対応する予め求めた前記平均値と標準偏差、および注目画像の主人公IDの顔数、顔位置、顔サイズの各特徴量に対して以下の式を使って得点と平均得点を出す。下式において得点、平均値、標準偏差は、シーン分類、スロット種類及び特徴量ごとに求められる。
得点＝５０−｜１０×（平均値−特徴量）／標準偏差｜
平均得点＝（顔数の得点＋顔位置の得点＋顔サイズの得点）／特徴量項目数。
【００３２】
得点化をメインスロット用とサブスロット用の両方を実施する。またアルバムに使う画像はピントが合っている方が好ましい為、図５に示すピントの特徴量が○である画像IDの画像に対しては得点を加算してもよい。図８（Ｂ）は前記説明の得点化による得点結果の例を示しており、表８００においては、各画像ID８０１に対して、メインスロットとサブスロットのそれぞれの得点化がされて、得点８０２が登録されている。
【００３３】
Step11では、画像得点部２０７がユーザー指定の画像群の全画像に対してStep10の画像得点化が終了したか否かを判定する。終了していない場合（No）は未処理の次の画像について着目し、Step10に戻る。終了している場合（Yes）はStep12に移行する。
【００３４】
本実施形態では、画像レイアウト部２１２は、複数のシーンのそれぞれに含まれる画像を、当該複数のシーンのそれぞれに対応する複数のテンプレート（複数の見開き）のそれぞれにレイアウトする。そのため、複数のシーンの数と、複数のテンプレートの数（見開き数）が一致する必要がある。
【００３５】
Step12では、見開き割当部２０９が画像分類部２０５のシーン分割（Step06）の分割数が見開き数入力部２０８から入力される見開き数と同じか否かを判定する。同じでない場合（No）はStep13に移行する。同じ場合（Yes）はStep16に移行する。例えば図６（Ａ）のシーン分割数は８であり、見開き数入力部２０８の入力数が８であればStep16に移行する。
【００３６】
Step13では、見開き割当部２０９が、画像分類部２０５のシーン分割（Step06）の分割数が見開き数入力部２０８から入力される見開き数より少ないか否かを判定する。多い場合（No）はStep15に移行する。少ない場合（Yes）はStep14に移行する。図６（Ａ）のシーン分割数は８であり、例えば見開き数入力部２０８の入力数が１０であればStep14に移行する。
【００３７】
Step14では、見開き割当部２０９がサブシーン分割をする。サブシーン分割とは、シーン分割数＜見開き数の場合に、分割されたシーンを更に細分することを指す。図６（Ａ）のシーン分割数８に対して指定見開き数が１０の場合で説明する。図６（Ｂ）は図６（Ａ）をサブシーン分割した結果である。破線矢印の箇所で分割したことで、分割数を１０にしている。分割の基準は以下である。図６（Ａ）の分割の中で画像枚数が多い分割箇所を探す。ここでは、分割数を８から１０に２箇所増やす為、画像枚数が多い２箇所を決める。すなわち、再分割すべき数のシーンを、最も多くの画像を含むシーンから順に指定する。画像数が同数のシーンについては、画像間の撮影日時の差の最大値が大きい方のシーンを選択する。それでも決定できない場合には、たとえば時間的に早いシーンを優先的に再分割するなど、適宜決めておけばよい。図６（Ａ）では画像の数が多い方からシーン５、次にシーン１と２である。シーン１と２は同じ枚数だが、シーン２の方が、最初に撮影した画像から最後に撮影した画像の時間差が大きい為、シーン２を分割対象とする。すなわちシーン５とシーン２をそれぞれ分割する。まずシーン２の分割を説明する。シーン２には画像枚数の山が２つあり、この２つは撮影日が違う。そこで図６（Ｂ）の破線矢印の箇所で分割する。次にシーン５の分割を説明する。シーン５には画像枚数の山が３つあり、３日連続である。撮影日が変わる箇所が２箇所あるが、分割後の枚数差が小さくなるように、撮影日単位で分割する。すなわち図６（Ｂ）の破線矢印の箇所で分割する。以上により分割数すなわちシーン数を８から１０にする。一般的にいえば、シーンの再分割は、選択したシーンに撮影日の異なる画像が含まれていれば、撮影日の相違するそれぞれの画像群を新たなシーンとするよう分割する。撮影日が３日以上にわたるならば、各シーンに含まれる画像の数の差が最小になり、同一撮影日の画像が同一シーンに含まれるよう再分割を行う。ここでは撮影日の違う箇所で分割したが、撮影日が単一日であった場合は、単一日の中で撮影時刻の時間差が最大の箇所で分割する。以上の手順によって見開き数にシーン数を一致させる。なお分割により生成されたシーンについては、改めて分類してもよいし、分割前のシーンの分類を引き継いでもよい。サブシーン分割処理については図１３を参照して説明する。
【００３８】
Step15では、見開き割当部２０９がシーン削除をする。シーン削除とは、シーン分割数＞見開き数の場合に、分割されたシーンから条件に該当するシーンを削除する処理である。これによって見開き数にシーン数を一致させる。なお、シーンの削除とは、当該シーンに含まれる画像を見開きへのレイアウト対象から除外させる為の処理である。例えばＲＡＭ１０３においてアルバム作成のために設けられている記憶領域から当該シーンの画像を削除してもよいし、当該シーンの画像に、レイアウト対象から除外されていることを示すフラグを設定してもよい。Step115における処理の詳細については図１１を参照して後述する。
【００３９】
Step16では、見開き割当部２０９が見開き割当をする。Step12〜Step15によって、シーン分割数と指定見開き数は同じになっている。撮影日時的に先頭の分割から見開きの先頭に順に割り当てる。
【００４０】
Step17では、画像選択部２１０が画像選択をする。ここでは、ある見開きに割り当てられた画像群の分割（すなわちシーン）から画像を４枚選択する例を、図９を使って説明する。図９（Ａ）は見開きに割り当てられた分割（シーン）の撮影日時的に最初の画像から最後の画像の時間差（分割撮影期間）を示している。テンプレートには１枚のメインスロット１００２が含まれる。１枚目に選択する画像はメインスロット用の画像である。図９（Ｂ）に示す分割撮影期間に対応する画像のうち（すなわち着目シーンに含まれる画像のうち）Step10で付けたメインスロット用の得点が最高点の画像（１）を選択する。２枚目以降に選択する画像はサブスロット用の画像である。画像選択は分割撮影期間の一部に集中しないように、以下説明するように工夫をする。図９（Ｃ）のように分割撮影期間を２分割する。次に図９（Ｄ）のように１枚目が選ばれていない実線の分割撮影期間から２枚目を選択する。２枚目としては、実線の分割撮影期間に対応する画像のうちサブスロット用の得点が最高点の画像（２）を選択する。次に図９（Ｅ）のように図９（Ｄ）の各分割撮影期間を２分割する。図９（Ｆ）のように１枚目と２枚目がいずれも選ばれていない実線の分割撮影期間に対応する画像のうち、サブスロット用の得点が最高点の画像（３）を３枚目として選択する。
【００４１】
次に画像を選択する分割撮影期間に画像が存在せず、画像選択できない例を４枚目の選択を例に説明する。図９（Ｇ）のようにまだ画像が選ばれていない斜線の分割撮影期間から４枚目を選択したいが、この斜線の分割撮影期間には画像が存在しないものとする。そこで図９（Ｈ）のように各分割撮影期間を２分割する。次に図９（Ｉ）のように１〜３枚目が選ばれていない実線の分割撮影期間に対応する画像のうちサブスロット用の最高点の画像（４）を４枚目として選択する。
【００４２】
Step18では、画像レイアウト部２１２が画像レイアウトを決定する。画像レイアウトの決定のために、選択した画像を基にしてテンプレートを選択する。その方法は例えば以下のとおりである。まずテンプレート入力部２１１により入力されたテンプレート群を候補とする。次に、その候補から、テンプレート内のメインスロットの位置が、着目シーンの選択された画像群におけるメインスロット用画像の時系列的な位置に対応しているテンプレートを選択する。この判定は、たとえばテンプレート上のスロットの位置が、左上から右下へと時系列に沿って配置されることを前提として行われる。しかし各スロットの位置と画像とを個別に対応付けるのは煩雑なので、たとえばテンプレートをメインスロットとサブスロットの位置に応じてグループ分けしておき、さらに画像の方向（縦長、横長）に応じてさらにグループ分けしておく。そしてメインスロット用画像の時系列上の位置及び方向に応じてテンプレートを絞り込み、さらにサブスロットについての同様に絞り込む。このようにして、テンプレートの候補を絞り込み、最終的に採用するテンプレートを決定する。
【００４３】
次にStep18を、テンプレート入力部２１１が、指定のテンプレート情報に従ってある見開きに対して図１０の（１−１）〜（４−４）を入力した例で説明する。入力されたテンプレートのスロット数は３である。選択されている画像３枚の画像を撮影日時に対して並べると図９（J）のように縦長、横長、縦長であったとする。ここでは、画像１００５がメインスロット用であり、画像１００６と画像１００７がサブスロット用である。本実施形態で作成するレイアウトは、テンプレートの左上に撮影日時のより古い画像、右下に撮影日時のより新しい画像をレイアウトする。メインスロット用画像１００５は撮影日時が一番新しい為、図１０の（３−１）〜（３−４）と（４−１）〜（４−４）のテンプレートが候補となる。このうちメインスンロット用画像１００５は縦長なので、テンプレート（４−１）〜（４−４）が候補となる。サブスロット用の古い方の画像１００６が縦画像で、新しい方の画像１００７が横画像の為、テンプレート（４−２）が、選択された画像に最も適したテンプレートとしてレイアウトが決まる。本ステップで決まるのは、どの画像をどのテンプレートのどのスロットにレイアウトするかを識別できる情報である。
【００４４】
Step19では、画像補正部２１４が画像補正をする。画像補正条件入力部からONが入力された場合は、画像補正を実施する。画像補正は、覆い焼き補正、赤目補正、コントラスト補正を自動で実施する。画像補正条件入力部からOFFが入力された場合は、画像補正を実施しない。補正する画像の画素数は短辺１２００画素で、sRGBの色空間に変換した画像に対して画像補正ON／OFFを実施する。
【００４５】
Step20では、レイアウト情報出力部２１５がレイアウト情報を作成する。Step18で決まったテンプレートの各スロットに、対応する画像をレイアウトする。補正オンであれば補正済みの画像をレイアウトする。このとき、スロットのサイズ情報に合わせてレイアウトする画像を変倍してレイアウトする。テンプレートに画像をレイアウトしたビットマップデータを生成する。
【００４６】
Step21ではStep17〜Step20が全ての見開きに対して終了したか否かを判定する。終了していない場合（No）はStep17に戻る。終了している場合（Yes）は自動レイアウト処理を終了する。
【００４７】
以上の手順により、指定された見開きの数に応じて分割されたシーンの数を調整し、見開きごとにシーンを適切にレイアウトしたアルバムを作成できる。また、重要度が低いと推定されるシーンを再分割して削除することで、関連性の低い画像をシーンから削除し、シーンを整理することができる。
【００４８】
＜シーン削除フローの詳細＞
ここで、本発明の特徴であるシーン削除（図４のStep15）について説明する。図４のＳｔｅｐ０６のシーン分割において、その成功率が１００％であるとは限らない。場合によっては失敗するケースがある。説明したように、撮影時間が１６時間以上空いている場合はその空き時間を境界としてシーン分割を行う。よって、１６時間という閾値付近に該当するシーンの場合は、分割に失敗する可能性が相対的に高くなる。失敗とはたとえば、分割すべきでないシーンを分割すること、あるいは逆に分割されるべきシーンが分割されないことを示す。しかし、シーン分割が失敗しているか否かは、正解を外部から入力しない限り、処理フローのなかでは判断することが困難である。よって、シーン分割に失敗している場合であってもレイアウトの出来栄え品質を損なわないようにするため、シーンの重要性に基づいて処理を切り替える処理を行う。
【００４９】
シーン分割に失敗する例として、旅行で撮影した画像群が挙げられる。例えば、複数日の旅行において、１日目の夜に撮影した後、２日目の朝まで撮影しないケースがある。この場合、理想としては同じ旅行であるためシーンが分割されるべきではない。しかし、１日目の夜から２日目の朝までの時間差が前記閾値の１６時間を超える場合、異なるシーンとして分割されるケースが発生する。
【００５０】
ここで、１日目の夜に撮影した枚数がごくわずかであれば、シーンとしての重要度は低いと考えられる。よって、この場合は該当シーンの画像をレイアウト候補画像から削除することで、他のシーンに混ざることを回避することが可能となる。逆に、１日目の夜に撮影した枚数が多ければ、シーンとしての重要度は高いと考えられる。よって、この場合は該当シーンの画像をレイアウト候補画像から削除しないことで、重要なシーンの欠落を回避することが可能となる。
【００５１】
図１１を用いてシーン削除処理（Step15）の詳細について説明する。まずＳ１１０１において、シーンの時間差を取得する。ここで、シーンの時間差はシーン情報から取得することができる。シーン情報の例を図１２に示す。シーン情報はシーン分割時に各シーンに含まれる画像の画像情報および付随情報等に基づいて生成される。シーン情報は、シーンをサブシーンに分割した場合や、シーン（あるいはサブシーン）を統合（あるいは結合）した場合にも、その分割や統合に応じて更新される。図１２（Ａ）はシーン分割数をＮとしたとき、Ｎ＝１４の例である。シーンＩＤは、各シーン固有のＩＤ（１から１４までの数字に対応）を表す。シーン情報は、各シーンにおける画像数、人物数、期間、時間差から構成される。画像数は、シーンに分割された各シーンに含まれる画像の枚数を表す。人物数は、各シーンに含まれる画像中の人数の合計を表す。人数は前記画像解析部２０４で検出された顔の数とする。期間は、各シーンに含まれる画像の撮影期間であり、画像を撮影時間順に並べた時の先頭と最後尾の撮影時間の時間差を表す。時間差は、シーンに分割された各シーン間の時間差であり、画像を撮影時間順に並べた時の対象シーンの最後尾と次シーンの先頭の時間差を表す。ステップＳ１１０１では着目シーンについて時間差を取得する。
【００５２】
ステップＳ１１０２において、前記時間差が閾値の範囲に含まれるか否か、すなわち所定時間以内であるか否かを判定する。前記閾値はシーン分割で使用する閾値近辺の値を設定することが好ましい。本実施形態においては、１６時間以上２０時間以内とする。閾値の範囲に含まれない場合は、シーン分割に失敗している可能性は低い。よって、シーンの削除は行わずＳ１１０５において全シーンに対する処理が終了したか否かを判定する。終了していない場合は、次のシーンに着目してＳ１１０１に戻り、次のシーンに対して処理を行う。
【００５３】
一方、前記時間差が閾値以内の場合は、シーン分割に失敗している可能性がある。図１２（Ａ）ではシーンＩＤ「２」、「６」、「７」、「８」および「１１」が該当する。この場合はステップＳ１１０３において、削除条件を満たすか否かを判定する。削除条件を満たさない場合は、重要であり削除すべきではないシーンである可能性が高いため、削除せずステップＳ１１０５に進む。削除条件を満たす場合は、削除しても問題のないシーンである可能性が高いため、ステップＳ１１０４において着目シーンを削除する。ステップＳ１１０１からステップＳ１１０４までの処理を全てのシーンに対して実行する。本実施形態では、ステップＳ１１０３の削除条件としてシーン情報の画像数が所定数以下、例えば１０枚以下であることとする。該当する場合には、着目シーンは重要なシーンでない可能性が高いためシーン削除を行う。上述したシーン分割に失敗した可能性のあるシーンのうちシーンＩＤ「７」については画像数が１０枚を超えているため、シーン削除の対象にはならない。結果として図１２（Ｂ）がシーンとして残る。全てのシーンについて処理が終了した場合はＳ１１０６においてシーン数と指定見開き数が一致しているか判定を行う。本実施例では図１２（Ｂ）に示すようにシーン数が１０であり、指定見開き数と一致するため処理を終了する。シーン数が指定見開き数と一致していない場合は、シーン数と指定見開き数とが一致するまでＳ１１０７においてシーンの統合を行う。
【００５４】
シーンの統合について、図６（Ａ）のシーン分割数８に対して指定見開き数が６の場合で説明する。図６（Ｃ）は図６（Ａ）をシーン統合した結果である。破線の箇所を統合したことで、分割数を６にしている。統合の基準は以下である。図６（Ａ）の分割の中で画像枚数が少ない分割箇所を探す。ここでは、分割数を８から６に２箇所減らす為、減らすべき数に相当する画像枚数が少ない２箇所を決める。少ない方からシーン８、３、７である。シーン３と７は同じ枚数である。ただし、シーン７に隣接するシーン８が統合対象の為、シーン３を統合対象とする。シーン８と３をそれぞれ統合する。まずシーン３の統合を説明する。着目シーンは、時間差が少ない隣接シーンと統合される。シーン３の前後のシーン２と４との時間差を比較するとシーン４の方が時間差が小さく、そのためにシーン４に統合する。またシーン８は後がない為、その前のシーン７と統合する。このようにして図６（Ｃ）の破線箇所で統合する。
【００５５】
以上より、シーン分割の結果が理想のシーン区切り位置と異なったとしても、シーン削除処理によって重要度の低いシーンはレイアウト候補画像から削除されるため、結果として異なるシーンが同じ見開き内にレイアウトされることを防止することができる。
【００５６】
なお、ステップＳ１１０５の直前にシーン数＝見開き数であることを判定し、この条件が満たされたならシーン削除処理を終了してもよい。その場合にはシーン数＝見開き数でなければステップＳ１１０５以下の処理を続行する。また、このようにステップＳ１１０５の前にシーン数＝見開き数であることを判定しないなら、全シーンについてシーン削除処理を行った後、シーン数＜見開き数となっている可能性がある。その場合には、シーン数＝見開き数となるようにStep14のサブシーン分割処理をあらためて行ってもよい。
【００５７】
＜サブシーン分割フローの詳細＞
シーン分割と同様にサブシーン分割（Step14）の正解率についても１００％であるとは限らない。場合によっては失敗するケースがある。サブシーン分割に失敗した場合でもレイアウトの出来栄え品質を損なわないようにするため、シーン分割と同様にシーンの重要性に基づいて処理を切り替える必要がある。サブシーン分割処理（Step14）の詳細について図１３を用いて説明する。
【００５８】
まず、Ｓ１３０１において着目シーンをサブシーンに分割する。分割後のサブシーンはStep06で分割されたシーンと同様に扱うが、とくにStep14による分割後のシーンを特定するためにサブシーンと呼ぶ。サブシーンの分割方法については、前述の図４のＳｔｅｐ１４に示したサブシーン分割と同様の手順で行えばよく、詳細な説明については省略する。Ｓ１３０２では、サブシーンを削除する。サブシーン削除処理の詳細は図１４を参照して後述する。Ｓ１３０３では、サブシーン削除を終えた時点でのシーン数が指定見開き数と一致しているか否かの判定を行う。シーン数が指定見開き数と一致していない場合は、Ｓ１３０４においてサブシーン分割数のシーン数の更新を行う。シーン分割数がＮであるとき、Ｎ＝Ｎ＋１を分割後のシーン数として設定する。なおサブシーンをＳ１３０２で削除した場合にはＮの値は更新しない。そして、再度Ｓ１３０１〜Ｓ１３０２までの処理を行い、Ｓ１３０３で前記同様の判定を行う。なお、Ｎの値にはシーンあるいはサブシーン分割時に１加算し、シーン或いはサブシーン削除時に１減算するように構成してもよい。この場合にはＳ１３０４は行わなくともよい。
【００５９】
次に、Ｓ１３０２のサブシーン削除処理について図１４を用いて説明する。S１４０１では、対象サブシーンについてシーン情報から時間差を取得する。対象サブシーンとはＳ１３０１でシーンの分割後の新たなサブシーンである。S１４０２において、前記時間差が閾値の範囲に含まれるか否かを判定する。前記閾値はシーン分割で使用した閾値近辺の値を設定することが好ましい。また、図１１のＳ１１０２の閾値と同じであってもよいし、異なっていてもよい。閾値の範囲に含まれない場合は、シーン分割に失敗している可能性は低い。よって、サブシーンの削除は行わず、Ｓ１４０５において全サブシーンに対する処理が終了しているか否かの判定を行う。終了していない場合は、S１４０１に戻り次のサブシーンに対して処理を行う。一方、閾値の範囲に含まれる場合は、シーン分割に失敗している可能性が高い。この場合はS１４０３において、削除条件を満たすか否かを判定する。削除条件を満たさない場合は、重要であり削除すべきではないシーンである可能性が高いため、サブシーンの削除は行わずにS１４０５に進む。削除条件を満たす場合は、削除しても問題のないシーンである可能性が高いため、S１４０４においてサブシーンの削除を行う。削除条件はステップＳ１１０３の削除条件と同一でよく、たとえばサブシーン内の画像数が１０枚以下であること、などである。S１４０１からS１４０４までの処理を全てのサブシーンに対して実行する。全てのサブシーンについて処理が終了した場合は図１３のS１３０３に戻る。このようにして、シーン分割またはサブシーン分割により、本来ひとつであるべきシーンが分割されてしまった場合でも、より重要度の低いシーン或いはサブシーンは削除され、シーン内の画像の一貫性は保たれる。
【００６０】
以上説明したように、本実施形態によれば、指定された見開きの数に応じてシーンの数を調整する。調整にはシーンの削除とシーンの再分割すなわちサブシーンへの分割を含む。またシーンの再分割を行う際にもシーンの削除が行われる場合にある。シーンの削除においては、対象シーンが独立したシーンとして適当であるか否かが、時間的に隣接するシーンとの関係（時間差）と対象シーンそのものの特徴（含まれる人数など）とに基づいて判定され、適当ではないと判定されたシーンが削除される。
【００６１】
このように処理を経て、サブシーン分割処理を終了した段階では、シーン分割数と指定見開き数は同じになるため、図４のＳｔｅｐ１６の見開き割当において各見開きが各シーンに対応付けられることになる。サブシーン分割の結果が理想のシーン区切り位置と異なったとしても、シーン削除処理によって重要度の低いサブシーンはレイアウト候補画像から削除される。このため、本来なら同一のシーンに分類されるべきシーンが異なるシーンとして別々の見開き内にレイアウトされることを防止することができる。また、本来なら異なるシーンに分類されるべき画像をサブシーンとして分割し、それを削除することで、同じシーンとして同一の見開き内にレイアウトされることも防止することができる。また、以上が第１の実施形態の説明である。
【００６２】
＜第２の実施形態＞
第１の実施形態では、シーン削除処理およびサブシーン削除処理におけるシーン削除の削除条件として画像数を使用したが、本発明はそれに限定されるものではない。たとえば、シーン情報に含まれる人物数を用いてもよい。この場合にはシーン情報の人物数と所定の閾値とを比較して、人物数が閾値より少なければそのシーンを削除する。人物数が多い場合は重要なシーンである可能性が高く、逆に少ない場合は重要なシーンでない可能性が高い。よって、人物数がある閾値よりも少ない場合にシーン削除を行うことで、人物を残しつつ異なるシーンが同じ見開き内にレイアウトされることを防止することができる。また、人物数の代わりに、シーンに含まれる全画像数に対する人物の画像数の割合をシーン削除の判定条件として使用してもよい。この場合には人物の画像数の割合と所定の閾値とを比較して、人物の画像数の割合が閾値より低ければそのシーンを削除する。人物の画像数の割合が高い場合は重要なシーンである可能性が高く、逆に低い場合は重要なシーンでない可能性が高い。
【００６３】
さらに、図４のStep09に示した主人公設定から取得した主人公の画像数を用いても良い。この場合にはシーン内に含まれた主人公すなわち重要人物の数と所定の閾値とを比較して、主人公の数が閾値より少なければそのシーンを削除する。主人公が少ない場合には重要なシーンでない可能性が高いため、シーン削除を行うことで、主人公を残しつつ異なるシーンが同じ見開き内にレイアウトされることを防止できる。また、重要人物の数の代わりに、シーンに含まれる全画像数に対する重要人物の画像数の割合をシーン削除の判定条件として使用してもよい。この場合は、重要人物の画像数の割合と所定の閾値とを比較して、重要人物の画像数の割合が閾値より低ければそのシーンを削除する。重要人物の画像数の割合が高い場合は重要なシーンである可能性が高く、逆に低い場合は重要なシーンでない可能性が高い。また、画像のコンテンツをシーン削除の判定条件として使用してもよい。この場合にはたとえば、画像のコンテンツを画像認識処理などにより認識し、それ（あるいはその種類）が予め定めた削除対象であればそのシーンを削除する。コンテンツはシーン内の画像中の特徴的なオブジェクトに基づいて判定してもよい。
【００６４】
＜その他の実施例＞
第１、第２の実施例ではサブシーン分割処理において、サブシーン削除のみであったが、本発明はそれに限定されるものではない。図１５に示すように、サブシーン削除の後にＳ１５０３のサブシーン統合を行うことで、異なるシーンが同じ見開き内にレイアウトされることを防止しつつ、シーンの欠落をより回避することが可能である。なおＳ１５０１で分割したサブシーンをＳ１５０３で統合するのはマッチポンプであるから、統合の対象はＳ１５０１で分割したサブシーン同志ではないものとすることが望ましい。サブシーンの統合は図１１のステップＳ１１０７と同じ要領で行うことができる。また図１５の手順では、サブシーン分割数が削除と統合とにより減少する可能性もあることから、Ｓ１５０５ではその可能性も考慮したうえで分割数を更新する。
【００６５】
本発明は、上述の実施形態の１以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける１つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、１以上の機能を実現する回路（例えば、ＡＳＩＣ）によっても実現可能である。
【符号の説明】
【００６６】
２０１  条件指定部、２０２  画像取得部、２０３  画像変換部、２０４  画像解析部、２０５  画像分類部、２０６  主人公情報入力部、２０７  画像得点部、２０８  見開き数入力部、２０９  見開き割当部、２１０  画像選択部、２１１  テンプレート入力部、２１２  画像レイアウト部、２１３  画像補正条件入力部、２１４  画像補正部、２１５  レイアウト情報出力部
【図１】
0006700686.tif 000002
【図２】
0006700686.tif 000003
【図３】
0006700686.tif 000004
【図４】
0006700686.tif 000005
【図５】
0006700686.tif 000006
【図６】
0006700686.tif 000007
【図７】
0006700686.tif 000008
【図８】
0006700686.tif 000009
【図９】
0006700686.tif 000010
【図１０】
0006700686.tif 000011
【図１１】
0006700686.tif 000012
【図１２】
0006700686.tif 000013
【図１３】
0006700686.tif 000014
【図１４】
0006700686.tif 000015
【図１５】
0006700686.tif 000016