(57)【特許請求の範囲】
【請求項１】
画像選択指示に応じて、複数の画像の中から重畳対象の画像を選択する画像選択部と、
前記画像選択指示又は入力された注目対象に関する情報に基づいて、前記画像選択部によって選択された重畳対象の画像の中から利用者によって注目される注目領域を特定する領域特定部と、
前記画像選択部によって選択された重畳対象の画像のうち、少なくとも前記領域特定部によって特定された注目領域を除外した非注目領域の形状及び大きさと、前記画像選択部によって選択された重畳対象の画像に重畳される画像として予め記憶部に記憶されている重畳用画像の形状及び大きさとに基づいて、前記非注目領域のうち前記重畳用画像を重畳することが可能な重畳領域を決定する重畳領域決定部と、
前記重畳対象の画像のうち前記重畳領域決定部によって決定された重畳領域に前記重畳用画像を重畳する重畳部と、
を有し、
前記重畳領域決定部は、前記非注目領域の形状及び大きさと、前記重畳用画像の形状及び大きさとに基づいて、前記重畳用画像と縦横比が同一で前記非注目領域から逸脱しない最大面積の領域を求め、求めた領域を、前記重畳用画像を前記重畳用画像の面積が最大となる倍率で重畳可能な前記重畳領域として決定し、
前記重畳部は、前記重畳用画像を前記面積が最大となる倍率で前記決定された重畳領域に重畳する画像処理装置。
【請求項２】
画像選択指示に応じて、複数の画像の中から重畳対象の画像を選択する画像選択部と、
前記画像選択指示又は入力された注目対象に関する情報に基づいて、前記画像選択部によって選択された重畳対象の画像の中から利用者によって注目されない非注目領域を特定する領域特定部と、
前記画像選択部によって選択された重畳対象の画像のうち前記領域特定部によって特定された非注目領域の形状及び大きさと、前記画像選択部によって選択された重畳対象の画像に重畳される画像として予め記憶部に記憶されている重畳用画像の形状及び大きさとに基づいて、前記非注目領域のうち前記重畳用画像を重畳することが可能な重畳領域を決定する重畳領域決定部と、
前記重畳対象の画像のうち前記重畳領域決定部によって決定された重畳領域に前記重畳用画像を重畳する重畳部と、
を有し、
前記重畳領域決定部は、前記非注目領域の形状及び大きさと、前記重畳用画像の形状及び大きさとに基づいて、前記重畳用画像と縦横比が同一で前記非注目領域から逸脱しない最大面積の領域を求め、求めた領域を、前記重畳用画像を前記重畳用画像の面積が最大となる倍率で重畳可能な前記重畳領域として決定し、
前記重畳部は、前記重畳用画像を前記面積が最大となる倍率で前記決定された重畳領域に重畳する画像処理装置。
【請求項３】
前記重畳領域決定部は、前記重畳対象の画像に重畳される画像として、各々優先度が予め定められた複数の重畳用画像が予め前記記憶部に記憶されている場合に、重畳用画像の優先度が高くなるに従って面積がより大きな領域が重畳用画像として割り当てられるように、前記複数の重畳用画像の各々について重畳領域を決定し、
前記重畳部は、前記決定した複数の重畳領域の各々に、前記複数の重畳用画像の各々を重畳する
請求項１又は請求項２記載の画像処理装置。
【請求項４】
前記重畳領域決定部は、前記非注目領域が優先度の異なる複数の部分領域を含んで構成されている場合に、部分領域毎に前記重畳用画像を重畳することが可能な領域を重畳領域候補として抽出し、該重畳領域候補から予め定められた条件に応じて選択するか又は指示に応じて選択した重畳領域候補を、前記重畳領域として決定する
請求項１〜請求項３のいずれか１項記載の画像処理装置。
【請求項５】
前記重畳領域決定部は、前記重畳用画像の傾き及び縦横比の少なくとも一方と、前記重畳用画像の倍率とを変更して重畳することにより前記重畳用画像の面積が最大となる領域を前記重畳領域として決定し、
前記重畳部は、前記重畳用画像の傾き及び縦横比の少なくとも一方と、前記重畳用画像の倍率と、を前記最大の面積となる値に変更した状態で、前記決定された重畳領域に重畳する
請求項１〜請求項４のいずれか１項記載の画像処理装置。
【請求項６】
前記重畳領域決定部は、前記重畳用画像の傾き及び縦横比の少なくとも一方が予め設定された条件を満たすように前記重畳領域を決定する
請求項５記載の画像処理装置。
【請求項７】
画像選択指示に応じて、複数の画像の中から重畳対象の画像を選択する画像選択ステップと、
前記画像選択指示又は入力された注目対象に関する情報に基づいて、前記画像選択ステップによって選択された重畳対象の画像の中から利用者によって注目される注目領域を特定する領域特定ステップと、
前記画像選択ステップによって選択された重畳対象の画像のうち、少なくとも前記領域特定ステップによって特定された注目領域を除外した非注目領域の形状及び大きさと、前記画像選択ステップによって選択された重畳対象の画像に重畳される画像として予め記憶部に記憶されている重畳用画像の形状及び大きさとに基づいて、前記非注目領域のうち前記重畳用画像を重畳することが可能な重畳領域を決定する重畳領域決定ステップと、
前記重畳対象の画像のうち前記重畳領域決定ステップによって決定された重畳領域に前記重畳用画像を重畳する重畳ステップと、
を有し、
前記重畳領域決定ステップは、前記非注目領域の形状及び大きさと、前記重畳用画像の形状及び大きさとに基づいて、前記重畳用画像と縦横比が同一で前記非注目領域から逸脱しない最大面積の領域を求め、求めた領域を、前記重畳用画像を前記重畳用画像の面積が最大となる倍率で重畳可能な前記重畳領域として決定し、
前記重畳ステップは、前記重畳用画像を前記面積が最大となる倍率で前記決定された重畳領域に重畳する画像処理方法。
【請求項８】
画像選択指示に応じて、複数の画像の中から重畳対象の画像を選択する画像選択ステップと、
前記画像選択指示又は入力された注目対象に関する情報に基づいて、前記画像選択ステップによって選択された重畳対象の画像の中から利用者によって注目されない非注目領域を特定する領域特定ステップと、
前記画像選択ステップによって選択された重畳対象の画像のうち前記領域特定ステップによって特定された非注目領域の形状及び大きさと、前記画像選択ステップによって選択された重畳対象の画像に重畳される画像として予め記憶部に記憶されている重畳用画像の形状及び大きさとに基づいて、前記非注目領域のうち前記重畳用画像を重畳することが可能な重畳領域を決定する重畳領域決定ステップと、
前記重畳対象の画像のうち前記重畳領域決定ステップによって決定された重畳領域に前記重畳用画像を重畳する重畳ステップと、
を有し、
前記重畳領域決定ステップは、前記非注目領域の形状及び大きさと、前記重畳用画像の形状及び大きさとに基づいて、前記重畳用画像と縦横比が同一で前記非注目領域から逸脱しない最大面積の領域を求め、求めた領域を、前記重畳用画像を前記重畳用画像の面積が最大となる倍率で重畳可能な前記重畳領域として決定し、
前記重畳ステップは、前記重畳用画像を前記面積が最大となる倍率で前記決定された重畳領域に重畳する画像処理方法。
【請求項９】
コンピュータに、
画像選択指示に応じて、複数の画像の中から重畳対象の画像を選択する画像選択ステップと、
前記画像選択指示又は入力された注目対象に関する情報に基づいて、前記画像選択ステップによって選択された重畳対象の画像の中から利用者によって注目される注目領域を特定する領域特定ステップと、
前記画像選択ステップによって選択された重畳対象の画像のうち、少なくとも前記領域特定ステップによって特定された注目領域を除外した非注目領域の形状及び大きさと、前記画像選択ステップによって選択された重畳対象の画像に重畳される画像として予め記憶部に記憶されている重畳用画像の形状及び大きさとに基づいて、前記非注目領域のうち前記重畳用画像を重畳することが可能な重畳領域を決定する重畳領域決定ステップと、
前記重畳対象の画像のうち前記重畳領域決定ステップによって決定された重畳領域に前記重畳用画像を重畳する重畳ステップと、
を有し、
前記重畳領域決定ステップは、前記非注目領域の形状及び大きさと、前記重畳用画像の形状及び大きさとに基づいて、前記重畳用画像と縦横比が同一で前記非注目領域から逸脱しない最大面積の領域を求め、求めた領域を、前記重畳用画像を前記重畳用画像の面積が最大となる倍率で重畳可能な前記重畳領域として決定し、
前記重畳ステップは、前記重畳用画像を前記面積が最大となる倍率で前記決定された重畳領域に重畳する処理を実行させるための画像処理プログラム。
【請求項１０】
コンピュータに、
画像選択指示に応じて、複数の画像の中から重畳対象の画像を選択する画像選択ステップと、
前記画像選択指示又は入力された注目対象に関する情報に基づいて、前記画像選択ステップによって選択された重畳対象の画像の中から利用者によって注目されない非注目領域を特定する領域特定ステップと、
前記画像選択ステップによって選択された重畳対象の画像のうち前記領域特定ステップによって特定された非注目領域の形状及び大きさと、前記画像選択ステップによって選択された重畳対象の画像に重畳される画像として予め記憶部に記憶されている重畳用画像の形状及び大きさとに基づいて、前記非注目領域のうち前記重畳用画像を重畳することが可能な重畳領域を決定する重畳領域決定ステップと、
前記重畳対象の画像のうち前記重畳領域決定ステップによって決定された重畳領域に前記重畳用画像を重畳する重畳ステップと、
を有し、
前記重畳領域決定ステップは、前記非注目領域の形状及び大きさと、前記重畳用画像の形状及び大きさとに基づいて、前記重畳用画像と縦横比が同一で前記非注目領域から逸脱しない最大面積の領域を求め、求めた領域を、前記重畳用画像を前記重畳用画像の面積が最大となる倍率で重畳可能な前記重畳領域として決定し、
前記重畳ステップは、前記重畳用画像を前記面積が最大となる倍率で前記決定された重畳領域に重畳する処理を実行させるための画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
開示の技術は画像処理装置、画像処理方法及び画像処理プログラムに関する。
【背景技術】
【０００２】
地図、衛星写真、航空写真など、様々な画像（動画像含む）を利用者に配信するサービスが知られている。こうしたサービスにおいて、利用者により利用される原画像の一部に広告などの付加的な画像（以下、重畳用画像という）を重畳した重畳画像を配信する形態も知られている。
【０００３】
上記サービスにおいては、従来、利用者の利便性を損なわないようにするために、利用者によって注目されない領域（以下、非注目領域という）として予め定められた固定的な領域、例えば原画像の端部等に小さなサイズで重畳用画像を重畳するのが通例であった。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００８−８７００号公報
【特許文献２】特開２００５−３３１４１３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、利用者により利用される画像及び該画像の使用目的によっては、利用者が実際に注目する重要な領域の位置や大きさが固定的に定まらないため、非注目領域も固定的に定まらない場合がある。例えば、台風の雲が一部に写っている衛星写真を利用者が希望した場合、雲の様子に着目する利用者であれば雲が写っている領域が重要になる可能性が高く、陸地の状況に着目する利用者であれば雲が写っている領域は重要ではない可能性が高い。また、雲が写っている領域の大きさや位置も画像によって異なる。
【０００６】
開示の技術は、利用者により利用される画像毎に利用者によって注目される注目領域の位置及び大きさが変動する場合であっても、利用者の利便性を損なわない領域に重畳用画像を重畳することを目的とする。
【課題を解決するための手段】
【０００７】
開示の技術は、画像選択指示に応じて、複数の画像の中から重畳対象の画像を選択し、前記画像選択指示又は入力された注目対象に関する情報に基づいて、前記選択した重畳対象の画像の中から利用者によって注目される注目領域を特定する。また、開示の技術は、前記選択した重畳対象の画像のうち、少なくとも前記注目領域を除外した非注目領域の形状及び大きさと、重畳用画像の形状及び大きさと基づいて、前記非注目領域のうち前記重畳用画像を重畳することが可能な重畳領域を決定する。重畳用画像は、選択した重畳対象の画像に重畳される画像として予め記憶部に記憶されている。開示の技術は、前記重畳対象の画像のうち前記決定した重畳領域に前記重畳用画像を重畳する。
なお、重畳領域を決定する際には、重畳用画像と縦横比が同一で非注目領域から逸脱しない最大面積の領域を求め、求めた領域を、重畳用画像を重畳用画像の面積が最大となる倍率で重畳可能な重畳領域として決定する。そして、重畳用画像を前記面積が最大となる倍率で前記決定した重畳領域に重畳する。
【０００８】
また開示の技術の他の態様は、画像選択指示に応じて、複数の画像の中から重畳対象の画像を選択し、前記画像選択指示又は入力された注目対象に関する情報に基づいて、前記選択した重畳対象の画像の中から利用者によって注目されない非注目領域を特定する。開示の技術は、前記選択した重畳対象の画像のうち前記特定した非注目領域の形状及び大きさと、重畳用画像の形状及び大きさとに基づいて、前記非注目領域のうち前記重畳用画像を重畳することが可能な重畳領域を決定する。開示の技術は、前記重畳対象の画像のうち前記決定した重畳領域に前記重畳用画像を重畳する。
なお、重畳領域を決定する際には、重畳用画像と縦横比が同一で非注目領域から逸脱しない最大面積の領域を求め、求めた領域を、重畳用画像を重畳用画像の面積が最大となる倍率で重畳可能な重畳領域として決定する。そして、重畳用画像を前記面積が最大となる倍率で前記決定した重畳領域に重畳する。
【発明の効果】
【０００９】
開示の技術は、利用者により利用される画像毎に利用者によって注目される注目領域の位置及び大きさが変動する場合であっても、利用者の利便性を損なわない領域に重畳用画像を重畳することができる、という効果を有する。
【図面の簡単な説明】
【００１０】
【図１】第１〜第４実施形態に係る画像処理装置の概略構成図である。
【図２】原画像テーブルの一例を示す図である。
【図３】認識結果テーブルの一例を示す図である。
【図４】重畳用画像テーブルの一例を示す図である。
【図５】第１〜第４実施形態に係る画像認識部の概略構成図である。
【図６】画像認識処理の一例を説明する説明図である。
【図７】文字認識部の文字認識処理の具体例を説明する説明図である。
【図８】画像処理装置をプログラムによって実現する態様におけるハードウェア構成の一例を示す概略ブロック図である。
【図９】第１実施形態に係る画像処理の一例を示すフローチャートである。
【図１０】注目領域特定処理の一例を示すフローチャートである。
【図１１】最大領域探索処理の一例を示すフローチャートである。
【図１２】画像選択情報の入力から注目領域を特定するまでの処理の流れを概念的に説明する説明図である。
【図１３】重畳用画像、非注目領域、及び重畳領域の具体例を示す図である。
【図１４】図１１に示す最大領域探索処理を模式的に説明する説明図である。
【図１５】縦横比を固定として非注目領域内から重畳領域を探索する場合の探索結果の一例を示す図である。
【図１６】（Ａ）は、重畳対象の原画像のオブジェクト認識結果例を示す図であり、（Ｂ）は、原画像に重畳用画像を重畳した重畳画像の例を示す図である。図１１に示す最大領域探索処理を模式的に説明する説明図である。
【図１７】マッチング用タグが互いに等しい複数の重畳用画像が登録されている重畳用画像テーブルの一例を示す図である。
【図１８】第２実施形態に係る画像処理を示すフローチャートである。
【図１９】第３実施形態に係る画像処理を示すフローチャートである。
【図２０】第３実施形態係る画像処理であって、優先度を用いる場合の画像処理のフローチャートである。
【図２１】優先度を用いて注目領域を特定する場合の注目領域特定処理のフローチャートである。
【図２２】（Ａ）は、優先度の指定結果を示す優先度テーブルの一例を示す図であり、（Ｂ）は、優先度に応じてマージした後の各領域の位置及びサイズを登録した領域テーブルの一例を示す図である。
【図２３】互いに優先度が異なる非注目領域Ｐ０２及び非注目領域Ｐ０３の各々で抽出された重畳領域候補の位置を表形式で表わした図である。
【図２４】（Ａ）は非注目領域の一例、（Ｂ）は非注目領域内に収まる範囲内で重畳用画像の傾きを変更せずに倍率を変更して原画像に重畳させた図、（Ｃ）は非注目領域内に収まる範囲内で重畳用画像の傾き及び倍率を変更して原画像に重畳させた図である。
【図２５】重畳用画像の傾きを変更可能とする場合の最大領域探索処理の方法を説明する説明図である。
【図２６】（Ａ）は非注目領域の一例、（Ｂ）は非注目領域内に収まる範囲内で重畳用画像の縦横比を変更せずに倍率を変更して原画像に重畳させた図、（Ｃ）は非注目領域内に収まる範囲内で重畳用画像の縦横比及び倍率を変更して原画像に重畳させた図である。
【図２７】縦横比の変更が可能である場合における最大領域探索処理の一例を示すフローチャートである。
【図２８】図２７に示す最大領域探索処理を模式的に説明する説明図である。
【図２９】重畳条件を指定する指定画面の具体例を示す図である。
【図３０】（Ａ）は、重畳用画像テーブルの一例を示す図であり、（Ｂ）は、重畳条件を登録した重畳条件テーブルの一例を示す図である。
【図３１】傾きを変更して最大領域を探索したときの探索結果の一例をプロットした図である。
【発明を実施するための形態】
【００１１】
以下、図面を参照して開示の技術の実施形態を詳細に説明する。
【００１２】
〔第１実施形態〕
【００１３】
図１には、本実施形態に係る画像処理装置１０が示されている。画像処理装置１０は、利用者が指定した画像に対して付加的な画像（例えば広告や何らかの情報を表わす画像等）を重畳する処理を行う。以下、付加的な画像を重畳用画像といい、重畳用画像が重畳される元々の画像を原画像といい、原画像に重畳用画像が重畳された画像を重畳画像という。なお、重畳画像は、例えば、利用者に対して予め定められた手段を用いて提供される（閲覧可能な状態にする）が、該重畳画像を利用者に提供する処理を画像処理装置１０とは別の装置で行ってもよいし、画像処理装置１０が行ってもよい。本実施形態では、重畳画像を利用者に提供する処理についての説明を省略する。
【００１４】
画像処理装置１０は、入力部１２、画像選択部１４、領域特定部１６、重畳用画像選択部１８、重畳領域決定部２０、重畳部２２、出力部２４、画像記憶部２６、認識結果記憶部２８、重畳用画像記憶部３０、重畳画像記憶部３２、及び画像認識部４０を有する。なお、ここでは、画像記憶部２６、認識結果記憶部２８、重畳用画像記憶部３０、及び重畳画像記憶部３２が、画像処理装置１０に設けられている場合を例に挙げて説明するが、これら記憶部が画像処理装置１０とは別の装置に設けられていてもよい。また、本実施形態では、画像認識部４０が画像処理装置１０内に設けられている場合を例に挙げて説明するが、画像認識部４０が画像処理装置１０とは別の装置に設けられていてもよい。
【００１５】
画像記憶部２６には、原画像の画像データが複数記憶されている。また、画像記憶部２６には、画像記憶部２６に画像データが記憶された個々の原画像の属性情報を登録した原画像テーブルも記憶されている。図２に、原画像テーブルの一例を示す。原画像テーブルには、原画像の属性情報として、原画像ＩＤ、画像パス、選択用タグ、画像サイズ、及び認識結果テーブルＩＤの各情報が登録されている。
【００１６】
「原画像ＩＤ」は、原画像の各々に付与される識別情報である。「画像パス」は、個々の原画像の画像データが記憶されている記憶領域のアドレスである。「選択用タグ」は、原画像テーブルに登録されている複数の原画像の中から、原画像を選択する際のキーワードとして予め付与されている情報である。選択用タグとして、例えば、原画像に含まれる画像の内容を示す情報が登録されていてもよい。「画像サイズ」は、原画像の大きさを示す情報であって、“横（＝水平方向、ｘ軸方向）の画素数×縦（＝垂直方向、ｙ軸方向）の画素数”で表わされている。「認識結果テーブルＩＤ」は、対応する認識結果テーブルを特定する情報である。本実施形態では、後述するように、原画像毎に、原画像に含まれるオブジェクト（物体、人の顔、文字などの認識対象をいう）を認識する画像認識処理が行われるが、該画像認識処理により得られた認識結果は、認識結果テーブルに登録される。この認識結果テーブルを特定する情報が認識結果テーブルＩＤである。従って、１つの原画像に対応して、１つの認識結果テーブルが対応付けられ、対応付けられた認識結果テーブルＩＤが原画像テーブルに登録される。
【００１７】
認識結果テーブルは、画像認識部４０によって生成され、認識結果記憶部２８に記憶される。図３に、認識結果テーブルの一例を示す。認識結果テーブルには、認識結果を表わす情報として、認識結果テーブルＩＤ、カテゴリ、認識内容、位置（左上）、及びオブジェクトサイズの各情報が登録されている。
【００１８】
「認識結果テーブルＩＤ」は、認識結果テーブル毎に付与される識別情報である。一方、「カテゴリ」、「認識内容」、「位置（左上）」、及び「オブジェクトサイズ」の各情報は、画像認識部４０により原画像から認識されたオブジェクト毎に付与される。
【００１９】
「カテゴリ」は、オブジェクトを認識した認識処理部の種類を示す。本実施形態では、後述するように、複数種類の認識処理部を備えた画像認識部４０により画像認識処理が行われ（図５も参照）、各認識処理部により認識される認識対象の種類が異なる。本例では、「カテゴリ」により、オブジェクトを認識した認識処理部が特定されることとなる。例えば、物体を認識対象とする認識処理部（物体認識部４２）により認識されたオブジェクトは、カテゴリとして“物体認識”を示す情報が登録される。また、例えば、顔を認識対象とする認識処理部（顔認識部４４）により認識されたオブジェクトは、カテゴリとして“顔認識”を示す情報が登録される。また、文字を認識対象とする認識処理部（文字認識部４６）により認識されたオブジェクトは、カテゴリとして“テキスト”を示す情報が登録される。「認識内容」は、認識されたオブジェクトの内容を示す情報である。例えば、図３に示す認識結果テーブルには、カテゴリが“物体認識”のオブジェクトが３つ登録されており、これら３つのオブジェクトの認識内容として、各々“家屋”、“自動車”、“人”が登録されている。
【００２０】
「位置（左上）」は、認識されたオブジェクトの原画像における位置を示す情報である。本実施形態では、原画像の左下の頂点をｘｙ座標系の原点(0,0)としたときの、オブジェクトの左上の座標値が「位置（左上）」として登録される。「オブジェクトサイズ」は、オブジェクトの大きさを示す情報であって、“横の画素数×縦の画素数”で表わされている。なお、ここでは、「オブジェクトサイズ」を例えばオブジェクトに外接する矩形領域等のサイズとした例を説明しているが、これに限られるものではなく、個々のオブジェクトの形状及びサイズを表わす情報を認識結果テーブルに格納するようにしてもよい。
【００２１】
重畳用画像記憶部３０には、重畳用画像の画像データが複数記憶されている。また、重畳用画像記憶部３０には、重畳用画像記憶部３０に画像データが記憶されている重畳用画像の各々の属性情報を登録した重畳用画像テーブルも記憶されている。図４に、重畳用画像テーブルの一例を示す。重畳用画像テーブルには、重畳用画像の属性情報として、重畳用画像ＩＤ、画像パス、マッチング用タグ、及び画像サイズの各情報が登録されている。
【００２２】
「重畳用画像ＩＤ」は、重畳用画像の各々に付与された識別情報である。「画像パス」は、重畳用画像の画像データが記憶されている記憶領域のアドレスである。「マッチング用タグ」は、記憶されている複数の重畳用画像の中から重畳用画像を選択する際のキーワードとして予め付与されている情報である。本実施形態において、「マッチング用タグ」は、原画像テーブルに登録された「選択用タグ」として用いられたキーワードのいずれかに対応するように付与されている。原画像の選択用タグに対応するマッチング用タグが付与された重畳用画像は、該原画像に重畳する画像として後述する重畳用画像選択部１８により選択される。「画像サイズ」は、重畳用画像の大きさを示す情報であって、“横の画素数×縦の画素数”で表わされている。本実施形態では、重畳用画像の形状が矩形である場合を例に挙げて説明するが、重畳用画像は矩形でなくてもよい。
【００２３】
重畳画像記憶部３２には、重畳画像の画像データが記憶される。
【００２４】
入力部１２は、重畳対象の原画像を画像記憶部２６から選択するためのキーワードを、画像選択情報として利用者に入力させる。入力部１２は、例えば、利用者に画像選択情報の入力を促す画像や音声を出力し、利用者は、該画像や音声に従って、例えばキーボード等の操作部を操作して画像選択情報を入力する。利用者は、画像選択情報を入力することにより原画像を指定することができる。なお、本実施形態では、画像選択情報がキーワードである場合について説明するが、原画像の特徴を示す情報であってもよいし、原画像を特定するための条件を表わす情報であってもよい。
【００２５】
また、入力部１２は、重畳対象の原画像から、利用者によって注目される注目領域を特定するためのキーワードを、注目対象に関する情報（注目領域特定情報）として利用者に入力させる。入力部１２は、例えば、利用者に注目領域特定情報の入力を促す画像や音声を出力し、利用者は、該画像や音声に従って、例えばキーボード等の操作部を操作して注目領域特定情報を入力する。本実施形態では、注目領域特定情報がキーワードである場合について説明するが、注目領域特定情報は、注目領域の特徴を示す情報であってもよいし、注目領域を特定するための条件を表わす情報であってもよい。なお、画像選択情報が「衛星写真」、注目領域特定情報が「雲」等のように互いに異なるキーワードとなる場合もあれば、画像選択情報及び注目領域特定情報の双方が同じキーワード（例えば「自動車」等）となる場合もある。後者の場合には、注目領域特定情報の入力を省略し、画像選択情報を注目領域特定情報と兼用してもよい。
【００２６】
画像選択部１４は、上記入力された画像選択情報に基づいて、画像記憶部２６に記憶されている複数の原画像から重畳対象の原画像を選択する。
【００２７】
領域特定部１６は、上記入力された注目領域特定情報（或いは画像選択情報）に基づいて、利用者によって注目される注目領域を、画像選択部１４で選択された原画像から特定する。
【００２８】
重畳用画像選択部１８は、重畳用画像記憶部３０に記憶された重畳用画像の中から、原画像に重畳させる重畳用画像を選択する。本実施形態では、重畳用画像選択部１８は、画像選択部１４で選択された原画像の選択用タグに対応するマッチング用タグが対応付けられた重畳用画像を選択する。
【００２９】
重畳領域決定部２０は、原画像における注目領域を除外した領域（以下、非注目領域という）から、重畳用画像選択部１８で選択された重畳用画像を重畳する領域である重畳領域を決定する。本実施形態では、原画像に重畳用画像を重畳するときの重畳用画像の倍率を可変としており、重畳領域決定部２０は、非注目領域から、重畳用画像を最大サイズ（最大面積）となる倍率で重畳可能な領域を探索し、該領域を重畳領域として決定する。
【００３０】
重畳部２２は、画像選択部１４で選択された原画像のうち、重畳領域決定部２０で決定された重畳領域に、重畳用画像選択部１８で選択された重畳用画像を、重畳領域内で最大サイズとなるようにその倍率を変更した状態で重畳し、重畳画像を生成する。
【００３１】
出力部２４は、重畳部２２で生成された重畳画像を重畳画像記憶部３２に出力し、重畳画像記憶部３２に記憶させる。重畳画像記憶部３２に記憶された重畳画像は、利用者に提供される。
【００３２】
ここで、画像認識部４０について説明する。図５は、画像認識部４０の構成を示す構成図である。画像認識部４０は、認識対象であるオブジェクトの種類に応じた認識処理部を複数備えている。本実施形態では、画像認識部４０は、認識処理部として、物体認識部４２、顔認識部４４、及び文字認識部４６の３つの認識処理部を備えている。
【００３３】
物体認識部４２は、原画像に含まれる物体の画像を認識し、該物体の種類（内容）、物体の大きさ、及び原画像における位置を示す情報を出力する。顔認識部４４は、原画像に含まれる人の顔を認識し、認識した顔の位置及び大きさを示す情報を出力する。文字認識部４６は、原画像に含まれる文字を認識し、認識した文字の内容、位置及び大きさを示す情報を出力する。
【００３４】
図６は、画像認識処理の一例を説明する説明図である。図６（Ａ）に示す原画像に対して、物体認識部４２、顔認識部４４、及び文字認識部４６の各々が認識処理を実行する。これにより、図６（Ｂ）に示すように、オブジェクトＯ１〜Ｏ５の５つのオブジェクトが認識される。オブジェクトＯ１〜Ｏ３は、物体認識部４２により認識された物体オブジェクトである。オブジェクトＯ４は、顔認識部４４により認識された顔オブジェクトである。オブジェクトＯ５は、文字認識部４６により認識された文字オブジェクトである。そして、これら各オブジェクトＯ１〜Ｏ５の各々の情報が、図６（Ｃ）に示す認識結果テーブルに登録される。
【００３５】
図７は、文字認識部４６の文字認識処理の具体例を説明する説明図である。ここでは、原画像に含まれる文字は、画像化されており、テキスト情報ではない。図７（Ａ）に示す原画像には複数の文字列を表わす画像が含まれているが、これら文字列を表わす画像の各々が文字認識部４６により認識対象のオブジェクトとして認識される。例えば、図７（Ａ）に示す原画像内の「八王子市」の文字列を表わす画像（以下、文字画像という）を文字オブジェクトとして文字認識部４６が認識すると、該文字オブジェクトの内容「八王子市」、位置及び大きさを示す情報が、文字認識部４６から出力される。
【００３６】
なお、文字認識部４６は、例えば、該文字画像全体を含む矩形領域を文字オブジェクトの領域として抽出してもよい。この場合、例えば、文字画像に外接する矩形領域を、文字オブジェクトの領域として抽出してもよい。また、図７（Ｂ）に示すように、文字画像を含み、該文字画像に外接する矩形領域よりも大きな矩形領域を該「八王子市」の文字画像に紐付け、該紐付けた領域を文字オブジェクトの領域として抽出してもよい。図７（Ｂ）では、八王子市だけでなく、「あきる野市」や「奥多摩町」等の他の文字画像についても、同様に、文字画像に外接する矩形領域よりも大きな領域が各文字画像に紐付けられている。従って、図７（Ｂ）に示すように、認識された複数のオブジェクトの領域の一部が互いに重なる場合もあり得る。なお、このように紐付けられる領域は矩形でなくてもよく、例えば、円形であってもよい。
【００３７】
なお、文字認識部４６だけでなく、物体認識部４２で認識される物体オブジェクトについても、物体の画像に外接する矩形領域を物体オブジェクトの領域として抽出してもよいし、該矩形領域よりも大きな矩形領域を物体オブジェクトの領域として抽出してもよい。同様に、顔認識部４４で認識される顔オブジェクトについても、顔の画像に外接する矩形領域を顔オブジェクトの領域として抽出してもよいし、該矩形領域よりも大きな矩形領域を顔オブジェクトの領域として抽出してもよい（図６（Ｂ）も参照）。以下では、画像認識部４０により認識される各オブジェクトの領域の形状が矩形である場合を例に挙げて説明する。
【００３８】
また、本実施形態では、画像認識部４０が、３つの認識処理部を備えて構成されている場合を例に挙げて説明するが、画像認識部４０を構成する認識処理部の数及び種類は、これらに限定されない。例えば、画像認識の対象である原画像の種類に応じて、原画像に含まれることが想定されるオブジェクトに対応した認識処理部を設けることができる。
【００３９】
なお、画像処理装置１０は、例えば図８に示すコンピュータ５０で実現することができる。コンピュータ５０はＣＰＵ(Central Processing Unit)５２、ディスプレイ５４、キーボード５６、通信ＩＦ(Interface)５８、不揮発性の第１記憶部６０、メモリ６６、及び不揮発性の第２記憶部６８を備え、これらはバス７０を介して互いに接続されている。
【００４０】
第１記憶部６０には、コンピュータ５０を画像処理装置１０として機能させるための画像処理プログラム６２及び画像認識プログラム群６４が記憶されている。ＣＰＵ３０は、画像処理プログラムを第１記憶部６０から読み出してメモリ６６に展開し、画像処理プログラムが有するプロセスを実行する。
【００４１】
画像処理プログラム６２は、入力プロセス、画像選択プロセス、領域特定プロセス、重畳用画像選択プロセス、重畳領域決定部プロセス、重畳プロセス、及び出力プロセスを有する。ＣＰＵ５２は、入力プロセスを実行することで、図１に示す入力部１２として動作する。またＣＰＵ５２は、画像選択プロセスを実行することで、図１に示す画像選択部１４として動作する。またＣＰＵ５２は、領域特定プロセスを実行することで、図１に示す領域特定部１６として動作する。またＣＰＵ５２は、重畳用画像選択プロセスを実行することで、図１に示す重畳用画像選択部１８として動作する。またＣＰＵ５２は、重畳領域決定プロセスを実行することで、図１に示す重畳領域決定部２０として動作する。またＣＰＵ５２は、重畳プロセスを実行することで、図１に示す重畳部２２として動作する。またＣＰＵ５２は、出力プロセスを実行することで、図１に示す出力部２４として動作する。
【００４２】
画像認識プログラム群６４は、物体認識プログラム、顔認識プログラム、及び文字認識プログラムを有する。ＣＰＵ５２は、物体認識プログラムを実行することで、図５に示す物体認識部４２として動作する。ＣＰＵ５２は、顔プログラムを実行することで、図５に示す顔認識部４４として動作する。ＣＰＵ５２は、文字認識プログラムを実行することで、図５に示す文字認識部４６として動作する。
【００４３】
第２記憶部６８には、画像記憶部２６、認識結果記憶部２８、重畳用画像記憶部３０、及び重畳画像記憶部３２の各記憶部に相当する記憶領域が設けられている。
【００４４】
通信ＩＦ５８は、他の装置と通信するためのインタフェースである。
【００４５】
次に本実施形態の作用として、画像処理装置１０で行われる画像処理について、図９〜図１１のフローチャート及び図１２〜図１４の説明図を参照して説明する。図９は、画像処理装置１０で行われる画像処理の一例を示すフローチャートである。図１０は、注目領域を特定する処理（以下、注目領域特定処理という）の一例を示すフローチャートである。図１１は、重畳用画像を最大サイズ（最も大きな面積）となる倍率で重畳可能な領域を非注目領域から探索する処理（以下、最大領域探索処理という）の一例を示すフローチャートである。図１２は、画像選択情報の入力から注目領域を特定するまでの処理の流れを概念的に説明する説明図である。図１３は、重畳用画像、非注目領域、及び重畳領域の具体例を示す図である。図１４は、図１１に示す最大領域探索処理を模式的に説明する説明図である。
【００４６】
なお、本実施形態において、図９を用いて説明する画像処理が開始される前に、画像認識部４０による画像認識が実行され、画像記憶部２６に記憶されている各原画像についての認識結果テーブルが既に認識結果記憶部２８に記憶されているものとする。
【００４７】
ステップ１００において、入力部１２は、例えば、利用者に画像選択情報の入力を促す画像をディスプレイ５４に表示して、利用者に画像選択情報を入力させる。利用者は、例えばキーボード５６等の操作部を操作して画像選択情報を入力する。図１２（Ａ）に、ディスプレイ５４に表示された入力画面の一例を示す。この入力画面は、画像選択情報としてのキーワードを入力するエリア７２と、検索ボタン７４とを有する。利用者が例えばキーボード５６を操作して、エリア７２に画像選択情報としてのキーワードを入力し、その後検索ボタン７４をマウス等（不図示）によりクリックすると、画像選択情報の入力が完了し、原画像の検索（選択）が開始される。なお、入力部１２は、通信回線やＬＡＮ等のネットワークに接続された他の装置と通信し、該他の装置から入力された画像選択情報を取得してもよい。
【００４８】
ステップ１０２において、画像選択部１４は、利用者により入力された画像選択情報に基づいて、画像記憶部２６に記憶された複数の原画像から原画像を選択する。例えば、画像選択部１４は、画像テーブルを参照し、利用者が入力した画像選択情報に該当する選択用タグを有する原画像を選択する。
【００４９】
なお、画像選択部１４は、原画像の選択用タグとして複数のキーワードが対応付けられている場合には、該複数のキーワードの少なくとも１つに上記画像選択情報が該当する場合に、該原画像を選択するようにしてもよい。また、画像選択部１４は、利用者が複数のキーワードを画像選択情報とし入力した場合には、該複数のキーワードの少なくとも１つに対応する選択用タグが付与された原画像を選択するようにしてもよい。また、画像選択部１４は、該複数のキーワードの全てに対応する選択用タグが付与された原画像を選択するようにしてもよい。また、画像選択部１４は、画像選択情報と選択用タグとが類似していれば、完全に一致していなくても、選択用タグが画像選択情報に該当すると判断して原画像を選択するようにしてもよい。
【００５０】
図１２（Ｂ）に示す原画像テーブルを例に挙げると、利用者が入力した画像選択情報「自動車」に対応する選択用タグを有する原画像は、原画像ＩＤ「Ａ０１」の原画像であるため、画像選択部１４は、原画像ＩＤ「Ａ０１」の原画像（図１２（Ｃ））を選択する。なお、利用者が入力した画像選択情報に該当する選択用タグを有する原画像が複数存在する場合には、例えば、該当する複数の原画像をディスプレイ５４に一覧表示し、所望の原画像を利用者に選択させることができる。
【００５１】
ステップ１０４において、入力部１２は、例えば、利用者に画像選択情報の入力を促す画像をディスプレイ５４に表示して、利用者に注目領域特定情報を入力させる。利用者は、例えばキーボード５６等の操作部を操作して注目領域特定情報を入力する。なお、入力部１２は、通信回線やＬＡＮ等のネットワークに接続された他の装置と通信し、該他の装置から入力された注目領域特定情報を取得してもよい。また、前述したように、画像選択情報が注目領域特定情報として使用される場合には、ステップ１０４（注目領域特定情報の入力）は省略される。従って、図９ではステップ１０４を破線で示した。
【００５２】
ステップ１０６において、領域特定部１６は、上記入力された注目領域特定情報（或いは画像選択情報）に基づいて、画像選択部１４で選択された原画像から注目領域を特定する。
【００５３】
図１０を参照して、注目領域特定処理の具体例を説明する。ステップ２００において、領域特定部１６は、上記画像選択部１４により選択された原画像の画像認識結果（すなわち、認識結果テーブルに登録された情報）を取得する。ステップ２０２において、領域特定部１６は、認識結果テーブルに登録されている各オブジェクトが、注目オブジェクトか否かを判断する。ここで、注目オブジェクトとは、上記注目領域特定情報（或いは画像選択情報）に該当する認識内容を有するオブジェクトをいう。上記説明した例では、認識内容が「自動車」であるオブジェクトが注目オブジェクトとして抽出される（図１２（Ｄ）も参照）。なお、領域特定部１６は、注目領域特定情報（或いは画像選択情報）と認識内容とが類似していれば、完全に一致していなくても、該認識内容が注目領域特定情報（或いは画像選択情報）に該当すると判断し、注目オブジェクトとして抽出するようにしてもよい。
【００５４】
ステップ２０４では、領域特定部１６は、注目オブジェクトが複数か否かを判断する。注目オブジェクトが複数である場合には、領域特定部１６は、ステップ２０６において、注目オブジェクトの領域をマージ（合成）する。ステップ２０８において、領域特定部１６は、該マージした領域を注目領域として特定する。該特定された注目領域を除外した領域が非注目領域となる。
【００５５】
一方、注目オブジェクトが１つである場合には、領域特定部１６は、ステップ２０４において否定判断し、ステップ２１０において、注目オブジェクトの領域を注目領域として特定する（図１２（Ｅ）も参照）。該特定された注目領域を除外した領域が非注目領域となる。
【００５６】
ステップ１０８において、重畳用画像選択部１８は、画像選択部１４で選択された原画像に重畳させる重畳用画像を重畳用画像記憶部３０に記憶された重畳用画像から選択する。本実施形態では、重畳用画像選択部１８は、画像選択部１４で選択された原画像の選択用タグに対応するマッチング用タグが対応付けられた重畳用画像を選択するものとする。なお、例えば、画像選択部１４で選択された原画像の選択用タグとして複数のキーワードが対応付けられている場合には、該複数のキーワードの少なくとも１つに該当するマッチング用タグが対応付けられた重畳用画像を選択してもよい。また、選択用タグとして記憶された複数のキーワードの各々に対応する複数のマッチング用タグが対応付けられている重畳用画像を選択してもよい。また、原画像ＩＤと重畳用画像ＩＤとを予め対応付けて記憶しておき、画像選択部１４で選択された原画像の原画像ＩＤに対応付けられた重畳用画像ＩＤが付与された重畳用画像を選択するようにしてもよい。
【００５７】
ステップ１１０において、重畳領域決定部２０は、非注目領域から、重畳用画像選択部１８で選択された重畳用画像を重畳する領域である重畳領域を決定する。本実施形態では、重畳領域決定部２０は、非注目領域から、重畳用画像を最大サイズ（最大面積）となる倍率で重畳可能な領域を探索し、該領域を重畳領域として決定する。本実施形態では、重畳部２２は、重畳用画像に利用者の注意が向きやすいように重畳用画像の倍率を変更し、非注目領域のうち可能な限り大きなサイズに拡大（元の重畳用画像のサイズによっては縮小）して原画像に重畳するようにしている。そこで、重畳領域決定部２０は、重畳用画像を最も大きなサイズで重畳できる領域を非注目領域から探索して、この領域を重畳領域として決定する。なお、本実施形態では、重畳部２２は、重畳用画像の縦横比（アスペクト比）及び傾きについては、重畳用画像記憶部３０に記憶されている元の重畳用画像の状態を維持したまま、倍率のみを変更するものとする。
【００５８】
以下、図１１を参照して、最大領域探索処理について具体例を詳細に説明する。本実施形態では、図１３（Ｂ）に示すように、原画像を格子状に分割し、領域特定部１６により抽出された非注目領域から、格子領域を基準とした非注目領域を抽出する。重畳領域決定部２０は、格子領域を基準とした非注目領域を対象として、最大領域探索処理を行う。なお、格子領域を小さくするほど、領域特定部１６により抽出された非注目領域との誤差は小さくなる。
【００５９】
ステップ３００において、重畳領域決定部２０は、非注目領域を格子状に分割したときの格子領域を単位として、重畳用画像の縦横比を満たす最小の矩形領域の幅をwidth_baseにセットし、該最小の矩形領域の高さをheight_baseにセットする。
【００６０】
ステップ３０２では、max_sizeに０をセットする。ここで、max_sizeは、１格子領域を１単位とした最大面積値がセットされる変数である。
【００６１】
ステップ３０４において、重畳領域決定部２０は、非注目領域のうち１つの格子領域を起点として選択する。ここでは、起点を、重畳領域の候補となる矩形領域の左下の頂点である場合を例に挙げて説明するが、これに限定されず、重畳領域の候補となる矩形領域の４つの頂点のいずれかとすることができる。更に、重畳領域決定部２０は、widthに０をセットし、heightに０をセットする。
【００６２】
ステップ３０６において、重畳領域決定部２０は、widthにwidth_baseを加算し、heightにheight_baseを加算する。
【００６３】
ステップ３０８において、重畳領域決定部２０は、非注目領域内で、現在選択されている格子領域を起点として、現在の幅(width)を横方向の長さ、高さ(height)を縦方向の長さとする矩形領域を確保できるか否かを判断する。
【００６４】
ステップ３１０において、重畳領域決定部２０は、上記ステップ３０８における判断の結果、上記矩形領域を確保可能と判断した場合には、ステップ３１２に進む。
【００６５】
ステップ３１２において、重畳領域決定部２０は、変数sizeに、height×widthの値をセットする。
【００６６】
ステップ３１４において、重畳領域決定部２０は、変数max_sizeと変数sizeを比較し、変数max_sizeが変数sizeより小さいか否かを判断する。重畳領域決定部２０は、ステップ３１４で肯定判断した場合には、ステップ３１６において、変数max_sizeに変数sizeの値をセットし、この時点の起点の情報も記憶しておき、ステップ３０６に戻って処理を繰り返す。なお、ステップ３１６において記憶された起点の情報は、変数max_sizeが次に更新されるまで保持される。一方、重畳領域決定部２０は、ステップ３１４で否定判断した場合には、ステップ３１６の処理は行わずに、ステップ３０６に戻る。
【００６７】
一方、ステップ３１０において、重畳領域決定部２０は、上記ステップ３０８における判断の結果、上記矩形領域を確保不可能と判断した場合には、ステップ３１８に進む。
【００６８】
ステップ３１８において、重畳領域決定部２０は、非注目領域の全ての格子領域を起点として上記処理を繰り返したか否かを判断する。重畳領域決定部２０は、ステップ３１８において否定判断した場合には、ステップ３２０において、起点の格子領域を変更し、widthに０をセットし、heightに０をセットして、ステップ３０６に戻る。
【００６９】
また、重畳領域決定部２０は、ステップ３１８において、肯定判断した場合には、ステップ３２２において、この時点でmax_sizeの面積を有する矩形領域が、最大面積の矩形領域であると判断する。そして、重畳領域決定部２０は、該最大面積の矩形領域を重畳領域として特定する。
【００７０】
図１１に示す処理例が図１４に模式的に示されている。図１４では、非注目領域がグレーで示されている。なお、ここでは図１３（Ａ）に示すように、縦横比が「縦（高さ）：横（幅）＝１：１」の正方形状の重畳用画像を原画像に重畳する場合を例に挙げて説明する。本例では、まず、図１４（Ａ）に示すように、起点が選択される。図１４（Ａ）において、黒色で塗りつぶされた格子領域が起点である。なお、重畳用画像が正方形であるため、ステップ３００においては、width_baseには１がセットされると共に、height_baseには１がセットされる。
【００７１】
そして、図１４（Ｂ）に示すように、まず、幅１、高さ１の矩形領域の面積１が変数max_sizeにセットされる。次に、width及びheightに１が加算されて、幅及び高さが２とされた場合には、図１４（Ｃ）に示すように、２×２の正方形状の矩形領域を確保できるため（黒塗りの領域）、矩形面積４が変数max_sizeにセットされる。次に、width及びheightに１が加算されて、幅及び高さが３とされた場合には、図１４（Ｄ）に示すように、矩形面積９が変数max_sizeにセットされる。
【００７２】
次に、width及びheightに１が加算されて、幅及び高さが４とされた場合には、図１４（Ｅ）に示すように、非注目領域内において、幅及び高さ４の矩形領域を確保することができない。従って、変数max_sizeは更新されない。次に、width及びheightに１が加算されて、幅及び高さが５とされた場合にも、図１４（Ｆ）に示すように、非注目領域内において、幅及び高さ５の矩形領域を確保することができない。なお、幅及び高さが４の矩形領域を確保できない場合には、幅及び高さが５の矩形領域も確保できないことが自明であるため、上記図１１に示すフローチャートでは、width及びheightを更新せずに、起点を次の格子領域にずらしている。
【００７３】
従って、図１４（Ａ）に示す格子領域を起点とした場合には、重畳用画像の縦横比を満たす範囲内で面積が最大だったのは、幅３、高さ３のときの面積９であるため、重畳領域決定部２０は、変数max_sizeに９がセットされた状態でwidthを増加し、起点をずらす。重畳領域決定部２０は、非注目領域の形がいびつな場合であっても、もれなく探索するため、起点の位置を変えながら、全ての格子領域を起点として探索するようにしている。
【００７４】
このような処理により、図１３（Ａ）に示すように、重畳用画像が正方形状であって、図１３（Ｂ）に示すグレーの領域が格子領域を基準とする非注目領域である場合には、図１３（Ｃ）に示す黒塗りの領域が重畳領域として抽出され、決定される。なお、図１１に示した重畳領域の決定において、例えば、重畳領域の最大サイズを注目領域のサイズ以下にする等のように、何らかの制限を設けてもよい。
【００７５】
なお、上記では重畳用画像が正方形状である場合について説明したが、重畳用画像が幅と高さとが異なる長方形状である場合も、同様に処理すればよい。この場合、図１１に例示した処理において、重畳用画像の縦横比が、「幅：高さ＝４：３」である場合には、ステップ３００において、width_baseには４がセットされると共に、height_baseには３がセットされる。これにより、例えば図１５に示す非注目領域内から重畳領域を探索すると、４：３を満たす最小の長方形、２番目に大きな長方形、及び３番目に大きな長方形の３つの長方形が探索される。このうち、最も大きな３番目の長方形の面積108が、変数max_sizeにセットされた状態で上記図１１の最大領域探索処理が終了する。従って、３番目の長方形の領域が重畳領域として決定される。
【００７６】
また、ここでは、非注目領域を格子状に分割したときの格子領域を単位として重畳領域探索処理を行う例について説明したが、画素単位で重畳領域探索処理を行うようにしてもよい。
【００７７】
図９において、ステップ１１０で重畳領域が決定された後は、ステップ１１２で、重畳部２２は、画像選択部１４で選択された原画像のうち重畳領域決定部２０で決定された重畳領域に、重畳用画像選択部１８で選択された重畳用画像を重畳し重畳画像を生成する。このとき、重畳部２２は、重畳用画像が上記決定した重畳領域の大きさとなるように、重畳用画像の倍率を変更して重畳領域に重畳する。なお、重畳部２２は、元の重畳用画像のサイズが重畳領域のサイズより小さい場合には、縦横同じ拡大率で拡大して重畳する。また、重畳部２２は、元の重畳用画像のサイズが決定された重畳領域のサイズより大きい場合には、拡大はしなくてもよく、例えば、縦横同じ縮小率で縮小して重畳するようにしてもよい。更にまた、重畳領域のサイズが注目領域のサイズよりも大きい場合には、注目領域のサイズよりも重畳用画像のサイズが小さくなるように倍率を変更した状態で重畳領域に重畳してもよい。図１６（Ａ）に重畳対象の原画像の一例を示し、図１６（Ｂ）に、（Ａ）の原画像に重畳用画像を重畳した重畳画像の一例を示す。図１６（Ａ）に示す自動車のオブジェクトの領域が注目領域である。図１６（Ｂ）では、該注目領域を除外した非注目領域に重畳用画像が重畳されている。この例では、重畳用画像は注目領域のサイズよりも小さなサイズで重畳されている。
【００７８】
ステップ１１４において、出力部２４は、重畳部２２で生成された重畳画像を重畳画像記憶部３２に出力し、重畳画像記憶部３２に記憶させる。
【００７９】
このように、本実施形態では、利用者の指定に応じて、原画像を選択し、利用者の指定に応じて、利用者によって注目される注目領域を特定し、該注目領域を除外した非注目領域から決定した重畳領域に重畳用画像を重畳するようにした。従って、利用者により利用される画像毎に利用者によって注目される注目領域の位置及び大きさが変動する場合であっても、該画像内の利用者の利便性を損なわない領域に重畳用画像を重畳することができる。
【００８０】
また、本実施形態では、上記画像処理が開始される前に、画像認識部４０による画像認識処理が実行される例について説明したが、これに限定されず、ステップ１０６の注目領域を特定する処理の前に画像認識処理が実行されればよい。従って、例えば、ステップ１０２の後であってステップ１０６の前に、ステップ１０２で選択された原画像について画像認識を行って、オブジェクトを抽出し、認識結果テーブルを作成するようにしてもよい。
【００８１】
また、本実施形態では、非注目領域から面積が最大となる領域を探索して重畳領域として決定する例について説明したが、面積が最大となる領域でなくても、非注目領域のいずれかの領域を重畳領域として決定するようにしてもよい。例えば、非注目領域の予め定められた条件を満たす領域、一例を挙げれば、注目領域に最も近い領域等、を重畳領域として決定してもよい。これによっても、利用者により利用される画像毎に利用者によって注目される注目領域の位置及び大きさが変動する場合であっても、該画像内の利用者の利便性を損なわない領域に重畳用画像を重畳することができる。
【００８２】
更にまた、上記では、領域特定部１６が画像選択情報又は注目領域特定情報に基づいて注目領域を特定する例について説明したが、これに限定されない。例えば、領域特定部１６が、画像選択情報又は注目領域特定情報に基づいて、利用者によって注目されない非注目領域を特定するものであってもよい。例えば、領域特定部１６は、注目オブジェクトを除くオブジェクトの領域及び画像認識部４０により認識されなかった領域を抽出し、これら領域をマージした領域を非注目領域として抽出するようにしてもよい。重畳領域決定部２０は、領域特定部１６により特定された非注目領域から上述したように重畳領域を決定する。
【００８３】
また、上記では、原画像から注目領域を除外した非注目領域とする例について説明したが、例えば、オブジェクトが存在しない領域を非注目領域として特定してもよい。
【００８４】
〔第２実施形態〕
【００８５】
次に開示の技術の第２実施形態を説明する。第２実施形態では、複数の重畳用画像を原画像に重畳する際に、各重畳用画像について重畳領域を決定して原画像に重畳する例について説明する。なお、第２実施形態において、画像処理以外は先に説明した第１実施形態と同一であるので、各部分に同一の符号を付して構成の説明を省略し、以下、本第２実施形態に係る画像処理について説明する。
【００８６】
図１７に、重畳用画像テーブルの一例を示す。図１７に示す重畳用画像テーブルには、マッチング用タグが互いに等しい重畳用画像が複数（この例では２つ）登録されている。従って、重畳用画像を選択する際に第１実施形態で説明した手法を用いる場合には、この２つの重畳用画像が、自動車という選択用タグが付与された原画像に重畳する重畳用画像として選択されることとなる。また、本実施形態の重畳用画像テーブルには、重畳用画像に対応させて優先度も登録される。優先度は、例えば、重畳用画像の提供者が予め指定することができる。
【００８７】
図１８は、第２実施形態に係る画像処理を示すフローチャートである。
【００８８】
ステップ４００からステップ４０８までの処理は、図９を用いて説明したステップ１００からステップ１０８までの処理と同じであるため、説明を省略する。ただし、本実施形態では、ステップ４０８において重畳用画像が複数選択される場合がある。
【００８９】
ステップ４１０において、重畳領域決定部２０は、ステップ４０８において、複数の重畳用画像が選択されたか否かを判断する。重畳領域決定部２０は、ステップ４１０において肯定判断した場合には、ステップ４１２において、優先度の高い重畳用画像から順に、非注目領域内から重畳領域を決定する。
【００９０】
本実施形態でも、重畳領域決定部２０は、非注目領域から、重畳用画像を最大サイズとなる倍率で重畳可能な領域を探索し、該領域を重畳領域として決定する。重畳領域の決定方法は、第１実施形態で説明した方法と同様に行えばよいため、ここでは説明を省略する。ただし、ステップ４０８で選択された複数の重畳用画像のうち、優先度が最も高い重畳用画像を除く他の重畳用画像については、非注目領域内の先に決定された重畳領域と重ならない領域を重畳領域として決定する。すなわち、重畳領域を決定する際に、該重畳領域を決定する重畳用画像より優先度の高い重畳用画像に対して先に決定された重畳領域を非注目領域から除いた領域から、重畳領域を決定する。これにより、優先度の高い重畳用画像ほど大きな面積の重畳領域が割り当てられる。
【００９１】
ステップ４１４において、重畳部２２は、重畳用画像の各々を、各重畳用画像に対して決定された重畳領域の各々に重畳し、重畳画像を生成する。
【００９２】
一方、ステップ４１０で否定判断された場合には、ステップ４１６及びステップ４１８の処理が行われる。なお、ステップ４１６及びステップ４１８の処理は、第１実施形態において図９を用いて説明したステップ１１０及びステップ１１２の処理と同じであるため、説明を省略する。更に又、ステップ４１４及びステップ４１８の後に行われるステップ４２０の処理も、第１実施形態において図９を用いて説明したステップ１１４の処理と同じであるため、説明を省略する。
【００９３】
このように、複数の重畳領域の各々に複数の重畳用画像を重畳させる場合であっても、該画像内の利用者の利便性を損なわない領域に各重畳用画像を重畳することができる。
【００９４】
なお、重畳用画像の縦横比を固定とする場合において、原画像に重畳するＮ個（Ｎは２以上の整数）の重畳用画像の縦横比が等しい場合には、先に縦横比を満たす範囲内で面積の降順で上位Ｎ個の重畳領域を探索し、該重畳領域の情報を保持しておいてもよい。そして、優先度が高い重畳用画像ほどサイズの大きな重畳領域に重畳されるように、各重畳領域を決定するようにしてもよい。
【００９５】
〔第３実施形態〕
【００９６】
次に開示の技術の第３実施形態を説明する。第３実施形態では、１つの重畳用画像を原画像に重畳する際に、非注目領域から複数の重畳領域候補が抽出され、該複数の重畳領域候補の中から１つの重畳領域を決定する例について説明する。なお、第３実施形態において、画像処理以外は先に説明した第１実施形態と同一であるので、各部分に同一の符号を付して構成の説明を省略し、以下、本第３実施形態に係る画像処理について、図１９を参照して説明する。図１９は、第３実施形態に係る画像処理を示すフローチャートである。
【００９７】
なお、本実施形態においても、図１９を用いて説明する画像処理が開始される前に、画像認識部４０による画像認識が実行され、画像記憶部２６に記憶されている各原画像についての認識結果テーブルが認識結果記憶部２８に記憶されているものとする。
【００９８】
ステップ５００からステップ５０８までの処理は、図９を用いて説明したステップ１００からステップ１０８までの処理と同じであるため、説明を省略する。
【００９９】
ステップ５１０において、重畳領域決定部２０は、非注目領域から、重畳用画像を最大サイズ（最も大きな面積）となる倍率で重畳可能な領域を探索し、該領域を重畳領域候補として抽出する。重畳領域候補の探索は、例えば、第１実施形態において図１１を用いて説明した方法と同様に行えばよい。なお、ここでは、重畳領域決定部２０は、ステップ３１４での否定判断後ステップ３０６の処理に戻る前に変数max_sizeと変数sizeとを比較し、両者が等しければ、この時点の起点の情報を追加的に記憶し、変数max_sizeが次に更新されるまで保持する（図示省略）。すなわち、本実施形態では、変数max_sizeと同じ面積を有する矩形領域が複数探索された場合には、該矩形領域の各々の情報が重畳領域候補として保持される。
【０１００】
ステップ５１２において、重畳領域決定部２０は、複数の重畳領域候補が抽出されたか否かを判断する。重畳領域決定部２０がステップ５１２において肯定判断した場合には、ステップ５１４において、入力部１２が、例えば、重畳領域の位置を指定するための位置情報の入力を利用者に促す画像をディスプレイ５４に表示して、利用者に該位置情報を入力させる。利用者は、例えばキーボード５６等の操作部を操作して位置情報を入力する。
【０１０１】
ステップ５１６において、重畳領域決定部２０は、入力された位置情報に基づいて、複数の重畳領域候補の中から、重畳領域を決定する。
【０１０２】
一方、重畳領域決定部２０は、ステップ５１２において否定判断した場合には、重畳領域候補は１つであるため、ステップ５１８において、該重畳領域候補を重畳領域として決定する。
【０１０３】
重畳領域が決定した後に行われるステップ５２０及びステップ５２２の処理は、第１実施形態において図９を用いて説明したステップ１１２及びステップ１１４と同じであるため、ここでは説明を省略する。
【０１０４】
このように、本実施形態では、利用者の指定に応じて、複数の重畳領域候補から利用者の指定に応じて重畳領域を決定することができるため、該画像内の利用者の利便性を損なわない領域に重畳用画像を重畳することができる。
【０１０５】
なお、上記では、利用者がその都度位置を指定し、該位置に基づいて重畳領域を決定する例について説明したが、これに限定されず、例えば、重畳領域決定部２０が、予め定められた条件に基づいて複数の重畳領域候補から重畳領域を決定するようにしてもよい。例えば、注目領域に最も近い重畳領域候補を重畳領域として決定する等の条件が予め設定されていた場合には、該条件に従って、注目領域に最も近い重畳領域候補を重畳領域として決定するようにしてもよい。また、原画像の中心からの距離が最小の位置の重畳領域候補を重畳領域として決定する条件が予め設定されていた場合には、原画像の中心に近い位置の重畳領域候補を重畳領域として決定するようにしてもよい。また、重畳領域を決定するための条件は、利用者が予め設定するようにしてもよいし、重畳用画像を提供した提供者が設定するようにしてもよい。
【０１０６】
更にまた、複数の重畳領域候補が抽出される例は、上記で説明した例に限られない。例えば、利用者がオブジェクト毎に優先度を定め、該優先度に応じて注目領域及び非注目領域を特定するケースにおいても、重畳領域候補が複数抽出される場合もある。以下、優先度を用いる場合に行われる画像処理の一例を説明する。図２０は、優先度を用いる場合の画像処理のフローチャートである。また、図２１は、優先度を用いて注目領域を特定する場合の注目領域特定処理のフローチャートである。
【０１０７】
図２０のステップ６００からステップ６０２までの処理は、図９を用いて説明したステップ１００からステップ１０２までの処理と同じであるため、説明を省略する。
【０１０８】
ステップ６０４において、入力部１２は、例えば、選択した原画像に対応する認識結果テーブルの各オブジェクトに対し、優先度の入力を利用者に促す画像をディスプレイ５４に表示して、利用者に該各オブジェクトの優先度を入力させる。利用者は、例えばキーボード５６等の操作部を操作して優先度を入力する。また、注目領域特定情報として、重畳用画像の重畳を許可するか否かの重畳許可情報も優先度毎に入力される。
【０１０９】
図２２（Ａ）は、優先度の指定結果を示す優先度テーブルの一例を示す図である。優先度テーブルは、例えば、第２記憶部６８に記憶される。ここで、優先度は０〜２までの３段階で指定されている。０が最も優先度が高く、２が最も優先度が低い。図２２（Ａ）に例示した優先度テーブルには、内容が「認識なし」の認識結果が含まれているが、これは、物体認識部４２により物体として認識されなかった領域を示している。本例では、実際にオブジェクトが認識されなかった領域も仮想的なオブジェクトとして該優先度テーブルに登録するようにしている。優先度テーブルは、原画像毎且つ利用者毎に生成される。また、図示は省略するが、利用者の指定により、優先度０のオブジェクトの領域は、重畳用画像の重畳が禁止されており、優先度１、２のオブジェクトの領域は、重畳用画像の重畳が許可されているものとする（重畳許可情報）。各オブジェクトの優先度及び重畳許可情報は利用者に応じて異なる。
【０１１０】
ステップ６０８において、領域特定部１６は、優先度に応じて、注目領域及び非注目領域を特定する。ここで、図２１を参照して、領域特定部１６の処理を詳細に説明する。領域特定部１６は、ステップ７００において、ステップ６０２で選択された原画像の画像認識結果として対応付けられている認識結果テーブルの情報を取得する。ステップ７０２において、領域特定部１６は、各オブジェクトに対して指定された優先度を優先度テーブルから取得する。ステップ７０４において、領域特定部１６は、同じ優先度の領域（オブジェクト）をマージする。図２２（Ｂ）にマージ後の各領域の位置及びサイズを登録した領域テーブルの一例を示す。なお、マージ後の領域は矩形に限定されず、矩形以外の複雑な形状を有していてもよい。ステップ７０６において、領域特定部１６は、マージ後の領域のうち優先度が最も高い領域を注目領域として特定し、それ以外の領域の各々を非注目領域として特定する。図２２（Ｂ）に示す例では、優先度が１の領域と優先度が２の領域の各々が非注目領域となる。なお、ここでは、優先度が最も高い領域を注目領域として特定する例について説明するが、利用者の指定によっては、例えば、優先度が最も高い領域及び優先度が２番目に高い領域を、非注目領域として特定してもよい。
【０１１１】
続いて、図２０のステップ６１０において、重畳領域決定部２０は、全ての非注目領域のうち、重畳用画像の重畳が許可されている優先度の非注目領域を、処理対象として設定する。ステップ６１２において、重畳領域決定部２０は、処理対象として設定された非注目領域が複数あるか否かを判断する。上記例では、重畳が許可されている非注目領域は、優先度１の非注目領域、及び優先度２の非注目領域の２つであるため、ステップ６１２では肯定判断される。
【０１１２】
重畳領域決定部２０は、ステップ６１２で肯定判断した場合には、ステップ６１６において、処理対象として設定した非注目領域毎に、重畳用画像を最大サイズで重畳できる領域を、重畳領域候補として抽出する。ステップ６１６における処理は、非注目領域毎に第１実施形態の図９を用いて説明したステップ１１０と同様に行えばよいため、ここでは説明を省略する。
【０１１３】
ステップ６１８においては、入力部１２が、例えば、複数の重畳領域候補のいずれかの位置を指定するための位置情報の入力を利用者に促す画像をディスプレイ５４に表示して、利用者に該位置情報を入力させる。例えば、利用者に対して、図２３に示すように非注目領域Ｐ０２、及び非注目領域Ｐ０３の各々で抽出された重畳領域候補の位置を表形式で表示するようにしてもよいし、原画像の各重畳領域候補の位置に枠画像を重畳させた画像を表示するようにしてもよい。これに対して、利用者は、例えばキーボード５６等の操作部を操作して該複数の重畳領域候補のいずれかの位置を指定するための位置情報を入力する。
【０１１４】
ステップ６２０において、重畳領域決定部２０は、入力された位置情報に基づいて、複数の重畳領域候補の中から、重畳領域を決定する。
【０１１５】
一方、ステップ６１２において否定判断された場合には、処理対象として設定された非注目領域は１つであることを示している。従って、重畳領域決定部２０は、ステップ６１４において、該処理対象として設定された非注目領域について、重畳用画像を最大サイズで重畳できる領域を、重畳領域候補として抽出する。ステップ６１６における処理は、第１実施形態の図９を用いて説明したステップ１１０と同様に行えばよいため、ここでは説明を省略する。
【０１１６】
ステップ６１４又はステップ６２０の後（重畳領域が決定した後）に行われるステップ６２２及びステップ６２４の処理は、第１実施形態において図９を用いて説明したステップ１１２及びステップ１１４と同じであるため、ここでは説明を省略する。
【０１１７】
なお、ステップ６１４及びステップ６１６においても、図１９を参照して説明したように、非注目領域毎に同じ面積の重畳領域候補が複数探索される場合がある。この場合には、図１９を参照して説明したように複数の重畳領域候補から重畳領域を決定するようにしてもよい。
【０１１８】
なお、本実施形態においても、上記画像処理が開始される前に画像認識部４０による画像認識処理が実行される例について説明したが、画像認識処理は図１９のステップ５０６或いは図２０のステップ６０４の処理の前に実行されればよく、上記例に限定されない。
【０１１９】
また、第３実施形態で説明した処理内容を、第２実施形態で説明した処理内容に適用してもよい。すなわち、優先度の異なる複数の非注目領域から抽出された複数の重畳領域候補の中から、優先度の高い重畳用画像ほど、大きな重畳領域が割り当てられるように、重畳領域を決定することもできる。
【０１２０】
〔第４実施形態〕
【０１２１】
次に開示の技術の第４実施形態を説明する。第１実施形態から第３実施形態では、重畳用画像の傾き及び縦横比は変更せずに、倍率のみを変更可能とする例について説明したが、本実施形態では、倍率だけでなく、傾き及び縦横比の少なくとも一方も変更可能とする例について説明する。なお、第４実施形態において、画像処理装置１０の構成は、先に説明した第１実施形態と同一であるので、各部分に同一の符号を付して画像処理装置１０の構成の説明を省略する。
【０１２２】
まず、重畳用画像の倍率及び傾きを変更可能とする場合について説明する。例えば、図２４（Ａ）に示す形状及び大きさの非注目領域が領域特定部１６により特定されたとする。重畳用画像が、図２４（Ｂ）に示す形状の画像である場合、重畳用画像の傾きや縦横比を変更せずに、重畳用画像の倍率をその面積が非注目領域内に収まる範囲内で最大となるように変更したとしても、変更後の重畳用画像の面積はそれほど大きくはならない。しかしながら、図２４（Ｃ）に示すように重畳用画像の傾きを非注目領域の形状に合わせて変更し、重畳用画像の倍率をその面積が非注目領域内に収まる範囲内で最大となるように変更すれば、傾きを変更しない場合に比べてその面積を大きくすることができる。
【０１２３】
このように重畳用画像の倍率だけでなく傾きも変更する場合には、重畳領域決定部２０は、図２５に示すように、非注目領域に対して回転させた（傾きを変更した）格子を重ねたときの各格子領域を起点として、図１１を用いて説明した最大領域探索処理を行う。また、重畳領域決定部２０は、例えば、…-15°、-10°、-5°、0°、+5°、+10°、+15°…のように、傾き（回転角度）を段階的に変化させ、各回転角度毎に最大領域探索処理を行う。この変化の幅を小さくするほど、探索精度が高まる。
【０１２４】
重畳領域決定部２０は、このようにして探索した領域の中で最大面積の領域を重畳領域として決定する。重畳部２２は、該重畳領域に重畳用画像を重畳して重畳画像を生成するが、このとき、該重畳領域を探索したときの回転角度まで重畳用画像を回転させ、更に重畳用画像が上記決定した重畳領域の大きさとなるよう、重畳用画像の倍率を変更して重畳する。
【０１２５】
次に、重畳用画像の倍率及び縦横比を変更可能とする場合について説明する。例えば、図２６（Ａ）に示す形状及び大きさの非注目領域が領域特定部１６により特定されたとする。重畳用画像が、図２６（Ｂ）に示す形状の画像である場合、重畳用画像の傾きや縦横比を変更せずに、重畳用画像の倍率をその面積が非注目領域内に収まる範囲内で最大となるように変更したとしても、変更後の重畳用画像の面積はそれほど大きくはならない。しかしながら、図２６（Ｃ）に示すように重畳用画像の縦横比を非注目領域の形状に合わせて変更し、重畳用画像の倍率をその面積が非注目領域内に収まる範囲内で最大となるように変更すれば、縦横比を変更しない場合に比べてその面積を大きくすることができる。
【０１２６】
このように縦横比の変更が可能である場合には、最大領域探索処理において、縦横比を考慮する必要がない。従って、重畳領域決定部２０は、例えば、図１１に示す最大領域探索処理に代えて、図２７に示す最大領域探索処理を行ってもよい。なお、本実施形態においても、図１３（Ｂ）に示すように、原画像を予め定められた大きさで格子状に分割し、領域特定部１６により抽出された非注目領域から、格子領域を基準とした非注目領域を抽出する。重畳領域決定部２０は、格子領域を基準とした非注目領域を対象として、最大領域探索処理を行う。
【０１２７】
ステップ８００において、重畳領域決定部２０は、変数max_sizeに１をセットする。ここでは、原画像を予め定められた大きさの格子状に分割したときの各格子領域を単位として表わされる最も小さい面積１が、変数max_sizeの初期値としてセットされる。
【０１２８】
ステップ８０２において、重畳領域決定部２０は、非注目領域のうち１つの格子領域を起点として選択する。更に、重畳領域決定部２０は、縦方向の変数であるheightに１をセットし、横方向の変数であるwidthに１をセットする（図２８（Ａ）も参照）。
【０１２９】
ステップ８０４において、重畳領域決定部２０は、非注目領域のうち、現在選択されている格子領域を起点とし、現状の幅(width)を矩形領域の横方向の長さとしたときに、該矩形領域の高さ方向の長さをどれだけ伸ばせるかを探索する。そして、重畳領域決定部２０は、探索の結果、伸ばすことができた最大の高さをheightにセットする。
【０１３０】
ステップ８０６において、重畳領域決定部２０は、変数sizeに、height×widthの値をセットする。
【０１３１】
ステップ８０８において、重畳領域決定部２０は、変数max_sizeと変数sizeを比較し、変数max_sizeが変数sizeより小さいか否かを判断する。重畳領域決定部２０は、ステップ８０８で肯定判断した場合には、ステップ８１０において、変数max_sizeに変数sizeの値をセットし、この時点の起点の情報も記憶しておき、ステップ８１２に進む。ここで記憶された起点の情報は変数max_sizeの次に更新されるまで保持される。一方、重畳領域決定部２０は、ステップ８０８で否定判断した場合には、ステップ８１０の処理は行わずに、ステップ８１２に進む。
【０１３２】
ステップ８１２において、重畳領域決定部２０は、非注目領域内において、幅(width)を伸ばせるか否かを判断する。重畳領域決定部２０は、ステップ８１２で肯定判断した場合には、ステップ８１４に進む。重畳領域決定部２０は、ステップ８１４において、変数widthに１を加算し、ステップ８０４に戻って、上記処理を繰り返す。
【０１３３】
また、重畳領域決定部２０は、ステップ８１２において、否定判断した場合には、ステップ８１６において、非注目領域の全ての格子領域を起点として上記処理を繰り返したか否かを判断する。重畳領域決定部２０は、ステップ８１６において否定判断した場合には、ステップ８１８において、起点の格子領域を変更し、widthに１をセットし、heightに１をセットして、ステップ８０４に戻る。
【０１３４】
重畳領域決定部２０は、ステップ８１６において、肯定判断した場合には、ステップ８２０において、この時点でmax_sizeの面積を有する矩形領域が、最大面積の矩形領域であると判断する。そして、重畳領域決定部２０は、該最大面積の矩形領域を重畳領域として特定する。
【０１３５】
図２７に示す処理例が図２８に模式的に示されている。図２８において、非注目領域がグレーで示されている。本例において、まず、図２８（Ａ）に示すように、起点が選択される。図２８（Ａ）において、黒色で塗りつぶされた格子領域が起点である。ここで、変数max_sizeの初期値として１がセットされる。
【０１３６】
そして、図２８（Ｂ）に示すように、幅１のときの最大面積４が変数max_sizeにセットされる。次に、widthに１が加算されて、幅が２とされた場合には、図２８（Ｃ）に示すように、最大で２×３の矩形領域を確保できるため（黒塗りの領域）、幅２のときの矩形面積６が変数max_sizeにセットされる。次に、widthに１が加算されて、幅が３とされた場合には、図２８（Ｄ）に示すように、幅３のときの最大の矩形面積９が変数max_sizeにセットされる。次に、widthに１が加算されて、幅が４とされた場合には、図２８（Ｅ）に示すように、幅４のときの最大の矩形面積は８であるが、幅３のときの最大の矩形面積９より小さいため、変数max_sizeは変更されない。次に、widthに１が加算されて、幅が５とされた場合には、図２８（Ｆ）に示すように、幅５のときの最大の矩形面積は５であるが、幅３のときの最大の矩形面積９より小さいため、変数max_sizeは変更されない。
【０１３７】
従って、図２８（Ａ）に示す格子領域を起点とした場合において、面積が最大だったのは、幅３、高さ３のときの面積９であるため、重畳領域決定部２０は、変数max_sizeに９がセットされた状態でwidthを増加し、起点をずらす。重畳領域決定部２０は、非注目領域の形がいびつな場合であっても、もれなく探索するため、起点の位置を変えながら、全ての格子領域を起点として探索するようにしている。
【０１３８】
このように、この例では、縦横比の制約がないため、非注目領域のうち確保できる最大の矩形領域が探索される。なお、ここでは、非注目領域を格子状に分割したときの格子領域を単位として重畳領域探索処理を行う例について説明したが、画素単位で重畳領域探索処理を行うようにしてもよい。
【０１３９】
重畳領域決定部２０は、このようにして探索した最大面積の領域を重畳領域として決定する。なお、図２７に示した重畳領域の決定において、例えば、重畳領域の最大サイズを注目領域のサイズ以下にする等のように、何らかの制限を設けてもよい。重畳部２２は、該重畳領域に重畳用画像を重畳して重畳画像を生成するが、このとき、重畳用画像が上記決定した重畳領域の大きさとなるよう、重畳用画像の縦横比及び倍率を変更して重畳する。なお、重畳領域のサイズが注目領域のサイズよりも大きい場合には、注目領域のサイズよりも重畳用画像のサイズが小さくなるように倍率を変更した状態で重畳領域に重畳してもよい。
【０１４０】
なお、画像処理装置１０を、傾き、縦横比、及び倍率の全てを変更可能に構成することもできる。この場合には、重畳領域決定部２０は、図２５を用いて説明したように、非注目領域に対して段階的に格子の傾き（回転角度）を変えつつ、傾き毎に図２８を用いて説明した最大領域探索処理を行い、全傾きに亘って最大サイズとなる領域を重畳領域として決定する。
【０１４１】
なお、本実施形態においても、第２実施形態で説明したように、原画像に複数の重畳用画像を重畳させる場合には、優先度の高い重畳用画像から順に重畳領域を決定してもよい。また、原画像に重畳する重畳用画像の数をＮ個（Ｎは２以上の整数）とした場合に、面積の降順で上位Ｎ個の重畳領域を先に探索して、該重畳領域の位置及びサイズの情報を保持しておいてもよい。そして、優先度が高い重畳用画像ほどサイズの大きな重畳領域に重畳されるように、各重畳領域を決定するようにしてもよい。また、第３実施形態で説明したように、優先度の異なる非注目領域から重畳領域候補を抽出して、重畳領域を決定する場合にも、傾き及び縦横比を可変とする本実施形態の処理方法を適用して、重畳領域を決定することができる。
【０１４２】
なお、原画像に重畳用画像を重畳すると共にシステム管理側から重畳用画像の提供者側（例えば広告主側）に対して重畳用画像の重畳に係る料金を請求する等のサービスを提供する際に、上記画像処理装置１０を適用してもよい。また、このサービスにおいて、重畳用画像の傾き、縦横比、及びサイズを変更可能とする場合、傾き、縦横比、及びサイズ（面積）によって提供者が負担する料金を異ならせてもよい。更に又、重畳用画像の傾き、縦横比、及びサイズを変更可能とする場合、重畳用画像の提供者が、重畳条件として、重畳用画像の傾き、縦横比、及びサイズの少なくとも１つについて許容範囲を指定するようにしてもよい。例えば、画像処理装置１０の入力部１２が、指定画面をディスプレイ５４に表示して、キーボード５６等の操作部を提供者が操作することにより、該許容範囲の指定情報を入力させるように構成してもよい。或いは、入力部１２が、画像処理装置１０とは別の端末装置に通信ＩＦ５８を介して指定画面を表示させ、重畳用画像の提供者が該端末装置を操作して該指定画面に入力した指定情報を、通信ＩＦ５８を介して取得してもよい。
【０１４３】
図２９（Ａ）に、傾き及び縦横比の許容範囲を指定する指定画面８０の一例を示す。指定画面８０には、重畳用画像の傾きの許容範囲を指定する指定エリア８２と、重畳用画像の縦横比の許容範囲を指定する指定エリア８４と、が含まれている。
【０１４４】
指定エリア８２では、「傾き不可」、「±１０度」、「±３０度」、及び「任意の傾きを許容」、の４つの条件を指定可能である。例えば、提供者が、重畳用画像の回転角度を常に０度として重畳用画像を傾けて原画像に重畳させることを禁止したい場合には、「傾き不可」を指定することができる。また、提供者が、回転角度を−１０度から＋１０度までの範囲内で、重畳用画像の傾きの変更を許可する場合には、「±１０度」を指定することができる。±３０度も同様である。また、提供者が、傾きに制限を設けたくない場合には、「任意の傾きを許容」を指定することができる。
【０１４５】
指定エリア８４では、「縦横比固定」、「縦横比±５％変形許容」、及び「縦横比±１０％変形許容」の３つの条件を指定可能である。例えば、重畳用画像の提供者が、縦横比を元の重畳用画像の縦横比のまま固定としたい場合には、「縦横比固定」を指定することができる。また、提供者が縦横比を元の重畳用画像の縦横比の−５％から＋５％までの変形を許容する場合には、「縦横比±５％変形許容」を指定することができる。ここで、「縦横比−５％」とは、「横の長さ／縦の長さ」が0.95となるように重畳用画像を変形することを意味する。また、「縦横比＋５％」とは、「横の長さ／縦の長さ」が1.05となるように重畳用画像を変形することを意味する。また、提供者が縦横比を元の重畳用画像の縦横比の−１０％から＋１０％までの変形を許容する場合には、「縦横比±１０％変形許容」を指定することができる。
【０１４６】
また、重畳用画像の傾き及び縦横比の許容範囲だけでなく許容サイズも指定する場合の指定画面８６を図２９（Ｂ）に示す。指定画面８６には、上記指定エリア８２，８４と共に、重畳用画像の許容サイズを指定する指定エリア８８も設けられている。
【０１４７】
指定エリア８２では、小、中、大の３つのサイズを指定可能である。重畳用画像の提供者は、重畳用画像をなるべく大きくさせることを希望するのが一般的であるが、例えば、サイズに応じて料金が異なる場合等には、料金を抑えるため、重畳用画像の提供者が重畳用画像のサイズを指定することもあり得る。
【０１４８】
なお、小、中、大、という抽象的な項目に対して、予め実際の面積を表わす値や、倍率が対応付けられていてもよい。例えば、「小」に対して面積r1以上r2未満の範囲が対応付けられ、「中」に対して面積r2以上r3未満の範囲が対応付けられ、「大」に対して面積r3以上r4未満の範囲が対応付けられていてもよい。また、面積を表わす単位は、格子領域の数であってもよいし、画素数であってもよい。更に又、「小」に対して倍率s1以上s2未満の範囲が対応付けられ、「中」に対して倍率s2以上s3未満の範囲が対応付けられ、「大」に対して倍率s3以上s4未満の範囲が対応付けられていてもよい。
【０１４９】
なお、上記指定画面８０、８８及び各指定エリア８２、８４、８６は一例であって、重畳条件の指定方法を上記に限定するものではない。
【０１５０】
このように重畳用画像の提供者から指定された重畳条件は、重畳用画像テーブルに登録しておくことができる。図３０（Ａ）に示すように、重畳用画像ＩＤに対応付けて、重畳条件を特定する重畳条件ＩＤを登録し、図３０（Ｂ）に示すように、重畳条件テーブルに、重畳条件ＩＤに対応付けて重畳条件を登録しておいてもよい。
【０１５１】
重畳領域決定部２０は、重畳用画像選択部１８により選択された重畳用画像に対応付けて登録されている重畳条件を参照して、該重畳条件を満たす範囲内で最大領域探索処理を実行すればよい。例えば、指定された傾きの許容範囲が±１０度の場合には、回転角度を−１０度から＋１０度までの範囲内で段階的に変更して、最大領域を探索すればよい。また、縦横比についても許容範囲が指定されている場合には、縦横比を許容範囲内で段階的に変更して、最大領域を探索すればよい。例えば、縦横比の許容範囲として1.25〜1.40が指定された場合を例に挙げると、元の重畳用画像の形状が「横：縦＝４：３」である場合には、「横の長さ／縦の長さ（縦横比）」は1.33となる。重畳領域決定部２０は、該重畳用画像の元々の縦横比1.33の矩形領域だけでなく、指定された許容範囲内の縦横比1.25（横：縦＝5：4）及び1.40（横：縦＝7：5）の各々を満たす矩形領域についても、探索されるように上記最大領域探索処理を実行する。傾き、縦横比、及びサイズの各々の許容範囲が重畳条件として指定されている場合には、重畳領域決定部２０は、各条件を満たす範囲内で最大の面積となるように重畳領域を決定すればよい。
【０１５２】
ところで、上記各実施形態では重畳用画像の面積が最大となるように重畳領域を決定し、重畳用画像の倍率等を変更して重畳する例について説明したが、重畳用画像の提供者が、面積を多少犠牲にしても傾きや縦横比の変更を小さめにしたいと希望する場合もある。この場合には、重畳領域決定部２０は、例えば、まず、面積以外の他の重畳条件を段階的に変更して各条件下で最大面積の領域を探索し、面積が極大となる重畳条件を抽出する。重畳領域決定部２０は、該抽出した重畳条件及び該条件の下で探索された最大面積、該他の重畳条件の変更量が０（最小）のときに探索された最大面積、該他の重畳条件の変更範囲内で探索された最大面積のうち最も大きな面積を、該他の重畳条件と共に提示する。重畳用領域の提供者は、提示された面積及び該面積に対応する他の重畳条件の組み合わせの中から１つを選択する。重畳領域決定部２０は、選択された組み合わせが示す面積の領域を重畳領域として決定することができる。
【０１５３】
一例として、傾きと面積との組み合わせを考える。まず、重畳領域決定部２０は、傾きを-90度から+90度までの範囲で（或いは、重畳用画像の提供者から指定された許容範囲内で）段階的に変更し、それぞれの傾きについて図２７を用いて説明した最大領域探索処理を行って最大面積を探索する。図３１に、探索結果の一例をプロットした図を示す。重畳領域決定部２０は、傾きが最小のときの探索結果、傾きに対して面積が極大となったときの探索結果、及び傾きの変更範囲内で面積が最大となったときの探索結果を示す情報を提示する。提示方法は特に限定されないが、例えば、ディスプレイ５４に図３１に示すグラフを表示してもよいし、表形式で表示してもよい。また、重畳領域決定部２０は、画像処理装置１０とは異なる別の端末装置に表示するように制御してもよい。重畳用画像の提供者は、該提示された探索結果（組み合わせ）から１つを選択することができる。例えば、キーボード５６を操作して、選択してもよいし、上記組み合わせの提示が他の端末装置に表示された場合には、該他の端末装置を操作することによって、希望する組み合わせを選択し、選択結果を通信ＩＦ５８を介して画像処理装置１０に送信してもよい。
【０１５４】
重畳領域決定部２０は、選択された組み合わせを示す情報を取得し、該組み合わせに対応する矩形領域を、重畳用画像を重畳する重畳領域として決定する。
【０１５５】
なお、縦横比及び面積の組み合わせを考える場合も、上記と同様に処理すればよい。更にまた、傾き、縦横比、及び面積の組み合わせを考える場合には、重畳領域決定部２０は、傾き、縦横比、及び面積を軸とする３次元状のグラフにおいて面積が極大となった探索結果を抽出し、上述したように提示するようにしてもよい。
【０１５６】
なお、ここでは、組み合わせを提示して重畳用画像の提供者に選択させる例について説明したが、これに限定されず、提供者に選択させずに、予め定められた条件を満たす組み合わせを選択して重畳領域を決定するようにしてもよい。予め定められた条件とは、例えば、極大となる組み合わせのうち、最も面積が大きい組み合わせ、或いは最も傾きが小さい組み合わせ、面積が予め定められた値以上で最も傾きが小さい組み合わせ等が挙げられる。
【０１５７】
また、傾き、縦横比、及び面積の各々に評価値を付与して、評価値の合計値が最も大きくなる組み合わせを求め、この組み合わせを満たす領域を重畳領域として決定してもよい。なお、評価値は、傾きについては、例えば、傾きが大きくなるほど評価値が小さくなるようにしてもよい。縦横比については、縦横比が１に近いほど評価値が高くなるようにしてもよい。面積については、面積が大きくなるほど評価値が大きくなるようにしてもよい。また、傾き、縦横比、面積の各パラメータに応じて重み付けを変更し、各パラメータの評価値×重み付けの合計値を求め、該合計値が最も大きくなる組み合わせを求め、この組み合わせを満たす領域を重畳領域として決定してもよい。
【０１５８】
また、重畳領域決定部２０が、上記極大となる組み合わせのうち予め定められた条件を満たす組み合わせを選択する場合において、上記評価値の手法を適用してもよい。すなわち、極大となる組み合わせの各々について上記評価値の合計を求め、該合計値が最も大きくなる組み合わせの領域を重畳領域として決定する等である。
【０１５９】
なお、上記各実施形態では、重畳用画像の傾き、縦横比、及び倍率を変更可能に構成したが、これに限定されず、例えば、重畳用画像の色を変更してもよい。重畳用画像が重畳される領域の周辺の色に合わせて重畳用画像が目立つように、変更することにより、より利用者の注意が向きやすくなる。
【０１６０】
また、上記各実施形態では、利用者が画像選択情報或いは注目領域特定情報として入力したキーワードに基づいて注目領域の特定を行う例について説明したが、これに限定されない。例えば、インターネット上の中古車販売サイトから利用者に対して画像を配信するサービスに画像処理装置１０を適用する場合、該サイトの特徴から、利用者は車に注目することは明らかである。従って、領域特定部１６は、原画像のうち車の画像領域を注目領域として特定し、重畳領域決定部２０は、該注目領域以外を非注目領域として重畳領域を決定すればよい。この場合には、利用者が中古車販売サイトにアクセスすることにより、該サイトの特徴である「車」を注目領域特定情報として指定したことになる。
【０１６１】
また、例えば、入力部１２により、ディスプレイ５４等の表示手段に複数のカテゴリをツリー状に表示したカテゴリメニューから、利用者にカテゴリを選択させることにより、注目領域特定情報を入力させるようにしてもよい。具体例を挙げれば、利用者が、動物−哺乳類−猫、というツリー状のカテゴリメニューを辿って猫を選択した場合には、領域特定部１６は、原画像のうち猫の画像領域を注目領域として特定してもよい。なお、例えば、画像認識部４０の認識レベルによっては、カテゴリメニューの中層のレベル「哺乳類」までしか認識されず、哺乳類の種類が区別して認識されない場合には、領域特定部１６は、原画像のうち哺乳類の画像領域を注目領域として特定してもよい。
【０１６２】
また、上記各実施形態では、重畳用画像を重畳する原画像が静止画である場合を例に挙げて説明したが、原画像が動画であってもよい。原画像が動画の場合には、動画像を構成する各フレームについて、上記実施形態と同様の処理を実施することにより、利用者の利便性を損なうことのない領域に重畳用画像を重畳することができる。なお、動画像の場合には、重畳領域を周知の技術でトラッキング（領域の動きを追跡する）ことで、重畳領域に重畳用画像を重畳させ続けることができる。
【０１６３】
更に、上記では画像処理プログラムが第１記憶部６０に記憶されている態様を説明したが、画像処理プログラムは、ＣＤ−ＲＯＭやＤＶＤ−ＲＯＭ、ＵＳＢメモリ等の可搬型の記録媒体に記録されている形態で提供することも可能である。
【０１６４】
なお、画像処理装置１０は、例えば半導体集積回路、より詳しくはＡＳＩＣ(Application Specific Integrated Circuit)等で実現することも可能であり、画像処理装置１０の各機能部は例えば電子回路等で実現することも可能である。
【０１６５】
本明細書に記載された全ての文献、特許出願及び技術規格は、個々の文献、特許出願及び技術規格が参照により取り込まれることが具体的かつ個々に記された場合と同程度に、本明細書中に参照により取り込まれる。
【符号の説明】
【０１６６】
１０ 画像処理装置
１２ 入力部
１４ 画像選択部
１６ 領域特定部
１８ 重畳用画像選択部
２０ 重畳領域決定部
２２ 重畳部
２４ 出力部
２６ 原画像記憶部
２８ 認識結果記憶部
３０ 重畳用画像記憶部
３２ 重畳画像記憶部
４０ 画像認識部
４２ 物体認識部
４４ 顔認識部
４６ 文字認識部
５０ コンピュータ
５２ ＣＰＵ
５４ ディスプレイ
５６ キーボード
５８ 通信ＩＦ
６０ 第１記憶部
６６ メモリ
６８ 第２記憶部
７０ バス
【図２】
0005867133.tif 000002
【図３】
0005867133.tif 000003
【図４】
0005867133.tif 000004
【図２２】
0005867133.tif 000005
【図２３】
0005867133.tif 000006
【図２４】
0005867133.tif 000007
【図１】
0005867133.tif 000008
【図５】
0005867133.tif 000009
【図６】
0005867133.tif 000010
【図７】
0005867133.tif 000011
【図８】
0005867133.tif 000012
【図９】
0005867133.tif 000013
【図１０】
0005867133.tif 000014
【図１１】
0005867133.tif 000015
【図１２】
0005867133.tif 000016
【図１３】
0005867133.tif 000017
【図１４】
0005867133.tif 000018
【図１５】
0005867133.tif 000019
【図１６】
0005867133.tif 000020
【図１７】
0005867133.tif 000021
【図１８】
0005867133.tif 000022
【図１９】
0005867133.tif 000023
【図２０】
0005867133.tif 000024
【図２１】
0005867133.tif 000025
【図２５】
0005867133.tif 000026
【図２６】
0005867133.tif 000027
【図２７】
0005867133.tif 000028
【図２８】
0005867133.tif 000029
【図２９】
0005867133.tif 000030
【図３０】
0005867133.tif 000031
【図３１】
0005867133.tif 000032