(57)【要約】【課題】より簡単かつ効果的に画像を表示する。【解決手段】ぼけ度検出部２１は、入力画像のぼけ度を検出する。選択部２２は、ぼけ度の検出結果に基づいて入力画像に施す画像処理を選択し、漫画調変換部２３乃至シャープネス処理部２８のうちの選択した画像処理を行うブロックに入力画像を供給する。漫画調変換部２３乃至シャープネス処理部２８のうちの入力画像の供給されたブロックは、入力画像に対して画像処理を施し、出力部２９に出力する。本発明は、画像処理装置に適用することができる。【選択図】図１
2010146264.tif 000002
【特許請求の範囲】
【請求項１】
入力画像に基づいて、前記入力画像のぼけの度合いを検出する検出手段と、
前記入力画像に含まれる情報の情報量を削減することにより前記入力画像を加工する複数の画像処理のうちの何れかを、前記ぼけの度合いの検出結果に基づいて選択する選択手段と、
選択された前記画像処理を前記入力画像に施す画像処理手段と
を備える画像処理装置。
【請求項２】
前記画像処理は、前記入力画像の解像度、色、前記入力画像の画素の画素値の階調数、テクスチャ、エッジ、またはビットレートのうちの少なくとも１つを減らす処理である
請求項１に記載の画像処理装置。
【請求項３】
前記選択手段は、前記ぼけの度合いを示す値が予め定められた閾値以上である場合、予め定められたいくつかの前記画像処理のうちの何れかを選択し、前記ぼけの度合いを示す値が前記閾値未満である場合、前記いくつかの前記画像処理とは組み合わせの異なる、他のいくつかの前記画像処理のうちの何れかを選択する
請求項１に記載の画像処理装置。
【請求項４】
前記選択手段は、前記ぼけの度合いを示す値と、各前記画像処理のこれまでに選択された頻度とに基づいて、前記画像処理を選択する
請求項３に記載の画像処理装置。
【請求項５】
入力画像に基づいて、前記入力画像のぼけの度合いを検出する検出手段と、
前記入力画像に含まれる情報の情報量を削減することにより前記入力画像を加工する複数の画像処理のうちの何れかを、前記ぼけの度合いの検出結果に基づいて選択する選択手段と、
選択された前記画像処理を前記入力画像に施す画像処理手段と
を備える画像処理装置の画像処理方法であって、
前記検出手段が前記入力画像の前記ぼけの度合いを検出し、
前記選択手段が前記画像処理を選択し、
前記画像処理手段が前記入力画像に、選択された前記画像処理を施す
ステップを含む画像処理方法。
【請求項６】
入力画像に基づいて、前記入力画像のぼけの度合いを検出し、
前記入力画像に含まれる情報の情報量を削減することにより前記入力画像を加工する複数の画像処理のうちの何れかを、前記ぼけの度合いの検出結果に基づいて選択し、
選択された前記画像処理を前記入力画像に施す
ステップを含む処理をコンピュータに実行させるプログラム。
【請求項７】
入力画像に基づいて、前記入力画像から複数の特徴の特徴量を抽出する抽出手段と、
前記入力画像に含まれる情報の情報量を削減することにより前記入力画像を加工する複数の画像処理のうちの何れかを、前記複数の特徴の特徴量に基づいて選択する選択手段と、
選択された前記画像処理を前記入力画像に施す画像処理手段と
を備える画像処理装置。
【請求項８】
前記特徴量として、前記入力画像の解像度、色の分布、色の偏り、前記入力画像の画素の画素値の階調数、ぼけの度合い、エッジ量、エッジ分布、テクスチャ量、またはテクスチャ分布のうちの少なくとも１つが前記入力画像から抽出される
請求項７に記載の画像処理装置。
【請求項９】
入力画像に基づいて、前記入力画像から複数の特徴の特徴量を抽出する抽出手段と、
前記入力画像に含まれる情報の情報量を削減することにより前記入力画像を加工する複数の画像処理のうちの何れかを、前記複数の特徴の特徴量に基づいて選択する選択手段と、
選択された前記画像処理を前記入力画像に施す画像処理手段と
を備える画像処理装置の画像処理方法であって、
前記抽出手段が前記入力画像から前記特徴量を抽出し、
前記選択手段が前記画像処理を選択し、
前記画像処理手段が前記入力画像に、選択された前記画像処理を施す
ステップを含む画像処理方法。
【請求項１０】
入力画像に基づいて、前記入力画像から複数の特徴の特徴量を抽出し、
前記入力画像に含まれる情報の情報量を削減することにより前記入力画像を加工する複数の画像処理のうちの何れかを、前記複数の特徴の特徴量に基づいて選択し、
選択された前記画像処理を前記入力画像に施す
ステップを含む処理をコンピュータに実行させるプログラム。
【請求項１１】
入力画像から、前記入力画像上の被写体の領域が有する特徴の第１の特徴量を抽出することで、前記被写体の領域を特定するための被写体特定情報を生成する生成手段と、
前記入力画像および前記被写体特定情報に基づいて、前記入力画像上の前記被写体の領域である被写体領域のぼけの度合いと、前記入力画像上の前記被写体領域以外の領域である背景領域のぼけの度合いとを検出する検出手段と、
前記入力画像に基づいて、前記被写体領域と前記背景領域とから、前記ぼけの度合いとは異なる複数の特徴の第２の特徴量を抽出する抽出手段と、
前記入力画像に含まれる情報の情報量を削減することにより前記入力画像を加工する複数の画像処理のうちの何れかを、前記ぼけの度合いおよび前記第２の特徴量に基づいて選択する選択手段と、
選択された前記画像処理を、前記入力画像の前記被写体領域または前記背景領域の少なくとも一方の領域に施す画像処理手段と
を備える画像処理装置。
【請求項１２】
前記選択手段は、前記被写体領域および前記背景領域のそれぞれに対して、前記画像処理を選択し、
前記画像処理手段は、前記被写体領域および前記背景領域のそれぞれに対して、選択された前記画像処理を施す
請求項１１に記載の画像処理装置。
【請求項１３】
前記選択手段は、前記被写体領域または前記背景領域のうちの前記ぼけの度合いのより大きい領域に対する前記画像処理を選択し、
前記画像処理手段は、前記ぼけの度合いのより大きい領域に対して、選択された前記画像処理を施す
請求項１１に記載の画像処理装置。
【請求項１４】
入力画像から、前記入力画像上の被写体の領域が有する特徴の第１の特徴量を抽出することで、前記被写体の領域を特定するための被写体特定情報を生成する生成手段と、
前記入力画像および前記被写体特定情報に基づいて、前記入力画像上の前記被写体の領域である被写体領域のぼけの度合いと、前記入力画像上の前記被写体領域以外の領域である背景領域のぼけの度合いとを検出する検出手段と、
前記入力画像に基づいて、前記被写体領域と前記背景領域とから、前記ぼけの度合いとは異なる複数の特徴の第２の特徴量を抽出する抽出手段と、
前記入力画像に含まれる情報の情報量を削減することにより前記入力画像を加工する複数の画像処理のうちの何れかを、前記ぼけの度合いおよび前記第２の特徴量に基づいて選択する選択手段と、
選択された前記画像処理を、前記入力画像の前記被写体領域または前記背景領域の少なくとも一方の領域に施す画像処理手段と
を備える画像処理装置の画像処理方法であって、
前記生成手段が前記被写体特定情報を生成し、
前記検出手段が前記被写体領域および前記背景領域の前記ぼけの度合いを検出し、
前記抽出手段が前記被写体領域および前記背景領域から前記第２の特徴量を抽出し、
前記選択手段が前記画像処理を選択し、
前記画像処理手段が、前記入力画像の前記被写体領域または前記背景領域の少なくとも一方の領域に、選択された前記画像処理を施す
ステップを含む画像処理方法。
【請求項１５】
入力画像から、前記入力画像上の被写体の領域が有する特徴の第１の特徴量を抽出することで、前記被写体の領域を特定するための被写体特定情報を生成し、
前記入力画像および前記被写体特定情報に基づいて、前記入力画像上の前記被写体の領域である被写体領域のぼけの度合いと、前記入力画像上の前記被写体領域以外の領域である背景領域のぼけの度合いとを検出し、
前記入力画像に基づいて、前記被写体領域と前記背景領域とから、前記ぼけの度合いとは異なる複数の特徴の第２の特徴量を抽出し、
前記入力画像に含まれる情報の情報量を削減することにより前記入力画像を加工する複数の画像処理のうちの何れかを、前記ぼけの度合いおよび前記第２の特徴量に基づいて選択し、
選択された前記画像処理を、前記入力画像の前記被写体領域または前記背景領域の少なくとも一方の領域に施す
ステップを含む処理をコンピュータに実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は画像処理装置および方法、並びにプログラムに関し、特に、より簡単かつ効果的に画像を提示できるようにした画像処理装置および方法、並びにプログラムに関する。
【背景技術】
【０００２】
従来、複数の画像を順番に表示していく、いわゆるスライドショー機能が知られている。例えば、スライドショー機能を利用すれば、ユーザはカメラにより撮像した画像を順番に表示させて鑑賞することができる。
【０００３】
このようなスライドショー機能では、画像の表示時に、画像をフェードイン、フェードアウトさせたり、スライドイン、スライドアウトさせたりすることができる。また、画像をスライドショー表示する場合に、表示対象の画像から特徴領域を抽出し、抽出された特徴領域の数に基づいて、画像上の一部をズーム表示させる表示方法も提案されている（例えば、特許文献１参照）。
【０００４】
【特許文献１】特開２００５−１８２１９６号公報
【発明の開示】
【発明が解決しようとする課題】
【０００５】
しかしながら、フェードインやズームなどの画像の表示効果は単調であり、またユーザ自身が撮像した画像は、その光景（被写体）が既知であるため、スライドショー時に得られるインパクトが薄く、ユーザが画像の鑑賞に飽きてしまうこともある。
【０００６】
さらに、スライドショー表示の対象となる画像の選択は、ユーザが撮像した画像が格納されているフォルダなどを指定することによりされるため、表示対象の画像のなかに、手振れなどによりぼけた画像が含まれることも多い。スライドショー時に、ぼけた画像が表示されると、ユーザに見苦しさを感じさせる恐れもある。
【０００７】
このように、上述した技術では、画像をより効果的に表示させることはできなかった。なお、ユーザが画像の所定の領域と、画像を加工することにより得られる効果とを指定することで、画像の指定された領域を加工する技術も知られており、そのような技術を利用して、スライドショー表示の対象の画像に、いわゆる特殊効果を施すことも可能である。しかしながら、そのような場合、特に、ぼけた画像を効果的に表示することはできるが、ユーザは、いちいち特殊効果を施す画像や領域を指定したり、特殊効果を選択したりしなければならず、面倒であった。
【０００８】
本発明は、このような状況に鑑みてなされたものであり、より簡単かつ効果的に画像を表示することができるようにするものである。
【課題を解決するための手段】
【０００９】
本発明の第１の側面の画像処理装置は、入力画像に基づいて、前記入力画像のぼけの度合いを検出する検出手段と、前記入力画像に含まれる情報の情報量を削減することにより前記入力画像を加工する複数の画像処理のうちの何れかを、前記ぼけの度合いの検出結果に基づいて選択する選択手段と、選択された前記画像処理を前記入力画像に施す画像処理手段とを備える。
【００１０】
前記画像処理は、前記入力画像の解像度、色、前記入力画像の画素の画素値の階調数、テクスチャ、エッジ、またはビットレートのうちの少なくとも１つを減らす処理とすることができる。
【００１１】
前記選択手段には、前記ぼけの度合いを示す値が予め定められた閾値以上である場合、予め定められたいくつかの前記画像処理のうちの何れかを選択させ、前記ぼけの度合いを示す値が前記閾値未満である場合、前記いくつかの前記画像処理とは組み合わせの異なる、他のいくつかの前記画像処理のうちの何れかを選択させることができる。
【００１２】
前記選択手段には、前記ぼけの度合いを示す値と、各前記画像処理のこれまでに選択された頻度とに基づいて、前記画像処理を選択させることができる。
【００１３】
本発明の第１の側面の画像処理方法またはプログラムは、入力画像に基づいて、前記入力画像のぼけの度合いを検出し、前記入力画像に含まれる情報の情報量を削減することにより前記入力画像を加工する複数の画像処理のうちの何れかを、前記ぼけの度合いの検出結果に基づいて選択し、選択された前記画像処理を前記入力画像に施すステップを含む。
【００１４】
本発明の第１の側面においては、入力画像に基づいて、前記入力画像のぼけの度合いが検出され、前記入力画像に含まれる情報の情報量を削減することにより前記入力画像を加工する複数の画像処理のうちの何れかが、前記ぼけの度合いの検出結果に基づいて選択され、選択された前記画像処理が前記入力画像に施される。
【００１５】
本発明の第２の側面の画像処理装置は、入力画像に基づいて、前記入力画像から複数の特徴の特徴量を抽出する抽出手段と、前記入力画像に含まれる情報の情報量を削減することにより前記入力画像を加工する複数の画像処理のうちの何れかを、前記複数の特徴の特徴量に基づいて選択する選択手段と、選択された前記画像処理を前記入力画像に施す画像処理手段とを備える。
【００１６】
前記特徴量として、前記入力画像の解像度、色の分布、色の偏り、前記入力画像の画素の画素値の階調数、ぼけの度合い、エッジ量、エッジ分布、テクスチャ量、またはテクスチャ分布のうちの少なくとも１つを前記入力画像から抽出することができる。
【００１７】
本発明の第２の側面の画像処理方法またはプログラムは、入力画像に基づいて、前記入力画像から複数の特徴の特徴量を抽出し、前記入力画像に含まれる情報の情報量を削減することにより前記入力画像を加工する複数の画像処理のうちの何れかを、前記複数の特徴の特徴量に基づいて選択し、選択された前記画像処理を前記入力画像に施すステップを含む。
【００１８】
本発明の第２の側面においては、入力画像に基づいて、前記入力画像から複数の特徴の特徴量が抽出され、前記入力画像に含まれる情報の情報量を削減することにより前記入力画像を加工する複数の画像処理のうちの何れかが、前記複数の特徴の特徴量に基づいて選択され、選択された前記画像処理が前記入力画像に施される。
【００１９】
本発明の第３の側面の画像処理装置は、入力画像から、前記入力画像上の被写体の領域が有する特徴の第１の特徴量を抽出することで、前記被写体の領域を特定するための被写体特定情報を生成する生成手段と、前記入力画像および前記被写体特定情報に基づいて、前記入力画像上の前記被写体の領域である被写体領域のぼけの度合いと、前記入力画像上の前記被写体領域以外の領域である背景領域のぼけの度合いとを検出する検出手段と、前記入力画像に基づいて、前記被写体領域と前記背景領域とから、前記ぼけの度合いとは異なる複数の特徴の第２の特徴量を抽出する抽出手段と、前記入力画像に含まれる情報の情報量を削減することにより前記入力画像を加工する複数の画像処理のうちの何れかを、前記ぼけの度合いおよび前記第２の特徴量に基づいて選択する選択手段と、選択された前記画像処理を、前記入力画像の前記被写体領域または前記背景領域の少なくとも一方の領域に施す画像処理手段とを備える。
【００２０】
前記選択手段には、前記被写体領域および前記背景領域のそれぞれに対して、前記画像処理を選択させ、前記画像処理手段には、前記被写体領域および前記背景領域のそれぞれに対して、選択された前記画像処理を施させることができる。
【００２１】
前記選択手段には、前記被写体領域または前記背景領域のうちの前記ぼけの度合いのより大きい領域に対する前記画像処理を選択させ、前記画像処理手段には、前記ぼけの度合いのより大きい領域に対して、選択された前記画像処理を施させることができる。
【００２２】
本発明の第３の側面の画像処理方法またはプログラムは、入力画像から、前記入力画像上の被写体の領域が有する特徴の第１の特徴量を抽出することで、前記被写体の領域を特定するための被写体特定情報を生成し、前記入力画像および前記被写体特定情報に基づいて、前記入力画像上の前記被写体の領域である被写体領域のぼけの度合いと、前記入力画像上の前記被写体領域以外の領域である背景領域のぼけの度合いとを検出し、前記入力画像に基づいて、前記被写体領域と前記背景領域とから、前記ぼけの度合いとは異なる複数の特徴の第２の特徴量を抽出し、前記入力画像に含まれる情報の情報量を削減することにより前記入力画像を加工する複数の画像処理のうちの何れかを、前記ぼけの度合いおよび前記第２の特徴量に基づいて選択し、選択された前記画像処理を、前記入力画像の前記被写体領域または前記背景領域の少なくとも一方の領域に施すステップを含む。
【００２３】
本発明の第３の側面においては、入力画像から、前記入力画像上の被写体の領域が有する特徴の第１の特徴量を抽出することで、前記被写体の領域を特定するための被写体特定情報が生成され、前記入力画像および前記被写体特定情報に基づいて、前記入力画像上の前記被写体の領域である被写体領域のぼけの度合いと、前記入力画像上の前記被写体領域以外の領域である背景領域のぼけの度合いとが検出され、前記入力画像に基づいて、前記被写体領域と前記背景領域とから、前記ぼけの度合いとは異なる複数の特徴の第２の特徴量が抽出され、前記入力画像に含まれる情報の情報量を削減することにより前記入力画像を加工する複数の画像処理のうちの何れかが、前記ぼけの度合いおよび前記第２の特徴量に基づいて選択され、選択された前記画像処理が、前記入力画像の前記被写体領域または前記背景領域の少なくとも一方の領域に施される。
【発明の効果】
【００２４】
本発明の第１の側面によれば、より簡単かつ効果的に画像を表示することができる。
【００２５】
また、本発明の第２の側面によれば、より簡単かつ効果的に画像を表示することができる。
【００２６】
さらに、本発明の第３の側面によれば、より簡単かつ効果的に画像を表示することができる。
【発明を実施するための最良の形態】
【００２７】
以下、図面を参照して、本発明を適用した実施の形態について説明する。
【００２８】
〈第１の実施の形態〉
［画像処理装置の構成］
図１は、本発明を適用した画像処理装置の一実施の形態の構成例を示す図である。
【００２９】
画像処理装置１１は、ぼけ度検出部２１、選択部２２、漫画調変換部２３、アニメ調変換部２４、ジオラマ調変換部２５、絵画調変換部２６、絵画調変換部２７、シャープネス処理部２８、および出力部２９から構成される。
【００３０】
この画像処理装置１１には、スライドショー表示の対象となる複数の入力画像が、順次、入力され、画像処理装置１１は、入力画像に画像処理を施すことで、入力画像を加工して出力画像に変換し、出力する。入力画像は、例えば、カメラなどの撮像装置により撮像された画像などとされる。
【００３１】
ぼけ度検出部２１は、供給された入力画像に基づいて、入力画像のぼけの度合いを検出し、その検出結果を選択部２２に供給する。なお、入力画像のぼけには、焦点位置のずれにより生じるピントのぼけだけでなく、撮像装置が動くことにより生じる、いわゆる手ぶれによるぼけも含まれるものとする。選択部２２は、ぼけ度検出部２１から供給された検出結果に基づいて、入力画像に施す、予め定められた複数の画像処理のうちの何れかを選択する。
【００３２】
入力画像に施される画像処理は、基本的には、入力画像の有する情報の情報量、すなわち、入力画像の解像度、色の数、入力画像の画素の画素値の階調数、テクスチャの量、エッジの量、ビットレートのうちの少なくとも何れかを減らす処理である。画像処理は、漫画調変換処理、アニメ調変換処理、ジオラマ調変換処理、絵画調変換処理、およびシャープネス処理から選択される。
【００３３】
ここで、漫画調変換処理は、入力画像の色を減らして、入力画像を漫画絵のような画像に変換する処理であり、アニメ調変換処理は、入力画像のテクスチャを減らして、入力画像上の似た色からなる１つの領域を１つの色の領域とする処理である。
【００３４】
また、ジオラマ調変換処理は、入力画像に均一の遠近感を与える処理であり、絵画調変換処理は、入力画像を、絵画のような画像に変換する処理である。絵画調変換処理には、入力画像の画素の画素値の階調数を減らす処理（以下、減色絵画調変換処理とも称する）と、減色絵画調変換処理が施された入力画像に対して、さらにマスクを用いた着色を行う処理（以下、重ね塗り絵画調変換処理とも称する）とがある。さらに、シャープネス処理は、入力画像のエッジを強調する処理である。
【００３５】
選択部２２は、画像処理を選択すると、漫画調変換部２３乃至シャープネス処理部２８のうち、選択した画像処理を行うブロックに、供給された入力画像を供給する。
【００３６】
漫画調変換部２３は、漫画調変換処理を行うためのフィルタを予め保持しており、選択部２２から供給された入力画像に対して、保持しているフィルタを用いたフィルタ処理、すなわち漫画調変換処理を施し、その結果得られた出力画像を出力部２９に供給する。漫画調変換部２３において得られる出力画像は、入力画像に漫画調変換処理を施して得られる画像である。
【００３７】
アニメ調変換部２４は、アニメ調変換処理を行うためのフィルタを予め保持しており、選択部２２からの入力画像に対して、保持しているフィルタを用いたフィルタ処理、すなわちアニメ調変換処理を施し、その結果得られた出力画像を出力部２９に供給する。ジオラマ調変換部２５は、ジオラマ調変換処理を行うためのフィルタを予め保持しており、選択部２２からの入力画像に対して、保持しているフィルタを用いたフィルタ処理、すなわちジオラマ調変換処理を施し、その結果得られた出力画像を出力部２９に供給する。
【００３８】
絵画調変換部２６は、減色絵画調変換処理を行うためのフィルタを予め保持しており、選択部２２から供給された入力画像に対して、保持しているフィルタを用いたフィルタ処理を施し、その結果得られた出力画像を出力部２９に供給する。絵画調変換部２７は、重ね塗り絵画調変換処理を行うためのフィルタを予め保持しており、選択部２２から供給された入力画像に対して、保持しているフィルタを用いたフィルタ処理を施し、その結果得られた出力画像を出力部２９に供給する。
【００３９】
シャープネス処理部２８は、シャープネス処理を行うためのフィルタを予め保持しており、選択部２２から供給された入力画像に対して、保持しているフィルタを用いたフィルタ処理を施し、その結果得られた出力画像を出力部２９に供給する。出力部２９は、漫画調変換部２３乃至シャープネス処理部２８の何れかから供給された出力画像を、スライドショー表示させる画像として、図示せぬ表示装置に出力し、表示させる。
【００４０】
次に、漫画調変換処理、アニメ調変換処理、ジオラマ調変換処理、減色絵画調変換処理、および重ね塗り絵画調変換処理について説明する。
【００４１】
まず、漫画調変換処理では、入力画像に対して、ラプラシアンフィルタ等のエッジを抽出するフィルタによりフィルタ処理が施され、その結果として得られた画像に２値化処理が施される。さらに、２値化された画像に対して膨張伸縮処理が施されて、不均一な輪郭線が整えられる。なお、以下、２値化された画像に膨張伸縮処理が施されて得られた画像を輪郭画像とも呼ぶこととする。
【００４２】
また、図２に示すように、入力画像の所定の輝度値の画素のみからなる点集合がテクスチャとして求められる。図２では、図中、左側には入力画像が示されており、図中、右側にはテクスチャが示されている。
【００４３】
このテクスチャは、入力画像と同じ大きさの２値、例えば、白と黒の色からなる画像であり、テクスチャにおける、入力画像の所定の輝度値の画素と同じ位置の画素の画素値は黒となる値とされ、その他の画素の画素値は白となる値とされる。
【００４４】
このようにして得られたテクスチャが、輪郭画像と合成され、その結果得られる画像が、漫画調変換処理により得られた出力画像（以下、漫画調の出力画像とも称する）とされる。この漫画調の出力画像は、画像全体が輪郭線表現、つまり簡素な線や模様で構成され、かつ画像が白黒画像であるという特徴がある。換言すれば、漫画調の出力画像は、入力画像のエッジを強調しつつ、入力画像をモノクロ化したものであるということができる。
【００４５】
また、アニメ調変換処理では、入力画像に対してラプラシアンフィルタ等によりフィルタ処理が施され、その結果得られた画像に２値化処理が施され、さらに２値化された画像に対して膨張伸縮処理が施される。これにより、入力画像の輪郭画像が得られる。
【００４６】
さらに、入力画像上の各画素に対する閾値を用いた同色判定処理により、入力画像上の同じ色の領域、より詳細には類似する色の画素からなる領域がセグメンテーションされる。これにより、入力画像において、互いに隣接し、同色判定処理により同じ色とされた画素からなる領域が１つのセグメントとされる。例えば、セグメンテーション時の色の数は１０色程度とされる。そして、入力画像上の各セグメントに対して、そのセグメント内の画素の平均の色がセグメントの色とされる処理が行われ、その結果得られた画像と、輪郭画像とが合成されて出力画像とされる。
【００４７】
アニメ調変換処理により得られた出力画像（以下、アニメ調の出力画像とも称する）は、漫画調の出力画像に色を付与したものであるということができる。つまり、アニメ調の出力画像は、入力画像のエッジが強調され、かつ入力画像上の同一セグメントが同色で塗られたものである。
【００４８】
次に、ジオラマ調変換処理では、入力画像に対して線形変換処理が施されて、入力画像のコントラスト調整が行われる。さらにコントラスト調整された入力画像の中心付近を除く部分である周辺部に対して、ガウシアンフィルタを用いたフィルタ処理が施され、周辺部がぼかされる。このようにして得られた画像が、ジオラマ調変換処理により得られる出力画像（以下、ジオラマ調の出力画像とも称する）とされる。ジオラマ調の出力画像には、被写界深度が均一であり、コントラスト比が高い、つまり、いわゆる黒つぶれや白飛びの領域が多いという特徴がある。
【００４９】
なお、ジオラマ調変換処理は、画像に均一の遠近感を与えるアルゴリズムや、画像の視野を狭くするアルゴリズムを適応した処理であれば、どのような処理であってもよい。例えば、入力画像に対して線形変換処理を施し、さらにデコンボリューション処理を施すことでピント具合を調整する処理を、ジオラマ調変換処理としてもよい。
【００５０】
また、減色絵画調変換処理では、入力画像の注目する画素が注目画素とされ、その注目画素を中心とする所定領域が注目領域とされて注目領域内の画素のＲ（赤），Ｇ（緑），Ｂ（青）の画素値の支配的な値が、注目画素のＲ，Ｇ，およびＢの各成分の画素値とされる。例えば、Ｒ、Ｇ、Ｂの各色の成分ごとにヒストグラムが生成されて、そのヒストグラムにおける最も頻度の多いビンの値、つまり色の成分の画素値が、注目画素の画素値とされる。
【００５１】
このようにして入力画像の各画素について、Ｒ、Ｇ、Ｂの各成分の画素値が新たに定められて画素値が変更されると、その結果得られた画像に対して、さらに各画素の色の成分の画素値の階調数を減らす階調変換処理が施される。そして、階調変換処理により得られた画像が、減色絵画調変換処理により得られる出力画像（以下、減色絵画調の出力画像とも称する）とされる。
【００５２】
通常、画素の画素値は２５６階調で表され、０乃至２５５の何れかの値とされる。階調変換処理では、入力画像の画素の画素値が、例えば図３に示すように、２５６よりも少ない階調数の画素値に変換される。
【００５３】
図３では、「階調数」の欄には、変換後の階調数が示されており、「階調当りの幅」の欄には、変換後の１階調に相当する変換前の階調数が示されている。例えば、変換後の階調数が「８」である場合、変換後の１階調は、変換前の３２階調に相当する。つまり、変換前の連続する３２階調の画素値は、変換後には同じ階調の画素値とされる。
【００５４】
また、例えば入力画像の画素の各色の成分の画素値を、２５６階調から８階調に減らす階調変換処理が行われる場合、図４に示す変換表が用いられて、画素値が変換される。図４では、「元の画素値」の欄には、変換前の２５６階調の画素値の範囲が示されており、「変換後の画素値」の欄には、変換後の８階調の画素値が示されている。したがって、例えば、変換前の注目する画素のＲの成分の画素値が「０」から「３１」の間の値である場合、その画素のＲの成分の変換後の画素値は、「０」とされる。
【００５５】
このようにして、入力画像のＲ、Ｇ、Ｂの各色の成分の画素値が変換されると、減色絵画調の出力画像が得られる。なお、変換後の階調数は、減色絵画調の出力画像の仕上がり具合に影響するものであるため、ユーザにより任意に設定されるようにしてもよい。
【００５６】
また、重ね塗り絵画調変換処理では、入力画像に対して減色絵画調変換処理が施され、これにより得られた減色絵画調の画像と、入力画像とが用いられて出力画像が生成される。具体的には、図５に示すように、入力画像Ｐ１１の任意の画素を中心とする領域であるブロックＢ１１が選択される。
【００５７】
ここで、矢印Ａ１１に示すように、ブロックＢ１１の領域が、そのブロックＢ１１の中心に位置する中心画素の色（以下、代表色とも称する）で塗られることを考える。例えば、マスクが用いられてブロックＢ１１の領域が代表色で塗られるとし、矢印Ａ１２に示すように、色を塗るときに用いるマスクが生成される。
【００５８】
このマスクは、ブロックＢ１１において、代表色と類似する色の画素だけが代表色で塗られ、代表色と類似しない色の画素には色が塗られずにそのままとされるマスクである。例えば、各画素の色の代表色との類似の度合いは、ユークリッド距離やマンハッタン距離により求められ、類似度が閾値以上の画素に代表色が塗られるようになされる。このマスクを用いてブロックＢ１１が代表色に塗られると、矢印Ａ１３に示されるように、ブロックＢ１１内の中心画素の色と類似する色の画素の色は、代表色となる。
【００５９】
重ね塗り絵画調変換処理では、このようにして生成したマスクが用いられて、入力画像のブロックＢ１１と同じ位置にある、入力画像から得られた減色絵画調の画像Ｐ１２の領域であるブロックＢ１２が代表色に塗られる。つまり、矢印Ａ１３に示されるブロックＢ１１内の代表色に塗られた画素と同じ位置にある、ブロックＢ１２内の画素の画素値が、代表色を示す値に変更される。
【００６０】
このように、入力画像Ｐ１１から任意のブロックを選択してマスクを生成し、そのブロックと同じ位置にある減色絵画調の画像Ｐ１２のブロックに、マスクを用いて代表色を貼り付ける（塗る）処理が規定回数だけ行われ、その結果得られた画像が出力画像Ｐ１３とされる。以下、重ね塗り絵画調変換処理により得られる出力画像を、重ね塗り絵画調の出力画像とも称する。
【００６１】
なお、代表色の貼り付けの処理が繰り返される規定回数は、例えば、入力画像のエッジの複雑度と、処理単位のブロック（例えば、ブロックＢ１１）の大きさに応じて定められるようにしてもよいし、予め定められていてもよい。
【００６２】
また、重ね塗り絵画調変換処理で用いられるマスクは、減色絵画調の画像Ｐ１２に対し、より細かい表現を施すために用いられるものであるので、重ね塗り絵画調の出力画像を、粗いタッチの画像に仕上げる場合には、マスクを用いないようにしてもよい。そのような場合、ブロックＢ１２の各画素の画素値は、ブロックＢ１１の代表色を示す値とされる。
【００６３】
［画像処理装置の動作の説明］
ところで、画像処理装置１１にスライドショー表示の対象となる入力画像が、順次、供給されると、画像処理装置１１は、供給された入力画像を出力画像に変換して出力する処理である画像変換処理を開始する。
【００６４】
以下、図６のフローチャートを参照して、画像処理装置１１による画像変換処理について説明する。
【００６５】
ステップＳ１１において、ぼけ度検出部２１は、供給された入力画像に基づいて、入力画像のぼけ度を検出する。
【００６６】
例えば、ぼけ度検出部２１は、入力画像をいくつかのブロックに分割し、ブロックごとにエッジ強度を検出する。そして、ぼけ度検出部２１は、入力画像の各ブロックのエッジ強度の最小値と最大値との差分をダイナミックレンジとして求め、そのダイナミックレンジに基づいて、エッジ基準値および抽出基準値を設定する。
【００６７】
ここで、エッジ基準値とは、入力画像上のエッジを構成する画素（以下、エッジポイントと称する）であるか否かの判定に用いられる値であり、抽出基準値とは、エッジポイントの抽出量が適切であるか否かの判定に用いられる値である。
【００６８】
ぼけ度検出部２１は、入力画像の各ブロックについて、検出されたエッジ強度がエッジ基準値以上であるブロック（以下、エッジブロックと称する）に含まれる画素をエッジポイントとして抽出し、その抽出量と抽出基準値と比較する。そして、ぼけ度検出部２１は、抽出量の比較の結果、エッジポイントの抽出量が適切でない場合には、その抽出量が適切な量となるまでエッジ基準値を調整して、エッジポイントを抽出する処理を繰り返す。
【００６９】
また、ぼけ度検出部２１は、適切な量のエッジポイントが抽出されると、抽出したエッジポイントにおいて、ぼけが生じているかを分析し、その分析結果から入力画像のぼけの度合いを示すぼけ度を求める。このぼけ度は、その値が大きいほど入力画像の被写体がぼけていることを示しており、求められたぼけ度は、ぼけ度検出部２１から選択部２２に供給される。
【００７０】
ステップＳ１２において、選択部２２は、ぼけ度検出部２１から供給されたぼけ度に基づいて、入力画像がぼけた画像であるか否かを判定する。例えば、ぼけ度が予め定められた閾値以上である場合、入力画像はぼけた画像であると判定される。
【００７１】
ステップＳ１２において、ぼけた画像でないと判定された場合、処理はステップＳ１３に進む。ステップＳ１３において、選択部２２は、漫画調変換部２３乃至シャープネス処理部２８が保持しているフィルタの使用頻度に基づいて、ぼけていない画像に対して予め定められたフィルタから、１つのフィルタを選択する。
【００７２】
例えば画像処理装置１１では、ぼけた入力画像に対して用いられるフィルタと、ぼけていない入力画像に対して用いられるフィルタとが予め定められており、入力画像がぼけているか否かにより、異なる組み合わせのフィルタ群から１つのフィルタが選択される。
【００７３】
具体的には、ぼけていない入力画像に対しては、漫画調変換処理のためのフィルタ、アニメ調変換処理のためのフィルタ、ジオラマ調変換処理のためのフィルタ、減色絵画調変換処理のためのフィルタ、または重ね塗り絵画調変換処理のためのフィルタの何れかが用いられて出力画像が生成される。
【００７４】
つまり、ぼけていない入力画像には、漫画調変換処理、アニメ調変換処理、ジオラマ調変換処理、減色絵画調変換処理、または重ね塗り絵画調変換処理の何れかの画像処理が施されて出力画像とされる。入力画像がぼけていない場合、入力画像から確実にエッジを抽出することができるので、エッジ強調を利用する処理のフィルタなど、多彩なフィルタからの選択が可能となる。
【００７５】
なお、以下、ぼけてない入力画像に対して用いられる、漫画調変換処理のためのフィルタ、アニメ調変換処理のためのフィルタ、ジオラマ調変換処理のためのフィルタ、減色絵画調変換処理のためのフィルタ、および重ね塗り絵画調変換処理のためのフィルタからなるフィルタ群を、ぼけ無しフィルタ群とも称する。
【００７６】
また、選択部２２は、漫画調変換部２３乃至シャープネス処理部２８が保持しているフィルタの使用頻度を保持している。選択部２２は、保持している各フィルタの使用頻度に基づいて、ぼけ無しフィルタ群のなかから、最も使用頻度の低いフィルタを選択する。
【００７７】
選択部２２はフィルタを選択すると、選択されたフィルタを有するブロックに、供給された入力画像を供給し、処理はステップＳ１５に進む。例えば、減色絵画調変換処理のためのフィルタが選択された場合、選択部２２は、入力画像を絵画調変換部２６に供給し、減色絵画調変換処理のためのフィルタの使用頻度に１を加算する。
【００７８】
これに対して、ステップＳ１２において、ぼけた画像であると判定された場合、処理はステップＳ１４に進む。ステップＳ１４において、選択部２２は、漫画調変換部２３乃至シャープネス処理部２８が保持しているフィルタの使用頻度に基づいて、ぼけている画像に対して予め定められたフィルタから、１つのフィルタを選択する。
【００７９】
例えば、ぼけた入力画像に対しては、シャープネス処理のためのフィルタ、減色絵画調変換処理のためのフィルタ、ジオラマ調変換処理のためのフィルタの何れかのフィルタが用いられて出力画像が生成される。
【００８０】
つまり、ぼけた入力画像には、シャープネス処理、減色絵画調変換処理、またはジオラマ調変換処理の何れかの画像処理が施されて出力画像とされる。入力画像がぼけている場合、入力画像からシャープなエッジを得ることはできないので、エッジを必要としない画像処理が選択されて、入力画像がぼけ感の薄い出力画像に変換される。
【００８１】
このように、ぼけた入力画像に対してシャープネス処理、減色絵画調変換処理、またはジオラマ調変換処理を施せば、ぼけた入力画像を、ぼけのないユーザの鑑賞に堪え得る出力画像に変換することができる。すなわち、出力画像は、入力画像の全体が加工されたものであるため、入力画像がユーザにより撮像されたものであるときには、出力画像は、ユーザの撮像時の光景とは異なる画像、例えばタッチの粗い絵画のような画像となる。したがって、得られた出力画像を表示すれば、ユーザに見苦しさを感じさせることもなく、フェードインやズームなどの単調な表示効果よりも、より大きいインパクトをユーザに対して与えることができる。
【００８２】
なお、以下、ぼけた入力画像に対して用いられる、シャープネス処理のためのフィルタ、減色絵画調変換処理のためのフィルタ、およびジオラマ調変換処理のためのフィルタからなるフィルタ群を、ぼけ有りフィルタ群とも称する。
【００８３】
選択部２２は、保持している各フィルタの使用頻度に基づいて、ぼけ有りフィルタ群のなかから、最も使用頻度の低いフィルタを選択する。
【００８４】
そして、選択部２２は、選択したフィルタを有するブロックに、供給された入力画像を供給し、処理はステップＳ１５に進む。例えば、ジオラマ調変換処理のためのフィルタが選択された場合、選択部２２は、入力画像をジオラマ調変換部２５に供給し、ジオラマ調変換処理のためのフィルタの使用頻度に１を加算する。
【００８５】
ステップＳ１３またはステップＳ１４において、フィルタが選択されると、ステップＳ１５において、漫画調変換部２３乃至シャープネス処理部２８のうちの、選択部２２から入力画像が供給されたブロックは、供給された入力画像に対してフィルタ処理を施す。
【００８６】
例えば、選択部２２によりジオラマ調変換処理のためのフィルタが選択されて、選択部２２からジオラマ調変換部２５に入力画像が供給された場合、ジオラマ調変換部２５は、供給された入力画像に、保持しているフィルタを用いたフィルタ処理を施す。つまり、ジオラマ調変換部２５は、入力画像にジオラマ調変換処理を施して、入力画像をジオラマ調の出力画像に変換する。
【００８７】
そして、ジオラマ調変換部２５は、ジオラマ調変換処理により得られた、ジオラマ調の出力画像を出力部２９に供給し、処理はステップＳ１６に進む。
【００８８】
ステップＳ１６において、出力部２９は、供給された出力画像を、図示せぬ表示装置に出力し、表示装置に出力画像を表示させる。
【００８９】
ステップＳ１７において、画像処理装置１１は、処理を終了するか否かを判定する。例えば、スライドショー表示の対象となる全ての入力画像が出力画像に変換されて出力された場合、処理は終了すると判定される。
【００９０】
ステップＳ１７において、終了しないと判定された場合、処理はステップＳ１１に戻り、上述した処理が繰り返される。すなわち、次の入力画像が出力画像に変換される。
【００９１】
これに対して、ステップＳ１７において、終了すると判定された場合、画像処理装置１１の各部は行っている処理を終了し、画像変換処理は終了する。
【００９２】
このようにして、画像処理装置１１は、入力画像のぼけ度を検出し、その検出結果に基づいて入力画像に画像処理を施し、入力画像を出力画像に変換する。
【００９３】
このように、ぼけ度に応じて選択された画像処理を入力画像に施すことで、ぼけた入力画像でも、ユーザの鑑賞に堪え得る出力画像に変換して表示させることができる。これにより、従来は、破棄されていたぼけた画像も有効に活用することができるとともに、ユーザに新鮮さを感じさせることができる。
【００９４】
また、ぼけていない入力画像にも画像処理を施し、その結果得られた出力画像を表示することで、出力画像を鑑賞するユーザに強いインパクトを与えることができ、ユーザをより楽しませることができる。しかも、画像処理装置１１では、各フィルタの使用頻度に応じてフィルタ（画像処理）が選択されるため、同じフィルタが連続して選択されるようなこともない。しがって、ユーザが出力画像の鑑賞に飽きてしまうこともない。
【００９５】
以上のように、画像処理装置１１によれば、入力画像のぼけ度に基づいて、適切なフィルタを選択し、選択されたフィルタにより入力画像を加工するという簡単な処理で、入力画像の撮像時とは異なる風合いの出力画像を生成することができる。これにより、ユーザに対して、より効果的に画像を表示することができるようになる。
【００９６】
なお、以上においては、入力画像から得られた出力画像をスライドショー表示させると説明したが、出力画像を記録するようにしたり、１つの出力画像だけを表示させたりするようにしてもよい。また、スライドショー時には、出力画像と、その元の入力画像との何れか一方から他方へフェードイン、フェードアウトさせながら画像の表示を切り換えるようにしてもよい。さらに、同じ入力画像に対して異なるフィルタによるフィルタ処理で得られた複数の出力画像を、フェードイン、フェードアウトさせながら表示させてもよい。
【００９７】
〈第２の実施の形態〉
［画像処理装置の構成］
さらに、以上においては、使用頻度に応じて画像処理（フィルタ）を選択すると説明したが、入力画像から、いくつかの特徴の特徴量を抽出し、それらの特徴量に応じてフィルタを選択するようにしてもよい。例えば、入力画像から、入力画像の解像度、色の分布、色の偏り、入力画像の画素の画素値の階調数、ぼけの度合い、エッジ量、エッジ分布、テクスチャ量、テクスチャ分布のうちの少なくとも１つが抽出され、フィルタを選択するための特徴量とされる。
【００９８】
そのような場合、例えば、画像処理装置は、図７に示すように構成される。なお、図７において、図１における場合と対応する部分には同一の符号を付してあり、その説明は省略する。
【００９９】
図７の画像処理装置５１は、ぼけ度検出部２１、エッジ複雑度検出部６１、サイズ検出部６２、色分布複雑度検出部６３、色偏り検出部６４、選択部２２乃至絵画調変換部２７、および出力部２９から構成される。また、画像処理装置５１に供給された入力画像は、ぼけ度検出部２１、エッジ複雑度検出部６１乃至色偏り検出部６４、および選択部２２に供給される。
【０１００】
ぼけ度検出部２１、およびエッジ複雑度検出部６１乃至色偏り検出部６４のそれぞれは、供給された入力画像から、入力画像の特徴量を抽出し、その特徴量を示すスコアを選択部２２に供給する。そして、選択部２２は、それらのスコアに基づいて入力画像に施す画像処理を選択する。
【０１０１】
ぼけ度検出部２１は、入力画像から特徴量としてぼけ度を検出し、その検出結果を特徴量を示すスコアとして選択部２２に供給する。
【０１０２】
エッジ複雑度検出部６１は、供給された入力画像に基づいて、入力画像に含まれるエッジの量を示すエッジ複雑度を求め、選択部２２に供給する。このエッジ複雑度の値（スコア）は、入力画像により多くのエッジが含まれ、入力画像が複雑な絵柄であるほど大きくなる。
【０１０３】
サイズ検出部６２は、供給された入力画像に基づいて、入力画像上のオブジェクト（被写体）の境界を囲む矩形の領域、すなわち、いわゆるバウンディングボックスの大きさを示すボックスサイズを求め、選択部２２に供給する。このボックスサイズの値（スコア）は、バウンディングボックスの大きさが大きく、入力画像におけるエッジの集中する部分の締まり度合いが低いほど、大きくなる。
【０１０４】
色分布複雑度検出部６３は、供給された入力画像に基づいて、入力画像における色の分布の複雑さを示す色分布複雑度を求め、選択部２２に供給する。この色分布複雑度の値（スコア）は、色分布が複雑であり、入力画像が複雑な絵柄であるほど大きくなる。
【０１０５】
色偏り検出部６４は、供給された入力画像に基づいて、入力画像における色の偏りの度合いを示す色偏り度を求め、選択部２２に供給する。この色偏り度の値（スコア）は、入力画像における色の偏りが大きいほど、大きくなる。
【０１０６】
選択部２２は、ぼけ度検出部２１、およびエッジ複雑度検出部６１乃至色偏り検出部６４から供給された特徴量、すなわちぼけ度、エッジ複雑度、ボックスサイズ、色分布複雑度、および色偏り度に基づいて、入力画像に施す画像処理（フィルタ）を選択する。
【０１０７】
具体的には、画像処理は、漫画調変換処理、アニメ調変換処理、ジオラマ調変換処理、減色絵画調変換処理、および重ね塗り絵画調変換処理のなかから選択される。選択部２２は、漫画調変換部２３乃至絵画調変換部２７のうち、選択した画像処理を行うブロックに、供給された入力画像を供給する。
【０１０８】
入力画像から抽出された各特徴の特徴量を用いれば、例えば図８に示すように、選択部２２は、供給された入力画像に対して、どの画像処理がより効果的であるかを知ることができる。図８では、ぼけの有無、エッジ分布の複雑さ、ボックスサイズ、色分布の複雑さ、色の偏りの有無のそれぞれがどのような状態であるときに、各画像処理がより効果的であるかが示されている。
【０１０９】
例えば、減色絵画調変換処理は、エッジがばらばらに存在し、多くの色で表現された画像に対して効果的である。すなわち、減色絵画調変換処理は、エッジ分布および色分布が複雑で、色の偏りがない画像に対して効果的であり、そのような特徴を有する入力画像を、減色絵画調変換処理によって、より鑑賞に堪え得ると予測される出力画像に変換することができる。なお、入力画像における、ぼけの有無と、バウンディングボックスのサイズは、入力画像に対して減色絵画調変換処理が効果的であるか否かには、影響を及ぼさない。
【０１１０】
また、重ね塗り絵画調変換処理は、単純なエッジ分布および色分布で、特定の色が多い画像に対して効果的である。すなわち、重ね塗り絵画調変換処理は、エッジ分布および色分布が単純で、バウンディングボックスの大きさが小さく、かつ色の偏りがある画像に対して効果的である。なお、入力画像におけるぼけの有無は、入力画像に対して重ね塗り絵画調変換処理が効果的であるか否かには、影響を及ぼさない。
【０１１１】
さらに、ジオラマ調変換処理は、単純な色分布で、バウンディングボックスの小さい画像に対して効果的である。すなわち、ジオラマ調変換処理は、エッジ分布および色分布が単純で、バウンディングボックスの大きさが小さく、かつ色の偏りがない画像に対して効果的である。なお、入力画像におけるぼけの有無は、入力画像に対してジオラマ調変換処理が効果的であるか否かには、影響を及ぼさない。
【０１１２】
さらに、アニメ調変換処理は、ぼけがなく、少ない数の色で構成される画像に対して効果的である。すなわち、アニメ調変換処理は、ぼけがなく、エッジ分布および色分布が単純で、かつ色の偏りがある画像に対して効果的である。なお、入力画像における、バウンディングボックスのサイズは、入力画像に対してアニメ調変換処理が効果的であるか否かには、影響を及ぼさない。
【０１１３】
さらに、漫画調変換処理は、ぼけがなく、エッジ分布が単純な画像に対して効果的である。すなわち、漫画調変換処理は、ぼけがなく、エッジ分布が単純であるが色分布は複雑で、かつ色の偏りがない画像に対して効果的である。なお、入力画像における、バウンディングボックスのサイズは、入力画像に対して漫画調変換処理が効果的であるか否かには、影響を及ぼさない。また、色分布および色の偏りも、漫画調変換処理が効果的であるか否かには、あまり影響がない。
【０１１４】
このように、入力画像の特徴が分かれば、入力画像に対してどの画像処理が効果的であるかが分かるので、選択部２２は、例えば、図９に示すように、入力画像の各特徴の特徴量に基づいて画像処理を選択する。
【０１１５】
図９では、各特徴を示す「ぼけ度」、「エッジ複雑度」、「ボックスサイズ」、「色分布複雑度」、および「色偏り度」のそれぞれの欄には、記号「○」（丸）または「×」（ばつ）が記されている。この記号「○」（丸）は、特徴量（スコア）が所定の閾値未満である場合を表しており、記号「×」（ばつ）は、特徴量が閾値以上である場合を表している。
【０１１６】
具体的には、選択部２２は、各特徴の特徴量と、特徴ごとに定められた閾値とを比較して、画像処理の選択を行う。
【０１１７】
例えば、エッジ複雑度および色分布複雑度が閾値以上であり、かつ色偏り度が閾値未満である場合、減色絵画調変換処理が選択される。また、エッジ複雑度、ボックスサイズ、および色分布複雑度が閾値未満であり、かつ色偏り度が閾値以上である場合、重ね塗り絵画調変換処理が選択される。
【０１１８】
さらに、エッジ複雑度、ボックスサイズ、色分布複雑度、および色偏り度が閾値未満である場合、ジオラマ調変換処理が選択され、ぼけ度、エッジ複雑度、および色分布複雑度が閾値未満であり、色偏り度が閾値以上である場合、アニメ調変換処理が選択される。さらに、また、ぼけ度、エッジ複雑度、および色偏り度が閾値未満であり、かつ色分布複雑度が閾値以上である場合、漫画調変換処理が選択される。
【０１１９】
次に、図１０乃至図１３を参照して、図７のエッジ複雑度検出部６１乃至色偏り検出部６４のそれぞれの構成について説明する。
【０１２０】
図１０は、エッジ複雑度検出部６１のより詳細な構成例を示す図である。
【０１２１】
エッジ複雑度検出部６１は、フィルタ処理部９１、平均値算出部９２、距離算出部９３、距離算出部９４、およびスコア算出部９５から構成される。
【０１２２】
フィルタ処理部９１は、供給された入力画像のＲ、Ｇ、Ｂのそれぞれの成分のみからなるＲ画像、Ｇ画像、およびＢ画像を生成し、それらのＲ画像、Ｇ画像、およびＢ画像にエッジを抽出するフィルタ処理を施して、平均値算出部９２に供給する。平均値算出部９２は、フィルタ処理部９１から供給されたＲ画像、Ｇ画像、およびＢ画像の画素ごとの平均値を求めて１つの画像を生成し、距離算出部９３および距離算出部９４に供給する。
【０１２３】
距離算出部９３は、平均値算出部９２から供給された画像と、予め用意された、簡素な画像との距離を算出し、スコア算出部９５に供給する。ここで、簡素な画像とは、例えば専門家などにより撮像された、エッジの複雑度が小さく、よく撮れた画像、つまり一般的に評価の高い画像をいう。
【０１２４】
距離算出部９４は、平均値算出部９２から供給された画像と、予め用意された、複雑な画像との距離を算出し、スコア算出部９５に供給する。ここで、複雑な画像とは、例えば素人などにより撮像された、エッジの複雑度が大きく、あまりよく撮れていない画像、つまり一般的に評価の低い画像をいう。
【０１２５】
スコア算出部９５は、距離算出部９３から供給された距離と、距離算出部９４から供給された距離とを用いてエッジ複雑度を算出し、選択部２２に供給する。
【０１２６】
図１１は、図７のサイズ検出部６２のより詳細な構成例を示す図である。
【０１２７】
サイズ検出部６２は、フィルタ処理部１２１、平均値算出部１２２、幅算出部１２３、幅算出部１２４、およびスコア算出部１２５から構成される。なお、フィルタ処理部１２１および平均値算出部１２２は、図１０のフィルタ処理部９１および平均値算出部９２と同様であるため、その説明は省略する。
【０１２８】
幅算出部１２３は、平均値算出部１２２から供給された画像を用いて、入力画像におけるバウンディングボックスの所定の方向（以下、ｘ方向であるとする）の幅を求め、スコア算出部１２５に供給する。幅算出部１２４は、平均値算出部１２２から供給された画像を用いて、入力画像におけるバウンディングボックスのｘ方向と垂直な方向（以下、ｙ方向であるとする）の幅を求め、スコア算出部１２５に供給する。
【０１２９】
スコア算出部１２５は、幅算出部１２３および幅算出部１２４から供給されたｘ方向およびｙ方向の幅に基づいて、ボックスサイズを算出し、選択部２２に供給する。
【０１３０】
図１２は、図７の色分布複雑度検出部６３のより詳細な構成例を示す図である。
【０１３１】
色分布複雑度検出部６３は、色別ヒストグラム生成部１５１、ヒストグラム生成部１５２、距離算出部１５３、距離算出部１５４、およびスコア算出部１５５から構成される。
【０１３２】
色別ヒストグラム生成部１５１は、供給された入力画像から、入力画像のＲ、Ｇ、Ｂの各成分の画素値の範囲をビンとした、色ごとのヒストグラムを生成し、ヒストグラム生成部１５２に供給する。ヒストグラム生成部１５２は、色別ヒストグラム生成部１５１から供給された、Ｒ、Ｇ、およびＢの各色成分のヒストグラムから、１つのヒストグラムを生成し、距離算出部１５３および距離算出部１５４に供給する。
【０１３３】
距離算出部１５３は、ヒストグラム生成部１５２から供給されたヒストグラムと、予め用意された、簡素な画像から得られたヒストグラムとの距離を算出し、スコア算出部１５５に供給する。距離算出部１５４は、ヒストグラム生成部１５２から供給されたヒストグラムと、予め用意された、複雑な画像から得られたヒストグラムとの距離を算出し、スコア算出部１５５に供給する。
【０１３４】
スコア算出部１５５は、距離算出部１５３および距離算出部１５４から供給された距離に基づいて、色分布複雑度を算出し、選択部２２に供給する。
【０１３５】
図１３は、図７の色偏り検出部６４のより詳細な構成例を示す図である。
【０１３６】
色偏り検出部６４は、変換部１８１、ヒストグラム生成部１８２、およびスコア算出部１８３から構成される。
【０１３７】
変換部１８１は、供給された入力画像を、Ｒ、Ｇ、Ｂの各成分の画素値を有する画像から、Ｈ（色相）、Ｓ（彩度）、Ｖ（明度）の各成分の画素値を有する画像に変換し、ヒストグラム生成部１８２に供給する。ヒストグラム生成部１８２は、変換部１８１から供給されたＨ、Ｓ、Ｖの各成分を有する入力画像から、入力画像上の所定の条件を満たす画素のヒストグラムを生成し、スコア算出部１８３に供給する。
【０１３８】
スコア算出部１８３は、ヒストグラム生成部１８２から供給されたヒストグラムに基づいて、色偏り度を算出し、選択部２２に供給する。
【０１３９】
［画像処理装置の動作の説明］
次に、図１４のフローチャートを参照して、図７の画像処理装置５１による画像変換処理について説明する。
【０１４０】
なお、ステップＳ４１の処理は、図６のステップＳ１１の処理と同様であるので、その説明は省略する。
【０１４１】
ステップＳ４２において、エッジ複雑度検出部６１は、エッジ複雑度検出処理を行ってエッジ複雑度を求め、選択部２２に供給する。また、ステップＳ４３において、サイズ検出部６２は、サイズ検出処理を行ってボックスサイズを求め、選択部２２に供給する。
【０１４２】
ステップＳ４４において、色分布複雑度検出部６３は、色分布複雑度検出処理を行って色分布複雑度を求め、選択部２２に供給する。さらに、ステップＳ４５において、色偏り検出部６４は、色偏り検出処理を行って色偏り度を求め、選択部２２に供給する。
【０１４３】
なお、ステップＳ４２乃至ステップＳ４５において行われるエッジ複雑度検出処理、サイズ検出処理、色分布複雑度検出処理、および色偏り検出処理の詳細は後述する。
【０１４４】
このようにして、ぼけ度検出部２１、およびエッジ複雑度検出部６１乃至色偏り検出部６４により特徴量が求められ、選択部２２に供給されると、処理はステップＳ４６に進む。
【０１４５】
ステップＳ４６において、選択部２２は、フィルタ選択処理を行って、入力画像に施す画像処理に用いられるフィルタを選択する。なお、フィルタ選択処理の詳細は後述するが、フィルタ選択処理において、選択部２２に供給された特徴量が用いられてフィルタが選択される。フィルタが選択されると、選択部２２から、選択されたフィルタを保持しているブロック、すなわち漫画調変換部２３乃至絵画調変換部２７の何れかに入力画像が供給される。
【０１４６】
そして、その後、ステップＳ４７乃至ステップＳ４９の処理が行われて、画像変換処理は終了するが、これらの処理は図６のステップＳ１５乃至ステップＳ１７の処理のそれぞれと同様であるので、その説明は省略する。
【０１４７】
このようにして、画像処理装置５１は、供給された入力画像から複数の特徴の特徴量を求め、その特徴量により定まる適切な画像処理により、入力画像を出力画像に変換する。これにより、より簡単に、入力画像に対してより効果的な画像処理を選択して出力画像を生成することができ、その結果、より効果的に出力画像を表示することができるようになる。
【０１４８】
次に、図１５のフローチャートを参照して、図１４のステップＳ４２の処理に対応するエッジ複雑度検出処理について説明する。このエッジ複雑度検出処理は、図１０のエッジ複雑度検出部６１により行われる。
【０１４９】
ステップＳ７１において、フィルタ処理部９１は、供給された入力画像に対して、例えば、ラプラシアンフィルタなどのエッジを抽出するフィルタを用いたフィルタ処理を施す。すなわち、フィルタ処理部９１は、入力画像からＲ画像、Ｇ画像、およびＢ画像を生成し、それらのＲ画像、Ｇ画像、およびＢ画像にフィルタ処理を施して平均値算出部９２に供給する。
【０１５０】
ステップＳ７２において、平均値算出部９２は、フィルタ処理部９１から供給されたＲ画像、Ｇ画像、およびＢ画像の画素ごとの平均値を求め、１つの画像を生成する。つまり、生成される画像の画素の画素値は、その画素と同じ位置にあるＲ画像、Ｇ画像、およびＢ画像の画素のそれぞれの平均値とされる。平均値算出部９２は、平均値を求めて得られた画像を正規化して、縦方向に１００画素、横方向に１００画素などの所定の大きさの画像とし、距離算出部９３および距離算出部９４に供給する。
【０１５１】
ステップＳ７３において、距離算出部９３および距離算出部９４は、平均値算出部９２から供給された画像と、予め用意された簡素な画像および複雑な画像との距離を算出し、スコア算出部９５に供給する。
【０１５２】
例えば、平均値算出部９２からの画像と、簡素な画像（または複雑な画像）との距離は、簡素な画像に対して、フィルタ処理部９１により行われるフィルタ処理、および平均値算出部９２による平均値を求める処理が施されて得られた画像と、平均値算出部９２からの画像とのユークリッド距離とされる。したがって、このようにして得られる距離は、入力画像と、簡素な画像（または複雑な画像）とのエッジの複雑さの類似の度合いを示している。
【０１５３】
ステップＳ７４において、スコア算出部９５は、距離算出部９３から供給された距離と、距離算出部９４から供給された距離との差分を求めることでエッジ複雑度のスコア（値）を算出し、選択部２２に供給する。このようにして得られたエッジ複雑度の値は、入力画像と複雑な画像との距離が近いほど大きくなり、より入力画像におけるエッジが複雑であることになる。
【０１５４】
エッジ複雑度が求められて選択部２２に供給されると、エッジ複雑度検出処理は終了し、その後、処理は図１４のステップＳ４３に進む。
【０１５５】
また、以下、図１６のフローチャートを参照して、図１４のステップＳ４３に対応するサイズ検出処理について説明する。このサイズ検出処理は、図１１のサイズ検出部６２により行われる。
【０１５６】
なお、ステップＳ１０１およびステップＳ１０２の処理は、図１５のステップＳ７１およびステップＳ７２の処理と同様であるので、その説明は省略する。すなわち、フィルタ処理部１２１により入力画像にフィルタ処理が施され、平均値算出部１２２により、フィルタ処理部１２１から供給されたＲ画像、Ｇ画像、およびＢ画像の画素ごとの平均値が求められ、得られた画像が正規化される。
【０１５７】
ステップＳ１０３において、幅算出部１２３および幅算出部１２４は、平均値算出部１２２から供給された画像を用いて、入力画像におけるバウンディングボックスのｘ方向およびｙ方向の幅を求め、スコア算出部１２５に供給する。
【０１５８】
例えば、幅算出部１２３は、平均値算出部１２２からの画像における、ｙ方向に並ぶ画素からなるラインをｙラインとして、ｙラインごとに、そのｙラインを構成する画素の画素値の合計値であるｙライン値を求める。
【０１５９】
そして幅算出部１２３は、ｙラインごとに求めたｙライン値を用いて、画像に含まれるエッジの総量の９８パーセントのエッジの量が含まれる、連続して並ぶｙラインからなる領域のｘ方向の幅を、バウンディングボックスのｘ方向の幅Ｗｘとして求める。つまり、求められた領域に含まれるｙラインのｙライン値の合計値は、画像を構成する全てのｙラインのｙライン値の合計値の９８％以上の値となる。
【０１６０】
同様に、幅算出部１２４は、平均値算出部１２２からの画像における、ｘ方向に並ぶ画素からなるラインをｘラインとして、ｘラインごとに、そのｘラインを構成する画素の画素値の合計値であるｘライン値を求める。そして幅算出部１２４は、ｘラインごとに求めたｘライン値を用いて、画像に含まれるエッジの総量の９８パーセントのエッジの量が含まれる、連続して並ぶｘラインからなる領域のｙ方向の幅を、バウンディングボックスのｙ方向の幅Ｗｙとして求める。
【０１６１】
ステップＳ１０４において、スコア算出部１２５は、幅算出部１２３および幅算出部１２４から供給された幅Ｗｘおよび幅Ｗｙに基づいて、ボックスサイズのスコアを算出し、選択部２２に供給する。例えば、１から、正規化された幅Ｗｘと幅Ｗｙとの積が減算されて得られた値の逆数が、ボックスサイズの値（スコア）とされる。
【０１６２】
具体的には、平均値算出部１２２が平均値を求めて得られた画像を、ｘ方向に１００画素、ｙ方向に１００画素の大きさに正規化した場合、幅Ｗｘおよび幅Ｗｙは、それぞれ１００で除算されることで正規化される。つまり、「１−（Ｗｘ／１００）×（Ｗｙ／１００）」の逆数がボックスサイズの値とされる。
【０１６３】
このようにして求められたボックスサイズの値は、バウンディングボックスの大きさが大きいほど大きくなり、入力画像におけるエッジの集中する領域の締まり度合いがより低いことを示している。求められたボックスサイズが選択部２２に供給されると、サイズ検出処理は終了し、その後、処理は図１４のステップＳ４４に進む。
【０１６４】
次に、図１７のフローチャートを参照して、図１４のステップＳ４４の処理に対応する色分布複雑度検出処理について説明する。なお、この色分布複雑度検出処理は、図１２の色分布複雑度検出部６３により行われる。
【０１６５】
ステップＳ１３１において、色別ヒストグラム生成部１５１は、供給された入力画像を用いて、入力画像のＲ、Ｇ、Ｂの各色の成分ごとのヒストグラムを生成し、ヒストグラム生成部１５２に供給する。
【０１６６】
ステップＳ１３２において、ヒストグラム生成部１５２は、色別ヒストグラム生成部１５１から供給された色ごとのヒストグラムから、１つのヒストグラムを生成し、距離算出部１５３および距離算出部１５４に供給する。例えば、ヒストグラム生成部１５２は、色ごとのヒストグラムを正規化し、正規化された色ごとのヒストグラムから、入力画像の画素値の所定の範囲をビンとした、１６の３乗個のビンからなる１つのヒストグラムを生成する。
【０１６７】
ステップＳ１３３において、距離算出部１５３および距離算出部１５４は、ヒストグラム生成部１５２から供給されたヒストグラムと、予め用意された簡素な画像および複雑な画像から得られたヒストグラムのそれぞれとの距離を、Ｋ−ＮＮ法などにより算出する。ここで、簡素な画像および複雑な画像から得られたヒストグラムのそれぞれは、ヒストグラム生成部１５２により生成されるヒストグラムと同じ処理により生成されたヒストグラムである。
【０１６８】
例えば、距離算出部１５３は、ヒストグラム生成部１５２からのヒストグラムと、簡素な画像のヒストグラムとの各ビンの頻度値の差分の合計値を、それらのヒストグラム同士の距離とする。距離算出部１５３は、複数の簡素な画像について、ヒストグラム生成部１５２からのヒストグラムとの距離を求め、スコア算出部１５５に供給する。
【０１６９】
同様に、距離算出部１５４は、ヒストグラム生成部１５２からのヒストグラムと、複雑な画像のヒストグラムとの各ビンの頻度値の差分の合計値を、それらのヒストグラム同士の距離とする。距離算出部１５４は、複数の複雑な画像について、ヒストグラム生成部１５２からのヒストグラムとの距離を求め、スコア算出部１５５に供給する。
【０１７０】
ステップＳ１３４において、スコア算出部１５５は、距離算出部１５３および距離算出部１５４から供給された距離に基づいて、色分布複雑度のスコアを算出し、選択部２２に供給する。
【０１７１】
例えば、スコア算出部１５５は、距離算出部１５３および距離算出部１５４から供給された距離のなかから、その距離の値の小さい順にＫ個の距離を選択する。そして、スコア算出部１５５は、選択したＫ個の距離のうち、簡素な画像のヒストグラムとの距離の数と、複雑な画像のヒストグラムとの距離の数との差を求め、求められた差を色分布複雑度の値（スコア）とする。つまり、Ｋ個の距離のうちの、距離算出部１５３から供給された距離の個数と、距離算出部１５４から供給された距離の個数との差が色分布複雑度とされる。
【０１７２】
このようにして求められた色分布複雑度の値は、入力画像における色分布の複雑さが、複雑な画像における色分布の複雑さにより近いほど大きくなり、入力画像における色分布がより複雑であることを示している。
【０１７３】
色分布複雑度が求められて選択部２２に供給されると、色分布複雑度検出処理は終了し、処理は図１４のステップＳ４５に進む。
【０１７４】
次に、図１８のフローチャートを参照して、図１４のステップＳ４５の処理に対応する色偏り検出処理について説明する。この色偏り検出処理は、図１３の色偏り検出部６４により行われる。
【０１７５】
ステップＳ１６１において、変換部１８１は、供給された入力画像を、Ｈ、Ｓ、Ｖの各成分の画素値を有する画像に変換し、ヒストグラム生成部１８２に供給する。
【０１７６】
ステップＳ１６２において、ヒストグラム生成部１８２は、変換部１８１から供給された画像から、所定の条件を満たす画素のヒストグラムを生成し、スコア算出部１８３に供給する。例えば、所定の条件として、画素のＶ成分の値が0.15より大きく0.95未満である値であり、かつ画素のＳ成分の値が0.2より大きい値であることが条件とされ、変換部１８１からの画像から、その条件を満たす画素が抽出される。そして、抽出された画素から、画素のＨ成分の値の範囲をビンとしたヒストグラムが生成され、スコア算出部１８３に供給される。
【０１７７】
ステップＳ１６３において、スコア算出部１８３は、ヒストグラム生成部１８２から供給されたヒストグラムに基づいて色偏り度のスコアを算出し、選択部２２に供給する。例えば、スコア算出部１８３は、ヒストグラムの各ビンの頻度値の合計値の５％以上の値を頻度値として有する、最も頻度値の高いビンの中央値Ｎを求め、所定の数、例えば２０から中央値Ｎを減算して得られた値を色偏り度の値（スコア）とする。
【０１７８】
このようにして求められた色偏り度の値は、中央値Ｎ、つまりＨ（色相）成分が小さいほど大きくなり、入力画像において色の偏りが大きいことを示している。求められた色偏り度が選択部２２に供給されると色偏り検出処理は終了し、処理は図１４のステップＳ４６に進む。
【０１７９】
さらに、図１９のフローチャートを参照して、図１４のステップＳ４６の処理に対応するフィルタ選択処理について説明する。このフィルタ選択処理は図７の選択部２２により行われる。
【０１８０】
ステップＳ１９１において、選択部２２は、ぼけ度検出部２１から供給されたぼけ度に基づいて、供給された入力画像がぼけた画像であるか否かを判定する。例えば、ぼけ度が予め定められた閾値以上である場合、入力画像はぼけた画像であると判定される。
【０１８１】
ステップＳ１９１において、ぼけた画像ではないと判定された場合、ステップＳ１９２において、選択部２２は、色分布複雑度検出部６３のスコア算出部１５５から供給された色分布複雑度に基づいて、入力画像における色分布が複雑であるか否かを判定する。例えば、色分布複雑度が予め定められた閾値以上である場合、色分布が複雑であると判定される。
【０１８２】
ステップＳ１９２において色分布が複雑でないと判定された場合、ステップＳ１９３において、選択部２２は、入力画像に施す画像処理のフィルタとして、入力画像をアニメ調の画像に変換するフィルタを選択する。
【０１８３】
すなわち、入力画像はぼけた画像ではなく色分布が単純なので、図９に示したように、画像処理としてアニメ調変換処理が選択される。選択部２２は、供給された入力画像を、アニメ調変換処理を行うアニメ調変換部２４に供給し、フィルタ選択処理は終了する。そして、その後、処理は図１４のステップＳ４７に進む。
【０１８４】
これに対して、ステップＳ１９２において、色分布が複雑であると判定された場合、ステップＳ１９４において、選択部２２は、入力画像に施す画像処理のフィルタとして、入力画像を漫画調の画像に変換するフィルタを選択する。
【０１８５】
すなわち、入力画像はぼけた画像ではなく色分布が複雑なので、図９に示したように、画像処理として漫画調変換処理が選択される。選択部２２は、供給された入力画像を、漫画調変換処理を行う漫画調変換部２３に供給し、フィルタ選択処理は終了する。そして、その後、処理は図１４のステップＳ４７に進む。
【０１８６】
また、ステップＳ１９１において、ぼけた画像であると判定された場合、ステップＳ１９５において、選択部２２は、エッジ複雑度検出部６１のスコア算出部９５から供給されたエッジ複雑度に基づいて、入力画像のエッジ分布が複雑であるか否かを判定する。例えば、エッジ複雑度が予め定められた閾値以上である場合、エッジ分布が複雑であると判定される。
【０１８７】
ステップＳ１９５において、エッジ分布が複雑でないと判定された場合、ステップＳ１９６において、選択部２２は、色偏り検出部６４のスコア算出部１８３から供給された色偏り度に基づいて、入力画像に色の偏りがあるか否かを判定する。例えば、色偏り度が予め定められた閾値以上である場合、色の偏りがあると判定される。
【０１８８】
ステップＳ１９６において、色の偏りがないと判定された場合、ステップＳ１９７において、選択部２２は、入力画像に施す画像処理のフィルタとして、入力画像をジオラマ調の画像に変換するフィルタを選択する。
【０１８９】
すなわち、入力画像のエッジ分布が単純であり、色の偏りはないので、図９に示したように、画像処理としてジオラマ調変換処理が選択される。選択部２２は、供給された入力画像を、ジオラマ調変換処理を行うジオラマ調変換部２５に供給し、フィルタ選択処理は終了する。そして、その後、処理は図１４のステップＳ４７に進む。
【０１９０】
これに対して、ステップＳ１９６において色の偏りがあると判定された場合、ステップＳ１９８において、選択部２２は、入力画像に施す画像処理のフィルタとして、入力画像を重ね塗り絵画調の画像に変換するフィルタを選択する。
【０１９１】
すなわち、入力画像のエッジ分布が単純であり、色の偏りがあるので、図９に示したように、画像処理として重ね塗り絵画調変換処理が選択される。選択部２２は、供給された入力画像を、重ね塗り絵画調変換処理を行う絵画調変換部２７に供給し、フィルタ選択処理は終了する。そして、その後、処理は図１４のステップＳ４７に進む。
【０１９２】
また、ステップＳ１９５において、エッジ分布が複雑であると判定された場合、ステップＳ１９９において、選択部２２は、入力画像に施す画像処理のフィルタとして、入力画像を減色絵画調の画像に変換するフィルタを選択する。
【０１９３】
すなわち、入力画像のエッジ分布が複雑であるので、図９に示したように、画像処理として減色絵画調変換処理が選択される。選択部２２は、供給された入力画像を、減色絵画調変換処理を行う絵画調変換部２６に供給し、フィルタ選択処理は終了する。そして、その後、処理は図１４のステップＳ４７に進む。
【０１９４】
このようにして、選択部２２は、入力画像から抽出された特徴量に基づいて、入力画像に対してより適した画像処理を選択し、その画像処理を行うブロックに入力画像を供給する。このように、特徴量を用いることで、より簡単に、入力画像に対してより効果的な画像処理を選択することができる。
【０１９５】
〈第３の実施の形態〉
［画像処理装置の構成］
なお、以上においては、入力画像全体に画像処理が施されると説明したが、入力画像の一部の領域にだけ画像処理が施されたり、一部の領域と、他の領域とに異なる画像処理が施されたりしてもよい。
【０１９６】
そのような場合、画像処理装置は、例えば図２０に示すように構成される。なお、図２０において、図７における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
【０１９７】
画像処理装置２３１は、注視領域検出部２４１、ぼけ度検出部２１、エッジ複雑度検出部６１乃至色偏り検出部６４、選択部２２乃至絵画調変換部２７、および出力部２９から構成される。
【０１９８】
注視領域検出部２４１は、供給された入力画像上の被写体の領域が有する特徴の特徴量を抽出することで入力画像から被写体を検出し、入力画像における被写体の含まれる注視領域を特定するための情報である被写体マップを生成する。そして注視領域検出部２４１は、生成した被写体マップをぼけ度検出部２１、エッジ複雑度検出部６１乃至色偏り検出部６４、および選択部２２に供給する。
【０１９９】
ここで、被写体の検出は、ユーザが入力画像を一瞥した場合に、ユーザが注目すると推定される入力画像上の物体、つまりユーザが目を向けると推定される物体が被写体であるとして行われる。したがって、被写体は必ずしも人に限られる訳ではない。
【０２００】
ぼけ度検出部２１およびエッジ複雑度検出部６１乃至色偏り検出部６４は、注視領域検出部２４１からの被写体マップを用いて、供給された入力画像における注視領域と、注視領域以外の領域である背景領域とから特徴量を抽出し、選択部２２に供給する。すなわち、注視領域および背景領域のそれぞれについて、ぼけ度、エッジ複雑度、ボックスサイズ、色分布複雑度、および色偏り度が求められる。
【０２０１】
選択部２２は、ぼけ度検出部２１およびエッジ複雑度検出部６１乃至色偏り検出部６４からの特徴量に基づいて、注視領域または背景領域の少なくとも一方の領域について、その領域に施す画像処理を選択する。なお、両方の領域に画像処理が施される場合には、領域ごとに画像処理が選択される。
【０２０２】
また、選択部２２は、供給された入力画像と、注視領域検出部２４１からの被写体マップとを、選択された画像処理を行うブロックに供給する。出力部２９は、漫画調変換部２３乃至絵画調変換部２７から供給された出力画像、つまり注視領域の画像と、背景領域の画像とを必要に応じて合成し、最終的に得られた出力画像を出力する。
【０２０３】
さらに、注視領域検出部２４１は、例えば、図２１に示すように構成される。
【０２０４】
すなわち、注視領域検出部２４１は、輝度情報抽出部２７１、色情報抽出部２７２、顔情報抽出部２７３、および被写体マップ生成部２７４から構成される。
【０２０５】
輝度情報抽出部２７１は、供給された入力画像に基づいて、入力画像の各領域における、輝度に関する情報を示す輝度情報マップを生成し、被写体マップ生成部２７４に供給する。
【０２０６】
輝度情報抽出部２７１は、輝度画像生成部２９１、ピラミッド画像生成部２９２、差分算出部２９３、および輝度情報マップ生成部２９４から構成される。
【０２０７】
輝度画像生成部２９１は、供給された入力画像を用いて、入力画像の画素の輝度値を、画素の画素値とする輝度画像を生成し、ピラミッド画像生成部２９２に供給する。ここで、輝度画像の任意の画素の画素値は、その画素と同じ位置にある入力画像の画素の輝度値を示している。
【０２０８】
ピラミッド画像生成部２９２は、輝度画像生成部２９１から供給された輝度画像を用いて、互いに解像度の異なる複数の輝度画像を生成し、それらの輝度画像を輝度のピラミッド画像として差分算出部２９３に供給する。
【０２０９】
例えば、レベルＬ１乃至レベルＬ８までの８つの解像度の階層のピラミッド画像が生成され、レベルＬ１のピラミッド画像が最も解像度が高く、レベルＬ１からレベルＬ８まで順番にピラミッド画像の解像度が低くなるものとする。
【０２１０】
この場合、輝度画像生成部２９１により生成された輝度画像が、レベルＬ１のピラミッド画像とされる。また、レベルＬｉ（但し、１≦ｉ≦７）のピラミッド画像における、互いに隣接する４つの画素の画素値の平均値が、それらの画素と対応するレベルＬ（ｉ＋１）のピラミッド画像の１つの画素の画素値とされる。したがって、レベルＬ（ｉ＋１）のピラミッド画像は、レベルＬｉのピラミッド画像に対して縦横半分（割り切れない場合は切り捨て）の画像となる。
【０２１１】
差分算出部２９３は、ピラミッド画像生成部２９２から供給された複数のピラミッド画像のうち、互いに階層の異なる２つのピラミッド画像を選択し、選択したピラミッド画像の差分を求めて輝度の差分画像を生成する。なお、各階層のピラミッド画像は、それぞれ大きさ（画素数）が異なるので、差分画像の生成時には、より小さい方のピラミッド画像が、より大きいピラミッド画像に合わせてアップコンバートされる。
【０２１２】
差分算出部２９３は、予め定められた数だけ輝度の差分画像を生成すると、生成したそれらの差分画像を正規化し、輝度情報マップ生成部２９４に供給する。輝度情報マップ生成部２９４は、差分算出部２９３から供給された差分画像に基づいて輝度情報マップを生成し、被写体マップ生成部２７４に供給する。
【０２１３】
また、色情報抽出部２７２は、供給された入力画像に基づいて、入力画像の各領域における、色に関する情報を示す色情報マップを生成し、被写体マップ生成部２７４に供給する。
【０２１４】
色情報抽出部２７２は、ＲＧ差分画像生成部２９５、ＢＹ差分画像生成部２９６、ピラミッド画像生成部２９７、ピラミッド画像生成部２９８、差分算出部２９９、差分算出部３００、色情報マップ生成部３０１、および色情報マップ生成部３０２から構成される。
【０２１５】
ＲＧ差分画像生成部２９５は、供給された入力画像を用いて、入力画像の画素のＲ（赤）成分とＧ（緑）成分との差分を、画素の画素値とするＲＧ差分画像を生成し、ピラミッド画像生成部２９７に供給する。ＲＧ差分画像の任意の画素の画素値は、その画素と同じ位置にある入力画像の画素のＲの成分と、Ｇの成分との差分の値を示している。
【０２１６】
ＢＹ差分画像生成部２９６は、供給された入力画像を用いて、入力画像の画素のＢ（青）成分とＹ（黄）成分との差分を、画素の画素値とするＢＹ差分画像を生成し、ピラミッド画像生成部２９８に供給する。ＢＹ差分画像の任意の画素の画素値は、その画素と同じ位置にある入力画像の画素のＢ（青）成分と、Ｙ（黄）成分との差分の値を示している。なお、入力画像のＹ（黄）成分の値は、入力画像のＲ、Ｇ、およびＢの各色の成分の値（画素値）から求められる。
【０２１７】
ピラミッド画像生成部２９７およびピラミッド画像生成部２９８は、ＲＧ差分画像生成部２９５およびＢＹ差分画像生成部２９６から供給されたＲＧ差分画像およびＢＹ差分画像を用いて、互いに解像度の異なる複数のＲＧ差分画像およびＢＹ差分画像を生成する。そして、ピラミッド画像生成部２９７およびピラミッド画像生成部２９８は、生成したそれらのＲＧ差分画像およびＢＹ差分画像を、ＲＧの差分のピラミッド画像、およびＢＹの差分のピラミッド画像として差分算出部２９９および差分算出部３００に供給する。
【０２１８】
例えば、ＲＧの差分のピラミッド画像、およびＢＹの差分のピラミッド画像として、輝度のピラミッド画像の場合と同様に、それぞれレベルＬ１乃至レベルＬ８までの８つの解像度の階層のピラミッド画像が生成される。
【０２１９】
差分算出部２９９および差分算出部３００は、ピラミッド画像生成部２９７およびピラミッド画像生成部２９８から供給された複数のピラミッド画像のうち、互いに階層の異なる２つのピラミッド画像を選択し、選択したピラミッド画像の差分を求めてＲＧの差分の差分画像、およびＢＹの差分の差分画像を生成する。なお、各階層のピラミッド画像は、それぞれ大きさが異なるので、差分画像の生成時には、より小さい方のピラミッド画像がアップコンバートされて、より大きい方のピラミッド画像と同じ大きさとされる。
【０２２０】
差分算出部２９９および差分算出部３００は、予め定められた数だけＲＧの差分の差分画像、およびＢＹの差分の差分画像を生成すると、生成したそれらの差分画像を正規化し、色情報マップ生成部３０１および色情報マップ生成部３０２に供給する。色情報マップ生成部３０１および色情報マップ生成部３０２は、差分算出部２９９および差分算出部３００から供給された差分画像に基づいて色情報マップを生成し、被写体マップ生成部２７４に供給する。色情報マップ生成部３０１ではＲＧの差分の色情報マップが生成され、色情報マップ生成部３０２ではＢＹの差分の色情報マップが生成される。
【０２２１】
顔情報抽出部２７３は、供給された入力画像に基づいて、入力画像の各領域における、被写体としての人の顔に関する情報を示す顔情報マップを生成し、被写体マップ生成部２７４に供給する。顔情報抽出部２７３は、顔検出部３０３および顔情報マップ生成部３０４から構成される。
【０２２２】
顔検出部３０３は、供給された入力画像から被写体としての人の顔の領域を検出し、その検出結果を顔情報マップ生成部３０４に供給する。顔情報マップ生成部３０４は、顔検出部３０３からの検出結果に基づいて顔情報マップを生成し、被写体マップ生成部２７４に供給する。
【０２２３】
なお、以下、輝度情報抽出部２７１乃至顔情報抽出部２７３から出力される、輝度情報マップ乃至顔情報マップのそれぞれを個々に区別する必要のない場合、単に情報マップとも称する。これらの情報マップに含まれる情報は、被写体の含まれる領域により多く含まれる特徴の特徴量を示す情報とされ、その情報が入力画像の各領域に対応させて並べられたものが情報マップとされる。つまり、情報マップは、入力画像の各領域における特徴量を示す情報であるといえる。
【０２２４】
したがって、各情報マップにおける、より情報量の多い領域、つまり特徴量の多い領域に対応する入力画像上の領域は、より被写体が含まれる可能性の高い領域となり、各情報マップにより入力画像における被写体の含まれる領域を特定することができる。
【０２２５】
被写体マップ生成部２７４は、輝度情報マップ生成部２９４、色情報マップ生成部３０１、色情報マップ生成部３０２、および顔情報マップ生成部３０４から供給された輝度情報マップ、色情報マップ、および顔情報マップを線形結合し、被写体マップを生成する。すなわち、輝度情報マップ乃至顔情報マップの各領域の情報（特徴量）が、同じ位置にある領域ごとに重み付き加算されて被写体マップが生成される。被写体マップ生成部２７４は、生成した被写体マップをぼけ度検出部２１、エッジ複雑度検出部６１乃至色偏り検出部６４、および選択部２２に供給する。
【０２２６】
［画像処理装置の動作の説明］
次に、図２２のフローチャートを参照して、図２０の画像処理装置２３１による画像変換処理について説明する。
【０２２７】
ステップＳ２３１において、注視領域検出部２４１は、注視領域検出処理を行って入力画像から注視領域を検出する。すなわち、注視領域検出部２４１は、入力画像から被写体マップを生成し、ぼけ度検出部２１、エッジ複雑度検出部６１乃至色偏り検出部６４、および選択部２２に供給する。なお、注視領域検出処理の詳細は後述する。
【０２２８】
また、注視領域検出処理が行われると、その後、ステップＳ２３２乃至ステップＳ２３６の処理が行われるが、これらの処理は、図１４のステップＳ４１乃至ステップＳ４５の処理のそれぞれと同様であるので、その説明は省略する。
【０２２９】
すなわち、ぼけ度検出部２１、およびエッジ複雑度検出部６１乃至色偏り検出部６４において、各特徴の特徴量が求められて選択部２２に供給される。なお、ステップＳ２３２乃至ステップＳ２３６の処理においては、注視領域検出部２４１により生成された被写体マップに基づいて、入力画像の注視領域および背景領域ごとに特徴量が求められる。つまり、注視領域のぼけ度、エッジ複雑度、ボックスサイズ、色分布複雑度、および色偏り度が求められ、また、背景領域のぼけ度、エッジ複雑度、ボックスサイズ、色分布複雑度、および色偏り度が求められる。
【０２３０】
ステップＳ２３７において、選択部２２は、ぼけ度検出部２１から供給された、注視領域および背景領域のぼけ度に基づいて、それらのぼけ度の差の絶対値が所定の閾値未満であるか否かを判定する。
【０２３１】
ステップＳ２３７において、絶対値が閾値未満であると判定された場合、ステップＳ２３８において、選択部２２は、注視領域に対するフィルタ選択処理を行って、入力画像の注視領域に対して施す画像処理に用いるフィルタを選択する。
【０２３２】
なお、この注視領域に対するフィルタ選択処理は、図１９を参照して説明したフィルタ選択処理と同様であるので、その説明は省略する。但し、注視領域に対するフィルタ選択処理では、注視領域のぼけ度、エッジ複雑度、ボックスサイズ、色分布複雑度、および色偏り度が用いられて、注視領域に対する画像処理が選択される。
【０２３３】
選択部２２は、注視領域に対するフィルタ、つまり画像処理を選択すると、供給された入力画像と、注視領域検出部２４１からの被写体マップとを、選択した画像処理を行うブロックに供給し、そのブロックに入力画像の注視領域への画像処理を指示する。
【０２３４】
ステップＳ２３９において、漫画調変換部２３乃至絵画調変換部２７のうちの、選択部２２から入力画像および被写体マップが供給されたブロックは、供給された被写体マップを用いて、入力画像の注視領域に対してフィルタ処理を施す。
【０２３５】
例えば、選択部２２により減色絵画調変換処理が選択された場合、絵画調変換部２６は、被写体マップを用いて、入力画像の注視領域に減色絵画調変換処理を施して、入力画像における注視領域の部分の出力画像を生成する。絵画調変換部２６は、生成した注視領域の部分の出力画像を出力部２９に供給する。
【０２３６】
ステップＳ２４０において、選択部２２は、背景領域に対するフィルタ選択処理を行って、入力画像の背景領域に対して施す画像処理に用いるフィルタを選択する。
【０２３７】
なお、この背景領域に対するフィルタ選択処理は、図１９を参照して説明したフィルタ選択処理と同様であるので、その説明は省略する。但し、背景領域に対するフィルタ選択処理では、背景領域のぼけ度、エッジ複雑度、ボックスサイズ、色分布複雑度、および色偏り度が用いられて、背景領域に対する画像処理が選択される。
【０２３８】
選択部２２は、背景領域に対するフィルタ、つまり画像処理を選択すると、供給された入力画像と、注視領域検出部２４１からの被写体マップとを、選択した画像処理を行うブロックに供給し、そのブロックに入力画像の背景領域への画像処理を指示する。
【０２３９】
ステップＳ２４１において、漫画調変換部２３乃至絵画調変換部２７のうちの、選択部２２から入力画像および被写体マップが供給されたブロックは、供給された被写体マップを用いて、入力画像の背景領域に対してフィルタ処理を施す。
【０２４０】
例えば、選択部２２によりアニメ調変換処理が選択された場合、アニメ調変換部２４は、被写体マップを用いて、入力画像の背景領域にアニメ調変換処理を施して、入力画像における背景領域の部分の出力画像を生成する。アニメ調変換部２４は、生成した背景領域の部分の出力画像を出力部２９に供給する。
【０２４１】
背景領域の部分の出力画像が出力部２９に供給されると、その後、処理はステップＳ２４７に進む。
【０２４２】
また、ステップＳ２３７において、ぼけ度の差の絶対値が閾値未満ではないと判定された場合、ステップＳ２４２において、選択部２２は、注視領域のぼけ度が背景領域のぼけ度よりも大きいか否かを判定する。
【０２４３】
ステップＳ２４２において注視領域のぼけ度が大きいと判定された場合、ステップＳ２４３において、選択部２２は、注視領域に対するフィルタ選択処理を行って、フィルタを選択する。なお、ステップＳ２４３の処理は、ステップＳ２３８の処理と同様であるので、その説明は省略する。
【０２４４】
選択部２２は、フィルタ、すなわち画像処理を選択すると、その画像処理を行うブロックに、注視領域検出部２４１からの被写体マップと、供給された入力画像とを供給し、入力画像の注視領域に対する画像処理を指示する。
【０２４５】
ステップＳ２４４において、漫画調変換部２３乃至絵画調変換部２７のうちの、選択部２２から入力画像および被写体マップが供給されたブロックは、供給された被写体マップを用いて、入力画像の注視領域に対してフィルタ処理を施す。そして、フィルタ処理により得られた注視領域の部分の画像が、注視領域の部分の出力画像とされる。
【０２４６】
また、画像処理を行うブロックは、被写体マップを用いて、入力画像の背景領域を抽出し、その背景領域をそのまま背景領域の部分の出力画像とする。画像処理を行うブロックは、フィルタ処理により得られた注視領域の部分の出力画像と、背景領域の部分の出力画像とを出力部２９に供給する。
【０２４７】
出力部２９に、注視領域の部分の出力画像と、背景領域の部分の出力画像とが供給されると、その後、処理はステップＳ２４７に進む。このように、注視領域が背景領域よりも大きくぼけている場合には、入力画像の注視領域に画像処理が施され、ぼけていない背景領域には画像処理は施されず、そのままとされる。
【０２４８】
また、ステップＳ２４２において、注視領域のぼけ度が大きくないと判定された場合、すなわち注視領域のぼけ度よりも背景領域のぼけ度が大きい場合、ステップＳ２４５において、選択部２２は背景領域に対するフィルタ選択処理を行って、フィルタを選択する。なお、ステップＳ２４５の処理は、ステップＳ２４０の処理と同様であるので、その説明は省略する。
【０２４９】
選択部２２は、フィルタ、すなわち画像処理を選択すると、その画像処理を行うブロックに、注視領域検出部２４１からの被写体マップと、供給された入力画像とを供給し、入力画像の背景領域に対する画像処理を指示する。
【０２５０】
ステップＳ２４６において、漫画調変換部２３乃至絵画調変換部２７のうちの、選択部２２から入力画像および被写体マップが供給されたブロックは、供給された被写体マップを用いて、入力画像の背景領域に対してフィルタ処理を施す。そして、フィルタ処理により得られた背景領域の部分の画像が、背景領域の部分の出力画像とされる。
【０２５１】
また、画像処理を行うブロックは、被写体マップを用いて、入力画像の注視領域を抽出し、その注視領域をそのまま注視領域の部分の出力画像とする。画像処理を行うブロックは、フィルタ処理により得られた背景領域の部分の出力画像と、注視領域の部分の出力画像とを出力部２９に供給する。
【０２５２】
出力部２９に、注視領域の部分の出力画像と、背景領域の部分の出力画像とが供給されると、その後、処理はステップＳ２４７に進む。このように、背景領域が注視領域よりも大きくぼけている場合には、入力画像の背景領域に画像処理が施され、ぼけていない注視領域には画像処理は施されず、そのままとされる。
【０２５３】
ステップＳ２４１、ステップＳ２４４、またはステップＳ２４６の処理が行われて、出力部２９に注視領域の部分の出力画像と、背景領域の部分の出力画像とが供給されると、ステップＳ２４７において、出力部２９は、供給された注視領域の部分の出力画像と、背景領域の部分の出力画像とを合成して、最終的な１つの出力画像を生成する。
【０２５４】
このようにして得られる出力画像は、注視領域と背景領域とに個別に選択された画像処理が施された画像、または注視領域か背景領域の何れか一方に画像処理が施された画像となる。このように、最終的な出力画像が得られると、その後、ステップＳ２４８およびステップＳ２４９の処理が行われて、画像変換処理は終了するが、これらの処理は、図６のステップＳ１６およびステップＳ１７の処理と同様であるので、その説明は省略する。
【０２５５】
このようにして、画像処理装置２３１は、入力画像における注視領域と背景領域との少なくとも一方に画像処理を施して、入力画像を出力画像に変換する。これにより、入力画像の領域ごとに、より効果的な画像処理を簡単に選択して、出力画像を生成することができる。その結果、より効果的に出力画像を表示することができるようになる。
【０２５６】
例えば、入力画像の背景領域のみがぼけている場合には、注視領域をそのままとし、背景領域に画像処理を施すことで、注視領域内の被写体を、入力画像の撮像時の光景とは別空間に置くことができる。したがって、出力画像の鑑賞時に、ユーザに強いインパクトを与えることができ、出力画像の鑑賞をより楽しませることができる。
【０２５７】
また、入力画像の注視領域および背景領域のぼけの度合いが殆ど同じである場合には、それらの両方の領域に、それぞれ選択された画像処理を施すことで、領域ごとにことなる風合いの出力画像を表示させ、出力画像の鑑賞をより楽しませることができる。
【０２５８】
なお、注視領域や背景領域に画像処理を施す場合、例えば、入力画像における顔検出を優先し、注視領域に人の顔が含まれるときには、注視領域における人の顔の領域はそのままとし、人の顔のない領域に対して画像処理を施すようにしてもよい。例えば、人の顔の領域の検出は、注視領域検出部２４１において生成される顔情報マップから特定することができる。
【０２５９】
また、注視領域や背景領域に施す画像処理を選択する場合、それらの領域に対して、異なる画像処理を施した出力画像をいくつか生成しておき、生成した出力画像から、各領域に施す画像処理を選択するようにしてもよい。この場合、例えばSeam Carvingのように、注視領域の部分の出力画像と、背景領域の部分の出力画像との境界ラインの結合性がエネルギーとして評価され、その評価に基づいて、それらの領域の出力画像が、合成時によりスムーズに連結される画像処理が選択される。
【０２６０】
さらに、被写体マップは、マスクとして用いられてもよい。例えば、入力画像の注視領域にのみ画像処理を施す場合、被写体マップがマスクとして用いられて入力画像の注視領域にのみ画像処理が施され、その結果、得られた画像が出力画像とされる。これにより、出力部２９において、注視領域の部分の出力画像と、背景領域の部分の出力画像とを合成する必要がなくなり、より迅速に出力画像を得ることができるようになる。
【０２６１】
次に、図２３のフローチャートを参照して、図２２のステップＳ２３１の処理に対応する注視領域検出処理について説明する。
【０２６２】
ステップＳ２８１において、輝度画像生成部２９１は、供給された入力画像を用いて輝度画像を生成し、ピラミッド画像生成部２９２に供給する。例えば、輝度画像生成部２９１は、入力画像の画素のＲ、Ｇ、およびＢの各成分の値に、成分ごとに予め定められた係数を乗算し、係数の乗算された各成分の値の和を、入力画像の画素と同じ位置にある輝度画像の画素の画素値とする。つまり、輝度成分（Ｙ）および色差成分（Ｃｂ，Ｃｒ）からなるコンポーネント信号の輝度成分が求められる。なお、画素のＲ、Ｇ、およびＢの各成分の値の平均値が、輝度画像の画素の画素値とされてもよい。
【０２６３】
ステップＳ２８２において、ピラミッド画像生成部２９２は、輝度画像生成部２９１から供給された輝度画像に基づいて、レベルＬ１乃至レベルＬ８の各階層のピラミッド画像を生成し、差分算出部２９３に供給する。
【０２６４】
ステップＳ２８３において、差分算出部２９３は、ピラミッド画像生成部２９２から供給されたピラミッド画像を用いて差分画像を生成して正規化し、輝度情報マップ生成部２９４に供給する。正規化は、差分画像の画素の画素値が、例えば０乃至２５５の間の値となるように行われる。
【０２６５】
具体的には、差分算出部２９３は、各階層の輝度のピラミッド画像のうち、レベルＬ６およびレベルＬ３、レベルＬ７およびレベルＬ３、レベルＬ７およびレベルＬ４、レベルＬ８およびレベルＬ４、並びにレベルＬ８およびレベルＬ５の各階層の組み合わせのピラミッド画像の差分を求める。これにより、合計５つの輝度の差分画像が得られる。
【０２６６】
例えば、レベルＬ６およびレベルＬ３の組み合わせの差分画像が生成される場合、レベルＬ６のピラミッド画像が、レベルＬ３のピラミッド画像の大きさに合わせてアップコンバートされる。つまり、アップコンバート前のレベルＬ６のピラミッド画像の１つの画素の画素値が、その画素に対応する、アップコンバート後のレベルＬ６のピラミッド画像の互いに隣接するいくつかの画素の画素値とされる。そして、レベルＬ６のピラミッド画像の画素の画素値と、その画素と同じ位置にあるレベルＬ３のピラミッド画像の画素の画素値との差分が求められ、その差分が差分画像の画素の画素値とされる。
【０２６７】
これらの差分画像を生成する処理は、輝度画像にバンドパスフィルタを用いたフィルタ処理を施して、輝度画像から所定の周波数成分を抽出することと等価である。このようにして得られた差分画像の画素の画素値は、各レベルのピラミッド画像の輝度値の差、つまり入力画像における所定の画素における輝度と、その画素の周囲の平均的な輝度との差分を示している。
【０２６８】
一般的に、画像において周囲との輝度の差分の大きい領域は、その画像を見る人の目を引く領域であるので、その領域は被写体の領域である可能性が高い。したがって、各差分画像において、より画素値の大きい画素が、より被写体の領域である可能性の高い領域であることを示しているということができる。
【０２６９】
ステップＳ２８４において、輝度情報マップ生成部２９４は、差分算出部２９３から供給された差分画像に基づいて輝度情報マップを生成し、被写体マップ生成部２７４に供給する。
【０２７０】
例えば、輝度情報マップ生成部２９４は、供給された５つの差分画像を、予め求められた差分画像ごとの重みにより重み付き加算し、１つの画像を求める。すなわち、各差分画像の同じ位置にある画素の画素値のそれぞれに重みが乗算されて、重みが乗算された画素値の総和が求められる。
【０２７１】
なお、輝度情報マップの生成時において、各差分画像が同じ大きさとなるように、差分画像のアップコンバートが行われる。このようにして得られた輝度情報マップによれば、入力画像において、輝度の差の大きい領域、つまり入力画像を一瞥した観察者の目に付きやすい領域を簡単に検出することができる。
【０２７２】
ステップＳ２８５において、ＲＧ差分画像生成部２９５は、供給された入力画像を用いて、ＲＧ差分画像を生成し、ピラミッド画像生成部２９７に供給する。
【０２７３】
ステップＳ２８６において、ＢＹ差分画像生成部２９６は、供給された入力画像を用いてＢＹ差分画像を生成し、ピラミッド画像生成部２９８に供給する。
【０２７４】
ステップＳ２８７において、ピラミッド画像生成部２９７およびピラミッド画像生成部２９８は、ＲＧ差分画像生成部２９５からのＲＧ差分画像、およびＢＹ差分画像生成部２９６からのＢＹ差分画像を用いて、ピラミッド画像を生成する。
【０２７５】
例えば、ピラミッド画像生成部２９７は、解像度の異なる複数のＲＧ差分画像を生成することにより、レベルＬ１乃至レベルＬ８の各階層のピラミッド画像を生成し、差分算出部２９９に供給する。同様に、ピラミッド画像生成部２９８は、解像度の異なる複数のＢＹ差分画像を生成することにより、レベルＬ１乃至レベルＬ８の各階層のピラミッド画像を生成し、差分算出部３００に供給する。
【０２７６】
ステップＳ２８８において、差分算出部２９９および差分算出部３００は、ピラミッド画像生成部２９７およびピラミッド画像生成部２９８から供給されたピラミッド画像に基づいて差分画像を生成して正規化し、色情報マップ生成部３０１および色情報マップ生成部３０２に供給する。差分画像の正規化では、例えば、画素の画素値が０乃至２５５の間の値となるようにされる。
【０２７７】
例えば、差分算出部２９９は、各階層のＲＧの差分のピラミッド画像のうち、レベルＬ６およびレベルＬ３、レベルＬ７およびレベルＬ３、レベルＬ７およびレベルＬ４、レベルＬ８およびレベルＬ４、並びにレベルＬ８およびレベルＬ５の各階層の組み合わせのピラミッド画像の差分を求める。これにより、合計５つのＲＧの差分の差分画像が得られる。
【０２７８】
同様に、差分算出部３００は、各階層のＢＹの差分のピラミッド画像のうち、レベルＬ６およびレベルＬ３、レベルＬ７およびレベルＬ３、レベルＬ７およびレベルＬ４、レベルＬ８およびレベルＬ４、並びにレベルＬ８およびレベルＬ５の各階層の組み合わせのピラミッド画像の差分を求める。これにより、合計５つのＢＹの差分の差分画像が得られる。
【０２７９】
これらの差分画像を生成する処理は、ＲＧ差分画像またはＢＹ差分画像にバンドパスフィルタを用いたフィルタ処理を施して、ＲＧ差分画像またはＢＹ差分画像から所定の周波数成分を抽出することと等価である。このようにして得られた差分画像の画素の画素値は、各レベルのピラミッド画像の特定の色成分の差、つまり入力画像の画素における特定の色の成分と、その画素の周囲の平均的な特定の色の成分との差分を示している。
【０２８０】
一般的に、画像において周囲と比べて目立つ色の領域、つまり特定の色成分の周囲との差分の大きい領域は、その画像を見る人の目を引く領域であるので、その領域は被写体の領域である可能性が高い。したがって、各差分画像において、より画素値の大きい画素が、より被写体の領域である可能性の高い領域であることを示しているということができる。
【０２８１】
ステップＳ２８９において、色情報マップ生成部３０１および色情報マップ生成部３０２は、差分算出部２９９からの差分画像、および差分算出部３００からの差分画像を用いて色情報マップを生成し、被写体マップ生成部２７４に供給する。
【０２８２】
例えば、色情報マップ生成部３０１は、差分算出部２９９から供給されたＲＧの差分の差分画像を、予め求められた差分画像ごとの重みにより重み付き加算して、１つのＲＧの差分の色情報マップとする。
【０２８３】
同様に、色情報マップ生成部３０２は、差分算出部３００から供給されたＢＹの差分の差分画像を、予め求められた重みにより重み付き加算して、１つのＢＹの差分の色情報マップとする。なお、色情報マップの生成時において、各差分画像が同じ大きさとなるように、差分画像のアップコンバートが行われる。
【０２８４】
このようにして得られた色情報マップによれば、入力画像において、特定の色成分の差の大きい領域、つまり入力画像を一瞥した観察者の目に付きやすい領域を簡単に検出することができる。
【０２８５】
ステップＳ２９０において、顔検出部３０３は、供給された入力画像から、人の顔の領域を検出し、その検出結果を顔情報マップ生成部３０４に供給する。例えば、顔検出部３０３は、入力画像に対してガボアフィルタを用いたフィルタ処理を施し、入力画像から人の目、口、鼻などの特徴的な領域を抽出することにより、入力画像における顔の領域を検出する。
【０２８６】
ステップＳ２９１において、顔情報マップ生成部３０４は、顔検出部３０３からの検出結果を用いて顔情報マップを生成し、被写体マップ生成部２７４に供給する。
【０２８７】
例えば、入力画像からの顔の検出結果として、顔が含まれると推定される入力画像上の矩形の領域（以下、候補領域と称する）が複数検出されたとする。ここで、入力画像上の所定の位置近傍に複数の候補領域が検出され、それらの候補領域の一部が互いに重なることもあることとする。すなわち、例えば、入力画像上の１つの顔の領域に対して、その顔を含む複数の領域が候補領域として得られた場合には、それらの候補領域の一部が互いに重なることになる。
【０２８８】
顔情報マップ生成部３０４は、顔の検出により得られた候補領域に対して、候補領域ごとに、入力画像と同じ大きさの検出画像を生成する。この検出画像は、検出画像上における処理対象の候補領域と同じ領域内の画素の画素値が、候補領域とは異なる領域内の画素の画素値よりも大きい値とされる。
【０２８９】
また、検出画像上の画素の画素値は、より人の顔が含まれる可能性が高いと推定された候補領域の画素と同じ位置の画素ほど、画素値が大きくなる。顔情報マップ生成部３０４は、このようにして得られた検出画像を足し合わせて、１つの画像を生成して正規化し、顔情報マップとする。したがって、顔情報マップ上において、入力画像上の複数の候補領域の一部が重なる領域と同じの領域の画素の画素値は大きくなり、より顔が含まれる可能性が高いことになる。なお、正規化は、顔情報マップの画素の画素値が、例えば０乃至２５５の間の値となるようにされる。
【０２９０】
このようにして得られた顔情報マップによれば、入力画像において、被写体としての人の顔の領域を簡単に検出することができる。
【０２９１】
ステップＳ２９２において、被写体マップ生成部２７４は、輝度情報マップ生成部２９４、色情報マップ生成部３０１、色情報マップ生成部３０２、および顔情報マップ生成部３０４から供給された輝度情報マップ、色情報マップ、および顔情報マップを用いて、被写体マップを生成する。
【０２９２】
例えば、被写体マップ生成部２７４は、情報マップごとに予め求められている重みを用いて各情報マップを線形結合し、さらに、その結果得られたマップの画素値に、予め求められた重みを乗算して正規化し、被写体マップとする。
【０２９３】
つまり、これから求めようとする被写体マップ上の注目する位置（画素）を注目位置とすると、各情報マップの注目位置と同じ位置（画素）の画素値に、情報マップごとの重みが乗算され、重みの乗算された画素値の総和が、注目位置の画素値とされる。さらに、このようにして求められた被写体マップの各位置の画素値に、被写体マップに対して予め求められた重みが乗算されて正規化され、最終的な被写体マップとされる。
【０２９４】
なお、より詳細には、色情報マップとして、ＲＧの差分の色情報マップと、ＢＹの差分の色情報マップとが用いられて、被写体マップが生成される。また、正規化は、被写体マップの各画素の画素値が、０から１までの間の値となるようになされる。
【０２９５】
被写体マップ生成部２７４は被写体マップを生成すると、生成した被写体マップをぼけ度検出部２１、エッジ複雑度検出部６１乃至色偏り検出部６４、および選択部２２に供給し、注視領域検出処理は終了する。注視領域検出処理が終了すると、その後、処理は図２２のステップＳ２３２に進む。
【０２９６】
このようにして、注視領域検出部２４１は、入力画像の注視領域を特定するための被写体マップを生成し、出力する。これにより、画像処理装置２３１では、入力画像における、ユーザが目を向ける注視領域と、その他の領域である背景領域とのそれぞれに、より効果的な画像処理を施すことができるようになり、その結果、より効果的に出力画像を表示することができるようになる。
【０２９７】
なお、以上においては、入力画像から輝度に関する情報、色に関する情報、および人の顔に関する情報を抽出して被写体マップを生成すると説明したが、その他、エッジに関する情報や動きに関する情報を入力画像から抽出し、被写体マップの生成に用いてもよい。
【０２９８】
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
【０２９９】
図２４は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
【０３００】
コンピュータにおいて、CPU（Central Processing Unit）５０１，ROM（Read Only Memory）５０２，RAM（Random Access Memory）５０３は、バス５０４により相互に接続されている。
【０３０１】
バス５０４には、さらに、入出力インターフェース５０５が接続されている。入出力インターフェース５０５には、キーボード、マウス、マイクロホンなどよりなる入力部５０６、ディスプレイ、スピーカなどよりなる出力部５０７、ハードディスクや不揮発性のメモリなどよりなる記録部５０８、ネットワークインターフェースなどよりなる通信部５０９、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア５１１を駆動するドライブ５１０が接続されている。
【０３０２】
以上のように構成されるコンピュータでは、CPU５０１が、例えば、記録部５０８に記録されているプログラムを、入出力インターフェース５０５及びバス５０４を介して、RAM５０３にロードして実行することにより、上述した一連の処理が行われる。
【０３０３】
コンピュータ（CPU５０１）が実行するプログラムは、例えば、磁気ディスク（フレキシブルディスクを含む）、光ディスク（CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)等）、光磁気ディスク、もしくは半導体メモリなどよりなるパッケージメディアであるリムーバブルメディア５１１に記録して、あるいは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供される。
【０３０４】
そして、プログラムは、リムーバブルメディア５１１をドライブ５１０に装着することにより、入出力インターフェース５０５を介して、記録部５０８にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部５０９で受信し、記録部５０８にインストールすることができる。その他、プログラムは、ROM５０２や記録部５０８に、あらかじめインストールしておくことができる。
【０３０５】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【０３０６】
なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
【図面の簡単な説明】
【０３０７】
【図１】本発明を適用した画像処理装置の一実施の形態の構成例を示す図である。
【図２】漫画調変換処理について説明する図である。
【図３】減色絵画調変換処理による変換後の１階調に相当する変換前の階調数を示す図である。
【図４】減色絵画調変換処理における、変換前と変換後の画素値を示す図である。
【図５】重ね塗り絵画調変換処理について説明する図である。
【図６】画像変換処理について説明するフローチャートである。
【図７】画像処理装置の他の構成例を示す図である。
【図８】各画像処理の特徴を説明する図である。
【図９】各画像処理と特徴量の関係を説明する図である。
【図１０】エッジ複雑度検出部の構成例を示す図である。
【図１１】サイズ検出部の構成例を示す図である。
【図１２】色分布複雑度検出部の構成例を示す図である。
【図１３】色偏り検出部の構成例を示す図である。
【図１４】画像変換処理を説明するフローチャートである。
【図１５】エッジ複雑度検出処理を説明するフローチャートである。
【図１６】サイズ検出処理を説明するフローチャートである。
【図１７】色分布複雑度検出処理を説明するフローチャートである。
【図１８】色偏り検出処理を説明するフローチャートである。
【図１９】フィルタ選択処理を説明するフローチャートである。
【図２０】画像処理装置の他の構成例を示す図である。
【図２１】注視領域検出部の構成例を示す図である。
【図２２】画像変換処理を説明するフローチャートである。
【図２３】注視領域検出処理を説明するフローチャートである。
【図２４】コンピュータの構成例を示す図である。
【符号の説明】
【０３０８】
１１  画像処理装置，  ２１  ぼけ度検出部，  ２２  選択部，  ２３  漫画調変換部，  ２４  アニメ調変換部，  ２５  ジオラマ調変換部，  ２６  絵画調変換部，  ２７  絵画調変換部，  ２８  シャープネス処理部，  ５１  画像処理装置，  ６１  エッジ複雑度検出部，  ６２  サイズ検出部，  ６３  色分布複雑度検出部，  ６４  色偏り検出部，  ２３１  画像処理装置，  ２４１  注視領域検出部
【図１】
2010146264.tif 000003
【図２】
2010146264.tif 000004
【図３】
2010146264.tif 000005
【図４】
2010146264.tif 000006
【図５】
2010146264.tif 000007
【図６】
2010146264.tif 000008
【図７】
2010146264.tif 000009
【図８】
2010146264.tif 000010
【図９】
2010146264.tif 000011
【図１０】
2010146264.tif 000012
【図１１】
2010146264.tif 000013
【図１２】
2010146264.tif 000014
【図１３】
2010146264.tif 000015
【図１４】
2010146264.tif 000016
【図１５】
2010146264.tif 000017
【図１６】
2010146264.tif 000018
【図１７】
2010146264.tif 000019
【図１８】
2010146264.tif 000020
【図１９】
2010146264.tif 000021
【図２０】
2010146264.tif 000022
【図２１】
2010146264.tif 000023
【図２２】
2010146264.tif 000024
【図２３】
2010146264.tif 000025
【図２４】
2010146264.tif 000026