(57)【要約】  特徴量算出部２４１では、肌画像の階調に関する極性と、周辺とは異なる類似した画素値の画像領域を示すスケールが特徴量として算出される。特徴部分抽出部２４３は、予め設定された抽出条件を満たす特徴量の抽出を行い、特徴部分として毛穴、吹出物、シミの少なくとも何れかを抽出する。また、肌の表面反射が除外されている肌画像を用いるようにして、この肌画像に対して輝度情報分離処理を行い肌の構造成分を示すグローバル輝度情報を取得して、このグローバル輝度情報を用いて特徴量の算出が行われる。このため、肌画像から例えば毛穴や吹出物等の特徴部分を精度よく検出することができる。
2014027522.tif 000002
【特許請求の範囲】
【請求項１】
肌画像の階調に関する極性と、周辺とは異なる類似した画素値の画像領域を示すスケールを、特徴量として算出する特徴量算出部と、
前記特徴量算出部で算出された特徴量に基づき、前記肌画像の特徴部分を抽出する特徴部分抽出部と
を備える画像処理装置。
【請求項２】
前記肌画像に対して輝度情報分離処理を行い、グローバル輝度情報を取得する輝度情報分離部を備え、
前記特徴量算出部は、前記輝度情報分離部で取得した前記グローバル輝度情報を用いて前記特徴量の算出を行う
請求項１記載の画像処理装置。
【請求項３】
前記特徴量算出部は、前記類似した画素値の画像領域と周辺との信号差を示す強度を、前記特徴量として算出する
請求項１記載の画像処理装置。
【請求項４】
メラニンの解析を行うメラニン解析部をさらに備え、
前記特徴部分抽出部は、前記特徴量算出部で算出された特徴量と前記メラニン解析部で得られた解析結果を用いて特徴部分の抽出を行う
請求項１記載の画像処理装置。
【請求項５】
特徴部分が一致するように第１と第２の肌画像の位置合わせを行う画像位置合わせ部をさらに備え、
前記特徴量算出部は、強度変化の極性を示す第２特徴量の算出を行い、
前記画像位置合わせ部は、前記第２特徴量を用いて特徴部分のマッチングを行い、前記第１と第２の肌画像において対応する特徴部分が一致するように前記肌画像の位置合わせを行う
請求項１記載の画像処理装置。
【請求項６】
前記第１の肌画像として過去画像、前記第２の肌画像として現在画像を用い、
前記画像位置合わせ部は、対応する特徴部分の数が所定数以下である場合、前記第２の肌画像において前記対応する特徴部分の位置が、前記第１の肌画像において対応する特徴部分の位置となるように撮像範囲の移動アドバイスを提示する
請求項５記載の画像処理装置。
【請求項７】
前記特徴部分抽出部は、前記特徴部分として毛穴、吹出物、シミ、毛穴のつまり少なくとも何れかを抽出する
請求項１記載の画像処理装置。
【請求項８】
前記特徴部分抽出部は、白色光を用いて撮像された肌画像から前記特徴量算出部で算出された特徴量に基づき、毛穴、吹出物、シミの少なくとも何れかを抽出し、近紫外光を用いて撮像された肌画像から前記特徴量算出部で算出された特徴量に基づき、毛穴のつまりを抽出する
請求項７記載の画像処理装置。
【請求項９】
予め設定された抽出条件を満たす特徴量である特徴部分の抽出結果に基づき統計量の算出を行い、特徴部分の数と大きさと色の濃さの少なくとも何れかに関する情報を生成する統計量算出部を有する
請求項１記載の画像処理装置。
【請求項１０】
前記肌画像は、光源と撮像部に対して設けられた偏光フィルタを直交関係とすることで肌の表面反射が除外されている画像である
請求項１記載の画像処理装置。
【請求項１１】
肌画像の階調に関する極性と、周辺とは異なる類似した画素値の画像領域を示すスケールを、特徴量として算出する工程と、
前記算出された特徴量に基づき、前記肌画像の特徴部分を抽出する工程と
を含む画像処理方法。
【請求項１２】
肌画像の処理をコンピュータで実行させるプログラムであって、
肌画像の階調に関する極性と、周辺とは異なる類似した画素値の画像領域を示すスケールを、特徴量として算出する手順と、
前記算出された特徴量に基づき、前記肌画像の特徴部分を抽出する手順と
を前記コンピュータで実行させるプログラム。
【請求項１３】
撮像装置と情報処理装置を用いて構成される画像処理システムにおいて、
前記撮像装置には、肌画像を生成する撮像部を設け、
前記撮像装置または情報処理装置の何れかに、
前記肌画像の階調に関する極性と、周辺とは異なる類似した画素値の画像領域を示すスケールを、特徴量として算出する特徴量算出部と、
前記特徴量算出部で算出された特徴量に基づき、前記肌画像の特徴部分を抽出するに特徴部分抽出部と
前記特徴部分の抽出結果を提示する提示部と
を設けた画像処理システム。
【発明の詳細な説明】
【技術分野】
【０００１】
この技術は、画像処理装置、画像処理方法、プログラムおよび画像処理システムに関し、肌画像から特徴部分を精度よく検出できるようにする。
【背景技術】
【０００２】
従来、肌についてのカンセリング等では、ユーザの肌について種々の測定を行い、測定結果に基づいて種々のアドバイスが行われている。例えば、毛穴のサイズを測定して、毛穴のサイズに応じて化粧品を選択したり、毛穴を小さくする治療等における治療効果の確認が行われている。【０００３】
毛穴の測定は、例えば特許文献１では、原画像から平滑画像を減算して、減算後の画像に対して二値化を行うことで毛穴を示す領域と他の領域に分割して、毛穴を示す領域の数やサイズ等が測定されている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開平７−５５４４７号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
ところで、原画像から平滑化画像を減算した画像には、毛穴を検出する上で阻害要因となるエッジ成分やキメ成分などが含まれることが予想される。したがって、減算後の画像に対して二値化を行った場合に、毛穴を示す領域とエッジ成分やキメ成分を示す領域を区別できず、肌における特徴部分である毛穴を精度よく検出することができないおそれがある。【０００６】
また、肌についての測定では、特徴部分として毛穴に限らずニキビ等の吹出物の検出も行えるようにすれば、種々のアドバイス等を肌の状態に応じてより的確に行うことが可能となる。【０００７】
そこで、この技術では肌画像から特徴部分を精度よく検出できる画像処理装置、画像処理方法、プログラムおよび画像処理システムを提供することを目的とする。
【課題を解決するための手段】
【０００８】
この技術の第１の側面は、肌画像の階調に関する極性と、周辺とは異なる類似した画素値の画像領域を示すスケールを、特徴量として算出する特徴量算出部と、前記特徴量算出部で算出された特徴量に基づき、前記肌画像の特徴部分を抽出する特徴部分抽出部とを備える画像処理装置にある。【０００９】
この技術においては、例えば光源と撮像部に対して設けられた偏光フィルタを直交関係とすることで肌の表面反射が除外されている肌画像に対して、輝度情報分離処理が行われて肌の構造成分を示すグローバル輝度情報が取得される。このグローバル輝度情報を用いて特徴量の算出が行われる。特徴量としては、例えば肌画像の階調に関する極性と、周辺とは異なる類似した画素値の画像領域を示すスケールが算出される。また、類似した画素値の画像領域と周辺との信号差を示す強度を特徴量としてさらに算出してもよい。このような特徴量に基づき、肌画像の特徴部分例えば毛穴、吹出物、シミ、毛穴のつまりの少なくとも何れかが抽出される。また、予め設定された抽出条件を満たす特徴量である特徴部分の抽出結果に基づき統計量の算出が行われて、特徴部分の数と大きさと色の濃さの少なくとも何れかに関する情報が生成される。【００１０】
さらに、メラニンの解析を行うメラニン解析部が設けられて、肌画像に基づいて算出された特徴量と、肌画像のメラニン解析結果を用いて特徴部分の抽出が行われる。例えば、白色光を用いて撮像された肌画像に基づいて算出された特徴量と、赤色光と近赤外光、または紫外光を用いて撮像された肌画像等のメラニン解析結果を用いて特徴部分の抽出が行われる。また、特徴部分が一致するように例えば過去の肌画像と現在の肌画像の位置合わせを行う画像位置合わせ部が設けられて、強度変化の極性を示す第２特徴量を用いた特徴部分のマッチングによって、過去の肌画像と現在の肌画像において対応する特徴部分が一致するように肌画像の位置合わせが行われる。また、対応する特徴部分の数が所定数以下である場合、現在の肌画像において対応する特徴部分の位置が、過去の肌画像において対応する特徴部分の位置となるように撮像範囲を移動させるためのアドバイスの提示が行われる。【００１１】
この技術の第２の側面は、肌画像の階調に関する極性と、周辺とは異なる類似した画素値の画像領域を示すスケールを、特徴量として算出する工程と、前記算出された特徴量に基づき、前記肌画像の特徴部分を抽出する工程とを含む画像処理方法にある。【００１２】
この技術の第３の側面は、肌画像の処理をコンピュータで実行させるプログラムであって、肌画像の階調に関する極性と、周辺とは異なる類似した画素値の画像領域を示すスケールを、特徴量として算出する手順と、前記算出された特徴量に基づき、前記肌画像の特徴部分を抽出する手順とを前記コンピュータで実行させるプログラムにある。【００１３】
なお、本技術のプログラムは、例えば、様々なプログラム・コードを実行可能な汎用コンピュータに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体、例えば、光ディスクや磁気ディスク、半導体メモリなどの記憶媒体、あるいは、ネットワークなどの通信媒体によって提供可能なプログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、コンピュータ上でプログラムに応じた処理が実現される。【００１４】
この技術の第４の側面は、撮像装置と情報処理装置を用いて構成される画像処理システムにおいて、前記撮像装置には、肌画像を生成する撮像部を設け、前記撮像装置または情報処理装置の何れかに、前記肌画像の階調に関する極性と、周辺とは異なる類似した画素値の画像領域を示すスケールを、特徴量として算出する特徴量算出部と、前記特徴量算出部で算出された特徴量に基づき、前記肌画像の特徴部分を抽出する特徴部分抽出部と、前記特徴部分の提示を行う提示部とを設けた画像処理システムにある。
【発明の効果】
【００１５】
この技術によれば、肌画像の階調に関する極性と、周辺とは異なる類似した画素値の画像領域を示すスケールを、特徴量として算出して、この特徴量に基づき肌画像の特徴部分が抽出される。したがって、肌の毛穴や吹出物等を特徴部分として精度よく検出することができるようになり、種々のアドバイス等を肌の状態に応じてより的確に行うことが可能となる。なお、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また付加的な効果があってもよい。
【図面の簡単な説明】
【００１６】
【図１】画像処理システムの構成を例示した図である。
【図２】撮像装置の構成を簡略化して示した図である。
【図３】付属装置の光源を例示した図である。
【図４】撮像時の撮像装置の位置を示した図である。
【図５】画像処理装置の第１の実施の形態の構成を示す図である。
【図６】関数Ｃを例示した図である。
【図７】ブレンド比ＢＲs，ＢＲMを例示した図である。
【図８】特徴部分解析部の構成を示す図である。
【図９】特徴部分の抽出動作を示すフローチャートである。
【図１０】検出する特徴部分と光源および特徴部分の抽出条件の関係を示す図である。
【図１１】提示部の動作を例示した図である。
【図１２】付属装置の光源を例示した図である。
【図１３】画像処理装置の第２の実施の形態の構成を示す図である。
【図１４】メラニン解析部の構成を示す図である。
【図１５】メラニン分布Ｍｘをメラニン指数ＩＤMxに変換する変換特性を示す図である。
【図１６】特徴部分の抽出動作を示すフローチャートである。
【図１７】画像処理装置の第３の実施の形態の構成を示す図である。
【図１８】特徴部分解析部の構成を示す図である。
【図１９】第３の実施の形態の動作を示すフローチャートである。
【図２０】提示部の動作を例示した図である。
【図２１】特徴部分のペアが所定数以下である場合のアドバイスを例示した図である。
【発明を実施するための形態】
【００１７】
以下、本技術を実施するための形態について説明する。なお、説明は以下の順序で行う。
１．画像処理システム
２．第１の実施の形態
２−１．第１の実施の形態の構成
２−２．第１の実施の形態の動作
３．第２の実施の形態
３−１．第２の実施の形態の構成
３−２．第２の実施の形態の動作
４．第３の実施の形態
４−１．第３の実施の形態の構成
４−２．第３の実施の形態の動作
【００１８】
＜１．画像処理システム＞
図１は、本技術の画像処理システムの構成を例示している。画像処理システム１０は、撮像機能を有する機器（以下「撮像装置」という）１１や情報処理装置１５，１６等を用いて構成されている。撮像装置１１と情報処理装置（例えばパーソナルコンピュータ装置等）１５は、有線または無線の伝送路を介して直接接続可能とされている。また、撮像装置１１と情報処理装置（例えばサーバ装置等）１６は、公衆通信網のネットワーク等を介して接続可能とされている。
【００１９】
撮像装置１１は、肌の撮像画像を生成する撮像部１１２を備えている。撮像装置１１または情報処理装置１５，１６の何れかには、肌の特徴部分を検出する画像処理装置２０が設けられている。画像処理装置２０は、特徴量算出部と特徴部分抽出部を有している。特徴量算出部は、肌の撮像画像（以下「肌画像」という）から階調に関する極性と、周辺とは異なる類似した画素値をもつ画素領域を表すスケールを、特徴量として算出する。特徴部分抽出部は、算出された特徴量に基づき肌の特徴部分の抽出を行う。さらに、撮像装置１１または情報処理装置１５，１６の何れかには、肌の特徴部分の抽出結果を提示する提示部５０が設けられている。なお、画像処理装置２０で肌の特徴部分の検出に用いる肌画像は、撮像部１１２から出力される肌画像に限らず、撮像部１１２で生成されて記録媒体等に記憶されている肌画像でもよい。
【００２０】
＜２．第１の実施の形態＞
第１の実施の形態では、画像処理装置２０によって肌画像から毛穴等の特徴部分を検出する場合について説明する。
【００２１】
図２は、肌を撮像する撮像装置の構成を簡略化して示している。なお、図２の（Ａ）は撮像装置１１の正面図、図２の（Ｂ）は撮像装置１１の側面図である。撮像装置１１の鏡胴１１１の先端には、付属装置１２が設けられている。また、付属装置１２は、鏡胴１１１と一体に構成されていてもよく、鏡胴１１１に対して着脱可能に構成されていてもよい。付属装置１２には、図３の（Ａ）に示すように、照明部を構成する複数の光源１２１（例えばＬＥＤ（Light Emitting Diode）1〜ＬＥＤn）がリング状に配されている。光源としては白色ＬＥＤが好ましい。肌表面反射成分を除外して内部反射成分の肌画像を得る場合、図３の（Ｂ）に示すように、所定の偏光面の偏光フィルタを設けた白色ＬＥＤ１２１-1と、所定の偏光面に対して例えば偏光面が直交している偏光フィルタが設けた白色ＬＥＤ１２１-2を設ける。さらに、光源として図３の（Ｃ）に示すように近紫外光ＬＥＤ１２１-vを用いることで、特徴部分として毛穴のつまりを検出してもよい。
【００２２】
付属装置１２が設けられた撮像装置１１は、例えば図４に示すように、肌に密着されて肌画像の撮像を行う。また、偏光フィルタが設けられた光源を用いる場合、撮像部１１２までの光路上に、所定の偏光面に対して偏光面が直交している偏光フィルタ１１３を設ける。このように偏光フィルタを設けることで、白色ＬＥＤ１２１-1を点灯させて撮像を行うと、肌表面反射成分をカットした画像を得ることができ、白色ＬＥＤ１２１-2を点灯させて撮像を行うと肌表面反射成分がカットされていない画像を得ることができる。
【００２３】
［２−１．第１の実施の形態の構成］
図５は、画像処理装置の第１の実施の形態の構成を示している。画像処理装置２０は、前処理部２１、輝度情報分離部２２、特徴部分解析部２４を有している。
【００２４】
前処理部２１は、肌画像を取得して前処理を行う。前処理部２１は、取得した肌画像の輝度情報に対して、より陰影を際立たせるためにコントラスト強調処理を適用する。コントラスト強調処理の方法としては、例えばヒストグラムイコライゼーション処理を用いる。また、ノイズが目立つ場合にはコントラスト強調の前にノイズ除去を行ってもよく、シェーディングが目立つ場合にはコントラスト強調の前にシェーディング補正を行ってもよい。
【００２５】
輝度情報分離部２２は、前処理部２１で求めた輝度情報をグローバル輝度情報とローカル輝度情報に分離する。グローバル輝度情報とは画像に含まれる照明成分や、肌の構造成分を示す情報である。また、ローカル輝度情報は、肌理などの肌の細かな模様を示す情報である。
【００２６】
輝度情報の分離は、例えば、入力輝度情報に対して低域通過処理を行いグローバル輝度情報を分離してもよく、特開２００９−９８９２５号公報に開示された分離方法を用いてもよい。この分離方法では、取得した輝度情報（入力輝度情報）ｆinWに対して低域通過フィルタ処理を行い、輝度情報ｆG'を生成する（式（１）参照）。また、入力輝度情報ｆinWと輝度情報ｆG'との差分における小振幅成分のみをローカル輝度情報ｆLWとする。この際、エッジ強度が高い部分で単純な低域通過フィルタ処理を行うと、強いエッジがローカル輝度情報に含まれる。したがって、高振幅の成分を抑制する関数Ｃを用いて小振幅成分のみを抽出してローカル輝度情報ｆLWを生成する（式（２）参照）。さらに、入力輝度情報ｆinWとローカル輝度情報ｆLWとの差分を算出してグローバル輝度情報ｆGWを生成する（式（３）参照）。
【００２７】
【数１】
2014027522.tif 000003
【００２８】
図６は関数Ｃを例示している。関数Ｃでは、振幅が「ｉ＿ｍｉｎ〜ｉ＿ｍａｘ」の範囲に含まれない信号に対して、振幅を抑制する処理が行われる。なお、図６の（Ａ）乃至（Ｄ）は、振幅の抑制の特性が相違した関数Ｃを例示している。
【００２９】
さらに、他の分離方法としては、通過周波数帯域の異なる複数の低域通過フィルタを用いて、入力輝度情報とフィルタ処理後の各輝度情報との差分に対してそれぞれ関数Ｃを用いて振幅の制限を行う。この振幅制限後の輝度情報を統合したローカル輝度情報を用いて、グローバル輝度情報を生成することもできる。
【００３０】
例えば、通過周波数帯域の異なる３つの低域通過フィルタを用いて、入力輝度情報ｆinWの低域通過フィルタ処理を行い、輝度情報ｆG'を生成する（式（４）参照）。なお、式（４）（５）において、Ｓ，Ｍ，Ｌは、低域通過フィルタのタップ数を示しており、この順番に低域通過フィルタの帯域が狭帯域となる。次に、関数Ｃを用いて、入力輝度情報ｆinWと輝度情報ｆGjWとの差分から小振幅成分のみを抽出して輝度情報ｆLjWを生成する（式（５）参照）。さらにエッジ強度に応じたブレンド比ＢＲs，ＢＲMを用いて輝度情報ｆLjWの統合を行い、ローカル輝度情報ｆLWを生成する（式（６）参照）。このようにして生成したローカル輝度情報ｆLWを用いて式（３）からグローバル輝度情報ｆGWを生成してもよい。
【００３１】
【数２】
2014027522.tif 000004
【００３２】
図７は、ブレンド比ＢＲs，ＢＲMを例示している。エッジ強度が強い場合、ブレンド比ＢＲsとブレンド比ＢＲMの両方の比率が高くなっている。エッジ強度が中間の場合には、ブレンド比ＢＲsよりもブレンド比ＢＲMの比率が高くなっている。エッジ強度が弱い場合には、ブレンド比ＢＲsとブレンド比ＢＲMの両方の比率が低くなっている。
【００３３】
なお、輝度情報の分離は、上記の方法に限定されるものではなく、例えばバイラテラルフィルタなどの既知のエッジ保存型平滑化フィルタを低域通過フィルタとして適用してもよい。
【００３４】
特徴部分解析部２４は、肌画像から特徴量を算出して、算出された特徴量に基づき肌の特徴部分の解析を行う。図８は、特徴部分解析部２４の構成を示している。特徴部分解析部２４は、特徴量算出部２４１と特徴部分抽出部２４３と統計量算出部２４４を有している。
【００３５】
特徴量算出部２４１は、特徴量を算出する。特徴量算出部２４１は、例えば輝度情報分離部２２で生成されたグローバル輝度情報を用いて特徴量を算出する。特徴量算出部２４１は、特徴量として肌画像の階調に関する極性、および周辺とは異なる類似した画素値をもつ画素領域を表すスケールを算出する。さらに、特徴量算出部２４１は、特徴量として類似した画素値の画像領域と周辺との信号差を示す強度をさらに算出してもよい。
【００３６】
次に、特徴量の算出について説明する。特徴点の算出は、画像の特徴抽出手法を利用して行う。画像の特徴抽出手法では、ＳＵＲＦ（Speeded Up Robust Feature）やＳＩＦＴ（Scale Invariant Feature Transform）等の手法が知られている。
【００３７】
例えばＳＵＲＦ（Speeded Up Robust Feature）では、画像中の特徴点（白丸、黒丸）を次のように選ぶ。具体的には、Hessian行列の行列値が極大となる点を、ガウス関数の標準偏差σを変えて探索して、画像中の特徴点を検出する。Hessian行列の行列値の算出では、高速化のために近似フィルタを用いた式（７）の演算が行われる。なお、式（７）において、Dxx，Dyy，Dxyは、box filterを用いて算出したHessian行列の成分であるガウス２次導関数による画像の畳込みを示している。また、フィルタサイズはガウシアンの標準偏差に相当しており、例えば９×９のフィルタサイズはσ＝１．２に相当している。
【００３８】
【数３】
2014027522.tif 000005
【００３９】
特徴量算出部２４１は、周辺とは異なる類似した画素値をもつ画素領域を表すスケール、すなわち式（７）で算出された行列値が極大となるスケールを特徴量として算出する。また、特徴量算出部２４１は、肌画像の階調に関する極性すなわち特徴量を算出した特徴点のラプラシアンの値を特徴量とする。さらに、特徴量算出部２４１は、類似した画素値の画像領域と周辺との信号差を示す強度、例えば式（７）で算出された行列値の極大値を特徴量に含めてもよい。なお、特徴量算出部２４１は、上述の他の特徴抽出手法を用いて特徴量の算出を行うようにしてもよい。
【００４０】
特徴部分抽出部２４３は、特徴量算出部２４１で求めた特徴量に基づき特徴部分を抽出する。特徴部分抽出部２４３は、例えば特徴部分として毛穴部分を抽出する場合、ラプラシアンが「１」であることを抽出条件とする。ラプラシアンは肌画像の階調に関する極性を示しており、ラプラシアンが「１」の場合、黒画素が白画素に囲まれている特徴を示しており、毛穴の特徴と合致するからである。また、特徴部分抽出部２４３は、周辺とは異なる類似した画素値をもつ画素領域を表すスケールを限定する。毛穴の大きさは０．１ｍｍから０．３ｍｍ程度であることが知られている。したがって、特徴部分抽出部２４３は、特徴量算出部２４１で求めた特徴量のスケールが毛穴の大きさに相当することを抽出条件とする。
【００４１】
また、特徴部分抽出部２４３は、強度を限定してもよい。例えば、目立つ毛穴の領域と思われる特徴には、他の領域に対してある程度の信号の強度（コントラスト差分）が必要である。したがって、特徴部分抽出部２４３は、目立つ毛穴等を抽出できる強度（行列値）を抽出条件とする。
【００４２】
特徴部分抽出部２４３は、上述のように設定した抽出条件を全て満たす特徴点を肌の特徴部分として抽出することで、肌画像から毛穴の領域だけを抽出することが可能となる。なお、後述するように抽出条件を変更して、吹出物等を肌の特徴部分として抽出してもよい。
【００４３】
統計量算出部２４４は、特徴部分抽出部２４３で抽出した特徴部分に対して、統計量を算出する。例えば特徴部分として毛穴を抽出した場合、統計量算出部２４４は、抽出した特徴部分の数を計測して毛穴の数を算出する。また、統計量算出部２４４は、抽出した特徴部分のスケールの平均値を算出して、この平均値から毛穴の大きさの統計量を求める。さらに、統計量算出部２４４は、抽出した特徴部分の強さ（例えばHessian値）の平均値を算出して毛穴の濃さとする。また、統計量算出部２４４は、平均値に限らず最大値や分散等も算出してもよい。また、毛穴の大きさや色の階級分けを行い、階級毎に階級値を算出してもよい。また、統計量算出部２４４は、毛穴に限らず吹出物等についても同様に統計量の算出を行ってもよい。さらに、統計量算出部２４４は、メラニン指数の高い領域の割合を求めるようにしてもよい。
【００４４】
撮像装置１１や情報処理装置１５等に設けられた提示部５０では、特徴部分解析部２４の解析結果をユーザに提示する。例えば、提示部５０は、特徴部分解析部２４で算出された統計量等を画面上に表示する。
【００４５】
［２−２．第１の実施の形態の動作］
次に、画像処理装置の第１の実施の形態の動作について説明する。図９は、特徴部分の抽出動作を示すフローチャートである。ステップＳＴ１で画像処理装置２０は特徴量を取得する。画像処理装置２０は、グローバル輝度情報を用いて算出された特徴量、例えば肌画像の階調に関する極性、周辺とは異なる類似した画素値をもつ画素領域を表すスケール、および強度（コントラスト差分）を示す特徴量を取得してステップＳＴ２に進む。
【００４６】
ステップＳＴ２で画像処理装置２０は、所定の極性であるか判別する。画像処理装置２０は、特徴量が抽出する特徴部分の極性を示す場合、例えばラプラシアンが「１」で毛穴の特徴と合致する場合にステップＳＴ３に進む。また、画像処理装置２０は、特徴量が特徴部分の極性を示していない場合にステップＳＴ７に進む。
【００４７】
ステップＳＴ３で画像処理装置２０は、所定のスケールであるか判別する。画像処理装置２０は、特徴量が抽出する特徴部分のスケールを示す場合、例えば特徴量で示されているスケールが毛穴に対応したスケールである場合にステップＳＴ４に進む。また、画像処理装置２０は、特徴量が所定のスケールを示していない場合にステップＳＴ７に進む。
【００４８】
ステップＳＴ４で画像処理装置２０は、所定の強度であるか判別する。画像処理装置２０は、特徴量が抽出する特徴部分の強度を示す場合、例えば特徴量で示された強度が毛穴部分と肌部分のコントラスト差分に相当する強度以上である場合にステップＳＴ５に進む。また、画像処理装置２０は、特徴量が所定の強度を示していない場合、例えば特徴量で示された強度が毛穴部分と肌部分のコントラスト差分よりも小さい場合にステップＳＴ７に進む。
【００４９】
ステップＳＴ５で画像処理装置２０は、特徴部分と判定する。画像処理装置２０は、例えばステップＳＴ２からステップＳＴ４で毛穴の抽出条件を満たす場合、毛穴を示す特徴部分と判定してステップＳＴ６に進む。
【００５０】
ステップＳＴ６で画像処理装置２０は、特徴部分の抽出処理が完了したか判別する。画像処理装置２０は、特徴部分であるか否か判定されていない特徴量の領域が残っている場合はステップＳＴ７に進み、残っていない場合は特徴部分の抽出動作を終了する。
【００５１】
ステップＳＴ７で画像処理装置２０は新たな特徴量を取得する。画像処理装置２０は、特徴部分であるか否か判定されていない特徴量を取得してステップＳＴ２に戻る。
【００５２】
なお、特徴部分の抽出動作において、極性やスケール，強度の判定順序は、図９に示す順序に限らず他の順序であってもよい。また、強度の判定を行うことなく特徴部分の抽出を行うこともできる。
【００５３】
画像処理装置２０は、このような処理を行うことで、肌画像から毛穴部分を精度よく抽出する。また、特徴部分の抽出結果を提示部５０に提示する場合、ユーザに分かりやすい形で提示する。
【００５４】
さらに、特徴部分として吹出物や毛穴のつまりを検出する場合、光源の波長や特徴点の抽出条件を切り替えることで、毛穴だけでなく吹出物や毛穴のつまり等を検出することができる。図１０は、抽出する特徴部分と光源および抽出条件の関係を示している。例えば、毛穴を検出する場合、白色光源を用いる。抽出条件は、輝度の高い画素に囲まれている特徴を示す極性、およびスケールの範囲を約０．１〜０．３ｍｍ程度に設定する。吹出物を検出する場合、白色光源を用いる。抽出条件は、輝度の低い画素に囲まれている特徴を示す極性、およびスケールの範囲を約０．５〜１．０ｍｍ程度に設定する。毛穴のつまりを検出する場合、近紫外光源を用いる。皮脂の部分は近紫外光によって緑色に発光し、ニキビ菌によって生じるポルフェリンの部分は近紫外光によってオレンジ色に発光することが知られている。したがって、抽出条件では、肌画像をグレースケールとしたときに輝度の低い画素に囲まれている特徴を示す極性、近紫外光によって緑色やオレンジ色を示す極性、スケールの範囲を約０．２〜０．５ｍｍ程度に設定する。
【００５５】
図１１は、提示部の動作を例示している。図１１の（Ａ）は、例えば肌画像に対して毛穴を大きさ別にプロットした様子を示しており、図１１の（Ｂ）は、毛穴の大きさの分布（ヒストグラム）を大きさ別に表示している。図１１の（Ｃ）は、撮像画像に対して毛穴を濃さ別にプロットした様子を示している。また、図１１の（Ｄ）は、毛穴の濃さの分布（ヒストグラム）を濃さ別に表示している。このように、提示部５０では、ユーザに分かりやすい形で特徴部分の抽出結果を提示する。
【００５６】
＜３．第２の実施の形態＞
ところで、シミと毛穴のスケールや輝度が類似していると、シミと毛穴を区別することが困難である。そこで、第２の実施の形態では、シミの部分に多く存在するメラニンについての解析を行い、この解析結果を利用してシミと毛穴の判別を行う場合について説明する。メラニンの解析を行う場合、撮像装置１１では、メラニンの解析を容易に行うことができるように、光源の波長を切り替えて撮像を行う。例えば図１２に示すように、付属装置１２に赤色ＬＥＤ１２１-rと近赤外ＬＥＤ１２１-irをさらに設けて、撮像装置１１は、照明に用いる光源を切り替えて肌の撮像を行う。また、メラニンの解析では、紫外線を照射して撮像された撮像画像を用いてメラニンの解析を行ってもよく、肌の分光反射率を用いてメラニンの解析を行うようにしてもよい。以下、赤色光と近赤外光を切り替えて撮像を行うことにより得られた画像を用いてメラニンの解析を行う場合について説明する。
【００５７】
［３−１．第２の実施の形態の構成］
図１３は、画像処理装置の第２の実施の形態の構成を示している。画像処理装置２０は、前処理部２１、輝度情報分離部２２、メラニン解析部２３、特徴部分解析部２４を有している。
【００５８】
前処理部２１は、白色光源を用いて撮像された肌画像を取得して前処理を行う。前処理部２１は、取得した肌画像の輝度情報に対して、第１の実施の形態と同様に、陰影を際立たせるためにコントラスト強調処理を適用する。また、ノイズが目立つ場合にはコントラスト強調の前にノイズ除去を行ってもよく、シェーディングが目立つ場合にはコントラスト強調の前にシェーディング補正を行ってもよい。なお、輝度情報としては、白色の光源を用いた肌画像ではＢ（青）チャンネル信号、赤色の光源を用いた肌画像と近赤外の光源を用いた肌画像ではＲ（赤）チャンネル信号を用いることが望ましい。
【００５９】
輝度情報分離部２２は、前処理部２１で求めた輝度情報をグローバル輝度情報とローカル輝度情報に分離する。輝度情報分離部２２は、第１の実施の形態と同様にして、画像に含まれる照明成分や肌の構造成分を示す情報であるグローバル輝度情報と、肌理などの肌の細かな模様を示すローカル輝度情報の分離を行う。
【００６０】
メラニン解析部２３は、赤色の光源を用いて撮像された肌画像と近赤外の光源を用いて撮像された肌画像をそれぞれ取得して、取得した肌画像に基づきメラニンの解析を行う。図１４は、メラニン解析部２３の構成を示している。メラニン解析部２３はメラニン分布算出部２３１とメラニン指数算出部２３２を有している。
【００６１】
メラニン分布算出部２３１は、キャリブレーションを行うために用いられる標準拡散反射板に赤色光を照射して得られた撮像画像から輝度情報（赤色成分）ｆstdRの平均値ＡｖｇstdRを算出する（式（８）参照）。同様に、標準拡散反射板に近赤外光を照射して得られた撮像画像から輝度情報（近赤外成分）ｆstdIRの平均値ＡｖｇstdIRを算出する（式（９）参照）。
【００６２】
【数４】
2014027522.tif 000006
【００６３】
次に、肌に対して赤色光を照射して得られた撮像画像の入力輝度情報（赤色成分）ｆinRと、肌に対して近赤外光を照射して得られた撮像画像の入力輝度情報（近赤外成分）ｆinIR、および標準拡散反射板を用いたときの平均値ＡｖｇstdR，ＡｖｇstdIRから、メラニン分布Ｍｘを算出する（式（１０）参照）。
【００６４】
【数５】
2014027522.tif 000007
【００６５】
なお、式（１０）において「ｋ」は式の傾きを表すパラメータ、「ｑ」は式の切片を表すパラメータである。
【００６６】
メラニン指数算出部２３２は、メラニン分布算出部２３１で算出したメラニン分布を正規化して、メラニン指数を算出する。
【００６７】
メラニン指数算出部２３２は、入力輝度情報（赤色成分）ｆinRの平均値ＡｖｇinRと入力輝度情報（近赤外成分）ｆinIRの平均値ＡｖｇinIRを算出する（式（１１），（１２）参照）。
【００６８】
【数６】
2014027522.tif 000008
【００６９】
次に、入力輝度情報（赤色成分）ｆinRの平均値ＡｖｇinRと入力輝度情報（近赤外成分）ｆinIRの平均値ＡｖｇinIR、および標準拡散反射板を用いたときの平均値ＡｖｇstdR，ＡｖｇstdIRを用いて、平均のメラニン量Ｍｘavgを算出する（式（１３））。
【００７０】
【数７】
2014027522.tif 000009
【００７１】
なお、式（１３）において「ｋ」は式の傾きを表すパラメータ、「ｑ」は式の切片を表すパラメータである。
【００７２】
次に、平均のメラニン量Ｍｘavgを用いて閾値Ｍｘ_th1，Ｍｘ_th2を設定する（式（１４），（１５））。
【００７３】
【数８】
2014027522.tif 000010
【００７４】
なお、式（１４），（１５）において、「ｅ」はメラニン指数を「０」〜「１」の範囲とするメラニン分布Ｍｘを規定するパラメータである。なお、閾値の設定方法は上記の方法に限定されるものではなく、例えば固定値に設定してもよい。
【００７５】
メラニン指数算出部２３２は、閾値Ｍｘ_th1，Ｍｘ_th2を設定して、図１５に示す変換特性でメラニン分布Ｍｘをメラニン指数ＩＤMxに変換する。
【００７６】
特徴部分解析部２４は、肌画像から特徴量を算出して、算出された特徴量に基づき肌の特徴部分の抽出を行う。特徴部分解析部２４は、第１の実施の形態と同様に特徴量算出部２４１と特徴部分抽出部２４３と統計量算出部２４４を有している。
【００７７】
特徴量算出部２４１は、特徴量を算出する。特徴量算出部２４１は、例えば輝度情報分離部２２で生成されたグローバル輝度情報を用いて特徴量を算出する。特徴量算出部２４１は、特徴量として肌画像の階調に関する極性、および周辺とは異なる類似した画素値をもつ画素領域を表すスケールを算出する。さらに、特徴量算出部２４１は、特徴量として類似した画素値の画像領域と周辺との信号差を示す強度をさらに算出してもよい。
【００７８】
特徴部分抽出部２４３は、特徴量算出部２４１で求めた特徴量に基づき特徴部分を抽出する。特徴部分抽出部２４３は、例えば特徴部分として毛穴部分を抽出する場合、ラプラシアンが「１」であることを抽出条件とする。ラプラシアンは肌画像の階調に関する極性を示しており、ラプラシアンが「１」の場合、黒画素が白画素に囲まれている特徴を示しており、毛穴の特徴と合致するからである。また、特徴部分抽出部２４３は、周辺とは異なる類似した画素値をもつ画素領域を表すスケールを限定する。毛穴の大きさは０．１ｍｍから０．３ｍｍ程度であることが知られている。したがって、特徴部分抽出部２４３は、特徴量算出部２４１で求めた特徴量のスケールが毛穴の大きさに相当することを抽出条件とする。
【００７９】
また、特徴部分抽出部２４３は、強度を限定してもよい。例えば、目立つ毛穴の領域と思われる特徴には、他の領域に対してある程度の信号の強度（コントラスト差分）が必要である。したがって、特徴部分抽出部２４３は、目立つ毛穴等を抽出できる強度（行列値）を抽出条件とする。
【００８０】
ところで、ラプラシアンが「１」の場合、黒画素が白画素に囲まれている特徴を示しており、この特徴は毛穴だけでなくシミの特徴と合致する。また、シミの大きさ色が毛穴に類似していると、特徴部分が毛穴とシミの何れであるか判別できない。そこで、特徴部分抽出部２４３は、抽出された特徴部分についてのメラニン指数ＩＤMxに基づき、毛穴の領域とシミの領域の何れであるか判定する。例えばメラニン指数ＩＤMxが所定値よりも大きい場合はシミの領域、所定値以下の場合は毛穴の領域と判別する。
【００８１】
統計量算出部２４４は、特徴部分抽出部２４３で抽出した特徴部分に対して、統計量を算出する。例えば特徴部分として毛穴をシミと区別して抽出した場合、統計量算出部２４４は、抽出した特徴部分の数を計測して毛穴の数を算出する。また、統計量算出部２４４は、毛穴の特徴部分のスケールの平均値を算出して、この平均値から毛穴の大きさの統計量を求める。さらに、統計量算出部２４４は、抽出した特徴部分の強さ（例えばHessian値）の平均値を算出して毛穴の濃さとする。さらに、統計量算出部２４４は、メラニン指数の高い領域の割合を求めるようにしてもよい。
【００８２】
撮像装置１１や情報処理装置１５等に設けられた提示部５０では、特徴部分解析部２４の解析結果をユーザに提示する。例えば、提示部５０は、特徴部分解析部２４で算出された統計量等を画面上に表示する。
【００８３】
［３−２．第２の実施の形態の動作］
次に、画像処理装置の第２の実施の形態の動作について説明する。図１６は、特徴部分の抽出動作を示すフローチャートである。ステップＳＴ１１で画像処理装置２０は特徴量を取得する。画像処理装置２０は、輝度情報を用いて算出された特徴量、例えば肌画像の階調に関する極性、周辺とは異なる類似した画素値をもつ画素領域を表すスケール、および強度（コントラスト差分）を示す特徴量を取得してステップＳＴ１２に進む。
【００８４】
ステップＳＴ１２で画像処理装置２０は、所定の極性であるか判別する。画像処理装置２０は、特徴量が抽出する特徴部分の極性を示す場合、例えばラプラシアンが「１」で毛穴やシミの特徴と合致する場合にステップＳＴ１３に進む。また、画像処理装置２０は、特徴量が特徴部分の極性を示していない場合にステップＳＴ１８に進む。
【００８５】
ステップＳＴ１３で画像処理装置２０は、所定のスケールであるか判別する。画像処理装置２０は、特徴量が抽出する特徴部分のスケールを示す場合、例えば特徴量で示されているスケールが毛穴に対応したスケールである場合にステップＳＴ１４に進む。また、画像処理装置２０は、特徴量が所定のスケールを示していない場合にステップＳＴ１８に進む。
【００８６】
ステップＳＴ１４で画像処理装置２０は、所定の強度であるか判別する。画像処理装置２０は、特徴量が抽出する特徴部分の強度を示す場合、例えば特徴量で示された強度が毛穴部分と肌部分のコントラスト差分に相当する強度以上である場合にステップＳＴ１５に進む。また、画像処理装置２０は、特徴量が所定の強度を示していない場合、例えば特徴量で示された強度が毛穴部分と肌部分のコントラスト差分よりも小さい場合にステップＳＴ１８に進む。
【００８７】
ステップＳＴ１５で画像処理装置２０は、メラニン指数が所定値以下であるか判別する。画像処理装置２０は、特徴部分のメラニン指数が所定値以下である場合にステップＳＴ１６に進み、メラニン指数が所定値より大きい場合にステップＳＴ１８に進む。
【００８８】
ステップＳＴ１６で画像処理装置２０は、特徴部分と判別する。画像処理装置２０は、例えばステップＳＴ１２からステップＳＴ１４で毛穴（シミ）の抽出条件を満たしており、ステップＳＴ１５でメラニン指数が所定値以下である場合には毛穴を示す特徴部分と判定してステップＳＴ１７に進む。なお、メラニン指数が所定値よりも大きい場合にはシミを示す特徴部分と判別してステップＳＴ１８に進むようにしてもよい。
【００８９】
ステップＳＴ１７で画像処理装置２０は、特徴部分の抽出処理が完了したか判別する。画像処理装置２０は、特徴部分であるか否か判定されていない特徴量の領域が残っている場合はステップＳＴ１８に進み、残っていない場合は特徴部分の抽出動作を終了する。
【００９０】
ステップＳＴ１８で画像処理装置２０は新たな特徴量を取得する。画像処理装置２０は、特徴部分であるか否か判定されていない特徴量を取得してステップＳＴ１２に戻る。
【００９１】
なお、特徴部分の抽出動作において、極性やスケール，強度の判定順序は、図１６に示す順序に限らず他の順序であってもよい。また、強度の判定を行うことなく特徴部分の抽出を行うこともできる。
【００９２】
画像処理装置２０は、このような処理を行うことで、毛穴とシミを区分することが可能となり毛穴を精度よく抽出する。また、特徴部分の抽出結果を提示部５０に提示する場合、第１の実施の形態に加えて、メラニン指数の高い領域に対して色を変えて表示してもよく、統計量算出部２４４で求めたメラニン指数の高い領域の割合を示してもよい。
【００９３】
このような第２の実施の形態によれば、メラニン解析結果を利用して毛穴とシミを区分することが可能となり毛穴を精度よく抽出できるようになる。また、毛穴とシミを区分することが可能となることから、毛穴やシミの状態を精度よく提示することができる。
【００９４】
＜４．第３の実施の形態＞
第１の実施の形態と第２の実施の形態では、肌の特徴部分を検出する処理について説明したが、肌の観察では、時間の経過と共に肌の特徴部分がどのように変化したか判別できることが望ましい。例えば、毛穴を小さくする治療や吹出物等を無くする治療等が行われた場合、毛穴や吹出物等がどのように変化しているか比較できることが望ましい。そこで、第３の実施の形態では、時間の異なる複数の肌画像間で、対応する特徴部分が同じ位置となるように画像の位置合わせを容易に行うことができる画像処理装置について説明する。
【００９５】
［４−１．第３の実施の形態の構成］
図１７は、画像処理装置の第３の実施の形態の構成を示している。画像処理装置２０は、前処理部２１、輝度情報分離部２２、特徴部分解析部２４を有している。
【００９６】
前処理部２１は、肌画像を取得して前処理を行う。前処理部２１は、取得した肌画像の輝度情報に対して、第１の実施の形態と同様に、陰影を際立たせるためにコントラスト強調処理を適用する。また、ノイズが目立つ場合にはコントラスト強調の前にノイズ除去を行ってもよく、シェーディングが目立つ場合にはコントラスト強調の前にシェーディング補正を行ってもよい。
【００９７】
輝度情報分離部２２は、前処理部２１で求めた輝度情報をグローバル輝度情報とローカル輝度情報に分離する。輝度情報分離部２２は、第１の実施の形態と同様にして、画像に含まれる照明成分や肌の構造成分を示す情報であるグローバル輝度情報と、肌理などの肌の細かな模様を示すローカル輝度情報の分離を行う。
【００９８】
特徴部分解析部２４は、肌画像から特徴量を算出して、算出された特徴量に基づき肌の特徴部分の解析を行う。特徴部分解析部２４は、図１８に示すように、特徴量算出部２４１、位置合わせ部２４２、特徴部分抽出部２４３、統計量算出部２４４を有している。
【００９９】
特徴量算出部２４１は、特徴量を算出する。特徴量算出部２４１は、例えば輝度情報分離部２２で生成されたグローバル輝度情報を用いて特徴量を算出する。特徴量算出部２４１は、特徴量として肌画像の階調に関する極性、および周辺とは異なる類似した画素値をもつ画素領域を表すスケールを算出する。さらに、特徴量算出部２４１は、特徴量として類似した画素値の画像領域と周辺との信号差を示す強度をさらに算出してもよい。
【０１００】
また、特徴量算出部２４１は、過去の肌画像と現在の肌画像の位置合わせを行うために、特徴部分のマッチングに用いる第２特徴量を算出する。特徴量算出部２４１は、第２特徴量として例えば強度変化の極性を示す特徴量を算出する。
【０１０１】
次に、強度変化の極性を示す第２特徴量の算出について例示する。特徴量算出部２４１は、特徴部分毎にオリエンテーション（＝基準角度）を求める。例えば、特徴部分（ｘ，ｙ，ｓ））を中心とした半径６ｓの範囲でＨａａｒＷａｖｅｌｅｔｓ（４ｓ）のフィルタ処理を行い、ｘ方向とｙ方向の応答（ｄｘ，ｄｙ）を求めて勾配方向θと強度ｍを算出する（式（１６）（１７）参照）。なお、「ｓ」はスケールを示している。
【０１０２】
【数９】
2014027522.tif 000011
【０１０３】
次に、勾配方向の分解能に応じたヒストグラムを作成する。例えば、分解能を「ビン幅＝６０度」に設定した場合、６方向を階級としたヒストグラムを作成することになる。各階級では、階級に含まれる勾配方向の強度を加算して階級値とする。このように作成されたヒストグラムにおいて、階級値が最大となる方向をオリエンテーションとする。
【０１０４】
次に、特徴部分を中心とした正方領域例えば「２０ｓ×２０ｓ」の領域を「４×４」のサブ領域に分割して、オリエンテーションの角度だけ回転する。その後、サブ領域を４分割して同じサイズのＨａａｒＷａｖｅｌｅｔｓ（２ｓ）を作成することにより勾配ベクトルを求める。この勾配ベクトルのｘ方向成分，ｙ方向成分である「ｄｘ」,「ｄｙ」から４次元ベクトル（Σｄｘ，Σｄｙ，Σ｜ｄｘ｜，Σ｜ｄｙ｜）を算出する。この４次元ベクトルは、ｘ方向の勾配が大きく、その絶対値も大きいときは正の勾配方向となる。また、負の勾配方向のときは、ｘ方向の勾配が小さく、その絶対値は大きくなる。このように、４次元ベクトルは、強度変化の極性を示す情報となる。したがって、１６個のサブ領域から４次元ベクトルを求めて、６４個の特徴量を第２特徴量として用いる。
【０１０５】
また、特徴量算出部２４１は、その後に撮像される肌画像との位置合わせを行うことができるように、グローバル輝度情報とこの情報から算出した第２特徴量を記憶する。
【０１０６】
情報記憶部２５は、グローバル輝度情報とこの情報から算出した第２特徴量を記憶する。なお、情報記憶部２５には、肌画像、前処理後の肌画像、またはグローバル輝度情報を記憶して、上述のような処理を特徴量算出部２４１等で行い、第２特徴量を算出して位置合わせ部２４２に出力するようにしてもよい。
【０１０７】
位置合わせ部２４２は、過去の肌画像と現在の肌画像の特徴部分のマッチングを行い、対応している特徴部分のペアを検出する。マッチング方法としては、例えば最近傍の線形探索なとの方法を用いればよい。
【０１０８】
また、位置合わせ部２４２は、対応している特徴部分のペアが所定数よりも多く見つかった場合には、射影変換等を行い、新たな肌画像と過去の肌画像の位置合わせを行う。例えば特徴部分のペアからホモグラフィー行列を求めて射影変換を行うことで、新たな肌画像を過去の肌画像の位置に合わせる。また、位置合わせ部２４２は、マッチングによって見つかった特徴部分のペアが所定数以下である場合、ペアとなっている特徴点部分の位置に基づき特徴部分のペアがより多く見つかる方向に撮像範囲を移動するようにアドバイスの提示を行う。例えば新たな肌画像において対応している特徴部分の位置が、過去の肌画像における位置よりも画面左に偏っていたら、対応している特徴部分の位置が、過去の肌画像と現在の肌画像において類似した位置となるように、撮像範囲を左にずらすアドバイスを提示する。
【０１０９】
特徴部分抽出部２４３は、特徴量算出部２４１で求めた特徴量に基づき特徴部分を抽出する。特徴部分抽出部２４３は、例えば特徴部分として毛穴部分を抽出する場合、ラプラシアンが「１」であることを抽出条件とする。ラプラシアンは肌画像の階調に関する極性を示しており、ラプラシアンが「１」の場合、黒画素が白画素に囲まれている特徴を示しており、毛穴の特徴と合致するからである。また、特徴部分抽出部２４３は、周辺とは異なる類似した画素値をもつ画素領域を表すスケールを限定する。毛穴の大きさは０．１ｍｍから０．３ｍｍ程度であることが知られている。したがって、特徴部分抽出部２４３は、特徴量算出部２４１で求めた特徴量のスケールが毛穴の大きさに相当することを抽出条件とする。
【０１１０】
また、特徴部分抽出部２４３は、強度を限定してもよい。例えば、目立つ毛穴の領域と思われる特徴には、他の領域に対してある程度の信号の強度（コントラスト差分）が必要である。したがって、特徴部分抽出部２４３は、目立つ毛穴等を抽出できる強度（行列値）を抽出条件とする。
【０１１１】
特徴部分抽出部２４３は、上述のように設定した抽出条件を全て満たす特徴点を肌の特徴部分として抽出することで、肌画像から毛穴の領域だけを抽出することが可能となる。なお、後述するように抽出条件を変更して、吹出物等を肌の特徴部分として抽出してもよい。
【０１１２】
このように、特徴部分抽出部２４３は、肌画像の階調に関する極性やスケールで特徴点を抽出することで、肌の毛穴や吹出物等の特徴部分を抽出する。
【０１１３】
統計量算出部２４４は、特徴部分抽出部２４３で抽出した特徴部分に対して、統計量を算出する。例えば特徴部分として毛穴を抽出した場合、統計量算出部２４４は、抽出した特徴部分の数を計測して毛穴の数を算出する。また、統計量算出部２４４は、抽出した特徴部分のスケールの平均値を算出して、この平均値から毛穴の大きさの統計量を求める。さらに、統計量算出部２４４は、抽出した特徴部分の強さ（例えばHessian値）の平均値を算出して毛穴の濃さとする。
【０１１４】
撮像装置１１や情報処理装置１５等に設けられた提示部５０では、特徴部分解析部２４の解析結果をユーザに提示する。例えば、提示部５０は、特徴部分解析部２４で算出された統計量等を画面上に表示する。
【０１１５】
［４−２．第３の実施の形態の動作］
次に、画像処理装置の第３の実施の形態の動作について説明する。図１９は、第３の実施の形態の動作を示すフローチャートである。ステップＳＴ２１で画像処理装置２０は肌画像を取得する。画像処理装置２０は、撮像装置１１で生成された肌画像を取得してステップＳＴ２２に進む。
【０１１６】
ステップＳＴ２２で画像処理装置２０は、前処理を行う。画像処理装置２０は、取得した肌画像の輝度情報に対して、より陰影を際立たせるためにコントラスト強調処理等を行いステップＳＴ２３に進む。
【０１１７】
ステップＳＴ２３で画像処理装置２０は、輝度情報を分離する。画像処理装置２０は、前処理が行われた輝度情報をグローバル輝度情報とローカル輝度情報に分離してステップＳＴ２４に進む。
【０１１８】
ステップＳＴ２４で画像処理装置２０は特徴量を算出する。画像処理装置２０は、グローバル輝度情報を用いて、肌画像の階調に関する極性、および周辺とは異なる類似した画素値をもつ画素領域を表すスケールを特徴量として算出してステップＳＴ２５に進む。また、画像処理装置２０は、類似した画素値の画像領域と周辺との信号差を示す強度をさらに算出してもよい。
【０１１９】
ステップＳＴ２５で画像処理装置２０は、特徴部分のペアが所定数より多いか判別する。画像処理装置２０は、過去の肌画像から検出されている特徴部分と現在の肌画像における対応する特徴部分のペアが所定数より多いか判別して、所定数以下である場合はステップＳＴ２６に進み、所定数より多い場合はステップＳＴ２７に進む。
【０１２０】
ステップＳＴ２６で画像処理装置２０は、アドバイスを提示する。画像処理装置２０は、特徴部分のペアの位置が過去の肌画像と撮像装置１１で生成された肌画像で略同じ位置となるように、例えば撮像範囲の移動方向のアドバイスを提示部５０で提示させてステップＳＴ２１に戻る。
【０１２１】
ステップＳＴ２７で画像処理装置２０は、ホモグラフィー行列を算出する。画像処理装置２０は、過去の肌画像と撮像装置１１で生成された肌画像の位置を一致させるため、過去の肌画像と撮像装置１１で生成された肌画像との位置の対応関係を示すホモグラフィー行列を算出してステップＳＴ２８に進む。
【０１２２】
ステップＳＴ２８で画像処理装置２０は位置合わせを行う。画像処理装置２０は、算出したホモグラフィー行列を用いて射影変換を行い、過去の肌画像と撮像装置１１で生成された肌画像の位置を一致させて処理を終了する。
【０１２３】
画像処理装置２０は、このような処理を行い、過去の肌画像と撮像装置１１で生成された肌画像とで、対応する特徴部分を容易に比較できるように画像の位置合わせを行って検出結果を提示する。
【０１２４】
図２０は、提示部の動作を例示している。図２０の（Ａ）は、過去の肌画像に対して例えば毛穴を大きさ別にプロットした様子を示しており、図２０の（Ｂ）は、過去の肌画像における毛穴の大きさの分布（ヒストグラム）を大きさ別に表示している。図２０の（Ｃ）は、撮像装置１１で新たに生成された肌画像に対して例えば毛穴を大きさ別にプロットした様子を示しており、図２０の（Ｄ）は、新たに生成された肌画像における毛穴の大きさの分布（ヒストグラム）を大きさ別に表示している。また、前回からの変化をユーザに提示してよい。例えば、図２０では、前回と比べて毛穴の数が全体的に小さくなっていることを示すメッセージを表示している。なお、実施の形態では、毛穴の大きさについて比較したが、毛穴の数や毛穴の濃さで比較してもよく、それら全てで比較してもよい。
【０１２５】
このように、過去の肌画像と現在の肌画像の位置合わせが行われて、特徴部分の検出結果が表示されることから、特徴部分の時間変化を容易に確認できるようになる。
【０１２６】
図２１は、特徴部分のペアが所定数以下である場合のアドバイスを例示している。アドバイスの提示では、例えば過去の肌画像の検出結果と新たな肌画像の検出結果が表示されて、さらに、肌画像が略同じ位置となるように撮像範囲の移動方向のアドバイスが行われる。したがって、過去の肌画像と現在の肌画像の位置合わせを容易に行うことができる。
【０１２７】
このような第３の実施の形態によれば、過去の肌の状態と現在の肌の状態を容易に比較することができるので、種々のアドバイス等に対してどのように効果が得られているかを容易かつ精度よく確認することが可能となる。
【０１２８】
明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させる。または、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。
【０１２９】
例えば、プログラムは記録媒体としてのハードディスクやＲＯＭ（Read Only Memory）に予め記録しておくことができる。あるいは、プログラムはフレキシブルディスク、ＣＤ−ＲＯＭ（Compact Disc Read Only Memory），ＭＯ（Magneto optical）ディスク，ＤＶＤ（Digital Versatile Disc）、磁気ディスク、半導体メモリカード等のリムーバブル記録媒体に、一時的または永続的に格納（記録）しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
【０１３０】
また、プログラムは、リムーバブル記録媒体からコンピュータにインストールする他、ダウンロードサイトからＬＡＮ（Local Area Network）やインターネット等のネットワークを介して、コンピュータに無線または有線で転送してもよい。コンピュータでは、そのようにして転送されてくるプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
【０１３１】
なお、本技術は、上述した技術の実施の形態に限定して解釈されるべきではない。この技術の実施の形態は、例示という形態で本技術を開示しており、本技術の要旨を逸脱しない範囲で当業者が実施の形態の修正や代用をなし得ることは自明である。すなわち、本技術の要旨を判断するためには、請求の範囲を参酌すべきである。
【０１３２】
また、本技術の画像処理装置は以下のような構成も取ることができる。
（１）  肌画像の階調に関する極性と、周辺とは異なる類似した画素値の画像領域を示すスケールを、特徴量として算出する特徴量算出部と、
前記特徴量算出部で算出された特徴量に基づき、前記肌画像の特徴部分を抽出する特徴部分抽出部と
を備える画像処理装置。
（２）  前記肌画像に対して輝度情報分離処理を行い、グローバル輝度情報を取得する輝度情報分離部を備え、
前記特徴量算出部は、前記輝度情報分離部で取得した前記グローバル輝度情報を用いて前記特徴量の算出を行う（１）に記載の画像処理装置。
（３）  前記特徴量算出部は、前記類似した画素値の画像領域と周辺との信号差を示す強度を、前記特徴量として算出する（１）または（２）に記載の画像処理装置。
（４）  メラニンの解析を行うメラニン解析部をさらに備え、
前記特徴部分抽出部は、前記特徴量算出部で算出された特徴量と前記メラニン解析部で得られた解析結果を用いて特徴部分の抽出を行う（１）乃至（３）の何れかに記載の画像処理装置。
（５）  特徴部分が一致するように第１と第２の肌画像の位置合わせを行う画像位置合わせ部をさらに備え、
前記特徴量算出部は、強度変化の極性を示す第２特徴量の算出を行い、
前記画像位置合わせ部は、前記第２特徴量を用いて特徴部分のマッチングを行い、前記第１と第２の肌画像において対応する特徴部分が一致するように前記肌画像の位置合わせを行う（１）乃至（４）の何れかに記載の画像処理装置。
（６）  前記第１の肌画像として過去画像、前記第２の肌画像として現在画像を用い、
前記画像位置合わせ部は、対応する特徴部分の数が所定数以下である場合、前記第２の肌画像において前記対応する特徴部分の位置が、前記第１の肌画像において対応する特徴部分の位置となるように撮像範囲の移動アドバイスを提示する（５）に記載の画像処理装置。
（７）  前記特徴部分抽出部は、前記特徴部分として毛穴、吹出物、シミ、毛穴のつまりの少なくとも何れかを抽出する（１）乃至（６）の何れかに記載の画像処理装置。
（８）  前記特徴部分抽出部は、白色光を用いて撮像された肌画像から前記特徴量算出部で算出された特徴量に基づき、毛穴、吹出物、シミの少なくとも何れかを抽出し、近紫外光を用いて撮像された肌画像から前記特徴量算出部で算出された特徴量に基づき、毛穴のつまりを抽出する（７）に記載の画像処理装置。
（９）  予め設定された抽出条件を満たす特徴量である特徴部分の抽出結果に基づき統計量の算出を行い、特徴部分の数と大きさと色の濃さの少なくとも何れかに関する情報を生成する統計量算出部を有する（１）乃至（８）の何れかに記載の画像処理装置。
（１０）  前記肌画像は、光源と撮像部に対して設けられた偏光フィルタを直交関係とすることで肌の表面反射が除外されている画像である（１）乃至（９）の何れかに記載の画像処理装置。
【産業上の利用可能性】
【０１３３】
この技術の画像処理装置、画像処理方法、プログラムおよび画像処理システムでは、肌画像の階調に関する極性と、周辺とは異なる類似した画素値の画像領域を示すスケールが、特徴量として算出されて、この特徴量に基づき肌画像の特徴部分が抽出される。このため、肌の毛穴や吹出物等を特徴部分として精度よく検出することができるようになり、種々のアドバイス等を肌の状態に応じてより的確に行うことが可能となる。したがって、肌の撮像機能を有する電子機器、例えばデジタルカメラや携帯端末装置、ネットワーク等を介して種々のサービスの提供を行う情報処理装置等に適している。
【符号の説明】
【０１３４】
１０・・・画像処理システム
１１・・・撮像装置
１２・・・付属装置
１５，１６・・・情報処理装置
２０・・・画像処理装置
２１・・・前処理部
２２・・・輝度情報分離部
２３・・・メラニン解析部
２４・・・特徴部分解析部
２５・・・情報記憶部
５０・・・提示部
１１１・・・鏡胴
１１２・・・撮像部
１１３・・・偏光フィルタ
１２１・・・光源
２３１・・・メラニン分布算出部
２３２・・・メラニン指数算出部
２４１・・・特徴量算出部
２４２・・・位置合わせ部
２４３・・・特徴部分抽出部
２４４・・・統計量算出部
【図１】
2014027522.tif 000012
【図２】
2014027522.tif 000013
【図３】
2014027522.tif 000014
【図４】
2014027522.tif 000015
【図５】
2014027522.tif 000016
【図６】
2014027522.tif 000017
【図７】
2014027522.tif 000018
【図８】
2014027522.tif 000019
【図９】
2014027522.tif 000020
【図１０】
2014027522.tif 000021
【図１１】
2014027522.tif 000022
【図１２】
2014027522.tif 000023
【図１３】
2014027522.tif 000024
【図１４】
2014027522.tif 000025
【図１５】
2014027522.tif 000026
【図１６】
2014027522.tif 000027
【図１７】
2014027522.tif 000028
【図１８】
2014027522.tif 000029
【図１９】
2014027522.tif 000030
【図２０】
2014027522.tif 000031
【図２１】
2014027522.tif 000032
【国際調査報告】
2014027522.tif 000033
2014027522.tif 000034
2014027522.tif 000035
2014027522.tif 000036