(57)【特許請求の範囲】
【請求項１】
被写体画像を取得する第１取得部と、
重畳対象の衣服画像を取得する第２取得部と、
前記被写体画像が予め定めた第１条件を満たすか否かを判別する判別部と、
前記被写体画像が前記第１条件を満たすと判別された場合、前記被写体画像における被写体の形状を推定可能な特徴領域の位置と、前記衣服画像における前記特徴領域の位置と、が一致するように、前記被写体画像における前記衣服画像の第１位置を算出する第１算出部と、
前記被写体画像における前記特徴領域に応じて予め定められた特徴点の位置と、前記衣服画像における前記特徴点の位置と、が一致するように、前記被写体画像における前記衣服画像の第２位置を算出する第２算出部と、
前記被写体画像が前記第１条件を満たすと判別された場合、前記第１位置を前記被写体画像における前記衣服画像の重畳位置として決定し、前記被写体画像が前記第１条件を満たさないと判別された場合、前記被写体画像より前に取得された被写体画像である第１被写体画像に対して算出された前記第１位置と該第１被写体画像から前記第２算出部で算出された前記第２位置との差分から前記重畳位置を決定する決定部と、
前記被写体画像における前記重畳位置に、前記衣服画像を重畳した合成画像を生成する生成部と、
を備えた画像処理装置。
【請求項２】
前記判別部は、前記被写体画像における被写体の姿勢と、前記衣服画像の衣服の姿勢と、が一致する場合、前記第１条件を満たすと判別する、
請求項１に記載の画像処理装置。
【請求項３】
前記判別部は、前記被写体画像の被写体の移動量が、予め定めた閾値以下である場合、前記第１条件を満たすと判別する、
請求項１に記載の画像処理装置。
【請求項４】
前記判別部は、前記被写体画像が、前記第１被写体画像から予め定めた期間後に取得された被写体画像である場合に、前記第１条件を満たすと判別する、
請求項１に記載の画像処理装置。
【請求項５】
前記決定部は、
前記被写体画像が前記第１条件を満たさないと判別された場合、前記被写体画像から算出された前記第２位置を前記差分に応じてずらした位置を、前記重畳位置として決定する、
請求項１〜請求項４の何れか一項に記載の画像処理装置。
【請求項６】
前記衣服画像の輪郭の少なくとも一部と前記被写体画像の輪郭の少なくとも一部とが一致するように、前記衣服画像及び前記被写体画像の少なくとも一方を拡大または縮小する調整部を更に備え、
前記第１算出部は、
前記被写体画像が、前記第１条件を満たすと判別された場合、調整された前記衣服画像における前記特徴領域の位置と、調整された前記被写体画像における前記特徴領域の位置と、が一致するように、前記衣服画像の前記被写体画像における前記第１位置を算出する、
請求項１〜請求項５の何れか１項に記載の画像処理装置。
【請求項７】
前記第１取得部は、
第１撮像装置から、前記被写体画像を構成する画素毎に該被写体画像の被写体と該第１撮像装置との距離を規定したデプス画像を取得する第３取得部と、
第２撮像画像から、前記被写体画像を構成する画素毎に画素値を規定した色画像を取得する第４取得部と、
を有し、前記デプス画像と前記色画像を含む前記被写体画像を取得し、
前記第１算出部は、
前記被写体画像が前記第１条件を満たすと判別された場合、前記デプス画像における前記特徴領域の位置と、前記衣服画像における前記特徴領域の位置と、が一致するように、前記色画像における前記衣服画像の前記第１位置を算出する、
請求項１〜請求項６の何れか１項に記載の画像処理装置。
【請求項８】
前記第１算出部は、
前記被写体画像が、前記第１条件を満たすと判別された場合、互いの座標系が一致するように少なくとも一方が座標変換された前記色画像及び前記デプス画像について、該デプス画像における前記特徴領域の位置と、前記衣服画像における前記特徴領域の位置と、が一致するように、該色画像における前記衣服画像の前記第１位置を算出する、
請求項７に記載の画像処理装置。
【請求項９】
被写体画像を取得し、
重畳対象の衣服画像を取得し、
前記被写体画像が予め定めた第１条件を満たすか否かを判別し、
前記被写体画像が前記第１条件を満たすと判別された場合、前記被写体画像における被写体の形状を推定可能な特徴領域の位置と、前記衣服画像における前記特徴領域の位置と、が一致するように、前記被写体画像における前記衣服画像の第１位置を算出し、
前記被写体画像における前記特徴領域に応じて予め定められた特徴点の位置と、前記衣服画像における前記特徴点の位置と、が一致するように、前記被写体画像における前記衣服画像の第２位置を算出し、
前記被写体画像が前記第１条件を満たすと判別された場合、前記第１位置を前記被写体画像における前記衣服画像の重畳位置として決定し、前記被写体画像が前記第１条件を満たさないと判別された場合、前記被写体画像より前に取得された被写体画像である第１被写体画像に対して算出された前記第１位置と該第１被写体画像から前記第２算出部で算出された前記第２位置との差分から前記重畳位置を決定し、
前記被写体画像における前記重畳位置に、前記衣服画像を重畳した合成画像を生成する、
画像処理方法。
【請求項１０】
コンピュータを、
被写体画像を取得する手段と、
重畳対象の衣服画像を取得する手段と、
前記被写体画像が予め定めた第１条件を満たすか否かを判別する手段と、
前記被写体画像が前記第１条件を満たすと判別された場合、前記被写体画像における被写体の形状を推定可能な特徴領域の位置と、前記衣服画像における前記特徴領域の位置と、が一致するように、前記被写体画像における前記衣服画像の第１位置を算出する手段と、
前記被写体画像における前記特徴領域に応じて予め定められた特徴点の位置と、前記衣服画像における前記特徴点の位置と、が一致するように、前記被写体画像における前記衣服画像の第２位置を算出する手段と、
前記被写体画像が前記第１条件を満たすと判別された場合、前記第１位置を前記被写体画像における前記衣服画像の重畳位置として決定し、前記被写体画像が前記第１条件を満たさないと判別された場合、前記被写体画像より前に取得された被写体画像である第１被写体画像に対して算出された前記第１位置と該第１被写体画像から前記第２算出部で算出された前記第２位置との差分から前記重畳位置を決定する手段と、
前記被写体画像における前記重畳位置に、前記衣服画像を重畳した合成画像を生成する手段と、
して機能させる画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明の実施の形態は、画像処理装置、方法、及びプログラムに関する。
【背景技術】
【０００２】
試着対象の衣服を着用した状態を示す仮想画像を表示する技術が種々開示されている。例えば、人体が複数の衣服を試着した状態を示す合成画像を表示する技術が開示されている。また、取得した画像中の対象物を、予め用意した基準画像を用いたテンプレートマッチングを行うことで検出し、対象物上に仮想的な画像を重畳する技術も開示されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１０−１５２５５７号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、テンプレートマッチングを用いた技術では、精度向上を図ることは出来るが、処理負荷が高かった。このため、精度向上を図りつつ、且つ低負荷で合成画像を提供することは困難であった。
【０００５】
本発明が解決しようとする課題は、合成画像を精度よく且つ低負荷で作成することができる、画像処理装置、方法、及びプログラムを提供することである。
【課題を解決するための手段】
【０００６】
実施の形態の画像処理装置は、第１取得部と、第２取得部と、判別部と、第１算出部と、第２算出部と、決定部と、生成部と、を備える。第１取得部は、被写体画像を取得する。第２取得部は、重畳対象の衣服画像を取得する。判別部は、前記被写体画像が予め定めた第１条件を満たすか否かを判別する。第１算出部は、前記被写体画像が前記第１条件を満たすと判別された場合、前記被写体画像における被写体の形状を推定可能な特徴領域の位置と、前記衣服画像における前記特徴領域の位置と、が一致するように、前記被写体画像における前記衣服画像の第１位置を算出する。前記第２算出部は、前記被写体画像における前記特徴領域に応じて予め定められた特徴点の位置と、前記衣服画像における前記特徴点の位置と、が一致するように、前記被写体画像における前記衣服画像の第２位置を算出する。決定部は、前記被写体画像が前記第１条件を満たすと判別された場合、前記第１位置を前記被写体画像における前記衣服画像の重畳位置として決定し、前記被写体画像が前記第１条件を満たさないと判別された場合、前記被写体画像より前に取得された被写体画像である第１被写体画像に対して算出された前記第１位置と該第１被写体画像から前記第２算出部で算出された前記第２位置との差分から前記重畳位置を決定する。生成部は、前記被写体画像における前記重畳位置に、前記衣服画像を重畳した合成画像を生成する。
【図面の簡単な説明】
【０００７】
【図１】実施の形態１の画像処理システムのブロック図。
【図２】画像処理システムの外観の模式図。
【図３】第１テーブルのデータ構造の図。
【図４】姿勢情報及び衣服画像の一例を示す図。
【図５】被写体の向きの算出方法を示す図。
【図６】姿勢情報の異なる３種類の衣服画像を示す図。
【図７】特徴領域の大きさ算出の説明図。
【図８】輪郭抽出の一例を示す図。
【図９】第２位置の算出を示す模式図。
【図１０】画像処理の手順を示すフローチャート。
【図１１】調整処理の手順を示すフローチャート。
【図１２】第１位置算出処理の手順を示すフローチャート。
【図１３】第２位置算出処理の手順を示すフローチャート。
【図１４】合成画像の生成を示す説明図。
【図１５】合成画像の生成を示す説明図。
【図１６】画像処理システムを示す模式図。
【図１７】画像処理装置のハードウェア構成例を示すブロック図。
【発明を実施するための形態】
【０００８】
以下に添付図面を参照して、画像処理装置、画像処理方法、及び画像処理プログラムの一の実施の形態を詳細に説明する。
【０００９】
（実施の形態１）
図１は、本実施の形態の画像処理システム１０の機能的構成を示すブロック図である。画像処理システム１０は、画像処理装置１２、撮像部１４、入力部１６、記憶部１８、及び提示部２０を備える。
【００１０】
本実施の形態では、画像処理システム１０は、画像処理装置１２と、撮像部１４、入力部１６、記憶部１８、及び提示部２０と、が別体として設けられた構成である場合を説明する。しかし、画像処理システム１０は、画像処理装置１２と、撮像部１４、入力部１６、記憶部１８、及び提示部２０の内の少なくとも１つと、が一体的に構成された形態であってもよい。
【００１１】
撮像部１４は、被写体を撮像し、被写体の被写体画像を得る。撮像部１４は、所定時間毎に被写体を撮像する。撮像部１４は、撮像によって取得した被写体画像を、順次、画像処理装置１２へ出力する。撮像部１４が、連続して被写体を撮像して画像処理装置１２へ出力することで、画像処理装置１２は、撮像時間の異なる複数の被写体画像を含む動画像を得ることとなる。
【００１２】
被写体は、衣服を試着する対象である。被写体は、衣服を試着する対象であればよく、生物であってもよいし、非生物であってもよい。該生物には、例えば、人物が挙げられるが、人物に限られず、犬や猫等のペットであってもよい。また、該非生物には、人体やペットの形状を模したマネキンや、衣服、その他の物体等が挙げられるが、これに限られない。また、被写体は、衣服を着用した状態の生物や非生物であってもよい。
【００１３】
また、衣服とは、被写体が着用可能な品物である。衣服としては、例えば、上着、スカート、ズボン、靴、帽子等が挙げられる。
【００１４】
本実施の形態では、撮像部１４は、第１撮像部１４Ａ及び第２撮像部１４Ｂを含む。
【００１５】
第１撮像部１４Ａは、撮像により被写体のデプス画像を取得する。第２撮像部１４Ｂは、撮像により被写体の色画像を取得する。
【００１６】
色画像は、ビットマップ画像である。被写体の色画像は、画素毎に、被写体の色や輝度等を示す画素値の規定された画像である。第２撮像部１４Ｂは、色画像を取得可能な公知の撮像装置である。
【００１７】
デプス画像は、距離画像と称される場合がある。被写体のデプス画像は、被写体画像を構成する画素毎に、被写体を撮像した第１撮像部１４Ａからの距離を規定した画像である。本実施の形態では、被写体のデプス画像は、被写体の色画像から、ステレオマッチング等の公知の方法により作成してもよいし、被写体の色画像と同じ撮影条件で、第１撮像部１４Ａを用いて撮像することで取得してもよい。第１撮像部１４Ａには、デプス画像を取得可能な公知の撮像装置を用いる。
【００１８】
本実施の形態では、第１撮像部１４Ａ及び第２撮像部１４Ｂは、同じタイミングで被写体の撮像を行う。第１撮像部１４Ａ及び第２撮像部１４Ｂは、図示を省略する制御部等によって、同じタイミングで同期して撮像を順次行うように制御されているものとする。そして、撮像部１４は、撮像によって得た被写体のデプス画像及び被写体の色画像を含む被写体画像を、順次画像処理装置１２へ出力する。
【００１９】
提示部２０は、各種画像を提示する装置である。本実施の形態では、提示部２０は、画像処理装置１２で生成された後述する合成画像を提示する。なお、提示とは、表示、印刷、及び送信等を示す。
【００２０】
提示部２０は、例えば、液晶表示装置等の表示装置や、画像を印刷する印刷装置や、有線通信や無線通信等により外部装置へ情報を送信する公知の通信装置等である。提示部２０が、表示装置である場合には、提示部２０は、合成画像を表示する。また、提示部２０が通信装置である場合には、提示部２０は、合成画像を外部装置へと送信する。また、提示部２０が印刷装置である場合には、提示部２０は、合成画像を印刷する。
【００２１】
なお、本実施の形態では、提示とは、表示を示し、提示部２０は、表示装置である場合を説明する。
【００２２】
入力部１６は、ユーザが各種の操作入力を行うための手段である。入力部１６には、例えば、マウス、ボタン、リモコン、キーボード、マイク等の音声認識装置、及び画像認識装等の１または複数を組み合せたもの等が挙げられる。また、入力部１６として、上記画像認識装置を採用する場合には、入力部１６の前に対峙するユーザの身振り手振り等を、ユーザの各種指示として受け付ける装置としてもよい。この場合には、該画像認識装置では、身振りや手振り等の各動きに対応する指示情報を予め記憶し、認識した身振りや手振りに対応する指示情報を読み取ることで、ユーザによる操作指示を受け付ければよい。
【００２３】
また、入力部１６は、携帯端末等の各種情報を送信する外部装置から、ユーザの操作指示を示す信号を受け付ける通信装置であってもよい。この場合には、入力部１６は、該外部装置から受信した操作指示を示す信号を、ユーザによる操作指示として受け付ければよい。
【００２４】
なお、入力部１６及び提示部２０は、一体的に構成されていてもよい。具体的には、入力部１６及び提示部２０は、入力機能及び表示機能の双方を備えたＵＩ（Ｕｓｅｒ  Ｉｎｔｅｒｆａｃｅ）部として構成されていてもよい。ＵＩ部には、タッチパネル付ＬＣＤ（Ｌｉｑｕｉｄ  Ｃｒｙｓｔａｌ  Ｄｉｓｐｌａｙ）等がある。
【００２５】
図２は、画像処理システム１０の外観を示す模式図である。
【００２６】
図２に示すように画像処理システム１０における提示部２０は、例えば矩形状の筐体５１の一の面に組み込まれている。そして、画像処理システム１０では、被写体Ｐが各種衣服を試着した状態を示す合成画像Ｗを、提示部２０に表示する。人物等の被写体Ｐは、例えば、該提示部２０に対面した位置から、該提示部２０に提示された合成画像Ｗを視認する。
【００２７】
また、筐体５１は、入力部１６、及び撮像部１４（第１撮像部１４Ａ及び第２撮像部１４Ｂ）を支持している。図２に示す例では、入力部１６、及び第２撮像部１４Ｂは、筐体５１における、提示部２０の水平方向両端部に設けられている。また、第１撮像部１４Ａは、筐体５１における、提示部２０の上部に設けられている。なお、入力部１６の設置位置は、この位置に限られない。また、第１撮像部１４Ａ及び第２撮像部１４Ｂは、被写体Ｐを撮像可能な位置に設けられていればよく、これらの位置に限定されない。
【００２８】
ユーザが入力部１６を操作指示することで、各種情報が入力部１６を介して入力される。また、第１撮像部１４Ａ及び第２撮像部１４Ｂは、上述したように、同じタイミングとなるように同期しながら、被写体Ｐを順次撮像する。そして、第１撮像部１４Ａ及び第２撮像部１４Ｂは、撮像によって得た被写体画像を、画像処理装置１２へ順次出力する。
【００２９】
図１に戻り、記憶部１８は、被写体画像に重畳する衣服画像を予め記憶する。本実施の形態では、記憶部１８は、衣服番号と、姿勢情報と、衣服画像と、属性情報と、を対応づけた第１テーブルを記憶する場合を説明する。
【００３０】
図３は、第１テーブルのデータ構造の一例を示す図である。
【００３１】
衣服番号は、衣服を一意に識別する情報である。衣服番号には、例えば、製品番号や、衣服の名称等が挙げられるが、これらに限られない。製品番号には、例えば、公知のＪＡＮコードを用いる。名称には、例えば、衣服の品名等を用いる。
【００３２】
なお、衣服番号は、衣服を一意に識別する情報である。このため、１の衣服番号に、姿勢情報の異なる複数の衣服画像が対応付けられる場合もある。
【００３３】
姿勢情報は、衣服画像の取得時の衣服の着用対象である被写体の姿勢を示す情報である。姿勢情報は、被写体の、撮像装置１４に対する被写体の向きや動き等を示す。
【００３４】
被写体の向きとは、衣服画像の取得時の、該衣服画像の衣服を着用した被写体の撮像装置１４に対する向きを示す。例えば、被写体の向きとしては、顔及び身体が撮像装置１４に対して正面を向いている正面方向、顔及び身体が撮像装置１４に対して側面を向いている側面方向、正面方向及び側面方向以外の他の方向等がある。
【００３５】
被写体の動きは、衣服画像の衣服を着用した被写体の骨格の位置を示す骨格情報によって示される。骨格情報は、衣服画像を構成する各画素の画素位置に対応する、該衣服画像の衣服を着用した被写体の骨格の位置を示す情報を、画素毎に定めた情報である。
【００３６】
本実施の形態では、姿勢情報は、被写体の向きと、骨格情報と、を含むものとする。
【００３７】
衣服画像は、衣服を着用した被写体の撮像によって得られる。衣服画像は、画素毎に、衣服の色や輝度等を示す画素値の規定された画像である。例えば、衣服画像には、衣服を第２撮像部１４Ｂで撮像することによって得られた画像等を用いる。
【００３８】
属性情報は、対応する衣服画像の属性を示す情報である。属性情報は、例えば、衣服画像の衣服のサイズ、衣服の色、衣服の素材、衣服の値段等がある。
【００３９】
具体的には、例えば、１種類の衣服について、正面方向から撮影された衣服画像と、側面側から撮影された衣服画像と、を画像処理システム１０で取得したとする。この場合、記憶部１８には、該衣服を示す衣服番号に対応づけて、被写体の向きである「正面方向」及び正面方向を向いた被写体の骨格情報を含む姿勢情報と、該姿勢情報に対応する、正面方向から撮影された衣服画像と、が予め記憶される。同様に、記憶部１８には、該衣服を示す衣服番号に対応づけて、被写体の向きである「側面方向」及び側面方向を向いた被写体の骨格情報を含む姿勢情報と、該姿勢情報に対応する、該側面得方向から撮影された衣服画像と、が予め記憶される。
【００４０】
なお、第１テーブルは、衣服番号と、姿勢情報と、衣服画像と、を対応づけたテーブルであればよく、属性情報を格納しない形態であってもよい。
【００４１】
図４は、姿勢情報及び衣服画像の一例を示す模式図である。
【００４２】
図４（Ａ）に示すように、例えば、衣服６１を着用したマネキン等の被写体６０を用意する。そして、この被写体６０を、撮像部１４で撮像することで、色画像及びデプス画像を含む被写体画像を得る。そして、撮像によって得られた色画像から、衣服領域を抽出することで、例えば、図４（Ｂ）に示す衣服画像６１Ａを得る。また、被写体６０のデプス画像から、人体の関節位置に相当する画素位置を公知の方法により抽出し、衣服画像の各々を構成する各画素の画素位置に対応する、該衣服画像の衣服を着用した被写体の骨格の位置を示す骨格情報６１Ｂを作成する（図４（Ｃ））。
【００４３】
画像処理装置１２では、このようにして、重畳対象の衣服の衣服画像及び姿勢情報を含む第１テーブルを予め用意し、記憶部１８に予め記憶する。
【００４４】
図１に戻り、画像処理装置１２は、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）、ＲＯＭ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）、及びＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）などを含んで構成されるコンピュータである。
【００４５】
画像処理装置１２は、撮像部１４、入力部１６、記憶部１８、及び提示部２０に電気的に接続されている。
【００４６】
画像処理装置１２は、第１取得部２２、受付部２４、第２取得部２６、判別部２８、調整部３０、抽出部３２、第１算出部３４、第２算出部３６、決定部３８、生成部４０、及び提示制御部４２を備える。
【００４７】
第１取得部２２は、撮像部１４から被写体画像を順次取得する。第１取得部２２は、第３取得部２２Ａ及び第４取得部２２Ｂを含む。第３取得部２２Ａは、被写体のデプス画像を順次取得する。第４取得部２２Ｂは、色画像を順次取得する。
【００４８】
なお、被写体の画像は、被写体を示す画像である。第３取得部２２Ａは、第１撮像部１４Ａから取得したデプス画像から、人物領域を抽出することで、被写体のデプス画像を取得する。同様に、第４取得部２２Ｂは、第２撮像部１４Ｂから取得した色画像から、人物領域を抽出することで、被写体の色画像を取得する。
【００４９】
第１取得部２２は、例えば、デプス画像を構成する各画素の３次元位置のうち、奥行き方向の距離について閾値を設定することで、人物領域を抽出する。たとえば、第１撮像部１４Ａのカメラ座標系において第１撮像部１４Ａの位置を原点とし、Ｚ軸正方向が、第１撮像部１４Ａの原点から被写体方向に伸びるカメラの光軸であるとする。この場合、デプス画像を構成する各画素の内、奥行き方向（Ｚ軸方向）の位置座標が予め定めた閾値（例えば、２ｍを示す値）以上の画素を除外する。これにより、第１取得部２２は、第１撮像部１４Ａから２ｍの範囲内に存在する人物領域の画素からなるデプス画像、すなわち、被写体のデプス画像を得る。
【００５０】
受付部２４は、入力部１６から各種情報を受け付ける。
【００５１】
第２取得部２６は、第１取得部２２で取得した被写体画像に重畳する対象の衣服画像を記憶部１８から取得する。
【００５２】
本実施の形態では、第２取得部２６は、入力部１６から、重畳対象の衣服を特定するための衣服候補情報を受け付ける。衣服候補情報には、ユーザが試着を所望する衣服の種類、サイズ、色、素材、値段等の属性情報の内の少なくとも１つ、または属性情報の少なくとも１つを特定するための情報が含まれる。
【００５３】
例えば、ユーザは、入力部１６の操作指示によって、衣服の「種類」、「色」、「サイズ」等を衣服候補情報として入力する。
【００５４】
第２取得部２６では、入力部１６から受け付けた衣服候補情報を解析し、衣服候補情報によって特定される、または衣服候補情報に含まれる属性情報に対応する衣服画像の一覧を、記憶部１８から検索する。そして、提示制御部４２は、第１取得部２６で検索された衣服画像の一覧を、対応する衣服番号毎に、提示部２０に提示する制御を行う。すなわち、１の衣服番号に対して、姿勢情報の異なる複数種類の衣服画像が記憶部１８に対応づけて記憶されている場合には、提示制御部４２は、代表的な姿勢情報(例えば正面)に対応する１の衣服画像を、提示部２０に提示する制御を行う。
【００５５】
提示部２０に衣服画像の一覧が提示されると、ユーザによる入力部１６の操作指示によって、提示部２０に提示された衣服画像の一覧の中から、重畳対象の衣服の衣服画像が選択される。すると、選択された衣服画像の衣服番号が、入力部１６から画像処理装置１２へ出力される。
【００５６】
受付部２４が、該選択された衣服番号を受け付けると、第２取得部２６では、該受付部２４で受け付けた衣服番号によって特定される衣服画像を、記憶部１８から取得する。
【００５７】
抽出部３２は、第１取得部２２で取得した被写体画像から、骨格情報を生成する。具体的には、抽出部３２は、第３取得部２２Ａで取得した被写体のデプス画像を構成する画素毎に人体の骨格位置を示す、骨格情報を生成する。抽出部３２は、デプス画像に人体形状を当てはめることで骨格情報を生成する。
【００５８】
そして、抽出部３２は、第３取得部２２Ａで取得した被写体のデプス画像から算出した骨格情報の各画素の画素位置の座標系（すなわち、第１撮像部１４Ａの座標系）を、第４取得部２２Ｂで取得した被写体の色画像の各画素位置の座標系（すなわち、第２撮像部１４Ｂの座標系）に変換する。すなわち、抽出部３２は、第１撮像部１４Ａで撮像した被写体のデプス画像から算出した骨格情報の各画素の画素位置の座標系を、該デプス画像と同じタイミングで第２撮像部１４Ｂによって撮像された被写体の色画像の座標系に変換する。この座標変換は、公知のキャリブレーションを行うことにより行う。
【００５９】
調整部３０は、重畳対象の衣服画像の輪郭の少なくとも一部と、被写体画像の輪郭の少なくとも一部とが一致するように、衣服画像及び被写体画像の少なくとも一方を拡大または縮小する。また、調整部３０は、拡大または縮小後の衣服画像と、被写体画像と、から、後述する第１算出部３４で用いる特徴領域を抽出する。
【００６０】
詳細には、調整部３０は、まず、抽出部３２で作成された被写体の骨格情報から、被写体の向きを算出する。
【００６１】
調整部３０は、抽出部３２が被写体のデプス画像から算出した姿勢情報としての骨格情報によって示される各関節の位置から、被写体の向きを算出する。
【００６２】
図５は、調整部３０による被写体の向きの算出方法を示す説明図である。
【００６３】
抽出部３２で算出された被写体の骨格情報によって示される、被写体の左肩に相当する画素位置の座標を、第２撮像部１４Ｂの座標系でＰｓｌとする（図５中、画素位置７２４参照）。また、抽出部３２で算出された姿勢情報としての骨格情報によって示される、被写体の右肩に相当する画素位置の座標を、第２撮像部１４Ｂの座標系でＰｓｒとする（図５中、画素位置７２３参照）。
【００６４】
調整部３０は、これらの座標情報から、被写体の撮像部１４（第２撮像部１４Ｂ）に対する向きを、下記式（１）により算出する。
【００６５】
被写体の向き＝ａｒｃｔａｎ（Ｐｓｌ．ｚ−Ｐｓｒ．ｚ／Ｐｓｌ．ｘ−Ｐｓｒ．ｘ）
・・・・式（１）
【００６６】
式（１）中、Ｐｓｌ．ｚは、被写体の左肩に相当する画素位置のｚ座標値を示す。Ｐｓｒ．ｚは、被写体の右肩に相当する画素位置のｚ座標値を示す。また、式（１）中、Ｐｓｌ．ｘは、被写体の左肩に相当する画素位置のｘ座標値を示す。Ｐｓｒ．ｘは、被写体の右肩に相当する画素位置のｘ座標値を示す。
【００６７】
なお、調整部３０は、衣服画像の姿勢情報についても、同様にして得てもよい。
【００６８】
次に、調整部３０は、ユーザによって選択された衣服番号に対応する衣服画像の内、被写体画像によって示される被写体の向き（被写体の姿勢情報）に対応する衣服画像を、記憶部１８から取得する。
【００６９】
図６は、同じ衣服について、姿勢情報の異なる３種類の衣服画像が同じ衣服番号に対応づけて記憶部１８に格納されている場合を示す模式図である。
【００７０】
例えば、記憶部１８に、ユーザによって選択された衣服番号に対応する衣服画像として、筐体５１に設けられた第２撮像部１４Ｂに対して正面の向きである「正面」、正面から右に２０度回転した向き「＋２０度」、正面から右に４０度回転した向き「＋４０度」の各々の姿勢情報に対応する、衣服画像６１Ａ（６１Ａ０、６１Ａ２０、６１Ａ４０）が予め格納されていたとする。
【００７１】
調整部３０は、被写体画像によって示される被写体の向きが、「正面」である場合には、第２取得部２６が取得した、ユーザによって選択された衣服番号に対応するこれらの衣服画像６１Ａ（６１Ａ０、６１Ａ２０、６１Ａ４０）の内、該被写体の向き「正面」に対応する衣服画像６１Ａ０を記憶部１８から読み出す。
【００７２】
次に、調整部３０は、第３取得部２２Ａで取得した被写体のデプス画像の座標系（すなわち、第１撮像部１４Ａの座標系）を、第４取得部２２Ｂで取得した被写体の色画像の座標系（すなわち、第２撮像部１４Ｂの座標系）に変換する。そして、調整部３０は、座標変換後の被写体のデプス画像を構成する各画素位置の画素が、同じタイミングで取得された被写体の色画像を構成する各画素の画素位置に対応する位置となるように射影することで、被写体のデプス画像の解像度を色画像と同じ解像度に調整する。
【００７３】
例えば、第１撮像部１４Ａによって得られた被写体のデプス画像の解像度が６４０×４８０ピクセルであり、第２撮像部１４Ｂによって得られた被写体の色画像の解像度が１０８０×１９２０ピクセルであったとする。この場合、デプス画像を構成する各画素を、１ピクセル×１ピクセルの点として色画像上に射影すると、デプス画像を構成する各画素の間に隙間が生じてしまう。このため、調整部３０では、必要に応じて、ガウシアンフィルタやモルフォロジー演算等の公知の演算を用いたフィルタを適用し、色画像上に射影されたデプス画像を構成する各画素の間に隙間が生じないように調整する。
【００７４】
次に、調整部３０は、被写体の向きに対応する衣服画像における、特徴領域の大きさを算出する。
【００７５】
特徴領域は、衣服を試着する被写体の形状を推定可能な領域である。特徴領域には、人体の肩に対応する肩領域や、腰に対応する腰領域や、足の長さに対応する足領域等があるが、これらに限られない。本実施の形態では、特徴領域として、人体の肩に対応する肩領域を用いる場合を説明するが、肩領域に限られない。
【００７６】
例えば、調整部３０は、被写体の向きに対応する衣服画像における特徴領域の大きさとして、該衣服画像における肩幅を算出する。
【００７７】
図７は、調整部３０による衣服画像の特徴領域の大きさ算出の説明図である。
【００７８】
調整部３０は、被写体の向きに対応する衣服画像における、該衣服画像に対応する姿勢情報に含まれる骨格情報から、衣服画像上の関節位置の内、左肩に相当する画素位置の画素のＹ座標と、右肩に相当する画素位置の画素のＹ座標と、の各々の位置を求める。そして、これらのＹ座標の平均のＹ座標を求める。次に、調整部３０は、求めた該Ｙ座標の位置（高さ）において、該左肩に相当する画素位置のＸ座標から、衣服の外側に相当する領域に向かって探索を行い、衣服の左肩側の境界線の位置を示すＸ座標を求める。さらに、調整部３０は、求めた該Ｙ座標の位置（高さ）において、右肩に相当する画素位置のＸ座標から、衣服の外側に相当する領域に向かって探索を行い、衣服の右肩側の境界線の位置を示すＸ座標を求める。
【００７９】
このようにして求めた２つのＸ座標の差を求めることで、衣服画像上の肩幅（ピクセル数）を求めることができる（図７（Ａ）の、衣服画像６１Ａにおける肩幅Ｓｃ参照）。
【００８０】
なお、ある１つの肩関節のＹ座標について算出するのではなく、肩関節のＹ座標を中心に、Ｙ座標の上下方向に幅を持たせて、複数の水平方向のラインについて探索を行い、水平方向について両側の平均のＸ座標を求めることで、肩幅を求めてもよい。
【００８１】
次に、調整部３０は、色画像と同じ解像度に調整した、被写体のデプス画像と、被写体の骨格情報と、を用いて、被写体の画像上の肩幅を算出する。
【００８２】
図７（Ｂ）に示すように、調整部３０は、被写体のデプス画像における、左肩に相当する画素位置のＹ座標と、右肩に相当する画素位置のＹ座標と、の平均のＹ座標を求める。次に、左肩に相当する画素位置のＸ座標から、被写体の外側に相当する領域向かって探索を行い、被写体領域の一方の境界線であるＸ座標を求める。
【００８３】
さらに、調整部３０は、被写体のデプス画像における、右肩に相当する画素位置のＸ座標から、被写体の外側に相当する領域に向かって探索を行い、被写体領域のもう一方の境界線であるＸ座標を求める。
【００８４】
調整部３０は、このようにして求めた２つのＸ座標の差を求めることで、被写体について、画像上の肩幅（ピクセル数）を求める（図７（Ｂ）中、被写体のデプス画像７１Ａの肩幅Ｓｈ参照）。
【００８５】
なお、調整部３０は、肩関節の１つのＹ座標について肩幅を求めるのではなく、肩関節のＹ座標を中心にＹ座標の上下方向に幅を持たせて、複数の水平方向のラインについて探索を行う。そして、調整部３０は、水平方向について両側の平均のＸ座標を求めることで、肩幅を求めてもよい。
【００８６】
次に、調整部３０は、上記で算出した特徴領域の大きさ、すなわち、衣服画像の肩幅Ｓｃと、被写体画像の肩幅Ｓｈと、を用いて、衣服画像のスケーリング値（拡大縮小率）を決定する。
【００８７】
具体的には、調整部３０は、被写体画像の肩幅Ｓｈを、服画像の肩幅Ｓｃで除算した除算値（Ｓｈ／Ｓｃ）を、スケーリング値として算出する。スケーリング値は、衣服の実際の大きさや、衣服画像領域の幅および高さの画素数などの値を用いて、異なる式から算出してもよい。
【００８８】
そして、調整部３０は、重畳対象の衣服画像（色画像）を、該スケーリング値によって特定される拡大縮小率で、拡大または縮小する。同様に、調整部３０は、重畳対象の衣服画像の姿勢情報に含まれる骨格情報についても、同じスケーリング値（Ｓｈ／Ｓｃ）で特定される拡大縮小率で、拡大または縮小する。
【００８９】
次に、調整部３０は、拡大または縮小後の衣服画像と、被写体画像と、から、後述する第１算出部３４で用いる特徴領域を抽出する。
【００９０】
特徴領域とは、衣服画像、及び被写体画像の各々における、被写体の形状を推定可能な領域を示す。特徴領域は、例えば、人体の肩、腰等を示す領域である。本実施の形態では、調整部３０は、衣服画像及び被写体画像の各々の輪郭における、人体の肩に相当する領域（肩領域）を、特徴領域として抽出する場合を説明する。
【００９１】
まず、調整部３０は、座標変換及び解像度に調整された被写体のデプス画像から、輪郭を抽出する。また、調整部３０は、被写体画像と同じスケーリング値となるように拡大または縮小された衣服画像の輪郭を抽出する。なお、輪郭の抽出には、公知の方法を用いる。そして、調整部３０は、これらの輪郭から、人体の肩に相当する領域（肩領域）の輪郭を、特徴領域として抽出する。
【００９２】
ここで、調整部３０は、衣服画像の形状に応じて輪郭を抽出することが好ましい。
【００９３】
図８は、輪郭の抽出の一例を示す模式図である。
【００９４】
図８(Ａ)に示すように、衣服画像６１Ａが、人体の正面側に縦長の開口部を有する形状であるとする。この場合、輪郭が、図８（Ｂ）に示すように、人体の中央部にも示されることとなる。このような輪郭を用いて、後述する第１算出部３４でテンプレートマッチング（詳細後述）を行うと、人体の中央部分に相当する領域のマッチング精度が低下する場合がある。
【００９５】
このため、衣服画像６１Ａが、人体の正面側に縦長の開口部を有する形状である場合には、調整部３０は、図８（Ｂ）に示す輪郭から、人体の中央部に相当する領域の輪郭を除去することで、人体の外形に沿った部分の輪郭６１Ｃを、衣服画像の輪郭として抽出することが好ましい（図８（Ｄ））。
【００９６】
なお、画像処理装置１２では、衣服画像を取得したときに、該衣服画像の衣服を試着していたマネキン等の被写体のデプス画像を、該衣服画像に対応づけて記憶部１８に予め記憶しておく。調整部３０は、このデプス画像から、該デプス画像における輪郭に連続する内側の領域の一部を公知のモルフォルジー演算等の画像フィルタ処理により削除する。そして、この削除後のデプス画像７１Ｃ（図８（Ｃ）参照）を用意する。そして、調整部３０は、図８（Ｂ）に示す輪郭６１Ｂから、デプス画像７１Ｃ（図８（Ｃ）参照）と重なる領域を削除することで、人体の外形に沿った部分の輪郭６１Ｃを、衣服画像の輪郭として抽出する（図８（Ｄ））。
【００９７】
そして、調整部３０は、これらの衣服画像、及び被写体画像（デプス画像）の各々の輪郭から、人体の肩に相当する肩領域を、特徴領域として抽出する。
【００９８】
なお、衣服画像によって特定される衣服が、タンクトップやベアトップ等、衣服画像から人体の外形に沿った形状（肩の輪郭等）を抽出することが難しい場合もある。この場合には、衣服を試着させたマネキン等の被写体のデプス画像を記憶部１８に予め記憶しておき、該被写体の肩部から肩領域の輪郭を算出してもよい。
【００９９】
図１に戻り、説明を続ける。
【０１００】
第１算出部３４は、重畳対象の衣服画像における特徴領域の位置と、第１取得部２２で取得された被写体画像における特徴領域の位置と、が一致するように、被写体画像における衣服画像の第１位置を算出する。
【０１０１】
なお、第１算出部３４は、後述する判別部２８によって、第１取得部２２で取得された被写体画像が予め定めた第１条件を満たすと判別された場合に、第１位置の算出を行う。判別部２８の判別処理及び判別の条件については、詳細を後述する。
【０１０２】
第１算出部３４は、被写体画像の特徴領域に対して、衣服画像の特徴領域をテンプレートとして、公知のテンプレートマッチングを行うことで被写体画像（デプス画像）を探索する。そして、第１算出部３４は、被写体画像（デプス画像）上における、衣服画像における特定領域（本実施の形態では肩領域）と一致する位置を、第１位置として算出する。
【０１０３】
第１位置は、被写体画像上における位置座標によって示される。具体的には、第１位置は、被写体画像上における、被写体画像の特徴領域と衣服画像の特徴領域とが一致したときの、該特徴領域の中心位置とする。本実施の形態では、第１算出部３４は、被写体画像上における、被写体画像の特徴領域（肩領域）の中心位置を、第１位置として算出することとなる。
【０１０４】
第２算出部３６は、衣服画像における、前記特徴領域に応じて予め定められた特徴点の位置と、被写体画像における特徴点の位置と、が一致するように、被写体画像における衣服画像の第２位置を算出する。
【０１０５】
上述のように、第１算出部３４は、特徴領域についてテンプレートマッチングを行うことで、第１位置を算出する。一方、第２算出部３６では、特徴点の位置から第２位置を算出する。このため、第１算出部３４は、第２算出部３６に比べて高精度に第１位置を算出することができる。一方、第２算出部３６では、第１算出部３４に比べて第２位置の算出精度が落ちるものの、第１算出部３４より低負荷で第２位置を算出することができる。
【０１０６】
特徴点は、衣服を試着する被写体の体型を推定可能な位置である。特徴点は、特徴領域に応じて予め定められる。例えば、特徴点は、第１算出部３４で用いる特徴領域の中央に相当する位置に定める。このため、特徴点は、第１算出部３４が特徴領域として用いる領域に応じて、予め設定される。また、特徴点は、画像上の位置座標で示される。
【０１０７】
本実施の形態では、第１算出部３４は、特徴領域として肩領域を用いている。このため、第２算出部３６では、肩領域の中心位置として、人体の両肩の中央に相当する位置を、特徴点として定める場合を説明する。
【０１０８】
図９は、第２算出部３６による第２位置の算出の一例を示す模式図である。
【０１０９】
第２算出部３６は、例えば、図９（Ａ）に示す衣服画像６１Ａの骨格情報８１Ａから、両肩間の中心位置Ｑ１を求める。また、第２算出部３６は、図９（Ｂ）に示す被写体画像７１Ａの骨格情報８１Ｂから、両肩間の中心位置Ｑ２を求める。そして、第２算出部３６は、衣服画像６１Ａにおける、両肩間の中心位置Ｑ１と、被写体画像７１Ａにおける両肩間の中心位置Ｑ２と、が一致するように、衣服画像６１Ａの被写体画像７１Ａにおける第２位置を算出する。本実施の形態では、第２算出部３６は、被写体画像７１Ａにおける両肩間の中心位置Ｑ２を、第２位置として算出することとなる。
【０１１０】
図１に戻り、判別部２８は、第１取得部２２で取得された被写体画像が、予め定めた第１条件を満たすか否かを判別する。
【０１１１】
第１条件は、第１算出部３４で第１位置の算出処理を実行するか否かを判断するための条件である。すなわち、第１算出部３４では、第１取得部２２で取得された被写体画像が、判別部２８によって第１条件を満たすと判別された場合にのみ、第１位置の算出を実行する。一方、第２算出部３６では、第１取得部２２で取得された被写体画像が、判別部２８によって第１条件を満たすと判別された場合、及び該第１条件を満たさないと判別された場合の何れにおいても、第２位置の算出を実行する。
【０１１２】
第１条件には、下記の条件が挙げられる。なお、下記の条件の内の１つを第１条件として定めてもよいし、下記の条件の内の任意の複数の条件を第１条件として定めてもよい。
【０１１３】
第１条件としては、撮像部１４によって撮像される領域に存在する被写体が異なる被写体に入れ替わったとき、が挙げられる。
【０１１４】
この場合、判別部２８は、第１取得部２２で取得された被写体画像としてのデプス画像における、被写体の関節位置の座標値から、提示部２０から予め定めた距離内に被写体として人物が存在するか否かを判別する。そして、ある時刻に取得された被写体画像には被写体として人物が存在し、その後の時刻に取得された被写体画像に被者体として人物が存在せず、さらにその後の時刻に取得された被写体画像に被写体として人物が存在したと判別したときに、判別部２８は、撮像部１４によって撮像される領域に存在する人物が異なる人物に入れ替わったと判別する。これによって、判別部２８は、取得された被写体画像が、判別部２８によって予め定めた第１条件を満たすと判別する。
【０１１５】
例えば、提示部２０の前に位置して試着を行う被写体が入れ替わった場合、体型等が異なることから、より精度よく位置（第１位置または第２位置）を算出することが好ましい。このため、撮像部１４によって撮像される領域に存在する人物が異なる人物に入れ替わったときを、判別部２８の判別の条件として設定することで、後述する重畳位置の精度向上が図れる。
【０１１６】
なお、提示部２０の前に位置する人物が移動中に撮像された被写体画像から第１位置を算出すると、算出精度が低下する可能性がある。このため、判別部２８は、撮像部１４によって撮像される領域に存在する人物が異なる人物に入れ替わってから所定時間後に該人物の静止を検出した後に取得された被写体画像を、第１条件を満たす被写体画像と判別することが好ましい。
【０１１７】
これらの人物の移動や、人物の静止の検出には、公知の画像処理技術を用いればよい。
【０１１８】
また、他の第１条件としては、ユーザによる入力部１６の操作指示によって、試着対象の衣服番号として、提示中の合成画像に含まれる衣服画像とは異なる衣服番号が指示されたとき、が挙げられる。
【０１１９】
この場合、判別部２８は、第１取得部２２によって取得された被写体画像が、ユーザによる入力部１６の操作指示によって、新たな衣服番号が指示された直後に取得された被写体画像であるか否かを判別する。これによって、判別部２８は、取得された被写体画像が、判別部２８によって予め定めた第１条件を満たすと判別する。
【０１２０】
なお、提示部２０の前に位置して試着を行う被写体が入力部１６を操作指示するために移動中であるときに撮像された被写体画像から第１位置を算出すると、算出精度が低下する可能性がある。このため、判別部２８は、ユーザによる入力部１６の操作指示がなされたと判別してから所定時間後に人物の静止を検出した後に取得された被写体画像を、第１条件を満たす被写体画像と判別することが好ましい。
【０１２１】
また、他の第１条件としては、取得した被写体画像が、第１位置算出対象の被写体画像であると前回判別されてから、予め定めた枚数の被写体画像を取得した後に取得された被写体画像であるとき、が挙げられる。
【０１２２】
この場合、判別部２８は、第１取得部２２によって取得された被写体画像が、前回、第１位置算出対象として判別した被写体画像の取得から、予め定めた枚数取得した後に取得された被写体画像であるか否かを判別する。これによって、判別部２８は、取得された被写体画像が、判別部２８によって第１条件を満たすと判別する。
【０１２３】
なお、この枚数としては、例えば、１５枚（動画像である場合には１５フレーム）等が挙げられるが、この数に限られない。また、この枚数は、第１算出部３４の処理負荷が高くなるほど大きい値を設定してもよいし、被写体の移動量が大きいほど大きい値を設定してもよい。また、これらの設定条件を組み合わせて、第１条件を満たすと判別する取得する被写体画像の間隔を定めてもよい。
【０１２４】
また、判別部２８は、第１取得部２２によって取得された被写体画像が、前回、第１位置算出対象として判別した被写体画像の取得から、予め定めた時間経過後に取得された被写体画像であるか否かを判別してもよい。これによって、判別部２８は、取得された被写体画像が、判別部２８によって第１条件を満たすと判別する。
【０１２５】
この場合についても、判別部２８は、被写体の移動量や第１算出部３４の処理負荷に応じて、該第１条件を満たすと判別する経過時間を定めればよい。
【０１２６】
また、他の第１条件としては、ユーザによる入力部１６の操作指示によって指示された衣服画像の姿勢情報と、被写体の姿勢情報と、が一致したとき、が挙げられる。
【０１２７】
この場合、判別部２８は、第１取得部２２で取得された被写体画像から抽出部３２で作成された骨格情報と、記憶部１８に記憶されている、ユーザの入力部１６の操作指示によって指示された衣服画像の姿勢情報に含まれる骨格情報と、が一致したか否かを判別する。そして、一致する場合に、判別部２８は、取得された被写体画像が、判別部２８によって第１条件を満たすと判別する。
【０１２８】
被写体の姿勢と、記憶部１８に記憶されている重畳対象、すなわち試着対象の衣服の衣服画像の姿勢と、が不一致である場合には、第１算出部３４でテンプレートマッチングを行っても、十分な精度のマッチングを行うことが難しい場合がある。
【０１２９】
そこで、ユーザによる入力部１６の操作指示によって指示された衣服画像の姿勢情報と、被写体の姿勢情報と、が一致する場合に、判別部２８は、取得された被写体画像が、判別部２８によって予め定めた第１条件を満たすと判別することが好ましい。
【０１３０】
また、他の第１条件としては、被写体画像に含まれる被写体の移動量が、予め定めた値以下である場合、が挙げられる。
【０１３１】
この場合、判別部２８は、第１取得部２２で取得された被写体画像としてのデプス画像における、被写体の関節位置の座標値から、被写体画像中における被写体としての人物の位置を判別する。そして、前回取得された被写体画像としてのデプス画像における、被写体としての人物の位置と、今回取得された被写体画像としてのデプス画像における、被写体としての人物の位置と、を比較することで、該人物の移動量を算出する。そして、この人物の移動量が予め定めた値以下であると判別した場合に、判別部２８は、取得された被写体画像が、判別部２８によって予め定めた第１条件を満たすと判別する。
【０１３２】
また、他の第１条件としては、取得された被写体画像に含まれる被写体としての人物が腕を下げた状態である場合、が挙げられる。
【０１３３】
この場合、判別部２８は、第１取得部２２で取得された被写体のデプス画像における、被写体の関節位置の座標値から、被写体の腕部に相当する位置が、被写体の肩部より下側（足側）に伸びる方向に位置しているか否かを判別する。そして、判別部２８は、取得された被写体画像（被写体のデプス画像）に含まれる被写体としての人物が腕を下げた状態である場合に、取得された被写体画像が予め定めた第１条件を満たすと判別する。
【０１３４】
被写体としての人物が腕を上げた姿勢である場合、重畳対象の衣服画像の姿勢情報と、被写体の姿勢情報と、が異なる可能性が高い。このような姿勢の被写体の被写体画像を用いて、第１算出部３４によるテンプレートマッチングを行うと、テンプレートマッチングの精度が低下する場合がある。そこで、判別部２８は、被写体画像に含まれる被写体としての人物が腕を下げた状態であると判別した場合に、取得された被写体画像が予め定めた第１条件を満たすと判別することが好ましい。
【０１３５】
次に、決定部３８について説明する。
【０１３６】
決定部３８は、第１取得部２２で取得された被写体画像が、判別部２８によって第１条件を満たすと判別された場合、第１算出部３４で算出された第１位置を、該被写体画像における衣服画像の重畳位置として決定する。
【０１３７】
また、決定部３８は、第１取得部２２で取得された被写体画像が、判別部２８によって第１条件を満たさないと判別された場合、該被写体画像より前に取得された被写体画像である第１被写体画像に対して算出された第１位置と該第１被写体画像から第２算出部３６で算出された第２位置との差分から、重畳位置を決定する。
【０１３８】
具体的には、決定部３８は、第１取得部２２で取得された被写体画像が、判別部２８によって上記第１条件を満たさないと判別された場合、今回第１取得部２２で取得された被写体画像に基づいて第２算出部３６で算出された第２位置を、上記差分に応じてずらした位置を重畳位置として決定する。
【０１３９】
すなわち、差分は、今回第１取得部２２で取得された被写体画像より前に、第１取得部２２で取得された被写体画像が、第１条件を満たす被写体画像であるときに、該被写体画像（第１被写体画像）から第１算出部３４で算出された第１位置と、該被写体画像（第１被写体画像）から第２算出部３６で算出された第２位置と、の差分である。
【０１４０】
生成部４０は、今回取得された被写体画像における、決定部３８で決定された重畳位置に、衣服画像を重畳した合成画像を生成する。
【０１４１】
詳細には、生成部４０は、第１取得部２２で取得した被写体画像としての、被写体の色画像上の重畳位置に、ユーザによる入力部１６の操作指示によって指示され、調整部３０で調整された重畳対象の衣服画像（色画像）を重畳する。これによって、生成部４０は、合成画像を生成する。
【０１４２】
具体的には、生成部４０は、調整部３０で調整された衣服画像について、画素毎に定義された色値（Ｃｒ，Ｃｇ，Ｃｂ）、及びアルファ値（ａ）を参照する。なお、アルファ値ａは、０以上１以下の値である。また、被写体の色画像についても、画素毎の色値（Ｉｒ，Ｉｇ，Ｉｂ）を参照する。そして、同じ画素位置の画素毎に、下記式（２）を用いて、画素毎の画素値（色値及びアルファ値）を定めることで、合成画像を生成する。
【０１４３】
なお、衣服画像が、被写体の色画像の一部の領域のみを占有している場合、衣服画像の占有領域外の領域では、アルファ値の値は“０”（ａ＝０）として計算する。
【０１４４】
Ｏｘ＝（１−ａ）×Ｉｘ＋ａ×Ｃｘ      ・・・式（２）
【０１４５】
式（２）中、ｘは、ｒ、ｇ、ｂを示す。
【０１４６】
提示制御部４２は、合成画像を提示部２０に提示する制御を行う。
【０１４７】
次に、本実施の形態の画像処理装置１２で実行する画像処理を説明する。
【０１４８】
図１０は、本実施の形態の画像処理装置１２で実行する画像処理の手順を示すフローチャートである。
【０１４９】
画像処理装置１２では、撮像部１４から被写体画像を１枚（同じタイミングで撮像された、被写体のデプス画像及び被写体画像の色画像の各々を１枚）受け付ける毎に、ステップＳ１００〜ステップＳ１３０の処理を実行する。なお、画像処理装置１２が、撮像部１４から複数フレームからなる動画像を受け付ける場合には、画像処理装置１２は、フレーム毎にステップＳ１００〜ステップＳ１３０の処理を実行する。
【０１５０】
まず、第１取得部２２が、被写体画像を取得する（ステップＳ１００）。
【０１５１】
次に、抽出部３２が、抽出処理を実行する（ステップＳ１０２）。具体的には、ステップＳ１０２において、抽出部３２は、ステップＳ１００で取得された被写体のデプス画像から、骨格情報を生成する。また、本実施の形態では、抽出部３２は、被写体の骨格情報の座標系（すなわち、第１撮像部１４Ａの座標系）を、第２撮像部１４Ｂの座標系に変換する。
【０１５２】
次に、判別部２８が、上記ステップＳ１００で取得した被写体画像が、第１条件を満たすか否かを判別する（ステップＳ１０４）。
【０１５３】
ステップＳ１０４で肯定判断すると（ステップＳ１０４：Ｙｅｓ）、ステップＳ１０６へ進む。
【０１５４】
ステップＳ１０６では、調整部３０が、調整処理を実行する（ステップＳ１０６）。ステップＳ１０６において、調整部３０は、重畳対象の衣服画像の輪郭の少なくとも一部と、被写体画像の輪郭の少なくとも一部とが一致するように、衣服画像及び被写体画像の少なくとも一方を拡大または縮小する。また、調整部３０は、拡大または縮小後の衣服画像と、拡大または縮小後の被写体画像と、から、第１算出部３４で用いる特徴領域を抽出する。
【０１５５】
なお、重畳対象の衣服画像は、調整部３０による調整処理中に取得される。ステップＳ１０６の調整処理の手順の詳細は、後述する。
【０１５６】
次に、第１算出部３４が、第１位置算出処理を実行する（ステップＳ１０８）。ステップＳ１０８では、第１算出部３４は、調整部３０で取得された重畳対象の衣服画像における特徴領域の位置と、ステップＳ１００で取得された被写体画像における特徴領域の位置と、が一致するように、被写体画像における衣服画像の第１位置を算出する。なお、ステップＳ１０８の第１位置算出処理の手順の詳細は、後述する。
【０１５７】
次に、第１算出部３４は、算出した第１位置を、上記ステップＳ１００で取得した被写体画像を特定可能な情報に対応づけて記憶部１８に記憶する（ステップ１１０）。特定可能な情報は、例えば、被写体画像の取得日時等を用いる。
【０１５８】
次に、第２算出部３６が、第２位置算出処理を実行する（ステップＳ１１２）。ステップＳ１１２では、第２算出部３６は、調整部３０で取得された重畳対象の衣服画像における特徴点の位置と、被写体画像における特徴点の位置と、が一致するように、被写体画像における衣服画像の第２位置を算出する。第２位置算出処理の詳細は後述する。
【０１５９】
次に、第２算出部３６は、算出した第２位置を、上記ステップＳ１００で取得した被写体画像を特定可能な情報に対応づけて記憶部１８に記憶する（ステップＳ１１４）。この特定可能な情報には、ステップＳ１１０と同じ情報を用いればよい。
【０１６０】
次に、決定部３８が、上記ステップＳ１０８で算出された第１位置と、前記ステップＳ１１２で算出された第２位置と、を記憶部１８から読取り、これらの差分を算出する（ステップＳ１１６）。そそいて、決定部３８は、算出した差分を、上記ステップＳ１１０及びステップＳ１１４で用いた被写体画像を特定可能な情報に対応づけて記憶部１８に記憶する（ステップＳ１１８）。
【０１６１】
なお、決定部３８は、記憶部１８に、既に差分が記憶されている場合には、記憶されている差分を、ステップＳ１１６で新たに算出した差分に上書きしてもよい。このようにして、決定部３８、ステップＳ１１６で算出した差分として、最新の差分のみを記憶部１８に記憶してもよい。
【０１６２】
次に、決定部３８が、重畳位置を決定する（ステップＳ１２０）。ステップＳ１２０では、決定部３８は、上記ステップＳ１０８で算出された第１位置を、ステップＳ１００で取得した被写体画像における、上記ステップＳ１０６の調整処理によって取得した重畳対象の衣服画像の重畳位置として決定する。そして、後述するステップＳ１２６へ進む。
【０１６３】
ステップＳ１０４〜ステップＳ１２０の処理によって、画像処理装置１２では、ステップＳ１００で取得された被写体画像が、判別部２８によって第１条件を満たすと判別された場合、第１算出部３４で算出された第１位置を、該被写体画像における衣服画像の重畳位置として決定する。
【０１６４】
一方、上記ステップＳ１０４で否定判断されると（ステップＳ１０４：Ｎｏ）、ステップＳ１２２へ進む。ステップＳ１２２では、上記ステップＳ１１２と同様にして、第２算出部３６が、第２位置算出処理を実行する（ステップＳ１２２）（詳細後述）。
【０１６５】
次に、決定部３８が、重畳位置を決定する（ステップＳ１２４）。
【０１６６】
具体的には、決定部３８は、第１算出部３４で、今回取得された被写体画像より前に取得された被写体画像（第１被写体画像）から算出された第１位置と、該第１位置の算出に用いた被写体画像（第１被写体画像）から第２算出部３６で算出された第２位置と、の差分を、記憶部１８から読み取る。決定部３８は、記憶部１８に記憶されている差分の内、最新の差分（すなわち、前回算出された差分）を読取る。そして、決定部３８は、上記ステップＳ１２２で今回取得した被写体画像から算出された第２位置を、読取った該差分に応じてずらした位置を、重畳位置として決定する。
【０１６７】
なお、上記ステップＳ１２２で今回取得した被写体画像から算出された該第２位置をずらす方向は、前回第２算出部３６で算出された第２位置を始点、前回第１算出部３４で算出された第１位置を終点、とする方向ベクトルに対して平行な方向である。そして、ステップＳ１２６へ進む。
【０１６８】
次に、生成部４０が、合成画像を生成する（ステップＳ１２６）。ステップＳ１２６では、生成部４０は、上記ステップＳ１００で取得した被写体の色画像上の重畳位置に、上記ステップＳ１０６の調整処理によって取得され且つ被写体画像に応じて拡大または縮小された重畳対象の衣服画像を重畳することで、合成画像を生成する。
【０１６９】
次に、提示制御部４２が、上記ステップＳ１２８で生成された合成画像を、提示部２０へ提示する制御を行う（ステップＳ１２８）。
【０１７０】
次に、画像処理装置１２では、画像処理を終了するか否かを判別する（ステップＳ１３０）。画像処理装置１２は、例えば、画像処理装置１２の図示を省略する終了指示ボタンがユーザの操作指示によって操作されることで、終了指示を示す信号を受け付けたか否かを判別することによって行う。
【０１７１】
ステップＳ１３０で否定判断すると（ステップＳ１３０：Ｎｏ）、上記ステップＳ１００へ戻る。ステップＳ１３０で肯定判断すると（ステップＳ１３０：Ｙｅｓ）、本ルーチンを終了する。
【０１７２】
次に、上記ステップＳ１０６の調整処理について説明する。
【０１７３】
図１１は、調整部３０が実行する調整処理の手順を示すフローチャートである。
【０１７４】
まず、調整部３０は、ステップＳ１０２（図１０参照）において抽出部３２で作成された被写体の骨格情報から、被写体の向きを算出する（ステップＳ２００）。
【０１７５】
次に、調整部３０は、ユーザによって選択された衣服番号に対応する衣服画像の内、上記ステップＳ２００で算出された被写体の向き（被写体の姿勢情報）に対応する姿勢情報の衣服画像を、記憶部１８の第１テーブルから読み取る（ステップＳ２０２）。
【０１７６】
次に、調整部３０は、第３取得部２２Ａで取得した被写体のデプス画像を調整する（ステップＳ２０４）。具体的には、調整部３０は、被写体のデプス画像の各画素の画素位置の座標系（第１撮像部１４Ａの座標系）を、第２撮像部１４Ｂの座標系に変換する。そして、調整部３０は、座標変換後の被写体のデプス画像を構成する各画素位置の画素が、同じタイミングで取得された被写体の色画像を構成する各画素の画素位置に対応する位置となるように射影することで、被写体のデプス画像の解像度を、被写体の色画像と同じ解像度に調整する。
【０１７７】
次に、調整部３０は、上記ステップＳ２０２で読取った衣服画像における特徴領域の大きさ、及び被写体画像における特徴領域の大きさ、の各々を算出する（ステップＳ２０６）。上述ように、本実施の形態では、特徴領域として、肩領域を用いる。このため、本実施の形態では、調整部３０は、上記ステップＳ２０２で読取った衣服画像における肩幅と、上記ステップＳ１００（図１０参照）で取得した被写体画像における肩幅と、の各々を算出する。
【０１７８】
次に、調整部３０は、上記ステップＳ２０６で算出された特徴領域の大きさ、すなわち、衣服画像の肩幅と、被写体画像の肩幅と、から、衣服画像のスケーリング値（拡大縮小率）を決定する（ステップＳ２０８）。
【０１７９】
次に、調整部３０は、上記ステップＳ２０２で読取った衣服画像を、ステップＳ２０８で決定されたスケーリング値によって特定される拡大縮小率で、スケーリング（拡大または縮小）する（ステップＳ２１０）。同様に、調整部３０は、重畳対象の衣服画像の姿勢情報に含まれる骨格情報についても、同じスケーリング値で特定される拡大縮小率で、拡大または縮小する。
【０１８０】
次に、調整部３０は、上記ステップＳ２１０で拡大または縮小された後の衣服画像と、上記ステップＳ１００（図１０参照）で取得した被写体画像と、から、特徴領域を抽出する。
【０１８１】
まず、調整部３０は、上記ステップＳ２１０で拡大または縮小された後の衣服画像と、上記ステップＳ１００（図１０参照）で取得した被写体画像と、の各々の輪郭を抽出する（ステップＳ２１２）。次に、調整部３０は、衣服画像の輪郭と、被写体画像の輪郭と、の各々における肩領域を抽出する（ステップＳ２１４）。そして、本ルーチンを終了する。
【０１８２】
なお、上記ステップＳ２０８では、衣服画像のスケーリング値（拡大縮小率）を決定し、衣服画像を該スケーリング値によって特定される拡大縮小率にスケーリングする場合を説明した。しかし、衣服画像の輪郭及び被写体画像の輪郭の少なくとも一部が一致するように、衣服画像及び被写体画像の少なくとも一方の拡大縮小率を求めればよい。そして、決定した衣服画像の拡大縮小率の逆数で、該被写体画像をスケーリングしてもよい。
【０１８３】
ステップＳ２００〜ステップＳ２１４の処理を実行することによって、調整部３０は、重畳対象の衣服画像の輪郭の少なくとも一部と、被写体画像の輪郭の少なくとも一部とが一致するように、衣服画像及び被写体画像の少なくとも一方を拡大または縮小する。また、調整部３０は、拡大または縮小後の衣服画像と、拡大または縮小後の被写体画像と、から、特徴領域として、肩領域を抽出する。
【０１８４】
次に、図１０のステップＳ１０８で説明した、第１算出部３４が実行する第１位置算出処理の手順を説明する。
【０１８５】
図１２は、第１算出部３４が実行する第１位置算出処理の手順を示すフローチャートである。
【０１８６】
第１算出部３４は、調整部３０で抽出された、特徴領域としてとしての、被写体画像の肩領域と、衣服画像の肩領域と、を用いて、公知のテンプレートマッチングを実行する（ステップＳ４００）。ステップＳ４００では、第１算出部３４は、テンプレートマッチングによって、調整部３０で調整された被写体のデプス画像を探索し、該デプス画像上における、衣服画像における特定領域（肩領域）と一致する位置を、第１位置として算出する。
【０１８７】
そして、第１算出部３４は、算出した第１位置を、判別部２８へ出力する（ステップＳ４０２）。そして、本ルーチンを終了する。
【０１８８】
次に、図１０のステップＳ１１２及びステップＳ１２２で説明した、第２算出部３６が実行する第２位置算出処理の手順を説明する。
【０１８９】
図１３は、第２算出部３６が実行する第２位置算出処理の手順を示すフローチャートである。
【０１９０】
まず、第２算出部３６は、衣服画像の特徴点として、衣服画像の両肩間の中心位置を算出する（ステップＳ３００）。
【０１９１】
次に、第２算出部３６は、被写体画像の両肩間の中心位置を算出する（ステップＳ３０２）。具体的には、第２算出部３６は、上記ステップ１０６（図１０参照）の処理によって抽出部３２で作成された被写体の骨格情報から、被写体の両肩間の中心位置を算出する。
【０１９２】
次に、第２算出部３６は、ステップＳ３００で算出された中心位置と、ステップＳ３０２で算出された中心位置と、が一致するように、第２位置を算出する（ステップＳ３０４）。本実施の形態では、第２算出部３６は、ステップＳ３０２で算出された被写体画像における両肩間の中心位置を、第２位置として算出する。
【０１９３】
そして、本ルーチンを終了する。
【０１９４】
図１４は、本実施の形態の画像処理装置１２における合成画像の生成を模式的に示す説明図である。
【０１９５】
例えば、重畳対象の衣服画像が衣服画像６１Ａ（図１４（Ａ）参照）であったとする。また、被写体のデプス画像が、デプス画像７１Ｃ（図１４（Ｄ）参照）であったとする。
【０１９６】
この場合、調整部３０による調整処理によって、衣服画像６１Ａの輪郭６１Ｂが抽出される（図１４（Ｂ）参照）。さらに、調整部３０による調整処理によって、特徴領域として、肩領域６１Ｄが抽出される（図１４（Ｃ）参照）。
【０１９７】
同様に、調整部３０による調整処理によって、被写体のデプス画像７１Ｃから輪郭７１Ｂが抽出される（図１４（Ｅ）参照）。さらに、調整部３０による調整処理によって、特徴領域として、肩領域７１Ｄが抽出される（図１４（Ｆ）参照）。
【０１９８】
判別部２８によって被写体画像が第１条件を満たすと判別された場合、第１算出部３４は、衣服画像６１Ａの肩領域６１Ｄと、被写体のデプス画像７１Ｃの肩領域７１Ｄと、を用いたテンプレートマッチング（図１４（Ｇ））を行うことで、第１位置（図１４では図示省略）を算出する。決定部３８は、判別部２８によって被写体画像が第１条件を満たすと判別された場合、第１位置を重畳位置として決定する。
【０１９９】
そして、生成部４０は、第１取得部２２で取得した被写体の色画像上の重畳位置に、上記ステップＳ１０６の調整処理によって取得され且つ被写体画像に応じて拡大または縮小された重畳対象の衣服画像を、重畳することで、合成画像Ｗを生成する（図１４（Ｈ）算出）。
【０２００】
以上説明したように、本実施の形態の画像処理装置１２では、第１取得部２２で取得された被写体画像が、判別部２８によって第１条件を満たすと判別された場合、第１算出部３４で算出された第１位置を、該被写体画像における衣服画像の重畳位置として決定する。そして、生成部４０は、第１取得部２２で取得した被写体の色画像上の重畳位置に、上記ステップＳ１０６の調整処理によって取得され且つ被写体画像に応じて拡大または縮小された重畳対象の衣服画像を、重畳することで、合成画像を生成する。
【０２０１】
一方、画像処理装置１２では、第１取得部２２で取得された被写体画像が、判別部２８によって第１条件を満たさないと判別された場合、該被写体画像より前に取得された被写体画像である第１被写体画像に対して算出された第１位置と該第１被写体画像から第２算出部３６で算出された第２位置との差分から、重畳位置を決定する。
【０２０２】
なお、第１条件は、第１算出部３４で第１位置の算出処理を実行するか否かを判断するための条件である。そして、生成部４０は、第１取得部２２で取得した被写体画像上の重畳位置に、上記ステップＳ１０６の調整処理によって取得され且つ被写体画像に応じて拡大または縮小された重畳対象の衣服画像を重畳することで、合成画像を生成する。
【０２０３】
このように、本実施の形態の画像処理装置１２によれば、取得した被写体画像の内、第１条件を満たすと判別された被写体画像についてのみ、第１算出部３４で第１位置の算出処理を実行する。そして、決定部３８が、第１位置を重畳位置として決定する。一方、第１条件を満たさないと判別された被写体画像については、第１算出部３４で第１位置の算出処理を行わず、第１算出部３４で前回算出された第１位置と該第１位置の算出に用いた被写体画像（第１被写体画像）から第２算出部３６で算出された第２位置との差分から、重畳位置を決定する。
【０２０４】
従って、本実施の形態の画像処理装置１２は、精度向上を図りつつ、且つ低負荷で合成画像を提供することができる。
【０２０５】
なお、本実施の形態の画像処理装置１２では、調整部３０は、第１取得部２２で取得された被写体画像が、判別部２８によって第１条件を満たすと判別された場合に、調整処理を行う場合を説明した。しかし、調整部３０は、第１取得部２２で取得された被写体画像が、第１条件を満たすか否かに拘らず、上述した調整処理を実行してもよい。しかし、調整部３０による上記調整処理は、第１算出部３４より処理負荷が低いものの、第２算出部３６より処理負荷が高い。このため、調整部３０による調整処理は、上記実施の形態で示したように、第１取得部２２で取得された被写体画像が、判別部２８によって第１条件を満たすと判別された場合に実行することが好ましい。
【０２０６】
なお、本実施の形態では、調整部３０は、抽出した特徴領域について、被写体の姿勢情報に応じた重み付処理を行ってもよい。この場合、第１算出部３４は、重み付処理された特徴領域を用いて、テンプレートマッチングを行う。
【０２０７】
具体的には、調整部３０は、被写体のデプス画像から抽出した輪郭から、特徴領域を抽出するときに、被写体画像の撮像時により撮像部１４に近い位置に位置していた領域ほど、輝度値の高い輪郭となるように、肩領域の輪郭を抽出する。
【０２０８】
例えば、被写体が撮像部１４に対して左に傾いた方向を向いている場合、被写体の左肩は右肩に比べて撮像部１４に近い状態で撮像される。このため、被写体画像の姿勢情報が、撮像部１４に対して正面を向いた姿勢から左方向に傾いた姿勢であることを示す場合には、調整部３０は、被写体のデプス画像から抽出した輪郭における、左肩に相当する領域の輪郭を右肩に相当する領域の輪郭に比べて輝度値を高くするように、重み付処理を行う。
【０２０９】
なお、調整部３０は、重み付処理を行う対象の画素位置の画素の画素値に、予め定めた定数を乗算することで、重み付処理を行う。なお、調整部３０は、デプス画像から、より撮像部１４に近い画素位置の画素を求め、撮像部１４に近い画素位置の画素ほど高い定数を用いて、重み付処理を行ってもよい。
【０２１０】
同様に、調整部３０は、衣服画像についても、衣服画像から抽出した輪郭から特徴領域を抽出するときに、重畳対象の衣服画像における撮像時に撮像部１４により近い位置に位置していた領域ほど、輝度値の高い輪郭となるように、肩領域の輪郭を抽出する。
【０２１１】
このような重み付けを行うことで、第１算出部３４によるテンプレートマッチング処理においては、より撮像部１４側により近い領域の精度が高くなるように、第１位置を算出することができる。このため、さらなる精度向上が図れる。
【０２１２】
図１５は、調整部３０が重み付処理を行う場合の、合成画像の生成を模式的に示す説明図である。
【０２１３】
例えば、重畳対象の衣服画像が衣服画像６１Ａ２（図１５（Ａ）参照）であったとする。また、被写体のデプス画像が、デプス画像７１Ｃ２（図１５（Ｄ）参照）であったとする。このように、被写体が、撮像部１４（図１５では図示省略）に対して左肩が右肩に比べて撮像部１４に近くなるように傾いた姿勢で撮像されたとする。この場合、上述したように、画像処理装置１２では、この傾いた姿勢に対応する衣服画像が記憶部１８から読み取られる。
【０２１４】
この場合、調整部３０による調整処理によって、衣服画像６１Ａ２の輪郭６１Ｂ２が抽出される（図１５（Ｂ）参照）。さらに、調整部３０による調整処理によって、特徴領域として、肩領域６１Ｄ２が抽出される（図１５（Ｃ）参照）。このとき、調整部３０は、左肩に相当する領域ＳＡに重み付処理を行った上で、肩領域６１Ｄ２を抽出する。このため、肩領域６１Ｄ２は、図１５（Ｃ）に示すように、人体の左肩に相当する領域ＳＡの輝度値が高くなるように重み付処理された輪郭となる。
【０２１５】
同様に、調整部３０による調整処理によって、被写体のデプス画像７１Ｃ２から輪郭７１Ｂ２が抽出される（図１５（Ｅ）参照）。さらに、調整部３０による調整処理によって、特徴領域として、肩領域７１Ｄ２が抽出される（図１５（Ｃ）参照）。このとき、調整部３０は、左肩に相当する領域ＳＢに重み付処理を行った上で、肩領域７１Ｄ２を抽出する。このため、肩領域７１Ｄ２は、図１５（Ｆ）に示すように、人体の左肩に相当する領域ＳＢの輝度値が高くなるように補正された輪郭となる。
【０２１６】
判別部２８によって被写体画像が第１条件を満たすと判別された場合、第１算出部３４は、衣服画像６１Ａ２の肩領域６１Ｄ２と、被写体のデプス画像７１Ｃ２の肩領域７１Ｄ２と、を用いたテンプレートマッチング（図１５（Ｇ））を行うことで、第１位置（図１５では図示省略）を算出する。
【０２１７】
このとき、衣服画像６１Ａ２の肩領域６１Ｄ２と、被写体のデプス画像７１Ｃ２の肩領域７１Ｄ２と、は、より撮像部１４側に近い領域である左肩に相当する領域の輝度値が高くなるように重み付処理された輪郭となっている。このため、第１算出部３４では、この左肩に相当する領域の探索精度が高くなるように、テンプレートマッチングを行うことができる。
【０２１８】
決定部３８は、判別部２８によって被写体画像が第１条件を満たすと判別された場合、第１位置を重畳位置として決定する。
【０２１９】
そして、生成部４０は、第１取得部２２で取得した被写体の色画像上の重畳位置に、上記ステップＳ１０６の調整処理によって取得され且つ被写体画像に応じて拡大または縮小された重畳対象の衣服画像を、重畳することで、合成画像ＷＡを生成する（図１５（Ｈ）参照）。
【０２２０】
このように、調整部３０が重み付処理を行うことによって、さらなる精度向上が図れる。
【０２２１】
なお、本実施の形態では、特徴領域として、肩領域を用いる場合を説明した。これは、本実施の形態では、重畳対象の衣服画像として、人体の上半身側に試着する衣服の衣服画像を一例として挙げたためである。
【０２２２】
しかし、上述したように、特徴領域は、衣服を試着する被写体の形状を推定可能な領域であればよく、肩領域に限られない。
【０２２３】
また、特徴領域は、画像処理装置１２で取得した被写体画像の被写体の姿勢に応じて設定してもよい。
【０２２４】
例えば、撮像部１４に対して真横を向いた姿勢の被写体の被写体画像を取得した場合、被写体の両肩部分の輪郭を抽出することは難しく、肩領域を特徴領域として用いることが難しい場合がある。
【０２２５】
そこで、画像処理装置１２では、被写体画像の被写体の姿勢情報（被写体の向きを含む）と、姿勢情報に対応する特徴領域と、該特徴領域に応じた特徴点と、を予め記憶部１８に記憶してもよい。この場合、姿勢情報に対応する特徴領域には、対応する姿勢情報の姿勢の被写体から該被写体の形状を推定可能な領域を予め定めればよい。例えば、撮像部１４に対して横向きであることを示す姿勢情報には、腰領域または首領域を、特徴領域として予め定める。また、上述したように、特徴点は、対応する特徴領域に応じて予め定めればよい。
【０２２６】
そして、調整部３０では、第１取得部２２で取得された被写体画像から被写体の向きを算出した後、該被写体の向きの姿勢情報に対応する特徴領域及び特徴点を記憶部１８から読取る。そして、調整部３０は、読取った特徴領域を用いて、上記調整処理を実行する。また、調整部３０は、読取った特徴領域を第１算出部３４へ出力し、読取った特徴点を第２算出部３６へ出力する。第１算出部３４及び第２算出部３６では、調整部３０から受け付けた特徴領域及び特徴点を各々用いて、上記算出処理を実行すればよい。
【０２２７】
また、本実施の形態では、第１撮像部１４Ａで取得した被写体のデプス画像を、第２撮像部１４Ｂの座標系に変換した後に、第２撮像部１４Ｂで取得した被写体の色画像上の重畳位置に、衣服画像を重畳した合成画像を生成する場合を説明した。
【０２２８】
しかし、画像処理装置１２では、衣服画像として、第１撮像部１４Ａにより撮像された衣服のデプス画像と、第２撮像部１４Ｂにより撮像された衣服の色画像と、を用いて画像処理を行ってもよい。この場合、衣服のデプス画像と、被写体のデプス画像と、の位置合わせを第１撮像部１４Ａの座標系上で行った後に、衣服画像の重畳位置を第１撮像部１４Ａの座標系から第２撮像部１４Ｂの座標系に変換する。
【０２２９】
この処理において、衣服の撮像時の第１撮像部１４Ａと、被写体の撮像時の第１撮像部１４Ａと、の位置が異なる場合であっても、公知の手法により座標変換を行うことが可能である。
【０２３０】
（実施の形態２）
図１６は、画像処理システム１０Ａを示す模式図である。
【０２３１】
画像処理システム１０Ａは、記憶装置７２と、処理装置１１と、が通信回線７４を介して接続されている。
【０２３２】
記憶装置７２は、実施の形態１における記憶部１８を備えた装置であり、公知のパーソナルコンピュータ等である。処理装置１１は、実施の形態１における、画像処理装置１２、撮像部１４、入力部１６、及び提示部２０を備えた装置である。なお、実施の形態１と同じ機能部には同じ符号を付与して詳細な説明を省略する。通信回線７４は、インターネット等の通信回線であり、有線通信回線や、無線通信回線がある。
【０２３３】
図１６に示すように、記憶部１８を、通信回線７４を介して処理装置１１（画像処理装置１２）に接続された記憶装置７２に設けた構成とすることで、複数の処理装置（画像処理装置１２）から同じ記憶部１８にアクセスすることができ、記憶部１８に記憶されているデータの一元管理が可能となる。
【０２３４】
なお、処理装置１１は、任意の箇所に設置可能である。例えば、処理装置１１を、ユーザが合成画像を視認する場所、例えば、店舗等に設置してもよい。また、処理装置１１の各機能を、公知の携帯端末に搭載してもよい。
【０２３５】
（実施の形態２）
次に、本実施の形態１及び実施の形態２の画像処理装置１２のハードウェア構成について説明する。図１７は、本実施の形態の画像処理装置１２のハードウェア構成例を示すブロック図である。
【０２３６】
実施の形態１及び実施の形態２の画像処理装置１２は、提示部８０、通信Ｉ／Ｆ部８２、撮像部８４、入力部９４、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）８６、ＲＯＭ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）８８、ＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）９０、及びＨＤＤ９２等がバス９６により相互に接続されており、通常のコンピュータを利用したハードウェア構成となっている。
【０２３７】
ＣＰＵ８６は、画像処理装置１２の全体の処理を制御する演算装置である。ＲＡＭ９０は、ＣＰＵ８６による各種処理に必要なデータを記憶する。ＲＯＭ８８は、ＣＰＵ８６による各種処理を実現するプログラム等を記憶する。ＨＤＤ９２は、上述した記憶部１８に格納されるデータを記憶する。通信Ｉ／Ｆ部８２は、外部装置や外部端末に通信回線等を介して接続し、接続した外部装置や外部端末との間でデータを送受信するためのインタフェースである。提示部８０は、上述した提示部２０に相当する。撮像部８４は、上述した撮像部１４に相当する。入力部９４は、上述した入力部１６に相当する。
【０２３８】
本実施の形態１及び実施の形態２の画像処理装置１２で実行される上記各種処理を実行するためのプログラムは、ＲＯＭ８８等に予め組み込んで提供される。
【０２３９】
なお、本実施の形態１及び実施の形態２で実行されるプログラムは、これらの装置にインストール可能な形式又は実行可能な形式のファイルでＣＤ−ＲＯＭ、フレキシブルディスク（ＦＤ）、ＣＤ−Ｒ、ＤＶＤ（Ｄｉｇｉｔａｌ  Ｖｅｒｓａｔｉｌｅ  Ｄｉｓｋ）等のコンピュータで読み取り可能な記録媒体に記録されて提供するように構成してもよい。
【０２４０】
また、本実施の形態１及び実施の形態２で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、本実施の形態１及び実施の形態２の画像処理装置１２における上記各処理を実行するためのプログラムを、インターネット等のネットワーク経由で提供または配布するように構成してもよい。
【０２４１】
本実施の形態１及び実施の形態２で実行される上記各種処理を実行するためのプログラムは、上述した各部が主記憶装置上に生成されるようになっている。
【０２４２】
なお、上記ＨＤＤ９２に格納されている各種情報、すなわち記憶部１８に格納されている各種情報は、外部装置（例えばサーバ）に格納してもよい。この場合には、該外部装置とＣＰＵ８６と、を、ネットワーク等を介して接続した構成とすればよい。
【０２４３】
なお、上記には、本発明のいくつかの実施の形態を説明したが、これらの実施の形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施の形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施の形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【０２４４】
１２  画像処理装置
１４  撮像部
１６  入力部
１８  記憶部
２０  提示部
２２  第１取得部
２６  第２取得部
２８  判別部
３０  調整部
３２  抽出部
３４  第１算出部
３６  第２算出部
３８  決定部
４０  生成部
【図１】
0005613741.tif 000002
【図２】
0005613741.tif 000003
【図３】
0005613741.tif 000004
【図４】
0005613741.tif 000005
【図５】
0005613741.tif 000006
【図６】
0005613741.tif 000007
【図７】
0005613741.tif 000008
【図８】
0005613741.tif 000009
【図９】
0005613741.tif 000010
【図１０】
0005613741.tif 000011
【図１１】
0005613741.tif 000012
【図１２】
0005613741.tif 000013
【図１３】
0005613741.tif 000014
【図１４】
0005613741.tif 000015
【図１５】
0005613741.tif 000016
【図１６】
0005613741.tif 000017
【図１７】
0005613741.tif 000018