(57)【特許請求の範囲】
【請求項１】
撮像された被写体の動作を骨格位置の時系列変化に基づいて検出する動作検出部と、
前記動作検出部により検出した動作における骨格位置の時系列変化に応じて、前記被写体に重畳して表示される仮想的な服飾品の着脱を制御する表示制御部と、
を備える、情報処理装置。
【請求項２】
前記表示制御部は、前記動作検出部により検出された動作の経過に応じて前記服飾品の着脱経過を表示する、請求項１に記載の情報処理装置。
【請求項３】
前記動作検出部は、着衣動作を検出し、
前記表示制御部は、前記着衣動作に応じて前記被写体に仮想衣服を重畳表示する、請求項１または２に記載の情報処理装置。
【請求項４】
前記動作検出部は、脱衣動作を検出し、
前記表示制御部は、前記脱衣動作に応じて前記被写体に重畳表示された仮想衣服を非表示にする、請求項１から３のいずれか１項に記載の情報処理装置。
【請求項５】
前記動作検出部は、前記被写体が略水平方向に回転する動作を検出し、
前記表示制御部は、前記回転する動作に応じて前記被写体に重畳表示する仮想衣服を変更する、請求項１から４のいずれか１項に記載の情報処理装置。
【請求項６】
前記動作検出部は、前記被写体が足を振る動作を検出し、
前記表示制御部は、前記足を振る動作に応じて前記被写体の足に重畳表示する仮想靴の履き替えを制御する、請求項１から５のいずれか１項に記載の情報処理装置。
【請求項７】
撮像された被写体の動作を骨格位置の時系列変化に基づいて検出するステップと、
前記動作を検出するステップにより検出した動作における骨格位置の時系列変化に応じて、前記被写体に重畳して表示される仮想的な服飾品の着脱を制御するステップと、
を含む、表示制御方法。
【請求項８】
撮像された被写体の動作を骨格位置の時系列変化に基づいて検出する処理と、
前記動作を検出する処理により検出した動作における骨格位置の時系列変化に応じて、前記被写体に重畳して表示される仮想的な服飾品の着脱を制御する処理と、
をコンピュータに実行させる、プログラム。
【請求項９】
前記着脱を制御する処理は、前記動作を検出する処理により検出された動作の経過に応じて前記服飾品の着脱経過を表示する、請求項８に記載のプログラム。
【請求項１０】
前記動作を検出する処理は、着衣動作を検出し、
前記制御する処理は、前記着衣動作に応じて前記被写体に仮想衣服を重畳表示する、請求項８または９に記載のプログラム。
【請求項１１】
前記動作を検出する処理は、脱衣動作を検出し、
前記制御する処理は、前記脱衣動作に応じて前記被写体に重畳表示された仮想衣服を非表示にする、請求項８から１０のいずれか１項に記載のプログラム。
【請求項１２】
前記動作を検出する処理は、前記被写体が略水平方向に回転する動作を検出し、
前記制御する処理は、前記回転する動作に応じて前記被写体に重畳表示する仮想衣服を変更する、請求項８から１１のいずれか１項に記載のプログラム。
【請求項１３】
前記動作を検出する処理は、前記被写体が足を振る動作を検出し、
前記制御する処理は、前記足を振る動作に応じて前記被写体の足に重畳表示する仮想靴の履き替えを制御する、請求項８から１２のいずれか１項に記載のプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、情報処理装置、表示制御方法、およびプログラムに関する。
【背景技術】
【０００２】
仮想的な試着システムとして、ユーザを撮像した撮像画像に衣服の画像を合成する試着画像生成技術が様々提案されている。
【０００３】
例えば、特許文献１では、ユーザの身体画像に衣服画像を合成する処理が開示されている。具体的には、特許文献１に記載の画像処理サーバは、ユーザの身体画像に添付されている身体プロファイルデータ（身長、肩幅等）および画像における身体の向きなどの情報に基づき、衣服画像のサイズ変更および向きの調整を行い、身体画像に合成する。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００６−３０４３３１号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
特許文献１に記載されるような試着画像生成技術では、合成する衣服画像がユーザにより任意に選択され、自動的に合成処理が行われる。具体的には、例えば衣服に添付されたＩＤを携帯端末で読み取ったり、ディスプレイに表示された衣服画像をクリックしたりして選択すると、自動的に試着画像が生成される。
【０００６】
しかし、実際ユーザが衣服を試着する場合は着替えるという行為があることに対し、仮想的な試着システムにおいて何らのアクションもなく試着画像の生成が行われるので、リアリティに欠けていた。また、上記特許文献１では、ユーザのアクションに応じて試着画像の生成が行われることについては考慮されていなかった。
【０００７】
そこで、本開示では、被写体の動作に応じて着脱を制御することが可能な、新規かつ改良された情報処理装置、表示制御方法およびプログラムを提案する。
【課題を解決するための手段】
【０００８】
本開示によれば、撮像された被写体の動作を検出する動作検出部と、前記動作検出部により検出した動作に応じて、前記被写体に重畳して表示される仮想的な服飾品の着脱を制御する表示制御部と、を備える情報処理装置を提案する。
【０００９】
本開示によれば、撮像された被写体の動作を検出するステップと、前記動作を検出するステップにより検出した動作に応じて、前記被写体に重畳して表示される仮想的な服飾品の着脱を制御するステップと、を含む表示制御方法を提案する。
【００１０】
本開示によれば、撮像された被写体の動作を検出する処理と、前記動作を検出する処理により検出した動作に応じて、前記被写体に重畳して表示される仮想的な服飾品の着脱を制御する処理と、をコンピュータに実行させるプログラムを提案する。
【発明の効果】
【００１１】
以上説明したように本開示によれば、被写体の動作に応じて着脱を制御することが可能となる。
【図面の簡単な説明】
【００１２】
【図１】本開示の一実施形態によるＡＲ試着システムの概要を説明するための図である。
【図２】通常の仮想的な試着システムにおける着衣（合成処理）タイミングを説明するための図である。
【図３】本開示の一実施形態による情報処理装置の構成を示すブロック図である。
【図４】実空間におけるカメラと被写体の位置関係、および被写体を撮像した撮像画像を説明するための図である。
【図５】本開示の一実施形態による骨格情報を説明するための図である。
【図６】仮想空間における仮想カメラと仮想衣服の位置関係、および仮想衣服を投影した仮想的な衣服画像を説明するための図である。
【図７】本開示の一実施形態によるＡＲ試着画像表示における基本的な表示制御処理を示すフローチャートである。
【図８】本開示の一実施形態によるジェスチャーに応じた着脱の制御処理を示すフローチャートである。
【図９】本開示の一実施形態による有効なジェスチャーに応じた着衣制御例を説明するための図である。
【図１０】本開示の一実施形態による有効なジェスチャーに応じた脱衣制御例を説明するための図である。
【図１１】本開示の一実施形態による有効なジェスチャーに応じた着替え制御例を説明するための図である。
【図１２】本開示の一実施形態による脱衣動作の途中経過の表示について説明するための図である。
【発明を実施するための形態】
【００１３】
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【００１４】
また、説明は以下の順序で行うものとする。
１．本開示の一実施形態によるＡＲ試着システムの概要
２．情報処理装置の構成
３．表示制御
３−１．基本的な表示制御
３−２．ジェスチャーに応じた着脱制御
４．まとめ
【００１５】
＜１．本開示の一実施形態によるＡＲ試着システムの概要＞
近年、実世界に付加的な情報を重畳してユーザに呈示する拡張現実（ＡＲ：Ａｕｇｍｅｎｔｅｄ  Ｒｅａｌｉｔｙ）と呼ばれる技術が注目されている。ＡＲ技術においてユーザに呈示される情報は、テキスト、アイコン又はアニメーションなどの様々な形態の仮想的なオブジェクトを用いて可視化され得る。ＡＲ技術の主要な適用分野の１つは、実世界でのユーザ活動の支援である。以下では、このＡＲ技術を試着システムに適用する。
【００１６】
ＡＲ技術を利用した試着システムは、ユーザの動作に合わせて仮想的な衣服画像を重畳表示することで、リアルタイムに仮想試着を体験することができる。また、本開示の一実施形態によるＡＲ試着システムは、ユーザの動作に応じて仮想衣服の着脱を制御し、直感的な仮想衣服の着衣または脱衣等を提供することができる。なお、本明細書において、着脱とは、着る・身につける（put on）、脱ぐ・外す（take off）、または着替え（脱ぐ・着る；change）を含む。
【００１７】
このような本開示の一実施形態によるＡＲ試着システムの概要を、図１を参照しながら説明する。図１に示すように、本開示の一実施形態によるＡＲ試着システム１は、情報処理装置１０、カメラ１５、センサ１７、および表示装置１９を有する。なお、ＡＲ試着システム１が設置される場所は特に限定されない。例えば、ＡＲ試着システム１は、ユーザの自宅内に設置されてもよいし、店頭に設置されてもよい。
【００１８】
また、図１に示した例では、ＡＲ試着システム１を構成する複数の装置（情報処理装置１０、カメラ１５、センサ１７および表示装置１９）が別体に構成されているが、本開示によるＡＲ試着システム１の構成はこれに限定されない。例えば、ＡＲ試着システム１を構成する上記複数の装置のいずれかの組み合わせが一体化されていてもよい。また、例えば、ＡＲ試着システム１を構成する複数の装置は、スマートフォン、ＰＤＡ（Ｐｅｒｓｏｎａｌ  Ｄｉｇｉｔａｌ  Ａｓｓｉｓｔａｎｔｓ）、携帯電話、携帯用音楽再生装置、携帯用映像処理装置または携帯用ゲーム機器に内蔵されていてもよい。
【００１９】
カメラ１５（撮像装置）は、実空間に存在する物体を撮像する。実空間に存在する物体は、特に限定されないが、例えば、人物や動物などの生き物であってもよく、車庫やテレビ台などといった生き物以外であってもよい。図１に示した例では、実空間に存在する物体として被写体Ａ（例えば、人物）がカメラ１５により撮像される。カメラ１５により撮像された画像（撮像画像とも称す）は表示装置１９に表示される。表示装置１９に表示される撮像画像は、ＲＧＢ画像であってもよい。また、カメラ１５は、撮像画像を情報処理装置１０に送る。
【００２０】
センサ１７は、実空間からパラメータを検出する機能を有し、検出データを情報処理装置１０に送る。例えば、センサ１７が赤外線センサにより構成されている場合、センサ部１７は、実空間から赤外線を検出し、赤外線量に応じた電気信号を検出データとして情報処理装置１０に供給することができる。情報処理装置１０は、例えば、検出データに基づいて実空間に存在する物体を認識することができる。センサ１７の種類は、赤外線センサに限定されない。なお、図１に示した例では、検出データがセンサ１７から情報処理装置１０に供給されることとしているが、情報処理装置１０に供給される検出データは、カメラ１５により撮像された画像であってもよい。
【００２１】
情報処理装置１０は、実空間に存在する物体の認識結果に応じて、撮像画像に対して仮想オブジェクトを合成したり撮像画像を変形したりすることにより、撮像画像を処理することができる。表示装置１９は、情報処理装置１０により処理された画像を表示することも可能である。
【００２２】
例えば、図１に示すように、情報処理装置１０は、実空間の被写体Ａを認識し、衣服画像を合成した試着画像を表示装置１９にリアルタイムに表示させることができる。ここでは、ユーザの身体が実空間の映像であり、試着対象の衣服画像が実空間の映像に重畳表示された仮想オブジェクトである。これにより、ＡＲ試着システム１は、仮想的な試着をリアルタイムに提供することができる。
【００２３】
ここで、通常、仮想的な試着システムでは、被写体が仮想衣服を選択すると、自動的に試着画像が生成されていた。以下、図２を参照して通常の仮想衣服の着用制御について説明する。
【００２４】
図２は、通常の仮想的な試着システムにおける仮想衣服の着用制御を説明するための図である。図２上に示すように、通常の仮想的な試着システムでは、仮想衣服３０が表示されている位置に被写体Ａが手を移動したことが検知されると、仮想衣服３０を試着対象の仮想衣服として選択する。そして、仮想衣服３０が選択されたと略同時に、図２下に示すように、仮想衣服３０が被写体Ａに合成された試着画像が自動的に生成され、表示される。このように、通常の仮想的な試着システムでは、仮想衣服３０が選択されると略同時に、自動的に仮想衣服３０を合成した試着画像の生成が行われていた。
【００２５】
しかしながら、実際ユーザが衣服を試着する場合は、衣服を選択し、着替えるという２段階のステップがあることに対し、上述したように仮想衣服を選択したと略同時に仮想衣服の合成処理が行われると、リアリティに欠ける。
【００２６】
そこで、本開示の一実施形態によるＡＲ試着システムでは、被写体Ａの動作を検出し、検出した動作に応じて撮像画像に衣服画像を合成（着衣）、または試着画像から衣服画像を分離し（脱衣）、着脱を制御する。例えば、図１に示すように、被写体Ａが手を頭部から腹部に向けて下ろす動作を行うと、仮想衣服を試着することができる。このように、本実施形態によれば、被写体Ａの動作に応じて着脱を制御するので、ユーザは直感的に仮想衣服の着脱を行うことができる。
【００２７】
＜２．情報処理装置の構成＞
次に、本開示によるＡＲ試着システムを実現する情報処理装置１０の構成について、図３を参照して説明する。図３に示すように、情報処理装置１０は、制御部１００、操作入力部１２０、および記憶部１３０を有する。制御部１００は、骨格位置算出部１０１、動作検出部１０３および表示制御部１０５を有する。また、情報処理装置１０には、カメラ１５、センサ１７および表示装置１９が、有線または無線により接続されている。
【００２８】
制御部１００は、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）またはＤＳＰ（Ｄｉｇｉｔａｌ  Ｓｉｇｎａｌ  Ｐｒｏｃｅｓｓｏｒ）などのプロセッサに相当する。制御部１００は、記憶部１３０または他の記憶媒体に記憶されるプログラムを実行することにより、後に説明する制御部１００の様々な機能を動作させる。なお、制御部１００を構成する各ブロックは、全てが同一の装置に組み込まれていなくてもよく、一部が他の装置（例えば、サーバ）に組み込まれていてもよい。
【００２９】
記憶部１３０は、半導体メモリまたはハードディスクなどの記憶媒体を用いて、情報処理装置１０による処理のためのプログラムおよびデータを記憶する。例えば、制御部１００としてコンピュータを機能させるためのプログラムを記憶する。さらに、例えば、記憶部１３０は、制御部１００により使用されるデータを記憶する。また、本実施形態による記憶部１３０は、表示対象となる仮想オブジェクトとして、服飾品の３次元データを記憶する。本明細書において、服飾品とは、衣服または装飾品を含む。また、装飾品とは、メガネ、帽子およびベルトなどを含む。
【００３０】
操作入力部１２０は、マウス、キーボード、タッチパネル、ボタン、マイク、スイッチ、レバーおよびリモートコントローラーなどユーザが情報を入力するための入力手段と、ユーザによる入力に基づいて入力信号を生成し、制御部１００に出力する入力制御回路などから構成されている。ユーザは、操作入力部１２０を操作することにより、情報処理装置１０の電源ＯＮ／ＯＦＦや、ＡＲ試着システムプログラムの起動などを指示したりすることができる。
【００３１】
カメラ１５（撮像装置）は、ＣＣＤ（Ｃｈａｒｇｅ  Ｃｏｕｐｌｅｄ  Ｄｅｖｉｃｅ）またはＣＭＯＳ（Ｃｏｍｐｌｅｍｅｎｔａｒｙ  Ｍｅｔａｌ  Ｏｘｉｄｅ  Ｓｅｍｉｃｏｎｄｕｃｔｏｒ）などの撮像素子を用いて実空間を撮像することにより、撮像画像を生成する。本開示の実施形態においては、カメラ１５が情報処理装置１０と別体に構成されていることを想定しているが、カメラ１５は、情報処理装置１０の一部であってもよい。
【００３２】
また、カメラ１５は、撮像時におけるカメラ１５の設定情報を情報処理装置１０に供給する。ここで、図４に、実空間におけるカメラ１５と被写体Ａの位置関係、および被写体Ａを撮像した撮像画像Ａ’を説明するための図を示す。図４では、カメラ１５のレンズ（不図示）の光学的な中心である主点から、カメラ１５の撮像素子（不図示）までの焦点距離ｆｒｅａｌと、撮像素子に写る被写体Ａ（３次元、ｘｙｚ座標）の撮像画像Ａ’（２次元、ｘｙ座標）を、便宜上被写体側に示す。カメラ１５から被写体Ａまでの距離ｄｒｅａｌは、後述するように深度情報として算出される。また、カメラ１５の画角θｒｅａｌは、主に焦点距離ｆｒｅａｌに応じて決定される。カメラ１５は、カメラ１５の設定情報として、例えば焦点距離ｆｒｅａｌ（または画角θｒｅａｌ）および撮像画像Ａ’の画素数（すなわちピクセル数）を、情報処理装置１０に供給する。
【００３３】
センサ１７は、実空間からパラメータを検出する機能を有している。例えば、センサ１７が赤外線センサにより構成されている場合、センサ１７は、実空間から赤外線を検出し、赤外線量に応じた電気信号を検出データとして情報処理装置１０に供給することができる。センサ１７の種類は、赤外線センサに限定されない。なお、カメラ１５により撮像された画像が検出データとして情報処理装置１０に供給される場合には、センサ１７は存在しなくてもよい。
【００３４】
表示装置１９は、ＬＣＤ（Ｌｉｑｕｉｄ  Ｃｒｙｓｔａｌ  Ｄｉｓｐｌａｙ）、ＯＬＥＤ（Ｏｒｇａｎｉｃ  ｌｉｇｈｔ−Ｅｍｉｔｔｉｎｇ  Ｄｉｏｄｅ）またはＣＲＴ（Ｃａｔｈｏｄｅ  Ｒａｙ  Ｔｕｂｅ）などにより構成される表示モジュールである。本開示の実施形態においては、表示装置１９が情報処理装置１０と別体に構成されていることを想定しているが、表示装置１９は、情報処理装置１０の一部であってもよい。
【００３５】
続いて、上記制御部１００の機能構成について説明する。上述したように、制御部１００は、骨格位置算出部１０１、動作検出部１０３、および表示制御部１０５を有する。
【００３６】
（骨格位置算出部１０１）
骨格位置算出部１０１は、検出データに基づいて撮像画像に映る物体の骨格位置を算出する。撮像画像に映る物体の実空間上の骨格位置を算出する手法は特に限定されない。例えば、骨格位置算出部１０１は、まず、撮像画像において物体の存在する領域（以下、「物体存在領域」とも称す。）を認識するとともに、撮像画像内の物体の深度情報を取得する。そして、骨格位置算出部１０１は、物体存在領域の深度と形（特徴量）に基づいて、撮像画像に映る物体の実空間上の部位（頭、左肩、右肩、腹部など）を認識し、各部位における中心位置を骨格位置として算出してもよい。ここで、骨格位置算出部１０１は、記憶部１３０に記憶された特徴量辞書を用いて、撮像画像から決定される特徴量を、当該特徴量辞書に予め登録された物体の部位ごとの特徴量と照合することにより、撮像画像に含まれる物体の部位を認識することができる。
【００３７】
物体存在領域を認識する手法としては様々な手法が想定される。例えば、撮像画像が検出データとして情報処理装置１０に供給された場合には、骨格位置算出部１０１は、物体が映る前の撮像画像と物体が映っている撮像画像との差分値に基づいて、物体存在領域を認識することができる。より詳細には、骨格位置算出部１０１は、物体が映る前の撮像画像と物体が映っている撮像画像との差分値が閾値を超える領域を、物体存在領域として認識することができる。
【００３８】
また、例えば、センサ１７により検出されたパラメータが検出データとして情報処理装置１０に供給された場合には、骨格位置算出部１０１は、検出データに基づいて、物体存在領域を認識することができる。より詳細には、骨格位置算出部１０１は、検出される赤外線量が閾値を超える領域を、物体存在領域として認識することができる。
【００３９】
また、撮像画像内の物体の深度情報を取得する手法として様々な手法が想定される。例えば、カメラ１５と物体との距離をあらかじめ定めておくことが可能である。すなわち、あらかじめ定められた距離だけカメラ１５から離れた位置に物体が配置されるような制限を設ければよい。このような制限を設ければ、骨格位置算出部１０１は、物体の深度情報（ここでは、カメラ１５と物体との距離）を固定値（例えば、２ｍなど）として扱うことができる。
【００４０】
また、骨格位置算出部１０１は、撮像画像内の物体の深度情報を、センサ１７により検出されたパラメータに基づいて算出することも可能である。より詳細には、骨格位置算出部１０１は、図示しない照射装置から赤外線などの光を物体に向けて照射した場合に、センサ１７により検出された光を解析することにより、撮像画像内の物体の深度情報を算出することができる。
【００４１】
また、例えば骨格位置算出部１０１は、センサ１７により検出された光の位相遅れに基づいて、撮像画像内の物体の深度情報を算出することができる。この手法は、ＴＯＦ（Ｔｉｍｅ  Ｏｆ  Ｆｌｉｇｈｔ）方式とも言われる。あるいは、図示しない照射装置から照射される光が既知のパターンから構成される場合には、骨格位置算出部１０１は、センサ１７により検出された光を構成するパターンの歪み具合を解析することにより、撮像画像内の物体の深度情報を算出してもよい。
【００４２】
なお、撮像画像内の物体の深度情報を算出する機能を有する撮像装置はデプスカメラと称され、ステレオカメラやレーザーレンジスキャナにより実現され得る。骨格位置算出部１０１は、情報処理装置１０に接続されるデプスカメラから深度情報を取得してもよい。
【００４３】
以上説明した各手法により取得した物体存在領域の深度と形（特徴量）に基づいて、骨格位置算出部１０１は、撮像画像に映る物体の実空間上の部位（頭、肩など）を認識し、各部位の骨格位置の座標を算出する。次に、骨格位置算出部１０１が算出した被写体Ａを構成する１以上の部位の骨格位置を含む骨格情報について図５を参照して説明する。
【００４４】
図５は、骨格情報を説明するための図である。図５に示した例では、骨格情報は、被写体Ａを構成する１５の部位の位置を示す座標Ｂ１〜Ｂ３、Ｂ６、Ｂ７、Ｂ９、Ｂ１２、Ｂ１３、Ｂ１５、Ｂ１７、Ｂ１８、Ｂ２０〜Ｂ２２、Ｂ２４として示されているが、骨格情報に含まれる部位の数は特に限定されない。
【００４５】
なお、座標Ｂ１は「Ｈｅａｄ」の座標を示し、座標Ｂ２は「Ｎｅｃｋ」の座標を示し、座標Ｂ３は「Ｔｏｒｓｏ」の座標を示し、座標Ｂ６は「Ｒｉｇｈｔ  Ｓｈｏｕｌｄｅｒ」の座標を示し、座標Ｂ７は「Ｒｉｇｈｔ  Ｅｌｂｏｗ」の座標を示している。また、座標Ｂ９は「Ｒｉｇｈｔ  Ｈａｎｄ」の座標を示し、座標Ｂ１２は「Ｌｅｆｔ  Ｓｈｏｕｌｄｅｒ」の座標を示し、座標Ｂ１３は「Ｌｅｆｔ  Ｅｌｂｏｗ」の座標を示し、座標Ｂ１５は「Ｌｅｆｔ  Ｈａｎｄ」の座標を示している。
【００４６】
座標Ｂ１７は「Ｒｉｇｈｔ  Ｈｉｐ」の座標を示し、座標Ｂ１８は「Ｒｉｇｈｔ  Ｋｎｅｅ」の座標を示し、座標Ｂ２０は「Ｒｉｇｈｔ  Ｆｏｏｔ」の座標を示し、座標Ｂ２１は「ｌｅｆｔ  Ｈｉｐ」の座標を示している。座標Ｂ２２は「Ｌｅｆｔ  Ｋｎｅｅ」の座標を示し、座標Ｂ２４は「Ｌｅｆｔ  Ｆｏｏｔ」の座標を示している。
【００４７】
また、本実施形態による骨格位置算出部１０１は、上述したように、撮像画像内の物体の深度情報を取得するが、具体的には、例えば深度の深さに応じて濃淡が変化する撮像画像（不図示）として上記デプスカメラから取得してもよい。
【００４８】
（動作検出部１０３）
動作検出部１０３は、骨格位置算出部１０１により算出された骨格位置の時間経過に伴う変化に基づいて動作を検出し、有効なジェスチャーであった場合は、検出した有効なジェスチャーを表示制御部１０５に出力する。動作検出部１０３は、検出した動作を、予め記憶部１３０に記憶したジェスチャーＤＢ（データベース）に登録されている各ジェスチャーと比較し、検出した動作が有効なジェスチャーであるか否かを判断する。例えば、ジェスチャーＤＢには、頭部から腹部に向けて手が移動する動作を、着衣を示す有効なジェスチャーとして登録されている。また、ジェスチャーＤＢには、腹部から頭部に向けて手が移動する動作を、脱衣を示す有効なジェスチャーとして登録されている。また、ジェスチャーＤＢには、被写体Ａが略水平方向に回転する動作が、着替え（脱衣および着衣）を示す有効なジェスチャーとして登録されている。動作検出部１０３は、検出した有効なジェスチャーを表示制御部１０５に出力する。
【００４９】
なお、実空間における被写体（例えば人物）の動作検出は、上述した骨格情報に基づく動作検出の他、一般的にモーションキャプチャと総称される他の技術により実現してもよい。例えば、動作検出部１０３は、被写体の関節部に取り付けられた加速度センサなどから検出されたパラメータに基づいて被写体の動作を検出してもよい。また、動作検出部１０３は、被写体に装着されたマーカーの動きを検出することで、動作を検出してもよい。
【００５０】
（表示制御部１０５）
表示制御部１０５は、撮像画像に映る被写体に仮想衣服を重畳表示したＡＲ試着画像を生成し、表示装置１９に表示させる制御を行う。また、本実施形態による表示制御部１０５は、動作検出部１０３により検出された動作（着衣や脱衣を示す有効なジェスチャー）に応じて仮想衣服の着脱を制御することができる。具体的には、表示制御部１０５は、被写体Ａのジェスチャー（座標の時系列変化）に応じて、仮想衣服の着衣、脱衣、または着替え（脱衣および着衣）を制御する。
【００５１】
ここで、撮像画像に重畳する仮想画像の生成について、図６を参照して説明する。図６は、仮想空間における仮想カメラ２５と仮想衣服Ｃの位置関係、および仮想衣服Ｃを投影（レンダリング）した仮想的な衣服画像Ｃ’（仮想画像とも称す）を説明するための図を示す。図６では、図４に示す実空間を撮像した撮像画像Ａ’と同様に、レンダリングした仮想的な衣服画像Ｃ’を、仮想衣服側に示す。
【００５２】
仮想カメラ２５の設定（内部パラメータ）は、実空間を撮像するカメラ１５の設定（内部パラメータ）に合わせて決定される。カメラの設定（内部パラメータ）とは、例えば、焦点距離ｆ、画角θおよび画素数等である。表示制御部１０５は、仮想カメラ２５の設定を、実空間のカメラ１５と一致するよう設定する（初期化とも称す）。
【００５３】
次に、表示制御部１０５は、撮像画像内の物体の深度情報に基づいて、実空間におけるカメラ１５から被写体Ａまでの距離ｄｒｅａｌと同じ距離ｄｖｅｒｔｕａｌだけ仮想カメラ２５から離れた位置に、被写体の骨格位置に合わせて仮想衣服Ｃを配置する。表示制御部１０５は、仮想衣服Ｃを、予めモデリングされた３次元データに基づいて生成してもよい。また、表示制御部１０５は、例えば図６に示すように、仮想衣服Ｃの表面を三角形のポリゴンの集合により構成することで、仮想衣服の３次元形状をよりリアルに表現することができる。また、被写体Ａの骨格位置が時間経過と共に変化する場合、表示制御部１０５は、骨格位置をトラッキングするよう仮想衣服Ｃの配置を変化させることができる。
【００５４】
次に、表示制御部１０５は、仮想カメラ２５でレンダリング、すなわち３次元の衣服画像Ｃを２次元の平面画像に投影することで、衣服画像Ｃ’（仮想画像）を取得する。そして、表示制御部１０５は、撮像画像Ａ’（図４参照）に仮想的な衣服画像Ｃ’を重畳表示することでＡＲ試着画像を生成することができる。なお、表示制御部１０５によるＡＲ試着画像の表示制御については、次の＜３．表示制御＞において詳細に説明する。
【００５５】
以上、本開示の一実施形態によるＡＲ試着システムを実現する情報処理装置１０の構成について詳細に説明した。続いて、情報処理装置１０によるＡＲ試着画像の表示制御について説明する。
【００５６】
＜３．表示制御＞
［３−１．基本的な表示制御］
図７は、情報処理装置１０によるＡＲ試着画像の基本的な表示制御処理を示すフローチャートである。図７に示すように、まず、ステップＳ１１０において、表示制御部１０５は、仮想空間における仮想カメラ２５の設定を、実空間のカメラ１５の設定に一致させる初期化を行う。
【００５７】
次いで、ステップＳ１１３において、骨格位置算出部１０１は、撮像した実空間における被写体Ａの骨格位置（ｘｙｚ座標）を算出し、動作検出部１０３および表示制御部１０５に出力する。
【００５８】
次に、ステップＳ１１６において、表示制御部１０５は、仮想空間において、仮想衣服Ｃを被写体Ａの骨格位置（ｘｙｚ座標）に合わせて配置する。
【００５９】
そして、ステップＳ１１９において、表示制御部１０５は、仮想衣服Ｃをレンダリングして衣服画像Ｃ’（仮想画像）を取得し、衣服画像Ｃ’を撮像画像Ａ’に重ねてＡＲ試着画像を描画し、表示装置１９に表示するよう制御する（ＡＲ表示制御）。
【００６０】
また、情報処理装置１０は、ステップＳ１２２において、終了指示がなされるまで上記ステップＳ１１３からＳ１１９を繰り返し行う。これにより、情報処理装置１０は、被写体Ａの動きをトラッキングするＡＲ試着画像をリアルタイムで提供することができる。
【００６１】
以上、基本的な表示制御処理について説明した。さらに、本実施形態による情報処理装置１０は、被写体Ａの動作に応じて仮想衣服の着脱状態を変化させることができる。以下、本実施形態によるジェスチャーに応じた着脱制御について図８を参照して具体的に説明する。
【００６２】
［３−２．ジェスチャーに応じた着脱制御］
図８は、本実施形態の情報処理装置１０によるジェスチャーに応じた着脱制御処理を示すフローチャートである。図８に示す処理は、図７に示すステップＳ１１６およびＳ１１９による表示制御ａにおいて行われる着脱制御を示す。
【００６３】
まず、図８のステップＳ１１６において、図７に示す同ステップの処理と同様に、仮想空間において仮想衣服Ｃを被写体Ａの骨格位置に合わせて配置する。次に、ステップＳ１１９において、図７に示す同ステップの処理と同様に、仮想衣服Ｃをレンダリングして取得した衣服画像Ｃ’を、撮像画像Ａ’に重畳表示することで、基本的なＡＲ試着画像を表示装置１９に表示する。
【００６４】
次いで、ステップＳ１２５において、動作検出部１０３は、手の骨格位置（座標）の時系列変化に基づき、ジェスチャー（動作）を検出する。
【００６５】
続いて、ステップＳ１２８において、動作検出部１０３は、検出したジェスチャーが有効なジェスチャーであるか否か判断する。
【００６６】
そして、ステップＳ１３１において、表示制御部１０５は、動作検出部１０３により有効なジェスチャーと判断されたジェスチャーに応じて、着脱を制御する。着脱の制御とは、被写体Ａに仮想衣服を重畳表示する制御（着衣）、被写体Ａに重畳表示された仮想衣服を削除する制御（脱衣）、若しくは被写体Ａに重畳表示された仮想衣服を他の仮想衣服に変更する制御（着替え）を含む。
【００６７】
着衣や脱衣を指示する有効なジェスチャーは様々考え得る。以下、本開示による有効なジェスチャーに応じた着脱制御について、複数の例を挙げて具体的に説明する。
【００６８】
（着衣制御例）
図９は、本実施形態による有効な着衣ジェスチャーに応じた着衣制御を説明するための図である。なお、図９左側には撮像画像および被写体の骨格情報を重ねたイメージの遷移図を示す。動作検出部１０３は図９左側に示すような骨格位置の時系列変化に基づいて動作を検出する。また、図９右側には、表示制御部１０５が表示装置１９に表示させるＡＲ試着画像の遷移図を示す。表示制御部１０５は、骨格位置算出部１０１により算出された図９左側に示すような骨格位置に基づいて仮想衣服を重畳表示する。また、表示制御部１０５は、動作検出部１０３により検出された図９左側に示すような動きに応じて仮想衣服の着脱を制御する。
【００６９】
図９左側の骨格位置の遷移図に示すように、被写体の座標Ｂ１５「Ｌｅｆｔ  Ｈａｎｄ」の座標が、頭部の座標Ｂ１「Ｈｅａｄ」から腹部の座標Ｂ３「Ｔｏｒｓｏ」に時系列変化した場合、動作検出部１０３は、着衣を示す有効なジェスチャーと判断する。この場合、表示制御部１０５は、図９右側のＡＲ試着画像の遷移図に示すように、被写体Ａに仮想衣服Ｃを重畳表示させる。これにより、仮想衣服Ｃを着衣したＡＲ画像が表示され、ＡＲ試着の着衣制御が実現される。
【００７０】
なお、被写体Ａに重畳表示させる仮想衣服Ｃは、予め被写体Ａが選択していてもよい。選択の仕方は特に限定しないが、例えば、複数表示された仮想衣服のうち試着したい仮想衣服が表示されている位置に手を動かして掴む動作を行うことで選択してもよい。また、図１に示すように、被写体Ａの両側に仮想衣服が表示される場合、右手で着衣ジェスチャーが行われた場合は右側に示す仮想衣服、左手で着衣ジェスチャーが行われた場合は左側に示す仮想衣服が選択されるようにしてもよい。なお、表示制御部１０５は、表示装置１９に表示される試着候補の仮想衣服を被写体Ａが水平方向に動かすジェスチャーが検出された場合、表示装置１９に他の試着候補を順次表示してもよい。
【００７１】
（脱衣制御例）
次に、図１０を参照して、本実施形態による脱衣制御の一例を説明する。図１０は、本実施形態による有効な脱衣ジェスチャーに応じた脱衣制御を説明するための図である。
【００７２】
図１０左側の骨格位置の遷移図に示すように、被写体の座標Ｂ１５「Ｌｅｆｔ  Ｈａｎｄ」の座標が、腹部の座標Ｂ３「Ｔｏｒｓｏ」から頭部の座標Ｂ１「Ｈｅａｄ」に時系列変化した場合、動作検出部１０３は、脱衣を示す有効なジェスチャーと判断する。この場合、表示制御部１０５は、図１０右側のＡＲ試着画像の遷移図に示すように、被写体Ａに重畳表示されていた仮想衣服Ｃを非表示にする。これにより、仮想衣服Ｃを脱衣したＡＲ画像が表示され、ＡＲ試着の脱衣制御が実現される。
【００７３】
（着替え制御例）
次に、図１１を参照して、本実施形態による着替え制御の一例を説明する。図１１は、本実施形態による有効な着替えジェスチャーに応じた着替え制御を説明するための図である。図１１左には、仮想試着前の状態、図１１右には回転方向に応じた仮想試着後の状態を示す。
【００７４】
図１１右上に示すように、被写体Ａが略水平方向に左回転したことを動作検出部１０３により検出されると、表示制御部１０５は、表示装置１９の画面上で左側に表示されている仮想衣服２３を、被写体Ａに重畳表示する。
【００７５】
また、図１１右下に示すように、被写体Ａが略水平方向に右回転したことを動作検出部１０３により検出されると、表示制御部１０５は、表示装置１９の画面上で右側に表示されている仮想衣服２５を、被写体Ａに重畳表示する。
【００７６】
また、仮想衣服２３が重畳表示された状態で被写体Ａが右回転すると、表示制御部１０５は、被写体Ａに重畳表示する仮想衣服２３を画面上右側に表示した仮想衣服２５に変更し、着替え制御を行う。同様に、仮想衣服２５が重畳表示された状態で被写体Ａが左回転すると、表示制御部１０５は、被写体Ａに重畳表示する仮想衣服２５を画面上左側に表示した仮想衣服２３に変更し、着替え制御を行う。
【００７７】
（靴の履き替え）
以上、一例として仮想衣服の着脱制御について説明したが、本開示の実施形態によるＡＲ試着システムにおける試着対象は衣服に限定されず、例えば靴、メガネ、ベルト等であってもよい。よって、着脱を示す有効なジェスチャーは試着対象物によって異なる場合もある。
【００７８】
例えば、靴の履き替えを行う場合、情報処理装置１０は、被写体Ａが足を振る動作を検出した場合に、被写体Ａの足に仮想的な靴を重畳表示するよう制御してもよい。具体的には、動作検出部１０３は、被写体Ａの足の座標Ｂ２４またはＢ２０の時系列変化に基づき、足の周期的な動きを検出し、靴履き替えの有効なジェスチャーと判断する。表示制御部１０５は、動作検出部１０３により靴履き替えの有効なジェスチャーが検出されると、予め選択された仮想的な靴を被写体Ａの足に重畳表示するよう制御する。
【００７９】
（途中経過の表示）
上述した全ての着脱制御において、表示制御部１０５は、着脱動作の経過に応じた表示制御を行ってもよい。これにより、被写体Ａの動作が有効なジェスチャーとして認識されていることを視覚的にフィードバックすることができる。また、これにより仮想的な試着のリアリティをさらに高めることができるので、より自然なＡＲ試着システムを提供することができる。以下、図１２を参照して具体的に説明する。
【００８０】
図１２は、本開示の一実施形態による脱衣動作の途中経過の表示について説明するための図である。図１２上に示すように、被写体Ａの左手の骨格位置を示す座標Ｂ１５が、頭部から腹部に向かって移動する場合、図１２下に示すように、表示制御部１０５は、座標Ｂ１５の位置に合わせて、重畳表示した仮想衣服の形状を変形させ、脱衣経過を表現する。
【００８１】
また、表示制御部１０５は、着脱動作の経過を仮想衣服の形状を変形させる際に、重力や風などの影響を考慮してより細かく制御してもよい。例えば、仮想衣服が風に吹かれてひらひらしながら着脱動作に応じて変形する様子等を表現することで、よりリアリティがあるＡＲ試着システムを提供することができる。
【００８２】
＜４．まとめ＞
上述したように、本開示の一実施形態によるＡＲ試着システムによれば、被写体の動作に応じて着脱を制御することで、よりリアリティがある自然なＡＲ試着システムを提供することができる。
【００８３】
また、本実施形態によれば、着脱動作の途中経過に応じて仮想衣服を変形し、着替え途中も表示することで、さらにリアリティがある自然なＡＲ試着システムを提供することができる。
【００８４】
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本技術はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属
するものと了解される。
【００８５】
例えば、上述したＡＲ試着システムでは、主に仮想衣服の試着を例として説明したが、試着対象は衣服に限らず、例えばメガネ、帽子およびベルトなどの装飾品であってもよい。
【００８６】
また、上述したＡＲ試着システムでは、被写体が人物の場合について説明したが、被写体は人物に限定されず、例えば犬や猫などの動物であってもよい。この場合、動物を撮像した撮像画像に、例えばペット用の衣服画像を重畳表示するＡＲ試着システムを提供することができる。
【００８７】
なお、本技術は以下のような構成も取ることができる。
（１）
撮像された被写体の動作を検出する動作検出部と、
前記動作検出部により検出した動作に応じて、前記被写体に重畳して表示される仮想的な服飾品の着脱を制御する表示制御部と、
を備える、情報処理装置。
（２）
前記表示制御部は、前記動作検出部により検出された動作の経過に応じて前記服飾品の着脱経過を表示する、前記（１）に記載の情報処理装置。
（３）
前記動作検出部は、着衣動作を検出し、
前記表示制御部は、前記着衣動作に応じて前記被写体に仮想衣服を重畳表示する、前記（１）または（２）に記載の情報処理装置。
（４）
前記動作検出部は、脱衣動作を検出し、
前記表示制御部は、前記脱衣動作に応じて前記被写体に重畳表示された仮想衣服を非表示にする、前記（１）から（３）のいずれか１項に記載の情報処理装置。
（５）
前記動作検出部は、前記被写体が略水平方向に回転する動作を検出し、
前記表示制御部は、前記回転する動作に応じて前記被写体に重畳表示する仮想衣服を変更する、前記（１）から（４）のいずれか１項に記載の情報処理装置。
（６）
前記動作検出部は、前記被写体が足を振る動作を検出し、
前記表示制御部は、前記足を振る動作に応じて前記被写体の足に重畳表示する仮想靴の履き替えを制御する、前記（１）から（５）のいずれか１項に記載の情報処理装置。
（７）
撮像された被写体の動作を検出するステップと、
前記動作を検出するステップにより検出した動作に応じて、前記被写体に重畳して表示される仮想的な服飾品の着脱を制御するステップと、
を含む、表示制御方法。
（８）
撮像された被写体の動作を検出する処理と、
前記動作を検出する処理により検出した動作に応じて、前記被写体に重畳して表示される仮想的な服飾品の着脱を制御する処理と、
をコンピュータに実行させる、プログラム。
（９）
前記着脱を制御する処理は、前記動作を検出する処理により検出された動作の経過に応じて前記服飾品の着脱経過を表示する、前記（８）または（９）に記載のプログラム。
（１０）
前記動作を検出する処理は、着衣動作を検出し、
前記制御する処理は、前記着衣動作に応じて前記被写体に仮想衣服を重畳表示する、前記（８）から（９）のいずれか１項に記載のプログラム。
（１１）
前記動作を検出する処理は、脱衣動作を検出し、
前記制御する処理は、前記脱衣動作に応じて前記被写体に重畳表示された仮想衣服を非表示にする、前記（８）から（１０）のいずれか１項に記載のプログラム。
（１２）
前記動作を検出する処理は、前記被写体が略水平方向に回転する動作を検出し、
前記制御する処理は、前記回転する動作に応じて前記被写体に重畳表示する仮想衣服を変更する、前記（８）から（１１）のいずれか１項に記載のプログラム。
（１３）
前記動作を検出する処理は、前記被写体が足を振る動作を検出し、
前記制御する処理は、前記足を振る動作に応じて前記被写体の足に重畳表示する仮想靴の履き替えを制御する、前記（８）から（１２）のいずれか１項に記載のプログラム。
【符号の説明】
【００８８】
１０      情報処理装置
１５      カメラ
１７      センサ
１９      表示装置
１００    制御部
１０１    骨格位置算出部
１０３    動作検出部
１０５    表示制御部
１２０    操作入力部
１３０    記憶部
Ａ        被写体
Ｂ        座標（骨格位置）
Ｃ        仮想衣服
【図１】
0005845830.tif 000002
【図２】
0005845830.tif 000003
【図３】
0005845830.tif 000004
【図４】
0005845830.tif 000005
【図５】
0005845830.tif 000006
【図６】
0005845830.tif 000007
【図７】
0005845830.tif 000008
【図８】
0005845830.tif 000009
【図９】
0005845830.tif 000010
【図１０】
0005845830.tif 000011
【図１１】
0005845830.tif 000012
【図１２】
0005845830.tif 000013