(57)【要約】【課題】頭部に映像表示装置を装着した状態のユーザーの表情を把握することのできる情報処理装置を提供する。【解決手段】ユーザーの頭部に装着される映像表示装置４０と接続される情報処理装置１０であって、映像表示装置４０のユーザーに向けられる面に配置されたセンサーの検出結果を取得し、取得した検出結果に基づいて、ユーザーの顔の部位の動きを特定する情報処理装置である。【選択図】図１
2019023768.tif 000002
【特許請求の範囲】
【請求項１】
ユーザーの頭部に装着される映像表示装置と接続される情報処理装置であって、
前記映像表示装置の前記ユーザーに向けられる面に配置されたセンサーの検出結果を取得する取得部と、
前記取得した検出結果に基づいて、前記ユーザーの顔の部位の動きを特定する特定部と、
を含むことを特徴とする情報処理装置。
【請求項２】
請求項１に記載の情報処理装置において、
前記センサーは、近接センサー、タッチセンサー、及び筋電センサーのいずれか少なくとも一つを含む
ことを特徴とする情報処理装置。
【請求項３】
請求項１又は２に記載の情報処理装置において、
前記情報処理装置は、前記特定された部位の動きに基づいて、前記ユーザーを表象するオブジェクトが備えるパーツを動作させる処理実行部をさらに含む
ことを特徴とする情報処理装置。
【請求項４】
請求項１から３のいずれか一項に記載の情報処理装置において、
前記映像表示装置は、前記ユーザーが装着した状態で当該ユーザーの顔の一部範囲を覆い、
前記特定部は、前記取得した検出結果に基づいて、前記ユーザーの顔の前記映像表示装置が覆っていない部位の動きを特定する
ことを特徴とする情報処理装置。
【請求項５】
ユーザーの頭部に装着される映像表示装置であって、
前記ユーザーが装着した際に当該ユーザーに向けられる面に、当該ユーザーの顔の部位の動きを特定するためのセンサーが配置されている
ことを特徴とする映像表示装置。
【請求項６】
ユーザーの頭部に装着される映像表示装置と接続される情報処理装置の制御方法であって、
前記映像表示装置の前記ユーザーに向けられる面に配置されたセンサーの検出結果を取得するステップと、
前記取得した検出結果に基づいて、前記ユーザーの顔の部位の動きを特定するステップと、
を含むことを特徴とする情報処理装置の制御方法。
【請求項７】
ユーザーの頭部に装着される映像表示装置と接続されるコンピュータを、
前記映像表示装置の前記ユーザーに向けられる面に配置されたセンサーの検出結果を取得する取得部、及び、
前記取得した検出結果に基づいて、前記ユーザーの顔の部位の動きを特定する特定部、
として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ユーザーの頭部に装着される映像表示装置、当該映像表示装置と接続される情報処理装置、その制御方法、及び制御プログラムに関する。
【背景技術】
【０００２】
例えばヘッドマウントディスプレイのように、ユーザーが頭部に装着して使用する映像表示装置がある。このような映像表示装置は、ユーザーの目の前に画像を結像させることで、その画像をユーザーに閲覧させる。このような映像表示装置は、臨場感のある映像をユーザーに閲覧させることができるため、バーチャルリアリティ技術などに利用されている。さらにこのようなバーチャルリアリティ技術を用いて、複数のユーザーが互いにより臨場感のある形でコミュニケーションを取れるようにすることも検討されている。
【発明の概要】
【発明が解決しようとする課題】
【０００３】
上述した映像表示装置をユーザーが装着した状態では、ユーザーの顔が隠れてしまい、その表情が分からなくなってしまう。しかしながら、ユーザーに臨場感のある体験をしてもらう上では、ユーザーの表情や感情を把握することが重要な場合がある。
【０００４】
本発明は上記実情を考慮してなされたものであって、その目的の一つは、頭部に映像表示装置を装着した状態のユーザーの表情を把握することのできる映像表示装置、情報処理装置、その制御方法、及び制御プログラムを提供することにある。
【課題を解決するための手段】
【０００５】
本発明に係る情報処理装置は、ユーザーの頭部に装着される映像表示装置と接続される情報処理装置であって、前記映像表示装置の前記ユーザーに向けられる面に配置されたセンサーの検出結果を取得する取得部と、前記取得した検出結果に基づいて、前記ユーザーの顔の部位の動きを特定する特定部と、を含むことを特徴とする。
【０００６】
また、本発明に係る映像表示装置は、ユーザーの頭部に装着される映像表示装置であって、前記ユーザーが装着した際に当該ユーザーに向けられる面に、当該ユーザーの顔の部位の動きを特定するためのセンサーが配置されていることを特徴とする。
【０００７】
また、本発明に係る情報処理装置の制御方法は、ユーザーの頭部に装着される映像表示装置と接続される情報処理装置の制御方法であって、前記映像表示装置の前記ユーザーに向けられる面に配置されたセンサーの検出結果を取得するステップと、前記取得した検出結果に基づいて、前記ユーザーの顔の部位の動きを特定するステップと、を含むことを特徴とする。
【０００８】
また、本発明に係るプログラムは、ユーザーの頭部に装着される映像表示装置と接続されるコンピュータを、前記映像表示装置の前記ユーザーに向けられる面に配置されたセンサーの検出結果を取得する取得部、及び、前記取得した検出結果に基づいて、前記ユーザーの顔の部位の動きを特定する特定部、として機能させるためのプログラムである。このプログラムは、コンピュータ読み取り可能で非一時的な情報記憶媒体に格納されて提供されてよい。
【図面の簡単な説明】
【０００９】
【図１】本発明の実施の形態に係る情報処理装置を含んだ情報処理システムの構成を示す構成ブロック図である。
【図２】ユーザーが映像表示装置を装着した様子を示す図である。
【図３】映像表示装置を背面側から見た図である。
【図４】情報処理装置の機能を示す機能ブロック図である。
【図５】アバターが表示される画面の一例を示す図である。
【図６】情報処理装置が実行する処理の流れの一例を示すフロー図である。
【図７】映像表示装置の前面に表示画面を備える例を示す図である。
【発明を実施するための形態】
【００１０】
以下、本発明の実施形態について、図面に基づき詳細に説明する。
【００１１】
図１は、本発明の一実施形態に係る情報処理装置１０を含む情報処理システム１の構成を示す構成ブロック図である。同図に示されるように、情報処理システム１は、情報処理装置１０と、操作デバイス２０と、中継装置３０と、映像表示装置４０と、を含んで構成されている。
【００１２】
情報処理装置１０は、映像表示装置４０が表示すべき映像を供給する装置であって、例えば家庭用ゲーム機、携帯型ゲーム機、パーソナルコンピューター、スマートフォン、タブレット等であってよい。図１に示されるように、情報処理装置１０は、制御部１１と、記憶部１２と、インタフェース部１３と、を含んで構成される。
【００１３】
制御部１１は、ＣＰＵ等のプロセッサを少なくとも一つ含み、記憶部１２に記憶されているプログラムを実行して各種の情報処理を実行する。なお、本実施形態において制御部１１が実行する処理の具体例については、後述する。記憶部１２は、ＲＡＭ等のメモリデバイスを少なくとも一つ含み、制御部１１が実行するプログラム、及び当該プログラムによって処理されるデータを格納する。
【００１４】
インタフェース部１３は、操作デバイス２０、及び中継装置３０との間のデータ通信のためのインタフェースである。情報処理装置１０は、インタフェース部１３を介して有線又は無線のいずれかで操作デバイス２０及び中継装置３０のそれぞれと接続される。具体例として、インタフェース部１３は、情報処理装置１０が供給する映像や音声を中継装置３０に送信するために、ＨＤＭＩ（High-Definition Multimedia Interface：登録商標）などのマルチメディアインタフェースを含んでよい。また、中継装置３０経由で映像表示装置４０から各種の情報を受信したり、制御信号等を送信したりするために、ＵＳＢ等のデータ通信インタフェースを含んでよい。さらにインタフェース部１３は、操作デバイス２０に対するユーザーの操作入力の内容を示す信号を受信するために、ＵＳＢ等のデータ通信インタフェースを含んでよい。
【００１５】
操作デバイス２０は、家庭用ゲーム機のコントローラ等であって、ユーザーが情報処理装置１０に対して各種の指示操作を行うために使用される。操作デバイス２０に対するユーザーの操作入力の内容は、有線又は無線のいずれかにより情報処理装置１０に送信される。なお、操作デバイス２０は情報処理装置１０の筐体表面に配置された操作ボタンやタッチパネル等を含んでもよい。
【００１６】
中継装置３０は、有線又は無線のいずれかにより映像表示装置４０と接続されており、情報処理装置１０から供給される映像のデータを受け付けて、受け付けたデータに応じた映像信号を映像表示装置４０に対して出力する。このとき中継装置３０は、必要に応じて、供給された映像データに対して、映像表示装置４０の光学系によって生じる歪みを補正する処理などを実行し、補正された映像信号を出力してもよい。なお、中継装置３０から映像表示装置４０に供給される映像信号は、左目用映像、及び右目用映像の二つの映像を含んでいる。また、中継装置３０は、映像データ以外にも、音声データや制御信号など、情報処理装置１０と映像表示装置４０との間で送受信される各種の情報を中継する。
【００１７】
映像表示装置４０は、ユーザーが頭部に装着して使用する映像表示装置であって、中継装置３０から入力される映像信号に応じた映像を表示し、ユーザーに閲覧させる。本実施形態では、映像表示装置４０は両目での映像の閲覧に対応しており、ユーザーの右目及び左目それぞれの目の前に映像を表示するものとする。図２は、ユーザーが映像表示装置４０を装着した様子を示しており、図３は映像表示装置４０を背面側から見た様子を示している。また、図１に示すように、映像表示装置４０は、映像表示素子４１、光学素子４２、顔面センサー４３、及び通信インタフェース４５を含んで構成される。
【００１８】
映像表示素子４１は、有機ＥＬ表示パネルや液晶表示パネルなどであって、中継装置３０から供給される映像信号に応じた映像を表示する。映像表示素子４１は、左目用映像、及び右目用映像の２つの映像を表示する。なお、映像表示素子４１は、左目用映像及び右目用映像を並べて表示する１つの表示素子であってもよいし、それぞれの映像を独立に表示する２つの表示素子によって構成されてもよい。また、公知のスマートフォン等を映像表示素子４１として用いてもよい。また、映像表示装置４０は、ユーザーの網膜に直接映像を投影する網膜照射型（網膜投影型）の装置であってもよい。この場合、映像表示素子４１は、光を発するレーザーとその光を走査するＭＥＭＳ（Micro Electro Mechanical Systems）ミラーなどによって構成されてもよい。
【００１９】
光学素子４２は、ホログラムやプリズム、ハーフミラーなどであって、ユーザーの目の前に配置され、映像表示素子４１が表示する映像の光を透過又は屈折させて、ユーザーの左右それぞれの目に入射させる。具体的に、映像表示素子４１が表示する左目用映像は、光学素子４２を経由してユーザーの左目に入射し、右目用映像は光学素子４２を経由してユーザーの右目に入射する。これによりユーザーは、映像表示装置４０を頭部に装着した状態で、左目用映像を左目で、右目用映像を右目で、それぞれ閲覧することができる。なお、本実施形態において映像表示装置４０は、ユーザーが外界の様子を視認することができない非透過型の映像表示装置であるものとする。
【００２０】
顔面センサー４３は、映像表示装置４０を装着したユーザーの顔面の状態に関する各種の情報を計測する。具体的に顔面センサー４３は、図３に示すように、映像表示装置４０の本体背面、すなわち装着時にユーザーの顔と対向する面の複数の箇所に配置される。図３の例では、ユーザーの額と接触する箇所には顔面センサー４３ａが、頬の上部と接触する箇所には顔面センサー４３ｂが、こめかみの近傍には顔面センサー４３ｃが、眼球の周囲には顔面センサー４３ｄが、それぞれ配置されている。
【００２１】
具体的に顔面センサー４３は、対象物までの距離を計測する近接センサーを含んでよい。近接センサーは、対象物に光を照射して反射光の強度を測定する方式や、反射光が戻ってくるまでの時間を測定するTime-of-Flight方式など、各種のものであってよい。ユーザーが顔の筋肉を動かすと、この動きによって顔面センサー４３からユーザーの顔の計測対象箇所までの距離が変化する。そのため、近接センサーを用いることで、計測対象箇所におけるユーザーの顔の筋肉の動きを検出することができる。また、ユーザーの眉が動くことによって近接センサーの計測対象箇所に含まれる眉毛の割合が変動すると、反射光の強度が変動する。そのため、反射光の強度を測定する方式の近接センサーを用いることによって、眉の動きを直接検出することもできる。このような非接触型のセンサーによれば、ユーザーの眉や頬などの動きを特定するための情報を、ユーザーの顔にセンサーを接触させることなく検出することができる。そのため、使用時のユーザーへの負担を軽くすることができる。
【００２２】
また、顔面センサー４３は、ユーザーの顔の接触を検知するタッチセンサーを含んでもよい。ユーザーのおでこが接触する箇所（図中の４３ａ）にタッチセンサーを配置することで、ユーザーの眉の上下を検出できる。また、顔面センサー４３は、ユーザーの顔の筋肉の動きを直接的に検出する筋電センサーを含んでもよい。また、顔面センサー４３は、ユーザーの眼の位置を撮影するカメラを含んでもよい。これらのセンサーにより、ユーザーの顔の筋肉の動きが検出できる。なお、映像表示装置４０の背面の各箇所に配置される顔面センサー４３は、一種類に限らず、以上説明したような複数種類のセンサーを同じ箇所に配置してもよい。
【００２３】
また、顔面センサー４３は、ユーザーの顔の動きを検出するセンサーに限らず、その他の顔の状態に関する情報を検出するセンサーを含んでもよい。具体的に、顔面センサー４３は、眼球周辺の肌の色を計測する色センサーや、眼球周辺の肌の温度を計測する温度センサーなどを含んでもよい。これらのセンサーの計測結果を用いることにより、ユーザーの血流や興奮度合いを推定することができる。
【００２４】
通信インタフェース４５は、中継装置３０との間でデータ通信を行うためのインタフェースである。例えば映像表示装置４０が中継装置３０との間で無線ＬＡＮやＢｌｕｅｔｏｏｔｈ（登録商標）などの無線通信によりデータの送受信を行う場合、通信インタフェース４５は通信用のアンテナ、及び通信モジュールを含む。
【００２５】
次に、情報処理装置１０が実現する機能について図４を用いて説明する。図４に示すように、情報処理装置１０は、機能的に、センサー情報取得部５１と、顔部位特定部５２と、処理実行部５３と、を含む。これらの機能は、制御部１１が記憶部１２に記憶されたプログラムを実行することにより実現される。このプログラムは、インターネット等の通信ネットワークを介して情報処理装置１０に提供されてもよいし、光ディスク等のコンピュータ読み取り可能な情報記憶媒体に格納されて提供されてもよい。
【００２６】
センサー情報取得部５１は、ユーザーが映像表示装置４０を頭部に装着して使用している間、例えば一定時間おきなどのタイミングで、顔面センサー４３による計測結果を取得する。以下では、センサー情報取得部５１が映像表示装置４０から取得する顔面センサー４３の計測結果の情報を単にセンサー情報という。
【００２７】
顔部位特定部５２は、センサー情報取得部５１が取得したセンサー情報を用いて、ユーザーの顔を構成する各部位（顔部位）の位置の変化を特定する。すなわち、顔部位特定部５２は、顔面センサー４３による計測が行われた時点における顔部位の動きを特定する。顔部位特定部５２が特定対象とする顔部位は、眉、まぶた、瞳、目尻、口などであってよい。例えば顔部位特定部５２は、ユーザーが眉を上げた、下げた、中央に寄せた、まぶたを開いた、閉じた、目尻を上げた、下げた、口を開いた、閉じた、口角を上げた、下げた、また瞳をいずれかの向きに向けた、などの動きを、センサー情報を用いて特定する。また、これらの動きについて、その動きの大きさを特定してもよい。センサー情報は、検出対象箇所における顔の筋肉（表情筋）の動きを検出する。このような筋肉の動きは、顔部位の動きに連動しているので、センサー情報を用いることで、顔部位特定部５２はユーザーの顔部位の動きを特定できる。
【００２８】
具体的に顔部位特定部５２は、センサー情報が予め用意された判断基準を満たすか否かを判定することによって、顔部位の動きを特定する。この判断基準は、例えば教師付きの機械学習によって生成されるものであってよい。具体的には、映像表示装置４０を装着したユーザーが特定の顔部位に特定の動きをさせた状態で顔面センサー４３の計測結果を取得し、そのときの顔部位の動きを教師情報として入力する。このような機械学習を複数回実行することによって、新たなセンサー情報が得られた際に顔部位の動きを推定するための判断基準となる推定器を生成することができる。
【００２９】
特に本実施形態では、図２に示すように映像表示装置４０はユーザーの目を中心とした領域を覆い、顔の下半分は覆わないため、口のような顔の下側にある顔部位の動きについては、顔面センサー４３によって直接検出することができない。しかしながら、口を動かす際には頬が連動して動くなど、顔の筋肉は比較的広い範囲にわたって連動して動作する。そのため、予めセンサー情報と顔部位の動きとを対応付ける適切な判断基準を用意することによって、頬の筋肉の動きの計測結果を含むセンサー情報を用いてユーザーの口の動きを推定することができる。
【００３０】
また、ユーザーの顔立ちや映像表示装置４０の装着の仕方などの差異により、顔部位の特定のために常に同一の判断基準を使用するのは適切でない場合もある。そこで情報処理装置１０は、ユーザーが映像表示装置４０の使用を開始する際などに、予めキャリブレーションを実行し、その内容を判断基準に反映させてもよい。具体的に、例えば顔部位特定部５２は、キャリブレーションとして、ユーザーに特定の顔部位を動かす動きをしてもらい、その際に顔面センサー４３によって得られるセンサー情報を取得する。そして、得られたセンサー情報の基準値からの乖離度合いを評価し、評価結果を顔部位特定の判断基準として用いる数値に反映させる。これにより、ユーザーごとに適切な判断基準で顔部位の特定を実施することができる。
【００３１】
処理実行部５３は、顔部位特定部５２による特定の結果を用いて各種の処理を実行する。以下では具体例として、処理実行部５３は、制御部１１がオンラインゲームのアプリケーションプログラムを実行することによって実現されることとし、そのゲーム内に登場するアバターを生成することとする。アバターは、ユーザーを表象する仮想オブジェクトであって、人と同様に目や口などのパーツを備えている。処理実行部５３は、通信ネットワークを介して生成したアバターのデータを他のゲーム参加者が使用する情報処理装置に対して送信する。アバターのデータを受信した情報処理装置は、その内容に従って生成されたアバターの画像を表示装置の画面に表示させる。これにより、他のゲーム参加者は、映像表示装置４０を装着したユーザーを表すアバターを閲覧できる。
【００３２】
さらに本実施形態において、処理実行部５３は、顔部位特定部５２によって特定されたユーザーの顔部位の動きに連動するように、アバターのパーツを動かすこととする。具体的に、例えば処理実行部５３は、ユーザーが口を開いたと特定されたときには、アバターの口を開くこととし、ユーザーの眉が下がったと特定されたときには、アバターの眉を下げることとする。この動きを示す情報は、他のゲーム参加者が使用する情報処理装置に送信され、アバターの表示の更新に使用される。このような処理によれば、ユーザーの表情の変化をアバターに反映させることができ、アバターを閲覧する他のゲーム参加者に対してユーザーの表情を提示することができる。なお、処理実行部５３は、ユーザーの顔の動きに応じて変化するアバターを、他のゲーム参加者が閲覧する表示装置だけでなく、ユーザーが装着している映像表示装置４０に表示させてもよい。図５はユーザーの顔部位の動きに連動して目や口などのパーツが動くアバターが表示されている画面の一例を示している。
【００３３】
以下、情報処理装置１０がユーザーの顔部位の動きをアバターに反映させる処理の流れの一例について、図６のフロー図を用いて説明する。まずセンサー情報取得部５１が、顔面センサー４３の計測結果を含んだセンサー情報を中継装置３０経由で映像表示装置４０から取得する（Ｓ１）。その後、顔部位特定部５２が、Ｓ１で取得されたセンサー情報を用いて、ユーザーの顔部位の動きを特定する（Ｓ２）。
【００３４】
次に、処理実行部５３が、Ｓ２で特定された顔部位の動きに応じて、アバターの顔のパーツの位置を決定する（Ｓ３）。そして、決定された位置に顔のパーツを配置させたアバターの画像を更新し（Ｓ４）、映像表示装置４０に表示させる（Ｓ５）。また、Ｓ３で決定したパーツ位置の情報を、他のゲーム参加者が使用する情報処理装置に送信する（Ｓ６）。その後、Ｓ１に戻って以上の処理を所定時間おきに繰り返し実行する。これにより、ユーザーの顔の動きに連動して表情の変化するアバターをユーザーや他のゲーム参加者に提示することができる。
【００３５】
なお、アバターは必ずしも通常の人間と同様の部位を全て備えているとは限らず、人とは異なる外見を備えている場合もある。そこで、顔部位特定部５２によって特定された部位の動きを、そのままアバターの同じ部位の動きに反映させるのではなく、予め関連づけられた別の部位の動きに反映させてもよい。一例として、アバターが動物を模した外観を備えている場合、ユーザーの眉などの動きを、アバターの耳や尻尾などの動きに連動させてもよい。
【００３６】
また、ここでは処理実行部５３はオンラインゲームを実行することとしたが、これに限らず複数のユーザーが参加するローカルゲームを実行してもよい。この場合にも、同様にして複数のユーザーがそれぞれ映像表示装置４０を装着し、その顔部位の動きをそれぞれのアバターに反映させることで、各プレイヤーの表情に連動して表情が変化する他プレイヤーのアバターを閲覧することができる。また、処理実行部５３は、ゲームの処理を実行するではなく、アバターを介して他のユーザーとコミュニケーションを取るコミュニケーションソフトウェアを実行してもよい。この場合も、アバターの顔のパーツをユーザーの顔部位の動きに連動して動かすことで、アバターによってユーザーの表情に近い表情を表現できる。
【００３７】
また、映像表示装置４０の前面のユーザーの目を覆う部分には、映像を表示可能な表示画面Ｄが設けられてもよい。そして、処理実行部５３は、アバターの目の周辺部分の映像をこの表示画面Ｄに表示させてもよい。図７は表示画面Ｄにアバターの一部が表示された映像表示装置４０を示している。この表示画面に表示される目や眉も、顔部位特定部５２によって特定されるユーザーの目や眉の動きに連動して動かすこととする。これにより、ユーザーの周囲にいる別の人にも、ユーザーの表情を伝えることができる。
【００３８】
また、処理実行部５３が実行する処理は、アバターを動作させる処理に限られない。例えば処理実行部５３がゲームの処理を実行する場合、その処理内容を顔部位特定部５２によって特定された顔部位の動きに応じて変化させてもよい。ユーザーの顔部位の動きは、ユーザーの感情を反映していると考えられる。そこで処理実行部５３は、ユーザーの顔部位の動きに基づいて、予め定められた判断基準に従って、ユーザーの感情を推定する。具体的には、ユーザーの眉やまぶた、口などの動きから、ユーザーが笑っている、悲しんでいる、怒っているなどの感情を推定する。そして、推定された感情に応じて、ゲームの進行を変化させたり、特定のパラメータを増減させるなどする。これにより、ユーザーの感情の変化を反映した処理を実行することができる。また、処理実行部５３は、ユーザーの顔部位の動きの大きさに基づいて、ユーザーの怒り度、悲しみ度などの指標を数値として算出してもよい。これらの指標を用いて処理を実行することで、ユーザーの感情の度合いに応じたゲームの進行などを実現できる。
【００３９】
また、処理実行部５３は、ユーザーの感情だけでなく、疲労度や興奮度の推定に顔部位特定部５２の特定結果を利用してもよい。例えば処理実行部５３は、ユーザーが目を大きく見開いたときや、眉をつり上げたときなど、特定の顔部位による特定の動きが検出された場合に、ユーザーが興奮していると推定する。また、顔部位の動きが緩慢になっているときには、ユーザーが疲労していると推定してもよい。なお、処理実行部５３は、顔部位の動きだけでなく、顔面センサー４３に含まれる色センサーや温度センサーの計測結果を併せて興奮度や疲労度の推定に利用してもよい。
【００４０】
また、処理実行部５３は、ユーザーの発話内容を特定する音声認識処理を実行する際に、顔部位特定部５２の特定結果を利用してもよい。音声認識処理を実行する際には、マイクロホンによって集音された音声信号を利用するが、その中にはユーザーの声だけでなく周囲の環境音等のノイズも含まれており、どのタイミングでユーザーが話しているのか識別するのが困難な場合がある。そこで処理実行部５３は、顔部位特定部５２によってユーザーの口が動いていると特定されている期間に、ユーザーが発話をしていると推定する。そして、その期間に集音された音声信号を用いて音声認識処理を実行する。このような処理によれば、音声認識の際の誤認識を減らすことができる。
【００４１】
以上説明したように、本実施形態に係る情報処理装置１０によれば、ユーザーの顔に対向する面に配置されたセンサーの計測結果を用いてユーザーの顔部位の動きを特定することにより、映像表示装置４０の装着時には隠れてしまうユーザーの表情の変化を捉え、各種の処理に利用することができる。
【００４２】
なお、本発明の実施の形態は、以上説明したものに限られない。例えば処理実行部５３は、顔部位特定部５２によって特定されたユーザーの顔部位の動きだけでなく、その他のユーザーの態度に関する各種の情報を用いて処理を実行してもよい。例えば処理実行部５３は、センサー情報取得部５１が取得したセンサー情報そのものをユーザーの感情の推定に利用してもよい。また、処理内容を決定する上で、感情推定の結果だけでなく、ユーザーのバイタル情報など、他の種類の情報を併せて利用してもよい。
【００４３】
また、以上の説明では顔部位特定部５２は顔面センサー４３の検出結果だけを用いてユーザーの顔部位の動きを特定することとしたが、これ以外の情報を用いて顔部位の動きを特定してもよい。例えば、ユーザーの正面方向の位置に設置されたカメラで映像表示装置４０を装着したユーザーの様子を撮影し、その撮影画像を解析して顔部位の特定に利用してもよい。この撮影画像には、ユーザーの顔のうち映像表示装置４０が覆っていない領域（特にユーザーの口周辺の領域）が含まれる。この撮影画像を解析することで、ユーザーの口などの動きを特定することができる。一方、映像表示装置４０が覆っている領域については、これまで説明したように顔面センサー４３によりその動きを計測することができる。そこで、これらの情報を組み合わせて利用することにより、精度よくユーザーの顔全体の顔部位の動きを特定することができる。
【００４４】
また、以上の説明では映像表示装置４０とローカルで接続された情報処理装置１０が顔部位の特定、及び特定された内容に応じた処理を実行することとしたが、これに限らず以上の説明において情報処理装置１０が実行することとした処理の一部は通信ネットワークを介して接続されたサーバ装置等によって実行されてもよい。例えばオンラインゲームなどにおいては、ローカルで特定された顔部位の動きに応じて、サーバ装置がアバターの表情を変化させる処理を実行してもよい。また、サーバ装置が、ローカルの情報処理装置１０から送信されるセンサー情報を用いて顔部位の特定を行ってもよい。
【符号の説明】
【００４５】
１  情報処理システム、１０  情報処理装置、１１  制御部、１２  記憶部、１３  インタフェース部、２０  操作デバイス、３０  中継装置、４０  映像表示装置、４１  映像表示素子、４２  光学素子、４３  顔面センサー、４５  通信インタフェース、５１  センサー情報取得部、５２  顔部位特定部、５３  処理実行部。
【図１】
2019023768.tif 000003
【図２】
2019023768.tif 000004
【図３】
2019023768.tif 000005
【図４】
2019023768.tif 000006
【図５】
2019023768.tif 000007
【図６】
2019023768.tif 000008
【図７】
2019023768.tif 000009