(57)【要約】【課題】ユーザに煩わしさを与えることなく、操作端末を音声入力の受付可能状態にする。【解決手段】操作端末は、空間を撮像する撮像部と、撮像された空間の情報から、ユーザを検出する人検出部と、ユーザによる発話音声の入力を受け付ける音声入力部と、人検出部によりユーザが検出された場合、所定の手段によって得られた情報に基づいてユーザの上肢に含まれる所定の第一部位の第一座標とユーザの上肢を除く上半身に含まれる所定の第二部位の第二座標とを検出する座標検出部と、第一座標と第二座標との位置関係を比較し、少なくとも一回、位置関係が所定の第一条件を満たした場合、音声入力部を音声入力の受付可能状態とする条件判定部とを備える。【選択図】図４
2019220145.tif 000002
【特許請求の範囲】
【請求項１】
ユーザの発話音声によって操作される操作端末であって、
空間を撮像する撮像部と、
撮像された前記空間の情報から、前記ユーザを検出する人検出部と、
前記ユーザによる発話音声の入力を受け付ける音声入力部と、
前記人検出部により前記ユーザが検出された場合、所定の手段によって得られた情報に基づいて前記ユーザの上肢に含まれる所定の第一部位の第一座標と前記ユーザの上肢を除く上半身に含まれる所定の第二部位の第二座標とを検出する座標検出部と、
前記第一座標と前記第二座標との位置関係を比較し、少なくとも一回、前記位置関係が所定の第一条件を満たした場合、前記音声入力部を音声入力の受付可能状態とする条件判定部とを備える、
操作端末。
【請求項２】
前記空間の情報から、前記ユーザの骨格情報を抽出する骨格情報抽出部をさらに備え、
前記所定の手段によって得られた情報は、前記骨格情報である、
請求項１記載の操作端末。
【請求項３】
前記撮像部は、可視光カメラ、赤外線カメラ、ＴＯＦセンサ、超音波センサ、又は電波センサである請求項１又は２記載の操作端末。
【請求項４】
前記位置関係は、鉛直方向における、前記第一座標と前記第二座標との位置関係である、
請求項１〜３のいずれかに記載の操作端末。
【請求項５】
前記位置関係は、前記ユーザの体幹軸方向における、前記第一座標と前記第二座標との位置関係である、
請求項１〜３のいずれかに記載の操作端末。
【請求項６】
前記座標検出部は、さらに前記上半身における第三部位の第三座標を検出し、
前記第一条件は、前記第一座標、前記第二座標、及び前記第三座標の成す角度が、所定の閾値を超える、前記所定の閾値を下回る、又は所定の範囲に収まることである、
請求項１〜３のいずれかに記載の操作端末。
【請求項７】
前記第一部位は、前記上肢に含まれる複数の部位を含み、
前記第一座標は、前記複数の部位のいずれか１以上の座標に基づいて決定される、
請求項１〜６のいずれかに記載の操作端末。
【請求項８】
前記第二部位は、前記上肢を除く前記上半身に含まれる複数の部位を含み、
前記第二座標は、前記複数の部位のいずれか１以上の座標に基づいて決定される、
請求項１〜７のいずれかに記載の操作端末。
【請求項９】
前記第一条件は、複数の第二条件を含み、
前記条件判定部は、前記位置関係が、前記複数の第二条件の少なくとも１つ、又は前記複数の第二条件の一部を組み合わせた第三条件を満たす場合に前記受付可能状態にする、
請求項１〜８のいずれか一項に記載の操作端末。
【請求項１０】
前記音声入力部が前記受付可能状態にあるか否かを示す情報を出力する表示部又は再生部をさらに備える、
請求項１〜９のいずれかに記載の操作端末。
【請求項１１】
前記表示部は、ディスプレイである、
請求項１０記載の操作端末。
【請求項１２】
前記音声入力部が前記受付可能状態にあるか否かを示す情報は、色、テキスト、又はアイコンである請求項１１記載の操作端末。
【請求項１３】
前記表示部は、前記音声入力部が前記受付可能状態にあることを示す光を発光する発光装置である、
請求項１０に記載の操作端末。
【請求項１４】
前記再生部は、前記音声入力部が前記受付可能状態にあるか否かを示す音声を出力する、
請求項１０に記載の操作端末。
【請求項１５】
前記再生部は、前記音声入力部が前記受付可能状態にあるか否かを示す音を出力する、
請求項１０に記載の操作端末。
【請求項１６】
前記条件判定部は、前記操作端末と前記ユーザとの距離が所定の第四条件を満たすときにのみ、前記位置関係を比較する、
請求項１から１５のいずれかに記載の操作端末。
【請求項１７】
前記条件判定部は、前記受付可能状態において無音区間が一定時間続いた場合、前記受付可能状態を終了する、
請求項１〜１６のいずれかに記載の操作端末。
【請求項１８】
前記条件判定部は、前記受付可能状態において前記位置関係が前記第一条件を満たしている限り、前記受付可能状態を継続する、
請求項１〜１７のいずれかに記載の操作端末。
【請求項１９】
前記条件判定部は、前記受付可能状態において前記位置関係が前記第一条件を満たさない状態が所定のタイムアウト期間継続した場合、前記受付可能状態を終了する、
請求項１〜１８のいずれかに記載の操作端末。
【請求項２０】
前記条件判定部は、前記タイムアウト期間において、前記位置関係が前記第一条件を満たすと判定した場合、前記タイムアウト期間を延長する、
請求項１９記載の操作端末。
【請求項２１】
前記条件判定部は、前記タイムアウト期間の終了時に音声入力が検出されていれば、前記受付可能状態を継続する、
請求項１８に記載の操作端末。
【請求項２２】
前記条件判定部は、前記位置関係が前記第一条件とは異なる所定の第五条件を満たした場合、前記受付可能状態を終了する、
請求項１〜２１のいずれかに記載の操作端末。
【請求項２３】
前記条件判定部は、前記人検出部が複数のユーザを検出した場合、特定の一人を前記操作端末の操作者として認識する、
請求項１〜２２のいずれかに記載の操作端末。
【請求項２４】
前記操作者は、前記複数のユーザのうち前記操作端末に最も近いユーザである、
請求項２３に記載の操作端末。
【請求項２５】
ユーザの発話音声によって操作される操作端末における音声入力方法であって、
撮像装置により撮像された空間の情報を取得し、
前記空間の情報から、前記ユーザを検出し、
前記ユーザが検出された場合、所定の手段によって得られた情報に基づいて前記ユーザの上肢に含まれる所定の第一部位の第一座標と前記ユーザの上肢を除く上半身に含まれる所定の第二部位の第二座標とを検出し、
前記第一座標と前記第二座標との位置関係を比較し、少なくとも一回、前記位置関係が所定の第一条件を満たした場合、音声入力部を音声入力の受付可能状態とする、
音声入力方法。
【請求項２６】
請求項２５記載の音声入力方法をコンピュータに実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、ユーザの発話音声によって操作される操作端末、その操作端末における音声入力方法、及びその音声入力方法をコンピュータに実行させるためのプログラムに関するものである。
【背景技術】
【０００２】
ユーザが特定の端末を音声で操作する場合、端末はユーザの音声を収音する必要があるが、その方式は大きく二つに分類される。一つは、ユーザの操作によってユーザの音声入力の開始を判断し、収音を開始する方式である。もう一つは、常時収音を行い、収音された音から音声を抽出する方式である。後者の方式では、常時端末に音声が収集されていると感じてしまうため、ユーザはプライバシーが漏洩するなどの懸念を抱く可能性がある。そのため、前者の方式のようにユーザが音声入力を行いたいという意思を示している場合にのみ音声の収音を行う方式が有効である。
【０００３】
また、近年、ユーザのジェスチャーを検出することによってロボットを指示する技術も知られている。例えば、特許文献１には、自然な状態で指示動作をすることができ、かつ精度の高い指示位置検出を行うために、複数のカメラで撮影した画像から、人物の頭部の位置と手先の位置と手の向きとを検出し、これらの検出結果に基づいて人物が指示する方向を検出し、検出した方向から人物が指示する位置を検出する指示位置検出装置が開示されている。
【０００４】
特許文献２には、任意の位置で行われる腕を使ったジェスチャーを適切に認識するために、複数の距離画像センサの中から腕を使ったジェスチャーを適切に認識できた距離画像センサを特定し、特定した距離画像センサを利用して認識されたジェスチャーを登録するジェスチャー管理システムが開示されている。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特許第４１４９２１３号
【特許文献２】特許第６３０３９１８号
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかし、特許文献１、２では、ユーザに対して空間内の特定の方向に正しく腕を向けるというような煩わしいジェスチャーが要求されており、更なる改善の必要がある。
【０００７】
本開示の目的は、ユーザに煩わしさを与えることなく、操作端末を音声入力の受付可能状態にする操作装置などを提供することである。
【課題を解決するための手段】
【０００８】
本開示の一態様に係る操作端末は、ユーザの発話音声によって操作される操作端末であって、
空間を撮像する撮像部と、
撮像された前記空間の情報から、前記ユーザを検出する人検出部と、
前記ユーザによる発話音声の入力を受け付ける音声入力部と、
前記人検出部により前記ユーザが検出された場合、所定の手段によって得られた情報に基づいて前記ユーザの上肢に含まれる所定の第一部位の第一座標と前記ユーザの上肢を除く上半身に含まれる所定の第二部位の第二座標とを検出する座標検出部と、
前記第一座標と前記第二座標との位置関係を比較し、少なくとも一回、前記位置関係が所定の第一条件を満たした場合、前記音声入力部を音声入力の受付可能状態とする条件判定部とを備える。
【発明の効果】
【０００９】
本開示によれば、ユーザに煩わしさを与えることなく、操作端末を音声入力の受付可能状態にすることができる。
【図面の簡単な説明】
【００１０】
【図１】本開示の実施の形態１に係る操作端末とユーザとの位置関係の一例を示した図である。
【図２】操作端末の外観構成の一例を示した図である。
【図３】撮像装置によって計測されるユーザの骨格情報の一例を示す図である。
【図４】本開示の実施の形態１に係る操作端末の構成の一例を示すブロック図である。
【図５】本開示の実施の形態１に係る開始条件判定部の処理の一例を示すフローチャートである。
【図６】本開示の実施の形態における管理部の処理の一例を示すフローチャートである。
【図７】開始条件を説明するために、ユーザの骨格情報を例示した図である。
【図８】ジェスチャー可能範囲の一例を示す図である。
【図９】複数のユーザが操作端末に対してジェスチャーを行う場合を示した図である。
【図１０】状態通知の第一例を示す図である。
【図１１】状態通知の第二例を示す図である。
【図１２】状態通知の第三例を示す図である。
【図１３】状態通知の第四例を示す図である。
【図１４】状態通知の第五例を示す図である。
【図１５】図４で例示した操作端末のブロック図に対して、図１０〜図１４で例示した表示装置及び再生装置を加えた場合の操作端末のブロック図である。
【図１６】実施の形態２に係る操作端末の構成の一例を示すブロック図である。
【図１７】本開示の実施の形態２に係る終了条件判定部の処理の一例を示すフローチャートである。
【図１８】終了条件を説明するために、ユーザの骨格情報を例示した図である。
【図１９】本開示の実施の形態２に係るタイムアウト判定部の処理の一例を示すフローチャートである。
【図２０】本開示の実施の形態２に係る管理部の処理の一例を示すフローチャートである。
【図２１】撮像装置、再生装置、及び表示装置を操作端末１とは別の装置で構成した場合の構成の一例を示す図である。
【発明を実施するための形態】
【００１１】
（本開示の基礎となった知見）
本発明者は、例えば、家屋内の壁に立て掛けられ、ユーザからの音声を認識することによって家屋に設置された各種の電気機器を操作する操作端末を研究している。このような操作端末では、ユーザが音声入力を行っていること、又は音声入力を行おうとしていることを認識する必要がある。音声操作が可能な端末の多くは、特定のフレーズを常時音声認識できるように音声を常時収音し、特定のフレーズを認識したことをトリガーに特定のフレーズ以外のフレーズの音声認識を開始する構成を備えるのが一般的である。しかし、この構成では、音声が常時収音されるため、ユーザはプライバシーの侵害などの懸念を抱く可能性がある。したがって、音声を常時収音せずに、ユーザによる音声入力の開始の意思を判定する仕組みが必要である。
【００１２】
また、特定のフレーズをユーザに発話させる構成を前記操作端末にそのまま適用すると、家電機器を操作するたびにユーザは特定のフレーズを発話する必要があることに加え、操作端末の方を向いているにも拘わらずユーザは特定のフレーズを発話する必要があるため、ユーザに煩わしさ及び不自然さを与えてしまう。
【００１３】
その一方、上述の特許文献１、２のようにユーザが行う何らかのジェスチャーをトリガーにロボット等の機器の操作する手法が存在する。
【００１４】
しかし、特許文献１が検出対象とするジェスチャーは、ユーザがロボットに物を拾わせたり、ロボットを移動させたりするためのジェスチャーであり、音声認識の開始の意思表示のためのジェスチャーではない。そのため、特許文献１では、ユーザに対して空間内の特定の方向に腕を向けるジェスチャーが要求されている。したがって、特許文献１の技術を前記操作端末に適用すると、ユーザは音声認識を開始させるために、わざわざ特定の方向に腕を向けるジェスチャーをする必要があり、ユーザに煩わしさを与えてしまう。
【００１５】
また、特許文献２は、ショッピングモール、博物館、展示会場などの空間内において、任意の位置で行われるユーザによる腕を使ったジェスチャーを管理する技術であり、音声認識の開始の意思表示のためのジェスチャーを管理する技術ではない。また、特許文献２が管理対象とするジェスチャーは、展示物などの物体に対して腕を向けるジェスチャーであるため、腕の方向が重要となり、その方向が異なれば異なるジェスチャーと判断される。したがって、特許文献２の技術をそのまま前記操作端末に適用した場合、ユーザは管理されたジェスチャーと同じ方向に腕を向けるジェスチャーを行う必要があり、ユーザに煩わしさを与えてしまう。また、特許文献２において、腕の方向を厳密に問わない簡易なジェスチャーで音声認識を開始させようとする場合、ユーザは音声認識の開始に利用したい多種多様な腕の方向の異なるジェスチャーを事前に登録する必要があり、やはりユーザに煩わしさを与えてしまう。
【００１６】
そこで、本発明者は、ユーザに煩わしさを与えずに音声認識を開始させるためには、厳密な腕の向きを問わないような簡易なジェスチャーが有効であるとの知見を得て本開示を想到するにいたった。
【００１７】
本開示の一態様に係る操作端末は、ユーザの発話音声によって操作される操作端末であって、
空間を撮像する撮像部と、
撮像された前記空間の情報から、前記ユーザを検出する人検出部と、
前記ユーザによる発話音声の入力を受け付ける音声入力部と、
前記人検出部により前記ユーザが検出された場合、所定の手段によって得られた情報に基づいて前記ユーザの上肢に含まれる所定の第一部位の第一座標と前記ユーザの上肢を除く上半身に含まれる所定の第二部位の第二座標とを検出する座標検出部と、
前記第一座標と前記第二座標との位置関係を比較し、少なくとも一回、前記位置関係が所定の第一条件を満たした場合、前記音声入力部を音声入力の受付可能状態とする条件判定部とを備える。
【００１８】
本構成によれば、ユーザの上肢に含まれる第一部位の第一座標と、ユーザの上肢を除く上半身に含まれる第二部位の第二座標との位置関係が所定の第一条件を満たす場合に音声入力部は音声入力の受付可能状態とされる。そのため、本構成は、例えば、首より少し上に腕を上げるというような腕の向きを問わない簡易なジェスチャーをユーザに行わせることによって音声入力部を音声入力の受付可能状態にすることができる。その結果、ユーザに煩わしさを与えることなく、操作端末を音声入力の受付可能状態にすることができる。
【００１９】
上記態様において、前記空間の情報から、前記ユーザの骨格情報を抽出する骨格情報抽出部をさらに備え、
前記所定の手段によって得られた情報は、前記骨格情報であってもよい。
【００２０】
本態様によれば、ユーザの骨格情報に基づいて、第一座標と第二座標とが検出されているため、第一座標と第二座標とを正確に検出できる。
【００２１】
上記態様において、前記撮像部は、可視光カメラ、赤外線カメラ、ＴＯＦセンサ、超音波センサ、又は電波センサであってもよい。
【００２２】
本構成によれば、撮像部が可視光カメラ、赤外線カメラ、ＴＯＦセンサ、超音波センサ、又は電波センサで構成されているため、空間情報に距離情報が含まれることになり、周囲の空間に居るユーザを正確に検出できる。
【００２３】
上記態様において、前記位置関係は、鉛直方向における、前記第一座標と前記第二座標との位置関係であってもよい。
【００２４】
第一座標と第二座標との鉛直方向における位置関係が第一条件を満たす場合、音声入力の受付可能状態になるため、ユーザは、例えば、鉛直方向に上肢を上げるような簡易なジェスチャーを行うだけで、受付可能状態にすることができる。
【００２５】
上記態様において、前記位置関係は、前記ユーザの体幹軸方向における、前記第一座標と前記第二座標との位置関係であってもよい。
【００２６】
本構成によれば、第一座標と第二座標との位置関係が第一条件を満たした場合に受付可能状態になるため、ユーザは、例えば、体幹軸方向に上肢を上げるような簡易なジェスチャーを行うだけで、前記受付可能状態にすることができる。また、体幹軸方向を基準に位置関係が判断されているため、ユーザは、例えば、寝ころんだ状態、起立した状態というような現在の姿勢を気にせずに、上肢を体幹軸方向に上げることで前記受付可能状態にすることができる。
【００２７】
上記態様において、前記座標検出部は、さらに前記上半身における第三部位の第三座標を検出し、
前記第一条件は、前記第一座標、前記第二座標、及び前記第三座標の成す角度が、所定の閾値を超える、前記所定の閾値を下回る、又は所定の範囲に収まることであってもよい。
【００２８】
本構成によれば、上半身における第三部位の第三座標がさらに検出され、第一座標、第二座標、及び第三座標の成す角度が所定の閾値を超える、下回る、又は所定の範囲内に収まった場合、位置関係が第一条件を満たすと判定される。そのため、ユーザは、例えば、上肢が体幹軸方向に対して所定角度になるようなジェスチャーによって前記受付可能状態にすることができる。
【００２９】
上記態様において、前記第一部位は、前記上肢に含まれる複数の部位を含み、
前記第一座標は、前記複数の部位のいずれか１以上の座標に基づいて決定されてもよい。
【００３０】
本構成によれば、第一部位を構成する複数の部位のそれぞれの座標に基づいて第一座標が決定されるため、第一座標を柔軟に決定できる。
【００３１】
上記態様において、前記第二部位は、前記上肢を除く前記上半身に含まれる複数の部位を含み、
前記第二座標は、前記複数の部位のいずれか１以上の座標に基づいて決定されてもよい。
【００３２】
本構成によれば、第二部位を構成する複数の部位のそれぞれの座標に基づいて第二座標が決定されるため、第二座標を柔軟に決定できる。
【００３３】
上記態様において、前記第一条件は、複数の第二条件を含み、
前記条件判定部は、前記位置関係が、前記複数の第二条件の少なくとも１つ、又は前記複数の第二条件の一部を組み合わせた第三条件を満たす場合に前記受付可能状態にしてもよい。
【００３４】
本構成によれば、位置関係が第一条件を満たすか否かの判定を柔軟に行うことができる。
【００３５】
上記態様において、前記音声入力部が前記受付可能状態にあるか否かを示す情報を出力する表示部又は再生部をさらに備えてもよい。
【００３６】
本構成によれば、音声入力部が受付可能状態にあるか否かを示す情報を視覚的又は聴覚的にユーザに通知できる。
【００３７】
上記態様において、前記表示部は、ディスプレイであってもよい。
【００３８】
本構成によれば、音声入力部が受付可能状態にあるか否かを示す情報をディスプレイを用いてユーザに通知できる。
【００３９】
上記態様において、前記音声入力部が前記受付可能状態にあるか否かを示す情報は、色、テキスト、又はアイコンであってもよい。
【００４０】
本構成によれば、色、テキスト、又はアイコンを用いて音声入力部が受付可能状態であるか否かをユーザに通知できる。
【００４１】
上記態様において、前記表示部は、前記音声入力部が前記受付可能状態にあることを示す光を発光する発光装置であってもよい。
【００４２】
本構成によれば、発光装置から発光される光によって音声入力部が受付可能状態にあるか否かをユーザに通知できる。
【００４３】
上記態様において、前記再生部は、前記音声入力部が前記受付可能状態にあるか否かを示す音声を出力してもよい。
【００４４】
本構成によれば、音声によって音声入力部が受付可能状態にあるか否かをユーザに通知できる。
【００４５】
上記態様において、前記再生部は、前記音声入力部が前記受付可能状態にあるか否かを示す音を出力してもよい。
【００４６】
本構成によれば、音によって音声入力部が受付可能状態にあるか否かをユーザに通知できる。
【００４７】
上記態様において、前記条件判定部は、前記操作端末と前記ユーザとの距離が所定の第四条件を満たすときにのみ、前記位置関係を比較してもよい。
【００４８】
本構成によれば、操作端末とユーザとの距離が所定の第四条件を満たすときのみ、第一座標及び第二座標の位置関係が比較されるため、操作端末を操作する意思のないユーザに対して位置関係を比較する処理が実行されることを防止でき、処理コストを低減できる。
【００４９】
上記態様において、前記条件判定部は、前記受付可能状態において無音区間が一定時間続いた場合、前記受付可能状態を終了してもよい。
【００５０】
本構成によれば、受付可能状態において無音区間が一定時間続いた場合、受付可能状態が終了されるため、ユーザが操作端末を操作する意思がないにも拘わらず、受付可能状態が継続されることを防止できる。その結果、ユーザのプライバシーを確保できる。
【００５１】
上記態様において、前記条件判定部は、前記受付可能状態において前記位置関係が前記第一条件を満たしている限り、前記受付可能状態を継続してもよい。
【００５２】
本構成によれば、受付可能状態においては位置関係が第一条件を満たしている限り、受付可能状態が継続されるため、ユーザは位置関係が第一条件を満たすジェスチャーを継続することで、操作端末への音声による操作の意思表示を示すことができる。
【００５３】
上記態様において、前記条件判定部は、前記受付可能状態において前記位置関係が前記第一条件を満たさない状態が所定のタイムアウト期間継続した場合、前記受付可能状態を終了してもよい。
【００５４】
本構成によれば、受付可能状態において位置関係が第一条件を満たさない状態がタイムアウト期間継続された場合、受付可能状態が終了されるため、ユーザが操作端末を操作する意思がないにも拘わらず、受付可能状態が継続されることを防止できる。その結果、ユーザのプライバシーを確保できる。
【００５５】
上記態様において、前記条件判定部は、前記タイムアウト期間において、前記位置関係が前記第一条件を満たすと判定した場合、前記タイムアウト期間を延長してもよい。
【００５６】
上記構成によれば、タイムアウト期間において、再度、位置関係が第一条件を満たすジェスチャーを行うことによって音声入力の受付可能状態を継続させることができる。
【００５７】
上記態様において、前記条件判定部は、前記タイムアウト期間の終了時に音声入力が検出されていれば、前記受付可能状態を継続してもよい。
【００５８】
本態様によれば、位置関係が第一条件を満たさない状態がタイムアウト期間継続されたとしてもタイムアウト期間の終了時に音声入力が検出されていれば、受付可能状態が継続されるため、操作端末を操作するための発話を行っているにも拘わらず、受付可能状態が終了されることを防止できる。
【００５９】
上記態様において、前記条件判定部は、前記位置関係が前記第一条件とは異なる所定の第五条件を満たした場合、前記受付可能状態を終了してもよい。
【００６０】
本構成によれば、ユーザは位置関係が第五条件を満たすジェスチャーを行うことで、受付可能状態を終了させることができる。
【００６１】
上記態様において、前記条件判定部は、前記人検出部が複数のユーザを検出した場合、特定の一人を前記操作端末の操作者として認識してもよい。
【００６２】
本構成によれば、人検出部が複数のユーザを検出した場合、特定の一人が操作端末の操作者として認識されるため、操作端末の周囲に複数のユーザがいる状況下で、一人のユーザに操作端末を操作する権利を与えることができる。その結果、操作者の操作に関する発話を正確に認識できる。
【００６３】
上記態様において、前記操作者は、前記複数のユーザのうち前記操作端末に最も近いユーザであってもよい。
【００６４】
本構成によれば、人検出部が複数のユーザを検出した場合、操作端末の最も近くに居るユーザが操作者として特定されるため、複数のユーザの中から一人の操作者を簡素な処理により特定できる。
【００６５】
本開示は、このような操作端末に含まれる特徴的な各構成をコンピュータに実行させるプログラム、或いはこのプログラムによって動作する音声入力方法として実現することもできる。また、このようなプログラムを、ＣＤ−ＲＯＭ等のコンピュータ読取可能な非一時的な記録媒体あるいはインターネット等の通信ネットワークを介して流通させることができるのは、言うまでもない。
【００６６】
なお、以下で説明する実施の形態は、いずれも本開示の一具体例を示すものである。以下の実施の形態で示される数値、形状、構成要素、ステップ、ステップの順序などは、一例であり、本開示を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。また全ての実施の形態において、各々の内容を組み合わせることもできる。
【００６７】
（実施の形態１）
図１は、本開示の実施の形態１に係る操作端末１とユーザＵ１との位置関係の一例を示した図である。操作端末１は、例えば、ユーザＵ１が居住する家などの建物内に設置され、ユーザＵ１が発話した音声を収音し、音声認識することで、ユーザＵ１からの操作を受け付ける装置である。操作端末１が受け付ける操作は、例えば、建物内に設置された電化機器に対する操作、及び操作端末１への操作などである。電化機器は、例えば、洗濯機、冷蔵庫、電子レンジ、空調器機などの家庭用電化機器、及びテレビ、オーディオ機器、レコーダーなどのＡＶ機器などである。ユーザＵ１は、ある電化機器を操作する場合、操作端末１に近づいて、当該電化機器を操作するための発話を行う。すると、操作端末１は発話された音声を音声認識し、操作対象となる電化機器及びその電化機器に対する操作内容を決定し、操作対象となる電化機器に対して操作内容に応じた制御コマンドを送信する。なお、操作端末１は、ネットワークを介して電化機器と無線又は有線により通信可能に接続されている。ネットワークは、例えば、無線ＬＡＮ、有線ＬＡＮなどである。なお、ネットワークにはインターネットが含まれていてもよい。
【００６８】
図２は、操作端末１の外観構成の一例を示した図である。図２に例示するように操作端末１は、撮像装置３０１（撮像部の一例）及び収音装置３０７（音声入力部の一例）を備えている。撮像装置３０１はユーザＵ１が操作端末１の周囲に存在していることを検出する人検出機能と、ユーザＵ１の空間内における位置を検出する位置検出機能と、図３に例示するようなユーザＵ１の骨格情報２０１を検出する骨格検出機能とを備えていてもよい。収音装置３０７は、ユーザＵ１が操作端末１に対して発話した音声を収音する機能を有している。
【００６９】
図３は、撮像装置３０１によって計測されるユーザＵ１の骨格情報２０１の一例を示す図である。骨格情報２０１にはユーザＵ１の複数の部位のそれぞれの空間における三次元座標を含む部位座標２０２と、部位座標２０２の各々をユーザＵ１の身体に沿って繋ぐリンク２０３とを備えている。部位座標は、手首、肘、肩などの関節の座標と、指先、足先、及び頭部などの身体の末端の座標とを含む。なお、部位座標は、胸の中心、へそなどの関節及び先端以外の身体の特徴的な部位の座標を含んでもよい。
【００７０】
図３の例では、上から順に、頭の先、首と顔の付け根（首先）、首と胴体の付け根（首元）、左右の肘、左右の手首、腰、左右の膝、左右の足首が部位座標２０２として採用されている。
【００７１】
部位座標２０２を示す三次元座標は、例えば、操作端末１を基準に設定された直交座標系、ユーザＵ１を基準に設定された直交座標系、操作端末１を基準に設定された極座標系、又はユーザＵ１を基準に設定された極座標系で定義される。但し、これは一例であり、三次元座標を定義する座標系は、これらの座標系に限定されない。リンク２０３は、例えば、部位座標２０２同士を繋ぐ三次元ベクトルである。
【００７２】
撮像装置３０１は、周囲の空間情報が取得できる機能を備えていれば、その構成は特に限定されない。例えば、撮像装置３０１は、可視光カメラ、赤外線カメラ、ＴＯＦセンサ、超音波センサ、及び電波センサなど、操作端末１の周囲の空間の三次元的な情報を示す空間情報を計測するセンサで構成される。なお、撮像装置３０１は、可視光カメラ、赤外線カメラ、ＴＯＦセンサ、超音波センサ、及び電波センサのいずれか２つ以上を組合せて人検出機能および骨格情報検出機能を実現してもよい。
【００７３】
可視光カメラは、例えば、カラー、モノクロのカメラである。赤外線カメラは、照射した赤外光の反射時間を複数の画素ごとに計測する。ＴＯＦ（Ｔｉｍｅ  ｏｆ  ｆｌｉｇｈｔ）センサは、照射したパルス光の反射時間を複数の画素ごとに計測する。超音波センサは、例えば、超音波センサアレイである。電波センサは、例えば、電波センサアレイである。
【００７４】
図４は、本開示の実施の形態１に係る操作端末１の構成の一例を示すブロック図である。
【００７５】
操作端末１は、プロセッサ３００、撮像装置３０１、収音装置３０７、収音音声記録部３０８、及びメモリ３０９を備える。プロセッサ３００は、ＣＰＵ等の電子回路で構成され、人検出部３０２、骨格情報抽出部３０３、ジェスチャー抽出部３０４、開始条件判定部３０５、及び管理部３０６を備える。メモリ３０９は収音音声記録部３０８を含む。
【００７６】
撮像装置３０１は、例えば、所定のフレームレートで空間情報を取得し、人検出部３０２及び骨格情報抽出部３０３に出力する。空間情報は、例えば、ＲＧＢの色成分及び深度成分を含む複数の画素データがマトリックス状に配列されたデータである。なお、空間情報を構成する画素データは深度成分及び色成分の少なくとも一方を備えてればよく、色成分に代えて輝度成分を備えていてもよい。
【００７７】
人検出部３０２は、撮像装置３０１から空間情報を取得し、操作端末１の周囲の空間内にユーザが存在しているか否かを検出し、ユーザの存在の有無を示す検出結果をジェスチャー抽出部３０４に出力する。ここで、人検出部３０２は、種々の人検出手法を用いて空間情報からユーザを検出すればよい。例えば、人検出部３０２は、空間情報から１以上の物体を抽出し、１以上の物体のうちいずれか１つが人を示す物体であれば、ユーザが存在すると判定すればよい。
【００７８】
骨格情報抽出部３０３は、撮像装置３０１から空間情報を取得し、取得した空間情報からユーザの骨格情報２０１を抽出し、ジェスチャー抽出部３０４に出力する。骨格情報抽出部３０３は、空間情報を取得する度に骨格情報を抽出してもよいし、後述するようにジェスチャー抽出部３０４から骨格情報の抽出依頼を取得したことをトリガーにユーザの骨格情報を抽出してもよい。この場合、骨格情報抽出部３０３は、例えば、ジェスチャー抽出部３０４から、空間情報内に居るユーザの人数及び空間情報内でユーザが居る領域を含む抽出依頼を取得する。これにより、骨格情報抽出部３０３は、ユーザが居る領域内の空間情報から骨格情報２０１を抽出することができ、空間情報の全域から骨格情報２０１を抽出する場合に比べて、処理負荷を削減できる。また、骨格情報抽出部３０３は、人検出部３０２が複数のユーザを検出した場合は、各ユーザが位置する領域をジェスチャー抽出部３０４から取得してもよい。
【００７９】
骨格情報抽出部３０３は、例えば、スケルトントラッキング、モーションキャプチャリングなどの手法を用いて骨格情報をリアルタイムで抽出する。骨格情報抽出部３０３は、空間内に複数のユーザが存在する場合、それぞれのユーザの骨格情報２０１をリアルタイムで抽出してもよい。
【００８０】
ジェスチャー抽出部３０４（座標検出部の一例）は、人検出部３０２から取得した検出結果及び骨格情報抽出部３０３から取得した骨格情報２０１に基づいて、第一座標及び第二座標を抽出し、第一座標及び第二座標を含むジェスチャー抽出情報を開始条件判定部３０５に出力する。
【００８１】
例えば、ジェスチャー抽出部３０４は、人検出部３０２からユーザが検出されたことを示す検出結果を取得した場合、骨格情報抽出部３０３から骨格情報を取得する。或いは、ジェスチャー抽出部３０４は、人検出部３０２から人が検出されたことを示す検出結果を取得した場合、骨格情報抽出部３０３に骨格情報の抽出依頼を出力し、それによって骨格情報抽出部３０３から骨格情報を取得してもよい。この場合、ジェスチャー抽出部３０４は、人検出部３０２の検出結果が示す空間情報内でのユーザの人数及びユーザの居る領域などを抽出依頼に含ませて骨格情報抽出部３０３に出力すればよい。
【００８２】
第一座標は、上肢を構成する第一部位の座標である。第二座標は、上肢を除く上半身を構成する第二部位の座標である。上肢は肩関節から指先までを指す。下肢は腰から足先までを指す。上半身は腰から頭の先までを指す。したがって、第二部位は、上肢を除く上半身、すなわち、胴体、首、及び顔内の特定の部位である。例えば、第二部位は、首先、首元、頭の先などである。第一部位は、例えば、手首、肘、及び肩などである。
【００８３】
本実施の形態では、ジェスチャー抽出部３０４は、例えば、手首、肘、及び肩のうちのいずれか一つの部位（例えば手首）を第一部位として採用する。また、ジェスチャー抽出部３０４は、例えば、首先、首元、頭の先のうちいずれか一つの部位（例えば、首元）を第二部位として採用する。
【００８４】
但し、これは一例であり、ジェスチャー抽出部３０４は、例えば、手首、肘、及び肩のうちの２以上を第一部位として採用してもよいし、例えば、首元、首先、頭の先のいずれか２つ以上を第二部位として採用してもよい。この場合、ジェスチャー抽出部３０４は、２以上の第一部位の全部又は一部の平均値又は加算値を第一座標として算出してもよい。さらに、この場合、ジェスチャー抽出部３０４は、２以上の第二部位の全部又は一部の平均値又は加算値を第二座標として算出してもよい。
【００８５】
さらに、ジェスチャー抽出部３０４は、上半身において第一部位及び第二部位以外の第三部位を抽出してもよい。第三部位は、例えば腰、臍、胸元などである。この場合、ジェスチャー抽出部３０４は、第一座標及び第二座標に加えてさらに第三部位の第三座標をジェスチャー抽出情報に含めればよい。
【００８６】
開始条件判定部３０５は、ジェスチャー抽出部３０４から取得したジェスチャー抽出情報に含まれる第一座標及び第二座標の位置関係を比較し、位置関係が音声入力の開始条件（第一条件の一例）を満たすか否かの判定結果を管理部３０６に出力する。開始条件は、例えば、ユーザが上肢を上げるというようなユーザが音声入力の開始の意思表示を示す所定のジェスチャーをしていることを示す条件である。具体的には第一座標が手首、第二座標が首元であるとすると、鉛直方向において第一座標が第二座標よりも上に位置するという条件が開始条件の一例として挙げられる。
【００８７】
管理部３０６は、開始条件判定部３０５から開始条件が満たされていることを示す判定結果を取得した場合、メモリ３０９に記憶された状態フラグを立てると共に収音装置３０７に開始指示を出力することで、収音装置３０７を音声入力の受付可能状態にする。一方、管理部３０６は、開始条件判定部３０５から開始条件が満たされていないことを示す判定結果を取得した場合、終了指示を収音装置３０７に出力することで、受付可能状態を終了する。このとき、管理部３０６は、メモリ３０９に記憶された状態フラグを下げることによって、受付可能状態が終了したことを管理する。これにより、ユーザは開始条件を満たすジェスチャーをしている限り、受付可能状態を継続できる。なお、状態フラグを立てるとは、状態フラグのステータスを受付可能状態にすることを指し、状態フラグを下げるとは、状態フラグのステータスを受付可能状態ではない状態（待機状態）にすることを指す。
【００８８】
収音装置３０７は、周囲の音を取得するマイク、及びマイクを制御する電気回路を含む。収音装置３０７は、管理部３０６から開始指示を取得した場合、マイクに周囲の音を収音させ、収音された音を示す音声信号を収音音声記録部３０８に記録する。これにより、収音装置３０７は、受付可能状態になる。一方、収音装置３０７は、管理部３０６から終了指示を取得した場合、収音を終了する。これにより、収音装置３０７は待機状態になる。
【００８９】
収音音声記録部３０８は、収音装置３０７から取得した音声信号を記録することで、操作端末１の音声記録機能を実現する。収音音声記録部３０８は、例えば、不揮発性メモリで構成されてもよいし、揮発性メモリで構成されてもよい。
【００９０】
図５は、本開示の実施の形態１に係る開始条件判定部３０５の処理の一例を示すフローチャートである。
【００９１】
ステップＳ４０１では、開始条件判定部３０５は、ジェスチャー抽出部３０４からジェスチャー抽出情報を取得する。
【００９２】
ステップＳ４０２では、開始条件判定部３０５は、ステップＳ４０１で取得したジェスチャー抽出情報に基づいて、操作端末１の周囲のジェスチャー可能範囲内にユーザが存在しているか否かを判定する。ジェスチャー可能範囲内にユーザが存在しないと判定した場合（ステップＳ４０２でＮＯ）、開始条件判定部３０５は、処理をステップＳ４０１に戻し、ジュスチャー抽出情報を取得する。一方、ジェスチャー可能範囲内にユーザが存在すると判定した場合（ステップＳ４０２でＹＥＳ）、ステップＳ４０３を実行する。ジェスチャー可能範囲の詳細は、図８を用いて後述される。ここで、開始条件判定部３０５は、ジェスチャー抽出情報に含まれる第一座標、第二座標、及び第三座標などのユーザの位置を示す座標がジェスチャー可能範囲内にあれば、ユーザはジェスチャー可能範囲内に居ると判定し、前記座標がジェスチャー可能範囲内になければ、ユーザはジェスチャー可能範囲内に居ないと判定すればよい。
【００９３】
ステップＳ４０３では、開始条件判定部３０５は、ジェスチャー抽出情報に含まれる第一座標、第二座標、及び第三座標の位置関係が開始条件を満たしているか否かを判定する（ステップＳ４０３）。そして、開始条件を満たしていると判定した場合（ステップＳ４０３でＹＥＳ）、開始条件判定部３０５は、ユーザが音声入力の開始の意思表示を示すジェスチャーを行ったため、処理をステップＳ４０４に進める。一方、開始条件を満たしていないと判定した場合（ステップＳ４０３でＮＯ）、開始条件判定部３０５は、処理をステップＳ４０１に戻し、ジュスチャー抽出情報を取得する。
【００９４】
ステップＳ４０４では、開始条件判定部３０５は、開始条件を満たしていることを示す判定結果を管理部３０６に出力する。ステップＳ４０４が終了すると、開始条件判定部３０５は、処理をステップＳ４０１に戻し、ジュスチャー抽出情報を取得する。
【００９５】
図６は、本開示の実施の形態における管理部３０６の処理の一例を示すフローチャートである。ステップＳ６０１では、管理部３０６は、収音装置３０７が音声入力の受付可能状態であるか否かを判定する。この場合、管理部３０６は、メモリ３０９に記憶された状態フラグが立っていれば、受付可能状態にあると判定し、メモリ３０９に記憶された状態フラグが立っていなければ、受付可能状態にないと判定すればよい。
【００９６】
受付可能状態にあると判定した場合（ステップＳ６０１でＹＥＳ）、管理部３０６は、処理をステップＳ６０１に戻す。一方、受付可能状態でないと判定した場合（ステップＳ６０１でＮＯ）、管理部３０６は、処理をステップＳ６０２に進める。
【００９７】
ステップＳ６０２では、管理部３０６は、開始条件判定部３０５から開始条件を満たすことを示す判定結果を取得した場合（ステップＳ６０２でＹＥＳ）、処理をＳ６０３に進め、開始条件を満たすことを示す判定結果を取得しなかった場合（ステップＳ６０２でＮＯ）、管理部３０６は、処理をステップＳ６０１に戻す。
【００９８】
ステップＳ６０３では、管理部３０６は、開始指示を収音装置３０７に出力することで、収音装置３０７を受付可能状態にすると共に、メモリ３０９に記憶された状態フラグを立てる。ステップＳ６０３の処理が終了すると、管理部３０６は、処理をステップＳ６０１に戻す。
【００９９】
次に、開始条件について説明する。図７は、開始条件を説明するために、ユーザＵ１の骨格情報２０１を例示した図である。図７は、ステップＳ４０３において、開始条件の比較対象となる第一座標、第二座標、及び第三座標が例示されている。図７の例では、第一座標として、手首座標Ｈが採用され、第二座標として首元座標Ｎが採用され、第三座標として腰座標Ｗが採用されている。
【０１００】
開始条件の第一例は、手首座標Ｈが首元座標Ｎよりも鉛直方向に対して第一閾値（例えば２０ｃｍ）以上、大きい（高い）という条件である。鉛直方向とは、地面に対して直交する方向である。この場合、ユーザＵ１は、手首座標Ｈが首元座標Ｎよりも鉛直方向に対して第一閾値以上高くなるように上肢を上げるジェスチャーを行うことによって、収音装置３０７を受付可能状態にすることができる。なお、上肢は右腕であってもよいし、左腕であってもよい。
【０１０１】
開始条件の第二例は、手首座標Ｈと首元座標Ｎとが鉛直方向に対して所定範囲内に収まるという条件である。例えば、首元座標Ｎを中心に鉛直方向上下の所定範囲内（例えば、プラスマイナス１０ｃｍ程度）に手首座標Ｈが位置するという条件が開始条件の第二例として採用できる。この場合、ユーザＵ１は、肘を曲げて手首座標Ｈを胸元付近まで上げるジェスチャー又は、肘を曲げずに上肢全体を胴体の外側に回して手首座標Ｈを胸元付近まで上げるジェスチャーを行うことで、受付可能状態にできる。
【０１０２】
開始条件の第三例は、首元座標Ｎと腰座標Ｗとをつないだ体幹軸方向において、手首座標Ｈが首元座標Ｎよりも第一閾値（例えば１０ｃｍ）以上大きいという条件である。この場合、ユーザＵ１は、手首座標Ｈが首元座標Ｎよりも第一閾値以上高くなるように上肢を上げるジェスチャーを行うことによって、受付可能状態にすることができる。この場合、ユーザＵ１は、寝ころんでいる或いは起立しているとった現在の姿勢に拘わらず、鉛直方向を意識せずに、体幹軸方向に沿って上肢を上げることで、受付可能状態にできる。
【０１０３】
また、開始条件の第四例は、手首座標Ｈと首元座標Ｎとが体幹軸方向に対して所定範囲内に収まるという条件である。例えば、首元座標Ｎを中心に体幹軸方向上下の所定範囲内（例えば、プラスマイナス１０ｃｍ程度）に手首座標Ｈが位置するという条件が開始条件の第四例として採用できる。この場合、ユーザＵ１は例えば、寝ころんだ状態で、肘を曲げて手首座標Ｈを胸元付近まで上げるジェスチャー又は、肘を曲げずに上肢全体を胴体の外側に回して手首座標Ｈを胸元付近まで上げるジェスチャーを行うことで、受付可能状態にできる。
【０１０４】
また、開始条件の第五例は、手首座標Ｈ及び首元座標Ｎを結んだ上肢方向を示す線分と、腰座標Ｗ及び首元座標Ｎを結んだ体幹軸方向を示す線分との成す角度が所定の第二閾値（例えば１００度、８０度など）以上であるという条件である。この場合、ユーザＵ１は、起立状態又は寝ころんだ状態といった現在の姿勢に拘わらず、鉛直方向を意識せずに体幹軸方向に対して手を上げるジェスチャーを行うことによって、前記受付可能状態にすることができる。
【０１０５】
また、開始条件の第六例は、手首座標Ｈ及び首元座標Ｎを結んだ上肢方向を示す線分と、腰座標Ｗ及び首元座標Ｎを結んだ体幹軸方向を示す線分との成す角度が所定の角度範囲内収まっているという条件である。所定の角度範囲は、例えば、１００度を中心にプラスマイナス１０度、２０度などである。この場合、ユーザＵ１は、起立した状態及び寝ころんだ状態といった現在の姿勢に拘わらず、鉛直方向を意識せずに上肢方向と体幹軸方向との成す角度が所定の角度範囲内になるように上肢を上げるジェスチャーを行うことによって受付可能状態にすることができる。
【０１０６】
開始条件は、第一例〜第六例のうちのいずれか２以上を組み合わせた条件であってもよい。例えば、開始条件は、第一例〜第六例のうちいずれか２以上の条件が共に成立したという条件（第三条件の一例）が採用できる。或いは、開始条件は、第一例〜第六例のうちのいずれか一つ又は少なくとも２つが成立したという条件（第二条件の一例）であってもよい。ここでは、第一例〜第六例は共に上肢を上げるというジェスチャーが想定されているが、これは一例である。例えば、上肢を下げるジェスチャー、左右の上肢を広げるジェスチャーなど種々のジェスチャーが開始条件として採用でき、検出対象となるジェスチャーは特に限定されない。左右の上肢を広げるジェスチャーは、例えば、左右の上肢を上に上げるジェスチャー、左右の上肢を下に下げるジェスチャー、及び片方の上肢を上げて残り片方の上肢を下げるジェスチャーなどである。
【０１０７】
次に、ステップＳ４０２の処理の一例を説明する。図８は、ジェスチャー可能範囲９０１の一例を示す図である。図８に例示されるようにジェスチャー可能範囲９０１は、ジェスチャー不可能範囲９０２と、ジェスチャー不可能範囲９０３とに挟まれている。
【０１０８】
開始条件判定部３０５は、ジェスチャー可能範囲９０１及びジェスチャー不可能範囲９０２、９０３とユーザＵ１の位置とを比較することによって、ユーザＵ１のジェスチャーを検出する範囲をユーザＵ１と操作端末１との距離によって制限する。
【０１０９】
ジェスチャー不可能範囲９０２は、ジェスチャー可能範囲９０１の下限値Ｄ１を半径とし、操作端末１を中心とする円形又は扇形の領域である。ジェスチャー可能範囲９０１は、上限値Ｄ２を半径とする円形又は扇形の領域からジェスチャー不可能範囲９０２を取り除いたドーナツ状の領域である。ジェスチャー不可能範囲９０３は、操作端末１から上限値Ｄ２より離れた領域である。
【０１１０】
したがって、開始条件判定部３０５は、ユーザＵ１の位置が操作端末１に対して下限値Ｄ１から上限値Ｄ２までの範囲に位置する、すなわちジェスチャー可能範囲９０１に位置するという条件（第四条件の一例）を満たす場合、ユーザＵ１のジェスチャーを検出する。一方、開始条件判定部３０５は、ユーザＵ１の位置が操作端末１に対して下限値Ｄ１以下に位置する場合、又は、ユーザＵ１の位置が操作端末１に対して上限値Ｄ２以上の範囲に位置する場合、ユーザＵ１のジェスチャーを検出しない。
【０１１１】
ユーザＵ１の位置が操作端末１に対して近すぎる場合、ユーザＵ１のジェスチャーをうまく検出できない可能性があることに加えてユーザＵ１がたまたま操作端末１の近傍で何らかの作業を行っているなど操作端末１を操作する意思がない可能性もある。また、ユーザＵ１の位置が操作端末１に対して遠すぎる場合、ユーザＵ１が操作端末１を操作する意思がない可能性が高い。そこで、本実施の形態では、開始条件判定部３０５は、ユーザＵ１がジェスチャー可能範囲９０１に居るときのみユーザＵ１のジェスチャーを検出する処理、すなわち、開始条件を満たすか否かを判定する処理を実施することにした。これにより、ジェスチャーの検出精度の低下を防止できると共にユーザＵ１の操作端末１への操作意思がない場合において、ジェスチャーを検出する処理が作動することを防止でき、操作端末１の処理負荷を削減できる。
【０１１２】
上記説明では、ジェスチャー抽出部３０４は、１つの第一座標と１つの第二座標とをジェスチャー抽出情報に含め、開始条件判定部３０５に出力するとして説明したが、本開示はこれに限定されない。ジェスチャー抽出部３０４は、１又は複数の第一座標と１又は複数の第二座標とをジェスチャー抽出情報に含め、開始条件判定部３０５に出力してもよい。
【０１１３】
例えば、ジェスチャー抽出情報に複数の第一座標と１つの第二座標とが含まれる場合、開始条件判定部３０５は、複数の第一座標（例えば、手首座標Ｈ、肘座標、及び肩座標）のうち少なくとも１つの第一座標が１つの第二座標（例えば、首元座標Ｎ）に対して鉛直方向又は体幹軸方向に第一閾値以上、大きければ、開始条件を満たすと判定すればよい。また、ジェスチャー抽出情報に１つの第一座標と複数の第二座標とが含まれる場合、開始条件判定部３０５は、１つの第一座標（例えば、手首座標Ｈ）が複数の第二座標（例えば、胴体座標、首元座標Ｎ、頭の先の座標）の少なくとも１つの第二座標に対して鉛直方向又は体幹軸方向に第一閾値以上、大きいければ、開始条件を満たすと判定すればよい。
【０１１４】
図９は、複数のユーザが操作端末１に対してジェスチャーを行う場合を示した図である。図９のユーザＵ１及びユーザＵ２に例示されるように操作端末１に対して複数のユーザがジェスチャーを行う場合、ジェスチャー抽出部３０４は、１人の操作者を特定し、特定した操作者に対するジェスチャー抽出情報を開始条件判定部３０５に出力してもよい。この場合、ジェスチャー抽出部３０４は、複数のユーザのうち操作端末１に対して最も近くに位置するユーザを操作者として特定してもよい。
【０１１５】
また、ジェスチャー抽出部３０４は、複数のユーザのうち最初に検出されたユーザがジェスチャー可能範囲９０１を出るまで最初に検出されたユーザを操作者として特定し続けてもよい。例えば、ユーザＵ１が先にジェスチャー可能範囲９０１に入り、その後、ユーザＵ２がジェスチャー可能範囲９０１に入った場合、ジェスチャー抽出部３０４は、ユーザＵ１がジェスチャー可能範囲９０１に居る限り、ユーザＵ１を操作者として特定する。そして、ユーザＵ１がジェスチャー可能範囲９０１から出ると、ジェスチャー抽出部３０４は、ジェスチャー可能範囲９０１にユーザＵ２が居れば、ユーザＵ２を操作者として特定する。このとき、ジェスチャー可能範囲９０１内にユーザＵ２の他にユーザＵ３が居れば、ジェスチャー抽出部３０４は、ユーザＵ２、ユーザＵ３のうち操作端末１に対する距離が近い方のユーザを操作者として特定してもよい。
【０１１６】
但し、これらは一例であり複数のユーザの中から１人の操作者を特定する手法は上述の手法に限定されない。
【０１１７】
次に、実施の形態１の変形例について説明する。実施の形態１の変形例は、受付可能状態にあるか否かを示す状態通知を出力するものである。
【０１１８】
図１０は、状態通知の第一例を示す図である。第一例では、操作端末１は、前面にディスプレイ５０１を備え、例えば室内の壁などに取り付けられている。撮像装置３０１はディスプレイ５０１の外枠の例えば上側に設けられている。収音装置３０７は、ディスプレイ５０１の外枠の上側において撮像装置３０１の両側に２つ設けられている。これらのことは、図１１、図１２も同じである。
【０１１９】
状態通知の第一例では、ディスプレイ５０１はテキスト５０２によって状態通知を表示する。この例では、収音装置３０７は音声入力の受付可能状態にあるため、テキスト５０２として「音声入力受付中」が採用されている。これにより、ジェスチャーを行ったユーザは操作端末１が音声入力の受付可能状態であることを認識できる。なお、受付可能状態が終了した場合、ディスプレイ５０１は、テキスト５０２を非表示にしてもよいし、「音声入力待受中」などの操作端末１が受付可能状態にないことを示すテキスト５０２を表示してもよい。なお、図１０に例示したテキスト５０２は一例であり、ユーザが、操作端末１が受付可能状態にあることを認識できるメッセージであれば他のメッセージが採用されてもよい。また、図１０に示す撮像装置３０１及び収音装置３０７のそれぞれの配置場所、個数はほんの一例である。このことは、図１１、図１２も同じである。
【０１２０】
図１１は、状態通知の第二例を示す図である。状態通知の第二例では、ディスプレイ５０１はアイコン５０３によって状態通知を表示する。この例では、収音装置３０７は音声入力の受付可能状態にあるため、アイコン５０３としてマイクを模擬したアイコンが採用されている。これにより、ジェスチャーを行ったユーザは操作端末１が音声入力の受付可能状態であることを認識できる。なお、受付可能状態が終了した場合、ディスプレイ５０１は、アイコン５０３を非表示にしてもよいし、音声入力が待受状態であることを示すアイコンなどを表示してもよい。或いは、ディスプレイ５０１は、受付可能状態にある場合、アイコン５０３を所定の第一色で表示し、音声入力が待受状態である場合、第一色とは異なる所定の第二色でアイコン５０３を表示してもよい。なお、図１０に例示したアイコン５０３は一例であり、ユーザが、受付可能状態にあることを認識できるアイコンであれば他のアイコンが採用されてもよい。
【０１２１】
図１２は、状態通知の第三例を示す図である。状態通知の第三例では、ディスプレイ５０１は表示領域の全面の色５０４によって状態通知を表示する。色５０４とは、表示領域の全面に表示される背景の色である。この例では、収音装置３０７は音声入力の受付可能状態にあるため、色５０４として受付可能状態であることを示す第一色（例えば、赤、青、黄色など）が採用されている。これにより、ジェスチャーを行ったユーザは操作端末１が音声入力の受付可能状態であることを認識できる。なお、受付可能状態が終了した場合、ディスプレイ５０１は、待受状態であることを示す第一色とは異なる第二色を表示すればよい。第二色としては、例えば、ディスプレイ５０１に表示されるデフォルトの背景色が採用でき、例えば、白、黒、などである。なお、図１２に例示した色５０４は一例であり、ユーザが受付可能状態を認識できる色であればどのような色が採用されてもよい。
【０１２２】
図１３は、状態通知の第四例を示す図である。第四例において、操作端末１は、前面に例えば２つの収音装置３０７と例えば１つの撮像装置３０１とが配置され、上面に例えば４つの発光装置５０５が配置されている。なお、第四例において、操作端末１は、例えば、スマートスピーカのような机又は床などの上に置かれる据え置き型の装置で構成されている。発光装置５０５は、例えば、発光ダイオードなどである。
【０１２３】
第四例では、発光装置５０５によって状態通知を表示する。例えば、操作端末１が受付可能状態にある場合、発光装置５０５は発光する。一方、操作端末１が待機状態にある場合、発光装置５０５は消灯する。これにより、ジェスチャーを行ったユーザは受付可能状態であることを認識できる。但し、これは、一例であり、ユーザが受付可能状態を認識できる態様であれば発光装置５０５の表示態様としてどのようなものが採用されてもよい。例えば、受付可能状態にある場合の発光装置５０５の表示態様としては、例えば、常時点灯させる態様、点滅させる態様、発光する色を時間の経過に応じて変化させる態様などが挙げられる。また、発光装置５０５の表示態様としては、例えば、常時点灯しており、受付可能状態になると点滅する態様が採用されてもよいし、その逆の態様が採用されてもよい。或いは、発光装置５０５の表示態様としては、例えば、受付可能状態にあるときと待受状態にあるときとで、発光する色の種類を変える態様が採用されてもよい。
【０１２４】
図１３では、発光装置５０５の個数は４つであるが、これは一例であり、３つ以下、５つ以上であってもよい。また、発光装置５０５は、上面に配置されているが、これも一例に過ぎず、前面、側面、背面などに配置されてもよい。さらに、撮像装置３０１及び収音装置３０７の個数及び配置箇所も特に限定はされない。
【０１２５】
図１４は、状態通知の第五例を示す図である。第五例の操作端末１は、第四例の操作端末１に対して前面にさらにスピーカ５０６が設けられている。第五例ではスピーカ５０６から出力される音によって状態通知を出力する。図１３において、ユーザが受付可能状態であることが認識することが可能であれば、スピーカ５０６の個数及び配置は特に限定されない。第五例においてスピーカ５０６は、受付可能状態にある場合、例えば「音声入力を行ってください」というような受付可能状態であることを示す音声メッセージを出力すればよい。或いは、スピーカ５０６は、受付可能状態にある場合、効果音を出力してもよいし、ビープ音を出力してもよい。これらのように、スピーカ５０６からの音の出力パターンは特定のパターンに限定されない。なお、スピーカ５０６は、待受状態の場合、音の出力を停止すればよい。
【０１２６】
図１０〜図１４に例示した受付可能状態であるか否かをユーザに通知するための操作端末１が備える構成、すなわち、ディスプレイ５０１及び発光装置５０５などの表示装置と、スピーカ５０６などの再生装置とは、任意に組み合わされてもよい。例えば、１又は複数種類の表示装置及び１又は複数種類の再生装置を任意に組合せることで、操作端末１は構成されてもよい。
【０１２７】
図１５は、図４で例示した操作端末１のブロック図に対して、図１０〜図１４で例示した表示装置６０２及び再生装置６０３を加えた場合の操作端末１のブロック図である。
【０１２８】
図１５で例示する操作端末１は、図４に対してさらに、再生装置６０３及び表示装置６０２を備えている。なお、図１５において操作端末１は、再生装置６０３及び表示装置６０２の少なくとも一方を備えればよい。
【０１２９】
なお、図１５において、図４と同一の構成要素には同一の符号を付し、説明を省略する。但し、図１５では管理部に対して３０２の参照符号に代えて６０１の参照符号を付している。
【０１３０】
開始条件判定部３０５は、図４と同様、ジェスチャー抽出部３０４から取得したジェスチャー抽出情報に含まれる第一座標、第二座標、及び第三座標の位置関係が開始条件を満たすか否かを判定し、判定結果を管理部６０１に出力する。この処理の詳細は、図５に例示するフローと同様である。ただし、ステップＳ４０４では、判定結果が管理部３０６に代えて管理部６０１に出力されている。
【０１３１】
管理部６０１は、管理部３０６の機能に加えて、さらに、下記の機能を備える。すなわち、管理部６０１は、開始条件判定部３０５から開始条件を満たす旨の判定結果を取得した場合、図１０〜図１４で例示した状態通知の出力コマンドを再生装置６０３及び表示装置６０２に出力する。
【０１３２】
収音装置３０７は、管理部６０１から開始指示を取得した場合、マイクに周囲の音を収音させ、収音された音を示す音声信号を収音音声記録部３０８に記録する。
【０１３３】
再生装置６０３は、図１４で例示したスピーカ５０６、再生音を再生する再生回路などを備え、管理部３０６から状態通知の出力コマンドを取得した場合、メモリ３０９から所定の再生音を読み出して再生する。ここで、スピーカ５０６から再生される再生音は、図１４で例示した、効果音、ビープ音、又は音声メッセージなどである。これにより、前記状態通知が聴覚を通じてユーザに通知される。
【０１３４】
表示装置６０２は、図１０〜図１４で例示したディスプレイ５０１及び図１３で例示した発光装置５０５の少なくとも一方で構成され、管理部６０１から状態通知の出力コマンドを取得した場合、図１０〜図１４で例示した状態通知を出力する。これにより、メッセージ、色、アイコンなどによって、状態通知が視覚を通じてユーザに通知される。
【０１３５】
このように、本実施の形態によれば、空間内の特定の位置に上肢を向けるというような煩わしいジェスチャーではなく、操作端末１に対して手を挙げる両手を広げるといった簡易なジェスチャーによって受付可能状態にすることが可能となる。
【０１３６】
（実施の形態２）
実施の形態１では、ユーザがジェスチャーによって受付可能状態を開始させる態様を主に例示した。実施の形態２は、実施の形態１の態様において、さらに、収音装置３０７が受付可能状態を終了する態様の詳細を示したものである。
【０１３７】
図１６は、実施の形態２に係る操作端末１の構成の一例を示すブロック図である。なお、本実施の形態において実施の形態１と同一の構成要素は同一の符号を付して説明を省略する。
【０１３８】
図１６の操作端末１は図１５の構成に加えてさらに、タイムアウト判定部７０２、終了条件判定部７０３、及び無音区間検出部７０５を備える。また、ジェスチャー抽出部、開始条件判定部、及び管理部は実施の形態１に対して機能が追加されているため、７００、７０１及び７０４の参照符号を付している。なお、図１６において、操作端末１は再生装置６０３及び表示装置６０２を有している必要はない。
【０１３９】
ジェスチャー抽出部７００は、人検出部３０２から取得した検出結果及び骨格情報抽出部３０３から取得した骨格情報に基づいて、第一座標、第二座標及び第三座標を抽出し、第一座標、第二座標及び第三座標を含むジェスチャー抽出情報を開始条件判定部７０１に出力することに加えてさらに終了条件判定部７０３に出力する。なお、ジェスチャー抽出部７００の処理の詳細は実施の形態１と同じである。
【０１４０】
開始条件判定部７０１は、ジェスチャー抽出部７００から取得したジェスチャー抽出情報に含まれる第一座標、第二座標、及び第三座標の位置関係が開始条件を満たすか否かを判定し、満たすと判定した場合、開始条件が満たされていることを示す判定結果を管理部７０４及びタイムアウト判定部７０２に出力する。なお、実施の形態２において、位置関係が開始条件を満たすか否かの判定処理の詳細は図５のフローと同様である。
【０１４１】
タイムアウト判定部７０２は、開始条件判定部７０１から開始条件を満たされていることを示す判定結果を取得した場合、所定のタイムアウト期間（例えば１０秒間）のカウントダウンを開始し、カウントダウンが完了すると、タイムアウト期間が経過したことを示す判定結果を管理部７０４に出力する。但し、タイムアウト判定部７０２は、カウントダウン中、すなわち、タイムアウト期間内に開始条件判定部７０１から開始条件が満たされたことを示す判定結果を取得した場合、タイムアウト期間を初期化し、最初からタイムアウト期間のカウントダウンを実行する。これにより、受付可能状態において、ユーザが音声入力の終了の意思表示を示すジェスチャーを行わずに、ジェスチャー可能範囲９０１をフェードアウトしたとしても、受付可能状態が継続されることを防止できる。したがって、ユーザが音声入力の終了の意思表示を示すジェスチャーをし忘れた場合において、受付可能状態が継続されることを防止できる。その結果、ユーザのプライバシーを確保できる。
【０１４２】
終了条件判定部７０３は、ジェスチャー抽出部７００から取得したジェスチャー抽出情報に含まれる第一座標、第二座標、及び第三座標の位置関係が終了条件（第五条件の一例）を満たすか否かを判定し、満たすと判定した場合、終了条件が満たされていることを示す判定結果を管理部７０４に出力する。終了条件判定部７０３の処理の詳細は、図１７のフローを用いて後述する。
【０１４３】
管理部７０４は、待受状態にある場合において、開始条件判定部７０１から開始条件が満たされたことを示す判定結果を取得した場合、メモリ３０９に記憶された状態フラグを立てると共に収音装置３０７に開始指示を出力することで、収音装置３０７を受付可能状態にする。
【０１４４】
また、管理部７０４は、受付可能状態にある場合において、タイムアウト判定部７０２からタイムアウト期間が経過したことを示す判定結果を取得した場合、メモリ３０９に記憶された状態フラグを下げると共に終了指示を収音装置３０７に出力することで、受付可能状態を終了させて待機状態にする。
【０１４５】
また、管理部７０４は、受付可能状態にある場合において、終了条件判定部７０３から終了条件が満たされたことを示すを判定結果を取得した場合、メモリ３０９に記憶された状態フラグを下げると共に終了指示を収音装置３０７に出力することで、受付可能状態を終了させて待機状態にする。これにより、ユーザが音声入力の終了の意思表示を示すジェスチャーをすることにより、受付可能状態を終了させることができる。なお、実施の形態１では、管理部３０６は、開始条件判定部３０５から開始条件が満たされていないことを示す判定結果を取得した場合、受付可能状態を終了したが、実施の形態２では、管理部７０４は、基本的に、終了条件判定部７０３から終了条件が満たされたことを示す判定結果を取得した場合、受付可能状態を終了する。
【０１４６】
なお、管理部７０４は、受付可能状態にある場合において、タイムアウト判定部７０２からタイムアウト期間が経過したことを示す判定結果を取得した場合、さらに、無音区間検出部７０５により有音区間が検出されていれば、受付可能状態を継続させてもよい。これにより、ユーザが操作端末１を操作する発話を行っているにも拘わらず、タイムアウト期間の経過を条件に、受付可能状態が自動的に終了する事態を回避できる。
【０１４７】
一方、管理部７０４は、受付可能状態にある場合において、タイムアウト判定部７０２からタイムアウト期間が経過したことを示す判定結果を取得した場合、さらに、無音区間検出部７０５により無音区間が検出されていれば、受付可能状態を終了する。
【０１４８】
無音区間検出部７０５は、収音音声記録部３０８に記録された最新の音声信号に無音区間が含まれているか否かを検出する。ここで、無音区間検出部７０５は、入力レベルが所定の閾値以下になっている時間が所定時間（例えば３００ミリ秒）、継続した場合に音声信号に無音区間があると判定すればよく、無音区間の検出方式は特定の手法に限定されない。無音区間検出部７０５は、無音区間を検出すると、現在の収音状態を無音に設定して、管理部７０４に出力する。一方、無音区間検出部７０５は、有音区間を検出すると、現在の収音状態を有音に設定して、管理部７０４に出力する。
【０１４９】
実施の形態２において、ジェスチャー抽出部７００、開始条件判定部７０１、タイムアウト判定部７０２、終了条件判定部７０３、及び管理部７０４は条件判定部の一例に相当する。
【０１５０】
図１６において、操作端末１は、タイムアウト判定部７０２、終了条件判定部７０３、及び無音区間検出部７０５の全て備える必要はなく、少なくとも１つを備えていればよい。
【０１５１】
図１７は、本開示の実施の形態２に係る終了条件判定部７０３の処理の一例を示すフローチャートである。
【０１５２】
ステップＳ８０１では、終了条件判定部７０３は、ジェスチャー抽出部７００からジェスチャー抽出情報を取得する。
【０１５３】
ステップＳ８０２では、終了条件判定部７０３は、ステップＳ８０１で取得したジェスチャー抽出情報に基づいて、操作端末１の周囲のジェスチャー可能範囲９０１内にユーザが存在しているか否かを判定する。ジェスチャー可能範囲９０１内にユーザが存在しないと判定した場合（ステップＳ８０２でＮＯ）、処理はステップＳ８０１に戻され、ジュスチャー抽出情報が取得される。一方、終了条件判定部７０３は、ジェスチャー可能範囲内にユーザが存在すると判定した場合（ステップＳ８０２でＹＥＳ）、ステップＳ８０３を実行する。ここで、終了条件判定部７０３は、ジェスチャー抽出情報に含まれる第一座標及び第二座標などのユーザの位置を示す座標がジェスチャー可能範囲９０１内にあれば、ユーザはジェスチャー可能範囲９０１内に居ると判定し、前記座標がジェスチャー可能範囲９０１内になければ、ユーザはジェスチャー可能範囲９０１内に居ないと判定すればよい。
【０１５４】
ステップＳ８０３では、終了条件判定部７０３は、ジェスチャー抽出情報に含まれる第一座標、第二座標及び第三座標の位置関係が所定の終了条件（第５条件の一例）を満たしているか否かを判定する。そして、位置関係が終了条件を満たしていると判定した場合（ステップＳ８０３でＹＥＳ）、終了条件判定部７０３は、ユーザが音声入力の終了の意思表示を示すジェスチャーを行ったため、処理をステップＳ８０４に進める。一方、位置関係が終了条件を満たしていないと判定した場合（ステップＳ８０３でＮＯ）、終了条件判定部７０３は処理をステップＳ８０１に戻し、ジェスチャー抽出情報を取得する。
【０１５５】
ステップＳ８０４では、終了条件判定部７０３は、終了条件が満たされていることを示す判定結果を管理部７０４に出力する。ステップＳ８０４が終了すると、終了条件判定部７０３は、処理をステップＳ８０１に戻し、ジュスチャー抽出情報を取得する。
【０１５６】
次に、終了条件について説明する。図１８は、終了条件を説明するために、ユーザＵ１の骨格情報２０１を例示した図である。図１８は、ステップＳ８０３において、開始条件の比較対象となる第一座標、第二座標、及び第三座標が例示されている。図１８の例では、第一座標として手首座標Ｈが採用され、第二座標として首元座標Ｎが採用され、第三座標として腰座標Ｗが採用されている。
【０１５７】
終了条件の第一例は、開始条件の第一例に対応するものであり、手首座標Ｈが首元座標Ｎよりも鉛直方向に対して第一閾値（例えば２０ｃｍ）以上、小さい（低い）という条件である。この場合、ユーザＵ１は、手首座標Ｈが首元座標Ｎよりも鉛直方向に対して第一閾値以上低くなるように上肢を下げるジェスチャーを行うことによって、受付可能状態を終了できる。なお、上肢は右腕であってもよいし、左腕であってもよい。
【０１５８】
終了条件の第二例は、開始条件の第二例に対応するものであり、手首座標Ｈと首元座標Ｎとが鉛直方向に対して所定範囲内に収まらなくなるという条件である。この場合、ユーザＵ１は、胸元付近まで上げた手首座標Ｈを鉛直方向に閾値範囲外の位置まで降ろす又は上げるジェスチャーを行うことで、受付可能状態を終了できる。
【０１５９】
終了条件の第三例は、開始条件の第三例に対応するものであり、首元座標Ｎと腰座標Ｗとをつないだ体幹軸方向において、手首座標Ｈが首元座標Ｎよりも第一閾値以上小さいという条件である。この場合、ユーザＵ１は、手首座標Ｈが首元座標Ｎに対して体幹軸方向に対して第一閾値以上低くなるように上肢を下げるジェスチャーを行うことによって、受付可能状態を終了できる。
【０１６０】
終了条件の第四例は、開始条件の第四例に対応するものであり、手首座標Ｈと首元座標Ｎとが体幹軸方向に対して所定範囲内に収まらなくなるという条件である。この場合、ユーザＵ１は、胸元付近まで上げた手首座標Ｈを体幹軸方向に閾値範囲外の位置まで上げる又は下げるジェスチャーを行うことによって受け付け可能状態を終了できる。
【０１６１】
終了条件の第五例は、開始条件の第五例に対応するものであり、手首座標Ｈ及び首元座標Ｎを結んだ上肢方向を示す線分と、腰座標Ｗ及び首元座標Ｎを結んだ体幹軸方向を示す線分との成す角度が所定の第二閾値（１００度、８０度など）未満であるという条件である。この場合、ユーザＵ１は、起立状態又は寝ころんだ状態であるかっといった現在の姿勢に拘わらず、鉛直方向を意識せずに、体幹軸方向に対して手を下げるジェスチャーを行うことによって受付可能状態を終了できる。
【０１６２】
終了条件の第六例は、開始条件の第六例に対応するものであり、手首座標Ｈ及び首元座標Ｎを結んだ上肢方向を示す線分と、腰座標Ｗ及び首元座標Ｎを結んだ体幹軸方向を示す線分との成す角度が所定の角度範囲内に収まっているという条件である。この場合、ユーザＵ１は、起立状態又は寝ころんだ状態であるかっといった現在の姿勢に拘わらず、鉛直方向を意識せずに、体幹軸方向に対して手を下げるジェスチャーを行うことによって受付可能状態を終了できる。
【０１６３】
終了条件は、第一例〜第六例のうちいずれか２以上を組み合わせた条件であってもよい。例えば、終了条件は、第一例〜第六例のうちいずれか２以上の条件が共に成立したという条件が採用できる。或いは、終了条件は、第一例〜第六例のうちいずれか１つが成立したという条件であってもよい。ここでは、終了条件の第一例〜第六例は共に上肢を下げるジェスチャーが想定されているが、これは一例である。例えば、開始条件として上肢を下げる又は両手を下げるジェスチャーが採用されているのであれば、終了条件として上肢を上げる又は両手を上げるジェスチャーが終了条件として採用されてもよい。すなわち、終了条件は、開始条件と重複しないという制約が満たされているのであれば、どのような条件が採用されてもよい。
【０１６４】
次に、ステップＳ８０２の処理の一例について図８を用いて説明する。終了条件判定部７０３は、開始条件判定部７０１と同様、ユーザＵ１の位置が操作端末１に対して下限値Ｄ１から上限値Ｄ２までの範囲内に位置する、すなわち、ジェスチャー可能範囲９０１にユーザが位置する場合、ジェスチャーを検出する。一方、終了条件判定部７０３は、ユーザＵ１の位置が操作端末に対して下限値Ｄ１以下に位置する場合、又は、ユーザＵ１の位置が操作端末１に対して上限値Ｄ２以上の範囲に位置する場合、ユーザＵ１のジェスチャーを検出しない。
【０１６５】
ユーザＵ１の位置が操作端末１に対して近すぎる場合、ユーザＵ１のジェスチャーをうまく検出できない可能性があることに加えてユーザＵ１が音声入力の終了の意思表示を示すジェスチャーをし忘れてジェスチャー可能範囲９０１をフェードアウトした可能性がある。また、ユーザＵ１の位置が操作端末１に対して遠すぎる場合、ユーザＵ１が音声入力の終了の意思表示を示すジェスチャーをし忘れてジェスチャー可能範囲９０１をフェードアウトした可能性がある。そこで、本実施の形態では、終了条件判定部７０３は、ユーザＵ１がジェスチャー可能範囲９０１に居る場合にユーザＵ１のジェスチャーを検出する処理、すなわち、終了条件を満たすか否かを判定する処理を実施することにした。これにより、ジェスチャーの検出精度の低下を防止できると共にユーザＵ１が音声入力の終了の意思表示を示すジェスチャーをし忘れている場合において、受付可能状態が継続されることを防止できる。
【０１６６】
また、終了条件判定部７０３は、開始条件判定部７０１と同様、１又は複数の第一座標と１又は複数の第二座標とがジェスチャー抽出情報に含まれている場合は、これらの座標を用いて、終了条件を判定してもよい。
【０１６７】
例えば、ジェスチャー抽出情報に複数の第一座標と１つの第二座標とが含まれている場合、終了条件判定部７０３は、複数の第一座標（例えば、手首座標Ｈ、肘座標、及び肩座標）のうち少なくとも１つの第一座標が１つの第二座標（例えば、首元座標Ｎ）に対して鉛直方向又は体幹軸方向に第一閾値以上、小さければ、終了条件を満たすと判定すればよい。また、ジェスチャー抽出情報に１つの第一座標と複数の第二座標とが含まれる場合、終了条件判定部７０３は、１つの第一座標（例えば、手首座標Ｈ）が複数の第二座標（例えば、胴体座標、首元座標Ｎ、頭の先の座標）の少なくとも１つの第二座標に対して鉛直方向又は体幹軸方向に第一閾値以上、小さければ、終了条件を満たすと判定すればよい。但し、開始条件と終了条件とは重複していてはならない。
【０１６８】
次に、タイムアウト期間が延長される処理の詳細について説明する。図１９は、本開示の実施の形態２に係るタイムアウト判定部７０２の処理の一例を示すフローチャートである。
【０１６９】
Ｓ１６０１では、タイムアウト判定部７０２は、タイムアウト期間のカウントダウン中であるか否かを判定する。カウントダウン中であれば（ステップＳ１６０１でＹＥＳ）、タイムアウト判定部７０２は、処理をＳ１６０２に進め、カウントダウン中でなければ（ステップＳ１６０１でＮＯ）、処理をステップＳ１６０１に戻す。
【０１７０】
ステップＳ１６０２では、タイムアウト判定部７０２は、開始条件判定部７０１から開始条件が満たされることを示す判定結果を取得したか否かを判定する。この判定結果を取得した場合（ステップＳ１６０２でＹＥＳ）、タイムアウト判定部７０２は、処理をステップＳ１６０３に進め、この判定結果を取得しない場合（ステップＳ１６０２でＮＯ）、処理をステップＳ１６０１に戻す。
【０１７１】
ステップＳ１６０３では、タイムアウト判定部７０２は、タイムアウト期間を初期値に戻して、再度カウントダウンを開始することで、タイムアウト期間を延長する。ステップＳ１６０３の処理が終了すると、処理はステップＳ１６０１に戻る。
【０１７２】
以上により、ジェスチャー可能範囲９０１内でユーザが音声入力の意思表示を示すジェスチャーを行っている限り、タイムアウト期間は延長され、操作端末１を操作する発話が収音されない事態を回避できる。
【０１７３】
次に、管理部７０４の処理について説明する。図２０は、本開示の実施の形態２に係る管理部７０４が受付可能状態を終了させるときの処理の一例を示すフローチャートである。なお、管理部７０４が受付可能状態を開始させるときの処理は図６と同じであるため、ここでは、説明を省略する。ステップＳ１７０１では、管理部７０４は、メモリ３０９に記憶された状態フラグを参照することで、受付可能状態であるか否かを判定する。受付可能状態であれば（ステップＳ１７０１でＹＥＳ）、処理はステップＳ１７０２に進み、受付可能状態でなければ（ステップＳ１７０１でＮＯ）、処理はステップＳ１７０１に戻る。
【０１７４】
ステップＳ１７０２では、管理部７０４は、終了条件判定部７０３から終了条件が満たされていることを示す判定結果を取得できたか否かを判定する。この判定結果が取得された場合（ステップＳ１７０２でＹＥＳ）、処理はステップＳ１７０５に進み、この判定結果が取得されなかった場合（ステップＳ１７０２でＮＯ）、処理はステップＳ１７０３に進む。
【０１７５】
ステップＳ１７０３では、管理部７０４は、タイムアウト判定部７０２からタイムアウト期間が経過したことを示す判定結果を取得したか否かを判定する。この判定結果が取得された場合（ステップＳ１７０３でＹＥＳ）、処理はステップＳ１７０４に進み、この判定結果が取得されない場合（ステップＳ１７０３でＮＯ）、処理はステップＳ１７０１に戻る。
【０１７６】
ステップＳ１７０４では、管理部７０４は、無音区間検出部７０５から出力された収音状態が無音であることを示すか否かを判定する。収音状態が無音であることを示せば（ステップＳ１７０４でＹＥＳ）、処理はステップＳ１７０５に進み、収音状態が有音であることを示せば（ステップＳ１７０４でＮＯ）、処理はステップＳ１７０１に戻る。これにより、タイムアウト期間の経過時に無音区間が検出されていれば、受付可能状態が終了され、有音区間が検出されていれば、受付可能状態は継続される。
【０１７７】
ステップＳ１７０５では、管理部７０４は、受付可能状態を終了し、処理をステップＳ１７０１に戻す。
【０１７８】
以上、実施の形態２によれば、、ユーザは操作端末１に対して、例えば、手を上げるというような簡易なジェスチャーによって受付可能状態を開始させ、手を下げるというような簡易なジェスチャーによって受付可能状態を終了させることができる。
【０１７９】
次に、実施の形態２の変形例について説明する。実施の形態２においても、実施の形態１と同様、図９に示すように、に操作端末１に対して複数のユーザがジェスチャーを行う場合、ジェスチャー抽出部７００は、１人の操作者を特定してもよい。この場合、ジェスチャー抽出部７００は、実施の形態１と同様、最も近くにいるユーザを操作者として特定してもよいし、最初に検出されたユーザがジェスチャー可能範囲９０１を出るまで、そのユーザを操作者として特定し続けてもよい。
【０１８０】
図１６の例では、撮像装置３０１、収音装置３０７、再生装置６０３、及び表示装置６０２は、操作端末１が備えていたが、本開示はこれに限定されない。例えば、図２１に示すように、撮像装置３０１、再生装置６０３、及び表示装置６０２は、操作端末１とは別の装置で構成されてもよい。
【０１８１】
図２１は、撮像装置３０１、再生装置６０３、及び表示装置６０２を操作端末１とは別の装置で構成した場合の構成の一例を示す図である。図２１において、撮像装置３０１、再生装置６０３、及び表示装置６０２はＬＡＮ等のネットワークを介して相互に通信可能に接続されている。
【０１８２】
図２１の例では、ユーザＵ１が収音装置３０７を有した操作端末１に対して行ったジェスチャーが、操作端末１とは別体の撮像装置３０１により撮像され、撮像装置３０１は得られた空間情報から音声入力の開始の意思表示を示すジェスチャー又は音声入力の終了の意思表示を示すジェスチャーとを検出し、検出結果を操作端末１に送信する。操作端末１は、撮像装置３０１による検出結果に応じて、収音装置３０７を受付可能状態又は待機状態にする。そして、操作端末１は、状態通知を表示装置６０２及び再生装置６０３に送信し、表示装置６０２及び再生装置６０３から図１０〜図１４に示すような状態通知を出力させる。
【０１８３】
また、図２１において、操作端末１、撮像装置３０１、表示装置６０２、及び再生装置６０３は、それぞれ、複数の装置で構成されてもよいし、一つの装置に一体的に構成されていてもよい。また、図２１の例では、収音装置３０７は操作端末１が備えているが、操作端末１とは別体の装置で構成されていてもよい。
【０１８４】
さらに、実施の形態２において、管理部７０４は、受付可能状態において、無音区間が検出された場合、ユーザがジェスチャー可能範囲９０１に居るか否かに拘わらず、音声入力の終了の意思表示を示すジェスチャーをするか否かに拘わらず、或いは、タイムアウト期間が経過するか否かに拘わらず、受付可能状態を終了させてもよい。
【産業上の利用可能性】
【０１８５】
本開示によって実現される、操作端末の音声入力の開始および終了をユーザのジェスチャーによって判定する技術は、ユーザが厳密なジェスチャーを覚える必要がなくなり、ジェスチャーによる簡易な音声入力の開始および終了を実現する手法として有用である。
【符号の説明】
【０１８６】
１          ：操作端末
３００      ：プロセッサ
３０１      ：撮像装置
３０２      ：人検出部
３０３      ：骨格情報抽出部
３０４      ：ジェスチャー抽出部
３０５      ：開始条件判定部
３０６      ：管理部
３０７      ：収音装置
３０８      ：収音音声記録部
３０９      ：メモリ
５０１      ：ディスプレイ
５０２      ：テキスト
５０３      ：アイコン
５０４      ：色
５０５      ：発光装置
５０６      ：スピーカ
６０１      ：管理部
６０２      ：表示装置
６０３      ：再生装置
７００      ：ジェスチャー抽出部
７０１      ：開始条件判定部
７０２      ：タイムアウト判定部
７０３      ：終了条件判定部
７０４      ：管理部
７０５      ：無音区間検出部
【図１】
2019220145.tif 000003
【図２】
2019220145.tif 000004
【図３】
2019220145.tif 000005
【図４】
2019220145.tif 000006
【図５】
2019220145.tif 000007
【図６】
2019220145.tif 000008
【図７】
2019220145.tif 000009
【図８】
2019220145.tif 000010
【図９】
2019220145.tif 000011
【図１０】
2019220145.tif 000012
【図１１】
2019220145.tif 000013
【図１２】
2019220145.tif 000014
【図１３】
2019220145.tif 000015
【図１４】
2019220145.tif 000016
【図１５】
2019220145.tif 000017
【図１６】
2019220145.tif 000018
【図１７】
2019220145.tif 000019
【図１８】
2019220145.tif 000020
【図１９】
2019220145.tif 000021
【図２０】
2019220145.tif 000022
【図２１】
2019220145.tif 000023