(57)【要約】  ユーザーの耳において装用されるインテリジェントイヤピースについて記載する。イヤピースは、ＩＭＵ、ＧＰＳユニット、及び少なくとも１つのカメラに接続されたプロセッサを含む。プロセッサは、保存された物体データ及び慣性計測データ又は場所データのうちの少なくとも１つに基づいて画像データを分析することにより、周囲環境内の物体を認識する。プロセッサは、認識された物体、予め決定されたユーザーデータ、及び現時点の時刻又は日付に基づいて望ましいイベント又は動作を決定する。プロセッサは、決定された望ましいイベント又は動作に基づいて目的地を決定する。プロセッサは、決定された目的地、画像データ、慣性計測データ、又は場所データに基づいて、インテリジェントガイダンス装置を目的地までナビゲートするためのナビゲーション経路を決定する。プロセッサは、決定されたナビゲーション経路に基づいて出力データを決定する。
2017529521.tif 000002
【特許請求の範囲】
【請求項１】
ユーザーの耳において装用されるインテリジェントイヤピースであって、
前記インテリジェントイヤピースに結合されると共に、前記インテリジェントイヤピースの位置決め、速度、又は加速度に対応した慣性計測データを検出するように構成された慣性計測ユニット（ＩＭＵ）と、
前記インテリジェントイヤピースに結合されると共に、前記インテリジェントイヤピースの場所に対応した場所データを検出するように構成された全地球測位システム（ＧＰＳ）ユニットと、
インテリジェントガイダンス装置の周囲環境に対応した画像データを検出するように構成された、前記インテリジェントイヤピースに結合された少なくとも１つのカメラと、
予め決定された物体に関する物体データを保存するように構成され、且つ、前記ユーザーと関連する予め決定されたユーザーデータを保存するための、メモリと、
前記ＩＭＵ、前記ＧＰＳ、及び前記少なくとも１つのカメラに接続されたプロセッサであって、前記プロセッサは、
前記保存された物体データ及び前記慣性計測データ又は前記場所データのうちの少なくとも１つに基づいて前記画像データを分析することにより、前記周囲環境内の物体を認識し、
前記認識された物体、前記予め決定されたユーザーデータ、及び現時点の時刻又は日付に基づいて望ましいイベント又は動作を決定し、
前記決定された望ましいイベント又は動作に基づいて、目的地を決定し、
前記決定された目的地、前記画像データ、及び前記慣性計測データ又は前記場所データのうちの少なくとも１つに基づいて、前記インテリジェントガイダンス装置を前記目的地までナビゲートするためのナビゲーション経路を決定し、且つ、
前記決定されたナビゲーション経路に基づいて出力データを決定する、
ように構成されている、前記プロセッサと、
前記認識された物体、決定された望ましいイベント又は動作、又はナビゲーション経路のうちの少なくとも１つに基づいて、前記ユーザーにオーディオ情報を提供するように構成されたスピーカと、
を有するインテリジェントイヤピース。
【請求項２】
請求項１に記載のインテリジェントイヤピースにおいて、
前記決定された出力データに基づいて前記ユーザーに第１触覚情報を提供するように構成された、前記インテリジェントイヤピースに結合された振動モーターを更に有する、インテリジェントイヤピース。
【請求項３】
請求項１に記載のインテリジェントイヤピースにおいて、
前記メモリは、マップデータを保存するように構成されており、且つ、前記プロセッサは、前記画像データ、前記マップデータ、及び前記場所データ又は前記慣性計測データのうちの少なくとも１つに基づいて前記ナビゲーション経路を決定するように構成されている、インテリジェントイヤピース。
【請求項４】
請求項１に記載のインテリジェントイヤピースにおいて、
別の人物によって使用される別の携帯型電子装置又はコンピュータとのオーディオ又はビデオ通信を確立するための無線通信アンテナを更に有し、
前記プロセッサは、前記決定された望ましいイベント又は動作に基づいて前記オーディオ又はビデオ通信を確立するように更に構成されている、インテリジェントイヤピース。
【請求項５】
請求項１に記載のインテリジェントイヤピースにおいて、
無線通信用に構成されたアンテナを更に有する、インテリジェントイヤピース。
【請求項６】
請求項１に記載のインテリジェントイヤピースにおいて、
前記ユーザー又は別の人物の発話を検出するように構成されたマイクロフォンを更に有し、
前記プロセッサは、
前記ユーザー又は前記別の人物の会話を発話要素に解析し、
前記予め決定されたユーザーデータに基づいて前記発話要素を分析し、且つ、
前記分析された発話要素に更に基づいて前記望ましいイベント又は動作を決定する、
ように更に構成されている、インテリジェントイヤピース。
【請求項７】
請求項１に記載のインテリジェントイヤピースにおいて、
前記周囲環境に関する深さ情報を検出するように構成された立体カメラのペアを更に有する、インテリジェントイヤピース。
【請求項８】
請求項１に記載のインテリジェントイヤピースにおいて、
１２０度の視野内において画像データを検出するように構成された広角カメラを更に有する、インテリジェントイヤピース。
【請求項９】
イヤピースによって連続的な社会的且つ環境的認識を提供する方法であって、
慣性計測ユニット（ＩＭＵ）、全地球測位システムユニット（ＧＰＳ）、又はカメラを介して、前記イヤピースの位置決め、速度、又は加速度に対応した慣性計測データ、前記イヤピースの場所に対応した場所データ、又は前記イヤピースの周囲環境に対応した画像データを検出することと、
メモリ内において、予め決定された物体に関する物体データと、ユーザーに関する予め決定されたユーザーデータと、を保存することと、
プロセッサにより、前記保存された物体データ及び前記慣性計測データ又は前記場所データのうちの少なくとも１つに基づいて、前記画像データを分析することにより、前記周囲環境内の物体を認識することと、
前記プロセッサにより、
前記認識された物体、前記予め決定されたユーザーデータ、及び現時点の時刻又は日付に基づいて、望ましいイベント又は動作を決定し、
前記決定された望ましいイベント又は動作に基づいて、目的地を決定し、
前記決定された目的地、前記画像データ、及び前記慣性計測データ又は前記場所データのうちの少なくとも１つに基づいて、インテリジェントガイダンス装置を前記目的地までナビゲートするためのナビゲーション経路を決定し、且つ、
前記決定されたナビゲーション経路に基づいて、出力データを決定することと、
スピーカ又は振動ユニットを介して、前記認識された物体、前記決定された望ましいイベント又は動作、又はナビゲーション経路のうちの少なくとも１つに基づいてオーディオ又は触覚情報を前記ユーザーに提供することと、
を有する方法。
【請求項１０】
前記データを検出することは、カメラにより、前記イヤピースの周囲環境に対応した画像データを検出することを含み、
逸脱データを決定することは、前記物体データと前記画像データの間の逸脱データを決定することを含み、
オーディオ又は触覚情報を前記ユーザーに提供することは、前記逸脱データに基づいてオーディオ又は触覚データを提供することを更に含む、方法。
【請求項１１】
請求項９に記載の方法において、
ナビゲーション経路を決定することは、前記画像データ、前記マップデータ、及び前記場所データ又は前記慣性計測データのうちの少なくとも１つに基づいて前記ナビゲーション経路を決定することを含む、方法。
【請求項１２】
請求項９に記載の方法において、
アンテナを介して、前記画像データ及び前記慣性計測データ又は前記場所データのうちの少なくとも１つをリモート装置に送信することを更に含み、前記プロセッサは、前記リモート装置上において配置されている、方法。
【請求項１３】
請求項９に記載の方法において、
前記メモリ内において、マップデータを保存することと、前記プロセッサにより、前記画像データ、前記マップデータ、及び前記場所データ又は前記慣性計測データのうちの少なくとも１つに基づいて前記ナビゲーション経路を決定することと、を更に有する、方法。
【請求項１４】
請求項９に記載の方法において、
物体データを保存することは、その他のインテリジェント装置によってアクセスされうるリモートデータベース内において物体データを保存することを含む、方法。
【請求項１５】
ユーザーの耳において装用されるインテリジェントイヤピースであって、
前記インテリジェントイヤピースに結合されると共に、前記インテリジェントイヤピースの位置決め、速度、又は加速度に対応した慣性計測データを検出するように構成された慣性計測ユニット（ＩＭＵ）と、
前記インテリジェントイヤピースに結合されると共に、前記インテリジェントイヤピースの場所に対応した場所データを検出するように構成された全地球測位システム（ＧＰＳ）ユニットと、
インテリジェントガイダンス装置の周囲環境に対応した画像データを検出するように構成された、前記インテリジェントイヤピースに結合された少なくとも１つのカメラと、
予め決定された物体に関する物体データを保存するように構成された、且つ、前記ユーザーと関連する予め決定されたユーザーデータを保存するための、メモリと、
前記画像データ、前記慣性計測データ、前記場所データ、前記物体データをリモートプロセッサに送信すると共に、処理されたデータを前記リモートプロセッサから受信するように構成されたアンテナであって、前記リモートプロセッサは、
前記保存された物体データ及び前記慣性計測データ又は前記場所データのうちの少なくとも１つに基づいて前記画像データを分析することにより、前記周囲環境内の物体を認識し、
前記認識された物体、前記予め決定されたユーザーデータ、及び現時点の時刻又は日付に基づいて望ましいイベント又は動作を決定し、
前記決定された望ましいイベント又は動作に基づいて目的地を決定し、
前記決定された目的地、前記画像データ、及び前記慣性計測データ又は前記場所データのうちの少なくとも１つに基づいて前記インテリジェントガイダンス装置を前記目的地までナビゲートするためのナビゲーション経路を決定し、且つ、
前記決定されたナビゲーション経路に基づいて出力データを決定するように構成されている、前記アンテナと、
前記認識された物体、決定された望ましいイベント又は動作、又はナビゲーション経路のうちの少なくとも１つに基づいて前記ユーザーにオーディオ情報を提供するように構成されたスピーカと、
を有するインテリジェントイヤピース。
【請求項１６】
請求項１５に記載のインテリジェントイヤピースにおいて、
前記決定された出力データに基づいて第１触覚情報を前記ユーザーに提供するように構成された、前記イヤピースに結合された振動モーターを更に有する、インテリジェントイヤピース。
【請求項１７】
請求項１５に記載のインテリジェントイヤピースにおいて、
前記メモリは、マップデータを保存するように構成されており、且つ、前記プロセッサは、前記画像データ、前記マップデータ、及び前記場所データ又は前記慣性計測データのうちの少なくとも１つに基づいて前記ナビゲーション経路を決定するように構成されている、インテリジェントイヤピース。
【請求項１８】
請求項１５に記載のインテリジェントイヤピースにおいて、
別の人物によって使用される別の携帯型電子装置又はコンピュータとオーディオ又はビデオ通信を確立するための無線通信アンテナを更に有し、
前記プロセッサは、前記決定された望ましいイベント又は動作に基づいて前記オーディオ又はビデオ通信を確立するように更に構成されている、インテリジェントイヤピース。
【請求項１９】
請求項１５に記載のインテリジェントイヤピースにおいて、
前記ユーザー又は別の人物の発話を検出するように構成されたマイクロフォンを更に有し、
前記プロセッサは、
前記ユーザー又は前記別の人物の会話を発話要素に解析し、
前記予め決定されたユーザーデータに基づいて前記発話要素を分析し、且つ、
前記分析された発話要素に更に基づいて前記望ましいイベント又は動作を決定する、ように更に構成されている、インテリジェントイヤピース。
【請求項２０】
請求項１５に記載のインテリジェントイヤピースにおいて、
前記周囲環境に関する深さ情報を検出するように構成された立体カメラのペアを更に有する、インテリジェントイヤピース。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、装用可能装置に関し、この装置は、様々なセンサ及びユーザー入力に基づいて触覚及びオーディオフィードバックを提供する。
【背景技術】
【０００２】
カメラなどの入力、スピーカなどの出力、及びプロセッサを有する装用可能装置は、当技術分野において、現時点で存在している。但し、これらの装置は、特定の身体障害を有するユーザーを支援するために最適化されてはいない。例えば、これらの装置は、ユーザー及びユーザーの環境の理解を実現するべく、ユーザー及びユーザーの環境に関するデータを積極的に収集してはいない。又、これらの装置は、有用な情報又は支援をユーザーに対して積極的に提供してもいない。換言すれば、当技術分野における既知の装置は、ナビゲーション、環境的認識、及び社会的やり取りにおいて、ユーザーを積極的に支援してはいない。
【発明の概要】
【発明が解決しようとする課題】
【０００３】
従って、ユーザー及びユーザーの周囲情報に関するデータを積極的に収集し、収集されたデータに基づいて有用な推定を導出し、且つ、ナビゲーション、環境的認識、及び社会的やり取りにおいてユーザーを積極的に支援する装用可能装置に対するニーズが存在している。
【課題を解決するための手段】
【０００４】
ユーザーの耳に装用されるインテリジェントイヤピースについて記述されている。イヤピースは、インテリジェントイヤピースに結合された慣性計測ユニット（ＩＭＵ：Ｉｎｅｒｔｉａｌ  Ｍｅａｓｕｒｅｍｅｎｔ  Ｕｎｉｔ）を含む。ＩＭＵは、インテリジェントイヤピースの位置決め、速度、又は加速度に対応した慣性計測データを検出するように構成されている。又、イヤピースは、インテリジェントイヤピースの場所に対応した場所データを検出するように構成された、イヤピースに結合された全地球測位システム（ＧＰＳ：Ｇｌｏｂａｌ  Ｐｏｓｉｔｉｏｎｉｎｇ  Ｓｙｓｔｅｍ）ユニットをも含む。少なくとも１つのカメラが、インテリジェントイヤピースに結合されており、且つ、インテリジェントガイダンス装置の周囲環境に対応した画像データを検出するように構成されている。イヤピースは、予め決定された物体に関する物体データを保存するように構成されたメモリを含む。又、メモリは、ユーザーと関連する予め決定されたユーザーデータをも保存する。又、イヤピースは、ＩＭＵ、ＧＰＵユニット、及び少なくとも１つのカメラに接続されたプロセッサをも含む。プロセッサは、周囲環境内の物体を認識するように構成されている。これは、保存されている物体データ及び慣性計測データ又は場所データのうちの少なくとも１つに基づいて画像データを分析することにより、実行される。又、プロセッサは、認識された物体、予め決定されたユーザーデータ、及び現時点の時刻又は日付に基づいて望ましいイベント又は動作を決定するようにも構成されている。又、プロセッサは、決定された望ましいイベント又は動作に基づいて目的地を決定するようにも構成されている。又、プロセッサは、インテリジェントガイダンス装置を目的地までナビゲートするためのナビゲーション経路を決定するようにも構成されている。これは、決定された目的地、画像データ、及び慣性計測データ又は場所データのうちの少なくとも１つに基づいて決定される。又、プロセッサは、決定されたナビゲーション経路に基づいて出力データを決定するようにも構成されている。認識された物体、決定された望ましいイベント又は動作、又はナビゲーション経路のうちの少なくとも１つに基づいてオーディオ情報をユーザーに提供するように構成されたスピーカが含まれている。
【０００５】
又、イヤピースによって連続的な社会的且つ環境的認識を提供する方法についても記述されている。方法は、慣性計測ユニット（ＩＭＵ）、全地球測位システムユニット（ＧＰＳ）、又はカメラを介して、イヤピースの位置決め、速度、又は加速度に対応した慣性計測データを検出することを有する。又、イヤピースの場所に対応した場所データ又はイヤピースの周囲環境に対応した画像データも決定される。又、方法は、メモリ内において、予め決定された物体に関する物体データ及び予め決定されたユーザーに関するユーザーデータを保存することをも含む。又、方法は、プロセッサにより、保存されている物体データ及び慣性計測データ又は場所データのうちの少なくとも１つに基づいて画像データを分析することにより、周囲環境内の物体を認識することをも含む。方法は、プロセッサにより、認識された物体、予め決定されたユーザーデータ、及び現時点の時刻又は日付に基づいて、望ましいイベント又は動作を決定することを更に含む。又、プロセッサは、決定された望ましいイベント又は動作に基づいて目的地をも決定する。プロセッサは、決定された目的地、画像データ、及び慣性計測データ又は場所データのうちの少なくとも１つに基づいて、インテリジェントガイダンス装置を目的地までナビゲートするためのナビゲーション経路を決定してもよい。プロセッサは、決定されたナビゲーション経路に基づいて、出力データを決定してもよい。方法は、認識された物体、決定された望ましいイベント又は動作、又はナビゲーション経路のうちの少なくとも１つに基づいて、スピーカ又は振動ユニットを介して、オーディオ又は触覚情報をユーザーに提供することを更に含む。
【０００６】
ユーザーの耳に装用されるインテリジェントイヤピースについて記述されている。イヤピースは、インテリジェントイヤピースに結合されると共に、インテリジェントイヤピースの位置決め、速度、又は加速度に対応した慣性計測データを検出するように構成された慣性計測ユニット（ＩＭＵ）を含む。又、イヤピースは、インテリジェントイヤピースに結合されると共に、インテリジェントイヤピースの場所に対応した場所データを検出するように構成された全地球測位システム（ＧＰＳ）ユニットをも含む。又、イヤピースは、インテリジェントガイダンス装置の周囲環境に対応した画像データを検出するように構成された、インテリジェントイヤピースに結合された少なくとも１つのカメラをも含む。又、イヤピースは、予め決定された物体に関する物体データを保存するように構成された、且つ、ユーザーと関連する予め決定されたユーザーデータを保存するための、メモリをも含む。又、イヤピースは、画像データ、慣性計測データ、場所データ、及び物体データをリモートプロセッサに送信すると共に、リモートプロセッサから処理済みのデータを受信するように構成されたアンテナをも含む。リモートプロセッサは、保存されている物体データ及び慣性計測データ又は場所データのうちの少なくとも１つに基づいて画像データを分析することにより、周囲環境内の物体を認識するように構成されている。又、リモートプロセッサは、認識された物体、予め決定されたユーザーデータ、及び現時点の時刻又は日付に基づいて望ましいイベント又は動作を決定するようにも構成されている。又、リモートプロセッサは、決定された望ましいイベント又は動作に基づいて目的地を決定するようにも構成されている。又、リモートプロセッサは、決定された目的地、画像データ、及び慣性計測データ又は場所データのうちの少なくとも１つに基づいてインテリジェントガイダンス装置を目的地までナビゲートするためのナビゲーション経路を決定するようにも構成されている。リモートプロセッサは、決定されたナビゲーション経路に基づいて出力データを決定するように更に構成されている。又、イヤピースは、認識された物体、決定された望ましいイベント又は動作、又はナビゲーション経路のうちの少なくとも１つに基づいてオーディオ情報をユーザーに提供するように構成されたスピーカをも含む。
【０００７】
本発明のその他のシステム、方法、特徴、及び利点については、以下の図及び詳細な説明を参照することにより、当業者に明らかとなろう。すべてのこのような更なるシステム、方法、特徴、及び利点は、本明細書に包含され、本発明の範囲に含まれ、且つ、添付の請求項によって保護されるものと解釈されたい。図面に示されている構成部品は、必ずしも縮尺が正確ではなく、且つ、本発明の重要な特徴を相対的に良好に示すべく、誇張されている場合がある。添付図面においては、同一の参照符号は、様々な図の全体を通じて、同一の部分を表記している。
【図面の簡単な説明】
【０００８】
【図１Ａ】本発明の一実施形態によるイヤピースのブロックダイアグラムである。
【図１Ｂ】本発明の一実施形態によるイヤピースを示す。
【図１Ｃ】本発明の一実施形態によるイヤピースを示す。
【図１Ｄ】本発明の一実施形態によるユーザーの耳において位置決めされたイヤピースを示す。
【図１Ｅ】本発明の一実施形態によるユーザーの耳において位置決めされたイヤピースを示す。
【図１Ｆ】本発明の一実施形態によるユーザーの耳において位置決めされたイヤピースを示す。
【図１Ｇ】本発明の一実施形態によるユーザーの耳において位置決めされたイヤピースを示す。
【図２】本発明の一実施形態による物体認識ロジックのフローチャートである。
【図３Ａ】本発明の一実施形態による視覚データセットに適用される物体認識ロジックを示す。
【図３Ｂ】本発明の一実施形態による図３Ａに示されている物体認識ロジックを示す。
【図３Ｃ】本発明の一実施形態による図３Ａに示されている物体認識ロジックを示す。
【図４】本発明の一実施形態によるスライス記述子に基づいて位置又は向きを推定する方法を示すフローチャートである。
【図５】本発明の一実施形態によるイヤピースのユーザーに支援を提供するための第１及び／又は第２出力データを出力するフローチャートである。
【図６Ａ】本発明の一実施形態による検出されたデータに基づいて移動支援装置をナビゲートし、且つ／又は、移動支援装置のユーザーに有用な情報を提供する例示用の方法を示す。
【図６Ｂ】本発明の一実施形態による決定された望ましいイベント、動作、及び／又は目的地に基づいて移動支援装置をナビゲートし、且つ／又は、移動支援装置のユーザーに支援を提供する例示用の方法を示す。
【図７】本発明の一実施形態によるイヤピースによる危険支援のための例示用の方法を示す。
【図８Ａ】本発明の一実施形態によるイヤピースを使用した安全監視及び警告のための例示用の方法を示す。
【図８Ｂ】本発明の一実施形態による図８Ａの方法の一例を示す。
【図９Ａ】本発明の一実施形態によるイヤピースのユーザーにナビゲーション支援を提供する例示用の方法を示す。
【図９Ｂ】本発明の一実施形態による図９Ａの方法の例示用の使用法を示す。
【発明を実施するための形態】
【０００９】
以下、図面を参照し、本出願の様々な特徴の実装形態を実装する装置、システム、及び方法について説明することとする。図面及び関連する説明は、本出願のいくつかの実装形態を例示するべく、提供されるものであり、本出願の範囲を限定するものではない。図面の全体を通じて、参照符号は、参照された要素の間における対応性を示すべく再使用されている。
【００１０】
社会的且つ環境的認識を提供する装用可能なインテリジェントイヤピースは、当技術分野の現時点の状態との比較において、いくつかの利点を提供する。装用可能なイヤピースにおける入力の選択及び配置は、最適化されている。この結果、相対的に正確な出力がユーザーに提供されるという利点が提供される。又、出力の選択及び配置も、相対的に統合されると共に理解が容易な方式によってユーザーに情報を提供するべく、最適化されている。
【００１１】
これに加えて、イヤピースは、ユーザー及びユーザーの環境を連続的に観察することができるのみならず、カレンダー及びスケジュールなどの選好情報を保存することも可能であり、且つ、リモートデータベースにアクセスすることもできる。この観察データに基づいて、イヤピースは、フィードバックをユーザーに対して積極的に提供することができる。積極的な機能は、例えば、ユーザーが位置する必要がある場所についてユーザーにリマインドすることが可能であり、ユーザーが話をしている人物の名前についてユーザーに通知することが可能であり、ユーザーが危険な状況に接近しうる場合にユーザーに警告することが可能であり、以下同様である。これは、従来技術との比較において、有利であり、その理由は、イヤピースのユーザーには、情報を要求する必要性を伴うことなしに、情報が提供されうるからである。この結果、自身が受け取りうることを自身が知りえないフィードバックをユーザーに対して提供することができる。これに加えて、その結果、ユーザーは、余分な時間又は努力を浪費することなしに、フィードバックを受け取ることができる。いくつかの状況においては、この積極的なフィードバックは、ユーザーの潜在的な当惑を防止することができる（例えば、ユーザーは、自身が話をしている人物の名前についてイヤピースに問い合わせる必要がない）。
【００１２】
装置のオンボード立体カメラは、（含まれている際に）有用な深さ及び距離情報を装置に対して提供する。その結果、装置は、ユーザーの周りの社会的且つ環境的要素を相対的に良好に決定するべく、この情報を使用することができる。全地球測位システム（ＧＰＳ）、慣性計測ユニット（ＩＭＵ）、及びカメラの組合せは、相対的に正確なフィードバックをユーザーに対して提供することができることから、有利である。
【００１３】
図１Ａは、本発明の一実施形態によるインテリジェントイヤピース（イヤピース）１００のブロックダイアグラムである。イヤピース１００は、オンボード処理アレイ１１０を含んでおり、これは、センサアレイ１２０、インターフェイスアレイ１３０、及びコンポーネントアレイ１４０と通信している。
【００１４】
アレイ１１０、１２０、１３０、及び１４０は、図１Ａのブロックダイアグラムにおけるイヤピース１００のコンポーネントを視覚的に組織化するための例示用のグループ分けであり、且つ、限定を目的としたものではなく、且つ、必ずしも、なんらかの物理的なグループ分けを表すものではない。これに加えて、特定の実施形態は、更に多くの数の又は少ない数の図１Ａに示されているコンポーネントを有してもよい。図１Ｂ〜図１Ｇに示されている実施形態は、イヤピース１００の例示用の物理設計である。これらのコンポーネントは、設計懸念事項に基づいて、異なる方式によって構成することもできる。図１Ｂ〜図１Ｇには、本明細書において記述されているすべての特徴及びコンポーネントが示されているわけではない。更には、図１Ｂ〜図１Ｇの構造は、変更されてもよく、或いは、本明細書において記述されている更なる特徴を含むように、別のイヤピースを設計することも可能である。
【００１５】
図１Ｂを参照すれば、イヤピース１００は、ユーザーの耳にフィットするように設計されている。従って、設計は、図１Ｂ〜図１Ｇに示されている外形形状を使用することにより、最適化されてもよい。これらの形状によれば、イヤピース１００は、ユーザーの耳において、相対的に容易に且つ相対的に快適に、留まることができる。又、設計は、軽量且つ小さなコンポーネントを利用することにより、最適化されてもよい。軽量のコンポーネントによれば、イヤピース１００は、ユーザーにとって軽量且つ快適な状態に留まることができる。小さなコンポーネントによれば、イヤピース１００は、ユーザーが嵩張っていると感じないように、小さな状態に留まることができる。イヤピース１００が、依然として相対的にハイパワーな計算を提供しつつ、軽量な状態に留まることができることから、特定の機能を実行するための別の装置に対する接続性は、有益である。
【００１６】
オンボード処理アレイ１１０は、プロセッサ１１１と、メモリ１１２と、を含む。プロセッサ１１１は、ＡＲＭプロセッサ、ＤＳＰプロセッサ、分散プロセッサ、又はその他の形態の中央処理などのコンピュータプロセッサであってもよい。メモリ１１２は、プロセッサ１１１によって使用されるＲＡＭ又はその他の揮発性又は不揮発性メモリであってもよい。メモリ１１２は、一時的ではないメモリであってもよく、即ち、ハードディスクドライブ、半導体ディスクドライブ、ハイブリッドディスクドライブ、又はその他の適切なデータストレージなどのデータストレージ装置であってもよく、且つ、機械可読命令を更に保存してもよく、機械可読命令は、プロセッサ１１１により、読み込まれると共に実行されてもよい。
【００１７】
センサアレイ１２０は、カメラユニット１２１、慣性計測ユニット（ＩＭＵ）１２３、全地球測位システム（ＧＰＳ）１２４、及びセンサ１２５を含む。
【００１８】
一実施形態においては、カメラユニット１２１は、立体距離だけオフセットされた少なくとも２つのカメラを有する立体カメラのペア１２１ａ及び／又は非立体カメラ１２１を含む。立体距離は、２つのカメラについて最適化されてもよい。本明細書において記述されている際に、カメラ１２１は、立体カメラのなんらかのペア１２１ａ及び／又は任意の非立体カメラ１２１を意味しうる。イヤピース１００のサイズと、表面積及び重量を小さく維持するという所望と、に起因して、イヤピースが、立体カメラの１つのペア１２１ａ又は１つのその他のタイプのカメラ１２１のみを含むことが最適であろう。
【００１９】
立体カメラは、屋内及び屋外環境の両方において深さ情報を提供する。立体カメラのペア１２１ａは、視野（ＦＯＶ：Ｆｉｅｌｄ  Ｏｆ  Ｖｉｅｗ）を確立するべく、ユーザーの前面において、前方を向いていてもよい。立体カメラのペア１２１ａは、例えば、約９０度のＦＯＶを有してもよい。立体カメラのペア１２１ａは、ユーザーの前面の深さなどの３Ｄ情報を提供する。立体カメラのペア１２１ａの側部に配置されうるか又は立体カメラのペア１２１ａの代わりに使用されうる広角レンズカメラなどの更なるカメラが、例えば、約１２０度にＦＯＶを増大させてもよい。カメラ１２１は、単眼であってもよく、この場合には、深さ又は距離情報を伴っていないが、簡単な認識を提供することはできる。例えば、カメラ１２１は、ユーザーの周囲において運動する物体を検出することができる。立体カメラ１２１ａ及び／又はカメラ１２１は、環境内の物体を連続的に認識する。センサアレイ１２０内のその他のセンサとの関連において動作することにより、イヤピース１００は、オーディオ及び触覚フィードバックにより、ガイダンス及びナビゲーションコマンドをユーザーに提供する。
【００２０】
例えば、立体カメラのペア１２１ａの代わりに、又はこれに加えて、イヤピース１００は、視野を増大させるべく、ワイドレンズカメラを含んでもよい。更なるカメラは、単眼であってもよく、この場合には、深さ又は距離情報を伴ってはいないが、簡単な認識を提供することはできる。例えば、カメラは、ユーザーの周囲において、運動する物体を検出することができる。立体カメラ１２２ａ及び更なるカメラは、環境内の物体を連続的に認識する。センサアレイ１２０内のその他のセンサとの関連において動作することにより、イヤピース１００は、オーディオ及び触覚フィードバックにより、ガイダンス及びナビゲーションコマンドをユーザーに提供する。
【００２１】
いくつかの実施形態においては、カメラ１２１は、複数のカメラを含んでもよい。複数のカメラの追加は、そのカメラが、単一のカメラが利用された場合に装置自体によって妨害されうる視野をキャプチャできることから、有益であろう。例えば、単一のカメラの視野は、イヤピース１００の物理コンポーネントによって遮断される場合がある。相対的に大きな視野を得るべく、カメラは、異なる有利な地点において位置決めされてもよい。周囲環境の相対的に幅広の領域をキャプチャするべく、画像処理を介して、複数の画像を１つにフィットすることができる。イヤピース１００のサイズに起因して、相対的に多くのカメラを位置決めすることは、困難であろう。但し、イヤピース１００上において複数のカメラを位置決めすることは、依然として可能であろう。これに加えて、ユーザーが２つのイヤピース１００を利用している場合には、それぞれのイヤピースが、少なくとも１つのカメラ１２１を有してもよく、或いは、カメラの組合せを有してもよい。
【００２２】
イヤピース１００は、リアルタイムフィードバックを通じて、環境的認識、ナビゲーション、社会的やり取り、及び障害物回避において、ユーザーを支援する。イヤピース１００は、ユーザーに警告するべく、ユーザーの周りの物体を認識する能力を有する。例えば、イヤピース１００は、環境的認識において支援するべく、且つ、障害物の周りを安全にナビゲートするべく、盲目の人物によって使用されてもよい。イヤピース１００は、センサアレイ１２０からのカメラ入力（並びに、マイクロフォン１３１からのオーディオ入力及び／又は入力装置１３４からのユーザー入力などの、インターフェイスアレイ１３０からの入力）に基づいて、スピーカ１３２及び振動ユニット１３３を通じて、オーディオ及び触覚フィードバックをユーザーに提供する。
【００２３】
特定の実施形態においては、イヤピース１００は、盲目の又は部分的に盲目のユーザーに対応するように設計されている。又、このような実施形態においては、軽量の観察又は暗視カメラ（例えば、赤外線カメラ）が利用されてもよい。例えば、１つのカメラが、通常の照明を対象としてもよく、且つ、別のものが、暗視を対象としてもよい。例えば、盲目のユーザーは、照明をターンオフする可能性が高く、その理由は、盲目ユーザーは、照明に依存していないからである。イヤピース１００は、暗視カメラの画像を処理することにより、依然として適切に機能することになろう。処理される画像は、暗視において限定されてもよい。例えば、顔面認識は、実行可能でない場合があるが、別の人物の存在は、検出することができる。この結果、有用な情報をユーザーに付与することができる。
【００２４】
盲目の又は部分的に盲目のユーザーにおける使用に加えて、イヤピース１００は、日々の暮らしのその他の使用に適用されてもよい。例えば、イヤピース１００は、人生における出来事（即ち、結婚やスポーツイベントなど）を記録するべく使用することができる。又、イヤピース１００は、逮捕や交通違反の取締りなどを記録するなどにより、警官を支援するべく利用されてもよい。又、イヤピース１００は、例えば、環境内の危険な物品を視覚的に識別し、且つ、作業者に警告することにより、作業者によって使用されてもよい。
【００２５】
ＩＭＵ１２３は、加速度計、ジャイロスコープ、磁気計、並びに／或いは、加速度又は位置決めセンサのうちの１つ又は複数を有してもよい。ＧＰＳ１２４は、１つ又は複数のＧＰＳユニットであってもよい。ＩＭＵ１２３及び／又はＧＰＳ１２４は、ユーザー及び／又はイヤピース１００の場所及び／又は位置決めを決定するべく利用されてもよい。
【００２６】
ＧＰＳ１２４は、場所情報を提供し、この場所情報は、ＩＭＵ１２３によって提供される速度及び向き情報を含む慣性ガイダンス情報と共に、ユーザーの誘導を支援するように機能する。メモリ１１２は、例えば、ユーザーの特定及びナビゲーションコマンドの提供を支援するべく、マップ情報又はデータを保存してもよい。マップデータは、予め読み込まれてもよく、アンテナ１４２を通じて無線でダウンロードされてもよく、或いは、建物入口の近傍において掲示された、又は以前の遭遇及び記録から構築された、建物マップをキャプチャするなどにより、視覚的に決定されてもよい。マップデータは、エッジを有するネットワーク図又は特徴を有する一連の座標などのように、抽象的なものであってもよい。マップデータは、ユーザーの目標物を含んでもよく、且つ、ユーザーが歩行するのに伴って、立体カメラ１２１ａ及び／又はカメラ１２１は、更なる目標物を認識してもよく、且つ、それらの目標物がカメラの視野に入るのに伴って、マップデータを更新してもよい。
【００２７】
例えば、ユーザーは、「Ｙキャンパス内の建物Ｘまで連れて行け」という音声コマンドを付与してもよい。その結果、イヤピース１００は、既に保存されていない場合に、関連するマップをダウンロードしてもよく、或いは、立体カメラ１２１ａ及びカメラ１２１からの知覚された画像に基づいて、ナビゲートしてもよい。ユーザーがイヤピース１００からのナビゲーションコマンドに従って移動するのに伴って、ユーザーは、午前中に、コーヒーショップに通りがかってもよく、且つ、イヤピース１００は、ユーザーの習慣と共に、コーヒーショップ及び時刻を認識し、且つ、ユーザーに対して適切に警告することになろう。イヤピース１００は、スピーカ１３２を通じて、ユーザーに口頭で警告してもよい。ユーザーは、設定を調節するべく入力装置１３４を使用してもよく、この設定は、例えば、警告のタイプ、アナウンスするべき詳細、並びに、物体認識又は警告設定に関係しうるその他のパラメータを制御してもよい。ユーザーは、必要に応じて、特定の機能をターンオン又はオフしてもよい。
【００２８】
屋内においてナビゲートする際には、障害物の周りをナビゲートすると共に望ましい場所又は特徴に到達するべく、ＧＰＳ１２４が、盲目のユーザーに対して十分な情報を提供しない場合がある。イヤピース１００は、例えば、階段、出口、及び洗面所を認識してもよく、且つ、これらをメモリ１１２内において適切に保存してもよい。
【００２９】
センサ１２５は、センサアレイ１２０の残りの部分との関連において環境に関する更なる情報を提供する１つ又は複数のセンサであってもよい。センサ１２５は、例えば、温度センサ、気圧センサ、湿気又は湿度センサ、ガス検出器又はその他の化学センサ、音響センサ、ｐＨセンサ、煙検出器、金属検出器、光量計、高度計、深さゲージ、コンパス、放射線センサ、動き検出器、又はその他のセンサのうちの１つ又は複数であってもよい。
【００３０】
インターフェイスアレイ１３０は、マイクロフォン１３１と、スピーカ１３２と、振動ユニット１３３と、入力ユニット１３４と、ディスプレイ１３５と、を含む。
【００３１】
マイクロフォン１３１は、ユーザーから、音声起動／コマンド又はその他の音声動作などの音響を受け取る能力を有するマイクロフォン又はその他の装置であってもよく、且つ、イヤピース１００と統合されてもよく、或いは、その外部に位置してもよい。又、マイクロフォン１３１は、センサアレイ１２０の一部分として、入力を提供してもよい。
【００３２】
マイクロフォン１３１は、走行する自動車の音響又はその他の可能な危険などの更なる環境データを提供してもよい。マイクロフォン１３１は、スピーカ１３２との関連において機能してもよく、且つ、干渉を防止するべく、スピーカ１３２から離れるように配置されてもよい。或いは、この代わりに、マイクロフォン１３１は、オーディオフィードバックをブロードキャストすることなしに、オーディオフィードバックをユーザーに提供するべく、骨伝導装置などの装着されたオーディオ装置との関連において動作してもよい。
【００３３】
スピーカ１３２は、１つ又は複数のスピーカであってもよく、或いは、音響及び／又は振動を生成する能力を有するその他の装置であってもよい。
【００３４】
振動ユニット１３３は、触覚及び触感出力を提供する能力を有する振動モーター又はアクチュエータであってもよい。又、特定の実施形態においては、振動ユニット１３３は、スピーカ１３２と振動ユニット１３３が、同一のものとなるか、又は統合されうるように、音響を生成する能力を有してもよい。イヤピース１００のサイズに起因して、振動ユニット１３３は、小さなサイズを有する必要がある。いくつかの実施形態においては、ユーザーは、イヤピース１００が相互に協調して動作するように、それぞれの耳の内部においてイヤピース１００を装用してもよい。これらの実施形態においては、それぞれのイヤピース１００は、イヤピース１００が立体振動データを提供しうるように、振動ユニット１３３を含んでもよい。一方のイヤピース１００において、他方のイヤピース１００の振動パターンとは異なる振動パターンを出力することができる。その結果、左／右振動パターンの異なる組合せは、有用な情報をユーザーに伝達することができる。例えば、右には欠けている左における特定の振動パターンは、ユーザーが左に曲がる必要があることをユーザーに通知するべく、使用されてもよい。
【００３５】
入力装置１３４は、タッチセンサ及び／又は１つ又は複数のボタンなどの入力装置であってもよい。例えば、入力装置１３４は、タッチパッドと同様に、設定を調節するためのスライダとしてのみならず、選択を実行するボタンとしても使用されるタッチセンサであってもよい。
【００３６】
ディスプレイ１３５は、イヤピース１００に無線で接続されるディスプレイであってもよい。例えば、ディスプレイ１３５は、接続されたセルラー電話機のディスプレイであってもよい。ディスプレイ１３５は、カメラ１２１からの視覚データを表示する能力を有しうる。実施形態においては、ディスプレイ１３５は、１つ又は複数のＬＥＤ又は類似の光源などの別の視覚警告装置であってもよい。
【００３７】
ディスプレイ１３５は、記憶保持の難しさに伴って、ユーザーに適切にリマインドすることができる。例えば、ディスプレイ１３５は、ユーザーにリマインドするべく、ユーザーの活動に関する情報を通知する画像を表示してもよい。例えば、表示される情報は、ユーザーが現時点において実行しているタスクと、ユーザーが向かっている目的地と、に基づいたものであってもよい。表示される情報は、周囲環境に更に対応したものであってもよい。例えば、情報は、現時点におけるユーザーの周りのその他の者の身元、場所、及び運動に対応したものであってもよい。例えば、アルツハイマーを患うユーザーは、ユーザーの周りの人々を認識しない場合がある。プロセッサは、カメラユニット１２１によって検出されたデータに基づいて、顔面認識を使用して近傍の人物の身元を決定してもよい。ディスプレイ１３５は、現時点のイベントを更に通知してもよい。
【００３８】
コンポーネントアレイ１４０は、電池１４１と、アンテナ１４２と、入出力（Ｉ／Ｏ）ポート１４３と、を含む。電池１４１は、電池であってもよく、或いは、イヤピース１００に電力供給する能力を有するその他の電源であってもよい。電池１４１は、充電用の接続ポートを有してもよく、或いは、誘導充電などを通じて、無線充電されてもよい。
【００３９】
電池１４１は、外部電源に接続することも可能であり、或いは、電源コードを介してコンセントに接続することもできる。或いは、この代わりに、又はこれに加えて、電池１４１は、無線充電を介して充電することもできる。電池のサイズ及び容量は、必要とされている計算などの設計懸念事項に基づいて、異なるものであってもよい。平均動作時間に基づいて、更なる容量が必要とされる場合もある。
【００４０】
アンテナ１４２は、無線通信を送受信する能力を有する１つ又は複数のアンテナであってもよい。例えば、Ｉ／Ｏポート１４３は、ヘッドフォンジャックであってもよく、或いは、データポートであってもよい。例えば、アンテナ１４２は、Ｂｌｕｅｔｏｏｔｈ（登録商標）又はＷｉＦｉアンテナであってもよく、高周波識別（ＲＦＩＤ：Ｒａｄｉｏ  Ｆｒｅｑｕｅｎｃｙ  ＩＤｅｎｔｉｆｉｃａｔｉｏｎ）アンテナ又はレーダー、モバイル通信アンテナ（例えば、第３世代（３Ｇ））、及び／又は近距離通信（ＮＦＣ：Ｎｅａｒ  Ｆｉｅｌｄ  Ｃｏｍｍｕｎｉｃａｔｉｏｎ）ユニットであってもよい。Ｉ／Ｏポート１４３は、更なる周辺装置を接続するための１つ又は複数のポートであってもよい。
【００４１】
プロセッサは、アンテナ１４２を介して、スマートフォン、タブレット、コンピュータ、ラップトップ、その他のコンピュータに基づいた装置、又はクラウドの別のプロセッサに無線接続されてもよい。接続は、例えば、Ｂｌｕｅｔｏｏｔｈ（登録商標）又はＷｉＦｉを使用して確立することができる。この接続は、接続された装置の機能の利用に加えて、様々な装置の間におけるデータの共有において、ユーザーを支援することができる。アンテナ１４２及び／又はＩ／Ｏポート１４３によれば、特定のアプリケーション用の更新又はマップ情報又はその他の関連する情報などのデータダウンロードのために、且つ、状態更新などのデータアップロードのために、イヤピース１００は、別の装置又はネットワークに接続することができる。更には、アンテナ１４２及び／又はＩ／Ｏポート１４３によれば、分散計算又はリソース共有のために、イヤピース１００は、その他のインテリジェントイヤピース１００と通信することもできる。本明細書において記述されているイヤピース１００は、一般に、スタンドアロン装置である。例えば、スマートフォン、タブレット、又はその他のモバイル装置は、共有データ及び処理のために、イヤピース１００に無線で接続されてもよい。モバイル装置は、イヤピース１００用の更なる又は代替表示ユニットとして機能してもよい。更には、イヤピース１００は、モバイル装置又はその他のインテリジェントイヤピース１００とやり取りするための特定のプロトコルを有してもよい。
【００４２】
メモリ１１２は、イヤピース１００上において位置決めされてもよく、或いは、例えば、アンテナ１４２を介して、リモートでアクセスされてもよい。例えば、イヤピース１００は、その内部にメモリを有してもよく、且つ、プロセッサ１１１は、更なる保存容量のためにリモートメモリ１００にアクセスしてもよい。リモートメモリ１００は、ユーザー専用のメモリを含んでもよく、且つ／又は、共有データベースなどの共有メモリを含みうる。
【００４３】
イヤピース１００は、社会的やり取りを改善しうる。例えば、イヤピース１００は、潜在的な友人を識別するべく、部屋内の顔面を認識してもよく、且つ、友人を識別するオーディオフィードバックをユーザーに提供してもよい。立体カメラ１２１ａ及び／又はカメラ１２１は、ユーザーに警告するべく、ムード又は表現などの人物に関する更なる詳細を決定可能であってもよく、或いは、彼らが物理的活動に従事しているかどうかを更に決定可能であってもよい。例えば、潜在的な友人が、握手又は「ハイタッチ」のために手を差し伸べる場合があり、従って、イヤピース１００は、ユーザーに通知するべく、オーディオ又は触覚フィードバックを使用してもよい。マイクロフォン１３１は、識別すると共にユーザーに適切に通知するべく、その他の人物の音声を認識してもよく、或いは、将来の識別のために保存するべく新しい音声を認識してもよい。
【００４４】
又、イヤピース１００は、更なる安全警告を提供するべく、危険な環境において使用されてもよい。イヤピース１００は、アルツハイマー患者などの人物を支援するべく、メモリ装置であってもよい。イヤピース１００は、品物の追跡を支援することにより、買物を支援することも可能であり、或いは、さもなければ、在庫のナビゲーションを支援することもできる。アンテナ１４２は、品物上のＲＦＩＤ又はＮＦＣタグを識別する能力を有するＲＦＩＤ又はＮＦＣ読取器であってもよい。
【００４５】
図１Ｂは、イヤピース１００の一実施形態を示している。イヤピース１００は、ユーザーの耳においてフィットするように設計されていることから、小さなコンポーネントを利用する必要がある。例えば、大きな汎用プロセッサとの比較において、小さな通信プロセッサの使用及びクラウド処理に対するアクセスが好ましいであろう。これに加えて、コンポーネントの数が制限される場合もある。例えば、いくつかの実施形態においては、立体カメラのペア１２１ａ又は別のカメラ１２１のうちの１つのみが利用されている。
【００４６】
熱を生成するコンポーネントは、そのコンポーネントがユーザーの皮膚との直接的な接触状態とならない場所において位置決めする必要がある。この結果、不快さ及びユーザーに対する危害の可能性が防止されることになる。
【００４７】
図１Ｂに示されている実施形態においては、広角レンズを有するカメラなどの単一のカメラ１２１のみが利用されている。イヤピース１００は、上部部分１５０と、下部部分１５２と、を含む湾曲した装置である。上部部分１５０に対して実質的に平行なラインは、下部部分１５２に対して実質的に平行なラインと交差し、且つ、角度Ａ１を生成している。角度Ａ１は、９０度であってもよく、或いは、イヤピース１００がユーザーの耳を取り囲むように、９０度未満であってもよい。この結果、イヤピースは、相対的に容易に、ユーザーの耳において定位置に留まることができる。イヤピース１００の前面は、カメラ１２１を含んでおり、且つ、形状が実質的に正方形である。ボタンなどの入力装置１３４が、イヤピースの上部部分１５０において位置決めされてもよい。
【００４８】
この実施形態においては、スピーカ１３２が、イヤピースの下部部分１５２近傍のイヤピースの上部部分１５０の一端において位置決めされている。このスピーカ１３２は、イヤピース１００の外部に位置しており、且つ、スピーカ１３２からの音響がユーザーによって容易に聴取されるように、位置決めされている。このスピーカの配置の利点は、ユーザーが、自身の外耳道内に、なんらの物体をも有していないという点にある。イヤピースの下部部分１５２の底部には、電池１４１が存在している。この電池は、誘導充電用のレシーバであってもよく、或いは、電荷を受け取るためのミニＵＳＢコネクタなどのコネクタであってもよい。
【００４９】
イヤピース１００の内部には、回路基板１５４が存在してもよい。回路基板１５４は、イヤピース１００の大部分を充填していてもよく、或いは、イヤピース１００の一部分のみを充填していてもよい。回路基板１５４は、図１Ａの説明において参照されているコンポーネントのうちのいくつかをその上部に構築していてもよく、或いは、それらに装着されていてもよい。
【００５０】
イヤピース１００の上部部分１５０は、下部部分１５２に最も近接した端部に接近するのに伴って、少なくとも１つの側部においてテーパー化された三次元矩形であってもよい。又、上部部分１５０は、快適さ及び／又は設計上の利点のために曲がりを含んでもよい。下部部分１５２は、快適さ及び／又は設計上の利点のために湾曲していてもよい。このイヤピース１００の端部において、イヤピース１００の少なくとも１つの寸法は、イヤピース１００が、ユーザーの頭部から非常に遠くまで突出しないように、低減されてもよい。又、イヤピースの下部部分は、イヤピース１００が、ユーザーの頭部から非常に遠くまで突出しないように、その他の２つの寸法よりも小さな１つの寸法を有してもよい。
【００５１】
図１Ｃは、イヤピース１００の別の実施形態を示している。この実施形態は、立体カメラ１２１を含む。立体カメラ１２１の２つのレンズは、互いに上下に位置決めされている。ユーザーとは反対側を向いているイヤピースの側部には、入力装置１３４が存在している。イヤピース１００は、上部部分１５０と、下部部分１５２と、を含む部分的に湾曲した装置である。上部部分１５０に対して実質的に平行なラインは、下部部分１５２に対して実質的に平行なラインと交差し、且つ、角度Ａ２を生成している。角度Ａ２は、９０度であってもよく、或いは、イヤピース１００がユーザーの耳を取り囲むように、９０度未満であってもよい。この結果、イヤピース１００は、相対的に容易に、ユーザーの耳において定位置に留まることができる。イヤピース１００の前面は、カメラ１２１を含んでおり、且つ、形状が実質的に矩形又は楕円である。入力は、触覚ストリップ、ボタン、ポテンショメータ、又はこれらに類似したものであってもよい。
【００５２】
イヤピース１００は、ユーザーの耳とは反対側を向いた上部部分１５０及び下部部分１５２の側部上において、実質的にまっすぐなラインを含んでもよい。ユーザーの耳が位置決めされることになるイヤピース１００の中心部分は、ユーザーの耳の周りにおいて、快適に、且つ、コーナーがユーザーの耳に接触することなしに、フィットするように、湾曲していてもよい。スピーカ１３２が、イヤピース１００の中心部分において位置決めされてもよい。このスピーカ１３２は、例えば、ユーザーの耳の内部において位置決めされるバッド型のスピーカであってもよい。このスピーカ１３２の配置の利点は、ユーザー以外の人物がスピーカ１３２の出力を聴取する可能性が小さいという点にある。
【００５３】
イヤピース１００の上部部分１５０は、下部部分１５２に最も近接した端部に接近するのに伴って、少なくとも１つの側部においてテーパー化された三次元矩形であってもよい。又、上部部分１５０は、快適さ及び設計上の利点のために、曲がりを含んでいてもよい。このイヤピース１００の上部部分の端部において、イヤピース１００の少なくとも１つの寸法は、イヤピース１００がユーザーの頭部から非常に遠くまで突出しないように、低減されてもよい。イヤピース１００の下部部分１５２は、実質的に三次元矩形であってもよい。又、イヤピースの下部部分１５２は、イヤピース１００がユーザーの頭部から非常に遠くまで突出しないように、その他の２つの寸法よりも小さな１つの寸法を有してもよい。
【００５４】
図１Ｄは、ユーザーの耳において位置決めされたイヤピース１００の一実施形態を示している。図１Ｄは、ユーザーの耳の上部において位置決めされたイヤピースの上部部分１５０と、ユーザーの耳の背後において位置決めされた下部部分１５２と、を示している。図１Ｄに示されている実施形態においては、立体カメラ１２１及び／又はカメラは、上部部分１５０の前端において位置決めされている。
【００５５】
図１Ｅは、ユーザーの耳において位置決めされたイヤピース１００の別の実施形態を示している。この実施形態においては、スピーカ１３２は、ユーザーの外耳道の外部又は内部において直接的に位置決めされており、且つ、マイクロフォン１３１が、下部部分１５２の底部において位置決めされている。立体カメラ１２１及び／又はカメラ１２１は、下部部分１５２の最上部において、且つ、上部部分１５０の前面において、位置決めされている。この実施形態においては、上部部分１５０が、下部部分１５２よりも格段に大きい。これは、コンポーネントの大部分が、イヤピースの上部部分１５０内において位置決めされなければならないことを意味している。
【００５６】
図１Ｆは、ユーザーの耳において位置決めされたイヤピース１００の別の実施形態を示している。この実施形態においては、立体カメラ１２１及び／又はカメラ１２１を収容するイヤピース１００の部分が、その他の実施形態よりも大きい。この実施形態においては、立体カメラ１２１は、下部部分１５２の最上部において位置決めされており、且つ、カメラ１２１は、立体カメラ１２１の下方において位置決めされている。その他の実施形態においては、立体カメラ１２１及びカメラ１２１の位置は、交換されてもよい。この立体カメラ１２１及びカメラ１２１の組合せは、広角カメラ１２１のみならず、立体カメラ１２１に起因した良好な深さ知覚に起因して、相対的に大きな視野を許容するという利点を提供する。
【００５７】
図１Ｇは、ユーザーの耳において位置決めされたイヤピース１００の別の実施形態を示している。この実施形態においては、立体カメラ１２１及び／又はカメラ１２１は、下部部分１５２の前端において、且つ、下部部分１５２の底部に向かって、位置決めされている。図１Ｅの実施形態と同様に、上部部分１５０が、下部部分１５２よりも格段に大きい。これは、コンポーネントの大部分がイヤピース１００の上部部分１５０内において位置決めされなければならないことを意味している。
【００５８】
次に図２を参照すれば、物体検出パラメータ、物体認識パラメータ、或いは、物体検出パラメータと物体認識パラメータの両方を調節する方法２００のフローチャートが概略的に示されている。いくつかの実施形態においては、方法２００は、プロセッサ１１１によって実行された際に、物体検出パラメータ、物体認識パラメータ、或いは、物体検出パラメータ及び物体認識パラメータの両方を自動的に調節する機械可読命令におけるロジックとして実装されてもよい。方法２００は、特定のシーケンスを示しているが、本発明の更なる実施形態は、任意の特定のシーケンスに限定されるものではないことに留意されたい。
【００５９】
図２を参照すれば、ブロック２１０において、イヤピース１００は、環境を表す画像データを受信している。上述のように、いくつかの実施形態においては、イヤピース１００は、カメラ１２１（例えば、立体カメラのペア１２１ａを含む）から、ユーザーのＦＯＶの、ビデオフレームであってもよい、ビデオ又は画像データを取得し、且つ、次いで、取得された環境の画像データを保存及び／又は処理のためにプロセッサ１１１及び／又はメモリ１１２に送信するように構成されている。いくつかの実施形態においては、イヤピース１００は、無線ネットワークを通じて、アンテナ１４２などを介して、イヤピース１００の外部の供給源から、画像データを受信してもよい。
【００６０】
ブロック２１０において受信された画像データは、限定を伴うことなしに、赤色−緑色−青色（「ＲＧＢ」）データ、深さ画像データ、三次元（「３Ｄ」）ポイントデータ、及びこれらに類似したものなどの様々な形態のデータであってもよい。いくつかの実施形態においては、イヤピース１００は、立体カメラのペア１２１ａ及び／又はカメラ１２１と統合された赤外線センサ又は深さセンサなどの赤外線センサ又はその他の深さセンサから、深さ画像データを受信してもよい。深さセンサ（例えば、赤外線センサ）を含むその他の実施形態においては、深さセンサは、立体カメラのペア１２１ａ及び／又はカメラ１２１とは別個のものであってもよい。
【００６１】
更に図２を参照すれば、ブロック２２０において、メモリ１１２内において保存されている機械可読命令は、プロセッサ１１１によって実行された際に、イヤピース１００が、ブロック２１０において受信された画像データに基づいて、オンボード処理アレイ１１０により、候補物体を検出するようにしている。いくつかの実施形態においては、オンボード処理アレイ１１０は、高エントロピーを含む画像の領域などの、受信された画像データの候補領域を識別することにより、候補物体を検出してもよい。例えば、オンボード処理アレイ１１０は、スプレー瓶を含む取得されたターゲット画像データ内において高エントリピー領域を検出してもよい。いくつかの実施形態においては、オンボード処理アレイ１１０は、受信された画像データの候補領域を識別するべく、スライディングウィンドウアルゴリズムを利用してもよい。実施形態においては、オンボード処理アレイ１１０は、「ＳＩＦＴ」（Ｓｃａｌｅ−Ｉｎｖａｒｉａｎｔ  Ｆｅａｔｕｒｅ  Ｔｒａｎｓｆｏｒｍ）、「ＳＵＲＦ」（Ｓｐｅｅｄｅｄ  Ｕｐ  Ｒｏｂｕｓｔ  Ｆｅａｔｕｒｅ）、「ＨＯＧ」（Ｈｉｓｔｏｇｒａｍ  ｏｆ  Ｏｒｉｅｎｔｅｄ  Ｇｒａｄｉｅｎｔｓ）、「ＧＩＳＴ」（Ｇｅｎｅｒａｌｉｚｅｄ  Ｓｅａｒｃｈ  Ｔｒｅｅ）、「ＦＲＥＡＫ」（Ｆａｓｔ  Ｒｅｔｉｎａ  Ｋｅｙｐｏｉｎｔ）、及び「ＢＲＩＳＫ」（Ｂｉｎａｒｙ  Ｒｏｂｕｓｔ  Ｉｎｖａｒｉａｎｔ  Ｓｃａｌａｂｌｅ  Ｋｅｙｐｏｉｎｔｓ）、並びに、これに類似したものなどの特徴記述子アルゴリズム又は画像記述子アルゴリズムを使用することにより、候補物体を検出してもよい。いくつかの実施形態においては、オンボード処理アレイ１１０は、用途、シーン形状、及び／又は以前の情報に基づいて、検出を興味深い１つ又は複数の空間的に配置された領域に合焦させてもよい。
【００６２】
オンボード処理アレイ１１０は、候補物体の検出を促進するべく、少なくとも１つの物体検出パラメータを含む。いくつかの実施形態においては、少なくとも１つの物体検出パラメータは、ウィンドウサイズ、ノイズフィルタリングパラメータ、推定光量、推定ノイズレベル、特徴記述子パラメータ、画像記述子パラメータ、又はこれらに類似したものである。
【００６３】
更に図２を参照すれば、ブロック２３０において、メモリ１１２内において保存されている機械可読命令は、プロセッサ１１１によって実行された際に、イヤピース１００が、ブロック２１０において受信された画像データに基づいて、オンボード処理アレイ１１０を使用することにより、物体を認識するようにすることになる。いくつかの実施形態においては、物体認識モジュールは、オンボード処理アレイ１１０によって識別された候補領域に基づいて物体を認識してもよい。
【００６４】
いくつかの実施形態においては、オンボード処理アレイ１１０は、「ＳＩＦＴ」（Ｓｃａｌｅ−Ｉｎｖａｒｉａｎｔ  Ｆｅａｔｕｒｅ  Ｔｒａｎｓｆｏｒｍ）、「ＳＵＲＦ」（Ｓｐｅｅｄｅｄ  Ｕｐ  Ｒｏｂｕｓｔ  Ｆｅａｔｕｒｅ）、「ＨＯＧ」（Ｈｉｓｔｏｇｒａｍ  ｏｆ  Ｏｒｉｅｎｔｅｄ  Ｇｒａｄｉｅｎｔｓ）、「ＧＩＳＴ」（Ｇｅｎｅｒａｌｉｚｅｄ  Ｓｅａｒｃｈ  Ｔｒｅｅ）、「ＦＲＥＡＫ」（Ｆａｓｔ  Ｒｅｔｉｎａ  Ｋｅｙｐｏｉｎｔ）、及び「ＢＲＩＳＫ」（Ｂｉｎａｒｙ  Ｒｏｂｕｓｔ  Ｉｎｖａｒｉａｎｔ  Ｓｃａｌａｂｌｅ  Ｋｅｙｐｏｉｎｔｓ）、並びに、これらに類似したものなどの、特徴記述子アルゴリズム又は画像記述子アルゴリズムを利用することにより、候補物体を認識してもよい。オンボード処理アレイ１１０が特徴記述子又は画像記述子アルゴリズムを利用しているいくつかの実施形態においては、オンボード処理アレイ１１０は、オンボード処理アレイ１１０によって識別された候補領域から特徴の組を抽出してもよい。次いで、オンボード処理アレイ１１０は、メモリ１１２内において保存されている物体認識データベースからの物体認識基準モデルの特徴の基準セットにアクセスしてもよく、且つ、次いで、抽出された特徴の組を物体認識基準モデルの特徴の基準セットと比較してもよい。
【００６５】
例えば、オンボード処理アレイ１１０は、瓶を含む取得されたターゲット画像データの高エントロピー領域から特徴の組を抽出してもよく、且つ、抽出された特徴の組を１つ又は複数の基準瓶モデル用の特徴の基準セットと比較してもよい。抽出された特徴の組が、特徴の基準セットとマッチングしている際に、オンボード処理アレイ１１０は、物体を認識してもよい（例えば、瓶を含む取得されたターゲット画像データの高エントロピー領域からの抽出された特徴の組が、基準瓶モデル用の特徴の基準セットとマッチングしている際に、瓶を認識する）。抽出された特徴の組が、特徴の基準セットとマッチングしていない際には、物体認識エラー（例えば、物体認識基準モデルが候補物体とマッチングしていないことを通知する物体認識エラー）が発生している。物体認識エラーが発生した（例えば、この例を参照すれば、基準瓶モデルがメモリ１１２内に存在していない）際には、ブロック２２５を参照して後述するように、物体検出モジュールの精度を改善するべく、少なくとも１つの物体検出パラメータが調節されてもよい。
【００６６】
いくつかの実施形態においては、物体認識モジュールは、認識された物体に対して識別子を割り当ててもよい。例えば、識別子は、物体カテゴリ識別子であってもよく（例えば、抽出された特徴の組が、「瓶カテゴリ」用の特徴の基準セットとマッチングしている際には、「瓶」であり、或いは、抽出された特徴の組が、「カップ」物体カテゴリ用の特徴の基準セットとマッチングしている際には、「カップ」である）、或いは、特定の物体インスタンス識別子であってもよい（例えば、抽出された特徴の組が、特定の「私の瓶」物体インスタンス用の特徴の基準セットとマッチングしている際には、「私の瓶」であり、或いは、抽出された特徴の組が、特定の「私のカップ」物体インスタンス用の特徴の基準セットとマッチングしている際には、「私のカップ」である）。
【００６７】
オンボード処理アレイ１１０は、物体の認識を促進するべく、少なくとも１つの物体認識パラメータを含む。いくつかの実施形態においては、少なくとも１つの物体認識パラメータは、ウィンドウサイズ、ノイズフィルタリングパラメータ、推定光量、推定ノイズレベル、特徴記述子パラメータ、画像記述子パラメータ、又はこれらに類似したものである。
【００６８】
更に図２を参照すれば、ブロック２４０において、メモリ１１２内に保存された機械可読命令は、プロセッサ１１１によって実行された際に、イヤピース１００が、適切な触覚及びオーディオフィードバックをユーザーに提供するべく、制御信号を振動ユニット１３３及び／又はスピーカ１３２に送信するようにしている。例えば、認識された物体が、障害物として分類される場合には、振動ユニット１３３は、インテリジェントイヤピース１００がその物体に接近するのに伴って、増大するレートにおいて振動してもよい。物体が危険として分類される場合には、スピーカ１３２は、警告音を再生してもよい。物体が目標物として分類される場合には、スピーカ１３２は、適切な通知を再生してもよく、或いは、沈黙状態において留まってもよい。上述のように、物体認識エラーが発生した際には、オンボード処理アレイ１１０の精度を改善するべく、少なくとも１つの物体検出パラメータが調節されてもよい。
【００６９】
更に図２を参照すれば、ブロック２２５において、メモリ１１２内において保存されている機械可読命令は、プロセッサ１１１によって実行された際に、イヤピース１００が、物体認識エラーが発生した際に、検出チューナーモジュールにより、処理アレイ１１０の少なくとも１つの物体検出パラメータを調節するようにしている。検出チューナーモジュールは、プロセッサ１１１によって実行される命令及びメモリ１１２上において保存されているデータとして、実装されてもよい。非限定的な例として、いくつかの実施形態においては、検出チューナーモジュールは、物体認識エラーが発生した際に、オンボード処理アレイ１１０によって利用されるウィンドウサイズを調節してもよい。いくつかの実施形態においては、検出チューナーモジュールは、検出チューナーモデルを含み、且つ、検出チューナーモデルは、物体認識エラーに基づいて少なくとも１つの物体検出パラメータを調節している。いくつかの実施形態においては、検出チューナーモデルは、物体認識エラーを調節された少なくとも１つの物体検出パラメータに対してマッピングしている。いくつかの実施形態においては、検出チューナーモデルは、「ＳＶＭ」（サポートベクターマシン、Ｓｕｐｐｏｒｔ  Ｖｅｃｔｏｒ  Ｍａｃｈｉｎｅ）モデルなどの学習型補正モデルである。
【００７０】
更に図２を参照すれば、ブロック２３５において、メモリ１１２内に保存されている機械可読命令は、プロセッサ１１１によって実行された際に、イヤピース１００が、物体認識エラーが発生した際に、認識チューナーモジュールにより、オンボード処理アレイ１１０の少なくとも１つの物体認識パラメータを調節するようにしている。認識チューナーモジュールは、プロセッサ１１１によって実行される命令及びメモリ１１２上において保存されているデータとして実装されてもよい。非限定的な例として、いくつかの実施形態においては、認識チューナーモジュールは、物体認識エラーが発生した際に、オンボード処理アレイ１１０によって利用されるウィンドウサイズを調節してもよい。いくつかの実施形態においては、認識チューナーモジュールは、認識チューナーモデルを含み、且つ、認識チューナーモデルは、物体認識エラーに基づいて少なくとも１つの物体認識パラメータを調節している。いくつかの実施形態においては、認識チューナーモデルは、物体認識エラーを調節された少なくとも１つの物体認識パラメータに対してマッピングしている。いくつかの実施形態においては、認識チューナーモデルは、「ＳＶＭ」（サポートベクターマシン、Ｓｕｐｐｏｒｔ  Ｖｅｃｔｏｒ  Ｍａｃｈｉｎｅ）モデルなどの学習型補正モデルである。
【００７１】
図３Ａ〜図３Ｃは、本発明の一実施形態による物体認識の方法の一例を提示している。図３Ａにおいて、例えば、第１視覚データ３０６は、プレーン３２４（例えば、テーブル）上において位置決めされたターゲット物体３１０の２Ｄ画像に対応している。第２視覚データ３０８は、プレーン３２４上において位置決めされたターゲット物体３１０の３Ｄ深さデータに対応している。カテゴリ物体認識が、プロセッサ１１１及び第１視覚データ３０６を使用することにより、分析のために実行される。第１視覚データ３０６は、データベース内において保存されている複数の物体モデルに基づいて分析され、データベースは、メモリ１１２内において保存されていてもよい。例えば、複数の物体モデルは、プリミティブ形状を定義する対応したパラメータと関連付けられたシリンダ、ボックス、及びこれらに類似したものなどのプリミティブな形状を含んでもよい。例えば、プロセッサ１１１は、第１視覚データ３０６のいずれかの部分が、形状、構造において、或いは、その他の姿勢情報の観点において、データベース内において保存されている複数の物体モデルに対応しているかどうかを決定してもよい。複数の物体モデルのそれぞれは、少なくとも１つのパラメータを有してもよい。例えば、物体モデルは、高さ及び半径のパラメータを有するシリンダであってもよい。例えば、物体モデルは、幅、高さ、及び長さの３つのパラメータを有するボックスであってもよい。
【００７２】
プロセッサ１１１が、複数の物体モデルのうちの１つの物体モデルについてサーチした際には、複数の物体モデルが、形状又は構造において、第１視覚データ３０６の一部分に類似している場合がある。例えば、瓶（例えば、ターゲット物体３１０）の本体は、形状又は構造において、シリンダ又はボックスに類似しうる。プロセッサ１１１は、複数の物体のうちのいずれが、第１視覚データ３０６の分析部分について、最も近接したフィットを有しているのかを決定するように構成されている。例えば、プロセッサ１１１は、複数の物体モデルのうちの１つの特定の物体モデルと第１視覚データ３０６の分析部分の間における類似性の程度に関するスコア（例えば、認識精度百分率）を割り当ててもよい。例えば、プロセッサ１１１は、最大の関連スコア（例えば、認識精度百分率）と関連付けられた複数の物体モデルのうちの１つの物体モデルを第１視覚データ３０６の分析部分に対応した物体モデルとして選択してもよい。従って、一実施形態においては、プロセッサ１１１は、選択された物体モデルのパラメータを決定している。
【００７３】
後述するように、複数の物体モデルは、固定されたものではない。保存されている物体モデル及びその対応するパラメータは、補われてもよく、或いは、変更されてもよい。これに加えて、又はこの代わりに、新しいカテゴリ物体モデルが、学習されてもよく、且つ、認識されたターゲット物体に基づいてデータベース内において保存されてもよい。尚、これに関連する説明は、方法が、初めてターゲット物体３１０を検出しており、且つ、ターゲット物体３１０に類似した形状、構造、又は姿勢情報を有する物体が、全体として、まだ遭遇及び保存されていないものと仮定している。
【００７４】
図３Ｂを参照すれば、方法のカテゴリ物体認識の一例が示されている。例えば、プロセッサ１１１は、第１視覚データ３０６によって表されている２Ｄ画像の上左隅から始まって、その後、方向３１４において右に運動することにより、左から右へ、スライディングエンクロージャ３１２に隣接した、その周囲の、又はその内部の第１視覚データ３０６を検査してもよい。プロセッサ１１１は、形状又は構造において、データベース内において保存されている複数の物体モデルのうちの１つの物体モデルに類似している第１視覚データ３０５内の物体を認識してもよい。その他の実施形態においては、第１視覚データ３０６のいずれの部分が、データベース内に保存されている物体モデルとマッチングしているのかを決定するべく、スライディングエンクロージャ３１２の代わりに、視覚データセット３０４、第１視覚データ３０６、第２視覚データ３０８、又はこれらの組合せが、全体として、検査されてもよい。
【００７５】
図３Ｃは、カテゴリ物体認識の結果を示している。プロセッサ１１１は、ターゲット物体３１０が、物体モデルのうちの１つに類似していることを認識しうる。第１エンクロージャ３５０は、本発明の範囲を限定することなしに、境界画定ボックス、境界画定円、又は任意のその他の形状であってもよい。第１エンクロージャ３５０は、第１中心点３１６を有する。第１エンクロージャ３５０が境界画定ボックスである際には、第１中心点３１６は、境界画定ボックスのそれぞれの側部からほぼ等しい距離を有する地点である。第１エンクロージャ３５０が境界画定円である際には、第１中心点３１６は、境界画定円の中心であってもよい。一実施形態においては、プロセッサ１１１は、第１中心点３１６が、ターゲット物体３１０に対応した視覚データセット３０４の一部分上において位置決めされるか、これに対応しているか、又はこの内部に含まれるように、第１中心点３１６を決定してもよい。ターゲット物体３１０は、例えば、第１エンクロージャ３５０内において、その周辺において、又はそれに隣接した状態において、位置決めされてもよい。プロセッサ１１１は、ターゲット物体３１０を認識するべく、第１ターゲットデータ（これは、第１視覚データ３０６の一部分である）が、ターゲット物体３１０に対応していることを決定する。
【００７６】
上述の方法は、瓶を例示用の物体として使用しているが、方法は、階段、空いた座席、又は建物などの目標物及びその他の特徴を認識するべく、使用されてもよい。例えば、物体認識は、人物の存在を伴っていない空いた座席を決定するべく、利用されてもよい。座席は、空いた椅子を構成しているカテゴリ物体の集合体として認識することができる。例えば、座席は、（座席を構成しているプリミティブな形状の集合体として検出される）表面上において位置決めされた背もたれを有するまっすぐな垂直方向ラインによって認識される４本の脚の上部において位置決めされた実質的に水平方向において位置決めされた表面として認識することができる。座席のコンポーネント及びコンポーネントの相対的な位置決めをデータベース内の保存されている物体と比較することにより、座席を認識することができる。
【００７７】
例えば、人間は、その頭部の上部における円形の形状と、胴体を表すまっすぐなラインと、脚を表す２つのその他のセグメントと、によって表すことができよう。カメラ１２１（例えば、立体カメラのペア１２１ａ）は、エッジ特徴、外形、及び深さ情報を決定するべく、利用されてもよい。空いた座席は、椅子の水平方向表面の上部において位置決めされた人間を認識することなしに認識された椅子を有するものとして、認識することができる。
【００７８】
イヤピース１００は、ユーザーを空いた座席までナビゲートすることができる。例えば、インテリジェント移動支援イヤピース１００は、ユーザーを空いた座席まで誘導してもよく、或いは、離れるようにナビゲートし、且つ、その後に、同一の座席に戻るために、ユーザーの特定の座席を記憶してもよい。
【００７９】
図４は、スライス記述子に基づいて位置又は向きを推定する方法のフローチャート４００を示している。オンボード処理アレイ１１０は、カメラ１２１から、ＦＯＶを表す画像データを受信している。いくつかの実施形態においては、カメラ１２１は、物理環境内において動作することが可能であり、且つ、広角画像データを取得した後に、取得された物理環境の光学画像データを保存及び／又は処理のためにオンボード処理アレイ１１０に送信するように、構成されている。いくつかの実施形態においては、オンボード処理アレイ１１０は、アンテナ１４２などを介して、インテリジェント移動支援イヤピース１００の外部の供給源から、全方向画像データを受信してもよい。取得された全方向画像データは、デジタルビデオ及び／又は１つ又は複数のデジタル写真の形態であってもよい。
【００８０】
オンボード処理アレイ１１０は、全方向画像データを複数の画像スライスにセグメント化している。例示用の一実施形態においては、受信された全方向画像は、８つのスライス（Ｓ１、Ｓ２、Ｓ３、Ｓ４、Ｓ５、Ｓ６、Ｓ７、及びＳ８）にセグメント化されている。いくつかの実施形態においては、全方向画像は、任意の数のスライスにセグメント化されてもよい。スライスの数は、８〜３６であってもよい。但し、スライスの数は、８未満又は３６超であってもよいことを理解されたい。
【００８１】
複数のスライスのそれぞれは、全方向画像データのパノラマ視野の少なくとも一部分を表すか、或いは、全方向画像データの部分的パノラマ視野を表している。いくつかの実施形態においては、複数の画像スライスは、中間画像スライス（例えば、スライスＳ２）の視野が、先行画像スライス（例えば、スライスＳ１）の先行視野に隣接するか又はこれとオーバーラップし、且つ、中間画像スライス（例えば、スライスＳ２）の中間視野が、後続画像スライス（例えば、スライスＳ３）の後続視野に隣接するか又はこれとオーバーラップするように、中間画像スライス（例えば、スライスＳ２）、先行画像スライス（例えば、スライスＳ１）、及び後続画像スライス（例えば、Ｓ３）を含む。
【００８２】
いくつかの実施形態においては、複数の画像スライスのうちのそれぞれの画像スライスは、全方向画像データのパノラマ視野の等しい部分を表しており、且つ、複数の画像スライスの集合的な視野は、全方向画像データのパノラマ視野と同一である。例えば、８つのスライスのそれぞれは、全方向画像データのフルパノラマ視野の８分の１をキャプチャしており、且つ、８つの画像スライスの集合的な視野は、全方向画像データのパノラマ視野と同一である。いくつかの実施形態においては、複数の視野の第１スライスの視野は、複数のスライスの第２スライスの視野よりも大きくてもよい。いくつかの実施形態においては、複数のスライスの集合的視野は、フルパノラマ視野よりも小さくてもよい。いくつかの実施形態においては、隣接するスライスの視野は、オーバーラップしていてもよい。
【００８３】
オンボード処理アレイ１１０は、複数の画像スライスのうちのそれぞれの画像スライス用のスライス記述子を算出している。本明細書において使用されている「スライス記述子」は、全方向画像データの特定のスライスの画像データの視覚的特徴（例えば、色、テクスチャ、形状、動きなど）の記述を意味している。例えば、スライス記述子ｄ１が、スライスＳ１について算出され、スライス記述子ｄ２が、スライスＳ２について算出され、スライス記述子ｄ３が、スライスＳ３について算出され、スライス記述子ｄ４が、スライスＳ４について算出され、スライス記述子ｄ５が、スライスＳ５について算出され、スライス記述子ｄ６が、スライスＳ６について算出され、スライス記述子ｄ７が、スライスＳ７について算出され、且つ、スライス記述子ｄ８が、スライスＳ８について算出される。
【００８４】
いくつかの実施形態においては、スライス記述子は、「ＳＩＦＴ」（Ｓｃａｌｅ−Ｉｎｖａｒｉａｎｔ  Ｆｅａｔｕｒｅ  Ｔｒａｎｓｆｏｒｍ）、「ＳＵＲＦ」（Ｓｐｅｅｄｅｄ  Ｕｐ  Ｒｏｂｕｓｔ  Ｆｅａｔｕｒｅ）、「ＨＯＧ」（Ｈｉｓｔｏｇｒａｍ  ｏｆ  Ｏｒｉｅｎｔｅｄ  Ｇｒａｄｉｅｎｔｓ）、「ＧＩＳＴ」（Ｇｅｎｅｒａｌｉｚｅｄ  Ｓｅａｒｃｈ  Ｔｒｅｅ）、「ＦＲＥＡＫ」（Ｆａｓｔ  Ｒｅｔｉｎａ  Ｋｅｙｐｏｉｎｔ）、及び「ＢＲＩＳＫ」（Ｂｉｎａｒｙ  Ｒｏｂｕｓｔ  Ｉｎｖａｒｉａｎｔ  Ｓｃａｌａｂｌｅ  Ｋｅｙｐｏｉｎｔｓ）、並びに、これに類似したものなどの、アルゴリズムを使用することにより、算出されてもよい。但し、スライス記述を算出するべく、その他のアルゴリズムが使用されてもよいことを理解されたい。いくつかの実施形態においては、スライス記述子は、１０進ベクトルを含んでもよい。いくつかの実施形態においては、スライス記述子は、２進ベクトルを含んでもよい。その他の実施形態においては、スライス記述子は、２進ベクトル又は１０進ベクトル以外のフォーマットにおいて表されてもよい。又、スライス記述子を算出するべく、立体アルゴリズムの適用の結果として得られる深さ情報が使用されてもよい。
【００８５】
オンボード処理アレイ１１０は、受信された全方向画像データのスライス記述子の現時点のシーケンスを生成している。スライス記述子の現時点のシーケンスは、複数の画像スライスのうちのそれぞれの画像スライスについて算出されたスライス記述子を含む。例えば、ノードｎ１が、スライスＳ１に対応したスライス記述子ｄ１を含み、ノードｎ２が、スライスＳ２に対応したスライス記述子ｄ２を含み、ノードｎ３が、スライスＳ３に対応したスライス記述子ｄ３を含み、ノードｎ８が、スライスＳ８に対応したスライス記述子ｄ８を含むなどである。
【００８６】
いくつかの実施形態においては、スライス記述子の現時点のシーケンスは、中間ノード（例えば、ノードｎ２）が中間画像スライス（例えば、スライスＳ２）に対応し、先行ノード（例えば、ノードｎ１）が先行画像スライス（例えば、スライスＳ１）に対応し、且つ、後続ノード（例えば、ノード３）が後続画像スライス（例えば、スライスＳ３）に対応するように、構造化されてもよい。先行ノード（例えば、ノードｎ１）は、中間ノード（例えば、ノードｎ２）にリンクされており、且つ、中間ノード（例えば、ノードｎ２）は、後続ノード（例えば、ノードｎ３）にリンクされている。
【００８７】
いくつかの実施形態においては、スライス記述子の現時点のシーケンスは、メモリ１１２内において保存されている。いくつかの実施形態においては、メモリ１１２は、スライス記述子の基準シーケンスのデータベースを含んでいてもよく、これらのそれぞれは、オンボード処理アレイ１１０が遭遇した予め処理された全方向画像に対応している。
【００８８】
いくつかの実施形態においては、スライス記述子の現時点のシーケンスは、スライス記述子の現時点のリンクリストとして、メモリ１１２内において保存されてもよい。スライス記述子の現時点のシーケンスが、スライス記述子の現時点のリンクリストとしてメモリ内において保存されている実施形態においては、リンクリストのそれぞれのノードは、リンクリストの後続のノードにリンクされていてもよい（例えば、ノードｎ１がノードｎ２にリンクされており、ノードｎ２がノードｎ３にリンクされている、などである）。いくつかの実施形態においては、スライス記述子の現時点のシーケンスは、第１ノードが第２ノードにリンクされ（例えば、ノードｎ１がノードｎ２にリンクされ）、第２ノードが第３ノードにリンクされ（例えば、ノードｎ２がノードｎ３にリンクされ）、・・・、且つ、最後のノードが第１ノードにリンクされて戻る（例えば、ノードｎ８がノードｎ１にリンクされる）ように、スライス記述子の循環型のリンクリストとして、メモリ１１２内において保存されてもよい。いくつかの実施形態においては、スライス記述子の現時点のシーケンスは、スライス記述子の現時点の二重リンクリストとして、メモリ１１２内において保存されてもよい。その他の実施形態おいては、スライス記述子の現時点のシーケンスは、アレイ及びこれに類似したものなどのリンクリスト以外のデータ構造を使用することより、メモリ１１２内において保存されてもよいことを理解されたい。
【００８９】
受信された全方向画像は、全方向画像のセグメント化の前にアンワーピングされていなかったが、その他の実施形態においては、全方向画像は、セグメント化の前にアンワーピングされてもよい。
【００９０】
図４を再度参照すれば、ブロック４０２において、メモリ１１２内に保存されている機械可読命令は、プロセッサ１１１によって実行された際に、オンボード処理アレイ１１０が、メモリ１１２内のスライス記述子の基準シーケンスにアクセスするようにしてもよい。例えば、図４に示されている実施形態においては、スライス記述子の基準シーケンスは、基準ノードｒ１に対応した基準スライス記述子ｄ３、基準ノードｒ２に対応した基準スライス記述子ｄ４、基準ノードｒ３に対応した基準スライス記述子ｄ５、基準ノードｒ４に対応した基準スライス記述子ｄ６、基準ノードｒ５に対応した基準スライス記述子ｄ７、基準ノードｒ６に対応した基準スライス記述子ｄ８、基準ノードｒ７に対応した基準スライス記述子ｄ１、及び基準ノードｒ８に対応した基準スライス記述子ｄ２を含む。
【００９１】
更に図４を参照すれば、ブロック４０４において、メモリ１１２内において保存されている機械可読命令は、プロセッサ１１１によって実行された際に、オンボード処理アレイ１１０が、スライス記述子の現時点のシーケンスが、基準シーケンスとマッチングしているかどうかを決定するようにしてもよい。いくつかの実施形態においては、スライス記述子の現時点のシーケンスが、スライス記述子の基準シーケンスとマッチングしているかどうかは、スライス記述子の現時点の順序を決定し、スライス記述子の基準順序を決定し、且つ、スライス記述子の現時点の順序をスライス記述の基準順序と比較することにより、決定されている。例えば、図４に示されている実施形態におけるスライス記述子の現時点の順序は、｛ｄｌ、ｄ２、ｄ３、ｄ４、ｄ５、ｄ６、ｄ７、ｄ８｝として決定されてもよい。図４に示されている実施形態におけるスライス記述子の基準順序は、｛ｄ３、ｄ４、ｄ５、ｄ６、ｄ７、ｄ８、ｄｌ、ｄ２｝として決定されてもよい。スライス記述子の現時点の順序｛ｄｌ、ｄ２、ｄ３、ｄ４、ｄ５、ｄ６、ｄ７、ｄ８｝をスライス記述子の基準順序｛ｄ３、ｄ４、ｄ５、ｄ６、ｄ７、ｄ８、ｄｌ、ｄ２｝と比較することにより、スライス記述子の現時点の順序が、スライス記述子の基準順序とマッチングしているかどうかを決定してもよい。
【００９２】
いくつかの実施形態においては、スライス記述子の現時点のシーケンスは、スライス記述子の現時点の循環型リンクリストであり、且つ、スライス記述子の基準シーケンスは、スライス記述子の基準循環型リンクリストである。このような実施形態においては、スライス記述子の現時点の順序は、現時点の開始ノードにおいて始まることにより、スライス記述子の現時点の循環型リンクリストを辿ることにより、決定されてもよい（例えば、スライス記述子の現時点の順序は、スライス記述子の現時点の循環型リンクリストのノードｎ１から始まることにより、現時点の循環型リンクリストを辿ることにより、｛ｄｌ、ｄ２、ｄ３、ｄ４、ｄ５、ｄ６、ｄ７、ｄ８｝であるものと決定されてもよい）。
【００９３】
スライス記述子の基準順序は、基準開始ノードにおいて始まることにより、スライス記述子の基準循環型リンクリストを辿ることにより、決定されてもよい（例えば、スライス記述の基準順序は、スライス記述子の基準循環型リンクリストのノードｒ７から始まることにより、基準循環型リンクリストを辿ることにより、｛ｄｌ、ｄ２、ｄ３、ｄ４、ｄ５、ｄ６、ｄ７、ｄ８｝であるものと決定されてもよい）。スライス記述子の現時点のシーケンスは、スライス記述子の現時点の順序が、スライス記述子の基準順序と同一である際に、スライス記述子の基準シーケンスとマッチングしている。図４に示されている実施形態においては、スライス記述子の現時点のシーケンスは、スライス記述子の基準シーケンスとマッチングしているものと決定されてもよく、その理由は、ノードｒ７から始まってスライス記述子の基準循環型リンクリストを辿った際のスライス記述子の基準順序が、ノードｎ１から始まってスライス記述子の現時点の循環型リンクリストを辿った際のスライス記述子の現時点の順序と同一であるからである。
【００９４】
更に図４を参照すれば、ブロック４０６において、メモリ１１２内において保存されている機械可読命令は、プロセッサ１１１によって実行された際に、オンボード処理アレイ１１０が、スライス記述子の現時点のシーケンス及びスライス記述子の基準シーケンスに基づいて向き又は位置を推定するようにしてもよい。例えば、スライス記述子の現時点のシーケンスとスライス記述子の基準シーケンスの間の差を使用することにより、スライス記述子の基準シーケンスと関連する既知の位置又は向きを基準とした現時点の位置又は向きを決定してもよい。いくつかの実施形態においては、拡張Ｋａｌｍａｎフィルタ、粒子フィルタ、及びこれらに類似したものなどの標準的なフィルタリング技法を使用することにより、スライス記述の現時点のシーケンスとスライス記述子の基準シーケンスの間の比較に基づいて現時点の位置又は向きを決定してもよい。
【００９５】
図５は、イヤピース１００を使用した人間のやり取りのための例示用の方法を示している。方法５００は、第１検出データ及び／又は第２検出データの検出及び分析又は処理の一例に過ぎない。方法５００のブロックは、同時に、或いは、順序の様々な組合せにおいて、実行されてもよい。ブロック５０２及び５０４において、カメラ１２１及び／又はセンサ１２５を使用することにより、第１データ及び第２データが検出されている。ユーザーの周囲環境及びその内部の事物に関するデータが収集されうる程度は、利用可能なカメラ１２１及び／又はセンサ１２５のみならず、プロセッサ１１１及び／又は外部装置並びに／或いはクラウドの処理制限に依存しうる。従って、方法５００は、そのような制限を監視することにより、相応して、リアルタイムで調節されてもよい。
【００９６】
プロセッサ１１１は、第１検出データ及び／又は第２検出データの収集を改善するべく、カメラ１２１及び／又はセンサ１２５と協調して動作してもよい。又、プロセッサ１１１は、ユーザー又は人物が情報の伝達を要求又は試行しているかどうかを考慮してもよい。例えば、ユーザーが、イヤピース１００と通信するべく、発話を伴うことなしに表情をつくっている場合には、プロセッサ１１１は、検出されたデータを補うか又は明確化するべく、関連質問又は問合せを提示するように、発話者１３２を誘導することができる。例えば、方法５００は、出力発話が生成されるように誘導することにより、表示を明確化するように、ユーザーに対して求めてもよい。次いで、ユーザーは、伝達された情報を明確化する音声コマンドにおいて応答してもよい。その他の実施形態においては、この表情認識セットアップは、ユーザー以外の人物によって実行されてもよい。
【００９７】
ブロック５０６において、方法５００は、動的な物体又は生物を検出している。一実施形態においては、方法５００は、検出された動的領域にカメラ１２１及び／又はセンサ１２５を合焦するべく、カメラによって観察されているシーン又はその他の動的領域内の運動、変化を検出してもよい。プロセッサ１１１は、後述するように、検出された動的領域を分類する。
【００９８】
例えば、人物、生物、及び／又は動的物体の検出は、カメラ１２１及び／又はセンサ１２５によって検出されたデータ内の変化を探すことにより、実行されてもよい。カメラ１２１及び／又はセンサ１２５から受信されたデータの変化は、まず、ＧＰＳ１２４、ＩＭＵ１２３、或いは、２つのカメラフレームの間の隅又は斑点特徴を追跡することによってカメラの動きの推定を許容する視覚的な走行距離計測法などの技法を使用してイヤピース１００の動きを推定することにより、識別されてもよい。従って、イヤピース１００は、イヤピース１００の動きに対応していないユーザーの周囲環境内の動きを識別しうる。
【００９９】
第１検出データ及び第２検出データ内のシーンの変化する部分を識別した際に、イヤピース１００は、人物及び顔面を認識するための「固有顔」及び「骨格認識」などの技法を使用することにより、変化する要素を認識するように試みる。これに加えて、様々な物体／人物クラス用の異なるモデルを学習するべく、サポートベクターマシン、デフォーマブルパートモデル（Ｄｅｆｏｒｍａｂｌｅ  Ｐａｒｔｓ  Ｍｏｄｅｌ）、及び動的プログラミングのような標準的な技法を使用することができる。これらの認識タスクにおいて使用されうる特徴のタイプは、ＳＩＦＴ（Ｓｃａｌｅ−Ｉｎｖａｒｉａｎｔ  Ｆｅａｔｕｒｅ  Ｔｒａｎｓｆｏｒｍ）、ＳＵＲＦ（Ｓｐｅｅｄｅｄ  Ｕｐ  Ｒｏｂｕｓｔ  Ｆｅａｔｕｒｅｓ）、Ｇｉｓｔモデリング、Ｓｏｂｅｌ、Ｆａｓｔ、並びに、方法５００が人物、物体、生物、又はユーザーの近傍内の場所／環境を識別できるようにするその他の特徴及び／又は技法のような特徴の任意の組合せであってもよい。
【０１００】
従って、動的領域を検出することにより、ブロック５１２において、ユーザーの近傍の環境に進入した新しい人物が検出されてもよく、且つ、相応して、ブロック５０６において、動的な物体又は生物をプロセッサ１１１によって検出及び分類することができる。同時に、或いは、その後に、イヤピース１００は、ブロック５１６において、残っている静的領域を抽出している。一実施形態においては、ブロック５１６において、更なる第２検出データが、ブロック５１８における静的な物体から、且つ、ブロック５２０におけるユーザーの近傍の環境又は場所から、収集されている。
【０１０１】
ブロック５０８において示されているように、マイクロフォン１３１は、発話、会話、又はやり取りを検出するべく、発話認識モジュールと通信してもよい。イヤピース１００は、ブロック５１０において、有用なデータを含む会話要素を更に抽出してもよい。ブロック５２２においては、プロセッサ１１１は、ブロック５１０からの抽出された会話又は発話要素を検出された人物、物体、生物、場所／環境、又はこれらの組合せに対してマッチングさせている。
【０１０２】
ブロック５２８において、方法５００は、コンテキストに基づいて、且つ、人物、物体、生物、場所／環境、又はこれらの組合せに関するブロック５２２からのマッチングされた会話イベントに基づいて、以前の関連情報又は学習されたデータを調査している。ブロック５２６において、プロセッサ１１１は、後で使用するべく、以前の関連情報に基づいて、関連情報をメモリ１１２内において保存している。例えば、プロセッサ１１１が、環境に進入する人物の顔面特徴を検出し、且つ、更には、その新しい人物が発話していることを検出した場合に、それらの発話要素を新しい人物とマッチングさせることができる。
【０１０３】
人物に関係付けられた発話データは、後で使用するべく、メモリ１１２内において保存されてもよい。又、音響又は音声の発生源を特定するべく、３Ｄマイクロフォン又はマイクロフォンアレイが利用されてもよい。イヤピース１００は、第１検出データを補うべく、人物に関係するデータを追跡及び記録することができる。方法５００は、ブロック３５０において、ブロック５２２の対応した人物、場所／環境、生物、又はこれらの組合せに対するマッチングされた会話イベントに基づいて、且つ、更には、ブロック５２４からの推定されたコンテキスト及びやり取りキーポイントに基づいて、能動的に且つ自動的に、第２出力データを出力してもよい。
【０１０４】
データの処理（例えば、ブロック５０６〜３５０におけるもの）は、カメラ１２１及び／又はセンサ１２５によって収集されたデータをリアルタイムで連続的に分析することにより、実行することができる。メモリ１１２の情報保存容量に対する制約、プロセッサ１１１のみを使用した処理と関連するエネルギー容量の問題、及びプロセッサ１１１の処理パワーの制限に起因して、外部装置及び／又はクラウドが利用されてもよい。但し、一実施形態においては、最小レベルの能力を保証するべくオンボード処理が好ましい（例えば、クラウド通信における接続能力が低い）イベントに備えるために、オンボード及びオフボード処理能力の両方が利用されている。例えば、装置が、方法５００のブロックを実行するために十分な容量を有していない場合には、外部装置及び／又はクラウドが、処理負荷の共有における支援を提供することができる。
【０１０５】
ブロック５３０において、プロセッサ１１１は、スピーカ１３２を使用することにより、プロセッサ１１１によって受信された入力／要求に基づいて、或いは、メモリ１１２内に保存されている既定の又はスケジューリングされたイベントに基づいて、第１出力データを受動的に出力してもよい。
【０１０６】
更には、プロセッサ１１１は、スピーカ１３２を使用することにより、第１検出データ及び／又は第２検出データ、予め検出され、処理され、且つ、保存された第１及び／又は第２データ、メモリ１１２内において保存されている予めプログラムされたアルゴリズム、或いは、これらの組合せに基づいて、能動的に且つ自動的に、第２出力データを出力してもよい。
【０１０７】
上述のように、インターフェイスアレイ１３０は、検出されたデータに基づいて、ユーザー又は別の人物と通信する。インターフェイスアレイ１３０は、プロセッサ１１１との通信状態にあるディスプレイ１３５又は投射システムを介して通信してもよい。ディスプレイ１３５又は投射システムは、イヤピース１００に無線で接続されたセルラー電話機などのリモート装置上において位置決めされてもよい。又、インターフェイスアレイは、スピーカ１３２を介して通信してもよい。
【０１０８】
出力画像／ビデオは、ＬＣＤ、有機発光ディスプレイ、プラズマディスプレイ、発光ダイオード、或いは、出力画像／ビデオを表示するための任意のその他の表示メカニズムを使用することにより、表示されてもよい。
【０１０９】
次に、本発明の例示用の方法を示すフローチャートについて開示することとする。イヤピース１００は、異なるモードにおいて動作するように構成されてもよい。モードは、例えば、入力装置１３４を使用することにより、選択されてもよい。モードに応じて、イヤピース１００は、本明細書において記述されている機能のすべてを実行してもよく、機能のうちのいくつかを実行してもよく、或いは、いずれの機能をも実行しなくてもよい。様々な機能が、フローチャートを使用することにより、示されている。フローチャートによって表されている機能は、ブロックのすべてを常に必要としているわけではなく、いくつかの更なるブロックが利用されてもよく、且つ、ブロックは、必ずしも任意の所与の順序において実行されるわけでもない。
【０１１０】
後述する方法のいずれもが、イヤピース１００が、保存されているデータと検出されたデータの間の逸脱の決定に基づいて動作を実行するようにしてもよい。例えば、図７のプロセスは、ユーザーに対する危険を決定し、且つ、これに応答するための方法に関するものである。一例として、ユーザーが転倒した場合には、カメラ１２１は、ユーザーが上方を向いているというデータを検出しうる。予め検出及び保存されているデータは、ユーザーが、床に対して平行な方向において予め向いていたことを通知しうる。次いで、イヤピース１００は、保存されているデータ（前方を向いている）と検出されたデータ（上方を向いている）の間のデータの逸脱に基づいて、動作を実行してもよい。
【０１１１】
図６Ａは、検出されたデータに基づいて、イヤピース１００をナビゲートし、且つ／又は、有用な情報をイヤピース１００のユーザーに提供する例示用の方法を示している。
【０１１２】
ブロック６０１は、イヤピース１００を使用したデータ収集の様々な方法を示している。
【０１１３】
ブロック６０２において、イヤピース１００は、カメラ１２１を使用して画像データを検出してもよい。画像データは、周囲環境、その内部の物体又は生物、ユーザー、及び／又はその他の周囲要素に対応したものであってもよい。例えば、画像データは、部屋の形状又は部屋の内部の物体と関連したものであってもよい。別の例として、イヤピース１００は、顔面認識データを含む画像データを検出してもよい。
【０１１４】
ブロック６０３において、ＩＭＵ１２３は、プラットフォームに結合されており、且つ、インテリジェントナビゲーション装置の位置決め、速度、加速度に対応した慣性計測データを検出するように構成されている。ＧＰＳユニット（ＧＰＳ）１２４は、インテリジェントナビゲーション装置の場所に対応した場所を検出するように構成されている。
【０１１５】
ブロック６０４において、マイクロフォン１３１を使用することにより、発話データ又はオーディオデータが検出されている。この情報は、ユーザー、環境、その他の人々、動作、イベント、並びに、社会的やり取り及び周囲環境に関する様々なその他の項目と関連する情報であってもよい。例えば、特定の部屋に位置している際に、イヤピース１００は、インターフェイスアレイ１３０を介して、ユーザー又は別の人物から、部屋のタイプなどの情報（即ち、「これは、リビングルームである」）を受信してもよい。別の例として、ユーザーは、特定の人物を名指しするか、又はその人物に関する情報を追加することを所望しうる。この例においては、イヤピース１００は、インターフェイスアレイ１３０を介して、ユーザーから、人物の名前などの情報（即ち、「彼は、ジョニーである」）を受信してもよい。或いは、この代わりに、プロセッサ１１１は、イヤピース１００用のユーザー入力を伴うことなしに、その他の人物との間における会話を解析することにより、この情報を能動的に推定してもよい。
【０１１６】
別の例を参照すれば、ユーザーは、自身が昼食のための外出などの特定の動作を実行しているという入力をイヤピース１００に提供してもよい。別の例として、ユーザーは、危険が現時点の位置において存在していること及びその危険の説明という入力を装置に提供してもよい。或いは、この代わりに、プロセッサ１１１は、図５との関係において説明したように、且つ、更に後述するように、会話の解析や検出された画像データの分析などにより、この情報を能動的に推定してもよい。
【０１１７】
データは、要求を更に含んでもよい。この要求は、例えば、人物を識別するための、部屋を識別するための、物体を識別するための、任意のその他の場所を識別するための、住所又は建物内の特定の部屋などの特定の場所までナビゲートするための、ユーザーの現時点の動作についてユーザーにリマインドするための、物体の色の、服装がマッチングしているかどうかの、別の人物が指し示している又は注視している場所などの、要求であってもよい。ブロック６１４（望ましいイベント又は動作の決定）又はブロック６１６（目的地の決定）の出力は、要求された情報に基づいたものであってもよい。発話データが、ブロック６０４との関係において記述されているが、情報は、インターフェイスアレイ１３０及び／又はセンサアレイ１２０のコンポーネントの任意の組合せを使用することにより、収集することができる。
【０１１８】
ブロック６０５において、プロセッサ１１１は、インターフェイスアレイ１３０を介して、且つ／又は、リモート装置との接続を介して、ユーザー以外の人物との通信を確立してもよい。リモート接続は、更に後述するように、無線通信アンテナを介して確立されてもよい。
【０１１９】
プロセッサ１１１は、ユーザー以外の人物との通信が、望ましいか、又は要求されているかを決定してもよい。例えば、検出されたデータが、ユーザーが別の人物の意見を必要としていることを示唆した際に、別の人物の装置との間において、通信チャネルが確立されてもよい。例えば、ユーザーの服装に関する検出された発話、装用するべきものについて決断できない又は迷っているユーザーに関する顔面認識データ、及び／又は、鏡の前のユーザーの知覚された動作が、ユーザーが別の人物からのファッションの助言を必要としていることを通知している際には、ユーザーとユーザーの友人の間のビデオテレビ会議が確立されてもよい。以前の会話／やり取りから、プロセッサ１１１は、ユーザーの友人の連絡先情報を予め保存していてもよい。プロセッサ１１１は、ユーザーの友人のタイプを分類してもよく、且つ、この通信が、ユーザーが快適である友人との間のものである必要があることを認識してもよい。プロセッサ１１１は、データをユーザーに出力することにより、ビデオ会議又はテレビ会議が友人との間において確立されることになることをユーザーに知らしめてもよい。イヤピース１００は、ユーザーの友人に対するビデオ接続を提供してもよく、或いは、服装の写真をユーザーの友人に送信してもよい。この例においては、友人は、服装がマッチングしているかどうかに関する応答を提供してもよい。又、友人は、マッチングした代替服装を見出す際にユーザーを支援してもよい。
【０１２０】
ブロック６０６において、ユーザー、環境、及び／又は物体／生物から、インターフェイスアレイ１３０を介して、データが受信されている。例えば、データは、タッチスクリーンディスプレイ１３５から、入力装置１３４のキーボード又はボタンから、又は入力データを受信するべくユーザー又は別の人物とインターフェイスする能力を有するその他の装置から、検出されてもよい。
【０１２１】
ブロック６０７において、センサアレイ１２０のその他のコンポーネントを使用することにより、データが検出されてもよい。例えば、データは、上述のように、その他のセンサ１２５から検出されてもよい。この情報は、ユーザー、環境、環境内の物体、及び／又はその他の生物／人々と関連する情報であってもよい。
【０１２２】
又、ブロック６０８において、イヤピース１００は、アンテナ１４２又はＩ／Ｏポートを使用することにより、別の装置から、建物のマップに関するデータ又は任意のその他のデータなどのデータを受信してもよい。データは、イヤピース、ユーザーのその他の装置（例えば、スマートフォン又はタブレットなどのユーザーの携帯型電子装置）、リモートサーバー、或いは、接続されると共にアクセスの許可を有するその他の者の装置（例えば、ユーザーの友人の装置）の間において共有されてもよい。
【０１２３】
ブロック６０８において、データが、アンテナ１４２及び／又はＩ／Ｏポート１４３を介して取得されている。このデータは、ユーザーが動作の特定の組を実行しているはずであることをイヤピース１００に通知する情報であってもよい。例えば、ユーザーは、病院にいてもよい。受信された情報は、リアルタイムで処理されてもよく、或いは、後で使用するべく、メモリ１１２内において保存されてもよい。情報は、ユーザーの食事時間に関係したものであってもよい。この場合には、イヤピース１００は、ユーザーが、毎日、午後１２時に、カフェテリアにおいて昼食を摂ることを知っていてもよい。別の例として、イヤピース１００は、ユーザーのセルラー電話機にアクセスしてもよく、且つ、ユーザーのスケジュールをダウンロードしてもよい。
【０１２４】
ブロック６１１において、プロセッサ１１１は、ブロック６０１からの収集されたデータをメモリ内において保存されている関連データに対してマッチングさせている。これには、物体認識が含まれる。プロセッサ１１１は、保存されている物体データ及び慣性計測データ又は場所データのうちの少なくとも１つに基づいて、検出されたデータを分析することにより、周囲環境内の物体を認識する。メモリ１１２内において保存されている物体データは、ブロック６１２から取得することができる。
【０１２５】
ブロック６１２において、メモリ１１２は、ローカルに且つ／又はリモートに、関連データを保存している。例えば、ローカルに保存されたデータは、イヤピース１００に結合されたメモリ内において保存されているデータであってもよい。リモートに保存されたデータは、アンテナ１４２及び／又はＩ／Ｏポート１４３を介して、リモートサーバー又は別の装置からアクセスされるデータを含みうる。ユーザーのスケジュールは、アンテナ１４２を介してイヤピース１００に定期的に送信されてもよい。
【０１２６】
ブロック６１３において、プロセッサ１１１は、ブロック６０１において収集されたデータをメモリ内において保存されている関連データとマッチングさせている。これには、上述の物体認識が含まれる。プロセッサ１１１は、保存されている物体データ及び慣性計測データ又は場所データのうちの少なくとも１つに基づいて、検出されたデータを分析することにより、周囲環境内の物体を認識する。取得されるデータは、クラウド又はインターネット内において保存されているデータを含みうる。プロセッサ１１１は、要求を処理するために望ましい情報を決定する。例えば、ユーザーがリビングルームまでのナビゲーションを要求した場合に、イヤピース１００は、リビングルームの場所、ユーザーからリビングルームまでのルート全体のレイアウト、及び存在しうるすべての危険について知っている必要があろう。別の例として、ユーザーが、自身の衣服がマッチングしているかどうかを問い合わせた場合に、イヤピース１００は、マッチングしている衣服のタイプ、マッチングした色、及びユーザーが装用しているものについて知っている必要があろう。
【０１２７】
プロセッサ１１１は、要求を処理するために望ましい情報を取得するべく、メモリ１１２にアクセスする。例えば、ユーザーが、リビングルームまでのナビゲーションを要求した場合に、イヤピース１００は、リビングルームの場所、ユーザーからリビングルームまでのルートのレイアウト、及びすべての既知の危険を取得してもよい。
【０１２８】
プロセッサ１１１は、メモリ１１２が、検出されたデータに関する十分な有用情報を有しているかどうかを決定してもよい。例えば、ユーザーが２つの地点の間の歩行方向を要求しており、且つ、ルートのレイアウトがメモリ１１２内において入手可能ではない際には、イヤピース１００は、この不明な情報を取得するべく、アンテナ１４２及び／又はＩ／Ｏポート１４３を介してインターネット又はクラウドにアクセスしてもよい。
【０１２９】
ブロック６１４において、プロセッサ１１１は、望ましいイベント又は動作を決定している。プロセッサ１１１は、認識された物体、予め決定されたユーザーデータ、及び現時点の時刻及び日付に基づいて、望ましいイベント又は動作を決定してもよい。現時点の日付及び時刻は、後述するように、現時点の望ましいイベント、動作、目的地、発話などを決定するべく、必要とされる。
【０１３０】
イヤピース１００は、ユーザーが、任意の所与の時点において、特定の場所に位置していると共に／又は、特定の動作を実行している必要があるどうかを決定してもよい。例えば、プロセッサ１１１は、予め保存されている昼食イベントを現時点の日付／時刻（即ち、ヌーン）にマッチングさせてもよい。又、プロセッサ１１１は、予め保存されている昼食イベントをイベントの前の時点にマッチングさせてもよい。例えば、ユーザーが、正午に、３０分だけ離れたところで、昼食を摂る必要がある場合に、プロセッサは、午前１１：３０におけるマッチングを決定してもよい。別の例として、望ましい動作は、その他のマッチング項目を有する特定の衣服を装用するというものであってもよい。望ましいイベントは、療養施設内にいるユーザーが昼食会合イベントに参加する必要があることを現時点の日付／時刻が通知している場合に、昼食に向かう、というものであってもよい。
【０１３１】
ブロック６１５において、イヤピース１００は、インターフェイスアレイ１３０を介して、推定された現時点の望ましいイベントや動作／目的地などに基づいて、データを出力してもよい。例えば、推定された動作が、マッチングした衣服を見出すことである場合には、プロセッサは、服装がマッチングしているかどうかを決定してもよい。別の例として、目的地が推定される場合に、プロセッサは、ユーザー用の実行可能なナビゲーションルートを決定してもよい。出力は、例えば、スピーカ１３２を介した一連の口頭フレーズ（即ち、ステップバイステップの歩行方向）であってもよい。又、出力は、例えば、データについてユーザーに通知する振動であってもよい。例えば、左イヤピース１００内の振動は、左に曲がることを意味してもよく、右イヤピース１００内の振動は、右に曲がることを意味してよく、右及び左の両方のイヤピース１００内の振動は、停止することを意味してもよく、右及び左の両方のイヤピース１００内の連続的な振動は、減速を意味してもよく、或いは、振動の任意のその他の組合せは、これらのいずれか又は任意のその他のコマンドを通知してもよい。
【０１３２】
次に、イヤピース１００のナビゲーション特徴について説明する。ユーザーにナビゲーション情報を提供するべく、プロセッサ１１１は、（Ｉ）イヤピース１００及び／又はユーザーの位置決め及び／又は場所に関するデータ及び（ＩＩ）周囲環境、人物、物体、生物などに関するデータという２つのデータの組を少なくとも決定する。
【０１３３】
再度ブロック６０２を参照すれば、カメラ１２１を使用することにより、イヤピース１００の周囲地形に関するデータが検出されている。上述のように、図６Ａのブロックは、必ずしも図示の順序において実行されるわけではない。プロセッサ１１１は、例えば、目的地が決定された後に、地形について学習するべく、更なる画像データが必要であると決定してもよい。屋内においてナビゲートする際には、障害物の周辺をナビゲートすると共に望ましい場所又は特徴に到達するべく、スタンドアロンＧＰＳユニットが、盲目のユーザーに対して十分な情報を提供しない場合がある。インテリジェントイヤピース１００は、例えば、階段、出口、及び洗面所を認識してもよく、且つ、これらをメモリ１１２内において適切に保存してもよい。
【０１３４】
例えば、立体カメラ１２１ａは、周囲環境及び障害物の深さ情報を提供してもよい。或いは、この代わりに、又はこれに加えて、１つ又は複数のその他のカメラ１２１が、周囲環境に関する情報を提供するべく利用されてもよい。
【０１３５】
ブロック６０３を再度参照すれば、ＧＰＳ１２４及び／又はＩＭＵ１２３を使用することにより、データが検出されている。このデータをカメラ１２１から取得されたデータと共に使用することにより、地形の理解を得ることができる。
【０１３６】
ブロック６１７、６１８ａ、及び６１８ｂにおいて、プロセッサ１１１は、ＧＰＳ１２４及び／又はＩＭＵ１２３から取得されたデータに基づいて、カメラ１２１を使用して取得されたデータを分析しており、且つ、この逆も又真である。ブロック６１７において、情報セット（ＩＩ）を使用することにより、情報セット（Ｉ）についての相対的に良好／正確な理解を得ることが可能であり、且つ、この逆も又真である。
【０１３７】
ブロック６１７において、プロセッサは、画像データ、ＩＭＵ１２３を使用して取得された慣性計測データ、ＧＰＳユニット１２４を使用して取得された場所データ、及び関連する保存されているデータ（例えば、メモリ１１２内において保存されているマップデータ）を使用することにより、イヤピース１００の場所又は位置決めに関するデータを決定している。
【０１３８】
ブロック６１８ａにおいて、プロセッサ１１１は、カメラ１２１を使用して収集された画像の特徴を分析してもよく、且つ、物体認識を使用して環境物体を認識してもよい。例えば、ＩＭＵ１２３によって収集されたデータを使用して運動の量及び速度を決定することにより、カメラ１２１によって収集されたデータを使用した検出の精度を改善することができる。これに加えて、ＩＭＵ１２３は、収集された情報が配置されている方向を通知しうる。例えば、情報が、イヤピース１００ａの上方の方向からの物体に関するものであることをＩＭＵ１２３が通知した場合には、プロセッサ１１１は、表面が、地面ではなく天井である可能性が高いと決定してもよい。
【０１３９】
これに加えて、ＧＰＳ１２４を使用して収集されたデータは、カメラ１２１によって収集されたデータの識別を改善することができる。例えば、カメラ１２１が建物の画像を提供している場合には、プロセッサ１１１は、この世界におけるユーザーの場所に関するデータを利用することにより、建物が正しく検出されているかどうかを決定することが可能であり、その理由は、建物のタイプが、この世界の異なる部分において異なっているからである。
【０１４０】
ＧＰＳ情報は、不十分なものである場合があり、その理由は、ＧＰＳ情報が、周囲環境に関する十分に詳細な情報を提供しない場合があるからである。但し、ＧＰＳ情報は、ユーザーにとって有用な推定を導出するべく、カメラ１２１からの視覚情報と共に利用することができる。例えば、ＧＰＳ情報が、イヤピース１００が現時点において建物内に位置していることを通知し、且つ、カメラ１２１が、物体に関する情報を提供している場合には、プロセッサ１１１は、そのサーチを建物内において合理的に位置している物体に限定することができる。例えば、カメラ１２１によって提供された画像がトラックのように見える場合に、プロセッサ１１１は、ＧＰＳ情報に基づいて、その物体がトラックである可能性を排除することができる。換言すれば、それは、トラックのポスターの画像である可能性が高く、その理由は、ポスターは、合理的に建物内に位置することが可能であり、且つ、トラックは、そうではないからである。ＧＰＳ１２４は、場所情報を提供し、これと共に、ＩＭＵ１２３によって提供される速度及び向き情報を含む慣性ガイダンス情報により、プロセッサ１１１は、ユーザーの誘導を支援することができる。
【０１４１】
メモリ１１２は、例えば、ユーザーを見出すと共にユーザーにナビゲーションコマンドを提供することを支援するべく、マップ情報又はデータを保存してもよい。マップデータは、予め読み込まれてもよく、アンテナ１４２を介して無線でダウンロードされてもよく、或いは、建物の入口の近傍において掲示された、又は以前の遭遇及び記録から構築された、建物マップをキャプチャするなどにより、視覚的に決定されてもよい。マップデータは、エッジを有するネットワーク図又は特徴を有する一連の座標などのように、抽象的なものであってもよい。マップデータは、ユーザーの目標物を含んでもよく、且つ、ユーザーが歩行するのに伴って、カメラ１２１は、更なる目標物を受動的に認識してもよく、且つ、マップデータを更新してもよい。
【０１４２】
ブロック６１６において、プロセッサ１１１は、決定された望ましい動作又はイベントに基づいて、望ましい目的地を決定している。
【０１４３】
例えば、イヤピース１００は、ユーザーを空いた座席に誘導してもよく、或いは、離れるようにユーザーをナビゲートした後に、同一の座席に戻るように、ユーザーの特定の座席を記憶してもよい。その他の目標物は、潜在的な危険、周囲構造の説明、代替ルート、及びその他の場所であってもよい。更なるデータ及び目標物は、Ｂｌｕｅｔｏｏｔｈ（登録商標）又はその他の無線ネットワークを通じて、モバイル装置及びその他の装置、ソーシャルネットワーク、又はクラウドに、ダウンロード及び／又はアップロードすることができる。
【０１４４】
ブロック６１８ｂにおいて、分析済みのデータに基づいて、操縦性状態／横断不能領域が検出されている。例えば、横断不能領域は、タール坑などのように、ユーザーが安全に移動できない領域であってもよい。
【０１４５】
ブロック６１８において、プロセッサ１１１は、ユーザーが移動可能な経路を決定している。経路は、ブロック６１８における検出された横断不能領域を排除している。インテリジェントイヤピース１００は、ナビゲーション用の経路を決定してもよく、この経路は、ユーザーのニーズについて更に変更されてもよい。例えば、盲目ユーザーは、壁に沿ったルートを選好する場合がある。ＩＭＵ１２３及び／又はＧＰＳ１２４及びその他のセンサを使用することにより、インテリジェントイヤピース１００は、ユーザーを経路に沿ってガイドすることによって障害物を回避するべく、ユーザーの場所及び向きを決定することができる。
【０１４６】
例えば、経路は、上述のように、望ましい物体（空いた座席）に向かうものであってもよい。イヤピース１００は、ユーザーのために障害物又は経路を識別してもよく、且つ、移動者の速度又は移動者の意図する方向に基づいて、重要な障害物又は潜在的な経路を絞り込み可能であってもよい。次いで、イヤピース１００は、これらの重要な障害物又は経路に基づいて、ユーザーをガイドしてもよい。ガイダンスは、例えば、経路又は回避するべき物体についての聴覚フィードバック又は振動フィードバックであってもよい。
【０１４７】
ブロック６２２において、インターフェイスアレイ１３０の様々な出力を使用することにより、ブロック６１５からの出力データがユーザーに伝達されてもよい。経路上においてユーザーをガイドするべく、複数のフィードバックがユーザーに提供される。又、このフィードバックは、ユーザーを望ましい目的地／物体に向かってガイドするべく、提供され、且つ、発話、振動、機械的なフィードバック、電気的刺激、表示などの組合せを介して提示される。盲目ユーザーの場合には、プロセッサ１１１は、情報を出力する際に、視界（ｒａｎｇｅ  ｏｆ  ｖｉｓｉｏｎ）に留意してもよい。盲目の又は部分的に盲目の人物は、杖を使用して０．９１ｍ（３フィート）未満にある物の大部分を識別することができる。９．１ｍ（３０フィート）超だけ離れた物体及びその他の目標物は、その距離に起因して、最大の重要性を有していない場合がある。
【０１４８】
経路に沿って移動している間に、イヤピース１００は、経路に沿ったサイン又は危険についてユーザーに通知してもよい。振動ユニット１３３及び／又はスピーカ１３２は、経路に沿ったユーザーのガイドを支援するべく、オーディオ及び触覚キューを提供する。例えば、スピーカ１３２は、規定された距離だけ、前方に移動するためのコマンドを再生してもよい。次いで、ユーザーが中間地点に位置した際に、特別なオーディオトーン又はオーディオパターンを再生することが可能であり、且つ、更なるトーン又はオーディオパターンを提供することにより、曲がるようにユーザーをガイドすることができる。第１トーン、オーディオパターン、又は振動は、旋回の開始についてユーザーに警告することができる。例えば、左インテリジェント移動支援装置からの単一のトーン又は振動は、左旋回を通知してもよい。第２トーン、オーディオパターン、又は振動は、旋回が完了したことをユーザーに警告することができる。例えば、旋回が完了した際に、２つのトーンが提供されてもよく、或いは、左装置が振動を中止するように振動が停止されてもよい。又、４５度旋回用の特定のトーン及び９０度旋回用の特定のトーンなどのように、異なるトーン又はパターンが異なる程度の旋回を意味してもよい。或いは、トーン及び振動の代わりに、又はこれに加えて、インテリジェントイヤピース１００は、自動車のＧＰＳナビゲーションコマンドと同様に、口頭キューを提供してもよい。又、ハイレベルな警告が、オーディオフィードバックを通じて提供されてもよい。例えば、インテリジェントイヤピース１００が、障害物又は危険から既定の距離―０．３ｍ（１フィート）、或いは、メモリ１１２内において保存されうると共に調節されうるその他の値など―に到達するのに伴って、スピーカ１３２及び／又は振動ユニット１３３は、可聴警告を提供してもよい。インテリジェントイヤピース１００が障害物に接近するのに伴って、可聴警告及び／又は振動の強度又は周波数を増大させてもよい。
【０１４９】
図６Ａに示されている方法の一例として、ユーザーは、「Ｙキャンパス内の建物Ｘまで連れて行け」という音声コマンドを付与してもよい。次いで、インテリジェントイヤピース１００は、関連するマップをメモリからダウンロード又は取得してもよく、或いは、カメラ１２１からの知覚された画像に基づいて、ナビゲートしてもよい。ユーザーがインテリジェントイヤピース１００からのナビゲーションコマンドに従って移動するのに伴って、ユーザーは、午前中に、コーヒーショップに通りがかることになり、且つ、インテリジェントイヤピース１００は、コーヒーショップを認識することになろう。イヤピース１００は、ユーザーの習慣と共に、この認識及び時刻を使用してもよく、これにより、コーヒーショップが近傍に位置していることをユーザーに対して適切に警告してもよい。インテリジェントイヤピース１００は、スピーカ１３２を通じて、口頭で、ユーザーに警告してもよい。ユーザーは、入力装置１３４を使用して設定を調節してもよく、設定は、例えば、警告のタイプ、アナウンスする詳細、並びに、物体認識又は警告設定に関係しうるその他のパラメータを制御してもよい。ユーザーは、必要に応じて、特定の機能をターンオン又はオフしてもよい。
【０１５０】
図６Ｂは、推定された現時点の望ましいイベント、動作、目的地などに基づいて、イヤピース１００のユーザーに支援を提供する例示用の方法を示している。ブロック６５０において、データが、メモリ１１２から、且つ／又は、アンテナ１４２及び／又はＩ／Ｏポート１４３を介して、取得されている。このデータは、ユーザーが特定の動作の組を実行しているはずであることをイヤピース１００に通知する情報であってもよい。例えば、ユーザーは、病院内にいてもよい。この例においては、メモリ１１２が、ユーザーの食事時間に関係する情報を含んでいると仮定しよう。その結果、装置は、ユーザーが、毎日、午後１２時に、カフェテリアにおいて昼食を摂る必要があることを知っていてもよい。別の例として、ユーザーは、自身のスケジュールについて、イヤピース１００に通知してもよい。例えば、ユーザーは、自分が、今週の金曜日の午後５時に、６００  Ａｎｔｏｎ  Ｂｌｖｄ．において、会合に出席することを装置に通知してもよい。
【０１５１】
ブロック６５２において、イヤピース１００は、ユーザーが、任意の所与の時点において、特定の場所に位置していると共に／又は、特定の動作を実行しているかどうかを決定してもよい。そうではない場合に、プロセッサは、ブロック６５０に戻ってもよい。そうである場合には、プロセスは、ブロック６５４に進んでもよい。
【０１５２】
ブロック６５４において、ユーザーの現時点の動作に関連するデータが、センサアレイ１２０によって検出されている。例えば、ＧＰＳ１２４及び／又はＩＭＵ１２３は、イヤピース１００が、カフェテリアに向かって、或いは、６００  Ａｎｔｏｎ  Ｂｌｖｄ．に向かって、移動していることを検知してもよい。別の例として、マイクロフォン１３１は、ユーザーが別の人物に対して話しかけていることを通知するデータを検出してもよい。
【０１５３】
ブロック６５６において、ユーザーの現時点の動作が、ブロック６５０からの特定の動作の組とマッチングしているかどうかが決定されている。例えば、ユーザーがカフェテリアに向かって移動しておらず、且つ、ユーザーが、５分後に昼食を摂るものと推定されている場合には、現時点の動作は、特定の動作とマッチングしていない。現時点の動作が、ブロック６５０からの特定の動作とマッチングしている場合には、プロセスは、ユーザーが、その特定の動作の実行を継続することを保証するべく、ブロック６５４に戻る。
【０１５４】
ブロック６５８において、ユーザーは、インターフェイスアレイ１３０を介して、特定の動作について通知されている。例えば、装置が、カフェテリアから離れるように移動している場合には、イヤピース１００は、ユーザーが、いま、昼食に向かっている必要があるというデータをユーザーに提供してもよい。ユーザーが、ブロック６５０において取得された特定の動作の組を開始しない場合には、イヤピース１００は、既定の時間量の後に、再度、ユーザーに通知してもよい。但し、イヤピース１００は、ユーザーが、中断されることを所望していない際について学習していてもよい。例えば、ユーザーは、会話の最中に中断されることを所望していない場合がある。マイクロフォン１３１が、ユーザーが会話を実行していることを検出した場合に、イヤピース１００は、会話の後の時点まで、ユーザーへの通知を待ってもよい。
【０１５５】
イヤピース１００は、インターフェイスアレイ１３０を介して、ユーザーが更なる情報を必要としているかどうかを決定してもよい。イヤピース１００は、ユーザーが前後によろめいているかどうか、ユーザーが案内を必要としているかどうかなどの、ユーザーの好みを予め学習していてもよい。又、イヤピース１００は、ナビゲーション情報を要求してもよい。例えば、ユーザーは、カフェテリアまでの案内を要求してもよい。ユーザーは、インターフェイスアレイ１３０を介して、自身が更なる情報を必要としている又はしていない、というデータをイヤピース１００に提供することができる。ユーザーが更なる情報を必要としていない場合には、プロセスは、ブロック６６４に進む。
【０１５６】
ブロック６６４において、プロセッサ１１１は、ブロック６５０からの特定の動作の組が完了状態にあるかどうかを決定している。特定の動作が完了状態にある場合には、プロセスは、終了する。特定の動作が完了状態にない場合には、プロセスは、ブロック６５４に戻る。
【０１５７】
次に、図６Ｂのプロセスの一例を提供することとする。ユーザーが昼食のためにカフェテリアにいるものと推定されていると仮定しよう。イヤピース１００は、ユーザーがカフェテリアにいるものと推定されているが、ユーザーがカフェテリアに向かって移動していないと決定する場合がある。その結果、イヤピース１００は、インターフェイスアレイ１３０を介して、「昼食に向かう時間である」というオーディオフィードバックなどの、フィードバックをユーザーに提供してもよい。次いで、ユーザーは、「まだ準備ができていない」又は「行こう」などの、フィードバックをイヤピース１００に返してもよい。ユーザーが、まだ準備できていない場合には、イヤピース１００は、既定の時間量の後に、昼食時間である、とユーザーに再度リマインドしてもよい。準備ができている際には、ユーザーは、向かう準備ができている、というデータをイヤピース１００に提供してもよい。
【０１５８】
次いで、イヤピース１００は、案内を必要としているかどうかを決定するべく、ユーザーに対してフィードバックを要求してもよい。ユーザーが、いいえ、と応答した場合には、イヤピース１００は、なんらの現時点の情報をも提供しなくてもよい。但し、ユーザーが、はい、と応答した場合には、イヤピース１００は、ユーザーをカフェテリアまでナビゲートしてもよい。又、イヤピース１００は、別の装置と通信するように構成されていてもよい。例えば、イヤピース１００は、ユーザーの食物が準備されうると共に、ユーザーが到着した際にユーザーのために座席が準備された状態となりうるように、ユーザーが昼食のために向かっているというデータをカフェテリア内の端末に提供してもよい。ユーザーが到着するのに伴って、イヤピース１００は、ユーザーのテーブルの場所及びユーザーと一緒に着席する人物などの、更なるデータをユーザーに提供してもよい。
【０１５９】
いくつかの実施形態においては、イヤピース１００は、ユーザーの好みを学習してもよい。例えば、イヤピース１００は、ユーザーが、通常、昼食のために着席する椅子について学習してもよい。この例においては、イヤピース１００は、ユーザーの通常の昼食時間の椅子の場所を決定してもよい。これを実行するべく、イヤピース１００は、カメラ１２１からの検知された視覚データ、ＧＰＳ１２４、ＩＭＵ１２３からの位置データ、及び／又は、任意のその他の検出されたデータのみならず、図２との関連において上述した形状分析を使用してもよい。イヤピース１００は、椅子の場所を決定したら、ユーザーが椅子に安全に到達すると共に着席しうるように、ユーザーを椅子までガイドしてもよい。
【０１６０】
図７は、イヤピース１００による危険支援の例示用の方法を示している。ブロック７００において、データが、センサアレイ１２０によって検出されている。このデータは、視覚データ、位置データ、又はセンサアレイが検知しうる任意のデータであってもよい。例えば、ＩＭＵ１２３は、ユーザーが転倒していることを通知する又はユーザーが上下逆の位置にあることを通知するデータを検知してもよい。カメラ１２１は、レンズの非常に近傍の大きな物体などの視覚データを検出してもよい。センサアレイ１２０は、火災又は洪水を通知するデータなどの、任意のその他の情報を検出してもよい。
【０１６１】
ブロック７０２において、検出されたデータが、メモリ１１２内において保存されている危険を示すデータと比較されている。このメモリ１１２内のデータは、例えば、ユーザーの転倒の動きと関連するデータであってもよい。又、データは、例えば、ユーザー上に落下する物体と関連するデータであってもよい。プロセッサ１１１は、マッチングが存在しているかどうかを決定するべく、メモリ１１２からの危険を通知するデータを検出されたデータと比較する。例えば、検出されたデータが、大きな物体がユーザー上に落下したことを通知するデータとマッチングしている場合には、マッチングが存在している。
【０１６２】
ブロック７０４において、危険を通知するデータと検出されたデータの間にマッチングが存在していない場合には、プロセスは、ブロック７００に戻り、データの検出が継続される。但し、マッチングが存在している場合には、プロセスは、ブロック７０６に進む。ブロック７０６において、イヤピース１００は、ユーザーが大丈夫であるかどうかなどの情報をユーザーが提供することを要求している。ユーザーは、この情報をインターフェイスアレイ１３０を介して提供してもよい。この情報は、例えば、発話された「はい、私は大丈夫です」又は「いいえ、私は大丈夫ではありません」であってもよい。
【０１６３】
ブロック７０８において、ユーザーが、自身が支援を必要していると応答したのか、自身が支援を必要としていないと応答したのか、或いは、まったく応答しなかったのか、が決定されている。ユーザーが、自身が支援を必要としていないと応答した場合には、プロセスは、ブロック７００に戻る。ユーザーが、自身が支援を必要としていると応答した場合には、或いは、ユーザーが問合せに応答しなかった場合には、プロセスは、ブロック７１０に進む。
【０１６４】
ブロック７１０において、イヤピース１００は、インターフェイスアレイ１３０を介して、自身が人物と通信することを又はリモート装置が警告されることをユーザーが所望しているかどうかに関する情報をユーザーが提供することを要求してもよい。
【０１６５】
ブロック７１２において、ユーザーが人物と通信することを選択したかどうかが決定されている。ユーザーが、人物との通信を選択している場合には、ブロック７１４において、通信チャネルが、ユーザーと望ましい人々／人物の間において確立されてもよい。これに加えて、ユーザーは、自身が話をしたい人を選択してもよい。例えば、ユーザーは、自身のかかりつけ医、警察、友人、又は任意のその他の人物又はサービスとコンタクトすることを希望しうる。又、イヤピース１００は、通信チャネルを開くべき人物について学習していてもよい。例えば、火災データが検出された場合に、イヤピース１００は、消防署又は「９１１」コールセンタとの通信を開いてもよい。
【０１６６】
通信は、例えば、アンテナ１４２及び／又はＩ／Ｏポート１４３を介してイヤピースをセルラー装置に接続することにより、確立されてもよい。接続が確立された後に、イヤピース１００は、セルラー装置が、ビデオ通話又は音声通話を要求された人物又は組織に対して実行するようにしてもよい。イヤピース１００のマイクロフォン１３１は、セルラー装置のマイクロフォンとして機能してもよく、且つ、イヤピース１００のスピーカ１３２は、セルラー装置のスピーカとして機能してもよい。通信が確立されたら、ユーザーは、要求された人物と通信してもよく、且つ、情報を提供してもよい。又、イヤピース１００は、危険と関連する任意のデータや任意の場所データなどのような、情報を通信の他端に位置した装置に提供してもよい。又、任意の情報が、イヤピース１００のＷｉ−ＦｉやＢｌｕｅｔｏｏｔｈ（登録商標）などの要素を介して通信されてもよい。例えば、イヤピース１００は、Ｗｉ−Ｆｉを介してＶｏＩＰ接続を確立してもよい。
【０１６７】
ブロック７１２において、ユーザーが、人物との通信を選択しなかった場合には、或いは、ユーザーが応答しなかった場合には、プロセスは、ブロック７１６に進んでもよい。ブロック７１６において、リモート装置は、アンテナ及び／又はＩ／Ｏポートを介して、危険について警告されている。この警告は、出来事の時刻の周辺においてキャプチャされた任意のデータや任意の場所データなどから構成されてもよい。警告は、アンテナ１４２及び／又はＩ／Ｏポート１４３、Ｗｉ−Ｆｉ、Ｂｌｕｅｔｏｏｔｈ（登録商標）などを介して、所定の接続によってセルラー装置に伝達されてもよい。
【０１６８】
図８Ａは、安全監視及び警告用の例示用の方法を示している。プロセスは、ブロック８００において、運動がイヤピース１００によって検出された際に始まっている。この運動は、例えば、ＩＭＵ１２３又はＧＰＳ１２４によって検出されてもよい。プロセスが始まった後に、ブロック８０２において、センサアレイ１２０を使用することにより、新しいデータがイヤピースによって検出されている。このデータは、視覚データ（通り、歩道、人々）、位置データ（ユーザーの場所、移動の方向）、オーディオデータ（走行する自動車の音、サイレン、アラームなど）、又は任意のその他のデータなどの、センサアレイ１２０によって検出される任意のデータを含みうる。ブロック８０６において、この新しいデータが、メモリ１１２内において保存されている。
【０１６９】
ブロック８０６において、この新しいデータが、メモリ１１２内において記録されているデータと比較されている。メモリ１１２内において記録されているデータは、以前の時点において同一の場所においてキャプチャされたデータを含みうる。又、メモリ１１２内において記録されているデータは、現時点の時刻の数ミリ秒、数秒、又は数分前などのように、現時点の時刻の前の時点において、同一の場所又は近傍においてキャプチャされたデータを含みうる。プロセッサは、図２の物体認識方法を使用することにより、この比較を実行してもよい。
【０１７０】
ブロック８０８において、新しいデータとメモリ１１２内において記録されているデータの間において、逸脱が検出されるかどうかが決定されている。この逸脱は、例えば、以前に検出されなかった新しい物体がイヤピース１００の視野内に存在していることを通知するデータを含みうる。又、逸脱は、例えば、以前に存在していた物体が、もやは、視野内に存在していないことをも含みうる。又、逸脱は、例えば、警察サイレンなどの新しい音をも含みうる。
【０１７１】
ブロック８１０において、逸脱が新しいデータ内において検出された場合に、この逸脱に基づいて、インターフェイスアレイ１３０を介して、第２データがユーザーに出力されてもよい。一例として、逸脱が、歩道の中央部に位置した岩石を含んでいると仮定しよう。この例においては、イヤピース１００は、逸脱について通知するデータをユーザーに提供してもよい。例えば、イヤピース１００は、スピーカ１３２を使用することにより、岩石の形状にマッチングした物体が、ユーザーの直接前方３ｍ（１０フィート）のところに存在していることをユーザーに通知してもよい。或いは、この代わりに、又はこれに加えて、イヤピース１００は、逸脱に基づいて、触覚フィードバックをユーザーに対して提供してもよい。
【０１７２】
ブロック８１２において、逸脱がテキストを含んでいるかどうかが決定されている。例えば、逸脱は、テキストを含むサイン又は警察テープであってもよい。プロセッサ１１１は、なんらかのマッチングが存在しているかどうかを決定するべく、新しい検出データをテキスト文字の形状を通知するデータと比較することにより、この決定を実施してもよい。
【０１７３】
ブロック８１４において、逸脱がテキストを含んでいると決定された場合には、イヤピース１００は、逸脱のテキストに基づいて、インターフェイスアレイ１３０を介して、データをユーザーに出力してもよい。例えば、データは、逸脱のテキストのコンテンツについて通知するオーディオデータを含みうる。
【０１７４】
ブロック８１６において、逸脱が危険を提示しているかどうかが決定されている。メモリ１１２は、逸脱が危険であるかどうかを決定するべく、検出データと比較されうるデータを保存していてもよい。例えば、メモリ１１２は、ボブキャットと関連する視覚データと、ボブキャットが危険であるというインジケータと、をその内部に保存していてもよい。別の例として、メモリ１１２は、注意サインの形状と関連する視覚データと、このデータは危険のインジケータである、という言葉による注意と、をその内部に保存していてもよい。
【０１７５】
別の例として、危険な物体を表すデータを有する代わりに、メモリ１１２は、状況データを保存してもよい。状況データの一例は、ユーザーが歩行している歩道の中央部に大きな物体が存在している場合に、その物体が危険を提示しうるということをイヤピース１００が認識しうるというものである。状況データの別の例は、エリアの視覚データが予め検知及び保存されており、且つ、エリアの視覚データが、エリアの現在の検知において、大幅に異なっている場合に、危険が存在しうることをイヤピースが認識しうるというものである。
【０１７６】
ブロック８１８において、逸脱が危険を提示していると決定された場合に、イヤピース１００は、インターフェイスアレイ１３０を介してユーザーに警告してもよい。警告は、例えば、危険が存在していることと、危険の場所と、をユーザーに通知するスピーカ１３２を介した出力を含みうる。又、イヤピース１００は、例えば、危険のタイプを出力してもよい。イヤピース１００が、「歩道内に窪みあり」と判読される警告サインを検出した場合に、イヤピース１００は、窪みが歩道に存在していることを通知するデータをユーザーに出力してもよい。又、イヤピース１００は、これらの情報を検出するのに伴って、窪みの場所についてユーザーに通知してもよい。いくつかの実施形態においては、イヤピース１００は、振動ユニット１３３を介して、振動データをユーザーに提供してもよい。例えば、ユーザーが危険に接近するのに伴って、振動ユニット１３３は、益々増大する周波数の振動を生成してもよい。
【０１７７】
次に、イヤピース１００の更なる運動が検出されるかどうかが決定される。更なる運動が検出されない場合には、ユーザーは、立ち止まっており、且つ、プロセスは、終了してもよい。運動が検出された場合には、プロセスは、ブロック８０２に戻ってもよい。プロセスが、運動の欠如に起因して終了した場合に、プロセスは、イヤピース１００の運動の検出により、任意の時点において再開することができる。
【０１７８】
図８Ｂは、請求項８Ａの方法の一例を示している。図８Ｂのフレーム８５０において、ユーザー８５６は、歩道に沿って歩行している。ユーザーが、以前に、歩道に沿って歩行しており、且つ、メモリ１１２が、歩道に沿った以前の移動の際にセンサアレイ１２０によって検出されたデータをその内部に保存しているものと仮定しよう。
【０１７９】
フレーム８５２において、危険８５８が、ユーザーの移動方向において、歩道上に存在している。危険は、警告サイン８６０のみならず、２つの警告コーン８６２をも含む。危険がイヤピース１００の視野に入った際に、イヤピース１００は、検出されたデータを保存されているデータと比較してもよい。次いで、プロセッサ１１１は、この危険が逸脱であると決定してもよく、且つ、この逸脱に基づいて、データをユーザー８５６に提供してもよい。データは、例えば、２つのコーン８６２の説明、サインが存在しているという事実、及び任意のその他の大きな変化を含んでもよい。又、イヤピース１００は、変化がテキストを含んでいることを検出しうる。イヤピース１００は、ユーザーに対してテキストを読み上げるなどのように、テキストに基づいて、ユーザー８５６にデータを提供してもよい。
【０１８０】
イヤピース１００は、警告サイン８６０又は警告コーン８６２が危険を提示していることを学習していてもよく、且つ、警告サイン８６０及び／又は警告コーン８６２が危険を提示していると決定してもよい。又、イヤピース１００は、逸脱が重要であることを識別することにより、これを決定してもよい。イヤピース１００は、警告サイン８６０及び／又はコーン８６２が、ユーザー８５６の移動の方向において位置決めされているという事実を使用することにより、これらが危険を提示していると決定してもよい。次いで、イヤピース１００は、危険８５８が存在していることを通知するデータをユーザー８５６に提供してもよい。イヤピース１００は、スピーカ１３２を使用することにより、例えば、危険８５８のタイプ及び／又は場所をユーザー８５６に出力してもよい。又、イヤピース１００は、ユーザーが危険８５８に接近するのに伴って、例えば、益々増大する周波数によって振動してもよい。
【０１８１】
例えば、フレーム８５４において、ユーザーは、危険８５８の周囲をナビゲートするべく、イヤピース１００からの出力を利用してもよい。ユーザー８５６が２つのイヤピース１００を装用している場合には、イヤピース１００は、危険８５８の場所を通知するべく、一側において別の側よりも大きく振動してもよい。フレーム８５４において、危険は、ユーザー８５６の右側において、左側よりも大きい。従って、ユーザー８５６の右耳に位置したイヤピース１００は、ユーザー８５６の左耳に位置したイヤピース１００よりも振動することにより、危険が右側に位置していることを通知してもよい。この代わりに、右耳に位置したイヤピース１００は、左耳に位置したイヤピース１００よりも乏しく振動することにより、左側においては、相対的に安全であることを通知してもよい。
【０１８２】
図９Ａは、ナビゲーション支援をユーザーに提供する例示用の方法を示している。この方法は、例えば、ユーザーが列をなして前方に移動することを要する際にユーザーに通知するべく使用されてもよい。又、この方法は、例えば、ユーザーが、別の歩行者に基づいて、減速又は加速することを要することをユーザーに通知するべく使用されてもよい。又、この方法は、ユーザーが自身の友人と同じペースで歩行できるように、例えば、ユーザーが減速又は加速する必要があることをユーザーに通知するべく、使用されてもよい。
【０１８３】
ブロック９００において、イヤピース１００は、センサアレイ１２０を使用することにより、イヤピースから、人物などの運動している物体までの距離を検出している。物体は、カメラ１２１の視野内に位置している限り、ユーザーにとって任意の相対位置に位置してもよい。又、イヤピースは、いくつかの実施形態においては、物体が運動している速度を決定してもよい。
【０１８４】
ブロック９０２において、イヤピース１００は、センサアレイ１２０を使用することにより、ユーザーが移動している速度を決定してもよい。この速度は、歩行又は走行速度を含んでもよく、或いは、ゼロ速度であってもよい。速度データのみならず、その他のデータを使用することにより、プロセッサ１１１は、ユーザーが実行している動作の組を決定してもよい。例えば、ユーザーは、友人と共に歩行していてもよいであろう。又、ユーザーは、列をなして待機しているか、或いは、会合に参加するべく、通りを急いて歩いていてもよいであろう。プロセッサは、ユーザーの動作を決定するべく、検出されたデータを利用してもよい。
【０１８５】
ブロック９０４において、プロセッサ１１１は、速度及びその他のデータをメモリ１１２内のデータと比較している。メモリ１１２内のデータは、例えば、速度及びその他のデータを物体までのユーザーの好ましい距離に対して関連付けていてもよい。例えば、ユーザーが友人と共に歩行している場合には、好ましい距離は、相対的に短いものであってもよい。別の例として、ユーザーが、会合に出席するべく急いている場合には、好ましい距離は、ユーザーが偶発的に物体と衝突しないように、相対的に長いものであってもよい。
【０１８６】
ブロック９０６において、検出された距離が、好ましい距離未満であるかどうかが決定されている。これは、例えば、ユーザーが別の歩行者よりも高速で通りを歩いているか、或いは、列をなして待機している際に前方への歩行を過剰に早期に開始した際に、有用であろう。
【０１８７】
検出された距離が、好ましい距離未満である場合には、方法は、ブロック９０８に進む。ブロック９０８において、イヤピース１００は、インターフェイスアレイ１３０を介して、検出された距離が、好ましい距離未満であることを通知するデータをユーザーに出力している。このデータは、例えば、オーディオデータ又は触覚データを含みうる。例えば、イヤピース１００は、ユーザーが物体に接近するのに伴って、増大する周波数によって振動してもよい。
【０１８８】
ブロック９１０において、検出された距離が、好ましい距離を上回っているかどうかが決定されている。これは、例えば、ユーザーが友人と共に歩行しており、且つ、相対的に高速のペースで移動している際に、有用であろう。
【０１８９】
検出された距離が、好ましい距離を上回っている場合に、プロセスは、ブロック９１２に進む。ブロック９１２において、イヤピース１００は、インターフェイスアレイ１３０を介して、検出された距離が、好ましい距離を上回っていることを通知するデータをユーザーに出力している。このデータは、例えば、オーディオデータ又は触覚データを含みうる。例えば、イヤピース１００は、ユーザーと物体の間の距離が大きくなるのに伴って、増大する強度によって振動してもよい。いくつかの実施形態においては、距離が、好ましい距離を上回っているとイヤピース１００がユーザーに警告することになるのは、特定の状況にのみ限定されている。例えば、ユーザーが独りで歩行している場合には、ユーザーは、自身がその他の歩行者から遠く離れているかどうかに注意を払うことにはならず、且つ、イヤピースは、なんらのデータをも提供しなくてもよい。
【０１９０】
図９Ｂは、図９Ａの方法の例示用の使用法を示している。フレーム９５０において、ユーザー９５６は、歩道を歩いている。ユーザーは、歩行者９５８の背後に位置している。当初、ユーザー９５６及び歩行者９５８は、同一の速度で移動していてもよい。当初、同一の速度に起因して、ユーザー９５６から歩行者９５８までの距離は、好ましい距離であってもよい。
【０１９１】
フレーム９５２に示されているように、最終的に、歩行者９５８が減速する場合がある。この状況において、ユーザー９５６から歩行者９５８までの検出された距離は、好ましい距離未満になりうる。イヤピース１００は、検出された距離が、好ましい距離よりも短いという情報を含むデータをユーザー９５６に提供してもよい。次いで、ユーザー９５６は、イヤピース１００からのデータに基づいて減速してもよい。イヤピース１００からのデータを受信することにより、ユーザー９５６は、フレーム９５４において示されているように、自身が歩行者９５８から好ましい距離に位置する時点まで、減速してもよい。
【０１９２】
本明細書において使用されている「ネットワーク」という用語は、任意のクラウド、クラウドコンピューティングシステム、或いは、ハードウェア及び／又はソフトウェアコンポーネントを含む電子通信システム又は方法を含む。関係者の間における通信は、例えば、電話ネットワーク、エクストラネット、イントラネット、インターネット、やり取り時点装置（ｐｏｉｎｔ  ｏｆ  ｉｎｔｅｒａｃｔｉｏｎ  ｄｅｖｉｃｅ）、販売時点装置（ｐｏｉｎｔ  ｏｆ  ｓａｌｅ  ｄｅｖｉｃｅ）、パーソナルデジタルアシスタント（例えば、Ａｎｄｒｏｉｄ装置、ｉＰｈｏｎｅ（登録商標）、Ｂｌａｃｋｂｅｒｒｙ（登録商標）、セルラー電話機、キオスクなど）、オンライン通信、衛星通信、オフライン通信、無線通信、トランスポンダ通信、ローカルエリアネットワーク（ＬＡＮ：ｌｏｃａｌ  Ａｒｅａ  Ｎｅｔｗｏｒｋ）、ワイドエリアネットワーク（ＷＡＮ：Ｗｉｄｅ  Ａｒｅａ  Ｎｅｔｗｏｒｋ）、仮想プライベートネットワーク（ＶＰＮ：Ｖｉｒｔｕａｌ  Ｐｒｉｖａｔｅ  Ｎｅｔｗｏｒｋ）、ネットワーク接続又はリンクされた装置、キーボード、マウス、及び／又は任意の適切な通信又はデータ入力モードなどの、任意の適切な通信チャネルを通じて実現されてもよい。インターネットとの関連において利用されるプロトコル、規格、アプリケーションソフトウェアに関係する特定の情報は、一般に、当業者には既知であり、且つ、従って、本明細書における詳細な説明は不要である。
【０１９３】
「クラウド」又は「クラウドコンピューティング」は、最小限の管理努力又はサービスプロバイダとのやり取りによって迅速に提供及び供与されうる構成可能なコンピューティングリソースの共有プール（例えば、ネットワーク、サーバー、ストレージ、アプリケーション、及びサービス）に対する便利でオンデマンドなネットワークアクセスを可能にするためのモデルを含む。クラウドコンピューティングは、場所独立型のコンピューティングを含んでもよく、これにより、共有サーバーは、リソース、ソフトウェア、及びデータをコンピュータ及びその他の装置にオンデマンドで提供する。
【０１９４】
システム、方法、コンピュータプログラムプロダクトが提供されている。「様々な実施形態」、「いくつかの実施形態」、「一実施形態」、「実施形態」、「例示用の実施形態」などに対する参照は、記述されている実施形態が、特定の特徴、構造、又は特性を含みうるが、必ずしも、すべての実施形態が、特定の特徴、構造、又は特性を含む必要はないことを通知している。更には、このようなフレーズは、必ずしも、同一の実施形態を参照しているものではない。更には、特定の特徴、構造、又は特性が一実施形態との関連において記述されている際に、明示的に記述されているかどうかとは無関係に、それらの特徴、構造、又は特性をその他の実施形態との関連において実施することは、当業者の知識に含まれている。当業者には、本明細書を参照した後に、代替実施形態において本開示を実装する方法が明らかとなろう。
【０１９５】
本明細書において開示されている例との関連において記述されている方法又はアルゴリズムのステップは、ハードウェアにおいて直接的に実施されてもよく、プロセッサ１１１によって実行されるソフトウェアモジュールにおいて実施されてもよく、或いは、これら２つの組合せにおいて実施されてもよい。ソフトウェアモジュールは、ＲＡＭメモリ、フラッシュメモリ、ＲＯＭメモリ、ＥＰＲＯＭメモリ、ＥＥＰＲＯＭメモリ、レジスタ、ハードディスク、着脱自在のディスク、ＣＤ−ＲＯＭ、又は当技術分野において既知のストレージ媒体の任意のその他の形態において存在してもよい。メモリ１１２などの例示用のストレージ媒体は、プロセッサ１１１が、ストレージ媒体から情報を読み取ることができると共に、これに対して情報を書き込むことができるように、プロセッサ１１１に結合されている。代替肢においては、ストレージ媒体は、プロセッサ１１１と一体化されたものであってもよい。プロセッサ１１１及びストレージ媒体は、特定用途向け集積回路（ＡＳＩＣ：Ａｐｐｌｉｃａｔｉｏｎ  Ｓｐｅｃｉｆｉｃ  Ｉｎｔｅｇｒａｔｅｄ  Ｃｉｒｃｕｉｔ）内において存在してもよい。
【０１９６】
方法／システムは、本明細書においては、機能ブロックコンポーネント、スクリーンショット、任意選択の選択、及び様々な処理ステップの観点において記述されている場合がある。このような機能ブロックは、規定された機能を実行するように構成された任意の数のハードウェア及び／又はソフトウェアコンポーネントによって実現されうることを理解されたい。例えば、方法／システムは、例えば、１つ又は複数のマイクロプロセッサ又はその他の制御装置の制御下において様々な機能を実行しうるメモリ要素、処理要素、ロジック要素、ルックアップテーブル、及びこれらに類似したものなどの様々な集積回路コンポーネントを利用してもよい。同様に、方法／システムのソフトウェア要素は、ＶＰＬ、Ｃ、Ｃ＋＋、Ｃ＃、Ｊａｖａ（登録商標）、ＪａｖａＳｃｒｉｐｔ（登録商標）、ＶＢＳｃｒｉｐｔ、Ｍａｃｒｏｍｅｄｉａ  Ｃｏｌｄ  Ｆｕｓｉｏｎ、ＣＯＢＯＬ、Ｍｉｃｒｏｓｏｆｔ  Ａｃｔｉｖｅ  Ｓｅｒｖｅｒ  Ｐａｇｅｓ、ａｓｓｅｍｂｌｙ、ＰＥＲＬ、ＰＨＰ、ａｗｋ、Ｐｙｔｈｏｎ、Ｖｉｓｕａｌ  Ｂａｓｉｃ、ＳＱＬ  Ｓｔｏｒｅｄ  Ｐｒｏｃｅｄｕｒｅｓ、ＰＬ／ＳＱＬ、任意のＵＮＩＸ（登録商標）シェルスクリプト、及びＸＭＬのような任意のプログラミング又はスクリプティング言語によって実装されてもよく、様々なアルゴリズムは、データ構造、オブジェクト、プロセス、ルーチン、又はその他のプログラミング要素の任意の組合せによって実装される。更には、方法／システムは、データ送信、シグナリング、データ処理、ネットワーク制御、及びこれらに類似したもの用の任意の数の従来技法を利用しうることに留意されたい。
【０１９７】
当業者には理解されるように、方法／システムは、既存のシステムのカスタマイズ、アドオンプロダクト、アップグレードされたソフトウェア、スタンドアロンシステム、分散システム、方法、データ処理システム、データ処理用の装置、及び／又はコンピュータプログラムプロダクトとして、実施されてもよい。更には、方法／システムは、ストレージ媒体内において実施されたコンピュータ可読プログラムコード手段を有する一時的ではないコンピュータ可読ストレージ媒体上におけるコンピュータプログラムプロダクトの形態を有してもよい。ハードディスク、ＣＤ−ＲＯＭ、光学ストレージ装置、磁気ストレージ装置、及び／又はこれらに類似したものを含む任意の適切なコンピュータ可読ストレージ媒体が利用されてもよい。
【０１９８】
方法／システムの例示用の実施形態は、例示用のスタイルにおいて開示されている。相応して、全体を通じて利用されている用語は、非限定的な方式によって読解されることを要する。当業者には、本明細書における教示内容に対する多少の変更が想起されることになるが、本明細書に対して付与される特許の範囲内に含まれるべく意図されているものは、本出願によって寄与される当技術分野の進歩の範囲内に合理的に含まれるすべての実施形態であり、且つ、この範囲は、添付の請求項及びその均等物に照らしたものを除いて、限定されるものではないことを理解されたい。
【図１Ａ】
2017529521.tif 000003
【図１Ｂ】
2017529521.tif 000004
【図１Ｃ】
2017529521.tif 000005
【図１Ｄ】
2017529521.tif 000006
【図１Ｅ】
2017529521.tif 000007
【図１Ｆ】
2017529521.tif 000008
【図１Ｇ】
2017529521.tif 000009
【図２】
2017529521.tif 000010
【図３Ａ】
2017529521.tif 000011
【図３Ｂ】
2017529521.tif 000012
【図３Ｃ】
2017529521.tif 000013
【図４】
2017529521.tif 000014
【図５】
2017529521.tif 000015
【図６Ａ】
2017529521.tif 000016
【図６Ｂ】
2017529521.tif 000017
【図７】
2017529521.tif 000018
【図８Ａ】
2017529521.tif 000019
【図８Ｂ】
2017529521.tif 000020
【図９Ａ】
2017529521.tif 000021
【図９Ｂ】
2017529521.tif 000022
【国際調査報告】
2017529521.tif 000023
2017529521.tif 000024