(57)【要約】  本開示は、手持ち式消費者装置の使用を分類するためのシステムに関し、システムは、可動手持ち式消費者装置であって、消費者装置は、使用データを連続する複数の時点で測定するためのセンサユニットを含み、センサユニットは、少なくとも１つの使用データの時間的に連続するシーケンスを使用セッション中に供給するように構成されている、可動手持ち式消費者装置と、消費者装置の使用を、異なる使用特性に関連する少なくとも２つの使用クラスの少なくとも１つのセットに関して分類するように構成された分析装置であって、分析装置は、使用セッションの所定の時間に関連する使用データの入力タプルの時間的に連続するシーケンスをアセンブルするように構成されており、入力タプルはそれぞれ、各時点における使用データを表す少なくとも１つの要素を含み、分析装置は、入力タプルのシーケンスを、複数の要素を含む少なくとも１つの出力タプルを使用クラスの数に従って出力するように構成された少なくとも１つの人工ニューラルネットワークに入力するように構成されており、出力タプルの各要素は、所与の時点における消費者装置の使用が各使用クラスに関連するという予測値を表す分析装置と、を有する。
2021513420.tif 000002
【特許請求の範囲】
【請求項１】
手持ち式消費者装置の使用を、特に標的表面を含む標的空間に関して分類するためのシステムであって、更に具体的には、前記手持ち式消費者装置が歯ブラシであるシステムにおいて、前記システムは、
特に前記標的表面を処理するように構成された可動手持ち式消費者装置であって、前記消費者装置が、少なくとも１つの使用データを連続する複数の時点で測定するためのセンサユニットを備え、前記センサユニットは、使用データの時間的に連続するシーケンスを使用セッション中に供給するように構成されている、可動手持ち式消費者装置と、
前記消費者装置の使用を、異なる使用特性に関連する少なくとも２つの使用クラスの少なくとも１つのセットに関して分類するように構成された分析装置であって、前記分析装置は、前記使用セッションの所定の時間に関連する使用データの入力タプルの時間的に連続するシーケンスをアセンブルするように構成されており、前記入力タプルはそれぞれ、前記各時点における前記使用データを表す少なくとも１つの要素を含み、前記分析装置は、前記入力タプルのシーケンスを、複数の要素を含む少なくとも１つの出力タプルを使用クラスの数に従って出力するように構成された少なくとも１つの人工ニューラルネットワークに入力するように構成されており、前記出力タプルの各要素は、前記所与の時点における前記消費者装置の前記使用が各使用クラスに関連するという予測値を表し、前記分析装置は特に、前記出力タプルのシーケンスに基づいて、前記時間毎に単一の使用クラスの回答を決定するように構成されている、分析装置と、
を備えるシステム。
【請求項２】
前記センサユニットが、加速度計、ジャイロスコープ又は磁力計などの慣性センサあるいは力センサのうちの少なくとも１つを含み、前記各センサは、前記消費者装置の動作及び／又は、前記消費者装置、特に前記消費者装置の処理ヘッドに作用する力に関連する使用データの時間的に連続するシーケンスを前記使用セッション中に供給するように構成されている、請求項１に記載のシステム。
【請求項３】
前記消費者装置及び前記分析装置が、相互から物理的に分離しており、無線通信のために結合されるように構成されており、前記消費者装置は特に、生の使用データを第１の周波数でサンプリングし、処理された生の使用データを、前記使用データとして、前記第１の周波数以下の第２の周波数で前記分析装置に送信するように構成されており、特に、前記第１の周波数は１００Ｈｚより大きく、具体的には約１０００Ｈｚより大きく、前記第２の周波数は１００Ｈｚ未満、具体的には約５０Ｈｚ未満である、請求項１又は２に記載のシステム。
【請求項４】
前記消費者装置が、前記使用データの分解能を送信前に低減するように構成されており、特に、前記使用データは約１０ビット以下の分解能を有する、請求項３に記載のシステム。
【請求項５】
前記少なくとも１つの人工ニューラルネットワークが、回帰型ニューラルネットワーク、具体的にはＬＳＴＭネットワーク又はＧＲＵネットワークであり、更に具体的には、前記回帰型ニューラルネットワークが、双方向性ＬＳＴＭネットワーク若しくはＧＲＵネットワーク、又は積層型ＬＳＴＭネットワーク若しくはＧＲＵネットワーク、又は積層型双方向性ＬＳＴＭネットワーク若しくはＧＲＵネットワークである、請求項１〜４のいずれか一項に記載のシステム。
【請求項６】
前記分析装置が、前記消費者装置の前記使用を分類するために、少なくとも２つの異なる人工ニューラルネットワークを使用するように構成されており、特に、前記分析装置は、（１）前記消費者装置の前記使用を分類するために、前記少なくとも２つの異なる人工ニューラルネットワークのうちの第１の人工ニューラルネットワークを使用して、前記少なくとも２つの異なる人工ニューラルネットワークのうちの第２の人工ニューラルネットワークを決定する手順、（２）前記消費者装置の前記使用を、同じ使用クラスセットに関して分類するために、前記少なくとも２つの異なる人工ニューラルネットワークを並列に使用する手順、又は（３）前記消費者装置の前記使用を、異なる使用クラスセットに関して分類するために、前記少なくとも２つの異なる人工ニューラルネットワークを並列に使用する手順のうちの少なくとも１つを実行するように構成されている、請求項１〜５のいずれか一項に記載のシステム。
【請求項７】
前記センサユニットは、ｐＨセンサ、温度センサ、静電容量式センサ、音声センサ、光センサ又は画像センサ又は映像センサ、あるいは気圧センサのうちの１つである少なくとも１つのセンサを備え、前記センサユニットは、前記少なくとも１つの更なるセンサのセンサデータの時間的に連続するシーケンスを前記処理時間中に供給するように構成されており、前記使用データは、前記少なくとも１つの更なるセンサデータを含み、前記入力タプルは、前記各時点における前記少なくとも１つの更なるセンサデータを表す少なくとも１つの要素をそれぞれ含む、請求項１〜６のいずれか一項に記載のシステム。
【請求項８】
前記所定の時間が、０．１秒〜５秒の範囲内、具体的には０．２５秒〜２秒の範囲内、更に具体的には０．５秒〜１秒の範囲内の長さを有し、任意的に、この所定の時間内の使用データの時間的に連続する入力タプルの数は、約５〜１００の範囲内、具体的には１０〜５０の範囲内、更に具体的には２０〜３０の範囲内である、請求項１〜７のいずれか一項に記載のシステム。
【請求項９】
前記人工ニューラルネットワークにおける隠れた状態のサイズが約２５６以下である、請求項１〜８のいずれか一項に記載のシステム。
【請求項１０】
前記分析装置が、前記単一の使用クラスの回答の前記決定において、最大基準又は過半数基準を利用するように構成されている、請求項１〜９のいずれか一項に記載のシステム。
【請求項１１】
前記分析装置が、前記単一の使用クラスの回答の前記決定において、閾値未満の正規化された値を有する出力タプル要素を破棄するように構成されており、特に、前記閾値は０．５〜０．９９の範囲内であり、具体的には０．６〜０．９の範囲内であり、更に具体的には０．６５〜０．８の範囲内であり、更により具体的には、前記閾値は約０．７である、請求項１〜１０のいずれか一項に記載のシステム。
【請求項１２】
前記異なる使用特性が、少なくとも２つの異なる使用、具体的には、少なくとも２つの異なるユーザ若しくは２つの異なるユーザタイプに関連する動作のパターン、少なくとも２つの異なる使用の質、具体的には、良い使用と悪い使用、若しくは正しい使用と間違った使用などの動作の質、又は標的空間の少なくとも２つの異なる部分に関する、請求項１〜１１のいずれか一項に記載のシステム。
【請求項１３】
前記消費者装置が、少なくとも１つの使用セッションの前記使用データを記憶し、前記使用データを、前記使用セッションの終了後又は複数の使用セッション後にのみ、具体的には、前記使用データの送信がユーザ又は前記分析装置によって要求された後にのみ送信するように構成されている、請求項１〜１２のいずれか一項に記載のシステム。
【請求項１４】
ディスプレイ若しくは複数の発光素子などのユーザフィードバックユニット、又は前記消費者装置の駆動ユニット、又は前記分類に関する情報を伝達するための音声フィードバックユニットを更に備える、請求項１〜１３のいずれか一項に記載のシステム。
【請求項１５】
前記センサユニットが、少なくとも１つの慣性センサ及び少なくとも１つの力センサを備え、前記使用データが少なくとも７つの要素を含み、そのうちの少なくとも６つの要素は前記消費者装置の動作に関連し、少なくとも１つの要素は前記消費者装置に加えられる力に関連する、請求項１〜１４のいずれか一項に記載のシステム。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、手持ち式消費者装置の使用を、特に標的空間に関して分類することを可能にするシステムに関する。
【背景技術】
【０００２】
手持ち式ユーザ装置の使用を分類することが、特定の用途では望ましい場合があることが一般に知られている。例えば、歯ブラシが歯を磨いている歯列内の位置は、三軸加速度計及び地磁気センサからのデータに基づいて歯ブラシの姿勢を計算することで求められ得ることが述べられている。このことは、米国特許第２０１０／０１４５６５４（Ａ１）号に記載されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】米国特許第２０１０／０１４５６５４（Ａ１）号
【発明の概要】
【発明が解決しようとする課題】
【０００４】
既知のシステムよりも改善された、又は少なくとも既知のシステムに鑑みて代替的な解決策を提供する、手持ち式消費者装置の使用を分類するためのシステムを提供することが一般的に望まれている。
【課題を解決するための手段】
【０００５】
一態様によれば、手持ち式消費者装置の使用を分類するためのシステムであって、システムが、可動手持ち式消費者装置であって、消費者装置は、少なくとも１つの使用データを連続する複数の時点で測定するためのセンサユニットを含み、センサユニットは、使用データの時間的に連続するシーケンスを使用セッション中に供給するように構成されている、可動手持ち式消費者装置と、消費者装置の使用を、異なる使用特性に関連する少なくとも２つの使用クラスの少なくとも１つのセットに関して分類するように構成された分析装置であって、分析装置は、使用セッションの所定の時間に関連する使用データの入力タプルの時間的に連続するシーケンスをアセンブルするように構成されており、入力タプルはそれぞれ、各時点における使用データを表す少なくとも１つの要素を含み、分析装置は、入力タプルのシーケンスを、複数の要素を含む少なくとも１つの出力タプルを使用クラスの数に従って出力するように構成された少なくとも１つの人工ニューラルネットワークに入力するように構成されており、出力タプルの各要素は、所与の時点における消費者装置の使用が各使用クラスに関連するという予測値を表す分析装置と、を備えるシステム。
【０００６】
分類は、標的表面を含む標的空間に関して行われてもよい。手持ち式消費者装置は、標的表面を処理するように構成されてもよい。
【０００７】
いくつかの実施形態では、人工ニューラルネットワークは、出力タプルのシーケンス、具体的には、入力タプルのシーケンスと同じ長さを有する出力タプルのシーケンスを出力するように構成される。特にａｒｇｍａｘ関数を各出力タプルに適用した後に、例えば過半数基準及び／又は最大基準を適用することにより、出力タプルのシーケンスに基づいて所定の時間毎に単一の使用クラスの回答を決定してもよい。
【図面の簡単な説明】
【０００８】
本開示は、例示的な実施形態の詳細な説明によって、また図を参照することによって、更に明らかとなろう。図中、
【図１】本開示によるシステムの一例の概略図である。
【図２】本開示による手持ち式消費者装置の一例の概略図である。
【図３】本開示による分析装置の一例の概略図である。
【図４】消費者装置が電動歯ブラシであり、分析装置がスマートフォンである、本開示によるシステムの一例の図である。
【図５】人工ニューラルネットワークのアーキテクチャの概略図である。
【図６Ａ】回帰型ニューラルネットワークの概略図である。
【図６Ｂ】広げられた又は展開された状態の図６Ａに示す回帰型ニューラルネットワークの概略図である。
【図７Ａ】回帰型ニューラルネットワークで使用可能な長・短期記憶（Long Term-Short Memory）ユニットの一例の概略図である。
【図７Ｂ】回帰型ニューラルネットワークで使用可能なゲート付き回帰型ユニット（Gated Recurrent Unit）の一例の概略図である。
【図８Ａ】双方向性回帰型ニューラルネットワークの一例の概略図である。
【図８Ｂ】積層型回帰型ニューラルネットワークの一例の概略図である。
【図８Ｃ】積層型双方向性回帰型ニューラルネットワークの一例の概略図である。
【発明を実施するための形態】
【０００９】
本開示の基本概念は、手持ち式消費者装置の使用を、使用セッション中（又は使用セッション後）に、少なくとも１つの人工ニューラルネットワークにより、使用データの時間的シーケンスに基づいて、使用クラスのセットに関して分類することである。２つ以上の人工ニューラルネットワークが使用されるいくつかの例について説明する。「ライブ」分類（すなわち、使用セッション中の分類）は、手持ち式消費者装置が使用されている間に、使用に関する情報をユーザに伝達することを可能にし、この情報は、使用についてのユーザの理解を深めることにより、使用を容易にするか、又は改善することができる。後続の分類は、手持ち式消費者装置の使用を、完了した使用セッションの使用データ情報全体を網羅するより包括的で完全な方法で、使用セッション中に分析することを可能にする。ライブ分類が、利用可能な演算能力と必要なライブ情報のタイミングとによって制限される可能性がある場合、後続の（すなわち、オフラインの）分析は、利用可能な演算能力と利用可能な時間とのバランスをとってもよい。手持ち式消費者装置の使用が、特に標的表面を含む標的空間に関して分類されてもよく、この場合、手持ち式消費者装置は、標的表面を処理するように構成されてもよい。この場合の目的は、手持ち式消費者装置の使用データに基づいて、手持ち式消費者装置の使用を標的空間の異なる複数の部分に分類することであり、使用データは特に、動作データ又は力データのうちの少なくとも１つを含む。
【００１０】
「使用クラス」は、人工ニューラルネットワーク（ＡＮＮ）の出力クラスであり、ＡＮＮの設計者によって定義される。ＡＮＮは、ラベル付けされた入力データ、すなわち、１つの所与の出力クラスに関連することが知られている入力データをＡＮＮに入力することによって学習される（教師あり学習）。古典的な一例では、笑顔を示す画像データがＡＮＮに供給され、ＡＮＮは、この画像データ内の、笑顔に関連する様々な入力に共通するパターンを学習して、新たな画像データ内に類似のパターンが発見された場合には、この新たな画像データ入力を笑顔出力クラスに分類することができるようにしようと試みる。本開示の文脈において、使用クラスは、手持ち式消費者装置の使用に関するものであり、異なる使用特性を区分するものとする。手持ち式消費者装置の使用は、本質的には使用データの時間的シーケンスによって決定され、使用データは、動作データ（向きデータを含む）、力データ、手持ち式消費者装置の環境に関連する静電容量データ、温度データ、音声データ、画像又は映像データ、気圧データ、ｐＨデータなどのうちの少なくとも１つを含み得る。本開示では、動作（向きを含む）データを含み、他の使用データも含み得る使用データに主な焦点が置かれている。しかし、動作データを含まない使用データを人工ニューラルネットワークに供給するだけで、手持ち式消費者装置の使用を分類するタスクに適切にアプローチできる場合も企図される。
【００１１】
したがって、本開示において、使用クラスに関して分類される動作データ又は動作に言及する場合、これは、使用データの全ての変形、特に、使用データとして更なるセンサデータを含む変形又は、使用データが動作データを全く含まない変形などの、使用データの全ての変形を包含するものと理解されるべきである。
【００１２】
本開示における「シーケンス」は２つ以上を意味し、「タプルのシーケンス」は２つ以上のタプルを意味し、「タプルの時間的シーケンス」は、タプルが異なる時点に関連し、シーケンスの連続するタプル間の時間差が等しくてもよいタプルのシーケンスを意味する。
【００１３】
人工ニューラルネットワークは、使用データのｎ個の入力タプルのシーケンスを受信して、任意の数の出力タプルを生成してもよく、特に、１とｎとの間の任意の他の整数も可能である場合には、１個から最大ｎ個の出力タプルを生成してもよい（ＬＳＴＭなどの特定の人工ネットワークは、一対一、一対多、多対一又は多対多、特に同期された多対多のアーキテクチャを有し得ることが周知である）。出力タプルは、人工ニューラルネットワークによって所与の時点で生成され、したがって、出力タプルが生成されなかった過去の時点（又は、人工ニューラルネットワークの具体的なアーキテクチャによっては未来の時点、以下の双方向人工ニューラルネットワークの説明を参照されたい）に関連する情報を出力タプルが含む可能性があるために、この所与の時点における出力タプルが基本的にはより長い時間にわたる可能性があるとしても、出力タプルはこの時点に関連することが理解される。
【００１４】
手持ち式消費者装置の使用が分類される複数の使用クラスは、組み合わされて少なくとも１つの使用クラスのセットとされる。分類プロセスでは、少なくとも１つの人工ニューラルネットワークは、入力された使用データと各使用クラスとの対応に関する情報を提供する出力を供給し、典型的には、入力使用データが供給される時点毎に１つの出力を供給するが、これは限定的であると解釈されるべきではなく、人工ニューラルネットワークが１つの出力のみを出力する一方で入力のシーケンスを受信するか、又は入力のシーケンスよりも短い出力のシーケンスが供給される場合も企図される。上述のように、使用クラスは、人工ニューラルネットワークの設計者によって定義される。少なくとも１つの人工ニューラルネットワークは、使用クラスが既知である使用データが入力される、いわゆるラベル付けされた訓練データで訓練され、人工ニューラルネットワークは、入力が供給された場合に、出力されたデータが入力された使用データと良好に一致するように、正しい使用クラスを予測する確率を最大化することを学習する。したがって、十分な訓練を受けた人工ニューラルネットワークは、新たな入力を個々の使用クラスに関して十分に高い予測確率で分類して、出力を的確に参照することができるようにする。学習プロセスでは、人工ニューラルネットワークにおける重み及びバイアスは補正され、典型的には収束する。人工ニューラルネットワークが複雑であるほど、使用される重み及びバイアスの数は、（人工ニューラルネットワークの内部状態のサイズを考慮すると）典型的には多くなる。
【００１５】
人工ニューラルネットワークの設計者は、達成すべきタスクに関して使用クラスを定義してもよく、すなわち、本明細書では、特定の使用特性に関して使用データを区分することができる。アプローチ可能な分類タスクの１つは、手持ち式消費者装置のユーザを、例えばユーザＡ及びユーザＢを含むユーザグループなどの有限のユーザグループの中から特定することである。この場合の理論上の使用特性は、「ユーザＡによる使用」及び「ユーザＢによる使用」である。訓練が完了すると、人工ニューラルネットワークは、ユーザＡからの使用データを使用クラス「ユーザＡによる使用」に関連するものとして、またユーザＢからの使用データを使用クラス「ユーザＢによる使用」に関連するものとして、正しく分類できるようになる。別の例では、使用クラスは、例えば、「高速ユーザ」及び「低速ユーザ」などのユーザタイプを区分するように定義され、ここで高速及び低速は使用特性である。この場合の分類は、個々のユーザの有限グループではなく、異なるユーザタイプの有限グループに限定され、世界中のあらゆるユーザがこれら２つの使用クラスに関して分類される。この場合、実際の高速ユーザは、使用クラス「高速ユーザ」についての予測値が高い人工ニューラルネットワーク出力を生成し、同様に、実際の低速ユーザは、使用クラス「低速ユーザ」について高い予測値を生成することになる。双方の使用特性を示すか、又はいずれの使用特性も示さないユーザは、これら２つの使用クラスについて、遥かに低く、かつ明確に区分できない予測値を生成することになる。他の分類タスクが、「正しい」使用と「間違った」使用、又は「良い」使用と「悪い」使用を区分しようと試みてもよい。より理論的には、異なる使用クラスが、手持ち式消費者装置を標的空間の異なる部分で使用するための典型的な使用に関連してもよい。例えば、電動歯ブラシを使用して口腔の異なる部分を清掃してもよく、口腔を異なる部分に分割する方法の一つに、例えば上顎部と下顎部に分割することが挙げられるが、口腔内に存在し得る３２本の歯毎に（それぞれの歯の表面毎に）分割することが、口腔をより細かく異なる部分に分割する別の方法であってもよい。以下に説明するように、手持ち式消費者装置の使用は、標的空間における使用に関して分類され、標的空間は標的表面（例えば、口腔内の歯面及び舌面）を含んでもよく、手持ち式消費者装置は、特に標的表面を処理するように構成されてもよい。本明細書に記載されるシステムの出力が、分類結果を消費者に伝達してもよい。消費者にとって、標的空間のどの部分が現在特定されているのかを理解することが適切であってもよい。このことを、電動歯ブラシが手持ち式消費者装置である例を参照しながら以下で更に説明する。本明細書では、人工ニューラルネットワークによって使用される使用クラスは、標的空間の部分と一対一対応しない場合があることに留意されたい。これを以下により詳細に説明する。
【００１６】
人工ニューラルネットワークによる手持ち式消費者装置の使用の分類は、現在のところ、特に標的空間に関して装置をマッピングするタスクについては包括的な取り組みはなされていない。
【００１７】
以下により詳細に説明するように、手持ち式消費者装置の使用は、使用データが１種類の（すなわち、１種類のセンサからの）使用データを含むだけでなく、他の使用データも同様に使用される場合（例えば、動作データと力データ、又は力データと静電容量データなど）に、より良好に分類されてもよい。更なる使用データは、入力タプルに少なくとも１つの更なる要素を追加し、したがって、出力クラスに関する少なくとも１つの人工ニューラルネットワークの予測品質を向上させることができる。調査された使用データの１つは、（例えば、加速度計、ジャイロスコープ及び磁力計のうちの少なくとも１つからの）動作データに追加された力データであり、この力データは、使用セッション中に消費者装置、特に消費者装置ヘッドで印加される力に関連している。力センサを使用してそのような力を測定することができ、力センサは、１つの成分、２つの成分又は３つの成分（３つの直交方向に関連する）を含む力データを供給してもよい。力センサは、追加的に又は代替的に、例えば６軸力センサによって、一方向、二方向又は三方向のトルクを測定してもよい。
【００１８】
本明細書に記載するいくつかの例示的な実施形態は、歯ブラシ、すなわち手動歯ブラシ又は電動歯ブラシの使用分類に重点を置いている。しかし、用語「手持ち式消費者装置」は、多くの他の消費者装置、例えば、湿式かみそり又は電気シェーバ、脱毛器、ヘアブッシュ、マッサージ装置、スクラバ若しくはモップ、又は同様の装置を含むものとする。
【００１９】
使用データは、典型的には、消費者装置内（例えば、消費者装置のハンドル内及び／又はヘッド内）に位置する少なくとも１つのセンサによって生成される。少なくとも１つのセンサは、所与の第１の周波数でサンプリングされて、生センサデータの時間的に連続するストリームを生成することができる。センサデータが第１の周波数で分析装置に使用データとして（例えば、有線又は無線方式で）送信されてもよいが、生センサデータが最初に処理されてもよく（例えば、平均化及び／又はノイズ除去及び／又は１６、１４、１２、１０、８若しくは６ビットなどの特定の分解能でデジタル化されてもよい）、この処理が、センサデータの周波数を、第１の周波数から、処理されたセンサデータが使用データとして分析装置に送信される第２の周波数に変化させることを含んでもよい。この場合、第２の周波数は第１の周波数よりも低くてもよく、例えば、第１の周波数は約１００Ｈｚ以上（例えば、２００Ｈｚ又は５００Ｈｚ又は１ｋＨｚなど）であってもよく、第２の周波数は、約１００Ｈｚ以下、例えば５０Ｈｚ又は２５Ｈｚなどであってもよい。分析装置は、所定の時間に関連する使用データを使用して分類を実行してもよく、この所定の時間は、典型的には通常の使用セッション時間よりも短い。この所定の時間は、０．１秒〜１０分（又はこれらの間の任意の値）の範囲内であってもよく、一方で、典型的な使用セッション時間は、１０秒〜１００分（又はこれらの間の任意の値）の範囲内であってもよい。所定の時間内の時間的に連続する使用データ（すなわち入力タプル）の数は、２〜１０００（又はこれらの間の任意の数）の範囲内、具体的には約２５などの５〜１００又は１０〜５０又は２０〜３０の範囲内であってもよい。このことは、記載されているシステムが、入力タプルのシーケンスを入力する代わりに単一の入力タプルのみを用いても機能することを除外するものではない。
【００２０】
人工ニューラルネットワークは、典型的には、最後に本開示で説明する入力タプルのサイズよりも大きい内部状態サイズを使用する。大きな内部状態サイズは、大きいサイズの重み行列及びバイアスベクトルを生成し、したがって、人工ニューラルネットワークを学習データに適応させるための高い柔軟性を提供する。しかし、特に人工ニューラルネットワークが限定された性能のプロセッサ上（例えばスマートフォン上など）で実行される場合、内部状態のサイズは任意に高く選択されなくてもよい。例えば、手元でのタスクには約２５６以下のサイズで十分であり、これよりも大きいサイズが必ずしも予測可能性の改善をもたらすわけではないことが見出された。
【００２１】
いくつかの実施形態では、分析装置が所定の時間毎に単一の出力回答のみを供給することが企図される（単一の出力回答は、所定の時間にわたる消費者装置の使用に最も高い確率で関連する使用クラスとして単一の使用クラスが特定されることを意味する）。このことは、人工ニューラルネットワークが複数の入力タプルを受信して単一の出力タプルのみを生成することを意味し得るか、又は人工ニューラルネットワークが出力タプルのシーケンスを供給し、分析装置が出力のシーケンスを更に処理して、所定の時間毎に単一の出力回答を供給することを意味し得る。ある所定の閾値未満の予測値によって表される予測が信用できない場合に、回答として使用クラスを供給しないことが、分析装置の特徴の１つであってもよい。予測値が正規化されている場合、この閾値は、０．５〜０．９９、又は０．６〜０．９、又は０．６５〜０．８の範囲内にあるか、あるいは約０．７であってもよい。
【００２２】
手持ち式消費者装置の使用を分類するためのシステム
図１は、本開示によるシステム１００の一例の概略図である。システム１００は、手持ち式消費者装置２００及び分析装置３００を含む。任意の提示装置４００は、ここではシステム１００の一部である。提示装置は、スクリーン、スマートスピーカ、ＬＥＤ光アレイなどとして実現されてもよい。図１には、手持ち式消費者装置２００（簡略化のために、手持ち式消費者装置という用語は、本明細書中で単に「消費者装置」としても略記される）と分析装置３００とは物理的に別個の装置として示されているが、双方が単一のハウジング内で実現されることが除外されるものではなく、すなわち、分析装置３００が消費者装置２００内に組み込まれても、又はこれらが一体の単一の装置として実現されてもよい。他の実施形態では、分析装置は、例えばクラウドコンピュータなどの遠隔の分析装置として実現される。
【００２３】
図示される実施形態では、消費者装置２００は、消費者の手（手が破線で示されている）によって把持されるハンドル２０１と、標的空間２５０の少なくとも一部分を処理するための処理ヘッド２０２と、を備える。処理ヘッド２０２は、ここではハンドル２０１に対して可動であり、具体的には、処理ヘッド２０２は、二重矢印Ｐによって示されるように、ハンドル２０１に対して一方向又は二方向に枢動可能である。ここでは、消費者装置２００は、ハンドル２０１内に位置する慣性センサ２１０と、処理ヘッド２０２内に位置する更なる慣性センサ２１１と、を含むセンサユニットを備える。本明細書によれば、単一の慣性センサ２１０又は２１１で十分であることに留意されたい。慣性センサ２１０及び慣性センサ２１１は、３つの座標軸ｘ、ｙ、及びｚを有するものとして図１に示される基準座標系ＲＳに対する消費者装置２００の加速度、角速度及び／又は向きに関連する動作データを生成する。一例として、ドイツのＢｏｓｃｈ  Ｓｅｎｓｏｒｔｅｃ社の９軸慣性センサＢＭＸ１６０を使用して慣性センサを実現してもよい。少なくとも１つの態様によれば、本明細書による消費者装置は、少なくとも１つの軸に関連する動作データの少なくとも１つの時間的に連続するストリームを供給する少なくとも１つの慣性センサを有するセンサユニットを備える。本明細書に示す消費者装置２００は、消費者装置２００（特に、消費者装置２００の処理ヘッド２０２）で少なくとも１つの軸に沿って印加される力Ｆを測定する力センサとして構成された更なるセンサ２１２を含むセンサユニットを備える。追加的に又は代替的に、消費者装置で印加される力は、消費者装置の駆動ユニットを流れる電流を監視することによって、又は、例えば、慣性センサデータのノイズを測定することによって測定されてもよい。ここで、消費者装置２００のセンサユニットは、処理ヘッド２０２の環境の変化を測定するために処理ヘッド２０２に配置された静電容量式センサ２１３を更に備える。消費者装置２００のセンサユニットは、更なるセンサ、例えば、ハンドル２０１の環境の変化を測定する更なる静電容量式センサ２１４を含んでもよい。センサ２１２、２１３又は２１４は、動作データとは異なるセンサデータの時間的に連続するストリームを供給してもよい。これらのセンサ２１２、２１３、２１４のうちの少なくとも１つからのセンサデータは、少なくとも１つの慣性センサ２１０、２１１の時間的に連続するデータストリームと組み合わされて、分析装置３００に使用データＵＤとして送信されてもよく、これは、図示の実施形態では、送信機又は送受信機２２０を介して無線方式で行われる。慣性センサ２１０及び２１１によって生成された動作データ並びに、更なるセンサ２１２〜２１４によって生成された更なるデータは、双方ともに、所与の時間における消費者装置２００の使用を特徴付ける「使用データ」とみなされる。消費者装置２００は、使用データを記憶し、これを使用セッションの終了後にのみ送信するように構成されてもよい。
【００２４】
本明細書では、本開示による消費者装置のセンサユニットは、使用データを生成するための少なくとも１つのセンサを備えることに留意されたい。いくつかの実施形態では、少なくとも１つのセンサは慣性センサであり、いくつかの実施形態では、少なくとも１つのセンサは、動作データではない使用データを供給するセンサである。本開示の少なくとも一態様によれば、システム１００は、消費者装置２００の使用を分類するタスクのために非慣性センサからの使用データを利用し、任意に非慣性センサデータを慣性センサデータと組み合わせることができる。
【００２５】
消費者装置２００は、標的空間２５０の少なくとも一部で使用されることが意図されてもよい。標的空間２５０は、ここでは、７つの部分又は位置２５１〜２５７と、破線によって示され、以下でより詳細に説明される別の部分２５８とを含むことが概略的に示されている。いくつかの実施形態では、標的空間２５０は、消費者装置２００が使用され得る実際の３Ｄ空間の少なくとも一部分を表してもよく、特に、部分２５１〜２５８のうちの少なくとも１つは、消費者装置がその上で使用されることが意図される標的表面の一部分を表してもよい。
【００２６】
ここで、分析装置３００は、消費者装置２００から使用データＵＤを少なくとも受信するための受信機又は送受信機３２０を含む。消費者装置と分析装置とが物理的に一体の装置として実現される実施形態では、データ転送が有線接続毎に行われてもよい（又は、消費者装置２００が、例えばベースステーション又は分析装置などの別の装置との有線接続を確立するための接点を含んでもよい）。上述のように、少なくとも１つのセンサ２１０、２１１、２１２、２１３、２１４を備えるセンサユニットは、データタプルの時間的シーケンスとして動作データを含み得る使用データＵＤを供給する（本明細書で使用される「タプル」という用語は、要素の有限順序リスト（シーケンス）を意味し、ｎ−タプルは、ｎ個の要素を有するリストを意味する）。上述のように、動作データは、時点毎に少なくとも１個の動作データ、典型的には、時点毎に４個、５個、６個、７個、８個又は９個などの３個以上の動作データを含んでもよい。したがって、使用データＵＤは、時点毎のそれぞれのｎ−タプルとして構成されてもよい。少なくとも１つの更なるセンサ２１２からの力データなどの更なる使用データＵＤを動作データに追加してもよく、それにより、使用データＵＤのそれぞれより大きなｎ−タプルが時点毎に利用可能となる。典型的には、所定の時間を表す使用データＵＤのｎ−タプルのシーケンスが処理ユニット３１０に入力され、使用データＵＤが人工ニューラルネットワークによって処理されて、使用データＵＤが使用クラス３５１〜３５９のセット３５０に関して分類される。一部の実施形態では、使用クラス３５１〜３５９は標的空間２５０とは無関係である（例えば、使用クラスは、異なるユーザタイプに関連するか、又は正しい使用と間違った使用とに関連する）が、一部の実施形態では、使用クラス３５１〜３５９の少なくとも一部が標的空間２５０の特定の部分２５１〜２５８における消費者装置２００の使用に関連しているために、使用クラス３５１〜３５９が標的空間２５０の部分２５１〜２５８と関連していてもよい。以下でより詳細に説明するように、この場合の使用クラスのセット３５０の使用クラス３５１〜３５９と標的空間２５０の部分２５１〜２５８との間の関係は、任意であってもよい（すなわち、全単射関係から逸脱し得る）。このことは、例えば、２つの使用クラス３５１及び３５２は標的空間２５０の１つの部分２５１に関連付けられ、１つの使用クラス３５９は標的空間２５０のどの部分にも関連付けられないような方法で、第１の使用クラス３５１が標的空間２５０の１つの部分２５１に関連付けられ、１つの使用クラス３５２が標的空間２５０の２つの部分２５１及び２５２に関連付けられてもよいことを意味する。非限定的な例として、使用クラスの数は２０である一方で、標的空間の部分の数は６であってもよい。
【００２７】
分析装置３００は、受信した使用データ及び／又は分類手順で生成されたデータを（以前の結果と現在の結果とを比較する、又は結果の履歴を提示するなどの後のタスクにデータを利用できるように）記憶するため、及び／又はプログラムルーチン若しくはルックアップテーブルなどを記憶するための記憶ユニット３３０を含んでもよい。
【００２８】
上述のように、所与の時間の使用データＵＤは、その時間の間の消費者装置２００の使用を分類するためにシステム１００によって使用される。装置の使用は、特に、消費者装置２００によって行われる、標的空間２５１〜２５７（標的表面の部分であってもよい）の特定の部分の処理に特有の動作又は移行動作に特有の動作に基づいて決定されてもよい。
【００２９】
例えば慣性センサ２１０又は力センサ２１２によって出力される使用データＵＤの概略図をグラフ２１０Ｕとして図示し、使用データＵＤを時間ｔの関数として概略的に示す。図示されたグラフは、例えば、ｔ０で開始し、ｔｓで終了する使用セッションの間のＵＤの値を示す。システム１００を使用して、時点ｔ１で開始し、時点ｔ２で終了する所定の時間ΔＴの間の消費者装置２００の使用を、使用データＵＤに基づいて分類することができる。分類が、後続の時間にわたって分類を繰り返してもよい。使用セッションは、１秒〜１００分の範囲内の長さを有してもよく、時間ΔＴは、０．１秒〜１０分の範囲内の長さを有してもよい。
【００３０】
任意の提示装置４００が、システム１００の一部として図１に示されている。提示装置４００は、ここでは、消費者装置２００及び分析装置３００とは別個の物理的な別個の装置として示されているが、提示装置が消費者装置２００又は分析装置３００のいずれかに組み込まれるか、あるいは全ての装置が１つの一体型の装置として実現されてもよいことを理解されたい。図示の実施形態では、提示装置４００は、ユーザに視覚情報をライブ方式又はオフライン方式で表示するためのディスプレイ４１０と、分析装置３００からデータを少なくとも受信するための受信機又は送受信機４２０と、タッチキーボードとして、機械的キーボードとして、又は音声インターフェースとして実現され得るユーザインターフェース４３０とを有する。ここでは、提示装置４００が、ディスプレイ４１０上に使用クラスのセット又は標的空間４５０の視覚的表現を示すことができ、使用クラスのセット又は標的空間４５０の視覚的表現の一部４５１が強調表示されて、システム１００が消費者装置２００の使用データを強調表示された部分４５１に関連するものとして分類したことがユーザに対して示される。
【００３１】
手持ち式消費者装置
図２は、本開示による手持ち式消費者装置２００Ａの一例の図である。図示するように、消費者装置２００Ａは、例えば充電機能を有してもよいが、消費者装置２００Ａをレセプタクル２４９Ａ内に機械的に保持するように機能するだけであってもよいベースステーション２４０Ａを有してもよい。
【００３２】
消費者装置２００Ａは、少なくとも１つの慣性センサ２１０Ａ、２１０Ｂ、２１０Ｃを含んでもよく、この少なくとも１つの慣性センサ２１０Ａ、２１０Ｂ、２１０Ｃは、既に説明したように、加速度計、ジャイロスコープ又は磁力計のうちの少なくとも１つであってもよい。ここでは、少なくとも１つの慣性センサ２１０Ａ、２１０Ｂ及び２１０Ｃが、消費者装置２００Ａのハンドル２０１Ａ内に配置されていることが示されている。代替的に又は追加的に、特に処理ヘッド２０２Ａがハンドル２０１Ａに対して可動であるように構成されている場合に、１つ以上の慣性センサが消費者装置２００Ａの処理ヘッド２０２Ａ内に配置されてもよい。図示の実施形態では、消費者装置２００Ａは、処理ヘッド２０２Ａ内に配置された少なくとも１つの更なるセンサ２１２Ａ、２１２Ｂ、２１２Ｃ、２１３Ａ、２１３Ｂ、２１３Ｃ又は２１３Ｄを有する。この少なくとも１つの更なるセンサは、例えば、力センサ、静電容量式センサ、温度センサ、気圧センサなどとして実現されてもよい。消費者装置２００Ａは、２つ以上の更なるセンサ２１２Ａ、２１２Ｂ、２１２Ｃ、２１３Ａ、２１３Ｂ、２１３Ｃ又は２１３Ｄを含んでもよく、例えば、異なる領域における処理ヘッド２０２Ａの誘電環境の変化を測定するために、２つ以上の静電容量式センサが処理ヘッド２０２Ａの異なる部分内に配置されてもよい。あるいは、消費者装置２００Ａは、慣性センサを含まない。気圧センサの一例として、日本のＴＤＫ株式会社のＩｎｖｅｎＳｅｎｓｅ  ＩＣＰ−１０１００センサは、約５ｃｍの高さの差を検出可能であり、したがって、本明細書で企図される様々な種類の消費者装置の使用データを適切に供給することができる。
【００３３】
慣性センサ２１０Ａ、２１０Ｂ、２１０Ｃ及び／又は更なるセンサ２１２Ａ、２１２Ｂ、２１２Ｃ、２１３Ａ、２１３Ｂ、２１３Ｃ又は２１３Ｄは、センサ処理ユニット２３０Ａと結合されてもよい。センサデータ処理ユニット２３０Ａは、少なくとも１つの慣性センサ２１０Ａ、２１０Ｂ、２１０Ｃ及び／又は少なくとも１つの更なるセンサ２１２Ａ、２１２Ｂ、２１２Ｃ、２１３Ａ、２１３Ｂ、２１３Ｃ若しくは２１３Ｄから、例えば１００Ｈｚを超える高周波であってもよい第１の周波数でセンサデータ
【００３４】
【数１】
2021513420.tif 000003
を受信するように構成されてもよく、センサデータ処理ユニット２３０Ａは、次に、受信されたセンサデータ
【００３５】
【数２】
2021513420.tif 000004
を処理して、処理されたセンサデータ
【００３６】
【数３】
2021513420.tif 000005
を、
【００３７】
【数４】
2021513420.tif 000006
及び
【００３８】
【数５】
2021513420.tif 000007
を時間ｔの関数として示す２つのグラフに示されるように、例えば１００Ｈｚ未満などのより低い周波数である第２の周波数で出力するように構成されてもよい。センサデータ処理ユニット２３０Ａは、例えば平均化フィルタなどを適用することにより、受信されたセンサデータ
【００３９】
【数６】
2021513420.tif 000008
を処理して、低周波数センサデータ
【００４０】
【数７】
2021513420.tif 000009
を生成してもよい。特に、消費者装置２００Ａが分析装置から物理的に分離している場合（図１及び図３を参照）には、消費者装置２００Ａから上記の分析装置に送信されるデータ速度が低下するので、低周波センサデータ
【００４１】
【数８】
2021513420.tif 000010
がライブ分析をサポートしてもよい。消費者装置は、例えば、Ｂｌｕｅｔｏｏｔｈ若しくはＢｌｕｅｔｏｏｔｈ  ＬＴＥ又は任意のその他の無線データ交換フォーマットに基づいて分析装置との無線接続を確立するための送信機又は送受信機２２０Ａを含んでもよい。消費者装置２００Ａは、例えばセンサデータ
【００４２】
【数９】
2021513420.tif 000011
を後で分析装置に送信できるように、センサデータを少なくとも記憶するためのプロセッサユニット２３１Ａを備えてもよい。いくつかの実施形態では、プロセッサユニット２３１Ａは、更なる分析装置を必要とせずにセンサデータ
【００４３】
【数１０】
2021513420.tif 000012
の分析を実行してもよく、すなわち、分析装置／分析ユニットの機能は、消費者装置２００Ａに組み込まれてもよい。ユーザにフィードバック又は少なくとも情報を提供するために、消費者装置２００Ａは、図２では、例えばＬＥＤなどの複数の視覚的光要素として示されているフィードバックユニット２３２Ａを含んでもよく、各光要素が標的空間の特定の部分（例えば口腔の部分）に割り当てられていることにより、消費者装置２００Ａが、特定された使用クラスについての、又は各使用クラスに関連付けられた標的空間の部分についてのフィードバックを提供することが可能であってもよい。消費者装置２００Ａは、例えば、消費者装置２００Ａの駆動ユニットを介してユーザフィードバックを提供してもよい。例えば、駆動ユニットは、現在処理されている表面部分が十分な処理を受けたこと及び、消費者が別の表面部分へと移行可能であることなどを示す特定のフィードバックをユーザに伝えるための特定の振動パターンを供給してもよい。消費者装置２００Ａはまた、記憶されたセンサデータのオフライン分析を開始する要求などの入力をユーザが供給することを可能にするユーザインターフェース２３３Ａを備えてもよい。
【００４４】
少なくとも１つの慣性センサ２１０Ａ、２１０Ｂ、２１０Ｃから、及び／又は少なくとも１つの更なるセンサ２１２Ａ、２１２Ｂ、２１２Ｃ、２１３Ａ、２１３Ｂ、２１３Ｃ又は２１３Ｄからの（処理されている可能性のある）センサデータ
【００４５】
【数１１】
2021513420.tif 000013
は、例えば、送信機又は送受信機２２０Ａを使用して、使用セッション中又は使用セッション後に時間的シーケンスとして物理的に分離された分析装置に送信され、すなわち、センサデータＵＤ（ｔｉ）が送信され、ここで、ＵＤ（ｔｉ）は、図２に
【００４６】
【数１２】
2021513420.tif 000014
で示されるように、センサデータ要素のｋ−タプルを表し、式中、ｋは個々のセンサデータの数であり、例えば、ｋ＝３は３軸加速度計からのセンサデータの３つの要素を表してもよく、ｋ＝６は、３軸加速度計及び３軸ジャイロスコープを含む６軸慣性センサの６つの要素を表してもよく、ｋ＝７は、単軸力センサからのデータが付加されている以外は前述と同じものを表してもよい。当然のことながら、タプルの時間的シーケンスの要素の数ｋは、使用分類の目的で使用される個々のセンサデータの数に依存する。
【００４７】
センサデータの時間的シーケンスＵＤ（ｔｉ）は、データの生成とそれらの送信との間の非常に短い遅延のみで、使用セッション中にライブの使用分類のために送信される。センサデータはまた、特定のデータ長へと圧縮されてもよく、例えば、センサデータは、８ビット又は１０ビット、又は１２ビット、又は１６ビット、又は２０ビットなどの特定の長さを有するデジタルデータとして送信されてもよい。データ伝送速度が限られている場合には、典型的にはアナログのセンサデータを、限定された分解能のデジタル化されたセンサデータへと削減すると、ライブのセンサデータ送信を可能にするのに役立つであろう。電動歯ブラシなどの消費者装置の典型的な分類タスクでは、センサデータの分解能は８ビットで十分であり、これよりも分解能が高くても使用分類タスクの最終的な予測品質は著しく向上することはないことが見出された。センサデータは、生センサデータであっても、前処理されたセンサデータであってもよい。
【００４８】
オフラインの使用分類の場合、センサデータは高分解能（例えば、２４ビット分解能）で記憶されてもよく、また、任意に高サンプリングレート（例えば、２００Ｈｚ）で記憶されてもよく、この場合、オフラインの使用分類には送信時間及びデータ伝送速度の制限があまり関係しないことから、同じ高分解能のセンサデータが分析のために後で送信されてもよい。消費者装置２００Ａの記憶装置は、ユーザが消費者装置２００Ａを一定の回数使用した後にのみオフラインの使用分類を開始できるように、１回、２回、５回、１０回、２０回、１００回などの使用セッションを記憶可能なサイズであってもよい。
【００４９】
消費者装置２００Ａは、ベースステーション２４０Ａ上に配置されてもよく、具体的には、消費者装置２００Ａは、ベースステーション２４０Ａのレセプタクル２４９Ａ内に機械的に保持されてもよい（消費者装置２００Ａは、レセプタクルによって提供される嵌め合いによって保持されてもよく、又はベースステーションが磁石を含み、消費者装置２０Ａもまた磁石又は磁化可能な要素を含んでもよい）。消費者装置２００Ａがベースステーション２４０Ａ上に配置されている間に、消費者装置２００Ａ内に配置された充電式アキュムレータを充電する充電機能を有してもよいベースステーション２４０Ａは、データを分析装置（図３を参照）に送信するための送信機又は送受信機２４３Ａを含んでもよく、分析装置は、遠隔処理装置（例えば、クラウドコンピュータ）によって実現されてもよい。この場合、送信機又は送受信機２４３Ａは、例えばＷＬＡＮなどのＷｉＦｉ通信能力を有してもよい。ベースステーション２４０Ａは、（例えば、Ｂｌｕｅｔｏｏｔｈ（商標）又はＢｌｕｅｔｏｏｔｈ（商標）ＬＴＥに基づいて）消費者装置２００Ａとの有線又は無線通信リンクを確立するように構成されてもよい。消費者装置２００Ａがベースステーション２４０Ａ上に配置された時に有線通信が確立されてもよい。この場合、消費者装置２００Ａは、センサデータ（及び他のデータ）を送信するための自身の送信機又は送受信機２２０Ａを有する必要はなく、これがベースステーション２４０Ａによって行われてもよい。いくつかの実施形態では、ベースステーション２４０Ａは、分析装置も実現してもよく、したがって、分析装置３００Ａについて図３を参照しながら以下に更に説明する機能を備えてもよい。ベースステーション２４０Ａは、分析装置を実現するか否かに関わらず、フィードバックをユーザに伝達するための、例えば視覚フィードバックユニット２４１Ａ又は可聴フィードバックユニット２４２Ａなどの手段を備えてもよい。例えば、分析装置又は消費者装置２００Ａは、使用分類の結果をベースステーション２４０Ａに送信してもよく、その結果は次に、視覚フィードバックユニット２４１Ａを使用して表示されるか、又は可聴フィードバックユニット２４２Ａを介して伝達されてもよい。
【００５０】
分析装置
図３は、本開示によるシステムの一部である物理的に別個の分析装置３００Ａの概略図である。既に論じたように、物理的に分離された分析装置３００Ａに関して本明細書で説明したのと同じ機能を、消費者装置内に、又はベースステーション若しくは提示装置内に、又はクラウドコンピューティング装置などの遠隔のコンピューティング装置内に組み込んでもよい。分析装置３００Ａは、受信機又は送受信機３２０Ａ、処理ユニット３１０Ａ、及び記憶ユニット３３０Ａを含んでもよい。センサデータタプルの時間的ストリームＵＤ（ｔｉ）は、受信機又は送受信機３２０Ａを介して受信され、処理ユニット３１０Ａに供給される。処理ユニット３１０Ａは、所定の時間ΔＴに関連するある数のセンサデータタプルＵＤ（ｔｉ）を収集してもよく、ここでは、図３に示すように、ｎ個のそのようなセンサデータのｋ−タプルＵＤ（ｔｉ）、ｉ∈［１，ｎ］が収集され、次いで処理ユニット３１０Ａの使用分類部分に供給される。使用分類は、ここでは、少なくとも１つの人工ニューラルネットワークＡＮＮによって行われる。このような少なくとも１つの人工ニューラルネットワークの詳細については、以下の章のいくつかで詳細に説明する。当該技術分野で知られているように、以前に訓練された人工ニューラルネットワークＡＮＮは、関連する時間ΔＴに関連するｎ個のセンサデータタプルのシーケンスＵＤ（ｔｉ）、ｉ∈［１，ｎ］を受信し、少なくとも１つの出力又は回答タプルを出力する。ここでは、非限定的な例として、ｎ個の出力タプルのシーケンスｙ（ｔｉ）、ｉ∈［１，ｎ］が供給され、ここで、各回答タプルは、図３にｙ（ｔｉ）＝｛ｙ１（ｔｉ），ｙ２（ｔｉ），．．．，ｙｍ（ｔｉ）｝として示すように、ｍ個の要素を有し、ここで整数ｍは、入力が分類される使用クラスの数である。各要素ｙｊ（ｔｉ）、ｊ∈［１，ｍ］はこの場合、時点ｔｉで人工ニューラルネットワークＡＮＮに入力されたセンサデータが使用クラスｊに関連するという予測に関連する数値である（すなわち、値が高いほど予測が良好である）。以下で更に説明するように、人工ニューラルネットワークＡＮＮの出力は、各ｍ−タプルの要素ｙｊが範囲［０、１］内に圧縮され、合計が１となるように、ソフトマックス関数によって正規化されてもよい。そのような正規化された値は、それぞれの入力が使用クラスｊに関連する確率に関連していると言える。
【００５１】
処理ユニット３１０Ａは、出力タプルのシーケンスを処理して、現在評価されている時間ΔＴに関連する単一の使用クラスの回答に到達するように構成されてもよい。この処理ステップでは、各出力タプルｙ（ｔｉ）を単純な回答タプルＡｉに変換して、単純な回答タプルのシーケンスＡ＝｛Ａ１，Ａ２，．．．，Ａｎ｝を生成してもよい。例えば、ｍ＝５で正規化された出力タプルがｙｉ（ｔｉ）＝［０．１，０．１，０．６，０．１５，０．０５］である場合、最も高い値を有する出力タプルの要素は第３の要素であり、単純な回答タプルＡ（ｔｉ）＝（０，０，１，０，０）が供給されてもよい。ｎ−タプルを供給する代わりに、各出力タプルｙ（ｔｉ）にａｒｇｍａｘ関数を適用してもよく、この場合、本実施例では、単純な回答タプルはスカラ値（１−タプル）、すなわち、Ａ（ｔｉ）＝３となる。図３に示す非限定的な例は、各回答タプルがベクトル又はｎ−タプルであり、このうち１つの要素のみが１であり、他の要素が０であるという認識に基づいている。ニューラルネットワークの技術分野では、ａｒｇｍａｘ関数は、出力タプルを処理するためのより通常の方法としてみなされ得る。
【００５２】
処理ユニット３１０Ａは、この場合、単純な回答タプルのシーケンスＡ＝｛Ａ１、Ａ２，．．．，Ａｎ｝を、単一の使用クラスの回答
【００５３】
【数１３】
2021513420.tif 000015
へと削減するように構成されてもよい。この削減は、単純な回答タプルのシーケンスＡに最大基準又は過半数基準を適用することによって生じ得る。単純な回答タプルＡｉがｍ−タプルである例では、最大基準は、単純な回答タプルＡｉの最大多数のｋ番目の要素が１である場合に、単一の使用クラス回答
【００５４】
【数１４】
2021513420.tif 000016
のｍ個の要素のうちのｋ番目の要素のみが１に設定されることを意味してもよく、過半数基準が適用された場合には、要素ｋは、単純な回答タプルＡｉのｋ番目の要素の少なくとも５０％が１である場合に１に設定される。１に設定される要素は、この場合、所定の時間からの入力に最良に適合しているとシステムが特定した使用クラスに対応する。単一の使用クラスの回答
【００５５】
【数１５】
2021513420.tif 000017
の他の全ての要素は、この場合０である。単一の回答タプル
【００５６】
【数１６】
2021513420.tif 000018
の要素のいずれも１でない場合、人工ニューラルネットワークの応答は信頼できないので分類は行われず、すなわち、使用クラスは出力として供給されない。あるいは、単純な回答タプルＡ（ｔｉ）は、ａｒｇｍａｘ関数の結果としてのスカラ値であってもよく、値は、最も高い予測値を有する出力タプルの要素ｙ（ｔｉ）と一致する。この場合、単一の使用クラス回答
【００５７】
【数１７】
2021513420.tif 000019
はスカラ値であってもよく、この値は、例えば
【００５８】
【数１８】
2021513420.tif 000020
など、所定の時間からの入力に最良に適合しているとシステムが特定した使用クラスを示す。要約すると、処理ユニット３１０Ａは、現在評価されている時間ΔＴ毎に、人工ニューラルネットワークＡＮＮの単一の使用クラス回答を供給するように構成されてもよい。処理ユニット３１０Ａは、予測確率が信頼できない場合（例えば、閾値が適用された場合及び／又は過半数が特定されなかった場合など）には応答を供給しないように構成されてもよい。
【００５９】
上述のように、使用クラスと標的空間の部分とは、一対一対応で（すなわち、全単射法で）直接かつ明瞭に関連付けられてもよい。しかし、使用クラスと標的空間の部分との間により複雑な関連性が存在してもよい。例えば、消費者装置が電動歯ブラシである場合、使用クラスは、電動歯ブラシの様々な動作に関連してもよい。使用クラス１は、左上大臼歯の頬側面をブラッシングするための典型的な動作に関連してもよく、使用クラス２は、左下大臼歯の頬側面をブラッシングするために典型的な動作に関連してもよく、使用クラス３は、この場合、左大臼歯の頬側面、すなわち、左上大臼歯及び左下第臼歯の頬側面を１回の動作でブラッシングするための典型的な動作に関連してもよい。したがって、処理ユニット３１０Ａは、現在評価されている時間ΔＴに関して特定された使用クラスを標的空間の部分上にマッピングするように構成されてもよく、この場合、標的空間３５０Ａのグラフィック表現が示され、ディスプレイを介してユーザへの視覚フィードバックも表現することが可能である。図示される実施例では、第３の使用クラス（単一の回答タプル
【００６０】
【数１９】
2021513420.tif 000021
の第３の要素が１である場合に回答として供給される）は、組み合わされて部分３５１Ａとされる、標的空間３５０Ａの２つの部分３５２Ａ及び３５３Ａに関連してもよい。この場合、単一の使用クラス回答
【００６１】
【数２０】
2021513420.tif 000022
の第１の要素（すなわち、第１の使用クラス）が部分３５２Ａに関連付けられ、第２の要素（すなわち、第２の使用クラス）が部分３５３Ａに関連付けられてもよい（これは、
【００６２】
【数２１】
2021513420.tif 000023
がスカラ値であり、かつ、
【００６３】
【数２２】
2021513420.tif 000024
である場合にも適用される）。使用クラス番号５は、標的空間の部分３５４Ａに関連付けられてもよく、これが、右下大臼歯をブラッシングするための典型的な動作に関連してもよい（例えば、
【００６４】
【数２３】
2021513420.tif 000025
）。また、使用クラス番号７（例えば
【００６５】
【数２４】
2021513420.tif 000026
）は、標的空間３５０Ａの部分３５５Ａ及び３５６Ａに関連付けられてもよく、部分３５５Ａ及び３５６Ａは、歯ブラシがブラッシングのために使用されなかったが、１つのブラッシング領域から別のブラッシング領域に移動したこと（すなわち、移行動作）を示す。同様の例を、電気シェーバ、モップなどの他の消費者装置に提供することができる。電気シェーバの標的表面は、例えば、対象の頭部であってもよい。
【００６６】
先の説明では、用語「動作」が使用された場合、これは、動作データのみがセンサデータとして入力される場合に関連する。使用データが動作データ以外の他の又は更なるセンサデータを含む場合、動作という用語は「使用」という用語に置き換えられる。
【００６７】
電動歯ブラシを備えるシステムの例
図４は、電動歯ブラシとして実現された消費者装置２００Ｅと、スマートフォンとして実現され、この例では提示装置の機能も実現する分析装置３００Ｅと、を備える例示的なシステム１００Ｅの概略図である。
【００６８】
一般に知られているように、電動歯ブラシ２００Ｅは、ハンドル２０１Ｅと、処理ヘッド２０２Ｅ、すなわちブラシヘッドと、を含み、電動歯ブラシ２００Ｅは、歯及び任意に舌を含む口腔の部分を清掃することを意図している。したがって、電動歯ブラシ２００Ｅの標的空間２５０Ｅは、この例では歯に関連する部分２５１Ｅ〜２５６Ｅ及び舌に関連する部分２５７Ｅを含む。加えて、標的空間２５０Ｅは、この例では、電動歯ブラシヘッドの移行動作、すなわち、ブラッシングすることではなく、歯ブラシを１つの歯セクションから別の歯セクションに移動させることに関連する動作に関連する２つの更なる部分２５８Ｅ及び２５９Ｅを含む。口腔を個々の部分に分離するために本明細書で使用される標的空間の部分の数は、単に一例であり、非限定的とみなされるべきである。他の実施形態では、標的空間は、歯に関連する１つの部分及び移行動作に関連する１つの部分のみを含む。別の一例では、各大臼歯は、各大臼歯の頬側面、舌側面及び咬合面に関連する３つの部分に分割され、各切歯は、頬側面及び舌側面に関連する２つの部分に分割される（すなわち、全８４部分において、各部分が特定の歯の１つの面に関連する）。舌も、２つ以上の部分、例えば、前方部分及び後方部分に分割されてもよい。これは単に、標的空間が任意の適切な数の部分を有し得ることを示すものである。
【００６９】
ここで電動歯ブラシ２００Ｅは、前述のようなセンサを備え、使用データＵＤの時間的シーケンスを使用セッション中に分析装置３００Ｅに送信するように構成されている。分析装置３００Ｅは、使用クラスのセットに関する電動歯ブラシ２００Ｅの使用の分類を人工ニューラルネットワークを用いて実行し、結果として得られた使用クラスを標的空間２５０Ｅ上にマッピングすることにより、分析装置のディスプレイ３０１Ｅ上に標的空間２５０Ｅの視覚的表現３５０Ｅを表示することができるように構成されている。ここで、視覚的表現３５０Ｅは、７つの部分を含む（移行は視覚表示されない）。一例として、視覚表示された視覚的表現はそれぞれ、推奨されるブラッシング行動の何パーセントが標的空間のどの関連する部分で既に費やされているのかをユーザが容易に確認することができるように、特定のレベルまで満たされている。更に、視覚表示されたゾーン３５４Ｅは、使用データＵＤの時間的シーケンスの評価の結果に基づいて、標的空間（すなわち、口腔）の現在ブラッシングされている部分を示すために強調表示されている。一例として、総ブラッシング時間がディスプレイ３０１Ｅ上に別の情報３６０Ｅとして示される。
【００７０】
本明細書の以下の章では、人工ニューラルネットワーク及び関連するアーキテクチャの特定の人工ニューラルネットワークについて、本明細書に記載のシステムに関連する範囲で簡潔に説明する。
【００７１】
人工ニューラルネットワーク
人工ニューラルネットワーク（ＡＮＮ）は人工ニューロンのネットワークであり、ニューロインフォマティクスから動機付けられたニューロンのモデルを使用し、複数の入力が活性化関数によって重み付けされて出力される。バイアス値（又は閾値）を追加して、活性化前に重み付き入力をシフトさせてもよい。ＡＮＮの典型的な活性化関数は、シグモイド関数又はｔａｎｈとして表される双曲線正接関数などの、非線形の単調増加関数である。
【００７２】
図５は、入力層１０、隠れ層２０及び出力層３０を有する人工ニューラルネットワーク１の一例の概略図である。ＡＮＮの入力ベクトルｘｉはそれぞれ、ｎ−タプルであってもよく、ｎは任意の整数であってもよい。図５に示されるＡＮＮに従って、入力ベクトルｘｉは連結され、次いで、連結されたベクトルは、隠れ層２０のユニットのそれぞれに供給される。完全に接続された層を用いて、入力ｃｉ＝（ｘ１，ｘ２，ｘ３）を、例えば、ｋ−タプル
【００７３】
【数２５】
2021513420.tif 000027
及び
【００７４】
【数２６】
2021513420.tif 000028
などの任意の他の寸法のタプルに転送してもよく、ここで、ｗｉｋｊは、隠れユニットｉ、ｉ＝１，２，３の重み行列の要素であり、ｂｉｋは、隠れユニットｉ、ｉ＝１，２，３のバイアスベクトルの要素であり、ｊは、連結されたベクトルｃｉの要素の実行中インデックスを表し、ｋは、ｋ−タプル
【００７５】
【数２７】
2021513420.tif 000029
の要素の実行中インデックスを表す。重み付き出力
【００７６】
【数２８】
2021513420.tif 000030
は、次に、活性化関数
【００７７】
【数２９】
2021513420.tif 000031
を使用して出力され、ここでσはシグモイド関数を表す。この活性化が隠れ層２０で生じた後に、活性化ベクトルａｉを、完全に接続された出力層３０によって、典型的には、例えばＡＮＮが認識する単語の数などの、ＡＮＮの考えられる回答と一致する寸法を有する任意の寸法の複数の出力タプルｙｉ、ｉ＝１，２にマッピングしてもよい。
【００７８】
図５を参照しない１つの典型的な例では、ＡＮＮは、例えば、手書き文字を識別するタスクを学習するために使用される。この場合、ＡＮＮの重み及びバイアスは、例えば５０画素×５０画素（例えば、各画素が黒又は白のいずれかを表す）の画像を表し、各画像が文字「ｃ」などの回答が既知である手書きの文字を含むデータストリームなどの、いわゆるラベル付けされた入力を供給することによって学習されてもよい。ＡＮＮの初期の重み及びバイアスは、次いで、ＡＮＮの出力と、理想的にはいわゆるバックプロパゲーションによってシステムに供給されたはずの出力との差に基づいて、（ここでは教師あり）学習プロセスで修正され、この例の回答「ｃ」では、ＡＮＮは、理想的には第３の要素が１であり、他の全ての要素がゼロとなる）２６個の要素（ラテンアルファベットの文字毎に１つ）を有する出力ベクトルを供給してもよい。典型的には、ＡＮＮが十分に訓練されている場合には、ＡＮＮは重み及びバイアスに適用される変更にある程度の収束を示し得る。ＡＮＮの予測品質が、例えば自動手書き認識に使用できる程度に十分に良好となるように、学習すべきタスクに特に適したＡＮＮのアーキテクチャを見出すことは、ＡＮＮの設計者の課題であると考えられる。
【００７９】
上述のように、本開示で説明するタスクは、使用クラスを決定し、使用クラスに基づいて、手持ち式消費者装置がその中で現在使用されている標的空間の部分を判定することである。ＡＮＮ、特に以下で更に説明するＡＮＮの特定のアーキテクチャは、例えば手持ち式消費者装置の動作を含む使用データをＡＮＮへの入力として使用する場合に、このタスクを十分な予測精度で解決するために使用できることが見出されており、予測品質は、例えば、手持ち式消費者装置で印加される力、特に手持ち式消費者装置の処理ヘッドで印加される力を表す力センサデータを加えるなど、更なる使用データをＡＮＮへの入力として加えることによって、更に改善することが可能である。また、動作データを含まず、１軸力データ又は多軸力データ、手持ち式消費者装置に配置された静電容量式センサ、温度センサなどからのデータなどの他のセンサデータのみを含む使用データをＡＮＮに入力として供給することによって、ＡＮＮを使用して本開示のタスクを解決可能であることも企図されている。このような使用データを供給するためのセンサについては、既に説明している。
【００８０】
回帰型ニューラルネットワーク
回帰型ニューラルネットワーク（recurrent neural network、ＲＮＮ）は、特定の特性、すなわち反復入力を有するＡＮＮのクラスである。図６Ａは、入力層１０Ａ、隠れ層２０Ａ及び出力層３０Ａを含むＲＮＮ  １Ａの概略図である。回帰型ユニット５０Ａは、入力ｘｔを受信するだけでなく、前の時点から隠れた状態も受信し、現在時点ｔの隠れた状態ｈｔは次いで、次の時点ｔ＋１の出力を計算するためにニューラルネットワーク５０Ａに入力されることが示されている。
【００８１】
図６Ｂは、「広げられた」又は「展開された」状態の図６ＡのＲＮＮの概略図である。結果として生じる回帰型ニューラルユニット５０Ａの鎖は、異なる「時点」ｔ、ｔ＝［１，ｎ］で適用される。第１の時点ｔ、ｔ＝１で、ニューラルユニット５０Ａは、初期の隠れた状態ｈ０及び入力ｘ１を受信して、出力ｙ１及び、ニューラルユニット５０Ａに次の時点ｔ、ｔ＝２で供給される、修正された隠れた状態ｈ１を計算する。ニューラルユニット５０Ａは、時点ｔ＝２で入力ｘ２及び、上述のように、隠れた状態ｈ１を受信し、出力ｙ２及び隠れた状態ｈ２を計算する。この鎖は、時点ｔ＝ｎで入力シーケンスが終了するまで継続する。隠れた状態は、記憶を経時的に運ぶという点で特に有益である。一例として、ニューラルユニット５０Ａは、単純な実現の場合には、単にｔａｎｈ活性化関数であってもよく、すなわち、隠れた状態ｈｔ−１及び入力ｘｔは連結され、ＡＮＮユニットに関して上述した完全に接続された層を通過した後に、ｔａｎｈ関数によって活性化される。図６Ａから明らかなように、ニューラルユニット５０Ａの重み及びバイアスは、時間の関数として変化しない。
【００８２】
ＲＮＮの構造は、シーケンシャルなデータを処理するのに好適である。本明細書で使用される用語「時点」は、広く解釈されてもよく、また必ずしも実時間に関連しなくてもよいが、手持ち式消費者装置の使用を分類するタスクは、例えば、動作データ及び／又は他の使用データを実時間シーケンスとして供給することによって達成され得ることが見出された。手持ち式消費者装置が電動歯ブラシである場合には、１秒間が、ＡＮＮ、特にＲＮＮによって使用データを分類するための適切な時間であってもよく、また、使用データの約２５個の時間的に等距離の入力ベクトルｘｔを使用できることが見出された。当然ながら、これは１つの非限定的な例であり、他の値及び範囲については既に説明されている。
【００８３】
ＡＮＮの入力タプルｘｉの寸法は、入力データの要素の数に関連し、例えば、使用データの６つの要素（例えば、３軸加速度計及び３軸ジャイロスコープからの６つの異なる動作データ値）が使用される場合には、
【００８４】
【数３０】
2021513420.tif 000032
となる。例えば、入力される使用データに要素として更なる力の値が追加される場合には、
【００８５】
【数３１】
2021513420.tif 000033
となる。ＡＮＮの出力ｙｉは、入力が分類される使用クラスの数によって異なる。例えば出力クラスの数が２０である場合、
【００８６】
【数３２】
2021513420.tif 000034
となる。内部的には、例えば隠れた状態ｈｉのサイズは、遙かに大きい値を有してもよい。隠れた状態ｈｉのサイズは２５６であってもよく、この場合は
【００８７】
【数３３】
2021513420.tif 000035
となる。図示されるように、入力ｘｉは、上記の第１の実施例では
【００８８】
【数３４】
2021513420.tif 000036
である重み行列Ｗによって、より高いサイズにされる。このようにサイズが増加された入力に追加され得るバイアス又は閾値ｂも、隠れた状態ｈｉのサイズを有してもよく、すなわち、
【００８９】
【数３５】
2021513420.tif 000037
であってもよい。サイズが２５６のＡＮＮの内部状態ベクトルからサイズが２０の出力ｙｉを生成するために、完全に接続された出力層は、それぞれの重み行列
【００９０】
【数３６】
2021513420.tif 000038
を使用する。この段落で使用される数字は、非限定的な例であり、入力、出力及び内部状態のサイズは、いかなる好適な整数値を有してもよい。
【００９１】
ＬＳＴＭユニット
ＲＮＮは、内部隠れた状態出力を次の時点への内部隠れた状態入力（回帰情報）として渡す、一連の同一の順伝播型ニューラルネットワークユニット（各時点毎に１つ）とみなすことができ、換言すれば、ＲＮＮは、内部隠れた状態出力を各時点毎に新たな内部隠れた状態入力として再ループする単一の順伝播型セルである。ＲＮＮユニットは、少なくとも１つの隠れ層を有してもよい。したがって、最も基本的なＲＮＮユニットは、上述のように、単一層のニューラルネットワークユニットである。古典的な「バニラ」ＲＮＮユニットでは、ユニットの出力は、内部隠れた状態出力と同一である。バニラＲＮＮは既知の問題（ＲＮＮを訓練不可能にする勾配の消失及び爆発並びに、情報のモーフィング、すなわち過去の情報が過度に急速に失われるような方法で内部隠れた状態が常に変化すること）を有する。１９９７年に、バニラＲＮＮのこれらの問題を克服するために、長・短期記憶（Long Short-Term Memory、ＬＳＴＭ）ユニットの使用が提案された（Ｓ．Ｈｏｃｈｒｅｔｏｒ，Ｊ．Ｓｃｈｍｉｄｈｕｂｅｒ：Ｌｏｎｇ  Ｓｈｏｒｔ−Ｔｅｒｍ  Ｍｅｍｏｒｙ，ＮｅｕｒｏＣｏｍｐｕｔａｔｉｏｎ  ９（８）：１７３５−１７８０，１９９７）。基本的なＬＳＴＭユニット５０Ｂを図７Ａに示す。図６Ａ及び図６Ｂを参照して説明した基本的なＲＮＮユニットとは対照的に、ＬＳＴＭユニット５０Ｂは、隠れた状態ｈ及びセル状態ｃを有する。図７Ａに示すＬＳＴＭユニット５０Ｂは、時点ｔに関連する。したがって、ＬＳＴＭユニット５０Ｂは、前の時点からセル状態ｃｔ−１及び隠れた状態ｈｔ−１を受信し、現在時点ｔに関するセル状態ｃｔ及び隠れた状態ｈｔを出力する。隠れた状態出力ｈｔは、以下で更に積層型ＲＮＮに関して説明するように、出力層又は別の隠れ層に順伝播され得るＬＳＴＭユニットの出力としても使用される。バニラＲＮＮの問題を解決するために、ＬＳＴＭユニット５０Ｂは、忘却ゲート５１Ｂ、入力ゲート５２Ｂ及び出力ゲート５３Ｂを備える。全てのゲート５１Ｂ、５２Ｂ、５３Ｂは、ｈｔ−１及びｘｔを含む連結されたベクトルを入力として受信する。この連結された入力ベクトルは、重み行列Ｗ及びＵによって完全に接続された層を通って各ゲートに入り、次に活性化関数によって活性化され、ここでσはシグモイド関数を表し、ｔａｎｈは双曲線正接関数を表す。以下の式を参照する。図７Ａでは
【００９２】
【数３７】
2021513420.tif 000039
は要素毎の加算を表し、
【００９３】
【数３８】
2021513420.tif 000040
はアダマール積（すなわち要素毎の乗算）を表す。忘却ゲートによって、セル状態のどの部分を忘却するのかが決定される。入力ゲートによって、セル状態に何を追加するのかが決定される。出力ゲートでは、セル状態を使用して、隠れた状態の出力を決定する。
【００９４】
この基本的なＬＳＴＭユニットに関する式は、以下のとおりである。
【００９５】
【数３９】
2021513420.tif 000041
式中、ｘｔは入力ベクトルであり、ｉｔは入力ゲート活性化ベクトルであり、ｏｔは出力ゲート活性化ベクトルであり、ｆｔは忘却ゲート活性化ベクトルであり、ｃｔはセル状態ベクトルであり、
【００９６】
【数４０】
2021513420.tif 000042
は候補状態ベクトルであり、ｈｔは、基本的なＬＳＴＭセルの出力でもある隠れた状態ベクトルである。ｃｔ−１及びｈｔ−１は、前の時点からの隠れた状態及びセル状態ベクトルである。Ｗｉ、Ｗｏ、Ｗｆ、及びＷｃは、各活性化関数の前に適用される隠れた状態重み行列であり、Ｕｉ、Ｕｏ、Ｕｆ、及びＵｃは、入力重み行列であり、ｂｉ、ｂｏ、ｂｆ、及びｂｃはバイアスベクトルである。σはシグモイド活性化関数を表す。本明細書では、用語「タプル」及び「ベクトル」は互換可能であることに留意されたい。
【００９７】
基本的なＬＳＴＭユニットの様々な修正（例えば、いわゆる覗き穴結合を有するＬＳＴＭユニットなど）が存在する。本明細書に示すＬＳＴＭユニットの説明は、非限定的な例としてみなされるものとする。
【００９８】
ＧＲＵユニット
別の種類のＲＮＮを、いわゆるゲート付き回帰型ユニット（Gated Recurrent Unit、ＧＲＵ）を使用して構築することができる。ＧＲＵは、ＬＳＴＭと類似しているが、これよりもある程度単純である。ＧＲＵは、２０１４年にＫ．Ｃｈｏらによって紹介された（「Ｌｅａｒｎｉｎｇ  Ｐｈｒａｓｅ  Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ  ｕｓｉｎｇ  ＲＮＮ  Ｅｎｃｏｄｅｒ−Ｄｅｃｏｄｉｎｇ  ｆｏｒ  Ｓｔａｔｉｓｔｉｃａｌ  Ｍａｃｈｉｎｅ  Ｔｒａｎｓｌａｔｉｏｎ」、２０１４年９月３日、ａｒＸｉｖ：１４０６．１０７８ｖ３）。
【００９９】
ＧＲＵ  ５０Ｃのグラフィック表現を図７Ｂに示す。ＧＲＵ  ５０Ｃは、ＬＳＴＭユニットから分かるようなセル状態を含まないことが示されている。ＧＲＵ  ５０Ｃは、更新ゲート５１Ｃ、リセットゲート５２Ｃ及び出力ゲート５３Ｃを含む。
【０１００】
この基本的なＧＲＵ  ５０Ｃに関する式は、以下のとおりである。
【０１０１】
【数４１】
2021513420.tif 000043
式中、ｚｔは更新ゲート活性化ベクトルであり、ｒｔはリセットゲート活性化ベクトルであり、ｇｔは現在の記憶内容であり、ｈｔは現在の時間ステップにおける最終記憶である。ＬＳＴＭユニット５０ＢとＧＲＵユニット５０Ｃとの間には明らかな類似性が存在するが、ＧＲＵユニット５０Ｃは、計算的により単純である。ＧＲＵユニットベースのＲＮＮは、ＬＳＴＭユニットベースのＲＮＮと同様に高い予測精度を提供し、これをより高い計算速度で提供することが見出された。特に、スマートフォンなどの小型処理装置での実現のために、ＧＲＵユニットベースのＲＮＮを使用することができる。
【０１０２】
ＲＮＮのアーキテクチャ
ユニット５０Ａ、５０Ｂ又は５０Ｃなどの回帰型ユニットを、ＲＮＮの様々に異なるアーキテクチャで使用することができる。ＲＮＮの２つの具体的なアーキテクチャは、双方向性ＲＮＮ（bi-directional RNN、ＢＤＲＮＮ）及び積層型ＲＮＮ（stacked RNN、ＳＲＮＮ）である。双方向性ＲＮＮの概略図を図８Ａに示し、積層型ＲＮＮの概略図を図８Ｂに示す。完全を期すために、図８Ｃは、積層型双方向性ＲＮＮ（stacked bi-directional RNN、ＳＢＤＲＮＮ）の例示的な描写を示す。
【０１０３】
図８Ａに示すＢＤＲＮＮ  １Ｂは、ＲＮＮユニット５００Ｂ及び５０１Ｂの出力を左から右へ、及び右から左へと並列に計算する。ＢＤＲＮＮ  １Ｂは、入力層１０Ｂ、隠れ層２０Ｂ及び出力層３０Ｂを含む。隠れ層２０Ｂは、出力を左から右へ（又は時間的な言い回しでは過去から未来へ）計算する回帰型ユニット５００Ｂの第１の鎖２１Ｂと、出力が右から左へ（又は時間的な言い回しでは未来から過去へ）計算される回帰型ユニット５０１Ｂの第２の鎖２２Ｂとを含む。鎖２１Ｂ、２２Ｂはそれぞれ、それ自体の隠れた状態ベクトル、すなわち左から右への鎖２１Ｂの隠れた状態ベクトルｈ１、及び右から左への鎖２２Ｂの隠れた状態ベクトルｈ２を含む。所与の時間ｔに関連する回帰型ユニット５００Ｂ及び５０１Ｂの出力は、連結されるか又は要素毎に加算されてもよく、次いで、完全に接続された出力層３０Ｂによって各時点の出力ベクトルｙ上にマッピングされる。これにより、ＢＤＲＮＮは、入力シーケンス内のパターンを両方の時間方向で考慮することが可能になる。
【０１０４】
ＢＤＲＮＮによる評価対象の複数の時間のうちで時間的に最初の時間について、隠れた状態
【０１０５】
【数４２】
2021513420.tif 000044
（すなわち、順方向の隠れた状態）が任意に初期化されてもよく、例えば、
【０１０６】
【数４３】
2021513420.tif 000045
の各要素が０に設定されてもよい。同じことが、
【０１０７】
【数４４】
2021513420.tif 000046
（すなわち、逆方向の隠れた状態）に対して行われてもよい。時間的に次の評価対象の時間について、
【０１０８】
【数４５】
2021513420.tif 000047
は、前の評価から
【０１０９】
【数４６】
2021513420.tif 000048
に設定されてもよい。この場合、分析装置は、順方向に最後の隠れた状態を記憶して、これを次の使用データのシーケンスの評価のために次のＲＮＮユニットに入力するように構成されてもよい。
【０１１０】
【数４７】
2021513420.tif 000049
は、「未来」からの情報がない場合には常に同じ初期値を有するように設定されてもよい。順方向及び逆方向の隠れた状態を任意に初期化する代わりに、隠れた状態をＢＤＲＮＮの学習フェーズで最適化してもよく、例えば、初期の隠れた状態は、予測を最適化するために学習フェーズのＢＤＲＮＮによって使用されるパラメータとみなされてもよい。本明細書で順方向の隠れた状態に関して述べることは、当然のことながら全ての他のＲＮＮにも適用され、逆方向の隠れた状態に関して述べることは、以下に記載の積層型ＢＤＲＮＮにも適用される。
【０１１１】
図８Ｂは、時点ｔ毎に２つの回帰型ユニット５００Ｃ及び５０１Ｃを順伝播方向に含むＳＲＮＮ  １Ｂを示す。したがって、ＳＲＮＮ  １Ｂの隠れ部分２０Ｃは、順伝播方向に結合された第１の隠れ層２１Ｃ及び第２の隠れ層２２Ｃを有する。第１の隠れ層２１Ｃの回帰型ユニット５００Ｃから次の時点へと順伝播される隠れた状態ベクトル
【０１１２】
【数４８】
2021513420.tif 000050
は、第２の隠れ層２２Ｃの回帰型ユニット５０１Ｃへも入力ベクトルとして順伝播される。ＳＲＮＮ  １Ｃを、ディープニューラルネットワークとみなしてもよい。各ＬＳＴＭユニット又はＧＲＵにそれぞれ４つ又は３つの層があるために、単一の隠れ層ＬＳＴＭユニット又はＧＲＵをディープニューラルネットワークとみなすことができる場合には、積層型ＬＳＴＭ又は積層型ＧＲＵネットワークは更なる深さを追加する。
【０１１３】
図８Ｃは、図８Ａに示すＢＤＲＮＮの構造と図８Ｂに示すＳＲＮＮの構造とを組み合わせたＳＢＤＲＮＮ  １Ｄの概略図を示す。したがって、ＳＢＤＲＮＮ  １Ｄの隠れ部分２０Ｄは、２つの積み重ねられた隠れ層２１Ｄ及び２２Ｄを有する。隠れ層２１Ｄ、２２Ｄはそれぞれ、左から右への層２３Ｄ及び２５Ｄ、並びに右から左への層２４Ｄ及び２６Ｄをそれぞれ含む。このことは、第１の隠れ層２１Ｄの回帰型ユニット５００Ｄ及び５０１Ｄの出力が、第２の隠れ層２２Ｄの回帰型ユニット５０２Ｄ及び５０３Ｄのそれぞれに順伝播される（例えば、出力が連結され、次に各回帰型ユニット５０２Ｄ及び５０３Ｄに供給される）ことを可能にする。積層型双方向性ＬＳＴＭ又はＧＲＵは、本明細書で説明する分類タスクに優れた予測品質を提供することが見出された。このようなＬＳＴＭ又はＧＲＵネットワークの内部寸法は、約２５６を超える必要がないことも見出されており（ここで「寸法」は、隠れた状態ベクトルを指し、これは、隠れた状態が２５６タプルであることを意味する）、これにより、スマートフォン又はタブレットコンピュータなどに実装し、特に、約２５サンプルのシーケンス長と組み合わせた場合のＡＮＮのライブ予測結果が得られると同時に、十分な予測品質を提供することができる。これは限定的なものと解釈されるべきではなく、例えば１２８〜５１２（又は概ねこれらの値の数）の範囲内の隠れた状態ベクトル寸法及び、例えば１０〜５０（又は概ねこれらの値）の範囲内のシーケンス長も企図される。
【０１１４】
ＡＮＮの出力及び出力の連続的な演算
本明細書で説明する様々な例示的なＲＮＮ  １Ａ、１Ｂ、１Ｃ、及び１Ｄでは、出力ベクトル又はタプルｙｔが時点毎に生成される。これは限定的であると解釈されるべきではない。ただし、この章の説明では、入力シーケンスｘ＝（ｘ１，ｘ２，．．．，ｘｎ）毎に少なくとも２つの出力がＲＮＮによって供給されるものとする。簡略化のために、ＲＮＮの出力配列ｙ＝（ｙ１、ｙ２，．．．，ｙｎ）は、ここでは入力シーケンスと同じ長さを有するとみなされる。更に、理論に束縛されるものではないが、ＡＮＮは、各出力タプルｙｉにソフトマックス関数を適用することができる。ソフトマックス関数は、出力ベクトルｙｉの要素の合計が１になり、［０、１］の範囲内に圧縮されるように、出力ｙｉの要素を正規化する。しかし、これは任意のステップとみなされる。
【０１１５】
入力シーケンスの各入力ベクトルｘｉは、例えば６つの慣性センサデータ値が使用される場合にはｋ＝６、あるいは更なる力センサ値又は別のセンサ値が使用される場合にはｋ＝７などの寸法ｋを有するタプルであってもよい。各出力ベクトルｙｉは、例えばｍ＝２０などの寸法ｍを有するタプルであってもよい。既に説明したように、出力ｙｉの要素、すなわち、ｙｉ＝（ｙｉ（１）、ｙｉ（２）、．．．，ｙｉ（ｍ））は、ＡＮＮによって使用される使用クラスのセットの異なる使用クラスに関連している。手持ち式消費者装置の場合、所与の時点における出力ベクトルｙｉの各要素は、入力が、この要素が割り当てられる使用クラスに属するという予測に関連している。入力ベクトルｘｉが動作データのみを含み、消費者装置が電動歯ブラシである例では、使用クラスは、したがって、様々な動作タイプであってもよく、例えば、第１の使用クラスは低速でのブラッシング動作に関連してもよく、第２の使用クラスは高速でのブラッシング動作に関連してもよい。本開示の主なタスク、すなわち、消費者装置の位置の判定（すなわち、十分に高い確率での予測）では、出力ベクトルｙｉの各要素は、したがって、標的表面の１つ又は複数のゾーンにおける消費者装置の使用に特有の動作に関連してもよい。例えば、出力ｙｉの第１の要素、すなわちｙｉ（１）は、左上大臼歯の頬側面に特有の動作に関連してもよく、第２の要素ｙｉ（２）は、左上大臼歯の咬合面に特有の動作に関連してもよい。消費者への伝達に関連するゾーンが「左上大臼歯」である場合、出力の第１及び第２の要素がこのゾーンに関連付けられる。更に、出力の第３及び第４の要素が、双方ともに「左下大臼歯」ゾーンに関連する左下大臼歯の頬側面及び咬合面に特有の動作に関連し、第５の要素が、上下の大臼歯の頬側面を一緒にブラッシングすること（顎を閉じたままにしておくと、消費者はこれらの頬側面を一度にブラッシングすることができる）に特有の動作に関連すると仮定する。この場合、出力の第５の要素は、「左上大臼歯」ゾーン及び「左下大臼歯」ゾーンに関連付けられる。この例は、出力ベクトルｙｉのいくつかの要素が標的空間の１つの部分に関連付けられてもよく、また出力ベクトルｙｉの１つの所与の要素が標的表面の２つ以上の部分に関連付けられてもよいことを示す。この例は、標的空間の特定の部分に特有の動作に関するものであるが、同じことがＡＮＮの使用クラスと出力ベクトルとの間の他の全ての関連にも当てはまることが理解されよう。この例は、ＡＮＮのクラスと標的空間の部分との間の比較的複雑な関連マトリックスを示しているが、ＡＮＮの使用クラスと標的空間の部分との間の単純な一対一対応関係（すなわち、全単射関係）も本開示の要旨及び範囲に含まれることを理解されたい。この後者の場合には、使用クラス及び標的空間の部分の間の区分は、当然のことながら、学術の範囲に属するものである。
【０１１６】
システムは、具体的には、所定の数の出力タプル毎にのみ単一の使用クラスの回答を供給するように構成されてもよく、例えば、システムは、入力シーケンス毎にのみ単一の使用クラスの回答を供給してもよい。単一の使用クラスの回答を供給するために、各出力タプルにａｒｇｍａｘ関数を適用して、最も高い値を有するタプル要素の数が選択されるようにしてもよい。ａｒｇｍａｘ関数を適用することによって、最も高い値を有するが閾値を下回る要素が選択されないように閾値を適用してもよい。ソフトマックス関数が適用された出力タプルについては、閾値は、０．５〜０．９９の範囲内、具体的には０．６〜０．９の範囲内、更に具体的には０．６５〜０．８の範囲内となるように選択されてもよく、例えば、閾値は０．７に設定される。ａｒｇｍａｘ関数を使用して、単一の時点に対して１つの使用クラスを選択した後に、最大基準又は過半数基準を使用して、入力シーケンス全体についての単一の使用クラスの回答として１つの使用クラスを選択してもよい。
【０１１７】
１つのＡＮＮが２つの連続するタスクに使用されるシステム
ＡＮＮを使用して、消費者装置の使用を使用データに基づいて分類できることを説明してきた。分類は、具体的には、ライブで、すなわち使用セッション中に行うことができる。
【０１１８】
場合によっては、現在のユーザを識別し、例えば、ユーザが後で自身のデータにアクセスできるように、分類の結果及びその他の現在の使用セッションからのデータをユーザのアカウント内に記憶することが望ましい。ユーザ識別は、消費者装置の異なるユーザからの記憶された使用データとの比較のために、現在の使用セッションに関するシステムの分類出力の時間的シーケンスの少なくとも一部分を使用して行われてもよい。例えば、分類出力の現在の少なくとも一部分と分類出力の記憶された各部分（例えば使用の最初の１０秒）との類似性チェック（例えば距離計算）を適用することによって、ユーザを識別してもよい。これは、ＡＮＮがユーザに伝達される分類出力を生成するのと同時に、システムも、同じ分類出力を使用してユーザを識別可能であることを意味する。使用データを使用してユーザを識別する代わりに、使用セッションの少なくとも一部の間に供給された単一の使用クラスの回答を分析することによって、個々のユーザを特定してもよい。各ユーザが、識別可能な自分自身の「フィンガープリント」を有してもよい。
【０１１９】
２つ以上のＡＮＮを有するシステム
いくつかの実施形態では、本明細書に記載のシステムは、２つの異なるＡＮＮを備えてもよい。２つのＡＮＮは、それらが２つの異なるアーキテクチャ又は重みとバイアスとの２つの異なるセットのいずれかを有する場合には、異なるものとする。いかなる限定をも課すものではないが、後者の場合について、それぞれのシステムを例示するために説明する。
【０１２０】
上述のように、消費者装置のユーザは世界レベルで様々に異なる使用特性を示し、これらの特性はグループ化することができる。単純な例では、消費者装置のユーザは、高速ユーザと低速ユーザとにグループ化されてもよく、ここで高速及び低速は、消費者装置の動かされ方に関連してもよい。例えば、電動歯ブラシの場合、低速ユーザは、歯が十分にブラッシングされるまで一定時間にわたって一本の歯を磨き続けてから近隣の歯に移動しでもよい。対照的に、高速ユーザは、高い頻度で歯から歯へと飛躍してもよい。上述のＡＮＮは、典型的には、両方のタイプのユーザからのラベル付けされた入力で訓練される。したがって、予測は、両方のユーザグループを対象としたものとなる。しかしながら、高速ユーザからの使用データは高速ユーザからの使用データのみで訓練されたＡＮＮに供給され、低速ユーザからの使用データは低速ユーザからの使用データのみで訓練されたＡＮＮに供給される場合に、ＡＮＮがより高い予測確率を提供できることが企図されてもよい。したがって、ユーザの使用データが最初に分類ユニット（ＡＮＮベースであってもよいが、統計分類アルゴリズム又は任意の他の機械学習ベースの分類アルゴリズムも使用することができる）に供給され、この分類ユニットによって、ユーザが高速ユーザであるか又は低速ユーザであるかが分類される、すなわち、標的空間が、高速ユーザに関連する部分及び低速ユーザに関連する部分の２つの部分を含むシステムが企図される。換言すれば、分類ユニット（例えば、第１のＡＮＮ）は、使用データを２つの使用クラス、すなわち、高速ユーザ及び低速ユーザに関して分類する。ユーザタイプが特定されると（これに要する時間が数秒のみであってもよく、したがって、使用セッションの開始時にのみ行われてもよい）、使用データは、各ユーザタイプに固有の重み及びバイアスを有する第２のＡＮＮに供給される（すなわち、第２のＡＮＮは、少なくとも２つの特定のＡＮＮを含む群から選択される）。このようなシナリオは、例えば、中速ユーザ、すなわち、特に低速でも特に高速でもないユーザであり得る第３のユーザグループを追加することによって、容易に拡張できる。第１の分類ユニット（例えば第１のＡＮＮ）がユーザグループのそれぞれの分類を行った後に、第２のＡＮＮが、それぞれが同じアーキテクチャを有してもよいが、学習入力が異なるために異なる重み及びバイアスを有する３つのＡＮＮの群から選択されてもよい。別の方法として、２つ以上のＡＮＮに使用データが並列に入力されてもよく、各ＡＮＮは、例えば１つの特定のユーザグループについて特に訓練されており、その後、適切なＡＮＮの選択は、例えばサンプリング時間又は完全な使用セッションの間、あるいは「フィンガープリント」分析（以前の章を参照されたい）を行った後に、最も高い予測値を提供するＡＮＮを選択することによって行われてもよい。
【０１２１】
他の例では、システムに２つの異なるＡＮＮが使用されている。電動歯ブラシの領域の例を再び使用すると、第１のＡＮＮは、受信した使用データを、上顎又は下顎のブラッシングに関連する動作に関して分類するために使用され、第２のＡＮＮは、全く同じ使用データを、左大臼歯、右大臼歯又は前歯のブラッシングに関連する動作に関して分類するために使用されてもよい。左上大臼歯、右上大臼歯、右下大臼歯、右下大臼歯及び下前歯のブラッシングに関連する動作に関して動作を分類する単一のＡＮＮを使用することとは対照的に、２つのＡＮＮの出力の組み合わせにより、より高い予測確率で標的空間の一部分を特定することができる。
【０１２２】
先の例に基づいて構築された他の例では、消費者装置の使用の個々の局面をそれぞれが分類する３つのＡＮＮが使用される（この場合の個々の局面とは、異なるＡＮＮが、消費者装置の使用を異なる使用クラスセットに関して分類することを意味する）。一例として、第１のＡＮＮは、使用データを上顎及び下顎に対して分類し、第２のＡＮＮは、使用データを左大臼歯、右臼歯及び前歯に関して分類し、第３のＡＮＮは、使用データを大臼歯の頬側面、舌側面及び咬合面並びに前歯の前面及び後面に関して分類する。前述のように、ＮＮ当たりの動作クラスの数が限られているために、各ＡＮＮの予測品質が高くなる可能性があり、これはすなわち、３つのＡＮＮの結果の組み合わせ（例えば、現在のブラッシング動作は、（１）上顎、（２）左大臼歯、及び（３）咬合面として分類されている）が、この区分レベルを達成可能な単一のＡＮＮによる分類よりも正確となる可能性があることを意味している。
【０１２３】
同じタスクに異なるＡＮＮが使用されるシステム
いくつかの実施形態では、２つ以上の異なるＡＮＮが、入力を同じ使用クラスセットに関して分類するために使用される。同じタスクを有する異なるＡＮＮの結果を処理する選択肢は複数あるが、いくつかの例では、最も高い予測値を有する要素が特定される前に、出力タプルの要素を（例えばａｒｇｍａｘ関数を適用して）合計又は平均化することによって、異なるＡＮＮからの出力を組み合わせてもよい。前述のように、このプロセスでは、特定の閾値を下回る最終予測値を破棄することができるように、閾値を定義してもよい。また、２つの異なるＡＮＮの場合には、特定の閾値を上回る特定の予測値をそれぞれが有する２つの異なる使用クラスをこれら２つのＡＮＮが供給する場合に、結果が（例えばユーザに伝達されないなど）破棄されてもよい。
【０１２４】
ＴｅｎｓｏｒＦｌｏｗ、Ｍｉｃｒｏｓｏｆｔ  Ｃｏｇｎｉｔｉｖｅ  Ｔｏｏｌｋｉｔ、ＰｙＴｏｒｃｈ、Ｃａｆｆｅ又はＴｈｅａｎｏなどの深層学習フレームワークを使用して、ＬＳＴＭ又はＧＲＵ  ＲＮＮのようなＲＮＮを構築してもよい。Ｋｅｒａｓなどのオープンソースライブラリを、これらのようなフレームワーク上で実行するため、すなわち、これらのフレームワークにインターフェースを提供するために使用してもよい。ＴｅｎｓｏｒｆｌｏｗＬｉｔｅ、ＣｏｒｅＭＬ、ＴｅｎｓｏｒＲＴ又はカスタマイズされたライブラリを使用して、スマートフォン、その他のエッジコンピューティングデバイス、又はクラウドコンピューティングデバイス上で深層モデルを作成してもよい。
【０１２５】
本開示は、特定の構造（例えば、ＬＳＴＭ及びＧＲＵ）のＲＮＮに焦点を当てているが、これは限定的であると解釈されることを意味するものではなく、特に他のＲＮＮアーキテクチャ、例えば、Ｃｌｏｃｋｗｏｒｋ  ＲＮＮ及びその他のｐｈａｓｅｄ  ＬＳＴＭ又は階層的ＲＮＮなどのｍｕｌｔｉ−ｔｉｍｅｓｃａｌｅ  ＲＮＮ、又は別の一例としてｄｉｌａｔｅｄ  ＲＮＮを使用してもよいことに留意されたい。
【０１２６】
本明細書にて開示された寸法及び値は、列挙された正確な数値に厳密に限定されるものとして理解されるべきではない。その代わりに、特に指示がない限り、このような寸法はそれぞれ、列挙された値とその値を囲む機能的に同等な範囲との両方を意味することが意図されている。例えば、「４０ｍｍ」と開示された寸法は、「約４０ｍｍ」を意味することが意図される。
【図１】
2021513420.tif 000051
【図２】
2021513420.tif 000052
【図３】
2021513420.tif 000053
【図４】
2021513420.tif 000054
【図５】
2021513420.tif 000055
【図６Ａ】
2021513420.tif 000056
【図６Ｂ】
2021513420.tif 000057
【図７Ａ】
2021513420.tif 000058
【図７Ｂ】
2021513420.tif 000059
【図８Ａ】
2021513420.tif 000060
【図８Ｂ】
2021513420.tif 000061
【図８Ｃ】
2021513420.tif 000062
【国際調査報告】
2021513420.tif 000063
2021513420.tif 000064
2021513420.tif 000065
2021513420.tif 000066