(57)【要約】  第１のタイプのデータのインスタンスの履歴の長さを決定するためのデバイス１００及び方法が提供される。本デバイスは、第２のデータセットユニット１０４と、第１のデータセットユニット１０２と、第１の条件付きエントロピーユニット１０６と、しきい値ユニット１０８と、長さ決定ユニット１１４とを備える。第１のデータセットユニット、第２のデータセットユニット及びしきい値ユニットは入力データを取得する。第１の条件付きエントロピーユニットは、第１のデータセットを所与とした第２のデータセットのための第１の条件付きエントロピーを決定する。決定ユニットは、低減された第１のセットのデータを所与とした、第２のセットのデータのための第２の条件付きエントロピーが第１の条件付きエントロピーからの最大エントロピー増加しきい値内にあるための、低減された第１のセットのデータのシーケンスのための最も小さい長さを決定することによって、関連履歴の長さを探索する。
2019508775.tif 000002
【特許請求の範囲】
【請求項１】
第１のタイプのデータのインスタンスを含むデータセットを低減するために前記第１のタイプのデータのインスタンスの履歴の長さを決定するためのデバイスであって、前記第１のタイプのデータの前記インスタンスが、第２のタイプのデータの少なくとも１つのインスタンスを予測するための情報を含み、前記デバイスは、
前記第２のタイプのデータのインスタンスを含む第２のセットのデータを取得するための第２のデータセットユニットであって、前記第２のタイプのデータのインスタンスが、物理エンティティの特性に基づいているデータを含む、第２のデータセットユニットと、
前記第１のタイプのデータのインスタンスのシーケンスを含む第１のセットのデータを取得するための第１のデータセットユニットであって、各シーケンスが、前記第２のセットの対応する要素のための、前記第１のタイプのデータのインスタンスの履歴を提供し、各シーケンスが、前記第２のセットの前記対応する要素が決定される時間的瞬間に先行するインスタンスを含み、前記第１のタイプのデータの前記インスタンスが、前記シーケンス中で時間に従って順序付けされ、前記第１のタイプのデータのインスタンスが、測定されたセンサーデータに基づいているデータを含む、第１のデータセットユニットと、
前記第１のセットのデータを所与とした前記第２のセットのデータのための第１の条件付きエントロピーを取得するための第１の条件付きエントロピーユニットと、
前記第１のセットのデータ中の前記シーケンスの長さが低減されたときに前記第１の条件付きエントロピーがファクタ分だけ増加する当該ファクタを示す最大エントロピー増加しきい値を取得するためのしきい値ユニットと、
前記低減された第１のセットのデータのシーケンスのための最も小さい長さを決定することによって、関連履歴の長さを決定するための長さ決定ユニットであって、前記低減された第１のセットのデータを所与とした第２のセットのデータのための第２の条件付きエントロピーが前記第１の条件付きエントロピーからの前記最大エントロピー増加しきい値内にあり、前記低減された第１のセットのデータが、前記最も小さい長さのシーケンスを含み、前記低減されたセットのデータの前記シーケンスが、前記第１のセットのデータ中のそれらの対応するシーケンスの前記第１のタイプのデータの最も最近のインスタンスを含む、長さ決定ユニットと、
前記シーケンスのための前記最も小さい長さを、前記関連履歴の長さとして、前記第１のタイプのデータのために記憶される履歴の量を低減するためのデータ低減装置に提供するための出力ユニットと
を備える、デバイス。
【請求項２】
第１のタイプのデータのインスタンスの履歴の長さを決定するための請求項１に記載のデバイスと、
前記第１のセットのデータに基づいており、前記第１のタイプのデータのインスタンスのシーケンスを含む、低減されたセットのデータを取得するためのデータ低減ユニットであって、前記低減されたセットの前記シーケンスの長さが、第１のタイプのデータのインスタンスの履歴の長さを決定するための前記デバイスによって提供された決定された前記長さに基づく、データ低減ユニットと
を備える、データ低減システム。
【請求項３】
第１のタイプのデータのインスタンスを含むデータセットを低減するために前記第１のタイプのデータのインスタンスの履歴の長さを決定するためのコンピュータ実装方法であって、前記第１のタイプのデータの前記インスタンスが、第２のタイプのデータのインスタンスを予測するための情報を含み、前記コンピュータ実装方法は、
前記第２のタイプのデータのインスタンスを含む第２のセットのデータを取得するステップであって、前記第２のタイプのデータのインスタンスが、物理エンティティの特性に基づいているデータを含む、取得するステップと、
前記第１のタイプのデータのインスタンスのシーケンスを含む第１のセットのデータを取得するステップであって、各シーケンスが、前記第２のセットの対応する要素のための、前記第１のタイプのデータのインスタンスの履歴を提供し、各シーケンスが、前記第２のセットの前記対応する要素が決定される時間的瞬間に先行するインスタンスを含み、前記第１のタイプのデータの前記インスタンスが、前記シーケンス中で時間に従って順序付けされ、前記第１のタイプのデータのインスタンスが、測定されたセンサーデータに基づいているデータを含む、取得するステップと、
前記第１のセットのデータを所与とした前記第２のセットのデータのための第１の条件付きエントロピーを取得するステップと、
前記第１のセットのデータ中のシーケンスの長さが低減されたときに前記第１の条件付きエントロピーがファクタだけ増加する当該ファクタを示す最大エントロピー増加しきい値を取得するステップと、
前記低減された第１のセットのデータのシーケンスのための最も小さい長さを決定することによって、関連履歴の長さを決定するステップであって、低減された第１のセットのデータを所与とした前記第２のセットのデータのための第２の条件付きエントロピーが前記第１の条件付きエントロピーからの前記最大エントロピー増加しきい値内にあり、前記低減された第１のセットのデータが、前記最も小さい長さのシーケンスを含み、前記低減されたセットのデータの前記シーケンスが、前記第１のセットのデータ中のそれらの対応するシーケンスの前記第１のタイプのデータの最も最近のインスタンスを含む、決定するステップと、
前記シーケンスのための前記最も小さい長さを、前記関連履歴の前記長さとして、前記第１のタイプのデータのために記憶される履歴の量を低減するためのデータ低減装置に提供するステップと
を有する、コンピュータ実装方法。
【請求項４】
前記関連履歴の前記長さを決定するステップは、
前記第１のセットのデータからの一時的に低減された第１のセットのデータを取得するステップであって、前記一時的に低減された第１のセットにおいて、各シーケンスについて、前記第１のセットのデータの前記シーケンスと比較して最も古いインスタンスが除去された、取得するステップと、
前記一時的に低減された第１のセットを所与とした前記第２のセットのデータのための前記第２の条件付きエントロピーを取得するステップと、
前記第２の条件付きエントロピーが前記第１の条件付きエントロピーからの前記最大エントロピー増加しきい値内にあるかどうかを決定するために、前記第２の条件付きエントロピーを前記第１の条件付きエントロピーと比較するステップとを含み、
ａ）前記第２の条件付きエントロピーが前記第１の条件付きエントロピーからの前記最大エントロピー増加しきい値内にある場合、前記一時的に低減された第１のセットのデータの前記シーケンスから前記最も古いインスタンスを除去し、前記第２の条件付きエントロピーを取得するステップと、前記第２の条件付きエントロピーを前記第１の条件付きエントロピーと比較するステップとがもう一度実行されるか、又は
ｂ）前記第２の条件付きエントロピーが前記第１の条件付きエントロピーからの前記最大エントロピー増加しきい値内にない場合、前記関連履歴の決定された前記長さが、前記一時的に低減された第１のセットのデータのシーケンスの長さ＋１である、
関連履歴の長さを決定するための請求項３に記載のコンピュータ実装方法。
【請求項５】
前記第１の条件付きエントロピーを取得するステップが、
第１のコンテキストツリーを取得するために、前記第２のセットと前記第１のセットとにコンテキストツリー重み付け方法を適用するステップと、
前記第１の条件付きエントロピーの推定値を計算するために、第１のコンテキストツリーのルートの重み付けされた確率を使用するステップと
によって、前記第１の条件付きエントロピーを推定するステップを含み、
前記コンテキストツリー重み付け方法において、前記第１のセットの各一意のシーケンスが、前記第１のコンテキストツリー中の経路によって表され、第１のコンテキストツリーのノードに記憶されたカウントが、前記第２のセットの前記対応する要素に基づく、
関連履歴の長さを決定するための請求項３又は４に記載のコンピュータ実装方法。
【請求項６】
前記第２の条件付きエントロピーを取得するステップが、
第２のコンテキストツリーを取得するために、前記第２のセットと前記低減された第１のセット又は前記一時的に低減された第１のセットとに前記コンテキストツリー重み付け方法を適用するステップと、
推定された前記第２の条件付きエントロピーを計算するために、第２のコンテキストツリーのルートの重み付けされた確率を使用するステップと
によって前記第２の条件付きエントロピーを推定するステップを含み、
前記コンテキストツリー重み付け方法において、前記低減された第１のセット又は前記一時的に低減された第１のセットの各一意のシーケンスが、前記第２のコンテキストツリー中の経路によって表され、第２のコンテキストツリーのノードに記憶されたカウントが、前記第２のデータセットの前記対応する要素に基づく、関連履歴の長さを決定するための請求項３乃至５のいずれか一項に記載のコンピュータ実装方法。
【請求項７】
前記第２のセットと前記低減された第１のセット又は前記一時的に低減された第１のセットとに前記コンテキストツリー重み付け方法を完全に適用する代わりに、前記第２のコンテキストツリーが、前記ルートから見て、前記低減された第１のセット又は前記一時的に低減された第１のセットのシーケンスの長さよりも大きい深度を有するリーフとノードとを前記第１のコンテキストツリーから除去することによって取得される、関連履歴の長さを決定するための請求項５及び６に記載のコンピュータ実装方法。
【請求項８】
前記第１のタイプのデータの前記インスタンスが離散値である、関連履歴の長さを決定するための請求項３乃至７のいずれか一項に記載のコンピュータ実装方法。
【請求項９】
前記第１のタイプのデータの前記インスタンスの前記離散値を取得するために連続データのインスタンスを量子化するステップをさらに有し、前記量子化するステップは、前記第２のタイプのデータと前記第１のタイプのデータとの間の相互情報量の損失が最大情報損失しきい値内であるように実行される、関連履歴の長さを決定するための請求項８に記載のコンピュータ実装方法。
【請求項１０】
データセットを低減する方法であって、前記方法は、
関連履歴の長さを決定するための請求項３乃至９のいずれか一項に記載のコンピュータ実装方法と、
前記第１のセットのデータの各シーケンスが、前記関連履歴の決定された前記長さを有するまで、前記第１のタイプのデータの最も古いインスタンスを前記シーケンス中で削除することによって、前記第１のデータセットを低減するステップと
を有する、方法。
【請求項１１】
第１のタイプのデータのインスタンスの履歴に基づいて第２のタイプのデータのインスタンスを予測する方法であって、前記方法は、
請求項１０に記載のデータセットを低減する方法と、
前記第１のタイプのデータのインスタンスの最近の履歴を受信するステップと、
前記第２のタイプのデータのインスタンスを予測するために、又は予測モデルをトレーニングするために、前記低減された第１のセットのデータと前記第２のセットのデータとを使用するステップと
を有する、方法。
【請求項１２】
第１のタイプのデータのインスタンスの関連履歴の長さを決定するためのコンピュータプログラムであって、前記コンピュータプログラムが、プロセッサに、請求項３乃至９のいずれか一項に記載のコンピュータ実装方法又は請求項１０若しくは１１に記載の方法を実行させるように動作可能である、コンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、第１のタイプのデータのインスタンスの関連履歴の長さを決定するためのデバイスに関する。
【０００２】
本発明は、さらに、第１のタイプのデータのインスタンスの関連履歴の長さを決定する方法に関する。
【０００３】
本発明はまた、データセットを低減する方法、第１のタイプのデータのインスタンスの履歴に基づいて第２のタイプのデータのインスタンスを予測する方法、及び第１のタイプのデータのインスタンスの関連履歴の長さを決定するためのコンピュータプログラム製品に関する。
【背景技術】
【０００４】
機械学習技術では、機械がデータの最近のセットに基づいてイベントを予測することを可能にするため、履歴データが機械をトレーニングするためにしばしば使用される。多くの場合、機械をできるだけ十分にトレーニングするために、極めて長いデータ履歴が使用される。しかしながら、そのような長い履歴を使用するには、極めて多くのデータストレージ及び処理能力が必要である。また、トレーニングが新しいデータに基づかなければならない当該新しいデータが到着したとき、新しいデータを含むすべての履歴データがもう一度処理されなければならない。また、いくつかの他の予測技術は、決定されたイベント及び測定された値のデータ履歴を直接使用する。その場合、しばしば、利用可能な記憶された全データ履歴が使用され、予測がデータの最近のセットに基づいて行われなければならないとき、データ履歴を用いて最近のデータ間の類似性を見つけるために、全データ履歴が処理され、これは、極めて多くの処理能力を必要とする。記憶されるべき履歴データの量を低減する必要がある。
【０００５】
しばしば、専門家は、予測されるべきデータと測定された（センサー）データとの間の関係に関する彼らの見解を得るための相談を受ける。イベントを予測するために使用されているデータは、複数のセンサーから取得されたデータであることがあり得る。旧来の手法では、すべての異なるセンサーのデータのために単一の履歴長さを決定する。しかしながら、特定のセンサーの履歴の長さは、これらの特定のセンサーの比較的短い履歴のみが、予測されることになるイベントに関するたいていの情報を含むので、より多く低減されることがあり得る。したがって、予測技術において使用されるべき履歴の長さを低減する旧来の手法は、あまりに多くのデータを記憶することになるか、又はあまりに多くのデータが捨てられるので不正確な予測を生じるかのいずれかである。
【０００６】
上記で、予測技術は「イベント」を予測するのに好適であることを述べた。「イベント」という用語は概括的に読まれなければならないことに留意されたい。「イベント」は、物理エンティティの特性、例えば、「機械の構成要素が壊れそうであるか否か」、又は「工場のエネルギー消費があまりに高くなりそうであるか否か」を表す。これらの例は、「ある事が真であるか否か」というバイナリ予測に関係する。しかしながら、上記で説明した予測技術は、バイナリ特性に限定されず、より高い基本数体系における値を有する特性のための特性、例えば、「この都市のエネルギー消費が、低くなりそうであるか、中程度になりそうであるか、高くなりそうであるか」をも予測する。上記で説明した予測技術は、履歴データに基づいてスカラー値が取得される回帰使用事例にも適用される。この解釈は、本明細書の全てに適用される。
【発明の概要】
【発明が解決しようとする課題】
【０００７】
本発明の目的は、第２のタイプのデータのインスタンスが、第１のタイプのデータの（より最近の）インスタンスに基づいて予測されなければならないときに、保持又は使用されなければならない第１のタイプのデータのインスタンスの関連履歴の長さを決定することが可能なシステム及び方法を提供することである。関連という用語は、このコンテキストでは、第２のタイプのデータのインスタンスの信頼できる予測が、第１のタイプのデータの（より最近の）インスタンスに基づいて、及び第１のタイプのデータのインスタンスに関する履歴情報をもつ限られた長さのシーケンスを含む履歴データに基づいて可能であることを意味する。
【課題を解決するための手段】
【０００８】
この目的で、本発明の一態様によれば、第１のタイプのデータのインスタンスの関連履歴の長さを決定するためのデバイスが提供される。
【０００９】
この目的で、本発明の別の態様によれば、第１のタイプのデータのインスタンスの関連履歴の長さを決定する方法が提供される。
【００１０】
この目的で、本発明のさらなる態様によれば、データセットを低減する方法、第１のタイプのデータのインスタンスの履歴に基づいて第２のタイプのデータのインスタンスを予測する方法、及びコンピュータプログラム製品が提供される。
【００１１】
提供されるデバイスは、第１のタイプのデータのインスタンスを含むデータセットを低減するために第１のタイプのデータのインスタンスの履歴の長さを決定するために構成される。第１のタイプのデータのインスタンスは、第２のタイプのデータの少なくとも１つのインスタンスを予測するための情報を含む。本デバイスは、第２のデータセットユニットと、第１のデータセットユニットと、第１の条件付きエントロピーユニットと、しきい値ユニットと、長さ決定ユニットと、出力ユニットとを備える。第２のデータセットユニットは、第２のタイプのデータのインスタンスを含む第２のセットのデータを取得する。第２のタイプのデータのインスタンスは、物理エンティティの特性に基づくデータを含む。第１のデータセットユニットは、第１のタイプのデータのインスタンスのシーケンスを含む第１のセットのデータを取得する。各シーケンスは、第２のセットの対応する要素のための、第１のタイプのデータのインスタンスの履歴を提供する。各シーケンスは、第２のセットの対応する要素が決定される時間的瞬間に先行するインスタンスを含む。第１のタイプのデータのインスタンスは、シーケンス中で時間に従って順序付けされる。第１のタイプのデータのインスタンスは、測定されたセンサーデータに基づくデータを含む。第１の条件付きエントロピーユニットは、第１のセットのデータを所与とした第２のセットのデータのための第１の条件付きエントロピーを取得する。しきい値ユニットは、第１のセットのデータ中のシーケンスの長さが低減されたときに第１の条件付きエントロピーがファクタだけ増加する当該ファクタを示す最大エントロピー増加しきい値を取得する。長さ決定ユニットは、低減された第１のセットのデータを所与とした第２のセットのデータのための第２の条件付きエントロピーが第１の条件付きエントロピーからの最大エントロピー増加しきい値内にあるための、低減された第１のセットのデータのシーケンスのための最も小さい長さを決定することによって、関連履歴の長さを決定する。低減された第１のセットのデータは、最も小さい長さのシーケンスを含み、データの低減されたセットのシーケンスは、第１のセットのデータ中のそれらの対応するシーケンスの第１のタイプのデータの最も最近のインスタンスを含む。出力ユニットは、シーケンスのための最も小さい長さを、関連履歴の長さとして、例えば、第１のタイプのデータのために記憶される履歴の量を低減するためのデータ低減装置に提供する。
【００１２】
コンピュータ実装方法であり得る、提供される方法は、第１のタイプのデータのインスタンスを含むデータセットを低減するために第１のタイプのデータのインスタンスの履歴の長さを決定する。第１のタイプのデータのインスタンスは、第２のタイプのデータのインスタンスを予測するための情報を含む。本方法は、ｉ）第２のタイプのデータのインスタンスを含む第２のセットのデータを取得するステップであって、第２のタイプのデータのインスタンスが、物理エンティティの特性に基づいているデータを含む、取得するステップと、ｉｉ）第１のタイプのデータのインスタンスのシーケンスを含む第１のセットのデータを取得するステップであって、各シーケンスが、第２のセットの対応する要素のための、第１のタイプのデータのインスタンスの履歴を提供し、各シーケンスが、第２のセットの対応する要素が決定される時間的瞬間に先行するインスタンスを含み、第１のタイプのデータのインスタンスが、シーケンス中で時間に従って順序付けされ、第１のタイプのデータのインスタンスが、測定されたセンサーデータに基づいているデータを含む、取得するステップと、ｉｉｉ）第１のセットのデータを所与とした第２のセットのデータのための第１の条件付きエントロピーを取得するステップと、ｉｖ）第１のセットのデータ中のシーケンスの長さが低減されたときに第１の条件付きエントロピーがファクタだけ増加する当該ファクタを示す最大エントロピー増加しきい値を取得するステップと、ｖ）低減された第１のセットのデータを所与とした第２のセットのデータのための第２の条件付きエントロピーが第１の条件付きエントロピーからの最大エントロピー増加しきい値内にあるための、低減された第１のセットのデータのシーケンスのための最も小さい長さを決定することによって、関連履歴の長さを決定するステップであって、低減された第１のセットのデータが、最も小さい長さのシーケンスを含み、データの低減されたセットのシーケンスが、第１のセットのデータ中のそれらの対応するシーケンスの第１のタイプのデータの最も最近のインスタンスを含む、決定するステップと、ｖｉ）シーケンスのための最も小さい長さを、関連履歴の長さとして、例えば、第１のタイプのデータのために記憶される履歴の量を低減するためのデータ低減装置に提供するステップとを有する。
【００１３】
本デバイス及び本方法の特徴及び方策の効果は、第２のタイプのデータのインスタンスを確実に予測するために、第１のセットのデータ中の十分な履歴情報を維持するために保持されなければならない、第１のタイプのデータのインスタンスのシーケンスの長さのための数を取得することである。
【００１４】
条件付きエントロピーは、第１のタイプのデータの（履歴）インスタンスのシーケンスを含むデータのセットの知識を所与とした第２のデータタイプの（現在及び将来の）インスタンスの残っている不確実性を定義する測度である。条件付きエントロピーが比較的低い場合、第１のタイプのデータの（履歴）インスタンスのシーケンスを含むデータのセットは、第２のタイプのデータの（現在及び将来の）インスタンスに関する多くの情報を含み、したがって、第１のタイプのデータのインスタンスの（より最近の）シーケンスが知られているとき、第２のタイプのデータのインスタンスを予測するために有用である。
【００１５】
情報理論の分野では、例えば、シーケンスｘ１．．ｘｎのインスタンスのうちの１つが除去された場合、シーケンスｘ１．．ｘｎを所与とした変数ｙのための条件付きエントロピーは増加するか又は等しいままであることが知られており、証明されている。上記で説明したデバイス及び方法のコンテキストでは、シーケンスｘ１．．ｘｎは、第１のタイプのデータのインスタンスの履歴として参照され得る。したがって、保持されるべき履歴データの量を低減することを望む場合、条件付きエントロピーが増加すること、及びより少ない履歴データを所与とした変数ｙに関する不確実性が増加することを許容しなければならない。上記で説明したデバイスを用いて、又は上記で説明した方法を適用することによって、条件付きエントロピーがあまり増加しないように、第１のタイプのデータのインスタンスをもつシーケンスがどの長さまで低減されるかを見つける。したがって、データ低減の要件は、不確実性の増加とのバランスがとられる。条件付きエントロピーがどのくらい増加するかは最大エントロピー増加ファクタによって定義されており、したがって、最大エントロピー増加ファクタは、データ低減と不確実性の増加との間のバランスを決定する。不確実性の大きい増加を許容することを希望しない場合、低い最大エントロピー増加しきい値ファクタが使用されなければならない。より多くのデータ低減を希望する場合、より高い最大エントロピー増加しきい値ファクタが使用されなければならない。定義された最大エントロピー増加しきい値を所与として、本デバイス又は本方法は、第１のデータタイプの（履歴）インスタンスをもつシーケンスインスタンスの長さがどの数まで低減されるかを見つける。
【００１６】
第１のタイプのデータのインスタンスは、測定されたセンサーデータに基づいている。これは、第１のタイプのデータが、特定のセンサーの測定値でもよいが、また、単一の値に組み合わせられ、「融合」される、２つの特定のセンサーによる測定された値の特定の組合せでもよいことを意味する。例えば、特定の物理エンティティの温度を検知するセンサーによって検知されたいくつかの温度測定値は、その特定の物理エンティティの温度を表す単一の温度値に平均化される。
【００１７】
関連履歴の決定された長さは、第１のタイプのデータと第２のタイプのデータとの１つの特定の組合せに関係することに留意されたい。例えば、第１のタイプのデータは、装置中で特定の機能を有する１つの特定のタイプのセンサーから取得されたデータである。第１のタイプのデータは、装置の他のセンサー、又は同じタイプであるが、装置中で異なる機能をもつセンサーに関係しない。第１のタイプのデータは、同じタイプの異なる装置中で特定の機能を有する特定のタイプのセンサーからのものでもあり得る。例えば、第１のタイプのデータは、装置中の特定のモーターの温度である。本例では、装置は、他の構成要素の温度を測定するより多くの温度センサーを有し得るが、これらの他のセンサーの測定された値は、データの異なるタイプのものである。これは、異なるセンサーの値が１つの特定の値に組み合わせられる状況にも適用され、その場合、第１のタイプのデータのインスタンスは、同じ機能を有する同じタイプのセンサーの同じ組合せに常に関係する。同じことが第２のタイプのデータに適用され、第２のタイプのデータは、物理エンティティの特定のタイプの特定の特性である。例えば、装置の構成要素が故障するか否か。本例では、他の構成要素の故障ステータスはデータの別のタイプである。第２のセットの１つのインスタンスは第１のセット中のシーケンスに対応し、これは、第２のセットのインスタンスが特定の機械において決定された時間的瞬間において、特定の機械の特定のセンサーが、その時間的瞬間に先行する時間間隔中に、対応するシーケンスのインスタンスを測定したことを意味する。また、シーケンスが、第２のセットの特定の（対応する）インスタンスが決定された時間的瞬間において取得されたセンサーのインスタンスを含むこともあり得る。
【００１８】
関連履歴の決定された長さが、第１のタイプのデータと第２のタイプのデータとの１つの特定の組合せに関係するので、関連履歴の異なる長さを取得するために、異なる組合せについて決定するためのデバイス又は方法を使用する。これは、例えば異なるセンサーのデータが物理エンティティの特性を予測するために利用可能である場合、特に有利である。いくつかの組合せについて本デバイス又は本方法を使用することによって、あらゆるセンサーのための最適履歴長さを見つけ、それによって、あまりに多くの予測精度を失うことなしに予測又は機械学習技術において使用するためのセンサーデータのなお一層低減されたセットを作成する。
【００１９】
随意に、関連履歴の長さを決定するステップは、ｉ）第１のセットのデータデータからのデータの一時的に低減された第１のセットを取得するステップであって、データの一時的に低減された第１のセットにおいて、各シーケンスについて、第１のセットのデータのシーケンスと比較してデータの最も古いインスタンスが除去された、取得するステップと、ｉｉ）一時的に低減されたセットを所与とした第２のセットのデータのための第２の条件付きエントロピーを取得するステップと、ｉｉｉ）第２の条件付きエントロピーが第１の条件付きエントロピーからの最大エントロピー増加しきい値内にあるかどうかを決定するために、第２の条件付きエントロピーを第１の条件付きエントロピーと比較するステップとを含み、ａ）第２の条件付きエントロピーが第１の条件付きエントロピーからの最大エントロピー増加しきい値内にある場合、データの一時的に低減された第１のセットのシーケンスから最も古いインスタンスを除去し、第２の条件付きエントロピーを取得するステップと、第２の条件付きエントロピーを第１の条件付きエントロピーと比較するステップとがもう一度実行され、又はｂ）第２の条件付きエントロピーが第１の条件付きエントロピーからの最大エントロピー増加しきい値内にない場合、関連履歴の決定された長さは、一時的に低減された第１のセットのシーケンスの長さ＋１である。
【００２０】
この随意の実施形態は、関連履歴の長さを決定するための有効な実施形態を提供する。実施形態によれば、データの比較的大きい低減された第１のセットから探索を開始することによって、関連履歴の長さについての探索が開始され、その後、小さいステップで、低減された第１のセットのサイズを低減し、このセットが、依然として、第１の条件付きエントロピーと最大エントロピー増加しきい値とによって定義される境界内にあるかどうかを決定する。
【００２１】
関連履歴の長さを決定する実施形態は、上記で説明した探索アルゴリズムに限定されないことに留意されたい。関連履歴の長さを決定するステップはまた、２分探索アルゴリズムに基づき得、最初に、第１のセットのシーケンスの最も最近の１／２のみを有するシーケンスを有する一時的に低減された第１のセットのために第２の条件付きエントロピーが決定され、関連履歴の長さがどの方向において見つかり得るかを決定する。関連履歴の長さが履歴の最も最近の１／２中にあるのか、より古い１／２中にあるのかが知られている場合、一時的に低減された第１のセットが、それぞれ、履歴の最も最近の１／２又はより古い１／２の中央のポイントのために取得され、関連履歴の長さがこのポイントの前に見つかり得るのか、それの後に見つかり得るのかが決定される、などである。関連履歴の長さを決定するステップはまた、ソートされたリストに適した他の探索アルゴリズムに基づくことができ、一時的に低減された第１のセット中のシーケンスの長さが低減されたとき、第２の条件付きエントロピーの値は増加するか又は等しいままである。
【００２２】
一実施形態では、第１の条件付きエントロピーを取得するステップは、ｉ）第１のコンテキストツリーを取得するために、第２のセットと第１のセットとにコンテキストツリー重み付け方法を適用するステップと、ｉｉ）第１の条件付きエントロピーの推定値を計算するために、第１のコンテキストツリーのルートの重み付けされた確率を使用するステップとによって第１の条件付きエントロピーを推定するステップを含む。第１のセットのあらゆる一意のシーケンスは、第１のコンテキストツリー中の経路によって表され、第１のコンテキストツリーのノードに記憶されたカウントは、第２のセットのデータの対応する要素に基づく。コンテキストツリー重み付け方法は、テキスト圧縮の分野でよく知られている方法である。本発明のコンテキストでは、第１のセットのデータがツリーソースによって生成されると仮定される場合、コンテキストツリー重み付け方法は、このツリーソースのための推定されたツリーを生成するための効率的で有効な方法であり、推定されたツリーは、上記で説明したコンテキストでは第１のコンテキストツリーである。コンテキストツリー重み付け方法は、コンテキストツリーのノードのための重み付けされた確率を計算するための効率的で有効な手段を提供し、上記の（１つ又は複数の）仮定を所与として、第１の条件付きエントロピーの推定値は第１のコンテキストツリーのルートの重み付けされた確率から取得され得る。したがって、コンテキストツリー重み付け方法は、第１の条件付きエントロピーを推定するための有効で効率的な手段を提供する。
【００２３】
一実施形態では、第２の条件付きエントロピーを取得するステップは、ｉ）第２のコンテキストツリーを取得するために、第２のセットと低減された第１のセット又は一時的に低減された第１のセットとにコンテキストツリー重み付け方法を適用するステップと、ｉｉ）推定された第２の条件付きエントロピーを計算するために、第２のコンテキストツリーのルートの重み付けされた確率を使用するステップとによって第２の条件付きエントロピーを推定するステップを含む。低減された第１のセット又は一時的に低減された第１のセットのあらゆる一意のシーケンスは、第２のコンテキストツリー中の経路によって表され、第２のコンテキストツリーのノードに記憶されたカウントは、第２のデータセットの対応する要素に基づく。上記の説明によれば、コンテキストツリー重み付け方法は、第２の条件付きエントロピーの推定値を取得するための効率的で有効な方法である。
【００２４】
一実施形態では、第２のセットと低減された第１のセット又は一時的に低減された第１のセットとにコンテキストツリー重み付け方法を完全に適用する代わりに、第２のコンテキストツリーは、ルートから見て、低減された第１のセット又は一時的に低減された第１のセットのシーケンスの長さよりも大きい深度を有するリーフを第１のコンテキストツリーから除去することによって取得される。前に説明したように、新しい第２のコンテキストツリーを構築することによって、第２の条件付きエントロピーを推定する。発明者は、第２のコンテキストツリーが、第１の条件付きエントロピーを推定するために構築された第１のコンテキストツリーのサブツリーであることを観察した。発明者は、第１のセットの各シーケンスから最も古いインスタンスが除去された場合、第２のコンテキストツリーの深度は１だけ低減され、すなわち、第２のコンテキストツリーは、リーフノードで終了するツリー終端エッジのリーフを含んでいないことを見つけた。演繹によって、低減された第１のセットのシーケンスが所与の長さのものであるとき、この所与の長さよりも大きい深度をもつ第１のコンテキストツリーのすべてのリーフ及びノード（＋対応するエッジ）は、第２のコンテキストツリーを取得するために除去されなければならないと結論する。この実施形態は、第２の条件付きエントロピーのなお一層効率的な推定を可能にする。
【００２５】
一実施形態では、第１のタイプのデータのインスタンスは離散値である。そのような連続データを使用することは、第１及び／又は第２の条件付きエントロピーを計算或いは推定する、はるかに複雑なやり方を生じる。コンテキストツリー重み付け方法は、第１のタイプのインスタンスの離散値の数が制限される場合、メモリ使用及び計算能力に関して最も効率的である。一実施形態では、関連履歴の長さを決定する方法はまた、第１のタイプのデータのインスタンスの離散値を取得するために連続データのインスタンスを量子化するステップを有し、量子化するステップは、第２のタイプのデータと第１のタイプのデータとの間の相互情報量の損失が最大情報損失しきい値内であるように実行される。量子化するステップは相互情報量の損失を生じるが、この損失が、許容できる最大情報損失しきい値内に保持される場合、本方法の効率の増加は相互情報量の損失を上回る。そのような量子化するステップの実施形態は、第１のタイプのデータの連続データの最小値と最大値との中間にいくつかの等しいサイズのビンを作成するステップと、いくつかのビンを、そのビンの境界内に入る連続データに割り当てるステップとである。ビンの数を増加させることによって、相互情報量の損失は低減される。相互情報量の損失を低減するためのより高度な方法も使用される。
【００２６】
別の態様によれば、データセットを低減する方法が提供される。データセットを低減する方法は、関連履歴の長さを決定する方法の上記で説明した実施形態のうちのいずれか１つによる、この方法を有し、第１のセットのデータのあらゆるシーケンスが、関連履歴の決定された長さを有するまで、第１のタイプのデータの最も古いインスタンスをシーケンス中で削除することによって、第１のデータセットを低減するステップを有する。それによって、第１のタイプのデータのインスタンスの（より最近の）シーケンスを有する場合、第２のタイプのデータのインスタンスを予測する際に依然として極めて有用である、著しく低減された第１のデータセットを取得する。
【００２７】
さらなる態様によれば、第１のタイプのデータのインスタンスの履歴に基づいて第２のタイプのデータのインスタンスを予測する方法が提供される。本方法は、データセットを低減する上記で説明した方法を有し、ｉ）第１のタイプのデータのインスタンスの最近の履歴を受信するステップと、ｉｉ）第２のタイプのデータのインスタンスを予測するために、又は予測モデルをトレーニングするために、低減された第１のセットのデータと第２のセットのデータとを使用するステップとを有する。この方法を用いて、第２のタイプのデータのインスタンスが比較的正確に予測されるとともに、記憶される履歴データの量が著しく低減される。それによって、第２のタイプのデータのインスタンスを予測する、より効率的なやり方が取得される。第２のタイプのインスタンスを予測する厳密なやり方は、本明細書のコンテキストでは関連しない。この実施形態では、予測する方法が、第１のタイプのデータのインスタンスと第２のタイプのデータのインスタンスとの形態の履歴データを使用することのみが関連する。
【００２８】
本発明の一態様によれば、第１のタイプのデータのインスタンスの関連履歴の長さを決定するためのコンピュータプログラム製品が提供される。本プログラムは、プロセッサに、上記で説明した方法のうちのいずれか１つを実行させるように動作可能である。
【００２９】
本発明によるデバイス及び方法のさらなる好ましい実施形態が添付の特許請求の範囲において与えられ、それの開示は参照により本明細書に組み込まれる。
【００３０】
本発明のこれら及び他の態様は、以下の説明において例として説明する実施形態及び添付の図面から明らかになり、さらにそれらを参照して解明されよう。
【図面の簡単な説明】
【００３１】
【図１】第１のタイプのデータのインスタンスの関連履歴の長さを決定するためのデバイスを概略的に示す図である。
【図２】第１のタイプのデータのインスタンスの関連履歴の長さを決定する方法を概略的に示す図である。
【図３】第１のタイプのデータのインスタンスと第２のタイプのデータのインスタンスとを生成する同じタイプの２つの機械を概略的に示す図である。
【図４】コンピュータプログラム製品の一実施形態を概略的に示す図である。
【発明を実施するための形態】
【００３２】
図は、単に概略であり、一定の縮尺で描かれていない。図において、すでに説明した要素に対応する要素は同じ参照番号を有することがある。
【００３３】
図３は、第１のタイプのデータのインスタンスと第２のタイプのデータのインスタンスとを生成する同じタイプの２つの機械３００、３５０を概略的に示す。図３は、第１のタイプのデータのインスタンスの関連履歴の長さを決定するためのデバイス及び方法が適用され得るエリアの一例である。この図は、図１の説明において使用されている。両方の機械３００、３５０は同じタイプのものであり、これは、それらの機械が同じ設計のものであること、同じ機能を実行することなどを意味することに留意されたい。両方の機械３００、３５０は、第１のタイプのデータのインスタンスを生成するセンサー３０２、３５２を備える。これは、センサー３０２、３５２が、互いに同様であり、両方の機械３００、３５０中で同じ機能を有することを意味する。例えば、センサー３０２、３５２は機械のモーターの温度を測定する。両方の機械３００、３５０は、両方とも、特性が決定され、及び／又は予測されなければならない、物理エンティティ３０４、３５４を有する。特性は、第２のタイプのデータのインスタンスである。例えば、物理エンティティ３０４、３５４は機械のモーターであり、特性は、「モーター３０４又は３５４が、動作しているか又は誤動作している」である。
【００３４】
図１は、第１のタイプのデータのインスタンスの関連履歴の長さを決定するためのデバイス１００を概略的に示す。第１のタイプのデータのインスタンスは、第２のタイプのデータのインスタンスを予測するために有用であり、そのために使用され得る、情報を含む。デバイスは、第１のデータセットユニット１０２と、第２のデータセットユニット１０４と、第１の条件付きエントロピーユニット１０６と、しきい値ユニット１０８と、長さ決定ユニット１１４と、出力ユニット１１６とを備える。
【００３５】
第２のデータセットユニット１０４は、第２のタイプのデータのインスタンスを含む第２のセットのデータを取得するために構成される。第２のタイプのデータのインスタンスは物理エンティティの特性を含む。第２のセットは、例えば、Ｙによって示される。セットＹは、異なる時間的瞬間における物理エンティティの特性であるいくつかのインスタンスｙｉを含む。例えば、インスタンスｙｉは、特性「モーター３０４又は３５４が、順調に動作しているか、又は誤動作している」である。例えば、セットの第１の要素は、機械１のモーターが時間的瞬間１５において順調に動作する場合、ｙ１（機械１，ｔ＝１５）＝１であり、セットの第２の要素は、機械２のモーターが時間的瞬間２５において誤動作する場合、ｙ２（機械２，ｔ＝２５）＝０である。
【００３６】
第１のデータセットユニット１０２は、第１のタイプのデータのインスタンスのシーケンスを含む第１のセットのデータを取得するために構成される。各シーケンスは、第２のセットの対応する要素のための、第１のタイプのデータのインスタンスの履歴を提供する。各シーケンスは、第２のセットの対応する要素が決定される時間的瞬間に先行する、及び随意にその時間的瞬間の、インスタンスを含む。第１のタイプのデータのインスタンスは、シーケンス中で時間に従って順序付けされる。第１のタイプのデータのインスタンスは、測定されたセンサーデータを含む。例えば、第１のセットは、Ｘで示され、いくつかのシーケンスｘ１、ｘ２．．．を含む。シーケンスｘ１は、第２のセットＹのインスタンスｙ１に関係し、したがって、モーター３０４の特性ｙ１＝１が取得される時間的瞬間に先行する（及び随意にその時間的瞬間を含む）時間間隔のセンサー３０２のデータのインスタンスを含む。例えば、シーケンスｘ１＝（ｘｉ（モーターセンサー３０２，ｔ＝１５）ｘｉ（モーターセンサー３０２，ｔ＝１４）ｘｉ（モーターセンサー３０２，ｔ＝１３）ｘｉ（モーターセンサー３０２，ｔ＝１２）．．．．）であり、ここにおいて、ｘｉは、第１のタイプのデータのインスタンスを指す。シーケンスｘ２は、第２のセットＹのインスタンスｙ２に関係し、モーター３５４の特性が取得される時間的瞬間に先行する（及び随意にその時間的瞬間を含む）時間間隔のセンサー３５２のインスタンスを含む。例えば、シーケンスｘ２＝（ｘｉ（モーターセンサー３５２，ｔ＝２５）ｘｉ（モーターセンサー３５２，ｔ＝２４）ｘｉ（モーターセンサー３５２，ｔ＝２３）ｘｉ（モーターセンサー３５２，ｔ＝２２）．．．．）である。シーケンスｘ１及びｘ２は、第１のタイプのデータの同数のインスタンスを含み、したがって、言い換えれば、シーケンスｘ１及びｘ２が第１のタイプのインスタンスを含む時間間隔は、同じ長さを有する。
【００３７】
第１の条件付きエントロピーユニット１０６は、第１のセットのデータを所与とした第２のセットのデータのための第１の条件付きエントロピーを取得するために構成される。機械３００及び３５０のデータの例では、第１の条件付きエントロピーはＨ１（Ｙ｜Ｘ）によって示される。条件付きエントロピーは、情報理論の分野において十分に定義されている。本明細書の後半で、第１の条件付きエントロピーを計算又は推定する実施形態が提供される。第１の条件付きエントロピーユニット１０６は、第１のセットのデータ及び第２のセットのデータを受信するために構成される第１のデータセットユニット１０２及び第２のデータセットユニット１０４に結合される。
【００３８】
しきい値ユニット１０８は、第１のセットのデータ中のシーケンスの長さが低減されたときに第１の条件付きエントロピーがファクタだけ増加する当該ファクタを示す最大エントロピー増加しきい値を取得するために構成される。例えば、実際的実施形態では、最大エントロピー増加しきい値はαによって示され、αの値は、０から１の間にある数である。１は、第１の条件付きエントロピーが１００％だけ増加することを意味し、０．５は、第１の条件付きエントロピーが５０％だけ増加することを意味する、などである。第１のセットがＸｒに低減されると仮定すると、最大エントロピー増加しきい値は、Ｈ（Ｙ｜Ｘｒ）≦（１＋α）Ｈ１（Ｙ｜Ｘ）であることを定義する（ここで、低減された第１のセットＸｒのシーケンスの長さは、Ｘのシーケンスよりも短い）。
【００３９】
長さ決定ユニット１１４は、低減された第１のセットのデータを所与とした第２のセットのデータのための第２の条件付きエントロピーが第１の条件付きエントロピーからの最大エントロピー増加しきい値内にあるための、低減された第１のセットのデータのシーケンスのための最も小さい長さを決定することによって、関連履歴の長さを決定するために構成される。低減された第１のセットのデータは、最も小さい長さのシーケンスを含み、データの低減されたセットのシーケンスは、第１のセットのデータ中のそれらの対応するシーケンスの第１のタイプのデータの最も最近のインスタンスを含む。長さ決定ユニット１１４は、それぞれ、第１のセットのデータ、第２のセットのデータ、最大エントロピー増加しきい値、及び第１の条件付きエントロピーを受信するための、第１のデータセットユニット１０２、第２のデータセットユニット１０４、しきい値ユニット１０８、及び第１の条件付きエントロピーユニット１０６に結合される。
【００４０】
しきい値ユニット１０８は、低減された第１のセットＸｒ中のシーケンスがどの長さまで低減されるかを決定しないが、関連履歴の長さを決定するための条件の一部である値を提供する。長さ決定ユニット１１４は、条件Ｈ２（Ｙ｜Ｘｒ）≦（１＋α）Ｈ１（Ｙ｜Ｘ）が真であるように、低減された第１のデータセット中のシーケンスの最小長さを決定する。Ｈ２（Ｙ｜Ｘｒ）は、低減された第１のデータセットを所与とした第２のセットのための第２の条件付きエントロピーである。したがって、長さ決定ユニット１１４は、この最小長さを見つけるために探索を実行する。そのような探索は様々なやり方で実行される。実施形態について本明細書の後半で説明する。低減されたシーケンスが、依然として、第１のタイプのデータの最も最近のインスタンスを含むことにさらに注意されたい。例えば、上記で説明したシーケンスｘ１が３つの要素のみに低減される場合、低減されたシーケンスは、ｘ１ｒ＝（ｘｉ（モーターセンサー３０２，ｔ＝１５）ｘｉ（モーターセンサー３０２，ｔ＝１４）ｘｉ（モーターセンサー３０２，ｔ＝１３））である。
【００４１】
長さ決定ユニット１１４は、第１のセットのデータのシーケンスから特定の数の最も古いインスタンスを除去することによって、第１のセットのデータに基づいて、低減された第１のセットＸｒを作成する、低減ユニット１１０を備える。長さ決定ユニット１１４は、低減された第１のセットのデータを所与とした第２のセットのための第２の条件付きエントロピーＨ２（Ｙ｜Ｘｒ）を計算するための第２の条件付きエントロピーユニットを備える。
【００４２】
出力ユニット１１６は、シーケンスのための最も小さい長さを、関連履歴の長さとして、例えば、第１のタイプのデータのために記憶される履歴の量を低減するためのデータ低減装置に提供するように構成される。出力ユニットは、シーケンスのための最も小さい長さを受信するために長さ決定ユニットに結合される。この値が、例えば、第１のセットのデータＸのサイズを低減しなければならないデータ低減装置に提供される場合、Ｘ中のすべてのシーケンスが、その値によって示される長さを有するまで、最も古いインスタンスがそれらのシーケンスから除去される。
【００４３】
第１のデータセットユニット１０２、第２のデータセットユニット１０４及びしきい値ユニット１０８は、第１のセットのデータ、第２のセットのデータ及び最大エントロピー増加しきい値がそれぞれそこに記憶されるデータストレージを備える。これらのユニットはまた、このデータがそこに記憶される共通メモリを共有する。第１のデータセットユニット１０２、第２のデータセットユニット１０４及びしきい値ユニット１０８は、追加として又は代替として、第１のセットのデータ、第２のセットのデータ及び最大エントロピー増加しきい値がそれぞれそこにおいて受信される入力部を備える。これらのユニットはまた、共通入力部を共有する。そのような入力部はまた、ユーザが、第１のセットのデータ、第２のセットのデータ又は最大エントロピー増加しきい値のうちの少なくとも１つのための入力をそこにおいて提供することができる、グラフィカルユーザインターフェースなど、ユーザインターフェースを備える。
【００４４】
第１のデータセットユニット１０２、第２のデータセットユニット１０４及びしきい値ユニット１０８は、すべて、第１のセットのデータ、第２のセットのデータ及び最大エントロピー増加しきい値がそれぞれそこにおいて生成される専用ハードウェアを備えるか、又は、それらは、それぞれ第１のセットのデータ、第２のセットのデータ及び最大エントロピー増加しきい値を生成する命令を含むコンピュータプログラムを実行する汎用プロセッサ上に実装される。第１の条件付きエントロピーユニット１０６及び長さ決定ユニット１１４は、それぞれのユニットのタスクを実行するように構成された専用ハードウェアを備える。第１の条件付きエントロピーユニット１０６及び長さ決定ユニット１１４はまた、それぞれのユニットのタスクを実行するための命令を含むコンピュータプログラムを実行する汎用プロセッサを備える。また、別の実施形態では、関連履歴の長さを決定するためのデバイス１００はコンピュータを備え、コンピュータは、メモリ又はデータストレージと、随意の入力部と、出力部と、ユーザインターフェースとを備え、第１のタイプのデータのインスタンスの関連履歴の長さを決定するためのデバイス１００のユニットのうちの１つのタスクのうちの少なくとも１つを実行するための命令を含むコンピュータプログラムを実行する汎用プロセッサを備える。
【００４５】
図１は、データ低減システム１５０をさらに示す。データ低減システム１５０は、第１のタイプのデータのインスタンスを含むデータセットを低減するために第１のタイプのデータのインスタンスの履歴の長さを決定するためのデバイス１００を備える。データ低減システム１５０は、第１のセットのデータに基づいてデータの低減されたセットを取得するデータ低減ユニット１５２をさらに備え、低減されたセットは、第１のタイプのデータのインスタンスのシーケンスを含む。低減されたセット中のシーケンスの長さは、第１のタイプのデータのインスタンスの履歴の長さを決定するためのデバイスによって提供された決定された長さに基づく。
【００４６】
図２は、第１のタイプのデータのインスタンスの関連履歴の長さを決定する方法２００を概略的に示す。第１のタイプのデータのインスタンスは、第２のタイプのデータのインスタンスを予測するための情報を含む。方法２００は、
−  第２のタイプのデータのインスタンスを含む第２のセットのデータを取得するステップ２０２であって、第２のタイプのデータのインスタンスが物理エンティティの特性を含む、取得するステップ２０２と、
−  第１のタイプのデータのインスタンスのシーケンスを含む第１のセットのデータを取得するステップ２０４であって、各シーケンスが、第２のセットの対応する要素のための、第１のタイプのデータのインスタンスの履歴を提供し、各シーケンスが、第２のセットの対応する要素が決定される時間的瞬間に先行する、及び随意にその時間的瞬間の、インスタンスを含み、第１のタイプのデータのインスタンスが、シーケンス中で時間に従って順序付けされ、第１のタイプのデータのインスタンスが、測定されたセンサーデータを含む、取得するステップ２０４と、
−  第１のセットのデータを所与とした第２のセットのデータのための第１の条件付きエントロピーを取得するステップ２０６と、
−  第１のセットのデータ中のシーケンスの長さが低減されたときに第１の条件付きエントロピーがそれだけ増加するファクタを示す最大エントロピー増加しきい値を取得するステップ２０８と、
−  低減された第１のセットのデータを所与とした第２のセットのデータのための第２の条件付きエントロピーが第１の条件付きエントロピーからの最大エントロピー増加しきい値内にあるための、低減された第１のセットのデータのシーケンスのための最も小さい長さを決定することによって、関連履歴の長さを決定するステップ２１０であって、低減された第１のセットのデータが、最も小さい長さのシーケンスを含み、データの低減されたセットのシーケンスが、第１のセットのデータ中のそれらの対応するシーケンスの第１のタイプのデータの最も最近のインスタンスを含む、決定するステップ２１０と、
−  シーケンスのための最も小さい長さを、関連履歴の長さとして、例えば、第１のタイプのデータのために記憶される履歴の量を低減するためのデータ低減装置に提供するステップ２１２と
を有する。
【００４７】
以下で、第１のタイプのデータのインスタンスの関連履歴の長さを決定するためのデバイスと、第１のタイプのデータのインスタンスの関連履歴の長さを決定する方法との動作について、第１のセットのデータを行列Ｘとして、及び第２のセットのデータをベクトルＹとして定義することによって、より詳細に説明する。第１のセットのデータのシーケンスは、行列Ｘ中の行ｒｉであり、ベクトルＹの第１の要素ｙ１は、行列Ｘの第１の行ｒ１に属する第２のタイプのデータの対応するインスタンスである。さらに、各行ｒｉの第１の要素ｘｉ１は、そのシーケンスの最も最近のインスタンスであり、行の各後続のインスタンスは、第１のタイプのデータのより古いインスタンスである。したがって、行列の列は時間を表し、より高い数をもつ列は、より古い時間的瞬間に関係する。第１のタイプのデータのために行列を使用すること、シーケンスが行列Ｘの行中で提供されることを定義すること、行の第１の要素が行の最も最近の要素であることを定義すること、及びベクトルＹによって第２のセットのデータを表すことは、実装の詳細にすぎない。本発明の実施形態はこれらの詳細に限定されない。当業者は、行列の列もシーケンスを含み得ること、及びシーケンス中のインスタンスの時間順序がまた異なり得ることを直接理解されよう。
【００４８】
したがって、第１のセットのデータは行列
【数１】
2019508775.tif 000003
であり、ここにおいて、行ｒｉは、第１のタイプのデータのインスタンスをもつシーケンスを含み、ｘｉｊは、第１のタイプのデータのインスタンスである。行列Ｘは、第１のタイプのデータのインスタンスをもつｍ個のシーケンスを含み、したがって、行列はｍ個の行を有する。各シーケンスは長さｎを有し、したがって、行列はｎ個の列を含む。列数ｎは、利用可能な履歴データの量とデバイス１００又は方法２００の処理能力とに依存するシステム変数であることに留意されたい。行数ｍも、利用可能な履歴データの量とデバイス１００又は方法２００の処理能力とに依存するシステム変数であることに留意されたい。履歴データの所与のセットを有する場合、ｎの増加はｍの低減を生じ、その逆も同様である。
【００４９】
したがって、第２のセットのデータは
【数２】
2019508775.tif 000004
であり、ここにおいて、ｙｉは、行ｒｉのシーケンスに関係する第２のタイプのデータのインスタンスである。
【００５０】
一実施形態では、例えば、図３の機械３００など、第１のテスト機械がある。通常の時間的瞬間において、データは、センサー３０２から及び物理エンティティ３０４から収集される。センサー３０２が、モーターである物理エンティティ３０４から温度データを収集すると仮定し、モーターの動作ステータスが、通常の時間的瞬間において、例えば、１０００回収集されると仮定した場合、結果として、以下のデータのインスタンスをもつ２つのシーケンスに到る。
温度シーケンス＝（Ｔｔ＝１，Ｔｔ＝２，Ｔｔ＝３，．．．，Ｔｔ＝１０００）
モーターシーケンス＝（Ｍｔ＝１，Ｍｔ＝２，Ｍｔ＝３，．．．，Ｍｔ＝１０００）
【００５１】
また、行列Ｘ中の行の最大長さが１００であると仮定した場合、
【数３】
2019508775.tif 000005
及び
【数４】
2019508775.tif 000006
によって、これらのシーケンスから上記で説明した行列Ｘ及びベクトルＹを生成することができる。
【００５２】
したがって、行列Ｘの各行ｒｉは、モーターの特性が決定される時間の瞬間の直前に来る時間間隔のセンサー３０２の履歴を含む。シーケンス（行ｒｉ）の長さが増加される場合、行列Ｘ中の行数及びＹ中の要素数は減少することに留意されたい。
【００５３】
別の実施形態では、第１のデータタイプのインスタンスと第２のデータタイプのインスタンスとがそこにおいて収集された２つのテスト機械がある。例えば、図３の機械３００及び３５０は、データを収集するために使用され、センサー３０２、３５２のデータが収集され、モーター３０４、３５４のデータが収集される。データが、通常の時間的瞬間、例えば、両方の機械において５００個の連続する時間的瞬間において収集されると仮定された場合、結果として、以下のデータのインスタンスをもつ４つのシーケンスに到る。
機械１：
温度シーケンス機械１＝（Ｔ１ｔ＝１，Ｔ１ｔ＝２，Ｔ１ｔ＝３，．．．，Ｔ１ｔ＝５００）
モーターシーケンス機械１＝（Ｍ１ｔ＝１，Ｍ１ｔ＝２，Ｍ１ｔ＝３，．．．，Ｍ１ｔ＝５００）
機械２：
温度シーケンス機械２＝（Ｔ２ｔ＝１，Ｔ２ｔ＝２，Ｔ２ｔ＝３，．．．，Ｔ２ｔ＝５００）
モーターシーケンス機械２＝（Ｍ２ｔ＝１，Ｍ２ｔ＝２，Ｍ２ｔ＝３，．．．，Ｍ２ｔ＝５００）
また、行列Ｘ中の行の長さが２００であると仮定した場合、
【数５】
2019508775.tif 000007
及び
【数６】
2019508775.tif 000008
によって、これらのシーケンスから上記で説明した行列Ｘ及びベクトルＹを生成することができる。
【００５４】
１つ又は複数の機械から取得されたデータから行列Ｘ及びＹを取得する上記で説明した実施形態は例にすぎないことに留意されたい。同じタイプのより多くの機械からのデータが使用される。異なる時間的瞬間からの（例えば、異なる日、週又は月の）データが使用される、などである。
【００５５】
一実施形態では、第１のタイプのデータのインスタンスは離散値であり、一実施形態では、第１のタイプのデータのインスタンスの値は、可能な値の小さいセットからのみ選定され得る。センサーがより多くの値を生成する場合、センサーデータは量子化され、すなわち、ビン中に入れられ、各ビンは離散値によって表される。情報のあまりに多くの損失を防ぐために、有利な実施形態では、データは、Ｙに関する非量子化データ間の相互情報量と、Ｙに関する量子化データ間の相互情報量とが互いにあまり異ならないように量子化される。したがって、Ｉ（Ｘ，Ｙ非低減）≒Ｉ（Ｘ，Ｙ低減）である。例えば、Ｃａｒｄｉｎａｌ（「Ｑｕａｎｔｉｚａｔｉｏｎ  ｗｉｔｈ  ａｎ  Ｉｎｆｏｒｍａｔｉｏｎ−Ｔｈｅｏｒｅｔｉｃ  Ｄｉｓｔｏｒｔｉｏｎ  Ｍｅａｓｕｒｅ」）は、量子化の結果としてＸとＹとの間の相互情報量があまり低減しないように、ロイド量子化器を使用してデータを量子化するための方法について説明している。ウェブサイトｈｔｔｐ：／／ｗｗｗ．ｕｌｂ．ａｃ．ｂｅ／ｄｉ／ｐｕｂｌｉｃａｔｉｏｎｓ／ＲＴ＿２００２．ｈｔｍｌ上で「Ｕｎｉｖｅｒｓｉｔｅ  Ｌｉｂｒｅ  ｄｅ  Ｂｒｕｘｅｌｌｅｓ」によって公開され、ウェブサイトｈｔｔｐ：／／ｃｉｔｅｓｅｅｒｘ．ｉｓｔ．ｐｓｕ．ｅｄｕ／ｖｉｅｗｄｏｃ／ｓｕｍｍａｒｙ？ｄｏｉ＝１０．１．１．２０．３０５８上でも公開された文献「Ｑｕａｎｔｉｚａｔｉｏｎ  ｗｉｔｈ  ａｎ  Ｉｎｆｏｒｍａｔｉｏｎ−Ｔｈｅｏｒｅｔｉｃ  Ｄｉｓｔｏｒｔｉｏｎ  Ｍｅａｓｕｒｅ」、Ｊｅａｎ  Ｃａｒｄｉｎａｌ、２００２年１０月２３日は、参照により含まれる。
【００５６】
行ｒｉのどの部分が「関連しない」として定義され得るかを決定するために、言い換えれば、関連しない列を決定するために、最初に、第１の条件付きエントロピーＨ１（Ｙ｜Ｘ）が決定される。個々のインスタンスの確率ｐ（ｘ）、ｐ（ｙ）が知られている場合、及びインスタンスの組合せの相互確率ｐ（ｘ，ｙ）が知られている場合、条件付きエントロピーは
【数７】
2019508775.tif 000009
によって計算され得る。利用可能なデータに基づいて個々のインスタンスの確率ｐ（ｘ）、ｐ（ｙ）とインスタンスの組合せの相互確率ｐ（ｘ，ｙ）とを推定することによって、これらの確率を取得し、例えば、第１の値が行列Ｘ中に何回存在するかをカウントし、そのカウントを行列Ｘ中の要素数で除算することによって、この第１の値の確率を推定する。
【００５７】
第１の条件付きエントロピーＨ１（Ｙ｜Ｘ）はまた、いわゆるコンテキストツリー重み付け方法を用いて第１のコンテキストツリーを構築することと、第１のコンテキストツリーのルートの重み付けされた確率を使用して、第１の条件付きエントロピーの推定値を計算することとによって推定され得る。コンテキストツリー重み付け方法は、情報理論及び（テキスト）圧縮の分野においてよく知られており、例えば、論文ｉ）「Ｔｈｅ  Ｃｏｎｔｅｘｔ−Ｔｒｅｅ  Ｗｅｉｇｈｔｉｎｇ  Ｍｅｔｈｏｄ：  Ｂａｓｉｃ  Ｐｒｏｐｅｒｔｉｅｓ」、Ｗｉｌｌｅｍｓら、ＩＥＥＥ  Ｔｒａｎｓａｃｔｉｏｎｓ  ｏｎ  Ｉｎｆｏｒｍａｔｉｏｎ  Ｔｈｅｏｒｙ、Ｖｏｌ４２、Ｎｏ３、６５３〜６６４ページ、ｉｉ）「Ｒｅｆｌｅｃｔｉｏｎｓ  ｏｎ  ‘Ｔｈｅ  Ｃｏｎｔｅｘｔ−Ｔｒｅｅ  Ｗｅｉｇｈｔｉｎｇ  Ｍｅｔｈｏｄ：  Ｂａｓｉｃ  Ｐｒｏｐｅｒｔｉｅｓ’」Ｗｉｌｌｅｍｓら、Ｎｅｗｓｌｅｔｔｅｒ  ｏｆ  ｔｈｅ  ＩＥＥＥ  Ｉｎｆｏｒｍａｔｉｏｎ  Ｔｈｅｏｒｙ  Ｓｏｃｉｅｔｙ、１９９７年、及びｉｉｉ）「１９９６  ＩＴ  ｓｏｃｉｅｔｙ  Ｐａｐｅｒ  Ａｗａｒｄ，  Ｒｅｆｌｅｃｔｉｏｎ  ｏｎ  ｔｈｅ  Ｐｒｉｚｅ  Ｐａｐｅｒ：  ‘Ｔｈｅ  Ｃｏｎｔｅｘｔ−Ｔｒｅｅ  Ｗｅｉｇｈｔｉｎｇ  Ｍｅｔｈｏｄ：  Ｂａｓｉｃ  Ｐｒｏｐｅｒｔｉｅｓ’」、Ｗｉｌｌｅｍｓら、ＩＥＥＥ  Ｉｎｆｏｒｍａｔｉｏｎ  Ｔｈｅｏｒｙ  Ｓｏｃｉｅｔｙ  Ｎｅｗｓｌｅｔｔｅｒ、Ｖｏｌ．４７、Ｎｏ１、１９９７年３月、１９〜２７ページにおいてＷｉｌｌｅｍｓらによって説明されている。上述の論文ｉ）、ｉｉ）及びｉｉｉ）は、参照により本明細書によって含まれる。
【００５８】
コンテキストツリー重み付け方法は、行列Ｘ中の一意の行ｒｉが第１のコンテキストツリー中の経路を形成し、第１のコンテキストツリーのノード中のカウントレジスタがＹの対応する要素ｙｉの発生回数に対応するようなやり方で適用される。最初に、コンテキストツリー重み付け方法は、バイナリデータと、この方法がテキストデータのほうへどのように拡張されるかとについて説明された。今日、当業者は、非バイナリデータの他の形式のために自由に使えるいくつかの実装形態を有する。したがって、Ｘ又はＹ中の個別のデータが３つ以上の異なる可能な値を有する場合、そのような実装形態のうちの１つが、第１のコンテキストツリーを構築するために使用されなければならない。例えば、Ｔｊａｌｋｅｎｓらの論文「Ｃｏｎｔｅｘｔ  Ｔｒｅｅ  Ｗｅｉｇｈｔｉｎｇ：  Ｍｕｌｔｉ−ａｌｐｈａｂｅｔ  Ｓｏｕｒｃｅｓ」、ベネルクスでの情報理論に関する第１４回シンポジウムの議事録、フェルトホーフェン、オランダ、１９９３年、５月１７〜１８日、１２８〜１３５ページは、コンテキストツリー重み付け方法がどのように非バイナリデータに適用されるかについて説明している。文献「Ｃｏｎｔｅｘｔ  Ｔｒｅｅ  Ｗｅｉｇｈｔｉｎｇ：  Ｍｕｌｔｉ−ａｌｐｈａｂｅｔ  Ｓｏｕｒｃｅｓ」は、参照により本明細書に含まれる。
【００５９】
コンテキストツリー重み付け方法は、あらゆるノードについて重み付けされた確率Ｐｗを計算するための手段を提供する。第１の条件付きエントロピーは、式
【数８】
2019508775.tif 000010
によって、重み付けされた確率Ｐｗに基づいて推定されることが証明されており、ここにおいて、ＮはベクトルＹの要素数である。
【００６０】
コンテキストツリー重み付け方法では、各ノードについて、推定された確率Ｐｅは、各ノードに記憶されたカウントに基づいて各ノードについて計算される。コンテキストツリー重み付け方法では、リーフノードの重み付けされた確率Ｐｗは、そのリーフノードの推定された確率Ｐｅに等しい。コンテキストツリー中のより深いレベルにおいて１つ又は複数のノードに接続される特定のノードの場合、重み付けされた確率Ｐｗは、その特定のノードの推定された確率Ｐｅと、その特定のノードが接続される１レベル深いノードの重み付けされた確率Ｐｗとに依存する式によって決定される。これらの計算は、前に紹介された文献ｉ）「Ｔｈｅ  Ｃｏｎｔｅｘｔ−Ｔｒｅｅ  Ｗｅｉｇｈｔｉｎｇ  Ｍｅｔｈｏｄ：  Ｂａｓｉｃ  Ｐｒｏｐｅｒｔｉｅｓ」、Ｗｉｌｌｅｍｓら、ＩＥＥＥ  Ｔｒａｎｓａｃｔｉｏｎｓ  ｏｎ  Ｉｎｆｏｒｍａｔｉｏｎ  Ｔｈｅｏｒｙ、Ｖｏｌ４２、Ｎｏ３、６５３〜６６４ページ、ｉｉ）「Ｒｅｆｌｅｃｔｉｏｎｓ  ｏｎ  ‘Ｔｈｅ  Ｃｏｎｔｅｘｔ−Ｔｒｅｅ  Ｗｅｉｇｈｔｉｎｇ  Ｍｅｔｈｏｄ：  Ｂａｓｉｃ  Ｐｒｏｐｅｒｔｉｅｓ’」Ｗｉｌｌｅｍｓら、Ｎｅｗｓｌｅｔｔｅｒ  ｏｆ  ｔｈｅ  ＩＥＥＥ  Ｉｎｆｏｒｍａｔｉｏｎ  Ｔｈｅｏｒｙ  Ｓｏｃｉｅｔｙ、１９９７年、及びｉｉｉ）「１９９６  ＩＴ  ｓｏｃｉｅｔｙ  Ｐａｐｅｒ  Ａｗａｒｄ，  Ｒｅｆｌｅｃｔｉｏｎ  ｏｎ  ｔｈｅ  Ｐｒｉｚｅ  Ｐａｐｅｒ：  ‘Ｔｈｅ  Ｃｏｎｔｅｘｔ−Ｔｒｅｅ  Ｗｅｉｇｈｔｉｎｇ  Ｍｅｔｈｏｄ：  Ｂａｓｉｃ  Ｐｒｏｐｅｒｔｉｅｓ’」、Ｗｉｌｌｅｍｓら、ＩＥＥＥ  Ｉｎｆｏｒｍａｔｉｏｎ  Ｔｈｅｏｒｙ  Ｓｏｃｉｅｔｙ  Ｎｅｗｓｌｅｔｔｅｒ、Ｖｏｌ．４７、Ｎｏ１、１９９７年３月、１９〜２７ページにおいて十分に説明されている。
【００６１】
最大エントロピー増加しきい値αは、行列Ｘ中のデータの量が低減される場合、及びより詳細には、あらゆる行ｒｉについて、第１のタイプのデータの１つ又は複数の最も古いインスタンスｘｉｊが除去される場合、第１の条件付きエントロピーＨ１（Ｙ｜Ｘ）がどのくらい増加するかを定義する。この最大エントロピー増加しきい値αは、低減された行列Ｘｒの行ｒｉの最適長さが、条件Ｈ２（Ｙ｜Ｘｒ）≦（１＋α）Ｈ１（Ｙ｜Ｘ）が満たされる最小長さであることを定義する。ここにおいて、Ｘｒは、行列Ｘと同数の行を含む行列Ｘの部分行列であり、行列Ｘｒの各行は、低減された長さを有し、行列Ｘのそれの対応する行の前部部分に等しい。言い換えれば、低減された行列Ｘｒは、行列Ｘの最初のいくつかの列のみを有し、より詳細には、列の数は最小長さに等しい。
【００６２】
最小長さを見つけるための探索アルゴリズムが提供される。このアルゴリズムは、情報理論からの連鎖法則に基づき、これは、本明細書の特定の問題に変換されるとき、
Ｈ（Ｙ│Ｘｎ列）≦Ｈ（Ｙ│Ｘｒ，ｎ−１列）≦Ｈ（Ｙ│Ｘｒ，ｎ−２列）≦．．．≦Ｈ（Ｙ｜Ｘｒ，１列）
である。
【００６３】
したがって、低減された行列Ｘｒ，ｎ−１列を生成することから開始して、Ｈ２（Ｙ｜Ｘｒ，ｎ−１列）について第２の条件付きエントロピーを決定し、Ｈ２≦（１＋α）Ｈ１が依然として満たされるかどうかを検査する。はいの場合、低減された行列は、Ｘｒ，ｎ−２列のほうへ、各シーケンスの最も古いインスタンスをもつ最後の列を削除することによってさらに低減され、新しい第２の条件付きエントロピーがＨ２（Ｙ｜Ｘｒ，ｎ−２列）について決定され、条件Ｈ２≦（１＋α）Ｈ１であるかどうかを検査する。はいの場合、低減された行列のサイズは、最後の列を削除することと、第２の条件付きエントロピーを決定することとによって、さらに低減される。条件Ｈ２≦（１＋α）Ｈ１がもはや満たされなくなるとすぐに、最後の低減された行列ではなく、前に低減された行列Ｘｒ，ｉ列が、第１のタイプのデータの最適な関連履歴を含むこと、及び前に低減された行列Ｘｒ，ｉ列の列数ｉが、第１のタイプのデータのインスタンスの関連履歴の長さであることがわかる。言い換えれば、関連履歴の長さは、最後の低減された行列Ｘｒの列数＋１である。
【００６４】
このアルゴリズムでは、一種の線形順方向探索が実行され、条件がもはや満たされないポイントを見つけるために、最も小さい条件付きエントロピーから開始し、より大きい条件付きエントロピーの方向に探索する。データの順序付きリストのための他の探索アルゴリズムも適用されることに留意されたい。そのような別の探索アルゴリズムの一例は２分探索である。
【００６５】
上記で説明した探索アルゴリズムでは、行列Ｘのサイズが各後続のステップにおいて低減され、第２の条件付きエントロピーＨ２（Ｙ｜Ｘｒ）が決定される。第２の条件付きエントロピーを決定することはまた、上記で説明したのと同様に、第２のコンテキストツリーを取得するためにコンテキストツリー重み付け方法に基づき、第２のコンテキストツリーのルートの重み付けされた確率Ｐｗを使用して、第２の条件付きエントロピー
【数９】
2019508775.tif 000011
を推定する。
【００６６】
コンテキストツリー重み付け方法によって構築されたコンテキストツリーは、特定の特性を有し、行列Ｘ（又は低減された行列Ｘｒ）の各行の最も最近のインスタンスは、ルートから第１の深度レベルにおけるノードへのエッジによって表される。Ｘの各行の第２の最も最近のインスタンスは、第１の深度レベルにおけるノードから第２の深度レベルへのエッジによって表される、などである。リーフノードからリーフノードに先行するノードへのエッジは、Ｘの各行の最も古いインスタンスを表す。したがって、行列のサイズを低減し、あらゆるステップにおいて第２のコンテキストツリーを再構築する代わりに、第２のコンテキストツリーはそれの先行要素から導出される（及び、第１の取得された第２のコンテキストツリーは第１のコンテキストツリーから導出される）。これは、以下のように行われる。第１の探索ステップにおいて、第２のコンテキストツリーが初めて取得されなければならない場合、第２のコンテキストツリーは、リーフノードとリーフノードで終了するエッジとが除去され、ノードの重み付けされた確率Ｐｗが新しい状況に従って更新された、第１のコンテキストツリーのコピーである。コンテキストツリー重み付け方法は、ノードに記憶されたカウントに基づいてノードの重み付けされた確率Ｐｗをどのように計算すべきかを説明している。後続の探索ステップにおいて、第２のコンテキストツリーのサイズは、リーフノードとリーフノードで終了するエッジとを除去することと、ノードの重み付けされた確率Ｐｗを更新することとによって、低減される。
【００６７】
（低減された）第２のコンテキストツリーの重み付けされた確率の更新は、以下のように実行され得る。前に説明されたように、コンテキストツリー重み付け方法に従って、第２のコンテキストツリー中のあらゆるノードについて、それぞれのノードに記憶されたカウントのみに依存する推定された確率Ｐｅを計算することができる。ノード中のカウントは、第２のコンテキストツリーの深度が低減されたときに変化せず、したがって、推定された確率Ｐｅも、リーフノードとそれらの対応するエッジとが除去されたときに変化しない。重み付けされた確率Ｐｗは、ノードの推定された確率Ｐｅと、そのノードが接続される、より大きい深度におけるノードの重み付けされた確率Ｐｗとの関数である。したがって、リーフノードとそれらの対応するエッジとが第２のコンテキストツリーから除去されたとき、リーフノードの重み付けされた確率Ｐｗを計算することを開始することと、第２のコンテキストツリーのルートのほうへ移動することとによって、重み付けされた確率Ｐｗを再計算するだけでよい。
【００６８】
図４は、コンピュータプログラム製品４７０の一実施形態を概略的に示す。実施形態はまた、本発明を実施するために適応された、コンピュータプログラム製品４７０、特にキャリア４７０上の又はそれの中のコンピュータプログラムに拡張する。コンピュータプログラム製品はコンピュータプログラム４８０を含む。プログラムは、ソースコード、オブジェクトコード、コード中間ソース及び部分的にコンパイルされた形態などのオブジェクトコードの形態、又は上記で説明した方法のうちの１つの実装形態において使用するのに好適な任意の他の形態である。また、そのようなプログラムは多くの異なるアーキテクチャ設計を有することが諒解されよう。例えば、方法又はデバイスの機能を実装するプログラムコードは１つ又は複数のサブルーチンに再分割される。これらのサブルーチンの間で機能を分散させる多くの異なるやり方は、当業者には明らかであろう。サブルーチンは、独立型プログラムを形成するために、１つの実行ファイルに一緒に記憶される。そのような実行ファイルは、コンピュータ実行可能命令、例えばプロセッサ命令及び／又はインタープリタ命令（例えばＪａｖａ（登録商標）インタープリタ命令）を含む。代替的に、サブルーチンのうちの１つ又は複数又はすべては、少なくとも１つの外部ライブラリファイルに記憶され、例えばランタイムにおいて、静的に又は動的にのいずれかでメインプログラムにリンクされる。メインプログラムは、サブルーチンのうちの少なくとも１つへの少なくとも１つの呼出しを含んでいる。また、サブルーチンは、互いに対する関数呼出しを含み得る。コンピュータプログラム製品４７０に関係する実施形態は、記載された方法のうちの少なくとも１つの処理ステップの各々に対応するコンピュータ実行可能命令４８０を含む。これらの命令は、サブルーチンに再分割され、及び／或いは静的に又は動的にリンクされる１つ又は複数のファイルに記憶される。コンピュータプログラム製品４７０に関係する別の実施形態は、記載されたシステム及び／又は製品のうちの少なくとも１つの手段の各々に対応するコンピュータ実行可能命令４８０を含む。これらの命令は、サブルーチンに再分割され、及び／或いは静的に又は動的にリンクされる１つ又は複数のファイルに記憶される。
【００６９】
コンピュータプログラムのキャリアは、プログラムを搬送することが可能な任意のエンティティ又はデバイスである。例えば、キャリアは、ＲＯＭ、例えばＣＤ  ＲＯＭ又は半導体ＲＯＭ、或いは磁気記録媒体、例えばフロッピーディスク又はハードディスクなど、記憶媒体を含む。さらに、キャリアは、電気ケーブル又は光ケーブルを介して或いは無線機又は他の手段によって伝達される、電気信号又は光信号など、送信可能なキャリアである。プログラムがそのような信号中で実施されるとき、キャリアはそのようなケーブル或いは他のデバイス又は手段によって構成される。代替的に、キャリアは、プログラムが埋め込まれる集積回路であり、集積回路は、関連する方法を実行するために、又はそれの実行において使用するために適応される。
【００７０】
コンピュータプログラム４８０は、分散型プロセッサシステムのためのコンピュータプログラムであり、第１のプロセッサシステムに、上記で説明した方法のステップのサブセットを実行させ、第２のプロセッサシステムに、上記で説明した方法のステップの別のサブセットを実行させる、コンピュータコードを含む。ステップのサブセットとステップの別のサブセットとは相互排他的である。
【００７１】
要約すれば、本明細書は、第１のタイプのデータのインスタンスの履歴の長さを決定するためのデバイス及び方法を提供する。本デバイスは、第２のデータセットユニットと、第１のデータセットユニットと、第１の条件付きエントロピーユニットと、しきい値ユニットと、長さ決定ユニットとを含む。第１のデータセットユニット、第２のデータセットユニット及びしきい値ユニットは入力データを取得する。第１の条件付きエントロピーユニットは、第１のデータセットを所与とした第２のデータセットのための第１の条件付きエントロピーを決定する。決定ユニットは、低減された第１のセットのデータを所与とした第２のセットのデータのための第２の条件付きエントロピーが第１の条件付きエントロピーからの最大エントロピー増加しきい値内にあるための、低減された第１のセットのデータのシーケンスのための最も小さい長さを決定することによって、関連履歴の長さを探索する。
【００７２】
本発明は、プログラマブル構成要素を使用して、ハードウェア及び／又はソフトウェアで実装されることに留意されたい。本発明を実装するための方法は、図１を参照しながら説明したように、システムのために定義された機能に対応するステップを有する。
【００７３】
上記の説明では、明快のために、異なる機能ユニット及びプロセッサに関して本発明の実施形態について説明したことを諒解されよう。しかしながら、本発明から逸脱することなく、異なる機能ユニット又はプロセッサ間の機能の任意の好適な分散が使用されることは明らかであろう。例えば、別個のユニット、プロセッサ又はコントローラによって実行されるものとして示された機能は、同じプロセッサ又はコントローラによって実行され得る。したがって、特定の機能ユニットへの言及は、厳密な論理的又は物理的構造或いは編成を示すのではなく、説明した機能を提供するための好適な手段への言及としてのみ参照されるべきである。本発明は、ハードウェア、ソフトウェア、ファームウェア又はこれらの任意の組合せを含む任意の好適な形態で実装され得る。
【００７４】
本明細書では、「含む／備える／有する（ｃｏｍｐｒｉｓｉｎｇ）」という単語は、記載されたもの以外の他の要素又はステップの存在を除外せず、要素に先行する「１つの（ａ）」又は「１つの（ａｎ）」は、複数のそのような要素の存在を除外しないこと、いかなる参照符号も特許請求の範囲を限定しないこと、本発明は、ハードウェアとソフトウェアの両方の手段によって実装され得ること、及びいくつかの「手段」又は「ユニット」は、ハードウェア又はソフトウェアの同じアイテムによって表され得、プロセッサは、場合によってはハードウェア要素と協働して、１つ又は複数のユニットの機能を満たし得ることに留意されたい。さらに、本発明は実施形態に限定されず、本発明は、上記で説明した、又は相互に異なる従属請求項に記載のあらゆる新規の特徴又は特徴の組合せにある。
【図１】
2019508775.tif 000012
【図２】
2019508775.tif 000013
【図３】
2019508775.tif 000014
【図４】
2019508775.tif 000015
【手続補正書】
【提出日】平成29年6月6日(2017.6.6)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
第１のタイプのデータのインスタンスを含むデータセットを低減するために前記第１のタイプのデータのインスタンスの履歴の最も小さい長さを決定するためのデバイスであって、前記第１のタイプのデータの前記インスタンスが、第２のタイプのデータの少なくとも１つのインスタンスを予測するための情報を含み、前記デバイスは、
前記第２のタイプのデータのインスタンスを含む第２のセットのデータを取得するための第２のデータセットユニットであって、前記第２のタイプのデータのインスタンスが、物理エンティティの特性に基づいているデータを含む、第２のデータセットユニットと、
前記第１のタイプのデータのインスタンスのシーケンスを含む第１のセットのデータを取得するための第１のデータセットユニットであって、各シーケンスが、前記第２のセットの対応する要素のための、前記第１のタイプのデータのインスタンスの履歴を提供し、各シーケンスが、前記第２のセットの前記対応する要素が決定される時間的瞬間に先行するインスタンスを含み、前記第１のタイプのデータの前記インスタンスが、前記シーケンス中で時間に従って順序付けされ、前記第１のタイプのデータのインスタンスが、測定されたセンサーデータに基づいているデータを含む、第１のデータセットユニットと、
前記第１のセットのデータを所与とした前記第２のセットのデータのための第１の条件付きエントロピーを取得するための第１の条件付きエントロピーユニットと、
前記第１のセットのデータ中の前記シーケンスの長さが低減されたときに前記第１の条件付きエントロピーがファクタ分だけ増加する当該ファクタを示す最大エントロピー増加しきい値を取得するためのしきい値ユニットと、
前記低減された第１のセットのデータのシーケンスのための最も小さい長さを決定することによって、前記第２のタイプのデータのインスタンスを確実に予測するために前記第１のセットのデータ内に十分な履歴情報を維持しながら履歴の量を低減するため関連履歴の長さを決定するための長さ決定ユニットであって、前記低減された第１のセットのデータを所与とした第２のセットのデータのための第２の条件付きエントロピーが前記第１の条件付きエントロピーからの前記最大エントロピー増加しきい値内にあり、前記低減された第１のセットのデータが、前記最も小さい長さのシーケンスを含み、前記低減された第１のセットのデータの前記シーケンスが、前記第１のセットのデータ中のそれらの対応するシーケンスの前記第１のタイプのデータの最も最近のインスタンスを含む、長さ決定ユニットと、
前記シーケンスのための前記最も小さい長さを、前記関連履歴の長さとして、前記第１のタイプのデータのために記憶される履歴の量を低減するためのデータ低減装置に提供するための出力ユニットと
を備える、デバイス。
【請求項２】
第１のタイプのデータのインスタンスの履歴の長さを決定するための請求項１に記載のデバイスと、
前記第１のセットのデータに基づいており、前記第１のタイプのデータのインスタンスのシーケンスを含む、低減された第１のセットのデータを取得するためのデータ低減ユニットであって、前記低減された第１のセットのデータの前記シーケンスの長さが、第１のタイプのデータのインスタンスの履歴の長さを決定するための前記デバイスによって提供された決定された前記長さに基づく、データ低減ユニットと
を備える、データ低減システム。
【請求項３】
第１のタイプのデータのインスタンスを含むデータセットを低減するために前記第１のタイプのデータのインスタンスの履歴の長さを決定するためのコンピュータ実装方法であって、前記第１のタイプのデータの前記インスタンスが、第２のタイプのデータのインスタンスを予測するための情報を含み、前記コンピュータ実装方法は、
前記第２のタイプのデータのインスタンスを含む第２のセットのデータを取得するステップであって、前記第２のタイプのデータのインスタンスが、物理エンティティの特性に基づいているデータを含む、取得するステップと、
前記第１のタイプのデータのインスタンスのシーケンスを含む第１のセットのデータを取得するステップであって、各シーケンスが、前記第２のセットの対応する要素のための、前記第１のタイプのデータのインスタンスの履歴を提供し、各シーケンスが、前記第２のセットの前記対応する要素が決定される時間的瞬間に先行するインスタンスを含み、前記第１のタイプのデータの前記インスタンスが、前記シーケンス中で時間に従って順序付けされ、前記第１のタイプのデータのインスタンスが、測定されたセンサーデータに基づいているデータを含む、取得するステップと、
前記第１のセットのデータを所与とした前記第２のセットのデータのための第１の条件付きエントロピーを取得するステップと、
前記第１のセットのデータ中のシーケンスの長さが低減されたときに前記第１の条件付きエントロピーがファクタだけ増加する当該ファクタを示す最大エントロピー増加しきい値を取得するステップと、
前記低減された第１のセットのデータのシーケンスのための最も小さい長さを決定することによって、関連履歴の長さを決定するステップであって、低減された第１のセットのデータを所与とした前記第２のセットのデータのための第２の条件付きエントロピーが前記第１の条件付きエントロピーからの前記最大エントロピー増加しきい値内にあり、前記低減された第１のセットのデータが、前記最も小さい長さのシーケンスを含み、前記低減されたセットのデータの前記シーケンスが、前記第１のセットのデータ中のそれらの対応するシーケンスの前記第１のタイプのデータの最も最近のインスタンスを含む、決定するステップと、
前記シーケンスのための前記最も小さい長さを、前記関連履歴の前記長さとして、前記第１のタイプのデータのために記憶される履歴の量を低減するためのデータ低減装置に提供するステップと
を有する、コンピュータ実装方法。
【請求項４】
前記関連履歴の前記長さを決定するステップは、
前記第１のセットのデータからの一時的に低減された第１のセットのデータを取得するステップであって、前記一時的に低減された第１のセットにおいて、各シーケンスについて、前記第１のセットのデータの前記シーケンスと比較して最も古いインスタンスが除去された、取得するステップと、
前記一時的に低減された第１のセットを所与とした前記第２のセットのデータのための前記第２の条件付きエントロピーを取得するステップと、
前記第２の条件付きエントロピーが前記第１の条件付きエントロピーからの前記最大エントロピー増加しきい値内にあるかどうかを決定するために、前記第２の条件付きエントロピーを前記第１の条件付きエントロピーと比較するステップとを含み、
ａ）前記第２の条件付きエントロピーが前記第１の条件付きエントロピーからの前記最大エントロピー増加しきい値内にある場合、前記一時的に低減された第１のセットのデータの前記シーケンスから前記最も古いインスタンスを除去し、前記第２の条件付きエントロピーを取得するステップと、前記第２の条件付きエントロピーを前記第１の条件付きエントロピーと比較するステップとがもう一度実行されるか、又は
ｂ）前記第２の条件付きエントロピーが前記第１の条件付きエントロピーからの前記最大エントロピー増加しきい値内にない場合、前記関連履歴の決定された前記長さが、前記一時的に低減された第１のセットのデータのシーケンスの長さ＋１である、請求項３に記載のコンピュータ実装方法。
【請求項５】
前記第１の条件付きエントロピーを取得するステップが、
第１のコンテキストツリーを取得するために、前記第２のセットと前記第１のセットとにコンテキストツリー重み付け方法を適用するステップと、
前記第１の条件付きエントロピーの推定値を計算するために、第１のコンテキストツリーのルートの重み付けされた確率を使用するステップと
によって、前記第１の条件付きエントロピーを推定するステップを含み、
前記コンテキストツリー重み付け方法において、前記第１のセットの各一意のシーケンスが、前記第１のコンテキストツリー中の経路によって表され、第１のコンテキストツリーのノードに記憶されたカウントが、前記第２のセットの前記対応する要素に基づく、請求項３又は４に記載のコンピュータ実装方法。
【請求項６】
前記第２の条件付きエントロピーを取得するステップが、
第２のコンテキストツリーを取得するために、前記第２のセットと前記低減された第１のセット又は前記一時的に低減された第１のセットとに前記コンテキストツリー重み付け方法を適用するステップと、
推定された前記第２の条件付きエントロピーを計算するために、第２のコンテキストツリーのルートの重み付けされた確率を使用するステップと
によって前記第２の条件付きエントロピーを推定するステップを含み、
前記コンテキストツリー重み付け方法において、前記低減された第１のセット又は前記一時的に低減された第１のセットの各一意のシーケンスが、前記第２のコンテキストツリー中の経路によって表され、第２のコンテキストツリーのノードに記憶されたカウントが、前記第２のデータセットの前記対応する要素に基づく、請求項３乃至５のいずれか一項に記載のコンピュータ実装方法。
【請求項７】
前記第２のセットと前記低減された第１のセット又は前記一時的に低減された第１のセットとに前記コンテキストツリー重み付け方法を完全に適用する代わりに、前記第２のコンテキストツリーが、前記ルートから見て、前記低減された第１のセット又は前記一時的に低減された第１のセットのシーケンスの長さよりも大きい深度を有するリーフとノードとを前記第１のコンテキストツリーから除去することによって取得される、請求項５及び６に記載のコンピュータ実装方法。
【請求項８】
前記第１のタイプのデータの前記インスタンスが離散値である、請求項３乃至７のいずれか一項に記載のコンピュータ実装方法。
【請求項９】
前記第１のタイプのデータの前記インスタンスの前記離散値を取得するために連続データのインスタンスを量子化するステップをさらに有し、前記量子化するステップは、前記第２のタイプのデータと前記第１のタイプのデータとの間の相互情報量の損失が最大情報損失しきい値内であるように実行される、請求項８に記載のコンピュータ実装方法。
【請求項１０】
前記第１のセットのデータの各シーケンスが、前記関連履歴の決定された前記長さを有するまで、前記第１のタイプのデータの最も古いインスタンスを前記シーケンス中で削除することによって、前記第１のデータセットを低減するステップを更に有する、請求項３乃至９のいずれか一項に記載のコンピュータ実装方法。
【請求項１１】
前記第１のタイプのデータのインスタンスの最近の履歴を受信するステップと、
前記第２のタイプのデータのインスタンスを予測するために、又は予測モデルをトレーニングするために、前記低減された第１のセットのデータと前記第２のセットのデータとを使用するステップと
を更に有する、請求項１０に記載のコンピュータ実装方法。
【請求項１２】
請求項３乃至１１のいずれか一項に記載のコンピュータ実装方法を実施させるようにコンピュータ実行可能である命令を含む、コンピュータプログラム。
【国際調査報告】
2019508775.tif 000016
2019508775.tif 000017
2019508775.tif 000018