(57)【要約】【課題】故障した事例および打ち切られた事例を基にしたエンティティの残存耐用年数（ＲＵＬ）推定を提供する。【解決手段】本開示の実施形態は、LSTM-RNNを基にした順序回帰技法を実装することによって時系列データを使用してRULを推定するためのシステムおよび方法を提供し、トレーニング中に、故障した事例のRUL値は、モデルへのターゲットとして与えられるベクトルに符号化される。故障した事例とは異なり、打ち切られた事例の正確なRULは不明である。打ち切られた事例を使用するために、ターゲットベクトルが生成され、目的関数がトレーニングのために修正され、トレーニングされたLSTM-RNNを基にした順序回帰がRUL推定のために入力テスト時系列に適用される。【選択図】図2
2020009409.tif 000002
【特許請求の範囲】
【請求項１】
プロセッサによって実行される方法であって、
1つまたは複数のエンティティに関する第1の時系列データおよび第2の時系列データを取得するステップであって、前記第1の時系列データが、前記エンティティに関連付けられる1つまたは複数のパラメータに固有の1つまたは複数の故障した事例の時系列データを備え、前記第2の時系列データが、前記1つまたは複数のエンティティに関連付けられる前記1つまたは複数のパラメータに固有の1つまたは複数の打ち切られた事例の時系列データを備える、ステップ(202)と、
(i)前記1つまたは複数の故障した事例の残存耐用年数(RUL)、および(ii)前記1つまたは複数の打ち切られた事例の少なくとも最小RULを決定するステップ(204)と、
(i)前記1つまたは複数の故障した事例の前記RULを使用してバイナリラベルの第1のセット、および(ii)前記1つまたは複数の打ち切られた事例の前記少なくとも最小RULを使用してバイナリラベルの第2のセットをそれぞれ生成するステップ(206)と、
(i)バイナリラベルの前記第1のセットと、(ii)バイナリラベルの前記第2のセットおよびそれに関連付けられるラベル情報とを使用して、1つまたは複数のバイナリ分類子を備えるリカレントニューラルネットワーク(RNN)を基にした順序回帰モデル(ORM)をトレーニングするステップ(208)と
を備える、プロセッサによって実行される方法。
【請求項２】
前記1つまたは複数のエンティティの1つまたは複数のパラメータに関する時系列データを取得するステップであって、前記時系列データが、1つまたは複数のテスト事例を備える、ステップ(210)と、
前記1つまたは複数のテスト事例を備える前記時系列データに、1つまたは複数のトレーニングされたバイナリ分類子を備える前記トレーニングされたRNNを基にしたORMを適用して、前記1つまたは複数のトレーニングされたバイナリ分類子ごとにターゲットラベルの推定値を取得するステップであって、ターゲットベクトルの推定値が、前記1つまたは複数のトレーニングされたバイナリ分類子の各々について取得されたターゲットラベルの前記推定値を使用して取得される、ステップ(212)と、
ターゲットベクトルの前記推定値を使用することによって、前記1つまたは複数のエンティティの前記1つまたは複数のテスト事例に固有のRUL推定値を生成するステップ(214)と
をさらに備える、請求項1に記載のプロセッサによって実行される方法。
【請求項３】
前記1つまたは複数のパラメータが1つまたは複数のセンサから取得される、請求項1に記載のプロセッサによって実行される方法。
【請求項４】
システム(100)であって、
命令を記憶するメモリ(102)と、
1つまたは複数の通信インターフェース(106)と、
前記1つまたは複数の通信インターフェース(106)を介して前記メモリ(102)に結合された1つまたは複数のハードウェアプロセッサ(104)と、を備え、前記1つまたは複数のハードウェアプロセッサ(104)が、前記命令によって、
1つまたは複数のエンティティに関する第1の時系列データおよび第2の時系列データを取得することであって、前記第1の時系列データが、前記1つまたは複数のエンティティに関連付けられる1つまたは複数のパラメータに固有の1つまたは複数の故障した事例の時系列データを備え、前記第2の時系列データが、前記1つまたは複数のエンティティに関連付けられる前記1つまたは複数のパラメータに固有の1つまたは複数の打ち切られた事例の時系列データを備える、前記取得することと、
(i)前記1つまたは複数の故障した事例の残存耐用年数(RUL)、および(ii)前記1つまたは複数の打ち切られた事例の少なくとも最小RULを決定することと、
(i)前記1つまたは複数の故障した事例の前記RULを使用してバイナリラベルの第1のセット、および(ii)前記1つまたは複数の打ち切られた事例の前記少なくとも最小RULを使用してバイナリラベルの第2のセットをそれぞれ生成することと、
(i)バイナリラベルの前記第1のセットと、(ii)バイナリラベルの前記第2のセットおよびそれに関連付けられるラベル情報とを使用して、1つまたは複数のバイナリ分類子を備えるリカレントニューラルネットワーク(RNN)を基にした順序回帰モデル(ORM)をトレーニングすることと、
を行うように構成されたシステム。
【請求項５】
前記1つまたは複数のハードウェアプロセッサが、
前記1つまたは複数のエンティティの1つまたは複数のパラメータに関する時系列データを取得することであって、前記時系列データが、1つまたは複数のテスト事例を備える、前記取得することと、
前記1つまたは複数のテスト事例を備える前記時系列データに、1つまたは複数のトレーニングされたバイナリ分類子を備える前記トレーニングされたRNNを基にしたORMを適用して、前記1つまたは複数のトレーニングされたバイナリ分類子ごとにターゲットラベルの推定値を取得することであって、ターゲットベクトルの推定値が、前記1つまたは複数のトレーニングされたバイナリ分類子の各々について取得されたターゲットラベルの前記推定値を使用して取得される、前記取得することと、
ターゲットベクトルの前記推定値を使用することによって、前記1つまたは複数のエンティティの前記1つまたは複数のテスト事例に固有のRUL推定値を生成することと、
を行うようにさらに構成された、請求項4に記載のシステム。
【請求項６】
前記1つまたは複数のパラメータが1つまたは複数のセンサから取得される、請求項4に記載のシステム。
【請求項７】
1つまたは複数の命令を備える1つまたは複数の非一時的な機械読み取り可能な情報記憶媒体であって、
前記1つまたは複数の命令は、1つまたは複数のハードウェアプロセッサによって実行されると、
1つまたは複数のエンティティに関する第1の時系列データおよび第2の時系列データを取得することであって、前記第1の時系列データが、前記エンティティに関連付けられる1つまたは複数のパラメータに固有の1つまたは複数の故障した事例の時系列データを備え、前記第2の時系列データが、前記1つまたは複数のエンティティに関連付けられる前記1つまたは複数のパラメータに固有の1つまたは複数の打ち切られた事例の時系列データを備える、前記取得することと、
(i)前記1つまたは複数の故障した事例の残存耐用年数(RUL)、および(ii)前記1つまたは複数の打ち切られた事例の少なくとも最小RULを決定することと、
(i)前記1つまたは複数の故障した事例の前記RULを使用してバイナリラベルの第1のセット、および(ii)前記1つまたは複数の打ち切られた事例の前記少なくとも最小RULを使用してバイナリラベルの第2のセットをそれぞれ生成することと、
(i)バイナリラベルの前記第1のセットと、(ii)バイナリラベルの前記第2のセットおよびそれに関連付けられるラベル情報とを使用して、1つまたは複数のバイナリ分類子を備えるリカレントニューラルネットワーク(RNN)を基にした順序回帰モデル(ORM)をトレーニングすることと、
によって、エンティティの残存耐用年数を、それに関連付けられる故障した事例および打ち切られた事例を使用して推定させる、1つまたは複数の非一時的な機械読み取り可能な情報記憶媒体。
【請求項８】
前記命令は、前記1つまたは複数のハードウェアプロセッサによって実行されると、
前記1つまたは複数のエンティティの1つまたは複数のパラメータに関する時系列データを取得することであって、前記時系列データが、1つまたは複数のテスト事例を備える、前記取得することと、
前記1つまたは複数のテスト事例を備える前記時系列データに、1つまたは複数のトレーニングされたバイナリ分類子を備える前記トレーニングされたRNNを基にしたORMを適用して、前記1つまたは複数のトレーニングされたバイナリ分類子ごとにターゲットラベルの推定値を取得することであって、ターゲットベクトルの推定値が、前記1つまたは複数のトレーニングされたバイナリ分類子の各々について取得されたターゲットラベルの前記推定値を使用して取得される、前記取得することと、
ターゲットベクトルの前記推定値を使用することによって、前記1つまたは複数のエンティティの前記1つまたは複数のテスト事例に固有のRUL推定値を生成することと、
をさらに行わせる、請求項7に記載の1つまたは複数の非一時的な機械読み取り可能な情報記憶媒体。
【請求項９】
前記1つまたは複数のパラメータが1つまたは複数のセンサから取得される、請求項7に記載の1つまたは複数の非一時的な機械読み取り可能な情報記憶媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
関連出願への相互参照および優先権
本出願は、2018年7月9日にインドにおいて出願された、発明の名称を「FAILED AND CENSORED INSTANCES BASED REMAINING USEFUL LIFE (RUL) ESTIMATION OF ENTITIES」とする出願番号第201821025626号のインドの完全な明細書の優先権を主張する。
【０００２】
本明細書の開示は、概して、残存耐用年数(RUL)推定に関し、より詳細には、長期短期記憶リカレントニューラルネットワーク(LSTM-RNN)を基にした順序回帰技法およびシステムを使用する、故障した事例および打ち切られた事例を基にしたエンティティの残存耐用年数の推定に関する。
【背景技術】
【０００３】
現在のデジタル時代においては、ストリーミングデータは遍在し、様々なオリジナルの製品の製造業者は、動作サポートを提供し、高い信頼性と可用性を確保し、機器の動作コストを削減するために、産業用のモノのインターネット対応の遠隔ヘルスモニタリングサービスに強い関心を寄せている。機器の運転挙動を捕捉するために、多数のセンサが設置されている。データ駆動型残存耐用年数(RUL)推定モジュールは、そのようなヘルスモニタリングアプリケーションの重要な構成要素である。
【０００４】
最近、異常検知および故障予測技術を含む様々なセンサデータ駆動型ヘルスモニタリングタスクのためのディープラーニング手法が提案されており、リカレントニューラルネットワーク(RNN)を使用したRUL推定のための最先端の結果が得られている。しかしながら、ヘルスモニタリングのためのディープラーニング手法には一定の制限がある。そのような制限の1つは、過剰適合を回避するために、ディープニューラルネットワーク(DNN)が多数のラベル付きトレーニング事例を必要とすることである。しかしながら、故障はまれであるため、そのような事例は利用できないことがしばしばある。事例の故障時間がわかっている場合は、故障時間より前の任意の時点でターゲットRULが取得され得る。
【０００５】
RUL推定のために、ディープRNNおよび畳み込みニューラルネットワーク(CNN)が提案されてきた。これらの手法のほとんどは、RUL推定がメトリック回帰(MR)問題であると考えており、RULの正規化推定は、データから学習した非線形回帰メトリック関数を介してセンサデータの時系列を与えられて取得される。RUL推定のMR定式化は、RUL推定シナリオにおいて通常遭遇する打ち切られたデータを直接活用することができず、RULの不正確な予測を導く点に留意されたい。
【発明の概要】
【課題を解決するための手段】
【０００６】
本開示の実施形態は、従来のシステムにおける本発明者らによって認識された上述の技術的問題のうちの1つまたは複数に対する解決策として技術的改善を提示する。たとえば、一態様では、エンティティの残存耐用年数を、それに関連付けられる故障した事例および打ち切られた事例を使用して推定するためのプロセッサによって実行される方法が提供される。本方法は、1つまたは複数のエンティティに関する第1の時系列データおよび第2の時系列データを取得するステップであって、第1の時系列データが、エンティティに関連付けられる1つまたは複数のパラメータに固有の1つまたは複数の故障した事例の時系列データを備え、第2の時系列データが、1つまたは複数のエンティティに関連付けられる1つまたは複数のパラメータに固有の1つまたは複数の打ち切られた事例の時系列データを備える、ステップを含む。一実施形態では、1つまたは複数の故障した事例からの第1の故障した事例は第1のエンティティから取得され、第2の故障した事例は第1のエンティティとは異なる第2のエンティティから取得される。一実施形態では、1つまたは複数の打ち切られた事例からの第1の打ち切られた事例は第1のエンティティから取得され、第2の打ち切られた事例は第1のエンティティとは異なる第2のエンティティから取得される。一例では、第1のエンティティは、たとえばM1という機械とすることができ、第2のエンティティは、たとえばM2という別の機械とすることができる。本方法は、(i)1つまたは複数の故障した事例の残存耐用年数(RUL)、および(ii)1つまたは複数の打ち切られた事例の少なくとも最小RULを決定するステップと、(i)1つまたは複数の故障した事例の絶対RULを使用してバイナリラベルの第1のセット、および(ii)1つまたは複数の打ち切られた事例の少なくとも最小RULを使用してバイナリラベルの第2のセットをそれぞれ生成するステップと、(i)バイナリラベルの第1のセットと、(ii)バイナリラベルの第2のセットおよびそれに関連付けられるラベル情報とを使用して、1つまたは複数のバイナリ分類子を備えるリカレントニューラルネットワーク(RNN)を基にした順序回帰モデル(ORM)をトレーニングするステップと、をさらに含む。一実施形態では、1つまたは複数のパラメータは1つまたは複数のセンサ
から取得される。
【０００７】
一実施形態では、本方法は、1つまたは複数のエンティティの1つまたは複数のパラメータに関する時系列データを取得するステップであって、時系列データが、1つまたは複数のテスト事例を備える、ステップと、1つまたは複数のテスト事例を備える時系列データに、1つまたは複数のトレーニングされたバイナリ分類子を備えるトレーニングされたRNNを基にしたORMを適用して、1つまたは複数のトレーニングされたバイナリ分類子からトレーニングされたバイナリ分類子ごとにターゲットラベルの推定値を取得するステップであって、ターゲットベクトルの推定値が、1つまたは複数のトレーニングされたバイナリ分類子の各々について取得されたターゲットラベルの推定値を使用して取得される、ステップと、ターゲットベクトルの推定値を使用することによって、1つまたは複数のエンティティの1つまたは複数のテスト事例に固有のRUL推定値を生成するステップと、をさらに備え得る。
【０００８】
別の態様では、エンティティの残存耐用年数を、それに関連付けられる故障した事例および打ち切られた事例を使用して推定するためのプロセッサによって実装されたシステムが提供される。本システムは、命令を記憶するメモリと、1つまたは複数の通信インターフェースと、1つまたは複数の通信インターフェースを介してメモリに結合された1つまたは複数のハードウェアプロセッサとを備え、1つまたは複数のハードウェアプロセッサは、命令によって、1つまたは複数のエンティティに関する第1の時系列データおよび第2の時系列データを取得することであって、第1の時系列データが、1つまたは複数のエンティティに関連付けられる1つまたは複数のパラメータに固有の1つまたは複数の故障した事例に関する時系列データを備え、第2の時系列データが、1つまたは複数のエンティティに関連付けられる1つまたは複数のパラメータに固有の1つまたは複数の打ち切られた事例に関する時系列データを備える、前記取得することと、(i)1つまたは複数の故障した事例の残存耐用年数(RUL)、および(ii)1つまたは複数の打ち切られた事例の少なくとも最小RULを決定することと、(i)1つまたは複数の故障した事例の絶対RULを使用してバイナリラベルの第1のセット、および(ii)1つまたは複数の打ち切られた事例の少なくとも最小RULを使用してバイナリラベルの第2のセットをそれぞれ生成することと、(i)バイナリラベルの第1のセットと、(ii)バイナリラベルの第2のセットおよびそれに関連付けられるラベル情報とを使用して、1つまたは複数のバイナリ分類子を備えるリカレントニューラルネットワーク(RNN)を基にした順序回帰モデル(ORM)をトレーニングすることと、を行うように構成される。一実施形態では、1つまたは複数のパラメータは1つまたは複数のセンサから取得される。
【０００９】
一実施形態では、1つまたは複数のハードウェアプロセッサは、命令によって、1つまたは複数のエンティティの1つまたは複数のパラメータに関する時系列データを取得することであって、時系列データが、1つまたは複数のテスト事例を備える、前記取得することと、1つまたは複数のテスト事例を備える時系列データに、1つまたは複数のトレーニングされたバイナリ分類子を備えるトレーニングされたRNNを基にしたORMを適用して、1つまたは複数のトレーニングされたバイナリ分類子からトレーニングされたバイナリ分類子ごとにターゲットラベルの推定値を取得することであって、ターゲットベクトルの推定値が、1つまたは複数のトレーニングされたバイナリ分類子の各々について取得されたターゲットラベルの推定値を使用して取得される、前記取得することと、ターゲットベクトルの推定値を使用することによって、1つまたは複数のエンティティの1つまたは複数のテスト事例に固有のRUL推定値を生成することと、を行うようにさらに構成される。
【００１０】
さらに別の態様では、1つまたは複数のハードウェアプロセッサによって実行されると、1つまたは複数のエンティティに関する第1の時系列データおよび第2の時系列データを取得することであって、第1の時系列データが、1つまたは複数のエンティティに関連付けられる1つまたは複数のパラメータに固有の1つまたは複数の故障した事例に関する時系列データを備え、第2の時系列データが、1つまたは複数のエンティティに関連付けられる1つまたは複数のパラメータに固有の1つまたは複数の打ち切られた事例に関する時系列データを備える、前記取得することと、(i)1つまたは複数の故障した事例の残存耐用年数(RUL)、および(ii)1つまたは複数の打ち切られた事例の少なくとも最小RULを決定することと、(i)1つまたは複数の故障した事例のRULを使用してバイナリラベルの第1のセット、および(ii)1つまたは複数の打ち切られた事例の少なくとも最小RULを使用してバイナリラベルの第2のセットをそれぞれ生成することと、(i)バイナリラベルの第1のセットと、(ii)バイナリラベルの第2のセットおよびそれに関連付けられるラベル情報とを使用して、1つまたは複数のバイナリ分類子を備えるリカレントニューラルネットワーク(RNN)を基にした順序回帰モデル(ORM)をトレーニングすることと、によって、エンティティの残存耐用年数を、それに関連付けられる故障した事例および打ち切られた事例を使用して推定させる1つまたは複数の命令を備える1つまたは複数の非一時的な機械読み取り可能な情報記憶媒体が提供される。一実施形態では、1つまたは複数のパラメータは1つまたは複数のセンサから取得される。
【００１１】
一実施形態では、1つまたは複数のハードウェアプロセッサによって実行されると、命令は、1つまたは複数のエンティティの1つまたは複数のパラメータに関する時系列データを取得することであって、時系列データが、1つまたは複数のテスト事例を備える、前記取得することと、1つまたは複数のテスト事例を備える時系列データに、1つまたは複数のトレーニングされたバイナリ分類子を備えるトレーニングされたRNNを基にしたORMを適用して、1つまたは複数のトレーニングされたバイナリ分類子からトレーニングされたバイナリ分類子ごとにターゲットラベルの推定値を取得することであって、ターゲットベクトルの推定値が、1つまたは複数のトレーニングされたバイナリ分類子の各々について取得されたターゲットラベルの推定値を使用して取得される、前記取得することと、ターゲットベクトルの推定値を使用することによって、1つまたは複数のエンティティの1つまたは複数のテスト事例に固有のRUL推定値を生成することと、をさらに引き起こしてもよい。
【００１２】
前述の全般的な説明および以下の詳細な説明の両方は、例示的および説明的なものにすぎず、特許請求の範囲に記載される本発明を限定するものではないことを理解されたい。
【００１３】
本開示に組み込まれてその一部を構成する添付の図面は、例示的な実施形態を示し、その説明とともに、開示された原理を説明するのに役立つ。
【図面の簡単な説明】
【００１４】
【図１】本開示の一実施形態による、パラメータの関連付けられる故障した事例および打ち切られた事例を使用してエンティティの残存耐用年数(RUL)を推定するためのシステムの例示的なブロック図である。
【図２】本開示の一実施形態による、図1のシステムを使用してパラメータの関連付けられる故障した事例および打ち切られた事例を使用してエンティティの残存耐用年数(RUL)を推定するための方法を示す例示的な流れ図である。
【図３Ａ】例示的な従来のディープメトリック回帰(ディープMR)方法／技法を示す図である。
【図３Ｂ】本開示の一実施形態による、図1のシステムによって実装されるような、故障した事例に対する例示的な順序回帰を示す図である。
【図３Ｃ】本開示の一実施形態による、図1のシステムによって実装されるような、打ち切られた事例に対する例示的な順序回帰を示す図である。
【図４Ａ】本開示の一実施形態による、図1のシステムによる故障した事例対打ち切られた事例のターゲットベクトル作成を示す図である。
【図４Ｂ】本開示の一実施形態による、図1のシステムによる故障した事例対打ち切られた事例のターゲットベクトル作成を示す図である。
【図５】本開示の例示的な実施形態による、それらの関連付けられる故障した事例および打ち切られた事例を使用してエンティティのRULを推定するための、図1のシステムによって実装される長期短期記憶−順序回帰(LSTM-OR)技法の流れ図を示す例示的なブロック図である。
【図６Ａ】本発明の一実施形態による、トレーニング中の故障した事例数(nf)の減少を伴うメトリック回帰(MR)技法に対するORC(損失関数を使用して故障した事例とともに打ち切られたデータを活用するLSTM-OR)の利得増加率を示すグラフ図である。
【図６Ｂ】本発明の一実施形態による、トレーニング中の故障した事例数(nf)の減少を伴うメトリック回帰(MR)技法に対するORC(損失関数を使用して故障した事例とともに打ち切られたデータを活用するLSTM-OR)の利得増加率を示すグラフ図である。
【図６Ｃ】本発明の一実施形態による、トレーニング中の故障した事例数(nf)の減少を伴うメトリック回帰(MR)技法に対するORC(損失関数を使用して故障した事例とともに打ち切られたデータを活用するLSTM-OR)の利得増加率を示すグラフ図である。
【図６Ｄ】本発明の一実施形態による、トレーニング中の故障した事例数(nf)の減少を伴うメトリック回帰(MR)技法に対するORC(損失関数を使用して故障した事例とともに打ち切られたデータを活用するLSTM-OR)の利得増加率を示すグラフ図である。
【発明を実施するための形態】
【００１５】
例示的な実施形態が、添付の図面を参照して説明される。図面において、参照番号の左端の数字は、その参照番号が最初に現れる図面を識別する。都合のよい場合にはいつでも、同じまたは同様の部分を指すために図面全体を通して同じ参照番号が使用される。開示された原理の例および特徴が本明細書に記載されているが、開示された実施形態の趣旨および範囲から逸脱することなしに、修正形態、適応、および他の実装形態が可能である。以下の詳細な説明は例示としてのみ考察されるべきであり、真の範囲および趣旨は添付の特許請求の範囲によって示されることが意図される。
【００１６】
センサデータストリームを使用する機器の残存耐用年数(RUL)の推定は、状態を基にしたメンテナンスを可能にし、差し迫った障害による致命的なシャットダウンを回避するために役立つ。上述したように、モデルをトレーニングするために、故障した事例の履歴センサデータを活用する、教師付きディープラーニング手法がRUL推定のために提案されてきた。しかしながら、実際のシナリオでは、ディープネットワークをトレーニングするために必要な多数の故障した事例にアクセスすることは、多くの場合ほとんどない。一方、現在動作されている多数の事例からのデータは簡単にアクセスされるが、これらの事例のターゲット(RUL)ラベルの明らかな不足のため、トレーニングには使用できないと見なされる。本開示では、センサデータの時系列からのRUL推定のためにディープリカレントニューラルネットワーク(RNN)をトレーニングしながら、これらの動作事例を活用するために、長期短期記憶リカレントニューラルネットワーク(LSTM-RNN)を基にした順序回帰技法およびシステムが提案される。本開示は、RUL推定を順序回帰(OR)問題として定式化し、OR機能を学習するためにディープRNNを採用する。本開示によって行われた実験結果は、RUL推定問題のORを基にした定式化が打ち切られた動作事例をトレーニングデータに組み込むことを自然に可能にし、より堅牢な学習をもたらすことを示す。C-MAPSSターボファンエンジンベンチマークデータセットに関する実験を通じて、本開示は、特に故障したトレーニング事例が少ない場合に、提案された技法が一般に使用されるディープメトリック回帰を基にした手法よりも良好に機能することを実証する。
【００１７】
より具体的には、提案されたLSTM-ORは、生のセンサデータの時系列からRULへの非線形マッピングを学習するためにディープラーニングの利点を活用し、限られた故障事例によって生じる小さいラベル付きデータ問題を克服するために打ち切られたデータを使用する。
【００１８】
RUL推定のための重要な種類の手法は、軌跡の類似性に基づく。これらの手法は、ユークリッド距離などの距離メトリックを使用してRULを推定するために、テスト事例の健全性インデックスの軌跡または傾向を、故障したトレーニング事例の軌跡と比較する。そのような手法は、軌跡が本質的に滑らかで単調である場合にはうまく機能するが、ノイズまたは断続的な外乱(たとえばスパイク、動作モード変更など)があるシナリオにおいては、距離メトリックがそのようなシナリオに対して堅牢ではない場合があるので、故障する可能性が高い。別の種類の手法は、上述したようにメトリック回帰に基づいている。傾向の比較に依存する軌跡類似性を基にした方法とは異なり、メトリック回帰方法は、センサデータをRULに直接マッピングするために関数を学習することを試みる。そのような方法は、ノイズに関係なく関連する根本的な傾向に焦点を合わせることを学習することによって、非単調でノイズの多いシナリオをよりよく扱うことができる。メトリック回帰方法の中では、所与の時間事例におけるセンサの値からRULへのマッピングを学習するためのサポートベクトル回帰のような非時間モデルを考察した方法はほとんどない。
【００１９】
RNNまたは畳み込みニューラルネットワーク(CNN)に基づくモデルのようなディープ時間モデルは、非時間モデルと比較して劣化の傾向をよりよく捕捉することができ、より優れた性能を発揮することが証明されている。さらに、これらのモデルは、特徴エンジニアリングを必要とせずに、エンドツーエンドの学習方法でトレーニングされ得る。ディープモデルのこれらすべての利点にもかかわらず、故障した事例の数が少なく、データの大部分が打ち切られるという、よくある実務的なシナリオに過剰適合しがちである。本開示による提案された手法は、より堅牢なモデルを取得するために故障した事例に加えて打ち切られた事例を使用することによって、そのようなシナリオに対処するための順序回帰規定に基づく。
【００２０】
ディープ生存時間分析のための技法のセットが医学分野で提案されている。同様に、資産ヘルスモニタリングのためにディープラーニングと生存時間分析を組み合わせる手法がこれまでに提案されている。しかしながら、所与の時点での生存確率の推定に焦点を当てること、および／または生存時間に関する分布(ワイブル分布など)を仮定することから、そのような手法がRUL推定アプリケーションにどのように適応され得るかについては明らかでなく、RUL推定値は提供できない。一方、LSTM-ORは、そのような仮定をせずに、センサデータの時系列を使用してRUL推定値を提供することができる。これに関連して、本開示の実施形態は、RUL推定への応用を伴う、時系列データからのディープ順序回帰のためのLSTM-ORを提案する。少ないラベル付きトレーニングデータの前述の問題に対処するために、本開示は、ラベル付きトレーニングデータを増強するために、容易に利用可能な動作(故障していない)事例から部分的にラベル付きのトレーニング事例を生成し、堅牢なRUL推定モデルを生成する手法を提案する。
【００２１】
次に、図面、より具体的には図1〜図6Dを参照すると、図面を通して一貫して同様の参照文字が対応する特徴を示しており、好ましい実施形態が示されており、これらの実施形態は、以下の例示的なシステムおよび／または方法に関連して説明される。
【００２２】
図1は、本開示の一実施形態による、パラメータの関連付けられる故障した事例および打ち切られた事例を使用してエンティティの残存耐用年数を推定するためのシステム100の例示的なブロック図である。一実施形態では、システム100は「RULシステム」と呼ばれることもあり、以下では互換的に使用される。一実施形態では、システム100は、1つまたは複数のプロセッサ104と、通信インターフェースデバイスまたは入力／出力(I/O)インターフェース106と、1つまたは複数のプロセッサ104に動作可能に結合された1つまたは複数のデータ記憶デバイスまたはメモリ102とを含む。メモリ102はデータベース108を備える。ハードウェアプロセッサである1つまたは複数のプロセッサ104は、1つまたは複数のマイクロプロセッサ、マイクロコンピュータ、マイクロコントローラ、デジタル信号プロセッサ、中央処理装置、状態機械、論理回路、および／または動作命令に基づいて信号を操作する任意のデバイスとして実装され得る。他の機能の中でも、プロセッサは、メモリに記憶されているコンピュータ読み取り可能な命令をフェッチして実行するように構成されている。一実施形態では、システム100は、ラップトップコンピュータ、ノートブック、携帯用デバイス、ワークステーション、メインフレームコンピュータ、サーバ、ネットワーククラウドなどの様々なコンピューティングシステムにおいて実装され得る。
【００２３】
I/Oインターフェースデバイス106は、たとえばウェブインターフェース、グラフィカルユーザインターフェースなどの様々なソフトウェアおよびハードウェアインターフェースを含むことができ、たとえばLAN、ケーブルなどの有線ネットワーク、およびWLAN、セルラー、衛星などの無線ネットワークなどを含む多種多様なネットワークN/Wおよびプロトコルタイプ内の複数の通信を容易にすることができる。一実施形態では、I/Oインターフェースデバイスは、いくつかのデバイスを互いにまたは別のサーバに接続するための1つまたは複数のポートを含むことができる。
【００２４】
メモリ102は、たとえばスタティックランダムアクセスメモリ(SRAM)およびダイナミックランダムアクセスメモリ(DRAM)などの揮発性メモリ、ならびに／またはリードオンリメモリ(ROM)、消去可能プログラマブルROM、フラッシュメモリ、ハードディスク、光ディスク、および磁気テープなどの不揮発性メモリを含む、当技術分野において知られている任意のコンピュータ読み取り可能な媒体を含み得る。
【００２５】
データベース108は、これらに限定されないが、1つまたは複数のセンサから取得された複数のパラメータ情報を記憶し得、パラメータは、1つまたは複数のエンティティ(たとえば、ユーザ、機械など)に固有のものである。パラメータは、ユーザおよび／または機械に接続されたセンサを通じて捕捉されたセンサデータを備え得る。さらに、データベース108は、本明細書に記載の方法論に特有の、システム100に供給される入力および／またはシステムによって(たとえば、各段階で)生成される出力に関する情報を記憶する。より具体的には、データベース108は、提案された方法の各ステップにおいて処理されている情報を記憶する。
【００２６】
図2は、図1を参照して、本開示の一実施形態による、図1のシステム100を使用してパラメータの関連付けられる故障した事例および打ち切られた事例を使用してエンティティの残存耐用年数を推定するための方法を示す例示的な流れ図を示している。一実施形態では、システム100は、1つまたは複数のハードウェアプロセッサ104に動作可能に結合された1つまたは複数のデータ記憶デバイスあるいはメモリ102を備え、1つまたは複数のプロセッサ104による方法のステップの実行のための命令を記憶するように構成される。
【００２７】
本開示は、従来のシステム／方法に記載されているように、ニューラルネットワークシステム(たとえば、システム100)の隠れ層において、長期短期記憶(LSTM)の変形を使用する(たとえば、「Wojciech Zaremba, Ilya Sutskever, and Oriol Vinyals. 2014-Recurrent neural network regularization, arXiv preprintarXiv:1409.2329 (2014)」を参照)。一実施形態では、システム100は、順序回帰(OR)のための「ディープ長期短期記憶(LSTM)リカレントニューラルネットワーク(RNN)システム」と呼ばれることもあり、以下では互換的に使用され得る。本開示では、列ベクトルは「太字の小ベクトル」で、および行列は「太字の大文字」でそれぞれ表され得る。h個のLSTMユニットを有する隠れ層に対して、時間tにおける入力ゲートit、忘却ゲートft、出力ゲートot、隠れ状態zt、およびセル状態ctの値は、現在の入力xt、前の隠れ状態zt-1、およびセル状態ct-1を使用して計算され、ここで、it、ft、ot、zt、およびctは、実数値のh次元ベクトルである。
【００２８】
本開示は、
【００２９】
【数１】
2020009409.tif 000003
【００３０】
を、行列Wのz→Wz+b、および適切な次元のベクトルbの形式のアフィン変換と見なす。各層においてL個の層およびh個のLSTMユニットを有する多層LSTMネットワークの場合、l番目の隠れ層に対する時刻tにおける隠れ状態
【００３１】
【数２】
2020009409.tif 000004
【００３２】
は、その層
【００３３】
【数３】
2020009409.tif 000005
【００３４】
に対するt-1における隠れ状態と、前の(l-1)番目の隠れ層
【００３５】
【数４】
2020009409.tif 000006
【００３６】
に対するtにおける隠れ状態から取得される。時系列は、t=1からTまで、l番目の隠れ層において次の変換を繰り返し、ここで、Tは時系列の長さである:
【００３７】
【数５】
2020009409.tif 000007
【００３８】
上式で、セル状態
【００３９】
【数６】
2020009409.tif 000008
【００４０】
は
【００４１】
【数７】
2020009409.tif 000009
【００４２】
によって与えられ、隠れ状態
【００４３】
【数８】
2020009409.tif 000010
【００４４】
は
【００４５】
【数９】
2020009409.tif 000011
【００４６】
によって与えられる。ドロップアウトは、正則化に使用され(たとえば、「Vu Pham, Th'eodore Bluche, Christopher Kermorvant, and Jerome Louradour. 2014. Dropout improves recurrent neural networks for handwriting recognition. In Frontiers in Handwriting Recognition (ICFHR). IEEE, 285-290.」を参照)、これは非リカレント接続にのみ適用され、任意のLSTMユニットのタイムステップ間での情報の流れを保証する。ドロップアウト演算子D(.)は、ドロップアウト率に等しい確率で、その引数の次元をランダムにゼロに設定する。シグモイド(σ)および(tanh)活性化関数は要素ごとに適用される。
【００４７】
一言で言えば、このt=1、...Tの一連の変換は、長さTの入力時系列x=x1、...xTを固定次元ベクトル
【００４８】
【数１０】
2020009409.tif 000012
【００４９】
に変換する。したがって、本開示(またはシステム100)は、
【００５０】
【数１１】
2020009409.tif 000013
【００５１】
となるように、関数fLSTMによってLSTMネットワークを表し、上式で、WはLSTMネットワークのすべてのパラメータを表す。
【００５２】
n個の故障した事例のラーニングセット
【００５３】
【数１２】
2020009409.tif 000014
【００５４】
を考察すると、ここで、γiはターゲットRULであり、
【００５５】
【数１３】
2020009409.tif 000015
【００５６】
は長さTiの多変量時系列であり、
【００５７】
【数１４】
2020009409.tif 000016
【００５８】
、ρは入力パラメータ(センサまたはセンサデータ)の数である。故障点までの事例iの全動作寿命はFiであり、Ti≦Fiとなる。したがって、γi=Fi-Tiは、所与の測定単位、たとえばサイクル数または動作時間におけるRULである。簡潔にするために、(特に明記しない限り)上付き文字iは、例を考察した定式化を提供するために省略され得る。
【００５９】
本開示(および／またはシステム100)は、RULの可能な値についての上限、たとえば、γuを考察し、実際には、将来的にあまりにも先を見越して予測することは不可能である。γ>γuの場合、γの値はγuに切り捨てられる。メトリック回帰(MR)を介するRUL推定の通常定義されている目標は、マッピングfMR:X→[0、γu]を学ぶことである。図3Aは、図1〜図2を参照して、例示的な従来のディープメトリック回帰方法を示している。図3Bは、図1〜図3Aを参照して、本開示の一実施形態による、図1のシステム100によって実装されるような、故障した事例に対する例示的な順序回帰を示している。図3Cは、図1〜図3Bを参照して、本開示の一実施形態による、図1のシステム100によって実装されるような、打ち切られた事例に対する例示的な順序回帰を示している。上記を念頭に置いて、本開示は、図5に示されるようなLSTMを基にした順序回帰(LSTM-OR)手法を説明する。
【００６０】
本開示では、図3Aに示される従来の方法(たとえばMR)のように入力時系列を実数値にマッピングする代わりに、システム100は、RUL値の範囲[0、γu]をそれぞれ長さcのK個の区間にブレイク(または分割)し、ここで各区間は離散変数と見なされる。j番目の区間は
【００６１】
【数１５】
2020009409.tif 000017
【００６２】
に対応し、γは
【００６３】
【数１６】
2020009409.tif 000018
【００６４】
でk番目の区間にマッピングされ、ここで、
【００６５】
【数１７】
2020009409.tif 000019
【００６６】
は天井関数を示す。
【００６７】
システム100は、K個の離散変数(区間)についてK個のバイナリ分類副問題を考察する。分類子(classifier)Cjは、
【００６８】
【数１８】
2020009409.tif 000020
【００６９】
であるかどうかを決定するバイナリ分類問題を解く。
【００７０】
システム100は、それらをマルチラベル分類問題として一緒にモデル化することによって、K個のバイナリ分類タスクについて同時にLSTMネットワークをトレーニングする。マルチラベルターゲットベクトルは、次の例示的な式によって取得される:γからy=[y1、...yK]∈{0、1}K。したがって、
【００７１】
【数１９】
2020009409.tif 000021
【００７２】
上式で、j=1,2,...,Kである。
【００７３】
たとえば、K=5であり、γが3番目の区間にマッピングし、したがってk=3であるシナリオを考察する。次いで、ターゲットは、図4Aに示されるように、y=[0、0、1、1、1]によって与えられる。より具体的には、図4A〜図4Bは、本開示の一実施形態による、図1のシステム100による故障した事例対打ち切られた事例のターゲットベクトル作成を示している。効果的には、LSTM-ORの目的は、次式によって与えられる損失関数Lを最小化することによって、マッピングfOR:X→{0、1}Kを学習することである:
【００７４】
【数２０】
2020009409.tif 000022
【００７５】
上式で、
【００７６】
【数２１】
2020009409.tif 000023
【００７７】
はターゲットyの推定値であり、WはLSTMネットワークのパラメータを表し、Wcとbcは
【００７８】
【数２２】
2020009409.tif 000024
【００７９】
を出力シグモイド層にマッピングする層のパラメータである。
【００８０】
任意の打ち切られた事例について、データは、故障前の時間Tまでしか利用できず、故障時間Fは不明である(たとえば、図4B参照)。したがって、ターゲットRUL  γもまた不明である。しかしながら、(s.t.とも呼ばれる)1≦t0≦Tであるような任意の時間t0において、事例は少なくともTまで動作可能であるので、RUL  γ>T-t0であることが知られている。入力時系列として
【００８１】
【数２３】
2020009409.tif 000025
【００８２】
を考察すると、本開示は、ターゲットベクトルyの次元yjのうちのいくつかにラベルがどのように割り当てられるかを示す。
【００８３】
【数２４】
2020009409.tif 000026
【００８４】
なので、T-t0が区間
【００８５】
【数２５】
2020009409.tif 000027
【００８６】
にマッピングすると仮定する。(γが不明であるように)kは不明であるので、k'≦kであり、ターゲットベクトルyは、以下の例示的な式によって以下のように部分的にしか取得することができない:
【００８７】
【数２６】
2020009409.tif 000028
【００８８】
すべてのj≧k'について、対応するバイナリ分類子ターゲットは、図4Bに示されるようにマスクされ、これらの分類子からの出力は、事例の損失関数に含まれない。したがって、式(3)によって与えられる損失関数Lは、打ち切られた事例をトレーニングに含めるために、以下のように修正され得る:
【００８９】
【数２７】
2020009409.tif 000029
【００９０】
上式で、打ち切られた事例の場合はK'=k'-1であり、故障した事例の場合はK'=Kである。
【００９１】
一旦トレーニングされると、K個の分類子の各々は、RULがj番目の分類子に対応する区間の上限よりも大きい確率
【００９２】
【数２８】
2020009409.tif 000030
【００９３】
を提供する。テスト事例の
【００９４】
【数２９】
2020009409.tif 000031
【００９５】
からのγについての点推定
【００９６】
【数３０】
2020009409.tif 000032
【００９７】
は次のように取得される:
【００９８】
【数３１】
2020009409.tif 000033
【００９９】
システム100(または、分類子が学習されると)、LSTM-ORモデルが動作事例に対してオンラインで使用され得ることに注目する価値がある。現在の時間事例tにおいて、tにおけるRUL推定値γを取得するために、最新のTの時間事例からのセンサデータがモデルに入力され得る。
【０１００】
次に、本開示の方法のステップが、図1に示されるシステム100の構成要素、図2の流れ図、図3B〜図3C、図4A〜図4B、図5、および上記の説明(たとえば、段落［００２０］から［００５８］を参照)を参照してそれぞれ説明される。本開示の一実施形態では、ステップ202において、1つまたは複数のハードウェアプロセッサ104は、1つまたは複数のエンティティに関する第1の時系列データおよび第2の時系列データを取得し、第1の時系列データが、1つまたは複数のエンティティに関連付けられる1つまたは複数のパラメータに固有の1つまたは複数の故障した事例に関する時系列データを備え、第2の時系列データが、1つまたは複数のエンティティに関連付けられる1つまたは複数のパラメータに固有の1つまたは複数の打ち切られた事例に関する時系列データを備える。故障した事例および打ち切られた事例は、それぞれベクトル作成について図4Aおよび図4Bに例として示されている。一実施形態では、1つまたは複数のパラメータは1つまたは複数のセンサから取得される。(たとえば、ユーザまたは機械／デバイスなどのエンティティに関連付けられるモーションセンサ、ヘルスモニタリングセンサなど)。一実施形態では、1つまたは複数の故障した事例からの第1の故障した事例は第1のエンティティから取得され、第2の故障した事例は第1のエンティティとは異なる第2のエンティティから取得される。一実施形態では、1つまたは複数の打ち切られた事例からの第1の打ち切られた事例は第1のエンティティから取得され、第2の打ち切られた事例は第1のエンティティとは異なる第2のエンティティから取得される。一例では、第1のエンティティは、たとえばM1という機械とすることができ、第2のエンティティは、たとえばM2という別の機械とすることができる。同様に、1つまたは複数の故障した事例からの第1の故障した事例は、第1のエンティティ(たとえば、ユーザ1)から取得され、第2の故障した事例は、第1のエンティティとは異なる第2のエンティティ(たとえば、ユーザ2)から取得される。一実施形態では、1つまたは複数の打ち切られた事例からの第1の打ち切られた事例は、第1のエンティティ(たとえば、ユーザ1)から取得され、第2の打ち切られた事例は、第1のエンティティとは異なる第2のエンティティ(たとえば、
ユーザ2)から取得される。
【０１０１】
本開示の一実施形態では、ステップ204において、1つまたは複数のハードウェアプロセッサ104は、(i)1つまたは複数の故障した事例の残存耐用年数(RUL)、および(ii)1つまたは複数の打ち切られた事例の少なくとも最小RULを決定する。
【０１０２】
本開示の一実施形態では、ステップ206において、1つまたは複数のハードウェアプロセッサ104は、(i)1つまたは複数の故障した事例のRULを使用してバイナリラベルの第1のセット、および(ii)1つまたは複数の打ち切られた事例の少なくとも最小RULを使用してバイナリラベルの第2のセットをそれぞれ生成する。
【０１０３】
本開示の一実施形態では、ステップ208において、1つまたは複数のハードウェアプロセッサ104は、(i)バイナリラベルの第1のセットと、(ii)バイナリラベルの第2のセットおよびそれに関連付けられるラベル情報とを使用して、1つまたは複数のバイナリ分類子を備えるリカレントニューラルネットワーク(RNN)を基にした順序回帰モデル(ORM)をトレーニングする。トレーニング段階(図5に示されているトレーニング段階のブロックは、図2の対応するステップ(202)から(208)までにマッピングされる)は図5の上部に示されている。テスト段階の間(または推論段階−図5の最下部を参照(ここで、図5に示されるテストまたは推論の段階のブロックは、図2の対応するステップ(210)から(214)までにマッピングされる))、エンティティの1つまたは複数のパラメータに関する時系列データを備えるテストデータは、1つまたは複数のハードウェアプロセッサ104を介してステップ210において取得される。より具体的には、図5は、図1〜図4Bを参照して、本開示の例示的な実施形態による、エンティティのRULを、それらの関連付けられる故障した事例および打ち切られた事例を使用して推定するための、図1のシステム100によって実装される長期短期記憶−順序回帰技法の流れ図を示す例示的なブロック図である。この場合の入力テストデータは、1つまたは複数のテスト事例で構成されている。本開示の一実施形態では、ステップ212において、1つまたは複数のハードウェアプロセッサ104は、1つまたは複数のトレーニングされたバイナリ分類子(たとえば、「K分類子」とも呼ばれる)を備えるトレーニングされたRNNを基にしたORモデルを呼び出しおよび／または実行し、結果として、1つのまたは複数のテスト事例を備える時系列データに適用されることにより、トレーニングされたバイナリ分類子ごとにターゲットラベルの推定値が取得される。次いで、ターゲットベクトルの推定値を取得するために1つまたは複数のトレーニングされたバイナリ分類子の各々のターゲットラベルの推定値が使用され、図2のステップ214に示されるように、1つまたは複数のエンティティの1つまたは複数のテスト事例に固有のRUL推定値を生成するためにターゲットベクトルの推定値が使用される。一実施形態では、テスト事
例ごとにターゲットラベルの複数の推定値があり得る。一実施形態では、ターゲットベクトルの推定値は、1つまたは複数のトレーニングされたバイナリ分類子の各々について取得されたターゲットラベルの推定値を使用して取得される。
【０１０４】
実験的評価:
本開示は、評価のために3つの手法を考察した:i)MR:故障した事例のみを使用するLSTM-MR、ii)OR:故障した事例のみを使用し、式(3)のように損失を使用するLSTM-OR、iii)ORC:打ち切られたデータ(または、打ち切られた事例)と故障した事例を式(5)のように損失を使用して活用するLSTM-OR。本開示ならびにそれに関連付けられるシステムおよび方法による実験のための公的に利用可能なC-MAPSS航空機ターボファンエンジンベンチマークデータセット(たとえば、「A Saxena and K Goebel. 2008. Turbofan Engine Degradation Simulation Data Set. NASA Ames Prognostics Data Repository (2008)」を参照)。
【０１０５】
データセットの説明:
本開示は、模擬ターボファンエンジンデータセットからのデータセットFD001およびFD004(たとえば、「1https://ti.arc.nasa.gov/tech/dash/groups/pcoe/prognostic-data-repository/#turbofan」、および「A Saxena and K Goebel. 2008. Turbofan Engine Degradation Simulation Data Set. NASA Ames Prognostics Data Repository (2008)」を参照)を考察した。2つのデータセットのトレーニングセット(train_FD001とtrain_FD004)は、使用開始から寿命の終わりまでターボファンエンジンの複数の事例(FD001では100個、FD004では249個)の24個のセンサ(21個のセンサと3個の動作条件変数)読取り値の時系列を含む。テストセット内の事例(test_FD001とtest_FD004)の時系列は、故障の前に取り除かれたため、事例は動作可能であり、それらのRULが推定される必要がある。以下の表1に示されるように、ハイパーパラメータ選択のための検証セットを作成するために、利用可能なトレーニングセット事例の20%がランダムにサンプリングされた。
【０１０６】
【表１】
2020009409.tif 000034
【０１０７】
表1は、トレーニング、検証、およびテスト事例の数を示し、OCは動作条件の数、およびFMは障害モードの数である。
【０１０８】
打ち切られた事例のシナリオをシミュレートするために、トレーニングおよび検証事例のパーセンテージm∈{0、50、70、90}がランダムに選択され、事例ごとの時系列が故障前のある時点でランダムに切り捨てられた。次いで、これらの切り捨てられた事例は打ち切られたと見なされ(現在は運用可能)、それらの実際のRUL値は不明と見なされた。残り(100-m%)の事例は故障したと見なされた。さらに、そのようにして取得された(打ち切られた、および故障した)各事例の時系列は、故障前の寿命の中の20のランダムな点において切り捨てられ、切り捨てられた点における故障した事例の正確なRUL  γと打ち切られた事例の最小可能RUL T-t0(段落［００２０］から［００５８］まで、および図4A〜図4Bにおいて説明される)は、モデルを取得するために使用された。そのようにしてm=0に対するトレーニングおよび検証のために取得された事例の数は、以下の例示的な表2において与えられている。
【０１０９】
【表２】
2020009409.tif 000035
【０１１０】
上記の表(表1および表2)に示されるように、テストセットはすべてのシナリオ(打ち切られた事例なしの)にわたってベンチマークデータセットと同じままである。正確なRULターゲットは不明であったのでMRおよびOR手法は打ち切られた事例を利用することができないが、ORCは式(4)に従って部分ラベルを取得するためにRULターゲットの下限を利用することができる。
【０１１１】
エンジンは、様々な動作条件で動作し、寿命の終わりには様々な故障モードもまた有し得る。両データセットの動作条件と故障モードの数が表1において与えられている。FD001は1つの動作条件しか有さず、対応する3つのセンサはр=21となるように無視されたが、FD004は3つの動作条件変数によって決定される6つの動作条件を有していた。これらの6つの動作条件は、р=27となるように、6次元1ホットベクトル(図面には示されていない)にマッピングされた。
【０１１２】
性能メトリクス:
【０１１３】
本開示は、適時性スコア(S)および二乗平均平方根誤差(RMSE)に関して提案されたモデルの性能を測定する。テスト事例がiの場合、推定における誤差は
【０１１４】
【数３２】
2020009409.tif 000036
【０１１５】
によって与えられる。N個のテスト事例に対する適時性スコアは、
【０１１６】
【数３３】
2020009409.tif 000037
【０１１７】
によって与えられ、上式で、ei<0の場合、γ=1/τ1であり、そうでない場合、γ=1/τ2である。通常、τ1>τ2であるため、遅い予測は早期の予測よりもペナルティが科せられる。τ1=13およびτ2=10の値がシステム100によって使用された。Sの値が低いほど、性能はより良好である。二乗平均平方根誤差(RMSE)は次式によって与えられる:
【０１１８】
【数３４】
2020009409.tif 000038
【０１１９】
実験的な設定:
本開示ならびにそれに関連付けられるシステムおよび方法は、すべてのモデルについてγu=130サイクルを考察した。ORおよびORCについて、本開示ならびにそれに関連付けられるシステムおよび方法は、区間長c=13となるようにK=10を考察する。MRモデルをトレーニングするために、0から1の範囲の正規化されたRUL(ここで、1は130個以上のターゲットRULに対応する)が入力ごとのターゲットとして与えられた。最大時系列長T=360が使用され、360サイクルを超える事例の場合は、最新の360サイクルが採用された。本開示は、トレーニングセットからの各センサの平均および標準偏差を使用して入力時系列センサを賢く正規化するために、標準z正規化をさらに利用した。
【０１２０】
ハイパーパラメータh(層当たりの隠れユニットの数)、L(隠れ層の数)、および学習率は、セット{50、60、70、80、90、100}、{2、3}、および{0.001、0.005}のセットからそれぞれ選択された。正則化にはドロップアウト率0.2、トレーニング中にはバッチサイズ32がそれぞれ使用された。モデルは早期に停止しながら最大2000回の反復でトレーニングされた。検証セット上のそれぞれの損失関数を最小化することによって、グリッド検索を使用して最良のハイパーパラメータが取得された。
【０１２１】
故障したトレーニング事例の数(nf)が減少するにつれて、すべてのモデルに対する性能が(予想通りに)低下することが観察された(以下の表3Aおよび表3B参照)。しかしながら、重要なことに、nfが小さいシナリオでは、ORCはMRおよびORよりも著しく良好であった。たとえば、m=90%の場合(すなわち、FD001およびFD004に対して、それぞれnf=8および20の場合)、ORCはMRよりも著しく良好に機能し、FD001およびFD004の場合、RMSEに関して、それぞれMRに対して11.6%および7.4%の改善を示す。Sの指数的な性質のために、適時性スコアSに関する利得はさらに高くなる(段落［０１０５］−性能メトリクスを参照)。これは、図6A〜図6Dに示されるように、トレーニング中の故障した事例の数が減少するにつれて、MRに対するORCの利得増加率の増加とともにさらに明白になる。より具体的には、図6A〜図6Dは、図1〜図5を参照して、本発明の一実施形態による、トレーニング中の故障した事例数(nf)の減少を伴うMRに対するORC(損失関数を使用して故障した事例とともに打ち切られたデータを活用するLSTM-OR)の利得増加率を示すグラフ図を示している。MRとORはトレーニングのために少数の故障した事例nfにのみアクセスできるが、ORCはトレーニングのためにnc個の打ち切られた事例からの部分ラベルと同様にnf個の事例にアクセスできる。したがって、MRモデルとORモデルは過剰適合しがちであるが、ORCモデルはより堅牢である。
【０１２２】
【表３Ａ】
2020009409.tif 000039
【０１２３】
【表３Ｂ】
2020009409.tif 000040
【０１２４】
本開示ならびにそれに関連付けられるシステムおよび方法は、以下の表4において、MR手法を考察した既存のディープCNNを基にした回帰手法およびLSTMを基にしたRUL推定との比較をさらに提供する。
【０１２５】
【表４】
2020009409.tif 000041
【０１２６】
上記の表4からわかるように、ORC(m=0%の場合のORと同じ)は、既存のMR方法と同程度に機能する。さらに重要なことには、上述のように、ORCは、故障したトレーニング事例がほとんどない実際的なシナリオにとって有利であり、より適切であり得る。
【０１２７】
本開示では、システムおよび方法は、多層LSTMニューラルネットワークに基づくディープ順序回帰を使用したRUL推定のための手法を提案した。順序回帰の定式化は、打ち切られた事例からより多くのラベル付けされたデータを取り込むことを可能にするので、順序回帰の定式化はメトリック回帰と比較してより堅牢であることが上記の実験結果と分析から明らかである。また、故障した事例の数が少ない場合は、打ち切られた事例を活用することで性能が大幅に向上することもわかった。
【０１２８】
上述のように、マルチセンサ時系列データから残存耐用年数(RUL)を推定することは、手動検査では困難である。RUL推定のための現在の機械学習およびデータ分析方法は、トレーニングのために多数の故障した事例を必要とし、それは実際にはほとんど利用可能ではない。そのような機械学習およびデータ分析方法は、現在の動作中の事例からの情報は、それらの故障時間が不明であるため、使用することができない。軌跡類似性を基にした手法は、残存耐用年数を取得するために、事例の健全性インデックスの軌跡を故障したトレーニング事例の軌跡と比較する。そのような手法は、軌跡が本質的に滑らかで単調である場合にはうまく機能するが、ノイズまたは断続的な外乱があるシナリオにおいては故障する可能性が高い。
【０１２９】
本開示の実施形態は、LSTM-RNNを基にした順序回帰技法を実装することによって時系列データを使用して残存耐用年数(RUL)を推定するためのシステムおよび方法を提供し、トレーニング中に、故障した事例のRUL値は、モデルへのターゲットとして与えられるベクトルに符号化される。故障した事例とは異なり、打ち切られた事例の正確なRULは不明である。打ち切られた事例を使用するために、ターゲットベクトルが生成され、目的関数がトレーニングのために修正され、トレーニングされたLSTM-RNNを基にした順序回帰がRUL推定のために入力テスト時系列に適用される。
【０１３０】
記載された説明は、当業者が実施形態を作成および使用することを可能にするために本明細書中の主題を説明する。主題の実施形態の範囲は特許請求の範囲によって定義され、当業者に想起される他の修正形態を含み得る。そのような他の修正形態は、それらが特許請求の範囲の文言と異ならない類似の要素を有する場合、またはそれらが特許請求の範囲の文言と実質的に差のない同等の要素を含む場合、特許請求の範囲内にあると意図される。
【０１３１】
保護の範囲は、そのようなプログラム、およびその中にメッセージを有するコンピュータ読み取り可能な手段に加えて拡張され、そのようなコンピュータ読み取り可能な記憶手段は、プログラムがサーバまたはモバイルデバイスあるいは任意の適切なプログラマブルデバイス上で実行されるときに、本方法の1つまたは複数のステップを実装するためのプログラムコード手段を含むことを理解されたい。ハードウェアデバイスは、たとえばサーバまたはパーソナルコンピュータなどの任意の種類のコンピュータ、あるいはそれらの任意の組合せを含む、プログラム可能な任意の種類のデバイスとすることができる。デバイスはまた、たとえばハードウェア手段、たとえば特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、またはハードウェア手段とソフトウェア手段との組合せ、たとえばASICおよびFPGA、あるいは少なくとも1つのマイクロプロセッサと、その中に配置されたソフトウェアモジュールを備える、少なくとも1つのメモリであり得る、手段を含み得る。したがって、この手段はハードウェア手段とソフトウェア手段の両方を含むことができる。本明細書に記載の方法の実施形態は、ハードウェアおよびソフトウェアにおいて実装され得る。デバイスはソフトウェア手段も含み得る。代替として、実施形態は、たとえば、複数のCPUを使用して異なるハードウェアデバイス上に実装され得る。
【０１３２】
本明細書の実施形態は、ハードウェア要素とソフトウェア要素を備えることができる。ソフトウェアにおいて実装される実施形態は、ファームウェア、常駐ソフトウェア、マイクロコードなどを含むが、これらに限定されない。本明細書で説明される様々なモジュールによって実行される機能は、他のモジュールまたは他のモジュールの組合せにおいて実装され得る。この説明の目的のために、コンピュータ使用可能媒体またはコンピュータ読み取り可能な媒体は、命令実行システム、装置、またはデバイスによって、あるいはそれらに関連して使用するためのプログラムを備える、記憶する、通信する、伝播する、または輸送することができる任意の装置であり得る。
【０１３３】
図示されたステップは、示されている例示的な実施形態を説明するために提示されており、進行中の技術開発は特定の機能が実行される方法を変えることが予想されるべきである。これらの例は例示の目的で本明細書に提示されており、限定の目的ではない。さらに、機能的構成要素の境界は、説明の便宜上、本明細書では任意に定義されている。特定の機能およびそれらの関係が適切に実行される限り、代替の境界が定義され得る。代替形態(本明細書に記載されたものの等価物、拡張形態、変形形態、逸脱形態などを含む)は、本明細書に含まれる教示に基づいて関連分野の当業者には明らかであろう。そのような代替形態は、開示された実施形態の範囲および趣旨の範囲内に入る。また、「備える(comprising)」、「有する(having)」、「含む(containing)」、および「含む(including)」という単語、および他の類似の形態は、意味において同等であり、これらの単語のいずれかに続く単数または複数の項目が、そのような単数または複数の項目の網羅的な列挙であることを意味するのではなく、また列挙された単数または複数の項目のみに限定されることを意味しないという点で、変更可能であることが意図されている。本明細書および添付の特許請求の範囲において使用されるとき、単数形「a」、「an」、および「the」は、文脈が明らかにそうでないことを指示しない限り、複数の言及を含む点にも留意されたい。
【０１３４】
さらに、本開示と一致する実施形態を実装する際に、1つまたは複数のコンピュータ読み取り可能な記憶媒体が利用され得る。コンピュータ読み取り可能な記憶媒体は、プロセッサによって読取り可能な情報またはデータが記憶され得る任意の種類の物理メモリを指す。したがって、コンピュータ読み取り可能な記憶媒体は、本明細書で説明される実施形態と一致するステップまたは段階をプロセッサに実行させるための命令を含む、1つまたは複数のプロセッサによる実行のための命令を記憶し得る。「コンピュータ読み取り可能な媒体」という用語は、有形の項目を含み、搬送波および過渡信号を除外する、すなわち非一時的なものと理解されるべきである。例としては、ランダムアクセスメモリ(RAM)、リードオンリメモリ(ROM)、揮発性メモリ、不揮発性メモリ、ハードドライブ、CD ROM、DVD、フラッシュドライブ、ディスク、および他の任意の知られている物理的記憶媒体がある。
【０１３５】
本開示および例は例示的なものとしてのみ考察されることが意図されており、開示された実施形態の真の範囲および趣旨は以下の特許請求の範囲によって示される。
【符号の説明】
【０１３６】
100  システム
102  データ記憶デバイスまたはメモリ
104  プロセッサ
106  通信インターフェースデバイスまたは入力／出力(I/O)インターフェース
108  データベース
【図１】
2020009409.tif 000042
【図２】
2020009409.tif 000043
【図３Ａ】
2020009409.tif 000044
【図３Ｂ】
2020009409.tif 000045
【図３Ｃ】
2020009409.tif 000046
【図４Ａ】
2020009409.tif 000047
【図４Ｂ】
2020009409.tif 000048
【図５】
2020009409.tif 000049
【図６Ａ】
2020009409.tif 000050
【図６Ｂ】
2020009409.tif 000051
【図６Ｃ】
2020009409.tif 000052
【図６Ｄ】
2020009409.tif 000053
【外国語明細書】
2020009409000001.pdf