(57)【要約】      （修正有）【課題】１つ以上の機械に関連付けられた高次元センサデータの異常を検出するためのシステムを提供する。【解決手段】動作中、システムは、１つ以上の機械に関連付けられた１セットのセンサからセンサデータを取得し、データ探索技術をセンサデータに適用して、利用可能なセットの特徴センサから１サブセットの特徴センサを特定するために自動的にセンサデータを処理し、特定されたサブセットの特徴センサ及び目標センサに教師なし機械学習技術を適用して、１セットの対単位一変量モデルを学習し、１セットの対単位一変量モデルに基づいて、１つ以上の機械の動作において異常が生じるか否か及びどのように異常が生じるかを判定する。【選択図】図２
2020198092.tif 000002
【特許請求の範囲】
【請求項１】
１つ以上の機械の動作における異常を検出する方法であって、前記方法は、
前記１つ以上の機械に関連付けられた１セットのセンサからセンサデータを取得することであって、前記１セットのセンサが目標センサ及び１セットの特徴センサを含む、ことと、
データ探索技術を前記センサデータに適用して、前記１セットの特徴センサから１サブセットの特徴センサを特定することと、
前記特定されたサブセットの特徴センサ及び前記目標センサに教師なし機械学習技術を適用して、１セットの対単位一変量モデルを学習することと、
前記１セットの対単位一変量モデルに基づいて、前記１つ以上の機械の前記動作において異常が生じるか否か及びどのように異常が生じるかを判定することと
を含む、方法。
【請求項２】
前記データ探索技術を適用することが、
データ前処理技術を適用することと、
データクレンジング技術を適用することと、
特徴工学技術を適用することと
のうちの１つ以上を含む、請求項１に記載の方法。
【請求項３】
前記データクレンジング技術を適用することが、
目標センサデータの記録期間中の欠落値の量が閾値未満である場合、線形補間によって前記センサデータ内の前記欠落値を置き換えることと、
前記目標センサデータの前記記録期間中の欠落値の前記量が前記閾値よりも大きい場合、前記センサデータ内の欠落値を廃棄することと
を含む、請求項２に記載の方法。
【請求項４】
前記特徴工学技術を適用することが、
１セットの特徴センサと目標センサデータとの間の１セットの時間遅延を調整することと、
前記遅延調整されたセットの特徴センサと前記目標センサとの間の相関を計算することと、
それらの相関値に基づいて、前記１セットの特徴センサをランク付けすることと、
前記ランク付けされたセットの特徴センサから１サブセットの特徴センサを選択することと
を含む、請求項２に記載の方法。
【請求項５】
前記１セットの対単位一変量異常モデルからの各対単位一変量異常モデルが、前記１サブセットの特徴センサからの特徴センサ及び目標センサに関連付けられる、請求項１に記載の方法。
【請求項６】
前記教師なし機械学習技術を適用することが、
前記１セットの対単位一変量異常モデルの適合性を測定するための１セットの回帰係数を判定することと、
前記１セットの回帰係数を使用して、前記１サブセットの特徴センサと前記目標センサとの間の１セットの異常距離を計算することと
を含む、請求項１に記載の方法。
【請求項７】
前記教師なし機械学習技術を適用することが、
１セットクラスタリング関数を前記１セットの異常距離に適用することによって、前記１セットの対単位一変量異常モデルに関連付けられた１セットの投票点数を計算することと、
前記１セットの投票点数に対する１セットの重みを計算することと、
前記１セットの重みと前記１セットの投票点数とを組み合わせて前記異常を検出することと、
検出された異常事象に対する各特徴センサの対応性を計算することと
を更に含む、請求項１に記載の方法。
【請求項８】
１つ以上の機械の動作における異常を検出するための装置であって、
１つ以上のプロセッサと、
前記１つ以上の機械に内蔵された１セットのセンサと、
メモリであって、前記１つ以上のプロセッサによって実行されると、前記装置に、
前記１つ以上の機械に関連付けられた１セットのセンサからセンサデータを取得させ、前記１セットのセンサが目標センサ及び１セットの特徴センサを含み、
データ探索技術を前記センサデータに適用して、前記１セットの特徴センサから１サブセットの特徴センサを特定させ、
前記特定されたサブセットの特徴センサ及び前記目標センサに教師なし機械学習技術を適用して、１セットの対単位一変量モデルを学習させ、
前記１セットの対単位一変量モデルに基づいて、前記１つ以上の機械の前記動作において異常が生じるか否か及びどのように異常が生じるかを判定させる、命令を記憶する、メモリと
を備える、装置。
【請求項９】
前記データ探索技術を適用することが、
データ前処理技術を適用することと、
データクレンジング技術を適用することと、
特徴工学技術を適用することと
のうちの１つ以上を含む、請求項８に記載の装置。
【請求項１０】
前記データクレンジング技術を適用することが、
目標センサデータの記録期間中の欠落値の量が閾値未満である場合、線形補間によって前記センサデータ内の前記欠落値を置き換えることと、
前記目標センサデータの前記記録期間中の欠落値の前記量が前記閾値よりも大きい場合、前記センサデータ内の欠落値を廃棄することと
を含む、請求項９に記載の装置。
【請求項１１】
前記特徴工学技術を適用することが、
１セットの特徴センサと目標センサデータとの間の１セットの時間遅延を調整することと、
前記遅延調整されたセットの特徴センサと前記目標センサとの間の相関を計算することと、
それらの相関値に基づいて、前記１セットの特徴センサをランク付けすることと、
前記ランク付けされたセットの特徴センサから１サブセットの特徴センサを選択することと
を含む、請求項９に記載の装置。
【請求項１２】
前記１セットの対単位一変量異常モデルからの各対単位一変量異常モデルが、前記１サブセットの特徴センサからの特徴センサ及び目標センサに関連付けられる、請求項８に記載の装置。
【請求項１３】
前記教師なし機械学習技術を適用することが、
前記１セットの対単位一変量異常モデルの適合性を測定するための１セットの回帰係数を判定することと、
前記１セットの回帰係数を使用して、前記１サブセットの特徴センサと前記目標センサとの間の１セットの異常距離を計算することと
を含む、請求項８に記載の装置。
【請求項１４】
前記教師なし機械学習技術を適用することが、
１セットクラスタリング関数を前記１セットの異常距離に適用することによって、前記１セットの対単位一変量異常モデルに関連付けられた１セットの投票点数を計算することと、
前記１セットの投票点数に対する１セットの重みを計算することと、
前記１セットの重みと前記１セットの投票点数とを組み合わせて前記異常を検出することと、
検出された異常事象に対する各特徴センサの対応性を計算することと
を更に含む、請求項８に記載の装置。
【請求項１５】
コンピュータによって実行されると、前記コンピュータに、１つ以上の機械の動作における異常を検出する方法を実行させる命令を記憶する非一時的コンピュータ可読記憶媒体であって、前記方法が、
前記１つ以上の機械に関連付けられた１セットのセンサからセンサデータを取得することであって、前記１セットのセンサが目標センサ及び１セットの特徴センサを含む、ことと、
データ探索技術を前記センサデータに適用して、前記１セットの特徴センサから１サブセットの特徴センサを特定することと、
前記特定されたサブセットの特徴センサ及び前記目標センサに教師なし機械学習技術を適用して、１セットの対単位一変量モデルを学習することと、
前記１セットの対単位一変量モデルに基づいて、前記１つ以上の機械の前記動作において異常が生じるか否か及びどのように異常が生じるかを判定することと
を含む、非一時的コンピュータ可読記憶媒体。
【請求項１６】
前記データ探索技術を適用することが、
データ前処理技術を適用することと、
データクレンジング技術を適用することと、
特徴工学技術を適用することと
のうちの１つ以上を含む、請求項１５に記載の非一時的コンピュータ可読記憶媒体。
【請求項１７】
前記特徴工学技術を適用することが、
１セットの特徴センサと目標センサデータとの間の１セットの時間遅延を調整することと、
前記遅延調整されたセットの特徴センサと前記目標センサとの間の相関を計算することと、
それらの相関値に基づいて、前記１セットの特徴センサをランク付けすることと、
前記ランク付けされたセットの特徴センサから１サブセットの特徴センサを選択することと
を含む、請求項１６に記載の非一時的コンピュータ可読記憶媒体。
【請求項１８】
前記１セットの対単位一変量異常モデルからの各対単位一変量異常モデルが、前記１サブセットの特徴センサからの特徴センサ及び目標センサに関連付けられる、請求項１５に記載の非一時的コンピュータ可読記憶媒体。
【請求項１９】
前記教師なし機械学習技術を適用することが、
前記１セットの対単位一変量異常モデルの適合性を測定するための１セットの回帰係数を判定することと、
前記１セットの回帰係数を使用して、前記１サブセットの特徴センサと前記目標センサとの間の１セットの異常距離を計算することと
を含む、請求項１５に記載の非一時的コンピュータ可読記憶媒体。
【請求項２０】
前記教師なし機械学習技術が、
１セットクラスタリング関数を前記１セットの異常距離に適用することによって、前記１セットの対単位一変量異常モデルに関連付けられた１セットの投票点数を計算することと、
前記１セットの投票点数に対する１セットの重みを計算することと、
前記１セットの重みと前記１セットの投票点数とを組み合わせて前記異常を検出することと、
検出された異常事象に対する各特徴センサの対応性を計算することと
を更に含む、請求項１５に記載の非一時的コンピュータ可読記憶媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、概して、産業用機械又はシステムの動作における異常検出のためのシステム及び方法に関する。より具体的には、本開示は、高次元センサデータにおける異常の検出に関する。
【背景技術】
【０００２】
デジタル製造などの多くの産業用途でモノのインターネット（ＩｏＴ）対応機器の使用が増えると、大量のセンサデータをすぐに利用できる。このようなセンサデータは、工場機械の動作効率を最適化するために使用することができる実施可能な情報を含む。特に、動作異常を検出することは、工場のダウンタイムを低減し、製造プロセスにおける生産性及び効率を改善するために、その即時適用が最も追求されてきた目的のうちの１つである。しかしながら、異なる工場での様々な設定に確実にスケーリングことができる異常検出技術を開発することは挑戦的な課題である。これは、データ品質が乏しく、ラベル情報が欠如していることにより、センサデータが良く調整されていない可能性があるためである。例えば、センサデータは、多数の欠落した、破損した、雑音が多い、かつ高度に相関した値を含む可能性がある。
【０００３】
多くの実地産業ＩｏＴ用途は、利用可能なセンサデータの良く調整されていない性質により、最適には実行されない。適切なデータ前処理及びモデル選択なしで、パラメータ推定は、異常検出における著しい誤りをもたらす大きなバイアス及び歪みを起こしやすい。そのような誤りを回避するために、データ前処理段階は、多くの場合、センサデータを選択、フィルタリング、及び再サンプリングするために必要とされる。
【０００４】
産業ＩｏＴ用途の従来の異常検出アプローチでは、このようなデータ前処理は、センサデータの従来のドメイン知識を用いて実行され、多くの場合、大幅な自動化を行わない。ラベル付きセンサデータの取得の困難、及び完全自動化異常検出方法の欠如のために、従来の最善のアプローチは、異なるデータセットに対して信頼できない異常検出を提供する。更に、ラベル付きデータセットは、ほとんど利用可能であるか、又は取得が高価である。換言すれば、どの点が正常であるか又は異常であるかについての先験的知識は存在しない。したがって、異常の明確な定義は与えられない。正常又は異常な例なしで、利用可能なセンサデータから教師なし学習を実行する必要がある。そのような教師なし学習は、生来の性能トレードオフが精度と再呼び出し（例えば、感度）との間に存在し、異なるデータセットに対する異常検出の信頼性が低下する可能性があるため、アルゴリズム開発に対する著しい制約を課す可能性がある。異常検出方法を実地用途に十分にスケーリングするために、異常分析ワークフローは、データ前処理、モデル選択、及び異常検出のために自動化される必要がある。
【発明の概要】
【０００５】
本発明の一実施形態による、１つ以上の機械に関連付けられた高次元センサデータの異常を検出するためのシステムが提供される。動作中、システムは、機械に関連付けられた１セットのセンサのからセンサデータを取得し、１セットのセンサは目標センサ及び１セットの特徴センサを含み、データ探索技術をセンサデータに適用して、１セットの特徴センサから１サブセットの特徴センサを特定することができ、特定されたサブセットの特徴センサ及び目標センサに教師なし機械学習技術を適用して、１セットの対単位一変量モデルを学習し、１セットの対単位一変量モデルに基づいて、１つ以上の機械の動作において異常が生じるか否か及びどのように異常が生じるかを判定することができる。
【０００６】
この実施形態の変形例では、データ探索技術を適用することは、データ前処理技術を適用することと、データクレンジング技術を適用することと、特徴工学技術を適用することのうちの１つ以上を含むことができる。
【０００７】
この実施形態の変形例では、データクレンジング技術を適用することは、目標センサデータの記録期間中の欠落値の量が閾値未満である場合、線形補間によってセンサデータ内の欠落値を置き換えることと、目標センサデータの記録期間中の欠落値の量が閾値よりも大きい場合、センサデータ内の欠落値を廃棄することと、を含む。
【０００８】
この実施形態の変形例では、特徴工学技術を適用することは、１セットの特徴センサと目標センサとの間の１セットの時間遅延を調整することと、遅延調整されたセットの特徴センサと目標センサとの間の相関を計算することと、それらの相関値に基づいて、１セットの特徴センサをランク付けすることと、を含む。
【０００９】
更なる変形例では、１セットの対単位一変量異常モデルからの各対単位一変量異常モデルは、１サブセットの特徴センサからの特徴センサ及び目標センサに関連付けられ得る。
【００１０】
この実施形態の更なる変形例では、教師なし機械学習技術は、１セットの対単位一変量異常モデルの適合性を測定するための１セットの回帰係数を判定することと、１セットの回帰係数を使用して、１サブセットの特徴センサと目標センサとの間の１セットの異常距離を計算することと、を含む。
【００１１】
更なる変形例では、教師なし機械学習技術はまた、１セットのクラスタリング関数を１セットの異常距離に適用することによって、１セットの対単位一変量異常モデルに関連付けられた１セットの投票点数を計算することと、１セットの投票点数に対する１セットの重みを計算することと、１セットの重みと１セットの投票点数とを組み合わせて異常を検出することと、検出された異常事象に対する１サブセットの特徴センサの対応性を定量化することと、を含む。
【図面の簡単な説明】
【００１２】
特許又は出願ファイルには、カラーで作成された少なくとも１つの図面が含まれている。本特許又は特許出願公開のカラー図面の写しは、その請求に応じて、必要な料金を支払うことにより、特許庁から提供されることとなる。
【００１３】
【図１Ａ】本発明の一実施形態による、ある期間にわたる複数の特徴指標に関する１セットの例示的な記録されたセンサデータのプロットを示す。
【図１Ｂ】本発明の一実施形態による、第１の期間中に記録された例示的セットの目標センサデータ及び特徴センサデータのプロットを示す。
【図１Ｃ】本発明の一実施形態による、第２の期間中に記録された例示的セットの目標センサデータ及び特徴センサデータのプロットを示す。
【図２】本発明の一実施形態による、センサデータに対してデータ探索を実行するための例示的なプロセスを示すフローチャートを示す。
【図３】本発明の実施形態により、本発明の一実施形態による、データ前処理を実行するための例示的なプロセスを示すフローチャートを示す。
【図４】本発明の一実施形態により、データクレンジングを実行するための例示的なプロセスを示すフローチャートを示す。
【図５Ａ】本発明の一実施形態による、センサデータ中の欠落値を処理する一例を示す。
【図５Ｂ】本発明の一実施形態による、センサデータに対して移動平均を実行する結果を示す。
【図６】本発明の一実施形態による、特徴工学を実行するための例示的なプロセスを示すフローチャートを示す。
【図７Ａ】本発明の一実施形態による、遅延調整された特徴の可視化を示す。
【図７Ｂ】本発明の一実施形態による、例示的なデータ相関マップを示す。
【図８】本発明の一実施形態による、例示的な教師なし異常検出システムアーキテクチャを示す。
【図９】本発明の一実施形態による、異常を検出するための擬似コードを示す。
【図１０】本発明の一実施形態による、例示的な教師なし異常検出結果を示す。
【図１１】本発明の一実施形態による、多数決投票を伴う教師なし異常検出を実行するための例示的なプロセスを示すフローチャートを示す。
【図１２】本発明の一実施形態による、教師なし異常検出システムを容易にする例示的なコンピュータシステムを示す。
【図１３】本発明の一実施形態による、教師なし異常検出システムを容易にする例示的な装置を示す。
【００１４】
図面において、同様の参照番号は、同様の図要素を指す。
【発明を実施するための形態】
【００１５】
以下の説明は、当業者が実施形態を作製及び使用することを可能にするために提示され、特定の用途及びその要件に関連して提供される。開示される実施形態に対する様々な修正は、当業者には容易に明らかとなり、本明細書に定義される一般原理は、本開示の趣旨及び範囲から逸脱することなく、他の実施形態及び用途に適用され得る。したがって、本発明は、示される実施形態に限定されるものではなく、本明細書に開示される原理及び特徴と一致する最も広い範囲を与えられるものである。
【００１６】
概要
本明細書に記載される実施形態は、産業用機械の動作における異常を検出及び原因を説明する技術的問題を解決する。より具体的には、異常監視及び検出システムは、機械に内蔵された目標センサ及び特徴センサからセンサデータを取得し、センサデータを前処理して、欠落値、外れ値、及び雑音に対処することができる。次いで、システムは、更なる処理のために、関連する特徴センサのみを選択する。具体的には、システムは、関連する特徴センサを使用して、１セットの対単位一変量異常モデルを構築し、各モデルは１対の特徴センサ及び目標センサに対応する。１セットの異常距離は、１セットの対単位一変量異常モデルから計算される。１セットの異常距離に教師なし機械学習技術を適用し、次いで重み付き多数決投票プロセスを行うことによって、システムは、機械の動作における異常及びそれらの関連する特徴センサの責任を自動的に検出することができる。
【００１７】
データ探索
多くの実地産業のＩｏＴ用途では、１つ以上の機械の動作中に記録されたセンサデータは多数あり、多くの場合、良く調整されていない。換言すれば、収集されたセンサデータは、欠落した、破損した、雑音が多い、かつ高度に相関した値を含む可能性がある。図１Ａは、ある期間にわたる複数の特徴指標に関する１セットの例示的な記録されたセンサデータのプロットを示す。暗い領域は、センサデータの存在を示し、明るい領域はセンサデータの不在を示す。図１Ａから分かるように、記録されたセンサデータは、周期的な欠落値を含む。異常検出技術が、多数の欠落値を含むこのような記録されたセンサデータに適用される場合、検出された異常は誤っている可能性がある。
【００１８】
欠落値に加えて、他の欠陥もセンサデータ内に存在し得る。センサデータは、１つ以上の機械に内蔵された複数のセンサから取得することができる。複数のセンサの中から、センサのうちの１つに関連付けられた異常は対象となる場合があり、このセンサは目標センサとして特定され、残りのセンサは、特徴センサとして特定され得る。図１Ｂは、第１の期間中に記録された例示的セットの目標センサデータ及び特徴センサデータのプロットを示す。図１Ｃは、第２の期間中に記録された目標センサデータ及び特徴センサデータのプロットを示す。図１Ｂ及び図１Ｃから、２つのプロット間に著しいデータ変動があることは明らかである。第１の期間中、目標センサデータ及び特徴センサデータは、高い相関（例えば、〜０．８７）を有するが、第２の期間では、相関は低い（例えば、〜０．３）。したがって、そのような動的変化特性及び欠落値の存在により、センサデータの分析は非常に困難になる。
【００１９】
したがって、センサデータの状態による異常検出における誤りを回避するために、異常検出技術を適用する前にセンサデータを事前処理することが望ましい。図２は、本発明の一実施形態による、センサデータに対してデータ探索を実行するための例示的なプロセスを示すフローチャートを示す。いくつかの実施形態では、データ探索システムは、データ前処理モジュール、データクレンジングモジュール、及び特徴工学モジュールの３つのモジュールを含むことができる。
【００２０】
動作中、システムは最初にセンサデータを取得することができる（動作２０２）。次いで、システムは、センサデータを前処理して、所定の目標センサに基づいて１セットの特徴センサを選択する（動作２０４）。一実施形態では、システムは、前処理されたセンサデータをクレンジングして、選択されたセンサデータ内の欠落値、外れ値、及び雑音に対処することができる（動作２０６）。データクレンジング動作は、センサデータの品質を改善し、センサデータの量を低減することができ、それによって計算コストも低減することができる。データクレンジング動作に続いて、システムは、特徴工学を実行する（動作２０８）。一実施形態では、特徴工学は、目標センサに対する特徴センサからのデータに関連付けられた遅延を調整する。次いで、遅延シフトされた特徴センサデータは、目標センサとのそれらの相関に基づいてランク付けされる。目標センサとの高い相関を有する特徴センサは、異常検出システムにおける更なる処理のために使用されるが、低い相関を有する特徴センサは省略され得る。
【００２１】
図３は、本発明の一実施形態による、データ前処理を実行するための例示的なプロセスを示すフローチャートを示す。動作中、システムはセンサデータを取得する（動作３０２）。取得されたセンサデータは、工場レイアウトにおける１つ以上の機械内に内蔵された複数のセンサから収集された情報を含むことができる。センサのうちの１つに関連付けられたデータは、異常分析のための目標変数として特定され得る（動作３０４）。特定された目標変数に基づいて、システムは、目標センサに関連付けられた候補特徴センサデータを特定するためにセンサデータを自動的に選別する（動作３０６）。例えば、センサデータ内の利用可能なデータ属性に基づいて、工場レイアウトにおける目標センサに物理的に接続されたセンサは、特徴センサとして選択され得る。一実施形態では、ユーザはまた、異常検出のために、「ユーザ定義の」特徴を選択することもできる。
【００２２】
図２のフローチャートに示されるプロセスに従ってデータ選択を実行することに続いて、データクレンジングモジュールは、データクレンジングを実行して、ロードされたセンサデータ内の欠落値、外れ値、及び雑音に対処することができる。図４は、本発明の一実施形態により、データクレンジングを実行するための例示的なプロセスを示すフローチャートを示す。選択された候補特徴センサが、目標センサの記録期間の間に欠落値の大部分、例えば、記録期間の２０％を含む場合、この候補特徴センサに関連付けられたデータは、任意選択的に廃棄され得る。残りの特徴センサが目標センサの記録時間中の欠落値の少ない部分を含む場合、これらの欠落値は線形補間によって置き換えられる（動作４０２）。
【００２３】
センサデータ内の欠落値が置き換えられた後、システムは、一変量分析を実行して、特徴型を判定し、各特徴センサデータにおける外れ値を見つけることができる。典型的には、２種類の特徴型である単調な特徴型及びインスタント特徴型がある。これらの特徴型に基づいて、外れ値を特定し、線形補間によって置き換えることができる。具体的には、インスタント特徴型に関して、外れ値は、四分位範囲（ＩＱＲ）法を使用して見つけることができる。例えば、ｘｉｊが第ｊの特徴センサの第ｉのサンプルを表す場合、ｘｉｊは外れ値である。
【００２４】
【数１】
2020198092.tif 000003
【００２５】
Ｑ１及びＱ３は、特徴センサｘｊの上部及び下部四分位数に対応する。単調な特徴については、次の場合、第ｊの特徴センサの第ｉのサンプルは外れ値である。
【００２６】
【数２】
2020198092.tif 000004
【００２７】
外れ値が特定された後、システムは、補間によって外れ値を置き換えることができ、予め定義された窓サイズでセンサデータに対して移動平均を実行することによって、センサデータ内の他の変動を低減することができる。
【００２８】
図５Ａは、本発明の一実施形態による、センサデータ中の欠落値を処理する実施例を示す。具体的には、図５Ａは、ある期間にわたって記録されたセンサデータのデータマップを示す。データマップ内の行はタイムスタンプを表し、列はデータが記録されているセンサを表す。データが記録されるセンサは、目標センサと、｛Ｆ１、Ｆ２、Ｆ３、Ｆ４、Ｆ５、Ｆ６、Ｆ７、Ｆ８、Ｆ９｝によって表される１セットの特徴センサとを含む。データマップ内のより暗い領域５０２は、記録されたセンサデータ値を示し、データマップ内の空領域又は明るい領域５０４は、欠落値を示す。例えば、｛Ｆ５、Ｆ６、Ｆ７、Ｆ８、Ｆ９｝のような特徴センサについて記録されたデータは目標センサの記録時間中に選択され５０６、一方、データマップ内にデータを示さない残りの特徴センサは廃棄される。
【００２９】
図５Ｂは、本発明の一実施形態による、センサデータに対して移動平均を実行する結果を示す。プロット（ａ）に示されるセンサデータは、以前に、欠落値処理、一変量分析、及び補間を受けた。プロット（ｂ）〜（ｃ）は、異なる窓サイズの移動平均がプロット（ａ）内のセンサデータに適用された後のセンサデータを示す。
【００３０】
図４に示されるデータクレンジングを実行することに続いて、システムは、次いで、特徴工学をセンサデータに適用することができる。図６は、本発明の一実施形態による、特徴工学を実行するための例示的なプロセスを示すフローチャートを示す。動作中、システムは、単調な特徴に対して特徴変換（動作６０２）を実行して、新たな特徴としてそれらの変化率を計算する。
【００３１】
実地産業ＩｏＴ用途では、遅延は、通常、工場レイアウトにおける生産ラインの異なる部分から収集されたデータ内に存在する。したがって、特徴センサの一部に関連付けられたデータは、目標センサに対する時間遅延を示す可能性がある。特徴センサデータと目標センサデータとの間の遅延は、以下のように表される正規化された相互相関（動作６０４）を使用することによって計算することができる。
【００３２】
【数３】
2020198092.tif 000005
【００３３】
式中、μｘｊ及びμｙは、それぞれ、第ｊの特徴センサ及び目標センサｙの平均値を表し、σｘｊ及びσｙは、それぞれ、第ｊの特徴センサ及び目標センサｙの標準偏差を表し、（＊）はコンボリューション演算子を表し、‖ｘｊ‖は、ｘｊの長さを表す。次いで、特徴センサｘｊは、式（６）で計算された遅延によってシフトされる。
【００３４】
遅延シフトされた特徴センサは、特徴相関モジュールに供給される。遅延シフトされた特徴センサｘｊと目標センサｙとの間のこのモジュール相関は、以下によって計算される（動作６０６）。
【００３５】
【数４】
2020198092.tif 000006
【００３６】
ここで、ｃｏｖ（ｘｊ，ｙ）は、ｘｊとｙとの間の共分散を表す。
【００３７】
式（８）に従って動作６０６で計算された相関を使用して、システムは、特徴センサをそれに応じてランク付けすることができる（動作６０８）。一実施形態では、システムは、予め定義された閾値ρ閾値よりも高い相関値を有する特徴を選択する。これは、目標センサとの低い相関を示す特徴が、対単位一変量異常モデルを構築するのに適していない可能性があるためである。
【００３８】
図７Ａは、本発明の一実施形態による、工場内のラインレイアウトに起因して、目標変数７０２に対して遅延される特徴７０４の可視化を示す。特徴７０４を目標７０２と時間整列させるために、特徴７０４の遅延は、式（６）に従って計算される。次いで、特徴７０４は、式（６）から計算された遅延値によってシフトされ、シフトされた特徴７０６を得る。
【００３９】
図７Ｂは、本発明の一実施形態による、目標センサＴに関連付けられたデータと１セットの特徴センサ｛Ｆ１、Ｆ２、Ｆ３、Ｆ４、Ｆ５、Ｆ６、Ｆ７、Ｆ８、Ｆ９｝に関連付けられたデータとの間の例示的なデータ相関マップを示す。目標センサデータとの高い相関を示す特徴センサは選択され、目標センサデータとの低い相関を有する特徴センサは省略される。例えば、予め定義された閾値ρ閾値＝０．９である場合、特徴センサ｛Ｆ１、Ｆ２、Ｆ３｝のみが選択される。次いで、選択された特徴センサは、それらの相関値に従ってランク付けされる。
【００４０】
教師なし異常検出システムアーキテクチャ
図８は、本発明の一実施形態による、例示的な教師なし異常検出システムアーキテクチャ８００を示す。教師なし異常検出システム８００は、センサデータベース８０２、データ探索モジュール８０４、モデルビルダモジュール８０６、異常検出モジュール８０８、及び重み付き投票モジュール８１０を含み得る。
【００４１】
センサデータベース８０２は、１つ以上の機械に内蔵された１セットのＭセンサから収集されたセンサデータ｛ａ１，ａ２，．．．，ａｍ｝を記憶する。データ探索モジュール８０４は、センサデータ｛ａ１，ａ２，．．．，ａｍ｝を自動的に処理に対応して、欠落値、外れ値、及び雑音を修復し得る。欠落値、外れ値、及び雑音が、図２〜図４に示すフローチャートに従って修復された後、センサデータが目標センサデータとの高い相関を有する有限セットの特徴センサ｛ｘ１，ｘ２，．．．ｘｊ，．．．，ｘｐ｝（ここで、ｐ＜＜ｍ）が選択される。最適には、システムは、低い相関を示す残りの特徴センサを省略することができる。データ探索段階の後、ｐ個の特徴センサ及び所与の目標センサｙが利用可能であり、各センサはｎ個の時間サンプルを有する。システムは、線形回帰のゼロ平均及び単位分散を有するようにセンサデータを正規化することができる。いくつかの実施形態では、システムは、選択された特徴センサ｛ｘ１，ｘ２，．．．ｘｊ，．．．，ｘｐ｝及び目標センサｙに関連付けられた正規化されたデータを、モデルビルダモジュール８０６を実装する別のコンピュータシステムに送信して、異常距離を計算することができる。
【００４２】
モデルビルダモデル８０６は１セットの対単位一変量異常モデルを構築することができ、各対単位一変量異常モデルは、１対の特徴センサｘｊ及び目標センサｙに対する対単位の線形回帰を実施する。
【００４３】
ｙは、ｙ＝［ｙｉ］ｎによって定義される正規化された目標行列を表し、ここで、ｙｉは、１≦ｉ≦ｎの目標センサの第ｉのサンプルを表す。同様に、Ｘは、Ｘ＝［ｘｉｊ］ｎｐによって定義される正規化された特徴行列を表し、式中、ｘｉｊは、１≦ｉ≦ｎ及び１≦ｊ≦ｐに対する第ｊの特徴センサの第ｉのサンプルを表す。列ベクトルＸ．ｊ＝［ｘ１ｊ，ｘ２ｊ，．．．，ｘｎｊ］は、第ｊの特徴センサからのデータを表す。全てのセンサデータが正規化されるため、それらの分散はＶａｒ［ｙ］＝Ｖａｒ［Ｘ．ｊ］＝１であり、平均はＥ［ｙ］＝Ｅ［Ｘ．ｊ］＝０である。
【００４４】
第ｊの特徴センサ及び目標センサｙのための対単位一変量異常モデルが以下のように計算される。最初に、目標センサと特徴センサとの間の関数関係は、以下のように推測される。
【００４５】
【数５】
2020198092.tif 000007
【００４６】
ここで、
【００４７】
【数６】
2020198092.tif 000008
【００４８】
は、第ｊの特徴センサの予測される第ｉの目標値を表し、
【００４９】
【数７】
2020198092.tif 000009
【００５０】
は推定回帰係数パラメータである。この推定回帰係数パラメータは、以下のとおりであり得る。
【００５１】
【数８】
2020198092.tif 000010
【００５２】
推定回帰係数パラメータは、対単位一変量異常モデルの適合性を測定するために使用され得る。モデル適合性の測定は、Ｒ２によって表される。第ｊの特徴センサのモデル適合性は、
【００５３】
【数９】
2020198092.tif 000011
【００５４】
と表されることができ、
【００５５】
【数１０】
2020198092.tif 000012
【００５６】
である。
【００５７】
【数１１】
2020198092.tif 000013
【００５８】
のより高い値は、第ｊの特徴センサのより良好な線形モデルを意味する。更に、第ｊの特徴センサのモデル適合性測定
【００５９】
【数１２】
2020198092.tif 000014
【００６０】
は、以下のように推定回帰係数
【００６１】
【数１３】
2020198092.tif 000015
【００６２】
に関連する。
【００６３】
【数１４】
2020198092.tif 000016
【００６４】
対単位一変量異常モデルが第ｊの特徴センサについて予測された後、観察された目標センサ値ｙｉと第ｊの特徴センサの予測されたモデルとの間の直交差は、以下によって判定される。
【００６５】
【数１５】
2020198092.tif 000017
【００６６】
ここで、ｄｉｊは、第ｉのサンプル及び第ｊの特徴センサの異常距離と呼ばれ得る。直交差ｅｉｊの平均及び分散は、以下によって与えられる。
【００６７】
【数１６】
2020198092.tif 000018
【００６８】
全ての特徴センサＸ＝［ｘｉｊ］ｎｐに関連付けられた異常距離は、Ｄ＝［ｄｉｊ］ｎｐとして異常距離行列形態で表すことができる。これらの異常距離は、異常検出モジュール８０８に送られて、１セットのｐ対単位一変量異常モデルにおける各モデルについての投票点数を判定する。
【００６９】
異常検出モジュール８０８は、１セットのクラスタリング関数を異常距離行列に適用して、投票点数を判定する。１組のクラスタリング関数は、Ｇ＝［ｇｊ］ｐによって表すことができる。各クラスタリング関数は、ｊ＝１，２，．．．，ｐについて独立してＤ．ｊから学習される。各クラスタリング関数は、観測された異常距離を２値出力に分類する。具体的には、出力値は異常であれば１に設定され、そうでなければ出力値は０に設定される。クラスタリング関数ｇｊは、以下のように表すことができる。
【００７０】
【数１７】
2020198092.tif 000019
【００７１】
ここで、Ｖは、［ｖｉｊ］ｎｐ及びｖｉｊ∈｛０，１｝によって定義される投票行列を表す。１セットのクラスタリング関数について、投票行列ＶはＶ＝Ｇ（Ｄ）として表すことができる。
【００７２】
一実施形態では、２つの重心（すなわち、ｋ＝２）を有するガウス混合モデル（ＧＭＭ）クラスタリング関数Ｇが使用される。ｓはランダム変数を表し、ランダム変数のガウス分布は、平均μｓ及び標準偏差σｓを有するＮ（ｓ│μｓ，σｓ）によって与えられる。ＧＭＭについては、ｄｉｊの確率密度関数は、以下により、ガウス分布に換算して表される。
【００７３】
【数１８】
2020198092.tif 000020
【００７４】
ここで、πｋは、０≦πｋ≦１及びΣｋπｋ＝１の重み確率を表す。ＧＭＭモデルは、訓練データ｛ｄｉｊ│ｉ＝１，２，．．．，ｎ｝を有する期待値最大化（ＥＭ）アルゴリズムによって訓練することができる。μ０＜μ１と仮定すると、異常状態は、ＧＭＭｊ（ｄｉｊ）＝１である場合にｖｉｊ＝１、そうでなければ０として投票することによって異常に設定され得る。
【００７５】
特徴センサにおける異常は、投票点数ｖｉｊを使用することによって投票されるが、一実施形態により、重み付き投票モジュール８１０において多数決投票を行うことによって異常検出の精度を向上させることができる。重み付き投票モジュール８１０では、第ｉの目標サンプルにおける異常重み付け点数は以下によって計算される。
【００７６】
【数１９】
2020198092.tif 000021
【００７７】
ここで、Ｓ＝［ｓｉｊ］ｎｐは、異常点数行列と呼ばれ、各特徴センサのＲ２値によって、
【００７８】
【数２０】
2020198092.tif 000022
【００７９】
として再スケールされた異常距離行列を表す。動作＜ａ，ｂ＞は、ａ及びｂの線形積を表す。異常点数行列Ｓは、経時的な目標センサの異常パターン及び寄与する特徴センサを可視化するために使用され得る。このような可視化は、ユーザが、顕著な異常パターンを有する関心のある目標を迅速に特定するのを助けることができる。
【００８０】
一実施形態では、異常重み行列Ｗを使用して、異常投票点数に対する各特徴センサの寄与を定量化することができる。各特徴センサの寄与のこの定量化は、異常に対する特徴センサの重要性をランク付けするために使用することができる。
【００８１】
全ての特徴センサについて、多数決投票ｕ＝［ｕｉ］ｎは、以下のように書くことができる。
【００８２】
【数２１】
2020198092.tif 000023
【００８３】
ここで、°はアダマール積であり、１はｐ×１単位行列である。第ｉの目標サンプルの異常の最終決定８１２は、以下によって定義される。
【００８４】
【数２２】
2020198092.tif 000024
【００８５】
ここで、０≦Ｕｔｒ≦１は、ユーザ定義の多数決投票閾値である。図９は、一実施形態による多数決投票を伴う教師なし異常検出方法を使用して異常を検出するための擬似コードを示す。
【００８６】
図１０は、本発明の一実施形態による、教師なし異常検出結果例を示す。最上図（ａ）は、ある期間にわたって記録された目標センサ値のプロットを示す。曲線上の赤色領域は、異常の存在を表す。中央の第２の図（ｂ）は、７つの選択された特徴センサに関連付けられた異常距離のプロットを示す。異常距離のピークは、誤って検出された異常に対応する。しかしながら、異常距離を多数決投票技術と組み合わせた後、異常検出システムは、目標センサデータにおける異常を正確に検出することができる。最後の図（ｃ）は、本発明の一実施形態による、７つの選択された特徴センサによる多数決投票技術の結果を示す。赤色線は、多数決投票閾値を表す。多数決投票閾値（赤色線）を横切る重み付き異常投票の結果として得られた値は、異常に対応する。目標センサ値（プロット（ａ）において）にマークされた異常値は、多数決投票を伴う教師なし異常検出システムによって高精度で検出される。
【００８７】
図１１は、本発明の一実施形態による、多数決投票を伴う教師なし異常検出を実行するための例示的なプロセスを示すフローチャートを示す。動作中、システムは、センサデータベース内に記憶されたセンサデータを取得することができる（動作１１０２）。センサデータは、工場レイアウトで１つ以上の機械に内蔵された複数のセンサに関連付けられる。
【００８８】
産業ＩｏＴ用途では、センサの数を増加させることにより、収集されたセンサデータの量は著しく大きい。更に、センサデータは、通常、欠落した、破損した、雑音が多い、かつ高度に相関した値を含む、多数の良く調整されていないデータを含む。そのような不良な品質のセンサデータが異常検出に使用される場合、結果は不正確であり、したがって信頼できない。更に、異常検出の計算複雑性は、多数のセンサデータの利用可能性に起因して著しく増加する。センサデータの品質を改善し、特徴センサの数を低減するために、センサデータ上でデータ探索が実行される（動作１１０４）。
【００８９】
データ探索の実行に続いて、システムは１セットの線形モデルを構築することができる。換言すれば、システムは、各特徴センサ及び目標センサに関連付けられたデータを使用して、対単位一変量異常モデルを構築し、それらの間の関係を推測する。システムは、推測された関係に基づいて、１セットの特徴センサに対する１セットの異常距離を計算する（動作１１０６）。
【００９０】
動作１１０８の間、１セットの異常の「候補」事象が特定される。次いで、動作１１１０及び１１１２における多数決投票に基づいて、それらは異常事象として確認され、その責任は、最も高い点数を有する特徴センサに起因する。異常事象は、目標センサと１セットの特徴センサとの間の推定された関係に基づいて特定される。具体的には、１セットの異常投票点数は、１セットの異常距離及び１セットのクラスタリング関数に基づいて計算される（動作１１０８）。
【００９１】
最後に、多数決投票手順による異常の集合的決定が行われる（動作１１１０）。動作１１１０は、図８に示す重み付き投票モジュール８１０の動作と同様であり得る。
【００９２】
例示的なコンピュータシステム及び装置
図１２は、本発明の一実施形態による、教師なし異常検出システムを容易にする例示的なコンピュータシステムを示す。コンピュータシステム１２００は、プロセッサ１２０２、メモリ１２０４、及び記憶デバイス１２０６を含む。コンピュータシステム１２００は、ディスプレイデバイス１２１０、キーボード１２１２、及びポインティングデバイス１２１４に結合され得、また、１つ以上のネットワークインタフェースを介してネットワーク１２０８に結合され得る。記憶デバイス１２０６は、オペレーティングシステム１２１８及び教師なし異常検出システム１２２０を記憶することができる。
【００９３】
教師なし異常検出システム１２２０は、コンピュータシステム１２００によって実行されると、コンピュータシステム１２００に、本開示で説明される方法及び／又はプロセスを実行させることができる命令を含むことができる。教師なし異常検出システム１２２０はまた、１つ以上のセンサ（センサデータ受信モジュール１２２２）に関連付けられたセンサデータを受信するための命令と、センサデータ（センサデータ探索モジュール１２２４）上でデータ探索を実行するための命令と、データ探索段階（線形モデルビルダモジュール１２２６）の後にセンサデータを処理するための命令と、を含むことができる。更に、教師なし異常検出システム１２２０は、異常事象（異常検出モジュール１２２８）を検出するための命令と、検出された異常事象（多数決投票モジュール１２３０）に対して多数決投票を実行するための命令と、を含むことができる。
【００９４】
図１３は、本発明の一実施形態による、教師なし異常検出システムを容易にする例示的な装置を示す。装置１３００は、有線、無線、量子光、又は電気通信チャネルを介して互いに通信し得る複数のユニット又は装置を備えることができる。装置１３００は、１つ以上の集積回路を使用して実現され得、図１３に示されているものよりも少ない又は多いユニット又は装置を含み得る。更に、装置１３００は、コンピュータシステムに統合され得るか、又は他のコンピュータシステム及び／又はデバイスと通信することができる別個のデバイスとして実現され得る。具体的には、装置１３００は、図１２のコンピュータシステム１２００のモジュール１２２０〜１２３０と同様の機能又は動作を実行するユニット１３０２〜１３１２を備えることができ、センサデータ受信ユニット１３０２、センサデータ探索ユニット１３０４、線形モデルビルダユニット１３０６、異常検出ユニット１３０８、及び多数決投票ユニット１３１０を含む。装置１３００は、通信ユニット１３１２を更に含むことができる。
【００９５】
一般に、本発明の実施形態は、多数決投票を伴う教師なし学習を使用して、高次元及び非ラベル付きセンサデータにおける異常を検出及び原因を説明する方法及びシステムを提供する。工場機械に関連付けられたセンサ日付における異常を検出することが、例として使用されている。実際には、この解決策は、工場機械に関連付けられた異常を検出することに限定されない。また、他の種類の機器又は機械における異常を検出するために使用することもできる。
【００９６】
「発明を実施するための形態」の節に記載される方法及びプロセスは、上に論じられるようなコンピュータ可読記憶媒体内に記憶され得るコード及び／又はデータとして具体化され得る。コンピュータシステムが、コンピュータ可読記憶媒体上に記憶されたコード及び／又はデータを読み取って実行すると、コンピュータシステムは、データ構造及びコードとして具体化され、コンピュータ可読記憶媒体内に記憶された方法及び処理を実行する。
【００９７】
更に、上述の方法及び処理は、ハードウェアモジュール又は装置に含まれてもよい。ハードウェアモジュール又は装置としては、特定用途向け集積回路（ａｐｐｌｉｃａｔｉｏｎ−ｓｐｅｃｉｆｉｃ  ｉｎｔｅｇｒａｔｅｄ  ｃｉｒｃｕｉｔ、ＡＳＩＣ）チップ、フィールドプログラム可能ゲートアレイ（ｆｉｅｌｄ−ｐｒｏｇｒａｍｍａｂｌｅ  ｇａｔｅ  ａｒｒａｙ、ＦＰＧＡ）、特定の時刻に特定のソフトウェアモジュール又はコードを実行する専用又は共有プロセッサ、及び、既知の又は後に開発される他のプログラム可能論理デバイスを含むことができるが、これらに限定されない。ハードウェアモジュール又は装置が起動されると、それらの内部に含まれる方法及び処理が実行される。
【００９８】
本明細書に記載される前述の実施形態は、例示及び説明のみを目的として提示されている。これらは、網羅的であること、又は本発明を開示される形態に限定することを意図するものではない。したがって、多くの修正及び変形が、当業者には明らかであろう。加えて、上記の開示は、本発明を限定することを意図するものではない。本発明の範囲は、添付の特許請求の範囲によって定義される。
【図１Ａ】
2020198092.tif 000025
【図１Ｂ】
2020198092.tif 000026
【図１Ｃ】
2020198092.tif 000027
【図２】
2020198092.tif 000028
【図３】
2020198092.tif 000029
【図４】
2020198092.tif 000030
【図５Ａ】
2020198092.tif 000031
【図５Ｂ】
2020198092.tif 000032
【図６】
2020198092.tif 000033
【図７Ａ】
2020198092.tif 000034
【図７Ｂ】
2020198092.tif 000035
【図８】
2020198092.tif 000036
【図９】
2020198092.tif 000037
【図１０】
2020198092.tif 000038
【図１１】
2020198092.tif 000039
【図１２】
2020198092.tif 000040
【図１３】
2020198092.tif 000041