(57)【要約】【課題】計算能力が比較的低い機器においても、特徴量を自動で学習および獲得して異常を検出することができる異常検出装置および方法を提供することを目的とする。【解決手段】  異常検出装置１は、一次元の時系列信号である一次元信号を監視対象から取得する一次元信号取得部２と、取得された一次元信号を入力として、一次元畳み込み層を有する一次元ＣＮＮを学習させて一次元信号の特徴量を算出し、特徴量に基づいて一次元信号を分類して監視対象の異常を検出するように、一次元ＣＮＮを構築するための設定情報を出力する学習部５と、設定情報を記憶する特徴量設定記憶部６１および分類器設定記憶部６２と、特徴量設定記憶部６１および分類器設定記憶部６２に記憶された設定情報に基づいて構築された一次元ＣＮＮに、未知の一次元信号を入力して、監視対象の異常を検出する検出部６とを有する。【選択図】  図１
2019185580.tif 000002
【特許請求の範囲】
【請求項１】
一次元の時系列信号である一次元データを監視対象から取得する信号取得部と、
取得された前記一次元データを入力として、ニューラルネットワークを学習させて、前記一次元データの特徴量を算出し、前記特徴量に基づいて前記一次元データを分類して前記監視対象の異常を検出するように、前記ニューラルネットワークを構築するための設定情報を出力する学習部と、
前記設定情報を記憶する記憶部と、
前記記憶部に記憶された前記設定情報に基づいて構築された前記ニューラルネットワークに、前記監視対象から新たに取得された一次元の時系列信号である未知の一次元データを入力して、前記監視対象の異常を検出する検出部と、
を備え、
前記ニューラルネットワークは、前記一次元データに対して一次元の畳み込みを行う一次元畳み込み層を含む
ことを特徴とする異常検出装置。
【請求項２】
請求項１に記載の異常検出装置において、
前記学習部は、
前記一次元データの特徴量を算出し、算出された前記特徴量に基づいて、前記ニューラルネットワークを構築するための特徴量の設定情報を出力する特徴量学習部と、
前記特徴量の設定情報を入力として前記一次元データを分類し、分類結果に基づいて、前記ニューラルネットワークを構築するための分類の設定情報を出力する分類器学習部と、
を備え、
前記記憶部は、前記特徴量の設定情報と前記分類の設定情報とを記憶し、
前記検出部は、
前記記憶部に記憶された前記特徴量の設定情報に基づいて、未知の前記一次元データの特徴量を算出する特徴量算出部と、
前記記憶部に記憶された前記分類の設定情報に基づき、前記特徴量算出部により算出された前記特徴量を入力として、未知の前記一次元データの分類を行い異常を検出する分類部と
を備えることを特徴とする異常検出装置。
【請求項３】
請求項１または請求項２に記載の異常検出装置において、
前記ニューラルネットワークは、少なくとも一層の前記一次元畳み込み層と少なくとも一層の全結合層とを有することを特徴とする異常検出装置。
【請求項４】
請求項１から３のいずれか１項に記載の異常検出装置において、
前記ニューラルネットワークは、前記一次元畳み込み層の出力を入力とする再帰型ニューラルネットワーク層をさらに有することを特徴とする異常検出装置。
【請求項５】
請求項４に記載の異常検出装置において、
前記再帰型ニューラルネットワーク層は、ＬＳＴＭ層であることを特徴とする異常検出装置。
【請求項６】
一次元の時系列信号である一次元データを監視対象から取得する信号取得ステップと、
取得した前記一次元データを入力として、ニューラルネットワークを学習させて、前記一次元データの特徴量を算出し、前記特徴量に基づいて前記一次元データを分類して前記監視対象の異常を検出するように、前記ニューラルネットワークを構築するための設定情報を出力する学習ステップと、
記憶部に記憶された前記設定情報に基づいて構築された前記ニューラルネットワークに、前記監視対象から新たに取得された一次元の時系列信号である未知の一次元データを入力して、前記監視対象の異常を検出する検出ステップと、
を備え、
前記ニューラルネットワークは、前記一次元データに対して一次元の畳み込みを行う一次元畳み込み層を含む
ことを特徴とする異常検出方法。
【請求項７】
請求項６に記載の異常検出方法において、
前記学習ステップは、
前記一次元データの特徴量を算出し、算出された前記特徴量に基づいて、前記ニューラルネットワークを構築するための特徴量の設定情報を出力する特徴量学習ステップと、
前記特徴量の設定情報を入力として前記一次元データを分類し、分類結果に基づいて、前記ニューラルネットワークを構築するための分類の設定情報を出力する分類器学習ステップと、
を備え、
前記検出ステップは、
前記記憶部に記憶された前記特徴量の設定情報に基づいて、未知の前記一次元データの特徴量を算出する特徴量算出ステップと、
前記記憶部に記憶された前記分類の設定情報に基づき、前記特徴量算出ステップで算出された前記特徴量を入力として、未知の前記一次元データの分類を行い異常を検出する分類ステップと、
を備えることを特徴とする異常検出方法。
【請求項８】
請求項６または請求項７に記載の異常検出方法において、
前記ニューラルネットワークは、前記一次元畳み込み層の出力を入力とする再帰型ニューラルネットワーク層をさらに有することを特徴とする異常検出方法。
【請求項９】
請求項８に記載の異常検出方法において、
前記再帰型ニューラルネットワーク層は、ＬＳＴＭ層であることを特徴とする異常検出方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、異常検出装置および方法に関し、特に一次元の時系列信号を用いた異常検出技術に関する。
【背景技術】
【０００２】
工場やプラントの生産設備では、安全操業や安定品質で生産を行うために、設備内に配置されたセンサなどで計測した温度や圧力、流量、調節弁の開度、振動、トルクなどのセンサデータを制御および監視している。これらのセンサデータは一次元の時系列信号であり、従来からこのような一次元の時系列信号の異常を検出する手法が各種提案されている。
【０００３】
一次元の時系列信号（以下、「一次元信号」という。）の異常を検出する従来の手法は多種多様あるが、一般的には、従来の異常検出装置において以下のような手順が用いられる。
【０００４】
まず、異常検出装置がセンサから一次元信号を取得する。異常検出装置は、異常検出の精度を高めるために、取得した一次元信号に対して信号振幅の正規化やフィルタリングなどの前処理を施す。その後、異常検出装置は、前処理された一次元信号から予め設定された特徴量を計算する。特徴量は複数算出される場合もある。そして、異常検出装置は、その特徴量に基づいて、入力された一次元データが正常か異常かを分類する。
【０００５】
ここで、従来の異常検出装置における特徴量は、異常検出装置の設計者の知見に基づいて設計や選択がされる指標値であり、例えば、一次元データの振幅や周波数成分、位相またはこれらの組み合わせで演算される指標値が特徴量として用いられてきた。
【０００６】
また、特徴量に基づいて一次元信号の異常と正常とを分類する別の従来の異常検出装置では、予め設計者が決めた閾値に基づいて分類を行う手法や、統計的検定による手法などが用いられている。例えば、特許文献１は、予め設計者が信号を時間周波数分析して算出した特徴量に基づいて、全結合層のみを持つニューラルネットワークにより分類処理のみを自動で機械学習させる異常検出技術を開示している。
【０００７】
一方で、近年における二次元画像の研究分野では、深層学習を利用した畳み込みニューラルネットワーク（以下、「ＣＮＮ」という。）による分析技術が成果を挙げている。畳み込み層と全結合層とを有するＣＮＮを用いることで、二次元画像の特徴量を自動で学習および獲得し、分類を行うことができることは良く知られている（例えば、非特許文献１参照）。
【０００８】
上記のような二次元信号処理を行うＣＮＮを用いて、一次元データが正常であるか異常であるかなどの分類を行う場合、分類対象の一次元データを二次元信号へ拡張してＣＮＮへ入力し、入力信号の分類ができるよう機械学習させることが行われている。より詳細には、一次元の時系列信号を短時間フーリエ変換してスペクトログラムとして二次元信号へ変換することで、一次元データを二次元画像と同様に分析することが行われている。
【０００９】
例えば、非特許文献２は、楽器音である一次元データをスペクトログラムへ変換し、畳み込み層と全結合層を有するＣＮＮへ入力することで、楽器の分類を行った事例を報告している。
【００１０】
ここで、従来の一次元信号を二次元信号へ変換してＣＮＮの入力信号とする異常検出装置の動作例を図１６および図１７に示す。従来の異常検出装置の動作は、図１６に示す学習処理と、図１７に示す検出処理とに大別される。まず、図１６の学習処理においては、予め正常と異常とが分類され、ラベル付けされた多量の一次元信号群（教師データ）を用いてＣＮＮの学習を行う。
【００１１】
より詳細には、従来例の異常検出装置は、まず、予め正常と異常とを分類しラベル付けされた一次元信号群を監視対象から取得する（ステップＳ５００）。次に、取得された一次元信号は、ノイズの除去などの前処理が施される（ステップＳ５０１）。その後、一次元信号は短時間フーリエ変換により二次元信号へ変換される（ステップＳ５０２）。二次元信号へ変換された信号は、ＣＮＮへ入力され、順伝搬処理が行われる（ステップＳ５０３）。
【００１２】
次に、ＣＮＮの出力に対して、損失関数による誤差が導出され（ステップＳ５０４）、誤差が十分に小さくなるまで（ステップＳ５０５：ＮＯ）ＣＮＮ誤差逆伝搬処理が繰り返し行われる（ステップＳ５０６、Ｓ５０３、Ｓ５０４、Ｓ５０５）。そして、ＣＮＮの学習によって決定された重みパラメータが所定の記憶領域に記憶される（ステップＳ５０７）。
【００１３】
上記の手順により学習を行った後、従来例の異常検出装置は、図１７に示すように、ラベルが付されていない未知の一次元信号を取得する（ステップＳ５１０）。その後、取得された一次元信号のノイズ除去などの前処理を行い（ステップＳ５１１）、同様に、一次元信号を二次元信号に変換する（ステップＳ５１２）。
【００１４】
次に、二次元化された信号が、学習済みのＣＮＮに入力されて順伝搬処理が行われる（ステップＳ５１３）。その後、異常検出装置は、学習済みのＣＮＮによって二次元信号に拡張された一次元信号が正常か異常かを示す分類結果を出力する（ステップＳ５１４）。
【先行技術文献】
【特許文献】
【００１５】
【特許文献１】特許第６０３３１４０号公報
【非特許文献】
【００１６】
【非特許文献１】松尾  豊  著「人工知能は人間を超えるか  ディープラーニングの先にあるもの」，角川ＥＰＵＢ選書，２０１５年３月発行
【非特許文献２】Ｖｉｎｃｅｎｔ  Ｌｏｓｔａｎｌｅｎ  ａｎｄ  Ｃａｒｍｉｎｅ−Ｅｍａｎｕｅｌｅ  Ｃｅｌｌａ：“ＤＥＥＰ  ＣＯＮＶＯＬＵＴＩＯＮＡＬ  ＮＥＴＷＯＲＫＳ  ＯＮ  ＴＨＥ  ＰＩＴＣＨ  ＳＰＩＲＡＬ  ＦＯＲ  ＭＵＳＩＣＡＬ  ＩＮＳＴＲＵＭＥＮＴ  ＲＥＣＯＧＮＩＴＩＯＮ”，ＩＳＭＩＲ２０１６
【非特許文献３】三村  正人  著「深層学習に基づくフロントエンド特徴強調と頑健な音声認識」，日本音響学会誌  ７３巻１号，ｐｐ．４７−５４（２０１７）
【発明の概要】
【発明が解決しようとする課題】
【００１７】
しかし、従来の異常検出技術では、ＣＮＮへ信号を入力するごとに一次元信号を二次元信号へ変換する必要があるため、計算コストが高くなっていた。そのため、計算能力の比較的低い現場機器などの機器において、異常検出装置を実装して運用することが困難であった。
【００１８】
本発明は、上述した課題を解決するためになされたものであり、計算能力が比較的低い機器においても、特徴量を自動で学習および獲得して異常を検出することができる異常検出装置および方法を提供することを目的とする。
【課題を解決するための手段】
【００１９】
上述した課題を解決するために、本発明に係る異常検出装置は、一次元の時系列信号である一次元データを監視対象から取得する信号取得部と、取得された前記一次元データを入力として、ニューラルネットワークを学習させて、前記一次元データの特徴量を算出し、前記特徴量に基づいて前記一次元データを分類して前記監視対象の異常を検出するように、前記ニューラルネットワークを構築するための設定情報を出力する学習部と、前記設定情報を記憶する記憶部と、前記記憶部に記憶された前記設定情報に基づいて構築された前記ニューラルネットワークに、前記監視対象から新たに取得された一次元の時系列信号である未知の一次元データを入力して、前記監視対象の異常を検出する検出部と、を備え、前記ニューラルネットワークは、前記一次元データに対して一次元の畳み込みを行う一次元畳み込み層を含むことを特徴とする。
【００２０】
また、本発明に係る異常検出装置において、前記学習部は、前記一次元データの特徴量を算出し、算出された前記特徴量に基づいて、前記ニューラルネットワークを構築するための特徴量の設定情報を出力する特徴量学習部と、前記特徴量の設定情報を入力として前記一次元データを分類し、分類結果に基づいて、前記ニューラルネットワークを構築するための分類の設定情報を出力する分類器学習部と、を備え、前記記憶部は、前記特徴量の設定情報と前記分類の設定情報とを記憶し、前記検出部は、前記記憶部に記憶された前記特徴量の設定情報に基づいて、未知の前記一次元データの特徴量を算出する特徴量算出部と、前記記憶部に記憶された前記分類の設定情報に基づき、前記特徴量算出部により算出された前記特徴量を入力として、未知の前記一次元データの分類を行い異常を検出する分類部とを備えていてもよい。
【００２１】
また、本発明に係る異常検出装置において、前記ニューラルネットワークは、少なくとも一層の前記一次元畳み込み層と少なくとも一層の全結合層とを有していてもよい。
【００２２】
また、本発明に係る異常検出装置において、前記ニューラルネットワークは、前記一次元畳み込み層の出力を入力とする再帰型ニューラルネットワーク層をさらに有していてもよい。
【００２３】
また、本発明に係る異常検出装置において、前記再帰型ニューラルネットワーク層は、ＬＳＴＭ層であってもよい。
【００２４】
また、本発明に係る異常検出方法は、一次元の時系列信号である一次元データを監視対象から取得する信号取得ステップと、取得した前記一次元データを入力として、ニューラルネットワークを学習させて、前記一次元データの特徴量を算出し、前記特徴量に基づいて前記一次元データを分類して前記監視対象の異常を検出するように、前記ニューラルネットワークを構築するための設定情報を出力する学習ステップと、記憶部に記憶された前記設定情報に基づいて構築された前記ニューラルネットワークに、前記監視対象から新たに取得された一次元の時系列信号である未知の一次元データを入力して、前記監視対象の異常を検出する検出ステップと、を備え、前記ニューラルネットワークは、前記一次元データに対して一次元の畳み込みを行う一次元畳み込み層を含むことを特徴とする。
【００２５】
また、本発明に係る異常検出方法において、前記学習ステップは、前記一次元データの特徴量を算出し、算出された前記特徴量に基づいて、前記ニューラルネットワークを構築するための特徴量の設定情報を出力する特徴量学習ステップと、前記特徴量の設定情報を入力として前記一次元データを分類し、分類結果に基づいて、前記ニューラルネットワークを構築するための分類の設定情報を出力する分類器学習ステップと、を備え、前記検出ステップは、前記記憶部に記憶された前記特徴量の設定情報に基づいて、未知の前記一次元データの特徴量を算出する特徴量算出ステップと、前記記憶部に記憶された前記分類の設定情報に基づき、前記特徴量算出ステップで算出された前記特徴量を入力として、未知の前記一次元データの分類を行い異常を検出する分類ステップとを備えていてもよい。
【００２６】
また、本発明に係る異常検出方法において、前記ニューラルネットワークは、前記一次元畳み込み層の出力を入力とする再帰型ニューラルネットワーク層をさらに有していてもよい。
【００２７】
また、本発明に係る異常検出方法において、前記再帰型ニューラルネットワーク層は、ＬＳＴＭ層であってもよい。
【発明の効果】
【００２８】
本発明によれば、一次元信号のままで処理を行う一次元ＣＮＮを利用するので、計算能力が比較的低い機器であっても、特徴量を自動で学習および獲得して異常の有無を検出することができる。
【図面の簡単な説明】
【００２９】
【図１】図１は、本発明の第１の実施の形態に係る異常検出装置の機能構成を示すブロック図である。
【図２】図２は、本発明の第１の実施の形態に係る異常検出装置のハードウェア構成を示すブロック図である。
【図３】図３は、本発明の第１の実施の形態に係る異常検出装置で用いられる一次元ＣＮＮの構成を説明する図である。
【図４】図４は、本発明の第１の実施の形態に係る異常検出装置で用いられる一次元ＣＮＮの演算を説明する図である。
【図５】図５は、本発明の第１の実施の形態に係る異常検出装置の学習処理を説明するフローチャートである。
【図６】図６は、本発明の第１の実施の形態に係る異常検出装置の検出処理を説明するフローチャートである。
【図７】図７は、本発明の第２の実施の形態に係る異常検出装置の機能構成を示すブロック図である。
【図８】図８は、本発明の第２の実施の形態に係る異常検出装置で用いられる一次元ＣＮＮの構成を説明する図である。
【図９】図９は、本発明の第２の実施の形態に係るＬＳＴＭ層を説明するためのブロック図である。
【図１０】図１０は、本発明の第２の実施の形態に係る異常検出装置の学習処理を説明するフローチャートである。
【図１１】図１１は、本発明の第２の実施の形態に係る異常検出装置の検出処理を説明するフローチャートである。
【図１２】図１２は、本発明の実施の形態に係る一次元信号の具体例を示す図である。
【図１３】図１３は、本発明の実施の形態に係る一次元信号の具体例を示す図である。
【図１４】図１４は、本発明の実施の形態に係る異常検出装置の効果を説明する図である。
【図１５】図１５は、本発明の実施の形態に係る異常検出装置の効果を説明する図である。
【図１６】図１６は、従来の異常検出装置による学習処理を説明するフローチャートである。
【図１７】図１７は、従来の異常検出装置による検出処理を説明するフローチャートである。
【発明を実施するための形態】
【００３０】
以下、本発明の好適な実施の形態について、図１から図１５を参照して詳細に説明する。各図について共通する構成要素には、同一の符号が付されている。
【００３１】
［発明の原理］
本発明に係る異常検出装置は、異常検出の対象である一次元信号（一次元データ）を、二次元信号に変換する処理を行わずに直接ニューラルネットワークに入力し、さらに一次元で処理を行うことができる構成を用いる。
【００３２】
前述したように、ニューラルネットワークのなかでもＣＮＮは画像などの二次元信号の分析に広く利用されている。ＣＮＮは二次元信号だけでなく一次元信号の分析にも適用可能である。このことから、本発明に係る異常検出装置では、一次元信号の入力および処理が可能なＣＮＮに着目する。
【００３３】
また、前述したように、従来においては、監視対象から取得される信号が一次元信号であっても、一次元信号を二次元信号へ拡張することで、二次元で処理を行うＣＮＮに適用していた。これに対し、本発明に係る異常検出装置に用いられるＣＮＮは、監視対象から取得される一次元信号を一次元のまま入力信号とし、かつ一次元信号として処理する点に特徴がある。以下において、画像データなどの二次元信号を二次元処理するＣＮＮと区別して、上記のような一次元処理を行うＣＮＮを「一次元ＣＮＮ」という。
【００３４】
［第１の実施の形態］
図１は、本発明の第１の実施の形態に係る異常検出装置１の機能構成を示すブロック図である。
【００３５】
［異常検出装置の機能ブロック］
異常検出装置１は、一次元信号取得部（信号取得部）２、一次元信号記憶部３、一次元信号前処理部４、学習部５、および検出部６を備える。異常検出装置１は、その機能を大きく分けると、学習部５と検出部６とに大別される。
【００３６】
学習部５は、一次元信号を入力として、一次元ＣＮＮの学習を行い、一次元信号の特徴量を算出し、その特徴量に基づいて一次元信号を分類し、監視対象の異常を検出するように、一次元ＣＮＮを構築するための設定情報を出力する。
【００３７】
検出部６は、設定情報に基づいて構築された一次元ＣＮＮに、監視対象から新たに取得された未知の一次元信号を入力して、監視対象の異常を検出する。
【００３８】
一次元信号取得部２は、振動信号や圧力信号などの一次元の時系列信号を、例えば、ネットワーク通信などの電子的手段で監視対象から取得する。一次元信号取得部２は、学習部５が学習を行う際に用いる学習用の一次元信号、すなわち、異常または正常のラベル付けされた一次元信号を取得する。また、一次元信号取得部２は、検出部６が異常を検出する対象である未知の一次元信号を監視対象から取得する。なお、一次元信号取得部２は、複数のセンサから多チャネルで時系列の一次元信号を取得してもよい。
【００３９】
一次元信号記憶部３は、一次元信号取得部２によって取得された一次元信号を一時的に記憶する。より詳細には、一次元信号記憶部３は、学習用に取得され、ラベル付けされた一次元信号、および異常検出の対象であるラベル付けされていない未知の一次元信号をそれぞれ一時的に記憶する。なお、一次元信号記憶部３は、一次元信号を一定区間切り出して記憶する。
【００４０】
一次元信号前処理部４は、一次元信号記憶部３に記憶されている一次元信号に対する振幅正規化や定常ノイズを取り除くフィルタリングなどの処理を行う。なお、一次元信号の前処理は必要に応じて実施すればよく、一次元信号前処理部４を省略する構成を採用してもよい。
【００４１】
学習部５は、特徴量学習部５１および分類器学習部５２を備える。
学習部５は、一次元信号取得部２によって取得された多数の一次元信号を学習し、検出部６が未知の一次元信号を正しく分類できるように、一次元ＣＮＮの演算内容を決定する。
【００４２】
特徴量学習部５１は、一次元信号の特徴量を算出し、算出された特徴量に基づいて、一次元ＣＮＮを構築するための特徴量の設定情報を出力する。したがって、特徴量学習部５１は、一次元信号の特徴量の算出方法を学習する機能を有する。
【００４３】
より詳細には、特徴量学習部５１は、学習用の一次元信号に基づいて一次元ＣＮＮの学習を行う。特徴量学習部５１は、一次元ＣＮＮの畳み込み層（一次元畳み込み層）により構成される。特徴量学習部５１の学習によって得られた一次元信号の特徴量の算出方法である特徴量の設定情報は、後述する検出部６の特徴量設定記憶部６１に記憶される。
【００４４】
分類器学習部５２は、特徴量の設定情報を入力として、一次元信号を分類し、分類結果に基づいて一次元ＣＮＮを構築するための分類器の設定情報（分類の設定情報）を出力する。より詳細には、分類器学習部５２は、特徴量学習部５１で算出された一次元信号の特徴量を入力として、一次元信号における正常と異常とを分類する方法、すなわち分類器を教師あり学習で学習する。分類器学習部５２は、一次元ＣＮＮにおける全結合層により構成される。分類器学習部５２によって出力された分類器の設定情報は後述する検出部６の分類器設定記憶部６２に記憶される。
【００４５】
検出部６は、特徴量設定記憶部６１、分類器設定記憶部６２、特徴量算出部６３、分類部６４、および出力部６５を備える。
検出部６は、学習部５によって学習された一次元ＣＮＮの演算の設定情報に従って、未知の一次元信号が正常か異常かを分類して一次元信号の異常を検出する。
【００４６】
特徴量設定記憶部６１は、特徴量学習部５１から出力される特徴量の設定情報を記憶する。より詳細には、特徴量設定記憶部６１は、学習により決定された一次元ＣＮＮの畳み込み層における重みパラメータの値などを記憶する。
【００４７】
分類器設定記憶部６２は、分類器学習部５２から出力される分類器の設定情報を記憶する。より詳細には、分類器設定記憶部６２は、学習により決定された一次元ＣＮＮの全結合層における重みなどのパラメータの値を記憶する。
【００４８】
特徴量算出部６３は、特徴量設定記憶部６１に記憶された特徴量の設定情報に基づいて、未知の一次元信号の特徴量を算出する。より詳細には、特徴量算出部６３は、特徴量設定記憶部６１から学習済み一次元ＣＮＮの重みなどのパラメータの値を読み込んで、一次元ＣＮＮの畳み込み層の演算を行い、未知の一次元信号の特徴量を算出する。
【００４９】
分類部６４は、分類器設定記憶部６２に記憶された分類器の設定情報に基づいて、特徴量算出部６３によって算出された特徴量を入力として、未知の一次元信号の分類を行い異常を検出する。より詳細には、分類部６４は、特徴量算出部６３によって算出された特徴量を入力として、分類器設定記憶部６２から学習済みの一次元ＣＮＮの重みなどのパラメータの値を読み込んで、一次元ＣＮＮの全結合層の演算を行い、未知の一次元信号の分類を行う。
【００５０】
ここで、学習部５および検出部６は、同じ構造の畳み込み層と全結合層とを有する一次元ＣＮＮで構成され、互いに対応する機能である学習と検出とを行う。なお、本実施の形態で用いられる一次元ＣＮＮの構造についての詳細は後述する。
【００５１】
出力部６５は、分類部６４による一次元信号の分類結果を出力する。出力部６５は、例えば、画面などに分類結果などの異常の有無を示す情報を表示したり、外部の記録装置や制御装置、監視装置へ分類結果を示す信号を送出してもよい。
【００５２】
［異常検出装置のハードウェア構成］
次に、上述した構成を有する異常検出装置１を実現するハードウェアの構成例について、図２を参照して説明する。
【００５３】
異常検出装置１は、バス１０１を介して接続されるＣＰＵ１０３と主記憶装置１０４とを有する演算装置１０２、通信制御装置１０５、センサ１０６、外部記憶装置１０７、表示装置１０８等を備えるコンピュータと、これらのハードウェア資源を制御するプログラムによって実現することができる。
【００５４】
ＣＰＵ１０３と主記憶装置１０４とは、演算装置１０２を構成する。主記憶装置１０４には、ＣＰＵ１０３が各種制御や演算を行うためのプログラムが予め格納されている。
【００５５】
通信制御装置１０５は、異常検出装置１と各種外部電子機器との間を通信ネットワークＮＷを介して接続するための制御装置である。通信制御装置１０５は、一次元信号の分類結果を、通信ネットワークＮＷを介して外部の機器などに送信してもよい。
【００５６】
センサ１０６は、温度や圧力、流量、調節弁の開度、振動、トルクなどの一次元信号を計測する温度計、圧力計、流量計などで構成される。センサ１０６で計測された一次元信号は、図１で説明した一次元信号取得部２によって取得される。なお、センサ１０６を一次元信号取得部２に含む構成を採用してもよい。
【００５７】
外部記憶装置１０７は、読み書き可能な記憶媒体と、その記憶媒体に対してプログラムやデータなどの各種情報を読み書きするための駆動装置とで構成されている。外部記憶装置１０７には、記憶媒体としてハードディスクやフラッシュメモリなどの半導体メモリを使用することができる。外部記憶装置１０７は、一次元信号記憶部１０７ａ、特徴量設定記憶部１０７ｂ、分類器設定記憶部１０７ｃ、プログラム格納部１０７ｄ、図示しないその他の格納装置で、例えば、この外部記憶装置１０７内に格納されているプログラムやデータなどをバックアップするための格納装置などを有することができる。
【００５８】
一次元信号記憶部１０７ａ、特徴量設定記憶部１０７ｂ、および分類器設定記憶部１０７ｃは、それぞれ図１で説明した一次元信号記憶部３、特徴量設定記憶部６１、分類器設定記憶部６２に対応する。
【００５９】
プログラム格納部１０７ｄには、本実施の形態における一次元信号の前処理、学習処理、異常の検出処理など異常検出装置１が一次元信号の異常を検出する際に必要な演算処理を実行するための各種プログラムが格納されている。
【００６０】
表示装置１０８は、図１で説明した出力部６５の表示画面を構成する。表示装置１０８は液晶ディスプレイなどによって実現される。
【００６１】
［一次元ＣＮＮの構成例］
次に、学習部５および検出部６に用いられる一次元ＣＮＮの構成例について図３を用いて説明する。
学習部５の特徴量学習部５１は、図３に示すように、少なくとも１層の畳み込み層を有するニューラルネットワークで構成される。より好ましくは、特徴量学習部５１は、図３に示すように、複数の畳み込み層のみを有するニューラルネットワークで構成される。畳み込み層は信号の特徴を抽出することに秀でていることから、図３に示すように、一次元信号を入力とした、ネットワークの前列に配置すればよい。
【００６２】
学習部５の分類器学習部５２は、少なくとも１層のニューラルネットワークで構成される。より好ましくは、分類器学習部５２は、図３に示すように、１層以上の全結合層のみを有するニューラルネットワークで構成される。
【００６３】
このように、畳み込み層と全結合層とを有する一次元ＣＮＮで構成される学習部５は、予め用意された、正常と異常とが分類されてラベル付けされた学習用の一次元信号を用いて教師あり学習を行い、分類誤りが最小となるように一次元ＣＮＮ全体を対象に重みなどのパラメータの値を更新する。
【００６４】
ここで、本実施の形態で用いる一次元ＣＮＮの原理について、畳み込み層のフィルタ数を１、フィルタのストライドを１とした場合について図４を用いて説明する。
図４に示すように、一次元ＣＮＮにおける畳み込み層１層分の順伝搬処理は次の式（１）で表される。
【００６５】
【数１】
2019185580.tif 000003
ここで、一次元ＣＮＮの畳み込み層の入力信号Ｘ＝［ｘ0，ｘ1，・・・］、出力信号Ｈ＝［ｈ0，ｈ1，・・・］、フィルタ［ｗ0，ｗ1，・・・］、フィルタサイズｎ、バイアスｂであり、上式（１）は入力信号のｉ番目の要素についての演算を示している。
【００６６】
フィルタのストライドが１のとき、逐次ｉ＋１番目の要素について計算することになる。一次元ＣＮＮにおいて畳み込み層を多層で構成する場合は、上式（１）の出力信号Ｈを次列の畳み込み層の入力信号として再度計算すればよい。このように、一次元ＣＮＮにおける畳み込み層の演算内容は、畳み込み演算を中心としていることがわかる。
【００６７】
畳み込み演算は、周波数空間で考えれば、入力信号の周波数成分とフィルタの周波数成分の積となる性質がある。すなわち、入力信号を畳み込みフィルタの周波数成分で強調する効果が得られる。
【００６８】
一次元ＣＮＮにおける畳み込み層の出力信号Ｈは、全結合層で分類される。全結合層１層分の順伝搬処理は、例えば、次の式（２）で表される。
Ｙ＝ＨＷ＋Ｂ          ・・・（２）
ここで、出力ベクトルＹ、重み行列Ｗ、バイアスベクトルＢである。
【００６９】
上式（２）で得られた出力ベクトルＹの各要素は、活性化関数により閾値判定される。全結合層を多層で構成する場合は、上式（２）の出力ベクトルＹを入力信号Ｈとして再度計算すればよい。ただし、一次元ＣＮＮにおいて、最後列の全結合層における出力ベクトルＹの次元は、分類対象のクラス数とする必要がある。本実施の形態では、一次元信号が正常か異常かを分類するので、クラス数２（Ｙ＝［ｙ0，ｙ1］）となる。
【００７０】
分類結果Ｙは、損失関数により教師ラベルとの誤差が求められ、誤差逆伝搬法により誤差を低減するように畳み込み層のフィルタとバイアス、および全結合層の重み行列とバイアスベクトルが更新される。分類精度が高くなるように複数回繰り返して一次元ＣＮＮを更新し続けることで、分類対象の一次元信号における特徴的な周波数成分を強調するフィルタを自動で獲得するように学習が進行する効果がある。
【００７１】
学習部５の分類器学習部５２で用いる活性化関数としては、例えば、シグモイド関数が挙げられる。なお、活性化関数はシグモイド関数に限られず、例えば、Ｒｅｃｔｉｆｉｅｄ  Ｌｉｎｅａｒ  Ｕｎｉｔ（ＲｅＬＵ）や、双曲線正接、ソフトサイン、ソフトプラス、一次または高次の多項式などを用いてもよい。
【００７２】
分類誤りを算出する損失関数としては、例えば、ソフトマックス交差エントロピを用いればよい。正常か異常かというように２クラス分類を行う場合であれば、ソフトマックス交差エントロピ以外の損失関数として２乗和誤差を用いてもよい。
【００７３】
上記のような一次元ＣＮＮを用いることで、異常検出装置１は、一次元信号から特徴量を自動で学習し、獲得することができる。
なお、一次元ＣＮＮの実装については、オープンソースのソフトウェアフレームワークも複数利用でき、これらのソフトウェアフレームワークを利用して実装すればよい。
【００７４】
検出部６の特徴量算出部６３および分類部６４は、前述したように学習部５と同じ構造の一次元ＣＮＮであり、学習部５による学習で得られた学習済み一次元ＣＮＮの重みなどのパラメータの値を用いて一次元ＣＮＮの順伝搬処理の演算を行う。
【００７５】
［異常検出装置の動作］
次に上述した構成を有する異常検出装置１の動作について図５および図６のフローチャートを用いて説明する。異常検出装置１の動作は、学習処理と検出処理とからなる。
【００７６】
［学習処理］
図５は、異常検出装置１における学習処理のフローチャートである。
まず、一次元信号取得部２は、予め正常と異常とが分類されてラベル付けされた一次元信号群を教師データとして監視対象から取得する（ステップＳ１００）。取得された教師データの一次元信号群は一次元信号記憶部３に一時的に記憶される。
【００７７】
次に、一次元信号前処理部４は、取得された一次元信号の振幅正規化や、フィルタリングによる定常ノイズの除去などの前処理を行う（ステップＳ１０１）。前処理された学習用の一次元信号は学習部５に入力され、一次元ＣＮＮにおける順伝搬処理が行われる（ステップＳ１０２）。
【００７８】
より詳細には、一次元ＣＮＮの畳み込み層で構成される学習部５の特徴量学習部５１は、上述した式（１）を用いて、一次元信号の特徴量を算出する。さらに、一次元ＣＮＮの全結合層で構成される分類器学習部５２は、特徴量学習部５１の出力信号を入力として、上述した式（２）を用いて一次元信号の分類を行う。
【００７９】
次に、学習部５は、一次元ＣＮＮの順伝搬処理による出力値と目標値である教師ラベルとの誤差を求める（ステップＳ１０３）。その後、学習部５は、一次元ＣＮＮの順伝搬処理による出力値と教師ラベルとの誤差が十分に小さくない場合には（ステップＳ１０４：ＮＯ）、一次元ＣＮＮの誤差逆伝搬処理を行う（ステップＳ１０５）。
【００８０】
より詳細には、誤差逆伝搬処理では、一次元ＣＮＮの順伝搬処理による出力値と教師ラベルとの誤差が低減するように特徴量学習部５１を構成する畳み込み層、および分類器学習部５２を構成する全結合層の重みなどのパラメータの値が更新される。
【００８１】
次に、学習部５は、特徴量学習部５１および分類器学習部５２を構成する一次元ＣＮＮの重みなどのパラメータの更新値を用いて、一次元ＣＮＮの順伝搬処理（ステップＳ１０２）および誤差の導出（ステップＳ１０３）を行う。
【００８２】
その後、一次元ＣＮＮの順伝搬処理による出力値と教師ラベルとの誤差が十分に小さい値となった場合には（ステップＳ１０４：ＹＥＳ）、更新された重みなどのパラメータの値を記憶する（ステップＳ１０６）。より詳細には、特徴量学習部５１を構成する畳み込み層の重みパラメータの最終的な更新値は、特徴量設定記憶部６１に記憶される。分類器学習部５２を構成する全結合層の重みパラメータの最終的な更新値は、分類器設定記憶部６２に記憶される。
【００８３】
［検出処理］
次に、検出部６による検出処理について図６のフローチャートを用いて説明する。
検出部６は、学習部５による学習処理で得られた学習済みの一次元ＣＮＮを読み込んで、未知の一次元信号が正常か異常かを分類する。
まず、一次元信号取得部２は、ラベル付けされていない未知の一次元信号を監視対象から取得する（ステップＳ１１０）。取得された一次元信号は一次元信号記憶部３に一時的に記憶される。
【００８４】
次に、一次元信号前処理部４は、学習処理における前処理と同様に一次元信号の振幅正規化やフィルタリングによる定常ノイズの除去などの前処理を行う（ステップＳ１１１）。その後、一次元信号は検出部６に入力され、検出部６は、学習済みの一次元ＣＮＮの順伝搬処理を行う（ステップＳ１１２）。
【００８５】
より詳細には、特徴量算出部６３は、特徴量設定記憶部６１に記憶されている学習済みの畳み込み層における重みなどのパラメータの値を読み込む。特徴量算出部６３は、上述した式（１）を用いて、未知の一次元信号を入力とした畳み込み層の演算を行う。さらに、分類部６４は、分類器設定記憶部６２に記憶されている学習済みの全結合層における重みパラメータの値を読み込む。分類部６４は、上述した式（２）を用いて、特徴量算出部６３の出力値を入力とした全結合層の演算を行う。
【００８６】
その後、出力部６５は、分類部６４による演算結果に基づく一次元信号における異常の有無の検出結果を出力する（ステップＳ１１３）。より詳細には、分類部６４による演算結果は、未知の一次元信号が正常または異常であることを示す分類の結果である。分類部６４は分類結果から一次元信号の異常を検出する。
【００８７】
以上説明したように、第１の実施の形態によれば、異常検出装置１は、一次元ＣＮＮを利用することで一次元信号を二次元信号へ変換する計算コストを削減できる。また、ＣＮＮの処理を二次元信号処理から一次元信号処理へと変更することで計算コストがより低減される。その結果として、計算能力が比較的低い現場機器などの機器であっても、一次元信号の特徴量を自動で学習および獲得して異常検出を行うことができる。
【００８８】
［第２の実施の形態］
次に、本発明の第２の実施の形態について説明する。なお、以下の説明では、上述した第１の実施の形態と同じ構成については同一の符号を付し、その説明を省略する。
【００８９】
第１の実施の形態では、特徴量学習部５１および特徴量算出部６３は、１層以上の畳み込み層のみで構成される場合について説明した。これに対し、第２の実施の形態では、特徴量学習部５１Ａは、１層以上の畳み込み層と１層以上の再帰型ニューラルネットワーク層とを含むニューラルネットワークを有する。
【００９０】
［第２の実施の形態の概要］
よく知られているように、ＣＮＮは局所的な帯域のフィルタで学習するため入力信号の局所的な帯域での特徴量を学習することに優れる。その一方で、ＣＮＮは、入力信号に白色雑音などの広帯域な雑音が含まれる場合には、分類性能が悪化する性質がある（非特許文献２参照）。
【００９１】
このことから、入力信号に広帯域な雑音が含まれる場合でもロバストな特徴量を学習できる特性を有するニューラルネットワークとして、再帰型ニューラルネットワークに着目する。再帰型ニューラルネットワークは、ネットワークの内部に帰還路を有し、過去の信号値を保持できる特徴がある。
【００９２】
また、再帰型ニューラルネットワークの中でも、特に、Ｌｏｎｇ  Ｓｈｏｒｔ−Ｔｅｒｍ  Ｍｅｍｏｒｙ（以下、「ＬＳＴＭ」という。）は、過去の信号値を長期的に保存できることが知られている（非特許文献３参照）。そのため、ＬＳＴＭは、入力信号に広帯域な雑音が含まれる場合に、よりロバストな特徴量の学習がしやすいと考えられる。
【００９３】
以上より、本実施の形態では、一次元ＣＮＮにＬＳＴＭを組み合わせた構造のニューラルネットワークを用いることで、入力信号に広帯域な雑音が含まれる場合でも、一次元信号から特徴量を自動で学習および獲得することができる異常検出装置１Ａを実現する。
【００９４】
［異常検出装置の機能ブロック］
図７は、本実施の形態に係る異常検出装置１Ａの機能構成を示すブロック図である。以下、第１の実施の形態と異なる構成を中心に説明する。
【００９５】
学習部５Ａは、特徴量学習部５１Ａと分類器学習部５２とを備える。
特徴量学習部５１Ａは、ＬＳＴＭ学習部５１０を有する。前述したように特徴量学習部５１Ａは、畳み込み層とＬＳＴＭ層とで構成される。特徴量学習部５１Ａは、一次元ＣＮＮの畳み込み層の演算処理を行って一次元信号の特徴量の算出方法を学習し、特徴量の設定情報を出力する。
【００９６】
ＬＳＴＭ学習部５１０は、特徴量学習部５１Ａからの出力信号を入力として、一次元ＣＮＮに含まれるＬＳＴＭ層の演算処理を行って一次元信号の特徴量の算出方法を学習し、特徴量の設定情報を出力する。なお、ＬＳＴＭ学習部５１０を構成するＬＳＴＭ層の詳細は後述する。
【００９７】
前述したように、畳み込み層で構成される特徴量学習部５１Ａは、ある狭い周波数の領域での周期的な信号の特徴量を学習することに優れている。一方、ＬＳＴＭ層で構成されるＬＳＴＭ学習部５１０は、より広い周波数領域での非定常的な信号の特徴量を学習することにより優れる。
【００９８】
このように、特徴量学習部５１ＡおよびＬＳＴＭ学習部５１０は、一次元信号における異なる特徴量を学習するため、これらを組み合わせることにより、分類対象の一次元信号の特性によっては互いに補完し合って分類精度が向上する場合がある。
【００９９】
検出部６Ａは、特徴量設定記憶部６１Ａ、分類器設定記憶部６２、特徴量算出部６３Ａ、分類部６４、および出力部６５を備える。
特徴量設定記憶部６１Ａは、ＬＳＴＭ特徴量設定記憶部６１０を有する。
特徴量算出部６３Ａは、ＬＳＴＭ特徴量算出部６３０を有する。
【０１００】
特徴量設定記憶部６１Ａは、特徴量学習部５１Ａによる畳み込み層の学習で得られた一次元信号の特徴量の設定情報を記憶する。
ＬＳＴＭ特徴量設定記憶部６１０は、ＬＳＴＭ学習部５１０によるＬＳＴＭ層の学習で得られた、一次元信号の特徴量の設定情報を記憶する。
【０１０１】
特徴量算出部６３Ａは、特徴量設定記憶部６１Ａに記憶されている一次元信号の特徴量の設定情報を参照して、一次元ＣＮＮの畳み込み層の演算処理を行い、未知の一次元信号の特徴量を算出する。
ＬＳＴＭ特徴量算出部６３０は、ＬＳＴＭ特徴量設定記憶部６１０に記憶されている一次元信号の特徴量の設定情報を参照して、一次元ＣＮＮにおけるＬＳＴＭ層の演算処理を行って一次元信号の特徴量を算出する。
【０１０２】
より詳細には、ＬＳＴＭ特徴量算出部６３０は、ＬＳＴＭ層の重みなどのパラメータ値を読み込んで、特徴量算出部６３Ａからの出力である特徴量を入力として、ＬＳＴＭ層の演算を行い、未知の一次元信号の特徴量を算出する。
【０１０３】
分類部６４は、ＬＳＴＭ特徴量算出部６３０によって算出された一次元信号の特徴量を入力とし、分類器設定記憶部６２に記憶されている一次元信号を分類する方法に関する情報を参照して未知の一次元信号の分類を行い異常を検出する。
【０１０４】
［一次元ＣＮＮの構成例］
次に、上述した学習部５Ａおよび検出部６Ａに用いられる、ＬＳＴＭ層を有する一次元ＣＮＮの構成例について図８を用いて説明する。
【０１０５】
学習部５Ａの特徴量学習部５１Ａは１層以上の畳み込み層を有し、畳み込み層よりも後列に、ＬＳＴＭ学習部５１０のＬＳＴＭ層を有する。より好ましくは、図８に示すように、ＬＳＴＭ層を畳み込み層の最後列の次の列に配置し、畳み込み層の出力をＬＳＴＭ層の入力とすればよい。検出部６Ａの特徴量算出部６３ＡおよびＬＳＴＭ特徴量算出部６３０は、学習部５Ａの特徴量学習部５１ＡおよびＬＳＴＭ学習部５１０と同じ畳み込み層およびＬＳＴＭ層で構成される。
【０１０６】
学習部５Ａの分類器学習部５２は、第１の実施の形態と同様に１層以上の全結合層で構成される。検出部６Ａの分類部６４は、学習部５Ａの分類器学習部５２と同じ１層以上の全結合層で構成される。
【０１０７】
［ＬＳＴＭ層の演算処理］
次に、ＬＳＴＭ学習部５１０およびＬＳＴＭ特徴量算出部６３０を構成するＬＳＴＭ層の演算処理について図９のブロック図を用いて説明する。
【０１０８】
図９では、ＬＳＴＭ層１層分の順伝搬処理の内容を示す。図９において、「＋」は加算、「×」は乗算、「Ｓ」はシグモイド関数を示す。また、破線の矢印は一次遅れを表しており、Ｃ１、Ｃ２はそれぞれメモリセルである。入力信号ｘt、および出力信号ｈtは、それぞれ時刻ｔにおける値であり、各ｗとＲから始まるパラメータは重みである。
【０１０９】
ＬＳＴＭ層では、メモリセルＣ１部分に再帰結合がある。また、ＬＳＴＭ層は、３つのゲートＧ１、Ｇ２、Ｇ３を有する。入力信号ｘtは、これらの３つのゲートＧ１、Ｇ２、Ｇ３にも入力され、それぞれのゲートの開閉のために用いられる。
【０１１０】
３つのゲートＧ１、Ｇ２、Ｇ３は、情報をどの程度通すかの制御に使われる。ゲートが閉じている（値が０に近づく）場合には、情報が通りにくくなる。ゲートが開いている状態は、シグモイド関数が１に近い値となる。
【０１１１】
特に、ゲートＧ２が開いている場合、１時刻前（ｔ−１）のメモリセルＣ１の状態が時刻ｔの状態に影響を及ぼす。そのため、ゲートＧ２は、直前の状態の影響についての考慮の度合いを定める。
【０１１２】
ＬＳＴＭ層は、ゲートＧ１、Ｇ２、Ｇ３において重みパラメータを学習することで、長期的な依存関係を学習できる。なお、ＬＳＴＭ層を多層で構成する場合は、図９の出力ｈを入力信号ｘとして再度計算すればよい。
【０１１３】
上記のＬＳＴＭや再帰型ニューラルネットワークの実装は、オープンソースのソフトウェアフレームワークも複数利用できるため、これらのソフトウェアフレームワークを利用すればよい。
【０１１４】
［異常検出装置の動作］
次に、上述した構成を有する異常検出装置１Ａの動作について図１０および図１１のフローチャートを用いて説明する。なお、以下において、第１の実施の形態と異なる処理を中心に説明する。
【０１１５】
［学習処理］
まず、異常検出装置１Ａの学習部５Ａによる学習処理について説明する。
図１０に示すように、一次元信号取得部２は、教師データとしてラベル付きの一次元信号群を監視対象から取得する（ステップＳ１００）。その後、一次元信号前処理部４は、取得された一次元信号の前処理を行う（ステップＳ１０１）。
【０１１６】
次に、学習部５Ａは、入力の一次元信号について一次元ＣＮＮの順伝搬処理を行う（ステップＳ１０２Ａ）。より詳細には、特徴量学習部５１Ａに含まれる一次元ＣＮＮの畳み込み層において、上述した式（１）を用いて、学習用の一次元信号における特徴量を算出する。
【０１１７】
また、特徴量学習部５１Ａに含まれる畳み込み層の出力信号を入力として、ＬＳＴＭ学習部５１０は、図８に示したＬＳＴＭ層において、学習用の一次元信号における特徴量を算出する。
【０１１８】
さらに、全結合層で構成される分類器学習部５２は、ＬＳＴＭ学習部５１０の出力信号を入力として、上述した式（２）を用いて学習用の一次元信号の分類結果を出力する。
【０１１９】
次に、学習部５Ａは、ＬＳＴＭ層を有する一次元ＣＮＮの順伝搬処理による出力値と目標値である教師ラベルとの誤差を求める（ステップＳ１０３）。その後、学習部５Ａは、一次元ＣＮＮの順伝搬処理による出力値と教師ラベルとの誤差が十分に小さくない場合には（ステップＳ１０４：ＮＯ）、一次元ＣＮＮの誤差逆伝搬処理を行う（ステップＳ１０５Ａ）。
【０１２０】
より詳細には、誤差逆伝搬処理では、一次元ＣＮＮの順伝搬処理による出力値と教師ラベルとの誤差が低減するように特徴量学習部５１Ａを構成する畳み込み層、ＬＳＴＭ学習部５１０を構成するＬＳＴＭ層、および分類器学習部５２を構成する全結合層の重みパラメータの値が更新される。
【０１２１】
次に、学習部５Ａは、特徴量学習部５１Ａ、ＬＳＴＭ学習部５１０、および分類器学習部５２によって更新されたＬＳＴＭ層を有する一次元ＣＮＮの重みなどのパラメータの値を用いて一次元ＣＮＮの順伝搬処理（ステップＳ１０２Ａ）および誤差の導出（ステップＳ１０３）を行う。
【０１２２】
その後、一次元ＣＮＮの順伝搬処理による出力値と教師ラベルとの誤差が十分に小さい値となった場合には（ステップＳ１０４：ＹＥＳ）、更新された重みなどのパラメータの値を記憶する（ステップＳ１０６Ａ）。
【０１２３】
より詳細には、特徴量学習部５１Ａに含まれる畳み込み層の重みなどのパラメータの最終的な更新値は、特徴量設定記憶部６１に記憶される。ＬＳＴＭ学習部５１０を構成するＬＳＴＭ層の重みなどのパラメータの最終的な更新値は、ＬＳＴＭ特徴量設定記憶部６１０に記憶される。分類器学習部５２を構成する全結合層の重みなどのパラメータの最終的な更新値は、分類器設定記憶部６２に記憶される。
【０１２４】
［検出処理］
次に、検出部６Ａによる検出処理について図１１のフローチャートを用いて説明する。
学習部５Ａによる学習処理によって得られた学習済みのＬＳＴＭ層を有する一次元ＣＮＮを用いて、検出部６Ａは、未知の一次元信号が正常か異常かを分類する。
まず、一次元信号取得部２は、ラベル付けされていない未知の一次元信号を取得する（ステップＳ１１０）。
【０１２５】
次に、一次元信号前処理部４は、取得された一次元信号の前処理を行う（ステップＳ１１１）。その後、一次元信号は検出部６Ａに入力され、検出部６Ａは、学習済みのＬＳＴＭ層を有する一次元ＣＮＮの順伝搬処理を行う（ステップＳ１１２Ａ）。
【０１２６】
より詳細には、特徴量算出部６３Ａは、特徴量設定記憶部６１Ａに記憶されている学習済みの畳み込み層における重みなどのパラメータの値を読み込んで、上述した式（１）を用い、一次元信号を入力とした畳み込み層の演算を行い一次元信号の特徴量を算出する。
【０１２７】
また、ＬＳＴＭ特徴量算出部６３０は、ＬＳＴＭ特徴量設定記憶部６１０に記憶されている学習済みのＬＳＴＭ層における重みなどのパラメータの値を読み込んで、特徴量算出部６３Ａによって算出された特徴量を入力としてＬＳＴＭ層の演算を行い、一次元信号の特徴量を算出する。
【０１２８】
さらに、分類部６４は、分類器設定記憶部６２に記憶されている学習済みの全結合層における重みパラメータの値を読み込んで、上述した式（２）を用いて、特徴量算出部６３の出力値を入力とした全結合層の演算を行う。
【０１２９】
分類部６４による演算結果は、出力部６５によって出力される（ステップＳ１１３）。分類部６４による演算結果は、未知の一次元信号が正常か異常かを示す。
【０１３０】
以上説明したように、第２の実施の形態によれば、学習部５Ａおよび検出部６ＡにＬＳＴＭ層を有する一次元ＣＮＮを用いるので、一次元信号の局所的な帯域での特徴量を畳み込み層で学習し、ＬＳＴＭ層では、より広い周波数領域での非定常的な信号の特徴量を学習する。そのため、異常検出装置１Ａは、一次元信号に広帯域な雑音が含まれる場合であっても、ロバストな特徴量を自動で学習および獲得して異常検出をすることができる。
【０１３１】
また、学習部５Ａおよび検出部６Ａに含まれるＬＳＴＭ層は、一次元信号を直接扱うことができるため、異常検出装置１Ａにおいての計算コストを低減しつつ、よりロバストな特徴量を自動で学習し獲得することができる。
【０１３２】
［実施例］
次に、上述した第１および第２の実施の形態に係る異常検出装置１、１Ａをそれぞれ用いた調節弁の内部における異常検出について説明する。
【０１３３】
石油プラントや化学プラントなどでは、流体の流量などを制御する操作端として調節弁が用いられる。調節弁内部を流れる流体の温度、圧力、流量の条件によっては、キャビテーションと呼ばれる気泡の発生や消滅が発生する場合がある。キャビテーションは、調節弁内部を損傷させる要因であり、本実施例では、監視対象の調節弁において、キャビテーションの発生を異常として検出することを目的とした。
【０１３４】
本実施例では、一次元信号取得部２として振動センサを利用し、調節弁の外部から調節弁の内部を流体が流れるときの振動を取得して入力信号の一次元信号とした。振動センサで取得される振動信号は、正常時には流体音だけを含むが、異常時には流体音に加えてキャビテーションの音が含まれる。
【０１３５】
図１２および図１３は、本実施例における異常検出の対象である振動信号の一例を示す図である。図１２の（ａ）は、正常時における振動信号を示し、図１２の（ｂ）は、異常時における振動信号を示す。図１２の（ａ）および（ｂ）からわかるように、正常時とキャビテーションの音を含む異常時の振動信号の差は比較的小さい。
【０１３６】
図１３の（ａ）は、正常時における振動信号のスペクトルの分布を示し、図１３の（ｂ）は、異常時の振動信号のスペクトルの分布を示す。図１３の（ａ）および（ｂ）からわかるように、正常時とキャビテーションの音を含む異常時の振動信号の周波数帯域はともに広帯域で重複している。
【０１３７】
次に、本実施例において一次元信号記憶部３は、サンプリング周波数９６ｋＨｚで振動センサからのアナログ信号をサンプリングし、１０，０００サンプル毎に区切った信号を記憶する。
一次元信号前処理部４は、振動信号の振幅のスケールが大きく変わらないように、振動信号の実効値で正規化する。
【０１３８】
次に、学習部５、５Ａおよび検出部６、６Ａの一次元ＣＮＮの具体的構成について説明する。
第１の実施の形態に係る学習部５および検出部６の具体例としては、畳み込み層が３層、全結合層が３層の図３に示した一次元ＣＮＮを用いた。
第２の実施の形態に係る学習部５Ａおよび検出部６Ａの具体例としては、畳み込み層が３層、ＬＳＴＭ層が１層、全結合層が１層である図８に示したＬＳＴＭ層を有する一次元ＣＮＮを用いた。
【０１３９】
また、第１および第２の実施の形態の具体例に共通する設定として、一次元ＣＮＮの畳み込み層のフィルタ数は１、フィルタサイズは１００、ストライドは２、全結合層の活性化関数はシグモイド関数とした。
教師データとして正常時の振動信号１，５００セット、異常時の振動信号１，１００セットを用意した。損失関数としては、ソフトマックス交差エントロピを用いた。
【０１４０】
上記条件のもと、第１の実施の形態に係る異常検出装置１および第２の実施の形態に係る異常検出装置１Ａのそれぞれで教師あり学習を実施した。その後、検証データとして、正常時の振動信号１００セット、異常時の振動信号１００セットを用いて分類正答率の評価を行った。
【０１４１】
図１４は、第１の実施の形態に係る異常検出装置１による分類正答率を示す図である。また、図１５は、第２の実施の形態に係る異常検出装置１Ａによる分類正答率を示す図である。図１４および図１５において、横軸は学習回数、縦軸は分類正答率を示す。また、破線は学習データの分類正答率、実線は検証データの分類正答率を示している。
【０１４２】
図１４および図１５に示すように、第１および第２の実施の形態に係る異常検出装置１、１Ａは、繰り返し学習データで学習を行うことで、入力信号である振動信号の特徴量を次第に獲得し、分類正答率が向上していることがわかる。
【０１４３】
図１４に示すように、畳み込み層と全結合層とを有する一次元ＣＮＮを用いた異常検出装置１において、検証データの分類正答率は約９０％を達成している。このことから、第１の実施の形態に係る異常検出装置１は、異常検出の目的を十分に達成できているといえる。
【０１４４】
また、図１５に示すように、ＬＳＴＭ層を有する一次元ＣＮＮを用いた異常検出装置１Ａにおいては、検証データの分類正答率は約１００％であり、異常検出の目的を十分達成できている。特に、本実施例で異常検出の対象とした調節弁内のキャビテーションの振動信号のように、正常時と異常時との信号差がより小さく、周波数帯域も広帯域で重複している場合には、ＬＳＴＭ層を有する一次元ＣＮＮを利用する異常検出装置１Ａはより有効であると考えられる。
【０１４５】
以上、本発明の異常検出装置および異常検出方法における実施の形態について説明したが、本発明は説明した実施の形態に限定されるものではなく、請求項に記載した発明の範囲において当業者が想定し得る各種の変形を行うことが可能である。
【０１４６】
なお、上述した異常検出装置１、１Ａの学習部５、５Ａと検出部６、６Ａとは、同一の計算機で実装されていても、それぞれが独立して実装されていてもよい。特に、学習部５、５Ａと検出部６、６Ａとがそれぞれ独立で実装される場合には、計算能力がより低い現場機器などにおいても特徴量を自動で学習および獲得して異常検出を行うことができる。
【０１４７】
より詳細には、学習部５、５Ａと検出部６、６Ａとがそれぞれ独立で実装される場合、多量の教師データを学習する学習部５、５Ａには、計算能力のより高い計算機を用いればよい。一方、積和演算と活性化関数による閾値判定とからなる比較的計算コストの低いニューラルネットワークの順伝搬処理が中心となる検出部６、６Ａには、計算能力がより低い計算機を用いることができる。このように、学習部５、５Ａと検出部６、６Ａとをそれぞれ独立した構成とした場合、一次元信号の二次元信号への拡張の廃止、および一次元ＣＮＮにおける信号の一次元処理により、異常検出装置１、１Ａを計算能力のより低い現場機器などに実装できるようになる。
【０１４８】
また、説明した実施の形態では、一次元信号取得部２と一次元信号記憶部３はそれぞれ独立した構成を有する場合について説明した。しかし、一次元信号取得部２と一次元信号記憶部３とは一体的な一つの構成として実装されてもよい。
【０１４９】
また、一次元信号取得部２と一次元信号記憶部３は、学習部５、５Ａと検出部６、６Ａとで同じものを共用してもよく、また、学習部５、５Ａと検出部６、６Ａのそれぞれについて専用の一次元信号取得部２と一次元信号記憶部３とを用意してもよい。
【０１５０】
また、説明した実施の形態では、特徴量設定記憶部６１と分類器設定記憶部６２とはそれぞれ異なる領域に設けられている場合について説明したが、これらは一つの記憶部として構成されていてもよい。
【０１５１】
また、説明した実施の形態では、分類部６４は、一次元信号が正常か異常かの２クラス分類を行う場合について説明したが、分類クラスの数は２クラスに限られず多クラス分類を行ってもよい。
【符号の説明】
【０１５２】
１、１Ａ…異常検出装置、２…一次元信号取得部、３、１０７ａ…一次元信号記憶部、４…一次元信号前処理部、５、５Ａ…学習部、６、６Ａ…検出部、５１、５１Ａ…特徴量学習部、５２…分類器学習部、６１、６１Ａ、１０７ｂ…特徴量設定記憶部、６２、１０７ｃ…分類器設定記憶部、６３、６３Ａ…特徴量算出部、６４…分類部、６５…出力部、１０１…バス、１０２…演算装置、１０３…ＣＰＵ、１０４…主記憶装置、１０５…通信制御装置、１０６…センサ、１０７…外部記憶装置、１０７ｄ…プログラム格納部、１０８…表示装置、ＮＷ…通信ネットワーク、５１０…ＬＳＴＭ学習部、６１０…ＬＳＴＭ特徴量設定記憶部、６３０…ＬＳＴＭ特徴量算出部。
【図１】
2019185580.tif 000004
【図２】
2019185580.tif 000005
【図３】
2019185580.tif 000006
【図４】
2019185580.tif 000007
【図５】
2019185580.tif 000008
【図６】
2019185580.tif 000009
【図７】
2019185580.tif 000010
【図８】
2019185580.tif 000011
【図９】
2019185580.tif 000012
【図１０】
2019185580.tif 000013
【図１１】
2019185580.tif 000014
【図１２】
2019185580.tif 000015
【図１３】
2019185580.tif 000016
【図１４】
2019185580.tif 000017
【図１５】
2019185580.tif 000018
【図１６】
2019185580.tif 000019
【図１７】
2019185580.tif 000020