(57)【要約】複数のイベントをもたらす複数の信号源を備えるシステムを制御する装置は、信号源から信号を受信する入力インターフェースと、システムの制御状態を診断するようにトレーニングされたニューラルネットワークを記憶するメモリと、システムの制御状態を生成するようにニューラルネットワーク内に信号を提示するプロセッサと、システムの制御状態に従って選択された制御動作を実行するコントローラーとを備える。ニューラルネットワークは一連の層を含み、各層は一組のノードを含み、入力層と入力層に続く第１の隠れ層との各ノードは、システムにおける信号源に対応する。一対の異なる信号源に対応する隣接する層からの一対のノードは、ニューラルネットワークにおいて、その一対の異なる信号源におけるイベントが後に発生する確率が閾値を上回る場合にのみ、結合され、ニューラルネットワークは部分結合ニューラルネットワークである。
2021509995.tif 000002
【特許請求の範囲】
【請求項１】
複数のイベントをもたらす複数の信号源を備えるシステムを制御する装置であって、
前記信号源から信号を受信する入力インターフェースと、
前記システムの制御状態を診断するようにトレーニングされたニューラルネットワークを記憶するメモリであって、該ニューラルネットワークは一連の層を含み、各層は一組のノードを含み、入力層と該入力層に続く第１の隠れ層との各ノードは前記システムにおける信号源に対応し、一対の異なる信号源に対応する隣接する層からの一対のノードは、前記ニューラルネットワークにおいて、該一対の異なる信号源における前記イベントが後に発生する確率が閾値を上回る場合にのみ、結合され、前記ニューラルネットワークは部分結合ニューラルネットワークである、メモリと、
前記システムの前記制御状態を生成するように前記ニューラルネットワーク内に前記信号を提示するプロセッサと、
前記システムの前記制御状態に従って選択された制御動作を実行するコントローラーと、
を備える、装置。
【請求項２】
前記入力層におけるノードの数は、前記システムにおける前記信号源の数の倍数に等しく、前記入力層に続く前記第１の隠れ層におけるノードの数は、前記信号源の前記数に等しく、前記入力層は、異なる信号源における前記イベントが後に発生する確率に基づいて、前記第１の隠れ層に部分的に結合される、請求項１に記載の装置。
【請求項３】
信号Ｓｊのイベントが信号Ｓｉのイベントに続くことが後に発生する前記確率は、
【数１】
2021509995.tif 000029
と定義することができ、式中、Ｍは信号の数であり、ｃｉｊは、信号Ｓｊのイベントが信号Ｓｉのイベントに続く回数である、請求項２に記載の装置。
【請求項４】
前記ニューラルネットワークは時間遅延ニューラルネットワーク（ＴＤＮＮ）であり、前記入力層におけるノードの前記数に対する前記倍数は、前記ＴＤＮＮの遅延の時間ステップの数に等しい、請求項２に記載の装置。
【請求項５】
前記ＴＤＮＮは、教師あり学習に基づいてトレーニングされた時間遅延フィードフォワードニューラルネットワーク、又は、教師なし学習に基づいてトレーニングされた時間遅延オートエンコーダーニューラルネットワークである、請求項４に記載の装置。
【請求項６】
前記一対の異なる信号源における前記イベントが後に発生する前記確率は、或る期間にわたって収集された信号におけるイベントが後に発生する頻度の関数である、請求項１に記載の装置。
【請求項７】
或る期間にわたって収集された、前記信号源からの前記信号を評価して、信号源の対の異なる組合せに対する前記期間内のイベントが後に発生する頻度を求め、
前記期間内のイベントが後に発生する前記頻度に基づき、前記信号源の対の異なる組合せに対してイベントが後に発生する確率を求め、
信号源の対の異なる組合せに対するイベントが後に発生する前記確率を前記閾値と比較して、前記ニューラルネットワークの結合性構造を求め、
前記入力層におけるノードの数が前記システムにおける前記信号源の数の第１の倍数に等しく、前記入力層に続く前記第１の隠れ層におけるノードの数が前記信号源の前記数の第２の倍数に等しく、前記入力層が前記結合性構造に従って前記第１の隠れ層に部分的に結合されるように、前記ニューラルネットワークの前記結合性構造に従って該ニューラルネットワークを形成し、
前記期間にわたって収集された前記信号を使用して前記ニューラルネットワークをトレーニングする、
ように構成されたニューラルネットワークトレーナーを更に備える、請求項１に記載の装置。
【請求項８】
或る期間にわたって収集された、前記信号源からの信号を評価して、信号源の対の異なる組合せに対する前記期間内のイベントが後に発生する頻度を求め、
信号源の対の異なる組合せに対する前記イベントが後に発生する前記頻度を前記閾値と比較して、前記ニューラルネットワークの結合性構造を求め、
前記入力層におけるノードの数が前記システムにおける前記信号源の数の第１の倍数に等しく、前記入力層に続く前記第１の隠れ層におけるノードの数が前記信号源の前記数の第２の倍数に等しく、前記入力層が前記結合性構造に従って前記第１の隠れ層に部分的に結合されるように、前記ニューラルネットワークの前記結合性構造に従って該ニューラルネットワークを形成し、
前記期間にわたって収集された前記信号を使用して前記ニューラルネットワークをトレーニングする、
ように構成されたニューラルネットワークトレーナーを更に備える、請求項１に記載の装置。
【請求項９】
前記トレーナーは、前記イベントが後に発生する前記頻度を表す信号結合行列を形成する、請求項８に記載の装置。
【請求項１０】
前記システムは、プロセス型製造及びディスクリート型製造のうちの一方又はそれらの組合せを含む製造生産ラインである、請求項１に記載の装置。
【請求項１１】
前記一対の異なる信号源における前記イベントの後の発生は、前記システムの全てのイベントの時系列におけるイベントの連続した発生である、請求項１に記載の装置。
【請求項１２】
複数のイベントをもたらす複数の信号源を備えるシステムを制御する方法であって、該方法は、前記システムの制御状態を診断するようにトレーニングされたニューラルネットワークを記憶するメモリに結合されたプロセッサを使用し、該プロセッサは、該方法を実施する記憶された命令に結合され、該命令は、前記プロセッサによって実行されると該方法のステップを実行し、該方法は、
前記信号源から信号を受信することと、
前記システムの前記制御状態を生成するように前記メモリから引き出された前記ニューラルネットワーク内に前記信号を提示することであって、前記ニューラルネットワークは一連の層を含み、各層は一組のノードを含み、入力層と該入力層に続く第１の隠れ層との各ノードは前記システムにおける信号源に対応し、一対の異なる信号源に対応する隣接する層からの一対のノードは、前記ニューラルネットワークにおいて、該一対の異なる信号源における前記イベントが後に発生する確率が閾値を上回る場合にのみ、結合される、提示することと、
前記システムの前記制御状態に従って選択された制御動作を実行することと、
を含む、方法。
【請求項１３】
前記入力層におけるノードの数は、前記システムにおける前記信号源の数の倍数に等しく、前記入力層に続く前記第１の隠れ層におけるノードの数は、前記信号源の前記数に等しく、前記入力層は、異なる信号源における前記イベントが後に発生する確率に基づいて、前記第１の隠れ層に部分的に結合される、請求項１２に記載の方法。
【請求項１４】
前記ニューラルネットワークは時間遅延ニューラルネットワーク（ＴＤＮＮ）であり、前記入力層におけるノードの前記数に対する前記倍数は、前記ＴＤＮＮの遅延の時間ステップの数に等しく、前記ＴＤＮＮは、教師あり学習に基づいてトレーニングされた時間遅延フィードフォワードニューラルネットワーク、又は、教師なし学習に基づいてトレーニングされた時間遅延オートエンコーダーニューラルネットワークである、請求項１３に記載の方法。
【請求項１５】
前記一対の異なる信号源における前記イベントが後に発生する前記確率は、或る期間にわたって収集された信号におけるイベントが後に発生する頻度の関数である、請求項１２に記載の方法。
【請求項１６】
前記一対の異なる信号源における前記イベントの後の発生は、前記システムにおける前記イベントの時系列におけるイベントの連続した発生である、請求項１２に記載の方法。
【請求項１７】
方法を実行するプロセッサによって実行可能なプログラムが具現化されている非一時的コンピューター可読媒体であって、前記方法は、
前記信号源から信号を受信することと、
前記システムの制御状態を診断して該システムの該制御状態を生成するようにトレーニングされたニューラルネットワーク内に、前記信号を提示することであって、前記ニューラルネットワークは一連の層を含み、各層は一組のノードを含み、入力層と該入力層に続く第１の隠れ層との各ノードは前記システムにおける信号源に対応し、一対の異なる信号源に対応する隣接する層からの一対のノードは、前記ニューラルネットワークにおいて、該一対の異なる信号源における前記イベントが後に発生する確率が閾値を上回る場合にのみ、結合される、提示することと、
前記システムの前記制御状態に従って選択された制御動作を実行することと、
を含む、媒体。
【請求項１８】
前記一対の異なる信号源における前記イベントの後の発生は、前記システムの前記イベントの時系列におけるイベントの連続した発生である、請求項１７に記載の媒体。
【請求項１９】
前記ニューラルネットワークは時間遅延ニューラルネットワーク（ＴＤＮＮ）であり、前記入力層におけるノードの前記数に対する前記倍数は、前記ＴＤＮＮの遅延の時間ステップの数に等しく、前記ＴＤＮＮは、教師あり学習に基づいてトレーニングされた時間遅延フィードフォワードニューラルネットワーク、又は、教師なし学習に基づいてトレーニングされた時間遅延オートエンコーダーニューラルネットワークである、請求項１７に記載の媒体。
【請求項２０】
前記一対の異なる信号源における前記イベントが後に発生する前記確率は、期間にわたって収集された信号におけるイベントが後に発生する頻度の関数である、請求項１７に記載の媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、包括的には、機械学習技法を用いる異常及び故障検出に関し、特にニューラルネットワークを用いる異常検出に関する。
【背景技術】
【０００２】
高速かつ強力な機械が複雑な一連の動作を非常に高速で実行することができる製造において、安全性及び品質を監視すること及び制御することは非常に重要である。意図した一連の動作又はタイミングから逸脱することにより、品質が劣化し、原料が無駄になり、ダウンタイム及び機器の破損がもたらされ、生産量が低下する可能性がある。作業員への危険性は重大な問題である。この理由で、予期しないイベントを最小限にするように製造工程を注意深く設計するために細心の注意を払わなければならず、種々のセンサー及び非常スイッチを使用して、生産ラインに安全装置も組み込むように設計する必要がある。
【０００３】
製造のタイプには、プロセス型製造及びディスクリート型製造がある。プロセス型製造では、製品は、一般に差別化されていない、例えば、石油、天然ガス及び塩である。ディスクリート型製造は、個別の品目、例えば、自動車、家具、玩具及び飛行機を生産する。
【０００４】
安全性を高めるとともに材料及び生産量の損失を最小限にする１つの実際的な手法は、生産ラインが正常に動作していないときを検出し、こうした場合に必要であればラインを停止させるというものである。この手法を実施する１つの方法は、測定可能な変数、例えば、温度、圧力等の範囲に関して生産ラインの正常動作の記述を使用し、許容可能な動作領域を定義し、その領域外の動作点を検出するというものである。この方法は、通常、物理的変数に対して許容可能な範囲が十分に理解されており、製品の品質に対する品質基準がこれらの変数に関して直接定義されることが多い、プロセス型製造業、例えば石油精製において一般的である。
【０００５】
しかしながら、ディスクリート型製造における作業工程の性質は、プロセス型製造のものとは異なり、正常な作業工程からの逸脱は非常に異なる特性を有する可能性がある。ディスクリート型製造は、機械加工、はんだ付け、組立等の作業単位で実施される一連の動作を含む。異常としては、タスクのうちの１つ以上の誤った実行、又はタスクの誤った順序を挙げることができる。異常な状況であっても、温度又は圧力等の物理的変数は範囲外にならないことが多く、そのため、こうした変数の直接監視により、こうした異常を確実に検出することができない。
【０００６】
例えば、特許文献１に開示されている方法は、ディスクリート型製造に対するイベントシーケンスに基づく異常検出について記載している。しかしながら、この方法は、製造システムがランダムな動作を有する場合、高い誤り率を有し、異なるタイプの製造システムに対して好適ではない可能性がある。さらに、この方法では、正常動作において一度に１つのイベントしか発生し得ないことが必要であり、複雑な製造システムでは頻繁である同時のイベント発生は考慮されていない。
【先行技術文献】
【特許文献】
【０００７】
【特許文献１】米国特許出願公開第２０１５／０２７７４１６号
【発明の概要】
【発明が解決しようとする課題】
【０００８】
そのために、異なるタイプの製造システムにおいて異常を検出するために好適なシステム及び方法を開発する必要がある。
【課題を解決するための手段】
【０００９】
いくつかの実施の形態は、製造動作のクラス又はタイプは、プロセス型製造及びディスクリート型製造を含むことができるという認識に基づく。例えば、プロセス型製造に対する異常検出方法は、データの外れ値を検出することを目的とすることができ、ディスクリート型製造に対する異常検出方法は、動作実行の正しい順序を検出することを目的とすることができる。そのために、製造動作の異なるクラスに対して異なる異常検出方法を設計することが当然である。
【００１０】
しかしながら、複雑な製造システムは、プロセス型製造及びディスクリート型製造を含む異なるタイプの製造を含む可能性がある。プロセス型製造及びディスクリート型製造が信号生成ラインにおいて混合される場合、異なるタイプの製造に対して設計された異常検出方法は不正確になる可能性がある。そのため、いくつかの実施の形態の目的は、異なるタイプの製造システムにおける異常検出に好適なシステム及び方法を提供することである。
【００１１】
いくつかの実施の形態は、プロセス型製造及びディスクリート型製造の両方に対する異常検出に、機械学習技法を適用することができるという認識に基づく。機械学習を用いて、自動学習システムにおいて収集データを利用することができ、自動学習システムでは、データの特徴量はトレーニングを通して学習することができる。トレーニングされたモデルは、リアルタイムデータにおける異常を検出して、予知保全及びダウンタイム短縮を実現することができる。
【００１２】
例えば、ニューラルネットワークは、異なるタイプの製造を含む複雑な製造システムに対して実際的にトレーニングすることができる機械学習技法のうちの１つである。そのために、いくつかの実施の形態は、製造システムにおいて異常を検出するためにニューラルネットワーク法を適用する。ニューラルネットワークを使用して、領域知識から明らかではない追加の異常を検出することができる。
【００１３】
したがって、いくつかの実施の形態は、プロセス型製造及びディスクリート型製造の両方に精度を向上させて適用することができる機械学習に基づく異常検出方法を提供する。例えば、異なる実施の形態は、教師あり学習及び教師なし学習を通して異常を検出するように、製造システムに対するニューラルネットワークに基づく異常検出方法を提供する。
【００１４】
しかしながら、ニューラルネットワークの分野における難題のうちの１つは、最小限であるが、依然として応用要件を満足させるニューラルネットワークトポロジーを見つけることである。製造システムは、通常、莫大な量のデータを有する。したがって、全結合ニューラルネットワークは、複雑な製造システムにおける異常検出には計算コストが高いか又は更には実際的ではない可能性がある。
【００１５】
さらに、いくつかの実施の形態は、複雑な製造システムにおいて異常を検出するようにトレーニングされた全結合ニューラルネットワークを枝刈りすることにより、異常検出の性能が低下するという理解に基づく。具体的には、いくつかの実施の形態は、ニューラルネットワークの枝刈りが、ニューラルネットワークトレーニングプロセス中に行われ、それにより、ニューラルネットワークの複雑度及びトレーニング時間が増大し、異常及び故障の検出精度も低下する、という認識に基づく。
【００１６】
いくつかの実施の形態は、ニューラルネットワークが、人工ニューロン又は単にニューロンと呼ばれる結合されたユニット又はノードの集まりに基づくという認識に基づく。人工ニューロンの間の各結合部は、互いに信号を送信することができる。信号を受信する人工ニューロンは、信号を処理し、その処理済み信号をその人工ニューロンに結合されている他の人工ニューロンに送信することができる。このように、別のニューロンから信号を受信するニューロンに対して、送信側ニューロンはその信号の信号源である。
【００１７】
そのために、いくつかの実施の形態は、ニューラルネットワークの少なくともいくつかの層の各ニューロンを、製造システムにおける信号源と一致させることができるという認識に基づく。このため、製造システムにおける信号源は、ニューラルネットワークの１つの層におけるニューロンによって表される。このように、ニューラルネットワークにおけるニューロンの数は、製造システムの物理的構造を表すために最小限必要であるように選択することができる。
【００１８】
さらに、いくつかの実施の形態は、ニューラルネットワークが、単純なユニットの相互結合ネットワークの創発的プロセスとして心的現象又は行動現象を表すように試みるコネクショニストシステムである、という認識に基づく。このように、ニューラルネットワークの構造は、ニューラルネットワークの各レベルにおける複数のニューロンだけでなく、それらのニューロンの間の結合部としても表すことができる。
【００１９】
いくつかの実施の形態は、ニューラルネットワークのニューロンが、製造システムにおける信号源を表す場合、ニューラルネットワークのニューロンの間の結合部が、製造システムにおける信号源の間の結合部を表すことができる、という認識に基づく。具体的には、ニューロンは、対応する信号源が結合される場合にのみ、結合することができる。
【００２０】
いくつかの実施の形態は、異常検出の目的で２つの異なる信号源の間の結合部が、これらの２つの異なる信号源によって生じたイベントが後に発生する頻度の関数である、という認識に基づく。例えば、信号源は、オン状態からオフ状態にその状態を変化させることができるスイッチであるとすると仮定する。状態の変化及び／又は状態の新たな値は、信号源の信号である。第１のスイッチが状態を変化させると、第２のスイッチがその状態を常に変化させる場合、それらの２つの信号源は、強く結合されており、したがって、ニューラルネットワークにおけるこのスイッチの対に対応するニューロンも同様に結合されている。逆に、第１のスイッチが状態を変化させると、第２のスイッチがその状態を決して変化させない場合、それらの２つの信号源は結合されておらず、したがって、ニューラルネットワークにおけるこのスイッチの対に対応するニューロンは同様に結合されていない。
【００２１】
実際には、常に次に続くイベント又は決して次に続かないイベントはめったに発生しない。そのために、いくつかの実施の形態では、或る異なる信号源の対は、その異なる信号源の対におけるイベントが後に発生する確率が閾値を超えるときにのみ、ニューラルネットワークにおいて結合されている。閾値は、応用によって決まり、イベントが後に発生する確率は、例えば、ニューラルネットワークをトレーニングするために使用される、トレーニングデータにおけるこのように後に発生する頻度に基づいて、選択することができる。
【００２２】
このように、ニューロンの結合部は、製造システム内の結合性を模倣するコネクショニストシステムを表す。そのために、いくつかの実施の形態のニューラルネットワークは、イベント順序付け関係に基づくトポロジーを有する部分結合ネットワークになり、それにより、ニューラルネットワークの複雑度が低減するとともにトレーニング時間が短縮され、異常検出精度が向上する。
【００２３】
したがって、一実施の形態は、複数のイベントをもたらす複数の信号源を備えるシステムを制御する装置であって、前記信号源から信号を受信する入力インターフェースと、前記システムの制御状態を診断するようにトレーニングされたニューラルネットワークを記憶するメモリであって、該ニューラルネットワークは一連の層を含み、各層は一組のノードを含み、入力層と該入力層に続く第１の隠れ層との各ノードは前記システムにおける信号源に対応し、一対の異なる信号源に対応する隣接する層からの一対のノードは、前記ニューラルネットワークにおいて、該一対の異なる信号源における前記イベントが後に発生する確率が閾値を上回る場合にのみ、結合され、前記ニューラルネットワークは部分結合ニューラルネットワークである、メモリと、前記システムの前記制御状態を生成するように前記ニューラルネットワーク内に前記信号を提示するプロセッサと、前記システムの前記制御状態に従って選択された制御動作を実行するコントローラーとを備える、装置を開示する。
【００２４】
別の実施の形態は、複数のイベントをもたらす複数の信号源を備えるシステムを制御する方法であって、該方法は、前記システムの制御状態を診断するようにトレーニングされたニューラルネットワークを記憶するメモリに結合されたプロセッサを使用し、該プロセッサは、該方法を実施する記憶された命令に結合され、該命令は、前記プロセッサによって実行されると該方法のステップを実行し、該方法は、前記信号源から信号を受信することと、前記システムの前記制御状態を生成するように前記メモリから引き出された前記ニューラルネットワーク内に前記信号を提示することであって、前記ニューラルネットワークは一連の層を含み、各層は一組のノードを含み、入力層と該入力層に続く第１の隠れ層との各ノードは前記システムにおける信号源に対応し、一対の異なる信号源に対応する隣接する層からの一対のノードは、前記ニューラルネットワークにおいて、該一対の異なる信号源における前記イベントが後に発生する確率が閾値を上回る場合にのみ、結合される、提示することと、前記システムの前記制御状態に従って選択された制御動作を実行することとを含む、方法を開示する。
【００２５】
更に別の実施の形態は、方法を実行するプロセッサによって実行可能なプログラムが具現化されている非一時的コンピューター可読媒体であって、前記方法は、前記信号源から信号を受信することと、前記システムの制御状態を診断して該システムの該制御状態を生成するようにトレーニングされたニューラルネットワーク内に、前記信号を提示することであって、前記ニューラルネットワークは一連の層を含み、各層は一組のノードを含み、入力層と該入力層に続く第１の隠れ層との各ノードは前記システムにおける信号源に対応し、一対の異なる信号源に対応する隣接する層からの一対のノードは、前記ニューラルネットワークにおいて、該一対の異なる信号源における前記イベントが後に発生する確率が閾値を上回る場合にのみ、結合される、提示することと、前記システムの前記制御状態に従って選択された制御動作を実行することとを含む、媒体を開示する。
【図面の簡単な説明】
【００２６】
【図１】いくつかの実施形態による製造異常検出システム１００の構成要素を例示する概略図である。
【図２】教師あり機械学習のためのいくつかの実施形態によって使用されるフィードフォワードニューラルネットワークの概略図である。
【図３】教師なし機械学習のためのいくつかの実施形態によって使用されるオートエンコーダーニューラルネットワークの概略図である。
【図４Ａ】いくつかの実施形態によって使用されるイベントシーケンス生成及び特異イベント抽出の全体的なプロセスを例示する図である。
【図４Ｂ】３つのスイッチ信号を使用する図４Ａのイベントシーケンス生成及び特異イベント抽出の一例を示す図である。
【図５Ａ】いくつかの実施形態によって使用されるイベント順序付け関係テーブルの全体的な形態を示す図である。
【図５Ｂ】図４Ｂに示すイベントシーケンス及び特異イベントに対するイベント順序付け関係テーブルの一例を示す図である。
【図６Ａ】いくつかの実施形態による順序関係テーブルから生成された信号結合行列の全体的な形態を示す図である。
【図６Ｂ】図５Ｂに示すイベント順序付け関係テーブルに対応する信号結合行列の一例の図である。
【図７】いくつかの実施形態による、信号結合行列を使用して全結合時間遅延ニューラルネットワーク（ＴＤＮＮ：time delay neural network）を簡略化された構造化ＴＤＮＮに変換する一例を示す図である。
【図８】いくつかの実施形態によって構築された、全結合オートエンコーダーニューラルネットワークと構造化オートエンコーダーニューラルネットワークとの間の実験結果比較を示す図である。
【図９】いくつかの実施形態による、複数のイベントをもたらす複数の信号源を含むシステムを制御する装置９００のブロック図である。
【図１０Ａ】１つの実施形態によるニューラルネットワークをトレーニングする方法のブロック図である。
【図１０Ｂ】代替実施形態によるニューラルネットワークをトレーニングする方法のブロック図である。
【発明を実施するための形態】
【００２７】
概説
図１は、いくつかの実施形態による製造異常検出システム１００の構成要素を示す概略図である。システム１００は、製造生産ライン１１０、トレーニングデータプール１２０、機械学習モデル１３０及び異常検出モデル１４０を備える。生産ライン１１０は、センサーを用いてデータを収集する。センサーは、デジタルセンサー、アナログセンサー、及びそれらの組合せとすることができる。収集データは、２つの目的を果たす。すなわち、データの一部は、トレーニングデータプール１２０に記憶され、機械学習モデル１３０をトレーニングするためのトレーニングデータとして使用され、データの一部は、異常検出モデル１４０により、異常を検出するために動作時間データとして使用される。機械学習モデル１３０及び異常検出モデル１４０によって同じデータを使用することができる。
【００２８】
製造生産ライン１１０において異常を検出するために、最初に、トレーニングデータが収集される。機械学習モデル１３０によって、トレーニングデータプール１２０のトレーニングデータを使用してニューラルネットワークがトレーニングされる。トレーニングデータプール１２０は、ラベル付きデータ又はラベルなしデータのいずれかを含むことができる。ラベル付きデータは、例えば異常又は正常のラベルでタグ付けされている。ラベルなしデータはラベルを有していない。トレーニングデータのタイプに基づき、機械学習モデル１３０は、異なるトレーニング手法を適用する。ラベル付きトレーニングデータの場合、通常、教師あり学習が使用され、ラベルなしトレーニングデータの場合、通常、教師なし学習が適用される。このように、異なる実施形態は異なるタイプのデータを扱うことができる。
【００２９】
機械学習モデル１３０は、正常データパターン及び異常データパターンを含むトレーニングデータの特徴量及びパターンを学習する。異常検出モデル１４０は、トレーニングされた機械学習モデル１５０及び収集された動作時間データ１６０を使用して、異常検出を実施する。動作時間データ１６０は、正常又は異常と識別することができる。例えば、正常データパターン１５５及び１５８を使用して、トレーニングされた機械学習モデル１５０は、動作時間データを正常データ１７０及び異常データ１８０に分類することができる。動作時間データＸ１  １６３及びＸ２  １６６は正常として分類され、動作時間データＸ３  １６９は異常として分類される。異常が検出されると、必要な措置が講じられる（１９０）。
【００３０】
異常検出プロセスは、オンラインでもオフラインでも実行することができる。オンライン異常検出は、リアルタイム予知保全を提供することができる。しかしながら、オンライン異常検出は高速計算能力が必要であり、それには、単純かつ正確な機械学習モデルが必要である。本発明の実施形態は、高速かつ正確な機械学習モデルを提供する。
【００３１】
製造システムにおける異常検出用のニューラルネットワーク
ニューラルネットワークを採用して、教師あり学習及び教師なし学習の両方を通して異常を検出することができる。いくつかの実施形態は、製造システムにおいて異常を検出するために時間遅延ニューラルネットワーク（ＴＤＮＮ）を適用する。時間遅延ニューラルネットワークを使用することにより、ニューラルネットワークへの入力として現データのみでなく履歴データも使用される。時間遅延ステップの数は、使用すべき履歴データ測定値の数を指定するパラメーターであり、例えば、時間遅延ステップの数が３である場合、現時点ｔにおけるデータ、時点ｔ−１におけるデータ、及び時点ｔ−２におけるデータが使用される。したがって、時間遅延ニューラルネットワークのサイズは、時間遅延ステップの数によって決まる。時間遅延ニューラルネットワークアーキテクチャは、時間領域においてデータ信号の関係を探索する。製造システムにおいて、データ信号の履歴は、重要な将来予測を提供することができる。
【００３２】
ＴＤＮＮは、時間遅延フィードフォワードニューラルネットワーク（ＴＦＦＮＮ）又は時間遅延オートエンコーダーニューラルネットワーク（ＴＤＡＮＮ）として実施することができる。製造システムにおける異常検出の場合、いくつかの実施形態は、時間遅延フィードフォワードニューラルネットワークを適用し、いくつかの実施形態は、時間遅延オートエンコーダーニューラルネットワークを適用する。
【００３３】
図２は、教師あり機械学習に対するいくつかの実施形態で使用されるフィードフォワードニューラルネットワークの概略図を示す。フィードフォワードニューラルネットワークは、ニューロン間の結合部がサイクルを形成しない人工ニューラルネットワークである。教師あり学習の場合、トレーニングデータは、正常又は異常のいずれかとしてラベル付けされる。この条件下で、トレーニングモデルに教師あり学習技法が適用される。実施形態は、時間遅延フィードフォワードニューラルネットワークを採用して、ラベル付きトレーニングデータを用いて異常を検出する。例えば、図２に示すフィードフォワードニューラルネットワークは、入力層２１０と、複数の隠れ層２２０と、出力層２３０とを含む。入力層２１０は、データ信号Ｘ２４０を取得し、抽出された特徴量を、重みベクトルＷ１２６０と活性化関数、例えばシグモイド関数とを通して第１の隠れ層に伝達する。時間遅延フィードフォワードニューラルネットワークの場合、入力データＸ２４０は、現データと履歴データとの両方を含む。各隠れ層２２０は、先行する層の出力及びバイアス２５０を取得し、抽出された特徴量を次の層に伝達する。バイアスの値は正の１である。バイアスにより、ニューラルネットワークは、活性化関数を左又は右にシフトさせることができ、それは、学習の成功のために重要である可能性がある。したがって、バイアスは、線形関数ｙ＝ａｘ＋ｂの定数ｂと同様の役割を果たす。特徴量抽出の複数の隠れ層の後、ニューラルネットワークは出力層２３０に到達し、出力層２３０は、最後の隠れ層の出力及びバイアス２５０を取得して、特定の損失関数、例えばクロスエントロピー関数を使用し、対応する最適化問題を定式化して最終出力Ｙ２７０を生成し、これにより、テストデータが正常又は異常として分類される。
【００３４】
製造システムにおいて異常はめったに発生せず、又は、異常データは収集が困難であるため、製造データは、正常動作条件下でのみ収集される場合がある。この状況下で、データは通常ラベル付けされず、したがって、教師なし学習技法が有用であり得る。この場合、いくつかの実施形態は、異常を検出するために時間遅延オートエンコーダーニューラルネットワークを適用する。
【００３５】
図３は、教師なし機械学習に対するいくつかの実施形態によって使用されるオートエンコーダーニューラルネットワークの概略図を示す。オートエンコーダーニューラルネットワークは、図３に示すように単一の又は複数の隠れ層から構成されたエンコーダー３１０及びデコーダー３２０によって入力データ信号Ｘ２４０を再構築する、特別な人工ニューラルネットワークであり、ここでは、
【数１】
2021509995.tif 000003
３３０は、入力データ信号Ｘ２４０からの再構築データである。再構築により、
【数２】
2021509995.tif 000004
が得られる。時間遅延オートエンコーダーニューラルネットワークの場合、入力データＸ２４０は、現データ及び履歴データの両方を含む。圧縮された特徴は、ネットワーク構造において通常コード層３４０と呼ばれる中間層に現れる。オートエンコーダーニューラルネットワークもまたバイアス２５０をとることができる。２つのタイプのオートエンコーダーニューラルネットワーク、すなわち重み共有及び重み非共有がある。重み共有オートエンコーダーニューラルネットワークは対称トポロジーを有し、エンコーダー側の重みベクトルＷｉ２６０は、デコーダー側の重みベクトルＷ’ｉ３５０と同じである。一方、重み非共有オートエンコーダーニューラルネットワークの場合、ネットワークのトポロジーは必ずしも対称であるとは限らず、エンコーダー側の重みベクトルは、必ずしもデコーダー側の重みベクトルと同じであるとは限らない。
【００３６】
イベント順序付け関係に基づくニューラルネットワーク構造
製造システムでは、データを収集するために、何十から何百又は何千ものセンサーが使用され、それは、データの量が莫大であることを示す。その結果、異常を検出するために適用されるニューラルネットワークのサイズは非常に大きい可能性がある。したがって、ニューラルネットワークの適切なサイズを決定するという問題が重要である。
【００３７】
いくつかの実施形態は、ニューラルネットワークの適切なサイズを決定するという問題に対処する。全結合ニューラルネットワークはトレーニングを通してその重みを学習することができるが、ニューラルネットワークの複雑度を適切に低減させることにより、計算コストを低減させるとともに、異常検出精度を向上させることができる。そのために、いくつかの実施形態の目的は、性能を低下させることなくニューラルネットワークサイズを低減させることである。
【００３８】
ニューラルネットワークの複雑度は、ニューロンの数及びニューロンの間の結合部の数によって決まる。各結合部は、重みパラメーターによって表される。したがって、ニューラルネットワークの複雑度の低減は、重みの数及び／又はニューロンの数を減少させることである。いくつかの実施形態は、性能を低下させることなく、ニューラルネットワークの複雑度を低減させることを目的とする。
【００３９】
この問題に取り組む１つの手法は、本明細書では枝刈りと呼び、必要以上のネットワークをトレーニングすることと、その後、不要な重み及び／又はニューロンを除去することとを含む。したがって、枝刈りは時間のかかるプロセスである。
【００４０】
問題は、いずれの重み及び／又はニューロンが不要であるかである。従来の枝刈り技法は、通常、値が小さい方の重みを除去する。重みが小さい方が不要であるという証拠はない。その結果、枝刈りは、枝刈り損失のため、全結合ニューラルネットワークと比較して必然的に性能が低下する。したがって、枝刈り候補の選択が最重要である。
【００４１】
いくつかの実施形態は、イベント順序付け関係に基づくニューラルネットワーク構造化方法を提供し、これは、イベント順序付け関係情報に基づいて枝刈り候補を選択する。さらに、トレーニングプロセス中に不要な重み及び／又はニューロンを除去する代わりに、実施形態は、トレーニングの前にニューラルネットワーク構造を決定する。特に、いくつかの実施形態によって決定される部分結合ニューラルネットワークのこうした構造は、全結合ニューラルネットワークより性能が優れている。構造化ニューラルネットワークにより、トレーニング時間が短縮されるとともに、異常検出精度が向上する。より正確には、実施形態は、トレーニングデータを前処理して、ニューラルネットワークの重要なニューロン結合部を決定するために使用されるイベント順序付け関係を見つける。その後、重要でない結合部及び隔離されたニューロンは、ニューラルネットワークから除去される。
【００４２】
イベント順序付け関係に基づくニューラルネットワーク構造化方法について説明するために、製造システムの特定の特性を監視するセンサーから収集されたデータ測定値を、データ信号と呼び、例えば、電圧センサーは電圧信号を測定する。１つのセンサーが複数のデータ信号を測定する場合がある。データ信号は、周期的に又は非周期的に測定することができる。周期的測定の場合、異なるデータ信号を測定する期間は異なるものとすることができる。
【００４３】
１つのデータ信号に対して、イベントは、１つのレベルから別のレベルへの信号値変化として定義される。信号変化は、許容可能な範囲外でも許容可能範囲内でもあり得る。より具体的には、イベントは、
【数３】
2021509995.tif 000005
として定義され、式中、Ｓは、イベントをもたらすデータ信号を表し、ＴｏＳは、信号Ｓに対するイベントのタイプを示し、Ｔは、信号値が変化した時点である。例えば、スイッチ信号は、オンイベント及びオフイベントを有することができる。したがって、イベントは、システムにおける正常動作実行又は異常事象に対応することができる。
【００４４】
プロセス型製造の場合、イベントは、測定データが許容可能な動作範囲外である等の異常ステータス、又は、１つの状態から別の状態へのシステムの変化等の正常ステータスを表すことができる。ディスクリート型製造の場合、イベントは、正しい順序又は誤った順序での動作実行を表すことができる。
【００４５】
ニューラルネットワークをトレーニングする前に、トレーニングデータは、全てのトレーニングデータ信号に対してイベントを抽出するように処理される。これらのイベントは、イベント順序付け関係（ＥＯＲ）テーブルを構築するために使用される。
【００４６】
Ｎ個のイベントを発生させる、Ｍ個のデータ信号
【数４】
2021509995.tif 000006
があると想定する。イベント発生時点に従って、これらのイベントをイベントシーケンス
【数５】
2021509995.tif 000007
に配置する。或るタイプのイベントが複数回発生する可能性があるため、イベントシーケンス
【数６】
2021509995.tif 000008
はＫ個の特異イベント
【数７】
2021509995.tif 000009
を含むものと想定し、各
【数８】
2021509995.tif 000010
は、｛Ｓ，ＴｏＳ｝のフォーマットを有する。
【００４７】
図４Ａは、いくつかの実施形態によって使用されるイベントシーケンス生成及び特異イベント抽出の全体的なプロセスを例示する。トレーニングデータプール１２０における各データ信号に対して、信号値の変化、対応するイベントタイプ、及び信号値変化の対応する時点に基づき、一組のイベントが作成される（４１０）。全てのトレーニングデータ信号に対してイベントが生成された後、イベント発生時点に従って、イベントはイベントシーケンスに配置される（４２０）。複数のイベントが同時に発生した場合、これらのイベントは、イベントシーケンスにおいて任意の順序で現れる可能性がある。イベントシーケンスが作成されると、イベントシーケンスから特異イベントが抽出される（４３０）。特異イベントは、イベント発生時点とは無関係にイベントタイプのみを表す。
【００４８】
図４Ｂは、３つのスイッチ信号Ｓ１、Ｓ２及びＳ３４４０を使用するイベントシーケンス生成の一例を例示する。これらのスイッチ信号はイベントを発生させることができる。スイッチ信号がその値を０から１に変化させる場合、オンイベントが生成される。一方、スイッチ信号がその値を１から０に変化させる場合、オフイベントが生成される。各スイッチ信号は、異なる時点で３つのオン／オフイベントを発生させる。信号Ｓ１は、３つのイベント４５０｛Ｅ１１，Ｅ１２，Ｅ１３｝を発生させ、信号Ｓ２は、３つのイベント４６０｛Ｅ２１，Ｅ２２，Ｅ２３｝を発生させ、信号Ｓ３は、３つのイベント４７０｛Ｅ３１，Ｅ３２，Ｅ３３｝を発生させる。イベント発生時点に従って、これらの９つのイベントは、｛Ｅ１１，Ｅ２１，Ｅ３１，Ｅ３２，Ｅ２２，Ｅ１２，Ｅ３３，Ｅ２３，Ｅ１３｝としてイベントシーケンス４８０を形成する。このイベントシーケンスは、
【数９】
2021509995.tif 000011
として６つの特異イベント４９０を含む。
【００４９】
図５Ａは、いくつかの実施形態によって使用されるイベント順序付け関係テーブルの全体的な形態を示す。具体的には、イベントシーケンス
【数１０】
2021509995.tif 000012
及び特異イベント
【数１１】
2021509995.tif 000013
を使用して、図５Ａに示すように、イベント順序付け関係（ＥＯＲ）テーブル５００を構築することができ、ここで、ｅｉｊ（ｉ≠ｊ）は０に初期化される。いくつかの実施態様では、ＥＯＲテーブル構築プロセス中、ｅｉｊは、イベントシーケンス
【数１２】
2021509995.tif 000014
におけるイベント対
【数１３】
2021509995.tif 000015
発生ごとに１だけ増加する。イベント
【数１４】
2021509995.tif 000016
及び
【数１５】
2021509995.tif 000017
が同時に発生する場合、ｅｉｊ及びｅｊｉ両方が１／２だけ増加する。代替実施形態は、異なる値を使用してＥＯＲテーブルを構築する。いずれの場合も、ｅｉｊ（ｉ≠ｊ）はイベント
【数１６】
2021509995.tif 000018
がイベント
【数１７】
2021509995.tif 000019
に続く回数を示す。相対的に大きいｅｉｊは、イベント
【数１８】
2021509995.tif 000020
がイベント
【数１９】
2021509995.tif 000021
に厳密に続くことを示し、相対的に小さいｅｉｊは、イベント
【数２０】
2021509995.tif 000022
がイベント
【数２１】
2021509995.tif 000023
に大まかに続くことを意味し、ｅｉｊ＝０は、イベント
【数２２】
2021509995.tif 000024
が    
【数２３】
2021509995.tif 000025
に決して続かないことを示す。ｅｉｊ及びｅｊｉ両方がゼロより大きい場合、イベント
【数２４】
2021509995.tif 000026
及びイベント
【数２５】
2021509995.tif 000027
は、いずれかの順序で発生する可能性がある。
【００５０】
図５Ｂは、図４Ｂに示すイベントシーケンス及び特異イベントに対するイベント順序付け関係テーブルの一例を示す。
【００５１】
イベント順序付け関係（ＥＯＲ）テーブル５００は、いくつかの実施形態により、ニューラルネットワーク結合部を構築するために使用される。イベント順序付け関係テーブルに基づき、信号結合行列（ＳＣＭ）が構築される。信号結合行列は、ニューラルネットワーク結合性構造を提供する。
【００５２】
図６Ａは、いくつかの実施形態によるイベント順序付け関係テーブルから生成された信号結合行列の全体的な形態を示す。この場合、Ｍ×Ｍ信号結合行列（ＳＣＭ）６００が構築され、ここで、ｃｉｊ（ｉ≠ｊ）は、信号Ｓｊのイベントが信号Ｓｉのイベントに続く回数を表す。したがって、ｃｉｊ＝０は、信号Ｓｊのイベントが信号Ｓｉのイベントに決して続かないことを示す。相対的に高いｃｉｊの値は、信号Ｓｉの変化が信号Ｓｊの変化をもたらす可能性が最も高いという意味で、信号Ｓｊが信号Ｓｉに厳密に依存することを示す。一方、相対的に低いｃｉｊの値は、信号Ｓｊが信号Ｓｉに大まかに依存することを意味する。ニューラルネットワーク結合構成に対して閾値ＣＴＨを、ｃｉｊ≧ＣＴＨである場合に信号Ｓｉを信号Ｓｊに影響を与えるものとみなすことができるように、定義することができる。この場合、信号Ｓｉに対応するニューロンから信号Ｓｊに対応するニューロンへの結合部は、重要であるものとしてみなされる。一方、ｃｉｊ＜ＣＴＨである場合、信号Ｓｉに対応するニューロンから信号Ｓｊに対応するニューロンへの結合部は、重要ではないとみなされる。
【００５３】
代替的に、信号結合行列は、一対のデータ信号に対してイベントが後に発生する確率を定義するためにも使用することができる。２つの信号Ｓｉ及びＳｊに対して、ｃｉｊは、信号Ｓｊのイベントが信号Ｓｉのイベントに続く回数を表す。したがって、信号Ｓｊのイベントが信号Ｓｉのイベントに続くことが後に発生する確率は、
【数２６】
2021509995.tif 000028
として定義することができる。
【００５４】
Ｐ（Ｓｉ，Ｓｊ）及びＰ（Ｓｊ，Ｓｉ）は異なる可能性があり、すなわち、信号Ｓｉは信号Ｓｊに影響を与える可能性があるが、信号Ｓｊは必ずしも信号Ｓｉに影響を与えるとは限らないことに留意されたい。この確率を使用して、閾値ＰＴＨを、Ｐ（Ｓｉ，Ｓｊ）≧ＰＴＨである場合に信号Ｓｉを信号Ｓｊに影響を与えるものとみなすことができるように、定義することができる。したがって、信号Ｓｉに対応するニューロンから信号Ｓｊに対応するニューロンへの結合部は、重要であるものとしてみなされる。
【００５５】
図６Ｂは、図５Ｂに示すイベント順序付け関係テーブルに対応する信号結合行列６１０の一例である。信号結合行列（ＳＣＭ）６００及び／又は６１０を使用して、全結合ニューラルネットワークを簡略化することができる。
【００５６】
図７は、いくつかの実施形態による信号結合行列７３０を使用して全結合ＴＤＮＮ７１０を簡略化された構造化ＴＤＮＮに変換する一例を示し、ＴＤＮＮは、時間遅延フィードフォワードニューラルネットワーク又は時間遅延オートエンコーダーニューラルネットワークとすることができる。３つのデータ信号が｛Ｓ１，Ｓ２，Ｓ３｝であると想定すると、時間遅延ステップの数は２であり、結合閾値ＣＴＨ＝１である。ｓｉ０及びｓｉｌ（１≦ｉ≦３）は、時点ｔ及び時点ｔ−１における信号Ｓｉの測定値を示し、これら測定値は、図７のニューラルネットワークにおけるノードＳｉ０及びＳｉｌ（１≦ｉ≦３）に対応する。この例では、ニューラルネットワークの入力層及び第１の隠れ層がニューラルネットワークのトポロジーに最も影響を与えるため、これら入力層から第１の隠れ層への構造を例示する。入力層におけるノードの数は６、すなわち、データ信号の数に時間遅延ステップの数を掛けた数であり、第１の隠れ層におけるノードの数は３、すなわち、データ信号の数であることを見ることができる。第１の隠れ層ノード構成の目的は、特定のデータ信号に関連する特徴量を単一の隠れノードに集中させることである。
【００５７】
この例では、全結合ＴＤＮＮの場合、合計１８個の結合部がある。信号結合行列７３０を使用して、１８個の結合部は、構造化ＴＤＮＮでは１０個の結合部まで減少する。例えば、ｃ１２＝１＝ＣＴＨは、信号Ｓ１が信号Ｓ２に影響を与える可能性があることを示す。したがって、Ｈ１２は信号Ｓ２に対する情報を収集するために使用されるため、Ｓ１０及びＳ１１からＨ１２への結合部は重要である。一方、ｃ１３＝０＜ＣＴＨは、Ｓ１０及びＳ１１からＨ１３への結合部が重要ではなく、したがって、ニューラルネットワークから除去することができることを示す。
【００５８】
図８（Ａ）及び図８（Ｂ）は、全結合オートエンコーダーニューラルネットワークと、いくつかの実施形態によって構築された構造化オートエンコーダーニューラルネットワークとの間の実験結果比較を示す。具体的には、図８（Ａ）は、全結合オートエンコーダーニューラルネットワークの実験結果を示し、図８（Ｂ）は、対応する構造化オートエンコーダーニューラルネットワーク実験結果を示す。Ｙ軸はテストエラーを表し、Ｘ軸は時間インデックスを表し、時間インデックスは、時間インデックスの値がデータ測定の時点に一意に対応するように、データ収集時間時点を整数インデックスに変換する。データは、一組のラベルなしトレーニングデータ及び一組のテストデータ、すなわち動作時間データとともに、現実の製造生産ラインから収集される。テストデータ収集中、生産ラインにおいて異常が発生した。異常検出方法は、テストデータが異常であるか否かを検出する必要がある。異常である場合、異常発生時点を検出する必要がある。
【００５９】
テストエラー閾値８１０＝０．０１８の場合、図８（Ａ）は、全結合オートエンコーダーニューラルネットワークが２つの異常を検出し、一方はテストエラー８２０に対応する異常であり、他方はテストエラー８３０に対応することを示す。テストエラー８２０に対応する異常はフォールスアラームであり、テストエラー８３０に対応する異常は真の異常である。一方、構造化オートエンコーダーニューラルネットワークは、テストエラー８４０に対応する真の異常のみを検出した。したがって、構造化オートエンコーダーニューラルネットワークの方が、全結合オートエンコーダーニューラルネットワークより正確である。図８（Ａ）及び図８（Ｂ）はまた、両方法によって検出された真の異常の異常時間インデックスが同じであることも示し、これは、実際の異常発生時点より２秒後の時点に対応する。
【００６０】
例示的な実施形態
図９は、いくつかの実施形態による、複数のイベントをもたらす複数の信号源を含むシステムを制御する装置９００のブロック図を示す。システムの一例は製造生産ラインである。装置９００は、記憶された命令を実行するように構成されたプロセッサ９２０とともに、プロセッサによって実行可能である命令を記憶するメモリ９４０を備える。プロセッサ９２０は、シングルコアプロセッサ、マルチコアプロセッサ、コンピューティングクラスター、又は任意の数の他の構成とすることができる。メモリ９４０としては、ランダムアクセスメモリ（ＲＡＭ）、リードオンリーメモリ（ＲＯＭ）、フラッシュメモリ、又は他の任意の好適なメモリシステムを挙げることができる。プロセッサ９２０は、バス９０６を介して１つ以上の入出力デバイスに接続されている。
【００６１】
これらの命令は、システムの複数のイベントにおいて異常を検出及び／又は診断する方法を実施する。装置９００は、ニューラルネットワーク９３１を使用してオブジェクト異常を検出するように構成されている。こうしたニューラルネットワークは本明細書では、構築された部分結合ニューラルネットワークと呼ぶ。ニューラルネットワーク９３１は、システムの制御状態を診断するようにトレーニングされる。例えば、ニューラルネットワーク９３１は、トレーナー９３３により、システムの動作データ９３４を使用してオンラインで異常を診断するように、トレーニングデータを使用してオフラインでトレーニングすることができる。動作データの例としては、システムの動作中、例えばシステムのイベント中に収集された信号源からの信号が挙げられる。トレーニングデータの例としては、或る期間にわたって収集された、信号源からの信号が挙げられる。その期間は、動作／生産が開始する前、及び／又はシステムの動作中の或る時間間隔とすることができる。
【００６２】
いくつかの実施形態は、ニューラルネットワークが、人工ニューロン又は単にニューロンと呼ばれる結合されたユニット又はノードの集まりに基づくという認識に基づく。人工ニューロンの間の各結合部は、互いに信号を送信することができる。信号を受信する人工ニューロンは、信号を処理し、その処理済み信号をその人工ニューロンに結合されている他の人工ニューロンに送信することができる。このように、別のニューロンから信号を受信するニューロンに対して、送信側ニューロンはその信号の信号源である。
【００６３】
そのために、いくつかの実施形態は、ニューラルネットワークの少なくともいくつかの層の各ニューロンを、製造システムにおける信号源と一致させることができるという認識に基づく。このため、製造システムにおける信号源は、ニューラルネットワークの１つの層におけるニューロンによって表される。このように、ニューラルネットワークにおけるニューロンの数は、製造システムの物理的構造を表すために最小限必要であるように選択することができる。
【００６４】
さらに、いくつかの実施形態は、ニューラルネットワークが、単純なユニットの相互結合ネットワークの創発的プロセスとして心的現象又は行動現象を表すように試みるコネクショニストシステムである、という認識に基づく。このように、ニューラルネットワークの構造は、ニューラルネットワークの各レベルにおける複数のニューロンだけでなく、それらのニューロンの間の結合部としても表すことができる。
【００６５】
いくつかの実施形態は、ニューラルネットワークのニューロンが、製造システムにおける信号源を表す場合、ニューラルネットワークのニューロンの間の結合部が、製造システムにおける信号源の間の結合部を表すことができる、という認識に基づく。具体的には、ニューロンは、対応する信号源が結合される場合にのみ、結合することができる。
【００６６】
いくつかの実施形態は、異常検出の目的で２つの異なる信号源の間の結合部が、これらの２つの異なる信号源によって生じたイベントが後に発生する頻度の関数である、という認識に基づく。例えば、信号源は、オン状態からオフ状態にその状態を変化させることができるスイッチであるとすると仮定する。状態の変化及び／又は状態の新たな値は、信号源の信号である。第１のスイッチが状態を変化させると、第２のスイッチがその状態を常に変化させる場合、それらの２つの信号源は、強く結合されており、したがって、ニューラルネットワークにおけるこのスイッチの対に対応するニューロンも同様に結合されている。逆に、第１のスイッチが状態を変化させると、第２のスイッチがその状態を決して変化させない場合、それらの２つの信号源は結合されておらず、したがって、ニューラルネットワークにおけるこのスイッチの対に対応するニューロンは同様に結合されていない。
【００６７】
実際には、常に次に続くイベント又は決して次に続かないイベントはめったに発生しない。そのために、いくつかの実施形態では、或る異なる信号源の対は、その異なる信号源の対におけるイベントが後に発生する確率が閾値を超えるときにのみ、ニューラルネットワークにおいて結合されている。閾値は、応用によって決まり、イベントが後に発生する確率は、例えば、ニューラルネットワークをトレーニングするために使用される、トレーニングデータにおけるこのように後に発生する頻度に基づいて、選択することができる。
【００６８】
このように、ニューロンの結合部は、製造システム内の結合性を模倣するコネクショニストシステムを表す。そのために、いくつかの実施形態のニューラルネットワークは、イベント順序付け関係に基づくトポロジーを有する部分結合ネットワークになり、それにより、ニューラルネットワークの複雑度が低減するとともにトレーニング時間が短縮され、異常検出精度が向上する。
【００６９】
ニューラルネットワーク９３１は一連の層を含み、各層は、本明細書ではニューロンとも呼ぶ一組のノードを含む。少なくとも入力層及び入力層に続く第１の隠れ層の各ノードは、システムにおける信号源に対応する。ニューラルネットワーク９３１において、一対の異なる信号源に対応する隣接する層からの一対のノードは、ニューラルネットワークにおいて、その一対の異なる信号源におけるイベントが後に発生する確率が閾値を上回る場合にのみ結合される。複数の実施態様において、ニューラルネットワーク９３１は、部分結合ニューラルネットワークである。
【００７０】
そのために、装置９００は、ニューラルネットワーク９３１、及び／又は被制御システムにおけるイベントのシーケンスを表すニューロン及びそれらの結合性の構造を含む、ニューラルネットワークの構造９３２を記憶するように適合した、記憶デバイス９３０も備えることができる。さらに、記憶デバイス９３０は、ニューラルネットワーク９３１をトレーニングするトレーナー９３３と、被制御システムにおいて異常を検出するためのデータ９３４とを記憶することができる。記憶デバイス９３０は、ハードドライブ、光ドライブ、サムドライブ、ドライブのアレイ、又はそれらの任意の組合せを使用して実装することができる。
【００７１】
装置９００は、被制御システムの信号源から信号を受信する入力インターフェースを備える。例えば、いくつかの実施態様では、入力インターフェースは、プロセッサ９２０をキーボード９１１及びポインティングデバイス９１２に接続する、装置９００内のヒューマンマシンインターフェース９１０を含み、ここで、ポインティングデバイス９１２としては、特に、マウス、トラックボール、タッチパッド、ジョイスティック、ポインティングスティック、スタイラス又はタッチスクリーンを挙げることができる。
【００７２】
さらに又は代替的に、入力インターフェースは、バス９０６を介して装置９００をネットワーク９９０に接続するように適合したネットワークインターフェースコントローラー９５０を含むことができる。ネットワーク９９０を介して、被制御システムからの信号９９５をダウンロードして、記憶及び／又は更なる処理のために、トレーニングデータ及び／又は動作データ９３４として記憶システム９３０内に記憶することができる。ネットワーク９９０は、診断のために有用な信号及び信号のメタデータを提供するために、装置９００を被制御システムの信号源に又は被制御システムのインターフェースに接続する、有線ネットワーク又はワイヤレスネットワークとすることができる。
【００７３】
装置９００は、システムの制御状態に従って選択された制御動作を実行するコントローラーを備える。制御動作は、被制御システムのタイプに基づいて、構成及び／又は選択することができる。例えば、コントローラーは、診断の結果を描画することができる。例えば、装置９００は、バス９０６を介して、装置９００をディスプレイデバイス９６５に接続するように適合したディスプレイインターフェース９６０に連結することができ、ディスプレイデバイス９６５としては、特に、コンピューターモニター、カメラ、テレビ、プロジェクター又はモバイルデバイスを挙げることができる。
【００７４】
さらに又は代替的に、コントローラーは、診断の結果に基づいて、システムを直接又は間接的に制御するように構成することができる。例えば、装置９００は、１つの実施形態に従って装置を被制御システム９７５に接続するように適合したシステムインターフェース９７０に接続することができる。１つの実施形態では、コントローラーは、異常の検出に応じて被制御製造システムの製造手続きを停止させるか又は変更するコマンドを実行する。
【００７５】
さらに又は代替的に、コントローラーは、診断の結果に基づいて異なるアプリケーションを制御するように構成することができる。例えば、コントローラーは、製造工程に直接関与しないアプリケーションに診断の結果を提示することができる。例えば、いくつかの実施形態では、装置９００は、異常検出の結果に基づいて動作することができるアプリケーションデバイス９８５に装置９００を接続するように適合したアプリケーションインターフェース９８０に、バス９０６を介して接続される。
【００７６】
いくつかの実施形態では、被制御システムの構造に基づいて、ニューロンの構造９３２が選択される。例えば、１つの実施形態では、ニューラルネットワーク９３１において、入力層におけるノードの数は、システムにおける信号源の数の倍数に等しい。例えば、倍数が１に等しい場合、入力層におけるノードの数は、システムにおける信号源の数に等しい。このように、各ノードを信号源に一致させることができる。しかしながら、いくつかの実施態様では、複数のノードを共通の信号源に関連付けることができるように、倍数は１より大きい。それらの実施態様では、ニューラルネットワークは時間遅延ニューラルネットワーク（ＴＤＮＮ）であり、入力層におけるノードの数に対する倍数は、ＴＤＮＮの遅延における時間ステップの数に等しい。
【００７７】
さらに、隠れ層におけるノードの数もまた、信号源の数に基づいて選択することができる。例えば、１つの実施形態では、入力層に続く第１の隠れ層におけるノードの数は、信号源の数に等しい。この実施形態はまた、被制御システムの物理的構造を表すように入力層に物理的意味も与える。さらに、この実施形態により、ニューラルネットワークにおける第１の最も重要な結合部の階層、すなわち、入力層と第１の隠れ層との間の結合部が、ノードによって表される、システムにおけるイベント間の結合性を表すことができる。具体的には、入力層は、異なる信号源におけるイベントが後に発生する確率に基づいて、第１の隠れ層に部分的に結合される。
【００７８】
様々な実施形態において、一対の異なる信号源におけるイベントが後に発生する確率は、或る期間にわたって収集された信号におけるイベントが後に発生する頻度の関数である。例えば、いくつかの実施態様では、一対の異なる信号源におけるイベントの後の発生は、システムにおける全てのイベントの時系列におけるイベントの連続した発生である。代替実施態様では、後の発生により、所定数の介在するイベントを可能にすることができる。この実施態様により、ニューラルネットワークの構造に柔軟性が追加され、ニューラルネットワークが、異常検出の異なる要件に適合可能となる。
【００７９】
図１０Ａは、１つの実施形態による、ニューラルネットワーク９３１をトレーニングするためにニューラルネットワークトレーナー９３３によって使用される方法のブロック図を示す。この実施形態では、ニューラルネットワークの構造９３２は、イベントが後に発生する確率から決定され、その確率は、イベントが後に発生する頻度の関数である。そのために、本実施形態は、或る期間にわたって収集された、信号源からの信号１００５を評価して、信号源の対の異なる組合せに対して、その期間内のイベントが後に発生する頻度１０１５を求める（１０１０）。例えば、本実施形態は、図４Ａ、図４Ｂ、図５Ａ及び図５Ｂ並びにそれらの対応する説明に示すように頻度を求める。
【００８０】
次に、本実施形態は、その期間内のイベントが後に発生する頻度に基づき、信号源の対の異なる組合せに対して、イベントが後に発生する確率１０２５を求める（１０２０）。本実施形態は、頻度の様々な統計的分析を使用して、確率１０２５を導出することができる。例えば、いくつかの実施態様は、式（２）を使用して、一対の信号に対するイベントが後に発生する確率を求める。
【００８１】
この実施形態は、複雑な製造システムが、異なる固有の頻度で異なるタイプのイベントを有する可能性があるという認識に基づく。例えば、システムは、正常動作下で、第１のイベントが第２のイベントより１０倍の頻度であるように設計される場合がある。したがって、第２のイベントが、第１のイベントの後に１０回中１回のみ現れるという事実は、それ自体により、第１のイベントに対する第２のイベントの依存性の強度を示さない。統計的方法は、後に発生する確率１０２５を求める際にイベントの自然頻度を考慮することができる。この場合、後に発生する確率は、最大で０．１である。
【００８２】
確率が求められた後、本実施形態は、信号源の対の異なる組合せに対して確率１０２５イベントの後の発生を閾値１０１１と比較して、ニューラルネットワークの結合性構造１０３５を求める（１０３０）。この実施形態により、単一の閾値１０１１を使用することができ、これにより、実施形態の実施が簡略化する。結合性構造の例は、図６Ａの結合性行列６００及び図６Ｂの結合性行列６１０である。
【００８３】
図１０Ｂは、代替実施形態による、ニューラルネットワーク９３１をトレーニングするために、ニューラルネットワークトレーナー９３３によって使用される方法のブロック図を示す。この実施形態では、ニューラルネットワークの結合性構造１０３５は、後に発生する頻度１０１５から直接求められる。本実施形態は、信号源の対の異なる組合せに対するイベントが後に発生する頻度１０１５を１つ又はいくつかの閾値１０１２と比較して（１０３１）、ニューラルネットワークの結合性構造１０３５を求める。この実施形態は、図１０Ａの実施形態より決定論的である。
【００８４】
ニューラルネットワークの結合性構造１０３５が求められた後、図１０Ａ及び図１０Ｂの実施形態は、ニューラルネットワークの構造１０３５に従ってニューラルネットワーク１０４５を形成する（１０４０）。例えば、ニューラルネットワークは、入力層、出力層、及び複数の隠れ層を含む。ニューラルネットワークの入力層におけるノードの数は、システムにおける信号源の数の第１の倍数に等しく、入力層に続く第１の隠れ層におけるノードの数は、信号源の数の第２の倍数に等しい、第１の倍数及び第２の倍数は、同じである場合もあれば異なる場合もある。さらに、入力層は、結合性構造に従って、第１の隠れ層に部分的に結合される。
【００８５】
次に、本実施形態は、上記期間にわたって収集された信号１０５５を使用してニューラルネットワーク１０４５をトレーニングする（１０５０）。信号１０５５は、信号１００５と同じである場合もあれば異なる場合もある。トレーニング１０５０は、ニューラルネットワーク１０４５のパラメーターを最適化する。トレーニングは、確率的勾配降下法等の異なる方法を使用して、ネットワークの重みを最適化することができる。
【００８６】
本発明の上記の実施形態は数多くの方法のいずれかにおいて実現することができる。例えば、それらの実施形態は、ハードウェア、ソフトウェア又はその組合せを用いて実現することができる。ソフトウェアにおいて実現されるとき、そのソフトウェアコードは、単一のコンピューター内に設けられるにしても、複数のコンピューター間に分散されるにしても、任意の適切なプロセッサ、又はプロセッサの集合体において実行することができる。そのようなプロセッサは集積回路として実現することができ、集積回路コンポーネント内に１つ以上のプロセッサが含まれる。プロセッサは、任意の適切な構成の回路を用いて実現することができる。
【００８７】
また、本発明の実施形態は方法として具現することができ、その一例が提供されてきた。その方法の一部として実行される動作は、任意の適切な方法において順序化することができる。したがって、例示的な実施形態において順次の動作として示される場合であっても、例示されるのとは異なる順序において動作が実行される実施形態を構成することもでき、異なる順序は、いくつかの動作を同時に実行することを含むことができる。
【００８８】
請求項要素を変更するために特許請求の範囲において「第１の」、「第２の」のような序数の用語を使用することは、それだけで、或る請求項要素が別の請求項要素よりも優先度が高いこと、優位であること、若しくは上位にあることを、又は方法の動作が実行される時間的な順序を暗示するのではなく、請求項要素を区別するために、或る特定の名称を有する１つの請求項要素を（序数用語を使用しなければ）同じ名称を有する別の要素から区別するラベルとして単に使用される。
【図１】
2021509995.tif 000030
【図２】
2021509995.tif 000031
【図３】
2021509995.tif 000032
【図４Ａ】
2021509995.tif 000033
【図４Ｂ】
2021509995.tif 000034
【図５Ａ】
2021509995.tif 000035
【図５Ｂ】
2021509995.tif 000036
【図６Ａ】
2021509995.tif 000037
【図６Ｂ】
2021509995.tif 000038
【図７】
2021509995.tif 000039
【図８】
2021509995.tif 000040
【図９】
2021509995.tif 000041
【図１０Ａ】
2021509995.tif 000042
【図１０Ｂ】
2021509995.tif 000043
【手続補正書】
【提出日】令和2年7月1日(2020.7.1)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
複数のイベントをもたらす複数の信号源を備えるシステムを制御する装置であって、
前記信号源から信号を受信する入力インターフェースと、
前記システムの制御状態を診断するようにトレーニングされたニューラルネットワークを記憶するメモリであって、該ニューラルネットワークは一連の層を含み、各層は一組のノードを含み、入力層と該入力層に続く第１の隠れ層との各ノードは前記システムにおける信号源に対応し、一対の異なる信号源に対応する隣接する層からの一対のノードは、前記ニューラルネットワークにおいて、該一対の異なる信号源における前記イベントが後に発生する確率が閾値を上回る場合にのみ、結合され、前記ニューラルネットワークは部分結合ニューラルネットワークである、メモリと、
前記システムの前記制御状態を生成するように前記ニューラルネットワーク内に前記信号を提示するプロセッサと、
前記システムの前記制御状態に従って選択された制御動作を実行するコントローラーと、
を備え、
前記入力層におけるノードの数は、前記システムにおける前記信号源の数の倍数に等しく、前記入力層に続く前記第１の隠れ層におけるノードの数は、前記信号源の前記数に等しく、前記入力層は、異なる信号源における前記イベントが後に発生する確率に基づいて、前記第１の隠れ層に部分的に結合され、
信号Ｓｊのイベントが信号Ｓｉのイベントに続くことが後に発生する前記確率は、
【数１】
2021509995.tif 000044
と定義することができ、式中、Ｍは信号の数であり、ｃｉｊは、信号Ｓｊのイベントが信号Ｓｉのイベントに続く回数である、装置。
【請求項２】
前記ニューラルネットワークは時間遅延ニューラルネットワーク（ＴＤＮＮ）であり、前記入力層におけるノードの前記数に対する前記倍数は、前記ＴＤＮＮの遅延の時間ステップの数に等しい、請求項１に記載の装置。
【請求項３】
前記ＴＤＮＮは、教師あり学習に基づいてトレーニングされた時間遅延フィードフォワードニューラルネットワーク、又は、教師なし学習に基づいてトレーニングされた時間遅延オートエンコーダーニューラルネットワークである、請求項２に記載の装置。
【請求項４】
前記一対の異なる信号源における前記イベントが後に発生する前記確率は、或る期間にわたって収集された信号におけるイベントが後に発生する頻度の関数である、請求項１に記載の装置。
【請求項５】
或る期間にわたって収集された、前記信号源からの前記信号を評価して、信号源の対の異なる組合せに対する前記期間内のイベントが後に発生する頻度を求め、
前記期間内のイベントが後に発生する前記頻度に基づき、前記信号源の対の異なる組合せに対してイベントが後に発生する確率を求め、
信号源の対の異なる組合せに対するイベントが後に発生する前記確率を前記閾値と比較して、前記ニューラルネットワークの結合性構造を求め、
前記入力層におけるノードの数が前記システムにおける前記信号源の数の第１の倍数に等しく、前記入力層に続く前記第１の隠れ層におけるノードの数が前記信号源の前記数の第２の倍数に等しく、前記入力層が前記結合性構造に従って前記第１の隠れ層に部分的に結合されるように、前記ニューラルネットワークの前記結合性構造に従って該ニューラルネットワークを形成し、
前記期間にわたって収集された前記信号を使用して前記ニューラルネットワークをトレーニングする、
ように構成されたニューラルネットワークトレーナーを更に備える、請求項１に記載の装置。
【請求項６】
或る期間にわたって収集された、前記信号源からの信号を評価して、信号源の対の異なる組合せに対する前記期間内のイベントが後に発生する頻度を求め、
信号源の対の異なる組合せに対する前記イベントが後に発生する前記頻度を前記閾値と比較して、前記ニューラルネットワークの結合性構造を求め、
前記入力層におけるノードの数が前記システムにおける前記信号源の数の第１の倍数に等しく、前記入力層に続く前記第１の隠れ層におけるノードの数が前記信号源の前記数の第２の倍数に等しく、前記入力層が前記結合性構造に従って前記第１の隠れ層に部分的に結合されるように、前記ニューラルネットワークの前記結合性構造に従って該ニューラルネットワークを形成し、
前記期間にわたって収集された前記信号を使用して前記ニューラルネットワークをトレーニングする、
ように構成されたニューラルネットワークトレーナーを更に備える、請求項１に記載の装置。
【請求項７】
前記ニューラルネットワークトレーナーは、前記イベントが後に発生する前記頻度を表す信号結合行列を形成する、請求項６に記載の装置。
【請求項８】
前記システムは、プロセス型製造及びディスクリート型製造のうちの一方又はそれらの組合せを含む製造生産ラインである、請求項１に記載の装置。
【請求項９】
前記一対の異なる信号源における前記イベントの後の発生は、前記システムの全てのイベントの時系列におけるイベントの連続した発生である、請求項１に記載の装置。
【請求項１０】
複数のイベントをもたらす複数の信号源を備えるシステムを制御する方法であって、該方法は、前記システムの制御状態を診断するようにトレーニングされたニューラルネットワークを記憶するメモリに結合されたプロセッサを使用し、該プロセッサは、該方法を実施する記憶された命令に結合され、該命令は、前記プロセッサによって実行されると該方法のステップを実行し、該方法は、
前記信号源から信号を受信することと、
前記システムの前記制御状態を生成するように前記メモリから引き出された前記ニューラルネットワーク内に前記信号を提示することであって、前記ニューラルネットワークは一連の層を含み、各層は一組のノードを含み、入力層と該入力層に続く第１の隠れ層との各ノードは前記システムにおける信号源に対応し、一対の異なる信号源に対応する隣接する層からの一対のノードは、前記ニューラルネットワークにおいて、該一対の異なる信号源における前記イベントが後に発生する確率が閾値を上回る場合にのみ、結合される、提示することと、
前記システムの前記制御状態に従って選択された制御動作を実行することと、
を含み、
前記一対の異なる信号源における前記イベントが後に発生する前記確率は、或る期間にわたって収集された信号におけるイベントが後に発生する頻度の関数である、方法。
【請求項１１】
前記入力層におけるノードの数は、前記システムにおける前記信号源の数の倍数に等しく、前記入力層に続く前記第１の隠れ層におけるノードの数は、前記信号源の前記数に等しく、前記入力層は、異なる信号源における前記イベントが後に発生する確率に基づいて、前記第１の隠れ層に部分的に結合される、請求項１０に記載の方法。
【請求項１２】
前記ニューラルネットワークは時間遅延ニューラルネットワーク（ＴＤＮＮ）であり、前記入力層におけるノードの前記数に対する前記倍数は、前記ＴＤＮＮの遅延の時間ステップの数に等しく、前記ＴＤＮＮは、教師あり学習に基づいてトレーニングされた時間遅延フィードフォワードニューラルネットワーク、又は、教師なし学習に基づいてトレーニングされた時間遅延オートエンコーダーニューラルネットワークである、請求項１１に記載の方法。
【請求項１３】
前記一対の異なる信号源における前記イベントの後の発生は、前記システムにおける前記イベントの時系列におけるイベントの連続した発生である、請求項１０に記載の方法。
【請求項１４】
複数のイベントをもたらす複数の信号源を備えるシステムを制御する方法を実行するプロセッサによって実行可能なプログラムが具現化されている非一時的コンピューター可読媒体であって、前記方法は、
前記信号源から信号を受信することと、
前記システムの制御状態を診断して該システムの該制御状態を生成するようにトレーニングされたニューラルネットワーク内に、前記信号を提示することであって、前記ニューラルネットワークは一連の層を含み、各層は一組のノードを含み、入力層と該入力層に続く第１の隠れ層との各ノードは前記システムにおける信号源に対応し、一対の異なる信号源に対応する隣接する層からの一対のノードは、前記ニューラルネットワークにおいて、該一対の異なる信号源における前記イベントが後に発生する確率が閾値を上回る場合にのみ、結合される、提示することと、
前記システムの前記制御状態に従って選択された制御動作を実行することと、
を含み、
前記一対の異なる信号源における前記イベントの後の発生は、前記システムの前記イベントの時系列におけるイベントの連続した発生である、媒体。
【請求項１５】
前記ニューラルネットワークは時間遅延ニューラルネットワーク（ＴＤＮＮ）であり、前記入力層におけるノードの数は、前記システムにおける前記信号源の数の倍数に等しく、前記倍数は、前記ＴＤＮＮの遅延の時間ステップの数に等しく、前記ＴＤＮＮは、教師あり学習に基づいてトレーニングされた時間遅延フィードフォワードニューラルネットワーク、又は、教師なし学習に基づいてトレーニングされた時間遅延オートエンコーダーニューラルネットワークである、請求項１４に記載の媒体。
【請求項１６】
前記一対の異なる信号源における前記イベントが後に発生する前記確率は、期間にわたって収集された信号におけるイベントが後に発生する頻度の関数である、請求項１４に記載の媒体。
【国際調査報告】
2021509995.tif 000045
2021509995.tif 000046
2021509995.tif 000047