(57)【特許請求の範囲】
【請求項１】
一連のデータ入力中の傾向を検出するための物理学をベースにしたニューラルネットワーク（ＰＢＮＮ）であって、該ＰＢＮＮは：
ニューラルフィルターであって、該ニューラルフィルターが、
前記一連のデータ入力を受け取って複数の平均された出力を出力する複数のノードと、
前記複数の平均された出力のひとつと前記一連のデータ入力とを受け取って少なくともひとつの標準偏差出力を発生する少なくともひとつの標準偏差ノードと、を有し、
前記平均出力の少なくともひとつが遅延平均出力であり、かつ前記標準偏差出力の少なくともひとつが遅延標準偏差出力であるところのニューラルフィルターを有してなり；
ニューラル検出装置であって、該ニューラル検出装置が、
前記複数の平均された出力と前記遅延平均出力とを受け取ってニューラル検出装置出力を出力する複数のニューラル検出ノードと、
前記複数の平均された出力を受け取ってニューラルレベル変化推定出力を出力するニューラルレベル変化ノードと、
計数器入力と、前記遅延標準偏差出力と、前記ニューラルレベル変化推定出力とを受け取ってニューラル評価出力を出力するニューラル信頼性ノードとを有するニューラル検出装置を有してなり；
ヒューリスティック検出装置であって、該ヒューリスティック検出装置が、
前記平均された入力と、前記遅延平均入力と、前記一連のデータ入力と、前記遅延標準偏差出力とを受け取って信頼性レベル出力を出力する複数の検出ノードを有し、
前記一連のデータ入力中の事象を判定するために前記ニューラル評価出力および記信頼性レベル出力が組み合わされるヒューリスティック検出装置を有してなる、ＰＢＮＮ。
【請求項２】
前記平均された出力は低周波フィルター、高周波フィルター、および中間周波フィルターを有する、請求項１記載のＰＢＮＮ。
【請求項３】
前記ヒューリスティック検出装置はさらに所定の信頼性レベルを有する、請求項１記載のＰＢＮＮ。
【請求項４】
前記複数のノードの少なくともひとつは、連続した範囲の移動平均を与える伝達関数を有する、請求項１記載のＰＢＮＮ。
【請求項５】
前記複数のノードの少なくともひとつは、不連続な範囲の移動平均を与える伝達関数を有する、請求項１記載のＰＢＮＮ。
【請求項６】
前記複数のノードの少なくともひとつは、連続した範囲の、より高次の統計的平均を与える伝達関数を有する、請求項１記載のＰＢＮＮ。
【請求項７】
前記複数のノードの少なくともひとつは、連続した範囲の、より高次の関数平均を与える伝達関数を有する、請求項１記載のＰＢＮＮ。
【請求項８】
前記複数のノードの少なくともひとつは、不連続な範囲の、より高次の統計的平均を与える伝達関数を有する、請求項１記載のＰＢＮＮ。
【請求項９】
前記複数のノードの少なくともひとつは、不連続な範囲の、より高次の関数平均を与える伝達関数を有する、請求項１記載のＰＢＮＮ。
【請求項１０】
前記複数のノードの少なくともひとつは、ベースラインパラメーターと、第一の入力重み付けおよび第二の入力重み付けと、誤差項が加算された前記一連のデータ入力の少なくともひとつとを受け取る手段を有する、請求項１記載のＰＢＮＮ。
【請求項１１】
前記複数のノードの少なくともひとつは、前記誤差項を相殺できるバイアスを有する、請求項１０記載のＰＢＮＮ。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は入ってくるデータの流れのなかの傾向および事象を検出するように構成された物理学をベースにしたニューラルネットワーク（ＰＢＮＮ）に関する。より具体的には、本発明は、ノイズを含むデータの流れのなかの重大な変化を検出するためのものであり、その際検出がデータの流れのベースラインにおける変化に影響されないような、ＰＢＮＮに関する。
【背景技術】
【０００２】
ニューラルネットワークはニューロンとも呼ばれる同一の処理要素の多層にわたる階層的な配列である。各ニューロンはひとつまたはそれ以上の入力を有することができるが出力はひとつだけである。各ニューロン入力は係数によって重み付けされる。ニューロンの出力は通常、重み付けされた入力の合計とバイアス値との関数である。この関数は活性化関数と呼ばれ、また時には伝達関数とも呼ばれるが、多くの場合シグモイド関数である。すなわち活性化関数はその入力（単数または複数）がそれぞれ正および負の無限大に近づくにつれて単調に、漸近的に一定値に近づくＳ字状であってよい。シグモイド関数と個々のニューラル重み付けおよびバイアス値が入力信号に対するニューロンの応答を決定する。
【０００３】
ニューロンの階層的配列において、ひとつの層のニューロンの出力は次の層のひとつまたはそれ以上のニューロンの入力として分配されてよい。通常のニューラルネットワークは入力層および別個の二つの（２個の）層を含んでよい。すなわち入力層、中間ニューロン層、および出力ニューロン層である。入力層のノードはニューロンではない。むしろ、入力層のノードはただひとつの入力を有し、基本的に入力を無処理のまま次の層の入力に供給する。
【０００４】
ニューラルネットワークの使用法はしばしば二つの（２個の）連続する段階を含む。最初にネットワークは既知の出力値（または分類）を有する既知の入力についてトレーニングされる。トレーニング入力がニューラルネットワークに供給されると、各々の個別のトレーニングパターンのニューラルネットワーク出力が既知の出力に近づくか、または一致するように、ニューロンの重み付けおよびバイアスの値が調整される（例えば逆伝播技術）。このようにして重み付けおよびバイアスが局所的な最適解または最小誤差に向かって収斂する。実用上は、システムは最適解に収斂する点にまでトレーニングされることはない、なぜならそれには全てのデータが必要だからである。そうするとシステムは「トレーニングし過ぎ」になり、トレーニングデータに専門化し過ぎて、トレーニングセットの入力とは異なる入力を分類するのが苦手になるであろう。
【０００５】
ひとたびニューラルネットワークがトレーニングされると、ニューラルネットワークはトレーニングの過程で決定された重み付けおよびバイアスに従って未知の入力を分類するのに用いられることができる。もしニューラルネットワークが自信を持って未知の入力を分類することができれば、出力層のニューロンの出力のひとつが他のものよりもはるかに高くなるであろう。
【０００６】
重み付けおよびバイアス項が拡散しないことを保証するためにアルゴリズムは小さな段階を用いる。したがって収斂は遅い。また隠れ層のニューロンの数を先験的に決めることは容易にはできない。したがって最適な隠れニューロンの数を決定するためにしばしば時間を要する実験が何度も行われる。
【０００７】
ニューラルネットワークに関連する代替はベイジアンネットワークである。ベイジアンネットワークはデータ（例えば入力の特徴ベクトル）と予測（例えば分類）との間の中間段階として仮定を用いる。各々の仮定の確率はデータが与えられれば推定される。予測は仮定から、仮定の条件付き（事後）確率を用いてなされ、各仮定の個別の予測が重み付けされる。ベイジアンネットワークは変数と、変数の間の有向エッジを含み、これによって有向非循環グラフ（すなわち「ＤＡＧ」）を定義する。各変数は有限な数の互いに排他的な状態のいずれかを取ることができる。
【０００８】
ベイジアンネットワークの構造が既知であり、変数が観測可能であると仮定すれば、学習されなければならないのは一組（セット）の条件付き確率表のみである。この表は一組（セット）の学習例から統計学を用いて直接に推測可能である。もし構造は既知であるが変数が隠されているならば、ベイジアンネットワークはニューラルネットワークと同様にトレーニングされる。先行知識を用いることによって学習プロセスを短縮できる。
【０００９】
サポートベクトルマシン（すなわち「ＳＶＭ」）はもうひとつの形式のトレーニング可能な分類装置である。報告によればＳＶＭはテキスト分類などの一部の応用例では純粋なベイジアンネットワークよりも分類が正確である。また報告によればＳＶＭは手書き文字の読み取りなどの一部の応用例においてニューラルネットワークよりも正確である。しかし残念ながら、報告によればＳＶＭは純粋なベイジアン分類装置よりもトレーニングに時間がかかる。
【００１０】
分類されるべき対象はいくつかの特徴で表されてよい。例えばもし分類されるべき対象が二つの特徴で表されれば、それは二次元空間中の点で表されてよい。同様に、もし分類されるべき対象が「特徴ベクトル」とも呼ばれるｎ個の特徴で表されるならば、その対象はｎ次元空間中の点で表されてよい。最も単純な形式のＳＶＭはｎ次元空間中の平面（ハイパープレーンとも呼ばれる）を画定し、これは「クラス内の」対象に属する特徴ベクトル点と「クラス外の」対象に属する特徴ベクトル点とを分離する。いくつかのハイパープレーンを画定することによっていくつかのクラスが画定される。トレーニングされたＳＶＭによって画定されたハイパープレーンは自身から最近接の「クラス内の」および「クラス外の」点までの距離（ユークリディアン距離とも呼ばれる）を最大にする。最大の分離は重なりおよび曖昧さを低減する。したがって距離「ｄ」を最大にするハイパープレーンで画定されたＳＶＭは、入力ノイズに対して強いことが期待される。
【００１１】
従来の傾向検出は、なんらかの変化が起こったかどうかを判定するために、専門家または技術者がデータをグラフ上にプロットして分析することを要求する。しかしデータの分散のなかで移動を見つけることは困難である。データのスムージングは移動の前後のレベルを見るのを容易にするが、移動の過程でのデータの塊状度が失われ、検出の時間が遅くなる。
【００１２】
ニューラルネットワークを傾向検出の問題に適用することは困難であることがわかった。最良の場合の筋書きでは、工学的判断が用いられ、ニューラルネットワークをトレーニングまたは適用する前にデータが予備調整される。ニューラルネットワークを不連続の前後に適用することはできるが、全範囲のデータに対してはニューラルネットワークはしばしば不安定である。
【００１３】
したがって出力の塊状度の損失に影響されず、ベースライン入力レベルの変化に適応できるような、傾向検出のための装置が求められている。
【発明の開示】
【発明が解決しようとする課題】
【００１４】
したがって本発明の目的は、ノイズを含むデータの流れのなかの重大な変化を検出するためのものであり、その際検出がデータの流れのベースラインにおける変化に影響されないような、ＰＢＮＮを提供することである。
【課題を解決するための手段】
【００１５】
本発明によれば、一連のデータ入力中の傾向を検出するための物理学をベースにしたニューラルネットワーク（ＰＢＮＮ）は、ニューラルフィルターであり、このニューラルフィルターが一連のデータ入力を受け取って複数の平均された出力を出力する複数のノードと、複数の平均された出力のひとつと一連のデータ入力とを受け取って少なくともひとつの標準偏差出力を発生する少なくともひとつの標準偏差ノードとを有し、この際平均出力の少なくともひとつが遅延平均出力であり、標準偏差出力の少なくともひとつが遅延標準偏差出力であるところのニューラルフィルターと、ニューラル検出装置であり、このニューラル検出装置が複数の平均された出力と遅延平均出力とを受け取ってニューラル検出装置出力を出力する複数のニューラル検出ノードと、複数の平均された出力を受け取ってニューラルレベル変化推定出力を出力するニューラルレベル変化ノードと、計数器入力と遅延標準偏差出力とニューラルレベル変化推定出力とを受け取ってニューラル評価出力を出力するニューラル信頼性ノードとを有するところのニューラル検出装置と、ヒューリスティック検出装置であり、このヒューリスティック検出装置が平均された入力と遅延平均入力と一連のデータ入力と遅延標準偏差出力とを受け取って信頼性レベル出力を出力する複数の検出ノードを有し、この際一連のデータ入力中の事象を判定するためにニューラル評価出力と信頼性レベル出力とが組み合わされるところのヒューリスティック検出装置とからなる。
【発明を実施するための最良の形態】
【００１６】
本発明は入力データ中の傾向を検出するための物理学をベースにしたニューラルネットワーク（ＰＢＮＮ）に指向されたものである。以下においてより詳細に説明されるように、ＰＢＮＮは物理学の部分的な理解に基づいて、また広範な実験データを要することなく、物理システムを識別し、表現し、これに解を与えるための有効な計算機構である。したがって、ＰＢＮＮは実際のニューラルネットワークのフラクタルな性質を認識する疑似ニューラルネットワークを形成する。ここに用いられる「フラクタル」とはそれ自身の中に埋め込まれた概念をスケールアップ、またはスケールダウンするようなＰＢＮＮの性質に関する。スケールダウンとは、ドメイン知識を用いて個々のニューラル関数を合わせ込むことによってトレーニング可能な、完全に構造化されているが部分的に理解されているプロセスを作り出すプロセスである。スケールアップとは、全てのヒューリスティックなあるいは計算的なプロセスがニューラルネットワーク中で構成され、広範な実験データを要することなくトレーニングされるプロセスである。
【００１７】
ＰＢＮＮは、一組（セット）の入力と、単一の出力と、その間の伝達関数とからそれぞれなるノードのネットワークである。ひとつのＰＢＮＮノードはその伝達関数を特定し、他のＰＢＮＮノードの出力をその入力量として指定することによって定義される。ノードによる処理は入力量を収集し、伝達関数を評価し、出力を結果に設定することからなる。伝達関数は他のＰＢＮＮ（内部ノードと呼ばれる）の連結された集合体からなってもよく、また入力と出力の間に定義される任意の他の数学的関係であってもよい。
【００１８】
ＰＢＮＮネットワーク中の内部ノードは他のＰＢＮＮネットワークであってもよい。与えられた問題のためにＰＢＮＮを組み立てることは、その数学的方程式の定義されたセットを分解して、ノードの集合体にすることによって行われる。その際複雑な関数はより基本的な関数の集合体に分解され、十分に低いレベルの定義に引き下ろされる。基礎的なＰＢＮＮノードは和あるいは積、指数、および基礎的な三角関数のような簡単な数学的操作を表すのに用いられてきた。ひとつのネットワーク中のＰＢＮＮノードは完全なＰＢＮＮそのものからなってもよいから、内部伝達関数は所望に応じていくらでも複雑にできる。
【００１９】
ひとつの興味ある型の基本的なＰＢＮＮノードは「パラメーター」ノードであり、その基礎となる伝達関数は入力に拘わらず単に定数出力を設定する。これらのノードは計算におけるパラメーターを表すのに用いられる。しかしながらこれらは適応型として指定されてもよく、この場合は与えられた問題に対して調整される。
【００２０】
完全なＰＢＮＮは一セットのＰＢＮＮノードから構成され、その内部的な接続は基礎となるモデルによって定義される。ひとたび個々のノードが定義され、所望に応じて接続されたならば、ユーザは全体の計算においてどのノードが「出力」量を表すかを選択する。付加的なノードは「トレーニング」量に指定され、これらはネットワークが与えられた問題に対して調整されるにつれて修正される。最後に一セットのノードが「入力」ノードに指定され、その値は処理実行の都度外部から設定される。ＰＢＮＮネットワーク、入力ノードのセット、トレーニングノードのセット、および出力ノードのセットの集合体が完全なＰＢＮＮを形成する。
【００２１】
ＰＢＮＮネットワークは二段階に実行される。第一のトレーニング段階は既知のセットの入力と出力をＰＢＮＮネットワークに与え、結果として生じる誤差を最小にするようにトレーニングノードを調整することからなる。これはいくつかの方法で行うことができ、そのなかには従来のニューラルネットワークで用いられる各種の逆伝播アルゴリズム、共役勾配法、遺伝的アルゴリズム、およびアロペックスアルゴリズムなどが含まれるが、これらに限定されない。
【００２２】
図１を参照すると、工学的判断をインスタンス化すること、および自動化された統計的信頼性分析をＰＢＮＮ１に埋め込むことによって入力データ１１の傾向を検出するように構成されたＰＢＮＮ１が図示されている。ＰＢＮＮ１はそれ自身三つのＰＢＮＮ：すなわちニューラルフィルター３、ニューラル検出装置７、およびヒューリスティック検出装置５からなる。ニューラルフィルター３は入力データ１１を受け取り、これを処理して複数の出力を発生する。ニューラルフィルター３の出力はニューラル検出装置７およびヒューリスティック検出装置５への入力を形成する。
【００２３】
好ましい実施例においては、検出装置入力１１はＰＢＮＮ１の外部に位置する計装から得られ、実質的に均等な時間間隔で記録された一連の計測された入力からなる。好ましくは検出装置入力１１は引き続く計測された入力の間の百分率変化からなる。ＰＢＮＮ１の出力９は一連のデータ点からなり、該データ点から、急な変化が起こった時間、計装によって記録された見かけの誤差に反してこの変化が事実であったということの統計的信頼性、および検出のプロットが得られる。
【００２４】
図２を参照すると、ニューラルフィルター３の好ましい実施例が詳細に図示されている。検出装置入力１１は複数のフィルターノード２１への入力を形成する。図示された例では、それぞれ１０個、５個、および３個の入力データ点を平均することによって形成されるロー、ミディアム、およびハイパスフィルターからなる三つのフィルターノード２１が図示されている。フィルターの数、および各々のフィルターによって平均されるデータ点の数は、検出装置入力１１の性質およびボラティリティによって変化してよい。各フィルターノード２１は所定の数の入力について平均値２３を出力する。ここで留意すべきは、低周波フィルターノード２１はｎ個の入力だけ遅延された平均値２３を出力することである。標準偏差ノード２２は入力として、低周波フィルターノード２１によって出力された１０点平均値２３と、併せて最も新しいフィルター未処理入力データ点を受け取る。これらの入力から、標準偏差ノード２２の伝達関数は低周波フィルターノード２１の平均からフィルター未処理入力データ点の標準偏差２５を出力し、併せて遅延標準偏差２７を出力する。
【００２５】
結果として、四つのフィルターノード２１は検出装置入力１１の分析の塊状度を、事象以前の１０点（または他の低周波フィルターレベル）平均から、事象途中の個別の点の分析へ、また戻って事象後の１０点平均（または他の低周波フィルターレベル）へと、継ぎ目なしに変化させる。低周波フィルターによって出力された遅延平均値２３は追加的な遅延出力を提供し、これは検出装置が検出するように設計された点までのベースラインレベルとして用いられ得る。
【００２６】
平均値２３、標準偏差２５、および遅延標準偏差２７は、ニューラル検出装置７およびヒューリスティック検出装置５への入力を形成する。図３を参照すると、ニューラル検出装置７の好ましい実施例が図示されている。入力はノード３２に入力される前に設定可変の重み付け３３によって乗算される。各ノード３２は所定の伝達関数と閾値３１を有する。もしノード３２の伝達関数の結果が所定の閾値を越えるならば、重み付け３３によって重み付けされた出力は合計を行うためにノード３２へ渡される。もし合計が合計ノード３２の閾値３１を越えるならば、出力はニューラル評価ノード３６に渡され、また最後に検出された事象以降に入れられたデータ点の数を追跡し、結果をニューラル信頼性推定３７に出力するための計数器に渡される。これに加えて、ニューラル信頼性推定ノード３７は入力として遅延標準偏差２７およびニューラルレベル変化推定ノード３５の出力を受け取る。ニューラルレベル変化推定ノード３５は入力として平均値２３を受け取り、それを合計し、合計が所定の閾値Ｔ２を越えるかどうかを出力する。ニューラル信頼性推定ノード３７はその入力に伝達関数を適用して、統計的なＴ−試験と類似の、事象が起こったことの統計的信頼性を示す出力を発生し、出力をニューラル評価ノード３６に送る。ニューラル検出装置７の作動の結果は事象が起こったかどうかを示す、ニューラル評価ノード３６からの出力である。
【００２７】
このようにしてニューラル検出装置７はフィルターからの平均値を用いて事象が起こった時間を検出し、パラメーターのレベルにおける変化の大きさを推定し、変化の大きさと変化が起こったとき以降の点の数を用いて変化が助言または警告を発生するのに必要な閾値を越えたかどうかを決定するようにトレーニングされたフィルターを作り出す。ニューラル検出装置７は作動に先だってサンプルデータについてトレーニングされて、実際の傾向変化を検出するが不規則なノイズおよびノイズ中の不規則なウォーク（walks）には反応しないようになる。
【００２８】
図４を参照すると、本発明のヒューリスティック検出装置５の好ましい実施例が図示されている。ヒューリスティック検出装置５は複数のノードからなり、その出力は協働して（１）傾向の発起以前の入力データのレベルおよび入力データの標準偏差、（２）傾向の発起の時間または点、（３）ＰＢＮＮ１が良好な作動開始に成功したかどうか、すなわち新しい値が移動平均と交差しないか、（４）入力データが拡散し続けるか、それとも移動平均と収斂し始めるか、（５）データが単調に増加または減少する傾向を示すか、（６）傾向は終息しつつあるか、（７）計測されたレベルの変化、（８）レベルの変化に基づく変化の統計的信頼性レベル、（９）新しい傾向の母集団中の点の数、を判定する。
好ましい実施例においては、ヒューリスティック検出装置５は入力として平均値２３と、傾向の情報と、偏差データとを受け取り、データの極性を計算し、傾向を認識し、実際のＴ−試験を実行する。ここで留意すべきは、ヒューリスティック検出装置５は所望の信頼性レベルに等しい所定の閾レベルを有することである。
【００２９】
さらに図１を参照すると、ニューラル検出装置７の出力がヒューリスティック検出装置５の出力と組み合わされているのが分かる。結果として、工学的検出プロセス（ヒューリスティックス）を実行するように構成されたヒューリスティック検出装置５が、セカンドオピニオンとして働く、独立にトレーニングされたニューラル検出装置７と組み合わされる。両形式の検出装置とも、警報が出される以前に起動することが要求される。検出に必要な信頼性レベルは選択可能である。出力はパラメーター変化、変化の時間、変化の信頼性レベル、および変化の前後にデータをフィルター処理したプロットである。
【００３０】
上記はＰＢＮＮ１をなすニューラルフィルター３、ニューラル検出装置７、およびヒューリスティック検出装置５を詳細に説明しているが、ＰＢＮＮ１に用いられる複数の異なるノード形式のうちのいくつかについて、その好ましい実施例がここに説明される。
【００３１】
本発明のこのＰＢＮＮ１は、任意の程度の塊状度にフィルター処理し、あるいはスムージングするように、またひとつのデータ点のなかで情報の損失なしにひとつの塊状度から他の塊状度に変更することができるように、構成されることができる。所与のパラメーターについての全ての関連する過去の情報はひとつのメモリー記録に包含され、これは新しいデータを学習している間に徐々に忘れられる。命令はメモリー、傾向、フィルター処理された、および遅延されたパラメーター平均値／変動、または任意の他の統計的性質を提供するように変更可能である。
【００３２】
前述のように、通常は工学的判断が用いられ、入力データはトレーニングの前に、または入力データの流れを処理するために標準のニューラルネットワークを適用する前に、予備調整される。ニューラルネットワークは事象から起こる不連続の以前または以後に適用され、それでも完全な範囲のデータに対してはしばしば不安定である。
【００３３】
対照的に、本発明のＰＢＮＮは所望のニューラル応答の範囲にわたるフィルターの列を用いてニューラルネットワークの塊状度を自動的に修正することによって、入力データを急速な変化に対して調整または適応させる能力がある。
【００３４】
このような修正が可能なノードの入力と出力は下記のようにモデル化される。
Ｚ（ｉ）  →  Ｎｏｄｅ  →  μＫ（Ｎｅｗ）（ｉ）
【００３５】
ここでｉは現在の入力、ｋは平均されるべき点の数、そしてμは平均を表す。
【００３６】
このようなノードは下記のように定義される一次関数の伝達関数を備える。
【００３７】
μＫ（Ｎｅｗ）（ｉ）＝φ＊μＫ（Ｏｌｄ）（ｉ−１）＋（１−φ）＊Ｚ（ｉ）
【００３８】
この関数はフィルターの性質を変更するために、また連続または不連続範囲の移動平均を提供するために変数「φ」を備える。
【００３９】
より高い（例えばｎ）次数の関数は下記のように実現されてもよい。
ＶＫ（Ｎｅｗ）（ｉ）＝（φ＊ＶＫ（Ｏｌｄ）（ｉ−１））∧２＋（１−φ）＊
（Ｚ（ｉ）−μＫ（Ｎｅｗ）（ｉ））２
【００４０】
これはフィルターの性質を変更するために、また連続または不連続範囲の高次統計値（例えば変動）または他の関数平均を提供するために変数「φ」を備える。
これらの平均はフィルター処理のために遅延（例えば１０点だけ）されてもよい。
μＫ（Ｎｅｗ）（ｉ−１０）
【００４１】
これらは直ちに最初期化されてもよい。
μＫ（Ｎｅｗ）（ｉ）＝φ＊μＫ（Ｉｎｕｓｅ）（ｉ−１）＋（１−φ）＊Ｚ（ｉ）
ここでｉｎｕｓｅは不連続な、独立に判定されたレベル変化を表す。
【００４２】
重大な事象または故障を知らせている可能性がある、入力データの流れのなかの不連続に加えて、不連続は入力の測定を行っている計装における変化から起こっている可能性がある。本発明はさらに、ベースラインに関する変化が生じたときに起こる誤差について、ニューラル計算を修正するための方法および装置に指向されている。ベースライン誤差は計装が変更または再較正されたとき、動力システムの特性が経時的に変化したとき、およびトレーニングデータを正規化するのに用いられるモデルが変更されたときに起こる。
【００４３】
前述のように、より忠実度の高いデータ整理システムは参照モデルを用い、そのモデルに関してパラメーターデルタを計算する傾向がある。計装が変更または再較正されたとき、動力システムの性能レベルが変化したとき、または参照モデルが変更されたとき、パラメーターデルタ値はそのレベルが一定量「ε」だけ変化する。図５（ａ）を参照すると、入力としてベースラインパラメーターβ、入力重み付けｗ１およびｗ２，および二つの入力、すなわちＰ（１）および誤差項εが加算されたＰ（２）を受け取るノードが図示されている。結果として生じる誘導された入力誤差はε＊ｗ２に等しい。この変化はニューラルネットワークの解に誤差を導入するが、これは通常のニューラルネットワークでは個々のニューロンへのアクセスがないために計算不能である。通常のニューラルネットワークにおいてこの問題を避けるひとつの方法は、ニューラルネットワークのサイズを大幅に増大させ、次いでこれを全範囲の可能性あるレベルバイアスでトレーニングすることである。バイアスの影響が除かれなければ、分類誤差が起こり、動力システムのなんらかの未知の非線形的性質に過って帰結される可能性が高い。
【００４４】
本発明のＰＢＮＮ１の構造はよく定義されており、ＰＢＮＮは分類誤差が起こらないように、誤差を計算して除去することができる。ＰＢＮＮ１では、誤差は入力ノードにおいてこれをバイアスで相殺することによって除去される。全てのニューロンの全ての部分にアクセスがあるので、ＰＢＮＮ１にとってこれは簡単な操作である。図５（ｂ）を参照すると、入力としてベースラインパラメーターβ、入力重み付けｗ１およびｗ２，および二つの入力、すなわちＰ（１）および誤差項ε（２）が加算されたＰ（２）を受け取るノードが図示されている。トレーニングベースラインパラメーターレベルβは「ｉｎｕｓｅ」という名前を与えられているが、これはベースラインの移動が物理法則に起因するパラメーターの変化とは独立であり得るレベルバイアスだからである。「ｉｎｕｓｅ」値はトレーニングデータからの初期ベースラインであってもよく、あるいは傾向検出の場合はそれは時間遅延平均値であり、この際の遅延は十分に長いので遅延された信号が傾向移動によって影響される以前に傾向検出が可能である。結果として、誘導された入力誤差は相殺される。
【００４５】
本発明によって、ノイズを含むデータの流れのなかの重大な変化を検出するためのものであり、この際検出がデータの流れのベースライン変化によって影響されないような、ＰＢＮＮおよびその操作方法が提供されたことは明らかである。
【００４６】
本発明をその特定の実施例を例にとって説明したが、これまでの説明を読んだ当業者にはその他の代替、改造、および変形が明らかとなろう。したがって附属の請求項の広い範囲はこれらの代替、改造、および変形を包含するように意図されている。
【図面の簡単な説明】
【００４７】
【図１】本発明のＰＢＮＮの説明図である。
【図２】本発明のニューラルフィルターの一実施例の説明図である。
【図３】本発明のニューラル検出装置の一実施例の説明図である。
【図４】本発明のヒューリスティック検出装置の一実施例の説明図である。
【図５】（ａ）は業界で知られるニューラルネットワークノードの説明図、（ｂ）はベースライン誤差を除外するように構成された本発明のＰＢＮＮノードの一実施例の説明図である。
【符号の説明】
【００４８】
１  ＰＢＮＮ
３  ニューラルフィルター
５  ヒューリスティック検出装置
７  ニューラル検出装置
１１  検出装置入力
【図１】
0003723196.tif 000002
【図２】
0003723196.tif 000003
【図３】
0003723196.tif 000004
【図４】
0003723196.tif 000005
【図５】
0003723196.tif 000006