(57)【要約】【課題】　複雑な物理システムの構造をモデル化し、不完全な入力データを用いてトレーニングし、かつ広い範囲の入力にわたって系に期待される出力を発生させるための物理的ニューラルネットワークを提供する。【解決手段】　物理的ニューラルネットワークは、複数のローカル座標ノード２９を有し、各ノード２９は少なくとも一つの入力を受け入れ、また少なくとも一つの入力を出力に変換するための伝達関数を有する。出力はノード２９のうちの他の一つのノード２９への少なくとも一つの入力のうちの一つを形成する。さらに、複数のノード２９のうちの一つへの入力を有するトレーニングノードのセットと、複数のノードへの入力を有する入力ノードのセットと、複数のノードを調整するためのトレーニングアルゴリズムを有する。伝達関数のうちの少なくとも一つは他と異なっており、また複数のノードのうちの一つがＰＢＮＮである。【選択図】　図２
2004127296.tif 000002
【特許請求の範囲】
【請求項１】
　物理的ニューラルネットワーク（ＰＢＮＮ）であって、
　複数のノードを有してなり、各ノードが、
　　少なくとも一つの入力を受け入れる手段と、
　　前記少なくとも一つの入力を出力に変換するための伝達関数とを有し、前記出力が前記複数のノードのうちの他の一つのノードへの前記少なくとも一つの入力のうちの一つを形成するものであり、
　前記複数のノードのうちの一つへの前記少なくとも一つの入力を有する少なくとも一つのトレーニングノードのセットを有してなり、
　前記複数のノードへの前記少なくとも一つの入力を有する少なくとも一つの入力ノードのセットを有してなり、
　前記複数のノードそれぞれを調整するためのトレーニングアルゴリズムを有してなり、
　前記伝達関数のうちの少なくとも一つが前記伝達関数のうちの他の少なくとも一つと異なっており、且つ前記複数のノードの少なくとも一つがＰＢＮＮである、ことを特徴とする物理的ニューラルネットワーク。
【請求項２】
　前記入力されるデータがトレーニングデータである、ことを特徴とする請求項１記載の物理的ニューラルネットワーク。
【請求項３】
　前記トレーニングアルゴリズムが逆伝播法、共役勾配法、ＧＡ法、およびアロペックス法からなる群から選ばれる、ことを特徴とする請求項１記載の物理的ニューラルネットワーク。
【請求項４】
　前記複数のノードのうちの少なくとも一つは前記少なくとも一つの入力を定数出力に変換する、ことを特徴とする請求項１記載の物理的ニューラルネットワーク。
【請求項５】
　前記ノードのうちの少なくとも一つがニューラルネットワークである、ことを特徴とする請求項１記載の物理的ニューラルネットワーク。
【請求項６】
　前記複数のノードが物理システムをモデル化するように構成されている、ことを特徴とする請求項１記載の物理的ニューラルネットワーク。
【請求項７】
　前記物理システムが音響システム、エンジンのガス通路の機械的診断、エレベータのドア、およびＣＦＤからなる群から選ばれる、ことを特徴とする請求項６記載の物理的ニューラルネットワーク。
【請求項８】
　物理的ニューラルネットワーク（ＰＢＮＮ）を用いて物理システムをモデル化する方法であって、
　ＰＢＮＮを作り上げる段階を有し、
　該ＰＢＮＮは、
　　複数のノードを有してなり、各ノードは
　　　少なくとも一つの入力を受け入れる手段を有し、
　　　前記少なくとも一つの入力を出力に変換するための伝達関数とを有し、前記出力が前記複数のノードのうちの他の一つのノードへの前記少なくとも一つの入力のうちの一つを形成するものであり、
　　前記複数のノードのうちの一つへの前記少なくとも一つの入力を有する少なくとも一つのトレーニングノードのセットを有してなり、
　　前記複数のノードへの前記少なくとも一つの入力を有する少なくとも一つの入力ノードのセットを有してなり、
　　前記複数のノードそれぞれを調整するためのトレーニングアルゴリズムを有してなり、
　　前記伝達関数のうちの少なくとも一つが前記伝達関数のうちの他の少なくとも一つと異なり、および前記複数のノードのうちの少なくとも一つがＰＢＮＮであり、
　前記方法はさらに、
　物理モデルに従って前記複数のノードを接続する段階と、
　前記複数のノードそれぞれの前記伝達関数を特定する段階と、
　前記複数のノードのうちの少なくとも一つをトレーニング量に指定する段階と、を有する、ことを特徴とする方法。
【請求項９】
　前記トレーニングアルゴリズムが、逆伝播法、共役勾配法、ＧＡ法、およびアロペックス法からなる群から選ばれる、ことを特徴とする請求項８記載の方法。
【請求項１０】
　前記ＰＢＮＮを作り上げる段階が、前記物理システムを複数の数学的方程式としてモデル化し、前記数学的方程式を前記複数のノードに分解する付加的な段階を含む、ことを特徴とする請求項８記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
　本発明は複雑なシステムをリバースエンジニアリングするための物理的ニューラルネットワーク（ＰＢＮＮ）に関する。より詳しくは、本発明は、複雑な物理システムの構造をモデリングつまりモデル化し、不完全ないし不十分な入力データを用いてトレーニングし、広い範囲の入力にわたってシステムに期待される出力を発生させるためのＰＢＮＮ、およびＰＢＮＮの使用法に関する。
【背景技術】
【０００２】
　ニューラルネットワークはニューロンとも呼ばれる同じ処理要素の多層にわたる階層構造である。各ニューロンには一つまたは二つ以上の入力があってもよいが出力は一つだけである。各ニューロン入力は係数によって重み付けされる。ニューロンの出力は通常、重み付き入力の合計とバイアス値の関数である。この関数は活性化関数とも呼ばれ、また伝達関数と呼ばれることもあるが、多くの場合シグモイド関数である。すなわち活性化関数はその入力がそれぞれ正または負の無限大に近づくにつれてＳ字状に単調に増え、漸近的に一定値に近づく。シグモイド関数と個々のニューロンのウエイトおよびバイアス値が入力信号に対するニューロンの応答を決定する。
【０００３】
　ニューロンの階層構造において、一つの層のニューロンの出力は次の層の一つまたは二つ以上のニューロンの入力として分配される。通常のニューラルネットワークは入力層および別個の二つの層を含んでいる。すなわち入力層、中間ニューロン層、および出力ニューロン層である。入力層のノードはニューロンではない。むしろ、入力層のノードはただ一つの入力を有し、基本的に入力を無処理のまま次の層の入力に供給する。
【０００４】
　ニューラルネットワークの使用法は、多くの場合、二つの連続する段階を含む。最初にネットワークは既知の出力値（または分類）を有する既知の入力でトレーニングされる。トレーニング入力がニューラルネットワークに供給されると、ニューロンのウエイトおよびバイアスが調整され（例えば逆伝播技術）、個々のトレーニングパターンのニューラルネットワーク出力が既知の出力に近づくか一致するようにされる。このようにしてウエイトおよびバイアスが局所的な最適解または最小誤差に向かって収斂する。実用的にはシステムは最適解に収斂する点にまでトレーニングされることはない。なぜならそれには全てのデータが必要だからである。そうするとシステムは「トレーニングされ過ぎ」の状態になり、トレーニングデータに専門化し過ぎて、トレーニングセットの入力とは異なる入力をうまく分類することができなくなってしまうであろう。
【０００５】
　ニューラルネットワークがトレーニングされると、ニューラルネットワークはトレーニングの過程で決定されたウエイトおよびバイアスに従って未知の入力を分類するのに用いることができる。もしニューラルネットワークが自信を持って未知の入力を分類することができれば、出力層のニューロンの出力の一つが他の出力よりもはるかに高いものとなるであろう。
【０００６】
　ウエイトおよびバイアス項が拡散しないことを保証するためにアルゴリズムは小さな段階を用いる。従って収斂は遅い。また隠れ層のニューロンの数を直感的に決めることはできない。従って最適な隠れニューロンの数を決定するためにしばしば多数回の実験が時間をかけて行われる。
【０００７】
　ニューラルネットワークに関連する別の手段として、ベイジアンネットワークがある。ベイジアンネットワークはデータ（例えば入力の特徴ベクトル）と予測（例えば分類）との間の中間段階として仮説を用いる。各仮説の確率はデータが与えられれば予測される。予測は仮説から、仮説の条件付き（事後）確率を用いてなされ、各々の仮説の個別の予測が重み付けされる。ベイジアンネットワークは変数と、変数の間の有向エッジを含み、これによって有向非循環グラフ（すなわち「ＤＡＧ」）を定義する。各々の変数は有限な数の互いに排他的な状態のいずれかを取ることができる。
【０００８】
　ベイジアンネットワークの構造が既知であり、変数が観測可能であると仮定すれば、学習されなければならないのは条件付き確率表のセットのみである。この表は学習例のセットから統計学を用いて直接に予測可能である。構造は既知であるが変数が隠されている場合は、ベイジアンネットワークはニューラルネットワークの場合と同様にトレーニングされてもよい。学習プロセスは先行知識を用いて短縮することができる。
【０００９】
　サポートベクトルマシン（すなわち「ＳＶＭ」）はもう一つの形式のトレーニング可能分類装置である。報告によればＳＶＭはテキスト分類などの一部の応用例では純粋なベイジアンネットワークよりも分類が正確であるとされている。また報告によればＳＶＭは手書き文字の読み取りなどの一部の応用例においてニューラルネットワークよりも正確であるとされている。しかし残念ながら、報告によればＳＶＭは純粋なベイジアン分類装置よりもトレーニングに時間がかかる。
【００１０】
　分類されるべき対象はいくつかの特徴で代表されてよい。例えばもし分類されるべき対象が二つの特徴で表されれば、それは二次元空間中の点で表される。同様に、もし分類されるべき対象がｎ個の特徴で表されれば、特徴ベクトルとも呼ばれるその対象はｎ次元空間中の点で表される。最も単純な形式のＳＶＭはｎ次元空間中の平面（ハイパープレーンとも呼ばれる）を定義し、これは「分類内の」対象に属する特徴ベクトル点を「分類外の」対象に属する特徴ベクトル点から離隔する。いくつかのハイパープレーンを定義することによっていくつかの分類が定義される。トレーニングされたＳＶＭによって定義されたハイパープレーンは自身から最近接の「分類内の」および「分類外の」点までの距離（ユークリディアン距離とも呼ばれる）を最大にする。最大の離隔は重なりおよびあいまいさを低減する。従って距離「ｄ」を最大にするハイパープレーンで定義されたＳＶＭは、入力ノイズに対して強いことが期待される。
【００１１】
　よって、トレーニングデータから学習することの利点が組み込まれており、これによってトレーニングデータセットの外部から集められたデータに関する解に収斂し、かつモデル化されるべき物理システムの発見的知識を表す多数の伝達関数を有し、スケーリング可能であり、理解が容易で、かつ部分的に知られたシステムにリバースエンジニアリングを行う目的に応用できる、ニューラルネットワークに基づく装置が求められている。
【発明の開示】
【発明が解決しようとする課題】
【００１２】
　従って本発明の目的は、複雑な物理システムの構造をモデル化し、不完全な入力データを用いてトレーニングし、かつ広い範囲の入力にわたって系に期待される出力を発生させるためのＰＢＮＮ、およびＰＢＮＮの使用法を提供することである。
【課題を解決するための手段】
【００１３】
　本発明に係わる物理的ニューラルネットワーク（ＰＢＮＮ）は、複数のノードを有する。各ノードは少なくとも一つの入力を受け入れる手段と、少なくとも一つの入力を出力に変換するための伝達関数とを有してなり、前記出力は複数のノードのうちの他の一つのノードへの少なくとも一つの入力のうちの一つを形成する。ＰＢＮＮはさらに、複数のノードのうちの一つへの少なくとも一つの入力を有する少なくとも一つのトレーニングノードのセットと、複数のノードへの少なくとも一つの入力を有する少なくとも一つの入力ノードのセットと、複数それぞれのノードを調整するためのトレーニングアルゴリズムと、を有してなる。このＰＢＮＮにおいて、伝達関数のうちの少なくとも一つが伝達関数のうちの他の少なくとも一つと異なっており、かつ複数のノードのうちの少なくとも一つがＰＢＮＮである。
【００１４】
　本発明に係わる、物理的ニューラルネットワークを用いて物理システムをモデル化する方法は、ＰＢＮＮを作成する段階を有する。このＰＢＮＮは、各々が少なくとも一つの入力を受け入れる手段と少なくとも一つの入力を出力に変換するための伝達関数とを有してなる複数のノードであり、前記出力は複数のノードのうちの他の一つのノードへの少なくとも一つの入力のうちの一つを形成する、複数のノードと、複数のノードのうちの一つへの少なくとも一つの入力を有する少なくとも一つのトレーニングノードのセットと、複数のノードへの少なくとも一つの入力を有する少なくとも一つの入力ノードのセットと、複数のノードそれぞれを調整するためのトレーニングアルゴリズムと、を有してなる。このＰＢＮＮにおいて、伝達関数のうちの少なくとも一つが伝達関数のうちの他の少なくとも一つと異なっており、かつ複数のノードのうちの少なくとも一つがＰＢＮＮである。この方法はさらに、ＰＢＮＮを作成する段階と、物理モデルに従って複数のノードそれぞれを接続する段階と、複数のノードのうちの少なくとも一つのノードをトレーニング量として指定する段階と、を有してなる。
【発明を実施するための最良の形態】
【００１５】
　本発明は物理的ニューラルネットワーク（ＰＢＮＮ）に関するものである。以下においてより詳細に説明されるように、ＰＢＮＮは、物理システムの部分的な理解に基づいて、また広範な実験データを要することなく、物理システムを識別し、表現し、解を与えるための有効な計算機構である。すなわち、ＰＢＮＮは実際のニューラルネットワークのフラクタルな性質を認識する疑似ニューラルネットワークを形成する。ここに用いられる「フラクタル」とはＰＢＮＮ中に含まれる概念をスケールアップ、またはスケールダウンするようなＰＢＮＮの性質に関する。スケールダウンとは、ドメイン知識を用いて個々のニューラル関数を合わせ込むことによってトレーニング可能な、完全に構造化されているが部分的に理解されているプロセスを作り上げるプロセスである。スケールアップとは、広範な実験データを要することなく、全ての発見的なあるいは計算的なプロセスがニューラルネットワーク中で構成され、トレーニングされるプロセスである。
【００１６】
　ＰＢＮＮはノードのネットワークであり、各ノードは、入力のセットと、少なくとも一つの出力と、その間の伝達関数とからなるものである。一つのＰＢＮＮノードはその伝達関数を特定し、他のＰＢＮＮノードの出力または生の入力をその入力量として指定することによって定義される。ノードの前後の処理は入力数量を収集し、伝達関数を評価し、結果を出力することからなる。伝達関数は、他のＰＢＮＮ（内部ノードと呼ばれる）の連結された集合体からなってもよく、また入力と出力の間に定義される任意の他の数学的関係であってもよい。
【００１７】
　与えられた問題のためにＰＢＮＮを組み立てることは、数学的方程式の定義されたセットを分解して、連結されたノードの集合体にすることによって行われる。複雑な関数はより基本的な関数の集合体に分解され、十分に低いレベルの定義に引き下ろされる。基礎的なＰＢＮＮノードは、和または積、指数、および基礎的な三角関数のような簡単な数学的操作を表すのに用いられてきた。一ネットワークにおけるＰＢＮＮノードは完全なＰＢＮＮそのものからなってもよいから、内部伝達関数は所望に応じていくらでも複雑にできる。
【００１８】
　一つの興味ある型の基礎的ＰＢＮＮノードは「パラメータ」ノードであり、その内包する伝達関数は入力の如何に拘わらず単に定数を出力する。これらのノードは計算におけるパラメータを表すのに用いられる。しかしながらこれらは適応型として指定されてもよく、この場合は与えられた問題に合わせられる。
【００１９】
　完全なＰＢＮＮはＰＢＮＮノードのセットから形成され、その内部的な接続は基礎となるモデルによって定義される。個々のノードが定義され、所望に応じて接続されたならば、ユーザーは全体の計算においてどのノードが「出力」量を表すかを選択する。付加的なノードは「トレーニング」量として指定され、これらはネットワークが与えられた問題に合わせ込まれるにつれて修正される。最後に一連のノードが「入力」ノードに指定され、その価は処理の度に外部から設定される。ＰＢＮＮ、入力ノードのセット、トレーニングノードのセット、および出力ノードのセットの集合体が完全なＰＢＮＮを形成する。
【００２０】
　ＰＢＮＮは二段階で運用される。第一のトレーニング段階は既知のセットの入力と出力をＰＢＮＮに与え、結果として生じる誤差を最小にするようにトレーニングノードを調整する。これはいくつかの方法で行うことができ、そのなかには従来のニューラルネットワークで用いられる各種の逆伝播アルゴリズム、共役勾配法、遺伝的アルゴリズム（ＧＡ）、およびアロペックスアルゴリズムなどが含まれるが、これらに限定されない。
【００２１】
　ＰＢＮＮがトレーニングされたならば、第二段階としてネットワークは新しい入力データについて評価される。通常はトレーニングされたネットワークは手早く運用されて、基礎となるシステムの速成の、概略的なモデルを与える。
【００２２】
　ＰＢＮＮは適当に小さなノードセットで特定の機能のセットを表し、その各々の機能は現有の問題に関連している。ＰＢＮＮネットワークの設計は通常、ＰＢＮＮ中で符号化され得るような知識を持ったＰＢＮＮ設計者によって行われる。
【００２３】
　図１を参照すれば、本発明のＰＢＮＮが指向されるランキン楕円１の流れパターンが図示されている。ランキン楕円１は一定速度の背景流れに埋め込まれたソースとシンクの対であり、またこのソースとシンクの対によって引き起こされる楕円形の流れである。ここでランキン楕円はＰＢＮＮによって解析され得る物理システムの例として用いられている。システムの物理的特性が知られるか、または近似することができたならば、システムの特性をモデル化する一般化されたＰＢＮＮを構築することができる。後により詳しく説明されるように、サンプル入力が測定され、ＰＢＮＮに入力され、出力が発生され、得られた誤差が逆伝播と、ウエイト（重み）およびバイアス値の調整に用いられる。
【００２４】
　図１の等高線は本発明のＰＢＮＮ出力によって示された圧力界のなかの等圧力線を表している。ソース４とシンク２の存在に注目すべきである。複数の測定点３が示されているが、これらの測定点はそれぞれｘおよびｙ座標を持ち、そこで流れ速度が測定される。これらの測定点３を用いることによって、ＰＢＮＮをトレーニングして、ランキン楕円１内の任意のｘおよびｙ座標を入力すれば入力点の場所に対応する流れ速度を出力させることができるようになる。図示されるランキン楕円の領域をなす各点を入力点として入れ、得られる出力をプロットすることによってランキン楕円１が得られる。
【００２５】
　図２を参照すれば、図１のランキン楕円１の操作をモデル化するように設計されたＰＢＮＮ２０が図示されている。このシステムはソースとシンクの集合体からなっているから、ＰＢＮＮはローカルｘおよびローカルｙ、距離３１、およびソース／渦流／ダブレット３３と表記された内部ノードと、それらに対応する入力２１から構成される。物理システムのなかの各ソースまたはシンクについて、これらの集合体の一つがＰＢＮＮ本体に埋め込まれる。入力２１はｘ、ｙ座標および対応するソースまたはシンクの強さを記述する。従って、各ＰＢＮＮ入力２１はｘＮ、ｙＮ、およびｓＮで示される三つの成分からなる。この例では１個のソースと１個のシンクがあるので、ＰＢＮＮ２０は６個のＰＢＮＮ入力２１を受け入れるように設計されている。
【００２６】
　ＰＢＮＮ入力２１に加えて、多数の層のノードがある。ローカル座標ノード２９はＰＢＮＮ入力２１についてランキン楕円のｘ、ｙ系からソースまたはシンクまでの相対距離からなる座標系への座標変換を行う。この変換の出力はローカルｘおよびローカルｙ座標である。距離ノード３１はＰＢＮＮ入力２１からソースまたはシンクまでの距離を計算する。速度ノード３３はローカルｘとローカルｙ座標、測定された流れの強度、および距離ノード３１が計算した距離を入力として受け入れてｘおよびｙ方向の速度を計算する。これに加えて均一流れ仮定ノード３５は流れ速度ｖ０および流れ角度ａを入力として受け入れる。速度ノード３３および均一流れ仮定ノード３５の出力は合計されて出力２２を生じる。この出力は入力値（２５）で特定された流れ界（ｘ、ｙ）中の点におけるｘおよびｙ方向の合計早さを表す。
【００２７】
　上記からわかるように、ＰＢＮＮ２０はランキン楕円の解を図形的に求めるのに似ている。各ノードは単数又は複数の入力を受け入れ、所定の伝達関数を適用し、出力を与える。これらの出力はＰＢＮＮ２０内の後続層のノードの入力となってもよい。これに加えて各ノード自身がＰＢＮＮであってもよい。
【００２８】
　図３を参照すれば、それ自身がＰＢＮＮであるローカル座標ノード２９の詳細が図示されている。具体的には、ローカルｘを計算するためのローカル座標ノード２９が図示されている。ローカル座標ノード２９に入力ｘおよびｘ０が入力される。ｘ０は−１が掛けられ、ｘと合計される。この効果はｘからｘ０が引かれて出力ローカルｘを生じ、これが次のノードへ出力される、ということである。
【００２９】
　図４を参照すれば、距離ノード３１の詳細が図示されている。入力ローカルｘおよびローカルｙが距離ノード３１に入力される。ローカルｘおよびローカルｙはいずれも自乗され、次いで互いに加算されて距離の出力を生じる。
【００３０】
　同様に、図５（ａ）ないし図５（ｃ）を参照すれば、速度ノード３３の三つの別々の実施例の詳細が図示されている。この例では、実施態様がそのいずれを用いるかによってソース／シンク速度、渦流速度、またはダブレット速度を計算することができる。
【００３１】
　図１中の５個の点３は流れ界（flow field）が既知であるデータ座標を示している。これらの点３はＰＢＮＮをトレーニングするのに用いられる。
【００３２】
　図２を再度参照すると、ＰＢＮＮ２０が５個の測定点３についてトレーニングされたならば、ＰＢＮＮは任意のｘｙ座標を入力２５として受け入れ可能になる。入力２５はひとたび入力されればＰＢＮＮ２０を通して伝播し、出力２２を与える。このようにして、ランキン楕円の流れ特性の僅かな一部分を記述する不完全な情報でトレーニングされたＰＢＮＮ２０は、任意の所望の座標における流れ特性を正確に計算することができる。
【００３３】
　ランキン楕円への特定の応用を説明したが、本発明はそれに限定されたものではない。むしろ本発明はＰＢＮＮを完全な分解モデルが入手できない任意の領域への適用に指向されている。実際、最もよく理解された領域モデルでも様々なレベルの近似を含んでおり、それに対しては得られた結果のなかで対応する必要がある。ＰＢＮＮはもともと近似モデルであり、それが与えられた現有の問題に合わせ込まれる。基礎となるモデルがＰＢＮＮに組み込まれたならば、関心のある特定の状況から取られたトレーニングデータのセットを用いて、できる限りネットワークを合わせ込むことができる。
【００３４】
　ＰＢＮＮが特によく適合するのは、完全な解が知られていないが、ある限定された場合においては限定された解が入手できるようなシステムである。このような問題に対しては、いくつかの限定された状況を適切に表せるように十分な一般性を持たせて設計されたＰＢＮＮが、問題全体を攻略する手段を提供する。ある意味では、ＰＢＮＮは既知の解の間の非線形の補間を提供するよう機能する。既知の解のセットが十分散らばっているならば、得られるネットワークは完全なシステム挙動の合理的なモデルを提供する。
【００３５】
　ＰＢＮＮが応用される特定の分野としては、ＣＦＤ（数値流体力学）、音響、機械的診断（エンジンガス通路やエレベータードア）などが挙げられるが、これらに限定されない。
【００３６】
　ＰＢＮＮが既知のシステムの機能を反映するように構成され、サンプルデータでトレーニングされるならば、ＰＢＮＮは従来のニューラルネットワークには不可能なやり方で、システムの機能を時間的に前方にも後方にも記述できるようになる。図６は正弦関数を認識するようにトレーニングされたニューラルネットワークの入力と出力を図示している。入力点２３はｘ軸上の三角形で表されている。正弦曲線６１の挙動を決定するために、比較的多数の入力点６３がデータ範囲６５にわたって測定される。データ範囲６５は正弦曲線６１の下位セットであり、そのなかではサンプル入力点６３に接近することができる。ニューラルネットワークをサンプル入力点６３についてトレーニングした後、ニューラルネットワークをデータ範囲６５の任意の点に入力として供給して、出力点を出させることができる。これを繰り返せばニューラルネットワークの出力を表す出力線６７が形成され、その範囲はデータ範囲６５を含むがこれに限定されない。図からわかるように、出力線６７はデータ範囲６５の内部では正弦曲線６１にぴったり追従しているが、データ範囲６５の外では大きくはずれてしまう。これはニューラルネットワークが、データ範囲にわたってはモデル化されているが、データ範囲の外部ではシステムモデルの「理解」を有しないからである。
【００３７】
　ＰＢＮＮは設計上の知識を符号化するように構成されているので、正弦曲線関数のような複雑なプロセスをモデル化するように、効果的にトレーニングされることが可能である。図７を参照すれば、正弦曲線６１とサンプル入力点６３が図示されている。データ範囲６５にわたって測定されたサンプル入力点６３の密度が、図６に図示されるニューラルネットワークのそれよりも低いことに注目すべきである。また得られた出力線６７がデータ範囲６５の外部で正確に正弦曲線に追従していることに注目すべきである。
【００３８】
　図８を参照すれば、三角関数をモデル化するＰＢＮＮが図示されている。具体的には、ＰＢＮＮ２０は下の形式のいかなる信号でもモデル化するように構成されている。
ｕ（ｘ）＝Ａ［αｓｉｎ（ｋｘ＋φ）＋βｓｉｎｈ（ｋｘ＋φ）］ｍ［αｃｏｓ（ｋｘ＋φ）＋βｃｏｓｈ（ｋｘ＋φ）］ｎ
【００３９】
　従ってＰＢＮＮ２０は、下のパラメータを特定することによっていかなる三角関数でも表すことができる。
【００４０】
【表１】
2004127296.tif 000003
【００４１】
　ＰＢＮＮの設計は現有の業務や検証中のシステムに直接関係しているので、基礎となるモデルのある重要な性質はＰＢＮＮ中の特定のノードで表すことができる。従ってトレーニングされた結果にモデル全体のなかで一定の意味を持たせることができる。過去において従来のニューラルネットワークにおけるウエイト値に意味を持たせる試みがなされて来たが、結果は良く言って不確実であり、基礎となるモデルへの強い結びつきが決定的に欠けていた。これはＰＢＮＮにおいては保証されている。
【００４２】
　加えて、ＰＢＮＮのノードは入力、出力、および伝達関数のセットからなるので、ニューラルネットワーク自体をＰＢＮＮ中でノードとして用いることができる。これはニューラルネットワークが特定の業務によく適合することが知られているか、または満足な分析モデルが入手できないような場所であれば、どこでも実施可能である。
【００４３】
　以上の説明から明らかなように、ＰＢＮＮの構造には基礎となるシステムモデルが作り込まれている。従ってＰＢＮＮは基礎となるモデルへの一致を保証するのに、小さなセットのトレーニングパラメータしか要しないように構成することが可能である。また適応型のパラメータを調整するのにどのようなデータセットが用いられたかに拘わらず、基礎となるネットワークによって表される挙動は基礎となるモデル中に含まれる挙動である。
【００４４】
　本発明によれば、複雑なシステムをリバースエンジニアリングするための物理的ニューラルネットワーク（ＰＢＮＮ）が提供えきることは明らかである。なお、以上の説明では本発明をその特定の実施形態に関して説明したが、上記説明から当業者にはその他の代替、改良、および変形は自明である。よって、添付の特許請求の範囲はこれらの代替、改良、および変形を包含するように意図されている。
【図面の簡単な説明】
【００４５】
【図１】本発明のＰＢＮＮを用いて計算されたランキン楕円のグラフである。
【図２】ランキン楕円をモデル化するのに用いられた本発明のＰＢＮＮを示した説明図である。
【図３】より大きなＰＢＮＮにおいてノードを形成する、座標変換を計算するための本発明のＰＢＮＮを示した説明図である。
【図４】より大きなＰＢＮＮにおいてノードを形成する、距離を計算するための本発明のＰＢＮＮを示した説明図である。
【図５】（ａ）はより大きなＰＢＮＮにおいてノードを形成する、ソース／シンク速度を計算するための本発明のＰＢＮＮを示した説明図、（ｂ）はより大きなＰＢＮＮにおいてノードを形成する、ダブレット速度を計算するための本発明のＰＢＮＮを示した説明図、（ｃ）はより大きなＰＢＮＮにおいてノードを形成する、渦速度を計算するための本発明のＰＢＮＮを示した説明図である。
【図６】シグモイド関数をモデル化するようにトレーニングされた、先行技術のニューラルネットワークの入力と出力のグラフである。
【図７】シグモイド関数をモデル化するようにトレーニングされた、本発明のＰＢＮＮの入力と出力のグラフである。
【図８】三角関数をモデル化するＰＢＮＮを示した説明図である。
【符号の説明】
【００４６】
　１　ランキン楕円
　２　シンク
　３　測定点
　４　ソース
　２０　ＰＢＮＮ
　２１　ＰＢＮＮ入力
　２２　出力
　２９　ローカル座標ノード
　３１　距離ノード
　３５　均一流れ仮定ノード
　６１　正弦曲線
　６３　サンプル入力点
　６５　データ範囲
　６７　出力線
【図１】
2004127296.tif 000004
【図２】
2004127296.tif 000005
【図３】
2004127296.tif 000006
【図４】
2004127296.tif 000007
【図５】
2004127296.tif 000008
【図６】
2004127296.tif 000009
【図７】
2004127296.tif 000010
【図８】
2004127296.tif 000011