(57)【要約】本発明はニューラルネットワーク等のインテリジェント処理システムに対して、またはデータマイニング等の大量のデータを扱う操作の実装に採用される入力パラメータの選択処理に関する。選択処理はパラメータの編成の状態の指標を生成する工程と、編成の状態が十分と示された場合、処理システムやデータ管理操作に使用するパラメータを選択する工程とからなる。パラメータの編成の状態が十分でないと判断された場合、複数の影響が自動的に決定され編成の状態を乱す傾向の少なくとも一つのパラメータが排除される。従ってパラメータに保存される編成の状態の修正された指標が生成され、適切なパラメータが処理システムやデータを扱う操作に割当てられ、十分な指標が生成されるまで、又は信頼できる指標を生成するためには不十分なパラメータとなるまでのどちらかまで、選択する処理が繰り返される。
2004526231.tif 000002
【特許請求の範囲】
【請求項１】
インテリジェント処理システムまたはデータ加工操作に採用するための入力パラメータを選択するための処理であって、
（ａ）全体として入力パラメータの編成の状態の指標を提供する能力を有するプリプロセッサに前記入力パラメータを振り当てる工程と、
（ｂ）全体として前記パラメータの前記編成の状態が十分であると判定された場合、前記パラメータを選択する工程と、もしくは、
（ｃ）前記パラメータの少なくとも一部の影響があると判定するための前記指標を分析する工程と、
（ｄ）前記影響の程度により一つ以上の前記パラメータを排除する工程と、
（ｅ）全体として前記パラメータの編成の前記状態が十分であると判定されるまで、工程（ａ），（ｂ），（ｃ），（ｄ）を繰り返す工程と、
からなる処理。
【請求項２】
選択されたパラメータが前記システムや操作に対してポジティブコントリビューションであることを保証するために、入力パラメータを自動反復プリプロセッサに受けさせることを意図する請求項１に記載の処理。
【請求項３】
インテリジェントシステムがニューラルネットワークからなる請求項１または２に記載の処理。
【請求項４】
前記ニューラルネットワークがニューラルネットワークにより処理される情報の性質に対して一般的に適用可能であるよう選択され、パラメータに関するシステムや処理の特性に有効に応答するために、適切な入力パラメータを繰り返し提示することにより、操作中に自己訓練される請求項３に記載の処理。
【請求項５】
前記パラメータの少なくとも幾つかの影響を受けていることを判定するために前記指標を分析する工程と、前記影響の程度により一つ以上の前記パラメータを排除する工程と、が全体として前記パラメータの編成の状態に基づく前記パラメータのポジティブ及びネガティブ双方の影響を考慮することにより、情報の編成を直接的に補助しないのみならず他の情報を診断する傾向を有するパラメータを除去する請求項１乃至４のいずれか１項に記載の処理。
【請求項６】
入力パラメータが共通の認識可能な情報の条件に関連する傾向または他の関連情報を抑制しない傾向のいずれか少なくとも一方に従って選択される請求項１乃至５のいずれか１項に記載の処理。
【請求項７】
前記入力データ集合を格納する工程と、
プリプロセッサの現行の性能が前回の工程の性能より低下した場合、前記前回の工程の入力データ集合に戻る処理が行われる工程と、
をさらに有する請求項１乃至請求項６いずれか１項に記載の処理。
【請求項８】
入力パラメータがデータサンプルから生成され、プリプロセッサが相関する集団内からデータサンプルを選択すべく適応され、前記各集団が他の集団と区別される個別の条件に合致している請求項１乃至７のいずれか１項に記載の処理。
【請求項９】
プリプロセッサが割当てられる入力パラメータの編成の状態と、パラメータが割当てられるインテリジェント処理システムや加工操作の性能を有し得るパラメータの影響との指標を提供する能力を備えた自己組織化マップ（ＳＯＭ）プロセッサにより構成される請求
項１乃至８のいずれか１項に記載の処理。
【請求項１０】
ＳＯＭが反復的に複数の入力パラメータの保存や排除をもたらすべく使用される請求項９に記載の処理。
【請求項１１】
インテリジェント処理システムやデータ加工操作に採用するための入力パラメータを選択し、かつ一般的又は明細書中に記述された詳細な構成とほぼ一致する処理。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は入力パラメータの選択処理に関するものである。この処理は、例えば、ニューラルネットワークなどの自己組織化でき、かつ訓練可能なシステムなど、インテリジェントシステムや、データマイニング等の大量のデータを扱う操作の実装等に採用する入力パラメータを選択するために使用され得る。
【背景技術】
【０００２】
公知のプロシージャを代表するパラメータ、もしくは関連するパラメータを記述する特定の入力データに対応すべく訓練されるニューラルネットワークは、このようなプロシージャの性能を今まで以上に管理するためや、プロシージャを実装することにさえも使用される強力なツールである。この点に関して、ニューラルネットワークはモニターされる装置から集められた操作データの技術的な処理や分析等のプロシージャの実装や管理をするために一般的に使用される。
【０００３】
このようなプロシージャの例として、ニューラルネットワークは時間ごとに収集されたデータや、採鉱や同様の環境において効果的に地面に固定する装置から収集されたデータを分析するために使用される。ニューラルネットワークは継続した固定装置の保全に必要な指標を提供すべく、収集されたデータの操作のために構成される。
【発明の開示】
【発明が解決しようとする課題】
【０００４】
ニューラルネットワークや他のインテリジェント処理システムの確実な性能と順応性にも関わらず、適切な入力パラメータがそれらに提供されていることを保証するという問題が生じてしまう、一つの理由としてはクローズドシステムとして運用される傾向があるためであり、これは操作全体に対する個別の入力パラメータの値やその関連性に関してユーザに実質的にフィードバックを与えないためである。
【０００５】
大抵の場合、ユーザがモニターされ、処理されている操作を実際に理解する必要がなく、従って大抵の場合、操作者が入力パラメータの選択によって論理的に、直感的でさえも判断を働かせることが不可能であるという事実によりこれは深刻化する。このような判断が可能であったとしても、人間との対話によって左右された入力パラメータの選択という手段によるプロシージャは、時間がかかり得、オンライン処理等の使用に適さず、さらに、このような対話はエラーを起こしやすい。
【０００６】
本発明は上記の問題を解決することを目的としている。
【課題を解決するための手段】
【０００７】
本発明に基づきインテリジェント処理システムやデータ加工操作のための入力パラメータを選択する処理を提供する。この処理は、
（ａ）全体として入力パラメータの編成の状態の指標を提供する能力を有するプリプロセッサに前記入力パラメータを振り当てる工程と、
（ｂ）全体として前記パラメータの前記編成の状態が十分であると判定された場合、前記パラメータを選択する工程と、もしくは、
（ｃ）前記パラメータの少なくとも一部の影響があることを判定するための前記指標を分析する工程と、
（ｄ）前記影響の程度により一つ以上の前記パラメータを排除する工程と、
（ｅ）全体として前記パラメータの編成の前記状態が十分であると判定されるまで、工程（ａ），（ｂ），（ｃ），（ｄ）を繰り返す工程、
からなる。
【０００８】
従って、インテリジェント処理システムに採用されるパラメータ、またはデータ加工操作で使用されるパラメータを保証するため、またこれらの処理にポジティブコントリビューションをするために、本発明は自動的に反復して入力パラメータの前処理を行う。
【０００９】
好ましくは、インテリジェント処理システムはニューラルネットワークからなる。このようなネットワークはそこで処理される情報の性質に対して一般的に適用可能なように選択され、また関連する入力パラメータを繰り返し提示することにより、パラメータが関連するシステムや処理の特性に効果的に反応するように、動作について自己訓練される。
【００１０】
好ましくはまた、関連する入力パラメータの少なくとも一部の影響を測定するための指標を分析する上記の工程、及び影響の程度により一つ以上のパラメータを拒否する上記の工程は、全体として、パラメータの編成の状態によるパラメータのポジティブ及びネガティブ両方の影響を考慮する。これにより情報の編成に直接貢献しないパラメータだけでなく、他の情報を混乱させる傾向をもつパラメータを排除することを可能にする。
【００１１】
好ましくは、入力パラメータは一般に認識可能な情報の状態に適応する傾向や他の関連する情報にネガティブな影響を与えない傾向に基づいて選択される。
【００１２】
さらに好ましくは、この処理はデータサンプル（一つのデータサンプルの処理は典型的に複数の入力パラメータを生成する）から入力パラメータを生成し、プリプロセッサは、各集合が他の集合から識別する個別の条件に合致する、相関集合からデータサンプルを選択することに適している。
【００１３】
選択された入力パラメータは、上記のように、インテリジェント処理システムに適用される。一方、データマイニングなどの、大量データ加工操作における直接実装に使用され得る。
【００１４】
どちらの場合であっても、また本発明の好ましい実施形態に一致して、プリプロセッサは自己組織マップ（ＳＯＭ）プロセッサにより構成され、このようなプロセッサはニューラルネットワークそれ自体に成り得る。これらのデバイスは採用した入力パラメータの編成の状態の指標や、従って、適用されるシステムや操作の性能へのパラメータの影響の指標を提供する能力を持つ。
【００１５】
ＳＯＭは好ましくは、適切な場合、複数の入力パラメータの保存や拒否するために反復的に使用される。
【発明を実施するための最良の形態】
【００１６】
本発明の実施形態は地面を固定しモニタされる装置から集められたデータに関連する。しかし、この詳細な応用例は本発明の操作にとって重要ではなく、従って、本発明は広く適用することが可能である。
【００１７】
地面の固定の継続的な保全の測定において、現在一般的に実施されている手段はそこに測定される衝撃力を振り当て、固定装置に連結したセンサのパッケージを使用し、これらの力に対する固定装置の反応を示す測定データを収集する。一つの公知の装置では、センサのパッケージにより集められた測定データは計測された衝撃力に対する固定装置の周波数特性に関連し、好ましい場合は、代替的に又は周波数特性に加えて、当然に他の形式の測定データも集められる。どんな事象であっても、周波数や他のデータに関連する入力パラメータはテストに基づいた特定の固定装置に関連する他の入力パラメータにより補完される。このようなデータは手動や自動でニューラルネットワークに採用され、老朽化、取り付けタイプ、防振接続金具、固定装置が使用される媒体の種類、天候、気象などの環境要因等の要因に関連し得る。
【００１８】
どんな事象であっても、センサのパッケージで十分に集められた測定データは、固定装置の保全出力の指標として提供される入力に応答する能力を有するニューラルネットワークプロセッサに、入力パラメータとして採用される。上記したように、ニューラルネットワークの特性は、未知の入力や少なくとも測定されていない入力の採用に機能的に応答するため、適切な測定入力を繰り返し採用することによる訓練が可能であることである。
【００１９】
図１（ａ）―１（ｃ）を参照すると、入力パラメータの３つの異なる集合に対するＳＯＭの性能の指標が示されている。
【００２０】
この例では、パラメータの３つの集合は、それぞれ図で示されるように、薄い、２ｍｍ、３ｍｍという３つのそれぞれ異なる厚さのゴムを緩衝材として使用し、実施された衝撃の反応による方法により固定装置から集められたデータに関連する。
【００２１】
図１（ａ）によれば、薄いゴムによって緩衝される衝撃によって生じるデータに対するＳＯＭの反応がデータ内部では４つの状態に識別され、サンプル１−２０はノード２、サンプル２１−４０はノード５、サンプル４１−６０はノード４、サンプル６１−１００はノード１とラベルがつけられる。この反応は全体としてデータの編成状態の良好な指標であるが、しかし不均一なサンプル数が割り振られている（参照  ノード１に対してサンプルが４０割り振られているのに対して、ノード２，５，４にはそれぞれサンプルが２０割り振られている）という事実は入力データが最適に編成され得ていないことを示している。一方で、図１（ｃ）で示す、厚さ３ｍｍのゴムに対する結果は、ＳＯＭがサンプルの範囲を通じてノードの幅広い分布を割当て、均一に存在している。
【００２２】
厚さ２ｍｍのゴムの結果は、ＳＯＭによってサンプルデータを通じ５つの異なる条件に識別され、各条件には２０のサンプルが含まれるという、よい編成と最適な集団の選択を示す。従って、条件の中のよい定義があり、各条件が合致するそれぞれのサンプル間のよい相関関係がある。２ｍｍのゴムによって緩衝された衝撃により生じたデータにより訓練されたＳＯＭは診断により修正される。従って、２ｍｍの緩衝材を使用して衝撃から集められたデータは結果を測定した固定装置に対して相応しいと取得され得、先に作成された基準による他の入力と共にニューラルネットワークに適用されるべきである。
【００２３】
従って、入力パラメータの異なる集合上で操作するＳＯＭを有する結果に対する編成の検査は、システムの構成が最適であることを示すことが可能である。従って、検査は関連するプロシージャでも使用されるべきである。各条件が同数の十分に相関したサンプルを有する５つの独立した条件を含む入力パラメータの集合を、ＳＯＭ自体や監視されない手段により、ＳＯＭは決定する能力を有することが示され得る。２ｍｍのゴムの構成に関連する入力パラメータが十分であると判定された条件として独立した認識や分類を可能にすべく互いに異なり、かつ、各条件内のデータはＳＯＭが他の場所に分類されない程度に関連があり、相似するようにできる。他の二つの設定（薄いゴムと厚さ３ｍｍのゴム）に対するデータは効率的に条件を分離しないだけでなく、ＳＯＭがこのような関係を認識するためには、この条件内では、（厚さ３ｍｍのゴムの場合）データは十分に類似していない。
【００２４】
同様の手法がＳＯＭに対する入力が最適なパラメータであるか識別するために使用されることができる。一般的に、ＳＯＭに対して全ての可能な入力により始められ、手段は以下の通りである。
１．ＳＯＭを訓練する工程、
２．各条件ｃに対して
条件ｃに対するサンプルのｐ％以上がＳＯＭの同じノードを起動する場合、
条件ｃを“診断済み”とラベル、
ノードの起動と他のノードの起動の抑制とに最も影響を有する入力を決定、
前回の工程で決定されたように、最も影響を有するＮｄ入力を格納、
変数（ＤＩＡＧｃ）に格納、
もしくは、条件ｃに対するサンプルが複数のノードを起動する場合、
“診断せず”と条件ｃをラベル、
ノードの起動と他のノードの起動の抑制とに最も影響を有する入力を決定、
前回のステップで決定されたように、最も影響を有するＮｍ入力を格納、
他の変数（ＭＩＳＤＩＡＧｃ）内のこの条件のためにノードの起動の状態で格納
を行う工程、
３．ＤＩＡＧｃ変数内に存在しないがＭＩＳＤＩＡＧｃ変数に存在する入力を識別する工程、
４．工程３で識別されたこれらの入力を除去し、入力データ集合の大きさを減少する工程、
５．全ての条件が診断として分類されるまで、または不十分な入力だけになるまで、減少された入力データ集合を使用して工程１から繰り返す工程。
【００２５】
入力がノードの起動に最も重要であることを決定するために、現在好まれている方法は定量化の誤差測定であり、方法はアンドレアス  ラウバー（Ａｎｄｒｅａｓ  Ｒａｕｂｅｒ）による“ラベルＳＯＭ：自己組織化マップのラベリング（ＬａｂｅｌＳＯＭ：Ｏｎ  ｔｈｅ  Ｌａｂｅｌｌｉｎｇ  ｏｆ  Ｓｅｌｆ−Ｏｒｇａｎｉｓｉｎｇ  Ｍａｐｓ）”により示されている、しかし他の方法も好ましい場合は使用され得る。
【００２６】
競合の可能性が工程３で起き得ることは理解されるだろう、同じ入力がある条件では誤診、また他の条件では診断のために重要なものとして認識され得る。この段階では、診断処理内の特定の条件下において特定の入力パラメータにより重要性を付与することを許可する更なるルールを導入することが好ましいであろう。
【００２７】
また可能性が格納する前回の入力データ集合の結果から予想され、ＳＯＭの現行の性能が前回の工程よりも悪化した場合、アルゴリズムが前回の工程の入力データ集合に復帰し、差分の入力パラメータを除去するように設定される。
【００２８】
本発明の実施形態からなる以下の手法の大要は、アルゴリズムが与えられた条件と入力データに対するＳＯＭの最適な入力のための解決方法に到達しつつあることを示す、図２、３で記述される結果の生成を導く。この例では、処理の最初の時点での入力の数は２６９であり、図３で示される結果はＳＯＭが入力の数を１１９に減少している時点である。自動的なＳＯＭの方法は各条件の認識を促進するパラメータを識別することから始まる。各図では、ノード１からノード９までの（３×３のアーキテクチャ）ＳＯＭの出力に対して、各条件は各２５のサンプルを示している。
【００２９】
この例のＳＯＭに対する入力は、信号処理の形式が時間と周波数の両方の領域で検査可能である、ウェーブレット分析による生データファイルの処理によるものである。本発明の実施形態により実現された２６９から１１９への入力の減少は、周波数の期間や時間に関する反応の識別特性の重要な領域が自動的な方法により認識されることを可能にしてきている。この場合では、分析により、高周波数のデータを廃棄し、衝撃装置からの衝撃に従うデータを保存した。
【００３０】
入力パラメータの保存や拒否や廃棄するために、技術が採用した管理されないニューラルネットワークと前回のデータの反復的使用とが監視され得る。
【００３１】
本発明の詳細な実装は、以下の操作により行われる。
【００３２】
入力データ集合を通じて入力パラメータの平均×標準偏差が＜０．０００００１である入力パラメータを廃棄することにより分析の準備を実行する工程。
【００３３】
入力の数が１０以下に落ちるか、全ての条件が診断されるまで、以下の工程が入力パラメータ集合を減少し重要な入力パラメータにするように行われる。
【００３４】
ＳＯＭを訓練する、要求されるＳＯＭの容量は入力の数の少なくとも２倍である。訓練回数の初期値は任意に３０００イベントに設定されている工程。
【００３５】
各サンプルを反復し、ＳＯＭ内の重みごとの量的誤差とノードを起動する値とを計算する工程。
【００３６】
サンプルごとの起動されるノードを計算するために、各サンプルを反復する（２回目）。獲得モード用のＳＯＭの重みの値と入力パラメータの値を乗算し、変数”ｆｉｒｅ”に格納する。同様の手法で、大量の負の値を作成する入力パラメータ（ノードが起動されない）が計算される工程。
【００３７】
廃棄されるパラメータが発見されるまで以下の工程を繰り返す、
同時に、順々に各条件を介して実行する工程。
【００３８】
現行の条件ごとに、ＳＯＭノードを一番起動するものを認識する工程。
【００３９】
ノードが公知のパーセンテージ以上に起動された場合、その条件がＳＯＭによって効果的に診断されたと分類される。ノードが公知のパーセンテージ以下に起動された場合、その条件がＳＯＭによって効果的に診断されないと分類される。
【００４０】
条件が分析されたとラベルされた場合、
前の工程で計算された変数”ｆｉｒｅ”を与えられた各サンプルをループし、これは一度に単一の条件とのみに通常等価である工程。
【００４１】
各サンプルを、大きさ順に起動値を整列させ、累積合計を計算する。データ集合内部で、合計起動値が公知のパーセンテージに到達する位置を認識し、この位置に上がった全てのパラメータは変数“ｍａｘｐｏｓ狽ノ返される工程。
【００４２】
また前の工程で決定された負の入力パラメータも前記変数に加えられる。負の入力パラメータが起動されないノードに対する大量の負の値の原因となるパラメータである工程。
【００４３】
条件が誤診とラベルされた場合、
全てのノードにおいて、この条件用に認識されるサンプルの最大パーセンテージが４５％以上の場合、基本的に健全なノードと推定されるが、入力パラメータが（誤診に対して）不適切として全て指標とされるべきとは限らない。そのため４５％で管理されているノード以外のノードの起動の原因となる場合、不適切として入力パラメータを指標とすることが選択される。従って、次の工程は、現行の条件内部において４５％で管理されるノード以外のノードを起動するサンプルの数を計算する。２つのノードが４５％で管理される場合、第一番目は成功として扱われ、二番目は不適切と扱われる。
【００４４】
全てのノードにおいて、認識されるサンプルの最大パーセンテージが４５％以下の場合、全ての条件は誤診として分類され、この条件に対するサンプル数の全てが使用される工程。
【００４５】
上記２つの工程で計算されたサンプル数に対して、条件の誤診を引き起こすノードを起動するために重要な入力パラメータを計算する。入力パラメータに対する指標は全ての誤診とされる条件を累積する変数に格納される。
【００４６】
大量の負の値はこの条件を診断し得るノードの起動を抑制し得、同じサンプル数に対し“総重量×入力データ”のための大量の負の値を生成する入力パラメータに対して指標を加える工程。
【００４７】
誤診のサンプルのみの原因となる入力パラメータを評価する工程。
【００４８】
サンプルを診断し誤診の両方の原因となる入力パラメータを評価する工程。
【００４９】
どれくらいの入力パラメータが廃棄されるべきか確定する。現在設定されている廃棄の割合は、任意に、入力パラメータの合計の１０％である工程。
【００５０】
誤診される条件にのみの原因となる全ての入力パラメータを識別し、次のサイクル内で廃棄するための入力パラメータの集合をあらかじめ配置しない。全てのこのような入力パラメータは廃棄するための入力パラメータの集合を加えられ、廃棄される入力パラメータの数は結果として一つずつ減少される工程。
【００５１】
廃棄のための入力の集合が加えられる入力パラメータがない場合、誤診のために返された取り入れ入力パラメータのパーセンテージが９８％に達し、誤診と診断の両方の原因となる入力パラメータに対して前回の工程が繰り返される工程。
【００５２】
このサイクルで廃棄される入力パラメータがない場合、従って、返された取り入れ入力パラメータのパーセンテージは“ｒｅｔｕｒｎｉｍｐｏｒｔａｎｔｉｎｄｅｘｅｓ”指令によって増大される。パーセンテージが９５％以下の場合、その増加は５％（７０％から始まる）であり、パーセンテージが９５％以上の場合、その増加は１％である工程。
【００５３】
順々に、次のサイクルが始まる前にディスクに保存される履歴変数の内部に工程ごとの分析を保存する工程。
【００５４】
図４で示すのは、フローダイアグラム形式によって、上記の例に関連して使用された本発明の実施形態の操作状態である。
【図面の簡単な説明】
【００５５】
【図１（ａ）】処理用のニューラルネットワークに適用する特定の入力パラメータの編成の状態の指標の斜視図。
【図１（ｂ）】処理用のニューラルネットワークに適用する特定の入力パラメータの編成の状態の指標の斜視図。
【図１（ｃ）】処理用のニューラルネットワークに適用する特定の入力パラメータの編成の状態の指標の斜視図。
【図２】図１と同様の、ニューラルネットワークに入力パラメータを適用するために編成されたプリプロセッサの出力の指標の斜視図。
【図３】図２と同様の、本発明の例に対応する処理の手段による入力パラメータ選択による精製に従うプリプロセッサの出力の指標の斜視図。
【図４】本発明のある例に対応する処理の操作のフローダイアグラム。
【図１（ａ）】
2004526231.tif 000003
【図１（ｂ）】
2004526231.tif 000004
【図１（ｃ）】
2004526231.tif 000005
【図４】
2004526231.tif 000006
【国際公開パンフレット】
2004526231.tif 000007
2004526231.tif 000008
2004526231.tif 000009
2004526231.tif 000010
2004526231.tif 000011
2004526231.tif 000012
2004526231.tif 000013
2004526231.tif 000014
2004526231.tif 000015
2004526231.tif 000016
2004526231.tif 000017
2004526231.tif 000018
2004526231.tif 000019
2004526231.tif 000020
2004526231.tif 000021
2004526231.tif 000022
2004526231.tif 000023
2004526231.tif 000024
2004526231.tif 000025
2004526231.tif 000026
2004526231.tif 000027
【国際公開パンフレット（コレクトバージョン）】
2004526231.tif 000028
2004526231.tif 000029
【国際調査報告】
2004526231.tif 000030
2004526231.tif 000031
2004526231.tif 000032