(57)【要約】  複数の入力変数に基づいて少なくとも１つの出力変数を予測する予測アルゴリズムは、対象アルゴリズムの集団を複数の世代を通じて進化させる遺伝的プログラミングを使用して作成する。それぞれの世代で、対象アルゴリズムは３つの適応度基準に基づいて評価される。（ｉ）入力変数の対応する第１セット測定結果に基づいて少なくとも１つの出力変数の第１セット測定結果を予測する、それぞれの対象アルゴリズムの能力を評価する正確性判断基準。（ｉｉ）それぞれのアルゴリズムの複雑性を評価する複雑性判断基準。（ｉｉｉ）それぞれのアルゴリズムの非線形性を評価する円滑性判断基準。予測アルゴリズムは、工場内の工業プロセスなどの物理的、化学的、又は生物的プロセスを監視するために使用する予測センサに実装できる。【特許請求の範囲】
【請求項１】
複数の入力変数に基づいて少なくとも１つの出力変数を予測する予測アルゴリズムの作成方法であって、
物理的、化学的、又は生物的プロセスを表すデータの第１のセットを得るステップであって、データの前記第１のセットは、前記少なくとも１つの出力変数の第１セット測定結果と、前記入力変数の対応する第１セット測定結果とを有するステップと、
少なくとも３つの適応度基準を適用する遺伝的プログラミング技術を使用して複数の対象アルゴリズムを進化させるステップであって、前記少なくとも３つの適応度基準は、前記入力変数の前記対応する第１セット測定結果に基づいて前記少なくとも１つの出力変数の前記第１セット測定結果を予測する、それぞれの対象アルゴリズムの能力を評価する正確性判断基準と、それぞれの対象アルゴリズムの複雑性を評価する複雑性判断基準と、それぞれの対象アルゴリズムの非線形性を評価する円滑性判断基準と、を含むステップと、
前記対象アルゴリズムの１つを前記予測アルゴリズムとして選択するステップと、
を有することを特徴とする予測アルゴリズム作成方法。
【請求項２】
前記物理的、化学的、又は生物的プロセスは、工業プロセスである請求項１に記載の予測アルゴリズム作成方法。
【請求項３】
前記少なくとも１つの出力変数は、放出監視に関する請求項１に記載の予測アルゴリズム作成方法。
【請求項４】
前記少なくとも１つの出力変数は、物理的特性、化学的特性、機械的特性、材料特性、又は生物特性である請求項１に記載の予測アルゴリズム作成方法。
【請求項５】
前記予測アルゴリズムは、前記３つの適応度基準について前記対象アルゴリズムの中で最適である請求項１に記載の予測アルゴリズム作成方法。
【請求項６】
前記対象アルゴリズムの１つを前記予測アルゴリズムとして選択するステップは、複数のパレートフロントアルゴリズムを得るために、前記３つの適応度基準について、どの前記対象アルゴリズムが３次元パレートフロント上に位置しているか決定するステップを有する、請求項１に記載の予測アルゴリズム作成方法。
【請求項７】
前記対象アルゴリズムの１つを前記予測アルゴリズムとして選択するステップは、前記パレートフロントアルゴリズムから前記予測アルゴリズムを選択するために、少なくとも１つの付加的な選択判断基準を適用するステップをさらに有する、請求項６に記載の予測アルゴリズム作成方法。
【請求項８】
前記物理的、化学的、又は生物的プロセスを表すデータの第２のセットを得るステップであって、データの前記第２のセットは、前記少なくとも１つの出力変数の第２セット測定結果と、前記入力変数の対応する第２セット測定結果とを有するステップと、
データの前記第２のセットを使用して前記予測アルゴリズムをテストするステップと、
をさらに有する請求項１に記載の予測アルゴリズム作成方法。
【請求項９】
データの前記第２のセットを使用して前記予測アルゴリズムをテストするステップは、前記入力変数の前記対応する第２セット測定結果に基づいて前記少なくとも１つの出力変数の前記第２セット測定結果を予測する、前記予測アルゴリズムの能力を評価するステップを有する、請求項８に記載の予測アルゴリズム作成方法。
【請求項１０】
物理的、化学的、又は生物的プロセスの監視方法であって、
前記物理的、化学的、又は生物的プロセスの複数の測定可能なパラメータの現在値を決定するステップと、
前記物理的、化学的、又は生物的プロセスの付加的なパラメータを前記測定可能なパラメータに基づいて予測する少なくとも１つの予測アルゴリズムを使用するように構成される推論センサに前記現在値を提供するステップであって、前記少なくとも１つの予測アルゴリズムは、正確性、複雑性、及び円滑性について最適化されているステップと、
前記推論センサが前記少なくとも１つの予測アルゴリズムを使用して、前記測定可能なパラメータの前記現在値に基づいて前記付加的なパラメータの推論値を決定するステップと、
を有することを特徴とする監視方法。
【請求項１１】
前記物理的、化学的、又は生物的プロセスの複数の測定可能なパラメータの現在値を決定するステップは、ハードウェアセンサを使用して前記利用可能なパラメータの少なくとも１つを測定する、請求項１０に記載の監視方法。
【請求項１２】
前記プロセスは、工業プロセスである請求項１０に記載の監視方法。
【請求項１３】
前記付加的なパラメータの前記推論値に基づいて前記工業プロセスを制御するステップをさらに有する、請求項１２に記載の監視方法。
【請求項１４】
前記付加的なパラメータの前記推論値に基づいて前記工業プロセスを制御するステップは、前記推論値とプリセットした値とを比較するステップを有する、請求項１３に記載の監視方法。
【請求項１５】
前記付加的なパラメータは、物理的特性、化学的特性、機械的特性、材料特性、又は生物特性である請求項１０に記載の監視方法。
【請求項１６】
前記測定可能なパラメータの履歴値と前記付加的なパラメータの履歴値とを適用した遺伝的プログラミング技術を使用して前記少なくとも１つの予測アルゴリズムを作成するステップであって、前記履歴値は、前記物理的、化学的、又は生物的プロセスに関して前もって得られているステップをさらに有する、請求項１０に記載の監視方法。
【請求項１７】
前記測定可能なパラメータの前記履歴値は、第１の範囲を規定し、前記測定可能なパラメータの前記現在値の少なくとも一部は、前記第１の範囲外にある、請求項１６に記載の監視方法。
【請求項１８】
前記付加的なパラメータの前記履歴値は、第２の範囲を規定し、前記付加的なパラメータの前記推論値は、前記第２の範囲外にある、請求項１６に記載の監視方法。
【請求項１９】
物理的、化学的、又は生物的プロセスの監視システムであって、
前記物理的、化学的、又は生物的プロセスの複数のパラメータの測定値を得るための少なくとも１つのハードウェアセンサと、
前記物理的、化学的、又は生物的プロセスの付加的なパラメータの推論値を前記測定値に基づいて決定する推論センサであって、前記推論センサは、遺伝的プログラミング技術を使用して正確性、複雑性、及び円滑性について最適化された少なくとも１つの予測アルゴリズムを使用して前記推論値を決定するように構成される推論センサと、
を有する監視システム。
【請求項２０】
前記物理的、化学的、又は生物的プロセスを前記推論値に基づいて制御する制御システムをさらに有する請求項１９に記載の監視システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ソフト又は推論センサに関する。より具体的には、３次元パレートフロント遺伝的プログラム技術を使用して作成した推論センサに関する。
【背景技術】
【０００２】
多くの場合、工業プロセスは、様々なプロセスパラメータを測定することによって監視制御される。これらのパラメータには、その工業プロセスにより、温度、圧力、流量などを含むことができる。関連するプロセスパラメータの一部は、プロセスがオンラインであるときに、ハードウェアのセンサなどを使用して比較的簡単に測定できる。しかしながら、他のプロセスパラメータは、通常の動作条件の下では測定が難しい可能性がある。推論センサ（inferential  sensor）、又はソフトセンサ（soft  sensor）を使用して、測定が簡単なプロセスパラメータ（入力変数）に基づいて測定が難しいプロセスパラメータ（出力変数）を推論できる。
【０００３】
所与のプロセスの推論センサを作成する標準的なアプローチにおいては、広範囲のプロセス条件に亘って履歴データが収集される。そして、履歴データを使用し、様々な技術を使用して、利用可能な入力変数に基づいて所望の出力を予測できる実験的モデルを作成できる。線形回帰は、使用できる可能性がある技術の１つである。しかしながら、実際は、多くの工業プロセス、特に化学工業は、非線形なので適用が制限される。
【０００４】
ニューラルネットワークモデルを使用して、非線形の工業プロセスがモデル化されてきた。しかしながら、概して、ニューラルネットワークモデルは、多くの難しい問題を有する。第１に、ニューラルネットワークモデルは、プロセスの変化に対して高感度となる可能性がある。このため、ニューラルネットワークモデルは、再作成モデル及び再調整モデルを頻繁に生成する必要がある可能性がある。
【０００５】
第２に、多くの場合、ニューラルネットワークモデルは、モデル作成に使用した範囲外で能力不足を示す。言い換えると、ニューラルネットワークモデルを所与の範囲の値で訓練すると、その範囲外では、ニューラルネットワークモデルは、良好な推定ができない。推定できないことにより、特定の工業プロセス、特に化学工業において壊滅的な結果を生じる可能性があった。
【０００６】
第３に、ニューラルネットワークモデルは、「ブラックボックス」として見ることができる。すなわち、ニューラルネットワークモデルは、明確な予測メカニズムを構成せずに予測される。したがって、ニューラルネットワークモデルは、解明することが難しい可能性がある。
【０００７】
第４に、ニューラルネットワークモデルは、実行及び維持することが難しい可能性がある。専用のソフトウェア及び訓練を必要とする可能性がある。
【０００８】
したがって、測定が容易なプロセスパラメータに基づいて測定が難しいプロセスパラメータを予測できる推論センサを作成する他の手段が必要となる。
【発明の概要】
【０００９】
第１の主たる態様において、典型的な実施形態は、複数の入力変数に基づいて少なくとも１つの出力変数を予測する予測アルゴリズムを作成する方法を提供する。この方法によると、物理的、化学的、又は生物的プロセスを表すデータの第１のセットが得られる。データの第１のセットは、少なくとも１つの第１セット出力変数の測定結果と、入力変数の対応する第１セット測定結果とを有する。複数の対象アルゴリズム（candidate  algorithms）は、少なくとも３つの適応度基準を適用する遺伝的プログラミング技術を使用して進化する。少なくとも３つの適応度基準は、（ｉ）入力変数の対応する測定結果に基づいて少なくとも１つの出力変数の測定結果を予測する、それぞれの対象アルゴリズムの能力を評価する正確性判断基準と、（ｉｉ）それぞれの対象アルゴリズムの複雑性を評価する複雑性判断基準と、（ｉｉｉ）それぞれの対象アルゴリズムの非線形性を評価する円滑性判断基準と、を含む。対象アルゴリズムの１つは、予測アルゴリズムとして選択される。
【００１０】
第２の主たる態様において、典型的な実施形態は、物理的、化学的、又は生物的プロセスを監視する方法を提供する。この方法に従って、物理的、化学的、又は生物的プロセスの測定可能な複数のパラメータの現在値が決定される。現在値は、推論センサに提供される。推論センサは、物理的、化学的、又は生物的プロセスの付加的なパラメータを測定可能なパラメータに基づいて予測し、正確性、複雑性、及び円滑性について最適化する少なくとも１つの予測アルゴリズムを使用する。推論センサは、少なくとも１つの予測アルゴリズムを使用して、測定可能なパラメータの現在値に基づいて追加のパラメータの予測値を決定する。
【００１１】
第３の主たる態様において、典型的な実施形態は、物理的、化学的、又は生物的プロセスを監視するシステムを提供する。そのシステムは、（ｉ）物理的、化学的、又は生物的プロセスの複数のパラメータの測定値を得るための少なくとも１つのハードウェアセンサと、（ｉｉ）物理的、化学的、又は生物的プロセスの付加的なパラメータの推論値を測定値に基づいて決定する推論センサであって、推論センサは、遺伝的プログラミング技術を使用して正確性、複雑性、及び円滑性について最適化する少なくとも１つの予測アルゴリズムを使用して推論値を決定するように構成される推論センサと、を有する。
【図面の簡単な説明】
【００１２】
【図１】本発明に係る予測アルゴリズムを表すノードを示す図である。
【図２】本発明に係る予測アルゴリズムを作成するフローチャートを示す図である。
【図３】典型的な実施形態における、予測アルゴリズムを実施できるプロセスシステムを概略的に示した図である。
【図４】典型的な実施形態における、遺伝的プログラミングを使用してＶＯＣ放出を予測するアルゴリズムを作成するために使用する設定パラメータの画面を示す図である。
【図５】典型的な実施形態における、図４の予測アルゴリズムを作成するために使用する関数の選択を表示する画面を示す図である。
【図６】典型的な実施形態における訓練データにおいて、図４の予測アルゴリズムで予測したＶＯＣ放出と実際のＶＯＣ放出との比較を示す図である。
【図７】典型的な実施形態におけるテストデータにおいて、図４の予測アルゴリズムで予測したＶＯＣ放出と実際のＶＯＣ放出との比較を示す図である。
【図８】典型的な実施形態における、ニューラルネットワークモデルで予測したＶＯＣ放出と図７のテストデータとの比較を示す図である。
【発明を実施するための形態】
【００１３】
１.概説
複数の入力変数に基づいて少なくとも１つの出力変数を予測する予測アルゴリズムは、少なくとも３つの適応度基準を適用する遺伝的プログラミング技術を使用して作成できる。入力変数と少なくとも１つの出力変数は、工業プロセス、若しくは物理的プロセス、化学的プロセス、又は生物的プロセスなどの様々なパラメータに対応できる。１つの有利なアプローチでは、入力変数は、実際に測定されるパラメータに対応するのに対し、少なくとも１つの出力変数は、より測定が難しい１つ以上のパラメータに対応する。このように予測アルゴリズムを推論センサに使用して、測定が容易なプロセスパラメータ値（入力変数）に基づいて１つ以上の測定が難しいプロセスパラメータ値（出力変数）を予測できる。そして、推論センサの出力は、プロセスを監視及び／又は制御するシステムで使用できる。
【００１４】
遺伝的プログラミング技術を使用して、物理的、化学的、又は生物的プロセスを表す履歴データを正確に再生できる予測アルゴリズムを作成できる。履歴データは、（様々な期間及び／又は動作条件の下で行われた）少なくとも１つの出力変数の多くの測定結果と、入力変数の対応する測定結果とを含む。
【００１５】
所望の精度を有する予測アルゴリズムを発見するために、遺伝的プログラミング技術は、複数世代間を通じて対象アルゴリズムの集団を進化させる。それぞれの世代において、対象アルゴリズムは、様々な適応度基準に基づいて評価できる。典型的な実施形態では、３つの適応度基準が適用される。（ｉ）入力変数の対応する測定結果に基づいて少なくとも１つの出力変数の測定結果を予測する、それぞれの対象アルゴリズムの能力を評価する正確性判断基準（ｉｉ）それぞれの対象アルゴリズムの複雑性を評価する複雑性判断基準（ｉｉｉ）それぞれの対象アルゴリズムの非線形性を評価する円滑性判断基準。これらの適応度基準は、単なる一例であり、付加的な及び／又は代替的な適応度基準を提供できることが理解できる。
【００１６】
適用する適応度基準に基づく最適な対象アルゴリズムは、複写、交叉、又は変異などの遺伝的操作の使用を介して、次世代に伝播できる。このように、遺伝的プログラミング技術は、平均すると、（適切な基準を適用することによって判断されて）ある世代から次の世代に、より適切な対象アルゴリズムを進化させる。
【００１７】
最終的には、進化的なプロセスは、例えば、多くの世代に基づくことにより、又は他の何らかの終了基準を達成することにより、終了する。そして、この段階の集団は、分析されて、適用された３つの適切な基準について、どの対象アルゴリズムが３次元パレートフロント上に位置しているか決定できる。パレートフロントアルゴリズムは、他の適応度基準について適応度を悪化させることなしに集団における他のアルゴリズムで１つの適応度基準について適応度を改良することができないアルゴリズムである。このように、パレートフロントアルゴリズムは、３つの適切な基準について「最適」であると考えることができる。そして、他の選択基準に基づいて、１つの特定のアルゴリズムは、パレートフロントアルゴリズムの中から選択して予測アルゴリズムとして使用できる。
【００１８】
選択された予測アルゴリズムは、履歴データを付加的に使用するなど、さらなるテスト受けることができる。予測アルゴリズムが条件を満たしている場合は、物理的、化学的、又は生物的プロセスの１つ以上のパラメータを推論する推論センサの一部などオンラインで使用できる。このように予測アルゴリズムを作成することによって、予測アルゴリズムは、正確性、複雑性、及び円滑性について最適化できる。
【００１９】
これらの３つの適切な判断基準について最適化することによって、多くの利点を提供できる。有利には、正確性判断基準は、正確なアルゴリズムの作成に特に有利に働く。しかしながら、異なる適用には異なるレベルの正確性が必要となる可能性があることが理解できる。したがって、所望のレベルの正確性を獲得すると、他の基準が重要になり得る。この見地において、複雑性判断基準は、コンピュータ的により有効であり、プロセスの変化に対してより堅固である節約アルゴリズム（parsimonious  algorithms）の作成に有利に働く。円滑性判断基準は、推定できる可能性が十分に高い線形アルゴリズムの作成に有利に働く。この最後の点は、プロセスパラメータの変動性を鑑みると特に重要になる。予測アルゴリズムは、特定の作成範囲内にある入力変数の値とともに履歴データを使用して作成できるが、入力変数の値が作成範囲外であるときも予測アルゴリズムが正しいことが望ましい。
【００２０】
したがって、正確性と同様に複雑性及び円滑性について適切な基準を適用することによって、遺伝的プログラミング技術は、正確性に加えて目的を満たす予測アルゴリズムを作成できる。例えば、その技術は、プロセスに対した改良されたロバスト性と作成範囲を超えて推定する改良された安定性とを有する予測アルゴリズムをもたらすことができる。
【００２１】
２．予測アルゴリズムを表す典型的なノード
典型的な実施形態において、遺伝的プログラミング技術を使用して数学式の形式の予測プログラムを作成できる。そして、数学式を使用して入力変数値に基づいて出力変数値を計算できる。この数学式の一例は、以下の通りである。
【００２２】
（１）  Ｖ＝［ｘ／ｙ  ＋  α  ｅｘｐ（−ｚ）］β
ここで、Ｖは出力変数を示し、ｘと、ｙと、ｚとは入力変数を示し、αとβとは、定数を示す。
【００２３】
遺伝的プログラミング技術を説明するために、数学式は、式を文法的に説明する方法に従って、ツリー構造によって表すことができる。したがって、上記の数学式（１）は、図１に示すツリー構造１０によって表すことができる。ツリー構造１０では、関数、入力変数、及び定数とは、ノード１２〜３２によって表わされる。具体的には、ノード２８、３０、及び３２は、入力変数ｘ、ｙ、及びｚをそれぞれ表す。ノード２０及び１６は、それぞれ定数α及びβを表す。ノード２４は、シンボル「／」で示した除算関数を表す。ノード２６は、シンボル「−」で示した減算関数を表す。ノード２２は、シンボル「ｅｘｐ」で示した指数関数を表す。ノード１８は、シンボル「＊」で示した乗算関数を表す。ノード１４は、シンボル「＋」で示した加算関数を表す。ノード１２は、シンボル「＾」で示した累乗関数を表す。
【００２４】
式（１）と対応するツリー構造とは、単なる一例であると理解できる。一般に、遺伝的プログラムで作成された式は、任意の数のノードを含むことができ、ノードは、任意の数の関数、入力変数、及び定数を含むことができる。関数は、代数関数（例えば、加算、減算、乗算、除算、符号変換、平方根、及び累乗など）、超越関数（例えば、指数、対数、正弦、及び余弦など）、条件節関数（例えば、独立変数がゼロより大きいか否かなどのように、独立変数が特定の条件を満たすか否かによって異なる値をとる関数など）、又は他の種類の関数を含むことができる。しかしながら、関数は、数学的な関数である必要はない。例えば、入力変数が論理状態を示す場合は、関数は、ＡＮＤ、ＯＲ、ＸＯＲ、及びＮＯＴのような論理関数を含むことができる。他の例では、入力変数は、テキスト情報を含むことができ、この場合は、関数は文字列関数を含むことができる。さらに他の種類の関数を使用できる。
【００２５】
遺伝的プログラミング技術の基本的な考え方は、式の集団を進化させることである。これは、ノードを操作する遺伝的な操作を適用することによって、図１に示すツリー構造のように概念化できる。ノードの操作は、１つ以上のノードを変化させる「突然変異」を含むことができる。例えば、突然変異により１つの関数を他の関数に変更できる。したがって、ツリー構造１０は、ノード１８を乗算から加算に変更することによってと突然変異する。また、突然変異は、１つ以上の端子ノード、すなわち、入力変数及び定数を表すノードに作用できる。したがって、ツリー構造１０は、ノード２０を定数αからｘなどの入力変数に変更することによって突然変異する。
【００２６】
ノードの操作は、１つ以上のノードを２つの式が交換する「交配」操作も含むことができる。例えば、ツリー構造１０では、ノード２２、２６、及び３２は、他の式に与えられた１つ以上のノードに置換できる。与えられたノードは、異なる関数、入力変数、及び／又は定数を含むことができる。さらに式のノード数は、交配操作の結果として、増加又は減少できる。例えば、ノード２２、２６、及び３２は、ツリー構造でｅｘｐ（−ｚ）を表しているが、入力変数ｚなどの単一ノードに置換できる。また、ノード２２、２６、及び３２は、ノード数が多い式ｌｏｇ（ｘ＋ｙｚ）などのより複雑な式に置換することができる。
【００２７】
突然変異及び交配は、標準的な遺伝的な操作であるが、ノードを他の方法で操作できることが理解できる。１つの例として、編集操作を適用できる。編集操作は、全体として式が妥当であることを確認しながら、存在するノードを除去し及び／又は新しいノードを式に挿入することができる。他の例として、単純化操作を適用できる。単純化操作では、サブツリーを単純且つ等価な式と置換するなどによって、式の単純化を試みることができる。したがって、関数と定数とを含むが変数を含まないサブツリーは、新たな定数に置換できる。
【００２８】
また、式を表すノードは、他の目的にも使用できる。例えば、式のノード数は、式の複雑性の尺度として使用できる。例えば、１１のノードを有する図１のツリー構造１０で表された式は、より少ないノード数を有する式よりも複雑であるが、より多いノード数を有する式よりも複雑ではないと考えることができる。したがって、このアプローチでは、それぞれのノードは、式の複雑性に対して同等量の寄与をすると考えられる。また、複雑性を決定するために、異なるノードは、異なる重みを与えることができる。１つの例として、超越関数を表すノードは、加算関数を表すノードよりも複雑であると考えられるので、複雑性を決定するときに大きい重みを与えることができる。他の例として、ノードの複雑性の重みは、そのノードに依存する全てのサブツリーのノード数として計算できる。したがって、図１のノード２２は、「ｅｘｐ（−ｚ）」サブツリーの３つのノード、「−ｚ」サブツリーの２つのノード、及び「ｚ」サブツリーの１つのノードに基づいて６の複雑性重みを有することになる。そして、ツリー構造１０の複雑性は、そのそれぞれのノード、すなわちノード１２〜３２の複雑性重みの合計として表すことができる。
【００２９】
３．予測アルゴリズムを作成する典型的な方法
図２は、遺伝的プログラミングを使用して予測アルゴリズムを作成する典型的な方法について説明するフローチャートを示す図である。この例では、予測アルゴリズムは、物理的、化学的、又は生物的プロセスのための様々な入力変数に基づいて特定の出力変数を予測するために作成されている。
【００３０】
ブロック１００で示されるように、この方法は、予測アルゴリズムを作成するために使用する履歴データを選択することによって開始する。履歴データは、予測プログラムに意図される同一のプロセス又は類似するプロセスを表すことができる。履歴データは、多くのデータ点を含み、データ点はそれぞれ、出力変数の測定結果と、入力変数の対応する測定結果とを含む。データの一部又は全ては、プロセスの標準的な動作の一部として収集できる。また、データは、例えば、オフラインプロセスで取ることによって及び／又は体系的に入力パラメータを調整することによって、特にモデル作成のために収集できる。さらに、測定結果は、様々な方法で得ることができる。例えば、ハードウェアセンサを使用して、１つ以上のプロセス変数の測定結果を直接得ることができる。また、測定結果の一部又は全部を推論センサから推論し、又は他の検討事項に基づいて計算するなどして、間接的に得ることができる。
【００３１】
また、履歴データは、履歴データを使用して予測アルゴリズムを作成する前に、１つ以上のプリプロセスステップを経ることができる。プリプロセスステップを使用して異常値を特定して除去できる。また、プリプロセスステップを使用して、感度研究（sensitivity  studies）などによって、予測できる出力変数と関連性がある入力変数を決定する。したがって、履歴データを選択して、興味がある出力変数に関連する可能性がもっとも高い高信頼性データを表す測定結果に焦点を当てることができる。
【００３２】
さらに、プリプロセスされたこの履歴データは、予測アルゴリズムを作成する「訓練データ」（training  data）として使用できる第１のセットと、作成された予測アルゴリズムをテストするために使用する第２のセットとに分割できる。２つのセットは、入力及び／又は出力変数の異なる範囲に規定できる。異なる範囲に使用することによって、データの第２のセットを使用して、作成に使用した範囲外の推定が予測アルゴリズムで可能であるかをテストできる。
【００３３】
ブロック１０２に示すように、作成方法の他の重要なステップは、適応度基準を規定することである。適応度基準を使用して、遺伝的プログラミングを通じて進化した対象アルゴリズムの適応度を評価することになる。典型的な実施形態では、３つの適応度基準が使用される。（ｉ）履歴データ内の入力変数の対応する測定結果に基づいて少なくとも１つの出力変数の測定結果を予測する、それぞれの対象アルゴリズムの能力を評価する正確性判断基準。（ｉｉ）対象アルゴリズムの複雑性を評価する複雑性判断基準。（ｉｉｉ）それぞれの対象アルゴリズムの非線形性を評価する円滑性判断基準。
【００３４】
正確性判断基準は、対象アルゴリズムと履歴データとの間の適応度の良好性についての統計に基づく測定結果を適用できる。統計に基づく測定の一例は、相関係数とＲ2値とを含む。より正確な統計に基づく測定結果に基づいた対象アルゴリズムは、より適応度した対象アルゴリズムであると考えられる。
【００３５】
複雑性判断基準は、それぞれの対象アルゴリズムの複雑性の測定結果に適用できる。対象アルゴリズムの複雑性は、対象アルゴリズムを表すツリー構造におけるノード数又はレベル数を計算することによって測定できる。また、それぞれのノードは、全般的な式の複雑性に寄与する複雑性重みを与えることができる。上述のように、ノードの複雑性重みは、ノードに依存するサブツリーのそれぞれのノードの数として計算できる。より複雑な複雑性測定結果に基づく対象アルゴリズムは、より適応度が低い対象アルゴリズムであると考えられる。
【００３６】
円滑性判断基準は、対象アルゴリズムのそれぞれの非線形性測定結果に適用できる。より非線形な非線形測定結果に基づく対象アルゴリズムは、より適応度が低い対象アルゴリズムであると考えられる。
【００３７】
非線形性は、様々な方法で測定できる。１つのアプローチでは、対象アルゴリズムを訓練データで規定される間隔で入力変数の値の範囲を適用して、対応する出力変数の値を計算することによってサンプリングできる。そして、対象アルゴリズムの非線形性の量は、サンプリングした出力変数の値の変化量として定量化できる。他のアプローチでは、様々なサンプリング点の対象アルゴリズムから局部的な派生物を取り上げることができる。対象アルゴリズムの非線形性の量は、サンプリングした派生物の変化量として定量化できる。
【００３８】
また、他のアプローチでは、対象アルゴリズムの非線形性は、ノード毎の基準に基づいて計算でき、ここでは、式のそれぞれの関数ノードの非線形性が決定され、全体的な式の非線形性は、ノードの非線形性の合計として与えられる。ノードの非線形性は、上述のサンプリング技術、又は多項式フィッティングなどの様々な方法で規定できる。後者のアプローチでは、ノードの非線形性の次数は、規定された許容範囲内までに訓練データの間隔でノード関数を多項式に適応度させるために必要な多項式の次数にできる。
【００３９】
典型的な実施形態では、これら３つの適応度基準は、無関係に適用される。例えば、それぞれの世代の対象アルゴリズムは、これら３つの適応度基準のそれぞれについて評価でき、パレートフロント上に位置する対象アルゴリズムがもっとも適応度が高いと判断できる。また、これら３つの適応度判断は、ともに重み付けして全体的な適応度判断を特定できる。この場合、全体的にもっとも高い適応度を有する対象アルゴリズムが最適であると判断できる。また、これら３つの適応度判断は、他の方法でも適用できる。
【００４０】
ブロック１０４に示すように、適応度判断を規定することに加えて、他のパラメータは、遺伝的プログラミング動作の設定に必要となることがある。１つの検討事項は、遺伝的プログラミングのために使用する関数のセットである。標準的には、四則演算のような簡単な代数関数が含まれる。しかしながら、条件関数及び／又は超越関数などの他の種類の関数も、問題の必要性により選択できる。例えば、データが周期性を有するとき、正弦及び余弦関数を選択できる。他方では、非線形性又はコンピュータ的非効率性などの理由で、特定の関数を避けることができる。
【００４１】
他の様々なパラメータを使用して対象アルゴリズムの初期集団を設定できる。例えば、初期集団がランダムに生成される場合、ノードとして関数を選択する確率を特定できる。より高い関数選択の確率を有することにより、より複雑な式がもたらされる傾向がある。対象アルゴリズムの初期集団の大きさもまた、特定できる。集団の大きさは、遺伝的プログラミング動作を通じて一定に維持できる。また、集団は、プリセットした限度内で増加又は減少できる。標準的な集団の大きさの設定は、１００〜１０００の間の値である。他のパラメータの標準的な設定は、図４に示す。
【００４２】
他のパラメータを使用して遺伝的プログラミングを使用した進化プロセスを規定できる。例えば交配操作が使用される場合、選択可能なパラメータを使用して、「子孫」の何割が交配によって生成されるかを決定できる。他の選択的なパラメータを使用して、ランダム及び交配に誘導される確率を決定できる。突然変異操作が使用される場合は、選択可能なパラメータを使用して、突然変異動作を経験する対象アルゴリズムの確率を決定し、突然変異が生ずるときに関数又は端子ノードが突然変異する確率を決定できる。端子ノードが突然変異する確率の標準値は、０．３である。
【００４３】
遺伝的プログラミング動作について１つ以上の終了条件を規定できる。１つのアプローチでは、遺伝的プログラミング動作を設定して、一定の世代数で実行する。標準的な例では、一定の世代数は、数百から千までの世代の範囲にできる。しかしながら、他の遺伝的プログラム動作の終了条件を指定できる。
【００４４】
これらの設定パラメータは、単なる一例であることが理解できる。他の選択可能なパラメータを使用して遺伝的プログラミング動作を規定できる。さらに、様々な選択可能なパラメータに使用する値は、「経験則」、試行錯誤、又は統計的実験計画などの他の検討事項に基づいて、任意に選択するなど様々な方法で選択できる。
【００４５】
ブロック１０６に示すように、遺伝的プログラム動作が設定されると、対象アルゴリズムの初期集団を規定できる。ある場合では、初期の対象アルゴリズムは、ランダムに生成できる。例えば、関数は、トップレベルのノードにランダムに選択できる。そして、従属するノードは、完全なツリー構造が生成されるまで、自由に選択できる（例えば、関数又は端子ノードを選択するプリセットした確率を適用する）。
【００４６】
また、初期対象アルゴリズムの一部又は全部は、他の検討事項に基づいて選択できる。例えば、以前の研究（経験又は理論に基づく一方の）によって、見込みがあると思われる１つ以上のアルゴリズムを作成することができる。そして、これらの見込みがあるアルゴリズムは、初期集団に含むことができる。
【００４７】
そして、ブロック１０８に示すように、対象アルゴリズムは、ブロック１００で選択した履歴データとブロック１０２で規定した適応度基準とを使用して進化する。標準的な進化的なアプローチでは、集団の中の最適な対象アルゴリズムが選択され、「子孫」アルゴリズムを生成して、「子孫」アルゴリズムを使用して、集団の中で適応度がもっとも低い対象アルゴリズムを置換する。
【００４８】
例えば、典型的な実施においては、現在の世代は、トーナメントプロセスで選ばれた「親」からのアルゴリズムの「保存記録」（archive）として扱われる。トーナメントアプローチでは、所定の数（例えば３から５）の可能性を有する「親」アルゴリズムが保存記録からランダムに選ばれる。そして、トーナメントプロセスを使用して「勝者」を決定する。すなわち、可能性がある「親」アルゴリズムのいずれかが子孫を残すことができるかを決定する。典型的なトーナメントプロセスでは、「勝者」は、最も高い正確性を有する２つの「親」アルゴリズムにできる。そして、これらの２つの勝者は、交配操作によって子孫を残すことができる。トーナメントプロセスは、単なる一例であり、他のアプローチを使用してどの対象アルゴリズムが子孫を残すことができるかを決定できることが理解できる。
【００４９】
子孫アルゴリズムは、一方の親アルゴリズムのサブツリーと他方の親アルゴリズムのサブツリーとを結合する交配操作によって生成できる。したがって、２つの親アルゴリズムは、サブツリーを交換して、異なった２つの子孫アルゴリズムを生成する。交配に使用するサブツリーは、ランダムに選択できる。
【００５０】
そして、子孫アルゴリズムは、前もって選択された突然変異の確率に基づいて、突然変異できる。１つのアプローチでは、突然変異を使用して、対象アルゴリズムの１つのノードを変更できる（遺伝的プログラミングの設定方法に基づいて、関数又は端子ノードのいずれか一方）。また、突然変異は、対象アルゴリズムの複合的なノード（例えば、サブツリー）を変更できる。さらに、ある突然変異は、対象アルゴリズムのノード数を増加し、又は減少できる。例えば、１つの従属ノードのみを有する関数が２つの従属ノードを有する関数に変更する場合は、付加的な端子ノードをランダムに生成できる。
【００５１】
交配及び突然変異操作についての先の議論は、単なる実例であることが理解できる。交配及び突然変異操作は、異なる方法で適用できる。さらに、他の遺伝的な操作を使用して、対象アルゴリズムを進化できる。
【００５２】
子孫は、集団パラメータで指定された子孫の数になるまで、このように生成し続けることができる（例えばトーナメントアプローチを使用して「親」を選択する）。そして、「保存記録」アルゴリズム及び「子孫」アルゴリズムを含む全ての対象アルゴリズムは、正確性、複雑性、及び円滑性基準に対して評価できる。そして、パレートフロント上又はパレートフロント近傍に位置する「保存記録」及び「子孫」アルゴリズムの統合したセット内の対象アルゴリズムを使用して、新しい保存記録を装着する。
【００５３】
新しい保存記録の大きさは、例えば７５％から１００％の「子孫」集団の大きさのパーセンテージとして特定できる。したがって、１００％の例を使用すると、１００のアルゴリズムの保存記録を使用すると、１００の子孫を生成できる。そして、保存記録及び子孫アルゴリズムの統合したセット内の２００のアルゴリズムの中からの適応度がもっともよい１００個のアルゴリズムを使用して、新しい１００個のアルゴリズムの保存記録を装着する。この方法では、正確性、複雑性、円滑性に対してもっとも適応度を有する対象アルゴリズムが次の世代に続き、平均的には、対象アルゴリズムは、次に続くそれぞれの世代で次第により適応度を有するようになる。
【００５４】
ブロック１１０に示すように、対象アルゴリズムは、終了条件を満たすまでこのように進化し続けることができる。ブロック１１２に示すように、終了条件を満たすと、対象アルゴリズムの集団を分析して、どの対象アルゴリズムが３つの適応度基準についてパレートフロント上に位置するかを決定する。標準的には、パレートフロントアルゴリズムは、単なる集団の小さなサブセットであるが、１つより多くできる。ブロック１１４に示すように、パレートフロントアルゴリズムの１つを予測アルゴリズムとして選択するために、付加的な選択基準を適用できる。
【００５５】
例えば、付加的な選択基準は、どのパレートフロントアルゴリズムが正確性、複雑性、及び円滑性のもっとも望ましいバランスを有するかを決定できる。また、付加的な選択条件は、式の内容に基づいてパレートフロントアルゴリズムを評価できる。例えば、重要な物理的な解釈を有する式及び／又は特定の種類の関数を有する式は、好適である。ある場合では、予測アルゴリズムは、以下で説明するように検証プロセスのために付加的なデータを使用するなどして、付加的なテストに基づいてパレートフロントアルゴリズムの中から選択できる。したがって、予測プログラムは、訓練データで使用した範囲外で正確に推定する能力に基づいて選択できる。
【００５６】
そしてブロック１１６に示すように、選択された予測プログラムは、検証される。また、検証プロセスを使用してどのパレートフロントアルゴリズムを予測アルゴリズムとして使用するか選択できる。検証プロセスは、付加的なデータで予測アルゴリズムをテストすることを含むことができる。例えば付加的なデータは、ブロック１００で選択した履歴データに保存したデータの第２のセットにできる。予測アルゴリズムが所定のレベルの正確性を有する履歴データの第２のセットを再生できる場合、予測プログラムは、有効であると考えることができる。上述のように、作成に使用したデータの第１のセットに含まれる値の範囲外の値を有するテストのデータの第２のセットを使用して、予測アルゴリズムを成功裡に推定する能力をテストできる。予測アルゴリズムは、他の方法でもテストできることを理解できる。例えば、予測アルゴリズムを試験的基準で、オンラインで使用して良好な結果を得ることができるか否かを決定できる。
【００５７】
予測アルゴリズムが正確なときは、以下により詳細に説明するように推論センサで実行できる。
【００５８】
４．予測アルゴリズムの典型的な実施
上述したような遺伝的プログラミング技術を使用して作成した予測アルゴリズムは、様々な方法で使用できる。例えば、予測アルゴリズムは、予測アルゴリズムが作成された物理的、化学的、又は生物的プロセスを監視及び／又は制御するシステムを実行できる。物理的、化学的、又は生物的プロセスは、工場又は他の施設における工業プロセスにできる。例えば、予測プログラムを使用して工業的な製造プロセスの監視を支援し、工業プロセスから生じる放出の監視を支援できる。また、予測アルゴリズムは、自動車で放射を監視するために使用するなど、消費財で使用できる。さらに予測アルゴリズムの他の実施が可能である。
【００５９】
図３は、予測プログラムを実施できる典型的なプロセスシステム２００を概略的に示した図である。プロセスシステム２００は、工場、消費財、及び物理的、化学的、又は生物的プロセスが存在する他のシステムにできる。図３では、監視された特定の物理的、化学的、又は生物的プロセスがプロセス２０２として概略的に記載される。図３にハードウェアセンサ２０４〜２０８として表された１つ以上のハードウェアセンサを使用して、プロセス２０２の測定可能な複数のパラメータの測定値として得ることができる。測定可能なパラメータは、プロセス２０２の特性により温度、圧力、流量などを含むことができる。好適には、測定可能なパラメータは、プロセス２０２がオンラインのときにハードウェアセンサ２０２〜２０８が測定できるパラメータである。図３はプロセス２０２を監視する３つのハードウェアセンサを示しているが、より多い又はより少ないハードウェアセンサ数を使用できると理解できる。
【００６０】
ハードウェアセンサ２０２〜２０８は、通信に関して推論センサ２１０と接続できる。推論センサ２１０は、ハードウェアセンサ２０２〜２０８から提供された測定可能なパラメータの測定値を使用してプロセス２０２の付加的な対象パラメータの推論値を決定するように構成できる。推論センサ２１０は１つ以上の予測アルゴリズムを使用してこの決定をすることができる。好適には、少なくとも１つの予測アルゴリズムは、上述の遺伝的プログラミング技術の手段によってプロセス２０２から履歴データを使用して作成され、そして正確性、複雑性、及び円滑性について最適化される。しかしながら、推論センサは、他の方法で作成した他の予測アルゴリズムも使用できる。
【００６１】
したがって、推論センサは、ハードウェアセンサ２０２〜２０８が提供した測定値に基づく対象パラメータの現在値を予測する少なくとも１つの予測アルゴリズムを使用できる。ある実施では、推論センサ２１０は、予測値を推論値として簡単に取ることができる。また、推論センサ２１０は、予想値に基づいて推論値を決定するアルゴリズムを適用できる。推論センサ２１０は、１よりも多い予測アルゴリズムによって、１より多い予測値を得る場合は、推論センサ２１０は、予測値の１つを選ぶことにより、予測値を平均することにより、又は、他のいくつかの方法により推論値を決定できる。
【００６２】
推論センサ２１０は、対象パラメータの推論値を制御システム２１２に提供できる。そして、制御システム２１２は、推論値を使用して付加的な動作を行うか否かを決定できる。例えば、制御システム２１２は、推論値と１つ以上のプリセット値とを比較して対象パラメータが範囲外であるか否かを決定できる。対象パラメータが範囲外の場合、制御システム２１２は、対象パラメータを範囲内に戻すように試みるなど、プロセス２０２の制御を初期化できる。また、制御システム２１２は、対象パラメータが範囲外である場合、推論値の記録をとり、警告を発することができる。
【００６３】
推論センサ２１０及び制御システム２１２はそれぞれ、適当なコンピュータコードを実行するコンピュータシステムとして実行できる。したがって、推論センサ２１０のコンピュータコードは、遺伝的プログラミングを使用してプロセス２０２を作成する１つ以上の予測プログラムを有することができる。推論センサ２１０及び制御システム２１２は、ともに統合することもできる。
【００６４】
したがって、有利には、プロセスシステム２００は、プロセス２０２がオンラインのときに、ハードウェアセンサで容易に測定できるパラメータに基づいて、プロセス２０２がオンラインのときに測定することが難しい可能性があるプロセス２０２の対象パラメータを監視できる。しかしながら、ハードウェアセンサを使用して推論センサ２１０の入力パラメータの現在値を得ることは、単なる一例であることが理解できる。推論センサ２１０は、他の推論センサから得るなどの他の方法で１つ以上のパラメータの現在値を得ることもできる。
【００６５】
５．ＶＯＣ放出のための予測アルゴリズム
化学工場からの揮発性有機化合物（ＶＯＣ）放出を予測する予測アルゴリズムは、上述の３次元パレートフロント遺伝プログラミング技術を使用して作成した。工場から得られる履歴データのセットは、ＶＯＣ放出の測定結果及び対応する時間に作成された種々のプロセス変数の多くの測定結果を含んでいた。プロセス変数は、密度、割合、揮発性、真空度、温度、ホッパ重量、メルトインデックス、及びペレット水温度であった。
【００６６】
明白な異常値は、履歴データから除いた。そして、履歴データは、２つのセットに分割した。一方のセットは、２５１のデータ点からなり、モデル作成のために選択した（訓練データ）。他方のセットは、１０８のデータ点からなり、モデル検証として選択した（テストデータ）。予測アルゴリズムが推定する能力をテストするために、訓練データの範囲外２０％であるように選択した。
【００６７】
図４には、３次元パレートフロント遺伝プログラミングの設定パラメータを示す。図５に示すように、遺伝的プログラミングに使用する関数のセットは、利用可能な関数のメニュから選択した（選択された関数はチェックマークが示されている）。複雑性は、それぞれのノードの複雑性重みを合計して決定したが、ノードの複雑性重みは、そのノードに依存する全てのサブツリーのノード数であった。上述のように、非線形性は、所定の許容範囲内のそれぞれのノード関数に適応度するのに必要な多項式の次数を合計することによって決定した。
【００６８】
遺伝的プログラミングが完了したとき、１００のアルゴリズムの集団の中の数個のアルゴリズムのみが、最適な正確性、複雑性、及び円滑性のパレートフロント上に位置していた。以下のパレートフロントアルゴリズムは、検証のために選択した。
（２）  VOC＝8.0746＋6.0157ｅ−14＊[Rate1.953＊Hopper  Weight＊（Vaccum＋Pellet  Water  Temparature）]
【００６９】
図６に示すように、この予測アルゴリズムによって作成されたＶＯＣ予測は、訓練データとの一致性が良好であった（相関係数＝0.92884）。
【００７０】
次に予測アルゴリズムを、テストデータを使用して検証した。図７は、アルゴリズム（２）で予測したＶＯＣ放出と実際に測定したＶＯＣ放出とを比較する。この予測アルゴリズムは、訓練範囲外２０％以下のエリアで良好な推定性能を示すことが分かる（矢印で示すように、図７のサンプル７０と８５との間のＶＯＣ値）。
【００７１】
比較のために、ニューラルネットワークモデルを同じ訓練データを使用して作成した。そして、ニューラルネットワークモデルは、同じテストデータをＧＰベースの予測アルゴリズムとして使用して検証した。しかしながら、図８に示すように、ニューラルネットワークモデルは、訓練範囲外での推定では良好ではなかった。
【００７２】
このように、この例では、遺伝的プログラミング技術を使用して、複数の関連がある入力変数と所望の出力変数（ＶＯＣ放出などの）とを関連付ける比較的簡単且つ分析的な式を作成できる方法を示す。これに対して、ニューラルネットワークモデルは標準的には、読み取ることが難しい可能性がある「ブラックボックス」である。さらに、線形性に有利に働く適応度基準（円滑性判断基準）を使用することによって、遺伝的プログラミング技術を使用して良好な推定能力を有する予測アルゴリズムを作成できる。
【００７３】
６．結び
本発明の典型的な実施形態について説明してきた。しかしながら、当業者は、特許請求の範囲で規定される本発明の本来の目的及び範囲を逸脱することなく、これらの実施形態に変形及び修正をすることができることを理解できる。
【図１】
2010522376.tif 000002
【図２】
2010522376.tif 000003
【図３】
2010522376.tif 000004
【図４】
2010522376.tif 000005
【図５】
2010522376.tif 000006
【図６】
2010522376.tif 000007
【図７】
2010522376.tif 000008
【図８】
2010522376.tif 000009
【国際調査報告】
2010522376.tif 000010
2010522376.tif 000011