"高いグローバルな情報コンテントを有するフイーチャー集合を選択する方法であるが、該フイーチャー集合はシステムへの入力に対応する入力の初期フイーチャー集合から選択されている様な、該選択する方法が、a該システムへの多数の入力データ点と該システムからの対応する出力データ点とを取得しそして該入力及び出力データ点を記憶装置内に記憶する過程と、b入力及び出力の対応する組み合わせを選択することにより前に取得されたデータを少なくとも1つのトレーニングデータ集合と、少なくとも1つのテストデータ集合とそして少なくとも1つの検証データ集合とにグループ化する過程と、c高いグローバルな情報コンテントのフイーチャー集合を、i複数のフイーチャー部分空間を創るが、各前記フイーチャー部分空間が該トレーニング集合の該データからのフイーチャー集合を含むように、該創ることと、ii該トレーニング集合の該入力を量子化するが、該入力が値の範囲を有し、それは該値の範囲を部分範囲に分け、それにより前記フイーチャー部分空間を複数のセルに分けることによりするよう、該量子化することと、iii各フイーチャー部分空間の情報コンテントの該グローバルなレベルを決定することと、iv高いグローバルな情報コンテントを有する少なくとも1つのフイーチャー集合を選択することとにより決定する過程とを具備することを特徴とする高いグローバルな情報コンテントを有するフイーチャー集合を選択する方法であるが、該フイーチャー集合はシステムへの入力に対応する入力の初期フイーチャー集合から選択されている様な、該選択する方法。請求項1の方法に於いて、該トレーニング集合の該入力の量子化の過程が各入力の値の該範囲を等しいサイズの部分範囲に分けることにより行われることを特徴とする方法。請求項1の方法に於いて、該トレーニング集合の該入力を量子化する過程が、各部分範囲内のデータの母集団が該部分範囲の平均母集団を近似し、該平均母集団が部分範囲の数により割られた全体の選択されたデータの母集団の比として規定されるように、該入力の値の該範囲を該部分範囲に適合式に分けることにより行われることを特徴とする方法。請求項1の方法に於いて、過程ciiでフイーチャー部分空間内の該複数のセルが予め決められた数であることを特徴とする方法。請求項1の方法に於いて、各入力の該部分範囲の数がセルの予め決められた数のD次の根である整数値であり、Dは該フイーチャー集合内に含まれる入力の総数であることを特徴とする方法。請求項1の方法に於いて、過程ciiiの該情報コンテントがニシの情報エントロピーを計算することにより決定されることを特徴とする方法。請求項1の方法に於いて、複数のフイーチャー部分空間を創る過程が適応度関数を使う遺伝的選択方法を使用して行われることを特徴とする方法。請求項7の方法に於いて、該遺伝的選択方法用の適応度関数は該フイーチャー部分空間の情報コンテントのグローバルなレベルを使用することを特徴とする方法。請求項8の方法に於いて、該フイーチャー部分空間の情報コンテントの該グローバルなレベルが各部分空間用グローバルエントロピー加重に基づくことを特徴とする方法。請求項9の方法に於いて、部分空間用の該グローバルエントロピー加重はクラスタリングパラメーターの出力状態母集団加重和により規定され、各出力状態母集団はその出力状態に対応するトレーニング集合データ点の総数に基づくことを特徴とする方法。請求項10の方法に於いて、各出力状態用クラスタリングパラメーターは該部分空間上の該出力状態の母集団の分布に基づくことを特徴とする方法。請求項9の方法に於いて、部分空間用グローバルエントロピー加重は該部分空間内の各セル用のローカルエントロピー加重パラメーターのセル母集団加重和に基づくことを特徴とする方法。請求項12の方法に於いて、該部分空間内の各セル用の該ローカルエントロピー加重は該セル上の該出力状態の該母集団の分布に基づくことを特徴とする方法。請求項12の方法に於いて、該部分空間内の各セル用の該ローカルエントロピー加重は該セル上の該出力状態の正規化された母集団の分布により規定され、各出力状態の該正規化された母集団は該セル上の出力状態の母集団の該全出力状態母集団に対する比により規定されることを特徴とする方法。請求項9の方法に於いて、部分空間用該グローバルエントロピー加重はクラスタリングパラメーターのセル母集団加重和により規定され、各セル母集団は該セル内のトレーニング集合データ点の総数を表すことを特徴とする方法。請求項15の方法に於いて、該クラスタリングパラメーターは該部分空間上での該セル母集団の分布により規定されることを特徴とする方法。請求項1の方法に於いて、該前に取得されたデータを少なくとも1つのトレーニングデータ集合と、少なくとも1つのテストデータ集合とそして少なくとも1つの検証データ集合とにグループ化する過程bが入力データ点と出力データ点の対応する組み合わせをランダムに選択することにより行われ、該少なくとも1つのトレーニングデータ集合と、少なくとも1つのテストデータ集合とそして少なくとも1つの検証データ集合は同じデータ点を含まないことを特徴とする方法。請求項1の方法が更に、過程bの前に、該前に取得されたデータに変換関数を適用することにより該前に所得されたデータを事前処理する過程を具備することを特徴とする方法。請求項17の方法に於いて、該変換関数が該取得されたデータの入力のみに適用されることを特徴とする方法。請求項1の方法に於いて、少なくとも1つのフイーチャー集合を選択する該過程が複数のフイーチャー集合を選択する過程を備えており、更に、dテストデータ集合上のシステム入力からシステム出力を最も精確に予測するフイーチャー集合のグループを選択する過程を有することを特徴とする方法。請求項20の方法に於いて、フイーチャー集合のグループを選択する該過程が適応度関数を使う遺伝的選択方法を使用して行われることを特徴とする方法。請求項21の方法に於いて、該遺伝的選択方法用の該適応度関数が該全体のテスト集合用の予測誤差パラメーターに基づくことを特徴とする方法。請求項22の方法に於いて、離散型出力を有する、離散型システム用該予測誤差が該テスト集合内の正しく分類されたサンプルの部分であることを特徴とする方法。請求項23の方法に於いて、各データ点の該出力状態がそのデータ点用出力状態確率ベクトルの創生と解析により予測されることを特徴とする方法。請求項24の方法に於いて、該出力状態が該出力状態確率ベクトル内の最大確率を有する該状態により予測されることを特徴とする方法。請求項24の方法に於いて、該出力状態確率ベクトルが各起こり得る出力状態の確率の集合に基づくことを特徴とする方法。請求項26の方法に於いて、各出力状態の該確率はその出力状態内にある確率の全てのフイーチャー部分空間上での加重和であることを特徴とする方法。請求項27の方法に於いて、該加重和はローカルなエントロピー加重とグローバルなエントロピー加重とを使用して計算されることを特徴とする方法。請求項22の方法に於いて、定量的出力を有する、連続的システム用の該予測誤差は該テスト集合の該予測値と該実際値との間の正規化された平均絶対差であることを特徴とする方法。請求項29の方法に於いて、該ローカル及びグローバルのエントロピー加重の計算を容易化するために該出力値が離散出力状態の集合に人工的に量子化されることを特徴とする方法。請求項29の方法に於いて、各データ点用該出力状態値が部分空間用セル内の平均アナログ出力値を計算することにより予測されることを特徴とする方法。請求項30の方法に於いて、該平均アナログ出力値が、全ての該人工的に量子化された出力状態上で該データ集合をバランス化させるためにデータ複製尺度係数を使用することにより計算されることを特徴とする方法。請求項31の方法に於いて、該平均アナログ出力値が全ての該部分空間上での該平均セルアナログ出力値の加重和として計算されることを特徴とする方法。請求項33の方法に於いて、該加重和はローカルエントロピー加重とグローバルエントロピー加重とを使用して計算されることを特徴とする方法。請求項22の方法に於いて、定量的出力を有する連続的システム用該予測誤差は該テスト集合の該予測値と該実際値との間の正規化された中間値の絶対差であることを特徴とする方法。請求項35の方法に於いて、該出力値は、該ローカル及びグローバルエントロピー加重の計算を容易化するために離散出力状態の集合に人工的に量子化されることを特徴とする方法。請求項35の方法に於いて、各データ点用該出力状態値は部分空間用のセル内の中間値のアナログ出力値を計算することにより予測されることを特徴とする方法。請求項36の方法に於いて、該中間値のアナログ出力値は全ての該人工的に量子化された出力状態上で該データ集合をバランス化させるためにデータ複製尺度係数を使用することにより計算されることを特徴とする方法。請求項37の方法に於いて、該中間値のアナログ出力値が全ての該部分空間上で該中間値のセルアナログ出力値の加重和として計算されることを特徴とする方法。請求項1の方法が更に、d該フイーチャーデータ集合内の各入力の発生頻度を表すヒストグラムを創る過程を具備することを特徴とする方法。請求項40の方法に於いて、該データ集合の次元数が該入力数であり、更に、e削減された次元数データ集合を規定するために該最も頻繁に発生する入力を保持する過程を具備しており、該削減された次元数は該データ集合の次元数より少ないか等しいことを特徴とする方法。請求項41の方法に於いて、該保持する過程eが更に、削減された次元数データ集合を創るために該入力の部分集合を選択するよう該ヒストグラムを解析する自動化された方法を使用する過程を備えており、該部分集合のサイズは該入力数より少ないか等しいことを特徴とする方法。請求項42の方法に於いて、該自動化された方法は該入力の該部分集合を選択するためにピーク検出方法を有することを特徴とする方法。請求項43の方法に於いて、該自動化された方法は該入力の該部分集合を選択するためにヒストグラム頻度を整列する過程を有することを特徴とする方法。請求項41の方法に於いて、該保持する過程eが更に、該ヒストグラムの可視的表現を創る過程と該入力の部分集合を主観的に選択する過程とを有しており、該選択された部分集合のサイズは該入力数より少ないか等しいことを特徴とする方法。請求項41の方法に於いて、該保持する過程eが更に、該ヒストグラム内の各ピークを表すために1つ以上の入力を選択する主観的方法を使用する過程を有していることを特徴とする方法。請求項41の方法が更に、fフイーチャー集合の削減された次元数のグループを規定するが、その組み合わせが、テストデータ集合上でシステム入力からシステム出力を最も精確に予測する様な、最適又は最適に近い次元数と最適又は最適に近い量子化条件とを決定するために、複数の量子化条件下で該削減された次元数データ集合の複数の部分集合上をエグゾースチブに探索することにより上記規定する、過程を有することを特徴とする方法。請求項47の方法が更に、gテストデータ集合上でシステム入力からシステム出力を最も精確に予測するフイーチャー集合の該削減された次元数グループからフイーチャー集合の最終のグループを選択する過程を有することを特徴とする方法。請求項48の方法に於いて、システム出力を最も精確に予測するフイーチャーの集合を選択する該過程が遺伝的選択方法を使用して行われることを特徴とする方法。テスト集合上でシステム入力からシステム出力を最も精確に予測するデータ集合からモデルを規定する方法が、a該システムへの多数の入力と該システムからの対応する出力とを取得しそして該入力と出力とを前に取得されたデータとして記憶装置内に記憶する過程と、b入力と出力との対応する組み合わせを選択することにより該前に取得されたデータを少なくとも1つのトレーニングデータ集合と、少なくとも1つのテストデータ集合とそして少なくとも1つの検証データ集合とに分ける過程と、cフイーチャー部分空間を1つ以上の入力の組み合わせとして規定する過程とを具備しており、該フイーチャー部分空間の次元は該組み合わせ内該入力数であり、該方法は又、d組み合わせが該テストデータ集合上のシステム入力からシステム出力を最も精確に予測する様な、最適又は最適に近い次元数とセルの最適又は最適に近い量子化条件とを決定するために、複数の量子化条件下で該データ集合の複数のフイーチャー部分空間上をエグゾースチブに探索することによりモデルを規定する過程を具備することを特徴とするテスト集合上でシステム入力からシステム出力を最も精確に予測するデータ集合からモデルを規定する方法。請求項50の方法が更に、高いローカルのエントロピー加重を有する該セルの部分集合を該フイーチャー部分空間内に保持する過程を具備することを特徴とする方法。請求項51の方法が更に、デイスプレー装置上にセルの該部分集合を表示する過程を具備することを特徴とする方法。請求項52の方法に於いて、セルの情報コンテントは該出力値、該ローカルなセルのエントロピー加重そして該セル母集団を含んでおり、それらは該出力値、該ローカルなセルのエントロピー加重そして該セル母集団をカラー空間内に写像することにより表示されることを特徴とする方法。システム入力からシステム出力を最も精確に予測するモデルのグループを選択することによりフレームワークを規定する方法が、a該システムへの多数の入力と該システムからの対応する出力とを取得しそして該入力と出力とを前に取得されたデータとして記憶装置内に記憶する過程と、b入力と出力との対応する組み合わせを選択することにより該前に取得されたデータを少なくとも1つのトレーニングデータ集合と、少なくとも1つのテストデータ集合とそして少なくとも1つの検証データ集合とに分ける過程と、cフイーチャー部分空間を1つ以上の入力の組み合わせとして規定する過程とを具備しており、該フイーチャーの次元は該組み合わせ内該入力数であり、該方法は又、d高いグローバルな情報コンテントを有するフイーチャー部分空間の組み合わせを、iトレーニング集合のデータを選択することと、ii該トレーニング集合の該データから複数のフイーチャー部分空間を創ることと、iii各フイーチャー部分空間に関する該トレーニング集合の該入力を量子化するが、該入力が値の範囲を有し、それは該値の範囲を部分範囲に分け、それにより各フイーチャー部分空間を複数のセルに分け、各セルは、各セルを占めるトレーニング集合データ点の数として規定されるセル母集団を有しているように、前記範囲を有するよう、該量子化することと、iv該部分空間内で各セルのローカル情報エントロピーを決定することと、v各フイーチャー部分空間のグローバル情報コンテントを決定することと、vi高いグローバル情報コンテントを有するフイーチャー部分空間の集合を決定することとにより決定する過程と、eテストデータ集合上でシステム入力からシステム出力を最も精確に予測するフイーチャー部分空間の集合を含むモデルを選択する過程と、fモデルのグループを規定するために種々のトレーニング及びテスト集合上で過程b-eを繰り返す過程と、g入力として個別モデル出力予測値をそして該出力として実際の出力値を使用して新しいトレーニング及び新しいテストデータ集合を創る過程と、h該フレームワークを規定するために該新しいテストデータ集合上でシステム入力からシステム出力を最も精確に予測するモデルのグループから最適モデルの部分集合グループを選択する過程とを具備することを特徴とするシステム入力からシステム出力を最も精確に予測するモデルのグループを選択することによりフレームワークを規定する方法。請求項54の方法に於いて、該選択する過程hは適応度関数を使う遺伝的方法を使用して行われることを特徴とする方法。請求項55の方法に於いて、該遺伝的選択方法用の適応度関数は過程hの全体の新しいテストデータ集合用の予測誤差パラメーターにより規定されることを特徴とする方法。請求項54の方法に於いて、高いグローバル情報エントロピーを有するフイーチャー部分空間の集合を決定する該過程dviは適応度関数を使う遺伝的方法を使用して行われることを特徴とする方法。システム入力からシステム出力を最も精確に予測するフレームワークのグループを選択することによりスーパーフレームワークを規定する方法が、a該システムへの多数の入力と該システムからの対応する出力とを取得しそして該入力と出力とを前に取得されたデータとして記憶装置内に記憶する過程と、b入力と出力との対応する組み合わせを選択することにより該前に取得されたデータを少なくとも1つのトレーニングデータ集合と、少なくとも1つのテストデータ集合とそして少なくとも1つの検証データ集合とに分ける過程と、cフイーチャー部分空間を1つ以上の入力の組み合わせとして規定する過程とを具備しており、該フイーチャー部分空間の次元は該組み合わせ内該入力数であり、該方法は又、d高いグローバルな情報コンテントのフイーチャー部分空間の組み合わせを、iトレーニング集合のデータを選択することと、ii該トレーニング集合の該データからフイーチャーの初期集合を創ることと、iii該トレーニング集合の該入力を量子化するが、該入力が値の範囲を有し、それは該値の範囲を部分範囲に分け、それにより各フイーチャー部分空間を複数のセルに分け、該セルは入力の部分範囲の組み合わせにより規定されており、各セルは、各セルを占めるトレーニング集合データ点の数として規定されるセル母集団を有するよう該値の範囲を有するよう、該量子化することと、iv該部分空間内で各セルのローカル情報エントロピーを決定することと、v各フイーチャーのグローバル情報コンテントを決定することと、vi高いグローバル情報コンテントを有するフイーチャー部分空間の集合を決定することとにより決定する過程と、eテストデータ集合上でシステム入力からシステム出力を最も精確に予測するフイーチャー部分空間の組み合わせを含むモデルを選択する過程と、fモデルのグループを規定するために種々のトレーニング及びテスト集合上で過程b-eを繰り返す過程と、g入力として個別モデル出力予測値をそして該出力として実際の出力値を使用して新しいトレーニング及び新しいテストデータ集合を創る過程と、h該新しいテストデータ集合上でシステム入力からシステム出力を最も精確に予測するモデルのグループから最適モデルの部分集合グループを選択することによりフレームワークを規定する過程と、i最適フレームワークのグループを規定するために種々のトレーニング及びテスト集合上で過程b-hを繰り返す過程と、j入力として個別フレームワーク出力予測値をそして該出力として実際の出力値を使用して新しいトレーニング及び新しいテストデータ集合を創る過程と、k該新しいテストデータ集合上でシステム入力からシステム出力を最も精確に予測する最適フレームワークのグループからフレームワークの部分集合グループを選択することによりスーパーフレームワークを規定する過程を具備することを特徴とするシステム入力からシステム出力を最も精確に予測するフレームワークのグループを選択することによりスーパーフレームワークを規定する方法。請求項58の方法に於いて、システム入力から最も精確にシステム出力を予測する該最適フレームワークのグループからフレームワークの該部分集合グループを選択する該過程hが適応度関数を使う遺伝的方法を使用して行われることを特徴とする方法。請求項59の方法に於いて、該遺伝的選択方法用の該適応度関数は過程kの全体の新しいテストデータ集合用の予測誤差パラメーターにより規定されることを特徴とする方法。請求項58の方法に於いて、高いグローバルな情報エントロピーを有するフイーチャー部分空間の集合を決定する該過程dviは適応度関数を使う遺伝的方法を使用して行われることを特徴とする方法。実験型データ集合で入力と出力の間の数学的関係を発展させる方法が、a該システムへの多数の入力と該システムからの対応する出力とを取得しそして該入力と出力とを前に取得されたデータとして記憶装置内に記憶する過程と、b入力と出力との対応する組み合わせを選択することにより該前に取得されたデータを少なくとも1つのトレーニングデータ集合と、少なくとも1つのテストデータ集合とそして少なくとも1つの検証データ集合とに分ける過程と、cフイーチャー部分空間を1つ以上の入力の組み合わせとして規定する過程とを具備しており、該フイーチャー部分空間の次元は該組み合わせ内該入力数であり、該方法は又、d高いグローバルな情報エントロピーのフイーチャー部分空間の組み合わせを、iトレーニング集合のデータを選択することと、ii該トレーニング集合の該データからフイーチャー部分空間の初期集合を創ることと、iii該トレーニング集合の該入力を量子化するが、該入力が値の範囲を有し、それは該値の範囲を部分範囲に分け、それにより各フイーチャー部分空間を複数のセルに分け、各セルは、各セルを占めるトレーニング集合データ点の数として規定されるセル母集団を有することにより該値の範囲を有するよう、該量子化することと、iv該部分集合の各出力に対する該部分空間内の各セルのローカル情報エントロピーを決定することと、v各フイーチャーのグローバル情報エントロピーを決定することと、vi高いグローバル情報エントロピーを有するフイーチャー部分空間の集合を選択することとにより決定する過程と、e該フイーチャーデータ集合から該最も高いグローバル情報エントロピーを有する該フイーチャー部分空間を選択する過程と、f該選択されたフイーチャー部分空間内に含まれる該データ集合からのそれら入力のみを選択することにより削減された次元数のデータ集合を創る過程と、g該削減された次元数のデータ集合の該入力と出力の間の数学的関係を発展させるために遺伝的プログラム方法を適用する過程とを具備することを特徴とする実験型データ集合で入力と出力の間の数学的関係を発展させる方法。実験データ集合の入力と出力との間の数学的関係を発展させるハイブリッドの方法が、a請求項50又は54又は58又は62の方法を使用してデータ集合から第1モデルを発生する過程と、b該第1モデル発生過程と異なるモデリング技術を使用して第2モデルを発生する過程と、c該データ集合を部分集合に分けそして各部分集合内の各モデルのローカルな性能を決定する過程と、d各部分集合内で該第1及び第2モデルの該ローカルな性能に基づき加重関数を発生する過程と、そしてe該加重関数を使用して該第1及び第2モデルを組み合わせ、それにより該モデルの各々のローカルな性能の利点を組み合わせることを特徴とする実験データ集合の入力と出力との間の数学的関係を発展させるハイブリッドの方法。計算装置にシステムのモデルを、該システムの入力と出力とを使用して発生させる命令の集合を含む機械可読記憶媒体に於いて、前記命令は高い情報フイーチャー部分空間を見つけ出すために複数のフイーチャー部分空間を探索する過程を具備しており、前記高い情報フイーチャー部分空間は1つ以上の入力の組み合わせを有しており、該命令は又複数のモデルを探索する過程を具備しており、前記モデルは前記高い情報フイーチャー部分空間の1つ以上を備えており、前記モデルの各々は付随する出力予測を有しており、そして該命令は更に、少なくとも1つの他のモデルのそれより高い出力予測精度を有する前記モデルの1つを選択する過程を具備することを特徴とする計算装置にシステムのモデルを該システムの入力と出力とを使用して発生させる命令の集合を含む機械可読記憶媒体。請求項64の記憶媒体に於いて、複数の部分空間を探索する前記過程は実質的に全ての起こり得る部分空間を調べることにより行われることを特徴とする記憶媒体。請求項64の記憶媒体に於いて、複数の部分空間を探索する前記過程が遺伝的発展型アルゴリズムにより行われることを特徴とする記憶媒体。請求項66の記憶媒体に於いて、前記遺伝的発展型アルゴリズムが適応度関数として情報コンテントのメザーを使用することを特徴とする記憶媒体。請求項67の記憶媒体に於いて、前記適応度関数はグローバルな部分空間エントロピーのメザーであることを特徴とする記憶媒体。請求項68の記憶媒体が更に、該複数のモデル内で発生の最も低い頻度を有する1つ以上の入力を除き、そしてその後探索の過程を繰り返す過程を具備しており、該フイーチャー部分空間が該残りの入力の1つ以上の組み合わせを有することを特徴とする記憶媒体。請求項64の記憶媒体に於いて、複数のモデルを探索する前記過程が遺伝的発展型アルゴリズムにより行われることを特徴とする記憶媒体。請求項70の記憶媒体に於いて、前記遺伝的発展型アルゴリズムは適応度関数として予測精度のメザーを使用することを特徴とする記憶媒体。請求項71の記憶媒体に於いて、予測精度の前記メザーは前記1つ以上の情報フイーチャー部分空間内のローカル化されたセルの領域の予測の加重組み合わせを含む予測に基づくことを特徴とする記憶媒体。請求項64の記憶媒体に於いて、前記探索過程は各前記部分空間をセルに分ける過程を有することを特徴とする記憶媒体。請求項73の記憶媒体に於いて、該セル数は、少なくとも1つの他のセル分割より高い情報コンテントを提供するセル分割を同定するために変えられることを特徴とする記憶媒体。請求項73の記憶媒体に於いて、該セル数は利用可能なデータ点の数に基づき決定されることを特徴とする記憶媒体。請求項73の記憶媒体に於いて、セル境界は各次元を等しいサイズの部分範囲に分割するにより決定されることを特徴とする記憶媒体。請求項73の記憶媒体に於いて、該セル境界は与えられた部分空間の各次元を部分範囲に、各部分範囲が近似的に同じ数のデータ点を有するよう、分割することにより決定されることを特徴とする記憶媒体。請求項64の記憶媒体に於いて、部分空間の該情報コンテントはセル情報コンテントの加重和であることを特徴とする記憶媒体。請求項78の記憶媒体に於いて、該セル情報コンテントは出力がそのセル用の与えられた出力状態にある確率に基づくことを特徴とする記憶媒体。請求項78の記憶媒体に於いて、該セル情報コンテントは出力状態エントロピーに基づくことを特徴とする記憶媒体。請求項78の記憶媒体に於いて、該加重は該セル内点数に基づくことを特徴とする記憶媒体。請求項64の記憶媒体に於いて、該情報コンテントは特定出力確率の加重和であることを特徴とする記憶媒体。請求項82の記憶媒体に於いて、該特定出力確率は与えられた出力状態用の個別セル内にある確率に基づくことを特徴とする記憶媒体。請求項83の記憶媒体に於いて、該特定出力確率は与えられた出力状態用のセル分布のエントロピーに基づくことを特徴とする記憶媒体。請求項82の記憶媒体に於いて、該加重はその状態での部分空間内の点の数に基づくことを特徴とする記憶媒体。請求項64の記憶媒体に於いて、高い情報の部分空間は発見的方法のアルゴリズムにより同定されることを特徴とする記憶媒体。請求項86の記憶媒体に於いて、該発見的方法のアルゴリズムは出力状態のクラスタリングを有する部分空間内のセル数を使用することを特徴とする記憶媒体。請求項64の記憶媒体に於いて、各部分空間はセルに分かれておりそして各部分空間内の各セルはセル確率ベクトルを有し、そして該確率ベクトルの要素は各出力状態の該確率と対応することを特徴とする記憶媒体。請求項88の記憶媒体に於いて、各モデルはセル確率ベクトルの加重和を含む付随確率ベクトルを有することを特徴とする記憶媒体。請求項89の記憶媒体に於いて、該加重はローカル及びグローバルエントロピー加重の組み合わせであることを特徴とする記憶媒体。請求項64の記憶媒体に於いて、該出力予測精度は発生の最も高い確率を有する該出力に等しい値を有する予測に基づくことを特徴とする記憶媒体。請求項64の記憶媒体が更に、複数のモデルを選択する過程と、そして選択されたモデルの部分集合をフレームワークにグループ化する過程とを具備する命令を含むことを特徴とする記憶媒体。請求項1,6,7,17,18,20,22,29,40,45、47,50,54,58,62,又は63の何れかの方法により発生されるモデルを表すデータを含む機械可読記憶媒体。データ構造を含む機械可読記憶媒体に於いて、前記データ構造が、複数の部分空間に対応する複数の入力組み合わせを表すデータを有する部分空間データ構造と、複数の部分空間組み合わせを表すデータを有するモデルデータ構造と、そして該部分空間を占めるために必要なトレーニングデータ集合を表すデータを有するトレーニングデータ構造とを具備することを特徴とするデータ構造を含む機械可読記憶媒体。請求項94の記憶媒体が更に、各部分空間用にセル領域を指定するため使用されるデータを含むデータ構造を有することを特徴とする記憶媒体。請求項95の記憶媒体が更に、各部分空間用にエントロピー加重を含むデータ構造を有することを特徴とする記憶媒体。請求項95の記憶媒体が更に、各セル領域用にエントロピー加重を含むデータ構造を有することを特徴とする記憶媒体。請求項95の記憶媒体が更に、各セル領域用に予測値を含むデータ構造を有することを特徴とする記憶媒体。請求項95の記憶媒体が更に、複数のモデル組み合わせを表すデータを含むフレームワークデータ構造を有することを特徴とする記憶媒体。複数のデータ構造を含む機械可読記憶媒体であるが、前記複数のデータ構造はシステム入力データ点へのシステム出力予測応答を決定するために使用されている該機械可読記憶媒体で、前記データ構造は、入力データ点をセル予測値へ写像するために使用されるデータを有する写像用データ構造と、そして複数の部分空間組み合わせを表すデータを有するモデルデータ構造とを具備することを特徴とする複数のデータ構造を含む機械可読記憶媒体であるが、前記複数のデータ構造はシステム入力データ点へのシステム出力予測応答を決定するために使用されている該機械可読記憶媒体。請求項100の記憶媒体に於いて、該予測値は加重確率ベクトルであることを特徴とする記憶媒体。請求項100の記憶媒体が更に、ローカル及びグローバルエントロピー加重を表すデータを含む加重データ構造を具備することを特徴とする記憶媒体。請求項100の記憶媒体が更に、複数のモデル組み合わせを表すデータを含むフレームワークデータ構造を具備することを特徴とする記憶媒体。実験データ集合内の入力と出力との間の数学的関係を発展させるハイブリッドの方法が、a請求項50又は54又は58又は62の方法を使用してデータ集合から第1モデルを発生する過程と、b該第1モデル発生過程と異なるモデリング技術を使用して第2モデルを発生する過程と、c各部分集合内の該第1及び第2モデルの性能に基づき加重用関数を発生させる過程と、そしてd該加重用関数を使用して該第1及び第2モデルを組み合わせ、それにより該モデルの各々の性能の利点を組み合わせる過程とを具備することを特徴とする実験データ集合内の入力と出力との間の数学的関係を発展させるハイブリッドの方法。均質ポリマー連鎖反応POLYMERCHAINREACTION{ピーシーアールPCR}フラグメントの同定本発明が均質ピーシーアールフラグメントの同定に適用された。本方法は最初にデーエヌエイ溶解カーブDNAmeltingcurveの情報豊富な部分を同定し、次いで該入力スペクトラムの情報豊富な部分集合を使用して最適モデルを発展させる。背景デーエヌエイフラグメント同定は伝統的にゲル電気泳動gelelectrophoresisにより行われて来た。挿入染料intercalateddyesを使用する代替え方法はあり得る時間と感度での利点を提案している。この方法は、加熱時2重螺旋デーエヌエイが変性する捲きほごれると該染料蛍光量dyefluorescenceが減少することの観察に基づいている。温度に対する蛍光量をプロットする、最終のいわゆる溶解曲線meltcurveのデータ解析は該デーエヌエイフラグメントのユニークな同定のベースを提供する。しかしながら、該方法は、特定的デーエヌエイフラグメントの精確な同定を、他の非特定的フラグメントの存在及び背景基盤backgroundmatrixからの蛍光ノイズの存在の両場合で、要求している。スパイクspikedされる食料サンプルの準備この研究はピーシーアールを禁ずる知られる食料を評価した。該評価は、該禁止食料の禁止効果を克服するために、該反応へのウシ血清アルブミンbovineserumalubumin{ビーエスエイBSA}の添加能力をテストした。加えて、溶解曲線解析を使用したピーシーアール製品の均質性検出が臭化エチジウム染色ethidiumbromidestainingを有する標準的ゲル電気泳動と比較された。食料は地域の食料雑貨店で購入され、4°Cで貯蔵された。30の異なる食料がビーエイエムBAM手順で事前強化perenrichedされた。処方された強化法enrichmentに従い、サンプルはサルモネラニューポートSalmonellanewportでスパイクされるか又はスパイクされずに残されたが、表III参照。該強化は次いでビーエイチアイBHI{デーアイエフシーオーDifco}内で1:10に薄められ、次いで37°Cで3時間培養された。ポリビニルポリピロリドンPolyvinylpolypyrrolidone{ピーブイピーピーPVPP}処理グローバックサンプルgrowbackの500マイクロリットル500ulのアリコートaliquotがピーブイピーピー{クアリコン社QualiconInc}の50mgのタブレットを含むチューブに追加された。該チューブはボルテックスvortexedされそして該ピーブイピーピーは15分間澄むようにされた。最終浮遊物は次いで溶解過程で使用される。サルモネラサンプルの準備2mlのスクリューカップチューブscrewcuptubeで、強化すなわちピーブイピーピー処理サンプルの5マイクロリットルがデーエヌエイ挿入染料エスワイビーアールグリーンDNAintercalatingdyeSYBRRGreen{モレキュラープローブMolecularProbes}の1:10、000希釈を含む溶解試薬{5mlビーエイエックス溶解バッフアー5mlBAXRlysisbufferと62.5ulマイクロリットルビーエイエックスプロテアーゼ625ulBAXRProtease}の200ulマイクロリットルに加えられた。該チューブは37°Cで20分間次いで95°Cで10分間培養された。95°Cの培養の後、4mg/mlのビーエスエイBSA溶液の50ulマイクロリットルが該溶菌液lysateに追加された。これはピーブイピーピー処理済みと未処理のサンプルに行われた。対照として、幾つかのサンプル未処理で残された。この未精製バクテリヤ溶菌液の50マイクロリットルが、パーキンエルマー7700シークエンスデテクター計器PerkinElmer7700SequenceDetectorinstrumentで使用されるピーシーアールチューブ内に含まれた1つのビーエイエックスサルモネラサンプルタブレットBAXRSalmonellasampletabletを水和するため使用された。該チューブはキャップを付けられ、パーキンエルマー9600サーマルサイクラーPerkinElmer9600thermalcycler内で次のプロトコルに依り熱サイクルにかけられた。94°C2.0分1サイクル94°C15秒35サイクル72°C3.0分72°C7分1サイクル4°C長期間forever増幅後分析PostAmplificationAnalysis増幅後、下記条件で運転することによりパーキンエルマー7700デーエヌエイシークエンスデテクターPerkinElmer7700DNASequenceDetector上で該溶解曲線が作られた。プレートの種類:シングルリポーターSingleReporter器械:7700シークエンスデテクションシステム7700SequenceDetectionSystem運転:実時間染料層:エフエイエムFAMサンプルの種類:未知であるサンプル容積:50ulマイクロリットル運転条件:70°C2分1サイクルデータ収集せず68°C10秒98サイクルデータ収集する自動インクレメント0.3°C/サイクル25°C長期間該多成分データは該器械から移出され該分析に使用された。特定のデーエヌエイフラグメントの製作は該アンプリフアイamplifiedされたサンプルにビーエイエックスローデイングダイBAXRLoadingDyeの15マイクロリットルを添加することにより検証された。次いで15マイクロリットルのアリコートが臭化エチジウムを含む2アガロースゲルagarosegelのウエルwell内に装填された。該ゲルは30分間180ボルトで運転された。特定の生成物は次いでユーブイトランスイルミネーションUVtransilluminationを使用して可視化された。データ分析生の蛍光量rawfluorescenceデータが処理用にマイクロソフトエクセルMicrosoftExcelに移入された。この段階からデータを可視化し該データから予測をするため分岐的取り組みが使用された。データ事前処理DataPreprocessing蛍光ノイズを減らすために該データを事前処理することは成功するモデリングの尤度likelihoodを増すことが実験的に決定された。該データ事前処理は次の過程から成り、すなわち、a.蛍光データfluorescencedataの正規化、b.0.1°Cの解像度でキュービックスプライン関数cubicsplinefunctionを用いた該正規化蛍光の内挿補間、c.内挿補間された蛍光スペクトラムの対数を取る、d.25点サビツスキーゴレイ平滑化関数25pointSavitskyGolaysmoothingfunctionを用いた該蛍光の対数の平滑化、である。最終温度スペクトラムはここで説明されるモデリング方法への入力の集合として使用される。該温度スペクトラムを使用した2つの異なるモデリング例を説明する。過程a.データの正規化と可視化該蛍光データは、最初にスペクトラム内の最低測定蛍光レベルを決定し、この値を、直流オフセットを除くために、該スペクトラム内の各点から引くことにより正規化される。上記の過程a.の正規化されたデータは次いでサビツスキーゴレイの平滑化アルゴリズムで平滑化される。温度に対する平滑化蛍光の負の導関数{-dlogF/dT}が取られ、-dlogF/dTy軸対温度x軸としてプロットされる。過程b.該データからの予測該正規化されたデータからスタートして、キュービックスプライン内挿関数cubicsplineinterpolatingfunctionを使用して0.1C分解能で該データは内挿補間される。次いで該内挿されたデータの対数が取られ、次いで2.5度すなわち0.1°Cで25の点上でサビツスキーゴレイの平滑化アルゴリズムを用いて平滑化される。温度に対する該ログの蛍光の負の導関数が取られ{-dlogF/dT}、サルモネラ用データ範囲:82.0°C-93.0°C12データ点を用いて1.0C間隔でパースparsedされた。方法比較用に、ここに説明された方法は2つの他の良く知られたモデリング方法:ニューラルネットワーク及びロジスティック回帰logisticregression、と比較され、結果は下表で報告される。見出された最も有効なDNAフラグメント同定法は2つのモデリングスキームをシーケンシャルな仕方で背中合わせで使うことを含んでいる。同定の第1レベルはスメアsmearを非スメアnonsmearから分離することである。これに、非スメアサンプル用に関心のある特定のデーエヌエイフラグメントを同定することが続く。実際は、この階層的方法は、起こり得る出力カテゴリーを表す正、負そしてスメアを有する1つの3状態モデルを使用するより精確であった。1.特定ピーシーアールフラグメントに対する非特定ピーシーアールフラグメントのモデリング該ピーシーアールアンプリフイケーション過程PCRamplificationprocessは、関心のあるデーエヌエイの特定の種類に対応するフラグメントのみならず非特定ピーシーアールフラグメントも作る。第1例は本方法の該非特定と特定のピーシーアールフラグメント間を区別する能力を展示する。149のロックされたプロセスすなわち、対照特定的トレーニングスペクトルと、問題食料ピーシーアール用で問題があると知られる実際の食料の309のテストスペクトルと、一緒に30の非特定的又はスメアの蛍光スペクトルのグループが創られた。0.1°Cの温度分解能を有して、111点を含む各サンプル用の温度スペクトル11.1°Cの範囲上のが創られた。該ロックされたプロセスと問題食料サンプルの両者が陽性と陰性の標本を含んだ。この例で、該陽性のサンプルは特定のバクテリヤ例えば、サルモネラでスパイクされすなわち汚染されそして陰性のサンプルはスパイクされぬ汚染されぬようにされた。該スメアサンプルはロックされたプロセストレーニング集合12スメアサンプルと問題食料テスト集合18スメアサンプルの両者にランダムに導入された。該陽性及び陰性の両サンプル状態は合併され2進のゼロ0文字でラベル付けされ、該スメアサンプル状態は2進の11でラベル付けされた。a.入力の最も情報豊富な集合を発展させることモデリング過程の第1歩は111次元の入力フイーチャー空間をより少ない、より情報豊富な部分集合に減じることである。前に説明した発展型フレームワークが該最も情報豊富なフイーチャーを発展させるために使用された。100の遺伝子の初期遺伝子プールがランダムに発生され、そこでは各遺伝子は2進の111ビットの長さの記号列を有し、各ビットの状態は該対応入力フイーチャーが該遺伝子内で賦活されたかどうかを表している。該発展過程はセル当たり1サンプルとなるべき平均セル占有数meancelloccupationnumberにより抑えられ、そして該発展は5世代より多く進んだ。各遺伝子の発展をドライブするために、グローバルエントロピー、又は適応度関数としてローカルエントロピーの数加重和numberweightedsumoflocalentropiesが使用された。該発展は固定サイズ化された部分範囲すなわち、適応型ビニングよりむしろ、固定されたビンを使用して進みそして該データは、上記説明の様に、0及び1の出力状態の数をバランスさせるようバランスさせられた。発展型過程を通して該100の最も情報豊富な遺伝子のグローバルリストが保持された。全ての111の入力フイーチャーのビット頻度のヒストグラムが、発展した該情報豊富な遺伝子プール内で最も屡々発生するビットを同定するために、該発展の各世代の終わりで分析された。このヒストグラムはどの温度点が該出力状態に最も密接に付随したかについての情報を提供した。該111の点の温度範囲が0から110までインデックスindexedされ、下記31温度点が該発展型過程から選択された:12,14,16,18,20,22,24,26,28,30,32,34,36,38,40,42,44,46,50,52,54,56,58,60,62,64,80,82,84,86,88。情報豊富な領域が該ヒストグラム内で観察されそしてこれらの領域に懸かる偶数番号インデックス点上記リストが選択されたことは注意されるべきである。大抵の該選択された点が12から60の範囲に懸かることは注意されるべきである。これは該スメアサンプル用溶解曲線スペクトラムが該ベースライン上に立ち上がりそして該インデックス間隔[12,60]に対応する温度範囲内の陽性及び陰性両サンプルから別れ始めるからである。例えスメアがそれらの正に規定により可変溶解曲線構造を有するとは云え、主な構造的フイーチャーは該陽性のサンプル内よりも低い温度で一般に現れる。該陰性のサンプルは本質的に構造から自由である。かくして、本方法はより低い温度領域がスメアと非スメアの間の最良の区別が起こる場所であることを確認する。b.パースparsedされたデータの全低次元射影のエグゾーストな探索第1発展型過程で発見された該情報豊富な点を使って該トレーニングデータ集合がパースされた後、該減少したデータ集合は広いビニング範囲に亘り低次元でエグゾースチブに探索された。固定ビンとデータ集合バランシングが該エグゾースチブな過程を通して使用された。このモデリング問題で、次元当たり26の固定ビンを使用して全2次元射影内への該31次元入力空間の465の射影を発生することが該最良エグゾースチブモデルに帰着することが分かった。Wl2=10、Wl=5,定数項=1のエントロピー加重係数が使用された。しかしながら、全465の射影を使用する該エグゾースチブモデルは、該射影の多くが情報より多くのノイズを導入するので、最適モデルであることを保証されない。それで、各ビットが該モデル用遺伝子プール内の与えられた2次元射影の包含inclusion2進で1と排除exclusion2進で0を表す465ビットの長さの2進記号列を使って第2の発展段階が行われた。c.最良2次元モデルを発展させること100のランダム2進記号列が最初に発生されそしてそれらの適応度関数がテストデータ集合内誤差を該発展型過程をドライブする適応度関数として使用して計算された。該モデルは20世代より多く発展させられそして最も情報豊富な遺伝子のグローバルなリストが保持された。最後に、この遺伝子プール内の最も情報豊富な遺伝子最小テスト誤差に帰着する遺伝子に対応するがスメア検出用遺伝子コードとして選択された。この遺伝子は該包含2次元射影の163を有し残りの射影は排除された。これらの163の射影を使用した最小テスト誤差は該327テストケースから3つのエラー3errorsoutofthe327testcases309問題食料サンプルと18スメアサンプルであって99より高いモデル精度に帰着する2.陰性のサンプルに対する特定のサルモネラピーシーアールフラグメント陽性ののモデリングピーシーアールモデリングの第2例として、本方法は食料サンプル内サルモネラに対応する特定のデーエヌエイフラグメントを同定するタスクを与えられた。もう1度、該ロックされた過程スペクトルが該トレーニングデータ集合として使用されそして該問題食料スペクトルが該テストデータ集合として使用された。上記説明のものと同様な過程が最良予測モデルを発展させるために使用された。a.入力の最も情報豊富な集合を発展させること前の例で説明されたそれと同様な手順に従い、本方法は、下記の温度点:10,13,16,61,64,67,76,79,82,85,88,91に対応する12入力フイーチャーの集合を発展させた。この例では、スペクトルの情報豊富な部分は該温度範囲のより高い端点61から91の間内にあることを注意する。これは余り驚くべきことではないが、それはポジテイブなpositive溶解曲線内の主な構造が温度インデックスtemperatureindex80の周辺で起こるからである。b.パースされたデータの全低次元射影のエグゾースチブな探索第1発展過程で発見された該情報豊富な点を使用して該トレーニングデータ集合がパースされた後、減少したデータ集合は広いビニング範囲上で低次元でエグゾースチブに探索された。固定ビンとデータ集合バランシングが該エグゾースチブな過程を通して使用された。このモデリング問題で、次元当たり19の固定ビンを使用した全3次元射影内への該12次元入力空間の220の射影を発生することが最良エグゾースチブモデルに帰着することが分かった。前のサンプルでと同じエントロピー加重係数が使用された。この例で、全ての220の射影を使用することが最良モデルに帰着することが分かった。該220の射影の部分集合を発展させることは該テストデータ集合に関する予測精度を改良しなかった。全220の射影を用いて、該309の問題食料テストサンプルスメアなしでからの301が97.4の精度で適当と同定された。結果これらの実験中作られた該309のデータサンプルの中で、204はサルモネラでスパイクされそして105のサンプルがブランクblank反応であった。該204のスパイクされたサンプルの中で、143のサンプルはアガロースゲルで陽性でありそして61は該ゲルで陰性であった。該陰性のサンプルはピーシーアールの禁止か又は不適当なゲルか又はピーシーアール感度の結果と考えられ得る。該105のブランクの反応の中で、95は該ゲルに関し陰性で、そして10は該ゲルに関し陽性であった。該陽性のサンプルは自然の食料汚染例えば、液状卵サンプル又は技術的誤りの結果と考えられ得る。下表は該3つのモデリング方法の結果を抄録する。該モデリング方法の各々の出力は1かゼロの間の数である。1はスパイクされた予測を表す一方0はスパイクされてない予測を表す。該数がゼロ又は1に近い程、該予測により高い信頼を置くことが出来る。0.5のしきい値より高いどんな予測も陽性と考えられた。下記方法の各々用数は期待予測と合致したサンプル数を示す。1これらのサンプルはスパイクされたが、ゲル上では陰性であった。均質な検出はゲル検出より敏感なので、均質な検出で陽性のサンプルを検出するがゲルベースの方法では見出さないことが起こり得る。パーセント合致度計算時、このカテゴリーで全てのサンプルは正しいと仮定されている。2期待される予測列はスパイクステイタスとゲル結果とに基づき1又は0を表示する。この数は該モデルが該トレーニングサンプルに基づき予測すると期待されたものである。3サンプル数列は特定のスパイク/ゲルカテゴリーに分類されるサンプル数を表示する。本方法の階層化モデリングに加えて、ハイブリッドモデリングフレームワークが使われてもよい。ニューラルネットモデルは陽性/陰性の同定のみならずスメア/非スメアの同定用にも開発された。事実、より多くのデータが入手可能になると、多数のトレーニング/テストデータ集合が発生され得て多数ニューラルネット及びインフオエボルブテーエムモデルInfoEvolveTMmodelに帰着した。未知のサンプルは全てのモデルでテストされ得て個別モデル予測の統計に基づきカテゴリー化され得る。付録Gで論じる様に、この取り組みは、多数のデータ集合とモデリングパラダイムと上での多様化によりモデル偏倚のみならずデータ偏倚も減じる利点を有する。加えて、2つの別々のモデリング段階を続けて使用する階層的取り組みはモデル精度を更に改善する。ハイブリッドモデリング本方法はデータモデリング用の強力なフレームワークを開示するが、どんなモデリングフレームワークも完全ではないことを注意することは大切である。全てのモデリング方法はその取り組みのためか又はデータに課されるジオメトリーgeometriesのためか何れかで、モデル偏倚を課す。本方法は追加的ジオメトリーの最小の使用を行いそして上記説明の様に幾つかの利点を有するが、しかしながら、本方法は基本的に外挿法的であるより寧ろ内挿法的である。比較的データの貧弱なシステムでは、この内挿法的特性は一般化の容易さを減じる。本方法の強さを利用しそしてその弱さを最小化するために、それはハイブリッドモデルを創るために他のモデリングパラダイムと組み合わされることが可能である。これらの他のパラダイムはニューラルネットワーク又は他の分類又はモデリングフレームワークであり得る。もし他のモデリングツール含む複数ツールが基本的に異なる哲学を有するなら、1つ以上の他のモデリングツール含む複数ツールを本方法と組み合わせることがモデル偏倚を平滑化するsmoothout効果を有する。加えて、データ偏倚を平滑化するために異なるデータ集合を使用して各パラダイム内に多数のモデルが作られ得る。最後の予測結果は各モデルから来る個別予測の加重又は非加重の組み合わせとすることが出来る。ハイブリッドモデリングは多様なモデリング哲学の強さを利用するために極端に強力なフレームワークをモデリングに提供する。重要な意味で、この取り組みは実験型モデリングの究極の目標を表す。例えば、もし食料媒介病原菌用テストtestingforfoodbornepathogensでの上記説明例に於ける様に、偽陰性のパーセントpercentooffalsenegativeを最小化したい望みがあるなら、該モデルのどれか1つがスパイクされたサンプルを予測したならば陽性の結果が報告されるであろう。もしこの規則がこの例のデータに適用されたなら、ゲル結果に基づく偽陽性falsepositiveの率は0.7より少なかったであろう。何れか1つのモデルについての偽陰性率はそれぞれ:本方法=3.9、ニューラルネットワーク=4.5そしてロジスチック回帰=5.8であった。結論この例は重要な実験型モデリング問題でのインフオエボルブテーエムInfoEvolveTMのパワーを図解する。インフオエボルブテーエムは最初にデーエヌエイ溶解曲線の情報豊富な部分を同定し次いで該入力スペクトラムの情報豊富な部分集合を使用して最適モデルを発展させる。この例で追跡された一般的パラダイムは種々の産業及びビジネス応用品でテストされ大きな成功をもたらし、この新しい発見的フレームワークに強力な支持を提供している。製造過程の例ケルバーアールKelvarR製造過程での重要な変数は該ケルバーアールパルプKelvarRpulp内に保持された残留湿気residualmoistureである。該保持された湿気は該パルプの次の処理可能性と最終製品特性の両者に顕著な影響を有する。かくして最適制御戦略を規定するために該パルプ内の湿気保持に影響するキー要素、又はシステム入力を最初に同定することが重要である。製造システム過程は、乾燥処理用の全体の時間枠のために該入力変数と最終パルプ湿気間の多数の時間遅れの存在により複雑化される。パルプ乾燥処理のスプレッドシートモデルが創られ得るが、そこでは該入力は多くの前の時の幾つかの温度と機械的変数を表し、該出力変数は現在時刻のパルプ湿気である。最も情報豊富なフイーチャー組み合わせ又は遺伝子は、その変数の、より早期の時点でパルプ湿気に影響するのに最も情報豊富であるのはどの変数であるかを発見するためにここに説明された該インフオエボルブテーエムInfoEvolveTMを使用して発展させられ得る。フロードfraud検出例既知のフロード的fraudulentな場合のトレーニング集合を作るのが難しいからだけでなく、フロードが多くの形式を取るかも知れないので、フロード検出は特に挑戦的応用である。フロードの検出は予測モデリングによりフロードを防止出来るビジネス用に可成りのコスト節約へ導き得る。フロードが起こる或るしきい値確率で決定出来る様なシステム入力の同定が望ましい。例えば、何がノーマルnormalな記録かを最初に決定することにより、或るしきい値より多く該ノームnormから変化する記録が、より精密な精査用にフラグ建てflaggedされてもよい。これは、クラスタリングアルゴリズムを適用し、次いでどのクラスターにも分類されない記録を調べることに依るか、又は各分野用の値の期待範囲を説明する規則を作ることに依るか、又は分野の異常な付随にフラグ建てすることにより行われてもよい。クレデイット会社は期待しない使用量パターンusagepatternsにフラグを建てるこのフイーチャーをそれらの課金正式化過程内にルーチン的に組み込む。もしカード所有者cardholderが普通は彼/彼女のカードを航空券、レンタルカー、そしてレストラン用に使用するが、或る日それをステレオ機器か又は宝石を買うため使用するなら、その処理は、該カード所有者が彼のアイデンテイテイを検証する該カード発行会社の代表者と話を出来るまで、遅延してもよい。参考文献:1997年発行、マイケル、ジェイ.エイ.ベリー、及びゴードン、リンホフMichaelJABerryandGordonLinhoff著、マーケッテイング、販売及び顧客サポート用データマイニング技術DataMiningTechniquesforMarketingSalesandcustomerSupport、76ページ。フロード検出でどの変数が最も情報豊富かを発見するために最も情報豊富なフイーチャー組み合わせ又は遺伝子がここで説明した本発明を使用して発展させられ得る。これらの変数は或る時間間隔に亘る購入の種類と量、クレデイットバランス、最近の住所変更他を含んでもよい。一旦入力の情報豊富な集合が同定されると、これらの入力を使用する実験型モデルは本発明を使用して発展させられ得る。これらのモデルは、フロード検出用の適合学習型フレームワークを創るために、新データが入ると規則的ベースで更新され得る。マーケッテイング例銀行は予防的アクションを行う時間を持つためにその要求払い預金勘定demanddepositaccounts{例えば、銀行当座預金checkingaccounts}の顧客のアトリッションattritionの充分な警報を望む。それが余りに遅くなる前にトラブル範囲に見つけるために、起こり得る顧客のアトリッションをタイムリーな仕方で予測するキー要素又はシステム入力を決定することが重要である。かくして、勘定動向accountactivityの毎月の抄録はこの様なタイムリーな出力を提供しないが、処理レベルでの詳細データは提供するかも知れない。システム入力は、顧客が該銀行に置いて行く理由を含んでおり、この様な理由がもっともかどうかを決定するためにデータ源を同定し、次いで該データ源を処理経過データと組み合わせる。例えば、顧客の死亡が処理停止の出力を提供したり、或いは顧客は最早2週間毎に支払われないか又は最早直接預金を有せずかくして規則的な2週間ベースの直接預金は最早ない。しかしながら、内部決定で発生されたデータは処理データ内に反映されない。例は、該銀行がかって無料であったデビットカード処理用に今は課金しているから又は該顧客がローンのために拒絶されたから、顧客が去って行くことを含んでいる。{1997年発行、マイケル、ジェイ.エイ.ベリー、及びゴードン、リンホフMichaelJABerryandGordonLinhoff著、マーケッテイング、販売及び顧客サポート用データマイニング技術DataMiningTechniquesforMarketingSalesandCustomerSupport、85ページ参照}。予測的アトリッションを決定する中でどの変数が最も情報豊富であるかを発見するために、ここで説明した本発明を使用して最も情報豊富なフイーチャー組合わせ又は遺伝子が発展させられ得る。顧客属性のみならず銀行戦略に付随する内部管理も含めた両者が処理データパターンと組み合わされるデータベースを創ることは銀行戦略、顧客属性そして発見されるべき処理パターンの間の起こり得る情報豊富なリンケージを可能にする。これは今度は処理挙動を予測する顧客挙動予報モデルcustomerbehaviourforcastingmodelの発展へ導くことが出来る。金融予測例FinancialForcastingExample金融予報{例えば、株、オプション、ポートフオリオportfolioそして物価指数indexpricing}での重要な考慮は株式市場の様な動的で移り気な活動場所では誤差の広いマージンを黙認する出力変数を決めることである。例えば、実際の物価レベルよりむしろダウジョンズ平均株価指数DowJonesIndexでの変化を予測することは誤差のより広い許容限度widertoleranceforerrorを有する。一旦有用な出力変数が同定されると、次の過程は最適予測戦略を規定するために該選択された出力変数に影響するキー要素、又はシステム入力を同定することである。例えば、ダウジョンズ平均株価指数の変化はダウジョンズ平均株価指数での前の変化のみならず他に於ける国の及びグローバルの指数にも依存するかも知れない。加えて、グローバルな利率、外国為替レート及び他のマクロ経済的メザーmacroeconomicmeasuresが重要な役割を演ずる。加えて、最も金融的な予報問題は入力変数例えば、前の価格変化と終わりのタイムフレームでの最後の価格変化との間の多数の時間遅れの存在により複雑化する。かくして、該入力は前の多数の時刻での市場変数{例えば、価格変化、市場の移り気volatilityofthemarket、移り気モデルの変化changeinvolatilitymodel、...}を表しそして該出力変数は現在の時刻での該価格変化である。参考文献:1996年発行、エドワードゲートレイEdwardGateley著、金融予測用ニューラルネットワークNeuralNetworksforFinancialForcasting、20ページ。より早期の時期が指すどの変数が金融予測用市場変数への影響で最も情報豊富であるかを発見するためにここで説明する本発明を使用して最も情報豊富なフイーチャー組み合わせ又は遺伝子が発展させられ得る。一旦これら変数、時点の組み合わせが発見されると、それらは最適金融予測モデルを発展させるために使用出来る。下記はモデル発生にここで使用される説明した方法に関する擬コードリステイングPseudeCodelistingである:LoadParameters;//データ集合と、ビニングの種類の様な種々のパラメーターとをロードし、データ選出、エントロピー加重係数、データ部分集合の数他...をバランスさせるLoopthroughsubsetnumber{CreateDashSubset//部分集合データをランダムにLoopthroughnumberoflocalmodels{EvolveFeatures//情報豊富な遺伝子を発展させるCreateTrainTestSubset//データ部分集合をトレーン/テスト部分集合に分けるEvolveModel//モデルを発展させる}}CreateDataSubsetDetermineRangesofInputsifBalanceRandomizeelseNaturalRandomizeDetermineRangeofInputsLoopthroughdatarecords{Loopthroughinputfeatures{ifto0;InitializeCountingRemainingStateto0;}Loopthroughdatarecords{SetIncludeTrainFlagtoFALSE;Loopthroughinputfeatures{ifIncludeTrainFlagTRUEFeatureMaxFlagSET}}elseifinputfeaturemax{ifinputFeatureMaxFlagCLEAR{IncludeTrainFlagTRUEFeatureMaxFlagSET}}}//フイーチャーループ終了output=ReadOutputState//記録用に出力状態を読み出すguess=GuessRandomvalueThreshold=NUMITEMSPERCAT/TotalCountinStateoutput//TotalCoutinStateoutputは出力カテゴリー内のデータ項目を意味する/もしデータ記録がフイーチャー最小又は最大値の最初の場合なら、現在のデータ部分集合と残りのデータ部分集合の両者へ記録をコピーする。/ifIncludeTrainFlagTRUE{//現在の部分集合と残りのデータ部分集合の両者へ記録をコピーCopyRecordtoCurrentDataSubsetIncrementCountinStateoutput;CopyRecordtoRemainingDataSubsetIncrementCountinRemainingStateoutput;}/或いは他にもし該出力カテゴリーの項目の数が過剰にNOTであるなら、該データ項目を該REMAININGデータ部分集合内に置き換える。/elseifCopyRecordtoDataSubsetIncrementCountinDataSubsetoutput;}}//データ記録ループの終了//BalanceRandomizeの終了NaturalRandomizeSampleSizeNumberOfDataRecordsNumberOfModelsThreshold1SampleSizeNumberOfRemainingDataRecordsLoopthroughoutputstate{InitializeCountinStateoutputto0;InitializeCountinRemainingStateoutputto0;}Loopthroughdatarecords{Loopthroughinputfeatures{ifinputfeature=min{ifinputFeatureMinFlagCLEARIncludeTrainFlagTRUEFeatureMinFlagSET}}elseifinputfeature=max{ifinputFeatureMaxFlagCLEARIncludeTrainFlagTRUEFeatureMaxFlagSET}}}//フイーチャーループ終了outpur=ReadOutputState//記録用に出力状態を読み出すguess=GuessRandomValue/もしデータ記録がフイーチャーの最小又は最大値の最初の場合なら、該データ部分集合及び残りのデータ部分集合の両者に記録をコピーする。/ifIncludeTrainFlagTRUE{//該データ部分集合と該残り//のデータ集合との両者に記//録をコピーするCopyRecordtoCurrentDataSubsetCopyRecordtoRemainingDataSubset}/又はもし該ランダムな推定が該データ項目が該残りのデータ部分集合内に行くべきことを決めるなら、そのカテゴリー用に該残りの部分集合の統計的限界が越えられたかどうかをチェックする。もし越えられないならば、該残りのデータ部分集合に該データ項目を追加する。もし該割り当てが越えられたなら、該データ部分集合に該データ項目を追加する。/elseifguess<=Threshold{ifCountinRemainingStateoutput<ThresholdTotalCountinStateoutputCopyRecordtoRemainingDataSubjectelseCopyRecordtoCurrentDataSubject}/又はもし該ランダムな推定が該データ項目が現在のデータ部分集合内に入るべきことを決めるなら、そのカテゴリー用に該現在の部分集合の統計的限界が越えられたかどうかをチェックする。もしそうでないなら、該現在のデータ部分集合に該データ項目を追加する。もし該割り当てが越えられたなら、該残りのデータ部分集合に該データ項目を追加する。/elseifCountinStateoutput<TotalCountinStateCopyRecordtoCurrentDataSubjectelseCopyRecordtoRemainingDataSubject}}//データ記録ループ終了/NaturalRandomizeの終了EvolveFeaturesSelectRandomStackofGenesLoopThrougheachgeneinStack{/遺伝子から部分空間を創る/ReadParametersReadSubspaceAxesfromGeneifAdaptiveNumberofBinsFlagSETCalculateAdaptiveNumbinselseUseNumBinsinParameterListifAdaptiveBinPositionsFlagSETCalculateAdaptiveBinPositionselseCalculateFixedBinPositions/:遺伝子から部分空間を創ることの終了/ProjectTrainDataintoSubspaceCalculateGlobalEntropyforSubspace//遺伝子ループの終了EvolveGenesUsingGlobalEntropy//遺伝的アルゴリズム}CreateTrainTestSubsetsDetermineRangesofInputsRandomizeTrainTestSubsetsRandomizeTrainTestSubsets{ThresholdReadThresholdfromParameterListLoopthroughdatarecordsinDataSubset{Loopthroughinputfeatures{ifiputfeature=min{ifinputFeatureMinFlagCLEARIncludeTrainFlagTRUEFeatureMinFlagSET}}elseifinputfeature=max{ifinputFeatureMaxFlagCLEARIncludeTrainFlagTRUEFeatureMaxFlagSET}}}//フイーチャーループの終了output=ReadOutputState//記録用に出力状態を読み出すguess=GuessRandomValueifguess<=ThresholdifCountinTrainDataSubsetoutput<ThresholdoutputTotalCountinStateORIncludeTrainFlagTRUECopyRecordtoTrainDataSubsetelseCopyRecordtoTestDataSubset}elseifCountinTestDataSubsetoutput<TotalCountinStateoutputANDIncludeTrainFlagFALSECopyRecordtoTestDataSubsetelseCopyRecordtoTrainDataSubset}}//データ記録ループの終了//RandomizeTrainTestSubsetsの終了ModelEvolution{GenerateRandomStackofModelGenes//モデル遺伝子が遺伝子のク//ラスターであるランダムモ//デル遺伝子を発生させるLoopthrougheachmodelgeneinstack{CalculateMGFF//モデル遺伝子適応度関数//{エムジーエフエフ}//の計算}//モデル遺伝子ループの終了EvolveFittestModelGene//最適モデル遺伝子を発展さ//せるため遺伝的アルゴリズム//をドライブするようエムジー//エフエフを使用}CalculateMGFF-モデル遺伝子適応度関数エムジーエフエフの計算{IdentifyFeatureGenes//フイーチャー遺伝子の集合を//同定するためモデル遺伝子を//パースparseするLoopthrougheachfeaturegene{CreateFeatureSubspaceLoopthrougheachtestrecord{ProjectTestRecordintoSubspaceUpdateTestRecordPrediction}}Total_Error0Loopthrougheachtestrecord{ifRecordPredictionActualRecordOutputTotalErrorTotalError1//インクレメント誤差}MGFFTotal_Error}本発明の好ましい実施例がここで説明された。付属する請求項により規定された本発明の真の範囲から離れることなく変更や変型が該実施例内で行われ得ることは勿論理解されるべきである。本実施例は好ましくは、コンピユータで実行可能なソフトウエア命令のセットとしてソウトウエアモジュール内で説明された方法を実施するロジックを含むのがよい。中央処理ユニットシーピーユーCPU、又はマイクロプロセサーは該トランシーバーの動作を制御する該ロジックを実行する。該マイクロプロセサーは説明された機能を提供するために当業者によりプログラムされ得るソフトウエアを実行する。該ソフトウエアは、磁気デイスク、光デイスク、そして該シーピーユーにより可読な何等かの他の揮発性[例えば、ランダムアクセスメモリー{ラムRAM}]又は不揮発性[例えば、読み出し専用メモリー{ロムROM}]フアームウエア記憶システムを含むコンピユータ可読の媒体上に保持される2進のビットのシーケンスとして表され得る。データビットが保持される該メモリー配置も又該記憶されるデータビットに対応する特定の電気的、磁気的、光学式又は有機的特性を有する物理的配置を有している。ソフトウエア命令はメモリーシステムを有する該シーピーユーによりデータビットとして実行され、該電気信号表現の変換と該メモリーシステム内のメモリー位置でのデータビットの保持をもたらし、それにより該ユニットの動作を再構成させるか又は他の仕方に変えさせる。該実行可能なソフトウエアコードは、例えば、上記説明の様な方法を実施してもよい。ここで説明されたプログラム、過程、方法そして装置は、他のように指示されてない限り、どんな特定の種類のコンピユータ又はネットワーク装置ハードウエア又はソフトウエアにも関係付けられず、限定されないことは理解されるべきである。種々の種類の汎用又は専用コンピユータ装置又は計算装置がここで説明された開示に依って使用されてもよく、動作を行ってもよい。本発明の原理が適用される広範な種類の実施例を見ると、図解された実施例は単に例示的で本発明の範囲を限定すると取られるべきでないことを理解すべきである。例えば、本発明は金融サービス市場、宣伝及びマーケッテイングサービス、製造過程に関連するシステム又は大きなデータ集合を有する他のシステムで使用されてもよい。加えて、該流れ線図の過程は説明されたものとは他のシーケンスで用いられてもよく、そして該ブロック線図ではより多く又はより少ない要素が使われてもよい。ハードウエア実施例は種々の異なる形式を取ってもよいことは理解されるべきである。該ハードウエアはカスタムゲートアレーcustomgatearrayまたは特定用途向け集積回路applicationspecificintegratedcircuit{エイシックASIC}で集積回路として実施されてもよい。勿論、該実施例は個別ハードウエア部品discretehardwarecomponentsと回路で実施されてもよい。特に、ここに説明した論理構造と方法の過程はエイシックの様な専用ハードウエアで、又はマイクロプロセサー又は他の計算素子により行われるプログアム命令として実施されてもよい。請求項はその効果に対し述べられていない限り要素の説明された順序に限定されるとして読まれるべきでない。加えて、何れの請求項でも用語手段meansの使用は35ユー.エス.シー.§112、パラグラフ6を行使するよう意図されており、該用語手段を有しない何れの請求項もそのように意図されてない。従って、下記請求項の範囲と精神に入る全ての実施例とその等価物は本発明として請求されている。"