(57)【要約】パターン（２６）を分類するかまたは入力パターンに関連する決定の価値を査定するようにニューラル・ネットワーク・モデル（２１）を訓練するための装置および方法であり、リスク微分学習（ＲＤＬ）目的関数（２８）を基礎として、入力パターンに応じたネットワークの実際の出力と、そのパターンに関する所望の出力とを含み、その比較の結果は、数値最適化によりニューラル・ネットワーク・モデルのパラメータの調整を支配する。ＲＤＬ目的関数は１つまたは複数の項を含み、それぞれはリスク／利益／分類性能指数（ＲＢＣＦＭ）関数であり、その関数はリスク微分（図６）の合成単調非減少型かつ反対称／非対称で区分的に微分可能な関数であり、それは所与の入力パターンに応じて生成されるニューラル・ネットワーク・モデルの出力間の差である。各ＲＢＣＦＭ関数は、ＲＤＬが最大正確性／収益性ならびに最小複雑性の普遍的保証を行えるような数学的属性を有する。ＲＤＬを使用する利益最大化リソース割振りの戦略についても開示する。
2005537526.tif 000002
【特許請求の範囲】
【請求項１】
入力パターンを分類するかまたは入力パターンに関連する決定の価値を査定するようにニューラル・ネットワーク・モデルを訓練する方法において、前記モデルが数値最適化によって調整可能な、相互関係のある数値パラメータを特徴とし、前記方法が、
所定の入力パターンに応じて前記モデルが生成した実際の分類または価値査定と、前記所定の入力パターンに関する所望の分類または価値査定とを比較するステップであって、前記比較が１つまたは複数の項を含む目的関数を基礎として実施されるステップと、
前記項のそれぞれが可変引き数δを備えた合成項関数であり、０付近のδの値の遷移領域を有し、前記項関数が前記遷移領域内の値δ＝０のあたりで対称であるステップと、
それによって前記モデルのパラメータが調整される前記数値最適化を支配するために前記比較の結果を使用するステップとを有する方法。
【請求項２】
各項関数が微分可能関数の区分的融合である、請求項１に記載の方法。
【請求項３】
前記遷移領域外でδの正の値に対応する前記項関数の第１の導関数が前記正の値と同じ絶対値を有するδの負の値に対応する前記項関数の前記第１の導関数より大きくないという属性を各項関数が有する、請求項１に記載の方法。
【請求項４】
各項関数が、その引き数δのすべての値について区分的に微分可能である、請求項１に記載の方法。
【請求項５】
各項関数が、その実数値引き数δの値が増加する場合にその値が減少しないように単調非減少型である、請求項１に記載の方法。
【請求項６】
各項関数が信頼性パラメータΨの関数であり、δ＝０のときに最大傾斜を有し、前記傾斜がΨに反比例する、請求項１に記載の方法。
【請求項７】
各項関数が、信頼性パラメータに直線的に比例する最小傾斜を有するδの単調増加多項式関数である、前記遷移領域外でδの負の値に対応する部分を有する、請求項１に記載の方法。
【請求項８】
Ψが０に近づくときに前記項関数がその引き数δのヘヴィサイド階段関数に近づくように、０と１の間で変動する単一実数値の信頼性パラメータΨによって円滑に調整可能な形状を各項関数が有する、請求項１に記載の方法。
【請求項９】
前記項関数が、Ψ＝１のときにその引き数デルタの近似的一次関数である、請求項８に記載の方法。
【請求項１０】
前記遷移領域外でδの正の値に対応する前記項関数の第１の導関数が前記正の値と同じ絶対値を有するδの負の値に対応する前記項関数の前記第１の導関数より大きくないという属性を各項関数が有し、
各項関数が信頼性パラメータΨの関数であり、δ＝０のときに最大傾斜を有し、前記傾斜がΨに反比例し、
各項関数が、Ψに直線的に比例する最小傾斜を有するδの単調増加多項式関数である、前記遷移領域外でδの負の値に対応する部分を有し、
各項関数が、その引き数δのすべての値について区分的に微分可能であり、
各項関数が、その実数値引き数δの値が増加する場合にその値が減少しないように単調非減少型である、請求項８に記載の方法。
【請求項１１】
入力パターンの分類および／または入力パターンに関連する決定の価値の査定を学習する方法において、前記方法が、
所定の入力パターンに関する実際の出力分類または決定価値査定を生成するために学習する必要がある概念のニューラル・ネットワーク・モデルに前記所定の入力パターンを適用するステップであって、前記モデルが調整可能で相互関係のある数値パラメータを特徴とするステップと、
単調非減少型かつ反対称でどこでも区分的に微分可能な目的関数を定義するステップと、
前記目的関数を基礎として前記所定の入力パターンに関する所望の出力分類または査定決定価値と実際の出力分類または決定価値査定とを比較するステップと、
前記比較の結果によって支配される数値最適化により前記モデルの前記パラメータを調整するステップとを有する方法。
【請求項１２】
Ｎ＞１の場合に、前記ニューラル・ネットワーク・モデルが、前記所定の入力パターンに応じてＮ個の出力値を生成する、請求項１１に記載の方法。
【請求項１３】
前記目的関数がＮ−１個の項を含み、各項が微分引き数δの関数である、請求項１２に記載の方法。
【請求項１４】
各項ごとに、前記δの値が、前記正確な分類／価値査定を表現する出力の値と、他の出力値のうちの対応するものとの差である、請求項１３に記載の方法。
【請求項１５】
学習対象の例が不正確に分類または価値査定されたときに、前記目的関数が可変引き数δの関数である単一項を含み、前記δの値が、前記正確な分類／価値査定を表現する出力の値と、他の最大出力値との差である、請求項１２に記載の方法。
【請求項１６】
前記ニューラル・ネットワーク・モデルが、前記所定の入力パターンに応じて単一出力値を生成する、請求項１１に記載の方法。
【請求項１７】
前記目的関数が可変引き数δの関数を含み、δが、前記単一出力値と、前記出力が取ることができる最大値と最小値の平均に等しいファントム出力との差である、請求項１６に記載の方法。
【請求項１８】
入力パターンを分類するかまたは入力パターンに関連する決定の価値を査定するようにニューラル・ネットワーク・モデルを訓練するための装置において、前記モデルが数値最適化によって調整可能な、相互関係のある数値パラメータを特徴とし、前記装置が、
所定の入力パターンに応じて前記モデルが生成した実際の分類または価値査定出力と、前記所定の入力パターンに関する所望の分類または価値査定出力とを比較するための比較手段であって、
前記比較手段が１つまたは複数の項を含む目的関数を基礎として前記比較を実施する構成要素を含み、
前記項のそれぞれが可変引き数δを備えた合成項関数であり、０付近のδの値の遷移領域を有し、前記項関数が前記遷移領域内の値δ＝０のあたりで対称である前記比較手段と、
前記比較手段および前記関連ニューラル・ネットワーク・モデルに結合され、それによって前記モデルのパラメータが調整される前記数値最適化を支配するために前記比較手段によって実行される比較の結果に応答する調整手段とを有する装置。
【請求項１９】
各項関数が微分可能関数の区分的融合である、請求項１８に記載の装置。
【請求項２０】
前記遷移領域外でδの正の値に対応する前記項関数の第１の導関数が前記正の値と同じ絶対値を有するδの負の値に対応する前記項関数の前記第１の導関数より大きくないという属性を各項関数が有する、請求項１８に記載の装置。
【請求項２１】
各項関数が、その引き数δのすべての値について区分的に微分可能である、請求項１８に記載の装置。
【請求項２２】
各項関数が、その実数値引き数δの値が増加する場合にその値が減少しないように単調非減少型である、請求項１８に記載の装置。
【請求項２３】
各項関数が信頼性パラメータΨの関数であり、δ＝０のときに最大傾斜を有し、前記傾斜がΨに反比例する、請求項１８に記載の装置。
【請求項２４】
各項関数が、信頼性パラメータに直線的に比例する最小傾斜を有するδの単調増加多項式関数である、前記遷移領域外でδの負の値に対応する部分を有する、請求項１８に記載の装置。
【請求項２５】
Ψが０に近づくときに前記項関数がその引き数δのヘヴィサイド階段関数に近づくように、０と１の間で変動する単一実数値の信頼性パラメータΨによって円滑に調整可能な形状を各項関数が有する、請求項１８に記載の装置。
【請求項２６】
前記項関数が、Ψ＝１のときにその引き数δの近似的一次関数である、請求項２５に記載の装置。
【請求項２７】
前記遷移領域外でδの正の値に対応する前記項関数の第１の導関数が前記正の値と同じ絶対値を有するδの負の値に対応する前記項関数の前記第１の導関数より大きくないという属性を各項関数が有し、
各項関数が信頼性パラメータΨの関数であり、δ＝０のときに最大傾斜を有し、前記傾斜がΨに反比例し、
各項関数が、Ψに直線的に比例する最小傾斜を有するδの単調増加多項式関数である、前記遷移領域外でδの負の値に対応する部分を有し、
各項関数が、その引き数δのすべての値について区分的に微分可能であり、
各項関数が、その実数値引き数δの値が増加する場合にその値が減少しないように単調非減少型である、請求項２５に記載の装置。
【請求項２８】
入力パターンの分類および／または入力パターンに関連する決定の価値の査定を学習するための装置において、前記装置が、
学習する必要がある概念のニューラル・ネットワーク・モデルであって、前記モデルが調整可能で相互関係のある数値パラメータを特徴とし、
前記ニューラル・ネットワーク・モデルが、実際の分類または決定価値査定出力を生成するために所定の入力パターンに応答するニューラル・ネットワーク・モデルと、
単調非減少型かつ反対称で区分的にどこでも微分可能な目的関数を基礎として前記所定の入力パターンに関する所望の出力と実際の出力とを比較するための比較手段と、
前記比較手段および前記ニューラル・ネットワーク・モデルに結合され、前記比較手段によって実行される比較の結果によって支配される数値最適化により前記モデルのパラメータを調整するための手段とを有する装置。
【請求項２９】
Ｎ＞１の場合に、前記ニューラル・ネットワーク・モデルが、前記所定の入力パターンに応じてＮ個の出力値を生成する、請求項２８に記載の装置。
【請求項３０】
前記目的関数がＮ−１個の項を含み、各項が微分引き数δの関数である、請求項２９に記載の装置。
【請求項３１】
各項ごとに、前記δの値が、前記正確な分類／価値査定を表現する出力の値と、他の出力値のうちの対応するものとの差である、請求項３０に記載の装置。
【請求項３２】
学習対象の例が不正確に分類または価値査定されたときに、前記目的関数が可変引き数δの関数である単一項を含み、前記δの値が、前記正確な分類／価値査定を表現する出力の値と、他の最大出力値との差である、請求項２９に記載の装置。
【請求項３３】
前記ニューラル・ネットワーク・モデルが、前記所定の入力パターンに応じて単一出力値を生成する、請求項２８に記載の装置。
【請求項３４】
前記目的関数が可変引き数δの関数を含み、δが、前記単一出力値と、前記出力が取ることができる最大値と最小値の平均に等しいファントム出力との差である、請求項３３に記載の装置。
【請求項３５】
入力パターンの分類および／または入力パターンに関連する決定の価値の査定を学習する方法において、前記方法が、
所定の入力パターンに関する１つまたは複数の出力値と実際の出力分類または決定価値査定を生成するために学習する必要がある概念のニューラル・ネットワーク・モデルに前記所定の入力パターンを適用するステップであって、前記モデルが調整可能で相互関係のある数値パラメータを特徴とするステップと、
１つまたは複数の項を含む目的関数を基礎として前記所定の入力パターンに関する所望の出力分類または決定価値査定と実際の出力分類または決定価値査定とを比較するステップとを有し、
学習すべき前記概念に関連するデータの統計特性とは無関係にしかも前記ニューラル・ネットワークの数学的特性とは無関係に、前記学習方法が、（ａ）他のいかなる学習方法も所与のニューラル・ネットワーク・モデルについてより大きい分類または価値査定の正確性をもたらさず、（ｂ）他のいかなる学習方法も所与のレベルの分類または価値査定の正確性を達成するためにより複雑ではないニューラル・ネットワーク・モデルを必要としないことを保証できるように、各項が、第１の出力値と、第２の出力値または前記第１の出力値のダイナミック・レンジの中点との差の関数である、方法。
【請求項３６】
各項が可変引き数δを備えた合成項関数であり、０付近のδの値の遷移領域を有し、前記項関数が前記遷移領域内の値δ＝０のあたりで対称である、請求項３５に記載の方法。
【請求項３７】
前記遷移領域外でδの正の値に対応する前記項関数の第１の導関数が前記正の値と同じ絶対値を有するδの負の値に対応する前記項関数の前記第１の導関数より大きくないという属性を各項関数が有する、請求項３６に記載の方法。
【請求項３８】
各項関数が、その引き数δのすべての値について区分的に微分可能である、請求項３６に記載の方法。
【請求項３９】
各項関数が、その実数値引き数δの値が増加する場合にその値が減少しないように単調非減少型である、請求項３６に記載の方法。
【請求項４０】
Ψが０に近づくときに前記項関数がその引き数δのヘヴィサイド階段関数に近づくように、０と１の間で変動する単一実数値の信頼性パラメータΨによって円滑に調整可能な形状を各項関数が有する、請求項３６に記載の方法。
【請求項４１】
前記項関数が、Ψ＝１のときにその引き数δの近似的一次関数である、請求項４０に記載の方法。
【請求項４２】
各項関数が微分可能関数の区分的融合である、請求項３６に記載の方法。
【請求項４３】
利益を最適化するように、１つまたは複数の投資を含むトランザクションにリソースを割り振る方法において、前記方法が、
所定のリスク許容度レベルに基づいてしかも前記トランザクションの予想収益性に反比例して前記トランザクションに充当すべき全リソースのリスク部分を決定するステップと、
教示可能な価値査定ニューラル・ネットワーク・モデルを使用して前記トランザクションの収益性の高い投資を識別するステップと、
前記全リソースのリスク部分のうち、前記トランザクションの収益性の高い投資にそれぞれ割り振るべき部分を決定するステップと、
前記トランザクションを実行するステップと、
前記トランザクションが全リソースに影響したかどうかならびにどのように影響したかに基づいて、前記リスク許容度レベルおよび／または前記全リソースのリスク部分を変更するステップとを有する方法。
【請求項４４】
前記トランザクションの前記予想収益性が、教示可能な価値査定ニューラル・ネットワーク・モデルを使用して可能なトランザクションを査定することによって決定される、請求項４３に記載の方法。
【請求項４５】
前記変更ステップが、全リソースの増加を反映するように前記リスク許容度レベルを変更するステップを含む、請求項４３に記載の方法。
【請求項４６】
前記変更ステップが、前記リスク許容度レベルの変化を反映するように前記全リソースのリスク部分を変更するステップを含む、請求項４５に記載の方法。
【請求項４７】
前記トランザクションが全リソースを増加しなかった場合に、前記変更ステップが、前記全リソースのリスク部分を削減するのではなく、維持または増加するだけのステップを含む、請求項４３に記載の方法。
【請求項４８】
前記トランザクションの実行直後にリソースが枯渇したかどうかを判定するステップをさらに含む、請求項４３に記載の方法。
【請求項４９】
前記トランザクションが使用可能なリソースを枯渇させていない場合のみ、前記変更ステップが実施される、請求項４８に記載の方法。
【請求項５０】
前記全リソースのリスク部分を決定するステップが、まず全リソースのうち、前記トランザクションに割振り可能な最大許容部分を決定するステップと、それが前記最大許容部分を超えないように前記全リソースのリスク部分を決定するステップとを含む、請求項４３に記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本出願は、統計パターン認識および／または分類に関し、特に、コンピュータが概念を識別して認識する方法を学習することができる学習戦略に関する。
【背景技術】
【０００２】
パターン認識および／または分類は、光学式文字認識、遠隔探査画像解釈、医学的診断／決定サポート、ディジタル通信などに関連するものなど、多種多様なリアルワールド・タスクに有用である。このようなパターン分類は概して、一連の訓練演習により、パターン分類タスクを実施するために必要な概念を「学習」することができる、ニューラル・ネットワークなどの訓練可能ネットワークによって実施される。このようなネットワークは、（ａ）関心のある概念の学習例であって、本明細書で「入力パターン」と呼ぶ数字の順序付き集合によって数学的に表される学習例と、（ｂ）これらの例にそれぞれ関連する数値分類とを入力することによって訓練される。ネットワーク（コンピュータ）は、その概念の適切な分類を引き起こす概念の主要特性を学習する。したがって、ニューラル・ネットワーク分類モデルは、それが学習した主要特性に基づいて、その概念についてそれ自体の数学表現を形成する。この表現により、ネットワークは、その概念の他の例に遭遇したときにその例を認識することができる。
【０００３】
ネットワークは分類器と呼ぶこともできる。微分可能分類器は、微分可能目的関数の最適化を目標とするサーチを介して内部パラメータの集合を調整することによって入力／出力マッピングを学習するものである。この目的関数は、分類器が特徴ベクトル空間から分類空間へのマッピングを発生することが訓練サンプルの入力パターンとそのクラス・メンバーシップとの経験的関係をどの程度十分に反映しているかを評価する測定基準である。分類器の判別関数のそれぞれは、そのパラメータの微分可能関数である。特徴ベクトルが表現可能なＣ通りのクラスに対応するＣ通りのこのような関数が存在すると想定する場合、これらのＣ通りの関数はひとまとめにして判別器と呼ばれる。したがって、この判別器はＣ次元の出力を有する。この分類器の出力は単に、最大判別器出力に対応するクラス・ラベルにすぎない。Ｃ＝２という特殊ケースでは、判別器は、２つの出力の代わりに１つの出力のみを有することができ、その出力は、その中点値を超えたときに一方のクラスを表現し、その中点値以下になったときにもう一方のクラスを表現する。
【０００４】
すべての統計パターン分類器の目的は、ベイズの判別関数（「ＢＤＦ」）、すなわち、パターン認識タスクにおいて分類エラーを発生する最低確率を保証する任意の判別関数の集合を実現することである。ＢＤＦを実現する分類器は、ベイズの判別をもたらすといわれている。学習戦略の課題は、そのタスクに必要な最少数の訓練例と最も複雑ではない分類器（たとえば、最少数のパラメータを使用するもの）を使用して、ＢＤＦを効率よく近似することである。
【０００５】
本出願人はこれまで、効率のよいニューラル・ネットワーク・パターン認識のための学習の微分理論を提案してきた（１９９３年のJ. Hampshireによる「A Differential Theory of Learning for Efficient Statistical Patterns Recognition」というカーネギーメロン大学の博士論文を参照）。統計パターン分類のための微分学習は、分類性能指数（「ＣＦＭ:Classification Figure-of-Merit」）目的関数に基づくものである。同論文では、微分学習が漸近的に効率のよいものであり、ベイズの（すなわち、最小エラー確率）判別に必要な最も複雑ではない分類器を必要としながら、訓練サンプル・サイズが大きくなったときに仮説クラスの選択によって可能になる最良一般化を保証することが立証されていた。そのうえ、同論文には、微分学習が小さい訓練サンプル・サイズについて仮説クラスの選択によって可能になる最良一般化をほとんどいつも保証することが示されていた。
【０００６】
しかし、実際には、同論文に記載されている微分学習がいくつかの実際的な事例において上記の保証を提供できないことが判明している。また、微分学習の概念は、学習対象のデータの性質に関連する学習手順に関する具体的な要件ならびに分類を実施するために使用するニューラル・ネットワーク表現モデルの数学的特性に関する制限事項を提起した。さらに、以前の微分学習分析では、パターン分類のみを扱っており、価値査定、すなわち、入力パターンに基づいて決定（ニューラル・ネットワーク・モデルの出力によって列挙されるもの）の損益可能性を査定することに関する他のタイプの問題に対処していなかった。
【発明の開示】
【発明が解決しようとする課題】
【０００７】
本出願には、追加の構造上および動作上の利点を提供しながら、このような従来システムの欠点を回避する、ニューラル・ネットワーク・モデルを訓練するための改良システムが記載されている。
【０００８】
入力パターンが数値的に表現された場合に概念および／または決定の経済価値を識別し認識する方法をコンピュータが学習できるようにするシステム・アーキテクチャおよびプロセスが記載されている。
【課題を解決するための手段】
【０００９】
重要な一態様は、所与のニューラル・ネットワーク・モデルに関する最大正確性／利益ならびに目標レベルの正確性または利益を達成するために必要なニューラル・ネットワーク・モデルに関する最小複雑性要件の判別効率保証を行うことができ、このような保証を普遍的に、すなわち、学習すべきタスクに関連する入出力データの統計特性とは無関係にしかも使用するニューラル・ネットワーク表現モデルの数学的特性とは無関係に行うことができる、規定のタイプの訓練システムを提供することである。
【００１０】
他の態様は、上記の保証を犠牲にせずに典型的な例の高速学習を可能にする、規定のタイプのシステムを提供することである。
【００１１】
上記の諸態様に関連する他の態様は、調整可能（学習可能）で相互関係のある数値パラメータを特徴とするニューラル・ネットワーク表現モデルを使用し、そのモデルのパラメータを調整するために数値最適化を使用する、規定のタイプのシステムを提供することである。
【００１２】
上記の態様に関連する他の態様は、数値最適化を支配するための合成単調非減少型かつ反対称／非対称で区分的にどこでも微分可能な目的関数を定義する、規定のタイプのシステムを提供することである。
【００１３】
さらに他の態様は、目的関数を実現するために合成リスク／利益／分類性能指数関数を使用する、規定のタイプのシステムを提供することである。
【００１４】
上記の態様に関連するさらに他の態様は、性能指数関数(figure-of-merit)が、入力パターンに応じてニューラル・ネットワークの出力値間の差である可変引き数(variable argument)δを有し、０付近のδの値の遷移領域を有し、その関数が遷移領域内で固有の対称性を有し、遷移領域外では非対称である、規定のタイプのシステムを提供することである。
【００１５】
上記の態様に関連するさらに他の態様は、性能指数関数が可変信頼性パラメータΨを有し、そのパラメータがますます難しくなる例を学習するシステムの能力を規制する、規定のタイプのシステムを提供することである。
【００１６】
さらに他の態様は、入力パターンに関連する決定に関して価値査定を実行するようにネットワークを訓練する、規定のタイプのシステムを提供することである。
【００１７】
上記の態様に関連するさらに他の態様は、不正確な決定にコストを割り当て、正確な決定に利益を割り当てるために目的関数の一般化を使用する、規定のタイプのシステムを提供することである。
【００１８】
上記の諸態様に関連するさらに他の態様は、非ゼロのトランザクション・コストを備えた投機的価値査定タスクのための利益最大化リソース割振り技法を提供することである。
【００１９】
上記その他の態様のうちの所与のいくつかは、入力パターンを分類するかまたは入力パターンに関連する決定の価値を査定するようにニューラル・ネットワーク・モデルを訓練する方法を提供することによって達成することができ、そのモデルは数値最適化によって調整可能な、相互関係のある数値パラメータを特徴とし、その方法は、所定の入力パターンに応じてモデルが生成した実際の分類または価値査定と、所定の入力パターンに関する所望の分類または価値査定とを比較するステップであって、その比較は１つまたは複数の項を含む目的関数を基礎として実施され、各項は可変引き数δを備えた合成項関数であり、０付近のδの値の遷移領域を有し、その項関数は遷移領域内の値δ＝０のあたりで対称であるステップと、それによってモデルのパラメータが調整される数値最適化を支配するために比較の結果を使用するステップとを含む。
【００２０】
保護しようとしている主題の理解を容易にするために、添付図面にはその実施形態が例示されており、それを調べることにより、以下の説明と関連して考慮したときに、保護しようとしている主題、その構造および動作、ならびにその利点の多くを容易に理解し認識できるはずである。
【実施例】
【００２１】
図１を参照すると、学習することが必要な概念のランダムにパラメータ表示したニューラル・ネットワーク分類／価値査定モデル２１を含むシステム２０が示されている。モデル２１を定義するニューラル・ネットワークは、そのネットワークによって定義された数学的マッピングによって表現される分類または価値査定タスクを実行するように教育または訓練することができるいくつかの自己学習モデルのうちのいずれかにすることができる。本出願のため、「ニューラル・ネットワーク」という用語は、数値入力パターンから出力数字の集合への微分可能な（微積分学で定義されている通り）数学的マッピングのパラメータ表示集合を構成する任意の数学的モデルを含み、各出力数字は、入力パターンの固有の分類または入力パターンに応じて行うことができる固有の決定の価値査定に対応する。ニューラル・ネットワーク・モデルは多くの実現形式を取ることができる。たとえば、これは、汎用ディジタル・コンピュータ上で実行されるソフトウェアでシミュレートすることができる。これは、ディジタル信号処理（ＤＳＰ）チップ上で実行されるソフトウェアで実現することができる。これは、浮動小数点ゲート・アレイ（ＦＰＧＡ）または特定用途向け集積回路（ＡＳＩＣ）で実現することができる。また、これは、関連ソフトウェアを備えた汎用コンピュータと、ＤＳＰ、ＦＰＧＡ、ＡＳＩＣ、またはそれらの組み合わせ上で実行される周辺ハードウェア／ソフトウェアとを含むハイブリッド・システムで実現することもできる。
【００２２】
ニューラル・ネットワーク・モデル２１は、関心のある概念の学習例の集合をそれに提示することによって訓練または教育され、各例は数字の順序付き集合によって数学的に表される入力パターンの形になっている。この学習フェーズ中にこれらの入力パターンはニューラル・ネットワーク・モデル２１に順次提示されるが、図１の２２にはそのうちの１つが示されている。入力パターンはデータ収集および／または記憶装置２３から入手される。たとえば、入力パターンはディジタル・カメラからの一連のラベル付き画像にすることができ、超音波、コンピュータ・トモグラフィ・スキャナ、または磁気共鳴画像装置からの一連のラベル付き医療画像にすることができ、宇宙船からの遠隔測定データの集合にすることができ、インターネットを介して入手される株式市場からの「値動きデータ(tick data)」にすることができ、一連のラベル付き例に対応可能な任意のデータ収集および／または記憶システムは学習に必要な入力パターンとクラス／値ラベルを提供することができる。訓練集合内の入力パターンの数は、学習に使用すべきニューラル・ネットワーク・モデルの選択およびそのモデルによって達成可能な分類の正確性の程度のいずれか所望のものに応じて変化する可能性がある。一般に、学習例の数が大きくなるほど、すなわち、訓練がより広範囲になるほど、ニューラル・ネットワーク・モデル２１によって達成可能な分類の正確性が高くなる。
【００２３】
ニューラル・ネットワーク・モデル２１は入力パターン２２に応答して、本明細書でリスク微分学習（「ＲＤＬ」）と呼ぶ具体的な訓練または学習技法によってそれ自体を訓練する。図１の２５には、リスク微分学習を実施し、リスク微分学習の影響を受ける機能ブロックが示されている。これらのブロックは記憶プログラムの制御下で動作するコンピュータで実現可能であることが分かるだろう。
【００２４】
各入力パターン２２には、２６に大まかに示されている所望の出力分類／価値査定が関連付けられている。各入力パターン２２に応じて、ニューラル・ネットワーク・モデル２１は、２７のように入力パターンの実際の出力分類または価値査定を生成する。この実際の出力は、２８のようにＲＤＬ目的関数を介して所望の出力２６と比較されるが、この関数はその比較の「良さ」の尺度である。次にこの比較の結果を使用して、２９のようにニューラル・ネットワーク・モデル２１のパラメータの調整を数値最適化を介して支配する。最適化を支配するためにＲＤＬ目的関数を使用する限り、数値最適化アルゴリズムの具体的な性質は未指定である。２８の比較関数はＲＤＬ目的関数自体の数値最適化または調整を実施し、その結果、２９のモデル・パラメータ調整が行われ、それによって、ニューラル・ネットワーク・モデル２１が、２８のように高レベルの良さを備えた所望のものと「一致」する実際の分類（または評価）出力を生成することを保証する。
【００２５】
ニューラル・ネットワーク・モデル２１が、学習例の集合内の各入力パターンを受け取ってそれに応答することによってその学習フェーズを経験した後、システム２０は、それがそれまでに見たことがない新しい入力パターンに応答して、それを適切に分類するかまたはそれに応じて行うことができる決定の損益可能性を査定することができる。換言すれば、ＲＤＬは、それによってニューラル・ネットワーク・モデル２１がそのパラメータを調整し、入力パターンと所望の分類／価値査定の対になっている例から、学習フェーズ中に見えない新しいパターンが提示されたときにその分類／価値査定関数を実行する方法を学習する、特定のプロセスである。
【００２６】
以下により完全に説明するように、ＲＤＬによって学習すると、システム２０は、入力パターンに対するその出力応答に関連する最大正確性（分類）または最大利益（価値査定）のいずれかについて強力な保証を行うことができる。
【００２７】
ＲＤＬは以下の特徴を特色とする。
１）調整可能（学習可能）で相互関係のある数値パラメータを特徴とする表現モデルを使用する。
２）そのモデルのパラメータを調整するために数値最適化を使用する（この調整が学習を構成する）。
３）以下の特徴４で定義するＲＤＬ目的関数を実現するために合成単調非減少型かつ反対称／非対称で区分的に微分可能なリスク／利益／分類性能指数（ＲＢＣＦＭ）を使用する。
４）数値最適化を支配するためのＲＤＬ目的関数を定義する。
５）価値査定のために、ＲＤＬ目的関数（特徴３および４）の一般化により、不正確な決定にコストを割り当て、正確な決定に利益を割り当てる。
６）学習サンプルが大きい場合、ＲＤＬは以下の項目の判別効率保証を行う（詳細な定義および説明については以下を参照）。
ａ．所与のニューラル・ネットワーク・モデルに関する最大正確性／利益
ｂ．目標レベルの正確性または利益を達成するために必要なニューラル・ネットワーク・モデルに関する最小複雑性要件
７）特徴６の保証は普遍的に適用され、（ａ）学習すべき分類／価値査定タスクに関連する入出力データの統計特性、（ｂ）使用するニューラル・ネットワーク表現モデルの数学的特性、および（ｃ）学習タスクを含むクラスの数とは無関係である。
８）ＲＤＬは、非ゼロのトランザクション・コストを備えた投機的価値査定タスクのための利益最大化リソース割振り手順を含む。
【００２８】
特徴３〜８は、他のすべての学習パラダイムによりＲＤＬを固有のものにすると考えられている。
【００２９】
（特徴１）：  ニューラル・ネットワーク・モデル
図２を参照すると、ニューラル・ネットワーク分類モデル２１Ａが示されているが、これは基本的に、図示の例では鳥などの物体のディジタル写真にすることができる入力パターン２２Ａの分類用に特に配置された図１のニューラル・ネットワーク・モデル２１である。図示の例の鳥は、考えられる６通りの種、すなわち、ミソサザイ、アメリカコガラ、ゴジュウカラ、ハト、コマドリ、ネコマネドリのうちの１種に属す。入力パターン２２Ａの場合、分類モデル２１Ａは、入力写真が考えられる６通りの鳥の種のそれぞれの写真である可能性にそれぞれ比例する６通りの出力値３０〜３５を生成する。たとえば、出力３の値３２が他の出力のいずれかの値より大きい場合、その入力写真はゴジュウカラとして分類される。
【００３０】
図３を参照すると、ニューラル・ネットワーク価値査定モデル２１Ｂが示されているが、これは本質的に、図示の例では株式相場表示器記号にすることができる入力パターン２２Ｂの価値査定用に構成された図１のニューラル・ネットワーク・モデル２１である。入力株式相場表示器データ・パターンの場合、価値査定モデル２１Ｂは、その出力に関連する３通りの決定のそれぞれ（たとえば、「購入」、「保有」、または「売却」）が行われた場合に発生すると思われる利益または損失にそれぞれ比例する３通りの出力値３６〜３８を生成する。たとえば、出力２の値３７が他の出力のいずれかより大きい場合、その特定の株式相場表示器記号に関する最も収益性の高い決定は、その投資を保有することになるだろう。
【００３１】
（特徴２）：  数値最適化
ＲＤＬでは、ニューラル・ネットワーク分類／価値査定モデル２１のパラメータを調整するために数値最適化を使用する。ＲＤＬは、広範なクラスの学習モデルと対にすることができるように、広範なクラスの数値最適化技法と対にすることができる。すべての数値最適化技法は、目的関数によって導かれるように設計されている（最適性を定量化するために良さの尺度を使用する）。目的関数は一般にシナリオに依存するので、これらの技法では目的関数を未指定の状態にしておく。パターン分類および価値査定のケースでは、本出願人は、「リスク／利益／分類性能指数」（ＲＢＣＦＭ）ＲＤＬ目的関数が実質的にすべてのケースに適切な選択であると判断している。その結果として、後述する一般属性を備えた数値最適化であれば、どのような数値最適化でもＲＤＬに使用することができる。数値最適化は、後述するＲＤＬ目的関数２８によって支配しなければならない（図１を参照）。この特定の属性以上に、数値最適化手順は、ニューラル・ネットワーク・モデル（前述の通り）および後述するＲＤＬ目的関数とともに使用可能でなければならない。したがって、無数の数値最適化手順のいずれか１つがＲＤＬとともに使用することができる。ＲＤＬ用の適切な数値最適化手順の２つの例としては「勾配上昇」と「共役勾配上昇」がある。ＲＢＣＦＭ  ＲＤＬ目的関数の最大化は、明らかに何らかの定数からＲＢＣＦＭ  ＲＤＬ目的関数を引いたものの最小化と同等であることに留意されたい。その結果として、ＲＢＣＦＭ  ＲＤＬ目的関数の最大化に関連する本明細書の言及は同等の最小化手順にも及ぶものである。
【００３２】
（特徴３）：  ＲＤＬ目的関数のリスク／利益／分類性能指数
ＲＤＬ目的関数は、それによって入力パターンと学習すべきデータの出力分類／価値査定との関係を補償するためにニューラル・ネットワーク分類／価値査定モデルのパラメータが調整される数値最適化手順を支配する。事実、この数値最適化によるＲＤＬ支配のパラメータ調整は学習プロセスである。
【００３３】
ＲＤＬ目的関数は１つまたは複数の項を含み、そのそれぞれは単一リスク微分引き数を有するリスク／利益／分類性能指数（ＲＢＣＦＭ）関数（「項関数」）である。次に、リスク微分引き数は単に、２つのニューラル・ネットワーク出力の数値間の差であり、単一出力ニューラル・ネットワークの場合は単一出力の単純一次関数である。たとえば、図７を参照すると、ＲＤＬ目的関数は、ニューラル・ネットワーク分類／価値査定モデル２１Ｃの出力で生成され、δで示される「リスク微分」の関数である。これらのリスク微分は、学習中にニューラル・ネットワークの出力から計算される。図７には、ニューラル・ネットワークの３つの出力が示されており（ただし、いくつでもよい）、出力値の増加順に上から下へ任意に配置されており、したがって、出力１が最低値の出力になり、出力Ｃが最高値の出力になっている。入力パターン２２Ｃとその正確な出力分類または価値査定との対応は、その両方を太い輪郭で示すことによって示されている。（図７〜１０についてはこの規則に従うことにする。）図７は、「正確な」シナリオの場合のリスク微分の計算を示しており、この場合、Ｃ個の出力のニューラル・ネットワークはＣ−１個のリスク微分δを有し、そのリスク微分は、その入力パターンに関する正確な分類／価値査定に対応するネットワークの最大値の出力６３（図示の例ではＣ）と、他の各出力との差である。したがって、３つの出力６１〜６３が示されている図７では、それぞれδ（１）およびδ（２）で示される２つのリスク微分６４および６５が存在し、大きい方の出力から小さい方の出力に延びる矢印の方向によって示すように、それらはいずれも正である。
【００３４】
図８は、「不正確な」シナリオの場合のリスク微分の計算を示しており、この場合、ニューラル・ネットワークは出力６６〜６８を有するが、最大出力６８（Ｃ）は、この例では出力６７（２）である正確な分類または価値査定出力に対応しない。このシナリオでは、ニューラル・ネットワーク２１Ｃは１つのリスク微分６９であるδ（１）のみを有し、そのリスク微分は、正確な出力（２）と最大値の出力（Ｃ）との差であり、矢印の方向によって示すように、負である。
【００３５】
図９〜１２を参照すると、単一出力ニューラル・ネットワーク２１Ｄの特殊ケースが示されている。図９〜１２において正確なクラスを表現する出力（またはファントム出力）は太い輪郭を有することに留意されたい。図９および図１０の入力パターン２２Ｄは、ニューラル・ネットワークの単一出力によって表現されるクラスに属している。図９の単一出力７０はファントム７１より大きく、したがって、計算したリスク微分７２は正であり、入力パターン２２Ｄは正確に分類される。図１０の単一出力７３はファントム７４より小さく、したがって、計算したリスク微分７５は負であり、入力パターン２２Ｄは不正確に分類される。図１１および図１２の入力パターン２２Ｄは、ニューラル・ネットワークの単一出力によって表現されるクラスに属していない。図１１の単一出力７６はファントム７７より小さく、したがって、計算したリスク微分７８は正であり、入力パターン２２Ｄは正確に分類され、図１２の単一出力７９はファントム８０より大きく、したがって、計算したリスク微分８１は負であり、入力パターン２２Ｄは不正確に分類される。
【００３６】
リスク／利益／分類性能指数（ＲＢＣＦＭ）関数自体はいくつかの数学的属性を有する。σ（δ，Ψ）という表記はリスク微分δと急勾配または信頼性パラメータΨ（以下に定義する）について評価したＲＢＣＦＭ関数を示すものとする。図４はその可変引き数(variable argument)δに対するＲＢＣＦＭ関数のグラフであり、図５は図４に示すＲＢＣＦＭ関数の第１の導関数のグラフである。ＲＢＣＦＭ関数は以下の属性を特徴とすることが分かる。
【００３７】
１．ＲＢＣＦＭ関数は厳密な非減少関数でなければならない。すなわち、この関数は、その実数値引き数(real-valued argument)δの値が増加する場合にその値が減少してはならない。この属性は、ＲＢＣＦＭ関数が、関連のニューラル・ネットワーク・モデルが入力パターンの分類または価値査定を学習したときの正確性または収益性のレベルの正確なゲージであることを保証するために必要である。
【００３８】
２．ＲＢＣＦＭ関数は、その引き数(argument)δのすべての値について区分的微分可能なものでなければならない。具体的には、ＲＢＣＦＭ関数の導関数はその関数の「合成変曲点」に対応するδの値について存在する場合もあれば存在しない場合もあるという例外を除き、ＲＢＣＦＭ関数の導関数はδのすべての値について存在しなければならない。図４を参照すると、ＲＢＣＦＭ関数の一例として、これらの変曲点は自然関数が合成関数の変化を記述するために使用した点である。図４に示すＲＢＣＦＭ関数４０の例では、その特定の関数は２つの二次セグメント４４および４５によって接続された３つの一次セグメント４１〜４３を構成し、その二次セグメントは図示の例では、それぞれ放物線４６および４７の一部分である。合成変曲点は、関数全体を合成するために構成要素関数セグメントが接続されている箇所であり、すなわち、一次セグメントが二次セグメントに接している箇所である。図５で分かるように、セグメント５１〜５５がそれぞれセグメント４１〜４５の第１の導関数であるＲＢＣＦＭ関数４０の第１の導関数５０は、δのすべての値について存在する。第２の高階導関数は、合成変曲点を除くδのすべての値について存在する。受け入れられるＲＢＣＦＭ関数のこの特定の事例では、合成変曲点は、合成関数４０の第１の導関数５０が急激な変化を示す点に対応する。したがって、厳密に数学的な意味では、２階またはそれ以上の高階導関数はこれらの点に存在しない。
【００３９】
この特定の特性は、図４のこの特定のＲＢＣＦＭ関数を合成するために使用する構成要素関数が一次関数と二次関数であることに由来する。おそらく、その合成変曲点を除くどこでも微分可能であることにより、目的関数は上記のように広範囲の数値最適化技法と対にすることができる。
【００４０】
３．ＲＢＣＦＭ関数は、２つの極値間で変動する調整可能な形態（形状）を有していなければならない。図４および図５は、急勾配または信頼性パラメータΨの単一値に関するＲＢＣＦＭ関数およびその第１の導関数のグラフである。図６には、急勾配パラメータΨの５通りの値について図４に示す合成ＲＢＣＦＭ関数のグラフ５６〜６０が示されている。この急勾配パラメータは、１と０の間であって、０を含まない任意の値を有することができる。ＲＢＣＦＭ関数の形態は、以下の２つの極値間で、単一実数値の急勾配または信頼性パラメータΨによって円滑に調整可能でなければならない。
ａ．Ψ＝１のときにその引き数δの近似的一次関数：
【数１】
2005537526.tif 000003
式中、ａおよびｂは実数である。
ｂ．Ψが０に近づくときにその引き数δの近似的へヴィサイド(Heaviside)階段関数：
【数２】
2005537526.tif 000004
したがって、図６で分かるように、Ψが１に近づくにつれて、ＲＢＣＦＭ関数はほぼ線形になる。Ψが０に近づくにつれて、ＲＢＣＦＭ関数はほぼヘヴィサイド階段（すなわち、個数(counting)）関数になり、その従属変数δが正の値である場合に１という値をもたらし、δが非正の値である場合に０という値をもたらす。
【００４１】
この属性は、分類器が例の学習を許可されるときの最小信頼性（Ψによって指定される）を規制するために必要なものである。Ψ＝１で学習すると、分類器は「易しい」例、すなわち、それに関する分類または価値査定が明白である例のみの学習を許可される。したがって、これらの例を学習することができるときの最小信頼性は１に近づく。それより小さい値の信頼性パラメータΨで学習すると、分類器はより「難しい」例、すなわち、それに関する分類または価値査定がより不明瞭である例の学習を許可される。これらの例を学習することができるときの最小信頼性はΨに比例する。
【００４２】
信頼性値が減少する場合の学習の実際的な効果は、学習プロセスが最初は易しい例に焦点を合わせるものから、最終的に難しい例に焦点を合わせるものへと移行することである。このような難しい例は、代替クラス間の境界、または価値査定の場合は収益性の高い投資と利益のない投資との境界を定義するものである。このような焦点のシフトは、より難しい例を補償するためのモデル・パラメータのシフト（計算論的学習理論という学問分野ではモデルの複雑性の再割振りと称するもの）に匹敵する。定義によれば、難しい例は不明瞭なクラス・メンバーシップまたは期待値を有するので、学習機械は、最可能分類または評価をそれらに明白に割り当てるために、このような例を多数必要とする。したがって、最小許容信頼性が低下した場合の学習は、ますます大きい学習サンプル・サイズを必要とする。
【００４３】
本出願人の以前の研究では、Ψの最大値は学習対象のパターンの統計特性に依存し、最小値Ψは、ｉ）学習を実行するために使用するパラメータ表示モデルの機能特性と、ｉｉ）学習サンプルのサイズに依存していた。このような最大最小の制約は互いに相反するものだった。ＲＤＬでは、Ψは学習対象のパターンの統計特性に依存しない。その結果として、最小の制約のみが残存し、これは従来技術と同様に、ｉ）学習を実行するために使用するパラメータ表示モデルの機能特性と、ｉｉ）学習サンプルのサイズに依存する。
【００４４】
４．ＲＢＣＦＭ関数は、０の付近にリスク微分引き数について定義された「遷移領域」（図４を参照）、すなわち、
【数３】
2005537526.tif 000005
を備えていなければならず、その内部でこの関数は特殊な対称性（「反対称」）を備えていなければならない。具体的には、遷移領域内では、この関数は引き数δについて評価され、定数Ｃから同じ引き数の負の値（すなわち、−δ）について評価されたこの関数を引いたものに等しくなる。
【数４】
2005537526.tif 000006
とりわけ、この属性は、その値が遷移領域内にある限り、ＲＢＣＦＭ関数の第１の導関数が、同じ絶対値を有する正と負両方のリスク微分について同じになることを保証するものである（図５を参照）。
【数５】
2005537526.tif 000007
【００４５】
この数学的属性は、後述するＲＤＬの最大正確性／収益性保証および分布独立性保証にとって本質的なものである。本出願人の従来の研究では、所与のケースにおいて難しい例の適度に高速な学習を保証するために、目的関数は遷移領域内で非対称（反対称とは対照的なもの）でなければならなかった。しかし、本出願人は、その後、非対称によって目的関数が最大正確性および分布独立性を保証できなくなると判断している。
【００４６】
５．ＲＢＣＦＭ関数はδ＝０のときにその最大傾斜を備えていなければならず、この傾斜はその引き数の正の値が増加するにつれてまたは負の値が減少するにつれて増加することはできない。また、この傾斜は、信頼性パラメータΨに反比例しなければならない（図４および図６を参照）。したがって、以下のようになる。
【数６】
2005537526.tif 000008
【００４７】
本出願人の従来の研究では、性能指数関数(figure-of-merit function)が遷移領域内で最大傾斜を有していなければならず、その傾斜は信頼性パラメータΨに反比例しなければならないが、最大傾斜のポイントがδ＝０と一致する必要はなく、その傾斜がその引き数の正の値が増加するにつれてまたは負の値が減少するにつれて増加するのを妨げることもない。
【００４８】
６．Ｓ字状のＲＢＣＦＭ関数の下部４２（すなわち、この関数の一部分であって、遷移領域外でδの負の値に対応する部分）（図４を参照）は、δの単調増加多項式関数でなければならない。この下部の最小傾斜は信頼性パラメータΨに直線的に比例していなければならない（ただし、必ずしも比例する必要はない）（図６を参照）。したがって、以下のようになる。
【数７】
2005537526.tif 000009
【００４９】
本出願人の以前の研究では、Ｓ字状の目的関数の下部が信頼性パラメータに直線的に比例する正の傾斜を有するという制約を課しているが、その下部がδの多項式関数であることをさらに明示的に必要としているわけではない。この関数の導関数と信頼性パラメータΨとの間の従来の比例の制約に多項式関数の制約を加えると、その結果、より完全な要件になる。すなわち、この複合制約により、信頼性パラメータΨが０より大きい限り、目的関数の第１の導関数が遷移領域外でδの負の値について有意の正の値を保持することをより良好に保証する（図５を参照）。次にこれにより、信頼性パラメータΨが小さいときに分類／価値査定モデル・パラメータの数値最適化が指数関数的に長い収束時間を必要としないことを保証する。分かりやすく言えば、このような複合制約は、ＲＤＬが難しい例でも適度に高速に学習することを保証する。
【００５０】
７．遷移領域外では、ＲＢＣＦＭ関数は特殊な非対称性を備えていなければならない。具体的には、遷移領域外で正のリスク微分引き数に対応するこの関数の第１の導関数は、同じ絶対値の負のリスク微分に対応するこの関数の第１の導関数より大きくてはならない（図４および図５を参照）。したがって、以下のようになる。
【数８】
2005537526.tif 000010
【００５１】
遷移領域外での非対称性は、ＲＤＬの最大正確性／収益性保証に影響せずに難しい例を適度に高速に学習することを保証するために必要である。遷移領域内だけでなく遷移領域外でもＲＢＣＦＭ関数が反対称である場合、ＲＤＬは適度な時間で難しい例を学習することができないだろう（ある状態の最大正確性／収益性に収束するために数値最適化手順が非常に長い時間を要することになる可能性がある）。これに対して、本出願人の従来の研究のケースのように、遷移領域内と遷移領域外のどちらでもＲＢＣＦＭ関数が非対称である場合、これは最大正確性／収益性と分布独立性のいずれも保証できない可能性がある。したがって、遷移領域内で反対称を維持し、遷移領域外で対称性を破ることにより、ＲＢＣＦＭ関数は、その最大正確性／収益性および分布独立性保証を犠牲にせずに難しい例の高速学習を可能にする。
【００５２】
上記に列挙した属性は、複数関数の区分的融合からＲＢＣＦＭ関数を合成することが最良であることを示唆している。この結果、厳密に必要ではないが、数値最適化に関連して有益な１つの属性が得られる。具体的には、最も左側の関数セグメント（遷移領域外でδの負の値に対応）が前述の属性６によって課せられた特性を有する、複数の微分可能関数の区分的融合からＲＢＣＦＭ関数を合成しなければならない。
【００５３】
（特徴４）：  ＲＤＬ目的関数（ＲＢＣＦＭ分類付き）
上記で示した通り、ニューラル・ネットワーク・モデル２１は、図２の２１Ａに示すようにパターン分類用に構成するかまたは図３の２１Ｂに示すように価値査定用に構成することができる。この２通りの構成の場合、ＲＤＬ目的関数の定義は多少異なっている。ここで、パターン分類応用例に関する目的関数の定義について述べる。
【００５４】
図７〜１０に示す通り、ＲＤＬ目的関数は、ニューラル・ネットワーク分類器／価値査定モデルの出力から導出される１つまたは複数のリスク微分についてＲＢＣＦＭ関数を評価することによって形成される。図７および図８は複数の出力を備えたニューラル・ネットワークの一般的なケースを示し、図９および図１０は単一出力を備えたニューラル・ネットワークの特殊ケースを示している。
【００５５】
一般的なケースでは、入力パターンの分類は最大ニューラル・ネットワーク出力によって示される（図７を参照）。学習中にＲＤＬ目的関数ΦRDは、最大ニューラル・ネットワーク出力がＯτであるかどうかに応じて、２通りの形式のうちの一方を取るが、これは入力パターンに関する正確な分類に対応する。
【数９】
2005537526.tif 000011
【００５６】
ニューラル・ネットワークがある入力を正確に分類すると、図７のように式（８）は、ＲＤＬ目的関数ΦRDが正確な出力Ｏτ（他のどの出力より大きく、正確な分類を示すもの）とＣ−１個の他の出力のそれぞれとの間のＣ−１個のリスク微分について評価されたＣ−１個のＲＢＣＦＭ項の合計であることを示す。Ｏτが最大分類器出力ではない場合（不正確な分類を示す）、ΦRDは不正確な最大出力
【数１０】
2005537526.tif 000012
と正確な出力Ｏτとの間の唯一のリスク微分について評価されたＲＢＣＦＭ関数になる（図８を参照）。
【００５７】
特殊な単一出力ケース（図９〜１２を参照）では、それが分類に適用されるので、単一ニューラル・ネットワーク出力は、その出力がそのダイナミック・レンジの中点を超える場合に限り、その出力によって表現されるクラスに入力パターンが属すことを示す（図９および図１２）。そうではない場合、その出力は、入力パターンがそのクラスに属さないことを示す（図１０および図１１）。いずれかの表示（「クラスに属す」または「クラスに属さない」）は、単一出力ケースのＲＤＬ目的関数の形成における主要因であるその例の真のクラス・ラベルに応じて、正確な場合もあれば、不正確な場合もある。
【００５８】
ＲＤＬ目的関数は、その分類が正確であるかどうかに応じて、ニューラル・ネットワークの単一出力Ｏとそのファントムとの差に＋２または−２を掛けたものであるリスク微分δτについて評価されたＲＢＣＦＭ関数として数学的に表される。式（９）では、このファントムは、Ｏが取りうる最大値Ｏmaxと最小値Ｏminの平均に等しいことに留意されたい。
【数１１】
2005537526.tif 000013
【００５９】
ニューラル・ネットワーク入力パターンが単一出力によって表現されるクラスに属す場合（Ｏ＝Ｏτ）、ＲＢＣＦＭ関数に関するリスク微分引き数(risk differential argument)δτは、出力Ｏからそのファントムを引いたものの２倍になる（式（９）の上部、図９および図１０）。ニューラル・ネットワーク入力パターンが単一出力によって表現されるクラスに属さない場合（Ｏ＝Ｏ-τ）、ＲＢＣＦＭ関数に関するリスク微分引き数δτは、その出力のファントムからＯを引いたものの２倍になる（式（９）の下部、図１１および図１２）。式（９）の引き数を展開することにより、２という外部乗率によって、単一出力モデルのリスク微分が同じ学習タスクに２出力モデルが適用された場合と同じ範囲に及ぶことが保証されることを示すことができる。
【００６０】
本出願人の以前の研究には、その例が正確に分類されたかどうかにかかわらず、正確な出力と他の最大出力との間の微分を計算する公式化が含まれていた。この公式化は最大正確性を保証することができたが、信頼性レベルΨが所与のデータ分布依存制約を満たした場合のみ、保証が適用された。多くの実際的なケースでは、正確性の保証が適用されるためにΨは非常に小さいものにしなければならなかった。これは、数値最適化が安定状態になり、最大限に正確な状態に収束するために、学習がきわめて低速で進行しなければならないことを意味していた。ＲＤＬでは、図７〜１２ならびに式（８）および（９）に記載するように構成要素微分の列挙によって、学習サンプルの統計特性（すなわち、データの分布）とは無関係に、信頼性パラメータΨのすべての値について最大正確性が保証される。この改良策は重大な実際上の利点を有する。以前の公式化のデータ分布依存性の影響は、難しい学習タスクが妥当な時間で完了できないことであった。その結果として、従来の公式化を使用すると、正確性の保証を犠牲にすることによって迅速に学習することができたか、または無制限の時間がある場合に最大正確性で学習することができた。対照的に、ＲＤＬは、難しいタスクさえ迅速に学習することができる。その最大正確性保証は、学習データの分布に依存せず、学習信頼性パラメータΨにも依存しない。そのうえ、最大正確性保証に影響せずに、妥当な時間で学習を行うことができる。
【００６１】
（特徴５）：  ＲＤＬ目的関数（ＲＢＣＦＭ価値査定付き）
本出願人の以前の研究では、学習の概念は分類タスク（たとえば、１つのパターンをＣ通りの可能な概念またはオブジェクトの「クラス」のうちの１つに関連付けること）に制限されていた。許容できる学習タスクには価値査定タスクが含まれていなかった。ＲＤＬは価値査定学習タスクを許容する。概念上、ＲＤＬは、関連値を備えた分類タスクとして価値査定タスクを提起する。したがって、ＲＤＬ分類マシンは自動車およびピックアップ・トラックの識別を学習する可能性があり、ＲＤＬ価値査定マシンは自動車およびトラックならびにその公正市場価格の識別を学習する可能性がある。
【００６２】
数値上の証拠に基づいて決定の価値の査定を学習するためにニューラル・ネットワークを使用することは、数値入力パターンを分類するためにニューラル・ネットワークを使用することを概念的に単純に一般化したものである。リスク微分学習に関連して、ＲＤＬ目的関数の単純な一般化によって、価値査定に必要な概念上の必須一般化が実施される。
【００６３】
パターン分類に関する学習では、各入力パターンは、それに関連する単一分類ラベル、すなわち、Ｃ個の出力の分類器におけるＣ通りの可能な分類のうちの１つを有するが、価値査定に関する学習では、Ｃ個の出力の価値査定ニューラル・ネットワーク内のＣ通りの可能な決定のそれぞれが関連値を１つずつ有する。
【００６４】
特殊な単一出力／決定ケースでは、それが価値査定に適用されるので、単一出力は、その出力によって表現される決定が行われる場合、すなわち、その出力がそのダイナミック・レンジの中点を超える場合に限り、入力パターンが収益性の高い結果を生成することになることを示す。そうではない場合、その出力は、その決定が行われる場合、入力パターンが収益性の高い結果を生成しないことを示す（図９および図１０を参照）。式（９）の一般化は単に、そのファントムを超えるニューラル・ネットワークの単一出力Ｏによって表現される肯定的な決定の経済価値（すなわち、利益または損失）γをＲＢＣＦＭ関数に掛けるだけである。
【数１２】
2005537526.tif 000014
【００６５】
一般的なＣ個の出力の決定のケースでは、それが学習中に価値査定に適用されるので、ＲＤＬ目的関数ΦRDは、最大ニューラル・ネットワーク出力がＯτであるかどうかに応じて、２通りの形式のうちの一方を取るが（式（１１）を参照）、これは入力パターンに関する最も収益性の高い（または最も費用がかからない）決定に対応する（図７および図８を参照）。
【数１３】
2005537526.tif 000015
【００６６】
実用的な価値査定の観点から見ると、式（１０）および（１１）は、入力パターンに基づいて行うことができる決定が複数存在するかどうかに応じて異なっている。式（１０）は、唯一の「ｙｅｓ／ｎｏ」決定が存在する場合に適用される。式（１１）は、決定オプションがより多数（たとえば、それぞれが経済価値γを有する３通りの相互排他的な証券取引決定「購入」、「保有」または「売却」）の場合に適用される。
【００６７】
分類タスクに関する最大正確性保証に類似している最大利益保証付きの価値査定を実行できる能力は、自動化価値査定のために容易に明らかな実際的有用性および大きな意義を有する。
【００６８】
（特徴６）：  ＲＤＬ効率保証
パターン分類タスクの場合、ＲＤＬは以下の２通りの保証を行う。
１．学習に使用すべきニューラル・ネットワーク・モデルの特定の選択の場合、学習例の数が非常に大きくなるにつれて、他のいかなる学習戦略もより大きい分類の正確性をもたらさなくなる。一般に、ＲＤＬは、他のいかなる学習戦略よりも大きい分類の正確性をもたらすことになる。
２．ＲＤＬは、具体的なレベルの分類の正確性を達成するために必要な最も複雑ではないニューラル・ネットワーク・モデルを必要とする。一般に、他の学習戦略はいずれも、より複雑なモデルを必要とし、いずれの場合も少なくとも同程度の複雑性を必要とする。
【００６９】
価値査定タスクの場合、ＲＤＬは以下の２通りの類似した保証を行う。
３．学習に使用すべきニューラル・ネットワーク・モデルの特定の選択の場合、学習例の数が非常に大きくなるにつれて、他のいかなる学習戦略もより大きい利益をもたらさなくなる。一般に、ＲＤＬは、他のいかなる学習戦略よりも大きい利益をもたらすことになる。
４．ＲＤＬは、具体的なレベルの利益を達成するために必要な最も複雑ではないニューラル・ネットワーク・モデルを必要とする。一般に、他の学習戦略はいずれも、より複雑なモデルを必要とする。
【００７０】
価値査定に関連して、ニューラル・ネットワークが決定勧告（その決定はニューラル・ネットワークの出力によって列挙される）を行い、ニューラル・ネットワークが示すように最良の決定を行うことによって利益が発生することを覚えておくことは重要なことである。
【００７１】
上記で示した通り、本出願人の従来の研究では、価値査定の余地がなく、したがって、いかなる価値査定保証も行っていない。さらに、上記で扱った以前の研究の設計上の制限事項により、従来の研究は、難しい学習問題の場合に分類保証を事実上、無効にするような欠陥を有していた。ＲＤＬでは分類保証と価値査定保証の両方を行い、これらの保証は易しい学習タスクと難しい学習タスクの両方に適用される。
【００７２】
実際的に言えば、これらの保証は、適度に大きい学習サンプル・サイズの場合に以下の通りになる。
（ａ）特定の学習タスクおよび学習モデルを選択した場合、これらの選択がＲＤＬと対になると、結果として得られるモデルは、ＲＤＬ学習後、非ＲＤＬ学習戦略で学習した場合に比べ、より少ないエラーで入力パターンを分類するかまたはより有益に入力パターンを評価できるようになる。
（ｂ）別法として、学習システムによって提供されることが望ましいレベルの分類精度または収益性を演繹的に指定した場合、ＲＤＬと対にしたときに指定のレベルの精度／収益性を提供するために必要なモデルの複雑性は必要最小限になり、すなわち、いずれの非ＲＤＬ学習戦略も、より複雑ではないモデルでその指定を満たすことはできなくなる。
【００７３】
付録Ｉには、これらの保証の数学的証明が記載されており、その実際的な意義はＲＤＬが分類および価値査定のために普遍的に最良の学習パラダイムであることである。これは、適度に大きい学習サンプル・サイズの場合に他のいかなるパラダイムでも凌ぐことができないものである。
【００７４】
（特徴７）：  ＲＤＬ保証は普遍的である
上記のセクションで記載したＲＤＬ保証は、「分布独立」であるとともに「モデル独立」であるので、普遍的なものである。これは、その保証が、学習すべきパターン分類または価値査定タスクに関連する入出力データの統計特性にかかわらず適用され、使用するニューラル・ネットワーク分類／価値査定モデルの数学的特性とは無関係であることを意味する。このような保証の分布およびモデル独立性は、最終的には、ＲＤＬを比類なく普遍的かつ強力な学習戦略にするものである。他のいかなる学習戦略も、このような普遍的な保証を行うことはできない。
【００７５】
ＲＤＬ保証は、狭い範囲の学習タスクに制限されるのではなく、普遍的なものなので、ＲＤＬは、当面のタスクに対する学習手順の整合または微調整について心配せずに、どのような分類または価値査定タスクにも適用することができる。伝統的に、タスクに対して学習手順を整合または微調整するこのプロセスは、計算による学習プロセスより優位を占めており、相当な時間および人的資源を消費する。ＲＤＬの普遍性はこのような時間および人件費を解消する。
【００７６】
（特徴８）：  利益最大化リソース割振り
価値査定のケースでは、ＲＤＬは、収益性の高い決定と利益のない決定の識別を学習するが、同時に行うことができる収益性の高い複数の決定（たとえば、いずれも価値が高くなることを期待して同時に購入可能な複数の株式）が存在する場合、ＲＤＬ自体は、これらの決定の総利益を最大化するようにリソースを割り振る方法を指定するわけではない。証券取引のケースでは、たとえば、ＲＤＬが生成した取引モデルは、７通りの株式を購入するよう指示する可能性があるが、購入すべき各株式の相対量を指示するわけではない。この質問に対する回答は、明示的にＲＤＬが生成した価値査定モデルをあてにするが、追加のリソース割振り数理解析も必要とする。
【００７７】
この追加の解析は、特に、３通りの定義特性を伴う広範なクラスの問題に関連する。
１．いくつかの投資に対する固定リソースのトランザクション割振りであり、その明白な目的はこのような割振りから利益を得ることである。
２．あるトランザクションにおける各割振り（たとえば、投資）に関するトランザクション・コストの支払い。
３．一連のこのようなトランザクションにおいて発生する、たとえ小さくても非ゼロの破綻（すなわち、すべてのリソースを失うこと、「破産すること」）の可能性。
【００７８】
（ＦＲＡＮＴｉＣ問題）
このようなリソース割振り問題はいずれも本明細書では「非ゼロのトランザクション・コストによる固定リソース割振り」（ＦＲＡＮＴｉＣ）問題という。
【００７９】
以下に示すものは、ＦＲＡＮＴｉＣ問題のいくつかの代表的な例である。
パリミューチュエル方式の競馬の賭け金：  ある競馬開催日にトラックでの利益を最大化するために、どの馬に賭けるか、どのくらい賭けるか、１回ごとにいくら賭けるかを決定すること。
株式ポートフォリオ管理：  激しい短期の価格変動を最小限にしながら、投資収益率およびポートフォリオ価格上昇率を最大化するために、所与の瞬間に多くの株式のポートフォリオからどのくらいの株を購入／売却するかを決定すること。
医療の優先順位付け：  同時に存在する緊急入院患者の大規模グループ内の各患者がどのレベルの医療を受けるべきかを決定することであり、全体的な目標は可能な限り多くの命を救うことである。
最適ネットワーク・ルーティング：  ネットワークの全体的な収益性が最大になるように、全体的な帯域幅供給が固定され、運用コストが既知であり、帯域幅需要が変動する通信ネットワークにおいてパケット化データに優先順位を付け、経路指定する方法を決定すること。
戦争計画：  起こりうる人的損害と資材の損失を最低にして、最終的に戦争に勝利する確率を最大化するために、どの軍事資産を移動するか、それをどこに移動するか、どのように敵の軍隊と交戦させるかを決定すること。
損失のあるデータ圧縮：  音声、音楽、およびビデオなどの自然信号をディジタル化することによって発生するデータ・ファイルまたはストリームは高度の冗長性を含む。損失のあるデータ圧縮は、それによってこの信号冗長性が除去されるプロセスであり、それにより、信号のハイファイ・ディジタル記録を達成し、それを伝送するために必要な記憶空間および通信チャネルの帯域幅（秒あたりのビット数で測定する）が削減される。したがって、損失のあるデータ圧縮は、所与の帯域幅コストについて記録の忠実度（ピーク信号対雑音比［ＰＳＮＲ］などのいくつかのひずみ測定基準のうちの１つによって測定する）を最大化するよう努力する。
【００８０】
（ＦＲＡＮＴｉＣ問題における利益の最大化）
このセクションの冒頭に列挙したＦＲＡＮＴｉＣ問題の特性を考慮すると、このような問題における利益の手がかりは、３通りのプロトコルの定義に帰着する。
１．このような一連のトランザクションにおいて破綻の確率を許容レベルに制限するために、すべてのリソースのうち、各トランザクションに充当する部分を制限するためのプロトコル。
２．所与のトランザクション内で各投資に割り振られるリソースの割合を設定すること（単一トランザクションは複数の投資を含むことができる）。
３．それにより、すべてのリソースのうち、各トランザクションに充当する部分（プロトコル１によって設定される）が時間の経過につれて増加または減少する、リソース主導型プロトコル。
【００８１】
これらのプロトコルおよびその相互関係は図１３の流れ図に示されている。この３通りのプロトコルを明確にするために、株式ポートフォリオ管理の例について検討する。このケースでは、トランザクションは、１つまたは複数の証券の同時購入および／または売却として定義する。第１のプロトコルは、投資家の全財産のうち、所与のトランザクションに充当できる部分の上界を設定する。そのトランザクションに割り振るべき金額が第１のプロトコルによって設定された場合、第２のプロトコルは、そのトランザクションにおいて各投資に充当すべき金額の割合を設定する。たとえば、その投資家が７通りの株式の購入を伴うトランザクションに１万ドルを割り振る場合、第２のプロトコルは、その１万ドルのうち、どの程度の部分を７通りの株式のそれぞれの購入に割り振るかを指示する。このような一連のトランザクションにより、投資家の財産は増加または減少することになるが、概して、その財産は一連のトランザクションによって増加するが、時には減少することもある。第３のプロトコルは、財産のうち、あるトランザクションに充当する部分をいつ、どの程度、増加または減少することができるかを投資家に指示し、すなわち、プロトコル３は、時間の経過につれて発生するこのような一連のトランザクションが財産に及ぼす影響に応じて、特定のトランザクションについてプロトコル１が決定した全般的なトランザクション・リスク部分を変更すべき方法およびタイミングを制限する。
【００８２】
（プロトコル１：  全般的なトランザクション・リスク部分の決定）
図１３を参照すると、リソース割振りに関するルーチン９０が示されている。図で示した割振りプロセスは、進行中の一連のトランザクションに適用され、それぞれのトランザクションは１つまたは複数の「投資」を伴う可能性がある。投資家のリスク許容度（最大許容破綻確率によって測定する）および全財産の場合、第１のプロトコルによって「全般的なトランザクション・リスク部分Ｒ」というその財産の一部分がそのトランザクションに割り振られる。全般的なトランザクション・リスク部分Ｒは２段階で決定される。まず、９１では人間の監督員または「投資家」が最大許容破綻確率を決定する。ＦＲＡＮＴｉＣ問題の第３の定義特性が回避不能な非ゼロの破綻確率であることを想起されたい。次に９２では、ＦＲＡＮＴｉＣ問題の歴史的な統計特性に基づいて、この破綻確率を使用して、投資家の全財産のうち、所与のトランザクションに割り振ることができる、最大許容部分Ｒmaxを決定する。付録ＩＩは、当業者が本発明を実現できるという要件を満足するために、Ｒmaxを推定するための実用的な方法を示している。
【００８３】
この上界Ｒmaxの場合、投資家は、その上界Ｒmaxを超えず、この特定のトランザクションの予想収益性（予想百分率正味投資収益率βによって測定するが、この情報はＲＤＬ価値査定モデルによって推定される）に反比例する全般的なリスク部分Ｒを選択することができるとともに、選択しなければならない。したがって、すべてのトランザクションが同じ期待利益をもたらすように、より少ないリソースをより多くの収益性の高いトランザクションに割り振らなければならず、逆もまた同様である。
【数１４】
2005537526.tif 000016
式中
【数１５】
2005537526.tif 000017
であり、ＲＤＬ価値査定モデルは、式（１０）または（１１）に示されている価値査定ＲＢＣＦＭ公式化によって学習し、式（１３）および（１８）［以下に示す］で使用する期待利益／損失の推定値を生成する。
【００８４】
収益性の高いトランザクション（すなわち、それに関するβ＞０であるもの）についてのみ考慮する。投資家は、最小許容予想収益性（すなわち、投資収益率）βminを選択し、それから式（１２）の比例定数αを選択してＲが上界Ｒmaxを決して超えないことを保証する。
【数１６】
2005537526.tif 000018
βとβminとの相違点は、前者は現在考慮中のトランザクションの予想収益性であり、後者は投資家が喜んで考慮するトランザクションの最小許容収益性である点である。
【００８５】
α、β、およびＲをもたらす式（１２）〜（１４）の計算により、そのトランザクションに割り振られる総資産（すなわち、リソース）Ａは、全般的なトランザクション・リスク部分Ｒに投資家の全財産Ｗを掛けたものに等しくなる。
【数１７】
2005537526.tif 000019
【００８６】
（プロトコル２：  トランザクションの各投資ごとのリソース割振りの決定）
プロトコル１がトランザクションの全般的な予想収益性に反比例して各トランザクションにリソースを割り振るように、プロトコル２は、その投資の予想収益性に反比例して単一トランザクションの各構成要素投資にリソースを割り振る。Ｎ回の投資の場合、そのトランザクション全体に割り振られる全資産Ａ（式（１５））のうち、そのトランザクションのｎ番目の投資に割り振られる部分ρnは、その投資の予想収益性βnに反比例する。
【数１８】
2005537526.tif 000020
式中、ｎ個の正の投資リスク部分は合計すると１になり、
【数１９】
2005537526.tif 000021
ｎ番目の投資の予想百分率正味収益性βnは以下のように定義され、
【数２０】
2005537526.tif 000022
比例係数ζは定数ではないが、むしろ、その投資のすべての逆予想収益性の合計として定義される。
【数２１】
2005537526.tif 000023
【００８７】
収益性の高いトランザクション（すなわち、それに関するβn＞０であるもの）についてのみ考慮する。これらの収益性の高い投資は、ＲＤＬが生成したモデル、すなわち、前述の通りＲＤＬを使用して訓練したものを使用して、図１３の９３で識別される。式（１９）のζの定義は式（１５）および（１６）の必然的結果であることに留意されたい。
【００８８】
したがって、ｎ番目の投資に割り振られる資産Ａnはトランザクション全体に割り振られる総資産Ａにρnを掛けたものに等しくなる。
【数２２】
2005537526.tif 000024
この割振りは図１３の９４で行われる。次に９５では、トランザクションが実施される。
【００８９】
プロトコル１と２は類似しており、プロトコル１がトランザクション・レベルでのリソース割振りを支配するのに対し、プロトコル２が投資レベルでのリソース割振りを支配することは、式（１２）〜（１５）と式（１６）〜（２０）との比較から明らかになるはずである。
【００９０】
（プロトコル３：  全般的なトランザクション・リスク部分を変更する時期および方法の決定）
各トランザクションは、「換金」したときに投資家の全財産Ｗの増加または減少になる投資の集合を構成する。概して、財産は各トランザクションによって増加するが、このようなトランザクションの確率論的性質のために、時には減少することもある。したがって、９６では、ルーチンはチェックを行って、その投資家が破綻したかどうか、すなわち、全資産が枯渇したかどうかを判定する。そうである場合、トランザクションは９７で停止する。そうではない場合、ルーチンは９８でチェックを行って、全財産が増加しているかどうかを確認する。そうである場合、ルーチンは９１に戻る。そうではない場合、ルーチンは９９で、全般的なトランザクション・リスク部分を維持または増加するが、削減せず、次に９２に戻る。
【００９１】
プロトコル３は単に、プロトコル１の式（１２）および（１５）で使用する全般的なトランザクション・リスク部分の上界Ｒmaxと、比例定数αと、全財産Ｗは最後のトランザクションが損失に終わった場合に減少してはならず、そうではない場合、これらの数字は投資家の財産の増加および／またはリスク許容度の変更を反映するように変更することができることを規定するだけである。
【００９２】
この制限の根本的理由は、一連のトランザクションで発生する財産の増大および／または減少を支配する数学に根付いている。前のトランザクションで資産を失った後でトランザクション・リスクを削減することは人間の特性であるが、これは、投資家が行うことができる最悪のアクション、すなわち、長期にわたって最も収益性の低いアクションである。一連のＦＲＡＮＴｉＣトランザクションによって長期の財産を最大化するために、投資家は、ＦＲＡＮＴｉＣ問題の統計的性質が変化していないと想定して、損失後に全般的なトランザクション・リスクを維持または増加しなければならない。全般的なトランザクション・リスクを削減することが賢明である唯一の時期は、財産を増加する収益性の高いトランザクションの後である（図１３を参照）。また、投資家が結果的に発生する破綻確率の変化を喜んで受け入れるものと想定して、収益性の高いトランザクションの後で全般的なトランザクション・リスクを増加することも許されることである。
【００９３】
多くの実際的な応用例では、常に未決済のトランザクションが存在することになる。このようなケースでは、式（１５）および（２０）で使用すべき財産Ｗの値は、それ自体が、何らかの方法によって推定しなければならない非確定的数量である。Ｗの最悪ケースの（すなわち、最も保守的な）推定値は、現在手元にある財産（すなわち、現在、トランザクションにコミットしていないもの）からすべての未決済のトランザクションの完全な失敗の結果発生するすべての損失を引いたものになる。付録ＩＩのＲmaxの推定値と同様に、このＷの最悪ケースの推定値は、当業者が本発明を実現できるという要件を満足するために含まれるものである。
【００９４】
リスク割振りに関する従来技術は、いわゆるログ最適増大ポートフォリオ管理戦略によって優位を占められている。これらの戦略は、ほとんどの金融ポートフォリオ管理技法の基礎を形成し、証券オプションに関するブラックショールズ価格設定公式に密接に関連している。従来技術のリスク割振り戦略では以下の想定を行っている。
１．トランザクションのコストは取るに足らぬものである。
２．最適ポートフォリオ管理は、投資家の財産が二倍になるレート（または、それと同等に、投資家の財産が増大するレート）の最大化に帰着する。
３．リスクは、利益の特定の期待値にかまわずに、収益性の高いトランザクションの確率に比例して割り振らなければならない。
４．投資家の財産の長期の増大を最大化することは、その財産の短期の変動率を制御することより重要なことである。
【００９５】
本明細書に記載する本発明では、実質的に異なる以下の想定を行っている。
１．トランザクションのコストは相当なものであり、そのうえ、トランザクションの累積コストは財政破綻に至る可能性がある。
２．最適ポートフォリオ管理は、所与の期間における投資家の利益の最大化に帰着する。
３．リスクは、トランザクションの予想収益性βに反比例して割り振らなければならず（式（１２）〜（１３）および（１６）〜（２０）を参照）、その結果として、同じリスク部分Ｒで行ったすべてのトランザクションは同じ期待利益をもたらさなければならず、したがって、財産の安定した増大を保証する。
４．安定した利益を実現すること（短期の利益を最大化することによる）と、安定した財産を維持することと、破綻確率を最小化することは、財産の長期の増大を最大化することより重要なことである。
【００９６】
上記の説明および添付図面に示す事柄は、制限事項としてではなく、例示としてのみ提供されている。特定の実施形態について示し説明してきたが、本出願人の貢献の広範な諸態様から逸脱せずに変更および修正が可能であることは当業者には明白なことであろう。求められている保護の実際の範囲は、従来技術に基づいてその適切な観点から見たときに特許請求の範囲に定義されるものとする。
【００９７】
（付録Ｉ）
（ＲＤＬの最小複雑性、最大正確性、および最大利益の保証）
注：  本付録で使用する表記上の規則は本出願人の従来の研究（１９９３年９月１７日のJ. B. Hampshire IIによる「A Differential Theory of Learning for Efficient Statistical Patterns Recognition」というカーネギーメロン大学、電気コンピュータ工学学部の博士論文）の表記上の規則に厳密に従っている。
【００９８】
本出願人の従来の研究は、以下に示すものより実質的により限定的な最大正確性および最小複雑性の保証を提供するものである。従来技術では最大利益保証を提供していない。
【００９９】
実質的により一般的な最大正確性および最小複雑性の保証に至るＲＤＬと従来技術との主な相違点では、信頼性パラメータΨに対する依存関係を共用する。
１．単調性：  ＲＤＬの場合、ＲＢＣＦＭおよびＲＤＬ目的関数の単調性は、信頼性パラメータΨの値にかかわらず保証される。対照的に、従来技術のセクション２．４．１および５．３．６では、そこに記載された式（２．１０４）を満足することをΨに強要することに焦点を合わせ、それにより、従来技術の分類性能指数（ＣＦＭ）および微分学習（ＤＬ）目的関数の単調性を保証している。
２．非対称および反対称：  ＲＤＬのＲＢＣＦＭ関数は、遷移領域内で反対称性を有し、遷移領域外で非対称性を有する。主要開示内容に記載した通り、信頼性パラメータΨはこの遷移領域を定義するものであり、Ψの値が大きくなるほど、遷移領域が広くなり、学習時に分類器に要求される信頼性も大きくなる。従来技術のＣＦＭ関数はどこでも非対称であった。従来技術の非対称性は、単調目的関数を作成するための論理的試行によって動機付けされていたが、その設計の論理には欠陥があった（その欠陥については主要開示内容における信頼性パラメータΨの処理で論じられている）。本発明のＲＢＣＦＭの設計論理（本付録の「分類の最大正確性」というセクションで説明する）は従来技術の欠陥を矯正するものである。
３．正則化：  ＲＤＬの場合、信頼性パラメータΨは、分類器／価値査定モデルの関数の複雑性を学習タスクにどのように割り振るかを制御する。この「正則化」は、ＲＤＬにおけるΨの唯一の関数である。具体的には、Ψは、そのモデルが各クラスを表現するために学習可能なパターンの傾斜を規制する。これは、１と０の間であって、０を含まない値を取ることができる。Ψの値が大きい場合（１に近づく）、「易しい」例のみを学習するようにモデルを誘導するが、その例は学習対象の各クラスに関連する最も一般的なパターン変形である。Ψの値が減少すると（０に近づく）、ますます「難しい」（または「困難な」）例を含むために学習可能な例の集合を拡大するようにモデルを誘導するが、その例は学習対象のクラスのパターン変形であって、学習対象の他のクラスの難しい例と最も混同しそうなものである。このような難しい例は文字通り、学習対象の他のクラスを分離するパターン境界付近に存在する。「易しい」ならびに「難しい」という用語は絶対的なものであるが、関数の複雑性が大きいモデル（すなわち、数学的により複雑なもの）はすべての例をより容易に学習するための柔軟性（または複雑性）を有する。したがって、Ψは、そのモデルの複雑性をどのように割り振るかを規制し、それにより、モデルが学習可能な例の困難度に対して何らかの制限を加える。従来技術では、Ψは２通りの役割を演じる。その支配的な役割は、学習対象のデータの統計特性を考慮して、ＣＦＭおよびＤＬ目的関数の単調性を保証することである（この役割の必要性は本発明によって解消される）。その二次的な正則化の役割については、従来技術のセクション７．８の説得力のない考察を超えて検討されていない。むしろ、その一次的な役割（単調性を保証すること）の要件はその二次的な役割（正則化）の要件とは相反するものであり、この問題についてはＲＢＣＦＭ関数の属性３（主要開示内容）でより十分に検討されている。
【０１００】
（最小複雑性）
「正則化」というタイトルの上記項目２に記載した通り、信頼性パラメータΨは、１と０の間であって、０を含まない値を取り、そのモデルが学習可能な例の困難さを制限する。Ｇ（ΘRDL｜ｎ，Ψ）という表記は、ｎ個の例という学習サンプル・サイズと信頼性パラメータΨの場合にＲＤＬを最大化する図１の分類／価値査定モデル２１のすべての可能なパラメータ表示（Θ）を示すものとする。さらに、ΘRDLは、Ｇ（ΘRDL｜ｎ）が、Ψにかかわらずｎという学習サンプル・サイズの場合にＲＤＬ目的関数を最大化する図１のモデル２１のすべての可能なパラメータ表示を示すように、ＲＤＬ目的関数を最大化するモデルのすべてのパラメータ表示を示すものとする。ｎという学習サンプル・サイズの場合、Ψの最小値（０に近づく）で学習可能な図１のモデル２１に関するすべてのパラメータ表示の集合は、０より大きいΨで学習可能なすべてのモデル・パラメータ表示からなるより小さい集合を含み、次にその集合は、任意の値のΨについてＲＤＬ目的関数を最大化するすべてのモデル・パラメータ表示からなるさらに小さい集合を含む。この３つの集合列に含まれる各連続集合はその先行要素（複数も可）の部分集合である。
【数２３】
2005537526.tif 000025
式（Ｉ．１）は、上記の項目２（「正則化」）に記載した、より一般的なものの具体的な表明である。すなわち、ｎという学習サンプル・サイズの場合、特定の値のΨで学習可能な図１のモデル２１用のすべてのパラメータ表示の集合は、Ψが１というその最大値から０に向かって減少するにつれて、より大きくなる。逆に、学習可能なすべてのパラメータ表示の集合は、Ψがその下界（０に近づく）から１というその上界に向かって増加するにつれて、より小さくなる。
【数２４】
2005537526.tif 000026
【０１０１】
上記の項目２に記載した通り、Ψの値が小さくなるとモデルはより難しい例を学習することができ、値が大きくなるとモデルはより易しい例の学習に制限される。図１のモデル２１が図１の任意／すべての入力パターン２２の「ベイズ−最適」分類をもたらす少なくとも１つの可能なパラメータ表示を含む場合、すべての入力パターンはそのパラメータ表示を使用して最大正確性で分類することができる。そのモデルについてこのようなベイズ−最適パラメータ表示が存在するかどうかにかかわらず（Ｇ（ΘBayes）が空の集合φではない場合に限り、それは存在する）、信頼性パラメータΨ*の何らかの最大値と、ｎ*で示される何らかの相関最小サンプル・サイズｎが存在することになり、それぞれそれより上およびそれより下でＲＤＬはベイズ−最適パラメータ表示に対する最大限に正確な近似を学習することになる。Ｇ（ΘBayes）が空にならないような少なくとも１つのベイズ−最適パラメータ表示をそのモデルが有する場合、モデルのパラメータ表示は以下のように関連する。
【数２５】
2005537526.tif 000027
Ｇ（ΘBayes）が空である場合、図１のモデル２１が提供可能なベイズ−最適分類器に対する最良近似は以下のパラメータ表示関係を有する。
【数２６】
2005537526.tif 000028
【０１０２】
（Ｉ．２）〜（Ｉ．４）により、ＲＤＬ誘導のベイズ−最適パラメータ表示またはそのモデルによって可能になる最良近似である
【数２７】
2005537526.tif 000029
は、そのモデルのすべてのベイズ−最適パラメータ表示／近似の最低複雑性を有する。具体的には、図１のモデル２１用のパラメータ表示の集合の複雑性はその濃度（すなわち、その元の数）によって測定され、Ψ*に関するＲＤＬの最小複雑性（より小さい値のΨに対するもの）は（Ｉ．２）〜（Ｉ．４）を組み合わせることによって以下のように証明される。
【数２８】
2005537526.tif 000030
ｎ*より大きいかまたはそれと等しい学習サンプル・サイズについて同じレベルの正確性をもたらす他の学習戦略によって生成される他のモデルと同程度に低いかまたはそれより低い複雑性を備えたＲＤＬパラメータ表示モデル
【数２９】
2005537526.tif 000031
が必ず存在することは、証明されずに残っている。本発明者の従来の研究の式（３．４２）［（Ｉ．６）に再現される］は、信頼性パラメータΨおよび学習サンプル・サイズｎとは無関係に、そのモデルのすべての可能な最大限に正確な（すなわち、「ベイズ−最適」）パラメータ表示の集合（存在する場合）が以下のように最も小さいものから最も大きいものへ両端を含めて順序付けられるという明らかに矛盾した断言を示している。
【数３０】
2005537526.tif 000032
【０１０３】
（Ｉ．６）では、ＦBayesは、図１のモデル２１によって可能になるものだけでなく、その学習タスク用のベイズ−最適分類器の母集団を示している。（Ｉ．６）によって暗示される引き数は従来技術と本発明の両方に適用される［ＲＤＬは（Ｉ．６）の「ベイズ−微分」と同義である］。すなわち、ＲＤＬは、モデルのすべての（ある場合）ベイズ−最適パラメータ表示Ｇ（Θ）を最適と認める。複雑性は濃度によって測定するので、（Ｉ．６）はＲＤＬ最小複雑性断言と矛盾すると思われる可能性がある。しかし、それは矛盾しない。
【０１０４】
ＲＤＬではない学習戦略間の区別を行わず、可能性の母集団に含まれるすべてのモデルを考慮すると、ベイズ−最適分類器に対する各モデルの最良近似をＧ（Θ〜Bayes）と表し、以下のように（Ｉ．６）を書き直すことができる。
【数３１】
2005537526.tif 000033
次に、いずれかのモデルについて可能な最も低い複雑性を備えたベイズ−最適分類器に対する指定の近似をもたらす、すべての可能性の母集団Ｆ〜Bayesのうちの特定のモデルＧ*（Θ〜Bayes）について考慮する（この場合、｜・｜という表記は、本書で使用する複雑性の尺度である集合濃度演算子を示す）。
【数３２】
2005537526.tif 000034
その場合、何らかの信頼性パラメータΨ*と、何らかの学習サンプル・サイズｎ*が存在し、それぞれそれより上およびそれより下でベイズ−最適分類器に対する指定の近似をもたらすモデルのＲＤＬ誘導のパラメータ表示が存在することが保証され、このような近似は代替学習戦略については存在することが保証されない。
【数３３】
2005537526.tif 000035
【０１０５】
分かりやすく言えば、（Ｉ．７）は、ＲＤＬがベイズ−最適分類器に対するすべての近似Ｇ（Θ〜Bayes）を等しく最適なものと判断することを示している。この式は、他の学習戦略がベイズ−最適分類器に対する１つまたは複数の等しく最適な近似を生成できるかどうかを指定しているわけではない。他の学習戦略が生成可能である場合、それは、ＲＤＬより多くの等しく最適な近似を生成するわけではない（その定義によると、ＲＤＬは近似指定を満足するパラメータ表示の最も広範な集合を認めており、これは、（Ｉ．６）〜（Ｉ．８）に反映されている事実である）。これに対して［（Ｉ．９）を比較されたい］、他の学習戦略はより少数の等しく最適な近似を生成することができず、生成する場合、｜Ｇ*（Θ〜Bayes）｜は論理矛盾により、（Ｉ．８）に指定された最小複雑性モデルではない。したがって、ＲＤＬは最小複雑性学習戦略である。
【０１０６】
上記の最小複雑性の証明は、２つの点で従来技術を拡張し一般化するものである。
１．式（Ｉ．１）〜（Ｉ．５）は、従来技術の最小複雑性の請求を拡張し、信頼性パラメータΨの正則化という単独関数を特徴づけるものである。従来技術ではΨは２通りの相反する役割を有し、それはそれが最大正確性および最小複雑性をもたらし損なった場合にその失敗の一因となるものである。
２．式（Ｉ．７）〜（Ｉ．９）は、ベイズ−最適分類とそれに対する近似の両方を含むように従来技術の最小複雑性の請求を言い換えて拡張するものである。従来技術の証明は、単にベイズ−最適分類に関係するものである。
【０１０７】
（分類の最大正確性）
主要開示内容の式（８）はＲＤＬ目的関数ΦRDの一般表現である。これは、図１の入力パターンｘ  ２２に関して以下のように言い換えることができる。
【数３４】
2005537526.tif 000036
【０１０８】
入力パターンΦRD（ｘ）の特定の値に関するＲＤＬ目的関数の期待値は、Ｃ通りのすべてのクラスの集合Ω＝｛ω1，ω2，・・・ωC｝について取られたものであり、その場合、ωiはｉ番目のクラスであり、以下の式（Ｉ．１１）によって示される。この式では、ｘについて実際のｉ番目の最可能クラス（ω(i)）と、ＲＤＬ目的関数がｉ番目の最可能クラスであると推定するクラス
【数３５】
2005537526.tif 000037
とを識別するために２通りの表記変形を使用する。ＲＤＬ目的関数はクラス・ランキングを推定するために分類器の出力のランキングを使用するので、
【数３６】
2005537526.tif 000038
はｘが与えられた場合にその分類器のｉ番目の最大出力に対応し、その出力は
【数３７】
2005537526.tif 000039
で示す。ｘについての実際のクラス・ラベル（ω(1)、最大になるはずである分類器出力Ｏ(1)（ｘ）に対応するもの）と、ＲＤＬが最可能であると推定するもの
【数３８】
2005537526.tif 000040
実際に最大になる分類器出力
【数３９】
2005537526.tif 000041
に対応するもの）との相違点は、このセクションで検討すべき学習問題である。すなわち、ＲＤＬが最可能であると推定するクラス・ラベルは、実際に最可能であるものに収束する。この収束では単に、ＲＤＬ学習機械（図１の２０）に対し、特定の値ｘを有し、可能性の集合Ωからの様々なクラス・ラベル（図１の２７）と対にした、いくつかの入力パターン（図１の２２）を提示しなければならないだけである。順序付きの例／ラベルの対の数が大きくなるにつれて、すべてのクラスの集合Ωに関するΦRD（ｘ）の期待値は以下のように表すことができる。
【数４０】
2005537526.tif 000042
【０１０９】
主要開示内容の式（３）〜（５）および（７）から、ＲＢＣＦＭが遷移領域外で非対称であり（図４および図５）、遷移領域内で反対称であり、δ＝０のときに最大傾斜になることを想起されたい。ＲＢＣＦＭの傾斜は正または負の引き数の増加につれて増加しない。
【数４１】
2005537526.tif 000043
（遷移領域の限界Ｔは概して、信頼性パラメータΨよりわずかに小さいだけである）。（Ｉ．１２）で言い換えられている（３）〜（５）の属性により、ＲＢＣＦＭに関する以下の明白な断言を行うことができ、その場合、Ｏ(j)はｊ番目のランク付き出力を示す。
【数４２】
2005537526.tif 000044
式（Ｉ．１３）は単に、ＲＢＣＦＭがその引き数の厳密な非減少関数であることを示すためのもう１つの方法にすぎない。ＲＢＣＦＭは必ず非負であるので、すなわち、
【数４３】
2005537526.tif 000045
であるので、ＲＤＬ目的関数を最大化するための必要条件は以下の通りである。すなわち、入力値ｘに関する分類器の出力のランキングは、帰納的クラス確率のランキングに対応しなければならないＰ(ω(i)｜ｘ)；ｉ＝{1,２,... ,Ｃ}。
数学的には、（Ｉ．１１）において
【数４４】
2005537526.tif 000046
従来技術に示す通り、ベイズ−最適分類に関する唯一の要件は以下のようにあまり厳重ではないものになる。
トップランクの出力
【数４５】
2005537526.tif 000047
はトップランクの帰納的な
【数４６】
2005537526.tif 000048
に対応する。
この論理を追求して、数値最適化手順（図１の２９）は（Ｉ．１５）または少なくとも（Ｉ．１６）の条件を誘導しなければならない。
【０１１０】
唯一の出力が最大であると想定して、ＲＤＬ目的関数が追加の学習を介してその現行値を超えて増加するための要件は、目的関数の導関数に対する以下の制約によって表され、その場合、σ’（・）はＲＢＣＦＭの第１の導関数を示す。
【数４７】
2005537526.tif 000049
および
【数４８】
2005537526.tif 000050
【０１１１】
諸項を収集し、（Ｉ．１２）の特性を使用することにより、（Ｉ．１７）および（Ｉ．１８）の式は以下のように表現し直すことができる。
【数４９】
2005537526.tif 000051
および
【数５０】
2005537526.tif 000052
帰納的リスク微分分布Δ（ｘ）は、入力値ｘに関する最可能クラスの帰納的クラス確率と、あまり可能性が高くないクラスのそれぞれとのＣ−１個の差の集合{Δ(2)(ｘ), Δ(３)(ｘ),...,Δ(ｃ)(ｘ)}である。経験的リスク微分が遷移領域の下界より大きいかまたはそれに等しい場合、すなわち、
【数５１】
2005537526.tif 000053
である場合に、（Ｉ．２０）は（Ｉ．１９）のｊ番目の構成要素項の負数を表すことに留意されたい。これが該当する場合、（Ｉ．２０）の上部不等式が適用されるが、それが当てはまる場合もあれば当てはまらない場合もある。それが当てはまらない場合、導関数は０になり、学習が完了し、それが当てはまる場合、学習は依然として進行中である。経験的リスク微分が遷移領域の下界（−Ｔ）以下になる場合、（Ｉ．２０）の下部不等式が適用されるが、負の経験的リスク微分に関するＲＢＣＦＭの導関数が使用され、関連の不等式が必ず当てはまる。これは、遷移領域内の対称性と組み合わせた遷移領域外のＲＢＣＦＭの非対称性に関する数学的な根本的理由である。非常に間違って分類された例（すなわち、経験的リスク微分が強く負である、
【数５２】
2005537526.tif 000054
を学習する試みをＲＤＬが決して止めないという事実は、ＲＤＬが最も難しい例（学習プロセスの早い時期に強く負の微分を示す場合が多いもの）さえ学習することを保証する。同時に、遷移領域内の対称性は、学習対象の入力パターン値に関するクラス・ラベルが真に最可能なものであることを保証するために、正確に分類した例と不正確に分類した例について相互に均等に比較検討することにより、ＲＤＬが最終的に最大正確性をもたらすことを保証する。
【０１１２】
（Ｉ．２９）および（Ｉ．２０）のΔ(j)（ｘ）は必ず非負であり、あまり可能性の高くないクラス（より低いランク指数によって識別され、指数が大きいほどランクが低くなる）の場合、より大きくなることに留意されたい。
【数５３】
2005537526.tif 000055
【０１１３】
ある関数の最適度は概して、（Ｉ．１９）および（Ｉ．２０）のような「標準」式を０に設定し、未知数（この場合、出力のランク指数）について解くことによって見つかる。しかし、この技法は、標準式に対する固有の解が存在する場合にのみ役に立つ。これは一般にＲＤＬ目的関数によくあることではなく、それが上記の式が不等式として示されている理由である。これらの不等式は、ＲＤＬ目的関数が追加の学習を介してその現行値を超えて増加するための必要条件であり、（Ｉ．１９）と（Ｉ．２０）が相俟って、実際のモデル出力｛Ｏ１, Ｏ２,..., Ｏｃ｝（図１の２７）に関するＲＤＬ目的関数の勾配∇0ＥΩ[ΦRD(x)]を表す。
【０１１４】
以下の２つの質問に回答することにより、所与の入力パターン値ｘについてＲＤＬ目的関数を最大化するときに数値最適化手順（図１の２９）が出力（図１の２７）にどのように影響するかについて特徴づけることができる。
１．学習が完了からほど遠いことを示す最大ＲＤＬ目的関数勾配を導き出すのはどの出力状態か？
２．学習がほぼ完了したことを示す最小ＲＤＬ目的関数勾配を導き出すのはどの出力状態か？
【０１１５】
（Ｉ．２１）と、（Ｉ．１２）および主要開示内容の（５）のＲＢＣＦＭの第３の特性を考慮すると、それは大きさが増加する正および負の引き数について減少するかまたは不変のままになることをＲＢＣＦＭの導関数に強要するものであり、これらの質問は、（Ｉ．１９）および（Ｉ．２０）を調べることによって容易に回答することができる。
１．分類器の出力がすべて同じ値を有するときに、ＲＤＬ目的関数勾配は最大化され、学習が可能な限り完了からほど遠いことを示す。これは、すべてが０に等しい（Ｉ．１９）および（Ｉ．２０）の経験的リスク微分
【数５４】
2005537526.tif 000056
と同等であり、それにより、最大のσ’（・）が生成される。学習がこの状態から進むと、（Ｉ．１９）および（Ｉ．２０）の最小経験的リスク微分
【数５５】
2005537526.tif 000057
が帰納的リスク微分｛Δ(２)(ｘ), Δ(３)(ｘ),..., Δ(ｃ)(ｘ)｝に関して逆の順序が付けられたときに、ＲＤＬ目的関数勾配が最大化される。
【数５６】
2005537526.tif 000058
学習がさらに進むと、（Ｉ．２２）の誤った順序が付けられた経験的リスク微分の部分集合が最悪の順序不一致を含むときに、ＲＤＬ目的関数勾配が最大化される。
２．出力ランキングが帰納的クラス確率のランキングに一致するときに、ＲＤＬ目的関数勾配は最小化され、学習がほぼ完了したことを示す。
【数５７】
2005537526.tif 000059
【０１１６】
このように学習のほぼ完了状態に及ばずに、（Ｉ．２３）の正確に順序付けられた経験的リスク微分の部分集合が最良の（最可能）順序一致を含むときに、ＲＤＬ目的関数勾配が最小化される。同等に、唯一の出力が正確にランキングされる場合、その出力が最大帰納的クラス確率に関連するものである場合、勾配は最小化されるだろう。
【数５８】
2005537526.tif 000060
同様に、わずか２つの出力が正確にランキングされる場合、この２つの出力が２つの最大帰納的クラス確率に関連する場合、勾配は最小化されるだろう。
【数５９】
2005537526.tif 000061
以下同様である。
【０１１７】
モデル（図１の２１）が少なくとも最可能クラスのｘを学習するのに十分な関数の複雑性を有する（すなわち、図１のモデル２１が、入力パターン値ｘについて少なくとも１つのベイズ−最適パラメータ表示Ｘ：Ｇ(ΘBayes’ｘ)≠φを有する）場合、主要開示内容に記載したＲＢＣＦＭの属性を考慮すると、（Ｉ．１１）のＲＤＬ目的関数の期待値は、信頼性パラメータΨが０になると、最可能クラス・ラベル（Ｐ(ω(1)|ｘ)を有するｘの例の一部分に収束することになる。ベイズ−最適分類器は一貫してｘのすべての例を最可能クラスω(1)に関連付けるので、ＲＤＬ目的関数は１からベイズ誤り率を引いたものに収束する。
【数６０】
2005537526.tif 000062
【０１１８】
本付録の最小複雑性に関するセクションに記載した通り、ＲＤＬが最可能クラスに関連する出力を学習するためには、信頼性が０に近づく必要はない。実際には、信頼性は、最大出力の予想恒等式が最可能クラスに収束するためにΨ*を満たすかまたは超えなければならないだけである（以下の式では、入力パターンｘに応じてモデルの最大出力によって識別されるクラス・ラベルを示すために表記Γ（ｘ）を使用する）。
【数６１】
2005537526.tif 000063
要約すると、すべての出力を適切に順序付けることができる場合、ＲＤＬ学習は（Ｉ．１５）の条件を満足する。すべての出力が適切に順序付けることができない場合（モデル複雑性の制限事項または学習中に許される最小信頼性値Ψのため）、ＲＤＬ学習は（Ｉ．１６）の条件を満足することになる。すなわち、モデルが何かを学習するのに十分な複雑性を有する場合、そのモデルは少なくとも、他のすべての出力より上の最可能クラスに関連する出力にランクを付けることを学習することになる。従来技術は、その微分学習（ＤＬ）目的関数の結果、最大出力が最可能クラスと一致することのみを証明することを目指しており、そのモデルの関数の複雑性またはΨが制限される場合に少なくとも最可能クラスの恒等式の学習に備えることができなかった。事実、従来技術のＤＬ目的関数とその関連ＣＦＭ関数の公式化における欠陥のために、そこに記載された証明は無効になっている。本発明に関する上記の証明はいずれも、学習対象の入力パターンの統計または使用する信頼性パラメータΨに対して制約を加えるものではなく、従来技術では、どちらも所与の基準を満たしていなければならない。本発明（ＲＤＬ）は、それぞれの関連クラスの確率に応じてすべての出力をランク付けることを学習し、モデル複雑性が限られているためまたはモデルの複雑性がどのように割り振られるかを故意に制限する制約がΨに加えられているために失敗すると、最大出力を特定の入力パターン値の最可能クラスに関連付けることを学習するという証明された利益を有する。最後に、従来技術では、そのＣＦＭ関数の形状について欠陥のある根本的理由を示しており、その根本的理由は本発明のＲＢＣＦＭ関数を実証するものとはまったく異なっていた。
【０１１９】
したがって、数値最適化手順を介してＲＤＬ目的関数を最適化すると、所与の入力パターン値ｘについてベイズ−最適分類器に対する最良の近似が生成されることを証明してきた。上記の証明が単一出力の分類器に及び、それが主要開示内容の式（９）のＲＤＬ目的関数表現を使用することを示すことは簡単なことである。上記の数学をすべての入力パターン値χの集合に拡張することにより、全般的なＲＤＬ最大正確性の証明を完了する。
【０１２０】
（ＲＤＬは漸近的に効率のよいものである）
本発明者の従来の研究の漸近効率は、同書のセクション３．３で証明されている。多くの長い定義は、ＲＤＬの証明に関連する従来技術の第３章に示されているが、長すぎて本開示内容に含めることができない。同書で定義され、本明細書で使用する重要な用語はイタリック体で印刷されている。読者は、これにより、以下に示すＲＤＬの判別効率の簡潔な証明の基礎をなす理論上の統計フレームワーク（すなわち、相対効率のよい分類器を学習する能力）の詳細説明については従来技術を参照されたい。
【０１２１】
注：  本発明は、最大限に正確な学習パラダイムの所期の理論上の目的（すなわち、目標）を記載した従来技術の第３章の定義または統計フレームワークを変更するものではない。本発明では、それらの目的を達成するために従来技術が開発した欠陥のある手段を大幅に変更するものである。
【０１２２】
（Ｉ．１１）によって表される単一入力パターン値ｘのすべてのクラスの集合に関するＲＤＬ目的関数の期待値は、以下のように、すべてのクラスの集合と、すべての入力パターン値の集合に関する同時期待値に拡張することができる。
【数６２】
2005537526.tif 000064
【０１２３】
ρχ（ｘ）という表記は、それが一般性を失わずに非加算領域χ上のベクトルであると想定して、入力パターンの確率密度関数（ｐｄｆ）を示し、たとえば、式（Ｉ．２６）およびそれ以降のすべての式は、単に確率密度関数を確率質量関数（ｐｍｆ）に変更し、積分を加法に変更することにより、加算領域上で定義された入力パターンに関連することができる。
【０１２４】
次に、図１の分類／価値査定モデル２０は、各固有の入力パターン値（図１の２２）の最可能クラスを学習し、十分大きい学習サンプル・サイズの場合、各固有のパターンｘはρχ（ｘ）というｐｄｆに比例する頻度で発生し、ｘの各事例と対になった各クラス・ラベルはその帰納的クラス確率Ｐ(ω(i)｜ｘ);ｉ＝｛１,２,...,Ｃ｝に比例する頻度で発生することになる。
【０１２５】
十分なモデル複雑性の場合、上記のセクションの証明が（Ｉ．２６）に適用され、すべてのクラスの集合とすべての入力パターンの空間に関するＲＤＬ目的関数の期待値は、信頼性が０に近づくにつれて、１からベイズ誤り率を引いたものになる。
【数６３】
2005537526.tif 000065
【０１２６】
単一入力パターン値のケースのように、信頼性は、最可能クラスに収束するために最大出力の予想恒等式用の任意の入力パターンの最小Ψ*を満たすかまたはそれを超えなければならない。
【数６４】
2005537526.tif 000066
【０１２７】
最後に、そのモデルがすべての入力パターンについてベイズ−最適クラスを学習するのに十分な複雑性を備えていない場合、または学習信頼性が未指定である場合、学習は、すべての入力パターンの空間に関するＲＤＬ目的関数の勾配の期待値によって支配されることになる。その場合、式（Ｉ．１９）および（Ｉ．２０）の同時期待値相似形が適用されることになる。学習が不完全になるためには、以下の不等式期待値が当てはまらなければならず、（Ｉ．１９）および（Ｉ．２０）に続く解析が適用される。
【数６５】
2005537526.tif 000067
【数６６】
2005537526.tif 000068
【０１２８】
（Ｉ．１９）および（Ｉ．２０）に続く解析は、ＲＤＬ目的関数の最適化がそのモデル複雑性によって可能になるベイズ−最適分類器に対する最良の近似をもたらすことを証明し、信頼性パラメータΨは（Ｉ．２９）および（Ｉ．３０）という同時期待導関数に適用される。簡潔さのため、関連の詳細については省略する。したがって、数値最適化手順を介してＲＤＬ目的関数を最適化すると、すべての入力パターン値ｘの集合についてベイズ−最適分類器に対する最良の近似が生成されることを証明してきた。この場合も、上記の証明が単一出力の分類器に及び、それが主要開示内容の式（９）のＲＤＬ目的関数表現を使用することを示すことは簡単なことである。
【０１２９】
このセクションの証明は本発明に適用されるが、従来技術には適用されない。本付録の前のセクションに含まれる本発明と従来技術との比較はこのセクションに等しく適用される。
【０１３０】
（価値査定に関する最大利益）
主要開示内容の式（１０）および（１１）は価値査定タスクのためのＲＤＬ目的関数を表しており、式（１０）は単一出力価値査定モデル（図１の２１）の特殊ケースを扱い、式（１１）は一般的なＣ個の出力のケースを扱っている。このセクションの考察では、簡潔さのために一般的なＣ個の出力のケースについてのみ検討することになるが、このケースを特殊ケースに拡張することは簡単なことである。さらに簡潔さのために、このセクションでは、ＲＤＬが最大利益をもたらすことを詳細に証明しない。むしろ、パターン分類に関する上記２つのセクションの最大正確性の証明の単純な変形として価値査定の証明を特徴づけるだけである。この特徴づけを考慮して、詳細な最大利益の証明の経路は明白になるだろう。
【０１３１】
主要開示内容の式（１１）は、以下のように価値査定に関するＲＤＬ目的関数を表している。
【数６７】
2005537526.tif 000069
【０１３２】
この場合、図１のモデル２１のＣ個の出力は、入力パターンｘに基づいて行うことができるＣ通りの相互排他的な決定の集合Ω＝｛ω１，ω２，．．．，ωＣ｝を表現しており、そのそれぞれがそれ専用の値｛γ１，γ２，．．．，γＣ｝を有するものと見なす。これらの決定のそれぞれの期待（すなわち、帰納的な）値により、結果的に、最も収益性の高い（または最も費用がかからない）ものから最も収益性の低い（または最も費用がかかる）ものへのランキングが得られるγ(ω（１）|ｘ)，γ(ω（２）|ｘ)，．．．，γ(ω（Ｃ）|ｘ)｝。したがって、相互排他的な決定の集合に関するＲＤＬ目的関数の期待値は以下の式によって示されるが、その場合、γ(ω（１）|ｘ)は最も収益性の高い（または最も費用がかからない）決定の帰納的値ω(1)を示している。
【数６８】
2005537526.tif 000070
【０１３３】
読者は、（Ｉ．３２）と、（Ｉ．１１）における分類用のその相似形との類似点にただちに気付くことになるだろう。この２つの公式化間の唯一の相違点は、（Ｉ．１１）の帰納的確率Ｐ(ω（１）|ｘ)，が０から１の範囲に及び、（Ｉ．３２）の帰納的値γ(ω（１）|ｘ)，が任意の実数値を取ることができることである。したがって、特定の入力パターンに関する収益性の高い決定がまったく存在しないケース（すなわち、すべてのｉについて
【数６９】
2005537526.tif 000071
であるケース）を除き、最大利益の証明は最大正確性の証明と同一である。数学的「トリック」により、少なくとも１つの収益性の高い決定が必ず存在するように、価値査定タスクを公式化することができるが、単に、追加の決定クラスを追加し（可能な決定の総数をＣ＋１にする）、この「他のすべての決定を回避する」という決定に＋１単位の値を割り当てるだけである。その場合、他のすべての決定値が利益のないものであるたびに、「他のすべての決定を回避する」という決定が取られる。このシナリオでは、最大利益の証明は、それに対応する最大正確性の証明に直接付随するものとして後に続く。
【０１３４】
従来技術には、価値査定の主題に関することは何も含まれていない。その結果として、このセクションでは証明に関する比較は一切行わない。
【０１３５】
（付録ＩＩ）
（所定の最大許容破綻確率の場合にトランザクションにおけるリスクに対する最大財産部分Ｒmaxを推定するための方法）
（背景）
所与のトランザクションが確率Ｐlossで正味損失を返す場合、ｎ回のトランザクションのうちのｋ回が損失を返す確率は、二項確率質量関数（ｐｍｆ）によって支配される。
【数７０】
2005537526.tif 000072
【０１３６】
ｎ回の全損トランザクションのうちのｋ回から得られる累積期待利益または損失Ｅ［ＰＬcum］は、期待総トランザクション収益Ｅ［Ｒgross］と平均トランザクション・コストＥ［Ｃ］の関数である。
【数７１】
2005537526.tif 000073
【０１３７】
所与のトランザクション利益／損失はその総収益からその費用を引いたものであり、すべてのトランザクションは統計的に独立していると想定されるので、式（ＩＩ．２）は以下のように表現し直すことができる。
【数７２】
2005537526.tif 000074
【０１３８】
正味損失は、Ｅ［ＰＬcum］が０未満である場合にこれらのトランザクションの結果として発生し、成功したトランザクションの回数（ｎ−ｋ）と失敗の回数ｋとの間に以下の関係を必要とする。
【数７３】
2005537526.tif 000075
【０１３９】
投資家がｑ回のトランザクションの失敗に耐えるために十分な蓄えを有し、各トランザクションが平均Ｅ［Ｃ］の費用がかかる場合、投資家は少なくともそれだけの回数のトランザクションの間、投資し続けることができる。事実、投資家は、破綻するためには、ｎ＞ｑ回のトランザクション中にｑより大きい何らかの回数ｋの失敗を被らなければならない。投資家の全財産Ｗの場合、その回数は以下のようになる。
【数７４】
2005537526.tif 000076
その結果として、投資家は、平均して、以下の確率でｎ＞ｑ回の投資の間に破綻することになる。
【数７５】
2005537526.tif 000077
【０１４０】
式（ＩＩ．６）は、たとえば、最悪ケースの破綻確率ではなく、ｎ＞ｑ回の投資の間の平均破綻確率を表現する。これは、「破綻への道」が二重確率プロセスであるからである。式（ＩＩ．６）は、長さｎ＞ｑのすべてのトランザクション数列の平均破綻確率を表している。これは、ｎ＞ｑ回のトランザクションの特定の数列に関する破綻確率が平均が示すものより非常に大きいかまたは非常に小さい可能性があるというきわめて重要な警告を暗示しているが、明白に表現するものではない。
【０１４１】
（Ｒmaxの推定）
熟考すると、投資家が自分の財産をｑ個の等しい部分に分割し、そのそれぞれがＦＲＡＮＴｉＣトランザクションで危険にさらされる場合、リスク部分Ｒは以下のようになる。
【数７６】
2005537526.tif 000078
その投資家の最大許容リスク部分は以下のようになる。
【数７７】
2005537526.tif 000079
式中、ｑminは、式（ＩＩ．５）および（ＩＩ．６）中のｋが、その投資家にとって受け入れられる程度に小さいＰ（破綻｜ｎ＞ｑ回の投資）をもたらすように選択される。
【図面の簡単な説明】
【０１４２】
【図１】リスク微分学習システムの機能ブロック図表現である。
【図２】図１のシステムで使用可能なニューラル・ネットワーク分類モデルの機能ブロック図表現である。
【図３】図１のシステムで使用可能なニューラル・ネットワーク価値査定モデルの機能ブロック図表現である。
【図４】図１のシステムの目的関数を実現する際に使用する合成リスク／利益／分類性能指数関数の一例を示す図である。
【図５】図４の関数の第１の導関数を示す図である。
【図６】急勾配または「信頼性」パラメータの５通りの値について示された図４の合成関数を示す図である。
【図７】正確なシナリオの場合の図２のニューラル・ネットワーク分類／価値査定モデルの機能ブロック図である。
【図８】図７のニューラル・ネットワーク・モデルの不正確なシナリオの場合の図７と同様の図である。
【図９】単一出力ニューラル・ネットワーク分類／価値査定モデルの正確なシナリオの場合の図７と同様の図である。
【図１０】図９の単一出力ニューラル・ネットワーク・モデルの不正確なシナリオの場合の図８と同様の図である。
【図１１】他の正確なシナリオの場合の図９と同様の図である。
【図１２】他の不正確なシナリオの場合の図１１と同様の図である。
【図１３】図１のシステムのようなリスク微分学習システムを使用する利益最適化リソース割振りプロトコルを示す流れ図である。
【図１】
2005537526.tif 000080
【図２】
2005537526.tif 000081
【図３】
2005537526.tif 000082
【図４】
2005537526.tif 000083
【図５】
2005537526.tif 000084
【図６】
2005537526.tif 000085
【図７】
2005537526.tif 000086
【図８】
2005537526.tif 000087
【図９】
2005537526.tif 000088
【図１０】
2005537526.tif 000089
【図１１】
2005537526.tif 000090
【図１２】
2005537526.tif 000091
【図１３】
2005537526.tif 000092
【手続補正書】
【提出日】平成17年7月28日(2005.7.28)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
入力パターンの分類および／または入力パターンに関連する決定の価値の査定を学習する方法において、前記方法が、
所定の入力パターンに関する実際の出力分類または決定価値査定を生成するために学習する必要がある概念のニューラル・ネットワーク・モデルに前記所定の入力パターンを適用するステップであって、前記モデルが調整可能で相互関係のある数値パラメータを特徴とするステップと、
単調非減少型かつ反対称でどこでも区分的に微分可能な目的関数を定義するステップと、
前記目的関数を基礎として前記所定の入力パターンに関する所望の出力分類または査定決定価値と実際の出力分類または決定価値査定とを比較するステップと、
前記比較の結果によって支配される数値最適化により前記モデルの前記パラメータを調整するステップとを有する方法。
【請求項２】
Ｎ＞１の場合に、前記ニューラル・ネットワーク・モデルが、前記所定の入力パターンに応じてＮ個の出力値を生成する、請求項１に記載の方法。
【請求項３】
前記目的関数がＮ−１個の項を含み、各項が微分引き数δの関数である、請求項２に記載の方法。
【請求項４】
各項ごとに、前記δの値が、前記正確な分類／価値査定を表現する出力の値と、他の出力値のうちの対応するものとの差である、請求項３に記載の方法。
【請求項５】
学習対象の例が不正確に分類または価値査定されたときに、前記目的関数が可変引き数δの関数である単一項を含み、前記δの値が、前記正確な分類／価値査定を表現する出力の値と、他の最大出力値との差である、請求項２に記載の方法。
【請求項６】
前記ニューラル・ネットワーク・モデルが、前記所定の入力パターンに応じて単一出力値を生成する、請求項１に記載の方法。
【請求項７】
前記目的関数が可変引き数δの関数を含み、δが、前記単一出力値と、前記出力が取ることができる最大値と最小値の平均に等しいファントム出力との差である、請求項６に記載の方法。
【請求項８】
入力パターンを分類するかまたは入力パターンに関連する決定の価値を査定するようにニューラル・ネットワーク・モデルを訓練するための装置において、前記モデルが数値最適化によって調整可能な、相互関係のある数値パラメータを特徴とし、前記装置が、
所定の入力パターンに応じて前記モデルが生成した実際の分類または価値査定出力と、前記所定の入力パターンに関する所望の分類または価値査定出力とを比較するための比較手段であって、
前記比較手段が１つまたは複数の項を含む目的関数を基礎として前記比較を実施する構成要素を含み、
前記項のそれぞれが可変引き数δを備えた合成項関数であり、０付近のδの値の遷移領域を有し、前記項関数が前記遷移領域内の値δ＝０のあたりで対称である前記比較手段と、
前記比較手段および前記関連ニューラル・ネットワーク・モデルに結合され、それによって前記モデルのパラメータが調整される前記数値最適化を支配するために前記比較手段によって実行される比較の結果に応答する調整手段とを有する装置。
【請求項９】
各項関数が微分可能関数の区分的融合である、請求項８に記載の装置。
【請求項１０】
前記遷移領域外でδの正の値に対応する前記項関数の第１の導関数が前記正の値と同じ絶対値を有するδの負の値に対応する前記項関数の前記第１の導関数より大きくないという属性を各項関数が有する、請求項８に記載の装置。
【請求項１１】
各項関数が、その引き数δのすべての値について区分的に微分可能である、請求項８に記載の装置。
【請求項１２】
各項関数が、その実数値引き数δの値が増加する場合にその値が減少しないように単調非減少型である、請求項８に記載の装置。
【請求項１３】
各項関数が信頼性パラメータΨの関数であり、δ＝０のときに最大傾斜を有し、前記傾斜がΨに反比例する、請求項８に記載の装置。
【請求項１４】
各項関数が、信頼性パラメータに直線的に比例する最小傾斜を有するδの単調増加多項式関数である、前記遷移領域外でδの負の値に対応する部分を有する、請求項８に記載の装置。
【請求項１５】
Ψが０に近づくときに前記項関数がその引き数δのヘヴィサイド階段関数に近づくように、０と１の間で変動する単一実数値の信頼性パラメータΨによって円滑に調整可能な形状を各項関数が有する、請求項８に記載の装置。
【請求項１６】
前記項関数が、Ψ＝１のときにその引き数δの近似的一次関数である、請求項１５に記載の装置。
【請求項１７】
前記遷移領域外でδの正の値に対応する前記項関数の第１の導関数が前記正の値と同じ絶対値を有するδの負の値に対応する前記項関数の前記第１の導関数より大きくないという属性を各項関数が有し、
各項関数が信頼性パラメータΨの関数であり、δ＝０のときに最大傾斜を有し、前記傾斜がΨに反比例し、
各項関数が、Ψに直線的に比例する最小傾斜を有するδの単調増加多項式関数である、前記遷移領域外でδの負の値に対応する部分を有し、
各項関数が、その引き数δのすべての値について区分的に微分可能であり、
各項関数が、その実数値引き数δの値が増加する場合にその値が減少しないように単調非減少型である、請求項１５に記載の装置。
【国際調査報告】
2005537526.tif 000093
2005537526.tif 000094
2005537526.tif 000095