非線形共役勾配法

非線形共役勾配法（ひせんけいきょうやくこうばいほう、）とは、数理最適化において非線形最適化問題に共役勾配法を拡張したアルゴリズムの一種である。

 原理 
2次関数



の最小値問題は、次のように勾配が0となる点を得れば解ける。

 .

線形共役勾配法は線形方程式  の求解に用いられるのに対して、非線形共役勾配法は、関数の極小値探索を勾配  のみを用いて行う。この手法は、対象の非線形関数が極小点の近傍において近似的に2次関数的に振る舞う、すなわち極小点において2階微分可能でありかつ2階微分が非特異的である場合に適用可能である。

 変数関数  が与えられたとき、その勾配  はその関数を最も増大させる方向を示す。まずは、最急降下法と同じくその逆方向へと探索を行う。



この方向に直線探索を行うことにより を最小とするようなステップ長  を求める。




このように最初のイテレーションで最急方向  に降下した後は、以下の手順に従い、共役方向  を計算してその方向へと降下する。ここで、 とする。

 最急方向  を算出
 後述する式に従って  を算出
 共役方向  を算出
 直線探索  を行う
 位置を更新 

純粋な二次関数では、 回反復すればかならず（丸め誤差を除いて）最小値に到達するが、非二次関数では収束はより遅くなる。後続の探索方向は共役性を失うため、最適化の進捗が止まる前に、少なくともN回反復する毎に探索方向を最急降下方向にリセットする必要がある。しかし、反復する毎に毎回リセットを行ってしまうと、最急降下法と変わらなくなってしまう。このアルゴリズムは、方向リセットをした後（すなわち最急降下方向）でも進捗がないとき、または何らかの許容基準に達したときに最小値を見つけたとみなして停止する。

線形近似の範囲内ではパラメータ  と  は線形共役勾配法と同一となるが、直線探索を用いて算出する。共役勾配法は、最急降下法ではジグザグパターンに陥ってしまい収束が遅くなってしまうような、狭い（ill-conditionな）谷に沿って最適化を進めることができる。

以下に示す4つの公式が  の算出方法として有名である。それぞれ、名前は開発者の名に因む。

 Fletcher–Reeves:R. Fletcher and C. M. Reeves, "Function minimization by conjugate gradients", Comput. J. 7
(1964), 149–154.



 Polak–Ribière:E. Polak and G. Ribière, "Note sur la convergence de directions conjugu´ee", Rev. Francaise
Informat Recherche Operationelle, 3e Ann´ee 16 (1969), 35–43.



 Hestenes-Stiefel:M. R. Hestenes and E. Stiefel, "Methods of conjugate gradients for solving linear systems", J.
Research Nat. Bur. Standards 49 (1952), 409–436 (1953).



 Dai–Yuan:Y.-H. Dai and Y. Yuan, "A nonlinear conjugate gradient method with a strong global convergence
property", SIAM J. Optim. 10 (1999), no. 1, 177–182.



これらの公式は2次関数に対しては全て等価なものであるが、非線形最適化問題に際してはヒューリスティクスもしくは好みに基づいて選択される。 のように選ぶと、自動的に降下方向のリセットも行われるため普及しているJ. R. Shewchuk, "An Introduction to the Conjugate Gradient Method Without the Agonizing Pain", August 1994.。

ニュートン法に基づくアルゴリズムはより急速に収束する可能性がある。それらのアルゴリズムは勾配とヘッセ行列の厳密値（ニュートン法の場合）もしくは推定値（準ニュートン法の場合）を用いてステップ方向とステップ長の両方を線形方程式系を解いて求める。しかし、高次元の問題においてはヘッセ行列を厳密に求める計算は実行不可能なほど計算コストが高く、また推定値でさえその格納には  のメモリを要するため格納すら難しい場合がある。

 脚注 

 出典 

 関連項目 
 BFGS法
 共役勾配法
 L-BFGS法
 ネルダー–ミード法

 外部リンク 
 An Introduction to the Conjugate Gradient Method Without the Agonizing Pain by Jonathan Richard Shewchuk.
 A NONLINEAR CONJUGATE GRADIENT METHOD WITH A STRONG GLOBAL CONVERGENCE PROPERTY by Y. H. DAI and Y. YUAN.
 Different types of Nonlinear Conjugate Gradient 

Category:勾配法
Category:最適化アルゴリズムとメソッド
Category:数学に関する記事