最急降下法

最急降下法（さいきゅうこうかほう、）は、関数（ポテンシャル面）の傾き（一階微分）のみから、関数の最小値を探索する連続最適化問題の勾配法のアルゴリズムの一つ。勾配法としては最も単純であり、直接・間接にこのアルゴリズムを使用している場合は多い。最急降下法をオンライン学習に改良した物を確率的勾配降下法と呼ぶ。
尚、最急降下法の“最急”とは、最も急な方向に降下することを意味している。すなわち、収束の速さに関して言及しているわけではない（より速いアルゴリズムがあり得る）。
手法.
 次のベクトル を引数とする関数を としてこの関数の極小値を求めることを考える。
勾配法では反復法を用いて を解に近づけていく。 回目の反復で解が の位置にあるとき、最急降下法では次のようにして値を更新する。
ここで は 1 回に更新する数値の重みを決めるパラメータであり、通常は小さな正の定数である。パラメータ の適正な範囲は多くの場合、取り扱う問題の性質によって決まる。例えば力学問題を計算する際、計算結果が発散するような設定を与えることは、何らかの意味で非物理的な仮定をしている（あるいは元々のモデルの適用範囲を超えている）ことを示している。
例えば、 の最小値の探索において、 の場合、反復ごとに悪い解へと向かう。解の探索能力、収束速度は に強く依存しており、 が大きすぎると発散の恐れがあり、小さすぎると収束が遅くなる（も参照）。そのため、探索の初期では大きめにし、ある程度収束したら小さくする方法もとられる。小さくするやり方は反復回数の逆数や指数関数的減衰などがあり、焼きなまし法が参考になる。
勾配ベクトル は関数 の変化率が最も大きい方向を向く。したがって が適切な値を持つなら、 は必ず より小さくなる。
最急降下法のスキームは以下のようになる：