最急降下法
傾き(一階微分)のみしか見ないので手法として簡便で計算も速い。
勾配法のため、局所的な最小値に捉まり易く、大域的な最小値を求めるのは困難であることが欠点である。それを回避するために、複数の初期値から探索を行うなどの対策が必要である。対策としては確率的勾配降下法も参照。
関数 f の偏微分が計算できなくてはならない。