ニュートン法
この方法の考え方は以下のようである:まず初めに、予想される真の解に近いと思われる値をひとつとる。次に、そこでグラフの接線を考え、その x 切片を計算する。このx切片の値は、予想される真の解により近いものとなるのが一般である。以後、この値に対してそこでグラフの接線を考え、同じ操作を繰り返していく。
上の考え方は次のように定式化される。 ここでは、考える問題を f: R → R, x ∈ Rとして
f ( x ) = 0 {\displaystyle f(x)=0\,}
となる x を求めることに限定する。このとき、x の付近に適当な値 x0 をとり、次の漸化式によって、x に収束する数列を得ることができる場合が多い。
x n + 1 = x n − f ( x n ) f ′ ( x n ) ⋯ ( 1 ) {\displaystyle x_{n+1}=x_{n}-{\frac {f(x_{n})}{f'(x_{n})}}\quad \cdots (1)}
例として、 2 {\displaystyle {\sqrt {2}}} を計算で求める場合に、
f ( x ) = x 2 − 2 {\displaystyle f(x)=x^{2}-2\,}
ニュートン法により近似値を求めようとする場合にはヤコビ行列が陽に分からなければ計算できない。しかし、関数 f によってはヤコビ行列が陽に分からない場合もある。この場合にはヤコビ行列を必要としない準ニュートン法を用いる。
また、f (x) = 0 を満たす真の解 x において導関数が f '(x) = 0 であった場合、収束の速さは1次に退化する。