ガウス・ニュートン法
}
ここで
J r = ∂ r i ( β ( s ) ) ∂ β j {\displaystyle J_{r}={\frac {\partial r_{i}({\boldsymbol {\beta }}^{(s)})}{\partial \beta _{j}}}}
はβ におけるr のヤコビアン、Jr は行列Jr の転置を表す。
m = n ならば、この反復計算は
β ( s + 1 ) = β ( s ) − J r − 1 r ( β ( s ) ) {\displaystyle {\boldsymbol {\beta }}^{(s+1)}={\boldsymbol {\beta }}^{(s)}-J_{r}^{-1}{\boldsymbol {r}}({\boldsymbol {\beta }}^{(s)})}
のように簡略化される。これは1次元ニュートン法の直接的な一般化である。
ガウス・ニュートン法は関数f のヤコビアンJf を用いて次のように表すこともできる:
β ( s + 1 ) = β ( s ) + ( J f T J f ) − 1 J f T r ( β ( s ) ) . {\displaystyle {\boldsymbol {\beta }}^{(s+1)}={\boldsymbol {\beta }}^{(s)}+({J_{f}}^{\mathrm {T} }{J_{f}})^{-1}{J_{f}}^{\mathrm {T} }{\boldsymbol {r}}({\boldsymbol {\beta }}^{(s)}).}