ドッグレッグ法
f i : R n → R {\displaystyle f_{i}:\mathbb {R} ^{n}\to \mathbb {R} } を所与として、次の形式の最小二乗問題を考える。
F ( x ) = 1 2 ‖ f ( x ) ‖ 2 = 1 2 ∑ i = 1 m ( f i ( x ) ) 2 {\displaystyle F({\boldsymbol {x}})={\frac {1}{2}}\left\|{\boldsymbol {f}}({\boldsymbol {x}})\right\|^{2}={\frac {1}{2}}\sum _{i=1}^{m}\left(f_{i}({\boldsymbol {x}})\right)^{2}}
パウエルのドッグレッグ法は最適点 x ∗ = argmin x  F ( x ) {\displaystyle {\boldsymbol {x}}^{*}=\operatorname {argmin} _{\boldsymbol {x}}F({\boldsymbol {x}})} に収束する点列を x k = x k − 1 + δ k {\displaystyle {\boldsymbol {x}}_{k}={\boldsymbol {x}}_{k-1}+\delta _{k}} により構築することでこの問題を解く。各反復において、ガウス・ニュートン法ステップは次のように与えられる。