レーベンバーグ・マルカート法

数学および計算科学において、レーベンバーグ・マルカート法（レーベンバーグ・マルカートほう、英: Levenberg–Marquardt algorithm、LM法、レーベンバーグ・マーカート法）とは、非線形最小二乗問題の解法の一つをいう。特に曲線回帰を最小二乗法により行う場合によく用いられる。LM法はガウス・ニュートン法（GN法）と最急降下法を内挿した手法といえる。GN法よりもロバストであり、初期値が解から大きく外れていた場合でも解けることが多いが、ふるまいの良い関数に対してはGN法よりも収束が遅い傾向を示す。 LM法は、GN法に信頼領域法を適用したものとみることもできる。 1944年、フランクフォード・アーセナル（英語版）職員ケネス・レーヴェンバーグ（英語版）により初発表され、1963年にデュポン勤務の統計家、ドナルド・マーカート（英語版）により再発見された。また、Girard, Wynne, Morrison によりそれぞれ独立に再発見されている。 LM法は、一般的な曲線回帰問題を解く必要のあるアプリケーションソフトウェアで広く用いられる。GN法を取り入れているため多くの場合で1次解法よりも収束速度が速いが、他の反復法と同様、LM法で保証されているのは局所最小値への収束のみであり、大域最小値が得られる保証はない。 LM法の主な適用対象は、最小二乗曲線回帰問題である。 m対の独立変数と従属変数のペア ( x i , y i ) {\displaystyle \left(x_{i},y_{i}\right)} が与えられたとき、βをパラメータとする曲線f(x, β)と所与のペアとの偏差の二乗和S(β)を最小化することを考える。 β ^ ∈ argmin β ⁡ S ( β ) ≡ argmin β ⁡ ∑ i = 1 m [ y i − f ( x i , β ) ] 2 {\displaystyle {\hat {\boldsymbol {\beta }}}\in \operatorname {argmin} \limits _{\boldsymbol {\beta }}S\left({\boldsymbol {\beta }}\right)\equiv \operatorname {argmin} \limits _{\boldsymbol {\beta }}\sum _{i=1}^{m}\left[y_{i}-f\left(x_{i},{\boldsymbol {\beta }}\right)\right]^{2}} 他の数値最適化手法と同様、LM法は反復法を用いる。まず、パラメーターベクトルβの初期推定値を与える必要がある 。極小点が1つしかない場合、事前情報に基づかない均一な初期推定値、たとえば βT = (1, 1, …, 1)でも大域解に到達することができるが、複数の局所最小値が存在する場合、初期推定値が十分に大域最小点に近いときにしか大域解には収束しない。 各反復ステップにおいてパラメーターベクトルβは新しい推定値β + δへ置き換えられる。δを決めるため、f(xi, β + δ)を次のように線形近似する。 f ( x i , β + δ ) ≈ f ( x i , β ) + J i δ {\displaystyle f\left(x_{i},{\boldsymbol {\beta }}+{\boldsymbol {\delta }}\right)\approx f\left(x_{i},{\boldsymbol {\beta }}\right)+{\boldsymbol {J}}_{i}{\boldsymbol {\delta }}} ここで、 J i = ∂ f ( x i , β ) ∂ β {\displaystyle {\boldsymbol {J}}_{i}={\frac {\partial f\left(x_{i},{\boldsymbol {\beta }}\right)}{\partial {\boldsymbol {\beta }}}}} は関数fのβについての勾配（ここでは行ベクトルとする）である。 偏差の二乗和S(β)は、この勾配がゼロのとき局所最小となる。上式の一次近似を用いると、f(xi, β + δ)の偏差二乗和は以下のように近似される。 S ( β + δ ) ≈ ∑ i = 1 m [ y i − f ( x i , β ) − J i δ ] 2 {\displaystyle S\left({\boldsymbol {\beta }}+{\boldsymbol {\delta }}\right)\approx \sum _{i=1}^{m}\left[y_{i}-f\left(x_{i},{\boldsymbol {\beta }}\right)-{\boldsymbol {J}}_{i}{\boldsymbol {\delta }}\right]^{2}} ベクトル表記すると、以下のように書ける。 S ( β + δ ) ≈ ‖ y − f ( β ) − J δ ‖ 2 = [ y − f ( β ) − J δ ] T [ y − f ( β ) − J δ ] = [ y − f ( β ) ] T [ y − f ( β ) ] − [ y − f ( β ) ] T J δ − ( J δ ) T [ y − f ( β ) ] + δ T J T J δ = [ y − f ( β ) ] T [ y − f ( β ) ] − 2 [ y − f ( β ) ] T J δ + δ T J T J δ {\displaystyle {\begin{aligned}S\left({\boldsymbol {\beta }}+{\boldsymbol {\delta }}\right)&\approx \left\|{\boldsymbol {y}}-{\boldsymbol {f}}\left({\boldsymbol {\beta }}\right)-{\boldsymbol {J}}{\boldsymbol {\delta }}\right\|^{2}\\&=\left[{\boldsymbol {y}}-{\boldsymbol {f}}\left({\boldsymbol {\beta }}\right)-{\boldsymbol {J}}{\boldsymbol {\delta }}\right]^{\mathrm {T} }\left[{\boldsymbol {y}}-{\boldsymbol {f}}\left({\boldsymbol {\beta }}\right)-{\boldsymbol {J}}{\boldsymbol {\delta }}\right]\\&=\left[{\boldsymbol {y}}-{\boldsymbol {f}}\left({\boldsymbol {\beta }}\right)\right]^{\mathrm {T} }\left[{\boldsymbol {y}}-{\boldsymbol {f}}\left({\boldsymbol {\beta }}\right)\right]-\left[{\boldsymbol {y}}-{\boldsymbol {f}}\left({\boldsymbol {\beta }}\right)\right]^{\mathrm {T} }{\boldsymbol {J}}{\boldsymbol {\delta }}-\left({\boldsymbol {J}}{\boldsymbol {\delta }}\right)^{\mathrm {T} }\left[{\boldsymbol {y}}-{\boldsymbol {f}}\left({\boldsymbol {\beta }}\right)\right]+{\boldsymbol {\delta }}^{\mathrm {T} }{\boldsymbol {J}}^{\mathrm {T} }{\boldsymbol {J}}{\boldsymbol {\delta }}\\&=\left[{\boldsymbol {y}}-{\boldsymbol {f}}\left({\boldsymbol {\beta }}\right)\right]^{\mathrm {T} }\left[{\boldsymbol {y}}-{\boldsymbol {f}}\left({\boldsymbol {\beta }}\right)\right]-2\left[{\boldsymbol {y}}-{\boldsymbol {f}}\left({\boldsymbol {\beta }}\right)\right]^{\mathrm {T} }{\boldsymbol {J}}{\boldsymbol {\delta }}+{\boldsymbol {\delta }}^{\mathrm {T} }{\boldsymbol {J}}^{\mathrm {T} }{\boldsymbol {J}}{\boldsymbol {\delta }}\end{aligned}}} S(β + δ)をδに関して微分した結果を0とすると、以下の式を得る。 ( J T J ) δ = J T [ y − f ( β ) ] {\displaystyle \left({\boldsymbol {J}}^{\mathrm {T} }{\boldsymbol {J}}\right){\boldsymbol {\delta }}={\boldsymbol {J}}^{\mathrm {T} }\left[{\boldsymbol {y}}-{\boldsymbol {f}}\left({\boldsymbol {\beta }}\right)\right]} ここで、Jはヤコビ行列であり、そのi行目はJi に等しい。また、f(β), yはそれぞれ、i行目成分をf(xi), yiとするベクトルである。ヤコビ行列は一般的には正方行列ではなく、mをデータ点数、nをベクトルβのサイズとしてm × n長方形行列である。行列積JTJはn × n正方行列となり、上式はn連立線形方程式であるからこれを解いてδを得ることができる。これをそのまま解くのがガウス・ニュートン法である。 LM法では、この方程式を次のように「減衰」させたものに置き換える。 ( J T J + λ I ) δ = J T [ y − f ( β ) ] ( λ ≥ 0 ) {\displaystyle \left({\boldsymbol {J}}^{\mathrm {T} }{\boldsymbol {J}}+\lambda \mathbf {I} \right){\boldsymbol {\delta }}={\boldsymbol {J}}^{\mathrm {T} }\left[{\boldsymbol {y}}-{\boldsymbol {f}}\left({\boldsymbol {\beta }}\right)\right]\quad (\lambda \geq 0)} ここで、Iは単位行列である。これを解いて得られるδを用いてパラメータベクトルβの推定値を更新する。 非負の減衰係数λは各反復ごとに調整される。Sが急速に減少する際には小さい値が用いられ、LM法はGN法に近づく。対して、残差が十分に減少しない場合は大きい値のλが用いられ、Sのβについての勾配は−2 (JT[y-f(β)])Tであることに注意すると、λが大きいときδは勾配の逆向きに近付きLM法は最急降下法に近づくことがわかる。計算されたδが十分小さくなったとき、もしくは得られたパラメータ推定値β + δに置き換えた際の偏差二乗和の減少が十分に小さくなったときのどちらかの場合に反復は打ち切られ、解βを得る。 減衰係数λが‖ JTJ ‖に比べて大きいときは、JTJ+λIの逆行列を求める必要はなく、更新ステップδは λ − 1 J T [ y − f ( β ) ] {\displaystyle \lambda ^{-1}{\boldsymbol {J}}^{\mathrm {T} }\left[{\boldsymbol {y}}-{\boldsymbol {f}}\left({\boldsymbol {\beta }}\right)\right]} で十分に近似される。 LM法は、λが大きい値のときJTJの情報がほとんど使われないという欠点を持つ。Fletcherは1971年、勾配が小さい方向への収束が遅いという問題を避けるため、勾配を曲率に応じてスケールするという考えから、単位行列IをJTJの対角要素で置き換え、解をスケール不変にする手法が提案された。 [ J T J + λ diag ⁡ ( J T J ) ] δ = J T [ y − f ( β ) ] {\displaystyle \left[{\boldsymbol {J}}^{\mathrm {T} }{\boldsymbol {J}}+\lambda \operatorname {diag} \left({\boldsymbol {J}}^{\mathrm {T} }{\boldsymbol {J}}\right)\right]{\boldsymbol {\delta }}={\boldsymbol {J}}^{\mathrm {T} }\left[{\boldsymbol {y}}-{\boldsymbol {f}}\left({\boldsymbol {\beta }}\right)\right]} 同様の減衰因子は、線形不良設定問題を解くために用いられるティホノフ正則化（英語版）や、リッジ回帰と呼ばれる推計法にも現れる。 最良の減衰係数λを選ぶ方法としては、様々な議論があるが、大なり小なりヒューリスティックなものである。それらの選び方がなぜ局所最小点への収束を保証するかを示す理論的な議論はあるが、大域最小点へ収束するような選び方をすると最急降下法の望ましくない特質、とくに収束が遅いという側面が表われてしまう。 どんな選び方をしても、パラメータの大きさはもとの問題がどれほど良くスケールするかに依存する。マーカートは次のような選び方を推奨している。まず初期値λ = λ0を選んで最初のステップを実行し、残差S(β)が最初の点よりも減った場合はν > 1なる係数を用いて次のステップはλ = λ0 / νとする。残差が増えてしまった場合は、減るようになるまで繰り返しνを掛けλ0νkを用いて計算をする。 減衰係数λ/νを用いた結果が二乗残差を減少させたなら、これをλの新しい値とし（かつλ/νを用いた結果を採用し）、プロセスを続行する。もしλ/νを用いた残差がλを用いた残差よりも大きくなったならば、λの値を変えず、λを用いた結果を採用する。 delayed gratification[訳語疑問点]と呼ばれる減衰係数の効果的な制御方法がある。この方法では、上り坂のステップごとに係数を少しずつ増やし、下り坂のステップごとにパラメーターを大幅に減らす。この戦略は、最適化の開始時に坂を下りすぎ、後に使用できるステップが制限されて、収束が遅くなることを防ぐことを主眼においている。 ほとんどの場合、増加時には2倍、減少時には3分の1を採用すればうまくいくことが示されているが、大規模な問題の場合は、増加時は1.5倍、減少時は5分の1というより極端な値を用いる方がよいことが知られている。 レーベンバーグ・マルカート法の更新ステップvkを、パラメーター空間の測地経路に沿った速度と捉えると、測地経路に沿う加速度に対応する2次の項akを次のように加える改善が考えられる。 v k + 1 2 a k {\displaystyle {\boldsymbol {v}}_{k}+{\frac {1}{2}}{\boldsymbol {a}}_{k}} ここで、akは次の方程式の解である。 J k a k = − f v v ( x k ) {\displaystyle {\boldsymbol {J}}_{k}{\boldsymbol {a}}_{k}=-f_{vv}({\boldsymbol {x}}_{k})} この測地線加速度項は速度vに沿う方向微分 f v v ( x ) = ∑ μ ν v μ v ν ∂ μ ∂ ν f ( x ) {\displaystyle f_{vv}({\boldsymbol {x}})=\sum _{\mu \nu }v_{\mu }v_{\nu }\partial _{\mu }\partial _{\nu }f({\boldsymbol {x}})} のみに依存するため、完全な二次導関数行列を計算する必要はなく、計算コスト上のオーバーヘッドは比較的小さい。2次導関数はかなり複雑な式になる場合があるため、有限差分近似に置き換えると便利な場合がある。 f v v i ≈ f i ( x + h δ ) − 2 f i ( x ) + f i ( x − h δ ) h 2 = 2 h ( f i ( x + h δ ) − f i ( x ) h − J i δ ) {\displaystyle {\begin{aligned}f_{vv}^{i}&\approx {\frac {f_{i}({\boldsymbol {x}}+h{\boldsymbol {\delta }})-2f_{i}({\boldsymbol {x}})+f_{i}({\boldsymbol {x}}-h{\boldsymbol {\delta }})}{h^{2}}}\\&={\frac {2}{h}}\left({\frac {f_{i}({\boldsymbol {x}}+h{\boldsymbol {\delta }})-f_{i}({\boldsymbol {x}})}{h}}-{\boldsymbol {J}}_{i}{\boldsymbol {\delta }}\right)\end{aligned}}} ここで、f(x)とJは通常のアルゴリズムでもすでに計算されているため、追加で計算する必要があるのはf(x+hδ)だけである。有限差分ステップhの選択によってはアルゴリズムが不安定になる場合があるが、通常はおよそ0.1が妥当である。 加速度は速度と反対の方向を指す可能性があり、減衰が小さすぎて収束が失速するのを防ぐために、ステップの採用条件に加速度に関する以下のような追加の基準が追加される。 2 ‖ a k ‖ ‖ v k ‖ ≤ α {\displaystyle {\frac {2\left\|{\boldsymbol {a}}_{k}\right\|}{\left\|{\boldsymbol {v}}_{k}\right\|}}\leq \alpha } ここでαは通常は1未満の固定値とされる。より難しい問題ではより小さい値とする。 測地線加速度項を追加すると、収束速度が大幅に向上する可能性があり、特にアルゴリズムが目的関数ランドスケープ上の狭い峡谷を移動する場合に有用である。このような場合、2次の項の効果によりステップ幅はより小さく、精度が高くなる。 悪いフィッティング結果 ましなフィッティング結果 良いフィッティング結果 この例では、関数 y = a cos ⁡ ( b X ) + b sin ⁡ ( a X ) {\displaystyle y=a\cos \left(bX\right)+b\sin \left(aX\right)} をGNU Octave上のレーベンバーグ・マルカート法実装leasqr関数をもちいてフィッティングする。グラフから、パラメーターフィッティング結果が徐々に改善し、 a = 100 {\displaystyle a=100} 、 b = 102 {\displaystyle b=102} の曲線に近付いていく様子が見てとれる。初期パラメータが元のパラメータに近い場合にのみ、曲線が正確に一致する。この例は、レーベンバーグ・マルカート法が初期条件に非常に敏感であることを示す一例である。その理由の1つは、複数の最小点 (関数) が存在すること、つまりcos(βx)に一致するパラメータの値はˆβだけでなくˆβ+2nπと複数あることである。 ^ Levenberg, Kenneth (1944). “A method for the solution of certain non-linear problems in least squares” (英語). Quarterly of Applied Mathematics 2 (2): 164–168. doi:10.1090/qam/10666. ISSN 0033-569X. https://www.ams.org/qam/1944-02-02/S0033-569X-1944-10666-0/.  ^ Marquardt, Donald (1963). “An Algorithm for Least-Squares Estimation of Nonlinear Parameters”. SIAM Journal on Applied Mathematics 11 (2): 431–441. doi:10.1137/0111030. hdl:10338.dmlcz/104299.  ^ Girard, André (1958). “Excerpt from Revue d'optique théorique et instrumentale”. Rev. Opt. 37: 225–241, 397–424.  ^ Wynne, C. G. (1959). “Lens Designing by Electronic Digital Computer: I”. Proc. Phys. Soc. Lond. 73 (5): 777–787. Bibcode: 1959PPS....73..777W. doi:10.1088/0370-1328/73/5/310.  ^ Morrison, David D. (1960). “Methods for nonlinear least squares problems and convergence proofs”. Proceedings of the Jet Propulsion Laboratory Seminar on Tracking Programs and Orbit Determination: 1–9.  ^ Wiliamowski, Bogdan; Yu, Hao (June 2010). “Improved Computation for Levenberg–Marquardt Training”. IEEE Transactions on Neural Networks and Learning Systems 21 (6). https://www.eng.auburn.edu/~wilambm/pap/2010/Improved%20Computation%20for%20LM%20Training.pdf.  ^ FLETCHER, R. (1971). “A Modified Marquardt Subroutine for Nonlinear Least Squares”. Harwell Report AERE-R (6799). NAID 10000008775.  ^ Transtrum, Mark K; Machta, Benjamin B; Sethna, James P (2011). “Geometry of nonlinear least squares with applications to sloppy models and optimization”. Physical Review E (APS) 83 (3): 036701. arXiv:1010.1449. Bibcode: 2011PhRvE..83c6701T. doi:10.1103/PhysRevE.83.036701. PMID 21517619.  ^ a b c d Transtrum, Mark K; Sethna, James P (2012). "Improvements to the Levenberg-Marquardt algorithm for nonlinear least-squares minimization". arXiv:1201.5885 [physics.data-an]。 ^ “Nonlinear Least-Squares Fitting”. GNU Scientific Library. 2020年4月14日時点のオリジナルよりアーカイブ。2022年9月17日閲覧。 Moré, Jorge J.; Sorensen, Daniel C. (1983). “Computing a Trust-Region Step”. SIAM J. Sci. Stat. Comput. 4 (3): 553–572. doi:10.1137/0904038. https://digital.library.unt.edu/ark:/67531/metadc283525/m2/1/high_res_d/metadc283525.pdf.  Gill, Philip E.; Murray, Walter (1978). “Algorithms for the solution of the nonlinear least-squares problem”. SIAM Journal on Numerical Analysis 15 (5): 977–992. Bibcode: 1978SJNA...15..977G. doi:10.1137/0715063.  Pujol, Jose (2007). “The solution of nonlinear inverse problems and the Levenberg-Marquardt method”. Geophysics (SEG) 72 (4): W1–W16. Bibcode: 2007Geop...72W...1P. doi:10.1190/1.2732552. http://link.aip.org/link/?GPY/72/W1/1. [リンク切れ] Nocedal, Jorge; Wright, Stephen J. (2006). Numerical Optimization (2nd ed.). Springer. ISBN 978-0-387-30303-1  信頼領域法 ネルダー・ミード法 非線形連立方程式を解くためにも、レーベンバーグ・マルカート法のさまざまな亜種が使用される。 Detailed description of the algorithm can be found in Numerical Recipes in C, Chapter 15.5: Nonlinear models C. T. Kelley, Iterative Methods for Optimization, SIAM Frontiers in Applied Mathematics, no 18, 1999, ISBN 0-89871-433-8. Online copy History of the algorithm in SIAM news A tutorial by Ananth Ranganathan K. Madsen, H. B. Nielsen, O. Tingleff, Methods for Non-Linear Least Squares Problems (nonlinear least-squares tutorial; L-M code: analytic Jacobian secant) T. Strutz: Data Fitting and Uncertainty (A practical introduction to weighted least squares and beyond). 2nd edition, Springer Vieweg, 2016, ISBN 978-3-658-11455-8. H. P. Gavin, The Levenberg-Marquardt method for nonlinear least-squares curve-fitting problems (MATLAB implementation included) ^ Kanzow, Christian; Yamashita, Nobuo; Fukushima, Masao (2004). “Levenberg–Marquardt methods with strong local convergence properties for solving nonlinear equations with convex constraints”. Journal of Computational and Applied Mathematics 172 (2): 375–397. Bibcode: 2004JCoAM.172..375K. doi:10.1016/j.cam.2004.02.013.