非線形最小二乗法
1 2 本間 仁; 春日屋 伸昌『次元解析・最小二乗法と実験式』コロナ社、1989年。
1 2 3 4 T. Strutz: Data Fitting and Uncertainty (A practical introduction to weighted least squares and beyond). Vieweg+Teubner, ISBN 978-3-8348-1022-9. Ch6に、非線形最小二乗法の尤もらしさに関する記述が記載されている。
↑ http://www.hulinks.co.jp/support/kaleida/curvefit.html
1 2 中川徹; 小柳義夫『最小二乗法による実験データ解析』東京大学出版会、1982年、19, 95-124頁。ISBN 4-13-064067-4。
となる。
今、データの測定は(数学的に言えば残差 r i {\displaystyle {\boldsymbol {r_{i}}}} それぞれが)独立試行と考えられるため、 m {\displaystyle {\boldsymbol {m}}} 個のデータポイントのセット ( x 1 , y 1 ) , ( x 2 , y 2 ) , ... , ( x m , y m ) {\displaystyle {\boldsymbol {(x_{1},y_{1}),(x_{2},y_{2}),\ldots ,(x_{m},y_{m})}}} が得られる確率 P ( y 1 , ... , y m ) {\displaystyle {\boldsymbol {P(y_{1},\ldots ,y_{m})}}} は、
P ( y 1 , ... , y m ) = ∏ i = 1 m P ( y i ) = ∏ i = 1 m 1 σ 2 π exp  ( − r i 2 2 σ 2 ) = 1 ( σ 2 π ) m exp  ( ∑ i = 1 m ( − ( y i − f ( x i , β ) ) 2 2 σ 2 ) ) {\displaystyle {\begin{aligned}P(y_{1},\dots ,y_{m})&=\prod _{i=1}^{m}P(y_{i})\\&=\prod _{i=1}^{m}{\frac {1}{\sigma {\sqrt {2\pi }}}}\exp \left(-{\frac {r_{i}^{2}}{2\sigma ^{2}}}\right)\\&={\frac {1}{(\sigma {\sqrt {2\pi }})^{m}}}\exp \left(\sum _{i=1}^{m}\left(-{\frac {(y_{i}-f(x_{i},{\boldsymbol {\beta }}))^{2}}{2\sigma ^{2}}}\right)\right)\end{aligned}}} (2-2)