質問: 最小二乗法の推定値の誤差 変数xを変化させたときの測定値yを最小二乗法で二次式y=a*x^2 + b*x +c にフィッティングさせ推定値a, b, cを求めるとき、 測定値yの誤差がδyであるときの推定値a, b, cの誤差を求めたいのです。 具体的には、(x,y)=(-1,2), (0,0), (1,1.5), (2,5) の4つのデータを 二次式にフィッティングさせたときのa,b,cはa=1.375, b=-0.325, c=0.225ですが、 測定値yの測定誤差が0.1のときのa,b,cの誤差を求めたいのです。 よろしくお願いします。
回答: 誤差伝播の計算ですね。 最小二乗法は、直接には関係ありません。 最小二乗法による a, b, c は、連立一次方程式 σyx^2 = a σx^4 + b σx^3 + c σx^2 σyx = a σx^3 + b σx^2 + c σx σy = a σx^2 + b σx + c σ1 の解になります。 詳細はともかく、a, b, c は、それぞれ、 測定された4個の x と4個の y の 8変数関数で表されることになります。 例えば、a = f(x_1, x_2, x_3, x_4, y_1, y_2, y_3, y_4) のようにです。 f( ) の具体的な式形は、先の連立方程式を解けば 求まります。 各測定データの誤差から、a, b, c の誤差を見積もるには、 この f に多変数関数のテーラー展開を施して、 各データの誤差に関する一次近似をすればよい。 x が厳密値で、4個の y が各 ε の誤差を含むとすれば、 a の誤差 = (∂f/∂y_1)ε + (∂f/∂y_2)ε + (∂f/∂y_3)ε + (∂f/∂y_4)ε です。 ここで、∂f/∂y_1, ∂f/∂y_2, ∂f/∂y_3, ∂f/∂y_4 は、 どれも、点(x_1, x_2, x_3, x_4, y_1, y_2, y_3, y_4) における値を指します。 計算は面倒くさいですね。