質問: 最小二乗法における有効数字について 最小二乗法における有効数字について質問があります. 直線近似を行うとします.最小二乗法を用いるデータの有効数字を考慮して,最小二乗法により求められた直線の傾きa,切片b の有効数字が決まると思うのですが,どのようにこの有効数字を決定すれば良いのでしょうか?
回答: 最小二乗法による直線近似において、用いるデータをどのように計算すれば直線の式y=ax+bが求まるかを理解すれば、有効数字の扱い方がわかると思います。 (参考urlを参照) 最小二乗法による直線近似では、データをグラフにプロットしたときに、データの座標(x1,y1)と直線の上の点(x1,yn)の距離の二乗の和が最も小さくなるように計算しています。 計算の過程ではデータの座標を用いた加減乗除しか行っていませんので、一般的な有効数字の考え方と同様に、データの有効数字の桁数に式y=ax+bのaやbの桁数を合わせればいいです。 エクセルなどの表計算ソフトを使えば簡単に求めることができますが、一度、4ポイントくらいのデータについて電卓を片手に計算してみれば理解が深まると思います。