質問: 最小二乗法 レポートで最小二乗法を使おうとしているのですが、y=ax+b を求める時x、y、x^2、xyをグラフでまとめたのですが、桁数がバラバラです。有効数字を設定すべきでしょうか?それとも正確性を求めてしない方がよいのでしょうか?教えてください。
回答: それぞれの値は有効数字を考慮しますが、a、bを求めるときは桁を目一杯にとって計算しますね。 レポートで個々の値を明記する場合は有効数字は考慮しなければなりません。