質問: フックの法則 レポート フックの法則の実験を行いました。おもりを増やしていき、その時のばねの伸びを測定する。 グラフは縦が力(重力f)、横軸は伸び です。直線の傾きからバネ定数kを求めるのですが、この傾きを最小二乗法を用いました。 これをレポートに書く時の有効数字なのですが、直線の傾きが電卓で計算すると10ケタになっているのですが、このままの桁数をレポートに書くべきですか? また、バネ定数kの有効数字はいくらにすべきでしょうか? 教えてください。
回答: 最小二乗法の場合、担当の先生は有効数字をあまりうるさく言わないかもしれませんが、 気にするのであれば・・・・・ できれば、残差二乗和を使って最小二乗法で求めた定数の不確かさを計算するべきですが、 これをやらないなら面倒ですが有効桁を丹念に追っていけば、どの桁までが有効かがわかります。 最小二乗法ではnσx^2-(σx)^2のような引き算が出てきて必ず桁落ちしますので、 適当に有効数字を決めるということは本来は絶対にやってはいけません。 たとえば、伸びとして x=23mm、56mm、92mm というデータがあればミリの桁までが有効ですから σx=171mmの三桁が有効で (σx)^2=29241 は100の位までが有効 (23mm)^2=529, (56mm)^2=3136, (92mm)^2=8464で有効桁が2桁ですからその合計の σx^2=12129 は桁の大きいほうに合わせて100の位までが有効で3桁有効。したがってn=3なので nσx^2-(σx)^2=7146 は100の位までが有効で有効数字は2桁。 ということをやっていきます。 途中の計算は有効数字+1桁を必ず確保し、最後に有効桁までに丸めます。