質問: 高校物理の簡単な問題です。 測定値どうしの加減乗除のことです。 ワークには 誤差を含む最も高い位の数値まで求めるとかいているのですが
回答: 乗法・除法は有効数字の最小桁数に答えを合わせる 例 1.930(4桁)×1.24(3桁)=2.3932≒2.39(3桁) 測定値の最小桁数が3桁なので、答えも3桁にする。 加法・減法では、位を揃えて、その最大桁数に合わせる 例 1.930(少数第3位まで)-1.24(少数第2位まで)=0.690≒0.69(少数第2位まで) 筆算でかくと分かりやすいですが、 筆算でかいたとき、有効数字の最後の桁が一番左にあるほうに合わせます。 分かりにくいと思うので他の例を 例2 19.300-12.4=180.60≒180.6 (12.4の少数第1位に合わせる) 193-12.4=180.6≒181 (193の1の位に合わせる)