質問: 有効数字についての質問 1測定値 -10.04 2真値 -10.0 の場合、(1-2)/2*100で 有効数字についての質問 1測定値 -10.04 2真値 -10.0 の場合、(1-2)/2*100で揉められる誤差率の有効数字を教えて欲しいです 何卒よろしくお願いします
回答: 真値の有効数字は3桁と見なせば、測定値が4桁なので、誤差率の分子の有効数字は、測定値から真値を減じたものなので、小数点1位となり、有効数字は3桁です。 分母の有効数字は真値の3桁ですから、除法での有効数字は桁数の少ない方なので、3桁となります。 %にするための乗数100は、有効数字に無関係ですから、有効数字は3桁となります。