質問: 有効数字と誤差率 初歩的な質問で恐縮ですが、調べても良く分かりませんでした。 次のような場合、有効数字はどのようになるのでしょうか。 例)真の値が1.50、測定値1.55(有効数字3桁)のとき、 誤差ε=1.55-1.50 =0.05 質問1 引き算のときは、このように桁落ちが発生するので気をつけよ、とまでは書いてあるのですが、どう気をつけるのでしょうか? 有効数字は1桁になってしまったということなのか、5.00×10^2と言う風に3桁に直しておきなさいと言うことなのでしょうか? 質問2 誤差率を求める場合、 誤差率=(0.05/1.50)×100% =3.333・・・% 質問1の結果によりますが、この場合、何桁で書くのだ正しいですか? 有効数字1桁でしたら、3% 有効数字3桁でしたら、3.33% の、どちらかだと思うのですが。 宜しくお願いします。
回答: 測定値1.50ならば・・通常 1.504~1.495までの間に測定値があります 通常は有効数字の1つ下の桁で四捨五入します したがって・・・ 真値は誰にも判りません・・・誤差とはその範囲のどこかに真値があって意味ですから・・ 仮に1%誤差がある測定器で測定すると 測定値が1.000ならば 1.010~9.990の間に真値があります どこに有るのかは誰にも判りません 測定器の誤差とそんな考え方です 単に測定の有効数字ならば・・・・ 誤差ε=1.55-1.50 =0.05 が正確です 1.5と1.50とは意味が違います この意味です 測定値が1.5ならば 1.54~1.45の間に測定値があります 1.50ならば 1.504~1.495の間に測定値があります ので精度が違います 有効数字は3桁です 100%ですから 100が基準ですこれ これの有効数字3桁ですから 003%ですので三桁になります 3%が有効数字3桁です 3%は0.03ですのでこのようにすれば判り易いでしょう 有効数字が3桁になるでしょう