質問: 平均値をとると有効数字が増える? 普通の物差しで測った有効数字3ケタのデータ 2.0[mm] 2.1 2.2 2.1 1.9 2.0 があったとします。各データには±0.1程度の誤差があると考えられます。 これらの合計をとると,和の場合の有効数字は末位が最高位のもの合わせるので,今の場合,0.1位までで計算すればよいので 12.3 となりますよね。これをデータ数6で割りますが,この場合の6というのは正確な6であり,どこまでも6.000...で正しい,有効数字は無限大桁と考えられます。割り算の場合,商の有効桁数は有効数字は有効桁数の少ない方に合わせるので 2.05 となり,現データの2ケタよりも多い3ケタになります。これは正しいのですか?
回答: 正しいです。 測定精度をあげるために多数回の測定をするのはこのためです。 だから、有効数字を考えて計算せよという問題ならそれで正解です。 ですが、この有効数字の計算というのは不用意に必要な桁を落してしまわないようにするためのものなので、 本当に計算上の桁まで有効かどうかは標準偏差を計算するまでわかりません。 なので、実際に測定に使う場合は必ず標準偏差を計算し、どこまで有効かを確認するひつようがあります。 この例では平均の標準偏差(*)が0.04になるので 2.05 ± 0.04 m で、3桁でokです。 (*) 平均の標準偏差 = √[ σ(x-)^2/n(n-1) ]