質問: 統計における有効数字 何かしらの統計を取る際、有効数字が重要だそうですがこの有効数字とはいったい何なのでしょうか。
回答: 有効数字とは、たとえば、 a = 5.7 の場合には、本当の値は 5.65 ~ 5.749999・・・ のどこかにあり、それを「小数点以下 2桁目」で四捨五入したということです。 つまり、真値は 5.7 ± 0.05 であるということです。 (真値が 5.7 ± 0.00005 である場合には、小数点以下4桁目まで「有効」という意味で、 5.7000 と書きます) これと、高精度の値 b = 1.2345 (上と同じように、真値は 1.2345 ± 0.00005 のどこかにある、ということ) の掛け算をすると a*b = 5.7 * 1.2345 = 7.03665 になりますが、上の「真値」で計算すると a*b = (5.7 ± 0.05)*(1.2345 ± 0.00005) = 7.03665 ± (0.061725 + 0.000285) + 0.0000025 ということで、± の中を見れば分かるとおり、「± 0.06201」程度の「誤差」があるということです。 つまり、a*b の真値は 6.97464 ~ 7.09866 ということです。 信用できるのは 7.0 ぐらいの範囲ということです。 つまり、b がどれほど高精度でも、a がこの程度の精度だと、a*b の結果の精度は「低い方の精度」にしかなりません。 上の例だと、「a の有効数字が2桁」なので、「a*b の計算結果の有効数字も2桁程度」ということです。「b の有効数字が5桁」であっても、有効数字の桁数が少ない「a 」で結果の「有効数字の桁数」が決まります。 「足し算」「引き算」の場合も同じようなことです。