質問: 偏差の合計 偏差を合計するとゼロになるので、偏差の2乗を求めて、その合計から分散や標準偏差を求めていく ということを習いました。 しかし、エクセルで計算をしてみたら、偏差の合計がゼロにならずに、変な表記なりました(エラー?)。 これはなぜですか? どなたか、詳しい解説お願いします。
回答: #1 です。 >0にならないわけがありません は、言いすぎでした。 エクセルなど、コンピュータで数値処理をするときには精度の限界があるので、 -x.xxxxe-15 みたいな結果になることはあります。「変な表記」とはこのような物でしょうか? これは、x.xxxx かける 10の-15乗 ということで、0.000000......xxxx という、非常に小さい数値です。 コンピュータでの誤差の話については http://oku.edu.mie-u.ac.jp/~okumura/software/excel/roundoff.html などを参照してください。 ただ、これは、コンピュータの処理の限界の問題であって、「偏差を合計するとゼロになる」ということ自体に誤りはありません。