誤差
浮動小数点数の計算のように精度が限られている条件下で、絶対値の大きい数と絶対値の小さい数を加減算したとき、絶対値の小さい数が無視されてしまう現象。次のような例がある。 有効桁数が11桁ある場合では
2.0000000000 × 10 + 1.0000000000 =2.0000000001 × 10
と期待する結果が得られるが、 有効桁数が10桁までしか無い場合は
2.000000000 × 10 + 1.000000000 = 2.000000000 × 10
となってしまう。