精度保証付き数値計算
1980年代にRumpは次のような例を提示した(Rump (1988)を参照)。
f ( a , b ) = 333.75 b 6 + a 2 ( 11 a 2 b 2 − b 6 − 121 b 4 − 2 ) + 5.5 b 8 + a 2 b {\displaystyle f(a,b)=333.75b^{6}+a^{2}(11a^{2}b^{2}-b^{6}-121b^{4}-2)+5.5b^{8}+{\frac {a}{2b}}}
という関数を考え、この関数に a = 77617.0 , b = 33096.0 {\displaystyle a=77617.0,b=33096.0} という値を与えて数値計算をしたときにどういう結果が得られるか実験した。計算機はIBMのメインフレームS/370を使用して、単精度、倍精度、拡張精度で実験を行い、それぞれ
単精度(10進約8桁): f ( a , b ) ∼ 1.172603... {\displaystyle f(a,b)\sim 1.