質問: 浮動小数点で表現されている10進数の0.1を 2進数に変換すると循環小数となります。 これを単純にまた10進数に変換すると 永遠に0.1とはならないと思うのですが、 なぜ、2進数の(0.00011001100110011...)が EXCEL等のアプリケーションで人間の目に見える形で は10進数の(0.1)となっているのでしょうか? IEEEの規格の仕様となにか関係があるのでしょうか?
回答: 丸め誤差についてサポート技術情報がありましたので引用しておきます。IEEEとの関係と言えばこれでしょう。 参考URL: