質問: 2進数と10進数の関係について 浮動小数点で表現されている10進数の0.1を 2進数に変換すると循環小数となります。 これを単純にまた10進数に変換すると 永遠に0.1とはならないと思うのですが、 なぜ、2進数の(0.00011001100110011...)が excel等のアプリケーションで人間の目に見える形で は10進数の(0.1)となっているのでしょうか? ieeeの規格の仕様となにか関係があるのでしょうか?
回答: 丸め誤差についてサポート技術情報がありましたので引用しておきます。ieeeとの関係と言えばこれでしょう。