質問: 数値のデータ型について質問です。 SQLite3で数値のデータを管理しており,その数値を計算(加算など)に用いています。小数値も管理しており,SQLiteのデータ型であるREAL型で管理したところ,加算結果が2.9999999996のような感じになってしまいました。調べたところ,doubleやfloatでは丸め誤差が生じてしまうのでBigDecimalクラスを用いるとよいと書いてありました。そこでSQLiteのTEXT型で数値を管理し,文字列からBigDecimalクラスへ型変換し計算を行なったらこのような誤差は出なくなりました。 とりあえず「BigDecimalクラスを用いたら誤差が出なくなった」で止まっており,「なぜBigDecimalならよいのか?」「なぜdoubleやfloatでは誤差が生じてしまうのか?」などがまだ理解しきれません。様々なサイトを参考にさせて頂いているのですがいまいちピンとこないので,どなたか詳しい方がいらっしゃったら教えて頂きたいです。
回答: doubleやfloatは二進法の小数表現をしています。 十進法の0.5は二進法で0.1、十進法の0.25が0.01になります。 十進法で1/3が0.333...と無限小数になるのと同様、二進法でも無限小数になりえます。 例えば十進法の0.1は二進法で0.0001100110011...となります。 十進法でも無限小数を、無限に数字を書き並べて表すのが現実的に不可能であるのと同様に、 二進法でも無限に0と1を並べるわけにはいきません。どこかで打ち切る必要があります。 この「打ち切り」の時、真の値との誤差が生まれます。これが「丸め誤差」というものです。 誤差のある者同士を計算すれば、計算にもよりますが誤差が累積していきます。 一方、BigDecimalクラスの場合は、「整数×10の何乗」という形で数値を管理しています。 整数を基準にして、小数点何桁分ずれてるか、という考え方です。 十進法で表された有限小数は、必ずこの形で表すことができます。そのため、変換時の丸め誤差が生じません。 これを使った計算は、内部では整数同士の計算として扱っています。 整数計算は足し算、引き算、掛け算においては誤差が起きようがないため、正確に計算できるのです。 一応、整数の桁数に制限がなければ、という話ですが、BigDecimalが持つ整数情報は使える桁数が十分大きい(少なくとも2^(2^31-1)以上、これは十進法で6億桁以上)ので、あまり問題にはなりません。