質問: AAA*BBB; CCCを格納するデータベースの項目の型はNUMBER(20,4)です。 また、データベースに登録する前にログでCCCの値を出力してみた際、1.0000000272564224E16と表示されました。 実際省略せずに計算値を表示した場合、9999999899990000という値になるので、データベースの桁数はオーバーしていないと思うのでが...。 よろしくお願いします。
回答: Oracleなんて触ったこともないが。 >1.0000000272564224E16 AAA*BBBの結果としてなら、これはおかしい。 もしかしたら、おかしいのはここだけじゃないかもしれない。 まずはそれを始末してからじゃないか。 >省略せずに計算値を表示した場合、9999999899990000という値になる 「演算結果をint型に変換して表示させたら」という条件を、ちゃんと明記しましょう。 >思うのでが...。 脳内コードなんて、誰でも完璧。 実際はやってることが違うなんて、多々あるからね。