質問: 有効数字の計算方法 データテーブルで得られた数値を有効数字3桁に直したいです。 1.234567 => 1.23 0.123456 => 0.123 0.000123456 => 0.000123 のような、様々な桁数が混在した状態からの 計算方法をご存じのかたがいらっしゃいましたらご教示いただけますと幸いです。
回答: こんにちは d=0.001234567 とすると d.tostring("g3") 数値に戻したければ、例えば、 double.parse(d.tostring("g3"))