質問: 有効数字の取り扱いについて 少し細かいことですいませんが、有効数字の取り扱いについて質問させてください。 問題で、[有効数字 3 桁で答えよ]とあった場合、文献値は何桁でとってくればいいのでしょうか? 友達の話では、この場合 4 桁でとってきて、最終的に四捨五入し 3 桁で答えればいいらしいのですが、その時例えば、ボルツマン定数 1.38066*10^-23 j/k では、1.380*10^-23 でしょうか、それとも少数第 4 桁目を四捨五入し 1.381*10^-23 でしょうか? また、真空中の光速度は 2.99792458*10^8 m/s と定義されているようですが、この時はどうなのでしょうか(定義されているので、そのまま計算に使うのかどうか)? さらに質問なのですが、計算途中で得られた数値を次の式に使いたい場合は、有効数字何桁でとって次の計算に使うのでしょうか(この場合においても四捨五入が必要なのかどうか)? ご存知の方がいらっしゃいましたらご回答よろしくお願いします。
回答: 科学や工業の分野で使用する数値の丸め方が、国際規格siを参照している日本工業規格jisで定めてあるので下記します。 たくさんの数値を扱うと丸め方で結果が違ってくることがあります。 おそらく理系を学ばれるかたは、将来社会に出ても、実験や測定あるいは設計又は文献の数値をどう丸めるかが必要ですので、学ぶ機会があると思います。 http://www.ccr.niigata-u.ac.jp/home/kimura/ce-h10/numerical/round.html http://www.asia-u.ac.jp/~uetake/njis.htm 参考url:http://www.ccr.niigata-u.ac.jp/home/kimura/ce-h10/numerical/round.html