質問: 化学の有効数字指定なしの時の数字の扱い方について 化学のmol計算の際、「有効数字3ケタで答えよ」などの指定がなされていないときは有効数字の少ない数の有効数字の桁数で答えるのが基本だと教わりました。しかし、水素1molの体積を問われた場合の回答は「22.4l」であるのに、水素3.0molの体積は「67l」とあります。1molの体積を問われた場合に、なぜ有効数字3ケタ(?)で答えているのでしょうか。 また、有効数字2ケタで答える際、2ケタの数を答える場合は「68」「59」などでよいのに、3ケタとなると「110」ではなく「1.1×10^2」と答えなければならないのはなぜでしょうか。高校1年生がわかる説明で教えていただければ嬉しいです。
回答: >有効数字2ケタで答える際 (略) >3ケタとなると「110」ではなく「1.1×10^2」と答えなければならないのはなぜ 具体的に考えてみましょう。 計算結果が、112.6 だったとしましょう。aさんは、有効数値2桁とするために、3桁目の2を四捨五入して 110 としたとします。 一方、計算結果が、110.4 だったとしましょう。bさんは、有効数値3桁とするために、4桁目の4を四捨五入して 110 としたとします。 ご覧の通り、二人は、計算結果も、有効数値を何桁にするかも違っていたのに、"丸めた後"は、見かけ上では同じになってしました。 110 のままでは、a,b二人の意図の違いを明示的に示せません。 そこで、どこまでを有効数値と見ているのかを示すために、指数形式を採用するのです。 aさんの場合、意図を汲み取れば、1の位の0は信用できない数値ですからこれを書かないで 1.1・10^2 とするのが適切でしょう。しかし、bさんの場合なら、1の位の0を棄ててしまってはいけませんよね。 1.10・10^2 とするのが適切でしょう。 このように、指数形式※で表現すると、どの桁までが有効数値なのかが明確になる利点があります。 もちろん、以上のような紛れが無い場合には、指数形式で示さなくても構わないです。 たとえば、四捨五入の後、有効数値2桁の数として 64, 3.6, 0.0029, 0.00000000000016 などと書くのは問題になりません。もっとも、最後の例などのように、極端に小さな数を表すときに視認性も良くなる効果も考慮して、指数形式で 1.6・10^(-13) のように表す方が好ましいですけどね。 ※ 指数形式で表現するとき、 「仮数部」と「指数部」とに分けて表記しますが、仮数部は、"1以上10未満の、適切な有効桁数の数値" とするのが共通認識になっています。