質問: 大学入試の化学の計算問題における有効数字について 有効数字2桁での回答を求められています 分子 4.052*0.239^2*10^5 分母 1-0.239^2 電卓では0.245... → 0.25 実際の試験中には小数点以下5桁6桁の途中計算を繰り返すのは厳しいので、 自分は積と商においては有効数字+1桁の数を途中計算に用いています。 それに基づくと 分子は 0.239^2=0.057121 → 0.0571 4.052 → 4.05 0.0571*4.05=0.231255 → 0.231 分母は 0.239^2=0.057121 → 0.0571 1-0.0571=0.9429(これは差なので3桁とはしませんが、0.943としても結果は同じです) 最後に 分子/分母 0.231/0.9429=0.2449... → 0.24 筆算でも0.25に至るには全ての途中計算を4桁(有効数字+2)で処理しなければなりません。 有効数字3桁での回答を求められる場合には5桁で計算することとなりますが現実には難しそうです。 問題集の回答では0.25となっていましたが、このケースでは0.24でも許容されると考えるべきでしょうか。 ちなみに神戸薬科大の問題のようです。
回答: 許容されるかされないかは大学の考え方しだいです。しかしながら、誤差を少なく桁を丸めるのは技術です。全てが四捨五入ではいけません。分母を切り捨てれば、分子も7くらいまでは切り捨てるべきです。 神戸薬科大学はマークじゃなかったですか?