質問: 理科の小数点について 「9.0vの電圧を加えると、250maの電流が流れる電熱線の抵抗は何ωか。」 という問題で、私は9.0のように小数点がついているので、答えは36.0ωだと思ったのですが、解答には36ωとありました。 他の問題では小数点がつくときもあります。(電流、密度etc......) このような小数点がつく時とつかない時の違いは何なのですか? 入試も近いのですが、中学生はまだそこまで気にしないでも良いのですか?
回答: 有効桁数の少ない方に合わせて,答えの有効桁数を合わせる。 9.0vの電圧 ... 有効桁数2桁 250maの電流 ... 有効桁数3桁 答えの有効桁数は少ない方の r=9.0/0.250=36.0 ω 3桁目を四捨五入して答えは有効桁数2桁で答えます (答) 36 ω