質問: 有効数字 ごくごく基本的な有効数字の考え方は自分なりに調べました。 間違っていたら訂正してください。 加法・減法では 一番大きい最小位をもつ値にあわせる。 つまり 12.3+0.74=13.0 乗法・除法では 一番少ない桁をもつ値にあわせる。 つまり 4.37×5.1=22.3 ここからが質問なのですが、 加減法をした後にその数値を二乗する場合、 例えば (36.85-36.1)二乗=0.5625 となった場合、有効数字はどうしたらいいんでしょうか? 理解のために出来れば解説つきでおねがいします。
回答: >乗法・除法では >一番少ない桁をもつ値にあわせる。 >つまり > 4.37×5.1=22.3 ここは少ない桁は 5.1 の2桁なので、結果も2桁だけにして 4.37×5.1=22 とします。乗法・除法では、小数点以下の桁数ではなく、全体の有効数字の桁数の少ないものに合わせます。 > (36.85-36.1)二乗=0.5625 の場合、まず( )の中で小数点以下1桁目までが有効なので、 36.85-36.1=0.8 と有効数字 1桁になってしまいます。ただ、この結果を用いて次の計算(乗法・除法)をするときには桁数を多く取っておくのが普通なので、とりあえず 0.75 の値を次の計算に使います。 で、0.75^2 = 0.5625 となりますが、有効数字1桁なので、結果としては 0.75^2 = 0.6 と答えることになるでしょう。 ※同じ程度の数の差を取ったりすると、有効数字の桁数が一気に小さくなってしまいます。