有効数字
有効数字の桁数の例を示す。
0.093827 は有効数字5桁である。
0.0008 は有効数字1桁である。
0.012 は有効数字2桁である。
0でない数字に挟まれた0は有効である。例えば、
60.8 は有効数字3桁である。
39008 は有効数字5桁である。
0以外の数字より右にある0は有効である。例えば、
35.00 は有効数字4桁である
8 000.000000 は有効数字10桁である。
小数点がない数の最後にある0については、有効であるとも有効でないとも受け取れ、曖昧である。例えば、1 000 の有効数字は1桁から4桁のどれとでも受け取れる。このように、整数(小数点がない数)の下位に続いている0を有効数字と見るかどうかは、その文脈によってまちまちである。
この曖昧さは数の後に小数点を置くことで解決できる。例えば、"1 000." と記せば、有効数字4桁であることを意味する。
また、有効数字が何桁であるかを明示するためには、科学的記数法を用いることもできる。
1 × 10 や 1e3 は、有効数字が1桁であることを明示している。
1.000 × 10 は、有効数字が4桁であることを明示している。
なお、有効と見なさない位取りの数字0も重要である。例えば、'0.005' に用いられている0は有効数字とは見なさないが、その桁を表すためには依然として不可欠なものである。
71 s ) 2 = 5.0 × 10 − 3 {\displaystyle {\sqrt {(0.5~\mathrm {m} /100~\mathrm {m} )^{2}+(0.005~\mathrm {s} /11.71~\mathrm {s} )^{2}}}=5.0\times 10^{-3}} となり、不確かさを含めた速さは 8.54(4) m/s となる。
もし答えの精度が重要でないならば、正確に分かっていない桁も続けて 8.5397 m/s のように記すのが安全である。
しかし、有効数字のルールを厳格に適用すれば、8.539 709 65 m/s という表記は 10 nm/s の桁まで速度が分かっていることを意味する。このような表記は、測定精度に比べて不適切な書き方である。この場合、有効数字3桁 (8.54 m/s) で結果を報告すれば、速度は 8.535 m/s以上、8.545 m/s未満であるのだと分かってもらえる。
同様に、1000 mを53.7秒で走った場合の平均のスピードについて、18.621 973 9 m/s という値を用いるのは不適当であり、有効数字3桁として、18.6 m/s とする。
計量学や統計学の専門家でない人は、有効数字の有用性を過剰に考えすぎであって、高校や大学の化学テキストでは研究室での実状に比べて過剰に受け止められている。 応用分野の科学者は、不確かさを表現するのに一般的に 1.234±0.055 または同じ意味で 1.234 (55) という表現を用いる。ポイントは、公称値 (1.234) と、不確かさ (0.055) を別個の数値として表現しているところにある。これら2つのことを正確に分離して表現するのは、公称値と不確かさを有効数字のルールに頼って1つの数字に盛り込もうとするよりも繊細な取り扱い方である。 この記事の冒頭に述べたように、有効数字というのは丸めの一種として受け止められており、最終的な答えを丸めたものが、不確かさに比べて支配的であってこそ意味がある。不確定さに比べて丸めた結果が支配的にならない場合には、これは重大な問題となる。とはいえ、測量学のように実験的な研究においては、丸め誤差が支配的になるのはよほどひどい実験方法であるから、それを避けて丸め誤差を減らすのは容易である。それでもなお丸め誤差が支配的であったとしても、それを示すために 1.