有効数字
24(1⁄2) または同じ意味で 1.24(⁄) と明示するのがよい。
有効数字というのは有効数字の計算規則(英語版)での根本をなす手法なのであるが、記事「有効数字の計算規則」その他で議論されるように、有効数字のルールだけを用いて不確かさを表現する確固たる手法は一般には存在しない。
コンピュータ科学や数値解析においては、保護桁(英語版) (guard digits) を用いるのが良い手である。つまり、何段階かに分けて計算をする際に、N 桁の有効数字に毎回丸めるのではなく、もう1桁かもう少し多く桁を残して丸めて次の計算に移るのである。これは有効数字とは相容れない概念ではあるが、丸め誤差を毎回積み重ねてしまう危険は減らせる。計算途中の有効桁数をM 桁とした場合、M-N 保護桁と表現する。詳細はActonの記述を参照。
科学者が不確定な量をいかに正確に表そうとするかの良い例が、NISTの抄録に見られるような物理定数である。これらは、有効数字のルールに頼らず、公称値と不確かさを分離して記している。
不確かさをいかに適切に表現するかという手順や、これらの手順を用いる論拠については、参考文献を参照してほしい。
n 桁の有効数字で丸めるのは、端数処理での一形式である。
n 桁の有効数字で丸めるという作業は、単に n 桁に丸めるというだけではなく、異なるスケールの数字を統合して取り扱う点でより重要な技法である。
浮動小数点表示は、コンピュータ上での有効数字表現に丸める典型例である。
0ではない数字で最も左にあるものから桁数を数え始める。例えば、1 000 では '1' から、0.02 では '2' から数え始める。
n 桁の数字を保つ。足りない桁は0で埋める。
適切な手法で丸める。例えば 0.039 を有効数字1桁に丸める場合、結果は 0.04 となる。丸め方の境界線にある場合には、いくつか異なった方法がある。詳しくは、端数処理を参照。
2桁の有効数字に丸める場合、
12 300 は 12 000 となる。
0.00123 は 0.0012 となる。
0.1 は 0.10 となる(右に続く0は2桁に丸めたことを示している)。
0.02084 は 0.021 となる。
0.0125 は、四捨五入では 0.013 である。偶数への丸めでは 0.012 である(数値処理の分野で用いられ、5を丸める際、丸めた先の数字を偶数にすることで切り上げ・切り捨ての向きを均等にし、バイアスがかからないようにしている)。