有効数字
数値は、読みやすいように丸められることがよくある。「18.148% と 35.922% を比べよ」というよりも、「18% と 36% を比べよ」というほうが、相手に通じやすい。
同様に、予算を眺める際に、
となっているほうが、次のように書かれているよりも理解するにも比べるにも簡単である。
曖昧さを減らすには、データを最も近い桁数の単位にして記すこともよく行われる。
n 桁の有効数字に丸める際の問題点は、n 桁目の数字が必ずしも明確とは限らない点である。これは、整数部にある0(小数点より左にある0)について発生する問題である。上記の最初の例では、12 300 を丸めれば 12 000 になるが、丸めた後の 12 000 だけを見れば、有効数字は2桁から5桁までのいずれにも受け取れるので、何桁目の数字を丸めたのか不明確となる。
丸めのレベルを明示するときに科学的記数法を用いれば、あいまいさを減らすことができる。例えば、上の例で 1.2 × 10 とすれば、有効桁数は2桁であると明示できる。
丸めのレベルは、例えば、"20 000 to 2 s.f."(significant-figures の略語)のように有効桁数が2桁であると特別に明示することも可能である。最後の有効数字に下線を引く("20000" など)という方法もあるが、さほど一般的でない。
いかなる場合にも最良なアプローチは、不確かさと明確さを分けて記述することである。例えば、 20 000 ± 1% という書き方をすれば、有効数字のルールを適用しなくても明瞭な記述ができる。