近似による誤差
一般的に、近似による誤差については、相対誤差と絶対誤差を区別して考える。
真の値 v とその近似 vapprox に対して、その絶対誤差εは
ε = | v − v approx | {\displaystyle \epsilon =|v-v_{\text{approx}}|}
で定義される。ここで、縦棒|·|は絶対値を表す記号である。 次に、 v ≠ 0 {\displaystyle v\neq 0} の場合、相対誤差ηは
η = ε | v | = | v − v approx v | = | 1 − v approx v | {\displaystyle \eta ={\frac {\epsilon }{|v|}}=\left|{\frac {v-v_{\text{approx}}}{v}}\right|=\left|1-{\frac {v_{\text{approx}}}{v}}\right|}
、誤差百分率δは、
δ = 100 % × η = 100 % × ε | v | = 100 % × | v − v approx v | {\displaystyle \delta =100\%\times \eta =100\%\times {\frac {\epsilon }{|v|}}=100\%\times \left|{\frac {v-v_{\text{approx}}}{v}}\right|}
と定義できる。つまり、絶対誤差とは真の値と近似値の差の大きさ(英語版)そのもので、相対誤差とは絶対誤差を真の値で割ったものということになる。これは真の値に対する絶対誤差の割合と言い換えることもでき、誤差百分率は相対誤差を百分率で表したものである。