数値解析
誤差の研究は、数値解析の重要な一分野である。解に誤差が入り込む原因はいくつかある。
近似値の計算を行うのと同時に計算に含まれる丸め誤差、打切り誤差、離散化誤差をすべて(数学的な意味で)厳密に評価する技術を精度保証付き数値計算という。
区間演算やアフィン演算のような手法では、近似値の代わりに真値を含む区間を与える。
さまざまな数値計算法について結果の精度を保証をするものにする動きが進みつつある。例えば微分方程式の分野では解析的な方法では解の存在の証明が困難な問題に対する数値的なアプローチが確立されつつある。 力学系の研究にも応用されており、有力な道具として注目されている。
アルゴリズムや計算プログラムに与える入力データ自身が持つ誤差。たとえば入力するデータがそれ自身が既に丸められた値である場合。 あるいは入力する数値を指定された有限桁の浮動小数点数に丸めることでも発生する(たとえば10進数で0.1を入力してもそれをプログラムの内部で2進数にして扱うとすると,0.1は2進数で表現すれば循環小数になるから有限桁数では正確には表せず,それを内部で扱う桁数に丸めて扱うとその段階で丸め誤差が入る。2の平方根や3の自然対数、円周率などの無理数の厳密な値は10進でも2進でも無限に続く小数になるがそれらをプログラム中で有限桁数の小数として近似して扱うならその段階で既に丸め誤差が入る)。あるいは入力が測定や観測から得られるものの場合には,一般的には真の値は未知であり,データ自身が確率的な振る舞いを持った観測誤差を伴う。