数値解析
有限な素子から構成されているデジタルコンピューターは内部状態の数も有限であり,1つであっても無限の情報(無限の桁数)を持ちうる実数の値を正確に表現することは一般にはできない。 また,ある決まった桁数で表された数値であっても、それらに対する四則演算の結果の値は一般には同じ桁数では正確に表わせないのでそれを決まった有限の桁数に収める(丸める)とすれば、 端数処理にともなう誤差が発生する。この誤差を丸め誤差という。丸め誤差自身は計算を倍精度で行うなど、計算に用いる数値の表現とそれらに対する演算の精度を上げることによって減らすことができる。
固有値分解や特異値分解も重要な問題である。例えば、Spectral Image Compression は特異値分解に基づいたアルゴリズムである。これに対応した統計学のツールを主成分分析という。例えば、World Wide Web上での話題トップ100を自動的に抽出し、各Webページをどの話題に属するか分類するといった作業で使われる。