最小二乗法
最小二乗法(さいしょうにじょうほう、さいしょうじじょうほう;最小自乗法とも書く、英: least squares method)は、誤差を伴う測定値の処理において、その誤差の二乗の和を最小にするようにし、最も確からしい関係式を求める方法である。測定で得られた数値の組を、適当なモデルから想定される1次関数、対数曲線など特定の関数を用いて近似するときに、想定する関数が測定値に対してよい近似となるように、残差平方和を最小とするような係数を決定する方法、あるいはそのような方法によって近似を行うことである。
と表される。ここに G {\displaystyle G} は、 G i j = g j ( x i ) {\displaystyle G_{ij}=g_{j}(x_{i})} なる成分を持つ n × m {\displaystyle n\times m} 行列、 y = ( y 1 , y 2 , ... , y n ) T {\displaystyle {\boldsymbol {y}}=(y_{1},y_{2},\ldots ,y_{n})^{\textrm {T}}} 、係数 a = ( a 1 , a 2 , ... , a m ) T {\displaystyle {\boldsymbol {a}}=(a_{1},a_{2},\ldots ,a_{m})^{\textrm {T}}} である。
これの最小解 a {\displaystyle {\boldsymbol {a}}} は、 [ G y ] T [ G y ] = R ~ T R ~ {\displaystyle {\begin{bmatrix}G&{\boldsymbol {y}}\end{bmatrix}}^{\textrm {T}}{\begin{bmatrix}G&{\boldsymbol {y}}\end{bmatrix}}={\tilde {R}}^{\textrm {T}}{\tilde {R}}} を満たす上三角行列 R ~ {\displaystyle {\tilde {R}}} の計算を経て、解 a {\displaystyle {\boldsymbol {a}}} を得ることができ、全体の計算量に無駄が少ない。