ガウス＝ザイデル法
n {\displaystyle n} 次正方行列 A {\displaystyle A} は、上三角行列 U {\displaystyle U} 、下三角行列 L {\displaystyle L} 、対角行列を D {\displaystyle D} とすると、A=L+D+Uと書ける。このようにすると、まず以下のような変形ができる。
この式を満たすxを求める。初期値 x → ( 0 ) {\displaystyle {\vec {x}}^{(0)}} に対して、 k {\displaystyle k} 回目の反復で得られた x 1 {\displaystyle x_{1}} の値を x 1 ( k ) {\displaystyle x_{1}^{(k)}} と書くと、 以下のような反復法の漸化式ができる。
この式は以下のように変形できる。
もし、解が収束した場合、その場合は x 1 ( k + 1 ) {\displaystyle x_{1}^{(k+1)}} と x 1 ( k ) {\displaystyle x_{1}^{(k)}} は共通の値 x 1 ( ∗ ) {\displaystyle x_{1}^{(*)}} を持つことになる。このとき、
となり、変形していくと元の連立方程式の形に戻る。 したがって、ガウス=ザイデル法で解が収束した場合、その解は連立方程式の解となる。
ガウス=ザイデル法の式はベクトル x → {\displaystyle {\vec {x}}} の各成分ごとに次のような式で書くことができ、数値解析ではこの式が用いられる。
ガウス=ザイデル法とヤコビ法を加速する方法としてはSOR法が知られている。