SOR法
という形の行列に相似変換することができ、さらにヤコビ法の反復行列 M J = − D − 1 ( L + U ) {\displaystyle M_{J}=-D^{-1}\left(L+U\right)} の スペクトル半径 ρ ( M J ) {\displaystyle \rho \left(M_{J}\right)} が既知であるときである。 なお、上の行列内の D 1 , D 2 {\displaystyle D_{1},D_{2}} は対角行列である。
このとき、SOR法の反復行列のスペクトル半径 ρ ( M ω ) {\displaystyle \rho \left(M_{\omega }\right)} が最小となる ω {\displaystyle \omega } の最適値は、 次の形で得られる。
ω = 2 1 + 1 − ρ ( M J ) 2 {\displaystyle \omega ={\frac {2}{1+{\sqrt {1-\rho \left(M_{J}\right)^{2}}}}}}
n {\displaystyle n} 次正方行列 A {\displaystyle A} は、上三角行列 U {\displaystyle U} 、 下三角行列 L {\displaystyle L} 、対角行列 D {\displaystyle D} の和に分離すると、
と書ける。
非対角成分に相当する項をすべて右辺に移項し、すべての量 x 1 , x 2 , ... , x n {\displaystyle x_{1},x_{2},\ldots ,x_{n}} に 各段階で得られている最新のデータを代入するようにする(ガウス=ザイデル法)。こうして計算された値を x ~ ( k + 1 ) {\displaystyle {\boldsymbol {\tilde {x}}}^{(k+1)}} とすると、 x ~ i ( k + 1 ) {\displaystyle {\tilde {x}}_{i}^{(k+1)}} は次の形となる。
この値を次段でそのまま採用せずに、ガウス=ザイデル法で本来修正される量 x ~ i ( k + 1 ) − x i ( k ) {\displaystyle {\tilde {x}}_{i}^{(k+1)}-x_{i}^{(k)}} に1より大きい 加速パラメータ(では緩和因子、緩和係数と呼ばれている) ω {\displaystyle \omega } を乗じてこの修正量を拡大し、これを前段の近似値 x i ( k ) {\displaystyle x_{i}^{(k)}} に加えることで、新たな値は