ガウス＝ザイデル法
この方法は x → {\displaystyle {\vec {x}}} の第i行要素 x i {\displaystyle x_{i}} を更新するごとに確実に残差が減少する反面、条件数がもとの行列 A {\displaystyle A} の条件数の二乗になるため収束は遅くなる傾向となる。
上記のように A x → = b → {\displaystyle A{\vec {x}}={\vec {b}}} の代わりに A T A x → = A T b → {\displaystyle A^{T}A{\vec {x}}=A^{T}{\vec {b}}} を解く方法は非対称、非正定値行列を共役勾配法で解く際のテクニックにも利用される。 しかしながらCG法においても条件数が増加することにより収束性は悪化する。