前処理行列
通常、Pの選択に関してはトレードオフがある。Pは反復法の各ステップで適用する必要があるため、コストを抑えるためには計算しやすいものでなければならない。最も効率のよい前処理は
P = I {\displaystyle P=I}
もしくは
P − 1 = I {\displaystyle P^{-1}=I}
であるが、これは元の方程式と同じで前処理行列は何もしない。一方、
P = A {\displaystyle P=A}
すなわち
P − 1 A = A P − 1 = I {\displaystyle \quad P^{-1}A=AP^{-1}=I}
とすると条件数は最適な1となり、1回の反復で収束するが、
P − 1 = A − 1 {\displaystyle P^{-1}=A^{-1}}
の計算は元の方程式の求解と同程度に難しい。
そこで行列Pをこれらの中間から選び、Pができるだけ簡単に計算でき、かつ最小の反復回数となるように取る。
上の議論で、前処理行列
P − 1 A {\displaystyle P^{-1}A}
もしくは
A P − 1 {\displaystyle AP^{-1}}
は明に計算されないことに注意されたい。すなわち反復法では、与えられたベクトルに対する前処理の適用Pだけが必要である。
また、Aが対称な場合、前処理の効果は、 P − 1 A {\displaystyle P^{-1}A} の固有値を互いに近づけることに相当する 。