クリロフ部分空間
つまり与えられたベクトルに対して行列を乗じるという計算を,行列の疎性を活かして(行列が対称であれば対称性も)行うのである。 b {\displaystyle {\boldsymbol {b}}} を初期ベクトルとすると、 A {\displaystyle {\boldsymbol {A}}} を順に掛けて A b {\displaystyle {\boldsymbol {A}}{\boldsymbol {b}}} 、 A 2 b {\displaystyle {\boldsymbol {A}}^{2}{\boldsymbol {b}}} を得るといった方法を取る。このようなアルゴリズムを総称して、クリロフ部分空間法と呼ぶ。これは数値線形代数において最も成功した手法の一つである。
ベクトル列は急速に線型従属に近づくため、クリロフ部分空間を用いる方法には、エルミート行列に対してはランチョス法、非エルミート行列に対してはアーノルディ法などの直交化手法が含まれることが多い。
主なクリロフ部分空間法として、アーノルディ法、ランチョス法、GMRES法(generalized minimum residual)、 BiCGSTAB法 (stabilized biconjugate gradient, 共役勾配法の一つ)、QMR法 (quasi minimal residual)、 TFQMR法 (transpose-free QMR)、MINRES法 (minimal residual) などが知られている。