ムーア・ペンローズ逆行列
擬似逆行列によって、連立一次方程式の最小二乗解が求まる。 A ∈ k m × n {\displaystyle A\in \mathbb {k} ^{m\times n}} を係数行列とする以下の連立一次方程式が与えられた場合を考える。
一般的に、連立方程式を解くベクトル x {\displaystyle x} が存在しないか、存在する場合は一意ではない可能性がある。擬似逆行列は、「最小二乗」問題を次のように解く。
任意の x ∈ k n {\displaystyle x\in \mathbb {k} ^{n}} について、 ‖ A x − b ‖ 2 ≥ ‖ A z − b ‖ 2 {\displaystyle \left\|Ax-b\right\|_{2}\geq \left\|Az-b\right\|_{2}} となる。ここで、 z = A + b {\displaystyle z=A^{+}b} であり、 ‖ ⋅ ‖ 2 {\displaystyle \|\cdot \|_{2}} はユークリッドノルムを表す。等号は、任意のベクトル w ∈ k n {\displaystyle w\in \mathbb {k} ^{n}} が x = A + b + ( I n − A + A ) w {\displaystyle x=A^{+}b+\left(I_{n}-A^{+}A\right)w} を満たすとき、またそのときに限って成り立つ。
ある点 x {\displaystyle x} で定数のランクを持つ実数値の擬似逆行列の導関数は、元の行列の導関数で計算できる: