ムーア・ペンローズ逆行列

数学、特に線形代数において、行列 のムーア・ペンローズ逆行列 は、逆行列の最もよく知られている一般化であるBen-IsraelCampbellNakamuraRao。 ムーア・ペンローズ形一般逆行列とも呼ばれる。1920年にE・H・ムーアに、1951年にArne Bjerhammarに、1955年にロジャー・ペンローズによって独立して記述された。それ以前、 エリック・イヴァル・フレドホルムは、1903年に積分演算子の擬似逆行列の概念を導入していた。行列について述べる場合、特段の指定がない限り、擬似逆行列という用語はムーア・ペンローズ逆行列を指すことが多い。一般化逆行列という用語は、擬似逆行列の同義語として用られることがある。

擬似逆行列の一般的な使用法は、解がない線形連立方程式の「最適」解を計算することである。ほかに、複数の解を持つ線形連立方程式の最小ノルム解を求めることにも用いられる。擬似逆行列によって、線形代数での結果の表現と証明が容易になる。

擬似逆行列は、成分が実数または複素数であるすべての行列に対して定義され、一意に定まる。特異値分解を用いて計算できる。

1. 表記
-----

以下の説明では、次の表記規約に従うものとする。

と はそれぞれ実数体または複素数体を表し、 はこれらのいずれかを表すものとする。 上の 行列のベクトル空間を で表す。
に対して、 と はそれぞれ、転置行列とエルミート転置行列を表す。 のときは、 である。
に対して、 は、 の列空間を表し、 は の核を表す。
最後に、任意の正の整数 に対して は 単位行列を表す。

2. 定義
-----

に対して、 A}} の擬似逆行列は、ムーア・ペンローズ条件として知られる次の4つの条件をすべて満たす行列 として定義される：

は一般恒等行列である必要はないが、 A}} のどの列ベクトルも A}} 自身に写す。
は弱逆行列のように振る舞う。
はエルミート行列。
もエルミート行列。 はすべての行列 A}} に対して存在するが、 A}} がフルランクであるならば、 は単純な代数式として表される。

A}} の列ベクトルが線型独立であるならば、 は次のように計算できる。このような擬似逆行列は//左逆行列//となる。この場合、 となる。 A}} の行ベクトルが線型独立であるならば、 は次のように計算できる。これは//右逆行列//となり、 となる。

3. 特徴
-----

3.1. 存在と一意性
-----------

擬似逆行列は存在し、一意に定まる：任意の行列 A}} に対して、定義の4つの条件を満たす行列 が唯一つ存在する。

定義の最初の条件 //AA//sup を満たす行列 //A//sup は、 行列 A}} の一般逆行列として知られている。定義の二条件 //AA//sup と //A//sup を満たす行列 //A//sup は、行列 A}} の反射形一般逆行列と呼ばれる。一般逆行列は常に存在するが、一般に一意に定まらない。一意性は、最後の2つの条件から導かれる。

3.2. 基本的な特徴
-----------

以下の特徴の証明は、証明サブページに記した。

A}} が実行列であれば、 も実行列である。
A}} が可逆ならば、A}} の擬似逆行列は A}} の逆行列である243}}。 。
零行列の擬似逆行列は零行列の転置となる。
擬似逆行列の擬似逆行列は、元の行列になる245}}。 。
擬似逆行列の操作は、転置、複素共役、および共役転置の各操作と交換できる245}}。
A}} の定数倍行列の擬似逆行列は、定数の逆数をかけたものになる： ただし 。

3.2.1. 恒等関係
-----------

次の恒等式を用いて、擬似逆行列を含む式の一部を簡略化したり展開できる。同じことであるが、 を で置き換えると以下の式が得られる。 を で置き換えると以下の式になる。

3.3. エルミートの場合への還元
-----------------

擬似逆行列の計算は、エルミートの場合の構成法に還元できる。これは、以下の等価性によるものである。ここで、 と はエルミートである。

3.4. 積
------

とする。すると、以下は同値になる。

以下は の十分条件である：

A}} が正規直交列を持つ
B}} が正規直交行を持つ
A}} の列が線型独立であり、かつ B}} の行が線型独立である
以下は の必要条件である：

最後の十分条件から以下の式が導かれる。注意：等式 は一般には成り立たない。反例は以下の通り：

3.5. 射影
-------

とする。 と は直交射影演算子である。つまり、これらはエルミートおよびべき等であり、以下の事柄が成り立つ：

かつ
P}} が A}} の値域への直交射影作用素である。
Q}} が の値域への直交射影作用素である。
は A}} の核への直交射影作用素である。
は の核の直交射影作用素である。最後の2つの特徴は、以下の等式を意味する。

他の特徴は以下の通り。 はエルミートかつべき等であり、任意の行列 に対して以下の等式が成り立つ。これは、行列 、 を定義することで証明できる。 A}} がエルミートでべき等であるという、擬似逆行列の特徴を満たすことを確認することにより、 D}} が実際に C}} の擬似逆行列になっていることを確認すればよい。

最後の特徴から、 がエルミートかつべき等であるならば、任意の行列 に対して以下の式が成り立つ。最後に、 A}} は直交射影行列であるならば、その擬似逆行列は元の行列と自明に一致する。つまり、 。

3.6. 幾何学的構成
-----------

行列 を体 上の線型写像として見ると、 は次のように分解できる。ここで、 を直和、 を直交補空間、 を写像の核、そして を写像の像とする。 となり となることに注意せよ。 と制限すると、同型写像となる。これは、 上で がこの同型写像の逆写像となり、 上で核が逆写像となることを含意する。

言い換えれば： の元 が与えられたとき、 を探すために、まず の値域に直交するように を射影し、値域内の点 を探す。次に を作る。すなわち、 に属し、 を に写すベクトルを探す。これは の核に平行する のアフィン部分空間になる 。長さが最小のを持つこの部分空間の元が、求めたい答え になる。 の任意の元を選び、それを の核の直交補空間に直交して投影することで求まる。

この説明は、線型連立方程式の最小ノルム解と密接に関連する。

3.7. 部分空間
---------

3.8. 極限関係
---------

擬似逆行列は以下の極限を持つ。。 や が存在しない場合にも、これらの極限は存在する263}}。

3.9. 連続性
--------

通常の逆行列とは対照的に、擬似逆行列を求める操作は連続的ではない。行列の列 が行列 に収束するならば、 が に収束する必要はない。ただし、すべての行列 が と同じランクであれば、 は に収束する。

3.10. 導関数
---------

ある点 で定数のランクを持つ実数値の擬似逆行列の導関数は、元の行列の導関数で計算できる：

4. 例
----

可逆行列の場合、擬似逆行列は通常の逆行列に等しいため、以下では非可逆行列の例のみを扱う。

5. 特殊なケース
---------

5.1. スカラー
---------

スカラーとベクトルの擬似逆行列を定義することもできる。この場合、これらを行列として扱うことになる。スカラー の擬似逆行列は、 がゼロの場合はゼロになり、それ以外の場合は の逆数となる：

5.2. ベクトル
---------

零ベクトルの擬似逆行列は、転置された零ベクトルである。非零ベクトルの擬似逆行列は、共役転置ベクトルをその2乗の大きさで割ったものになる。

5.3. 線型独立な列ベクトル
---------------

の列が線型独立の場合、は可逆である。この場合の明示的な式は以下の通りBen-Israel。つまり、 は の左逆行列となる：

つまり、 は の右逆行列となる：

5.4. 線型独立な行ベクトル
---------------

の行が線型独立の場合、は可逆である。この場合の明示的な式は以下の通り。これは、列フルランクまたは行フルランクの特殊なケースである。 が正規直交列または正規直交行を持つならば、以下の式が成り立つ：

つまり、 は の右逆行列となる：

5.5. 正規直交列ベクトルまたは行ベクトル
----------------------

これは、列フルランクまたは行フルランクの特殊なケースである。 が正規直交列または正規直交行を持つならば、以下の式が成り立つ：

5.6. 2次正方行列
-----------

2次正方行列

の擬似逆行列は のとき、

である。 のとき、 のときは

となる。 のときは

である。

5.7. 正規行列
---------

が 正規行列、つまり、共役転置が可換であれば、その擬似逆行列は、それを対角化し、すべての非ゼロ固有値をそれらの逆数に、ゼロ固有値をゼロに写すことで計算できる。当然、 が転置について可換であるとは、それがその擬似逆行列で可換であることを意味します。

5.8. 直交射影行列
-----------

これは、固有値が0と1の正規行列の特殊なケースである。 が直交射影行列、つまり、 かつ であれば、擬似逆行列は行列自体と自明に一致する：

5.9. 巡回行列
---------

が巡回行列の場合、フーリエ変換で特異値分解ができる。つまり、特異値はフーリエ係数となる。 を離散フーリエ変換行列とすると、

6. 構造
-----

6.1. ランク分解
----------

で の ランクを表すとする。すると は として分解することができる。ここで、 のランクは である。このとき

となる。

6.2. QR分解
---------

で積 やそれらの逆行列を直接計算すると、実際には数値の丸め誤差や計算コストがたびたび生じる。逆行列の計算には、上記の代わりに のQR分解を用いる方法がある。

が列フルランクの場合を考える。このとき である。すると、コレスキー分解 を用いることができる。逆行列の乗算は、複数右辺ベクトルを持つ連立方程式を解くことで簡単に行える。これは、前進代入と後退代入で解くことができる。

コレスキー分解の代わりに QR分解 を用いることで、 を明示的に構築せずに計算できる。ここで、 は正規直交列を持ち、 、そして 上三角行列である。このときそれでのコレスキー因子である 。

行フルランクの場合は、式 を用い、 と を入れ替えた同様の議論で対処可能である。

6.3. 特異値分解
----------

計算上単純で正確な擬似逆行列を計算する方法は、特異値分解であるBen-Israel。を の特異値分解とすると、 となる。 のような長方対角行列の場合、対角成分の各非ゼロ要素は逆数を取り、ゼロをそのままにして、行列を転置することにより、擬似逆行列が得られる。数値計算では、許容誤差よりも大きい要素のみが非ゼロと見なされ、他の要素はゼロに置き換えられる。たとえば、 MATLABやGNUOctaveのpinv}}関数の場合、許容誤差は 1=//t// = ε⋅max⋅max}} で与えられる。ここで、εは計算機イプシロンである。

この方法の計算コストは、SVDの計算コストが支配的である。これは、最先端の実装が使用されている場合でも、行列同士の乗算よりも数倍重い。

上記の手順は、擬似逆行列の計算が連続演算ではない理由を示している。元の行列 が特異値0を持つ場合、 のわずかな変更によってこのゼロが小さな正の数に変わる可能性があり、それによって、小さな数の逆数を求める必要が生じ、擬似逆行列に大きな影響を与えうる。

6.4. ブロック行列
-----------

ブロック構造化された行列の擬似逆行列を計算するためのブロック行列の疑似逆行列が存在する。

6.5. ベン・イスラエルとコーエンの反復法
-----------------------------------------

他に、再帰を用いて擬似逆行列を計算する方法がある。これは、超べき列と呼ばれることもある。この再帰は、適切な から始まり、 を満足する場合、 の擬似逆行列に2次的に収束する列を生成する。 という選び方は、上記のSVDを使用する方法と競合しないと主張されている。これは、適度に悪条件の行列であっても、 が二次収束の領域に入る前に長い時間がかかるためである。ただし、 がすでにムーア・ペンローズ逆行列に近く、 ならば、 例えば ならば、収束は高速である。

6.6. 擬似逆行列の更新
-------------

が行または列フルランクで、かつ相関行列の逆行列がすでに既知であるならば、 に関連する行列の擬似逆行列は、行列の反転補題を適用して相関行列の逆行列を更新することで計算できる。これにより、必要な作業が少なて済む可能性がある。特に関連する行列について、変更、追加、または削除された行・列のみが元の行列と異なる場合、その関係を利用する増分アルゴリズムが存在する 。

同様に、行または列が追加されたときに、相関行列の逆行列を明示的に作成せずに、コレスキー係数を更新することができる。ただし、一般のランク不足の場合、擬似逆行列の更新は非常に複雑である 。

6.7. ソフトウェアライブラリ
----------------

SVD、QR、および後方代入の高品質な実装は、 LAPACKなどの標準ライブラリで利用できる。 SVDの独自実装の作成には、高度な数値計算の専門知識を必要とする。ただし、並列コンピューティングや組み込みコンピューティングなどの特殊な状況では、QRによる代替実装、または明示的な逆行列の使用が望ましい場合があり、独自実装は避けられない場合がある。

PythonパッケージNumPyでは、関数matrix.Iとlinalg.pinvを利用できる。pinvはSVDベースのアルゴリズムを使用する。 SciPyでは、最小二乗ソルバーを使用する関数scipy.linalg.pinvを利用できる。

RのMASSパッケージでは、 ginv関数でムーア・ペンローズ逆行列の計算が行える。 ginv関数は、ベースRパッケージのsvd関数による特異値分解を使用して擬似逆行列を計算する。他に、pracmaパッケージで利用可能なpinv関数を使用する方法もある。

Octaveプログラミング言語は、標準パッケージ関数pinvおよびpseudo_inverseメソッドを介して擬似逆行列を計算できる。

Juliaでは、標準ライブラリのLinearAlgebraパッケージが、特異値分解を介して実装されたムーア・ペンローズ逆行列の実装 pinv を提供する。

7. 応用
-----

7.1. 線型最小二乗法
------------

擬似逆行列によって、連立一次方程式の最小二乗解が求まる。 を係数行列とする以下の連立一次方程式が与えられた場合を考える。一般的に、連立方程式を解くベクトル が存在しないか、存在する場合は一意ではない可能性がある。擬似逆行列は、「最小二乗」問題を次のように解く。

任意の について、 となる。ここで、 であり、 はユークリッドノルムを表す。等号は、任意のベクトル が を満たすとき、またそのときに限って成り立つ。 が列フルランクでない限り、これは無数の最小解を与える。 最小ユークリッドノルムの解は である。ユークリッドノルムをフロベニウスノルムに置き換えると、複数右辺ベクトルを持つ連立方程式に簡単に拡張できる。 とすると、次のようになる。

任意の について、 となる。ここで であり、 はフロベニウスノルムを表す。

7.2. 線型連立方程式のすべての解の求解
---------------------

を係数行列とする以下の線型連立方程式が複数の解を持つとする。するとすべての解は、任意のベクトル に対して以下の式で与えられる。解は、 のとき、またそのときに限り存在する。後者の場合、解は、 が列フルランクのとき、またそのときに限り一意に定まる。解は存在するが が列フルランクでないならば、不確定な系となり、その無数のすべての解は最後の方程式によって与えられる。

7.3. 線型連立方程式の最小ノルム解
-------------------

一意でない解を持つ線型連立方程式 では、擬似逆行列を使用して、すべての解の中で最小のユークリッドノルム の解を構築できる。

ならば、ベクトル は解であり、すべての解に対して が成り立つ。ユークリッドノルムをフロベニウスノルムに置き換えると、複数右辺ベクトルを持つ連立方程式に簡単に拡張できる。 とすると、次のようになる。

ならば、行列 は解であり、すべての解に対して が成り立つ。

7.4. 条件数
--------

擬似逆行列と行列ノルムを使用して、任意の行列の条件数を定義できる。条件数が大きい場合、線型連立方程式の最小二乗解を求める問題で、 の要素の小さな誤差が解の要素の大きな誤差につながるという意味で、悪条件であることを意味する。

8. 一般化
------

実数と複素数の行列に加えて、条件は「複素数四元数」とも呼ばれる双四元数の行列にも当てはまる。

より一般的な最小二乗問題を解くためには、すべての連続線型演算子に対して、2つのヒルベルト空間 の間でムーア・ペンローズ逆演算子 を定義できる。その際、上記の定義と同じ4つの条件を用いる。ここから、すべての連続線型演算子が連続線型擬似逆演算子を持つわけではないことがわかる。擬似逆演算子を持つのは、値域が に閉じている場合に限られる。

擬似逆行列の概念は、任意の対合自己同型を備えた任意の体上の行列に存在する。このような一般的な前提では、特定の行列に対して常に擬似逆行列があるとは限らない。擬似逆行列が存在するための必要十分条件は、 であり、ここで は の転置に対合演算を適用した結果を表す。擬似逆行列が存在するならば、それは一意に定まる。

例：(記事の他の場所で検討されている対合とは対照的に）