射影行列の可換性の条件

**【訂正記録】**
<dt>2023.12.29 非可換条件が間違っていたので訂正</dt>
<dd>誤：(C) 上記以外、つまり、$\boldsymbol{S} \cap \bar{\boldsymbol{T}} \ne \varnothing$ かつ $\bar{\boldsymbol{S}} \cap \boldsymbol{T} \ne \varnothing$ の場合 $P_S$ と $P_T$ は非可換である：$[P_S, P_T] \ne 0$</dd>
<dd>正：$P_S$ と $P_T$ が同時対角化できない場合は「ある条件」が成立する場合に非可換となる：$[P_S, P_T] \ne 0$</dd>
<dd>※この訂正に伴い、４章を全面書き換え</dd>

# 1 射影行列の性質
$P_S$ と $P_T$ を、部分空間 $\boldsymbol{S}$ と $\boldsymbol{T}$ への射影行列とする。
このとき、以下の(1)～(3)が成立する。

(A) $\boldsymbol{S} \subset \boldsymbol{T}$ の場合 $P_S P_T = P_T P_S = P_S$ が成り立つ
(B) $\boldsymbol{S} \subset \boldsymbol{T}$ または $\boldsymbol{S} \supset \boldsymbol{T}$ の場合 $P_S$ と $P_T$ は可換である：$[P_S, P_T] = 0$

![Fig1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3538461/e21079a5-084d-f2f1-e09f-3ebecc7e655c.png)


(C) $P_S$ と $P_T$ が同時対角化できない場合は「ある条件」が成立する場合に非可換となる（「ある条件」は４章で述べる）：$[P_S, P_T] \ne 0$

# 2 一次元部分空間への射影行列

$\mathbb{R}^m$ 内の線形独立な $n$ 個のベクトル $\boldsymbol{a}\_1, \cdots, \boldsymbol{a}\_n$ を列ベクトルとする行列を $A$ とする。すなわち

```math
A = 
\begin{bmatrix}
\boldsymbol{a}_1 & \cdots & \boldsymbol{a}_n \\
\end{bmatrix}.
\tag{1}
```

$A$ の列空間（$A$ の列ベクトルが張る空間）を $M_A$、$\mathbb{R}^m$ の任意のベクトル $\boldsymbol{v}$ を $M_A$ へ射影する行列を$P_A$ とする。すなわち

```math
P_A = A (A^T A)^{-1} A^T.
\tag{2}
```

$A$ の列ベクトルの１つ $\boldsymbol{a}\_i$ へ $\boldsymbol{v}$ を射影する行列を$P_{\boldsymbol{a}\_i}$ とする。すなわち

```math
P_{\boldsymbol{a}_i} = 
\frac{\boldsymbol{a}_i \boldsymbol{a}_i^T} {\boldsymbol{a}_i^T \boldsymbol{a}_i}.
\tag{3}
```

(2)式の両辺に右から A を掛けると

```math
P_A A = \left(A (A^T A)^{-1} A^T \right) A = A (A^T A)^{-1} A^T A = A.
\tag{4}
```

また、(3)式の両辺に右から $\boldsymbol{a}_i$ を掛けると

```math
P_{\boldsymbol{a}_i} \boldsymbol{a}_i = 
\left( \frac{\boldsymbol{a}_i \boldsymbol{a}_i^T} {\boldsymbol{a}_i^T \boldsymbol{a}_i} \right) \boldsymbol{a}_i
=
\frac{\boldsymbol{a}_i \boldsymbol{a}_i^T \boldsymbol{a}_i} {\boldsymbol{a}_i^T \boldsymbol{a}_i} = \boldsymbol{a}_i.
\tag{5}
```

(4)式で得られた $P_A A = A$ に(1)式の $A = \begin{bmatrix} \boldsymbol{a}_1 & \cdots & \boldsymbol{a}_n \end{bmatrix}$ を代入すると

```math
P_A  
\begin{bmatrix}
\boldsymbol{a}_1 & \cdots & \boldsymbol{a}_n \\
\end{bmatrix}
=
\begin{bmatrix}
P_A \boldsymbol{a}_1 & \cdots & P_A \boldsymbol{a}_n \\
\end{bmatrix}
=\begin{bmatrix}
\boldsymbol{a}_1 & \cdots & \boldsymbol{a}_n \\
\end{bmatrix}
```

となるので、

```math
P_A \boldsymbol{a}_i = \boldsymbol{a}_i
\quad (i = 1, \cdots, n)
\tag{6}
```

を得る。
したがって、これを使えば

```math
P_A P_{\boldsymbol{a}_i} 
= P_A \frac{\boldsymbol{a}_i \boldsymbol{a}_i^T} {\boldsymbol{a}_i^T \boldsymbol{a}_i}
= \frac{(P_A \boldsymbol{a}_i) \boldsymbol{a}_i^T} {\boldsymbol{a}_i^T \boldsymbol{a}_i}
= \frac{\boldsymbol{a}_i \boldsymbol{a}_i^T} {\boldsymbol{a}_i^T \boldsymbol{a}_i}
= P_{\boldsymbol{a}_i}
\tag{7}
```

となる。

次に、(6)式の両辺の転置をとると

```math
(P_A \boldsymbol{a}_i)^T = \boldsymbol{a}_i^T P_A^T = \boldsymbol{a}_i^T P_A  = \boldsymbol{a}_i^T.
\tag{8}
```

ここで、右辺第２項から第３項へ移るとき、射影行列は対称行列であるという性質<sup>[2]</sup> $P_A^T = P_A$ を使った。
(8)式を使うと

```math
P_{\boldsymbol{a}_i} P_A
= \frac{\boldsymbol{a}_i \boldsymbol{a}_i^T} {\boldsymbol{a}_i^T \boldsymbol{a}_i} P_A
= \frac{\boldsymbol{a}_i (\boldsymbol{a}_i^T P_A)} {\boldsymbol{a}_i^T \boldsymbol{a}_i}
= \frac{\boldsymbol{a}_i \boldsymbol{a}_i^T} {\boldsymbol{a}_i^T \boldsymbol{a}_i}
= P_{\boldsymbol{a}_i}
\tag{9}
```

となる。
最終的に(7)式と(9)式から

```math
P_A P_{\boldsymbol{a}_i} = P_{\boldsymbol{a}_i} P_A = P_{\boldsymbol{a}_i}
\tag{10}
```

が得られる。
$\boldsymbol{a}_i$ は $M_A$ の一次元部分空間なので、(10)式は「1 射影行列の性質」の(A)で述べた特別な場合、つまり、部分空間 $\boldsymbol{S}$ が $\boldsymbol{a}_i$ で、部分空間 $\boldsymbol{T}$ が $M_A$ の場合に相当する。

# 3 一般の部分空間への射影行列

$\boldsymbol{S}_A = \lbrace \boldsymbol{a}\_i \rbrace \_{i=1} ^{n}$ の部分集合を $\boldsymbol{S}\_{A'} = \lbrace \boldsymbol{a}'\_i \rbrace \_{i=1} ^{l}$ （ただし $l \le n$）として、$\boldsymbol{a'}\_1, \cdots, \boldsymbol{a'}\_l$ を列ベクトルとする行列を $A'$ とする。すなわち

```math
A' = 
\begin{bmatrix}
\boldsymbol{a'}_1 & \cdots & \boldsymbol{a'}_l \\
\end{bmatrix}.
\tag{11}
```
そして、$A'$ の列空間、すなわち $\boldsymbol{a'}\_1, \cdots, \boldsymbol{a'}\_l$ の張る空間を $M\_{A'}$ とすると、$M\_{A'}$ への射影行列は

```math
P_{A'} = A' ({A'}^T A')^{-1} {A'}^T.
\tag{12}
```

(12)式の両辺に右から $A'$ を掛けると

```math
P_{A'} A' = \left( A' ({A'}^T A')^{-1} {A'}^T \right) A'
= A' ({A'}^T A')^{-1} {A'}^T A' = A'.
\tag{13}
```

$\boldsymbol{S}_{A'}$ の元 $\boldsymbol{a'}\_i$ は $\boldsymbol{S}_A$ の元でもあるので

```math
P_A \boldsymbol{a'}_i = \boldsymbol{a'}_i
\quad (i = 1, \cdots, l).
\tag{14}
```

(11)式の両辺に左から $P_A$ を掛けると

```math
\begin{equation}
\begin{split}

P_A A'
&=
P_A  
\begin{bmatrix}
\boldsymbol{a'}_1 & \cdots & \boldsymbol{a'}_l 
\end{bmatrix} \\
&=
\begin{bmatrix}
P_A \boldsymbol{a'}_1 & \cdots & P_A \boldsymbol{a'}_l 
\end{bmatrix} \\
&=
\begin{bmatrix}
\boldsymbol{a'}_1 & \cdots & \boldsymbol{a'}_l 
\end{bmatrix} \\
&= A'.

\end{split}
\end{equation}
\tag{15}
```

ここで、２行目から３行目に式展開する際に(14)式を用いた。
次に、(12)式の両辺に左から $P_A$ を掛けると

```math
\begin{equation}
\begin{split}

P_A P_{A'} 
&= P_A \left( A' ({A'}^T A')^{-1} {A'}^T \right) \\
&= P_A A' ({A'}^T A')^{-1} {A'}^T \\
&= A' ({A'}^T A')^{-1} {A'}^T \\
&= P_{A'}.

\end{split}
\end{equation}
\tag{16}
```

ここで、２行目から３行目に式展開する際に(15)式を利用した。
また、(15)式の転置をとると

```math
\left(P_A A' \right)^T = {A'}^T {P_A}^T = {A'}^T P_A = {A'}^T
\tag{17}
```

ここで、右辺第２項から第３項へ移るとき、${P_A}^T = P_A$ を用いた。
(12)式の両辺に右から $P_A$ を掛けると

```math
\begin{equation}
\begin{split}

P_{A'} P_A 
&= \left( A' ({A'}^T A')^{-1} {A'}^T \right) P_A \\
&= A' ({A'}^T A')^{-1} {A'}^T P_A \\
&= A' ({A'}^T A')^{-1} {A'}^T \\
&= P_{A'}.

\end{split}
\end{equation}
\tag{18}
```

ここで、２行目から３行目への式展開で(17)式の ${A'}^T P_A = {A'}^T$ を用いた。
最終的に(16)式と(18)式から

```math
P_A P_{A'} = P_{A'} P_A = P_{A'}
\tag{19}
```

が得られる。
$M_{A'}$ は $M_A$ の部分空間なので、(19)式は「1 射影行列の性質」の(A)で述べた一般的な場合、つまり、部分空間 $\boldsymbol{S}$ が $M_{A'}$ で、部分空間 $\boldsymbol{T}$ が $M_A$ の場合に相当する。

以上、$\boldsymbol{S} \subset \boldsymbol{T}$ の場合を見てきたが、$M_{A}$ を $\boldsymbol{S}$ 、$M_{A'}$ を $\boldsymbol{T}$ とみなせば $\boldsymbol{S} \supset \boldsymbol{T}$ となり、これまで述べてきたことがそのまま成り立つので「1 射影行列の性質」の(B)で述べた射影行列の可換条件（$\boldsymbol{S} \subset \boldsymbol{T}$ または $\boldsymbol{S} \supset \boldsymbol{T}$ の場合 $P_S$ と $P_T$ は可換である）が証明された。

# 4 射影行列の非可換条件
## 4.1 非可換となる条件
射影行列は対称行列である。また、対称行列の固有値はすべて実数で、適切な直交行列を用いて対角化できる。
いま、$P_S, P_T$が同時対角化不可能だとする。すなわち、ある直交行列 $Q$ を用いて $P_S$ を対角化した場合、同じ $Q$ を用いても $P_T$ は対角化できない場合を考える。
$P_S$ が部分空間 $\mathbb{R}^r, (r \le m)$ への射影行列だとして、直交行列 $Q$ を用いて対角化したものを $P'_S$ とすると、射影行列の固有値は $r$ 個の $1$ と $m - r$ 個の $0$ からなるので、

```math
P'_S \equiv Q P_S Q^{-1} =
\begin{pmatrix}
  1                               \\
    & \ddots                      \\
    &        & 1 &                \\
    &        &   & 0              \\
    &        &   &   & \ddots     \\
    &        &   &   &        & 0 
\end{pmatrix}.
\tag{20}
```
ここで $P'_S$ の対角成分は連続して $1$ が $r$ 個並び、続く $m - r$ 個が $0$ になるように $Q$ を選ぶものとする。

一方、$P_T$ は、同じ $Q$ では対角化できないので、一般に

```math
P'_T \equiv Q P_T Q^{-1} =
\begin{pmatrix}
 t_{11} & t_{12} & \dots   & t_{1m} \\
 t_{21} & t_{22} & \dots   & t_{2m} \\
 \vdots & \vdots & \ddots  & \vdots \\
 t_{m1} & t_{m2} & \dots   & t_{mm} \\
\end{pmatrix}
\tag{21}
```
となる。その際、非対角成分 $t_{ij}, (i \ne j)$ は、すべて $0$ になることはない。

(20)式、(21)式から

```math
P'_S P'_T =
\begin{pmatrix}
 t_{11} & t_{12} & \dots   & t_{1m} \\
 \vdots & \vdots & \ddots  & \vdots \\
 t_{r1} & t_{r2} & \dots   & t_{rm} \\
 0      & 0      & \dots   & 0      \\
 \vdots & \vdots & \ddots  & \vdots \\
 0      & 0      & \dots   & 0      \\
\end{pmatrix}
\tag{22}
```
となる。これは、$P'_S$ を左側から掛けたことにより $P'_T$ の $r$ 行目までが切り取られ、$r + 1$ 行目以降はすべて $0$ になったためである。
また

```math
P'_T P'_S =
\begin{pmatrix}
 t_{11} & \dots  & t_{1r} & 0 & \dots & 0 \\
 \vdots & \ddots & \vdots  & \vdots & \ddots & \vdots \\
 t_{m1} & \dots  & t_{mr} & 0 & \dots & 0 \\
\end{pmatrix}
\tag{23}
```

となる。これは、$P'\_S$ を右側から掛けたことにより $P'\_T$ の $r$ 列目までが切り取られ、$r + 1$ 列目以降はすべて $0$ になったためである。
以上から、
>$ r \lt i \le m, 1 \le j \le r $ に対して $t_{ij} = t_{ji} \ne 0$ であるような非対角成分が１つでもあれば

```math
P'_S P'_T \ne P'_T P'_S \tag{24}
```
となることがわかる。
その場合、(24)式は

```math
Q P_S Q^{-1} Q P_T Q^{-1} \ne Q P_T Q^{-1} Q P_S Q^{-1} \tag{25}
```
となり、これは $Q^{-1} Q = I$ の関係を使って

```math
Q P_S P_T Q^{-1} \ne Q P_T P_S Q^{-1} \tag{26}
```
と変形でき、両辺に左から $Q^{-1}$、右から $Q$ を掛けると

```math
P_S P_T \ne P_T P_S \tag{27}
```
となって、$P_S$ と $P_T$ の間では交換関係が成立しないことが示せる。したがって、「1 射影行列の性質」で述べた(C)の「**ある条件**」とは

>$P_S$ を対角化する直交行列 $Q$ を使って $Q P_T Q^{-1}$ を計算したとき、その成分を $t_{ij}$ とすると、 $ r \lt i \le m, 1 \le j \le r $ に対して $t_{ij} =t_{ji} \ne 0$ であるような非対角成分が１つでもあれば $P_S$ と $P_T$ は非可換である。

である。

## 4.2 非可換となる具体例

以下の図は $\mathbb{R}^3$ の場合の非可換となる具体例である。図は、$x-y$ 平面を $\boldsymbol{S}$ 、平面 $y - z = 0$ を $\boldsymbol{T}$ とし、$\mathbb{R}^3$ 内の任意のベクトル $\boldsymbol{v}$ から部分空間 $\boldsymbol{S}$ への射影を $\boldsymbol{p}_S$、部分空間 $\boldsymbol{T}$ への射影を $\boldsymbol{p}_T$ としたものである。さらに、$\boldsymbol{p}\_S$ から部分空間 $\boldsymbol{T}$ への射影を $\boldsymbol{p}\_{ST}$、$\boldsymbol{p}\_T$ から部分空間 $\boldsymbol{S}$ への射影を $\boldsymbol{p}\_{TS}$ としている。
つまり、
```math
\boldsymbol{p}_{ST} = P_T P_S \boldsymbol{v},
\quad
\boldsymbol{p}_{TS} = P_S P_T \boldsymbol{v}
```
であるが、両者は一致しない。一致しないのは、$\boldsymbol{S}$ と $\boldsymbol{T}$ が直交していないからである。もし、直交していたら $\boldsymbol{p}\_{ST}$ と $\boldsymbol{p}\_{TS}$ は一致する。したがって、前節で述べた「ある条件」はこのあたりに関係してくるのだろう。


![Fig3.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3538461/fccc52c9-8b2d-140a-8bcf-9cae1963034c.png)

この場合、射影行列は

```math
P_S = \begin{pmatrix}
1 & 0 & 0 \\
0 & 1 & 0 \\
0 & 0 & 0 \\
\end{pmatrix},
P_T = \begin{pmatrix}
1 & 0   & 0   \\
0 & 1/2 & 1/2 \\
0 & 1/2 & 1/2 \\
\end{pmatrix}
```
となるが、$t\_{32} = t\_{23} = 1/2 \ne 0$ という条件が成立するので
```math
P_S P_T = \begin{pmatrix}
1 & 0   & 0   \\
0 & 1/2 & 1/2 \\
0 & 0   & 0   \\
\end{pmatrix},
P_T P_S = \begin{pmatrix}
1 & 0   & 0   \\
0 & 1/2 & 0 \\
0 & 1/2 & 0 \\
\end{pmatrix}
```

となって非可換になる。

# 参考文献
1. G. ストラング：線形代数イントロダクション 原著第４版. 近代科学社, 2015. 
2. 田中昌昭：射影行列のトレースは行列の階数に等しい. https://qiita.com/mtanaka-kumw/items/e938869178fecf0590cf, （2023.12.25参照）