[更新中]線形代数学総まとめ 前編(1-25回)

:::note info
本記事は数学講座[線形代数学第一から第五章](https://www.matongxue.com/courses/1)を勉強して投稿したメモです。詳細は元の素晴らしい講座のページをチェックしてください。
:::

# 1. はじめに
## [第1回 なぜ線形代数が必要なのか](https://qiita.com/Junlee/items/eb241c0def27d3f47560)

線形代数は、**線形問題を解くツール**になります。複雑な問題を線形問題に変換するのは、別の数学学科になります。(例:微分積分、確率統計学)
例えば、以下のAが一つの平面で、$Ax=y$行列関数の値域になります。この女性の顔の行列が地域に存在するかどうか、これを解くために、線形代数学が必要です。
(行列関数の単射、全射、全単射(列フルランク、行フルランク、フルランク、正方形)などと関わっています)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177240/5437bf47-373e-bb04-fe04-9ae0db8c2d59.png)


# 2. ベクトル空間
## [第2回 ベクトル、ベクトルの加減算、及びスカラー倍](https://qiita.com/Junlee/items/1fb984bb55291c7f771d)

- ベクトルは、始点と終点を持った有向線分で、**大きさ**と**向き**を持ちます。
- ベクトルには、次元数があります、２次元ベクトル、３次元ベクトルなど。
- ベクトルの加算
<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177240/3dc2052d-3b64-1bff-8323-36018c646026.png" width=480>

- ベクトルの減算
<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177240/f4cece16-c146-f929-ab5a-40558bce63b1.png" width=480>

- ベクトルのスカラー倍
<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177240/3066bc60-ea49-8a0d-2f14-a4d8edd4222d.png" width=480>

- ベクトルの演算
<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/177240/b2b9a826-dd2e-3616-2297-8d8dee8051dd.png" width=480>

## [第3回 線形独立と線形従属](https://qiita.com/Junlee/items/aebd509d2b8f9a897125)

与えられたベクトル組$\mathcal{A}$に対して、
```math  
\quad \mathcal{A}=\{\boldsymbol{a_1},\boldsymbol{a_2},...,\boldsymbol{a_m}\}
```
以下のような**すべてゼロでない実数**$k_1,k_2,...,k_m$が存在する場合、
```math  
k_1\boldsymbol{a_1}+k_2\boldsymbol{a_2}+...+k_m\boldsymbol{a_m}=\boldsymbol{0}
```

ベクトル組$\mathcal{A}$を**線形従属**と呼び、そうでなければ**線形独立**と呼びます。
- **線形独立**:
```math  
\quad \mathcal{A}=\{R,G,B\}
```
- **線形従属**:
```math  
\quad \mathcal{A}=\{R,G,B,ピンク色\}
```

- 次数上げ、次数下げ

| 線形独立・従属 | 次数上げ | 次数下げ |
|:-:|:-:|:-:|
| 独立  | 独立  | 独立、**従属**<sup>注1</sup>  |
| 従属  | **独立**<sup>注2</sup>、従属  | 従属  |

:::note info
- 注1: 次数下げたら、独立になる要因の邪魔者を除いたので、**従属**になった
- 注2: 次数上げたら、邪魔者を入れたので、従属が成立しなくなって、**独立**になった
:::

## [第4回 ベクトル空間](https://qiita.com/Junlee/items/7282778f73e3f9bcdde2)
- ベクトル空間
**ベクトル空間**とは 適切に定義された「ベクトルの和」と「スカラー倍」に対して「閉じた」集合です。
例えば、ベクトル組$\mathcal{V}$があります：
```math 
\mathcal{V}=\{\boldsymbol{v_1},\boldsymbol{v_2},\cdots,\boldsymbol{v_n}\}
```
ベクトル組$\mathcal{V}$で、$\boldsymbol{v_1}\in \mathcal{V},\quad \boldsymbol{v_2}\in \mathcal{V}$ があります、スカラー倍と加算で演算されたベクトルもベクトル空間に存在されていれば、ベクトル組$\mathcal{V}$が**ベクトル空間**です。

- 部分空間

ベクトル空間は必ず$\mathcal{R^n}$だけではなくて、その$\mathcal{R^n}$の部分空間でも大丈夫です。例えば、以下のような点、直線、平面もベクトル空間です(必須条件：零ベクトルを含む)。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327130/83c31bc7-e0fe-b149-1268-a042d6b1715e.png)
上記の点、線、平面が$\mathcal{R^3}$の部分空間です。$\mathcal{V}\subset \mathbb{R^3}$と記します。

## [第5回 張る空間](https://qiita.com/Junlee/items/2b6630820145d98b07ca)

:::note info 
補足：張る空間とベクトル空間は、性質上から見たら等しいものですが、違いを見てみましょう。
- ベクトル空間：既婚者(状態の表すもの)
    - 鈴木さんが既婚者です。
    - $\mathcal{V}$がベクトル空間です。ベクトル組$\mathcal{A}$の張る空間も呼びます。
- 張る空間：配偶者(具体的に誰のもの)
    - 鈴木さんが田中さんの配偶者です。
    - $\mathcal{V}$が ベクトル組$\mathcal{A}$の張る空間です。
:::

- **等しいベクトル組**

ベクトル組$\mathcal{B}$とベクトル組$\mathcal{A}$は**お互いに線形結合で表す可能**であれば、$\mathcal{B}$と$\mathcal{A}$が**等しいベクトル組**です。

例えば、また色のRGBとMYKで例えにすると、ベクトル組$\mathcal{V}$とベクトル組$\mathcal{W}$は**お互いに線形結合で表す可能なので**、$\mathcal{V}$と$\mathcal{W}$が**等しいベクトル組**です。

- **線形独立な最大なベクトル組**

ベクトル組$\mathcal{A}$から、$\mathcal{r}$個ののベクトル$a_1,a_2,a_3,...a_r$を選んで、
```math  
\mathcal{A}_0=\{\boldsymbol{a_1},\boldsymbol{a_2},...,\boldsymbol{a_r}\}
```

以下の条件を満たせれば、ベクトル組$\mathcal{A_0}$がベクトル組$\mathcal{A}$の**線形独立な最大なベクトル組**の一つです。(*複数個のケースがある*)
1. ベクトル組$\mathcal{A_0}$が[線形独立](https://qiita.com/Junlee/items/aebd509d2b8f9a897125#%E7%B7%9A%E5%BD%A2%E7%8B%AC%E7%AB%8B%E3%81%A8%E7%B7%9A%E5%BD%A2%E5%BE%93%E5%B1%9E)
1. ベクトル組$\mathcal{A}$から、$\mathcal{r+1}$個ののベクトルが線形[独立従属](https://qiita.com/Junlee/items/aebd509d2b8f9a897125#%E7%B7%9A%E5%BD%A2%E7%8B%AC%E7%AB%8B%E3%81%A8%E7%B7%9A%E5%BD%A2%E5%BE%93%E5%B1%9E)

- **ベクトル組のランク**

ベクトル組のランクは**線形独立な最大なベクトル組での個数**になります。

## :red_circle:[第6回 ベクトル空間の基底](https://qiita.com/Junlee/items/0036d5a1fcfbc2b71ba1)

- **基底の定義**

$\mathcal{V}$がベクトル空間、空間内に以下のベクトル組$\mathcal{A}$があります。
```math 
\mathcal{A}=\{\boldsymbol{a_1},\boldsymbol{a_2},...\boldsymbol{a_n}\}
 ```
$\mathcal{A}$が$\mathcal{V}$空間内の**線形独立最大ベクトル組**であれば、ベクトル組$\mathcal{A}$がベクトル空間$\mathcal{V}$の**基底の一つ**です。
色空間の線形独立最大ベクトル組の一つが$RGB$です、$RGB$が**色空間の基底の一つ**です。

- **基底と座標**

```math  
\mathcal{A}=\{\boldsymbol{a_1},\boldsymbol{a_2},...,\boldsymbol{a_n}\}
```
$\mathcal{A}$がベクトル空間$\mathcal{V}$の基底、$\mathcal{V}$での成分(ベクトル)$\mathcal{x}$が**唯一的に**以下の式で表せるます。

```math  
\boldsymbol{x}=k_1\boldsymbol{a_1}+k_2\boldsymbol{a_2}+\cdots+k_n\boldsymbol{a_n}
```

- **自然基底**

ベクトル空間の基底が標準基底（$(1, 0, ..., 0), (0, 1, ..., 0), ..., (0, 0, ..., 1)$）と一致する場合、その基底を**自然基底**と呼びます。

- **非自然基底**

ベクトル空間の基底が**標準基底と一致しない**場合、その基底を**非自然基底**と呼びます。
```math 
\mathcal{M}:\boldsymbol{m_1}=\begin{pmatrix}1\\1\end{pmatrix},\quad \boldsymbol{m_2}=\begin{pmatrix}-1\\1\end{pmatrix}
```
$\mathcal{M}$が平面の基底にすれば、ベクトル$\mathcal{x}$の座標も変わります。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327130/b230bc0c-480e-a3cb-9752-9101040c45c4.png)

- **ベクトル空間の次元**

ベクトル空間の次元とは、その空間を張る**最小の基底の要素数**です。

## :red_circle:[第7回 ドット積](https://qiita.com/Junlee/items/0c0f9d8a85bfb5c6db66)

- **ドット積計算の基本則**

```math  
\begin{array}{c|c}
    \hline
    \\
    \quad 交換法則\quad&\quad \boldsymbol{a}\cdot\boldsymbol{b}=\boldsymbol{b}\cdot\boldsymbol{a}\quad\\
    \quad 定数倍結合法則\quad&\quad (k\boldsymbol{a})\cdot\boldsymbol{b}=k(\boldsymbol{b}\cdot\boldsymbol{a})\quad\\
    \quad 分配法則\quad&\quad (\boldsymbol{a}+\boldsymbol{b})\cdot\boldsymbol{c}=\boldsymbol{a}\cdot\boldsymbol{c}+\boldsymbol{b}\cdot\boldsymbol{c}\quad\\
    \\
    \hline
\end{array}
```

[ドット積計算の基本則](https://www.matongxue.com/lessons/515/parts/557)で素晴らしい幾何的解説があります。

- **ドット積**

ベクタル$a$と$b$の長さと角度の計算をまとめと：

- 長さ($\boldsymbol{b}$も同じ)：$||\boldsymbol{a}||=\sqrt{a_1^2+a_2^2}=\sqrt{a_1a_1+a_2a_2}=\sqrt{\boldsymbol{a}\cdot\boldsymbol{a}}$
- 角度($\boldsymbol{a}$と$\boldsymbol{b}$角度)：$cos\theta=\displaystyle\frac{a_1b_1+a_2b_2}{||\boldsymbol{a_{}}||||\boldsymbol{b_{}}||}=\displaystyle\frac{\boldsymbol{a}\cdot\boldsymbol{b}}{||\boldsymbol{a_{}}||||\boldsymbol{b_{}}||}$

以下の演算方法は **ドット積(内積)** と呼びます：

```math  
\boldsymbol{a}\cdot\boldsymbol{b}=(\color{Magenta}{a_1},\color{Orange}{a_2})\cdot(\color{Magenta}{b_1},\color{Orange}{b_2})=\color{Magenta}{a_1b_1}+\color{Orange}{a_2b_2}
```

# 3. 行列と行列の演算
## [第8回 行列と線形方程式](https://qiita.com/Junlee/items/ce35da4d6778afa370df)

- **行ベクトルと列ベクトル**

1つの列を持つ行列を**列ベクトル**、1つの行をもつ行列を**行ベクトル**と呼ぶ。例えば、行列$A_{m\times n}$の第$i$行（行ベクトル：$a_i*$）と第$j$列（列ベクトル：$a_*j$）になります。

```math  
\boldsymbol{a}_{i*}=\begin{pmatrix}a_{i1}&a_{i2}&\cdots&a_{in}\end{pmatrix},\quad \boldsymbol{a}_{*j}=\begin{pmatrix}a_{1j}\\a_{2j}\\\vdots\\a_{mj}\end{pmatrix}
```

- **正方行列**

行と列の数が同じである行列は**正方行列**と呼ばれる。$A_n$と記します。
例えば、以下の二次行列および三次行列：

```math  
A_2=\begin{pmatrix}1&0\\0&1\end{pmatrix},\quad A_3=\begin{pmatrix}1&2&3\\4&5&6\\7&8&9\end{pmatrix}
```

- **零行列**

成分がすべてゼロである行列を**零行列（Zero matrix）** といい、$O$ で表されます。以下は2つの零行列の例です。

```math  
\begin{pmatrix}0&0&0\\0&0&0\end{pmatrix},\quad\begin{pmatrix}0&0\\0&0\\0&0\end{pmatrix}
```

- **行列の乗算**
行列$A$と行列$B$の積(乗算)$AB$を行うためには，$A$の列数と$B$の行数が等しくなければならない。2行2列の行列の積は，
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327130/57935861-d7d6-a960-3f45-a1e0a2d7c816.png)

## :red_circle:[第9回 ガウスの消去法(階段→対角→単位、行簡約階段行列)](https://qiita.com/Junlee/items/6972ef25b53d9119b133)

- **ガウスの消去法**
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327130/580a1b94-ed0c-3b9c-f61c-9301b8f3e664.png)

- **階段行列**

```math
\left({\begin{array}{ccccc}1&a_{0}&a_{1}&a_{2}&a_{3}\\0&0&2&a_{4}&a_{5}\\0&0&0&1&a_{6}\end{array}}\right)
   or 
\left({\begin{array}{ccccc}1&a_{0}&a_{1}&a_{2}&a_{3}\\0&0&2&a_{4}&a_{5}\\0&0&0&0&0\end{array}}\right)
```

- **対角行列**

**対角行列**とは、**正方行列**であって、その対角成分（$(i, i)$-要素）以外が零であるような行列のことである。

- **単位行列**

$n$次元の**対角行列**の対角成分が全部$1$、他は全て $0$ となる。行列で表示すると：

```math  
I_n=\begin{pmatrix}1&0&...&0\\0&1&...&0\\...&...&&...\\
0&0&...&1\end{pmatrix}
```

```math  
\Lambda_{n}=\begin{pmatrix}\lambda_1&0&...&0\\0&\lambda_2&...&0\\...&...&&...\\
0&0&...&\lambda_n\end{pmatrix}
```

- **正方行列、対角行列、単位行列**

この三者の関係は：**単位行列 $\displaystyle \subseteq$ 対角行列 $\displaystyle \subseteq$ 正方行列**

- **行簡約階段形**

階段行列と比較して、階段行列の条件以外に、以下の条件も満たす必要があります。
- 全ての主成分は $1$ であり
- その主成分を含む列の中で、主成分以外は全て $0$ であり

例えば、以下のような：
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327130/5f56607a-9738-bcf4-e4b6-9d3fa2fd3e1e.png)

- **基本行操作**
```math  

\begin{array}{c|c|c}
    \hline
    \quad 基本行操作\quad &\quad 操作\quad &\quad 基本行行列\quad\\
    \hline
    \\
    \quad \begin{aligned}\color{SkyBlue}{j行目のk倍を加える}\qquad\qquad\quad\\\text{row-addition transformations}\end{aligned}\quad &\quad \boldsymbol{r_1}'=\boldsymbol{r_1}+k\boldsymbol{r_2}\quad &\quad \begin{pmatrix}1&{\color{red}{k}}&0\\0&1&0\\0&0&1\end{pmatrix}\quad
    \\
    \\
    \hline
    \\
    \quad \begin{aligned}\color{Goldenrod}{ある行をk倍する}\qquad\qquad\quad\\\text{row-multiplying transformations}\end{aligned}\quad &\quad \boldsymbol{r_1}'=k\boldsymbol{r_1} (k\neq 0)\quad &
    \quad \begin{pmatrix}{\color{red}{k}}&0&0\\0&1&0\\0&0&1\end{pmatrix}\quad \\
    \\
    \hline
    \\
    \quad \begin{aligned}\color{orange}{入れ替える}\qquad\qquad\quad\\\text{row-switching transformations}\end{aligned}\quad &\quad \boldsymbol{r_1}\leftrightarrow \boldsymbol{r_2}\quad &
    \quad \begin{pmatrix}{\color{red}{0}}&{\color{red}{1}}&{\color{red}{0}}\\
    {\color{red}{1}}&{\color{red}{0}}&{\color{red}{0}}\\0&0&1\end{pmatrix}\quad \\
    \\
    \hline
\end{array}

```

## [第10回 行列の加法と乗法](https://qiita.com/Junlee/items/1a1655f7de15d509e258)

- **行列の加法**

2つの$m\times n$行列$A=(a_{ij})$と$B=(b_{ij})$がある場合、行列AとBの和は$A+B$と表記され、以下のように定義されます：

```math  
A+B=\begin{pmatrix}a_{11}+b_{11}&a_{12}+b_{12}&...&a_{1n}+b_{1n}\\a_{21}+b_{21}&a_{22}+b_{22}&...&a_{2n}+b_{2n}\\
...&...&&...\\a_{m1}+b_{m1}&a_{m2}+b_{m2}&...&a_{mn}+b_{mn}\end{pmatrix}
```

行列の加法前提条件：$A=(a_{ij})$と$B=(b_{ij})$が同型行列

```math  
\begin{array}{c|c}
    \hline
    \\
    \quad 交換法則\quad&\quad A+B=B+A\quad\\
    \quad 結合法則\quad&\quad (A+B)+C=A+(B+C)\quad\\
    \\
    \hline
\end{array}
```

- **行列のスカラー倍**

定数$k$と行列$A$のスカラー倍：

```math 
kA=Ak=
\begin{pmatrix}
    ka_{11}&ka_{12}&\cdots&ka_{1n}\\
    ka_{21}&ka_{22}&\cdots&ka_{2n}\\
    \cdots&\cdots& &\cdots\\
    ka_{m1}&ka_{m2}&\cdots&ka_{mn}\end{pmatrix}
```
行列のスカラー倍は以下の法則があります。($A,B$が同型行列、$\lambda、\mu$が定数)

```math 
\begin{array}{c|c}
    \hline
    \\
    \quad 結合法則\quad&\quad (\lambda\mu) A=\lambda(\mu A)\quad\\
    \\
    \quad 分配法則\quad&\quad \begin{aligned}(\lambda+\mu) A=\lambda A+\mu A\\\lambda(A+B)=\lambda A+\lambda B\end{aligned}\quad\\
    \\
    \hline
\end{array}
```

- **行列の乗法の定義（内積の視点）**

具体的な計算例は以下の通り：
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327130/944c7f22-c8b3-1785-4f3a-9b8b15e1f830.png)


```math  
\begin{array}{c|c}
    \hline
    \\
    \quad 交換律\quad&\quad 必ずしも成立しない\quad\\
    \quad スカラー倍交換律\quad&\quad \lambda(AB)=(\lambda A)B=A(\lambda B)（\lambdaが定数）\quad\\
    \quad 結合律\quad&\quad (AB)C=A(BC)\quad\\
    \quad 配分律\quad&\quad A(B+C)=AB+AC\quad\\
    \\
    \hline
\end{array}
```

- **ベクトルと行列の違い**

**ベクトル**から見れば同じものです。両方とも３次元ベクトルです：
```math 
\begin{pmatrix}1\\2\\3\end{pmatrix}=\begin{pmatrix}1&2&3\end{pmatrix}
```

**行列**から見たら$3×1 \color{red}{≠}  1×3$の行列：
```math 
\begin{pmatrix}1\\2\\3\end{pmatrix}\color{red}{≠}\begin{pmatrix}1&2&3\end{pmatrix}
```

## [第11回 行列の累乗と転置](https://qiita.com/Junlee/items/04365c5bf10afd089d4c)

- **転置演算の性質**、$(AB)^\mathrm{T}=B^\mathrm{T}A^\mathrm{T}$がよく使われいます。

    - $(A^\mathrm{T})^\mathrm{T}=A$
    - $(AB)^\mathrm{T}=B^\mathrm{T}A^\mathrm{T}$
    - $(A^\mathrm{T})^n=(A^n)^\mathrm{T}$
    - $(A+B)^\mathrm{T}=A^\mathrm{T}+B^\mathrm{T}$

- **対称行列：$A^T=A$**

```math  
\begin{pmatrix}
1 & 2 & 3\\
2 & 4 & -5\\
3 & -5 & 6\end{pmatrix}^\mathrm{T}
=
\begin{pmatrix}
1 & 2 & 3\\
2 & 4 & -5\\
3 & -5 & 6\end{pmatrix}
```

- **反対称行列：$A^T=-A$**

```math  
\begin{pmatrix}
0 & 2 & -1 \\
-2 & 0 & -4 \\
1 & 4 & 0\end{pmatrix}^\mathrm{T}
=
-\begin{pmatrix}
0 & 2 & -1 \\
-2 & 0 & -4 \\
1 & 4 & 0\end{pmatrix}
```

## [第12回 行列積の幾何学的意義](https://qiita.com/Junlee/items/91f70f1d5210c7dd016a)

- **行列の左乗**

$a$が自然基底の$R^2$のベクトル、$b$が$a$を新しい基底の$R^2$のベクトルです。(自然基底の$R^2$にとって、場所が変っていますので、$b$での値も変わります。でも、$b$の相対位置が変わっていません。)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327130/2db690d8-67e8-58e6-40df-279986674fd2.png)

ベクトル$b$が行列$A$(ベクトル空間)の列ベクトル組 { $c_1,c_2$ } の線形結合です。


# 4. 行列の関数

## [第13回 線形関数と行列関数](https://qiita.com/Junlee/items/cbaf8ea8a4eb15f379eb)

- **行列関数**

```math
\underbrace{A\boldsymbol{x}=\boldsymbol{y}}_{\large 行列乗法形式}\iff \underbrace{A(\boldsymbol{x})=\boldsymbol{y}}_{\large 行列関数形式}
  ```
前述の色の例、$RGB$から$YP_rP_b$への変換が、行列関数を使ってできます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327130/8ea195dc-372b-2473-d45c-4d491396ba50.png)

行列の左乗法：
```math
\underbrace{\begin{pmatrix}0.299&0.587&0.114\\0.5&-0.418688&-0.081312\\-0.168736&-0.331264&0.5\end{pmatrix}}_{\large \boldsymbol{A}}\ \underbrace{\begin{pmatrix}10\\5\\33\end{pmatrix}}_{\large \boldsymbol{a}}\ =\ \underbrace{\begin{pmatrix}9.687\\0.223264\\13.1563\end{pmatrix}}_{\large \boldsymbol{b}}
  ```
行列関数：
```math
\underbrace{\begin{pmatrix}0.299&0.587&0.114\\0.5&-0.418688&-0.081312\\-0.168736&-0.331264&0.5\end{pmatrix}}_{\large \boldsymbol{A}}\ \underbrace{\begin{pmatrix}R\\G\\B\end{pmatrix}}_{\large \boldsymbol{x}}\ =\ \underbrace{\begin{pmatrix}Y\\P_r\\P_b\end{pmatrix}}_{\large \boldsymbol{y}}
```
[行列の乗法](https://qiita.com/Junlee/items/91f70f1d5210c7dd016a#%E8%A1%8C%E5%88%97%E3%81%AE%E4%B9%97%E6%B3%95)でも説明したように、**$YP_rP_b$が新しい基底$A$でのベクトルです。**

- **線形関数**

数学において、$\mathcal{L}$ が線型であるとは、$\mathcal{L}$  について以下の2つの性質
    - 加法性：任意の $x, y$ に対して 、$\mathcal{L}(x+y)=\mathcal{L}(x)+\mathcal{L}(y)$
    - 斉次性: 任意の $x, α$ に対して 、$\mathcal{L}(a\boldsymbol{x})=a\mathcal{L}(\boldsymbol{x})$

## [第14回 回転行列関数](https://qiita.com/Junlee/items/a27fe03e7687da37dc16)
一般的な回転関数$A$:
```math  
\underbrace{\begin{pmatrix}\cos\theta&-\sin\theta\\\sin\theta&\cos\theta\end{pmatrix}}_{\boldsymbol{A}}\quad\underbrace{\begin{pmatrix}x_1\\x_2\end{pmatrix}}_{\boldsymbol{x}}=\underbrace{\begin{pmatrix}y_1\\y_2\end{pmatrix}}_{\boldsymbol{y}}
```

## [第15回 一般的な行列関数](https://qiita.com/Junlee/items/5ab0ffa78ac987306df5)

- **単位行列**

単位行列関数$Ax=y$で、どんなインプットのベクトルでも、アウトプットが変わらないです。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327130/e021eea9-7321-f572-dd42-a761e95f1c7e.png)

- **鏡映変換行列**

幾何的意味であれば、以下のように回転して：
![2-reflection.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327130/8669a01d-15b7-d4fc-44a0-ccddc39002fb.gif)

- **拡大縮小行列**

幾何的意味は以下の通りです。
![2-scale_.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327130/1e083dba-844b-a06b-6431-caad00a73149.gif)


- **Shear 行列**

$Ax=y$関数を通して、インプットベクトル内の要素は、$y$が$e_1$の方向でへ移行移動しました。

```math  
入力ベクトル：\begin{pmatrix}x_1\\x_2\end{pmatrix}
\quad → 出力ベクトル：
\begin{pmatrix}x_1 + kx_2\\x_2\end{pmatrix}
```

幾何的意味は以下の通りです(以下の例では$k$が1ですので、右へ$1$の単位で移動しました)。
![2-shear.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327130/873c23e6-8547-1507-c165-ae218516cc62.gif)

## [第16回 行列関数の性質](https://qiita.com/Junlee/items/5b9a75a243ca449dfbc0)

- **行列関数の性質**

[行列の乗法の演算規則](https://qiita.com/Junlee/items/1a1655f7de15d509e258#%E8%A1%8C%E5%88%97%E3%81%AE%E4%B9%97%E6%B3%95%E3%81%AE%E6%BC%94%E7%AE%97%E8%A6%8F%E5%89%87)のと同じで、行列関数も以下の性質があります。

```math  
\begin{array}{c|c}
    \hline
    \\
    \quad 交換律\quad&\quad 必ずしも成立しない\quad\\
    \quad スカラー倍交換律\quad&\quad \lambda(AB)=(\lambda A)B=A(\lambda B)（\lambdaが定数）\quad\\
    \quad 結合律\quad&\quad (AB)C=A(BC)\quad\\
    \quad 配分律\quad&\quad A(B+C)=AB+AC\quad\\
    \\
    \hline
\end{array}
```

# 5. 行列の階数

## [第17回 行列の階数](https://qiita.com/Junlee/items/9dfed328ec30e1089ea1)

全ての行列にとって、**行階数と列階数が同じ**ですので、**行列の階数**と呼びます。
行列$A$の階数が$rank(A)$、或は $r(A)$と記します。


例えば、行列$A$の列空間と行空間とも平面なので、列階数と行階数が両方とも$２$になります。
```math 
\boldsymbol{A}=\begin{pmatrix}-1&2\\0&2\\1&-2\end{pmatrix}
 ```

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327130/c7c80f21-96a5-686d-595f-625b08f67949.png)
- 左側 $c_1,c_2$が二つの三次元ベクトルです。
- 右側 $r_1{^T},r_2{^T},r_3{^T}$が三つの二次元ベクトルです。



## :red_circle:[第18回 行列関数の四つの要素](https://qiita.com/Junlee/items/ea2d5451fece9931895c)

**行列関数の四つの要素です。**
- 定義域(ていぎいき)：集合$X$
- マッピング規則$f$：集合$X$での要素と集合$Y$での要素の関連関係を示す
- 値域：マッピング規則と定義域$X$で決まる（上記例では、${\color{red}●}$と${\color{green}●}$と${\color{yellow}●}$です。）
- 到達域：集合$X$

図で表すと、以下のようになります。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327130/40aa8bfa-8b58-ba62-c7e8-27e38442706d.png)

**例えば、関数$f(x)=x^2,x\in\mathbb{R}$、四つの要素が：**

```math
\begin{array}{c|c|c|c}
    \hline
    \quad定義域\quad&\quad マッピング規則 \quad&\quad 値域 \quad&\quad 到達域 \quad\\\hline\\
    \quad \mathbb{R} \quad&\quad x^2 \quad&\quad \mathbb{R}^{+}\cup\{0\} \quad&\quad \mathbb{R} \quad\\
    \\
    \hline
\end{array}
  ```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327130/2732a582-8478-f2f1-2592-16980bcbafc6.png)

## [第19回 行列関数の値域](https://qiita.com/Junlee/items/00c74904a0c7ead8bfea)


- **ランクの値の範囲**

```math 
0\le rank(A_{m\times n})\le\min(m,n)
```

- **転置行列のランク**

```math 
rank(A)=rank(A^\mathrm{T})
```

- **合成関数のランク**

```math 
rank(AB)\leq\min\Big(rank(A),rank(B)\Big)
```

- **$P,Q$がフルランクの行列であれば：**

```math 
rank(PA)=rank(AQ)=rank(PAQ)=rank(A)
```

- **$A,B$が同じ形の行列であれば：**

```math 
rank(A+B)\le rank(A)+rank(B)
```

-  **列ベクトル行列関数の値域**

$A$が$m\times n$の行列であれば、自然な定義域での関数$Ax=y$四つ要素が：
```math  
\begin{array}{c|c|c|c}
    \hline
    \quad 自然な定義域\quad&\quad マッピング規則 \quad&\quad 値域 \quad&\quad 到達域\quad\\\hline\\
    \quad \mathbb{R}^n \quad&\quad \boldsymbol{A} \quad&\quad colsp(\boldsymbol{A}) \quad&\quad \mathbb{R}^m \quad\\
    \\
    \hline
\end{array}
```

- **行ベクトル行列関数の値域**

$A$が$m\times n$の行列であれば、自然な定義域での関数$x^T{A}=y^T$四つ要素が：
```math  
\begin{array}{c|c|c|c}
    \hline
    \quad 自然な定義域\quad&\quad マッピング規則 \quad&\quad 値域 \quad&\quad 到達域\quad\\\hline\\
    \quad \mathbb{R}^m \quad&\quad \boldsymbol{A} \quad&\quad rowsp(\boldsymbol{A}) \quad&\quad \mathbb{R}^n \quad\\
    \\
    \hline
\end{array}
```

- **行列のランク**

```math  
\begin{array}{c|c|c}
    \hline
    \quad \text{自然な定義域}\quad&\quad \text{ランク}\quad&\quad \text{値域次元数}\quad \\
    \hline 
    \quad \mathbb{R}^2\quad&\quad\begin{aligned}rank(\boldsymbol{A})=2\\rank(\boldsymbol{A})=1\\
        rank(\boldsymbol{A})=0\end{aligned}\quad&\quad\begin{aligned}\text{2 次元}\\\text{1 次元}\\\text{0 次元}\end{aligned}\quad\\
    \hline
\end{array}
```

## [第20回 行列関数の単射](https://qiita.com/Junlee/items/d266d464d0620c72044b)

- **[まとめ]単射**

自然な定義域で、
```math
\begin{array}{c|c|c|c}
    \hline
    \quad行列関数\quad&\quad 必要十分条件 \quad\\\hline\\
    \quad \boldsymbol{A}\boldsymbol{x}=\boldsymbol{y} \quad&\quad 列フルランク行列 \iff 単射 \quad\\
    \quad \boldsymbol{x}^\mathrm{T}\boldsymbol{A}=\boldsymbol{y}^\mathrm{T} \quad&\quad 行フルランク行列 \iff 単射\quad\\
    \\
    \hline
\end{array}
```

## [第21回 行列関数の全射](https://qiita.com/Junlee/items/b495a86f58afac95a433)

- **全射は、到達域と値域の関係です**

> 単射は定義域と地域の関係です

自然な定義域で：
```math
\begin{array}{c|c|c|c}
    \hline
    \quad行列関数\quad&\quad 全射の必要十分条件 \quad\\\hline\\
    \quad \boldsymbol{A}\boldsymbol{x}=\boldsymbol{y} \quad&\quad 行フルランク \iff 全射 \quad\\
    \quad \boldsymbol{x}^\mathrm{T}\boldsymbol{A}=\boldsymbol{y}^\mathrm{T} \quad&\quad 列フルランク \iff 全射\quad\\
    \\
    \hline
\end{array}
```

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327130/492e183f-8856-5645-a860-6e69771d5a23.png)


## [第22回 行列関数の全単射](https://qiita.com/Junlee/items/c15ebf923255a6a74c53)

<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327130/86b67547-8621-28b7-7a71-e5dbe47b9808.png" width=480>

全単射は単射且つ全射ですので、二つの必要十分条件を合わせる必要があります。

```math 

\begin{array}{c|c|c|c}
    \hline
    \quad行列関数\quad&\quad 単射の必要十分条件 \quad&\quad 全射の必要十分条件 \quad&\quad 全単射の必要十分条件 \quad\\\hline\\
    \quad \begin{aligned}A\boldsymbol{x}=\boldsymbol{y}\ \ \\\boldsymbol{x}^\mathrm{T}A=\boldsymbol{y}^\mathrm{T}\end{aligned} \quad&\quad \begin{aligned}列フルランク\\行フルランク\end{aligned} \quad&\quad \begin{aligned}行フルランク\\列フルランク\end{aligned} \quad&\quad フルランク\quad\\
    \\
    \hline
\end{array}

```

1. 単射：定義域＝値域、唯一な解あるか
1. 全射：到達域＝値域、解存在か(指定の値が値域にあるのか)
1. 全単射：定義域＝値域＝到達域、解ある且つ唯一な解
1. フルランク：列フルランク且つ行フルランク、また、列ランク＝行ランクですので、$\ →　$　正方形行列

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327130/76e6200b-b3a7-f06d-c621-52a7ee1270ea.png)


## [第23回 逆行列](https://qiita.com/Junlee/items/1b07daa3fb36dcfa9286)

- **逆行列の演算規則**

- $A$は逆行列があれば、$A^{-1}$も逆行列あり：$(\boldsymbol{A}^{-1})^{-1}=\boldsymbol{A}$
- $A$は逆行列があり、実数 $\lambda\ne 0$、$\lambda\boldsymbol{A}$も逆行列あり：$(\lambda\boldsymbol{A})^{-1}=\frac{1}{\lambda}\boldsymbol{A}^{-1}$
- $A$と$B$とも逆行列あり且つ次元数が同じな正方形行列、$\boldsymbol{A}\boldsymbol{B}$も逆行列あり：$(\boldsymbol{A}\boldsymbol{B})^{-1}=\boldsymbol{B}^{-1}\boldsymbol{A}^{-1}$
- $A$は逆行列があれば、$A^{-T}$も逆行列あり：  $ (\boldsymbol{A}^\mathrm{T})^{-1}=(\boldsymbol{A}^{-1})^\mathrm{T}$

- **逆行列の定義**
二つ$n$次元の正方形行列$A,C$があり、$A,C$のドット積が$n$次元の単位行列$I$：
$AC=I$　且つ　$CA=I$
があれば、$C$が$A$の逆行列です。即ち$A^{-1}=C$、且つ$A^{-1}$が唯一のものです。

## [第24回 行基本変形による階数の求め方](https://qiita.com/Junlee/items/9335596fe61af8e81993)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327130/2625bd21-46ed-3e68-faa7-4b45f9767a22.png)

- **列の基本変形**
```math  

\begin{array}{c|c|c}
    \hline
    \quad 基本列操作\quad &\quad 操作\quad &\quad 基本列行列\quad\\
    \hline
    \\
    \quad \color{SkyBlue}{j列目のk倍を加える}\quad &\quad \boldsymbol{c_1}'=\boldsymbol{c_1}+k\boldsymbol{c_2}\quad &\quad \begin{pmatrix}1&0&0\\{\color{red}{k}}&1&0\\0&0&1\end{pmatrix}\quad
    \\
    \\
    \hline
    \\
    \quad \color{Goldenrod}{ある列をk倍する}\quad &\quad \boldsymbol{c_1}'=k\boldsymbol{c_1} (k\neq 0)\quad &
    \quad \begin{pmatrix}{\color{red}{k}}&0&0\\0&1&0\\0&0&1\end{pmatrix}\quad \\
    \\
    \hline
    \\
    \quad \color{orange}{入れ替える}\quad &\quad \boldsymbol{c_1}\leftrightarrow \boldsymbol{c_2}\quad &
    \quad \begin{pmatrix}{\color{red}{0}}&{\color{red}{1}}&0\\
    {\color{red}{1}}&{\color{red}{0}}&0\\{\color{red}{0}}&{\color{red}{0}}&1\end{pmatrix}\quad \\
    \\
    \hline
\end{array}


```

- **[比較]行の基本変形**
```math  

\begin{array}{c|c|c}
    \hline
    \quad 基本行操作\quad &\quad 操作\quad &\quad 基本行行列\quad\\
    \hline
    \\
    \quad \begin{aligned}\color{SkyBlue}{j行目のk倍を加える}\qquad\qquad\quad\\\text{row-addition transformations}\end{aligned}\quad &\quad \boldsymbol{r_1}'=\boldsymbol{r_1}+k\boldsymbol{r_2}\quad &\quad \begin{pmatrix}1&{\color{red}{k}}&0\\0&1&0\\0&0&1\end{pmatrix}\quad
    \\
    \\
    \hline
    \\
    \quad \begin{aligned}\color{Goldenrod}{ある行をk倍する}\qquad\qquad\quad\\\text{row-multiplying transformations}\end{aligned}\quad &\quad \boldsymbol{r_1}'=k\boldsymbol{r_1} (k\neq 0)\quad &
    \quad \begin{pmatrix}{\color{red}{k}}&0&0\\0&1&0\\0&0&1\end{pmatrix}\quad \\
    \\
    \hline
    \\
    \quad \begin{aligned}\color{orange}{入れ替える}\qquad\qquad\quad\\\text{row-switching transformations}\end{aligned}\quad &\quad \boldsymbol{r_1}\leftrightarrow \boldsymbol{r_2}\quad &
    \quad \begin{pmatrix}{\color{red}{0}}&{\color{red}{1}}&{\color{red}{0}}\\
    {\color{red}{1}}&{\color{red}{0}}&{\color{red}{0}}\\0&0&1\end{pmatrix}\quad \\
    \\
    \hline
\end{array}

```

- **標準形行列**

行の簡約形の行列を更に、列の基本変形をすると、もっとシンプルな行列になります。

```math
\begin{pmatrix}1&2&0\\0&0&1\\0&0&0\end{pmatrix}\xrightarrow[\color{red}{\text{1列目の-2倍を２列目に加える}}]{\quad \boldsymbol{c}_2'=-2\boldsymbol{c}_1+\boldsymbol{c}_2\quad}\begin{pmatrix}1&0&0\\0&0&1\\0&0&0\end{pmatrix}\xrightarrow[\color{red}{\text{入れ替える}}]{\quad \boldsymbol{c}_2\leftrightarrow \boldsymbol{c}_3\quad}\begin{pmatrix}1&0&0\\0&1&0\\0&0&0\end{pmatrix}
```

このシンプルな行列の特徴は、左上が単位行列です。その以外は全部$0$です。これが**標準形行列**です。

```math

\left(
\begin{matrix}
    \left(\begin{aligned}1\ \ \ 0\\0\ \ \ 1\end{aligned}\right)&\begin{aligned}0\\0\end{aligned}\\
    0\ \ \ 0& 0
\end{matrix}
\right)

```


## :red_circle: [第25回 ブロック行列](https://qiita.com/Junlee/items/3758700e4186e9d6a26b)

- 行列関数には、**列ベクタル行列関数**と**行ベクタル行列関数**があります：

```math
A\boldsymbol{x}=\boldsymbol{y},\quad \boldsymbol{x}^\mathrm{T}A=\boldsymbol{y}^\mathrm{T}
```
- 行列には、列ランクと行ランクがあり、且つ**行ランク=列ランク**、全部**行列のランク**と呼びます。

- 行列のランクが行列関数が自然な定義域での値域の次元数：<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327130/2e626597-aa53-5673-803a-ff5d7b2c26f5.png" width=480>

- 行列関数の単射、全射、全単射の充分必要条件：

```math 
\begin{array}{c|c|c|c}
    \hline
    \quad行列関数\quad&\quad 単射 \quad&\quad 全射 \quad&\quad 全単射 \quad\\\hline\\
    \quad \begin{aligned}A\boldsymbol{x}=\boldsymbol{y}\ \ \\\boldsymbol{x}^\mathrm{T}A=\boldsymbol{y}^\mathrm{T}\end{aligned} \quad&\quad \begin{aligned}列フルランク\\行フルランク\end{aligned} \quad&\quad \begin{aligned}行フルランク\\列フルランク\end{aligned} \quad&\quad フルランク\quad\\
    \\
    \hline
\end{array}

```

- 行列$A$がフルランク行列の時に、行列関数の$Ax=y$が全単射になり、この時に、行列$A$も反関数の$A^{-1}$があります。**逆行列**とも呼びます。また、基本行変形で逆行列を解きます。

```math 
\underbrace{E_1E_2...E_n}_{A^{-1}}A=I
```

- 基本行変形、基本列変形で行列$A$を**行階段形行列**、**行簡約行列**、及び**標準形行列**に変換して、行列のランクを解きます。

```math 
\begin{array}{c|c|c}
    \hline
    \quad\quad&\quad行階段形行列\ 或は\ 行簡約行列\quad\quad&\quad標準形行列\quad \\
    \hline \\
    \quad A\quad & \quad PA \quad &\quad  PAQ\quad \\
    \\
    \hline
\end{array}
```
> $P$が基本行の組み合わせ；$Q$が基本列の組み合わせです。

- 最後に、ブロック行列で、大きいの行列演算を小さい行列演算に変換して、行列のランク、逆行列を解きやすくなります。
```math 
A=\begin{pmatrix}A_{11}&A_{12}\\A_{21}&A_{22}\end{pmatrix}
```

- **シルベスターの不等式の例題**

<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327130/e6131cb3-fb5b-c5b9-4a4f-80f7eedecb54.png" width=480>