応用数学　第一章　線形代数

##個人的メモ

######スカラーとベクトルの違い
- スカラー
四則演算ができるもの

- ベクトル
数字の組み合わせ。大きさと向きを持つ。矢印で図示される。

######行列とは
- スカラーを表にしたもの
- ベクトルを並べたもの

######連立１次方程式
未知数が２つならば、関係式が２つあれば、未知数が求まる。

- 行列を用いた表示
$$x_1+2x_2=3$$
$$2x_1+5x_2=5$$

→　

```math
\begin{pmatrix}
1 & 2 \\
2 & 5
\end{pmatrix}
\begin{pmatrix}
x_1 \\
x_2
\end{pmatrix}
=
\begin{pmatrix}
3 \\
5
\end{pmatrix}
```
######行列とベクトルの積
- 例題

```math
\begin{pmatrix}
6 & 4 \\
3 & 5
\end{pmatrix}
\begin{pmatrix}
1 \\
2
\end{pmatrix}
=
\begin{pmatrix}
6×1 + 4×2 \\
3×1 + 5×2
\end{pmatrix}
=
\begin{pmatrix}
14 \\
13
\end{pmatrix}

```
「行」と「列」で新たな行列の成分を求めることができる。

- 行基本変形

例えば

```math
\left\{
\begin{array}{ll}
 x_1+4x_2=7\\
 2x_1+6x_2=10
\end{array}
\right.
```

2行目を1/2倍する

```math
\left\{
\begin{array}{ll}
 x_1+4x_2=7\\
 x_1+3x_2=5
\end{array}
\right.
```
1行目に2行目の-1を加える

```math
\left\{
\begin{array}{ll}
　　  x_2=2\\
 x_1+3x_2=5
\end{array}
\right.
```
2行目に1行目の-3倍を加える

```math
\left\{
\begin{array}{ll}
　　  x_2=2\\
 x_1　　 =-1
\end{array}
\right.
```
１行目と２行目を入れ替える

```math
\left\{
\begin{array}{ll}
　　  x_1=-1\\
     x_2 =2
\end{array}
\right.
```
完成。

作業内容として

- i行目をc倍する
- s行目にｔ行目のc倍を加える
- p行目とｑ行目を入れ替える

行列を使った式で表すと

```math
\begin{pmatrix}
1 & 4 \\
2 & 6
\end{pmatrix}
\begin{pmatrix}
x_1 \\
x_2
\end{pmatrix}
=
\begin{pmatrix}
7 \\
10
\end{pmatrix}
```

2行目を1/2倍する


```math
\begin{pmatrix}
1 & 4 \\
1 & 3
\end{pmatrix}
\begin{pmatrix}
x_1 \\
x_2
\end{pmatrix}
=
\begin{pmatrix}
7 \\
5
\end{pmatrix}
```

1行目に2行目の-1を加える

```math
\begin{pmatrix}
0 & 1 \\
1 & 3
\end{pmatrix}
\begin{pmatrix}
x_1 \\
x_2
\end{pmatrix}
=
\begin{pmatrix}
2 \\
5
\end{pmatrix}
```
2行目に1行目の-3倍を加える

```math
\begin{pmatrix}
0 & 1 \\
1 & 0
\end{pmatrix}
\begin{pmatrix}
x_1 \\
x_2
\end{pmatrix}
=
\begin{pmatrix}
2 \\
-1
\end{pmatrix}
```
１行目と２行目を入れ替える


```math
\begin{pmatrix}
1 & 0 \\
0 & 1
\end{pmatrix}
\begin{pmatrix}
x_1 \\
x_2
\end{pmatrix}
=
\begin{pmatrix}
-1 \\
2
\end{pmatrix}
```

手順を行列で表すと

2行目を1/2倍する


```math
\begin{pmatrix}
1 & 0 \\
0 & 1/2
\end{pmatrix}
×
```
1行目に2行目の-1を加える

```math
\begin{pmatrix}
1 & -1 \\
0 & 1
\end{pmatrix}
×
```
2行目に1行目の-3倍を加える

```math
\begin{pmatrix}
1 & 0 \\
-3 & 1
\end{pmatrix}
×
```
１行目と２行目を入れ替える

```math
\begin{pmatrix}
0 & 1 \\
1 & 0
\end{pmatrix}
×
```
形式的に書くと
<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/653571/b3659df9-00c1-b559-3228-5b5849b4485c.png" width=20%>

先程の行基本変形に対応する行列をかけたなら

```math
\begin{pmatrix}
0 & 1 \\
1 & 0
\end{pmatrix}
×
\begin{pmatrix}
1 & 0 \\
-3 & 1
\end{pmatrix}
×
\begin{pmatrix}
1 & -1 \\
0 & 1
\end{pmatrix}
×
\begin{pmatrix}
1 & 0 \\
0 & 1/2
\end{pmatrix}
```


つまり

```math
\begin{pmatrix}
-3 & 2 \\
1 & -1/2
\end{pmatrix}
```
をかける。

まるで逆数のような働きをするので、逆行列と呼ぶ。

- 逆行列の求め方

例題

```math
\begin{pmatrix}
1 & 4 \\
2 & 6
\end{pmatrix}
\begin{pmatrix}
x_1 \\
x_2
\end{pmatrix}
=
\begin{pmatrix}
7 \\
10
\end{pmatrix}
```
を

```math
\begin{pmatrix}
1 & 4 \\
2 & 6
\end{pmatrix}
\begin{pmatrix}
x_1 \\
x_2
\end{pmatrix}
=
\begin{pmatrix}
1 & 0\\
0 & 1
\end{pmatrix}
\begin{pmatrix}
7 \\
10
\end{pmatrix}
```
と考える。

左右の係数の行列に同じ行基本変形を実行したと考えてみれば、

<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/653571/85dc29fa-9574-38dc-beef-250be8553e58.png" width=40%>

これを掃き出し法という。


- 逆行列が存在しない条件

<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/653571/4d78b8ad-4e73-34f3-9dcf-0c1c494dabdf.png" width=30%>


- 行列式の特徴

<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/653571/308cff67-6eb4-bac9-c205-137776873ca4.png" width=40%>

また

<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/653571/8b89a524-ebc7-a554-90e4-b09d0bdabb60.png" width=40%>


####固有値と固有ベクトル

例題

```math
\begin{pmatrix}
1 & 4 \\
2 & 3
\end{pmatrix}
\begin{pmatrix}
1 \\
1
\end{pmatrix}
=
\begin{pmatrix}
5 \\
5
\end{pmatrix}
=5
\begin{pmatrix}
1 \\
1
\end{pmatrix}
```
固有値 λ=5
固有ベクトル（のうちの一つ) 

```math
\vec {x} =
\begin{pmatrix}
1 \\
1
\end{pmatrix}
```

- 固有値・固有ベクトルの求め方

```math
A\vec {x} =λ\vec{x}
\\
(A-λI)\vec{x}=\vec{0}
\\
\vec{x} \neq \vec{0}
```
より

```math
\begin{vmatrix}
A-λI
\end{vmatrix}
=0\\
\begin{vmatrix}
1-λ & 4 \\
2 & 3-λ
\end{vmatrix}=0\\
λ= 5\quad or -1
```
\\

```math
\begin{pmatrix}
1 & 4 \\
2 & 3
\end{pmatrix}
\begin{pmatrix}
x_1 \\
x_2
\end{pmatrix}
=5
\begin{pmatrix}
x_1 \\
x_2
\end{pmatrix}
```
よって

```math
x_1=x_2
```

また

```math
\begin{pmatrix}
1 & 4 \\
2 & 3
\end{pmatrix}
\begin{pmatrix}
x_1 \\
x_2
\end{pmatrix}
=-1
\begin{pmatrix}
x_1 \\
x_2
\end{pmatrix}
```
よって

```math
x_1=-2x_2
```

λ=5のとき

```math
\vec{x} =
\begin{pmatrix}
1  \\
1 
\end{pmatrix}
```
λ=-1のとき


```math
\vec{x} =
\begin{pmatrix}
2  \\
-1 
\end{pmatrix}
```
となる。

- 固有値分解

$$A = V \Lambda V^{-1}$$

- 特異値分解
$$M = USV^{T}$$

特異値の求め方

```math
MV = US  \\ 
M^{T}U = VS^{T}
```
```math
M = USV^{T} \\
M^{T} = VS^{T}U^{T}
```
これらの積は
$$MM^{T} = USV^{T}VS^{T}U^{T} = USS^{T}U^{T}$$