『スタンフォード ベクトル・行列からはじめる最適化数学』5章章末問題の解答

[スタンフォード ベクトル・行列からはじめる最適化数学](https://amzn.to/3LbI555)
<a href="https://www.amazon.co.jp/%E3%82%B9%E3%82%BF%E3%83%B3%E3%83%95%E3%82%A9%E3%83%BC%E3%83%89-%E3%83%99%E3%82%AF%E3%83%88%E3%83%AB%E3%83%BB%E8%A1%8C%E5%88%97%E3%81%8B%E3%82%89%E3%81%AF%E3%81%98%E3%82%81%E3%82%8B%E6%9C%80%E9%81%A9%E5%8C%96%E6%95%B0%E5%AD%A6-KS%E6%83%85%E5%A0%B1%E7%A7%91%E5%AD%A6%E5%B0%82%E9%96%80%E6%9B%B8-%E3%82%B9%E3%83%86%E3%83%95%E3%82%A1%E3%83%B3%E3%83%BB%E3%83%9C%E3%82%A4%E3%83%89/dp/4065161967?&linkCode=li2&tag=aokikenichi-22&linkId=ac095d386d0cfe3a604a7fe59e4dfefe&language=ja_JP&ref_=as_li_ss_il" target="_blank"><img border="0" src="//ws-fe.amazon-adsystem.com/widgets/q?_encoding=UTF8&ASIN=4065161967&Format=_SL160_&ID=AsinImage&MarketPlace=JP&ServiceVersion=20070822&WS=1&tag=aokikenichi-22&language=ja_JP" ></a><img src="https://ir-jp.amazon-adsystem.com/e/ir?t=aokikenichi-22&language=ja_JP&l=li2&o=9&a=4065161967" width="1" height="1" border="0" alt="" style="border:none !important; margin:0px !important;" />

の演習問題を解いているが解答が本書内にもネット上にもない模様。自分の解答を晒して間違いにツッコミをいただき理解を深めようという試み。

# 第5章
- 問5.1
    - (a)

```math 
\begin{align}
\beta_1a_1+\cdots+\beta_ka_k&\ne0\quad \exists{\beta}\quad \betaはスカラー\\
\beta_1c_1+\cdots+\beta_kc_k&=\beta_1
\begin{bmatrix}
a_1 \\
b_1 \\
\end{bmatrix}
+\cdots+\beta_k
\begin{bmatrix}
a_k \\
b_k \\
\end{bmatrix}
\tag{1}\\
仮にb_1, \cdots, b_kが線形従属だったとしても&aが線形独立なので式(1)は0にはならない。\\
\therefore &c_1, \cdots, c_kは線形独立と言える。
\end{align}
```

-    - (b)

```math 
\begin{align}
\beta_1a_1+\cdots+\beta_ka_k&=0\quad \exists{\beta}\quad \betaはスカラー\\
b_1, \cdots, b_kが線形従属であれば&cも線形従属であるがbにはなんの過程もないのでcは線形従属とは言えない。
\end{align}
```

- 問5.2
    - Googleの株式のリターンと他の企業の株式のリターンが線形独立でなければ線形結合で表すことはありうる。線形独立であることは考えにくいので、線形結合で表すことはありうると考えられる。

- 問5.3

```math 
\begin{align}
l_i&=
\begin{bmatrix}
0_{i-1} \\
1 \\
-(1+r) \\
0_{n-i-1}\\
\end{bmatrix}
\quad i=1, \cdots, n-1 \\
\beta_1e_1+\beta_2l_1\cdots+\beta_nl_{n-1}&=0\\
c&=\alpha_1e_1+\alpha_2l_1+\cdots+\alpha_nl_{n-1}\\
\alpha_1&=e_1+\frac{e_2}{1+r}+\cdots+\frac{e_n}{(1+r)^{n-1}}\\
\begin{bmatrix}
\beta_1+\beta_2 \\
\beta_3-(1+r)\beta_2 \\
\cdots \\
\beta_n-(1+r)\beta_{n-1}\\
-(1+r)\beta_n \\
\end{bmatrix}
&=0\\
\beta_n&=0\\
\begin{bmatrix}
\alpha_1+\alpha_2 \\
\alpha_3-(1+r)\alpha_2 \\
\cdots \\
\alpha_n-(1+r)\alpha_{n-1}\\
-(1+r)\alpha_n \\
\end{bmatrix}
&=0\\
\alpha_n=-\frac{c}{1+r}\\
-\frac{c}{1+r}-(1+r)\alpha_{n-1}&=c\\
\alpha_{n-1}&=-\frac{2+r}{(1+r)^2}c\\
-\frac{2+r}{(1+r)^2}-(1+r)\alpha_{n-2}&=c\\
\alpha_{n-2}&=-\frac{3+3r+r^2}{(1+r)^3}c\\
\alpha_{n-i}&=-\frac{\sum_{k=1}^i{(1+r)^k}}{(1+r)^{i+1}}\\
\alpha_1&=-\frac{\sum_{k=1}^{n-1}{(1+r)^k}}{(1+r)^{n-i+1}}\\
d^{\top}c&=c_1+\frac{c_2}{1+r}+\cdots+\frac{c_n}{(1+r)^{n-1}}\\
\end{align}
```

- 問5.4

```math 
\begin{align}
\|x\|&=\sqrt{\beta_1^2a_1^2+\cdots+\beta_k^2a_k^2}\\
&=\sqrt{\beta_1^2+\cdots+\beta_k^2}
\end{align}

```

- 問5.5

```math 
\begin{align}
a&=(a_1, \cdots, a_n) \\
b&=(b_1, \cdots, b_n) \\
(a-\gamma b)\cdot b&=0 より\\
(a_1-\gamma b_1)b_1+\cdots+(a_n-\gamma b_n)b_n&=0\\
a_1b_1-\gamma b_1^2+\cdots+a_nb_n-\gamma b_n^2&=0\\
\gamma&=\frac{a_1b_1+\cdots+a_nb_n}{b_1^2+\cdots+b_n^2}\\
よって、b&\ne0ならば一意な\gammaが存在する。
\end{align}
```

- 問5.6

```math 
\begin{align}
\tilde{q_1}&=a_1\\
step.1\quad\tilde{q_i}&=a_i-(q_1^{\top}a_i)q_1-\cdots-(q_{i-1}^{\top}a_i)q_{i-1}\\
step.2\quad\tilde{q_i}&=0ならば終了\\
step.3\quad q_i&=\frac{\tilde{q_i}}{\|\tilde{q_i}\|}\\
\\
\tilde{q_1}&=(1, 0, \cdots, 0)^{\top}\quad q_1=(1, 0, \cdots, 0)^{\top}\\
\tilde{q_2}&=a_2-(q_1^{\top}a_2)q_1\\
&=
\begin{bmatrix}
1\\
1\\
0\\
\cdots\\
0\\
\end{bmatrix}
-(1,0,\cdots,0)
\begin{bmatrix}
1\\
1\\
0\\
\cdots\\
0\\
\end{bmatrix}
\begin{bmatrix}
1\\
0\\
0\\
\cdots\\
0\\
\end{bmatrix}\\
&=
\begin{bmatrix}
1\\
1\\
0\\
\cdots\\
0\\
\end{bmatrix}
-(1,0,\cdots,0)
\begin{bmatrix}
1\\
0\\
0\\
\cdots\\
0\\
\end{bmatrix}\\
&=
\begin{bmatrix}
1\\
1\\
0\\
\cdots\\
0\\
\end{bmatrix}
-
\begin{bmatrix}
1\\
0\\
0\\
\cdots\\
0\\
\end{bmatrix}\\
&=
\begin{bmatrix}
0\\
1\\
0\\
\cdots\\
0\\
\end{bmatrix}
=q_2\\
\tilde{q_3}&=a_3-(q_1^{\top}a_3)q_1-(q_2^{\top}a_3)q_2\\
&=
\begin{bmatrix}
1\\
1\\
1\\
0\\
\cdots\\
0\\
\end{bmatrix}
-(1,0,\cdots,0)
\begin{bmatrix}
1\\
1\\
1\\
0\\
\cdots\\
0\\
\end{bmatrix}
(1,0,\cdots,0)-(0,1,0,\cdots,0)
\begin{bmatrix}
1\\
1\\
1\\
0\\
\cdots\\
0\\
\end{bmatrix}
(0,1,0,\cdots,0)\\
&=
\begin{bmatrix}
1\\
1\\
1\\
0\\
\cdots\\
0\\
\end{bmatrix}
-
\begin{bmatrix}
1\\
0\\
0\\
0\\
\cdots\\
0\\
\end{bmatrix}
(1,0,\cdots,0)-
\begin{bmatrix}
0\\
1\\
0\\
0\\
\cdots\\
0\\
\end{bmatrix}
-(0,1,0,\cdots,0)\\
&=
\begin{bmatrix}
1\\
1\\
1\\
0\\
\cdots\\
0\\
\end{bmatrix}
-
\begin{bmatrix}
1\\
0\\
0\\
0\\
\cdots\\
0\\
\end{bmatrix}
-
\begin{bmatrix}
0\\
1\\
0\\
0\\
\cdots\\
0\\
\end{bmatrix}\\
&=
\begin{bmatrix}
0\\
0\\
1\\
0\\
\cdots\\
0\\
\end{bmatrix}
=q_3\\
\end{align}\\
同様に、q_1,\cdots,q_nは正規直交基底。\\
a_1,\cdots,a_nは線形独立であり、基底である。
```

- 問5.7

```math 
q_1, \cdots, q_kは正規直交基底なので、それに再びグラムシュミットの法を適用した\\
z_1, \cdots, z_kはq_1, \cdots, q_kと等しい。
```

- 問5.8

```math 
\tilde{q_i}=0ならばa_jがq_1,\cdots,q_{j-1}の線形結合となるから\\
答え (c)
```

- 問5.9

```math 
計算量2nk^2で2秒かかっているので、\frac{\tilde{k}}{k}=\frac{1}{2}より\\
計算時間は\frac{1}{4}となるから\\
2\frac{1}{4}=0.5\\
答え 0.5秒
```

----
- [『スタンフォード ベクトル・行列からはじめる最適化数学』4章章末問題の解答](https://qiita.com/aokikenichi/items/b6ab8cabb63a82febe92)
- [『スタンフォード ベクトル・行列からはじめる最適化数学』6章章末問題の解答](https://qiita.com/aokikenichi/items/3092729f7bbfbd803d3b)