『スタンフォード ベクトル・行列からはじめる最適化数学』10章章末問題の解答(2/2)

[スタンフォード ベクトル・行列からはじめる最適化数学](https://amzn.to/3LbI555)
<a href="https://www.amazon.co.jp/%E3%82%B9%E3%82%BF%E3%83%B3%E3%83%95%E3%82%A9%E3%83%BC%E3%83%89-%E3%83%99%E3%82%AF%E3%83%88%E3%83%AB%E3%83%BB%E8%A1%8C%E5%88%97%E3%81%8B%E3%82%89%E3%81%AF%E3%81%98%E3%82%81%E3%82%8B%E6%9C%80%E9%81%A9%E5%8C%96%E6%95%B0%E5%AD%A6-KS%E6%83%85%E5%A0%B1%E7%A7%91%E5%AD%A6%E5%B0%82%E9%96%80%E6%9B%B8-%E3%82%B9%E3%83%86%E3%83%95%E3%82%A1%E3%83%B3%E3%83%BB%E3%83%9C%E3%82%A4%E3%83%89/dp/4065161967?&linkCode=li2&tag=aokikenichi-22&linkId=ac095d386d0cfe3a604a7fe59e4dfefe&language=ja_JP&ref_=as_li_ss_il" target="_blank"><img border="0" src="//ws-fe.amazon-adsystem.com/widgets/q?_encoding=UTF8&ASIN=4065161967&Format=_SL160_&ID=AsinImage&MarketPlace=JP&ServiceVersion=20070822&WS=1&tag=aokikenichi-22&language=ja_JP" ></a><img src="https://ir-jp.amazon-adsystem.com/e/ir?t=aokikenichi-22&language=ja_JP&l=li2&o=9&a=4065161967" width="1" height="1" border="0" alt="" style="border:none !important; margin:0px !important;" />

の演習問題を解いているが解答が本書内にもネット上にもない模様。自分の解答を晒して間違いにツッコミをいただき理解を深めようという試み。

10章は問題数が多いので2記事に分けます。

-問10.23
```math
\begin{align}
I)n&=1のとき \\
A&=\begin{bmatrix}a_{11}\end{bmatrix} \\
A^2&=a_{11}\cdot a_{11}=0より\\
a_{11}&=0\\
よって、n&=1のときA=0 \\
II)n&=kのとき\\
A^2&=0 \implies A=0が成り立つと仮定する\\
n&=k+1のとき\\
A^2&=\sum_{i=1}^{n+1}{\sum_{j=1}^{n+1}{a_{ij}a_{ij}}} \\
&=\sum_{i=1}^{n}{\sum_{j=1}^{n}{a_{ij}a_{ij}}}+\sum_{i=1}^n{a_{i n+1}a_{i n+1}} + \sum_{j=1}^n{a_{n+1 j}a_{n+1 j}}+a_{n+1 n+1}a_{n+1 n+1}\\
前式の第１項は０だから　\\
&=\sum_{i=1}^n{a_{i n+1}^2} + \sum_{j=1}^n{a_{n+1 j}^2}+a_{n+1 n+1}^2
&=0 が成り立つのは\\
a_{i n+1}&=0 \\
a_{n+1 j}&=0 \\
a_{n+1 n+1}&=0 のときのみつまり\\
A_{k+1 k+1}&=\begin{bmatrix}0\\ \end{bmatrix} \\
I), II)&と数学的帰納法により、A=0が常に成り立つ
\end{align}
```

- 問10.24
```math
\begin{align}
(A+I)^3&=(A+I)^2(A+I) \\
&=(A^2+2A+I)(A+I) \\
&=A^3+3A^2+3A+I
\end{align}
```

- 問10.２５
    - (a)
```math
\begin{align}
n&=1のとき \\
\sqrt{(1)}&=(1), (-1) \\
n&=2のとき \\
\sqrt{
\begin{bmatrix}
1 & 0 \\
0 & 1 \\
\end{bmatrix}
}&=
\begin{bmatrix}
1 & 0 \\
0 & 1 \\
\end{bmatrix},
\begin{bmatrix}
-1 & 0 \\
0 & -1 \\
\end{bmatrix},
\begin{bmatrix}
-1 & 0 \\
0 & 1 \\
\end{bmatrix},
\begin{bmatrix}
1 & 0 \\
0 & -1 \\
\end{bmatrix}\\
n&=3のとき \\
\sqrt{
\begin{bmatrix}
1 & 0 & 0 \\
0 & 1 & 0 \\
0 & 0 & 1 \\
\end{bmatrix}
}&=
\begin{bmatrix}
1 & 0 & 0 \\
0 & 1 & 0 \\
0 & 0 & 1 \\
\end{bmatrix},\\
&\begin{bmatrix}
-1 & 0 & 0 \\
0 & -1 & 0 \\
0 & 0 & -1 \\
\end{bmatrix},\\
&\begin{bmatrix}
-1 & 0 & 0 \\
0 & 1 & 0 \\
0 & 0 & 1 \\
\end{bmatrix},\\
&\begin{bmatrix}
1 & 0 & 0 \\
0 & -1 & 0 \\
0 & 0 & 1 \\
\end{bmatrix},\\
&\begin{bmatrix}
1 & 0 & 0 \\
0 & 1 & 0 \\
0 & 0 & -1 \\
\end{bmatrix},\\
&\begin{bmatrix}
-1 & 0 & 0 \\
0 & 1 & 0 \\
0 & 0 & -1 \\
\end{bmatrix},\\
&\begin{bmatrix}
-1 & 0 & 0 \\
0 & -1 & 0 \\
0 & 0 & 1 \\
\end{bmatrix},\\
&\begin{bmatrix}
1 & 0 & 0 \\
0 & -1 & 0 \\
0 & 0 & -1 \\
\end{bmatrix} \\
n個の&対角要素が1か−1であれば良いからそのうちどれを−1とするかの組み合わせがある。\\
つまり、2^n個
\end{align}
```

-   - (b)
```math
\begin{align}
A&=\begin{bmatrix}
a & b \\
c & d ||
\end{bmatrix}とおくと\\
A^2&=Iより\\
\begin{bmatrix}
a^2+bc & ab+bd \\
ac+cd & bc+d^2 \\
\end{bmatrix}&=
\begin{bmatrix}
1 & 0 \\
0 & 1 \\
\end{bmatrix}\\

\left\{
\begin{array}{l}
a^2+bc&=1 \\
ab+bd&= 0 \\
ac+cd&=0 \\
bc+d^2&=1 \\
\end{array}
\right.\\
これを満たす&a, b, c, dの組を見つければ良いから、\\
b(a+d)&=0より\\
d&=-a \\
bc&=1-a^2 \\
bc&=1-d^2 \\
a&=1とおくとd=-1\\
bc&=0よりb=0とおくとcは何でも良いので、例えば２　\\
\begin{bmatrix}
1 & 0 \\
2 & -1 \\
\end{bmatrix}
\begin{bmatrix}
1 & 0 \\
2 & -1 \\
\end{bmatrix}&=
\begin{bmatrix}
1 & 0 \\
0 & 1 \\
\end{bmatrix}\\
\therefore \begin{bmatrix}
1 & 0 \\
2 & -1 \\
\end{bmatrix}
\end{align}
```
- 問10.26
    - (a)
```math
\begin{align}
x&=\begin{bmatrix}
x_1 \\
x_2 \\
x_3 \\
x_4 \\
x_5 \\
\end{bmatrix}とすると\\
Ax&=\begin{bmatrix}
0 & 0 & 0 & 0 & 1 \\
1 & 0 & 0 & 0 & 0 \\
0 & 2 & 0 & 0 & 0 \\
0 & 0 & 1 & 0 & 0 \\
0 & 0 & 0 & 1 & 0 \\
\end{bmatrix}
\begin{bmatrix}
x_1 \\
x_2 \\
x_3 \\
x_4 \\
x_5 \\
\end{bmatrix}\\
&=\begin{bmatrix}
x_5 \\
x_1 \\
x_2 \\
x_3 \\
x_4 \\
\end{bmatrix}\\
つまり&xの要素が次の要素移動し最後の要素が先頭にくる
\end{align}
```

-    (b) $A^5=I$

- 問10.27
```math
\begin{align}
x_6&=Bx_5 \\
&=B(Bx_4) \\
&\cdots \\
&=B^5x_1\\
t&=6の総産出量はx_6^{\top}\mathbf{1}だから\\
x_6^{\top}\mathbf{1}&=(B^5x_1)^{\top}\mathbf{1}\\
ここで、&(x_1)_iを+aしたとする\\
Bx_1&=B\begin{bmatrix}
(x_1)_1 \\
(x_1)_2 \\
\vdots \\
(x_1)_i \\
\vdots \\
(x_1)_n \\
\end{bmatrix}\\
Bのi列目&の要素の和が最大であればこの値が最も大きくなるから\\
逆にBの各行&の要素の和が最大となる列を列jとすれば、第j番目のセクターに\\
支出すれば&良い。
\end{align}
```

- 問10.28
```math
\begin{align}
x_T&=Ax_{T-1}+Bu_{T-1} \\
&=A(Ax_{T-2}+Bu_{T-2})+Bu_{T-1} \\
&=A^2x_{T-2}+ABu_{T-2}+Bu_{T-1} \\
&=A^2(Ax_{T-3}+Bu_{T-3})+ABu_{T-2}+Bu_{T-1} \\
&=A^3x_{T-3}+A^2Bu_{T-3}+ABu_{T-2}+Bu_{T-1} \\
&=\cdots \\
&=A^{T-1}x_1+A^{T-2}Bu_1+\cdots+BU_{T-1} \\
\therefore C_T&=\begin{bmatrix}
A^{T-2}B \\
A^{T-3}B \\
\vdots \\
AB \\
B\\
\end{bmatrix}
\end{align}
```

- 問10.29
```math
\begin{align}
x_{t+1}&=Ax_t+Bu_t \\
z_t&=x_{2t-1} \\
w_t&=(u_{2t-1}, u_{2t}) \\
w_1&=(u_1, u_2), w_2=(u_3, u_4), \cdots \\
z_{t+1}&=x_{2t}+1 \\
&=Ax_{2t}+Bu_{2t} \\
&=A(Ax_{2t-1}+Bu_{2t-1})+Bu_{2t} \\
&=A^2x_{2t-1}+ABu_{2t-1}+Bu_{2t}\\
&=A^2z_t+\begin{bmatrix}
AB \\
B \\
\end{bmatrix}w_t \\
F&=A^2 \\
G&=\begin{bmatrix}
AB \\
B \\
\end{bmatrix}とおくと\\
z_{t+1}&=Fz_t+Gw_t\\

\end{align}
```

- 問10.30
```math
\begin{align}
A&=\begin{bmatrix}
0 & 1 & 0 & 0 & 1 \\
1 & 0 & 1 & 0 & 0 \\
0 & 0 & 1 & 1 & 1 \\
1 & 0 & 0 & 0 & 0 \\
0 & 0 & 0 & 1 & 0 \\
\end{bmatrix} \\
A^{10}&=\begin{bmatrix}
53 & 31 & 44 & 59 & 57 \\
72 & 41 & 60 & 81 & 77 \\
70 & 40 & 58 & 78 & 75 \\
31 & 10 & 26 & 35 & 33 \\
18 & 11 & 15 & 20 & 20 \\
\end{bmatrix} \\
\therefore 53, 42, 58, 35, 20
\end{align}
```

- 問10.31
    - (a) $P=\sum_{i=1}^k{A^k} $
    - (b) 分からず
- 問10.32
    - (a)
```math
\begin{align}
\lim_{k\to \infty}{(1+\frac{0}{k})^k}&=1 \\
つまり、exp0&=1と一致する\\
\lim_{k\to \infty}{(1+\frac{I}{k})^k}&=\begin{bmatrix}
e & 0 & \cdots  & \\
0 & e & 0 & \\
\vdots & & \ddots & \\
 & & & e \\
\end{bmatrix}\\
つまり、expI&=\begin{bmatrix}
e & 0 & \cdots  & \\
0 & e & 0 & \\
\vdots & & \ddots & \\
 & & & e \\
\end{bmatrix}\\
\end{align}
```
-   - (b)
```math
\lim_{k\to\infty}{(1+\frac{A}{k})^k} \\
分からず
```

- 問10.33
```math
\begin{align}
a_{ij}&=\sum_{k=1}^j{j_kb_{ij}} \\
ここで、H&=\begin{bmatrix}
h_{11} & h_{12} & \cdots & h_{1n} \\
       & h_{22} & \cdots & h_{2n} \\
       &        & h_{33} & \vdots \\
0      &        &        & h_{nn} \\   
\end{bmatrix}とすると\\
BH&=
\begin{bmatrix}
b_{11} & b_{12} & \cdots & b_{1n} \\
b_{21} & b_{22} & \cdots & b_{2n} \\
\vdots &        & \ddots & \vdots \\
b_{m1} & b_{m2} & \cdots & b_{mn} \\
\end{bmatrix}
\begin{bmatrix}
h_{11} & h_{12} & \cdots & h_{1n} \\
       & h_{22} & \cdots & h_{2n} \\
       &        & h_{33} & \vdots \\
0      &        &        & h_{nn} \\   
\end{bmatrix}\\
&=
\begin{bmatrix}
h_{11}b_{11} & h_{12}b_{12} & \cdots \\
\vdots \\
\end{bmatrix}
となり題意を満たす。つまり(b)
\end{align}
```
- 問10.34
    - (a)
```math
\begin{bmatrix}
a_{11} & a_{12} & \cdots & a_{1n} \\
       & a_{22} & \cdots & a_{2n} \\
       &        & a_{33} & \vdots \\
0      &        &        & a_{mn} \\   
\end{bmatrix}\\
上三角行列の要素の一部が０のときは線型独立でない時もあるが、\\
０でなければ成り立つので行列の値によっては成り立つ。
```
-   - (b)列の数に対し、行数が多いため常に成り立たない。
    - (c)
```math
\begin{align}
まず２X２&行列で考えると\\
\begin{bmatrix}
a_{11} & a_{12} \\
a_{21} & a_{22} \\
\end{bmatrix}
\begin{bmatrix}
b_{11} & b_{12} \\
b_{21} & b_{22} \\
\end{bmatrix}\\
&=\begin{bmatrix}
a_{11}b_{11}+a_{12}b_{12} & a_{11}b_{12}+a_{12}b_{22} \\
a_{21}b_{11}+a_{22}b_{21} & a_{21}b_{12}+a_{22}b_{22} \\
\end{bmatrix}
&=0\\

\left\{
\begin{array}{l}
a_{11}b_{11}+a_{12}b_{21}&=0 \\
a_{11}b_{12}+a_{12}b_{22}&=0 \\
a_{21}b_{11}+a_{22}b_{21}&=0 \\
a_{21}b_{12}+a_{22}b_{22}&=0 \\
\end{array}
\right.\\
b_{12}(a_{11}+a_{21})+b_{22}(a_{12}+a_{22})&=0 \\
b_{12}(a_{11}+a_{21})&=-b_{22}(a_{12}+a_{22}) \\
Aの列は&線型独立だからこれは矛盾\\
\therefore 常に成り立たない
\end{align}
```
- 問10.35
```math
\begin{align}
U, Vは&直行行列であるので\\
U^{\top}U&=UU^\top=I \\
V^{\top}V&=VV^\top=I \\
ここで&UV(UV)^{\top}を考えると\\
UV(UV)^{\top}&=UV(V^{\top}U^{\top}) \\
&=U(VV^{\top})U^{\top} \\
&=UIU^{\top} \\
&=UU^{\top} \\
&=I \\
同様に& \\
(UV)^{\top}UV&=I\\
よって&UVは直行行列。
\\
次に&\\
\frac{1}{\sqrt{2}}\begin{bmatrix}
U & U \\
V & -V \\
\end{bmatrix}
(\frac{1}{\sqrt{2}}\begin{bmatrix}
U & U \\
V & -V \\
\end{bmatrix})^{\top}&=
\frac{1}{2}\begin{bmatrix}
U & U \\
V & -V \\
\end{bmatrix}
\begin{bmatrix}
U^\top & U^\top \\
V^\top & -V^\top \\
\end{bmatrix}\\

&=\frac{1}{2}\begin{bmatrix}
UU^\top+UU^\top & VV^\top-VV^\top \\
VU^\top-VU^\top & VV^\top+VV^\top \\
\end{bmatrix}\\
&=\frac{1}{2}\begin{bmatrix}
2I & 0 \\
0 & 2I \\
\end{bmatrix}\\
&=\begin{bmatrix}
I & 0 \\
0 & I \\
\end{bmatrix}\\

(\frac{1}{\sqrt{2}}\begin{bmatrix}
U & U \\
V & -V \\
\end{bmatrix})^{\top}
\frac{1}{\sqrt{2}}\begin{bmatrix}
U & U \\
V & -V \\
\end{bmatrix}&も同様\\
\therefore & \frac{1}{\sqrt{2}}\begin{bmatrix}
U & U \\
V & -V \\
\end{bmatrix}は直行行列
\end{align}
```

- 問10.36
    - (a)
```math
\begin{align}
x^{\top}Ax&=x^{\top}\begin{bmatrix}
a_{11} & a_{12} & \cdots & a_{1n} \\
\vdots & \ddots & & \vdots \\
a_{n1} & \cdots & & a_{nn} \\
\end{bmatrix}
\begin{bmatrix}
x_1 \\
x_2 \\
\vdots \\
x_n \\
\end{bmatrix} \\
&=x^{\top}\begin{bmatrix}
a_{11}x_1+\cdots & a_{1n}x_n \\
\vdots \\
a_{n1}x_1 + \cdots + a_{nn}x_n \\
\end{bmatrix}\\
&=x_1(a_{11}x_1+\cdots+a_{1n}x_n)+\cdots+x_n(a_{n1}x_1+\cdots+a_{nn}x_n)\\
&=\sum_{i,j=1}^n{A_{ij}x_ix_j}\\
\end{align}
```
-  - (b)
```math
\begin{align}
x^{\top}Ax&=(x^{\top}Ax)^\top \\
&=(x^{\top}(Ax))^\top \\
&=(Ax)^{\top}x \\
\therefore x^{\top}(A^\top)x&=x^{\top}Ax \\
\end{align}
```
-  - (c)
```math
\begin{align}
x^{\top}(\frac{(A+A^\top)}{2})x&=\frac{1}{2}x^{\top}Ax+\frac{1}{2}x^{\top}A^
{\top}x \\
(b)よりx^{\top}A^{\top}x&=x^{\top}Ax  \\
与式&=\frac{1}{2}x^{\top}Ax+\frac{1}{2}x^{\top}Ax \\
&=x^{\top}Ax \\
\end{align}
```

-  - (d)
```math
\begin{align}
A&=\begin{bmatrix}
2 & -3 \\
-\frac{3}{2} & -1 \\
\end{bmatrix}\\
\therefore & x^{\top}\begin{bmatrix}
2 & -3 \\
-\frac{3}{2} & -1 \\
\end{bmatrix}x\\
\end{align}
```

- 問10.37
    - (a)
```math
\begin{align}
Qは直行行列だからQ^{\top}Q&=I\\
Q^{\top}Q&=\begin{bmatrix}
a & c \\
b & d \\
\end{bmatrix}
\begin{bmatrix}
a & b \\
c & d \\
\end{bmatrix}
&=\begin{bmatrix}
a^2+c^2 & ab+cd \\
ab+cd & b^2+d^2 \\
\end{bmatrix} \\
&=I\\
\therefore a^2+b^2&=1 \\
b^2+d^2&=1
ab+cd&=0 \\
\end{align}
```
-  - (b)
```math
\begin{align}
|s|&=|ad-bc| \\
&=\sqrt{(ad-bc)^2} \\
ここで、(ab+cd)^2&=a^2b^2+2abcd+c^2d^2\\
&=0\\
-2abcd&=a^2b^2+c^2d^2 \\
|s|&=\sqrt{a^2(b^2+d^2)+c^2(b^2+d^2)}\\
&=\sqrt{(b^2+d^2)(a^2+c^2)} \\
&=1 \\
-sc&=-(ad-bc)c \\
b\ne0のとき)& \\
-sc&=-\frac{1}{b}(abcd-b^2c^2) \\
&=\frac{1}{b}(\frac{a^2b^2+c^2d^2}{2}+b^2c^2) \\
ab&=-cd \\
a^2b^2&=c^2d^c \\
-sc&=\frac{1}{b}(a^2b^2+b^2c^2) \\
&=b(a^2+c^2) \\
&=b \\
b=0のとき)& \\
a^2+c^2&=1 \\
d^2&=1 \\
cd&=0 \\
c&=0 \\
-sc&=0で成り立つ\\
d\ne0のとき)& \\
sa&=\frac{1}{d}(a^2d^2-abcd) \\
&=\frac{1}{d}(a^2d^2+\frac{a^2b^2+c^2d^2}{2}) \\
&=\frac{1}{d}(a^2d^2+c^2d^2) \\
&=d(a^2+c^2) \\
&=d \\
d=0のとき)& \\
sa&=(-bc)a \\
&=-abc\\
&=0\\
sa&=0で成り立つ
\end{align}
```

-  - (c)
```math
\begin{align}
Q&=\begin{bmatrix}
cos\theta & -sin\theta \\
sin\theta & cos\theta \\
\end{bmatrix}とすると\\
Q^{\top}Q&=
\begin{bmatrix}
cos\theta & sin\theta \\
-sin\theta & cos\theta \\
\end{bmatrix}
\begin{bmatrix}
cos\theta & -sin\theta \\
sin\theta & cos\theta \\
\end{bmatrix} \\
&=\begin{bmatrix}
cos^2\theta+sin^2\theta & -cos\theta sin\theta+cos\theta sin\theta \\
-cos\theta sin\theta + cos\theta sin\theta & cos^2\theta \\
\end{bmatrix}\\
&=\begin{bmatrix}
1 & 0 \\
0 & 1 \\
\end{bmatrix}\\
よって、&Qは直行行列であり、また角度\thetaの回転行列である。\\
Q&=\begin{bmatrix}
cos\theta & sin\theta \\
sin\theta & -cos\theta \\
\end{bmatrix}とすると\\
Q^{\top}Q&=
\begin{bmatrix}
cos\theta & sin\theta \\
sin\theta & -cos\theta \\
\end{bmatrix}
\begin{bmatrix}
cos\theta & sin\theta \\
sin\theta & -cos\theta \\
\end{bmatrix} \\
&=\begin{bmatrix}
cos^2\theta+sin^2\theta & cos\theta sin\theta-cos\theta sin\theta \\
cos\theta sin\theta - cos\theta sin\theta & cos^2\theta \\
\end{bmatrix}\\
&=\begin{bmatrix}
1 & 0 \\
0 & 1 \\
\end{bmatrix}\\
よって、&Qは直行行列であり、また角度\frac{\theta}{2}に対する鏡映行列である。
\end{align}
```

- 問10.38
```math
\begin{align}
A^{\top}A&=Iより\\
\begin{bmatrix}
A_{11} & A_{21} & \cdots & A_{n1} \\
A_{12} & A_{22} & \cdots & A_{n2} \\
\vdots &        & \ddots & \vdots \\
A_{1n} & A_{2n} & \cdots & A_{nn} \\
\end{bmatrix}
\begin{bmatrix}
A_{11} & A_{12} & \cdots & A_{1n} \\
A_{21} & A_{22} & \cdots & A_{2n} \\
\vdots &        & \ddots & \vdots \\
A_{n1} & A_{n2} & \cdots & A_{nn} \\
\end{bmatrix}
&=
\begin{bmatrix}
A_{11}^2+A_{21}^2+\cdots+A_{n1}^2 & \cdots & A_{11}A_{12}+A_{21}A_{22}+\cdots+A_{n1}A_{n2} & \cdots & A_{11}A_{1n}+\cdots+A_{n1}A_{nn} \\
\cdots \\
\end{bmatrix}\\
行列の要素は& \\
\sum_{i,j=1}^n{A_{ji}A_{ij}}&=\delta_{ij}\\
&=I\\
つまり、&仮にA_{ij}が０か１以外であるとすると\\
\sum_{i,j=1}^n{A_{ji}A_{ij}}&=\delta_{ij}\\
の左辺が&右辺にならないので、0か１のみである。\\
また、&各行、各列で２つ以上1となる要素があるとこれも左辺が右辺にならないので不可.\\
よって、&題意は満たされた。
\end{align}
```
- 問10.39
```math
\begin{align}
A&=QR\\
Aのグラム行列&A^{\top}A\\
Rのグラム行列&R^{\top}R\\
A^{\top}A&=(QR)^{\top}QR\\
&=R^{\top}Q^{\top}QR\\
Q^{\top}Q&=Iより\\
A^{\top}A&=R^{\top}R\\
Aのグラム行列と&Rのグラム行列が一致するので、\\
Aの列同士&がなす角とRの列同士がなす角は一致する。
\end{align}
```
- 問10.40
```math
\begin{align}
A&=QRであり、Q_iも正規直交基底であるから\\
Q_iQ_i^\top&=I_i \\
R_i&=Q_i^{\top}A_iとおくと\\
Q_iR_i&=Q_iQ_i^{\top}A_i\\
&=I_iA_i\\
つまりA_i&=Q_iR_i
\end{align}
```
- 問10.41
    - (a) $ X-ZC $ は各$x_j$がグループiに属していればグループiの代表から$x_i$へのベクトル。グループiに属していなければ、自分自身のベクトル。$\|X-ZC\|^2$はグループiの代表との距離の２乗あるいは自分自身のベクトルの大きさの２乗。
    - (b) $\|X-ZC\|$を小さくするということはXになるべく近い代表を選ぶということ。Cを選ぶのはなるべく近い代表が選べるようにXを振り分けることである。
- 問10.42
    - $Ax=(I+ab^{\top})x$ 
    - $ab^{\top}$をそのまま計算すると$2n^2$flopsとなるが、先に$b^{\top}x$を計算するならば2n flopsであり、これにaを掛けるのはn flopsなので3n flopsとなる。Ixはn flopsなのでトータルQ(n)となる。
- 問10.43
    - 行列の席の計算量は$Q(n^3)$だから行列の大きさが２倍になると$2^3=8$倍の時間が掛かる。つまり0.2x8=1.6秒。

- 問10.44
    - (a)

((AB)C)D=2(mnp+mpq+mqr)=2m(np+pq+qr)
A(B(CD))=2(pqr+npr+mnr)=2r(pq+np+mn)
(AB)(CD)=2(mnp+pqr+mpr)=2p(2mn+qr)
(A(BC))D=2(npq+mnq+mqr)=2q(np+mn+mr)
A((BC)D)=2(npq+nqr+mnr)=2n(pq+qr+mr)

-   - (b)

||m|n|p|q|r|
|---:|---:|---:|---:|---:|---:|
|m|-|10^4|10^2|10^4|10^3|
|n||-|10^4|10^6|10^5|
|p|||-|10^4|10^3|
|q||||-|10^5|
|r|||||-|

((AB)C)D=$2.4\times10^5$
A(B(CD))=$6.0\times10^6$
(AB)(CD)=$2.4\times10^5$
(A(BC))D=$4.2\times10^7$
A((BC)D)=$2.22\times10^8$

よって、((AB)C)Dと(AB)(CD)のとき$2.4\times10^5$flopsで最も速い。


----
- [『スタンフォード ベクトル・行列からはじめる最適化数学』9章章末問題の解答](https://qiita.com/aokikenichi/items/7c1712749b7d65fc7e03)
- [『スタンフォード ベクトル・行列からはじめる最適化数学』10章章末問題の解答(1/2)](https://qiita.com/aokikenichi/items/5ba58b5b91a5df787b2a)
- [『スタンフォード ベクトル・行列からはじめる最適化数学』11章章末問題の解答](https://qiita.com/aokikenichi/items/a6d212db1e00d3bc41be)