応用数学レポート

# 目次
- 応用数学
  - 第一章　線形代数 
  - 第二章　確率・統計 
  - 第三章　情報理論 

# 第一章　線形代数
- スカラー
  - 普通の数、ベクトル係数
- ベクトル
  - 「大きさ」と「向き」を持つ
- 行列
  - スカラーを並べたもの 
  - ベクトルを並べたもの
  - ベクトルの変換に使う
 
![math-20200430_21.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/69232d13-d6ee-bba0-eeb5-24048e26ea38.png)

- 行列の積

![math-20200430_20.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/e3259455-e25e-ce23-fba0-86afcd951da8.png)

- 逆行列
![math-20200430_18.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/3c60a580-e70d-bfa7-fb4c-43ce13e5f113.png)

- 2 × 2 行列式

 ![math-20200430_2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/004a27fa-e542-a88e-1c08-792ef4c69197.png)
 
- 3 × 3 行列式

 ![math-20200508_1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/19194546-f78f-5cef-78ae-d4ae6a69c05d.png)

- 固有値・固有ベクトル
ある行列Aに対して、以下のような式が成り立つような、特殊なベクトルXと、右辺の係数λがある。
![math-20200507.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/d3f0d091-02a8-6c1d-d166-4d5d9f791908.png)

つまり、ある特殊なベクトルXに対しては「行列Aとその特殊なベクトルXの積は、ただのスカラー数λとその特殊なベクトルXとの積と同じ様になる」ということである。この特殊なベクトルXとその係数λを、行列Aに対する、固有値ベクトル、固有値という。

- 固有値分解
ある実数を正方形にならべて作られた行列Aが固有値λ1, λ2, ・・・と固有ベクトルv1, v2, ・・・を持ったとする。この固有値を対角線上に並べた行列（それ以外のは成分は0）

![math-20200507_2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/fa73790b-33ae-861e-639c-14a50d0d9af0.png)

と、それに対応する固有ベクトルを並べた行列

![math-20200507_3.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/8162df07-8ee6-c272-095a-36fb297dec29.png)

を用意したとき、それらは

![math-20200507_4.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/1805c0fb-2897-809e-8e02-eb6e9ad326c4.png)

と関係付けられる、したがって

![math-20200507_5.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/ae1979f9-e823-9576-a3d1-fb90b60afdd5.png)

と変形できる。このように正方形の行列を上述の様な３つの行列の積に変換することを固有値分解という。この変換によって行列の累乗の計算が用意になるなどの利点がある。

- 特異値分解（SVD、Singular Value Decomposition）

- 内積
![math-20200430_19.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/34121edf-aa36-4148-e4d5-8440e82e62a1.png)

###【考察】
　固有値分解・特異値分解は主成分分析、自然言語処理のLSIで利用する。

###【演習問題】
　

# 第二章　確率・統計
## 集合
集合A,Bについて
![math-20200430_14.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/fecfeb31-c878-f75b-4d39-969c11b3468e.png)

## 確率
- 条件付き確率
ある事象Xが与えられた下で、Yとなる確率
![math-20200430_11.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/00b7311a-11bd-984c-73be-c92120c0a52c.png)

- ベイズ則
一般的に事象Xと事象Yに対して
![math-20200430 10.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/ca65ce88-8fa6-5714-54d3-147c0b57f873.png)

## 統計
- 記述統計
- 推測統計
- 確率変数
- 確率分布
- 期待値（平均）
離散的な確率分布P(X)の下で、確率変数f(X)の期待値
![math-20200430_7.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/91c34d79-db61-1405-b50c-8f6a45b7c490.png)

- 分散（Var、Variance）
![math-20200430_8.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/1ed9a6b0-26e5-15b2-197d-c2ebe1f1b1fd.png)

- 共分散（Cov、Covariance）
- ベルヌーイ分布

  e.x.) コイントス

- マルチヌーイ分布
 - カテゴリカル分布

  e.x.) サイコロ

- 二項分布
![math-20200430_12.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/4396ac70-676b-3251-8f29-61867b38a412.png)

- ガウス分布（正規分布）
![math-20200430_15.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/01c74581-7e20-e6f9-5b10-e094bd466e78.png)

- ポアソン分布
![math-20200430_16.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/a2bff1d2-4f89-2861-391f-2f72f2e2dd90.png)

###【考察】
　ベルヌーイ分布はロジスティック回帰モデルで利用。
　[ポアソン分布を導く](http://memeplex.blog.shinobi.jp/数学/ポアソン分布を導く)

###【演習問題】


# 第三章　情報理論
- 自己情報量

![math-20200430_5.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/659e78f6-89a1-1947-6fd0-8ca0b728c9c2.png)

※I(X) は情報量、P(X) は事象 X の発生する確率。

- シャノンエントロピー
  - 自己情報量の期待値

![math-20200430_4.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/3325600d-dadf-8d24-0555-aa27c132aaf6.png)

- カムバック・ライブラー ダイバージェンス（KLダイバージェンス）
 
　[エントロピー・KL divergenceの復習](https://qiita.com/kento1109/items/10026d96f2634ba36362)

- 交差エントロピー（クロスエントロピー）
  - 離散確率分布 P(x)とQ(x) のクロスエントロピー

![math-20200430_9.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/60541/10c26016-47f3-f863-8274-e6acf1e0aa46.png)

　[交差エントロピー誤差をわかりやすく説明してみる](https://qiita.com/kenta1984/items/59a9ef1788e6934fd962)

###【考察】

###【演習問題】