【随時更新】データサイエンスのための数学

:::note info
２重管理を避けるため、今後このページを消す予定です。こちらの内容を[**数学ページ**](https://qiita.com/Junlee/items/168ddf0123261686cfac#%E6%95%B0%E5%AD%A6)に移転します！
:::

# データサイエンスってなぜ数学が必要なの？

約５年前の2018年に、自動運転業界に入りたいため、自動運転技術のベースになる機械学習やディープラーニングの勉強を始めました。

一応ですが、[udacity](https://www.udacity.com/)での機械学習やディープラーニングコースの勉強を終えましたが、理解が追いつけなかったり、途中で何度か挫折したりしたため、結局理解度が不十分でした。
当時は結構な時間や金銭コストをかけてやったのに、期待した効果が得られませんでした。当時のメモは[**こちら**](http://road2ai.info/categories/#%E6%95%B0%E6%8D%AE%E5%88%86%E6%9E%90-ref)です。

期待した効果が得られなかった理由は、主に自分が**現実じゃないスケジュール**を設定していて、**基礎知識が薄かったため**、肝心な概念の理解ができませんでした。

基礎知識はまさにこれから勉強しようとしている**数学**です。幸い[こちらの講座](https://www.matongxue.com/)が見つかって、トライアル版で勉強してすごく分かりやすかったので、数学(線形代数学、微分積分、確率統計、監督学習)セットを注文して、勉強し始めました。

前回の反省点を踏まえて、**時間かけても良いので、しっかり理解した上**で進みます。アウトプットは一番良い勉強のツールなので、Qiitaで記事を残しつつ、勉強を進みます。

# 一. 線形代数学(23/2/15-)
## 0.まとめ

- [線形代数学総まとめ 前編(1-25回)]()

## 1. はじめに
- [第1回 なぜ線形代数が必要なのか](https://qiita.com/Junlee/items/eb241c0def27d3f47560)

## 2. ベクトル空間
- [第2回 ベクトル、ベクトルの加減算、及びスカラー倍](https://qiita.com/Junlee/items/1fb984bb55291c7f771d)
- [第3回 線形独立と線形従属](https://qiita.com/Junlee/items/aebd509d2b8f9a897125)
- [第4回 ベクトル空間](https://qiita.com/Junlee/items/7282778f73e3f9bcdde2)
- [第5回 張る空間](https://qiita.com/Junlee/items/2b6630820145d98b07ca)
- [第6回 ベクトル空間の基底](https://qiita.com/Junlee/items/0036d5a1fcfbc2b71ba1)
- [第7回 ドット積](https://qiita.com/Junlee/items/0c0f9d8a85bfb5c6db66)

## 3. 行列と行列の演算
- [第8回 行列と線形方程式](https://qiita.com/Junlee/items/ce35da4d6778afa370df)
- [第9回 ガウスの消去法](https://qiita.com/Junlee/items/6972ef25b53d9119b133)
- [第10回 行列の加法と乗法](https://qiita.com/Junlee/items/1a1655f7de15d509e258)
- [第11回 行列の累乗と転置](https://qiita.com/Junlee/items/04365c5bf10afd089d4c)
- [第12回 行列積の幾何学的意義](https://qiita.com/Junlee/items/91f70f1d5210c7dd016a)

## 4. 行列の関数

- [第13回 線形関数と行列関数](https://qiita.com/Junlee/items/cbaf8ea8a4eb15f379eb)
- [第14回 回転行列関数](https://qiita.com/Junlee/items/a27fe03e7687da37dc16)
- [第15回 一般的な行列関数](https://qiita.com/Junlee/items/5ab0ffa78ac987306df5)
- [第16回 行列関数の性質](https://qiita.com/Junlee/items/5b9a75a243ca449dfbc0)

## 5. 行列の階数

- [第17回 行列の階数](https://qiita.com/Junlee/items/9dfed328ec30e1089ea1)
- [第18回 行列関数の四つの要素](https://qiita.com/Junlee/items/ea2d5451fece9931895c)
- [第19回 行列関数の値域](https://qiita.com/Junlee/items/00c74904a0c7ead8bfea)
- [第20回 行列関数の単射](https://qiita.com/Junlee/items/d266d464d0620c72044b)
- [第21回 行列関数の全射](https://qiita.com/Junlee/items/b495a86f58afac95a433)
- [第22回 行列関数の全単射](https://qiita.com/Junlee/items/c15ebf923255a6a74c53)
- [第23回 逆行列](https://qiita.com/Junlee/items/1b07daa3fb36dcfa9286)
- [第24回 行基本変形による階数の求め方](https://qiita.com/Junlee/items/9335596fe61af8e81993)
- [第25回 ブロック行列](https://qiita.com/Junlee/items/3758700e4186e9d6a26b)

## 6. 線形方程式の解

- [第26回 解の存在性](https://qiita.com/Junlee/items/55a3187777652d294976)
- [第27回 解の数](https://qiita.com/Junlee/items/a9656367bdc081c41bf0)
- [第28回 解集合](https://qiita.com/Junlee/items/6edb0b9c904499888f64)
- [第29回 ランク・ヌル性定理](https://qiita.com/Junlee/items/aa301b7761958ac985b8)

## 7. 行列式

- [第30回 行列式の由来]()
- [第31回 2次の行列式]()
- [第32回 ベクトル積（外積）]()
- [第33回 3次の行列式]()
- [第34回 小行列式と余因子]()
- [第35回 行列式の性質（上）]()
- [第36回 行列式の性質（下）]()
- [第37回 クラメールの公式]()
- [第38回 ヴァンデルモンド行列式]()
- [第39回 余因子行列]()

## 8. 類似行列

- [第40回 関数の座標系]()
- [第41回 基底変換]()
- [第42回 座標変換]()
- [第43回 相似行列]()

## 9. 固有値と固有ベクトル

- [第44回 固有値と固有ベクトル]()
- [第45回 対角化]()
- [第46回 直交行列]()
- [第47回 グラム・シュミットの直交化法]()
- [第48回 直交対角化]()
- [第49回 相似行列における不変量]()

## 10. 二次形式

- [第50回 二次形式]()
- [第51回 合同行列]()
- [第52回 標準形と合同対角化]()
- [第53回 慣性定理と正負定]()

# 二. 単一変数微分積分

## 1. はじめに
- [第1回 はじめに](https://qiita.com/Junlee/items/f4df94adcc325fc636d5)

## 2. 関数と極限

- [第2回 コーシー列の極限](https://qiita.com/Junlee/items/5fa1f0030303c683c6e3)
- [第3回 ワイエルシュトラス数列の極限](https://qiita.com/Junlee/items/d39b5962aa66c8e5f419)
- [第4回 数列極限の性質](https://qiita.com/Junlee/items/9b192582e54041c28c2d)
- [第5回 無限に近づく関数の極限](https://qiita.com/Junlee/items/a7280ba0e69ba3fd14bc)
- [第6回 一般的な関数の極限](https://qiita.com/Junlee/items/9a31f94b977a7b47b4ec)
- [第7回 無限小](https://qiita.com/Junlee/items/557549ad233944af30ce)
- [第8回 無限大](https://qiita.com/Junlee/items/c825672031fdbda306f6)
- [第9回 極限の性質](https://qiita.com/Junlee/items/5114f1c873052ce0f233)
- [第10回 ハインの定理](https://qiita.com/Junlee/items/403677c678eed6ddbe41)
- [第11回 極限の演算法則](https://qiita.com/Junlee/items/bff7185c381863a54495)
- [第12回 挟み撃ち定理](https://qiita.com/Junlee/items/9ea112c619542ba9c712)
- [第13回 合成関数の極限](https://qiita.com/Junlee/items/497eb6513b542062d5dc)
- [第14回 漸近線](https://qiita.com/Junlee/items/cadc6a35909eb66200b6)
- [第15回 単調有界数列必ず極限を持つ](https://qiita.com/Junlee/items/daadab47729e2f2ba0d8)
- [第16回 無限小の比較](https://qiita.com/Junlee/items/584d1e4caf6ddbd07678)
- [第17回 関数の連続性](https://qiita.com/Junlee/items/7bf77650383088a68109)
- [第18回 関数の不連続点](https://qiita.com/Junlee/items/ef65ca39f56a94759f5e)
- [第19回 連続関数の演算と初等関数の連続性](https://qiita.com/Junlee/items/2bf12820dbd9a9472943)
- [第20回 閉区間上の連続関数の性質](https://qiita.com/Junlee/items/e92f3e98e6cd58eef798)
- [第21回 極限を用いて円の面積を求める](https://qiita.com/Junlee/items/6a383bf3e4e6a10547da)


## 3. 微分と導関数

- [第22回  微分と線形近似](https://qiita.com/Junlee/items/f78878e3e7ffbebd2d29)
- [第23回  導関数による微分の求め方](https://qiita.com/Junlee/items/f78878e3e7ffbebd2d29)
- [第24回  一般的な導関数のいくつか](https://qiita.com/Junlee/items/f78878e3e7ffbebd2d29)
- [第25回  関数の和、差、積、商の微分法則](https://qiita.com/Junlee/items/f78878e3e7ffbebd2d29)
- [第26回  合成関数の導関数](https://qiita.com/Junlee/items/f78878e3e7ffbebd2d29)
- [第27回  逆関数の導関数](https://qiita.com/Junlee/items/f78878e3e7ffbebd2d29)
- [第28回  陰関数の導関数](https://qiita.com/Junlee/items/f78878e3e7ffbebd2d29)
- [第29回  パラメータ方程式の導関数と関連する変化率](https://qiita.com/Junlee/items/f78878e3e7ffbebd2d29)
- [第30回  高階導関数](https://qiita.com/Junlee/items/f78878e3e7ffbebd2d29)


## 4. 中間値の定理と導関数の応用

- [第31回  微分中間値定理](https://qiita.com/Junlee/items/49549c549fd6196ec56f)
- [第32回  ロピタルの定理](https://qiita.com/Junlee/items/49549c549fd6196ec56f)
- [第33回  テイラーの定理](https://qiita.com/Junlee/items/49549c549fd6196ec56f)
- [第34回  関数の単調性と凸凹性](https://qiita.com/Junlee/items/49549c549fd6196ec56f)
- [第35回  関数の極値と最大値](https://qiita.com/Junlee/items/49549c549fd6196ec56f)
- [第36回  曲率](https://qiita.com/Junlee/items/49549c549fd6196ec56f)

## 5. 不定積分

- [第36回  不定積分の概念と性質]()
- [第37回  置換積分法]()
- [第38回  部分積分法と有理関数の積分]()


## 6. 定積分

- [第39回  定積分の定義]()
- [第40回  定積分の性質]()
- [第41回  微積分の基本定理]()
- [第42回  定積分の置換法と部分積分法]()
- [第43回  発散積分]()

## 7. 定積分の応用

- [第44回  定積分と曲線の長さ]()
- [第45回  定積分と面積]()
- [第46回  表面積と体積]()
- [第47回  物理学における応用]()

## 8. 微分方程式

- [第48回  微分方程式の基本概念]()
- [第49回  分離変数型微分方程式]()
- [第50回  同次方程式]()
- [第51回  1階線型微分方程式]()
- [第52回  階数を下げることのできる高階微分方程式]()
- [第53回  高階線型微分方程式]()
- [第54回  定数係数線型微分方程式]()

# 三. 多変数微分積分

## 1. ベクトル代数と空間解析幾何学

- [第1回  ベクトルとその線形演算]()
- [第2回  内積]()
- [第3回  行列と行列式]()
- [第4回  外積と混合積]()
- [第5回  空間内の直線と平面]()
- [第6回  空間内の曲面]()
- [第7回  空間内の曲線]()

## 2. 多変数関数の微積分法とその応用

- [第8回  多変数関数の基本概念]()
- [第9回  多変数関数の極限と連続性]()
- [第10回  全微分]()
- [第11回  偏微分と全微分]()
- [第12回  方向微分と勾配]()
- [第13回  全微分と連鎖律]()
- [第14回  導関数とヤコビ行列]()
- [第15回  陰関数の微分公式]()
- [第16回  多変数関数の極値とその求め方]()
- [第17回  ラグランジュ未定乗数法]()

## 3. 重積分

- [第18回  二重積分の概念と性質]()
- [第19回  二重積分の計算：フビニの定理]()
- [第20回  二重積分の計算：極座標系]()
- [第21回  二重積分の計算：座標変換]()
- [第22回  三重積分とフビニの定理]()
- [第23回  三重積分の変数変換]()
- [第24回  重積分の応用：幾何学]()
- [第25回  重積分の応用：物理学]()

## 4. 曲線積分と曲面積分

- [第26回  積分の拡張：曲線および曲面積分]()
- [第27回  第1種曲線積分]()
- [第28回  第2種曲線積分]()
- [第29回  パスに依存しない保存力場]()
- [第30回  2次元の発散と回転]()
- [第31回  グリーンの定理]()
- [第32回  第1種曲面積分]()
- [第33回  第2種曲面積分]()
- [第34回  3次元の発散と回転]()
- [第35回  ガウスの定理とストークスの定理]()


## 5. 無限級数

- [第36回  定数項級数の概念と性質]()
- [第37回  正項級数の収束判定法]()
- [第38回  交互級数と絶対収束]()
- [第39回  冪級数]()
- [第40回  テイラー級数]()
- [第41回  フーリエ級数]()

# 四. 確率統計

## 1. 確率論の基本概念

- [第1回  確率論の起源]()
- [第2回  確率とは何か]()
- [第3回  標本空間と事象]()
- [第4回  確率公理化]()
- [第5回  事象の演算]()
- [第6回  事象の関係]()
- [第7回  古典派確率]()
- [第8回  条件付き確率]()
- [第9回  ベイズと全確率]()
- [第10回  事象の独立性]()


## 2. 確率変数とその分布


- [第11回 確率変数]()
- [第12回 二項分布]()
- [第13回 離散的な数学的期待値]()
- [第14回 分散と標準偏差]()
- [第15回 ポアソン分布]()
- [第16回 重要な離散分布]()
- [第17回 確率密度関数]()
- [第18回 正規分布]()
- [第19回 指数分布]()
- [第20回  累積分布と関数の分布]()


## 3. 多次元確率変数とその分布

- [第21回 多次元確率変数とその分布]()
- [第22回 辺缘分布と確率変数の独立性]()
- [第23回 条件分布]()
- [第24回 多次元確率変数関数の分布]()


## 4. 確率変数の数値的特徴

- [第25回 数学期待値]()
- [第26回 分散と標準偏差]()
- [第27回 共分散]()

## 5. 大数の法則と中心極限定理

- [第28回 大数の法則]()
- [第29回 中心極限定理]()

## 6. 統計学の基本概念

- [第30回 母集団と標本]()
- [第31回 統計量]()
- [第32回 統計量の分布]()

## 7. パラメータ推定

- [第33回 点推定]()
- [第34回 点推定の優劣]()
- [第35回 区間推定]()
- [第36回 正規母集団下の区間推定]()

## 8. 仮説検定

- [第37回 仮説検定の基本的概念]()
- [第38回 正規母集団下の仮説検定]()

# 五. 監督学習

## 1. はじめに

- [第1回 機械学習とは何ですか？]()
- [第2回 機械学習の分類]()

## 2. パーセプトロン
- [第3回 パーセプトロンとは何ですか？]()
- [第4回 パーセプトロンの決定境界]()
- [第5回 パーセプトロンのブルートフォース実装]()
- [第6回 線形分離可能]()
- [第7回 パーセプトロンのポケットアルゴリズム]()
- [第8回 パラメータとハイパーパラメータ]()
- [第9回 機械学習のプロセス]()
- [第10回 交差検証]()

## 3. 機械学習の可行性

- [第11回 機械学習の基本的な概念]()
- [第12回 無料の昼食はありません]()
- [第13回 汎化誤差と経験誤差]()
- [第14回 経験誤差最小化の原理]()
- [第15回 二値分類の仮説空間]()
- [第16回 2次元パーセプトロンの仮説空間]()
- [第17回 断層のある仮説空間]()
- [第18回 バイアス、分散、複雑度]()

## 4. 線形回帰

- [第19回 線形回帰と最小二乗法]()
- [第20回 線形回帰とバイアス推定]()
- [第21回 重回帰分析]()
- [第22回 線形回帰の学習プロセス]()

## 5. 非線形分類と回帰

- [第23回 非線形分類]()
- [第24回 非線形回帰]()
- [第25回 アンダーフィッティングとオーバーフィッティング]()
- [第26回 リッジ回帰の実装]()
- [第27回 リッジ回帰の原因]()
- [第28回 分類と回帰]()

## 6. ロジスティック回帰

- [第29回 ノイズと分類]()
- [第30回 ロジスティック回帰の経験誤差関数]()
- [第31回 勾配降下法の理論]()
- [第32回 勾配降下法の実装]()
- [第33回 確率的勾配降下法]()
- [第34回 ロジスティック回帰のアンダーフィッティングとオーバーフィッティング]()
- [第35回 ロジスティック回帰の多クラス分類]()

## 7. サポートベクターマシン

- [第36回 ハードマージンサポートベクターマシン]()
- [第37回 ハードマージンの決定境界]()
- [第38回 ハードマージンのアルゴリズム]()
- [第39回 別のハードマージンのアプローチ]()
- [第40回 ハードマージンの双対アルゴリズム]()
- [第41回 ハードマージンと多項式]()
- [第42回 カーネル法]()
- [第43回 多項式カーネル]()
- [第44回 ガウスカーネル]()
- [第45回  ソフトマージンサポートベクターマシン]()
- [第46回  ソフトマージンの双対アルゴリズム]()

## 8. ナイーブベイズ

- [第47回 判別モデルと生成モデル]()
- [第48回 ベイズ分類器]()
- [第49回 ベルヌーイナイーブベイズ]()
- [第50回 ラプラススムージング]()
- [第51回 ガウスナイーブベイズ]()

## 9. 決定木

- [第52回 決定木の概要]()
- [第53回 決定木の構築]()
- [第54回 CARTアルゴリズム]()
- [第55回 CARTアルゴリズムの実践]()
- [第56回 決定木の枝刈り]()
- [第57回 回帰木]()

## 10. アンサンブル学習

- [第58回  アンサンブル学習の概要]()
- [第59回  バギング]()
- [第60回  ランダムフォレスト]()
- [第61回  ブースティング]()
- [第62回  AdaBoost]()


# 参考情報

## 数学
- [筑波大学 - 線形代数Ｉ](https://dora.bk.tsukuba.ac.jp/~takeuchi/?%E7%B7%9A%E5%BD%A2%E4%BB%A3%E6%95%B0%EF%BC%A9)
- [KIT数学ナビゲーション](https://w3e.kanazawa-it.ac.jp/math/category/gyouretu/senkeidaisu/henkan-tex.cgi?target=/math/category/gyouretu/senkeidaisu/index.html)
- [wiki-数学記号の表](https://ja.wikipedia.org/wiki/%E6%95%B0%E5%AD%A6%E8%A8%98%E5%8F%B7%E3%81%AE%E8%A1%A8)
- [ 基礎からの数学入門
](https://math.keicode.com/)
- [B站最宝藏的线性代数视频系列！](https://www.bilibili.com/video/BV1Vs4y1Z7HB/?spm_id_from=333.788.recommend_more_video.2&vd_source=a38498a2570a69d082eaecc84f6d3fe7)
- [数学の景色](https://mathlandscape.com/)

## 可視化
- [Python/Dash/Plotlyで簡単に機械学習WEBアプリを開発しよう
](https://uipath.udemy.com/course/python-dash-plotly/learn/lecture/27176914#overview)

## 参考ブログ
- [楽しみながら理解するAI・機械学習入門](https://data-analytics.fun/)
- [機械学習の数学](https://qiita.com/miyamotok0105/items/c134ed64ae2d7dc1c3d7)

## Qiita数学記号記入

- Markdownでの数学式の書き方

| No | 参照リンク | 
|:-----------|:------------|
| 1      | [これで完璧 Qiitaでの数式記法](https://qiita.com/DeepTama/items/85470a66972432e14224)   | 
| 2      | [Qiitaの数式チートシート](https://qiita.com/PlanetMeron/items/63ac58898541cbe81ada)   | 
| 3     | [Qiitaでの様々な数式の書き方](https://qiita.com/ttabata/items/92a4a72b042e6a2dbbad)   |