比例・回帰・FFT・微分積分・生成AI・Transformer


## 第0章：前提数学とPython基礎

* 実数・関数・グラフ描画（`matplotlib`, `numpy`）
* ベクトル・行列とスカラー積
* Pythonでの数式表現と可視化

---

## 第1章：比例・反比例とその拡張

### 📌 内容

* 比例関係：\$y = ax\$
* 反比例関係：\$y = \frac{a}{x}\$
* 指数・対数との比較

### 🧠 応用

* 経済：価格と需要
* 物理：ボイルの法則

---

## 第2章：単回帰分析（Simple Linear Regression）

### 📌 内容

* 回帰直線 \$y = ax + b\$ の最小二乗法
* 残差・決定係数 \$R^2\$
* `scikit-learn.LinearRegression`

### 🧠 応用

* 重量と価格の予測
* 身長と体重の関係性評価

---

## 第3章：放物線フィッティング（2次関数近似）

### 📌 内容

* \$\hat{y} = ax^2 + bx + c\$
* `numpy.polyfit`, 最小二乗による2次曲線近似

### 🧠 応用

* 投射運動の軌道
* 最適化問題の損失関数可視化

---

## 第4章：サイン波とフーリエ変換（FFT）

### 📌 内容

* \$\sin(\omega t)\$, 周波数と振幅
* `numpy.fft.fft` による周波数分解
* パワースペクトルの解釈

### 🧠 応用

* 音声認識の前処理
* センサーデータ解析

---

## 第5章：重回帰分析（Multiple Linear Regression）

### 📌 内容

* \$y = a\_1x\_1 + a\_2x\_2 + \dots + a\_nx\_n + b\$
* 多変量最小二乗法と係数の解釈

### 🧠 応用

* 売上予測（広告費、季節、在庫）
* ポケモン種族値から合計ステータス予測

---



#  第6章：ロジスティック回帰（Logistic Regression）とポアソン分布



## 📌 6.1 ロジスティック回帰の数理構造

### 🔹 モデル形式：

$$
P(y=1 \mid \boldsymbol{x}) = \sigma(\boldsymbol{w}^\top \boldsymbol{x} + b) = \frac{1}{1 + \exp(-(\boldsymbol{w}^\top \boldsymbol{x} + b))}
$$

* **目的**：\$y \in {0, 1}\$ を予測する
* **損失関数**：交差エントロピー（クロスエントロピー）

$$
L = - \left[ y \log \hat{y} + (1-y) \log (1 - \hat{y}) \right]
$$

---

## 💻 Python実装（分類タスク）

```python
from sklearn.datasets import make_classification
from sklearn.linear_model import LogisticRegression
import matplotlib.pyplot as plt

# データ生成
X, y = make_classification(n_samples=100, n_features=2, n_redundant=0, random_state=42)

# モデル学習
model = LogisticRegression()
model.fit(X, y)

# 可視化
plt.scatter(X[:, 0], X[:, 1], c=y, cmap='bwr', edgecolor='k')
plt.title("Logistic Regression Classification")
plt.xlabel("Feature 1")
plt.ylabel("Feature 2")
plt.grid(True)
plt.show()
```

---

## 📌 6.2 ポアソン分布との関係

### 🔹 ポアソン分布：

$$
P(Y = k) = \frac{\lambda^k e^{-\lambda}}{k!} \quad (k = 0, 1, 2, \dots)
$$

* **イベントの発生回数**を扱う：例）10分間に来る顧客数
* **平均 \$\lambda\$ が説明変数 \$\boldsymbol{x}\$ に依存**する場合：

$$
\lambda = \exp(\boldsymbol{w}^\top \boldsymbol{x})
$$

---

## 💻 Python実装（ポアソン回帰）

```python
from sklearn.linear_model import PoissonRegressor
from sklearn.datasets import make_regression
import numpy as np

# 疑似データ生成
X_poisson = np.random.rand(100, 1) * 5
y_poisson = np.random.poisson(lam=np.exp(0.5 * X_poisson).flatten())

# モデル学習
poisson_model = PoissonRegressor(alpha=0)
poisson_model.fit(X_poisson, y_poisson)

# 可視化
plt.scatter(X_poisson, y_poisson, label="Data", color="blue")
plt.plot(X_poisson, poisson_model.predict(X_poisson), color="red", label="Poisson Regression")
plt.title("Poisson Regression (Discrete Count Model)")
plt.xlabel("x")
plt.ylabel("Event Count")
plt.legend()
plt.grid(True)
plt.show()
```

---

## 🧠 応用例の違い

| 手法        | 出力          | 応用例                 |
| --------- | ----------- | ------------------- |
| ロジスティック回帰 | 0 or 1（クラス） | メールがスパムか否か、腫瘍が悪性か否か |
| ポアソン回帰    | 自然数（カウント）   | 1時間で発生した事故件数、来店人数   |

---



## 第7章：活性化関数とバックプロパゲーションの微分積分

### 📌 内容

* 活性化関数：ReLU, sigmoid, tanh
* 微分による勾配 \$\frac{dL}{dw}\$
* 誤差逆伝播法（Backpropagation）と連鎖律

### 🧠 応用

* ニューラルネット学習の理論基盤
* 勾配消失と活性化関数選択

---

## 第8章：生成AIの基礎とTransformerモデル

### 📌 内容

* 自然言語処理における生成モデルの分類：RNN → LSTM → Transformer
* Transformerの構成：Self-Attention, Multi-head Attention, Positional Encoding
* 数学的構造：行列積・ソフトマックス・スケーリング

### 🧠 応用

* ChatGPTの原理
* テキスト生成・翻訳・画像キャプション生成

---

## 第9章：線形代数学



## 📦 使用ライブラリ一覧

```text
numpy, matplotlib, pandas, scikit-learn, seaborn
scipy, sympy（微分積分処理）
transformers（HuggingFace）
```

---

## 🎓 ゴール

* 統計学＋微積＋線形代数が**機械学習とAIの基盤技術であることの実感**
* 数理モデルを**Pythonで実装・視覚化・解釈**できる力
* 最終的には**Transformerベースの生成AIに至るまでの数理的接続**

---

希望に応じて：

* 章ごとの**Python演習コード**
* 各章の**可視化例**
* **講義スライド形式**や**テキスト教材**