主成分分析

# この記事の狙い・目的
機械学習を取り入れたAIシステムの構築は、
①データセット作成（前処理）→ ②モデルの構築 → ③モデルの適用
というプロセスで行っていきます。
その際「データセット作成（前処理）」の段階では、正しくモデル構築できるよう、事前にデータを整備しておくことが求めらます。
このブログでは、その際に問題なることが多い、「**次元の呪い**」やその対処方法となる「**主成分分析（次元削減）**」について解説していきます。

# 主成分分析とは
主成分分析とは、あるデータ群をより少ないデータ群で要約する解析手法のことです。
ここれでその具体的なイメージや、なぜそのような手法が取られるのか、その背景から解説していきます。

# 次元の呪い
**次元の呪い**とは、データの次元数が大きくなり過ぎると、そのデータで表現できる組み合わせが飛躍的に多くなってしまい、その結果十分な学習結果が得られなくなることを言います。
結果的に、未知のデータに対する予測精度（汎化性能）を高めづらくなり、また計算負荷が非常に高くなることが問題点としてあげられます。

ここであらためて「**次元**」の考え方を説明しておきましょう。
そもそも次元とは（主成分分析の文脈では）**ベクトル**（行列の列）、つまり各変数（またの名を特徴量）を表しています。
そのため、多変数データのことを「**多次元データ**」または「**高次元データ**」とも呼びます。

# 次元削減
「次元の呪い」の問題点から、データ数が非常に多いデータセットでは、次元削減という手法が有効となる場合があります。
次元削減とは、（ただ単にデータ数を減らすのではなく）可能な限り元のデータの情報を保持したまま、低次元のデータに落とし込むことを言います。
もう少し数学的に言えば、主成分分析（PCA）における「**次元削減**」とは、少数の主要な特徴量（ベクトル）の線形結合によって、行列の列空間の本質的な次元を表すことです。線型結合とは2本のベクトルを組み合わせることで、２本のベクトルを起点とした第3のベクトルを描くことです。
組み合わせる2本のベクトルを基底ベクトルと言い、基底ベクトルを用いて空間上のベクトルを描いていくのが、主成分分析の基本となる考え方となります。
![スクリーンショット 2021-10-12 16.30.39.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/569276/18b791f1-a405-478e-00b8-796b1c79ccab.png)

もう少し具体的に解説していきましょう。
まず、特徴量空間上にその、そのデータ群を最もよく表現するベクトルを表します。（※１→２の図）
次に、各データをベクトル（赤・青）上に射影していきます。（※３→４の図）
赤ベクトル上に射影されたデータ群を「第一主成分」、青ベクトル上に射影されたデータ群を「第二主成分」と呼び、これにとり元データを、２次元のデータで表すことができるようになります。
![スクリーンショット 2021-10-08 11.22.39.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/569276/36c1e971-e15d-9791-f714-3adfe3d338a7.png)

# プログラム等の実行環境
Python3
MacBook pro（端末）
PyCharm（IDE）
Jupyter Notebook（Chrome）
Google スライド（Chrome）

# まずはそのままのデータで学習、評価
まずは次元削減を行わず、そのままのデータで学習・評価を行なった結果を見ていきましょう。

```Python
import numpy as np
import pandas as pd
from sklearn.metrics import confusion_matrix
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.linear_model import LogisticRegressionCV

# データ取得
breast_cancer = pd.read_csv("./breast_cancer_diagnostic.csv", sep=',')

# 混同行列
def plot_confusion_matrix(predict, y_test):
   pred =  np.where(predict > 0.5, 1, 0)
   cm = confusion_matrix(y_test, pred)
   matrix = pd.DataFrame(cm)
   matrix.columns = [['予測_負例(0)', '予測_正例(1)']]
   matrix.index = [['実際_負例(0)', '実際_正例(1)']]
   return matrix

# 目的変数の抽出、データ分割
X = breast_cancer.drop('診断', axis=1)
y = breast_cancer['診断']
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.4, random_state=0)

# 標準化
scaler = StandardScaler()
X_train_scaled = scaler.fit_transform(X_train)
X_test_scaled = scaler.transform(X_test)

# ロジスティック回帰
logistic = LogisticRegressionCV(max_iter=1000, random_state=42)
logistic.fit(X_train_scaled, y_train)

# 検証、評価
print('訓練スコア: {:.3f}'.format(logistic.score(X_train_scaled, y_train)))
print('テストスコア: {:.3f}'.format(logistic.score(X_test_scaled, y_test)))

# 混同行列
y_pred = logistic.predict(X_test_scaled)
matrix = plot_confusion_matrix(y_pred, y_test)
matrix
```
![スクリーンショット 2021-10-08 11.22.49.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/569276/fbd5b6f0-a702-b2ec-407f-7fd4da31f3b5.png)

```Python
# 学習曲線
from sklearn.model_selection import learning_curve
import japanize_matplotlib
%matplotlib inline

def plot_learning_curve(model, X_data, y_data):
   # データ準備
   train_sizes, train_scores, val_scores = learning_curve(model, X=X_data, y=y_data, train_sizes = np.linspace(0.1, 1.0, 10), cv=10, n_jobs=1)
   
   train_scores_mean = np.mean(train_scores, axis=1)
   train_scores_std = np.std(train_scores, axis=1)
   val_scores_mean = np.mean(val_scores, axis=1)
   val_scores_std = np.std(val_scores, axis=1)
   plt.figure(figsize=[10,5])
   plt.title("学習曲線")
   plt.xlabel("訓練サイズ")
   plt.ylabel("スコア")

   # 訓練スコア と 検証スコア をプロット
   plt.plot(train_sizes, train_scores_mean, 'o-', color="r", label="訓練スコア")
   plt.plot(train_sizes, val_scores_mean, 'o-', color="g", label="検証スコア")

   # 標準偏差の範囲を色付け
   plt.fill_between(train_sizes, train_scores_mean - train_scores_std, train_scores_mean + train_scores_std, color="r", alpha=0.2)
   plt.fill_between(train_sizes, val_scores_mean - val_scores_std, val_scores_mean + val_scores_std, color="g", alpha=0.2)

   # Y軸の範囲
   plt.ylim(0.8, 1.0)

   # 凡例の表示位置
   plt.grid()
   plt.legend(loc="best")
   plt.show()

plot_learning_curve(logistic, X_train_scaled, y_train)
```
![スクリーンショット 2021-10-08 11.22.56.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/569276/07e825f5-7a49-fc90-e058-560fe74e0d6a.png)
訓練スコアと検証スコアが共に（とても）高く、ほぼ同程度であることから、よく識別できていると言うよりは、訓練データ・検証データの差がそもそもあまりないのではないか、という可能性が考えられます。
その為、この結果"だけで"汎化性能の高さを裏付けることは難しそうです。偶然予測結果が正解と一致してしまった可能性が考えられるためです。主成分分析を行なった結果と比較して、再度考察してみましょう。

# 相関分析
本題の主成分分析を解説する前に、相関分析について解説しておきます。
相関分析とは、各データ群がどれほど関係しているか、つまりデータの関連度合い（強さ）を分析する手法です。
その度合いを表す指標に「**相関係数**」というものがあり、それらを可視化した相関行列というものがあります。実際に見ていきましょう。

```Python
# ヒートマップ
import seaborn as sns

plt.figure(figsize=(20, 20))
sns.heatmap(pd.DataFrame(X_train_scaled).corr(), annot=True)
```
![スクリーンショット 2021-10-08 11.23.06.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/569276/09654719-ce63-61f1-65b5-4fffd0732eb4.png)
よく見ると相関係数が0.8以上のもが点在しており、変数間の相関が高い項目が多いことがわかります。

**相関係数**については、下記で解説しています。
##
https://qiita.com/tk-tatsuro/items/759acd001d4fbb8ef6c5
##

また、変数間の関係性を散布図で表す**散布図行列（ペアプロット）**というものがあります。
※対角線は各変数をヒストグラムで表しています。

```Python
sns.pairplot(pd.DataFrame(X_train_scaled).corr(), height=2);
```
![スクリーンショット 2021-10-08 11.23.16.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/569276/94091c8c-7bed-dd3f-2fe5-fa6d2b1d5a30.png)
散布図行列により、相関行列の相関係数が信じられるかの確認を行います。よく見ると線形関係の変数がちらほらと見られることがわかります。これらの変数間の相関が強そうです。

# 多重共線性とその問題点
今回のモデル構築では、目的変数（１=正例（乳がん悪性）、２=負例（乳がん良性））を予測する為に、一般化線形モデルの一つ「ロジスティック回帰」を用います。
ロジスティック回帰とは、目的変数が起こる「確率を予測」し、結果的にその予測確率を用いて分類を行うことができるアルゴリズムです。
![スクリーンショット 2021-10-08 11.23.24.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/569276/f26af13a-8181-0f0d-9522-4af6b72370e6.png)

ただし、一般線形モデルを用いる際、説明変数間に強い相関がある場合、「多重共線性」による「オーバーフィッティング（過学習）」の危惧する必要があると思われる。
多重共線性とは、２つ以上の変数間に高い線形関係がある状態のことを言います。
オーバーフィッティング（過学習）とは、学習データに過剰に適合してしまい、未知のデータ（テストデータ等）に対して的確な予測ができなくなってしまった状態のことです。
後々、交差検証を用いて改善を図っていきたいと思います。
※正則化項については、今回は割愛させていただきます。

## 多重共線性の確認
主成分分析を行う前に（念の為）多重共線性のチェックを行なっていきましょう。今回はVIFという指標を用いて確認していきたいと思います。

### VIF（Variance Inflation Factor）
VIFとは、変数間の多重共線性を検出するための指標の1つです。算出結果に対し10を基準とすることが多いようです。

```Python
from statsmodels.stats.outliers_influence import variance_inflation_factor

vif = pd.DataFrame()
vif["VIF Factor"] = [variance_inflation_factor(X.values, i) for i in range(X.shape[1])]
vif["特徴量"] = X.columns

vif.sort_values(by='VIF Factor', ascending=False)
```
![スクリーンショット 2021-10-08 11.23.33.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/569276/97baa86d-cbce-c2f0-b99f-bc3d9090322c.png)
VIF統計量が10以上の変数がほとんどという結果になりました。多重共線性ありと判断できそうです。

# 主成分分析
いよいよ本題の主成分分析について解説していきます。
主成分分析とは、あるデータ群をより少ないデータ群で要約する解析手法のことです。
そのため主成分分析の狙いは、データ群を要約する際になるべく情報の損失せずに、データを最小限に圧縮するということになります。
その結果、データ構造がわかりやすくなり、同時に計算も負荷も下げられるというメリットがあります。
それでは実際に実装を見ていきましょう。

```Python
# 主成分分析
from sklearn.decomposition import PCA

# 寄与率
pca = PCA(n_components=30)
pca.fit(X_train_scaled)
plt.figure(figsize=[10,5])
plt.grid()
plt.bar([n for n in range(1, len(pca.explained_variance_ratio_)+1)], pca.explained_variance_ratio_)
```
![スクリーンショット 2021-10-08 11.23.42.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/569276/a3abaa96-c98f-8f96-bc14-9dd23772e980.png)

```Python
# 累積寄与率
contribution_ratio = pca.explained_variance_ratio_
accumulation_ratio = np.cumsum(contribution_ratio)
cc_ratio = np.hstack([0, accumulation_ratio])

plt.figure(figsize=[8,5])
plt.plot(accumulation_ratio, "-o")
plt.xlabel("主成分")
plt.ylabel("累積寄与率")
plt.grid()
plt.show()

contribution_ratios = pd.DataFrame(pca.explained_variance_ratio_)
contribution_ratios.round(decimals=2).astype('str').head()
print(f"累積寄与率：　{contribution_ratios[contribution_ratios.index<5].sum().round(decimals=2).astype('str').values}")
```
![スクリーンショット 2021-10-08 11.25.04.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/569276/eaf16288-2392-5594-0926-a07d1fbee432.png)

```Python
# PCA
# 次元数2まで圧縮
pca = PCA(n_components=2, random_state=42)
X_train_pca = pca.fit_transform(X_train_scaled)
print(f'説明分散比: {pca.explained_variance_ratio_}')

# 散布図
temp2 = pd.DataFrame(X_train_pca)
temp2['目的変数'] = y_train.values
b = temp2[temp2['目的変数'] == 0]
m = temp2[temp2['目的変数'] == 1]
plt.figure(figsize=[10,5])
sns.scatterplot(x=b[0], y=b[1], marker='o', label='良性') # 良性
sns.scatterplot(x=m[0], y=m[1], marker='x', label='悪性') # 悪性
plt.xlabel('PC 1') # 第1主成分：x軸
plt.ylabel('PC 2') # 第2主成分：y軸
plt.legend()

temp2.shape
temp2.head()
```
![スクリーンショット 2021-10-08 11.25.37.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/569276/2def28b0-b07f-832c-170e-66b55d292761.png)
第1・第2主成分は、説明分散比が高く（合計：61%）、よく分離できている。元データに対する説明力が高いことがわかります。
また、累積寄与率が80%までの第1〜第5成分まを抽出しておきます。

```Python
pca = PCA(n_components=5, random_state=42)
X_train_pca = pca.fit_transform(X_train_scaled)
print(f'説明分散比: {pca.explained_variance_ratio_}')

# 散布図
temp5 = pd.DataFrame(X_train_pca)
temp5['目的変数'] = y_train.values
b = temp5[temp5['目的変数'] == 0]
m = temp5[temp5['目的変数'] == 1]

temp5.shape
temp5.head()
```
![スクリーンショット 2021-10-08 11.25.49.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/569276/ba5c2291-97a1-1095-8247-143b49e85ba8.png)

# 次元削減後のデータで学習
今回は、累積寄与率が60%の第2主成分までと、累積寄与率が80%までの第5成分までをそれぞれ抽出・学習し、結果を比較していきます。

```Python
def learning(data):
   # 目的変数の抽出、データ分割
   X = data.drop('目的変数', axis=1)
   y = data['目的変数']
   X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=0)

   # 標準化
   scaler = StandardScaler()
   X_train_scaled = scaler.fit_transform(X_train)
   X_test_scaled = scaler.transform(X_test)

   # ロジスティック回帰
   model = LogisticRegressionCV(max_iter=100, random_state=42)
   model.fit(X_train_scaled, y_train)

   # 検証、評価
   print('Train score: {:.3f}'.format(model.score(X_train_scaled, y_train)))
   print('Test score: {:.3f}'.format(model.score(X_test_scaled, y_test)))

   # 混同行列
   y_pred = model.predict(X_test_scaled)
   matrix = plot_confusion_matrix(y_pred, y_test)
   matrix

   return model, X_train_scaled, y_train, matrix

# 次元数2のデータで学習
model, X_train_scaled, y_train, matrix = learning(dimensio_reduce2)
matrix
plot_learning_curve(model, X_train_scaled, y_train)
```
![スクリーンショット 2021-10-08 11.25.56.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/569276/13727d4a-28b4-3dd8-72e9-cc97f2942593.png)
第2主成分まででは、まだ情報不足のようです。

```Python
# 次元数5のデータで学習
model, X_train_scaled, y_train, matrix = learning(dimensio_reduce5)
matrix
plot_learning_curve(model, X_train_scaled, y_train)
```
![スクリーンショット 2021-10-08 11.26.04.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/569276/d2eb9369-67cc-07e3-3fa9-6fad2e6180ee.png)
主成分分析を用いた次元削減によりサンプルに含まれたノイズが取り除かれ、訓練データと学習データのスコアの重なりが改善されたように見られます。
ただし依然としてスコアが高すぎる気がする為、（念の為）ROC曲線とAUCも見ていきましょう。
ROC曲線とは、縦軸は真陽性率、横軸は真陰性率を表した図のことです。
AUCは、モデルの判別性能を表す指標です。ROC曲線の曲線下の面積部分のことを指してします。
AUCが0から1に近くにつれて判別性能が高いことを意味しています。

```Python
# ROC曲線
from sklearn import metrics

def plot_roc_curve(y_pred, y_test):
   fpr, tpr, thresholds = metrics.roc_curve(y_pred, y_test)
   plt.figure(figsize=[8, 3])
   plt.plot(fpr, tpr, label=f'roc_curve')
   plt.xlabel('FPR')
   plt.ylabel('TPR')
   plt.legend()
   plt.grid()
   plt.show()
   
   auc = metrics.auc(fpr, tpr)
   print(f'AUC： {auc.round(decimals=3)}')

plot_roc_curve(y_pred, y_test)
```
![スクリーンショット 2021-10-08 11.26.12.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/569276/89235108-2afc-74d6-f3ec-280fdc42315a.png)
AUCが高く、扱っているデータに対しては判別性能が高いと言えそうです。ただし、更なる未知のデータに対しての判別性能が低いかもしれません。
汎化性能を確認する為、更に交差検証（クロスバリデーション）を行なってみたいと思います。交差検証とは汎化性能を評価する統計的な手法の一つで、いくつかの方法がありますが、今回は詳細を割愛させていただきます。
それでは実装と結果を見ていきましょう。

```Python
from sklearn.model_selection import StratifiedKFold
from tqdm import tqdm # プログレスバー

X = dimensio_reduce5.drop('目的変数', axis=1)
y = dimensio_reduce5['目的変数']

sk = StratifiedKFold(n_splits=5, random_state=42, shuffle=True)
aucs = []
for train_index, test_index in tqdm(sk.split(X, y)):
   X_train_fld, X_test_fld = X.loc[train_index], X.loc[test_index]
   y_train_fld, y_test_fld = y.loc[train_index], y.loc[test_index]
   
   # ロジスティック回帰
   model = LogisticRegressionCV(cv=5,
                                max_iter=1000,
                                random_state=42,
                                penalty='l2', # L2ノルム（正則化項）
                                n_jobs=1)
   
   model.fit(X_train_fld, y_train_fld)
   pred = model.predict(X_test_fld)
   
   matrix = plot_confusion_matrix(pred, y_test_fld)
   matrix
   
   # 検証、評価
   fpr, tpr, thresholds = metrics.roc_curve(y_test_fld, pred)
   auc = metrics.auc(fpr, tpr)
   auc
   aucs.append(auc)

# 検証、評価
np.mean(aucs, axis=0).round(decimals=3)

# 結果： AUC=0.97
```
交差検証の結果でも高い評価点を得られることがわかりました。
「今回扱ったデータセットに対しては」判別性能は高いと言うことができそうです。ただしデータがそもそも不足している可能性があるため、（実務では）データの収集から検討し直す必要があるかもしれません。

# まとめ
各変数の強いデータセットに対して、**主成分分析（次元削減）**という手法が有効な手法の一つであることを確認できました。
ただし、今回扱ったデータセットはそもそものサンプル数が少ない為、更なる未知のデータに対しての汎化性能を推し量ることは難しそうだ（汎化性能が高いとは言い切れない）と思いました。
その為、サンプル数を増やす、または統計的に母集団を推定してサンプリングする、などの方法を取る必要がありそうです。
また、主成分分析（PCA）は予測に関係のないノイズを多く抽出してしまう傾向がある為、事前に特徴量の精査を行うことも有効と思われます。
今後「[**理化学研究所：汎化能力を最大化する特徴抽出**](https://www.riken.jp/press/2021/20210413_1/index.html)」で研究されているような、汎化性能の最大化、およびその評価手法なども、ゆくゆく取り入れていきたいと思います。
今回のテーマは「主成分分析」の為、解説はここまでとさせていただきますが、サンプリングなどの改善手法やその考察については、別記事で別途解説したいと思います。

# 最後に
他の記事はこちらでまとめています。是非ご参照ください。
##
https://qiita.com/tk-tatsuro/items/f27c012e0cb95a5f51d2
##

# 参考文献
[統計Web 一般線形モデル](https://bellcurve.jp/statistics/glossary/644.html)
[統計Web 多重共線性をチェックする](https://bellcurve.jp/statistics/blog/14186.html)
[統計Web VIF / Variance Inflation Factor](https://bellcurve.jp/statistics/glossary/2141.html)
[統計Web AUC（Area under the curve）](https://bellcurve.jp/statistics/glossary/1742.html)
[東京大学 Taiji Suzuki's home page > データ解析 第四回「線形回帰分析の拡張：一般化線形モデル」](http://ibis.t.u-tokyo.ac.jp/suzuki/lecture/2015/dataanalysis/L4.pdf)
[京都大学大学院工学研究科化学工学専攻 > 主成分分析](http://manabukano.brilliant-future.net/document/text-PCA.pdf)
[流通科学大学：サンプルサイズが小さい場合の統計的検定の比較](https://www.mizumot.com/files/permutation.pdf)
[理化学研究所：汎化能力を最大化する特徴抽出](https://www.riken.jp/press/2021/20210413_1/index.html)

# 解析結果
[実装結果：GitHub/purchase_forecast_feature.ipynb](https://github.com/tk-tatsuro/data_science/blob/master/20201003_breast_cancer_diagnostic/breast_cancer_diagnostic.ipynb)
[データセット：Breast Cancer Wisconsin (Diagnostic) Data Set - kaggle](https://www.kaggle.com/uciml/breast-cancer-wisconsin-data)

# 参考資料
##
https://www.oreilly.co.jp/books/9784873118680/
##