ラビットチャレンジ　stage2 機械学習　ロジスティック回帰

#1.ロジスティック回帰モデル

<dt>1-1.ロジスティック回帰モデルの特徴</dt>
　●分類問題（クラス分類）
　　　○ある入力（数値）からクラスに分類する問題
　●分類で扱うデータ
　　　○入力（各要素を説明変数または特徴量と呼ぶ）
　　　　■m次元のベクトル
　　　○出力（目的変数）
　　　　■０or1の値
　　　○タイタニックデータ、IRISデータなど

　
　　　　　$ x = (x_1,x_2,\cdots,x_m)^T \in \mathbb{R}^m  $
　　　　　$ y =  (0,1)　$


<dt>1-2.分類に対するアプローチ</dt>
　　●識別的アプローチ：$ P（Ck|x) $を直接モデル化する　⇨識別関数の構成もある
　　●$ P(Ck) $と $ P(x｜Ck) $をモデル化し、ベイズの定理を用いて $ P（Ck｜x） $を求める

　
#2.シグモイド関数
 
<dt>2-1.シグモイド関数とは</dt>

　　●入力は実数・出力は必ず0~1の値
　　●(クラス1に分類される)確率を表現
　　●単調増加関数

　　公式

```math
 \sigma (x) = \frac{1}{1 + exp^{(-ax)}} 
``` 
　
　
　　●aを増加させると，x=0付近での曲線の勾配が増加する
　　●aを極めて大きくすると，単位ステップ関数(x<0でf(x)=0，x>0でf(x)=1となるような関数)に近づく
　　●バイアス変化は段差の位置

　<dt>2-2.シグモイド関数の性質</dt>
　　●シグモイド関数の微分は、シグモイド関数自身で表現することが可能
　　●尤度関数の微分を行う際にこの事実を利用すると計算が容易

　シグモイド関数の微分

  ```math
   \begin{eqnarray}
   \frac{\partial \sigma (x)}{\partial \sigma} &=& \frac{\partial}{\partial x} 
   \Big(\frac{1}{1 + exp^{(-ax)}} \Big) \\
   &=& (-1) \cdot \{ 1 + exp^{(-ax)}  \}^{-2}　\cdot  exp(-ax) \cdot (-a) \\
   &=& \frac{a \ exp(-ax)}{\{ 1 + exp(-ax) \}^2} \\ 
   &=& \frac{a}{1+exp(-ax)} \cdot \frac{1+exp(-ax)-1}{1+exp(-ax)} \\
   &=& a \sigma (x) \  (1 - \sigma (x))
   \end{eqnarray}
  ```

　
　<dt>2-3.シグモイド関数の出力をY=１になる確率に対応させる</dt>
　　●データの線形結合を計算
　　●シグモイド関数の入力→出力が確率に対応
　　●[表記]i番目データを与えた時のシグモイド関数の出力をi番目のデータがY=1になる確率とする

　$$ P(Y = 1 |\  \boldsymbol{x}) = \sigma (w_0 + w_1 x_1 + \cdots + w_m x_m) $$ 

　　求めたい値P(Y = 1 | x)は説明変数の実現値が与えられた際にY=１になる確率

　　表記
  
 $$ p_i =  \sigma (w_0 + w_1 x_{i1} + \cdots + w_m x_{im}) $$


#3.最尤推定

<dt>3-1.確率推定</dt>
　　●世の中には様々な確率分布が存在する
　　　○　正規分布、t分布、ガンマ分布、一様分布、ディリクレ分布　・・・
　　　○ ロジスティック回帰モデルでは　**ベルヌーイ分布** を使用する
　
<dt>3-2.ベルヌーイ分布</dt>
　●ベルヌーイ分布
　　○ 数学において、確率pで１、確率p-1で０をとる、離散確率分布(例：コイン投げ)
　　○　「生成されるデータ」は分布のパラメータによって異なる（今回の場合は確率p)
　
　　・ベルヌーイ分布に従う確率変数Y
　　　　　
　　　　　　$ Y 〜 Be(p) $
　　
　　・Y=0とY=1になる確率をまとめて表現
　　　　　
　　　　　　$ P(y) = p^y (1 - p)^{1 y} $

<dt>3-2.ベルヌーイ分布のパラメータの推定</dt>
　●　ある分布を考えた時、そのパラメータ（既知）によって、生成されるデータは変化する
　●　データからそのデータを生成したであろう尤もらしい分布（パラメータ）を推定していく
　　　■最尤推定
　
　　例)
　　　　表が出る確率0.6のベルヌーイ分布を仮定
　　　　　　↓
　　　　表：５８回　裏：４２回のデータを取得
　　　　　　↓
　　　　データを集めたところ　表：５５回　裏：４５回だった
　　　　　　↓
　　　　　これらのデータはどんな分布から生成されたか？

<dt>3-3.同時確率と尤度関数</dt>
　●同時確率
　　　○　あるデータが得られた時、それが同時に得られる確率
　　　○　確率変数は独立であることを仮定すると、それぞれの確率の掛け算となる
　
　●尤度関数
　　　○　データを固定し、パラメータを変化させる
　　　○　尤度関数を**最大化**するようなパラメータを選ぶ推定方法を**最尤推定**という
　
　　　・1回の推定で y=y_1になる確率

  $$ P(y) = P^y (1 - p)^{1-y} $$

　　　・n回の試行でy1~ynが同時に起こる確率(p固定)

  $$ P(y_1,y_2,\cdots,y_n;p) = \prod_{i=1}^{n} \color{blue}{p} ^ {y_i} (1- 
     \color{blue}{p})^{1-{y_i}} $$

　　　・y1~ynのデータが得られた際の尤度関数

   $$ P(y_1,y_2,\cdots,y_n;p) = \prod_{i=1}^{n} \color{red}{p} ^ 
      \color{blue}{y_i} (1 - \color{red}{p})^{1 - \color{blue}{y_i}} $$

　　　　<font color="blue">青字</font>は既知のパラメータ、<font color="red">赤字</font>は未知のパラメータ

<dt>3-4.ロジスティック回帰モデルの最尤推定</dt>
　
　●　確率pはシグモイド関数となるため、推定するパラメータは重みパラメータとなる。
　●　$(\boldsymbol{x_1},y_1),\cdots,(\boldsymbol{x_n},y_n)$を生成するに至った尤もらしいパラメータを探す
　

```math
 \begin{eqnarray}
 P(Y= y_1 |\ \boldsymbol{x}_1) =p_1^{y_1} (1 - p_1)^{1-y_1} &= \sigma(w^T 
 \boldsymbol{x}_1)^{y_1} (1 - \sigma (w^T \boldsymbol{x}_1))^{1-y_1} \\  
 P(Y= y_2 |\ \boldsymbol{x}_2) =p_2^{y_2} (1 - p_2)^{1-y_2} &= \sigma(w^T 
 \boldsymbol{x}_2)^{y_2} (1 - \sigma (w^T \boldsymbol{x}_2))^{1-y_2} \\  
 \vdots \\
 P(Y= y_n |\ \boldsymbol{x}_n) =p_n^{y_n} (1 - p_n)^{1-y_n} &= \sigma(w^T 
 \boldsymbol{x}_n)^{y_n} (1 - \sigma (w^T \boldsymbol{x}_n))^{1-y_n} \\  
 \end{eqnarray}
```

　

```math
 \begin{eqnarray}
  P(\color{blue}{y_1,y_2,\cdots,y_n} | \color{red}{w_0,w_1,\cdots,w_m}) &=& 
  \prod_{i=1}^{n} \color{red}{p_i}^{y_i} (1 - \color{red}{p_i})^{1 - {y_i}} \\

  &=& \prod_{i=1}^{n} \sigma (\color{red}{w}^T \color{blue} 
  {\boldsymbol{x}_i})^\color{blue}{y_i} (1 - \sigma (\color{red} 
  {w}^T \color{blue}{\boldsymbol{x}_i}))^{1-\color{blue}{y_i}}  \\
　　 
  &=& L( \color{red}{w} )
\end{eqnarray}
```

　　　　<font color="blue">青字</font>は既知のパラメータ、<font color="red">赤字</font>は未知のパラメータ

　●尤度関数を最大とするパラメータを探索(推定)
　　○　対数を取ると微分の計算が簡単
　　　■　同時確率の積が和に変換可能
　　　■　指数が積の演算に変換可能
　　○ 対数尤度関数が最大になる点と尤度関数が最大になる点は同じ
　　　■　対数関数は単調増加（ある尤度の値がx1 < x2の時、必ずlog(x1) < log(x2)となる)
　　○ 「尤度関数にマイナスをかけたものを最小化」し、「最小2乗法の最小化」と合わせる

 ```math
  \begin{eqnarray}

   E(w_0,w_1,\cdots,w_m) &=& - Log(w_0,w_1,\cdots,w_m) \\

   &=& - \sum_{i=1}^{n} \big\{y_i \ log p_i + (1 - y_i) \ log (1-p_i) \big\}   

  \end{eqnarray}
 ```

　<dt>3-5.勾配降下法</dt>
　　○ 反復学習によりパラメータを逐次的に更新するアプローチの一つ
　　○ ηは学習率と呼ばれるハイパーパラメータでモデルのパラメータの収束しやすさを調整

　●なぜ必要か
 ○[線形回帰モデル(最小2乗法)]  ▶MSEのパラメータに関する微分が0になる値を解析に求めることが可能
 ○[ロジスティック回帰モデル(最尤法)] ▶対数尤度関数をパラメータで微分して0になる値を求める必要があるのだが、解析的にこの値を求めることは困難である。


 $$ w(k+1) = w^k - \eta \frac{\partial E(w)}{\partial w} $$

　●対数尤度関数を係数とバイアスに関して微分

 ```math
  \begin{eqnarray}

   \frac{\partial E(w)}{\partial w} &=& - \sum_{i=1}^{n} \frac{\partial 
   E_i(w)} {\partial p_i} \frac{\partial p_i}{\partial w} \\

   &=& - \sum_{i=1}^{n} \big( \frac{y_i}{p_i} - \frac{1-y_i}{1-p_i} \big) \  
   p_i(1 - p) \  \boldsymbol{x}_i \\

   &=& - \sum_{i=1}^{n} (y_i (1 - p_i) - p_i(1 - y_i) ) \boldsymbol{x}_i \\ 

   &=& - \sum_{i=1}^{n} (y_i - p_i) \boldsymbol{x}_i

  \end{eqnarray}
 ```

　　1行目：連鎖率により、分解
　　２行目：対数尤度関数のpに関する微分
　　３行目：シグモイド関数の微分
　　４行目：式の整理

　　　○パラメータが更新されなくなった場合、それは勾配が0になったということ。
　　　○少なくとも反復学習で探索した範囲では最適な解がもとめられたことになる。

  $$ w^{(k+1)} = w^{(k)} + \eta \sum_{i=1}^{n} (y_i - p_i) \boldsymbol{x}_i $$

　　　○勾配降下法では、パラメータを更新するのにN個全てのデータに対する和を求める必要がある
　　　　■　nが巨大になった時にデータをオンメモリに載せる容量が足りない、計算時間が莫大になる可能性がある
　　　　■　確率的勾配降下法を利用して解決

<dt>3-6.確率的勾配降下法</dt>
　●データを一つずつランダムに（「確率的」に)選んでパラメータを更新
　●勾配降下法でパラメータを1回更新するのと同じ計算量で、パラメータをn回更新できるので、探索が効率的

　$$ w^{(k+1)} = w^k + \eta (y_i - p_i) \boldsymbol{x}_i $$

#4.ロジスティック回帰モデルの性能指標
<dt>4-1.混同行列(confusion matrix)</dt>
　●各検証データに対するモデルの予測結果を4つの観点(表)で分類し、それぞれに当てはまる予測結果の個数をまとめた表

<table>
 <tr>
  <td colspan="2" rowspan="2"></td>
  <td colspan="2" align="center">検証用データの結果</td>
 </tr>
 <tr>
  <td>positive</td>
  <td>negative</td>
 <tr>
  <td rowspan="2">モデルの予測結果</td>
  <td>positive</td>
  <td><font color="blue">真陽性(True Positive)<br>~正しくpositive 
  と判別した個数</font></td>
  <td ><font color="red">偽陰性(False Positive)<br>~間違えてpositiveと判別した個数 
  </font></td>
 </tr>
 <tr>
  <td>negative</td>
  <td><font color="red">偽陽性(False Positive)<br>~間違えて 
  Negativeと判別した個数</font></td> 
  <td><font color="blue">真陰性(True Negative)<br>~正しくnegativeと判別した個数 
  </font></td>
 </tr>
</table>

<dt>4-2.分類の評価方法</dt>
　●　「正解率」がよく使われる
　●　正解した数/予測対象となったデータ数
　　　例）メールのスパム分類
　　　　　■　スパム数が８０件・普通のメールが２０件であった場合
　　　　　■　全てをスパムとする分類器の正解率は８０%となる。
　●　どのような問題があるか
　　　■　分類したいクラスにはそれぞれ偏りがあることが多い
　　　■　この場合、単純な正解率はあまり意味をなさないことがほとんど

 $$ \frac{TP + TN}{TP + FN + FP + TN} $$ 

　●再現率(Recall)
　　○「本当にPositiveなもの」の中からPositiveと予測できる割合
　　　(NegativeなものをPositiveとしてしまう事象については考えていない)

　　○「誤り(False Positive)が多少多くても抜け漏れは少ない」予測をしたい際に利用

　　○使用例) 病気の検診で「陽性であるものを陰性と誤診(False Negative)」としてしまうのを避けたい。
　　　　陰性を陽性であると誤診(False Positive)」とするものが少し増えたとしても再検査すればいい。

  $$ \frac{TP}{TP + FN} $$

　●適合率(Precision)
　　○モデルが「Positiveと予測」したものの中で本当にPositiveである割合
　　　　(本当にPositiveなものをNegativeとしてしまう子については考えていない)
　　
　　○見逃し(False Negative)が多くてもより正確な」予測をしたい際に利用

　　○重要なメールをスパムメールと誤判別」されるより「スパムと予測したものが確実にスパム」である方が便利。
　　　　スパムメールを検出できなくても(False Negative)、自分でやればいい。

 $$ \frac{TP}{TP + FP} $$

　●F値
　　○理想的にはどちらも高いモデルがいいモデルだが、両者はトレードオフの関係にあり、どちらかを小さくすると、もう片方の値が大きくなってしまう。

　　○PrecisionとRecallの調和平均
　　　■　RecallとPrecisionのバランスを示している。高ければ高いほどRecallとPrecisionがともに高くなる

#5.ハンズオン

<dt>5-1．目標設定</dt>

　●設定
　　○タイタニックの乗客データを利用しロジスティック回帰モデルを作成

　●目標
　　○年齢３０歳の男性は生き残れるか


<dt>5-2.各種ライブラリやデータの準備</dt>

```python
 #グーグルドライブをマウント
 from google.colab import drive
 drive.mount('/content/drive')
```

```python
#パスの追加
import  sys
sys.path.append('/content/drive/MyDrive/titanic/study_ai_ml_google')
```

```python
# 必要なモジュールをインストール

import numpy as np
import matplotlib.pyplot as plt
import pandas as pd
from sklearn.linear_model import LogisticRegression
from pandas import DataFrame
import seaborn as sns

%matplotlib inline
```

<dt>5-3.データの前処理</dt>

```python
# タイタニックデータの取得

titanic_df = pd.read_csv('/content/drive/MyDrive/titanic/study_ai_ml_google/data/titanic_train.csv')
```
<table>
 <tr>
  <td></td>
  <td>PassengerId</td>
  <td>Survived</td>
  <td>Pclass</td>
  <td>Name</td>
  <td>Sex</td>
  <td>Age</td>
  <td>SibSp</td>
  <td>Parch</td>
  <td>Ticket</td>
  <td>Fare</td>
  <td>Cabin</td>
  <td>Embarked</td>
 </tr>
 <tr>
  <td>0</td>
  <td>1</td>
  <td>0</td>
  <td>3</td>
  <td>Braund, Mr. Owen Harris</td>
  <td>male</td>
  <td>22.0</td>
  <td>1</td>
  <td>0</td>
  <td>A/5 21171</td>
  <td>7.2500</td>
  <td>NaN</td>
  <td>S</td>
 </tr>
 <tr>
  <td>1</td>
  <td>2</td>
  <td>1</td>
  <td>1</td>
  <td>Cumings, Mrs. John Bradley (Florence Briggs Th...</td>
  <td>female</td>
  <td>38.0</td>
  <td>1</td>
  <td>0</td>
  <td>PC 17599</td>
  <td>71.2833</td>
  <td>C85</td>
  <td>C</td>
 </tr>
 <tr>
  <td>2</td>
  <td>3</td>
  <td>1</td>
  <td>3</td>
  <td>Heikkinen, Miss. Laina</td>
  <td>female</td>
  <td>26.0</td>
  <td>0</td>
  <td>0</td>
  <td>STON/O2. 3101282</td>
  <td>7.9250</td>
  <td>NaN</td>
  <td>S</td>
 </tr>
 <tr>
  <td>3</td>
  <td>4</td>
  <td>1</td>
  <td>1</td>
  <td>Futrelle, Mrs. Jacques Heath (Lily May Peel)</td>
  <td>female</td>
  <td>35.0</td>
  <td>1</td>
  <td>0</td>
  <td>113803</td>
  <td>53.1000</td>
  <td>C123</td>
  <td>S</td>
 </tr>
 <tr>
  <td>4</td>
  <td>5</td>
  <td>0</td>
  <td>3</td>
  <td>Allen, Mr. William Henry</td>
  <td>male</td>
  <td>35.0</td>
  <td>0</td>
  <td>0</td>
  <td>373450</td>
  <td>8.0500</td>
  <td>NaN</td>
  <td>S</td>
 </tr>
</table>

 
```python
# 不要なデータの削除

titanic_df.drop(['PassengerId','Name','Ticket','Cabin'], axis=1, inplace=True)

#削除後のデータを表示
titanic_df.head()
```
 

<table>
 <tr>
  <td></td>
  <td>Survived</td>
  <td>Pclass</td>
  <td>Sex</td>
  <td>Age</td>
  <td>SibSp</td>
  <td>Parch</td>
  <td>Fare</td>
  <td>Embarked</td>
 </tr>
 <tr>
  <td>0</td>
  <td>0</td>
  <td>3</td>
  <td>male</td>
  <td>22.0</td>
  <td>1</td>
  <td>0</td>
  <td>7.2500</td>
  <td>S</td>
 </tr>
 <tr>
  <td>1</td>
  <td>1</td>
  <td>1</td>
  <td>female</td>
  <td>38.0</td>
  <td>1</td>
  <td>0</td>
  <td>71.2833</td>
  <td>C</td>
 </tr>
 <tr>
  <td>2</td>
  <td>1</td>
  <td>3</td>
  <td>female</td>
  <td>26.0</td>
  <td>0</td>
  <td>0</td>
  <td>7.9250</td>
  <td>S</td>
 </tr>
 <tr>
  <td>3</td>
  <td>1</td>
  <td>1</td>
  <td>female</td>
  <td>35.0</td>
  <td>1</td>
  <td>0</td>
  <td>53.1000</td>
  <td>S</td>
 </tr>
 <tr>
  <td>4</td>
  <td>0</td>
  <td>3</td>
  <td>male</td>
  <td>35.0</td>
  <td>0</td>
  <td>0</td>
  <td>8.0500</td>
  <td>S</td>
 </tr>
</table>

　

```python
# nullを含んでいる行を表示

titanic_df[titanic_df.isnull().any(1)].head(5)
```

<table>
 <tr>
  <td></td>
  <td>Survived</td>
  <td>Pclass</td>
  <td>Sex</td>
  <td>Age</td>
  <td>SibSp</td>
  <td>Parch</td>
  <td>Fare</td>
  <td>Embarked</td>
 </tr>
 <tr>
  <td>5</td>
  <td>0</td>
  <td>3</td>
  <td>male</td>
  <td>NaN</td>
  <td>0</td>
  <td>0</td>
  <td>8.4583</td>
  <td>Q</td>
 </tr>
 <tr>
  <td>17</td>
  <td>1</td>
  <td>2</td>
  <td>male</td>
  <td>NaN</td>
  <td>0</td>
  <td>0</td>
  <td>13.0000</td>
  <td>S</td>
 </tr>
 <tr>
  <td>19</td>
  <td>1</td>
  <td>3</td>
  <td>female</td>
  <td>NaN</td>
  <td>0</td>
  <td>0</td>
  <td>7.2250</td>
  <td>C</td>
 </tr>
 <tr>
  <td>26</td>
  <td>0</td>
  <td>3</td>
  <td>male</td>
  <td>NaN</td>
  <td>0</td>
  <td>0</td>
  <td>7.2250</td>
  <td>C</td>
 </tr>
 <tr>
  <td>28</td>
  <td>1</td>
  <td>3</td>
  <td>female</td>
  <td>NaN</td>
  <td>0</td>
  <td>0</td>
  <td>7.8792</td>
  <td>Q</td>
 </tr>
</table>

　
　○NaN(null)行を含んでしまうと、正しく学習できないため、前処理の段階で必ず無くしておくこと


```python
# Ageカラムのnullを中央値で補完（新規に「AgeFill」カラムを作成し、保存）

titanic_df['AgeFill'] = titanic_df['Age'].fillna(titanic_df['Age'].mean())

#再度確認
titanic_df[titanic_df.isnull().any(1)].head(5)
```

<table>
 <tr>
  <td></td>
  <td>Survived</td>
  <td>Pclass</td>
  <td>Sex</td>
  <td>Age</td>
  <td>SibSp</td>
  <td>Parch</td>
  <td>Fare</td>
  <td>Embarked</td>
  <td>AgeFill</td>
 </tr>
 <tr>
  <td>5</td>
  <td>0</td>
  <td>3</td>
  <td>male</td>
  <td>NaN</td>
  <td>0</td>
  <td>0</td>
  <td>8.4583</td>
  <td>Q</td>
  <td>29.699118</td>
 </tr>
 <tr>
  <td>17</td>
  <td>1</td>
  <td>2</td>
  <td>male</td>
  <td>NaN</td>
  <td>0</td>
  <td>0</td>
  <td>13.0000</td>
  <td>S</td>
  <td>29.699118</td>
 </tr>
 <tr>
  <td>19</td>
  <td>1</td>
  <td>3</td>
  <td>female</td>
  <td>NaN</td>
  <td>0</td>
  <td>0</td>
  <td>7.2250</td>
  <td>C</td>
  <td>29.699118</td>
 </tr>
 <tr>
  <td>26</td>
  <td>0</td>
  <td>3</td>
  <td>male</td>
  <td>NaN</td>
  <td>0</td>
  <td>0</td>
  <td>7.2250</td>
  <td>C</td>
  <td>29.699118</td>
 </tr>
 <tr>
  <td>28</td>
  <td>1</td>
  <td>3</td>
  <td>female</td>
  <td>NaN</td>
  <td>0</td>
  <td>0</td>
  <td>7.8792</td>
  <td>Q</td>
  <td>29.699118</td>
 </tr>
</table>

　　○今回は年齢の中央値でNaNを埋めた。
　　　　その他にも最小値や最大値など様々なデータを入れれる

<dt>5-4.ロジスティック回帰モデルの実装</dt>

　　○まずは運賃のみで、生死フラグの判別を行えるように実装する

```python
 # 運賃だけのリストを作成

data1 = titanic_df.loc[:, ["Fare"]].values

# 生死フラグのみのリストを作成

label1 = titanic_df.loc[:, ["Survived"]].values

# モデルの作成
model = LogisticRegression() 

# fit関数で学習

model.fit(data1,label1)

#実行結果
#/usr/local/lib/python3.7/dist-packages/sklearn/utils/validation.py:760: DataConversionWarning: A column-vector y was passed when a 1d array was expected. Please change the shape of y to (n_samples, ), for example using ravel().
#  y = column_or_1d(y, warn=True)
#LogisticRegression(C=1.0, class_weight=None, dual=False, fit_intercept=True,
#                  intercept_scaling=1, l1_ratio=None, max_iter=100,
#                  multi_class='auto', n_jobs=None, penalty='l2',
#                  random_state=None, solver='lbfgs', tol=0.0001, verbose=0,
#                  warm_start=False)
```

　　○線形回帰モデルの時と同じように、説明変数、目的変数を分け、モデルの生成後、fit関数で学習させる


```python
# 学習結果の確認(運賃が９０ドルの人は生き残ったか？)

model.predict([[90]])

#実行結果
#array([1])

# 学習結果の確認2(運賃が９０ドルの人は何％の確率で生き、何％の確率で死ぬか？)

model.predict_proba([[90]])

#実行結果
#array([[0.3949907, 0.6050093]])
```

　　○今回は試しで、運賃が９０ドルの人が生き残れるかの確認を行う
　　　■model.predict では実際に生き残れるかを確認することができる
　　　■model.predict_proba　では何％の確率で生き、何％の確率で死ぬかを確認することができる


　　○次に2変数を使用して、生死を判別するように作成する

```python
# 性別カラムを数値に変換（新規「Gender」カラムを作成し保存）

titanic_df['Gender'] = titanic_df['Sex'].map({'female' : 0, 'male' : 1}).astype(int)

#中身の確認
titanic_df.head()
```

<table>
 <tr>
  <td></td>
  <td>Survived</td>
  <td>Pclass</td>
  <td>Sex</td>
  <td>Age</td>
  <td>SibSp</td>
  <td>Parch</td>
  <td>Fare</td>
  <td>Embarked</td>
  <td>AgeFill</td>
  <td>Gender</td>
 </tr>
 <tr>
  <td>0</td>
  <td>0</td>
  <td>3</td>
  <td>male</td>
  <td>22.0</td>
  <td>1</td>
  <td>0</td>
  <td>7.2500</td>
  <td>S</td>
  <td>22.0</td>
  <td>1</td>
 </tr>
 <tr>
  <td>1</td>
  <td>1</td>
  <td>1</td>
  <td>female</td>
  <td>38.0</td>
  <td>1</td>
  <td>0</td>
  <td>71.2833</td>
  <td>C</td>
  <td>38.0</td>
  <td>0</td>
 </tr>
 <tr>
  <td>2</td>
  <td>1</td>
  <td>3</td>
  <td>female</td>
  <td>26.0</td>
  <td>0</td>
  <td>0</td>
  <td>7.9250</td>
  <td>S</td>
  <td>26.0</td>
  <td>0</td>
 </tr>
 <tr>
  <td>3</td>
  <td>1</td>
  <td>1</td>
  <td>female</td>
  <td>35.0</td>
  <td>1</td>
  <td>0</td>
  <td>53.1000</td>
  <td>S</td>
  <td>35.0</td>
  <td>0</td>
 </tr>
 <tr>
  <td>4</td>
  <td>0</td>
  <td>3</td>
  <td>male</td>
  <td>35.0</td>
  <td>0</td>
  <td>0</td>
  <td>8.0500</td>
  <td>S</td>
  <td>35.0</td>
  <td>1</td>
 </tr>
</table>


```python
#Pclass(階級)とGender(性別)の特徴量を足し合わせる

titanic_df["Pclass_Gender"] = titanic_df['Pclass'] + titanic_df['Gender']

#中身の確認
titanic_df.head()
```

<table>
 <tr>
  <td></td>
  <td>Survived</td>
  <td>Pclass</td>
  <td>Sex</td>
  <td>Age</td>
  <td>SibSp</td>
  <td>Parch</td>
  <td>Fare</td>
  <td>Embarked</td>
  <td>AgeFill</td>
  <td>Gender</td>
  <td>Pclass_Gender</td>
 </tr>
 <tr>
  <td>0</td>
  <td>0</td>
  <td>3</td>
  <td>male</td>
  <td>22.0</td>
  <td>1</td>
  <td>0</td>
  <td>7.2500</td>
  <td>S</td>
  <td>22.0</td>
  <td>1</td>
  <td>4</td>
 </tr>
 <tr>
  <td>1</td>
  <td>1</td>
  <td>1</td>
  <td>female</td>
  <td>38.0</td>
  <td>1</td>
  <td>0</td>
  <td>71.2833</td>
  <td>C</td>
  <td>38.0</td>
  <td>0</td>
  <td>1</td>
 </tr>
 <tr>
  <td>2</td>
  <td>1</td>
  <td>3</td>
  <td>female</td>
  <td>26.0</td>
  <td>0</td>
  <td>0</td>
  <td>7.9250</td>
  <td>S</td>
  <td>26.0</td>
  <td>0</td>
  <td>3</td>
 </tr>
 <tr>
  <td>3</td>
  <td>1</td>
  <td>1</td>
  <td>female</td>
  <td>35.0</td>
  <td>1</td>
  <td>0</td>
  <td>53.1000</td>
  <td>S</td>
  <td>35.0</td>
  <td>0</td>
  <td>1</td>
 </tr>
 <tr>
  <td>4</td>
  <td>0</td>
  <td>3</td>
  <td>male</td>
  <td>35.0</td>
  <td>0</td>
  <td>0</td>
  <td>8.0500</td>
  <td>S</td>
  <td>35.0</td>
  <td>1</td>
  <td>4</td>
 </tr>
</table>

　　○ここでは新たな特徴量を作成している。
　　　階級と性別の数字を足し合わせているが、
　　　どのような考えで新たな特徴量作成に至ったかというと、
　　　身近でよくある、階級が高い人を優先的に救助し、
　　　さらにはレディファーストな考えで、女性を先に救助するのように
　　　考えることができるのではないかと想定できる。

```python
#不要なデータの削除

titanic_df = titanic_df.drop(['Pclass', 'Sex', 'Age', 'Gender'], axis=1)

#中身の確認
titanic_df.head()
```

<table>
 <tr>
  <td></td>
  <td>Survived</td>
  <td>SibSp</td>
  <td>Parch</td>
  <td>Fare</td>
  <td>Embarked</td>
  <td>AgeFill</td>
  <td>Pclass_Gender</td>
 </tr>
 <tr>
  <td>0</td>
  <td>0</td>
  <td>1</td>
  <td>0</td>
  <td>7.2500</td>
  <td>S</td>
  <td>22.0</td>
  <td>4</td>
 </tr>
 <tr>
  <td>1</td>
  <td>1</td>
  <td>1</td>
  <td>0</td>
  <td>71.2833</td>
  <td>C</td>
  <td>38.0</td>
  <td>1</td>
 </tr>
 <tr>
  <td>2</td>
  <td>1</td>
  <td>0</td>
  <td>0</td>
  <td>7.9250</td>
  <td>S</td>
  <td>26.0</td>
  <td>3</td>
 </tr>
 <tr>
  <td>3</td>
  <td>1</td>
  <td>1</td>
  <td>0</td>
  <td>53.1000</td>
  <td>S</td>
  <td>35.0</td>
  <td>1</td>
 </tr>
 <tr>
  <td>4</td>
  <td>0</td>
  <td>0</td>
  <td>0</td>
  <td>8.0500</td>
  <td>S</td>
  <td>35.0</td>
  <td>4</td>
 </tr>
</table>

```python
# 作成した特徴量の確認のため図をプロット

np.random.seed = 0

xmin, xmax = -5, 85
ymin, ymax = 0.5, 4.5

index_survived = titanic_df[titanic_df["Survived"]==0].index
index_notsurvived = titanic_df[titanic_df["Survived"]==1].index

from matplotlib.colors import ListedColormap
fig, ax = plt.subplots()
cm = plt.cm.RdBu
cm_bright = ListedColormap(['#FF0000', '#0000FF'])
sc = ax.scatter(titanic_df.loc[index_survived, 'AgeFill'],
                titanic_df.loc[index_survived, 'Pclass_Gender']+(np.random.rand(len(index_survived))-0.5)*0.1,
                color='r' ,  label='Not Survived', alpha=0.3)
sc = ax.scatter(titanic_df.loc[index_notsurvived, 'AgeFill'],
                titanic_df.loc[index_notsurvived, 'Pclass_Gender']+(np.random.rand(len(index_notsurvived))-0.5)*0.1,
                color='b' ,  label='Survived', alpha=0.3)
ax.set_xlabel('AgeFill')
ax.set_ylabel('Pclass_Gender')
ax.set_xlim(xmin, xmax)
ax.set_ylim(ymin, ymax)
ax.legend(bbox_to_anchor=(1.4, 1.03) )
```
![plot1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/221503/d7f6a939-b46f-c4f7-64df-c77fb314bf75.png)

　　○x軸には、年齢　y軸には新しく作成した特徴量でプロットを行った結果次のことが分かる。
　　　　■Pclass_Genderが低い(階級が高く、女性の可能性が高い）と生き残る人が多くなる
　　　　■全体的に年齢が低い（若い）方が生き残る人が多くなる

　　○上記の整理したデータでロジスティック回帰モデルを作成してみる

```python
# 年齢と作成した特徴量(Pclass_Gender)でリストを作成

data2 = titanic_df.loc[:, ['AgeFill' , 'Pclass_Gender']].values

# 生死フラグのみのリストを作成

label2 = titanic_df.loc[:, 'Survived'].values 

# モデルの作成と学習

model2 = LogisticRegression()

model2.fit(data2,label2)

# 学習結果の確認(年齢が２０歳で、特徴量が２の人)

model2.predict_proba([[20,2]])

# 実行結果
array([[0.21920089, 0.78079911]])
```

　　○試しに年齢が２０歳で、特徴量が２の人で予測してみると
　　　７８％で生き残り、２１％で死亡してしまうという結果になった。

　　○この学習結果を先程の図に追加してみると

```python
# 学習結果の確認（図）

h = 0.02
xmin, xmax = -5, 85
ymin, ymax = 0.5, 4.5
xx, yy = np.meshgrid(np.arange(xmin, xmax, h), np.arange(ymin, ymax, h))
Z = model2.predict_proba(np.c_[xx.ravel(), yy.ravel()])[:, 1]
Z = Z.reshape(xx.shape)

fig, ax = plt.subplots()
levels = np.linspace(0, 1.0)
cm = plt.cm.RdBu
cm_bright = ListedColormap(['#FF0000', '#0000FF'])
#contour = ax.contourf(xx, yy, Z, cmap=cm, levels=levels, alpha=0.5)

sc = ax.scatter(titanic_df.loc[index_survived, 'AgeFill'],
                titanic_df.loc[index_survived, 'Pclass_Gender']+(np.random.rand(len(index_survived))-0.5)*0.1,
                color='r', label='Not Survived', alpha=0.3)
sc = ax.scatter(titanic_df.loc[index_notsurvived, 'AgeFill'],
                titanic_df.loc[index_notsurvived, 'Pclass_Gender']+(np.random.rand(len(index_notsurvived))-0.5)*0.1,
                color='b', label='Survived', alpha=0.3)

ax.set_xlabel('AgeFill')
ax.set_ylabel('Pclass_Gender')
ax.set_xlim(xmin, xmax)
ax.set_ylim(ymin, ymax)
#fig.colorbar(contour)

x1 = xmin
x2 = xmax
y1 = -1*(model2.intercept_[0]+model2.coef_[0][0]*xmin)/model2.coef_[0][1]
y2 = -1*(model2.intercept_[0]+model2.coef_[0][0]*xmax)/model2.coef_[0][1]
ax.plot([x1, x2] ,[y1, y2], 'k--')

```

![plot2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/221503/ff105f7e-4ecc-4987-0b88-200263be7db2.png)


　　○境界線を引くことができる
　　　この境界線より下に行った場合は生存確率が高くなり、
　　　上に行った場合は生存確率が低くなっていることが分かる