タイタニック号の乗客の生存予測 を体験してみる（探索的データ解析編）

# 目的
機械学習の一連の流れをタイタニック号の乗客の生存予測モデル作成を通して体験する。
先駆者の残してくれた記事に習い、どういう思考プロセスで開発しているのかを知る。
わからない関数、処理があれば調べてコメントとして残しておく。

# 参考元
以下の「キヨシの命題」様の記事を参考にさせていただきます。

タイタニック号の乗客の生存予測〜80%以上の予測精度を超える方法（探索的データ解析編）
https://yolo-kiyoshi.com/2018/12/16/post-951/

# 探索的データ解析編　をやってみる
「キヨシの命題」様のサイトには複数のタイタニック号の乗客の生存予測の記事が存在していた。
私はその中でも副題に「80%以上の予測精度を超える方法」がついている2記事を体験してみることにした。

２記事と言っても前編と後編に別れている。
「探索的データ解析編」と「モデル構築＆推論編」である。

本記事では前編の「探索的データ解析編」を体験する。
その前に探索的データ解析のことを理解しておく必要があるので以下復習。

>探索的データ解析
英語ではExplanatory Data Analysis（略してEDA）データの特徴を探求し、構造を理解することを目的としたデータサイエンスの最初の一歩です。

>探索的データ解析は機械学習のタスクの一番最初のフェーズで、まずはデータに触れてみて、データを視覚化したり、データのパターンを探したり、特徴量やターゲットの関係性/相関性を感じるとるのが目的です。

>[【データサイエンティスト入門編】探索的データ解析（EDA）の基礎操作をPythonを使ってやってみよう より抜粋](https://www.codexa.net/basic-exploratory-data-analysis-with-python/)

# 環境
- Pythonでバージョンは3.7
- Colaboratory


# 環境準備
紹介されていたkaggleのサイトからデータ(csvファイル３つ)をダウンロードした。
https://www.kaggle.com/c/titanic/data

- gender_submission.csv
- test.csv
- train.csv

ダウンロードしたファイルをColaboratoryにアップロードする。
参考サイトに習いtrain.csvとtest.csvを/data/rawを作成後、配下に格納した。
<img width="330" alt="スクリーンショット 2020-04-28 11.15.31.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/557349/ee630c50-c880-bec7-0bf9-aeaee366dc4e.png">

# データ準備
inputの通り入力し、outputの通り出力されることを確認した。
わからない関数、ぱっと説明ができないライブラリに関しては調べてメモを書いた。
<img width="1194" alt="スクリーンショット 2020-04-28 12.15.19.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/557349/7cd92e7f-de8b-6528-cd1e-363cfe6d13da.png">

結合できました。
indexを振り直すところは他のやり方もあるみたいなのでちょっと脱線してお試しもしてみた。
**変数につけた「mid」は何の略何だろうか？　分かる人いたら教えて欲しいです。**

<img width="1421" alt="スクリーンショット 2020-04-28 15.04.05.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/557349/1d7b9c99-5e6c-55c4-0636-905f209e99b1.png">



#探索的データ解析

判断基準が「生存率約0.38」というのがキモであることがわかった。
<img width="1245" alt="スクリーンショット 2020-04-28 16.03.02.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/557349/bb6aeb71-6673-c604-9e81-eec19f343a92.png">



##Pclass　に着目
pandasやseabornを使ってデータの解析をする。
平均を取ったり、グラフ化してデータを客観的にみる。

<img width="947" alt="スクリーンショット 2020-04-28 16.17.06.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/557349/18121eee-1427-b319-5c5f-450ead5e81cb.png">
<img width="815" alt="スクリーンショット 2020-04-28 16.14.02.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/557349/7e5eb3d4-5b78-1363-b5f0-e1912b43351c.png">


##Name　に着目
ミドルネームに着目する。
Nameからミドルネームだけ抽出。
テストに関係ないものは除外。
少数レコードは統合。（抽象化？）

<img width="1066" alt="スクリーンショット 2020-04-28 20.22.09.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/557349/afaede12-625a-8c72-1a59-8457e26e6eca.png">
<img width="1066" alt="スクリーンショット 2020-04-28 20.23.09.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/557349/f64013b9-0561-bc49-2f72-71db88b1bb85.png">
<img width="806" alt="スクリーンショット 2020-04-28 20.23.40.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/557349/95381e37-5b5d-84c6-00b4-197f62d0a5c0.png">
<img width="744" alt="スクリーンショット 2020-04-28 20.24.34.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/557349/03740100-f306-4e6d-a6e4-49e3f8a0fdbe.png">

この数値から関係がありそう。。。とは自分は見えない。
数学的知見からだとそう見えるのだろうか。



##Fare  に注目
distplot関数をちょいちょいいじって遊んでみたが、
デフォルト設定に頼り切ってしまうと痛い目にあいそうと理解した。
**log1p関数については今の段階では何をしているのか理解できなかった。掘り下げが必要。**

<img width="905" alt="スクリーンショット 2020-04-30 11.25.43.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/557349/ecb0d462-ae36-4c93-f994-a5f39e13b741.png">
<img width="1013" alt="スクリーンショット 2020-04-30 11.26.17.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/557349/0f464ea2-eb08-4cd4-2375-d601afe381bb.png">

##Age  に注目
欠損値は除外して考えているがどうにかして推定できないか。。。

<img width="1102" alt="スクリーンショット 2020-05-01 9.08.22.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/557349/058e3015-1e53-3645-8535-711009ea4d14.png">



##Family  に注目
「家族数」の列を新たに作成する。
参考記事の後述リンク先にもあるが「家族単位で行動していた可能性が高い」という点から、この変数を作成するに至っているらしい。
ビニング処理のやりたいことはわかった！

<img width="1110" alt="スクリーンショット 2020-04-30 14.59.55.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/557349/7e08752e-9a03-9e09-40db-0735d6510cb0.png">



##Cabin  に注目
「Cabinの頭文字は部屋がどの階層にあったのかを示すものなので、、、」
こう言った前情報を把握する能力もであることが分かる。
単に数字だけみていてもわからない。
テストで使用しない"T"を排除することも忘れずに行う。（この後にするのかな？）

<img width="921" alt="スクリーンショット 2020-05-01 8.37.02.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/557349/89ed4818-4bd6-96dd-6623-51381b2de41e.png">

<img width="976" alt="スクリーンショット 2020-05-01 8.35.03.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/557349/559e908c-ad39-6feb-ae92-63cb4bbeb1d0.png">



##Ticket　に着目
「発想を転換し、Ticketに重複カウントがないのかを調べてみます。」
ここがミソですね。

一見規則性の見えない情報から関連関連性を見出すことが重要。
**「とりあえず重複ないか見てみよう」というスタンスを持ってみる。**
「そこから生存率と関連ある？」という黄金パターンで見ていく流れをつくる。

<img width="1052" alt="スクリーンショット 2020-05-01 8.44.40.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/557349/c9f460fe-93d9-fe9e-4ebf-1c1ea217bcf2.png">
<img width="1067" alt="スクリーンショット 2020-05-01 8.45.23.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/557349/4679c7f1-c0fb-3799-e803-669b9ed08875.png">
<img width="1008" alt="スクリーンショット 2020-05-01 8.46.23.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/557349/34b2beae-2d00-1e31-bdff-d90d32300b75.png">
<img width="1426" alt="スクリーンショット 2020-05-01 8.47.26.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/557349/d3ed5805-973b-0960-d4b3-d4b9479c0aa0.png">


前編は以上です。


# 前編を終えて

- 手を動かしながらは楽しいです。
- わからない関数も調べながら、値を変えて試しながら学べているので、一つひとつを「当事者」の目線で勉強できている。
- 参考書を買って「この関数いつ使うねん！」って思いながら勉強するよりも身についている気がする。
- mapとlambdaを使う場面でも実践で使えるコーディングを学べている。

# 成果物
Colaboratryのノート（titanic_EDA.ipynb）
https://colab.research.google.com/drive/1EUikceUGYfmkED5Pa3YFh9IAEr3fntjW


後編に続きます。