【データサイエンス】概要

# ０．はじめに																					
大学でデータサイエンスの講義を受講している者です。
あまりにも広範囲な分野であるため"広く浅く"情報整理したいため投稿。
内容のレベルは超入門編、個人的な感情も少し入り混じった備忘録。
（齟齬がある場合はご指摘いただけると助かります。）		
#### データサイエンス学習全体像
[【データサイエンス】概要](https://qiita.com/AkihideKato/items/9dbce22bd87a9c8a3989)
[【データサイエンス】人工知能](https://qiita.com/AkihideKato/items/6381dd320ead9f893577)
[【データサイエンス】機械学習](https://qiita.com/AkihideKato/items/1db3312e8038bd75e89b)
[【データサイエンス】ディープラーニング](https://qiita.com/AkihideKato/items/92b0fb83b35ec08c4e02)
[【データサイエンス】分析の分類・確率分布](https://qiita.com/AkihideKato/items/6fdca6e22f03f0b9f17c)
[【データサイエンス】探索的データ分析](https://qiita.com/AkihideKato/items/9485e3f9803b1e8fe785)
[【データサイエンス】統計的検定](https://qiita.com/AkihideKato/items/8ff1b9bada50491b017c)
[【データサイエンス】予測モデリング](https://qiita.com/AkihideKato/items/ce8e697546d0424bea46)
[【データサイエンス】自然言語処理](https://qiita.com/AkihideKato/items/e545f36e268605fce9a6)
[【アルゴリズム】パーセプトロン](https://qiita.com/AkihideKato/items/fc9a8205154fe9b3090f)
[【データサイエンス】機械学習における関数](https://qiita.com/AkihideKato/items/6ec3b59ff581e7e3c4ad)
[【データサイエンス】確率](https://qiita.com/AkihideKato/items/c099772dfca7546a6802)

# １．データサイエンスとは																			
### 1-1.概要																	
現代はExcelのようなレコード化されたデータではなく、SNSなどテキスト画像音声がいりまじり「多様な構造化」になりつつある	
統計学というジャンルだけでは到底収まらない分野が出現したため、データサイエンスはビジネス分析などで大きな領域となっている	
高価なソフトウェアを使用せずとも分析ができるようになり企業や個人間で分析が身近になりつつある					

# ２．特徴
### 2-1.データは大規模であり様々な領域に存在
データサイエンス分野ではビッグデータにおける"4つのV"活用するための技術が必要とされる
##### 4つのVとは

||名称|用途|
|:---:|:---:|:--:|
|**1**|volume|データの量が巨大であること|
|**2**|varlety|データの種類が多様であること|
|**3**|velocity|データの生成スピードが速い特徴があること|
|**4**|veratity|データ内にノイズの多さがあること|

### 2-2.分野ごとの様々なデータが混在

商品取引においては		
- `発注データ`
- `支払いデータ`...など
	
トランザクションにおいては		
- `検索エンジンの履歴`
- `メール受信履歴`...など

分野ごとに様々なデータが混在している

### 2-3.データサイエンスの構成要素
広範囲の為全てを網羅するのは現実的ではない
そのため適宜必要な分野を学習するスタイルが望ましい
- `DB、分析処理`
- `プログラミング`
- `自然言語処理`
- `機械学習`
- `数学・統計`
- `視覚化`...など

### 2-4.データは視覚化・次元圧縮が行われる
- #### 次元圧縮とは				
多次元のデータを低次元に下げること		
	
- #### 次元圧縮の考え方				
最小二乗法と若干類似する点がある
回帰直線のモデルのパラメータを作成する際には、直線とデータポイントの差を求める工程が存在する		
この工程は多くのデータ（多次元）から直線（一次元）にと圧縮しているとも捉えることができる	
    
- #### 多次元尺度法とは	
多くの変数を2～3次元に圧縮することで視覚的に理解することができる方法	
平面図化することによりグループ化しているものを見分けることができる	
				
- #### 視覚化について		
人間が理解できるのはせいぜい3次元			
視覚化とは複雑なデータを人に説明を行う際の重要なステップと言える			
				
- #### なぜ視覚化や次元圧縮が必要なのか				
直感的に目に見ることでパターンや特徴を抑えることができる			
次元圧縮による特徴の抽出をすることでノイズを除外した目的に沿ったデータと変換することができる

### 2-5.データ分析は相関関係より因果関係が役立つ

- #### 相関関係とは										
AとBの事柄に傾向的な関連性があり互いに関係し合っている
**``１，関係性の矢印がA⇔Bと「双方的である」``**
**``２，しかしAとBどちらが原因でどちらが結果なのかは不透明``**
**``３，相関関係があるからといって因果関係があるとは限らない``**
例：～時間の経過と共に太陽の位置は移動する～
時間が過ぎる⇒太陽の位置が移動するにはならない
「自転」という第三の事柄によって太陽の位置という出力が変化する
仮に時間が経っても自転をしていなければ太陽の位置は変わらない
										
- #### 因果関係とは										
Aを原因としてBが変動すること
**``１，関係性の矢印が原因⇒結果と「一方的である」``**					
相関関係においては原因がどちらか不明だが
因果関係はどちらかが原因であると明確性がある
**``※２，因果関係がある場合は相関関係があるといえる``**
　┗※因果関係：原因と結果は一方的だが互いに関係しあっている
　┗※相関関係：原因と結果が不透明だが互いに関係しあっている
**``３，第三変数による疑似関係及び媒介する変数が関係していない場合に因果関係といえる``**				
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/581998/4f441381-d645-73d3-3123-2c8f1ef99d96.png)



# ３．検証プロセス
```mermaid
flowchart  LR
  問題定義-->データ収集;
  データ収集-->データ整理;
  データ整理-->可視化;
  可視化-->モデル化;
  モデル化-->実装;
  実装-->検証;
```

|工程 |目的 |方法 |
|---|---|:---| 
|問題定義|何が問題なのか、どう理解すればよいのか定義する|事前に分かっている事実から何が問題なのかを読み解く|
|データ収集|問題解決に向けてのデータを収集する|変数を用意する |
|データ整理 |適正なデータか偏りなどはないか判断する|欠損値のデータを処理する<br>（削除する「場合もある」）、他の値で補填する場合もある |
|可視化|データを様々な形で表示させ手がかりを探る|可視化し傾向を探る |
|モデル化|モデルを構築する|数式の形にまとめ、データと併用し予測を行う<br>統計手法、機械学習などを用いてモデル構築をする|
|実装|理解しやすいように報告・適応させる|業務で利用したいなどの場合は公開資料を作成する |
|検証|継続的に検証し改定する場面を見極める|時間が経つと状況が変化する場合もある |

# ４．分類
データは大きく4種類のジャンルに分けられる
- #### 名義尺度
**``大小関係を表さないもの``**
数量的分析は不可
大小関係なく**同じかどうか**名前で判断されるので名義尺度

- #### 順序尺度
**``順序関係を表すもの``**
**値の差に意味はない**
値の間隔は常に等しい訳ではない
同じかどうかに加え**大きいか小さいかの大小関係**の順序で区別

- #### 間隔尺度
**``順序で差を表せるが比率や倍率で関係を表せないもの``**
**値の差に意味がある**
大きいか小さいかに加え値の間隔の"数値の差"に意味を持つもの
<font color="red">**0に絶対的な意味を持たない**</font>
温度0は0だが「温度がある」⇒０は０ではない



- #### 比例尺度
**``値関係の数値を比例・倍率で表示可能なもの``**
間隔尺度に加え数値を比率倍率できるもの
<font color="red">**0に絶対的な意味を持つ**</font>
身長0は0であり存在しない⇒０は絶対的に０である	

|種類 |主な用途|使用例
|---|---|---| 
|名義尺度|性別・名前|男(1)、女(2)..
|順序尺度|ランキング・学歴|とても好き(5)、どちらともいえない(3)、好きではない(1)
|間隔尺度|温度・偏差値|年齢は何歳か、気温は何度か
|比例尺度|身長・体重|全くなく(0)、けっこうある(1)

参考文献：オペレーションを進化させる現場のWEBマガジン
[データは語る。相関関係と因果関係で、データにストーリーを持たせよう。](https://www.bewith.net/gemba-driven/article/digital/entry-242.html)
最終アクセス2023/08/23