オープンデータをデータポータルで可視化し分析までしてみた

前回まででBigQueryにデータを入れ、データポータル(Data Studio)での可視化を行いました。
基本的な使い方を一通りできるようになったので、今度は場数を踏むためにもっとデータ分析を細かくできるようにしていこうかと思います。

前回まで一応頑張った記事↓
<a href="https://qiita.com/kashii/items/3c9b245c6d6ddf332542">BigQueryにオープンデータを入れてみた｜@kashii</a>
<a href="https://qiita.com/kashii/items/7d82c29050489f1c2e77">オープンデータをGoogleデータポータルで可視化してみた｜@kashii</a>

<h2>今回の流れ</h2>
今回は何をするのか記録するために順序だてて書いていきます。

<ol><li>目的の提示</li>
<li>仮説だて</li>
<li>データ集め</li>
<li>データの前処理</li>
<li>データをStorageに入れる</li>
<li>データをBigQueryと連携させる</li>
<li>クエリを打ってビューを保存</li>
<li>データポータルで可視化</li>
<li>壁にぶち当たる</li>
<li>レポートを作ってみる</li>
<li>分析した結果をまとめてみる</li>
<li>次にできることはなにか</li></ol>

<h2>1.目的の提示</h2>
最近、同年代の友人と話しているなか、各都道府県の友人が集まっていたので「〇〇県は運転が荒いよね」「いや、〇〇県のほうが荒いんじゃないか？」という話になりました。

どこの都道府県が運転が荒いのか気になったので実際にどの都道府県が「運転が荒い」のかを分析してみようかなと思い立ち、データ分析をしてみることにしました。

<h2>2.仮説だて</h2>
「どの都道府県が運転が荒いのか」というのを知るのが目的でした。
しかし、「運転が荒い」だけだと何を基準とすればよいのかわからないため、
定義として一旦以下のようなことを考えてみました。

■運転が荒い
1.他の県と比較し交通事故発生件数が多い
2.他の県と比較し危険運転が多い

<h2>3.データ集め</h2>
オープンデータは警察庁のデータベースから。
<a href="https://www.npa.go.jp/publications/statistics/koutsuu/toukeihyo.html">統計表｜警察庁Webサイト</a>
![open2.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/868828/45ef8bf1-80cb-70d2-e143-850fd11bb133.jpeg)

もともとは以下のようなデータでした。いままで使用したことがあるデータはkaggleなどだったため、すでに前処理がされている状態だったので何もすることはありませんでしたが、今回になって初めてデータの前処理をすることになりました。
![open1.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/868828/89e9ff11-47c3-4173-c483-0c8ac1d8a4d3.jpeg)

■使用したデータ
2019年度を基準として使用しています。
<a href="https://www.npa.go.jp/publications/statistics/koutsuu/toukeihyo.html">・統計表｜警察庁Webサイト</a>
<a href="https://www.stat.go.jp/data/jinsui/2019np/index.html">・人口推計（2019年（令和元年）10月1日現在）
‐全国：年齢（各歳），男女別人口 ・ 都道府県：年齢（5歳階級），男女別人口‐｜総務省統計局</a>
<a href="https://www.airia.or.jp/publish/statistics/number.html">・車種別（詳細）保有台数表｜自動車検査登録情報協会</a>

<h2>4.データの前処理</h2>
SQLに入れられるようデータを整理したあとはこのような形になりました。ほかにもあとでいじくったので参考程度になります…。
![open3.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/868828/7ebd3cc2-e16e-c0ca-2c6e-068752b5d3ce.jpeg)

基本的に文字化けしてしまうので日本語ではなく、英語表記にしました。ただ、都道府県名は視認しやすくするために日本語にしようと頑張りました。正しい方法かはわからないのでマネをするのはおすすめしません。

■日本語でBigQueryに入れるための流れ
1.excelファイルで保存
2.csvファイルに変更して保存
3.逆に文字化けさせる
4.そのままBigQueryにぶち込む

<h2>5~8.データをBigQueryにいれて処理</h2>

5.データをStorageに入れる
6.データをBigQueryと連携させる
7.クエリを打ってビューを保存
8.データポータルで可視化

5~8は前回やったので省略してみました。流れはこんな感じ。

1.Storageに入れる
2.BigQueryと連携させる
3.クエリを打ってビューを保存
4.データポータルで可視化

<h2>9.壁にぶち当たる</h2>
<h3>データポータルで可視化…可視化ができない…</h3>
一回目、データを可視化しようと思ったけれどあまりできず…。

初心者過ぎてなぜできないかわからないのでとりあえず

1.データが変
2.データポータルの操作に慣れてない

の2つではないかと考えました。

そのため、自分でデータを持っていて連携しやすい、GAのデータとYouTubeStudioのデータを使ってデータポータルの操作に慣れる時間をつくりました。

<h3>【閑話】データポータルに慣れよう</h3>
その操作は→こちら

<h2>10.レポートを作ってみる</h2>
![open8.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/868828/e2160a42-5d20-668b-10eb-fb44d9c072ad.jpeg)

<h2>11.分析した結果をまとめてみる</h2>

<h3>データの前処理↔BigQuery↔データポータルで繰り返し処理する練習をしよう</h3>
都道府県別に交通事故発生件数とそれによる負傷者数、死者数をまとめて降順にしてみました。
prefectureは日本語にしたかったのですが上手い事行かずに数字で割り振っています。
![open4.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/868828/0ead98f2-0864-8b76-3495-65dd7f80292a.jpeg)
わかりにくい部分は対応する日本語を以下で示しています。
<table><tr><td>prefecture</td><td>都道府県名</td></tr>
<tr><td>accident</td><td>交通事故発生件数</td></tr>
<tr><td>injuriesi</td><td>交通事故による負傷者数</td></tr>
<tr><td>fatalieties</td><td>交通事故による死者数</td></tr></table>

交通事故発生件数を中心に見てみるとランキングは以下のようになります。

<table><tr><th>順位</th><th>都道府県</th></tr>
<tr><td>1</td><td>大阪</td></tr>
<tr><td>2</td><td>愛知</td></tr>
<tr><td>3</td><td>東京</td></tr>
<tr><td>4</td><td>福岡</td></tr>
<tr><td>5</td><td>静岡</td></tr>
<tr><td>6</td><td>神奈川</td></tr>
<tr><td>7</td><td>兵庫</td></tr>
<tr><td>8</td><td>埼玉</td></tr>
<tr><td>9</td><td>千葉</td></tr>
</table>

この時点では「やはり大阪とか人が多いところは交通事故発生数も多いのか…？」と思っていました。しかし、10万人あたりでの事故発生件数を確認してみると一気に変化します。

![open5.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/868828/25086c04-8eda-41d2-d1fa-45bdc06ee8e1.jpeg)

<table>
<tr><th>順位</th><th>都道府県</th></tr>
<tr><td>1</td><td>静岡</td></tr>
<tr><td>2</td><td>佐賀</td></tr>
<tr><td>3</td><td>宮崎</td></tr>
<tr><td>4</td><td>群馬</td></tr>
<tr><td>5</td><td>福岡</td></tr>
<tr><td>6</td><td>香川</td></tr>
<tr><td>7</td><td>兵庫</td></tr>
<tr><td>8</td><td>愛知</td></tr>
<tr><td>9</td><td>山形</td></tr>
</table>
静岡はもともと5位でランクインしていたので理解はできますが、いきなりほかの県がランクインしました。静岡の次に佐賀が入り、3位は宮崎となりました。このことから、ほかの要因があるのではないかと考え、違うデータも探ってみることにしました。

<h3>乗用車の保有台数を見てみる</h3>
次に調査してみたのは都道府県別一人当たりの乗用車の保有台数です。一応、交通事故が車以外もカウントされるので、乗用車と自転車を含め、一人当たりの保有者のランキングをつくってみました。

![open7.JPG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/868828/d9b4aca2-92f9-5aa4-d820-13bc26d690bb.jpeg)
※ただ単に出したかっただけなので棒グラフにしています。
一人当たりの保有乗用車のランキングは以下の通りになります。

<table>
<tr><th>順位</th><th>都道府県</th></tr>
<tr><td>1</td><td>和歌山</td></tr>
<tr><td>2</td><td>山梨</td></tr>
<tr><td>3</td><td>福井</td></tr>
<tr><td>4</td><td>富山</td></tr>
<tr><td>5</td><td>岐阜</td></tr>
<tr><td>6</td><td>群馬</td></tr>
<tr><td>7</td><td>茨城</td></tr>
<tr><td>8</td><td>栃木</td></tr>
<tr><td>9</td><td>福島</td></tr>
</table>


こうやって見てみると群馬はランクインしていますがほかの保有者の多い県がランクインはしていません。そのため、車の保有台数とは相関がないように思います。

ここまで見てみるとなにもないぞ…と手詰まりしてしまいました。
追加でデータを見つけてきて分析してみる予定です。

<h2>12.次にできることはなにか</h2>
<h3>1.今回できるようになったこと</h3>
・オープンデータからデータを抜き出し整理する
・日本語でBigQueryにデータを入れる
・データポータルでレポートを作成する
・データポータルで混合データを作成する

<h3>2.今回の学び</h3>
・クエリを打つ際にエラーになるのでデータセット、テーブル名を数字や日本語を使用しない。
・被りが発生しないように何を使用するのかを先に理解しておく。
・ピボットテーブルのように考えていたが、縦計算しかできないのでそれも踏まえてデータ整理を行う。
・データポータルでGoogleマップを使いたかったが、GAやGoogle広告で連携したほうが楽。
　表でデータを追加すればできるが面倒なので最初からデータに加えておくとよい。
・データをクエリやデータポータルでどうにかしようとしてはいけない。データの前処理が勝負。

<h3>3.今回追加でやりたかったこと</h3>
・地域別や地形別で交通事故が発生する割合は変わるのか
・住んでいる人の性格などで交通事故が発生する割合は変化するのか
・年齢別での事故発生率の比較(若年層が多い、高齢者が多いための事故なのか？？)

<h3>4.次回でやろうと思っていること</h3>
・もっと大きいデータを使用してみる(データ量が最低1000以上など)
・効果的な可視化を本やサイト等で勉強し、アウトプット