訪日外客数データで Power BI レポート作成（データクレンジング編）

# はじめに
日本政府観光局の訪日外客数データを使って Power BI Desktop でレポートを作成していく方法を「データクレンジング 編」と「データ可視化 基本編」「データ可視化 中級編」の３つに分けて記事を書きます
本記事は、「データクレンジング 編」です
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/f332e182-0762-de40-14d9-e7a23df14131.png)

本記事の「データクレンジング編」前半と「データ可視化 基本編」前半のハンズオン実施動画 ( @dahatake さん) が YouTube に公開されましたので、こちらの動画を見ながら進めるとわかりやすいと思います

https://www.youtube.com/watch?v=WMkE1esqxZ4

## 訪日外客数データについて
訪日外客数データは、日本政府観光局が公開しているオープンデータで、以下サイトから取得できます
今回は、国/月別の訪日外客数データを使います

https://www.jnto.go.jp/statistics/data/visitors-statistics/

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/a1889a17-922a-7391-db0a-7ab0bc176a06.png)

このデータが Power BI Desktop のレポート作成体験の Workshop に向いている理由は、以下です
・オープンデータであること
・訪日外客数という誰でも理解しやすいデータであること
・時系列かつ各国の人数構成比等、色々なビジュアル（グラフ）を使い甲斐のあるデータであること
・可視化するとそれなりのインサイトが得られて面白いこと
・業務現場にありがちな 年毎シート分け、ある年からレイアウト変更あり、そのままだとレイアウトが崩れるというほど良い課題を持ったデータであること

実際の業務現場データはデータ活用（データ分析）の視点では汚く課題だらけです
キレイなサンプルデータをもとにPower BI Desktop のレポート作成を体験するよりも、このような少々課題ありのデータを扱えるようになる方が現場で使えるスキルが向上します

# データクレンジングの完成イメージ
年毎シートに分かれて月が横並びしている Excel 表を、 [年月] [国名] [人数] 項目の縦持ち（全期間を1つのテーブル）のデータにしたい
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/4efd6a56-264a-3b56-4e06-a41932f9fe38.png)

# 基本的な手順
① Web に公開されている Excel データを Power BI Desktop に取り込む
② 年毎分かれているデータを1つの表に取り込む
③ 不要な行・列を削除する
④ 項目名を変更する
⑤ [年] と [国名] を軸にピボット解除する
⑥ [年] と [月] 項目から [年月] 項目 (YYYY/MM/01) を作る
⑦ 項目名、型を整え、並べ替えする

このデータの一番の課題は、2019 年以前と 2020 年以降でレイアウトが変わってしまっていること
2020 年以降は赤枠の中東地域の出現により、1月の人数が B 列から C 列にスライドしてしまい、国名も A 列と B 列にまたがってしまっている
そのため取込データとしては [2003-2019], [2020~] と分けて取り込み、最後にくっつける作戦
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/188e3527-9015-d714-158d-910ded1ea83e.png)

## [2003-2019] データの取り込みとクレンジング
### ① Web に公開されている Excel データを Power BI Desktop に取り込む
・訪日外客数(Excel) のリンクをコピーしてURLを取得
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/a1889a17-922a-7391-db0a-7ab0bc176a06.png)
・データを取得 > Web > URL に取得したURLを指定
https://www.jnto.go.jp/statistics/data/since2003_visitor_arrivals_June_2024.xlsx
(注意：ファイル名に年や月の情報が入るようになってしまったのでリンクのコピーで最新URLを取得しましょう！）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/8948bdec-f857-e698-9d9d-7c34ddf6718e.png)

### ② 年毎分かれているデータを1つの表に取り込む
・複数シートに分かれたデータを1つの表に取り込む手順については、以下サイトがわかりやすく説明している

https://bi-seminar.jp/2019/07/25/import-multiple-sheets/

・まずは [2003-2019] を作っていく
・[2003-2019] の代表年シートとして、[2019] を選択し、[データの変換] を選択
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/c05be14c-5eec-44b6-df98-965f1f0395fe.png)

・プロパティ名を [2003-2019] に変更
・適用したステップの一番上の[ソース] 以外のステップは一旦消す（ステップ左の×をクリック）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/e03ef6fb-7766-e940-dd46-fbc462ab7d60.png)

・不要なシートデータは削除する
・行の削除 > 上位の行の削除 > 行数: 5
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/7e4df050-4f0b-4f4f-7537-1cdcd68a9dca.png)

・行の保持 > 上位の行の保持 > 行数: 17
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/f2ed9661-3963-7839-641b-0098cac8404a.png)

・[Data] 列の展開ボタンをクリック
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/99cfe2f5-92e2-2afd-1d1b-06e3ec759243.png)

### ③ 不要な行・列を削除する
・上位3行を削除
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/192533af-59ea-78e7-81fc-16fe8f035e7e.png)
・1行目をヘッダとして使用を選択
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/ae136e06-457d-667a-79a2-8815df50935a.png)
・列の選択で年と国名と各月の列のみ選択
※実数値があれば、伸率や累計はレポート側でいくらでも計算できるので、それらの項目はデータとしては含めない
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/3fe6d6f6-56cc-5363-1d5a-266605f19a70.png)
・国名の入っている列 [Column2] の右の下矢印で国名の行だけにフィルターする
・チェックを外すテキストは以下
　・(null)
　・yyyy年 訪日外客数（総数）
　・総数
　・（国名）計
　・注や*で始まる注釈
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/7ef08845-ff01-d833-05df-07bcd2f3876c.png)

### ④ 項目名を変更する
・列のヘッダで右クリック > 名前の変更 で [年] [国名] に名前を変更
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/10c2c728-934a-8b7d-0ab5-abd5ca3a4c4d.png)

### ⑤ [年] と [国名] を軸にピボット解除する
・1月~12月の列を選択し、変換 > 列のピボット解除 を選択
※Shift キーで選択の開始列から終了列まで一括選択可能
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/3c4185cc-0f1d-4b9b-bba3-ff07e4a7c789.png)

### ⑥ [年] と [月] 項目から [年月] 項目（YYYY/MM/01)を作る
・月の入っている列[属性]を右クリック > 値の置換　で　検索する値：月、置換後は何もいれずに「OK」クリックし、月という文字列を値から削除する
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/4687dc58-da42-4a73-d4c9-ca8fb1ae6657.png)
・一旦、年のデータ型をテキストに変換
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/3a4d6239-a85c-da3b-c348-3baad0663fdc.png)
・列の追加 > カスタム列で [年] と [月] 項目から [年月] 項目 (YYYY/MM/01) を作る
式： [年] & "/" & [属性] & "/01"
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/78f4e6f4-041b-7b01-9f14-66f417058053.png)
※参考：Power Query のカスタム列等で使用できる式のリファレンスはこちら↓

https://docs.microsoft.com/ja-jp/powerquery-m/power-query-m-function-reference

### ⑦ 項目名、型を整え、並べ替えする
・[年月] の型を日付に変更
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/e4f0142b-f8b8-6a30-3465-bd0b8a8cfc30.png)
・[値] を [人数] に名前変更し、型を10進数に変更
・[属性] を [月] に名前変更し、型を10進数に変更
・[年] の型を 10進数 に変更
・[年月] [国名] [人数] [年] [月] の順番に並び替え
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/a521dd15-ae5e-0239-0ea5-fd5ccf40b408.png)

## [2020~]データの取り込みとクレンジング
### ① Web に公開されている Excel データを Power BI Desktop に取り込む
・Power Query エディター内の ホーム > 新しいソース > Web > URL 指定
(注意：ファイル名に年や月の情報が入るようになってしまったのでリンクのコピーで最新URLを取得しましょう！）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/dad63c45-36cd-4bd4-c349-7f7f9f645d80.png)

### ② 年毎分かれているデータを1つの表に取り込む
・[2020~] の代表年シートとして、[2020] を選択し、[OK] をクリック
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/5c8fff39-3bd5-e4ed-49fb-8b8da469f5de.png)
・プロパティ名を [2020~] に変更
・適用したステップの一番上の [ソース] 以外のステップは一旦消す（ステップ左の×をクリック）
・必要なシートデータのみ残す
・行の保持 > 上位の行の保持 > 行数: 5
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/24e99e02-3e34-575c-337a-873d6184c40d.png)
・[Data] 列の展開ボタンをクリック
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/32cd6e30-3a75-17ff-ed47-23d4d68493e2.png)

### ③ 不要な行・列を削除する
・上位3行を削除
・1行目をヘッダとして使用を選択
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/ebc15c51-27e0-8537-cdcf-4c9cb408e8af.png)

### ★ 2列に分かれている国名を1列にマージする
・国名が入っている2列 [Column2] [Column3] を選択し、変換 > 列のマージ を選択
・区切り記号：なし、新しい列名：国名 を入力
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/b42ae72a-26f8-f22b-575e-6ec0ec1ae8f5.png)
・[国名] 列を選択し、変換 > 書式 > トリミング を選択し、前後の空白を除去
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/a73c71e3-0c5c-468c-6d08-62e3a855caa8.png)
・あとは、[2003-2019] の時同様に不要な列や行を削除
・列の選択で年と国名と各月の列のみ選択
・国名の入っている列 [Column2] の右の下矢印で国名の行だけにフィルターする
・チェックを外すテキストは以下
　・(null)
　・yyyy年 訪日外客数（総数）
　・総数
　・（国名）計
　・注や*で始まる注釈
　・中東地域
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/42a4ac07-65b5-5876-9b7d-093fcddaf538.png)

以降は④-⑦は [2003-2019] の手順と全く同じなので上記手順参照して作業
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/899af192-aae4-1d67-213e-9c453a3977b4.png)


## [2003-2019] と [2020~] データを縦結合
・ホーム > クエリの追加 > クエリを新規クエリとして追加 を選択し
最初のテーブルに [2003-2019]、2つ目のテーブルに [2020~] を選択して [OK] クリック
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/a4c56a9c-e796-4381-8340-c380755e185d.png)
・プロパティで名前を [訪日外客数] に変更する
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/b38bc423-7fc8-d5cf-7c93-f5be19676304.png)

## [訪日外客数] データを適用
・[2003-2019] と [2020~] データは元データのため、[レポートの読み込みを有効にする] のチェックを外す
・クエリ > 対象のクエリを選択し右クリック > 読み込みを有効にする の左チェックを外す
こうすることで [訪日外客数] データのみを Power BI Desktop に取り込むことができる
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/9f196da2-6d84-8d81-dbe7-956b7616d82a.png)
・ホーム > 閉じて適用 を選択
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/8d195ef3-844c-7964-315a-5ce300d20fc7.png)
（自動的にPower BI Desktop 画面に遷移する）
・フィールドを展開し、クレンジングしたテーブルや項目が表示されていることを確認
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/51b4e3bf-53e7-5c1f-d4d7-f37a435310bb.png)
・データビューを選択し、データを確認する
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/482258/0ab74d69-6c69-bfab-bb89-cdce5398813c.png)

# Power BI Desktop で 「データ可視化 編」へ

https://qiita.com/mimocihz/items/c157e1b5e51fb0b58b6d