E-STATのデータを見る

# E-STATのデータを調べてみる


### 目次

[1. 今回調査するデータ](#今回調査するデータ)
[2. 必要な準備](#必要な準備)
[3. APIの仕様を調べる](#apiの仕様を調べる)
[4. まとめ](#まとめ)


* 今日はE-STATのデータを利用して経済産業省企業活動基本調査のデータベースを調べてみましょう!
* E-STATとは：日本政府が公表しているオープンソースデータ


https://www.e-stat.go.jp/stat-search/database?page=1&layout=normal&toukei=00550100&kikan=00550&tstat=000001010832&metadata=1&data=1


## 今回調査するデータ

今回調査するデータは2022年に公表された、2021年の企業活動基本調査です。
（ちなみに、今日1/30に2023年最新版の経産省企業活動基本調査が公開されていました！そっちで試しても、面白いかもしれないですね！）

https://www.e-stat.go.jp/stat-search/database?tclass=000001154501&cycle=7&year=20210

このページの少し下に、<font color="purple">DB</font>が用意されていることが分かります。ここをポチると

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/0915f713-8d4c-6e1c-b8d5-0a4568a360aa.png)

下のようなページに飛びます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/98fcd502-c668-d97e-25a5-6b649703361e.png)


このページでは右のインデックスを選択して、表示するデータを絞り込むことができます
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/769e6879-1d04-497c-2feb-4530853575a1.png)

今回は「製造業」の「売上高」と「売り上げ総利益」を選択してみましょう
#### 表頭
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/a6dacaba-001c-f976-6a19-b805305f93af.png)
#### 表側
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/f3c51118-87ab-e021-51d8-92dbdf18e074.png)

これで確定すると....<br>
数値がグラフで表示されています。この状態でグラフ表示を選択すると...
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/28828b6b-3a6a-4a21-4aa7-783d697f794e.png)

うーん、分かりにくい。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/50f5839e-41fe-93e4-edc1-1ca3c4f958e1.png)


ということで、グラフの形式を変更します。左のグラフ表示設定をクリックして、棒グラフを選択します。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/9ef17d52-1528-45de-72a5-88e00de4d270.png)

すると、縦の棒グラフになりました！
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/b4242a66-fc98-7ff5-16d5-f8f8df0b44fa.png)

こんな感じで、webサイト上のデータベース表示を使うこともできますが、今回はJupyterNotebook上でこれを利用する方法について考えてみたいと思います。

先に、httpリスポンスで受け取るURLをどこかにコピペしておきましょう!
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/6b25281e-7536-8c5b-57f7-a9bd8135b03e.png)


すると、ポップアップ画面でデータベースの情報が取得できるURLをコピペできる画面に遷移します。URLをコピーをクリックしてどこかに保存しておいて下さい。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/27d97a60-1a96-b9b1-9ebf-c4720c111423.png)



## 必要な準備

1.まずはユーザ登録をしてAPIキーを取得しましょう。メールを仮登録して、届いたメールアドレスから本登録し、ログインします。

https://www.e-stat.go.jp/mypage/user/preregister

2.マイページへ飛んで
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/a6f1abb2-c82c-ab30-f768-afaa9d2d506d.png)

3.API機能（アプリケーションID発行）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/986d6a8a-177c-1c43-968b-2633651d000e.png)

4.APIを発行します
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/5bc08b31-6617-5d93-f0b3-a0c082e311cb.png)


## APIの仕様を調べる
下のURLは、E-STATSが提供しているAPIの機能の説明ページです。

https://www.e-stat.go.jp/api/api-info/e-stat-manual3-0#api_3_4


### 2. APIの利用方法

* データベースのwebページで取得したURLからhttpリスポンスで情報を```GET```します。
* 2.1 統計表情報取得
* CSVの場合、http(s)://api.e-stat.go.jp/rest/<バージョン>/app/getSimpleStatsList?<パラメータ群>
<table>
	<tbody>
		<tr>
			<th class="api_paramate_title">パラメータ名</th>
			<th class="api_mean_title">意味</th>
			<th class="api_mast_title align_center_k">必須</th>
			<th class="api_detail_title">設定内容・設定可能値</th>
		</tr>
		<tr>
			<td class="api_paramate">appId</td>
			<td class="api_mean">アプリケーションID</td>
			<td class="api_mast">〇</td>
			<td class="api_detail">取得したアプリケーションIDを指定して下さい。</td>
		</tr>
		<tr>
			<td class="api_paramate">lang</td>
			<td class="api_mean">言語</td>
			<td class="api_mast">－</td>
			<td class="api_detail">取得するデータの言語を 以下のいずれかを指定して下さい。<br />
			・J：日本語 (省略値)<br />
			・E：英語</td>
		</tr>
		<tr>
			<td class="api_paramate">surveyYears</td>
			<td class="api_mean">調査年月</td>
			<td class="api_mast">－</td>
			<td class="api_detail">以下のいずれかの形式で指定して下さい。<br />
			・yyyy：単年検索<br />
			・yyyymm：単月検索<br />
			・yyyymm-yyyymm：範囲検索</td>
		</tr>
		<tr><td class="api_paramate">openYears</td>
			<td class="api_mean">公開年月</td>
			<td class="api_mast">－</td>
			<td class="api_detail">調査年月と同様です。</td>
		</tr>
		<tr><td class="api_paramate">statsField</td>
			<td class="api_mean">統計分野</td>
			<td class="api_mast">－</td>
			<td class="api_detail">以下のいずれかの形式で指定して下さい。<br />
			・数値2桁：統計大分類で検索<br />
			・数値4桁：統計小分類で検索</td>
		</tr>
		<tr><td class="api_paramate">statsCode</td>
			<td class="api_mean">政府統計コード</td>
			<td class="api_mast">－</td>
			<td class="api_detail">以下のいずれかの形式で指定して下さい。<br />
			・数値5桁：作成機関で検索<br />
			・数値8桁：政府統計コードで検索</td>
		</tr>
		<tr><td class="api_paramate">searchWord</td>
			<td class="api_mean">検索キーワード</td>
			<td class="api_mast">－</td>
			<td class="api_detail">任意の文字列<br />
			表題やメタ情報等に含まれている文字列を検索します。<br />
			AND、OR 又は NOT を指定して複数ワードでの検索が可能です。 (東京 AND 人口、東京 OR 大阪 等)</td>
		</tr>
		<tr><td class="api_paramate">searchKind</td>
			<td class="api_mean">検索データ種別</td>
			<td class="api_mast">－</td>
			<td class="api_detail">検索するデータの種別を指定して下さい。<br />
			・1：統計情報(省略値)<br />
			・2：小地域・地域メッシュ</td>
		</tr>
		<tr><td class="api_paramate">collectArea<br />
			※1</td>
			<td class="api_mean">集計地域区分</td>
			<td class="api_mast">－</td>
			<td class="api_detail">検索するデータの集計地域区分を指定して下さい。<br />
			・1：全国<br />
			・2：都道府県<br />
			・3：市区町村</td>
		</tr>
		<tr><td class="api_paramate">explanationGetFlg</td>
			<td class="api_mean">解説情報有無</td>
			<td class="api_mast">－</td>
			<td class="api_detail">統計表及び、提供統計、提供分類の解説を取得するか否かを以下のいずれかから指定して下さい。<br />
			・Y：取得する (省略値)<br />
			・N：取得しない</td>
		</tr>
		<tr><td class="api_paramate">statsNameList</td>
			<td class="api_mean">統計調査名指定</td>
			<td class="api_mast">－</td>
			<td class="api_detail">統計表情報でなく、統計調査名の一覧を取得する場合に指定して下さい。<br />
			・Y：統計調査名一覧<br />
			統計調査名一覧を出力します。<br />
			statsNameListパラメータを省略した場合、又はY以外の値を設定した場合は統計表情報を出力します。</td>
		</tr>
		<tr><td class="api_paramate">startPosition</td>
			<td class="api_mean">データ取得開始位置</td>
			<td class="api_mast">－</td>
			<td class="api_detail">データの取得開始位置（1から始まる行番号）を指定して下さい。省略時は先頭から取得します。<br />
			統計データを複数回に分けて取得する場合等、継続データを取得する開始位置を指定するために指定します。<br />
			前回受信したデータの&lt;NEXT_KEY&gt;タグの値を指定します。</td>
		</tr>
		<tr><td class="api_paramate">limit</td>
			<td class="api_mean">データ取得件数</td>
			<td class="api_mast">－</td>
			<td class="api_detail">データの取得行数を指定して下さい。省略時は10万件です。<br />
			データ件数が指定したlimit値より少ない場合、全件を取得します。データ件数が指定したlimit値より多い場合（継続データが存在する）は、受信したデータの&lt;NEXT_KEY&gt;タグに継続データの開始行が設定されます。</td>
		</tr>
		<tr><td class="api_paramate">updatedDate</td>
			<td class="api_mean">更新日付</td>
			<td class="api_mast">－</td>
			<td class="api_detail">更新日付を指定します。指定された期間で更新された統計表の情報）を提供します。以下のいずれかの形式で指定して下さい。<br />
			・yyyy：単年検索<br />
			・yyyymm：単月検索<br />
			・yyyymmdd：単日検索<br />
			・yyyymmdd-yyyymmdd：範囲検索</td>
		</tr>
		<tr><td class="api_paramate">callback</td>
			<td class="api_mean">コールバック関数</td>
			<td class="api_mast">△</td>
			<td class="api_detail">JSONP形式のデータ呼出の場合は必須パラメータです。<br />
			コールバックされる関数名を指定して下さい。</td>
		</tr>
	</tbody>
</table>

データベースのURLを見ると、何を取得しようとしているのかが確認できます。
```python
import requests

'''
url = 'http://api.e-stat.go.jp/rest/3.0/app/json/
    getStatsData?appId=取得したAPIキーをここにコピー
    &lang=J 日本語データを取得します
    &statsDataId=0003014275：統計データのID
    &metaGetFlg=Y :
    &cntGetFlg=N
    &explanationGetFlg=Y
    &annotationGetFlg=Y
    &sectionHeaderFlg=1
    &replaceSpChars=0'
'''
url = 'ここに取得したAPIキーとURLを張り付けてください'
response = requests.get(url)
response = reponse.json()
response
```

さあ、取得したデータの中身をのぞいてみましょう！↓が出力結果です。
画面が緑なのは...私のvscodeのデザイン仕様なので気にしないでください。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/d9e71bfb-520c-45ba-d1bd-a98c98fb249e.png)

うわあ...なんか....うわあ...
(;'∀')多い

## 構造解析
データ解析といっても私はど素人なので、とりあえずこの謎の辞書型を一つずつ見ていきます。
個人的に一番気になるのは、恐らく取得したデータだと思われるcat01とcat02だったのでこの二つを調べてみましょう。
cat01にたどり着くまでの辞書の構造は次のようになっているみたいです。
```md
GET_STATS_DATA
    └ STATISTICAL_DATA
        └ CLASS_INF
        │   └ CLASS_OBJ
        │       ├ cat01
        │       └ cat02
        └ DATA_INF
            ├ NOTE
            └ VALUE
```
ということで、さっそく中身を見てみましょう
```python
cat01 =  r['GET_STATS_DATA']['STATISTICAL_DATA']['CLASS_INF']['CLASS_OBJ'][0]
cat01
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/d68708c7-0a5c-6e4c-d10a-51cf860520f9.png)

これは...
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/04a0b9c5-6588-4bd1-85aa-738cb91c7bc8.png)

idが「企業数、事業組織別従業者数」になっています。これは前にデータベースのweb画面で見た<a herf="#表頭">表頭</a>の項目ですね。この辞書型は後で処理に使うかもしれないので、pandasのデータフレームにしておきましょう!
```python
enterprise = cat01["CLASS"]
enterprise_df = pd.DataFrame(enterprise)
enterprise_df
```
(出力)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/a07b8d72-7f33-6f8d-4482-fa9e2bc85732.png)


で、cat02の方も同じように見ていきましょう。おそらく、こちらは表側の項目になっていることでしょう。
```python
cat02 =  r['GET_STATS_DATA']['STATISTICAL_DATA']['CLASS_INF']['CLASS_OBJ'][1]
cat02
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/f265623c-d602-9b2c-e14e-ccb9a5bdd599.png)

やっぱり、```@id = '各種産業' ```...表側項目のようです。
```python
production = cat02['CLASS'] 
production_df = pd.DataFrame(production)
production_df
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/6982e57f-32e1-feeb-3931-e6fa82ad0ab4.png)

お！私が欲しがっていた「製造業」の部分は```@code```なる要素が0090のようです。

次に、DATA_INFの中身を見てみましょう!こちらは、実際の数値データのようです。
```python
value_df = pd.DataFrame(r['GET_STATS_DATA']['STATISTICAL_DATA']['DATA_INF']['VALUE'])
value_df
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/0675a878-4534-7f74-f0be-7f444a909dcd.png)

カラム```$```って数値データってことかな(;'∀')？
で、でも```@cat02 = '0090' ```が産業だという事実は変わらないので、とりあえず```@cat02```が```0090```の部分を抽出してみましょう！

```python
value_df = value_df.loc[value_df['@cat02']=="0090"]
value_df
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/bc36a407-3f4e-c840-da25-2bf15e2db780.png)

製造業に対する要素```@cat01```が値順で並んでいるので、valueデータは```@cat01```と```@cat02```の直積データのようです。
つまり、このテーブルデータは（最初のデータで解説すると）```@cat02=0090```(製造業)に関わっている```@cat01 = 010010```（企業数）は、```$ = 12777 ```社という見方をするみたいですね！

製造業に関するデータをもっと見やすくするために、このデータをcat01とマージして各項目を表中に同時に示します。先ほど作ったenterprise_dfは```@cat01```のコードを示すカラム名が（```@cat01```ではなく）```@code```になっていたので、これを```@cat01```に書き換えて、```value_df``` とマージします。
```python
enterprise_df["@cat01"] = enterprise_df["@code"]
enterprise_df = enterprise_df.drop("@code", axis=1)
# データカタログ情報取
pd.merge(value_df, enterprise_df, on="@cat01", how="left")
```
（出力）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3520514/d93995ea-7ac8-b00e-ab40-ccee3f036222.png)



結構面白いですね...



## まとめ
まだまだe-statsは掘れば深そうですね...APIの解説記事をちゃんと読めば、もうちょっと面白そうなことが分かりそうです