FIT事業計画認定情報をジオコーディングをしてベクトルタイルにする

# はじめに
## 動機
最近、週末にいろいろなデータをベクトルタイルにしてウェブ地図にプロットすることを試しています。先日の国土数値情報に続き、今回はFITの事業計画認定情報を可能な範囲でウェブ地図化するためのベクトルタイルにしてみました。自分のためのメモとして残す意味あいが大きいですが、記録を残しておきます。

## 私の環境
WindowsPCですが、使ったツールは以下のようなものです。
* Windows 11 Home
  * WSL2（Ubuntu）
      * tippecanoe/felt
  * Windows PowerShell
  * R (4.3.2)
  * メモ帳（Windows メモ帳 11.2405.13.0）
  * Excel
  * QGIS ver. 3.34.2


# 手順
## Step 1: データダウンロード

[再生可能エネルギー　事業計画認定情報のページ](https://www.fit-portal.go.jp/PublicInfo)から都道府県別のエクセルシートをダウンロードします。個別にクリックしてダウンロードするしかないですが47都道府県をダウンロードしても10分もかかりませんでした。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/679143/e1650dbe-d9d3-1030-14fe-918fee20d7e1.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/679143/f4c66ccb-6c2c-069d-aadf-d70142713249.png)

## Step 2: データ加工・CSVデータ作成
エクセルファイルだと扱いにくいので、CSVファイルにします。こちらも地味にExcelで作業します。

今回は、「位置」に注目したいので二つあるシートのうち、「すべての場所所在」シートのデータを使うことにしました。（ただし認定日や稼働日がないので、それらを見たいときはもう一つのデータのほうが良いかもしれません。）

「すべての場所所在」のデータをコピーします。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/679143/a8c67e0e-0dd1-80c0-a280-82dfb989c6a5.png)

新しいシートにデータだけをはりつけCSVファイル（UTF8ではない）として保存します。この辺りも省力化したいのですが、とりあえず手作業でやります。（開く→タブを変える→コピー→新しいシート→貼り付け→ラベル削除→CSVで保存　の流れを繰り返します。）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/679143/1af1982e-0e05-7127-47b6-a91c203364f0.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/679143/9eb900b6-9db6-88b4-7dbd-cd004a0c5080.png)

こうして47個のCSVファイルができます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/679143/6b0f2f7c-7f9c-421c-275f-faba525376b1.png)


## Step 3: 東大のCSVアドレスマッチングサービスを使って緯度経度を付与する
CSVファイルの住所は文字列なので、住所の文字列から緯度経度に変換する必要があります。これをジオコーディングというのですが、東京大学が[CSVアドレスマッチングサービス](https://geocode.csis.u-tokyo.ac.jp/home/csv-admatch/)というものを提供しています。利用規約は以下の通りです。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/679143/28d81289-cf22-5861-8a63-0b41e6971965.png)

このCSVアドレスマッチングサービスでは、[こちら](https://geocode.csis.u-tokyo.ac.jp/geocode-cgi/geocode.cgi?action=start)で変数を調整してCSVをアップすると処理されたデータがダウンロードできるようになっています。「全国街区レベル（経緯度・世界測地系）」にして、住所のカラムは7番目など、各種パラメータを指定してファイルを選び送信を押していきます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/679143/acadea0f-b92b-b07c-cdaf-cd832a1afd06.png)

処理が終わったファイルを見てみると、分割できた住所・地名、緯度経度、変換の信頼度（iConf）、変換された住所レベル(iLvl)もついています。これは助かります。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/679143/27799701-bb39-0e93-7697-5c41d6a4a3d1.png)

こうして47の緯度経度座標を持つファイルができました。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/679143/8666d960-971f-1b52-d2f5-8cbeb68e47d4.png)


## Step 4: 47ファイルをまとめ場所の重複排除
まず47ファイルをまとめます。もう少し早いタイミングでやってもいいのですがCSVアドレスマッチングの処理を軽くするために前段までは都道府県ごとのファイルでやっていました。ファイル統合にはWindowsPowerShellを使います。各CSVの最初の行はラベルなので、1行目を飛ばしてマージします。
```PowerShell
$files = Get-Childitem -Path 2_geocoded/*.csv
foreach($file in $files){cat $file | Select-Object -skip 1 | Add-Content 3_merged.csv}
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/679143/1405956b-d7af-d5a9-614e-a7380135ab5a.png)

このくらいのサイズになりました。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/679143/5e720312-da7c-9b9c-4559-862488b00598.png)

このデータですが、Rを使って件数などを見てみました。以下の通りでした。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/679143/03ac2b78-29c4-fb6b-5e18-33b9ebf1b471.png)

ジオコーディングでプロットしてきましたが、同一地点に配置された同じIDのものは削除するようにします。GISソフトでの操作を念頭に書き出しはUTF8にしましたが、エラー等はありませんでした。

```R
# FITの作業用
# June 23, 2024
#

#ライブラリの読み込み
library("dplyr") 

#ファイルの読み込み
fit <- read.csv("3_merged.csv",fileEncoding="cp932",header=FALSE,colClasses=rep("character",13))

#件数
nrow(fit) #809554

#設備ID数
length(unique(fit[,1])) #410393

#発電事業者数
length(unique(fit[,2])) #181400

#発電代表者数
length(unique(fit[,4])) #164395

#発電施設の所在地数
length(unique(fit[,7])) #723880

#ジオコーディングした場所
length(unique(fit[,9])) #164395


#同一地点プットで同一IDのものはまとめる
fit_sel <- select(fit,1,2,4,5,6,8,9,10,11,12,13)
fit_sel <- unique(fit_sel)
nrow(fit_sel)

#書き出し（utf-8で）
write.csv(fit_sel, "4_geocoded.csv",fileEncoding="utf8")
```

(追記)2024.6.25
上記の方法だと、例えば町字にプロットされる点などは同じ場所に落ちてしまいウェブ地図でも重なってしまうため、少し工夫して場所をずらします。Rで以下のように処理しました。

```R
#ライブラリの読み込み
library("dplyr") 

#ファイルの読み込み
fit <- read.csv("3_merged.csv",fileEncoding="cp932",header=FALSE,colClasses=rep("character",13))

#同一地点プットで同一IDのものはまとめる
fit_sel <- select(fit,1,2,4,5,6,8,9,10,11,12,13)
fit_sel <- unique(fit_sel)
nrow(fit_sel) # 437124

###
#同一ポイントに落ちるものを半径radの円上に散らす
rad <- 0.00833333 * 15/1000  #0.00833333 eq 1km

length(unique(fit_sel[,7])) #164395
basho <- unique(fit_sel[,7])

if(exists("result")){rm(result)}

for(i in 1:length(basho)){
  sameloc <- filter(fit_sel, V9 == basho[i])

  for(j in 1:nrow(sameloc)){
    if(exists("out")){rm(out)}
    out <- sameloc[j,]
    if(exists("kaku")){rm(kaku)}
    kaku <- 2*j/nrow(sameloc)
    if(nrow(sameloc) != 1){
    out[,8] <- as.character(as.numeric(out[,8]) + rad*sinpi(kaku) )
    out[,9] <- as.character(as.numeric(out[,9]) + rad*cospi(kaku) )
    }
    #resultに書き出し
    if(!exists("result")){result <- out}else{ result <- rbind(result,out)}
  }
  #print(basho[i])

}

#書き出し（utf-8で）
write.csv(result, "4_geocoded-2(modified).csv",fileEncoding="utf8")
```


## Step 5: GISデータ化
QGISに緯度経度付きのCSVファイルを読み込ませます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/679143/e02fedf4-a512-c9b7-205d-7ad3dc46def3.png)

GeoCodingのときに座標値が取れなかったのがいくつかあるようで、緯度経度0、0のところにもデータがみられますね。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/679143/12fdfbd6-03f0-ce14-f344-ed2081ffa600.png)

そしてレイヤを右クリック→エキスポートからGeoJSONファイルとして出力します。SHP形式でもいいですが、私はベクトルタイル化するのでGeoJSONにしておきます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/679143/11b634c5-1c66-f7dd-380a-dca41af0ab95.png)

拡大してみてもある程度の場所には来ているように思います。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/679143/25e76bd9-5f7f-7c81-7956-1f30085a90d7.png)

（追伸）
同じところに落ちる点を周囲に散らばせる処理もまあまあうまくいっています。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/679143/0bf29770-7f90-ddf6-6960-5456d2bc2be6.png)

点が多すぎるところはちょっとむずかしいですね。。。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/679143/7c46b06f-6b59-24b5-d48f-a320578e9c75.png)


## Step 6: ベクトルタイル化
ベクトルタイル変換ツールfelt/tippecanoeを使うためにWSL2を使います。（変換ツールや関連ソフトもインストール済みとします。）

GeoJSONファイルは既にあるので、あとは単純に変換するだけです。ズームレベルは13～16にしておきます。

```Bash
tippecanoe -o fit202405.pmtiles --no-tile-compression --no-feature-limit --no-tile-size-limit --drop-rate=1 -Z13 -z16 -L fit:5_fit.geojson
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/679143/ee842811-c4ec-2abf-67bb-ef99a6670999.png)

少し待ちますが、300MB超くらいのPMTilesファイルができました。このサイズ感ならズームレベルを15までにすればpbf形式でも十分対応できそうなサイズですね。


# まとめ
FIT事業計画認定情報について47都道府県のエクセルファイルからCSVファイルを作り、ジオコーディングしてベクトルタイルにすることができました。



# 参考
https://www.fit-portal.go.jp/PublicInfo

https://geocode.csis.u-tokyo.ac.jp/geocode-cgi/geocode.cgi?action=start

https://geocode.csis.u-tokyo.ac.jp/home/csv-admatch/