StravaなどのGPSデータをOracle Data Visualization DesktopでGIS的に扱う

ベトナムオフショアネタなどを[GYAO時代に投稿していた玉利](https://qiita.com/btamari-gy)です。会社アカウントはやめて、個人の立場で前と同じ調子で行きます。IoTやデータ分析がらみのお仕事募集中です。

2017年12月から2018年の1月に、自分のエンジニアとしてのキャリア棚卸しにベトナムや中国深センなどを回ってきました。日本人のステレオタイプを取り除くために、一枚の写真をお見せしたいと思います。

10年ちょっと前に私が深センにいたころは、リアル北斗の拳とまではいかずとも、リアルFinalFightみたいな町で、ぼーっとして歩いてるとぶん殴られて強盗に会うような町でした。ソースは同僚のTくんで、駐在10日目で強盗にあって頭を殴られて、あえなく帰国してました。わたしも中国の国境を越えて香港に入った瞬間に、体の緊張感が一気に開放されたことをよく覚えてます。

深センでは公共交通機関などではスリが多いので、乗客は皆ビクビクしてたのですが、いまはこんな感じです。地下鉄の中で爆睡してます。

<img width="366" alt="スクリーンショット_H30_03_17_9_44.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/45bda448-87e9-e928-ef6e-c36774085fe1.png">

何が置きたかというと、まちなか至る所に監視カメラがついていて、犯罪者は顔認証で身分がバレて即座に逮捕される仕組みができたので犯罪が激減したようです。中国では政府が戸籍ある人全員の顔認証DBを持ってるので、信号無視しただけで晒し者にされます。

https://twitter.com/kerotto/status/974536553149034496?s=21

ITのちからって、本当にすごいですね。自分も、社会をよくするために技術力を使おうと思いました。
閑話休題

#Oracle Data Visualization DesktopでGPSデータを可視化する

IoTのデータをモデリング向けに楽に可視化してあげたいなーと思ってました。ガチな人はMortionBoardとか使っておりますが、小遣いで契約するにはちょっとお高い、だけどもExcelはな～、という御方むけに、いい製品がありました。

<img width="649" alt="Tutorial_-_Oracle_Data_Visualization_Desktop.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/6e56758d-31f8-4f95-775f-565891e9df54.png">


エンジニアだとVagrantを使うために無料のOracle VirtualBoxを入れていた人も多いかと思います。実は買うと結構高いBIツールも、Oracleは無料で使わせてくれます。20年前に植物生態学を学んでいた時に教授からGIS地図表示を綺麗にできる方法をなんとかしてみろと言われてたのですが、当時これがあったらすごくいい研究が出来たと思います。当時は、ライセンスだけで500万とかかかる世界でした。

##ダウンロード

[無料で使えるData Visualization Desktopを触ってみよう](https://blogs.oracle.com/opnjapan/data-visualization-desktopweb)

リンクから辿っていき、Desktop版をダウンロードしてください。Oracleの無料アカウント登録が必要になると思います。

https://community.oracle.com/groups/oracle-cloud-japan-blog/blog/2016/05/13/data-visualization-desktop%E3%83%AA%E3%83%AA%E3%83%BC%E3%82%B9%E3%81%A8%E3%83%88%E3%83%A9%E3%82%A4%E3%82%A2%E3%83%AB%E7%89%88%E3%83%80%E3%82%A6%E3%83%B3%E3%83%AD%E3%83%BC%E3%83%89%E3%81%AE%E3%81%8A%E7%9F%A5%E3%82%89%E3%81%9B

ガッツリと仕事で使うならクラウド版もあるのですが、簡単に試してみるならDesktop版が良いと思います。データ・ソースはExcelやCSVから、Oracle DB Spark SQL Server,MySQL,DB2,Teradata,Redshift,Hive,Impala,MongoDB,SybaseIQ等々使えます。今回の記事では地図表示に的を絞り、Desktop版で紹介します。

##セットアップ

Oracle Data Visualization DesktopはJavaアプリなので、Windows/Mac両方で使えます。大きな画面と大きなメモリのある、パワフルなPCで使った方が楽です。私はMacで使っています。

##ヒートマップ表示のプラグインを導入する

地図表示には、緯度経度が入ったデータが必要です。そういえば、以前のPJで映画館の満空情報をElasticsearchで緯度経度扱った覚えがありました。さて、緯度経度の入ったデータなんてどうやって手に入れたらいいのかな、と思ったら、自分の契約しているStravaという自転車やマラソンの分析サービスからデータを取得できることがわかりました。これをテストデータとします。

実際に仕事や研究で使うのであれば、店舗分析であれば店舗住所からGoogleの地図API経由で緯度経度を取得するとか、社用車の走行分析だったらGPSデータをそのまま使うとかできるでしょう。

DVDのデフォルトで入っているMapは、都市名から場所をプロットしてくれるので、ざっくりとしたマーケティング分析には便利ですが、粒度の細かいリアルデータを扱うためには

こちらのライブラリからHeatmap Pluginをダウンロードします。
https://www.oracle.com/solutions/business-analytics/data-visualization/library.html

<img width="143" alt="Data_Visualization_Cloud_-_Library___Oracle.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/ded3e969-ae7a-1f9c-afb5-aa3ff2eaa47a.png">

ダウンロードしたら、DVDのコンソールからプラグインのインストールをします。

<img width="396" alt="Oracle_Data_Visualization_Desktop.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/5637e2f6-10ec-8af2-3838-575e7ea65073.png">


このプラグインで、バックグラウンドにGoogle mapsを使おうと思うので、PC内のファイルを修正します
このファイルは編集権限がread onlyになっているので、先にrwに変更してあげてください。

Windows

```
C:\Program Files\Oracle Data Visualization Desktop\war\va\WEB-INF\quickstart-web.xml
```


Mac

```
/Applications/dvdesktop.app/Contents/Resources/app.nw/war/va/WEB-INF
```

変更内容

oracle.bi.tech.contentSecurityPolicy要素で、maps.googleapis.com:* をscript src以下に追加します。

. script-src 'self' 'unsafe-inline' 'unsafe-eval' *.@requestDomain@:* @sawServerHost@:* maps.us.oracle.com:* elocation.oracle.com:* __maps.googleapis.com:*__ ;

```
    <init-param>
      <param-name>oracle.bi.tech.contentSecurityPolicy</param-name>
      <param-value>default-src 'self' *.@requestDomain@:* www.googleapis.com *.dropboxapi.com login.live.com apis.live.net login.microsoftonline.com;script-src 'self' 'unsafe-inline' 'unsafe-eval' *.@requestDomain@:* @sawServerHost@:* elocation.oracle.com:*  apis.daum.net:* *.daumcdn.net:* maps.googleapis.com:* maps.google.com *.googleapis.com *.gstatic.com *.virtualearth.net *.here.com *.map.baidu.com *.map.bdimg.com *.locationbox.com.tr *.openstreetmap.org *.basemaps.cartocdn.com *.a.ssl.fastly.net;child-src 'self' 'unsafe-inline' 'unsafe-eval' *.@requestDomain@:* @sawServerHost@:* data: blob:;style-src 'self' 'unsafe-inline' *.@requestDomain@:* @sawServerHost@:* elocation.oracle.com:* maps.google.com *.googleapis.com *.gstatic.com *.virtualearth.net *.here.com *.map.baidu.com *.map.bdimg.com *.locationbox.com.tr *.openstreetmap.org *.basemaps.cartocdn.com *.a.ssl.fastly.net data:;img-src 'self' *.@requestDomain@:* @sawServerHost@:* elocation.oracle.com:* maps.google.com *.googleapis.com *.gstatic.com *.virtualearth.net *.here.com *.map.baidu.com *.map.bdimg.com *.locationbox.com.tr *.openstreetmap.org *.basemaps.cartocdn.com *.a.ssl.fastly.net *.baidu.com blob: *.googleusercontent.com data:;font-src 'self' *.@requestDomain@:* @sawServerHost@:* elocation.oracle.com:* maps.google.com *.googleapis.com *.gstatic.com *.virtualearth.net *.here.com *.map.baidu.com *.map.bdimg.com *.locationbox.com.tr *.openstreetmap.org *.basemaps.cartocdn.com *.a.ssl.fastly.net data:;frame-src 'self' @sawServerHost@:* *.@requestDomain@:*;frame-ancestors 'self' @sawServerHost@:* *.@requestDomain@:*;media-src 'self' *.@requestDomain@:* @sawServerHost@:* elocation.oracle.com:* maps.google.com *.googleapis.com *.gstatic.com *.virtualearth.net *.here.com *.map.baidu.com *.map.bdimg.com *.locationbox.com.tr *.openstreetmap.org *.basemaps.cartocdn.com *.a.ssl.fastly.net data: blob: mediastream:;connect-src 'self' @sawServerHost@:* *.@requestDomain@:* www.googleapis.com *.dropboxapi.com login.live.com apis.live.net login.microsoftonline.com elocation.oracle.com:* maps.google.com *.googleapis.com *.gstatic.com *.virtualearth.net *.here.com *.map.baidu.com *.map.bdimg.com *.locationbox.com.tr *.openstreetmap.org *.basemaps.cartocdn.com *.a.ssl.fastly.net;</param-value>
    </init-param>
```

書き換えがおわったら、いちどDVDを完全に終了して、再度アプリを立ち上げてリソースファイルを読ませてあげてください。


##Stravaから、データをダウンロードする

自転車乗りにおなじみのStrava会員であれば、自分のアクティビティのURLの後ろに /export_tcx を付けてあげるとｔｃｘファイルダウンロードが出来ます。/export_originalだと元データが取れるみたいです。

URL例
https://www.strava.com/activities/1427998696/export_tcx


残念ながら、ログインしていないとデータは取れません。Stravaのアカウントが無い方用として、githubに私の走行データをあげておきます。

https://github.com/damarinz/data_visualization_desktop_tutorial/blob/master/Miura_Ride.tcx.zip

<img width="500" alt="data_visualization_desktop_tutorial_Miura_Ride_tcx_zip_at_master_·_damarinz_data_visualization_desktop_tutorial.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/e7daeb07-8359-a790-8646-636765c78bc5.png">



ダウンロードしたデータはXMLでした。ちゃんと緯度経度のLatitudeDegrees LongitudeDegrees要素が入ってます。これをこのままDVDに食わせることはできないので、変換してあげることにします。正攻法だとPythonでｃｓｖ変換ですが、世の中同じ悩みを持ってる人はいっぱいいるので、ここはどなたかが作ってくれた出来合いのコンバーターを利用することにします。



```
<?xml version="1.0" encoding="UTF-8"?>
<TrainingCenterDatabase xsi:schemaLocation="http://www.garmin.com/xmlschemas/TrainingCenterDatabase/v2 http://www.garmin.com/xmlschemas/TrainingCenterDatabasev2.xsd" xmlns:ns5="http://www.garmin.com/xmlschemas/ActivityGoals/v1" xmlns:ns3="http://www.garmin.com/xmlschemas/ActivityExtension/v2" xmlns:ns2="http://www.garmin.com/xmlschemas/UserProfile/v2" xmlns="http://www.garmin.com/xmlschemas/TrainingCenterDatabase/v2" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance">
 <Activities>
  <Activity Sport="Biking">
   <Id>2018-02-27T01:28:23Z</Id>
   <Lap StartTime="2018-02-27T01:28:23Z">
    <TotalTimeSeconds>13056</TotalTimeSeconds>
    <DistanceMeters>47118.6</DistanceMeters>
    <MaximumSpeed>48600.0</MaximumSpeed>
    <Calories>0</Calories>
    <Intensity>Active</Intensity>
    <Cadence>56</Cadence>
    <TriggerMethod>Manual</TriggerMethod>
    <Track>
     <Trackpoint>
      <Time>2018-02-27T01:28:23Z</Time>
      <Position>
       <LatitudeDegrees>35.2965030</LatitudeDegrees>
       <LongitudeDegrees>139.5800100</LongitudeDegrees>
      </Position>
      <AltitudeMeters>87.4</AltitudeMeters>
      <DistanceMeters>0.5</DistanceMeters>
      <Cadence>33</Cadence>
      <Extensions>
       <TPX xmlns="http://www.garmin.com/xmlschemas/ActivityExtension/v2">
        <Speed>0.0</Speed>
       </TPX>
      </Extensions>
     </Trackpoint>
```


##GPSiesでデータ変換

今回のテストデータだけではなく、おそらく、お手元の他のタイプのデータもここで変換できるはずです。


https://www.gpsies.com/

<img width="285" alt="変換___GPSies.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/67d54452-393b-4fec-7a04-503f850d6685.png">

変換してあげると、ダウンロードフォルダにCSVファイルがダウンロードされます。

##ラベルを付ける

CSV変換したファイルを開くと、速度データなどが欠落してしまっているのですが、まあ試しなので良いとしましょう。速度データが取れれば、配送車の滞留してしまう渋滞ポイントなどを割り出すことができるはずです。

<img width="181" alt="Miura_ride_csv.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/900643d9-aa96-eadf-ef4d-4f681ce87132.png">

このままだと、ラベルが無くて具合が良くないので、D列にpointというデータを1から順番に付けてあげました。

<img width="178" alt="スクリーンショット_H30_03_19_10_50.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/a398ee58-7f10-49ad-1cac-45995179c614.png">


##csvデータをDVDに投入

新しいプロジェクトを作ります。

<img width="600" alt="Oracle_Data_Visualization_Desktop_と_「StravaなどのGPSデータをOracle_Data_Visualization_DesktopでGIS的に扱う」を編集_-_Qiita_と_WEB-INF.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/dda0ecc4-5263-cd4e-be7d-ee576e25f21c.png">


いよいよデータを投入してあげましょう。

<img width="351" alt="無題_-_Oracle_Data_Visualization_Desktop.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/29939d71-4aa0-a51c-eb4f-a8b8d5016526.png">

<img width="158" alt="無題_-_Oracle_Data_Visualization_Desktop.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/fe7c1abc-9aa8-3642-0505-290a054cedd9.png">


データセットの作成からデータを読んであげると、以下のように表になります。ここでpoint列は、ラベルとして扱いたいのでちょっといじります。



<img width="281" alt="無題_-_Oracle_Data_Visualization_Desktop.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/2be229c1-2597-aa5f-92e7-fd2567377214.png">

Pointのタイトル行のところにマウスオーバーすると、歯車マークが表れます。クリックすると、設定項目が現れるので、データ型を属性にしてあげます。緯度経度も属性にしないとうまくいかないようです。

<img width="372" alt="無題_-_Oracle_Data_Visualization_Desktop.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/e8dcdf58-2aa6-33be-205d-a492efd358e8.png">

<img width="491" alt="無題_-_Oracle_Data_Visualization_Desktop.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/23eaa10f-8c5a-0870-5878-9cc8f4b53145.png">

ここまで直してあげてください。

<img width="245" alt="Heatmap_-_Oracle_Data_Visualization_Desktop.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/3d65ebc0-18c3-f33b-191b-c4dab2e0ec8d.png">



##データを描画

データが取り込めたら、ビジュアル化タブを押します。データを選んでドラッグアンドドロップしてあげます。

<img width="510" alt="Heatmap_-_Oracle_Data_Visualization_Desktop.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/67f088a4-efce-e32c-f303-a785e1bef640.png">


データを自動でビジュアル化してくれるのですが、今回はちょっと思ったのと違いますね。可視化の種別を変えてあげます。

<img width="479" alt="Heatmap_-_Oracle_Data_Visualization_Desktop.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/7f9a7b8d-572e-c61d-41db-c31ee865ad32.png">

Heatmapを選んでみました。データ読むのにちょっと時間かかります。

<img width="234" alt="無題_-_Oracle_Data_Visualization_Desktop.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/a363579a-8d5a-d93a-8429-28ec1c56bd98.png">

走行経路がヒートマップ表示されました。地図は英語版OpenStreetMapなのがちょっと日本で使うには厳しいですね。これをGoogle mapsに変更してみます。

<img width="580" alt="Heatmap_-_Oracle_Data_Visualization_Desktop.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/e73085c1-9dfe-2bd2-e6d5-16c4b9ca2b34.png">

左側の設定でOpenStreetMapから修正します。

<img width="251" alt="Heatmap_-_Oracle_Data_Visualization_Desktop.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/b7b87436-4f26-3dab-c6ff-fcfcaa59ca02.png">

Google mapsで表示できました。

<img width="424" alt="Banners_and_Alerts_と_Heatmap_-_Oracle_Data_Visualization_Desktop.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/4026cb84-17bb-2b7c-e98c-f485dbbc1950.png">

結構ここまでたどり着くのが大変だったのですが、いちどやってしまえばあとは簡単なので、ぜひとも試してみてください。


##追記　地名から緯度経度を取得する
今回はGPSデータなので緯度経度が最初から含まれていましたが、ヒートマップ表示したいデータは地名だったり住所だったりすることがよくあります。このような場合は、Google map apiを利用してGoogle Spreadsheetで緯度経度を入れてあげるのがかんたんです。

会社でやってみたら、テストデータ作成のgoogle maps apiがIP単位の上限に達していたようで、うまくデータ変換ができませんでした。たぶん地図側も同様の理由でもたつくと思うので、google maps api keyの個人用を取得して設定してあげることをお勧めします。個人で使う常識的ボリュームであれば無料です。

2019/08/21追記　プロジェクトでGeocoding APIを有効にする必要があります。以前は要らなかったのですが、追加設定が必要になりました。

https://developers.google.com/maps/documentation/javascript/get-api-key?hl=ja

<img width="167" alt="京急線乗降者数_-_Oracle_Data_Visualization_Desktop.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/b00025ed-1837-6252-f6b2-afc2d326496c.png">


```getLatLong.gs
function getLocation(address) {
//　　　var address = '渋谷駅'
  var api_key = '上のリンクからキーを取得してここに入れてください'
  var requestUrl = "https://maps.googleapis.com/maps/api/geocode/json?address=" + address + "&key=" + api_key; // Google Geocoding API
  var result = JSON.parse( UrlFetchApp.fetch(requestUrl) );
  if ( result['status'] === 'ZERO_RESULTS' ) { return 'No Result.' }
  var location = result['results'][0]['geometry']['location'];
  return [ [ location['lat'] , location['lng'] ] ];
}

```

このコードをGoogle Spreadsheetにセットし、
　　=getLatLong(C4)
みたいに、地名セル（住所）に対して使うと、式をセットしたセルとその右側のセルに緯度経度が表示されます。

<img width="612" alt="各駅乗降車数_-_Google_スプレッドシート.png" src="https://qiita-image-store.s3.amazonaws.com/0/96615/ca2d198b-aba9-64a0-ea59-4212fde1c06a.png">