観光行動理解のための分散表現に基づくユーザクラスタリング
User Clustering based on Distributed Representations for Understanding Tourist Behaviors∗1

久保 基 ∗1∗2

田中 宏季 ∗1∗2

中村 哲 ∗1∗2

Motoi Kubo

Hiroki Tanaka

Satoshi Nakamura

理化学研究所 革新知能統合研究センター 観光情報解析チーム

RIKEN Center for Advanced Intelligence Project Tourism Information Analytics Team∗2

奈良先端科学技術大学院大学

Nara Institute of Science and Technology

In order to promote inbound tourism, we need to analyze behaviors and destinations of tourists, and understandtheir trends. In this study, we attempted to cluster tourists’ behaviors using a time-series distributed representations. A previous work used the Long-short term memory (LSTM) to predict tourists’ next visiting places. In
this study, we extended it to the Bi-directional LSTM (Bi-LSTM). To obtain tourist clusters, we calculated the
distance of representation vectors derived from the LSTM and the Bi-LSTM. Our results showed that the LSTM
grouped tourists who visited similar places, and the Bi-LSTM could also obtain tourist clusters who visited places
in reversed order of routes.

1.

はじめに

に，観光行動データから得られる観光客の観光行動系列に対して，現在から未来に亘る行動系列及び現在から過去に亘る行動系列を考慮した行動近接性をもつ位置埋め込み表現を獲得し，得られた位置埋め込み表現から観光行動系列をベクトル化し，ベクトル化された観光行動系列をクラスタリングすることにより，インバウンドの観光行動を解析し，その行動パターンを抽出する．

インバウンド観光は，外国人が訪日する重要な観光産業の 1
つとして注目を浴びている．訪日外国人観光客の数は年々増加しており，これを受けて日本政府は新たな観光立国推進基本計
画を策定するなど，2020 年までには外国人観光客の数を 4000
万人に到達させることを目標として掲げている [2018 観光庁]．
昨今，位置情報取得の精度向上により，観光客の行動が多くの電子機器などの端末により容易な追跡が可能となった．このよ
うな端末から取得される位置情報は観光客の行動を知る非常に重要な情報源となり得る．観光客がどのように観光をするのかを調べるためには，ただ場所のみを指し示すルートの近さだけでなく行動的近接を考慮することによってより観光客の行動を理解することができると考えられている [Crivellari 19]．他の位置情報の解析 [Feng 16, Lee 16, Zhang 19] では，場所間の距
離など地理的な近さに着目する研究中心であったが，Crivellariらの研究 [Crivellari 19] では場所間に存在する行動近接，その行動がその周辺の場所に対してどのような意味を持つ行動なのかというところに焦点を当てている．
また，観光客の行動は時系列データとして扱うことができる．何時どのような場所に行ったかということを理解することは，観光客の行動パターンを理解するためには必要不可欠である．特に時系列モデルを用いた観光の行動における次の行き先を予測する研究 [Crivellari 20] がある．この Crivellari らの研
究では，この長短期記憶モデルによる手法が，観光客の行動系
列以外に特別な情報なしで行動パターンの予測を行えるとして，その有用性を報告しているが検討の余地がある．このように観光行動を双方向の経路予測に基づいた観光行動の予測及び，ユーザクラスタリングに取り組む研究は，我々の知る限り
では限り存在しない．
そこで本研究の目的は，インバウンドの観光行動を解析することで，その行動パターンを抽出することである．そのため

2.

関連研究

2.1

分散表現を利用した観光行動分析

Word2Vec [Mikolov 13] による分散表現では，単語の分散
表現は文章中にある単語の周辺単語を確率的に扱い，単語間の関係を分散表現として獲得する手法である．この考えを利用して，観光客の行動パターン解析においても用いられている．
Crivellari らの研究 [Crivellari 19] では，Word2Vec をベースとした手法である Mot2Vec を提案した．観光客の行動系列
を位置的な距離をただ考慮するのではなく，行動近接性という行動そのものの意味的な近さを考慮することで，観光客の行
動から得られる訪問した場所の分散表現を獲得した．得られた分散表現により，場所間の意味の近さについて議論した．また，得られた分散表現から観光客の行動系列をベクトル化し，得られたベクトル間でのコサイン類似度を計算することで，その行動系列間の類似度についても議論した．その他の研究では，分散表現をスポットクラスタリングに応用されている研究[Hirota 19] がある．

2.2

時系列データを用いた訪問地予測

観光客の行動は時系列データとしても扱うことが可能である．このため，時系列の情報を用いたモデルとして，LSTMに基づく手法 [Crivellari 20] が提案されている. 観光客の行動
系列を学習する際に，LSTM は手動で特徴を抽出することな
く，観光客の行動系列から直接その行動パターンを捉えることが可能であると述べられている．
LSTM を用いた観光客の予測では，あるいくつかの訪問地に対して，次の訪問地を予測することによって観光客の行動パターンを学習する．実験では，7ヶ月に亘るイタリア (ロー連絡先: 田中 宏季，理化学研究所 AIP センター，奈良県生駒市高山町 8916-5 奈良先端科学技術大学院大学内 学際融合領域研究棟 2 号館 ，電話: 0743-72-5264，電子メール:
hiroki.tanaka.ks@riken.jp

1マ) の匿名化された携帯電話詳細記録データセットを用いて行動パターンの予測を行い，他の時系列モデルとの比較を精度により，時系列を考慮した観光パターンの予測において有効であるということが示された．

提案手法は，先行研究 [Crivellari 20] の LSTM レイヤを BiLSTM レイヤに置き換えた形になっている．それ以外は先行研究と同じモデルの構造である．したがってソフトマックスから次のメッシュとなる確率の部分は式 1 と同様に求めることができる．図 1 における右方向の LSTM が順方向 LSTM で，
左方向の LSTM は逆方向 LSTM である．Bi-LSTM の出力はそれぞれの LSTM の層から出力されるベクトルが結合されたものであり，順方向 LSTM のベクトルは f vt ，逆方向 LTSMのベクトルを b vt で表している．2 層目の Bi-LSTM の出力
は順方向 LSTM 及び逆方向 LSTM の最終隠れ層のベクトルを結合したものである．
3.2.1 行動ベクトルのクラスタリング
前節では，観光行動のベクトル化について述べた．本節では，求めた観光行動ベクトルのクラスタリングについて述べる．今回用いるクラスタリング手法は階層的クラスタリングである．クラスタリングには非階層的クラスタリングと階層的ク
ラスタリングが存在するが，階層的クラスタリングは後からクラスタ数を自由に設定できることや，クラスタリング結果が一意であるという点から，クラスタリング対象となるデータにおいて，分けられるクラスタが明示的でない本研究では階層的ク
ラスタリングを用いる．
本研究では，階層的クラスタリングにおけるクラスタの併合方法の中でも比較的分類感度が高いとされるウォード法を用いる．評価指標はコーフェン相関係数を用いる．コーフェン相関係数を用いることで，得られたクラスタリング結果と元の非類似度の一致生を測ることでクラスタ階層の妥当性を検証することができる．また，得られたクラスタにおいてどのような旅行者がいるのかを行き先や観光客のユーザ情報を元に解析する．

提案手法

3.

本章では，(1)Bi-LSTM を用いて過去の訪問地からある未来の訪問地を予測するタスク及び未来の訪問地からある過去の訪問地を予測するタスクを解くことによって各訪問地の分散表現を獲得し (2) 獲得された分散表現から観光客の行動系列をベクトル化して (3) その得られた行動系列のベクトルのクラスタリングを行うことによって観光客の行動理解につなげる手法を提案する．

3.1

観光行動データ ∗1

今回解析に使用するデータは観光客に配布されたスマート
フォンアプリから取得された多次元のログデータである．今回
用いるデータは時間情報及び位置情報，観光客のユーザ情報に大別される．この内，位置情報は 100m 四方のメッシュを数値化したメッシュID が含まれており，観光客はその 100m メッ
シュ四方のどこかに存在するという大まかな位置データとなっ
ている．

3.2

Bi-LSTM を用いた観光行動予測による分散表現の獲得

今回解析に使用するデータは既に観光客が観光した行動系列
は全て揃っているということを利用して，Bi-LSTM を用いる
ことによって，双方向の予測を行う．このようにすることで，予測精度を向上させるだけでなく，獲得する分散表現について
も，よりメッシュ間の内部表現において観光系列の行動の意味が考慮された強固な分散表現が得られるのではないかと考えられる．今回提案する手法の特徴としては，従来の手法と比べて現在から未来の予測だけではなく，現在から過去の予測を双方向に同時に行うことによる精度向上を図る点である．図 1 に提案手法の概略図を示す．

ソフトマックス

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

埋め込み[ID(t)]

埋め込み[ID(t+1)]

埋め込み[ID(t+2)]

メッシュ
ID(t)

メッシュ
ID(t+1)メッシュ
ID(t+2)

4.1

解析に使用したデータ

表 1: 解析に使用したデータ
対象期間2019 年 1 月〜11 月
対象者
京都への観光客
観光行動系列総数
333745(全観光客)
クラスタリング対象の37
インバウンド観光行動系列数

4.2

Bi-LSTM での分散表現獲得

表 2 に行った Bi-LSTM によるメッシュ予測のパラメータを示す．
最大系列長はメッシュ予測の際，どの長さまでのメッシュ経路
から次のメッシュを予測するかというパラメータである．Embedding 層のユニット数及び LSTM ユニット数は，Mesh2Vecのメッシュベクトルサイズと同様に 300 とした．バッチサイ
ズとエポック数は今回の実験では 1024 と 50 とした．最適化

図 1: Bi-LSTM による次のメッシュ予測∗1

結果

今回の解析に使用したデータの概要を表 1 に示す．表 1 に示した観光行動系列総数は全観光客を対象としており，こちらを既存手法及び提案手法の時系列モデルの学習データとした．学習データとした観光行動系列はその訪問メッシュの数が 30 以
上のものを対象とした．また，本研究におけるクラスタリングの対象としたインバウンドの観光行動系列は訪問したメッシュ
が 100 以上であるインバウンドの観光行動系列を使用した．

次のメッシュとなる確率

Bi-LSTM4.

データ提供元: 株式会社 Agoop2表 2: Bi-LSTM によるメッシュ予測のパラメータ
最大系列長
100
モデル構造
(Input, Embedding,
Bi-LSTM, Bi-LSTM,
Dense)
Embedding 層ユニット数
300
隠れ層の数
300
バッチサイズ1024
エポック数
50 (Early stopping による早期打ち切り有)
最適化手法
Adam
Early stopping のモニタ値 検証データの損失値

手法は先行研究 [Crivellari 20] を参考にして Adam を用いた．
Early stopping では，検証データによる損失値をモニタリン
グし，その損失値の向上が見られなくなってから 3 回までは学習をするように設定した．今回のメッシュ予測では，訓練デー
タと検証データ及びテストデータを 8:1:1 で分割し，そのデータを用いて学習を行った．検証データは各エポックにおける精度と損失を検証するために用いた．テストデータはモデルの精度から各モデルの評価を行うために用いた．

5.

図 2: ウォード法によるクラスタリング結果 (LSTM) グラフ
タイトルに示す値はコーフェン相関係数である．

メッシュ予測の学習結果

本節では，LSTM のモデル及び Bi-LSTM モデルを用いた
メッシュ予測における学習結果について述べる．学習結果として，訓練時及び予測時の精度を，表 3 に示す．
表 3: LSTM 及び Bi-LSTM によるメッシュ予測の学習結果
モデル
訓練精度 予測精度 エポック
LSTM
0.771
0.517
50
Bi-LSTM
0.838
0.528
36

表 3 に示す通り，LSTM のモデルと Bi-LSTM のモデルそれぞれで，メッシュ予測をするために学習を行った結果，提案手法である Bi-LSTM モデルを用いた手法がより良い予測精度であるということがわかる．この精度の向上は，Bi-LSTM モ
デル双方向の系列を学習していることによると考えられる．

6.

図 3: ウォード法によるクラスタリング結果 (Bi-LSTM) グラ
フタイトルに示す値はコーフェン相関係数である．

階層的クラスタリングの結果

図 2 及び図 3 に示した階層的クラスタリングの結果について，コーフェン相関係数の値を比較すると，僅かに提案手法が高い値となった．これは，提案手法におけるコサイン距離で求められた距離行列とウォード法で計算されたコーフェン行列との歪みが少ないことを示している．

本節では，得られたクラスタリングの階層構造及び，得られたクラスタについて報告し，どのような観光客のクラスタに分けられたかについてその理由と共に考察する．図 2 及び図 3にそれぞれの分散表現獲得法に基づいて獲得した分散表現による階層的クラスタリングの結果を示す．各クラスタリング結果
では，クラスタ間距離が 1.2 となる横破線を基準としてクラスタ数を決定した．また，各グラフの縦軸はクラスタ間距離を，
横軸は観光客の ID を示しており，グラフタイトルにある数値
はコーフェン相関係数を示している．各グラフのクラスタ数は
図 2 では，横破線を基準として 8 つのクラスタに，図 3 では，
横破線を基準として 6 つのクラスタに分けられていることがわかる．クラスタには各図で示すようにクラスタ番号を 1 から順に付与している．

7.

考察得られたクラスタにおける観光客のサンプルが，順方向の時系列を考慮した分散表現を用いた場合，双方向の時系列を考慮した分散表現を用いた場合において，どのように分かれているか考察することにより，各手法によるクラスタリングについて評価を行う．
今回 LSTM の系列表現を階層的クラスタリングすることに4 及び Bi-LSTM の系列表現を同様により得られたクラスタ⃝

3

5に
階層的クラスタリングすることよって得られたクラスタ⃝
ついて事例分析として比較を行う．
各クラスタでは，図 2 及び図 3 に示すとおり，LSTM の分
4 に注目
散表現を用いたクラスタリングで得られたクラスタ⃝
すると，観光客 1(ドイツ), 16(アメリカ), 20(アメリカ)，7(アメリカ), 14(クウェート) が属しており，LSTM の分散表現を5 に注目すると，観用いたクラスタリングで得られたクラスタ⃝
光客 1(ドイツ), 16(アメリカ), 20(アメリカ)，13(チリ), 18(アメリカ) が属している．
クラスタリングの距離の定義によるクラスタリング結果の違4 の 7(アメリカ), 14(ク
いを見るために，LSTM のクラスタ⃝
5 の観光客ウェート) の観光ルート及び Bi-LSTM のクラスタ⃝
13(チリ), 18(アメリカ) の観光ルートを地図上に可視化した結果を図 4 及び図 5 に示す．

Bi-LSTM での系列表現を用いた場合である図 4 では，赤で示されているルートは，観光客 13 の観光ルートであり，始点から嵐山周辺，金閣寺，伏見稲荷大社周辺，終点を辿るルートになっている．緑で示されているルートは観光客 18 の観光ルートであり，始点から金閣寺，嵐山周辺，終点を辿るルートになっている．金閣寺周辺のルート方向に着目すると，観光客
13 は嵐山周辺から来ているのに対し，観光客 18 は嵐山周辺に向かっていることがわかる．すなわち，観光順が逆となっていることを示している．これらのルートは同じ観光スポットを巡るルートではあるものの，順序が異なり，それらのルートの近さが Bi-LSTM の系列表現でうまくとらえられていると考えられる．そのような観光ルートが類似した観光行動のパターンとして抽出されていることが確認できた．

8.

まとめ

本研究の目的は，インバウンドの観光行動を解析すること
で，その行動パターンを抽出することである．双方向時系列を学習する Bi-LSTM を用いて系列表現を学習し，その表現ベク
トルを階層的クラスタリングを行うことにより，同じ観光地を訪問するルートではあるものの，その観光順が異なる経路を近いルートとして抽出することができた，また，先行研究である LSTM を用いた場合と比べて訓練精度が向上しており，階層的クラスタリングの結果についてもコーフェン相関係数がBi-LSTM を用いた場合の方が高い値となった．今後は，学習時間の短縮や観光ルートにおける滞在時間などを考慮して，より明確なユーザクラスタリングを行うことが考えられる．

参考文献
図 4: 観光客 7, 14 のルート可視化結果 (LSTM の系列表現による階層的クラスタリング)[2018 観光庁] 観 光 庁,
観 光 立 国 推 進 基 本 計
https://www.mlit.go.jp/kankocho/kankorikkoku/kihonkeikaku.html, (参照 2019-01-15).

画,[Crivellari 19] Crivellari, A, and Euro B.: From Motion Activity
to Geo-Embeddings: Generating and Exploring Vector Representations of Locations, Traces and Visitors through LargeScale Mobility Data. ISPRS International Journal of GeoInformation 8.3: 134 (2019)[Feng 16] Feng, Z, and Yanmin Z.: A survey on trajectory data mining: Techniques and applications, IEEE Access 4: 2056-2067(2016)[Lee 16] Lee, S, Lim, J, Park, J and Kim, K.: Next place prediction
based on spatiotemporal pattern mining of mobile device logs,
Sensors 16.2: 145 (2016)[Zhang 19] Zhang, W, Wang, X and Huang, Z.: A System of Mining
Semantic Trajectory Patterns from GPS Data of Real Users,
Symmetry, 11. 889. 10.3390/sym11070889 (2019)[Crivellari 20] Crivellari, A, and Euro B.: LSTM-Based Deep Learning Model for Predicting Individual Mobility Traces of ShortTerm Foreign Tourists. Sustainability 12.1: 349 (2020)[Mikolov 13] Mikolov, T and Sutskever, I and Chen, K and Corrado, G.S and Dean, J.: Distributed representations of words
and phrases and their compositionality, Advances in neural information processing systems (2013)

図 5: 観光客 13, 18 のルート可視化結果 (Bi-LSTM の系列表
現による階層的クラスタリング)[Hirota 19] Hirota, M, Oda, Tetsuya, Endo, Masaki, Ishikawa, Hi-

まず，図 4 では，赤で示されているルートは，観光客 7 の観光ルートであり，始点から龍安寺，嵐山周辺，終点を辿る
ルートになっている．緑で示されているルートは観光客 14 の観光ルートであり，始点から伏見稲荷周辺，金閣寺，終点を辿るルートになっている．これらのルートは類似した観光地を同
じ順に観光したルートが同じクラスタとして併合されている．

roshi.: Generating Distributed Representation of User Movement for Extracting Detour Spots, Proceedings of the 11th International Conference on Management of Digital EcoSystems(2019)

4