訪問履歴を利用した旅行者の将来の訪問国の予測
Predicting the next country
using traveler’s visit history
柴田 有基
Naoki Shibata
広島市立大学大学院情報科学研究科
Email: shibata@ls.info.hiroshima-cu.ac.jp

石野 亜耶
Aya Ishino
広島経済大学メディアビジネス学部
Email: ay-ishino@hue.ac.jp

難波 英嗣
Hidetsugu Nanba
中央大学理工学部
Email: nanba@kc.chuo-u.ac.jp

竹澤 寿幸
Toshiyuki Takezawa
広島市立大学大学院情報科学研究科
Email: takezawa@ ls.info.hiroshima-cu.ac.jp

Abstract—We propose a method for predicting the traveler’s next
country by using machine learning. To predict the next country
accurately, it needs to consider the country information andtravelers’ features. Therefore, we propose a method consideredcountry information, which are Wikipedia, location, official
language, and tourism types and tourist season. In this paper, weconducted an experiment using LSTM with Wikipedia and location
information of input data. The result showed better prediction
performance than baseline methods in all evaluation criteria.

I.

はじめに

現在，COVID-19 の影響により，海外旅行をはじめとする観光行動が減少している．しかし，これまでの訪日外国人の増加傾向や行動自粛へのストレスなどを考慮すると，今後，徐々に海外旅行者数が回復していくことが期待される．そのため，海外旅行を考えている人へのマーケティング活動は，今後，非常に重要になると考えられる．
観光分野における，Web 上で公開されているソーシャ
ルメディアを用いた取り組みとして，Twitter や Flickr などのデータを分析することで得られた知見をもとに，観光スポットや観光ルートなどの観光情報を推薦する研究は既に行われている．しかし，多くの研究は，ある都市やある国などの比較的小さな範囲の中を対象としているため，世界中の国が対象となる海外旅行を考えている人への対応が不十分であると言える．そこで，本研究では，世界中の国を対象とし，旅行者が次に訪れる国を予測する．これにより，世界中を対象とした観光地推薦が可能になるほか，予測結果からライバルとなりうる国がわかることでお互いの国の観光政策に活かすことが可能になる．

本論文の構成は以下の通りである．まず，Ⅱ章では，本研究との関連研究として，ユーザが次に訪れる場所の予測についておよび国単位の推薦について述べる．次に，Ⅲ章では，機械学習を用いた旅行者の将来の訪問国の予測について述べる．また，Ⅳ章では，Ⅲ章で紹介した手法による実験について述べる．そして，最後にⅤ章で本論文のまとめを述べる．

II.

関連研究

本研究では，機械学習モデルの一つである深層学習手法を用い，旅行者の過去の訪問履歴を考慮することで，将来訪れる国の予測を行う．本研究と類似した研究として，位置情報を付加した投稿を共有するソーシャルメデ
ィア LBSNs (Location-Based Social Networks) を用いたユーザが将来訪れる場所の予測についての研究と国単位の推薦を行う研究について紹介する．
A. ユーザが将来訪れる場所の予測

Su ら[1]は，ユーザの訪問履歴に加えて，フレンド関係や家が近いユーザの訪問履歴を考慮した予測手法を提案している．Baraglia ら[2]は，ユーザの特徴と PoI (Point ofInterest) の特徴を考慮した 68次元のベクトルを作成し，これを入力とした機械学習モデルの SVM (Support VectorMachine) によって将来訪れる PoIを予測する手法を提案している．これらの研究は，将来の訪問国を予測する本研究と非常に類似しているものの，本研究では深層学習による予測を行うため異なる．
深層学習を用いた手法では，Liuら[3]は位置情報と時間情報を考慮した ST-RNN (Spatial Temporal Recurrent NeuralNetworks) モデルによる次の訪問地の予測手法を提案している．また，Kong ら[4]は，ST-RNN を拡張し，観光客の訪問地の周期性を考慮した HST-LSTM (Hierarchical SpatialTemporal Long-Short Term Memory) を提案している．これら

図 1. 本研究の提案手法の概略図の研究では，本研究と同様に深層学習を用いているものの，ある国や地域内のデータのため，比較的，連続的なユーザの訪問場所を予測しているのに対し，本研究では，より広い世界中の国を対象としている，かつより離散的なデータを対象としているため，本研究とは異なる．
B. 国単位の推薦

Majoddi ら[5]は，協調フィルタリングベースの手法で，移住を考えている人を対象とした移住国推薦システムを提案している．また，Johnson ら[6]は，観光客が気をつけるべき感染症の一つである腸チフスの危険性を可視化したシステムを構築している．この研究では，実際に公開されているデータをもとに，専門家の判断によって国や地域の危険度を可視化している．これら 2 つの研究に対し，本研究では，観光地情報の推薦を目指していることから異なると言える．
観光分野における国の推薦に関する研究はほとんど行われていない[7]．この要因として，まず，プライバシーの問題により，公開されている位置情報データが少ないこと，また，国境を超えた位置情報を集めることが困難なことが考えられる．この問題に対して，本研究では，既に Web 上に公開されているソーシャルメディアのデータを利用する方法を提案する．

III.

機械学習を用いた旅行者の将来の訪問国の予測本研究では，国の位置が情報に含まれるソーシャルメディアから構築したデータセットに対し，機械学習モデルを用いて旅行者が過去に訪れた国から将来の訪問国を予測するが，正確な予測を行うためには，それぞれの時系列に並んだそれぞれの国の特徴や旅行者の好みなどを考慮する必要がある．そこで，本研究では，時系列データの処理を長所とする深層学習モデルの LSTM[8]を用いて，様々な情報を考慮した予測手法を提案する．提案手法の概略を図 1 に示す． この図からわかるように，本研
究では，過去の訪問国履歴についての Wikipedia の情報，位置情報，公用語，旅行の時期および観光の特徴をそれぞれの LSTM 層に入力し，これらの出力結果を中間層で1

https://amano-tec.com/data/world.html

結合することで，正確な予測を目指す．中間層をそれぞれのデータに対して用意する手法は，柴田ら[9]が提案している手法と同じであるが，これは入力データごとに次元数が異なると，そのまま結合したときに次元数の小さい情報の影響が消えてしまう恐れがあるためである．これから，提案手法のそれぞれの入力データについて説明を行う．
まず，Wikipedia の情報について，本研究では，国の基本的な特徴量を獲得するため， Wikipedia の情報を用いる．
Wikipedia の情報の獲得には，Wikipedia2Vec[10]の事前学習モデルを利用する．Wikipedia2Vec とは，Wikipedia のデー
タを用いて，単語の分散表現とエンティティの分散表現を同一空間で学習・表現する手法であり，手軽にWikipedia の情報を利用することができる．本研究では，この Wikipedia2Vec の事前学習モデルを用いることで，それぞれの国や地域に該当するエンティティの分散表現を獲得し，これを国の基本的な特徴量として入力データに用いる．
次に，位置情報について，旅行者が将来訪問する国を決定する際に，滞在時間や移動費の制約などから，国の位置情報が非常に重要な決定材料になると考えられる．
そこで，実際に，世界最大の旅行ブログサイトの一つである TravelBlog 用いて，あるブログ著者の過去の訪問国を抽出し，得られたデータを位置情報に基づいて地図上にマッピングすることで，訪問国の可視化を行った．ある
ブログ著者におけるマッピングの結果を図 2 に示す．この例では，訪問した国を赤色の点で地図上にマッピングしているが，この図から訪問国が中国などの東南アジア地域に集中していることがわかる．この理由として，ブログ著者の居住国が関係していると思われるが，このような位置情報に特徴があるブログ著者が多く確認された．
このことから，本研究では，それぞれの国の位置情報を機械学習モデルの入力データに用いることで，過去の訪問国の位置情報を考慮した予測を実現する．国の位置情報の獲得手法については，アマノ技研が公開している「世界の首都の位置データ1」を用い，198か国の位置情

図 2. 訪問国の可視化結果の例
報を獲得する．また，そのほかの地域については，Python ライブラリの Geocoder2を用い，地域名を与えることで得られた位置情報を用いる．これにより，236 の国や地域の位置情報が得られた．
海外旅行では，母国を離れるため，母国語を使用できないことがある．そのため，旅行を計画する際には，母国語を用いて意思疎通が可能かどうか，世界の共通語である英語を利用することができるかなど，訪問先の言語情報は，訪問先を決定する際に非常に重要な情報となる．
そこで，本研究では，国の情報に，公用語を加えることでより正確な予測を目指す．公用語のデータを収集するにあたっては，各国の Wikipedia のページから公用語のデータを抽出し，これを入力データに加えることで実現する．
これまで述べた情報は，基本的にほとんど変化しない情報であるが，オリンピックや大きなお祭りなどの世界的なイベントが開催される時では，開催地付近への観光需要が，通常より大きくなることが予想される．そのため，正確な予想を実現するためには，旅行の時期を考慮する必要がある．旅行の時期については，それぞれの旅行ブログエントリから得られる投稿日を採用する．これにより，例えば，2016 年の 8 月にリオデジャネイロオリンピックが開催されているので，この時期の旅行者はブラジルを訪問する可能性が高くなる，といったように，ソーシャルメディアの投稿日を考慮することでより正確な予測を目指す．
最後に，それぞれの国で体験できる観光の特徴について，旅行者は観光の目的を持っていることが多いことから，その訪問先で体験できる観光の特徴は，訪問国の決定の際の重要な判断材料になると考えられる．そこで，
本研究では，柴田ら[9]で提案されている表Ⅰの観光の形
2

https://geocoder.readthedocs.io/態を用いる．柴田らは，大量の旅行ブログエントリを，スポーツツーリズムやグリーンツーリズムなどの観光の形態に分類することで，観光の形態に基づいた旅行ブログエントリの解析を行っている．本研究では，この解析手法を国や地域ごとの旅行ブログエントリに対して行うことで，例えば，アフリカ大陸のある国では，ほかの国に比べてグリーンツーリズムの割合が多くなることや，ある旅行者はスポーツツーリズムが好みであることなど，観光の形態という面での特徴量を獲得することができると考えられる．これより，本研究では，表 I の観光の形態に基づいた分類を，収集したデータセットに対して行い，国や地域の観光の特徴を考慮した予測を行う．

IV.

評価実験

A. 実験条件【実験に用いるデータ】
実験を行うにあたって，本研究では，ソーシャルメディアの一つである旅行ブログサイトからデータセットを構築する．旅行ブログサイトには，世界最大規模の旅行ブログサイトである TravelBlog を採用する．TravelBlog では，旅行ブログエントリを投稿する際にどこの国や地域についての記事であるかを投稿前にあらかじめ設定する場合があり，その場合，国や地域名が URL に反映される．
そこで，本研究では，旅行ブログエントリの URL から国名を抽出することで，データセットを構築していく．
世界の国の中には，例えば，アメリカでは本土以外にもアラスカ州やハワイ州などがあるように，地理的に離れている場合であっても同じ国であることがある．旅行者が訪問国を決定する際の重要な情報の一つに位置情報が考えられるが，このような場合では，位置情報を考慮

表 I 観光の形態の定義と具体例（柴田ら[9]より引用）
観光の形態
定義
例
インフラ，近代的な建造物や娯楽施設を対象にした 橋，ダム，テーマパーク，ショッピン
ハードツーリズム[11]観光．
グモール，水族館，博物館，動物園
心身を癒すことや散歩などの軽い運動を 宗教的巡礼，温泉，ハイキング，トレ
ヘルスツーリズム[12]通して健康維持を目的とした観光．
ッキング
スポーツを体験または観戦することを目 オリンピック，野球・サッカー観戦
スポーツツーリズム[13]的とした観光．
自然と触れ合うことを目的とした観光． 農業（漁業）体験，フルーツ狩り，ピグリーンツーリズム[14]クニック
世界遺産や歴史的な建築物を対象にした 世界遺産，国宝，寺，神社，城ヘリテージツーリズム[14]観光．
それぞれの地域の生活や文化，民族，伝 着物体験，神楽，祭り，初詣
カルチュラルツーリズム[15]統などを対象にした観光．
することが困難になる．そこで，本研究では，離れている地域を分けて扱うことで，位置情報を考慮する．具体的には，アメリカはアメリカ本土，アラスカ州，ハワイ州およびグアム島に分け，そのほかの国や地域は，TravelBlogの区分を採用する．
上記の要領における実験データの作成にあたっては，TravelBlogから 2002年 4月 5日から 2019年 1月 18日までに投稿された，約 500,000 件の旅行ブログエントリを収集した．また，収集した旅行ブログエントリの各 URL から国名および地域名を抽出することで，198 か国と 38 のそのほかの地域から構成される，アカウントごとの訪問国の時系列データセットを作成した．なお，本研究では，旅行者の過去の訪問国の履歴から次の訪問国の予測を行うため，各アカウントの訪問国の数がある程度必要となる．
また，アカウントによっては，例えば，「旅行 1 日目」，「旅行 2日目」のように，1度の旅行に対して，投稿を複数回に分ける場合が見られた．これらのことから，本研
究では，以下の 2 つの前処理を行い，実験データに用いた．
① 180 日以内に同じ訪問国についての記述がある場合，これらをまとめる．
② 8 カ国以上の訪問国履歴データが存在するアカウン
トに絞る．
表Ⅱ データセットの詳細
訓練データのアカウント数
5,121
6,402
評価データのアカウント数
1,281
訪問国数の平均（重複あり）
15.922
訪問国の種類数の平均（重複なし）
10.450
前処理後のデータセットの詳細を表Ⅱに示す．データ
セット構築の結果，TravelBlogから6,402個のアカウントのデータを収集し，80%（5,121）を訓練データ，残りの20%（1,281）を評価データとした．また，訪問国の重複を含む各アカウントの訪問国数の平均は 15.922，訪問国
3

http://wikipedia2vec.s3.amazonaws.com/models/en/2018-0420/enwiki_20180420_nolg_100d.pkl.bz2の重複を含まない各アカウントの訪問国の種類の数の平均は 10.450となった．
【機械学習】
表Ⅱのデータを用い，深層学習手法の LSTM の学習および評価を行った．また，プログラミング言語には，Python3 を用い，LSTM は深層学習フレームワークの Kerasによって実装を行った．パラメータについては，最適化アルゴリズムを Adam，バッチサイズを 2048，学習率を0.001，LSTM 層を 1 層とし，epoch 数および LSTM 層のユニット数を変化させることで調整を行った．
入力データに用いる Wikipedia2Vec の事前学習モデルには，英語で学習された 100 次元の事前学習モデル3を用いた．公開されている Wikipedia2Vec の事前学習モデルには，実験で用いる 100 次元のほかに，次元数が大きいモデルが存在する．しかし，次元数の異なるモデルを用いた予備実験を行ったところ，次元数による結果の変化がほとんど確認できなかった．そのため，本実験では最もモデルサイズが小さい 100 次元の事前学習モデルを実験に用いた．
【評価尺度】
それぞれの手法の有効性を検証するため，評価指標には，recall@k (k = 1, 5, 10, 20)を用いた．recall@kは，情報推薦の評価指標でよく用いられる手法であるが，本研究では正解が将来の訪問国の一つであるため，式 ( * ) と考えることができる．なお，本研究では，より結果をわかりやすく表示するため，百分率を用い，結果を算出した．

予測結果に正解が含まれる回数
予測回数

× 100

(*)

【実験手法】
本研究では，提案手法による実験の結果を算出することができていないため，途中段階として Wikipedia の情報，国の位置情報および旅行ブログエントリの投稿日を考慮した LSTMの実験結果までを報告する．比較手法は以下

表Ⅲ 旅行ブログエントリを用いた将来の訪問国予測の評価結果
recall@1
recall@5
recall@10
recall@20Random
0.44%
1.98%
4.28%
8.28%
Distance
1.20%
6.29%
10.94%
16.18%
N-gram (N = 2)
1.56%
Most Popular
3.32%
19.41%
32.62%
46.42%
LSTM(wiki)
21.02%
51.18%
66.46%
79.68%
LSTM(wiki + loc)
21.20%
51.17%
66.24%
79.65%
LSTM(wiki + loc + date)
21.36%
51.53%
66.70%
80.05%の通りである．なお，Random や LSTM では，毎回評価値が変わってくるため，100回の検証実験を行い，その平均を実験結果として報告した．
比較手法
l Random: ランダムに生成した予測結果で評価を行う．
なお，毎回結果が変わるため，100 回の検証を行い，平均値を結果とする．
l Distance: 訪問国履歴データから，最後に訪れた国で最も近い距離にある国を予測する．距離の計算には，Python ライブラリの GeoPy4を用い，それぞれの国や地域間の距離を求める．
l N-gram (N = 2): 訓練データに対し，N-gram モデルを構築することで確率的に将来の訪問国を予測する．今回はデータセットのサイズを考慮し，bi-gram での実験を行う．
l Most Popular: 訓練データで最も頻出した国から予測する．上位 20か国は，アメリカ，イギリス，タイ，オーストラリア，フランス，イタリア，ドイツ，スペイン，中国，ニュージーランド，カナダ，アルゼン
チン，ベトナム，マレーシア，カンボジア，インド，ペルー，チリ，ラオス，インドネシアの順であった．
l LSTM(wiki): それぞれの国や地域のエンティティの分散表現を Wikipedia2Vec の事前学習モデルから獲得し，これを入力データとした LSTM により予測を行う．
LSTM層のユニット数は 300，epoch数は 40とする．
l LSTM(wiki + loc): LSTM(wiki)を拡張し，それぞれの国や地域の位置情報を入力データに加えた LSTM により予測を行う．国や地域の位置情報に対応する
LSTM層のユニット数は 100，epoch数は 50とする．
l LSTM(wiki + loc + date): LSTM(wiki + loc) を拡張し，旅行ブログエントリの投稿日を入力データに加えた
LSTM により予測を行う．旅行ブログエントリの投稿日に対応する LSTM層のユニット数は 50，epoch数は 40とする．
B. 実験結果と考察

実験結果を表Ⅲに示す．これより，評価値 recall@k (k =1, 5, 10, 20) において，Wikipedia2Vec，国の位置情報および旅行ブログエントリの投稿日を考慮した LSTM(wiki + loc +date) でそれぞれ最も良い値，21.36%，51.53%，66.70%および 80.05%が得られた．また，LSTM を用いた手法は，そ4

https://geopy.readthedocs.io/のほかの手法と比較し，全ての評価指標で高い値が得られた．このことから，過去の訪問国の履歴データから将来の訪問国を予測する際に LSTM を用いることは有効であると言える．
表Ⅳ 日本とアメリカに対して類似度が高い国や地域
日本
アメリカ国，地域
類似度
国，地域
類似度
台湾
0.781
イギリス
0.673
中国
0.756
ドイツ
0.605
韓国
0.754
カナダ
0.595
香港
0.672
メキシコ
0.587
モンゴル
0.672 オーストラリア 0.586
LSTM(wiki)と位置情報を加えたLSTM(wiki +loc)について
は，recall@1では LSTM(wiki + loc) が上回っているものの，そのほかの評価指標では LSTM(wiki) の方が高い値となっており，大きな改善が確認できなかった．この理由として，位置情報から得られる特徴量と Wikipedia2Vec の事前学習モデルから得られる特徴量が似ていることが考えられる．そこで，実際に，Wikipedia2Vec の事前学習モデルを用いて，アメリカと日本に対してそれぞれの国や地域とのコサイン類似度を計算した結果を表Ⅳに示す．これは，類似度が高い国や地域の上位 5 つである．日本と類似度が高い国や地域には，東南アジアの国や地域が並んでいる．そのため，Wikipedia2Vec から得られる特徴量と位置情報から得られる特徴量が似ていることが考えられる．これに対して，アメリカの場合では，位置情報が近い国のほかに，イギリスやオーストラリアなどが含まれている．この場合，位置情報と Wikipedia2Vec の事前学習モデルは，必ずしも近い特徴量となっているとは言えない．これらのことから，アメリカのような Wikipedia2Vecと位置情報の特徴量の類似が見られない場合では，位置情報を加えることで結果が改善していることが考えられるが，日本のような Wikipedia2Vec と位置情報の特徴量の類似が見られる場合では，国や地域によっては位置情報を加えたことの効果が少ないことが大きく改善が見られなかった原因の一つであると推測される．

V.

まとめ

本研究では，旅行者の過去の訪問履歴を用い，Wikipedia の情報，国の位置情報，公用語，旅行の時期および観光の形態を考慮した，将来の訪問国の予測手法を提案した．旅行ブログエントリを用いた 実験では，Wikipedia の情報，国の位置情報および旅行ブログエントリの投稿日を考慮した深層学習モデルの LSTM で，ほかの比較手法より良い評価値が得られた．また，LSTM を用いた手法はそのほかの比較手法より高い値が得られた．
今後は，それぞれの国や地域の公用語と観光の形態の特徴を入力データに加えた LSTM で実験を行い，ベースライン手法との比較を行う予定である．また，ベースライン手法については，協調フィルタリングなどの手法を追加し，提案手法の有効性を調査することを検討している．
参考文献[1] Yijun Su, Xiang Li, Wei Tang, Ji Xiang, and Yuanye He, “Next Check-inLocation Prediction via Footprints and Friendship on Location-Based Social
Networks,” Proc. of 19th International Conference on Mobile Data Management(MDM’18), pp.251-256, 2018.
[2] Ranieri Baraglia, Cristina Ioana Muntean, Franco Maria Nardini, and Fabrizio
Silvestri, “LearNext: learning to predict tourists movements,” Proc. of 22ndACM
international conference on Information & Knowledge Management(CIKM’13), pp.751-756, 2013.
[3] Qiang Liu, Shu Wu, Liang Wang, and Tieniu Tan, “Predicting the next location:
A recurrent model with spatial and temporal context,” Proc. of 30th AAAI
Conference on Artificial Intelligence (AAAI-16), pp.194-200, 2016.
[4] Dejiang Kong and Fei Wu, “HST-LSTM: A Hierarchical Spatial-Temporal
Long-Short Term MemoryNetwork for Location Prediction,” Proc. of 27th
International Joint Conference on Artificial Intelligence (IJCAI-18), pp.23412347, 2018.
[5] Ayoub EL Majjodi, Mehdi Elahi, Nabil EL Ioini, and Christoph Trattner,“Towards Generating Personalized Country Recommendation,” Proc. of 28th
ACM Conference on User Modeling, Adaptation and Personalization (ACM
UMAP 2020), pp.71-76, 2020.
[6] KatherineJ.Johnson,NancyM.Gallagher,EricD.Mintz,AnnaE.Newton,GaryW. Brunette, and Phyllis E. Kozarsky, “From the CDC: new country-specificrecommendationsforpre-traveltyphoidvaccination,”JournalofTravelMedicine
2011, Vol.18, pp.430-433, 2011.
[7] Kwan Hui Lim, Jeffrey Chan, Shanika Karunasekera, and Christopher Leckie,“Tour Recommendation and Trip Planning using Location-based Social Media:
A Survay,” Knowledge and Information Systems, Vol.60, No.3, pp.1247-1275,
2018.
[8] Sepp Hochreiter and Jürgen Schmidhuber, “LONG SHORT-TERM
MEMORY,” Neural computation, 9(8): 1735-1780, 1997.
[9] 柴田有基，篠田広人，難波英嗣，石野亜耶，竹澤寿幸，「観光の形態に基づいた旅行ブログエントリの自動分類と可視化」，観光と情報，Vol.16，No.1，pp.49-61，2020．
[10] Ikuya Yamada, Akari Asai, Jin Sakuma, Hiroyuki Shindo, Hideaki Takeda,
Yoshiyasu Takefuji, and Yuji Matsumoto, “Wikipedia2Vec: An Efficient
ToolkitforLearningandVisualizingtheEmbeddingsofWordsandEntitiesfrom
Wikipedia,” arXiv preprint 1812.06280v3, 2020.
[11] 藤井千賀子，茂木直美，林由利子，柳沼しほ，「インフラツーリズムガイド 2018」，芸文社，2018．
[12] 河行茜，木下藤寿，「島根おおだ健康ビューローの取り組み」，生涯スポーツ実践研究年報:鹿屋体育大学生涯スポーツ実践センター所報， Vol.17，pp. 28-35，2019．
[13] 高橋義雄，原田宗彦，岡星竜美，工藤康宏，二宮浩彰，松岡宏高，山下玲，青木淑浩，「スポーツツーリズム・ハンドブック」，学芸出版社 ，2015．
[14] 山下晋司，「観光学キーワード」，有斐閣 ，2011．

[15] 後藤和子，「観光と地域経済 −文化観光の経済分析を中心に−」，地域経済学研究，Vol.34，pp.41-47，2018．

問い合わせ先〒731-3194
広島市安佐南区大塚東 3丁目 4番 1号
広島市立大学大学院情報科学研究科知能工学専攻
柴田 有基