1.   はじめに
近年，親光は従来の娯楽を迫求するのみだけではなく，様々な形態が誕生し，現在もその多様化は進んでいる．例えば，健康回復や維持，増進につながる親光はヘルスツーリズム，スポーツを体験または親戦することを目的とした親光はスポーツツーリズムと呼ばれる．旅行プログにおいて，このような親光の形態の自動判定が実現すれば，世界各地の親光地でどのような形態の親光が可能か調べることができる．また，特定の形態に基づいた親光地の推薦や旅行計画も可能になると考えられる．そこで本研究では， 9種類の観光の形態を定義し，機械学習を用いて旅行プログエントリをこれらの観光の形態に自動分類する手法を提案する.ある親光地における旅行者の情報を知るための従来の方法の一つに，旅行者に対して直接アンケートを実施する方法がある．アンケートでは，知りたい情報に関する質問を用意することで，欲しい結果が手に入りやすいというメリットがあるが，多くの時間やコストがかかるというデメリットも存在する．そこで，近年，TwitterなどのSNSやWeb上で公開されている旅行記,すなわち旅行プログエントリを収集・分析するという方法が広まりつつある．特に，旅行プログエントリには，各親光地における体験談や写真など，詳しくまとまった情報を持つものが多いことから，本研究では旅行プログエントリを分類の対象に分析を行う．本論文の構成は以下の通りである。 2章では，本研究に関する関連研究について述べる．３章では，親光の形態の定義，自動分類の方針について述べる．４章では，実験内容とその結果，考察について述べる．５章で本論文をまとめ，６章で今後の課題について述べる．
2. 関連研究
本研究では，テキスト情報と画像情報，テキストに含まれる単語に関するWikipediaの情報を用いて，旅行プログエントリを親光の形態に基づいて自動分類するが，これまでにもTweetやプログエントリなどを対象とした分類や属性推定の研究は行われている.テキストを用いた研究について，Gootら[1]は，ツイートのテキストを抽象的な内容に置き換えたもので性別予測を行う手法を提案している．これにより，語彙に依存しなくなることで言語横断な性別予測を可能にしている.文書分類に用いる手法として，lyyer[2]らは，文書に含まれる単語を，Word2vecを用いてベクトルに変換し，それらを平均したものを分類に用いる手法 DAN(Deep Averaging Networks)を提案している. DANの概略図を図2.1に示す．この図では，“Predator is a masterpiece”のそれぞれの単語を赤い四角で表現されているベクトルに変換し，それらのベクトルを次元ごとに平均することで，緑の四角で表現されている新たなペクトルを生成する．この緑のベクトルをいくつかの層で処理し,最後のsoftmax層で判定する。この手法の特徴は，単純で理解しやすい上,計算時間が短く，精度が高いことである．本研究では，分類器を構築するにあたって，このDANを用いる.図2.1: DANの概略図(lyyer[2]より引用)画像を用いた研究について，鈴木ら[3]は，宿泊施設が宿泊予約サイトに掲載する自施設の写真を選定する際に参考となる知見を得るために，宿泊予約サイトに登録されている画像をGoogle Cloud Vision API¹を用いて分析している。なお，本研究も同様にGoogle Cloud Vision APIを用いて，物体検出を行う．テキストと画像を用いた研究について，三條ら[4]は，料理レシピの画像特徴とテキスト特徴から人気を予測するための深層学習アーキテクチャを提案している．テキストと画像を考慮する点や分散表現についてはDANを用いていることなど類似点が多くあるが、本研究では画像認識技術による物体検出を利用している点に対し，三條らは， CNN(Convolutional Neural Network)を用いて特徴を得ているので異なると言える．また，テキストと画像に加えて本研究では，Wikipediaの情報を用いる点でも異なる．親光に関するカテゴリ別の文書分類について,野沢ら[5]は，訪問ツイートを「親光」「ビジネス」「食事」「購買」の４つのクラスに自動分類する手法を提案している.また,藤井ら[6]は，旅行プログエントリを「買う」「食べる」「体験」「泊まる」「見る」に分類する手法を提案している．これらの分類の親点は，旅行者の行動，つまり旅行者が何をやっているのかに基づいたものである．本研究で実施しようとしている「親光の形態」に着目した分類と関連性はあるものの,基本的には別の親点であると考えられる.また,藤井らの分類手法に加えて，本研究で提案する親光の形態に基づく分類が可能になれば,「カルチュラルツーリズム」で「食べる」に関する情報を調べる，といったように，よりきめ細かい検索が可能になると考えられる.
観光の形態に基づいた旅行プランの自動生成
3.
本研究では，旅行プログエントリからプログ著者の観光の形態を自動判定することを目的とする．情報源として，旅行プログエントリが登録されている TravelBlog²を利用する. TravelBlogとは，旅行プログエントリをメインとした海外のWebサイトであり，世界各国に関する旅行プログエントリが写真とともに掲載されている．本研究では，英語で書かれた旅行プログエントリのテキストと画像を対象に分析する.
3.1.観光の形態の定義
親光の形態には厳密な定義はないため，使用者によって異なる解釈で用いられる場合がある．本研究では，それぞれの観光の形態に対して，過去の文献[7-11]を参考に独自に定義した．親光の形態とその定義，またその具体例を表3.1に示す.本研究では，表3.1の9種類の親光の形態に基づいて旅行者の親光の形態を明らかにするため，個々の英語で書かれた旅行プログエントリを自動分類する.現在，親光の形態は独自に定義した9種類以外にも多く存在する．しかし，今回は分類をする上で有用であると思われ，かつある程度自動分類が可能であろうと思われる9種類とした.
観光の形態に基づいた旅行プログエントリの
8.2.
自動分類
本研究は，3.1節で示した親光の形態に基づいて，旅行プログエントリを自動分類する．本節では，3.2.1節で自動分類の方針，3.2.2節で機械学習を用いた旅行プログエントリの自動分類について説明する.
3.2.1.自動分類の方針
自動分類の基本的な方針として，各旅行プログエントリ中のテキストと画像，テキストに含まれる単語に関するWikipediaの情報を解析し，それらの結果を用いて「親光の形態」を自動分類する．まず，具体的なテキスト解析による分類の例を図3.1に示す。これは岐阜県の「白川郷」を訪れた外国人の方が書いたプログの一部である.プログのテキストから“UNESCO Heritage Site”という単語が見られるため、これは「ヘリテージツーリズム」であると考えられる. The Shirakawa-Go village is not a very big place as I soon found out after bussing my way to the viewing図3.1:テキスト解析による分類の例ここで，テキストを対象にした場合，もしプログエントリ中に「スキー」という表現が存在しても「スキーをしたかったけどできなかった」という記述であれば，プログ著者は実際にスキーをしているわけではない．これに対し，スキーの画像がプログエントリ中にあれば，プログ著者は
確実にスキーをしていると判断できる.図3.2はスキーをしたと思われる親光客が書いたプログエントリに含まれる画像をGoogle Cloud Vision APIで解析した例である. Google Cloud Vision APIの解析結果を見ると，赤字に示す通りスキー関係の用語が並んでおり，この画像だけでスキーをしているとわかることから，この旅行プログエントリは「スポーツツーリズム」であると判断できる．このように，プログエントリを分類する際には，テキスト情報に加えて画像情報も分類の際に重要な情報になると考えら人手で分類を行う際に根拠となる情報源は，上記で述べたテキストや画像のどちらかとなるが，旅行プログエントリの内容によっては，テキストや画像から読み取ることができたモノに関する外部知識が必要になることがある．図3.3に外部知識が必要な例を示す.これは，奈良県の「東大寺」を訪れた外国人が書いたプログの一部である．このプログを親光の形態に分類する場合,「東大寺」が世界遺産のため,「ヘリテージツーリズム」となる.しかし,図いう情報がないため，これを正しく「ヘリテージツーリズム」と判断するには，外部知識が必要になると考えられる．これについては, Google Cloud Natural Language API 3を利用する.  Google Cloud Natural Language APIでは，テキストをAPI経由でクラウドに送ると，形態素解析，構文解析，固有表現抽出に加え，Wikification[12, 13]と呼ばれる，Wikipediaの関連エントリとのリンク付けも行われることから，リンク先のWikipediaの該当ページから東大寺が世界遺産であるという情報が得られると推測される．そこで，本研究では，旅行プログエントリに含まれるテキストと画像中の物体に加えて，外部知識としてテキストにリンク付けされたWikipediaの情報を与えることで，より特度の高い分類の実現を目指す. We did an afternoon 1/2 Day tour of Nara near Kyoto and we went to Todaiji Temple (the largest wooden structure in the world housing the Japan's largest bronze Buddha), Nara Park (with the deer) and Kasuga Taisha shinto shrine, with lots of stone lanterns. “Todaiji Temple”(東大寺)が世界遺産であるという外部知識を与える必要がある→ Google Cloud Natural Language APIの利用図3.3:外部知識が必要な例3 https://cloud.google.com/natural-language/?hl=j a
3.2.2.機械学習を用いた旅行プログエントリの自
動分類
本研究では，まず，分類対象のプログエントリに含まれる画像に対し，画像認識技術を用いて物体検出する．次に，テキストに含まれる単語に対し，リンク付けされたWikipediaのabstractに含まれる単語を抽出する．なお, abstractには，Wikipediaの最初の段落の内容が記述されている．そして，物体検出の結果として得られた単語集合とWikipediaのabstractから得られた単語集合，プログエントリのテキストを入力とし，DANを用いて分類器を構築する．分類器の概略図を図 3.4 に示す．本研究では，図3.4のように旅行プログエントリ中のテキストと画像, Wikificationによってリンク付けされたWikipediaの該当ページのabstractに含まれる単語集合のそれぞれの入力ごとに処理をし，最後に統合することで分類を行う形式とする.親光の形態には様々な種類があるが，地域によって過去の歴史や土地柄などの理由から，偏りがあると推測される.例えば，広島県廿日市市では世界遺産の「叢島神社」が有名であることから，親光の形態の一つである「ヘリテージツーリズム」が多くなると考えられる．こうした情報を明らかにすることにより，各訪問地の特徴を活かした観光施策を行うことができると思われる．また，世界遺産の「日光の社寺」がある栃木県日光市も同様の傾向になるようであれば，似た親光地同士で親光施策を参考にできることも期待される.
実験
4.
本実験で使用する旅行プログエントリでは，３章で述べたTravelBlogのテキストデータと画像データを用いる.
4.1. 天敗条件
【実験に用いるデータ】
2,017件の旅行プログエントリを実験に用いた．各プログエントリに対し，親光の形態9種類のカテゴリに人手で分類し，これらを機械学習の際の訓練用および評価用データとして用いた.人手で分類した結果の内訳を表4.1に示す。なお，一つの旅行プログエントリには複数の親光の形態が付与されることや逆に一つも付与されないこともありうるという設定にしているため，９つの件数の総和か2,017より小さくなっている．また，表4.1からわかるように親光の形態によっては，プログ件数に偏りがある．そこで本実験では，比較的プログ件数が多い表4.1中の親光の形態1, 2, 5, 6, 7, 8のデータで分類実験を行う.
【英訳条件】
単語の分散表現には，Google Newsを対象にWord2vecを用いて獲得された300次元のモデル4を用いる.画像認識には，3.2.2節で説明したGoogle Cloud Vision APIを用いる. DANでは，入力データの前処理としてあらかじめstopwordを削除したものを用いる.
【評価尺度】
実験では，５分割交差検定を行い，評価尺度には，精度・再現率・F値を用いる。また，これらを算出するにあたって，親光の形態ごとのデータ件数の偏りを考慮するため， micro平均を採用する．また，本研究では，多クラス分類を行う方法として，それぞれの観光形態での2値分類を拡張することで実現する.
本実験では，以下に示す2種類の提案手法と6種類のベースライン手法で実験を行った．なお，入力データについて，“(txt)”はテキストに含まれる単語集合を，“(img)”は画像から物体検出の結果として得られた単語集合を, “(wiki)”はテキスト中の単語に関するWikipediaのabstractに含まれる単語集合を，“(txt+img)”は“(txt)”の入力データに“(img)”の入力データを加えたものを, “(txt+img+wiki)”は“(txt+img)”の入力データに“(wiki)”の入力データを加えたものを意味する.提案手法DAN(txt+img)：２つの入力データそれぞれに対し、 . Word2vecを用いて300次元のベクトルに変換し, DANを適用した分類器で分類を行う．パラメータについて，epoch数は100とする． DAN(txt+img+wiki) : 3つの入力データそれぞれに.対し, Word2vecを用いて300次元のベクトルに変換し，DANを適用した分類器で分類を行う．パラメータについて，epoch数は100とする.
ベースライン手法
fastText(txt) : fastText[14]とは，Facebookが提供す.る単語のペクトル化とテキスト分類をサポートした機械学習のライプラリである。計算時間が短い上，精度が高いという特徴がある．パラメータについては, Word2vecの次元数は300,  epoch数は100, 単語はuni-gramとする. . SVM(txt)：カーネル関数については，RBFカーネルを用いる。また，ソフトマージンのパラメータCについては，C=10とする． .ランダムフォレスト(txt) :入力データ中の異なるデータで決定木を複数活用し,多数決をとることで分類を行う手法.パラメータについて，決定木の数は10とする. . DAN(txt)：テキストに含まれる単語集合に対し、 Word2vecを用いて300次元のベクトルに変換し, DANを適用した分類器で分類を行う．パラメータについて，epoch数は100とする． SVM(img)：カーネル関数には，RBFカーネルを用.いる。また，ソフトマージンのパラメータCについては，C=100とする． . DAN(img) :物体検出の結果として得られた単語集合に対し, Word2vecを用いて300次元のベクトルに変換し，DANを適用した分類器で分類を行う．パラメータについて，epoch数は100とする. . DAN(wiki) :テキスト中の単語に関する Wikipediaのabstractに含まれる単語集合に対し、Word2vecを用いて300次元のベクトルに変換し，DANを適用した分類器で分類を行う．パラメータについて，
epoch数は100とする.
4.2. 実験結果と考察
4.1節で説明したそれぞれのベースライン手法と提案手法による実験結果を表4.2に示す. これより，精度では画像を考慮したSVMで最も高い値0.760を得ている．しかし，再現率が0.165と極端に低いため，取りこぼしているものが多いことがわかる．再現率については，テキストを考慮したDANで最も高い値0.398を得ている．Ｆ値については，提案手法のテキストと画像を考慮したDANで最も高い値0.440を得た.
テキストのみを考慮したほうが高くなったが，テキストと画像，Wikipediaの3つの入力データから，用いるデータの数を増やしていくことで徐々に精度が上がっていき，3つの入力データ全てを考慮した分類が最も高い精度であることがわかる．そこで，実際に DAN(txt)では分類できなかったが，DAN(txt+img)では分類できた例を図4.1に示す。これは北京の「天壇」という世界遺産を訪れた旅行者のプログの一部である．世界遺産を訪れていることから， 「ヘリテージツーリズム」であるが，テキストのみでは世界遺産という情報もないためか正しく分類されなかった.しかし，画像を含めた場合，画像に対する物体検出の結果から“temple”をはじめ，多くの世界遺産と関連があると思われる単語が並んでいる.よって,それが根拠となり,このプログエントリは「ヘリテージツーリズム」と判定されたと考えられる.図4.1:画像解析結果を加えることで正しく分類できたプログエントリの例次に， DAN(txt+img)では分類できなかったが, DAN(txt+img+wiki)で分類が成功したプログの一部を図4.2に示す.プログのタイトルから,カリフォルニアやラスベガスを観光し，その内容の中で，赤字で示すように“Disneyland”を訪れていることがわかる． “Disneyland”はテーマパークであることから，表3.1の例にもあるように「インフラ,ハードツーリズム」と言える.しかし,このプログエントリに含まれる総単語数909に対し, “Disneyland”の単語は図4.1中にもある2回しか出現しておらず，“Disneyland”の内容が記述されている箇所の単語数は62と少なかった.また，画像解析の結果からもテーマパークを示唆するような単語が含まれなかった．そこで, Google Cloud Natural Language APIによるWikification の結果を見てみると, 赤字で示す“ Disneyland”やそのアトラクションの一つである“It’s_a_Small_World”が含まれることから,根拠となる情報が増えたことで正しく分類できたと考えらえる.図4.2: Wikipediaの情報を加えることで正しく分類できたプログエントリの例
5.
おわりに
本研究では，プログエントリ中のテキストと画像，テキストにリンク付けされたWikipediaの情報を考慮し,旅行プログエントリに対して，定義した9種類中の6種類の観光の形態に自動分類する手法を提案した．画像に対しては， Google Cloud Vision APIを用いて，画像中に含まれる物体を検出し，その結果を分類の茶性に用いた．また， Wikipediaの情報に対しては，Google Cloud Vision APIの解析結果を用いてリンク付けを行い，リンク先のWikipediaのabstractに含まれる単語集合を分類の素性に用いた．実験の結果，提案手法のテキストと画像を考慮したDANについて，精度ではベースライン手法の画像を考廊したSVMに0.175ポイント劣るものの，Ｆ値では最も高い値0.440が得られた．また，ベースライン手法，提案手法に用いたそれぞれのDANに注目すると，提案手法のテキストと画像,テキスト中の単語に関するWikipediaの情報を考慮したDANでは,テキストのみを考慮したDANに比べて精度が0.120ポイント上昇した．また，画像のみを考慮したDANと比較すると，精度が0.095ポイント上昇した．これらのことから，複数の入力データを考慮した
提案手法の有効性が示されたと考えられる.
今後の課題
6.
本研究では，機械学習を用いて，旅行プログエントリを対象に親光の形態に基づいた自動分類を行った．分類器にはDANを用い，茶性には人手で分類した正解ラベルとテキスト，画像に対しての物体検出の結果，テキストからリンク付けされたWikipediaの情報を使用した．DANについては，分散表現で表された各単語の平均を文書のベクトルとして分類に用いるという単純な構造であるため，今後語順や各単語の出現回数などを考慮することで更なる精度向上が期待できる.
考
文
$
[1] Rob van der Goot, Nikola Ljubesic, Ian Matroos, Malvina Nissim, and Barbara Plank, "Bleaching Text: Abstract Features for Cross-lingual Gender Prediction," in Proceedings of the Association for Computational Linguistics(2018). [2] Mohit Manjunatha, lyyer, Varun Jordan Boyd-Grader, and Hal Daume, "Deep Unordered Composition Rivals Syntactic Methods for Text Classification," in Proceedings of the Association for Computational Linguistics (2015). [3]鈴木祥平，湯舟佑樹，宮坂涼，倉田陽平，“宿泊予約サイトにおいて夜間写真の果たす役割とは、”親光情報学会第15回研究発表会講演論文集，17-20(2017). [4]三條智史，桂井麻里衣，“画像特徴とテキスト特徴に基づく料理レシピの人気予測,”第10回データ工学と情報マネジメントに関するフォーラム(2018). [5]野沢悠哉，遠藤雅樹，江原遥，廣田雅泰，横山雅平，石川博，“マイクロプログを用いたユーザの訪問目的と動向の推定,”第８回データ工学と情報マネジメントに関するフォーラム(2016). [6]藤井一輝,難波英嗣,竹澤寿幸,石野亜耶,奥村学,倉田洋平，“旅行者の行動分析のための旅行プログエントリの属性推定,” 親光と情報, Vol.13, No.1, 83-96 (2017). [7]山下晋司, “親光学キーワード,”有斐閣(2011). [8]井出明, “ダークツーリズム拡張一近代の再構築,” #術出版社(2018). [9]藤井千賀子, “インフラツーリズムガイド2018,”芸文社(2018). [10]岡本充鶴, “聖地巡礼”中央公論新社(2015). [11]中島真美, “カルチュラル・ツーリズムによる「住民参加型開発」の有効性,”第8回親光に関する学術研究論文入選論文集, 1-17(2002). [12] Davaajav Jargalsaikhan,岡崎直親,松田赫史,乾健太郎，“日本語Wikificationコーパスの構築に向けて,”言語処理学会第22回年次大会, 793-796(2016). [13] Rada Mihalcea and Andras Csomai, "Wikify!: Linking documents to encyclopedic knowledge,” in Proc. of CIKM, 233–242(2007). [14] Armand Joulin, Eduard Grave, Piotr Bojanowski, and Tomas Mikolov, "Bag of Tricks for Efficient Text Classification," arXiv:1607.01759v3 [cs.CL](2016).