人工知能学会 インタラクティブ
情報アクセスと可視化マイニング研究会(第23回)
SIG-AM-23-05

階層的トピックモデルに基づく宿泊レビューの時間変化分析
Time-Variable Analysis of Acoommodation Reviews
Based on Hierarchical Topic Model佐藤 裕次郎山西 良典
西原 陽子 ∗Yujiro Sato1
Ryosuke Yamanishi2
Yoko Nishihara2
立命館大学大学院情報理工学研究科
Graduate School of Information Science and Engineering, Ritsumeikan University
2
立命館大学情報理工学部
2
College of Information Science and Engineering, Ritsumeikan University
1

1

Abstract:
Accommodation review is a valuable resource for future users to know the voices from the users
who have already stayed there. However, it is diﬃcult for users to extract the information specificto each topic such as facilities, access, and breakfast. We consider that seasonal features of accommodation are especially important for comfortable and enjoyable staying. This paper proposes thehierarchical topic analysis with time variation to extract seasonal features for accommodations.
The proposed method extracts seasonally important words and shows the similarity of topics thatthe important words belong to between seasons. In this paper, we discuss the eﬀectiveness of theextracted features for references to choose accommodations.

はじめに域では，各季節で衣食住の様子や人気の旅行先は異なる．また，近隣で開催される季節ごとのイベントなど宿泊予約の主流がネットになったことで，インターによっても各宿泊施設の価値は大きく変化する．宿泊
ネット上の情報をもとに宿泊施設を決定する能力が宿レビューに含まれる季節的な特徴を抽出して提示する
泊検討者に必要とされるようになった．宿泊施設の決ことで，宿泊検討者は宿泊する予定の季節の情報を元定要因となる要素は様々であり，ユーザによって基準はに宿泊先を決定することができる．
異なるものの，Dickinger らの研究によると，友人から本稿では，宿泊施設の各月のレビューから重要度のの推薦とオンラインレビューがネット予約において最高い単語を抽出するとともに，その重要単語を含む階も重要な影響を与える要因であると示されている [1]． 層型のトピックを，月間で比較することによって，宿その中でも宿泊レビューは幅広く研究されており，テキ泊施設の季節的な特徴を分析する手法を提案する．テストマイニングによる分析結果を意思決定に役立てる
キストマイニングにおいて文書内の名詞に与える代表研究が進んでいる．Vermeulen らの研究によると，宿的な特徴量として tf − idf 法による値があり，文書分
泊レビューのポジティブな意見，あるいは，ネガティ類や機械学習の素性として用いられる [3]．本研究ではブな意見でさえも宿泊施設へ注目を集める効果があり， 名詞に月別の tf − idf 値を付与することで，季節の特消費者の意思決定を促進するとされている [2]．加えて徴語の抽出を行う．宿泊施設の特徴抽出では，消費者同じ研究では，ポジティブな意見は消費者の宿泊施設の欲しい情報を的確に明示するためには “食事” や “風への態度や行動を改善するために役立つとされており， 呂” など，カテゴリーの存在は考慮しなくてはならな
宿泊レビューは消費者にも提供側にも貴重なリソース
い [4]．カテゴリーによっては季節に応じて特徴が変化と言える．
し，消費者の決定要因となるかどうかも変化する．提宿泊レビューにおける消費者の意思決定要因を考え案手法では，カテゴリーの取得にトピックモデル（潜在る際に，本研究では宿泊レビューで時間的に変化する的意味解析）を用いる．トピックモデルの一つに LDA
特徴に着目した．季節によって大きく気候が変わる地（Latent Dirichlet Allocation） [5] という教師なし学習手法がある．この手法では，ある文章は複数のトピッ∗ 連絡先：〒 525-8577 滋賀県草津市野路東１−１−１クを持つと仮定し，そのトピックを抽出することを目E-mail:{is0309he@ed,ryama@media,nisi-1

hara@fc}.ritsumei.ac.jp

ー 26 ー人工知能学会 インタラクティブ
情報アクセスと可視化マイニング研究会(第23回)
SIG-AM-23-05

的としている．宿泊レビューに対し LDA を使った分析に，Han らの先行研究がある [6]．この研究では，宿泊施設レビューのトピック分析により感情と評価の関係を抽出することに成功している．また，LDA の拡張手法に hLDA(hierarchical Latent Dirichlet Allocation) がある [7, 8]．hLDA では文書中に含まれるトピックに階層構造が存在すると仮定し，トピックを確率的に推定する技術である．宿泊レビューの特徴について，Wang らの先行研究 [9] では，レビューのトピック分析から潜在的な意見・評価を得る Latent Aspect Rating Analysis(LARA) という問題が定義されている．LARA からも，観点の多さは宿泊レビュー特有の特徴とも言える．観
点や評価属性を，カテゴリーとして考えると，宿泊レビューのカテゴリーの中には包含関係が存在する．例
えば “食事” に関しての評価の中には，“食事の値段”や “食事の質” などより詳細な情報が含まれる．本稿では，hLDA を用いた分析によって宿泊レビューのトピックの包含関係が抽出できると仮説を立て，その結果と tf − idf 法により抽出した重要単語を用いた宿泊レビューの時間変化分析を行う．

図 1: 分析手順のフレームワーク．図中，3 章に示した分析手順番号を肩文字として示す．
しているため，それ単体で意味のわからない名詞，日にちや記号に関してはストップワードとして扱い，分析から除外する．さらに，hLDA の結果の収束を良くするために，出現回数 3 回以上の名詞のみを使用する．

3分析データ2

本稿では，楽天トラベルのレビュー 5,082,427 件のユーザの声を用いる1 ．使用するレビューデータは 1996年から 2016 年の間に収録されたものであり，29,400 件の宿泊施設に対してのレビューが存在する．本研究の分析では統計的な見地を導出するため，宿泊施設の中でもレビュー数上位 10%の宿泊施設を分析に使用する．
本稿では，このうちレビュー数上位 10%の宿泊施設からランダムに選出した以下の 2 件の宿泊施設を今回の分析対象とした．

提案手法では，宿泊施設の潜在的なトピック分析として hLDA，季節の特徴抽出に tf − idf 法を用いる．
この 2 種類の手法により宿泊レビューに存在する季節の潜在的トピックの階層構造での抽出を行う．時間変化分析として，抽出された季節の特徴が他の月でどのようにクラスタリングされているかを考察し，季節の特徴語の変化，トピックの移り変わりを分析する．抽出と考察は，以下の手順（図 1 の添字番号を参照）に沿って行う，

1. 粟津温泉 旅亭懐石 のとや

1. レビューの分かち書きの際に形態素解析器 MeCabと辞書に NEologd を用いて出現した名詞を取得する.

2. シーサイドホテル舞子ビラ神戸
これらの宿泊施設のレビューを月別に分割し，一つの宿泊施設につき 12 個の文書集合を入力データとして扱う．

2.1

hLDA と tf − idf 法を用いた季節に存在する潜在的なトピック分析

2. Bag-of-Words モデルに基づき出現した名詞のベクトル化を行う．
3. 作成したベクトルを入力し，hLDA で潜在的なトピックを階層構造でクラスタリングする．

分析対象とする単語自然言語処理の前処理の重要性は広く知られている．
ストップワードや分析する内容に応じた品詞の絞り込みは，分析の精度向上につながる．
本稿では，宿泊施設の特徴の抽出をメインとするため，名詞のみを分析対象とする，トピック抽出を目的と
1 楽 天 株 式 会 社 (2016):
楽 天 ト ラ ベ ル デ ー タ.
国立情報 学 研 究 所 情 報 学 研 究 デ ー タ リ ポ ジ ト リ.
(デ ー タ セット).
https://doi.org/10.32130/idr.2.2

ー 27 ー

4. 分析する月単位のレビューを一つの文書，他の月のレビューも含め 12 個の文書集合とし，出現した名詞に tf − idf 値を付与する．
5. ストップワードを除く tf − idf 値の上位 10%の名詞について，次の (a) と (b) の処理を行う：(a) 同じクラスタに抽出された名詞の傾向を分析する．

人工知能学会 インタラクティブ
情報アクセスと可視化マイニング研究会(第23回)
SIG-AM-23-05(b) 他の月の（その名詞を含む）クラスタと類似度を計算する．

3.1

階層的トピックモデル

入力データとして用いる宿泊レビューには，大カテゴリーと小カテゴリーが存在するように，トピックとしても抽出可能であると仮定し，このトピックの階層関係を抽出する．LDA モデルの拡張として，トピックの階層関係を解析できる hierarchical Latent Dirichlet
Allocation (hLDA) に着目し，宿泊レビューの季節的なトピックの変化を評価する．

3.1.1

3.1.2

hLDA の生成過程 [10] において，木構造は nCRP によって生成され，nCRP における客が文書，テーブル（またはレストラン）がトピックを表している．ここからは，先行研究 [7, 8] にならい，hLDA の生成過程を以下に記す．
1. 各トピック k ∈ T に対して
(a) 単語上の多項分布パラメータ βk ∼ Dir(η)
を選択
2. 各文書 d ∈ {1, ..., D} に対して(a) レストランプロセスに基づきノードを選択
cd ∼ nCRP (γ)

nested Chinese Restaurant Process

nested Chinese Restaurant Process（nCRP）とは木構造上の確率過程である．この確率過程は hLDA のために用いられ，CRP を利用して以下の比喩で表される [10]．
CRP は N 人の客が無限のテーブルを持つ中華レストランに座るプロセスを仮定して得られる分布のことである．レストランに入ってきた順に，1, 2, . . . , N とラベル付けできる客が，レストランのテーブルを選択して座っていくとする．最初の客は最初のテーブルに座り，n 人目の客が座るテーブルを cn とし，i 番目のテーブルに座る確率は式 (1) によって決定される.
{
p(cn = i|cn−1 ) =ni(occupied table i )γ+n − 1γ
(next unoccupied table)
γ+n − 1hLDA の生成過程(1)

ここでの ni は現在テーブル i に座っている顧客の数であり、γ はレストランの顧客の数と比較して、顧客が新しいテーブルを選択する頻度を制御する実際のパラメータである．
nCRP において，客は CRP に基づき木構造を形成する．そこで nCRP は以下の比喩で表される. 街に無限個のレストランが存在し，各レストランは無限個のテーブルを持つと仮定する．また階層の根となるレストランが存在し，各レストランのテーブルは他のレストランを指定している．まず最初の客が根のレストランに入り，CRP に従いテーブルを選択し，次のレストランへのルートを得る．再び CRP に従いテーブルを選択し，これを無限回繰り返し，木構造におけるパスを決定する．これをすべての客について行うと，無限に枝分かれした無限深さの木の部分木を得る．本研究では客が単語，レストランが階層，テーブルの席がトピックを表し，この部分木の決定に用いられる．

(b) レベル上の多項分布パラメータ θd ∼ Dir(α)
を選択(c) 各単語 wd,n (n ∈ {1, ..., Nd }) に対してi. レベル zd,n ∼ M ult(θd ) を選択
ii. 単語 wd,n ∼ M ult(βcd,zd n ) を選択,hLDA の実装では，あらかじめパラメータ（α，γ ，η ，階層数）を設定する必要がある．このハイパーパラメータ問題に対し，分析対象の宿泊施設によって抽出の「適切さ」が異なる．このことから，同一の条件で抽出と「適切さ」を得るために先行研究 [7] にならい，より多くのトピックを抽出するため，確率分布の中レベルの層が抽出されやすいように，γ = 1.0，η = 1.0に定めた．
本稿では，宿泊施設の特徴の抽出を大きな目標としているため，そのトピックが何に基づいて分類されたかがわかる方が望ましい．そこで本研究では宿泊施設のトピックの階層数を，よりトピックの内容が特徴的である階層数 3 に設定し，収束した名詞のみを分析に用いた．

3.2

tf − idf 法に基づく季節の特徴分析

tf − idf 値は，その文書内で使われている単語の重要度を表す [3]．対象の文書内での出現頻度が高い単語ほど重要であるという考えに基づく tf 値と，いくつもの文書で横断的に出現する単語は重要でないという考えに基づく逆文書頻度，idf 値の掛け合わせで tf − idf値を計算する．月毎のレビューを文書集合として入力するため，tf − idf 値の高い名詞は，他の月に出現していない季節を表す特徴的な名詞と言える．tf − idf 値の特徴量付与は tf 値を式 (2)，idf 値を式 (3) で行う．
nt,d,month,s∈d ns,d,monthtf (t, d, month) = ∑ー 28 ー(2)

人工知能学会 インタラクティブ
情報アクセスと可視化マイニング研究会(第23回)
SIG-AM-23-05

idf (t, month) = log

3.3N.
df (t, month)(3)

他クラスタ間コサイン類似度

表 1: 2 件の宿泊施設のレビューから抽出した tf − idf
値が高かった名詞，上位 5 件
1月

一般的に自然言語処理で使われるコサイン類似度は，ベクトル化した文書間の類似性を測ることによく使われる．本稿では，hLDA によって分類された月別のクラスタの周辺単語の違いから，その季節を特徴付ける名詞や特徴の移り変わりを抽出する．そこで，hLDAで獲得された各月のクラスタタ間でコサイン類似度を計算する．
クラスタタは複数の名詞の集まりで形成され，それぞれが BoW モデルに従いベクトル化した値を計算に用いる．m1 月と m2 月のクラスタ Cm1 と Cm2 の集合を，式 (4) と式 (5) に記す．

Cm1 (1, ..., n) = {W1 , W2 , ..., Wn },(4)

Cm2 (1, ..., n) = {W1 , W1 , ..., Wn }.

(5)

5月
8月
12 月

この 2 つの集合に対し，コサイン類似度の計算は式(6) で行う．

cos(Cm1 , Cm2 )∑n(6)
k=1 Cm1 (k) · Cm2 (k)
√∑n.
= √∑n
2
2
k=1 (Cm1 (k)) ·k=1 (Cm2 (k))

4

粟津温泉 旅亭懐石 のとや
お正月，年越し，年始年末，餅搗き，最上級
ゴールデンウィーク，鯛，春の，愛，連休

分析結果

ユーザのニーズの多さという観点から分析対象を宿泊施設の繁茂期に絞り，1 月，5 月，8 月，12 月の結果を出力した．2 件の宿泊レビューの名詞のうち，tf −idf値の高かった上位 5 件を表１に記す．
図 2，図 3 は hLDA の収束しない名詞を除いた分析結果の一部である．次に表 1 から，季節そのものや時期を表す名詞以外の “食事”や “イベント”など評価の対象として相応しいものを選択する．本稿では「粟津温泉 旅亭懐石 のとや」の “鯛”，「シーサイドホテル舞子ビラ神戸」の “プール に着目する．また分析する
クラスタを，以下のように定義する．
小クラスタ 該当する名詞を含む階層 2 の単一のクラス
タ，図 2，図 3 に表す所の Ca1 や Ca2 に当たる．
大クラスタ 該当する名詞を含む階層 3 のクラスタと同じ親を持つ複数のクラスタ，図 2，図 3 に表す
所の Ca や Cb と，それぞれの子クラスタ全ての集合．

シーサイドホテル舞子ビラ神戸
お正月，お年玉，お菓子，スペシャル，周年
室温，ゴールデンウィー
ク，週末，グレード，エステ
お盆，合掌，道場六三郎， プール，夏休み，海水浴鮎，納涼場，海水浴，バーベキュー
クリスマス，めし，突破， ルミナリエ，クリスマス，名物，最上級
冬，おもてなし，スペシャル

図 2: hLDA，1 月，粟津温泉

旅亭懐石のとや

このように大クラスタと小クラスタの類似度の推移を分析することにより，トピックの時間的な大規模な変化と小規模な変化を比較することが可能になる．この結果を表 2，表 3 にそれぞれ記す．また注目する名詞を含む他の月の階層構造を図 4，図 5 に示す．

5考察

5.1hLDA の抽出結果

図 2 の Ca は “清潔”や “温泉”，“鍋”の一般的なサービスや，施設への評価がトピックとして存在することがわかる．対象的に Cb には “雪道”や “雪”，“温度”など天候や環境に関してのトピックが抽出された．またCa1 には “蟹”に関する名詞や “甘味”といった食事に関する評価が抽出され，Ca2 〜Cb2 まで比較しても明らかに食事関連のトピックが分類されていることがわかる．
また Cb1 はサービスや環境に対してのトピック，Cb2 は温度に対してのトピックであり，明確な差が見て取れる．ここから Cb と Cb1 ，Cb2 の階層関係が見て取れる．
図 3 の Ca は価格，立地に関してのトピックが存在することが見てわかる．他に Cb には “海水浴場や “眺め”
から外のレジャー，あるいは施設の特徴がトピックとして存在することがわかる．Ca1 ，Cb1 に，“家族連れ”や“海水浴場”が分類されており，家族旅行が楽しめ，海水浴ができることが想像される．実際にそのようなレー 29 ー人工知能学会 インタラクティブ
情報アクセスと可視化マイニング研究会(第23回)
SIG-AM-23-05

表 2: 粟津温泉 旅亭懐石 のとや：tf − idf 法で抽出された 5 月の “鯛”を含む他クラスタ間のコサイン類似度．
表中，同クラスタ間の類似度を下線部に示す．
1月 2月 3月
4月 5月
6月
7月
8月
9 月 10 月 11 月 12 月
大クラスタ
0.0
0.0
0.0 0.029 1.0 0.046 0.018 0.039 0.021 0.028
0.00.0小クラスタ
0.00.00.0 0.099 1.0 0.199 0.099 0.099 0.099 0.105
0.00.0

表 3: シーサイドホテル舞子ビラ神戸：tf − idf 法で抽出された８月の “プール を含む他クラスタ間のコサイン類似度．表中，同クラスタ間の類似度を下線部に示す．
1月 2月 3月 4月 5月
6月
7月 8月
9 月 10 月 11 月 12 月
大クラスタ
0.00.00.0
0.0
0.0 0.110 0.042 1.0 0.164
0.00.00.0
小クラスタ
0.0
0.0
0.0
0.0
0.0 0.099 0.099 1.0 0.099
0.0
0.00.0

図 3: hLDA，8 月，シーサイドホテル舞子ビラ神戸

図 4: “鯛”を含む 5 月，6 月の階層構造

ビューも存在した．これも hLDA の結果の特徴であると考える．
結果として，[粟津温泉 旅亭懐石 のとや] の宿泊レビューから，1 月に料理，特に蟹や鍋が楽しめ，また天候では雪が想定されることがわかる．また [シーサイドホテル舞子ビラ神戸] の 8 月の宿泊レビューから，家族連れが海水浴に訪れやすい季節であることがわかった．

5.2

コサイン類似度よる他クラスタ間評価

表２の結果から，大クラスタの推移を見ると，6 月が一番高く，次に 8 月，4 月が高いことがわかった．次元数が増えることも影響し，大クラスタでさまざなト

図 5: “プール”を含む 7 月，8 月の階層構造

ピックを含むため，より詳細な変化が見て取れる．また，5 月に対して，4 月と 6 月の類似度が高いことから，近いトピックが存在することがわかる．このこと
から季節の類似性は宿泊レビューのトピックに現れることがわかる．図 4 の “鯛”を含む 5 月，6 月の階層構
造には，“鯛茶漬け”がどちらの３階層にも含まれており，料理名が共起している．実際には鯛の旬は 3 月〜6 月と 9 月〜11 月と言われていて，旬を考慮しなければオールシーズン食べることができる魚である．しかし，この宿泊施設の場合，5 月 6 月で注目されているトピックであることが明らかになった．
表３の結果から，“プール”は 6 月から 9 月まで出現していることがわかる．大クラスタにおいて，類似度は 9月が一番高くなっており，近い季節において似たトピックが存在することがわかる．しかし，一般的な “プール”の人気が高まる 7 月と 8 月の類似度が低くなった．
図 5 から，“プール”と同じクラスタに “大人”や “子供”といった家族旅行の様子がわかる．実際のレビューにも，「家族連れ」の旅行形式が，7 月より 8 月に多く出現する．この結果から，家族旅行に適した季節，またはそうでない季節が類似度の結果から明らかになった．
結果から，季節で注目される食事内容や，家族旅行に適した季節，または家族連れで賑わう季節が明らか

ー 30 ー

人工知能学会 インタラクティブ
情報アクセスと可視化マイニング研究会(第23回)
SIG-AM-23-05になった．

formation and communication technologies in
tourism 2008, pp. 244–254, 2008.

今後の展望5.3

改善点・展望として，(1)hLDA のハイパーパラメータに起因する精度問題，(2) 意思決定支援に有効な可視化手法，(3) 地域差に現れるトピックの差の抽出，が挙げられる．それぞれ，(1) については分析精度の向上，(2) と (3) については宿泊検討者の意思決定支援に有効なインタラクションモデルに関わる問題と分類される．
hLDA の結果として分類が収束しない名詞も見られ，精度の向上が必要なことは明らかである．解決策としてハイパーパラメータの調節が有効であるが，宿泊施設の各文書によって調整を行なうことは，手動では限界があり，可視化手法の発展が必要である．本稿では，分析と結果の考察までを紹介したが，大きな目標である “消費者の意思決定支援 につなげることの本質を見抜く必要がある．そこで，決定要因になり得る情報の選別などが発展として期待できる．また季節と同じように地域差でも特徴量の違いを抽出できることが予想される．

6

おわりに

本稿では，宿泊検討者に対して意思決定支援につながる分析を目的として，季節毎に重要な単語の意味的な変化を抽出する手法を提案した．提案手法では，hLDAの分析によって宿泊施設の大カテゴリーとその中にある小カテゴリーを階層構造で抽出することを試みた．このとき，精度の定量的な評価や，注目すべき名詞の選別として，コサイン類似度と tf − idf 法を用いて分析した．その結果，宿泊施設のトピックを階層関係で抽出でき，季節特有のトピックの情報を抽出できた．また，ハイパーパラメータに起因する精度の問題が明らかになった．今後の展望として，季節と同じように地域差でも特徴量の違いを抽出でき，宿泊検討者への可視化を行う予定である．

謝辞
本研究では，国立情報学研究所の IDR データセット提供サービスにより楽天株式会社から提供を受けた「楽天データセット」を利用した．記して謝意を表す．

参考文献[1] Astrid Dickinger and Josef Mazanec. Consumers
preferred criteria for hotel online booking. In-[2] Ivar E Vermeulen and Daphne Seegers. Tried andtested: The impact of online hotel reviews onconsumer consideration. Tourism management,Vol. 30, No. 1, pp. 123–127, 2009.
[3] Juan Ramos, et al. Using tf-idf to determine word
relevance in document queries. In Proceedingsof the first instructional conference on machinelearning, Vol. 242, pp. 133–142. Piscataway, NJ,2003.
[4] Katerina Berezina, Anil Bilgihan, Cihan
Cobanoglu, and Fevzi Okumus. Understanding
satisfied and dissatisfied hotel customers: text
mining of online hotel reviews. Journal ofHospitality Marketing & Management, Vol. 25,No. 1, pp. 1–24, 2016.
[5] David M Blei, Andrew Y Ng, and Michael I Jordan. Latent dirichlet allocation. Journal of machine Learning research, Vol. 3, No. Jan, pp. 993–1022, 2003.
[6] Hyun Jeong Han, Shawn Mankad, Nagesh Gavirneni, Rohit Verma, et al. What guests reallythink of your hotel: Text analytics of online customer reviews. 2016.
[7] David M Blei, Thomas L Griﬃths, and Michael IJordan. The nested chinese restaurant process
and bayesian nonparametric inference of topic hierarchies. Journal of the ACM (JACM), Vol. 57,No. 2, p. 7, 2010.
[8] Thomas L Griﬃths, Michael I Jordan, Joshua B
Tenenbaum, and David M Blei. Hierarchical
topic models and the nested chinese restaurant
process. In Advances in neural information processing systems, pp. 17–24, 2004.
[9] Hongning Wang, Yue Lu, and Chengxiang Zhai.
Latent aspect rating analysis on review text data:a rating regression approach. In Proceedings ofthe 16th ACM SIGKDD international conferenceon Knowledge discovery and data mining, pp.
783–792, 2010.
[10] 山本浩平, 江口浩二, 高須淳宏. カテゴリ階層の拡張を目的とした階層的トピックモデル. 第 6 回
データ工学と情報マネジメントに関するフォーラ
ム, 2014.

ー 31 ー