言語処理学会 第30回年次大会 発表論文集（2024年3月）

複数の属性に対する評価を含む宿泊施設レビューに対する多様な返信の自動生成
村越 裕太
白井 清昭
北陸先端科学技術大学院大学 先端科学技術研究科{yuta.murakoshi,kshirai}@jaist.ac.jp

概要
本研究は，宿泊施設に関する低評価レビューに対し，定型的で当り障りのない表現を用いずに，レビューワーが苦情を述べている全ての属性について言及した返信を生成することを目的とする．レ
ビュー中の全ての属性に言及するために，レビューを文に分割し，それぞれの文に対して系列変換モデルで返信を生成した後，それらを統合する．系列変換モデルを学習する際には，属性に言及していない返信，定型的な表現が含まれる返信を訓練データからあらかじめ削除する．実験の結果，特に複数の属性を含むレビューに対し，提案手法によって自動生成された返信の品質が向上することを確認した．

1

はじめに宿泊施設のオンライン予約サイトの中には，ユーザがレビューを書き，宿泊施設がそれに対して返信できるサイトも存在する．宿泊施設にとって，大量のレビューに対して返信することの負担は大きいが，低い評価のレビューに対して返信を返さないとユーザの不満が解消されず，宿泊施設の評判を落とすことにつながる．そのため，ユーザのレビューに対する返信を自動生成する技術が求められる．
本研究は，宿泊施設に関する低評価レビューに対し，それに対する適切な返信を生成することを目的とする．この際，以下の 2 つの点に留意する．ひとつは多様な返信の生成である．生成モデルは当たり障りのない一般的な表現を生成する傾向がある [1]が，「申し訳ありません」「ご迷惑をおかけしました」など謝罪を表す定型的な表現を生成するだけでは，ユーザは宿泊施設が事務的な対応をしているという印象を持ち，ユーザの不満が解消されない可能性がある．もう一つは，ユーザが宿泊施設に関する複数の属性に対して不満を表明しているとき，その全ての属性に言及することである．例えば，ユーザが「部屋の清掃」「フロントの対応」の 2 つの点について苦情を述べているのに，それらに対して言及しない，あるいはどちらか一方にしか言及しない場合，ユーザに不誠実な印象を与える．上記の目的を達成するため，ユーザレビューを入力，返信を出力とする系列変換モデルを学習するが，定型的な表現の抑制やレビュー中の属性に対する網羅的な言及を実現するための手法を探究する．

2

関連研究

アプリのレビューやホテルのレビューに対する返信を自動生成する先行研究について述べる．
Gao らは，アプリケーションのユーザレビューを入力，それに対する返信を出力とする RNN による
Encoder-Decoder モデルに，カテゴリー，レビューの長さ，ユーザー評価，感情スコアの 4 つの情報をattention 機構を用いて組み込む手法を提案した [2]．
Kew と Volk は，レビューと返信の組からなるデータセットから返信生成モデルを学習すると，多くのレビューに対して用いられる汎用的な表現を含む返信が生成されやすいという問題に対処するため，訓練データにおける返信の汎用性のスコアを算出し，そのスコアが閾値以上の返信を訓練データから除外する手法を提案した [3]．日本語で書かれたレビューに対して返信を自動生成する研究として，伊草と鳥海は，宿泊予約サイトに書き込まれたレビューに対して適切な返信を自動生成するために，ユーザーによる評価値と返信の長さの情報を組み込んだ RNN
による Encoder-Decoder モデルを提案した [4]．
先行研究では，ユーザレビューにおける複数の評価対象の属性に網羅的に言及することは留意されていない．本研究では，宿泊施設の低評価レビューについてはユーザの不満の全てに言及することが重要と考え，それを実現する方法を探究する．また，― 12 ―

This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

文1
レビュー

文2

文1
苦情判定 yesモデル

no文N

削除

返信1

文2

返信2

返信生成モデル

文M

図1

返信統合

モジュール

返信

返信M

提案手法の概要

Kew と Volk の手法 [3] を参考に，当り障りのない表タとして，楽天トラベルデータセットにおける「苦現の生成を抑制することにも取り組む．

情」ラベルが付与されたレビューを正例，それ以外

3

提案手法

3.1

概要のレビューを負例として用いる．正例と負例の数は同数とする．ただし，提案手法における苦情判定の対象はレビューではなく文であるため，楽天トラベ
ルデータセットにおけるレビューのうち 1 つの文か提案手法の概要を図 1 に示す．まず，句点を文境界として，レビューを文に分割する．次に，苦情判定モデルを用いて，個々の文が苦情か否かを判定し，苦情と判定されなかった文を削除する (3.2 項)．

ら構成されるレビューのみを訓練データとして用いる．

3.3

応答文生成モデル

苦情を含むレビュー文に対し，系列変換モデルを苦情を含むと判定されたレビュー文に対し，それ用いて宿泊施設の返信を生成する (3.3 項)．最後に，に対する宿泊施設の返信を生成する．このため，レ生成された返信文を統合して，最終的な返信を生成

ビュー文を入力，宿泊施設の返信を出力とする系

する (3.4 項)．
レビュー全体を入力として返信を生成すると，複列変換モデルを学習する．系列変換モデルとしてBART を利用し，日本語事前学習済みモデル [8] を数の苦情を含むレビューに対してはその全てが言及ファインチューニングする．ファインチューニング

されない可能性がある．そのため，複数の属性は異のための訓練データとして，楽天トラベルデータになる文に現れると仮定し，それぞれの文から属性における「苦情」のラベルが付与されたレビューとそ対する言及を含む返信を生成する．これにより，レれに対する返信の組を用いる．ただし，1 節で述べビュー内の複数の属性 (苦情) に対して網羅的に返信た我々が望ましいと考える返信を生成するため，訓することを狙う．

練データに対して 2 種類のフィルタリングを行う．

返信生成モデルならびに苦情判定モデルの学習には楽天データセット [5] における楽天トラベルの3.3.1

属性に言及しない応答のフィルタリング

データ (以下，「楽天トラベルデータセット」と呼ぶ)

ユーザがレビュー上で述べている宿泊施設の属性を用いる．同データセットは宿泊施設に対するユーに対する返信を生成するため，属性に言及していなザレビューとそれに対する宿泊施設の返信を含む．

い返信を訓練データから除外する．あらかじめ宿泊

また，ユーザレビューには「苦情」「感想・情報」な施設の属性を表す単語 (属性語) の集合 𝐴 を定義し，どのラベルが付与されている．

レビューと返信の両方に同じ属性語 𝑎 𝑖 (∈ 𝐴) が出現していない組，ならびに属性語が 1 つも出現してい3.2

苦情判定ない組を削除する．

本研究では苦情に対する返信を生成することを属性語は宿泊施設のレビュー集合における特徴的主たる目的としているため，レビューから苦情を含な単語とする．具体的には，式 (1) によって各単語まない文をあらかじめ削除する．このため，文がのスコアを算出し，その上位 500 件の単語を属性語ユーザの苦情を含むか否かを判定する二値分類器

集合 𝐴 とする．

を学習する．分類モデルとして Bidirectional Encoder
Representations from Transformers(BERT)[6] を用いる．
具体的には，東北大学が公開している BERT base
Japanese [7] をファインチューニングする．訓練デー

𝑆(𝑤 𝑖 ) = ave 𝑟 𝑗 ∈𝑇𝑂𝑃1000 (𝑤𝑖 ) TF-IDF(𝑤 𝑖 , 𝑟 𝑗 )(1)

ここで，𝑅 は苦情ラベルが付与されたレビューの集合，𝑟 𝑗 はそのレビュー，TF-IDF(𝑤 𝑖 , 𝑟 𝑗 ) は 𝑅 を全文書集合としたときの単語 𝑤 𝑖 のレビュー 𝑟 𝑗 におけ― 13 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

る TF-IDF，𝑇𝑂𝑃1000 (𝑤 𝑖 ) は TF-IDF 値の大きい上位(約 8,000 件) を作成した．これらのデータを用いて1000 件のレビューの集合であり，𝑆(𝑤 𝑖 ) はその 1000苦情判定モデルを評価したところ，苦情クラス検出

件の TF-IDF の平均値と定義する．抽出された属性の F 値は 0.890，苦情か否かの二値分類の正解率は語の例を表 1 に示す．

0.887 となり，十分に高いことを確認した．

表 1 宿泊施設の属性語の例
駐車 部屋 排水 予約 タバコ シャワー 臭い 風呂 対応
朝食 タオル 掃除 エアコン 温度 ポイント トイレ 髪の毛 バス 禁煙 喫煙 清掃 空調 ルーム プラン カード
換気 匂い カーテン 料理 冷蔵

4.2

返信生成モデルの評価

4.2.1

実験データ・実験条件

返信生成モデルの学習ならびに評価に用いたデータの統計を表 2 に示す．楽天トラベルデータにおけ3.3.2

定型文のフィルタリング

るレビューと返信の組のうち，90%を訓練データ，多様な返信を生成するために，すなわち紋切り型5%を開発データ，5%をテストデータとした．開発の返信が生成されるのを抑制するために，訓練デーデータは研究の初期段階で訓練データのフィルタリ

タにおける返信から定型文を除外する．文献 [3] にング手法を検討するために，テストデータは自動評

倣い，宿泊施設の返信を文に分割し，それぞれの文価 (結果は付録 B で報告する) のために用いた．3.3.1

𝑠𝑖 に対して定型度スコア 𝐶 (𝑠𝑖 ) を算出し，その上位と 3.3.2 で述べたフィルタリング処理により，訓練データのデータ数は約 29%減少した．

30%の文を定型文として削除する．この処理の後の訓練データは，レビューと，それに対する元の返信

表 2 返信生成モデルの実験データ
訓練データ
147,749
訓練データ (フィルタリング後) 105,241
開発データ
8,209
テストデータ8,209

から定型文を除いたテキストの組となる．
定型度スコア 𝐶 (𝑠𝑖 ) は式 (2) のように定義する．
𝐶 (𝑠𝑖 ) = ave 𝑡𝑔𝑖 𝑗 ∈𝑠𝑖 𝑓 𝑟𝑒(𝑡𝑔𝑖 𝑗 )(2)

ここで，𝑡𝑔𝑖 𝑗 は文 𝑠𝑖 に出現する単語 tri-gram， 𝑓 𝑟𝑒 は訓練データにおけるその出現頻度であり，定型度スコアはその平均と定義する．

3.4

返 信 生 成 モ デ ル に 使 用 し た BART を フ ァ イ ン
チューニングする際のハイパーパラメタとして，最大エポック数は 5，学習率は 3𝑒 −5 , ドロップアウト率は 𝑝 = 0.3 と設定した．

返信文の統合分割したそれぞれのレビュー文から返信生成モ

4.2.2

返信生成モデルの評価

デルによって生成された返信文をマージし，最終的提案手法によって生成された返信生成モデルを人な返信を得る．返信文の順序は，生成元のレビュー手により評価する．ここでは以下の 5 つの手法を比文のレビューにおける出現順序と同じとする．ただ較する．また，返信生成タスクの上限としてデータし，返信文は独立に生成しているため，類似した文セットの返信も評価する．

や表現が重複して返信に含まれる可能性がある．重BASELINE

ベ ー ス ラ イ ン．訓 練 デ ー タ に 対 す る

複する表現を除外するため，2 つの返信文間の距離を正規化された編集距離 [9](編集距離を 2 文の長さ

フィルタリングは行わない．図 1 に示したようの和で割った値) で測り，それが 0.1 以下の場合，元された返信を統合する処理は行う．のレビューにおける出現順序が後である返信文を残にレビューを文に分割しそれぞれの文から生成
PRO-A-Sし，もう一方の返信文を除外する．ただし，属性語答のフィルタリング (3.3.1) を行う．文分割と返を含む返信は常に除外しないものとする．

4

評価

4.1

苦情判定モデルの評価

訓練データに対して属性に言及しない応信文の統合処理も行う．
PRO-C-S

訓練データに対して定型文のフィルタリ

ング (3.3.2) を行う．文分割と返信文の統合処理も行う．
PRO-AC

レビューを文に分割してから返信を生成

楽天トラベルデータから，苦情ラベルが付与されするのではなく，レビュー全体を入力として返ているレビューとそうでないレビューを同じ数だけ信を生成する．訓練データに対する上記 2 つの取得し，訓練データ (約 32,000 件) とテストデータフィルタリング処理も行う．

― 14 ―

This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

訓練データに対して 2 つのフィルタリする返信文を統合する際に類似した返信文を除外すング処理を行い，文分割と返信文の統合処理もる処理をしているが，属性を含む文は除外しないこ行う．とにしているため，似ている表現を完全に排除でき

PRO-AC-S

GOLD

データセットにおいて宿泊施設が実際に書いた返信ていない．属性言及率と流暢性・非冗長性はトレードオフの関係にあると言える．

表 2 に示したテストデータからランダムに 50 件定型文のフィルタリングに着目すると，PRO-C-Sのレビューを選択し，上記の 5 つの手法で生成されは BASELINE と比べて非冗長性が改善され，流暢性た返信ならびに GOLD を人手で評価する．評価者や総合評価も高い．紋切り型の表現の生成が抑制さは著者 2 名を含む日本語母語話者 7 名である．評価

れていることが確認できた．
PRO-AC と PRO-AC-S を比較すると，属性言及率項目を以下に述べる．
流暢性 返信が自然な日本語であるかを 5 段階で評価する．
非冗長性 返信に同じような表現が繰り返されていないかを 5 段階で評価する．表現の繰り返しが多いほど低い評点を与える．
総合評価 苦情を書いたレビュワーの立場から見て，宿泊施設からの返信として適切であるかどうかを 5 段階で評価する．
属性への言及 レビューでユーザが苦情を述べている属性のそれぞれについて，返信でそれについて触れているか否かを判定する．属性はあらかじめ被験者以外の人が抽出しておく．

は PRO-AC-S の方が高いが，流暢性・非冗長性の指標は PRO-AC の方が高い．文ごとに返信を生成し，最終的にそれを統合する方法では，レビュー中の属性に対して漏れなく言及することができるが，レビュー全体を一括して処理する手法と比べて文の自然さが損われたり類似表現の繰り返しが生じているためである．総合評価では PRO-AC の方が高いことから，文ごとに返信を生成する方式の有効性は認められない．ここで，属性が 2 つ以上存在する 22件のレビューのみを対象にした評価結果を表 4 に示す．PRO-AC の属性言及率は BASELINE よりも悪く，総合評価も PRO-AC-S と比べて低い．属性が 1つしかないレビューに対しては，文ごとに返信を生実験結果を表 3 に示す．評価値は 7 名の被験者に成しても属性言及率を上げる効果は少ないが，複数よる評点の平均である．属性言及率とは，評価対象の属性を含むレビューについては，レビューを文にの 50 件のレビューに出現する属性のうち，返信内分割してから返信を生成する提案手法が有効に働くで言及されたものの割合である．アスタリスク (*)と言える．

は t 検定によって BASELINE との有意差 (𝑝 < 0.01)が確認できたことを示す．
表3

返信生成モデルの人手評価の結果
流暢性 非冗長性 総合評価 属性言及率
BASELINE 4.58
4.442.530.338
PRO-A-S
4.34* 4.16*
2.72*
0.581*
PRO-C-S
4.63
4.50
2.80*
0.415*
PRO-AC
4.66
4.71*
2.98*
0.450*
PRO-AC-S 4.48
4.17*
2.77*
0.538*
GOLD
4.63
4.84
3.990.652

表 4 複数の属性を含むレビューに対する返信生成モデルの人手評価の結果
流暢性 非冗長性 総合評価 属性言及率
BASELINE 4.54
4.27
2.48
0.296
PRO-A-S
4.27* 3.99*
2.580.473*
PRO-C-S
4.54
4.30
2.81*
0.329*
PRO-AC
4.60
4.73*
2.61
0.232
PRO-AC-S 4.50
3.97*
2.73*
0.466*
GOLD
4.56
4.82
3.940.596

提案手法による返信の生成例を付録 A に示す．

BASELINE と比べて，属性に言及しない応答の5フィルタリングを行う提案手法 (PRO-A-S，PRO-ACS) では属性言及率が高い．ユーザが苦情を述べている属性に対して何らかの返信をするという本研究の目的がある程度達成できている．一方，流暢性と非冗長性のスコアは BASELINE と比べて低くなっている．属性に対する言及が増えたことにより，同じような表現の繰り返しが増え，流暢性も損われたと考えられる．提案手法では，個々のレビュー文に対おわりに本研究では，複数の属性に対して苦情を述べたレビューに対する宿泊施設の返信を自動生成する手法を提案した．今後の課題として，返信文を統合する処理の改善が挙げられる．例えば，抽象型要約生成モデルによって複数の返信文から要約を作成することにより，より自然で同じような表現の繰り返しが少ない返信を生成する方法が考えられる．

― 15 ―

This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

参考文献

uation of machine translation. In Proceedings of[1]Computational Linguistics, pp. 311–318, 2002.

[2]

the 40th Annual Meeting of the Association for

Ari Holtzman, Jan Buys, Li Du, Maxwell Forbes,and Yejin Choi. The curious case of neural text de-[11] Jiwei Li, Michel Galley, Chris Brockett, Jianfeng

generation. International Conference on Learning

Gao, and Bill Dolan. A diversity-promoting ob-Representations, pp. 1275–1312, 2020.

jective function for neural conversation models. InCuiyun Gao, Jichuan Zeng, Xin Xia, David Lo,

Proceedings of the 2016 Conference of the NorthMichael R. Lyu, and Irwin King. Automating app

American Chapter of the Association for Com-review response generation. In Proceedings of theputational Linguistics: Human Language Tech-34th IEEE/ACM International Conference on Au-nologies, pp. 110–119, 2016.

tomated Software Engineering (ASE), pp. 163–175, 2019.
[3]

Tannon Kew and Martin Volk. Improving speciﬁcity
in review response generation with data-driven dataﬁltering. In Proceedings of the Fifth Workshop
on e-Commerce and NLP (ECNLP 5), pp. 121–133,

2019.
[4]

伊草久峻, 鳥海不二夫. レビュー特性を用いたレビュー返信の自動生成. 人工知能学会全国大会 (第 35 回) 論文集, pp. 2F3–GS–10g–01,2021.

[5]

情報学研究データリポジトリ 楽天データセット, (2023-12 閲覧). https://www.nii.ac.
jp/dsc/idr/rakuten/.

[6]

Jacob Devlin, Ming-Wei Chang, Kenton Lee, andKristina Toutanova. BERT: Pre-training of deep
bidirectional transformers for language understanding. In Proceedings of the Conference of theNorth American Chapter of the Association for
Computational Linguistics: Human Language
Technologies, pp. 4171–4186, 2019.

[7]

BERT base Japanese (IPA dictionary, whole word
masking enabled) – Hugging Face, (2023-12閲 覧).

https://huggingface.co/cl-tohoku/

bert-base-japanese-whole-word-masking/.
[8]

BART 日 本 語 Pretrained モ デ ル – LANGUAGE MEDIA PROCESSING LAB, (2023-12 閲覧). https://nlp.ist.i.kyoto-u.ac.jp/?日本
語 Pretrained モデル.

[9]

Vladimir I Levenshtein. Binary codes capable ofcorrecting deletions, insertions, and reversals. In
Soviet physics doklady, Vol. 10, pp. 707–710,1966.
[10] Kishore Papineni, Salim Roukos, Todd Ward, andWei-Jing Zhu. Bleu: a method for automatic eval-― 16 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

表5
レビュー
まず最初に、全室禁煙なら大々的に謳って欲しい。 サイトのどこかには記載があるだろうけ
ど、ざっくり読む分には見つけきらない。 係りの方は雰囲気の良い方で、満足です。 客室のデザインは良いが、お風呂がない。 貸切風呂（一番左奥）は温度調整できず真夏に熱い風呂と罰ゲームでした。 シャワーが弱すぎる。最終的には湯船の熱いお湯を汲み利用しました。 大浴場は普通で良かった。 食事は素材の味を生かし、的な内容でした。悪く言えばそんなに手をかけていない。 っと思いきや、唯一一品だけ、大根のレモン煮（？）抜群に美味かった。 これだけは、感動しました。

A

生成された返信の例
返信
PRO-AC-S
GOLD
禁煙ルームのご案内につ 湯の宿 入船でございま
きましては、ご不便をお す。 先 日 は ご 宿 泊 頂 き掛け致しました事、心よ まして、誠にありがとうりお詫び申し上げます。 ご ざ い ま し た。 ご 指 摘
ご指摘いただきましたサ 頂きました箇所に関しまイ ト の 件 で ご ざ い ま す しては、出来る箇所からが、お客様にご迷惑をお 順次、改善してまいりた
掛け致しましたことを深 い と 思 い ま す。 今 後 とくお詫び申し上げます。 も、入船を宜しくお願い
貸切風呂の温度調整につ 致します。
きましては、お客様にご迷惑をお掛け致しました
事を心よりお詫び申し上げます。シャワーの件では大変申し訳ございませんでした。今後このような事がないよう、スタッフ一同精進して参ります。

BASELINE
貸切風呂の温度につきましては、ご迷惑をお掛け致しまして申し訳ございませんでした。お客様に快適にお過ごし頂けるよう、スタッフ一同努力して参ります。この度は当ホテルをご利用頂きまして誠にありがとうございます。

ない方が高い．これは，フィルタリング処理をしな生成された返信の例
あ る レ ビ ュ ー に 対 す る BASELINE，PRO-AC-S,いデータから学習されたモデルでは定型文が生成されることが多いが，評価データにおける正解の返信

GOLD の返信を表 5 に示す．このレビューでユーザにも定型文が多く，両者で単語 n-gram が一致する

が不満を表しているのは「禁煙室の案内」「風呂のことが多いためと考えられる．

温度」「シャワーの強さ」の 3 点である．BASELINE
では「風呂の温度」に対してしか謝罪していないのに対し，PRO-AC-S では 3 つの属性全てに言及して謝罪している．

B

表 6 返信生成モデルの自動評価結果
手法
BLEU-3 DISTINCT-3
フィルタリングなし 0.1576
0.0147
フィルタリングあり 0.0938
0.0256

返信生成モデルの自動評価
訓練データのフィルタリングの効果を自動的に 評 価 す る．自 動 評 価 尺 度 と し て BLEU[10] とDISTINCT[11] を用いる．BLEU は，データセットにおける宿泊施設の返信を正解とし，自動生成された返信が正解とどれだけ似ているかを評価する．
DISTINCT は，評価データに対して生成された返信テキストの多様性を評価する．いずれも単語 3-gramを基にした指標 (BLEU-3 と DISTINCT-3) を用いる．
実験結果を表 6 に示す．ここでは文毎に返信を生成して統合するのではなく，レビュー全体をモデルの入力としている．フィルタリング処理をした方が DISTINCT が高くなっていることから，定型文のフィルタリングにより，ありきたりな文の生成が抑制され，様々な表現の文が生成されるようになったと言える．一方，BLEU はフィルタリング処理をし― 17 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).