因果関係を用いた雑談対話応答のリランキング
Incorporating Event Causality to Re-ranking for ConversationalDialogue Responses
田中翔平 1∗ 吉野幸一郎 1,2
須藤克仁 1
中村哲 1
Shohei Tanaka1
Koichiro Yoshino1,2
Katsuhito Sudoh1
Satoshi Nakamura1
奈良先端科学技術大学院大学
Nara Institute of Science and Technology
2
科学技術振興機構 さきがけ
2
PRESTO, Japan Science and Technology Agency
1

1

Abstract: In this paper, we propose a novel method for re-ranking response candidates generated
from conversational models by considering their event-causality relations. The method utilizes anevent causality dictionary extracted from Web texts such as that “be stressed out” leads “relax torelieve stress,” for re-ranking of response candidates. Our re-ranking method gives higher scoresto the candidates that have any event-causality relations to any utterances in a dialogue history.
It is expected that our proposed method can select diverse, context-aware and logical responses.
We calculated the coverage of the event causality dictionary automatically extracted from Web to
get to know the ratio of response candidates that can be re-ranked by the proposed method.

1

はじめに

これまでの対話研究において，Neural ConversationalModel (NCM) [1] に代表されるニューラルネットワー
クを利用した対話モデルが利用されている．しかし，こうした対話モデルが生成する応答は単純で汎用的なものが多く，対話の文脈や論理的な展開を考慮しているとは言えない．
そこで本研究では，応答候補と対話履歴との因果関係を用いることで，より適切な応答候補を選択する手法を提案する．因果関係とは「ストレスが溜まる」 →「発散する」のような 2 つの事態間に原因と結果の関係が成立する関係を指す．今回の論文では，原因に相当する事態が発生すると結果に相当する事態が発生する確率が上昇することを指して，因果関係とする．
雑談対話中の発話間においても因果関係が重要であることが徳久ら [2] により確認されており，特に対話を継続する働きがある間接応答や問い返しにおいて，先行発話との因果関係が多く成立することが知られている．この知見に基づき佐藤ら [3] は， 因果関係を認定可能な応答対をサンプリングしたデータで NCM を学習することで，論理的で対話継続性に優れた応答の生成に成功している．しかしこの手法には対話モデルの∗ 連絡先： 奈良先端科学技術大学院大学

奈良県生駒市高山町 8916 番地５E-mail: tanaka.shohei.tj7@is.naist.jp

学習データが減ってしまうという問題がある．
本研究ではこうした先行研究の手法と異なり，雑談対話モデルにより生成された N -best 応答候補のリランキングを行う．これにより，対話モデルの学習データを減らすことなく，論理的な応答候補を生成することを目指す．本稿では本アプローチの実現に向け，対話モデルの学習に利用するコーパスにおいて，因果関係が成立する割合を調査し，提案手法によりどの程度の候補がリランキング可能かについて議論する．

2

因果関係を用いたリランキング

本研究では因果関係辞書を用いて，対話履歴との因果関係を考慮した，より適切な応答生成の実現を目指す．

2.1

因果関係を用いたリランキング

雑談対話モデルにより生成された応答候補のうち，対話履歴中の発話の組で，因果関係辞書 (2.2 参照) にマッチするものがある場合，式 (1) に従い新しいスコアを算出し，リランキングを行う．ここで l は対話モデルが出力する負の対数尤度であり，λ はどの程度因果関係を重視するかを表すパラメータである．λ = 0 は全く考慮しないことを表す．lif t (2.2 参照) をスコアの算出に用いるのは，因果関係に含まれる 2 つの事態の，お互いへの依存度の大きさを考慮できるためである．た表 1: 因果関係の一例
述語 1
達する

項1
二:定員

述語 2
終了

項2
ガ:申し込みsupport0.0000001=l(log2 lif t)λlif t
9992.58

表 2: 因果関係辞書のカバレージ

だし，lif t は値域が広い (10 < lif t < 10, 000) ため，対数をとった値を使用する．

lnew

conf idence
0.0043

twitter
5%

NUCC
14%

SCOPE
9%

(1)
表 3: 対話中に成立している因果関係の例

2.2因果関係辞書

因果関係辞書として，柴田ら [4] が提案した，共起情報と格フレームにもとづいて自動獲得された辞書を用いる．辞書は約 42 万件の因果関係で構成されており，表 1 のような情報が含まれている．各事態は述語項構造を用いて表現されており，述語 1 及び項 1 は原因となる事態を，述語 2 及び項 2 は結果となる事態を表している．また support は 2 つの事態の同時確率を，conf idence は原因となる事態が起こった場合に結果となる事態が生じる条件付き確率を，lif t は 2 つの事態間の相互情報量を表す．

3

因果関係のカバレージ

雑談対話モデルの学習に用いるコーパスにおいて，対話履歴と応答間でどの程度因果関係を認定可能かカバレージについて調査した．これにより，生成されるN -best 応答のうちリランキング可能な割合を推測する．

3.1

調査対象

対話コーパスとしてマイクロブログ (twitter) から収集した 620,688 対話，名大会話コーパス (NUCC) [5]72,310 対話，高齢者雑談対話 (SCOPE) [6] 16,406 対話を用いた．応答に対する過去 5 発話までを履歴とし，因果関係の成立について調査した．集計の際，発話と応答どちらが原因，もしくは結果となるかは考慮していない．

3.2

調査結果

表 2 に各コーパスのカバレージを示す．表 2 から，NUCC でのカバレージが最も高く，twitter でのカバレージが最も低いことがわかる．この結果は SNS 上でのテキスト対話よりも対面の音声対話の方が因果関係が成立する発話対を多く含むことを示唆している．また各コーパスを用いてそれぞれ学習を行った場合，概ね表 2 に示された割合の応答が因果関係によりリランキング可能だと推測できる．表 3 に NUCC に含まれる対話において成立している因果関係の例を示す．

発話
緊張したんだ．

4

応答
私は顔引きつっちゃってさ，もう．

因果関係
緊張する→ 顔が引きつる

おわりに

本稿では雑談対話モデルにより生成された N -best応答を，因果関係を用いてリランキングする手法を提案した．このため，辞書を用いてコーパス中の対話履歴と応答との因果関係認定を行い，因果関係辞書を用いることでどの程度の応答がリランキング可能かを推測した．この結果，因果関係辞書が持つカバレージはやや低く，何らかの汎化を行う必要性があることがわかった．今後は，実際に応答候補を対象にリランキングを行うことで，論理的で対話継続性に優れた応答を生成することができるモデルの構築を目指す．

謝辞
本研究で使用した因果関係辞書をご提供頂いた京都大学黒橋研究室の黒橋先生，柴田先生に感謝いたします．
本研究は JST さきがけ（JPMJPR165B）の支援を受けた．

参考文献[1] Vinyals et al. A Neural Conversational Model. In Proc. ICMLDLW, 2015.
[2] 徳久ら. 非課題遂行対話における発話の特徴とその分析. 人工知能学会論文誌, Vol. 4, pp. 425–435, 2007.
[3] 佐藤ら. 因果関係に基づくデータサンプリングを利用した雑談応答学習.
言語処理学会 第 24 回年次大会 発表論文集, pp. 1219–1222, 2018.
[4] 柴田ら. 述語項構造の共起情報と格フレームを用いた事態間知識の自動獲得. 情報処理学会 自然言語処理研究会, Vol. 2011-NL-203, No. 2,pp. 1–8, 2011.
[5] Fujimura et al. Lexical and Grammatical Features of Spokenand Written Japanese in Contrast: Exploring a lexical profiling
approach to comparing spoken and Written corpora. In Proc.
the VIIth GSCPIC-SC, pp. 393–398, 2012.
[6] Yoshino et al. Japanese Dialogue Corpus of Information Navigation and Attentive Listening Annotated with Extended ISO24617-2 Dialogue Act Tags. In Proc. LREC, 2018.