対話型質問応答における質問書き換えのためのターン強調

質問応答モデルの精度が向上し，与えられた文書に関する単一の質問に答えるタスクは人間の性能を超えるものも出てきている[1]．近年，より現実に即したタスクとして，対話型質問応答(ConversationalQuestionAnswering:CQA)タスクと呼ばれる会話の中で現れる質問に対する回答を生成するタスクが提案されている．このタスクは質問内容の解釈が対話履歴に依存するという点で，単一の質問に答えるタスクと比較して難しい[2]．このタスクのサブタスクとして，対話履歴に依存して解釈の決まる質問を対話履歴に依存しない質問(以降，書き換えられた質問)に書き換える質問書き換え(QuestionRewriting)タスクが提案され，CANARDと呼ばれるデータセットが構築されている[3]．CANARDにおけるデータの例を図1に示す．この例において𝑄𝑖,𝐴𝑖はそれぞれ質問と回答のターンを表す．𝑄1は与えられた文書に対する最初の質問であり，𝑄2以降はそれ以前の対話に依存した質問になっている．CANARDデータセットでは書き換えるべき質問𝑄𝑖と，それに先行するすべての対話履歴{𝑄𝑗,𝐴𝑗}𝑗<𝑖が与えられ，クラウドワーカーによって対話履歴に依存しない形式に書き換えられた質問（図1右）が正解として付与されている．このタスクに取り組んだ先行研究では，事前学習済み言語モデル（PretrainedLanguageModel:PLM）に対話履歴と質問を1つの繋がった単語系列として入力しているため，対話履歴に含まれるターンがそれぞれ別の内容を持つ文章として区別する表現力が低いことが考えられる．その結果，ターン単位のトピック遷移をうまく学習することができず，複雑な履歴参照が必要な質問の書き換えにおいて誤ったエンティティの参照などが発生していると考えられる．そこで本研究では，対話履歴に含まれるそれぞれのターンの重要度を推定し，この重要度を用いて質問書き換えを行うことを提案する．既存のCANARDデータセットには，対話履歴のターン毎に質問書き換え上の重要度が付与されていないため，本研究ではルールによりターンへの重要度のラベル付けを行い，ターンの重要度を推定するターン推定モデルを学習した．