ゼロ照応解析に基づく項省略補完を取り入れた対話応答生成

人間同士の対話は，常識的知識や共有認識からなる共通基盤に依存している[1,2]．表1の対話では，多くの情報が省略されているが，2人の話者は常識的知識や文脈をもとに相手の意図を汲み取ることができている．昨今の対話システムは深層学習技術の発展により，着実に性能が改善されているものの[3,4,5]，表1のような発話の意図を正確に捉えることはできていない[6,7]．これは，人間とシステムの間に共通基盤が存在しないことに起因すると考えられる．既存の対話システムは，対話履歴から応答を直接生成する手法が広く用いられており，共通基盤構築の過程を明示的に扱っていない．また，対話履歴には多くの省略があるため，発話の意図を学習することが困難となっている．この問題に対し，外部知識を導入し，人間の常識的知識をモデルに与えることで，人間とモデルのギャップを埋める知識ベース(KB)を用いる手法が数多く提案されているが[8,9,10]，KBの構築にかかるコストは大きく，異なるドメインやモデルへの転用も容易ではない．話者A:最近、友人が学校に来ていません。私は友人に連絡して良いですかね？話者B:友人が1人で悩んでいるかもしれないので、あなたは友人に連絡すべきです。本研究では，外部知識を利用せずに，発話の意図を捉える手法を検討する．対話相手の発話意図を汲み取るためには，登場する人物や事物の役割とその変遷を把握することが重要である．そのため，それら人物や事物とその役割を推測し，明示的に取り入れることで，相手の意図に沿った応答を生成できるようになり，首尾一貫した対話が実現できると期待される．そこで，省略された照応を推測するゼロ照応解析の考えから着想を得て，対話履歴内の省略された情報を推測し，明示的に補完した対話履歴から応答を生成するゼロ照応解析に基づく対話応答生成フレームワーク(DialogueCompletionusingZeroAnaphoraResolutionframework;DCZAR)を提案する．DCZARは，述語項構造解析(PredicateArgumentStructureanalysis;PAS)モデル，対話補完(DialogueCompletion;DC)モデル，応答生成(ResponseGeneration;RG)モデルの3つのモデルで構成する．PASモデルは対話履歴内の省略された項を解析し，DCモデルは補完する項と補完位置を決定し，明示的に補完する．その後，RGモデルは補完された対話履歴から応答を生成する．PASモデル，RGモデルは事前学習済みモデルを各タスクに対応するデータセットでﬁne-tuningしたモデルで，DCモデルは事前学習済みモデルをﬁne-tuningせずに利用する．本研究では，2種類の事前学習タスク(Cloze[11]，PZERO[12])と2種類のデータセット(Wikipedia，Twitter)を組み合わせ，計4種類の事前学習済みモデルを構築し，各タスクにおいてどのモデルが優れた性能を達成するか検証した．.本研究の主要な貢献は以下の三点である．•ゼロ照応解析に基づく項省略補完を応答生成モデルに取り入れることで，応答の首尾一貫性と魅力度が大幅に向上することを示した(4.5節)．•対話データに類似した特徴を持つTwitterデータにより事前学習することで，ゼロ照応解析の性能を向上させた(4.3節)．•対話補完モデルが対話に含まれる省略を十分な性能で補完できることを確認した(4.4節)．