魅力的な対話応答生成のための複数教師による知識蒸留

人工知能が日常生活に普及するにつれ、単純な受け答えを超えた魅力的な対話ができる対話システムの実現が期待されている。オープンドメイン対話応答生成タスクは、そのような対話を生み出す可能性を秘めており、これまでにも多くの研究がなされている[1,2]。特に最近では、数千億パラメータに及ぶ超大規模言語モデル(LLM)の登場により、大きな進展がある[3]。しかし、LLMはサイズが大きく、アクセスも制限されているため、さらなる学習やスケーラビリティに問題がある[4]。そのため、本論文ではより広く使われている中規模モデル[5]に焦点を当てるが、これらのモデルは生成された応答において魅力的でないという問題がある[6]。根本的な原因の一つは、学習中にモデルが関連する知識を持たないことにあり、その結果、無味乾燥な応答が多くなってしまうことになる。この問題に対処するため、先行研究ではペルソナ情報の追加[7]、外部知識ベースの利用[8]、また情報検索の応用[9]が検討されている。これらの先行研究の多くは、生成モデルに知識を補うことで応答の品質を高めることに焦点を当てている。一方、モデルのパラメータ内知識を直接活用する手法の一つとして知識蒸留[10]があり、対話生成にも適用されている[11]が多くない。本研究は、上記の対話応答生成の問題を解決するために、知識蒸留に基づく新たなアプローチを試みる。人間の学び方に倣い、魅力的な対話応答生成というタスクに必要な能力を複数の教師モデルに分割し、各教師のパラメータに保持されている関連知識を蒸留しながら、生徒モデルに応答生成を学習させることを目指す。魅力的な対話応答を生成するには、以下の2つの能力が必要であると考える。(1)会話能力(conversationalability,対話応答の発話に対する関連性)、(2)情報提供能力(informativeness,または知識性)。まず、それぞれの能力に対応する2つの教師モデルを学習する。次に、2つの教師モデルから知識蒸留を行い、応答生成のタスクにおいて生徒モデルを学習する。このアプローチにより、生徒モデルは、より魅力的な対話応答生成に必要な複数の能力を効果的に学習することができる。オープンドメインの対話データセットを用いた実験の結果、様々なベースラインを上回り、提案手法の有効性が示された。