意味とスタイルの分離に基づくスタイル表現学習

大規模言語モデルの登場によって，人間と自然に会話できる対話システムが実現しつつある．最近では，より自然な会話を実現するために，対話システムにスタイルを付与する研究が盛んである[1–5]．一貫したスタイルの応答生成を実現するためには，モデルがスタイルの特徴を捉える必要があるため，高品質なスタイル表現の獲得が望まれている．スタイル表現を獲得する試みとして，深層学習が主流となった現在では，対照学習に基づく手法が採用されている[6,7]．これらの手法では，同一話者の発話を正例，別の話者の発話を負例として対照学習を実施することで，スタイル表現を得ている．しかし，この手法では発話文を符号化した文埋め込みをそのまま使用するため，得られるスタイル表現には意味などのスタイル以外の情報も含まれており，スタイル表現の品質に改善の余地がある．多言語文符号化器から得た文埋め込みを言語固有の表現と言語非依存の表現に分離する手法[8]から着想を得て，本研究では発話文の文埋め込みをスタイル情報と意味情報に分離することで，スタイルに特化した埋め込みを得る．本手法は，埋め込みモデル自体の更新を必要としないため，低コストにスタイル表現を得られる利点を持つ．ご当地キャラクターと一般話者の発話文を用いた梶原智之1,2