多様で高品質な非自己回帰テキスト生成に向けたTransformerの逆推論と文のアナロジー

自己回帰モデルはテキスト生成の代表的な手法として発展を続けているが，出力の速度と多様性には改善の余地がある．有力な代替案として拡散モデルがあるが，生成結果の質は十分とは言い難い．本研究は，多様性と品質の両立を目標に，Transformerの特徴量抽出過程を遡ることでテキストの潜在表現からテキストを出力する新たな生成モデルを提案し，その活用法を探求する．結果として，拡散モデルと同等以上に高速で多様，かつ自然な言い換え文の生成を実現した．