自然言語によるLLM生成途中介入

LLMがシステムプロンプト等により特定の応答パターンから抜け出せない状態を応答固着と呼ぶ．本研究では応答固着の突破のため，生成途中に介入文を挿入する手法を提案する．推薦タスクを用いた2モデルでの比較実験では，「それは」で別の候補を推薦させる文で介入した場合，モデルによって固着を突破する割合が大きく異なることが分かった．また，事前に用意した固定文を用いる方法と文脈に応じてLLMで介入文を生成させる方法を比較したところ，前者の方が有効であった．