モデル介入を用いるJailbreakprompt攻撃の初期応答の選択手法

大規模言語モデル（LLM）の広範な応用には,安全性の確保が求められる.LLMに不適切なコンテンツを生成させるための入力であるjailbreakprompts攻撃は,LLMの安全な運用にとって重大な脅威である.従来のjailbreakprompts手法は,有害な生成の継続を前提として,肯定的な初期応答を生成するようにプロンプトを最適化する.本研究は適切な初期応答の選択の重要性とそれに伴う困難に注目する.攻撃の成功へ導く初期応答を効果的に選択するために,モデル介入を用いる選択手法を提案する.実験により,この方法が適切な初期応答を正確に選択する能力を大幅に向上させ,攻撃成功率を高めることを示した.