現在と将来の応答の有害性を低減させることによるマルチターン脱獄攻撃の防御手法

大規模言語モデル(LLM)から有害な応答を生成させる脱獄攻撃(Jailbreak)が報告されている．有害な応答を抑制する防御手法の開発が進む一方で，攻撃側はマルチターンにわたる対話を利用し，攻撃意図を隠蔽しながら逐次的に攻撃を試みる，より高度な攻撃形態へと発展している．本研究では，現在のターンだけでなく，将来のターンの防御がしやすくなるように防御側の応答を最適化する手法を提案する．提案手法は，過剰拒否や対話能力の劣化を最小限に抑えつつ，対話全体を通した攻撃成功率を低下させることを示した．