人間介入型トークン選択ジェイルブレイク攻撃における提示トークン数が選択行動に与える影響

大規模言語モデルには，倫理的・法的に不適切な出力を抑制する安全制御が組み込まれている．しかし，それらの安全制御を回避し，有害情報や制限された内容の出力を引き出すジェイルブレイク攻撃が存在する．本研究では，LLMが提示する生成候補から人間が選択を行いながら出力を進める人間介入型トークン選択ジェイルブレイクに着目し，1度に複数トークンを同時に選択する攻撃手法を提案する．既存の単一トークン選択と比較し，提示リスト内で選択された候補の順位（提示順位）と選択時間を分析した結果，選択単位の違いにより選択順位の傾向と判断時間が変化し，1回の介入における意思決定に影響を受けることが示された．