言語モデルの不適切な出力を回避するためには,敵対的プロンプトを用いたストレステストにより,潜在的なリスクを洗い出すことが重要である.既存の手法では，プロンプトのトークン選択を繰り返すことで攻撃成功に近づくよう最適化を行う．そのため，一つのプロンプトの生成に時間を要し，多様なリスクを網羅するストレステストの実施には膨大な時間を要する.この課題を解決するため,プロンプト最適化におけるトークン選択の戦略を改善する手法を提案する.実験により，提案手法は既存手法より少ないステップで攻撃を成功できることを示す.加えて，トークン選択における勾配と損失を分析し，提案手法が採用する戦略の優位性を示す.

有用かつ安全な回答を提供するためのセーフティアラインメント技術(以降、アラインメント)は，対話モデルが不適切な出力を防ぐ上で，一定の成功を収めてきた[1,2]．しかし，敵対的に最適化されたプロンプトを入力することで，アラインメントをバイパスして言語モデルに望ましくない出力をさせる方法，いわゆる「ジェイルブレイク」が可能なことが確認されている[3,4,5].中でも，GreedyCoordinateGradient(GCG)[3]は，GPT-4[1]を含む様々なモデルに対して攻撃を成功させ，注目を集めた．これらは単なる攻撃に留まらず，モデルのリスクを洗い出すストレステストにも利用できる[6,7].しかしながら，攻撃に成功するような敵対的プロンプトの探索には，高い計算コストを伴う.GCGでは，一つの攻撃を成功させるために少なくとも100ステップ程度の最適化が必要である．そのため,複1）Equalcontribution.数の敵対的プロンプトによる網羅的なリスクの探索には，数日間に渡る等,長時間の処理を要する.そこで，本研究は既存手法の敵対的プロンプトの最適化におけるトークンの選択戦略を改善した敵対的プロンプト生成手法を提案する．実験により，提案手法は既存手法より少ない最適化ステップで攻撃を成功できることを示す．また，攻撃成功率が既存手法と同等以上であることを示す．さらに，敵対的プロンプトの最適化におけるトークン選択に関する勾配と損失を分析することで，提案手法の最適化戦略が既存手法より優位であることを示す．