対話モデルに対する敵対的プロンプトの効率的な最適化

有用かつ安全な回答を提供するためのセーフティアラインメント技術(以降、アラインメント)は，対話モデルが不適切な出力を防ぐ上で，一定の成功を収めてきた[1,2]．しかし，敵対的に最適化されたプロンプトを入力することで，アラインメントをバイパスして言語モデルに望ましくない出力をさせる方法，いわゆる「ジェイルブレイク」が可能なことが確認されている[3,4,5].中でも，GreedyCoordinateGradient(GCG)[3]は，GPT-4[1]を含む様々なモデルに対して攻撃を成功させ，注目を集めた．これらは単なる攻撃に留まらず，モデルのリスクを洗い出すストレステストにも利用できる[6,7].しかしながら，攻撃に成功するような敵対的プロンプトの探索には，高い計算コストを伴う.GCGでは，一つの攻撃を成功させるために少なくとも100ステップ程度の最適化が必要である．そのため,複1）Equalcontribution.数の敵対的プロンプトによる網羅的なリスクの探索には，数日間に渡る等,長時間の処理を要する.そこで，本研究は既存手法の敵対的プロンプトの最適化におけるトークンの選択戦略を改善した敵対的プロンプト生成手法を提案する．実験により，提案手法は既存手法より少ない最適化ステップで攻撃を成功できることを示す．また，攻撃成功率が既存手法と同等以上であることを示す．さらに，敵対的プロンプトの最適化におけるトークン選択に関する勾配と損失を分析することで，提案手法の最適化戦略が既存手法より優位であることを示す．