手動設計の敵対的プロンプト手法の体系的分類

昨今,大規模言語モデルは世界中で広く使われるようになったが,安全性への懸念が叫ばれている.本研究では,手動設計の敵対的プロンプトに対し,既存のデータセットを調査することで,多種多様な敵対的プロンプト手法を把握し,それらを体系的に分類することを目指した.既存データセットを人手で調査し,最終的には,敵対的プロンプトを大小49個のカテゴリに分類した.また,データセット内で用いられた手法を数え上げることで,手法の偏りを明らかにした.最後に,本分類の各カテゴリに対して敵対的プロンプト例を作成し,Github上に公開した.https://github.com/Tasuku-Sasaki-lab/Adversarial-Prompt-Classification本研究を通じて,手動設計の敵対的プロンプトの手法の実態が明らかとなった.これらの成果は,LLMに対するRedTeamingテストや,敵対的プロンプト防御手法の開発を通じて,LLMのサイバーセキュリティ向上に貢献するだろう.