Jailbreakにより生成したフェイクニュースの危険度評価

悪意を持つユーザーにより大規模言語モデル(LargeLanguageModel:LLM)がJailbreak手法により攻撃され，虚偽情報の生成に悪用されることでフェイクニュースの拡散につながる懸念が高まっている．LLMの安全性を高めるには様々な攻撃に対する頑健性の評価が不可欠だが，フェイクニュースにおいてJailbreak手法の脅威に関するデータセットや評価指標は確立されていない．本稿では，フェイクニュース生成のJailbreakに関するベンチマークを構築し，LLMの頑健性や出力されたフェイクニュースの評価を実施した．その結果から，Jailbreak攻撃の成功確率とフェイクニュースの評価指標では攻撃手法ごとに異なる傾向が見られ，Jailbreak手法の評価においてLLMが出力した内容まで精査する必要があることが明らかになった．