生成エンジンにおける引用脆弱性の解明

生成エンジン（GE）はWeb検索とLLMを用いて、Webページを引用し、回答を生成するシステムである。GEでは誰でも情報を公開できるWebから情報を取得するため、これまでのRAGシステムよりもポイズニング攻撃に対して脆弱である。しかし既存の評価研究は、回答が引用元を忠実に反映しているかに焦点を当てており、どのWebソースを引用しているかについて検討されていない。このギャップを埋めるため、我々は引用元の発行者属性を分類し、攻撃コストを推定する基準を提案する。政治分野の質問では公式政党Webサイトからの引用が約21%～90%の範囲であるが、与党は20%～48%であり、政策伝達における攻撃の脅威が示唆された。