この研究によって明らかになったVLMへの攻撃手法は、データ毒入りを利用してモデルを操作し、有害なクエリに応答させる可能性があります。これに対抗するためにはいくつかのアプローチが考えられます。
データフィルタリング強化: 毒入りサンプルを検出し、取り除くための効果的なフィルタリングメカニズムを導入します。CLIP類似性スコアや他の検出手法を使用して、毒入りサンプルを特定し、トレーニングデータセットから排除します。
安全訓練と監視: 安全訓練技術や異常検知システムを導入して、不正行為や攻撃パターンを監視および防御します。モデルが予期しない挙動を示した場合は自動的に停止する仕組みも有効です。
認識されていないジェイルブレイク試行: デフォールトでは無害と見なされる一連の指示でも危険である可能性があることから、「未知」または「怪しい」とマークされたジェイルブレイク試行パターンも含む広範囲な教師付けデータセットでモデルを訓練することも重要です。
透過的で責任あるAI開発: 組織内外で透明性と責任あるAI開発プラクティスを推進し、倫理的・社会的影響評価（EIA）や公共政策形成者向け情報提供等も含めて包括的なアプローチが必要です。
これらの対策は組み合わせて適用されることでVLMへの攻撃から保護する能力が向上します。