ミーム画像に対する自己スコアリング選別による推論根拠付き回答の検証

ミームにおけるヘイト検出には，過剰検知は表現を萎縮させ得る一方で，過小検知は被害の拡散を助長し得る，といった本質的なトレードオフがある．したがって，精度の向上だけでなく，意思決定過程を明示し，その推論の妥当性を検証することが必要不可欠である．本研究では，文脈依存的なヘイトを含意するミームのヘイト検出に向けて，視覚言語モデルの説明可能性と検出感度の双方の向上を試みる．具体的には，推論強化の枠組みであるREPSの着想を取り入れ，生成モデルが出力した複数の根拠候補を，独立な選別モデルによって妥当性の観点から選別し，その結果得られたデータで学習するパイプラインを構築する．実験の結果，説明の妥当性は約60%の勝率で改善し，再現率は0.960に到達した．これらの結果は，本手法が有害コンテンツの見逃しに対する強力なセーフガードになりうる．一方，モデルが生成した根拠を分析したところ，モデルは過剰検知の傾向が強いことも明らかとなった．