LLMを用いた文脈考慮による攻撃性検出性能の改善

本稿では，長期文脈を扱える最新の大規模言語モデルは，SNS投稿の攻撃性検出において適切な文脈考慮が可能か検証する.そのために，検出対象の投稿単体で攻撃性を評価するベースラインモデルと対話履歴を考慮して攻撃性を評価するモデルの比較実験を行った．実験の結果，対話履歴が特に必要とされる攻撃性を含まない投稿の検出に関しては，人手による検出と同様の傾向を示すなど，適切な文脈考慮ができている可能性があることがわかった．一方で，本来攻撃性のある投稿まで攻撃性が無くなったと誤った判断をしてしまうという課題が残った．