GPT-4oによる感情推定を用いた攻撃的投稿判定

近年，世界中でソーシャル・ネットワーキング・サービス（SNS）の利用者数が増加傾向にあり，今後も利用者は増加することが推測されている[1]．しかし利用者の増加とともに，誹謗中傷やヘイトスピーチなど，他者に対して攻撃的な内容の投稿（攻撃的投稿）が増加し，社会的な問題となっている[2]．一方，各種SNSにおいて不適切な投稿を判定するAIが導入されているが，皮肉表現や前後の文脈を考慮する必要のある投稿に対して，攻撃的と誤検知しやすいという課題が存在する[3,4]．我々は攻撃的投稿による問題を解決するには，攻撃的投稿に対する判定精度が重要だと考え，大規模言語モデル（LLM）と感情情報を用いて攻撃性判定する手法を提案した[5]．その結果，感情情報の有効性とプロンプト設計の重要性を示したが，学習コストが高いという課題が存在する．そこで本研究では，LLMのみを用いて感情情報を活用した攻撃的投稿判定手法を提案する．感情情報を活用することで，投稿の感情的特徴を補助的な情報として利用して，判定の難しい投稿に対しても安定した攻撃性判定が期待される．提案手法では，判定対象の投稿から8種類の各感情の推定確率を，8要素の配列データとして出力し，それらの感情情報と投稿の両方を参照して攻撃性判定する．LLM単独の手法により，学習コストを抑えつつLLMの言語処理能力を用いて，より安定した攻撃性判定を目指す．性能評価実験では，従来手法，感情情報を利用しない手法，および感情情報を利用する提案手法を対象として，例示を与えない設定と例示を与える設定の両条件で比較し，正答率とF1スコア，さらに混同行列を用いて評価した．その結果，提案手法の有効性が示され，LLMの攻撃的判定では感情情報や例示が必要であることが示唆された．