LLMを用いた文脈考慮による攻撃性検出性能の改善

昨今SNS上は誹謗中傷などの攻撃的表現で溢れており，攻撃対象になったユーザだけでなく，その投稿を目にしたユーザの心身にも負担を与えている[1,2,3,4,5,6,7,8]．ユーザの負担を軽減するために，攻撃性検出や[3,9,10,11]，攻撃性除去など[4,5,12,13,14,15]を用いた第三者による投稿監視[2,16]の必要性が叫ばれている．攻撃性検出に関する既存研究や実際に使われている商用検出モデルでは，対象の投稿単体で攻撃性を判断することが多い[3,9,10,11].しかし実際には，ユーザは対象の投稿だけでなく，周りのユーザ情報[6,17]や記事のタイトル[18]，そして対話履歴[1,7,19,20,21,22]などの文脈に目を通しながら対象の投稿に出会っている．以下，本稿では対話履歴の意で文脈と表現する．また投稿の直上にあたる１つの文脈を親投稿と呼ぶ．先行研究によると，人手の検出では文脈考慮により分類傾向が大きく変化し[20]，攻撃性が無い投稿をより適切に分類できるようになることが示されており[19,23]，考慮する親投稿の数が多いほどその傾向が顕著になると報告されている[22]．また，3節の分析から，検出対象の投稿が攻撃的表現を含む場合は攻撃性検出に文脈が不要な割合が高く，攻撃的表現を含まない投稿の検出には文脈が必要な割合が高いことがわかった．以上から人手による攻撃性検出の判断材料としては投稿単体だと不十分であり，特に攻撃性を含まない投稿に関しては文脈を考慮することによって，より適切な判断ができるようになる．攻撃性の自動検出における文脈を考慮した先行研究では，１つ前の親投稿[5,12,18,19,20,24]，先行する複数個の投稿[7,21]，全文脈[1,22]を考慮したが，ほとんどはモデル化に失敗しており，文脈が逆にノイズとなり精度が下がるという結果になった．そこで我々は大規模言語モデル(LLM)が長期文脈を扱える点に注目した．最新のLLMは，様々なタスクで高い性能を出しており，[8,25]，特にChatGPTにおいては，生成文の品質がクラウドワーカーの注釈よりも優れていると報告されている[26]．長期文脈については，全ての情報を適切に考慮できるわけではないという先行研究もあるが[27]，タスクによっては性能の向上も報告されている[28,29].本研究では，長期文脈を扱える最新のLLMは，攻撃性検出において適切な文脈考慮が可能か検証するために，検出対象の投稿単体で攻撃性を評価するベースラインモデルと文脈を考慮するモデルの比較実験を行った1）．検出モデルには，現時点の最新モデルであるGPT-3.5-turbo[30]とGPT-4-turbo[31]を用いた．実験の結果，文脈が特に必要とされる攻撃性を含まない投稿の検出に関しては，人手による検出と同様の傾向が得られているため，適切な文脈考慮ができている可能性があることがわかった．一方で，攻撃性のある投稿まで攻撃性が無くなったと誤った判断をするという課題が残った．