不法行為としての誹謗中傷検出と検出理由の説明可能性の検証

オンライン上での誹謗中傷の問題に取り組む自動検出研究において，社会実装の観点で検出理由の説明が求められている．しかし，テキスト生成により説明するアプローチは，説明の論理性に課題があり，社会科学の専門家の介在がなく人間や社会にとって有益な説明を行えているか人手評価が不十分である．本研究は，裁判例に基づく誹謗中傷データセットを用いて，不法行為の観点から，誹謗中傷の分類タスクと，その理由の生成タスクに取り組んだ．そして，生成された理由に，裁判における判断が反映されているか法律の専門家が評価した．結果として，言語モデルを用いた，裁判例に基づく分類タスクの精度には課題があることや，理由の生成では論理的整合性のある回答を得られるが，モデルの学習データセットに含まれる価値観の影響を受け，法律や裁判での判断と異なる解釈を示す事例多くが確認された．本研究は，オンライン上の誹謗中傷の自動検出の社会実装において重要な，法的観点の導入の端緒となる．本論文では，誹謗中傷の事例を扱う性質上，不快な表現が含まれることにご注意下さい．