オンライン上での誹謗中傷の問題に取り組む自動検出研究において，社会実装の観点で検出理由の説明が求められている．しかし，テキスト生成により説明するアプローチは，説明の論理性に課題があり，社会科学の専門家の介在がなく人間や社会にとって有益な説明を行えているか人手評価が不十分である．本研究は，裁判例に基づく誹謗中傷データセットを用いて，不法行為の観点から，誹謗中傷の分類タスクと，その理由の生成タスクに取り組んだ．そして，生成された理由に，裁判における判断が反映されているか法律の専門家が評価した．結果として，言語モデルを用いた，裁判例に基づく分類タスクの精度には課題があることや，理由の生成では論理的整合性のある回答を得られるが，モデルの学習データセットに含まれる価値観の影響を受け，法律や裁判での判断と異なる解釈を示す事例多くが確認された．本研究は，オンライン上の誹謗中傷の自動検出の社会実装において重要な，法的観点の導入の端緒となる．本論文では，誹謗中傷の事例を扱う性質上，不快な表現が含まれることにご注意下さい．

オンライン上での誹謗中傷の問題に取り組む自動検出研究において，コンテンツモデレーションの透明化[1,2]や社会的バイアス[3]の軽減のために，検出理由の説明が重要視される．人工知能における説明は，機械学習の推論や動作面について人にとって理解しやすい用語で表現[4]するタスクとして取り組まれている．その中でも，推論面から誹謗中傷検出の説明に取り組む研究[5]では，人手による分類における特徴語選択と，分類モデルにとって重要な特徴量との間の整合性について検証している．動作の不法行為を基準とした誹謗中傷の分類タスクと分類理由の生成タスクに取り組み，法律の専門家による人手評価を行う．面に着目すると，モデルを分類と同時にその理由説明を生成するように学習する手法[6,7]がある．これを利用し，誹謗中傷に存在する社会的バイアスやステレオタイプの説明を目指した研究[8,9]では，差別や中傷発言の含意に対する自由記述コーパスを作成し，テキスト生成により誹謗中傷検出の説明を試みている．しかし，これらの生成アプローチには，社会実装の観点から課題がある．具体的には，誹謗中傷を検出し対処するためには，社会における基準（日本における違法情報[10]やEUのDigitalServicesAct[11]）による誹謗中傷検出と，検出理由の詳細な説明をすべきである．ところが，クラウドソーシングで収集された自由記述コーパスを用いて学習されたモデルの生成文には，説明として論理の飛躍や常識からの隔たりが指摘[12]されている．加えて，生成された説明の評価には，人手評価と必ずしも相関しないことが議論[13,14]されている自動評価[8,9,12]か，専門的観点が欠けた評価[15]しか用いられていない．言い換えれば，社会問題にも関わらず社会科学の専門家の介在がなく，人間・社会の価値観との整合性に関する評価項目の議論や人手評.価が十分でないと考えられる．本研究は，誹謗中傷による不法行為の分類タスクと，その理由の生成タスクに取り組む．このために，裁判例から作成された誹謗中傷データセットを用いる．実験により，言語モデルが，不法行為を基準とする誹謗中傷の検出（分類）をどの程度行えるか，生成された理由がどの程度論理的で，不法行為の観点に沿った議論を行えているかを法律の専門家が人手で評価する．以上を通じて，本研究では，法的な観点からの紛争予防，さらには紛争解決に向けた，言語モデルによる判断と説明についての可能性と課題を議論する．