不法行為としての誹謗中傷検出と検出理由の説明可能性の検証

オンライン上での誹謗中傷の問題に取り組む自動検出研究において，コンテンツモデレーションの透明化[1,2]や社会的バイアス[3]の軽減のために，検出理由の説明が重要視される．人工知能における説明は，機械学習の推論や動作面について人にとって理解しやすい用語で表現[4]するタスクとして取り組まれている．その中でも，推論面から誹謗中傷検出の説明に取り組む研究[5]では，人手による分類における特徴語選択と，分類モデルにとって重要な特徴量との間の整合性について検証している．動作の不法行為を基準とした誹謗中傷の分類タスクと分類理由の生成タスクに取り組み，法律の専門家による人手評価を行う．面に着目すると，モデルを分類と同時にその理由説明を生成するように学習する手法[6,7]がある．これを利用し，誹謗中傷に存在する社会的バイアスやステレオタイプの説明を目指した研究[8,9]では，差別や中傷発言の含意に対する自由記述コーパスを作成し，テキスト生成により誹謗中傷検出の説明を試みている．しかし，これらの生成アプローチには，社会実装の観点から課題がある．具体的には，誹謗中傷を検出し対処するためには，社会における基準（日本における違法情報[10]やEUのDigitalServicesAct[11]）による誹謗中傷検出と，検出理由の詳細な説明をすべきである．ところが，クラウドソーシングで収集された自由記述コーパスを用いて学習されたモデルの生成文には，説明として論理の飛躍や常識からの隔たりが指摘[12]されている．加えて，生成された説明の評価には，人手評価と必ずしも相関しないことが議論[13,14]されている自動評価[8,9,12]か，専門的観点が欠けた評価[15]しか用いられていない．言い換えれば，社会問題にも関わらず社会科学の専門家の介在がなく，人間・社会の価値観との整合性に関する評価項目の議論や人手評.価が十分でないと考えられる．本研究は，誹謗中傷による不法行為の分類タスクと，その理由の生成タスクに取り組む．このために，裁判例から作成された誹謗中傷データセットを用いる．実験により，言語モデルが，不法行為を基準とする誹謗中傷の検出（分類）をどの程度行えるか，生成された理由がどの程度論理的で，不法行為の観点に沿った議論を行えているかを法律の専門家が人手で評価する．以上を通じて，本研究では，法的な観点からの紛争予防，さらには紛争解決に向けた，言語モデルによる判断と説明についての可能性と課題を議論する．