不適切投稿自動検出システムの構築と放送禁止用語による検証

近年，SNS上の誹謗中傷書き込みが社会問題となっている．その背景のひとつには，コロナ禍により社会全体が不安に包まれている中，SNSの利用時間が増えネガティブな情報に触れる機会が多くなったことが挙げられる[1]．このような状況の下，SNS上の偏見や誹謗中傷といった不適切な書き込みを検知するシステムの開発は社会的に重要であり，様々な研究が行われてきた[2,3,4,5]．いずれの先行研究においてもSNS等のインターネット上の文章に対し不適切かどうかのラベルを人手で付与し，モデルの学習を行っており，人的コストがかかる．日本語の公開学習済みモデルで関連するものとしては，ネットいじめのデータで学習したモデルがある[4]1）が，いずれの先行研究でも公開アノテーションデータをみつけることができず，報告されたモデルの再現が難しい．また，学習データが特定ドメインや小規模であり未知語に弱く，対象の特徴である新出単語の多さや不適切な表現の幅広さに対応し難い．我々は，不適切なSNS投稿の検知モデル構築のた1）https://huggingface.co/ptaszynski/yacis-electra-small-japanese-cyberbullyingめに，不適切かどうかの人手アノテーション作業なしに，モデル構築のためのデータを半自動的に収集するシステムを提案する．本研究のデータ収集システムは最初に不適切な単語のリストを定義する必要があるが，それ以外は機械的に実行できる．本研究では，不適切な表現をより高頻度に使用するユーザは，最初に種として与えた単語リストにない不適切な表現をも含む投稿が多い，と仮定する．そのうえで，提案システムではこの不適切な単語のリストを用いて，不適切な投稿をしがちなSNSユーザ群（不適切群）とそうでない一般のSNSユーザ群（一般群）をルールベースで分類し，それぞれのユーザ群における投稿を大規模収集することで，不適切群かどうかの二値分類ラベルが付与された投稿データセットを構築する．単に半自動的構築ができるのみならず，潜在的なユーザ属性とさまざまな表現の広がりを捕捉できると期待する．この二値ラベル付き投稿データを用いて，SNSなどの投稿が適切かどうかを分類し，荒井ら[6]が作成した日本語ヘイトスピーチコーパスと，自前で作成した偏見アノテーション付き投稿コーパスとでその性能をそれぞれ検証し，提案システムが有効に動作することを示す．