本研究の目的は,読み手や文脈によって攻撃的ともそうでないとも受け取られる可能性がある発言(グレーゾーンの発言)への自動的な対応によって,ソーシャルメディア上での円滑なコミュニケーションを促進することである.これを実現するために,グレーゾーンの発言を自動的に検出し,その発言に対する補足情報を読み手と書き手の双方に提供する会話補助手法を提案する.本稿では,グレーゾーンの発言の自動検出に向けて攻撃性推定モデルを構築する.さらに,提案手法によって読み手が感じる攻撃性を緩和できるか検証する.本実験で使用したデータセットおよび構築した攻撃性推定モデルは,https://huggingface.co/TomokiFujiharaで公開中である.

近年ソーシャルメディアにおける攻撃的な表現への対策が重要視されており,ヘイトスピーチや誹謗中傷などの攻撃的な発言の自動検出の研究が盛んに進められている[1,2].既に主要なSocialNetworkingService(SNS)では,攻撃的なコメントを自動検出する機能が試験運用されている.検出された攻撃的なコメントに対するSNS運営事業者の主な対応は,コメントの非表示や削除,アカウントの利用制限などである.その他の対応方法として,先行研究では事前に投稿者に警告文[3]や過去のトラブル事例[4]を提示する手法や,大規模言語モデルを用いて表現を書き換えて攻撃性を緩和する手法[5,6]などが提案されている.攻撃的な発言の自動検出や検出後の自動的な対応に関する先行研究は,攻撃性が明確な発言に注目していることが多い.しかしながら,実際のSNSの環境では攻撃性が曖昧な発言の方がコミュニケーショントラブルの発端になっている可能性がある[7].そ今の環境、さすがに辛いわ…!Aさん次のBさんの発言は強く心配してくれているのかもしれません。辞めたらいいのにと思ってしまう…BさんAさんはその物事に責任を持って取り組んでいるのかも知れません。こで本研究では,読み手や文脈によって攻撃的ともそうでないとも受け取られる可能性がある発言(グレーゾーンの発言)への自動的な対応によって,ソーシャルメディア上での円滑なコミュニケーションの促進を研究目的とする.ここで,先行研究[8]で実施されたSNSマナーの必要性に関するアンケート結果を参照する.SNSマナー必要派の意見として,「知らない人が突然会話に入ってくることに『怖い,変だと思う,不快に感じる』といったネガティブな印象を持つ」というものが挙げられている.つまり,知らない人物からのコメントというだけで,そのコメントに対してネガティブな印象を抱く可能性がある.一方で,SNSマナー必要派の別の意見として,「『FF外から失礼します』が書かれていると,この人は『悪い人,変な人ではない』と思うことができる」というものが挙げられている.そのため,知らない人物からのコメントであっても書き手の人柄や心情などが推測できる情報が事前に提示されることで,続くコメントの内容を比較的ポジティブな印象で受け取れるようになる可能性があると考えた.そこで本研究では,グレーゾーンの発言を自動的に検出し,その発言の補足情報を読み手と書き手の双方に提示する会話補助手法(図1)を提案する.本稿では,グレーゾーンの発言の自動検出に向けて,ソーシャルメディア上のコメントの攻撃性推定モデルを構築し,その性能分析を行う.さらに,提案手法によってコメントの読み手が感じる攻撃性を緩和できるか検証する..