DEIM Forum 2023 4a-3-5

トキシック性に基づいたニュースコメントフィルタリングのための投稿者のフォロー関係の活用
中原 輝樹†

牛尼 剛聡†† 九州大学大学院 芸術工学府 〒 815-8540 福岡市南区塩原 4-9-1† 九州大学大学院 芸術工学研究院 〒 815-8540 福岡市南区塩原 4-9-1
E-mail: †nakahara.teruki.528@s.kyushu-u.ac.jp, ††ushiama@design.kyushu-u.ac.jp
あらまし SNS やニュースサイトを利用してニュース記事を読む際，読者はニュースに対する他者のコメントを読むことができる．読者は他者のコメントを読むことにより，ニュースに対する世論を理解でき，ニュースの全体像の把握に役立つ．しかし，他者のコメントには読者を不快に感じさせるトキシック（有害）コメントが含まれることがあり，ユーザの体験の質を低下させる．このため，コメント閲覧時における読者の体験の質を向上させるために，トキシッ
クコメントの予測を行うことが重要となる．本研究では，コメントの読者の価値観が多様であることを考慮し，読者が過去に低評価したニュースコメントのフィードバックに基づき，読者ごとにトキシックコメントを予測する．提案
手法では，読者が不快と感じるコメントの投稿者の傾向を考慮した予測を行うために，Twitter のフォロー関係に基づいてコメントの投稿者の特徴を取得する．評価実験の結果，フォロー関係に基づいて取得したコメント投稿者の埋め込み表現を予測に活用することにより，トキシックコメント予測の個人化の性能が向上することが示された．
キーワード パーソナライゼーション，ソーシャルメディア，Twitter, BPR, LightGCNを深めることができる．一方，ニュースコメントなどのオンラ

1 はじめに近年，インターネット上でニュースを読むことが一般化した．
新聞通信調査会によるメディアに関する全国世論調査 [1] では，
週に 1 日以上インターネット上でニュースを読むと回答したのは，全世代の 73.1 ％に及び，40 代以下では 90 ％を超えている．ポータルサイトや，テレビ局・新聞社が運営するニュース
サイトだけでなく，SNS(ソーシャル・ネットワーキング・サー
ビス) 上でニュースを読む人々も多い．特に，10 代・20 代の若い世代では，インターネット上でニュースを読む際にアクセスするサイトとして，SNS が最も多く利用されている [1]．
インターネット上でニュースを読む際，読者はニュースだけ
ではなく，ニュースに対する他者のコメントを読むことができる．日本における代表的なニュースサイトの一つである Yahoo!
ニュース 1 では，ニュース記事毎に，ニュースに対するコメン
トを投稿することができるコメント欄が設けられている．また，代表的な SNS の一つである Twitter 2 では，テレビ局・新聞社などのアカウントが，ニュースやニュース記事に対するリンクをツイートとして投稿している．ユーザは，ニュースサイトにおけるコメント欄のように，Twitter においてもニュースに対

インコミュニティでは，攻撃的な内容や誹謗中傷を含む発言などの読者にとって不快と感じるコメントが投稿される問題がある．このような読者が不快と感じるコメントは，有害という意味を表す toxic という単語からトキシックコメント (toxic

comment) と呼ばれている [3]．本論文では，「トキシックコメント」を攻撃的な内容や誹謗中傷を含む発言などの読者にとって不快と感じるコメントとして定義する．トキシックコメントの例を図 1 に示す．
コメント閲覧時における読者の体験の質を向上させるために，
トキシックコメントを予測する手法が提案されている [4–6]．これらの手法では，コメントのテキストなどを入力し，対象のコメントがトキシックであるかを予測する機械学習モデルを利用している．しかし，コメントの読者の価値観などの違いによってトキシックコメントの判定基準は異なる [7]．
著者らはトキシックコメント予測の個人化の重要性を検証するために，コメント読者間のコメントに対する評価のばらつきを調査した．クラウドソーシングサービスであるクラウドワー
クス 3 でアンケートを実施し，ニュースコメントに対するラベ
ル付けを行った．アンケートでは 2022 年 4 月 1 日から 6 月 30

するコメントをツイートへの返信として投稿できる．

Stroud ら [2] の調査では，インターネット上でニュースを読む人の 49 ％がニュースに対するコメントを読むと回答している．他者のコメントを読むことにより，ニュースに対する世論を理解し，ニュースの全体像を捉え，ニュースに対する理解

図 1: トキシックコメントの例

1：https://news.yahoo.co.jp/
2：https://twitter.com/

3：https://crowdworks.jp/

日の 3ヶ月間に投稿されたニュースコメント 400 件を 50 名のユーザに提示し，不快と感じるかについて {1: 全くそう思わな•

実際に投稿されたニュースとコメントからなるデータセットを利用して提案手法が有効であることを示した．

い， 2: あまりそう思わない，3: どちらとも言えない，4: やや

本論文の構成は次の通りである．2 章で関連研究について述

そう思う，5: 非常にそう思う } の 5 段階で回答してもらった．

べる．3 章では提案手法について説明する．4 章では評価実験

これにより，1 件のニュースコメントにつき 50 名のユーザからについて述べる．5 章で本論文のまとめを述べる．

の回答を取得し，評価値の平均値と標準偏差をコメントごとに算出した．コメントと評価値の平均値・標準偏差の関係の例を
表 1 に示す．400 件のコメントの標準偏差をヒストグラムとして表したものを図 2 に示す．
図 2 より，5 段階の評価値の標準偏差は 1.0 付近に集中していることがわかる．つまり，コメント読者による評価値は標準
的に 1 程度平均から離れていることが多く，コメント読者間のコメントに対する評価にばらつきが存在していることがわかる．
このため，コメントの読者の価値観などを考慮するために，トキシックコメント予測において個人化を行うことが重要である

Nakahara ら [8] はこれまでにトキシックコメントの予測において個人化（パーソナライズ）を行い，予測性能の向上を示している．この手法では予測対象のコメントと読者が過去に低評価したコメントの利用に加え，コメントの投稿者の特徴を活用する機械学習モデルを用いた予測を行っている．これにより，読者が不快と感じるコメントの投稿者の傾向を捉えることができ，トキシックコメント予測の性能が向上する．また，コメン
トの投稿者の特徴を取得する際に過去に投稿したコメントとコメント元のニュースのテキストを利用している．本論文では，コメントの投稿者の特徴はその投稿者が属するコミュニティによって決定されるという仮定をもとに，Twitter のフォロー関係に基づいてコメントの投稿者の特徴を取得し，機械学習モデ
ルによる予測を行う手法を提案する．

これまでにニュースコメントの閲覧を支援するためのいくつかの研究が行われている．Ma ら [9] は，代表的なトピックモ
デルの 1 つである LDA(Latent Dirichlet Allocation) [10] を用
いてコメントのトピックを推定することで，ニュースコメントのクラスタリングを行っている．Aker ら [11] は，コメント間の類似度をグラフベースの手法でモデル化することで，ニュークラスタリングによってニュースコメントの全体像を読者に理解させることでニュースコメントの閲覧支援を行っている．それに対して本論文での提案手法では，攻撃的な内容や誹謗中傷を含む発言などのトキシックコメントを事前に予測することで読者の体験の質を向上させ，ニュースコメントの閲覧支援を行うことを目的とする．

2. 2 トキシックコメント予測
これまでに SNS などのオンラインコミュニティにおけるトキ
シックコメントを予測する研究や実装が行われている．Geor-

gakopoulos ら [4] は，Wikipedia における編集者の議論ページ
を対象に，CNN を用いた機械学習モデルによってトキシック
コメントの予測を行っている．Hessel ら [6] は，Reddit を対象に LSTM [12] や BERT [13] などのモデルを用いて，論争的な本論文の貢献は，以下の通りである．

投稿と非論争的な投稿の分類を行っている．Saveski ら [14] は，

ニュースコメントに対する読者のフィードバックから読者の埋め込み表現を生成し，トキシックコメント予測の個人化を行う方法を開発した．

•

2. 1 ニュースコメントの理解支援

スコメントのクラスタリングを行っている．これらの研究では，

といえる．

•

2 関連研究

Twitter における会話の構造と投稿の有害性との関係について分析している．Google Jigsaw はトキシックコメントを検出するシステムを Perspective API として提供している [5]．これTwitter のフォロー関係に基づいて取得したコメント投稿者の埋め込み表現を予測に活用することで，トキシックコメ
ント予測の個人化の性能を向上させる方法を開発した．

らの手法ではコメントの読者の価値観などの違いが考慮されていないため，本論文では予測の個人化を行うことでコメントの
読者の価値観などの違いを考慮する手法を提案する．

Frequency

2. 3 トキシックコメント予測の個人化
40

Sap ら [7] は，評価者のアイデンティティや信条とトキシック

35

性の評価との間に関連性があることを示している．このことは，

30

コメント読者の価値観などの違いを考慮し，トキシックコメン

25

トの予測において個人化（パーソナライズ）を行うことの重要20性を示している．Kumar ら [15] は，コメントの読者が過去に15有害と評価したコメントのフィードバックを利用し，Google

10

Jigsaw が提供する Perspective API のパラメータを読者ごと

500.0にチューニングすることによって予測性能が向上することを示
0.2

0.4

0.6

0.8
SD

1.0

1.2

図 2: 評価値の標準偏差の分布1.4

している．Nakahara ら [8] は，読者が過去に低評価したコメントだけでなく，低評価したコメントの投稿者の特徴を活用す
る機械学習モデルを用いた予測を行っている．これにより，読者が不快と感じるコメントの投稿者の傾向を捉えることができ，

表 1: コメントと評価値の平均値・標準偏差の関係の例
ニュース

コメント

平均値

標準偏差

悠仁さま 筑波大学附属高校に入学

ご入学おめでとうございます。

1.14

0.35

馬鹿な女。今の憲法じゃ、避難する前に滅ぼされている！

3.72

0.95

いっそ最初から産むな

2.96

1.34

弾道ミサイル避難施設に地下鉄の駅 100 か所余りを初指定
子ども 2 人自宅放置しパチンコ

乳児死亡で夫婦逮捕

トキシックコメント予測の性能が向上する．コメントの投稿者

め込みベクトルを生成する機能である．ここでは，単に予測対の特徴に関して，対象の投稿者が過去に投稿したニュースコメ

象とするコメントのテキストを利用するだけでなく，コメント

ントを入力とした機械学習モデルを利用することにより取得しを投稿したユーザの情報も利用する．具体的には，予測対象のている [16]．

コメント ct の埋め込みベクトル emc (ct ) を 2 つのベクトルを連結したベクトルとして生成する．

2. 4 フォロー関係の活用

1 つ目のベクトルは予測対象のコメントとコメント元のニューSNS におけるフォロー関係はユーザの特徴を表す重要な情報のひとつである．これまでにフォロー関係から取得したユーザ

スのテキストを BERT に入力することで得られるベクトルである．形式的には以下の式 (3) で表される関数として定義する．

の特徴を下流タスクで活用する研究が行われている．Li ら [17]は，ユーザのソーシャルネットワークと単語の埋め込み表現を組み合わせることにより，ユーザの属性分類の精度が向上する
ことを示している．本論文では Twitter のフォロー関係からコメント投稿者の特徴を取得し，トキシックコメント予測に活用
する．

enccmt (ct ) = BERT(ct , news(ct ))(3)

ここで news(c) はコメント c が参照するニュースツイートである．BERT によるコメントとコメント元のニュースのテキストのベクトル化については 3. 4 節で述べる．

2 つ目のベクトルは予測対象のコメントを投稿したユーザを表すベクトルであり，3. 5 節で説明する投稿者のフォロー関係

3 提案手法を活用する手法によって表現する．これより，提案手法における予測対象のコメント ct の埋め込みベクトル emc (ct ) は，以

3. 1 提案手法の概要
本論文では予測対象のニュースコメントと，読者が過去に低評価したニュースコメントのフィードバックに基づいてトキ

下の式 (4) で定義できる．

emc (ct ) = enccmt (ct ) ⊕ encusr (commenter (ct ))(4)

シックコメントを読者ごとに予測することを考える．本論文で提案する手法の概要を図 3 に示す．提案手法ではコメントの投稿者の特徴を考慮することで読者が不快と感じるコメントの投稿者の傾向も捉え，予測性能の向上を目指す．コメントの投稿者の特徴は図 3 の News Comment Encoder および Reader

Encoder における Follow Relation Encoder で表現する．ここで，読者 rt にとってのコメント ct のトキシック度を予測する
機械学習モデルは以下の式 (1) で表される.

y = f (x; θ)

ここで encusr (u) は，コメント投稿者 u をフォロー関係を用いてベクトル化する関数を表す．commenter(c) はコメント c を投稿したユーザを表す．

3. 3 Reader Encoder
Reader Encoder は対象とする読者の埋め込みベクトルを得るための機構である．ここでは，読者が過去に低評価したコ
メントの情報を格納するデータベース（フィードバックデータ(1)

ここで x はコメント ct と読者 rt のペア (ct , rt ) のベクトル表
現，y はトキシック度を表すスカラー値，θ はパラメータである．提案モデルの学習用データセット D は，入力 x と出力 yのペア (x, y) の集合として、以下の式 (2) で定義される.

D = {(x, y) | x = emc (ct ) ⊕ emr (rt ), ct ∈ C, rt ∈ R, (2)y ∈ {1, 2, 3, 4, 5}}
C と R はそれぞれコメントの集合と読者の集合を表す．emc (ct )と emr (rt ) は，それぞれコメント ct と読者 rt の埋め込みベク
トルを表す．⊕ はベクトルの連結を行う演算子であり，x はコ
メント ct の埋め込みベクトルと読者 rt の埋め込みベクトルを連結したものである．

3. 2 News Comment Encoder
News Comment Encoder は，予測対象とするコメントの埋

ベース）が利用可能であるとする．フィードバックデータベースを利用することで読者 ID に対してそのユーザが過去に低評価したコメントとコメント元のニュース，およびそのコメントを投稿したユーザの投稿者 ID を取得できる．
コメントの読者 rt のベクトルを生成するために，Reader

Encoder では 2 つのベクトルを利用する．
1 つ目のベクトルは読者が低評価したコメントのベクトルである．読者 ID に基づいてフィードバックデータベースから対象の読者が過去に低評価したコメントとコメント元のニュースのペアのテキストを N 件取得し，BERT に入力することで N
個のベクトルを得る．いま，読者 rt が低評価したコメントの集
合を toxic(rt ) = {c1 , . . . , cN } と表現する．トキシックコメン
トのベクトル集合 T C(rt ) を以下の式 (5) で定義する．

T C(rt ) = {enccmt (c) | c ∈ toxic(rt )}(5)

予測対象のコメント ct のベクトル enccmt (ct ) と，対象の読者

Toxic Score（読者にとってのコメントの不快度）
Concat & Fully-Connected Layer

Attention

Attention

・・・

Follow Relation
Encoder

BERT・・・

Follow Relation
Encoder

BERT

・・・

＋

＋

ニュース・コメント

コメント投稿者

・・・

＋

・・・

低評価したニュース・コメント

コメント投稿者

フィードバックDB

News Comment Encoder
読者ID

Reader Encoder

図 3: 提案手法の概要

rt が過去に低評価したコメントのベクトルの集合 T C(rt ) の予測対象のコメントを投稿したユーザのベクトル

Attention を計算することで T C(rt ) を集約し，1 つのベクト

encusr (commenter(ct )) と T U (rt ) の Attention を計算する

ルを得る．enccmt (ct ) と T C(rt ) の Attention を計算することことで T U (rt ) を集約し，対象の読者が過去に低評価したコメ

で T C(rt ) を集約する関数は以下の式 (6) で表される．

ントを投稿したユーザの表現を得る．encusr (commenter(ct ))enc

toxic cmt

(ct , rt ) =N∑と T U (rt ) の Attention を計算することで T U (rt ) を集約する

Wi · e(T C(rt ), i)(6)関数は以下の式 (12) で表される．

i=1

ここで，e(S, i) は集合 S の i 番目の要素を表し，Wi は以下の式 (7) で表される．

(

Wi = Softmax

qki⊤
√
d

enctoxic usr (encusr (commenter(ct )), T U (rt ))
=

)
vi

(7)

ここで，Wi は以下の式 (13) で表される．

(
Wi = Softmax

q = W · enc

cmt

(ct )

(8)

vi = W · e(T C(rt ), i)
v

k

qki⊤
√
d

)
vi

(13)

q, ki , vi はそれぞれ以下の式 (14), (15), (16) で表される．

ki = W k · e(T C(rt ), i)q

Wi · e(T U (rt ), i)i=1q, ki , vi はそれぞれ以下の式 (8), (9), (10) で表される．
q

N
∑

(12)

(9)
q = W q · encusr (commenter(ct ))(14)

ki = W k · e(T U (rt ), i)(15)

vi = W v · e(T U (rt ), i)

(16)

(10)

v

ここで，W , W , W は学習可能なパラメータである．

2 つ目のベクトルは，読者が過去に低評価したコメントを投稿したユーザのベクトルである．読者 ID に基づいてフィード
バックデータベースから対象の読者が過去に低評価したコメン

ここで，W q , W k , W v は学習可能なパラメータである．

トを投稿したユーザを N 件取得し，投稿者のフォロー関係を

3. 4 BERT によるニュースとコメントのベクトル化

活用する手法によって N 個のベクトルを得る．ここで，対象の読者 rt が過去に低評価したコメントを投稿したユーザのベクトルの集合は以下の式 (11) で表される．

T U (rt ) = {encusr (commenter(c)) | c ∈ toxic(rt )}本節では，BERT によるニュースとコメントのベクトル化について説明する．BERT は単語同士の関係を考慮することで，入力文を文脈に応じたベクトルに変換することができ，文章分(11)

類などの様々な自然言語処理のタスクを高い精度で処理可能でvector ofnews & comment

30000
T[CLS]

T1

TN

Trm

Trm

Trm

Trm

Trm

Trm

Trm

Trm

E[CLS]E1

EN

T[SEP]T 1’

E[SEP]

TM’

EM’

E1’

T[SEP]’E[SEP]’

25000
20000
15000
10000
5000

[CLS]

Tok 1

Tok N

[SEP]

Tok 1

news text

Tok M

[SEP]

0

1

2

3

4

5

図 5: アンケートで取得したラベルの分布

comment text

図 4: BERT の構造ある．提案手法では，ニュースとコメントのテキストを以下の

4 評価実験

形式で結合し，トークンごとに分割したテキストを BERT へ

4. 1 使用データ・実験設定の入力とする．

[CLS] ニュース文 [SEP] コメント文 [SEP]

4. 1. 1 トキシックコメント予測モデル
TwitterAPI を用い，2022 年 4 月 1 日から 2022 年 6 月 30 日にかけて NHK ニュース (@nhk news) 4 が投稿したニュースのここで，[CLS] は入力文の先頭を表す特殊トークンであり，

ツイート，ニュースに対するユーザの返信，返信ユーザのユー[SEP] は文のペアの境界や，入力文の終わりを表す特殊トーク

ザ ID の 3 つをそれぞれニュース・コメント・投稿者 ID としてンである．BERT では，Transformer [18] の Encoder におけ

取得した.

る Self-Attention 機構により，入力データ内の単語どうしの関

ニュースコメントに対する評価値を取得するため，クラウド係を考慮したベクトルを出力する．提案手法で用いる BERT

ソーシングサービスの一つであるクラウドワークスでアンケーの構造を図 4 に示す．E は入力埋め込み，Trm は Transformer

トを実施した．被験者の総数は 250 名であり，250 名の被験者

Encoder，T は最終層の Transformer Encoder による出力をを 50 名ごとの 5 つのグループに分けた．グループごとに 2022

表す．提案手法では，最終層の Transformer Encoder の [CLS]

年 4 月 1 日から 6 月 30 日の 3ヶ月間に投稿されたニュースコ

トークンの出力ベクトル（768 次元）を BERT の出力として用

メント 400 件を提示し，各ニュースコメントが不快と感じるかいる．

について {1: 全くそう思わない，2: あまりそう思わない，3: ど

3. 5 投稿者のフォロー関係の活用

ちらとも言えない，4: ややそう思う，5: 非常にそう思う } の 5

本節では，フォロー関係を用いてコメントの投稿者の特徴を表現する手法について説明する．

3. 5. 1 Bayesian Personalized Ranking(BPR) を用いたフォロー関係のベクトル化

Bayesian Personalized Ranking(BPR) [19] は，暗黙的な評
価値に対する行列分解の手法の一つである．本論文では，コメン
ト投稿者がフォローしているユーザを表す行列を commenter-followee 行列として定義し，commenter-followee 行列 X をコ
メント投稿者の因子ベクトル P とフォロイーの因子ベクトル

Q に X ≈ P · Q⊤ として分解する．コメント投稿者の因子ベク
トル P を用いることにより，コメント投稿者の特徴を考慮した
トキシックコメント予測を行う．

3. 5. 2 LightGCN を用いたフォロー関係のベクトル化
LightGCN [20] は GCN(Graph Convolutional Networks) を利用して周辺のユーザやアイテムから直接ベクトル表現を獲得する手法である．本論文ではコメント投稿者とフォロイーからなる二部グラフを定義し，LightGCN を利用して取得したコメ段階で回答してもらった．なお，被験者に提示するニュースとコメントは各グループ内で共通である．アンケートで取得したラベルの分布を図 5 に示す．

2022 年 4 月 1 日から 4 月 14 日の 2 週間において 5 段階の評価値が 4 以上である（不快と評価された）ニュースとコメントのペアと，そのコメントを投稿したユーザの投稿者 ID お
よび評価を行ったユーザの読者 ID を格納したデータベースをフィードバックデータベースとして構築した．フィードバック
データベースには，評価値が 4 未満である（不快と評価されなかった）ニュースとコメントは格納しない．提案手法では，読者 ID を入力としてフィードバックデータベースから読者が不快と評価したニュースとコメントのペアと，そのコメントの投稿者 ID を取得する．読者が不快と評価したニュースとコメン
トのベクトルと，不快と評価したコメントを投稿したユーザのベクトルを利用することにより，予測の個人化を行う．
アンケートで対象としたニュースコメントを投稿した全ユー
ザのフォロー情報を Twitter API を用いて取得した．取得したント投稿者の特徴をトキシックコメント予測に活用する．
4：https://twitter.com/nhk news

するために，本実験では，複数のモデルによる予測結果の比較を行った．各モデルの詳細は以下の通りである．
600

Follow-BPR

500

図 3 に示すように，コメント投稿者の特徴を予測に利用する．

400

コメント投稿者の特徴をエンコードするために，BPR によりフォロー関係をベクトル化する．BPR の実装はライブラリ

300

implicit 6 を用い，コメント投稿者のベクトルの次元数は 768 と

200

した．

100
0

Follow-LightGCN
0

1000

2000

3000

4000

5000

6000

図 3 に示すように，コメント投稿者の特徴を予測に利用する．
コメント投稿者の特徴をエンコードするために，LightGCN に

図 6: ユーザのフォロー数の分布よりフォロー関係をベクトル化する．LightGCN の実装はライブラリ recommenders 7 を用い，コメント投稿者のベクトルのユーザのフォロー情報から各ユーザのフォロー数を算出し，フォ次元数は 768 とした．

ロー数の分布を表したものを図 6 に示す．ユーザのフォロー数

Past Commentsの最小値は 0，最大値は 60,459，中央値は 273 であった．

上記の 2 つの手法と同様に，コメント投稿者の特徴を予測に利トキシックコメント予測を行うモデルの訓練で利用する教師

用する．コメント投稿者の特徴をエンコードするために，過去

データについて説明する．教師データの入力データは予測対象のコメントを利用する [8]．コメント投稿者のベクトルの次元のニュースとコメントのペアと読者 ID であり，正解ラベルは

数は 768 とした．

読者による 5 段階の評価値である．2022 年 4 月 15 日から 6 月

Simple

9 日のニュース・コメントを訓練データ，2022 年 6 月 10 日か

コメント投稿者の特徴を予測に利用しない．予測対象のニューら 6 月 20 日のニュース・コメントを検証データ，6 月 21 日かスコメントと，読者が過去に低評価したニュースコメントのテら 6 月 30 日のニュース・コメントをテストデータとして時系

キストのみを用いて予測を行う．

順に分割した．
フィードバックデータベースから 10 件以上のフィードバックを取得できた 150 人のコメント読者を対象にトキシックコメン
ト予測モデルの訓練を行った．ニュースとコメントをベクトル化するための BERT モデルに関しては，東北大学乾研究室による日本語 Wikipedia を用いた事前学習済み BERT モデル 5を用い，ﬁne-tuning を行った．また，図 3 の 2 箇所の BERT層に関して，重みは共有せずに訓練を行った．フィードバック
を大量に行う行為は読者にとって負担となるため，個人化に用いる読者によるフィードバックのデータ数は少量であることが望ましい．このため，読者 ID の入力時に取得する，過去に低評価したニュースとコメントを 10 件という少量のデータに限定して個人化を行った．

4. 1. 2 前 処 理
本研究で用いるニュースのテキストには以下の前処理を行った．

•

URL の除去

•

記号の除去

•

ハッシュタグの除去 (e.g. #nhk news)

また，コメントのテキストには以下の前処理を行った．

•

URL の除去

•

記号の除去

•

絵文字の除去•メンションの削除 (@ユーザ ID)

4. 1. 3 使用モデル

4. 2 コメント投稿者の特徴の可視化
各手法により得られたコメント投稿者の特徴を可視化し，トキシックコメント予測におけるコメント投稿者のフォロー関係の活用の有効性を調べた．アンケートで対象としたニュースコ
メントを投稿した全ユーザの特徴を各手法により取得し，コメント投稿者の特徴を主成分分析を用いて二次元に圧縮した．次に，各コメントに対する 5 段階の評価値の標準偏差の大きさが上位と下位のコメントを各 50 件取得し，それぞれのコメントの投稿者の特徴を可視化した．可視化したものを図 7 に示す．
ここで，評価値の標準偏差が大きいコメントは，読者の価値観などによって受け取り方が大きく異なると捉えることができ，個人化の重要性が高いコメントといえる．反対に，評価値の標準偏差が小さいコメントは個人化の重要性が低いといえる．図7 より，(a) の BPR により投稿者のフォロー関係をベクトル化した手法では，評価値の標準偏差が大きいコメントと小さいコ
メントの投稿者の特徴の分布を他の手法と比べて分離できている．このため，BPR によりフォロー関係をベクトル化する手法で得られたコメント投稿者の特徴は, 予測の個人化を行う際に有効であることが示唆された．

4. 3 実 験 結 果
4. 3. 1 評価値予測の結果
テストデータを対象として評価値の予測を行い，提案手法の有用性を検証した．4. 1. 3 項で説明した 4 種類の評価値予測モ

提案手法によるトキシックコメント予測の結果を評価・比較
6：https://github.com/benfred/implicit
5：https://github.com/cl-tohoku/bert-japanese

7：https://github.com/microsoft/recommenders

評価値の標準偏差が⼤きいコメントを投稿したユーザ
評価値の標準偏差が⼩さいコメントを投稿したユーザ(a) Follow-BPR(b) Follow-LightGCN(c) Past Comments

図 7: コメント投稿者の特徴の可視化

表 2: 各モデルの MAE（平均絶対誤差）
モデル

MAE

Follow-BPR

0.756

0.50

Follow-BPR
Follow-LightGCN
Past Comments
SimpleChance-Level

Follow-LightGCN 0.763
0.767

Simple0.780

デルを利用し，被験者が回答した評価値と予測される評価値の誤差を MAE（平均絶対誤差）で評価した．4 種類の評価値
予測モデルによる評価値予測の結果を表 2 に示す．表 2 より，

Follow-BPR，Follow-LightGCN，Past Comments，Simple の

0.45

Precision@k

Past Comments

0.40
0.35

順に小さい予測誤差が得られた．これより，トキシックコメン
トの予測においてコメント投稿者の特徴を活用することが有効であることがわかった．さらに，提案手法であるユーザが属す
るコミュニティを表すフォロー関係を用いてコメント投稿者の特徴を取得することが，評価値予測の性能向上に有効であるこ

0.30
1

2

3

4

5

k

6

7

8

9

10

とがわかった．
図 8: Precision@k の推移

4. 3. 2 トキシックコメント分類の結果
読者ごとに予測評価値が上位 k 件のニュースコメントを「トキシックコメント」と判定したときの正解率 (=Precision@k)

キシックコメント分類では Follow-LightGCN が Follow-BPR

を求めることで，2 値分類における提案手法の有用性を検証しと同様にトキシックコメント分類の性能向上に有効であった．

た．正解ラベルに関して，アンケートで 4 または 5 の評価値

また，k の値が大きくなるにつれて予測評価値が小さいコメンが付けられたコメントを「トキシックコメント」とし，それ以トも「トキシックコメント」と判定される．このため，全ての外の評価値が付けられたコメントは「トキシックコメントでモデルで徐々に Precision@k の値が小さくなり，各モデルの性ない」とした．SNS などのインターネット上のコンテンツで能の差も徐々に小さくなった．

は，推薦やフィルタリングによって自分の興味があるコンテン提案手法で得られた最も高い Precision の値は 0.5 程度であツばかりが提供されてしまうフィルターバブルと呼ばれる現象

り，2 値分類における性能としては不十分である．しかし，図があり，特定の信念が増幅または強化されることが問題となっ5 より今回取得したラベルは不均衡であり，本実験におけるている [21]．このため，本実験では予測評価値が上位のニューPrecision の値のチャンスレベルは約 0.3(=29,200/100,000) でスコメントに対する正解率から予測性能の評価を行うことにある．このため，ラベルの不均衡を考慮すると，提案手法によリ，読者にとって特に有害なコメントのみをフィルタリング

よって十分な分類結果が得られたといえる．

することを目的とした．k=1 から k=10 と変化させたときのPrecision@k の値を図 8 に示す．図 8 より，ほとんどの k の値で提案手法である Follow-BPR モデルや Follow-LightGCN モ
デルから他のモデルと比較して高い Precision の値が得られた．
図 7 のコメント投稿者の特徴の可視化では，Follow-BPR モデ
ルが最も投稿者の特徴を分離できていた．しかし，本実験のト

5 ま と め
本論文では，ニュースコメントの読者が過去に低評価した
ニュースコメントのフィードバックをもとに，トキシックコメ
ント予測の個人化に取り組んだ．提案手法では，予測対象のコメントと読者が過去に低評価したコメントの利用に加え，コメントの投稿者の特徴を活用する機械学習モデルを用いた. また，コメントの投稿者の特徴はその投稿者が属するコミュニティに[15]

よって決定されるという仮定をもとに，Twitter のフォロー関係に基づいてコメントの投稿者の特徴を取得した．評価実験の結果，フォロー関係に基づいて取得したコメント投稿者の埋め込み表現を予測に活用することにより，予測の個人化の性能が[16]向上することが示された．
[17]

謝

辞

本研究は JSPS 科研費 19H04219 の助成を受けたものです．
文

献[1] 新聞通信調査会. 第 14 回メディアに関する全国世論調査, 2021.
[2] Natalie Jomini Stroud, Emily Van Duyn, and Cynthia Peacock. News commenters and news comment readers. Engaging News Project, pp. 1–21, 2016.
[3] Julian Risch and Ralf Krestel. Toxic Comment Detection in
Online Discussions, pp. 85–109. Springer Singapore, Singapore, 2020.
[4] Spiros V. Georgakopoulos, Sotiris K. Tasoulis, Aristidis G.
Vrahatis, and Vassilis P. Plagianakos. Convolutional neural networks for toxic comment classification. No. 35 in In
Proceedings of the 10th Hellenic Conference on Artificial
Intelligence, pp. 1–6, 2018.
[5] Google Jigsaw. Perspective API, 2017.
[6] Jack Hessel and Lillian Lee. Something’s brewing! early
prediction of controversy-causing posts from discussion features. In Proceedings of the Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 1648–1659, 2019.
[7] Maarten Sap, Swabha Swayamdipta, Laura Vianna, Xuhui
Zhou, Yejin Choi, and Noah A. Smith. Annotators withattitudes: How annotator beliefs and identities bias toxic
language detection. In Proceedings of the Conference of theNorth American Chapter of the Association for Computational Linguistics, pp. 5884–5906, 2022.
[8] Teruki Nakahara and Taketoshi Ushiama. Personalized
prediction of offensive news comments by considering thecharacteristics of commenters. In Proceedings of the 38th
ACM/SIGAPP Symposium on Applied Computing, 2023.
(to appear).
[9] Zongyang Ma, Aixin Sun, Quan Yuan, and Gao Cong.
Topic-driven reader comments summarization. In Proceedings of the 21st ACM international conference on Information and knowledge management, pp. 265–274, 2012.
[10] David M. Blei, Andrew Y. Ng, and Michael I. Jordan. Latent dirichlet allocation. Journal of Machine Learning Research, Vol. 3, p. 993–1022, 2003.
[11] Ahmet Aker, Emina Kurtic, A. R. Balamurali, Monica Paramita, Emma Barker, Mark Hepple, and Rob
Gaizauskas. A graph-based approach to topic clustering
for online comments to news. In Proceedings of the 38th
European Conference on IR Research, pp. 15–29, 2016.
[12] Sepp Hochreiter and Jürgen Schmidhuber. Long short-term
memory. Neural Computation, Vol. 9, No. 8, pp. 1735–1780,
1977.
[13] Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina
Toutanova. BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of theConference of the North American Chapter of the Association for Computational Linguistics: Human Language
Technologies, pp. 4171–4186, 2019.
[14] Martin Saveski, Brandon Roy, and Deb Roy. The structure

[18]

[19]

[20]

[21]

of toxic conversations on twitter. In Proceedings of the Web
Conference, pp. 1086–1097, 2021.
Deepak Kumar, Patrick Gage Kelley, Sunny Consolvo,
Joshua Mason, Elie Bursztein, Zakir Durumeric, Kurt
Thomas, and Michael Bailey. Designing toxic content classification for a diversity of perspectives. In Proceedings of
the Seventeenth Symposium on Usable Privacy and Security, pp. 299–318, 2021.
中原輝樹, 牛尼剛聡. ニュースコメントの閲覧支援のためのニュースへの反応に基づくユーザ埋め込み表現の生成. 情報処理学会論
文誌データベース (TOD), Vol. 15, No. 3, pp. 99–110, 2022.
Yumeng Li, Liang Yang, Bo Xu, Jian Wang, and Hongfei
Lin. Improving user attribute classification with text andsocial network attention. Cognitive Computation, pp. 1–10,
2019.
Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N Gomez, L ukasz Kaiser, and Illia
Polosukhin. Attention is all you need. In Proceedings of the
31st Conference on Neural Information Processing Systems,
pp. 6000–6010, 2017.
Steffen Rendle, Christoph Freudenthaler, Zeno Gantner,and Lars Schmidt-Thieme. Bpr: Bayesian personalized
ranking from implicit feedback. In Proceedings of theTwenty-Fifth Conference on Uncertainty in Artificial Intelligence, p. 452–461, 2009.
Xiangnan He, Kuan Deng, Xiang Wang, Yan Li, YongDong
Zhang, and Meng Wang. Lightgcn: Simplifying and powering graph convolution network for recommendation. In Proceedings of the 43rd International ACM SIGIR Conference
on Research and Development in Information Retrieval, p.
639–648, 2020.
Eli Pariser. The ﬁlter bubble: What the Internet is hidingfrom you. penguin UK, 2011.