DEIM Forum 1b-2-2

Twitter におけるアイコン画像と攻撃ツイートの関連性
田中 智大 清 雄一† 田原 康之‡ 大須賀 昭彦‡†電気通信大学情報理工学域 〒182-8585 東京都調布市調布ケ丘１ー５−１‡
E-mail: †t1910758@gl.cc.uec.ac.jp, seiuny@uec.ac.jp, tahara@uec.ac.jp, ohsuga@uec.ac.jp
あらまし ＳＮＳは多くの人が利用するので, 誹謗中傷を行う攻撃的な人も存在する. そのような状況で, 特定のアイコンユーザは攻撃的であるといった意見がネット上で散見される. しかし, 実際にそのような内容の文献を目にしたことはない. そこで, 本研究ではアイコン別に収集したユーザのツイートの攻撃性を日本語用 Sentence BERT を用いて算出し, アイコンとツイートの攻撃性の関連性の調査を行う. また, アイコンから攻撃性を算出するシステムを考案する. その結果, 人, イラスト, 電車アイコンに有意差があり, システムの正答率は 8%であった.
キーワード アイコン，攻撃性，Twitter，Sentence BERT
ク, 本人一人, 本人複数, 景色 , 他人, キャラクタであり , こ

1. はじめに
近年, ＳＮＳは我々の生活になじみ深いツールになった. 特にのカテゴリについて, 一致度と網羅性の評価が行われている.

コロナ禍以降は, ＳＮＳで会話をする機会が増えている.
しかし , ＳＮＳには負の側面も存在する . その１つが匿名に

表 1 :[2]冨永 登夢, 土方 嘉徳, Twitter 上のアイコン画像とよる誹謗中傷である. そのような状況で, 特定のアイコンが攻撃ユーザ行動の関係の調査と分析(2016)273 表 1 より引用表的であるといった意見がネット上で散見される. しかし, 実際に1：アイコン画像のカテゴリとその説明[2]そのような内容の研究は著者の知る限り無い.
そこで, 本研究ではアイコンと攻撃性の関連性の調査を行う.
また, ツイートからの攻撃性の算出には多くの計算時間が必要となる. そこで, アイコンを入力とした攻撃性判定システムを考案, 作成し, Twitter の利用をより快適にできないかと考えた.

2 関連研究2.1 Sentence-BERT[4]Sentence-BERT は, シャム/Triplet ネットワークを用いて, 意味のある分の埋め込みを導出する BERT ネットワークの改良版である . これにより , これまでの BERT が適用できなかった新しいタスクに BERT を適用することができる.
2.2 CLIP[6]CLIP は OpenAI の事前学習画像分類モデルであり,主な特徴は次の 3 つである.
①カテゴリを利用者側で自由に設定できる自然言語教師型画

3 提案手法

像分類モデル

アイコンごとの攻撃性算出は次の手法を提案する.

②巨大な自然言語教師データ「WebImage Text」の利用(1)定義した 13 種類のアイコンについて, それぞれ 100 人のユ③多様なタスクに対するゼロショット転移で転用可能ーザを収集

多様なタスクに対し, ゼロショット転移で優れた精度を出し(2)各ユーザから最大 1000 ツイートを収集た.

(3)誹謗中傷をクエリとし日本語用 Sentence-BERT[5]にてクエ

2.3 アイコン画像に注目した Twitter 研究の提案[1] 冨永ら

リとのコサイン距離を算出

はアイコンとのツイート数, フォロー・フォロワー数の関連(4)アイコンごとにクエリとのコサイン距離の近い上位 200 ツを調べる研究を行った. アイコンのカテゴリは 13 種類であ

イートの 1 ツイート当たりのクエリとのコサイン距離の平均

り, 動物, たまご, 自画像, 顔隠し, 文字, ロゴ, オブジェ, オタを求める

この手法のフローチャートを次に示す.

ロゴアイコンは, 冨永らの研究[1][2]から企業のアカウン
トが多いことが明らかとなっている. よって, ロゴアイコンを削除した.
自画像も区別が困難なためイラストとした.
キャラクタとオタクに関しては, 細分化し男キャラ,女キャラ, その他キャラの３カテゴリに分けた.
新たに電車アイコンとその他の乗り物アイコンを追加した. これは, 電車アイコンに関するうわさが散見されたためである.
食べ物アイコンを追加したのは , アイコン収集の際に多くの食べ物アイコンのユーザを確認したためである.
ツイートの収集は Twitter API を用い, 収集したツイート数は１ユーザにつき最大 1000 ツイートである.
ツイートの分析は日本語用 Sentence-BERT[5]を用いて行う.
クエリは”誹謗中傷”であり, 1000 ツイートのクエリとのコサイン距離が小さい上位 200 ツイートを合計し, 平均を求める.

図 1:攻撃性算出のフローチャート

また, 収集するツイートから URL やユーザ id, 不要記号 ,“ 誹謗中傷 ” を削除した . “ 誹謗中傷 ” は , Sentence-BERT

攻撃性判定システムは次の手法を提案する.

によりクエリとのコサイン距離を求める際に , “誹謗中傷はよくない”等のツイートとコサイン距離が近くなってしまうのを防ぐために削除した.
下に各アイコンの上位 100 から 600 ツイートまでの各コサイン距離の合計を示す.

表 2：各カテゴリのクエリとのコサイン距離が近いツイートのコサイン距離の合計

図 2:攻撃性判定システムのシステム構成図
アイコンを入力, 攻撃性を出力とするシステムを考案する.
このシステムは入力された画像がどのカテゴリにあてはまるかを OpenAI の CLIP[6]を用いて判定する. その後, 各カテゴリとの一致度とアイコンごとの攻撃性算出の結果を用いて攻撃性を判定する.

縦軸がツイートの合計数, 横軸がアイコンの分類カテゴリである.
この表を見ると, どのカテゴリも 200 ツイートまでのコサイン距離の合計が 100 ツイートまでの距の合計の倍近くに4 実験（ツイート分析）
アイコンカテゴリは参考文献[1][2]で用いられたカテゴリを一部改変した, 人 , オブジェ, 動物, 初期アイコン, 飲食物, 女キャラ, 男キャラ, その他キャラ, 文字, 景色, 電車, その他乗り物, イ
ラストの 13 カテゴリである.
Twitter のアイコンのみから本人であるか判断するのは困難である. よって人物に関するカテゴリを一つにまとめた.

なっている. しかし, 300 ツイートまでの合計は, 過半数のカテゴリが 3 倍よりも小さい値になっている. これは 200 以
上 300 未満のツイート数であるユーザが多いためだと考えられる.
よって, ユーザの偏りをなくすために 200 ツイートとした. また, 100 ツイートでないのは,１人の攻撃的なユーザから受ける影響を少なくするためである.

5 結果（ツイート分析）(1−∑𝛼)×𝛽𝑚𝑎𝑥(1)

表 3:13 カテゴリの 1 ツイート当たりのクエリとのコサイ∑𝛼はカテゴリとの一致度の合計, βmax は最も一致するカテン距離の平均

ゴリの１ツイート当たりのクエリとのコサイン距離の平均である.

7 結果（攻撃性判定システム）
ベースはアイコンを限定せず無作為に収集したユーザである.
結果, 人アイコン , イラストアイコンがベースよりクエリとのコサイン距離が小さい結果となり, 電車アイコン, その他乗り物アイコンがベースよりクエリとのコサイン距離が大きい結果となった.
ここで, この差が有意であるかを確かめるため片側 t 検定を行った.

表 4:人, イラストとベースの片側 t 検定の結果
図 3: システムの出力と実際の攻撃性の比較

表 4:電車, 乗り物とベースの片側 t 検定の結果

図 4: システムの出力と実際の攻撃性の比較

片側 t 検定の結果, 人, イラスト, 電車アイコンに有意差が見られた. よって, 人, イラストアイコンの攻撃性が高く, 電車アイコンの攻撃性が低い結果となった.

6 実験（攻撃性判定システム）
システム構成は, 入力したアイコン画像を CLIP[6]で分類し,

図 5: システムの出力と実際の攻撃性の比較

それをもとに攻撃性を判定するというものである. システムで用いるカテゴリは攻撃性算出時の 13 カテゴリから初期アイコンを除いた 12 カテゴリを用いる. これは初期アイコンが一様であり, ユーザごとにアイコンの差が生じないからである.
α はカテゴリと一致する割合, β はそのカテゴリの１ツイー
ト当たりのクエリとのコサイン距離の平均, α×β の総和をsum とする. この操作を α の合計が 0.99 以上になるまで行う.
その後, 残りの 1%を補うため sum に式(1)を加える.

図 6: システムの出力と実際の攻撃性の比較

テムの目的はその時間を短縮することであり, 入力するツイシステムの出力と実際の結果を図 3 から図 6 で比較する. 結ート数を考慮する必要がある. よって, アイコン画像と共に

果, システムの出力と実際の攻撃性の差が 0.01 未満であった

入力するツイート数の検討を行いたいと考える. また, アイ

ものは全体の約 8%であった.

コンを収集する際 , 種類によってはあまりユーザが見つからないカテゴリもあり, データ収取に多くの時間を必要とし8 考察た. よって, ユーザ数の少ないアイコンを短時間で収集するツイート分析の結果, 片側 t 検定により有意差が見られたの手法も検討したいと考える.

は人アイコン, イラストアイコン, 電車アイコンであった.
人アイコンユーザのツイートを確認すると, アイコンをセクシ謝辞ーな女性にし, 特定のサイトへ誘導しようとしているアカウン

本研究は JSPS 科研費 JP21H03496, JP22K12157 の助成

トを複数確認した. よって, 人アイコンはそのようなアカウントを受けたものです．本研究は,電気通信大学人工知能先端研究が誘導する過程で, 一般ユーザのツイートより過激な内容を投センター (AIX) の 計算機を利用して実施したものです.

稿しているので攻撃性が高いと考えられる.
また. イラストアイコンのユーザは絵を描くユーザを複数確認した. それらのユーザが自分の描いた絵を自虐, または無断転載などへの怒りのツイートを行っているのを確認した. よって, これらの要因でイラストアイコンの攻撃性が高いのだと考えられる.
一方, 電車アイコンは趣味である電車に関するツイートをしているユーザを多く確認した. 電車に関するツイートの中では攻撃的な言葉を使う頻度が少ないため攻撃性が低いと考えられる.
また, 攻撃性判定システムの出力と実際の攻撃性の差が 0.01未満であるものは全体の約 8%であり, これはアイコンのみを入力としているからだと考えられる. アイコンのみが入力であ参 考 文 献[1]冨永登夢，土方嘉徳，西田正吾“アイコン画像に注目した Twitter 研究の提案”, The 28th Annual
Conference of the Japanese Society for ArtificialIntelligence, 2014[2]

冨永登夢，土方嘉徳，西田正吾“Twitter 上のアイコン画像とユーザ行動の関係の調査と分析” 情報処理学会
インタラクション 2016[3]

瀬川 友香, 浅谷 公威, 坂田 一郎, ユーザーに着目した SNS 上の攻撃とそのメカニズムに関する分析(2021)

ると, 同アイコンのユーザは同じ出力になるからである. よっ[4]て, アイコンと少数のツイートを入力とするシステムに改良す

embeddings

るとより良い結果が得られると考えられる.

arXiv:1908.10084 (2019)

9 まとめ
本研究では, Twitter ユーザをアイコンにより 13 カテゴリに分類し, 日本語用 Sentence-BERT を用い, ツイートと“誹謗中傷”のコサイン距離を算出した. その結果, 有意差があるのは3 カテゴリであり, 人アイコンユーザ, イラストアイコンユーザの攻撃性が高く, 電車アイコンユーザの攻撃性が低い結果とな[5]

システムを考案, 作成した. その結果, 出力と実際の攻撃性の一致率は約 8％であった.

10 展望
本研究で提案した攻撃性判定システムは, 入力がアイコンのみという性質上, 一致率は約 8%と低い値であった. よって, アイコン画像とツイートの 2 つを入力とするシステムに改良するとより精度が向上するのではないかと考える. しかし, ツイートの分析には多くの時間が必要であり, 本シス

usingsiamesebert-networks,arXivpreprint

日本語用 Sentence-BERT モデル（バージョン2）“sonoisa/sentence-bert-base-ja-mean-tokens-v2[6]
Alec RadfordJong, Wook Kim ,Chris
Hallacy ,Aditya Ramesh , Gabriel Goh , Sandhini Agarwal ,Girish Sastry , Amanda Askell , Pamela Mishkin , Jack Clark ,Gretchen Krueger , Ilya Sutskever, Learning
Transferable Visual Models From Natural Language
Supervision, arXiv:2103.00020, Fri, 26 Feb (2021)

った.
また, その結果を用いて入力を画像 , 出力を攻撃性とする

Reimers, N. and Gurevych, I.: Sentence-bert: Sentence.