DEIM Forum 2016 B6-2

コメントの親子関係を利用した動画共有サイトにおけるネットいじめコメントの検出李子怡†

川本 淳平††フォン

ヤオカイ††

櫻井幸一††† 九州大学大学院システム情報科学府 〒 819-0395 福岡市西区元岡 744†† 九州大学大学院システム情報科学研究院 〒 819-0395 福岡市西区元岡 744
E-mail: †2IE15042N@s.kyushu-u.ac.jp, ††kawamoto@inf.kyushu-u.ac.jp fengyk@ait.kyushu-u.ac.jp,††††sakurai@csce.kyushu-u.ac.jp
あらまし

ネットいじめは，被害者に悪影響を与えることから，心理的に未熟な青少年の間で深刻な問題になっている．そして，近年ソーシャルネットワークサービス (SNS) の急速な発展に伴い，ネットいじめのインパクト面も広がりつつある．SNS における投稿からのネットいじめを検出するテキストベースの既存研究は，大抵研究者が索引語の集合を作り，コメントを単語単位で比較照合する．これらの手法は研究者の主観に影響され，各被害者のいじめ投稿の傾向に対応できないことが多い．また，動画投稿サイトは投稿したビデオを通じて物事を伝える情報基盤であり、コメントの対象はビデオの内容と投稿者と分かれている。そのため，本研究では，コメントとその返事の親子関係をスライド形式で捉え，ユーザー間のインタラクションを用いてネットいじめコメントを検知し，研究者の主観を控える．そして，コメントの対象がユーザーであるもののみをネットいじめコメントだとし，建設的な意見を排除出来る手法を提案する．
キーワード

ソーシャルネットワークサービス, ネットいじめ, テキストマイニング

1. は じ め にが，社会生活が困難になり不安や意気消沈を感じる傾向にある
ことが報告されている [13]．

近年，ソーシャルネットワークサービス (SNS) のユーザー

ネットいじめは伝統的ないじめよりも固執である．伝統的なは急速に増えている．ユーザーは親密またはプライベートな情

いじめは学校などでの接触を必要とするが，ネットいじめはそ報を気楽に共有している．このようなコミュニケーションは，れらの環境を必要とせず被害者に一刻の猶予も与えない．特

悪意を持つ人に SNS を乱用する隙を与えた．投稿されたメッに SNS では、被害者はオンラインコミュニティ全体の前で傷セージには，罵倒や失礼な内容を含む場合があり，更にはネッつけられる [2]．また，「Once on the Internet, always on the

トいじめにエスカレートするケースもある．ユーザーが安心しInternet」と言われるように，一旦インターネットにアップローて SNS を利用するためには，ネットいじめに該当するメッセー

ドされたものは，いかなる形式であっても永久に存在する．そジを自動検知する方法が必要である．

のため，伝統ないじめと違う形式で，オンライン行為も反復

ネットいじめとは、インターネット上で故意に他人を侮辱、性を持っていると言え，被害者に大きな悪影響を与える [10]．

脅迫、困惑させる，苦しめる攻撃である．通常，成人は SNS に

ABS によれば，調査に参加した学生のうち 43 ％ もの学生がい存在する危険を意識し，より安全なコミュニケーションをとる

じめを経験したと述べている．また，図 1 に報告にあったネッことができる．それに対して，未成年者は脅威への認識力が低

トいじめの被害頻度を示す．図中 1 は経験したことがない，5

いため，身体的と精神的に大きな悪影響を受け，生死に関わるは度々，10 は高頻度でネットいじめの被害を受けていることを事件に至る可能性が高い．Ditch the Label 組織が 3023 名の表している．62 ％ ものいじめ被害者がネットいじめにさらさ

イギリス学生を対象として行った 2015 年度いじめ状況サーベれており，そのうちの 9 ％ は頻繁にネットいじめされているこイ (ABS; Annual Bullying Survey)（注 1） では，いじめにあったとがわかる．このように，ネットいじめは無視できない影響と結果，30 ％が自殺する考えを持ち，29 ％が自傷，27 ％が授業範囲を持っており，深刻な社会問題となっている．

に欠席，14 ％が摂食障害を患い，12 ％が家出したなどの直接

Dadvar らによると，SNS におけるネットいじめ対策は主にな被害が報告されている．インターネット以前の伝統ないじめ

人手に依存している．各サイトに担当者がおり，サイトに投稿の被害者は，ネットいじめに比べてより厳しいいじめ行為を受された情報を監視しネットいじめに関係する投稿を手動で削除

け普段の生活に影響を感じることが多い．それに対して，ネッしている [14]．しかし，大量の情報を処理する必要があり，手トいじめの被害者は，物理的ないじめ行為を受けることはない

が及ぼないことがある．このような状況を改善するために，計算機を用いた自動検知が期待されている．

（注 1）：http://www.ditchthelabel.org/the-annual-bullying-survey-2015-

is-here/既存のネットいじめに関係する投稿の自動検知手法は，主に辞書ベースの手法 [2] [3] と，ソーシャル情報を用いた手法 [4] [12]法である．
本研究で提案された手法を用いて，少量のコメント情報と研究者の主観知識でネットいじめコメントを 80 ％ の真陽性率で検出することが出来た．ネットいじめコメントとして抽出されたものには，通常のいじめ話題ではなく，あるビデオ投稿者だ
けにとっていじめである話題であるコメントを含んでおり，既存のテキストベース手法では検知できないものを抽出できることが判明した．
本論文の構成は以下のとおりである．第 2. 節では，SNS におけるネットいじめ分析に関する先行研究を紹介する．第図 1 ネットいじめの頻度. (Ditch the Label 調べ)

3.

節では，動画共有サイトにおけるコメントの扱い方を述べる．
第 4. 節では，本論文における提案手法を説明する．第 5. 節でに分けられる．辞書ベースの手法は，簡単に実現できるが，いじめに関係する単語の選定や重み付け方法に辞書作成者である
研究者の主観的な考えに影響されてしまう可能性がある．加えは手法の実装を述べ，6. 節では実験の結果と考察について述べる最後に本稿をまとめる．

2. 既 存 研 究て，悪意ある単語を使わないネットいじめメッセージは検知することができない．特に英語は一つの単語でもたくさんの意味持っており，インターネット上でさらに様々な意味が派生されているため，ブラックリスト辞書を用いた検出は難しい．ソー
シャル情報，すなわちユーザ間の関係を表したソーシャルグラ
フを用いた手法やユーザー背景情報を用いた手法は，実際の投稿以外にもユーザ間のインタラクション履歴 [4] やユーザーの背景情報 [12] など各種情報を必要とする．この様な情報はユー
ザーのプライバシーに関わるので，取得が比較的に難しい．
本研究では，SNS のうち動画共有サイトを対象に，いじめ投稿を検出する方法を提案する．本研究で対象とする動画共有
サイトでは，動画投稿者一人に対してコメントが集まる形式を考え，コメント投稿者は動画投稿者について背景知識を持っていると仮定する．Bastiaensens らの研究によると，ネットいじ
めにおいては，第三者はいじめ行為を目撃した際に被害者を助ける行動を取ることが多い [7]．実際，我々が動画共有サイトの一つである Youtube から取得したデータにおいても，第三者
はいじめコメントに対して非難を向けるなど被害者救済行動が見て取れた．特に SNS では，こうした第三者はいじめ被害者についての背景知識を持っていることが多く，どのような言葉が被害者にとっていじめに成り得るのかを考え，いじめ行為者へ非難を向ける，被害者を慰めるといった救済行動を行う．本
研究では，こうしたネットいじめにおける人々の行動特徴を元に，単純な辞書式手法では発見できないが被害者にとっては傷つくような投稿を発見する．具体的には，コメントを単独ではなく，スレッドとして扱い親子関係を利用する．そして，いじめコメント投稿者と善意の第三者達とのインタラクションを用いてネットいじめコメントを発見する．また， SNS は投稿者を焦点とした短文や画像の共有する目的の他にも，物事を伝えるためにも使われている．そのため，コメントの対象はビデオの内容宛てと投稿者宛ての二種類が考えられる．そこで我々の提案手法では，コメントの対象を調べ，投稿者に対するいじめコメントを発見する．以降，本論文では英語のデータセットを用いて議論を行う．しかし，提案手法は言語に限らず使える方

2. 1 社 会 調 査
ネットいじめ研究の初期段階では，ネットいじめの現象を理解するために、社会科学の専門家は、いじめの加害者と被害者の両方の心理的要因，人格と社会的関係に焦点を当ててきた。
そのため，多くの大規模な調査を行い，いじめ現象のスコープを発見した．Bastiaensens らは，第三者のいじめに対する行動を調査した [7]．その結果，第三者はネットいじめを目撃した時に，被害者を助ける行動をとる可能性が高いことがわかった．
ネットいじめの程度も第三者の行動と関連しており，いじめがより過酷であれば，援助行動を取る可能性も高くなる．一方，その第三者がいじめ加害者と友達であれば，被害者を助けるよ
りもいじめに加入する可能性が高いことがわかっている．
その他にも，ネットいじめを正しく定義すべく，伝統的ないじめとの違いに関する研究もある [10]．Langos らの分析によると，ネットいじめと伝統いじめの違いは IT 経由であるかど
うかのほか，反復性の影響も定義の一つである．同じ内容の反復は冗談，からかいと意図的な攻撃を区別する重要な基準であり，伝統的ないじめの定義には不可欠な要素である．一方，イ
ンターネット上では反復性へ捉え方が異なる．インターネット
では，どのような行為でもネットワーク上に無期限に存在し続けるという特性がある．すなわち，インターネット上の情報は簡単に転送でき誰もが閲覧可能である．したがって，たった一つのメールやメッセージであっても，その情報にアクセスされ閲覧されるたびに反復していると言えるのである．

Campbell らが 9 から 19 歳の学生 3112 名を対象として行ったサーベイでは，ネットいじめと伝統ないじめの被害者の心理被害を調査している [13]．このサーベイでは，抑うつ不安スト
レススケール（DASS，Depression Anxiety Stress Scales）を用いて，参加者の憂鬱，不安，ストレスのレベルを自己評価の形式で調査した．DASS は，大人の抑うつ，不安，ストレスの症状を測る尺度で，1 項目 0 3 点の 4 段階で計算され，各 3 ス
ケールの最低スコアが 0 で，尺度の最高スコアが 42 で，値の高さが問題と判断される。その結果を表 1 に示してある．いじめの経験者はいじめ経験なしの参加者と比べて，明らかに DASS

ザーの背景や同時に投稿された画像を扱う手法も提案された．

表 1 平均 DASS スコア
いじめの形式

憂鬱

不安

ストレス

総計

Huang らはソーシャルネットワークのグラフとしての特徴を分

ネット

11.16

8.23

11.36

30.84

析することでネットいじめを検知する方法を提案した [4]．ノー

伝統

7.72

6.00

9.29

23.02

両方

ドとエッジ数，次数中心度，リンク数や k コアスコアなどを14.62 11.73

15.35

41.70

経験なし

5.92

6.9

17.57

4.75

用いて，ネットいじめの加害者と被害者両方のソーシャル背景を特徴付けた．比較として，大文字，感嘆符や悪意ある単語の密度などのテキスト特徴も使用した．ユーザー間のソーシャル

スコアが高い．そして，ネットいじめと伝統いじめ両方を経験している参加者は最も心理的な負担を抱えており，伝統いじめの被害者はいじめ経験者の中でより低い心理問題を持つことがわかる．
このように，ネットいじめに関する社会分析は数多く行われており，ネットいじめの悪影響と迅速な対処の必要性を示している．その一方で，ネットいじめ行為を自動的に検知する研究
はい未だ少ない．

2. 2 テキストコンテンツに対するネットいじめ検知
近年，コンピュータサイエンスの研究者を始めとし，ソーシャルネットワークサービスにおいてのネットいじめの自動検知手法が提案されるようになった．これらは主に，SNS でのメッセージとコメントなどのテキストコンテンツを扱う手法である．インターネット上での会話にいじめ関連のキーワードが含まれているか調べることで，ネットいじめに関するメッセー
ジを識別する Bag-of-words が基準線とされている [11]．

Yin らは感情分析と文脈の特徴を結合したモデルを提案し，Bag-of-words より良い精度が得られることを示した [11]．メッ

ネットワーク構造の特徴とテキスト特徴両方を用いて分類した
結果，ソーシャル情報を用いた手法はテキスト情報のみよる検
知手法の検知率を改善できることが判明された．Huang らの手法における最も良い真陽性は 76.3 ％ である．また，ネットいじめと検知されたソーシャルグラフを観察したのち，ユーザー間でのインタラクションすなわちリンクが比較的に多い場合は，
ネットいじめであることも比較的に可能性が高いと述べられている．加害者と被害者の間では，予想以上にインタラクションが多いことも分かっている．Dadvar らはユーザーがネットいじめを受けた後の行為をネットいじめの自動検知手法の特徴として導入した [12]．ユーザーがネットいじめを受けたものとは異なるソーシャルネットワークサービスで行動を調査することで，ネットいじめの検知の精度を向上できることが示されている．同じ研究では，コメントの投稿者の性別もネットいじめであるかどうかの要因の一つであることを示した．女性は極端に冒涜な単語をそれほど使わず，関節的に否定的な単語使うことが多いとも示した．Kansara らは，画像とテキストの両方を分
析し，ネットいじめを検知する手法を提案している [15]. 画像

セージを tf-idf を用いたベクトル空間モデルで表し，感情情とテキスト組み合わせは潜在的なネットいじめや脅迫の検知に報を加えたものを特徴として用いることで，39.4 ％ の精度，とって良い情報の組み合わせであると述べられている．

61.9 ％ の再現率でネットハラスメントを検知した．Dinakar

以上の研究は，すべてコメントやメッセージは人を対象としらは動画共有サイトの一つである Youtube に投稿されたコメて，それぞれ単独な物であると仮定している．しかし，コメンントに含まれるネットいじめコメントを検知する方法を提案した [2]．彼らの手法では，まずコメントがいじめ関係する敏感トピック群に属するものか分類する．そして，さらにサポートベ
クターマシンを使ってどの敏感トピックに属するかを分類している．敏感トピックとは，性別，人種，知能や物理属性など人の簡単に変えられない特性である．彼らの手法は，ネットいじめであるコメントを検知できる精度は 66.7 ％ である．Reynolds
らは，コメントに対するラベル付けの中で，ネットいじめに関ト間の関連は，ネットいじめメッセージが交換された際の情報を捉えられる．また，SNS は投稿者を焦点とした短文や画像の共有する目的の他にも，物事を伝える情報共有基盤でも使われている．物事に対しての意見と考えは人それぞれであり，誰もがその考えを伝える権利を持っている．そのため，ある物または事についてきつい事を言うのは建設的な意見とも考えられるので，全てのコメントやメッセージの対象を人だと仮定してネットいじめを検知するのは不完全である．

するメッセージは悪意ある単語を含む可能性が高いこと発見した [3]．そして，その情報を利用し，精度 81.7 ％，真陽性率

3. 動画投稿サイトにおけるコメント

61.6 ％ の自動分類器を提案している．単なる Bag-of-words で

本稿では，スレッド形式のコメント投稿を受け付ける動画投

はなく，著者らは www.noswearing.com から得た 296 個の悪稿サイトを対象としている．本節では，そのデータ構造を定義

意ある単語をその悪意の度合いによりそれぞれ重み付けをした．
各メッセージが含んでいる悪意ある単語の数及び密度を特徴とし，C4.5 決定木で分類している．
しかし，ネットいじめは社会的な現象であり，テキストで捉える情報だけでは不完全であることから，これらのテキスト
ベースによる検出方法の精度は限られている．

2. 3 ソーシャル情報を用いたネットいじめ検知
ここ何年か，テキストコンテンツのみを分析するのではな
く，ネットいじめメッセージが交換された社会的な背景，ユー

する．
スレッドとはある特定の話題に関する投稿の集まりのことを言う．新たな話題を提供するためにコメントを投稿することを「スレッドを立てる」と言い，そのコメントをトップレベルコ
メントと呼ぶ．このトップレベルコメントに対する返信コメン
トや，返信コメントに対するさらなる返信コメントが連なりス
レッドが形成される．そのため，トップレベルコメントと返信
コメント間には親子関係があり，木構造の一種として扱うことができる．本節では，このコメント構造の形式的定義を与える．

生コメントデータ

スレッドに分割

各スレッドでの感情分析
ポ
ジ
テ
ィ
ブ

ネガティヴ

対象分析
ユーザー

図 2 スレッドを含むビデオ森の例 ○はトップコメント，◎は返事投
稿，は高評価数を示す

ネットいじめである
コメント

定義 1：トップレベルコメント．コメント自身のテキスト情報とユーザーからの評価を含む半構造化されたマイクロブログのテキストである．C と示す．
定義 2：返事投稿．あるトップレベルコメントに対した返事．

ネットいじめでない
コメント

R と示す．
定義 3：スレッド．トップレベルコメントとそのトップレベ

図3

提案手法の手順

ルコメントに対した返事投稿のセットである．スレッドは、ツリー構造として扱う．

する．投稿コメントの対象を区別することで，物事を対象とした建設的な意見をネットいじめであると誤検知することを防ぎ，T = (v, e)と示す．そのうち，v = {c ∪ R|c ∈ C, R = c への返事集合 }e = {{a, b}| コメント a と b が関連 }定義 4：データセット．スレッドからできる森と表せる。

F = (V, E)

コメントの親子関係を考慮することでネットいじめメッセージが投稿された際のユーザー間のイントラクションを捉える．
提案手法の手順を図 3 に示す．動画投稿サイトから取得したコメントをスレッド単位に分割する．そして，各スレッドごとに子コメントに対する感情分析を行う．得られた結果を元に親コメントに対するスコアを求める．最後に，親コメントの対象を調べ，対象がユーザであるコメントをネットいじめコメント
として抽出する．
子スレッド投稿されたコメントは，親コメントに対するポジと示す．

ティブまたはネガティブな反応を含んでいることがあり，ネッ

例えば，図 2 に示されているデータセットには，四つのトッ

トいじめにおいては，善意の第三者はネットいじめに関係する

プレベルがあり，すなわち，四つのツリーからできる森である．

コメントに対しては否定的な態度をとる [7] ことから，子コメ各ツリーには，トップレベルコメントがツリーの根あり，それントが多くネガティブな反応を含んでいる場合，親コメントはに対した返事がノードである．

ネットいじめに関する内容を含んでいる可能性が高いと判断でツリー構造は、ノードにあるテキストデータを示すことができる．特に，動画の視聴者の一部は動画投稿者についてよくきるほか，重要な投稿間の関連もあらわにすることができる．

知っていると仮定できる．すなわち，その投稿者の動画を購読

4. 親子関係を用いたコメント解析

しているような視聴者は，投稿者の好みやどのような言葉に傷つくのかといった背景知識を共有していると仮定する．感情分

本稿では，動画共有サイトにおいてコメントの対象分岐を解決するために，投稿コメントの対象を人と物に分けて扱い，またコメントの親子関係を利用したネットいじめ検知手法を提案

析では，コメントをスレッド形式で捉え，コメント投稿者間の反応を解析することで視聴者からの反応を調べる．

コメントツリー

T = (v, e)
v = {c ∪ R|c ∈ C, R = c への返事集合 }e = {{a, b}| コメント a と b が関連 }された動画のトピックは幅広く，投稿者の生活動画はもちろんのこと，オンライン講義など物事を伝える情報基盤としても使われている．また，基本的には実名サイトではないので，人間関係は比較的に薄く，ユーザー間の直接なメッセージのやり取りは少ない．

があるとする．R に対して感情分析を行い，返事の全体がネガ（ 4 ） コメント量が豊富である．YouTube は 2013 年末かティヴ評価であるか，ポジティブ評価であるかを得る．その評

ら，スレッド形式のコメント欄を導入しており，10 億ものユー価に基づき，ツリーの根である c を評価する．

ザーがいるため，十分なデータが得られる．

返事文から得られる感情のほか，YouTube にある各トップ

著者らの知る限りでは，ネットいじめ検知に使えるオープン

レベルコメントについている高評価ボタンが押された回数も使な YouTube コメントのデータセットはない．そこで，独自に用した．高評価ボタンは，図 4 に示されているように，コメYouTube からコメントデータを取得した．本研究は，投稿者

ント欄の下方に位置しており，コメントが有用，または同感を一人一人異なる不快な言説も含めていじめ関連コメントを発見感じた時に使われる．図 4 から見ると低評価ボタンもあるが，することが目的である．そのため，セクシュアリティ，人種とグーグル社が YouTube を買い取った後は使われず，形式だけ

文化と知性などの一般的に議論を招くものをトピックとした動残っている．高評価ボタンを押すことはトップレベルコメント

画のほか，美容，ファッションに関する動画からもコメントをを賛同しているので，ボタンが押された回数もポジィティブな取得した．なお，動画投稿者が特定できないパブリックアカウ

物として扱い，総合評価に足している．

ントからの動画は排除した．また，Youtube 自体は多言語で構

対象分析では，コメントの対象を調べ，投稿者に対する悪意あるコメントのみを抽出する．物事を伝える情報基盤として使成されており，投稿動画の言語もそれぞれだが，本研究では英語でのコメントのみを取得した．

われているソーシャルネットワークサービスでは，コメントの次に，得られた動画から，トップレベルコメント，コメント

対象はビデオの内容と投稿者とで分かれている．感情分析で得に対した返事と押された高評価ボタンの回数を取得した．本

た低評価のトップレベルコメントを物事に対した建設的な意見稿で使用するデータセットは，58 本の動画からなり，合計でであるか，またはユーザーに対したネットいじめである．すな

41415 件のトップレベルコメントを採集した．そのうち，2036

わち，動画で語られている物事に対する否定的なコメントや一件のトップレベルコメントは子コメントを持ち，全体の約 5 ％見いじめに見えるコメントは，それらの物事に対する意見であを占めている．子コメントは全部で 8313 件であった．

り，個人攻撃とは限らない．本稿では，動画投稿者へのいじめ本研究で使用した情報は，コメントのテキスト文とその高評

コメントの発見が目的である．そのため，対象分析を行い，投価数である．YouTube を含む動画共有サイトからは一般的に，稿者宛てのコメントのみを抽出している．

その他のデータも収集することができる．本研究では，最少限5. 実装と評価実験
5. 1 コ ー パ ス
本研究で用いたデータセットはソーシャルネットワークサー
ビスの www.youtube.com から抽出したもである．YouTube と度のデータを使用し，それらの関係を考慮することでネットい
じめコメントを分析できるかを知るべく，上記の情報のみを用いることにした．
スレッド形式のコメントの例として，YouTube の二つのトッ
プレベルコメントとそれに対した返事を図 4 に示す．

はグーグル社が運営する，世界で最も利用者が多い動画共有

図 4 に示す例では，動画視聴者 A と E がそれぞれスレッド

サービスである．YouTube という SNS をデータ源として選んを立て，そのコメントに対した返事コメントが投稿されている．

だ理由は以下が挙げられる．

もし，その返事が直接トップレベルコメントの投稿者に対する（ 1 ） YouTube 利用者の人口分布は一般インターネット利

ものでなければ，「＋」記号の後にそのコメントの対象ユーザー

用者の分布と一致している [1]．そのため，得られた結果はこのを示している．しかし，現在の YouTube ではセカンドレベル

サイトに限らず，インターネット上においてのユニバーサルな以降のコメントに対した返事の取集を制限しているため，本研ものである可能性が高い．

究ではスレッドの中の返事は全てトップレベルコメントに対し（ 2 ） ネットいじめであるコメントが存在する情報源である．

たものとする．また，コメント投稿者は別のスレッドを立てて，消費者が内容を生成していくメディア消費者生成メディアであ他のユーザーのコメントについて評価する事もできる．しかし，ることから，ビデオ投稿者個人に対したネットいじめ行為や嫌比較的に少ない行為であるため，今回は独立したコメントとしがらせコメントを投げ出すプラットフォームとして乱用されるて扱う．我々が調べたところ，実際には無関係のコメント投稿，ケースもある．YouTube は動画所有者に動画からコメントを

例えば，スパムや絵文字などの本研究に取って無意味な投稿が削除する権利を与えますが，動画投稿者が実際にコメントを見存在するが，極性分析には影響が少ないことが分かっている．

た時点で被害を受けていると言えるため，ネットいじめ行為が5. 2 感 情 分 析

緩和できるとは言えない．特に，論争のトピックに関するビデ

OpinionFinder（OF）は一般に入手可能なソフトウェアであオは，多くの場合，不快と失礼なコメントがある．

り、文脈レベルの主観性を識別し、感情の二面性であるポジ（ 3 ） コメントの対象はユーザーに限らず様々である．投稿

ティブ・ネガティブを判定することで感情分析を行う [5]。この

5. 3 対 象 分 析
エンティティとエンティティレベルの感情の抽出のために
我々は AlchamyAPI を使用した [9]。AlchamyAPI は、ディープ・ラーニング，自然言語処理技術及び機械学習アルゴリズムを利用して，リアルタイムのテキスト分析、コンピューター・
ビジョンを API として提供している．AlchemyAP I を使用するために API 鍵を必要とするが，それは無料で入手できる．
ただし，1 日あたり 1000 回の API 呼び出し回数制限がある．

AlchemyAPI を使用している開発者は 36 カ国，4 万人以上いると言われている．
本実験で使用するのは，Alchemy Language である．このサービスは、キーフレーズ、名前付きエンティティ、およびエン
ティティレベルの感情を抽出することができる。AlchamyAPIのエンティティ抽出では，テキスト内の人々、企業、団体、都市、地理的特徴、および他の型指定されたエンティティを識別することができる．さらに、28 種類のエンティティのほか，100種類以上のサブカテゴリもテキスト文から抽出できる．統計的なアルゴリズムと巨大なデータベースを組み合わせ，色々なオブジェクト、個人、および場所を記述する．また、政治家やア
図4

スレッド例

スリートとして個人を識別すれば，詳細なオントロジーマッピ
ングも提供できる．以上の機能は，本研究にとって有用である．

ツールによる広範なツイート集合の感情分析は既に実施されて
おり [6]、その研究では、OF により得られた時系列の気分デー

対象分析として，各トップレベルコメントに以下の操作を行った：タが、その調査期間において、株価を予測の正確性を向上する（ 1 ） 重要でない文字列の除去：「lollllll」「，HAHAHAHAHA」

ことを示した．OF の感情分析は、OF の”辞書”により、ツイーと「Wow」なの文字列はデータセットから除去した．

ト内容を解析し、ツイートの”ポジティブ/ネガティブ”を決定（ 2 ） 略記を書き戻す：オンラインでよく使われている略記する。そこで、我々は過去の研究 [8] にて実績のある OF 辞書

を元に書き直す．例えば，「u」を「you」に直し，以後の処理をを今回の検証に採用した。採用した OF 辞書は 2718 個のポジ容易にする．

ティブワードと 4912 個のネガティブワードを持つ。この辞書（ 3 ） 人称代名詞の書き換え：AlchamyAPI ではエンティ

では，さらに単語を”強気”もしくは”弱気”のポジティブとネガ

ティが代名詞で表されている場合は抽出されないため，人称代

ティヴに分けてあるが，ネットいじめは通常強い感情と関連付名詞をビデオ投稿者のユーザー名に書き換えた．ある特定のけられているので，本実験では強気な単語のみ評価に入れた．

トップレベルコメントの人称代名詞を書き換えるかどうか，複そして、それぞれのツイートにおいてネガティブかポジティブ

数の人称代名詞が存在する場合はどれを書き換えるかを決めるのどちらの感情が支配的かを求める．強気なネガティブを表現

ルールはとても難しい．そのため，本研究では，トップレベル

する言葉数と強気なポジティブを表現する言葉数を求めた．

コメントの第 1 句で一番最初に出現する人称代名詞をユーザー

OF での辞書には，攻撃的な単語は含まれていない．先行研

名に書き換えた．
「you」，「he」と「dude」などを「Alice」と究のラベリングプロジェクトで，ネットいじめにレベル付けさ「Bob」のように入れ替え，AlchamyAPI で処理できるようなれやすいメッセージは攻撃的な単語を含む可能性が高いことがにする．

示された [3]．このようなトップレベルコメントを反論するとき（ 4 ） AlchamyAPI でのエンティティ分析．

も，悪意ある単語を使う可能性があるので，我々はウェブサイ（ 5 ） 直接ビデオ投稿者に対したのネットいじめコメントを

ト www.noswearing.com に掲載してある攻撃的な言葉のリス抽出対象とする．有名人，ある製品や地域などをエンティティ

トを更に拡張し，350 個の悪意ある単語とそれらの変形を強気としたトップレベルコメントは取り除き，エンティティがビデなネガティヴ単語として扱った．

オ投稿者であるもののみをネットいじめコメントとして登録

以上 OF から求められたポジティビティ数に高評価ボタンが押された回数を足し，ポジティビティ総数とネガティビティのする．

5. 4 評 価 方 法

総数が得られる．そして，多い方が支配的な感情とすることにネットいじめだと感じるかどうかは被害者によりますが，コより、トップレベルコメントに対した返事を感情で二分化し、メントの投稿者は他人を傷つける意図を持っていなければなら

返事の感情を計算した。

ない [10]．したがって，ビデオ投稿者へのポジティブコメント
はネットいじめではないと想定できる．そのため，本研究では，

AlchemyAPI のエンティティレベルの感情分析で得たスコアを基準として，抽出されたネットいじめコメントの真偽性を評価する．エンティティレベルの感情スコアがプラスである場合は，
エンティティにポジティブな感情を伝えているので，偽ネット
いじめであるとし，その他を真ネットいじめコメントとする．

6. 考

察

表3

単独なネットいじめコメント例

トップレ

you get paid for doing this, so im not watching -18

ベルコ

anymore. you are paid and we are tricked into

メント

buying products,

返事

Yeah so, but her opinions are true and hon- -3
est.

We don’t need people like you on Al-

ice’s channel. Alice spends a lot of money and

実験で得た真陽性率を表 2 に示す．伝統的な精度という評価

Bob too on things. They need to make money

基準は，両クラスが特に不平衡である時や誤分類のコストが両

to survive, but Alice isn’t a liar. You aren’t

クラスで非常に大きな違いがある時は分類器をうまく評価でき

tricked into buying these products that are be-ない．例えば，一番簡単な分類器 ZeroR を使い，全てのコメ

ing sponsored. Your ignorant, and rude

ントを多数クラスと想定する場合でも，ネットいじめコメント

bye

-5

bye

-5

lol bye-5の数が全体のコメント数と比べて非常に少ないため，100 ％ に近い分類性能が得られる．そのため，本研究では，提案手法の性能を評価するため，少数クラスの真陽性率を使用する．先行研究でも，少数クラス（重要な）クラスに注目し，性能を図っていることが多い [4]．

がコメントをチェックする度にこのようなネガティビティーにさらされているのである．
単独に出現するコメントのほか，一人のビデオ投稿者に対し

表 2 TPTP

ルコメントの内容はこのコメントにしかないが，ビデオ投稿者

スレッド分析のみ

対象分析

た，同じトピックのトップレベルコメントもリストに存在する．

36 ％

80 ％

表 4 に示されているトップレベルコメントは，それぞれ違うユーザーから投稿されたものであるが，どれもが同じ話題につ

対象分析は，スレッドごとの感情分析で得たネットいじめコ

いてのものである．トップレベルコメント 1 の評価が特に低い

メントの真陽性率を向上したことが表 2 で観測できる．スレッ

原因は，返事の中に悪意ある単語が複数含まれているからであ

ドごとの感情分析のみで抽出されたコメントリストでは，ビデる．もし，悪意ある単語を除けば，これらのトップレベルコメ

オで討論された話題に関するものや人が対象であるコメントがントの評価はどれもそれほど低いわけでもない．しかし，ビデ

多く含まれている．例として，古代残酷な統治者についてのビオ投稿者のチャネルではこのようなコメント内容に対した不満

デオでは，「Caligula was not insane.. he was just an assholeを示すビデオが実際にアップロードされている．たとえニュー

to his consuls and the senate．
」というコメントが残された．

トラルに近いコメントであっても，出現する回数の上昇により，

ビデオ内容には反論し，悪意ある単語も含まれているが，ネッ

不快感を感じる可能性も高まる．

トいじめコメントとは言えない．
抽出したリストの中には，悪意ある単語を含まないネットい表4

同じ話題であるネットいじめコメント例

トップレベルコメント

返事数

評価

じめを含む．表 3 に示されているトップレベルコメントを例とdude put weight on

100

-68

する（ビデオ投稿者のユーザー名を控えるため，ここでは Aliceit’s been a while since i watched wayne chan- 4とする）．このコメントの総合評価は −18 である．そのうち，nel.. but is he all right?!?! is he ill?!?!?!?!?!

返事 1 は − 2 であり，「bye」を含む返事 2 から 4 はそれぞれi hope hes is fine because he looks horrible ...

− 5 との評価を得た．四つの返事の中では，返事 1 が特に面

anyway thanks for this video Bob...

白く，評価としては − 3 である．返事 1 では，一見悪意を持

You lost weight, are u doing anything?

たないトップレベルコメントの裏側の意味を展開し，投稿者をサポートしつつ，トップレベルコメントの投稿者を批判している．返事 1 の前 3 句は全体的にニュートラルであり，最後の一句「Your ignorant, and rude」がネガティビティーと判断したキーである．
伝統的な，対面のいじめでは，同じ内容の反復は冗談，からかいと意図的な攻撃を区別する重要な基準であり，伝統的ないじめの定義には不可欠な要素である [10]．一方，サイバース
ペースの特質は反復性への理解を変えた．サイバースペースにおける一つの行為でも，ネットワークに無期限に残される特性を持っていながら，簡単に転送でき，誰もが見られる．したがって，一つのメール，メッセージ，ポストであっても，アクセスや見られた度に反復していると言える．表??にあるトップレベ

-5

1

-2

what happened to u ? r u sick or u just loose 1-1

ur weight ?

その中で，トップレベルコメント 1 は平均返事数が 4 件の中で，100 件の返事を得ている．返事をぐたいに観察すると当コメントを投稿したユーザーがその他のユーザーと言い合いしていることがわかる．同じ原因で悪意ある単語の出現頻度が高くなっている．
「痩せた」という内容は，一人一人違う考えを持つので，場合によれば，特に女性にとっては嬉しいことである．そのため，意見が分けれており，言い合いするようになった．また，今回のデータセットにはタイムスタンプがないので，
ウェブ上で見てみれば時間に連れ，「痩せた」という内容のコメントに対した返事の感情が変わっていることがわかる．ビデオ
投稿者は近日実際に痩せているので，彼が不満を示すビデオをアップロードする前に，実際に多くの人がこのトップレベルコ
メントに賛同していることがわかる．
「痩せた」との内容のコメントに不満を示したビデオのアップロード後，多くのビデオ投[8]

稿者の購読者がこのような内容のコメントに否定する返事をするようになった．
[9][10]

7. ま と め
本研究では，近年 SNS 上で問題視されているネットいじめの自動検知手法として，コメントの対象とコメント間の親子関[11]係に着目した．トップレベルコメントとその返事の間の親子関係を考慮したのち，辞書ベースでは検知できない各被害者に対[12]した特定話題のネットいじめコメントを抽出することが出来た．
また，コメントの対象をユーザーのみのものに絞ることで，あ[13]る話題への建設的な意見を排除でき，80 ％ の真陽性率を得た．
本稿で提案された手法は，コメントのテキスト以外の情報と研究者の主観への要求が少ないのが利点である．一方，不足な[14]

部分もいくつかある．コメントの返事を基準として，コメント
自身を評価しているので，返事を持たないネットいじめコメン
トは無視されてしまう．また，返事の中でのネットいじめコメ
ントは検知できない．これらの不足点を解決するのが今後の課題である．本研究で使われたのはコメントのテキスト文とその高評価数であるが，明らかに，YouTube サイトからさらなる豊富なデータを収集することができる．データフィールドを拡
大し，プロファイル情報などを用いてツリー構造を改善し，より細かなコメントの分析に対応させる．

8. 謝

辞

本研究の一部は，九州大学 P ＆ P つばさプロジェクト採択
研究「 IT 技術を用いた大学生対象のメンタルヘルス e- ラーニ
ングシステムの構築」支援を受けている．

文

献[1] Cha, Meeyoung, et al. ”I tube, you tube, everybody tubes:
analyzing the world’s largest user generated content video
system.” Proceedings of the 7th ACM SIGCOMM conference on Internet measurement. ACM, 2007.
[2] Dinakar, Karthik, Roi Reichart, and Henry Lieberman.
”Modeling the detection of Textual Cyberbullying.” TheSocial Mobile Web. 2011.
[3] Reynolds, Kelly, April Kontostathis, and Lynne Edwards.
”Using machine learning to detect cyberbullying.” Machine
Learning and Applications and Workshops (ICMLA), 2011
10th International Conference on. Vol. 2. IEEE, 2011.
[4] Huang, Qianjia, Vivek Kumar Singh, and Pradeep Kumar
Atrey. ”Cyber Bullying Detection Using Social and Textual
Analysis.” Proceedings of the 3rd International Workshop
on Socially-Aware Multimedia. ACM, 2014.
[5] Wilson, Theresa, et al. ”OpinionFinder: A system for subjectivity analysis.” Proceedings of hlt/emnlp on interactive
demonstrations. Association for Computational Linguistics,
2005.
[6] Bollen, Johan, Huina Mao, and Xiaojun Zeng. ”Twittermood predicts the stock market.” Journal of Computational
Science 2.1 (2011): 1-8.
[7] Bastiaensens, Sara, et al. ”Cyberbullying on social networksites. An experimental study into bystanders behavioural[15]

intentions to help the victim or reinforce the bully.” Computers in Human Behavior 31 (2014): 259-271.
Wilson, Theresa, Janyce Wiebe, and Paul Hoﬀmann. ”Recognizing contextual polarity in phrase-level sentiment analysis.” Proceedings of the conference on human language technology and empirical methods in natural language processing. Association for Computational Linguistics, 2005.
Alchemy api, . [Online]. Available: www.alchemyapi.com
Langos, Colette. ”Cyberbullying: The challenge to define.”
Cyberpsychology, Behavior, and Social Networking 15.6
(2012): 285-289.
Yin, Dawei, et al. ”Detection of harassment on web 2.0.”
Proceedings of the Content Analysis in the WEB 2 (2009):
1-7.
Dadvar, Maral, et al. ”Improved cyberbullying detection
using gender information.” (2012).
Campbell, Marilyn, et al. ”Victims perceptions of traditional and cyberbullying, and the psychosocial correlates of
their victimisation.” Emotional and Behavioural Diﬃculties
17.3-4 (2012): 389-401.
Dadvar, Maral, et al. ”Improving cyberbullying detection
with user context.” Advances in Information Retrieval.
Springer Berlin Heidelberg, 2013. 693-696.
Kansara, Krishna B., and Narendra M. Shekokar. ”AFramework for Cyberbullying Detection in Social Network.”
International Journal of Current Engineering and Technology 5.1 (2015).