DEIM Forum 2017 D6-2

Twitter におけることばの流行予測
田中

勝也†

田島

敬史††

† 京都大学工学部情報学科 〒 606–8501 京都府京都市左京区吉田本町†† 京都大学大学院情報学研究科 〒 606–8501 京都府京都市左京区吉田本町
E-mail: †katsuya@dl.kuis.kyoto-u.ac.jp, ††tajima@i.kyoto-u.ac.jp
あらまし SNS が普及するにつれて，SNS ユーザの話題や流行を分析，予測することは，社会分析やマーケティング
において重要となってきているが，急速に移り変わる SNS 上の話題の流行を追うこと，また未来の流行を予測することは非常に困難である．本研究では SNS 上のユーザ間のつながりを表すグラフのデータと，ユーザの投稿に含まれるデータから得られる様々な特徴量を検討し，SNS 上での話題の流行の予測に役立つものについて比較，考察する．
キーワード

SNS，Twitter，マイクロブログ，グラフデータ，流行予測
そこで，本研究では，SNS に備わっているシェア機能を利用

1. は じ め にした情報の拡散ではなく，ユーザが投稿する文章（e.g. Twitter

インターネットが普及した現代においては，Facebook（注 1） や
（注 2）

におけるツイート）の中でことばを使用するということに着目のようなソーシャル・ネットワーキング・サービ

し，投稿文章中で対象のことばを使用したユーザ数がどのようス（SNS）の普及により，様々な人々が全世界へ情報を発信でに変化するかについて Hochreiter らが発表した LSTM（Long

Twitter

きるようになった．SNS で作り出される情報量は日々増加してShort-Term Memory）[11] を用いた時系列データ予測を行う．

おり，Twitter では，2010 年 7 月には 1 日平均で約 5500 万ツ

LSTM は RNN（Recurrent Newral Network）の一種であり，イートが投稿されていたものが，2016 年では 1 日平均約 5 億

従来の RNN が実際には長期依存を学習できない（過去の状態

ツイートとなり（注 3）（注 4），日本における月間アクティブユーザ

数も，2011 年 3 月時点で 670 万人だったものが，2016 年 9 月
時点で 4000 万人（注 5）（注 6）を覚えきれない）という問題を解決した．
従来の，ハッシュタグなどの SNS に備わっている情報拡散機となっている．

能に着目した研究では，予測の際に，ハッシュタグ自体に用いSNS が普及するにつれ，ユーザ間で話される話題も多様化し，られている単語の長さなど，対象となることばの属性を利用す

その流行も激しく変化するようになった．ツイート数やユーザるものがよく知られているが，本研究では，ことばの属性では数の変化を見ても分かる通り，SNS はいまや人々のコミュニ

なく，Twitter におけるソーシャルグラフに注目し，対象のこケーションにおいて大きな位置を占めるようになっており，まとばを使用したユーザの次数のような，グラフにおける特徴量

た SNS の特徴として，リアルタイム性が高く，急速に情報がを用いた手法を比較し，どのような特徴量が予測において役に広がるという点があるため，SNS における話題の流行を事前に立つのかを検討する．

分析，予測することは，社会分析や市場調査においても重要になってきている．

本研究に際して行った実験では，2015 年 1 月から 2015 年 12月までの Twitter ユーザのツイートデータと，2015 年時点でこのような話題の流行の予測に関する研究として，Twitter のTwitter をクロールして収集された，ユーザのフォロー関係を

ハッシュタグの使用数の変化を予測する研究 [1] や，Facebook

表すソーシャルグラフを用いて入力とした特徴量ごとの予測精における画像投稿のシェアの広がり方を予測する研究 [2] が知度の比較を行う．

られている．これらの研究はハッシュタグやシェアといった，対象の SNS に備わっている機能を利用した手法となっている

2. 論文の構成

が，こうした情報拡散機能が利用されるのは短い期間に限られ

以下，3. では関連研究について述べ，本研究の立場を明らかている [3] ため，あることばについて，どのように流行が変化にする．4. では本研究で用いる特徴量について説明する．5. でし，どれくらいユーザ間に定着していくのかということを長期は本研究において特徴量を比較するための提案手法，アルゴリ

的に調べるには適していないと考えられる．

ズムについて述べる．6. では 5. で述べる手法を用いた実験とその評価を行う．7. では本論文における結論を述べ，今後の課（注 1）：https://www.facebook.com/（注 2）：https://twitter.com/（注 3）：http://www.dsayce.com/social-media/tweets-day/（注 4）：http://www.mediapost.com/publications/article/160712/

n average-twitter-user-sends-half-a-tweet-per-day.html（注 5）：http://www.huﬃngtonpost.jp/2016/02/18/

n twitter-japan n 9260630.html（注 6）：http://gaiax-socialmedialab.jp/post-30833/

題について考察する．

3. 関 連 研 究
本章では，本研究と関連する研究を紹介し，SNS における話
題の流行の予測というテーマにおいて，それらの研究と比較した際の，本研究の位置付けを述べる．

ソーシャルネットワークにおける情報の拡散に関しては，すミなどにより徐々に様々なコミュニティで使用されるようにな

でに多くの研究がなされている．Twitter では，ユーザの投稿る」拡張型流行語があるとした上で，拡張型流行語では，こと（ツイート）中で，ハッシュタグと呼ばれる#keyword という形

ばの使用数が増えるにつれて，そのことばを使用する発言者の式の文字列を用いることで，このツイートがどういう文脈でな年齢層が，偏りのある状態から一様に近い状態に変化していくされたものかを他のユーザと共有することができる．このハッことを指摘し，ブロガーをそれぞれの興味や趣味に基づいたコシュタグについて，Tsur ら [4] は，ハッシュタグから，ハッシュミュニティに分類して，あることばの出現数が最も多いコミュ

タグ自体の内容（e.g. ハッシュタグの長さ，ハッシュタグを構

ニティでの出現数が，全ての出現数に占める割合が一定の値ま成する単語数），そのハッシュタグを含むツイートの内容，ハッで低下してきたことを流行の基準として，流行語を検知するとシュタグを含むツイートがリツイートされる確率などのコンテいう手法が提案されている．この研究ではブログのエントリかンツ的属性を抽出し，回帰分析によって，各属性とハッシュタ

らそれぞれが属するコミュニティへ分類しているが，本研究でグを含むツイート数の関係を週ベースで検討した．

はグラフのクラスタリングによるクラスタを用いた手法を検討

これに対し，Ma ら [1] は，ハッシュタグを含むツイート数でする．

はなく，ハッシュタグを使用したユーザ数に関して，また，ハッグラフのクラスタリングでは，コミュニティ間のエッジが少シュタグ自体やハッシュタグを含むツイートの内容といった，なく，コミュニティ内のエッジが多くなるようなクラスタリン

コンテンツ的属性だけでなく，他のユーザへのメッセージとしグ（モジュラリティが高いクラスタリング）がよいとされる．

てのツイート（メンション）を抽出し，メンションを送った関Girvan と Newman は，すべてのエッジに対して，そのエッジ係に基づくグラフの特徴量（e.g. PageRank アルゴリズム [5]がグラフのすべてのノード間の最短路にどれくらい寄与するかに基いたユーザのオーソリティスコア）を利用し，クラス分類をあらわす Betweenness Centrality を計算し，値の高いエッジ問題として検討を行った．この研究は．ハッシュタグの内容のから切り離していくことでモジュラリティの高いクラスタリン

ようなコンテンツの属性だけでなく，ユーザ間の関係に着目しグを実現するトップダウンクラスタリングの手法 [9] を提案した検討を行っている点で本研究と通じる部分がある．しかし，た．しかし，Girvan-Newman のアルゴリズムは，コミュニティ

Ma らの研究ではユーザ間のメンションに基づいたグラフを利を結合するたび，各エッジの Betweenness Centrality を計算し用しているが，Twitter では，ユーザは自分宛てのメンション直す必要があるため，非常に計算量が大きく，大規模なソーシャ

だけでなく，自分がフォローしているユーザ全員のツイートがルグラフのクラスタリングには不向きである．後に Newman

表示される，タイムラインと呼ばれるツイートのストリームをは，コミュニティ同士を結合したときのモジュラリティの変化

参照することが多いため，メンション関係だけでは Twitter に量に着目し，変化量が最大となるコミュニティ同士を順に結おけるユーザ同士の関係を正確に表現できていないのではない

合するボトムアップ・アプローチ（Newman Fast アルゴリズ

かと考えられる．そこで本研究では，メンション関係ではなく，

ム）によって，Betweenness Centrality を計算せずにモジュラ

実際のフォロー関係に基づいたグラフを用いることで，より有リティの高いクラスタリングが可能であることを示した [10]．

効な特徴量を得ることを目的とする．

Newman Fast アルゴリズムでは，コミュニティを結合するたまた SNS のようなマイクロブログサービスに関する研究でびにモジュラリティの変化量を計算する必要があるが，結合さよく見られるのが，優良な情報源を見つける能力の高い，いわれなかったコミュニティ間では，結合時のモジュラリティの変

ゆるアーリーアダプターとよばれるユーザたちに注目し，彼ら

化量は変わらないため，結合して新たにできたコミュニティと，の性質を分析することで次に人気が出る情報源を見つけるとい他のコミュニティでの変化量のみを計算しなおせばよいため，

うものがある．アーリーアダプターを検知するための手法としGirvan-Newman のアルゴリズムに比べ計算量の面で優れていては PageRank アルゴリズム [5] や HITS アルゴリズム [6] がる．本研究では，Newman Fast アルゴリズムにより得られた知られている．

クラスタを用いて，ことばの使用率の変化を計算する．

Cheng ら [2] の研究では，Facebook に投稿された写真がシェ
ア機能によって広まっていくということに焦点を当て，コンテ

4. 特 徴 量

ンツの属性に加えて，最初の n 回までのシェアがグラフにお本章では本研究で検討する特徴量について説明する．

いてどのような形になっているかといったグラフ的特徴や，ど3. でも挙げた中島ら [7] の研究でも指摘されていたように，れくらいの速さでシェアされるかといった時間的特徴といったことばが流行するとは，ことばが本来主に使われていた年齢層

特徴量を用いて，ある投稿をシェアしているユーザ数が今の 2やコミュニティを抜け出し，普遍的に使われるようになること倍になるかという問題に対して成果を上げている．Cheng らのだと考えられる．

研究はシェア機能を用いた画像情報の伝播についてであるが，そこで本研究では，あることばが今後どれくらい広く使われ本研究でもグラフの特徴や時間的特徴を利用した比較を行ってるようになるかを予測する際に，単純にこれまでそのことばにいく．

言及したことのあるユーザの数だけではなく，それらのユーザ

中島ら [7] の研究では，流行語を，「メディアに取り上げられノードがソーシャルグラフ上でどれくらい「散らばっている」

たことで一気に認知度が高まり様々なコミュニティで一時的にかという情報を含めて考えることで，より正確な予測を行う手

話題になる」突発型流行語と，「小さなコミュニティから口コ法を提案する．

Twitter におけるフォロー関係のグラフを，頂点となるユー
ザの集合 V と，u が v をフォローしていることを表すエッジ
集合 E = {(u, v)|u, v ∈ V }，エッジの重み W : E → R+ ，および区間 ∆t においてキーワード w をツイートしたユーザの集合を V∆t ⊂ V とし，重み付き有向グラフ G = (V, E, W, V∆t )
とする．
それでは，
「散らばっている」ということを表すための特徴量について，以下で具体的に説明する．

4. 1 フォロワー数
まずもっとも単純な指標として考えられるのがフォロワー数である．より多くのフォロワーにフォローされているユーザほど，話題の流行への影響力が大きいと考えられる．v ∈ V に対して，u が v のフォロワーであるとは，e = (u, v) ∈ E なる e

図 2 グラフの例（赤いノードが V∆t に属しているとする）が存在することであり，v のフォロワー数 follower(v) とは，Gにおける v の入次数であり，例えば，図 4. 1 のグラフにおいて，

follower(F ) = 4 である．本研究においては∑f=

4. 3 Kermack-McKendrick の流行モデル
4. 2 で述べたように，あることばについてまだ言及していな
いユーザは，すでに言及しているユーザから影響を受け，言及するようになるということを繰り返して，ことばが流行する

follower(v)

v∈V∆t

(1)

|V∆t |

ものと考えられる．これを数理モデルとして考える手法について説明する．伝染病の流行を記述するための数理モデルのを用いて予測を行うこととする．

研究は古くから行われてきた．Kermack と McKendrick [8] が提唱したモデル（Kermack-McKendrick モデル，Susceptibles-

Infected-Removed モデル，SIR モデル） は，ある集団に属する人々を，感染症に対する免疫を持たず，病気にかかりうる感
受性人口 (Susceptibles;S)，すでに病気に感染している感染人
口（Infected;I ），病気に感染後，治癒したことで病気に対する免疫を獲得する，または病気によって死亡するなどし，二度とその病気にかからない隔離人口（Removed;R）の 3 種類に分類する．

図 3 SIR モデル
図1

グラフの例

S に属する人は I に属する人と接触することで病気に感染し，I に属する人は一定確率で R へと変化する．これを定式化する

4. 2 V∆t までの平均距離
対象のことば w について言及していないユーザ u ∈/ V∆t は，
すでに言及しているユーザ v ∈ V∆t のからの影響を受けてことと以下 (3)(4)(5)(6) 式のようになる．ただし β は感染率，γ は隔離率である．

ば w を使用するようになる，ということを繰り返してことばが流行していくものだと考えられる．したがって，u と V∆t の距
離 d(u) = min dist(u, v) は，u がどの程度ことば w の流行v∈V∆tに影響されやすいかを表す指標とできる．本実験では d(u) の
平均値

∑
d¯ =

dS(t)
= −βS(t)I(t)dtdI(t)= βS(t)I(t) − γI(t)dtdR(t)= γI(t)dt
S + I + R = const.

(3)
(4)
(5)
(6)

d(u)

u∈V \V∆t|V \ V∆t |(2)を用いた手法を検討する．例えば，図 4. 2 のグラフにおいては d¯ = 2.3 となる．

しかし，話題の流行を記述するために，Kermack-McKendrick
モデルをそのまま当てはめることは適切ではない．まず，話題の流行では免疫に相当するものがないと考えられるため，隔離人口の変化はアクティブユーザの減少のみであるが，Twitter

のユーザ数は年々増加しており，アクティブユーザの減少による効果は外部からの人口増加の影響に比べると小さい．よって
本研究では隔離人口を考えず，感染人口は一定確率で感受性人
口に戻るとする SIS モデルをベースに考えることにする．

図 4 SIS モデル

SIS モデルは感染率 β と 回復率 γ を用いて以下 (7)(8)(9) のように定式化できる．

dS(t)= −βS(t)I(t) + γI(t)dtdI(t)= βS(t)I(t) − γI(t)dt
S + I = const.

(7)
(8)
(9)

本研究ではこの SIS モデルの感染率と回復率を利用して今後ことばがどのように広がっていくかを予測する手法を検討する．

4. 4 クラスタにおけることばの使用率
中島ら [7] の研究では，ブログの投稿を分析してブロガーたちをコミュニティに分類し，最も多く対象のことばを使用して

図 5 クラスタ分割から omax を求める概念図

いるコミュニティが全体に占める割合の低下を検知し，流行の早期検知をする方法が提案されていた．
本研究においては，投稿内容での分類ではなく，Twitter の5. 提 案 手 法

フォロー関係グラフ G を Newman Fast アルゴリズムによりク

本章では本研究で我々が提案する手法について述べる．

ラスタリングし，得られたクラスタ C1 , . . . , Cn について，グ本研究の目的は，Twitter において，ことば w が含まれる過ラフ全体におけることば w の使用数 wall に対する，各クラス

去 10 か月分のツイートデータと，Twitter のソーシャルグラ

タでのことばの使用率 o1 , . . . , on を計算し，その最大値 omax

フから，各種特徴量を計算し，特徴量をもとに今後 2 か月間でを利用する．

w を含むツイートを行うユーザの数の変化を予測し，特徴量の例えばある区間において，あることば w の使用数と，グラフのクラスタリング結果が図 4. 4 のようになっているとすると，有効さについて検討することである．

5. 1 特徴量の抽出
各特徴量について，その抽出の方法を説明する．すべての特全体の w の使用数は wall = 14 であり，徴量において，単位となる区間を ∆t とし，区間 ∆t において

1+2+1+3+2
9
=
wall
14
1+0+0+0
1
o2 =
=
wall
14
4
1+2+1+0+0
=
o3 =
wall
14

o1 =

(10)
(11)

ことば w を含むツイートをしたユーザの集合を V∆t とする．

5. 1. 1 フォロワー数(1) 式により，各区間 ∆t1 . . . ∆tn での，V∆t に含まれるユー
ザの平均フォロワー数 f∆t1 . . . f∆tn を求めたのち，その平均

(12)
n
∑

となり，

i=1
f¯∆t =

9omax = max oi =
i
14

(13)

v
n
u∑
u
u
(xi − x)2t

ことばがある特定のユーザ間だけで話されるにとどまっていに使われるようになればなるほど，omax の値は低下すると考えられる．本研究ではこの omax を特徴量として今後ことばがどのように広がっていくかを予測する手法を検討する．

(14)

n

と標準偏差

となる．
る状態では，omax の値は高く，ことばが広まり，多くのユーザ

f∆ti

σ=

i=1

n

(15)

を求め，平均 0 となるようセンタリングしたものを，フォロ
ワー数の入力データとして用いる．

5. 1. 2 V∆t までの平均距離ズムにより得られたクラスタ C1 , . . . , Cn の中で，区間 ∆ti にV∆t までの平均距離は以下の手順により近似値を求める．

おける対象のことば w の使用数が最も多いクラスタが，全体のまず，V∆t を，V∆t からの距離 0 の頂点集合とし，距離 0 の使用数に占める割合 om ax を計算する．

集合に含まれる頂点から，エッジを逆向きに 1 回だけ辿ってた5. 2 ニューラルネットワークによる学習・予測

どり着ける頂点の集合を求め，そのうち，距離 0 の集合には含本研究においては，ことばを使用するユーザの数の時間的特まれない頂点の集合を距離 1 の集合とする．以下同様に，距離徴を学習するため，RNN の一種である LSTM を用いて学習を

i の集合からエッジを逆向きに 1 回だけ辿ることでたどり着け

行う．RNN はステップ t におけるインプット it が入力される

る距離 i + 1 の集合を求める．そして，距離 0. . . n の集合に含際，ステップ t − 1 での自身の状態 wt−1 も同時に考慮され，活まれる頂点数と，グラフに含まれるすべての頂点の数の比が予性化関数 f を適用した f (it , wt−1 ) を入力とすることで，過去

め決められた値を越えたとき，そこで作業を終了し，平均距離の入力を記憶する能力を持つモデルである．

を計算する．終了条件となる頂点数の比を p として，この手順

RNN は過去の状態を入力として受け取り続けることで時系のアルゴリズムを 1 に示す．

列データを扱うことができるが，実際には過去の入力をすぐに

Algorithm 1 V∆t までの平均距離を近似するアルゴリズム

入出力に加え，メモリと，入力，出力，忘却を判断する 3 つの忘れてしまうことが知られている．そこで，RNN の中間層をRequire: 各頂点から V∆t までの平均距離 d¯ を近似する．
Ensure: 終了条件となる頂点数の比 p，グラフの全ての頂点の集合
V ，グラフのエッジ集合 E
1: V0 ← V∆t
2: n ← 0を学習できないという問題を解決したのが LSTM である．

6. 実験と評価
n∑3: while Vn =| ∅ and

ゲートを持つ LSTM ブロックに置き換えることで，長期依存

本章では本研究に際して行った実験とその評価について述

|Vi |

i=0
|V |

< p doべる．

4:Vn+1 ← {u ∈ V \ (V0 ∪ · · · ∪ Vn )|∃ v ∈ Vn s.t. (u, v) ∈ E}

6. 1 実験に用いたデータ

5:

n←n+1

実験では，2015 年 1 月から 2015 年 12 月までの Twitter ユー

6: end whilen∑

7: d¯ ←

n|Vn |

i=0
n
∑

|Vn |

i=0

8: return d¯

ザのツイートデータおよび，2015 年時点で Twitter をクロールして収集された，ユーザのフォロー関係を表すソーシャルグ
ラフを用いた．それぞれのデータの詳細を説明する．

6. 1. 1 ツイートデータ
ツイートデータは，調べたいことば w をクエリとして，Twit-

ter の WebAPI のひとつである search API（注 7） を用いて，2015
このアルゴリズムにより，各区間における d¯ の近似値を求

年 1 月から 2015 年 12 月までの 12 か月分のツイートを収集しめた後，5. 1. 1 と同様にセンタリングを行ったデータを V∆t

たのち，API のオプションで除外することのできない以下のよまでの平均距離の入力データとして用いる．実験においては，

うなツイートを削除した．

p = 0.7 として近似値を求めた．

•

ツイート内容にクエリが含まれない場合．対象のクエリ

5. 1. 3 SIS モデル

がユーザ名に含まれているだけの投稿も取得されてしまうため，

区間 ∆ti における SIS モデルの感染率 βi と回復率 γi は以下

ユーザ名にクエリが含まれているツイートを削除した．

のように計算する．まず，回復率 γi は，区間 ∆ti で対象のことば w を投稿したユーザが，区間 ∆ti+1 , . . . , ∆ti+j のいずれ収集したツイートデータは，ツイート 1 件ごとに表 1 のようになっている．

においても w を投稿しない確率として計算できると考えた．本
研究においては j = 7 とし，区間ごとに回復率を求めた．こう

表1
データ

収集したツイートデータの概要説明

して求めた回復率と，∆ti から ∆ti+1 での感染人口の変化から

ts

ツイートが投稿された時間のタイムスタンプ

区間ごとに感染率 β を求める．

uid

ツイートを投稿したユーザの内部 ID

5. 1. 4 クラスタにおけることばの使用率

text

対象のツイートの投稿内容

本研究においては，ユーザのクラスタリングに際して，ユー

query

API での検索に使用したクエリ w

ザの投稿内容，自己紹介文，位置情報などを参照したユーザプ
ロファイルの手法ではなく，ソーシャルグラフをモジュラリティ

ツイートデータ収集に際して使用したクエリ，そのクエリでが高くなるようなクラスタに分けるグラフクラスタリングの取得したツイートの数（#tweets），ツイートを投稿したユー手法により行う．クラスタリングアルゴリズムには，Newman

ザ数（#users）を表 2 に示す．

Fast アルゴリズム [10] を利用した．Newman Fast アルゴリズ
ムは，クラスタ同士を結合したときのモジュラリティの変化量が最大となるようなクラスタ同士を貪欲に結合していくボトム
アップクラスタリングの手法である．Newman Fast アルゴリ

（注 7）：https://dev.twitter.com/rest/reference/get/search/tweets

6. 1. 2 フォロー関係グラフ
フォロー関係グラフは，Twitter の WebAPI のひとつである

followers/ids API （注 8） を用いて，言語設定が日本語になって

表 2 ツイートデータ収集に使用したクエリ

query#tweets #users

いるユーザを幅優先探索により収集した．フォロー関係グラフ

爆買い232719128176はフォロワーとフォロイー（フォロワーにフォローされている

ドローン

421763160516ユーザ）の内部 ID のペアの集合として収集した．収集したグ

トリプルスリー

132725

76104

大阪都構想

ラフは，5000 万ノード，40 億本以上のエッジを含む巨大なグ379022100645

ラフになり，このグラフを直接扱うことは困難であったため，エッジを無作為に削除することで，800 万ノード 3600 万本のエッジを含むグラフに縮小した．

6. 2 実験の手順
今回行った実験は特徴量の抽出段階と，ニューラルネットワー
表3

クによる学習・予測段階の 2 つに分けられる．2 つの段階の詳

実際に収集したツイートデータの例

細についてそれぞれ説明する．
ts

uid

text

query

6. 2. 1 特徴量の抽出1422619875000 2232923797 この前爆買いし過ぎた

爆買い

4 つのクエリにより収集した 2015 年 1 月から 2015 年 121422613688000 2836712954 765 円に窓埋めあるか

爆買い

月までのツイートデータのうち，モデルの学習のために，300

らそこまで下落したら

日分のツイートデータに対して特徴量を抽出した．区間は爆買いだけどね。

1422611440000 2432043643 えまちゃんのエンゼル

爆買い

6. 2. 2 ニューラルネットワークによる学習・予測

体操がくそかわいかっ

1422641991000

6525302|∆t1 | = · · · = |∆t3 00 | = 24(hours) とした．

たから、バイト前にラ

本節では得られた特徴量から，目標となる，対象のことばを

ノベ爆買いしてくる

用いるユーザ数の予測値を算出する方法を示す．時系列データ

都市部でのドローンはドローン

危 険 だ か ら Amazonの学習を行うために，LSTM を用いて，

m1

LSTM 層のみの 1 層モデル

m2

LSTM 層+LSTM 層の 2 層モデル

m3

LSTM 層+LSTM 層+LSTM 層の 3 層モデル

は 地 下 に エ ア シュー
ター設置してそれを使って配送してくるようになるのでは？ #ねー
よ1422640634000

429632033

お掃除ドローンいたら

ドローン

いいのに。

1422639559000 2986441345 ドローンは早すぎた 逆の 3 種類のニューラルネットワークモデルを構築し，それぞ
ドローン

か 対策が遅すぎた ま

れのモデルについて 300 エポックの学習を行い，得られたモデルにより予測を行った．

だ無人機をノーリスク
で飛ばせる時代が来るとは思われてなかった

1425047772000

59961735

1425039137000

439656024

柳田トリプルスリーあ トリプルスリー
りそうですな、ことし
ヤフオクドームランす トリプルスリー
ごいなこれ。東京ドームのカラクリたる所以である左中間右中間の膨らみの小ささも謎のリスペクトしてるようだし、柳田のトリプル
スリー待ったなしよ

1425035797000

248792018

そろそろプロ野球でト トリプルスリー
リプルスリー達成者が出て欲しいな。 一番最後が 2002 年の松井稼頭央さんだったよな。

図6m1
図 7 m2
図8m3（注 8）：https://dev.twitter.com/rest/reference/get/followers/ids

表4
入力に使用した特徴量データを得られると考えられるが，塩川らの研究で扱われてい

実験結果

m1 (MAPE) m2 (MAPE) m3 (MAPE)

f

104.7193

104.0217100.2460f, d¯

99.1705

107.3842

102.8128f, ri , rr

104.9314

105.3243118.2380f, omaxd¯

99.6183108.2882

110.9932

105.5918

116.6669

102.4934¯ ri , rrd,¯ omaxd,113.9591

114.1747

101.5679

103.4175112.2400

106.4599

ri , rr

104.5680

104.8184

105.7658

ri , rr , omax

102.2065

106.4259

119.4674

るグラフデータは最大でもエッジ数 367,662 本のグラフであり，今回扱った Twitter のフォロー関係グラフのような巨大なグラフに対してクラスタリングを行うことは計算量の観点から非常に難しい．よって，•フォロー関係グラフを用いるのではなく，代わりとなるユーザ同士の関係を表すようなグラフを用いる•

フォロー関係グラフを適切な方法で枝刈りするという 2 つのアプローチが考えられる．
まず，フォロー関係グラフの代わりとなるようなグラフに関して，Ma ら [1] は，フォロー関係グラフではなく，ユーザのそれぞれのモデルには，連続した 10 区間の特徴量の値の組をメンション関係に着目することで予測を行い，Cheng ら [2] は，

学習データ，その次の区間での目標値（ことばを使用したユー

投稿をシェア機能により再投稿したユーザのグラフに着目するザ数）を教師データとして学習させた．最適化アルゴリズムにことで予測を行った．これらのユーザ関係グラフは本研究で使は Adam [12] を用いた．

用した Twitter のフォロー関係グラフよりもずっと小さいもの

また今回の実装において，ニューラルネットワークモデル

である．これらの研究のように，ユーザのフォロー関係以外のの学習には，オープンソースの機械学習ライブラリである関係に着目することにより，より，小さいグラフから効果的な（注 9）

TensorFlow（注 10）

をバックエンドとして，Kerasを用いた．

6. 3 評 価 手 法

特徴量を得るということも考えられる．
またフォロー関係グラフに行う枝刈りに関しても，今回のよ予測結果の評価には平均絶対パーセント誤差（Mean Absolute

Percentage Error，MAPE）

うにランダムなものではなく，ノードとなる個々のユーザの投稿内容について調べ，対象期間の間に投稿をしていない，ユー
ザが流行に与える影響はないとし，グラフから削除するという100 ∑ utrue − upredictn iuitruenmape =

i

方法でグラフの規模を縮小するといった，より元のデータに含

i

(16)

を使用し，4 つのクエリに対しての MAPE の平均値を評価

まれる属性を損なわないような方法も考えられる．

7. 結

論

値とした．ただし uitrue は区間 ∆ti に対象のことばを含むツ

本研究では，SNS におけることばの流行予測の手法として，イートをしたユーザの数，uipredict はモデルによるその予測値

SNS のシェア機能や，投稿内容に着目，分析し，予測を行う従である．

来の手法とは違った手法として，ソーシャルグラフに着目し，

6. 4 実 験 結 果

グラフにおいて，ノードが「散らばっている」ということの指表 4 に実験結果を示す．

標になると思われる特徴量を提案し，実際にこれらの特徴量か

今回の実験において考慮したすべての特徴量の組み合わせで，ら，LSTM を利用したモデルにより，時系列データとして学習モデルにかかわらず，MAPE の平均値は 100 に近いスコアとすることで予測を行う手法を検討した．しかし，今回検討したなり，有効な予測ができていないことがわかった．

手法と特徴量では，時系列データ予測を行う際の有用性は認め

6. 5 考察られなかった．その理由として，一連の実験を踏まえ，今後の課題について述べる．

•

入力とした特徴量の質が十分でなかった

今回，我々の提案する特徴量による時系列データ分析は有効•SNS でのことばの拡散においては，ソーシャルグラフのではなかった．原因として，まず特徴量の質が十分でなかった構造だけでなく，コンテンツ的特徴も大きく関わっているという可能性が考えられる．実験において特徴量を抽出する際，ということが考えられる．

巨大なグラフデータを扱うための前処理として枝刈りを行い，

まず入力データの質に関して，今回は収集された巨大なソー5. 1. 2 節，5. 1. 3 節のように様々な仮定を置き，近似を用いた．

シャルグラフデータを扱うため，無作為にエッジの削除を行い，これらの手順の妥当性，またより適当な手法について検討し直また，ノードから V∆t への平均距離といった計算を行う際にすことが必要である．

近似を用いた．これらの前処理や近似により予測に用いた特徴

グラフデータに対し，クラスタに含まれるノードの逐次集約

量の質が低くなってしまった可能性がある．この問題を解決すなどの手法を用いることで，Louvain アルゴリズムによるクラるために，適切な枝刈りアルゴリズムについて検討する，フォスタリングを高速化した塩川ら [13] のように，グラフ処理を高ロー関係グラフではなく，メンション関係のグラフなど，小規

速化し，グラフ全体を扱うことが可能であれば，より質の良い模で有効なグラフについて検討するといった方法が考えられる．
次にグラフ構造以外のコンテンツ的特徴に関して，対象とな（注 9）：https://www.tensorflow.org/

ることば自体や，ユーザの投稿内容，SNS のシェア機能による（注 10）：https://keras.io/

拡散具合のようなコンテンツ的特徴量が，ハッシュタグやシェア機能による投稿の拡散の予測において有効であるということは参考文献 [1] [2] [4] などにより指摘されている．本研究ではソーシャルグラフに着目し，グラフ的特徴量による予測を試みたが，最終的に予測精度を上げるためには，ユーザ関係のグラフ的特徴のみではなく，コンテンツの面からも予測に役立つ特徴量について考えることが必要だと考えられる．例えば使用率最大のクラスタにおける使用率を調べる際，グラフのクラスタ
リングを行うのではなく，投稿内容からユーザがよく言及する
トピックを調べることでコミュニティに分割する，ユーザの位
置情報ツイートをもとに地域のコミュニティに分割する，などといった方法でもコミュニティ分割を行える．これらのコンテンツ的特徴を用いた手法も検討する必要がある．
また，今回は抽出した特徴量を入力データとしてニューラル
ネットワークモデルに学習させることで予測を行った．しかし
今回提案した SIS モデルの感染率や治癒率といったパラメー
タは，特徴量として入力するだけでなく，実際にフォロー関係
グラフ上でシミュレーションを行うことで感染しているノード数の予測値を出す，というアプローチも考えられる．実際に，

SIR モデルを拡張したモデルを用いて，Twitter におけるデマ
ツイートとデマ訂正ツイートの広がり方をシミュレートする
研究 [14] や，複雑ネットワーク上に拡張した SIS モデルの解析 [15] なども行われている．
以上を考慮した上で，今後の課題として，•

メンション関係やシェア機能を利用したユーザのグラフなど，フォロー関係よりも小規模なユーザ関係グラフに関して
特徴量の抽出を行い，実験を行い評価する•

グラフの特徴量だけでなく，コンテンツ的特徴も含めた特徴量で，予測において有用なものがないかを検討し，実験を行い評価する•

特徴量を時系列データとして学習するだけでなく，実際のユーザ関係グラフ上でシミュレーションを行うなど，別の予測方法を検討することが挙げられる．

謝辞

本研究は JSPS 科研費 16K12430 の助成を受けたものです．

文

献[1] Ma, Zongyang, Aixin Sun, and Gao Cong. ”Will this# hashtag be popular tomorrow?.” Proceedings of the 35th international ACM SIGIR conference on Research and development in information retrieval. ACM, 2012.
[2] Cheng, Justin, et al. ”Can cascades be predicted?.” Proceedings of the 23rd international conference on World wideweb. ACM, 2014.
[3] Lehmann, Janette, et al. ”Dynamical classes of collective
attention in twitter.” Proceedings of the 21st international
conference on World Wide Web. ACM, 2012.
[4] Tsur, Oren, and Ari Rappoport. ”What’s in a hashtag?:content based prediction of the spread of ideas in microblogging communities.” Proceedings of the fifth ACM international conference on Web search and data mining. ACM,
2012.

[5] Page, Lawrence, et al. ”The PageRank citation ranking:bringing order to the web.” (1999).
[6] Kleinberg, Jon M. ”Authoritative sources in a hyperlinked
environment.” Journal of the ACM (JACM) 46.5 (1999):604-632.
[7] 中島伸介, et al. ”大規模なブログ記事時系列分析に基づく流行語
候補の早期発見手法.” 情報処理学会論文誌データベース (TOD)
6.1 (2013): 1-15.
[8] Kermack, William O., and Anderson G. McKendrick. ”Acontribution to the mathematical theory of epidemics.” Proceedings of the Royal Society of London A: mathematical,
physical and engineering sciences. Vol. 115. No. 772. The
Royal Society, 1927.
[9] Girvan, Michelle, and Mark EJ Newman. ”Community
structure in social and biological networks.” Proceedings ofthe national academy of sciences 99.12 (2002): 7821-7826.
[10] Newman, Mark EJ. ”Fast algorithm for detecting community structure in networks.” Physical review E 69.6 (2004):
066133.
[11] Hochreiter, Sepp, and Jrgen Schmidhuber. ”Long shortterm memory.” Neural computation 9.8 (1997): 1735-1780.
[12] Kingma, Diederik, and Jimmy Ba. ”Adam: A method forstochastic optimization.” arXiv preprint arXiv:1412.6980(2014).
[13] 塩川浩昭, 藤原靖宏, and 鬼塚真. ”ノードの逐次集約による大規
模グラフクラスタリングの高速化.” 第 4 回データ工学と情報マ
ネジメントに関するフォーラム (DEIM2012), B61 (2012).
[14] 白井嵩士, et al. ”Twitter におけるデマツイートの拡散モデルの構築とデマ拡散防止モデルの推定.” 人工知能学会全国大会予稿集, IC3-OS-12-1 (2012).
[15] 守田 智. ”複雑ネットワークと感染症モデル” 第 18 回交通流数理研究会 (2012)