DEIM Forum 2014 C4-1

実生活 Tweet に対する局面の階層的推定法
山本 修平†

佐藤 哲司†† 筑波大学大学院図書館情報メディア研究科 〒 305―8550 茨城県つくば市春日 1–2
E-mail: †{yamahei,satoh}@ce.slis.tsukuba.ac.jp
あらまし

身近な出来事や感心事を投稿し共有する Twitter 上には，食事や交通，災害，気象など，様々な生活の局面で有益な Tweet が数多く投稿されている．本論文では，これらの有益な Tweet に適切な局面を，一つ或いは複数個付与するマルチラベリングを実現する階層的推定法を提案する．第一段階では，大量の Tweet に対して教師データを必要としない LDA を用いてトピックを抽出し，第二段階では，ラベル付けされた少量の Tweet を用いてトピックと局面の対応関係を構築する．未知の Tweet に対して局面毎にスコアを算出し，閾値を超えたスコアを持つ局面を動的に付与する．提案法を実装したプロトタイプシステムを用いて評価を行い，未知の Tweet に対して適切な複数の局面を網羅的に推定できることを明らかにした．
キーワード

Twitter，実生活，LDA，階層的推定法，マルチラベル分類

1. は じ め に局面に対応し，これから外出しようとしているユーザ，外に洗濯物を干しているユーザを支援できる．
「電車が遅れてる」といマイクロブログの代表である Twitter（注 1）は，最大 140 文字

う Tweet は「交通」の局面に対応し，これから電車に乗ろうの短い文章からなる Tweet と呼ばれる記事を投稿するサービとしているユーザを支援できる．著者らは，Wikipedia の「地スである．ブログでは 1 日から数日前までの出来事をまとめて

域コミュニティ」（注 2）と「生活」（注 3）を参考に，人々の生活を表投稿することが多いが，Twitter では多くのユーザがリアルタ

1 に示す 14 の局面に整理し，いずれかの局面を未知の Tweet

イムに，自らの経験や意見，また日常生活でのイベントなど，に付与する手法を提案している [15]．しかし，Tweet によって身近な「今」を投稿している．このため，他のユーザにとっては複数の局面を付与する方が適切な場合もある．例えば，「激も最新かつ有益な Tweet が多い．例えば，「雨が降ってきた」としい雨のため，電車が遅延しています」という Tweet は，「激

いう Tweet は，洗濯物を外に干しているユーザや，これから外しい雨が降っている」ことと，「電車が遅延している」ことにつ出しようとしているユーザに役立ち，「電車が遅れてる」といういて言及している．Tweet の主題は「電車の遅延」であるが，Tweet は，交通機関を利用するユーザを支援できる．これらの

この Tweet は外の状況を確認できないユーザに対して，「雨がような，地域性が高く新鮮かつ他のユーザに有益な Tweet を，降っている」ことを伝える情報でもある．ユーザは，現在の活

著者らは「実生活 Tweet」と呼び，大量の Tweet の中から実動状況に適した局面を指定して，必要とする情報を選択して入生活 Tweet を抽出することを試みてきている [21] [15] [16]．

手するであろうから，この Tweet には「交通」だけでなく，「気

実生活 Tweet が実際にユーザの生活を支援した例として，象」も付与しておくことが望ましい．したがって，Tweet に対2011 年 3 月に起きた東日本大震災が知られている [20]．地震がして可能性のある全ての局面を網羅的に推定することが，実生起きた直後，被災地周辺では断水や食料供給の不足，交通機関

活 Tweet の有益性を高めることに繋がると考えられる．

の運行停止など，大きな混乱が生じた．その際，給水や食料配本論文では，Tweet に適した複数の局面を付与するマルチラ

布が行われる場所，電車やバスの運行情報について記述されたベリングを実現する階層的推定法を提案する．階層的推定法は，有益な Tweet が数多く投稿され，多くの生活者を支援したと第一段階で大量の Tweet からトピックを抽出し，第二段階で少報告されている．

量のラベル付き Tweet を用いてトピックと局面の関連度を算

このように，ユーザにとって有益な実生活 Tweet は，Twitter

出し，局面毎に設定した閾値を超えた関連度を持つトピックとに数多く投稿されている．一方で，実生活 Tweet 以外の Tweet

局面の対応関係を構築する．入力された未知の Tweet に存在すも少なくない．特に，「ありがとう」や「そうなんだ」，「なるる単語に基づいて，トピック中の生起確率とトピックと局面のほど」といった，誰かの投稿に対する相槌や共感，「ねむい」や関連度からスコアを算出し，閾値を超えたスコアを持つ局面を「お腹空いた」といったひとり事などの，ユーザの生活を直接

Tweet に対して推定することによって，マルチラベリングを実支援しない Tweet も数多い．このような Tweet の混在は，実現する．

生活 Tweet の発見を妨げる原因となっている．
実生活 Tweet は，生活の様々な局面に対応している．例え

本論文の構成を以下に示す．第 2 章は関連研究について述べる．第 3 章は，提案手法である局面の階層的推定法について詳ば，「雨が降ってきた」という Tweet は生活の中の「気象」の（注 2）：http://ja.wikipedia.org/地域コミュニティ（注 1）：http://twitter.com/（注 3）：http://ja.wikipedia.org/生活表 1 実生活の局面

バーストキーワードを見つけ出し，キーワードの共起を用いて典型的な単語

クラスタリングを行い，リアルタイムに変動するトレンドを発局面
服飾

衣服, 服装, 着る, 装飾, 化粧, 理髪, 衣装 ...

交流約束, 出会い, 招待, 友人, 誘い, 勧誘, 飲み会 ...

災害

洪水, 竜巻, 地震, 火事, 津波, 二次災害 ...

食事料理, 外食, 食べ物, レストラン, ジャンクフード ...

行事

祭り, 冠婚葬祭, 日程, 開催日, 学園祭, 文化祭 ...

消費

購入, 買う, 注文, 安売り, 特売, ショッピング ...

健康

風邪, 体調, 怪我, 痛み, 健康法, 病気予防 ...

る手法を提案している．本論文は，未知の Tweet に対して実趣味

余暇, 娯楽, おもちゃ, 音楽, テレビ, ゲーム ...

生活の局面を推定することによって，有益な実生活 Tweet を抽

居住

掃除, 家具, 洗濯, 住まい, 隣人, アパート ...

出することを目的としているため，これらの Twitter に関する地域

観光, 地域情報, 地理情報 ...

研究とは異なる．

学校

勉強, 宿題, 課題, 試験, テスト, 資格, 研究 ...

交通

電車, バス, 飛行機, 時刻表, 渋滞, 混雑, 遅延 ...

気象

天気, 気温, 湿度, 風, 花粉, 雨量, 空模様 ...

労働

アルバイト, 研修, 就職活動, 営業, 仕事 ...

見することを目指している．Zhao ら [18] は，Twitter に投稿された情報要求に関する Tweet を抽出し，ユーザの情報要求を分析することによって，現実世界のイベントやトレンドを発見できると報告している．Wang ら [12] は，過去の Tweet からユーザの興味を推定し，Tweet と興味の近いユーザを推薦す2. 3 トピックモデルに関する研究
トピックモデルに関する研究では，Blei ら [1] によって提案された潜在的ディリクレ配分法（LDA）が広く知られている．

LDA とは，一つの文書に複数のトピックが存在すると仮定した確率的トピックモデルであり，それぞれのトピックがある確
述する．第 4 章は，大量に収集した Tweet を用いて提案手法の有効性を評価する．第 5 章で考察を行い，第 6 章で結論と今後の課題について述べる．

2. 関 連 研 究率を持って文書上に共起するという考えのもと，各トピックの確率分布を導出する教師なし学習モデルである．Riedl ら [10]は，LDA を用いて文書を話題毎に分割する手法を述べている．

LDA によって得られた各トピック中の単語の生起確率から，文書中の単語をトピック ID に変換し，文の境界の前後に一定の

2. 1 経験マイニングに関する研究
実生活 Tweet は，ユーザの経験や知識，或いは地域に特有の情報を含んでいる．文書から経験情報を抽出する方法として，経験マイニングに関する研究がいくつか行われている．

Kurashima ら [7] は，人間の経験を｛状況，行動，主観｝からなる情報と捉え，文章中から｛時間，空間，動作，対象，感情｝
を自動抽出する手法を述べている．Inui ら [5] は，｛時間，極性，
話者態度｝の観点から，｛トピック，経験主，事態表現，事態タイプ，事実性｝の各項目に人間の経験を索引付けする枠組みを提案している．池田ら [19] は，ユーザの体験表現を 20 種類の品詞の組合せルールとして定義し，ルールに適合する文書があった場合に，体験表現として抽出している．Hattori ら [4] は，
ソーシャルメディアに投稿される耳寄り情報を抽出するために，

LDA によってトピック毎にクラスタリングしたコメントから，
経験マイニングを用いて経験情報を抽出した後に，耳寄りキー
ワードを含むコメントを抽出している．

単語数の窓を設定し，各窓毎にトピックの出現頻度の類似度を算出することによって，話題の変換点を検出している．Zhang
ら [17] は，LDA を用いてアーティストを推薦する手法を提案している．ユーザの選好アーティストと，そのアーティストのコミュニティに所属するユーザを特徴量として LDA で生成したトピック集合を用いて，アーティスト間の類似度，ユーザ間の類似度を算出し，精度だけでなく意外性のあるアイテムの推薦も目指している．Weng ら [14] は，Twitter 上で影響力のあるユーザの発見のために，LDA を用いてユーザのトピックを同定している．トピック毎にユーザのネットワークを構築し，各ネットワークに対して PageRank を拡張した TwitterRankを適用することで，ユーザをランキングする手法を提案している．本論文は，生成したトピックと局面の対応関係を構築し，トピックと局面の関連度とトピック中の単語の生起確率を用いて，未知の Tweet に対して複数ラベルを推定することに特徴がある．

これらの文章の構造やルールに着目した経験マイニングに関する研究は，ブログなどの長い文章に対して効果的であるが，Twitter に投稿される記事のような，短い文書に対しては有効に機能しないと考えられる．Twitter に投稿される記事は，頻
繁に主語や目的語が省略されるため，経験マイニングを難しくしている．本論文は，Twitter を対象にユーザの経験だけでなく，知識や地域特有のイベントを抽出することも目的としている．

2. 2 Twitter からの情報抽出に関する研究
Twitter から有益な情報を抽出する研究は，数多く行われている．Sakaki ら [11] は，Twitter ユーザをセンサーとみなし，地震などの現実世界で起きるイベントを発見する手法を明らかにしている．Mathioudakis ら [8] は，収集した Tweet から

3. 局面の階層的推定法
実生活 Tweet は表 1 に提示したように，様々な局面を含んでおり，局面に関連する全てのキーワードを列挙することは困難である．また，経験マイニングで用いられているルールベースの解析手法は，Twitter に投稿される記事が短く単語の省略も多いことから，実生活 Tweet の抽出を行うことは難しいと考えられる．
本論文で提案する階層的推定法の概要について，図 1 に示す．
第一段階では，LDA を用いて大量の Tweet からトピックを抽出する．LDA は大量の文書集合をクラスタリングするための，教師無し学習モデルであるため，教師（正解）ラベルを必要としない特徴がある [1]．第二段階では，局面を表現するために

図 1 階層的推定法

図 2 対応関係の例

必要なトピックを抽出するため，局面ラベルが付与された少量

ク t における単語 w の生起確率である．この式は，単語 w のの Tweet を用いて，トピックと局面の対応関係を構築する．入

局面 a における生起確率と単語 w のトピック t における生起力された Tweet から抽出した単語のトピック中の生起確率と，確率を用いて，局面 a とトピック t の関連度を算出する．g は，トピックと局面の関連度を用いてスコアを算出し，スコアが閾

トピック中の単語の生起確率に幅をつけるためのパラメータで値を超えた局面を未知の Tweet に対して推定する [16]．本論文あり，本論文では g = 0.3 としている．

では，トピックと局面の関連度について，以下の 3 種類の関連

関連度を 0 から 1 の範囲とするために正規化する．ここでは，度を提案する．一つ目は，局面にとって他に比べて特徴的なトˆ
以下の式（2）に示す，各局面で正規化した関連度 Ra(a,t) と，

ピックに対して高い関連度を与える手法，二つ目は，トピック

各トピックで正規化した関連度 R̂t(a, t) を用意する．

にとって他に比べて特徴的な局面に対して高い関連度を与える
手法，三つ目は，一つ目と二つ目の両方を考慮した手法として，それぞれの関連度を用いて Tweet に対してスコアを算出する．

R(a, t)ˆRa(a,t) = ∑
R(a, t)t∈T

R(a, t), R̂t(a, t) = ∑R(a, t)(2)a∈A

以下，第 3. 1 節ではトピックと局面の対応関係を構築する手法を，第 3. 2 節では未知の Tweet に対して複数の局面を推定

ここで，T は LDA で抽出した全てのトピック，A は全ての局する手法について詳述する．第 3. 3 節では対応関係を構築する

ˆ面である．Ra(a,t) は，局面がどのトピックによって支持され際に最適なトピック数の決定方法を説明する．

ているかを表す指標であり，R̂t(a, t) は，トピックがどの局面

3. 1 トピックと局面の対応関係の構築方法
大量の Tweet を LDA の入力とし，予めトピックを生成してを支持しているかを表す指標である．
ˆ
関連度 Ra(a,t) を用いてトピックと局面の対応関係を構築す

おく [15]．3. 3 節で最適化するが，抽出するトピックは数百程る．局面によって，対応関係にも様々な傾向があると考えられ度である．トピックと局面の対応関係を構築するため，局面がる．局面とトピックの対応関係の例を図 2 に示す．この図は，ラベル付けされた少量の Tweet を正解データとして用意する．

交通の局面はトピック 2 から 0.79 の高い関連度を持っており，

Tweet を形態素解析し（注 4），得られた語彙集合を W とする．形

消費の局面はトピック 1 とトピック 3 から 0.39 と 0.53 と中程

態素解析には，日本語形態素解析器 MeCab [6] を用いる．

度の関連度を持っている．このような場合，交通の局面はト

各局面 a における単語 w の重要度として，単語の生起確率

ピック 2 と対応関係を構築し，消費の局面はトピック 1 と 3 のp(a, w) を算出する．本論文では，マルチラベルが付与されてい二つのトピックと対応関係を構築する．以上のような対応関係

るデータから，単語の生起確率を算出できる Labeled LDA [9]を用いる．Labeled LDA（L-LDA）は，Ramage らによってを全てのトピックと全ての局面の間で構築するために，局面毎ˆに閾値を決定し，関連度 Ra(a,t) が閾値を超えたトピックと対

LDA を教師あり学習へ拡張したトピックモデルである．L-LDA

応関係を構築する．局面 a と対応関係を構築するトピック集合

は文書に予め付与されているラベルを，その文書の内容を表す

Ta は，媒介変数 d を用いて，ものと捉えることで，潜在トピックの抽出における教師ラベルとして利用することを考えたモデルである．L-LDA は文書に複数のラベルを付与した状態で，クラス別に単語の生起確率を算出できる．
ピック t と局面 a の関連度 R(a, t) は，

R(a, t) =t∈Tˆとする．ここで，σ(Ra(a,T )) は，局面 a の全トピック T に対する関連度の標準偏差である．d はトピックとの対応関係を調トピックと局面の関連の強さを表す関連度を算出する．ト

∑

ˆ
ˆ
ˆ
Ta = {t|Ra(a,t) > max(Ra(a,t)) − σ(Ra(a,T )) ∗ d} (3)p(a, w) ∗ p(w, t)g

整するためのパラメータであり，d を大きくすることで，より多くのトピックが局面に関連付けられる．トピックが局面に関

(1)

w∈W

で算出する．ここで，p(w, t) は，LDA を用いて抽出したトピッ

連付く度合いは局面毎に異なることから，第 4 章では d を変化させて，適合率，再現率，F 値を評価し最適な値を求める．

3. 2 局面の推定方法
未知の Tweet の局面を推定するため，第 3. 1 節で構築したト（注 4）：形態素解析の結果に基づいて，名詞と動詞，形容詞のみを使用する

ピックと局面の対応関係を用いる．局面の推定方法の概要を図3 に示す．Tweet から単語を抽出し，トピック中の各単語の生起確率と，トピックと局面の関連度を用いて，局面毎にスコアを算出する．未知の Tweet tw と各局面 a とのスコア S(tw, a)は，以下の式で算出する．

S(tw, a) =∑ ∑p(w, t)g ∗ rel(a, t)(4)t∈Ta w∈Wtw

ここで，Wtw は未知の Tweet tw から抽出した単語集合，

p(w, t) はトピック t における単語 w の生起確率である．rel(a, t)
は 局 面 a と ト ピック t と の 関 連 の 強 さ で あ り，rel(a, t) =ˆRa(a,t) であるときを Ra モデル，rel(a, t) = R̂t(a, t) であˆるときを Rt モデル，rel(a, t) = Ra(a,t) ∗ R̂t(a, t) であるときを Rat モデルとする．

図3

局面の推定方法

4. 評 価 実 験

未知の Tweet に対して算出されたスコアが高い局面ほど，推提案手法の有効性を適合率，再現率，F 値で評価する．比較

定すべき局面である．本論文で目的としているマルチラベルをの対象として，Naive Bayes 分類器をマルチラベリングへ拡張実現するためには，上位 k 局面を付与するのだが，k を動的にした手法を使用する．

定める必要がある．本論文では，算出されたスコアの平均値と4. 1 データセットとパラメータ設定

標準偏差を用いて各スコアを正規化し，閾値 r を超えたスコア

4. 1. 1 データセット：トピック抽出に用いる Tweet

を持つ局面を，未知の Tweet に対して推定する．未知の Tweet

階層的推定法の第一段階における LDA を用いたトピック抽tw に対して推定する局面集合 Atw は，

{
Atw =

出のため，2012 年 4 月 15 日から 2012 年 8 月 14 日の間に，S(tw, a) − E(S(tw, A))a>r
σ(S(tw, A))}

日本語で投稿された Tweet を Search API（注 5）を用いて収集し(5)た．その中から，Tweet のロケーション情報に「京都」或いは「Kyoto」と入力されている Tweet を使用した．以上の条件にと す る ．こ こ で ，E(S(tw, A)) と σ(S(tw, A)) は ，ス コ ア

より評価に使用する Tweet は，2,390,553 件となった．

S(tw, a) の全局面 A における平均値と標準偏差である．各4. 1. 2 データセット：実生活 Tweet

スコアについて，平均値との差を標準偏差で除すことによって，トピックと局面の対応関係を構築するため，人手によって局平均を 0，標準偏差を 1 とした値に正規化される．スコアが閾

面がラベル付けされた Tweet を用意した．1,500 件の Tweet

値 r よりも大きければ，そのスコアを持つ局面は未知の Tweet

に対して，第一著者（実験者 A）と他 2 名（実験者 B 及び C）

に対する局面として推定する．

の合計 3 名で，各 Tweet に対して適切な局面を付与する人手

3. 3 トピック数の最適化方法

判定を行った．実験者にはガイドラインとして，表 1 に示す各

LDA では，生成するトピック数をパラメータとして与える．

局面に含まれる典型的な単語と，その局面に分類される Tweet

第 3. 1 節で説明したように，関連度に基づいてトピックと局面の例（各局面 1 件ずつ）と，それが分類された理由を提示した．

の対応関係が構築されることから，生成するトピック数によっ

人手判定では，各 Tweet に対して適切な局面として第一，第て，局面と結びつくトピックが大きく異なる．

二，第三候補まで付与することとした．いずれの局面にも適さ最適なトピック数を決定するため，JS Divergence を用いて，ないと判断した場合は，「非実生活」を付与することとした．な

ある一つの局面と他の局面との類似度を計算する．二つの局面

お，用意した 1,500 件の Tweet は，いずれもロケーション情報の確率分布が同じである場合，JS Divergence は 0 となり，よに「京都」或いは「Kyoto」と表記されたものであり，上記のり異なっている場合，JS Divergence は 1 に近づく．本論文のˆ
場合は，局面間の確率分布 Ra(a,t) が異なっている方が望まトピック抽出に使用する Tweet と重複はない．また，3 名の実しい．そのため，各局面間の JS Divergence の合計値を最大と人手判定の結果，第一候補に分類された局面について，実験するトピック数を最適であるとした．JS Divergence の合計値

者間の一致度をκ値 [2] によって評価した．実験者 A と実験者

JSsum は，以下の式で求められる．

B のκ値は 0.687，実験者 A と実験者 C のκ値は 0.595，実験

JSsum =∑ˆ
ˆ
DJS (Ra(p,∗)||Ra(q,∗))(6)

験者はいずれも「つくば市」在住の大学生である．

者 B と実験者 C のκ値は 0.576 となった．κ値の平均は 0.619であり，高い一致（substantial）であった．

(∀p,∀q)∈A

各 Tweet に対して適切な複数の局面をラベル付けするため，(
1
DJS (P ||Q) =
2

∑
t∈T

Q(t)
P (t) ∑
Q(t) log
P (t) log
+
R(t)
R(t)

)

る局面集合 ACtw は，t∈T

ここで，R(t) は確率分布 P (t) と Q(t) の平均であり，R(t) =P (t)+Q(t)で与えられる．
2

3 名の人手判定の結果を用いる．Tweet tw に対して正解とな

ACtw = {a|Uscore(tw, a) <= 10}
（注 5）：https://dev.twitter.com/docs/api/1/get/search(7)とする．ここで，Uscore(tw, a) は，実験者が Tweet tw に対し

4. 2 実 験 方 法て，局面 a を第何候補に選択したかの候補順位を合計した値で4. 2. 1 評 価 尺 度あり，以下の式で求められる．

提案手法により，Tweet に対して正確に局面が推定できていUscore(tw, a) =∑るかを評価する．提案手法の有効性を議論するには，推定した

candidate(tw, a, u)(8)

局面がどれだけ正解しているかという正確性と，全ての正解のu∈U

うちどれだけ提案手法で局面を推定できたかという網羅性の，2
ここで，U は全ての実験者を表し，cnadidate(tw, a, u) は，つの観点からの評価が必要となる．本論文では，正確性を適合

Tweet tw に対して実験者 u が局面 a を分類した候補順位であ率（P recision），網羅性を再現率（Recall），適合率と再現率

る．実験者がいずれの候補にも入れなかった局面は，値を 4 との調和平均である F 値（F −measure）によって提案手法の推して計算する．Uscore(tw, a) の最小値は，実験者 3 名が同じ局

定精度を評価する．それぞれの計算方法について，以下に示す．

面を第一候補に選択した場合であり，candidate(tw, a, u) = 1となるため，Uscore(tw, a) = 3 となる．最大値は，実験者がP recision =推定した正解局面数推定した局面数(9)

特定の局面をいずれの候補にも選択しなかった場合，すなわち，

candidate(tw, a, u) = 4 の場合で，その時 Uscore(tw, a) = 12

Recall =推定した正解局面数
全ての正解局面数

(10)

となる．
以上の処理によって，人手判定した 1,500 件の Tweet に対して，ラベル付けされた局面数を集計した結果を表 2 に示す．

F −measure =2 ∗ P recision ∗ Recall
P recision + Recall(11)

服飾の局面は，1,500 件の Tweet の中で合計で 181 件ラベル

実験では，交差検定によってトピックと局面の対応関係を構付けされている．1,500 件の Tweet に対する全てのラベル数は

築，及び推定精度の評価を行う．正解データの分割数を 10 と5,092 件となっており，一つの Tweet に対して中央値では 3 件

し，9 割のデータでトピックと局面の対応関係を構築し，残りのラベルが付与されている．正解データとして使用する 1,500の 1 割を用いて推定精度を評価する．以上の操作を 10 回繰り件の Tweet について，各 Tweet に付与された局面の数を集計

返し，各評価値の平均値を算出する．

した結果を表 3 に示す．最も多いラベル数は 3 で，820 件のTweet が存在する．ラベル数が 6 ある Tweet は，11 件存在し，
マルチラベルの付与の重要性を示す結果となった．

4. 2. 2 比 較 手 法
提案手法の有効性について検証するため，本論文では，文書に対してマルチラベル分類ができる Naive Bayes Multi-label

評価実験では，いずれの局面にも属さない「非実生活」につClassification（NBML）[13] を比較対象として用いる．NBML

いても一つのクラスとしてトピックと対応関係を構築し，非実は Wei らによって，Naive Bayes 分類器をマルチラベル分類へ生活を推定できるか否か評価する．

拡張された手法である．Naive Bayes 分類器は，テキスト中に含まれる単語が互いに独立に発生したものであるという仮定を

表 3 ラベル数別の Tweet 数
ラベル数

1

2

3

4

5

6

合計

Tweet 数 1 111 820 442 115 11 1,500

おき，それらの単語が出現したときの文書のクラスへの所属確率をベイズの定理により求め，所属確率が最も高いクラスへ文書を分類する手法である．NBML は，Naive Bayes 分類器によって算出したクラス別の所属確率から平均値を求め，平均値

4. 1. 3 パラメータ設定

を超える所属確率を持つクラスへ文書を分類することで，マル

LDA は，事前にいくつかのパラメータを設定する必要があ50
る．関連研究 [3] を参考に，ハイパーパラメータ α は |T
，β|

は 0.1 とした．|T | は LDA で生成するトピック数である．イテ
レーション回数は，予備実験の結果から安定した値が得られる

100 とした．

Naive Bayes 分類器は単語の生起確率を算出する際に，各文書に対して一つのラベルが付与されていることを前提としているため，第 4. 1. 2 節で説明したような複数ラベルが付与された文書に対応していない．そこで，本論文では文書に付与されてLDA で生成するトピック数は，第 3. 3 節で説明した JSsumの値が最大値となるトピック数を選択する．トピック数を 50，

100，200，500，1,000 と変化させ，各トピック数で JSsum を算出した結果を表 4 に示す．JSsum が最大となったトピック
数は 500 であったことから，最適なトピック数は 500 とし，トピックと局面の対応関係を構築した．

いるラベルを一つにするため，ラベル毎に同じ文書を複製することで対応する．つまり，ラベルの数だけ文書を複製するため，
表 2 に示しているように，全てのラベルを合計した 5,092 件のTweet によって学習する．
4. 3 実 験 結 果
4. 3. 1 対応関係の変化にともなう推定精度
提案手法について Rat モデルで r = 0 としたときの，学校と表 4 各トピック数のときの JSsum
トピック数

JSsum

チラベリングを実現している．

1,000

交通の局面のパラメータ d の増加にともなう各評価値とトピッ

294.17 386.34 497.51 510.03 454.21

ク数の変化を，それぞれ図 4 と図 5 に示す．いずれの図でも，

50

100

200

500

横軸はパラメータ d，左の縦軸は評価値，右の縦軸はトピック数である．学校の局面では，d の増加にともなって再現率は増

表 2 人手判定の結果，正解ラベルとして付与された局面の数
局面

服飾 交流

災害

食事 行事

消費

健康 趣味

居住

地域

学校 交通

気象

労働

非実

181

86

287

435

177

213

432

195

226

262

1,391 5,092

ラベル数

379

311

加し，d >= 8 から急激に減少に転じている．適合率と F 値は，

348

169

合計

表 5 各モデルの F 値を最大とするときの推定精度

d = 1 で最大となっている．交通の局面では，いずれの評価値

モデルrについても d = 4 で増加しており，その時のトピック数は 2 で

rel = 1

r=0

0.53

0.54

0.53

rel = 1

r=1

0.63

0.41

0.39

rel = Ra

r=0

0.56

0.63

0.57

rel = Ra

r=1

0.63

0.54

0.57

rel = Rt

r=0

0.55

0.62

0.56

4. 3. 2 各モデルの推定精度の比較

rel = Rt

r=1

0.71

0.44

0.50

提案手法について，Ra，Rt，Rat モデルに加えて，トピック

rel = Rat r = 0

0.57

0.66

0.59

と局面の関連度を考慮しない rel(a, t) = 1 としたときの局面の

rel = Rat r = 1

0.68

0.54

0.58

ある．適合率と F 値は，d = 10 で最大となっており，再現率は

d = 14 で最大となっている．いずれの局面においても，d = 14で結びついたトピック数は 500 となっている．

Precision Recall F-measure

推定精度の平均値を算出した．各モデルにおいて，パラメータd の増加にともなう適合率，再現率，F 値の変化を，それぞれ

表 7 各手法のラベル数別の Tweet 数
ラベル数

Rat; r = 0 Rat; r = 1 NBML 人手判定

図 6，図 7，図 8 に示す．局面を推定するときの閾値は，r = 0

1

20

388

165

1

としている．パラメータ d は，いずれの局面においても d = 14

2

23

646

531

111

で結びつくトピック数が 500 となったため，1 <=d<= 14 の範

3

83

426

442

820

囲としている．適合率では，rel = 1 モデルが d = 3 で最大値

4

277

39

243

442

を示しているが，d >= 4 から急激に減少に転じている．再現率

5

504

1

90

115

では，Rat モデルが d <= 9 までに他のモデルより高い値を示し

6

425

0

23

11

7

143

0

6

0

8

25

0

0

0

平均ラベル数

5.13

2.08

2.75

3.39

ているが，d >= 10 では rel = 1，Ra モデルより低くなっている．F 値では，Rat モデルが 2 <=d<= 14 まで他のモデルより高い値を示している．

F 値が最大となった時の適合率，再現率，F 値を表 5 に示す．
太字は，各評価値について全てのモデルで比較した時の最大値

5. 考

察

を表している．適合率では，Rt モデルで r = 1 とした時に最大となり，再現率と F 値では Rat モデルで r = 0 とした時に最大となった．

4. 3. 3 局面毎の推定精度とラベル数の比較
全ての局面について，F 値が最大値となった時の適合率，再現率，F 値を表 6 に示す．提案手法では，第 4. 3. 2 節の結果か
ら，全てのモデルの中でも高い推定精度の得られる Rat モデルを用いた．Rat モデルで r = 0 である時を Rat; r = 0，Rat モ
デルで r = 1 である時を Rat; r = 1，比較手法は NBML と表記した．太字で表記している数値は，各手法を比較したときの最大値を表している．服飾の局面では，適合率の最大値は 0.83
で NBML，再現率の最大値は Rat; r = 0 モデルで 0.57，F 値の最大値は Rat; r = 1 モデルで 0.64 となっている．全ての局
面についてマクロ平均をとった結果，各手法で最大値を示したのは，適合率では NBML，再現率と F 値で Rat; r = 0 モデルであった．
提案手法と比較手法について，各 Tweet に対して推定したラ
ベル数を集計した結果を表 7 に示す．最頻値となったラベル数
は Rat; r = 0 では 5，Rat; r = 1 モデルと NBML では 2 となった．一つの Tweet に対する平均ラベル付与数は，Rat; r = 0 モ
デルが最大の 5.13 ラベルであった．

5. 1 対応関係と推定精度に関する考察
図 4 に示す学校の局面では d の増加にともなって，再現率は上昇し，適合率は下降している．適合率，及び F 値は，d = 1
で最大となり，そのときのトピック数は 1 であることが分かる．
対して，図 5 に示す交通の局面では，d の増加にともなって全ての評価値が徐々に上昇している．d = 10 で F 値と再現率は最大となり，そのとき結びついているトピック数は 3 である．

d>= 11 からは下降に転じている．以上の結果から，局面によって F 値を最大とする対応関係は局面によって異なることが明らかになった．
学校の局面では，d >= 9 で結びついているトピック数は 500
であり，この範囲で再現率は下降し，適合率は上昇している．
これは，他の局面で対応関係が変化しているためである．学校の局面では対応関係が固定しているが，他の局面では d の増加にともなって，トピック数が増えているため，Tweet に対するスコア算出結果も異なる値となる．このため，学校という局面の推定数が減ったことにより，再現率が下降しているが，その分不正解も減ったために，相対的に適合率が上昇していると考えられる．

5. 2 提案手法の各モデルに関する考察
図 6，7 から，全てのモデルについて，パラメータ d が小さいときには適合率が高く，再現率が低いことも分かる．また，
パラメータ d が大きいときには適合率が低く，再現率が高いこ1

1

Precision
RecallF-measure
Topics

0.8

0.4
10

Evaluation value

0.6

100

The number of topics

Evaluation value

100

0.2

0.6

0.4
10

0.2

0

1
0

2

4

6

8

10

12

0

14

1
0

2

4

6

parameter d

図4

1

1

rel = 1
rel = Rarel = Rtrel = Rat

0.8

0.6

0.4

0.2

0.2

0

2

4

6

8

10

12

0

14

0.6

0.4

0

2

4

6

8

10

12

0

14

0

2

4

parameter d

図 6 各モデルによる適合率の比較

6

8

10

12

図 8 各モデルによる F 値の比較

各手法の適合率（P），再現率（R），F 値（F）

服飾

交流

災害

食事

行事

消費

健康

趣味

居住

地域

学校

交通

気象

労働

非実

平均

Rat; r = 0

0.72

0.37

0.34

0.77

0.42

0.52

0.37

0.38

0.58

0.81

0.73

0.43

0.69

0.44 0.93

0.57

Rat; r = 1

0.82

0.39

0.66 0.87

0.51 0.70

0.62

0.44 0.79 0.86

0.67

0.64

0.69

0.54

0.67

NBML

0.83 0.53 0.76

0.73 0.56

0.52 0.76 0.57

0.71

Rat; r = 0 0.57 0.68 0.59 0.75 0.57 0.55 0.63 0.77 0.57

0.58

0.65 0.82 0.70 0.60 0.93 0.66

0.54

0.63

0.51

0.72

0.44

0.30

0.40

0.65

0.43

NBML

0.37

0.54

0.21

0.51

0.45

0.46

0.38

0.44

0.41 0.65

Rat; r = 0

0.63

0.48

0.43

0.76 0.49 0.53

0.47

0.51 0.57 0.67 0.68

NBML

0.48 0.57 0.78

0.51 0.53

0.33

0.47

0.60 0.49

0.42

0.47 0.52

0.49 0.50

0.49

0.92

0.62 0.81 0.82 0.81 0.56 0.93 0.70

R Rat; r = 1

Rat; r = 1 0.64

14

parameter d

図 7 各モデルによる再現率の比較
表6

F

14

0.2

parameter dP

12

rel = 1
rel = Rarel = Rtrel = Rat

0.8

0.6

0.4

0

10

図 5 交通の適合率，再現率，F 値

RecallPrecision

学校の適合率，再現率，F 値

rel = 1
rel = Rarel = Rtrel = Rat

0.8

8

parameter dF-measure1

The number of topics

0.8

Precision
RecallF-measure
Topics0.42 0.69
0.52

0.74

0.57

0.38

0.74

0.54

0.50

0.58

0.35 0.93

0.49

0.56 0.70 0.51 0.93 0.59

0.55

0.56

0.67 0.68

0.62

0.47

0.82

0.58

0.51

0.63

0.63

0.67

0.43 0.93

0.56

0.62

とが分かる．パラメータ d の増加にともなって，局面に結びつ

デルでは，局面側から関連度を正規化していることから，そのくトピック数は増加する．局面に結びつくトピックが多くなる局面にとって重要となるトピックに対して高い関連度を与える

ことで，それだけ局面に対応する単語も増加することになり，ため，局面にとって関連の強い単語と上手く対応付けられたこ

Tweet に出現する様々な単語からスコアを算出することが可能とが理由と考えられる．しかし，トピックによっては他の局面になるため，再現率が上昇したと考えられる．しかし，トピッに対しても高い関連度を持つ場合もある．その場合，他の局面

クの増加にともなって，局面にあまり関連のない単語に対してに対しても対応付く単語が同じになり，複数の局面に同等のスも対応付けが行われ，適合率が低下する要因となったと考えら

コアを算出することになり，適合率が低くなったと考えられる．

れる．

対して，Rt モデルでは，トピック側から関連度を正規化して

図 8 より，F 値は Rat モデルが最も高く，rel = 1 モデルはいることから，トピックがどの局面に対して強く関連付くかをトピック数の増加にともなって値が低くなっている．rel = 1 モ

考慮できる．このため，他の局面には無い，その局面にとってデルはトピックと局面の関連度を Tweet に対するスコア算出

特徴的な単語を持つトピックが高い関連度を持ち，適合率が高に用いないモデルであるため，局面に対応する単語の関連の強くなったと考えられる．しかし，複数の局面に対して重要であさを考慮しないことから，トピック数の増加にともなって，他るが，局面を表現するために重要となるトピックに対して高いのモデルよりも急激に適合率が下降していったと考えられる．

関連度を持たなくなってしまう．その結果，局面を表現する適

また，図 6，7 より，Ra モデルについては再現率が高く，Rt

切な単語と対応関係がなくなってしまい，再現率が低くなった

モデルについては適合率が高いことが分かる．これは，Ra モと考えられる．

5. 3 提案手法と NBML の比較に関する考察
表 6 より，全ての局面の平均では，適合率で NBML，再現率と F 値では Rat; r = 0 モデルが，他の手法に比べ高い値を示していることが分かる．表 7 より，Rat; r = 0 モデルでは，[8]

平均約 5 つのラベルを Tweet に対して付与する．人手判定の結果では，Tweet に対して平均約 3 つのラベルが付与されており，Rat; r = 0 モデルではより多くの正解を推定することがで[9]きているために，NBML に比べ再現率が高くなったと考えられる．従って，提案手法は NBML に比べて網羅的な局面の推定ができていると言える．

6. 結

[10]

論

本論文では，未知の Tweet に対して適切な複数の局面を推定するため，トピックと局面の対応関係に基づく階層的推定法[11]を提案した．提案手法は，教師なし学習と教師あり学習を組合せているところに特徴がある．第一段階では，LDA を用いて大量の Tweet からトピックを抽出する．第二段階では，少量のラベル付き Tweet を用いて，トピックと局面の対応関係を構築[12]

する．Tweet に対して適切な局面を推定するため，トピックと局面の対応関係に基づいて，局面毎にスコアを算出する．閾値
を超えたスコアを持つ局面を，他の局面よりも相応しい局面として，Tweet に対して推定する．

[13]

評価実験を行った結果，提案手法は未知の Tweet に対して複数の適切な局面を推定できることを明らかにした．Naive Bayes
分類器をマルチラベル分類へ拡張した NBML と提案手法を比較した結果，提案手法はより網羅的に局面を推定できることを[14]

明らかにした．今後の課題は，トピックと局面の対応関係をより洗練することによって，F 値の向上を目指すことである．

謝

辞

[15]

本研究の一部は，JSPS 科研費 25280110 の助成を受けたものです．ここに記して謝意を示します．
文

献[1] David M. Blei, Andrew Y. Ng, and Michael I. Jordan. Latent dirichlet allocation. The Journal of Machine Learning
Research, Vol. 3, pp. 993–1022, 2003.
[2] Jacob Cohen. A coeﬃcient of agreement for nominal scales.
Educational and Psychological Measurement, Vol. 20, No. 1,
pp. 37–46, 1960.
[3] Thomas L. Griﬃths and Mark Steyvers. Finding scientifictopics. The National Academy of Science, Vol. 101, pp.
5228–5235, 2004.
[4] Yuki Hattori and Akiyo Nadamoto. Extracting tip information from social media. In Proceedings of the 14th International Conference on Information Integration and Webbased Applications and Services, iiWAS ’12, pp. 205–212,
2012.
[5] Kentaro Inui, Shuya Abe, Kazuo Hara, Hiraku Morita, Chitose Sao, Megumi Eguchi, Asuka Sumida, Koji Murakami,
and Suguru Matsuyoshi. Experience mining: Building alarge-scale database of personal experiences and opinionsfrom web documents. In The 2008 International Conference on Web Intelligence, WIIAT 08, pp. 314–321, 2008.
[6] Taku Kudo. Yet another part-of-speech and morphologicalanalyzer. http://mecab.sourceforge.net/, 2005.
[7] Takeshi Kurashima, Taro Tezuka, and Katsumi Tanaka.

[16]

[17]

[18]

[19]
[20]

[21]

Blog map of experiences: Extracting and geographicallymapping visitor experiences from urban blogs. In Proceedings of the 6th International Conference on Web Information Systems Engineering, WISE’05, pp. 496–503, 2005.
Michael Mathioudakis and Nick Koudas. Twittermonitor:
Trend detection over the twitter stream. In Proceedingsof the 2010 ACM SIGMOD International Conference on
Management of Data, SIGMOD ’10, pp. 1155–1158, 2010.
Daniel Ramage, David Hall, Ramesh Nallapati, andChristopher D. Manning. Labeled lda: A supervised topic
model for credit attribution in multi-labeled corpora. In
Proceedings of the 2009 Conference on Empirical Methods in Natural Language Processing: Volume 1 - Volume
1, EMNLP ’09, pp. 248–256, 2009.
Martin Riedl and Chris Biemann. Topictiling: A text segmentation algorithm based on lda. In Proceedings of ACL
2012 Student Research Workshop, ACL ’12, pp. 37–42,
2012.
Takeshi Sakaki, Makoto Okazaki, and Yutaka Matsuo.
Earthquake shakes twitter users: Real-time event detection
by social sensors. In Proceedings of the 19th International
Conference on World Wide Web, WWW ’10, pp. 851–860,
2010.
Beidou Wang, Can Wang, Jiajun Bu, Chun Chen, Wei Vivian Zhang, Deng Cai, and Xiaofei He. Whom to mention:
Expand the diﬀusion of tweets by @ recommendation on
micro-blogging systems. In Proceedings of the 22Nd International Conference on World Wide Web, WWW ’13, pp.
1331–1340, 2013.
Zhihua Wei, Hongyun Zhang, Zhifei Zhang, Wen Li, andDuoqian Miao. A naive bayesian multi-label classification algorithm with application to visualize text search
results. International Journal of Advanced Intelligence,Vol. 3, No. 2, pp. 173–188, 2011.
Jianshu Weng, Ee-Peng Lim, Jing Jiang, and Qi He. Twitterrank: Finding topic-sensitive influential twitterers. In
Proceedings of the Third ACM International Conference on
Web Search and Data Mining, WSDM ’10, pp. 261–270,
2010.
Shuhei Yamamoto and Tetsuji Satoh. Two phase extraction method for extracting real life tweets using lda. In The
15th Asia-Pacific Web Conference, APWeb’13, pp. 340–
347, 2013.
Shuhei Yamamoto and Tetsuji Satoh. Two phase extraction
method for multi-label classification of real life tweets. In
The 15th International Conference on Information Integration and Web-based Applications and Services, iiWAS’13,
pp. 16–25, 2013.
Yuan Cao Zhang, Diarmuid Ó Séaghdha, Daniele Quercia,
and Tamas Jambor. Auralist: Introducing serendipity intomusic recommendation. In Proceedings of the Fifth ACM
International Conference on Web Search and Data Mining,
WSDM ’12, pp. 13–22, 2012.
Zhe Zhao and Qiaozhu Mei. Questions about questions: An
empirical analysis of information needs on twitter. In Proceedings of the 22Nd International Conference on World
Wide Web, WWW ’13, pp. 1545–1556, 2013.
池田佳代, 田邊勝義, 奥田英範, 奥雅博. Blog からの体験情報抽出. 情報処理学会論文誌, Vol. 49, No. 2, pp. 838–847, 2008.
山本雅人, 小笠原寛弥, 鈴木育男, 古川正志. 観光情報学:9. 東日
本大震災時の twitter における情報伝播ネットワーク. 情報処理,
Vol. 53, No. 11, pp. 1184–1191, 2012.
山本修平, 佐藤哲司. Twitter からの実生活情報の抽出法の提案. 第 4 回データ工学と情報マネジメントに関するフォーラム
DEIM2013 論文集, F3-4, 2012.