DEIM Forum 2017 A3-5

潜在変数モデリングによる利用者の情報行動に関する予測梅原頌平†

江口浩二††† 神戸大学システム情報学研究科 〒 657–8501 神戸市灘区六甲台町 1-1†† 神戸大学システム情報学研究科 〒 657–8501 神戸市灘区六甲台町 1-1
E-mail: †umehara@cs25.scitec.kobe-u.ac.jp, ††eguchi@port.kobe-u.ac.jp
あらましオブジェクト間の関係を表す関係データはグラフとして表現することができ，そのときグラフにおける頂点はオブジェクト，辺は関係に対応する．また，複数種類の関係からなる多次元関係データは，複数種類の辺からなる多モードネットワークとして表現できる．ウェブ検索クエリログにおいてもクエリ間の複雑な関係を多次元関係データあるいは多モードネットワークと見なすことができる．以上の問題を解決するために，本論文では新たに多モードブロックモデル（multi-mode block model）を提案する．そして，本論文では現実の検索クエリログのデータを用いた実験により，多モードブロックモデルの有効性について評価を行う．
キーワード

検索行動分析, クエリ提案, クエリログ, 潜在変数モデル, ブロックモデル

1. は じ め にト対について異なるトピックを仮定するスパースブロックモデル（Sparse block model: SBM）[5] がある．さらには，この SBM

オブジェクト間の関係を表す関係データはグラフとして表現と先に述べた LDA を統合し，関係データと文書データを横断することができ，そのときグラフにおける頂点はオブジェクト，してモデリングするブロックトピックモデル（Block-LDA）[6]

辺は関係に対応する．また，複数種類の関係からなる多次元関が開発されている．これらのモデルは均質な関係データやネッ係データは，複数種類の辺からなる多モードネットワークとしトワークを想定したものであり，多次元関係データや多モードて表現できる．多次元関係データの例は枚挙に暇がないが，共ネットワークにおける種々の関係の不均質性を捉えることはで通の趣味を持つ人間関係や共通の出身校である人間関係などかきない．

らなるソーシャルネットワークが典型的である． ウェブ検索ク

以上の問題を解決するために，本論文では新たにトライモー

エリログにおいても共通のウェブページに対してクリックが行ド・ブロックモデル（Tri-mode block model）を提案する．こわれたクエリの対や，同一の検索セッションにおいて投入されのモデルは多モード，特に 3 種類のモードで構成されるネット

たクエリの対，部分的に共通した文字列からなるクエリの対なワークをモデリングするもので，3 種類のモードが共通のトピッ

どのような，クエリ間の複雑な関係を多次元関係データあるいクの分布から生成されると考えるものである．本論文では現実は多モードネットワークと見なすことができる．の検索クエリログのデータを用いた実験により，トライモード・

さて，種々の離散データ集合の分析手段の一つとして混合多項分布モデル（Multinomial mixture models) [1] やそれを拡張したトピックモデル（Topic models）[2] が有効であることがブロックモデルの有効性を評価する．

2. 関 連 研 究知られている．文書データ集合を例にとって説明すると，混合

ここでは提案手法に関連した研究として，混合多項分布モデ

多項分布モデルは文書毎に単語の分布として表現される潜在

ル及びバイタームトピックモデル，スパースブロックモデル，的なトピックが背後に存在すると仮定するモデルである．ここブロックトピックモデルについて説明する．

では文書毎に一つの潜在トピックが対応付けられるのに対し

2. 1 混合多項分布モデルて，トピックモデルは各文書を複数の潜在トピックの混合分布

混合多項分布モデル (Multinomial of mixture models) は，として表現するモデルである．トピックモデルの代表的なもの

文書毎に単語の分布として表現される潜在的なトピックが背後としては潜在ディレクレ配分法（Latent Dirichlet Allocation:に存在すると仮定するモデルである．すなわち各文書はそれぞLDA）[3] が挙げられる．混合分布モデルやトピックモデルの適れ 1 つのトピックで表現され，文書内の単語はそのトピックか用範囲は広く，その拡張形が関係データやネットワークの分析ら生成される．またトピックはそれぞれ異なった単語分布としにも適用されている．て表現される．混合多項分布モデルのグラフィカルモデルを図

関係データまたはネットワークを扱えるトピックモデルの一1 に示す．図中の D, Nd , K はそれぞれ文書数，文書 d の単語つとして，短い長さのテキストデータにおける単語間の関係数，トピック数である．θ, ϕk はそれぞれトピックの多項分布パに着目したバイタームトピックモデル（Biterm topic model:ラメータ，トピック k に関するデータの多項分布パラメータでBTM）[4] が挙げられる．バイタームトピックモデルでは関係ある．α, β はそれぞれ上記 2 種類の多項分布に対応するディレ

データにおける各オブジェクト対について共通のトピックが仮クレハイパーパラメータである．混合ユニグラムモデルにおけ定されている．それに対して，関係データにおける各オブジェクる文書の生成過程を以下に示す．

図 1 Grephical model representation of multinomial mixture

図 2 Grephical model representation of BTM.

model.

ルを図 2 に示す．B はバイタームの集合を表し，図中の |B| はその総数を表す．BTM における文書の生成過程を以下に示す．
（ 1 ） 文書全体に対し，θ ∼ Dirichlet(α) を選択する．
（ 2 ） K 個のトピックに対し，ϕk ∼ Dirichlet(β) を選択（ 1 ） バイターム集合全体に対し，θ ∼ Dirichlet(α) を選択する．

する．

（ 3 ） 文書 d に対し:

（ 2 ） K 個のトピックに対し，ϕk ∼ Dirichlet(β) を選択

a トピック zd ∼ M ultinomial(θ) を選択する.

する．

b Nd 個の単語 wdi に対し，単語 wdi ∼ M ultinomial(ϕzd )（ 3 ） バイターム b に対し:を選択する．

a トピック zb ∼ M ultinomial(θ) を選択する.

ここで Dirichlet はディレクレ分布，M ultinomial は多項分

b バイタームの 2 単語 wbi , wbj に対し，単語 wbi , wbj ∼布を表している．周辺化ギブスサンプリングの完全条件付確率

M ultinomial(ϕzb ) を選択する．

は以下の式で与えられる:周辺化ギブスサンプリングの完全条件付き確率は以下の式でp(zd = k | W, z¬d∏Γ(Nk¬d + βV )Γ(Nk¬d + Nd + βV )v:N与えられる:, α, β) ∝ (Dk¬d + α) ·dv >0¬d
Γ(Nkv+ Ndv + β)¬dΓ(Nkv+ β)(1)p(z = k | B, z¬b , α, β) ∝ (Bk¬b +α)(Nv¬b+ β)(Nv¬b+ β)ikjk∑(v¬bNvk+ |B|β)2(2)

ここで w = {wdi }，z = {zdi }，上付き文字「¬d」は文書 d の

ここで，Bk はトピック k に割り当てられたバイタームの総要素をデータから除くことを示している．V は語彙数を表す．

数，Nvk は語彙 v がトピック k に割り当てられた回数，上付きまた，Dk はトピック k が割り当てられた文書数，Nk はトピッ

文字「¬b」はバイターム b の要素をデータから除くことを示し

ク k が割り当てられた文書における総単語数，Nkv はトピックている．

k が割り当てられた文書における語彙 v の出現回数を表す．
2. 2 バイタームトピックモデル

2. 3 スパースブロックモデル
スパースブロックモデルは，タンパク質の相互作用やソーバイタームトピックモデル (Biterm Topic Model: BTM) は，シャルネットワークの分析などの関係データ間のリンクをモデ短い長さのテキストデータに対して単語共起性に着目したトリングするブロックモデルである．関係データにおける各オブピックモデルである．従来のトピックモデル (LDA や PLSA)

ジェクト対についてそれぞれ異なるトピックを仮定しているこは文書単位の単語共起性を捉えるものであるため，ショートテとが 2.2 節の BTM との違いである．スパースブロックモデル

キストでは単語共起性が疎になるという問題を抱えている．そのグラフィカルモデルを図 3 に示す．L はリンクの集合を表し，こで BTM はコーパス全体の単語共起性を捉えることでこの問図中の |L| はその総数を表す．スパースブロックモデルにおけ題を解決しようとしている．BTM では関係データにおける各る生成過程を以下に示す．

オブジェクト対を「バイターム」として抽出して考える．BTMの特徴として，同じバイタームの 2 つのオブジェクトは同じト（ 1 ） リンク全体に対し，θ ∼ Dirichlet(α) を選択する．

ピックに属すると仮定されている．BTM のグラフィカルモデ

（ 2 ） K 個のトピックに対し，ϕk ∼ Dirichlet(β) を選択

のモデリングであり潜在的ディレクレ配分法 (Latent DIrichlet

Allocation:LDA) が元になっている．ブロックトピックモデル
における文書の生成過程を以下に示す．
（ 1 ） T 種 類 毎 の K 個 の ト ピック に 対 し ，ϕt,z∼Dirichlet(β) を選択する．
（ 2 ） 文書 d に対し:

a 文書トピック分布 θD ∼ Dirichlet(αD ) を選択する．
b タイプ t のエンティティ集合 wt,i に対し:•トピック zt,i ∼ M ultinomial(θd ) を選択する．

•エンティティwt,i ∼ M ultinomial(ϕt,zt,i ) を選択する．
（ 3 ） タイプ tℓ のエンティティのリンクに対し:a トピックペア分布 θL ∼ Dirichlet(αL ) を選択する.
b リンク wi1 → wi2 に対し:•

トピックペア (zi1 , zi2 ) ∼ M ultinomial(θL ) を選択する．

図 3 Grephical model representation of Sparse Block Model.

する．

•リンク wi1 ∼ M ultinomial(ϕtl ,zi1 ) を選択する．

•リンク wi2 ∼ M ultinomial(ϕtl ,zi2 ) を選択する．

文書内のエンティティの周辺化ギブスサンプリングの完全条件（ 3 ） リンク ℓ = (i, j) に対し:

付確率は以下の式で与えられる:a トピックペア zℓ ∼ M ultinomial(θ) を選択する.
b リンク ℓ の両端の 2 つのエンティティwli , wlj に対し，¬ip(zt,i = k | Z¬i , W¬it , αD , β) ∝ (Ndk +αD ) ∑¬iNktv+βt,iv′

エ ン ティティwli∼∼

M ultinomial(ϕz1 ), wlj

M ultinomial(ϕz2 ) をそれぞれ選択する．
ここで zℓ = (z1 , z2 ) であり，単一のトピックではなくトピックの対を指しており，それぞれのトピックからエンティティが選択される．また，z = {z}ℓ である．周辺化ギブスサンプリングの完全条件付き確率は以下の式で与えられる:p(zℓ | z¬ℓ , L¬ℓ , α, β) ∝(Nk¬ℓ+ β)(Nk¬ℓ+ β)
1i2j(Dk¬ℓ + α) ·¬ℓ(Nk1 · + N β)(Nk¬ℓ+Nβ + δk )2·¬i
Nktv′ + |Wt |β

ここで上付き文字「¬i」はリンク i を除くという事を示し，

Ndk は文書 d でトピック k が割り当てられた回数，Nktv は語
彙 v がタイプ t のトピック k に割り当てられた回数を表す．
一方，リンクの周辺化ギブスサンプリングの完全条件付確率は以下の式で与えられる:p(zi = (k1 , k2 )|(vi1 , vi2 ), z ¬i , (v1 , v2 )¬i , αL , β) ∝(L¬i(k1 ,k2 ) + αL ) ×(3)

ここで上付き文字「¬ℓ」はリンク ℓ を除くという事を示し，Dkはトピックペア k に割り当てられた回数，Nki は単語 i がト((Nk¬i+ β)(Nk¬i+ β)
1 tℓ vi12 tℓ vi2¬i¬i
Nk1 tℓ v + |Wtℓ |β)( v Nk2 tℓ v + |Wtℓ |β)v

∑∑

(5)

ピック k に割り当てられた回数，Nk· はトピック k が割り当て

ここで L(k1 ,k2 ) はトピックペア (k1 , k2 ) が割り当てられたリ

られた回数，δk は k = (k1 , k2 ) で k1 = k2 の時 1，それ以外のンクの総数を表す．β が (4) 式と同一であり，これによりネッ時 0 を示す．

トワークと文書を結合している事に注意されたい．

2. 4 ブロックトピックモデルブロックトピックモデル (Block-LDA) は，エンティティ間のリンクとリンクされたエンティティに関する文書を連結してモデリングすることでエンティティ間のリンクモデリングを改

3. 提 案 手 法
3. 1 多 モ ー ド・ブ ロック モ デ ル (Multi-mode blockmodel)

善することを目的としたモデルである．このモデルでは確率論ネットワークにおいて辺が二種類の集合に分かれるような的ブロックモデルにおけるブロックとトピックモデルにおけるネットワークを 2 モードネットワーク集合と呼ぶ．この 2 モー

潜在トピックのアイデアを連結している．ブロックトピックモ

ドネットワークを一般化し，均質でない辺からなるネットワーデルのグラフィカルモデルを図 4 に示す．図の左側がリンクモ

クを多モードネットワークとする．図 5 は 2 モードネットワーデリングであり 2.3 節で述べたスパースブロックモデルが元にクの例を示し，図 6 は多モードネットワークの例を示す．2 モーなっている．また，図中の αL は文書のトピック多項分布に関ドネットワークでは 2 種類の辺に分かれており，多モードネッするハイパーパラメータ，αD はリンクのトピック多項分布にトワークでは複数種類 (図中では 3 種類) に分けられている．こ関するハイパーパラメータを表す．一方，図の右側は関連文書のような多モードネットワークの例として，共通の趣味を持つ(4)

対して提案されており，そのまま適用するのは困難である．この研究では多モードネットワークに適用しこの問題を解決するために，スパースブロックモデルを拡張した多モード・ブロックモデルを提案する．2.2 節の BTM ではなくスパースブロッ
クモデルを拡張したのは，リンクの両端の 2 つのエンティティが常に同じトピックに属するとは実際には考えにくいからである．このモデルは多モードネットワークの各辺が T 種類に分けられるとき，各種類のリンクが共通のトピックの分布から生成されると考える．図 7 は T = 3 のときのトライモード・ブロックモデルのグラフィカルモデルを示している．トライモード・
ブロックモデルの生成過程を以下に示す:（ 1 ） タイプ t のリンク全体に対し，θt ∼ Dirichlet(αt ) を選択する．
（ 2 ） K 個のトピックに対し，ϕk ∼ Dirichlet(β) を選択する．
（ 3 ） タイプ t のリンク ℓt = (i, j) に対し:
図 4 Grephical model representation of Block-LDA.

a トピックペア zℓt ∼ M ultinomial(θt ) を選択する.
b バイタームの 2 単語 wℓt i , wℓt j に対し，単語 wℓi ∼M ultinomial(ϕz1 ), wℓj ∼ M ultinomial(ϕz2 ) をそれぞれ選択する．
周辺化ギブスサンプリングは 3 種類のリンクを順に推定することで行う．それぞれの種類は独立なトピックペア分布から生成されるので完全条件付き確率は以下の式で与えられる:tp(zℓt | z¬ℓt , L¬ℓt , α, β) ∝ (L¬ℓ+ αt ) ·ktt(Nk¬ℓ+ β)(Nk¬ℓ+ β)
1i2j
¬ℓt
¬ℓt
(Nk1 · + Nt β)(Nk2 · + Nt β + δk )(6)

ここで α = {α1 , ..., αT } であり，「¬ℓt 」はタイプ t のリンク ℓを除くという事を示し，Lki は単語 i がトピック k に割り当てられた回数，Nk· はトピック k が割り当てられた回数，Nt はタ
図 5 2-mode network.

イプ t のリンク数を示す．また，L はリンクの集合を表し，図中の |L| はその総数を表す．

3. 2 検索クエリログへの適用
ウェブ検索クエリログに対して多モード・ブロックモデルの適用を行う．検索クエリログの中で，共通のウェブページに対してクリックが行われたクエリの対や，同一の検索セッションにおいて投入されたクエリの対，部分的に共通した文字列からなるクエリの対などはそれぞれ関係があるクエリと言う事ができ，そのようなクエリ間の複雑な関係を多次元関係データある
いは多モードネットワークと見なすことができる．

4 章では現実の検索クエリログのデータを用いた実験を行い，多モード・ブロックモデルの有効性を検証する．

4. 実
図 6 multi-mode network.

験4. 1 データセット
この研究で用いるデータセットは「Yahoo! 検索」の 3 種

人間関係や共通の出身校である人間関係などからなるソーシャ類の検索関連クエリデータ （注 1） である．それぞれ共クリックルネットワークや検索クエリログがある．

クエリ，共トピッククエリ，共クリッククエリと呼ばれ，共トしかし，2.3 節のスパースブロックモデルや 2.4 節のブロックトピックモデルは通常のネットワークのような均質なリンクに（注 1）：http://research.nii.ac.jp/ntcir/news-20150717-ja.html

表 2 Cross-validation results.

Number of topics K

α = 0.1 α = 0.2 α = 0.3 α = 0.4 α = 0.520-15.35-15.46-15.37-15.46-15.48

40-15.02-15.10-15.10-15.18-15.20

60-14.86-14.98-15.03-15.14-15.16

80-14.78-14.92-15.01-15.10-15.19

100-14.73-14.88-15.04-15.16-15.26のであり，ハイパーパラメータは α = 0.1 の時最も良い結果となり，トピック数は K = 100 の時最も良い結果となった．ト
ピック数が大きくなるにつれて良い結果となったが K = 80 とK = 100 で大きな改善が見られなかったのでこれ以上大きいトピック数でも大きな改善は見込めない事から α = 0.1，K = 100を以降の実験で用いることとした．

4. 1. 1 共クリッククエリ
クエリ q の URL 集合 U Cq をクエリ q に対してクリックさ
図 7 Grephical model representation of Tri-mode block model.
表 1 Statistics of the dataset used.

Query Type

Number of rerated queries

Co-Click Query

83,928

Co-Topic Query

88,075

Co-Session Query

48,768れた URL のセット，URLu のクエリ集合 QCu を URLu がクリックされたクエリのセットと定義する．共クリッククエリセッ
ト CCQq は U Cq の URLu が既にクリックされたことを意味
し，以下のように定義される:

CCQq ≡ ∪u∈U Cq QCq(7)

クエリとそれに関連するクエリの間の関連性の強さを以下のピッククエリと共セッションクエリを 2009 年 7 月から 2013

重み付け方式に従って推定する．cnt(u; q) をクエリ q に応じ

年 6 月，共クリッククエリは 2009 年 7 月から 2010 年 12 月のた u のクリック数，cnt(q) をクエリ q に応じたクリック総数，Yahoo!JAPAN 検索から抽出されている．それぞれのデータにcnt(u) をクエリに関係なく u のクリック総数，Q を全てのクはクエリ，関連クエリ，関連性の強さの値が含まれる．発生回エリのセットと定義する．確率 PCC (q2 | q1 ) を以下のように定数の少ないクエリはプライバシーの問題のためデータから削除義する:されており，そのカットオフ閾値は開示されていない．各クエリについて最大 10,000 の関連するクエリ記録が各種類につい

PCC (q2 | q1 ) =∑P (u | q1 ) · P (q2 | u)u∈U Cq1て含まれている．各クエリの正確な発生回数は明らかでないの=で，各データセットで定義される共起確率 PCC , PCT , PCS を∑

P (u | q1 ) ·u∈U Cq1

1000 倍し，小数第一位を四捨五入した回数共起 (検索) されたP (q2 ) · P (u | q2 )P (u)と仮定した．また，共起回数が 0 回となるものについては除外

4. 1. 2 共トピッククエリ

し抽出した．クエリ，関連クエリには複数語や文からなるもの

共トピッククエリをある項で加えられることで拡大したクエが多く含まれていることから，スパース性を緩和する為に関連クエリを形態素解析し，意味のある単語ごとに分割し，それぞれがクエリと関連するように分解を行った．前処理後のデータセットの統計を表 1 に示す．

リのセットとして定義すると以下のようになる:CT Qq ≡ αqβ | α, β ∈ term∗
ここで，term∗ は NULL 配列を含む項の配列を示す．共トピッ

また，その事前実験として共クリッククエリの訓練データ

クの関係について，以下の確率でオリジナルクエリ q1 と共トセットををスパースブロックモデルに用いて対称ディレクレハ

ピッククエリ q2 間の関係の強さを切り取る重み付け方式を定イパーパラメータ α とトピック数 K の推定を行った．既存の義する:研究などから対称ディレクレハイパーパラメータ β = 0.01 とした．周辺化ギブスサンプリングの収束条件はヘルドアウト対数尤度の変化割合が負になった時とした．対称ディレクレハイ
パーパラメータ α は 0.1, 0.2, 0.3, 0.4, 0.5 の 5 種類，トピック数 K は 20, 40, 60, 80, 100 の 5 種類で組み合わせ，訓練セット4 分割し，その 1 つを検証用セットとして周辺化ギブスサンプリングを行う交差検定を行った．表 2 はその結果をまとめたもPCT (q2 | q1 ) =cnt(q2 )cnt(q1 ) +∑q2′ ∈CT Qq1cnt(q2′ )ここで，cnt(∗) はログ内のクエリ ∗ の発生回数を意味する．

4. 1. 3 共セッションクエリ
CSQq1 のセットを q1 とセッションを共有するクエリのセットとして定義する．つまり，読み手は協調フィルタリングの文脈ではこのような関係に詳しい:また，ユーザはこれらのクエリを使用して何かを検索し，このクエリを使用して他の何かを検表 3 Mean average precision(MAP) results for general query term

prediction.

索する．

CSQq1 ≡ {q2 | ∃u : submit(q1 , t1 , u)
∧ submit(q2 ; q1 , t2 , u)
∧ 0 < (t2 − t1 ) < 300s}

MAP

Sample Standard Deviation

0.03620.0064Tri-mode block model 0.0430

0.0049Sparse block model-3

表 4 Mean average precision(MAP) resultsfor co-click query term

prediction.

ここで submit(q, t, u) はユーザ t が時間 t にクエリ q を検索しMAP

Sample Standard Deviation

Sparse block model

0.04480.0669Sparse block model-3

0.02630.0389Tri-mode block model 0.0542

0.0070たことを示し，submit(q2 ; q1 , t2 , u) は q1 の検索のすぐ後に続いて，ユーザ t が時間 t2 にクエリ q2 を検索したことを示している．同じユーザの検索クエリ配列中のセッションの境界を検出する代わりに，セッションを 5 分間の枠として考える．q1 とq2 の間の共セッション関係の強さは確率として推定される:
cntcsr (q2 ; q1 )PCS (q2 | q1 ) =cnt(q1 )し，その性能を比較した．実験を通してトライブロックモデルの拡張性を示した．
本研究における今後の課題としては，予測精度を向上させる

ここで cntcsr (q2 ; q1 ) は同じユーザのセッション内でクエリ q2ため，双対分解 [7] を用いて多目的最適化を行い，より高度な推が直接クエリ q1 に続く数 (共セッション関係) を示す．

定を行う事が考えられる．また，今回の研究では多モードネッ

4. 2 ハイパーパラメータ等の設定

トワークの例として検索クエリのデータを実験に用いたが，他3 種類の検索クエリデータセットをそれぞれクエリレベルでの多モードネットワークデータに対して評価を行い有用性を確80%訓練セットと 20%テストセットにランダムに分割し，テス認する必要がある．

トセットは 3 つをまとめた 1 つのものとして扱うものとした．
我々は最初に訓練セットにおいて，周辺化ギブスサンプリングを用いて共クリッククエリのみを用いるスパースブロックモデ
ルと，3 種類の検索クエリを用いるトライブロックモデル，そ謝辞本研究の一部は科学研究費補助金基盤研究 (B) (15H02703)の援助による．

してベースラインとしてスパースブロックモデルに 3 種類の検索クエリを区別せず 1 つにまとめて用いたもの (Sparse blockmodel-3) を推定した．
4. 3 関連クエリ予測
各モデルを用いてクエリが与えられたときに関連クエリを候補の中から予測する．候補はテストセットの全ての関連クエリとし，クエリ毎に尤度のランキングを作成し，その MeanAverage Precision(MAP) を計算する．MAP とそのサンプル標準偏差は以下の表 3 で示される．ベースラインとなる Sparse

block model-3 と比べると提案手法であるトライブロックモデ
ルの方が優れた結果となった．
次に 3 種類の検索クエリデータセットのうち最もユーザの検索意図が同じものが共起している確率の高いものは共クリッククエリであると仮定し，共クリッククエリの 20 % をテストセットとした場合の関連クエリ予測を行った．MAP とそのサンプル標準偏差は以下の表 4 で示される．ベースラインの Sparse

block model-3 や比較手法である Sparse block model と比べると提案手法である多モード・ブロックモデルの方が優れた結果となった．比較手法である Sparse block model は共クリック
クエリのみを訓練データセットとして用いて予測を行っている事から，提案手法は他の 2 種類のクエリの関連データを用いて予測精度を向上させられていると考えられる．

5. お わ り に
本論文では，スパースブロックモデルを拡張することで，多モードネットワークに利用可能なトライブロックモデルを提案

文

献[1] Kamal Nigam, Andrew Kachites Mccallum, SebastianThrun, Tom Mitchell ”Text Classification from Labeled andUnlabeled Documents using EM”, Machine Learning - Special issue on information retrieval,Vol.39,pp.103-134(2000)[2] Papadimitriou Christos, Raghavan Prabhakar, Tamaki
Hisao, Vempala Santosh, ”Latent Semantic Indexing: A
probabilistic analysis”, PODS ’98 Proceedings of the seventeenth ACM SIGACT-SIGMOD-SIGART symposium on
Principles of database systems,pp.159-168(1998)[3] Blei,D.M.,Ng,A.Y., ”Latent Dirichlet allocation”, Journalof Machine Learning Research,Vol.3,pp.993-1022(2003)[4] Xiaohui Yan, Jiafeng Guo, Yanyan Lan, Xueqi Cheng, ”ABiterm Topic Model for Short Texts”, WWW ’13 Proceedings of the 22nd international conference on World WideWeb,pp.1445-1456(2013)[5] Juuso Parkkinen, Adam Gyenge,Janne Sinkkonen, SamuelKaski, ”A block model suitable for sparse graphs”, Proceedings of the 7th International Workshop on Mining andLearning with Graphs,(2009)[6] Ramnath Balasubramanyan, William W. Cohen, ”BlockLDA: Jointly modeling entity-annotated text and entityentity links”, Chapman and Hall/CRC 2014,Vol.3,pp.255273(2014)[7] Ravindra K. Ahuja, Thomas L. Magnanti, James B. Orlin,”Network Flows: Theory, Algorithms, and Applications”,
citeulike.org,(1993)