DEIM Forum 2015 P3-6

言語の分散表現による文脈情報を利用した言語横断情報検索林佑明†

酒井 哲也†† 早稲田大学基幹理工学部情報理工学科 〒 169–8555 東京都新宿区大久保 3-4-1
E-mail: †quaternion.hysh@toki.waseda.jp, ††tetsuya@waseda.jp
あらまし

複数言語にわたる関連文書を検索する言語横断情報検索のうち，クエリ翻訳型言語横断情報検索についてはいくつかのクエリ拡張の手法が提案されている．しかし，これらの方法はクエリ翻訳の質に依存し，常に検索有効性を向上させることは難しい．そこで今回の提案手法では，そのクエリ翻訳に対するアプローチとして単語の文脈情報を強く反映すると言われる，skip-gram による分散表現を複数言語にわたって求める．そして得られた言語ベクトル
間のマッピングを行い，クエリ翻訳のデータベースとして用いることで，文脈情報を含んだ言語横断情報検索の検索有効性を評価する．提案手法により，初期検索結果の質の良し悪しに対しロバストなクエリ拡張が行えることが示す．
キーワード

言語横断情報検索, 分散表現

1. は じ め にくなり，返す文書の関連性も上がると考えられる．
これに関連して，word2vec [12] というツールが Google から

近年の情報検索技術の発達はめざましく，クエリに対してよ公開された．これは skip-gram と呼ばれる言語モデルの実装

りリッチな情報を返すエンジンが様々登場している．しかしこで，着目語の付近の単語の出現確率を最大にするようパラメー

うした情報はクエリを基に収集されているため，クエリの言語

タ調整を行うことで，単語に密な分散表現を割り当てられるが何かによって情報量・質共にまちまちになってしまうと考えモデルである．ここで，分散表現とは，Hinton ら [1] によってられる．そこで，あるクエリに対してそれとは別の言語の文書

提案された 2 つの異なる表現間の多対多の関係のことである．

を返す言語横断情報検索が考えられてきた [2]．この言語横断情

skip-gram モデルでは単語の分散表現を学習する．このモデル

報検索ではクエリを機械翻訳などを用いてターゲットの言語へにおいて重要なのは，教師コーパスにラベルなどの正解を作る

翻訳し，そのキーワードを用いてターゲット言語の文書群の検必要がないこと，そして生成された単語のベクトル空間には索を行う．したがってこの方法は翻訳の性能に非常に依存する．

似た意味の単語同士は近くへ，異なる意味の単語同士は遠く

言語横断情報検索ではより関連性の高い文書を返すために，へ配置されるという性質を持っていることである．すなわち，それを構成する 2 つの要素であるクエリ翻訳とクエリ拡張におword2vec で作られた単語ベクトル 1 つ 1 つが教師コーパス中

いて様々な改善手法が提案されてきた．

の文脈を持っているということである．

まずクエリ翻訳には大別して dictionary-based なルールベー

本論文では，上で述べたクエリ翻訳の中で，特に dictionary-ス機械翻訳及び corpus-based な統計的機械翻訳の 2 種がある．

based な方法について，これまでの手法の代替として word2vec

dictionary-based な方法では，着目したクエリを通常単語またによる文脈情報を含んだ辞書を用いて言語横断情報検索の翻訳

はフレーズとして辞書定義に照らし合わせ，得られた定義で該を行い，その性能を評価する．まず 2 章において関連研究を述

当語を置換する．一方で corpus-based な方法では，2 言語の文

べ，3 章において提案手法を，4 章で実験について述べる．

の対応のついたパラレルコーパスの統計的情報からベイズの定理などを用いて最も確からしい翻訳結果を得る．
もう 1 つの要素であるクエリ拡張とは，何らかの方法を

2. 関 連 研 究
2. 1 言語横断情報検索

用いて既存の検索クエリに別のキーワードを足すことを指情報検索の分野においては，これまでも一言語で複数言語のす．これについては pre-translation expansion(以下 pre), post-

文書を検索しようとする試みがとられてきた．文献 [3] では言

translation expansion(以下 post), 及び pre-&post- translation

語横断情報検索において単語の翻訳時に現れる曖昧性を，クエ

expansion(以下 pre&post) の 3 種の手法がある．既存の 3 種

リの拡張によって補おうとしている．この文献ではまず翻訳を類の違いは，pre の場合クエリ翻訳前にソースの言語で行う，する際，「クエリたちの翻訳が正しければそれらは翻訳後も共post の場合クエリ翻訳後にターゲットの言語で行う，pre&post

起し，逆に正しくない翻訳の場合は翻訳後の言語においてあまでは翻訳前も翻訳後もクエリ拡張を行うという点である．

り共起しない」という仮説に基づいて辞書翻訳の語義曖昧性をところで，上記の手法からもわかるように，これまでの機械回避しようとしている．具体的にはクエリを構成する 2 語をそ

翻訳の性能は文章によって大きく左右されてきた．というのも，れぞれ翻訳した後に対訳コーパスを利用して，ターゲット言語

文章中に異なる文脈を含意した単語があると正しい意味で訳せ

コーパス上の一定の窓に翻訳結果がどれだけ共起しているかをないからである．クエリの翻訳においてもこの「文脈」を取りスコア化し適切な語義を割り当てるという方法をとっている．

込むことができれば，翻訳結果が自分の意図したものとより近文献 [3] ではこうした共起情報による翻訳強化とクエリ拡張

を組み合わせることで言語横断情報検索を実現している．クエ

2. 3 多言語分散表現の類似性を用いた辞書作成

リ拡張は翻訳の前に行われる pre-translation expansion 及び

コーパスから得られた幾つかの言語の分散表現について，両後に行われる post-translation expansion があり，これらは共言語で対応する意味の語のベクトルは，空間が違えどベクトルに一度検索を行って得られた文書群からキーワードを抽出しク同士の位置関係を維持していることが Mikolov ら [5] によってエリに足している．具体的には，pre の段階では上位 20 件の文

示されている．すなわち，2 言語のベクトル空間のあいだに変書から 5 単語を選んで，それをクエリに足している．また post

換の規則性を見出すことができれば，それを用いて単語の対応においては上位 30 件の文書から 50 単語を選び，それらのキーがとれない (辞書に存在しない) 語に対しても相手言語のベク

ワードは通常のクエリとは別に共起度を調べられ，どの程度共トル空間内でどんな値をとるかを知ることができる．Mikolov

起したかに基づいて検索した文書のスコアに影響を与えている．

らはこのようにして，対応のわかっている少ない正解ペアから

2. 2 word2vec

辞書になりうるより多くの単語ペアを生成することに成功して前章でも述べたが，word2vec は Mikolov ら [4] によって提唱いる．彼らは一方のベクトル空間上のベクトルを与えることでされた skip-gram モデルの実装である．これは着目語に対して，

他方のベクトル区間上のベクトルを得るために線形な写像を行

前後の窓に出現する単語の生起確率を最大化するようパラメー

い，2 乗誤差の最小化によりこれを学習している．線形な写像

タを調整する．skip-gram モデルでは，以下の式を最大化する．

を用いる理由としては，ベクトルの足し引きによって遷移する

1 ∑
T t=1
T

意味の関係が英語もスペイン語も同様だという結果が得られた∑

log p(wt+j |wt )

(1)

−c<
|
=j <
=c,j =0ためである．すなわち回転とスケーリングによってベクトル間の対応は得られるという単純な仮定により線形写像を用いている．Neural Network などの非線形写像と比較しても，線形写

これを図で表すと以下の様なイメージになる．

像が最も良い性能を示したと報告している．
なお，Mikolov らの研究では，言語圏の近いスペイン語-英語
間の他に，語族も異なり遠いと考えられる英語とベトナム語においても分散表現による翻訳を試みている．その結果，ベトナ
ム語のモデルに多数存在する同義語の影響もあり，英語からベ
図1

トナム語への 1 対 1 翻訳は精度が低いことがわかっている．

周辺語が着目語を意味づけるイメージ図

3. 提 案 手 法
ただし，T はコーパスに含まれる単語数で，コーパスは{w1 , w2 , .., wT } で表される．式 (1) における p の本来の定義は′T

exp(vwt+j vwt )p(wt+j │ wt ) = ∑W
′ T
w=1 exp(vw vwt )

従来の言語横断情報検索では，クエリの拡張においては関連
単語の共起などは考慮されて来た．一方で翻訳そのものに関しては，基本的に既存辞書のエントリを参照するだけであるため(2)

一般的な定義しか得ることができない．本研究ではこれに代わり，より文脈に沿った翻訳，すなわち前章で述べた skip-gramと表される softmax を用いるが，確率を更新する度に計算コストのかかる式の分母を算出しなければならない．そこで単語を2 分木の葉として持ち，確率の更新をより少なく効率的に行う
近似手法として提案された hierarchicasl softmax を用いる [4]．
確率を定義するこの関数に用いられるパラメータベクトルを該当語に割り当てることで，語彙数を次元数に持つ sparse なベ
クトルではない，各要素が値を持った単語ベクトルを作ることができる．なお，word2vec では単語ベクトルの次元数はモデルの表現能力と関係しており，任意に定めることができる．しかし次元数の増加に伴って計算量も増加するためここでトレードオフが発生する．
上記モデルから作られた単語ベクトル空間においては，意味的に似た単語はベクトルとして近く，離れた意味の単語ベクトル
は遠くへ配置されるという性質があることがわかっている．さらにベクトル同士の線形演算を行うと意味が遷移する例もあり，概念同士の関係も捉えていると言える．例として Vec(“King ′′ ) −Vec(“man′′ ) + Vec(“woman′′ ) ≒ Vec(“queen′′ ) が成り立つことが知られ，この例では王という概念から性別の概念を足し引きすることで女王の概念ベクトルを得ることができている．

で得られる 2 言語間分散表現の対応を用いることで，クエリを概念的に翻訳する方法を提案する．特に今回は，提案手法を英
日言語横断情報検索に適用し，その効果を明らかにする。
以下に提案手法を示す。

3. 1 分散表現からの辞書作成
分散表現からの辞書作成については Mikolov ら [5] に従う．
具体的にはまずそれぞれ言語において単語のベクトルを得る必要があるため，前述の word2vec を用いて単語の分散表現を学習する．この際，極端な高頻度語及び低頻度語は重みを調整することで他の単語への影響を減らす．
ベクトル表現に対して次にすることは言語間のマッピングを得ることだが，この学習には訓練データが必要となる．そこで，訓練データ作成のためベクトル表現学習に用いたコーパスから頻出語を 5000 語取り出して一度 Google 翻訳 [13] による翻訳を行う．これによって得られた 5000 ペアを用いて確率的勾配降下法 [6] により変換行列のパラメータを学習する．すなわち，以下の最適化問題を解く．

min
W

n
∑

∥W x − y∥2

(3)

i=1

ただしこの場合 n = 5000 である．上の目的関数の勾配を求め，毎ペアごとに行列 W のパラメータを更新していき，最終的に得られた W をその後の検索タスク中の pre,post で用いる．

3. 2 クエリ拡張提案手法では文献 [3] に従いクエリ拡張を行う．すなわち，一度検索した結果からキーワードを抽出する pre，post，それらを組み合せた pre&post でクエリを拡張する．pre においては
本来翻訳前の言語で書かれた文書からキーワードを取り出すべきであるが，今回はデータの都合上 pre，post 共に検索対象である日本語コーパスを用いて行った場合にどうなるかを検証する．そのシステム概略を図 2 に示す．

翻訳 API [13] による単語ベース翻訳を用いる．したがって英日の辞書作成時には Google 翻訳に頻出英単語を与え日本語を受け取り，日本語ベクトル空間上にその語彙があってペアを構成できる場合だけを用いている．

4. 2 評価データ
評価に用いる検索対象データは NTCIR-5,6 CLIR [8] で与えられる毎日新聞 2000 年,2001 年のニュース記事を用いる．各記事が持つ情報のうち，C0 タグで表される索引記事番号を文書

ID として，T2 タグで表される本文のみを文書として扱う．評
価タスクは NTCIR-5,6CLIR で用いる 97 トピックを利用する．
その際，各トピックのタイトルフィールドをクエリとして扱う．

4. 3 実 験 方 法
4. 3. 1 検索エンジン
本論文で提案している手法では，検索対象データの indexing
及びランク付き検索に Apache Solr [14] を用いている．Solr では日本語の形態素解析器として kuromoji [16] が使われている．
また，ここでの検索結果のランキングは単語の tf-idf 値に基づいたスコアが計算される．その計算式を以下に示す．

score(q, d) =queryNorm(q) ∗ coord (q, d)∑∗(tf (t ∈ d) ∗ idf (t)2

(4)

t∈q

∗ t.getBoost() ∗ norm(t, d))
上 式 に つ い て 1 つ 1 つ 項 を 見 る と ，あ る 文 書 d に 対 しqueryNorm(q) はクエリ同士を比較可能にするために施す正図 2 クエリ拡張の流れ

規化項，coord(q, d) は文書にどれだけクエリが含まれているかのヒット率，getBoost() ∗ norm(t, d) はクエリ語 t が現れる文

3. 3 ベースラインの手法

書の長さに対しての重み付けである．最後の項については短い

本論文では提案手法のベースラインとして，既存の機械翻訳

文章に登場する語はより重要度が高いとみなし，より大きな重による手法，具体的には言語横断情報検索のクエリ翻訳の部分
を Google 翻訳 [13] に置き換えたものを用いる．これにより，みを単語にふっている．

4. 3. 2 クエリ拡張方法

提案手法との差はクエリ翻訳を直接 Google 翻訳で行うか，まベースライン，提案手法共に 3 種類のクエリ拡張で抽出する

たは文脈情報を含むよう学習した対訳単語ペア群で行うか，のキーワードは Robertson と Sparck Jones [7] により示された違いになる．すなわち Google 翻訳の場合についてもクエリ拡

oﬀer weight によって定める．その式は全文書 N 件のうち適合張を行い，提案手法との差を論じる．

とみなした文書数が R 件，キーワード候補が含まれている全文書 n 件のうち適合とみなした文書は r 件に含まれているとす

4. 実

験

ると，

4. 1 デ ー タ
2. 2 節で説明した意味の線形演算ができるような，意味的な位置関係を充分に学習した単語のベクトル表現を得るためには，(
OW = r ∗ log(r + 0.5) ∗ (N − n − R + r + 0.5)
(n − r + 0.5) ∗ (R − r + 0.5)))(5)

巨大なコーパスが必要である．例えば文献 [5] では数百億単語で与えられる．今回の実験では初期検索結果の上位 R = 10を与えているが，我々の実験で学習させるデータは Wikipedia

件を適合文書とみなし，拡張するキーワードも 10 個とした．

の英語・日本語記事 [15] としている．この際，Wikipedia の全

4. 4 評 価 指 標

記事を用いているので，語彙は分野に偏らないようになってい検索有効性の評価指標としては nDCG を用いた．これはる．単語のベクトルの次元数は文献 [5] に従ってソース言語であ“normalized Discounted Cumulative Gain” の短縮語で，情報る英語コーパスは 800 次元，ターゲット言語である日本語コー検索では広く使われる，検索結果の評価時に用いられる評価

パスでは 200 次元とした．

指標の 1 つである．具体的には DCG という検索順位の正し

はじめに学習用の正解として与えるデータに関しては Google

さを表す利得の和を正規化したもので，正しく文書をランキ

ングした場合 nDCG は最小値 0 から最大値 1 をとる．スコア

4. 5. 3 初期検索結果に対するクエリ拡張の有効性の計算には文書の適合度に応じた利得を事前に設定する必要

表 1 において，提案手法について拡張なしに比べて拡張したがあり，我々の実験では高適合文書，適合文書，部分適合文書

場合はどれも飛躍的に検索性能が上がっている．特に post にそれぞれに対する利得を 3，2，1 とした．nDCG の計算にはついてはおよそ 5 倍の数値をとっている．これをトピックごと

NTCIREVAL の “MSnDCG@1000” を用いた [9]．

にプロットしたグラフを図 3 に示す．

4. 5 結果と考察作ったシステムとベースラインそれぞれについて拡張なし
を含む 4 種類のクエリ拡張手法で検索タスクを行なった際の

nDCG を表 1 に示す．
表1

クエリ拡張手法ごとの提案手法とベースラインの平均 nDCG の比較
拡張なし pre のみ post のみ pre&post
ベースライン

0.0931

0.06500.1047

0.0564

提案手法

0.04440.17280.22830.1733

また，ランダム化 Tukey HSD 検定 [11] を行なった結果の，提案手法でのクエリ拡張の有無に対する p 値を表 2 に示す．
表 2 提案手法同士のシステム対に対する p 値
提案手法
拡張なし

提案手法

pre のみ post のみ pre&post

拡張なし

-

0

0

pre のみ--0.08801

post のみ---

0.0948pre&post

-

-

-

-

0
図 3 トピックごとの拡張なし時の nDCG に対する post の nDCG

この図から言えることは，まずグラフの y <= x にあたる部分

4. 5. 1 クエリ拡張の平均的効果
表 1 で示した通り，クエリ拡張を行なった場合は必ず平均の

nDCG の値が上昇している事がわかる．またどちらの場合もpost における nDCG が最も高かった．これは pre-translation
expansion を行うことによるノイズが pre や pre&post の nDCGを下げたためだと考えられる．今回の実験では翻訳前の英語クエリに対して pre を行うために最終的な検索対象である日本語の毎日新聞コーパスそのものを用いた．したがってキーワードを取り出そうとしても日本語記事中に存在するわずかな英単語
を拾うことになってしまう．そのために必ずしも最もスコアの高いキーワードを選ぶことが出来ず，最適なキーワードを付加できないために検索結果が悪化したものと考えられる．

4. 5. 2 統計的有意性には 97 トピック中 1 トピックしかないということである．すな
わち，post によってほぼ全てのクエリに対する nDCG は向上しているということである．もう 1 つが，点の分布を見てみると拡張なしにおいて nDCG が非常に悪い場合でも post によって向上しているということがわかる．すなわち提案手法と post
を組み合わせることで初期検索結果の質の良し悪しに対しロバストなクエリ拡張が実現できている．

4. 5. 4 単言語検索とのパフォーマンス比較
言語横断情報検索システムの良さを測る指標として，単言語検索との比較が広く用いられている．そこで比較のため NTCIR

CLIR トピックの日本語版を用いて，通常の日日検索及び post
あり日日検索を行った．その結果の nDCG，英日検索の日日検索に対する割合を以下の表に示す．

表 2 で表されるように，提案手法のシステム同士を比べると

表 3 日日検索における nDCG

クエリ拡張なしとありの間には統計的有意差が得られている．
しかし提案手法中の pre のみと post のみを比べると有意水準

日日検索

拡張なし

post

0.53250.5177

5%では有意差が得られていない．同様のことが post のみと
pre&post の間にも言え，これらについてはより多くのデータを用いた再検証が必要だと考えられる．また，pre と pre&post

表 4 英日検索の nDCG の，通常の日日検索の nDCG に対する割合
拡張なし pre のみ post のみ pre&postの間の p 値が 1 であることから，今回の実験では，pre のみのシステムにさらに post を適用しても全く効果が得られなかったと言える．

ベースライン

17%

12%

20%

11%

提案手法

8%

32%

43%

33%

またここには載せていないが，全体の傾向としてベースラインと提案手法については有意水準 5%においておおむね有意差を得ている．

まず日日検索において，クエリ拡張により検索性能がわずかに悪化している．これはクエリ拡張をした影響により本来十分な単語を含んでいたクエリにノイズとなる関連語が追加されてして返されるようになる．したがって検索タスクが特定ドメイしまったためだと考えられる．

ンの用語を含む場合には，そのドメインの語彙に特化したモデ

表 4 について，最も性能が良い時でも平均 nDCG は日日検索時の 43%と非常に低い値が出ており，提案手法では「言語横ルを用いることにより，より有効なクエリ拡張が行える可能性がある．

断」の部分による検索有効性の低下を防げていないと言える．

5. 3 翻訳行列の有効性

ただし，トピック毎に分析を行ってみると，日日検索と比べ極ベースラインの Google 翻訳・クエリ拡張の組み合わせと，翻端に検索有効性が低かったもの，逆に非常に検索有効性が高訳行列・クエリ拡張の組み合わせを比べると後者の方が性能がかったものなど，ばらつきが見られた．まず通常の日日検索によく，更にこれらの間には統計的有意差も得られた．このこと

比べ特に英日検索のパフォーマンスが非常に悪かった例として，

からクエリの語義通りの逐語訳をするのではなく，翻訳行列の「逆エルニーニョ現象」というクエリが挙げられる．このクエリ

ような関連語彙を返すアプローチは言語横断情報検索においてにおいてベースライン・提案手法全てのシステムで nDCG は有効だと考えられる．

0 になっていたが，通常の日日検索では 1 という最大値をとっ

多様な語彙を与える翻訳行列は、検索意図が明確な検索タスていた．このことから「逆エルニーニョ現象」のようなある種

クの場合には検索有効性の低下をもたらす可能性があるが、一の造語，もしくは組み合わせて 1 語を形成している語の場合で方で多様化検索 [11] においてはより効果を発揮する可能性があは翻訳の性能がすこぶる低下することがわかる．次に英日検索る。これについては今後の検証が必要である．

の post が通常の日日検索の nDCG を上回った例として，「代替

5. 4 Web 検索にむけてエネルギー，大気汚染，電力」が挙げられる．このクエリにつ文献 [5] の著者らによって 2014 年に発表された新しい文献 [10]いては，日日検索の nDCG が 0.2760 であったのに対し，post

では固定長ベクトルによりモデル化する対象が単語ではなく任の nDCG は 0.4214 であった．理由として考えられるのは，こ意の長さのテキストに拡張されている。したがって個々の文書のクエリを構成する 3 語が全て一般的な用語であることが翻訳にこのようなベクトル表現を割り当てれば，文書同士の概念的による情報の損失を防いだということである．クエリ語が固有な類似度を加味した検索が実現できる可能性がある．これを利名詞やそれに関連する語の場合，第一にその単語の出現頻度が用すれば，Web 検索時に得られる文書またはスニペット間の類低いため単語の意味をうまく学習しきれない，第二に翻訳語と似度を測ることでより多様な文書を返すことができるようになして正確に対応する表現が得られないということが起きる．こると予想される．

うしたことから，1 例目のクエリにおける提案手法のパフォー
マンスは悪かったが 2 例目では良かったのだと考えられる．

5. 結論と今後の課題
5. 1 クエリ拡張の有効性
キーワード拡張の手法として pre と post を試みたが，postのパフォーマンスが全体的に高かった．さらに提案手法でのクエリ拡張なしの場合と比べると，初期クエリの検索結果が悪くても post によりそれをカバーして更に良いパフォーマンスを出している. このことからも提案手法は初期クエリの質に対するロバスト性があるといえる．
一方で pre の場合については，大半で post に検索性能では劣っていた．この理由としては既に述べたように，提案手法では英語キーワードを日本語記事から抽出しようとしているためである．本来，pre にはクエリと同じ言語の外部コーパスを用いるものであり，これにより今回の実験よりも検索有効性が向上できる可能性がある．これについては今後の検証が必要である．

5. 2 特定ドメインに対する検索の可能性
今回は分散表現の学習に Wikipedia 全文書を用いたため，様々なドメインの記事に含まれる語に対するパラメータの調整がされている．したがってある単語との類似度の高い候補語を求めても得られる単語の分野はばらばらになると考えられる．
逆にこれを特定のドメインの記事ばかり集めたコーパスを置き換えた場合，ドメインに偏った語彙に対するベクトル空間が生成されるので，そのスコープの中で類似度の高いものが候補と

文

献[1] Hinton, Geoﬀrey E. “Distributed representations.” 1984.
[2] Hull, David A., and Gregory Grefenstette. “Querying acrosslanguages: a dictionary-based approach to multilingual information retrieval.” Proceedings of the 19th annual international ACM SIGIR conference on Research and development in information retrieval. ACM. 1996.
[3] Ballesteros, Lisa, and W. Bruce Croft. “Resolving ambiguity for cross-language retrieval.” Proceedings of the 21stannual international ACM SIGIR conference on Researchand development in information retrieval. ACM, 1998.
[4] Mikolov, Tomas, et al. “Distributed representationsof words and phrases and their compositionality.”
Advances in Neural Information Processing Systems. 2013.
[5] Mikolov, Tomas, Quoc V. Le, and Ilya Sutskever. “Exploiting similarities among languages for machine translation.”
arXiv preprint arXiv:1309.4168. 2013.
[6] Gardner, William A. “Learning characteristics of stochasticgradient-descent algorithms: A general study, analysis, andcritique.” Signal Processing 6.2 pp.113-133. 1984.
[7] Robertson, Stephen E., and Karen Sparck Jones. “Simple,
proven approaches to text retrieval”. UK: Computer Laboratory, University of Cambridge. 1997.
[8] Kishida, Kazuaki, et al. “Overview of CLIR task at the fifth
NTCIR workshop.” Proc. Fifth NTCIR Workshop. 2005.
[9] Sakai, T. “NTCIREVAL: A Generic Toolkit for Information
Access Evaluation”. FIT 2011. Volume 2. RD-004. pp.22-30.
2011.
[10] Le, Quoc V., and Tomas Mikolov. “Distributed Representations of Sentences and Documents.” arXiv preprint
arXiv:1405.4053. 2014.
[11] Sakai, T., “Metrics, Statistics, Tests” , PROMISE Winter School 2013:Bridging between Information Retrieval and

[12]
[13]
[14]
[15]
[16]

Databases (LNCS 8173). pp.116-163. Springer. 2014.
word2vec, http://code.google.com/p/word2vec
Google 翻訳, http://google.com/translate
Apache Solr, http://lucene.apache.org/solr/
Wikipedia 記事コーパス, http://dumps.wikimedia.org/
kuromoji, http://www.atilika.org/