（様式 20）成果報告書

TSUBAME 共同利用 平成 24 年度 学術利用 成果報告書

利用課題名 大規模 Web コーパスからの世界知識の獲得
英文： Acquisition of World Knowledge from Large-scale Web Corpora
利用課題責任者
First name Surname

黒橋 禎夫
Sadao Kurohashi

所属
京都大学
Affiliation
Kyoto UniversityURL
http://www.kyoto-u.ac.jp/
邦文抄録
本利用課題では、大規模 Web コーパスに対して言語解析を適用し、その解析結果から膨大な言語知識を獲得する。
次に、獲得した知識に基づく、より高度な解析を情報検索の標準的なテストセットに適用し、その有効性を評価する。
その結果、獲得した知識に基づく解析を利用することによって、特に検索結果上位の適合率が有意に向上することを確認した。これらの言語解析および知識獲得の処理には膨大な計算量が必要になるが、TSUBAME の大規模並列計算資源を利用することによって、極めて短期間で達成することができた。
英文抄録
In this project, we perform linguistic analysis to a large-scale Japanese Web corpus and use the resulting
analyses to acquire wide-coverage linguistic knowledge. The knowledge acquired can be used to improve
linguistic analysis and realizes advanced applications including information retrieval. To confirm theeffectiveness of the deep analysis based on the acquired knowledge, we apply it to the standard test set of
information retrieval and evaluate it. The result showed that the precision of top-ranked search results
was significantly improved. We accomplished these processes quite rapidly using TSUBAME.

Keywords: natural language processing, Web, automatic knowledge extraction, predicate-argument
structures, information retrieval

背景と目的{従業員, 運転手, …}が {車, トラック, …}に

2011 年に Watson と呼ばれる計算機システムがクイ{荷物, 物資}を 積む

ズ番組で人間のチャンピオンに勝利したことが象徴的

さらに、獲得した格フレームを用いることで、構文解析のに示すように、自然言語に基づく高度な計算機処理がような基本的な言語解析の精度が向上することを示して次第に現実のものとなりつつある。こうした処理の実現

いる[2]。また、このような解析は、情報検索、自動要約、には、人間がもっているような膨大な世界知識が必要と自動翻訳などのさまざまな言語処理アプリケーションでなる。しかし、こうした知識を人手で記述するのは難しく、利用している。

「知識獲得のボトルネック」が長年の課題となってきた。

しかし、構文解析より高度な解析、たとえば省略・照近年、Web から膨大な量のテキストが得られるようになっ

応解析を含む述語項構造解析(「誰がいつどこで何をしてきており、こうしたテキストからの自動獲得により、常識た」の同定処理)や談話構造解析(文間の関係を認識す的な知識を得る研究が進みつつある。

る処理)については、格フレームを用いるだけではいま

これまで我々は、日本語 Web ページ数億件に言語だ精度が低く、実際のアプリケーションで利用することが解析を適用し、その解析結果から知識獲得を行ってき難しい。これらの解析の精度を向上させるには、格フレた。その知識の一つは、格フレームと呼ばれるもので、ーム以外に語句のカテゴリや名詞格フレームのような知述語とそれが関係をもつ語(項)を集めたものである[1]。

識が必要と考えられる。

たとえば、「積む」という述語の格フレームのひとつとして次のようなものが考えられる。

本利用課題では、大規模 Web コーパスを解析し、その解析結果からこれらの知識を獲得する。獲得した知（様式 20）成果報告書
識を述語項構造解析に統合し、それを情報検索の標準多い。たとえば、「受験+生」のカテゴリを「生」のカテゴリ的なテストセットに適用、その有効性を評価する。これらである「抽象物」とみなすと誤りである。の処理を、TSUBAME 2.0 の大規模並列計算資源を利末尾が漢字一文字の複合名詞に対して、基本語と用して行い、極めて短期間で達成することを目的とすの分布類似度を計算し、K 近傍法にてカテゴリ推定を行る。

った。たとえば、「受験+生」は「学生」「生徒」「若者」などと分布類似度が高いのでカテゴリが「人」と推定され、概要「出張+先」は「島」「旅先」「出先」など分布類似度が高

本利用課題では、大規模 Web コーパスを解析し、そいのでカテゴリが「場所-その他」と推定される。末尾がの解析結果から知識を獲得する。次に、獲得した知識漢字一文字である複合名詞 3 万語(Web コーパス中でを統合した述語項構造解析を情報検索の標準的なテス頻度上位のもの)に対して、このようなカテゴリ推定処理トセットに適用し、その有効性を評価する。

を行った。

述語項構造解析に必要な知識として、格フレーム以これらの獲得知識を述語項構造解析に統合し、これ外に、名詞格フレームおよび語句のカテゴリがある。名を NTCIR-4 WEB テストコレクション(NW-100G-01)[4]に詞格フレームとは、名詞に対して必須となる項を集めた適用した。このテストコレクションは、jp ドメインからクローものであり、たとえば「コーチ」に対する「スポーツ:{野球,ルした Web ページ約 1100 万件からなる。これに述語項ラグビー, ...}」のようなものである[3]。格フレームは述語構造解析を適用し、その解析結果を用いた検索エンジに対するものであったのに対して、名詞格フレームは名ンを構築した。ベースとなる検索エンジンとしては、開放詞に対する格フレームといえる。語句のカテゴリとは、た型検索エンジン基盤 TSUBAKI[5]を用いた。これまでも、とえば「学生」に対するカテゴリ「人」、「リンゴ」に対する形態素解析などの言語解析結果を利用した検索エンジ

カテゴリ「植物」または「人工物-食べ物」のような分類でンは開発されてきたが、述語項構造解析のような意味ある。

解析は莫大な計算量が必要となるために適用されてこ名詞格フレームは、これまで 1 億文程度の比較的小規模な Web コーパスからの自動構築については実現しなかった。本研究では、TSUBAME を利用することによってこれが可能となった。ていた。今回は、70 億文の大規模 Web コーパスを利用上記の述語項構造解析の他に、高度な解析の一つして自動構築を行った。まず、この大規模 Web コーパスに談話構造解析があり、自然言語の意味理解のためにに対して構文解析を適用し、その解析結果から「X の Y」

は、高精度な談話構造解析を実現する必要がある。談というパターンで出現する名詞ペアを抽出した。これを話構造解析に必須となるのは、大規模な談話構造の注

名詞 Y ごとに整理し、名詞 X の集合をクラスタリングする

釈付きコーパスであるが、これまでは存在しなかった。

ことによって名詞格フレームを構築した。

そこで、これを構築するために、注釈付けの対象となる
1

カテゴリは、形態素解析システム JUMAN において文書集合を Web コーパスから抽出した。まず、各 Web

22 種類を設定し、基本語 3 万語について人手で付与しページの冒頭部分を抽出し、それが自然な日本語の文ている。これは基本語のみをカバーしており、「京都大章になっているかどうかを自動判定した。さらに、ミラー学」のような句(複合名詞)はカバーしていない。述語項

ページやスパムによって生み出された重複、類似した構造解析を高精度化するには、このカテゴリを複合名文書を除去するために、編集距離によるフィルタリング詞にも付与する必要がある。複合名詞のカテゴリは、基を行った。

本的には、その主辞(末尾の名詞)のカテゴリとみなせばよい(「京都+大学」2のカテゴリは「大学」のカテゴリとみなす)が、末尾が漢字一文字の場合は誤ってしまうことが結果および考察
大規模 Web コーパスに対する構文解析に約 3 万
CPU コア・時、名詞格フレームの自動構築に約 1 万12

http://nlp.ist.i.kyoto-u.ac.jp/?JUMAN
複合名詞中の単語区切りを“+”で表す。

CPU コア・時、カテゴリ推定処理に約 1.5 万 CPU コア・（様式 20）成果報告書ことを考えている。

MAP

P@3

P@10

nDCG@10word

0.167

0.423

0.371

0.232

dep0.170

0.423

0.3730.231

参考文献

P-A

0.173

0.442

0.379

0.237

[1] 河原大輔, 黒橋禎夫. 格フレーム辞書の漸次的自表 1 検索エンジンの精度動構築, 自然言語処理, Vol.12, No.2, pp.109-131,
2005.

時を要した。NTCIR-4 WEB テストコレクションに対する[2] Daisuke Kawahara and Sadao Kurohashi. A

述語項構造解析の適用と検索エンジンのインデクシン

Fully-Lexicalized Probabilistic Model for Japanese

グには、約 8 万 CPU コア・時を要した。

Syntactic and Case Structure Analysis, In Proceedings

検索エンジンの評価は、NTCIR-3 WEB と NTCIR-4of the Human Language Technology Conference of theWEB の検索課題(計 127 件)を用いて行った。その結果

North American Chapter of the Association forを表 1 に示す。word は、形態素解析のみを用いる手法、

Computational

dep は形態素解析と構文解析を用いる手法、P-A は形

pp.176-183, 2006.

態素解析と述語項構造解析を用いる手法を意味する。

[3] Ryohei Sasano, Daisuke Kawahara and Sadao

検索結果は、4 つの指標を用いて評価した。MAP は、

Kurohashi. Automatic Construction of Nominal Case

平均適合率、P@3 は検索結果上位 3 件の適合率、Frames and its Application to Indirect Anaphora

P@10 は検索結果上位 10 件の適合率、nDCG@10 は文Resolution, In Proceedings of the 20th International書適合度を考慮した上位 10 件のスコアを表す。特に、Conference

P@3 指標で、述語項構造解析の効果が見られ、精度の(COLING2004), pp.1201-1207, 2004.

高い検索エンジンを実現することができたと言える。

[4] Koji Eguchi, Keizo Oyama, Akiko Aizawa andLinguisticson(HLT-NAACL2006),

Computational

Linguistics

談話構造解析のための文書集合抽出については、Haruko Ishikawa. Overview of WEB Task at the Fourth

Web ページ 1500 万件から 30 万文書を抽出した。このNTCIR Workshop, Proceedings of the Fourth NTCIR

処理に約 1 万 CPU コア・時を要した。この結果得たコー

Workshop

パスは、現在、クラウドソーシングによって、談話構造のTechnologies注釈付けを行っている最中である。

Answering and Summarization, 2004.

onResearchInformation

inInformation
Retrieval,AccessQuestion[5] Keiji Shinzato, Tomohide Shibata, Daisuke Kawahara,
まとめ、今後の課題

Chikara Hashimoto and Sadao Kurohashi. TSUBAKI: An

本利用課題では、大規模 Web コーパスに対して構文Open Search Engine Infrastructure for Developing New解析を行い、その解析結果から名詞格フレームと語句Information Access Methodology, Proceedings of theのカテゴリという 2 種類の知識を獲得した。次に、獲得しThird International Joint Conference on Natural

た知識を統合した述語項構造解析を情報検索の標準

Language Processing (IJCNLP-08), pp.189-196, 2008.

的なテストセットに適用し、その有効性を評価した。その結果、述語項構造解析を利用することによって、特に検索結果上位の適合率が向上することを確認した。こうした処理を、TSUBAME の大規模並列計算資源を利用して、極めて短期間で達成することができた。
今後の課題として、談話構造注釈付きコーパスを完成させ、これを用いて高精度な談話構造解析を実現することが挙げられる。また、述語項構造解析と談話構造解析を統合することによって、双方の精度を向上させる