（様式 20）成果報告書

TSUBAME 共同利用 平成 23 年度 学術利用 成果報告書

利用課題名 会話エージェント構築のための大規模ウェブコーパスからの知識獲得
英文：Knowledge Acquisition from Large-scale Web Corpora for Constructing Conversational Agents
利用課題責任者 黒橋 禎夫
First name Surname
Sadao Kurohashi
所属
京都大学
Affiliation
Kyoto University
URL
http://www.kyoto-u.ac.jp/
邦文抄録
本利用課題では、人間とインタラクションを行える会話エージェントの実現を目的とし、その基盤となる会話コンテンツを作るために、大規模ウェブコーパスに対して言語解析を行い、解析結果から知識獲得を行う。これにより、人間が常識として持っている膨大な知識を自動的に獲得する。具体的な知識として格フレームに着目し、格フレームを用いて省略解析を行う。省略解析の応用例として、省略解析結果を用いて検索エンジンを構築する。省略解析は他の解析と比べて計算量が膨大であり、省略解析結果を利用した検索エンジンは開発されてこなかったが、本利用課題
では、TSUBAME を利用することによってこれを可能とした。
英文抄録
In this project, we aim to construct conversational agents that have the ability to interact with people.
This requires conversational contents that are to be used by these agents. In order to achieve this goal,
we perform linguistic analysis to a large-scale Web corpus and use the resultant data to acquirewide-coverage linguistic knowledge. As the form of linguistic knowledge, we focus on case frames, andby using them we perform anaphora resolution. On top of anaphora resolution, we build a searchengine. Such a search engine has not been built because anaphora resolution requires far morecomputational resources than conventional analyses, but we realized this using TSUBAME.

Keywords: natural language processing, Web, knowledge acquisition, case frames, anaphoraresolution

背景と目的
計算機が人間と自然なインタラクションを行えるようキストを用いることで、より大規模で、かつタイムリーな知識の獲得を行う。にするには、人間が持つ常識的な知識が様々な局面

本利用課題では、新しくクロールされた日本語ウェブで必要となる。しかし、こうした知識を人手で記述する

ページ 10 億件を解析し、その解析結果から言語知識のは難しく、「知識獲得のボトルネック」が長年の課題との獲得を行う。こうした処理を、TSUBAME の大規模なってきた。近年、ウェブから膨大な量のテキストが得並列計算資源を利用して、極めて短期間で達成するこられるようになってきており、こうしたテキストからの自とを目的とする。

動獲得により、常識的な知識を得る研究が進みつつある。

概要

これまで我々は、日本語ウェブページ数億件を言語本利用課題では、人間とインタラクションを行える会解析し、その結果から知識獲得を行ってきた。得られた話エージェントの実現を目的とし、その基盤となる会話知識を用いることで、言語解析が向上することを示した。

コンテンツを作るために、大規模ウェブコーパスに対しさらに、コーパスの規模と解析精度の関係を調査したて言語解析を行い、解析結果から知識獲得を行う。こ結果、さらに規模の大きなコーパスを用いることにより、れにより、人間が常識として持っている膨大な知識を自一層の精度向上が見込まれるとの予想を得た。そこで、動的に獲得する。人間が持つ知識は膨大であり、知識数年前にクロールしたウェブページではなく、最近のテ獲得のボトルネックが長年問題となってきたが、この問（様式 20）成果報告書題を解決するための知識源として大規模ウェブコーパ

1スに着目している。TSUBAME を用いた大規模並列

0.9

構文解析の精度処理により、これまで実現不可能であった規模の知識0.8を獲得する。

格フレームとは、用言とそれに関係する知識を集めたものであり、例えば「積む」という用言の格フレームのひとつとして次のようなものが考えられる。
{ 従業員, 運転手, ・ ・ ・} が{ 車, トラッ

精度・カバレッジ

具体的な知識としては、格フレーム[1]に着目する。

格解析の精度
0.70.6格フレームのカバレッジ

0.50.4

省略解析の精度
0.3

ク,・ ・ ・} に{ 荷物, 物資}を積む
格フレームは述語項構造ともよばれる。述語（積む）といくつかの項（ガ格「従業員」、ニ格「荷物」）との関係を表している。
格フレームは、構文的曖昧性の解決を含む幅広いタ

0.2

0.1

01.5M 6M 25M 100M 400M 1.6G 6.4G 15G
コーパスサイズ(文数)スクで利用できる。例えば「弁当は食べて目的地に出発した。」という文において、「弁当は」の係り先としては

図 １ 精度・カバレッジのコーパスサイ「食べて」と「出発した。」が考えられる。このとき、「{人,ズによる変化

学生, ・ ・ ・} が{ 弁当, パン,・ ・ ・} を食べる}」とい次に、作成されたテキストコーパスに対して、既に構う格フレームを知っていれば、「弁当は」の係り先は「食築済みの格フレームを用いて格解析・省略解析を行う。

べて」らしいとわかる。同時に、「弁当は」の提題の「は」解析はページごとに独立で依存関係がないため、の背後には「ヲ格」が隠れていると解析できる。これをembarrassingly parallel に実行できる。

格解析とよぶ[2]。
格解析だけでは、文章中の意味関係を充分にとらえることはできない。例えば、「トヨタは 1997 年ハイブリッ

最後に、省略解析結果を用いて検索エンジンを構築する。各ウェブページの解析結果に対してインデクシングを適用する。

ドカー、プリウスを発売。2000 年からは海外でも販売している。」という文章を考える。2 文目の「販売した」は表結果および考察

層的には「ガ格」も「ヲ格」も取らないが、「トヨタが」「プリ当初の研究計画では、大規模ウェブテキストからのウスを」「販売した」ことが文脈から推測できる。こうした語彙獲得、格フレーム構築、含意関係知識の構築も計

省略要素をあてるタスクを省略解析とよぶ[3]。省略解画していたが、これらの処理は同じ研究グループによる析には、「販売した」の動作主は「トヨタ」などの組織だろ

別の TSUBAME の利用課題により順調に進んだため、うという常識的な知識が必要となるが、こうした知識は本利用課題では省略解析を中心に取り組んだ。

格フレームにより実現されている。

まずは省略解析の精度と知識獲得に用いるコーパ

知識獲得の具体的な手順は以下の通りである。まず、スのサイズとの関係[4]を調べた。同じ研究グループに我々の計算機・ネットワーク環境でクロールして得られよる別の TSUBAME の利用課題によって得られたウたウェブページを TSUBAME に転送する。各ウェブペ

ェブコーパス 150 億文をベースとし、サンプリングによっージから日本語文を抽出し、テキストコーパスを作成すて、150 万文、600 万文、2500 万文、1 億文、4 億文、る。従来の格フレーム構築では、重複文を除去してテ16 億文、64 億文のコーパスを作成した。それぞれのコキストコーパスを作成していたが、本利用課題ではこれーパスからの格フレーム構築とそれに基づく解析器のを行わない。省略解析で文章内の関係を解析するため、作成を行った。省略解析については、当初の予想を下元の文の並びを保持したまま知識獲得を行う。

回ったものの、コーパスのサイズが大きくなるにつれて、

（様式 20）成果報告書

クラウドが解決すべき課題

ただ、課題はあります。拡張性と弾力性がクラウドコンaピューティングの大きな特徴ですが、企業が第一に求める信頼性や安定性はまだ不十分。これが解決できればコストのバリアが低くなり、RTIはより 身近なものになるでしょう
解決ガ システム, ソリューション, 企業, 会社,エキスパート, …

ヲ 問題, 課題, 事件, トラブル, 難問,難題, 弱点, …

ニ 早期, 実際, 次々，…
:

図 2 格解析・省略解析が検索において有効な例
解析精度が向上することを確認した(図１)。
日本語ウェブページ約 1 億件に対して、省略解析を計算資源を利用して、極めて短期間で達成することができた。

適用し、その解析結果を用いた検索エンジンを構築し今後は検索エンジンの定量的評価を行いたい。また、た。当初の研究計画では、約 10 億件のウェブページを解析精度については、コーパス規模の拡大によりさら対象としていたが、省略解析は他の解析と比べて膨大なる改善が予想されることから、さらに規模を拡大してな計算量が必要となるため、約 1 億件に縮小して処理知識獲得に取り組みたい。

を行った。これまでも、言語解析結果を利用した検索エンジンは開発されてきたが、計算量の膨大さゆえに、省参考文献略解析のような意味解析は適用されてこなかった。本

[1] Daisuke Kawahara and Sadao Kurohashi.

利用課題では、TSUBAME を利用することによってこAcquiring

れを可能とした。計算量としては、省略解析の適用とそ

Structures from Raw Corpora for Case Frame

れ解析結果を用いたインデクシングに対して約 70 万Compilation,CPU コア・時を要した。

conference on International Language Resources

省略解析結果を用いた検索エンジンについては、そandReliable
Proceedings

Evaluation

Predicate-argumentof(LREC'10),

theSeventh

pp.1389-1393,の定量的評価は今後の検討課題である。人手によるValletta, Malta, 2010.

調査により、図 2 のように、省略解析の効果が見られる[2] Daisuke Kawahara and Sadao Kurohashi. A例があることを確認している。

Fully-Lexicalized

Probabilistic

ModelforJapanese Syntactic and Case Structure Analysis,
まとめ、今後の課題
本利用課題では、日本語ウェブページ 1 億件に対しProceedings of the Human Language Technology
Conference of the North American Chapter of theて省略解析を行い、その解析結果から検索エンジンをAssociationfor構築した。こうした処理を、TSUBAME の大規模並列pp.176-183, 2006.

ComputationalLinguistics,（様式 20）成果報告書[3] 笹野遼平, 黒橋禎夫. 大規模格フレームを用いた識別モデルに基づく日本語ゼロ照応解析, 情報処理学会論文誌,

Vol.52,

No.12,

pp.3328-3337, 2011.

[4] Ryohei Sasano, Daisuke Kawahara and Sadao
Kurohashi. The Effect of Corpus Size on Case
Frame

Acquisition

forPredicate-Argument

Structure Analysis, IEICE TRANSACTIONS onInformation and Systems,
pp.1361-1368, 2010.

Vol.E93-D,

No.6,