パターンマイニングを用いて「なぜ」に答えるシステム
磯崎 秀樹

東中 竜一郎

コミュニケーション科学基礎研究所

我々は「なぜ 」という質問の答を検索によって探しだすシステムを作成している。の特長は、多種多様な原因表現のパターンを、人手ではなく、コーパスからマイニングで獲得する点と、回答候補の採点を、質問回答を用いて因果表現パターンをコーパセットから機械学習した採点関数によって行なうところである。本稿では、
で採点関数を学習する方法を提案すスからマイニングし、得られたパターンや質問文との各種類似度を素性としてで報告したシステムより、精度を大幅に向上させることができたので報告する。
る。その結果、少なすぎて、正解かどうかわかりにくいことがあるが、必はじめに本稿では、「なぜ」という質問を受けつけ、大量の文書要に応じて前後の文を提示することは容易である。

での我々の実験によれば、成績は段落から検索によってその回答を探し出すシステムを作成した にした方がかなりよい。これは、段落の方が文よりはるかので、これについて報告する。に数が少なく、当たりやすいからと考えられる。しかし、これまでの質問応答システムは、人名などの固有表現や数値表現など、簡単な言葉で答えられる、いわゆるファクトイド型のものが多かったが、最近は、もっと多様な質問に答えられるシステムの研究に関心が移ってきている
とくに、「なぜ」については、ており、。

らが研究をすすめ段落の中には非常に長いものがあり、回答の単位を段落にして提示すると読みづらい。理由を簡潔に提示する、という観点から、本稿では文を単位とする。

各回答候補は、以下の観点から採点する。
質問文と回答候補の類似度：質問文と共通の語彙が多においても、「なぜ」をいほど、質問の回答である可能性が高い。

中心とした質問応答が取り上げられた。

回答候補中の原因表現の有無：原因は原因らしい表現

昔から、因果や時間変化に関する知識表現や推論で書かれているだろう。

は、自然言語研究者の興味を引いてきているが、なかなか研究が進展しない。その理由として、知識表現には、変化自体の完全な記述が困難であるという問題があり、どんな場合にも例外や膨大な可能性があるため、時間や知識を含む論理的推論には計算量爆発の問題があり、期待されるような有意義な結論がほとんど得られない。我々も効率のよい因果関係推論に関する研究を行なってきたが、これら論理的アプローチの限界を回避することはできなかった。

本稿では、これらの反省に基づき、因果に関する知識や推論は直接扱わず、情報検索や情報抽出の延長で「なぜ」に答える。

このシステムを構築する意義は つある。ひとつは、既存の質問応答システムのカバーする範囲を広げ、多様な質

ファクトイド型質問応答システムでは、パターンを例題

表現のパターンの獲得については、ほとんど研究されていない。

原因表現のパターンを獲得する手法として、我々は、を提案しているが、ここでは情報の多い

問解析」「文書検索」はする。と同一であり、詳細は省略

また、本稿では文を回答の単位とする。 文では情報がをや各種類似度の他、様々な素性を利用して、回答候補を採点する。

版

では、採点にを用いていたが、今回は、リニアカーネルの学を利用することにより、様々習が非常に速いな素性の組み合わせを試すことで、成績の向上を試みた。

提案手法
以下では、採点に用いる素性について説明する。

をベースとしており、「質問解析」「文書検索」「回答抽出・評価」という標準的なフローになっている。
「質と、機能語パターンを用いる利用する。そして、マイニングによって得られたパターンひとつは、長年課題となっていながら、なかなか進展しな

本 シ ス テ ム は 、ファク ト イ ド 型 質 問 応 答 シ ス テ ム

を用いる方法方法問に答えられるようにするという実用的側面である。もうい意味理解実現の手がかりを得るという学術的側面である。

されている。一方、原因から獲得する方法が提案

質問文との類似度
類似度としては、質問文中の単語、単語グラム、固有表現などが、回答候補中にどれくらい出現しているかで表せる。また、重複のない

うか、- 1025 -として扱うか、として扱のような重みを別途計算して用いるか、などのバリエーションが考えられる。単語グラムが入っていれば、固有表現を分けて考える必要は少ないように思われる

我々は、を含むコーパス

文のうち、と文を正例、それ以外の文を負例とかもしれないが、固有表現は情報の特定性が他の一般的表して、原因表現を特徴づけるパターンをマイニングする。

我々は、ファクトイドに関する経験から、文中の頻た原因表現から、機能語だけを残したパターンを作成して、た。検索でよく使われる

では、頻度の多い語が高現よりも高いので、分けて考える。
ではなく、表現の度を考慮したく評価される。しかし、我々の実験版では、コーパス中のタグのついを用いることにしその有無を素性とした。たとえば「声が出なくなって」とによれば、得られた。

項の影響は小さいほどよい。同じ検索語の頻度がいくら高くいう原因表現があれば、「＊ が ＊ て」というパターンが本稿では、このような機能語パターンのかわりに、ても、不足している検索語のかわりにはならないからであ によって得たパターンの有無を素性として利用する。
ると考えられる。

したがって、質問文中のある種の表現の候補中の同種の表現の以下で定義する。

をを、 回答としたときに、カバー率をマイニングのため、まず、と、べく一般性のあるルールを獲得するため、機能語以外の語内容語 を品詞名と日本語語彙大系の大きさも分母に入っている。しかし、こうした類似度は、長い回答候補が正しい原因を含んでいる場合にスコアが下ってしまう。そこで、は分母に入れていない。の検索エンジンは、検索時に各語のを出力するので、の意味カテゴリでと置き換えた依存構造木を作成する。意味カテゴリは類似度を始めとして、多くの類似度の定義では、 いう形態素解析システム

また、の各文を平文に戻したあで依存構造解析しなおす。そして、なるによる重みの利用が容易である。そこで、単語については、以下のカバー率を用いる。

により得る。たとえば、「連勝」という単語は、「名詞 サ変接続」という品詞名と、勝利 という一般名詞カテゴリ、結果関係 という用言カテゴリで置き換えられる。
は相対による木の分類器であるが、ここでは分類に有効なパターンをマイニングするためのツールとオプション は考える。得られるパターンの長さの上限とした。

が出力する各パターンの係数やのスコアは利用しない。

原因表現のマイニング
乾らが指摘する通り、原因の表現は多様であるうえ、明示的な手がかりのないものも多い。しかし、因果関係らしい表現を含んでいない文をユーザに提示しても、回答として説得力に欠ける。また、システムとしても、因果関係らしいパターンをまったく含まない文を不正解と区別して、質問と回答のマッチング回答候補の採点は難しい問題である。

参加システムとの類似度に基づく点を行なった。

高く評価するのは困難である。そこで、明示的な手がかり表現はなくても、人間が因果関係の記述である、と認識できる程度のパターンを保持していることが好ましい。

そのような、明示的でないパターンを人手で見つけて事からコーパスは単文の集合であり、各文に様々な解析結果が人手で付与されている。とくに今回重要なのは、その中でというタグである。と年からと同じ設定 の年の記

問の質問とその回答を作成し、機械学習によ

質問：日本でのサミットの開催地にどうして沖縄が選ばれたのか？
回答：
警備上の問題を押し切り首相が決断したのは、「 米軍基地整理・縮小問題を抱える沖縄に光をあて、戦後から脱皮させる道筋をつける」（外務省幹部）という狙いから で、そこに沖縄開催の意義があったはずだ。

コーパス を利用して、原因表現のパターンをマイニングすることにした。

な関数によって回答候補の採のシステムでは、版毎日新聞スコアと、質問り採点関数を学習した。たとえば：

プログラムとして書き下すのは困難をきわめる。そこで、我々は、では、回答候補の回答は各問題につき複数ありうる。回答の先頭の数字は、たとえば「 前略 その骨折りで命拾いをした。」という文書番号と行番号であり、は、とくに原因と考えられる文であれば、以下のように原因表現である「その骨折りで」 部分である。
類似度としては、質問と回答候補の単語頻度ベクトルのタグにより明示されている。
が骨折りその類似度や、検索時の文書のランクやスコア、人手による原因パターン、因果関係にある語の有無などを用いた。

そして、学習には- 1026 -で利用可能なを用いた。

しかし、今回はというアルゴリズムデータはとした。

を利用した。訓練

正解素性ベクトル−不正解素性ベクトル
交差検定の場合、のベクトル数になる。正例しかないが、あたりの形の線形関数を学習し、いので、は、一種であり、度にという自明な解はない。

は評価システム 提案手法
位回答位以内位以内

万前後
ではな表によく似た学習アルゴリズムのつのサンプルではなく、ランダムに選んだ

交差検定

正解カバー率版 提案手法
版

各素性の影響評価システム 提案手法
位回答位以内位以内との違いは、以下の通り。

個のサンプルをまとめてチェックし、ロスのあるサン

交差検定
正解カバー率なし 提案手法
なし

システム 提案手法 前２文なし 提案手法 前２文なし
位回答
位以内
位以内

プルで を更新。

が大きくなりすぎたら、小さくする。

今回の実験では、版との比較

表

では学習に時間がかかりすぎるため、としたほかは、公開されているプログラムの標準設定を利用した。

なお、カーネルを用いれば、成績の向上が期待できるが、今回は用いなかった。

また、候補文にすべての必要な固有表現が含まれていることは考えにくい。必要な情報は少しずつ説明をしていく、候補文と直前のだろう、と考えて、候補文のみの文を合わせた２文の実験結果
まず、マイニングによって得られた上位パターンの例を以下に示す。ただし、のパターンなので、逆から読む。
「より に」は「に より」のことである。上位には、人間が書くような明確な手がかり表現が多い。
・動詞 自立 ため・ため・べく・こと 動詞 自立・より に・により・によって・よう 動詞 自立・ので・によるをそれぞれ素性とした。固有表現はの出力を利用版と比較した結果をした。

本システムのスコアを表 に示す。
「」は、最上位の正解の順位の逆数の平均であり、「正解カバー率」は、回答の中に正解が含まれている問題数の割合である。どちらも が下限、 が上限

目的で、大きいほどよい。

表から、提案手法は、ていることがわかる。提案手法と符号検定で、 位正解について位以内正解について各回答候補 文 を採点するための素性として、以下のものを利用した。

で得られた各パターンが候補文に含まれるか否か
候補文のカバー率、単語バイグラムカバー率、文末機能語列、文頭の接続詞
直前２文の上記各素性
候補文の前半の後半の候補文と直前２文を合わせた固有表現カバー率
質問文中の単語との同義語の有無
文書検索時の文書スコア

候補文を前半と後半に分けたのは、「〜のため○○した」とか、「○○したのは〜のせいだ」のようなケースを考慮したためである。

、２文前も含めた３文のる方法

版は、単純な版より大きく改善されの成績の差は、、 位以内正解とで有意である。ちなみに類似度や、人手パターンによよりも、統計的に有意な差を持ってよいことが示されている。
固有表現素性をすべて削除すると、成績は表 の上半分のようになり、固有表現を分けた効果があったと考えられる。

また前２文の素性をすべて削除すると、表 の下半分のようになり、前２文の素性も重要であることがわかる。

提案手法では、候補文のあとの文を素性として入れていないが、あとの文を加えた実験も行ってみたい。
文末機能語列は、水野らる。

も質問応答で利用していの出力したモデルファイルを見ると、候補文中の文末機能語列でとくに重みの大きかったものとして、- 1027 -「たからだ」「ではないか」「られなかった」「たんです」「そうです」などがあり、「なぜ」に対する回答らしい表現が得られている。

おわりに今回、いくつもの素性を追加することで、大きく精度を向上させることができた。成績向上に貢献しそうないろいろな素性が、他にも考えられるので、フルペーパーでは、これら様々な素性の効果について調べていきたい。
最後に、を教えてくださったの准教授に感謝します。アドバイスをくれた鈴木潤氏や平尾努氏をはじめとする知識処理研究グループのメンバーにも感謝します。

工藤拓 松本裕治 カーネル法を用いた言語解析における高速化手法 情報処理学会論文誌

参考文献

池原悟
山芳史

水野淳太 秋葉友良 任意の回答を対象とする質問応答のための実世界質問の分析と回答タイプ判定法の検討 言語処理
学会年次大会

宮崎正弘 白井諭 横尾昭男 中岩浩巳
林良彦
日本語語彙大系 岩波書店

大乾孝司 奥村学 文書内に現れる因果関係の出現特徴調査
情報処理学会自然言語研究会
磯崎秀樹 マルチエージェント環境で他者の信念の変遷を推定する前進的アルゴリズム 情報処理学会論文誌- 1028 -