# 共起パターンの学習による事態間関係知識の獲得

大規模コーパスから事態表現間の意味的関係の知識の獲得を目的として, 実体間関係獲得手法として提案された Espressoを事態間関係に適用できるように拡張した。 この拡張は主に 2 つ点からなり, (1) 知識獲得のために事態表現を定義し, (2) 事態間関係に適合するように共起パターンのテンプレートを拡張した。 日本語 Webコー パスを用いて実験したところ, (a) 事態間関係獲得に有用な共起パターンが多数存在し，パターンの学習が有効であることがわかった。また行為一効果関係について は 5 億文 Web コーパスから少なくとも 5,000 種類の事態対を約 $66 \%$ の精度で獲得 することができた

キーワード：事態間関係，知識獲得，Espresso，共起パターン
## Acquiring Event Relation Knowledge by Learning Cooccurrence Patterns and Fertilizing Cooccurrence Samples

\author{
Shuya Abe ${ }^{\dagger}$, Kentaro Inui $^{\dagger}$ and Yuji Matsumoto ${ }^{\dagger}$
}

\begin{abstract}
Aiming at acquiring semantic relations between events from a large corpus, this paper proposes several extensions to a state-of-the-art method originally designed for entity relation extraction. First, expressions of events are defined to specify the class of the acquisition task. Second, the templates of co-occurrence patterns are extended so that they can capture semantic relations between event mentions. Experiments on a Japanese Web corpus show that (a) there are indeed specific co-occurrence patterns useful for event relation acquisition, and (b) For action-effect relation, at least five thousand relation instances are acquired from a 500M-sentence Web corpus with a precision of about $66 \%$.
\end{abstract}

Key Words: event relation, knowledge acquisition, Espresso, co-occurrence pattern

## 1 はじめに

テキスト中の含意関係や因果関係を理解することが, 質問応答, 情報抽出, 複数文章要約などの自然言語処理の応用に役立つと知られている。これを実現するためには，例えば，動詞「洗

う」と動詞句「きれいになる」が，何かを洗うという行為の結果としてその何かがきれいにな


るという因果関係である, といったような知識が必要である。本論文では, 事態と事態の間にある関係を大規模にかつ機械的に獲得するための手法について述べ，この手法を用いた実験結果を示す。

因果関係，時間関係，含意関係等の事態間関係を機械的に獲得するための研究が既に存在する (Lin and Pantel 2001; Inui, Inui, and Matsumoto 2003; Chklovski and Pantel 2005; Torisawa 2006; Pekar 2006; Zanzotto, Pennacchiotti, and Pazienza 2006, etc.) . これらの研究に共通する方法論は, 特定の事態間関係を表現する語彙統語的なパターンを人手で作成し, このパター ンと共起する事態対をテキストから抽出することで, 特定の関係を満たす事態対を獲得するという方法である。なお，このように共起関係を利用するパターンを共起パターンと言うことにする。例えば “to Verb-X and then Verb-Y” という時間的前後関係を表現する共起パターンを用いて，テキスト “to marry and then divorce”から動詞 “marry” と動詞 “divorce”が時間的前後関係にあるという知識を獲得できる (Chklovski and Pantel 2005).こうした手法では，大量の共起パターンを人手で作成することが困難であるため, 多くの事態対と共起する傾向を持つような一般的な共起パターンを用意することで, 少量の一般的な共起パターンを用いて特定の関係を満たす事態対を大量に獲得することが可能となる. しかし, このような一般的な共起パターンを用いて獲得した事態対には誤りが多いという傾向がある。この問題に対処するために, 一般的な共起パターンを利用して獲得した事態間関係に別の手法を適用して誤った事態間関係を取り除く手法があり，代表的なものとして発見的な統計情報を用いる手法 (Chklovski and Pantel 2005; Torisawa 2006; Zanzotto et al. 2006) と曖昧性の問題を解消するために学習を行う方法 (Inui et al. 2003) がある.

一方で，実体間関係を獲得する研究 (Ravichandran and Hovy 2002; Pantel and Pennacchiotti 2006, etc.) が共起パターンと獲得できる事例の性質を次のように報告している.
- 多くの事例と共起するパターン（一般的なパターン）を利用して実体間関係知識を獲得すると精度が低い傾向がある。そのため, 精度を向上させるためには誤った関係を除く別の手法が必要である.
- 逆に少数の事例のみと共起するパターン（特殊なパターン）を利用することで高い精度で実体間関係を獲得することが可能になる。しかし，大量に実体間関係知識を獲得するためには大量の共起パターンを用意する必要がある.
- 一般的な共起パターンと特殊な共起パターンを組み合わせて実体間関係を獲得することで高い精度で大量の実体間関係知識を獲得できる可能性がある。

これを受けて Pantel と Pennacchiotti (Pantel and Pennacchiotti 2006)は，実体間関係を表現する共起パターンと実体対をブートストラップ的に獲得する手法を開発した. しかし, これと同様の手法は事態間関係獲得でまだ試みられていないため, この手法を事態間関係獲得に適用した場合に実体間関係獲得のように良い成果を上げるのかという点が明かではない.

これらの実体間関係獲得の研究成果を事態間関係獲得に応用するために, Pantel と Pennacchiotti (Pantel and Pennacchiotti 2006)のブートストラップ的実体間関係獲得手法を事態間関係獲得に適用させるように拡張し（4.2４.3 節), 拡張した手法が事態間関係獲得においても有効であるかを確認するために，日本語 5 億文 Web コーパスから従来の手法と拡張した手法を用いて行為一結果関係にある事態間関係を獲得し，この結果を評価する（5.1節）.

## 2 事態間関係知識獲得の関連研究

1 節でいくつか関連研究を取り上げたが，そこで紹介できなかった関連研究を本節で紹介する。初期の共起パターンを用いた事態間関係獲得の手法は Chklovski と Pantel (Chklovski and Pantel 2005)の VerbOcean である. この手法は人手で作成した to Verb-X and then Verb- $Y$ のような少数の共起パターンを利用して, strength（例えば taint-poison）や happens-before（例えば marry-divorce）のような 6 種類の事態間関係を獲得し，約 29,000 の述語対を $65.6 \%$ の精度で獲得した。

多くの事例と共起するパターンを用いて獲得した事態間関係から誤りを除くために，Inui ら (Inui et al. 2003) は因果関係を表わす接続表現「ため」と教師付き分類学習を用いて，80\%の再現率と $95 \%$ 以上の精度で因果関係を 4 種類 cause, precondition, effect, means に分類した.

他に, Torisawa (Torisawa 2006) は接続パターン「Verb-Xて Verb-Y」を用いて獲得した述語対と，それぞれの述語と格の間の共起情報を組み合せて時間的制約にある事態対を獲得した。 たたし，この手法は時間的制約にある事態対以外の関係を獲得するために応用できるのかは明かではない.

また，共起パターンを用いた (Chklovski and Pantel 2005) 手法を元に Zanzotto ら (Zanzotto et al. 2006) は名詞化した動詞を利用して含意関係にある事態対を獲得した. 例えば，含意関係 $X$ wins $\rightarrow X$ plays を player wins のようなパターンから獲得した1. しかし, 動詞を名詞化するには様々な変形パターンを考えることができるが，この実験では限定的な変形パターンのみを対象としている。

## 3 Espresso

本節では Pantel と Pennacchiotti が実体間関係を獲得するために開発した Espresso アルゴリズム (Pantel and Pennacchiotti 2006) を紹介する.

共起パターンを用いた実体間関係獲得手法のひとつである Espresso は，特定の関係を満たす

実体対とよく共起するパターンが存在するという共起パターンを用いた手法に共通する仮定を置いている. Espresso は, この仮説に加えて，共起パターンまたは実体対が特定の関係を表わす程度を信頼度という指標で表わし，信頼度の高い共起パターンが支持する実体対の信頼度は高く，信頼度の高い事態対が支持する共起パターンの信頼度も高いという仮定を置いた22.

このとき, Espresso は人手で作成した信頼度の高い実体対を入力として, これと共起する信頼度の高い共起パターンを獲得する。次に信頼度の高い共起パターンを用いて，信頼度の高い実体対を獲得する.この操作をブートストラップ的に繰り返すことで, 信頼度の高い実体対を大量に獲得する。

## 3.1 共起パターンの信頼度

獲得したい関係にある実体対 $\langle x, y\rangle$ が与えられたとき, Espresso は $x$ と $y$ の両方が含まれた文をコーパスから探し出す. 例えば, is-a 関係の実体対〈Italy, country〉が与えられたとき, Espresso はテキスト countries such as Italy が含まれるような文を見つけ出し, 共起パターン Y such as $X$ を獲得する. Espresso は共起パターン $p$ の良さを測るために信頼度 $r_{\pi}(p)$ という尺度を用いる. 共起パターンの信頼度 $r_{\pi}(p)$ は, 共起パターン $p$ を支持する実体対 $i$ の信頼度 $r_{\iota}(i)$ から求められる．共起パターン $p$ を支持する実体対 $i$ の集合を $I$ とする.

$
r_{\pi}(p)=\frac{1}{|I|} \sum_{i \in I} \frac{p m i(i, p)}{\max _{p m i}} \times r_{\iota}(i)
$

$p m i(i, p)$ は式 $(2)$ で定義される $i$ と $p$ の pointwise mutual information (PMI) であり, $i$ と $p$ の関連度を表現する。 $\max _{p m i}$ は，共起パターンと実体対が共起した場合全ての PMI の中で最大となる PMI である.

$
p m i(x, y)=\log \frac{P(x, y)}{P(x) P(y)}
$

PMI は頻度が少ないときに不当に高い関連性を示すという問題が知られている。この問題を軽减するために, Espresso では式 (2)の代りに (Pantel and Ravichandran 2004) で定義された式 (3)を用いる.

$
p m i(x, y)=\log \frac{P(x, y)}{P(x) P(y)} \times \frac{C_{x y}}{C_{x y}+1} \times \frac{\min \left(\sum_{i=1}^{n} C_{x_{i}}, \sum_{j=1}^{m} C_{y_{j}}\right)}{\min \left(\sum_{i=1}^{n} C_{x_{i}}, \sum_{j=1}^{m} C_{y_{j}}\right)+1}
$

$C_{x y}$ は $x_{i}$ と $y_{j}$ が同時に出現した回数, $C_{x_{i}}$ は個々の $x_{i}$ の出現した回数， $C_{y_{j}}$ は個々の $y_{j}$ の出現した回数, $n$ は $x$ の異り数, $m$ は $y$ の異り数である.


## 3.2 実体対の信頼度

共起パターンの信頼度と同じように, 実体対 $i$ の信頼度 $r_{\iota}(i)$ を次のように定義する.

$
r_{\iota}(i)=\frac{1}{|P|} \sum_{p \in P} \frac{p m i(i, p)}{\max _{p m i}} \times r_{\pi}(p)
$

共起パターン $p$ の信頼度 $r_{\pi}(p)$ は, 前述の式 (1) で定義され, $\max _{p m i}$ は先の定義と同じであり，実体対 $i$ を支持する共起パターン $p$ の集合を $P$ とする．共起パターンの信頼度 $r_{\iota}(i)$ と実体対の信頼度 $r_{\pi}(p)$ は再帰的に定義され，人手で与えたシード $i$ の信頼度を $r_{\iota}(i)=1$ とする. なお, 我々の拡張では, 人手で与えた負例関係にある事態対の信頼度を $r_{\iota}(i)=-1$ とした.

## 4 事態間関係獲得

実体対関係を獲得するための手法である Espresso を，我々は事態間関係を獲得できるように拡張した。この拡張は Espresso が獲得する対象である「実体対」を「事態対」に置き換えたものではあるが，実体と事態は特徴が異なるため，様々な変更を施した，本稿では事態間関係獲得に拡張した Espresso を拡張 Espresso と言うことにする。本節では，拡張 Espresso について説明する。

事態の表現について 4.1４.2 で説明し, 共起パターンの表現について 4.3 4.6で説明し, その他の変更を $4.8 \sim 4.7$ で説明する.

## 4.1 事態の表現

事態は述語項構造を用いて表現する。述語項構造を用いて表現することで，動詞句の名詞句化や連体節化, 照応/省略などによって表層的な統語構造に生じる差異を吸収し, 標準的な表現に統一することができる．例えば，「夏目漱石によって発表された『坊ちゃん』」や「夏目漱石による『坊ちゃん』の発表」は統語構造では異なるが, 述語項構造では「夏目漱石ガ『坊ちゃん』ヲ発表する」に統一される.

また，テキスト中に出現した表記のままではなく，形態素の原形で事態を表現する，ただし事態が動詞として出現し, その後に, 受け身 (〜される), 使役（～させる）, 可能（られる）,希望（〜したい）を表わす表現が続く場合はこれらも事態の一部であるとみなす. 例えば，テキスト中で「走る」という表記で出現した場合も「走った」と出現した場合も事態「走る」であるとみなし，表現「走りたかった」は事態「走りたい」であるとみなす.

他に，テキスト中にサ変名詞とそれに後続する動詞「する」が表われ，これを事態とする場合はサ変名詞の原形と動詞「する」の組み合わせを事態の表現とする．例えば，テキスト中の 「研究したかった」は事態「研究したい」とみなす.

これとは別に，「ある」「なる」「する」のようなそれ自身が意味を持たない語句や非常に多義な語句からなる事態対の間には適切な事態間関係が成立し難い。そこで，このような語句は，単独では事態とみなさず，直前の格とその格要素を含めてひとつの事態とみなす. 例えば，テキスト中の「焦げ目が付く」の「付く」は単独では事態とみなさないが，「焦げ目が付く」はひとつ事態であるとみなす。

さらに, 直前の格がヲ格であり動詞が「する」の場合は, 格を省略して格要素と「する」を組み合わせてひとつの事態とみなす。例えばテキスト中の「研究をする」は尹格を省略して「研究する」という事態とみなす.

実験では次の語句を単独では事態とみなさないようにした。

「ある」「いく」「いる」「おこなう」「かる」「する」「ちる」「できる」「とめる」「なる」「みる」「やる」「付く」「伝える」「似る」「作る」「使う」「保つ」「入る」「入れる」「出す」「出る」「分かる」「加える」「取り戻す」「取る」「向ける」「含む」「呼ぶ」「因る」「増える」「変わる」「変化（する）」「寄る」「対処（する）」「居る」「建つ」「引く」「弱る」「影響（する)」「得る」「思う」「拡大（する）」「救う」「断つ」「書く」「止める」「残る」「決定（する）」「減る」「生じる」「知る」「立つ」「終る」「終わる」「終了」「経つ」「経る」「続ける」「縮小 (する)」「考え」「考える」「聞く」「行う」「見える」「見せる」「見る」「見失う」「言う」「言える」「話す」「語る」「読む」「踏み切る」「込める」「通る」「進む」「進める」「進展（する）」「開始（する）」「関係（する）」

このリストは，「付く」のようにほとんど意味を持たないために単独では事態と見なせない語句と，「開始する」や「影響する」のように多義であるために事態対を構成したときに事態間に適切な関係を成立さえることが難しい語句からなる.

## 4.2 格の選択

事態間関係知識をテキストから獲得する際には事態をどの程度一般化するかという問題がある。実体間関係獲得にも同様の問題はあるが, 固有名または 1 つの単語の間で関係が成り立つため, 獲得した実体表現を適切に一般化するという問題は事態間関係知識獲得と比較して重要ではない. しかし, 事態間関係獲得においてこの問題は重要であり, 実体間関係知識獲得との大きな違いである。例を用いてこの問題を説明する。(A)は「肉を焼く」と「焦げ目が付く」が行為一効果関係であることを示唆している.

(A) 焦げ目が付くくらい肉を焼く

このテキストから事態間関係知識を獲得する方法を考えるが，ここでは関係を決める方法には触れず，適切な事態対を獲得する方法だけを考慮する，最初に，入力文に形態素解析と係り受け解析を適用して動詞とその格を見付ける。ここから，このテキストに含まれる事態は「付く」 と「焼く」であることと，「付く」の格は「焦げ目が」で，「焼く」の格は「肉を」であることが

わかる.この結果，事態対「焦げ目が付く::肉を焼く」を機械的に獲得することができる。この事態対は，人間であれば「肉を焼いたら焦げ目が付く」という行為一効果関係であると解釈することができるため，事態間関係になりうる正しい事態対である。また，「焼く」の格「肉を」 を事態に含めない場合に獲得できる事態対は「焦げ目が付く::焼く」であり，この事態対も行為一効果関係と解釈することができるため正しい事態対である。しかし，動詞「付く」の格「焦げ目が」を事態に含めない場合に獲得できる事態対「付く::肉を焼く」と「付く::焼く」は行為一効果関係であると解釈することはできないため，事態間関係になりえない誤った事態対である。まとめると，事態対に含める格を変化させることで様々な事態対を獲得できるが，同時に誤った事態対を獲得する可能性が生じるため, 正しい事態対のみを選択することが必要である.

この問題に対して我々は，事態対に格を含めるか含めないかという全ての可能性を考慮し, 4.1 で述べた語句のリストと事態間関係獲得モデルの信頼度を用いて正しい事態対を選ぶ。例えば，テキスト $(\mathrm{A})$ から獲得できる事態対は $(\mathrm{B})$ に示すように 4 種類ある.

(B1) 焦げ目が付く::肉を焼く

(B2) 焦げ目が付く::焼く

(B3) 付く::肉を焼く

(B4) 付く::焼く

4.1の語句のリストに事態「付く」が含まれているため，事態「付く」を含む事態対「付く::肉を焼く」と「付く::焼く」を無効な事態対とみなすことができ, 事態対「焦げ目が付く::肉を焼く」と「焦げ目が付く::焼く」を事態対候補とすることができる。仮に「付く」が 4.1 の語句のリストに含まれていかったとしても，「焦げ目が付く::肉を焼く」と「焦げ目が付く::焼く」には高い信頼度が与えられ，「付く::肉を焼く」と「付く::焼く」には低い信頼度が与えられると期待できるため, 最終的に信頼度の高い事態対のみを選ぶことで, 適切な事態対を選ぶことができる. 実験（5.1 節）では計算コストの観点から事態の格の数を最大 1 個に制限した. 例えば，事態「肉に焦げ目が付く」の可能性として「肉に付く」「焦げ目が付く」「付く」だけを考える（「肉に焦げ目が付く」は考えない).

## 4.3 共起パターンの表現

Espresso は実体間関係を獲得するために「 $x$ は歴史のある $y\rfloor$ のような共起パターンを用いる.この共起パターンは is-a 関係を表現しており，テキスト「イタリアは歴史のある国」から 「イタリア」は「国」の is-a 関係であるという実体間関係知識を獲得する。また, Espresso で用いる共起パターンは実体を表現する語句の間にある単語列である.

一方で, 我々は事態間関係獲得における共起パターンを, 事態を表現する語句の間の係り受け関係から成る単語列とした。この理由は, 事態においては実体と比較して格を考慮することが重要であるという，実体と事態の性質の違いに基いている。我々は事態の格を考慮するために
係り受け関係を用いる。このとき，係り受け関係で構成された事態の間に存在する共起パター ンを認識するためにも係り受けを用いることは自然であると考えられる。そのため，我々は係り受け関係に基づく共起パターンを用いることにする。

事態間の関係を十分に表現しつつも事態対との共起が疎にならないような共起パターンを設計することが重要である。なぜならば，事態間の関係を十分に表現するために共起パターンに多くの情報を入れ過ぎると事態対との共起が疎となり，逆に共起パターンから過度に情報を除くと共起パターンは事態間の関係を適切に表現しなくなるためである。ここから，共起パター ンが含む最適な情報量を見付けることが重要な課題であることがわかるが，これは難しい問題である。この問題に対して, 本研究において予備実験から共起パターンを獲得するための規則を決定した．4.4でこの規則について述べる。

## 4.4 事態対の周辺語句からなる共起パターン

本研究で用いる共起パターンは, 事態対の間に存在する語句, 事態の後方にある特定の語句,事態の品詞, 事態が意志性を持つかという情報からなる。具体的には次の通りである.

事態表現を含む文節（事態文節）対が係り受け関係の木において先祖と子孫の関係にある場合のみ，次の規則で表わされる文字列から共起パターンを構成する.

規則 a前方の事態文節中で事態を表わす内容語より後方にある機能語列の文字列

規則b 係り受け関係の木において事態文節対の間に存在する文節中の単語列からなる文字列規則 $\mathrm{C}$ 後方の事態文節または係り先の文節中に次に示す表現が含まれている場合,

規則 $\mathrm{c} 1$ 文節中に否定表現「〜ない」「〜ません」「〜せず」「〜ぬ」が含まれる場合は，文字列「ない」

規則 $\mathrm{c} 2$ 文節中に可能表現「〜できる」「〜出来る」「〜することができる」「〜することが出来る」「〜することが可能た」が含まれる場合は，文字列「できる」

規則 $\mathrm{c} 3$ 文節中に否定表現と可能表現の両方が含まれる場合は，文字列「できない」

規則 d 事態の品詞を表わす文字列

規則 e事態の意志性の有無を表わす文字列

共起パターンの例を示す.「／」は文節の区切りを表わす.

(C)は，事態「リラックスする」を含む事態文節が事態「入る」を含む事態文節に係っており，事態文節が係り受け関係の木において先祖と子孫の関係にあるという制約を満すため, この事例から事態対と共起パターンを獲得することができる。このとき，前方の事態「リラックスする」を含む事態文節中で「リラックスする」よりも後方にある機能語「ので」を共起パター ンに加える（規則 a）。さらに，事態「リラックスする」と事態「入る」の品詞と意志性の有無も共起パターンに加える（規則 $\mathrm{d}$, 規則 e）. 結果, 共起パターンは「〈動詞; 意志性なし〉ので 〈動詞; 意志性あり〉」となる.

(C) リラックスするので／風呂に／入る

(D) は, 事態「リラックスする」を含む事態文節が文節「ために」に係り, 文節「ために」が事態「入る」を含む事態文節に係っており，事態文節が係り受け関係の制約を満すため，この事例から事態対と共起パターンを獲得することができる。このとき，係り受け木において事態文節間に存在する文節「ために」の単語列を共起パターンに加える（規則 b）.これに規則 $\mathrm{d}$, 規則 e を適用し，共起パターンは「〈動詞; 意志性なし〉ために〈動詞; 意志性あり〉」となる.

(D) リラックスする／ために／風呂に／入る

（E)は, 事態「退職する」を含む事態文節が文節「楽みに」に係り，文節「楽みに」が事態「始める」を含む事態文節に係っており，事態文節が係り受け関係の制約を満すため，この事例から事態対と共起パターンを獲得することができる。このとき，規則 a と規則 bより単語列「後の楽みに」を共起パターンに加え, これに規則 $\mathrm{d}$, 規則 e を適用し，共起パターンは「〈名詞; 意志性なし〉後の楽みに〈動詞; 意志性あり〉」となる.

(E) 退職後の／楽みに／PC を／始める

## 4.5 共起パターンの表記の統一

前述した方法で獲得した共起パターンの表現を統一するための規則を説明する。なお, Espresso においても同様の操作を行っている.

共起パターン中の機能表現の表記を揃えるために日本語機能語表現辞書 (Matsuyoshi, Sato, and Utsuro 2006)を利用し, 共起パターン中の日本語機能語表現辞書の機能表現レベル 9 の機能表現を対応する機能表現レベル 3 の機能表現に置き換える。これ以外に，「〜する」と「〜します」を同じ表現とみなすために機能表現「ます」を共起パターンから削除する. 同様に「〜 する」と「〜すると思う」を同じ表現とみなすために「と思う」を共起パターンから削除する。 また，句読点や記号，接尾辞の「達」「等」も共起パターンから削除する.

テキスト「待つこと 30 分で彼が来た」から「待つ」と「来る」の関係を獲得する場合の共起パターンの文字列部分は「こと 30 分で」である. しかし, この共起パターン中の「30 分」は 「40 分」でも「1時間」でもよく,「30分」の部分は時間を意味していればどのような文字列でも共起パターンが表現する関係は同じである。これらの共起パターンを同じものとみなすために共起パターン中の固有表現相当の文字列を，その固有表現の分類で置き換える．例えば，「30 分」は時間を表わす固有表現ため，共起パターン「こと 30 分で」を「こと固有表現一時間で」 と置き換える。

実験では CaboCha (Kudo and Matsumoto 2002)を用いて固有表現解析3を実施し，この結果を用いて共起パターンの表記を統一した。また, Cabochaで固有表現であると見なされなかっ
^{3}$ CaboCha による固有表現解析の結果は IREX の定義に基づいた次の 9 分類である. ARTIFACT, DATE, LOCATION, MONEY, OPTIONAL, ORGANIZATION, PERCENT, PERSON, TIME.
}

た語についても，固有表現である可能性が高い品詞を持つ語も固有表現であると見なした. 実験では, $\mathrm{MeCab}^{4}$ 用いて形態素解析を実施し，この結果を用いて共起パターンの表記を統一し $た^{5}$.

## 4.6 事態の意志性

Inui ら (Inui et al. 2003)は意味推論のための事態間の因果関係について議論を行い，事態に関係する意志性を基本とする 4 種類の因果関係—Effect, Means, Precondition, Cause—を定義した. 例えば，Effect 関係は意志性のある行為と意志性のない結果や状態や出来事や経験の間に成り立つ関係であり，Cause 関係は意志性のない状態や出来事や経験の間に成り立つ関係である.

これを受けて，12,000 以上の動詞に人手で意志性の有無を付与した辞書を構築し，これを実験に用いた。この辞書には, 8,968 の意志性のある動詞, 3,597の意志性のない動詞, 547 の意志性の有無が曖昧な動詞が含まれている。「食べる」や「研究する」に「意志性あり」とし，「温まる」や「壊れる」を「意志性なし」とした。実験では意志性が曖昧な動詞については共起事例から除いた。また，この動詞の意志性辞書を利用するとき，辞書に記述されていない動詞で 「される」が末尾にある事態を「意志性なし」とし, 形容詞も「意志性なし」とした.

## 4.7 信頼度の式への変更点

予備実験の結果から, 式 (1), 式 (4)をそれぞれ式 (5), 式 (6) に変更し, ブートストラップの各段階で信頼度を $-1 \sim 1$ の間に正規化するようにした。

$
\begin{aligned}
& r_{\pi}^{\prime}(p)=\sum_{i \in I} p m i(i, p) \times r_{\iota}^{\prime}(i) \\
& r_{\iota}^{\prime}(i)=\sum_{p \in P} p m i(i, p) \times r_{\pi}^{\prime}(p)
\end{aligned}
$

この変更は次の 2 つの理由から成っている.

式 (1) から $|I|$ で割る部分を, 式 (4) から $|P|$ で割る部分を削除した理由は, 信頼度の高い共起パターンから支持された事態対の信頼度は高く，信頼度の高い事態対から支持された共起パターンの信頼度は高いという, Espresso の仮定を実現するためである．変更前の式である式 (1) は $|I|$ で割ることで，共起パターンを支持する事態対の信頼度と PMI をかけた値（PMI 信頼度と呼ぶ）の平均を共起パターンの信頼度としている（同様に式 (4)は $|P|$ で割ることで, 事態対を支持する共起パターンの PMI 信頼度の平均を事態対の信頼度としている)．そのため, PMI
^{4} \mathrm{http}: / /$ mecab.sourceforge.net/

5 IPA 品詞体系において次の品詞を固有表現とみなした. 名詞一接尾一人名, 名詞一接尾一地域, 名詞一接尾一助数詞, 名詞一数, 名詞一固有名詞一一般, 名詞一固有名詞一人名, 名詞一固有名詞一組織, 名詞一固有名詞一地域. なお, CaboChaによる固有表現解析の結果とは独立して扱った.
}
信頼度の高い事態対（または共起パターン）と PMI 信頼度の低い事態対（または共起パターン） から支持を受けた共起パターン（または事態対）の信頼度は低くなりがちである。この傾向は，数多くの事態対（または共起パターン）から支持される共起パターン（または事態対）においては顕著である。なぜならば，こういった共起パターン（または事態対）は，PMI 信頼度の高い少数の事態対（または共起パターン）と PMI 信頼度の低い多数の事態対（または共起パター ン）から支持される傾向にあるためである。このような傾向を考慮し，PMI 信頼度の平均ではなく, PMI 信頼度を足し合わせた値を信頼度とする。

式 (1) と式 (4) から $\max _{p m i}$ で割る部分を削除した理由は， $\max _{p m i}$ で割ることは正規化を目的としていると考えられるが，この正規化では信頼度が $-1 \sim 1$ の範囲6におさまらないためである．我々の変更では， $\max _{p m i}$ で割らない代りにブートストラップの各段階において，信頼度の絶対値が最も大きな信頼度の絶対値で各信頼度を割ることで，全ての信頼度を $-1 \sim 1$ の間に正規化する.

## 4.8 事態含意名詞を用いた共起獲得

ここまでは Espresso を事態間関係獲得に適用させるために施した変更を説明したが, ここでは事態含意名詞という事態表現を考慮した場合の事態間関係獲得に与える影響を述べる。

述語または述語を含む句は典型的に事態を表現するため, 過去の事態間関係獲得手法は述語と述語の共起を利用して事態間の関係を獲得した。しかし，述語だけが事態を表現するわけではなく，名詞が事態を含意する場合もある，本論文では事態を含意する名詞を事態含意名詞と呼ぶ．例えば，名詞「研究」は事態「研究する」を含意する事態含意名詞である。このように動詞「する」を付与することで動詞のように働く名詞はサ変名詞を呼ばれる．例えば，(F1)のように動詞「する」を伴って動詞のように機能する場合がある。一方，(F2)のように格助詞「を」 を伴って名詞のように機能する場合がある。また，(F3)のようにサ変名詞は様々な接尾辞と共に名詞を構成する。

(F1) 健が言語を研究する

(F2) 健が言語の研究を止めた

(F3) - -者 : 研究者
- - 室 : 研究室
- - 後: 研究後

このようなサ変名詞を用いることで，事態間関係と共起パターンの候補を大幅に増やすことができる（どの程度増えたかという情報は節 5.2 を参照）。また，サ変名詞「研究」と動詞「実験する」は (G1)のような文脈でしばしば共起するため，(G2)の共起パターンは「実験する」が

「研究する」過程の一部で行われる行為であるという知識を獲得するための有力な証拠となる可能性がある.

(G1) 研究室で実験する

(G2) (Act-X) 室で (Act-Y)

他に,「(Act-X) 中に (Act-Y)」という共起パターンも行為間の部分全体関係を表わし，「会議中に意見を述べる」や「会議中に話を聞く」から「会議する」の部分関係が「意見を述べる」や 「話を聞く」ことであるという知識を獲得することができる。 さらに，「(Act-X) 後に (Act-Y)」 という共起パターンは行為間の前後関係を表わし，「会談後に会見を開いた」から「会談する」 の後には「会見を開く」という知識を獲得することができる.

このように事態含意名詞を利用することで事態間関係獲得手法を改善できる可能性もあるが,次のような欠点もある。それは, 名詞として用いられるときのサ変名詞は, 事態を表わしているのか実体を表わしているのか潜在的に曖昧であるという問題に依る．例えば，サ変名詞「電話」は「電話で」というコンテキストでは「電話をする」と事態を含意しているのか物体としての電話を表しているのか曖昧である 7 . そのため, テキストからサ変名詞を伴う共起事例を獲得するさいに，この曖昧性を解消して事態を含意するサ変名詞のみを共起事例として利用するべきであるが, この曖昧性解消は困難な問題であり, 我々の事態間関係獲得という問題の範囲を超えている，そのため，実験では曖昧性を解消せずに全てのサ変名詞は事態を含意していると見なすことで，事態含意名詞の利用による影響を確認する 8 . このように事態含意名詞の利用は利点と欠点があるため, 事態含意名詞を用いることが事態間関係知識獲得にとって効果的であるとは言うことができない. これを確認するために, 実験によって事態含意名詞の効果を測る.

実験では IPA 品詞体系で品詞「名詞一接尾」を接尾辞とみなし, 係助詞, ガ格, ヨ格, 二格を伴うサ変名詞は事態性が曖昧になりがちであるため, これらを事態含意名詞とはみなさないようにする。

## 5 実験

## 5.1 実験条件

人手で作成した行為一効果関係を表す共起パターンを用いて事態間関係を獲得した場合と拡張 Espresso を用いた場合を比較するために，それぞれの手法を用いて実験を行った。

実験では，河原ら (Kawahara and Kurohashi 2006) が Web から収集した約 5 億文の日本語


コーパスを用いた. これに対して MeCabで形態素解析, CaboCha (Kudo and Matsumoto 2002) で係り受け解析を行い，4節で述べた方法で事態対と共起パターンを抽出した. このとき，事態対と共起パターンの共起頻度が 20 回未満の事例, ガ格やヲ格の格要素が事態性名詞となる事例を除いた。

我々は事態間の意味を推論するために事態間関係知識を獲得しているので, Inui ら (Inui et al. 2003) が意味推論のために定義した事態間の因果関係を用いる。本実験では 4 つの因果関係のうち Effect の関係を獲得する実験を行う。ここでは Effect 関係を行為一効果関係と呼び, 「行為の結果事態がおうおうにして起こる。または行為をすることは事態を保つこと.」とその関係を定義した。

## 5.2 結果

行為一効果関係にある事態対を人手で少量作成し, これを正例シードとして拡張 Espresso を用いて事態対を獲得する ${ }^{9}$.ここで獲得した事態対を人手で見直し，行為一効果関係にある事態対を正例シードに, 行為一効果関係にないシードを負例シードに追加し, 再び拡張 Espresso を用いて事態対を獲得する。ここで獲得した事態対を人手で見直しシードに追加して拡張 Espresso を利用する, という操作を何度か試行し, 正例 971 事態対と負例 1,069 事態対のシードを作成した.

次に，これをシードとして拡張 Espresso を用いて事態対を獲得した（このとき事態含意名詞も利用する).このとき共起パターンの獲得と事態対の獲得を 20 回繰り返した結果, 共起パター ン 34,993 個, 事態対 173,806 個を得た. ここで獲得した共起パターンと共起した事態対の例を表 1 に示す 10.

拡張 Espresso と比較するために，行為一効果関係を表す接続表現「（～し）たため」「（～し) たから」「(〜し)て」を用いて事態対を獲得した。

## 5.3 評価

人手で作成した少数の共起パターンを用いて獲得した事態間関係の精度と拡張 Espresso で獲得した事態間関係の精度を比較する。

人手で作成した少数の共起パターンを用いて獲得した事態対を PMI の値の高い順に並べ，上位 $1 \sim 500$ 件，501～1,500 件，1,501～3,500 件，3,500～7,500 件からそれぞれ 100 件ずつランダムに事態対をサンプリングした。同様に，拡張 Espresso で獲得した事態対からシードに含まれている事態対を除き，これを信頼度の値の高い順に並べ，4つの区間からそれぞれ 100 件ずつ

表 1 共起パターンと事態対の例

 &  \\

ランダムにサンプリングした.

それぞれサンプリングした事態対が正しい関係にあるかを評価者 2 名で判断した. このとき次の 2 つの条件を両方とも満たす事態対を正しい関係とした。

（a）事態対が行為一効果関係である．ただしこの関係は必然的である必要はなく，しばしば関係が成立する場合も正解とする。

(b) 事態対の間で最低でもひとつの格要素が共有されていれば正解とする.

例えば「飲む $\rightarrow$ 二日酔いになる」は行為一効果関係である。行為「飲む」の結果として必然的に状態「二日酔いになる」とはならないが，しげしば状態「二日酔いになる」という結果になるため条件 (a)を満している。さらに，この場合は飲む人と二日酔いになる人が同じ人物であり，「 $X$ が飲む $\rightarrow X$ が二日酔いになる」（Xには，「部長」や「太郎」など同じ語が入る）と解釈できるため条件 $(\mathrm{b})$ を満している。よって，条件 (a) と (b)を満しているため「飲む $\rightarrow$ 二日酔いになる」は行為一効果関係にある。

条件 $(\mathrm{b})$ について補足する， $X$ が $V P_{1} \rightarrow X$ が $V P_{2}$ （前件と後件の間でガ格の要素が等しい）場合と $X$ を $V P_{1} \rightarrow X$ が $V P_{2}$ （前件のヲ格の要素と後件のガ格の要素が等しい）場合の両方とも正解とする。どの格の要素が共有しているのかを自動的に決定する手法の開発は将来の課題である.

評価者 2 人が共に正しいと判断した事態対のみを正解とした.

また， 2 人の評価結果の $\kappa$ 統計値は，人手で作成した共起パターンを用いた場合の結果では 0.55，拡張 Espresso を用いた結果では 0.53 であった。この値はどちらも「moderate」であると解釈できる。そのため, 2 人の評価結果は適度に一致しており, この精度は信頼できる。

図 1 共起パターンを用いた手法と拡張 Espresso の比較

## 5.4 拡張 Espresso の精度

図 1 は, 人手で作成した少数の共起パターンを用いた場合と拡張 Espresso を比較した結果であり，Espresso を拡張した手法の方が高い精度で事態間関係を獲得できている。ここから実体間関係知識の獲得で用いられた手法を事態間関係獲得に応用できること, 4 節で述べた拡張方法が適切であったことがわかる.

信頼度の高い 1 500 件の領域では高い精度で事態間関係を獲得しており，信頼度と精度の間に相関関係があり，信頼度という指標が事態間関係獲得に寄与しているように解釈することができる。一方で, これより信頼度の低い領域では信頼度と精度の間に相関関係がないように見える. 図 2 は事態対を信頼度の高い順に並べたときの信頼度の分布を表しており，この図から例えば 10 番目に信頼度が高い事態対の信頼度と 110 番目の事態対の信頼度の値の差は大きな違いであるが，1,000 番目と 2,000 番目の事態対の信頼度の値の差は小さいことがわかる. よって，信頼度の低い領域では信頼度と精度の間には相関関係があり，信頼度という指標が事態間関係獲得に寄与していることがわかる.

## 5.5 シードの数の影響

拡張 Espresso において, シードの数が事態間関係獲得の精度に与える影響を確認するために，行為一効果関係のシードを正例 500 事態対と負例 500 事態対にして実験を行った。精度を図 3

図 2 獲得した事態対を信頼度順に並べたときの信頼度

図 3 シードを半分だけ利用した場合の精度

に示す ${ }^{11}$.この結果は全てのシードを用いた場合と比較して低い精度であり，信頼度が高い領域でも低い領域でも精度が低下している。ここから拡張 Espresso は小さなシード集合で動くように設計されているが，その結果はシードの数に依存していることがわかる。 さらにシードを追加することでが精度向上の可能性があることがわかる.

## 5.6 事態性名詞を用いたときの効果

事態含意名詞が精度に与える効果を確認するために，事態含意名詞を用いた場合の精度と， そこから事態含意名詞の影響を除いた場合の精度を比較した. 図 4 は, 5.4 から事態含意名詞の影響を除いた結果である。この結果は，事態含意名詞の影響を除くために事態が事態含意名詞として出現したときの共起パターンの信頼度を 0 とみなし, 事態対の信頼度を再計算し, 再び信頼度の順番に並べ替えた結果である。事態含意名詞を用いた場合も事態含意名詞の影響を除いた場合もほぼ同じ精度であり, 事態含意名詞の利用はほとんど精度に影響していないことがわかる。

また，本実験で獲得した全ての事態対は，述語対と共起可能なパターンから支持されていた. つまり, 事態含意名詞と共起可能なパターンから支持されていた事態対は, 述語対と共起可能

図 4 事態含意名詞を用いない場合の精度


なパターンからも支持されていた。そのため，事態含意名詞を用いることで初めて獲得できるような事態対は出現しなかった ${ }^{12}$.

## 5.7 格の選択

図 5 は，(a) 格を含めて正しい事態間関係を正解した場合の精度と，（b) 誤った事態間関係であるが適切な格を追加することで正しい事態間関係になる事例も正解とした場合の精度を比較している，例えば，行為一効果の関係において $X$ が食べると $X$ が死ぬは誤りであるが，前件に 「毒茸を」があれば正解であるため, この事例は (a)の基準では不正解であるが，(b) の基準では正解とみなす。なお, ここまでの評価全て (a)の基準で行っている.

我々は Espresso を拡張する際に単純な手法で格の選択という問題に対処したが，この結果から,このような単純な手法では適切に格を選択することが難しいことがわかった. 他にこの結果から適切に格を選択することで最大 $26 \%$ 精度向上を期待することができるため, 事態間関係獲得において格の選択という問題が重要であることがわかる。

図 5 格を考慮しない場合の精度
$ 例えば, 事態間関係「検索する::見つかる」は, 事態含意名詞と共起するパターン「〈名詞; 意志性あり〉をして〈動詞; 意志性なし〉ない」や「〈名詞; 意志性あり〉をすれば〈動詞; 意志性なし〉」と共起したが, 動詞対と共起するパターン「〈動詞; 意志性あり〉ものの〈動詞; 意志性なし〉ない」とも共起していた.
}

## 6 結論と今後の課題

実体間関係を獲得するためにブートストラップ的に共起パターンを獲得する手法を拡張して事態間関係に適用した。事態間関係獲得にこの手法が適用できるという報告は過去になく，本実験の結果, この手法が事態間関係獲得にも有効であることがわかった. また, 事態の格を選択するということが重要な問題であることを明かにした。格の選択という問題は, 実体間関係では重要ではないが事態間関係では重要な問題である.

次に今後の課題を述べる.

今回の実験では, 前件と後件の間で任意の格の格要素が共有され, かつ任意の関係にある事態対を正解とした。しかし知識という視点からは前件と後件の間でどの格の格要素が共有されているのか明かになった方が利便性がある。例えば，行為一効果関係「〈A氏〉が〈花瓶〉を投げる」と「〈花瓶〉が壊れる」の間では, 前件のヲ格と後件のガ格の格要素が共有されており,正しい関係であれば前件のガ格と後件のガ格は共有されていない. このようにどの格の格要素が共有されているかで事態間関係の正解／不正解が変化する場合があるため, 今回の手法で獲得した知識では問題になる場合がある。 そのため, 我々は将来的には格要素がどの格で共有されているかを判断できるようにしたいと考えている。だが今回の手法では格要素がどの格で共有されているかを判断することは難しい，なぜならば，「水を冷して飲む」とは言うが「水を冷して水を飲む」のようにはあまり言わないように，同一文内で共起する述語対の格はしばしば省略される傾向にあるため, 同一文内で共起する述語対から関係を獲得している我々の手法では，どの格が省略されているのかをあてない限り，どの格が共有されているかを認識することは難しい，そのため, どの格が共有されていのかをあてるためには, 格の省略をあてるか, 別の手法を用いてどの格が共有されているのかを当てる必要がある. 今後はこの問題に取り込みたい.

今回の実験では, 前件と後件の間で任意の格の格要素が共有され, かつ任意の関係にある事態対を正解とした。しかし知識という視点からは前件と後件の間でどの格の格要素が共有されているのか明かになった方が利便性がある。例えば，行為一効果関係「〈A氏〉が〈花瓶〉を投げる」と「花瓶〉が壊れる」の間では, 前件のヲ格と後件のガ格の格要素が共有されており，正しい関係であれば前件のガ格と後件のガ格は共有されていない.このようにどの格の格要素が共有されているかで事態間関係の正解/不正解が変化する場合があるため, 今回の手法で獲得した知識では問題になる場合がある。 そのため, 我々は将来的には格要素がどの格で共有されているかを判断できるようにしたいと考えている．しかし，「水を冷して飲む」とは言うが「水を冷して水を飲む」とはあまり言わないように，同一文内で共起する述語対の格はしばしば省略される傾向にあるため, 同一文内で共起する述語対から関係を獲得している我々の手法では共有されている格を認識することが難しい. そのため, 共有されている格を認識するためには,
前処理として格の省略を認識した後で我々の手法を用いるか, 別の独立した手法を用いて共有されている項を認識する必要がある。今後はこの問題に取り込みたい.

実験では 5 億文から事態間関係知識を獲得したが，事態対とそれと共起するパターンの頻度が十分でないために正確な統計量を推定できないことがあった．今後，より多くの文から事態間関係知識を獲得することで精度が向上することを実験により確認したい.

本手法は原理的には様々な事態間関係を扱うことができるが, 今回の実験では行為一効果関係を満たす事態対を獲得できることのみを確認した，今後は，行為一効果関係以外の事態間関係獲得に本手法を利用できることを実験的に確認したい.

本稿では, アプリケーションへの応用を目指して事態間関係知識を獲得し，この知識の精度を直接的に評価した。次に，アプリケーションへ知識を適用した場合の性能を測るためにタスクベースの評価を検討しているが，これに必要な日本語のベンチマークが未だ存在しない。今後は, ベンチマークの作成と，これを用いた評価を予定している.

## 謝 辞

$\lceil$ Web 上の 5 億文の日本語テキスト」の使用許可を下さった情報通信研究機構の河原大輔氏と京都大学大学院の黒橋禎夫氏に感謝いたします.

## 参考文献

Chklovski, T. and Pantel, P. (2005). "Global Path-based Refinement of Noisy Graphs Applied to Verb Semantics." In Proceedings of Joint Conference on Natural Language Processing (IJCNLP-05), pp. 792-803.

Inui, T., Inui, K., and Matsumoto, Y. (2003). "What kinds and amounts of causal knowledge can be acquired from text by using connective markers as clues?" In Proceedings of the 6th International Conference on Discovery Science, pp. 180-193. An extended version: Inui T., Inui K., and Matsumoto Y. (2005). Acquiring causal knowledge from text using the connective marker tame. ACM Transactions on Asian Language Information Processing (TALIP), 4(4), pp. 435-474.

Kawahara, D. and Kurohashi, S. (2006). "Case Frame Compilation from the Web using HighPerformance Computing." In Proceedings of the 5th International Conference on Language Resources and Evaluation.

Kudo, T. and Matsumoto, Y. (2002). "Japanese Dependency Analysis using Cascaded Chunking." In CoNLL 2002: Proceedings of the 6th Conference on Natural Language Learning 2002

(COLING 2002 Post-Conference Workshops), pp. 63-69.

Lin, D. and Pantel, P. (2001). "DIRT-Discovery of Inference Rules from Text." In Proceedings of ACM SIGKDD Conference on Knowledge Discovery and Data Mining 2001, pp. 323-328.

Matsuyoshi, S., Sato, S., and Utsuro, T. (2006). "Compilation of a Dictionary of Japanese Functional Expressions with Hierarchical Organization." In Proceedings of the 21st International Conference on Computer Processing of Oriental Languages, pp. 395-402.

Pantel, P. and Pennacchiotti, M. (2006). "Espresso: Leveraging Generic Patterns for Automatically Harvesting Semantic Relations." In the 21st International Conference on Computational Linguistics and 44th Annual Meeting of the ACL, pp. 113-120.

Pantel, P. and Ravichandran, D. (2004). "Automatically Labeling Semantic Classes." In Proceedings of Human Language Technology / North American chapter of the Association for Computational Linguistics, pp. 321-328.

Pekar, V. (2006). "Acquisition of Verb Entailment from Text." In Proceedings of the Human Language Technology Conference of the NAACL, Main Conference, pp. 49-56.

Ravichandran, D. and Hovy, E. (2002). "Learning surface text patterns for a Question Answering System." In Proceedings of the 21st International Conference on Computational Linguistics and 40th Annual Meeting of the Association for Computational Linguistics, pp. 41-47.

Torisawa, K. (2006). "Acquiring Inference Rules with Temporal Constraints by Using Japanese Coordinated Sentences and Noun-Verb Co-occurrences." In Proceedings of the Human Language Technology Conference of the NAACL, Main Conference, pp. 57-64.

Zanzotto, F. M., Pennacchiotti, M., and Pazienza, M. T. (2006). "Discovering Asymmetric Entailment Relations between Verbs Using Selectional Preferences." In Proceedings of the 21st International Conference on Computational Linguistics and 44th Annual Meeting of the Association for Computational Linguistics, pp. 849-856. Sydney, Australia. Association for Computational Linguistics.

## 略歴

阿部修也：2008 年奈良先端科学技術大学院大学後期課程単位取得満期退学.同年, 奈良先端科学技術大学院大学研究員, 現在に至る. 専門は自然言語処理. 情報処理学会員.

乾健太郎：1995 年東京工業大学大学院情報理工学研究科博士課程修了. 工学博士．同研究科助手，九州工業大学情報工学部助教授を経て，2002 年より奈良先端科学技術大学院大学情報科学研究科助教授. 現在同研究科准教授, 情報通信研究機構有期研究員を兼任. 自然言語処理の研究に従事. 情報処理学
会, 人工知能学会, ACL 各会員, Computational Linguistics 編集委員.

松本裕治：1977 年京都大学工学部情報工学科卒. 1979 年同大学大学院工学研究科修士課程情報工学専攻修了. 工学博士. 同年電子技術総合研究所入所. 1984～1985 年英国インペリアルカレッジ客員研究員. 1985～1987 年 (財) 新世代コンピュータ技術開発機構に出向. 京都大学助教授を経て, 1993 年より奈良先端科学技術大学院大学教授, 現在に至る. 専門は自然言語処理. 情報処理学会, 人工知能学会, 日本ソフトウェア科学会, 認知科学会, AAAI, ACL, ACM 各会員.