# 入れ子依存木の刈り込みによる単一文書要約手法

菊池 悠太 ${ }^{\dagger}$ 平尾 努 $\dagger \cdot$ ・高村 $大$ 也 $^{\dagger} \cdot$ 奥村 学 $\dagger \cdot$ 永田 昌明 $\dagger \dagger$
}

近年の抽出型要約の多くの手法は, 原文書の情報を網羅し，かつ与えられる要約長 の制約に柔軟に対応すべく，文抽出と文圧縮を併用した組み合わせ最適化問題とし て要約を定式化している。つまり，文書から文という文法的な単位を維持するよう 単語を抽出することで要約を生成している．従来の手法は非文の生成を避けるため,構文木における単語間の関係を利用して文を圧縮しているものの，文書における大域的な文と文の間の関係, つまり談話構造には着目してこなかった. しかし, 談話構造を考慮することは要約の一貫性を保つ上で非常に重要であり, 文書の重要箇所 の同定にも役立つ。我々は，文書を文間の依存関係，単語間の依存関係をあらわし た入れ子依存木とみなし, 単語重要度の和が最大となるように木を刈り込むことで 要約を生成する手法を提案する。実験の結果, 提案手法が要約精度を有意に向上さ せたことが確認できた。

キーワード：文書要約，単一文書要約，修辞構造理論
## Summarizing a Document by Trimming a Nested Tree Structure

\author{
Yuta Kikuchi $^{\dagger}$, Tsutomu Hirao ${ }^{\dagger \dagger}$, Hiroya Takamura ${ }^{\dagger}$, Manabu Okumura ${ }^{\dagger}$ \\ and MASAAKI NAGATA ${ }^{\dagger \dagger}$
}

Many methods of text summarization that have recently been proposed combine sentence selection and sentence compression. Although the dependency between words has been used in most of these methods, the dependency between sentences, i.e., the rhetorical structure, has not been exploited in such joint methods. We use both the dependency between words and the dependency between sentences by constructing a nested tree, in which nodes in a document tree representing the dependency between sentences were replaced by a sentence tree representing the dependency between words. We formulate a summarization task as a combinatorial optimization problem, in which the nested tree is trimmed without losing important content in the source document. The results from an empirical evaluation revealed that our method based on the trimming of the nested tree significantly improved the performance of text summarization.

Key Words: Text Summarization, Single Document Summarization, Rhetorical Structure Theory


## 1 はじめに

抽出型要約は現在の文書要約研究において最も広く用いられるアプローチである. このアプローチは，文書をある言語単位（文，節，単語など）の集合とみなし，その部分集合を選択することで要約文書を生成する. 要約システムに必要とされる側面はいくつかあるが, 特に重要なのが，一貫性 (coherence) (Hobbs 1985; Mann and Thompson 1988) と情報の網羅性が高い要約を生成することと, 要約長に対し柔軟に対応できることである.

一貫性の高い要約とは, 原文書の談話構造（あるいは論理構造）を保持した要約を指す。要約が原文書の談話構造を保持していない場合, 原文書の意図と異なる解釈を誘発する文書が生成されてしまうおそれがある。すなわち, 原文書と似た談話構造を持つように要約文書を生成することは，要約を生成するために重要な要素である1. 要約文書において談話構造を考慮するために修辞構造理論 (Rhetorical Structure Theory; RST) (Mann and Thompson 1988) が利用可能である. RST は文書の大域的な談話構造を木として表現するため, RST の木構造を損なわぬように原文書中の抽出単位を選択することで, 原文書の談話構造を保持した要約文書が生成できる (Marcu 1998; Daumé III and Marcu 2002; Hirao, Yoshida, Nishino, Yasuda, and Nagata 2013). 従来の RST を抽出型要約に組み込む従来の手法の問題点は, その抽出粒度にある. RST で扱う文書中の最小単位は Elementary Discourse Unit (EDU) と呼ばれ，おおよそ節に対応するテキストスパンである. 従来手法は, 抽出の単位を EDU として要約の生成を行ってきたが, それが要約において必ずしも最適な単位であるとは限らない2 2 . また, 本節で後に説明するように，それなりの長さを持ったテキストスパンを抽出単位とする場合, 要約長に対する柔軟性の面でも問題が生じる.

情報の網羅性は, 文書要約の目的そのものでもある非常に重要な要素である。要約文書は原文書の内容を簡潔にまとめている必要があり, 原文書の重要な内容を網羅していることが要求される。 近年, 抽出型要約において, 原文書から重要な抽出単位の部分集合を選択する問題を整数計画問題 (Integer Linear Programming; ILP) として定式化するアプローチが盛んに研究されている. 抽出された部分集合が原文書の情報をなるべく被覆するような目的関数を設定し, 最適化問題として解くことで，原文書の情報を網羅した要約文書の生成が可能となる．実際にこれらの手法は要約文書の情報の網羅性の指標となる自動評価手法である ROUGE (Recall-Oriented Understudy for Gisting Evaluation)(Lin 2004) 值の向上に大いに貢献してきた (McDonald 2007; Filatova and Hatzivassiloglou 2004; Takamura and Okumura 2009). RST を要約に組み込む研究の多くは RST で定義される修辞構造の構造木をそのまま利用したものが多かった (Marcu 1998; Daumé III and Marcu 2002) が, Hirao ら (Hirao et al. 2013)は, RSTの談話構造木をそのまま

用いることの問題点を指摘し, EDU の依存構造木 (DEP-DT) に変換し, 依存構造木の刈り込みにより要約を生成する木制約付きナップサック問題 (Johnson and Niemi 1983) として要約を定式化した。

ILP の導入によって, 高い網羅性を持った要約の生成が可能となった一方で，要約手法が持つ要約長に対する柔軟性は, 情報の網羅性と密接な関係をもつようになった。文書要約では, 要約文書が満たすべき上限の長さを指定することが一般的である。抽出型要約においてよく用いられる抽出単位は文であり，生成された要約の文法性が保証されるという利点がある。しかし，高い圧縮率，すなわち原文書の長さと比較して非常に短い長さの要約文書が求められている場合，文を抽出単位とすると十分な量の情報を要約文書に含めることが出来ず，情報の網羅性が低くなってしまうという問題3があった。この問題に対し，文抽出と文圧縮を組み合わせるアプローチが存在する，文圧縮とは，主に単語や句の削除により，対象となる文からより短い文を抽出する手法である。近年，こうした文圧縮技術と文抽出技術を逐次適用するのではなく，それらを同時に行うアプローチ（以降これらを同時モデルとよぶ）が盛んに研究されており, 高い情報の網羅性と要約長への柔軟性を持った要約文書の生成が可能となっている.

本研究の目的は, 文書の談話構造に基づく, 情報の網羅性と要約長への高い柔軟性を持った要約手法を開発することである。これまで，文書要約に談話構造を加える試みと，文抽出と文圧縮の同時モデルは，どちらも文書要約において重要な要素であるにもかかわらず，独立に研究されてきた。その大きな要因の一つは，両者の扱う抽出粒度の違いである．前者は EDU であり，後者の抽出粒度は文（圧縮され短くなった文も含む）である．抽出単位を文や EDU というそれなりの長さのテキストスパンにすると, ある要約長制約に対し, 選択可能なテキストスパンの組合せは自ずと限られ，情報の網羅性を向上させることが困難な場合がある。我々は,文間の依存関係に基づく木構造と単語間の依存関係に基づく木構造が入れ子となった入れ子依存木を提案し，その木構造に基いて要約を生成することでこの問題に取り組む.

提案手法について，図 1 に示す例で説明する。本研究で提案する入れ子依存木は，文書を文間の依存関係で表した文間依存木で表現する。文間依存木のノードは文であり，文同士の依存関係をノード間のエッジとして表現する，各文内では，文が単語間の依存関係に基づいた単語間依存木で表現されている。単語間依存木のノードは単語であり，単語同士の依存関係をノー ド間のエッジとして表現する。このように，文間依存木の各ノードを単語間依存木とすることで，入れ子依存木を構築する。そして，この入れ子依存木を刈り込む，つまり単語の削除による要約生成を ILP として定式化する。生成された要約は，文間依存木という観点では必ず文の根付き部分木となっており, その部分木内の各文内, すなわち単語間依存木の観点では単語の部


Source document John was running on a track in the park. He looks very tired. Mike said he is training for a race. The race is held next month.

Summary

John was running on a track.

he is training for a race. *

The race is held next month.

図 1 提案手法の概要. 原文書は二種類の依存木に基づく入れ子依存木として表現される. 提案手法は,文間依存木からは根付き部分木，その各ノードは単語間依存木の部分木となっているように単語を選択することで要約を生成する。

分木となっている。ここで, 文間依存木からは必ず木全体の根ノードを含んだ根付き部分木が抽出されているのに対し, 単語間依存木はそうでないものも存在することに注意されたい. 従来, 文圧縮を文書要約に組み込む研究では, 単語間依存木の場合も必ず根付き部分木が選択されていたが，限られた長さで重要な情報のみを要約に含めることを考えると，単語の根付き部分木という制約が情報の網羅性の向上の妨げとなる可能性がある. そこで提案手法では, 根付きに限らない任意の部分木を抽出するために，部分木の親を文中の任意の単語に設定できるよう拡張を加えた。

提案手法をRST Discourse Treebank (Carlson, Marcu, and Okurowski 2001)における要約システムの評価セットで従来の同時モデルや木制約付きナップサック問題による要約手法と比較評価したところ，文書要約の自動評価指標である ROUGEにおいて最高精度が得られることを確認した。

## 2 関連研究

現在の抽出型要約の主流である文抽出，文圧縮の同時モデルでは，与えられた文書（群）から，文を単語間依存木として表現し，その根付き部分木を刈り込む，すなわち単語を削除することで要約を生成する。また，これを ILP として定式化する研究が盛んに行われている (Almeida and Martins 2013; Qian and Liu 2013; Morita, Sasano, Takamura, and Okumura 2013; Gillick and Favre 2009). しかし, 文から抽出する単語列を単語依存木の根付き部分木に限ると高圧縮な要約設定において情報の網羅性が低下するおそれがある 4 . さらに, これらの同時モデルでは文書が持つ談話構造を考慮しないため, 情報の網羅性が高く自動評価指標の ROUGEにおいて

高い值を得ることができるが，一貫性に欠けた要約が生成されてしまうという欠点がある.

また，同時モデルにおける文圧縮の手段として，文を依存構造木ではなく句構造木として表現し，その部分木を抽出する手法も提案されている (Li, Liu, Liu, Zhao, and Weng 2014; Wang, Raghavan, Castelli, Florian, and Cardie 2013; Berg-Kirkpatrick, Gillick, and Klein 2011). 句構造木は連続した単語列の文法的な役割を階層構造として表現した木であるため，この木を刈り込む際には連続した単語列（句）を同時に削除することが多くなる。よって，依存構造木を用いた刈り込みと比較すると要約長に柔軟な刈り込みが難しい.

一方，一貫性をもった要約を生成する手法として RST を利用した手法が提案されている. Daumé III and Marcu は，RST を利用した Noisy-channel モデルに基づく文書圧縮手法を提案した (Daumé III and Marcu 2002). 彼らの手法は一貫性を持った要約の生成が可能であるが,情報の網羅性という観点で最適解が得られるとは限らない。また適切な確率を計算するために大量のコーパスを必要とする上に，計算量の問題で長い文書に適用できないという欠点があった. Marcuは，RSTの構造を利用して EDU の順位を決定し，ランキング上位の EDU を要約として抽出した (Marcu 1998). Uzêda らは， Marcu の手法を含む合計 6 つの手法を組み合わせる手法を提案し，オリジナルの手法との比較評価を行った (Uzêda, Pardo, and Nunes 2010). 4.2.1 節では彼らの報告にある数値も参考値として載せている.

Marcu らの手法を含む EDU のランキングに基づく手法は，十分な情報の網羅性が保証されないという欠点がある。 Hirao らはこれを解決するため, EDU の依存木を構築し，その依存関係に基づいて EDU を選択する問題を木制約付きナプサック問題として定式化した (Hirao et al. 2013).これらの手法は RSTにおけるテキストの最小単位である EDUをそのまま抽出単位としていたが，EDUが文書要約においても適切な抽出単位であるかについては，要約長に対する柔軟性の面で疑問が残る。EDU は文よりも短いとはいえそれなりの長さを持ったテキストスパンである。そのため，要約に含める情報の組み合わせの自由度は比較的低く，かつ EDU のようなテキストスパンを対象とした構文解析器がないため, 文圧縮のような技術が適用できない。これに関しては 4.2 .5 節で評価実験結果をふまえて考察を行う. Hirao らの手法は提案手法に最も強く関連している。両者の違いは, Hirao らの手法が EDUをノードとする依存木から EDUを選択する要約手法であることに対し，提案手法は文間の依存関係と単語間の依存関係が入れ子構造を成す木から単語を選択する要約手法であるという点である.

また, 文重要度の決定に貢献する特徴を調べた文献 (Louis, Joshi, and Nenkova 2010)でも, RSTの有効性が示されている.

これまで，文書の（大域的な）談話構造を利用した要約手法について紹介したが，隣接した文同士のつながりを評価し，文の局所的な並びを最適にすることに取り組む研究も存在する (Nishikawa, Hasegawa, Matsuo, and Kikui 2010; Christensen, Mausam, Soderland, and Etzioni 2013). これらの方法では, 修辞構造解析器を必要としないため, 論理構造が明確でなく自動解
析の精度が期待できない文書においては有効である。一方で, 文書の大域的な談話構造を考慮した要約生成はできない可能性がある.

## 3 入れ子依存木の刈り込みによる要約文書生成

本研究の目的は, 要約文書の一貫性と情報の網羅性が高く, かつ要約長に柔軟な要約手法を提案することである. 要約としての一貫性と要約長への柔軟性を獲得するために文書を入れ子依存木として表現し, 入れ子依存木から要約文書を生成する問題を整数計画問題として定式化することで高い情報の網羅性を持った要約生成を行う。本節では，入れ子依存木の構築についての詳細と, ILPでの定式化について説明する.

## 3.1 修辞構造理論

修辞構造理論 (Rhetorical Structure Theory; RST)(Mann and Thompson 1988)は，文書の談話構造を表現するために提案された理論である。文書を EDUに分割し, 連続した EDU 同士（あるいは，複数の EDU をつなぎあわせたテキストスパン）を修辞関係で関連付けることで，談話構造木を構築する。構築される木は, 終端ノードが EDU, 非終端ノードが子ノード間の修辞関係をラベルに持つ木構造で表現される。図 2 に，談話構造木の例を示す。図において二つの非終端ノードの間に書かれているラベルがそのノード間の修辞関係である。具体的には例示, 補足，背景などの関係により，テキストスパン同士がどのような関係にあるかを表現する，今回

図 2 RST による文書の表現． $\mathrm{EDU}_{1-10}$ は具体的なテキストになっており，おおよそ節に相当する。隣り合ったテキストスパンは再帰的に修辞関係により関連付けられており, 最終的に文書全体で木構造を構成する. $\mathrm{N}$ と $\mathrm{S}$ はそれぞれ核と衛星に対応し，間に書かれたラベルがそれらの間の修辞関係である.
用いたコーパスでは合計で 89 種類の修辞関係が存在した。また, 修辞関係と共に各テキストスパンには核 (Nuclear) か衛星 (Satellite)のいずれかのラベルが付与される。核はその修辞関係において中心的な役割を担い, 衛星は補助的な役割を持つ。例えば補足という修辞関係では, 補足される方のテキストスパンが核であり，その内容を具体的に補足したテキストスパンが衛星となる。図においては，各非終端ノードの $\mathrm{N}$ と $\mathrm{S}$ がそれぞれ核と衛星を表している。なお, 図 2 の*のように, 複数の核からなる多核 (multinucleus) という性質を持った修辞関係も存在する.

## 3.2 入れ子依存木の構築

Hirao ら (Hirao et al. 2013) は RST の木構造を変換することで依存構造に基づくDEP-DT を構築した，DEP-DTは，EDU 間の依存関係を直接表現しており，この依存木を刈り込むことで一貫性を保った要約が生成できる。図 3 に，図 2 の木構造から変換された DEP-DT と本研究で用いる文間依存木を示す。 Hiraoらの用いたDEP-DT は，EDUをノードとするものであったが，本研究では文間の関係をとらえた同時モデルのため，これを文をノードとした依存木へと変換する，具体的には，同じ文に属する EDU 集合をまとめ，文内の親となっている EDU の依存先を，その文の依存先として採用する。依存先の EDU は他の文に属しているため，この変換規則により，文間の依存関係を持った木構造（文間依存木）を取得することができる。次に文間依存木の各ノードとなる文に対し依存構造解析を行い, 単語間の依存構造（単語間依存木） を獲得する，以上の処理により，文書が文の係り受け木，各文内では単語の係り受け木により構成された入れ子依存木を構築する。本研究では, この入れ子依存木から不要な単語を刈り込むことで要約文書を生成する。

(1) DEP-DT（EDU間依存木）

(2) 文間依存木

図 3 依存構造に変換された文書の修辞構造. (1) Hirao らによるEDU 間の依存関係を表した DEP-DT であり，図２の木構造を変換したもの。なお， multinucleusの関係を持つテキストスパンを成す $\mathrm{EDU}_{4}$ と $\mathrm{EDU}_{5}$ はそれぞれ独立に一つ上の核である $\mathrm{EDU}_{3}$ に依存している。(2) 本研究で用いる文間依存木. Hirao らの DEP-DT を変換したもの.

## 3.3 整数計画問題による定式化

入れ子依存木からの単語の削除による要約文書の生成は, 整数計画問題として定式化できる.具体的には, ある目的関数のもと, 文間依存木の根付き部分木, 根付き部分木中の各文は単語間依存木の（任意の）部分木となるように単語を選択することで要約を生成する。提案手法は次の整数計画問題で定式化できる.

$
\begin{array}{ccc}
\operatorname{max.} & \sum_{i}^{n} \sum_{j}^{m_{i}} w_{i j} z_{i j} & \\
\text { s.t. } & \sum_{i}^{n} \sum_{j}^{m_{i}} z_{i j} \leq L ; & \forall i, j \\
x_{i} \geq z_{i j} ; & \forall i \\
& x_{\text {parent }(i)} \geq x_{i} ; & \forall i, j \\
z_{\text {parent }(i, j)}+r_{i j} \geq z_{i j} ; & \forall i, j \\
r_{i j}+z_{\text {parent }(i, j)} \leq 1 ; & \forall i \\
\sum_{j=0}^{m_{i}} r_{i j}=x_{i} ; & \forall i, j \\
r_{i j} \leq z_{i j} ; & \forall i \\
\sum_{j \notin R_{c}(i)} r_{i j}=0 ; & \forall i \\
r_{i \operatorname{root}(i)}=z_{i \operatorname{rot}(i)} ; & \forall i \\
\sum_{j=0}^{m_{i}} z_{i j} \geq \min \left(\theta, m_{i}\right) x_{i} ; & \forall i \\
\sum_{j \in \operatorname{sub}(i)} z_{i j} \geq x_{i} ; & \forall i \\
\sum_{j \in \operatorname{obj}(i)} z_{i j} \geq x_{i} ; & \forall i \\
x_{i} \in\{0,1\} ; & \forall i \\
z_{i j} \in\{0,1\} ; & \forall i, j \\
r_{i} \in\{0,1\} ; & \forall i
\end{array}
$

$n$ は対象とする原文書に含まれる文数であり， $m_{i}$ は文 $i$ の単語数である. $w_{i j}$ は単語 $i j(i$ 番目の文における $j$ 番目の単語）の重みである， $x_{i}$ は，文 $i$ を要約に含めるときに 1 となる決定変数であり, $z_{i j}$ は, 単語 $i j$ を要約に含めるときに 1 となる決定変数である. 目的関数は, 要約に含まれた単語の重みの総和であり，この関数を最大にするように単語を選択する。

式 (1) は, 要約として選択される単語数が $L$ 以下であることを保証するための制約式である.式 (2)は要約に含まれていない文中の単語を要約に含めてしまうことを防ぐための制約式である. 式 (3) は文間依存木から文を選択する時に，その木構造を保つことを保証する。これは文
間依存木からは必ず根を含む根付き部分木が選択されることを意味する． parent $(i)$ は，文間依存木において文 $i$ の親となる文のインデックスを返す関数である.

式 (4) から式 (9) には決定変数 $r_{i j}$ が含まれている。 $r_{i j}$ は，単語 $i j$ を根とした部分木を要約文書に含める場合に 1 となる。式 (4) は，単語間依存木から単語を選ぶ場合，その木構造を保つことを保証する。ただし，単語間依存木の根以外の単語 $i j$ を根として部分木を抽出する場合は，その単語 $i j$ には必ず親となる単語 $\operatorname{parent}(i, j)$ が存在する。その状況では $z_{i j}$ が 1 のまま $z_{\text {parent }(i, j)}$ を 0 にすることが許容されなければならず，それを可能とするのが左辺第二項の $r_{i j}$ である。なお，parent $(i, j)$ は，文 $i$ に対応する単語間依存木において，単語 $i j$ の親となる単語のインデックスを返す関数である。ただし，このままでは， $z_{\text {parent }(i, j)}$ と $r_{i j}$ のどちらも 1 である場合も許容されてしまうため，2つの変数が同時に 1 となることを制限するための制約式 (5) を追加する，同様に，このままでは $r_{i j}$ のみが 1 となっている場合も許容されてしまう， $r_{i j}$ が 1 である場合はその単語 $i j$ は必ず要約に含まれなければならないため, 制約式 (7) を追加することで対処する．本研究では文 $i$ が要約に含まれる場合 $\left(x_{i}=1\right)$ は，そこから抽出される部分木は高々一つであるとしている。そこで，式 (6)により，一つの文から複数の部分木 (の根）が生じることを制限している。また，文 $i$ における単語間依存木の根に相当する単語 $(\operatorname{root}(i))$ に関しては, 根付き部分木を抽出する場合, すなわち $r_{\operatorname{root}(i)}$ が 1 であるときのみ要約に含めることを保証する必要があり，そのため制約式 (9)を追加している.

冒頭で述べた通り，本研究では単語間依存木から部分木を抽出する際は，根となり得るのは文中の動詞と, 単語間依存木全体の根となる単語に限っている。そこで, それ以外の単語が根となることを防ぐことを保証するため, 制約式 $(8)$ を追加する．ここで， $R_{c}(i)$ は文 $i$ 中で根の候補となる単語, すなわち動詞のインデックス集合を返す関数である。式 (10) は, 文（に対応する単語間依存木の部分木）を要約に含めるための最低の単語数を規定するための制約式である。これは，単語の削除により木を刈り込むという手法の性質上，極端に短く刈ってしまうと非文になる可能性が高くなることを防ぐ目的がある。また，要約を最適化問題としてモデル化しているので，目的関数を最大化するために要約長の限界まで単語を選択しようとして，刈り込みを無制限に許容すると，極端な例では 1 単語からなる部分木を選択してしまうため，それを防ぐための制約である。式 (11)は，部分木を抽出する際は必ず一つ以上の主語を含むことを保証する制約である。同様に式 (12) は，目的語を一つ以上含むことを保証する制約である。ここで, $\operatorname{sub}(i)$ と $o b j(i)$ は, それぞれ文 $i$ 中の単語のうち係り受けラベルが主語, 目的語である単語のインデックス集合を返す関数である.

提案手法の文圧縮が単語間依存木の刈り込みに基づいている以上，その操作により非文が生成されてしまう可能性がある。ここで，非文となる部分木の生成を避けるための二種類の追加
的な制約を導入する。一つ目の制約式は単語対に対するものである：

$
z_{i k}=z_{i l}
$

式 (16) は. 単語 $i k$ と単語 $i l$ は必ず同時に要約に含まれることを保証する. これは, 片方だけを要約に含めてしまう場合に非文となってしまうような組に対して定義される。具体的には，係り受けタグが PMOD ${ }^{5}, \mathrm{VC}^{6}$ である単語とその親の単語, 否定詞とその親の単語, 係り受けタグがSUB あるいは OBJである単語とその親となっている動詞, 形容詞の比較級 (JJR) あるいは最上級 (JJS) とその親の単語, 冠詞とその親の単語, “to”とその親の単語である. 二つ目の制約式は単語列に対するものである：

$
\sum_{k \in s(i, j)} z_{i k}=|s(i, j)| z_{i j}
$

式 (17) は単語の集合に対し, 集合中のいずれかの単語を要約に含めるとき, 集合中の他の全ての単語も要約に含めることを保証する制約である。具体的には，固有名詞列（品詞夕グが PRP\%, WP\%あるいはPOS のいずれかである単語列）や，所有格とその係り先の単語，その間に含まれる全ての単語列である。ここで, $s(i, j)$ は, 単語 $i j$ と, 例に上げた関係にある単語インデックスの集合を返す関数である.

## 4 評価実験

## 4.1 実験設定

提案手法の有効性を示すために評価実験を行った．実験には RST Discourse Treebank (RSTDTB) (Carlson et al. 2001) に含まれる要約評価用のテストセットを用いた． RST-DTB は Penn Treebankコーパスの一部の文書（Wall Street Journal から収集された 385 記事）からなるコーパスであり，RSTに基づく木構造が人手で付与されている。さらにその内 30 記事について, 人手で作成された要約文書 (参照要約) が存在しており, それらの文書を評価用テストセットとした。実験に用いたすべての文書は，Penn Tokenizerによりトークンに区切った．要約システムの入力となる要約長は, 参照要約の有するトークン数とした. テストセットに含まれる 30 記事の参照要約には, 平均して原文書の $25 \%$ 程度の長さの long 要約と, 平均して原文書の $10 \%$ 程度の長さの short 要約の二種類が存在する. 本実験では両方のテストセットについて先行研究との比較を行う．評価尺度としては ROUGE (Recall-Oriented Understudy for Gisting Evaluation)(Lin 2004)を用いる7.

抽出粒度の妥当性について検証するため，比較手法として EDUを単位とした木制約付きナップサック問題による要約手法 (Hirao et al. 2013) と, 文を単位とする木制約付きナップサック問題による要約手法を用意した。また，単一文書要約において強力なべースラインとなる LEAD 法との比較も行った．LEAD法は，要約長に達するまで文書の冒頭から抽出単位を選択していくことで要約文書を生成する手法である。本稿では $\mathrm{EDU}$ を抽出単位とする $\mathrm{LEAD}_{\mathrm{EDU}}$ と，文を抽出単位とする $\mathrm{LEAD}_{\mathrm{snt}}$ との比較を行う。さらに，提案手法において文（単語間依存木）から部分木を抽出する際に根付き部分木に制限する手法（根付き部分木抽出）も用意し，任意の部分木を抽出対象とする提案手法（任意部分木抽出）との比較を行った.

本実験に用いたすべての文間依存木は，RST-DTB で人手付与された RST 構造を利用しており談話構造解析器は利用していない。考察において，談話構造解析器を用いた追加実験を行い，精度の変化について考察する。また，単語依存木は Suzuki らの提案した依存構造解析手法 (Suzuki, Isozaki, Carreras, and Collins 2009) を用いて構築した.

なお，本実験では，単語の重要度 $w_{i j}$ として以下を用いた：

$
w_{i j}=\frac{\log \left(1+t f_{i j}\right)}{\operatorname{depth}(i)^{2}}
$

$t f_{i j}$ は文書における単語 $w_{i j}$ の単語頻度であり, $\operatorname{depth}(i)$ は, 文書の文間依存木における文 $x_{i}$ の根からの深さである。また, 制約 $(10)$ における $\theta$ は 8 とした.

## 4.2 結果と考察

## 4.2.1 ROUGEによる比較

表 1 に，各手法による ROUGE- 1,2 値を示す。まず, short 要約, long 要約セット双方において, 提案手法である任意部分木抽出と根付き部分木抽出の間に ROUGE 値の顕著な差はみられなかった. これについては 4.2 .4 節において, 両手法が抽出した実際の部分木を例に定性的な考察を行う．以下では，任意部分木を提案手法とし，他の手法との比較を行う.

また, 表 1 の下 3 行は Uzêda らによる比較実験の結果から一部の数値を引用している 8 . ここで, Marcu $_{\text {ours }}$ (0.432) と Marcu et al. (0.440)は, どちらも (Marcu 1998)の手法による結果を示している．前者は我々による再実装の数値であり，後者は (Uzêda et al. 2010) において報告されていた数值である．数值が異なるのはトークナイゼーションなどの前処理の違いによるものであると考えられるが, Uzêda らの文献に前処理の詳細がないため, 完全な比較とはならないことに注意されたい. とはいえ, 両者の数值に大きな差異はないことから, ほぼ同じ実験条件での数値であると判断した.

表 1 各手法による short 要約セットおよび long 要約セットにおける ROUGE-1,2 值

上 2 行が提案手法であり, 下 3 行は (Uzêda et al. 2010) からの引用である.

まず，short 要約セットの stopword を除去した条件（最も左のカラム）において，提案手法の評価值はホルム法による多重比較の結果, 他の全ての手法を有意に上回っていることを確認した. 個別の手法と比較すると，文選択手法すなわち文圧縮を一切行わない手法と比較すると,提案手法が大幅に上回っている事がわかる。これは，文をそのまま抽出する場合は，今回の要約設定（平均圧縮率が約 10\%）では十分に情報を網羅できないことを示している．次に，EDU 選択手法と比較しても提案手法が上回っている．EDU 選択は文選択を有意に上回っていることから，文よりも細かい EDU を抽出粒度とすることで，要約文書の情報の網羅性を高めることができている。しかし，EDUという予め決められた長さのテキストスパンを抽出する手法よりも，部分木という可変長のテキストスパンを抽出できる提案手法の方がROUGE 值は上回っており, その有効性がわかる. LEAD 法は, 報道記事の単一文書要約問題において非常に強力なベースラインである。これは，報道記事ではしばしば記事の冒頭でその記事全体の小さなまとめが書かれる傾向にあるためである．今回の実験では抽出単位の異なる二種類の LEAD 法を用いたが，いずれも低い数値となった。これは要約対象となっている文書が，単純な報道記事ではなく, エッセイや社説によって構成されているためであり, 冒頭に重要なまとめが記載されているわけではないことが原因である.

一方, long 要約セットでは, 提案手法と EDU 選択手法との間に顕著な差は見られなかった. これは, $25 \%$ という圧縮率が比較的緩く, いずれの手法, 抽出単位でもある程度の情報が網羅できるために大きな差が生まれなかったためである。ただし, 文を抽出単位とした手法（文選択および $\mathrm{LEAD}_{\text {snt }}$ ）の ROUGE スコアは低いことから, 情報網羅性の向上のためには, 文よりも小さいテキストスパンを抽出することが重要であるとわかる.

以上の結果から, 提案手法のような要約長に柔軟な要約手法は, short 要約セットのように比較的圧縮率の高い設定において有効であることがわかる.

## 4.2.2 修辞構造の自動解析による精度の変化

表 1 の実験結果は，人手で与えられた RST に基づく修辞構造を用いていた。提案手法を任意の文書に適用する場合, 文書の修辞構造を自動で解析する解析器が必須である。しかし, 修辞構造の自動解析は難しいタスクの一つであり, 人手で付与された談話構造を使用したときと比較して精度が劣化してしまうおそれがある。そこで本節では, 既存の修辞構造解析器を用いて自動で解析した修辞構造を利用した場合の精度の変化を調べる。今回の実験では自動解析器として, サポートベクターマシンに基づく高い精度を持った解析器である HILDA (duVerle and Prendinger 2009; Hernault, Prendinger, duVerle, and Ishizuka 2010)を用いた. 表 2 に実験結果を示す. HILDA と付いている行が，自動解析に基づく依存木を使用した場合の結果である。結果から，いずれの手法も人手で作成された修辞構造を用いたものより ROUGE 値が劣化していることがわかる. short 要約セットの場合は, 提案手法の方が劣化が大きい. これは, 提案手法が EDU 単位の依存構造を文単位に変更しているためである. HILDAを始めとする自動解析器は，ボトムアップに修辞構造木を組み上げていくため，それを用いて得た修辞構造木を談話依存構造へと変換すると, 距離が近い EDU 間の依存関係は比較的高い精度で予測できるが, 遠い依存関係の予測精度は低い。このため, 遠距離の依存関係である文間の依存関係の同定に失敗し, 提案手法のROUGEが大きく劣化したと考える，実際，依存先の正解率 9 を計算すると， EDU 単位で 0.590 , 文単位で 0.324 となった. しかしながら, short 要約セットにおいては, 減少幅は大きいものの依然として提案手法の精度が, 今回比較したどの手法の数値よりも高いことから，提案手法の有効性がわかる.

long 要約セットにおいては, EDU 選択手法の ROUGE 値の減少はほとんど見られなかった. 4.2.1 節で述べた通り, long 要約セットは低い圧縮率であるため比較的多くの情報を要約に含めることができる。文単位の依存関係においても，正解率自体は低くとも選択できる文数が増えるため, short 要約セットよりもROUGE 値の劣化が抑えられている。すなわち, short 要約セットのように圧縮率の厳しい設定では, より高い精度で抽出単位の依存先を推定する必要がある.

表 2 修辞構造を自動解析した場合の精度の変化

上 2 行は表 1 より再掲している.


## 4.2.3 単一文書要約における重要箇所同定

前節で，提案手法の有効性を ROUGE 值によって確認した，本節では，談話構造，すなわち文間依存木の情報が文書中の重要箇所同定に有効かという点について考察を行う. 現在, 文書要約において主流な問題設定は, 同じトピックについて書かれた文書の集合からひとつの要約文書を生成する, 複数文書要約である。冒頭で説明した文抽出と文圧縮を組み合わせる手法も全て複数文書要約に取り組んでいるのに対して，今回我々が行った実験は，一つの文書に対し一つの要約文書を生成する単一文書要約問題である。単一文書要約は複数文書要約と比較して,要約文書に含めるべき文書の重要部分の同定が難しい. なぜならば複数文書要約では文書集合全体として重要な話題は文書横断的に出現するため, その性質を利用できる ${ }^{10}$ が，単一の文書においてそのような情報は利用できないためである.

対象とする文書が報道記事である場合は, 冒頭部分に記事全体の要約が書かれやすいという強力な基準があるが, そうでない場合に重要な部分を同定することは困難である11. 今回我々が用いた単一文書要約の評価セットは, 報道記事ではなく社説やエッセイのような文書で構成されているため重要部分の同定が難しい。これは表 1 における LEAD 手法の ROUGE 值からも確認できる.

文間依存木の情報が文書の重要箇所同定に与える影響について検証するため, 提案手法（自動解析含む）の単語重要度から depth $h^{2}$ を取り除いたもの，すなわち単語の重要度が単にその文書における出現頻度で決まる場合と, 文間依存木の情報を一切用いない従来の同時モデルについても同様に実験を行い比較した，表 3 に，それぞれの結果を示す。提案手法の単語重要度から文間依存木の情報（依存木の根からの深さ）を除いた場合に十分な ROUGEスコアが得られないことから，文書の談話構造が単一文書要約における重要箇所の同定に寄与していることが

表 3 RST に基づく文間依存木を利用しない場合の結果の変化

上 2 行は表 2 より再揭している.


わかる，なお，同時モデルと異なり，木構造の制約という形で文間依存木の情報は用いていることに注意されたい，同時モデルの結果を見ると，文抽出と文圧縮の同時最適化のみでは，本評価セットで有効に機能しないことがわかる，重要文の同定・抽出が困難であるならば，複数文書要約において盛んに取り組まれている文抽出と文圧縮の同時最適化を適用することも困難となり，要約長に柔軟な要約文書の生成も困難となる。本研究の結果は単一文書における重要部分の同定に対するひとつの手がかりとして，文書の談話構造が有効である可能性を示唆しているといえる。

## 4.2.4 異なる部分木抽出手法の定性評価

ここまで，ROUGEの観点から評価実験の結果についての考察を進めてきた。本節では，単語間依存木からその部分木を抽出する方法として，任意の部分木を抽出することの有用性を，例を示して考察する. 図 4 に, 任意部分木抽出手法と根付き部分木抽出手法が共通して要約文書に含めた文と，そこから抽出した部分木に対応する二つの文を示す。なお,これは short 要約セットにおける例である。

ここで, $\{\cdot\}$ は依存構造解析器が単語間依存木の根であると出力した語であり, [$\cdot$] は要約システムが部分木の根として選んだ語である。任意部分木抽出においては，例に示したいずれの文も解析器の根以外の単語を根として部分木を抽出している. 例に見るように, 目的節や that 節の内容の方が重要な情報を持つことが多いため，その部分のみを抽出することは，限られた長さで重要な情報のみ要約に含める上で有用であり，今回の実験ではこうした事例が少なかったこともあり ROUGE スコアで大きな差がでなかったが，特に圧縮率の高い設定 ${ }^{12}$ では有効であろう。

図 4 二つの手法が共通して要約に選択した文と, それぞれが抽出した部分木の例


## 4.2.5 抽出粒度と要約文書の文数の関係

EDU はRST における談話構造の基本単位であるが, 抽出型要約の抽出単位として適切とは限らない。図 5 に, ある文 ${ }^{13}$ とその文を構成する EDU の例を示す. 図のように，EDU はおおよそ節に対応する文よりも細かな単位である.

抽出単位が文よりも細かい EDU であることは, EDU 抽出は, 文圧縮を逐次適用した要約手法として考えることができる。つまり，EDU 抽出による要約は多くの文を事前に圧縮しつつ抽出していることに相当する. このように文よりも小さな断片を組み合わせて要約を生成すると,文を組み合わせる場合よりも長さ制約をちょうど満たすように要約を生成することができる可能性が高い. よって, ROUGE 値も上昇する傾向にある。 しかし, EDUは文よりも短いため, たとえ一貫性があろうともそれを読んだ読者が違和感を覚えてしまうだろう。

抽出型要約において, 文書中の多くの文から細かな断片を集めることで情報の断片化された要約の生成につながっているかどうかのは，要約文書に含まれる抽出単位集合の元となる文の数が，その一つの指標となる。言い換えると，生成された要約を構成する文の数が，参照要約すなわち人間によって生成された要約に近い方が, 自然で読みやすい要約になっていると考えられる。そこで本節では各手法が生成した要約文書に含まれる原文書の文数を比較した。比較に用いた手法は提案手法である任意部分木抽出の他に, 文選択と EDU 選択である。文選択は原文書中の文の数, EDU 選択は原文書中の EDU に対応する文の数, 部分木選択は, 部分木に対応する文の数である。なお, 参照要約は人間が自由に生成した要約であるため, 必ずしも原文書の文とは対応していないことに注意されたい.

short 要約セットにおいて各選択手法が選択した文について箱ひげ図を図 6 に示す. 各々の箱の上辺と下辺は，それぞれその手法が選択した文数の第一四分位点，第三四分位点を表しており, 箱の中の線は中央値を表している。箱の上下に伸びる線（ひげ）の先は, それぞれ最大値,最小値を表し，ひげよりも外側に見られる＋印は，外れ値である。

図を見ると，EDU 選択手法が最も多くの文を用いて要約を生成していることがわかる。一方で文選択手法は, 比較手法の中では最も参照要約の文に近いが，4.2.1節で示した通り情報の網

図 5 本データセットにおける文の一例. 5 行全体で一つの文であり, 各行が一つの EDU に対応している.

羅性という点で十分な要約を作成できない，部分木抽出は文選択と EDU 選択の間で，両者のように実際に抽出されるテキストスパンの長さを固定せずに要約システムが柔軟に各文から抽出する部分木を選択することができる。それにより情報の網羅性と要約としての自然さを両立出来ている。なお, 部分木抽出手法の平均文数は 4.73 であり, 中央値は 4 文であった. これに対し, $\mathrm{EDU}$ 選択の平均文数は 5.77 で中央値は 5 文であった. これは提案手法の方が有意 ${ }^{14}$ に少ない文を用いて要約を生成していることを示している。自動解析を利用した場合も同様の傾向であるため詳細は割愛する。

同様に, long 要約セットについて図 7 に示す. 圧縮率が低くなった場合も全体の傾向としては short 要約セットとの大きな差異はない，全体的にばらつき（箱の縦の長さ）が大きくなっているが, これは参照要約自体の長さのばらつきが short 要約セットよりも大きいことが原因である。

図 6 short 要約セットにおいて各手法が使用した原文書の文の数. (HILDA) と付いているものは自動解析による修辞関係を利用している。

図 7 long 要約セットにおいて各手法が使用した原文書の文の数
(p<0.05) .}$
}

## 5 まとめ

本研究では, 単語間の依存構造解析に基づく単語間依存木と，RST に基づく文間依存木から入れ子依存木を構築し, そこから要約文書に含める単語を選択する要約生成問題を ILP として定式化した。提案手法は EDU の依存木の刈り込み手法に比べ，過剰に文を区切ることなく ROUGE を向上させることが確認できた. また, 単語の依存木からその部分木を抽出する方法として, 構文解析器が出力した根にこだわらない任意部分木抽出手法について, その有用性を定性的に分析した。 さらに, 人手で作成された修辞構造以外に, 修辞構造解析器で推定された修辞構造も用いて, その精度への影響を確かめた。

提案手法の抱える課題は, 任意の文書に対して適用する際に修辞構造の自動解析を利用しており, その精度の与える影響が大きいという点である。今回は EDU 単位の修辞構造解析結果を文単位の依存関係に変換して利用したが，はじめから EDU 単位の依存関係を獲得する研究 (Yoshida, Suzuki, Hirao, and Nagata 2014)も存在する。これらを踏まえ, 今後はより良い文間依存木の獲得方法を検討していく。

今回は RST から得られる情報のうち文間の依存関係のみに着目したが, 各文内における EDU 間の関係や修辞構造のラベルを考慮して文圧縮や文抽出を行うことが可能であり, 今後取り組むべき課題として興味深い.

今後は, 他のコーパスの文書や, 複数文書要約においても提案手法を適用することを考えている.

## 参考文献

Almeida, M. and Martins, A. (2013). "Fast and Robust Compressive Summarization with Dual Decomposition and Multi-Task Learning." In Proceedings of the 52nd Annual Meeting of the Association for Computational Linguistics (ACL), pp. 196-206.

Berg-Kirkpatrick, T., Gillick, D., and Klein, D. (2011). "Jointly Learning to Extract and Compress." In Proceedings of the 52nd Annual Meeting of the Association for Computational Linguistics (ACL), pp. 481-490, Portland, Oregon, USA.

Carlson, L., Marcu, D., and Okurowski, M. E. (2001). "Building a Discourse-tagged Corpus in the Framework of Rhetorical Structure Theory." In Proceedings of the 2nd Annual SIGdial Meeting on Discourse and Dialogue (SIGDIAL), pp. 1-10.

Christensen, J., Mausam, Soderland, S., and Etzioni, O. (2013). "Towards Coherent MultiDocument Summarization." In NAACL:HLT, pp. 1163-1173.

Daumé III, H. and Marcu, D. (2002). "A Noisy-Channel Model for Document Compression." In

Proceedings of 40th Annual Meeting of the Association for Computational Linguistics (ACL), pp. 449-456, Philadelphia, Pennsylvania, USA. Association for Computational Linguistics.

duVerle, D. and Prendinger, H. (2009). "A Novel Discourse Parser Based on Support Vector Machine Classification." In Proceedings of the Joint Conference of the 47th Annual Meeting of the ACL and the 4th International Joint Conference on Natural Language Processing of the AFNLP, pp. 665-673, Suntec, Singapore. Association for Computational Linguistics.

Filatova, E. and Hatzivassiloglou, V. (2004). "A Formal Model for Information Selection in Multi-Sentence Text Extraction." In Proceedings of the 20th International Conference on Computational Linguistics (COLING), pp. 397-403.

Filippova, K. and Strube, M. (2008). "Dependency Tree Based Sentence Compression." In Proceedings of the 2nd International Natural Language Generation Conference (INLG), pp. 25-32.

Gillick, D. and Favre, B. (2009). "A Scalable Global Model for Summarization." In Proceedings of the NAACL HLT Workshop on Integer Linear Programming for Natural Language Processing (ILP), pp. 10-18.

Hernault, H., Prendinger, H., duVerle, D. A., and Ishizuka, M. (2010). "HILDA: A Discourse Parser Using Support Vector Machine Classification." Dialogue and Discourse, 1 (3), pp. 1-33.

Hirao, T., Yoshida, Y., Nishino, M., Yasuda, N., and Nagata, M. (2013). "Single-Document Summarization as a Tree Knapsack Problem." In Proceedings of the 2013 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 1515-1520.

Hobbs, J. R. (1985). On the Coherence and Structure of Discourse. CSLI.

Johnson, D. S. and Niemi, K. A. (1983). "On Knapsacks, Partitions, and a New Dynamic Programming Technique for Trees." Mathmatics of Operations Research, 8 (1), pp. 1-14.

Li, C., Liu, Y., Liu, F., Zhao, L., and Weng, F. (2014). "Improving Multi-documents Summarization by Sentence Compression based on Expanded Constituent Parse Trees." In Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 691-701, Doha, Qatar. Association for Computational Linguistics.

Lin, C.-Y. (2004). "ROUGE: A Package for Automatic Evaluation of summaries." In Proceedings of the ACL Workshop on Text Summarization Branches Out, pp. 74-81.

Louis, A., Joshi, A., and Nenkova, A. (2010). "Discourse Indicators for Content Selection in Summarization." In Proceedings of the SIGDIAL 2010 Conference, pp. 147-156, Tokyo, Japan. Association for Computational Linguistics.

Mann, W. C. and Thompson, S. A. (1988). "Rhetorical Structure Theory: Toward a Functional

Theory of Text Organization." Text, 8 (3), pp. 243-281.

Marcu, D. (1998). "Improving Summarization Through Rhetorical Parsing Tuning." In Proceedings of the 6th Workshop on Very Large Corpora, pp. 206-215.

McDonald, R. (2007). "A Study of Global Inference Algorithms in Multi-document Summarization." In Proceedings of the 29th European Conference on Information Retrieval (ECIR), pp. 557-564.

Morita, H., Sasano, R., Takamura, H., and Okumura, M. (2013). "Subtree Extractive Summarization via Submodular Maximization." In Proceedings of the 52nd Annual Meeting of the Association for Computational Linguistics (ACL), pp. 1023-1032.

Nishikawa, H., Hasegawa, T., Matsuo, Y., and Kikui, G. (2010). "Opinion Summarization with Integer Linear Programming Formulation for Sentence Extraction and Ordering." In Proceedings of the 23rd International Conference on Computational Linguistics (COLING), pp. 910-918.

Qian, X. and Liu, Y. (2013). "Fast Joint Compression and Summarization via Graph Cuts." In Proceedings of the 2013 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 1492-1502.

Suzuki, J., Isozaki, H., Carreras, X., and Collins, M. (2009). "An Empirical Study of Semisupervised Structured Conditional Models for Dependency Parsing." In Proceedings of the 2009 Conference on Empirical Methods in Natural Language Processing, pp. 551-560, Singapore. Association for Computational Linguistics.

Takamura, H. and Okumura, M. (2009). "Text Summarization Model based on the Budgeted Median Problem." In Proceedings of the 18th ACM Conference on Information and Knowledge Management (CIKM), pp. 1589-1592.

Uzêda, V. R., Pardo, T. A. S., and Nunes, M. D. G. V. (2010). "A Comprehensive Comparative Evaluation of RST-based Summarization Methods." ACM Transactions of Speech and Language Processing, 6 (4), pp. 4:1-4:20.

Wang, L., Raghavan, H., Castelli, V., Florian, R., and Cardie, C. (2013). "A Sentence Compression Based Framework to Query-Focused Multi-Document Summarization." In Proceedings of the 51st Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pp. 1384-1394. Association for Computational Linguistics.

Yang, Y. and Nenkova, A. (2014). "Detecting Information-Dense Texts in Multiple News Domains." In Proceedings of the 28th AAAI Conference on Artificial Intelligence, July 27-31, 2014, Québec City, Québec, Canada, pp. 1650-1656.

Yoshida, Y., Suzuki, J., Hirao, T., and Nagata, M. (2014). "Dependency-based Discourse Parser
for Single-Document Summarization." In Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 1834-1839, Doha, Qatar. Association for Computational Linguistics.

## 略歴

菊池悠太：2011 年木更津工業高等専門学校専攻科制御・情報システム工学専攻修了. 2013 年東京工業大学総合理工学研究科博士前期課程修了. 同年, 同大学博士後期課程に進学.

平尾努：1995 年関西大学工学部電気工学科卒業. 1997 年奈良先端科学技術大学院大学情報科学研究科博士前期課程修了. 同年株式会社 NTT データ入社. 2000 年より NTT コミュニケーション科学基礎研究所に所属. 博士（工学). 自然言語処理の研究に従事. 言語処理学会, 情報処理学会, ACL 各会員.

高村大也：1997 年東京大学工学部計数工学科卒業. 2000 年同大大学院工学系研究科計数工学専攻修了 (1999 年はオーストリアウイーン工科大学にて研究). 2003 年奈良先端科学技術大学院大学情報科学研究科博士課程修了. 博士 (工学)。2003 年から 2010 年まで東京工業大学精密工学研究所助教. 2006 年にはイリノイ大学にて客員研究員. 2010 年より同准教授. 計算言語学, 自然言語処理を専門とし, 特に機械学習の応用に興味を持つ.

奥村学：1962 年生. 1984 年東京工業大学工学部情報工学科卒業. 1989 年同大学院博士課程修了. 同年, 東京工業大学工学部情報工学科助手. 1992 年北陸先端科学技術大学院大学情報科学研究科助教授, 2000 年東京工業大学精密工学研究所助教授, 2009 年同教授, 現在に至る. 工学博士. 自然言語処理,知的情報提示技術, 語学学習支援, テキスト評価分析，テキストマイニングに関する研究に従事. 情報処理学会, 電子情報通信学会, 人工知能学会, AAAI, ACL, 認知科学会, 計量国語学会各会員.

永田昌明：1987 年京都大学大学院工学研究科修士課程修了. 同年, 日本電信電話株式会社入社. 現在, コミュニケーション科学研究所主幹研究員 (上席特別研究員). 工学博士. 統計的自然言語処理の研究に従事. 電子情報通信学会, 情報処理学会, 人工知能学会, 言語処理学会, ACL 各会員.