言語処理学会 第21回年次大会 発表論文集 (2015年3月)

議論文生成における文抽象化のための固有表現抽象化
佐藤 美沙

柳井 孝介

三好 利昇

柳瀬 利彦

丹羽 芳樹

日立製作所 中央研究所{misa.sato.mw, kohsuke.yanai.cs, toshinori.miyoshi.pd,toshihiko.yanase.gm, yoshiki.niwa.tx}@hitachi.com

1

はじめに

これまで文の抽象化の研究では、WordNet [1] などの概念辞書から抽象化先を獲得する手法 [3] が提案さ筆者らの研究グループでは、テキスト内の知識を活れている。しかし、こうして獲得された抽象化先には、用する手段として、人と議論をする人工知能を開発し複数の候補が存在するという問題がある。これらの候ている [6–8]。新聞記事などの既存のテキストから議補には、その表現そのものの抽象化先としては正しく論に必要な知識を含む文を抽出し、その文を組み上げとも、文の抽象化のためには不適切であるような候補ることによって議論文を生成する。このとき、 既存が含まれる。そのため、数ある抽象化先候補の中から、のテキストの文は、議論には関わりの薄い、具体性のなんらかの評価基準を用いて適切な候補を選択する必高い情報を含んでいる場合がある。そこで、文を抽象要がある。

化して、議論に使えるような一般的な主張を表す文を生成する必要がある。

さらに、適切な抽象化は、文の内容および議論の議題によって異なるという問題点も存在している。つまわかりやすい発言のためには、まず冒頭で主張した

り、抽象化した後の文の内容が正確な文になるかどうい内容を簡潔に述べ、次に具体的な事例を用いたサか、また、抽象化の方向が議題と一貫しているかどうポートを述べるやり方が一般的である。そのため、主か、によって、候補を評価する必要がある。

張内容と具体的な事例の関係は、前者は後者を一般化

本研究では、上記の二点の問題を解決し、文の抽象したものになっているべきであり、こうした生身の人化を行うための手法を提案する。具体的には、材料文間のサポートツールとしても具体的な事例からの抽象中の固有表現に対して、(1) 生成文の内容が事実に照化は必要とされる問題である。

らして正確であること、 (2) 抽象化の方向が議題と関

本稿では、具体的な事例について書かれた文を抽象化する試みを報告する。

連が強いこと、 という二点を満たす抽象化先を選択する。これらの手法により選択した表現と置き換える

本研究では、 文中の固有表現を抽象化することにことで、文の抽象化を実現する。

よって、文の抽象化を行う。たとえば、「経済問題」を議題として議論するとき、提案手法(1) Malaria epidemic situation remains normal inMyanmar. 12という文を材料として、文中の “Myanmar” を “de-元となる材料文と、各固有表現に対する抽象化先候補

veloping countries” に置換することで、を表す辞書が与えられたときに、材料文中の固有表現(2) Malaria epidemic situation remains normal indeveloping countries.と、それを置換する最も適切な抽象化先候補を選択しという、より抽象的な内容の文を生成することができ具体的には以下の三操作によって文を抽象化する枠る。このようにして抽象化した文と、元の具体的な文組みを提案する。まず、1. 材料文中の抽象化対象の表を複数組み合わせることによって、筆者らの目的とす現を抽出する。本研究では、エンティティを表す固有る人との議論に使える文章を作成することが可能にな表現を抽象化の対象とする。抽出した固有表現に対しると考えられる。て、抽象化先候補の表現は複数存在する。そこで、次1 ⃝1995–2010
cXinhua News Agency

本研究では、議論のテーマを表す議題文と、主張の出力することを目的とする。

節以降で述べる 2. 正確性の評価と 3. 議題との関連性― 202 ―

Copyright(C) 2015 The Association for Natural Language Processing.
All Rights Reserved.

の評価を行う。最も評価値の高い候補一つを置換先と2.2.1して選択し、出力する。

類似事象が生じているエンティティの抽出

類似事象が生じている他のエンティティを獲得するために、類似事象を表す文をコーパスから獲得し、そ2.1

こから対応するエンティティを抽出する。まず、材料抽象化対象の固有表現の抽出文から置換対象の固有表現を除いた文字列を作成する。
与えられた材料文に対して固有表現抽出を行う。抽出された固有表現から、議題文中の重要語と関連の深いものを除き、 残ったものを抽象化の対象となる固有表現とする。

そして、作成した文字列をクエリとした大規模コーパ
スからの連想検索によって、エンティティ以外の情報が類似している文を獲得する。獲得された文に対して固有表現抽出を行い、置換対象の固有表現と異なる文字列かつ固有表現分類が同じであるものを類似事象エ2.2ンティティとして抽出する。

正確性の評価事象によって抽象化先としての適切さが異なる。
たとえば、“Myanmar” は、(A)“developing coun-

2.2.2

正確性の計算tries” の一つであり、(B)“Southeast Asian countries”の一つである 2 ことから、これら 2 つは “Myanmar”

であるものに高い評価値を与える、かつ類似事象エンの抽象化先候補である。しかし、ティティではないものにとっては抽象表現ではないも(3) Malaria is a major health problem in Myanmar.のに高い評価値を与える、の二観点を反映するようにという文を抽象化するときには、生成される文の内容評価値を付与する。

より多くの類似事象エンティティにとって抽象表現

具体的には以下の式 (1) で、ある抽象表現 a の正確から、候補 (A) は抽象化先として適切だが、候補 (B)性評価値が計算できる。

は不適切であると考えられる。
この違いは 、抽象化された文の内容が事実に照らfevent (a) = h(α × Pevent (a), Revent (a)),
1h(x, y) = 1 11(2 x + y)

して正確であるかどうかに起因する。文の内容が正確であることを、事象の正確性と呼ぶ。
本研究では、抽象化された文の事象が正確であるときには、その抽象化先候補が、類似の事象が生じてい

ただし、るエンティティ同士で共通して候補になっていると考P event (a)える。上の例では、(1)（a を抽象表現に持つ類似事象エンティティの数）=(4) Malaria is a major health problem in Tanzania.という、材料文と類似の事象について表す文が存（a を抽象表現に持つ全エンティティの数）,Revent (a)（a を抽象表現に持つ類似事象エンティティの数）在することが、候補 (A) の適切さを担保している。

=（全類似事象エンティティの数）“Tanzania” は 、(A)“developing countries” だ が 、(B)“Southeast Asian countries” ではない 2 。

を表す。α は重み付け定数である。α を 1 よりも大き本手法では、材料文で述べられている事象と類似のくするほど、Revent (a) を重視するようになる。すなわ

事象が生じている複数のエンティティを比較し、各エち、より多くの類似事象エンティティが含まれる抽象ンティティに対して複数存在する抽象化先候補の共通概念に対してより高い評価が与えられるようになる。

度から正確性を計算し、対象の事象が生じる特徴の強

表 1 に、文 (3) における “Myanmar” の抽象化にい候補を選択する。 そのために、候補である抽象概対する、各抽象化先候補の正確性評価計算結果を示念に属するエンティティの集合が、材料文で述べられす。セル内の○印は、該当列のエンティティが該当行ている事象と類似の事象の生じているエンティティをの表現を抽象化候補として取りうることを示していどれだけ含むかによって正確性を評価する。多く含むる。表の最下行は、該当列のエンティティが類似事象ほどその抽象化先は評価が高く、また、その割合が大エンティティであるかどうかを表している。表の最きいほど評価が高い。

右列は評価計算結果を表す。ここでは、α = 1 とし、2 Wikipedia より“developing countries” に対して最高スコアの 1.0 が、“humid countries” に対して次点の 0.8 がそれぞれ与えられている。

― 203 ―

Copyright(C) 2015 The Association for Natural Language Processing.
All Rights Reserved.

表 1: 正確性評価の概要。h(a, b) は、a と b の調和平均を表す。
抽象化先候補 / エンティティ
developed countries
developing countries
humid countries
Southeast Asian countries
several countries
類似事象が抽出されたかどうか

Myanmar

Tanzania

○
○
○
○
●

○
○

Japan
○

Italy
○

Finland
○

○

○

○

○
●

○

スコアh(1 ∗ 0/3, 0/2) = 0.0h(1 ∗ 2/2, 2/2) = 1.0h(1 ∗ 2/3, 2/2) = 0.8h(1 ∗ 1/1, 1/2) = 0.67h(1 ∗ 2/5, 2/2) = 0.57

とおり、各エンティティに対して、各 5 通りの抽象化候
表 2: 実験に用いた各エンティティの抽象化候補。各列にエンティティとその抽象化候補を示す。
Myanmar
Myanmardevelopingcountries
humidcountries
Asian countries
severalcountries

Singapore
Singaporedevelopedcountries
island countries

penguins
penguins
south polar animals
seabirds

Asian countries
severalcountries

polar animals
several animals

補を準備した。その候補を抽象化先として持つ他のエンティティの情報は、Wikipedia を参照して整備した。
たとえば、“developing countries” には、“Myanmar”,“India” 等が含まれる。
また、具体的な事象に付随する情報であるものとして、日付・時間表現を表す句や、数量を表す句、発話文における発話者と発言動詞、等は削除した。なお、
類似検索は Gigaword コーパスを対象に上位 500 件とし、α = 20.0 とした。

2.3

本実験では、正確性評価の上位 2 候補から論題関連論題との関係性の評価性評価の高い一方を最終的な抽象化先として選択した。

論題の内容によっても、適切な抽象化先が異なる。
節 2.2 では、事象の正確性から、文(3) Malaria is a major health problem in Myanmar.

3.2

結果の “Myanmar” に対して “developing countries” と

表 3 に提案手法による文の抽象化の結果を示す。各“humid countries” の両方の候補に高い評価値が与え文において、“Myanmar” には “developing countries”られている。

が、“Singapore” には “several countries” が、“pen-ここで、論題が「経済援助を進めるべきである」とguin” には “polar animals” が、置換先に選択された。

いう内容であったとき、論題に関わりの深い方向へ抽象化するべきと考えられる。この例では、キーワード「economy」と関連度の高い “developing countries” の4方が “humid countries” よりも適切である。

考察
文の抽象化という目的のためには、本研究で対象と本手法では、論題中のキーワードと抽象化先候補間の WordNet [1] のグラフ上の距離を関連度とする。こしたエンティティの抽象化先候補選択の問題の外にも、いくつか越えなければいけないハードルがある。の関連度を論題との関係性の評価値として用いる。

まず、抽象化の対象を選択するところに問題がある。
本研究では議題のキーワードと同義の語は抽象化の対

3

実験

3.1

実験設定

象から外しているが、不十分である。

(5) . . . the fight against smoking “is extremely important because diseases and deaths caused bysmoking by far outnumber those induced by
AIDS, tuberculosis and malaria combined.”. 6

英文新聞記事のコーパス Gigaword [5] から選択した数文に対して、提案手法による抽象化を行った。なお、固有表現抽出には Stanford Core NLP [4] を用いたが、一部の固有表現に対しては手動で指定した。

議題が「smoking」の場合でも、固有表現 “malaria”は抽象化の対象とするべきではない。

エンティティとそれらの抽象化先候補は、本稿では人手で作成した。実験で用いる材料文のうち、置換対象の固有表現に関する抽象化候補を表 2 に示す。表の― 204 ―3 ⃝1995–2010c
Xinhua News Agency

4 ⃝1994–2010c
The Associated Press

5 ⃝1994–2010c
Agence France Presse6 ⃝1995–2010
cXinhua News Agency

Copyright(C) 2015 The Association for Natural Language Processing.
All Rights Reserved.

表 3: 実験結果例。材料文は [5] より引用。
論題

材料文

生成文

economyMalaria epidemic situation remains normal in
Myanmar. 3

Malaria epidemic situation remains normal indeveloping countries.

smoking

By Oct. 1 Singapore will ban smoking in bus
shelters and depots public toilets swimming
complexes stadiums and community clubs. 4

Several countries ban smoking in bus shelters and depots public toilets swimming complexes stadiums and community clubs.

environmentalproblems

Global warming threatens penguins. 5

Global warming threatens polar animals.

また、数値表現の抽象化も必要である。

(6) Malaria Kill 90 people in Central Kenya.

辞書は、各抽象化先候補間の階層関係の情報を持たない。代わりに正確性評価式において各概念を抽象化先

6

ここでは、文脈において 90 people が多いのか少ないのかを判断し、適切な形容詞に置換する必要がある。
複数のエンティティの対比関係を捉えた抽象化が必要なケースもある。

(7) Thailand has handed drugs and pesticides to
Myanmar in an attempt to eradicate malaria

候補にもつエンティティの総数を用いることで、エンティティを過剰に含む抽象化先が選ばれることを防ぐ、すなわち、概念階層を上に上がりすぎることを防いでいる。

謝辞
本研究を進めるにあたり、共同研究先である東北大from border areas. 6

学の乾健太郎教授には技術的な議論を通して、貴重なは、以下のように抽象化したい。

(8) Countries has handed drugs and pesticides tothe neiboring countries in an attempt toeradicate malaria from border areas .
議題に特に関わりの深い特徴を残して抽象化することが議論文生成のために有用であるような例もある。

(9) Brown & Williamson executives were “mostcertainly aware” that smoking caused disease. 7
は、次のように元のエンティティの特徴を明示したい。

(10) Even tobacco companies’ executives were“most certainly aware” that smoking caused disease.

5

関連研究
自動要約の分野において抽象化の取り組みがある。

[3] では、WordNet を用いて複数の概念からの一つの概念への統合を行っている。同一文中における具体的な概念の組合せに応じて抽象化先を決めている点で本手法とは異なる。また、プライバシー保護の分野においても、具体的な情報を伏せるために名詞を抽象化する研究がされている [2]。

WordNet を用いる手法では、概念階層を上に登り、共通する概念を置換先として抽出している。つまり、概念辞書の階層の情報を用いている。本研究で用いる
7 ⃝1994–2010c
New York Times

ご意見を頂きました。感謝いたします。

参考文献[1] George A. Miller. WordNet: A Lexical Database forEnglish. In Communications of the ACM, Vol. 38,
pp. 39–41, 195.
[2] Yeye He and Jeﬀrey F. Naughton. Anonymization of
Set-valued Data via Top-down, Local Generalization.
Proceedings of the VLDB Endowment, Vol. 2, No. 1,pp. 934–945, 2009.
[3] Eduard Hovy and Chin-Yew Lin. Automated Text
Summarization in SUMMARIST. In Proceedings ofthe ACL Workshop on Intelligent Scalable Text Summarization, pp. 18–24, 1997.
[4] Christopher D. Manning, Mihai Surdeanu, JohnBauer, Jenny Finkel, Steven J. Bethard, and David
McClosky. The Stanford CoreNLP natural language
processing toolkit. In Proceedings of the ACL 2014:
System Demonstrations, pp. 55–60, 2014.
[5] Napoles, Courtney, Matthew Gormley, and Benjamin Van Durme. Annotated English Gigaword
LDC2012T21. Philadelphia: Linguistic Data Consortium, 2012.
[6] 柳井孝介, 柳瀬利彦, 三好利昇, 丹羽芳樹, 佐藤美沙. ディ
ベート人工知能のためのアーキテクチャ. 第７回 データ指向構成マイニングとシミュレーション研究会, 2014.
[7] 三好利昇, 佐藤美沙, 柳井孝介, 柳瀬利彦, 丹羽芳樹. ディ
ベートでの立論材料文検索における論点選択方法. 第７回 データ指向構成マイニングとシミュレーション研究会, 2014.
[8] 柳瀬利彦, 三好利昇, 柳井孝介, 岩山真, 丹羽芳樹. ディベートの意見文章生成のための分散表現を用いた文の並び替え. 第７回 データ指向構成マイニングとシミュレーション研究会, 2014.

― 205 ―

Copyright(C) 2015 The Association for Natural Language Processing.
All Rights Reserved.