係り受け関係の被覆に基づく重要文抽出法
岡崎直観 †松尾豊‡

石塚満†

†‡

1

東京大学大学院情報理工学系研究科
産業技術総合研究所サイバーアシスト研究センター

はじめに

2

文の情報断片日常生活の様々な場面で要約が活用されている．新

人間は文の意味を解釈し，その解釈に基づいて文章聞記事の先頭に付いている見出し，Web ページのタイ中で重要な箇所を言い当てることができる．計算機も，トルやその概要を記述する RSS (RDF Site Summary)，文章の意味を解釈して何らかの内部表現に変換し，そ論文のアブストラクトなど，情報の発信者が自ら要約の内部表現に基づいて重要な箇所を決定できれば理想を作成するのはその典型例である．しかし，このよう的である．計算機で文の意味を扱う内部表現としては，な構造化が施されていない文書も多く存在し，仮に構

格文法 [2] や GDA (Global Document Annotation) [3]造化されている文書であっても，ユーザ（文書の読者）などがあるが，本研究では構文解析による係り受け関は新聞のヘッドラインよりも詳細にわたる要約が欲し係 [4] から文章の内部表現を作成する．

いなど，要約の質や量がユーザの望むものと合致しな文を単語ペアによる内部表現に変換する手順を，図いことがある．さらに，ユーザが意図的に収集した複1 を用いて説明する．まず，要約対象の文書を文単位に区切り，構文解析器を用いて文の構文木表現を得る．
次に，構文木から係り受け単語ペア（係りの向きは無視する）を取り出し，文を単語ペアの集合表現に変換する．このとき，格助詞や「ある」「こと」などの単語はストップワードとして除去する．図 1 の例では，入力文を 7 個の係り受け単語ペアで表現している．

数の文書を要約する場合は，横断的な情報の整理が必要であるから，情報を利用する側が要約を作成しなければならない．
文書自動要約研究 [1] は，大量の文書の中からユーザにとって有用な情報を厳選し，ユーザに提供すべき要約を計算機を用いて作成することを目標としている．
中でも，元文書の中から重要と思われる箇所を計算機

このように抽出した係り受けペアは，それぞれ「ニで推定する重要文抽出法は，ほとんどの文書自動要約ュートリノは素粒子だ」「ニュートリノは質量を持つ」

システムで中心的役割を果たしている．我々は，文が幾「ニュートリノを確認する」「質量を確認する」「東大つかの情報断片から構成されていると考え，どの情報宇宙線研究所は日米共同観測グループだ」「日米共同断片がユーザーにとって重要で，どの情報断片がユー観測グループは確認する」「先週確認する」と書き下ザにとって不要なのかを考慮しながら，重要文集合をせる．これらは，元の文が伝えようとしている意味を得る手法を提案する．文が保有する情報断片の推定に断片的に表現しているが，図 1 の係り受けペアをこのは，文の係り受け構造を利用する．提案手法はユーザように書き下せるのは，単語間の関係を人間が補完しが必要としている情報断片を多く含む文を出発点とし，ているからであり，係り受けペアだけで単語間の意味すでに要約に取り込まれた情報断片を考慮しながら，的な関係を明らかにするわけではない．しかし，計算次に抽出すべき文を選ぶ．提案手法の特色として，ユー機が単語間の関係の意味を解釈できなくても，文の書ザが欲しい情報を中心に要約を作成すること，抽出しき手は係り受けペアの単語と単語を結び付けて読者にた文の内容の纏まりを考慮すること，冗長な情報をで伝えようとしているので，このように抽出した係り受きるだけ省略することなどが挙げられ，複数文書向けけペアを文の情報断片と呼ぶことにする．の文抽出法としても応用可能である．

要約対象の文書に含まれるすべての文を情報断片で⚛☸ሶ䊆䊠䊷䊃䊥䊉䈭䈡䊆䊠䊷䊃䊥䊉⾰㊂᦭ή䈭䈡ಽ䈎䉎ᢥ㪈㪇㪅㪏㪎㪈㪇㪅㪊㪏㪎㪇㪅㪈㪏㪎

㪇㪅㪇㪏㪏

㪇㪅㪇㪇㪇

ᢥ㪉

㪇㪅㪉㪎㪎

㪇㪅㪇㪇㪇

㪇㪅㪇㪇㪇

㪇㪅㪇㪌㪋

㪇㪅㪊㪉㪉

ᢥ㪊

㪈㪅㪉㪈㪌

㪇㪅㪇㪇㪇

㪇㪅㪋㪎㪊㪇㪅㪇㪇㪇㪇㪅㪇㪇㪇㪇㪅㪇㪇㪇㪇㪅㪇㪇㪇㪇㪅㪇㪇㪇㪇㪅㪇㪇㪇㪇㪅㪇㪇㪇⚛☸ሶ‫⾰ߦޠࡁ࡝࠻࡯ࡘ࠾ޟ‬㊂߇޽ࠆߎߣࠍ᧲ᄢቝቮ✢⎇ⓥᚲߥߤߩᣣ☨౒ห᷹ⷰࠣ࡞࡯ࡊ߇వㅳ⏕⹺ߒߚ㧚㧝㧚᭴ᢥ⸃ᨆ⚛☸ሶ‫ߦޠࡁ࡝࠻࡯ࡘ࠾ޟ‬㵺㵺㵺㵺⚿⺰⊒⴫㫅ⴕ㵺㵺⾰㊂߇ᢥ㫅޽ࠆ㫄೉ߎߣࠍ
᧲ᄢቝቮ✢⎇ⓥᚲߥߤߩ図 2: 文–情報断片行列の例

ᣣ☨౒ห᷹ⷰࠣ࡞࡯ࡊ߇వㅳ⏕⹺ߒߚ㧞㧚ᖱႎᢿൻ࡮㊀ߺઃߌ‫☸⚛ ޓ‬ሶ‫ޓࡁ࡝࠻࡯ࡘ࠾ޓ‬‫⾰ޓࡁ࡝࠻࡯ࡘ࠾ ޓ‬㊂‫ޓ‬‫ޓ⹺⏕ޓࡁ࡝࠻࡯ࡘ࠾ ޓ‬‫⾰ ޓ‬㊂‫ޓ⹺⏕ޓ‬‫᧲ ޓ‬ᄢቝቮ✢⎇ⓥᚲ‫ޓ‬ᣣ☨౒ห᷹ⷰࠣ࡞࡯ࡊ‫ޓ‬‫ ޓ‬ᣣ☨౒ห᷹ⷰࠣ࡞࡯ࡊ‫ޓ⹺⏕ޓ‬‫ ޓ‬వㅳ‫ޓ⹺⏕ޓ‬

列 W （n 行 m 列）を作成する：(Si における ci の重み
wij =0(ci ∈ Si )． (1)(ci ∈/ Si )文–情報断片行列の例を図 2 に示した．
このように表現された文–情報断片行列 W を使って，制限文字数 L 以内で重要文を抽出する方法を考える．
すなわち，文書 D から最も重要と思われる（以下の f

図 1: 係り受け構造から情報断片（単語ペア）への変換を最大化する）文 Si を一つ選び：

f = argmax[weight(Si , W, E)]，(2)

Si ∈D\E

表現すると，ある文を抽出するという操作によって，どの情報断片を読者に伝えたことになるのか把握できる．さらに，それぞれの情報断片に重要度（重み）付与すれば，どの文が重要な情報断片を保有しているのか調べ，そのような文を優先的に抽出することができる．今回は係り受けペアの単語の tf*idf 値の相乗平均を情報断片の重みとし，文を単語ペアとその重みの集合で表現した．

選んだ文を要約文集合 E に加えるという操作を，要約文字数の制約条件：

X

length(Si ) ≤ L(3)

Si ∈Eが成立している間繰り返す．ただし，weight(Si , W, E)
は文 Si の重要度を決定する関数である．
重要な情報断片を多く含む文は，やはり重要な情報を伝達する文であるから，文が保有する情報断片の重み

3

情報断片の被覆に基づく文抽出
文が情報断片とその重みで表現されているとき，重要文抽出問題は，重要な情報断片を出来るだけ多く含の和を文 Si の重要度とするのは自然なことであろう：weight0 (Si , W, E) =mX

wij ．

(4)

j=1

む文の集合を決定する問題として以下のように定式化

この重要度関数 weight0 を用いて式 2, 3 を適用すると，できる．要約したい文書 D（複数の文書でもよい）が重要な情報断片を多く含む文から順番に抜き出す文抽n 個の文 {S1 , S2 , ..., Sn } で構成されており，文 Si の文字数を length(Si ) で表す．その文書 D に含まれる出になる．しかし，この抽出法は要約文集合 E 全体をすべての文を分析した結果，全部で m 個の情報断片

要約したい文書の性質によっては，抽出した文に類似{c1 , c2 , ..., cm } が見つかったとしよう．このとき，文する情報が含まれたり，特定の話題に偏って文を抽出

Si が保有する情報断片 cj の重み wij を何らかの方法で算出し，その重み wij を要素とする文–情報断片行してしまう恐れがある．あるクエリーで検索された文眺めたときの情報断片の重複を考慮していないため，書集合のように，要約したい文書が関連する複数の文¶³࿖㓙ടㅦེ⚿⺰␜ߔᤓᐕㅊ⹜࿾⃿Ꮒᄢ

文 1: ((A 1) (D 1))ᕈ⢻ࠛࡀ࡞ࠡ࡯

☸ሶ

⷏Ꮉ

⒖േ

᳓ᮏ

੍ቯടㅦദജ

੍᷹਎⇇࿾ਅ

文 2: ((B 0.8) (D 1))శㅴዷ⸽᣿ᧄᩰ୚
ㅢㆊ

文 3: ((C 0.5) (D 1))

⸽᜚↢ߓࠆ

Ꮺ߮ࠆ
〡ߨࠆㆊ߉ࠆ႐ว
㜞ࠛࡀ࡞ࠡ࡯ടㅦེ⎇ⓥᯏ᭴⸳⟎

文 4: ((A 1) (B 0.8))ᄌ߃ࠆ೎ᯏེ⚛ㅢࠅ౉኿߁߆߇߁⛉ࠆ↱᧪వⴕµ´⹶ࠆߊࠅᛮߊḩߚߔ߹ߣ߼ࠆ

ห⒳✂฽߻⋡⊛ⴕ߁ࠬ࡯ࡄ࡯⹏ଔ౞╴ෳടⴕߊ⏕⸽⸃ᨆ⏕߆߼ࠆⵣઃߌࠆ࠻࡝ࡁ⷗߃ࠆ⚿ᨐ ᣣ⥄ὼ

書の場合は，類似の情報を多く含む傾向があるため，

ᄞ⷗ࠆᜬߟ⒳㘃಴ࠆᩉ↰ᚑഞᰴ╙ផቯࠠࡖ࠶࠴ ೔㆐ᢎ⑼ᦠ
⿠߈ࠆ࠲࠙࠾ࡘ࡯࠻࡝ࡁࡒࡘ࡯࠾ࡘ࡯࠻࡝ࡁ⋧੕㐿௅୯㘧᧪⺞ߴࠆᒻᚑ㘧߫ߔಽ߆ࠆ‛⾰ᢙ㆑޿ၮ✢‛ℂᛠីℂ⺰ീᚭႦᚲ㐳᜸ᚢో૕㆐ߔࠆ㜞ጊᏒ㔌ࠇࠆ⾰㊂࠾ࡘ࡯ᵗੑⷒߔ⋡ᜰߔ⊒శ㔚ሶ౒ห☨࿖࠰ㅪන૏᠄ߜㄟ߻๭߱ታ㛎ੱᎿⵝ⟎⚛☸ሶᝄേ⎇ⓥᚲ
ቝቮߥߙ᧲ᄢᄌࠊࠆ૞ࠆߢ߈ࠆ ♖ᐲ৻ߟ☨ᢎ᝼ⵣ஥᦭ήᬌ಴᷹ⷰࠣ࡞࡯ࡊᄌൻᦨೋ⊒኿⃻⽎੹࿁㧠᦬⚻ࠆᛂߜㄟ߻ᵈ⋡ࡒࡘ࡯૶߁♖ኒ᳿߹ࠆ೨ឭ᷹ቯ ሽ࿷⊒↢⎇ⓥ࠺࡯࠲ขࠅ⚵߻ጘ㒂ᄢ᳇ࠬ࡯ࡄ࡯ࠞࡒࠝࠞࡦ࠺⊒⴫ᓧࠆ፣უ⇣ߥࠆႎ๔⏕⹺޿ߊࠄะߌࠆᆎ߹ࠆ␹ጟ

෻ᔕ৻⒳ㅢࠅᛮߌࠆ㐿ᆎ୥⵬೎⒳࠲࠙ᄥ㓁್ቯ᡼಴ᭂᓸ↢ᚑ኿᠄⊒⷗

図 3: 探索的に文抽出を行ったほうが良い例

㘧߮ㄟ߻೑↪
ᄤὼ ⓭߈ᛮߌࠆߟߊ߫ඨಽᣂߚ⃻࿷ਇ᣿⛯ߌࠆᚑᨐ⷗⋥ߒ᭴ᚑ᭴▽ਛ⸃᣿ᬌ⸽ࠛࡀ

ࡏ࡞࠻⒳ᒻೋ߼⺑᣿ᮡḰᜰ៰

この抽出法では不十分である．

␜ໂᆎ߼ࠆઁએ᧪ᯏ᭴ᚑࠅ┙ߜ᧪ࠆㅦᐲ᫃↰ᱧผ㓉┨ഥᢎ᝼ᣣᧄㇱಽ⠨߃ࠆ⋥ᓘ߱ߟ߆ࠆ࠳࡯ࠢࡑ࠲࡯ᓇ㗀⹤ߔⴣ⓭ 㘧߮࿁ࠆᄢဳᥧ㤥޿ߊߟ߆᳓⿠ߎߔ ߆߆ࠆ

受け手にとっては既知となり，その情報断片の重要度⨙ၔ᳞߼ࠆࠃࠆ

情報断片はいったん伝達してしまうと，その情報が

᭴ㅧ⤘ᒛ

࠼ࠗ࠷

㒠ࠅᵈߋ

ౣ⠨ㅴൻᣇะࡆ࠶ࠣࡃࡦᏀฝࠪ࠽࡝ࠝ

῜⊒లḩ

ၮᧄ

ᐢ߇ࠆ

ಽഀ

は減少すると考えられる．すでに要約文集合 E の中で述べられた情報断片の重要度を減少させるために，文

ା㗬

⑼ቇ

ේሶᩭ

Si の新しい重要度関数 weight1 (Si , W, E) を導入する：
weight1 (Si , W, E) =mX

図 4: 情報断片行列のグラフ表示（一部）

novel(ci , E) · wij ． (5)j=1

ここで，novel(ci , E) は情報断片 ci の要約文集合 E に対する目新しさを表す関数で，簡単のため次のように定義する：(0 (ci が E に含まれている場合)．
1 (ci が E に含まれない場合)(6)
つまり，式 5, 6 は要約文集合 E で述べられている情報断片の重要度を以降 0 として，新たに抽出する文の重要度を計算するという意味である．この重要度関数を利用して式 2, 3 で文抽出を行うと，すでに要約に含めた情報断片の重要度は 0 となるため，要約に含められた情報断片を含む文よりも，新しい情報断片を含む文が有利となる．ゆえに，冗長な情報を持つ文を抽出す的に決めるべきできであるから，式 2 による抽出を探索問題に変形する：

F = argmax
E⊆DX[weight(Si , W, E)] ．

(7)

Si ∈Enovel(ci , E) =る代わりに，新しい情報を持つ文が優先的に選ばれるようになる．
この重要文抽出法を利用する際には，いくつか有用

ただし，F を最大にする E を求めるのは困難であるので，実際には準最適解を求めることになる．
その他の変形として，あるノードを展開（ある文を選択）した後，その文が保有する情報断片に関連する情報断片 1 の重みを一時的に高く評価し，次に抽出する文の重要度を計算することで，抽出した文集合の内容的な纏まりを改善することが考えられる．また，クエリー等からユーザの知りたい内容が推定できるときは，探索の出発点をクエリーを含む文に限定し，ユーザが欲しい情報を中心に要約を作成するように変形することも可能である．

な変形が考えられる．例えば，図 3 に示すような情報断

図 4 はノードを単語，エッジを係り受け関係として

片 A, B, C, D から構成される４つの文があり，ここから情報断片行列を可視化したものである．提案手法は図２つの文を抽出することを考える．重要度関数 weight1

4 のエッジの中で重要なものを出来るだけ多く被覆すを用い，式 2 を適用して文を１つずつ抜き出すと，まるように文を抽出する手法と捉えてもよい．図 4 からず文 1 が選ばれ，次に文 2 または文 4 が選ばれ，文の重要文抽出を行い，要約文の中に取り込まれた情報断重み和は 2.8 となる．しかし文 3 と文 4 を選べば，す片は実線で示した．

べての情報断片が抽出文に含まれ，文の重み和も 3.3と改善される．このように，抽出する文は組み合わせ

1 情報断片同士の関連性の推定として，例えば同じ語を共有しているならば関連性を認めるなどの方法が考えられる．

ࠪࠬ࠹ࡓ

内容が優れていると言える．提案手法はいずれの要約

ឭ᩺ᚻᴺ

ੱᚻߦࠃࠆ
ⷐ⚂

.'#&ᚻᴺ㧔ࡌ࡯ࠬ㧕

ࠪࠬ࠹ࡓ
ᐔဋ

UJQTV

0.230

0.385

0.160

0.210

長でも LEAD 手法よりも圧倒的に優れており，参加シNQPI

0.248

0.402

0.1590.243

ステムの平均よりも若干良いという結果が得られた．

ⷐ⚂㐳

表 2 は，１つの要約の中で内容の重複が認められる
表 1: 要約の内容の評価文の数の平均を示したものであり，値が小さいほど冗長な内容を含まないことを示す．要約文字数が大きいࠪࠬ࠹ࡓឭ᩺ᚻᴺ

ੱᚻߦࠃࠆⷐ⚂.'#&ᚻᴺ㧔ࡌ࡯ࠬ㧕

ࠪࠬ࠹ࡓ
ᐔဋ

UJQTV

0.067

0.033

1.500

0.458

NQPI

0.167

0.033

2.833

0.725

ⷐ⚂㐳

ときは，重複内容を取り込んでしまう可能性が高まる
が，それでも提案手法は１つの要約あたり 0.167 文しか冗長な内容を抽出しない．

表 2: 1 要約に含まれる内容重複文の数

54

結論
文の係り受け関係に基づいて文書を情報断片で表現評価し，重要な情報断片を多く取り込むような文集合を求提案手法による重要文抽出法を組み込んだ自動要約

める最適化問題によって重要文抽出を行う手法を提案システムを構築した．構文解析器として CaboCha [5]した．TSC-3 での評価では，提案手法は LEAD 手法よを用い，式 7 による抽出文の探索には，各ノードにおりも優れており，内容の重複の少ない重要文抽出を実2ける分枝数を 3〜10 個 に設定した最良優先探索を用現しているが，重要な情報断片の推定に改善の余地がいた．国立情報学研究所情報学資源研究センターの支残されている．今後は，係り受け関係のラベルを活用

援により開催されているワークショップ NTCIR-4 のテする方法や，重みの算出方法の改良を通じて，精度向キスト自動要約タスク TSC-3 [6] に参加し，そのテス上に努めたいと考えている．

3

トコレクション を用いて提案手法による自動要約システムを評価した．我々のシステムの詳細，TSC-3 のテストコレクションや評価方法の詳細に関しては 2004

謝辞

年 5 月に予定されている NTCIR の成果報告会，もしく

本研究にあたっては，NTCIR-3, NTCIR-4 のテキスト自動要約タスク TSC-2, TSC-3 のテストコレクション（毎日新聞記事データ，読売新聞記事データ）と評価データを用いました．

は会議論文集を参照していただきたい．また，紙面の都合で作成された要約例の掲載を省略するが，TSC-3
では参加システムが作成した要約の公開を検討中とのことなので，併せてそちらも参照していただきたい．

TSC-3 はシステム要約を約 20 個の評価尺度で評価するが，ここでは，被験者が重要文抽出の性能を評価する「内容のスコア付け」と「重複内容の文数」の結果を示す．提案手法の結果のほかに，人手で作成した要約，LEAD 手法（ベースラインシステム）による要約，人手とベースラインシステム，提案手法を除く参加システム全体の平均の評価を比較のために載せた．表 1
は TSC-3 による内容の評価 4 であり，値が大きいほど2 探索時間が長くなりすぎないように，展開回数は探索空間の広さ（要約の長さ）に応じて自動調節する．
3 30 件の要約対象文書集合で構成され，参加者は指定された長短2 種類の要約を作成する．
4 評価者が自分の作成した要約とシステム要約との間で文対応付けを行い，そのスコア（対応度合い）に基づく要約の評価である．
ただし，評価者が作成した要約に含まれる文には重要度のランクが付与されているのでそれも考慮して最終的な評価値を決定している．

参考文献[1] 難波英嗣, 奥村学. ここまで来たテキスト自動要約. 情報処理, Vol. 43, No. 12, pp. 1287–1294, 12 2002.
[2] Charles J. Fillmore. The case for case. Universals in Linguistic Theory.
[3] Katashi Nagao and Koichi Hasida. Automatic text summarization based on the global document annotation. In
Proc. of COLING-ACL ’98, Montreal, Quebec, Canada,Aug. 1998.
[4] 立石健二, 大庭直行, 峯恒憲, 雨宮真人. 係り受け情報を利用した web 上の日本語テキスト検索システム. 研究報
告「デジタル・ドキュメント」, No. 13, pp. 47–54, 1998.
[5] 工藤拓, 松本裕治. チャンキングの段階適用による日本語係り受け解析. Vol. 43, No. 6, pp. 1834–1842, 2002.
[6] Text Summarization Challenge Home Page.
http://www.lr.pi.titech.ac.jp/tsc/.