DEIM Forum 2017 F3-1

異なる統計モデルを用いたニュース記事からの重要箇所の抽出
皿海

宏明†

湯本

高行††

† 兵庫県立大学大学院工学研究科 〒 671-2201 兵庫県姫路市書写 2167†† 兵庫県立大学大学院工学研究科 〒 671-2201 兵庫県姫路市書写 2167
E-mail: †ei16c004@steng.u-hyogo.ac.jp, ††yumoto@eng.u-hyogo.ac.jp
あらまし

ニュース記事から重要箇所を抽出するために異なる統計モデルを用いて語の単位での重要かどうかを推定する手法を提案する．本論文では重要かどうかを抜粋のされやすさとし， SVM を用いて異なる３つの統計モデルを特徴量とし重要かどうかの推定を行う．モデルには DF を用いたコレクションにおける出現確率が低いものを高く評価するモデル，LDA を用いた入力文章のトピックに沿った語を高く評価するモデル，格フレームを用いた述語に対して頻出する項の格の語を高く評価するモデルを使用する．TF-IDF を用いるモデルをベースラインとした評価実験の結果，本手法の有用性を示すことができた．
キーワード

テキストマイニング, 文書要約, LDA, 格フレーム, SVM

1. は じ め に
近年，インターネットによるニュースの提供は広く普及して的な重要箇所の評価が可能な IDF と日本語らしさの評価が可能な統計的言語モデルの N-gram を組み合わせることで文を不自然でない意味を持った文に短縮している．本研究では重要箇いる．ユーザーは情報の取捨選択を行うことが求められている．

所の抽出に DF を用いたモデルを使用している．畑山ら [4] のユーザーがネットのニュース記事の情報を効率よく扱う技術の研究では格フレーム辞書を用いて語句単位での重要箇所を抽出一つとして重要箇所の抽出がある．本研究は重要箇所を抽出す

し，再構成して要約文を生成している．本研究でも重要箇所のることにより、ユーザーのテキストの把握を容易にする．本論

抽出に格フレームを使用しているが，本研究では格の種類ごと

文では抜粋されやすい語は重要であると仮定し，重要かどうかの出現確率に注目している点で主語や目的語の抽出を行っていの定義を抜粋のされやすさとする．重要箇所かどうかは人手にるこの研究と異なる．

よって抜粋されたかどうかで決定する．文節単位での重要かど
うかの推定は，文単位での重要かどうかの推定より含まれる形

3. 提 案 手 法

態素の手がかりが少ないため，単純な頻度を重要視する手法で本研究では，重要箇所を抽出する問題を，文節を重要か否か

は精度が悪くなると考えられる．そこで文節の持つ格フレームの 2 値に分類する問題として扱う．我々は文節の統計的な重要を手がかりとするアプローチを入れることによってよりよい推性について以下の 3 つの観点に注目する．まず，1 つ目はコー定を行えるのではないかと考える．また，記事にはトピックがパス全体での語の出現状況である．2 つ目は関連するトピック

存在するとしたとき，そのトピックに頻出する語というのは重における語の出現状況である．3 つ目は文法上の共起関係であ要かどうかの推定の手がかりになるのではないかと考える．文る．本研究では述語と項の共起関係に注目する．これらは表 1単位での TFIDF モデルを用いて記事中の頻度とコーパス上のに示すようにそれぞれ重要視する点が異なるため，どれか 1 つ

逆頻度より重要かどうかを推定する従来手法と比べ，本手法でを選択するよりも組み合わせて使用することが有効であると考は文節単位でのコーパス上の語の出現確率モデル (DF モデル)，

えている．そこで本研究では，それぞれの観点に基づく指標を

記事のトピックごとの語の出現確率 (LDA モデル)，述語に対素性とする SVM により分類器を構築する．

する項の格の共起確率 (格フレームモデル) より重要かどうかを決定することで，より多角的な統計的確率を元に重要かどうかの推定を行う．提案した統計モデルの指標をより推定に反映

表1
特徴

DF

入力文章に依存せず，一 希少性させるため，重要かどうかの推定は各モデルの指標を特徴量として SVM [1] を用いて行う．

2. 関 連 研 究
重要箇所を抜粋されやすい語としているため，文書要約を関各モデルの特徴と重要視する点

モデル重要視する点

般語を判断する．

LDA

入力文章のトピック語を トピックへの関連性判断する．

格フレーム 述語と項の関係において述語にとっての必要性

頻出する語を判断する．

連としている．Zechner [2] の研究では文の重要かどうかを含まれる語の TFIDF の重みの総和とする重要文抽出を行っている.

3. 1 DF を用いたモデル

本手法のベースラインはこの研究を参考にした．堀内ら [3] のDF を用いたモデルによってコレクションに頻出かどうかを研究では IDF と N-gram を用いた文短縮を行っている．意味求める．DF を用いたモデルによる手法を示す．コーパスを形

態素解析し，記事ごとの動詞，名詞，形容詞，副詞を文書コレ

表2

入力文章のトピックごとの LDA モデルの指標の違いA

クション C とする．入力文を形態素解析し，動詞，名詞，形容詞，副詞を入力語集合 S とし，含まれる語 w についてそれぞれ指標を算出する．複合語など，文節に対象となる複数の語が

場所

B

語

横綱

相撲

震災

横綱

原発

指標

0.012 0.031 0.009 0.000 0.000 0.033 0.011 0.011

稼働

震災

含まれる場合は，含まれる語の評価値を，抜粋時に用いた文節
単位で積をとる．語 w についての DF を用いたモデルの指標

ピックである B では指標が高くなり，「横綱」も自身のトピック

ScoreDF (w) を求める式を以下に示す．

である A では指標が高くなっている．以上より，LDA を用いたモデルの指標は入力文章のトピックに依存し，入力文章と同ScoreDF (w) = P (w|C) =DF (w, C)|C|

じトピックの語は高い指標がつくことが分かる．

3. 3 格フレームを用いたモデル

P (w|C) は語 w が文書コレクション C の文書に出現する頻格フレームを用いたモデルによって述語に対して頻繁に共起度を C に含まれる文書数で割ったものである．DF (w, C) は語する格であるかを求める．格フレームを用いたモデルによる手

w が文書コレクション C の文書に出現する頻度である．|C| は法を示す．コーパスを格解析し，述語について述語項関係で出C の文書数である．

現する項を格ごとにまとめ，格フレーム辞書とする．入力文を

3. 2 LDA を用いたモデル

形態素解析し，動詞，名詞，形容詞，副詞を入力語集合 S とし，

LDA [5] を用いたモデルによって入力文章のトピックに沿っ含まれる語 w についてそれぞれ指標を算出する．文節に対象とた語であるかどうかを求める．LDA を用いたモデルによる手なる複数の語が含まれる場合は，含まれる語の指標を抜粋時に法を示す．コーパスを形態素解析し，記事ごとに動詞，名詞，

用いた文節単位で積をとる．w が述語のときに対応する項集合

形容詞，副詞を文書コレクション C とする．これより LDA モ

を SEC(w) とする．w が項のときに対応する述語を pred(w)デルを作成し，形態素の出現確率をトピック集合 T の要素でとし，w の格は cf (w) と表す．語 w についての格フレームを用あるトピック t に対してそれぞれ求め，P (w|t) とする．入力文

いたモデルの指標 ScoreCF C (w) を求める式を以下に示す．なを形態素解析し，動詞，名詞，形容詞，副詞を入力語集合 S とお，述語に対して項の格が一意に決定するような述語，項は述し，含まれる語 w についてそれぞれ指標を算出する．文節に対語が一般的なものでないことが多いため考慮しない．

象となる複数の語が含まれる場合は，含まれる語の指標を，抜{粋時に用いた文節単位で積をとる．語 w についての LDA を用

ScoreCF C (w) =いたモデルの指標 ScoreLDA (w) を求める式を以下に示す．

ScoreLDA (w) = P (w|t)

P (cf (w)|pred(w))(w が項)

P (cf (SEC(w))|w)(w が述語)

P (cf (SEC(w))|w) =∏P (cf (w′ )|w)

w′ ∈SEC(w)P (w|t) は事前に求めているトピック t における語 w の出現確

P (cf (w)|pred(w)) は項 w と対応する述語 pred(w) における率とする．入力語集合をクエリとみなしたときのトピックに対するクエリ尤度 P (t|S) に基づいて最も適切なトピックと思わ

w の格の出現確率である．P (cf (SEC(w))|w) は w における述れる t を選択する．すなわち， P (t|S) が最大となる t を選ぶ．

語 w と対応する項集合 SEC(w) の格の尤度である．

P (t|S) =∏ ((1 − λ − α)P (w|t) + λ

w∈W

∑
t′ ∈T

P (w|t′ )

|T |

)
+α

格フレームを用いたモデルの例を示す．入力文章を「郵送で食品が届く」とする．格解析を行うと，「郵送で」はデ格，「食品が」はガ格，「届く」は述語だと分かる．それぞれの文節で格フ

P (t|S) のクエリ尤度を求める場合はパラメータ λ，α によっ

レームを用いたモデルによる指標を求める．
「届く」におけるデてマクロ平均スムージング，定数値によるスムージングをおこ格の出現確率は 0.04，ガ格の出現確率は 0.37 とする．

なう．マクロ平均スムージングだけでは，入力語集合に文書コ
レクション中に一度も出現しない語が一つでも含まれていると，

ScoreCF C (郵送) = P (デ格 | 届く) = 0.04

クエリ尤度の値がすべてのトピックに対して 0 になってしまう

ScoreCF C (食品) = P (ガ格 | 届く) = 0.37

ため，定数値によるスムージングを導入している．

LDA を用いたモデルの例を示す．入力文章が「横綱」「場所」「相撲」「震災」からなる A と「横綱」「原発」「稼働」「震災」

ScoreCF C (届く) = P ({ デ格, ガ格 }| 届く)= P (デ格 | 届く) × P (ガ格 | 届く) = 0.01からなる B があるとする．語の比率から A は相撲トピックの式より，「届く」に対する出現率の高いガ格の「食品が」がデ文章であり，B は原発震災トピックの文章であることが分かる．

格の「郵送で」より指標が高い．このことは「届く」にとってこの二つの入力文章に対して LDA の指標をとったものを表 2「郵送」よりも「食品」の方が重要であることを意味する。

に示す．

3. 4 SVM を用いたモデルの統合と重要性の推定

表 2 より，相撲トピックである A では異なるトピックの「震DF，LDA，格フレームを用いたモデルによって求めた指標

災」が指標 0 に，原発震災トピックである B では異なるトピッ

より重要かどうかの推定を行う．これらの指標に最適な重みをクの「横綱」が指標 0 となっている．また，「震災」は自身のト与えて重要かどうかを推定するために SVM を使用する．文節

ごとの各モデルの指標を特徴量，人手によって抜粋されたかど

表 3 提案手法及び各モデルの正解率とパラメータ提案手法

うかをクラスラベルとして SVM を用いて推定を行う．
gamma

4. 評 価 実 験

costaccuracy

4. 1 実 験 方 法

DF

LDA

CFC

TFIDF

1013

1015

1010

1014

1012

10

1

1

1

1

0.741 0.701 0.700 0.705

0.726

入力文章の文節に対して，DF，LDA，格フレームを用いたモデルによってそれぞれ指標を求める．コーパスは「CD-毎日
新聞データ集 2014 年版」と 2014 年版の「読売新聞記事デー
タ」のタイトルを除く本文のみ 10 万件とする．形態素解析には JUMAN，格解析には KNP，LDA モデルには Python のgensim ライブラリを使用する．
格フレーム辞書は，KNP によって「CD-毎日新聞データ集

2014 年版」と 2014 年版の「読売新聞記事データ」のタイトルを除く本文のみ 1 万件からなるコーパスを格解析し，述語と述語項関係を持つ項とその格を述語ごとにまとめることで構築す
る．格フレームモデルでは述語に対する項の格の出現確率を格
フレーム辞書より参照する．
入力文章は新聞のリード 20 記事とする．LDA モデルのト
ピック数 |T | は 50，λ は 0.2，α は 0.001 とする．入力文章の文節に対して，人手で 50 ％程度の抜粋を行い，抜粋されたか
図 1 10 分割交差検定の正解率の箱ひげ図

どうかをクラスラベルとする．モデルの指標を特徴量として，
データセットを作成する．LIBSVM により 10 分割交差検定を行う．グリッドサーチによりパラメータを決定した．ベースラ
インとして TFIDF モデルを用いて同様にする．個々のモデルの評価のためにモデルをそれぞれ単独で特徴量として使用した
場合も同様にする．

4. 2 TFIDF を用いたモデル
ベースラインの指標となる TFIDF を用いたモデルによる手法を示す．コーパスを形態素解析し，記事ごとに動詞，名詞，
形容詞，副詞を文書コレクション C とする．入力文を形態素解
析し，動詞，名詞，形容詞，副詞を入力語集合 W とし，含まれる語 w についてそれぞれ指標を算出する文節に対象となる複数の語が含まれる場合は，含まれる語の指標を，抜粋時に用いた文節単位で相加平均をとる．語 w についての TFIDF を用いたモデルの指標 ScoreT F IDF (w) を求める式を以下に示す．

ScoreT F IDF (w) = P (w|W ) × log

1
P (w|C)P (w|W ) は入力語集合 W 中で w が出現する確率である．
P (w|C) は w が文書コレクション C の文書に出現する頻度を

図 2 提案手法と TFIDF の正解率の散布図

C に含まれる文書数で割ったものである．
4. 3 実 験 結 果
表 3 に 10 分割交差検定の正解率の平均値，グリッドサーチにより決定された SVM のパラメータ gamma，cost を示す．図4 に 10 分割交差検定の正解率の箱ひげ図を示す．また，提案手法と TFIDF について詳細に比較するため図 2 に分割ごとの正解率の散布図を示す．
表 3 より LDA と提案手法の正解率が高く，ベースラインである TFIDF モデルと比較して抜粋された語をよりよく推定していることが分かる．また提案手法を構成する統計モデル３つはどれもベースラインを正解率の平均で超えていないので，組み合わせることで互いが補完的に推定を助けていることが分かる．
図 4 より提案手法はベースラインである TFIDF と比較して正解率の中央値が高いことが分かる．また提案手法と比較してDF，LDA，格フレーム (CFC) を用いたモデルは正解率のばらつきが大きいことがわかる．
図 2 より提案手法と LDA モデルを用いた手法の性能を比較する．提案手法と TFIDF の正解率の散布図の y = x の補助線より上の点は TFIDF モデルの方が提案手法より重要かどうり，傾向が類似していることが分かる．DF，LDA モデルの傾かの推定ができているデータである．補助線の上より下にある向が類似しているのは，どちらもある条件における語の出現確

データの数が多く，提案手法が優れていると言える．

率を指標としており，条件の部分が互いに独立でないためであ4. 4 考ると考える．

察

統計モデルを組み合わせた手法を提案し，ベースラインの性

5. 2 各モデルの特徴語

能を超えることは確認できた．しかし，統計モデル単体の精度評価実験の入力文章に用いたリード 20 記事のうちの 1 つにが低い．これは指標が確率的な値をそのまま用いており確率分

対して評価実験と同様に DF，LDA，格フレームを用いたモデ布の冪乗則などが考慮されていないためだと考えられる．LDA

ルの指標を求め，各モデルによる指標の上位に出現する形態素においては，具体的な指標の高い語を調べると，頻出する意味に注目して各モデルの特徴を掴む．表 4〜6 に各モデルの形態を持たない不要な語が多かった．これでは単体でトピックに関

素ごとの指標の平均値を求め，上位 20 件を示す．

連する語を適切に区別できない．しかし純粋に頻度のみをみる

DF の手法と組み合わせて差分からトピック語を区別することが可能になると考えられる．

表 4 DF モデルの特徴語

表 5 LDA モデルの特徴語

形態素

ScoreDF

形態素

する

0.00223

する

0.01844

午後

0.00120

魔0.01346

持つ

0.00098

連続

0.01346

みる

0.00089

男性

0.01125

男性

0.00073

県警

0.00974

同じだ

0.00060

署

0.00845

SVM によって語が重要かどうか推定し，正解と不正解の場合

車

0.00055

男

0.00737

で指標の傾向の違いを確認する．分析には，男性が市道で男に設置

0.00044

みる

0.00703

刺され死亡したという通り魔事件の記事を用いる．

男

0.00042事件

0.00481

病院

0.00040

柏0.00461

県警

0.00040

殺人

0.00344間

0.00038

午後

0.00335

数詞

0.00036

病院

0.00316

相次ぐ

0.00031

行方0.00238を比較する．第一主成分を横軸，第二主成分を縦軸として語を追う

0.00029

車

0.00225

プロットし，指標ごとの因子負荷量を矢印で図 3 に示す．

奪う

0.00025持つ

0.00148

けが

0.00020

犯

0.00145

行方0.00017

同一だ

0.00145

殺人

0.00014

数詞

0.00108

首

0.00013

刺す

0.00108

5. 具 体 例
新聞記事のリード 1 つに対して評価実験と同様に DF，LDA，格フレームを用いたモデルの指標を求め，傾向を比較する．各
モデルごとにどのような特徴語が得られるか確認する．また，

5. 1 指標の主成分分析
評価実験の入力文章に用いたリード 20 記事のうちの 1 つに対して評価実験と同様に DF，LDA，格フレーム (CFC) を用いたモデルの指標を求め，主成分分析を行い，各モデルの傾向

ScoreLDA

表 4 より DF モデルの指標は「男性」「車」など一般的な語に高い点を与えている．ただし，「する」などの特別に意味の無い不要語にも高い点を与えている．
表 5 より LDA モデルの特徴語は DF モデルの特徴語と比較して「県警」「殺人」など事件性のあるトピックに関連する語が上位に来ている．また，トピック内での出現確率であるため，

LDA モデルの上位の特徴語は全体的に DF モデルよりも指標が高いことが分かる．
表 6 より格フレームモデルの指標は「刃物」「行方」など目的格になるような述語に対して関連性の強い語の指標が高いことが分かる．これらより，各モデルが提案手法で意図したような特徴を持つ語を高く評価していることが分かる．
図3

主成分分析

5. 3 正解語の傾向
評価実験の入力文章に用いたリード 20 記事に対して評価実

図 3 より，格フレームモデルの因子負荷量のベクトルは他の験と同様に DF，LDA，格フレームを用いたモデルの指標を求ベクトルと垂直となっている．これより格フレームモデルの傾め，リード 19 記事についてモデルの指標を特徴量として，デー

向は他と独立していることが分かる．また，DF，LDA モデル

タセットを作成し，グリッドサーチによりパラメータを決定すの因子負荷量のベクトルを見ると，互いのベクトルが水平である．決定したパラメータを用いて SVM で学習を行い，残りの表 6 格フレームモデルの特徴語
形態素 ScoreCF C

より特徴的な正解の LDA モデルの指標が最も大きい 3 語，格
フレームモデルの指標が最も小さい 3 語を示す．

同じだ

0.35863みる

0.29099

犯

0.29099

同一だ

0.29099

男性は 0.00073 0.01125 0.21648

相次ぐ

0.28341して刃物

0.16478

県警は 0.00040 0.00974 0.00099

男性

0.10824

行方0.08153

本部

0.06882

捜査0.06882

車

0.06213

設置

首0.05003

追っている 0.00029 0.00019 0.00003

署

0.04588

間にけが0.03964

病院

0.03808柏

0.02294

刺す

0.00541男

0.00441ではトピック性が薄く，述語との関連性が低い語が正解として容疑

0.00291

選ばれていることが分かる．

傷害

0.00291

表 7 LDA モデルの指標が大きい正解語

DF

表8

LDA

CFC

0.00891 0.07218 0.00069

格フレームモデルの指標が小さい正解語

DF

LDA

CFC

0.00044 0.00029 0.00001
0.00038 0.00042 0.00040

表 7 より「して」をのぞいた語は事件性のあるトピックに関係していると考えられ，重要とされやすいことがわかる．表 8

6. お わ り に

リード 1 記事の解析を行う．語が重要かどうかの推定より，正DF，LDA，格フレームを用いた３つの統計モデルを特徴量

解と不正解の場合で指標の傾向の違いを確認する．DF モデルとし SVM によって重要かどうかを推定する手法を提案した．

−4以上の場合について，正解と不正解を系列とし，TFIDF を用いるモデルをベースラインと比較した結果，提案

LDA，格フレームの指標に −log10 をとった値を横軸，縦軸と手法ではベースラインの手法より高い性能で重要かどうかの推した散布図を図 4 に示す．

定が可能なことが確認できた．また，モデル単体の性能は低いの指標が 10が，組み合わせることで性能が高まることが明らかになった．
具体的に新聞記事に対して各モデルで評価値を求め，各モデルの特徴を確認した．また，指標の傾向を確認したところ，DF とLDA モデルの指標の傾向が類似していることが分かった．モ
デル単体を適切な手法で正規化することが課題であると考える．

文

図4

指標の傾向の散布図

図 4 より DF モデルの指標が大きい場合，LDA モデルの指標が大きい (−log10 (ScoreLDA ) が小さい) とき正解となりやす
く，また格フレームモデルの指標が小さい (−log10 (ScoreCF C )が大きい) とき正解となりやすいことが分かる．格フレームモ
デルの指標が小さい語には述語が多く見られることより，頻出する語ではトピックへの関連性が高い，もしくは述語である語が重要と判断される傾向があることが考えられる．また散布図

献[1] Corinna Cortes and Vladimir Vapnik. Support-Vector Networks. Machine Learning, Vol. 20, No. 3, pp. 273-297, 1995.
[2] Zechner, K., Fast Generation of Abstrants from General
Domain Text Corpora by Extracting Relevant Sentences In
Proceedings of the 16th International Conference on Computational Linguistics, pp.986-989, 1996.
[3] 堀之内寛，山本幹雄，n-gram モデルと IDF を利用した統計的日
本語文短縮，言語処理学会 第 6 回年次大会発表論文集，2000.
[4] 畑山満美子，松尾義博，白井諭，重要語句抽出による新聞記事自動要約，情報処理学会研究報告自然言語処理 (NL)，pp.95-101，
2001.
[5] David M. Blei, Andrew Y. Ng and Michael I.Jordan, Latent dirichlet allocation，the Journal of machine Learning
research，vol.3. pp.993-1022，2003.