DEIM Forum 2016 B6-3

SNS 上での拡散を考慮したニュース記事中重要文の自動選択
永山 孝太†

木村 昭悟‡

藤代 裕之††法政大学社会学部 〒194-0298 東京都町田市相原町 4342
‡日本電信電話(株) コミュニケーション科学基礎研究所 〒243-0198 神奈川県厚木市森の里若宮 3-1
E-mail †kouta.nagayama.8u@stu.hosei.ac.jp，fujisiro@hosei.ac.jp，‡akisato@ieee.org
あらましソーシャルネットワーキングサービス（SNS）の普及により，ニュースメディアはニュース記事を自社サイトだけでなく SNS を利用してより多くの読者に届ける必要に迫られている．本研究では，SNS 上で拡散するニュース説明文を自動的に生成するために，記事の中から拡散に寄与する重要文を自動的に選択する仕組みを開発することを目指す． 従来の重要文選択手法は，与えられた文書を端的に表現する文を選択するものであり，拡散に寄与するかどうかについては十分に考慮されていない．本論文では，実際に拡散された SNS 投稿に用いられた内容を含む記事中の文に対してラベルを付与し，記事とラベルを教師データとして recurrent neural network (RNN) を学習することで，拡散に寄与する文を自動的に選択する手法を提案する．実際のニュース記事と Twitter の投稿を用いた実験により，提案手法が高い精度で重要文を選択できることを示す．
キーワード

1.

SNS，ニュース，文書要約，recurrent neural network

はじめにSNS（ソーシャル・ネットワーキング・サービス）が登場

る．このニュース説明文は，従来の記事の見出しとは異なるものである．マスメディアはニュース専用の伝達装置でし，ニュースを取り巻く環境は大きく変化した．新聞やテあり，どのようなニュースであるかを読者が判断できる記

レビといったマスメディアは消費者にニュースを一方的に事の要点をまとめた表現が求められた．一方，SNS では消伝えることが出来る装置であった．夕刊や朝刊，番組枠と費者の目を引きつけ，拡散される説明文が求められる．新

いった時間的な制限はあったものの，ニュースのみを読者聞で使っている見出しをそのまま SNS の説明文に用いていや視聴者に届けることができた．しかしながら，SNS によるニュースサイトもあるが，朝日新聞のソーシャルメディってニュースの伝達のあり方が全く異なるようになった．

ア担当者は，従来の見出しでは拡散されないとして，SNS消費者はスマートフォンを用いて，いつでも，どこでも，に投稿する際には結論となる部分を書かないなどニュース簡単にニュースを見られるようになった．SNS にはニュー説明文の書き方を工夫していることを明らかにしている（注スだけでなく，友人や知人の投稿から，企業の広告まで多1）．また，米国における主要バイラルメディアの一つである様なコンテンツが溢れるようになった．ニュースメディア

Buzzfeed では，ニュース説明文と写真のパターンを最大 12は，膨大なニュースの中から自らの配信するニュースを選個構成して個別に配信した後，数時間後に最も拡散された

んでもらうために，記事そのものの価値だけではなく，数ものに全てを差し替えるといった工夫をしている．また，多くの読者の目を引きつけ，記事に誘導する様々な仕掛け

BuzzFeed 独自のシステムにより，投稿が Twitter 上で数多くを行う必要に迫られている．一部のニュースサイトでは，リツイート（RT）されると予測がされた場合，サイト上でSNS 上で記事を紹介する投稿 (以降，ニュース説明文と呼ツイートボタンを通常より大きくするといったことも行っぶ) をより読者に訴求する構成に変更する試みがなされていている（注2）．

注1

注2

http://web-tan.forum.impressrd.jp/e/2015/07/14/20270

https://newspicks.com/news/878625/body/このように，ニュースメディアは，SNS 上でニュース記学習を行ったモデルを使用して，与えられたニュース記事事が拡散されるために，ニュース説明文の構成に様々な工の中から拡散に寄与する文を予測し，この文を説明文とし夫を行っているが，依然として編集者が経験と勘を駆使して採用する．て行っており，どのような構成が SNS 上で訴求するのか，その具体的な方法は未だ確立されていないのが現状である．
本研究では，ニュースメディアがニュースの読者に適切なニュース記事を提供するための一手段として，SNS 上でより多くの読者にニュース記事が読まれるためのニュース2.

先行研究
本研究は，SNS 上における拡散の要因分析と，抽出型文章要約に関連する．それぞれの分野でこれまでに数多くの関連研究が行われている．
まず，SNS 上における拡散の要因分析に関する関連研究

説明文を自動で生成することを目指す．完全に新規な説明を紹介する．穂積らは，当時の有力 SNS の一つであった文を自動的に構成することは非常に困難であることから，mixi を対象に，「バトン」と呼ばれる日記書き込みが拡がる

本研究では，対象のニュース記事を要約することで説明文速度とその拡散性を分析し，mixi 上で数多くの友人を持つを生成するアプローチを採用する．文書要約の技術は，近ユーザがバトンを書くことで爆発的に拡散することを明ら

年，ニュース関連分野への適用が数多く報告されている．

かにした[1]．濱岡は，映画に関するツイートの分析を行

記事を自動で要約して配信するアプリ「Vingow」や，米国

い，「キャンペーン，プレゼント情報」「公開日，公開時の大手新聞社 New York Times が掲載した読者の地域に応じ間」などのプラスアルファの情報を付加することで RT 数がて記事の内容を動的に書き換える geocoding 手法の適用など大きくなることを明らかにした[2]．また，拡散されているがその代表例である(注 3)．しかしながら，これらの事例は，情報の信頼性にかかわる研究として，藤川らは，SNS 上の流与えられた文書を端的に表現する文を重要文と位置付け，言に対するユーザの反応が情報の根拠とともに書かれてい抽出し，要約するという従来の要約技術の範疇にとどまるるかを判断するシステムを開発した[3]．斉藤らは，異常検ものであり，SNS 上での拡散に寄与するかどうかという観知の考え方を用いて，SNS 上で長期間流行する話題を検出点は考慮されていない．

する手法を提案した[4]．上記の通り，これらの研究では，この課題に対して，本論文では，ニュース記事について拡散経路や話題抽出，ユーザの行動分析やツイートの分類言及した Twitter 上の投稿（ツイート）のうち，実際に SNSなどが主に行われているが，いずれもソーシャルメディア上での拡散に大きく寄与したものを教師情報として利用す上に投稿されたコンテンツそのもの及びその拡散経路の影る，教師付き学習によるニュース説明文の自動生成手法を

響について言及しており，投稿コンテンツがリンクする記提案する．具体的には，まず，あるニュース記事について事などとの関係性は明らかにされていない．我々はこれま言及したツイートのうち，最も拡散されたものに着目し，でに，SNS 上でのニュース説明文の拡散要因を，説明文そそのツイートがニュース記事のどの文から情報を取得したのものだけではなくニュース記事との関係性も利用して明かを調査する．この調査により，SNS 上で拡散される説明らかにしてきた[5]．本研究はその流れをさらに推し進める文を構成するためには記事中のどの文を選択するべきか，ものである．

すなわち拡散を考慮した重要文選択のための教師情報を構

続いて，文書要約に関する関連研究を紹介する．文書要成する．この教師情報を用いて，拡散を考慮した重要文を約は，重要文抽出と文短縮の二つの要素技術で構成されて選択するためのモデル学習を行う．モデルには，自然言語いる[6]，本論文が対象とするタスクは重要文抽出である．

処理の様々なタスクで近年大きな成果を挙げている

重要文抽出では，単語の共起関係を基にした手法[7]，クラrecurrent neural network (RNN) を採用する．このようにしてスタリングを行いトピック抽出した手法[8]，単語ベクトルを用いて単語にスコアをつけ，文のスコアを，文を構成す

注３

http://www.businessnewsline.com/news/201511080445270000.html

る単語のスコアの合計として評価し，スコアの高い文を重要文として用いる手法[9]，文の依存関係の木構造と単語のるため，記事中において発言を意味する鍵括弧とその中の依存関係の木構造を入れ子とした入れ子依存木を用いて要言葉が重要であると報告がある[5]．これらの状況を考慮約を行う手法[10] などが知られている．しかし，これらのし，以下のルールに従って文区切りを手動で与えた． 例文

研究は，文章を端的に表現する文を選択するものであり，中のスラッシュは文区切りを表す．

説明文が SNS 上でどのように拡散されるか，という観点は・句点や感嘆符など一般に文末で用いられる記号の直後含まれていない．

拡散を考慮した重要文の選択

3.

例 1) つ い に 、 つ い に 、 念 願 の メ ジ ャ ー デ ビ ュー！！！/支えてくださったすべての方に感謝です！
/(注 4)

本節では，拡散を考慮した重要文の選択を教師付き学習によって実現する提案手法の具体的な処理について説明す・括弧類の前後．

ると共に，そのための教師情報を構成する手順を記述す
る．

3.1 使用データ例 2）上村主将は/「自分たちで歴史を作ることができる」/と新興チームの魅力を話す。(注 5)・鍵括弧の中に複数の文が存在する場合．

本論文では，毎日新聞 web 版のニュース記事，及びそれ

例 3）/「区間賞は狙っていたが、まさか区間新が出らの記事に言及したツイートを解析用のデータとして利用

るとは。/前半から突っ込む自分らしいレースができする．具体的な手順は以下の通りである．まず，Twitterた」/。(注 6)

Firehose API で取得できる日本語ツイートのうち，本文中にmainichi. jp が含まれるツイートを抽出した．ツイートの収・隅付き括弧で記者名など，著者署名が入っている場合．

集は，2014 年 8 月 19 日から 2015 年 9 月 1 日まで継続して実施し，総計で 80 万ツイートを収集した．次に，ツイート

例 4）講演会は午後１時から４時１０分。/予約不要
で無料。/【垂水友里香】/(注 7)の URL に記載されている毎日新聞の記事を，クローリングを行い取得した．ニュース記事については 2015 年 9 月 1 日・特殊記号が存在した場合はその前後．
例 5）その他の部門は次の通り。/優秀棋士賞/＝/糸時点で収集可能であったもののみを取得し，総計で 6000 記事を得た．このように収集した記事それぞれについて，最谷哲郎竜王/▽/敢闘賞/＝/郷田真隆王将/▽/新人賞/

も RT 数が多かったツイートを選択し，記事とツイートの対＝/千田翔太五段/(注 8)を構成した．以降の解析では，最大 RT 数が 4 以上であった
記事 1213 本のうちおよそ 150 本の記事とツイートの対を利用した．

3.3 ラベリング
前節で分割した記事中の各文について，重要文であるかどうかのラベルを付与した．具体的には，各記事と対になる，最3.2 記事の文への分割収集した記事に重要文を選択するための教師情報を与えるに当たり，まず，収集した記事を文単位に分割した．しかし，取得した記事の中には，文末に句点が打たれていないもの，「▼」や「＝」のなどの特殊記号が存在しており，文も RT 数の多いツイートに含まれる情報が記載されている文を重要文と見なし，ラベル「1」を，それ以外の文にラベル「1」を与える．

注4

注5

http://mainichi.jp/mantan/news/20150617dyo00m200016000c.html
http://mainichi.jp/articles/20150328/ddg/041/050/005000c

注6の区切りを自動的に検出することは非常に困難である．また，記事中には鍵括弧，中括弧の中が複数文で構成されている記事も存在した．さらに，SNS は会話のように使われ

http://mainichi.jp/graph/2015/01/02/20150102k0000m050017000c/001.ht
ml
注7
http://mainichi.jp/articles/20150122/mog/00m/040/003000c
注8

http://mainichi.jp/articles/20150402/ddm/012/040/109000c

表１

記事本文とラベル例（注 10）

記事中の文
秋篠宮ご夫妻の次女佳子さまは７日、ラベル1

奈良県橿原市の神武天皇陵を参拝された。
２０歳の成年皇族になった報告のため。

1

佳子さまは２００３年３月にもご夫妻と姉の眞子

1さまと共に参拝しているが、お一人では初めて。
午前１１時ごろ、参拝服の佳子さまは陵に向かっ-1てゆっくりと進み、玉串をささげて一礼した。
６日は三重県伊勢市の伊勢神宮を訪れ、外宮、内図 2 文の選択傾向-1宮の順に参拝した。
【真鍋光之】-1

今回の調査では，読者の興味を誘引する文が記事中に複数ある可能性があるため，ツイートに書かれている文の意味に対応する文にはすべてラベルを付与した．また，重要文が複数ある場合，その重要度は判定していない．記事に対してラベルを付けた例を表 1 に示す．
上記のラベリングを行った結果として，記事中のどの文が実際にツイートで選択されたかについての傾向を，図 2に示す．ラベリングを行った 150 記事のうち 2/3 に当たる100 記事が，記事の第 1 文目をツイートに引用していた．続く第 2 文は全記事の 1/3 に当たる 54 記事が引用していた．
図 3 提案モデル

これらのことから，記事の前半から優先的に選択する傾向がうかがえる．また，ツイートに記事中の複数文を選択しているものは全体の 5/6 に当たる 123 記事あり，非常に多く3.5 モデル学習のツイートが複数文を選択して構成されている．一方，興前節までで構成した教師データを用いて，記事中から重要味深い点として，10 文目から 30 文目も 108 回選択されたと文を選択するための recurrent neural network (RNN) モデルいう点が挙げられる．記事中の文数が 30 文を超えるものはを学習する．特に本論文では，Long Short Term Memory

29 記事のみであったことから，この事実は，記事の前半部（LSTM）をノードに採用した双方向ネットワークである分のみならず，後半を含む様々な位置から文が選択されてbidirectional LSTM [12] を改変したモデルを用いる．図 3

いることを示している．に提案モデルを示す．
事前に用意した，各単語 Xt (t=1,2,…) にラベル Yt が付与

3.4 文の単語への分割されたデータセットを使用し，第一層で単語 X1,X2,… を文ごとにラベルを付与した記事を，形態素解析器 MeCab[11] を用いて分かち書きを行った．また，分かち書き後の

注9http://twilog.org/_5newspaper/date-150307

注 10

全ての単語を基本形に変換した．その後分かち書きをした文の構成単語すべてに文に付与さえたラベルを付与した．

http://mainichi.jp/feature/koushitsu/news/20150307k0000e040246000c.ht
ml順方向に読み込み，文の先頭から対象単語までの文意を学習に分割し，そのうちの 3 つの部分データで 3-fold 交差検定する．そして，第二層ではノードの連結方向を逆にし，最終によりハイパーパラメータを決定した．このように決定し単語からの文意を学習する．これにより，前後の文意を考慮たハイパーパラメータと 3 つの部分データを使い RNN モデした文選択を狙う．
第 3.3 節にも示したとおり，新聞記事は，ルの学習及び SVM 分類器の学習を行い，残り 1 つの部分デ30 文を超える文数で構成されていることも多く，記事の文脈ータで評価を行った．上記の手順を，評価に使用するデーによっては重要文が記事の後半から選択されることも珍し

タを変えて４回行い，その平均値で評価する．

くない．しかし，一般的な RNN では，短期的な依存関係しか学習できず，長期的な記事の文脈を考慮することが困難である．そこで，各ノードに Long Short Term Memory（LSTM）を採用して，長期的な依存関係を考慮する．

4.2 実験結果
今回の実験は拡散重要文を正しく選択することが目標であるため，提案モデル＋SVM 分類器で選択した文と，人手LSTM の内部に持つユニットの数はすべて 600，出力は 1で付与した正解ラベルを比較した正解率により，提案モデ及び-1 の各クラスに対応する 2 次元とした．学習においてルがどの程度正確に拡散重要文を選択できるかを評価すはミニバッチを使用し，20 記事を同時に学習した．モデル

る．文レベルの結果において，１文目のみを選択する手法

学習の評価関数として，最終的に出力された数値と教師デをベースラインとし，提案手法での選択結果と比較する．

ータのラベルとのソフトマックス交差エントロピーを用いさらに実験において，今回用意したデータセットの数が非確率的勾配降下法による誤差伝播により学習を行った．

常に少なかったため，データを複製加工して増やす措置を行った．30 文以上で構成される記事を複製し，30 文以降を3.6 重要文選択削除した．20 文以上，10 文以上の記事も同様に行った．

前節で学習したモデルを用いて，与えられた記事から重要文を選択する．学習済モデルからの出力をそのまま予測

予測: 選択予測: 非選択

正解率

結果として用いる方法も考えられるが，本論文では，より

ラベル: 選択

1696

384

81.5%

精度の高い予測を実現するために，モデル出力の直前に位

ラベル: 非選択

721472299.6%

予測: 正解予測: 不正解

正解率

16418

456

97.2%

置する，第 2 層 LSTM の出力ユニット 600 次元を特徴ベクトルとして抽出し，Support Vector Machine（SVM）による分合計類器で最終的な予測結果を得る．RNN モデルの各ノードは表 2 単語レベルでの予測結果単語に対応しているため，SVM に入力する特徴ベクトルは，当該単語が選択されるかどうかを判断するために用い

予測: 選択予測: 非選択正解率られる．一方，本論文の目的は，記事中から文を選択する

ラベル: 選択

884

256

77.5%

ことにある．そこで，各単語に対応する SVM 分類器の予測

ラベル: 非選択

970

7764

88.8%

予測: 正解予測: 不正解

正解率

8648

1226

87.6%

結果を当該文中の全単語で平均し，その平均値の大小により，文選択の予測結果を決定する．

4.

合計

実験

4.1 実験条件
第 3.1-3.3 節で作成したデータセットを用いて，第 3.4-3.6

表 3 文レベルでの予測結果
予測: 選択予測: 非選択正解率

ラベル: 選択

179

149

54.5%

ラベル: 非選択

906931

99.5%

予測: 正解予測: 不正解

正解率

269

7080

96.3%

節に記載の提案手法がどの程度正確に拡散重要文を選択できているかを検証する実験を行った．SVM のカーネルは線形カーネルを採用した．データセットを 4 つの部分データ合計
表４

ベースラインの予測結果

実験結果を表 2 及び 3 に示す．表 2 は単語レベルでの予測結その拡散性”，情処全国大会予稿集，2008．

果，表 3 は文レベルでの予測結果をそれぞれ示す．

[2]

これらの結果から，単語レベルで 81.5%，文レベルで濱岡，”Twitter におけるリツイート(RT)回数の規定要因”，慶応/京都連携グローバル COE ディスカッションペー

77.5%と高い精度で正解重要文を選択できたことがわかる．

パー, DP2011-028，2012

ベースラインの 1 文目を選択する手法では 54.5%の正解率で[3]あり，提案手法が優位な結果となった．しかし，1 文目を選に対するユーザの態度の分類”，信学技報，2011．

択する手法で 54%の正解率を得られたことは，提案手法は[4]まだ精度向上の余地があることも示している．また，今回長期間流行する話題の早期検出”，信学技報，2011．のタスクは，本質的に正例（選択文）と負例（非選択文）[5]の数に非常に大きな偏りがあるため，予測結果を非選択とweb ニュース説明文の調査と自動選択”，電子情報通信学会する方向にバイアスがかかりやすい．このことは，表 2 に論文誌，2016．

おいて，負例（非選択）に分類誤りがほとんど発生してい[6] 平尾努，鈴木潤．磯崎秀樹，”最適化問題としての文書ないことからも理解できる．特に後段の SVM 分類器におい要約”，人工知能学会論文誌，2009．て，ハイパーパラメータをより精緻に選択する必要がある[7]と考えられる．さらに，今回用意したデータセットは量がした文間依存関係に基づく文書要約手法の提案”，人工知能非常に少なく，特に RNN モデルで過学習が生じている可能学会全国大会予稿集，2006．

性は否定できない．今後の実験において，データセットを[8]増やす，適切な正規化を行う，などの追加検討により，解定”，自然言語処理，2008．

決を試みる．また，教師付き学習の枠組で文選択を行う既[9]

存手法もいくつか知られており[13]，それらの手法との比較要約の検討”，信学技報，2014．

検討も重要な課題である．

[10]

藤川，鍛治，吉永，喜連川，”マイクロブログ上の流言

斎藤，富岡，山西，”ソーシャルネットワークにおける興梠，木村，藤代，西川，”SNS 上での拡散を誘発する

館林，原口，”文の結束性に寄与する特徴的な語を考慮

山本，斎藤，”用例利用型による文間接続関係の同別所，西川，牧野，松尾，”単語ベクトルを用いた文書

菊池，平尾，高村，奥村，永田，”入れ子依存木の刈り込みによる単一文書要約手法”，自然言語処理，2015

まとめと今後の課題

5.

[11] T. Kudo, K. Yamamoto, and Y. Matsumoto, “Applying

本論文では，ニュースメディアがニュースの読者に適切

Conditional Random Fields to Japanese Morphological Analysis,”なニュース記事を提供するための一手段として，SNS 上でProc. Conference on Empirical Methods in Natural Language

より多くの読者にニュース記事が読まれるためのニュース

Processing (EMNLP), pp.230-237, 2004.

説明文を自動的に生成することを目指し，対象ニュース記[12]

事から拡散に寄与すると考えられる記事中の重要文を，教classification with bidirectional LSTM and other neural network

師付き学習の枠組で選択する手法を提案した．実際の記事

architectures”，Neural Networks 18:5–6, pp. 602–610, 2005.

及びツイートを用いた実験により，提案手法が高い精度で[13] T. Hirao, H. Isozaki, E. Maeda, and Y. Matsumoto.

拡散重要文を選択できることを示した．

“Extracting Import Sentences with Support Vector Machine,” In

本論文の提案手法は，文書要約における文選択に該当す

A. Graves and J. Schmidhuber，”Framewise phoneme

Proc. International Conference on Computational Linguistics

るものであり，今後，既存の文短縮手法 [14] と組み合わせ(ACL), pp. 342--348, 2002.

る，あるいは拡散要素を考慮した新規の文短縮手法を考案[14] 西川，今村，別所，牧野，松尾，“クエリ依存文短縮とすることにより，説明文の自動生成を実現する．

見出し生成への応用,” 情処研報，2013-NL-214(2)，2013．

参
[1]

考

文 献

穂積，矢吹，佐久田，”SNS における情報伝達の速度と