Text Summarization Module for the Travel Blog Browsing System

1.はじめに
旅行者が旅先の観光情報を収集するために利用する情報源の一つとして，旅行ガイドプックが挙げられる.一般的な旅行ガイドプックには,有名な観光名所,土産物，宿泊施設，飲食店など，親光に関連する基本的な情報が掲載されている.一方，プログなどのソシャルメディアでは，実際に親光地を訪れた旅行者の経験に関する情報を得ることができ，それらは訪問場所や宿泊施設を選択する際に，大いに役立つ情報である．我々は，過去の旅行者が投稿した情報へのアクセスを容易にするために，旅行プログエントリを自動検出し，タイプ分類を行うシステムを構築している[1, 2].このシステムは広島P2ウォーカーで公開されている“ぶらり広島電停MAP” ¹で使用されている.このシステムにより，目的の親光地に関する情報を地図上で探すことができる.本研究では，上述のシステムの利便性を向上させるため，ユーザが指定した地理的範囲の旅行プログエントリを要約して提示する機能を実装する.そのために, ¹ http://p2walker.jp/peace/ja/blog/く画像も対象とした要約手法を提案的地の特徴を容易に把握するとができる.本論文の橋成は以下の通りである．２節ではシステムの概要および動作例，3節では関連研究，4節では旅行プログエントリの自動要約手法，５節では評価実験について述べ，６節で本稿をまとめる。 (平和記念公園周辺,タイプ“見る”の要約例)
2.システムの概要および動作例
本節では，構築したシステム²の概要および動作例について説明する.図１に本研究で開発した旅行プログエントリ閲覧システムを示す.地図上にエントリ集合を表示しており，画面下のボタンで，“見る”，“体験する”, “買う”, “食べる”, “泊まる”などの,旅行者の目的に沿ったエントリタイプ[2]を選択することができる．また，マーカーをクリックするとポップアップでエントリへのリンク付きのタイトルを表示する. “ぶらり広島竜啓 MAP”（2015年5月27日時点）からの拡張点は以下の通りである. •リストビュー：表示範囲のエントリー覧•サマリービュー（図2):表示範囲のエントリ集合の要約画面左下の緑のボタンをクリックするとリストピューおよびサマリーピューが表示され，上部のタプでピューを切り替えることができる.リストビューには単純に表示範囲のエントリの一覧を表示する．サマリービューでは，ユーザが指定したタイプ，表示範囲のエントリ集合をトピックごとに要約した結果と，関連するエントリへのリンクを表示する．これにより，ユーザの指定した地域の見所が発見しやすくなり，さらに,個々のエントリへのリンクを示すことで，より詳細な情報へのアクセスが容易になる.
3.関連研究
Web上のリソースを利用して旅先の情報をユーザに提示するための研究が行われている. Wuらは,親光情報を要約するシステムを提案しており，クエリの力テゴリごとに，テキストや画像，動画などの異なるメディアを情報源として選択する手法を提案している[3]. Haoらは，旅先の特徴を表すタグやスニペットを要約として出力するモジュールなど，地域特有の情報をプログから発見する手法を提案している[4].安田らは，“歴史”や“食べ物”といったトピックと地理的範囲を入力として受け取り，対象範囲の情報を簡潔にまとめた文書を生成する要約手法を提案しており，プログを要約対象として実験を行っている[5].エントリに含まれる画像はユーザに視覚的理解を促す有用な情報源であるため，本研究では画像も要約の対象とする.また，プログ中の文章はくだけた表現が多く，重要文抽出による要約では，意味が不明瞭な文が抽出されてしまう可能性がある．我々は，要約に画像を含めることで，文の意味の不明瞭さを補えると考えた.文の重要度計算には，文が持つ特徴から回帰モデルで重要度を計算する手法やグラフベースの手法などが用いられてきた.特に,グラフベースの手法はテキストと画像をリンクさせることができれば，テキストと同様の枠組みで画像の重要度を計算できると考え，本研究ではグラフベースの手法を採用した.その代表的な手法としては, LexRankが挙げられる[6]. LexRankは文のグラフ表現における固有ベクトル中心性の概念に基づいて文の重要度を計算する.前田らの研究[7]ではLexRankを画像の類似性グラフに適用していたが,本研究では画像と文を一つのグラフで扱う点が異なる.
4.旅行プログエントリの自動要約
本研究で扱う旅行プログエントリは，藤井らの手法により5種類のタイプ（“その他”は除く）に分類されていると仮定する．システムは，エントリタイプと地理的範囲を入力として，該当するエントリ集合の要約を出力する．なお，閲覧システムの表示領域を考慮して，1トピックにつき画像3枚，3文から5文程度の短い要約を目標とする．要約は大まかに次の手順で作成する. 1.エントリ集合をクラスタリング2.クラスタごとにLexRankを適用し，文と画像の重要度を計算3.重要度が高い順に文と画像を選択エントリにはすでに“見る”や“食べる”といったタイプが付与されているが,ユーザが指定した範囲には,さらに複数のトピックが混在する可能性があるため，これらをグループ化する必要がある.本研究では,最速隣法を用いた階層的クラスタリングを行い，クラスタ間の距離が腐値以下の時にクラスタを統合する方法をとる．なお，エントリはtfidf値を要素とする文書ベクトルとして扱い,距離関数はf(ci,ci) = 1 − cos (ci,ci)を用いる．ここで，cos (c i ,c j )はコサイン類似度を表す．
4.1. LexRankによる文と画像の重要度計算
LexRankでは，まず文問の類似度が関値以上であれば1,それ以外は0を要茶とする隣接行列を用意する.作成したグラフから，ノード（文）uの重要度は式(1)で求められる．これは, PageRankと同様，隣接行列に対してべき乗法を用いて，主固有ペクトルを計算することで得られる．
ここで，Nはノードの数（文の数），dはダンピングファクター [8] （Brinらを参考に0.85に設定）, adj[u]はノードuに隣接するノード集合，deg (v)はノードvの次数を表す．計算される重要度は，他の多くの文と類似する文ほど高く，さらに，重要度の高い文と類似する文の重要度も高くなる.同様に，エントリ集合に含まれる画像問の類似度を計算し，隣接行列を用意すれば，多くのエントリに出現する物体が写った代表画像を得ることができると考えられる.本研究では，文および画像をノードとしてグラフを作成し，文と画像の重要度を同時に計算する.なお,画像の前後に出現する文は被写体の説明をしている可能性が高いと仮定し，画像とその前後に出現した文の関係を表す障接行列の成分は1に設定する.これにより,重要な文に隣接する画像の重要度が高くなり,文，面像ともに重要かつ関連性の高いものが選ばれやすくなると考えた．まとめると，隣接行列の各成分は次のように決定する. (1  type(s i ) =  type(s i ) and sim(s i ) > threshold ai j = 1 1 (type(s i ) ≠  type(s i ) and | i − j| = 1) (0 (otherwise) (2)ここで，sはエントリを構成する要素（文または画像）のシーケンスを表し, s iはそのi番目の要素を示す. type(s i )は要素s iの型(文または画像), simは類似度関数を表している.なお, simおよびthresholdは要茶の型ごとに用意する.要茶間の類似度計算に関しては次節で説明する.
4.2.文間および面像間の類似度
文はtfidf値を要素とするベクトルで表し，類似性尺度にはコサイン類似度を用いる.画像は2種類のベクトルで表現し，それぞれのコサイン類似度を計算し，その平均値を画像間の類似度とする.利用するベクトル表現は，色ヒストグラムとBag of Visual Wordsベクトルである.色ヒストグラムは, HSV色空間を用いてH, S, Vの値域をそれぞれ10, 4, 4分割することで160色に減色させ,ヒストグラムを計算する. Bag of Visual Wordsは画像から得られる複数の局所特徴をベクトル量子化してヒストグラムを化したものである[9].本研究では,まず，画像集合からSIFT特徴量を，スケールを固定して格子状に抽出し，得られた特徴量をk-means法によりクラスタリングする．次に，個々の画像から抽出したSIFT特徴量を,クラスタリングにより得たセントロイドを用いてベクトル量子化ヒストグラムを作成する.
4.3.冗長性の削減
LexRankで計算したスコアの高い順に文を抽出すると，冗長性のある要約が作成される可能性がある. Radevらは，文中の情報の包含関係(CSIS)[10]に基づき，文をリランキングすることでこれを解決している.本研究では，文を重要度順に選択する際，要素間の類似度に関値を設定しておき，類似度が関値以上の要素がすでに選ぼれているときは対象要素を要約に追加しないという処理を最後に行う.
5.群価実映
5.1.実験設定
Nanbaらの手法で収集し，藤井らの分類手法でエントリにタイプを自動付与したエントリを用いる[1, 2].日本全国22地点に関して，地点ごとに平均10件ずつエントリを選択し，タイプごとに画像3枚，5文程度の正解要約を合計48件人手で作成した．同様に，提案手法を用いて48件の要約を自動作成し，ROUGE [11]による評価と，被験者2人による主親評価を行い，提案手法の有効性を検証した.主観評価では,原文と正解要約を提示したうえで，３つの手法による要約を良い順に並べるよう被験者に指示した．この評価方法はNTCIR-3のテキスト要約タクスでも用いられている[12].なお，要約がほぼ同じ場合は同一順位にすることも許可している.比較手法は以下の通りである.いずれの手法でも，抽出する文と画像の数は正解と同じになるように調整した. • LexRank+IMG : 4節で述べた,文と画像を一つのグラフで扱いLexRankを適用する手法. •   LexRank :文と画像それぞれにLexRankを適用する手法. • Lead法(baseline) :各エントリの先頭から順に文と画像を抜き出す手法.なお，各種パラメータは次のように設定した．エントリを階層的クラスタリングする際のクラスタの距離の閥値を0.9, Bag of Visual Wordsベクトルを計算する際は特徴量のスケールを16ピクセルに固定して8ピクセルごとにサンプリング行い，k-means法はクラスタ数を1,000に設定した. LexRankにおける隣接行列作成の際の類似度の関値は文の場合0.1,画像の場合0.5と設定した．また，冗長性を削減するためのコサイン類似度の閾値は文の場合0.5,画像の場合0.9と設定した.
5.2.実験結果
表1にROUGEの平均値を示す.有意水準5%で両側検定のt検定を行ったところ, LexRank+IMGとLexRankのROUGE-1,2の平均値に有意差は見られなかったが，LexRank+IMGとLead法，LexRankとLead法では有意差が確認できた．表2に主視評価による順位付けの結果を示す.同様に，有意水準5%でt検定を行ったところ, LexRank+IMGとLexRankの平均順位に有意差は見られなかったが，LexRank+IMGとLead法, LexRankとLead法では有意差が確認できた.まとめると， LexRankの有用性は確認することができたが，文と画像を一つのグラフで扱っても，要約に大きな変化は生じなかった.また，実際に閲覧システム（図1, 2）を使用して気がついた提案手法の問題点について述べる．まず，一つのエントリに複数のトピックが混在する場合に，タイプに沿った要約が作成出来ないことがある．たとえば，宮島では牡蠣祭りが毎年行われているが，参加者の多くは，宮島に行くためにフェリーに乗ることも記述している．そのため，宮島周辺でタイプ“食べる”のプログエントリを要約すると，船に関する文や画像が出現する．この問題に関しては，他のタイプが付与されたエントリを参照し，情報利得などからタイプ特有の単語に重みを設定し，文の重要度に反映させることで解決が可能であると考えている.旅行プログエントリには親光情報として有用な情報以外にも，個人的な事柄に関する記述も多く含まれるため，それらを要約から除外することも重要な課題である．エントリ数が多いクラスタに関しては，内容の共通部分を重要箇所として検出できるが，エントリが少ないクラスタに関してはその検出が難しくなるため，観光には関係のない情報が要約に含まれる可能性も高くなる.
6.おわりに
本研究では，旅行プログエントリ閲覧システムを構築し，ユーザが指定した地理的範囲のエントリを要約して提示する機能を実装した．グラフベースの，文の重要度計算手法であるLexRankを文と画像に適用することで，画像付きの要約を作成する手法を提案した.今後の課題としては，より有用な親光情報を抽出するために，旅行プログエントリのコンテンツを詳細に分析する必要があると考えている.
文
住
[1] H. Nanba, H. Taguma, T. Ozaki, D. Kobayashi, A. Ishino, and T. Takezawa, "Automatic Compilation of Travel Information from Automatically Identified Travel Blogs," Proc. of Joint Conference of the 47th Annual Meeting of the Association for Computational Linguistics and the 4th International Joint Conference on Natural Language Processing, Short Paper, pp. 205-208, 2009. [2]藤井一輝,藤井一輝，石野亜耶，藤原泰士，前田剛，難波英
嗣，竹澤寿幸，“多言語旅行プログエントリを用いた観光情報提示システム,”第６回データ工学と情
報マネジメントに関するフォーラム, 2014. [3] X. Wu, J. Li, and S.-Y. Neo, "Personalized Multimedia Web Summarizer for Tourist," Proc. of World Wide Web Conference, 2008. [4] Q. Hao, R. Cai, C. Wang, R. Xiao, J.-M. Yang, Y. Pang, and L. Zhang, "Equip Tourists with Knowledge Mined from Travelogues," Proc. of World Wide Web Conference, 2010. [5]安田宜仁,西野正彬, “地理範囲とトピ片岡良治,ックに応じた動的要約生成,第26回人工知能学会全国大会, 2012. [6] G. Erkan and D. R. Radev, "LexRank: Graph-based Lexical Centrality as Salience in Text Summarization," Journal of Artificial Intelligence Research, pp. 457-479, 2004. [7]前田剛，難波英嗣，竹澤寿幸，“場所に焦点を当てと情報マネジメントに関するフォーラム, 2015. [8] S. Brin and L. Page, "The Anatony of a Large-scale Search Web Hypertextual Engine," Computer Networks and ISDN Systems, pp. 107-117, 1998. [9] G. Csurka, C. R. Dance, L. Fan, J. Willamowski, and “Visual Categorization with Bags of C Bray, Keypoints," Proc. of ECCV International Workshop on Statistical Learning in Computer Vision, pp. 1-22, 2004. R. [10]D. Radev, H. Jing, and M. Budzikowska, “Centroid-based Summarization of Multiple Documents: Sentence Extraction, Utility-based Evaluation, and User Studies," Proc. of the NAACL-ANLP Automatic on Workshop summarization, Vol. 4, pp. 21-30, 2000. “ROUGE: a Package for Automatic [11]C. Y. Lin, Evaluation of Summaries,” Proc. of Workshop on Text Summarization Branches Out, pp. 74-81, 2004. [12]T. Fukushima, M. Okumura, and H. Nanba, "Text Summarization Challenge 2 / Text Summarization Evaluation at NTCIR Workshop 3," in Working Notes of the 3rd NTCIR Workshop Meeting, PART V, pp. l-7, 2002.