# 談話構造制約付きパーソナライズド抽出型要約

高津 弘明 $^{1}$ 安藤 涼太 $^{2}$ 本田 裕 $^{3}$ 松山 洋一 $1 \quad$ 小林哲則 ${ }^{1}$
1 早稲田大学 2 内外切抜通信社 $\quad 3$ 本田技研工業
takatsu@pcl.cs.waseda.ac.jp ando@naigaipc.co.jp hiroshi_01_honda@jp.honda
matsuyama@pcl.cs.waseda.ac.jp koba@waseda.jp

## 1 はじめに

ユーザのプロフィールに基づいてニュース記事の文に対する興味度を推定する手法および，興味度と談話構造に基づいて文を抽出し，ユーザごとにパー ソナライズした要約を生成する手法を提案する。

人々がテキストの必要な情報に効率的にアクセスすることを手助けする技術としてテキスト自動要約技術がある．要約は，特定のユーザに特化した要約か否かで, generic な要約と user-focused な要約に分類される [1]. generic な要約は，特定のユーザを想定せず，テキストの重要な情報を抽出して作成された要約を表すのに対し， user-focused な要約は，重要な情報だけでなく，ユーザの興味や好みも考慮して作成された要約を表す。これまでに, generic な要約を生成する手法が数多く検討されてきたが，興味や嗜好が多様化している現代社会において， user-focused な要約の需要が高まっている [2].

generic な要約, user-focused な要約を問わず，要約が満たすべき性質として一貫性がある。一貫性の高い要約とは原文書の談話構造や論理構造を保持した要約を表す. generic な要約の研究では, 談話構造を考慮した要約生成手法が提案されている $[3,4,5]$.一方，user-focused な要約生成手法の多くは，ユーザの特徴を考慮して計算されたスコアに基づいて文をランキングし，その上位の文を抽出して要約とするものである $[6,7,8]$. そのため, 従来の user-focused な要約生成手法では，一貫性の低い要約が生成される可能性が高い. そこで，本研究では，談話構造に基づく一貫性を保持したまま，ユーザの属性に応じて興味がありそうな文を抽出し，ユーザごとにパー ソナライズした要約を生成する手法を提案する.

アプリケーションとしてニュースを伝える音声対話システム（以下，ニュース対話システム）[9]を想定する。このシステムは，要約に基づく主計画と補足説明のための副計画から構成されるシナリオに基づいて会話を進行させる。ユーザが受け身で聴いている限りにおいては主計画の内容を伝えることになる. 主計画生成問題を以下のように定式化する。

話題が異なる $|D|$ 個の文書から各文書の談話構造を制約としてユーザが興味のありそうな文を抽出し，その内容を音声で $T$ 秒以内に伝える。

提案手法では，文の内容に対する興味度は，アンケートから得られるユーザのプロフィール情報と BERT [10] の単語埋め込み表現に基づいて推定する.要約は, 最大要約長 $T$ (秒) と文書の談話構造を制約として，推定した興味度の和が最大となるように整数計画問題を解き，文を抽出することで生成する. 談話構造とユーザのプロフィールおよび文と話題に対する興味度が付与されたニュース記事コーパス [11]を用いて，提案手法の有効性を評価する。

本稿の構成は次の通りである． 2 章で関連研究について述べる. 3 章でニュース記事の文と話題に対する興味度を推定するモデルについて説明する． 4 章で推定した興味度に基づいて文を抽出する手法について説明する. 5 章で提案手法の有効性を評価する. 6 章でまとめと今後の展望について述べる.

## 2 関連研究

要約手法は大きく extractive な手法と abstractive な手法に分類される [12]. extractive な手法では, 文書中の文や単語を抽出することで要約を生成する。代表的な手法として，グラフベースの手法 $[13,14]$ や整数計画問題による手法 $[3,4]$, ニューラルネットワークによる手法 $[15,16]$ などがある. abstractive な手法では，文書中に出現しない表現も用いながら文章をより簡潔な表現に言い換えることで要約を生成する. 代表的な手法として，アテンションやコピー

図1 興味度推定モデル：BERT_PA_BiGRU_GNN

図 2 Personalized Sentence Encoder
メカニズムを用いた手法 $[17,18]$ や強化学習を導入した手法 $[19,20]$ などがある. また, extractive と abstractive の両方の手法を取り入れたハイブリッドな手法 $[21,22]$ も提案されている. user-focused な要約を生成する研究でも abstractive な手法が最近提案されてきているが $[23,24]$, 以下に示す研究を含め,従来手法の多くは extractive な手法である.

user-focused な要約の研究では，タスクに応じて様々な観点でユーザの特徴がモデル化されている。情報検索タスクでは，ユーザの特徴をクエリで捉え，そのクエリを反映した要約を生成することでパーソナライズが試みられている [25, 26, 27, 28].学習支援タスクでは, 学習者の年齢, 学習の目的や興味のある項目を記した自己記述などを用いて，学習者ごとにパーソナライズした要約を生成する手法が提案されている $[29,30,31]$. レビュー要約タスクでは，ユーザが入力したクエリの履歴や閲覧した商品の履歴, プロフィールテキスト, ユーザが過去に投稿したレビューなどを用いて，ユーザの興味や好みに合わせた要約を生成する手法が提案されている [32, 33, 23]. ニュース記事を含むウェブコンテンツの要約のパーソナライズを目指した研究では, ニュースのキーワードに対する興味やソーシャルタギングデータ，要約中の文に対するクリック情報などを用いて，ユーザごとにパーソナライズした要約を生成する手法が提案されている [6,7, 8, 34, 35].

談話構造を考慮した generic な要約の研究としては次のような研究がある. Marcu は, 修辞構造理論 [36] に基づいて構築した Elementary Discourse Unit （EDU）を最小の談話単位とする修辞構造木に従って EDU をランキングし，ランキング上位の EDUを抽出して要約とする手法を提案した [37]. 平尾らは，修辞構造木を談話依存構造木へ変換する方法を提案し，整数計画問題に基づく談話依存構造木の刈
り込みによって要約を生成する手法を提案した [3].菊池らは，文間の依存構造と単語間の依存構造の両方を考慮して，整数計画問題に基づいて重要文抽出と文圧縮を同時に行う手法を提案した [4].

近年，自然言語処理の分野では，ラベルなしの膨大なテキストデータを使用して事前学習した言語モデルを下流タスクでファインチューニングするアプローチが注目されており [38], 要約タスクにおいても事前学習の有効性が確認されている $[5,39,40]$. Liu らは，文書のエンコーディングに BERT [10]を使用し，入力の各文の先頭に [CLS] トークンを付与することで文ごとの特徴量を獲得し，各 [CLS] トークンに対応するエンコーダの最上位層の出力ベクトルにシグモイドを適用することで抽出する文か否かを推定する手法を提案した [39]. Xu らは，Liu らの手法を拡張し，RST の句構造を変換して得られた依存構造を制約として文書をエンコーディングし，EDU を抽出する手法を提案した [5]. Zhang らは，文書中の重要文を mask して復元するように学習した事前学習モデルが，他の事前学習モデルよりも要約タスクにおいて高い性能を示すことを確認した [40].

## 3 興味度推定モデル

ユーザのプロフィール情報（年齢や職種・業種, ニュースのジャンルに対する興味度，趣味など [11]） に基づいてニュース記事全体の話題に対する興味度と各文に対する興味度を推定するモデルを提案する. 提案モデルの概略図を図 1 に示す. タイトルに対する興味度を記事全体の話題に対する興味度として，1 文目の前にタイトルを入力する. Personalized Sentence Encoder（図 2) では，文の単語系列を BERT [10]に与え，得られた単語埋め込み表現系列に対してプロフィール特徴量をクエリとして, personalized attention [41] を計算する. さらに，補助情報として，
文書内文位置，文書内段落位置，段落内文位置，談話依存構造木における深さを与える。次に，得られた文べクトルを双方向の GRU [42] に与え，前後の文の情報を考慮した後, Graph Neural Netowork (GNN) [43] により，タイトルをルートノードとした文間の依存構造に基づく情報の伝搬を行う，最後に，談話構造を反映した文べクトルを sigmoid を活性化関数とする出力層に与え, 各文について興味があるか否かを推定する。

## 4 興味文抽出モデル

話題が異なる $|D|$ 個の文書からユーザが興味のありそうな文を抽出し, 音声で $T$ 秒以内に伝える要約問題を考える。要約の要件として，ユーザにとって興味がある内容であること，冗長でないこと，内容が一貫していることが挙げられる。 そこで，要約問題を，文間の依存構造を制約とし，文に対する興味度の高さと文間の類似度の低さのバランスで目的関数を定義した整数計画問題として定式化する.

$
\max . \quad \sum_{d \in D} \sum_{i<j \in S_{d}} b_{d i} b_{d j}\left(1-r_{d i j}\right) y_{d i j}
$

s.t.

$
\begin{aligned}
& \forall d, i, j: \quad x_{d i} \in\{0,1\}, \quad y_{d i j} \in\{0,1\} \\
& \sum_{d \in D} \sum_{i \in S_{d}} t_{d i} x_{d i} \leq T \\
& \forall d<d^{\prime}:-L \leq \sum_{i \in S_{d}} x_{d i}-\sum_{i \in S_{d^{\prime}}} x_{d^{\prime} i} \leq L \\
& \forall d, i: \quad j=f_{d}(i), \quad x_{d i} \leq x_{d j} \\
& \forall d, c, i \in C_{d c}: \sum_{j \in C_{d c}} x_{d j}=\left|C_{d c}\right| \times x_{d i} \\
& \forall d, i, j: \quad y_{d i j}-x_{d i} \leq 0 \\
& \forall d, i, j: y_{d i j}-x_{d j} \leq 0 \\
& \forall d, i, j: \quad x_{d i}+x_{d j}-y_{d i j} \leq 1
\end{aligned}
$

変数の定義を表 1 に示す. ここで，文書 $d$ の $i$ 番目の文を文 $d i$ と表現する.$b_{d i}$ は，興味度推定モデルで推定した文 $d i$ に対する興味度の值である. $r_{d i j}$ は, 文 $d i$ と文 $d j$ の内容語の Bag-of-Words のコサイン類似度である。

式 2 は，要約の発話時間を $T$ 秒以下とする制約である。式 3 は，抽出する文の数の文書間での偏りを $L$ 文以下に抑える制約である. 式 4 は，ある文 $d i$ を含める場合，談話依存構造木における親ノードの文 $d j$ も含めなければならないとする制約である. 式 5 は，チャンク中のある文 $d i$ を含める場合，同チャンクに含まれる他の文も含めなければならないとする表 1 変数の定義

制約である.チャンクとは，親ノード文を理解するために欠かせない情報が子ノード文に書かれている場合，これらをまとめて提示すべきであることを表した文の集合である. 式 6 から式 8 は, 文 $d i$ と文 $d j$ が選ばれた際に $y_{d i j}=1$ とするための制約である。

文書間での最大許容偏り文数 $L$ は, 最大要約長 $T$ と, 要約対象の文書の数 $|D|$, 一文書あたりの平均発話時間 $\bar{t}$ に基づいて以下の式で求める.

$
\begin{aligned}
L & =\left.\lfloor\frac{\bar{N}}{\sqrt{|D|}}+0.5\right.\rfloor \\
\bar{N} & =\frac{T}{\bar{t} \times|D|}
\end{aligned}
$

$\bar{N}$ は 1 記事から抽出が期待される文の数を表し，その値を文書数の平方根で割り，四捨五入した值を $L$ とする.

## 5 実験

ニュース記事に対して談話構造と興味度を付与したデータセット [11]を使用した. このデータセットは，文を談話単位として，15 文から 25 文のニュー ス記事 1200 個に対して，ウェブニュースのクリッピングの専門家が「係り先」「談話関係」「チャンク」 を付与した談話構造のデータと, 同じ 1200 記事に対して，クラウドソーシングで 1 人あたり 6 記事, 1 記事あたり 11 人以上となるように配分して，合計 2507 人にプロフィールアンケートと, ニュース記事の話題と文について 6 段階の興味度（6:とても興味がある，5:興味がある，4:どちらかといえば興味がある，3:どちらかといえば興味がない，2:興味がない，1:まったく興味がない）を回答させたデー タからなる. 本研究では, 6 記事の回答時間が 6 分以上 20 分以下で，年齢が 20 代 50 代，職種と業種が「その他」ではなく, 低頻度の職種でない被験者 1154 人のデータを使用した.

## 5.1 興味度推定性能の評価

BERT の事前学習モデルとして，情報通信研究機構が公開しているモデルを用いた1). 使用した BERT モデルは，日本語 Wikipedia の全記事に対して, Juman 辞書を用いた $\mathrm{MeCab}^{2}$ [44] により形態素解析を行ったテキストを入力として，語彙数が 10 万語からなる BERT $_{\text {BASE }}[10]$ を学習したモデルである. 興味度データのうち，3 点以下のものを興味なし (ラベル“"0)，4 点以上のものを興味あり（ラベル“1”) としてモデルの学習を行った. 評価は, ユー ザ単位でデータを 10 分割にして交差検定を行った. 比較手法として, 提案モデルから personalized attentionを除いたモデル（BERT_BiGRU_GNN）と， GNN を除いたモデル（BERT_PA_BiGRU）と比較した。なお，BERT_BiGRU_GNNでは，BERTの [CLS] トークンの最上位層の出力を BiGRUに与えている. それぞれのモデルについて, 10 分割交差検定で Accuracy を計算した結果を表 2 に示す. 表では 「話題」（タイトルに対応するラベル）と「文」に分けて結果を示している. BERT_BiGRU_GNNよりも BERT_PA_BiGRU_GNN の方が Accuracy が高いことから，ユーザのプロフィールを考慮することの有効性が確認できた。さらに，BERT_PA_BiGRUよりも BERT_PA_BiGRU_GNN の方が Accuracy が高いことから，文間の依存構造を考慮することの有効性が確認できた.

## 5.2 興味文抽出性能の評価

文に対する興味度に基づいてユーザごとにジャンルの異なる 6 個のニュース記事を要約し，その内容を規定時間内に音声で伝える状況を考える. 原文の表記で文を発話するものとし，ニュース記事の各文を AITalk 4.1 (のぞみ $)^{3}$ )で音声合成した. 合成音声ファイルの再生時間に，文間の間（ま）1 秒，文書間の間（ま） 3 秒を加えた値を $t_{d i}$ とした. 整数計画問題は分枝切除法 $[45,46]$ で解いた ${ }^{4)}$. 評価尺度


図 3 最大要約長 $T$ を変化させたときの $\mathrm{EoIT}_{1}$ と $\mathrm{EoIT}_{2}$

には，情報伝達効率 $\mathrm{EoIT}_{\beta}$ [47] を用いた. $\mathrm{EoIT}_{\beta}$ は，要約が 4 点以上の文を含めることができた割合（被覆率）を $C, 3$ 点以下の文を除外できた割合（除外率）を $E$ としたとき，重み付き $\mathrm{F}$ 值 [48] に基づき，以下の式で計算する。

$
\operatorname{EoIT}_{\beta}=\frac{\left(1+\beta^{2}\right) \times C \times E}{\beta^{2} \times C+E}
$

$\beta=2$ のとき除外率を被覆率の 2 倍重視することを意味する。

最大要約長 $T$ を 180 秒から 540 秒まで 30 秒刻みで変化させたときの要約の $\mathrm{EoIT}_{1}$ と $\mathrm{EoIT}_{2}$ を図 3 に示す. $\operatorname{EoIT}_{\beta}$ (予測値) は，興味度として BERT_PA_BiGRU_GNN の 10 分割交差検定の予測値を用いたときの性能を表す. $\operatorname{EoIT}_{\beta}$ （理想値）は，興味度としてデータセットの正解値を用いたときの性能を表す。各曲線は被覆率と除外率のバランスが最も取れた時刻で最大となっている. EoIT (理 $^{2}$想值）は $T=450$ のとき 0.595, EoIT $_{1}$ （予測値）は $T=420$ のとき 0.526, EoIT $_{2}$ （理想値）は $T=270$ のとき $0.630, \mathrm{EoIT}_{2}$ (予測値) は $T=270$ のとき 0.577 で最大となった. 全時刻での $\mathrm{EoIT}_{1}$ と $\mathrm{EoIT}_{2}$ の理想値と予測値の差は平均で $6 \%$ 程度であった。

## 6 おわりに

ユーザのプロフィールに基づいてニュース記事の文に対する興味度を推定する手法および，興味度と談話構造に基づいて文を抽出し，ユーザごとにパー ソナライズした要約を生成する手法を提案した.

今後は，対話履歴を用いて適応的にパーソナライズした要約を生成する手法について検討する。

謝辞本研究は，JST START（JPMJST1912）の支援を受けたものである.

## 参考文献

[1]Inderjeet Mani and Eric Bloedorn. Machine learning of generic and userfocused summarization. In Proceedings of the 15th National / 10th Conference on Artificial Intelligence / Innovative Applications of Artificial Intelligence, pp. 820-826, 1998.

[2]Maya Sappelli, Dung Manh Chu, Bahadir Cambel, David Graus, and Philippe Bressers. SMART journalism: Personalizing, summarizing, and recommending financial economic news. The Algorithmic Personalization and News (APEN18) Workshop at ICWSM, Vol. 18, No. 5, pp. 1-3, 2018.

[3]Tsutomu Hirao, Masaaki Nishino, Yasuhisa Yoshida, Jun Suzuki, Norihito Yasuda, and Masaaki Nagata. Summarizing a document by trimming the discourse tree. IEEE/ACM Transactions on Audio, Speech and Language Processing, Vol. 23, No. 11, pp. 2081-2092, 2015.

[4]Yuta Kikuchi, Tsutomu Hirao, Hiroya Takamura, Manabu Okumura, and Masaaki Nagata. Single document summarization based on nested tree structure. In Proceedings of the 52nd Annual Meeting of the Association for Computational Linguistics, pp. 315-320, 2014.

[5]Jiacheng Xu, Zhe Gan, Yu Cheng, and Jingjing Liu. Discourse-aware neural extractive text summarization. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pp. 5021-5031, 2020.

[6]Alberto Díaz and Pablo Gervás. User-model based personalized summarization. Information Processing and Management, Vol. 43, No. 6, pp. $1715-1734,2007$

[7]Rui Yan, Jian-Yun Nie, and Xiaoming Li. Summarize what you are interested in: An optimization framework for interactive personalized summarization. In Proceedings of the 2011 Conference on Empirical Methods in Natural Language Processing, pp. 1342-1351, 2011.

[8]Po Hu, Donghong Ji, Chong Teng, and Yujing Guo. Context-enhanced personalized social summarization. In Proceedings of the 24th International Conference on Computational Linguistics, pp. 1223-1238, 2012.

[9]高津弘明, 福岡維新, 藤江真也, 林良彦, 小林哲則. 意図性の異なる多様な情報行動を可能とする音声対話システム. 人工知能学会論文誌, Vol. 33, No. 1, pp. 1-24, 2018.

[10]Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 4171-4186, 2019

[11]高津弘明, 安藤涼太, 本田裕, 松山洋一, 小林哲則. ニュース記事に対する談話構造と興味度のアノテーション〜ニュース対話システムのパーソナライズに向けて〜. 言語処理学会第 27 回年次大会発表論文集, 2021.

[12]Vipul Dalal and Latesh Malik. A survey of extractive and abstractive text summarization techniques. In Proceedings of the 6th International Conference on Emerging Trends in Engineering and Technology, pp. 109-110, 2013.

[13]Güneş Erkan and Dragomir R. Radev. LexRank: Graph-based lexical centrality as salience in text summarization. Journal of Artificial Intelligence Research, Vol. 22, No. 1, pp. 457-479, 2004

[14]Rada Mihalcea and Paul Tarau. TextRank: Bringing order into texts. In Proceedings of the 2004 Conference on Empirical Methods in Natural Language Processing, pp. 404-411, 2004

[15]Ramesh Nallapati, Feifei Zhai, and Bowen Zhou. SummaRuNNer: A recurrent neural network based sequence model for extractive summarization of documents. In Proceedings of the 31th AAAI Conference on Artificial Intelligence, pp. 3075-3081, 2017.

[16]Jiacheng Xu and Greg Durrett. Neural extractive text summarization with syntactic compression. In Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing, pp. 3292-3303, 2019

[17]Abigail See, Peter J. Liu, and Christopher D. Manning. Get to the point: Summarization with pointer-generator networks. In Proceedings of the 55th Annual Meeting of the Association for Computational Linguistics, pp. 10731083, 2017.

[18]Arman Cohan, Franck Dernoncourt, Doo Soon Kim, Trung Bui, Seokhwan Kim, Walter Chang, and Nazli Goharian. A discourse-aware attention model for abstractive summarization of long documents. In Proceedings of the 2018 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 615-621, 2018.

[19]Romain Paulus, Caiming Xiong, and Richard Socher. A deep reinforced model for abstractive summarization. In Proceedings of the 6th International Conference on Learning Representations, pp. 1-13, 2018.

[20]Ramakanth Pasunuru and Mohit Bansal. Multi-reward reinforced summarization with saliency and entailment. In Proceedings of the 2018 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 646-653, 2018.

[21]Yen-Chun Chen and Mohit Bansal. Fast abstractive summarization with reinforce-selected sentence rewriting. In Proceedings of the 56th Annual Meeting of the Association for Computational Linguistics, pp. 675-686, 2018.

[22]Wan-Ting Hsu, Chieh-Kai Lin, Ming-Ying Lee, Kerui Min, Jing Tang, and Min Sun. A unified model for extractive and abstractive summarization Association for Computational Linguistics, pp. 132-141, 2018.

[23]Junjie Li, Haoran Li, and Chengqing Zong. Towards personalized review summarization via user-aware sequence network. In Proceedings of the 33rd AAAI Conference on Artificial Intelligence, pp. 6690-6697, 2019

[24]Yu-Hsiu Chen, Pin-Yu Chen, Hong-Han Shuai, and Wen-Chih Peng. TemPEST: Soft template-based personalized EDM subject generation through collaborative summarization. In Proceedings of the 34th Association for the Advancement of Artificial Intelligence, pp. 7538-7545, 2020.

[25]Anastasios Tombros and Mark Sanderson. Advantages of query biased summaries in information retrieval. In Proceedings of the 21st Annual International ACM SIGIR Conference on Research and Development in Information Retrieval, pp. 2-10, 1998.

[26]Changhu Wang, Feng Jing, Lei Zhang, and Hong-Jiang Zhang. Learning query-biased web page summarization. In Proceedings of the 16th ACM Conference on Conference on Information and Knowledge Management, $\mathrm{pp}$. $555-562,2007$

[27]Sun Park, Byung Rae Cha, and JangWoo Kwon. Personalized document summarization using pseudo relevance feedback and semantic feature. IETE Journal of Research, Vol. 58, No. 2, pp. 155-165, 2012.

[28]Jennifer Williams, Sharon Tam, and Wade Shen. Finding good enough: A task-based evaluation of query biased summarization for cross language information retrieval. In Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing, pp. 657-669, 2014

[29]Róbert Móro and Mária Bieliková. Personalized text summarization based on important terms identification. In Proceedings of the 23rd International Workshop on Database and Expert Sytems Applications, pp. 131-135, 2012.

[30]Guangbing Yang, Dunwei Wen, Kinshuk, Nian-Shing Chen, and Erkki Sutinen. Personalized text content summarizer for mobile learning: An automatic text summarization system with relevance based language model. In Proceedings of the 2012 IEEE Fourth International Conference on Technology for Education, pp. 90-97, 2012.

[31]Uriel Ramírez, Yasmín Hernández, and Alicia Martínez. Towards personalized summaries in spanish based on learning styles theory. Research in Computing Science, Vol. 148, No. 5, pp. 115-123, 2019.

[32]Zehra Kavasoğlu and Şule Gündüz Öğüdücü. Personalized summarization of customer reviews based on user's browsing history. International Journal on Computer Science and Information Systems, Vol. 8, No. 2, pp. 147-158, 2013

[33]Mickaël Poussevin, Vincent Guigue, and Patrick Gallinari. Extended recommendation framework: Generating the text of a user review as a personalized summary. In Proceedings of the 2nd Workshop on New Trends on Content-Based Recommender Systems co-located with 9th ACM Conference on Recommender Systems, pp. 34-41, 2015.

[34]Chandan Kumar, Prasad Pingali, and Vasudeva Varma. Generating personalized summaries using publicly available web documents. In Proceedings of the 2008 IEEE/WIC/ACM International Conference on Web Intelligence and Intelligent Agent Technology, pp. 103-106, 2008

[35]Xindong Wu, Fei Xie, Gongqing Wu, and Wei Ding. Personalized news filtering and summarization on the web. In Proceedings of the 2011 IEEE 23 rd International Conference on Tools with Artificial Intelligence, pp. 414 $421,2011$.

[36]William C. Mann and Sandra A. Thompson. Rethorical structure theory: Toward a functional theory of text organization. Text, Vol. 8, No. 3, pp. 243-281, 1988

[37]Daniel Marcu. Improving summarization through rhetorical parsing tuning. In Proceedings of the 6th Workshop on Very Large Corpora, pp. 206-215, 1998.

[38]XiPeng Qiu, TianXiang Sun, YiGe Xu, YunFan Shao, Ning Dai, and XuanJing Huang. Pre-trained models for natural language processing: A survey. 2020.

[39]Yang Liu and Mirella Lapata. Text summarization with pretrained encoders. In Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing, pp. 3730-3740, 2019.

[40]Jingqing Zhang, Yao Zhao, Mohammad Saleh, and Peter J. Liu. PEGASUS: Pre-training with extracted gap-sentences for abstractive summarization. In Proceedings of the 37th International Conference on Machine Learning, pp. 11328-11339, 2020.

[41]Chuhan Wu, Fangzhao Wu, Mingxiao An, Jianqiang Huang, Yongfeng Huang, and Xing Xie. NPA: Neural news recommendation with personalized attention. In Proceedings of the 25th ACM SIGKDD International Conference on Knowledge Discovery \& Data Mining, pp. 2576-2584, 2019.

[42]Kyunghyun Cho, Bart van Merriënboer, Caglar Gulcehre, Dzmitry Bahdanau, Fethi Bougares, Holger Schwenk, and Yoshua Bengio. Learning phrase representations using RNN encoder-decoder for statistical machine translation. In Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing, pp. 1724-1734, 2014.

[43]Filippo Maria Bianchi, Daniele Grattarola, Lorenzo Livi, and Cesare Alippi. Graph neural networks with convolutional ARMA filters. arXiv:1901.01343v6, pp. 1-15, 2020.

[44]Taku Kudo, Kaoru Yamamoto, and Yuji Matsumoto. Applying conditional random fields to Japanese morphological analysis. In Proceedings of the 2004 Conference on Empirical Methods in Natural Language Processing, pp. 230-237, 2004

[45]John E. Mitchell. Branch-and-cut algorithms for combinatorial optimization problems. Handbook of Applied Optimization, pp. 65-77, 2002.

[46]Manfred Padberg and Giovanni Rinaldi. A branch-and-cut algorithm for the resolution of large-scale symmetric traveling salesman problems. SIAM Review, Vol. 33, No. 1, pp. 60-100, 1991

[47]Hiroaki Takatsu, Mayu Okuda, Yoichi Matsuyama, Hiroshi Honda, Shinya Fujie, and Tetsunori Kobayashi. Personalized extractive summarization for a news dialogue system. In Proceedings of the 8th IEEE Spoken Language Technology Workshop, 2021.

[48]Nancy Chinchor. MUC-4 evaluation metrics. In Proceedings of the 4th conference on Message understanding, pp. 22-29, 1992.