指定要約長に応じたソフトな内容選択による要約長操作可能なEnd-to-End要約

自動要約に関する研究は多く，要約技術の応用例も増えてきている．我々は，要約技術の実用化に向けて必要となる要約長の操作に注目する．長さ制御可能な要約は，所望の長さの簡潔で流暢な要約を生成することを目的としている．その技術は，各デバイス，デザイン，ユーザに応じた適切な長さの要約を提供するために，ユーザエクスペリエンスの観点から求められている．要約に含めるべき情報量や粒度は，指定要約長によって異なるため，このタスクは単に長さを制御するだけでは機能しない．したがって，要約長操作可能な要約システムでは，生成されるテキストの長さを制御するだけでなく，要約に含めるべき情報を適切に選択する必要がある．本論文では，指定される任意の要約長𝑘に対して原文書中のトークンの重要度を評価し，それに応じて埋め込み表現を調整するソフトマスク機構SumTop-𝑘を提案する．ソフトマスク生成には微分可能なtop-k演算[1]を用いることで，End-to-End学習を可能にする．これは，内容選択機能を独立した抽出型要約モデルによって実現する既存研究[2]におけるEnd-to-End学習ができないという問題を解決する．BARTのEncoderに提案手法のSumTop-𝑘を組み込み，生成要約の品質と長さの操作性をCNNDailyMailとXSumデータセットを用いた実験により評価した．その結果，提案手法は既存手法と同等以上の要約性能を達成しつつ，要約長の制御が可能であることを確認した．特にCNNDailyMailデータセットにおいてはBARTや要約長操作可能な既存研究と比べて最も高いROUGEスコアを達成し，XSumデータセットでは，BARTと同程度のROUGEスコアを示した．さらに，SumTop-𝑘内で計算されるトークンごとのスコアが生成される要約に与える影響を分析し，SumTop-𝑘内のトークンスコアは生成要約に含まれるトークンと相関があることを示した．この結果を受け，SumTop-𝑘のスコアの順位換えによって，要約の内容を操作する可能性を検討した．