\label{sec:intro}ニューラルネットワークを利用したSequence-to-sequenceモデルの発展により，生成型自動要約の性能は飛躍的に向上した．Sequence-to-sequence要約モデルの学習においては，新聞記事\cite{nallapati-etal-2016-abstractive}であれば見出し，ソーシャルメディア\cite{kim-etal-2019-abstractive}やレビュー\cite{DBLP:conf/aaai/LiLZ19}であればタイトル，メール\cite{zhang-tetreault-2019-email}であれば件名を要約とみなして使用する．これらの要約は本文に書かれた内容の重要な箇所を適切かつ簡潔に記述していることが望ましい．しかしながら，過去の多くの研究が要約モデルの学習データセットには不適切な本文−要約ペアが多く含まれることを報告している\cite{zhang-tetreault-2019-email,DBLP:conf/aaai/LiLZ19,kryscinski-etal-2019-neural,matsumaru-etal-2020-improving}．具体例を表\ref{tab:inappropriate_example}に示す．例はRedditTitleデータ\cite{kim-etal-2019-abstractive}，EnronSubjectデータ\cite{zhang-tetreault-2019-email}から引用したものである．表の上段の例では本文にはタイトルの続きが書かれており，タイトルは本文に書かれている内容を反映していない．下段の例では，件名は簡潔すぎて情報不足であり，要約としての体裁を成していない．こうしたノイズを含むデータセットに対処する方法が求められている．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table1\begin{table}[h]\input{06table01.tex}\caption{タイトル，件名が本文の要約として不適切な例}\label{tab:inappropriate_example}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\newpageノイズを含むデータから効率的にモデルを学習させる方法の1つとしてカリキュラムラーニング\cite{10.1145/1553374.1553380}が用いられている．カリキュラムラーニングは元来，学習データの順序を変えることで，収束速度やモデルの性能を上げる手法であるが，ノイズを含むデータでモデルを学習させる際にも有効性が示されている\cite{wang-etal-2018-denoising,wang-etal-2019-dynamically,kumar-etal-2019-reinforcement}．しかしながら，これまでカリキュラムラーニングは要約タスクに応用されてこなかった．本研究の目的の1つはカリキュラムラーニングの要約タスクへの有効性を検証することである．カリキュラムラーニングにおける学習データの順序の変更には，ノイズの量や難易度を表す指標が通常用いられる．学習はノイズの多いデータ群あるいは難易度の低いデータ群から始まり，徐々にノイズの少ないものあるいは難易度の高いものに移行する．ソートの際に使用する指標として，文生成タスク\cite{Cirik2016VisualizingAU}や翻訳タスク\cite{kocmi-bojar-2017-curriculum,platanios-etal-2019-competence,zhou-etal-2020-uncertainty}においては，出力文の長さが難易度の指標として用いられている．ノイズを表す指標として，翻訳タスクにおいて2つの生成モデルの尤度差を用いて，カリキュラムラーニングに適用した研究がある\cite{wang-etal-2018-denoising,wang-etal-2019-dynamically,kumar-etal-2019-reinforcement}．2つの生成モデルはノイズの少ないコーパスとノイズの多いコーパスでそれぞれ学習したSequence-to-sequenceモデルである．ここではノイズは翻訳元の文章と翻訳先の文章で対応の取れない情報を指している．要約分野においては，新聞記事などのデータセットはソーシャルメディアやメールのデータセットに比べてノイズが少ないと考えられる．しかし，要約データは要約の長さ，Density（要約箇所が本文の全体か，一部分かを示す指標），圧縮率，抽出率（要約の単語が本文に含まれる割合）などの性質がデータセットによって大きく異なる\cite{zhong-etal-2019-closer}．異なるデータセットで学習したモデルは，ノイズのみでなく，こうした性質を考慮したモデルになってしまう問題がある．そのため，先行研究\cite{wang-etal-2018-denoising,wang-etal-2019-dynamically,kumar-etal-2019-reinforcement}を要約モデルに適用する場合，同じドメインでノイズの多寡のみが異なるデータセットが必要になるが，こうしたデータセットは存在しない．そこで本研究のもう1つの目的として，ノイズを含む単一コーパスからノイズを定量化してカリキュラムラーニングに適用する手法を提案する．本研究では，ノイズを含む単一コーパスからノイズを定量化できるモデルAppropriatenessEstimatorを提案する．本モデルは本文−要約の正しいペアと，ランダムに組み合わせたペアを分類する．ランダムに組み合わせたペアの要約は本文の内容を反映していない不適切なものである．不適切なペアと実際のペアを分類するように学習することで，AppropriatenessEstimatorは本文−要約ペアの“適切性”が判別可能になる．この適切性をカリキュラムラーニングに適用する．すなわち，適切性をデータのソートに使用し，要約モデルの学習時，学習データを不適切なペアから適切なペアへと徐々に変化させる．本研究ではノイズを多く含む要約のデータセットとして，2つのデータセットで実験を行った．EnronSubjectデータセット\cite{zhang-tetreault-2019-email}とRedditTitleデータセット\cite{kim-etal-2019-abstractive}である．両者とも学習データにはノイズが多く含まれるが，EnronSubjectデータセットの開発データセットと評価データセットは，人手により整理されたものである．一方RedditTitleデータセットの開発データセット，評価データセットはノイズを含む生のデータセットである．本研究では，要約タスクに対するカリキュラムラーニングの有効性と，提案手法の効果を検証するため，3つの要約モデルと3つのカリキュラムで実験を行う．要約モデルには，事前学習要約モデルと非事前学習要約モデルを用いる．事前学習モデルとしてBART\cite{lewis-etal-2020-bart}，非事前学習モデルとしてTransformer\cite{NIPS2017_7181}とSeq2seqWithAttention\cite{DBLP:journals/corr/BahdanauCB14}を採用する．実験において，カリキュラムラーニングおよび提案手法であるAppropriatenessEstimatorは事前学習モデル，および非事前学習モデル両方の性能を改善した．カリキュラムラーニングに用いられるカリキュラムにはいくつかの種類が存在する．学習データを徐々に変更するもの，学習データを徐々に増やしていくもの，学習データを徐々に減らしていくものなどがある．実験結果から，事前学習モデルに有効なカリキュラムと非事前学習モデルに有効なカリキュラムが異なることが判明した．事前学習モデルにとっては，終盤に少数のデータでFine-tuningを行うカリキュラムが有効であり，非事前学習モデルにとっては序盤に多数のデータで汎化を行うことが有効であった．また，人手による評価を行い，提案手法であるAppropriatenessEstimatorをカリキュラムラーニングに適用した方法が要約モデルの性能を向上させることを示した．要約のデータの性質の評価に，抽出率（要約の単語が本文に含まれる割合）\cite{kim-etal-2019-abstractive}や，含意判定確率\cite{matsumaru-etal-2020-improving}がこれまで用いられてきた．本研究で提案した適切性をこれらの性質や入力長，出力長などの統計量と比較し，適切性の性質を議論する．加えてこれまでカリキュラムラーニングに用いられてこなかった上記抽出率や含意判定確率が要約タスクにおけるカリキュラムラーニングに対して有効であることを示す．本論文の貢献は以下である．\begin{itemize}\item3つの要約モデルでカリキュラムラーニングの実験を行い，カリキュラムラーニングの要約タスクに対する有効性を示した．\item単一のノイズを含む学習データから学習可能な，入力文と出力文の適切性を計算するモデル\textit{AppropriatenessEstimator}を提案し，実験により要約モデルの性能を向上させることを確認した．\item異なるカリキュラムが事前学習モデル，非事前学習モデルの性能にどのような影響を与えるかを分析した．\end{itemize}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%