DataAugmentationは，教師あり学習においてその性能を改善させるために，訓練データを水増しする手法である．論文[3]では，複数のBERTを使って文中の単語を別の単語に置換するDataAugmentationの手法を提案し，それを文書分類タスクに適用することでモデルの性能が改善することが示されている．本研究では，その手法における拡張文と置換対象単語の選択方法を変更したより適切にデータを拡張できる手法を提案する．実験では，複数のタスクに対して提案手法によるDataAugmentationを試みた．その結果，提案手法は文書分類タスクの性能を改善できた．

DataAugmentationは，教師あり学習の性能向上を図るために，訓練データを水増しする手法である．基本的には，ラベル付きデータに対して，ラベルを変えずにデータのみに簡単な変換を行い，それを新規のラベル付きデータとして訓練データに加える．自然言語処理においては，テキスト中の単語をその単語の類似単語に置き換えるDataAugemtationの手法がある[1]．しかし，BERT[2]を用いてタスクを解く場合に，同じBERTのMaskedLanguageModelを利用して単語置換を行っても効果はほとんどない．置換によって得られる単語の知識は，既にタスク処理を行うBERTに組み込まれているからである．論文[3]では，この問題を解消するために，タスクに利用するBERTとは別種のBERTを使って類似単語を得る手法を提案し，その手法が文書分類タスクの性能を改善させることが実験によって示されている．これは，タスクに利用するBERTに含まれない単語の知識を置換によって獲得できたからであると考えられる．しかし論文[3]で提案された手法は，一部のラベル付きデータに対する拡張ラベル付きデータを多く生成することがあり，それによって拡張後のデータセットに偏りが生まれる可能性が高い．そこで本研究では，論文[3]で提案された手法を改善し，1つのラベル付きデータに対して1つの拡張ラベル付きデータを生成するようにした．また論文[3]では，livedoorニュースコーパス1）を用いた文書分類タスクのみで提案手法を評価しているが，他のタスクに対して手法が有効かどうかは不明である．そこで本研究では，日本語の言語理解ベンチマークであるJGLUE[4]を用いて，文書分類，文ペア分類，QAの3つのタスクで提案手法を評価し，その有効性を検証した．その結果，提案手法は文書分類タスクのみに対して有効であることが示された．