AugAnaloGPT:大規模言語モデルを用いたアナロジー生成によるデータ拡張

データ拡張(DataAugmentation)とは、新たなデータ収集なしに、訓練データの多様性を増やし、モデル性能を高める手法を指す。この手法は、自然言語処理(NLP)において、学習データ不足やデータ不均衡問題に対処する上で重要な役割を果たす[1]。しかし、ほとんどのデータ拡張手法は数百例程度のデータセットに対してのみ有効である[2]。本研究では数千例からなるデータセットにおいても学習データ不足に対処可能なデータ拡張として、大規模言語モデルを用いた文のアナロジー生成に基づく手法(AugAnaloGPT)を提案する。文のアナロジー生成とは対象ドメインが異なるが文の論理構造や意味の関係性が類似している類比文を生成することである。提案手法をJGLUEのJNLI[3]のデータセットに適用したところ、言い換えに基づく既存のデータ拡張手法を凌ぐ性能向上を確認できた。