質問応答モデルはどのショートカットを優先して学習するか？

微調整された事前学習済み言語モデルは，本来の解き方ではなく訓練セット内の擬似相関を利用したショートカットを学習しやすい[1]．この傾向はショートカットが有効な“ショートカット例”への汎化に寄与する一方，ショートカットが無効な“反ショートカット例”への汎化を阻害する[2,3]．読解のための質問応答モデルは複数の種類のショートカットを学習しうることが示唆されている[4,5,6]．この問題を緩和するために，データ拡張[7,8]や損失関数[6,9,10]等の緩和手法が提案されてきたが，既存手法はショートカットの種類に応じた特性を十分に考慮していない．本研究ではショートカットの学習可能性（ショートカットをどれくらい学習し易いか）は緩和手法の設計に有用であると仮説を立てる．仮説検証のために，まず抽出型と多肢選択型読解における代表的なショートカットの学習可能性を行動テスト(§3.1)，質的分析(§3.2)，量的分析(§3.3)によって比較する．そして各ショートカットの学習の緩和に必要な反ショートカット例の割合を調べる(§3.4)．実験結果より，学習し易いショートカットほど学習の緩和に必要な反ショートカット例の割合が少ないことを示す．よって，緩和手法を設計する際にショートカットの学習可能性を考慮すべきだと主張する．∗現在はNTT人間情報研究所に所属する習するかを明らかにするための行動テスト(§3.1)の図解．