コンテキストの量が質問応答モデルのショートカット推論に与える影響について

対象に分析を行っており,コンテキストに含まれる質問応答(questionanswering)とは,利用可能な情文章の量に関連するショートカット推論の挙動は著報源文章(コンテキスト)を基にユーザーから与えら者らの知る限り[7]における限定的な実験があるのれた質問文に対する回答を自動的に作成するタスクみである.である.近年では大規模なベンチマークデータセッさらにコンテキストの量は推論時だけでなく,ト[1]が公開されるなど活発に研究が行われており,retrieve-then-read方式の質問応答モデルを訓練する大規模言語モデルの利用などによって一部のベンチ際にも性能に影響を与えていることが示されているマークデータセットに対する性能が人間を超えるな[6,8].しかし特に質問応答に不要なコンテキストのど性能面での進歩も著しい[2].量が性能に与える影響が明らかになっていないな一方で質問応答モデルが本来意図されていた言語ど,訓練時のコンテキストの量に関する研究もまだ理解能力ではなく,訓練に利用したデータセットに十分行われているとは言えない.含まれるバイアスなどを利用したショートカット推そこで本研究ではretrieve-then-read方式の質問応論[3]を学習してしまう事例も報告されており,ベン答システムの訓練および推論の挙動が,コンテキスチマークデータセット以外への実応用に向けた課題ト中の必要な文章(positivepassage)と必要ない文章―2034―.(negativepassage)の量にどのように影響を受けるかを分析する.この研究は現在進行中であるが,本稿では執筆時点で完了している推論時の挙動に関する実験の結果について報告する.