近年、大規模言語モデルの発展が著しく、自然言語生成の様々な研究が進展している。一方、識別タスクなどの自然言語理解への大規模言語モデルの応用はあまり研究が活発ではない。本研究では、言語識別タスクの中でもモデルの多言語性能が重要であるcross-lingualtransferについて、サイズや学習データが異なる複数のモデル・設定を用いて、大規模言語モデルの性能を評価する。実験の結果、ターゲット言語のデータがないzero-shot設定でもモデルの大規模化により転移される知識が増加すること、F1-scoreの上昇には大規模言語モデルでもfew-shotによる少量のターゲット言語を必要とすることなどが分かった。

近年、ChatGPTやLlama2[1]をはじめとする大規模言語モデル(LLM)が急速に発展している。それにともない、自然言語生成(NLG)の様々なタスクにおいて大規模言語モデルの実用可能性が高まり、活発に研究が行われている。一方で、大規模言語モデルの自然言語理解（NLI）タスクに対する応用は、従来の比較的小規模なモデルでも実行可能だったこともあり、自然言語生成タスクに比べて注目度が低い。だが、自然言語理解タスクにおいても、モデルや学習データセットの大規模化の恩恵はあると思われる。特に、近年の大規模言語モデルは多言語化が進んでおり、多言語性能が必要なタスクにおいて、従来のモデルを上回る性能を発揮することが期待される。そこで本研究では、言語識別タスクにおけるcross-lingualtransferについて、大規模言語モデルの性能を検証する。cross-lingualtransferとは、あるタスクにおいてターゲット言語の学習データが少ないとき、リソースが豊富なソース言語の学習データを用いてモデルを学習し、そのモデルをターゲット言語に適用する手法である。本研究では、日英ニュース記事のタグ付け問題を対象として、ターゲット言語を日本語、ソース言語を英語とした実験を行い、大規模言語モデルを含む複数モデルの識別性能を比較評価する。