近年,多言語モデルは複数言語にまたがる多くのタスクにおいて高い性能を示している.しかし,その中でも自然言語推論タスクに関しては,複数言語における転移学習性能の差異が,言語系統あるいは言語類型によるものなのか必ずしも明確に整理されていない.本研究では,言語ベクトルの類似度に基づく定量的な言語間距離により,自然言語推論タスクを用いた低資源言語への転移学習実験を行うことで,系統的距離および類型的距離が転移学習性能に与える影響を比較・分析する.実験の結果,従来の直感的分類では系統的・類型的類似性が認められてこなかった言語間での転移学習性能が,類似度が高いとされてきた言語間を上回るケースが見られた.この結果は,言語間の類似度に関する情報の言語モデルの埋め込みが,人間による区分とは異なる軸で組織化されていることを示唆する.

Gerzらによる研究[1]をはじめ,多くの多言語言語モデリング（multilinguallanguagemodelling,以下MLM）に関する研究において,言語の類型的特徴が言語モデルの性能に影響を与えることが示されている.Choenniら[2]は類型的に似ている言語は共同して埋め込み表現が作られるとしているし,Bankulaら[3]は,類型的言語間距離が低資源言語への転移学習の成否と相関するという結果を示している.これらの経験則を活用して,実際に低資源言語のみでモデリングを試みた例としては,FanらによるXLM-Rの語族ベースのファインチューニング[4],アフリカ言語特化型BERTモデルとしてOguejiらの「AfriBERTa」[5]とTonjaらの「InkubaLM」[6]があり,いずれも各種ベンチマークにおいて汎用型LLMより高い性能を報告している.しかしながら,言語間転移学習（cross-lingualtransfer,以下CLT）性能は言語ペアごとに大きく異なり,その差異を生み出す要因については未だ十分に解明されていない.従来の研究では,語族や地理的近接性といった言語系統に基づく説明が多く見られるが,これらの尺度はしばしば曖昧に用いられてきた.例えば,同一語族に属する言語であっても,統語構造や形態論的複雑性,語彙借用の程度は大きく異なる場合があり,系統関係のみをもってCLT性能を一義的に説明することは困難である.また,これらの類型的特徴がCLT性能とどのように関係しているのかについては,体系的な実証研究が不足している.既存研究では,「類型的に似ている」といった定性的な表現にとどまる場合が多く,系統・地理・類型といった異なる尺度が十分に区別されていないことも少なくない.本研究では,言語間自然言語推論タスクXNLIを評価に用いて,複数の言語ペアを二種類の言語距離尺度で分類した上で,CLT性能を比較・分析する.言語ペアは,同一クラスタ内距離,人間によるラベル付け距離,モデルが学習した埋め込み空間に基づく距離という三つの観点から設計される.本研究の目的は,CLT性能に影響を与える要因として,人間が定義する尺度を改めて精緻化し,また,モデルが獲得した尺度と比較した相対的な重要性を検証し,MLMにおける言語間距離尺度の課題を明確化することである.これにより,低資源言語処理におけるモデル設計および評価枠組みに対して,さらに実証的な指針を与えることを目指す.