多言語モデルには言語非依存の処理系統が存在するか

多言語モデルのプロービングによって言語モデルの多言語性を分析する動きは活発化してきているが，個別言語に依存しない，言語間で共通の処理系統が多言語モデル内に存在するのかについては十分に明らかになっていない．そこで本研究では，第二言語を獲得した言語モデルに焦点を絞り，これらの言語モデルが，第一言語(L1)，第二言語(L2)間で対応する文の意味に関して言語非依存の共通の処理を行っているのかについて，内部表現や発火するニューロンの観点から調査する.実験の結果，言語モデルは，対応する文の意味について個別言語に依存しない共通の処理をしていることが示唆された．