Triple-PhaseTransition:脳との関係から捉える大規模言語モデルの学習ダイナミクス

大規模言語モデル（LLMs）は，従来の言語モデルに対して常識問題や推論問題，機械翻訳などの下流タスクにおける性能が大幅に向上し，ヒトのように自然言語を扱えるようになってきた．一般的に，LLMsは学習が進むにつれて損失が減少していく[1,2]が，LLMsの学習ダイナミクスを分析する研究からは，LLMsはすべての能力を同時には獲得せず，学習の異なる段階で異なる能力を獲得していくことが示されている．ある能力は連続的な変化を通して獲得される[3,4]一方，ある能力は非連続的に突然獲得される．後者は言い換えると，モデルサイズや計算量，学習データ量に応じて突然これまで扱えなかった能力を扱えるようになる現象であり，近年注目されている．この現象は下流タスク連絡先:nishimoto.shinji.fbs@osaka-u.ac.jp,yu-takagi@nii.ac.jpを用いたBenchmark解析を通じて発見され，PhaseTransition[5]やEmergentAbilities[6]などと呼ばれている．また，近年のMechanisticInterpretabilityの研究を通じて，LLMsの内部状態でもこのような相転移的現象が報告されている[7,8,9]．しかし，LLMs内部で報告される相転移現象が学習過程でどのように発現するのかについては，未だ不明な点が多く残されている．ここで，近年LLMsの内部を人間中心に解釈する方法として，LLMsの内部表現とヒト脳活動とを対比するアプローチが注目されている[10,11,12,13]．具体的には，LLMsの潜在表現に単純な線形変換を適用するだけでヒト脳活動をモデル化できることがわかってきており，LLMsのヒト脳活動との類似性が示されただけでなく，ヒト脳活動と対比することによりLLMsの内部を解釈する方法として注目されている．これらの研究の代表的なものとして，LLMsと人間の両者の学習特性から議論した研究[14,15,16,17]やLLMsの内部状態の変化から議論した研究[18]が挙げられる．しかし，多くの先行研究では学習済みのLLMsを用いてヒト脳活動との対応が探られており，学習過程における相転移現象に注目していなかった．これらを踏まえ，本研究では，学習過程における，LLMsと脳の類似度を調べるEncoding解析，LLMsの内部状態の変化を調べるProbing解析，下流タスク精度の変化を調べる従来のBenchmark解析という3つの観点を統合した解析を行う．これによって，LLMsの学習ダイナミクスに新たな解釈を与える．本研究の主な貢献は以下である．1.LLMsの学習ダイナミクス解析を，従来の解析に加えてヒト脳とのアライメントを含めた3つの統合的な観点から行う．