LLMにおける知識と社会的推論能力の進化的解析

大規模言語モデル（LLM）の開発において，高度な認知能力の獲得メカニズムや，異なる能力間の相互関係（例えば知識と推論の関連性）は未解明な点が多い．既存の研究の多くは，学習済みモデルに対する評価や内部パラメータの静的な解析に留まっている．一方，生物学的な観点に基づき，環境への適応過程そのものを観察することで，機能の起源や構造を理解するアプローチがありうる．LLMの性能改善を目指した関連する取り組みとしては，進化的モデルマージ[1]等の最適化手法が提案されているが，LLMの適応進化そのものの理解は不十分であると考える．そこで，本研究は，進化計算に基づくLLMの最適化手法であるGENOME[2]を応用し，LLMの認知能力の進化過程を分析することでその特徴を理解することを目的とする．具体的には，LLMのパラメータ（LoRA）を遺伝子と見なし，進化的アルゴリズムを用いてタスクに適応させる実験系を構築する．特に，幅広い知識を要する「MMLU」と，他者の心的状態を推論する「ToMBench」という性質の異なる2つのタスク環境において，ランダムな初期状態からどのように能力が獲得され，またそれらが互いにどのように汎化するかを比較分析する．これにより，LLMにおける「知識」と「社会的推論」の構成的な関係性と，能力獲得におけるトレードオフのメカニズムを明らかにする．