LLMにおける知識と社会的推論能力の進化的解析

大規模言語モデル（LLM）は高度な認知機能を示すが，その能力の形成過程の理解は不十分である．本研究は，LLMを環境に適応する主体と捉え，遺伝的アルゴリズムを用いてゼロに近い能力状態からLoRAアダプタを進化させることで，認知タスクの性質が能力獲得過程に与える影響を分析した．知識集約型タスク（MMLU）と社会的推論タスク（ToMBench）を用いた実験の結果，環境の違いが適応度地形の形状に顕著な差をもたらすこと，進化経路は初期に重複し，後にタスク特異的に分岐すること，MMLU適応個体はToMタスクへ部分的に汎化するが逆は成立しないという非対称性があることが分かった．また，知識タスクへの適応がパターン認識的な社会的推論能力を向上させる一方で，深い推論能力とはトレードオフの関係にあることも示唆された．