大規模言語モデル内部における言語と計算領域の区分

人間の脳において，言葉を流暢に扱う能力（言語）と，言語非依存な知識や推論，ないし社会性といった能力（思考）が，どれほど独立して機能しているのかという問いは，言語能力と思考能力は不可分かという言語（哲）学的な論争に端を発し[1,2,3]，主に神経科学領域において定量的に評価されてきた[4,5,6]．例えば，脳機能イメージングによる近年の観察によれば，言語の規則（語順など）に反応する言語領域と，（言語非依存に）計算や論理などに対応する思考領域は異なる，すなわち両者が独立しているとする主張がある[7,8,9]．またより広い文脈では，人間の言語処理が汎用的なネットワーク・計算で実現されているのか，言語特有なものなのかなど長らく議論されてきた[10,11,12]．このような議論を踏まえれば，一見人間らしい（あるいはそれ以上の）言語能力を見せる大規模言語モデル（LLM）の場合に，言語と思考がどの程度区分されているのかも当然関心の対象となる．この区分に対して言内部表現空間（計算を伴わない）言語空間言語外言語重心自然言語文言語内Hは言語領域内である可能性があるHは言語領域外言語内のばらつき<<D(H,L)D(H,L)D(L)いるかを調査したい．𝐿の重心から𝑙∈𝐿への平均距離よりも，ℎ∈𝐻への平均距離のほうが長/短ければ，𝐻と𝐿の領域は別れている/いないとする．語モデルをどう捉えればよいかという抽象的な議論[13]とは直交して，本研究では，言語と思考タスクによって実際に活性化する言語モデル内部の領域の違いを，ある種物理的なレベルで観察してみる．我々の実験では，第一歩として，特に言語に非依存な思考能力として算術計算をとりあげ，言語モデルの内部において，算術計算を伴う入力が，それ以外の言語系列と比べて，どれだけ離れた領域で扱われているかを調査する．具体的に実験では，モデル内の各層において，計算を伴う入力が，そうでない言語系列集合のばらつきに対して，内部表現空間内でどれだけ平均的に引き離されているかを観察する（図1）．少なくとも，これらの入力が，それ以外の言語系列に対して離れた場所でクラスタを形成するのであれば，算術計算に特化して活性化する領域がそこにあると考えてよいだろう．実験の結果，算術計算データは，内部表現空間において1層目から直ちに区別されていた．一方で，例えば単純な計算式に答えるデータが占める領域と，算術文章題データの領域ですら，いずれの層でも離れていたり，言語理解が必要である算術文章題においても，言語データ一般からは1層目から離さ.早い段階で個別の専用回路へ区分明確に区分不可基盤的な言語処理は共有パイプライン的な区分思考->言語空間言語モデルタスク非志向言語処理算術文章題処理…言語非依存な思考回路群数式処理…言語&思考…言語->思考空間入力が，言語モデル内でどう区分されている/いないかについて，例えば上のような可能性が考えられるだろう．れていたりと，似たタスクに共通の基盤的な言語処理や計算モジュールが割り当てられるパイプライン的な様子は観察できなかった．すなわち入力は，領域に直ちに振り分けられ，結果的に言語と計算も区分されて見えるが，似た問題同士の領域が重なることはないという点で，ある種冗長な内部機序である可能性がある．