言語モデルにおける統語的長距離依存関係の内部操作

1.1背景近年,言語モデルの内部表現に関する言語学的研究が盛んであり,特にStructuralprobing手法による一連の研究は,Transformerモデル[1]の内部で統語情報が,トークン埋め込み近傍で線形的に近似する形で表示・保存されていることを明らかにしてきた[2,3,4].一方,モデル内部で,統語情報がどのようなプロセスを経て構築されるのかについては議論が続いており,Machanisticinterpretability[5,6]の分野で,統語・文法情報に特化したコンポーネントの存在がいくつか報告されている[7,8,9,10].しかし,それらが(a)どのような操作であるか(操作的性質),(b)操作として一般化されたものなのか,あるいは構文ごとに別個のヒューリスティクスを用いているのか(操作的一般化)に関しては,明らかになっていない.1.2目的そこで本研究では,CausalIntervention手法の1つであるActivationPatching[11,12,13]を用いて,モデルが長距離依存関係に対して,(a)どのような操作を内在化しているのか,また,(b)それらが一般化され統語表示(Structuralprobing)InputモデルRelativeClauseトークン埋め込みSubjRelativeMatrixVerbSubjClauseMatrixVerb統語操作(Causalintervention)admiredThemanhimselfMatrix-Objwhothewoman...Matrix-VerbRelativeClauseSubjMatrix-SubjInhibitingthewomanOperation1内部回路PayingattentiontoThemanOperation2ProvidingatokenhimselfOperation3再帰代名詞)と統語移動がある依存関係(wh-疑問文,分裂文)に着目し,当該依存関係に関する内部操作を特定することを目的とする.た操作群として抽出できるかを検証する.ここでは[14]にならいモデル内部における統語情報に関する表示と操作を,図1のように,それぞれ認知科学における計算理論レベルとアルゴリズムレベルに相当するものとして位置付ける[15].モデル内部における統語表示はいわゆる文法関係や階層構造関係を表示するレベルであり,統語操作は文法関係構築のプロセスに相当すると考える.1）