言語モデルのパラメータから探るDetokenizationメカニズム

トークナイザは単語を複数のサブワードに分割することがあるが，その分割が言語的に意味のあるものになるとは限らない．推論の段階仮説（Stagesofinferencehypothesis）では，言語モデルの序盤層はこうしたサブワードトークン列をより意味のある表現に変換(Detokenize)するとされている．本研究では，従来のプロービングや因果介入などの経験的手法に依存せず，Detokenizationをモデルの重みに基づく解析によって観測できることを示す．具体的には，GPT-2の第1層の注意機構を解析的に分解し，トークンタイプに由来する寄与とトークンの位置に由来する項の寄与とを切り分けた分析を行い，近いトークンや頻出Bigramへの注意の偏りを明らかにする1）．