大規模言語モデルに対するプロービングによる複合動詞の意味理解の分析

日本語には，「走り回る」や「書き記す」のように，二つの動詞が結合して一語の述語として振る舞う複合動詞が存在する．本論文では複合動詞の前要素を𝑉1，後要素を𝑉2と記す．𝑉1–𝑉2の結合は任意ではなく，「立ち食う」や「走り転ぶ」のように一般に用いられない組合せもある．これは，複合動詞の解釈が𝑉1と𝑉2の単純な合成のみではなく，結合形式そのものに対しても依存しうるためである．この点を「形式と意味の対応」というコンストラクション（特定の形式が特定の意味・機能と結び付いたペア）の観点から捉える立場では，𝑉1–𝑉2の形式と意味関係の対応が整理される．陳らはこの観点に基づき，複合動詞を意味関係で分類・体系化した[1]．例えば「連れ出す」は「連れる」を手段，「出す」を目的とする手段-目的に分類される．大規模言語モデル（LLM）は，大規模コーパスから日本語の語彙・構文・意味に関する知識を獲得している．一方で，複合動詞の意味関係がLLMの知識にどの程度反映されているかは明確でない．本研究は，LLMが複合動詞の意味関係をどの程度捉えているかを検証し，複合動詞を一まとまりとして扱うことが，𝑉1と𝑉2を分割して扱う場合に比べて意味関係の識別に有利かを問う．LLMが成分の意味に加えて結合形式に関わる手掛かりを利用しているなら，一まとまりで入力した条件がより高い性能を示すと予想される．本研究では，学習済みLLMを凍結し，内部表現から言語情報がどの程度読み出せるかを評価するプロービングにより分析する．具体的には，(a)複合動詞を一単位として入力する条件と，(b)𝑉1と𝑉2に分割して入力する条件で意味関係分類の精度を比較し，あわせて層別の表現から意味関係が読み出されやすい傾向も検討する．