大規模言語モデルに対するプロービングによる複合動詞の意味理解の分析

本研究は，大規模言語モデル(LLM)が日本語複合動詞の意味関係および成立可否をどの程度捉えているかをプロービングにより検証する．(A)複合動詞の意味による分類，(B)複合動詞として妥当であるかの判定という2つのタスクで評価を行う．評価は，凍結LLMの層別に線形分類器を学習し，複合動詞を一まとまりとして入力する条件と，それぞれを分割して表現を統合する条件を比較する．結果として，いずれのタスクでも一まとまりでの入力が分割入力を上回り，複合動詞の理解には構成動詞の関係性が寄与する可能性が示唆された．さらに，日本語の大規模コーパスで学習されたLLMではこの差が大きい傾向が見られた．