サプライザルによってガーデンパス効果を説明できる言語モデルは存在する

「人間の文処理の目的の一つは・予・測であり、単語の処理負荷はその単語の予測確率の負の対数に比例する」というのがサプライザル理論[1,2]である。計算心理言語学では、「コーパス頻度は人間の文処理に影響を与える」との原則[1]のもと、コーパス上での次単語予測で最適化された言語モデルの予測確率𝑝𝜃(単語|文脈)を、人間の予測確率𝑝human(単語|文脈)の代替として用いることで、サプライザル理論が経験的に検証されてきた。実際に、言語モデルのサプライザルは、人間の処理負荷を反映すると考えられる読み時間や脳波に対する説明力を持つことが示されており、サプライザル理論の経験的な裏付けがされてきた[3,4]。一方、ニューラル言語モデルのサプライザルが人間の処理負荷を捉えられるのは、統語的に単純な∗共同最終著者文を主として構成される自然コーパスに関してであり、“thehorseracedpastthebarnfell”[5]に代表される、統語的に曖昧な文における人間の処理負荷（ガーデンパス効果）は非常に小さく見積もってしまうことが明らかになっている[6,7]。この乖離の原因としては、以下の二つの可能性が指摘されている[8]：(i)確率推定の問題。すなわち、言語モデルの予測確率は、人間の予測確率とは必ずしも一致しないという可能性。(ii)サプライザル理論の問題。すなわち、ガーデンパス効果をサプライザルに還元することは不可能であるという可能性。特に、近年では、後者の可能性が強く主張されている[9,8]。本研究では、前者の可能性の観点から、「本当にサプライザルによってガーデンパス効果を説明できる言語モデルは存在しないのか？」という経験的な問いを検証する。具体的には、言語モデルのサプライザルを、ガーデンパス文における人間の読み時間に近づける微調整を実施し、微調整後の言語モデルがガーデンパス文および自然コーパスにおける読み時間を説明できるか評価する。結果として、微調整は自然コーパスでの人間の読み時間の説明性能を損なうことなく（むしろ向上させつつ）成功し、サプライザルによってガーデンパス効果を説明できる言語モデルは存在することが示された。