アテンションが記憶想起の認知モデルたりうるならば、記憶の表現としては何が妥当か？

ン重みのエントロピーにより取り出しの困難さ（干近年の計算心理言語学では、アテンションの人間渉度合い）を定量化することが試みられている。の記憶想起のモデルとしての妥当性が検証されてい前述の言語モデルによる予測処理のモデリングる。しかし、Transformerのアテンションが扱う表現の多くがMarrの3つのレベル[8]における計算理・の単位はトークンであるのに対し、伝統的に計算心論のレベル付・近・に位置付けられるのに対し、アテン理言語学では人間の文処理は統語構造の構築を伴ションによる記憶想起のモデリングは、より具体的・うとされてきた。本研究では、統語構造を表現単位な表現とアルゴリズムのレベルに明・確・に位置付けらとして扱うTransformer(TransformerGrammar,TG)のれる。このレベルにおいては、アテンションというアテンションが、人間の記憶想起のモデルとして妥アルゴリズムとそれが操作の対象とする表現（つま当なのかを検証する。結果、TGのアテンションはり、トークン列）は不可分であり、その総体がモデTransformerを上回る読み時間の説明力を達成し、アリングの対象となる[9]。一方、伝統的な（計算）心テンションの記憶想起アルゴリズムとしての妥当性理言語学では、人間の文処理は線形な単語列の処理を裏付けるとともに、統語構造を表現単位として想のみには還元できず、逐次的な統語構造の構築を伴定することの重要性を示した。うことが示されてきた。例えば、予測処理のモデリングでは、統語構造を陽に構築する言語モデルは