事前学習済みの分散表現は表層的な知識を獲得しているか

自然言語処理の様々なタスクにおいて，事前学習済みの大規模言語モデル（LLM）を活用した手法が研究されている．LLMを用いた手法は，テキストや単語などのまとまった単位での生成タスクで高い性能を発揮することが知られている[1,2,3,4]．しかしながら，LLMは入力テキストに含まれる単語や文字を数えたり，部分文字列を認識したり，回文を作成したりといった，テキストの表層的な情報を理解する必要があるタスクを苦手としているようである．実際に，性能が良いとされているChatGPT(GPT-3.5)に対して単語の文字数や𝑁番目の文字を問うた場合，英語であっても長い単語については正しい回答が得られないことが多く，日本語では短い単語でも正しい回答が得られない(表1)．これは，文字数を指定した要約や抽出型の質問応答などの自然言語処理のタスクを解く際の課題になり得る．この問題点は，一般的な自然言語処理の手法がサブワード単位での分散表現を入力としていることに起因すると考えられる．一方で，LLMによって学習されたサブワード単位の分散表現や，それらをエンコードして得られるテキストのベクトル表現が，どのような表層的な情報を獲得できているかについての検証は少なく[5]，知識の蓄積に乏しい．そこで本稿では，3つの観点からLLMが学習した分散表現が表層的な情報を獲得できているかを検証GPT-3.5の出力例(2024年1月1日時点)．入Howmanylettersis“anthropologist”?出Theword“anthropologist”has13letters.入Whatistheseventhletterof“anthropologist”?出Theseventhletterof“anthropologist”is“o.”入「人類学者」は何文字の単語ですか？出「人類学者」は、日本語で5文字の単語です。入「人類学者」の3文字目は何ですか？出「人類学者」の3文字目は「者」です。する．英語での検証より，サブワード・単語の分散表現は表層的な長さと部分文字列に関する知識を部分的に獲得しているが，構成文字の出現位置についての情報は獲得していないことが分かった．また，LLMが表層的な知識を苦手とする原因として，出力部分でのボトルネックの存在が示唆された．