自己修正に基づく固有表現抽出モデルの指示学習

固有表現抽出(NamedEntityRecognition;NER)は，文章中から人名や組織名などの固有表現の抽出および分類を行う自然言語処理の基礎的な下流タスクである．従来は抽出モデル[1]による分類問題として扱うことが多かったが，近年の大規模言語モデル(LargeLanguageModel;LLM)の発展に伴い，いくつかの研究[2,3,4]では生成モデルによるアプローチが抽出モデルより高性能であると報告されている．しかしながら，LLMによるアプローチも万能ではなく，少量データ[5]や特定のデータセット[2,4]においては抽出モデルの方が高性能であり，依然として抽出エラーが発生する．NERにおける抽出エラーを抑制するため，VeriﬁNER[6]ではSelf-Consistency[7]に基づく事後修正を可能とした．しかしながら，大量のエンティティが登録された知識ベースの利用を前提としており，こうした大規模知識ベースを常に用意することは現実的ではない．一方，LLMの高度な推論能力を活かした自己修正(Self-Correction;SC)に基づくアプローチが近年注目を集めている[8,9,10]．LLMが自律的に修正することから，必ずしも外部知識の類を必要としない利点はあるものの，その効果は算術推論[11]，常識推論[12]，コード生成[13]のようなタスクに集中しており，情報抽出で効果を示した例はない．本研究では，LLMが自らの誤りを検証(Self-Veriﬁcation;SV)し，検証結果に基づき自らの誤りを修正することで回答を洗練(Self-Reﬁnement;SR)する方法を提案する．具体的には，NERを指示学習する過程でSCを同時指示学習することで，自らの誤りを検証・修正するための知識を導入する(図1)．本研究におけるSCの学習データは，NERの教師データと学習済みのNERモデルのみ参照し自動構築するため，誤りパターンの生成や抽出エラーの検証・修正に関する人手の追加アノテーションを必要としない．本研究の貢献は以下の3点である．•NERにおける抽出エラーを定義し，修正可能な抽出エラーを事前分析により明らかにする．•NERとSCを同時指示学習することで，NERの性能が向上することを示す．•推論時にSCを実行することで，固有表現の抽出エラーを大幅に抑制できることを示す．