訓練可能なk近傍Retrieverで関係抽出事例を導入したニューラルプロンプティング

近傍法による関係抽出では，関係の事例を推論に利用すると，少ない訓練データでも高い性能で抽出が可能になるという報告がある．LLMによる抽出では，Retrieverによって得た事例を使う方法があるものの，事例の選択が微分できないため，Retrieverをend-to-endに訓練できない．そこで本研究では，微分可能なk近傍事例のソフトな選択を利用して，事例をソフトプロンプトとして導入するニューラルプロンプティングを行うことで，関係抽出でend-to-endにRetrieverを訓練できるようにする．標準的なベンチマーク用データセットのTACREDに対する抽出性能は，訓練事例数を10%と5%とした場合に，F値でそれぞれ71.0%と70.9%となり，訓練事例を削減した条件では最先端の性能が得られた．