固有表現候補の用語情報を取得するLLMを用いた固有表現抽出

大規模言語モデル(LargeLanguageModels;LLM)は様々な自然言語処理タスクで高い性能を誇っている．しかし，生物医学分野の文書から事前に定義された用語を抽出する固有表現抽出(NamedEntityRecognition;NER)においては，ファインチューニングを行う手法においても，未だ従来手法の性能に追いついていない[1]．生物医学分野におけるLLMを用いた固有表現抽出の性能向上のために，統合医学用語システム(UniﬁedMedicalLanguageSystem;UMLS)[2]から用語の定義やカテゴリといった用語情報を取得し，LLMの入力に付与する研究が注目を集めている[1,3,4]．しかし，これらの既存手法では，抽出モデルの判断に必要な情報か否かを情報取得時に考慮できていない．さらに，用語の定義やカテゴリの情報を個別に利用しているため，有効な情報の種類やその組み合わせは明らかになっていない．これらの課題を解決するために，本研究では，抽①固有表現候補抽出⼊⼒:MesnasignificantlyreducesIFO'sgenotoxicity.genotoxicityの後IFOの後LLMMesnaの後予測タグ固有表現候補予測確率(%)なしなし62[Chemical-1]Mesna38なしなし71[Chemical-1]IFO29[Disease-2]IFO'sgenotoxicity67[Disease-1]genotoxicity33各候補を検索・情報取得UMLS②⽤語情報込みの固有表現抽出⼊⼒:MesnasignificantlyreducesIFO'sgenotoxicity.以下，UMLSからの取得情報・Mesnaの定義や分類などの情報・IFOの定義や分類などの情報・IFO‘sgenotoxicityはUMLSに情報なし・genotoxicityの定義や分類などLLM抽出結果:[Chemical]Mesna[/Chemical]significantlyreduces[Chemical]IFO[/Chemical]'s[Disease]genotoxicity[/Disease].出モデルの予測に合わせた用語情報の利用の有効性の検証と有効な用語情報の組み合わせの発見を目的とする．抽出モデルの判断に必要な情報を取得するために，1段階目でLLMを用いた固有表現抽出で予測した固有表現候補について用語情報の取得を行い，取得した用語情報を用いて，再度，固有表現抽出を行う2段階の抽出手法（図1）を提案する．また，用語辞典から取得する情報の種類及びその組み合わせが抽出性能に与える影響を調査する．本研究の貢献は以下のとおりである．•固有表現抽出で抽出した抽出候補について取得した用語情報を用いて，再度，抽出を行う2段階のLLMを用いた固有表現抽出手法を提案．•LLMを用いた固有表現抽出において固有表現.Input:Recurrentreversibleacuterenalfailurefromamphotericin.Output:Recurrentreversibleacuterenalfailure[Disease-3]fromamphotericin[Chemical-1].候補を抽出するための新たな出力形式を提案．•LLMを用いた固有表現抽出における用語情報として，用語の定義とカテゴリを，用語の定義がない場合に親概念の定義を利用しながら組み合わせる方法が特に有効であることを示した．