デコーダモデルを用いた生物医学イベント抽出

生物医学イベント抽出はゲノム解析や新薬の開発の補助などに幅広い応用が期待される重要なタスクである[1]．生物医学イベントは，生体内の反応経路内の反応などを含むタンパク質のリン酸化や遺伝子の発現制御などの生体内エンティティの状態変化を表す．このため，イベントの自動抽出は反応経路の整理に利用でき，生物医学研究の効率化に貢献する．イベント抽出は，イベントの発生を最も表す表現であるトリガーとイベントの種類を表すイベントタイプ，イベントの要素である引数となるエンティティもしくはイベントとその役割を特定する．生体内ではある反応が別の反応を引き起こす複雑な反応経路があり，反応に対応する生物医学イベントの記述においてもあるイベントが別のイベントの引数となる階層的な構造が多く現れる[2]．図1に階層的なイベントの例を示す．Phosphorylation(リン酸化)タイプのイベントはPositiveregulation(+Regulation)(正の制御．イベントの活性化を表す）タイプのイベントの引数となる．そのため，生物医学イベント抽出では個々のイベントだけでなく，イベント間の関係も考慮した抽出が必要となる．JNKactivatedphosphorylationofc-jun.イベント抽出：エンティティ：トリガー：引数activated(+Regulation)phosphorylation(Phosphorylation)JNKc-Jun近年，情報抽出のタスクにおいて，事前に大量のテキストで学習されたLargeLanguageModel(LLM)を用いた生成による抽出手法が注目されている[3,4]．情報抽出手法は，BERT[5]などのエンコーダモデルによる分類ベースのアプローチが主流であったが，その後エンコーダ-デコーダモデルの登場により生成による手法が提案された．近年では，LLaMA[6]などのデコーダモデルの台頭により，(1)事前学習で獲得した豊富な言語知識の活用，(2)少量データでの効果的な学習，といった利点を活かした生成による手法が提案されている．一般分野での固有表現抽出や関係抽出のタスクにおいては，デコーダモデルをファインチューニングした手法が優れた性能を示すことが報告されている[7,8]．一方で，イベント抽出においてはエンコーダ-デコーダモデルをファインチューニングした研究[9,10,11]は存在するものの，デコーダモデルはzero-shotやfew-shotでの利用に留まっている．特に生物医学イベントは複雑な階層構造をとるため，ファインチューニングを利用した手法が有効であると考えられるが[12,13]，デコーダモデルをファインチューニングし，生成問題として定式化した研究は存在しない．そのため，生物医学イベント抽出タスクにおけるさらなる性能向上のためには，デコーダモデルをファインチューニングしながら活用できる手法が必要である．.1を含むイベント