ラベル内容のエンコードとラベル間の制約に基づく補助コーパスを用いた固有表現抽出

文章の内容を捉えるにはその話題の中心となる固有表現の把握が重要であり，固有表現抽出(NamedEntityRecognition;NER)は重要な基礎タスクとして古くから取り組まれている．近年，自然言語処理の分野では，正解がラベル付けされた訓練データからなるラベル付きコーパスを用いてモデルを学習する教師あり深層学習を用いた手法[1,2]が主流となっている．教師あり深層学習においては，大量の訓練データが必要であるが，その人手でのラベル付けには高いコストがかかる．訓練データを増やす方法として，補助コーパスとして既存のラベル付けされたコーパスを利用することが考えられる．しかし，NERのコーパスはラベルの種類の違い，アノテーションガイドラインにBC5CDR，訓練データより抜粋…病名ラベルPainmemoryisthoughttoaffectfuturepainsensitivity…toclinicalpainconditions.…suggeststhatahemolyticcomponentcomplicatedtheredcellproduction…inexorablepapilledemaandexudativeretinaldetachmentcontinuedfor3weeks.NCBI，訓練データより抜粋Recurrentmiddleearinfections,ahighpainthreshold,andagreatskillwith……purifiedC7restoredbactericidalactivityaswellashemolyticactivity.…intraretinalandsubretinallipidaccumulation(exudativeretinaldetachment).けに違いがある例おけるラベル付け基準の違いによるラベルが付いている用語の違い，というコーパスごとのラベル付けの違いがあるため，そのまま同様のデータとして扱うことが難しい．例えば，生物医学分野のコーパスであるBC5CDR(BioCreativeVCDRtaskcorpus)[3]とNCBI(NCBIDiseasecorpus)[4]における病名に対するアノテーションの違いを図1に示した．この2つのコーパスはともに“pain”がテキスト上に現れており，BC5CDRでは病名としてラベル付けされているが，NCBIではラベル付けされていない．これは一般的な用語に対してはラベル付けを行わないNCBIに対して，BC5CDRでは一般的な用語の中でも“pain”や“cancer”などにはラベル付けを行うと基準を定めているためである．本研究では，複数コーパスにおけるラベル付けの違いによる影響の緩和により，対象コーパスにそのコーパス以外のコーパス（補助コーパス）を追加して学習することで，NERモデルの性能向上を目指す．そのためにコーパス情報を与えたラベル表現による新たなスパンベースの固有表現抽出モデルを提案する．実験では，対象コーパスに補助コーパスを追加した場合の性能の変化を評価し，提案手法の有効性を検証する．本研究の貢献は次の通りである．•補助コーパスを対象コーパスに追加して学習を行うスパンベースの固有表現抽出手法の提案•複数コーパスのラベルを区別するラベルの内容を表すためのラベル表現の有効性の確認.全結合層②ラベルの表現のエンコードBERT[CLS]w1w2w3…wn[SEP]•複数コーパスのラベル表現に意味的な近さにより制約をかけることの有効性の確認