文書外の書誌情報と用語情報を組み込んだ文書分類

近年提案された，大量のデータで事前学習をし，文脈を考慮した表現が得られるBERT(BidirectionalEncoderRepresentationsfromTransformers)[1]を用いた手法は，少ないデータでﬁne-tuningをすることでタスクに特化したモデルを作成でき，文書分類においても高い性能を示している．さらに文書分類においては，著者や出版ジャーナルなどの書誌情報や引用関係にある論文，テキスト中の用語についての外部情報などの対象テキスト情報以外の情報が活用できる．Yaoら[2]は，文書と単語を節点とし，文書節点とその文書に出現する単語節点の間・共起頻度が高い単語節点間それぞれに辺を張った文書グラフの表現を用いて文書分類を行っている．この文書グラフにより，共通した単語を持つ文書節点がその単語節点を介してつながり，文書間の関係を考慮した文書分類を実現している．さらにBertGCN[3]では，文書グラフの節点表現にBERT[1]を用いてテキスト情報を追加している．また，Yasunagaら[4]は引用関係にある文書のテキスト情報を同時に入力する事前学習手法を提案し，文書間の関係を考慮した言語モデルLinkBERTを作成し，従来のBERTより高い性能を達成している．このようにテキスト情報以外の情報の有効性は示されているものの，これらの手法では単語の共起や引用関係という限られた情報のみしか考慮できておらず，著者や出版ジャーナルなどの書誌情報，用語に関する説明文や上位下位関係などの外部情報（以降，用語情報と呼ぶ）などの複数の情報を同時に考慮できていない．そこで，本研究では複数の情報を同時に利用できる文書分類の実現を目的に，書誌情報・用語情報など多くの対象テキスト以外の情報を含む文献グラフから文書間の様々な関係を考慮した表現ベクトルを作成し，その表現ベクトルと文書のテキスト情報を組み込んだ文書分類モデルを提案する．本研究の貢献は以下の通りである．•書誌情報・用語情報を含む文献グラフからの表現ベクトルを利用して，より複雑な文書間の関係の情報とテキスト情報を組み込んだ文書分類モデルを提案した．•生化学分野の文書分類データセットであるOhsumed[5],HallmarksofCancer(HoC)[6]において文献グラフの情報を用いることで既存手法からの性能向上を確認した．