論文の階層構造を活用した被引用数予測

近年，人工知能分野など様々な分野において論文の発表数が急激に増加している．これに伴い，重要な論文を推薦するため，論文の質を予測する技術の重要性が高まっている．そのため，本研究では，論文の質を近似する指標として被引用数を採用し[1,2]，論文の将来的な被引用数を予測するタスクに取り組む．被引用数を予測する上で，論文本文の活用は重要な要素であると考えられる．しかしながら，既存の被引用数予測の研究[3,4]では，論文のテキスト情報としてアブストラクトを用いることが多く，論文の本文はほとんど活用されていない．その原因は，本文が非常に長く，扱いが難しいことだと考えられる．特に，近年盛んに利用されているBERT[5]などのTransformer[6]ベースのモデルは，計算量が入力長の2乗に比例するため，非常に長いトークン列を入力すると，計算量は極めて大きなものとなる．この問題を解決するため，Transformerの構造自体を改善するアプローチ[7,8]や，入力文を分割して扱うアプローチ[9,10]などが提案されているが，被引用数予測における有効性は不明である．そこで，本研究では，被引用数予測において，本文を有効に活用することを目指し，論文の階層構造を活用した新たな被引用数予測手法を提案する．この手法では，BERTを用いて論文の各節をエンコードし，そのセクション表現を集約することで被引用数の予測を行う．また，arXivとbioRxivから収集した論文を用いて，既存手法を含めた複数手法との広範囲な比較実験を行い，提案手法の有効性を示す．