異種属性の内容的特徴をハイパーグラフにより統合するエンティティ表現学習

エンティティ表現の獲得は，情報検索，推薦システム，分類など多くのタスクにおいて重要である．例えば，論文エンティティには，図1上部のようにタイトルやアブストラクトといったテキストで表される様々な異なる種類の属性情報1）が付随している．これを反映できれば，属性情報に含まれるエンティティの内容的な特徴をより詳細に捉えた表現の獲得が期待できる．エンティティやその属性情報のまとまりは，複数のノードをハイパーエッジと呼ばれる集合で接続できるハイパーグラフにより表現できる．近年，このようなハイパーグラフを対象としたハイパーグラフ表現学習[1]が注目を集めている．ハイパーグラフ表現学習は，主にノード分類やリンク予測といった特定のタスクに特化した教師あり学習の枠組みで研究が行われてきた[2,3]．さらに，事前タスクとし1）本論文ではエンティティに付随する様々な情報を広く属性と呼ぶてタスク非依存な汎用的表現を獲得できる自己教師あり学習が行われており，ハイパーグラフ拡張に基づく対照学習やハイパーエッジ補完などが提案されている[4,5]．しかし，既存のハイパーグラフ表現学習手法では，エンティティと属性情報で表される異なるノードやそれらの間のハイパーエッジを区別して扱うことができていない．グラフでは，エンティティノードに加えて属性情報を表すノードが存在し，エンティティ間の関係だけでなくエンティティと属性ノード間の関係もハイパーエッジとして定義する．このようなハイパーグラフを扱うためには，異なる種類のノードとハイパーエッジを区別して扱い，エンティティと属性情報間の関係からエンティティの特徴を捉え，それをエンティティ表現に反映する必要がある．そこで本研究では，こうした属性情報を統合した.ハイパーグラフにおける異なる種類のノードとハイパーエッジを考慮し，属性情報が表すエンティティの内容的特徴を反映したエンティティ表現を獲得するための新たなハイパーグラフ表現学習手法を提案する．このようなハイパーグラフに特化したエンコードのために，異なる種類のノードとハイパーエッジに対応した注意機構に基づく異種ハイパーグラフエンコーダとエンティティと属性情報間の関係性を学習するエンティティ予測損失を新たに導入する．これにより属性情報を統合したハイパーグラフにおけるエンティティの表現学習を実現し，ハイパーグラフによる構造的情報とテキストによる内容的な情報の両方を考慮したエンティティ表現の獲得を目指す．本手法の有効性の検証として，PubMed共引用ネットワーク[6,7]における論文の分類タスクにおける性能評価を行う．具体的には論文をノードとし，共引用関係をハイパーエッジとする基本構造に，タイトルやアブストラクトなどのテキスト属性をノードとして統合し，既存のハイパーグラフ表現学習手法と比較する．本研究における貢献は以下である．•エンティティとは異なるノードとして属性情報を統合したハイパーグラフを対象に，異種のノードとハイパーエッジを区別して処理する新たな異種ハイパーグラフエンコーダを提案した．•属性情報に含まれるエンティティの内容的特徴をエンティティ表現に反映させるために，エンティティ予測損失を導入した．•PubMedデータセットを用いたノード分類において，提案手法が既存のハイパーグラフ表現学習手法と比較して高い分類性能を示すことを確認し，属性情報を統合する提案手法の有効性を示した．