埋め込みモデルベースの教師なしキーフレーズ抽出における長文に対する抽出精度の改善

キーワード抽出とは文章中での重要な単語を抽出する技術であり，情報検索や要約などに用いられる．その中でも，キーフレーズ抽出は単語単位ではなくフレーズ単位で重要な語句を抽出することを目的としている．キーフレーズ抽出手法には教師あり・教師なしのアプローチが存在するが，教師ありのアプローチは学習データを作成するコストがかかるため，より汎用的な教師なしのアプローチが研究されている．従来手法としてはグラフベース[1,2,3,4]，統計ベース[5,6]のアプローチが提案されている．近年は大規模な言語モデルの発展に伴い，埋め込みモデルや生成モデルを用いた手法も研究されている．生成モデルを用いたアプローチではキーワード抽出だけでなくキーワード生成の研究[7]も行われており，文章の内容を解釈して文章中に無いより簡潔で適切なキーフレーズを抽出することも可能である．埋め込みモデルを用いたアプローチでは文章とフレーズの類似度を重要度として用いる．埋め込みモデルのアプローチは長文に対する抽出性能が低く，その原因として長文とフレーズではテキストの長さが大きく異なることが挙げられる[8,9]．これに対して，フレーズの埋め込み方法を工夫する手法[10,11]がいくつか提案されているが，手法間で埋め込みモデルが異なる，出現位置や出現頻度による重みづけを独自に導入しているなどの細かな差異があり，埋め込み方法の違いによる効果は明確でない．本稿では埋め込みモデルベースの教師なしキーフレーズ抽出における長文に対する抽出精度の改善を目的とし，文単位の埋め込みを用いて重要な文を絞り込む手法を提案する．提案手法と既存の長文対策の手法を比較した結果，既存手法に比べて長文への抽出精度が改善した．一方で，グラフベース，統計ベース，生成モデルベースの教師なしキーフレーズ抽出手法と比較した結果，短文への抽出精度は優れているが長文への抽出精度には依然課題が残るという結果になった．