Sentence-BERTと語義定義文を利用した語義間の類義判定手法

自然言語処理において単語同士の上位下位関係や同義関係，類義関係等の意味知識を獲得することは機械翻訳や質問応答等の技術を開発する上で重要な課題である[1]．意味知識を獲得するのにあたり，膨大な語が存在する中から手動で知識を獲得するのは困難であり知識獲得の自動化が行われてきた[2][3][4][5][6]．また機械学習が発展してきた近年では，特に文章中の多義語に対して適切な意味を識別するタスクである語義曖昧性解消（WSD）において，シソーラスから得られる意味知識を学習データに利用することで教師あり学習に必要なアノテーションのコスト削減に成功し[7][8]，シソーラスを活用した知識ベースの学習手法の有用性が示されてきた．しかし，類義語などの語彙知識獲得を行う研究では単語同士の関係に着目するのみであり，語義同士の関係は考慮されていない．単語同士の類義関係であると多義語のどの意味で類義関係なのかが分からないが，どの語義で類義なのかが分かると語義識別や言い換えに役立つ．語義レベルの関係の例として以下の「うまい」と「じょうず」という単語を例として挙げる．今までの研究では単語間の類似性や分布仮説[9][10]を用いて「うまい」と「じょうず」という単語ペアを同義語であるとして獲得することを行ってきた．語義レベルとは単語の語義に注目し，どの語義が類義であるかという語義間の関係を獲得することである．本研究では岩波国語辞典第五版[11]において意味区分された語義を対象に以下の例において「うまい」の語義2と「じょうず」の語義1が類義であると判定することを目指す．⚫うまい【甘い・旨い】語義1：”味がよい。「―汁を吸う」…語義2：”よい。すぐれている。…語義3：”自分にとって都合がよい。…⚫じょうず【上手】語義1：”ある物事をする技術がすぐれている…語義2：”《多く「お―」の形で》世辞。世辞を…（岩波国語辞典第五版より引用）また日本語においては英語WordNetを翻訳した日本語WordNet[12]が存在するが，英語WordNetに存在しない類義関係をどう追加するのかといった課題があり，実用可能な完成度に至っていない．本研究では入力した2単語に対して語義レベルで類義判定することを目的とする．目的の実現のため語義定義文の変更とSentence-BERTによる深層距離学習を利用した類義判定手法を提案する．語義定義文に対して語義を表す記述以外の削除や不足する内容の追加等の変更を行うことで，変更前の語義定義文に比べて適切な語義の特徴を捉えた埋め込みベクトルが得られることに期待できる．また深層距離学習とは，埋め込み空間上において同じラベル付けされたデータ同士の距離を小さくし，異なるラベル付けされたデータ同士の距離を大きくする手法であり，これを利用することで本研究の目的とする語義レベルの類義判定用に埋め込み空間の調節がなされ，類義判定精度の向上に期待できる．関連研究として文脈情報を用いた単語間の同義判定手法[13]，文章エンコーダをfine-tuningすることで単語間関係のラベル推測をする手法[14]が挙げられる.後者の研究では単語の関係分類に文章エンコ.ーダのfine-tuningが一定の効果があると示しており，単語に注目したこの手法を語義定義文に対応させるよう変更することで語義の類義判定にも効果が得られると考えられる．