本研究では，深層距離学習でファインチューニングしたBERTを用いた日本語動詞の意味フレーム推定に取り組む．英語では人手で構築された大規模なフレームリソースであるFrameNetが存在する一方で，日本語では教師データとして利用可能なリソースが日本語フレームネットなど比較的小規模なものに限られている．そのため本稿では，少量だが評価言語で構築された日本語フレームネットを教師信号としてBERTをファインチューニングする手法と，言語間での知識の転移を期待して，他言語だが規模の大きいFrameNetを教師信号として多言語BERTをファインチューニングする手法を実施し，各手法による意味フレーム推定実験の結果を報告する．

人は言葉を理解するにあたり，経験から得た語の背景知識を利用しているとされる[1]．意味フレーム知識とはそれらの背景知識をまとめた知識リソースのことであり，英語については，大規模なフレーム知識リソースが人手で整備されている[2]．また，大規模なテキストコーパスから意味フレーム知識を自動構築することを目的とし，動詞を喚起する意味フレームごとにまとめる意味フレーム推定の研究も行われており，近年は，BERT[3]などの事前学習済み言語モデルから得られる文脈化単語埋め込みを利用した手法が多く提案されている[4,5,6]．中でも，山田らの一連の研究[7,8]では，動詞ごとにその用例をクラスタリングした後に動詞横断的なクラスタリングを行うという2段階クラスタリングを提案し，さらに，人手で整備されたフレーム知識を教師データとして深層距離学習を用いて事前学習済み言語モデルをファインチューニングすることで，高い精度で意味フレーム推定が可能であることが報告されている．しかし，英語以外の言語において人手で整備されたフレーム知識リソースの規模は限定的であり，自動構築を行う研究もほとんど行われていない．そこで本研究では，日本語動詞の意味フレーム推定を目的とし，山田らの手法[8]を日本語動詞に適用する．日本語への適用に際し，日本語のフレーム知識リソースは小規模であることから十分なデータを学習できず，英語と同様の手法を用いても高い性能は得られない可能性がある．したがって，日本語のフレーム知識リソースを教師信号としてファインチューニングしたBERTを用いる手法に加え，英語のフレーム知識リソースを教師信号としてファインチューニングした多言語BERTを用いる手法でも意味フレーム推定を行う．