法律間の類似条文の対応付けにおけるBERTの法令ドメイン適応

比較法とは種々の法体系における法制度又は法の機能を比較することを目的とする学問である．比較法では原則として国家の法体系を対象として比較を行う．通常，比較法では法を原文のまま理解し，相違点と共通点の発見を経て国家間の法制度や法文化を比較する[2]．比較法の実務的な効用として，自国法の立法整備，解釈・適用の改善が挙げられる．法制審議会では，諸外国の法制度についてまとめられた資料や制度の有無を比較した表が度々参照されている．また，グローバル化の進む現在，比較法は法学において重要な役割を担っており，海外の文化や考え方を理解するための材料にもなり得る．比較法は日本法と外国法の類似点を足掛かりとして行う場合がある．正確な対応付けには法的な知識や使用言語への理解が求められ，そのような人材は一部の専門家に限られる．このとき，日本法と外国法の類似部分を自動で対応付けることが出来れば，比較法研究に寄与するとともに，一般にも海外ビジネスを始める際に有用である．計算機による類似部分の対応付けの自動化は，条文を比較することにより可能となり，既に長，小関らが行っている[3,4,5]．提案手法の一つにBERTが採用されたが，事前学習済みモデルを使用していたため，日本法同士の対応付けではJaccard係数やBM25といった単語ベースの手法に比べて劣る性能となった．一般的なBERTモデルはWikipediaなどのテキストで訓練されており，医療等の特定ドメインに対しては性能が低いことが報告されている[6]．法令は一般文書より硬い表現で書かれるため，法令文を扱うタスクを行う場合，BERTモデルの法令ドメイン適応が必要となる．そこで，本研究ではBERTモデルのfine-tuningをTransformer-basedSequentialDenoisingAuto-Encoder（TSDAE）を用いた教師なし学習と，ラベル付きデータを用いた教師あり学習の2種類で行い，法律間の類似条文の対応付けにおけるfine-tuningの有効性を検証することを目的とする．また，日本法と外国法の対応付けについて，多言語モデルが有効かどうか調査する．本稿は以下のような構成となっている．第2章で関連研究のついて述べる．第3章で日本法同士の対応付け，日本法と外国法との対応付けの2種類の実験を説明する．第4章で実験結果を示し，考察を行う．第5章で本稿のまとめと言語の課題について述べる．