言語モデルを用いた漢詩文の返り点付与と書き下し文生成
  
 近年の自然言語処理の研究は、現代語を中心に行われ、多くのタスクで高い性能を達成している。一方、古文やそれに関連するタスクにはほとんど注意が払われてこなかった。漢文は約2000年前の弥生時代に中国から日本に伝えられたと推測されており、それ以降日本文学に多大な影響を与えた。現在においても大学入学共通テストの国語において漢文は200点の内50点を占めている。しかし、中国にある豊富な言語資源に比べ、日本にある漢文の書き下し文資源は非常に少ない。この問題を解決するために、本研究は漢詩文を対象とし、白文と書き下し文からなる漢文訓読データセットを構築する。そして、漢文理解において重要視される返り点付与、書き下し文生成の二つのタスクに対し、言語モデルを用いて精度向上を試みる。また、人間の評価結果と比較することで、最適な自動評価指標について議論する。
  
  1はじめに
 漢文は弥生時代に中国から日本に伝えられたと推測されている。そして奈良時代以降、日本語の文章として読めるよう、漢文の語順構成を維持しながら訓点を付ける漢文訓読と、日本語の文体として書き直した漢文訓読文（または書き下し文）が使われ始めた。漢文は「万葉集」や「源氏物語」など、多くの日本文学作品に影響を与えた。今でも漢文は大学入学共通テストの国語において200点の内50点を占めており、漢文が日本文化に及ぼしている影響の大きさを示している。
 中国語と日本語は共通の漢字を多く持つが、日本人にとって漢文を読むことは容易ではない。中国語、そして漢文の語順は、英語と同じSVO（主語-動詞-目的語）である一方、日本語の語順はSOV（主語-目的語-動詞）である。そして、中国語は孤立語であり、時制や格などによって語の形は変化しない。一方、日本語は膠着語であり、接頭辞や接尾辞のような形態素がその語の文法関係を示している。漢文をSVOからSOVに、孤立語から膠着語に変換するために、日本人は句読点、返り点、送り仮名などからなる漢文訓読システムを開発した。以下で漢文訓読システムの幾つかの定義や変換ルールを説明する。古典中国語の訓読体系は、朝鮮半島や契丹など他の地域にも存在するが、本研究では日本の漢文訓読システムに注目する。
  
 白文
 句読点、返り点、送り仮名が付いていない漢文のこと。
  
 書き下し文
 白文を、返り点や送り仮名に従って書き下したもの。
  
 返り点
 漢文の語順をSVOからSOVに変換するための記号である。接している二つの漢字の読み順を逆にする“レ点”、漢数字に沿って読み順を決める“一、二点”、数字ではないが同じく読み順を決める“上、中、下点”、“甲、乙点”などがある。
  
 読み仮名
 漢字の読み方を示すためのひらがなである。送り仮名漢文を孤立語から膠着語に変換するために付けるカタカナのこと。
  
 置き字
 漢文を訓読する際に、直接読まない字のこと。書き下し文にする時は、その意味に対応する送り仮名を前後の文字に付けて反映する。“而”、“於”、“乎”、“兮”などが置き字になることがある。
  
 再読文字
 漢文を訓読する際に、二度読む字のこと。一度目は返り点を無視した語順で副詞として読み、二度目は返り点にしたがって助動詞・動詞として読む。“未”、“将”、“且”、“当”などが再読文字になることがある。
  
 返読文字
 漢文を訓読する際に、下から上へ返って読む字のこと。“非”、“有”、“不”、“与”などが返読文字になることがある。
  
 中国には豊富な漢文の言語資源があるが、日本におけるそれらの書き下し文データは極めて少ない。例えば、「全唐詩」には48,900首以上の唐詩が収録されており、その全てにオンラインでアクセス可能である。しかし、我々の知る限りでは、日本では約500首の唐詩の書き下し文データしかインターネット上に存在しない。この大きなギャップは、日本における漢文研究及び漢文教育の阻害要因となっている。「漢文大系」などの書籍の中に書き下し文のデータは多く存在するが、それらにOCRを適用し、データを整形するには膨大なコストがかかる。そのため、高性能な書き下し文生成器を構築することが書き下し文資源の不足を解消する最も効率的な方法と考えられる。また、漢文の仕組みを理解することは、和漢混交文などの古典日本語や、日本の文化・思想の解明にもつながると考えられる。
  
 従来の研究では、Universal Dependenciesを使った返り点付与と書き下し文生成を含む一連の漢文に関する言語処理の手法が提案された。しかし、ルールベースであり性能が不十分である上、これらの研究ではデータセットを作っておらず、定量的評価を行っていない。本研究では、漢文理解の第一歩として、漢詩文の中で代表性がある唐詩に注目する。最初に、白文、日本語読み順、書き下し文の3つ組からなる漢文訓読データセットを構築する。これを基に、言語モデルを用い、返り点付与器と書き下し文生成器を構築し、両タスクにおいて定量評価を行う。そして、書き下し文の生成結果に対し、人手評価の結果と比較することで、最も適切な自動評価指標について議論する。さらに、返り点付与と書き下し文生成のパイプラインを構築し、白文の事前ソート（返り点付与）が書き下し文生成に貢献するかどうかを検証する。
  
 2 関連研究
  
 2.1古典中国語に関する研究
 古典中国語は現代語と比べまだ十分研究されていない分野ではあるが、他の低資源古典語と比べれば数多くの言語資源がある。「殆知閣」は約33億トークンを含む古典中国語の最大のデータセットである。「四庫全書」コーパスは中国史上の蔵書36,381巻、約10億トークンを収録したものである。Chinese-Poetryは30万首以上の漢詩を含むデータベースである。また、下流タスクに利用できるコーパスも幾つか存在する。The Ancient Chinese Corpus (ACC)は単語分割や品詞タグの情報を含む「春秋左氏伝」のデータセットである。CCTCとClassical-Modernは古典中国語と現代中国語のパラレルデータセットである。FSPCとCCMPは漢文理解のために提案されたデータセットである。
 BERTやBERT-likeモデルが提案されて以来、大規模コーパスで言語モデルを事前学習し、下流タスクでファインチューニングすることが自然処理研究のパラダイムになっている。古典中国語においても、幾つかの事前学習済みモデルが開発、公開されている。SikuBERTとSikuRoBERTaは「四庫全書」コーパスで事前学習され、ACCデータセットを用いて、単語分割、句読点復元、品詞タグ付け、固有表現認識の四タスクで評価されている。GuwenBERTは「殆知閣」コーパスで事前学習され、CCLUEベンチマークで評価されている。また、SikuGPT2や、Mengzi-T5のようなGPTベースとT5ベースの生成モデルも開発、公開されている。
 事前学習済みモデルの性能を評価するために、自然言語理解(NLU)のベンチマークが多くの言語で提案されている。英語のGLUE、中国語のCLUE、日本語のJGLUEなどがある。古典中国語については、CCLUEとWYWEBが提案されている。CCLUEは、文区切り、固有表現認識、テキスト分類、テキスト検索などを含む五つのタスクを提供している。WYWEBは、テキスト分類、系列ラベリング、機械読解、機械翻訳など八つのタスクを提供している。

カテゴリ: 国語
質問: 「殆知閣」は、「四庫全書」と比べて約何トークン多いですか。
回答: 「殆知閣」は、「四庫全書」と比べて約23億トークン多いです。

カテゴリ: 国語
質問: WYWEBの提供しているタスクは、CCLUEの提供しているタスクと比べていくつ差がありますか。
回答: WYWEBの提供しているタスクは、CCLUEの提供しているタスクと比べて3つ差があります。

カテゴリ: 国語
質問: 大学入学共通テストにおいて、漢文を除いた国語の点数は、何点ですか。
回答: 大学入学共通テストにおいて、漢文を除いた国語の点数は、150点です。

カテゴリ: 国語
質問: 中国の「全唐詩」でのアクセス可能なデータは、日本でのインターネット上での唐詩の書き下し文データの約何倍ですか。
回答: 中国の「全唐詩」でのアクセス可能なデータは、日本でのインターネット上での唐詩の書き下し文データの約97.8倍です。