日本語→琉球諸語翻訳モデルの構築に向けて

グローバル化が進む中，世界中で約2,500の言語（日本では8つの言語）が近いうちに消滅する危険性があると指摘されており，危機言語や危機方言に関する記録・記述・復興といった研究が取り組まれている[1]．危機言語の一つに琉球諸語がある．琉球列島の人口や面積は日本全体の約1%に過ぎないが，広い海域に点在しているために琉球諸語内部の方言差は非常に大きく，シマ（琉球諸語の最小単位としての島や集落のこと）が違うと何を言っているのか理解できないことがあるほど多様である．琉球は日本国内にあってマイノリティだが，琉球内部にもマジョリティとマイノリティがあり，小さなシマはマイノリティの中のマイノリティとして二重，三重の圧力を受けている．復興に向けた取り組みは重要だが，子供の立場からすると何故方言教育が必要なのか，方言教育を通して何を学ばせ，どんな人間になってもらいたいのか等の議論は不十分[2]である．我々は，消滅の危機に瀕している琉球諸語の記録，記述や復興への一助のため，日本語を琉球諸語へ翻訳（以降日琉翻訳と呼ぶ）するモデルの構築を目指している．著者の一人である狩俣は琉球諸語における28の方言についての文法記述[3]を初めとし，琉球諸語の記録・記述・復興に向けた取り組みを数多く行っている．これらの研究で蓄積されたデータを元に翻訳コーパスを構築し，日琉翻訳モデルの構築を行うことを目指す．コーパスは最終的には数十万文規模の対訳文（日琉対訳コーパス）で構成されることを想定しているが，元データの大部分は方言辞典であり，対訳文そのもの以外にも利用可能なデータ（例えば単語そのもの）が含まれている．これらをどこまで，どのように利用するかについては議論の余地がある．本研究では小規模の対訳コーパスを用いた日琉対訳モデル構築を行い，今後の方向性を検討するための予備実験を行った．データは「動詞活用調査票読谷村儀間」から約200件の対訳文を用意した．翻訳モデルは日本語を含む多言語事前学習済みモデルであるgoogle/mt5-base[4]をベースとし，以下の3つのパターンでファインチューニング（以降学習と呼ぶ）を行った．基本的にはそれぞれ処理を追加することでBLEUスコアの改善を確認することができたが，単語トークンの追加についてはまだ検討を要する結果となった．!ケース1：日琉対訳コーパスのみで学習．!ケース2：日本語を含む別の対訳コーパス（AsianLanguageTreebank;ALT[5]）で学習後，日琉対訳コーパスで学習．!ケース3：一部単語をトークン設定後，ケース