固定区間チャンキングを用いた文書翻訳手法の提案と分析

近年のLLMの文書翻訳では,チャンクによって,入力長への変動の適応が試みられているが,訓練時と推論時の入力長分布の不一致が課題になる.これを解決するため,本研究では固定区間チャンキング(FRC)による文書翻訳を提案する.FRCは動的計画法を用いて各チャンクの長さを規定の範囲内に収め,訓練・推論の両段階で文書長を正規化する.本稿では5つのデータ形式にわたる3つの訓練戦略を提案・分析する.実験の結果,FRCベースの手法は元モデルや既存翻訳手法を顕著に上回り,文書翻訳ベンチマーク(IWSLT2017,BWB)において商用LLMに匹敵する精度を達成した.