正解保証を伴う思考プロセス付き合成データ生成による日本語大規模言語モデルの数学推論能力向上

日本語に特化した大規模言語モデル（日本語LLM）の日本語数学能力を改善するには、高品質な学習データを大量に用意することが必要である。本研究では、任意の英語数学問題-回答ペアをシードに、日本語で記述された思考過程付きの数学学習データを、出力の正解を保証しながら半自動で合成する方法を提案した。また、実際に英語数学データに対して提案手法を適用し、約17万件の学習データを合成した。PRM800KおよびGSM8Kの日本語翻訳版を用いた評価では、提案手法により合成された学習データは、日本語LLM(e.g.,Llama-3-ELYZA-JP-8B)の日本語数学推論能力を確かに改善することを示した。その過程で、学習データが日本語で記述されていることの有用性、データ合成時における正解保証の有用性を示した。