強化学習を用いた低リソースプログラミング言語におけるコード生成精度改善

大規模言語モデルのコーディング能力には事前学習データの差によりプログラミング言語間での差が依然として聳えている.本研究では大規模言語モデル自身により自己生成したカリキュラムデータにより学習データを補完し,ProximalPolicyOptimizationによる強化学習を行い,リソースの乏しい言語における生成精度および推論能力の向上可能性について検証した.結果,対象言語において高リソース言語を上回る精度向上が確認され,さらに報酬設計の改修によりさらなる精度向上が確認できた.