LLMは日本語追加学習により言語間知識転移を起こすのか？

大規模言語モデル(LargeLanguageModel,LLM)における言語間知識転移は，英語を中心に公開されている情報を日本語でも活用できるようになることから関心が高まっている．現在，英語圏で開発された高性能なLLMに，日本語を追加学習させて，日本語でも英語と同様の能力を目指す動きがある．本研究では，LLMは日本語追加学習により言語間知識転移を起こすのかをコード生成タスクに焦点を当てて分析する．我々は，日本語からコードを生成する能力を評価するために，ベンチマークデータセットであるHumanEvalを日本語へ拡張したJHumanEvalを開発した．そして，日本語追加学習がLLMのコード生成能力にどのような影響を与えるかを検証した．