大規模言語モデルは新規言語のプログラミング能力をどう獲得するか？

本研究は，著者らが新規に設計したプログラミング言語Yuiおよびそのインタプリタを開発する過程で生じた予期せぬ観察結果に端を発している．具体的には，生成AIエージェント（ClaudeCode）が，Yui言語のインタプリタだけでなく，そのサンプルコードも生成できたという事象である．Yui言語は，大規模言語モデル(LLM)の事前学習に含まれておらず，コード生成が困難な言語を目指して設計された[1]．それゆえ，この現象は我々にとって想定外であった．生成AIエージェントは，開発中のテストコードなどから言語仕様を理解し，コード生成が可能になったと考えられる．ここから，LLMは文脈学習(In-ContextLearning[2])によっても，新規言語のプログラミング能力を獲得可能であることが示唆された．本研究の目的は，さまざまな文脈情報を与えることで，新規プログラミング言語の知識を獲得し，既存のコード生成能力を転移可能になるかを明らかにすることである．