言語ニューロン介入は非目標言語の出力を抑制できるか？

昨今，大規模言語モデル(LLM)は多様な生成タスクにおいて顕著な性能向上を遂げている．しかし，Llama3[1]やGPT-4o[2]といった高性能なモデルにおいても，中国語や日本語などの英語以外の言語において，意図した目標言語で生成できないことがあるという課題が報告されている[3,4,5,6,7,8]．この「非目標言語出力問題」は，LLMの多言語応用における大きな障壁となっている．近年，言語モデルの内部に言語特有のニューロンが存在し，これらを操作することで出力言語を誘導できる可能性が示唆されている[9,10]．これに基づき，追加学習を必要とせずに対象言語のニューロンを活性化させる言語ニューロン介入手法が提案された．既存研究では[9,10]，事前学習済みモデルや，出力言語が明示されない設定において一定の制御効果が確認されている．しかし，実社会におけるLLMの利用形態は，指示調整済みモデルに対しプロンプトで直接言語を指定する運用が一般的である．このような実用的な条件での言語ニューロン介入の有効性に関する調査は未だ限定的である．そこで本研究では，実用的な多言語生成における課題に焦点を当て，目標言語が明示的に指定された条件でも言語ニューロン介入が非目標言語出力を効果的に削減できるかを調査する．多様なモデルとタスクを用いた包括的な評価の結果，言語ニューロン介入による改善幅は限定的であり，その効果も不安定であることを示す．さらに本研究では，言語ニューロン介入が失敗するメカニズムを解明するために，（1）言語制御と生成内容の分析，および（2）トークン確率の推移を追跡するLogitFlow分析を行う．分析の結果，言語ニューロン介入が内容の意味的な歪みを引き起こしていること，およびトークン生成確率の上昇が既存の最高確率トークンを逆転するには不十分であることを明らかにする．この知見は，言語ニューロン介入手法の限界を浮き彫りにし，より効果的な言語制御手法の構築に向けた洞察を提供するものである．