言語ニューロン介入は非目標言語の出力を抑制できるか？

大規模言語モデルにおいて，多言語対話時に意図しない言語で回答してしまう「非目標言語出力」は重要な課題である．本研究では，目標言語を明示的に指定するという実用的なシナリオで言語ニューロン介入手法の有効性を評価する．実験の結果，言語ニューロン介入による非目標言語出力の削減幅は限定的であり，モデルやタスク間で効果が不安定であることが明らかとなった．また，言語ニューロン介入は（1）言語属性のみならず生成内容の意味にも干渉し，情報の歪みを引き起こすこと，（2）トークンの生成確率の上昇幅は，最高確率トークンを逆転するには不十分であることを示した．