大規模言語モデルにおける幻覚緩和のための単語確率の外挿

自然言語処理（NLP）は，近年，大規模言語モデル（LargeLanguageModel,LLM）の登場により，顕著な進化を遂げている．特にGPT-4[1]，Llama[2,3]，PaLM[4]に代表されるLLMは，機械翻訳[5]，対話[6]，要約[7]，質問応答[3]などのダウンストリームタスクにおいて，人間に匹敵する性能を発揮し，これまでにない高度な応用を可能にしている．特に対話型LLMエージェントであるChatGPT[8]の登場以降，多くの人々が日常的にLLMを利用しており，LLMが生成する情報の社会的な影響が非常に大きくなっている．しかしこのような技術革新の一方で，「幻覚」と呼ばれる誤った情報をLLMが生成するという重要な課題が浮上している．幻覚はLLMが実際には存在しない情報をあたかも信憑性があるかのように提示する現象である．これは結果としてユーザーの期待や目的に反する情報を提供してしまう[9]ばかりか，高度な信頼性と正確性が要求される状況においては重大な問題となる．例えば，医療，法律，または金融などの分野において誤った情報が提供されると深刻な結果を招くことは想像に難くない．幻覚への対処として先行研究ではデータの質や訓練プロセスの不備に着目しこの問題を解決しようとしている．例えば，[10]らは，十分に正確性が信頼できるデータを訓練データとして使用するアプローチを取っている．また[11]らは，人間フィードバックを元にした強化学習によって人間の嗜好を言語モデルに反映させることで幻覚の緩和を実現している．しかし，これらのアプローチは新たなデータセットの作成やモデルの再訓練といった高いコストを伴う．訓練パラメータが非常に多いLLMにおいて，これらの手法を適用することは非常に困難であろう．本研究の目的は，事前学習済みLLMの構造や学習済みパラメータに手を加えることなく，幻覚の発生を効果的かつ低コストで抑制する手法を開発することである．最近の研究では，Transformerにおいて，より深い層へと進むにつれて，幻覚につながる単語の確率に比べて正解単語の確率が徐々に大きくなる傾向が観察されている[12]．これはTransformerモデルのより深い層において幻覚の発生が抑制される傾向を示唆している．では実際の最終層よりもさらにその先に仮想的な層が存在したと仮定すれば，幻覚をより抑制できるのではないだろうか？そこで本研究では，低層から高層にかけての単語の確率分布の変化に基づいて，最終層よりも先の仮想的な層の単語確率分布を予測する（図1）．我々のアプローチは，事前学習済みLLMの推論プロセスに介入するものである．このアプローチの最大の特徴は，モデルの構造や重みを調整する.LLaMA1-7B30thLayer31stLayer32ndLayer33rdLayer34.5thLayerEarlyEarlyEarlyEarlyexitexitexitexitsoftmaxsoftmaxsoftmaxsoftmaxsoftmaxLayer3031323334.5を計算し「確率の軌道」を求める．実験では確率の対数に回帰直線を当てはめて軌道を推定した．そして回帰直線を外挿することで，本来の最終層以降の実際には存在しない仮想的な追加層（例:33層，34.5層）における単語確率を予測する．ことなく，また特別なデータを用意する必要もないという低コストな手法であることである．実験では幻覚評価の標準的なベンチマークであるTruthfulQA[13]を用いて，提案手法と既存手法との比較分析を実施した．その結果，本手法は既存手法と比較して，幻覚生成の抑制において同等の性能を達成していることが明らかになった．