LLMにおけるアンカリング効果の機械論的理解と軽減

大規模言語モデル（LLM）は人間と同様にアンカリング効果を示すことが知られており，LLMの安全性を確保するために，機械論的理解やそれに基づく軽減手法が期待される．本研究ではLLMによる価格交渉シミュレーションを題材に，アンカリング効果の発生機序を機械論的に理解するとともに，アテンション機構への介入による軽減手法を提案する．売り手LLMが交渉の初期段階で提示する価格（アンカー）に高い注意重みをもつアテンションヘッドを特定し，買い手LLMにおいてそのヘッドを抑制したところ，アンカリング効果が軽減されることを確認した．また，ヘッドの抑制によって他タスクでの性能が損なわれることもなかった．