LLMはどのような説得を受け入れるのか：論理的誤謬別の信念変化の定量評価

生成AI，特に大規模言語モデル（LLM）が人々に急速に普及している．AaronChatterjiらの調査[1]によると，2025年7月時点で1週間あたりのChatGPT利用者は世界で7億人を突破した．また，Google検索にGoogleGemini[2]の生成結果が同時に表示されるなど，LLMは日常的な情報基盤としての地位を確立しつつある．このように，LLMは人々の生活に欠かせない新たな道具として市民権を獲得している．その一方で，外部から与えられる情報に対してどの程度信頼できる判断を維持できるかという重大な課題も抱えている．LLMは，ユーザや他のエージェントとのマルチターン対話を通じて前提を更新し，応答を生成する．既存研究において，LLMに対して誤情報を説得的に繰り返し与えることで，LLMの信念が変化し，誤情報を受け入れる傾向が報告されている[3,4]．しかし，これまでの研究は主に誤情報の説得そのものの効果に着目しており，説得がどのような論証構造や提示形式をとるときにLLMの信念変化が生じるのかという観点は十分に切り分けられていなかった．説得の内容ではなく論証構造として捉え直すことは，LLMが誤情報を受容する条件と棄却する条件を構造的に理解する上で不可欠である.本論文では，LLM同士の会話を通じて，どのような論証構造に対してLLMの信念変化が生じやすいのかを検証する．具体的には，不適切な論証である論理的誤謬を用いた多様な説得方法を利用し，信念変化の程度を比較する．実験の概要は図1に示す．実験の結果，LLMは客観的な事実に矛盾する情報や，著しい論理の飛躍に対して強い抵抗を示した．一方で，三段論法や箇条書きのように形式的な論理構成を強調した説得は，LLMの信念変化を引き起こしやすいことが判明した．また，用語を専門的・技術的に再定義し日常的な解釈の枠組みからずらす手法に対しても，LLMは説得を受け入れる傾向があることが明らかとなった．本論文は，LLMが誤情報を受容してしまう脆弱性をより明らかにし，信頼性の高い対話型AI設計に向けた基礎的な知見を与えるものである．