大規模言語モデルの自己修正における「盲点」の定量化とタスク特性に応じた介入手法の分析

大規模言語モデル（LLM）の実用化に伴い,モデルが生成した誤り（ハルシネーション）を自律的に修正する能力（Self-Correction）の重要性が高まっている.しかし,既存のモデルは一度誤った推論を行うと,その文脈に固執して修正が困難になる傾向がある.[1]また,ユーザーの誤った前提に同調してしまう「へつらい（Sycophancy）」の脆弱性も指摘されている[2].近年,Tsuiら[7]は,モデルが自身の出力エラーを修正できない現象を「Self-CorrectionBlindSpot」と呼び,単純な「Wait」プロンプトがこの克服に有効であると報告した.しかし,彼らの研究はタスク間の特性差については深く言及していない.本研究では,モデルの「盲点（BlindSpot）」を定量的なスコアとして可視化し,モデルごとの特性を明らかにするとともに,その克服手法を再検証する.具体的には,数学的論理タスクと物理的常識タスクという性質の異なる領域において介入実験を行い,有効なプロンプトがタスク特性によって逆転する（論理タスクでは「Wait」だけでは不十分であり,強い再考命令が必要となる）ことを明らかにする.