LLMs は形式的エラーよりも非形式的エラーを比較的良く特定する傾向がある主な理由はいくつか考えられます。まず第一に、非形式的エラーは内容や文脈次第で変わってきたり抽象度が高かったりする場合が多いため、「意味」や「文脈」を重視した処理能力に長けているLLMs の強みと関連しています。また、多様な表現パターンやニュアンスを捉えられるプリトレーニング済みモデルの柔軟性も影響しています。そのため、非形式的エラーでは言語表現そのものだけでなく背景情報や前提条件等幅広い要素から判断しなければならず，そうした点でも LLMS は有利と言えます。