語の意味的関係性に基づく大規模言語モデルの逆方向推論挙動の分析

人間は，演繹推論や帰納推論など，複数の形式で推論する．また，人間は，乳児の段階で「PならばQ」となる関係性から，「QならばP」という逆向きの関係性を推論し，成り立つと解釈する傾向があり，これを対称性バイアスと呼ぶ[1]．また，先行研究[1,2]では，対称性バイアスが人間の言語獲得能力や推論能力と関係していることが示唆されている．対称性バイアスが反映された推論の例として，「雨が降れば道路が濡れる」という因果関係があるときに，「道路が濡れているならば雨が降った」のように，結果から原因を逆向きに推論する場合が挙げられる．このような推論は，形式論理において後件肯定と呼ばれる誤謬に分類される．一方，実世界では，背景知識や文脈を考慮することで，一定の妥当性を持つ推論として受け入れられる場合もある．このように人間は，形式的な論理規則と語の意味や文脈といった意味的要因を柔軟に組み合わせることで多様な推論を可能にしている．近年，人間の推論能力を機械で再現することを目的に，大規模言語モデル（LLM）を対象とした様々な論理推論ベンチマークが提案されている[3,4,5]．しかし，最先端のLLMにとっても論理推論は依然として挑戦的な課題であり，LLMの誤った推論（誤謬）に至る要因について十分に分析されていない．この課題に対して，本研究では，「PならばQ」と「QならばP」という推論方向の違いに関する形式的な対称性と，PおよびQに該当する単語の意味的近接性・乖離性に代表される意味的対称性の観点から，LLMにおける誤謬の要因を分析することを目的とする．本稿では，その初期実験として，「PならばQ」という前提文に対して，「PであるときQと言えるか」および「QであるときPと言えるか」という推論方向の異なる質問文を用いて，LLMの回答を収集する．ここで，PおよびQに該当する語は，その語同士の意味的関係性（無関係，類義，対義）に基づいて設定する．これにより，推論方向に関する形式的な対称性と，語の意味的関係性がLLMの回答傾向に与える影響を部分的に比較・検証する．