法が提案されている[3]。しかし、内部状態を観測大規模言語モデル(LLM)は様々な生成タスクで用して検出する方法はオープンなモデルにしか適用いられ、高い性能を示すが、一方でhallucinationと呼できない。また、RAGによる参考知識を提供してばれる入力文章と矛盾する情報や入力からは事実性検出する方法は検出精度がまだ十分でなく、更なるが検証不可能な情報を出力することが問題になって改善が求められている。さらに一口にhallucinationいる。様々なhallucination検出手法が提案されていといっても、入力文章と異なる事実を記述するもるが、その精度はまだ十分でなく、さらなる改善がの(人名や数値の間違いなど)や、間違っていると求められている。本稿では、hallucinationを含む出は断定できないもの(検証不可能な情報や主観的力が入力文章にない情報や推定困難な情報を含む点な意見など)など様々なタイプが存在し、ある文章に着目する。この特性から入力文章とhallucinationがhallucinationを含むかどうかを判定するだけでなを含む出力ではそれぞれの埋め込み表現が乖離するく、その文章でhallucinationが起こっている箇所とと仮定し、対照学習を用いてhallucination検出器をタイプを特定して検出する手法もある[3][4]。その訓練する手法を提案する。実験の結果、提案手法は他にも、LLMの性能の向上に伴って、LLMにセルベースラインよりもhallucination検出精度を大幅にフチェックをさせることでhallucinationを検出する向上させることが示された。手法[5]や、LLMの出力を複数用意して比較することでhallucinationを検出する手法[6]も提案されて

いる。大規模言語モデル(LLM)は現在様々な生成タス本研究ではLLMの出力にhallucinationが含まれクで用いられ、高い性能を示している。しかし、そるか否かを判定する問題に取り組む。先述の通りの生成にはhallucinationと呼ばれる入力に記述さ様々なhallucination検出手法が提案されているが、れた事実と異なる情報や入力から検証が難しいよ既存研究では文章の埋め込みには着目していなかっうな情報が含まれることが多くある[1]。LLMのた。hallucinationを含む出力は入力文章と矛盾する出力は流暢かつ自信を持った回答であることが多情報や入力文章からは推論できない情報を含むたく、ユーザーが正しい知識を持っていない場合はめ、hallucinationを含まない出力や入力文章とは乖hallucinationを見抜くことが困難である。その結果、離した埋め込み表現を持つと本研究では仮定する。ユーザーはhallucinationを含む情報を真実として逆に、hallucinationを含まない出力と入力文章は埋受け入れてしまう危険性があり、その誤った情報め込み表現が近い可能性が考えられる。したがっが拡散されてしまう恐れがある。そのため、一般て、埋め込み表現に着目することでhallucination検ユーザーが安心してLLMを使用することができて出精度を向上できると期待される。おらず、LLMの普及や社会実装を妨げてしまって本仮説に基づき、対照学習を用いることでいる。LLMがより多くの人々に使用されるためにhallucination検出器を訓練する手法を提案する。今は、hallucinationを高い精度で検出することが必要回は対照学習のためにtripletlossを用いてモデルをである。学習する。tripletlossは、正例同士のembeddingのhallucination検出においては、モデルの内部状態を距離が近く、負例と正例のembeddingの距離が遠く観測して検出する方法[2]や、生成された文章と関なるように学習するための損失関数であり、主に連する文書をRAG(RetrievalAugmentedGemeration)画像認識の分野での対照学習において有効である―2769―.ことが知られている[7]。今回はテキストにおいてもこの手法が有効なのではないかと考え対照学習を行い、入力文章とhallucinationを含まない文章のembeddingの距離を近づけ、入力文章とhallucinationを含む文章のembeddingの距離を遠ざけることでhallucination検出精度を向上させることを試みる。実験の結果、QAタスクとニュース要約タスクにおいてtripletlossを用いた場合にhallucination検出精度が大きく向上することが確認された。なお、本稿の実験に用いたコードは以下のレポジトリにて公開されている。(https://github.com/miyu-y/nlp2025)