意味的類似度とNLIによる候補絞り込みを用いたRAGデータベースのレコード間矛盾検知

[6]．そうした矛盾を含むデータソースを用いると，Retrieval-AugmentedGeneration（RAG）は，大規模LLMは矛盾した証拠文書に基づいて回答を生成す言語モデル（LargeLanguageModel，LLM）と外部知ることになり，不正確な回答を行う可能性が高くな識を組み合わせた応答生成手法であるが，参照デーる[7]．したがって，RAGシステムの信頼性を確保タベースに矛盾が含まれる場合，誤った応答が生成するためには，ベクトルデータベース自体の整合性される恐れがある．データベースのレコード間の矛を維持し，矛盾を含むレコードを検出し修正するこ盾判定において，高い文脈理解能力を持つ矛盾検知とが重要である．にLLMを用いることは有望であるが，候補対数のしかし，レコード数を𝑛とすると検査すべきレ増大に伴うトークン消費が課題となる．本稿では，コード対は𝑂(𝑛2)に増加する．そのため，大規模な類似度に基づいて選出された候補ペアに対して，自データベースに対して総当たりで矛盾検知を行う然言語推論（NaturalLanguageInference，NLI）モデことは困難である．特に，矛盾判定に商用LLMAPIルを応用した矛盾スコア算出によるフィルタリングを利用する場合，入出力トークン数に応じて課金額を導入することで，検知性能を維持したままLLMが決定されるため，トークン数の削減は運用コストの入出力トークン数を削減する手法を提案する．ま低減に直結する[8]．したがって，検知精度を維持た，擬似データベースを用いた実験により，ベーしながら，LLMの入出力トークン数を削減する仕スライン手法と同等以上のF1スコアを保ちつつ，組みが必要である．総トークン数を70%未満に削減可能であることを検査対象とする候補ペアの絞り込みとして，埋め示す．込みベクトルの類似度に基づく近傍探索やクラスタリングなどが利用できる[9]．しかし，候補ペアの