Lynx: 大規模言語モデルの幻覚検出における新たなステージ

# Lynx: An Open Source Hallucination Evaluation Model

今回は、最新の研究成果である「Lynx: An Open Source Hallucination Evaluation Model」という論文をご紹介します。この研究は、大規模言語モデル（LLMs）の「幻覚」検出に関する最先端の技術を紹介しています。

### 論文情報
- **タイトル**: Lynx: An Open Source Hallucination Evaluation Model
- **リンク**: [https://arxiv.org/abs/2407.08495](https://arxiv.org/abs/2407.08495)
- **発表日**: 2024年7月11日
- **著者**: Selvan Sunitha Ravi, Bartosz Mielczarek, Anand Kannappan, Douwe Kiela, Rebecca Qian
- **DOI**: 10.48550/arXiv.2407.08495

## 背景と目的

大規模言語モデル（LLMs）は、質問応答や知識集約型タスクで高い性能を発揮しますが、「幻覚」と呼ばれる不正確な情報を生成する問題があります。この問題は、特に医療や金融などの重要な分野で深刻な影響を及ぼす可能性があります。幻覚を検出し、信頼性を向上させるために、Retrieval Augmented Generation（RAG）技術が導入されましたが、依然としてモデルが提供されたコンテキストに矛盾する情報を生成する可能性があります。そこで本研究では、先進的な幻覚検出モデルであるLYNXを提案し、幻覚検出のベンチマークであるHaluBenchを用いてその性能を評価しました。

## 研究の焦点

LYNXは、大規模なリアルワールドの幻覚シナリオで高度な推論を行う能力を持つ、最先端の幻覚検出LLMです。本研究の焦点は以下の通りです。

1. **LYNXの開発と評価**: 幻覚検出のためにLlama-3-70B-Instructをファインチューニングし、様々なドメインから収集したデータを用いて評価しました。具体的には、金融、医療、日常生活などの幅広いドメインからデータを収集し、各ドメインにおける幻覚検出の精度を詳細に検証しました。
2. **HaluBenchの構築**: リアルワールドのドメインから収集した15,000のサンプルを含む包括的な幻覚評価ベンチマークを構築しました。HaluBenchは、FinanceBench、DROP、CovidQA、PubMedQAなどの既存のQAデータセットから収集されたサンプルを含んでおり、各サンプルには意味的な改変を加えて幻覚を含む回答を生成しました。
3. **LYNXの公開**: LYNX、HaluBench、および評価コードを公開し、他の研究者が再現可能なようにしました。

## 実験の概要と結果

LYNXの性能を評価するために、以下の実験を行いました。

1. **幻覚検出の定義**: 提供されたコンテキストに対して生成された回答が一貫しているかどうかを評価しました。具体的には、回答がコンテキストに基づいて正確であるかどうかを検証し、幻覚を含む回答を識別しました。
2. **データセットの構築**: FinanceBench、DROP、CovidQA、PubMedQAなどの既存のQAデータセットからサンプルを収集し、意味的な改変を加えて幻覚を含む回答を生成しました。これにより、様々なドメインにおける幻覚検出の精度を評価しました。
3. **モデルのトレーニング**: チェイン・オブ・ソート（CoT）によるゼロショット性能の向上を図り、LYNXモデルをトレーニングしました。トレーニングには、RAGTruth、DROP、CovidQA、PubMedQAから収集した2400のサンプルを使用し、各サンプルには意味的な改変を加えて幻覚を含む回答を生成しました。
4. **結果の比較**: HaluBenchを用いて、LYNXの性能をGPT-4o、Claude-3-Sonnetなどの既存モデルと比較しました。LYNXは、GPT-4oやClaude-3-Sonnetに対して優れた精度を示し、各ドメインにおける幻覚検出の精度を向上させました。

### 結果の詳細

具体的な実験結果として、LYNXは以下の性能を示しました。

- **GPT-4oとの比較**: LYNXはGPT-4oに対して平均約1%の精度向上を示しました。特にPubMedQAにおいては、LYNXはGPT-4oよりも8.3%高い精度を示しました。
- **RAGASとの比較**: RAGASと比較しても、LYNXは幻覚検出タスクでの性能が大幅に向上しました。具体的な数値として、RAGASの精度が66.9%であったのに対し、LYNXは87.4%の精度を達成しました。

### 賛否両論

**賛成意見**
- LYNXは、GPT-4oやClaude-3-Sonnetを上回る精度で幻覚を検出する能力を示しました。
- オープンソースであり、再現性が高く、他の研究者が容易に利用できる点が評価されています。
- 各ドメインにおける詳細な評価により、実際の応用においても信頼性が高いことが示されました。

**反対意見**
- 現実世界の多言語対応には限界があり、非英語圏のデータセットでの性能が未知数です。今後の研究では、多言語対応の強化が必要です。
- 検出外の失敗に対する対策が必要です。例えば、RAGシステムのリトリーバルコンポーネントが適切なコンテキストを返さない場合、幻覚が発生する可能性があります。

## 図表と引用

![figurie1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1150733/277dc2ab-3af3-e61d-14b7-fbbd0371b65e.png)
図1: HaluEvalの質問応答例に対して、GPT-4o、Claude-3-Sonnet、LYNX (70B) のLLMが判定者として応答

![table1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1150733/2455b327-ee60-7db8-7cf4-7bdecbc84bf8.png)
表1: 各モデルのHaluBenchにおける精度比較

## まとめ

LYNXは、LLMsの幻覚検出において最先端の性能を示し、広範なドメインにおいて信頼性を向上させることができます。特に、医療や金融などの重要な分野での応用において、大きな貢献が期待されます。さらに、LYNXのオープンソース化により、他の研究者がこの技術を活用し、さらなる改良を加えることが可能です。

この記事が皆さんの研究や実務に役立つことを願っています。ご質問やフィードバックがありましたら、コメント欄にお寄せください。

### 参考文献

- Aly, R., et al. (2021). Proceedings of the Fourth Workshop on Fact Extraction and VERification (FEVER). Association for Computational Linguistics.
- Azaria, A., & Mitchell, T. (2023). The internal state of an LLM knows when it’s lying. arXiv preprint arXiv:2304.13734.
- Biswas, B., et al. (2022). Retrieval based response letter generation for a customer care setting. In Proceedings of the 2022 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies: Industry Track, pages 168–175. Association for Computational Linguistics.
- その他、多数の参考文献（詳細は論文本文を参照）