LLM-QE: Improving Query Expansion by Aligning Large Language Models with Ranking Preferences

# 原典

[LLM-QE: Improving Query Expansion by Aligning Large Language Models with Ranking Preferences](https://arxiv.org/abs/2502.17057v1)

# 1.  **Introduction（はじめに）**

*   クエリ拡張の重要性と、従来のクエリ拡張手法の課題（セマンティックギャップ、語彙の不一致など）を説明します。
*   LLMを活用したクエリ拡張の可能性と、その課題（LLMのハルシネーションなど）を指摘します。
*   LLM-QEの概要と、その主要な貢献（ランキングの好みのアライメント、ハルシネーションの軽減、性能向上）を述べます。

# 2.  **Related Work（関連研究）**

*   Dense Retrieval（密な検索）モデル（Contrieverなど）に関する研究を概説します。
*   クエリ拡張の様々な手法（知識ベース、Pseudo-Relevance Feedback（PRF）、Generative Relevance Feedback（GRF）など）を説明します。
*   LLMを活用したクエリ拡張に関する既存研究（自己整合性、検索器からのフィードバックなど）を分析し、それらの限界を指摘します。

# 3.  **Methodology（手法）**

*   LLM-QEのアーキテクチャと主要なコンポーネント（クエリ拡張されたDense Retrieval、Preference OptimizationによるLLMのトレーニング、ランキングの好みをモデル化する報酬モデル）を詳細に説明します。
*   Direct Preference Optimization（DPO）メソッドを使用して、LLMを最適化し、ランキングの好みに合わせる方法を説明します。
*   ランキングベースと回答ベースの報酬モデルを組み合わせた報酬モデルの設計について説明します。

# 4.  **Experimental Methodology（実験設定）**

*   実験で使用したデータセット（MS MARCO、BEIRなど）とその統計情報を示します。
*   評価指標（nDCG@10など）とベースラインモデル（BM25、Contrieverなど）を説明します。
*   LLM-QEの実装の詳細（LLMの選択、ハイパーパラメータの設定、トレーニング手順など）を述べます。

# 5.  **Evaluation Results（評価結果）**

*   LLM-QEの全体的な性能を、様々なデータセットとベースラインモデルと比較して評価します。
*   LLM-QEの有効性を示す実験結果（性能向上率など）を提示します。
*   ランキングベースと回答ベースの報酬モデルの役割を分析するアブレーション研究の結果を示します。
*   クエリ拡張の品質と、異なる報酬モデルが生成する拡張の特性を分析します。

# 6.  **Conclusion（結論）**

*   LLM-QEの主要な貢献と利点を要約します。
*   今後の研究の方向性を示唆します。

# **クエリ拡張**

*   LLM-QEでは、LLMにドキュメントベースのクエリ拡張を生成させます。具体的には、`Instructq2d`という指示（プロンプト）を与え、LLMにクエリを説明するドキュメントのようなテキストを生成させます。
*   生成されたドキュメントベースのクエリ拡張と元のクエリを組み合わせて、最終的なクエリ表現を生成します。これにより、元のクエリの意味を豊かにし、セマンティックギャップを埋めることを目指します。
*   LLM-QEは、ランキングベースと回答ベースの報酬モデルを使用して、LLMが生成するクエリ拡張の品質を評価し、最適化します。

*   **クエリ拡張の重要性:** クエリ拡張は、クエリとドキュメントの間の意味的なギャップを埋め、検索性能を向上させるために、情報検索において重要な役割を果たします。
*   **LLM-QEのアプローチ:** LLM-QEは、LLMを使用してドキュメントベースのクエリ拡張を生成し、密な検索モデルを強化します。従来の方法とは異なり、LLM-QEは、ランクベースと回答ベースの両方の報酬を設計し、これらの報酬モデルを使用してLLMを最適化し、検索エンジンとLLMの両方のランキングの好みに合わせます。
*   **ハルシネーションの軽減:** LLM-QEは、LLMを検索エンジンのランキングの好みに合わせることで、クエリ拡張時のLLMのハルシネーションを軽減します。
*   **ランクベースと回答ベースの報酬モデル:**
    *   **ランクベースの報酬モデル:** グランドトゥルードキュメントをクエリとして扱い、LLMによって生成されたドキュメントを再ランク付けしてランキングスコアを計算します。
    *   **回答ベースの報酬モデル:** LLMにクエリとグランドトゥルードキュメントに基づいて回答を生成させ、生成された回答を新しいクエリとして使用し、拡張されたドキュメントの中でランキングスコアを計算します。
*   **Direct Preference Optimization (DPO) の利用:** LLM-QEでは、Direct Preference Optimization (DPO) メソッドを利用して、クエリ拡張モデルを最適化します。DPOは、報酬モデルに基づいて、より好ましい応答と好ましくない応答のペアを用いてモデルを訓練する手法です。

# **プロンプト最適化**

+ LLM-QEでは、LLMが生成するクエリ拡張の品質を向上させるために、プロンプトを最適化します。具体的には、Direct Preference Optimization（DPO）という手法を使用します。
+ DPOでは、ランキングベースと回答ベースの報酬モデルを使用して、LLMが生成するクエリ拡張のランキングを学習します。これにより、LLMは、より関連性の高い、正確なクエリ拡張を生成するように調整されます。
+ LLM-QEで使用されるプロンプトの例：  
    - `Instructq2d`: "Write a passage to answer the query."（クエリに答える文章を書いてください。）  
    - `Instructq2a`: "You are given a query and a ground truth document. Based on the query, generate a direct and relevant answer."（クエリと正解ドキュメントが与えられます。クエリに基づいて、直接的で関連性の高い回答を生成してください。）

*   **プロンプトの設計:** LLM-QEでは、LLMにドキュメントのようなクエリ拡張を生成させるための指示（Instructq2d）と、クエリとグランドトゥルードキュメントに基づいて回答を生成させるための指示（Instructq2a）という、2種類のプロンプトを使用します。
*   **プロンプトのテンプレート:** 論文では、使用したプロンプトのテンプレートが具体的に示されています。これらのテンプレートは、LLMにどのような形式でクエリ拡張や回答を生成させるかを定義しています。
*   **プロンプトのフィルタリング:** モデルの出力をクエリ拡張として使用する前に、モデルが生成する不要な導入句（例：「質問に答えるための文章を以下に示します」）をフィルタリングします。

#   **報酬モデル**

*   LLM-QEでは、LLMが生成するクエリ拡張の品質を評価するために、ランキングベースと回答ベースの2つの報酬モデルを使用します。
*   ランキングベースの報酬モデルは、生成されたクエリ拡張と正解ドキュメントとの関連性を評価します。具体的には、生成されたクエリ拡張を使用して正解ドキュメントを検索し、そのランキングに基づいて報酬を与えます。
*   回答ベースの報酬モデルは、生成されたクエリ拡張を使用して質問応答タスクを実行し、その精度に基づいて報酬を与えます。これにより、生成されたクエリ拡張が、質問に答えるために必要な情報を適切に含んでいるかどうかを評価します。
*   これらの報酬モデルを組み合わせることで、LLMは、より関連性の高く、正確なクエリ拡張を生成するように最適化されます。

# **結論**

LLM-QEは、LLMを活用してクエリ拡張を改善する効果的なフレームワークです。ランキングベースと回答ベースの報酬モデルを組み合わせることで、LLMは、より関連性の高く、正確なクエリ拡張を生成するように最適化されます。実験結果は、LLM-QEが、様々なデータセットとベースラインモデルと比較して、一貫して高い性能を発揮することを示しています。

### その他

*   **実験結果:** 実験では、LLM-QEが、Contrieverなどのゼロショットの密な検索モデルにおいて、8%以上の改善を達成することが示されました。
*   **アブレーション分析:** アブレーション分析により、ランクベースと回答ベースの両方の報酬が、LLM-QEの性能に重要な役割を果たしていることが示されました。
*   **ケーススタディ:** ケーススタディでは、LLM-QEが、より適切で正確な情報を生成し、検索性能を向上させることが示されました。