文書のチャンクに基づく知識グラフを活用したRAG

大規模言語モデル（LargeLanguageModel:LLM）を活用したシステムは質問応答を始め様々なタスクにおいて最先端の性能を凌駕し，その汎用性の高さや開発基盤の普及も相まって，LLMを活用したサービスの社会実装が急速に進んでいる．しかしながら，LLMの学習データに存在しない知識に関する質問応答ではハルシネーションの課題があり，その解決策として外部知識の活用の研究が進んでいる．中でも，Retrieval-AugmentedGeneration(RAG)[1,2]は導入コスト，知識の更新，情報源の提示などの面で優れており注目を集めている．RAGの定義は技術の進展とともに拡大しているが，ここではGaoら[2]の定義を参照し，質問応答やテキスト生成の際にまず膨大な文書コーパスから関連する情報を検索し，その後取得した情報を利用して回答やテキストを生成し，それによりLLMの予測の質を高める手法とする．によりLLMに最終的に入力されるプロンプトに追加される文脈情報は質問に類似する文章となる．しかしながら，質問に応答する上で必要な知識は，必ずしも質問に類似するチャンクに含まれるとは限らない．ユーザの要求の種類は単に主語や目的語を問う質問だけでなく，原因や結果を問う質問も想定され，これらの質問に回答する上で必要なチャンクは，質問の類似度の高いチャンクは分割されている可能性がある．本研究では，文書のチャンクを構造化することにより，LLMの予測精度向上に寄与する文脈情報を取得できるという仮説を立て，チャンク間の意味的関係に基づいて知識グラフを構築する．この知識グラフを用いた検索と埋め込みベクトルの類似度検索を組み合わたハイブリッド検索のRAG手法を提案する．知識グラフは各チャンクの5W1H情報とチャンク間の談話関係(DiscourseRelation)を含む．質問文の埋め込みベクトルを用いた類似度検索により取得したチャンクから，知識グラフ検索で談話関係を辿ることで関連するチャンクを取得する．また，質問文から抽出した5W1H情報をもとにグラフ検索によりチャンクを取得する．取得したすべてのチャンクをリランクしてプロンプトを作成し，LLMへ入力することで文脈に沿った回答を得る．実験の結果，ベースラインと比較して回答の忠実性とコンテキストの関連性の向上を確認した．本稿では現時点での限界と今後の展開について述べる．