sandrik1271/rag-qa-eval-golden-set

RAG/QA eval golden set

Тестовый набор для end-to-end оценки RAG-пайплайна — включая парсинг исходных файлов, а не только retrieval+generation.

Структура

files/            — 17 сырых исходных файлов (.pdf/.docx/.txt/.md), как есть
eval_set.parquet  — 81 строка: один вопрос = одна строка, но должны быть еще multi-doc

eval_set

поле	тип	описание
id	str	ключ строки (ex_001 … ex_081)
question	str	вопрос пользователя
ground_truth	str	эталонный ответ (5 строк — негативные примеры, "В документе отсутствует информация об этом")
doc_id	str	id документа (doc_001 … doc_017)
doc_name	str	оригинальное имя файла
doc_type	str	расширение: pdf, docx, txt, md
file_path	str	относительный путь до сырого файла в этом же репозитории (files/doc_004.pdf)

Мульти-документные вопросы (на будущее)

Сейчас ни один из 81 вопроса не завязан больше чем на один документ. Но если/когда такой вопрос появится (вопрос требует сразу несколько файлов) — конвенция такая: добавляется ещё одна строка с тем же id (и тем же question/ground_truth), но с другим doc_id/doc_name/ doc_type/file_path. То есть id не гарантированно уникален — несколько строк с одинаковым id вместе описывают один вопрос с несколькими документами. Пример (гипотетический, таких строк пока нет):

id	question	ground_truth	doc_id	file_path
ex_082	Сравни X и Y	...	doc_005	files/doc_005.pdf
ex_082	Сравни X и Y	...	doc_011	files/doc_011.docx

Любой код, работающий с этим датасетом, должен группировать по id, а не полагаться на то, что одна строка = один документ

Как пользоваться

Группируйте по id — так код одинаково работает и для обычного вопроса (1 документ), и для будущего мульти-документного (несколько строк с одинаковым id):

from datasets import load_dataset
from huggingface_hub import hf_hub_download

eval_set = load_dataset("sandrik1271/rag-qa-eval-golden-set", split="train").to_pandas()

for example_id, group in eval_set.groupby("id", sort=False):
    question = group["question"].iloc[0]
    ground_truth = group["ground_truth"].iloc[0]

    file_paths = [
        hf_hub_download(
            repo_id="sandrik1271/rag-qa-eval-golden-set",
            repo_type="dataset",
            filename=row.file_path,
        )
        for row in group.itertuples()
    ]
    # file_paths — список локальных путей до скачанных файлов (для обычного
    # вопроса — список из одного элемента). Дальше отдаёте их в пайплайн:
    # docs = [parse_file(p) for p in file_paths]
    # ...

EDA — общая картина

• 17 документов, 4 формата: pdf — 9, docx — 4, txt — 2, md — 2.
• 81 вопрос, в среднем ~4.8 на документ (от 1 до 7).
• Негативных примеров: 5 (~6%) — вопросы без ответа в документе.