orlowf/gaia-edu-bench-rag

GAIA-EDU Retrieval Benchmark v1.0.0

TL;DR

Benchmark de recuperação (RAG) em português do Brasil — 311 perguntas sintéticas curadas 1-a-1, com gabarito (qrels) no formato BEIR, pareado ao corpus educacional orlowf/gaia-edu-corpus-rag @ v2.2.0 (52945 chunks). Publicado em 2026-07-29 como orlowf/gaia-edu-bench-rag v1.0.0.

Schema das queries (17 campos)

queries.jsonl — um objeto JSON por linha:

Campo	Descrição
query_id	Id estável gaia-q-#### (lacunas são esperadas — remoções de curadoria nunca renumeram, ver politica_ids no manifest)
texto	A pergunta em si
regime	pinpoint (um trecho responde) ou classe (vários exemplares válidos)
tipo	Categoria da pergunta (factual, conceitual, procedimental, vaga, busca_recurso)
registro	Registro linguístico (formal, coloquial, internetes, keywords)
comprimento	Comprimento alvo da pergunta (curto, medio, longo)
clareza	Clareza da formulação (clara, com_esforco, vaga)
persona	Perfil de quem pergunta (fundamental, medio, professor)
fonte_origem	Fonte do corpus de onde veio o chunk-âncora
materia	Matéria/disciplina do chunk-âncora, quando aplicável
nivel	Nível de ensino do chunk-âncora
chunk_fonte	chunk_id do corpus que ancora a pergunta (gabarito-base, grau 2)
dup_group	Agrupador de obra (autor+título normalizados) — use para NÃO punir como erro um retrieval que acerta outra edição da mesma obra
modo	single (um chunk) ou multichunk (resposta exige sintetizar >1 chunk vizinho)
overlap_lexical	Fração de bigramas de conteúdo compartilhados entre pergunta e chunk-fonte
gerado_por	Modelo gerador (provider:modelo)
prompt_version	Versão do prompt de geração usado

Formato dos qrels (BEIR, 3 colunas)

qrels/test.tsv — TSV com header query-id\tcorpus-id\tscore, grau 2 sempre (todo par é uma correspondência positiva confirmada; não há grau 0/1 neste benchmark — ausência de linha = não relevante). Grau 2 aqui significa: o corpus-id é um trecho comprovadamente correto para responder a query-id — seja o chunk-âncora, um vizinho usado numa pergunta multichunk, ou um equivalente em outra edição da mesma obra (expansão do gabarito). 378 pares no total:

Composição	Pares
Chunk-âncora (base)	311
Vizinhos de perguntas multichunk	41
Equivalentes de outras edições (expansão do gabarito)	26
Total	378

O qrels.tsv original do dataset (4 colunas, formato TREC com a coluna de iteração constante) permanece a fonte da verdade do repositório do dataset — esta versão de 3 colunas existe só neste staging publicado, porque é o que os loaders BEIR/mteb esperam (a 4ª coluna faria eles interpretarem o literal "0" como corpus-id).

Expansão do gabarito (edições duplicadas)

179 candidatos avaliados (alinhamento jaccard 3-gram + juiz), 28 aceitos, 26 viraram qrels extra em 18 pergunta(s). 28 pares aceitos na expansão, mas só 26 viram qrels extra em perguntas single (18 perguntas afetadas); os 2 restante(s) caem em perguntas multichunk e coincidem com um vizinho-gabarito que já existia (chunk_ids_extra) — não geram linha nova em qrels.tsv.

Distribuições

Por fonte

Fonte	Perguntas
wikilivros	70
dominio-publico	50
aes-enem	36
gutenberg-pt	36
enem	35
bluex	22
bncc	22
obmep	22
scielo	18

Por tipo

Tipo	Perguntas
busca_recurso	100
factual	75
vaga	56
conceitual	50
procedimental	30

Por registro

Registro	Perguntas
coloquial	133
formal	103
internetes	50
keywords	25

Por modo

Modo	Perguntas
single	287
multichunk	24

Por regime

Regime	Perguntas
pinpoint	165
classe	146

Tamanho das perguntas (palavras)

Mediana 19, mínimo 5, máximo 36. Overlap lexical mediano com o chunk-fonte: 0.071 (fração de bigramas de conteúdo compartilhados).

Método de geração

Estilo inspirado no E5-mistral (Wang et al., 2024, arXiv:2401.00368): geração "statement-first" (fato -> pergunta) condicionada a atributos sorteados por amostra. Gerador gemini-3.6-flash, juiz de qualidade gemini-2.5-flash (mesma família do gerador, versão diferente — leve efeito anti-homofilia). Curadoria 1-a-1 por Claude (4 critérios: autocontenção, respondibilidade, gabarito, naturalidade), como camada de juiz independente do par gerador/juiz Gemini.

Funil completo: 707 geradas -> 688 filtros -> 638 juízes Gemini -> 330 build -> 311 curadoria Claude — 19 pergunta(s) cortada(s) na curadoria Claude.

Validação humana: esta versão do dataset ainda NÃO passou por validação humana formal (decisão de 17/07/2026: a curadoria por LLM/Claude precede a validação humana, que é o gate final antes de qualquer publicação real — ver manifest.json.validacao_humana quando essa rodada for concluída).

Corpus de origem

As perguntas e o gabarito deste benchmark foram gerados contra orlowf/gaia-edu-corpus-rag @ v2.2.0 (fingerprint sha256_chunk_ids = 34498310baf1f0b0, 52945 chunks — ver manifest.json.corpus_fingerprint).

Aviso importante: os chunk_id/corpus-id deste benchmark só resolvem corretamente contra ESSA revisão exata do corpus. Rodar contra uma revisão diferente (mesmo que aparentemente compatível) pode ter chunks adicionados/removidos/renumerados, invalidando o gabarito silenciosamente.

from huggingface_hub import snapshot_download

caminho = snapshot_download(
    "orlowf/gaia-edu-corpus-rag",
    repo_type="dataset",
    revision="v2.2.0",
    allow_patterns=["*.parquet"],
)

Orientação de avaliação

• Use dup_group (em queries.jsonl) para agrupar edições duplicadas da mesma obra: um sistema de retrieval que devolve o chunk equivalente de OUTRA edição da mesma obra não deve ser punido como erro — o gabarito já inclui esses equivalentes via a expansão descrita acima, mas cheque dup_group se for montar sua própria métrica de tolerância.
• regime == "classe" marca perguntas de busca por categoria (ex.: "redações sobre tema X") — o gabarito é UM exemplar válido entre vários possíveis; hit@k tende a subestimar sistemas corretos nesse regime (ver Limitações).

Nota AES-ENEM

Este benchmark referencia redações do AES-ENEM só por chunk_id, nunca reproduz o texto de aluno da redação — nem em queries.jsonl, nem em qrels/test.tsv, nem neste card. Quem quiser o corpo da redação precisa resolver o chunk_id no corpus de origem (orlowf/gaia-edu-corpus-rag), que já carrega as próprias condições de licenciamento da fonte AES-ENEM.

Limitações

• Perguntas sintéticas: geradas por LLM a partir do chunk-fonte, não coletadas de usuários reais — podem não capturar toda a variedade de como pessoas de verdade formulariam a mesma necessidade de informação.
• Regime classe tem múltiplas respostas válidas: perguntas desse regime (busca por categoria/exemplar) têm mais de um chunk correto no corpus além do gabarito registrado; métricas de hit@k tendem a ser pessimistas nesses casos.
• Viés potencial pró-Gemini: o gerador (gemini-3.6-flash) e o juiz de qualidade (gemini-2.5-flash) são da mesma família (Gemini, versões diferentes) — um viés sistemático do modelo pode se auto-confirmar em vez de ser pego pelo juiz. Mitigação planejada para v2 (juiz de família diferente).

Versionamento

Convenção deste projeto (reports/decisoes.md:1401, task02): mudança de CONTEÚDO do dataset (perguntas/qrels adicionados, removidos ou corrigidos) é release MINOR; correção que não muda o conteúdo publicado (só o card, por exemplo) é PATCH.

Licença

Este benchmark (queries.jsonl, qrels/test.tsv, manifest.json, este card) é publicado sob CC BY-SA 4.0. Isso NÃO substitui as licenças por fonte do corpus original referenciado (orlowf/gaia-edu-corpus-rag) — o benchmark só referencia chunks por id, mas ao resolvê-los você está sujeito às licenças de cada fonte descritas no card do corpus.