Licitei/Brazilian-Public-Procurement-Notices

Editais Brasileiros de Licitação - Pergunte ao Edital QA Gold v0.2

Dataset de perguntas e respostas sobre editais de licitação brasileiros.

O uso principal é treinar e avaliar componentes do agente interno "Pergunte ao Edital": dado o texto de um edital, responder perguntas objetivas usando apenas o próprio documento.

Este dataset usa dados sintéticos (synthetic data). Os editais e textos-base vêm de fontes públicas reais, mas a maior parte das perguntas foi criada por templates ou LLM. As respostas foram mantidas somente quando havia evidência literal em document_text.

Não é um dataset jurídico geral. Não é uma fonte legal definitiva. Não é o primeiro dataset brasileiro de QA sobre licitações.

Status

Primeira versão pública da Licitei.

Split	Linhas
train	6.168
validation	156
test	123
total	6.447

Base: 1.336 editais únicos.

Todas as linhas publicadas têm:

• document_text;
• answer_text;
• evidence;
• offsets char_start e char_end;
• label_type: "gold";
• resposta presente literalmente no texto do edital.

O validador local passou com 0 erros e 0 warnings.

Método

Fonte inicial: br-edital-extraction-v0.2, com textos extraídos de editais e metadados públicos.

Origem das perguntas:

Origem	Linhas	Observação
field_specific_template	3.231	Perguntas sintéticas por template.
llm_agent_domain_generation	3.204	Perguntas sintéticas geradas por LLM e filtradas por evidência literal.
manual_domain_review	12	Perguntas escritas manualmente após leitura do edital.

A rodada LLM usou google/gemini-3.1-pro-preview em 1.000 editais. O modelo sugeriu perguntas operacionais de fornecedor: prazo, canal de proposta, sessão, disputa, habilitação, pagamento, ME/EPP, entrega, garantia, visita técnica e regras de participação.

O LLM não foi usado como fonte final de verdade. A regra final foi simples: a resposta precisa existir literalmente no document_text, e a evidência precisa apontar para esse trecho.

Schema

Cada linha é um objeto JSONL. Campos mais importantes: id, question, answer_text, document_text, evidence, answer_json.field, source_url, document_urls, source_buyer_name, source_buyer_document, source_training_recommended e source_quality_flags.

Exemplo:

{
  "id": "004442320001392026531::gold::manual-object",
  "question": "Qual bem a IMBEL quer comprar neste edital?",
  "answer_text": "aquisição de Televisor",
  "answer_json": { "field": "procurement.object", "value": "aquisição de Televisor" },
  "document_text": "texto extraído do edital",
  "evidence": [
    {
      "text": "aquisição de Televisor",
      "source_url": null,
      "char_start": 9297,
      "char_end": 9319,
      "method": "manual_reviewed"
    }
  ],
  "label_type": "gold"
}

Campos Mais Frequentes

Campo	Linhas
procurement.modality	1.068
proposal.deadline	673
procurement.object	634
proposal.submission_channel	478
procurement.estimated_value	469
dispute.start	441
participation.me_epp	318
items.example	289

Como Usar

from datasets import load_dataset

ds = load_dataset("Licitei/Brazilian-Public-Procurement-Notices")
print(ds["train"][0])

Para usar os arquivos JSONL diretamente:

from datasets import load_dataset

ds = load_dataset(
    "json",
    data_files={
        "train": "train.jsonl",
        "validation": "validation.jsonl",
        "test": "test.jsonl",
    },
)

Uso

Use para avaliar QA extrativo em português sobre editais, ajustar modelos que respondem com base no documento e testar agentes que precisam citar evidência. Para um treino mais conservador, filtre source_training_recommended: true.

Limitações

• A maior parte das perguntas é composta por dados sintéticos.
• As perguntas de LLM foram geradas e revisadas automaticamente; não houve revisão humana linha a linha.
• gold significa que o par pergunta/resposta/evidência passou por validação literal. Não significa certificação jurídica do edital.
• Parte do document_text vem de PDF/HTML e pode conter ruído de extração.
• A cobertura por campo, portal e UF é desigual.
• Alguns exemplos têm source_training_recommended: false; eles foram mantidos para auditoria e avaliação, não como subconjunto mais limpo de treino.
• O dataset não deve ser usado para responder perguntas fora do texto do edital.

Dataset Parecido

O dataset público mais próximo encontrado foi palaciodata/pmt-licitacoes-qa-instruct. Ele também é sobre QA de licitações brasileiras e também usa geração sintética/destilação.

A diferença principal: este dataset publica document_text, evidence literal e offsets por resposta. O dataset da PMT usa o formato instruction/input/output.

Avaliação

Métricas simples recomendadas:

• exact match normalizado entre a predição e answer_text;
• F1 textual entre a predição e answer_text;
• taxa de predições com evidência literal presente em document_text;
• métricas separadas por answer_json.field;
• métricas separadas por source_training_recommended.