br-llm-data/embrapa-corpus-cs

Fork

Este repo é um fork do repo original em ggg-llms-team/Embrapa-corpus. Este fork:

• Adiciona a coluna file_md5_checksum
• Otimiza a compressão do dataset usando Brotli (compressão level 5)
• Publica o dataset dentro do time br-llm-data

Embrapa Corpus

Corpus textual em Parquet construído a partir de publicações públicas da Embrapa, com foco em documentos PDF disponíveis na Busca de Publicações da Embrapa e nos repositórios Alice e Infoteca.

Cada linha representa um PDF único, deduplicado por sha256 (sha256 do arquivo), com texto extraído, metadados bibliográficos, URLs de origem e informações de auditoria da extração. O corpus foi pensado para pesquisa, recuperação de informação, análise textual e experimentos de PLN em domínio agropecuário, especialmente em português do Brasil.

Resumo do Dataset

• Formato: Parquet, comprimido com Brotli.
• Shards: 27 arquivos part-*.parquet.
• Tamanho total: Aproximadamente 1,25 GiB.
• Documentos aceitos: 132.253 PDFs.
• Documentos candidatos: 143.378 PDFs únicos.
• Documentos rejeitados na extração: 11.125.
• Volume textual: 604.089.356 palavras e 3.961.571.454 caracteres.
• Páginas extraídas: 1.701.525 páginas.
• Período de publicação nos metadados: 2001 a 2026.
• Coleta dos PDFs aceitos: de 2026-04-10 a 2026-04-25, em UTC.
• Versão do schema: embrapa_parquet_v1.
• Build ID: 6a5694f14bc4a10f.

Fontes

O corpus foi gerado a partir de uma raspagem histórica da Busca de Publicações da Embrapa:

• https://www.embrapa.br/busca-de-publicacoes/-/publicacao/todos?
• https://www.alice.cnptia.embrapa.br/
• https://www.infoteca.cnptia.embrapa.br/

Os PDFs foram baixados apenas quando disponíveis publicamente e armazenados em um blob store local deduplicado por sha256. O dataset final contém o texto extraído desses PDFs e metadados coletados das páginas de detalhe da Embrapa e, quando disponíveis, dos repositórios Alice e Infoteca.

Distribuição

Por repositório de origem

Repositório	Documentos
Alice	102.893
Infoteca	29.356
Embrapa	4

Por idioma informado nos metadados

Idioma	Documentos
por	110.194
eng	21.520
spa	418
fra	92
ita	10
und	8
deu	7
rus	4

Principais tipos de publicação

Tipo	Documentos
Resumo em anais e proceedings	34.927
Artigo em anais e proceedings	34.724
Artigo de periódico	27.712
Folhetos	19.076
Parte de livro	7.113
Folders	3.543
Livros	3.527

Unidades Embrapa mais frequentes

Unidade	Documentos
Embrapa Semiárido	8.815
Embrapa Amazônia Oriental	8.523
Embrapa Milho e Sorgo	6.655
Embrapa Florestas	5.883
Embrapa Clima Temperado	5.459
Embrapa Arroz e Feijão	5.264
Embrapa Meio Ambiente	4.426
Embrapa Pecuária Sudeste	4.228
Embrapa Gado de Leite	3.899
Embrapa Uva e Vinho	3.863

Como Carregar

Com datasets:

from datasets import load_dataset

dataset = load_dataset("embrapa-corpus", split="train")
print(dataset[0]["title"])
print(dataset[0]["text"][:500])

Se o repositório estiver em uma conta ou organização específica no Hugging Face, use o identificador completo:

dataset = load_dataset("<usuario-ou-org>/embrapa-corpus", split="train")

Com pyarrow:

import pyarrow.dataset as ds

dataset = ds.dataset("hf://datasets/<usuario-ou-org>/embrapa-corpus", format="parquet")
table = dataset.to_table(columns=["id", "title", "text", "publication_year"])

Schema

Coluna	Tipo	Descrição
id	string	Identificador estável no formato embrapa_pdf_sha256:<sha256>.
text	string	Texto extraído do PDF com normalização Unicode NFC.
title	string	Título da publicação, quando disponível.
authors	list[string]	Autores ou criadores informados nos metadados.
language	string	Idioma informado no repositório, geralmente em ISO 639-3.
rights	string	Declaração de direitos informada na fonte.
license	string	URL ou texto de licença quando presente nos metadados. No build atual, esta coluna está vazia.
source_url	string	URL canônica do PDF usado como fonte.
source_urls	list[string]	URLs associadas ao mesmo PDF deduplicado.
detail_url	string	Página de detalhe da publicação na Embrapa.
more_info_url	string	Página de metadados no Alice ou Infoteca, quando disponível.
publication_ids	list[int64]	IDs de publicações associados ao PDF.
asset_ids	list[int64]	IDs internos dos assets associados ao PDF.
publication_year	int16	Ano de publicação informado nos metadados.
publication_type	string	Tipo de publicação.
unit	string	Unidade da Embrapa associada à publicação.
repository	string	Repositório de origem: alice, infoteca ou embrapa.
keywords	list[string]	Palavras-chave ou assuntos informados nos metadados.
abstract	string	Resumo da publicação, quando disponível.
collected_at	timestamp[us, UTC]	Data de coleta/download usada no build.
sha256	string	Hash SHA-256 do PDF original.
text_sha256	string	Hash SHA-256 do texto extraído.
file_md5_checksum	string	Hash MD5 do PDF original.
content_length	int64	Tamanho do PDF em bytes, quando informado.
storage_path	string	Caminho relativo do PDF no blob store original.
page_count	int32	Número de páginas detectadas no PDF.
text_length	int64	Número de caracteres em text.
word_count	int64	Contagem simples de tokens separados por espaço.

Processo de Construção

1. A Busca de Publicações da Embrapa foi consultada em modo histórico.
2. As páginas de detalhe foram visitadas para coletar metadados e links de arquivos.
3. Links de PDF foram baixados com controle de retomada e validação básica de formato.
4. Arquivos foram deduplicados por sha256.
5. O texto foi extraído com pypdf.
6. PDFs sem texto extraível, com erro de parsing ou inconsistência de estado foram registrados em _audit/rejects.jsonl e não entraram nos shards finais.
7. Os registros aceitos foram gravados em shards Parquet com schema fixo.

Resumo da auditoria:

Motivo de rejeição	Documentos
empty_text	10.268
pdf_parse_error	847
sqlite_inconsistent	10

O arquivo _manifest.json contém o fingerprint de entrada, hashes dos shards, parâmetros de geração e versões das bibliotecas usadas.

Usos Pretendidos

Este corpus pode ser usado para:

• recuperação de informação em agricultura, pecuária, pesquisa agropecuária e desenvolvimento rural;
• análise exploratória de publicações técnico-científicas brasileiras;
• criação de embeddings e índices semânticos;
• avaliação e adaptação de modelos de linguagem para domínio agropecuário;
• experimentos de classificação, sumarização e busca.

Limitações

• O texto vem de extração automática de PDF. Layouts em múltiplas colunas, tabelas, fórmulas, cabeçalhos, rodapés e hifenização podem gerar ruído.
• PDFs escaneados sem camada textual tendem a aparecer em _audit/rejects.jsonl como empty_text; OCR não foi aplicado neste build.
• A coluna license está vazia no build atual. A coluna rights indica openAccess para quase todos os documentos, mas isso não deve ser lido como uma licença permissiva única para todos os usos.
• O dataset reflete o estado das fontes no período de coleta. Páginas e arquivos de origem podem mudar, desaparecer ou ser corrigidos depois.
• Os metadados foram preservados a partir das fontes e podem conter lacunas, variações de grafia ou inconsistências.

Direitos, Licenças e Uso Responsável

As publicações de origem pertencem aos seus respectivos autores, editoras, instituições e repositórios. Este dataset agrega texto extraído e metadados de documentos publicamente acessíveis, mas não estabelece uma licença uniforme para redistribuição, treinamento de modelos ou uso comercial.

Antes de usar o corpus em produtos, redistribuições ou treinamento de modelos, verifique as URLs de origem, os metadados rights, as páginas dos repositórios Alice e Infoteca e eventuais termos aplicáveis da Embrapa.

Citação

Não há uma citação formal associada a este build. Ao usar o corpus, cite as fontes originais da Embrapa e identifique este dataset pelo nome embrapa-corpus e pelo build_id 6a5694f14bc4a10f.