andrebadini/catalogo-teses-capes

Catálogo de Teses e Dissertações (CAPES e BDTD)

English summary. This dataset contains 1,728,035 records from Brazilian theses and dissertations catalogues (1987–2026). Records up to 2024 come from the CAPES open-data packages, published by CAPES under CC-BY. Records from 2025 onward come from the CAPES catalogue and the BDTD (IBICT); coverage of the current year is partial and grows as new defences are registered. Titles, abstracts and keywords were truecased (sentence case, with acronyms and proper names preserved) before embedding, using a lexicon derived from the catalogue itself; the published metadata keeps the original source text unchanged. It powers the fully local search application BuscaTeses. Release 2026.10.21.3.

Origem

Os metadados de 1987 a 2024 vêm do Portal de Dados Abertos da CAPES (https://dadosabertos.capes.gov.br) e foram coletados dos seguintes pacotes:

• https://dadosabertos.capes.gov.br/dataset/1987-a-2012-catalogo-de-teses-e-dissertacoes-brasil
• https://dadosabertos.capes.gov.br/dataset/catalogo-de-teses-e-dissertacoes-de-2013-a-2016
• https://dadosabertos.capes.gov.br/dataset/2017-2020-catalogo-de-teses-e-dissertacoes-da-capes
• https://dadosabertos.capes.gov.br/dataset/2021-a-2024-catalogo-de-teses-e-dissertacoes-brasil

Os trabalhos de 2025 em diante vêm de duas fontes públicas consultadas por API:

• https://catalogodeteses.capes.gov.br/catalogo-teses/ — Catálogo de Teses e Dissertações da CAPES (resultados parciais no ano corrente), com resumo, palavras-chave e orientação completados pela página pública de cada trabalho na Plataforma Sucupira;
• https://bdtd.ibict.br/ — Biblioteca Digital Brasileira de Teses e Dissertações, mantida pelo IBICT e pelas bibliotecas digitais participantes.

Fonte	Registros
CAPES — Catálogo de Teses e Dissertações	1.670.528
Catálogo de Teses e Dissertações da CAPES	7.139
BDTD (IBICT)	50.368

Licença e atribuição

Os dados originais são publicados pela CAPES sob a licença Creative Commons Atribuição (CC-BY). Este dataset derivado é distribuído sob a mesma licença. Ao reutilizar o material, atribua a fonte: "CAPES — Catálogo de Teses e Dissertações, Portal de Dados Abertos".

Os metadados de 2025 em diante vêm do Catálogo de Teses da CAPES e da BDTD. O texto completo e eventuais licenças adicionais de cada trabalho permanecem nos repositórios de origem.

Aviso de não afiliação

Este é um projeto independente. Não há afiliação, endosso ou vínculo oficial com a CAPES, com o IBICT, com o Google (modelo EmbeddingGemma) ou com o Hugging Face.

Conteúdo

Cada arquivo metadata/part-XXX.parquet tem cerca de 250 mil linhas, ordenadas por (year, id). As partes de embeddings-768/ e embeddings-256/ seguem exatamente a mesma ordem e o mesmo particionamento; a linha i de uma parte de embedding corresponde à linha i da parte de metadados de mesmo número.

Coluna	Tipo	Descrição
id	string	Identificador estável (capes:<id> ou capes87:<sha1>).
year	int16	Ano de defesa/titulação.
defense_date	string	Data ISO YYYY-MM-DD ou nulo.
title	string	Título do trabalho.
author	string	Nome do(a) autor(a).
advisors	string	Orientadores separados por ; ; coorientadores com sufixo (coorientador).
degree	string	Mestrado, Doutorado, Mestrado Profissional ou Doutorado Profissional.
institution	string	Nome da instituição.
institution_acronym	string	Sigla da instituição.
uf	string	Unidade federativa (duas letras).
region	string	Região brasileira.
program	string	Nome do programa de pós-graduação.
program_code	string	Código do programa na CAPES.
great_area	string	Grande área do conhecimento.
knowledge_area	string	Área do conhecimento.
evaluation_area	string	Área de avaliação.
concentration_area	string	Área de concentração (quando publicada).
research_line	string	Linha de pesquisa.
keywords	string	Palavras-chave separadas por ; .
keywords_en	string	Palavras-chave em inglês (2013+).
abstract	string	Resumo em português.
abstract_en	string	Resumo em inglês (2013+).
language	string	Idioma do trabalho, como publicado.
pages	int32	Número de páginas (0 quando a CAPES não informa).
library	string	Biblioteca depositária.
url	string	URL http/https do texto completo, quando disponível.
source	string	Origem do registro (dados abertos da CAPES, capes-catalogo ou bdtd).

Contagem por década

Década	Registros
1980s (1987–1989)	14.482
1990s (1990–1999)	120.881
2000s (2000–2009)	372.824
2010s (2010–2019)	732.156
2020s (2020–2026)	487.692

Como foi gerado

1. Coleta dos CSVs públicos da CAPES (delimitador ;, codificação cp1252/latin-1) para 1987–2024.
2. Coleta, por API, dos anos de 2025 em diante no Catálogo de Teses da CAPES e na BDTD (IBICT), com paginação retomável e ritmo limitado de requisições; resumo, palavras-chave e orientação dos registros da CAPES vêm da página pública de cada trabalho na Plataforma Sucupira.
3. Normalização por nome de coluna nos dois esquemas (1987–2012 e 2013+), com remoção de campos pessoais e deduplicação por id. Os metadados publicados preservam o texto original da fonte, inclusive a caixa alta e a grafia sem acentos.
4. Deduplicação entre fontes: o mesmo trabalho pode aparecer no catálogo da CAPES e na BDTD; nesse caso prevalece o registro do catálogo da CAPES, completado com os campos ausentes vindos da BDTD. Duplicatas entre redes da BDTD são unificadas.
5. Normalização de caixa (truecasing) antes do embedding: título, resumo e palavras-chave passam pelo módulo buscateses.textcase, usando um léxico de siglas, nomes próprios e acentos derivado dos próprios metadados da CAPES. Isso deixa o texto legível para o modelo sem alterar os metadados publicados.
6. Geração de embeddings com google/embeddinggemma-300m (via onnx-community/embeddinggemma-300m-ONNX, revisão 5090578d9565bb06545b4552f76e6bc2c93e4a66), 768 dimensões normalizadas em L2. Texto do documento: title: {title} | text: {text}, truncado pelo tokenizador em até 512 tokens (tokens especiais incluídos).
7. Projeção Matryoshka: os primeiros 256 valores de cada vetor são re-normalizados em L2 e gravados como float16 em embeddings-256/.
8. Manifesto com contagens, anos, fontes, hashes SHA-256 e vetor de sonda para validar o modelo.

Uso no aplicativo BuscaTeses

O aplicativo BuscaTeses baixa apenas metadata/ e embeddings-256/, confere tamanho e SHA-256 de cada arquivo no manifest.json e monta um índice local (SQLite com FTS5 + os vetores de 256 dimensões) para busca textual, por significado e híbrida. Todo o processamento acontece no computador do usuário, sem enviar consultas ou dados para a nuvem.

Exemplos de uso

Com pandas/pyarrow:

import pyarrow.parquet as pq

tabela = pq.read_table(
    "hf://datasets/andrebadini/catalogo-teses-capes/metadata/part-000.parquet"
)
print(tabela.num_rows)

Com DuckDB diretamente do Hugging Face:

import duckdb

duckdb.sql(
    "SELECT year, count(*) AS n "
    "FROM read_parquet('hf://datasets/andrebadini/catalogo-teses-capes/metadata/*.parquet') "
    "GROUP BY year ORDER BY year"
).show()

Com a biblioteca datasets:

from datasets import load_dataset

metadados = load_dataset("andrebadini/catalogo-teses-capes", "metadata", split="train")
vetores = load_dataset("andrebadini/catalogo-teses-capes", "embeddings-256", split="train")

Privacidade

Os seguintes campos pessoais/identificadores do catálogo original não são publicados: documentos de discentes, orientadores e coorientadores; identificadores de pessoa; data de matrícula; tipo de vínculo; expectativa de atuação; e categoria docente. Nomes de autores e orientadores são mantidos por serem públicos no catálogo da CAPES.

Limitações

• Os dados são reproduzidos como publicados pela CAPES; eventuais erros, lacunas e duplicidades da fonte podem permanecer.
• Registros de 2013 em diante estão integralmente em maiúsculas na fonte; boa parte dos registros de 1987–1999 também está em maiúsculas e sem acentos. O aplicativo aplica truecasing na exibição e o pipeline aplica truecasing antes do embedding, mas os metadados publicados preservam o texto original da CAPES.
• O número de páginas pode ser 0 ou estar ausente quando não informado.
• A URL do texto completo nem sempre existe ou pode ter deixado de responder.
• A cobertura e a data de atualização variam por ano e por fonte.
• A cobertura de 2025 em diante é parcial: o catálogo da CAPES e a BDTD recebem registros ao longo do ano.

Citação

Se este dataset for útil ao seu trabalho, cite o dataset derivado e a fonte original.

@misc{buscateses_capes_2026_10_21_3,
  title        = {Catálogo de Teses e Dissertações da CAPES — dataset BuscaTeses},
  author       = {Badini, André},
  year         = {2026},
  howpublished = {\url{https://huggingface.co/datasets/andrebadini/catalogo-teses-capes}},
  note         = {Dados originais: CAPES — Catálogo de Teses e Dissertações (CC-BY). Versão 2026.10.21.3.}
}

Citação recomendada da fonte (CAPES):

@misc{capes_catalogo_teses_dissertacoes,
  author       = {CAPES},
  title        = {Catálogo de Teses e Dissertações},
  howpublished = {\url{https://dadosabertos.capes.gov.br}},
  note         = {Portal de Dados Abertos da CAPES. Dados sob licença CC-BY.}
}

CAPES. Catálogo de Teses e Dissertações. Portal de Dados Abertos da CAPES. Disponível em: https://dadosabertos.capes.gov.br.

Citação recomendada da fonte (BDTD):

@misc{bdtd_ibict,
  author       = {IBICT},
  title        = {Biblioteca Digital Brasileira de Teses e Dissertações},
  howpublished = {\url{https://bdtd.ibict.br/}},
  note         = {Metadados públicos; consulte a licença de cada repositório.}
}

Links

• Aplicativo BuscaTeses: https://github.com/andrebadini/buscateses-local
• Portal de Dados Abertos da CAPES: https://dadosabertos.capes.gov.br
• BDTD (IBICT): https://bdtd.ibict.br/