cemig-ceia/biblioteca_aneel

Biblioteca ANEEL

Acervo normativo de https://leis.org/aneel, com textos, ciclo de vida observado, atos vinculados, documentos e proveniência. A tabela principal curado contém 143.762 registros de fonte e 34 colunas, incluindo categories, category_paths, family, prefix, role e issuer.

Conteúdo e unidade de cada tabela

• curado: snapshot histórico por registro normativo. texto_integral é o corpo observado na página; alguns corpos são resumos. Documentos têm textos próprios.
• documentos_originais: downloads principais, textos extraídos, origem e estado.
• documentos_legados, documentos_apoio, legado_sem_vinculo: textos e metadados dos 149.004 documentos do acervo categorizado antigo. Documentos sem identidade segura permanecem sem vínculo normativo; votos e relatórios não viram normas.
• anexos, conteudos, anexo_ocr, ocr_unidades, ocr_recuperado: anexos, componentes, textos, ligações OCR e resultados preservados para revisão.
• relacoes_curadas, referencias_normativas: vínculos direcionais com evidências e referências leves. Relações indeterminadas não são tratadas como revogações.
• fontes, proveniencia, cobertura, auditoria_fontes: HTML, tabelas, trechos tachados, observações, hashes e conferências por norma.
• atualizacoes_status: 33 mudanças posteriores de status, com datas e atos revogadores extraídos. O status em curado refere-se ao seu observado_em; esta visão torna consultáveis as observações posteriores sem apagar o histórico.
• As configurações de capturas, recuperações, novas normas e catálogo conservam tentativas, documentos alternativos, resultados posteriores e quarentena.

Carregar somente curado não carrega todo o acervo. As tabelas possuem schemas próprios e são ligadas por IDs, sem aninhar uma norma inteira dentro de outra. O split train apenas organiza os arquivos, sem divisão experimental treino/teste.

Ligações e arquivos físicos

curado.id liga a norma_id. Anexos e conteúdos usam anexo_id; unidades OCR usam unidade_id. Relações usam referencia_id/chave. Identidades ambíguas mantêm candidatos e campos nulos. Os campos _json conservam evidências variáveis.

Os 246.713 arquivos físicos estão em 256 ZIPs em pacotes/. indice_arquivos relaciona cada SHA e caminho lógico a pacote_dataset e membro_pacote. Os caminhos nas outras tabelas são os caminhos após extração, não URLs de arquivos soltos. Leia o membro ZIP pelo índice ou extraia os pacotes preservando diretórios. Os binários foram restaurados dos pacotes e confrontados por SHA256.

from datasets import load_dataset

normas = load_dataset("cemig-ceia/biblioteca_aneel", name="curado", split="train")
originais = load_dataset("cemig-ceia/biblioteca_aneel", name="documentos_originais", split="train")
mudancas = load_dataset("cemig-ceia/biblioteca_aneel", name="atualizacoes_status", split="train")

Limites observados

Foram preservados os textos e as 12 colunas dos 149.004 documentos antigos; isso não implica presença física dos mesmos 149 mil PDFs. A entrega contém 143.167 registros com texto do original, entre 143.179 URLs observadas. Há sete casos sem original ou alternativa conferida, com HTML preservado, e cinco entradas de catálogo em quarentena. As recuperações documentais não substituem automaticamente o snapshot curado ou certificam sua redação vigente.

Datas desconhecidas continuam nulas. Captura/data de versão não são início de vigência. Texto de OCR, células, fórmulas, símbolos e versões requerem revisão; confiança do motor não foi convertida em acurácia. Não concatenar versões, contêineres e componentes sem controlar sobreposição. A cobertura absoluta do site e a acurácia jurídica/OCR não foram certificadas.