text stringlengths 0 66.9k |
|---|
Maracatu -- MANIFEST do corpus v2 |
============================================================ |
Data de construcao: 2026-04-22 |
Versao do pipeline: build_corpus_v2.py (git commit f0943fa) |
Arquivo: data/processed/corpus_v2.txt |
Tamanho: 6.55 GB (6.551.189.213 bytes) |
Linhas: 27.200.385 |
SHA-256: a1000e873bfcae0d2229ecc9b329f0befe8ad73913e79e58f14a1f3a48ef7e58 |
Tokens estimados (SentencePiece BPE 16k): ~1.57B (1.570.784.277) |
Ratio real medido (amostra 60MB): 0.2398 tokens/byte |
Fontes utilizadas: |
wikipedia: |
nome: Wikipedia PT |
hf_dataset: wikimedia/wikipedia |
hf_config: 20231101.pt |
licenca: CC BY-SA 3.0 |
compativel_apache2: sim |
url: https://huggingface.co/datasets/wikimedia/wikipedia |
docs_processados: 1.112.246 |
gutenberg: |
nome: Project Gutenberg PT |
url: https://www.gutenberg.org/ |
licenca: Dominio Publico |
compativel_apache2: sim |
criterio: autor falecido antes de 1955 (dominio publico BR e internacional) |
obras_baixadas: 24 (autores em data/README.md) |
rate_limit: 1 req/s |
culturax: |
nome: CulturaX PT |
hf_dataset: uonlp/CulturaX |
hf_config: pt |
licenca: ODC-BY 1.0 |
compativel_apache2: sim |
url: https://huggingface.co/datasets/uonlp/CulturaX |
nota: ODC-BY exige atribuicao. Registrada neste MANIFEST e em data/README.md. |
atribuicao: "Este corpus inclui dados do CulturaX (Nguyen et al., 2023), |
disponivel em https://huggingface.co/datasets/uonlp/CulturaX, |
sob licenca ODC-BY 1.0." |
docs_processados: 1.490.746 |
parada: watchdog em 4 GiB (alvo Chinchilla ~1B tokens CulturaX) |
Fonte EXCLUIDA: |
carolina (USP): CC BY-NC-4.0 |
nota: clausula nao-comercial incompativel com Apache 2.0 e planos de |
comercializacao futura. Reativar somente se escopo virar pesquisa sem |
fins comerciais, mediante confirmacao legal explicita. |
Pipeline aplicado: |
min_doc_chars: 200 |
min_line_chars: 30 |
pt_stopword_min_ratio: 0.05 |
minhash_threshold: 0.85 (Jaccard) |
minhash_num_perm: 128 |
Pipeline construido em duas fases: |
Fase 1 (2026-04-22 00:38-01:41 UTC): Wikipedia + Gutenberg. |
Total intermediario: 2.1 GB. |
Salvo em: corpus_v2_wiki_gut.txt (preservado para auditoria). |
Fase 2 (2026-04-22 17:45-19:32 UTC): CulturaX. |
Parado por watchdog ao atingir 4 GiB. |
Salvo em: corpus_v2_culturax.txt (preservado para auditoria). |
Concatenacao: cat corpus_v2_wiki_gut.txt corpus_v2_culturax.txt > corpus_v2.txt |
Limitacao conhecida: |
MinHash LSH e dedup exato por linha (SHA-1) foram aplicados intra-fase, nao |
cross-fase. Ou seja: possivel overlap Wiki <-> CulturaX (mirrors, citacoes) |
nao foi eliminado. Tucano/Sabia e papers similares reportam overlap residual |
tipicamente de 5-15 por cento nessa combinacao de fontes; treino suporta bem. |
Se necessario, pass posterior de dedup global pode ser aplicado sem re-build. |
Determinismo: |
corpus_v2_wiki_gut.txt: SHA-256 deterministico (dado mesmo dump HF). |
corpus_v2_culturax.txt: nao deterministico (streaming HF + parada por tempo). |
MANIFEST documenta o momento exato da construcao. |
Astronomia é uma ciência natural que estuda corpos celestes (como estrelas, planetas, cometas, nebulosas, aglomerados de estrelas, galáxias) e fenômenos que se originam fora da atmosfera da Terra (como a radiação cósmica de fundo em micro-ondas). Preocupada com a evolução, a física e a química de objetos celestes, bem ... |
A astronomia é uma das mais antigas ciências. Culturas pré-históricas deixaram registrados vários artefatos astronômicos, como Stonehenge, os montes de Newgrange e os menires. As primeiras civilizações, como os babilônios, gregos, chineses, indianos, persas e maias realizaram observações metódicas do céu noturno. No en... |
Durante o século XX, o campo da astronomia profissional dividiu-se em dois ramos: a astronomia observacional e a astronomia teórica. A primeira está focada na aquisição de dados a partir da observação de objetos celestes, que são então analisados utilizando os princípios básicos da física. Já a segunda é orientada para... |
Os astrônomos amadores têm contribuído para muitas e importantes descobertas astronômicas. A astronomia é uma das poucas ciências onde os amadores podem desempenhar um papel ativo, especialmente na descoberta e observação de fenômenos transitórios. |
A Astronomia não deve ser confundida com a astrologia, sistema de crença que afirma que os assuntos humanos, como a personalidade, estão correlacionados com as posições dos objetos celestes. Embora os dois campos compartilhem uma origem comum, atualmente eles estão totalmente distintos. |
Inicialmente, a astronomia envolveu somente a observação e a previsão dos movimentos dos objetos no céu que podiam ser vistos a olho nu. O Rigveda refere-se aos 27 asterismos ou nakshatras associados aos movimentos do Sol e também às doze divisões zodiacais do céu. Durante milhares de anos, as pessoas investigaram o es... |
O estudo da astronomia quase parou durante a Idade Média, à exceção do trabalho dos astrónomos árabes. No final do século IX, o astrónomo árabe ou persa al-Farghani (Abu'l-Abbas Ahmad ibn Muhammad ibn Kathir al-Farghani) escreveu extensivamente sobre o movimento dos corpos celestes. No século XII, os seus trabalhos for... |
No final do século X, um observatório enorme foi construído perto de Teerã, Irã, pelo astrônomo al-Khujandi, que observou uma série de trânsitos meridianos do Sol, que permitiu-lhe calcular a obliquidade da eclíptica, também conhecida como a inclinação do eixo da Terra relativamente ao Sol. Como sabe-se hoje, a inclina... |
Durante o Renascimento, Copérnico propôs um modelo heliocêntrico do Sistema Solar. No século XIII, o imperador Hulagu, neto de Gengis Khan e um protetor das ciências, havia concedido ao conselheiro Nasir El Din Tusi autorização para edificar um observatório considerado sem equivalentes na época. Entre os trabalhos dese... |
O modelo heliocêntrico do Sistema Solar foi defendido, desenvolvido e corrigido por Galileu Galilei e Johannes Kepler. Kepler foi o primeiro a desenvolver um sistema que descrevesse corretamente os detalhes do movimento dos planetas com o Sol no centro. No entanto, Kepler não compreendeu os princípios por detrás das le... |
Constatou-se que as estrelas são objetos muito distantes. Com o advento da Espectroscopia provou-se que são similares ao nosso próprio Sol, mas com uma grande variedade de temperaturas, massas e tamanhos. A existência de nossa galáxia, a Via Láctea, como um grupo separado das estrelas foi provada somente no século XX, ... |
Por ter um objeto de estudo tão vasto, a astronomia é dividida em muitas áreas. Uma distinção principal é entre a astronomia teórica e a observacional. Observadores usam vários meios para obter dados sobre diversos fenômenos, que são usados pelos teóricos para criar e testar teorias e modelos, para explicar observações... |
Os campos de estudo podem também ser categorizados quanto: |
ao assunto: em geral de acordo com a região do espaço (ex. Astronomia galáctica) ou aos problemas por resolver (tais como formação das estrelas ou cosmologia); |
à forma como se obtém a informação (essencialmente, que faixa do espectro eletromagnético é usada). |
Enquanto a primeira divisão se aplica tanto a observadores como também a teóricos, a segunda se aplica a observadores, pois os teóricos tentam usar toda informação disponível, em todos os comprimentos de onda, e observadores frequentemente observam em mais de uma faixa do espectro. |
Na astronomia, a principal forma de obter informação é através da detecção e análise da luz visível ou outras regiões da radiação eletromagnética. Mas a informação é adquirida também por raios cósmicos, neutrinos, e, no futuro próximo, ondas gravitacionais (veja LIGO e LISA). |
Uma divisão tradicional da astronomia é dada pela faixa do espectro eletromagnético observado. Algumas partes do espectro podem ser observadas da superfície da Terra, enquanto outras partes só são observáveis de grandes altitudes ou no espaço. |
A radioastronomia estuda a radiação com comprimento de onda maior que aproximadamente 1 milímetro. A radioastronomia é diferente da maioria das outras formas de astronomia observacional pelo fato de as ondas de rádio observáveis poderem ser tratadas como ondas ao invés de fótons discretos. Com isso, é relativamente mai... |
Apesar de algumas ondas de rádio serem produzidas por objetos astronômicos na forma de radiação térmica, a maior parte das emissões de rádio que são observadas da Terra são vistas na forma de radiação síncrotron, que é produzida quando elétrons ou outras partículas eletricamente carregadas descrevem uma trajetória curv... |
Uma grande variedade de objetos são observáveis no comprimento de onda de rádio, incluindo supernovas, gás interestelar, pulsares e núcleos de galáxias ativas. |
End of preview. Expand in Data Studio
No dataset card yet
- Downloads last month
- 115