feat: add extractor notebook

extractor.ipynb

@@ -0,0 +1,725 @@
+{
+ "cells": [
+  {
+   "cell_type": "code",
+   "execution_count": 1,
+   "id": "ebec5d18",
+   "metadata": {},
+   "outputs": [
+    {
+     "name": "stdout",
+     "output_type": "stream",
+     "text": [
+      "Requirement already satisfied: wikiextractor in /.pyenv/versions/3.8.18/lib/python3.8/site-packages (3.0.6)\n",
+      "Requirement already satisfied: beautifulsoup4 in /.pyenv/versions/3.8.18/lib/python3.8/site-packages (4.12.2)\n",
+      "Requirement already satisfied: soupsieve>1.2 in /.pyenv/versions/3.8.18/lib/python3.8/site-packages (from beautifulsoup4) (2.5)\n",
+      "\u001b[33mWARNING: Running pip as the 'root' user can result in broken permissions and conflicting behaviour with the system package manager. It is recommended to use a virtual environment instead: https://pip.pypa.io/warnings/venv\u001b[0m\u001b[33m\n",
+      "\u001b[0m"
+     ]
+    }
+   ],
+   "source": [
+    "!pip install wikiextractor beautifulsoup4"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 2,
+   "id": "1bea6f2f",
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "%reload_ext autoreload\n",
+    "%autoreload 2"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 3,
+   "id": "0657d9eb",
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "import re\n",
+    "import requests\n",
+    "from pathlib import Path\n",
+    "import bz2, shutil\n",
+    "from wikiextractor import WikiExtractor\n",
+    "from tqdm import tqdm\n",
+    "from bs4 import BeautifulSoup\n",
+    "import json"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 4,
+   "id": "9f38fd96-e023-46e3-8eb0-1e94eaf27451",
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "WIKI_URL = 'https://dumps.wikimedia.org'"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 5,
+   "id": "4492202c-b306-4dba-8b65-b50fd7712265",
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "def get_releases(lang: str) -> str:\n",
+    "    \n",
+    "    response = requests.get(f'{WIKI_URL}/ptwiki/')\n",
+    "\n",
+    "    if response.status_code != 200:\n",
+    "        raise Exception(f'Status code: {response.status_code}!')\n",
+    "    \n",
+    "    return response.text"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 6,
+   "id": "ad373315-483b-45e3-be7a-364bee53d140",
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "def extract_links(html: str) -> list:\n",
+    "       \n",
+    "    soup = BeautifulSoup(html, 'html.parser')\n",
+    "    \n",
+    "    links = soup.find_all('a')\n",
+    "\n",
+    "    exclude = ['../', 'latest/']\n",
+    "    \n",
+    "    return [ link.text[:-1] for link in links if link.text not in exclude ]"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 7,
+   "id": "cce112cb",
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "lang = 'pt'\n",
+    "data_path = Path('./')\n",
+    "directory = data_path / lang\n",
+    "directory.mkdir(exist_ok=True, parents=True)"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 8,
+   "id": "53d66d8c-5faf-40a7-946d-be1985b19dbf",
+   "metadata": {},
+   "outputs": [
+    {
+     "name": "stdout",
+     "output_type": "stream",
+     "text": [
+      "Latest release: 20231001\n"
+     ]
+    }
+   ],
+   "source": [
+    "html = get_releases(lang)\n",
+    "links = extract_links(html)\n",
+    "latest_release = links[-1]\n",
+    "print(f'Latest release: {latest_release}')"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 9,
+   "id": "d4a8bf99-e182-4d87-8b76-110b380f54ae",
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "def download_url(url: str, dest: Path) -> None:\n",
+    "    response = requests.get(url)\n",
+    "    dest.write_bytes(response.content)"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 10,
+   "id": "240becfc-ece0-429b-91f3-c582f56b2870",
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "def unzip_bz2(path_in, path_out):\n",
+    "    with bz2.BZ2File(path_in) as fin:\n",
+    "        with open(path_out, 'wb') as fout:\n",
+    "            shutil.copyfileobj(fin, fout)"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 13,
+   "id": "77500b2c",
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "def get_wiki(directory: Path, release: str, lang: str) -> Path:\n",
+    "    \n",
+    "    name = f'{lang}wiki'\n",
+    "    \n",
+    "    xml_name = f'{name}-{release}-pages-articles.xml'\n",
+    "    zip_name = f'{xml_name}.bz2'\n",
+    "    \n",
+    "    zip_path = directory / zip_name\n",
+    "    xml_path = directory / xml_name\n",
+    "    \n",
+    "    xml_extracted_path = directory / f'{name}-{release}-pages-articles.extracted.xml'\n",
+    "        \n",
+    "    if not zip_path.exists():\n",
+    "        print(' - Downloading...')\n",
+    "        download_url(f'{WIKI_URL}/{name}/{release}/{zip_name}', zip_path)\n",
+    "    \n",
+    "    if not xml_path.exists():\n",
+    "        print(' - Unzipping...')\n",
+    "        unzip_bz2(zip_path, xml_path)\n",
+    "\n",
+    "    zip_path.unlink()\n",
+    "    \n",
+    "    print(' - Extracting...')\n",
+    "    !python3 -m wikiextractor.WikiExtractor --processes 10 --no-templates -b 100G {str(xml_path)} -o {str(directory)}\n",
+    "\n",
+    "    shutil.move(str(directory / 'AA/wiki_00'), str(xml_extracted_path))\n",
+    "    shutil.rmtree(directory / 'AA')\n",
+    "    xml_path.unlink()\n",
+    "    print(' - Extract finished...')\n",
+    "\n",
+    "    return xml_extracted_path"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 14,
+   "id": "7e8b9828",
+   "metadata": {
+    "scrolled": true
+   },
+   "outputs": [
+    {
+     "name": "stdout",
+     "output_type": "stream",
+     "text": [
+      " - Downloading...\n",
+      " - Extracting...\n",
+      "INFO: Starting page extraction from pt/ptwiki-20231001-pages-articles.xml.\n",
+      "INFO: Using 10 extract processes.\n",
+      "INFO: Extracted 100000 articles (4618.3 art/s)\n",
+      "INFO: Extracted 200000 articles (7249.8 art/s)\n",
+      "INFO: Extracted 300000 articles (8652.6 art/s)\n",
+      "INFO: Extracted 400000 articles (8658.4 art/s)\n",
+      "INFO: Extracted 500000 articles (9689.9 art/s)\n",
+      "INFO: Extracted 600000 articles (10589.4 art/s)\n",
+      "INFO: Extracted 700000 articles (9007.0 art/s)\n",
+      "INFO: Extracted 800000 articles (9678.8 art/s)\n",
+      "INFO: Extracted 900000 articles (11117.8 art/s)\n",
+      "INFO: Extracted 1000000 articles (9135.0 art/s)\n",
+      "INFO: Extracted 1100000 articles (9356.9 art/s)\n",
+      "INFO: Extracted 1200000 articles (9606.3 art/s)\n",
+      "INFO: Extracted 1300000 articles (9631.8 art/s)\n",
+      "INFO: Extracted 1400000 articles (9716.9 art/s)\n",
+      "INFO: Extracted 1500000 articles (9255.8 art/s)\n",
+      "INFO: Extracted 1600000 articles (8879.2 art/s)\n",
+      "INFO: Extracted 1700000 articles (7984.6 art/s)\n",
+      "INFO: Extracted 1800000 articles (8597.0 art/s)\n",
+      "INFO: Finished 10-process extraction of 1857356 articles in 215.6s (8613.4 art/s)\n",
+      " - Extract finished...\n"
+     ]
+    }
+   ],
+   "source": [
+    "extracted_path = get_wiki(directory, latest_release, lang)"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 15,
+   "id": "21556a64-d690-4310-bd1f-edf5e26c1b5e",
+   "metadata": {},
+   "outputs": [
+    {
+     "data": {
+      "text/plain": [
+       "PosixPath('pt/ptwiki-20231001-pages-articles.extracted.xml')"
+      ]
+     },
+     "execution_count": 15,
+     "metadata": {},
+     "output_type": "execute_result"
+    }
+   ],
+   "source": [
+    "extracted_path"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 16,
+   "id": "f958b5a9",
+   "metadata": {
+    "scrolled": true
+   },
+   "outputs": [
+    {
+     "name": "stdout",
+     "output_type": "stream",
+     "text": [
+      "<doc id=\"220\" url=\"https://pt.wikipedia.org/wiki?curid=220\" title=\"Astronomia\">\n",
+      "Astronomia\n",
+      "\n",
+      "Astronomia é uma ciência natural que estuda corpos celestes (como estrelas, planetas, cometas, nebulosas, aglomerados de estrelas, galáxias) e fenômenos que se originam fora da atmosfera da Terra (como a radiação cósmica de fundo em micro-ondas). Preocupada com a evolução, a física e a química de objetos celestes, bem como a formação e o desenvolvimento do universo.\n",
+      "A astronomia é uma das mais antigas ciências. Culturas pré-históricas deixaram registrados vários artefatos astronômicos, como Stonehenge, os montes de Newgrange e os menires. As primeiras civilizações, como os babilônios, gregos, chineses, indianos, persas e maias realizaram observações metódicas do céu noturno. No entanto, a invenção do telescópio permitiu o desenvolvimento da astronomia moderna. Historicamente, a astronomia incluiu disciplinas tão diversas como astrometria, navegação astronômica, astronomia observacional e a elaboração de calendários. Durante o período medieval, seu estudo era obrigatório e estava incluído no \"Quadrivium\" que, junto com o \"Trivium\", compunha a metodologia de ensino das sete Artes liberais.\n",
+      "Durante o século XX, o campo da astronomia profissional dividiu-se em dois ramos: a astronomia observacional e a astronomia teórica. A primeira está focada na aquisição de dados a partir da observação de objetos celestes, que são então analisados utilizando os princípios básicos da física. Já a segunda é orientada para o desenvolvimento de modelos analíticos que descrevem objetos e fenômenos astronômicos. Os dois campos se complementam, com a astronomia teórica procurando explicar os resultados observacionais, bem com as observações sendo usadas para confirmar (ou não) os resultados teóricos.\n",
+      "Os astrônomos amadores têm contribuído para muitas e importantes descobertas astronômicas. A astronomia é uma das poucas ciências onde os amadores podem desempenhar um papel ativo, especialmente na descoberta e observação de fenômenos transitórios.\n",
+      "A Astronomia não deve ser confundida com a astrologia, sistema de crença que afirma que os assuntos humanos, como a personalidade, estão correlacionados com as posições dos objetos celestes. Embora os dois campos compartilhem uma origem comum, atualmente eles estão totalmente distintos.\n",
+      "História.\n",
+      "Inicialmente, a astronomia envolveu somente a observação e a previsão dos movimentos dos objetos no céu que podiam ser vistos a olho nu. O Rigveda refere-se aos 27 asterismos ou \"nakshatras\" associados aos movimentos do Sol e também às doze divisões zodiacais do céu. Durante milhares de anos, as pessoas investigaram o espaço e a situação da Terra. No ano 4000 a.C., os egípcios desenvolveram um calendário baseado no movimento dos objetos celestes. A observação dos céus levou à previsão de eventos como os eclipses. Os antigos gregos fizeram importantes contribuições para a astronomia, entre elas a definição de magnitude aparente. A Bíblia contém um número de afirmações sobre a posição da Terra no universo e sobre a natureza das estrelas e dos planetas, a maioria das quais são poéticas e não devem ser interpretadas literalmente; ver Cosmologia bíblica. Nos anos 500, Aryabhata apresentou um sistema matemático que considerava que a Terra rodava em torno do seu eixo e que os planetas se deslocavam em relação ao Sol.\n",
+      "O estudo da astronomia quase parou durante a Idade Média, à exceção do trabalho dos astrónomos árabes. No final do século IX, o astrónomo árabe ou persa al-Farghani (Abu'l-Abbas Ahmad ibn Muhammad ibn Kathir al-Farghani) escreveu extensivamente sobre o movimento dos corpos celestes. No século XII, os seus trabalhos foram traduzidos para o latim, e diz-se que Dante aprendeu astronomia pelos livros de al-Farghani.\n",
+      "No final do século X, um observatório enorme foi construído perto de Teerã, Irã, pelo astrônomo al-Khujandi, que observou uma série de trânsitos meridianos do Sol, que permitiu-lhe calcular a obliquidade da eclíptica, também conhecida como a inclinação do eixo da Terra relativamente ao Sol. Como sabe-se hoje, a inclinação da Terra é de aproximadamente 23°34', e al-Khujandi mediu-a como sendo 23°32'19\". Usando esta informação, compilou também uma lista das latitudes e das longitudes de cidades principais.\n",
+      "Omar Khayyam (Ghiyath al-Din Abu'l-Fath Umar ibn Ibrahim al-Nisaburi al-Khayyami) foi um grande cientista, filósofo e poeta persa que viveu de 1048 a 1131. Compilou muitas tabelas astronômicas e executou uma reforma do calendário que era mais exato do que o Calendário Juliano e se aproximava do Calendário Gregoriano. Um feito surpreendente era seu cálculo do ano como tendo 365,24219858156 dias, valor esse considerando a exatidão até a sexta casa decimal se comparado com os números de hoje, indica que nesses mil anos pode ter havido algumas alterações na órbita terrestre.\n",
+      "Durante o Renascimento, Copérnico propôs um modelo heliocêntrico do Sistema Solar. No século XIII, o imperador Hulagu, neto de Gengis Khan e um protetor das ciências, havia concedido ao conselheiro Nasir El Din Tusi autorização para edificar um observatório considerado sem equivalentes na época. Entre os trabalhos desenvolvidos no observatório de Maragheh e a obra \"De Revolutionibus Orbium Caelestium\" de Copérnico, há algumas semelhanças que levam os historiadores a admitir que este teria tomado conhecimento dos estudos de Tusi, através de cópias de trabalhos deste existentes no Vaticano.\n",
+      "O modelo heliocêntrico do Sistema Solar foi defendido, desenvolvido e corrigido por Galileu Galilei e Johannes Kepler. Kepler foi o primeiro a desenvolver um sistema que descrevesse corretamente os detalhes do movimento dos planetas com o Sol no centro. No entanto, Kepler não compreendeu os princípios por detrás das leis que descobriu. Estes princípios foram descobertos mais tarde por Isaac Newton, que mostrou que o movimento dos planetas se podia explicar pela Lei da gravitação universal e pelas leis da dinâmica.\n",
+      "Constatou-se que as estrelas são objetos muito distantes. Com o advento da Espectroscopia provou-se que são similares ao nosso próprio Sol, mas com uma grande variedade de temperaturas, massas e tamanhos. A existência de nossa galáxia, a Via Láctea, como um grupo separado das estrelas foi provada somente no século XX, bem como a existência de galáxias \"externas\", e logo depois, a expansão do universo dada a recessão da maioria das galáxias de nós. A Cosmologia fez avanços enormes durante o século XX, com o modelo do Big Bang fortemente apoiado pelas evidências fornecidas pela Astronomia e pela Física, tais como a radiação cósmica de micro-ondas de fundo, a Lei de Hubble e a abundância cosmológica dos elementos.\n",
+      "Campos.\n",
+      "Por ter um objeto de estudo tão vasto, a astronomia é dividida em muitas áreas. Uma distinção principal é entre a astronomia \"teórica\" e a \"observacional\". \"Observadores\" usam vários meios para obter dados sobre diversos fenômenos, que são usados pelos \"teóricos\" para criar e testar teorias e modelos, para explicar observações e para prever novos resultados. O observador e o teórico não são necessariamente pessoas diferentes e, em vez de dois campos perfeitamente delimitados, há um contínuo de cientistas que põem maior ou menor ênfase na observação ou na teoria.\n",
+      "Os campos de estudo podem também ser categorizados quanto:\n",
+      "Enquanto a primeira divisão se aplica tanto a observadores como também a teóricos, a segunda se aplica a observadores, pois os teóricos tentam usar toda informação disponível, em todos os comprimentos de onda, e observadores frequentemente observam em mais de uma faixa do espectro.\n",
+      "Astronomia observacional.\n",
+      "Na astronomia, a principal forma de obter informação é através da detecção e análise da luz visível ou outras regiões da radiação eletromagnética. Mas a informação é adquirida também por raios cósmicos, neutrinos, e, no futuro próximo, ondas gravitacionais (veja LIGO e LISA).\n",
+      "Uma divisão tradicional da astronomia é dada pela faixa do espectro eletromagnético observado. Algumas partes do espectro podem ser observadas da superfície da Terra, enquanto outras partes só são observáveis de grandes altitudes ou no espaço.\n",
+      "Radioastronomia.\n",
+      "A radioastronomia estuda a radiação com comprimento de onda maior que aproximadamente 1 milímetro. A radioastronomia é diferente da maioria das outras formas de astronomia observacional pelo fato de as ondas de rádio observáveis poderem ser tratadas como ondas ao invés de fótons discretos. Com isso, é relativamente mais fácil de medir a amplitude e a fase das ondas de rádio.\n",
+      "Apesar de algumas ondas de rádio serem produzidas por objetos astronômicos na forma de radiação térmica, a maior parte das emissões de rádio que são observadas da Terra são vistas na forma de radiação síncrotron, que é produzida quando elétrons ou outras partículas eletricamente carregadas descrevem uma trajetória curva em um campo magnético. Adicionalmente, diversas linhas espectrais produzidas por gás interestelar, notadamente a linha espectral do hidrogênio de 21 cm, são observáveis no comprimento de onda de rádio.\n",
+      "Uma grande variedade de objetos são observáveis no comprimento de onda de rádio, incluindo supernovas, gás interestelar, pulsares e núcleos de galáxias ativas.\n",
+      "Astronomia infravermelha.\n",
+      "A astronomia infravermelha lida com a detecção e análise da radiação infravermelha, cuja frequência é menor do que a da luz vermelha. Exceto por comprimentos de onda mais próximas à luz visível, a radiação infravermelha é na maior parte absorvida pela atmosfera, e a atmosfera produz emissão infravermelha numa quantidade significante. Consequentemente, observatórios de infravermelho precisam estar localizados em lugares altos e secos, ou no espaço.\n",
+      "O espectro infravermelho é útil para estudar objetos que são muito frios para emitir luz visível, como os planetas e discos circunstrelares. Comprimentos de onda infravermelha maior podem também penetrar nuvens de poeira que bloqueiam a luz visível, permitindo a observação de estrelas jovens em nuvens moleculares e o centro de galáxias. Algumas moléculas radiam fortemente no infravermelho, e isso pode ser usado para estudar a química no espaço, assim como detectar água em cometas.\n",
+      "Astronomia óptica.\n",
+      "Historicamente, a astronomia óptica (também chamada de astronomia da luz visível) é a forma mais antiga da astronomia. Imagens ópticas eram originalmente desenhadas à mão. No final do século XIX e na maior parte do século XX as imagens eram criadas usando equipamentos fotográficos. Imagens modernas são criadas usando detectores digitais, principalmente detectores usando dispositivos de cargas acoplados (CCDs). Apesar da luz visível estender de aproximadamente Å até Å (400 nm até 700 nm), o mesmo equipamento usado nesse comprimento de onda é também usado para observar radiação de luz visível próxima a ultravioleta e infravermelho.\n",
+      "Astronomia ultravioleta.\n",
+      "A astronomia ultravioleta é normalmente usada para se referir a observações no comprimento de onda ultravioleta, aproximadamente entre 100 e Å (10 e 320 nm). A luz nesse comprimento de onda é absorvida pela atmosfera da Terra, então as observações devem ser feitas na atmosfera superior ou no espaço.\n",
+      "A astronomia ultravioleta é mais utilizada para o estudo da radiação térmica e linhas de emissão espectral de estrelas azul quente (Estrela OB) que são muito brilhantes nessa banda de onda. Isso inclui estrelas azuis em outras galáxias, que têm sido alvos de várias pesquisas nesta área. Outros objetos normalmente observados incluem a nebulosa planetária, remanescente de supernova, e núcleos de galáxias ativas. Entretanto, a luz ultravioleta é facilmente absorvida pela poeira interestelar, e as medições da luz ultravioleta desses objetos precisam ser corrigidas.\n",
+      "Astronomia de raios-X.\n",
+      "A astronomia de raio-X é o estudo de objetos astronômicos no comprimento de onda de raio-X. Normalmente os objetos emitem radiação de raio-X como radiação síncrotron (produzida pela oscilação de elétrons em volta de campos magnéticos), emissão termal de gases finos (chamada de radiação Bremsstrahlung) maiores que 107 kelvin, e emissão termal de gases grossos (chamada radiação de corpo negro) maiores que 107 kelvin. Como os raio-X são absorvidos pela atmosfera terrestre todas as observações devem ser feitas de balões de grande altitude, foguetes, ou naves espaciais.\n",
+      "Fontes de raio-X notáveis incluem binário de raio X, pulsares, remanescentes de supernovas, galáxias elípticas, aglomerados de galáxias e núcleos galácticos ativos.\n",
+      "Astronomia de raios gama.\n",
+      "A astronomia de raios gama é o estudo de objetos astronômicos que usam os menores comprimentos de onda do espectro eletromagnético. Os raios gama podem ser observados diretamente por satélites como o observatório de raios Gama Compton ou por telescópios especializados chamados Cherenkov. Os telescópios Cherenkov não detectam os raios gama diretamente mas detectam flashes de luz visível produzidos quando os raios gama são absorvidos pela atmosfera da Terra.\n",
+      "A maioria das fontes emissoras de raio gama são na verdade Erupções de raios gama, objetos que produzem radiação gama apenas por poucos milissegundos a até milhares de segundos antes de desaparecerem. Apenas 10% das fontes de raio gama são fontes não transcendentes, incluindo pulsares, estrelas de nêutrons, e candidatos a buracos negros como núcleos galácticos ativos.\n",
+      "Campos não baseados no espectro eletromagnético.\n",
+      "Além da radiação eletromagnética outras coisas podem ser observadas da Terra que se originam de grandes distâncias.\n",
+      "Na Astronomia de neutrinos, astrônomos usam laboratórios especiais subterrâneos como o SAGE, GALLEX e Kamioka II/III para detectar neutrinos. Esses neutrinos se originam principalmente do Sol, mas também de supernovas.\n",
+      "Raios cósmicos consistindo de partículas de energia muito elevada podem ser observadas chocando-se com a atmosfera da terra. No futuro, detectores de neutrino poderão ser sensíveis aos neutrinos produzidos quando raios cósmicos atingem a atmosfera da Terra.\n",
+      "Foram construídos alguns observatórios de ondas gravitacionais como o Laser Interferometer Gravitational Observatory (LIGO) mas as ondas gravitacionais são extremamente difíceis de detectar. No final de 2015, pesquisadores do projeto LIGO (\"Laser Interferometer Gravitational-Wave Observatory\") observaram \"distorções no espaço e no tempo\" causadas por um par de buracos negros com trinta massas solares em processo de fusão.\n",
+      "A astronomia planetária tem se beneficiado da observação direta pelos foguetes espaciais e amostras no retorno das missões. Essas missões incluem \"fly-by missions\" com sensores remotos; veículos de aterrissagem que podem realizar experimentos no material da superfície; missões que permitem ver remotamente material enterrado; e missões de amostra que permitem um exame laboratorial direto.\n",
+      "Astrometria e mecânica celeste.\n",
+      "Um dos campos mais antigos da astronomia e de todas as ciências, é a medição da posição dos objetos celestiais. Historicamente, o conhecimento preciso da posição do Sol, Lua, planetas e estrelas era essencial para a navegação celestial.\n",
+      "A cuidadosa medição da posição dos planetas levou a um sólido entendimento das perturbações gravitacionais, e a capacidade de determinar as posições passadas e futuras dos planetas com uma grande precisão, um campo conhecido como mecânica celestial. Mais recentemente, o monitoramento de Objectos Próximos da Terra vai permitir a predição de encontros próximos, e possivelmente colisões, com a Terra.\n",
+      "A medição do paralaxe estelar de estrelas próximas provêm uma linha de base fundamental para a medição de distâncias na astronomia que é usada para medir a escala do universo. Medições paralaxe de estrelas próximas provêm uma linha de base absoluta para as propriedades de estrelas mais distantes, porque suas propriedades podem ser comparadas. A medição da velocidade radial e o movimento próprio mostra a cinemática desses sistemas através da Via Láctea. Resultados astronômicos também são usados para medir a distribuição de matéria escura na galáxia.\n",
+      "Durante a década de 1990, as técnicas de astrometria para medir as stellar wobble foram usados para detectar planetas extrasolares orbitando a estrelas próximas.\n",
+      "Subcampos específicos.\n",
+      "Astronomia solar.\n",
+      "Localizada a uma distância de aproximadamente de oito minutos-luz da Terra, a estrela mais frequentemente estudada é o Sol, uma típica estrela anã da sequência principal da classe estrelar G2 V, com idade de aproximadamente 4,6 Gyr. O Sol não é considerado uma estrela variável, mas passa por mudanças periódicas em atividades conhecidas como ciclo solar, que se caracteriza por uma flutuação de cerca de 11 anos no número de mancha solares. Manchas solares são regiões de temperatura abaixo da média que estão associadas a uma intensa atividade magnética.\n",
+      "O Sol tem aumentado constantemente de luminosidade no seu curso de vida, aumentando em 40% desde que se tornou uma estrela da sequência principal. O Sol também passa por mudanças periódicas de luminosidade que podem ter um impacto significativo na Terra. Por exemplo, se acredita que o mínimo de Maunder tenha causado a Pequena Idade do Gelo.\n",
+      "A superfície externa visível do Sol é chamada fotosfera. Acima dessa camada há uma fina região conhecida como cromosfera. Essa é envolvida por uma região de transição de temperaturas cada vez mais elevadas, e então pela superquente corona.\n",
+      "No centro do Sol está a região do núcleo, um volume com temperatura e pressão suficientes para uma fusão nuclear ocorrer. Acima do núcleo está a zona de radiação, onde o plasma se converte o fluxo de energia através da radiação. As camadas externas formam uma zona de convecção onde o gás material transporta a energia através do deslocamento físico do gás. Se acredita que essa zona de convecção cria a atividade magnética que gera as manchas solares.\n",
+      "Um vento solar de partículas de plasma corre constantemente para fora do Sol até que atinge a heliosfera. Esse vento solar interage com a magnetosfera da Terra para criar os cinturões de Van Allen, assim como a aurora onde as linhas dos campos magnéticos da Terra descendem até a atmosfera da Terra.\n",
+      "Astronomia teórica.\n",
+      "Tópicos estudados pelos astrônomos teóricos são: dinâmica e evolução estelar; formação e evolução de galáxias; estrutura em grande escala da matéria no Universo; origem dos raios cósmicos; relatividade geral e cosmologia física, incluindo Cosmologia das cordas e física de astropartículas.\n",
+      "Campos interdisciplinares.\n",
+      "A astronomia e astrofísica desenvolveram links significantes de interdisciplinaridade com outros grandes campos científicos. Arqueoastronomia é o estudo das antigas e tradicionais astronomias em seus contextos culturais, utilizando evidências arqueológicas e antropológicas. Astrobiologia é o estudo do advento e evolução os sistemas biológicos no universo, com ênfase particular na possibilidade de vida fora do planeta Terra.\n",
+      "O estudo da química encontrada no espaço, incluindo sua formação, interação e destruição, é chamada de Astroquímica. Essas substâncias são normalmente encontradas em nuvens moleculares, apesar de também terem aparecido em estrelas de baixa temperatura, anões marrons, e planetas. Cosmoquímica é o estudo de compostos químicos encontrados dentro do Sistema Solar, incluindo a origem dos elementos e as variações na proporção de isótopos. Esses dois campos representam a união de disciplinas de astronomia e química.\n",
+      "Atuação profissional.\n",
+      "No Brasil.\n",
+      "Segundo o censo realizado pela Sociedade Astronômica Brasileira, em maio de 2011 havia 340 doutores em Astronomia atuando como pesquisadores no Brasil. Em 2006 foi instituída, no estado do Rio de Janeiro, a data de 2 de dezembro como o \"Dia do Astrônomo\". A data coincide com o aniversário do imperador Dom Pedro II, que era um conhecido incentivador da Astronomia.\n",
+      "\n",
+      "</doc>\n",
+      "<doc id=\"223\" url=\"https://pt.wikipedia.org/wiki?curid=223\" title=\"América Latina\">\n",
+      "América Latina\n",
+      "\n",
+      "A América Latina (; ) é uma região do continente americano que engloba os países onde são faladas, primordialmente, línguas românicas (derivadas do latim) — no caso, o espanhol, o português e o francês — visto que, historicamente, a região foi maioritariamente dominada pelos impérios coloniais europeus Espanhol e Português. A América Latina tem uma área de cerca de km², o equivalente a cerca de 3,9% da superfície da Terra (ou 14,1% de sua superfície emersa terrestre). Em 2008, a sua população foi estimada em mais de 569 milhões de pessoas. Os países do restante do continente americano tiveram uma colonização majoritariamente realizada por povos europeus de cultura anglo-saxônica ou neerlandesa (ver América Anglo-Saxônica). Vale ressaltar algumas exceções, como Québec, que não é um país independente, mas uma província de maioria francófona que pertence ao Canadá; o estado da Luisiana, que também foi colonizado por franceses, mas pertence aos Estados Unidos e os estados do sudoeste estadunidense, que tiveram colonização espanhola.\n",
+      "A América Latina compreende a quase totalidade das Américas do Sul e Central: as exceções são os países sul-americanos da Guiana e do Suriname e a nação centro-americana de Belize e da Jamaica, que são países de línguas germânicas. Também engloba alguns países da América Central Insular (países compostos de ilhas e arquipélagos banhados pelo Mar do Caribe), como Cuba, República Dominicana e Haiti. Da América do Norte, apenas o México é considerado como parte da América Latina. A região engloba 20 países: Argentina, Bolívia, Brasil, Chile, Colômbia, Costa Rica, Cuba, Equador, El Salvador, Guatemala, Haiti, Honduras, México, Nicarágua, Panamá, Paraguai, Peru, República Dominicana, Uruguai e Venezuela.\n",
+      "A expressão \"América Latina\" foi utilizada pela primeira vez em 1856 pelo filósofo chileno Francisco Bilbao e, no mesmo ano, pelo escritor colombiano José María Torres Caicedo; e aproveitada pelo imperador francês Napoleão III durante sua invasão francesa no México como forma de incluir a França — e excluir os anglo-saxões — entre os países com influência na América, citando também a Indochina como área de expansão da França na segunda metade do século XIX. Deve-se também observar que na mesma época foi criado o conceito de Europa Latina, que englobaria as regiões de predomínio de línguas românicas. Pesquisas sobre a origem da expressão conduzem, ainda, a Michel Chevalier, que mencionou o termo \"América Latina\" em 1836, durante uma missão diplomática feita aos Estados Unidos e ao México. Nos Estados Unidos, o termo não foi usado até o final do século XIX tornando-se comum para designar a região ao sul daquele país já no início do século XX. Ao final da Segunda Guerra Mundial, a criação da Comissão Econômica para a América Latina e o Caribe consolidou o uso da expressão como sinônimo dos países menos desenvolvidos dos continentes americanos, e tem, em consequência, um significado mais próximo da economia e dos assuntos sociais.\n",
+      "Convém observar que a Organização das Nações Unidas reconhece a existência de dois continentes: América do Sul e América do Norte, sendo que esta última se subdivide em Caribe, América Central e América do Norte propriamente dita, englobando México, Estados Unidos e Canadá, além das ilhas de São Pedro e Miquelão, Bermudas e a Groenlândia. As antigas colônias neerlandesas (e, atualmente, países constituintes do Reino dos Países Baixos) Curaçao, Aruba e São Martinho não são habitualmente consideradas partes da América Latina, embora sua língua mais falada seja o papiamento, língua de influência ibérica (embora não considerada latina).\n",
+      "Etimologia.\n",
+      "O termo foi utilizado pela primeira vez em 1856, numa conferência do filósofo chileno Francisco Bilbao e, no mesmo ano, pelo escritor colombiano José María Torres Caicedo em seu poema \"Las dos Américas\" (\"As duas Américas\", em português).\n",
+      "O termo \"América Latina\" foi usado pelo Império Francês de Napoleão III da França durante sua invasão francesa no México (1863-1867) como forma de incluir a França entre os países com influência na América e excluir os anglo-saxões. Desde sua aparição, o termo evoluiu para designar e compreender um conjunto de características culturais, étnicas, políticas, sociais e econômicas.\n",
+      "História.\n",
+      "Primeiros povos.\n",
+      "É provável que os primeiros povos vieram da Ásia para a América, cerca de 20 mil anos anteriores à chegada de Cristóvão Colombo ao hemisfério ocidental. Esses habitantes primitivos possivelmente vieram da Ásia à América, passando por uma ponte feita de terra, na era glacial, ou passando de barco pelo Estreito de Bering, ou, então, atravessando ilha por ilha, nas Aleutas. Dirigindo-se para o sul, se espalharam progressivamente pela América.\n",
+      "Esses habitantes de origem asiática, denominados, hoje, de índios americanos, ou ameríndios, vagueavam pela terra, perseguindo os animais para matar e tirando os peixes da água. Depois de uma grande quantidade de gerações na América, novos modos de vida foram desenvolvidos por certas tribos. Ao invés de vaguear, ergueram comunidades agrícolas. Foram os primeiros habitantes que plantaram cacau, milho, feijão, favas, batatas, abóbora e tabaco. Nas regiões em que ótimas colheitas foram conseguidas pelos agricultores que viviam tranquilamente, o crescimento populacional foi acelerado.\n",
+      "A cultura maia foi a mais antiga civilização de alto desenvolvimento no ocidente. Teve início na América Central mais de cem anos antes da época em Jesus Cristo nasceu. Por volta de 600 a.C., os maias criaram um calendário e um alfabeto de ideogramas. Haviam criado, também, estilos arquitetônicos, esculturais, e trabalhos metálicos. Tiveram uma boa estrutura de governo e conheciam muito bem astronomia e agricultura.\n",
+      "Durante a invasão espanhola da América Latina, no século XVI, aí prosperavam três grandes civilizações ameríndias: a \"maia\", na América Central (a qual era influenciada pela tolteca, do México, a partir do século X d.C.); a \"asteca\", no México, e a \"inca\" no Equador, no Peru e na Bolívia. Essas civilizações exerceram muita influência na prosperidade latino-americana que veio depois dessa contribuição dada pelos primeiros povos da região. O ouro e prata existiam em suas minas, e isso fez com que os dominadores espanhóis conquistassem os povos indígenas na maior rapidez possível.\n",
+      "Exploração e colonização.\n",
+      "A Espanha reclamou para o seu império colonial da maioria do território latino-americana, logo após a chegada de Cristóvão Colombo a essa área, em 1492. Terras no hemisfério ocidental eram reivindicadas por Portugal. Em uma grande quantidade de vezes, ambos os países desejavam as mesmas terras. Para estes conflitos que fossem resolvidos, uma linha demarcadora foi traçada pelo papa Alexandre VI (1431-1503), em 1493. Essa linha imaginária, a qual percorria de norte a sul, ultrapassava mais de 400 km a oeste das ilhas dos Açores e de Cabo Verde. Os espanhóis e os portugueses exploravam uma diminuta porção do hemisfério ocidental. Estavam de acordo que a Coroa de Castela poderia ter o total das terras das terras a oeste desta linha e o Reino de Portugal o total das terras a leste. Esse acordo fazia referência somente a terras que não fossem governadas por um adepto do cristianismo.\n",
+      "Porém, os portugueses não gostaram da ideia da linha, por acreditar que a bula \"Inter cætera\" concedia à Coroa de Castela uma área territorialmente muito extensa. Em 1494, o Tratado de Tordesilhas, pela qual a linha era deslocada a mais de 1 500 km a oeste, foi assinado pelo Reino de Portugal e pela Coroa de Castela. Ao Reino de Portugal competia a parte leste do continente, pela qual, hoje, boa porção do território brasileiro é representada. As terras das Espanha localizavam-se a oeste, e estendiam-se entre a Vice-Reino da Nova Espanha, atuais regiões sudoeste, norte, centro e sul dos EUA, e o ponto mais ao sul da América do Sul, na Terra do Fogo.\n",
+      "De 1492 até 1502, Cristóvão Colombo (1451-1506) viajou quatro vezes à América e criou uma grande variedade de colônias menores nas Antilhas. Pedro Álvares Cabral (1467-1520), navegador português, atingiu o litoral brasileiro em 1500. Cabral achou ter descoberto uma ilha e a reclamou para sua pátria. O navegador italiano Américo Vespúcio, que denominou a América, viajou em uma grande variedade de vezes entre 1497 e 1503, perante as bandeiras da Coroa de Castela e do Reino de Portugal. Os litorais brasileiro, uruguaio e argentino foram explorados por Vespúcio, além da exploração de quase o total do litoral argentino por Fernão de Magalhães, em 1520.\n",
+      "Nos primeiros anos do século XVI, os \"conquistadores\" dentre os quais eram encontrados Hernán Cortés (1485-1547) e Francisco Pizarro (1478?-1541), auxiliaram na consolidação do domínio da Coroa de Castela sobre a América Latina. Cortés chegou no litoral do México em 1519. Dois anos depois, tinha uma força de guerra com mais de mil espanhóis, uma grande quantidade de aliados ameríndios, certa artilharia leve e poucos cavalos. Com essa força, em 1521, havia dominado Tenochtitlán (atual Cidade do México), antiga sede de governo do Império Asteca. Nos últimos dias daquele ano, a maioria do território mexicano já foi conquistada por Cortés. Em 1523, um de seus oficiais, Pedro de Alvarado, saiu do México em direção ao sul, até a América Central. Naquele mesmo ano, foi encontrado com tropas que dirigiam-se para o norte, as quais vieram da colônia pertencente à Coroa de Castela que Vasco Núñez de Balboa (1475?-1519) fundou no Panamá e Pedro de Alvarado assegurou para a Coroa de Castela a América Central inteira.\n"
+     ]
+    }
+   ],
+   "source": [
+    "!head -n90 { extracted_path }"
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "id": "e077d727-49ea-4882-84e5-f3f6b4104a78",
+   "metadata": {},
+   "source": [
+    "## Uploading"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 17,
+   "id": "39e31bd2-4eda-4c65-abb7-03f89dae5ebb",
+   "metadata": {},
+   "outputs": [
+    {
+     "name": "stdout",
+     "output_type": "stream",
+     "text": [
+      "Requirement already satisfied: huggingface_hub in /.pyenv/versions/3.8.18/lib/python3.8/site-packages (0.16.4)\n",
+      "Requirement already satisfied: filelock in /.pyenv/versions/3.8.18/lib/python3.8/site-packages (from huggingface_hub) (3.12.3)\n",
+      "Requirement already satisfied: fsspec in /.pyenv/versions/3.8.18/lib/python3.8/site-packages (from huggingface_hub) (2023.9.0)\n",
+      "Requirement already satisfied: requests in /.pyenv/versions/3.8.18/lib/python3.8/site-packages (from huggingface_hub) (2.31.0)\n",
+      "Requirement already satisfied: tqdm>=4.42.1 in /.pyenv/versions/3.8.18/lib/python3.8/site-packages (from huggingface_hub) (4.66.1)\n",
+      "Requirement already satisfied: pyyaml>=5.1 in /.pyenv/versions/3.8.18/lib/python3.8/site-packages (from huggingface_hub) (6.0.1)\n",
+      "Requirement already satisfied: typing-extensions>=3.7.4.3 in /.pyenv/versions/3.8.18/lib/python3.8/site-packages (from huggingface_hub) (4.7.1)\n",
+      "Requirement already satisfied: packaging>=20.9 in /.pyenv/versions/3.8.18/lib/python3.8/site-packages (from huggingface_hub) (23.1)\n",
+      "Requirement already satisfied: charset-normalizer<4,>=2 in /.pyenv/versions/3.8.18/lib/python3.8/site-packages (from requests->huggingface_hub) (3.2.0)\n",
+      "Requirement already satisfied: idna<4,>=2.5 in /.pyenv/versions/3.8.18/lib/python3.8/site-packages (from requests->huggingface_hub) (2.10)\n",
+      "Requirement already satisfied: urllib3<3,>=1.21.1 in /.pyenv/versions/3.8.18/lib/python3.8/site-packages (from requests->huggingface_hub) (2.0.4)\n",
+      "Requirement already satisfied: certifi>=2017.4.17 in /.pyenv/versions/3.8.18/lib/python3.8/site-packages (from requests->huggingface_hub) (2023.7.22)\n",
+      "\u001b[33mWARNING: Running pip as the 'root' user can result in broken permissions and conflicting behaviour with the system package manager. It is recommended to use a virtual environment instead: https://pip.pypa.io/warnings/venv\u001b[0m\u001b[33m\n",
+      "\u001b[0m"
+     ]
+    }
+   ],
+   "source": [
+    "!pip install huggingface_hub"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 18,
+   "id": "f9066591-a50b-478a-aea8-1110e290e824",
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "import huggingface_hub\n",
+    "from huggingface_hub import notebook_login\n",
+    "from datasets import Dataset, load_dataset"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 19,
+   "id": "c832327f-b5bd-4941-a3a4-c68fbbaa2503",
+   "metadata": {},
+   "outputs": [
+    {
+     "data": {
+      "application/vnd.jupyter.widget-view+json": {
+       "model_id": "e4aa73d418ce478a8a1ddef44c52d395",
+       "version_major": 2,
+       "version_minor": 0
+      },
+      "text/plain": [
+       "VBox(children=(HTML(value='<center> <img\\nsrc=https://huggingface.co/front/assets/huggingface_logo-noborder.sv…"
+      ]
+     },
+     "metadata": {},
+     "output_type": "display_data"
+    }
+   ],
+   "source": [
+    "# Huggingface hub authentication\n",
+    "notebook_login(True, True)"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 20,
+   "id": "b5901100-454d-494d-9eec-8ce8fe91a279",
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "def extract_documents(extracted_path: Path, lang: str) -> None:\n",
+    "        \n",
+    "    DOC_RE = re.compile(rf'<doc id=\"(\\d+)\" url=\"https://{lang}.wikipedia.org/wiki\\?curid=\\d+\" title=\"([^\"]+)\">')\n",
+    "\n",
+    "    directory.mkdir(exist_ok=True, parents=True)\n",
+    "    \n",
+    "    fin = extracted_path.open()\n",
+    "    \n",
+    "    document = None\n",
+    "    \n",
+    "    for line in fin:\n",
+    "        \n",
+    "        if line.startswith('<doc id=\"'):            \n",
+    "            \n",
+    "            matches = DOC_RE.findall(line)\n",
+    "\n",
+    "            id = matches[0][0]\n",
+    "            title = matches[0][1].replace('/','_')\n",
+    "            \n",
+    "            document = {\n",
+    "                'id': id,\n",
+    "                'title': title\n",
+    "            }\n",
+    "            \n",
+    "            content = []\n",
+    "            \n",
+    "        elif '</doc>\\n' in line:\n",
+    "            document['text'] = ''.join(content)\n",
+    "            yield document\n",
+    "        else:\n",
+    "            content.append(line)"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 21,
+   "id": "c6dfc32a-e7be-4031-b560-24d25b52faf7",
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "dataset = Dataset.from_generator(extract_documents, gen_kwargs={ 'extracted_path': extracted_path, 'lang': lang })"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 23,
+   "id": "39b0917e",
+   "metadata": {},
+   "outputs": [
+    {
+     "name": "stdout",
+     "output_type": "stream",
+     "text": [
+      "Number of documents: 1857355\n"
+     ]
+    }
+   ],
+   "source": [
+    "print(f'Number of documents: {len(dataset)}')"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 24,
+   "id": "c797a190-297a-432c-8c44-b714b21008fe",
+   "metadata": {
+    "scrolled": true
+   },
+   "outputs": [
+    {
+     "name": "stdout",
+     "output_type": "stream",
+     "text": [
+      "220  -  Astronomia\n",
+      "-----------------------------------\n",
+      "Astronomia\n",
+      "\n",
+      "Astronomia é uma ciência natural que estuda corpos celestes (como estrelas, planetas, cometas, nebulosas, aglomerados de estrelas, galáxias) e fenômenos que se originam fora da atmosfera da Terra (como a radiação cósmica de fundo em micro-ondas). Preocupada com a evolução, a física e a química de objetos celestes, bem como a formação e o desenvolvimento do universo.\n",
+      "A astronomia é uma das mais antigas ciências. Culturas pré-históricas deixaram registrados vários artefatos astronômicos, como Stonehenge, os montes de Newgrange e os menires. As primeiras civilizações, como os babilônios, gregos, chineses, indianos, persas e maias realizaram observações metódicas do céu noturno. No entanto, a invenção do telescópio permitiu o desenvolvimento da astronomia moderna. Historicamente, a astronomia incluiu disciplinas tão diversas como astrometria, navegação astronômica, astronomia observacional e a elaboração de calendários. Durante o período medieval, seu estudo era obrigatório e estava incluído no \"Quadrivium\" que, junto com o \"Trivium\", compunha a metodologia de ensino das sete Artes liberais.\n",
+      "Durante o século XX, o campo da astronomia profissional dividiu-se em dois ramos: a astronomia observacional e a astronomia teórica. A primeira está focada na aquisição de dados a partir da observação de objetos celestes, que são então analisados utilizando os princípios básicos da física. Já a segunda é orientada para o desenvolvimento de modelos analíticos que descrevem objetos e fenômenos astronômicos. Os dois campos se complementam, com a astronomia teórica procurando explicar os resultados observacionais, bem com as observações sendo usadas para confirmar (ou não) os resultados teóricos.\n",
+      "Os astrônomos amadores têm contribuído para muitas e importantes descobertas astronômicas. A astronomia é uma das poucas ciências onde os amadores podem desempenhar um papel ativo, especialmente na descoberta e observação de fenômenos transitórios.\n",
+      "A Astronomia não deve ser confundida com a astrologia, sistema de crença que afirma que os assuntos humanos, como a personalidade, estão correlacionados com as posições dos objetos celestes. Embora os dois campos compartilhem uma origem comum, atualmente eles estão totalmente distintos.\n",
+      "História.\n",
+      "Inicialmente, a astronomia envolveu somente a observação e a previsão dos movimentos dos objetos no céu que podiam ser vistos a olho nu. O Rigveda refere-se aos 27 asterismos ou \"nakshatras\" associados aos movimentos do Sol e também às doze divisões zodiacais do céu. Durante milhares de anos, as pessoas investigaram o espaço e a situação da Terra. No ano 4000 a.C., os egípcios desenvolveram um calendário baseado no movimento dos objetos celestes. A observação dos céus levou à previsão de eventos como os eclipses. Os antigos gregos fizeram importantes contribuições para a astronomia, entre elas a definição de magnitude aparente. A Bíblia contém um número de afirmações sobre a posição da Terra no universo e sobre a natureza das estrelas e dos planetas, a maioria das quais são poéticas e não devem ser interpretadas literalmente; ver Cosmologia bíblica. Nos anos 500, Aryabhata apresentou um sistema matemático que considerava que a Terra rodava em torno do seu eixo e que os planetas se deslocavam em relação ao Sol.\n",
+      "O estudo da astronomia quase parou durante a Idade Média, à exceção do trabalho dos astrónomos árabes. No final do século IX, o astrónomo árabe ou persa al-Farghani (Abu'l-Abbas Ahmad ibn Muhammad ibn Kathir al-Farghani) escreveu extensivamente sobre o movimento dos corpos celestes. No século XII, os seus trabalhos foram traduzidos para o latim, e diz-se que Dante aprendeu astronomia pelos livros de al-Farghani.\n",
+      "No final do século X, um observatório enorme foi construído perto de Teerã, Irã, pelo astrônomo al-Khujandi, que observou uma série de trânsitos meridianos do Sol, que permitiu-lhe calcular a obliquidade da eclíptica, também conhecida como a inclinação do eixo da Terra relativamente ao Sol. Como sabe-se hoje, a inclinação da Terra é de aproximadamente 23°34', e al-Khujandi mediu-a como sendo 23°32'19\". Usando esta informação, compilou também uma lista das latitudes e das longitudes de cidades principais.\n",
+      "Omar Khayyam (Ghiyath al-Din Abu'l-Fath Umar ibn Ibrahim al-Nisaburi al-Khayyami) foi um grande cientista, filósofo e poeta persa que viveu de 1048 a 1131. Compilou muitas tabelas astronômicas e executou uma reforma do calendário que era mais exato do que o Calendário Juliano e se aproximava do Calendário Gregoriano. Um feito surpreendente era seu cálculo do ano como tendo 365,24219858156 dias, valor esse considerando a exatidão até a sexta casa decimal se comparado com os números de hoje, indica que nesses mil anos pode ter havido algumas alterações na órbita terrestre.\n",
+      "Durante o Renascimento, Copérnico propôs um modelo heliocêntrico do Sistema Solar. No século XIII, o imperador Hulagu, neto de Gengis Khan e um protetor das ciências, havia concedido ao conselheiro Nasir El Din Tusi autorização para edificar um observatório considerado sem equivalentes na época. Entre os trabalhos desenvolvidos no observatório de Maragheh e a obra \"De Revolutionibus Orbium Caelestium\" de Copérnico, há algumas semelhanças que levam os historiadores a admitir que este teria tomado conhecimento dos estudos de Tusi, através de cópias de trabalhos deste existentes no Vaticano.\n",
+      "O modelo heliocêntrico do Sistema Solar foi defendido, desenvolvido e corrigido por Galileu Galilei e Johannes Kepler. Kepler foi o primeiro a desenvolver um sistema que descrevesse corretamente os detalhes do movimento dos planetas com o Sol no centro. No entanto, Kepler não compreendeu os princípios por detrás das leis que descobriu. Estes princípios foram descobertos mais tarde por Isaac Newton, que mostrou que o movimento dos planetas se podia explicar pela Lei da gravitação universal e pelas leis da dinâmica.\n",
+      "Constatou-se que as estrelas são objetos muito distantes. Com o advento da Espectroscopia provou-se que são similares ao nosso próprio Sol, mas com uma grande variedade de temperaturas, massas e tamanhos. A existência de nossa galáxia, a Via Láctea, como um grupo separado das estrelas foi provada somente no século XX, bem como a existência de galáxias \"externas\", e logo depois, a expansão do universo dada a recessão da maioria das galáxias de nós. A Cosmologia fez avanços enormes durante o século XX, com o modelo do Big Bang fortemente apoiado pelas evidências fornecidas pela Astronomia e pela Física, tais como a radiação cósmica de micro-ondas de fundo, a Lei de Hubble e a abundância cosmológica dos elementos.\n",
+      "Campos.\n",
+      "Por ter um objeto de estudo tão vasto, a astronomia é dividida em muitas áreas. Uma distinção principal é entre a astronomia \"teórica\" e a \"observacional\". \"Observadores\" usam vários meios para obter dados sobre diversos fenômenos, que são usados pelos \"teóricos\" para criar e testar teorias e modelos, para explicar observações e para prever novos resultados. O observador e o teórico não são necessariamente pessoas diferentes e, em vez de dois campos perfeitamente delimitados, há um contínuo de cientistas que põem maior ou menor ênfase na observação ou na teoria.\n",
+      "Os campos de estudo podem também ser categorizados quanto:\n",
+      "Enquanto a primeira divisão se aplica tanto a observadores como também a teóricos, a segunda se aplica a observadores, pois os teóricos tentam usar toda informação disponível, em todos os comprimentos de onda, e observadores frequentemente observam em mais de uma faixa do espectro.\n",
+      "Astronomia observacional.\n",
+      "Na astronomia, a principal forma de obter informação é através da detecção e análise da luz visível ou outras regiões da radiação eletromagnética. Mas a informação é adquirida também por raios cósmicos, neutrinos, e, no futuro próximo, ondas gravitacionais (veja LIGO e LISA).\n",
+      "Uma divisão tradicional da astronomia é dada pela faixa do espectro eletromagnético observado. Algumas partes do espectro podem ser observadas da superfície da Terra, enquanto outras partes só são observáveis de grandes altitudes ou no espaço.\n",
+      "Radioastronomia.\n",
+      "A radioastronomia estuda a radiação com comprimento de onda maior que aproximadamente 1 milímetro. A radioastronomia é diferente da maioria das outras formas de astronomia observacional pelo fato de as ondas de rádio observáveis poderem ser tratadas como ondas ao invés de fótons discretos. Com isso, é relativamente mais fácil de medir a amplitude e a fase das ondas de rádio.\n",
+      "Apesar de algumas ondas de rádio serem produzidas por objetos astronômicos na forma de radiação térmica, a maior parte das emissões de rádio que são observadas da Terra são vistas na forma de radiação síncrotron, que é produzida quando elétrons ou outras partículas eletricamente carregadas descrevem uma trajetória curva em um campo magnético. Adicionalmente, diversas linhas espectrais produzidas por gás interestelar, notadamente a linha espectral do hidrogênio de 21 cm, são observáveis no comprimento de onda de rádio.\n",
+      "Uma grande variedade de objetos são observáveis no comprimento de onda de rádio, incluindo supernovas, gás interestelar, pulsares e núcleos de galáxias ativas.\n",
+      "Astronomia infravermelha.\n",
+      "A astronomia infravermelha lida com a detecção e análise da radiação infravermelha, cuja frequência é menor do que a da luz vermelha. Exceto por comprimentos de onda mais próximas à luz visível, a radiação infravermelha é na maior parte absorvida pela atmosfera, e a atmosfera produz emissão infravermelha numa quantidade significante. Consequentemente, observatórios de infravermelho precisam estar localizados em lugares altos e secos, ou no espaço.\n",
+      "O espectro infravermelho é útil para estudar objetos que são muito frios para emitir luz visível, como os planetas e discos circunstrelares. Comprimentos de onda infravermelha maior podem também penetrar nuvens de poeira que bloqueiam a luz visível, permitindo a observação de estrelas jovens em nuvens moleculares e o centro de galáxias. Algumas moléculas radiam fortemente no infravermelho, e isso pode ser usado para estudar a química no espaço, assim como detectar água em cometas.\n",
+      "Astronomia óptica.\n",
+      "Historicamente, a astronomia óptica (também chamada de astronomia da luz visível) é a forma mais antiga da astronomia. Imagens ópticas eram originalmente desenhadas à mão. No final do século XIX e na maior parte do século XX as imagens eram criadas usando equipamentos fotográficos. Imagens modernas são criadas usando detectores digitais, principalmente detectores usando dispositivos de cargas acoplados (CCDs). Apesar da luz visível estender de aproximadamente Å até Å (400 nm até 700 nm), o mesmo equipamento usado nesse comprimento de onda é também usado para observar radiação de luz visível próxima a ultravioleta e infravermelho.\n",
+      "Astronomia ultravioleta.\n",
+      "A astronomia ultravioleta é normalmente usada para se referir a observações no comprimento de onda ultravioleta, aproximadamente entre 100 e Å (10 e 320 nm). A luz nesse comprimento de onda é absorvida pela atmosfera da Terra, então as observações devem ser feitas na atmosfera superior ou no espaço.\n",
+      "A astronomia ultravioleta é mais utilizada para o estudo da radiação térmica e linhas de emissão espectral de estrelas azul quente (Estrela OB) que são muito brilhantes nessa banda de onda. Isso inclui estrelas azuis em outras galáxias, que têm sido alvos de várias pesquisas nesta área. Outros objetos normalmente observados incluem a nebulosa planetária, remanescente de supernova, e núcleos de galáxias ativas. Entretanto, a luz ultravioleta é facilmente absorvida pela poeira interestelar, e as medições da luz ultravioleta desses objetos precisam ser corrigidas.\n",
+      "Astronomia de raios-X.\n",
+      "A astronomia de raio-X é o estudo de objetos astronômicos no comprimento de onda de raio-X. Normalmente os objetos emitem radiação de raio-X como radiação síncrotron (produzida pela oscilação de elétrons em volta de campos magnéticos), emissão termal de gases finos (chamada de radiação Bremsstrahlung) maiores que 107 kelvin, e emissão termal de gases grossos (chamada radiação de corpo negro) maiores que 107 kelvin. Como os raio-X são absorvidos pela atmosfera terrestre todas as observações devem ser feitas de balões de grande altitude, foguetes, ou naves espaciais.\n",
+      "Fontes de raio-X notáveis incluem binário de raio X, pulsares, remanescentes de supernovas, galáxias elípticas, aglomerados de galáxias e núcleos galácticos ativos.\n",
+      "Astronomia de raios gama.\n",
+      "A astronomia de raios gama é o estudo de objetos astronômicos que usam os menores comprimentos de onda do espectro eletromagnético. Os raios gama podem ser observados diretamente por satélites como o observatório de raios Gama Compton ou por telescópios especializados chamados Cherenkov. Os telescópios Cherenkov não detectam os raios gama diretamente mas detectam flashes de luz visível produzidos quando os raios gama são absorvidos pela atmosfera da Terra.\n",
+      "A maioria das fontes emissoras de raio gama são na verdade Erupções de raios gama, objetos que produzem radiação gama apenas por poucos milissegundos a até milhares de segundos antes de desaparecerem. Apenas 10% das fontes de raio gama são fontes não transcendentes, incluindo pulsares, estrelas de nêutrons, e candidatos a buracos negros como núcleos galácticos ativos.\n",
+      "Campos não baseados no espectro eletromagnético.\n",
+      "Além da radiação eletromagnética outras coisas podem ser observadas da Terra que se originam de grandes distâncias.\n",
+      "Na Astronomia de neutrinos, astrônomos usam laboratórios especiais subterrâneos como o SAGE, GALLEX e Kamioka II/III para detectar neutrinos. Esses neutrinos se originam principalmente do Sol, mas também de supernovas.\n",
+      "Raios cósmicos consistindo de partículas de energia muito elevada podem ser observadas chocando-se com a atmosfera da terra. No futuro, detectores de neutrino poderão ser sensíveis aos neutrinos produzidos quando raios cósmicos atingem a atmosfera da Terra.\n",
+      "Foram construídos alguns observatórios de ondas gravitacionais como o Laser Interferometer Gravitational Observatory (LIGO) mas as ondas gravitacionais são extremamente difíceis de detectar. No final de 2015, pesquisadores do projeto LIGO (\"Laser Interferometer Gravitational-Wave Observatory\") observaram \"distorções no espaço e no tempo\" causadas por um par de buracos negros com trinta massas solares em processo de fusão.\n",
+      "A astronomia planetária tem se beneficiado da observação direta pelos foguetes espaciais e amostras no retorno das missões. Essas missões incluem \"fly-by missions\" com sensores remotos; veículos de aterrissagem que podem realizar experimentos no material da superfície; missões que permitem ver remotamente material enterrado; e missões de amostra que permitem um exame laboratorial direto.\n",
+      "Astrometria e mecânica celeste.\n",
+      "Um dos campos mais antigos da astronomia e de todas as ciências, é a medição da posição dos objetos celestiais. Historicamente, o conhecimento preciso da posição do Sol, Lua, planetas e estrelas era essencial para a navegação celestial.\n",
+      "A cuidadosa medição da posição dos planetas levou a um sólido entendimento das perturbações gravitacionais, e a capacidade de determinar as posições passadas e futuras dos planetas com uma grande precisão, um campo conhecido como mecânica celestial. Mais recentemente, o monitoramento de Objectos Próximos da Terra vai permitir a predição de encontros próximos, e possivelmente colisões, com a Terra.\n",
+      "A medição do paralaxe estelar de estrelas próximas provêm uma linha de base fundamental para a medição de distâncias na astronomia que é usada para medir a escala do universo. Medições paralaxe de estrelas próximas provêm uma linha de base absoluta para as propriedades de estrelas mais distantes, porque suas propriedades podem ser comparadas. A medição da velocidade radial e o movimento próprio mostra a cinemática desses sistemas através da Via Láctea. Resultados astronômicos também são usados para medir a distribuição de matéria escura na galáxia.\n",
+      "Durante a década de 1990, as técnicas de astrometria para medir as stellar wobble foram usados para detectar planetas extrasolares orbitando a estrelas próximas.\n",
+      "Subcampos específicos.\n",
+      "Astronomia solar.\n",
+      "Localizada a uma distância de aproximadamente de oito minutos-luz da Terra, a estrela mais frequentemente estudada é o Sol, uma típica estrela anã da sequência principal da classe estrelar G2 V, com idade de aproximadamente 4,6 Gyr. O Sol não é considerado uma estrela variável, mas passa por mudanças periódicas em atividades conhecidas como ciclo solar, que se caracteriza por uma flutuação de cerca de 11 anos no número de mancha solares. Manchas solares são regiões de temperatura abaixo da média que estão associadas a uma intensa atividade magnética.\n",
+      "O Sol tem aumentado constantemente de luminosidade no seu curso de vida, aumentando em 40% desde que se tornou uma estrela da sequência principal. O Sol também passa por mudanças periódicas de luminosidade que podem ter um impacto significativo na Terra. Por exemplo, se acredita que o mínimo de Maunder tenha causado a Pequena Idade do Gelo.\n",
+      "A superfície externa visível do Sol é chamada fotosfera. Acima dessa camada há uma fina região conhecida como cromosfera. Essa é envolvida por uma região de transição de temperaturas cada vez mais elevadas, e então pela superquente corona.\n",
+      "No centro do Sol está a região do núcleo, um volume com temperatura e pressão suficientes para uma fusão nuclear ocorrer. Acima do núcleo está a zona de radiação, onde o plasma se converte o fluxo de energia através da radiação. As camadas externas formam uma zona de convecção onde o gás material transporta a energia através do deslocamento físico do gás. Se acredita que essa zona de convecção cria a atividade magnética que gera as manchas solares.\n",
+      "Um vento solar de partículas de plasma corre constantemente para fora do Sol até que atinge a heliosfera. Esse vento solar interage com a magnetosfera da Terra para criar os cinturões de Van Allen, assim como a aurora onde as linhas dos campos magnéticos da Terra descendem até a atmosfera da Terra.\n",
+      "Astronomia teórica.\n",
+      "Tópicos estudados pelos astrônomos teóricos são: dinâmica e evolução estelar; formação e evolução de galáxias; estrutura em grande escala da matéria no Universo; origem dos raios cósmicos; relatividade geral e cosmologia física, incluindo Cosmologia das cordas e física de astropartículas.\n",
+      "Campos interdisciplinares.\n",
+      "A astronomia e astrofísica desenvolveram links significantes de interdisciplinaridade com outros grandes campos científicos. Arqueoastronomia é o estudo das antigas e tradicionais astronomias em seus contextos culturais, utilizando evidências arqueológicas e antropológicas. Astrobiologia é o estudo do advento e evolução os sistemas biológicos no universo, com ênfase particular na possibilidade de vida fora do planeta Terra.\n",
+      "O estudo da química encontrada no espaço, incluindo sua formação, interação e destruição, é chamada de Astroquímica. Essas substâncias são normalmente encontradas em nuvens moleculares, apesar de também terem aparecido em estrelas de baixa temperatura, anões marrons, e planetas. Cosmoquímica é o estudo de compostos químicos encontrados dentro do Sistema Solar, incluindo a origem dos elementos e as variações na proporção de isótopos. Esses dois campos representam a união de disciplinas de astronomia e química.\n",
+      "Atuação profissional.\n",
+      "No Brasil.\n",
+      "Segundo o censo realizado pela Sociedade Astronômica Brasileira, em maio de 2011 havia 340 doutores em Astronomia atuando como pesquisadores no Brasil. Em 2006 foi instituída, no estado do Rio de Janeiro, a data de 2 de dezembro como o \"Dia do Astrônomo\". A data coincide com o aniversário do imperador Dom Pedro II, que era um conhecido incentivador da Astronomia.\n",
+      "\n",
+      "\n"
+     ]
+    }
+   ],
+   "source": [
+    "print(dataset[0]['id'], ' - ', dataset[0]['title'])\n",
+    "print('-----------------------------------')\n",
+    "print(dataset[0]['text'])"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 25,
+   "id": "ade52120",
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "# Push the dataset to the Hugging Face Hub\n",
+    "repo = f'pablo-moreira/wikipedia-{lang}'"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 27,
+   "id": "9958f3f9-e62f-443b-919a-a8b27b3666e7",
+   "metadata": {},
+   "outputs": [
+    {
+     "data": {
+      "application/vnd.jupyter.widget-view+json": {
+       "model_id": "574f2a4f67c04b5fbf93d64ca88d5721",
+       "version_major": 2,
+       "version_minor": 0
+      },
+      "text/plain": [
+       "Pushing dataset shards to the dataset hub:   0%|          | 0/5 [00:00<?, ?it/s]"
+      ]
+     },
+     "metadata": {},
+     "output_type": "display_data"
+    },
+    {
+     "data": {
+      "application/vnd.jupyter.widget-view+json": {
+       "model_id": "027141a911834b27857fcb9e89001d2e",
+       "version_major": 2,
+       "version_minor": 0
+      },
+      "text/plain": [
+       "Downloading metadata:   0%|          | 0.00/1.00k [00:00<?, ?B/s]"
+      ]
+     },
+     "metadata": {},
+     "output_type": "display_data"
+    }
+   ],
+   "source": [
+    "dataset.push_to_hub(repo, latest_release)"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 28,
+   "id": "1bb5cbb9-1995-42c6-93ad-c9ca951c5e9e",
+   "metadata": {},
+   "outputs": [
+    {
+     "data": {
+      "application/vnd.jupyter.widget-view+json": {
+       "model_id": "2d42a6a6ece346d9ac3b34aba6e5d7d8",
+       "version_major": 2,
+       "version_minor": 0
+      },
+      "text/plain": [
+       "Pushing dataset shards to the dataset hub:   0%|          | 0/5 [00:00<?, ?it/s]"
+      ]
+     },
+     "metadata": {},
+     "output_type": "display_data"
+    },
+    {
+     "data": {
+      "application/vnd.jupyter.widget-view+json": {
+       "model_id": "14d051e4aa7d4ff6aa3d006dd85acf13",
+       "version_major": 2,
+       "version_minor": 0
+      },
+      "text/plain": [
+       "Downloading metadata:   0%|          | 0.00/994 [00:00<?, ?B/s]"
+      ]
+     },
+     "metadata": {},
+     "output_type": "display_data"
+    }
+   ],
+   "source": [
+    "dataset.push_to_hub(repo, 'latest')"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "5c70ed25-ff8c-4cf9-aadd-7986a54fde13",
+   "metadata": {},
+   "outputs": [],
+   "source": []
+  }
+ ],
+ "metadata": {
+  "kernelspec": {
+   "display_name": "Python 3 (ipykernel)",
+   "language": "python",
+   "name": "python3"
+  },
+  "language_info": {
+   "codemirror_mode": {
+    "name": "ipython",
+    "version": 3
+   },
+   "file_extension": ".py",
+   "mimetype": "text/x-python",
+   "name": "python",
+   "nbconvert_exporter": "python",
+   "pygments_lexer": "ipython3",
+   "version": "3.8.18"
+  }
+ },
+ "nbformat": 4,
+ "nbformat_minor": 5
+}