Text Extraction Overview on README

README.md

@@ -80,4 +80,17 @@ An example looks as follows:
 - `text`: Text of the page, in Markdown format
 - `crawl_timestamp`: Timestamp of the crawl
 
+## Text Extraction Overview
+
+The Canarim database employs the [`Trafilatura`](https://trafilatura.readthedocs.io) library for extracting textual content from HTML data, converting it into Markdown format. This tool focuses on preserving key textual elements like titles, subtitles, bold, and italic formatting in Markdown, ensuring the retention of the original document structure. During the extraction process, Trafilatura discards comments and other non-essential information, streamlining the content to include only the main body of the web pages.
+
+<figure align="center">
+  <img width="800" alt="Text Extraction Example" src="https://raw.githubusercontent.com/DominguesM/canarim/main/assets/canarim-text-extraction-preview.png">
+  <figcaption>
+    <a href="https://g1.globo.com/ac/acre/natureza/amazonia/noticia/2023/01/03/para-comemorar-40-anos-do-parque-zoobotanico-da-ufac-livro-vai-reunir-depoimentos-de-envolvidos-no-inicio-do-projeto.ghtml" target="_blank">Original Web Page</a> and 
+    <a href="./assets/extracted_text.md" target="_blank">Extracted Text</a>
+  </figcaption>
+</figure>
+
+
 WIP

assets/extracted_text.md

@@ -0,0 +1,38 @@
+```json
+{
+    'url': 'https://g1.globo.com/ac/acre/natureza/amazonia/noticia/2023/01/03/para-comemorar-40-anos-do-parque-zoobotanico-da-ufac-livro-vai-reunir-depoimentos-de-envolvidos-no-inicio-do-projeto.ghtml',
+    'content_languages': 'por',
+    'warc_filename': 'crawl-data/CC-MAIN-2023-06/segments/1674764499919.70/warc/CC-MAIN-20230201081311-20230201111311-00552.warc.gz',
+    'warc_record_offset': 281625400,
+    'warc_record_length': 192934,
+    'text': 'Read the text below',
+    'crawl_timestamp': '2023-02-01T10:38:52Z'
+}
+```
+
+
+-------------------
+
+Parque Zoobotânico da Ufac guarda uma grande variedade espécies de árvores em Rio Branco — Foto: Arquivo/Ufac
+Em comemoração aos 40 anos do Parque Zoobotânico (PZ) da Universidade Federal do Acre (Ufac), em Rio Branco, um grupo de pesquisadores está coletando depoimentos, relatos, fotografias e manuscritos que devem compor um livro de memórias dos trabalhos desenvolvidos no parque.
+O livro deve conter depoimentos de ex-professores, ex-alunos, ex-servidores e pesquisadores que ajudaram a construir a história do espaço que apoia ações de ensino, pesquisa e extensão dentro do Campuz da Ufac. O PZ possui cerca de 115 hectares de extensão com uma variada fauna e fez 40 anos em 2020.
+A estrutura tem arboreto, herbário, viveiro de produção de mudas, laboratório de análise de sementes florestais, educação ambiental, laboratório de entomologia, Setor de Estudos de Uso da Terra e Mudanças Globais (Setem) e Setor de Conservação e Manejo.
+Para reunir o material de pesquisa e relatos, professores e técnicos do PZ criaram o Projeto Memórias do Parque Zoobotânico (PZ) da Ufac: 40 Anos Contribuindo na Geração de Conhecimento, Conservação da Biodiversidade e na Formação de Profissionais na Área Ambiental no Estado do Acre.
+Livro vai resgatar história de construção do parque e homenagear as pessoas que participaram — Foto: Arquivo/Parque Zoobotânico
+Na primeira fase, os estudiosos tentam encontrar 300 pessoas que tiveram participação na plantação das primeiras árvores e construção de toda estrutura. Destas, 150 já foram encontradas e contaram suas histórias.
+O coordenador do projeto e dos fundadores do PZ, professor Carlos Edegard de Deus, disse que os pesquisadores têm pelo menos mais três meses para juntar esses relatos e fotografias.
+"É um trabalho muito bonito que está sendo feito porque estamos resgatando a história de 40 anos de trabalho do Parque Zoobotânico e uma das coisas que já estamos constando é que muitas das pessoas que passaram pelo parque hoje estão em cargos de chaves na gestão ambiental do estado. O Parque Zoobotânico começou esse movimento ambiental aqui no Acre, claro, junto com outras organizações. Mas, foi um dos primeiros, então, queremos destacar isso também ", explicou o professor.
+
+## Homenagens
+O projeto tem outras linhas de frente também, conforme o professor, já que será produzido também um artigo científico contando a história de cada setor e espaço do parque. As equipes vão ainda reorganizar os arquivos do PZ, documentos que têm 40 anos e que vão construir uma linha do tempo da história.
+"Passaram por vários diretores e estamos fazendo uma linha do tempo com os principais documentos do parque. Uma das coisas que a gente pretende fazer também é uma revitalização do site do parque que está no portal da Ufac e vamos refazer um vídeo institucional com os depoimentos", descreveu.
+Espaço tem ainda laboratório que é usado por alunos e pesquisadores do estado — Foto: Arquivo/Parque Zoobotânico
+O coordenador disse ainda que haverá uma homenagem para as pessoas que ajudaram na construção do espaço e já morreram. "Vamos fazer também uma homenagem para aqueles que faleceram, tanto homens e mulheres que trabalharam no parque. Vamos prestar uma homenagem coletiva para eles", resumiu.
+
+## Atraso
+O Parque Zoobotânico completou 40 anos em 2020. Inicialmente, o projeto de pesquisa iria terminar entre o final de 2022 e início de 2023, mas, com a pandemia de Covid-19, os trabalhos atrasaram e devem ser concluídos em até seis meses.
+"Concluímos em 2023, com certeza. Tem bastante coisa avançada no ponto de vista da sistematização. O parque tem uma área remanescente de floresta, uma estrada de seringa que é utilizada pelos alunos e também as visitas que vão lá. Tem ainda a sede onde funcionam os trabalhos de educação ambiental e recebe alunos e professores da rede de ensino", concluiu.
+
+## Reveja os telejornais do Acre
+**Ative as notificações do G1!**
+Veja também