Upload 5 files

spanish_biomedical_craw_corpus/example.txt

@@ -0,0 +1,61 @@
+Existen diversos factores que influyen en el paso de sustancias a la leche materna como, por ejemplo, la unión a proteínas plasmáticas, ionización, grado de liposolubilidad, peso molecular, etc. Tales parámetros varían según los fármacos.
+Además, no hay suficientes estudios para un número elevado de medicamentos, sobre todo para los de reciente comercialización.
+De hecho, la recomendación «contraindicado durante la lactancia», hace referencia sobre todo a la falta de estudios farmacocinéticos sobre la excreción en leche materna, y no a la existencia de observaciones clínicas.
+En este artículo se exponen los datos disponibles sobre fármacos de uso común y algunos principios sencillos para facilitar la labor de los profesionales de la salud a la hora de prescribir medicación a una mujer durante la lactancia.
+
+El asma es una enfermedad inflamatoria crónica de las vías respiratorias que provoca una obstrucción bronquial reversible.
+En los países industrializados, la prevalencia y la gravedad se encuentran en aumento desde 1970, pero la mortalidad permanece estable.
+El diagnóstico, sobre todo clínico, se basa en el interrogatorio.
+Luego ha de confirmarse mediante la espirometría, que pone de manifiesto el trastorno ventilatorio obstructivo y su reversibilidad.
+Para tratar la enfermedad, es fundamental identificar todos los elementos desencadenantes y/o agravantes de la misma (neumoalérgenos, rinitis y sinusitis, irritantes, etc.).
+La intensidad de los síntomas y el flujo espiratorio máximo constituyen los parámetros de la gravedad del asma.
+El tratamiento se prescribe según esta escala de gravedad, y se pretende limitar los síntomas, las exacerbaciones y la necesidad de fármacos así como mantener una función ventilatoria normal.
+Por lo general, el tratamiento farmacológico consiste en una asociación de corticoides (inhalados en la mayoría de los casos) y agonistas β 2 adrenérgicos.
+Asimismo, resulta imprescindible brindar explicaciones que faciliten la adhesión del paciente al programa terapéutico.
+
+Las dilataciones bronquiales o bronquiectasias son frecuentes y los mecanismos que las causan bien conocidos.
+Los adelantos en las técnicas de diagnóstico por imagen han grandemente contribuido al enfoque diagnóstico, completando una historia y una presentación clínicas a menudo muy características.
+Casi en el 50% de los casos son idiopáticas, aunque las afecciones que las originan o que están asociadas se pueden detectar hoy en día con mayor facilidad.
+El tratamiento actual está bien definido y se basa en el control de los elementos del círculo vicioso descrito por Cole.
+
+La tuberculosis es una enfermedad infecciosa que se transmite de persona a persona y que se debe a Mycobacterium tuberculosis; el 33% de la población mundial está infectada por este bacilo, con una mortalidad que alcanza los 3 millones de personas al año.
+Un porcentaje minoritario de los pacientes infectados desarrollan la enfermedad tuberculosa.
+El tratamiento está bien establecido, pero depende de un número limitado de antibióticos activos, lo que obliga a un cumplimiento riguroso, para evitar la aparición de cepas resistentes del bacilo.
+
+El tratamiento de las disfunciones eréctiles ha evolucionado en los últimos años.
+Aunque el tratamiento etiológico continúa siendo de actualidad, el tratamiento sintomático se ha convertido en el objetivo primordial cuando no puede identificarse la etiología.
+Los tratamientos orales (inhibidores de las fosfodiesterasas V) que facilitan la erección, cuyas características farmacológicas permiten, en algunos casos, evitar la programación del acto con escasos efectos secundarios, han pasado a ser, desde hace algunos años, la opción terapéutica principal.
+Sin embargo, las inyecciones intracavernosas de prostaglandina E1 siguen ocupando un importante lugar como tratamiento de elección o como recurso cuando fracasan los tratamientos orales.
+Los erectores de vacío también son una alternativa útil para los pacientes que no pueden recibir inyecciones.
+Pese a los progresos de la farmacología, los implantes peneanos se siguen utilizando cuando fracasan los tratamientos menos agresivos.
+En los pacientes bien informados tratados por urólogos con experiencia en este tipo de cirugía, los porcentajes de buenos resultados son altos.
+En pocos años el arsenal terapéutico ha aumentado de manera considerable, y hoy en día es posible tratar prácticamente a todos los pacientes impotentes que lo solicitan.
+
+La orina normal es estéril y, cuando se recoge por micción aséptica, se acepta la presencia de 10 5 colibacilos y 10 4 leucocitos/ml.
+La mayoría de los gérmenes urinarios son enterobacterias, fundamentalmente Escherichia coli.
+No obstante, las infecciones nosocomiales pueden deberse a otros Gram negativos o positivos.
+Una infección urinaria puede ser primaria, aparecer en un tracto urinario sano y deberse normalmente a un germen uropatógeno que contiene adhesinas.
+La infección urinaria secundaria es consecuencia de una uropatía o de una intervención urológica.
+En la mujer, estas infecciones se manifiestan a través de cistitis, aisladas o recidivantes, o por pielonefritis aguda que requiere algunas técnicas de diagnóstico por imagen y que se trata fácilmente con una antibioticoterapia adaptada.
+En cambio, una pielonefritis aguda con obstrucción es una urgencia urológica.
+En varios contextos, las pielonefritis son peligrosas: fundamentalmente en las mujeres embarazadas, en el diabético (en los que son frecuentes las necrosis papilares) y en los pacientes con trasplante renal.
+En el hombre, las prostatitis agudas requieren un tratamiento prolongado para evitar la evolución hacia una prostatitis crónica.
+
+La insuficiencia renal crónica es una enfermedad general.
+Las dos principales causas son la diabetes mellitus y las nefropatías vasculares crónicas.
+La edad de los pacientes aumenta progresivamente y, en la primera diálisis, tienen en promedio más de 60 años.
+La detección precoz, la cuantificación y el seguimiento del déficit funcional renal se basan, en la práctica, en una correcta interpretación de la creatininemia.
+Cuando la tasa de filtración glomerular disminuye más del 50%, es necesario tratar activamente al paciente: tomar todas las medidas necesarias para intentar reducir la velocidad de degradación de la insuficiencia renal, asegurar un buen control de la homeostasia y proteger los dos principales órganos amenazados, los sistemas cardiovascular y osteoarticular.
+Las técnicas de tratamiento de la insuficiencia renal terminal son la hemodiálisis, la diálisis peritoneal y el trasplante renal.
+Si es necesario, estos tratamientos pueden combinarse, garantizándose supervivencias muy prolongadas, de más de 30 años en la actualidad.
+Existen factores extrarrenales que determinan la supervivencia: la edad y, sobre todo, las enfermedades sistémicas asociadas, como la diabetes y las enfermedades cardiovasculares.
+Todos los esfuerzos deben converger en una mejor definición de los grupos de riesgo de insuficiencia renal, una detección más precoz de la enfermedad en esos grupos y una mejor prevención.
+
+Este artículo considera las diferentes formas de presentación de las nefropatías glomerulares, precisa las diferentes pruebas complementarias útiles para orientar el diagnóstico y la importancia de la biopsia renal por punción.
+Se estudian también las principales causas de las nefropatías glomerulares agudas y crónicas.
+
+La incidencia acumulada de litiasis urinaria es del 10% en varones y del 5% en mujeres.
+Una litiasis no diagnosticada o que no ha sido adecuadamente tratada puede producir el deterioro de la función renal.
+La litiasis sigue siendo una causa de insuficiencia renal terminal que puede requerir la realización de diálisis.
+Por ello, este trastorno requiere un diagnóstico etiológico completo cuyo primer paso consiste en el análisis del cálculo.
+No se debe concluir el tratamiento del cólico nefrítico hasta comprobar la desaparición del cálculo.

spanish_biomedical_craw_corpus/process_dataset.py

@@ -0,0 +1,29 @@
+from datasets import load_dataset
+import os
+import re
+
+from pathlib import Path
+
+
+
+
+path = Path(__file__).parent.absolute()
+
+with open( str(path) + os.sep + 'example.txt',encoding='utf8') as file:
+  """
+     # Build a dictionary with ICD-O-3 associated with 
+     # healtcare problems
+  """
+  linesInFile = file.readlines()
+ 
+  for index, iLine in enumerate(linesInFile): 
+    print([linesInFile[index]]) if len(linesInFile[index]) > 1 else  print('**************') if linesInFile[index] == '\n' else print ('******* ERROR ********')
+ 
+
+    # if re.match('^Las dilataciones bronquiales',iLine):
+    #   break
+   
+
+    # code = listOfData[0]
+    # description = reduce(lambda a, b: a + " "+ b, listOfData[1:2], "")
+    # royalListOfCode[code.strip()] = description.strip()

spanish_biomedical_craw_corpus/spanish_biomedical_craw_corpus_process.ipynb

@@ -0,0 +1,267 @@
+{
+  "nbformat": 4,
+  "nbformat_minor": 0,
+  "metadata": {
+    "colab": {
+      "provenance": [],
+      "gpuType": "T4"
+    },
+    "kernelspec": {
+      "name": "python3",
+      "display_name": "Python 3"
+    },
+    "language_info": {
+      "name": "python"
+    },
+    "accelerator": "GPU"
+  },
+  "cells": [
+    {
+      "cell_type": "code",
+      "source": [
+        "!git clone https://github.com/dionis/SpanishMedicaLLM.git"
+      ],
+      "metadata": {
+        "colab": {
+          "base_uri": "https://localhost:8080/"
+        },
+        "id": "tFtxsPeDsZTE",
+        "outputId": "1b9547d0-62b4-4ab9-94f2-3ff767bb1728"
+      },
+      "execution_count": 1,
+      "outputs": [
+        {
+          "output_type": "stream",
+          "name": "stdout",
+          "text": [
+            "Cloning into 'SpanishMedicaLLM'...\n",
+            "remote: Enumerating objects: 1410, done.\u001b[K\n",
+            "remote: Counting objects: 100% (1375/1375), done.\u001b[K\n",
+            "remote: Compressing objects: 100% (908/908), done.\u001b[K\n",
+            "remote: Total 1410 (delta 502), reused 1259 (delta 417), pack-reused 35\u001b[K\n",
+            "Receiving objects: 100% (1410/1410), 48.85 MiB | 9.93 MiB/s, done.\n",
+            "Resolving deltas: 100% (506/506), done.\n"
+          ]
+        }
+      ]
+    },
+    {
+      "cell_type": "code",
+      "source": [
+        "cd SpanishMedicaLLM/"
+      ],
+      "metadata": {
+        "colab": {
+          "base_uri": "https://localhost:8080/"
+        },
+        "id": "R7q87k4lvKN0",
+        "outputId": "e2e32e14-87e0-47d9-c77d-c83f4fe61040"
+      },
+      "execution_count": 2,
+      "outputs": [
+        {
+          "output_type": "stream",
+          "name": "stdout",
+          "text": [
+            "/content/SpanishMedicaLLM\n"
+          ]
+        }
+      ]
+    },
+    {
+      "cell_type": "code",
+      "source": [
+        "cd finetuning/hugginface_dataset/spanish_biomedical_craw_corpus/"
+      ],
+      "metadata": {
+        "colab": {
+          "base_uri": "https://localhost:8080/"
+        },
+        "id": "MNleOUfBvOWA",
+        "outputId": "f45dbd6b-583e-4c51-d49d-741ec721b738"
+      },
+      "execution_count": 3,
+      "outputs": [
+        {
+          "output_type": "stream",
+          "name": "stdout",
+          "text": [
+            "/content/SpanishMedicaLLM/finetuning/hugginface_dataset/spanish_biomedical_craw_corpus\n"
+          ]
+        }
+      ]
+    },
+    {
+      "cell_type": "code",
+      "source": [
+        "!git checkout 3-develop_a_finetunning_test_on_training_process_with_QLora-Epfl"
+      ],
+      "metadata": {
+        "colab": {
+          "base_uri": "https://localhost:8080/"
+        },
+        "id": "kGjsbyxavXSS",
+        "outputId": "3c6496d6-2dc7-4176-cefb-78872a3a4d6e"
+      },
+      "execution_count": 4,
+      "outputs": [
+        {
+          "output_type": "stream",
+          "name": "stdout",
+          "text": [
+            "Branch '3-develop_a_finetunning_test_on_training_process_with_QLora-Epfl' set up to track remote branch '3-develop_a_finetunning_test_on_training_process_with_QLora-Epfl' from 'origin'.\n",
+            "Switched to a new branch '3-develop_a_finetunning_test_on_training_process_with_QLora-Epfl'\n"
+          ]
+        }
+      ]
+    },
+    {
+      "cell_type": "code",
+      "source": [
+        "from urllib import request\n",
+        "URL = 'https://zenodo.org/records/5513237/files/CoWeSe.txt?download=1'\n",
+        "response = request.urlretrieve(URL, \"CoWeSe.txt\")"
+      ],
+      "metadata": {
+        "id": "XRsE_iw1JUQX"
+      },
+      "execution_count": 5,
+      "outputs": []
+    },
+    {
+      "cell_type": "code",
+      "source": [
+        "!pip install datasets"
+      ],
+      "metadata": {
+        "colab": {
+          "base_uri": "https://localhost:8080/"
+        },
+        "id": "0WGb685FxA1u",
+        "outputId": "5e72e20e-727a-4e49-f77a-022e94c3e968"
+      },
+      "execution_count": 6,
+      "outputs": [
+        {
+          "output_type": "stream",
+          "name": "stdout",
+          "text": [
+            "Collecting datasets\n",
+            "  Downloading datasets-2.18.0-py3-none-any.whl (510 kB)\n",
+            "\u001b[2K     \u001b[90m━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━\u001b[0m \u001b[32m510.5/510.5 kB\u001b[0m \u001b[31m9.0 MB/s\u001b[0m eta \u001b[36m0:00:00\u001b[0m\n",
+            "\u001b[?25hRequirement already satisfied: filelock in /usr/local/lib/python3.10/dist-packages (from datasets) (3.13.3)\n",
+            "Requirement already satisfied: numpy>=1.17 in /usr/local/lib/python3.10/dist-packages (from datasets) (1.25.2)\n",
+            "Requirement already satisfied: pyarrow>=12.0.0 in /usr/local/lib/python3.10/dist-packages (from datasets) (14.0.2)\n",
+            "Requirement already satisfied: pyarrow-hotfix in /usr/local/lib/python3.10/dist-packages (from datasets) (0.6)\n",
+            "Collecting dill<0.3.9,>=0.3.0 (from datasets)\n",
+            "  Downloading dill-0.3.8-py3-none-any.whl (116 kB)\n",
+            "\u001b[2K     \u001b[90m━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━\u001b[0m \u001b[32m116.3/116.3 kB\u001b[0m \u001b[31m14.2 MB/s\u001b[0m eta \u001b[36m0:00:00\u001b[0m\n",
+            "\u001b[?25hRequirement already satisfied: pandas in /usr/local/lib/python3.10/dist-packages (from datasets) (1.5.3)\n",
+            "Requirement already satisfied: requests>=2.19.0 in /usr/local/lib/python3.10/dist-packages (from datasets) (2.31.0)\n",
+            "Requirement already satisfied: tqdm>=4.62.1 in /usr/local/lib/python3.10/dist-packages (from datasets) (4.66.2)\n",
+            "Collecting xxhash (from datasets)\n",
+            "  Downloading xxhash-3.4.1-cp310-cp310-manylinux_2_17_x86_64.manylinux2014_x86_64.whl (194 kB)\n",
+            "\u001b[2K     \u001b[90m━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━\u001b[0m \u001b[32m194.1/194.1 kB\u001b[0m \u001b[31m19.1 MB/s\u001b[0m eta \u001b[36m0:00:00\u001b[0m\n",
+            "\u001b[?25hCollecting multiprocess (from datasets)\n",
+            "  Downloading multiprocess-0.70.16-py310-none-any.whl (134 kB)\n",
+            "\u001b[2K     \u001b[90m━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━\u001b[0m \u001b[32m134.8/134.8 kB\u001b[0m \u001b[31m16.8 MB/s\u001b[0m eta \u001b[36m0:00:00\u001b[0m\n",
+            "\u001b[?25hRequirement already satisfied: fsspec[http]<=2024.2.0,>=2023.1.0 in /usr/local/lib/python3.10/dist-packages (from datasets) (2023.6.0)\n",
+            "Requirement already satisfied: aiohttp in /usr/local/lib/python3.10/dist-packages (from datasets) (3.9.3)\n",
+            "Requirement already satisfied: huggingface-hub>=0.19.4 in /usr/local/lib/python3.10/dist-packages (from datasets) (0.20.3)\n",
+            "Requirement already satisfied: packaging in /usr/local/lib/python3.10/dist-packages (from datasets) (24.0)\n",
+            "Requirement already satisfied: pyyaml>=5.1 in /usr/local/lib/python3.10/dist-packages (from datasets) (6.0.1)\n",
+            "Requirement already satisfied: aiosignal>=1.1.2 in /usr/local/lib/python3.10/dist-packages (from aiohttp->datasets) (1.3.1)\n",
+            "Requirement already satisfied: attrs>=17.3.0 in /usr/local/lib/python3.10/dist-packages (from aiohttp->datasets) (23.2.0)\n",
+            "Requirement already satisfied: frozenlist>=1.1.1 in /usr/local/lib/python3.10/dist-packages (from aiohttp->datasets) (1.4.1)\n",
+            "Requirement already satisfied: multidict<7.0,>=4.5 in /usr/local/lib/python3.10/dist-packages (from aiohttp->datasets) (6.0.5)\n",
+            "Requirement already satisfied: yarl<2.0,>=1.0 in /usr/local/lib/python3.10/dist-packages (from aiohttp->datasets) (1.9.4)\n",
+            "Requirement already satisfied: async-timeout<5.0,>=4.0 in /usr/local/lib/python3.10/dist-packages (from aiohttp->datasets) (4.0.3)\n",
+            "Requirement already satisfied: typing-extensions>=3.7.4.3 in /usr/local/lib/python3.10/dist-packages (from huggingface-hub>=0.19.4->datasets) (4.10.0)\n",
+            "Requirement already satisfied: charset-normalizer<4,>=2 in /usr/local/lib/python3.10/dist-packages (from requests>=2.19.0->datasets) (3.3.2)\n",
+            "Requirement already satisfied: idna<4,>=2.5 in /usr/local/lib/python3.10/dist-packages (from requests>=2.19.0->datasets) (3.6)\n",
+            "Requirement already satisfied: urllib3<3,>=1.21.1 in /usr/local/lib/python3.10/dist-packages (from requests>=2.19.0->datasets) (2.0.7)\n",
+            "Requirement already satisfied: certifi>=2017.4.17 in /usr/local/lib/python3.10/dist-packages (from requests>=2.19.0->datasets) (2024.2.2)\n",
+            "Requirement already satisfied: python-dateutil>=2.8.1 in /usr/local/lib/python3.10/dist-packages (from pandas->datasets) (2.8.2)\n",
+            "Requirement already satisfied: pytz>=2020.1 in /usr/local/lib/python3.10/dist-packages (from pandas->datasets) (2023.4)\n",
+            "Requirement already satisfied: six>=1.5 in /usr/local/lib/python3.10/dist-packages (from python-dateutil>=2.8.1->pandas->datasets) (1.16.0)\n",
+            "Installing collected packages: xxhash, dill, multiprocess, datasets\n",
+            "Successfully installed datasets-2.18.0 dill-0.3.8 multiprocess-0.70.16 xxhash-3.4.1\n"
+          ]
+        }
+      ]
+    },
+    {
+      "cell_type": "code",
+      "execution_count": 10,
+      "metadata": {
+        "id": "yH5nDblMIjoS",
+        "colab": {
+          "base_uri": "https://localhost:8080/"
+        },
+        "outputId": "c650bc1d-bdd6-40c9-a586-7d9fd197207b"
+      },
+      "outputs": [
+        {
+          "output_type": "stream",
+          "name": "stdout",
+          "text": [
+            "Token will not been saved to git credential helper. Pass `add_to_git_credential=True` if you want to set the git credential as well.\n",
+            "Token is valid (permission: write).\n",
+            "Your token has been saved to /root/.cache/huggingface/token\n",
+            "Login successful\n",
+            "Downloaded all the issues for CoWeSe.txt! Dataset stored at dataset/spanish_medical_llms.jsonl\n",
+            " On dataset there are as document  1973048\n",
+            " On dataset there are as copy document  0\n",
+            " On dataset there are as size of Tokens  1973048\n",
+            "File size on Kilobytes (kB) 270594\n",
+            "File size on Megabytes  (MB) 264\n",
+            "File size on Gigabytes (GB) 0\n",
+            "Generating train split: 1973048 examples [00:05, 368953.10 examples/s]\n",
+            "Downloading readme: 100% 8.04k/8.04k [00:00<00:00, 21.2MB/s]\n",
+            "Downloading data: 100% 23.7M/23.7M [00:00<00:00, 52.0MB/s]\n",
+            "Generating train split: 100% 33941/33941 [00:00<00:00, 94956.62 examples/s] \n",
+            "Uploading the dataset shards:   0% 0/1 [00:00<?, ?it/s]\n",
+            "Creating parquet from Arrow format:   0% 0/2007 [00:00<?, ?ba/s]\u001b[A\n",
+            "Creating parquet from Arrow format:   0% 6/2007 [00:00<00:40, 49.88ba/s]\u001b[A\n",
+            "Creating parquet from Arrow format:   1% 20/2007 [00:00<00:20, 98.10ba/s]\u001b[A\n",
+            "Creating parquet from Arrow format:   2% 50/2007 [00:00<00:10, 185.59ba/s]\u001b[A\n",
+            "Creating parquet from Arrow format:   9% 176/2007 [00:00<00:03, 596.42ba/s]\u001b[A\n",
+            "Creating parquet from Arrow format:  15% 297/2007 [00:00<00:02, 812.60ba/s]\u001b[A\n",
+            "Creating parquet from Arrow format:  21% 424/2007 [00:00<00:01, 964.03ba/s]\u001b[A\n",
+            "Creating parquet from Arrow format:  28% 554/2007 [00:00<00:01, 1070.27ba/s]\u001b[A\n",
+            "Creating parquet from Arrow format:  34% 673/2007 [00:00<00:01, 1105.61ba/s]\u001b[A\n",
+            "Creating parquet from Arrow format:  40% 793/2007 [00:00<00:01, 1132.45ba/s]\u001b[A\n",
+            "Creating parquet from Arrow format:  45% 909/2007 [00:01<00:00, 1138.54ba/s]\u001b[A\n",
+            "Creating parquet from Arrow format:  51% 1024/2007 [00:01<00:00, 1141.13ba/s]\u001b[A\n",
+            "Creating parquet from Arrow format:  57% 1139/2007 [00:01<00:00, 1115.44ba/s]\u001b[A\n",
+            "Creating parquet from Arrow format:  63% 1262/2007 [00:01<00:00, 1148.52ba/s]\u001b[A\n",
+            "Creating parquet from Arrow format:  69% 1378/2007 [00:01<00:00, 1091.05ba/s]\u001b[A\n",
+            "Creating parquet from Arrow format:  75% 1503/2007 [00:01<00:00, 1134.94ba/s]\u001b[A\n",
+            "Creating parquet from Arrow format:  81% 1633/2007 [00:01<00:00, 1180.42ba/s]\u001b[A\n",
+            "Creating parquet from Arrow format:  88% 1759/2007 [00:01<00:00, 1201.19ba/s]\u001b[A\n",
+            "Creating parquet from Arrow format:  94% 1880/2007 [00:01<00:00, 1193.59ba/s]\u001b[A\n",
+            "Creating parquet from Arrow format: 100% 2007/2007 [00:01<00:00, 1024.03ba/s]\n",
+            "Uploading the dataset shards: 100% 1/1 [00:03<00:00,  3.62s/it]\n",
+            "README.md: 100% 8.04k/8.04k [00:00<00:00, 26.8MB/s]\n",
+            "Dataset({\n",
+            "    features: ['raw_text', 'topic', 'speciallity', 'raw_text_type', 'topic_type', 'source', 'country', 'document_id'],\n",
+            "    num_rows: 1973048\n",
+            "})\n"
+          ]
+        }
+      ],
+      "source": [
+        "!python using_dataset_hugginface.py"
+      ]
+    },
+    {
+      "cell_type": "code",
+      "source": [],
+      "metadata": {
+        "id": "tgtTlLB1EfBj"
+      },
+      "execution_count": null,
+      "outputs": []
+    }
+  ]
+}

spanish_biomedical_craw_corpus/using_dataset_hugginface.py

@@ -0,0 +1,150 @@
+# -*- coding: utf-8 -*-
+"""using_dataset_hugginface.ipynb
+
+Automatically generated by Colaboratory.
+
+Original file is located at
+    https://colab.research.google.com/drive/1soGxkZu4antYbYG23GioJ6zoSt_GhSNT
+"""
+
+"""**Hugginface loggin for push on Hub**"""
+###
+#
+#  Used bibliografy:
+#    https://huggingface.co/learn/nlp-course/chapter5/5
+#
+###
+
+import os
+import time
+import math
+from huggingface_hub import login
+from datasets import load_dataset, concatenate_datasets
+from functools import reduce
+from pathlib import Path
+import pandas as pd
+
+
+# Load model directly
+from transformers import AutoTokenizer, AutoModelForCausalLM
+
+HF_TOKEN = ''
+DATASET_TO_LOAD = 'CoWeSe.txt'
+EXAMPLE_DATASET_TO_LOAD = 'example.txt'
+DATASET_TO_UPDATE = 'somosnlp/spanish_medica_llm'
+
+#Loggin to Huggin Face
+login(token = HF_TOKEN)
+
+royalListOfCode = {}
+issues_path = 'dataset'
+tokenizer = AutoTokenizer.from_pretrained("DeepESP/gpt2-spanish-medium")
+DATASET_SOURCE_ID = '4'
+#Read current path
+path = Path(__file__).parent.absolute()
+
+'''
+  Bibliografy:
+    https://www.w3schools.com/python/python_mysql_getstarted.asp
+    https://www.w3schools.com/python/python_mysql_select.as
+
+'''
+
+    # raw_text: Texto asociado al documento, pregunta, caso clínico u otro tipo de información.
+
+    # topic: (puede ser healthcare_treatment, healthcare_diagnosis, tema, respuesta a pregunta, o estar vacío p.ej en el texto abierto)
+
+    # speciality: (especialidad médica a la que se relaciona el raw_text p.ej: cardiología, cirugía, otros)
+
+    # raw_text_type: (puede ser caso clínico, open_text, question)
+
+    # topic_type: (puede ser medical_topic, medical_diagnostic,answer,natural_medicine_topic, other, o vacio)
+
+    # source: Identificador de la fuente asociada al documento que aparece en el README y descripción del dataset.
+
+    # country: Identificador del país de procedencia de la fuente (p.ej.; ch, es) usando el estándar ISO 3166-1 alfa-2 (Códigos de país de dos letras.).
+cantemistDstDict = {
+  'raw_text': '',
+  'topic': '',
+  'speciallity': '',
+  'raw_text_type': 'open_text',
+  'topic_type': '',
+  'source': DATASET_SOURCE_ID,
+  'country': 'es',
+  'document_id': ''
+}
+
+totalOfTokens = 0
+corpusToLoad = []
+countCopySeveralDocument = 0
+counteOriginalDocument = 0
+
+FILE_TO_PROCESS = DATASET_TO_LOAD
+
+if not os.path.exists(str(path) + os.sep + FILE_TO_PROCESS):
+   FILE_TO_PROCESS = EXAMPLE_DATASET_TO_LOAD
+
+with open( str(path) + os.sep + FILE_TO_PROCESS,encoding='utf8') as file:
+  #linesInFile = file.readlines()
+  paragraph = ''
+  while True:
+        linesInFile = file.readlines(8192)
+        if not linesInFile:
+            break
+        for index, iLine in enumerate(linesInFile): 
+          text = linesInFile[index] if len(linesInFile[index]) > 1 else '' 
+          paragraph += text + ' '
+
+          if text == '':
+              counteOriginalDocument += 1  
+              idFile = str(counteOriginalDocument)
+              newCorpusRow = cantemistDstDict.copy()
+              listOfTokens = tokenizer.tokenize(paragraph)
+              currentSizeOfTokens = len(listOfTokens)
+              totalOfTokens += currentSizeOfTokens
+
+              newCorpusRow['raw_text'] = paragraph
+              newCorpusRow['document_id'] = idFile
+              corpusToLoad.append(newCorpusRow)
+              paragraph = ''
+          paragraph = ''
+
+
+        
+df = pd.DataFrame.from_records(corpusToLoad)
+
+if os.path.exists(f"{str(path)}/{issues_path}/spanish_medical_llms.jsonl"):
+  os.remove(f"{str(path)}/{issues_path}/spanish_medical_llms.jsonl")
+
+
+df.to_json(f"{str(path)}/{issues_path}/spanish_medical_llms.jsonl", orient="records", lines=True)
+print(
+        f"Downloaded all the issues for {DATASET_TO_LOAD}! Dataset stored at {issues_path}/spanish_medical_llms.jsonl"
+)
+
+print(' On dataset there are as document ', counteOriginalDocument)
+print(' On dataset there are as copy document ', countCopySeveralDocument)
+print(' On dataset there are as size of Tokens ', totalOfTokens)
+file = Path(f"{str(path)}/{issues_path}/spanish_medical_llms.jsonl")  # or Path('./doc.txt')
+size = file.stat().st_size
+print ('File size on Kilobytes (kB)', size >> 10)  # 5242880 kilobytes (kB)
+print ('File size on Megabytes  (MB)', size >> 20 ) # 5120 megabytes (MB)
+print ('File size on Gigabytes (GB)', size >> 30 ) # 5 gigabytes (GB)
+
+#Once the issues are downloaded we can load them locally using our 
+local_spanish_dataset = load_dataset("json", data_files=f"{str(path)}/{issues_path}/spanish_medical_llms.jsonl", split="train")
+
+try:  
+  spanish_dataset = load_dataset(DATASET_TO_UPDATE,  split="train")
+  spanish_dataset = concatenate_datasets([spanish_dataset, local_spanish_dataset])
+except Exception:
+  print ('<=== Error ===>')
+  spanish_dataset = local_spanish_dataset
+
+spanish_dataset.push_to_hub(DATASET_TO_UPDATE)
+
+print(local_spanish_dataset)
+
+
+
+