Update README.md
Browse files
README.md
CHANGED
@@ -170,13 +170,17 @@ Para más información sobre cómo rellenar cada sección ver las docs: https://
|
|
170 |
Para más información sobre la dataset card metadata ver: https://github.com/huggingface/hub-docs/blob/main/datasetcard.md?plain=1
|
171 |
-->
|
172 |
|
173 |
-
# Dataset Card for
|
174 |
|
175 |
<!-- Suele haber un nombre corto ("pretty name") para las URLs, tablas y demás y uno largo más descriptivo. Para crear el pretty name podéis utilizar acrónimos. -->
|
176 |
|
177 |
<!-- Resumen del corpus y motivación del proyecto (inc. los ODS relacionados). Esta sección es como el abstract. También se puede incluir aquí el logo del proyecto. -->
|
178 |
|
179 |
<!-- Si queréis incluir una versión de la Dataset Card en español, enlazarla aquí al principio (e.g. `README_es.md`).-->
|
|
|
|
|
|
|
|
|
180 |
|
181 |
## Dataset Details
|
182 |
|
@@ -199,10 +203,12 @@ Para más información sobre la dataset card metadata ver: https://github.com/hu
|
|
199 |
## Uses
|
200 |
|
201 |
<!-- Address questions around how the dataset is intended to be used. -->
|
|
|
202 |
|
203 |
### Direct Use
|
204 |
|
205 |
<!-- This section describes suitable use cases for the dataset. -->
|
|
|
206 |
|
207 |
[More Information Needed]
|
208 |
|
@@ -218,7 +224,56 @@ Para más información sobre la dataset card metadata ver: https://github.com/hu
|
|
218 |
|
219 |
<!-- En esta sección podéis enumerar y explicar cada columna del corpus. Para cada columna que sea de tipo "categoría" podéis indicar el porcentaje de ejemplos. -->
|
220 |
|
221 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
222 |
|
223 |
## Dataset Creation
|
224 |
|
|
|
170 |
Para más información sobre la dataset card metadata ver: https://github.com/huggingface/hub-docs/blob/main/datasetcard.md?plain=1
|
171 |
-->
|
172 |
|
173 |
+
# Dataset Card for Spanish Medical Corpus (SMC)
|
174 |
|
175 |
<!-- Suele haber un nombre corto ("pretty name") para las URLs, tablas y demás y uno largo más descriptivo. Para crear el pretty name podéis utilizar acrónimos. -->
|
176 |
|
177 |
<!-- Resumen del corpus y motivación del proyecto (inc. los ODS relacionados). Esta sección es como el abstract. También se puede incluir aquí el logo del proyecto. -->
|
178 |
|
179 |
<!-- Si queréis incluir una versión de la Dataset Card en español, enlazarla aquí al principio (e.g. `README_es.md`).-->
|
180 |
+
This dataset groups and organizes several datasets present in hugginface (e.g.: PlanTL-GOB-ES/cantemist-ner, PlanTL-GOB-ES/pharmaconer)
|
181 |
+
and other public resources created by researchers with different formats (e.g.; MedLexSp ) to allow it to be a source of knowledge of large language models
|
182 |
+
in Spanish for the medical domain.
|
183 |
+
[**Dataset Card in Spanish**](README_es.md)
|
184 |
|
185 |
## Dataset Details
|
186 |
|
|
|
203 |
## Uses
|
204 |
|
205 |
<!-- Address questions around how the dataset is intended to be used. -->
|
206 |
+
The use of this dataset is suggested to achieve finetuning and pre-training of LLM for the medical domain with information in Spanish language.
|
207 |
|
208 |
### Direct Use
|
209 |
|
210 |
<!-- This section describes suitable use cases for the dataset. -->
|
211 |
+
Fine Tuning an LLM instruction in Spanish language with question prompts and answers.
|
212 |
|
213 |
[More Information Needed]
|
214 |
|
|
|
224 |
|
225 |
<!-- En esta sección podéis enumerar y explicar cada columna del corpus. Para cada columna que sea de tipo "categoría" podéis indicar el porcentaje de ejemplos. -->
|
226 |
|
227 |
+
Por cada entrada o documento en la fuente de información organizarla en un dataset de hugginface de la siguiente forma:
|
228 |
+
|
229 |
+
- **question (raw_text)**: Texto asociado al documento, pregunta, caso clínico u otro tipo de información.
|
230 |
+
- **answer (topic)**: (Texto asociado al tratamiento médico (healthcare_treatment), diagnóstico (healthcare_diagnosis),
|
231 |
+
tópico de salud (topic), respuesta de una pregunta (answer), other, o estar vacío p.ej en el texto abierto)
|
232 |
+
- **speciality**: (Especialidad médica a la que se relaciona el raw_text p.ej: cardiología, cirugía, otros)
|
233 |
+
- **raw_text_type**: (Puede ser clinic_case, open_text, question o vacio)
|
234 |
+
- **topic_type**: (Puede ser medical_topic, medical_diagnostic,answer,natural_medicine_topic, other, o vacio)
|
235 |
+
- **source**: Identificador de la fuente asociada al documento que aparece en el README y descripción del dataset.
|
236 |
+
- **country**: Identificador del país de procedencia de la fuente (p.ej.; ch, es) usando el estándar ISO 3166-1 alfa-2 (Códigos de país de dos letras.).
|
237 |
+
- **document_id**: Identificador del documento en el dataset de procedencia, este valor puede estar vacio en caso que no se conozca
|
238 |
+
<!-- - **idioma**: (Variedad geográfica) código ISO del idioma -->
|
239 |
+
<!--- **registro** (Variedad funcional): Siempre es `medio`. -->
|
240 |
+
<!-- - **periodo** (Variedad histórica): Siempre es `actual`. -->
|
241 |
+
<!-- - **dominio**: salud (clínico, biomédico, farmacia). -->
|
242 |
+
<!-- - **tarea**: `pregunta` | `resumen` | `open_text` | `clinic_case`. -->
|
243 |
+
<!-- - **país_origen**: País de origen de los datos. -->
|
244 |
+
|
245 |
+
Al inicio de este proceso de construcción se debe actualizar en la tabla de la sección [Source Data](#source_data) la
|
246 |
+
descripción de la fuente de información con los siguientes datos:
|
247 |
+
|
248 |
+
- **Id**: Este será un número para que la fuente de información pueda ser referenciada en cada entrada del conjunto de datos.
|
249 |
+
- **Nombre**: Nombre de la fuente de donde procede.
|
250 |
+
- **Tokens**: Cantidad de tokens que contiene.
|
251 |
+
- **Memoria**: Tamaño en memoria del dataset generado para hugginface
|
252 |
+
- **Licencia**: En este caso si es solo para investigación o si posee otra licencia como MIT,
|
253 |
+
Apache 2 u otras
|
254 |
+
- **Dirección**: URL de donde se puede descargar o consultar la información.
|
255 |
+
- **País**: País de procedencia de la información usando el [standar ISO 3166-1](https://es.wikipedia.org/wiki/ISO_3166-1) código alfa-2: Código ISO de 2 letras asignado a ese país o territorio.
|
256 |
+
|
257 |
+
### Source Data
|
258 |
+
|
259 |
+
<!-- This section describes the source data (e.g. news text and headlines, social media posts, translated sentences, ...). -->
|
260 |
+
|
261 |
+
| Id | Nombre | Tokens | Memoria | Licencia | Dirección | País |
|
262 |
+
| --- | ----------- | ----------- | ----------- | ----------- | ----------- | ----------- |
|
263 |
+
| 1 | Cantemist corpus: gold standard of oncology clinical cases annotated with CIE-O 3 terminology | 349287 | 9157 kB | [CC Attribution 4.0 International](https://creativecommons.org/licenses/by/4.0/) | https://huggingface.co/datasets/bigbio/cantemist/viewer/cantemist_bigbio_kb | es |
|
264 |
+
| 2 | MedlinePlus Spanish (National Library of Medicine, NLM) | 7757337 | 35 MB | | https://medlineplus.gov/spanish/ | es |
|
265 |
+
| 3 | PharmaCoNER | 275955 | 2 MB | [CC Attribution 4.0 International](https://creativecommons.org/licenses/by/4.0/) | https://huggingface.co/datasets/PlanTL-GOB-ES/pharmaconer | es |
|
266 |
+
| 4 | Spanish Biomedical Crawled Corpus | 1973048 | 264 MB | cc-by-4.0 | https://zenodo.org/records/5513237 | es |
|
267 |
+
| 5 | CARES | 322353 | 1828 kB | Afl-3.0 | https://huggingface.co/datasets/chizhikchi/CARES | es |
|
268 |
+
| 6 | MEDDOCAN | 364462 | 1639 kB | cc-by-4.0 | https://huggingface.co/datasets/bigbio/meddocan | es |
|
269 |
+
| 7 | Alvaro8gb/enfermedades-wiki-marzo-2024 | 1424685 | 9073 kB | [MIT](https://choosealicense.com/licenses/mit/) | https://huggingface.co/datasets/Alvaro8gb/enfermedades-wiki-marzo-2024 | es |
|
270 |
+
| 8 | BioMistral/BioInstructQA(**spanish**) | 1072476 | 5963 kB | [Apache 2.0](https://choosealicense.com/licenses/apache-2.0/) | https://huggingface.co/datasets/BioMistral/BioInstructQA | ca |
|
271 |
+
| 9 | DisTEMIST | 550203 | 2754 kB | cc-by-4.0 | https://huggingface.co/datasets/bigbio/distemist | es |
|
272 |
+
| 10 | The Chilean Waiting List Corpus | 678934 | 3116 kB | cc-by-4.0 | https://zenodo.org/records/5518225 or https://huggingface.co/plncmm | cl |
|
273 |
+
| 11 | BARR2 | 1732432 | 8472 kB | cc-by-4.0 | https://temu.bsc.es/BARR2/downloads/background_set.raw_text.tar.bz2 | es |
|
274 |
+
| 12 | SPACC | 551849 | 2711 kB | cc-by-4.0 | https://zenodo.org/records/2560316 | es |
|
275 |
+
| 13 | MedLexSp | 608374 | 21 MByte | MedLexSp is distributed freely for research or educational purposes. You need to sign an agreement with the authors for other purposes. | https://digital.csic.es/handle/10261/270429 | es |
|
276 |
+
|
277 |
|
278 |
## Dataset Creation
|
279 |
|