Hugging Face's logo

Datasets:
somosnlp
/
SMC

Tasks:
Question Answering
Zero-Shot Classification
Text Generation
Modalities:
Text
Formats:
parquet
Languages:
Spanish
English
Size:
1M - 10M
ArXiv:
Libraries:
Datasets
pandas
License:
Dataset card Viewer Files Community
2
SMC / README.md
inoid's picture
inoid
Update README.md
598b7cc verified
preview code
|
raw
history blame
23.6 kB
metadata
language:
  - es
  - en
license: apache-2.0
dataset_info:
  features:
    - name: raw_text
      dtype: string
    - name: topic
      dtype: string
    - name: speciallity
      dtype: string
    - name: raw_text_type
      dtype: string
    - name: topic_type
      dtype: string
    - name: source
      dtype: string
    - name: country
      dtype: string
    - name: document_id
      dtype: string
  splits:
    - name: train
      num_bytes: 190710909
      num_examples: 2136490
  download_size: 48472707
  dataset_size: 190710909
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*

Dataset Card for Dataset Spanish Medical

Este dataset agrupa y organiza varios dataset presentes en hugginface (p.ej: PlanTL-GOB-ES/cantemist-ner, PlanTL-GOB-ES/pharmaconer) y otros recursos públicos creados por investigadores con distintos formatos (p.ej.; MedLexSp ) para permitir ser fuente de conocimiento de grandes modelos de lenguaje en idioma español para el dominio médico.

Dataset Details

Dataset Description

Dataset Sources [optional]

Uses

Se sugiere el uso de este dataset para lograr el autojuste y prentrenamiento de LLM para el dominio médico con información en idioma español.

Out-of-Scope Use

Los creadores del dataset no se hacen responsable de resultados nocivos que puedan generar los modelos al ser entrenados con esta información. Se sugiere un proceso de evaluación riguroso con especialistas de los resultados generados por modelos de LLM entrenados.

Dataset Structure

Por cada entrada o documento en la fuente de información organizarla en un dataset de hugginface de la siguiente forma:

  • question (raw_text): Texto asociado al documento, pregunta, caso clínico u otro tipo de información.
  • answer (topic): (Texto asociado al tratamiento médico (healthcare_treatment), diagnóstico (healthcare_diagnosis), tópico de salud (topic), respuesta de una pregunta (answer), other, o estar vacío p.ej en el texto abierto)
  • speciality: (Especialidad médica a la que se relaciona el raw_text p.ej: cardiología, cirugía, otros)
  • raw_text_type: (Puede ser clinic_case, open_text, question o vacio)
  • topic_type: (Puede ser medical_topic, medical_diagnostic,answer,natural_medicine_topic, other, o vacio)
  • source: Identificador de la fuente asociada al documento que aparece en el README y descripción del dataset.
  • country: Identificador del país de procedencia de la fuente (p.ej.; ch, es) usando el estándar ISO 3166-1 alfa-2 (Códigos de país de dos letras.).
  • document_id: Identificador del documento en el dataset de procedencia, este valor puede estar vacio en caso que no se conozca

Al inicio de este proceso de construcción se debe actualizar en la tabla de la sección Source Data la descripción de la fuente de información con los siguientes datos:

  • Id: Este será un número para que la fuente de información pueda ser referenciada en cada entrada del conjunto de datos.
  • Nombre: Nombre de la fuente de donde procede.
  • Tokens: Cantidad de tokens que contiene.
  • Memoria: Tamaño en memoria del dataset generado para hugginface
  • Licencia: En este caso si es solo para investigación o si posee otra licencia como MIT, Apache 2 u otras
  • Dirección: URL de donde se puede descargar o consultar la información.
  • País: País de procedencia de la información usando el standar ISO 3166-1 código alfa-2: Código ISO de 2 letras asignado a ese país o territorio.

Source Data

Id Nombre Tokens Memoria Licencia Dirección País
1 Cantemist corpus: gold standard of oncology clinical cases annotated with CIE-O 3 terminology 349287 9157 kB CC Attribution 4.0 International https://huggingface.co/datasets/bigbio/cantemist/viewer/cantemist_bigbio_kb es
2 MedlinePlus Spanish (National Library of Medicine, NLM) 7757337 35 MB https://medlineplus.gov/spanish/ es
3 PharmaCoNER 275955 2 MB CC Attribution 4.0 International https://huggingface.co/datasets/PlanTL-GOB-ES/pharmaconer es
4 Spanish Biomedical Crawled Corpus 1973048 264 MB cc-by-4.0 https://zenodo.org/records/5513237 es
5 CARES 322353 1828 kB Afl-3.0 https://huggingface.co/datasets/chizhikchi/CARES es
6 MEDDOCAN 364462 1639 kB cc-by-4.0 https://huggingface.co/datasets/bigbio/meddocan es
7 Alvaro8gb/enfermedades-wiki-marzo-2024 1424685 9073 kB MIT https://huggingface.co/datasets/Alvaro8gb/enfermedades-wiki-marzo-2024 es
8 BioMistral/BioInstructQA(spanish) 1072476 5963 kB Apache 2.0 https://huggingface.co/datasets/BioMistral/BioInstructQA ca
9 DisTEMIST 550203 2754 kB cc-by-4.0 https://huggingface.co/datasets/bigbio/distemist es
10 The Chilean Waiting List Corpus 678934 3116 kB cc-by-4.0 https://zenodo.org/records/5518225 or https://huggingface.co/plncmm cl
11 BARR2 1732432 8472 kB cc-by-4.0 https://temu.bsc.es/BARR2/downloads/background_set.raw_text.tar.bz2 es
12 SPACC 551849 2711 kB cc-by-4.0 https://zenodo.org/records/2560316 es
13 MedLexSp 608374 21 MByte MedLexSp is distributed freely for research or educational purposes. You need to sign an agreement with the authors for other purposes. https://digital.csic.es/handle/10261/270429 es

Data Collection and Processing

Bias, Risks, and Limitations

Se sugiere tener en cuenta el alcance de las licencia de cada una de las fuentes (e.d., revisar el campo source y Licencia de la tabla anterior).

En el caso de necesitar filtrar por fuente de datos u otro criterio usted puede auxiliarse de las propiedades de la estructura de datos Dataset del marco de trabajo Hugginface. En el siguiente ejemplo de código se obtienen del conjunto de datos las entradas que tienen un tipo de tópico sobre diagnóstico medico o un tópico médico:

spanishMedicaLllmDataset = load_dataset(SPANISH_MEDICA_LLM_DATASET, split="train") spanishMedicaLllmDataset = spanishMedicaLllmDataset.filter(lambda example: example["topic_type"] in ['medical_diagnostic' | 'medical_topic'])

Recommendations

Users should be made aware of the risks, biases and limitations of the dataset. More information needed for further recommendations. Se sugiere tener en cuenta las filas donde el tipo del topic (e.d., campo topic_type) tenga valores medical_topic, medical_diagnostic, answer, natural_medicine_topic para un autojuste del modelo y en el caso de que el texto se open_text un pre-entranmiento inicial del modelo LLM.

Dataset Card Contact

For any doubt or suggestion contact to: PhD Dionis López (inoid2007@gmail.com)

Dataset Card for Spanish Medical Corpus (SMC)

This dataset groups and organizes several datasets present in hugginface (e.g.: PlanTL-GOB-ES/cantemist-ner, PlanTL-GOB-ES/pharmaconer) and other public resources created by researchers with different formats (e.g.; MedLexSp ) to allow it to be a source of knowledge of large language models in Spanish for the medical domain. Dataset Card in Spanish

Dataset Details

Dataset Description

Dataset Sources

Uses

The use of this dataset is suggested to achieve finetuning and pre-training of LLM for the medical domain with information in Spanish language.

Direct Use

Fine Tuning an LLM instruction in Spanish language with question prompts and answers.

[More Information Needed]

Out-of-Scope Use

[More Information Needed]

Dataset Structure

Por cada entrada o documento en la fuente de información organizarla en un dataset de hugginface de la siguiente forma:

  • question (raw_text): Texto asociado al documento, pregunta, caso clínico u otro tipo de información.
  • answer (topic): (Texto asociado al tratamiento médico (healthcare_treatment), diagnóstico (healthcare_diagnosis), tópico de salud (topic), respuesta de una pregunta (answer), other, o estar vacío p.ej en el texto abierto)
  • speciality: (Especialidad médica a la que se relaciona el raw_text p.ej: cardiología, cirugía, otros)
  • raw_text_type: (Puede ser clinic_case, open_text, question o vacio)
  • topic_type: (Puede ser medical_topic, medical_diagnostic,answer,natural_medicine_topic, other, o vacio)
  • source: Identificador de la fuente asociada al documento que aparece en el README y descripción del dataset.
  • country: Identificador del país de procedencia de la fuente (p.ej.; ch, es) usando el estándar ISO 3166-1 alfa-2 (Códigos de país de dos letras.).
  • document_id: Identificador del documento en el dataset de procedencia, este valor puede estar vacio en caso que no se conozca

Al inicio de este proceso de construcción se debe actualizar en la tabla de la sección Source Data la descripción de la fuente de información con los siguientes datos:

  • Id: Este será un número para que la fuente de información pueda ser referenciada en cada entrada del conjunto de datos.
  • Nombre: Nombre de la fuente de donde procede.
  • Tokens: Cantidad de tokens que contiene.
  • Memoria: Tamaño en memoria del dataset generado para hugginface
  • Licencia: En este caso si es solo para investigación o si posee otra licencia como MIT, Apache 2 u otras
  • Dirección: URL de donde se puede descargar o consultar la información.
  • País: País de procedencia de la información usando el standar ISO 3166-1 código alfa-2: Código ISO de 2 letras asignado a ese país o territorio.

Source Data

Id Nombre Tokens Memoria Licencia Dirección País
1 Cantemist corpus: gold standard of oncology clinical cases annotated with CIE-O 3 terminology 349287 9157 kB CC Attribution 4.0 International https://huggingface.co/datasets/bigbio/cantemist/viewer/cantemist_bigbio_kb es
2 MedlinePlus Spanish (National Library of Medicine, NLM) 7757337 35 MB https://medlineplus.gov/spanish/ es
3 PharmaCoNER 275955 2 MB CC Attribution 4.0 International https://huggingface.co/datasets/PlanTL-GOB-ES/pharmaconer es
4 Spanish Biomedical Crawled Corpus 1973048 264 MB cc-by-4.0 https://zenodo.org/records/5513237 es
5 CARES 322353 1828 kB Afl-3.0 https://huggingface.co/datasets/chizhikchi/CARES es
6 MEDDOCAN 364462 1639 kB cc-by-4.0 https://huggingface.co/datasets/bigbio/meddocan es
7 Alvaro8gb/enfermedades-wiki-marzo-2024 1424685 9073 kB MIT https://huggingface.co/datasets/Alvaro8gb/enfermedades-wiki-marzo-2024 es
8 BioMistral/BioInstructQA(spanish) 1072476 5963 kB Apache 2.0 https://huggingface.co/datasets/BioMistral/BioInstructQA ca
9 DisTEMIST 550203 2754 kB cc-by-4.0 https://huggingface.co/datasets/bigbio/distemist es
10 The Chilean Waiting List Corpus 678934 3116 kB cc-by-4.0 https://zenodo.org/records/5518225 or https://huggingface.co/plncmm cl
11 BARR2 1732432 8472 kB cc-by-4.0 https://temu.bsc.es/BARR2/downloads/background_set.raw_text.tar.bz2 es
12 SPACC 551849 2711 kB cc-by-4.0 https://zenodo.org/records/2560316 es
13 MedLexSp 608374 21 MByte MedLexSp is distributed freely for research or educational purposes. You need to sign an agreement with the authors for other purposes. https://digital.csic.es/handle/10261/270429 es

Dataset Creation

Curation Rationale

[More Information Needed]

Source Data

Data Collection and Processing

[More Information Needed]

Who are the source data producers?

[More Information Needed]

Annotations [optional]

Annotation process

[More Information Needed]

Who are the annotators?

[More Information Needed]

Personal and Sensitive Information

[More Information Needed]

Bias, Risks, and Limitations

[More Information Needed]

Recommendations

[More Information Needed]

License

Citation

BibTeX:

@software{lopez2024spanishmedicallm,
  author = {Lopez Dionis, Garcia Alvaro, Montoya Dylan, Bermúdez Daniel},
  title = {SpanishMedicaLLM},
  month = February,
  year = 2024,
  url = {https://huggingface.co/datasets/HuggingFaceTB/cosmopedia}
}

More Information

This project was developed during the Hackathon #Somos600M organized by SomosNLP. The dataset was created using distilabel by Argilla and endpoints sponsored by HuggingFace.

Team:

Contact

For any doubt or suggestion contact to: PhD Dionis López (inoid2007@gmail.com)