APP-v3 — PubMedBERT ajusté sur BC5CDR (Chemical / Disease)

Modèle de la méthode apprise APP-v3 du projet NLP en santé (ESIEE Paris, E5-BIO, AMARA Yanis / TOMAS Alban) : https://github.com/yam89421/NLP-SANTE-BC5CDR

  • Base : microsoft/BiomedNLP-BiomedBERT-base-uncased-abstract-fulltext (PubMedBERT).
  • Tâche : étiquetage BIO des mentions Chemical et Disease (étiquettes O, B-/I-Chemical, B-/I-Disease).
  • Données : BC5CDR, partitions officielles (Training pour l'entraînement, Development pour les réglages).
  • Entraînement : 7 époques, taux 5e-5, lot 8, warmup 10 %, graine 42 (notebook 2.4c_methode_apprise_v3.ipynb).
  • Scores (strict, micro) : F1 0,912 sur Development ; F1 0,894 sur Test (Chemical 0,928, Disease 0,853).

Prédiction : textes découpés en mots comme dans le projet (tals.tokeniser_avec_offsets), tokenizer en minuscules, premier sous-mot de chaque mot, décodage BIO « reparer » (src/apprise.py).

Downloads last month
22
Safetensors
Model size
0.1B params
Tensor type
F32
·
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for yam89421/app-v3-pubmedbert-bc5cdr

Dataset used to train yam89421/app-v3-pubmedbert-bc5cdr