lamiteee453/smollm-corpus-dioula

SmolLM-Corpus Dioula (EN × FR × DYU)

Corpus d'entraînement et d'adaptation continue (Continuous Pre-Training — CPT) multilingue à grande échelle, dérivé de HuggingFaceTB/smollm-corpus, développé par Tree AI Labs dans le cadre de l'initiative panafricaine pour les LLMs souverains d'Afrique de l'Ouest.

Ce corpus fournit aux modèles de fondation (Gemma, Llama, Qwen, SmolLM) des données textuelles de haute densité pédagogique et scientifique dans trois langues alignées :

• Dioula / Jula (dyu) : Langue véhiculaire majeure de l'Afrique de l'Ouest (Côte d'Ivoire, Burkina Faso, Mali, Guinée). Adaptation massive respectant l'orthographe standardisée et la phonologie mandingue.
• Français (fr) : Textes et synthèses éducatives en français de haute qualité pour l'ancrage bilingue régional.
• Anglais (en) : Textes sources d'excellence pour préserver les capacités de raisonnement du modèle de base.

---

🏛️ Architecture et Sous-Ensembles

Le corpus échantillonne rigoureusement les sous-ensembles fondamentaux de SmolLM-Corpus :

Sous-ensemble	Type de données	Traitement linguistique	Utilité pour le CPT
cosmopedia-v2	Manuels de cours synthétiques, explications scientifiques, tutoriels	Traduction alignée en Dioula (dyu) et Français (fr)	Enseigne les concepts scientifiques, académiques et techniques en Dioula
fineweb-edu-dedup	Pages web éducatives filtrées et dédupliquées	Traduction alignée en Dioula (dyu) et Français (fr)	Apporte le vocabulaire de la vie réelle, la culture contemporaine et l'actualité
python-edu	Code source Python issu de Software Heritage	Seuls les commentaires (# ...) sont traduits en Dioula (dyu) et Français (fr) ; code et syntaxe 100% exécutables	Permet l'apprentissage du code et de l'algorithmie documenté en langue Dioula

---

📂 Structure des Données

Chaque shard parquet d'origine est découpé en 3 fichiers JSONL synchronisés :

lamiteee453/smollm-corpus-dioula/
├── smollm_cosmopedia-v2_001_dyu.jsonl   # Textes en Dioula
├── smollm_cosmopedia-v2_001_fr.jsonl    # Textes en Français
├── smollm_cosmopedia-v2_001_en.jsonl    # Textes en Anglais
├── smollm_cosmopedia-v2_002_dyu.jsonl
...

Chaque document JSONL comporte la structure canonique pour le pré-entraînement :

{
  "id": "smollm_cosmopedia-v2_001_000042",
  "source_dataset": "cosmopedia-v2",
  "language": "dyu",
  "text": "..."
}

---

🚀 Utilisation avec Hugging Face Datasets

from datasets import load_dataset

# 1. Charger uniquement le corpus Dioula (pour le Continuous Pre-Training)
dataset_dioula = load_dataset("lamiteee453/smollm-corpus-dioula", "dyu", split="train")
print(dataset_dioula[0])

# 2. Charger le corpus complet multilingue (EN + FR + DYU)
dataset_complet = load_dataset("lamiteee453/smollm-corpus-dioula", split="train")

# 3. Mode Streaming (idéal pour le pré-entraînement continu sans saturer la RAM)
dataset_stream = load_dataset(
    "lamiteee453/smollm-corpus-dioula",
    "dyu",
    split="train",
    streaming=True
)
for exemple in dataset_stream.take(5):
    print(exemple["text"][:200])

---

🔬 Sanctuarisation Technique

Pendant le pipeline de traitement, une protection stricte a été appliquée :

1. Sanctuarisation du Code : Tous les blocs Markdown (...) et les expressions inline (...) sont sanctuarisés par masquage pré-traduction pour interdire toute altération de la syntaxe de programmation.
2. Formules Mathématiques : Les équations LaTeX et expressions mathématiques demeurent intactes.
3. Phonologie Mandingue : Préservation des caractères spécifiques de l'alphabet Dioula (ɛ, ɔ, ɲ, ŋ).

---

📜 Licence et Remerciements

Ce dataset est publié sous licence ODC-By.

• Données sources : HuggingFaceTB/smollm-corpus (Hugging Face)
• Conception et ingénierie de corpus : Tree AI Labs
• Projet : Initiative LLM Souverain Mandingue / Dioula