Pensez: Moins de données, meilleur raisonnement – Repenser les LLM français (2025)

Abstract: Les grands modèles linguistiques (LLM) ont démontré des capacités remarquables dans diverses tâches de traitement automatique du langage naturel. Cependant, l’obtention de performances élevées dans des domaines spécialisés tels que le raisonnement mathématique et les langues autres que l’anglais nécessite souvent un entraînement intensif. Cet article étudie l’affinage stratégique sur un petit ensemble de données bilingue de haute qualité, afin d’améliorer à la fois les capacités de raisonnement et la maîtrise de la langue française d’un LLM. Nous démontrons des améliorations du raisonnement mathématique en utilisant seulement 2000 échantillons soigneusement sélectionnés. Ces résultats remettent en question l’hypothèse dominante selon laquelle des ensembles de données massifs sont une condition préalable à de solides performances de raisonnement pour les LLM.

## training reasoning model we fine-tuned the qwen2.5 7b instruct model on pensez training data. to guide the model in producing step-by-step reasoning, we incorporated special tokens, "<@xmath0, into the training data to mark these reasoning sequences. the training process leveraged deepspeed zero-3 (rasley et al., 2020) and flashattention2 (dao, 2023) to improve training efficiency and stability. furthermore, neftune (jain et al., 2023) was applied by adding noise to word embeddings during training, with the aim of enhancing model robustness and generalization. detailed hyper-parameters are provided in appendix b. ## evaluation setup to evaluate pensez 7b, we design an evaluation framework that assesses its reasoning capabilities and knowledge comprehension across english and french. this balanced approach ensures the model excels in complex problem-solving without sacrificing broad understanding, a critical consideration given its bilingual fine-tuning. below, we describe the benchmarks selected for english, french, and bilingual tasks, followed by the evaluation methodology. french benchmarks next, we evaluate performance in french to confirm linguistic parity. for reasoning, math hard lv5 (mohamad alhajar, 2024), a french-translated variant of the math500 dataset @xcite , features only level-5 difficulty competition math problems, probing the model's mathematical reasoning in a second language. for knowledge understanding, the french version of boolqa (clark et al., 2019) presents complex, non-factoid questions requiring entailmentlike inference, testing deeper comprehension beyond simple recall.