Apprentissage Actif à l’ère des Grands Modèles de Langue ( LLM s) (2025)

Abstract: En TAL, la performance des modèles dépend fortement de la qualité et de la quantité des données annotées. Lorsque ces ressources sont limitées, l’apprentissage actif (Active Learning) offre une solution efficace en sélectionnant les échantillons les plus pertinents à annoter. Traditionnellement, cette tâche est réalisée par des annotateurs humains, mais nous explorons ici le potentiel du grand modèle de langue Mixtral-8x7B pour générer automatiquement ces annotations. Nous analysons l’influence de l’augmentation des données dans un processus d’apprentissage actif pour la reconnaissance d’entités nommées, ainsi que l’impact du prompt et des hyper-paramètres sur la qualité des annotations. Les évaluations conduites sur le corpus WiNER montrent que, malgré l’absence d’annotations manuelles, cette approche permet d’obtenir des performances comparables à notre baseline, tout en réduisant de 80 % la quantité des données.

## l'apprentissage actif avec des données annotées par un llm notre objectif est de dépasser les limitations des modèles existants pour la tâche d'extraction d'entités nommées en français, lesquels se limitent souvent à quatre types d'entités. nous visons ici à élargir le nombre de catégories d'entités reconnues par le modèle, tout en réduisant les coûts d'annotation grâce à l'apprentissage actif. pour cela, nous mettons en place un protocole expérimental basé sur des itérations successives d'active learning. chaque cycle repose sur une sélection progressive des données à annoter et sur l'utilisation du modèle mixtral-8x7b pour effectuer les annotations. dans le cadre des présents travaux, nous avons souhaité choisir un llm aussi performant que possible étant données nos ressources matérielles en gpu, ne disposant que de 48 go de vram. par ailleurs, le modèle devait également supporter la langue française. a cet égard, à l'époque de nos expériences, le modèle mixtral-8x7b était un des rares modèles à proposer le mécanisme de mixture of expert qui permet de réduire le nombre de paramètres utilisés à l'inférence. ainsi, cela permet de profiter d'un modèle de 47b paramètres n'activant que 13b paramètres à chaque inférence. par ailleurs, la performance d'un llm étant corrélée avec sa taille, ce mécanisme propose ainsi un compromis intéressant entre vitesse et qualité espérée des annotations.