Remplacement de mentions pour l’adaptation d’un corpus de reconnaissance d’entités nommées à un domaine cible (Mention replacement for adapting a named entity recognition dataset to a target domain) (2022)

Abstract: La reconnaissance d’entités nommées est une tâche de traitement automatique du langage naturel bien étudiée et utile dans de nombreuses applications. Dernièrement, les modèles neuronaux permettent de la résoudre avec de très bonnes performances. Cependant, les jeux de données permettant l’entraînement et l’évaluation de ces modèles se concentrent sur un nombre restreint de domaines et types de documents (articles journalistiques, internet). Or, les performances d’un modèle entraîné sur un domaine ciblé sont en général moindres dans un autre : ceux moins couverts sont donc pénalisés. Pour tenter de remédier à ce problème, cet article propose d’utiliser une technique d’augmentation de données permettant d’adapter un corpus annoté en entités nommées d’un domaine source à un domaine cible où les types de noms rencontrés peuvent être différents. Nous l’appliquons dans le cadre de la littérature de fantasy, où nous montrons qu’elle peut apporter des gains de performance.

## introduction la reconnaissance d'entités nommées (ren) a bénéficié récemment des avancées en apprentissage profond @xcite , et notamment de l'arrivée des modèles de langue neuronaux contextuels pré-entrainés, tels que bert @xcite . ceux-ci ont en effet permis d'améliorer les performances de nombreuses tâches de traitement automatique du langage naturel (taln). malgré les performances élevées dont font preuve ces modèles pour la ren, celle-ci est encore loin d'être considérée comme résolue @xcite . l'un des défauts de ces modèles provient de leurs données d'entraînement et d'évaluation. en effet, s'il existe de nombreux corpus annotés en entités nommées pour certains domaines (on peut citer le corpus journalistique @xcite , le corpus multi-domaines ontonotes @xcite ou encore wikigold @xcite , tiré de wikipédia), d'autres sont plus délaissés et n'ont que peu ou pas de corpus dédiés : c'est le cas, par exemple, du domaine littéraire. un modèle entraîné sur les données d'un domaine spécifique étant généralement moins performant lorsqu'il est appliqué sur celles d'un autre, ce délaissement se traduit par des performances moindres dans les domaines n'ayant pas de données annotées. dans ce contexte, il est donc intéressant de disposer de techniques permettant d'adapter un corpus ou un modèle d'un domaine source, où l'on possède beaucoup de données, à un domaine cible plus pauvre en ressources. plusieurs possibilités existent pour réaliser cette adaptation. @xcite montrent par exemple que continuer de pré-entraîner un modèle neuronal contextuel sur le domaine cible permet d'augmenter les performances dans celui-ci. malheureusement, ce pré-entraînement est plus coûteux que l'affinage (fine-tuning) d'un modèle pré-entraîné. une autre voie possible est l'adaptation du corpus original par augmentation. l'augmentation de données est une technique devenue standard en apprentissage profond pour le traitement de l'image @xcite . des opérations comme le recadrement (cropping), le retournement (flipping) ou l'ajout de bruit permettent de créer des exemples synthétiques supplémentaires, ce qui accroît le nombre de données d'entraînement. comparativement, elle est moins explorée en taln, bien que des recherches récentes commencent à s'y intéresser @xcite . en effet, il ne paraît pas aussi facile de générer de nouveaux exemples à partir du texte, car cela requiert de garder la cohérence de la phrase tout en la modifiant. l'augmentation de données est encore moins explorée dans le cadre de la ren, car celle-ci se heurte à des problèmes spécifiques : certaines techniques classiques d'augmentation (comme le remplacement par un synonyme, l'échange de mots ou encore l'insertion aléatoire (wei & zou, 2019)) peuvent notamment engendrer des exemples synthétiques avec des labels incorrects @xcite . il existe tout de même quelques travaux utilisant cette technique pour adapter des corpus à un autre domaine. @xcite proposent d'entraîner un modèle de langage pour générer des exemples synthétiques dans le cas où peu d'exemples sont disponibles, mais supposent cependant l'existence d'un minimum d'exemples déjà annotés. chen et al. @xcite décrivent une architecture neuronale capable d'apprendre à transformer une phrase d'un domaine source vers un domaine cible, et s'en servent pour générer des exemples synthétiques proches du domaine cible. néanmoins, leur méthode nécessite d'entraîner cette architecture, ce qui demande aussi de disposer de quelques exemples annotés dans le domaine cible. nous présentons dans cet article une méthode d'augmentation des données, le remplacement de mentions @xcite , pour permettre d'adapter un corpus annoté en entités nommées d'un domaine à un autre. cette méthode a l'avantage de la simplicité, et de ne pas demander l'annotation de données du domaine cible. elle consiste à générer de nouveaux exemples en remplaçant, dans une phrase du corpus original, une entité nommée par une autre du même type. nous décrivons notre méthode dans la section 2. pour montrer l'intérêt de cette technique, nous expérimentons en adaptant le corpus @xcite , qui couvre originellement le domaine journalistique, à celui de la littérature de fantasy. nous discutons les résultats obtenus en section 3.