Approches neuronales pour la détection des chaînes de coréférences : un état de l’art (2023)

Abstract: La résolution des liens de coréférences est une tâche importante du TALN impliquant cohérence et compréhension d’un texte. Nous présenterons dans ce papier une vision actuelle de l’état de l’art sur la résolution des liens de coréférence depuis 2013 et l’avènement des modèles neuronaux pour cette tâche. Cela comprend les corpus disponibles en français, les méthodes d’évaluation ainsi que les différentes architectures et leur approche. Enfin nous détaillerons les résultats, témoignant de l’évolution de méthodes de résolutions des liens de coréférences.

## introduction la résolution automatique de liens de coréférences est une tâche du traitement automatique des langues (tal) qui consiste à la détection, dans un texte, des mentions qui réfèrent à une même entité du monde réel ou imaginaire. une entité, du latin entis signifiant "étant", est "ce qui est" sur le plan physique ou en tant qu'objet de pensée. une mention, du latin mentio signifiant "rappel en mémoire", est une expression linguistique permettant de faire référence à une entité. on appelle coréférence le lien entre au moins deux mentions faisant référence à la même entité. la résolution de coréférences est le fait de résoudre ces liens de coréférences. la coréférence s'inscrit dans un processus de compréhension du texte tel que décrit par @xcite et a été mis en avant en partie depuis @xcite . ## les jeux de données une des problématiques autour des méthodes d'apprentissage neuronale est la quantité et la qualité des exemples contenus dans les corpus utilisés car influençant directement la qualité du modèle. dans cette section nous détaillerons les deux principaux corpus annotés pour la coréférence en français que sont le corpus ancor @xcite et le corpus democrat @xcite . nous évoquerons également les corpus parcorfull 2.0 @xcite et ontonotes 5.0 @xcite . parcorfull 2.0 est un corpus annoté sur la coréférence aligné sur 4 langues, incluant le français, (plus anglais, allemand et portugais) tandis que ontonotes 5.0 (aussi connu comme le corpus @xcite est le corpus majoritairement utilisé afin de comparer les différentes méthodes d'apprentissage artificiel bien qu'étant en anglais. il sera brièvement abordé afin de connaître les données avec lesquelles les résultats seront comparés en section 5. ## approches les systèmes de résolution automatique de coréférences étaient d'abord statistiques @xcite avant de s'orienter vers une approche de type apprentissage profond qui, grâce aux modèles basés sur les réseaux de neurones, a une meilleure capacité de généralisation @xcite ; ## méthodes d'évaluation afin de comparer les différents modèles proposés, il est nécessaire de quantifier les performances des modèles, c'est-à-dire de les évaluer. pour que la comparaison soit juste et équitable, elle doit être effectuée avec les mêmes données d'entraînement, de validation et de test ainsi que la même mesure. cette mesure se fait à l'aide d'une métrique qui à pour but de quantifier la qualité de la sortie produite par un modèle. pour produire une "bonne" métrique, plusieurs points évoqués par @xcite et @xcite doivent être respectés : les différentes métriques servant à l'évaluation de la résolution de coréférences proposées à ce jour se classent selon 4 catégories : basée sur les mentions, basée sur un alignement optimal, basée sur les liens de coréférences ou basée sur les liens de coréférences mais ayant conscience des entités concernées @xcite . on gardera les notations vu précédemment et on définit en plus t : l'ensemble des données étiquettées et r : l'ensemble des données prédites. on utilisera |.| pour la cardinalité d'une chaîne de coréférence. ## évolution des résultats on peut voir ci-dessus ( l'évolution des résultats au fil des années a été grandement marquée par l'utilisation de modèles entièrement neuronaux @xcite . cependant d'autres éléments entrent en jeu, l'utilisation des modèles dont l'approche est basée sur les entités semble être une approche apportant de meilleurs résultats. ## conclusion cet état de l'art ne pouvant entrer dans les détails de chaque article mentionné, nous cherchions à apporter une vision en une dizaine de pages, sur l'évolution de la résolution de liens de coréférence depuis @xcite jusqu'à @xcite . il propose également une bibliographie sur les corpus travaillant sur le français, le corpus de référence utilisé à ce jour, les approches des différents systèmes ainsi que les métriques utilisées pour mesurer leur qualité. depuis 2013, l'utilisation des modèles neuronaux a permis une forte amélioration des résultats (+23 points en score conll) mais ne peut encore être considérée comme une tâche résolue. en effet, elle laisse encore place à de possibles améliorations, par exemple : -différentes méthodes de représentation des entités.