Etat de l’art des méthodes d’apprentissage profond pour l’extraction automatique de termes-clés (State of the art of deep learning methods for automatic keyphrase extraction ) (2019)

Abstract: Les termes-clés facilitent la recherche de documents dans de larges collections de données. Le coût d’annotation de document en termes-clés très élevé, c’est pourquoi les chercheurs s’intéressent à cette problématique. Dans cet article nous présentons un état de l’art sur l’extraction automatique de termes-clés en nous intéressant particulièrement aux modèles d’apprentissage profond. En effet, la récente publication d’un demi-million de documents annotés à permis le développement de modèles neuronaux profonds.

## introduction les termes-clés, également appelés mots-clés, sont des mots ou expressions polylexicales qui représentent les concepts importants d'un document @xcite . ils se présentent généralement sous la forme de syntagmes nominaux non récursifs contenant majoritairement des noms communs et adjectifs qualificatifs et relationnels @xcite . les termes-clés sont essentiellement utilisés pour indexer les documents et naviguer dans les bibliothèques numériques @xcite . en effet, ils sont une alternative plus synthétique et abstraite à l'indexation plein texte, qui elle, se limite aux seuls mots présents dans le document. ils sont aussi utilisés pour d'autres tâches du traitement automatique de la langue comme le résumé automatique @xcite et la classification de documents @xcite . malgré les nombreux avantages que procurent les termes-clés, très peu de documents en sont pourvus. en effet, le coût d'annotation par des indexeurs professionnels (ingénieurs documentalistes) est très élevé. c'est pourquoi la communauté scientifique s'intéresse à l'extraction automatique de termes-clés, notamment au travers de campagnes d'évaluations telles que semeval @xcite espace : la station spatiale chinoise tiangong-1 est tombée dans le pacifique 4 avril 2018. -le lundi 2 avril, les autorités spatiales chinoises ont confirmé le désorbitage du laboratoire spatial tiangong-1. la majeure partie de la structure s'est consumée lors de la réentrée atmosphérique avant que les restes ne s'écrasent dans l'océan pacifique à 8 h 15 heure de pékin (0 h 15 utc). tiangong-1 («palais céleste 1»), était la première station spatiale chinoise. lancée en 2011, les autorités ont rappelés les derniers astronautes en 2013 avant d'en perdre le contrôle en 2016. selon les rapports, la deuxième station spatiale chinoise, tiangong-2, reste en orbite. la chine prévoit de lancer une station spatiale permanente en 2022, tandis que les états-unis songent à se retirer du financement de la station spatiale internationale à l'horizon 2024. termes-clés extraits : tiangong-1 ; océan pacifique ; réentrée athmosphérique. espace : la station spatiale chinoise tiangong-1 est tombée dans le pacifique 4 avril 2018. -le lundi 2 avril, les autorités spatiales chinoises ont confirmé le désorbitage du laboratoire spatial tiangong-1. la majeure partie de la structure s'est consumée lors de la réentrée atmosphérique avant que les restes ne s'écrasent dans l'océan pacifique à 8 h 15 heure de pékin (0 h 15 utc). tiangong-1 («palais céleste 1»), était la première station spatiale chinoise. lancée en 2011, les autorités ont rappelés les derniers astronautes en 2013 avant d'en perdre le contrôle en 2016. selon les rapports, la deuxième station spatiale chinoise, tiangong-2, reste en orbite. la chine prévoit de lancer une station spatiale permanente en 2022, tandis que les états-unis songent à se retirer du financement de la station spatiale internationale à l'horizon 2024. termes-clés extraits : station spatiale ; océan pacifique ; chute ; chine. et al., 2017) 1 ou deft (paroubek et al., 2012; daille et al., 2017). l'atelier nca (gollapalli et al., 2015) (novel computationel approach to keyphrase extraction) a été consacré en 2015 à cette tâche. les conférences traitant des bibliothèques numériques telles que la joint conference on digital libraries (jcdl) s'y intéressent aussi. l'extraction automatique de termes-clés consiste a assigner à un document un ensemble de termes-clés extraits à partir du contenu du document ou de ressources externes telles que des thésaurus. il s'agit d'une tâche complexe de par sa subjectivité. nous présentons dans la figure 1 l'annotation d'un article de nouvelles journalistiques en termes-clés par deux lecteurs. dans cet exemple, bien que les concepts de « station spatiale », d'« océan pacifique » et de « désorbitage » soient capturés par les deux annotateurs, seulement un terme-clé est commun aux deux annotations. dans cet article nous présentons un état de l'art des méthodes d'extraction automatiques de termes-clés en se restreignant aux cadres applicatifs des publications scientifiques et des articles journalistiques. une attention toute particulière sera portée aux modèles neuronaux qui présentent à l'écriture de cet article les meilleures performances. le reste de l'article se présente comme suit. la section 2 présente les modèles d'extraction automatique de termes-clés en commençant par les modèles dits traditionnels puis les modèles neuronaux. la section 3 présente les différents jeux de données et les mesures utilisées pour l'évaluation puis les résultats des modèles que nous avons identifiés comme représentatifs. enfin nous conclurons et présenterons des perspectives de recherches. ## modèles d'extraction automatique de termes-clés les travaux de la littérature peuvent être séparés en deux catégories, ceux qui proposent des modèles dits traditionnels, qui reposent sur une chaîne de traitement (c.-à-d. segmentation en mots, étiquetage morpho-syntaxique, analyse en dépendances), et ceux qui exploitent des modèles neuronaux dits de bout-en-bout. ## résultats expérimentaux dans cette section nous présentons les jeux de données ainsi que les mesures d'évaluation principalement utilisées par la communauté. dans un second temps nous présentons les résultats expérimentaux des modèles de l'état de l'art et mettons en exergue leurs forces et faiblesses.