Extraction d’informations de messages aéronautiques ( NOTAM s) avec des modèles de langue appris de façon auto-supervisée (Information extraction from aeronautical messages ) (2022)

Abstract: Avant un vol, les pilotes de ligne doivent lire une longue liste de messages appelés NOTAM (pour NOtice To AirMen) donnant des informations sur des aléas potentiels le long du vol. Ces messages suivent une grammaire particulière, contiennent beaucoup d’acronymes et un vocabulaire spécifique aéronautique. Dans cet article, un modèle de langue de type BERT est pré-entraîné sur un grand nombre de ces messages ; il est ensuite affiné sur trois tâches : l’estimation de criticité, la reconnaissance d’entités nommées et la traduction vers un langage structuré appelé Airlang. L’apprentissage auto-supervisé, permettant de tirer parti du vaste nombre de données non annotées, est particulièrement intéressant dans le domaine aéronautique, pour lequel les annotations sont très coûteuses car nécessitant une forte expertise. Nous montrons les résultats encourageants sur les trois tâches.

## introduction chaque vol nécessite une préparation pendant laquelle les pilotes prennent connaissance de tous les éléments importants concernant le vol, à propos des conditions météorologiques, des réserves de carburant ou encore des notifications portant sur la sécurité. les pilotes les reçoivent de la part des agences gouvernementales de contrôle de la navigation aérienne sous la forme de messages écrits, appelés notice to airmen (notam -message aux navigants). de nombreux messages sont à lire avant le vol (parfois jusqu'à plus de 100 pages pour les long-courriers). ils sont écrits majoritairement en anglais avec de nombreux acronymes et mots techniques ainsi qu'une syntaxe particulière. des travaux ont déjà été menés sur les notams, par exemple dans un but de classification @xcite . dans cet article, nous appliquons les dernières avancées en tal au domaine aéronautique dans le but de réduire la charge de travail des pilotes. un modèle de langue de type bert met à profit la vaste quantité de données non annotées et permet après affinage de réaliser trois tâches : l'estimation de la criticité, la reconnaissance d'entités nommées et la traduction vers un langage structuré appelé airlang. cet article est organisé comme suit : la partie 2 décrit les notams et les différentes tâches. la partie 3 détaille les approches et les différents résultats obtenus. un notam est un message émis par les autorités aéronautiques pour alerter les pilotes d'éventuels dangers le long du trajet. il informe notamment des perturbations temporaires (de quelques heures à un an maximum) sur des infrastructures (comme une fermeture ou usage restreint d'une piste d'atterrissage), d'exercices militaires ayant pour conséquence un espace aérien restreint, de la présence temporaire d'obstacles près des aéroports, etc. un exemple de notam est montré à la figure 1 . avant un vol, les pilotes doivent lire les notams pertinents pour ce vol afin de garantir la sécurité de ce dernier ; cette tâche s'avère longue et ardue. en effet, ces messages sont écrits dans un langage non standard et avec un nombre important d'abréviations. de plus, avec l'augmentation du nombre d'aéroports ces dernières décennies, ainsi que leur propension à alerter du moindre risque pour éviter toute responsabilité, le nombre de notams émis est de plus en plus importants (en 2018, en moyenne 5500 notams publiés par jour). parmi ces notams, certains sont cruciaux pour le vol mais une grande majorité sont de faible importance. les technologies de tal peuvent être très utiles pour, par exemple, classer les notams par ordre décroissant de criticité ou pour souligner dans les notams les informations importantes (comme par exemple les identifiants de runway ou taxiway). les notams décrivant une fermeture de runway ou d'un secteur aérien pour raison d'exercices militaires, sont d'importance cruciale par rapport à ceux apparaissant tous les jours publiés par de petits aéroports à propos de vents violents dans la région. les notams sont composés de plusieurs champs ; certains sont structurés et donc faciles à analyser. dans cette étude, nous nous focalisons sur le champ "e", qui est un champ "libre" très informatif, non structuré, écrit dans un anglais non standard, comprenant beaucoup d'abréviations et d'acronymes connu du monde aéronautique. une forte expertise est requise pour décoder ce type de messages. le langage notam a été mis au point afin d'être concis et de pouvoir transmettre l'information de façon la plus efficace possible. afin que ce langage puisse être écrit par tous et compris de tous, des recommandations d'écriture existent et il est fortement recommandé d'utiliser la liste officielle des acronymes. malgré ces recommandations, les déviations des auteurs sont fréquentes en pratique. il en résulte un langage non contrôlé présentant les mêmes défis que le langage naturel et qui serait très difficile de couvrir de manière robuste par un système de règles.