Détection d’anomalies textuelles à base de l’ingénierie d’invite (Prompt Engineering-Based Text Anomaly Detection ) (2022)

Abstract: La détection d’anomalies textuelles est une tâche importante de la fouille de textes. Plusieurs approches générales, visant l’identification de points de données aberrants, ont été appliqués dans ce domaine. Néanmoins, ces approches exploitent peu les nouvelles avancées du traitement automatique des langues naturelles (TALN). L’avènement des modèles de langage pré-entraînés comme BERT et GPT-2 a donné naissance à un nouveau paradigme de l’apprentissage automatique appelé ingénierie d’invite (prompt engineering) qui a montré de bonnes performances sur plusieurs tâches du TALN. Cet article présente un travail exploratoire visant à examiner la possibilité de détecter des anomalies textuelles à l’aide de l’ingénierie d’invite. Dans nos expérimentations, nous avons examiné la performance de différents modèles d’invite. Les résultats ont montré que l’ingénierie d’invite est une méthode prometteuse pour la détection d’anomalies textuelles.

## introduction les anomalies sont des points de données qui ne se conforment pas au comportement attendu ou qui s'écartent tellement des éléments connus qu'ils sont suspectés d'être générés par un mécanisme différent @xcite . inconnus et inattendus, ces points de données anomaux sont également appelés nouveautés, valeurs aberrantes, observations discordantes ou surprises dans la littérature. la détection d'anomalies est généralement considérée comme une tâche de classement unitaire @xcite . différente du classement traditionnel (binaire ou multi-classe), la détection d'anomalies concerne essentiellement les jeux de données extrêmement déséquilibrés qui contiennent une classe dominante (normale ou positive). dans ce cas, les échantillons négatifs sont rares et difficiles à obtenir. par conséquent, les techniques utilisées sont souvent non supervisées ou semi-supervisées. dans notre travail, nous faisons une distinction entre deux types d'anomalies, à savoir les nouveautés et les valeurs aberrantes, du point de vue de l'apprentissage automatique : en ce qui concerne les données textuelles, la détection d'anomalies est une tâche importante de la fouille de textes et largement appliquée aux domaines comme la veille stratégique et l'intelligence économique @xcite @xcite , la sécurité et la défense @xcite , etc. néanmoins, la détection d'anomalies dans les textes présente des difficultés particulières liées aux spécificités de la donnée textuelle, notamment : en effet, le domaine du taln a connu ces dernières années une importante progression des modèles de langage pré-entraînés (mlps) comme bert @xcite , gpt-2 @xcite , gpt-3 @xcite ou encore t5 @xcite . l'émergence de ces modèles a donné naissance à un nouveau paradigme de l'apprentissage automatique appelé « prompt engineering » @xcite que nous proposons de traduire par « ingénierie d'invite ». ce nouveau paradigme permet d'utiliser des modèles génératifs comme few-shot learners et a montré de bonnes performances sur plusieurs tâches du taln @xcite . cet article présente un travail exploratoire visant à examiner la possibilité de détecter des anomalies textuelles à l'aide de l'ingénierie d'invite. ## travaux connexes la détection d'anomalies a été largement étudiée par différentes communautés de recherche et selon différentes approches théoriques @xcite . cependant, la problématique spécifique de détection d'anomalies textuelles n'a bénéficié que d'un nombre limité de travaux. les travaux existants se concentrent essentiellement sur deux axes, à savoir les différentes techniques permettant de distinguer les anomalies des données normales ainsi que les différentes représentations des données textuelles. typiquement, le système de détection d'anomalies est un système d'apprentissage automatique (supervisé, semi-supervisé ou non supervisé) qui prend comme entrée un texte et produit, en sortie, soit une étiquette, soit un score d'anomalie. approches à base de classement unitaire une des approches courantes pour la détection d'anomalies est le classement unitaire où l'objectif est d'entraîner un modèle qui décrive la « normalité » à partir des données d'entraînement n'ayant que l'étiquette « normale ». dans ce cadre, plusieurs algorithmes sont proposés, notamment ceux basés sur la frontière de décision, tels que des variants de one-class support vector machines (ocsvm) @xcite et de support vector data description (svdd) @xcite . @xcite ont effectué un classement unitaire sur le jeu de données reuters foot_0 @xcite en utilisant plusieurs versions de svm avec différents noyaux et différentes représentations de données comme one hot, tf-idf, etc. @xcite ont proposé une technique basée sur svm appelée pebl (positive example based learning) pour classer les pages web. @xcite ont proposé la technique dite context vector data description (cvdd), qui est une extension des classifieurs unitaires utilisant des modèles de langage (plongements de mots) pré-entraînés, tels que word2vec @xcite , glove @xcite et fasttext @xcite . avec l'essor de l'apprentissage profond (deep learning) au cours de ces dernières années, plusieurs variants du modèle svdd intégrant ces techniques sont proposés, tels que dsvdd (deep svdd) @xcite , msvdd (multi-modal deep svdd) @xcite , etc. approches à base de proximité les méthodes à base de proximité, qui ont déjà fait leurs preuves dans plusieurs domaines @xcite @xcite , sont également utilisées pour détecter des anomalies dans le texte. ces approches considèrent un point de données comme anomal lorsque son voisinage est peu peuplé @xcite . selon les différentes définitions de la proximité, nous pouvons regrouper ces techniques en trois sous-classes : srivastava & zane-ulman (2005); srivastava et al. (2006) ont utilisé diverses techniques de clustering comme k-means clustering @xcite et spectral clustering pour détecter des anomalies dans des rapports de maintenance de systèmes complexes. -les méthodes à base de distance, telles que les k plus proches voisins (k-nn) @xcite . approches à base de reconstruction les méthodes à base de reconstruction tentent de trouver un sous-espace de dimension inférieure des données originales où les anomalies et les données normales sont censées être séparées les unes des autres. cette représentation de données compressée est utilisée ensuite pour la reconstruction des données originales. la différence entre les données reproduites et les données originales, autrement dit l'erreur de reconstruction, est utilisée comme score d'anomalie. les points de données mal reconstruits sont considérés comme des anomalies. plusieurs techniques s'appuyant sur ce type d'approche ont été proposées pour la détection d'anomalies, parmi lesquelles principal component analysis (pca), replicator neural networks (rnns) @xcite , autoencoders (aes) et generative adversarial networks (gans) @xcite . par exemple, yap (2020) a proposé une méthode appelée arae-anogan qui combine l'ae et le gan pour détecter des anomalies textuelles.