La détection de textes générés par des modèles de langue : une tâche complexe? Une étude sur des textes académiques (2023)

Abstract: L’émergence de modèles de langage très puissants tels que GPT-3 a sensibilisé les chercheurs à la problématique de la détection de textes académiques générés automatiquement, principalement dans un souci de prévention de plagiat. Plusieurs études ont montré que les modèles de détection actuels ont une précision élevée, en donnant l’impression que la tâche soit résolue. Cependant, nous avons observé que les ensembles de données utilisés pour ces expériences contiennent des textes générés automatiquement à partir de modèles pré-entraînés. Une utilisation plus réaliste des modèles de langage consisterait à effectuer un fine-tuning sur un texte écrit par un humain pour compléter les parties manquantes. Ainsi, nous avons constitué un corpus de textes générés de manière plus réaliste et mené des expériences avec plusieurs modèles de classification. Nos résultats montrent que lorsque les ensembles de données sont générés de manière réaliste pour simuler l’utilisation de modèles de langage par les chercheurs, la détection de ces textes devient une tâche assez difficile.

## introduction depuis l'introduction de grands modèles de langue (ml) pour la génération de texte, les chercheurs ont essayé de déterminer si le texte généré peut être détecté et avec quelle efficacité. par exemple, giant language testing room (gltr) @xcite est un modèle de visualisation qui aide les humains à détecter le texte généré artificiellement, en se basant sur le principe qu'une prévalence de tokens très probables (selon un modèle de langue pre-entrainé -dans leur cas gpt-2) est un indicateur. @xcite ont étudié la détectabilité de documents techniques falsifiés par des modèles de classification basés sur bert, obtenant des précisions allant de 86 à 95%. @xcite évalue l'effet de perturbations aléatoires du texte sur les probabilités de génération des tokens par un modèle gpt, de façon similaire a gltr. ils affichent une auroc de 0.95. récemment, certaines tâches partagées ont été proposées sur sujet de la détection de texte academique généré automatiquement. dagpap22 a été accueilli dans le cadre du third workshop on scholarly document processing @xcite . les organisateurs ont rassemblé des articles originaux sur micpro (microprocesseurs et microsystèmes) et les objectifs de développement durable des nations unies, et ont créé des résumés artificiels en utilisant diverses méthodes (modèles de résumé et modèles de type gpt). la tâche s'est avérée plus facile à résoudre que prévu, le meilleur modèle étant basé sur trois variantes de bert : scibert(beltagy et al., 2019), roberta @xcite et deberta @xcite . en utilisant un ensemble de ces trois modèles, il a obtenu un score f1 maximal de 99,24% @xcite . synscipass @xcite utilise le modèle scibert pour la détection et ont obtenu une précision de 98,3% pour dagpap22. toutefois, ces excellents résultats peuvent être trompeurs. en effet, si l'on regarde plus attentivement aux jeux de données utilisés, nous trouverons que les sous-ensembles de données générés sont souvent assemblés en utilisant des ml pre-entrainés. par exemple, (mitchell et al., 2023) utilisent 500 articles d'un jeu de donnés d'actualités pour les échantillons originaux, et 500 articles générés automatiquement par 4 différents ml avec les premiers 30 mots de chaque article original. le jeu de données wikigpt foot_0 a été créé avec le prompt "introduction de 200 mots de style wikipedia sur {titre} {texte_intro}" où titre est le titre de la page wikipedia, et texte_intro est constitué par les sept premiers mots de l'introduction wikipedia originale. ## un jeu de données plus réaliste nous avons commencé à construire un corpus avec l'objectif de simuler au mieux la façon dont un auteur humain utiliserait les lms pour ses travaux : par exemple, pour combler les trous dans certaines parties de l'article ou pour compléter un résumé en donnant le corps de l'article. après, notre objectif c'était aussi celui de vérifier si la détectabilité des textes générés automatiquement restait élévée aussi dans ce cas. nous avons donc assemblé un jeu de données composé des sections suivantes : abstraites hybride arxiv-nlp pré-entraîné (@xmath0.7) (d2) -200 articles, 150 mots par article en moyenne ; -le jeu de données du concours dagpap22 2 . dagpap22(d3) -5350 articles, 160 mots par article en moyenne ; -un ensemble de données composé d'articles générés par un réglage fin du modèle gpt-2 avec un paramètre de température de 0,9. entièrement généré gpt-2 affiné (@xmath1.9)(d4) -200 articles, 1250 mots par article en moyenne ; -un jeu de données de résumés obtenu en exploitant le modèle gpt-2 pré-entraîné, sans réglage fin. abstraites gpt-2 pré-entraîné (@xmath2.7) (d5) -200 articles, 125 mots par article en moyenne ; pour construire les ensembles de données d1 et d4, nous avons effectué un réglage d'un modèle gpt-2 sur les articles originaux. pour s'assurer qu'il n'y a pas de chevauchement entre les données d'entraînement de gpt-2 et nos données, nous avons sélectionné pour notre jeu de données uniquement des articles récents (à partir de 2022). afin d'obtenir des résultats plus fidèles à partir du modèle pré-entraîné, nous avons limité notre jeu de données au même domaine (nlp) et à la même source (arxiv). pour chaque article original, nous envoyons un prompt de 50 mots provenant de l'article lui-même au modèle afin de produire un nouvel article. la génération continue jusqu'à ce que la longueur du nouvel article soit similaire à la longueur de l'article original, afin d'éviter tout biais de longueur lors de la classification. la différence entre d1 et d4 réside uniquement dans les températures utilisées pour les générateurs, respectivement 0, 7 et 0, 9. le modèle gpt-2 de base était la version avec 12 couches, 12 têtes d'attention et 124m de paramètres. le modèle a été affiné par un seul article original à la fois et une moyenne de 45 minutes gpu a été consommée pour chaque article (avec un gpu nvidia t4). ainsi, pour l'ensemble du jeu de données, environ 75 heures de gpu ont été allouées. le jeu de données d2 a été créé avec une intervention humaine, en utilisant l'interface 'write with transformer' sur huggingface foot_2 . les auteurs, agissant en tant qu'experts du domaine, ont supprimé la partie conclusive des résumés, et les ont complétés avec des phrases proposées par le modèle gpt-2 mis au point sur arxiv-nlp. nous avons choisi l'une des trois meilleures complétions proposées par le modèle. ce scénario est équivalent au scénario de 'tampering' proposé dans @xcite , avec des curateurs manuels. finalement, le jeu de données d5 réprésente le cas où le modèle est utilisé sans réglage, avec uniquement un prompt de 50 mots de l'article original. comme on peut apprécier en ## expériences pour comprendre le degré de similarité du texte généré avec l'original et donc estimer la difficulté inhérente des jeux de données, nous avons calculé les scores bleu (bilingual evaluation understudy) @xcite et rouge (recall-oriented understudy for gisting evaluation) @xcite (tableau 2). lorsque le paramètre de température d'un modèle de génération est augmenté, le caractère aléatoire du contenu généré est plus élevé. par conséquent, la similarité n-gram entre le contenu généré et le contenu de référence (original) correspondant devient faible. ainsi, comme le montre le tableau 2, bleu et rouge, qui sont des scores basés sur les n-grammes, sont plus faibles pour le d4 plus "chaud" que les scores produits par le jeu de données d1 plus "froid". les scores bleu et rouge du jeu de données d5, généré à l'aide du modèle gpt-2 sans réglage, sont très faibles par rapport aux corpus générés à l'aide du modèle gpt-2 affiné. il s'agit d'un comportement attendu puisque lorsqu'un modèle n'est pas affiné, le contenu généré ne peut pas être très similaire au contenu original, ce qui rend la similarité n-grammes très faible. moreover, when temporal word embeddings provide words' representations that are more inclined towards their literal core meaning (and not the metaphorical one), models exploiting end up correctly identifying metaphors more easily. furthermore, embeddings of words belonging to some language domains in specific time periods can be biased towards their metaphorical meaning, leading to words being used in metaphorical contexts way more than in literal ones. this would prevent neural models from correctly identifying the words as metaphors.