La génération automatique de poésie en français (Automatic Poetry Generation in F rench) (2019)

Abstract: La génération automatique de poésie est une tâche ardue pour un système informatique. Pour qu’un poème ait du sens, il est important de prendre en compte à la fois des aspects linguistiques et littéraires. Ces dernières années, un certain nombre d’approches fructueuses sont apparues, capables de modéliser de manière adéquate divers aspects du langage naturel. En particulier, les modèles de langue basés sur les réseaux de neurones ont amélioré l’état de l’art par rapport à la modélisation prédictive de langage, tandis que les topic models sont capables de capturer une certaine cohérence thématique. Dans cet article, on explorera comment ces approches peuvent être adaptées et combinées afin de modéliser les aspects linguistiques et littéraires nécessaires pour la génération de poésie. Le système est exclusivement entraîné sur des textes génériques, et sa sortie est contrainte afin de conférer un caractère poétique au vers généré. Le cadre présenté est appliqué à la génération de poèmes en français, et évalué à l’aide d’une évaluation humaine.

## introduction la génération automatique de poésie est une tâche ardue pour un système informatique. pour qu'un poème ait du sens, il est important de prendre en compte à la fois des aspects linguistiques et littéraires. tout d'abord, un système de génération de poésie doit modéliser de manière correcte les phénomènes de langage, tels que la syntaxe, et la cohérence sémantique et discursive. de plus, le système doit intégrer diverses contraintes (telles que la forme et la rime) liées à un genre poétique particulier. enfin, le système doit faire preuve d'une certaine créativité littéraire, ce qui rend le poème intéressant et digne d'être lu. ces dernières années, dans le domaine du traitement automatique des langues, un certain nombre d'approches fructueuses sont apparues, capables de modéliser de manière adéquate divers aspects du langage naturel. en particulier, les modèles de langue basés sur les réseaux de neurones ont amélioré l'état de l'art par rapport à la modélisation prédictive de langage, tandis que les topic models sont capables de capturer une certaine forme de cohérence thématique. dans cet article, on explorera comment ces approches peuvent être adaptées et combinées afin de modéliser les aspects linguistiques et littéraires nécessaires pour la génération de poésie. plus spécifiquement, dans ce travail, on utilisera des réseaux de neurones récurrents dans une configuration encodeur-décodeur. l'encodeur construit d'abord une représentation d'une phrase entière en incorporant séquentiellement les mots de cette phrase dans un vecteur d'état caché de taille fixe. la représentation finale est ensuite donnée au décodeur, qui émet une séquence de mots selon une distribution de probabilité dérivée de l'état caché de la phrase en entrée. en apprenant au réseau à prédire la phrase suivante avec la phrase actuelle en entrée, le réseau apprend à générer du texte brut avec une certain cohérence discursive. en transformant la distribution de probabilité fournie par le décodeur, afin d'incorporer des contraintes poétiques, le réseau peut être exploité pour la génération de vers poétiques. il est important de noter que le système de poésie n'est pas entraîné sur des textes poétiques ; au contraire, le système est entraîné sur des textes génériques extraits du web, et ce seront alors les contraintes appliquées qui confèrent un caractère poétique aux vers générés. cet article est structuré comme suit. dans la section 2, on présente un aperçu des travaux connexes sur la génération automatique de poésie. la section 3 décrit ensuite les différentes composantes du système de génération de poésie. dans la section 4, on présentera un certain nombre d'exemples et une évaluation humaine. la section 5 conclut et examine quelques pistes pour des futurs travaux. ## travaux connexes il y a une longue et captivante histoire en termes de génération automatique de poésie pour le français @xcite , que l'on qualifierait de créativité mécanique. au-delà de la simple créativité mécanique, les premières implémentations informatiques se sont souvent appuyées sur des méthodes basées sur des règles ou sur des patrons. l'un des premiers exemples est le système aspera @xcite ) pour l'espagnol, qui repose sur une base de connaissances complexe, un ensemble de règles et un raisonnement à partir de cas. d'autres approches incluent @xcite , qui combinent la génération basée sur des règles avec des algorithmes génétiques ; le système de génération poetryme de gonçalo @xcite , qui repose sur la génération tabulaire (chart generation) et diverses stratégies d'optimisation ; et @xcite , qui exploite les expressions métaphoriques en utilisant une approche basée sur les patrons. alors que la génération de poésie avec des modèles basés sur des règles et des patrons a une tendance inhérente à être structurellement plutôt rigide, les progrès des méthodes statistiques pour la génération de langage ont ouvert de nouvelles perspectives pour une approche plus variée et hétérogène. @xcite , par exemple, utilisent un modèle de langage n-gramme en combinaison avec un modèle rythmique implémenté avec des transducteurs à états finis. et plus récemment, des réseaux de neurones récurrents ont été exploités pour la génération de la poésie. @xcite utilise un encodeur-décodeur rnn pour la génération de poésie chinoise, dans lequel un premier rnn construit une représentation cachée du vers actuel dans un poème, et un deuxième rnn prédit le vers suivant mot par mot, en fonction de la représentation cachée du vers actuel. le système est entraîné sur un corpus de poèmes chinois. yan (2016) présente une amélioration de l'approche encodeur-décodeur en incorporant une méthode de raffinement itératif : le réseau construit un poème candidat à chaque itération, et la représentation de l'itération précédente est utilisée lors de la création de la suivante. et wang et al. (2016) étendent la méthode en utilisant un mécanisme d'attention. @xcite combinent des rnns (afin de modéliser la fluidité syntaxique) avec des calculs de similarité distributionnelle (afin de modéliser la cohérence sémantique) et des automates à états finis (pour imposer des contraintes littéraires telles que le mètre et la rime). leur système, hafez, est capable de produire des poèmes bien formés avec un raisonnable degré de cohérence sémantique, basés sur un sujet défini par l'utilisateur. @xcite se concentrent sur les vers rythmiques ; ils combinent un rnn, entraîné sur une représentation phonétique de poèmes, avec une cascade de transducteurs à états finis pondérés. et @xcite présentent un modèle de réseaux de neurones pour la génération de sonnets, qui intègre l'entraînement de la rime et du rythme dans le réseau ; le réseau apprend les motifs de stress iambiques à partir de données, tandis que les paires de mots qui riment sont séparées des paires de mots qui ne riment pas en utilisant une perte basée sur la marge. il est à noter que tous les modèles statistiques existants sont entraînés sur un corpus de poésie ; à notre connaissance, notre système est le premier à ne réaliser la génération de poésie qu'avec un modèle exclusivement entraîné sur un corpus générique, ce qui signifie que le caractère poétique est conféré par le modèle lui-même. deuxièmement, on utilise un modèle sémantique latent pour modéliser la cohérence thématique, ce qui est également nouveau.