Intégration du raisonnement numérique dans les modèles de langue : État de l’art et direction de recherche (2023)

Abstract: Ces dernières années, les modèles de langue ont connu une évolution galopante grâce à l’augmentation de la puissance de calcul qui a rendu possible l’utilisation des réseaux de neurones. Parallèlement, l’intégration du raisonnement numérique dans les modèles de langue a suscité un intérêt grandissant. Pourtant, bien que l’entraînement des modèles de langue sur des données numériques soit devenu un paradigme courant, les modèles actuels ne parviennent pas à effectuer des calculs de manière satisfaisante. Pour y remédier, une solution est d’entraîner les modèles de langue à utiliser des outils externes tels qu’une calculatrice ou un “runtime” de code python pour effectuer le raisonnement numérique. L’objectif de ce papier est double, dans un premier temps nous passons en revue les travaux de l’état de l’art sur le raisonnement numérique dans les modèles de langue et dans un second temps nous discutons des différentes perspectives de recherche pour augmenter les compétences numériques des modèles.

## introduction le traitement automatique du langage naturel (tal) a été boulversé ces dernières années grâce aux transformers @xcite . cette architecture permet d'encoder efficacement le sens des mots et des paragraphes avec leur contexte dans un espace vectoriel de grande dimension à travers un mécanisme d'attention qui focalise le modèle sur certains groupes de mots. ce mécanisme a démontré des performances importantes dans de nombreuses tâches de tal comme les tâches de séquence à séquence (e.g., traduction automatique @xcite , résumé de documents @xcite ) et les tâches de classification (e.g., l'analyse de sentiments @xcite , l'étiquetage des parties du discours ou la catégorisation thématique @xcite ). cette avancée a permis aux modèles de langue pré-entraînes (pre trained language models, ptlm) de comprendre les nuances et les subtilités du langage naturel devenant ainsi des outils universels @xcite utilisés dans de nombreux domaines @xcite @xcite . un exemple marquant est le système conversationnel chatgpt qui est conçu pour répondre à des questions très diverses et résoudre toute une série de problèmes en communiquant aux utilisateurs la réponse d'une manière semblable à celle d'un être humain @xcite . bloom, avec 176 milliards de paramètres, est capable de générer du texte dans 46 langues et 13 langages de programmation @xcite tandis que lamda saisit des nuances fines distinguant le dialogue des autres formes de langage @xcite . aujourd'hui, grâce aux ptlm, souvent il suffit d'étiqueter une petite quantité de données et d'y ajuster un modèle de langue pré-entraîné pour résoudre un problème @xcite , en effet, celui-ci ayant déjà acquis une quantité importante des connaissances en tal au préalable. le succès des ptlm est également lié à l'explosion des données textuelles disponibles sur internet, qui ont permis de pré-entraîner ces modèles sur des corpus de plus en plus vastes et variés incluant l'intégralité de wikipédia, reddit et de nombreuses sources d'informations. par exemple, le corpus c4 @xcite atteint aujourd'hui la taille record de 800 go de textes et de méta données. cependant, les compétences de haut niveau, telles que la capacité à effectuer un raisonnement numérique sur du texte, restent un verrou lorsque ces modèles sont appris seulement avec un objectif de masquage des mots ou des générations de phrases contextuelles @xcite @xcite . le raisonnement numérique est une tâche critique qui intervient dans divers scénarios allant du shopping à la modélisation du climat @xcite . il s'agit de traiter des opérations numériques telles que l'addition ou la multiplication et d'interpréter les tendances et les relations numériques @xcite . en effet, des données numériques sont présentes dans la grande majorité des documents (finance, santé, journalisme, etc) @xcite , d'où le besoin d'avoir des modèles de langue compétents en raisonnement numérique @xcite . néanmoins, le raisonnement numérique sur du texte est une tâche particulièrement difficile @xcite car le modèle doit 1) comprendre les scénarios complexes décrits dans les textes des problèmes, 2) trouver l'enchaînement des opérations nécessaires, 3) identifier les variables mathématiques et associer le texte à la logique des équations mathématiques, 4) projeter les données vers un espace sémantique (ou un système) différent pour effectuer les calculs et enfin 5) produire le résultat attendu et/ou générer la réponse en langage naturel. la figure 1 montre un exemple de questions à partir de drop @xcite . pour répondre à la question "how many years after founding of hughes/ donahue was art euphoric founded ?", le modèle doit d'abord comprendre le contexte décrit et identifier les années de création des deux entreprises (hughes/donahue et art euphoric). ensuite, il doit trouver l'opération à effectuer, dans ce cas c'est une soustraction pour enfin générer la réponse qui est un. dans cet article nous nous intéressons à la problématique d'intégration du raisonnement numérique dans les modèles de langue. en d'autres terme, l'enjeu est de résoudre des problèmes mathématiques décrit en langage textuel en utilisant les modèles de langues. 1. nous proposons un état de l'art des différentes approches d'incorporation des compétences numériques dans les modèles de langues. ## discussion et perspectives dans cette section, nous discutons des perspectives de recherche que nous envisageons pour proposer des modèles de langues dotés de compétences numériques. l'idée de planifier et générer les différentes étapes du raisonnement nous semble très prometteuse @xcite . en effet, le modèle de langue est très performant sur cette tâche tandis que ses faiblesses calculatoires peuvent être palliées en faisant appel à un calculateur externe. l'enjeu est alors d'apprendre aux modèles de langage à utiliser des outils externes @xcite . la richesse des outils et bibliothèques existants pour des problèmes très divers ouvre de nombreuses perspectives. accessoirement le comportement des modèles de langue se rapprocherait alors de celui des humains qui font appel quotidiennement à une large palette d'outils pour résoudre des problèmes divers. ## conclusion cet article s'intéresse à l'amélioration des modèles de langue en raisonnement numérique. bien que le pré-entraînement sur des données numériques soit maintenant une approche courante, les résultats ne sont pas satisfaisants. notre synthèse de l'état de l'art des approches d'intégration du raisonnement numérique dans les modèles de langue penche clairement en faveur des architectures hybrides mêlant génération de texte et calculateurs externes. nous sommes convaincus du potentiel de ces modèles, à la fois en raisonnement automatique à partir d'énoncés textuels et dans le cadre des applications de data-to-text. nous travaillons au développement d'architectures capables de traduire ces problématiques en code python, d'exécuter ces programmes puis d'incorporer les résultats retournés dans un texte pertinent.