# Évaluation des capacités de réponse de larges modèles de langage (LLM) pour des questions d'historiens

Mathieu Alexandre Chartier, Nabil Dakkoune, Guillaume Bourgeois, Stéphane Jean

Jean

► To cite this version:

Mathieu Alexandre Chartier, Nabil Dakkoune, Guillaume Bourgeois, Stéphane Jean. Évaluation des capacités de réponse de larges modèles de langage (LLM) pour des questions d'historiens. 24e conférence francophone sur l'Extraction et la Gestion des Connaissances (EGC 2024), Jan 2024, Dijon (Bourgogne), France. pp.155-166. hal-04613881

HAL Id: hal-04613881

https://hal.science/hal-04613881

Submitted on 20 Jun 2024

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
# Évaluation des capacités de réponse de larges modèles de langage (LLM) pour des questions d'historiens

Mathieu Alexandre Chartier, Nabil Dakkoune, Guillaume Bourgeois, Stéphane Jean

Jean

► To cite this version:

Mathieu Alexandre Chartier, Nabil Dakkoune, Guillaume Bourgeois, Stéphane Jean. Évaluation des capacités de réponse de larges modèles de langage (LLM) pour des questions d'historiens. 24e conférence francophone sur l'Extraction et la Gestion des Connaissances (EGC 2024), Jan 2024, Dijon (Bourgogne), France. pp.155-166. hal-04613881

HAL Id: hal-04613881

https://hal.science/hal-04613881v1

Submitted on 20 Jun 2024

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
# Évaluation des capacités de réponse de larges modèles de langage (LLM) pour des questions d'historiens

Mathieu Chartier*, Nabil Dakkoune**,
Guillaume Bourgeois* et Stéphane Jean**

*CRIHAM, université de Poitiers

**LIAS, ISAE-ENSMA et université de Poitiers
prenom.nom@univ-poitiers.fr

**Résumé.** Les larges modèles de langage (LLM) tels que ChatGPT ou Bard ont bouleversé la recherche d'informations et conquis le public par leur facilité à générer des réponses sur mesure en un temps record, qu'importe le sujet. Dans cet article, nous analysons les capacités de différents LLM à produire des réponses sur des faits historiques en français avec fiabilité, exhaustivité et suffisamment de pertinence pour être directement exploitables ou extractibles. Pour cela, nous avons élaboré un banc d'essai constitué de multiples questions d'histoire. Ces dernières sont de différents types, thématiques et de niveaux de difficulté variables. Notre évaluation des réponses fournies par dix LLM, que nous avons jugeés pertinents, montre de nombreuses limites sur le fond comme dans la forme. Au-delà d'un taux de précision globalement insuffisant, nous mettons en évidence le traitement inégal du français ou encore des problèmes de loquacité et d'inconstance des réponses fournies par les LLM.

## 1 Introduction

Le succès et l'engouement rencontrés par ChatGPT d'OpenAI depuis son lancement le 30 novembre 2022 mettent en évidence les progrès des larges modèles de langage (LLM) auprès du grand public, atteignant un million d'utilisateurs actifs seulement cinq jours après l'annonce officielle et même cent millions deux mois plus tard. Les LLM démontrent des capacités en termes de production et complétion de textes, de traduction automatique mais aussi de génération de réponses à des questions de tout ordre. Ces outils se révèlent notamment performants dans ces différentes tâches grâce à un entraînement non supervisé ou semi-supervisé sur d'immenses corpus textuels, totalisant des milliards de mots parmi des sources diverses et variées.

Avec de telles masses d'informations ingurgitées, nous pouvons estimer que ces modèles sont entraînés sur des volumes de connaissances paraissant dépasser les capacités mémorielles humaines (Bowman (2023)), laissant penser à tort qu'ils auraient réponse à tout. En effet, bien que les LLM s'appuient sur des millions de sources diversifiées, ils sont capables de produire avec une certaine assurance des réponses biaisées voire totalement fausses ou farfelues (Zheng et al. (2023)), mais aussi développer un certain niveau d'hallucination (Ji et al. (2023)). Par conséquent, il semble nécessaire d'analyser leur aptitude à générer des réponses approfondies
# Évaluation des capacités de réponse de larges modèles de langage (LLM) pour des questions d'historiens

Mathieu Chartier*, Nabil Dakkoune**,
Guillaume Bourgeois* et Stéphane Jean**

*CRIHAM, université de Poitiers

**LIAS, ISAE-ENSMA et université de Poitiers
prenom.nom@univ-poitiers.fr

**Résumé.** Les larges modèles de langage (LLM) tels que ChatGPT ou Bard ont bouleversé la recherche d'informations et conquis le public par leur facilité à générer des réponses sur mesure en un temps record, qu'importe le sujet. Dans cet article, nous analysons les capacités de différents LLM à produire des réponses sur des faits historiques en français avec fiabilité, exhaustivité et suffisamment de pertinence pour être directement exploitables ou extractibles. Pour cela, nous avons élaboré un banc d'essai constitué de multiples questions d'histoire. Ces dernières sont de différents types, thématiques et de niveaux de difficulté variables. Notre évaluation des réponses fournies par dix LLM, que nous avons jugeés pertinents, montre de nombreuses limites sur le fond comme dans la forme. Au-delà d'un taux de précision globalement insuffisant, nous mettons en évidence le traitement inégal du français ou encore des problèmes de loquacité et d'inconstance des réponses fournies par les LLM.

## 1 Introduction

Le succès et l'engouement rencontrés par ChatGPT d'OpenAI depuis son lancement le 30 novembre 2022 mettent en évidence les progrès des larges modèles de langage (LLM) auprès du grand public, atteignant un million d'utilisateurs actifs seulement cinq jours après l'annonce officielle et même cent millions deux mois plus tard. Les LLM démontrent des capacités en termes de production et complétion de textes, de traduction automatique mais aussi de génération de réponses à des questions de tout ordre. Ces outils se révèlent notamment performants dans ces différentes tâches grâce à un entraînement non supervisé ou semi-supervisé sur d'immenses corpus textuels, totalisant des milliards de mots parmi des sources diverses et variées.

Avec de telles masses d'informations ingurgitées, nous pouvons estimer que ces modèles sont entraînés sur des volumes de connaissances paraissant dépasser les capacités mémorielles humaines (Bowman (2023)), laissant penser à tort qu'ils auraient réponse à tout. En effet, bien que les LLM s'appuient sur des millions de sources diversifiées, ils sont capables de produire avec une certaine assurance des réponses biaisées voire totalement fausses ou farfelues (Zheng et al. (2023)), mais aussi développer un certain niveau d'hallucination (Ji et al. (2023)). Par conséquent, il semble nécessaire d'analyser leur aptitude à générer des réponses approfondies
## Évaluation de LLM pour les historiens

et exactes, validées par des spécialistes, notamment dans des domaines aussi complexes que vastes tels que l'histoire ou plus largement les sciences humaines et sociales qui font appel à des connaissances diachroniques de plus en plus fouillées et nombreuses.

Les spécialistes des sciences humaines et sociales, et plus spécifiquement les historiens, ont pour habitude d'effectuer des recherches approfondies au sein de vastes ensembles documentaires ou archivistiques. Pour les accompagner et les aider à trouver plus facilement des sources adaptées à leurs travaux, de nombreux outils numériques ont vu le jour tels que Gallica<fnref n="1" /> ou Europeana<fnref n="2" />. Cependant, ces ressources numériques présentent deux limites majeures pour les spécialistes : d'une part, les données ne sont pas toujours disponibles en ligne, soit parce que les documents ne sont accessibles que physiquement, soit parce que leur numérisation n'est que partielle ; d'autre part, ces outils ne recouvrent pas la complexité des problématiques historiques et proposent uniquement des listes de ressources résultant de requêtes de mots clés souvent ambiguës voire mal traitées informatiquement.

À titre d'exemple, pour la requête courte « roi de France », certains outils cherchent des ressources qui contiennent soit « roi », soit « France », ou pire, le mot vide « de », engendrant ainsi une liste interminable de résultats potentiellement imprécis et inappropriés. Même pour des requêtes simples comme « date du siège de La Rochelle », un site web de qualité comme Gallica va retourner des documents pertinents comme *Le Siège de La Rochelle : journal contemporain (20 juillet 1627-4 juillet 1630)*, mais aussi de nombreux documents inappropriés comme *Recueil de pièces en prose et en vers, lues dans les assemblées publiques de l'Académie royale des belles-lettres de La Rochelle ou L'aire urbaine de La Rochelle plus dynamique que ses consœurs du littoral*. Par conséquent, là où les historiens aimeraient facilement obtenir des amorces de réponses précises et sourcées à l'aune de leurs propres orientations, la majorité des outils existants s'en tiennent à des ressources cataloguées qu'il convient de consulter et d'analyser en détail par d'autres moyens. Il nous semble donc intéressant de déterminer si les LLM disposent de données et de facultés suffisantes pour aider les historiens dans leurs recherches.

Dans cet article, nous analysons les capacités des LLM dans la génération de réponses pertinentes et complètes pour différents types de requête en histoire. Nous considérons ainsi des requêtes quantitatives (par exemple : « Combien de batailles ont eu lieu au cours de la troisième guerre de religion ? ») et qualitatives (cela peut être une demande fermée comme « Quelle est la date de création de la forge de Verrières à Lhommaizé ? » ou une question ouverte telle que « Dans quelle mesure l'artisanat a été essentiel dans la vie économique des villages du Poitou de 1500 à 1800 ? »). Nous testons également différentes complexités de requêtes allant de questions rationnelles et simples à de profondes interrogations d'historien à la fois composites et équivoques. En effet, il est certainement plus simple de fournir la date et le lieu de naissance exacts d'un illustre personnage historique que d'apporter une réponse via un raisonnement dialectique sur un sujet multiforme et ambigu du passé. Nos travaux évaluent également les possibilités des LLM à produire des réponses rigoureuses pour des faits historiques aux caractéristiques variables, notamment lorsque les sujets évoqués sont peu traités en ligne ou méconnus, même de la part d'historiens spécialistes.

Pour réaliser notre évaluation, nous proposons un banc d'essai composé de 62 questions. Pour chacune de ces questions, nous avons caractérisé les types de réponse possibles (bonne réponse, réponse partielle, etc.). Nous avons ensuite sélectionné dix LLM qui nous ont semblé

<footnote n="1">1. https://gallica.bnf.fr/</footnote>

<footnote n="2">2. https://www.europeana.eu/fr</footnote>
## Évaluation de LLM pour les historiens

et exactes, validées par des spécialistes, notamment dans des domaines aussi complexes que vastes tels que l'histoire ou plus largement les sciences humaines et sociales qui font appel à des connaissances diachroniques de plus en plus fouillées et nombreuses.

Les spécialistes des sciences humaines et sociales, et plus spécifiquement les historiens, ont pour habitude d'effectuer des recherches approfondies au sein de vastes ensembles documentaires ou archivistiques. Pour les accompagner et les aider à trouver plus facilement des sources adaptées à leurs travaux, de nombreux outils numériques ont vu le jour tels que Gallica<fnref n="1" /> ou Europeana<fnref n="2" />. Cependant, ces ressources numériques présentent deux limites majeures pour les spécialistes : d'une part, les données ne sont pas toujours disponibles en ligne, soit parce que les documents ne sont accessibles que physiquement, soit parce que leur numérisation n'est que partielle ; d'autre part, ces outils ne recouvrent pas la complexité des problématiques historiques et proposent uniquement des listes de ressources résultant de requêtes de mots clés souvent ambiguës voire mal traitées informatiquement.

À titre d'exemple, pour la requête courte « roi de France », certains outils cherchent des ressources qui contiennent soit « roi », soit « France », ou pire, le mot vide « de », engendrant ainsi une liste interminable de résultats potentiellement imprécis et inappropriés. Même pour des requêtes simples comme « date du siège de La Rochelle », un site web de qualité comme Gallica va retourner des documents pertinents comme *le Siège de La Rochelle : journal contemporain (20 juillet 1627-4 juillet 1630)*, mais aussi de nombreux documents inappropriés comme *Recueil de pièces en prose et en vers, lues dans les assemblées publiques de l'Académie royale des belles-lettres de La Rochelle ou L'aire urbaine de La Rochelle plus dynamique que ses consœurs du littoral*. Par conséquent, là où les historiens aimeraient facilement obtenir des amorces de réponses précises et sourcées à l'aune de leurs propres orientations, la majorité des outils existants s'en tiennent à des ressources cataloguées qu'il convient de consulter et d'analyser en détail par d'autres moyens. Il nous semble donc intéressant de déterminer si les LLM disposent de données et de facultés suffisantes pour aider les historiens dans leurs recherches.

Dans cet article, nous analysons les capacités des LLM dans la génération de réponses pertinentes et complètes pour différents types de requête en histoire. Nous considérons ainsi des requêtes quantitatives (par exemple : « Combien de batailles ont eu lieu au cours de la troisième guerre de religion ? ») et qualitatives (cela peut être une demande fermée comme « Quelle est la date de création de la forge de Verrières à Lhommaizé ? » ou une question ouverte telle que « Dans quelle mesure l'artisanat a été essentiel dans la vie économique des villages du Poitou de 1500 à 1800 ? »). Nous testons également différentes complexités de requêtes allant de questions rationnelles et simples à de profondes interrogations d'historien à la fois composites et équivoques. En effet, il est certainement plus simple de fournir la date et le lieu de naissance exacts d'un illustre personnage historique que d'apporter une réponse via un raisonnement dialectique sur un sujet multiforme et ambigu du passé. Nos travaux évaluent également les possibilités des LLM à produire des réponses rigoureuses pour des faits historiques aux caractéristiques variables, notamment lorsque les sujets évoqués sont peu traités en ligne ou méconnus, même de la part d'historiens spécialistes.

Pour réaliser notre évaluation, nous proposons un banc d'essai composé de 62 questions. Pour chacune de ces questions, nous avons caractérisé les types de réponse possibles (bonne réponse, réponse partielle, etc.). Nous avons ensuite sélectionné dix LLM qui nous ont semblé

<footnote n="1">1. https://gallica.bnf.fr/</footnote>

<footnote n="2">2. https://www.europeana.eu/fr</footnote>
être les plus pertinents pour notre étude. L'évaluation des réponses fournies par ces LLM à notre banc d'essai montre de nombreuses limites sur le fond comme dans la forme. Au-delà d'un taux de précision globalement insuffisant, cette évaluation met en évidence des lacunes actuelles des LLM eu égard à notre sujet tels que le traitement inégal du français ou l'inconstance des réponses fournies par les LLM.

Cet article est organisé comme suit. Dans la section 2, nous analysons les autres travaux s'étant intéressés aux LLM et plus particulièrement sur le domaine de l'histoire. Dans la section 3 nous présentons notre banc d'essai en justifiant et illustrant les questions choisies. La section 4 présente la méthodologie suivie pour évaluer les LLM sélectionnés. Les résultats de cette évaluation sont présentés dans la section 5. Nous concluons dans la section 6 et introduisons des perspectives à nos travaux.

## 2 Travaux connexes

Plusieurs évaluations et comparatifs de performances de LLM ont déjà été réalisés dans des domaines comme les mathématiques (Frieder et al. (2023); Yuan et al. (2023); Hendrycks et al. (2021)), la programmation informatique (Chen et al. (2021); Austin et al. (2021)), la génération de résumés de textes (Goyal et al. (2023)) ou même dans la réussite potentielle de tests universitaires (Nunes et al. (2023)). En outre, des scientifiques ont privilégié une approche holistique et multitâche, offrant ainsi une évaluation plus globale et précise des modèles de langages en anglais (Lewkowycz et al. (2023); Suzgun et al. (2023); Liang et al. (2023)) ou en chinois (Huang et al. (2023)). Malheureusement, peu de travaux similaires s'intéressent spécifiquement aux humanités numériques, qui plus est en langue française.

Pour aller plus loin, des chercheurs ont évalué les LLM dans leurs capacités intrinsèques à répondre à des questions ou à suivre des raisonnements profonds (Lin et al. (2022); Stelmakh et al. (2022); Tan et al. (2023); Guo et al. (2023)). Une fois encore, ces études reposent uniquement sur la langue anglaise, sans s'intéresser à la thématique des questions historiques. La seule approche qui se penche sur la génération de questions-réponses dans les humanités numériques, et en langue française, est celle de Béchet et al. (2022). Cependant, cette derrière ne s'interroge pas sur la capacité des LLM à répondre correctement à des questions historiques, mais plutôt à la faculté de générer des réponses de qualité à partir de l'extraction d'informations dans un corpus textuel historique. Notre étude prend donc le parti de tester les connaissances natives des LLM dans la production de réponses précises, complètes et fiables en langue française dans le domaine de l'histoire.

## 3 Les requêtes et modèles testés

Les historiens cherchent autant à soutirer des réponses factuelles à des questions fermées que des explications circonstanciées pour de vastes interrogations. Nous devions donc couvrir l'ensemble des possibilités afin d'obtenir par exemple une date précise, une lignée familiale, une durée, un contexte historique ou encore une réponse approfondie sur une problématique complexe. Pour ce faire, nous avons formé diverses classes de requêtes fermées et ouvertes pour analyser pleinement les connaissances des LLM et examiner la qualité des réponses lorsque le niveau de difficulté et le type de questions diffèrent. Le tableau 1 illustre ces dif-
être les plus pertinents pour notre étude. L'évaluation des réponses fournies par ces LLM à notre banc d'essai montre de nombreuses limites sur le fond comme dans la forme. Au-delà d'un taux de précision globalement insuffisant, cette évaluation met en évidence des lacunes actuelles des LLM eu égard à notre sujet tels que le traitement inégal du français ou l'inconstance des réponses fournies par les LLM.

Cet article est organisé comme suit. Dans la section 2, nous analysons les autres travaux s'étant intéressés aux LLM et plus particulièrement sur le domaine de l'histoire. Dans la section 3 nous présentons notre banc d'essai en justifiant et illustrant les questions choisies. La section 4 présente la méthodologie suivie pour évaluer les LLM sélectionnés. Les résultats de cette évaluation sont présentés dans la section 5. Nous concluons dans la section 6 et introduisons des perspectives à nos travaux.

## 2 Travaux connexes

Plusieurs évaluations et comparatifs de performances de LLM ont déjà été réalisés dans des domaines comme les mathématiques (Frieder et al. (2023); Yuan et al. (2023); Hendrycks et al. (2021)), la programmation informatique (Chen et al. (2021); Austin et al. (2021)), la génération de résumés de textes (Goyal et al. (2023)) ou même dans la réussite potentielle de tests universitaires (Nunes et al. (2023)). En outre, des scientifiques ont privilégié une approche holistique et multitâche, offrant ainsi une évaluation plus globale et précise des modèles de langages en anglais (Lewkowycz et al. (2023); Suzgun et al. (2023); Liang et al. (2023)) ou en chinois (Huang et al. (2023)). Malheureusement, peu de travaux similaires s'intéressent spécifiquement aux humanités numériques, qui plus est en langue française.

Pour aller plus loin, des chercheurs ont évalué les LLM dans leurs capacités intrinsèques à répondre à des questions ou à suivre des raisonnements profonds (Lin et al. (2022); Stelmakh et al. (2022); Tan et al. (2023); Guo et al. (2023)). Une fois encore, ces études reposent uniquement sur la langue anglaise, sans s'intéresser à la thématique des questions historiques. La seule approche qui se penche sur la génération de questions-réponses dans les humanités numériques, et en langue française, est celle de Béchet et al. (2022). Cependant, cette derrière ne s'interroge pas sur la capacité des LLM à répondre correctement à des questions historiques, mais plutôt à la faculté de générer des réponses de qualité à partir de l'extraction d'informations dans un corpus textuel historique. Notre étude prend donc le parti de tester les connaissances natives des LLM dans la production de réponses précises, complètes et fiables en langue française dans le domaine de l'histoire.

## 3 Les requêtes et modèles testés

Les historiens cherchent autant à soutirer des réponses factuelles à des questions fermées que des explications circonstanciées pour de vastes interrogations. Nous devions donc couvrir l'ensemble des possibilités afin d'obtenir par exemple une date précise, une lignée familiale, une durée, un contexte historique ou encore une réponse approfondie sur une problématique complexe. Pour ce faire, nous avons formé diverses classes de requêtes fermées et ouvertes pour analyser pleinement les connaissances des LLM et examiner la qualité des réponses lorsque le niveau de difficulté et le type de questions diffèrent. Le tableau 1 illustre ces dif-
## Évaluation de LLM pour les historiens

férents types de requêtes. Aussi, nous avons créé plusieurs groupes de requêtes quantitatives et qualitatives qui attendent des types de réponses différents afin d’évaluer les potentielles lunces des LLM dans des conditions variables. En particulier, nous avons subdivisé les requêtes qualitatives en diverses sous-classes pour obtenir des réponses caractéristiques telles que des métadonnées (date d’un événement, nom d’un acteur historique, etc.) ou des listes d’informations sur des questions simples jusqu’à des descriptions de plus en plus détaillées sur des questionnements ouverts et complexes.

<table><caption>TABLEAU 1 – Typologie et exemples de questions d’histoire posées aux LLM.</caption><thead><tr><th>Types de question<br>Données attendues</th><th>Nombre<br>de questions</th><th>Exemples de questions posées</th></tr></thead><tbody><tr><td>Quantitatif (fermé)<br>Donnée numérique</td><td>16</td><td>Quelle est la durée de la bataille de Poitiers en 1356 ?<br>Quel est le nombre de pertes au cours du siège de La Rochelle ?</td></tr><tr><td>Qualitatif (fermé)<br>Métadonnée</td><td>15</td><td>Où est né le cardinal de Richelieu ?<br>Quand a été proclamée la première loi sur l’apprentissage ?</td></tr><tr><td>Qualitatif (fermé)<br>Liste de données</td><td>10</td><td>Quels sont les noms des enfants de Jean le Bon ?<br>Qui sont les principaux défenseurs de la réforme protestante lors<br>de la troisième guerre de religion ?</td></tr><tr><td>Qualitatif (ouvert)<br>Définition/Description</td><td>16</td><td>Qu’est-ce que l’Edit de Nantes en 1598 ?<br>Comment les forgerons travaillaient-ils le fer à l’époque moderne ?</td></tr><tr><td>Qualitatif (ouvert)<br>Description détaillée<br>d’une problématique</td><td>5</td><td>En quoi la constitution d’une Nouvelle République de La Rochelle a causé la future capitulation rochelaise ?<br>Pourquoi la mort d’Abd al-Rahman en 732 a été déterminante<br>pour l’expansion musulmane en Europe ?</td></tr></tbody></table>

Nos questionnements imposent de disposer de suffisamment de données à exploiter, à la fois en nombre mais aussi en qualité. Nous avons donc réparti nos questions parmi cinq grands sujets ou faits historiques s’étant déroulés dans l’ancien Poitou (faisant actuellement partie de la région Nouvelle-Aquitaine) à diverses époques :

- Quatre faits historiques autour de guerres ou batailles décomposés ainsi : deux batailles de Poitiers (en 732 et en 1356) très traitées dans les sources, mais diversement bien connues des historiens et pouvant entraîner des confusions pour les outils de recherche ; un sujet évoquant les guerres de religion au travers de l’illustre siège de La Rochelle (en 1627-1628) plutôt bien maîtrisé par les historiens mais aussi autour de batailles un peu plus confidentielles et méconnues (Jarnac et Moncontour).

- Un sujet vaste au sujet de l’artisanat à l’époque moderne, globalement plus nébuleux, abstrait et complexe pour l’obtention de réponses concrètes via des outils de recherche.

Au total, notre banc d’essai se compose de 62 questions dont chacune est énoncée à la fois sous forme de requêtes conversationnelles (en langue naturelle) et de requêtes de mots clés traditionnelles. Nous avons également décidé de proposer deux formulations pour chaque question afin de vérifier si les LLM répondent avec exactitude dans chaque cas, mais aussi pour
## Évaluation de LLM pour les historiens

férents types de requêtes. Aussi, nous avons créé plusieurs groupes de requêtes quantitatives et qualitatives qui attendent des types de réponses différents afin d’évaluer les potentielles lunces des LLM dans des conditions variables. En particulier, nous avons subdivisé les requêtes qualitatives en diverses sous-classes pour obtenir des réponses caractéristiques telles que des métadonnées (date d’un événement, nom d’un acteur historique, etc.) ou des listes d’informations sur des questions simples jusqu’à des descriptions de plus en plus détaillées sur des questionnements ouverts et complexes.

<table><caption>TABLEAU 1 – Typologie et exemples de questions d’histoire posées aux LLM.</caption><thead><tr><td>Types de question<br/>Données attendues</td><td>Nombre<br/>de questions</td><td>Exemples de questions posées</td></tr></thead><tbody><tr><td>Quantitatif (fermé)<br/>Donnée numérique</td><td>16</td><td>Quelle est la durée de la bataille de Poitiers en 1356 ?<br/>Quel est le nombre de pertes au cours du siège de La Rochelle ?</td></tr><tr><td>Qualitatif (fermé)<br/>Métadonnée</td><td>15</td><td>Où est né le cardinal de Richelieu ?<br/>Quand a été proclamée la première loi sur l’apprentissage ?</td></tr><tr><td>Qualitatif (fermé)<br/>Liste de données</td><td>10</td><td>Quels sont les noms des enfants de Jean le Bon ?<br/>Qui sont les principaux défenseurs de la réforme protestante lors<br/>de la troisième guerre de religion ?</td></tr><tr><td>Qualitatif (ouvert)<br/>Définition/Description</td><td>16</td><td>Qu’est-ce que l’Edit de Nantes en 1598 ?<br/>Comment les forgerons travaillaient le fer à l’époque moderne ?</td></tr><tr><td>Qualitatif (ouvert)<br/>Description détaillée<br/>d’une problématique</td><td>5</td><td>En quoi la constitution d’une Nouvelle République de La Rochelle a causé la future capitulation rochelaise ?<br/>Pourquoi la mort d’Abd al-Rahman en 732 a été déterminante<br/>pour l’expansion musulmane en Europe ?</td></tr></tbody></table>

Nos questionnements imposent de disposer de suffisamment de données à exploiter, à la fois en nombre mais aussi en qualité. Nous avons donc réparti nos questions parmi cinq grands sujets ou faits historiques s’étant déroulés dans l’ancien Poitou (faisant actuellement partie de la région Nouvelle-Aquitaine) à diverses époques :

- Quatre faits historiques autour de guerres ou batailles décomposés ainsi : deux batailles de Poitiers (en 732 et en 1356) très traitées dans les sources, mais diversement bien connues des historiens et pouvant entraîner des confusions pour les outils de recherche ; un sujet évoquant les guerres de religion au travers de l’illustre siège de La Rochelle (en 1627-1628) plutôt bien maîtrisé par les historiens mais aussi autour de batailles un peu plus confidentielles et méconnues (Jarnac et Moncontour).

- Un sujet vaste au sujet de l’artisanat à l’époque moderne, globalement plus nébuleux, abstrait et complexe pour l’obtention de réponses concrètes via des outils de recherche.

Au total, notre banc d’essai se compose de 62 questions dont chacune est énoncée à la fois sous forme de requêtes conversationnelles (en langue naturelle) et de requêtes de mots clés traditionnelles. Nous avons également décidé de proposer deux formulations pour chaque question afin de vérifier si les LLM répondent avec exactitude dans chaque cas, mais aussi pour
nous assurer de leur bonne compréhension de nos demandes. Par exemple, la question fermée « Quelle est la date du siège de La Rochelle ? » a aussi été testée avec la variante « Quand s'est tenu le siège de La Rochelle ? ». Enfin, nous avons ajouté une formulation complémentaire à vingt requêtes qualitatives fermées pour tester spécifiquement la compréhension et la prise en compte de variations étymologiques ou toponymiques dans le texte. En définitive, nous avons testé 268 requêtes sur des faits historiques diversifiés (134 en langue naturelle et 134 constituées de mots clés).

Parallèlement au choix des questions, nous avons dû sélectionner les LLM à exploiter. Nous avons procédé à une large revue d'effectif afin de vérifier leurs spécificités et les besoins techniques pour les faire fonctionner correctement. Il nous a été évidemment impossible de couvrir l'ensemble des outils basés sur des modèles de langage, à la fois par limitation technique (par exemple, Claude 2 d'Anthropic<fnref n="3" /> n'était disponible qu'aux Etats-Unis au moment des tests) ou linguistique (par exemple, l'outil Luminous d'Aleph Alpha ne se concentre que sur la langue allemande<fnref n="4" />). Toutefois, comme l'indique le tableau 2, nous souhaitions étudier un panel suffisamment représentatif des LLM, avec des modèles basés sur GPT (OpenAI (2023)), sur PaLM 2 (Anil et al. (2023)), d'autres sur LLaMA (Touvron et al. (2023)) ou T5 (Raffel et al. (2020)), mais aussi avec des constitutions variables de leurs corpus.

<table><caption>TABLEAU 2 – Liste des LLM testés sur des questions d'histoire.</caption><thead><tr><td>Technologie</td><td>Modèle</td><td>Nombre de paramètres</td><td>Type d'usage</td></tr></thead><tbody><tr><td>ChatGPT</td><td>GPT-4</td><td>170 000 milliards</td><td>Chat</td></tr><tr><td>ChatGPT</td><td>GPT-3.5-turbo</td><td>175 milliards</td><td>Chat</td></tr><tr><td>Google Bard</td><td>PaLM 2</td><td>?</td><td>Chat</td></tr><tr><td>TextCortex AI</td><td>Sophos-2</td><td>20 milliards et plus</td><td>Chat</td></tr><tr><td>Guanaco</td><td>Guanaco-33b-GGML</td><td>33 milliards</td><td>Chat</td></tr><tr><td>Vicuna</td><td>Vicuna-33b-v1.3</td><td>33 milliards</td><td>Chat</td></tr><tr><td>GPT4All</td><td>L13b-snoozy</td><td>13 milliards</td><td>Chat</td></tr><tr><td>Koala</td><td>13b-diff-v2</td><td>13 milliards</td><td>Chat</td></tr><tr><td>Vigogne</td><td>Instruct-13b</td><td>13 milliards</td><td>Instruct</td></tr><tr><td>Falcon</td><td>Instruct-7B</td><td>7 milliards</td><td>Instruct</td></tr></tbody></table>

## 4 Méthodologie suivie

Nous avons examiné manuellement, avec des spécialistes, les réponses fournies par les différents outils testés. Nous avons procédé de manière itérative en couvrant l'ensemble des types de questions d'histoire de notre sélection, c'est-à-dire en demandant aux LLM de répondre à des questions quantitatives, qualitatives fermées et ouvertes tantôt descriptives, tantôt ambiguës et complexes.

Certains modèles comme GPT, Bard ou Vigogne comprennent et couvrent parfaitement les requêtes en langue naturelle mais il nous a semblé pertinent de tester également les mêmes sujets sous forme de requêtes de mots clés traditionnelles afin de comparer les résultats obtenus, selon les deux approches, pour l'ensemble des outils analysés. En outre, nous avons répété

<footnote n="3">3. https://www.anthropic.com/index/introducing-claude</footnote>

<footnote n="4">4. https://www.aleph-alpha.com/luminous</footnote>
nous assurer de leur bonne compréhension de nos demandes. Par exemple, la question fermée « Quelle est la date du siège de La Rochelle ? » a aussi été testée avec la variante « Quand s'est tenu le siège de La Rochelle ? ». Enfin, nous avons ajouté une formulation complémentaire à vingt requêtes qualitatives fermées pour tester spécifiquement la compréhension et la prise en compte de variations étymologiques ou toponymiques dans le texte. En définitive, nous avons testé 268 requêtes sur des faits historiques diversifiés (134 en langue naturelle et 134 constituées de mots clés).

Parallèlement au choix des questions, nous avons dû sélectionner les LLM à exploiter. Nous avons procédé à une large revue d'effectif afin de vérifier leurs spécificités et les besoins techniques pour les faire fonctionner correctement. Il nous a été évidemment impossible de couvrir l'ensemble des outils basés sur des modèles de langage, à la fois par limitation technique (par exemple, Claude 2 d'Anthropic<fnref n="3" /> n'était disponible qu'aux Etats-Unis au moment des tests) ou linguistique (par exemple, l'outil Luminous d'Aleph Alpha ne se concentre que sur la langue allemande<fnref n="4" />). Toutefois, comme l'indique le tableau 2, nous souhaitions étudier un panel suffisamment représentatif des LLM, avec des modèles basés sur GPT (OpenAI (2023)), sur PaLM 2 (Anil et al. (2023)), d'autres sur LLaMA (Touvron et al. (2023)) ou T5 (Raffel et al. (2020)), mais aussi avec des constitutions variables de leurs corpus.

<table><caption>TABLEAU 2 – Liste des LLM testés sur des questions d'histoire.</caption><thead><tr><td>Technologie</td><td>Modèle</td><td>Nombre de paramètres</td><td>Type d'usage</td></tr></thead><tbody><tr><td>ChatGPT</td><td>GPT-4</td><td>170 000 milliards</td><td>Chat</td></tr><tr><td>ChatGPT</td><td>GPT-3.5-turbo</td><td>175 milliards</td><td>Chat</td></tr><tr><td>Google Bard</td><td>PaLM 2</td><td>?</td><td>Chat</td></tr><tr><td>TextCortex AI</td><td>Sophos-2</td><td>20 milliards et plus</td><td>Chat</td></tr><tr><td>Guanaco</td><td>Guanaco-33b-GGML</td><td>33 milliards</td><td>Chat</td></tr><tr><td>Vicuna</td><td>Vicuna-33b-v1.3</td><td>33 milliards</td><td>Chat</td></tr><tr><td>GPT4All</td><td>L13b-snoozy</td><td>13 milliards</td><td>Chat</td></tr><tr><td>Koala</td><td>13b-diff-v2</td><td>13 milliards</td><td>Chat</td></tr><tr><td>Vigogne</td><td>Instruct-13b</td><td>13 milliards</td><td>Instruct</td></tr><tr><td>Falcon</td><td>Instruct-7B</td><td>7 milliards</td><td>Instruct</td></tr></tbody></table>

## 4 Méthodologie suivie

Nous avons examiné manuellement, avec des spécialistes, les réponses fournies par les différents outils testés. Nous avons procédé de manière itérative en couvrant l'ensemble des types de questions d'histoire de notre sélection, c'est-à-dire en demandant aux LLM de répondre à des questions quantitatives, qualitatives fermées et ouvertes tantôt descriptives, tantôt ambiguës et complexes.

Certains modèles comme GPT, Bard ou Vigogne comprennent et couvrent parfaitement les requêtes en langue naturelle mais il nous a semblé pertinent de tester également les mêmes sujets sous forme de requêtes de mots clés traditionnelles afin de comparer les résultats obtenus, selon les deux approches, pour l'ensemble des outils analysés. En outre, nous avons répété

<footnote n="3">3. https://www.anthropic.com/index/introducing-claude</footnote>

<footnote n="4">4. https://www.aleph-alpha.com/luminous</footnote>
## Évaluation de LLM pour les historiens

ces questionnements deux fois pour chaque batterie de tests afin de s'assurer que les nouvelles réponses proposées par les LLM demeurent cohérentes ou apportent plus ou moins de détails au sujet des faits historiques sondés. Au total, nous avons donc analysé 5360 réponses résultant de nos 62 questions d'histoire afin d'obtenir un échantillon suffisamment représentatif des performances des dix LLM testés.

Pour mener à bien notre analyse et obtenir les résultats cités dans cet article, nous avons collecté la totalité des réponses pour l'ensemble des essais réalisés. Pour faciliter la reproductibilité de notre expérimentation, l'ensemble des questions et réponses obtenues sont disponibles sur https://github.com/lias-laboratory/experimentalhistorianllm. Bien qu'il existe des méthodes d'évaluation automatisée des capacités des LLM, elles montrent généralement très vite leurs limites, notamment lorsqu'il s'agit de questions ouvertes ou spécifiques à un domaine (Wang et al. (2023); Kamalloo et al. (2023)). En outre, une multitude de questions d'histoire font appel à des connaissances vastes et imbriquées issues de domaines aussi variés que spécifiques, il nous semblait par conséquent délicat d'opter pour des systèmes d'évaluation automatiques n'ayant pas nécessairement un niveau de connaissances suffisant. Pour ces raisons, nous avons procédé à une analyse humaine et minutieuse des réponses afin d'évaluer leur pertinence, leur précision et leur complétude grâce à des historiens et à des sources validées par les spécialistes. Notre objectif était de laisser les modèles générer des réponses, à l'image d'un élève répondant à un devoir d'histoire, et de vérifier si les notions attendues étaient bien présentes. Par exemple, pour une question quantitative fermée comme « Combien de batailles ont eu lieu au cours de la troisième guerre de religion ? », une réponse idéale devrait évoquer les huit faits majeurs tandis qu'une question ouverte telle que « Quel a été l'élément déclencheur de la bataille de Poitiers en 1356 ? » attendrait une réponse détaillée évoquant la chevauchée du Prince Noir d'Angleterre (Edouard de Woodstock) par le sud-ouest de la France dans le contexte de la guerre de Cent Ans et de la grande dépression médiévale.

Nous avons annoté les réponses à partir de critères simples, décrits ci-dessous :

- « Bonne réponse » : contient les réponses suffisamment précises et complètes pour être totalement exploitables.

- « Réponse partielle » : regroupe les réponses fournissant des informations justes mais pas suffisamment précises ou complètes pour être considérées comme parfaites.

- « Réponse approximative » : correspond à des réponses qui ne sont pas fausses mais dont le résultat est bien trop vague et approximatif pour être exploitable.

- « Mauvaise réponse » : liste toutes les réponses fausses ou totalement hors-sujet.

- « Pas de réponse (mais indication) » : cible les absences de réponse pour lesquels les outils ont tenté de fournir une explication ou une alternative.

- « Aucune réponse » : regroupe les retours de LLM sans indication, les absences de réponses mais aussi les éventuels bogues.

Prenons un exemple pour clarifier cette échelle de validation. Lorsque nous posons la question contextualisée « Dans quelle ville s'est tenue la bataille de 1356 ? », nous considérons que « Nouaillé-Maupertuis », « Nouaillé » ou « Maupertuis » sont de bonnes réponses, « près de Poitiers » est partiellement juste, « en Nouvelle-Aquitaine » et « dans l'ouest de la France » sont trop vagues et « Châtellerault » est erroné. Cette approche permet ainsi de vérifier l'exhaustivité des réponses. En outre, selon ce que l'on souhaite obtenir *a minima* comme niveau de réponses, nous pouvons regrouper des sous-types de validation. Par exemple, seules les bonnes réponses semblent parfaitement exploitables si nous souhaitons créer un outil pour des historiens, tandis
## Évaluation de LLM pour les historiens

ces questionnements deux fois pour chaque batterie de tests afin de s'assurer que les nouvelles réponses proposées par les LLM demeurent cohérentes ou apportent plus ou moins de détails au sujet des faits historiques sondés. Au total, nous avons donc analysé 5360 réponses résultant de nos 62 questions d'histoire afin d'obtenir un échantillon suffisamment représentatif des performances des dix LLM testés.

Pour mener à bien notre analyse et obtenir les résultats cités dans cet article, nous avons collecté la totalité des réponses pour l'ensemble des essais réalisés. Pour faciliter la reproductibilité de notre expérimentation, l'ensemble des questions et réponses obtenues sont disponibles sur https://github.com/lias-laboratory/experimentalhistorianllm. Bien qu'il existe des méthodes d'évaluation automatisée des capacités des LLM, elles montrent généralement très vite leurs limites, notamment lorsqu'il s'agit de questions ouvertes ou spécifiques à un domaine (Wang et al. (2023); Kamalloo et al. (2023)). En outre, une multitude de questions d'histoire font appel à des connaissances vastes et imbriquées issues de domaines aussi variés que spécifiques, il nous semblait par conséquent délicat d'opter pour des systèmes d'évaluation automatiques n'ayant pas nécessairement un niveau de connaissances suffisant. Pour ces raisons, nous avons procédé à une analyse humaine et minutieuse des réponses afin d'évaluer leur pertinence, leur précision et leur complétude grâce à des historiens et à des sources validées par les spécialistes. Notre objectif était de laisser les modèles générer des réponses, à l'image d'un élève répondant à un devoir d'histoire, et de vérifier si les notions attendues étaient bien présentes. Par exemple, pour une question quantitative fermée comme « Combien de batailles ont eu lieu au cours de la troisième guerre de religion ? », une réponse idéale devrait évoquer les huit faits majeurs tandis qu'une question ouverte telle que « Quel a été l'élément déclencheur de la bataille de Poitiers en 1356 ? » attendrait une réponse détaillée évoquant la chevauchée du Prince Noir d'Angleterre (Edouard de Woodstock) par le sud-ouest de la France dans le contexte de la guerre de Cent Ans et de la grande dépression médiévale.

Nous avons annoté les réponses à partir de critères simples, décrits ci-dessous :

- « Bonne réponse » : contient les réponses suffisamment précises et complètes pour être totalement exploitables.

- « Réponse partielle » : regroupe les réponses fournissant des informations justes mais pas suffisamment précises ou complètes pour être considérées comme parfaites.

- « Réponse approximative » : correspond à des réponses qui ne sont pas fausses mais dont le résultat est bien trop vague et approximatif pour être exploitable.

- « Mauvaise réponse » : liste toutes les réponses fausses ou totalement hors-sujet.

- « Pas de réponse (mais indication) » : cible les absences de réponse pour lesquels les outils ont tenté de fournir une explication ou une alternative.

- « Aucune réponse » : regroupe les retours de LLM sans indication, les absences de réponses mais aussi les éventuels bogues.

Prenons un exemple pour clarifier cette échelle de validation. Lorsque nous posons la question contextualisée « Dans quelle ville s'est tenue la bataille de 1356 ? », nous considérons que « Nouaillé-Maupertuis », « Nouaillé » ou « Maupertuis » sont de bonnes réponses, « près de Poitiers » est partiellement juste, « en Nouvelle-Aquitaine » et « dans l'ouest de la France » sont trop vagues et « Châtellerault » est erroné. Cette approche permet ainsi de vérifier l'exhaustivité des réponses. En outre, selon ce que l'on souhaite obtenir *a minima* comme niveau de réponses, nous pouvons regrouper des sous-types de validation. Par exemple, seules les bonnes réponses semblent parfaitement exploitables si nous souhaitons créer un outil pour des historiens, tandis
que les réponses partielles voire approximatives peuvent suffire si nous attendons uniquement quelques indications sur un sujet précis. Dans nos travaux, nous avons opté pour le premier cas avec un taux de précision focalisé uniquement sur les bonnes réponses.

Outre l'évaluation de la qualité des réponses générées, nous avons pris en considération celles retournées dans une autre langue que le français. En effet, qu'une réponse soit correcte ou partiellement correcte est positif, mais si cette dernière est en anglais, elle peut devenir plus difficilement exploitable, notamment lorsque le LLM ciblé répond aléatoirement en français ou en anglais. Rappelons que nos objectifs sont à la fois de vérifier le niveau de connaissances historiques des LLM et par ailleurs de savoir s'il serait possible d'exploiter les données retournées. Bien que le fond des réponses possède une valeur majeure pour les historiens, la forme revêt également une importance capitale si nous envisageons l'usage des données obtenues. Cette analyse ne remet donc pas en cause la qualité de certains outils dans leur connaissance en histoire, mais plutôt leur fiabilité à répondre dans une langue donnée (seulement 84,33 % des réponses ont été obtenues en français). Aussi, les LLM arrivent parfois à répondre correctement à la question mais se perdent souvent dans de longues tirades, au point d'insérer malencontreusement une réponse contradictoire voire fausse. Dans de tels cas, seule l'analyse humaine peut permettre de trancher entre les différentes catégories d'évaluation, classant ainsi ce qui aurait été une bonne réponse dans une autre catégorie, selon la gravité des anomalies générées par les modèles de langage.

# 5 Résultats de l'expérience

## 5.1 Analyse

L'évaluation humaine nous a permis de mesurer la justesse des réponses obtenues sur l'ensemble des questions posées, à la fois par thématique mais aussi de façon générale. Notre banc d'essai obtient ainsi une précision moyenne de seulement 33,60 % si l'on se focalise uniquement sur les bonnes réponses, avec respectivement quatre LLM dominants dont la précision atteint au mieux 54,29 % pour GPT-4 et au pire 45,90 % pour Bard (Tableau 3). Ces résultats sont plus nuancés si l'on considère que les réponses partielles ont un intérêt, avec un taux de précision global de 52,67 % et le même quatuor dominant, cette fois-ci avec TextCortex AI en tête et ses 72,39 % de réponses acceptables. Par ailleurs, les résultats fluctuent beaucoup pour une même question ou une nouvelle génération de réponses. En effet, nous avons testé huit requêtes par LLM (quatre déclinaisons générées deux fois) pour chaque question afin d'obtenir une certaine homogénéité dans la précision des réponses. Malheureusement, obtenir une bonne réponse n'est en rien l'assurance d'une précision équivalente d'autres variantes d'une même question, et ce phénomène se produit très régulièrement. En outre, la taille des corpus d'entraînement et le nombre de paramètres d'un LLM ne sont pas nécessairement un gage de réussite, comme le montrent les différences sensibles de précision entre les meneurs GPT-4, TextCortex AI, GPT-3.5 et Bard dont les caractéristiques sont pourtant très variables à l'origine (Tableau 2). Par conséquent, notre analyse globale indique que même les meilleurs LLM ne garantissent pas des résultats convenables et exploitables pour des questions d'histoire.

Notre méthodologie ouvre aussi plusieurs niveaux de lecture pour ces résultats. D'abord, il est à noter que l'incidence du type de requêtes, en langue naturelle ou en mots clés, est dérisoire au niveau de la qualité des réponses. Il en va de même pour le choix des thématiques
que les réponses partielles voire approximatives peuvent suffire si nous attendons uniquement quelques indications sur un sujet précis. Dans nos travaux, nous avons opté pour le premier cas avec un taux de précision focalisé uniquement sur les bonnes réponses.

Outre l'évaluation de la qualité des réponses générées, nous avons pris en considération celles retournées dans une autre langue que le français. En effet, qu'une réponse soit correcte ou partiellement correcte est positif, mais si cette dernière est en anglais, elle peut devenir plus difficilement exploitable, notamment lorsque le LLM ciblé répond aléatoirement en français ou en anglais. Rappelons que nos objectifs sont à la fois de vérifier le niveau de connaissances historiques des LLM et par ailleurs de savoir s'il serait possible d'exploiter les données retournées. Bien que le fond des réponses possède une valeur majeure pour les historiens, la forme revêt également une importance capitale si nous envisageons l'usage des données obtenues. Cette analyse ne remet donc pas en cause la qualité de certains outils dans leur connaissance en histoire, mais plutôt leur fiabilité à répondre dans une langue donnée (seulement 84,33 % des réponses ont été obtenues en français). Aussi, les LLM arrivent parfois à répondre correctement à la question mais se perdent souvent dans de longues tirades, au point d'insérer malencontreusement une réponse contradictoire voire fausse. Dans de tels cas, seule l'analyse humaine peut permettre de trancher entre les différentes catégories d'évaluation, classant ainsi ce qui aurait été une bonne réponse dans une autre catégorie, selon la gravité des anomalies générées par les modèles de langage.

# 5 Résultats de l'expérience

## 5.1 Analyse

L'évaluation humaine nous a permis de mesurer la justesse des réponses obtenues sur l'ensemble des questions posées, à la fois par thématique mais aussi de façon générale. Notre banc d'essai obtient ainsi une précision moyenne de seulement 33,60 % si l'on se focalise uniquement sur les bonnes réponses, avec respectivement quatre LLM dominants dont la précision atteint au mieux 54,29 % pour GPT-4 et au pire 45,90 % pour Bard (Tableau 3). Ces résultats sont plus nuancés si l'on considère que les réponses partielles ont un intérêt, avec un taux de précision global de 52,67 % et le même quatuor dominant, cette fois-ci avec TextCortex AI en tête et ses 72,39 % de réponses acceptables. Par ailleurs, les résultats fluctuent beaucoup pour une même question ou une nouvelle génération de réponses. En effet, nous avons testé huit requêtes par LLM (quatre déclinaisons générées deux fois) pour chaque question afin d'obtenir une certaine homogénéité dans la précision des réponses. Malheureusement, obtenir une bonne réponse n'est en rien l'assurance d'une précision équivalente d'autres variantes d'une même question, et ce phénomène se produit très régulièrement. En outre, la taille des corpus d'entraînement et le nombre de paramètres d'un LLM ne sont pas nécessairement un gage de réussite, comme le montrent les différences sensibles de précision entre les meneurs GPT-4, TextCortex AI, GPT-3.5 et Bard dont les caractéristiques sont pourtant très variables à l'origine (Tableau 2). Par conséquent, notre analyse globale indique que même les meilleurs LLM ne garantissent pas des résultats convenables et exploitables pour des questions d'histoire.

Notre méthodologie ouvre aussi plusieurs niveaux de lecture pour ces résultats. D'abord, il est à noter que l'incidence du type de requêtes, en langue naturelle ou en mots clés, est dérisoire au niveau de la qualité des réponses. Il en va de même pour le choix des thématiques
## Évaluation de LLM pour les historiens

<table><caption>TABLEAU 3 – Résultats obtenus et précision des réponses générées par les LLM.</caption><thead><tr><th></th><th>Bonnes réponses</th><th>Autres réponses</th><th>Précision</th></tr></thead><tbody><tr><td>ChatGPT (GPT-4)</td><td>291</td><td>245</td><td>54,29%</td></tr><tr><td>ChatGPT (GPT-3.5-Turbo)</td><td>276</td><td>260</td><td>51,49%</td></tr><tr><td>Google Bard</td><td>246</td><td>290</td><td>45,90%</td></tr><tr><td>TextCortex AI</td><td>277</td><td>259</td><td>51,58%</td></tr><tr><td>Guanaco</td><td>183</td><td>353</td><td>34,14%</td></tr><tr><td>Vicuna</td><td>197</td><td>339</td><td>36,75%</td></tr><tr><td>GPT4All</td><td>95</td><td>441</td><td>17,72%</td></tr><tr><td>Koala</td><td>120</td><td>416</td><td>22,39%</td></tr><tr><td>Vigogne</td><td>94</td><td>442</td><td>17,54%</td></tr><tr><td>Falcon</td><td>22</td><td>514</td><td>4,10%</td></tr><tr><td>Totaux</td><td>1801</td><td>3559</td><td>Moyenne 33,60%</td></tr></tbody></table>

qui entraîne peu de confusions, alors que nous avions volontairement construit des questionnements ambigus autour des batailles de Poitiers, des guerres de religion ou des sièges de La Rochelle, multiples dans l'histoire. En revanche, notre banc d'essai démontre que le niveau de profondeur d'un thème historique peut nettement influencer la qualité des réponses. Par exemple, nos questions portant sur l'artisanat en Poitou durant l'époque moderne n'obtiennent que 18,17 % de précision, tandis que nos interrogations sur des sujets moins éIVOIQUES DÉ-CROCHENT *a minima* le double de bonnes réponses (Tableau 4). Cela s'explique certainement par l'incapacité des LLM à compiler des informations complexes et à produire des réflexions au-tour d'un sujet nébuleux ou abstrait, alors qu'ils ont la faculté d'exploiter plus facilement des données précises à propos de thématiques mieux bornées et plus facilement intelligibles. Cette idée se confirme aussi car le type de questions posé influence assez nettement les résultats. En effet, les questions ouvertes entraînent 33,69 % de réponses approximatives ou partiellement justes auxquelles s'ajoutent environ 25 % de mauvaises réponses, principalement parce que les LLM ont la malencontreuse habitude de fabriquer de longues proses généralistes, sans se focaliser sur la spécificité des questions posées et sans mener une réflexion approfondie. De même, les questions quantitatives posent énormément de problèmes aux modèles de langage, avec seulement 17,42 % de bonnes réponses trouvées, tout comme les questions fermées dont la précision est famélique (8,63 %) lorsqu'elles attendent des listes de données en retour.

<table><caption>TABLEAU 4 – Résultats obtenus et précision des réponses générées par thématique historique.</caption><thead><tr><th>Thématiques</th><th>Bonnes réponses</th><th>Autres réponses</th><th>Précision</th></tr></thead><tbody><tr><td>Bataille de Poitiers (732)</td><td>376</td><td>664</td><td>36,15 %</td></tr><tr><td>Bataille de Poitiers (1356)</td><td>425</td><td>615</td><td>40,87 %</td></tr><tr><td>Troisième guerre de religion (1568-1570)</td><td>395</td><td>645</td><td>37,98 %</td></tr><tr><td>Siège de La Rochelle (1627-1628)</td><td>387</td><td>653</td><td>37,21 %</td></tr><tr><td>Artisanat à l'époque moderne</td><td>218</td><td>982</td><td>18,17 %</td></tr></tbody></table>

Notre travail s'intéresse aussi à l'extraction des données intéressantes au sein des réponses. Bien que la précision et l'exhaustivité des réponses restent la priorité de notre étude, la composition des réponses formulées revêt une importance capitale si nous souhaitons extraire des
## Évaluation de LLM pour les historiens

<table><caption>TABLEAU 3 – Résultats obtenus et précision des réponses générées par les LLM.</caption><thead><tr><th></th><th>Bonnes réponses</th><th>Autres réponses</th><th>Précision</th></tr></thead><tbody><tr><td>ChatGPT (GPT-4)</td><td>291</td><td>245</td><td>54,29%</td></tr><tr><td>ChatGPT (GPT-3.5-Turbo)</td><td>276</td><td>260</td><td>51,49%</td></tr><tr><td>Google Bard</td><td>246</td><td>290</td><td>45,90%</td></tr><tr><td>TextCortex AI</td><td>277</td><td>259</td><td>51,58%</td></tr><tr><td>Guanaco</td><td>183</td><td>353</td><td>34,14%</td></tr><tr><td>Vicuna</td><td>197</td><td>339</td><td>36,75%</td></tr><tr><td>GPT4All</td><td>95</td><td>441</td><td>17,72%</td></tr><tr><td>Koala</td><td>120</td><td>416</td><td>22,39%</td></tr><tr><td>Vigogne</td><td>94</td><td>442</td><td>17,54%</td></tr><tr><td>Falcon</td><td>22</td><td>514</td><td>4,10%</td></tr><tr><td>Totaux</td><td>1801</td><td>3559</td><td>Moyenne 33,60%</td></tr></tbody></table>

qui entraîne peu de confusions, alors que nous avions volontairement construit des questionnements ambigus autour des batailles de Poitiers, des guerres de religion ou des sièges de La Rochelle, multiples dans l'histoire. En revanche, notre banc d'essai démontre que le niveau de profondeur d'un thème historique peut nettement influencer la qualité des réponses. Par exemple, nos questions portant sur l'artisanat en Poitou durant l'époque moderne n'obtiennent que 18,17 % de précision, tandis que nos interrogations sur des sujets moins éIVOIQUES DÉ-CROCHENT *a minima* le double de bonnes réponses (Tableau 4). Cela s'explique certainement par l'incapacité des LLM à compiler des informations complexes et à produire des réflexions au-tour d'un sujet nébuleux ou abstrait, alors qu'ils ont la faculté d'exploiter plus facilement des données précises à propos de thématiques mieux bornées et plus facilement intelligibles. Cette idée se confirme aussi car le type de questions posé influence assez nettement les résultats. En effet, les questions ouvertes entraînent 33,69 % de réponses approximatives ou partiellement justes auxquelles s'ajoutent environ 25 % de mauvaises réponses, principalement parce que les LLM ont la malencontreuse habitude de fabriquer de longues proses généralistes, sans se focaliser sur la spécificité des questions posées et sans mener une réflexion approfondie. De même, les questions quantitatives posent énormément de problèmes aux modèles de langage, avec seulement 17,42 % de bonnes réponses trouvées, tout comme les questions fermées dont la précision est famélique (8,63 %) lorsqu'elles attendent des listes de données en retour.

<table><caption>TABLEAU 4 – Résultats obtenus et précision des réponses générées par thématique historique.</caption><thead><tr><th>Thématiques</th><th>Bonnes réponses</th><th>Autres réponses</th><th>Précision</th></tr></thead><tbody><tr><td>Bataille de Poitiers (732)</td><td>376</td><td>664</td><td>36,15 %</td></tr><tr><td>Bataille de Poitiers (1356)</td><td>425</td><td>615</td><td>40,87 %</td></tr><tr><td>Troisième guerre de religion (1568-1570)</td><td>395</td><td>645</td><td>37,98 %</td></tr><tr><td>Siège de La Rochelle (1627-1628)</td><td>387</td><td>653</td><td>37,21 %</td></tr><tr><td>Artisanat à l'époque moderne</td><td>218</td><td>982</td><td>18,17 %</td></tr></tbody></table>

Notre travail s'intéresse aussi à l'extraction des données intéressantes au sein des réponses. Bien que la précision et l'exhaustivité des réponses restent la priorité de notre étude, la composition des réponses formulées revêt une importance capitale si nous souhaitons extraire des
informations historiques essentielles. Or, trois principaux problèmes se posent pour mener pleinement cette tâche sans accroc. D'une part, certains LLM comme Falcon ou GPT4All présentent quelques anomalies, nécessitant parfois plusieurs tentatives de génération avant d'obtenir une réponse. Malgré ces efforts, 1,03 % des requêtes n'ont pas obtenu de réponses, et ce manque de fiabilité s'élève à 5,15 % si nous ajoutons les retours uniquement indicatifs, qui ne répondent donc pas aux questions initiales. D'autre part, Koala et GPT4All répondent régulièrement en anglais, tandis que d'autres LLM restituent parfois des réponses dans une autre langue (anglais, allemand, espagnol) ou en franglais, quand bien même il leur est précisé de répondre exclusivement en français. Enfin, la tendance des modèles de langage à générer des réponses verbeuses ou à halluciner ne permet pas toujours d'extraire uniquement les données majeures et justes du propos. Pis encore, certains modèles ne comprennent parfois absolument pas une question et répondent de manière totalement délirante, comme c'est le cas pour la question quantitative « Combien de batailles ont eu lieu au cours des guerres de Rohan ? » portant sur les rébellions huguenotes (1621-1629) pour laquelle tous les LLM sauf Bard ont évoqué la « Terre du milieu » de la saga *Le seigneur des Anneaux* de J.R.R. Tolkien. En définitive, si l'on cumule ces problèmes de forme aux faibles taux de précision des divers LLM testés, il nous semble impossible en l'état de pouvoir tirer profit, même partiellement, des réponses à des questions d'histoire.

## 5.2 Limitations

Nos résultats sont concluants à partir de notre batterie de test mais il demeure malgré tout quelques limites que nous devons prendre en considération :

1. Excepté Bard ou ChatGPT, les modèles utilisés ne sont pas nécessairement les plus importants et puissants du marché, avec pour conséquence de potentielles différences de résultats pour certaines questions d'histoire. Plusieurs contraintes techniques et matérielles ne nous ont pas toujours permis d'utiliser des modèles dépassant les 13 milliards de paramètres<fnref n="5" />. On peut toutefois relativiser notre propos car des modèles restreints comme TextCortex, Vicuna ou Guacano s'en sont très bien sortis dans notre étude. À l'avenir, il serait toutefois intéressant de compléter cette étude avec d'autres LLM importants comme Claude, PanGu-Σ ou Mistral-7b, ou même Ernie, YaLM, Command ou MPT si ces derniers s'adaptent à notre langue.

2. Il eut été intéressant de tester d'autres sujets historiques et questions afin d'offrir davantage de portée et de variété à notre analyse, et de confirmer ou nuancer nos résultats.

3. Plusieurs études démontrent qu'ajouter une chaine de pensée dans l' invite (prompt) comme « Let's think step by step » aide les modèles à fournir naturellement de meilleures réponses avec des raisonnements et étapes intermédiaires (Wei et al. (2023); Kojima et al. (2022)). Nous avons privilégié la méthode zero-shot qui consiste à poser des questions brutes comme dans n'importe quel outil de recherche. Or, peut-être que l'usage de chaînes de pensée pourrait faciliter la tâche des LLM pour certaines questions.

4. Nos résultats ont été obtenus uniquement par une analyse manuelle et humaine tant certaines questions d'histoire font appel à des notions implicites, complexes et détaillées.

<footnote n="5">5. À titre d'exemple, nous n'avons pas pu utiliser le modèle Cédille entraîné spécifiquement sur du français avec 6 milliards de paramètres car il demandait trop de ressources (https://arxiv.org/abs/2202.03371).</footnote>
informations historiques essentielles. Or, trois principaux problèmes se posent pour mener pleinement cette tâche sans accroc. D'une part, certains LLM comme Falcon ou GPT4All présentent quelques anomalies, nécessitant parfois plusieurs tentatives de génération avant d'obtenir une réponse. Malgré ces efforts, 1,03 % des requêtes n'ont pas obtenu de réponses, et ce manque de fiabilité s'élève à 5,15 % si nous ajoutons les retours uniquement indicatifs, qui ne répondent donc pas aux questions initiales. D'autre part, Koala et GPT4All répondent régulièrement en anglais, tandis que d'autres LLM restituent parfois des réponses dans une autre langue (anglais, allemand, espagnol) ou en franglais, quand bien même il leur est précisé de répondre exclusivement en français. Enfin, la tendance des modèles de langage à générer des réponses verbeuses ou à halluciner ne permet pas toujours d'extraire uniquement les données majeures et justes du propos. Pis encore, certains modèles ne comprennent parfois absolument pas une question et répondent de manière totalement délirante, comme c'est le cas pour la question quantitative « Combien de batailles ont eu lieu au cours des guerres de Rohan ? » portant sur les rébellions huguenotes (1621-1629) pour laquelle tous les LLM sauf Bard ont évoqué la « Terre du milieu » de la saga *Le seigneur des Anneaux* de J.R.R. Tolkien. En définitive, si l'on cumule ces problèmes de forme aux faibles taux de précision des divers LLM testés, il nous semble impossible en l'état de pouvoir tirer profit, même partiellement, des réponses à des questions d'histoire.

## 5.2 Limitations

Nos résultats sont concluants à partir de notre batterie de test mais il demeure malgré tout quelques limites que nous devons prendre en considération :

1. Excepté Bard ou ChatGPT, les modèles utilisés ne sont pas nécessairement les plus importants et puissants du marché, avec pour conséquence de potentielles différences de résultats pour certaines questions d'histoire. Plusieurs contraintes techniques et matérielles ne nous ont pas toujours permis d'utiliser des modèles dépassant les 13 milliards de paramètres<fnref n="5" />. On peut toutefois relativiser notre propos car des modèles restreints comme TextCortex, Vicuna ou Guacano s'en sont très bien sortis dans notre étude. À l'avenir, il serait toutefois intéressant de compléter cette étude avec d'autres LLM importants comme Claude, PanGu-Σ ou Mistral-7b, ou même Ernie, YaLM, Command ou MPT si ces derniers s'adaptent à notre langue.

2. Il eut été intéressant de tester d'autres sujets historiques et questions afin d'offrir davantage de portée et de variété à notre analyse, et de confirmer ou nuancer nos résultats.

3. Plusieurs études démontrent qu'ajouter une chaine de pensée dans l' invite (prompt) comme « Let's think step by step » aide les modèles à fournir naturellement de meilleures réponses avec des raisonnements et étapes intermédiaires (Wei et al. (2023); Kojima et al. (2022)). Nous avons privilégié la méthode zero-shot qui consiste à poser des questions brutes comme dans n'importe quel outil de recherche. Or, peut-être que l'usage de chaînes de pensée pourrait faciliter la tâche des LLM pour certaines questions.

4. Nos résultats ont été obtenus uniquement par une analyse manuelle et humaine tant certaines questions d'histoire font appel à des notions implicites, complexes et détaillées.

<footnote n="5">5. À titre d'exemple, nous n'avons pas pu utiliser le modèle Cédille entraîné spécifiquement sur du français avec 6 milliards de paramètres car il demandait trop de ressources (https://arxiv.org/abs/2202.03371).</footnote>
L'évaluation par des experts appelle toutefois à la vigilance car les résultats peuvent être quelque peu affectés par l'introduction de biais ou de différences d'interprétation et de notation des réponses. De ce fait, si cela semble être une solution convenable pour des questions ouvertes, une méthode automatisée permettrait certainement de vérifier *a minima* les réponses fermées sans s'exposer aux risques précédemment évoqués.

5. Nous avons calculé uniquement la précision car nous estimions que l'exhaustivité se vérifiait essentiellement par les critères de notation (réponse partielle, approximative, etc.) et que la fiabilité reposait plutôt sur les possibilités d'exploitation des réponses. Cependant, une métrique de fiabilité pourrait par exemple mesurer également la capacité des LLM à produire des réponses avec le même niveau de qualité à chaque fois que l'on pose des questions similaires.

# 6 Conclusion

Notre méthode d'analyse manuelle a permis de vérifier des hypothèses concernant les capacités de dix LLM à comprendre et répondre à des questions d'histoire de types, thèmes et niveaux de difficulté différents. Nos résultats révèlent que les LLM n'offrent pas suffisamment de garantie et de constance dans les réponses produites. Certes, certains outils se montrent parfois plus efficaces sur certaines thématiques historiques mais globalement, le phénomène d'hallucination est régulièrement présent et surtout, les résultats pour des formulations différentes d'une même question sont trop changeants pour nous permettre de faire pleinement confiance aux réponses générées.

En outre, l'un des objectifs de notre analyse renvoyait à la possibilité d'exploiter les données restituées par les LLM. Les résultats produits ne sont pas toujours pleinement exploitables et ne nous permettent pas d'extraire aisément les éléments de réponse les plus pertinents. En effet, les modèles de langage manifestent une certaine incontinence verbale, à travers des phrases longues, alors que nous attendons plutôt des réponses concises et efficaces. Les données essentielles dont on souhaiterait tirer profit se retrouvent entremêlées avec des phrases à l'intérieur dérisoire. Sans une nette amélioration de la précision des réponses fournies, les LLM et leurs connaissances natives ne semblent pas permettre à ce stade un usage intensif et en toute confiance en faveur des historiens ou des humanistes numériques.

La technologie des LLM laisse toutefois entrevoir de belles promesses lorsque cette derrière est suffisamment entraînée sur un sujet. Nous pourrions donc envisager l'entraînement d'un LLM spécifique avec des sources historiques étayées et complètes. Cependant, une telle opération nécessiterait de limiter la multiplication des savoirs car notre étude a montré que l'abondance de connaissances d'un LLM entraîne généralement d'importantes confusions et incertitudes dans ses réponses. Cette piste sérieuse fournirait vraisemblablement de meilleurs résultats, sans justification et commentaire complémentaire inadaptés ou indésirables.

# Références

Anil, R., A. M. Dai, O. Firat, M. Johnson, D. Lepikhin, A. Passos, S. Shakeri, E. Taropa, P. Bailey, Z. Chen, et al. (2023). PaLM 2 Technical Report. arXiv e-prints abs/2305.10403.
## Évaluation de LLM pour les historiens

L'évaluation par des experts appelle toutefois à la vigilance car les résultats peuvent être quelque peu affectés par l'introduction de biais ou de différences d'interprétation et de notation des réponses. De ce fait, si cela semble être une solution convenable pour des questions ouvertes, une méthode automatisée permettrait certainement de vérifier *a minima* les réponses fermées sans s'exposer aux risques précédemment évoqués.

5. Nous avons calculé uniquement la précision car nous estimions que l'exhaustivité se vérifiait essentiellement par les critères de notation (réponse partielle, approximative, etc.) et que la fiabilité reposait plutôt sur les possibilités d'exploitation des réponses. Cependant, une métrique de fiabilité pourrait par exemple mesurer également la capacité des LLM à produire des réponses avec le même niveau de qualité à chaque fois que l'on pose des questions similaires.

# 6 Conclusion

Notre méthode d'analyse manuelle a permis de vérifier des hypothèses concernant les capacités de dix LLM à comprendre et répondre à des questions d'histoire de types, thèmes et niveaux de difficulté différents. Nos résultats révèlent que les LLM n'offrent pas suffisamment de garantie et de constance dans les réponses produites. Certes, certains outils se montrent parfois plus efficaces sur certaines thématiques historiques mais globalement, le phénomène d'hallucination est régulièrement présent et surtout, les résultats pour des formulations différentes d'une même question sont trop changeants pour nous permettre de faire pleinement confiance aux réponses générées.

En outre, l'un des objectifs de notre analyse renvoyait à la possibilité d'exploiter les données restituées par les LLM. Les résultats produits ne sont pas toujours pleinement exploitables et ne nous permettent pas d'extraire aisément les éléments de réponse les plus pertinents. En effet, les modèles de langage manifestent une certaine incontinence verbale, à travers des phrases longues, alors que nous attendons plutôt des réponses concises et efficaces. Les données essentielles dont on souhaiterait tirer profit se retrouvent entremêlées avec des phrases à l'intérieur dérisoire. Sans une nette amélioration de la précision des réponses fournies, les LLM et leurs connaissances natives ne semblent pas permettre à ce stade un usage intensif et en toute confiance en faveur des historiens ou des humanistes numériques.

La technologie des LLM laisse toutefois entrevoir de belles promesses lorsque cette derrière est suffisamment entraînée sur un sujet. Nous pourrions donc envisager l'entraînement d'un LLM spécifique avec des sources historiques étayées et complètes. Cependant, une telle opération nécessiterait de limiter la multiplication des savoirs car notre étude a montré que l'abondance de connaissances d'un LLM entraîne généralement d'importantes confusions et incertitudes dans ses réponses. Cette piste sérieuse fournirait vraisemblablement de meilleurs résultats, sans justification et commentaire complémentaire inadaptés ou indésirables.

## Références

Anil, R., A. M. Dai, O. Firat, M. Johnson, D. Lepikhin, A. Passos, S. Shakeri, E. Taropa, P. Bailey, Z. Chen, et al. (2023). PaLM 2 Technical Report. arXiv e-prints abs/2305.10403.
Austin, J., A. Odena, M. Nye, M. Bosma, H. Michalewski, D. Dohan, E. Jiang, C. Cai, M. Terry, Q. Le, et C. Sutton (2021). Program synthesis with large language models. CoRR abs/2108.07732.

Bowman, S. R. (2023). Eight things to know about large language models.

Béchet, F., E. Antoine, J. Auguste, et G. Damnati (2022). Question generation and answering for exploring digital humanities collections. In *13th Conference on Language Resources and Evaluation (LREC 2022)*, pp. 4561–4568. European Language Resources Association.

Chen, M., J. Tworek, H. Jun, Q. Yuan, H. P. d. O. Pinto, J. Kaplan, H. Edwards, Y. Burda, N. Joseph, G. Brockman, A. Ray, R. Puri, G. Krueger, M. Petrov, H. Khlaaf, et al. (2021). Evaluating large language models trained on code. *arXiv e-prints*, arXiv:2107.03374.

Frieder, S., L. Pinchetti, A. Chevalier, R.-R. Griffiths, T. Salvatori, T. Lukasiewicz, P. C. Petersen, et J. Berner (2023). Mathematical Capabilities of ChatGPT.

Goyal, T., J. J. Li, et G. Durrett (2023). News Summarization and Evaluation in the Era of GPT-3.

Guo, B., X. Zhang, Z. Wang, M. Jiang, J. Nie, Y. Ding, J. Yue, et Y. Wu (2023). How Close is ChatGPT to Human Experts? Comparison Corpus, Evaluation, and Detection.

Hendrycks, D., C. Burns, S. Kadavath, A. Arora, S. Basart, E. Tang, D. Song, et J. Steinhardt (2021). Measuring Mathematical Problem Solving With the MATH Dataset.

Huang, Y., Y. Bai, Z. Zhu, J. Zhang, J. Zhang, T. Su, J. Liu, C. Lv, Y. Zhang, J. Lei, Y. Fu, M. Sun, et J. He (2023). C-Eval: A Multi-Level Multi-Discipline Chinese Evaluation Suite for Foundation Models. In *Advances in Neural Information Processing Systems*.

Ji, Z., N. Lee, R. Frieske, T. Yu, D. Su, Y. Xu, E. Ishii, Y. Bang, W. Dai, A. Madotto, et P. Fung (2023). Survey of Hallucination in Natural Language Generation. *ACM Computing Surveys* 55(12), 1–38.

Kamalloo, E., N. Dziri, C. L. A. Clarke, et D. Rafiei (2023). Evaluating Open-Domain Question Answering in the Era of Large Language Models. In *Proceedings of the 61st Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)*, pp. 5591–5606. Association for Computational Linguistics.

Kojima, T., S. S. Gu, M. Reid, Y. Matsuo, et Y. Iwasawa (2022). Large language models are zero-shot reasoners. In *Advances in Neural Information Processing Systems*, Volume 35, pp. 22199–22213. Curran Associates, Inc.

Lewkowycz, A., A. Slone, A. Andreassen, D. Freeman, E. S. Dyer, G. Mishra, G. Gur-Ari, J. Lee, J. Sohl-dickstein, K. Chiafullo, L. B. Fedus, N. Fiedel, R. Liu, V. Misra, et V. V. Ramesh (2023). Beyond the imitation game: Quantifying and extrapolating the capabilities of language models. *Transactions on Machine Learning Research*.

Liang, P., R. Bommasani, et T. Lee (2023). Holistic evaluation of language models. *Annals of the New York Academy of Sciences* 1525(1), 140–146.

Lin, S., J. Hilton, et O. Evans (2022). TruthfulQA: Measuring How Models Mimic Human Falsehoods. In *Proceedings of the 60th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)*, Dublin, Ireland, pp. 3214–3252. Association for Computational Linguistics.
Austin, J., A. Odena, M. Nye, M. Bosma, H. Michalewski, D. Dohan, E. Jiang, C. Cai, M. Terry, Q. Le, et C. Sutton (2021). Program synthesis with large language models. CoRR abs/2108.07732.

Bowman, S. R. (2023). Eight things to know about large language models.

Béchet, F., E. Antoine, J. Auguste, et G. Damnati (2022). Question generation and answering for exploring digital humanities collections. In *13th Conference on Language Resources and Evaluation (LREC 2022)*, pp. 4561–4568. European Language Resources Association.

Chen, M., J. Tworek, H. Jun, Q. Yuan, H. P. d. O. Pinto, J. Kaplan, H. Edwards, Y. Burda, N. Joseph, G. Brockman, A. Ray, R. Puri, G. Krueger, M. Petrov, H. Khlaaf, et al. (2021). Evaluating large language models trained on code. *arXiv e-prints*, arXiv:2107.03374.

Frieder, S., L. Pinchetti, A. Chevalier, R.-R. Griffiths, T. Salvatori, T. Lukasiewicz, P. C. Petersen, et J. Berner (2023). Mathematical Capabilities of ChatGPT.

Goyal, T., J. J. Li, et G. Durrett (2023). News Summarization and Evaluation in the Era of GPT-3.

Guo, B., X. Zhang, Z. Wang, M. Jiang, J. Nie, Y. Ding, J. Yue, et Y. Wu (2023). How Close is ChatGPT to Human Experts? Comparison Corpus, Evaluation, and Detection.

Hendrycks, D., C. Burns, S. Kadavath, A. Arora, S. Basart, E. Tang, D. Song, et J. Steinhardt (2021). Measuring Mathematical Problem Solving With the MATH Dataset.

Huang, Y., Y. Bai, Z. Zhu, J. Zhang, J. Zhang, T. Su, J. Liu, C. Lv, Y. Zhang, J. Lei, Y. Fu, M. Sun, et J. He (2023). C-Eval: A Multi-Level Multi-Discipline Chinese Evaluation Suite for Foundation Models. In *Advances in Neural Information Processing Systems*.

Ji, Z., N. Lee, R. Frieske, T. Yu, D. Su, Y. Xu, E. Ishii, Y. Bang, W. Dai, A. Madotto, et P. Fung (2023). Survey of Hallucination in Natural Language Generation. *ACM Computing Surveys* 55(12), 1–38.

Kamalloo, E., N. Dziri, C. L. A. Clarke, et D. Rafiei (2023). Evaluating Open-Domain Question Answering in the Era of Large Language Models. In *Proceedings of the 61st Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)*, pp. 5591–5606. Association for Computational Linguistics.

Kojima, T., S. S. Gu, M. Reid, Y. Matsuo, et Y. Iwasawa (2022). Large language models are zero-shot reasoners. In *Advances in Neural Information Processing Systems*, Volume 35, pp. 22199–22213. Curran Associates, Inc.

Lewkowycz, A., A. Slone, A. Andreassen, D. Freeman, E. S. Dyer, G. Mishra, G. Gur-Ari, J. Lee, J. Sohl-dickstein, K. Chiafullo, L. B. Fedus, N. Fiedel, R. Liu, V. Misra, et V. V. Ramesh (2023). Beyond the imitation game: Quantifying and extrapolating the capabilities of language models. *Transactions on Machine Learning Research*.

Liang, P., R. Bommasani, et T. Lee (2023). Holistic evaluation of language models. *Annals of the New York Academy of Sciences* 1525(1), 140–146.

Lin, S., J. Hilton, et O. Evans (2022). TruthfulQA: Measuring How Models Mimic Human Falsehoods. In *Proceedings of the 60th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)*, Dublin, Ireland, pp. 3214–3252. Association for Computational Linguistics.
## Évaluation de LLM pour les historiens

Nunes, D., R. Primi, R. Pires, R. Lotufo, et R. Nogueira (2023). Evaluating GPT-3.5 and GPT-4 Models on Brazilian University Admission Exams.

OpenAI (2023). GPT-4 Technical Report.

Raffel, C., N. Shazeer, A. Roberts, K. Lee, S. Narang, M. Matena, Y. Zhou, W. Li, et P. J. Liu (2020). Exploring the limits of transfer learning with a unified text-to-text transformer. *The Journal of Machine Learning Research* 21.

Stelmakh, I., Y. Luan, B. Dhingra, et M.-W. Chang (2022). ASQA: Factoid Questions Meet Long-Form Answers. In *Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing*, pp. 8273–8288. Association for Computational Linguistics.

Suzgun, M., N. Scales, N. Schärli, S. Gehrmann, Y. Tay, H. W. Chung, A. Chowdhery, Q. V. Le, E. H. Chi, D. Zhou, et J. Wei (2023). Challenging BIG-bench tasks and whether chain-of-thought can solve them. In *Findings of the Association for Computational Linguistics: ACL 2023*, pp. 13003–13051. Association for Computational Linguistics.

Tan, Y., D. Min, Y. Li, W. Li, N. Hu, Y. Chen, et G. Qi (2023). Evaluation of ChatGPT as a Question Answering System for Answering Complex Questions.

Touvron, H., T. Lavril, G. Izacard, X. Martinet, M.-A. Lachaux, T. Lacroix, B. Rozière, N. Goyal, E. Hambro, F. Azhar, A. Rodriguez, A. Joulin, E. Grave, et G. Lample (2023). LLaMA: Open and Efficient Foundation Language Models.

Wang, C., S. Cheng, Q. Guo, Z. Xu, B. Ding, Y. Wang, X. Hu, Z. Zhang, et Y. Zhang (2023). Evaluating Open-QA Evaluation.

Wei, J., X. Wang, D. Schuurmans, M. Bosma, B. Ichter, F. Xia, E. Chi, Q. Le, et D. Zhou (2023). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models.

Yuan, Z., H. Yuan, C. Tan, W. Wang, et S. Huang (2023). How well do Large Language Models perform in Arithmetic tasks?

Zheng, S., J. Huang, et K. C.-C. Chang (2023). Why Does ChatGPT Fall Short in Providing Truthful Answers?

## Summary

Large Language Models (LLMs) like ChatGPT or Bard have revolutionized information retrieval and captivated the audience with their ability to generate custom responses in record time, regardless of the topic. In this article, we assess the capabilities of various LLMs in producing reliable, comprehensive, and sufficiently relevant responses about historical facts in French. To achieve this, we constructed a testbed comprising numerous history-related questions of varying types, themes, and levels of difficulty. Our evaluation of responses from ten selected LLMs reveals numerous shortcomings in both substance and form. Beyond an overall insufficient accuracy rate, we highlight uneven treatment of the French language, as well as issues related to verbosity and inconsistency in the responses provided by LLMs.
## Évaluation de LLM pour les historiens

Nunes, D., R. Primi, R. Pires, R. Lotufo, et R. Nogueira (2023). Evaluating GPT-3.5 and GPT-4 Models on Brazilian University Admission Exams.

OpenAI (2023). GPT-4 Technical Report.

Raffel, C., N. Shazeer, A. Roberts, K. Lee, S. Narang, M. Matena, Y. Zhou, W. Li, et P. J. Liu (2020). Exploring the limits of transfer learning with a unified text-to-text transformer. *The Journal of Machine Learning Research* 21.

Stelmakh, I., Y. Luan, B. Dhingra, et M.-W. Chang (2022). ASQA: Factoid Questions Meet Long-Form Answers. In *Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing*, pp. 8273–8288. Association for Computational Linguistics.

Suzgun, M., N. Scales, N. Schärli, S. Gehrmann, Y. Tay, H. W. Chung, A. Chowdhery, Q. V. Le, E. H. Chi, D. Zhou, et J. Wei (2023). Challenging BIG-bench tasks and whether chain-of-thought can solve them. In *Findings of the Association for Computational Linguistics: ACL 2023*, pp. 13003–13051. Association for Computational Linguistics.

Tan, Y., D. Min, Y. Li, W. Li, N. Hu, Y. Chen, et G. Qi (2023). Evaluation of ChatGPT as a Question Answering System for Answering Complex Questions.

Touvron, H., T. Lavril, G. Izacard, X. Martinet, M.-A. Lachaux, T. Lacroix, B. Rozière, N. Goyal, E. Hambro, F. Azhar, A. Rodriguez, A. Joulin, E. Grave, et G. Lample (2023). LLaMA: Open and Efficient Foundation Language Models.

Wang, C., S. Cheng, Q. Guo, Z. Xu, B. Ding, Y. Wang, X. Hu, Z. Zhang, et Y. Zhang (2023). Evaluating Open-QA Evaluation.

Wei, J., X. Wang, D. Schuurmans, M. Bosma, B. Ichter, F. Xia, E. Chi, Q. Le, et D. Zhou (2023). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models.

Yuan, Z., H. Yuan, C. Tan, W. Wang, et S. Huang (2023). How well do Large Language Models perform in Arithmetic tasks?

Zheng, S., J. Huang, et K. C.-C. Chang (2023). Why Does ChatGPT Fall Short in Providing Truthful Answers?

## Summary

Large Language Models (LLMs) like ChatGPT or Bard have revolutionized information retrieval and captivated the audience with their ability to generate custom responses in record time, regardless of the topic. In this article, we assess the capabilities of various LLMs in producing reliable, comprehensive, and sufficiently relevant responses about historical facts in French. To achieve this, we constructed a testbed comprising numerous history-related questions of varying types, themes, and levels of difficulty. Our evaluation of responses from ten selected LLMs reveals numerous shortcomings in both substance and form. Beyond an overall insufficient accuracy rate, we highlight uneven treatment of the French language, as well as issues related to verbosity and inconsistency in the responses provided by LLMs.