# Réflexions sur l'usage de l'IA générative pour les métiers de la recherche

Soraya Arias, Michel Bergmann, Fabien Campillo, Marie-Agnès Enard, Christian Fabre, Frédérick Garcia, Benjamin Guedj, Emmanuel Jeannot, Giovanni Neglia, Diane Peurichard, et al.

► To cite this version:

Soraya Arias, Michel Bergmann, Fabien Campillo, Marie-Agnès Enard, Christian Fabre, et al. Réflexions sur l'usage de l'IA générative pour les métiers de la recherche. Inria. 2025, pp.1-10. hal-05187992

HAL Id: hal-05187992

https://inria.hal.science/hal-05187992v1

Submitted on 26 Jul 2025

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
# Réflexions sur l'usage de l'IA générative pour les métiers de la recherche.

Préparé par le groupe de travail (GT) composé des membres de la Commission d'Évaluation (CE) suivants : Soraya Arias, Michel Bergmann, Fabien Campillo, Marie-Agnès Enard, Christian Fabre, Frédérick Garcia, Benjamin Guedj, Emmanuel Jeannot (rédacteur), Giovanni Neglia, Diane Peurichard, Daniel Racoceanu, Benoît Sagot (rédacteur) et Gaëlle Tworkowski

Document approuvé par la Commission d'Évaluation Inria le 09 juillet 2025

## Table des matières

<table><tr><td>1 Introduction</td><td>2</td></tr><tr><td>2 Problématiques et périmètre du GT</td><td>2</td></tr><tr><td>3 Usages et sensibilisation aux usages</td><td>3</td></tr><tr><td>4 L'IA générative comme assistant de nos métiers</td><td>3</td></tr><tr><td>4.1 Rédaction d'articles</td><td>4</td></tr><tr><td>4.2 Évaluation de la recherche</td><td>4</td></tr><tr><td>4.3 Réponse aux appels à projets</td><td>5</td></tr><tr><td>4.4 Autres usages</td><td>5</td></tr><tr><td>4.5 Déclaration des usages</td><td>6</td></tr><tr><td>5 Sur les détecteurs de textes générés par les IA génératives</td><td>6</td></tr><tr><td>6 Vers un LLM local/Inria/Souverain?</td><td>7</td></tr><tr><td>7 Interaction avec les étudiants et formation à l'usage des IA génératives</td><td>8</td></tr><tr><td>7.1 Dans les équipes</td><td>8</td></tr><tr><td>7.2 Enseignement</td><td>8</td></tr><tr><td>8 Utilisation des IA génératives pour la programmation</td><td>8</td></tr><tr><td>9 Questions éthiques</td><td>9</td></tr><tr><td>10 Conclusion</td><td>10</td></tr></table>
# 1 Introduction

Depuis novembre 2022, et la sortie publique de ChatGPT d'OpenAI, la question de l'impact de ce type d'outil sur toute une gamme de métiers n'a cessé de se poser. ChatGPT et les IA génératives bouleversent les rapports à la langue, en particulier à l'écrit, suscitant espoirs (par exemple de gain de productivité) et craintes (par exemple de pertes de compétences). Les métiers de la recherche entretiennent un rapport très étroit avec l'écrit : les chercheurs (mais aussi les personnels administratifs) passent une grande partie de leur temps à lire des documents (articles, rapports, dossier, mail), à en rédiger et parfois à les évaluer. Pour ces activités, l'apport de ChatGPT peut ainsi apparaître comme un gain potentiel aussi bien d'un point de vue quantitatif que qualitatif. De plus, dans un monde où la langue dominante est l'anglais, l'apport de ChatGPT permet de simplifier la diffusion de documents à l'aide de traductions automatiques. Enfin, l'IA générative n'est pas limitée à l'écrit et s'étend aussi à la génération de code ou d'image qui sont également centraux dans les métiers de la recherche en informatique. Ainsi, Inria n'est pas épargné par ces questionnements et ces bouleversements : des personnels des services ou des équipes font déjà usage de l'IA générative dans des tâches quotidiennes, ce qui soulève des questionnements éthiques, techniques et pratiques. La Commission d'Évaluation estime, de par son expertise de l'évaluation et sa couverture unique des thèmes et des métiers d'Inria, qu'elle joue pleinement son rôle en proposant un ensemble de réflexions, de guides et de recommandations sur l'usage responsable de l'IA générative dans les métiers de la recherche<fnref n="1" />.

# 2 Problématiques et périmètre du GT

Le présent groupe de travail s'intéresse aux IA génératives au sens où ce sont des outils qui, une fois entraînés, peuvent générer des données à partir d'un texte ou d'une ligne de commande (*prompt*). La plupart mettent en œuvre des architectures d'IA utilisant ou s'inspirant des « *Transformers* » tels que proposés par Google en 2017. Ces architectures et ces modèles diffèrent d'outils de traitement de la langue comme les traducteurs (Google Translate, Deepl) ou les correcteurs grammaticaux (Grammarly, Word) par leur capacité, après entraînement d'un grand modèle de langage (LLM, pour *Large Language Model*), à générer automatiquement du texte et d'autres données en fonction d'un contexte sémantique, en utilisant un agent conversationnel (chatbot). Plus précisément, cela recouvre plusieurs formes :

- des outils permettant de générer du texte (comme ChatGPT ou BERT),

- des outils permettant de générer des images (comme Dall-E, Midjourney ou Stable Diffusion),

- des outils permettant de générer du code informatique (comme Codex ou Copilot),

- mais aussi des outils permettant de générer d'autres modalités (son e.g. ChatGPT version audio ou vidéo e.g. Sora).

Ces outils sont déjà adoptés par de nombreuses personnes du monde de la recherche. En effet, l'accès à ceux-ci s'est grandement démocratisé ces dernières années [2] et est aujourd'hui très simple. Il est d'ores et déjà illusoire de vouloir interdire leur utilisation. Cependant, comme l'usage peut poser différents types de problèmes, le présent GT se propose d'offrir un cadre de réflexion sur l'utilisation des IA génératives. Les questions et les éléments de réponses apportées par ce document sont donc multiples.

- Comment accompagner la démocratisation de tels outils ?

<footnote n="1">1. À l'instar de ce qui a été proposé au niveau de l'Union européenne [1]</footnote>
— Quels usages sont possibles et parmi ceux-là, lesquels sont acceptables ?

— Quels consignes et conseils pour ces usages ?

— Quelles responsabilités des utilisateurs ?

— Comment comprendre les limites et les biais de ces outils ?

Ce rapport apporte des éléments de réflexion et de réponses à ces questions, en les abordant sous différents angles en lien avec les métiers d'Inria, pour les équipes de recherche comme pour les services.

## 3 Usages et sensibilisation aux usages

Les agents conversationnels, de par leur interface et leur architecture, permettent des usages extrêmement variés.

— Ce sont de très bons outils pour la correction grammaticale et orthographique. La prise en compte du contexte leur permet très souvent de surpasser les outils classiques (correcteurs de MS-Word, Gramarly, etc.).

— Les architectures des LLM leur permettent de générer facilement du texte dans différentes langues et en particulier de corriger, de résumer ou de traduire des textes dans une langue qui n'est pas forcément totalement maîtrisée par l'utilisateur. Ici aussi la prise en compte du contexte fait que de tels outils surpassent ce qui était possible avec des modèles de traduction classiques (l'utilisation de ChatGPT permet par exemple de traduire les commentaires d'un programme sans changer le code, traduire uniquement le contenu d'un texte rédigé en LATEX sans altérer les balises, etc.).

— Les agents conversationnels sont capables d'améliorer les tournures de phrases d'un texte (pour changer le style, pour augmenter sa clarté, mieux structurer l'argumentation, etc.).

— Les agents conversationnels sont aussi capables de générer du texte ou du code à partir de questions ou d'extraire de l'information à partir de texte. Ces générations de texte sont contextualisées (e.g. elles prennent en compte les différentes entrées et sorties précédentes).

À ce stade, il est important de noter plusieurs choses :

1. Les agents conversationnels fournissent (presque) toujours une réponse. Néanmoins, la fiabilité de celle-ci n'est pas garantie et dépend de nombreux facteurs. L'utilisateur doit, d'une manière ou d'une autre, veiller à la qualité des résultats fournis par ces outils et, en tout état de cause, il reste responsable de l'utilisation qu'il en fait.

2. Malgré les efforts des concepteurs de ces outils, les réponses ne sont pas totalement exemptes de biais (de genre, politique, etc.). Là encore, il est de la responsabilité des utilisateurs de veiller à valider les résultats et à corriger ces biais.

3. Les politiques de confidentialité des agents conversationnels peuvent être très variables et il n'est pas exclu que les données saisies dans le *prompt* soient stockées pour être utilisées à d'autres fins que la génération des réponses. Il est donc important de veiller à ce que les données saisies ne revêtent pas un caractère confidentiel ou ne contiennent pas de données personnelles.

## 4 L'IA générative comme assistant de nos métiers

Nous listons ici quelques usages des IA génératives de textes pour les métiers de la recherche en présentant leurs apports, leurs impacts et les problématiques qui sont liées.
## 4.1 Rédaction d'articles

Un usage très répandu est l'utilisation des outils conversationnels comme aide à la rédaction d'article. Cela peut prendre plusieurs formes : correction grammaticale et orthographique, traduction, amélioration du style, rédaction de paragraphes complets à partir d'un plan, etc. Ce sujet est très bien identifié par les éditeurs de journaux et les responsables de comité de programme des conférences et un grand nombre d'entre eux mettent en place une politique déclarative de ces types d'usages lors de la soumission des articles scientifiques au nom de la transparence de la production de la recherche (avec des réponses différentes sur la question de savoir si les relecteurs doivent être mis au courant d'un tel usage). Il est à noter qu'un certain nombre d'éditeurs interdisent l'utilisation de tels outils dans ce cadre. Dans tous les cas, nous recommandons que les chercheurs se conforment aux politiques éditoriales des journaux et conférences auxquels ils soumettent. Nous rappelons que les auteurs restent responsables de l'usage des IA génératives et des contenus qu'ils soumettent. En tout état de cause une IA générative ne peut pas être considérée comme un auteur ou un co-auteur d'un article car elle ne répond pas au critère de responsabilité des contenus qui sont soumis et que la nature de la production scientifique comme la créativité et l'élaboration d'une pensée critique sont des tâches intrinsèquement humaines. Ceci dit, comme les IA génératives permettent des gains quantitatifs et qualitatifs substantiels, il faut s'attendre à une inflation du nombre d'articles soumis dans les journaux et les conférences. On observe déjà une tendance dans certains domaines (e.g. machine learning, HPC) [3] mais il faudra des études affinées pour confirmer si cette inflation est due (en partie ou totalement) à l'usage des LLM. En tout état de cause, il semble utile que les différentes communautés de recherche se penchent collectivement sur le sujet et sur les impacts potentiels que cela aura sur la manière de produire et de relire des articles.

**Recommandation 1**

Les utilisateurs de l'IA générative doivent se considérer et être tenus comme responsables de l'utilisation qu'ils en font et des contenus qu'ils produisent et diffusent. Ils restent les auteurs exclusifs des contenus qu'ils produisent et diffusent, y compris lorsque l'IA générative a été impliquée dans leur production. Ils doivent par exemple s'assurer que les contenus qu'ils diffusent ne sont pas constitutifs de plagiat.

## 4.2 Évaluation de la recherche

Un autre usage envisageable concerne l'évaluation de la production scientifique (relecture d'article), de projet ou de dossier de chercheur (lors de demandes de promotion, prime ou concours). L'évaluation est une procédure qui nécessite une mise en contexte qui va au-delà du texte soumis et qui nécessite une approche confrontant différents points de vue. De plus, les informations soumises dans un article, un projet ou un dossier contiennent souvent des informations sensibles (e.g. confidentielles, personnelles). Celles-ci sont transmises en confiance par leurs auteurs avec la certitude que ces idées et ces informations ne seront pas divulguées au-delà du cercle des évaluateurs. Cette confidentialité est rompue si une telle évaluation se fait à l'aide de LLM non ouverts, comme ChatGPT. De plus, l'usage de LLM par des personnes en début de carrière pourrait nuire au développement des compétences pour écrire des reviews et des avis justes et équilibrés. Ainsi, pour toutes ces raisons, la CE émet une opposition à l'usage substantiel (qui va au-delà de la mise en forme des textes une fois rédigés) de tels outils dans le cadre de l'évaluation de la recherche et des chercheurs. Il faut cependant ajouter que des éditeurs (e.g. Springer Nature) et des outils de soumissions d'articles
travaillent à l'élaboration d'outils d'aide à la relecture d'articles (comme cela existe déjà pour la détection de plagiat), mais avec une approche sémantique. Ceci ne rentre pas en contradiction avec la précédente recommandation (cf. 4.1) tant que de tels outils restent une aide (et ne sont pas utilisés pour prendre la décision finale) et que les auteurs ont donné leur accord. Nous pensons que les différentes communautés devront garder un œil critique sur ces évolutions.

### Recommandation 2

Sachant que l'évaluation reste une tâche complexe impliquant des visions contradictoires, la CE recommande l'interdiction de l'utilisation de LLM lors, par exemple, des étapes d'évaluations des dossiers de candidatures et de relectures des articles.

### Recommandation 3

En l'absence de LLM souverain, la CE recommande que chacun soit extrêmement vigilant à ne pas transmettre, par l'intermédiaire des prompts des agents conversationnels, des données confidentielles (ou à caractère personnel). Cette recommandation concerne tous les personnels (chercheurs, administratifs).

## 4.3 Réponse aux appels à projets

La rédaction d'appels à projets est une tâche qui consomme beaucoup de temps avec un taux de succès très variable. Empiriquement on note un biais dans les taux de succès en faveur des anglophones natifs. Or, un projet devrait d'abord être jugé sur sa pertinence, les idées proposées et l'originalité de l'approche et non pas sur la qualité de la langue ou de la rédaction. Même si le style peut parfois être considéré comme stéréotypé, nous pensons que l'usage des LLM pour contrer le biais de langue doit être envisagé sérieusement, notamment pour faciliter la traduction depuis le français ou l'amélioration de la qualité linguistique d'un texte écrit en anglais [4]. En effet, comme dans le cas de la rédaction d'article, son usage pourrait rendre ce type de soumission plus équitable. Dans ce contexte, un usage raisonnable des LLM, concentré sur l'amélioration de contenu et non sur la génération de contenu, nous semble acceptable. C'est d'autant plus le cas si l'on dispose à terme d'un LLM souverain dédié au monde de la recherche, ce qui permettrait de surmonter les enjeux liés à la confidentialité de tels contenus.

## 4.4 Autres usages

Parmi les autres usages possibles le GT souhaite insister sur certains cas particuliers :

- Rédaction de mails et de courriers. Dans notre environnement, les personnels administratifs ou de recherche passent une partie non négligeable de leur temps à rédiger et à lire des emails. Dans ce contexte, l'IA générative peut s'avérer être un outil utile pour la mise en forme et la correction des emails. Il existe déjà des outils intégrés à des clients de messagerie (comme Copilot for Outlook) et l'on peut s'attendre à une généralisation de ces derniers<fnref n="2" />.

- Rédaction de rapports ou de comptes-rendus. L'ESR, comme d'autres administrations, est friand de productions rédactionnelles. En raison de la prévalence de l'écrit dans les domaines de la recherche, les scientifiques et les personnels administratifs de l'institut passent une partie très importante de leur temps à rédiger des documents, notes, comptes-rendus, argumentaires

<footnote n="2">2. Il est à noter que de tels usages pourront bénéficier utilement des biais de civilité des IA génératives.</footnote>
et autres rapports. La rédaction est, dans certains cas, perçue comme fastidieuse, complexe et
chronophage pour une finalité ou un bénéfice parfois faible. Ainsi, dans certains cas, l'usage
des LLM devrait permettre de fournir une aide précieuse et de gagner en productivité. Une
réflexion au sein des différentes communautés et métiers devra être menée sur ce sujet.

— L'IA générative, de par sa capacité à répondre à des questions sur des sujets parfois très pointus peut être un outil utile pour aborder un nouveau sujet. Dans certains cas, elle peut s'avérer une aide précieuse pour pointer sur des résultats classiques d'un domaine que l'on commence à défricher, bien qu'il fasse faire extrêmement attention aux affirmations produites par ces outils s'agissant de résulats plus récents ou plus confidentiels : ils sont fréquemment sujets à des « hallucinations », c'est-à-dire à la production de contenus statistiquement plausibles mais factuellement inexacts.

— L'IA générative est aussi capable d'analyser des données pour les dégrossir et commencer à les analyser. Ici, en accord avec la recommandation 3 (cf. 4.2), nous appelons à la plus grande vigilance quand aux données transmises lors de telles analyses : rien ne garantit que la confidentialité des données soit préservée.

— Autres modalités. Aujourd'hui de nombreux outils permettent de générer d'autres modalités que le texte (image, vidéo, parole). Si ces usages relèvent d'un ensemble de problématiques similaires à la génération de texte quant à leur usage dans un contexte professionnel, on trouve cependant quelques différences : par exemple, l'usage d'outils générant des images permet d'obtenir des illustrations sans enfreindre les règles du droit d'auteur, à condition toutefois que les modèles n'aient pas été entraînés sur des images dont l'usage à cette fin n'était pas autorisé.

## 4.5 Déclaration des usages

La transparence de l'utilisation de l'IA générative est clé pour maintenir la confiance entre les rédacteurs de textes et leurs lecteurs. Compte tenu de la variété des usages, il ne peut y avoir une manière binaire de les déclarer. Une réflexion globale sur ce sujet doit être menée au niveau de l'institut.

### Recommandation 4

Par souci de transparence, l'utilisation de l'IA générative pour certaines tâches (génération de texte, traduction, image) doit être déclarée. Pour cela un guide précis doit être élaboré conjointement au sein d'Inria (avec le comité d'éthique, la DAJ, la DGDS, la CE, etc.) portant sur :

— la frontière entre ce qui doit être déclaré et les cas où ce n'est pas nécessaire et,

— la façon de décrire cette utilisation.

# 5 Sur les détecteurs de textes générés par les IA génératives

La question de détecter automatiquement les textes générés par une IA générative est liée au fait que malgré sa stochasticité, le style de ces outils est très stéréotypé (voir l'article sur l'augmentation de l'utilisation d'adjectifs dans les reviews de ICLR [5], [6]). et pourrait être utilisé pour tracer et vérifier les usages légitimes de ces outils et ce même si l'utilisation des LLM pour la génération de texte ne constitue pas en soi une violation des droits d'auteurs : « le fait de s'approprier le
contenu d'une IAG n'est pas à lui seul une altération frauduleuse de la vérité. » [7]. Inria pourrait évaluer les performances actuelles et estimer les possibles performances futures de tels outils, puis l'opportunité de développer et de mettre à la disposition de la communauté un outil dédié.

# 6 Vers un LLM local/Inria/Souverain ?

Les IA génératives étant des services fournis et opérés par des entités privées et souvent non euro-péennes, la gestion et l'usage des données utilisées pour les requêtes (l'inférence) reste soumise à un certain flou. Pour ces raisons, plusieurs instituts internationaux en science du numérique ont mis en place des projets qui visent à développer et mettre en œuvre des LLM souverains dédiés aux métiers de la recherche (par exemple AuroraGPT aux USA et son équivalent du Riken au Japon). L'objectif est d'entraîner des modèles de très grande taille (de l'ordre de 10¹² paramètres) sur des données scientifiques pour développer des assistants aux métiers de la recherche. Nous pensons qu'Inria devrait porter un projet similaire en s'alliant avec d'autres acteurs de l'ESR. Pour mener à bien un tel projet, de nombreuses questions scientifiques comme techniques devront être résolues : quels corpus pour les données d'entraînement ? Comment s'assurer de la qualité du modèle généré ? Qui valide les modèles et de quelle manière ? En attendant, que ce soit pour des besoins de recherche ou de productivité, Inria doit mettre en place une politique qui facilite la mise à disposition de tels outils via l'acquisition de licences ainsi qu'une définition précise des usages responsables qui peuvent en être faits.

**Recommandation 5**

À l'instar de ce qui se fait aux USA et au Japon, la CE recommande qu'Inria réfléchisse à s'allier avec les acteurs de l'ESR (et même européens et/ou industriels) pour développer une IA générative (entraînement ou affinage et évaluation, cf. travail sur AuROraGPT) libre et souveraine dédiée au monde de la recherche et utilisable comme assistant dans les tâches quotidiennes des chercheurs et des personnels administratifs.

**Recommandation 6**

Entraîner un LLM nécessite des données. Inria doit mener une réflexion sur le corpus des données : aspects légaux sur la mise à disposition de corpus d'entraînement (par exemple HAL) : enjeu de licence, enjeu technique, etc.

**Recommandation 7**

La CE recommande de faciliter l'acquisition de licences d'utilisation d'IA générative par les équipes, que ce soit pour des questions de recherche ou des questions de productivité.
# 7 Interaction avec les étudiants et formation à l'usage des IA génératives

## 7.1 Dans les équipes

Inria et le monde de la recherche entretiennent des liens très étroits avec les étudiants que ce soit dans le cadre de la formation, de stage ou de thèse. L'objectif des études n'est pas seulement de former aux techniques et aux outils des métiers visés mais aussi de former à la pensée critique ou à la résolution de problème. L'utilisation de ChatGPT et des IA génératives engendre d'énormes inquiétudes quant à la possibilité de saper ces fondements. Il est donc absolument indispensable que les personnels des équipes de recherche et des services ouvrent des discussions approfondies et ouvertes sur l'utilisation explicite de ces outils dans un cadre professionnel. Nous pensons aussi que des formations accessibles à tout le personnel de l'institut doivent être proposées. Ces formations pourraient être élaborées par des chercheurs des domaines concernés, des ingénieurs des services expérimentation et développement (SED) et un panel d'utilisateurs.

**Recommandation 8**

L'utilisation de l'IA générative nécessite un apprentissage. La CE recommande que des sessions de formation soient organisées dans les centres à destination des personnels (et en particulier des jeunes) pour bien maîtriser les outils et leur utilisation légitime et pour comprendre les limites et les biais de ces outils.

**Recommandation 9**

La CE recommande que des discussions ouvertes aient lieu entre les personnels, à l'échelle de l'institut, au sein des équipes et services sur l'utilisation de ces outils portant sur leurs usages, leurs avantages et leurs limites.

## 7.2 Enseignement

L'IA générative bouleverse la manière d'enseigner aussi bien pour ce qui est du savoir que pour son évaluation (rédaction de contenu, ou de code). La crainte d'une perte de compétences est partagée par de nombreux collègues. De nombreux personnels d'Inria participent d'une manière ou d'une autre à des tâches d'enseignement et sont donc concernés. Il s'agit d'une question encore largement ouverte et Inria a toute sa place dans le débat.

# 8 Utilisation des IA génératives pour la programmation

Le code informatique étant par nature du texte et les outils d'IA générative étant entraînés sur du code informatique, l'utilisation d'agent conversationnel pour la programmation peut se faire très naturellement. Dans plusieurs articles [8], il est noté que des outils comme ChatGPT mais aussi MS Copilot peuvent être utilisés, par exemple pour :

- la génération de code,

- l'optimisation de code,

- l'assistance au débogage,
- la documentation de code,

- la relecture de code.

Il s'agit donc d'un changement radical de pratique. Ceci dit, la qualité du code produit peut être très variable. Ainsi, comme pour la génération de texte l'utilisateur reste responsable de l'utilisation et du résultat final.

Il est à noter que l'utilisation de ChatGPT s'accompagne d'une réduction de l'utilisation de site collaboratif comme Stackoverflow (cf. figure 1 de [9]) : ChatGPT ou Copilot permet par exemple de dégrossir un problème (pour des langages pas forcément très accessibles et pour lesquels ce n'est pas le cœur de notre travail, e.g. tikz), sans avoir à passer par des demandes sur des sites communautaires où le temps de réponse peut parfois être très long.

Ainsi, l'IA générative va bien au-delà des agents conversationnels et de la génération de texte. Pour le code cela pose les problématiques suivantes :

- Aujourd'hui les LLM comme ChatGPT ou Copilot sont entrainés sur des données (des programmes) qui peuvent être retransmises intégralement en réponse à une question. Dans un tel cas, il est possible que cela enfreigne la licence du code qui a servi à l'apprentissage.

- D'autre part, l'utilisation de LLM pour la génération de code peut potentiellement amener à divulguer (auprès de l'opérateur de ce LLM) des algorithmes ou des solutions sensibles.

- Enfin, les programmes stockés dans certaines plateformes collaboratives (i.e. GitHub) peuvent servir à l'entrainement de LLM sans nécessairement respecter la licence du logiciel.

### Recommandation 10

Compte tenu des nombreux flous qui entourent l'utilisation de l'IA générative, la CE recommande que cet usage, en matière de programmation, soit circonscrit à des codes non-critiques et invite les personnels à se questionner sur l'utilisation des plateformes collaboratives qu'ils utilisent pour leurs développements.

## 9 Questions éthiques

L'usage des LLM ne va pas sans poser des questions d'ordre éthique (environnemental, sociétal) qu'il convient d'avoir en tête lors de son utilisation.

Tout d'abord la phase d'apprentissage est très gourmande en calcul et donc en énergie. Il s'agit de plusieurs jours/semaines de calcul sur les plus gros calculateurs mondiaux ce qui est très gourmand en matériel et en énergie. Il en va de même pour la partie inférence (requête via le prompt). Même si le coût énergétique de chaque requête est faible, c'est la question du passage à l'échelle qui est en jeu [10], [11], [12].

L'autre aspect concerne la partie d'ajustement fin du modèle (fine tuning) qui consiste à ajuster le modèle pour améliorer ses réponses ou réduire ses biais. Ce travail est fait par un très grand nombre de personnes peu qualifiées et souvent faiblement rémunérées [13], [14].

Nous pensons que ces problèmes éthiques (entre autres) conduisent à se poser la question (qui doit être débattue au sein de l'institut et plus largement) d'une utilisation raisonnable de l'IA générative.
# 10 Conclusion

L'usage des IA génératives prend une place de plus en plus importante dans le monde de la recherche. L'IA générative va potentiellement bouleverser la manière de conduire la recherche, rédiger des articles et programmer. La question d'un usage responsable respectant la vie privée et garant d'une recherche de qualité se pose donc.

Face aux enjeux et au défis que pose l'IA générative, nous devons considérer les IA génératives comme des outils pour tenir le stylo mais pas pour penser à notre place.

Ce GT a proposé un certain nombre de recommandations pour un usage de ces IA en mettant l'accent sur la responsabilité et l'acculturation (en particulier auprès des jeunes) pour insuffler un minimum de connaissances auprès des personnels des équipes et des services. Nous pensons aussi que le sujet d'un LLM dédié aux sciences devrait être porté par Inria dans les années à venir. Le GT appelle à une vigilance absolue sur les questions liées à la confidentialité et à la vie privée. Enfin s'agissant d'un domaine neuf et très changeant, il semble indispensable de pérenniser ce groupe de travail et de mettre en place des référents pour continuer à nourrir la réflexion au sein de l'institut et du monde de la recherche plus généralement.

## Recommandation 11

La CE recommande d'avoir des référents sur ce sujet et de pérenniser le groupe de travail pour suivre l'évolution de l'impact de l'IA générative sur l'ensemble des métiers de l'institut, ainsi que pour anticiper et accompagner les mutations induites dans l'ensemble de notre société.

# Références

[1] ERA Forum Stakeholders' document *Living guidelines on the RESPONSIBLE USE OF GENERALATIVE AI IN RESEARCH*, deuxième version avril 2025 (lien).

[2] Nestor Maslej et al. (2025) *The AI Index 2025 Annual Report*, AI Index Steering Committee, Institute for Human-Centered AI, Stanford University, Stanford, CA, avril 2025 (lien).

[3] Weixin Liang et al. (2024) *Mapping the Increasing Use of LLMs in Scientific Papers*, arXiv:2404.01268 (lien).

[4] Yafei Liang et al. (2024) *The Impact of Large Language Models on Language Proficiencies in Scientific Publications*, available at SSRN: https://ssrn.com/abstract=4992755 or http://dx.doi.org/10.2139/ssrn.4992755 (lien).

[5] Weixin Liang et al. (2024) *Monitoring AI-Modified Content at Scale: A Case Study on the Impact of ChatGPT on AI Conference Peer Reviews*, arXiv:2403.07183v2 (lien).

[6] Wissam Antoun et al. (2023) *Towards a Robust Detection of Language Model-Generated Text: Is ChatGPT that easy to detect?*, in Actes de CORIA-TALN 2023, pages 14–27, Paris, France.

[7] Rapport d'information sur les défis de l'intelligence artificielle générative en matière de protection des données personnelles et d'utilisation du contenu généré, 14 février 2024, N.2207 de l'Assemblée nationale, page 66 (lien).

[8] Partha Pratim Ray (2023) *ChatGPT: A comprehensive review on background, applications, key challenges, bias, ethics, limitations and future scope*, Internet of Things and Cyber-Physical Systems, volume 3 (lien).
[9] Gordon Burtch et al. (2024) *Generative AI Degrades Online Communities. How large language models are influencing online communities*. Communications of the ACM, March 2024 Issue, volume 67, numéro 3, pages 40-42 (lien)

[10] Alexandra Sasha Luccioni et al. (2023) *Estimating the Carbon Footprint of BLOOM, a 176B Parameter Language Model*, Journal of Machine Learning Research 24, pages 1-15 (lien).

[11] Alexandra Sasha Luccioni et al. (2024) *Power Hungry Processing : Watts Driving the Cost of AI Deployment?*, arXiv :2311.16863 (lien).

[12] Aida Usmanova et al. (2024) *Reporting and Analysing the Environmental Impact of Language Models on the Example of Commonsense Question Answering with External Knowledge*, arXiv :2408.01453v1 (lien).

[13] Billy Perrigo (2023) *Exclusive : OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic*, TIME, 18 janvier 2023 (lien).

[14] Kenya AI (2024) *ChatGPT Used Kenyan Workers for Finetuning AI*, 13 juin 2024 (lien).