1 C. Gans Combe, « La destruction des données scientifiques aux États-Unis : un non-sens intellectuel (...) 2 Sur la notion de « gouvernance », v. M. Bernelin, « Le règlement sur l’IA et la gouvernance des don (...) 3 Règl. (UE) 2024/1689 du PE et Cons., 13 juin 2024, établissant des règles harmonisées concernant l’ (...) 1À l’heure où le Règlement sur l’intelligence artificielle est adopté en Europe, c’est une partie importante des données de la recherche que le gouvernement américain détruit sciemment aux États-Unis1. Cette actualité, qui percute la présente chronique, touche essentiellement les recherches relatives au changement climatique, à la santé publique et à la politique sociale. Elle montre, si besoin était, à quel point la question de la gestion, mais aussi la gouvernance2 des données de la recherche, s’avèrent nécessaires à l’exercice d’une démocratie. Ces événements seront donc l’occasion de rappeler que la production de connaissances scientifiques au moyen de l’utilisation de systèmes d’intelligence artificielle ne peut être admise qu’à condition que les données produites soient fiables et accessibles, en particulier dans un contexte de science ouverte (I), et que l’utilisation des systèmes d’IA eux-mêmes réponde au principe de transparence énoncé par différents textes, dont le Règlement sur l’intelligence artificielle adopté en 20243 (II).

# I.Données de la recherche et science ouverte

4 Art. 2, 9°, dir. (UE) 2019/1024 du PE et Cons., 20 juin 2019, concernant la réutilisation des infor (...) 5 Commission européenne, Communication « Pour un meilleur accès aux informations scientifiques : dyna (...) 6 Art. 10, 1°, dir. (UE) 2019/1024, préc. 7 Format FAIR pour Facile à trouver, Accessible, Interopérable, Réutilisable. 2Définies comme des « documents se présentant sous forme numérique autres que des publications scientifiques, qui sont recueillis ou produits au cours d’activités de recherche scientifique et utilisés comme éléments probants dans le processus de recherche, ou dont la communauté scientifique admet communément qu’ils sont nécessaires pour valider des conclusions et résultats de la recherche4 », les données de la recherche sont soumises depuis le début des années 2010 aux règles de science ouverte5. Ces normes prescrivent à la fois la diffusion et le partage 6, ainsi que la standardisation des données dans des formats permettant leur mise à disposition7. La mise en œuvre de la politique de science ouverte implique le respect d’un certain nombre de principes dont le principe d’intégrité scientifique qui suppose la fiabilité et la robustesse (A), ainsi que la conservation et l’accessibilité des données de la recherche (B).

## A. La fiabilité et la robustesse des données de la recherche

8 A. Robin, Droit des données de la recherche. Science ouverte, innovation, données publiques, Paris, (...) 9 D. n° 2021-1572, 3 déc. 2021, relatif au respect des exigences de l’intégrité scientifique par les (...) 10 « Les bonnes pratiques de recherche reposent sur des principes fondamentaux d’intégrité scientifiqu (...) 3Défini – assez maladroitement8 – par les textes français comme « l’ensemble des règles et valeurs qui doivent régir les activités de recherche pour en garantir le caractère honnête et scientifiquement rigoureux9 », le principe d’intégrité scientifique repose sur la notion d’honnêteté et de fiabilité des résultats scientifiques comme le montrent par ailleurs les dispositions de l’article L. 211-2 du Code de la recherche, ainsi que celles du Code de conduite européen10. La loi, tout d’abord, dispose que :

> « les travaux de recherche, notamment l'ensemble des activités de la recherche publique contribuant à ses objectifs mentionnés à l'article L. 112-1, respectent les exigences de l'intégrité scientifique visant à garantir leur caractère honnête et scientifiquement rigoureux et à consolider le lien de confiance avec la société ».

11 Art. 16, L. n° 2020-1674, 24 déc. 2020, de programmation de la recherche pour les années 2021 à 203 (...) 12 Art. 1er. Les dispositions, qui résultent de l’adoption de la loi de programmation pluriannuelle de la recherche de 202011, poursuivent l’objectif consistant à lutter contre les fausses informations dans le domaine scientifique pour ne pas laisser « s’installer l’ère de la post-vérité » qui constitue ainsi « un impératif pour l’avenir de notre démocratie ». Le Code de conduite européen ensuite exprime les principes qui fondent les bonnes pratiques en matière de recherche. Parmi les principes qui « orientent les chercheurs dans leurs travaux ainsi que dans leur engagement envers les enjeux pratiques, éthiques et intellectuels inhérents à la recherche », figurent, d’une part, le principe de fiabilité des résultats de la recherche qui vise à garantir la qualité de la recherche qui transparaît dans la conception, la méthodologie, l’analyse et l’utilisation des ressources et, d’autre part, le principe d’honnêteté consistant dans le fait d’élaborer, entreprendre, évaluer, déclarer et faire connaître la recherche d’une manière transparente, juste, complète et objective12. Justifié par la fragilité des résultats scientifiques aboutissant à de très nombreuses rétractations d’articles, le principe d’intégrité scientifique est également le fruit de la mise en œuvre des principes de science ouverte qui impose que les données de recherche ouvertes soient fiables et robustes. L’enjeu est d’autant plus important que la science ouverte a été conçue pour répondre à plusieurs objectifs dont celui lié à l’exploitation algorithmique des données dans l’espoir qu’elle ouvre des perspectives nouvelles de production de dispositifs prédictifs ou d’aide à la décision. S’agissant de la recherche scientifique, il apparaît en effet impossible

> 13 S. Leonelli, La recherche scientifique à l’ère des big data. Cinq façons dont les Big Data nuisent (...) « de séparer la valeur éthique des données de la valeur épistémologique et scientifique […]. Les choix fondamentaux effectués lors de l’extraction de connaissance des Big Data ont des implications décisives pour le niveau de conservatisme, de fiabilité, de partialité, de corruption et de sensibilité sociale présent dans les processus et les résultats de recherche13 ».

## B. La conservation et l’accessibilité des données de la recherche

La production de connaissances grâce à l’utilisation de systèmes d’intelligence artificielle nécessite également que les données de la recherche soient conservées, mais aussi accessibles. Aussi, les institutions scientifiques ainsi que les établissements assurant de manière générale une mission de recherche sont-ils mis à contribution pour assurer une saine gestion des données. L’article L. 112-1 du Code de la recherche dispose que :

> « sans préjudice des dispositions du code du patrimoine sur les archives publiques, les établissements publics contribuant au service public de la recherche et les fondations reconnues d'utilité publique ayant pour activité principale la recherche publique au sens du même article L. 112-1 offrent les conditions du respect des exigences de l'intégrité scientifique pour les activités et travaux menés en leur sein. Ils mettent en place les dispositifs nécessaires pour promouvoir les valeurs de l'intégrité scientifique et favoriser le respect de ses exigences ».

De même, le Code de conduite européen prévoit que :

> 14 Art. 2, 5°. « les chercheurs, les institutions scientifiques et les établissements assurant une mission de recherche assurent de façon adéquate la gestion, la conservation et la préservation sécurisée de toutes les données, métadonnées, protocoles, codes, logiciels et de tous autres matériels de recherche pendant une période raisonnable et clairement définie14 ».

15 A. Robin, Droit des données de la recherche. Science ouverte, innovation, données publiques, op. ci (...) 16 Art. 10, Dir. 2019/1024, préc. ; art. L. 533-4, II C. rech. L’obligation de sécuriser les données et tout le matériel scientifique est une condition de leur ouverture, c’est-à-dire de leur partage ou de leur diffusion, et est imposée par la directive 2019/1024 lorsque les données de la recherche sont issues d’une activité de recherche majoritairement financée par des fonds publics (art. 10). Techniquement, la mise à disposition est assurée par les entrepôts de données prévus à cet effet15. Juridiquement, la mise à disposition entraîne la liberté de réutilisation des données16. Cette obligation résonne de manière particulière s’agissant de l’utilisation des systèmes d’intelligence artificielle. Le considérant 68 du Règlement sur l’intelligence artificielle (RIA) affirme ainsi que, pour le développement et l’évaluation de systèmes d’IA à haut risque, certains acteurs comme les centres de recherche, devraient être en mesure d’avoir accès à des jeux de données de haute qualité dans leurs domaines d’activité liés au présent règlement et d’utiliser de tels jeux de données. Et le règlement de poursuivre que :

> « par exemple, dans le domaine de la santé, l’espace européen des données de santé facilitera l’accès non discriminatoire aux données de santé et l’entraînement d’algorithmes d’IA à l’aide de ces jeux de données, d’une manière respectueuse de la vie privée, sûre, rapide, transparente et digne de confiance, et avec une gouvernance institutionnelle appropriée ».

La pérennisation d’infrastructures de données s’avère donc cruciale pour justifier la confiance accordée dans l’analyse de données massives. En effet, seules de telles infrastructures sont, par la conservation sécurisée, de nature à assurer une traçabilité des données, à condition toutefois de former des personnes susceptibles d’en assurer la gestion.

# II.Données de la recherche et intelligence artificielle

17 Pour une présentation claire des différentes techniques que l’on rattache à la famille « Intelligen (...) 18 Défini comme un « système automatisé qui est conçu pour fonctionner à différents niveaux d’autonomi (...) 5Dans le domaine de la recherche scientifique, l’intelligence artificielle peut être utilisée de différentes manières. La notion elle-même recouvre des réalités technologiques très différentes17. D’un point de vue juridique, ce qui importe est surtout de savoir si un système d’intelligence artificielle (SIA)18 constitue l’outil (A) ou le produit du travail humain (B).

## A.Le SIA comme outil de recherche scientifique

19 S. Leonelli, La recherche scientifique à l’ère des big data. Cinq façons dont les Big Data nuisent (...) 20 S. Bjelobaba, L. Waddington, M. Perkins, T. Foltynek, S. Bhattacharyya, D. Weber-Wulff, « L’intégri (...) 21 Malgré ces limites, une enquête menée auprès de 1 600 chercheurs a révélé que 32 % des personnes in (...) 22 On note toutefois que certaines entreprises ont paramétré leurs modèles de SIA afin que les données (...) 6Des analyses scientifiques permettent aujourd’hui d’alimenter et de nourrir la discussion sur les effets produits par l’utilisation de l’analyse des données massives 19et par l’utilisation des SIA générative en particulier, sur la production scientifique20. Elles montrent ainsi quels peuvent être les avantages et les risques de l’utilisation des SIA dans chaque phase du cycle de production scientifique, de la conceptualisation et la conception du projet 21à la publication des résultats et l’évaluation par les pairs, en passant par le traitement et l’analyse des données. Cette réflexion est aujourd’hui un peu plus nourrie donc, sachant que les SIA sont des outils qui ont aussi considérablement évolué. À l’occasion de l’adoption du RIA, le législateur européen s’est saisi, même de façon marginale, de la question de l’utilisation des SIA pour les besoins de la recherche scientifique. Le considérant 25 affirme ainsi que « toute activité de recherche et de développement devrait être menée conformément à des normes éthiques et professionnelles reconnues en matière de recherche scientifique et dans le respect du droit de l’Union applicable ». Il est même ajouté que les systèmes d’IA susceptibles d’être utilisés pour mener une activité de recherche et de développement doivent rester soumis aux dispositions du présent règlement, c’est-à-dire aux règles relatives aux pratiques interdites en matière d’IA, aux systèmes d’IA à haut risque ou encore aux modèles d’IA à usage général. Le RIA renvoie donc aux normes éthiques et déontologiques, ainsi qu’au droit de l’Union applicable, en particulier – faut-il comprendre – pour les questions de droit des données à caractère personnel, de droit de la propriété intellectuelle, de secret, etc., autant de règles qui sont au demeurant généralement rappelées dans les codes ou chartes relatifs à l’intégrité scientifique. Sur le plan juridique en effet, l’utilisation des SIA génératives généralistes comme ChapGPT, Copilot, Deepl ou Microsoft Translator, entraîne nécessairement la communication des données à l’entreprise privée qui fournit le modèle d’IA22.

23 S. Bjelobaba, L. Waddington, M. Perkins, T. Foltynek, S. Bhattacharyya, D. Weber-Wulff, « L’intégri (...) 24 Les systèmes de transcription basés sur l'IA peuvent être intégrés dans des plateformes de réunion (...) 7Les textes déontologiques contiennent depuis peu un principe de transparence à l’endroit de l’utilisation des SIA dans la recherche scientifique. Ainsi, le principe de transparence quant à l’utilisation de SIA en matière de données est affirmé par le Code de conduite européen dans sa version de 2023, dont l’article 2.3, alinéa 6 prévoit que : « Les chercheurs font connaître leurs résultats et leurs méthodes, y compris l’utilisation de services externes, d’outils d’intelligence artificielle ou automatisés, sous une forme qui respecte les normes faisant consensus de la discipline, et qui facilite, le cas échéant, la vérification et la reproductibilité ». Cette prescription est essentielle si l’on envisage les problèmes que peut en effet poser la collecte de données grâce à l’utilisation d’un SIA par exemple pour générer des sondages et des questions d’entretiens. Les principaux risques résident dans le fait de perpétuer des préjugés et de générer des questions discriminatoires ou biaisées, des stéréotypes de tous ordres23. De même pour la traduction des textes (en particulier les textes anciens) ou encore la transcription des entretiens. Il a été observé, dans de nombreuses disciplines, que la transcription de documents manuscrits et d'entretiens audio est fastidieuse et chronophage et qu’elle est sujette aux erreurs et que, pour cette raison, l'externalisation des tâches de transcription était une pratique courante24. Or, le problème provient de ce que les résultats peuvent inclure des hallucinations, ou encore de ce que le logiciel de transcription peut produire des résultats de qualité inférieure lors de la transcription de la parole de certains groupes. On pourrait multiplier les exemples autour de l’analyse et du traitement des données tant les exemples d’hallucinations et de faux ensembles de données formés autour de données fabriquées, incorrectes ou inexactes, conduisant à de fausses conclusions et sapant l'intégrité des productions scientifiques, sont nombreux. Ces pratiques sont assurément des « pratiques questionnables de recherche » au sens du Code.

La publication des résultats est également le siège de dispositions relatives à l’intégrité scientifique dans des contextes d’utilisation de SIA. Tout d’abord, le Code de conduite européen pour l’intégrité en recherche prévoit que « les chercheurs, les institutions scientifiques et les établissements assurant une mission de recherche examinent et évaluent les demandes de publication, financement, nomination, promotion ou récompense d’une manière transparente et justifiable, et indiquent l’utilisation qu’ils ont faite d’outils d’intelligence artificielle ou d’outils automatisés » (art. 2.8, al. 2). Et le Code de préciser que parmi les écarts aux bonnes pratiques de recherche qui faussent la production scientifique ou nuisent à l’intégrité du processus de recherche ou aux chercheurs, figure le fait de « masquer l’utilisation d’outils d’intelligence artificielle ou d’outils automatisés dans la création de contenu ou la rédaction de publications ». En tout état de cause, les pratiques de recherche utilisant les SIA sont susceptibles d’être qualifiées de pratiques questionnables de recherche, ne serait-ce que parce qu’elles pourraient impliquer la violation de droits de propriété intellectuelle, comme le droit d’auteur et aboutir ainsi à des situations de contrefaçon. Les pratiques répertoriées sont les suivantes : les SIA peuvent être utilisés pour générer du texte, pour éditer du texte, relire ou encore traduire un texte. Or, la génération de textes par exemple passera nécessairement par la reprise de textes parfois sans citation des auteurs, ni même sans certitude quant à l’exactitude de la citation ou quant à la production du sens.

## B.Le SIA comme résultat de la recherche scientifique

25 Art. 2, 8° : « Le présent règlement ne s’applique pas aux activités de recherche, d’essai et de dév (...) 9Lorsque les SIA sont, non plus les outils, mais les résultats d’une recherche scientifique, le RIA exclut lesdites innovations de son champ d’application. L’article 2, 6° dispose en effet que « le présent règlement ne s’applique pas aux systèmes d’IA ou aux modèles d’IA spécifiquement développés et mis en service uniquement à des fins de recherche et développement scientifiques, ni à leurs sorties ». Le RIA ne s’applique donc pas à la recherche scientifique, y compris lorsque celle-ci prend la forme d’une activité de Recherche-Développement avant la mise sur le marché ou la mise en service des systèmes d’IA25. Le RIA contient les motifs d’une telle exclusion présentés au considérant 142 qui précise que, dans la mesure où la recherche aboutissant à la production de SIA peut conduire à l’obtention de résultats bénéfiques

> « sur le plan social et environnemental, les États sont encouragés à soutenir et à promouvoir la recherche et le développement de solutions d’IA propices à tels résultats, telles que des solutions fondées sur l’IA destinées à renforcer l’accessibilité pour les personnes handicapées, à réduire les inégalités socio-économiques ou à atteindre les objectifs environnementaux, en y affectant des ressources suffisantes, y compris des financements publics et de l’Union, et, lorsqu’il convient et pour autant que les critères d’éligibilité et de sélection soient remplis, en envisageant des projets spécifiques qui poursuivent ces objectifs ».

Cette justification, dont on notera au passage qu’elle contient le principe d’une recherche administrée, pilotée et dirigée par les pouvoirs publics sur les aspects sociaux et environnementaux, vise à encourager la Recherche-Développement dans le vaste domaine de l’IA en l’exonérant d’un certain nombre de contraintes, voire d’interdictions, imposées par ailleurs à d’autres acteurs (fournisseurs et déployeurs de SIA, importateurs et distributeurs de SIA, fabricants de produits mettant sur le marché des SIA) établis ou situés dans l’Union ou dans un pays tiers. La recherche scientifique sur l’IA bénéficie ainsi d’une certaine « immunité » à condition toutefois que les systèmes ou modèles d’IA soient spécifiquement développés et mis en service uniquement à des fins de recherche et développement scientifiques. L’immunité scientifique suppose donc l’exclusivité quant à la finalité de la conception d’un SIA ou d’un modèle d’IA. En outre, il est précisé que l’immunité de la recherche scientifique trouve à s’appliquer aux sorties générées par les modèles et systèmes d’IA.

26 Cons. 25. 27 Cons. 97. 28 Cons. 139. 29 Art. 58, 2°. 10Le RIA aménage cependant un certain nombre de limites au principe d’exclusion des activités de recherche du champ d’application. Ainsi en est-il tout d’abord lorsqu’un système d’IA fait l’objet d’essais en conditions réelles et lorsqu’un système d’IA relevant du champ d’application du présent règlement est mis sur le marché ou mis en service à la suite d’une activité de recherche et de développement26. On peut supposer que le législateur a tenu compte des nombreuses hypothèses, en particulier dans le domaine de la santé, de collaboration étroite entre les institutions publiques de recherche et les entreprises. Cette limite peut donc être considérée comme importante en ce qu’elle devrait concerner de nombreux projets de recherche scientifique collaborative. Elle a en outre vocation à s’appliquer aux modèles d’IA à usage général lorsque lesdits modèles développés à l’occasion d’activités de recherche scientifique ont vocation à être mis sur le marché27. Cette précision est nécessaire dans la mesure où la définition des modèles d’IA à usage général qui conditionne l’application des règles énoncées par les articles 53 et suivants du RIA, exclut a priori les modèles d’IA utilisés pour des activités de recherche, de développement ou de prototypage avant leur mise sur le marché (art. 3, 63°). Enfin, le RIA prévoit la possibilité, très intéressante, de constituer des « bacs à sable réglementaires » lors de la conception et la mise en œuvre de projets permettant la participation d’autres acteurs de l’écosystème de l’IA tels que les laboratoires de recherche et d’expérimentation28. Ces bacs à sable réglementaires seront encadrés par les actes d’exécution prévus pour l’application du RIA29. Concernant la technologie de l’intelligence artificielle dont les effets à long terme ne sont pas encore connus, il est intéressant en effet de donner l’occasion aux parties prenantes, dont font partie les chercheurs, de mettre à l’épreuve les modèles et systèmes d’IA sur le plan juridique et ainsi de vérifier leur conformité ou au contraire d’en observer les limites, compte tenu des règles de l’Union, y compris les règles fondamentales.