# L'Union européenne : vers la maîtrise de l'intelligence artificielle ?

## *The European Union: Towards Mastering Artificial Intelligence?*

Maria Castillo

<figure><img src="image_1.png" /></figure>

OpenEdition
Journals

### Édition électronique

URL : https://journals.openedition.org/crdf/8864

DOI : 10.4000/crdf.8864

ISSN : 2264-1246

### Éditeur

Presses universitaires de Caen

### Édition imprimée

Date de publication : 17 novembre 2023

Pagination : 99-107

ISBN : 978-2-38185-211-9

ISSN : 1634-8842

### Référence électronique

Maria Castillo, « L'Union européenne : vers la maîtrise de l'intelligence artificielle ? », *Cahiers de la recherche sur les droits fondamentaux* [En ligne], 21 | 2023, mis en ligne le 17 octobre 2023, consulté le 27 octobre 2025. URL : http://journals.openedition.org/crdf/8864 ; DOI : https://doi.org/10.4000/crdf.8864

<figure><img src="image_2.png" /></figure>
# L'Union européenne :
vers la maîtrise de l'intelligence artificielle ?

Maria CASTILLO

Maître de conférences en droit public à l'université de Caen Normandie

Institut caennais de recherche juridique (ICREJ, UR 967)

## I. Le marché européen du numérique : un enjeu pour l'Union

A. La réglementation de l'IA: une contribution à la souveraineté numérique de l'Union

B. Réglementer l'IA pour protéger les valeurs et droits fondamentaux de l'Union

## II. Le projet de législation sur l'IA : à la recherche d'un équilibre européen

A. La maîtrise des risques liés à l'utilisation de l'IA

B. La mise en place d'une gouvernance européenne de l'IA

L'intelligence artificielle (IA) est un des phénomènes les plus marquants de la société contemporaine. Technologie désormais omniprésente dans la plupart des activités humaines, son utilisation se développe, tant dans la sphère publique, que privée. Qu'il s'agisse d'aider à la conduite d'un véhicule, de contribuer au dépistage du cancer, à la lutte contre le changement climatique, à la réduction de la pauvreté<fnref n="1" />, d'avoir une conversation avec un « agent conversationnel intelligent »<fnref n="2" />, ou tout simplement d'utiliser son téléphone portable, l'IA peut potentiellement profiter à l'ensemble de l'humanité. À l'instar de la machine à vapeur ou de l'électricité dans le passé, elle transforme notre monde, notre société et notre industrie<fnref n="3" />. Dans une étude réalisée en 2022, à la demande de l'ancien Premier

ministre Jean Castex, le Conseil d'État français souligne que l'IA connaît des avancées technologiques spectaculaires, permettant d'assister l'humain dans de très nombreuses tâches, et qu'en appui des administrations son utilisation pourrait améliorer concrètement la qualité du service public rendu à l'usager<fnref n="4" />. Au niveau international, d'après l'UNESCO, l'IA devait générer près de quatre trillions de dollars de valeur ajoutée d'ici 2022⁵.

Présentée comme étant une des technologies les plus stratégiques du XXIᵉ siècle<fnref n="6" />, l'IA ne bénéficie pourtant pas d'une définition unique. Peut-être parce que le juriste peine face à un vocabulaire souvent technique, faisant appel aux notions de *machine learning*, *big data*, algorithmes, ou *Internet of Things*<fnref n="7" />; ou peut-être parce que « comme

<footnote n="1">1. Grâce à l'optimisation de l'aide économique.</footnote>

<footnote n="2">2. Le prototype d'agent conversationnel ChatGPT lancé en novembre 2022 compterait plus de 100 millions de comptes enregistrés en janvier 2023.</footnote>

<footnote n="3">3. Commission européenne, « L'intelligence artificielle pour l'Europe », communication de la Commission au Parlement européen, au Conseil européen, au Conseil, au Comité économique et social européen et au Comité des régions, COM(2018) 237 final, 25 avril 2018.</footnote>

<footnote n="4">4. Conseil d'État, « Intelligence artificielle et action publique : construire la confiance, servir la performance », étude adoptée en assemblée générale plénière du 31 mars 2022, plus particulièrement pt 2.1, p. 61 sq., en ligne : https://conseil-etat.fr/content/download/180485/file/etudePM%20IA_1.pdf.</footnote>

<footnote n="5">5. UNESCO, « Éthique de l'intelligence artificielle », en ligne : https://www.unesco.org/fr/artificial-intelligence/recommendation-ethics.</footnote>

<footnote n="6">6. Résolution du Parlement européen du 3 mai 2022 sur l'intelligence artificielle à l'ère du numérique, 2020/2266(INI), notamment pt 1 à 11 ainsi que pt 21, 37, 46, 60, 77, 85.</footnote>

<footnote n="7">7. V. Gabriel, *L'intelligence artificielle, enjeu de puissance du XXIᵉ siècle*, Centre d'étude des crises et conflits internationaux, septembre 2020, note d'analyse n° 72.</footnote>
domaine de recherche spécifique [...] [l'IA] a toujours constitué une frontière, incessamment repoussée»<fnref n="8" />. Ses origines remontent aux années 1950, lorsqu'apparaît la technologie qui permettra son développement<fnref n="9" />. Le terme d'«intelligence artificielle» est alors lancé pour qualifier des machines capables de réaliser plus que de simples tâches routinières. Avec l'augmentation de la puissance de calcul des ordinateurs et l'extension des bases de données sur lesquelles les algorithmes sont entraînés, le terme va permettre de désigner des machines devenues «intelligentes», car capables d'apprendre. Il est communément admis que les machines basées sur l'IA ont potentiellement la capacité d'imiter, et même de «dépasser des capacités cognitives humaines comme la détection, l'interaction linguistique, le raisonnement et l'analyse, la résolution de problèmes et même la créativité»<fnref n="10" />. L'IA ne désigne donc pas une ou des applications concrètes, mais un éventail de technologies, dont l'utilisation permet à un système de réaliser des tâches qui normalement exigent une intelligence humaine, et potentiellement de surpasser ladite intelligence<fnref n="11" />. Entre inquiétudes et fantasmes, en 1968, Stanley Kubrick s'interrogeait déjà dans 2001 l'Odyssée de l'espace sur les conséquences du développement de l'IA: arrivée à un haut niveau de sophistication, celle-ci représentera-t-elle un bien ou un danger pour l'humanité ?

En septembre 2021, la Haute-Commissaire aux droits de l'homme appelle la communauté internationale à imposer un moratoire sur certains systèmes d'IA, le temps de mettre en place un dispositif pour protéger l'humain quant à son utilisation<fnref n="12" />; en mars 2023, ce sont le patron de Tesla et Twitter, le cofondateur d'Apple et plus d'un millier d'universitaires et de spécialistes de

l'IA qui, dans une lettre ouverte, alertent sur les graves risques, pour la société et l'humanité, que représentent les systèmes d'IA, dotés d'une intelligence capable de concurrencer celle de l'homme, et appellent à suspendre pour au moins six mois le développement de systèmes d'IA plus puissants que la dernière version du robot conversationnel d'OpenAI<fnref n="13" />.

L'IA propulse « le monde à l'aube d'une quatrième révolution industrielle »<fnref n="14" />, la crise sanitaire de la Covid-19 n'a fait qu'accélérer la révolution en cours. De nombreux États ont élaboré une stratégie nationale sur l'IA<fnref n="15" /> et ont parfois mené une réflexion sur les orientations éthiques et politiques à mettre en œuvre à l'égard de l'IA. En France, le rapport Villani illustre la prise en compte par les pouvoirs publics des défis soulevés par l'IA<fnref n="16" />. Il en est de même au Royaume-Uni avec le rapport de la Chambre des Lords<fnref n="17" /> ou aux États-Unis avec le rapport du Bureau exécutif du président<fnref n="18" />. Parallèlement, des initiatives mondiales tentent d'établir des normes concernant l'élaboration et l'utilisation de l'IA. Ainsi, en 2017, l'Union internationale des télécommunications (UIT) a lancé l'ouverture d'un dialogue mondial sur les perspectives d'exploitation de l'IA au service du bien commun<fnref n="19" />; en 2019, l'Organisation de coopération et de développement économique (OCDE) a arrêté les principes directeurs sur l'IA<fnref n="20" /> et le G20 les principes non contraignants de l'IA; en 2020, un Partenariat mondial pour l'intelligence artificielle, réunissant une coalition d'États, est lancé<fnref n="21" />; en 2021, ce sont les États membres de l'Organisation des Nations unies pour l'éducation, la science et la culture (UNESCO) qui adoptent une recommandation mondiale sur l'éthique de l'IA<fnref n="22" />. En Europe, le Conseil de l'Europe a produit divers

<footnote n="8">8. C. Villani, *Donner un sens à l'intelligence artificielle: pour une stratégie nationale et européenne*, mission parlementaire du 8 septembre 2017 au 8 mars 2018, p. 9, en ligne: https://medias.vie-publique.fr/data_storage_s3/rapport/pdf/184000159.pdf.</footnote>

<footnote n="9">9. Conseil de l'Europe, « Histoire de l'intelligence artificielle », en ligne: http://www.coe.int/fr/web/artificial-intelligence/history-of-ai.</footnote>

<footnote n="10">10. UNESCO, *Étude préliminaire sur l'éthique de l'intelligence artificielle*, SHS/COMEST/EXTWG-ETHICS-AI/2019/1, 26 février 2019, p. 3, en ligne: https://unesdoc.unesco.org/ark:/48223/pf0000367823 fre/PDF/367823fre.pdf.multi.</footnote>

<footnote n="11">11. F. Merz, « L'Europe et la course à l'intelligence artificielle », *Politique de sécurité: analyses du Center for Security Studies*, n° 247, juin 2019, p. 2, encadré, en ligne: https://css.ethz.ch/content/dam/ethz/special-interest/gess/cis/center-for-securities-studies/pdfs/CSSAnalyse247-FR.pdf.</footnote>

<footnote n="12">12. Pt 59 du rapport de la Haute-Commissaire des Nations unies aux droits de l'homme, « The Right to Privacy in the Digital Age », A/HRC/48/31, 13 septembre 2021.</footnote>

<footnote n="13">13. « Pause Giant AI Experiments: An Open Letter », 22 mars 2023, en ligne: https://futureoflife.org/open-letter/pause-giant-ai-experiments.</footnote>

<footnote n="14">14. Pt 1 de la résolution du Parlement européen du 3 mai 2022.</footnote>

<footnote n="15">15. Voir l'observatoire OCDE des politiques de l'IA, en ligne: https://oecd.ai/fr/.</footnote>

<footnote n="16">16. C. Villani, *Donner un sens à l'intelligence artificielle...*</footnote>

<footnote n="17">17. Chambre des Lords du Royaume-Uni, *AI in the UK: Ready, Willing and Able?*, 16 avril 2018, en ligne: https://publications.parliament.uk/pa/ld201719/ldselect/ldai/100/100.pdf.</footnote>

<footnote n="18">18. Bureau exécutif du président des États-Unis, *Artificial Intelligence, Automation, and the Economy*, décembre 2016, en ligne: https://obamawhitehouse.archives.gov/sites/whitehouse.gov/files/documents/Artificial-Intelligence-Automation-Economy.PDF.</footnote>

<footnote n="19">19. AI for Good se présente comme une plateforme numérique ouverte toute l'année, permettant aux innovateurs et utilisateurs d'IA de collaborer afin d'identifier des solutions pratiques en matière d'IA et de faire progresser les objectifs de développement durable des Nations unies. AI for Good est organisé par l'UIT en partenariat avec quarante agences des Nations unies et en collaboration avec la Suisse (https://aiforgood.itu.int).</footnote>

<footnote n="20">20. OCDE, « Présentation des principes sur l'IA », mai 2019, en ligne: https://oecd.ai/fr/ai-principles.</footnote>

<footnote n="21">21. Le partenariat est une initiative internationale et multipartite (voir la « Déclaration commune des membres fondateurs du Partenariat mondial sur l'intelligence artificielle », 15 juin 2020, en ligne: https://minefi hosting.augure.com/Augure_Minefi/r/ContenuEnLigne/Download?id=E9434052-3565-4B1C-B4AB-889D27F7BoB9&filename=134%20-%20GPAI%20-%20D%C3%A9claration%20conjointe.pdf). Formée par quinze membres fondateurs en 2020 (Allemagne, Australie, Canada, République de Corée, États-Unis, France, Italie, Inde, Japon, Mexique, Nouvelle-Zélande, Royaume-Uni, Singapour, Slovénie, Union européenne), elle en réunit aujourd'hui vingt-neuf (voir le site Internet du partenariat: https://gpai.ai/community). Son but est de promouvoir une utilisation responsable de l'IA, dans un esprit de respect des droits de la personne, d'inclusion, de diversité, d'innovation et de croissance économique.</footnote>

<footnote n="22">22. UNESCO, « Les États membres de l'UNESCO adoptent le tout premier accord sur l'éthique de l'intelligence artificielle », 25 novembre 2021, en ligne: https://fr.unesco.org/news/etats-membres-lunesco-adoptent-premier-accord-lethique-lintelligence-artificielle.</footnote>
rapports sur l'IA<fnref n="23" /> et créé un comité d'experts sur l'intelligence artificielle<fnref n="24" />. Celui-ci a présenté en janvier 2023 un « Projet zéro de convention [cadre] sur l'intelligence artificielle, les droits de l'homme, la démocratie et l'État de droit »<fnref n="25" />. L'Union européenne ne pouvait échapper au mouvement. Elle « qui pendant des siècles a défini les normes internationales, dominé le progrès technologique et été à la pointe de la production et du déploiement d'industries haut de gamme, a [...] [pourtant] pris du retard [...] dans le marché numérique »<fnref n="26" />.

La mise en place d'une Europe adaptée à l'ère du numérique fait partie de l'engagement politique pris par la présidente Ursula von der Leyen pour la Commission 2019-2024 de mettre en œuvre « Une Union plus ambitieuse »<fnref n="27" />. La nouvelle décennie doit être celle du numérique de l'Europe, avec un investissement de 250 milliards d'euros pour stimuler la numérisation et avec pour objectif que 80 % de la population de l'Union possède les compétences numériques de base d'ici 2030²⁸. La réalisation de cet objectif implique pour l'Union la mise en place d'un marché européen du numérique (I), permettant de garantir un équilibre entre développement des technologies liées à l'IA et respect des valeurs et principes fondamentaux de l'Union (II).

# I. Le marché européen du numérique : un enjeu pour l'Union

En avril 2021, la Commission européenne a publié une proposition de règlement établissant des règles harmonisées concernant l'intelligence artificielle, dite législation sur

l'intelligence artificielle<fnref n="29" />. Les fournisseurs et utilisateurs d'IA sont actuellement soumis au respect de certains aspects de la réglementation qui encadre l'utilisation des outils numériques dans l'Union et notamment du Règlement général sur la protection des données (RGPD)<fnref n="30" />, mais l'IA ne fait pas encore l'objet d'une réglementation générale au niveau européen. La Commission est néanmoins décidée à faciliter son développement dans le cadre de la création d'un marché européen du numérique (A) dont la mise en œuvre interroge au regard du respect des valeurs et droits fondamentaux de l'Union (B).

## A. La réglementation de l'IA: une contribution à la souveraineté numérique de l'Union

Les technologies de l'information et des communications (TIC) « constituent [...] la base sur laquelle reposent tous les systèmes économiques novateurs modernes »<fnref n="31" />, elles offrent des « perspectives extrêmement prometteuses pour l'innovation, la croissance et l'emploi »<fnref n="32" />. Dans une Union, génétiquement fondée sur la libre circulation des facteurs de production, la mise en place d'un marché unique numérique correspond à un espace où les particuliers et les entreprises peuvent, sans discrimination, « accéder et se livrer à des activités en ligne dans un cadre garantissant une concurrence loyale et un niveau élevé de protection des consommateurs et des données à caractère personnel »<fnref n="33" />. Or, « la pointe du numérique, c'est l'intelligence artificielle »<fnref n="34" />, aussi la Commission a-t-elle présenté en 2018 une stratégie européenne pour l'IA<fnref n="35" />. « Notre approche de l'IA définira le monde dans lequel nous

<footnote n="23">23. Voir notamment : Conseil de l'Europe, « Décode r l'intelligence artificielle: 10 mesures pour protéger les droits de l'homme », mai 2019, en ligne : https://rm.coe.int/decoder-l-intelligence-artificielle-10-mesures-pour-proteger-les-droit/168094b6e2 ; Conseil de l'Europe, « Governing the Game Changer - Impacts of Artificial Intelligence Development on Human Rights, Democracy and the Rule of Law », février 2019, en ligne : https://rm.coe.int/conference-report-28march-final-1-/168093bc52.</footnote>

<footnote n="24">24. En 2019, le Comité des ministres du Conseil de l'Europe a créé le Comité ad hoc sur l'intelligence artificielle (CAHAI) (https://search.coe.int/cm/Pages/result_details.aspx?ObjectId=0900001680972f1f). Établi pour un mandat de deux ans, il a présenté en 2021 les « Éléments potentiels d'un cadre juridique sur l'intelligence artificielle, fondés sur les normes du Conseil de l'Europe en matière de droits de l'homme, de démocratie et d'État de droit » (https://rm.coe.int/elements-potentiels-d-un-cadre-juridique-sur-l-ia/1680a5ae6c). Le Comité sur l'intelligence artificielle (CAI) a succédé au CAHAI pour la période 2022-2024. Le mandat du CAI le charge de la mise en place d'un processus de négociation internationale en vue d'élaborer un cadre juridique pour le développement, la conception et l'application de l'IA (https://rm.coe.int/cai-mandat/1680a7b90a).</footnote>

<footnote n="25">25. Comité sur l'intelligence artificielle du Conseil de l'Europe, « Projet zéro révisé de convention [cadre] sur l'intelligence artificielle, les droits de l'homme, la démocratie et l'État de droit », CAI(2023)01_FR, 6 janvier 2023, en ligne : https://rm.coe.int/cai-2023-01-fr-projet-zero-revise-de-convention-cadre-public/1680aa1942.</footnote>

<footnote n="26">26. Pt 3 de la résolution du Parlement européen du 3 mai 2022.</footnote>

<footnote n="27">27. U. von der Leyen, Une Union plus ambitieuse. Mon programme pour l'Europe, orientations politiques pour la prochaine Commission européenne 2019-2024, 16 juillet 2019, en ligne : https://op.europa.eu/o/opportal-service/download-handler?identifier=43a17056-ebf1-11e9-9c4e-01aa75ed71a1&format=pdf&language=fr&productionSystem=cellar&part=.</footnote>

<footnote n="28">28. Commission européenne, « Une Europe adaptée à l'ère du numérique. Favoriser une nouvelle génération de technologies donnant aux citoyens les moyens d'agir », en ligne : https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age_fr.</footnote>

<footnote n="29">29. Proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l'intelligence artificielle (législation sur l'intelligence artificielle) et modifiant certains actes législatifs de l'Union, COM(2021) 206 final, 21 avril 2021.</footnote>

<footnote n="30">30. Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l'égard du traitement des données à caractère personnel et à la libre circulation des données et abrogeant la directive 95/46/CE, Journal officiel de l'Union européenne, L 119, 4 mai 2016, p. 1-88.</footnote>

<footnote n="31">31. Commission européenne, « Stratégie pour un marché unique numérique en Europe », communication de la Commission au Parlement européen, au Conseil, au Comité économique et social européen et au Comité des régions, COM(2015) 192 final, 6 mai 2015, p. 3.</footnote>

<footnote n="32">32. Ibid.</footnote>

<footnote n="33">33. Ibid.</footnote>

<footnote n="34">34. Ministère de la Transition écologique et de la Cohésion des territoires, « Du numérique à l'intelligence artificielle », en ligne : https://www.cedip.developpement-durable.gouv.fr/du-numerique-a-l-intelligence-artificielle-r665.html.</footnote>

<footnote n="35">35. Commission européenne, « L'intelligence artificielle pour l'Europe ».</footnote>
vivons»<fnref n="36" />, loin de la science-fiction, l'IA est une réalité faisant « déjà partie de notre quotidien »<fnref n="37" />, et s'est imposée comme étant l'« une des technologies les plus stratégiques du 21ᵉ siècle »<fnref n="38" />. Le constat est clair et « [l]es enjeux ne sauraient être plus élevés »<fnref n="39" />. Dès lors, dans un « contexte de concurrence mondiale féroce, un cadre européen solide s'impose »<fnref n="40" />. Alors que les économies les plus développées reconnaissent le caractère révolutionnaire de l'IA et ont adopté des approches différentes qui reflètent leurs propres systèmes politique, économique, culturel et social, la Commission s'inquête du retard de l'Europe en matière d'investissements privés dans l'IA. « Le gouvernement américain a présenté une stratégie en matière d'IA et a investi quelque 970 millions d'EUR dans la recherche non confidentielle en matière d'IA en 2016 » et la Chine, avec son « Plan de développement de l'intelligence artificielle de nouvelle génération », « ambitionne de devenir le leader mondial d'ici à 2030, en procédant à des investissements massifs. D'autres pays tels que le Japon et le Canada ont aussi adopté des stratégies en matière d'IA »<fnref n="41" />. Dans ce contexte, la Commission souhaite renforcer la capacité technologique et industrielle de l'Union européenne et intensifier le recours à l'IA dans tous les secteurs de l'économie. Pour le Parlement européen, la mise en place d'un premier cadre mondial pour l'IA pourrait « donner du poids à l'Union » et lui permettre d'« exporter [...] une "IA digne de confiance" »<fnref n="42" />. Le lancement de la stratégie européenne sera suivi de multiples initiatives de la Commission visant à faire de l'Union un pôle mondial de l'IA. La Commission va créer un groupe d'experts de haut niveau et introduire un plan coordonné dans le domaine

de l'intelligence artificielle<fnref n="43" /> devant permettre d'impulser une IA « made in Europe »<fnref n="44" />. En 2019, une communication centrée sur la question de la confiance dans l'IA<fnref n="45" /> précède le livre blanc sur l'IA<fnref n="46" /> présenté l'année suivante. Destiné à renforcer la confiance dans une IA « axée sur l'excellence et la confiance », il propose diverses mesures et options politiques qui aboutiront à la proposition de règlement sur l'IA et à une révision du plan coordonné sur l'IA<fnref n="47" />.

Parallèlement, le Parlement européen a également impulsé diverses initiatives telles que les résolutions consacrées aux aspects éthiques de l'IA<fnref n="48" /> ; à l'interprétation et l'application, en matière d'IA, du droit international<fnref n="49" /> ; ou aux règles de droit civil en matière de robotique<fnref n="50" />. Il a adopté différents rapports et proposé des lignes directrices liées à l'utilisation de l'IA<fnref n="51" />. Il a également mis en place, en 2020, une commission spéciale sur l'IA à l'ère du numérique, afin d'analyser l'impact de l'IA sur l'économie de l'Union européenne. Le rapport final de cette commission, adopté en mai 2022, comprend une proposition de feuille de route pour l'Union, qui met en évidence les valeurs et objectifs de l'Union européenne en matière d'IA<fnref n="52" />.

Le renforcement des capacités de l'Union en matière d'IA a été favorisé par la pandémie de Covid-19 qui a contribué à démontrer son potentiel, mais il est également lié à l'avènement de la décennie du numérique annoncée par la Commission sur sa boussole numérique<fnref n="53" />. La mise en œuvre de cette décennie implique le développement d'une IA de confiance, au service d'une « Union de valeurs »<fnref n="54" />. Elle prend appui sur un ensemble d'initiatives, parfois récentes, telles que: la stratégie européenne sur la protection des données<fnref n="55" /> ; la législation applicable en

<footnote n="36">36. Commission européenne, « L'intelligence artificielle pour l'Europe », p. 2.</footnote>

<footnote n="37">37. Ibid., p. 1.</footnote>

<footnote n="38">38. Ibid., p. 2.</footnote>

<footnote n="39">39. Ibid.</footnote>

<footnote n="40">40. Ibid.</footnote>

<footnote n="41">41. Ibid., p. 4-5.</footnote>

<footnote n="42">42. Pt 104 de la résolution du Parlement européen du 3 mai 2022.</footnote>

<footnote n="43">43. Commission européenne, « Un plan coordonné dans le domaine de l'intelligence artificielle », communication de la Commission au Parlement européen, au Conseil européen, au Conseil, au Comité économique et social européen et au Comité des régions, COM(2018) 795 final, 7 décembre 2018.</footnote>

<footnote n="44">44. Pt 103 de la résolution du Parlement européen du 3 mai 2022.</footnote>

<footnote n="45">45. Commission européenne, « Renforcer la confiance dans l'intelligence artificielle axée sur le facteur humain », communication de la Commission au Parlement européen, au Conseil, au Comité économique et social européen et au Comité des régions, COM(2019) 168 final, 8 avril 2019.</footnote>

<footnote n="46">46. Commission européenne, *Livre blanc sur l'intelligence artificielle. Une approche européenne axée sur l'excellence et la confiance*, COM(2020) 65 final, 19 février 2020.</footnote>

<footnote n="47">47. Commission européenne, « Favoriser une approche européenne de l'intelligence artificielle », communication de la Commission au Parlement européen, au Conseil, au Comité économique et social européen et au Comité des régions, COM(2021) 205 final, 21 avril 2021.</footnote>

<footnote n="48">48. Résolution du Parlement européen du 20 octobre 2020 contenant des recommandations à la Commission concernant un cadre pour les aspects éthiques de l'intelligence artificielle, de la robotique et des technologies connexes, 2020/2012(INL).</footnote>

<footnote n="49">49. Résolution du Parlement européen du 20 janvier 2021 sur l'intelligence artificielle: questions relatives à l'interprétation et l'application du droit international dans la mesure où l'Union est concernée dans les domaines des utilisations civiles et militaires et à l'autorité de l'État en dehors du champ d'application de la justice pénale, 2020/2013(INI).</footnote>

<footnote n="50">50. Résolution du Parlement européen du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique, 2015/2103(INL).</footnote>

<footnote n="51">51. Voir: Parlement européen, « Règles sur l'IA : ce que veut le Parlement européen », octobre 2020, mis à jour en février 2023, en ligne: https://www.europarl.europa.eu/news/fr/headlines/priorities/l-intelligence-artificielle-dans-l-ue/20201015st089417/regles-sur-l-ia-ce-que-veut-le-parlement-europeen.</footnote>

<footnote n="52">52. Résolution du Parlement européen du 3 mai 2022.</footnote>

<footnote n="53">53. Commission européenne, « Une boussole numérique pour 2030: l'Europe balise la décennie numérique », communication de la Commission au Parlement européen, au Conseil, au Comité économique et social européen et au Comité des régions, COM(2021) 118 final, 9 mars 2021.</footnote>

<footnote n="54">54. Déclaration européenne sur les droits et principes numériques pour la décennie numérique, *Journal officiel de l'Union européenne*, C 23, 23 janvier 2023, p. 1-7.</footnote>

<footnote n="55">55. Règlement (UE) 2022/868 du Parlement européen et du Conseil du 30 mai 2022 portant sur la gouvernance européenne des données et modifiant le règlement (UE) 2018/1724 (règlement sur la gouvernance des données), *Journal officiel de l'Union européenne*, L 152, 3 juin 2022, p. 1-44.</footnote>
matière de sécurité des produits et notamment la directive relative à la sécurité des machines, qui traite par exemple des risques découlant de la collaboration homme-robot<sup>56</sup>; de même que la proposition de règlement sur les machines et produits connexes<sup>57</sup>; la stratégie européenne en matière de cybersécurité<sup>58</sup>; le plan d'action en matière d'éducation numérique 2021-2027<sup>59</sup>; le règlement sur les services numériques<sup>60</sup> et celui sur les marchés numériques<sup>61</sup>; le plan d'action sur la démocratie européenne<sup>62</sup>; la proposition de nouvelle directive relative à la responsabilité du fait des produits défectueux qui inclut désormais expressément les logiciels dans la notion de produit<sup>63</sup>; et la proposition de directive sur la responsabilité en matière d'IA devant permettre d'adapter les règles de responsabilité et les procédures applicables pour les personnes lésées par le fonctionnement de systèmes d'IA<sup>64</sup>. Globalement, cette dernière proposition facilitera l'action des demandeurs à l'encontre des fournisseurs de systèmes d'IA dans le cadre de la responsabilité civile extracontractuelle grâce notamment à un allégement de la charge de la preuve en faveur des victimes.

Dans sa course au numérique, l'Union s'efforce de
combler son retard tout en favorisant le développement
d'une IA fondée sur le respect de la dignité humaine, la
liberté, la démocratie, l'égalité, l'État de droit et le respect
des droits de l'homme, y compris les droits des personnes
appartenant à des minorités<fnref n="65" />.

B. Réglementer l'IA pour protéger les valeurs
et droits fondamentaux de l'Union

Dans le livre blanc la Commission constate une évidence :

L'intelligence artificielle (IA) [...] s'accompagne aussi d'un
certain nombre de risques potentiels, tels que l'opacité de
la prise de décisions, la discrimination fondée sur le sexe

ou sur d'autres motifs, l'intrusion dans nos vies privées
ou encore l'utilisation à des fins criminelles<fnref n="66" />.

Un nombre croissant de décisions d'organismes, tant publics que privés, sont prises sur la base d'IA, dans les domaines les plus divers tels que: l'accès aux prestations sociales, la police, la justice, l'éducation, le recrutement ou la gestion des ressources humaines. Si les bénéfices sont indéniables pour ce qui est du gain de temps, de la fiabilité ou de l'efficacité des analyses, les impacts sur les droits fondamentaux sont réels. En 2020, l'Agence des droits fondamentaux de l'Union européenne a présenté un rapport sur l'impact de l'IA sur les droits fondamentaux<fnref n="67" />. Elle y analyse les principales conséquences, tant positives que négatives, pour les droits fondamentaux, des nouvelles technologies, y compris l'IA dans quatre domaines essentiels: les prestations sociales, la police prédictive, les services de santé et la publicité ciblée. Deux ans plus tôt, le Conseil de l'Europe avait également consacré une étude aux algorithmes et aux droits de l'homme dans laquelle il s'était concentré sur les effets des algorithmes sur le droit à un procès juste et équitable; le droit au respect de la vie privée et à la protection des données; la liberté d'expression; la liberté de réunion et d'association; le droit à un recours effectif; l'interdiction de toute discrimination; les droits sociaux et l'accès aux services publics; et le droit à des élections libres<fnref n="68" />. Cette liste de droits, potentiellement impactés par l'IA, n'est pas limitative, le Conseil de l'Europe ayant précisé que le champ de son étude ne lui avait pas permis d'analyser le droit à la vie, dans le contexte de l'utilisation des armes intelligentes et des drones pilotés par algorithmes, ou dans le contexte de la santé. De même, il n'avait pu explorer les effets potentiels de la systématisation des points de vue et des opinions, par le biais des algorithmes, sur la liberté de pensée, de conscience et de religion. Ce sont en fait tous les droits et libertés fondamentaux qui sont potentiellement impactés par les algorithmes et donc par l'IA<fnref n="69" />.

<footnote n="56">56. Directive 2006/42/CE du Parlement européen et du Conseil du 17 mai 2006 relative aux machines et modifiant la directive 95/16/CE, *Journal officiel de l'Union européenne*, L 157, 9 juin 2006, p. 24-86.</footnote>

<footnote n="57">57. Proposition de règlement du Parlement européen et du Conseil sur les machines et produits connexes, COM(2021) 202 final, 21 avril 2021.</footnote>

<footnote n="58">58. Haut représentant de l'Union pour les affaires étrangères et la politique de sécurité, « Stratégie de cybersécurité de l'UE pour la décennie numérique », communication conjointe au Parlement européen et au Conseil, JOIN(2020) 18 final, 16 décembre 2020.</footnote>

<footnote n="59">59. Commission européenne, « Plan d'action en matière d'éducation numérique 2021-2027. Réinitialiser l'éducation et la formation à l'ère du numérique », communication de la Commission au Parlement européen, au Conseil, au Comité économique et social européen et au Comité des régions, COM(2020) 624 final, 30 septembre 2020.</footnote>

<footnote n="60">60. Règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques et modifiant la directive 2000/31/CE (règlement sur les services numériques), *Journal officiel de l'Union européenne*, L 277, 27 octobre 2022, p. 1-102.</footnote>

<footnote n="61">61. Règlement (UE) 2022/1925 du Parlement européen et du Conseil du 14 septembre 2022 relatif aux marchés contestables et équitables dans le secteur numérique et modifiant les directives (UE) 2019/1937 et (UE) 2020/1828 (règlement sur les marchés numériques), *Journal officiel de l'Union européenne*, L 265, 12 octobre 2022, p. 1-66.</footnote>

<footnote n="62">62. Communication de la Commission au Parlement européen, au Conseil, au Comité économique et social européen et au Comité des régions relative au plan d'action pour la démocratie européenne, COM(2020) 790 final, 3 décembre 2020.</footnote>

<footnote n="63">63. Proposition de directive du Parlement européen et du Conseil relative à la responsabilité du fait des produits défectueux, COM(2022) 495 final, 28 septembre 2022.</footnote>

<footnote n="64">64. Proposition de directive du Parlement européen et du Conseil relative à l'adaptation des règles en matière de responsabilité civile extracontractuelle au domaine de l'intelligence artificielle (directive sur la responsabilité en matière d'IA), COM(2022) 496 final, 28 septembre 2022.</footnote>

<footnote n="65">65. Pt 1 du préambule de la déclaration européenne sur les droits et principes numériques pour la décennie numérique.</footnote>

<footnote n="66">66. Commission européenne, *Livre blanc sur l'intelligence artificielle...*, p. 1.</footnote>

<footnote n="67">67. Agence des droits fondamentaux de l'Union européenne, *Getting the Future Right: Artificial Intelligence and Fundamental Rights*, 2020, en ligne: https://fra.europa.eu/sites/default/files/fra_uploads/fra-2020-artificial-intelligence_en.pdf.</footnote>

<footnote n="68">68. Conseil de l'Europe, *Algorithmes et droits humains. Étude sur les dimensions des droits humains dans les techniques de traitement automatisé des données et éventuelles implications réglementaires*, DGI(2017)12, mars 2018, en ligne: https://rm.coe.int/algorithms-and-human-rights-fr/1680795681.</footnote>

<footnote n="69">69. *Ibid.*, p. 33.</footnote>
Les expériences nationales permettent une illustration concrète des conflits susceptibles de se multiplier dans les années à venir. Ainsi, en France, la Défenseure des droits appelle à replacer le principe de la non-discrimination au cœur du projet de règlement européen car : « Derrière leur apparente neutralité, des recherches ont mis à jour l’ampleur des biais qui peuvent intervenir lors de [la] conception et [du] déploiement » des systèmes d’IA<fnref n="70" />. Par exemple, en matière de recrutement, des biais sexistes qui tendent à écarter systématiquement les candidatures de femmes ont été repérés dans plusieurs algorithmes utilisés pour trier les CV. Dans le domaine de la lutte contre la fraude aux prestations sociales, des algorithmes ont conduit à concentrer les contrôles sur des personnes en raison de leur lieu de résidence et de leur situation familiale. Des dérives comparables ont également été constatées aux Pays-Bas et ont fait l’objet d’un rapport de la Commission de Venise, rendu dans le cadre d’une législation adoptée par le Parlement néerlandais pour garantir le remboursement des allocations familiales versées par erreur<fnref n="71" />. La Commission de Venise a notamment relevé que les dispositions de cette loi avaient été interprétées de telle sorte que, si une irrégularité était détectée, même des années après l’octroi de l’allocation, le montant total devait être remboursé et les familles étaient inscrites sur une liste des « fraudeurs », y compris dans l’hypothèse d’erreurs mineures ou s’il n’y avait aucune erreur de leur part. Ces familles recevaient rarement des informations et les recours devant la plus haute juridiction administrative étaient systématiquement rejetés, causant ainsi à des milliers de personnes de graves problèmes tant financiers que psychologiques. Selon le rapport de la Commission de Venise, les demandes d’allocations considérées comme suspectes étaient sélectionnées sur la base d’un modèle de classement des risques, qui était un algorithme « auto-apprenant », fondé sur des exemples de demandes correctes et incorrectes. L’un des indicateurs utilisés pour identifier les cas de fraude était la citoyenneté, les demandeurs d’origine étrangère étant sélectionnés par le système pour un examen détaillé de leur demande. Dans cette approche de « groupe », le système partait du principe que 80 % des bénéficiaires de l’aide sociale étaient « mauvais » et 20 % « bons »<fnref n="72" />. Dans ses conclusions, la Commission de Venise fait remarquer qu’à l’avenir des algorithmes d’IA plus sophistiqués seront probablement utilisés et qu’il pourra s’avérer pratiquement impossible d’identifier les critères utilisés, dès lors que les systèmes

d'auto-apprentissage de l'IA sont alimentés par un nombre croissant de données. Elle suggère donc que, par mesure de prudence, lorsque des systèmes d'IA sont introduits, les données d'entraînement anonymes soient conservées afin de pouvoir détecter les biais à un stade ultérieur et propose que ces données d'entraînement, totalement anonymes, puissent même être rendues publiques afin de permettre la recherche de biais<fnref n="73" />. Au Royaume-Uni, c'est l'affaire *Big Brother Watch* jugée le 25 mai 2021 par la grande chambre de la Cour européenne des droits de l'homme<fnref n="74" /> qui a attiré l'attention sur le secret des communications. Dans cette affaire qui découle des révélations d'Edward Snowden sur les programmes de surveillance et d'échange d'informations entre les États-Unis et le Royaume-Uni, la grande chambre a conclu à l'unanimité à la violation du droit au respect de la vie privée et familiale et du secret des communications, mais a admis que l'article 8 de la Convention européenne des droits de l'homme ne s'oppose pas à un recours général à l'interception de masse des communications, pour protéger la sécurité nationale ou d'autres intérêts essentiels contre des menaces extérieures graves; les États jouissant également d'une large marge d'appréciation pour déterminer le type de régime d'interception dont ils ont besoin à cette fin.

Hors de l'Union, les questions liées à l'utilisation de l'IA se multiplient également, notamment aux États-Unis où il n'existe pas de cadre fédéral pour réguler l'IA<fnref n="75" />. Ainsi, une étude du Massachusetts Institute of Technology révèle que la technologie de reconnaissance faciale utilisée par différents services de police connaît un taux d'erreur de 35 % pour les femmes noires. Ce biais étant la conséquence d'une base de données comprenant plus de modèles blancs que noirs<fnref n="76" />. Dans un ouvrage intitulé *Weapons of Math Destruction*, Cathy O'Neil explique qu'aux États-Unis les services de police utilisent de plus en plus des logiciels prédictifs, tels que PredPol ou CompStat, pour déployer des patrouilles dans les quartiers qui, à un moment donné, sont identifiés comme étant les plus dangereux, sur la base du type et de la localisation de crimes commis. Ces systèmes ne se concentrent pas sur les personnes mais sur la géographie, et sont donc, en théorie, sans préjugés raciaux ou socio-économiques. Mais, lorsque ces systèmes s'appuient sur des données qui peuvent refléter, inten- tionnellement ou non, des biais en fonction de la manière dont les crimes sont sélectionnés, pour être inclus dans l'analyse, le risque de violation des droits fondamentaux apparaît. Notamment, lorsque les programmes permettent

<footnote n="70">70. Défenseure des droits, communiqué de presse du 21 juin 2022, en ligne: https://www.defenseurdesdroits.fr/sites/default/files/atoms/files/cp_-_defenseur_des_droits_-_intelligence_artificielle.pdf.</footnote>

<footnote n="71">71. Commission de Venise, avis n° 1031/2021 sur la protection juridique des citoyens, 18 octobre 2021, en ligne : https://www.venice.coe.int/webforms/documents/?pdf=CDL-AD(2021)031-f.</footnote>

<footnote n="72">72. *Ibid.*, pt 19.</footnote>

<footnote n="73">73. *Ibid.*, pt 98.</footnote>

<footnote n="74">74. Cour EDH, GC, 25 mai 2021, *Big Brother Watch et autres et autres c. Royaume-Uni*, n° 58170/13, 62322/14 et 24960/15.</footnote>

<footnote n="75">75. Un projet de loi, Algorithmic Accountability Act, a été introduit au Sénat et à la Chambre des représentants le 3 février 2022, H.R.6580, en ligne: https://www.congress.gov/bill/117th-congress/house-bill/6580/text.</footnote>

<footnote n="76">76. « États-Unis: un Américain noir arrêté à tort à cause de la technologie de reconnaissance faciale », *Le Monde*, 24 juin 2020, en ligne: https://www.lemonde.fr/international/article/2020/06/24/un-americain-noir-arrete-a-tort-a-cause-de-la-technologie-de-reconnaissance-faciale_6044073_3210.html.</footnote>
d'inclure outre des crimes graves, de simples troubles de l'ordre et de la sécurité publics, tels que le trafic de drogue à petite échelle ou la consommation d'alcool dans la rue, ce qui conduit à attirer l'attention de la police sur les quartiers où ces troubles se produisent et augmente les interpellations et arrestations... générant ainsi une boucle dans de nombreuses villes américaines<fnref n="77" />.

Dans une résolution du 3 mai 2022, le Parlement européen a élargi le champ des interrogations découlant de développements de l'IA en invitant la Commission « à envisager une initiative sur les "neurodroits", dans le but de protéger le cerveau humain contre les interférences, la manipulation et le contrôle par les neurotechnologies reposant sur l'IA »<fnref n="78" />. Il encourage cette dernière

[...] à se faire le porte-parole d'un programme sur les droits des neurones à l'échelle de l'ONU, afin d'inclure ces droits dans la déclaration universelle des droits de l'homme, plus concrètement en ce qui concerne le droit à l'identité, le droit au libre arbitre et au respect de son intimité mentale, l'égalité d'accès aux progrès en matière d'augmentation cérébrale et le droit à la protection contre les biais algorithmiques<fnref n="79" />.

Dans ce contexte, l'adoption d'une réglementation européenne apparaît comme poursuivant « un objectif justifié par un certain nombre de raisons impérieuses d'intérêt général »<fnref n="80" />.

## II. Le projet de législation sur l'IA:
à la recherche d'un équilibre européen

La proposition de règlement établissant des règles harmonisées concernant l'intelligence artificielle (législation sur l'intelligence artificielle) est destinée à faire de l'Union un chef de file au niveau mondial. Riche de quatre-vingt-cinq articles, elle est conçue comme un instrument horizontal, qui pourra être complété, dans certains secteurs, par des règlements spécifiques<fnref n="81" />. Sa base juridique repose sur les articles 16 et 114 du traité sur le fonctionnement de l'Union européenne (TFUE), respectivement consacrés à la protection des données à caractère personnel et à l'adoption de mesures destinées à assurer l'établissement et le fonctionnement du marché intérieur<fnref n="82" />. Reposant sur une approche fondée sur l'évaluation des risques pesant

sur la sécurité et/ou les droits fondamentaux du fait de l'utilisation de l'IA (A), elle organise la mise en place d'une gouvernance européenne de l'IA (B).

### A. La maîtrise des risques liés
à l'utilisation de l'IA

La proposition de règlement a vocation à s'appliquer à l'ensemble des systèmes d'IA mis en service sur le marché de l'Union européenne, quel que soit le lieu d'établissement du fournisseur du système; ainsi qu'aux systèmes d'IA dont les résultats sont utilisés dans l'Union, y compris ceux dont les fournisseurs ou utilisateurs sont situés dans un pays tiers<fnref n="83" />. Sont néanmoins exclus du champ d'application du règlement les systèmes développés ou utilisés exclusivement à des fins militaires<fnref n="84" />. Dans son orientation générale adoptée en novembre 2022, le Conseil a élargi cette exclusion afin d'y intégrer également les systèmes d'IA développés ou utilisés à des fins militaires de façon non exclusive<fnref n="85" />. La modification permettra d'exclure du champ d'application du règlement les systèmes d'IA duaux. Le Conseil a également expressément exclu du champ d'application du règlement « la défense » et « la sécurité nationale ».

L'article 3 de la proposition énumère quarante-quatre définitions, dont celle, non pas de l'IA, mais du « système d'intelligence artificielle » (système d'IA). Celui-ci est défini comme étant

[...] un logiciel qui est développé au moyen d'une ou plusieurs des techniques et approches énumérées à l'annexe I et qui peut, pour un ensemble donné d'objectifs définis par l'homme, générer des résultats tels que des contenus, des prédictions, des recommandations ou des décisions influençant les environnements avec lesquels il interagit [...]<fnref n="86" />.

Dans un domaine où l'innovation technologique est bien plus rapide que l'évolution du droit, la Commission a proposé une définition « pensée pour être aussi neutre que possible sur le plan technologique et pour résister à l'épreuve du temps, en tenant compte de l'évolution rapide des technologies et du marché de l'IA »<fnref n="87" />. Le futur règlement repose sur une approche fondée sur l'évaluation des risques pesant sur la sécurité et/ou les droits

<footnote n="77">77. C. O'Neil, *Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy*, New York, Crown Books, 2016.</footnote>

<footnote n="78">78. Pt 247 de la résolution du Parlement européen du 3 mai 2022.</footnote>

<footnote n="79">79. *Ibid*.</footnote>

<footnote n="80">80. Cons. 1 de la proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l'intelligence artificielle.</footnote>

<footnote n="81">81. *Ibid.*, exposé des motifs, pt 1.1.</footnote>

<footnote n="82">82. Version consolidée du traité sur le fonctionnement de l'Union européenne, *Journal officiel de l'Union européenne*, C 326, 26 octobre 2012, p. 47-390.</footnote>

<footnote n="83">83. Art. 2 de la proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l'intelligence artificielle.</footnote>

<footnote n="84">84. *Ibid.*, art. 2.3.</footnote>

<footnote n="85">85. Orientation générale du Conseil de l'Union européenne sur la proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l'intelligence artificielle (législation sur l'intelligence artificielle) et modifiant certains actes législatifs de l'Union, 14954/22, 25 novembre 2022, en ligne : https://data.consilium.europa.eu/doc/document/ST-14954-2022-INIT/fr/pdf.</footnote>

<footnote n="86">86. Dans son orientation générale du 25 novembre 2022, le Conseil a restreint cette définition à des systèmes développés au moyen d'approches fondées sur la logique et les connaissances.</footnote>

<footnote n="87">87. Exposé des motifs, pt 5.2.1 de la proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l'intelligence artificielle.</footnote>
fondamentaux du fait de l'utilisation des systèmes d'IA. Comme toute technologie, l'IA peut être une opportunité ou un danger, selon l'usage qui en est fait, la proposition classe donc les systèmes d'IA en trois catégories selon qu'ils présentent un risque considéré comme inacceptable, élevé, ou faible. Le niveau de risque détermine les exigences s'imposant à chaque système d'IA.

Certaines utilisations de systèmes d'IA, présentant un risque considéré comme inacceptable, sont interdites<sup>88</sup>. Il s'agit des utilisations qui vont à l'encontre des valeurs de l'Union et qui sont susceptibles de violer des droits fondamentaux. Sont concernées les pratiques qui présentent un risque important de manipuler des personnes par des techniques subliminales agissant sur leur inconscient<sup>89</sup>, ou d'exploiter les vulnérabilités de groupes vulnérables spécifiques tels que les enfants ou les personnes handicapées afin d'altérer sensiblement leur comportement d'une manière susceptible de causer un préjudice psychologique ou physique à un membre de ces groupes ou à un tiers<sup>90</sup>. Sont également interdites la notation sociale, fondée sur l'IA, effectuée à des fins générales par les autorités publiques<sup>91</sup>, ainsi que l'utilisation de systèmes d'identification biométrique à distance « en temps réel » dans des espaces accessibles au public à des fins répressives<sup>92</sup>. Toutefois, cette dernière interdiction connaît plusieurs exceptions<sup>93</sup>, lorsque l'IA est utilisée à des fins répressives, dans des situations présentant une gravité particulière<sup>94</sup>. La possibilité de recourir à ces systèmes dans des situations dérogatoires est néanmoins subordonnée à l'autorisation d'un juge ou d'une autorité administrative compétente<sup>95</sup> et doit avoir été préalablement établie dans le droit national<sup>96</sup>.

Certains systèmes d'IA présentant un risque élevé pour la santé, la sécurité ou les droits fondamentaux des personnes physiques sont autorisés sur le marché européen, mais à de strictes conditions<sup>97</sup>. La classification d'un système d'IA comme étant à haut risque repose sur sa fonction, mais également sur sa finalité et les modalités

spécifiques pour lesquelles il est utilisé<sup>98</sup>. Deux grandes catégories de systèmes à haut risque sont distinguées: ceux destinés à être utilisés en tant que composants de sécurité de produits qui sont déjà couverts par une législation harmonisée de l'Union sur la sécurité des produits et qui font l'objet d'une évaluation de la conformité par un tiers, avant leur mise sur le marché ou leur mise en service, tels que par exemple les jouets, ou les machines ou dispositifs médicaux<sup>99</sup>; et ceux qui sont des systèmes autonomes, susceptibles de violer les droits fondamentaux de l'Union. Cette dernière hypothèse concerne notamment des systèmes qui interviennent dans le domaine de l'identification biométrique; des infrastructures critiques; de l'éducation et la formation professionnelle; de l'emploi; de l'accès aux services publics – y compris les prestations sociales – et aux services privés essentiels; de la migration, l'asile et le contrôle aux frontières ainsi que de la justice et des processus démocratiques<sup>100</sup>. Ces systèmes à haut risque sont soumis à une évaluation de leur conformité<sup>101</sup> avant la mise sur le marché ou la mise en service<sup>102</sup>; par la suite, toute « modification substantielle » du système doit également faire l'objet d'une nouvelle évaluation de conformité<sup>103</sup>. Les systèmes qui satisfont aux exigences de conformité obtiendront une « marque “CE” de conformité »<sup>104</sup>, et seront enregistrés dans une base de données de l'Union<sup>105</sup>. Dans un domaine dominé par une course vers une technologie toujours plus élaborée, la proposition de règlement habilite également la Commission à adopter des actes délégués pour étendre la liste de systèmes d'IA à haut risque, en appliquant un ensemble de critères et une méthode d'évaluation des risques<sup>106</sup>.

Certains systèmes, considérés comme ne présentant qu'un risque faible, sont simplement soumis à des « Obligations de transparence »<sup>107</sup>. Dans ce cadre, sont visés plusieurs systèmes d'IA : ceux destinés à interagir avec les humains et ceux qui génèrent ou manipulent des images ou des contenus audio ou vidéo. Sont également

<footnote n="88">88. Titre II, art. 5 de la proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l'intelligence artificielle.</footnote>

<footnote n="89">89. Ibid., art. 5.1.a.</footnote>

<footnote n="90">90. Ibid., art. 5.1.b.</footnote>

<footnote n="91">91. Ibid., art. 5.1.c.</footnote>

<footnote n="92">92. Ibid., art. 5.1.d.</footnote>

<footnote n="93">93. Ibid., art. 5.1.d, 5.2, 5.3, 5.4.</footnote>

<footnote n="94">94. V. L. Raposo, « The Use of Facial Recognition Technology by Law Enforcement in Europe: A Non-Orwellian Draft Proposal », *European Journal on Criminal Policy and Research*, juin 2022, note 10, en ligne : https://link.springer.com/article/10.1007/s10610-022-09512-y.</footnote>

<footnote n="95">95. Art. 5.3 de la proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l'intelligence artificielle.</footnote>

<footnote n="96">96. Ibid., art. 5.4.</footnote>

<footnote n="97">97. Ibid., titre III, art. 6 à 51.</footnote>

<footnote n="98">98. Ibid., art. 7.</footnote>

<footnote n="99">99. Ibid., art. 6.1.</footnote>

<footnote n="100">100. Ibid., art. 6.2 et annexe III.</footnote>

<footnote n="101">101. Les exigences minimales proposées sont le résultat de travaux préparatoires, menés sur la base des lignes directrices en matière d'éthique pour une IA digne de confiance, document rendu public le 8 avril 2019, en ligne : https://op.europa.eu/o/oportal-service/downloadbéhandler?identifier=d3988569-0434-11ea-8c1f-01aa75ed71a1&format=pdf&language=fr&productionSystem=cellar&part=.. Elles correspondent aux méthodes déjà utilisées par de nombreux opérateurs.</footnote>

<footnote n="102">102. Art. 19 de la proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l'intelligence artificielle.</footnote>

<footnote n="103">103. Ibid., art. 43.4.</footnote>

<footnote n="104">104. Ibid., art. 19 et 49.</footnote>

<footnote n="105">105. Ibid., art. 51.</footnote>

<footnote n="106">106. Ibid., art. 7.</footnote>

<footnote n="107">107. Ibid., titre IV, art. 52.</footnote>
concernés les systèmes de reconnaissance des émotions, ou de catégorisation sociale. Pour ces systèmes, la proposition précise que les utilisateurs devront être informés qu'ils interagissent avec un système d'IA<fnref n="108" />.

Le contrôle de la mise en œuvre du règlement relève tant de la sphère nationale que de l'Union.

## B. La mise en place d'une gouvernance européenne de l'IA

La mise en œuvre du règlement incombe aux autorités nationales compétentes, ainsi qu'à un futur comité de l'IA. Les États membres doivent établir ou désigner les autorités nationales compétentes pour assurer l'application et la mise en œuvre du règlement. Celles-ci seront compétentes pour procéder à toutes vérifications utiles à l'égard des systèmes d'IA présentant un risque au niveau national pour la santé, la sécurité ou les droits fondamentaux, et, si le risque se confirme, pour inviter un fournisseur à prendre des mesures appropriées ou même à retirer un système du marché<fnref n="109" />. En France, le Conseil d'État préconise une transformation de la Commission nationale de l'informatique et des libertés (CNIL) en autorité nationale responsable de la régulation des systèmes d'IA, notamment publics<fnref n="110" />.

Le projet de règlement prévoit également un mécanisme de partage de l'information avec toutes les autorités nationales chargées de la protection des droits fondamentaux pouvant être affectées par ce risque<fnref n="111" />.

Une violation des dispositions du règlement pourra donner lieu à des sanctions « effectives, proportionnées et dissuasives »<fnref n="112" />, dont le régime sera déterminé par les États et qui devra tenir compte des intérêts particuliers et de la viabilité économique des petits fournisseurs et des jeunes entreprises<fnref n="113" />. En cas de pratiques interdites par le règlement, ou de non-respect par un système d'IA à haut risque des jeux de données<fnref n="114" />, les amendes pourront

s'élever jusqu'à 30 000 000 d'euros ou 6 % du chiffre d'affaires mondial annuel, si l'auteur de l'infraction est une entreprise. En cas de non-respect d'autres obligations, posées par le règlement, les amendes pourront aller de 10 000 000 à 20 000 000 d'euros, ou, si l'auteur de l'infraction est une entreprise, de 2 % à 4 % de son chiffre d'affaires mondial annuel<fnref n="115" />.

La proposition de règlement prévoit également la création d'un Comité européen de l'intelligence artificielle<fnref n="116" />. Celui-ci, présidé par la Commission<fnref n="117" />, sera composé des autorités de contrôle nationales et du Contrôleur européen de la protection des données. Il aura pour rôle de fournir conseils et assistance à la Commission pour la mise en œuvre du règlement. Il pourra notamment recueillir l'expertise et les bonnes pratiques des États membres et les partager ; contribuer à l'harmonisation des pratiques administratives dans les États membres ; formuler des avis, des recommandations ou des contributions écrites sur des questions liées à la mise en œuvre du présent règlement, en particulier sur les spécifications techniques ou sur l'élaboration de documents d'orientation.

Dans sa recherche de l'équilibre, entre l'encouragement de l'innovation technologique et la protection des valeurs et des droits fondamentaux, l'Union tente de parvenir à un texte pouvant bénéficier d'une portée internationale, avec une proposition dont le champ d'application est extraterritorial et permet d'impacter tous les acteurs de la chaîne de commercialisation d'un système d'IA. Dans une résolution du 3 mai 2022, le Parlement européen a lancé un « appel urgent à l'action : [...] les futures normes technologiques risquent d'être élaborées sans une contribution suffisante de l'Union »<fnref n="118" />. Le processus législatif est toujours en cours, mais, quelles que soient les évolutions à venir du projet, les principes qui le guident ne devraient pas changer : le respect de l'éthique, qui interdit ou limite l'utilisation de l'IA potentiellement dangereuse pour les humains concernés et la mise en place d'une gouvernance européenne de l'IA.

<footnote n="108">108. Ibid.</footnote>

<footnote n="109">109. Ibid., art. 65.</footnote>

<footnote n="110">110. Conseil d'État, « Intelligence artificielle et action publique... », plus particulièrement pt 4.2.3, p. 200 sq.</footnote>

<footnote n="111">111. Art. 62 de la proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l'intelligence artificielle.</footnote>

<footnote n="112">112. Ibid., art. 71.</footnote>

<footnote n="113">113. Ibid.</footnote>

<footnote n="114">114. Ibid., art. 10.</footnote>

<footnote n="115">115. Ibid., art. 71.</footnote>

<footnote n="116">116. Ibid., art. 56 à 58.</footnote>

<footnote n="117">117. Dans la version révisée du Conseil de décembre 2022, sont également intégrés les représentants des États membres et la Commission n'a plus qu'un rôle d'observateur.</footnote>

<footnote n="118">118. Pt 294 de la résolution du Parlement européen du 3 mai 2022.</footnote>