# Règlement sur l'intelligence artificielle - version enrichie

Bertrand Cassar

► To cite this version:

Bertrand Cassar. Règlement sur l'intelligence artificielle - version enrichie. 2024. halshs-04680624

HAL Id: halshs-04680624

https://shs.hal.science/halshs-04680624v1

Preprint submitted on 28 Aug 2024

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
# Règlement sur l'intelligence artificielle

## Version enrichie

Règlement (UE) 2024/1689 du Parlement européen et du Conseil, 13 juin 2024, établissant des règles harmonisées concernant l'intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828 (règlement sur l'intelligence artificielle) (Texte présentant de l'intérêt pour l'EEE)

## Descripteur EUROVOC

innovation ; intelligence artificielle ; marché unique ; nouvelle technologie ; harmonisation des normes ; autorisation de vente ; technologie intelligente

ELI : http://data.europa.eu/eli/reg/2024/1689/oj

JOUÉ : JO L, 2024/1689, 12.7.2024

ISSN : 1977-0693 (electronic edition)

Numéro du texte : 2024/1689

Numéro CELEX : 32024R1689

Numéro du Conseil : PE/24/2024/REV/1

Citation Reflex : règl. (UE) n° 2024/1689 du PE et du Cons. UE, 13 juin. 2024

<figure><img src="image_2.png" /></figure>

enrichie à partir du système d'IA à usage général Ordalie

O

réalisé par Bertrand Cassar, Docteur en droit, Co-responsable des Diplômes universitaires « Transformation numérique du droit » et « Data / IA, Droit du numérique » à l'Université Paris 1 Panthéon-Sorbonne, chargé d'enseignement à l'Institut catholique de Paris et chercheur associé au CEIPI de l'Université de Strasbourg
<figure><img src="image_3.png" /></figure>
<table><tr><td>SECTION 2 - Obligations incombant aux fournisseurs de modèles d'IA à usage général</td><td>124</td></tr><tr><td>Article 53 - Obligations incombant aux fournisseurs de modèles d'IA à usage général</td><td>124</td></tr><tr><td>Article 54 - Mandataires des fournisseurs de modèles d'IA à usage général</td><td>125</td></tr></table>

<table><tr><td>SECTION 3 - Obligations incombant aux fournisseurs de modèles d'IA à usage général présentant un risque systémique</td><td>126</td></tr><tr><td>Article 55 - Obligations incombant aux fournisseurs de modèles d'IA à usage général présentant un risque systémique</td><td>126</td></tr></table>

<table><tr><td>SECTION 4 - Codes de bonnes pratiques</td><td>126</td></tr><tr><td>Article 56 - Codes de bonne pratique</td><td>126</td></tr></table>

<table><tr><td>CHAPITRE VI - MESURES DE SOUTIEN À L'INNOVATION</td><td>128</td></tr></table>

<table><tr><td>Article 57 - Bacs à sable réglementaires de l'IA</td><td>128</td></tr><tr><td>Article 58 - Modalités détaillées pour les bacs à sable réglementaires de l'IA et fonctionnement de ceux-ci</td><td>130</td></tr><tr><td>Article 59 - Traitement ultérieur de données à caractère personnel en vue du développement de certains systèmes d'IA dans l'intérêt public dans le cadre du bac à sable réglementaire de l'IA</td><td>132</td></tr><tr><td>Article 60 - Essais de systèmes d'IA à haut risque en conditions réelles en dehors des bacs à sable réglementaires de l'IA</td><td>134</td></tr><tr><td>Article 61 - Consentement éclairé à participer aux essais en conditions réelles en dehors des bacs à sable réglementaires de l'IA</td><td>136</td></tr><tr><td>Article 62 - Mesures en faveur des fournisseurs et déployeurs, en particulier les PME, y compris les jeunes pousses</td><td>136</td></tr><tr><td>Article 63 - Dérogations pour des opérateurs spécifiques</td><td>137</td></tr></table>

<table><tr><td>CHAPITRE VII - GOUVERNANCE</td><td>138</td></tr></table>

<table><tr><td>SECTION 1 - Gouvernance au niveau de l'Union</td><td>138</td></tr><tr><td>Article 64 - Bureau de l'IA</td><td>138</td></tr><tr><td>Article 65 - Création et structure du Comité européen de l'intelligence artificielle</td><td>138</td></tr><tr><td>Article 66 - Tâches du Comité IA</td><td>139</td></tr><tr><td>Article 67 - Forum consultatif</td><td>141</td></tr><tr><td>Article 68 - Groupe scientifique d'experts indépendants</td><td>141</td></tr><tr><td>Article 69 - Accès des États membres au groupe scientifique</td><td>142</td></tr></table>

<table><tr><td>SECTION 2 - Autorités nationales compétentes</td><td>143</td></tr><tr><td>Article 70 - Désignation des autorités nationales compétentes et des points de contact uniques</td><td>143</td></tr><tr><td>CHAPITRE VIII - BASE DE DONNÉES DE L'UE POUR LES SYSTÈMES D'IA À HAUT RISQUE</td><td>144</td></tr></table>

<table><tr><td>Article 71 - Base de données de l'UE pour les systèmes d'IA à haut risque énumérés à l'annexe III</td><td>144</td></tr><tr><td>CHAPITRE IX - SURVEILLANCE APRÈS COMMERCIALISATION, PARTAGE D'INFORMATIONS ET SURVEILLANCE DU MARCHÉ</td><td>145</td></tr></table>

<table><tr><td>SECTION 1 - Surveillance après commercialisation</td><td>145</td></tr><tr><td>Article 72 - Surveillance après commercialisation par les fournisseurs et plan de surveillance après commercialisation pour les systèmes d'IA à haut risque</td><td>145</td></tr></table>

<table><tr><td>SECTION 2 - Partage d'informations sur les incidents graves</td><td>146</td></tr><tr><td>Article 73 - Signalement d'incidents graves</td><td>146</td></tr></table>

<table><tr><td>SECTION 3 - Contrôle de l'application</td><td>147</td></tr><tr><td>Article 74 - Surveillance du marché et contrôle des systèmes d'IA sur le marché de l'Union</td><td>147</td></tr><tr><td>Article 75 - Assistance mutuelle, surveillance du marché et contrôle des systèmes d'IA à usage général</td><td>149</td></tr><tr><td>Article 76 - Supervision des essais en conditions réelles par les autorités de surveillance du marché</td><td>150</td></tr><tr><td>Article 77 - Pouvoirs des autorités de protection des droits fondamentaux</td><td>150</td></tr><tr><td>Article 78 - Confidentialité</td><td>151</td></tr><tr><td>Article 79 - Procédure applicable au niveau national aux systèmes d'IA présentant un risque</td><td>152</td></tr><tr><td>Article 80 - Procédure applicable aux systèmes d'IA classés par le fournisseur comme n'étant pas à haut risque en application de l'annexe III</td><td>154</td></tr><tr><td>Article 81 - Procédure de sauvegarde de l'Union</td><td>154</td></tr><tr><td>Article 82 - Systèmes d'IA conformes qui présentent un risque</td><td>155</td></tr><tr><td>Article 83 - Non-conformité formelle</td><td>156</td></tr><tr><td>Article 84 - Structures de soutien de l'Union pour les essais en matière d'IA</td><td>156</td></tr></table>

<table><tr><td>SECTION 4 - Voies de recours</td><td>156</td></tr><tr><td>Article 85 - Droit d'introduire une réclamation auprès d'une autorité de surveillance du marché</td><td>156</td></tr><tr><td>Article 86 - Droit à l'explication des décisions individuelles</td><td>157</td></tr><tr><td>Article 87 - Signalement de violations et protection des auteurs de signalement</td><td>157</td></tr></table>

<table><tr><td>SECTION 5 - Surveillance, enquêtes, contrôle de l'application et contrôle en ce qui concerne les fournisseurs de modèles d'IA à usage général</td><td>157</td></tr><tr><td>Article 88 - Contrôle de l'exécution des obligations incombant aux fournisseurs de modèles d'IA à usage général</td><td>157</td></tr><tr><td>Article 89 - Mesures de contrôle</td><td>157</td></tr><tr><td>Article 90 - Alertes de risques systémiques données par le groupe scientifique</td><td>158</td></tr><tr><td>Article 91 - Pouvoir de demander de la documentation et des informations</td><td>158</td></tr><tr><td>Article 92 - Pouvoir de procéder à des évaluations</td><td>159</td></tr><tr><td>Article 93 - Pouvoir de demander des mesures</td><td>159</td></tr><tr><td>Article 94 - Droits procéduraux des opérateurs économiques du modèle d'IA à usage général</td><td>160</td></tr></table>

<table><tr><td>CHAPITRE X - CODES DE CONDUITE ET LIGNES DIRECTRICES</td><td>160</td></tr></table>

<table><tr><td>Article 95 - Codes de conduite pour l'application volontaire de certaines exigences</td><td>160</td></tr><tr><td>Article 96 - Lignes directrices de la Commission sur la mise en œuvre du présent règlement</td><td>161</td></tr><tr><td>CHAPITRE XI - DÉLÉGATION DE POUVOIR ET PROCÉDURE DE COMITÉ</td><td>162</td></tr></table>

<table><tr><td>Article 97 - Exercice de la délégation</td><td>162</td></tr><tr><td>Article 98 - Comité</td><td>162</td></tr><tr><td>CHAPITRE XII - SANCTIONS</td><td>163</td></tr></table>

<table><tr><td>Article 99 - Sanctions</td><td>163</td></tr><tr><td>Article 100 - Amendes administratives imposées aux institutions, organes et organismes de l'Union</td><td>164</td></tr><tr><td>Article 101 - Amendes applicables aux fournisseurs de modèles d'IA à usage général</td><td>166</td></tr><tr><td>CHAPITRE XIII - DISPOSITIONS FINALES</td><td>166</td></tr></table>

<table><tr><td>Article 102 - Modification du règlement (CE) n° 300/2008</td><td>166</td></tr></table>
Le présent document a été réalisé afin de **simplifier la lecture** d'un texte européen majeur, en réalisant une succession d'opérations informatiques simples. Il est à destination de toute personne intéressée par le droit du numérique ainsi que des professionnels, qui auront la charge d'assurer les exigences de conformité prévues par ce texte.

La méthode utilisée consiste en un **enrichissement d'un texte initial** (règ. (UE) n° 2024/1689) à partir de différentes sources d'information. Pour ce faire, il a été nécessaire d'extraire le texte brut du site Eur-Lex, avant de le restructurer dans un logiciel de traitement de texte. La construction de la structure a été nécessaire pour garantir des renvois précis et clairs.

Une fois la structure établie, les **liens ont été réalisés entre chaque considérant et les articles associés**, à partir de la publication de M. Kai ZENNER, chef de cabinet et conseiller en politique numérique pour le député européen Axel VOSS (Groupe PPE, auteur d'un rapport d'initiative sur les règles de responsabilité en matière d'IA). De plus, **des renvois ont été insérés** au sein de chaque article du présent texte, chaque annexe ou tous textes européens externes.

Afin d'enrichir le texte de différentes définitions, celles prévues à l'article 3 ont été balisées par signet et ajoutées dans l'ensemble du texte. Les **définitions de la Commission d'enrichissement de la langue française** – publiées au *Journal officiel* de la République française (JOUE) et contenues sur la base *FranceTerme* – ont été ajoutées dans les considérants. Enfin, les **définitions ou les renvois à des textes externes** ont été soit ajoutés en note de bas de page, soit résumés par le biais du système d'IA à usage général « Ordalie ». Les **considérants relatifs à une définition** ou à un terme spécifique ont été ajoutés directement dans le corps du texte.

Les articles ont été complétés d'un lien vers le site Eur-Lex, afin de pouvoir accéder à la dernière version en vigueur du texte, à la date d'entrée en application des mesures et à un **résumé synthétique réalisé par le système d'IA à usage général** « Ordalie ».

Enfin, l'ensemble de la **documentation relative au présent règlement** a été condensée dans une partie dédiée, à partir de Eur-Lex, de l'Observatoire législatif et de Consilium, en listant notamment :

* Les **normes harmonisées** attendues ;

* Les **actes délégués** et les **actes d'exécution** ;

* Les **lignes directrices**, les **codes de conduite** et les **codes de bonne pratique** ;

* L'ensemble des **documents relatifs à la procédure**, ainsi que ;

* La liste de l'ensemble des **réglementations et normes citées par le présent règlement** et ;

* Celles **relatives à l'intelligence artificielle**, pour faciliter l'articulation de ce texte avec d'autres législations européennes.

Enfin, les informations ont été complétées à partir de travaux de recherche, notamment :

* CASSAR B., La génération de données synthétiques par des systèmes d'intelligence artificielle, une nouvelle méthode de protection et de valorisation des données, Dalloz IP/IT 2024, p. 282 ⚙️

* CASSAR B., L'importance de la gouvernance des données dans l'usage de systèmes d'IA générative, Dalloz IP/IT 2023, p. 513 ⚙️

* L'articulation du projet de règlement sur l'intelligence artificielle avec le droit du numérique européen, Dalloz Actualités, 17 juil. 2023, obs. CASSAR B., GALBOIS-LEHALLE D. et PLEDEL C. ⚙️

* Panorama international des enjeux autour de l'intelligence artificielle générative, Dalloz Actualités, 28 juin 2023, obs. CASSAR B. ⚙️

* CASSAR B., Entre innovation et protection, les interactions complexes entre l'intelligence artificielle et la propriété intellectuelle, JCP E 2024, (à venir)
## Légendes et utilisation du document

Le présent document est une version enrichie du règlement sur l'intelligence artificielle, tel que publié le 12 juillet 2024. Seul le texte original, publié au Journal officiel de l'Union européenne, fait foi et prévaut en cas de divergence avec le présent document.

Les résumés et les informations indiquées en **bleu foncé** sont des textes générés par le système d'IA à usage général « Ordalie ». Les lecteurs sont invités à vérifier et à valider toutes les informations contenues dans le texte généré avant de l'utiliser.

Pour simplifier l'usage du document, de nombreux liens et renvois ont été ajoutés. Ainsi, les six codes couleur suivants ont été adoptés pour indiquer la teneur de l'information :

* Les liens en **bleu turquoise** ou le symbole 🤫 indiquent un document accessible à l'externe ;

* Les liens en **gris** constituent des informations contenues en interne, la navigation entre les articles et les considérants est également indiquée par un texte **gris** cliquable sous le titre de l'article ou à la fin des considérants ;

* Les textes en **dorés** sont relatifs à une définition située en note de bas de page ou un renvoi à un considérant aidant à la clarification d'une notion (par exemple : ☐(135));

* Les liens en **bleu lien** renvoient uniquement sur le JOUE ou sur certain numéro de documentation européenne ;

* Les textes en **rouge** précédés d'un tilde (~) indiquent la date d'entrée en application ;

* Les textes en **bleu foncé** sont ceux produits par « Ordalie », le renvoi vers l'analyse des articles est matérialisé par un texte de couleur **taupe** avec le symbole 👤 pour aller vers l'analyse artificielle (le résumé) et par le symbole 📄 pour revenir vers l'article.

## Bibliographie

* Eur-Lex, notamment :

* Le règlement : http://data.europa.eu/eli/reg/2024/1689/oj

* Le comparatif français-anglais : https://eur-lex.europa.eu/legal-content/FR-EN/TXT/?uri=CELEX:32024R1689

* Observatoire législatif du Parlement européen : https://oeil.secure.europarl.europa.eu/oeil/popups/ficheprocedure.do?lang=fr&reference=2021/0106(OLP)

* Consilium : https://www.consilium.europa.eu/fr/

* Commission européenne : https://digital-strategy.ec.europa.eu/fr

* FranceTerme : https://www.culture.fr/franceterme

* Digitizing Europe : https://www.kaizenner.eu/post/the-ai-act-recitals

* HAL : https://cv.hal.science/bertrand-cassar

Ainsi que :

* Reflex : https://reflex.sne.fr/

* AI Label : https://ai-label.org/

* Creative commons : https://creativecommons.org/

Avec l'assistance de :

* Ordalie : https://ordalie.ai/

* Feuillet pratique, pour utiliser un système d'IA générative : https://shs.hal.science/halshs-04655210
Dates des principales mesures

13/06/2024 Date de signature

12/07/2024 Date de publication

01/08/2024 Entrée en vigueur (20 jours après la publication, article 113)

02/08/2024 Entrée en application partielle (le lendemain de l'entrée en vigueur, article 113)

02/02/2025 Mise en application partielle, s'agissant des dispositions relatives aux dispositions générales et aux pratiques interdites (article 113, a)

02/08/2025 Mise en application partielle, s'agissant des dispositions relatives aux autorités notifiantes et organismes notifiés, les modèles d'IA à usage général, la gouvernance et les sanctions (à l'exception de celles relatives aux amendes applicables aux fournisseurs de modèles d'IA à usage général) et les obligations de confidentialité (article 113, b)

02/08/2026 Mise en application (article 113)

02/08/2027 Mise en application partielle, concernant les systèmes d'IA à haut risque relevant de l'annexe I (article 113, c)

02/08/2027 Date limite, concernant les modèles d'IA à usage général mis sur le marché avant le 2 août 2025 (article 111, 3)

02/08/2028 Date limite, évaluation de la Commission sur la nécessité de modifications du règlement, le fonctionnement du Bureau de l'IA, l'état d'avancement des travaux de normalisation des modèles d'IA, et l'impact des codes de conduite volontaires, tous les quatre ans à partir (article 112, 2, 5, 6 et 7)

01/08/2029 Date limite, tacite reconduction de la délégation de pouvoir à la Commission d'adopter des actes délégués (article 97, 2)

02/08/2029 Date limite, rapport sur l'évaluation et le réexamen de la règlementation, tous les quatre ans par la Commission (article 112, 3)

02/08/2030 Date limite, s'agissant des systèmes d'IA à haut risque destinés à être utilisés par des autorités publiques mis sur le marché avant le 2 août 2026 et n'ayant pas fait l'objet de modifications substantielles (article 111, 2)

31/12/2030 Date limite, s'agissant des systèmes d'IA utilisées comme composants des systèmes d'information à grande échelle établis par les actes juridiques énumérés à l'annexe X et mis sur le marché ou mis en service avant le 2 août 2027 (article 111, 1)

02/08/2031 Date limite, évaluation de la mise en application par la Commission et éventuelle proposition de modification (article 112, 13)

Sans date de fin de validité
# RÈGLEMENT (UE) 2024/1689 DU PARLEMENT EUROPÉEN ET DU CONSEIL

du 13 juin 2024

établissant des règles harmonisées concernant l'intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828 (règlement sur l'intelligence artificielle) (Texte présentant de l'intérêt pour l'EEE)

LE PARLEMENT EUROPÉEN ET LE CONSEIL DE L'UNION EUROPÉENNE,

vu le *Traité sur le fonctionnement de l'Union européenne*, et notamment ses articles 16 et 114,

vu la proposition de la Commission européenne,

après transmission du projet d'acte législatif aux parlements nationaux,

vu l'*avis du Comité économique et social européen*,

vu l'*avis de la Banque centrale européenne*,

vu l'*avis du Comité des régions*,

statuant conformément à la procédure législative ordinaire<fnref n="1" />,

## considérant ce qui suit :

(1) L'objectif du présent règlement est d'améliorer le fonctionnement du marché intérieur en établissant un cadre juridique uniforme, en particulier pour le développement, la *mise sur le marché*, la *mise en service* et l'utilisation de systèmes d'intelligence artificielle (ci-après dénommés « *système d'IA* ») dans l'Union, dans le respect des valeurs de l'Union, de promouvoir l'adoption de l'*intelligence artificielle* <fnref n="2" /> (IA) axée sur l'humain et digne de confiance tout en garantissant un niveau élevé de protection de la santé, de la sécurité et des droits fondamentaux consacrés dans la *Charte des droits fondamentaux de l'Union européenne* (ci-après dénommée « *Charte* »), y compris la démocratie, l'état de droit et la protection de l'environnement, de protéger contre les effets néfastes des *systèmes d'IA* dans l'Union, et de soutenir l'innovation. Le présent règlement garantit la libre circulation transfrontière des biens et services fondés sur l'IA, empêchant ainsi les États membres d'imposer des restrictions au développement, à la commercialisation et à l'utilisation de *systèmes d'IA*, sauf autorisation expresse du présent règlement.

* en lien avec : *Article 1er - Objet*

(2) Le présent règlement devrait être appliqué dans le respect des valeurs de l'Union consacrées dans la *Charte*, en facilitant la protection des personnes physiques, des entreprises, de la démocratie, de l'état de droit et de l'environnement, tout en stimulant l'innovation et l'emploi et en faisant de l'Union un acteur de premier plan dans l'adoption d'une IA digne de confiance.

* en lien avec : *Article 1er - Objet*

(3) Les systèmes d'IA peuvent être facilement déployés dans un large éventail de secteurs de l'économie et dans de nombreux pans de la société, y compris transfrontières, et peuvent

<footnote n="1">¹ Position du Parlement européen du 13 mars 2024 (non encore parue au Journal officiel) et décision du Conseil du 21 mai 2024.</footnote>

<footnote n="2">² *Intelligence artificielle* : Champ interdisciplinaire théorique et pratique qui a pour objet la compréhension de mécanismes de la cognition et de la réflexion, et leur imitation par un dispositif matériel et logiciel, à des fins d'assistance ou de substitution à des activités humaines.</footnote>
facilement circuler dans toute l'Union. Certains États membres ont déjà envisagé l'adoption de
règles nationales destinées à faire en sorte que l'IA soit digne de confiance et sûre et à ce
qu'elle soit développée et utilisée dans le respect des obligations en matière de droits
fondamentaux. Le fait que les règles nationales divergent peut entraîner une fragmentation du
marché intérieur et peut réduire la sécurité juridique pour les opérateurs qui développent,
importent ou utilisent des systèmes d'IA. Il convient donc de garantir un niveau de protection
cohérent et élevé dans toute l'Union afin de parvenir à une IA digne de confiance, et d'éviter
les divergences qui entravent la libre circulation, l'innovation, le déploiement et l'adoption des
systèmes d'IA et des produits et services connexes au sein du marché intérieur, en établissant
des obligations uniformes pour les opérateurs et en garantissant la protection uniforme des
raisons impérieuses d'intérêt général et des droits des citoyens dans l'ensemble du marché
intérieur sur la base de l'article 114 du Traité sur le fonctionnement de l'Union européenne<fnref n="3" />.
Dans la mesure où le présent règlement contient des règles spécifiques sur la protection des
personnes physiques en ce qui concerne le traitement des données à caractère personnel, à
savoir des restrictions portant sur l'utilisation de systèmes d'IA pour l'identification
biométrique à distance à des fins répressives, sur l'utilisation de systèmes d'IA pour l'évaluation
des risques liés à des personnes physiques à des fins répressives, et sur l'utilisation de systèmes
d'IA de systèmes de catégorisation biométrique à des fins répressives, il convient de fonder le
présent règlement, pour ce qui est de ces règles spécifiques, sur l'article 16 du Traité sur le
fonctionnement de l'Union européenne<fnref n="4" />. Compte tenu de ces règles spécifiques et du recours
à l'article 16 du Traité sur le fonctionnement de l'Union européenne, il convient de consulter
le Comité européen de la protection des données.

* en lien avec : **Article 1er - Objet et Article 5 - Pratiques interdites en matière d'IA**

(4) L'IA est une famille de technologies en évolution rapide, contribuant à un large éventail de bienfaits économiques, environnementaux et sociétaux touchant l'ensemble des secteurs économiques et des activités sociales. En fournissant de meilleures prédictions, en optimisant les processus et l'allocation des ressources et en personnalisant les solutions numériques disponibles pour les particuliers et les organisations, le recours à l'IA peut donner des avantages concurrentiels décisifs aux entreprises et produire des résultats bénéfiques pour la société et l'environnement, dans des domaines tels que les soins de santé, l'agriculture, la sécurité des aliments, l'éducation et la formation, les médias, le sport, la culture, la gestion des infrastructures, l'énergie, les transports et la logistique, les services publics, la sécurité, la justice, l'utilisation efficace des ressources et de l'énergie, la surveillance de l'environnement, la préservation et la restauration de la biodiversité et des écosystèmes ainsi que l'atténuation du changement climatique et l'adaptation à celui-ci.

* en lien avec : **Étude d'impact, son annexe et son résumé**

(5) Cependant, en fonction des circonstances concernant son application et son utilisation et du niveau de développement technologique, l'IA peut générer des risques et porter atteinte aux intérêts publics et aux droits fondamentaux protégés par le droit de l'Union. Le préjudice causé peut être matériel ou immatériel, y compris physique, psychologique, sociétal ou économique.

* en lien avec : **Étude d'impact, son annexe et son résumé**

(6) Compte tenu de l'incidence majeure que l'IA peut avoir sur nos sociétés et de la nécessité de bâtir la confiance, l'IA et son cadre réglementaire doivent impérativement être élaborés dans le respect des valeurs de l'Union consacrées à l'article 2 du Traité sur l'Union européenne<fnref n="5" />, des

<footnote n="3">³ L'article 114 du TFUE régit le rapprochement des législations des États membres pour le marché intérieur, excluant les dispositions fiscales, la libre circulation des personnes et les droits des travailleurs, tout en permettant des dérogations nationales sous certaines conditions.</footnote>

<footnote n="4">⁴ L'article 16 du TFUE garantit le droit à la protection des données personnelles et charge le Parlement européen et le Conseil de fixer les règles de protection des données, contrôlées par des autorités indépendantes, sans préjudice des règles spécifiques de l'article 39 du TU.</footnote>

<footnote n="5">⁵ L'Union européenne est fondée sur les valeurs de dignité humaine, liberté, démocratie, égalité, État de droit, et respect des droits de l'homme, partagées par les États membres dans une société de pluralisme, non-discrimination, tolérance, justice, solidarité et égalité des sexes.</footnote>
droits et libertés fondamentaux prévus par les traités, et, conformément à l'article 6 du Traité
sur l'Union européenne<fnref n="6" />, de la Charte. Il est indispensable que l'IA soit une technologie axée
sur l'humain. Elle devrait servir d'outil aux personnes, dans le but ultime d'accroître le bien-être
des humains.

➤ en lien avec : Article 1er - Objet

(7) Afin d'assurer un niveau cohérent et élevé de protection des intérêts publics en ce qui concerne la santé, la sécurité et les droits fondamentaux, il convient d'établir des règles communes pour les **systèmes d'IA** à haut risque. Ces règles devraient être conformes à la **Charte**, non discriminatoires et compatibles avec les engagements commerciaux internationaux de l'Union. Elles devraient également tenir compte de la **Déclaration européenne sur les droits et principes numériques pour la décennie numérique** et des **Lignes directrices en matière d'éthique pour une IA digne de confiance** rédigées par le **Groupe d'experts de haut niveau sur l'intelligence artificielle** (ci-après dénommé « GEHN IA »).

➤ en lien avec : Article 1er - Objet

(8) Un cadre juridique de l'Union établissant des règles harmonisées sur l'IA est donc nécessaire pour favoriser le développement, l'utilisation et l'adoption de l'IA dans le marché intérieur, tout en garantissant un niveau élevé de protection des intérêts publics, comme la santé et la sécurité, et de protection des droits fondamentaux, y compris la démocratie, l'état de droit et la protection de l'environnement, tels qu'ils sont reconnus et protégés par le droit de l'Union. Pour atteindre cet objectif, des règles régissant la mise sur le marché, la mise en service et l'utilisation de certains systèmes d'IA devraient être établies, garantissant ainsi le bon fonctionnement du marché intérieur et permettant à ces systèmes de bénéficier du principe de libre circulation des marchandises et des services. Ces règles devraient être claires et solides pour protéger les droits fondamentaux, soutenir de nouvelles solutions innovantes, permettre la mise en place d'un écosystème européen d'acteurs publics et privés créant des **système d'IA** conformes aux valeurs de l'Union, et libérer le potentiel de la **transformation numérique**<fnref n="7" /> dans l'ensemble des régions de l'Union. En établissant ces règles, ainsi que des mesures en faveur de l'innovation mettant un accent particulier sur les petites et moyennes entreprises (PME), parmi lesquelles les jeunes pousses<fnref n="8" />, le présent règlement contribue à la réalisation de l'objectif qui consiste à promouvoir l'approche européenne de l'IA axée sur l'humain et faire de l'UE un acteur mondial de premier plan dans le développement d'une IA sûre, fiable et éthique, ainsi que l'avait formulé le Conseil européen (Conclusions, EUCO 13/20, 2020), et il garantit la protection de principes éthiques expressément demandée par le Parlement européen (2020/2012 (INL)).

➤ en lien avec : Article 1er - Objet

(9) Des règles harmonisées applicables à la mise sur le marché, à la mise en service et à l'utilisation de systèmes d'IA à haut risque devraient être établies conformément au règlement (CE) n° 765/2008 du Parlement européen et du Conseil, à la décision n° 768/2008/CE du Parlement européen et du Conseil et au règlement (UE) 2019/1020 du Parlement européen et du Conseil (ci-après dénommé « Nouveau cadre législatif »). Les règles harmonisées énoncées dans le présent règlement devraient s'appliquer dans tous les secteurs et, conformément au Nouveau cadre législatif, être sans préjudice du droit de l'Union en vigueur, en particulier en ce qui concerne la protection des données, la protection des consommateurs, les droits fondamentaux, l'emploi et la protection des travailleurs, et la sécurité des produits, que le présent règlement vient compléter. En conséquence, tous les droits et recours prévus par ce droit de l'Union pour les consommateurs et les autres personnes sur lesquelles les systèmes d'IA sont susceptibles d'avoir des incidences négatives, y compris en ce qui concerne la

<footnote n="6">⁶ L'Union reconnaît les droits et principes de la Charte des droits fondamentaux, adhère à la Convention européenne des droits de l'Homme, et intègre les droits fondamentaux issus des traditions constitutionnelles des États membres dans le droit de l'Union.</footnote>

<footnote n="7">⁷ *Transformation numérique* : Transformation d'une organisation, d'un secteur d'activité ou de pratiques économiques ou sociales par la mise en œuvre systématique de l'informatique connectée.</footnote>

<footnote n="8">⁸ *Jeune pousse* : Jeune entreprise innovante et dynamique, à croissance rapide.</footnote>
réparation de dommages éventuels conformément à la directive 85/374/CEE du Conseil, demeurent inchangés et pleinement applicables. En outre, dans le contexte de l'emploi et de la protection des travailleurs, le présent règlement ne devrait donc pas avoir d'incidence sur le droit de l'Union en matière de politique sociale ni sur le droit national du travail, dans le respect du droit de l'Union, en ce qui concerne les conditions d'emploi et de travail, y compris la santé et la sécurité au travail et les relations entre employeurs et travailleurs. Par ailleurs, le présent règlement ne devrait pas porter atteinte à l'exercice des droits fondamentaux reconnus dans les États membres et au niveau de l'Union, notamment le droit ou la liberté de faire grève ou d'entreprendre d'autres actions prévues par les mécanismes de concertation sociale propres aux États membres, ainsi que le droit de négocier, de conclure et d'appliquer des conventions collectives ou de mener des actions collectives conformément au droit national. Le présent règlement ne devrait pas avoir d'incidence sur les dispositions visant à améliorer les conditions de travail dans le cadre du travail via une plateforme, établies dans la directive du Parlement européen et du Conseil relative à l'amélioration des conditions de travail dans le cadre du travail via une plateforme. De plus, le présent règlement vise à renforcer l'efficacité de ces droits et recours existants en établissant des exigences et des obligations spécifiques, y compris en ce qui concerne la transparence, la documentation technique et la tenue de registres des systèmes d'IA. Par ailleurs, les obligations imposées aux différents opérateurs intervenant dans la chaîne de valeur de l'IA en vertu du présent règlement devraient s'appliquer sans préjudice du droit national, dans le respect du droit de l'Union, ayant pour effet de limiter l'utilisation de certains systèmes d'IA lorsque ces législations ne relèvent pas du champ d'application du présent règlement ou poursuivent des objectifs légitimes d'intérêt public autres que ceux poursuivis par le présent règlement. Ainsi, le droit national du travail et les lois sur la protection des mineurs, à savoir des personnes âgées de moins de 18 ans, compte tenu de l'Observation générale n° 25 de la CNUDE de la Convention des Nations unies relative aux droits de l'enfant en relation avec l'environnement numérique, dans la mesure où ils ne sont pas spécifiques aux système d'IA et poursuivent d'autres objectifs légitimes d'intérêt public, ne devraient pas être affectés par le présent règlement.

en lien avec : *Article 2 - Champ d'application et Règlement (UE) 2022/2065*

(10) Le droit fondamental à la protection des données à caractère personnel est garanti en particulier par les règlements (UE) 2016/679 et (UE) 2018/1725 du Parlement européen et du Conseil, ainsi que par la directive (UE) 2016/680 du Parlement européen et du Conseil. Par ailleurs, la directive 2002/58/CE du Parlement européen et du Conseil protège la vie privée et la confidentialité des communications, y compris en prévoyant des conditions régissant le stockage de données à caractère personnel et non personnel dans des équipements terminaux ainsi que les conditions d'accès à ces données depuis ces équipements. Ces actes législatifs de l'Union servent de base à un traitement pérenne et responsable des données, y compris lorsque les ensembles de données contiennent un mélange de données à caractère personnel et de données à caractère non personnel. Le présent règlement n'entend pas modifier l'application du droit de l'Union régissant le traitement des données à caractère personnel, ni les tâches et les pouvoirs des autorités de contrôle indépendantes chargées de veiller au respect de ces instruments. Il n'a pas non plus d'incidence sur les obligations des fournisseur et des déployeurs de système d'IA en leur qualité de responsables du traitement ou de sous-traitants découlant du droit de l'Union ou du droit national relatif à la protection des données à caractère personnel dans la mesure où la conception, le développement ou l'utilisation de systèmes d'IA implique le traitement de données à caractère personnel. Il convient également de préciser que les personnes concernées continuent de jouir de tous les droits et garanties qui leur sont conférés par le droit de l'Union, dont les droits liés à la prise de décision individuelle entièrement automatisée, y compris le profilage. Des règles harmonisées concernant la mise sur le marché, la mise en service et l'utilisation des systèmes d'IA établies en vertu du présent règlement devraient faciliter la mise en œuvre effective des droits et autres voies de recours garantis par le droit de l'Union relatif à la protection des données à caractère
personnel et d'autres droits fondamentaux, et permettre aux personnes concernées de faire valoir ces droits et autres voies de recours.

* en lien avec : au 7 de l'Article 2 - Champ d'application

(11) Le présent règlement devrait être sans préjudice des dispositions relatives à la responsabilité des fournisseurs de services intermédiaires prévue dans le règlement (UE) 2022/2065 du Parlement européen et du Conseil.

* en lien avec : au 5 de l'Article 2 - Champ d'application

(12) La notion de « systèmes d'IA » figurant dans le présent règlement devrait être clairement définie et devrait être étroitement alignée sur les travaux des organisations internationales œuvrant dans le domaine de l'IA afin de garantir la sécurité juridique, et de faciliter la convergence internationale et une large acceptation, tout en offrant la souplesse nécessaire pour tenir compte des évolutions technologiques rapides dans ce domaine. En outre, la définition devrait être fondée sur les caractéristiques essentielles des systèmes d'IA qui la distinguent des systèmes logiciels ou des approches de programmation traditionnels plus simples, et ne devrait pas couvrir les systèmes fondés sur les règles définies uniquement par les personnes physiques pour exécuter automatiquement des opérations. Une caractéristique essentielle des systèmes d'IA est leur capacité d'inférence. Cette capacité d'inférence<fnref n="9" /> concerne le processus consistant à générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions, qui peuvent influencer l'environnement physique ou virtuel, et la capacité des systèmes d'IA à inférer des modèles ou des algorithmes, ou les deux, à partir d'entrées ou de données. Les techniques permettant l'inférence lors de la construction d'un système d'IA comprennent des approches d'apprentissage automatique qui apprennent à partir des données la manière d'atteindre certains objectifs, et des approches fondées sur la logique et les connaissances qui font des inférences à partir des connaissances encodées ou de la représentation symbolique de la tâche à résoudre. La capacité d'un système d'IA à faire des inférences va au-delà du traitement de données de base en ce qu'elle permet l'apprentissage, le raisonnement ou la modélisation. Le terme « fondé sur des machines » renvoie au fait que les systèmes d'IA tournent sur des machines. La référence à des objectifs explicites ou implicites souligne que les systèmes d'IA peuvent fonctionner selon des objectifs explicites définis ou des objectifs implicites. Les objectifs du système d'IA peuvent être différents de la destination du système d'IA dans un contexte spécifique. Aux fins du présent règlement, les environnements devraient s'entendre comme étant les contextes dans lesquels les systèmes d'IA fonctionnent, tandis que les sorties générées par le système d'IA correspondent à différentes fonctions exécutées par les systèmes d'IA et consistent en des prévisions, du contenu, des recommandations ou des décisions. Les systèmes d'IA sont conçus pour fonctionner à différents niveaux d'autonomie, ce qui signifie qu'ils bénéficient d'un certain degré d'indépendance dans leur action par rapport à une ingérence humaine et de capacités à fonctionner sans intervention humaine. La faculté d'adaptation dont un système d'IA pourrait faire preuve après son déploiement est liée à des capacités d'auto-apprentissage, qui permettent au système d'évoluer en cours d'utilisation. Les systèmes d'IA peuvent être utilisés seuls ou en tant que composant d'un produit, que le système soit physiquement incorporé dans le produit (intégré<fnref n="10" />) ou qu'il serve la fonctionnalité du produit sans y être incorporé (non intégré).

* en lien avec : le 1) de l'Article 3 - Définitions

<footnote n="9">⁹ La capacité d'inférence en IA permet à un système de générer des prédictions, recommandations ou décisions influençant l'environnement, en apprenant à partir des données ou en utilisant des connaissances encodées. Les systèmes experts sont concernés par la capacité d'inférence car ils utilisent des connaissances encodées et des représentations symboliques pour faire des inférences et résoudre des tâches spécifiques. Ces systèmes reposent sur des règles logiques et des bases de connaissances pour tirer des conclusions et prendre des décisions. En revanche, les algorithmes simples de traitement de données, comme ceux de tri ou de recherche, ne sont pas concernés car ils n'intègrent pas de mécanismes d'apprentissage ou de raisonnement.</footnote>

<footnote n="10">¹⁰ Intelligence artificielle embarquée : Dispositif d'intelligence artificielle intégré dans un objet connecté, qui lui permet de traiter en temps réel les données qu'il collecte pour déclencher la prise automatique de décisions.</footnote>
(13) Il convient d'interpréter la notion de « déployeur » visée dans le présent règlement comme désignant toute personne physique ou morale, y compris une autorité publique, une agence ou un autre organisme, utilisant sous sa propre autorité un système d'IA, sauf lorsque ce système est utilisé dans le cadre d'une activité personnelle à caractère non professionnel. En fonction du type de systèmes d'IA, l'utilisation du système peut concerner des personnes autres que le déployeur.

* en lien avec : le 4) de l'Article 3 - Définitions

(14) Il convient d'interpréter la notion de « données biométriques » utilisée dans le présent règlement à la lumière de la notion de données biométriques au sens de l'article 4, point 14), du règlement (UE) 2016/679, de l'article 3, point 18), du règlement (UE) 2018/1725, et de l'article 3, point 13), de la directive (UE) 2016/680. Des données biométriques peuvent permettre l'authentification, l'identification ou la catégorisation des personnes physiques, ainsi que la reconnaissance de leurs émotions.

* en lien avec : le 34) de l'Article 3 - Définitions

(15) La notion d'« identification biométrique » visée dans le présent règlement devrait être définie comme la reconnaissance automatisée de caractéristiques physiques, physiologiques et comportementales d'une personne, telles que le visage, les mouvements oculaires, la forme du corps, la voix, la prosodie, la démarche, la posture, le rythme cardiaque, la pression sanguine, l'odeur et la frappe au clavier, aux fins d'établir l'identité d'une personne par comparaison des données biométriques de cette personne avec les données biométriques de personnes stockées dans une base de données de référence, que la personne ait donné son approbation ou non. En sont exclus les systèmes d'IA destinés à être utilisés à des fins de vérification biométrique, ce qui inclut l'authentification, dont la seule finalité est de confirmer qu'une personne physique donnée est bien celle qu'elle prétend être et de confirmer l'identité d'une personne physique dans le seul but d'avoir accès à un service, de déverrouiller un dispositif ou de disposer d'un accès sécurisé à des locaux.

* en lien avec : le 35) et 36) de l'Article 3 - Définitions

(16) La notion de « système de catégorisation biométrique » visée dans le présent règlement devrait être définie comme le classement de personnes physiques dans certaines catégories sur la base de leurs données biométriques. Ces catégories spécifiques peuvent concerner des aspects tels que le sexe, l'âge, la couleur des cheveux, la couleur des yeux, les tatouages, les traits liés au comportement ou à la personnalité, la langue, la religion, l'appartenance à une minorité nationale ou encore l'orientation sexuelle ou politique. Cela n'inclut pas les systèmes de catégorisation biométrique qui sont une caractéristique purement accessoire intrinsèquement liée à un autre service commercial, ce qui signifie que cette caractéristique ne peut, pour des raisons techniques objectives, être utilisée sans le service principal, et l'intégration de cette caractéristique ou fonctionnalité n'est pas un moyen de contourner l'applicabilité des règles du présent règlement. Ainsi, les filtres de catégorisation des caractéristiques faciales ou corporelles qui sont utilisés sur les places de marché en ligne pourraient correspondre à ce type de caractéristique accessoire, étant donné qu'ils ne peuvent être utilisés qu'en lien avec le service principal, qui consiste à vendre un produit en permettant au consommateur d'afficher un aperçu du produit porté par lui-même et de l'aider à prendre une décision d'achat. Les filtres utilisés sur les services de réseaux sociaux en ligne qui classent par catégorie les caractéristiques faciales ou corporelles afin de permettre aux utilisateurs d'ajouter ou de modifier des images ou des vidéos pourraient également être considérés comme des fonctionnalités accessoires, étant donné que ce type de filtre ne peut pas être utilisé sans le service principal des services de réseau social consistant à partager des contenus en ligne.

* en lien avec : le 40) de l'Article 3 - Définitions

(17) La notion de « système d'identification biométrique à distance » visée dans le présent règlement devrait être définie, sur le plan fonctionnel, comme un système d'IA destiné à identifier des personnes physiques sans leur participation active, en règle générale à distance,
par la comparaison des données biométriques d'une personne avec celles contenues dans une base de données de référence, quels que soient la technologie, les processus ou les types de données biométriques particuliers utilisés. Ces systèmes d'identification biométrique à distance sont généralement utilisés pour la perception simultanée de plusieurs personnes ou de leur comportement afin de faciliter sensiblement l'identification de personnes physiques sans leur participation active. Sont exclus les systèmes d'IA destinés à être utilisés à des fins de vérification biométrique, ce qui inclut l'authentification, dont la seule finalité est de confirmer qu'une personne physique donnée est bien celle qu'elle prétend être et de confirmer l'identité d'une personne physique dans le seul but d'avoir accès à un service, de déverrouiller un dispositif ou de disposer d'un accès sécurisé à des locaux. Cette exclusion est justifiée par le fait que ces systèmes sont susceptibles d'avoir une incidence mineure sur les droits fondamentaux des personnes physiques par rapport aux systèmes d'identification biométrique à distance qui peuvent être utilisés pour le traitement des données biométriques d'un grand nombre de personnes sans leur participation active. Dans le cas des systèmes « en temps réel », la capture des données biométriques, la comparaison et l'identification se font toutes instantanément, quasi instantanément ou en tout état de cause sans décalage significatif. À cet égard, il convient, en prévoyant la possibilité de légers décalages, d'empêcher le contournement des règles du présent règlement relatives à l'utilisation « en temps réel » des système d'IA concernés. Les systèmes « en temps réel » reposent sur l'utilisation d'éléments « en direct » ou « en léger différé », comme des séquences vidéo, générés par une caméra ou un autre appareil doté de fonctionnalités similaires. Dans le cas des systèmes « a posteriori », en revanche, les données biométriques sont prélevées dans un premier temps et la comparaison et l'identification n'ont lieu qu'après un délai substantiel. Cela suppose des éléments tels que des images ou des séquences vidéo, qui ont été générés par des caméras de télévision en circuit fermé ou des appareils privés avant l'utilisation du système à l'égard des personnes physiques concernées.

* en lien avec : le 41), 42) et 43) de l'Article 3 - Définitions

(18) La notion de « système de reconnaissance des émotions » visée dans le présent règlement devrait être définie comme un système d'IA servant à identifier les émotions ou les intentions de personnes physiques ou à faire des déductions quant à leurs émotions ou intentions, sur la base de leurs données biométriques. Cette notion renvoie à des émotions ou des intentions telles que le bonheur, la tristesse, la colère, la surprise, le dégoût, la gêne, l'excitation, la honte, le mépris, la satisfaction et l'amusement. Cette notion ne recouvre pas les états physiques, tels que la douleur ou la fatigue, qui comprennent, par exemple, des systèmes utilisés pour déceler l'état de fatigue des pilotes ou des conducteurs professionnels aux fins de la prévention des accidents. Elle ne recouvre pas non plus la simple détection d'expressions, de gestes ou de mouvements dont l'apparence est immédiate, à moins que ceux-ci ne soient utilisés pour identifier ou déduire des émotions. Ces expressions peuvent être des expressions faciales toutes simples telles qu'un froncement de sourcils ou un sourire, ou des gestes tels qu'un mouvement de mains, de bras ou de tête, ou encore des caractéristiques de la voix d'une personne, comme le fait de parler fort ou de chuchoter.

* en lien avec : le 39) de l'Article 3 - Définitions

(19) Aux fins du présent règlement, la notion d'« espace accessible au public » devrait s'entendre comme désignant tout espace physique accessible à un nombre indéterminé de personnes physiques, que l'espace en question soit privé ou public, et indépendamment de l'activité pour laquelle il peut être utilisé, comme pour le commerce, par exemple, magasins, restaurants ou cafés, pour la prestation de services, par exemple, banques, activités professionnelles ou hôtellerie, pour la pratique de sports, par exemple, piscines, salles de sport ou stades, pour les transports, par exemple, gares routières, stations de métro et gares ferroviaires, aéroports ou moyens de transport, pour les divertissements, par exemple, cinémas, théâtres, musées, salles de concert et de conférence, ou pour les loisirs ou autres, par exemple, routes et places publiques, parcs, forêts ou terrains de jeux. Un espace devrait également être classé comme
accessible au public si, indépendamment de la capacité potentielle ou des restrictions de sécurité, l'accès est soumis à certaines conditions prédéterminées qui peuvent être remplies par un nombre indéterminé de personnes, telles que l'achat d'un billet ou d'un titre de transport, l'enregistrement préalable ou le fait d'avoir un certain âge. En revanche, un espace ne devrait pas être considéré comme étant accessible au public si l'accès est limité à certaines personnes physiques, définies soit par le droit de l'Union soit par le droit national directement lié à la sûreté ou à la sécurité publiques, ou par la manifestation claire de la volonté de la personne disposant de l'autorité compétente sur l'espace. Le seul fait d'avoir une possibilité d'accès, comme une porte déverrouillée ou une porte ouverte dans une clôture, n'implique pas que l'espace est accessible au public en présence d'indications ou de circonstances suggérant le contraire, comme des signes d'interdiction ou de restriction d'accès. Les locaux des entreprises et des usines, ainsi que les bureaux et les lieux de travail qui sont destinés à être accessibles uniquement aux employés et prestataires de services concernés ne sont pas des espaces accessibles au public. Les espaces accessibles au public ne devraient pas inclure les prisons ni le contrôle aux frontières. D'autres espaces peuvent comprendre à la fois des espaces accessibles au public et des espaces non accessibles au public, comme le hall d'un bâtiment d'habitation privé par lequel il faut passer pour accéder au bureau d'un médecin ou le hall d'un aéroport. Les espaces en ligne ne sont pas couverts, car ce ne sont pas des espaces physiques. Le caractère accessible ou non au public d'un espace donné devrait cependant être déterminé au cas par cas, en tenant compte des particularités de la situation en question.

* en lien avec : le 44) de l'Article 3 - Définitions

(20) Afin de tirer le meilleur parti des systèmes d'IA tout en protégeant les droits fondamentaux, la santé et la sécurité et de permettre un contrôle démocratique, il convient que les fournisseurs, les déployeurs et les personnes concernées acquièrent, dans le cadre de la maîtrise de l'IA, les notions nécessaires pour prendre des décisions éclairées concernant les systèmes d'IA. Ces notions peuvent varier en fonction du contexte et peuvent recouvrir le faire de comprendre l'application correcte des éléments techniques au cours de la phase de développement du système d'IA, les mesures à appliquer pendant son utilisation, les moyens appropriés d'interpréter les sorties du système d'IA et, dans le cas des personnes concernées, les connaissances nécessaires pour comprendre comment les décisions prises avec l'aide de l'IA auront une incidence sur elles. Dans le cadre de l'application du présent règlement, la maîtrise de l'IA devrait fournir à tous les acteurs pertinents de la chaîne de valeur de l'IA les connaissances nécessaires pour en garantir le respect approprié et la mise en application correcte. En outre, la mise en œuvre à grande échelle de mesures relatives à la maîtrise de l'IA et l'introduction d'actions de suivi appropriées pourraient contribuer à améliorer les conditions de travail et, à terme, soutenir la consolidation et une trajectoire d'innovation d'une IA digne de confiance dans l'Union. Le Comité européen de l'intelligence artificielle (ci-après dénommé « Comité IA »)<fnref n="11" /> devrait soutenir la Commission afin de promouvoir les outils de maîtrise de l'IA, la sensibilisation du public et la compréhension des avantages, des risques, des garanties, des droits et des obligations liés à l'utilisation des systèmes d'IA. En coopération avec les parties prenantes concernées, la Commission et les États membres devraient faciliter l'élaboration de codes de conduite volontaires au service de la maîtrise de l'IA chez les personnes chargées du développement, du fonctionnement et de l'utilisation de l'IA.

* en lien avec : Article 4 - Maîtrise de l'IA

(21) Afin de garantir des conditions de concurrence équitables et une protection efficace des droits et libertés des citoyens dans toute l'Union, les règles établies par le présent règlement devraient s'appliquer de manière non discriminatoire aux fournisseurs de système d'IA, qu'ils

<footnote n="11">¹¹ Comité européen de l'intelligence artificielle, composé de représentants des États membres, un groupe scientifique visant à intégrer la communauté scientifique et un forum consultatif visant à recueillir les contributions des parties concernées en vue de la mise en œuvre du présent règlement.</footnote>
soient établis dans l'Union ou dans un pays tiers, et aux déployeurs de système d'IA établis dans l'Union.

* en lien avec : le 1 de l'Article 2 - Champ d'application

(22) Compte tenu de leur nature numérique<fnref n="12" />, certains systèmes d'IA devraient relever du présent règlement même lorsqu'ils ne sont pas mis sur le marché, mis en service, ou utilisés dans l'Union. Cela devrait notamment être le cas lorsqu'un opérateur établi dans l'Union confie à un opérateur externe établi dans un pays tiers la tâche d'exécuter certains services ayant trait à une activité devant être réalisée par un système d'IA qui serait considéré comme étant à haut risque. Dans ces circonstances, le système d'IA utilisé dans un pays tiers par l'opérateur pourrait traiter des données légalement collectées et transférées depuis l'Union, et fournir à l'opérateur contractant établi dans l'Union les sorties dudit système d'IA provenant de ce traitement, sans que ce système d'IA soit mis sur le marché, mis en service ou utilisé dans l'Union. Afin d'éviter le contournement des règles du présent règlement et d'assurer une protection efficace des personnes physiques situées dans l'Union, le présent règlement devrait également s'appliquer aux fournisseurs et aux déployeurs de système d'IA qui sont établis dans un pays tiers, dans la mesure les sorties produites par ces systèmes sont destinées à être utilisées dans l'Union. Néanmoins, pour tenir compte des dispositions existantes et des besoins particuliers de coopération future avec les partenaires étrangers avec lesquels des informations et des preuves sont échangées, le présent règlement ne devrait pas s'appliquer aux autorités publiques d'un pays tiers ni aux organisations internationales lorsqu'elles agissent dans le cadre d'accords de coopération ou d'accords internationaux conclus au niveau de l'Union ou au niveau national pour la coopération des services répressifs et judiciaires avec l'Union ou avec les États membres, à condition que le pays tiers concerné ou les organisations internationales concernées fournissent des garanties adéquates en ce qui concerne la protection des libertés et droits fondamentaux des personnes. Le cas échéant, cela peut couvrir les activités des entités chargées par les pays tiers d'exécuter des tâches spécifiques à l'appui de cette coopération policière et judiciaire. De tels cadres de coopération ou accords ont été conclus bilatéralement entre des États membres et des pays tiers ou entre l'Union européenne, Europol et d'autres agences de l'Union, des pays tiers et des organisations internationales. Les autorités compétentes pour la surveillance des autorités répressives et judiciaires au titre du présent règlement devraient évaluer si ces cadres de coopération ou accords internationaux comportent des garanties adéquates en ce qui concerne la protection des libertés et droits fondamentaux des personnes. Les autorités nationales bénéficiaires et les institutions, organes et organismes de l'Union qui utilisent ces sorties dans l'Union demeurent responsables de veiller à ce que leur utilisation soit conforme au droit de l'Union. Lors de la révision de ces accords internationaux ou de la conclusion de nouveaux accords à l'avenir, les parties contractantes devraient tout mettre en œuvre pour aligner ces accords sur les exigences du présent règlement.

* en lien avec : le 1 et 4 de l'Article 2 - Champ d'application

(23) Le présent règlement devrait également s'appliquer aux institutions, organes et organismes de l'Union lorsqu'ils agissent en tant que fournisseur ou déployeur d'un système d'IA.

* en lien avec : Article 2 - Champ d'application

(24) Si et dans la mesure où des systèmes d'IA sont mis sur le marché, mis en service ou utilisés avec ou sans modification de ces systèmes à des fins militaires, de défense ou de sécurité nationale, ces systèmes devraient être exclus du champ d'application du présent règlement, indépendamment du type d'entité exerçant ces activités, par exemple qu'il s'agisse d'une entité publique ou privée. En ce qui concerne l'usage à des fins militaires et de défense, une

<footnote n="12">¹² Numérique : Ensemble des disciplines scientifiques et techniques, des activités économiques et des pratiques sociétales fondées sur le traitement de données numériques.</footnote>
telle exclusion est justifiée tant par l'article 4, paragraphe 2, du Traité sur l'Union européenne<fnref n="13" /> que par les spécificités de la politique de défense des États membres et de la politique de défense commune de l'Union relevant du titre V, chapitre 2, du Traité sur l'Union européenne, qui sont soumises au droit international public, lequel constitue donc le cadre juridique le plus approprié pour la réglementation des systèmes d'IA dans le contexte de l'utilisation de la force létale et d'autres systèmes d'IA dans le cadre d'activités militaires et de défense. En ce qui concerne l'usage à des fins de sécurité nationale, l'exclusion est justifiée tant par le fait que la sécurité nationale reste de la seule responsabilité de chaque État membre, conformément à l'article 4, paragraphe 2, du Traité sur l'Union européenne<fnref n="13" />, que par la nature spécifique et les besoins opérationnels des activités liées à la sécurité nationale et par les règles nationales spécifiques applicables à ces activités. Néanmoins, si un système d'IA développé, mis sur le marché, mis en service ou utilisé à des fins militaires, de défense ou de sécurité nationale est, temporairement ou définitivement, utilisé en dehors de ce cadre à d'autres fins (par exemple, à des fins civiles ou humanitaires, à des fins répressives ou de sécurité publique), un tel système relèverait du champ d'application du présent règlement. Dans ce cas, l'entité qui utilise le système d'IA à des fins autres que militaires, de défense ou de sécurité nationale devrait veiller à la mise en conformité du système d'IA avec le présent règlement, à moins qu'il le soit déjà. Les systèmes d'IA mis sur le marché ou mis en service à des fins exclues, à savoir à des fins militaires, de défense ou de sécurité nationale, et à une ou plusieurs fins non exclues, comme à des fins civiles ou répressives, relèvent du champ d'application du présent règlement et les fournisseurs de ces systèmes devraient veiller au respect du présent règlement. En l'occurrence, le fait qu'un système d'IA puisse relever du champ d'application du présent règlement ne devrait pas affecter la possibilité pour les entités exerçant des activités de sécurité nationale, de défense et militaires, indépendamment du type d'entité exerçant ces activités, d'utiliser des systèmes d'IA à des fins de sécurité nationale, militaires et de défense, dont l'utilisation est exclue du champ d'application du présent règlement. Un système d'IA mis sur le marché à des fins civiles ou répressives qui est utilisé avec ou sans modification à des fins militaires, de défense ou de sécurité nationale ne devrait pas relever du champ d'application du présent règlement, indépendamment du type d'entité exerçant ces activités.

en lien avec : le 3 de l'Article 2 - Champ d'application

(25) Le présent règlement devrait soutenir l'innovation et respecter la liberté scientifique et ne devrait pas compromettre les activités de recherche et de développement. Il est donc nécessaire d'exclure de son champ d'application les systèmes et modèles d'IA spécifiquement développés et mis en service aux seules fins de la recherche et du développement scientifiques. En outre, il est nécessaire de veiller à ce que le présent règlement n'affecte pas autrement les activités de recherche et de développement scientifiques relatives aux systèmes ou modèles d'IA avant leur mise sur le marché ou leur mise en service. En ce qui concerne les activités de recherche, d'essai et de développement axées sur les produits, relatives aux systèmes ou modèles d'IA, les dispositions du présent règlement ne devraient pas non plus s'appliquer avant la mise en service ou la mise sur le marché de ces systèmes et modèles. Cette exclusion est sans préjudice de l'obligation de se conformer au présent règlement lorsqu'un système d'IA relevant du champ d'application du présent règlement est mis sur le marché ou mis en service à la suite de cette activité de recherche et de développement, et sans préjudice de l'application des dispositions relatives aux bacs à sable réglementaires de l'IA et aux essais en conditions réelles. En outre, sans préjudice de l'exclusion des systèmes d'IA spécifiquement développés et mis en service aux seules fins de la recherche et du développement scientifiques, tout autre système d'IA susceptible d'être utilisé pour mener une activité de recherche et de développement devrait rester soumis aux dispositions du présent règlement. En tout état de cause, toute activité de recherche et de développement devrait être menée conformément

<footnote n="13">¹³ L'Union respecte l'égalité des États membres devant les traités, leur identité nationale, et les fonctions essentielles de l'État, notamment la sécurité nationale qui reste de la seule responsabilité de chaque État membre.</footnote>
à des normes éthiques et professionnelles reconnues en matière de recherche scientifique et
dans le respect du droit de l'Union applicable.

➤ en lien avec : le 6 et 8 de l'Article 2 - Champ d'application

(26) Afin d'introduire un ensemble proportionné et efficace de règles contraignantes pour les **systèmes d'IA**, il convient de suivre une approche clairement définie fondée sur les **risques**. Cette approche devrait adapter le type et le contenu de ces règles à l'intensité et à la portée des **risques** que les **systèmes d'IA** peuvent générer. Il est donc nécessaire d'interdire certaines pratiques inacceptables en matière d'IA, de fixer des exigences pour les **systèmes d'IA** à haut risque et des obligations pour les **opérateurs** concernés, ainsi que de fixer des obligations de transparence pour certains **systèmes d'IA**.

➤ en lien avec : *Étude d'impact, son annexe et son résumé*

(27) Si l'approche fondée sur les risques constitue la base d'un ensemble proportionné et efficace de règles contraignantes, il importe de rappeler les lignes directrices en matière d'éthique pour une IA digne de confiance, élaborées en 2019 par le GEHN IA indépendant constitué par la Commission. Dans ces lignes directrices, le GEHN IA a élaboré sept principes éthiques non contraignants pour l'IA, qui sont destinés à contribuer à faire en sorte que l'IA soit digne de confiance et saine sur le plan éthique. Il s'agit des sept principes suivants : action humaine et contrôle humain ; robustesse technique et sécurité ; respect de la vie privée et gouvernance des données ; transparence ; diversité, non-discrimination et équité ; bien-être sociétal et environnemental ; et responsabilité. Sans préjudice des exigences juridiquement contraignantes du présent règlement et de toute autre disposition législative de l'Union applicable, ces lignes directrices contribuent à la conception d'une IA cohérente, fiable et axée sur l'humain, conformément à la Charte et aux valeurs sur lesquelles l'Union est fondée. Conformément aux lignes directrices du GEHN IA, « action humaine et contrôle humain » renvoient au fait que les systèmes d'IA sont développés et utilisés comme un outil au service des personnes, qui respecte la dignité humaine et l'autonomie de l'individu, et qui fonctionne de manière à pouvoir être contrôlé et supervisé par des êtres humains. « Robustesse technique et sécurité » renvoient au fait que les systèmes d'IA sont développés et utilisés de manière à ce qu'ils soient techniquement robustes en cas de problème et résilients aux tentatives visant à en corrompre l'utilisation ou les performances d'un système d'IA afin de permettre à des tiers d'en faire une utilisation abusive, et à réduire le plus possible les atteintes involontaires. « Respect de la vie privée et gouvernance des données » renvoient au fait que les systèmes d'IA sont développés et utilisés conformément aux règles en matière de respect de la vie privée et de protection des données, dans le cadre d'un traitement de données répondant à des normes élevées en matière de qualité et d'intégrité. « Transparence » renvoie au fait que les systèmes d'IA sont développés et utilisés de manière à permettre une traçabilité et une explicabilité appropriées, faisant en sorte que les personnes réalisent qu'elles communiquent ou interagissent avec un système d'IA, que les déployeurs soient dûment informés des capacités et des limites de ce système d'IA et que les personnes concernées soient informées de leurs droits. « Diversité, non-discrimination et équité » renvoient au fait que les systèmes d'IA sont développés et utilisés de manière à inclure des acteurs divers et à promouvoir l'égalité d'accès, l'égalité de genre et la diversité culturelle, tout en évitant les effets discriminatoires et les biais injustes, qui sont interdits par le droit de l'Union ou le droit national. « Bien-être sociétal et environnemental » renvoie au fait que les systèmes d'IA sont développés et utilisés d'une manière durable et respectueuse de l'environnement, mais aussi de manière à ce que tous les êtres humains en profitent, tout en surveillant et en évaluant les effets à long terme sur l'individu, la société et la démocratie. Ces principes devraient se retrouver, autant que possible, dans la conception et l'utilisation des modèles d'IA. Ils devraient en tout état de cause servir de base à l'élaboration de codes de conduite au titre du présent règlement. Toutes les parties prenantes, y compris l'industrie, le monde universitaire, la société civile et les organismes de
normalisation, sont encouragées à tenir compte, ainsi qu'il convient, des principes éthiques pour l'élaboration de bonnes pratiques et de normes volontaires.

➤ en lien avec : [Groupe d'experts de haut niveau sur l'intelligence artificielle](https://www.wto.org/eu/eu10/eu10_1.htm)

(28) Si l'IA peut être utilisée à de nombreuses fins positives, elle peut aussi être utilisée à mauvais escient et fournir des outils nouveaux et puissants à l'appui de pratiques de manipulation, d'exploitation et de contrôle social. De telles pratiques sont particulièrement néfastes et abusives et devraient être interdites, car elles sont contraires aux valeurs de l'Union relatives au respect de la dignité humaine, à la liberté, à l'égalité, à la démocratie et à l'état de droit, ainsi qu'aux droits fondamentaux consacrés dans la [Charte](https://www.wto.org/eu/eu10/eu10_2.htm), y compris le droit à la non-discrimination, le droit à la protection des données et à la vie privée et les droits de l'enfant.

➤ en lien avec : [Article 5 - Pratiques interdites en matière d'IA](https://www.wto.org/eu/eu10/eu10_3.htm)

(29) Des techniques de manipulation fondées sur l'IA peuvent être utilisées pour persuader des personnes d'adopter des comportements indésirables ou pour les tromper en les poussant à prendre des décisions d'une manière qui met à mal et compromet leur autonomie, leur libre arbitre et leur liberté de choix. La mise sur le marché, la mise en service ou l'utilisation de certains systèmes d'IA ayant pour objectif ou pour effet d'altérer substantiellement les comportements humains, avec le risque de causer des dommages importants, en particulier d'avoir des incidences suffisamment importantes sur la santé physique ou psychologique ou sur les intérêts financiers, sont particulièrement dangereuses et devraient dès lors être interdites. Ces systèmes d'IA font intervenir des composants subliminaux, tels que des stimuli sonores, visuels ou vidéo que l'individu ne peut percevoir, étant donné que ces stimuli échappent à la perception humaine, ou d'autres techniques manipulatrices ou trompeuses qui mettent à mal ou altèrent l'autonomie de la personne, son libre arbitre ou sa liberté de choix de telle sorte que l'individu n'est pas conscient de ces techniques ou, à supposer qu'il le soit, sans qu'il puisse échapper à la duperie ni opposer une résistance ou un contrôle auxdites techniques. Cela pourrait être facilité, par exemple, par des interfaces cerveau-machine ou par la réalité virtuelle étant donné qu'elles permettent d'avoir plus de contrôle sur les stimuli qui sont présentés aux personnes, dans la mesure où elles peuvent en altérer sensiblement le comportement d'une manière très nocive. En outre, des systèmes d'IA peuvent également exploiter les vulnérabilités d'une personne ou d'un groupe particulier de personnes en raison de leur âge, d'un handicap au sens de la directive (UE) 2019/882 du Parlement européen et du Conseil, ou d'une situation sociale ou économique spécifique susceptible de rendre ces personnes plus vulnérables à l'exploitation, telles que les personnes vivant dans une extrême pauvreté ou appartenant à des minorités ethniques ou religieuses. De tels systèmes d'IA peuvent être mis sur le marché, mis en service ou utilisés avec pour objectif ou pour effet d'altérer substantiellement le comportement d'une personne d'une manière qui cause ou est raisonnablement susceptible de causer un préjudice important à cette personne ou à une autre personne ou à des groupes de personnes, y compris des dommages susceptibles de s'accumuler au fil du temps, et il y a lieu, par conséquent, de les interdire. Il peut s'avérer impossible de présumer l'existence d'une intention d'altérer le comportement lorsque cette altération résulte de facteurs externes au système d'IA qui échappent au contrôle du fournisseur ou du déployeur, à savoir de facteurs qui ne peuvent être raisonnablement prévisibles, et partant, ne peuvent être atténués par le fournisseur ou le déployeur du système d'IA. En tout état de cause, il n'est pas nécessaire que le fournisseur ou le déployeur ait l'intention de causer un préjudice important, du moment que ce préjudice résulte de pratiques de manipulation ou d'exploitation reposant sur l'IA. Les interdictions de telles pratiques en matière d'IA complètent les dispositions de la directive 2005/29/CE du Parlement européen et du Conseil, notamment concernant le fait que les pratiques commerciales déloyales entraînant des préjudices économiques ou financiers pour les consommateurs sont interdites en toutes circonstances, qu'elles soient mises en place au moyen de systèmes d'IA ou autrement. Les interdictions des pratiques de manipulation et d'exploitation prévues par le présent règlement ne devraient pas affecter les pratiques licites dans le cadre de traitements médicaux tels que
le traitement psychologique d'une maladie mentale ou la rééducation physique, lorsque ces pratiques sont effectuées conformément à la législation applicable et aux normes médicales, comme le consentement explicite des personnes ou de leurs représentants légaux. En outre, les pratiques commerciales courantes et légitimes, par exemple dans le domaine de la publicité, qui respectent le droit applicable ne devraient pas, en soi, être considérées comme constituant des pratiques de manipulation préjudiciables reposant sur l'IA.

* en lien avec : le a) et b) du 1 de l'Article 5 - Pratiques interdites en matière d'IA

(30) Il y a lieu d'interdire les **systèmes de catégorisation biométrique** fondés sur les **données biométriques** des personnes physiques, comme le visage ou les empreintes digitales, utilisés pour arriver à des déductions ou des inférences concernant les opinions politiques d'un individu, son affiliation à une organisation syndicale, ses convictions religieuses ou philosophiques, sa race, sa vie sexuelle ou son orientation sexuelle. Cette interdiction ne devrait pas couvrir l'étiquetage, le filtrage ou la catégorisation licites des ensembles de **données biométriques** acquis dans le respect du droit de l'Union ou du droit national en fonction de **données biométriques**, comme le tri des images en fonction de la couleur des cheveux ou de celle des yeux, qui peuvent par exemple être utilisés dans le domaine répressif.

* en lien avec : le g) du 1 de l'Article 5 - Pratiques interdites en matière d'IA

(31) Les **systèmes d'IA** permettant la notation sociale des personnes physiques par des acteurs publics ou privés peuvent conduire à des résultats discriminatoires et à l'exclusion de certains groupes. Ils peuvent porter atteinte au droit à la dignité et à la non-discrimination et sont contraires aux valeurs d'égalité et de justice. Ces **systèmes d'IA** évaluent ou classent les personnes physiques ou les groupes de personnes physiques en fonction de plusieurs points de données liées à leur comportement social dans divers contextes ou de caractéristiques personnelles ou de personnalité connues, déduites ou prédites pendant un certain temps. La note sociale obtenue à partir de ces **systèmes d'IA** peut conduire au traitement préjudiciable ou défavorable de personnes physiques ou de groupes entiers dans des contextes sociaux qui sont dissociés du contexte dans lequel les données ont été initialement générées ou collectées, ou à un traitement préjudiciable disproportionné ou injustifié au regard de la gravité de leur comportement social. Il y a donc lieu d'interdire les **systèmes d'IA** impliquant de telles pratiques de notation inacceptables et produisant de tels effets préjudiciables ou défavorables. Cette interdiction ne devrait pas avoir d'incidence sur les évaluations licites des personnes physiques qui sont pratiquées dans un but précis, dans le respect du droit de l'Union et du droit national.

* en lien avec : le c) du 1 de l'Article 5 - Pratiques interdites en matière d'IA

(32) L'utilisation de **systèmes d'IA** pour l'identification biométrique à distance « en temps réel » de personnes physiques dans des **espaces accessibles au public** à des fins répressives est particulièrement intrusive pour les droits et les libertés des personnes concernées, dans la mesure où elle peut toucher la vie privée d'une grande partie de la population, susciter un sentiment de surveillance constante et dissuader indirectement l'exercice de la liberté de réunion et d'autres droits fondamentaux. Les inexactitudes techniques des **systèmes d'IA** destinés à l'identification biométrique à distance des personnes physiques peuvent conduire à des résultats biaisés et entraîner des effets discriminatoires. Ce **risque** de résultats biaisés et d'effets discriminatoires est particulièrement significatif en ce qui concerne l'âge, l'appartenance ethnique, la race, le sexe ou le handicap. En outre, du fait de l'immédiateté des effets et des possibilités limitées d'effectuer des vérifications ou des corrections supplémentaires, l'utilisation de systèmes fonctionnant **en temps réel** engendre des **risques** accrus pour les droits et les libertés des personnes concernées dans le cadre d'**activités répressives** ou affectées par celles-ci.

* en lien avec : le h) du 1 de l'Article 5 - Pratiques interdites en matière d'IA

(33) L'utilisation de ces systèmes à des fins répressives devrait donc être interdite, sauf dans des situations précisément répertoriées et rigoureusement définies, dans lesquelles l'utilisation se
limite au strict nécessaire à la réalisation d'objectifs d'intérêt général dont l'importance l'emporte sur les risques encourus. Ces situations comprennent la recherche de certaines victimes d'actes criminels, y compris de personnes disparues ; certaines menaces pour la vie ou la sécurité physique des personnes physiques, ou des menaces d'attaque terroriste ; et la localisation ou l'identification des auteurs ou des suspects des infractions pénales énumérées dans une annexe du présent règlement, lorsque ces infractions pénales sont passibles, dans l'État membre concerné, d'une peine ou d'une mesure de sûreté privative de liberté d'une durée maximale d'au moins quatre ans et telles qu'elles sont définies dans le droit dudit État membre. Le seuil fixé pour la peine ou la mesure de sûreté privative de liberté prévue par le droit national contribue à garantir que l'infraction soit suffisamment grave pour justifier l'utilisation de systèmes d'identification biométrique à distance en temps réel ». En outre, la liste des infractions pénales figurant en annexe du présent règlement sont basées sur les 32 infractions pénales énumérées dans la décision-cadre 2002/584/IAI du Conseil, compte tenu du fait que certaines de ces infractions sont, en pratique, susceptibles d'être plus pertinentes que d'autres, dans le sens où le recours à l'identification biométrique à distance en temps réel » pourrait, vraisemblablement, être nécessaire et proportionné, à des degrés très divers, pour les mesures pratiques de localisation ou d'identification d'un auteur ou d'un suspect de l'une des différentes infractions pénales répertoriées, eu égard également aux différences probables dans la gravité, la probabilité et l'ampleur du préjudice ou des éventuelles conséquences négatives. Une menace imminente pour la vie ou pour la sécurité physique des personnes physiques pourrait également résulter d'une grave perturbation d'une infrastructure critique, au sens de l'article 2, point 4), de la directive (UE) 2022/2557¹⁴ du Parlement européen et du Conseil, lorsque l'arrêt ou la destruction de cette infrastructure critique entraînerait une menace imminente pour la vie ou la sécurité physique d'une personne, notamment en portant gravement atteinte à la fourniture de produits de base à la population ou à l'exercice de la fonction essentielle de l'État. Par ailleurs, le présent règlement devrait préserver la capacité des autorités répressives, des autorités chargées des contrôles aux frontières, des services de l'immigration ou des autorités compétentes en matière d'asile d'effectuer des contrôles d'identité en présence de la personne concernée conformément aux conditions prévues par le droit de l'Union et le droit national pour ces contrôles. En particulier, les autorités répressives, les autorités chargées des contrôles aux frontières, les services de l'immigration ou les autorités compétentes en matière d'asile devraient pouvoir utiliser des systèmes d'information, conformément au droit de l'Union ou au droit national, pour identifier une personne qui, lors d'un contrôle d'identité, soit refuse d'être identifiée, soit n'est pas en mesure de décliner son identité ou de la prouver, sans qu'il leur soit fait obligation par le présent règlement d'obtenir une autorisation préalable. Il peut s'agir, par exemple, d'une personne impliquée dans une infraction, qui ne veut pas ou ne peut pas divulguer son identité aux autorités répressives en raison d'un accident ou de son état de santé.

en lien avec : le h) du 1 de l'Article 5 - Pratiques interdites en matière d'IA et l'ANNEXE II

(34) Afin de s'assurer que ces systèmes soient utilisés de manière responsable et proportionnée, il est également important d'établir que, dans chacune des situations précisément répertoriées et rigoureusement définies, certains éléments devraient être pris en considération, notamment en ce qui concerne la nature de la situation donnant lieu à la demande et les conséquences de l'utilisation pour les droits et les libertés de toutes les personnes concernées, ainsi que les garanties et les conditions associées à l'utilisation. En outre, l'utilisation, à des fins répressives, de systèmes d'identification biométrique à distance en temps réel » dans des espaces accessibles au public ne devrait être déployée que pour confirmer l'identité de la personne spécifiquement ciblée et elle devrait être limitée au strict nécessaire dans le temps, ainsi que du point de vue de la portée géographique et personnelle, eu égard en particulier aux preuves ou aux indications concernant les menaces, les victimes ou les auteurs. L'utilisation du système

<footnote n="14">¹⁴ « infrastructure critique », un bien, une installation, un équipement, un réseau ou un système, ou une partie d'un bien, d'une installation, d'un équipement, d'un réseau ou d'un système, qui est nécessaire à la fourniture d'un service essentiel;</footnote>
d'identification biométrique à distance en temps réel dans des espace accessible au public ne devrait être autorisée que si l'autorité répressive compétente a réalisé une analyse d'impact sur les droits fondamentaux et, sauf disposition contraire du présent règlement, a enregistré le système dans la base de données prévue par le présent règlement. La base de données de référence des personnes devrait être appropriée pour chaque cas d'utilisation dans chacune des situations mentionnées ci-dessus.

* en lien avec : le 2 de l'Article 5 - Pratiques interdites en matière d'IA

(35) Toute utilisation d'un système d'identification biométrique à distance en temps réel dans des espaces accessibles au public à des fins répressives devrait être subordonnée à l'autorisation expresse et spécifique d'une autorité judiciaire ou d'une autorité administrative indépendante d'un État membre dont la décision est contraignante. Cette autorisation devrait en principe être obtenue avant l'utilisation du système d'IA en vue d'identifier une ou plusieurs personnes. Des exceptions à cette règle devraient être autorisées dans des situations dûment justifiées en raison du caractère urgent, c'est-à-dire des situations où la nécessité d'utiliser les systèmes en question est de nature à rendre effectivement et objectivement impossible l'obtention d'une autorisation avant de commencer à utiliser le système d'IA. Dans de telles situations d'urgence, l'utilisation du système d'IA devrait être limitée au strict nécessaire et assortie de garanties et de conditions appropriées, telles qu'elles sont déterminées dans le droit national et spécifiées dans le contexte de chaque cas d'utilisation urgente par les autorités répressives elles-mêmes. En outre, l'autorité répressive devrait, dans ce genre de situation, solliciter une telle autorisation tout en indiquant les raisons pour lesquelles elle n'a pas été en mesure de le faire plus tôt, sans retard injustifié et au plus tard dans un délai de 24 heures. Lorsqu'une demande d'autorisation est rejetée, l'utilisation de systèmes d'identification biométrique à distance en temps réel liés à cette autorisation devrait cesser immédiatement et toutes les données relatives à cette utilisation devraient être mises au rebut et supprimées. Ces données comprennent les données d'entrée directement acquises par un système d'IA au cours de l'utilisation de ce système, ainsi que les résultats et sorties de l'utilisation liée à cette autorisation. Cela ne devrait pas comprendre les entrées qui sont légalement acquises dans le respect d'un autre droit national ou du droit de l'Union. En tout état de cause, aucune décision produisant des effets juridiques défavorables à l'égard d'une personne ne devrait être prise sur la seule base des sorties du système d'identification biométrique à distance.

* en lien avec : le 3 de l'Article 5 - Pratiques interdites en matière d'IA

(36) Afin de s'acquitter de leurs tâches conformément aux exigences énoncées dans le présent règlement ainsi que dans les règles nationales, l'autorité de surveillance du marché concernée et l'autorité nationale chargée de la protection des données devraient être informées de chaque utilisation du système d'identification biométrique à distance en temps réel. Les autorités de surveillance du marché et les autorités nationales chargées de la protection des données auxquelles une notification a été adressée devraient présenter à la Commission un rapport annuel sur l'utilisation des systèmes d'identification biométrique à distance en temps réel.

* en lien avec : le 4 de l'Article 5 - Pratiques interdites en matière d'IA

(37) En outre, il convient de prévoir, dans le cadre exhaustif établi par le présent règlement, qu'une telle utilisation sur le territoire d'un État membre conformément au présent règlement ne devrait être possible que dans le cas et dans la mesure où l'État membre concerné a décidé de prévoir expressément la possibilité d'autoriser une telle utilisation dans des règles détaillées de son droit national. Par conséquent, les États membres restent libres, en vertu du présent règlement, de ne pas prévoir une telle possibilité, ou de prévoir une telle possibilité uniquement pour certains objectifs parmi ceux susceptibles de justifier l'utilisation autorisée définis dans le présent règlement. Ces règles nationales devraient être notifiées à la Commission dans les 30 jours suivant leur adoption.

* en lien avec : le 5 de l'Article 5 - Pratiques interdites en matière d'IA
(38) L'utilisation de systèmes d'IA pour l'identification biométrique à distance en temps réel de personnes physiques dans des espaces accessibles au public à des fins répressives passe nécessairement par le traitement de données biométriques. Les règles du présent règlement qui interdisent, sous réserve de certaines exceptions, une telle utilisation, et qui sont fondées sur l'article 16 du Traité sur le fonctionnement de l'Union européenne<fnref n="15" />, devraient s'appliquer en tant que lex specialis pour ce qui est des règles sur le traitement des données biométriques figurant à l'article 10 de la directive (UE) 2016/680¹⁶, réglementant ainsi de manière exhaustive cette utilisation et le traitement des données biométriques qui en résulte. Par conséquent, une telle utilisation et un tel traitement ne devraient être possibles que dans la mesure où ils sont compatibles avec le cadre fixé par le présent règlement, sans qu'il soit possible pour les autorités compétentes, lorsqu'elles agissent à des fins répressives en dehors de ce cadre, d'utiliser ces systèmes et de traiter ces données pour les motifs énumérés à l'article 10 de la directive (UE) 2016/680¹⁶. Dans ce contexte, le présent règlement ne vise pas à fournir la base juridique pour le traitement des données à caractère personnel en vertu de l'article 8 de la directive (UE) 2016/680¹⁷. Cependant, l'utilisation de systèmes d'identification biométrique à distance en temps réel dans des espaces accessibles au public à des fins autres que répressives, y compris par les autorités compétentes, ne devrait pas être couverte par le cadre spécifique concernant l'utilisation à des fins répressives établi par le présent règlement. L'utilisation à des fins autres que répressives ne devrait donc pas être subordonnée à l'exigence d'une autorisation au titre du présent règlement et des règles détaillées du droit national applicable susceptibles de donner effet à cette autorisation.

* en lien avec : le h) du 1 et du 2 au 7 de l'Article 5 - Pratiques interdites en matière d'IA

(39) Tout traitement de données biométriques et d'autres données à caractère personnel mobilisées lors de l'utilisation de systèmes d'IA pour l'identification biométrique, qui n'est pas lié à l'utilisation de systèmes d'identification biométrique à distance en temps réel dans des espaces accessibles au public à des fins répressives, réglementée par le présent règlement, devrait rester conforme à toutes les exigences découlant de l'article 10 de la directive (UE) 2016/680¹⁸. À des fins autres que répressives, l'article 9, paragraphe 1, du règlement (UE) 2016/679 et l'article 10, paragraphe 1, du règlement (UE) 2018/1725 interdisent le traitement de données biométriques sous réserve d'exceptions limitées prévues dans ces articles. En application de l'article 9, paragraphe 1, du règlement (UE) 2016/679, l'utilisation de l'identification biométrique à distance à des fins autres que répressives a déjà fait l'objet de décisions d'interdiction prises par les autorités nationales chargées de la protection des données.

* en lien avec : le h) du 1 et du 2 au 7 de l'Article 5 - Pratiques interdites en matière d'IA

(40) Conformément à l'article 6 bis du Protocole n° 21 sur la position du Royaume-Uni et de l'Irlande à l'égard de l'espace de liberté, de sécurité et de justice, annexé au Traité sur l'Union européenne et au Traité sur le fonctionnement de l'Union européenne, l'Irlande n'est pas liée par les règles fixées à l'article 5, paragraphe 1, premier alinéa, point g), dans la mesure où il s'applique à l'utilisation de systèmes de catégorisation biométrique pour des activités dans le domaine de la coopération policière et de la coopération judiciaire en matière pénale, à l'article 5, paragraphe 1, premier alinéa, point d), dans la mesure où il s'applique à l'utilisation de systèmes d'IA couverts par cette disposition, à l'article 5, paragraphe 1, premier alinéa, point h), à l'article 5, paragraphes 2 à 6, et l'article 26, paragraphe 10, du présent règlement et

<footnote n="15">¹⁵ Toute personne a droit à la protection des données à caractère personnel la concernant, et le Parlement européen et le Conseil fixent les règles relatives à cette protection et à la libre circulation de ces données, sous le contrôle d'autorités indépendantes.</footnote>

<footnote n="16">¹⁶ Le traitement des données à caractère personnel révélant des informations sensibles est autorisé uniquement en cas de nécessité absolue, sous réserve de garanties appropriées, et seulement si autorisé par le droit de l'Union ou d'un État membre, pour protéger des intérêts vitaux, ou si les données ont été rendues publiques par la personne concernée.</footnote>

<footnote n="17">¹⁷ Le traitement des données à caractère personnel est licite uniquement s'il est nécessaire à l'exécution d'une mission par une autorité compétente, pour des finalités spécifiques, et fondé sur le droit de l'Union ou d'un État membre.</footnote>

<footnote n="18">¹⁸ Le traitement des données à caractère personnel révélant des informations sensibles est autorisé uniquement en cas de nécessité absolue, sous réserve de garanties appropriées, et seulement si autorisé par le droit de l'Union ou d'un État membre, pour protéger des intérêts vitaux, ou si les données ont été rendues publiques par la personne concernée.</footnote>
adoptées sur la base de l'article 16 du *Traité sur le fonctionnement de l'Union européenne* concernant le traitement de données à caractère personnel par les États membres dans l'exercice d'activités qui relèvent du champ d'application du chapitre 4 ou 5 du titre V de la troisième partie du *Traité sur le fonctionnement de l'Union européenne*, lorsque l'Irlande n'est pas liée par les règles qui régissent des formes de coopération judiciaire en matière pénale ou de coopération policière dans le cadre desquelles les dispositions fixées sur la base de l'article 16 du *Traité sur le fonctionnement de l'Union européenne* doivent être respectées.

* en lien avec : le h) du 1 et du 2 au 7 de l'Article 5 - Pratiques interdites en matière d'IA

(41) Conformément aux articles 2 et 2 bis du *Protocole n° 22 sur la position du Danemark*, annexé au *Traité sur l'Union européenne* et au *Traité sur le fonctionnement de l'Union européenne*, le Danemark n'est pas lié par les règles fixées à l'article 5, paragraphe 1, premier alinéa, point g), dans la mesure où il s'applique à l'utilisation de *systèmes de catégorisation biométrique* pour des activités dans le domaine de la coopération policière et de la coopération judiciaire en matière pénale, à l'article 5, paragraphe 1, premier alinéa, point d), dans la mesure où il s'applique à l'utilisation de *systèmes d'IA* couverts par cette disposition, à l'article 5, paragraphe 1, premier alinéa, point h), à l'article 5, paragraphes 2 à 6, et à l'article 26, paragraphe 10, du présent règlement et adoptées sur la base de l'article 16 du *Traité sur le fonctionnement de l'Union européenne*, ni soumis à leur application, lorsqu'elles concernent le traitement des données à caractère personnel par les États membres dans l'exercice d'activités qui relèvent du champ d'application du chapitre 4 ou du chapitre 5 du titre V de la troisième partie du *Traité sur le fonctionnement de l'Union européenne*.

* en lien avec : le h) du 1 et du 2 au 7 de l'Article 5 - Pratiques interdites en matière d'IA

(42) Conformément à la présomption d'innocence, les personnes physiques dans l'Union devraient toujours être jugées sur leur comportement réel. Une personne physique ne devrait jamais être jugée sur la base d'un comportement prédit par l'IA uniquement sur la base de son *profilage*, de ses traits de personnalité ou de ses caractéristiques, telles que la nationalité, le lieu de naissance, le lieu de résidence, le nombre d'enfants, le niveau d'endettement ou le type de voiture, sans qu'il existe un motif raisonnable de soupçonner que cette personne est impliquée dans une activité criminelle sur la base de faits objectifs vérifiables et sans évaluation humaine de ceux-ci. Par conséquent, il convient d'interdire les évaluations des *risques* effectuées en ce qui concerne des personnes physiques dans le but d'évaluer la probabilité que ces dernières commettent une infraction ou de prévoir la survenance d'une infraction pénale, réelle ou potentielle, sur la seule base du *profilage* de ces personnes physiques ou de l'évaluation de leurs traits de personnalité et caractéristiques. En tout état de cause, cette interdiction ne vise ni ne concerne l'analyse des *risques* non fondée sur le *profilage* des personnes ou sur les traits de personnalité et les caractéristiques des individus, tels que les *systèmes d'IA* utilisant l'analyse des *risques* pour évaluer la probabilité de fraude financière de la part d'entreprises sur la base de transactions suspectes ou d'outils d'analyse des *risques* permettant de prédire la probabilité de la localisation de stupéfiants ou de marchandises illicites par les autorités douanières, par exemple sur la base de voies de trafic connues.

* en lien avec : le d) du 1 de l'Article 5 - Pratiques interdites en matière d'IA

(43) Il y a lieu d'interdire la mise sur le marché, la mise en service à cette fin spécifique ou l'utilisation de *systèmes d'IA* qui créent ou développent des bases de données de reconnaissance faciale par le *moissonnage*<fnref n="19" /> non ciblé d'images faciales provenant de l'internet ou de la vidéosurveillance, parce que cette pratique ne fait qu'accentuer le sentiment de surveillance de masse et peut entraîner des violations flagrantes des droits fondamentaux, y compris du droit au respect de la vie privée.

* en lien avec : le e) du 1 de l'Article 5 - Pratiques interdites en matière d'IA

<footnote n="19">¹⁹ Moissonnage de données : Extraction automatisée de contenus de sites de la toile, pratiquée en vue d'un traitement spécifique ; Le moissonnage des données (scraping) est le processus automatisé d'extraction de grandes quantités de données à partir de sites web.</footnote>
(44) La base scientifique des **systèmes d'IA** visant à identifier ou à inférer les émotions suscite de vives inquiétudes, d'autant plus que l'expression des émotions varie considérablement d'une culture et d'une situation à l'autre, comme d'ailleurs chez un même individu. Les principaux défauts de ces systèmes sont, entre autres, leur fiabilité limitée, leur manque de précision et leur **généralisabilité** limitée<fnref n="20" />. Par conséquent, les **systèmes d'IA** qui identifient ou déduisent les émotions ou les intentions de personnes physiques sur la base de leurs données **biométriques** peuvent conduire à des résultats discriminatoires et peuvent être intrusifs pour les droits et libertés des personnes concernées. Si l'on considère le déséquilibre de pouvoir qui existe dans le cadre du travail ou de l'enseignement, combiné au caractère intrusif de ces systèmes, ces derniers risqueraient de déboucher sur le traitement préjudiciable ou défavorable de certaines personnes physiques ou de groupes entiers de personnes physiques. Par conséquent, il convient d'interdire la mise sur le marché, la mise en service ou l'utilisation de **systèmes d'IA** destinés à être utilisés pour déterminer l'état émotionnel de personnes physiques dans des situations liées au lieu de travail et à l'enseignement. Cette interdiction ne devrait pas porter sur les **systèmes d'IA** mis sur le marché strictement pour des raisons médicales ou de sécurité, tels que les systèmes destinés à un usage thérapeutique.

* en lien avec : le f) du 1 de l'Article 5 - Pratiques interdites en matière d'IA

(45) Le présent règlement devrait être sans effet sur les pratiques interdites par le droit de l'Union, notamment en vertu du droit de la protection des données, de la lutte contre la discrimination, de la protection des consommateurs et de la concurrence.

* en lien avec : Article 5 - Pratiques interdites en matière d'IA

(46) Les **systèmes d'IA** à haut risque ne devraient être mis sur le marché de l'Union, mis en service ou utilisés que s'ils satisfont à certaines exigences obligatoires. Ces exigences devraient garantir que les **systèmes d'IA** à haut risque disponibles dans l'Union ou dont les sorties sont utilisées d'une autre manière dans l'Union ne présentent pas de risques inacceptables pour d'importants intérêts publics de l'Union tels qu'ils sont reconnus et protégés par le droit de l'Union. Sur la base du Nouveau cadre législatif, que la Commission a détaillé dans sa communication présentant le « "Guide bleu" relatif à la mise en œuvre de la réglementation de l'UE sur les produits 2022 », la règle générale est que plus d'un acte juridique de la législation d'harmonisation de l'Union, comme les règlements (UE) 2017/745 et (UE) 2017/746 du Parlement européen et du Conseil ou la directive 2006/42/CE du Parlement européen et du Conseil, peuvent s'appliquer à un produit dès lors que la mise à disposition ou la mise en service ne peut avoir lieu que lorsque le produit est conforme à l'ensemble de la législation d'harmonisation de l'Union applicable. Dans un souci de cohérence, et afin d'éviter des charges administratives ou des coûts inutiles, les fournisseurs d'un produit contenant un ou plusieurs **systèmes d'IA** à haut risque, auxquels s'appliquent les exigences du présent règlement et de la législation d'harmonisation de l'Union dont la liste figure en annexe du présent règlement, devraient disposer d'une certaine souplesse en ce qui concerne les décisions opérationnelles à prendre quant à la manière de garantir de façon optimale qu'un produit contenant un ou plusieurs **systèmes d'IA** est conforme à l'ensemble des exigences applicables de la législation d'harmonisation de l'Union. Les **systèmes d'IA** désignés comme étant à haut risque devraient être limités aux systèmes qui ont une incidence préjudiciable substantielle sur la santé, la sécurité et les droits fondamentaux des citoyens dans l'Union et une telle limitation devrait réduire au minimum toute éventuelle restriction au commerce international.

* en lien avec : Article 6 - Règles relatives à la classification de systèmes d'IA comme systèmes à haut risque et Article 8 - Respect des exigences

<footnote n="20">²⁰ La généralisabilité dans le contexte des systèmes d'intelligence artificielle (IA) désigne la capacité d'un modèle d'IA à maintenir ses performances lorsqu'il est appliqué à des données ou des situations différentes de celles sur lesquelles il a été initialement entraîné. Cela implique que le modèle peut être utilisé de manière fiable dans divers contextes sans nécessiter de réentraînement ou d'ajustements majeurs. La généralisabilité est cruciale pour garantir que les systèmes d'IA restent efficaces et précis lorsqu'ils sont déployés dans des environnements réels variés, au-delà des conditions spécifiques de leur développement initial.</footnote>
(47) Les **systèmes d'IA** pourraient avoir un impact négatif sur la santé et la sécurité des citoyens, en particulier lorsque ces systèmes sont utilisés en tant que composants de sécurité de produits. Conformément aux objectifs de la législation d'harmonisation de l'Union visant à faciliter la libre circulation des produits sur le marché intérieur et à garantir que seuls des produits sûrs et conformes à d'autres égards soient mis sur le marché, il est important de dûment prévenir et atténuer les risques pour la sécurité susceptibles d'être créés par un produit dans son ensemble en raison de ses composants numériques, y compris les **systèmes d'IA**. Par exemple, des robots de plus en plus autonomes, que ce soit dans le secteur de l'industrie manufacturière ou des services de soins et d'aide à autrui, devraient pouvoir opérer et remplir leurs fonctions en toute sécurité dans des environnements complexes. De même, dans le secteur de la santé, où les enjeux pour la vie et la santé sont particulièrement importants, les systèmes de diagnostic de plus en plus sophistiqués et les systèmes soutenant les décisions humaines devraient être fiables et précis.

* en lien avec : le 1 de l'Article 6 - Règles relatives à la classification de systèmes d'IA comme systèmes à haut risque et ANNEXE I

(48) L'ampleur de l'incidence négative du système d'IA sur les droits fondamentaux protégés par la Charte est un critère particulièrement pertinent lorsqu'il s'agit de classer un système d'IA en tant que système à haut risque. Ces droits comprennent le droit à la dignité humaine, le respect de la vie privée et familiale, la protection des données à caractère personnel, la liberté d'expression et d'information, la liberté de réunion et d'association, le droit à la non-discrimination, le droit à l'éducation, la protection des consommateurs, les droits des travailleurs, les droits des personnes handicapées, l'égalité de genre, les droits de propriété intellectuelle, le droit à un recours effectif et à accéder à un tribunal impartial, les droits de la défense et la présomption d'innocence, et le droit à une bonne administration. En plus de ces droits, il est important de souligner le fait que les enfants bénéficient de droits spécifiques consacrés à l'article 24 de la Charte<fnref n="21" /> et dans la Convention des Nations unies relative aux droits de l'enfant (et précisés dans l'Observation générale n° 25 de la CNUDE en ce qui concerne l'environnement numérique<fnref n="22" />), et que ces deux textes considèrent la prise en compte des vulnérabilités des enfants et la fourniture d'une protection et de soins appropriés comme nécessaires au bien-être de l'enfant. Le droit fondamental à un niveau élevé de protection de l'environnement, consacré dans la Charte et mis en œuvre dans les politiques de l'Union, devrait également être pris en considération lors de l'évaluation de la gravité du préjudice qu'un système d'IA peut causer, notamment en ce qui concerne les conséquences pour la santé et la sécurité des personnes.

* en lien avec : le 2 de l'Article 6 - Règles relatives à la classification de systèmes d'IA comme systèmes à haut risque et ANNEXE III

(49) En ce qui concerne les **systèmes d'IA** à haut risque constituant des composants de sécurité de produits ou de systèmes, ou qui sont eux-mêmes des produits ou des systèmes entrant dans le champ d'application du règlement (CE) n° 300/2008 du Parlement européen et du Conseil, du règlement (UE) n° 167/2013 du Parlement européen et du Conseil, du règlement (UE) n° 168/2013 du Parlement européen et du Conseil, de la directive 2014/90/UE du Parlement européen et du Conseil, de la directive (UE) 2016/797 du Parlement européen et du Conseil, du

<footnote n="21">²¹ L'article 24 de la Charte des droits fondamentaux de l'UE indique que les enfants ont droit à la protection et aux soins nécessaires à leur bien-être, à exprimer librement leur opinion, et à entretenir des relations personnelles avec leurs deux parents, l'intérêt supérieur de l'enfant étant une considération primordiale dans tous les actes les concernant.</footnote>

<footnote n="22">²² L'observation générale du Comité des droits de l'enfant des Nations Unies sur les droits de l'enfant dans l'environnement numérique met en avant les opportunités et les risques associés aux technologies de l'information et de la communication pour les enfants. Elle rappelle quatre principes fondamentaux : la non-discrimination, l'intérêt supérieur de l'enfant, le droit à la vie, à la survie et au développement, et le respect de l'opinion de l'enfant. Le document détaille comment garantir les droits civils et libertés des enfants dans le numérique, notamment l'accès à l'information, la liberté d'expression, de pensée, de religion, d'association et le droit à la vie privée. Il aborde également la protection contre l'exploitation, les violences, et les risques pour la santé mentale et physique, tout en soulignant l'importance d'un équilibre entre protection et autonomisation des enfants. Enfin, il encourage l'utilisation des technologies pour l'éducation, le développement des compétences numériques et la participation culturelle, et recommande aux États d'adopter des législations adaptées, d'allouer des ressources suffisantes, de sensibiliser et former les professionnels, et de coopérer internationalement.</footnote>
règlement (UE) 2018/858 du Parlement européen et du Conseil, du règlement (UE) 2018/1139 du Parlement européen et du Conseil ou du règlement (UE) 2019/2144 du Parlement européen et du Conseil, il convient de modifier ces actes pour veiller à ce que la Commission tienne compte, sur la base des spécificités techniques et réglementaires de chaque secteur, et sans interférer avec les mécanismes et les autorités de gouvernance, d'évaluation de la conformité et de contrôle de l'application déjà en place en vertu de ces règlements, des exigences obligatoires applicables aux systèmes d'IA à haut risque définis dans le présent règlement lors de l'adoption d'actes délégués ou d'actes d'exécution pertinents sur la base de ces actes.

* en lien avec : **Article 102 - Modification du règlement (CE) n° 300/2008 à Article 110 - Modification de la directive (UE) 2020/1828 et la Section B. Liste des autres législations d'harmonisation de l'Union de l'ANNEXE I**

(50) En ce qui concerne les systèmes d'IA qui constituent des composants de sécurité de produits relevant de certaines législations d'harmonisation de l'Union dont la liste figure en annexe du présent règlement, ou qui sont eux-mêmes de tels produits, il convient de les classer comme étant à haut risque au titre du présent règlement si le produit concerné est soumis à la procédure d'évaluation de la conformité par un organisme tiers d'évaluation de la conformité conformément à la législation d'harmonisation de l'Union correspondante. Ces produits sont notamment les machines, les jouets, les ascenseurs, les appareils et les systèmes de protection destinés à être utilisés en atmosphères explosibles, les équipements radio, les équipements sous pression, les équipements pour bateaux de plaisance, les installations à câbles, les appareils brûlant des combustibles gazeux, les dispositifs médicaux, les dispositifs médicaux de diagnostic in vitro, l'automobile et l'aviation.

* en lien avec : **le 1 de l'Article 6 - Règles relatives à la classification de systèmes d'IA comme systèmes à haut risque et la Section A. Liste de la législation d'harmonisation de l'Union fondée sur le Nouveau cadre législatif de l'ANNEXE I**

(51) La classification d'un système d'IA comme étant à haut risque en application du présent règlement ne devrait pas nécessairement signifier que le produit utilisant le système d'IA en tant que composant de sécurité, ou que le système d'IA lui-même en tant que produit, est considéré comme étant à haut risque selon les critères établis dans la législation d'harmonisation de l'Union correspondante qui s'applique au produit en question. Tel est notamment le cas pour le règlement (UE) 2017/745 et le règlement (UE) 2017/746, dans le cadre desquels une évaluation de la conformité par un tiers est prévue pour les produits à risque moyen et les produits à haut risque.

* en lien avec : **le 1 de l'Article 6 - Règles relatives à la classification de systèmes d'IA comme systèmes à haut risque et la Section A. Liste de la législation d'harmonisation de l'Union fondée sur le Nouveau cadre législatif de l'ANNEXE I**

(52) En ce qui concerne les systèmes d'IA autonomes, à savoir les systèmes d'IA à haut risque autres que ceux qui constituent des composants de sécurité de produits ou qui sont eux-mêmes des produits, il convient de les classer comme étant à haut risque si, au vu de leur destination, ils présentent un risque élevé de causer un préjudice à la santé, à la sécurité ou aux droits fondamentaux des citoyens, en tenant compte à la fois de la gravité et de la probabilité du préjudice éventuel, et s'ils sont utilisés dans un certain nombre de domaines spécifiquement prédéfinis dans le présent règlement. La définition de ces systèmes est fondée sur la même méthode et les mêmes critères que ceux également envisagés pour toute modification ultérieure de la liste des systèmes d'IA à haut risque que la Commission devrait être habilitée à adopter, au moyen d'actes délégués, afin de tenir compte du rythme rapide de l'évolution technologique, ainsi que des changements potentiels dans l'utilisation des systèmes d'IA.

* en lien avec : **le 2 de l'Article 6 - Règles relatives à la classification de systèmes d'IA comme systèmes à haut risque et ANNEXE III**

(53) Il importe également de préciser qu'il peut exister des cas spécifiques dans lesquels les systèmes d'IA visés dans des domaines prédéfinis spécifiés dans le présent règlement ne
présentent pas un **risque** important d'atteinte aux intérêts juridiques protégés dans ces domaines parce qu'ils n'ont pas d'incidence substantielle sur la prise de décision ou ne causent pas de préjudice important à ces intérêts. Aux fins du présent règlement, il convient d'entendre par **systèmes d'IA** qui n'a pas d'incidence substantielle sur le résultat de la prise de décision un **système d'IA** qui n'a pas d'incidence sur la substance et, partant, sur le résultat de la prise de décision, qu'elle soit humaine ou automatisée. Dans les cas où une ou plusieurs des conditions ci-après sont remplies, il pourrait s'agir d'un **système d'IA** qui n'a pas d'incidence substantielle sur le résultat de la prise de décision. La première de ces conditions devrait être que le **système d'IA** est destiné à accomplir une tâche procédurale étroite, comme transformer des données non structurées en données structurées, classer les documents entrants par catégories ou détecter les doublons parmi un grand nombre d'applications. Ces tâches sont par nature si étroites et limitées qu'elles ne présentent que des **risques** limités, qui ne sont pas exacerbés par une utilisation d'un **système d'IA** dans un contexte répertorié parmi les utilisations à haut risque dans la liste figurant en **annexe** du présent règlement. La deuxième condition devrait être que la tâche effectuée par le **système d'IA** est destinée à améliorer le résultat d'une activité humaine préalablement réalisée, susceptible d'être utile aux fins des utilisations à haut risque énumérées dans une **annexe** du présent règlement. Compte tenu de ces caractéristiques, le **système d'IA** n'ajoute qu'une couche supplémentaire à une activité humaine, ce qui présente par conséquent un **risque** réduit. Cette condition s'appliquerait par exemple aux **systèmes d'IA** destinés à améliorer la façon dont un document est rédigé, pour lui donner un ton professionnel ou un style académique ou pour l'adapter à un message de marque défini. La troisième condition devrait être que le **système d'IA** est destiné à détecter les constantes en matière de prise de décision ou les écarts par rapport aux constantes habituelles antérieures. Le **risque** serait réduit parce que l'utilisation du **système d'IA** intervient après la réalisation d'une évaluation humaine et n'est pas destinée à se substituer à celle-ci ni à l'influencer, sans examen humain approprié. Il s'agit par exemple des **systèmes d'IA** qui, compte tenu de certaines constantes habituelles observées chez un enseignant au niveau de la notation, peuvent être utilisés pour vérifier a posteriori si l'enseignant s'est éventuellement écarté de ces constantes, de manière à signaler d'éventuelles incohérences ou anomalies. La quatrième condition devrait être que le **système d'IA** est destiné à exécuter une tâche qui n'est qu'un acte préparatoire à une évaluation pertinente aux fins des **systèmes d'IA** repris dans la liste figurant dans une **annexe** du présent règlement et, partant, la probabilité que les sorties produites par le système présentent un **risque** pour l'évaluation postérieure est très faible. Cette condition s'applique, entre autres, aux solutions intelligentes de traitement des fichiers, qui comprennent diverses fonctions telles que l'indexation, la recherche, le traitement de texte et le traitement de la parole ou le fait de relier des données à d'autres sources de données, ou aux **systèmes d'IA** utilisés pour la traduction de documents initiaux. En tout état de cause, les **systèmes d'IA** utilisés dans des cas d'utilisation à haut risque énumérés dans une **annexe** du présent règlement devraient être considérés comme présentant des **risques** importants de préjudice pour la santé, la sécurité ou les droits fondamentaux si le **système d'IA** implique un **profilage** au sens de l'article 4, point 4), du règlement (UE) 2016/679, de l'article 3, point 4), de la directive (UE) 2016/680 et de l'article 3, point 5), du règlement (UE) 2018/1725²³. Afin de garantir la traçabilité et la transparence, un **fournisseur** qui considère qu'un **système d'IA** n'est pas à haut risque sur la base des conditions susvisées devrait documenter l'évaluation avant la mise sur le marché ou la mise en service de ce système et fournir cette documentation aux autorités nationales compétentes sur demande. Ce **fournisseur** devrait être tenu d'enregistrer le **système d'IA** dans la base de données de l'UE établie en vertu du présent règlement. En vue de fournir des orientations supplémentaires pour la mise en œuvre pratique des critères en fonction desquels des **systèmes d'IA** répertoriés dans la liste figurant dans une **annexe** du

<footnote n="23">²³ « profilage », toute forme de traitement automatisé de données à caractère personnel consistant à utiliser ces données à caractère personnel pour évaluer certains aspects personnels relatifs à une personne physique, notamment pour analyser ou prédire des éléments concernant le rendement au travail, la situation économique, la santé, les préférences personnelles, les intérêts, la fiabilité, le comportement, la localisation ou les déplacements de cette personne physique;</footnote>
présent règlement sont, à titre exceptionnel, des systèmes qui ne sont pas à haut risque, la Commission devrait, après consultation du Comité IA, fournir des lignes directrices précisant cette mise en œuvre pratique, assorties d'une liste exhaustive d'exemples pratiques de cas d'utilisation de systèmes d'IA qui sont à haut risque et de cas d'utilisation qui ne le sont pas.

* en lien avec : le 4 à 7 de l'Article 6 - Règles relatives à la classification de systèmes d'IA comme systèmes à haut risque

(54) Étant donné que les données biométriques constituent une catégorie particulière de données à caractère personnel, il convient de classer comme étant à haut risque plusieurs cas d'utilisation critique des systèmes biométriques, dans la mesure où leur utilisation est autorisée par le droit de l'Union et le droit national applicables. Les inexactitudes techniques des systèmes d'IA destinés à l'identification biométrique à distance des personnes physiques peuvent conduire à des résultats biaisés et entraîner des effets discriminatoires. Le risque de tels résultats biaisés et d'effets discriminatoires est particulièrement important en ce qui concerne l'âge, l'appartenance ethnique, la race, le sexe ou le handicap. Il convient par conséquent de classer les systèmes d'identification biométrique à distance comme étant à haut risque compte tenu des risques qu'ils présentent. Sont exclus de cette classification les système d'IA destinés à être utilisés à des fins de vérification biométrique, parmi lesquelles l'authentification<fnref n="24" />, dont la seule finalité est de confirmer qu'une personne physique donnée est bien celle qu'elle prétend être et de confirmer l'identité d'une personne physique dans le seul but d'avoir accès à un service, de déverrouiller un dispositif ou de disposer d'un accès sécurisé à des locaux. En outre, il convient de classer comme étant à haut risque les systèmes d'IA destinés à être utilisés pour la catégorisation biométrique en fonction d'attributs ou de caractéristiques sensibles protégés en vertu de l'article 9, paragraphe 1, du règlement (UE) 2016/679 sur la base de données biométriques, dans la mesure où ils ne sont pas interdits par le présent règlement, et les systèmes de reconnaissance des émotions qui ne sont pas interdits en vertu du présent règlement. Les systèmes biométriques destinés à être utilisés uniquement dans le but de permettre la cybersécurité et les mesures de protection des données à caractère personnel ne devraient pas être considérés comme des systèmes d'IA à haut risque.

* en lien avec : le 2 de l'Article 6 - Règles relatives à la classification de systèmes d'IA comme systèmes à haut risque et le 1 de l'ANNEXE III

(55) En ce qui concerne la gestion et l'exploitation des infrastructures critiques, il convient de classer comme étant à haut risque les systèmes d'IA destinés à être utilisés en tant que composants de sécurité dans le cadre de la gestion et de l'exploitation des infrastructures numériques critiques visées à l'annexe, point 8, de la directive (UE) 2022/2557²⁵, du trafic routier et de l'approvisionnement en eau, gaz, électricité et chauffage, car leur défaillance ou leur mauvais fonctionnement peut mettre en danger la vie et la santé de personnes à grande échelle et entraîner des perturbations importantes dans le déroulement normal des activités sociales et économiques. Les composants de sécurité des infrastructures critiques, y compris des infrastructures numériques critiques, sont des systèmes utilisés pour protéger directement l'intégrité physique des infrastructures critiques ou la santé et la sécurité des personnes et des biens, mais qui ne sont pas nécessaires au fonctionnement du système. La défaillance ou le mauvais fonctionnement de ces composants pourrait directement entraîner des risques pour l'intégrité physique des infrastructures critiques et, partant, des risques pour la santé et la sécurité des personnes et des biens. Les composants destinés à être utilisés uniquement à des fins de cybersécurité ne devraient pas être considérés comme des composants de sécurité. Les systèmes de surveillance de la pression de l'eau ou les systèmes de commande des alarmes

<footnote n="24">²⁴ Authentification : Le fait de s'assurer, par une procédure conventionnelle, de la qualité de son correspondant.</footnote>

<footnote n="25">²⁵ Fournisseurs de points d'échange internet, de services DNS (hors opérateurs de serveurs racines), de registres de noms de domaines de premier niveau, de services d'informatique en nuage et de services de centre de données, selon la directive (UE) 2022/2555.</footnote>
incendie dans les centres d'informatique en nuage<fnref n="26" /> sont des exemples de composants de sécurité de ces infrastructures critiques.

➤ en lien avec : le 2 de l'Article 6 - Règles relatives à la classification de systèmes d'IA comme systèmes à haut risque et le 2 de l'ANNEXE III

(56) Le déploiement de systèmes d'IA dans l'éducation est important pour promouvoir une éducation et une formation numériques de qualité et pour permettre à tous les apprenants et enseignants d'acquérir et de partager les aptitudes et compétences numériques nécessaires, y compris l'éducation aux médias, ainsi que l'esprit critique, pour participer activement à l'économie, à la société et aux processus démocratiques. Toutefois, les systèmes d'IA utilisés dans l'éducation ou la formation professionnelle, en particulier pour déterminer l'accès ou l'admission, pour affecter des personnes à des établissements ou programmes d'enseignement et de formation professionnelle à tous les niveaux, pour évaluer les acquis d'apprentissage des personnes, pour évaluer le niveau d'enseignement approprié d'une personne et influencer substantiellement le niveau d'enseignement et de formation dont bénéficiera cette personne ou auquel elle pourra avoir accès ou pour surveiller les étudiants au cours des épreuves et détecter les comportements interdits dans ce cadre devraient être classés comme étant à haut risque, car ils peuvent déterminer le parcours éducatif et professionnel d'une personne et peut par conséquent avoir une incidence sur la capacité de cette personne à assurer sa propre subsistance. Lorsqu'ils sont mal conçus et utilisés, ces systèmes peuvent être particulièrement intrusifs et mener à des violations du droit à l'éducation et à la formation ainsi que du droit à ne pas subir de discriminations, et perpétuer des schémas historiques de discrimination, par exemple à l'encontre des femmes, de certains groupes d'âge, des personnes handicapées ou de certaines personnes en raison de leur origine raciale ou ethnique ou de leur orientation sexuelle.

➤ en lien avec : le 2 de l'Article 6 - Règles relatives à la classification de systèmes d'IA comme systèmes à haut risque et le 3 de l'ANNEXE III

(57) Les systèmes d'IA utilisés pour des questions liées à l'emploi, à la gestion de la main-d'œuvre et à l'accès à l'emploi indépendant, en particulier pour le recrutement et la sélection de personnes, pour la prise de décisions affectant les conditions des relations professionnelles, ainsi que la promotion et la résiliation des relations professionnelles contractuelles, pour l'attribution de tâches fondée sur le comportement individuel, les traits de personnalité ou les caractéristiques personnelles et pour le suivi ou l'évaluation des personnes dans le cadre de relations professionnelles contractuelles, devraient également être classés comme étant à haut risque car ces systèmes peuvent avoir une incidence considérable sur les perspectives de carrière et les moyens de subsistance de ces personnes ainsi que sur les droits des travailleurs. Les relations professionnelles contractuelles en question devraient concerner également, de manière significative, celles qui lient les employés et les personnes qui fournissent des services sur des plateformes telles que celles visées dans le Programme de travail de la Commission pour 2021. Tout au long du processus de recrutement et lors de l'évaluation, de la promotion ou du maintien des personnes dans des relations professionnelles contractuelles, les systèmes d'IA peuvent perpétuer des schémas historiques de discrimination, par exemple à l'égard des femmes, de certains groupes d'âge et des personnes handicapées, ou de certaines personnes en raison de leur origine raciale ou ethnique ou de leur orientation sexuelle. Les systèmes d'IA utilisés pour surveiller les performances et le comportement de ces personnes peuvent aussi porter atteinte à leurs droits fondamentaux à la protection des données et à la vie privée.

➤ en lien avec : le 2 de l'Article 6 - Règles relatives à la classification de systèmes d'IA comme systèmes à haut risque et le 4 de l'ANNEXE III

(58) Un autre domaine dans lequel l'utilisation des systèmes d'IA mérite une attention particulière est l'accès et le droit à certains services et prestations essentiels, publics et privés, devant permettre aux personnes de participer pleinement à la société ou d'améliorer leur niveau de

<footnote n="26">²⁶ Informatique en nuage : Mode de traitement des données d'un client, dont l'exploitation s'effectue par l'internet, sous la forme de services fournis par un prestataire.</footnote>
vie. En particulier, les personnes physiques qui demandent à bénéficier ou bénéficient de prestations et services essentiels d'aide publique de la part des pouvoirs publics, à savoir des services de soins de santé, des prestations de sécurité sociale, des services sociaux fournissant une protection dans des cas tels que la maternité, la maladie, les accidents du travail, la dépendance ou la vieillesse et la perte d'emploi et l'aide sociale et au logement, sont généralement tributaires de ces prestations et services et se trouvent dans une situation vulnérable par rapport aux autorités compétentes. Lorsqu'ils sont utilisés pour déterminer si ces prestations et services devraient être accordés, refusés, réduits, révoqués ou récupérés par les autorités, y compris pour déterminer si les bénéficiaires y ont légitimement droit, les **systèmes d'IA** peuvent avoir une grande incidence sur les moyens de subsistance des personnes et porter atteinte à leurs droits fondamentaux, tels que le droit à la protection sociale, à la non-discrimination, à la dignité humaine ou à un recours effectif, et devraient donc être classés comme étant à haut risque. Néanmoins, le présent règlement ne devrait pas entraver la mise en place et l'utilisation, dans l'administration publique, d'approches innovantes qui bénéficieraient d'une utilisation plus large de **systèmes d'IA** conformes et sûrs, à condition que ces systèmes n'entraînent pas de **risque** élevé pour les personnes physiques et morales. En outre, les **systèmes d'IA** utilisés pour évaluer la note de crédit ou la solvabilité des personnes physiques devraient être classés en tant que **système d'IA** à haut risque, car ils déterminent l'accès de ces personnes à des ressources financières ou à des services essentiels tels que le logement, l'électricité et les services de télécommunication. Les **systèmes d'IA** utilisés à ces fins peuvent conduire à la discrimination entre personnes ou groupes et perpétuer des schémas historiques de discrimination, tels que ceux fondés sur les origines raciales ou ethniques, le sexe, les handicaps, l'âge ou l'orientation sexuelle, ou peuvent créer de nouvelles formes d'incidences discriminatoires. Toutefois, les **systèmes d'IA** prévus par le droit de l'Union aux fins de détecter les fraudes dans l'offre de services financiers et à des fins prudentielles pour calculer les besoins en fonds propres des établissements de crédit et des compagnies d'assurance ne devraient pas être considérés comme étant à haut risque au titre du présent règlement. Par ailleurs, les **systèmes d'IA** destinés à être utilisés pour l'évaluation des **risques** et la tarification en ce qui concerne les personnes physiques en matière d'assurance-santé et vie peuvent avoir une incidence significative sur les moyens de subsistance de ces personnes et, s'ils ne sont pas dûment conçus, développés et utilisés, peuvent porter atteinte à leurs droits fondamentaux et entraîner de graves conséquences pour leur vie et leur santé, y compris l'exclusion financière et la discrimination. Enfin, les **systèmes d'IA** utilisés pour évaluer et hiérarchiser les appels d'urgence émis par des personnes physiques ou pour envoyer des services d'intervention d'urgence ou établir des priorités dans l'envoi de tels services, y compris la police, les pompiers et les secours, ainsi que dans l'utilisation des systèmes de tri des patients admis dans les services de santé d'urgence, devraient aussi être classés comme étant à haut risque car ils prennent des décisions dans des situations très critiques pour la vie, la santé et les biens des personnes.

<figure><img src="image_4.png" /></figure>

en lien avec : le 2 de l'Article 6 - Règles relatives à la classification de systèmes d'IA comme systèmes à haut risque et le 5 de l'ANNEXE III

(59) Compte tenu du rôle et de la responsabilité des **autorités répressives**, les actions menées par celles-ci qui supposent certaines utilisations de **système d'IA** sont caractérisées par un degré important de déséquilibre des forces et peuvent conduire à la surveillance, à l'arrestation ou à la privation de la liberté d'une personne physique ainsi qu'à d'autres conséquences négatives sur des droits fondamentaux garantis par la **Charte**. En particulier, si le **système d'IA** n'est pas entraîné avec des données de haute qualité, ne répond pas aux exigences voulues en termes de **performance d'un système d'IA**, d'exactitude ou de robustesse, ou n'est pas correctement conçu et testé avant d'être **mis sur le marché** ou **mis en service**, il risque de traiter des personnes de manière discriminatoire ou, plus généralement, incorrecte ou injuste. En outre, l'exercice de droits fondamentaux procéduraux importants, tels que le droit à un recours effectif et à accéder à un tribunal impartial, ainsi que les droits de la défense et la présomption
d'innocence, pourrait être entravé, en particulier lorsque ces **systèmes d'IA** ne sont pas suffisamment transparents, explicables et documentés. Il convient donc de classer comme étant à haut risque, dans la mesure où leur utilisation est autorisée par le droit de l'Union et le droit national applicables, un certain nombre de **systèmes d'IA** destinés à être utilisés dans un contexte répressif où l'exactitude, la fiabilité et la transparence sont particulièrement importantes pour éviter des conséquences négatives, conserver la confiance du public et garantir que des comptes soient rendus et que des recours puissent être exercés. Compte tenu de la nature des activités et des **risques** y afférents, ces **systèmes d'IA** à haut risque devraient inclure en particulier les **systèmes d'IA** destinés à être utilisés par les **autorités répressives** ou pour leur compte ou par les institutions, organes et organismes de l'Union pour aider les **autorités répressives** à évaluer le **risque** qu'une personne physique ne devienne victime d'infractions pénales, tels que les polygraphes et instruments similaires, à évaluer la fiabilité des preuves dans le cadre d'enquêtes ou de poursuites relatives à des infractions pénales, et, dans la mesure où cela n'est pas interdit par le présent règlement, à évaluer le **risque** d'infraction ou de récidive d'une personne physique non seulement sur la base du **profilage** de personnes physiques, mais aussi sur la base de l'évaluation des traits de personnalité, des caractéristiques ou des antécédents judiciaires de personnes physiques ou de groupes, à des fins de **profilage** dans le cadre de la détection d'infractions pénales, d'enquêtes et de poursuites en la matière. Les **systèmes d'IA** spécifiquement destinés à être utilisés pour des procédures administratives par les autorités fiscales et douanières ainsi que par les cellules de renseignement financier effectuant des tâches administratives d'analyse d'informations dans le cadre de la législation de l'Union relative à la lutte contre le blanchiment des capitaux ne devraient pas être classés comme des **systèmes d'IA** à haut risque utilisés par les **autorités répressives** à des fins de prévention et de détection des infractions pénales, d'enquêtes et de poursuites en la matière. L'utilisation des outils d'IA par les **autorités répressives** et d'autres autorités pertinentes ne devrait pas devenir un facteur d'inégalité ou d'exclusion. Les conséquences de l'utilisation des outils d'IA sur les droits de la défense des suspects ne devraient pas être ignorées, en particulier la difficulté d'obtenir des informations utiles sur le fonctionnement de ces outils et, partant, la difficulté de saisir la justice pour contester leurs résultats, en particulier pour les personnes physiques faisant l'objet d'une enquête.

<figure><img src="image_5.png" /></figure>

en lien avec : le 2 de l'Article 6 - Règles relatives à la classification de systèmes d'IA comme systèmes à haut risque et le 6 de l'ANNEXE III

(60) Les **systèmes d'IA** utilisés dans les domaines de la migration, de l'asile et de la gestion des contrôles aux frontières touchent des personnes qui se trouvent souvent dans une situation particulièrement vulnérable et qui sont tributaires du résultat des actions des autorités publiques compétentes. L'exactitude, la nature non discriminatoire et la transparence des **systèmes d'IA** utilisés dans ces contextes sont donc particulièrement importantes pour garantir le respect des droits fondamentaux des personnes concernées, en particulier leurs droits à la libre circulation, à la non-discrimination, à la protection de la vie privée et des **données à caractère personnel**, à une protection internationale et à une bonne administration. Il convient donc de classer comme étant à haut risque, dans la mesure où leur utilisation est autorisée par le droit de l'Union et le droit national applicables, les **systèmes d'IA** destinés à être utilisés par les autorités publiques compétentes ou pour leur compte ou par les institutions, organes et organismes de l'Union chargés de tâches dans les domaines de la migration, de l'asile et de la gestion des contrôles aux frontières, tels que les polygraphes et instruments similaires, pour évaluer certains **risques** présentés par des personnes physiques entrant sur le territoire d'un État membre ou demandant un visa ou l'asile, et pour aider les autorités publiques compétentes à procéder à l'examen, y compris l'évaluation connexe de la fiabilité des éléments de preuve, des demandes d'asile, de visas et de titres de séjour et des plaintes connexes au regard de l'objectif visant à établir l'éligibilité des personnes physiques demandant un statut, aux fins de détecter, de reconnaître ou d'identifier des personnes physiques dans le cadre de la migration, de l'asile et de la gestion des contrôles aux frontières,
à l'exception de la vérification des documents de voyage. Les **systèmes d'IA** utilisés dans les domaines de la migration, de l'asile et de la gestion des contrôles aux frontières couverts par le présent règlement devraient être conformes aux exigences procédurales pertinentes fixées par le règlement (CE) n° 810/2009 du Parlement européen et du Conseil, la directive 2013/32/UE du Parlement européen et du Conseil et tout autre acte législatif pertinent de l'Union. Les **systèmes d'IA** ne devraient en aucun cas être utilisés par les États membres ou les institutions, organes ou organismes de l'Union dans les domaines de la migration, de l'asile et de la gestion des contrôles aux frontières comme moyen de contourner les obligations internationales qui leur incombent en vertu de la Convention des Nations unies relative au statut des réfugiés, signée à Genève le 28 juillet 1951, telle que modifiée par le protocole du 31 janvier 1967. Ils ne devraient pas non plus être utilisés pour enfreindre de quelque manière que ce soit le principe de non-refoulement ou pour refuser des voies d'accès légales sûres et effectives au territoire de l'Union, y compris le droit à la protection internationale.

<figure><img src="image_6.png" /></figure>

en lien avec : le 2 de l'Article 6 - Règles relatives à la classification de systèmes d'IA comme systèmes à haut risque et le 7 de l'ANNEXE III

(61) Certains **systèmes d'IA** destinés à être utilisés pour l'administration de la justice et les processus démocratiques devraient être classés comme étant à haut risque, compte tenu de leur incidence potentiellement significative sur la démocratie, l'état de droit, les libertés individuelles ainsi que le droit à un recours effectif et à accéder à un tribunal impartial. En particulier, pour faire face aux **risques** de biais, d'erreurs et d'opacité, il convient de classer comme étant à haut risque les **systèmes d'IA** destinés à être utilisés par une autorité judiciaire ou pour le compte de celle-ci pour aider les autorités judiciaires à rechercher et à interpréter les faits et la loi, et à appliquer la loi à un ensemble concret de faits. Les **systèmes d'IA** destinés à être utilisés par des organismes de règlement extrajudiciaire des litiges à ces fins devraient également être considérés comme étant à haut risque lorsque les résultats des procédures de règlement extrajudiciaire des litiges produisent des effets juridiques pour les parties. L'utilisation d'outils d'IA peut soutenir le pouvoir de décision des juges ou l'indépendance judiciaire, mais ne devrait pas les remplacer, car la décision finale doit rester une activité humaine. La classification des **systèmes d'IA** comme étant à haut risque ne devrait cependant pas s'étendre aux **systèmes d'IA** destinés à être utilisés pour des activités administratives purement accessoires qui n'ont aucune incidence sur l'administration réelle de la justice dans des cas individuels, telles que l'anonymisation ou la pseudonymisation de décisions judiciaires, de documents ou de données, la communication entre membres du personnel ou les tâches administratives.

<figure><img src="image_7.png" /></figure>

en lien avec : le 2 de l'Article 6 - Règles relatives à la classification de systèmes d'IA comme systèmes à haut risque et le 8.a) de l'ANNEXE III

(62) Sans préjudice des règles prévues dans le règlement (UE) 2024/900 du Parlement européen et du Conseil, et afin de faire face aux risques d'ingérence extérieure induite dans le droit de vote consacré à l'article 39 de la Charte<fnref n="27" /> et d'effets négatifs sur la démocratie et l'état de droit, les **systèmes d'IA** destinés à être utilisés pour influencer le résultat d'une élection ou d'un référendum ou le comportement électoral de personnes physiques dans l'exercice de leur vote lors d'élections ou de référendums devraient être classés comme étant à haut risque, à l'exception des **systèmes d'IA** dont les sorties ne touchent pas directement les personnes physiques, tels que les outils utilisés pour organiser, optimiser et structurer les campagnes politiques d'un point de vue administratif et logistique.

<figure><img src="image_8.png" /></figure>

en lien avec : le 2 de l'Article 6 - Règles relatives à la classification de systèmes d'IA comme systèmes à haut risque et le 8.b) de l'ANNEXE III

(63) Le fait qu'un **système d'IA** soit classé comme étant à haut risque au titre du présent règlement ne devrait pas être interprété comme indiquant que l'utilisation du système est licite au titre

<footnote n="27">²⁷ Tout citoyen de l'Union a le droit de vote et d'éligibilité aux élections au Parlement européen dans l'État membre où il réside, dans les mêmes conditions que les ressortissants de cet État, et les membres du Parlement européen sont élus au suffrage universel direct, libre et secret.</footnote>
d'autres actes législatifs de l'Union ou au titre du droit national compatible avec le droit de l'Union, concernant notamment la protection des données à caractère personnel ou l'utilisation de polygraphes et d'instruments similaires ou d'autres systèmes d'analyse de l'état émotionnel des personnes physiques. Toute utilisation de ce type devrait continuer à être subordonnée aux exigences applicables découlant de la Charte et des actes applicables du droit dérivé de l'Union et du droit national. Le présent règlement ne saurait être considéré comme constituant un fondement juridique pour le traitement des données à caractère personnel, y compris des catégories particulières de données à caractère personnel, le cas échéant, sauf disposition contraire expresse du présent règlement.

* en lien avec : le 2 de l'Article 6 - Règles relatives à la classification de systèmes d'IA comme systèmes à haut risque et l'ANNEXE III

(64) Afin d'atténuer les risques liés aux systèmes d'IA à haut risque mis sur le marché ou mis en service et de garantir un niveau élevé de fiabilité, certaines exigences obligatoires devraient s'appliquer aux systèmes d'IA à haut risque, en tenant compte de la destination du système d'IA et du contexte de son utilisation et en fonction du système de gestion des risques à mettre en place par le fournisseur. Les mesures adoptées par les fournisseurs pour se conformer aux exigences obligatoires du présent règlement devraient tenir compte de l'état de la technique généralement reconnu en matière d'IA, et être proportionnées et effectives pour atteindre les objectifs du présent règlement. Reposant sur le Nouveau cadre législatif, tel que précisé dans la communication de la Commission intitulée « "Guide bleu" relatif à la mise en œuvre de la réglementation de l'UE sur les produits 2022 », la règle générale est que plus d'un acte juridique de la législation d'harmonisation de l'Union peuvent être applicables à un produit donné, étant donné que la mise à disposition ou la mise en service ne peut avoir lieu que si le produit est conforme à l'ensemble de la législation d'harmonisation de l'Union applicable. Les dangers des systèmes d'IA couverts par les exigences du présent règlement concernent des aspects différents de ceux qui sont énoncés dans la législation d'harmonisation existante de l'Union, et, par conséquent, les exigences du présent règlement compléteraient l'ensemble existant de la législation d'harmonisation de l'Union. Par exemple, les machines ou les dispositifs médicaux incorporant un système d'IA peuvent présenter des risques qui ne sont pas couverts par les exigences essentielles en matière de santé et de sécurité énoncées dans la législation harmonisée pertinente de l'Union, étant donné que cette législation sectorielle ne traite pas des risques spécifiques aux systèmes d'IA. Cela implique d'appliquer conjointement et de manière complémentaire les divers actes législatifs. Dans un souci de cohérence, et afin d'éviter une charge administrative et des coûts inutiles, les fournisseurs d'un produit contenant un ou plusieurs systèmes d'IA à haut risque, auxquels s'appliquent les exigences du présent règlement ainsi que les exigences de la législation d'harmonisation de l'Union reposant sur le Nouveau cadre législatif et dont la liste figure dans une annexe du présent règlement, devraient disposer d'une certaine souplesse en ce qui concerne les décisions opérationnelles à prendre quant à la manière de garantir de façon optimale qu'un produit contenant un ou plusieurs systèmes d'IA est conforme à l'ensemble des exigences applicables de cette législation harmonisée de l'Union. Cette souplesse pourrait signifier, par exemple, que le fournisseur décide d'intégrer une partie des processus d'essai et de déclaration nécessaires, ainsi que des informations et de la documentation requises en vertu du présent règlement dans la documentation et les procédures existantes requises en vertu de la législation d'harmonisation de l'Union en vigueur reposant sur le Nouveau cadre législatif et dont la liste figure en annexe du présent règlement. Cela ne devrait en aucun cas porter atteinte à l'obligation qu'a le fournisseur de se conformer à toutes les exigences applicables.

* en lien avec : Article 8 - Respect des exigences

(65) Le système de gestion des risques devrait consister en un processus itératif continu planifié et se dérouler sur l'ensemble du cycle de vie d'un système d'IA à haut risque. Ce processus devrait viser à identifier et à atténuer les risques des systèmes d'IA qui se posent pour la santé, la sécurité et les droits fondamentaux. Le système de gestion des risques devrait être
régulièrement réexaminé et mis à jour afin de garantir le maintien de son efficacité, ainsi que la justification et la documentation de toutes les décisions et mesures importantes prises en vertu du présent règlement. Ce processus devrait garantir que le fournisseur détermine les risques ou les incidences négatives et mette en œuvre des mesures d'atténuation des risques connus et raisonnablement prévisibles des systèmes d'IA pour la santé, la sécurité et les droits fondamentaux à la lumière de leur destination et de leur mauvaise utilisation raisonnablement prévisible, y compris les risques éventuels découlant de l'interaction entre les systèmes d'IA et l'environnement dans lequel ils fonctionnent. Le système de gestion des risques devrait adopter les mesures de gestion des risques les plus appropriées à la lumière de l'état de la technique en matière d'IA. Lorsqu'il détermine les mesures de gestion des risques les plus appropriées, le fournisseur devrait documenter et expliquer les choix effectués et, le cas échéant, associer des experts et des parties prenantes externes. Lorsqu'il s'agit de déterminer la mauvaise utilisation raisonnablement prévisible des systèmes d'IA à haut risque, le fournisseur devrait couvrir les utilisations des systèmes d'IA dont on peut raisonnablement prévoir, bien qu'elles ne soient pas directement couvertes par la destination et prévues dans la notice d'utilisation, qu'elles résultent d'un comportement humain aisément prévisible dans le contexte des caractéristiques et de l'utilisation spécifiques d'un système d'IA donné. Toutes circonstances connues ou prévisibles liées à l'utilisation du système d'IA à haut risque conformément à sa destination ou dans des conditions de mauvaise utilisation raisonnablement prévisible, susceptibles d'entraîner des risques pour la santé, la sécurité ou les droits fondamentaux, devraient figurer dans la notice d'utilisation fournie par le fournisseur. Il s'agit de veiller à ce que le déployeur en ait connaissance et en tienne compte lors de l'utilisation du système d'IA à haut risque. La détermination et la mise en œuvre de mesures d'atténuation des risques en cas de mauvaise utilisation prévisible au titre du présent règlement ne devraient pas nécessiter de la part du fournisseur, pour remédier à la mauvaise utilisation prévisible, des mesures d'entraînement supplémentaires spécifiques pour le système d'IA à haut risque. Les fournisseurs sont toutefois encouragés à envisager de telles mesures d'entraînement supplémentaires pour atténuer les mauvaises utilisations raisonnablement prévisibles, si cela est nécessaire et approprié.

* en lien avec : **Article 9 - Système de gestion des risques**

(66) Des exigences devraient s'appliquer aux systèmes d'IA à haut risque en ce qui concerne la gestion des risques, la qualité et la pertinence des jeux de données utilisés, la documentation technique et la tenue de registres, la transparence et la fourniture d'informations aux déployeurs, le contrôle humain, ainsi que la robustesse, l'exactitude et la sécurité. Ces exigences sont nécessaires pour atténuer efficacement les risques pour la santé, la sécurité et les droits fondamentaux. Aucune autre mesure moins contraignante pour le commerce n'étant raisonnablement disponible, ces exigences ne constituent pas des restrictions injustifiées aux échanges.

* en lien avec : **Article 10 - Données et gouvernance des données à Article 15 - Exactitude, robustesse et cybersécurité**

(67) Les données de haute qualité et l'accès à ces données jouent un rôle essentiel pour ce qui est de fournir une structure et d'assurer le bon fonctionnement de nombreux systèmes d'IA, en particulier lorsque des techniques axées sur l'entraînement de modèles sont utilisées, afin de garantir que le système d'IA à haut risque fonctionne comme prévu et en toute sécurité et qu'il ne devient pas une source de discrimination interdite par le droit de l'Union. Les jeux de données d'entraînement, jeu de données de validation et de test de haute qualité nécessitent la mise en œuvre de pratiques de gouvernance et de gestion des données appropriées. Les jeux de données d'entraînement, jeu de données de validation et de test, y compris les étiquettes, devraient être pertinents, suffisamment représentatifs et, dans toute la mesure du possible, exempts d'erreurs et complets au regard de la destination du système. Afin de faciliter le respect du droit de l'Union sur la protection des données, tel que le règlement (UE) 2016/679, les pratiques en matière de gouvernance et de gestion des données devraient inclure, dans le
cas des données à caractère personnel, la transparence quant à la finalité initiale de la collecte des données. Les jeux de données devraient également posséder les propriétés statistiques voulues, y compris en ce qui concerne les personnes ou groupes de personnes pour lesquels le système d'IA à haut risque est destiné à être utilisé, en accordant une attention particulière à l'atténuation des éventuels biais dans les jeux de données qui sont susceptibles de porter atteinte à la santé et à la sécurité des personnes, d'avoir une incidence négative sur les droits fondamentaux ou de se traduire par une discrimination interdite par le droit de l'Union, en particulier lorsque les données de sortie influencent les entrées pour les opérations futures (« boucles de rétroaction »). Des biais peuvent, par exemple, être inhérents à des jeux de données sous-jacents, en particulier lorsque des données historiques sont utilisées, ou générés lorsque les systèmes sont mis en œuvre dans des conditions réelles. Les résultats produits par les systèmes d'IA pourraient être influencés par ces biais inhérents, qui ont tendance à se renforcer progressivement et ainsi à perpétuer et à amplifier les discriminations existantes, en particulier pour les personnes appartenant à certains groupes vulnérables, y compris les groupes ethniques ou raciaux. L'exigence selon laquelle les jeux de données doivent être dans toute la mesure du possible complets et exempts d'erreurs ne devrait pas avoir d'effet sur l'utilisation de techniques respectueuses de la vie privée dans le contexte du développement et de la mise à l'essai des systèmes d'IA. En particulier, les jeux de données devraient prendre en considération, dans la mesure requise au regard de leur destination, les propriétés, les caractéristiques ou les éléments qui sont propres au cadre géographique, contextuel, comportemental ou fonctionnel spécifique dans lequel le système d'IA est destiné à être utilisé. Les exigences relatives à la gouvernance des données peuvent être respectées en faisant appel à des tiers qui proposent des services de conformité certifiés, y compris la vérification de la gouvernance des données, l'intégrité des jeux de données et les pratiques d'entraînement, de validation et de mise à l'essai des données, dans la mesure où le respect des exigences du présent règlement en matière de données est garanti.

* en lien avec : [Article 10 - Données et gouvernance des données](#)

(68) Pour le développement et l'évaluation de systèmes d'IA à haut risque, certains acteurs, tels que les fournisseurs, les organismes notifiés et d'autres entités concernées, telles que les pôles européens d'innovation numérique, les installations d'expérimentation et d'essai et les centres de recherche, devraient être en mesure d'avoir accès à des jeux de données de haute qualité dans leurs domaines d'activité liés au présent règlement et d'utiliser de tels jeux de données. Les espaces européens communs des données créés par la Commission et la facilitation du partage de données d'intérêt public entre les entreprises et avec le gouvernement seront essentiels pour fournir un accès fiable, responsable et non discriminatoire à des données de haute qualité pour l'entraînement, la validation et la mise à l'essai des systèmes d'IA. Par exemple, dans le domaine de la santé, l'espace européen des données de santé facilitera l'accès non discriminatoire aux données de santé et l'entraînement d'algorithmes d'IA à l'aide de ces jeux de données, d'une manière respectueuse de la vie privée, sûre, rapide, transparente et digne de confiance, et avec une gouvernance institutionnelle appropriée. Les autorités compétentes concernées, y compris les autorités sectorielles, qui fournissent ou facilitent l'accès aux données peuvent aussi faciliter la fourniture de données de haute qualité pour l'entraînement, la validation et la mise à l'essai des systèmes d'IA.

* en lien avec : [Article 10 - Données et gouvernance des données](#)

(69) Le droit au respect de la vie privée et à la protection des données à caractère personnel doit être garanti tout au long du cycle de vie du système d'IA. À cet égard, les principes de minimisation et de protection des données dès la conception et par défaut, tels qu'énoncés dans le droit de l'Union sur la protection des données, sont applicables lorsque des données à caractère personnel sont traitées. Les mesures prises par les fournisseurs pour garantir le respect de ces principes peuvent inclure non seulement l'anonymisation et le cryptage, mais aussi l'utilisation d'une technologie qui permet l'introduction d'algorithmes dans les données ainsi que l'entraînement des systèmes d'IA sans transmission entre parties ou copie des
données brutes ou structurées elles-mêmes, sans préjudice des exigences en matière de
gouvernance des données prévues par le présent règlement.

➤ en lien avec : [Article 10 - Données et gouvernance des données](#)

(70) Afin de protéger le droit d'autrui contre la discrimination qui pourrait résulter des biais dans les systèmes d'IA, les fournisseurs devraient, à titre exceptionnel, et dans la mesure où cela est strictement nécessaire aux fins de la détection et de la correction des biais en ce qui concerne les systèmes d'IA à haut risque, sous réserve de garanties appropriées pour les libertés et droits fondamentaux des personnes physiques et à la suite de l'application de toutes les conditions applicables prévues par le présent règlement en plus des conditions énoncées dans les règlements (UE) 2016/679 et (UE) 2018/1725 et dans la directive (UE) 2016/680, être en mesure de traiter également des catégories particulières de données à caractère personnel, pour des raisons d'intérêt public important au sens de l'article 9, paragraphe 2, point g), du règlement (UE) 2016/679 et de l'article 10, paragraphe 2, point g), du règlement (UE) 2018/1725²⁸.

➤ en lien avec : [Article 10 - Données et gouvernance des données](#)

(71) Il est essentiel de disposer d'informations compréhensibles sur la manière dont les **systèmes d'IA** à haut risque ont été développés et sur leur fonctionnement tout au long de leur durée de vie afin de permettre la traçabilité de ces systèmes, de vérifier le respect des exigences du présent règlement et de surveiller le fonctionnement des systèmes en question et d'assurer leur **système de surveillance après commercialisation**. Cela nécessite la tenue de registres et la disponibilité d'une documentation technique contenant les informations nécessaires pour évaluer la conformité du **système d'IA** avec les exigences pertinentes et faciliter la **surveillance après commercialisation**. Ces informations devraient notamment porter sur les caractéristiques générales, les capacités et les limites du système, sur les algorithmes, les données et les processus d'entraînement, de mise à l'essai et de validation utilisés, ainsi que sur le système de gestion des **risques** mis en place et être établies de façon claire et exhaustive. La documentation technique devrait être dûment tenue à jour tout au long de la durée de vie du **système d'IA**. Par ailleurs, les **systèmes d'IA** à haut risque devraient permettre, sur le plan technique, l'enregistrement automatique des événements, au moyen de journaux, tout au long de la durée de vie du système.

➤ en lien avec : [Article 11 - Documentation technique et Article 12 - Enregistrement](#)

(72) Afin de répondre aux préoccupations liées à l'opacité et à la complexité de certains **systèmes d'IA** et d'aider les **déployeurs** à remplir les obligations qui leur incombent en vertu du présent règlement, la transparence devrait être requise pour les **systèmes d'IA** à haut risque avant leur **mise sur le marché** ou leur **mise en service**. Les **systèmes d'IA** à haut risque devraient être conçus de manière à permettre aux **déployeurs** de comprendre le fonctionnement du **système d'IA**, d'évaluer sa fonctionnalité et de comprendre ses forces et ses limites. Les **systèmes d'IA** à haut risque devraient être accompagnés d'informations appropriées sous la forme d'une **notice d'utilisation**. Ces informations devraient inclure les caractéristiques, les capacités et les limites de la **performance d'un système d'IA** du **système d'IA**. Il s'agirait des informations sur les éventuelles circonstances connues et prévisibles liées à l'utilisation du **système d'IA** à haut risque, y compris l'action des **déployeurs** susceptible d'influencer le comportement et la **performance d'un système d'IA** du système, dans le cadre desquelles le **système d'IA** peut entraîner des **risques** pour la santé, la sécurité et les droits fondamentaux, sur les changements qui ont été déterminés au préalable et évalués à des fins de conformité par le **fournisseur** et sur les mesures de contrôle humain pertinentes, y compris les mesures visant à faciliter l'interprétation des sorties du **système d'IA** par les **déployeurs**. La transparence, y compris la **notice d'utilisation** jointe au système, devrait aider les **déployeurs** à utiliser celui-ci et à prendre des décisions en connaissance de cause. Les **déployeurs** devraient, entre autres, être mieux à

<footnote n="28">²⁸ Le traitement des données sensibles est interdit sauf s'il est nécessaire pour des motifs d'intérêt public important, proportionné à l'objectif poursuivi, respectant l'essence du droit à la protection des données et prévoyant des mesures appropriées pour sauvegarder les droits fondamentaux et les intérêts de la personne concernée.</footnote>
même de faire le bon choix quant au système qu'ils ont l'intention d'utiliser à la lumière des obligations qui leur sont applicables, d'être informés sur les utilisations prévues et interdites et d'utiliser le système d'IA correctement et le cas échéant. Afin d'améliorer la lisibilité et l'accessibilité des informations figurant dans la notice d'utilisation, il convient, le cas échéant, d'inclure des exemples illustratifs, par exemple sur les limitations et sur les utilisations prévues et interdites du système d'IA. Les fournisseurs devraient veiller à ce que toute la documentation, y compris la notice d'utilisation, contienne des informations utiles, complètes, accessibles et compréhensibles, compte tenu des besoins et des connaissances prévisibles des déployeurs visés. La notice d'utilisation devrait être mise à disposition dans une langue aisément compréhensible par les déployeurs visés, déterminée par l'État membre concerné.

* en lien avec : **Article 13 - Transparence et fourniture d'informations aux déployeurs**

(73) Les systèmes d'IA à haut risque devraient être conçus et développés de manière à ce que les personnes physiques puissent superviser leur fonctionnement et veiller à ce qu'ils soient utilisés comme prévu et à ce que leurs incidences soient prises en compte tout au long de leur cycle de vie. À cette fin, des mesures appropriées de contrôle humain devraient être établies par le fournisseur du système avant sa mise sur le marché ou sa mise en service. En particulier, le cas échéant, de telles mesures devraient garantir que le système est soumis à des contraintes opérationnelles intégrées qui ne peuvent pas être ignorées par le système lui-même, que le système répond aux ordres de l'opérateur humain et que les personnes physiques auxquelles le contrôle humain a été confié ont les compétences, la formation et l'autorité nécessaires pour s'acquitter de ce rôle. Il est également essentiel, le cas échéant, de veiller à ce que les systèmes d'IA à haut risque comprennent des mécanismes destinés à guider et à informer une personne physique à laquelle le contrôle humain a été confié, afin qu'elle puisse décider en connaissance de cause s'il faut intervenir, à quel moment et de quelle manière, pour éviter des conséquences négatives ou des risques, ou arrêter le système s'il ne fonctionne pas comme prévu. Compte tenu des conséquences importantes pour les personnes en cas d'erreur dans les correspondances établies par certains systèmes d'identification biométrique, il convient de prévoir pour ces systèmes une exigence de contrôle humain accru, de manière qu'aucune mesure ou décision ne puisse être prise par le déployeur sur la base de l'identification obtenue par le système, à moins qu'elle n'ait été vérifiée et confirmée séparément par au moins deux personnes physiques. Ces personnes pourraient provenir d'une ou de plusieurs entités et compter parmi elles la personne qui fait fonctionner le système ou l'utilise. Cette exigence ne devrait pas entraîner de charges ou de retards inutiles, et il pourrait suffire que les vérifications effectuées séparément par les différentes personnes soient automatiquement enregistrées dans les journaux générés par le système. Compte tenu des spécificités des domaines que sont les activités répressives, la migration, les contrôles aux frontières et l'asile, cette exigence ne devrait pas s'appliquer lorsque le droit de l'Union ou le droit national considère que cette application est disproportionnée.

* en lien avec : **Article 14 - Contrôle humain**

(74) Les systèmes d'IA à haut risque devraient produire des résultats d'une qualité constante tout au long de leur cycle de vie et assurer un niveau approprié d'exactitude, de robustesse et de cybersécurité, au vu de leur destination et conformément à l'état de la technique généralement reconnu. La Commission et les organisations et parties prenantes concernées sont encouragées à tenir dûment compte de l'atténuation des risques et des incidences négatives du système d'IA. Le niveau attendu des indicateurs de performance devrait être indiqué dans la notice d'utilisation jointe au système. Les fournisseurs sont instamment invités à communiquer ces informations aux déployeurs d'une manière claire et aisément compréhensible, sans malentendus ou déclarations trompeuses. Le droit de l'Union en matière de métrologie légale, y compris les directives 2014/31/UE et 2014/32/UE du Parlement européen et du Conseil, vise à garantir l'exactitude des mesures et à contribuer à la transparence et à la loyauté des transactions commerciales. Dans ce contexte, en coopération avec les parties prenantes et organisations concernées, telles que les autorités de métrologie et d'étalonnage
des performances<fnref n="29" />, la Commission devrait encourager, le cas échéant, l'élaboration de critères de référence et de méthodes de mesure pour les **systèmes d'IA**. Ce faisant, la Commission devrait prendre note des partenaires internationaux travaillant sur la métrologie et les indicateurs de mesure pertinents relatifs à l'IA et collaborer avec ceux-ci.

* en lien avec : **Article 15 - Exactitude, robustesse et cybersécurité**

(75) La robustesse technique est une exigence essentielle pour les **systèmes d'IA** à haut risque. Il convient qu'ils soient résilients face aux comportements préjudiciables ou, plus généralement, indésirables pouvant résulter de limites intrinsèques aux systèmes ou dues à l'environnement dans lequel les systèmes fonctionnent (par exemple les erreurs, les défaillances, les incohérences et les situations inattendues). Par conséquent, des mesures techniques et organisationnelles devraient être prises pour garantir la robustesse des **systèmes d'IA** à haut risque, par exemple en concevant et développant des solutions techniques appropriées pour prévenir ou réduire au minimum les comportements préjudiciables ou, plus généralement, indésirables. Ces solutions techniques peuvent comprendre, par exemple, des mécanismes permettant au système d'interrompre son fonctionnement en toute sécurité (mesures de sécurité après défaillance) en présence de certaines anomalies ou en cas de fonctionnement en dehors de certaines limites déterminées au préalable. L'absence de protection contre ces **risques** pourrait avoir des incidences sur la sécurité ou entraîner des violations des droits fondamentaux, par exemple en raison de décisions erronées ou de sorties inexactes ou biaisées générées par le **système d'IA**.

* en lien avec : **Article 15 - Exactitude, robustesse et cybersécurité**

(76) La cybersécurité joue un rôle crucial pour ce qui est de garantir la résilience des **systèmes d'IA** face aux tentatives de détourner leur utilisation, leur comportement ou leur **performance d'un système d'IA** ou de compromettre leurs propriétés de sûreté par des tiers malveillants exploitant les vulnérabilités du système. Les **cyberattaques**<fnref n="30" /> contre les **systèmes d'IA** peuvent passer par des ressources propres à l'IA, telles que les jeux de **données d'entraînement** (par exemple pour l'empoisonnement de données) ou l'entraînement des modèles (par exemple pour des attaques contradictoires ou des attaques par inférence d'appartenance), ou exploiter les vulnérabilités des ressources numériques du **système d'IA** ou de l'infrastructure TIC sous-jacente. Pour garantir un niveau de cybersécurité adapté aux **risques**, des mesures appropriées, telles que des contrôles de sécurité, devraient donc être prises par les **fournisseurs de système d'IA** à haut risque, en tenant également compte, si nécessaire, de l'infrastructure TIC sous-jacente.

* en lien avec : **Article 15 - Exactitude, robustesse et cybersécurité**

(77) Sans préjudice des exigences relatives à la robustesse et à l'exactitude énoncées dans le présent règlement, les **systèmes d'IA** à haut risque qui relèvent du champ d'application du règlement du Parlement européen et du Conseil concernant des exigences horizontales en matière de cybersécurité pour les produits comportant des éléments numériques (52022PC0454), conformément audit règlement, peuvent démontrer leur conformité avec les exigences de cybersécurité du présent règlement en satisfaisant aux exigences essentielles de cybersécurité énoncées audit règlement. Lorsqu'ils satisfont aux exigences essentielles du règlement du Parlement européen et du Conseil concernant des exigences horizontales en matière de cybersécurité pour les produits comportant des éléments numériques (52022PC0454), les **systèmes d'IA** à haut risque devraient être réputés conformes aux exigences de cybersécurité énoncées dans le présent règlement dans la mesure où le respect de ces exigences est démontré dans la déclaration UE de conformité, ou dans des parties de celle-ci, délivrée en vertu dudit règlement. À cette fin, l'évaluation des **risques** en matière de cybersécurité associés à un produit comportant des éléments numériques classé comme

<footnote n="29">²⁹ notamment en France, le Laboratoire national de métrologie et d'essais (LNE)</footnote>

<footnote n="30">³⁰ Cyberattaque : Ensemble coordonné d'actions menées dans le cyberspace qui visent des informations ou les systèmes qui les traitent, en portant atteinte à leur disponibilité, à leur intégrité ou à leur confidentialité.</footnote>
**système d'IA** à haut risque conformément au présent règlement, effectuée en vertu du règlement du Parlement européen et du Conseil concernant des exigences horizontales en matière de cybersécurité pour les produits comportant des éléments numériques (52022PC0454), devrait tenir compte des risques pesant sur la **cyberrésilience**<fnref n="31" /> d'un système d'IA en ce qui concerne les tentatives de tiers non autorisés de modifier son utilisation, son comportement ou sa performance d'un système d'IA, y compris les vulnérabilités spécifiques à l'IA telles que l'empoisonnement des données ou les attaques hostiles, ainsi que, le cas échéant, les risques pesant sur les droits fondamentaux, comme l'exige le présent règlement.

* en lien avec : **Article 15 - Exactitude, robustesse et cybersécurité et Article 42 - Présomption de conformité avec certaines exigences**

(78) La procédure d'évaluation de la conformité prévue par le présent règlement devrait s'appliquer en ce qui concerne les exigences essentielles de cybersécurité d'un produit comportant des éléments numériques relevant du règlement du Parlement européen et du Conseil concernant des exigences horizontales en matière de cybersécurité pour les produits comportant des éléments numériques (52022PC0454) et classé comme système d'IA à haut risque en vertu du présent règlement. Toutefois, l'application de cette règle ne devrait pas entraîner de réduction du niveau d'assurance nécessaire pour les produits critiques comportant des éléments numériques couverts par le règlement du Parlement européen et du Conseil concernant des exigences horizontales en matière de cybersécurité pour les produits comportant des éléments numériques (52022PC0454). Par conséquent, par dérogation à cette règle, les systèmes d'IA à haut risque qui relèvent du champ d'application du présent règlement et sont également considérés comme des produits critiques importants comportant des éléments numériques en vertu du règlement du Parlement européen et du Conseil concernant des exigences horizontales en matière de cybersécurité pour les produits comportant des éléments numériques (52022PC0454) et auxquels s'applique la procédure d'évaluation de la conformité fondée sur le contrôle interne visée à l'annexe du présent règlement, sont soumis aux dispositions relatives à l'évaluation de la conformité du règlement du Parlement européen et du Conseil concernant des exigences horizontales en matière de cybersécurité pour les produits comportant des éléments numériques (52022PC0454) en ce qui concerne les exigences essentielles de cybersécurité énoncées dans ledit règlement. Dans ce cas, les dispositions respectives relatives à l'évaluation de la conformité fondée sur le contrôle interne énoncées à l'annexe du présent règlement devraient s'appliquer à tous les autres aspects couverts par le présent règlement. En s'appuyant sur les connaissances et l'expertise de l'ENISA en ce qui concerne la politique de cybersécurité et les tâches qui lui sont confiées en vertu du règlement (UE) 2019/881 du Parlement européen et du Conseil, la Commission devrait coopérer avec l'ENISA sur les questions liées à la cybersécurité des systèmes d'IA.

* en lien avec : **Article 15 - Exactitude, robustesse et cybersécurité, Article 42 - Présomption de conformité avec certaines exigences et Article 43 - Évaluation de la conformité**

(79) Il convient qu'une personne physique ou morale spécifique, définie comme étant le fournisseur, assume la responsabilité de la mise sur le marché ou de la mise en service d'un système d'IA à haut risque, indépendamment du fait que cette personne physique ou morale soit ou non la personne qui a conçu ou développé le système.

* en lien avec : **Article 16 - Obligations incombant aux fournisseurs de systèmes d'IA à haut risque**

(80) En leur qualité de signataires de la Convention des Nations unies relative aux droits des personnes handicapées, l'Union et les États membres sont légalement tenus de protéger les personnes handicapées contre la discrimination et de promouvoir leur égalité, de veiller à ce que les personnes handicapées aient accès, au même titre que les autres, aux technologies et aux systèmes d'information et de communication, ainsi que de garantir le respect de leur vie

<footnote n="31">³¹ Cyberrésilience : Capacité d'un système d'information à résister aux cyberattaques et aux pannes accidentelles, puis à revenir à un état de fonctionnement et de sécurité satisfaisant.</footnote>
privée. Compte tenu de l'importance et de l'utilisation croissantes des **systèmes d'IA**, l'application des principes de conception universelle à toutes les nouvelles technologies et à tous les nouveaux services devrait garantir un accès complet et égal à toute personne potentiellement concernée par les technologies d'IA ou les utilisant, y compris les personnes handicapées, d'une manière qui tienne pleinement compte de leur dignité et de leur diversité intrinsèques. Il est donc essentiel que les **fournisseurs** garantissent la pleine conformité avec les exigences en matière d'accessibilité, y compris la directive (UE) [2016/2102](#) du Parlement européen et du Conseil et la directive (UE) [2019/882](#). Les **fournisseurs** devraient veiller au respect de ces exigences dès la conception. Les mesures nécessaires devraient donc être aussi intégrées que possible dans la conception des **systèmes d'IA** à haut risque.

* en lien avec : le I) de l'Article 16 - Obligations incombant aux fournisseurs de systèmes d'IA à haut risque

(81) Le **fournisseur** devrait mettre en place un système solide de gestion de la qualité, garantir le respect de la procédure d'évaluation de la conformité requise, rédiger la documentation pertinente et mettre en place un système solide de surveillance après commercialisation. Les **fournisseurs** de système d'IA à haut risque qui sont soumis à des obligations en matière de systèmes de gestion de la qualité en vertu du droit sectoriel pertinent de l'Union devraient avoir la possibilité d'intégrer les éléments du système de gestion de la qualité prévus par le présent règlement dans le système de gestion de la qualité existant prévu dans cet autre droit sectoriel de l'Union. La complémentarité entre le présent règlement et le droit sectoriel existant de l'Union devrait également être prise en compte dans les futures activités ou orientations de normalisation de la Commission. Les autorités publiques qui mettent en service des systèmes d'IA à haut risque destinés à être utilisés exclusivement par elles peuvent adopter et mettre en œuvre les règles relatives au système de gestion de la qualité dans le cadre du système de gestion de la qualité adopté au niveau national ou régional, selon le cas, en tenant compte des spécificités du secteur, ainsi que des compétences et de l'organisation de l'autorité publique concernée.

* en lien avec : Article 16 - Obligations incombant aux fournisseurs de systèmes d'IA à haut risque à Article 21 - Coopération avec les autorités compétentes

(82) Pour permettre le contrôle de l'application du présent règlement et créer des conditions de concurrence équitables pour les **opérateurs**, et compte tenu des différentes formes de mise à disposition des produits numériques, il est important de veiller à ce que, en toutes circonstances, une personne établie dans l'Union puisse fournir aux autorités toutes les informations nécessaires sur la conformité d'un système d'IA. Par conséquent, avant de mettre leurs systèmes d'IA à disposition dans l'Union, les **fournisseurs** établis dans des pays tiers devraient nommer, par mandat écrit, un **mandataire** établi dans l'Union. Ce **mandataire** joue un rôle capital en ce sens qu'il veille à la conformité des systèmes d'IA à haut risque mis sur le marché ou mis en service dans l'Union par des **fournisseurs** qui ne sont pas établis dans l'Union et sert à ces derniers de point de contact établi dans l'Union.

* en lien avec : Article 22 - Mandataires des fournisseurs de systèmes d'IA à haut risque

(83) Compte tenu de la nature et de la complexité de la chaîne de valeur des **systèmes d'IA**, et conformément au **Nouveau cadre législatif**, il est essentiel de garantir la sécurité juridique et de faciliter le respect du présent règlement. Par conséquent, il est nécessaire de préciser le rôle et les obligations spécifiques des **opérateurs** concernés tout au long de ladite chaîne de valeur, tels que les **importateurs** et les **distributeurs** qui peuvent contribuer au développement des **systèmes d'IA**. Dans certaines situations, ces **opérateurs** pourraient jouer plus d'un rôle en même temps et devraient donc remplir toutes les obligations pertinentes associées à ces rôles. Par exemple, un **opérateur** pourrait agir à la fois en tant que **distributeur** et **importateur**.

* en lien avec : Article 22 - Mandataires des fournisseurs de systèmes d'IA à haut risque à Article 25 - Responsabilités tout au long de la chaîne de valeur de l'IA
(84) Afin de garantir la sécurité juridique, il est nécessaire de préciser que, dans certaines conditions particulières, tout distributeur, importateur, déployeur ou autre tiers devrait être considéré comme un fournisseur d'un système d'IA à haut risque et, par conséquent, assumer toutes les obligations correspondantes. Tel serait le cas si cette partie met son nom ou sa marque sur un système d'IA à haut risque déjà mis sur le marché ou mis en service, sans préjudice des dispositions contractuelles stipulant que les obligations sont attribuées d'une autre manière. Tel serait aussi le cas si cette partie apporte une modification substantielle à un système d'IA à haut risque qui a déjà été mis sur le marché ou a déjà été mis en service et de telle sorte qu'il demeure un système d'IA à haut risque conformément au présent règlement, ou si elle modifie la destination d'un système d'IA, y compris un système d'IA à usage général, qui n'a pas été classé comme étant à haut risque et qui a déjà été mis sur le marché ou mis en service, de telle sorte que le système d'IA devient un système d'IA à haut risque conformément au présent règlement. Ces dispositions devraient s'appliquer sans préjudice de dispositions plus spécifiques établies dans certains actes législatifs de l'Union en matière d'harmonisation reposant sur le Nouveau cadre législatif avec lesquels le présent règlement devrait s'appliquer. Par exemple, l'article 16, paragraphe 2, du règlement (UE) 2017/745, qui dispose que certaines modifications ne devraient pas être considérées comme des modifications d'un dispositif susceptibles d'influer sur sa conformité avec les exigences applicables, devrait continuer de s'appliquer aux systèmes d'IA à haut risque constituant des dispositifs médicaux au sens dudit règlement.

* en lien avec : le 1 de l'Article 25 - Responsabilités tout au long de la chaîne de valeur de l'IA

(85) Les systèmes d'IA à usage général peuvent être utilisés comme des systèmes d'IA à haut risque en tant que tels ou comme des composants d'autres systèmes d'IA à haut risque. Dès lors, en raison de leur nature particulière, et afin de garantir un partage équitable des responsabilités tout au long de la chaîne de valeur de l'IA, les fournisseurs de système d'IA à usage général, indépendamment du fait que ces systèmes puissent être utilisés comme des systèmes d'IA à haut risque en tant que tels par d'autres fournisseurs ou comme des composants de système d'IA à haut risque, et sauf dispositions contraires du présent règlement, devraient coopérer étroitement avec les fournisseurs des systèmes d'IA à haut risque concernés afin de leur permettre de se conformer aux obligations pertinentes prévues par le présent règlement et avec les autorités compétentes établies en vertu du présent règlement.

* en lien avec : le 1.c) de l'Article 25 - Responsabilités tout au long de la chaîne de valeur de l'IA

(86) Lorsque, dans les conditions prévues par le présent règlement, le fournisseur qui a initialement mis sur le marché ou mis en service le système d'IA ne devrait plus être considéré comme le fournisseur aux fins du présent règlement, et lorsque ce fournisseur n'a pas expressément exclu le changement du système d'IA en un système d'IA à haut risque, ce fournisseur devrait néanmoins coopérer étroitement, mettre à disposition les informations nécessaires et fournir l'accès technique raisonnablement attendu et toute autre assistance qui sont requis pour le respect des obligations énoncées dans le présent règlement, notamment en ce qui concerne la conformité avec l'évaluation de la conformité des systèmes d'IA à haut risque.

* en lien avec : le 2 de l'Article 25 - Responsabilités tout au long de la chaîne de valeur de l'IA

(87) En outre, lorsqu'un système d'IA à haut risque qui est un composant de sécurité d'un produit relevant du champ d'application de la législation d'harmonisation de l'Union reposant sur le Nouveau cadre législatif n'est pas mis sur le marché ou mis en service indépendamment du produit, le fabricant du produit<fnref n="32" /> défini par cette législation devrait se conformer aux obligations du fournisseur établies dans le présent règlement et devrait, en particulier, garantir

<footnote n="32">³² « fabricant » : toute personne physique ou morale qui fabrique, ou fait concevoir ou fabriquer un produit, et le commercialise sous son propre nom ou sa propre marque;</footnote>
que le système d'IA intégré dans le produit final est conforme aux exigences du présent règlement.

* en lien avec : le 3 de l'Article 25 - Responsabilités tout au long de la chaîne de valeur de l'IA

(88) Tout au long de la chaîne de valeur de l'IA, plusieurs parties fournissent souvent des systèmes, des outils et des services d'IA, mais aussi des composants ou des processus que le fournisseur intègre dans le système d'IA avec plusieurs objectifs, dont l'entraînement de modèles, le réentraînement de modèles, la mise à l'essai et l'évaluation de modèles, l'intégration dans des logiciels ou d'autres aspects du développement de modèles. Ces parties ont un rôle important à jouer dans la chaîne de valeur vis-à-vis du fournisseur du système d'IA à haut risque dans lequel leurs systèmes, outils, services, composants ou processus d'IA sont intégrés, et devraient fournir à ce fournisseur, en vertu d'un accord écrit, les informations, les capacités, l'accès technique et toute autre assistance nécessaires sur la base de l'état de la technique généralement reconnu, afin de lui permettre de se conformer pleinement aux obligations énoncées dans le présent règlement, sans compromettre leurs propres droits de propriété intellectuelle ou secrets d'affaires.

* en lien avec : le 4 de l'Article 25 - Responsabilités tout au long de la chaîne de valeur de l'IA

(89) Les tiers qui rendent accessibles au public des outils, services, processus ou composants d'IA autres que des modèles d'IA à usage général ne devraient pas être tenus de se conformer aux exigences visant les responsabilités tout au long de la chaîne de valeur de l'IA, en particulier à l'égard du fournisseur qui les a utilisés ou intégrés, lorsque ces outils, services, processus ou composants d'IA sont rendus accessibles sous licence libre et ouverte. Les développeurs d'outils, de services, de processus ou de composants d'IA libres et ouverts autres que les modèles d'IA à usage général devraient être encouragés à mettre en œuvre des pratiques documentaires largement adoptées, telles que les cartes modèles et les fiches de données, afin d'accélérer le partage d'informations tout au long de la chaîne de valeur de l'IA, ce qui permettrait de promouvoir des systèmes d'IA fiables dans l'Union.

* en lien avec : le 4 de l'Article 25 - Responsabilités tout au long de la chaîne de valeur de l'IA

(90) La Commission pourrait élaborer et recommander des clauses contractuelles types volontaires à établir entre les fournisseurs de système d'IA à haut risque et les tiers qui fournissent des outils, des services, des composants ou des processus qui sont utilisés ou intégrés dans les systèmes d'IA à haut risque, afin de faciliter la coopération tout au long de la chaîne de valeur. Lorsqu'elle élabore des clauses contractuelles types volontaires, la Commission devrait aussi tenir compte des éventuelles exigences contractuelles applicables dans des secteurs ou des activités spécifiques.

* en lien avec : le 4 de l'Article 25 - Responsabilités tout au long de la chaîne de valeur de l'IA

(91) Compte tenu de la nature des systèmes d'IA et des risques pour la sécurité et les droits fondamentaux potentiellement associés à leur utilisation, notamment en ce qui concerne la nécessité d'assurer un suivi adéquat de la performance d'un système d'IA d'un système d'IA dans un contexte réel, il convient de définir des responsabilités spécifiques pour les déployeurs. Les déployeurs devraient en particulier prendre des mesures techniques et organisationnelles appropriées pour pouvoir utiliser les systèmes d'IA à haut risque conformément à la notice d'utilisation, et certaines autres obligations devraient être prévues en ce qui concerne la surveillance du fonctionnement des systèmes d'IA et la tenue de registres, selon le cas. En outre, les déployeurs devraient veiller à ce que les personnes chargées de mettre en œuvre la notice d'utilisation et au contrôle humain des systèmes énoncées dans le présent règlement possèdent les compétences nécessaires, en particulier un niveau adéquat de maîtrise, de formation et d'autorité en matière d'IA pour s'acquitter correctement de ces
tâches. Ces obligations devraient être sans préjudice des autres obligations des **déployeurs** en ce qui concerne les **systèmes d'IA** à haut risque en vertu du droit de l'Union ou du droit national.

* en lien avec : **Article 26 - Obligations incombant aux déployeurs de systèmes d'IA à haut risque**

(92) Le présent règlement est sans préjudice de l'obligation qu'ont les employeurs d'informer ou d'informer et de consulter les travailleurs ou leurs représentants en vertu du droit et des pratiques nationales ou de l'Union, y compris la directive 2002/14/CE du Parlement européen et du Conseil, sur les décisions de mise en service ou d'utilisation de systèmes d'IA. Il reste nécessaire de veiller à ce que les travailleurs et leurs représentants soient informés du déploiement prévu de système d'IA à haut risque sur le lieu de travail lorsque les conditions de cette obligation d'information ou d'information et de consultation figurant dans d'autres instruments juridiques ne sont pas remplies. En outre, ce droit à l'information est accessoire et nécessaire à l'objectif de protection des droits fondamentaux qui sous-tend le présent règlement. Par conséquent, il convient de prévoir une obligation d'information à cet effet dans le présent règlement, sans porter atteinte aux droits existants des travailleurs.

* en lien avec : **le 7 de l'Article 26 - Obligations incombant aux déployeurs de systèmes d'IA à haut risque**

(93) Si des risques liés aux systèmes d'IA peuvent découler de la manière dont ces systèmes sont conçus, ils peuvent également provenir de la manière dont ces systèmes d'IA sont utilisés. Les déployeurs de système d'IA à haut risque jouent donc un rôle essentiel pour ce qui est de garantir la protection des droits fondamentaux, en complétant les obligations du fournisseur lors du développement du système d'IA. Les déployeurs sont les mieux placés pour comprendre comment le système d'IA à haut risque sera utilisé concrètement et peuvent donc identifier les risques importants potentiels qui n'étaient pas prévus au cours de la phase de développement, en raison d'une connaissance plus précise du contexte d'utilisation et des personnes ou groupes de personnes susceptibles d'être concernés, y compris les groupes vulnérables. Les déployeurs de système d'IA à haut risque énumérés dans une annexe du présent règlement contribuent également de façon essentielle à informer les personnes physiques et devraient, lorsqu'ils prennent des décisions ou facilitent la prise de décisions concernant des personnes physiques, selon le cas, informer lesdites personnes physiques qu'elles sont soumises à l'utilisation du système d'IA à haut risque. Cette information devrait comprendre la destination du système et le type de décisions prises. Les déployeurs devraient aussi informer les personnes physiques de leur droit à une explication prévu par le présent règlement. En ce qui concerne les systèmes d'IA à haut risque utilisés à des fins répressives, cette obligation devrait être mise en œuvre conformément à l'article 13 de la directive (UE) 2016/680³³.

* en lien avec : **Article 26 - Obligations incombant aux déployeurs de systèmes d'IA à haut risque** et **Article 27 - Analyse d'impact des systèmes d'IA à haut risque sur les droits fondamentaux**

(94) Tout traitement de données biométriques intervenant dans l'utilisation de systèmes d'IA à des fins d'identification biométrique de nature répressive doit être conforme à l'article 10 de la directive (UE) 2016/680³⁴, qui n'autorise un tel traitement que lorsque cela est strictement nécessaire, sous réserve de garanties appropriées pour les droits et libertés de la personne concernée, et lorsqu'il est autorisé par le droit de l'Union ou le droit d'un État membre. Une telle utilisation, lorsqu'elle est autorisée, doit également respecter les principes énoncés à

<footnote n="33">³³ Le responsable du traitement doit fournir à la personne concernée des informations sur son identité, les finalités du traitement, les droits de réclamation, et les droits d'accès, de rectification ou d'effacement des données, ainsi que des informations additionnelles spécifiques pour permettre l'exercice de ses droits.</footnote>

<footnote n="34">³⁴ Le traitement des données sensibles est autorisé uniquement en cas de nécessité absolue, sous réserve de garanties appropriées, et seulement si autorisé par la loi, pour protéger des intérêts vitaux, ou si les données ont été rendues publiques par la personne concernée.</footnote>
l'article 4, paragraphe 1, de la directive (UE) 2016/680, notamment la licéité, la loyauté et la transparence, la limitation des finalités, l'exactitude et la limitation de la conservation.

* en lien avec : le 10 de l'Article 26 - Obligations incombant aux déployeurs de systèmes d'IA à haut risque

(95) Sans préjudice du droit de l'Union applicable, en particulier le règlement (UE) 2016/679 et la directive (UE) 2016/680, et compte tenu de la nature intrusive des **systèmes d'identification biométrique à distance a posteriori**, l'utilisation de **systèmes d'identification biométrique à distance a posteriori** devrait être soumise à des garanties. Les **systèmes d'identification biométrique à distance a posteriori** devraient toujours être utilisés d'une manière proportionnée, légitime et strictement nécessaire, et donc ciblée, en ce qui concerne les personnes à identifier, le lieu et la portée temporelle et fondée sur un jeu de données fermé d'images vidéo légalement acquises. En tout état de cause, les **systèmes d'identification biométrique à distance a posteriori** ne devraient pas être utilisés dans le cadre d'**activités répressives** pour mener à une surveillance aveugle. Les conditions d'**identification biométrique à distance a posteriori** ne devraient en aucun cas constituer une base permettant de contourner les conditions applicables en ce qui concerne l'interdiction et les exceptions strictes pour l'**identification biométrique à distance en temps réel**.

* en lien avec : le 10 de l'Article 26 - Obligations incombant aux déployeurs de systèmes d'IA à haut risque

(96) Afin de garantir efficacement la protection des droits fondamentaux, les **déployeurs de système d'IA** à haut risque qui sont des organismes de droit public ou des entités privées fournissant des services publics et des **déployeurs de certains systèmes d'IA** à haut risque énumérés dans une **annexe du présent règlement**, tels que des entités bancaires ou d'assurance, devraient procéder à une analyse d'impact de ces systèmes concernant les droits fondamentaux avant de les **mettre en service**. Les services à caractère public importants pour les personnes peuvent également être fournis par des entités privées. Les entités privées fournissant de tels services publics sont liées à des missions d'intérêt public dans des domaines tels que l'éducation, les soins de santé, les services sociaux, le logement et l'administration de la justice. L'analyse d'impact concernant les droits fondamentaux vise à ce que le **déployeur** identifie les **risques spécifiques pour les droits des personnes ou groupes de personnes susceptibles d'être concernés** et à ce qu'il détermine les mesures à prendre en cas de matérialisation de ces **risques**. L'analyse d'impact devrait être réalisée avant le premier déploiement du **système d'IA** à haut risque et être mise à jour lorsque le **déployeur** estime que l'un des facteurs pertinents a changé. L'analyse d'impact devrait identifier les processus pertinents du **déployeur** dans lesquels le **système d'IA** à haut risque sera utilisé conformément à sa **destination**, et devrait indiquer la durée pendant laquelle le système est destiné à être utilisé et selon quelle fréquence ainsi que les catégories spécifiques de personnes physiques et de groupes susceptibles d'être concernés dans le contexte spécifique d'utilisation. L'analyse devrait aussi déterminer les **risques spécifiques de préjudice susceptibles d'avoir une incidence sur les droits fondamentaux de ces personnes ou groupes.** Afin que cette analyse soit réalisée correctement, le **déployeur** devrait tenir compte des informations pertinentes, y compris, mais sans s'y limiter, les informations communiquées par le **fournisseur du système d'IA** à haut risque dans la **notice d'utilisation**. À la lumière des **risques recensés, les déployeurs devraient** déterminer les mesures à prendre en cas de matérialisation de ces **risques**, y compris, par exemple, les dispositions en matière de gouvernance dans ce contexte spécifique d'utilisation, telles que les dispositions pour le contrôle humain conformément à la **notice d'utilisation** ou les procédures de traitement des plaintes et de recours, en ce qu'elles pourraient contribuer à atténuer les **risques pour les droits fondamentaux dans des cas d'utilisation concrets.** Après avoir réalisé cette analyse d'impact, le **déployeur** devrait en informer l'**autorité de surveillance du marché** concernée. Le cas échéant, pour recueillir les informations pertinentes nécessaires à la réalisation de l'analyse d'impact, les **déployeurs de système d'IA à haut risque, en particulier lorsque des systèmes d'IA sont utilisés dans le secteur public, pourraient associer les**