EXPOSÉ DES MOTIFS

CONTEXTE DE LA PROPOSITION

L’intelligence artificielle (IA) ouvre de formidables possibilités à la société, à l’environnement et à l’économie. Cependant, en fonction de l’application et de l’utilisation qui en sont faites, l’IA peut aussi causer des dommages matériels ou immatériels et mettre en péril des intérêts publics ainsi que les droits et libertés fondamentaux des personnes. Adopter un cadre juridique cohérent, qui protège ces intérêts publics et ces droits fondamentaux tout en favorisant la confiance et l’innovation, est dès lors essentiel pour contrer ces risques et pour exploiter le potentiel qu’offre l’IA.

En avril 2021, la Commission européenne a proposé une réglementation détaillée en matière d’IA, qui harmoniserait les règles applicables aux systèmes d’IA dans les 27 États membres de l’UE. La proposition est en cours de négociation au Parlement européen et au Conseil, conformément à la procédure législative ordinaire. Diverses organisations internationales, dont le Conseil de l’Europe, ont, elles aussi, intensifié leurs efforts dans ce domaine, en reconnaissant le caractère transfrontalier de l’IA et la nécessité d’une coopération internationale pour résoudre les problèmes communs.

Vers une convention du Conseil de l’Europe sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’état de droit

Le 11 septembre 2019, le Comité des ministres du Conseil de l’Europe a décidé de créer un comité ad hoc sur l’intelligence artificielle (CAHAI). Sa mission consistait à examiner la faisabilité et les éléments potentiels d’un cadre juridique pour le développement, la conception et l’application de l’IA, en tenant compte des normes du Conseil de l’Europe dans le domaine des droits de l’homme, de la démocratie et de l’état de droit, ainsi que des instruments juridiques internationaux existants qui étaient pertinents. Les travaux du CAHAI reposaient sur une étude de faisabilité et sur une consultation multipartite réalisée au printemps 2021. Le 3 décembre 2021, le CAHAI a achevé sa mission et publié un document final décrivant les éléments potentiels d’un tel cadre juridique. D’après ce document, il est nécessaire qu’un instrument juridique énonçant des principes fondamentaux de protection de la dignité humaine et de respect des droits de l’homme, de la démocratie et de l’État de droit s’applique au développement, à la conception et à l’application des systèmes d’IA. Ledit instrument devrait prévoir la mise en place d’une méthode de classification des risques liés aux systèmes d’IA, comportant les catégories «risque faible», «risque élevé» et «risque inacceptable». Les applications d’IA qui présentent des risques «inacceptables» devraient être interdites. Afin d’éviter les biais injustifiés, il conviendrait d’inclure une disposition sur le respect de l’égalité de traitement et de la non-discrimination. Des garanties juridiques devraient garantir, au minimum, le droit à un recours effectif devant une autorité nationale, le droit d’être informé de l’application d’un système d’IA dans un processus décisionnel, le droit de choisir d’interagir avec un humain et le droit de savoir que l’on interagit avec un système d’IA. Toutefois, les questions spécifiques telles que la manipulation de contenus («hypertrucages»/«deep fakes») devraient être abordées dans d’autres instruments plus sectoriels. L’obligation de mettre en place des mécanismes de conformité et des autorités de contrôle nationales devrait être envisagée. Un modèle d’analyse d’impact non contraignant pourrait compléter l’instrument juridique.

Le comité sur l’intelligence artificielle (CAI) a succédé au CAHAI pour la période 2022-2024. Le mandat du CAI charge ce dernier de mettre en place un processus de négociation internationale en vue de l’élaboration d’un cadre juridique pour le développement, la conception et l’application de l’IA. Ce cadre devrait reposer sur les normes du Conseil de l’Europe en matière de droits de l’homme, de démocratie et d’état de droit et devrait être propice à l’innovation. Il doit être rédigé pour le 15 novembre 2023 et finalisé d’ici la fin du mandat du CAI en 2024. Conformément à son mandat, le CAI devrait coordonner ses travaux avec ceux d’autres comités intergouvernementaux et d’autres entités du Conseil de l’Europe, fonder ses travaux sur des éléments solides et sur un processus de consultation inclusif, notamment avec les partenaires internationaux et supranationaux, et tenir compte du document final du CAHAI.

Le CAI a tenu sa réunion inaugurale du 4 au 6 avril 2022, au cours de laquelle un président, un vice-président et un bureau ont été élus. Le 30 juin 2022, le Comité des ministres du Conseil de l’Europe a chargé le CAI «de poursuivre avec diligence l’élaboration d’un instrument juridique contraignant à caractère transversal («convention»/«convention-cadre») sur l’intelligence artificielle, fondé sur les normes du Conseil de l’Europe en matière de droits de l’homme, de démocratie et d’État de droit, conformément à son mandat, centré sur des principes généraux communs, propices à l’innovation, et ouvert à la participation d’États non membres, en prenant en considération les autres cadres juridiques internationaux pertinents existants ou en cours d’élaboration».

Par la suite, le président du CAI a diffusé un avant-projet de la future convention/convention-cadre qui établit des règles et des principes fondamentaux visant à garantir que la conception, le développement et l’application des systèmes d’IA soient compatibles avec le respect des droits de l’homme, le fonctionnement de la démocratie et le respect de l’état de droit. Cette future convention/convention-cadre devra être mise en œuvre dans les pays respectifs des parties. Le champ d’application couvre les fournisseurs et utilisateurs, tant publics que privés, de systèmes d’IA, mais exclut les systèmes d’IA liés à la défense nationale. L’avant-projet propose d’inclure les dispositions suivantes:

·l’objet et le champ d’application de la convention/convention-cadre;

·la définition des termes «système d’IA», «cycle de vie», «fournisseur», «utilisateur» et «sujet d’IA»;

·certains principes fondamentaux, dont des droits et garanties procéduraux pour les sujets d’IA qui s’appliqueraient à tous les systèmes d’IA, quel que soit leur niveau de risque;

·des mesures supplémentaires pour le secteur public ainsi que pour les systèmes d’IA qui présentent les niveaux de risque «inacceptable» et «élevé», déterminés par une méthode d’évaluation des risques et de l’impact (à définir ultérieurement dans une annexe jointe à la convention);

·un mécanisme de suivi et de coopération entre les parties;

·des dispositions finales, dont la possibilité pour les États membres de l’UE d’appliquer le droit de l’Union dans le cadre de leurs relations mutuelles, pour les matières relevant de la convention, et la possibilité pour l’Union d’adhérer à la convention.

L’avant-projet sera examiné lors des sessions plénières du CAI à Strasbourg prévues du 21 au 23 septembre et du 23 au 25 novembre 2022. Quatre réunions sont également prévues en 2023 et une en 2024.