Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/07085.jsonl.gz/1350

Les systèmes algorithmiques – souvent désignés par le terme «intelligence artificielle» (IA) – sont aujourd'hui utilisés pour détecter les fraudes aux prestations sociales, surveiller les personnes sur leur lieu de travail ou prédire le risque de récidive des personnes ayant purgé leur peine. Souvent, ces systèmes reposent non seulement sur des bases scientifiques bancales, mais peuvent aussi violer des droits fondamentaux – tels que la non-discrimination, la liberté d'expression, la sphère privée ou l'accès à la justice –, saper les principes démocratiques fondamentaux et entrer en conflit avec les principes de l'État de droit en raison de leur manque de transparence et de l'absence de mécanismes de responsabilisation. Dans ce contexte et à la lumière de son mandat, le Conseil de l'Europe a reconnu la nécessité pour les États de régir le développement et l'utilisation des systèmes d'IA. C’est pourquoi ses États membres - dont la Suisse - et certains autres États intéressés - comme les États-Unis ou le Japon - négocient actuellement une convention sur l'IA à Strasbourg. Des organisations de la société civile comme AlgorithmWatch ainsi que des expert·e·s et des entreprises sont également représenté·e·s en tant qu'organisations observatrices.
Le Conseil de l’Europe est une organisation internationale fondée en 1949 et chargée de préserver les droits humains, la démocratie et l'état de droit en Europe. Il compte actuellement 46 États membres (dont 27 sont aussi membres de l’Union européenne (EU)) et a son siège à Strasbourg. Il ne faut pas le confondre avec le Conseil européen et le Conseil de l’Union européenne, qui – contrairement au Conseil de l’Europe – sont tous deux des organes de l’UE. En 1950, le Conseil de l’Europe a rédigé la Convention européenn des droits de l’homme (CEDH), dont la ratification est toujours pour l’adhésion de nouveaux États membres. Le Conseil de l’Europe héberge la Cour européenne des droits de l’homme qui surveille l’application de la CEDH et promeut les droits humains par une série de mesures supplémentaires, dont des conventions internationales telles que la Convention de Budapest sur le cybercrime ou la Convention 108 sur la protection des données.
Qu’est-ce que cela signifierait ? Comment les travaux du Conseil de l’Europe protégeront-ils nos droits, notre démocratie et nos principes de l’État de droit ?
Le Conseil de l’Europe prévoit selon les informations actuelles de créer une convention internationale (‚Convention‘) ou une convention-cadre (‚Framework Convention‘), c'est-à-dire un traité international contraignant pour les États signataires. Les États seraient ainsi libres de signer ou non – mais s’ils le font, ils s’engagent légalement à la respecter. Les États non-membres pourraient également signer la convention – c’est pourquoi les États-Unis et Israël participent aux négociations en cours.
Une telle convention contiendrait une série d’obligations pour les États qui devront vérifier qu’aucun droit humain n’est violé lors du développement et de l’utilisation de systèmes d’IA. La convention ne se limiterait pas à un secteur spécifique mais contiendrait des règles horizontales (qui pourraient toutefois être complétée par des instruments sectoriels supplémentaires contraignants ou non). Les États signataires devraient appliquer ces règles au niveau national en introduisant les lois domestiques et de mesures de protection relatives. Les personnes concernées seraient ainsi protégées par les lois nationales des impacts néfastes des systèmes ADM et pourrait recourir à des moyens légaux à l'échelle nationale. La convention pourrait également exiger des États qu'ils mettent en place un organisme de surveillance national.
Par ailleurs, il est d'usage de mettre en place une procédure de suivi des conventions (cadres) au niveau du Conseil de l'Europe ; la question de savoir s'il y en aura une et comment elle serait organisée fait l'objet de négociations. Ce qui est déjà clair, c'est qu'elle n'inclurait pas la possibilité pour les individus de faire valoir des violations de la nouvelle convention sur l'IA directement devant la Cour européenne des droits de l'homme. En effet, son mandat est limité à la Convention européenne des droits de l'homme (CEDH). Les particuliers pourraient cependant bien entendu déposer des plaintes auprès de la Cour pour violation de leurs droits CEDH en rapport avec les systèmes d'IA (à condition qu'ils aient suivi la procédure judiciaire au niveau national, c'est-à-dire que les tribunaux nationaux aient rejeté leur plainte). Selon toute vraisemblance, la Cour tiendrait alors compte des principes consacrés par l'instrument juridique spécifique aux systèmes d'IA, au moins dans l'interprétation des droits de la CEDH concernés.
Ce qui s’est passé jusqu’ici
- 2019 - 2021 : le Comité ad hoc sur l’intelligence artificielle (CAHAI) prépare les négociations. Il publie une «étude de faisabilité» sur un cadre juridique pour l'IA et adopte à la fin de son mandat les recommandations finales “Éléments possibles d'un cadre juridique pour l'IA basé sur les normes du Conseil de l'Europe en matière de droits de l'homme, de démocratie et d'État de droit”.
- Avril 2022 : le nouveau Comité sur l'intelligence artificielle (Committee on Artificial Intelligence CAI) tient sa réunion constitutive à Rome. Son travail doit se baser sur les recommandations finales du CAHAI. Toutefois, le CAI a désormais pour mission de négocier un «instrument juridique approprié» d'ici novembre 2023.
- Junin 2022 : le Conseil de l'Europe spécifie que l'objectif des négociations doit être une convention ou une convention-cadre juridiquement contraignante.
- Septembre 2022 : deuxième assemblée plénière du CAI
- Janvier 2023 : troisième assemblée plénière du CAI. Il est décidé qu'à l'avenir, les réunions seront réparties entre l'assemblée plénière et le «Drafting Group». Le Drafting Group doit élaborer des propositions sur le texte de la convention. Les organisations de la société civile et autres organisations observatrices en sont exclues.
- Février 2023 : quatrième séance plénière du CAI
- Février 2023 : le CAI publie le premier projet de convention. Il s'agit toutefois d'un projet du secrétariat qui sert désormais de base aux négociations au sein du CAI.
Quelles sont les prochaines étapes?
D'autres réunions plénières sont prévues en mai/juin et septembre 2023, lorsque les États devront se mettre d'accord sur le texte de la convention. Ce calendrier semble toutefois de plus en plus irréaliste, car l'UE et ses 27 États membres peuvent difficilement se mettre d'accord sur une convention au sein du Conseil de l'Europe avant de savoir ce qu'ils s'engagent à faire dans le règlement de l'UE sur l'IA (qui est négocié en même temps à Bruxelles). Ils craignent que les deux lois ne soient pas compatibles entre elles. Un accord sur une convention IA à Strasbourg avant fin 2023 serait donc surprenant.
Que dis AlgorithmWatch à ce propos ?
- AlgorithmWatch participe actuellement aux négociations du CAI en tant qu'organisation observatrice active et officielle. Auparavant, nous avons participé au CAHAI en tant qu'observateur officiel en 2020 et 2021. L'objectif de notre participation est de faire entendre la voix de la société civile dans les négociations et de veiller à ce que la convention sur l’IA soit réellement axée sur le mandat du Conseil de l'Europe : la protection de nos droits fondamentaux, de notre démocratie et de l'État de droit.
- Janvier 2023 : à l'occasion de la Journée internationale de la protection des données, nous appelons à la mise en place d'une convention efficace sur l'IA.
- Octobre 2022 : avec nos partenaires, nous appelons l'UE à ne pas retarder les négociations du Conseil de l'Europe sur la convention sur l'IA.
- Avril 2022 : lors de la réunion d'ouverture du CAI, nous avons clairement formulé nos principales revendications en collaboration avec nos organisations partenaires principales.
- Décembre 2021 : à la fin du mandat du CAHAI et après deux ans de travail intensif, nous craignions que les recommandations du CAHAI ne soient pas à la hauteur de ce qui est nécessaire pour garantir le plein respect et la protection des droits humains, de la démocratie et de l'État de droit.