Document ID: /curiavista/filtered/00000.jsonl.gz/259203

<h2>SubmittedText<h2><p><span style="color:black;">Les systèmes algorithmiques et les prises de décision automatisées sont de plus en plus fréquents. Ils sont notamment utilisés dans la recherche d’emploi, les diagnostics médicaux, le travail de prévention de la police ou le calcul de risques. Plusieurs exemples ont déjà montré que l’utilisation de tels systèmes peut induire des discriminations ou renforcer celles qui existent déjà. La raison en est que les systèmes algorithmiques ne sont pas neutres, car les modèles et les données sur lesquels ils reposent, la manière dont ils sont utilisés ou encore les boucles rétroactives qu’ils utilisent peuvent confirmer voire renforcer les modèles structurels en place. La discrimination par les algorithmes peut toucher un nombre important de personnes sans qu’elles en aient conscience.</span><span style="background-color:rgba(0,0,0,0);color:black;"> </span><span style="color:black;">En outre, indépendamment de la question des algorithmes, la protection légale contre la discrimination est lacunaire en Suisse, comme l’a démontré le Conseil fédéral dans son rapport en exécution du postulat Naef 12.3543, en particulier lorsqu’il est question d’acteurs privés et non étatiques. Dans ce contexte, je prie le Conseil fédéral de répondre aux questions suivantes.</span></p><p><span style="color:black;">1. Est-il lui aussi préoccupé par le fait que l’utilisation de systèmes algorithmiques puisse conduire à des discriminations&nbsp;?</span></p><p><span style="color:black;">2. Quelles sont les mesures prévues pour lutter contre ces discriminations&nbsp;?</span></p><p><span style="color:black;">3. le Conseil fédéral prévoit-il une analyse d’impact factuelle concernant l’utilisation des systèmes algorithmiques dans l’administration, afin d’évaluer notamment les conséquences sur les droits fondamentaux&nbsp;?</span></p><p><span style="color:black;">4. Comment garantir que les personnes concernées puissent exercer leurs droits lorsqu’elles sont victimes d’une discrimination algorithmique, même lorsqu’il s’agit d’une discrimination structurelle systématique&nbsp;?</span></p><p><span style="color:black;">5. Quels sont les moyens d’action prévus par la loi pour lutter contre la discrimination des particuliers&nbsp;?</span></p><p><span style="color:black;">6. Est-il prévu de renforcer la protection légale contre la discrimination&nbsp;?</span></p><p><span style="color:black;">7. Que pense le Conseil fédéral de l’idée de créer un cadre juridique général pour une protection renforcée contre la discrimination, entre autres (mais pas exclusivement) pour la protection contre la discrimination algorithmique&nbsp;?</span></p><p><span style="color:black;">&nbsp;</span></p><p>&nbsp;</p><p>&nbsp;</p><p>&nbsp;</p><p>&nbsp;</p><h2>FederalCouncilResponseText<h2><div><p style="margin-top:0pt; margin-bottom:0pt; line-height:150%; widows:0; orphans:0; font-size:11pt"><span style="font-family:Arial">1. Le Conseil fédéral est conscient du fait que les discriminations qui existent dans la société peuvent être reproduites de manière systématique, voire amplifiées, par le recours à des systèmes algorithmiques. Il n’est pas non plus exclu que de nouveaux risques apparaissent. Ces risques sont documentés dans le rapport «</span><span style="font-family:Arial">&#xa0;</span><span style="font-family:Arial">Défis de l’intelligence artificielle</span><span style="font-family:Arial">&#xa0;</span><span style="font-family:Arial">» de 2019 (www.admin.ch &gt; Documentation &gt; Communiqués &gt; Intelligence artificielle</span><span style="font-family:Arial">&#xa0;</span><span style="font-family:Arial">: la Suisse bénéficie de bonnes conditions). Le Conseil fédéral s’est également déjà exprimé à ce sujet dans sa réponse à la question Balthasar Glättli 23.7270 «</span><span style="font-family:Arial">&#xa0;</span><span style="font-family:Arial">Intelligence artificielle générative et discrimination. Faut-il une loi antidiscrimination pour mettre en œuvre l’art. 8, al. 2, de la Constitution</span><span style="font-family:Arial">&#xa0;</span><span style="font-family:Arial">?</span><span style="font-family:Arial">&#xa0;</span><span style="font-family:Arial">». Le risque de discrimination constitue un des défis majeurs de l’intelligence artificielle (IA). En même temps, l’IA, si elle est bien conçue, entraînée et régulièrement revue, pourrait aussi être utilisée pour déceler ou prévenir les discriminations.</span></p><p style="margin-top:0pt; margin-bottom:0pt; line-height:150%; widows:0; orphans:0; font-size:11pt"><span style="font-family:Arial">2./6. Le rapport «</span><span style="font-family:Arial">&#xa0;</span><span style="font-family:Arial">Défis de l’intelligence artificielle</span><span style="font-family:Arial">&#xa0;</span><span style="font-family:Arial">» montre que le risque de discrimination posé par les systèmes algorithmiques est, dans une certaine mesure, appréhendé par le droit existant. Ainsi, la loi fédérale sur l’égalité entre femmes et hommes (RS 151.1), qui interdit les discriminations fondées sur le sexe à l’embauche et dans les rapports de travail de droit privé et de droit public, s’appliquerait à un processus de recrutement basé sur un système algorithmique. Le Conseil fédéral a adopté en 2020 des Lignes directrices sur l’IA pour la Confédération (www.admin.ch &gt; Documentation &gt; Communiqués &gt; «</span><span style="font-family:Arial">&#xa0;</span><span style="font-family:Arial">Intelligence artificielle</span><span style="font-family:Arial">&#xa0;</span><span style="font-family:Arial">» - adoption des lignes directrices pour l’administration fédérale). Celles-ci mettent en évidence la nécessité de protéger les personnes ou groupes de personnes contre les discriminations et la stigmatisation, ce qui exige de prévoir des mesures de protection et de contrôle aux niveaux technique et organisationnel, d’utiliser des données équilibrées et d’une qualité élevée ou de renforcer les mesures de protection par des mesures d’accompagnement. Enfin, comme annoncé dans son avis concernant le postulat 23.3201 Dobler «</span><span style="font-family:Arial">&#xa0;</span><span style="font-family:Arial">Situation juridique de l’intelligence artificielle. Clarifier les incertitudes et encourager l’innovation</span><span style="font-family:Arial">&#xa0;</span><span style="font-family:Arial">», le Conseil fédéral devrait déterminer d’ici fin 2024 s’il existe un besoin d’agir en matière d’IA. Dans ce cadre, il s’attachera à examiner dans quelle mesure les dispositions légales existantes offrent une protection suffisante contre les discriminations, compte tenu des risques particuliers des systèmes algorithmiques. Il suivra également avec attention les travaux du Comité sur l’intelligence artificielle du Conseil de l’Europe ainsi que des travaux de l’Union européenne sur l’</span><span style="font-family:Arial">&#xa0;</span><span style="font-family:Arial">«</span><span style="font-family:Arial">&#xa0;</span><span style="font-family:Arial">AI Act</span><span style="font-family:Arial">&#xa0;</span><span style="font-family:Arial">». </span></p><p style="margin-top:0pt; margin-bottom:0pt; line-height:150%; widows:0; orphans:0; font-size:11pt"><span style="font-family:Arial">3. La loi fédérale sur la protection des données (LPD</span><span style="font-family:Arial">&#xa0;</span><span style="font-family:Arial">; RS 235.1) prévoit à son art. 22 l’obligation de procéder à une analyse d’impact relative à la protection des données lorsque le traitement envisagé est susceptible d’entraîner un risque élevé pour la personnalité ou les droits fondamentaux de la personne concernée. Le traitement de données personnelles par le biais d’algorithmes peut, selon les cas, rendre nécessaire une telle analyse d’impact. Le Conseil fédéral déterminera, dans le cadre de l’état des lieux précité qu’il effectuera d’ici fin 2024, si une obligation d’analyse des impacts des systèmes algorithmiques s’étendant à l’ensemble des droits fondamentaux est nécessaire. Il se référera à cet égard en particulier aux travaux du Conseil de l’Europe déjà mentionnés.</span></p><p style="margin-top:0pt; margin-bottom:0pt; line-height:150%; widows:0; orphans:0; font-size:11pt"><span style="font-family:Arial">4./5. Les moyens juridiques à disposition des personnes victimes de discrimination varient en fonction du type de discrimination et selon que la discrimination est le fait des autorités ou de particuliers. Une analyse détaillée à ce sujet a été faite par le Centre suisse de compétence pour les droits humains (CSCH) en 2015 (Etude «</span><span style="font-family:Arial">&#xa0;</span><span style="font-family:Arial">Accès à la justice en cas de discrimination</span><span style="font-family:Arial">&#xa0;</span><span style="font-family:Arial">», www.skmr.ch &gt; Publications et projets &gt; Etudes et rapports &gt; L’accès à la justice en cas de discrimination, dernière mise à jour en 2022). La protection offerte par les dispositions légales en matière de discrimination ne fait pas de distinction selon que la discrimination résulte de l’utilisation de systèmes algorithmiques ou non. La LPD prévoit toutefois le droit pour la personne concernée de faire valoir son point de vue lorsqu’elle fait l’objet d’une décision individuelle automatisée au sens de l’art. 21, al. 1 LPD, ainsi que d’exiger que cette décision soit revue par une personne physique (art. 21, al. 2 LPD).</span></p><p style="margin-top:0pt; margin-bottom:0pt; line-height:150%; widows:0; orphans:0; font-size:11pt"><span style="font-family:Arial">7. Dans son rapport de 2016 en réponse au postulat Naef 12.3543 «</span><span style="font-family:Arial">&#xa0;</span><span style="font-family:Arial">Le droit à la protection contre la discrimination</span><span style="font-family:Arial">&#xa0;</span><span style="font-family:Arial">», le Conseil fédéral a exprimé des réserves concernant la proposition de renforcer la protection contre les discriminations en complétant les art. 27 ss du Code civil (RS 210). Il a souligné qu’une telle mesure s’apparenterait à une loi générale sur la discrimination qui a toujours été rejetée par le Parlement. Le Conseil fédéral ne souhaite pas anticiper à ce stade la suite des travaux relatifs à l’IA concernant les mesures visant à renforcer le cadre légal en la matière.</span></p></div>