SubmittedText

L'utilisation d'algorithmes dans les processus décisionnels (intelligence artificielle IA) se développe rapidement. L'opacité des algorithmes contraste toutefois fortement avec l'influence qu'ils exercent, et qui va grandissant, sur notre société, notre démocratie, nos normes et nos valeurs. La gestion des algorithmes devient donc une question politique. Pour pouvoir en évaluer les effets, il faut davantage de transparence et d'expertise et un meilleur accès aux données. Il faut aussi davantage de contrôle démocratique pour éviter les effets négatifs de l'IA.

1. La mesure 50 du rapport du groupe d'experts concernant le traitement et la sécurité des données établi en réponse à la motion Rechsteiner 13.3841 prévoit ce qui suit :

" La Confédération veille à ce que les processus numériques et les algorithmes respectent parfaitement les exigences en matière de transparence, de traçabilité, de compréhension et de responsabilité (accountability). " Comment cette mesure a été mise en oeuvre ou comment le Conseil fédéral compte-t-il satisfaire à cette exigence ?

2. Il est très difficile de définir les critères applicables au contrôle des algorithmes en les répartissant selon qu'ils concernent la sécurité et la fiabilité, la non-discrimination, la légalité, etc. La transparence des processus de développement et d'apprentissage et la sécurité sont au centre de la démarche. La Suisse a-t-elle l'intention de développer ou de standardiser ces critères ? Participe-t-elle à des projets internationaux de normalisation, et notamment au développement du projet de normalisation pour l'IA " Normungsroadmap für KI " de l'institut allemand DIN ?

3. Au mois de février, la Confédération a adopté les lignes directrices " Intelligence artificielle " pour l'administration fédérale, endossant ainsi un rôle important de modèle. Quels sont les outils disponibles pour contrôler la mise en oeuvre de ces lignes directrices ? Comment la prise en compte des questions éthiques est-elle garantie dans le développement et l'utilisation de l'IA ? La Confédération envisage-t-elle de faire appliquer ces lignes directrices dans l'économie privée d'une manière ou d'une autre ?

4. Que pense le Conseil fédéral de la création d'un organe indépendant pour contrôler les applications de l'IA selon des critères de fonctionnalité, de sécurité, d'éthique et de légalité ? Si le Conseil fédéral est favorable à la création d'un tel organe, pense-t-il qu'il devra s'agir d'une institution publique ou privée ?

FederalCouncilResponseText

1. Le développement et l'utilisation de l'intelligence artificielle (IA) ont progressé à grands pas ces dernières années. Pour tenir compte de cette évolution, le Conseil fédéral a fait de l'IÀ l'une des thématiques centrales de sa stratégie Suisse numérique, adoptée en 2018, et mis sur pied un groupe de travail interdépartemental dirigé par le DEFR (SEFRI). Le 13 décembre 2019, le gouvernement a pris connaissance du rapport Défis de l'intelligence artificielle, qui rend compte des travaux de ce groupe, et attribué plusieurs mandats subséquents. Ceux-ci comprenaient l'élaboration de lignes directrices ("Intelligence artificielle" - lignes directrices pour la Confédération), adoptées le 25 novembre 2020, et une étude sur la faisabilité d'un réseau de compétences en matière d'intelligence artificielle. Se fondant sur les premiers résultats de l'étude de faisabilité, le Conseil fédéral a chargé le DFI (OFS) et la ChF (TNI, secteur Transformation Numérique et gouvernance de l'Informatique) le 4 décembre 2020 d'analyser en détail le potentiel d'un réseau de compétences et de lui soumettre, jusqu'à fin juin 2021, un projet de création d'un tel réseau. L'analyse porte en priorité sur les fonctions (base de données structurée, échange actif de connaissances et mise à disposition décentralisée d'experts) que ce réseau serait appelé à remplir.

2. Les développements récents et les défis qu'ils impliquent en matière d'IA appellent des solutions mondiales. La Suisse contribue donc activement depuis de longues années aux travaux d'organismes internationaux, tels l'OCDE, le Conseil de l'Europe et l'UNESCO, en vue de définir des normes pour régir l'intelligence artificielle. En tant que membre du Comité ad hoc sur l'intelligence artificielle (CAHAI) du Conseil de l'Europe, la Suisse participe aux travaux visant à déterminer s'il est possible de donner un cadre légal au développement, à la conception et à l'utilisation de l'intelligence artificielle. Devant se fonder sur les droits de l'homme, l'État de droit et la démocratie, ce cadre tiendra certes compte d'exigences légales, mais aussi d'exigences éthiques. Pour mener ses travaux, le CAHAI a consulté une grande variété d'acteurs issus de l'économie privée et de la société civile. Le Conseil de l'Europe mènera par ailleurs des consultations publiques à ce sujet au printemps 2021. Il est en outre prévu d'inviter toutes les personnes et instances intéressées à participer au débat lancé sur la plateforme nationale réunissant de multiples acteurs ("plateforme tripartite") gérée par l'Office fédéral de la communication (OFCOM).

Les échanges de connaissances internes à l'administration fédérale relatifs aux processus de développement et d'apprentissage devront être garantis dans le cadre du futur réseau de compétences IA. De plus, la plateforme mentionnée plus haut accueille régulièrement des dialogues et des échanges d'informations au niveau suisse, qui concernent aussi bien des aspects politiques, sociaux et économiques de l'IA que la position de notre pays à ce sujet au sein d'organisations internationales. En instituant le Centre de compétences en science des données (DSCC), qui a vu le jour le 1er janvier 2021, le Conseil fédéral a par ailleurs décidé de créer un contexte favorable au respect de valeurs éthiques fondamentales. Le DSCC a en effet pour mission de fournir des conseils concernant l'utilisation éthique des données et des algorithmes et de répondre à des questions pratiques sur des sujets tels que la sûreté de l'information, la non-discrimination, la traçabilité, la transparence, etc. Il a également pour tâche d'élaborer des bases appropriées dans ces domaines à l'intention de l'administration fédérale. L'accès à ces bases et leur application seront ensuite promus à l'échelle de la Confédération, notamment par le réseau de compétences IA. Rappelons enfin que la révision totale de la loi sur la protection des données (nLPD ; FF 2020 7397), que le Parlement a approuvée le 25 septembre 2020, prévoit différentes mesures à même d'influer directement sur le recours à l'intelligence artificielle lorsqu'elle intervient dans le traitement de données personnelles. À l'avenir, les organes fédéraux et les instances privées qui traitent de telles données devront par exemple informer les personnes concernées de la possible existence de décisions individuelles automatisées et leur indiquer la logique qui sous-tend ces décisions (art. 25, al. 2, let. f, nLPD).

3. Les lignes directrices pour la Confédération en matière d'intelligence artificielle (www.admin.ch Page d'accueil Documentation Communiqués Thèmes : Technologie Date : 25.11.2020 " Intelligence artificielle " - adoption des lignes directrices pour l'administration fédérale) doivent servir de cadre d'orientation. Le respect de ces lignes directrices en cas d'utilisation de l'IA au sein de l'administration fédérale incombe aux départements et aux différentes unités administratives qui agissent alors toujours dans les limites de leurs tâches légales ou de leur mission de base. L'OFCOM veillera à évaluer périodiquement l'applicabilité et la nécessité d'adapter les lignes directrices. Les points de vue éthiques et juridiques permettant d'aborder l'IA sont multiples, de sorte que des efforts sont actuellement menés au niveau international afin de les harmoniser par l'adoption de normes mondiales contraignantes (voir point 2). De nombreuses entreprises ont déjà défini des lignes directrices internes relatives à l'utilisation de l'intelligence artificielle. Il n'est pas prévu de transposer les lignes directrices de l'administration fédérale à l'économie privée.

4. La Suisse compte parmi les pays qui sont à la pointe en matière de développement de l'IA. À ce titre, elle assume sa part de responsabilité. Sous l'égide du conseiller fédéral Ueli Maurer, l'association intersectorielle digitalswitzerland a créé la fondation Swiss Digital Initiative. En lançant son label de confiance, le Digital Trust Label, celle-ci a lancé la première tentative mondiale de promouvoir un comportement éthique et responsable. D'autres projets destinés à garantir des normes éthiques suivront. La définition de normes techniques et éthiques offre également l'occasion de faire participer le grand public au débat sur la manière dont il convient d'utiliser l'IA. Dans ce contexte, les normes peuvent accroître la transparence et éviter des distorsions de concurrence. D'où toute l'importance d'une approche mondiale qui tient compte des législations et des réglementations administratives par-delà les frontières. C'est la manière d'utiliser les applications qui est au coeur des débats et non pas les applications elles-mêmes. Le Conseil fédéral estime dès lors qu'il ne serait pas approprié de créer un organe indépendant pour contrôler les applications de l'IA. Une telle instance ne serait pas à même de traiter toutes les questions ayant trait au fonctionnement, à la sécurité fonctionnelle, à l'éthique et au droit. De plus, élaborer une réglementation engendrerait des dépenses énormes. Enfin, en choisissant de faire cavalier seul dans un monde largement interconnecté, la Suisse perdrait du terrain sur ses concurrents internationaux. Pour l'heure, le Conseil fédéral ne voit donc aucun intérêt à créer un tel organe de contrôle.

Réponse du Conseil fédéral.