SubmittedText

Le Conseil fédéral analyse l'impact sur les droits constitutionnels de l'utilisation d'algorithmes par les collectivités publiques et par les privés. Il présentera le cas échéant les mesures afin de rendre l'utilisation d'algorithmes transparente, responsable et respectueuse des droits fondamentaux.

FederalCouncilResponseText

Le Conseil fédéral partage l'avis de l'auteur du postulat sur le fait que les algorithmes jouent un rôle fondamental dans le processus de numérisation de toutes les prestations de services. Afin de tirer durablement parti des chances qu'offre cette évolution, il importe d'examiner les risques liés au mécanisme des algorithmes et susceptibles de menacer les droits ancrés dans la Constitution. Il conviendra ainsi d'examiner les risques liés aussi bien aux algorithmes programmés qu'aux algorithmes issus de l'intelligence artificielle.

Les algorithmes ne sont toutefois que l'une des composantes du processus de traitement des données. Celui-ci comprend, dans ses phases initiale et finale, des données concrètes pouvant éventuellement susciter des effets négatifs pour les personnes concernées ou pour les utilisateurs. C'est pourquoi il importe de ne pas considérer les algorithmes isolément, mais de les examiner dans leur contexte général qui est celui du processus de traitement des données. Car même des algorithmes fonctionnant sur une base neutre peuvent, en raison de données spécifiques, produire des résultats susceptibles d'engendrer une violation des droits fondamentaux. Afin de tenir compte de cette éventualité et eu égard au contexte général, le Conseil fédéral a arrêté diverses mesures :

- Instituée dans le cadre de la mise en oeuvre de la motion Rechsteiner Paul 13.3841, "Commission d'experts pour l'avenir du traitement et de la sécurité des données", étudie la question des algorithmes sous différents points de vue. Elle se penchera, d'une part, sur des thèmes spécifiques tels que l'avenir de la protection de la personnalité, la protection des consommateurs, les algorithmes et les problèmes d'éthique et, d'autre part, sur la question fondamentale consistant à déterminer dans quelle mesure une analyse des risques et la mise en place de mesures touchant le fonctionnement des algorithmes est susceptible d'apporter une plus-value et, le cas échéant, dans quels domaines. La commission d'experts devrait présenter son rapport et ses recommandations en la matière au milieu de l'année 2018.

- Au niveau législatif, la révision en cours de la loi sur la protection des données tient compte des différentes situations dans lesquelles le traitement de données personnelles s'effectue par le biais d'algorithmes. Une obligation d'informer et d'auditionner la personne concernée devra ainsi être observée lorsqu'une décision est prise sur la base exclusive d'un système automatisé de traitement de données et que des conséquences juridiques ou des répercussions importantes sont attendues. Grâce au droit d'être informé qui lui est conféré, la personne concernée devra être en mesure d'exiger de plus amples informations sur la décision prise ainsi que sur les modalités et les conséquences de celle-ci. Le projet de révision prévoit également des mesures relatives au profilage, lequel se fonde, lui aussi, souvent sur des algorithmes. Enfin, les responsables seront tenus de procéder à une analyse d'impact relative à la protection des données dans les cas où le traitement des données serait susceptible de porter atteinte à la personnalité ou aux droits fondamentaux de la personne concernée. L'opportunité de mesures visant la protection de la personne concernée sera également examinée dans le cadre de la révision.

Les mesures énumérées montrent que les problèmes que soulèvent les algorithmes en lien avec les droits constitutionnels ont été reconnus et qu'ils sont déjà pris en considération dans les analyses en cours. Le Conseil fédéral considère que le fait de poursuivre et de renforcer ces analyses constitue la manière la plus efficace de s'assurer que les algorithmes seront utilisés dans le respect des droits fondamentaux.

Le Conseil fédéral propose de rejeter le postulat.