Debate: Automated decision-making processes: Ensuring consumer protection, and free movement of goods and services
Date: MONDAY, 10 FEBRUARY 2020
Speaker: Thierry Breton
Language: FR

La question que vous posez, en fait, consiste à nous demander comment cette évolution – cette révolution, diront certains – va effectivement modifier les comportements des consommateurs, mais aussi nous permettre, – c’est ce sur quoi nous travaillons – de consolider l’ensemble de notre marché intérieur. Pour cela, évidemment, le premier mot, le maître mot qui était, du reste, assez présent dans votre intervention, Madame la Présidente, c’est évidemment instaurer un climat de confiance. Il est vrai qu’aujourd’hui, il y a de la défiance sur l’intelligence artificielle. Nos concitoyens se posent des questions, souvent légitimes, et nous sommes là pour essayer d’apporter des réponses – des réponses efficaces. C’est dans cet esprit que, vous l’avez rappelé, la Commission va présenter le 19 février un livre blanc qui sera une sorte de consultation ciblée, sur laquelle nous allons évidemment exprimer nos positions, mais qui est aussi le moyen de poursuivre le débat que nous avons ce soir et de le prolonger pour vous écouter tous et toutes, mais aussi pour pouvoir apporter des solutions ensemble à cette évolution absolument essentielle qui marque désormais notre époque. D’abord, il s’agit évidemment de bien cadrer les règles de développement de l’intelligence artificielle en Europe.  D’autre part, il s’agit aussi de faire en sorte que ces règles nous permettent de favoriser l’émergence d’une industrie européenne de l’intelligence artificielle.  Nous avons beaucoup travaillé, avec mes collaborateurs, avec l’ensemble de mes collègues, au cours des dernières semaines, et nous devons vraiment, ensemble, nous poser la question – vous l’avez rappelé tout à l’heure –, bien sûr, des algorithmes, quand on parle d’intelligence artificielle, mais aussi la question des données. Ce sont évidemment les données qui sont, allais-je dire, le carburant qui va nous permettre précisément, en les entraînant à travers des algorithmes spécifiques, de développer des applications précises qui vont évidemment intervenir dans la vie de nos concitoyens. L’intérêt que nous allons donc porter aux données, aux données à valeur ajoutée, va être très importante dans la communication que nous ferons. Je voudrais quand même rappeler, notamment pour répondre à un certain nombre de vos interrogations, Madame la Présidente, qu’évidemment, on ne part pas de zéro. Beaucoup de travail a été fait, et notamment de travail législatif, y compris dans ce Parlement, bien entendu. D’abord, la législation en matière de protection des consommateurs. Elle couvre également des pratiques commerciales, vous y avez fait référence, faisant appel à des processus décisionnels automatisés, qui peuvent aussi être invoqués dans le cas de discriminations. De même, le cadre réglementaire oblige désormais les professionnels à informer les consommateurs, lorsque le prix est personnalisé – vous l’avez évoqué tout à l’heure –, sur la base d’un système de décision automatisée.  Je voudrais aussi évoquer, évidemment, le RGPD, dont on a beaucoup parlé, à juste titre, et qui impose qu’une analyse d’impact soit menée lorsque le traitement des données personnelles est susceptible de présenter un risque élevé pour les droits et les libertés des personnes. Il y a encore d’autres exigences qui s’appliquent dans le cas de décisions automatisées prises dans le cadre, par exemple, d’un recrutement électronique. Il est évident qu’il va falloir bien veiller à ce qu’il n’y ait pas de discrimination, et donc comprendre comment ces algorithmes fonctionnent, tout simplement pour qu’ils respectent l’ensemble du corpus des valeurs européennes auxquelles nous sommes si attachés. Et évidemment, tout ce qui concerne des interventions humaines qui doivent, encore une fois, pouvoir nous permettre de contester éventuellement la décision, permettre à nos concitoyens de contester la décision s’ils considèrent qu’ils sont en droit de le faire. Enfin, je rappelle le règlement dit  Beaucoup de choses existent mais, bien entendu, il va falloir aller de l’avant et je voudrais enfin dire que nous allons évidemment nous servir de tout cela. Nous allons aussi réfléchir ensemble à l’adaptation de la directive relative à la sécurité générale des produits, la directive relative aux machines, ainsi que la directive relative aux équipements radioélectriques. Le secteur automobile va également être un sujet très important en ce qui concerne l’intelligence artificielle et les prises de décisions automatiques. Le législateur, vous le savez, a déjà chargé la Commission de se pencher sur la question de l’approbation des voitures autonomes connectées, nous allons donc poursuivre dans cette voie. Il pourra aussi peut-être s’avérer nécessaire d’apporter certaines clarifications à la directive sur la responsabilité générale des produits à la lumière du développement des technologies émergentes et de l’économie circulaire. Enfin, vous le savez, la préparation de l’acte sur les services numériques, à laquelle nous travaillons, va nous permettre d’examiner avec une plus grande attention une série de processus algorithmiques, par exemple les systèmes de recommandations, les algorithmes de modération, ou encore, bien entendu, un sujet très important qui a été abondamment débattu dans ce Parlement, la publicité en ligne. Un point également, si vous le permettez, sur les services aux professionnels. L’expertise proposée doit non seulement reposer sur des qualifications traditionnelles, mais aussi sur une nouvelle sorte de combinaison de compétences rassemblant technologies de l’information, connaissances et, bien sûr, expertise dans chaque secteur. Je voudrais aussi vous indiquer que le livre blanc sur lequel nous allons travailler, qui va être porté à votre connaissance, sera suivi d’actions au quatrième trimestre, comme prévu dans le programme de travail de la Commission, et que, bien entendu, c’est dans cette perspective que nous souhaitons vraiment pouvoir travailler avec vous. Je sais que beaucoup d’entre vous, Mesdames et Messieurs les parlementaires, travaillent depuis maintenant plusieurs mois, voire plusieurs années, sur ces questions. C’est tout à fait enrichissant pour nous, et pour moi en particulier, et donc à travers le livre blanc, on va avoir une plateforme pour poursuivre ces échanges.