Rapport sur les conséquences de l’intelligence artificielle, de l’internet des objets et de la robotique sur la sécurité et la responsabilité

1.Introduction

L’intelligence artificielle (IA), l’internet des objets et la robotique seront sources de nouvelles possibilités et de nouveaux avantages pour la société. La Commission a reconnu l’importance et le potentiel de ces technologies, ainsi que la nécessité d’investir massivement dans ces domaines . Elle est déterminée à placer l’Europe à la pointe dans les domaines de l’IA, de l’internet des objets et de la robotique au niveau mondial. La réalisation de cet objectif nécessite l’instauration d’un cadre juridique clair et prévisible permettant de relever les défis technologiques.

1.1.Le cadre existant en matière de sécurité et de responsabilité

L’objectif général des cadres juridiques en matière de sécurité et de responsabilité est de veiller à ce que tous les produits et services, y compris ceux qui intègrent les technologies numériques émergentes, fonctionnent de manière sûre, fiable et cohérente et qu’il puisse être remédié efficacement aux dommages qui surviendraient. La fixation de niveaux élevés de sécurité pour les produits et les systèmes intégrant les nouvelles technologies numériques et la mise en place de mécanismes solides permettant de remédier aux dommages (c’est-à-dire le cadre en matière de responsabilité) contribuent à une meilleure protection des consommateurs. Ces normes et ces mécanismes permettent également d’instaurer un climat de confiance à l’égard de ces technologies, une condition indispensable à leur adoption par les entreprises et les utilisateurs, ce qui permettra de renforcer la compétitivité de notre industrie et de contribuer aux objectifs de l’Union. Un cadre clair en matière de sécurité et de responsabilité revêt une importance particulière lorsque de nouvelles technologies telles que l’IA, l’internet des objets et la robotique émergent, car il permet de garantir à la fois la protection des consommateurs et la sécurité juridique pour les entreprises.

L’Union dispose d’un cadre réglementaire robuste et fiable en matière de sécurité et de responsabilité du fait des produits, ainsi que d’un solide corpus de normes de sécurité, qui sont complétés par des législations nationales, non harmonisées, en matière de responsabilité. Ensemble, tous ces éléments garantissent le bien-être de nos concitoyens au sein du marché unique et encouragent l’innovation et l’utilisation des technologies. Cependant, les caractéristiques de nombreux produits et services traversent en ce moment une phase de transformation du fait de l’IA, de l’internet des objets et de la robotique.

Dans la communication sur l’intelligence artificielle pour l’Europe , adoptée le 25 avril 2018, il était annoncé que la Commission présenterait un rapport évaluant les conséquences des technologies numériques émergentes sur les cadres existants en matière de sécurité et de responsabilité. Le présent rapport vise à recenser et à analyser les conséquences plus générales des cadres en matière de responsabilité et de sécurité pour l’IA, l’internet des objets et la robotique ainsi que leurs lacunes potentielles. Les orientations énoncées dans le présent rapport accompagnant le livre blanc sur l’intelligence artificielle permettront d’alimenter le débat et s’inscrivent dans le cadre de la consultation plus large des parties prenantes. La section relative à la sécurité s’appuie sur l’évaluation de la directive relative aux machines et sur les travaux menés avec les groupes d’experts concernés. La section relative à la responsabilité s’appuie quant à elle sur l’évaluation de la directive sur la responsabilité du fait des produits, sur les contributions des groupes d’experts concernés et sur des contacts noués avec les parties prenantes. Le présent rapport n’a pas pour objectif de donner un aperçu exhaustif des règles en vigueur en matière de sécurité et de responsabilité, mais porte sur les principaux problèmes recensés à ce jour.

1.2.Caractéristiques des technologies de l’IA, de l’internet des objets et de la robotique

L’IA, l’internet des objets et la robotique ont de nombreuses caractéristiques en commun. Ces technologies peuvent associer connectivité, autonomie et dépendance aux données pour exécuter des tâches avec peu d’intervention humaine, voire aucune, pour le contrôle ou la supervision. Les systèmes équipés de l’IA sont également capables d’améliorer leurs propres performances grâce à l’apprentissage par l’expérience. Leur complexité se traduit à la fois par la pluralité des opérateurs économiques intervenant dans la chaîne d’approvisionnement et par la multiplicité des composants, pièces, logiciels, systèmes ou services qui forment ensemble les nouveaux écosystèmes technologiques. À cela s’ajoute l’ouverture des produits aux mises à jour et aux mises à niveau après qu’ils ont été mis sur le marché. En raison des grandes quantités de données concernées, de la dépendance aux algorithmes et de l’opacité du processus de décisionnel de l’IA, il devient plus difficile de prédire le comportement d’un produit assisté par l’IA et de comprendre les possibles causes d’un préjudice. Enfin, la connectivité et l’ouverture peuvent aussi exposer les produits de l’IA et de l’internet des objets à des cybermenaces.

1.3.Possibilités créées par l’IA, l’internet des objets et la robotique

Le renforcement de la confiance des utilisateurs à l’égard des technologies émergentes et de l’acceptation de celles-ci dans la société, l’amélioration des produits, des processus et des modèles d’entreprise, ou encore un possible gain d’efficience pour les fabricants européens ne sont que quelques-unes des perspectives offertes par l’IA, l’internet des objets et la robotique.

Au-delà des gains de productivité et d’efficience, l’IA promet également de porter le niveau d’intelligence à des niveaux encore jamais atteints, ouvrant ainsi la voie à de nouvelles découvertes et contribuant à résoudre certains des plus grands problèmes qui se posent au niveau mondial: traitement des maladies chroniques, prévision de l’apparition d’épidémies, réduction des taux de mortalité dans les accidents de la route, ou encore lutte contre le changement climatique et anticipation des menaces qui pèsent sur la cybersécurité.

Ces technologies peuvent apporter de nombreux avantages en améliorant la sécurité des produits et par là même en réduisant leur exposition à certains risques. Par exemple, les véhicules connectés et automatisés pourraient améliorer la sécurité routière, dans la mesure où les accidents de la route résultent la plupart du temps d’une erreur humaine . En outre, les dispositifs de l’internet des objets sont conçus de manière à recevoir et à traiter de grandes quantités de données provenant de différentes sources. Ce niveau d’information accru pourrait être utilisé de manière à permettre aux produits de s’adapter de manière autonome, ce qui les rendrait plus sûrs. Les nouvelles technologies peuvent contribuer à rendre les rappels de produits plus efficaces. Les produits pourraient ainsi avertir les utilisateurs en amont et permettre d’éviter un problème de sécurité . Si un problème de sécurité se pose au cours de l’utilisation d’un produit connecté, les fabricants peuvent communiquer directement avec les utilisateurs afin, d’une part, de les avertir des risques et, d’autre part, pour autant que cela soit possible, de régler directement le problème en lançant, par exemple, une mise à jour de sécurité. Par exemple, au cours du rappel d’un de ses appareils en 2017, un fabricant de smartphones a procédé à une mise à jour logicielle afin de réduire à zéro la capacité de la batterie des téléphones rappelés , afin que les utilisateurs cessent d’utiliser les appareils dangereux.

Les nouvelles technologies peuvent en outre contribuer à améliorer la traçabilité des produits. Par exemple, grâce aux fonctions de connectivité de l’internet des objets, les entreprises et les autorités de surveillance du marché peuvent suivre les produits dangereux et déceler les risques dans les chaînes d’approvisionnement .

Outre les possibilités qu’ils peuvent offrir à l’économie et à nos sociétés, l’IA, l’internet des objets et la robotique peuvent également comporter un risque de préjudice pour des intérêts juridiquement protégés, aussi bien matériels qu’immatériels. Le risque de voir de telles atteintes se produire s’accentuera à mesure que le champ des applications s’élargira. Dans ce contexte, il est essentiel d’analyser si et dans quelle mesure le cadre juridique actuel en matière de sécurité et de responsabilité reste adapté pour protéger les utilisateurs.

2.Sécurité

Dans sa communication intitulée «Renforcer la confiance dans l’intelligence artificielle axée sur le facteur humain», la Commission affirme que «les systèmes d’IA devraient intégrer des mécanismes de sécurité par conception et de sûreté permettant d’en vérifier l’innocuité à chaque étape, en tenant compte de la sécurité physique et mentale de toutes les personnes concernées».

L’évaluation de la législation de l’Union relative à la sécurité des produits dans la présente section vise à déterminer si le cadre législatif actuel de l’Union est doté des éléments idoines permettant de faire en sorte que les technologies émergentes, et les systèmes d’IA en particulier, intègrent des mécanismes de sécurité par conception et de sûreté.

Le présent rapport examine principalement la directive relative à la sécurité générale des produits ainsi que la législation harmonisée sur les produits qui suit les règles horizontales de la «nouvelle approche» et/ou du «nouveau cadre législatif» (ci-après «la législation ou le cadre législatif de l’Union relatif à la sécurité des produits»). Les règles horizontales garantissent la cohérence entre les règles sectorielles relatives à la sécurité des produits.