6.12.2022
FR
Journal officiel de l'Union européenne
C 465/89 Mardi 3 mai 2022
134. précise que la classification des systèmes d’IA dans la catégorie «à haut risque» doit se fonder sur leur utilisation concrète et sur le contexte, la nature, la probabilité, la gravité et l’irréversibilité potentielle du préjudice susceptible de se produire en violation des droits fondamentaux et des règles de santé et de sécurité tels que définis dans le droit de l’Union; souligne que cette classification doit s’accompagner d’orientations et de recommandations sur l’échange des bonnes pratiques pour les développeurs d’IA; souligne que le droit à la vie privée doit toujours être respecté et que les développeurs d’IA doivent garantir le plein respect des règles relatives à la protection des données;
135. souligne que les systèmes d’IA qui sont susceptibles d’interagir avec les enfants ou qui les concerne de près ou de loin doivent tenir compte de leurs droits et de leurs faiblesses et répondre d’emblée et dès la conception aux normes les plus exigeantes en matière de sûreté, de sécurité et de vie privée;
136. note que les environnements dans lesquels les systèmes d’IA opèrent peuvent être différents dans un environnement interentreprises par rapport à un environnement entre entreprises et consommateurs; souligne que les droits des consommateurs doivent être protégés juridiquement par la législation sur la protection des consommateurs; ajoute que, si les entreprises peuvent résoudre les problèmes de responsabilité et autres problèmes juridiques rapidement et à moindre coût par des moyens contractuels, directement avec les partenaires commerciaux, une législation peut s’avérer nécessaire pour protéger les entreprises plus petites contre les abus de pouvoir de marché que les acteurs dominants pourraient exercer, notamment par un verrouillage commercial ou technologique ou des problèmes d’asymétrie des informations; fait valoir qu’il est également nécessaire de prendre en compte les besoins des PME et des jeunes entreprises caractérisées par des exigences complexes, afin d’éviter de les désavantager par rapport aux grandes entreprises, qui disposent des moyens suffisants pour se doter de services juridiques et de conformité importants;
137. souligne la nécessité d’appliquer une approche fondée sur des principes aux questions éthiques ouvertes soulevées par les nouvelles possibilités technologiques découlant de la vente et de l’utilisation des applications d’IA, notamment à travers l’utilisation de principes fondamentaux obligatoires tels que le principe de non-malfaisance, le principe de respect de la dignité humaine et des droits fondamentaux ou la protection du processus démocratique; note que les bonnes pratiques en matière de développement de l’IA, telles que l’IA centrée sur l’humain, la gouvernance responsable et les principes de transparence et d’explicabilité, ainsi que les principes d’IA durable qui sont pleinement alignés sur le Programme de développement durable à l’horizon 2030 des Nations unies, sont d’autres composants importants dans l’élaboration de l’économie de l’IA;
138. est conscient qu’il n’est pas toujours possible de «débiaiser» complètement les algorithmes d’IA, car l’objectif idéal de données exemptes d’erreurs est très difficile ou presque impossible à atteindre; constate que même un système d’IA qui a été testé connaîtra inévitablement des scénarios en conditions réelles susceptibles de produire des résultats biaisés, notamment s’il est déployé dans une configuration différente de celle avec laquelle il a été entraîné et testé; souligne que l’Union devrait s’efforcer d’améliorer la transparence des ensembles de données et des algorithmes, coopérer très étroitement avec les développeurs d’IA pour contrebalancer et réduire les biais sociétaux structurels et envisager des règles obligatoires de diligence raisonnable en matière de droits de l’homme dès les premiers stades du développement;
139. précise que les obligations propices de transparence ou d’explicabilité des systèmes d’IA, bien qu’utiles dans de nombreux cas, peuvent être impossibles à mettre en œuvre dans tous les cas; note que les droits de propriété intellectuelle et les secrets commerciaux doivent être protégés contre les pratiques illégales telles que l’espionnage industriel;
140. déclare que le cadre législatif relatif à la propriété intellectuelle doit continuer à encourager et à protéger les innovateurs en IA en leur accordant des brevets en compensation du développement et de la publication de leurs créations; constate que les lois en vigueur sont pour l’essentiel pérennes, mais propose certains ajustements, notamment l’intégration d’éléments de source ouverte, ainsi que l’utilisation des marchés publics pour rendre obligatoires les logiciels de source ouverte pour les solutions d’IA, le cas échéant; propose de nouvelles formes de licences de brevet pour garantir que les outils soient accessibles aux régions et aux initiatives qui ne pourraient pas se les offrir autrement;
141. estime que des auto-évaluations de risque ex ante obligatoires, fondées sur des règles et des normes claires, ainsi que des évaluations d’impact sur la protection des données, complétées par des évaluations de conformité par des tiers avec un marquage CE pertinent et approprié, combinées à une application ex post par la surveillance du marché, pourraient être utiles pour garantir que les systèmes d’IA sur le marché sont sûrs et dignes de confiance; est d’avis que pour éviter que les PME ne soient évincées du marché, des normes et des orientations sur le respect de la législation en matière d’IA devraient être élaborées avec la participation étroite des petites entreprises, harmonisées au niveau international dans toute la mesure du possible et disponibles gratuitement;