La inteligencia artificial (IA) es una tecnología emergente de utilidad general: una familia muy potente de técnicas de programación informática. La adopción de los sistemas de IA puede aportar importantes beneficios sociales y crecimiento económico, así como mejorar la innovación en la UE y la competitividad mundial. No obstante, en determinados casos, el uso de sistemas de IA puede plantear problemas. Las características específicas de determinados sistemas de IA pueden generar nuevos riesgos para 1) la seguridad y 2) los derechos fundamentales, así como incrementar la probabilidad o intensidad de los riesgos existentes. Los sistemas de IA también 3) pueden dificultar que las autoridades encargadas de la aplicación de la ley comprueben el cumplimiento de las normas existentes y su aplicación. Este conjunto de problemas supone, a su vez, 4) inseguridad jurídica para las empresas, 5) una adopción potencialmente más lenta de las tecnologías de IA debido a la falta de confianza por parte de las empresas y de los ciudadanos, así como 6) respuestas reglamentarias por parte de las autoridades nacionales para mitigar las posibles externalidades que amenazan con fragmentar el mercado interior.

El carácter transfronterizo de los datos y conjuntos de datos a gran escala en los que, con frecuencia, se basan las aplicaciones de la IA implica que los Estados miembros no pueden alcanzar eficazmente los objetivos de la iniciativa por sí solos. El propósito del marco reglamentario europeo para una IA fiable es establecer normas armonizadas relativas al desarrollo, la introducción en el mercado y la utilización en la Unión de productos y servicios que incorporen la tecnología de IA o constituyan aplicaciones de IA independientes. Su finalidad es garantizar la igualdad de condiciones y proteger a todos los ciudadanos de la Unión, al tiempo que se refuerza la competitividad y la base industrial de la IA europea. La adopción de medidas a escala de la UE relativas a la IA impulsará el mercado interior y tiene un gran potencial para proporcionar a la industria europea una ventaja competitiva en el panorama mundial, basada en economías de escala que los Estados miembros no pueden lograr por sí solos.

¿Cuáles son las distintas opciones posibles para alcanzar los objetivos? ¿Existe o no una opción preferida? En caso negativo, ¿por qué?

Se han examinado las siguientes opciones: Opción 1: un instrumento legislativo de la UE que establezca un plan voluntario de etiquetado; Opción 2: una estrategia sectorial ad hoc; Opción 3: un instrumento legislativo horizontal de la UE que establezca unos requisitos obligatorios para las aplicaciones de IA de alto riesgo; Opción 3+: idéntica a la opción 3, pero con la inclusión de unos códigos de conducta voluntarios para las aplicaciones de IA que no son de alto riesgo; y Opción 4: un instrumento legislativo horizontal de la UE que establezca requisitos obligatorios para todas las aplicaciones de IA. La opción preferida es la opción 3+, ya que proporciona salvaguardias adecuadas contra los riesgos planteados por la IA, al tiempo que reduce al mínimo los costes administrativos y de conformidad. La cuestión específica de la responsabilidad por las aplicaciones de IA se abordará a través de futuras normas específicas y, por tanto, no se incluye en las opciones expuestas.

Las empresas, las autoridades públicas, los profesionales académicos y las organizaciones no gubernamentales coinciden en que existen lagunas legislativas o en que se necesita una nueva legislación, aunque entre las empresas la mayoría es menos amplia. El sector industrial y las autoridades públicas están de acuerdo en limitar los requisitos obligatorios a las aplicaciones de IA de alto riesgo. Es más probable que la ciudadanía y la sociedad civil no estén de acuerdo con la necesidad de limitar los requisitos obligatorios a las aplicaciones de alto riesgo.

C. Repercusiones de la opción preferida

¿Qué beneficios aporta la opción preferida (de haberla; si no, las principales)?

La opción preferida mitigará los riesgos para la seguridad y para los derechos fundamentales de la ciudadanía. Asimismo, generará seguridad jurídica para los proveedores de IA y garantizará que no surja ningún obstáculo para el suministro transfronterizo de servicios y productos relacionados con la IA. En el caso de las empresas que utilizan la IA, fomentará la confianza entre sus clientes. En cuanto a las Administraciones Públicas, favorecerá que la población confíe en el uso de la IA y reforzará los mecanismos de cumplimiento al introducir un mecanismo de coordinación europeo, prever las capacidades adecuadas y facilitar que se realicen auditorías de los sistemas de IA con nuevos requisitos en materia de documentación, trazabilidad y transparencia.