C 465/78
ES
Diario Oficial de la Unión Europea
6.12.2022
Martes 3 de mayo de 2022
51.
Hace hincapié en que las tecnologías de IA, especialmente las que no se han diseñado y desarrollado con los procedimientos de control explícitos en vigor y se utilizan de forma inadecuada y sin supervisión en centros de mando militar o en instalaciones de lanzamiento de misiles, entrañan riesgos especialmente significativos y podrían agravar un conflicto recíproco automatizado;
52.
Observa que el uso de los sistemas de IA en desarrollos relacionados con la defensa se considera un factor determinante en las operaciones militares mediante el análisis de datos, la capacidad de reflejar una mayor complejidad situacional, el potencial para mejorar la precisión de los objetivos, optimizar la logística y participar en conflictos armados con un menor riesgo de daños físicos para la población civil y el propio personal militar, así como utilizando datos para desarrollar vías de acción, como por ejemplo los simulacros de combate; advierte, no obstante, que esto podría provocar la bajada del umbral para el uso de la fuerza y, por lo tanto, más conflictos; afirma que las máquinas no pueden tomar decisiones de carácter humano que impliquen principios jurídicos de distinción, proporcionalidad y precaución; afirma que las personas deben mantener el control sobre el despliegue y el uso de armas y deben seguir siendo responsables del uso de la fuerza letal y de las decisiones sobre la vida o la muerte; Considera que los sistemas armamentísticos basados en IA deben estar sometidos a normas globales y a un código ético de conducta internacional para respaldar el despliegue de tecnologías de IA en operaciones militares, dentro del pleno respeto del Derecho internacional humanitario y el Derecho en materia de derechos humanos, y en consonancia con el Derecho y los valores de la Unión;
53.
Muestra preocupación por la investigación militar y el interés de algunos países en incentivar desarrollos tecnológicos relacionados con sistemas de armas autónomos letales sin supervisión humana significativa; observa que estos sistemas de armas autónomos letales ya se utilizan en los conflictos militares; recuerda que el Parlamento, en repetidas ocasiones, ha pedido la prohibición internacional del desarrollo, producción y utilización de sistemas armamentísticos autónomos letales y ha exigido negociaciones efectivas para iniciar su proceso de prohibición; hace hincapié en que en ningún caso puede permitirse que los sistemas basados en IA sustituyan a la toma de decisiones humanas, cuando estas conciernan a los principios legales de distinción, proporcionalidad y precaución;
54.
Señala, en concreto, que la tecnología de IA puede entrañar riesgos como medio para incentivar diversas formas de guerra híbrida e injerencia extranjera; especifica que, por ejemplo, podría movilizarse para propagar la desinformación, utilizando bots o cuentas falsas en las redes sociales, convertir en arma la interdependencia, recopilando información valiosa o negando el acceso a la red a los adversarios, crear perturbaciones en los sistemas económicos y financieros de otros países, contaminar el debate político y favorecer a los grupos extremistas o manipular las elecciones y desestabilizar las democracias;
55.
Ilustra que las tecnologías de IA también podrían incluir malware impulsado por IA, robo de identidad, contaminación de datos u otros tipos de aprendizaje automatizado adversos que provoquen que otros sistemas de IA malinterpreten los datos introducidos; señala, en particular, el aumento de las ultrafalsificaciones, que no necesariamente son ciberataques, pero que hacen dudar de la autenticidad de todos los contenidos digitales, incluidos los vídeos, y por tanto exigen especial atención en términos de requisitos de transparencia; advierte que las ultrafalsificaciones podrían contribuir a un amplio clima de desconfianza general de la IA, así como a una mayor polarización sociopolítica en nuestras sociedades;
56.
Explica que el uso de sistemas de IA en una cantidad significativa de infraestructuras críticas clave, como las redes de energía y transporte, el sector aeroespacial, la cadena alimentaria, las infraestructuras bancarias y financieras y los centros hospitalarios, ha creado nuevas vulnerabilidades que requieren medidas de ciberseguridad rigurosas para prevenir amenazas; señala, en este contexto, la importancia de la cooperación, el intercambio de información y la adopción de medidas tanto a nivel de la Unión como en los Estados miembros; subraya la importancia de fomentar la resiliencia de organismos críticos frente a las amenazas híbridas;
57.
Advierte que el alto nivel de precisión que puede alcanzar la IA puede entrañar riesgos para la seguridad, ya que puede inducir a los humanos a depositar tal confianza en la IA que confíen en ella más que en su propio juicio; observa que aplicar un enfoque humano como mecanismo corrector no es viable en todos los casos; señala que los experimentos han demostrado que esto puede elevar el nivel de autonomía de la IA más allá del papel de apoyo para el que fue diseñada originalmente y significa que los humanos pierden oportunidades de ganar experiencia y perfeccionar sus habilidades y conocimientos de los sistemas de IA; subraya, por lo tanto, que es necesario que los sistemas de IA de alto riesgo cuenten con medidas de seguridad desde su concepción y con control humano, garantizando para ello el entrenamiento y las medidas de protección y privacidad apropiadas, a fin de superar el sesgo de automatización;