L 300/14
ES
Diario Oficial de la Unión Europea
21.11.2022
ANEXO
DOCUMENTO DE PROYECTO Promover la innovación responsable en inteligencia artificial para la paz y la seguridad 1.
ANTECEDENTES
Los recientes avances en inteligencia artificial (IA) han abierto nuevas posibilidades para reforzar y mantener la paz y la seguridad, por ejemplo, a través de mejoras tecnológicas en ámbitos como la alerta rápida de conflictos y la verificación del control de armamento y exportaciones.
Por otra parte, estos avances han proporcionado nuevos medios para generar o agravar tensiones, conflictos e inseguridad entre los Estados y dentro de ellos.
Los riesgos que plantean determinadas aplicaciones de la IA, como los sistemas de armas autónomos letales, son un motivo de gran preocupación para la comunidad de control de armamento.
Una vía de riesgo que merece una mayor atención, y frente a la que los actuales esfuerzos diplomáticos y de control de armamento pueden ser insuficientes para ofrecer una respuesta, es el desvío y el uso indebido de la investigación y la innovación civiles en materia de IA por parte de agentes irresponsables (en particular agentes no estatales malintencionados) como por ejemplo el uso indebido de redes generativas antagónicas para producir «ultrafalsificaciones» para campañas de desinformación.
La IA es una tecnología facilitadora con un gran potencial de uso general.
La investigación y la innovación en materia de IA desarrolladas para usos civiles podrían ser accesibles y readaptadas (con relativa facilidad) por determinados agentes para usos nocivos o disruptivos que podrían tener implicaciones para la paz y la seguridad internacionales.
El desvío y el uso indebido de la tecnología civil no son fenómenos nuevos ni exclusivos de la IA.
Un ejemplo claro y reciente lo tenemos en el ámbito afín de la robótica, con la militarización y el uso de drones recreativos por parte del Daesh/ISIS en Siria.
Sin embargo, en el caso de la IA, el problema se complica por múltiples factores: la naturaleza intangible y de rápida evolución de los algoritmos y datos de la IA, lo que dificulta el control de su transferencia y proliferación; el liderazgo del sector privado en el mundo de la investigación, desarrollo e innovación, y su consiguiente necesidad de proteger los algoritmos de su propiedad; y la disponibilidad mundial de conocimientos especializados humanos y recursos materiales capaces de reconvertir las tecnologías de IA.
Mientras tanto, quienes trabajan con IA en el sector civil demasiado a menudo no son conscientes de las posibles implicaciones que el desvío y el uso indebido de su trabajo podrían tener para la paz y la seguridad internacionales, o se muestran reticentes a participar en los debates existentes en torno a los riesgos de la IA en los ámbitos del control de armamento y la no proliferación.
Es necesario respaldar una mayor implicación de la comunidad civil de la IA en la comprensión y reducción de los riesgos para la paz y la seguridad asociados al desvío y el uso indebido de la tecnología civil de IA por parte de agentes irresponsables.
Según el Instituto Internacional de Estocolmo de Investigaciones para la Paz (SIPRI) y la Oficina de Asuntos de Desarme de las Naciones Unidas (UNODA), esto podría lograrse mediante un mayor fomento de la innovación responsable en la comunidad civil mundial de la IA.
El trabajo llevado a cabo en el pasado por el SIPRI y la UNODA ha demostrado que la innovación responsable, como mecanismo de autogobierno, podría proporcionar a la comunidad civil mundial de la IA herramientas y métodos prácticos para identificar y ayudar a prevenir y reducir los riesgos que el desvío y el uso indebido de la investigación y la innovación civiles en materia de IA podrían plantear para la paz y la seguridad.
El trabajo del SIPRI y la UNODA también identificó metodologías y varias iniciativas civiles en curso sobre IA responsable que podrían aprovecharse para sensibilizar a la comunidad civil de la IA sobre cuestiones relacionadas con el control de armamento y la no proliferación, debates de expertos y posiciones estatales sobre el desarrollo responsable, la difusión y el uso de la IA, así como las lecciones que deben extraerse del trabajo en relación con la responsabilidad en el sector de la defensa (1).
Lo más importante es que este trabajo previo ha identificado claramente la participación de estudiantes de ciencia, tecnología, ingeniería y matemáticas (CTIM), que participan en la IA desde un planteamiento educativo, como elemento central de cualquier esfuerzo eficaz de innovación responsable.
2.
OBJETIVOS
Estos proyectos tienen por objeto respaldar una mayor participación de la comunidad civil de la IA en la reducción de los riesgos que el desvío y el uso indebido de la investigación y la innovación civiles en materia de IA por parte de agentes irresponsables plantean para la paz y la seguridad internacionales.
Para ello tienen la intención, en primer lugar, de generar una mayor comprensión de cómo las decisiones en el desarrollo y la difusión de la investigación y la innovación en materia de IA pueden afectar a los riesgos de desvío y uso indebido, y a su vez suponer riesgos u oportunidades para la paz y la seguridad, y, en segundo lugar, de promover procesos, métodos y herramientas de innovación responsables que puedan contribuir a asegurar la aplicación pacífica de las innovaciones civiles y la difusión responsable de los conocimientos sobre IA.
A tal fin, respaldan actividades de capacitación, investigación y participación que i) mejorarán la capacidad dentro de la comunidad civil mundial de la IA para incluir y abordar, mediante procesos de innovación responsable, los riesgos para la (1) Las metodologías incluyen, por ejemplo, las prácticas recomendadas del Instituto de Ingenieros Eléctricos y Electrónicos (IEEE) para evaluar la repercusión de los sistemas autónomos e inteligentes en el bienestar humano (IEEE Std 7010-2020) y la lista de evaluación para una IA fiable del grupo de expertos de alto nivel sobre la IA.
Las iniciativas incluyen: la Iniciativa Mundial sobre la Ética de los Sistemas Inteligentes y Autónomos del IEEE; la Asociación de IA; la Asociación Mundial de IA.