[en] The technologies embedding Artificial Intelligence (AI) algorithms have had, in the recent years, an exponential development both in terms of capabilities and reach. AI has already contributed to spectacular advances in many technological and scientific areas. In parallel, AI applications can also be used to manipulate citizens, amplify cyberattacks, abuse biometric data, constrain, or cancel, freedoms and control lethal autonomous weapons. As the world has known better the risks associated to AI both at societal and at military levels, the need to settle ethical principles that pose limits to the development, management and usage of AI has become urgent. This article examines the journey that different international organizations have followed in recommending AI normative frameworks based on ethical principles. The proposed ethical principles are described and discussed, as well as the need to move from recommendations to laws, as illustrated by the EU AI Act. AI-based systems create new threats to the global security. Balances of power, new security dilemmas, autonomous weaponry and increased uncertainty are some of the elements discussed in this article. The possibilities for AI to launch and lead 'hyper' and 'cyber' wars pose tremendous dangers to humanity. There is a growing consensus that those risks should be contained. International law should prevail, ethical principles respected, and humans need to remain accountable and in control. The international community is ready to work in a treaty to regulate the military applications of AI. This document argues that a treaty is needed, needed now, and explores some of the proposed foundational elements that such treaty should consider.

[es] Las tecnologías que incorporan algoritmos de Inteligencia Artificial (IA) han tenido, en los últimos años, un desarrollo exponencial tanto en términos de capacidades como de alcance. La IA ya ha contribuido a avances espectaculares en muchos ámbitos tecnológicos y científicos. Paralelamente, las aplicaciones de la IA también pueden utilizarse para manipular a los ciudadanos, amplificar los ciberataques, abusar de los datos biométricos, limitar, o anular, las libertades y controlar armas autónomas letales. A medida que el mundo ha ido conociendo mejor los riesgos asociados a la IA tanto a nivel social como militar, se ha hecho urgente la necesidad de asentar principios éticos que pongan límites al desarrollo, la gestión y el uso de la IA. Este artículo examina el camino que han seguido distintas organizaciones internacionales para recomendar marcos normativos de la IA basados en principios éticos. Se describen y discuten los principios éticos propuestos, así como la necesidad de pasar de las recomendaciones a las leyes, como ilustra la Ley de IA de la UE. Los sistemas basados en la IA crean nuevas amenazas para la seguridad mundial. Los equilibrios de poder, los nuevos dilemas de seguridad, el armamento autónomo y el aumento de la incertidumbre son algunos de los elementos que se analizan en este artículo. Las posibilidades de que la IA lance y dirija "hiper" y "ciberguerras" plantean tremendos peligros para la humanidad. Existe un consenso cada vez mayor sobre la necesidad de contener esos riesgos. El derecho internacional debe prevalecer, los principios éticos deben respetarse y los humanos deben seguir siendo responsables y manteniendo el control. La comunidad internacional está dispuesta a trabajar en un tratado que regule las aplicaciones militares de la IA. Este documento defiende la necesidad de un tratado, que es necesario ya, y explora algunos de los elementos fundacionales propuestos que dicho tratado debería tener en cuenta.