[ca] Les tecnologies que incorporen algorismes d'Intel·ligència Artificial (IA) han tingut, en els últims anys, un desenvolupament exponencial tant en termes de capacitats com d'abast. La IA ja ha contribuït a avanços espectaculars en molts àmbits tecnològics i científics. Paral·lelament, les aplicacions de la IA també poden utilitzar-se per a manipular als ciutadans, amplificar els ciberatacs, abusar de les dades biomètriques, limitar, o anul·lar, les llibertats i controlar armes autònomes letals. A mesura que el món ha anat coneixent millor els riscos associats a la IA tant a nivell social com militar, s'ha fet urgent la necessitat d'assentar principis ètics que posin límits al desenvolupament, la gestió i l'ús de la IA. Aquest article examina el camí que han seguit diferents organitzacions internacionals per a recomanar marcs normatius de la IA basats en principis ètics. Es descriuen i discuteixen els principis ètics proposats, així com la necessitat de passar de les recomanacions a les lleis, com il·lustra la Llei de IA de la UE. Els sistemes basats en la IA creen noves amenaces per a la seguretat mundial. Els equilibris de poder, els nous dilemes de seguretat, l'armament autònom i l'augment de la incertesa són alguns dels elements que s'analitzen en aquest article. Les possibilitats que la IA llanci i dirigeixi "hiper" i "ciberguerres" plantegen tremends perills per a la humanitat. Existeix un consens cada vegada major sobre la necessitat de contenir aquests riscos. El dret internacional ha de prevaler, els principis ètics han de respectar-se i els humans han de continuar sent responsables i mantenint el control. La comunitat internacional està disposada a treballar en un tractat que reguli les aplicacions militars de la IA. Aquest document defensa la necessitat d'un tractat, que és necessari ja, i explora alguns dels elements fundacionals proposats que aquest tractat hauria de tenir en compte.

[en] The technologies embedding Artificial Intelligence (AI) algorithms have had, in the recent years, an exponential development both in terms of capabilities and reach. AI has already contributed to spectacular advances in many technological and scientific areas. In parallel, AI applications can also be used to manipulate citizens, amplify cyberattacks, abuse biometric data, constrain, or cancel, freedoms and control lethal autonomous weapons. As the world has known better the risks associated to AI both at societal and at military levels, the need to settle ethical principles that pose limits to the development, management and usage of AI has become urgent. This article examines the journey that different international organizations have followed in recommending AI normative frameworks based on ethical principles. The proposed ethical principles are described and discussed, as well as the need to move from recommendations to laws, as illustrated by the EU AI Act. AI-based systems create new threats to the global security. Balances of power, new security dilemmas, autonomous weaponry and increased uncertainty are some of the elements discussed in this article. The possibilities for AI to launch and lead 'hyper' and 'cyber' wars pose tremendous dangers to humanity. There is a growing consensus that those risks should be contained. International law should prevail, ethical principles respected, and humans need to remain accountable and in control. The international community is ready to work in a treaty to regulate the military applications of AI. This document argues that a treaty is needed, needed now, and explores some of the proposed foundational elements that such treaty should consider.