[ca] Les tecnologies que incorporen algorismes d'Intel·ligència Artificial (IA) han tingut, en els últims anys, un desenvolupament exponencial tant en termes de capacitats com d'abast. La IA ja ha contribuït a avanços espectaculars en molts àmbits tecnològics i científics. Paral·lelament, les aplicacions de la IA també poden utilitzar-se per a manipular als ciutadans, amplificar els ciberatacs, abusar de les dades biomètriques, limitar, o anul·lar, les llibertats i controlar armes autònomes letals. A mesura que el món ha anat coneixent millor els riscos associats a la IA tant a nivell social com militar, s'ha fet urgent la necessitat d'assentar principis ètics que posin límits al desenvolupament, la gestió i l'ús de la IA. Aquest article examina el camí que han seguit diferents organitzacions internacionals per a recomanar marcs normatius de la IA basats en principis ètics. Es descriuen i discuteixen els principis ètics proposats, així com la necessitat de passar de les recomanacions a les lleis, com il·lustra la Llei de IA de la UE. Els sistemes basats en la IA creen noves amenaces per a la seguretat mundial. Els equilibris de poder, els nous dilemes de seguretat, l'armament autònom i l'augment de la incertesa són alguns dels elements que s'analitzen en aquest article. Les possibilitats que la IA llanci i dirigeixi "hiper" i "ciberguerres" plantegen tremends perills per a la humanitat. Existeix un consens cada vegada major sobre la necessitat de contenir aquests riscos. El dret internacional ha de prevaler, els principis ètics han de respectar-se i els humans han de continuar sent responsables i mantenint el control. La comunitat internacional està disposada a treballar en un tractat que reguli les aplicacions militars de la IA. Aquest document defensa la necessitat d'un tractat, que és necessari ja, i explora alguns dels elements fundacionals proposats que aquest tractat hauria de tenir en compte.

[es] Las tecnologías que incorporan algoritmos de Inteligencia Artificial (IA) han tenido, en los últimos años, un desarrollo exponencial tanto en términos de capacidades como de alcance. La IA ya ha contribuido a avances espectaculares en muchos ámbitos tecnológicos y científicos. Paralelamente, las aplicaciones de la IA también pueden utilizarse para manipular a los ciudadanos, amplificar los ciberataques, abusar de los datos biométricos, limitar, o anular, las libertades y controlar armas autónomas letales. A medida que el mundo ha ido conociendo mejor los riesgos asociados a la IA tanto a nivel social como militar, se ha hecho urgente la necesidad de asentar principios éticos que pongan límites al desarrollo, la gestión y el uso de la IA. Este artículo examina el camino que han seguido distintas organizaciones internacionales para recomendar marcos normativos de la IA basados en principios éticos. Se describen y discuten los principios éticos propuestos, así como la necesidad de pasar de las recomendaciones a las leyes, como ilustra la Ley de IA de la UE. Los sistemas basados en la IA crean nuevas amenazas para la seguridad mundial. Los equilibrios de poder, los nuevos dilemas de seguridad, el armamento autónomo y el aumento de la incertidumbre son algunos de los elementos que se analizan en este artículo. Las posibilidades de que la IA lance y dirija "hiper" y "ciberguerras" plantean tremendos peligros para la humanidad. Existe un consenso cada vez mayor sobre la necesidad de contener esos riesgos. El derecho internacional debe prevalecer, los principios éticos deben respetarse y los humanos deben seguir siendo responsables y manteniendo el control. La comunidad internacional está dispuesta a trabajar en un tratado que regule las aplicaciones militares de la IA. Este documento defiende la necesidad de un tratado, que es necesario ya, y explora algunos de los elementos fundacionales propuestos que dicho tratado debería tener en cuenta.