C 465/78
PT
Jornal Oficial da União Europeia
6.12.2022
Terça-feira, 3 de maio de 2022
51.
Salienta que as tecnologias de IA, especialmente as que não foram concebidas e desenvolvidas de acordo com os procedimentos de controlo explícitos em vigor e são utilizadas de forma inadequada e sem supervisão em centros de comando militares ou em instalações de lançamento de mísseis, comportam riscos particularmente significativos e podem agravar um conflito automatizado;
52.
Observa que a utilização de sistemas de IA nos desenvolvimentos relacionados com a defesa é considerada um fator de mudança nas operações militares, através da análise de dados, da capacidade de refletir uma maior complexidade da situação, do potencial para melhorar a precisão dos alvos, otimizar a logística e participar em conflitos armados, com um risco reduzido de danos físicos para as populações civis e o próprio pessoal militar, bem como da utilização de dados para o desenvolvimento de modos de ação, como os jogos de guerra alerta, porém, para que tal poderia levar a baixar o limiar para o recurso da força e, por conseguinte, a mais conflitos; afirma que as máquinas e os robôs, contrariamente aos humanos, são incapazes de tomar decisões às quais se aplicam os princípios jurídicos da distinção, proporcionalidade e precaução; considera que deve caber aos seres humanos o controlo da decisão de movimentar e utilizar armas e que devem ser responsabilizados pelo uso de força letal e pelas decisões de vida ou morte; entende que os sistemas de armamento baseados na IA devem estar sujeitos a normas globais e a um código de conduta ética internacional subjacentes à utilização de tecnologias de IA em operações militares, no pleno respeito do direito internacional humanitário, dos direitos humanos e em conformidade com o direito e os valores da União;
53.
Está preocupado com a investigação militar e os desenvolvimentos tecnológicos em curso em alguns países no que diz respeito a sistemas de armas letais autónomos sem controlo humano significativo; observa que estes sistemas de armas letais autónomos já são utilizados em conflitos militares; recorda que o Parlamento tem apelado repetidamente a uma proibição internacional do desenvolvimento, produção e utilização de sistemas de armas letais autónomos e ao início de negociações sobre a sua proibição; salienta que os sistemas de IA não podem, em circunstância alguma, substituir a tomada de decisão humana envolvendo os princípios jurídicos da distinção, proporcionalidade e precaução;
54.
Assinala, em particular, que a tecnologia da IA pode implicar riscos potenciais como meio de perseguir várias formas de guerra híbrida e de interferência estrangeira; considera que a tecnologia da IA poderá, por exemplo, ser mobilizada para desencadear a desinformação, utilizando robôs ou contas falsas nas redes sociais, para armar a interdependência, recolhendo informações valiosas ou negando o acesso em rede aos adversários, para criar perturbações nos sistemas económicos e financeiros de outros países, para poluir o debate político e favorecer grupos extremistas, ou manipular eleições para desestabilizar as democracias;
55.
Destaca que as tecnologias de IA também poderão incluir a utilização de programas informáticos maliciosos baseados na IA, a usurpação de identidade, a contaminação de dados, ou outras formas de aprendizagem automática adversa que levam outros sistemas de IA a interpretar incorretamente os dados introduzidos; chama a atenção, em particular, para o aumento das falsificações profundas («deepfakes»), que não são necessariamente ciberataques, mas que suscitam dúvidas quanto à autenticidade de todos os conteúdos digitais, designadamente dos vídeos, pelo que requerem uma atenção especial em termos de requisitos de transparência; alerta para o facto de as falsificações profundas poderem contribuir para um clima de desconfiança generalizada do pública na IA, bem como para uma polarização sociopolítica mais profunda nas nossas sociedades;
56.
Considera que a utilização de sistemas de IA numa quantidade significativa de infraestruturas essenciais, tais como as redes energéticas e de transporte, o sector espacial, a cadeia alimentar, a infraestrutura bancária e financeira e as instalações hospitalares, criou novas vulnerabilidades que requerem medidas de cibersegurança robustas para evitar ameaças; salienta, neste contexto, a importância da cooperação, da partilha de informações e da ação, tanto a nível da UE, como entre os Estados-Membros; sublinha a importância de fomentar a resiliência de entidades críticas a ameaças híbridas;
57.
Adverte que as capacidades da IA também podem representar riscos para a segurança, uma vez que pode levar os seres humanos a confiar mais na IA do que na sua própria capacidade de julgamento; observa que a utilização de uma abordagem antropocêntrica enquanto mecanismo corretivo não é viável em todos os casos; assinala que as experiências demonstraram que tal pode aumentar o nível de autonomia da IA para além do papel de apoio para o qual foi inicialmente concebida, o que significa que os seres humanos perdem oportunidades de ganhar experiência e melhorar as suas competências e conhecimentos sobre os sistemas de IA; salienta, portanto, que, nos sistemas de IA de alto risco, são necessárias a integração da segurança na conceção e uma supervisão humana significativa baseada numa formação adequada, bem como salvaguardas de segurança e privacidade apropriadas, a fim de superar esse preconceito de automatização;