L 300/14
PT
Jornal Oficial da União Europeia
21.11.2022
ANEXO
DOCUMENTO DO PROJETO Promover a inovação responsável no domínio da inteligência artificial para a paz e a segurança 1.
CONTEXTO
Os recentes progressos no domínio da inteligência artificial (IA) desencadearam novas possibilidades para apoiar e incentivar a paz e a segurança, por exemplo, através de melhorias tecnológicas em domínios como o alerta precoce de conflitos e a verificação do controlo de armas e das exportações.
Por outro lado, estes progressos permitiram novos meios para gerar ou agravar tensões, conflitos e a insegurança entre os Estados e no interior destes.
Os riscos apresentados por determinadas aplicações da IA, como os sistemas de armas letais autónomos, surgiram como uma das principais preocupações da comunidade do controlo de armas.
Uma via de risco que merece maior atenção e para a qual os atuais esforços diplomáticos e de controlo de armas podem ser insuficientes para lhe dar resposta é o desvio e a utilização indevida da investigação e inovação civis no domínio da IA por parte de intervenientes irresponsáveis, incluindo intervenientes não estatais mal-intencionados, como é o caso da utilização abusiva de redes generativas antagónicas para produzir falsificações profundas para campanhas de desinformação.
A IA é uma tecnologia facilitadora com grande potencial de utilização geral.
A investigação e a inovação no domínio da IA desenvolvidas para aplicações civis podem ser acedidas (de forma relativamente fácil) e reorientadas por determinados intervenientes para utilizações nocivas ou disruptivas que podem ter implicações para a paz e a segurança internacionais.
O desvio e a utilização indevida de tecnologias civis não são fenómenos novos nem são exclusivos da IA.
No domínio conexo da robótica, esta situação foi recentemente ilustrada pela utilização de drones recreativos como armas pelo Daexe/EIIL na Síria.
No entanto, no caso da IA, o problema é agravado por múltiplos fatores: a natureza intangível e em rápida evolução dos algoritmos e dados da IA, o que dificulta o controlo da transferência/proliferação desses algoritmos e dados; o papel de liderança do setor privado no ecossistema da investigação, desenvolvimento e inovação e a consequente necessidade de proteger a propriedade intelectual desses algoritmos; e a disponibilidade a nível mundial das competências humanas e dos recursos materiais capazes de reorientar as tecnologias da IA.
Entretanto, as pessoas que trabalham na IA no setor civil continuam a desconhecer, com demasiada frequência, as potenciais implicações que o desvio e a utilização indevida do seu trabalho podem ter para a paz e a segurança internacionais ou hesitam em participar nos debates existentes sobre os riscos da IA nos círculos do controlo de armas e da não proliferação.
É necessário apoiar uma maior participação da comunidade civil da IA na compreensão e atenuação dos riscos para a paz e a segurança associados ao desvio e à utilização indevida da tecnologia civil da IA por intervenientes irresponsáveis.
Para o Instituto Internacional de Estocolmo para a Investigação sobre a Paz (SIPRI) e o Gabinete das Nações Unidas para os Assuntos de Desarmamento (GNUAD), tal poderia ser alcançado através de uma maior promoção da inovação responsável na comunidade civil mundial da IA.
O trabalho realizado pelo SIPRI e pelo GNUAD demonstrou que a inovação responsável, enquanto mecanismo de autogovernação, pode fornecer à comunidade civil mundial da IA instrumentos e métodos práticos para identificar e ajudar a prevenir e atenuar os riscos que o desvio e a utilização indevida da investigação e inovação civil no domínio da IA podem representar para a paz e a segurança.
O trabalho do SIPRI e do GNUAD também identificou metodologias e várias iniciativas em curso centradas em civis sobre IA responsável que poderiam ser desenvolvidas para sensibilizar a comunidade civil da IA para as questões do controlo de armas e da não proliferação, realizar debates de peritos e definir as posições dos Estados sobre o desenvolvimento responsável, a difusão e a utilização da IA, bem como para retirar ensinamentos do trabalho de responsabilidade do setor da defesa (1).
Fundamentalmente, este trabalho identificou claramente a colaboração com os estudantes da ciência, tecnologia, engenharia e matemática (CTEM), que ainda estão a trabalhar com a IA num formato educativo, como um elemento central de qualquer esforço de inovação eficaz e responsável.
2.
OBJETIVOS
Estes projetos visam apoiar uma maior participação da comunidade civil da IA na atenuação dos riscos que o desvio e a utilização indevida da investigação e inovação civis no domínio da IA por intervenientes irresponsáveis podem representar para a paz e a segurança internacionais.
Visam fazê-lo, em primeiro lugar, ao gerar uma maior compreensão da forma como as decisões no desenvolvimento e difusão da investigação e inovação no domínio da IA podem afetar os riscos de desvio e de utilização indevida e, por sua vez, gerar riscos ou oportunidades para a paz e a segurança e, em segundo lugar, ao promover processos, métodos e instrumentos de inovação responsáveis que possam ajudar a assegurar a aplicação pacífica das inovações civis e a difusão responsável dos conhecimentos em matéria de IA.
Para o efeito, apoiam o reforço das capacidades, da investigação e das atividades de participação que i) reforçarão a capacidade da comunidade civil mundial da IA para incluir e enfrentar os riscos para a paz e a segurança decorrentes do desvio e da utilização indevida da IA civil (1) As metodologias incluem, por exemplo, as práticas recomendadas pelo Instituto de Engenharia Eletrotécnica e Eletrónica (IEEE) para avaliar o impacto dos sistemas autónomos e inteligentes no bem-estar humano (IEEE Std 7010-2020) ou a lista de avaliação para uma inteligência artificial de confiança (ALTAI) do Grupo de Peritos de Alto Nível em Inteligência Artificial.
As iniciativas incluem: a Iniciativa Global IEEE para Considerações Éticas em Inteligência Artificial e Sistemas Autónomos; a parceria para a inteligência artificial; a Parceria Global para a Inteligência Artificial.