Resumo do parecer da Autoridade Europeia para a Proteção de Dados sobre a recomendação de Decisão do Conselho que autoriza a abertura de negociações, em nome da União Europeia, tendo em vista uma convenção do Conselho da Europa sobre inteligência artificial, direitos humanos, democracia e Estado de direito

(2022/C 458/04)

(O texto integral do presente parecer está disponível em alemão, francês e inglês no sítio Web da AEPD em https://edps.europa.eu)

Em 18 de agosto de 2022, a Comissão Europeia emitiu uma recomendação de Decisão do Conselho que autoriza a abertura de negociações, em nome da União Europeia, tendo em vista uma convenção do Conselho da Europa sobre inteligência artificial (IA), direitos humanos, democracia e Estado de direito («a convenção»), nos termos do artigo 218.o do TFUE.

Tendo em conta a natureza «transfronteiras» da inteligência artificial, a AEPD acolhe com agrado o objetivo geral perseguido pelo Conselho da Europa de elaborar o primeiro instrumento internacional juridicamente vinculativo sobre inteligência artificial, com base nas normas do Conselho da Europa em matéria de direitos humanos, democracia e Estado de direito. Por conseguinte, a AEPD apoia a abertura de negociações em nome da União tendo em vista a convenção e congratula-se com o papel da União na promoção de uma IA de confiança, coerente com os valores da União.

A AEPD toma nota do facto de que o objeto da convenção seria regulamentado na UE pela proposta de Regulamento Inteligência Artificial e reconhece o objetivo da Comissão de assegurar a compatibilidade da convenção com a referida proposta de regulamento, tendo em conta desenvolvimentos futuros do processo legislativo. No entanto, a AEPD considera que a convenção representa uma oportunidade importante para complementar a proposta de Regulamento Inteligência Artificial, reforçando a proteção dos direitos fundamentais de todas as pessoas afetadas pelos sistemas de IA e, por conseguinte, defende que a convenção preveja salvaguardas claras e sólidas para as pessoas afetadas pela utilização de sistemas de IA.

À luz do que precede, a AEPD formula quatro recomendações principais sobre as diretrizes de negociação:

— os objetivos gerais para a negociação da convenção devem dar maior destaque às salvaguardas e aos direitos a conceder aos indivíduos — e grupos de pessoas — sujeitos aos sistemas de IA, em consonância com o objetivo principal e os objetivos do Conselho da Europa;

— a convenção deve incluir, numa diretriz específica, uma referência explícita à conformidade da convenção com o atual quadro jurídico da UE em matéria de proteção de dados;

— em consonância com a abordagem baseada no risco, deve ser introduzido o objetivo de proibir os sistemas de IA que apresentem riscos inaceitáveis;

— a convenção deve promover a adoção de uma abordagem de proteção de dados desde a conceção e por defeito em todas as fases do ciclo de vida dos sistemas de IA.

Além disso, o parecer apresenta outras recomendações sobre a inclusão na convenção de garantias processuais mínimas, bem como requisitos mínimos em matéria de transparência, explicabilidade e auditabilidade, cumprimento e mecanismos de controlo, sobre a cooperação transfronteiras entre as autoridades competentes a designar pelas partes na convenção para a supervisão das garantias e dos direitos a conceder em conformidade com a convenção.

1. INTRODUÇÃO

1. o do TFUE. Em 18 de agosto de 2022, a Comissão Europeia emitiu uma recomendação de Decisão do Conselho que autoriza a abertura de negociações, em nome da União Europeia, tendo em vista uma convenção do Conselho da Europa sobre inteligência artificial (IA), direitos humanos, democracia e Estado de direito («a convenção») ( 1 ) , nos termos do artigo 218.do TFUE.

2. O objetivo da recomendação é autorizar a abertura de negociações em nome da União para uma futura Convenção do Conselho da Europa sobre a IA, os direitos humanos, a democracia e o Estado de direito («convenção»), adotar diretrizes de negociação e nomear a Comissão como negociador da União ( 2 )

3. Na exposição de motivos ( 3 ) , a Comissão salienta que as negociações da convenção incidem sobre questões da competência exclusiva da União, também devido à sobreposição significativa entre o «projeto zero» de convenção divulgado pelo Comité para a Inteligência Artificial (CAI) do Conselho da Europa, por um lado, e a proposta da Comissão de um regulamento relativo à IA («proposta de Regulamento Inteligência Artificial») ( 4 ) , por outro, em termos dos seus âmbitos de aplicação e conteúdos ( 5 )

4. A exposição de motivos ( 6 ) da recomendação salienta que o «projeto zero» propõe a inclusão das seguintes disposições: — objetivo e âmbito de aplicação da convenção (-quadro); — definições de sistema de IA, ciclo de vida, fornecedor, utilizador e «sujeito de IA»; — certos princípios fundamentais, incluindo as garantias processuais e os direitos dos sujeitos de IA que se aplicariam a todos os sistemas de IA, independentemente do seu nível de risco; — medidas adicionais para o setor público, bem como para os sistemas de IA que apresentem níveis de risco «inaceitáveis» e «significativos» identificados com base numa metodologia de avaliação de risco e de impacto (a estabelecer posteriormente num anexo da convenção); — mecanismo de acompanhamento e de cooperação entre as partes; — disposições finais, incluindo a possibilidade de os Estados-Membros da UE, nas suas relações mútuas, aplicarem o direito da União nas matérias abrangidas pela convenção e a possibilidade de a União aderir à mesma.

5. A recomendação, nos considerandos 6) e 7), salienta que a celebração da convenção pode afetar as regras da União existentes e previsíveis. A fim de proteger a integridade do direito da União e assegurar a coerência entre as regras do direito internacional e o direito da União, a Comissão deve ser autorizada a negociar a convenção em nome da União.

6. o , n. o 1, do RGPD O presente parecer da AEPD é emitido em resposta a uma consulta da Comissão Europeia de 18 de agosto de 2022, nos termos do artigo 42., n.1, do RGPD ( 7 ) . A AEPD congratula-se com a referência a esta consulta no considerando 8 da recomendação.

8. CONCLUSÕES

49. À luz do que precede, a AEPD formula as seguintes recomendações: (1) Dar maior destaque ao objetivo de «assegurar um elevado nível de proteção dos direitos humanos e de preservação dos valores europeus», em consonância com a natureza e o mandato do Conselho da Europa. (2) Suprimir a palavra «incluindo» após «a legislação da UE relativa ao mercado único com outros domínios do direito» nas diretrizes 5) e 11), a fim de refletir melhor a interação entre os princípios gerais e os direitos fundamentais, por um lado, e o direito derivado (direito do mercado único da UE e outros domínios do direito), por outro. (3) Aditar uma diretriz específica que recorde a necessidade de encontrar o justo equilíbrio entre o interesse público e os interesses das pessoas sujeitas a sistemas de IA, a fim de assegurar o pleno respeito dos direitos à privacidade e à proteção dos dados pessoais, bem como de outros direitos fundamentais em causa, nomeadamente o direito à presunção de inocência e a um julgamento justo, o direito a uma boa administração e o princípio da não discriminação. (4) Especificar, numa diretriz, que a convenção deve prever determinadas garantias e direitos processuais mínimos para as pessoas afetadas pela utilização dos sistemas de IA. (5) Especificar, numa diretriz, que a convenção deve prever requisitos mínimos em matéria de transparência, explicabilidade e auditabilidade dos sistemas de IA. (6) Incluir na diretriz 14) a especificação de que os riscos societais/de grupo colocados pelos sistemas de IA também devem ser avaliados e atenuados. (7) Especificar nas diretrizes de negociação que determinados sistemas de IA que apresentam riscos inaceitáveis devem ser proibidos, bem como fornecer uma lista indicativa desses sistemas de IA. (8) Incluir uma diretriz de negociação segundo a qual a convenção deve promover a adoção de uma abordagem de proteção de dados desde a conceção e por defeito em todas as fases do ciclo de vida dos sistemas de IA. (9) Precisar o conteúdo da diretriz 17) do seguinte modo: — deve ser realizada uma avaliação ex ante da conformidade por terceiros para a IA de risco elevado; — os sistemas de IA de risco elevado devem ser sujeitos a um novo procedimento de avaliação da conformidade sempre que ocorra uma alteração significativa; — especificar o objeto e o efeito jurídico das certificações; — especificar que as normas técnicas, por um lado, podem ter um impacto positivo na harmonização de produtos e serviços; por outro lado, o seu papel consiste em fornecer especificações técnicas de regras já estabelecidas por lei; (10) incluir uma diretriz nos termos da qual a convenção deve prever que as autoridades de controlo competentes devem dispor dos poderes de investigação e de execução adequados; (11) aditar uma diretriz de negociação visando garantir que a convenção facilita e incentiva a cooperação transfronteiras entre as autoridades competentes.

Bruxelas, em 13 de outubro de 2022. Wojciech Rafał WIEWIÓROWSKI

(1) COM(2022) 414 final.

(2) COM(2022) 414 final, pág. 3.

(3) COM(2022) 414 final, pág. 5.

(4) Proposta de Regulamento do Parlamento Europeu e do Conselho que estabelece regras harmonizadas em matéria de inteligência artificial (Regulamento Inteligência Artificial) e altera determinados atos legislativos da União, COM(2021) 206 final.

(5) Ver também o considerando 5 do RGPD.

(6) COM(2022) 414 final, págs. 2 e 3.

(7) Regulamento (UE) 2018/1725 do Parlamento Europeu e do Conselho, de 23 de outubro de 2018, relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais pelas instituições e pelos órgãos e organismos da União e à livre circulação desses dados, e que revoga o Regulamento (CE) n.o 45/2001 e a Decisão n.o 1247/2002/CE (JO L 295 de 21.11.2018, p. 39)