EXPOSIÇÃO DE MOTIVOS

CONTEXTO DA PROPOSTA

A inteligência artificial (IA) oferece excelentes oportunidades para a sociedade, o ambiente e a economia. Por outro lado, em função das circunstâncias de aplicação e utilização, determinados tipos de IA podem causar danos materiais ou imateriais e gerar riscos para os interesses públicos e os direitos e liberdades fundamentais das pessoas. Por conseguinte, para responder a esses desafios e explorar o potencial da IA, é crucial um quadro jurídico coerente que proteja esses interesses públicos e os direitos fundamentais e, ao mesmo tempo, promova a confiança e a inovação.

Em abril de 2021, a Comissão Europeia propôs um regulamento abrangente sobre a inteligência artificial que harmonizaria as regras aplicáveis aos sistemas de IA nos 27 Estados-Membros da UE. O Parlamento Europeu e o Conselho estão atualmente a negociar a proposta de acordo com o processo legislativo ordinário. Várias organizações internacionais, incluindo o Conselho da Europa, também intensificaram os seus esforços neste domínio, reconhecendo a natureza transfronteiriça da IA e a necessidade de cooperação internacional para enfrentar os desafios comuns.

Rumo a uma convenção do Conselho da Europa sobre inteligência artificial, direitos humanos, democracia e Estado de direito

Em 11 de setembro de 2019, o Comité de Ministros do Conselho da Europa decidiu criar um Comité ad hoc para a Inteligência Artificial (CAHAI), cuja missão consistia em analisar a viabilidade e os potenciais elementos de um quadro jurídico para o desenvolvimento, a conceção e a aplicação da IA, tendo em conta as normas do Conselho da Europa em matéria de direitos humanos, democracia e Estado de direito, bem como os instrumentos jurídicos internacionais pertinentes. O trabalho do CAHAI baseou-se num estudo de viabilidade e numa consulta multilateral, realizada na primavera de 2021. Em 3 de dezembro de 2021, o CAHAI completou a sua missão, apresentando um documento final, que identificava os possíveis elementos desse quadro jurídico. De acordo com o documento, para o desenvolvimento, a conceção e a aplicação dos sistemas de IA, é necessário dispor de um instrumento jurídico que contenha os princípios fundamentais da proteção da dignidade humana e do respeito dos direitos humanos, da democracia e do Estado de direito. O instrumento deve prever o estabelecimento de uma metodologia para a classificação do risco dos sistemas de IA, que inclua as categorias «baixo risco», «risco elevado» e «risco inaceitável». As aplicações de IA que apresentem riscos «inaceitáveis» devem ser proibidas. A fim de evitar distorções injustificadas, é necessário incluir uma disposição relativa ao respeito da igualdade de tratamento e da não discriminação. As garantias jurídicas devem garantir, pelo menos, o direito a um recurso efetivo perante uma autoridade nacional, o direito de ser informado sobre a aplicação de um sistema de IA num processo de tomada de decisão, o direito de escolher a interação com um ser humano e o direito de saber que está a interagir com um sistema de IA. No entanto, questões específicas como a manipulação de conteúdos («falsificação profunda») devem ser tratadas noutros instrumentos setoriais. Convém prever a possibilidade de estabelecer a obrigação de criar mecanismos de conformidade e autoridades supervisoras nacionais. Um modelo (não vinculativo) de avaliação de impacto poderia complementar o instrumento jurídico.

Foi criado um sucessor do CAHAI – o Comité para a Inteligência Artificial (CAI) – para o período 2022-2024. De acordo com o seu mandato, incumbe ao CAI lançar um processo de negociação internacional para desenvolver um quadro jurídico sobre o desenvolvimento, a conceção e a aplicação da IA. O quadro deve basear-se nas normas do Conselho da Europa em matéria de direitos humanos, democracia e Estado de direito, e deve ser propício à inovação. Deve ser elaborado até 15 de novembro de 2023 e concluído até ao momento da dissolução do CAI, em 2024. No cumprimento do seu mandato, o CAI deve coordenar o seu trabalho com outros comités intergovernamentais e entidades do Conselho da Europa, basear o seu trabalho em provas sólidas e num processo de consulta inclusivo, nomeadamente com parceiros internacionais e supranacionais, e ter em conta o documento final do CAHAI.

De 4 a 6 de abril de 2022, o CAI realizou a sua reunião constitutiva, na qual foram eleitos o presidente, o vice-presidente e a mesa. Em 30 de junho de 2022, o Comité de Ministros do Conselho da Europa encarregou o CAI de proceder rapidamente à elaboração de um instrumento juridicamente vinculativo de natureza transversal («convenção»/«convenção-quadro») sobre inteligência artificial assente nas normas do Conselho da Europa em matéria de direitos humanos, democracia e Estado de direito, em conformidade com o seu mandato, centrado em princípios comuns gerais, propício à inovação e aberto à participação de Estados terceiros, tendo simultaneamente em conta outros quadros jurídicos internacionais pertinentes existentes ou em desenvolvimento.

Posteriormente, o presidente do CAI divulgou um projeto preliminar («projeto zero») da futura convenção(-quadro), que estabelece princípios e regras fundamentais destinados a garantir que a conceção, o desenvolvimento e a aplicação dos sistemas de IA sejam coerentes com o respeito dos direitos humanos, o funcionamento da democracia e o respeito do Estado de direito. A futura convenção(-quadro) terá de ser aplicada nas respetivas jurisdições das Partes. O seu âmbito de aplicação abrange tanto os fornecedores como os utilizadores públicos e privados de sistemas de IA, mas exclui os sistemas de IA relacionados com a defesa nacional. O projeto preliminar propõe a inclusão das seguintes disposições:

·objetivo e âmbito de aplicação da convenção(-quadro),

·definições de sistema de IA, ciclo de vida, fornecedor, utilizador e «sujeito de IA»,

·certos princípios fundamentais, incluindo as garantias processuais e os direitos dos sujeitos de IA que se aplicariam a todos os sistemas de IA, independentemente do seu nível de risco,

·medidas adicionais para o setor público, bem como para os sistemas de IA que apresentem níveis de risco «inaceitáveis» e «significativos» identificados com base numa metodologia de avaliação de risco e de impacto (a estabelecer posteriormente num anexo da convenção),

·mecanismo de acompanhamento e de cooperação entre as partes,

·disposições finais, incluindo a possibilidade de os Estados-Membros da UE, nas suas relações mútuas, aplicarem o direito da União nas matérias abrangidas pela convenção e a possibilidade de a União aderir à mesma.

O projeto preliminar será debatido nas sessões plenárias do CAI em Estrasburgo, previstas para 21-23 de setembro e 23-25 de novembro de 2022. Estão também previstas quatro reuniões para 2023 e uma reunião em 2024.