28 DE ABRIL DE 2022 7 projeto sobre os princípios de responsabilização para a IA que visa desenvolver soluções para avaliar, rever e salvaguardar a responsabilidade da utilização da IA pelos agentes de segurança interna, de acordo com os direitos e valores fundamentais da UE, esclarecendo que a Europol não recorre a ferramentas de investigação preditiva e ao reconhecimento facial. Frisou que, segundo o novo regulamento da Europol, a utilização da IA tem de respeitar cinco princípios essenciais: Princípio da transparência, fiabilidade e responsabilidade, a prévia consulta ao diretor executivo, ao supervisor de proteção de dados e ao oficial de direitos fundamentas, informação prévia à AEPD, bem como a apresentação de um relatório posterior. Olivier ONIDI, Vice-Diretor-Geral da Direção-Geral para a Migração e Assuntos Internos da Comissão Europeia, realçou a necessidade de a Europol ter acesso a ferramentas de IA, devido à sua capacidade para desenvolver e fornecer valor acrescentado ao processamento de dados, com competência técnica para processar informação transversal, de diferentes fontes. Sublinhando a necessidade de continuar a adaptar continuamente as condições de utilização de tais ferramentas, apontou o enquadramento legal criado pelo novo regulamento e a possibilidade de a Europol se tornar num centro-chave nesta matéria, baseado em regras de proteção de dados pessoas e na certificação de ferramentas de IA. Nathalie SMUHA, Advogada e investigadora, Law and Ethics of AI/Technology Faculty of Law, KU Leuven, destacou a possibilidade de recorrer à IA para a análise de dados e para a tomada de decisões autómatas diárias, finais e intermédias, o que apresenta diversas vantagens, nomeadamente no combate ao crime de abuso de crianças mas também apresenta riscos; referiu que o a comissão europeia constituiu, em 2018, grupo de peritos de alto nível para abordar os riscos da utilização da IA, que levou à proposta de regulamento que estabelece regras harmonizadas em matéria de IA, tendo sido identificadas três componentes essenciais: Tem de ser um sistema robusto, fiável, com resultados replicáveis e com base em provas factuais; tem de ser um sistema ético, baseado no principio da responsabilização e na proteção de dados e direitos fundamentais; e um sistema legal, que respeitará a legislação futura. Referiu a constituição, no âmbito do Conselho da Europa, de uma comissão ad hoc sobre inteligência artificial sobre a avaliação de impacto de sistemas de IA nos direitos humanos, democracia e Estado de direito, alertando que uma vez construída uma infraestrutura abrangente, ela será usada. Europol tem um enquadramento legal previsto, mas precisamos de uma visão ampla e a longo prazo sobre a utilização da IA nas nossas sociedades. Seguiu-se a primeira ronda do debate, onde foram abordados os seguintes temas: A proposta de regulamento que estabelece regras harmonizadas em matéria de IA e o plano coordenado revisto sobre a IA; o papel do oficial de direitos fundamentais; efeitos da transformação digital no combate ao crime organizado, com novos instrumentos tecnológicos; a resposta da Europol às recomendações apresentadas pela AEPD relacionadas com o tratamento de grandes e complexos conjuntos de dados; os mecanismos existentes para assegurar a transparência e clareza no uso de algoritmos e na partilha de informação; procedimentos adotados nos pedidos de acesso a dados; o processamento e a proteção de dados; a atuação da Europol relativamente à situação que se vive na Ucrânia e as suas consequências na criminalidade organizada. Em resposta, Jürgen EBNER, explicou que o cargo de oficial de direitos fundamentais que exercerá as suas funções de forma independente, para além das funções desempenhadas pelo supervisor de proteção e dados que terão intervenção nos processos em que se recorre ao uso da IA com base no princípio da responsabilidade e com uma prévia consulta à AEPD sobre a desenvolvimento de ferramentas de IA, podendo adotar uma abordagem de fast track em situações urgentes pontuais e quanto à identidade digita europeia, realçou a possibilidade do recurso à IA permitir às autoridades policiais se focarem nos dados efetivamente relevantes para as investigações e que a recolha de dados é feita pelas autoridades nacionais, sendo partilhada com a Europol, Nathalie SMUHA referiu a preocupação existente quanto à previsão na proposta de regulamento em matéria de IA de um escrutínio ex post em vez de ex ante, havendo uma lista de aplicações de alto risco que são objeto de controlo pela regulamentação mas certas aplicações são muito sensíveis para detetar mentiras ou emoções, não havendo uma auditoria independente feita antes do seu uso pelas autoridades policiais, a categorização biométrica de indivíduos, estabelecendo géneros e etnia, mas poderão ser matérias tratadas no quadro da respetiva negociação, e Olivier ONIDI apontou o risco de discriminação, sendo necessário assegurar que os investigadores possam afinar as ferramentas criadas, daí a regulamentação prever a possibilidade de desenvolver e utilizar com base em determinados critérios, realçando a importância de manter a vertente humana nas tomadas de decisão e não a máquina, e, por fim, todos estes mecanismos são objeto de avaliação de impacto sobre a privacidade dados pessoas e direitos fundamentais. Caberá ao oficial de direitos fundamentais validar e avaliar o impacto das atividades da agência no desenvolvimento e uso de ferramentas