P9_TA(2020)0032

Processos automatizados de decisão: Garantir a defesa do consumidor e a livre circulação de mercadorias e serviços

Resolução do Parlamento Europeu, de 12 de fevereiro de 2020, sobre processos automatizados de tomada de decisões: assegurar a proteção dos consumidores e a livre circulação de bens e serviços (2019/2915(RSP))

(2021/C 294/03)

O Parlamento Europeu,

— Tendo em conta a sua resolução, de 12 de fevereiro de 2019, sobre uma política industrial europeia completa no domínio da inteligência artificial e da robótica (1),

— Tendo em conta a sua resolução, de 16 de fevereiro de 2017, que contém recomendações à Comissão sobre disposições de direito civil sobre robótica (2),

— Tendo em conta o relatório intitulado «Liability for artificial intelligence and other emerging digital technologies» (Responsabilidade em matéria de inteligência artificial e outras tecnologias digitais emergentes), elaborado pelo Grupo de peritos sobre responsabilidade civil e novas tecnologias da Comissão, publicado em 21 de novembro de 2019,

— Tendo em conta o relatório intitulado «Policy and investment recommendations for trustworthy artificial intelligence» (Recomendações políticas e de investimento para uma inteligência artificial fiável), elaborado pelo Grupo de peritos de alto nível sobre inteligência artificial da Comissão, publicado em 26 de junho de 2019,

— Tendo em conta o documento intitulado «Ethics Guidelines for Trustworthy AI» (Orientações éticas para uma IA de confiança), elaborado pelo Grupo de peritos de alto nível sobre inteligência artificial da Comissão, publicado em 8 de abril de 2019, bem como a lista de avaliação para uma IA fiável,

— Tendo em conta a comunicação da Comissão, de 8 de abril de 2019, intitulada «Aumentar a confiança numa inteligência artificial centrada no ser humano» (COM(2019)0168),

— Tendo em conta a comunicação da Comissão, de 7 de dezembro de 2018, intitulada «Plano Coordenado para a Inteligência Artificial» (COM(2018)0795),

— Tendo em conta a comunicação da Comissão, de 25 de abril de 2018, intitulada «Inteligência artificial para a Europa» (COM(2018)0237),

— Tendo em conta a proposta de resolução da Comissão do Mercado Interno e da Proteção dos Consumidores,

— Tendo em conta a pergunta à Comissão sobre processos automatizados de tomada de decisões: assegurar a proteção dos consumidores e a livre circulação de bens e serviços (O-000008/2020 — B9-0007/2020),

— Tendo em conta o artigo 136.o, n.o 5, e o artigo 132.o, n.o 2, do seu Regimento,

A. Considerando que os avanços tecnológicos nos domínios da inteligência artificial (IA), da aprendizagem automática, dos sistemas informáticos complexos baseados em algoritmos e dos processos automatizados de tomada de decisões estão a ser rápidos e que as aplicações, as oportunidades e os desafios proporcionados por estas tecnologias são numerosos e afetam, praticamente, todos os setores do mercado interno;

B. Considerando que o desenvolvimento de processos de tomada de decisão automatizados deverá contribuir de forma significativa para a economia do conhecimento e que proporciona benefícios para a sociedade através, nomeadamente, da melhoria dos serviços públicos, para os consumidores, através de produtos e serviços inovadores e, ainda, para as empresas, através de um desempenho otimizado;

C. Considerando que a utilização e o desenvolvimento da IA e dos processos de tomada de decisão automatizados também constituem desafios para a confiança e o bem-estar dos consumidores, especialmente em termos de capacitação dos consumidores para identificarem esses processos, compreenderem como funcionam, tomarem decisões informadas sobre a sua utilização e poderem recusá-los;

D. Considerando que as orientações éticas, como os princípios adotados pelo Grupo de peritos de alto nível em matéria de inteligência artificial da Comissão, constituem um ponto de partida; considerando, no entanto, que é necessária uma análise do atual quadro jurídico da UE (incluindo o acervo em matéria de direito do consumo, de segurança dos produtos e em matéria de fiscalização do mercado), a fim de verificar se está apto a responder à emergência da IA e da tomada decisões automatizada e proporcionar um elevado nível de proteção aos consumidores, tal como previsto no artigo 38.o da Carta dos Direitos Fundamentais da UE;

E. Considerando que uma abordagem comum da UE no que respeita ao desenvolvimento de processos automatizados de tomada de decisões contribuirá para assegurar os benefícios desses processos e atenuar os riscos em toda a UE, evitar a fragmentação do mercado interno e permitir à UE promover melhor a sua abordagem e os seus valores em todo o mundo;

Escolha, confiança e bem-estar dos consumidores

1. Congratula-se com o potencial do processo automatizado de tomada de decisões para oferecer serviços inovadores e de melhor qualidade aos consumidores, incluindo novos serviços digitais, como os assistentes virtuais e os «chatbots» (ou programas de simulação de conversa); considera, no entanto, que quando interagem com um sistema que automatiza a tomada de decisões, os consumidores devem estar bem informados acerca do seu funcionamento, saber como contactar a pessoa responsável e entender como é que as decisões automatizadas do sistema podem ser verificadas e corrigidas;

2. Exorta a Comissão a acompanhar de perto a aplicação das novas regras no âmbito da Diretiva «Melhor Aplicação» ( 3 ) , que requer que os comerciantes informem os consumidores quando os preços dos bens ou serviços tenham sido personalizados com base em tomadas de decisões automatizadas e na definição de perfis de comportamento dos consumidores, que permitem que os comerciantes avaliem o poder de compra do consumidor;

3. Insta a Comissão a acompanhar de perto a aplicação do Regulamento relativo ao bloqueio geográfico ( 4 ) , a fim de assegurar que os processos de tomada de decisões automatizados não sejam utilizados para discriminar os consumidores com base na sua nacionalidade, local de residência ou localização temporária;

4. Incentiva a Comissão a verificar se as obrigações impostas aos comerciantes permitem aos consumidores efetuar uma verdadeira escolha e proporcionam proteção suficiente; insta a Comissão a confirmar se existem lacunas regulamentares e a examinar se são necessárias medidas adicionais para garantir um conjunto sólido de direitos relativos à proteção dos consumidores no contexto da IA e da tomada automatizada de decisões;

5. o 524/2013 sobre a resolução de litígios de consumo em linha Assinala que os sistemas automatizados de tomada de decisões estão a ser utilizados nos mecanismos alternativos de resolução de litígios de várias plataformas digitais para resolver litígios entre consumidores e comerciantes; insta a Comissão a assegurar que qualquer futura revisão da Diretiva 2013/11/UE sobre a resolução alternativa de litígios de consumo ( 5 ) e do Regulamento (UE) n.524/2013 sobre a resolução de litígios de consumo em linha ( 6 ) tenha em conta o recurso a processos automatizados de tomada de decisões e garanta que os seres humanos mantenham o controlo;

Quadro relativo à segurança e à responsabilidade pelos produtos

6. Sublinha que o quadro relativo à segurança dos produtos da UE obriga as empresas a garantir que apenas sejam colocados no mercado produtos seguros e conformes; reconhece que a emergência de produtos com capacidade de decisão automatizada coloca novos desafios, uma vez que esses produtos podem evoluir e agir de forma imprevista aquando da sua primeira colocação no mercado; exorta a Comissão a apresentar propostas de adaptação das regras de segurança da UE para os produtos abrangidos por legislação específica da UE que estabelece requisitos harmonizados, incluindo a Diretiva «Máquinas» ( 7 ) , a Diretiva relativa à segurança dos brinquedos ( 8 ) , a Diretiva «Equipamentos de Rádio» ( 9 ) e a Diretiva «Baixa Tensão» ( 10 ) , bem como para os «produtos não harmonizados» abrangidos pela Diretiva relativa à segurança geral dos produtos ( 11 ) , a fim de garantir que as novas regras sejam adequadas à sua finalidade, que os utilizadores e os consumidores sejam protegidos dos danos, que os fabricantes gozem de clareza no que respeita às suas obrigações e que os utilizadores beneficiem clareza sobre a utilização de produtos dotados de capacidades de tomada automatizada de decisões;

7. Realça a necessidade de uma abordagem baseada no risco no que se refere à regulamentação, tendo em conta a variedade e a complexidade dos desafios criados pelos diferentes tipos e aplicações de IA e sistemas automatizados de tomada de decisões; insta a Comissão a desenvolver um sistema de avaliação dos riscos para a IA e a tomada automatizada de decisões, a fim de garantir uma abordagem coerente da aplicação da legislação em matéria de segurança dos produtos no mercado interno; frisa que os Estados-Membros devem desenvolver estratégias harmonizadas de gestão dos riscos para a IA no contexto das suas estratégias nacionais de fiscalização do mercado;

8. Observa que a Diretiva relativa à responsabilidade decorrente dos produtos defeituosos ( 12 ) proporciona, há mais de 30 anos, uma valiosa rede de segurança para proteger os consumidores dos danos causados por produtos defeituosos; reconhece que a determinação da responsabilidade em caso de danos aos consumidores resultantes de processos autónomos de tomada de decisões é um desafio; insta a Comissão a rever esta diretiva e a ponderar a adaptação de conceitos como «produto», «dano» e «defeito», bem como a adaptar as regras que regem o ónus da prova; exorta a Comissão a apresentar propostas para atualizar estes conceitos e regras, se necessário;

Quadro regulamentar em matéria de serviços

10. Sublinha que, embora os processos de tomada de decisões automatizados possam melhorar a eficiência e a exatidão dos serviços, os seres humanos devem ser sempre responsáveis, em última instância, pelas decisões tomadas no quadro de serviços profissionais, nomeadamente nos setores médicos, jurídicos e contabilísticos, assim como no setor bancário, devendo também poder alterar estas decisões; recorda a importância da supervisão ou do controlo independente por profissionais qualificados em caso de tomada de decisão automatizada, sempre que estejam em causa interesses públicos legítimos;

11. Realça a importância de, em conformidade com a diretiva relativa aos testes de proporcionalidade, avaliar corretamente os riscos antes da automatização dos serviços profissionais; exorta as autoridades competentes dos Estados-Membros a assegurarem que a formação profissional tenha em conta os progressos científicos no domínio da tomada de decisões automatizada;

Qualidade e transparência no domínio da governação dos dados

12. Observa que os sistemas automatizados de tomada de decisões dependem da recolha de grandes quantidades de dados e considera que o regulamento relativo ao livre fluxo de dados não pessoais ( 18 ) ajudará a disponibilizar mais dados em toda a UE, permitindo assim a criação de serviços inovadores baseados em dados; reconhece, a este respeito, o potencial da partilha de dados, não só de fontes públicas mas também privadas, salientando simultaneamente o imperativo de proteger os dados pessoais ao abrigo do RGPD; salienta a importância de utilizar apenas conjuntos de dados de elevada qualidade e imparciais, a fim de melhorar os resultados dos sistemas algorítmicos e aumentar a confiança e a aceitação dos consumidores;

13. Frisa que, tendo em conta o impacto significativo que os sistemas de decisão automatizados podem ter nos consumidores, especialmente os que se encontram em situações vulneráveis, é importante que estes sistemas utilizem não só conjuntos de dados de alta qualidade e imparciais mas, também, algoritmos explicáveis e imparciais; considera que são necessárias estruturas de revisão no âmbito dos processos das empresas para corrigir eventuais erros nas decisões automatizadas e defende que os consumidores devem poder solicitar a revisão e correção, por um ser humano, das decisões automatizadas que sejam definitivas e permanentes;

14. Realça que, para avaliar se os produtos com capacidades de tomada de decisão automatizada estão em conformidade com as regras de segurança pertinentes, é essencial que os algoritmos subjacentes a essas capacidades sejam suficientemente transparentes e que sejam explicáveis às autoridades de fiscalização do mercado; convida a Comissão a avaliar se devem ser atribuídas às autoridades de fiscalização do mercado prerrogativas adicionais a este respeito;

15. Insta a Comissão a acompanhar de perto a aplicação do Regulamento relativo às relações entre as plataformas e as empresas ( 19 ) , especialmente das regras sobre a transparência das classificações, que implicam a utilização de processos de decisão automatizados;

o

o o

16. Encarrega o seu Presidente de transmitir a presente resolução ao Conselho e à Comissão.

(1) Textos Aprovados, P8_TA(2019)0081.

(2) JO C 252 de 18.7.2018, p. 239.

(3) Diretiva (UE) 2019/2161 do Parlamento Europeu e do Conselho, de 27 de novembro de 2019, que altera a Diretiva 93/13/CEE do Conselho e as Diretivas 98/6/CE, 2005/29/CE e 2011/83/UE do Parlamento Europeu e do Conselho a fim de assegurar uma melhor aplicação e a modernização das regras da União em matéria de defesa dos consumidores (JO L 328 de 18.12.2019, p. 7).

(4) Regulamento (UE) 2018/302 do Parlamento Europeu e do Conselho, de 28 de fevereiro de 2018, que visa prevenir o bloqueio geográfico injustificado e outras formas de discriminação baseadas na nacionalidade, no local de residência ou no local de estabelecimento dos clientes no mercado interno, e que altera os Regulamentos (CE) n.o 2006/2004 e (UE) 2017/2394 e a Diretiva 2009/22/CE (JO L 60 I de 2.3.2018, p. 1).

(5) JO L 165 de 18.6.2013, p. 63.

(6) JO L 165 de 18.6.2013, p. 1.

(7) Diretiva 2006/42/CE do Parlamento Europeu e do Conselho, de 17 de maio de 2006, relativa às máquinas e que altera a Diretiva 95/16/CE (reformulação) (JO L 157 de 9.6.2006, p. 24).

(8) Diretiva 2009/48/CE do Parlamento Europeu e do Conselho, de 18 de junho de 2009, relativa à segurança dos brinquedos (JO L 170 de 30.6.2009, p. 1).

(9) Diretiva 2014/53/UE do Parlamento Europeu e do Conselho, de 16 de abril de 2014, relativa à harmonização da legislação dos Estados-Membros respeitante à disponibilização de equipamentos de rádio no mercado e que revoga a Diretiva 1999/5/CE (JO L 153 de 22.5.2014, p. 62).

(10) Diretiva 2014/35/UE do Parlamento Europeu e do Conselho, de 26 de fevereiro de 2014, relativa à harmonização da legislação dos Estados-Membros respeitante à disponibilização no mercado de material elétrico destinado a ser utilizado dentro de certos limites de tensão (JO L 96 de 29.3.2014, p. 357).

(11) Diretiva 2001/95/CE do Parlamento Europeu e do Conselho, de 3 de dezembro de 2001, relativa à segurança geral dos produtos (JO L 11 de 15.1.2002, p. 4).

(12) Diretiva 85/374/CEE do Conselho, de 25 de julho de 1985, relativa à aproximação das disposições legislativas, regulamentares e administrativas dos Estados-Membros em matéria de responsabilidade decorrente dos produtos defeituosos (JO L 210 de 7.8.1985, p. 29).

(13) Diretiva 2006/123/CE do Parlamento Europeu e do Conselho, de 12 de dezembro de 2006, relativa aos serviços no mercado interno (JO L 376 de 27.12.2006, p. 36).

(14) Diretiva 2013/55/UE do Parlamento Europeu e do Conselho, de 20 de novembro de 2013, que altera a Diretiva 2005/36/CE relativa ao reconhecimento das qualificações profissionais e o Regulamento (UE) n.o 1024/2012 relativo à cooperação administrativa através do Sistema de Informação do Mercado Interno («Regulamento IMI») (JO L 354 de 28.12.2013, p. 132).

(15) Diretiva (UE) 2018/958 do Parlamento Europeu e do Conselho, de 28 de junho de 2018, relativa a um teste de proporcionalidade a realizar antes da aprovação de nova regulamentação das profissões (JO L 173 de 9.7.2018, p. 25).

(16) Diretiva 2000/31/CE do Parlamento Europeu e do Conselho, de 8 de junho de 2000, relativa a certos aspetos legais dos serviços da sociedade de informação, em especial do comércio eletrónico, no mercado interno («Diretiva sobre o comércio eletrónico») (JO L 178 de 17.7.2000, p. 1).

(17) Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016, relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados e que revoga a Diretiva 95/46/CE («Regulamento Geral sobre a Proteção de Dados») (JO L 119 de 4.5.2016, p. 1).

(18) Regulamento (UE) 2018/1807 do Parlamento Europeu e do Conselho, de 14 de novembro de 2018, relativo a um quadro para o livre fluxo de dados não pessoais na União Europeia (JO L 303 de 28.11.2018, p. 59).

(19) Regulamento (UE) 2019/1150 do Parlamento Europeu e do Conselho, de 20 de junho de 2019, relativo à promoção da equidade e da transparência para os utilizadores profissionais de serviços de intermediação em linha (JO L 186 de 11.7.2019, p. 57).