1.INTRODUÇÃO – A ESTRATÉGIA EUROPEIA PARA A INTELIGÊNCIA ARTIFICIAL

A inteligência artificial (IA) tem potencial para transformar o nosso mundo num mundo melhor: pode melhorar os cuidados de saúde, reduzir o consumo de energia, tornar os automóveis mais seguros e permitir aos agricultores uma utilização mais eficiente da água e dos recursos naturais. A IA pode ser utilizada para prever as alterações ambientais e climáticas e melhorar a gestão dos riscos financeiros, e fornece os instrumentos para o fabrico, com menos resíduos, de produtos adaptados às nossas necessidades. A IA pode igualmente ajudar a detetar fraudes e ameaças à cibersegurança, e permite que as autoridades de aplicação da lei lutem mais eficientemente contra a criminalidade.

A IA pode beneficiar toda a sociedade e a economia. É uma tecnologia estratégica que está a ser desenvolvida e utilizada a um ritmo acelerado em todo o mundo. No entanto, a IA também traz consigo novos desafios para o futuro do trabalho e levanta questões de ordem jurídica e ética.

A Comissão publicou, em abril de 2018, uma estratégia europeia para fazer face a estes desafios e tirar o melhor partido das oportunidades oferecidas pela IA. A estratégia coloca as pessoas no centro do desenvolvimento da IA — uma IA centrada no ser humano. Trata-se de uma abordagem em três vertentes para reforçar a capacidade industrial e tecnológica da UE e a integração da IA em toda a economia, preparar as mudanças socioeconómicas e garantir um quadro ético e jurídico adequado.

Para concretizar a estratégia da IA, a Comissão desenvolveu, em conjunto com os Estados-Membros, um plano coordenado sobre IA, que apresentou em dezembro de 2018, de modo a criar sinergias, agregar dados — a matéria-prima das aplicações de IA — e aumentar os investimentos conjuntos. O plano tem por objetivo fomentar a cooperação transfronteiriça e mobilizar todos os intervenientes para o aumento dos investimentos públicos e privados para, pelo menos, 20 mil milhões de EUR anuais, durante a próxima década. A Comissão duplicou os seus investimentos em IA no Horizonte 2020 e prevê investir 1 000 milhões de EUR anuais no Horizonte Europa e no Programa Europa Digital, apoiando, nomeadamente, os espaços de dados comuns nos setores da saúde, dos transportes e da indústria transformadora, bem como grandes instalações de experimentação, como hospitais e infraestruturas inteligentes para veículos automatizados, e uma agenda de investigação estratégica.

Para aplicar tal agenda estratégica comum de investigação, inovação e implantação, a Comissão intensificou o seu diálogo com todas as partes interessadas pertinentes, designadamente da indústria, dos institutos de investigação e das autoridades públicas. O novo programa Europa Digital será essencial também para tornar a IA acessível às pequenas e médias empresas em todos os Estados-Membros, através de polos de inovação digital, instalações de ensaio e experimentação acrescidas, espaços de dados e programas de formação.

Graças à sua reputação no que se refere à segurança e à elevada qualidade dos produtos, a abordagem ética da IA pela Europa reforça a confiança dos cidadãos no desenvolvimento digital e visa criar uma vantagem competitiva para as empresas europeias de IA. O objetivo da presente comunicação é lançar uma fase de pilotagem abrangente que envolva todas as partes interessadas, a fim de testar a aplicação prática de orientações éticas para o desenvolvimento e a utilização da IA.

2.CRIAR CONFIANÇA NA IA CENTRADA NO SER HUMANO

A estratégia europeia para a IA e o plano coordenado tornam claro que a confiança é um pré-requisito para garantir uma abordagem da IA centrada no ser humano: A IA não é um fim em si mesmo, mas sim um instrumento que tem de servir as pessoas com o objetivo último de aumentar o bem-estar humano. Para tal, deve ser assegurada a fiabilidade da IA. Os valores em que as nossas sociedades se baseiam devem ser plenamente integrados na forma como a IA evolui.

A União baseia-se nos valores do respeito pela dignidade humana, liberdade, democracia, igualdade, Estado de direito e respeito pelos direitos humanos, nomeadamente os direitos das minorias. Estes valores são comuns às sociedades de todos os Estados-Membros em que prevalecem o pluralismo, a não discriminação, a tolerância, a justiça, a solidariedade e a igualdade. Além disso, a Carta dos Direitos Fundamentais da UE reúne num único texto todos os direitos individuais, cívicos, políticos, económicos e sociais reconhecidos aos povos da UE.

A UE dispõe de um quadro regulamentar sólido, que estabelecerá a norma mundial de uma IA centrada no ser humano. O Regulamento Geral sobre a Proteção de Dados assegura um elevado nível de proteção dos dados pessoais e exige a aplicação de medidas para assegurar a proteção de dados desde a conceção e por defeito. O Regulamento relativo ao livre fluxo de dados não pessoais elimina os obstáculos à livre circulação de dados não pessoais e assegura o tratamento de todas as categorias de dados em toda a Europa. O Regulamento Cibersegurança, recentemente adotado, ajudará a reforçar a confiança no mundo em linha; a proposta de Regulamento Privacidade Eletrónica visa igualmente este objetivo.

Porém, a IA coloca novos desafios, uma vez que permite que as máquinas «aprendam», e tomem e apliquem decisões sem intervenção humana. Em breve, este tipo de funcionalidade tornar-se-á padrão em muitos tipos de bens e serviços, desde os telefones inteligentes até aos automóveis automatizados, aos robôs e às aplicações em linha. Contudo, as decisões tomadas por algoritmos podem resultar de dados incompletos, não sendo, por conseguinte, fiáveis, podem ser alvo de ciberataques, e podem ser tendenciosos ou simplesmente errados. A aplicação indevida da tecnologia à medida que se desenvolve conduziria, por conseguinte, a resultados problemáticos, bem como à relutância dos cidadãos em aceitarem ou utilizarem esta tecnologia.

Em vez disso, a tecnologia da IA deve ser desenvolvida de forma que coloque as pessoas no seu centro e seja, assim, digna da confiança do público. Tal implica que as aplicações de IA devem não só ser coerentes com a legislação, como também respeitar os princípios éticos e assegurar que a sua aplicação evita danos não intencionais. A diversidade em termos de género, raça ou etnia, religião ou crença, deficiência e idade deve ser assegurada em todas as fases do desenvolvimento da IA. As aplicações de IA devem capacitar os cidadãos e respeitar os seus direitos fundamentais. Devem ter como objetivo aumentar as capacidades das pessoas, não substituí-las, e permitir o acesso de pessoas com deficiência.

Por conseguinte, são necessárias orientações éticas que se baseiem no quadro regulamentar existente e que sejam aplicadas por criadores, fornecedores e utilizadores da IA no mercado interno, estabelecendo condições de concorrência equitativas em todos os Estados-Membros. É por esta razão que a Comissão criou um Grupo de peritos de alto nível sobre a IA, que representa um vasto leque de partes interessadas, e foi incumbido da elaboração de orientações éticas no domínio da IA, bem como da preparação de um conjunto de recomendações para uma política de IA mais ampla. Ao mesmo tempo, foi criada a Aliança Europeia para a IA, uma plataforma aberta com mais de 2700 membros, para dar um maior contributo para o trabalho do Grupo de peritos de alto nível sobre a IA.

Em dezembro de 2018, o Grupo de peritos de alto nível sobre a IA publicou um primeiro projeto das orientações éticas. Na sequência de uma consulta às partes interessadas e de reuniões com representantes dos Estados-Membros, o Grupo de peritos apresentou à Comissão, em março de 2019, um documento revisto. Nas suas observações até à data, as partes interessadas reagiram favoravelmente à natureza prática das orientações e às orientações concretas que oferecem aos criadores, fornecedores e utilizadores da IA sobre a forma de garantir a fiabilidade.

2.1. Orientações para uma IA de confiança elaboradas pelo Grupo de peritos de alto nível sobre a IA

As orientações elaboradas pelo Grupo de peritos de alto nível sobre a IA, a que a presente comunicação se refere, baseiam-se, em especial, no trabalho realizado pelo Grupo Europeu de Ética para as Ciências e as Novas Tecnologias e pela Agência dos Direitos Fundamentais.