P9_TA(2021)0238

A inteligência artificial na educação, na cultura e no setor audiovisual

Resolução do Parlamento Europeu, de 19 de maio de 2021, sobre a inteligência artificial na educação, na cultura e no sector audiovisual (2020/2017(INI))

(2022/C 15/04)

O Parlamento Europeu,

— Tendo em conta a Carta dos Direitos Fundamentais da União Europeia («Carta»),

— Tendo em conta os artigos 165.o, 166.o e 167.o do Tratado sobre o Funcionamento da União Europeia,

— Tendo em conta as Conclusões do Conselho, de 9 de junho de 2020, sobre «Construir o futuro digital da Europa» (1),

— Tendo em conta o parecer do Comité Económico e Social Europeu, de 19 de setembro de 2018, sobre o fosso digital entre homens e mulheres (2),

— Tendo em conta a proposta da Comissão de regulamento do Parlamento Europeu e do Conselho, de 6 de junho de 2018, que cria o programa Europa Digital para o período de 2021-2027 (COM(2018)0434),

— Tendo em conta a Comunicação da Comissão, de 30 de setembro de 2020, intitulada «Plano de Ação para a Educação Digital 2021-2027: Reconfigurar a educação e a formação para a era digital» (COM(2020)0624),

— Tendo em conta a Comunicação da Comissão, de 30 de setembro de 2020, sobre «Realizar o Espaço Europeu da Educação até 2025» (COM(2020)0625),

— Tendo em conta o relatório da Comissão, de 19 de fevereiro de 2020, sobre as implicações em matéria de segurança e de responsabilidade decorrentes da inteligência artificial, da Internet das coisas e da robótica (COM(2020)0064),

— Tendo em conta o Livro Branco da Comissão, de 19 de fevereiro de 2020, intitulado «A inteligência artificial — Uma abordagem europeia virada para a excelência e a confiança» (COM(2020)0065),

— Tendo em conta a Comunicação da Comissão, de 19 de fevereiro de 2020, intitulada «Uma estratégia europeia para os dados» (COM(2020)0066),

— Tendo em conta a Comunicação da Comissão, de 25 de abril de 2018, intitulada «Inteligência artificial para a Europa» (COM(2018)0237),

— Tendo em conta a Comunicação da Comissão, de 17 de janeiro de 2018, relativa ao Plano de Ação para a Educação Digital (COM(2018)0022),

— Tendo em conta o relatório do Grupo de Peritos de Alto Nível em Inteligência Artificial da Comissão, de 8 de abril de 2019, intitulado «Orientações éticas para uma IA fiável»,

— Tendo em conta a sua Resolução, de 12 de fevereiro de 2019, sobre uma política industrial europeia completa no domínio da inteligência artificial e da robótica (3),

— Tendo em conta a sua Resolução, de 11 de setembro de 2018, sobre a igualdade linguística na era digital (4),

— Tendo em conta a sua Resolução, de 12 de junho de 2018, sobre a modernização da educação na UE (5),

— Tendo em conta a sua Resolução, de 16 de fevereiro de 2017, que contém recomendações à Comissão sobre disposições de Direito Civil sobre Robótica (6),

— Tendo em conta a sua Resolução, de 1 de junho de 2017, sobre a digitalização da indústria europeia (7),

— Tendo em conta a nota informativa do seu Departamento Temático das Políticas Estruturais e de Coesão, de maio de 2020, intitulada «The Use of Artificial Intelligence in the Cultural and Creative Sectors» (A utilização da inteligência artificial nos sectores culturais e criativos),

— Tendo em conta a análise aprofundada do seu Departamento Temático das Políticas Estruturais e de Coesão, de maio de 2020, intitulado «The Use of Artificial Intelligence in the Audiovisual Sector» (A utilização da inteligência artificial no sector audiovisual),

— Tendo em conta o estudo do Departamento Temático dos Direitos dos Cidadãos e dos Assuntos Constitucionais, de abril de 2020, intitulado «Education and employment of women in science, technology and the digital economy, including AI and its influence on gender equality» (Educação e emprego das mulheres nos domínios da ciência, da tecnologia e da economia digital, incluindo a inteligência artificial, e a sua influência na igualdade de género),

— Tendo em conta o artigo 54.o do seu Regimento,

— Tendo em conta os pareceres da Comissão das Liberdades Cívicas, da Justiça e dos Assuntos Internos, da Comissão do Mercado Interno e da Proteção dos Consumidores, da Comissão dos Assuntos Jurídicos e da Comissão dos Direitos da Mulher e da Igualdade dos Géneros,

— Tendo em conta o relatório da Comissão da Cultura e da Educação (A9-0127/2021),

A. Considerando que as tecnologias da inteligência artificial (IA), suscetíveis de ter um impacto direto nas nossas sociedades, estão a ser desenvolvidas a um ritmo acelerado, sendo cada vez mais utilizadas em quase todos os domínios da nossa vida, incluindo na educação, na cultura e no sector audiovisual; considerando que, muito provavelmente, a IA contribuirá para melhorar a produtividade laboral e acelerar o crescimento económico;

B. Considerando que o desenvolvimento, a implantação e a utilização de IA — nomeadamente o software, os algoritmos e os dados que esta utiliza e produz — devem nortear-se pelos princípios éticos da transparência, da explicabilidade, da equidade, da responsabilização e da responsabilidade;

C. Considerando que a União tem vindo a perder terreno em relação a outras grandes economias no que diz respeito ao investimento público em IA; considerando que o subinvestimento em IA terá provavelmente repercussões na competitividade da União em todos os sectores;

D. Considerando que, para desenvolver uma IA ética, é essencial seguir uma abordagem integrada da IA e garantir a disponibilidade, recolha e interpretação de dados de elevada qualidade, justos, equitativos, transparentes, fiáveis, seguros e compatíveis;

E. Considerando que o artigo 21.o da Carta proíbe a discriminação pelos mais variados motivos; considerando que as múltiplas formas de discriminação não devem ser reproduzidas no desenvolvimento, na implantação e na utilização dos sistemas baseados em IA;

F. Considerando que a igualdade de género constitui um princípio fundamental da União, que está consagrado nos Tratados e deve refletir-se em todas as políticas da União, nomeadamente nos domínios da educação e da cultura e no sector audiovisual, bem como no desenvolvimento de tecnologias como a IA;

G. Considerando que as experiências anteriores, em especial nos domínios técnicos, demonstraram que, muitas vezes, os processos evolutivos e as inovações se baseiam essencialmente em dados relativos aos homens, e que as necessidades das mulheres não são plenamente tidas em conta; considerando que o combate a estas tendenciosidades requer uma maior vigilância, soluções técnicas e a elaboração de requisitos claros de equidade, responsabilização e transparência;

H. Considerando que os conjuntos de dados incompletos e inexatos, a falta de dados repartidos por género e a existência de algoritmos incorretos podem distorcer o processamento por parte de um sistema de IA e minam a consecução da igualdade de género na sociedade; considerando que os dados relativos aos grupos desfavorecidos e sobre formas intersectoriais de discriminação tendem a ser incompletos ou até mesmo inexistentes;

I. Considerando que desigualdades e estereótipos de género, bem como a discriminação entre homens e mulheres, podem também ter origem na linguagem e nas imagens divulgadas pelos meios de comunicação social e pelas aplicações assentes na IA e ser replicados através destas; considerando que a educação, os programas culturais e os conteúdos audiovisuais têm uma influência considerável na definição de crenças e valores das pessoas e constituem um instrumento fundamental para combater os estereótipos de género, reduzir o fosso digital entre homens e mulheres e criar modelos potentes a seguir; considerando que tem de haver um quadro ético e regulamentar antes de se proceder à implementação de soluções automáticas para estes sectores fundamentais da sociedade;

J. Considerando que a ciência e a inovação podem gerar benefícios suscetíveis de transformar a vida das pessoas, em especial em prol dos mais desfavorecidos, como as mulheres e as raparigas que vivem em regiões remotas; considerando que a educação científica é importante para adquirir competências e encontrar um trabalho digno, para os empregos do futuro e para quebrar os estereótipos de género segundo os quais as ciências constituem domínios tipicamente masculinos; considerando que a ciência e o pensamento científico são essenciais para a cultura democrática, que, por sua vez, é fundamental para fazer avançar a igualdade entre homens e mulheres;

K. Considerando que, na UE, uma mulher em dez já foi vítima de alguma forma de ciberviolência, desde os 15 anos de idade, e que o assédio em linha continua a constituir uma preocupação no âmbito do desenvolvimento da IA, nomeadamente no domínio da educação; considerando que a ciberviolência é muitas vezes exercida sobre mulheres da vida pública, como ativistas, mulheres políticas e outras figuras públicas; considerando que a IA e outras tecnologias emergentes podem desempenhar um papel importante na prevenção da ciberviolência contra as mulheres e as raparigas, bem como para efeitos de educação das pessoas;

L. Considerando que recai sobre a União e os seus Estados-Membros a responsabilidade de explorar, promover e reforçar o valor acrescentado das tecnologias de IA, bem como de assegurar que estas tecnologias sejam seguras e estejam ao serviço do bem-estar e do interesse geral dos europeus; considerando que estas tecnologias podem contribuir de forma muito significativa para a consecução do nosso objetivo comum de melhorar as vidas dos cidadãos e promover a prosperidade na União, facilitando o desenvolvimento de melhores estratégias e a inovação em vários domínios, nomeadamente na educação, na cultura e no sector audiovisual;

M. Considerando que a maior parte das aplicações de IA se baseia em software aberto, o que significa que o código fonte pode ser consultado, modificado e melhorado;

N. Considerando que poderá ser necessário proceder ao ajustamento de instrumentos jurídicos específicos em vigor na União, para que reflitam a transformação digital e deem resposta aos novos desafios colocados pela utilização de tecnologias de IA, nomeadamente nos sectores da educação, da cultura e do audiovisual, tais como a proteção dos dados pessoais e da privacidade, a luta contra a discriminação, a promoção da igualdade de género e o respeito dos direitos de propriedade intelectual (DPI), da proteção do ambiente e dos direitos do consumidor;

O. Considerando que, para assegurar condições de concorrência equitativas, é importante dar ao sector audiovisual acesso aos dados das plataformas e dos principais intervenientes a nível mundial;

P. Considerando que a IA e as futuras aplicações ou invenções desenvolvidas com a ajuda da IA podem ter uma dupla natureza, tal como acontece com qualquer outra tecnologia; considerando que a IA e as tecnologias conexas suscitam muitas preocupações quanto à ética e transparência do seu desenvolvimento, implantação e utilização, incluindo no que diz respeito ao software, aos algoritmos e aos dados recolhidos, utilizados, produzidos e difundidos pelas mesmas; considerando que é necessário ponderar cuidadosamente riscos e benefícios associados às tecnologias de IA na educação, na cultura e no sector audiovisual, e analisar exaustiva e continuamente os seus efeitos em todos os aspetos da sociedade;

Q. Considerando que a educação visa realizar o potencial e a criatividade humanas e levar a uma verdadeira transformação social, ao passo que, quando indevidamente utilizados, os sistemas de IA baseados em dados podem prejudicar o desenvolvimento humano e social;

R. Considerando que a educação e as oportunidades educativas constituem um direito fundamental; considerando que o desenvolvimento, a implantação e a utilização das tecnologias de IA no sector da educação devem ser considerados de risco elevado e estar sujeitos a requisitos mais rigorosos em matéria de segurança, transparência, equidade e responsabilidade;

S. Considerando que uma conectividade de alta qualidade, rápida e segura, banda larga, redes de elevada capacidade, conhecimentos informáticos, competências digitais, equipamento e infraestruturas digitais, bem como a sua aceitação pela sociedade e um quadro politico favorável, constituem algumas das condições prévias para uma implantação bem-sucedida da IA na União; considerando que uma implantação equitativa de tal infraestrutura e equipamento em toda a União é fundamental para combater o fosso digital persistente entre as suas regiões e os seus cidadãos;

T. Considerando que é imperativo colmatar o fosso existente entre homens e mulheres nas disciplinas ligadas à ciência, tecnologia, engenharia, artes e matemática (CTEAM) para assegurar uma representação equitativa de toda a sociedade no desenvolvimento, na implantação e na utilização de tecnologias de IA, nomeadamente no que diz respeito ao software, aos algoritmos e aos dados utilizados e produzidos por estas tecnologias;

U. Considerando que é essencial garantir que todas as pessoas na União adquiram, desde a mais tenra idade, as competências necessárias para poderem compreender melhor as possibilidades e limitações da IA, para se prepararem melhor para a presença crescente da IA e das tecnologias conexas em todos os aspetos da atividade humana, bem como para poderem tirar pleno partido das oportunidades que esta proporciona; considerando que a aquisição generalizada de competências digitais em todos os segmentos da sociedade na União é uma condição prévia para concretizar uma transformação digital justa e benéfica para todos;

V. Considerando que, para o efeito, os Estados-Membros devem investir na educação digital e na formação no domínio dos meios de comunicação social, dotar as escolas de infraestruturas adequadas e dos dispositivos terminais necessários, bem como colocar maior ênfase na aquisição de conhecimentos e competências digitais enquanto parte dos currículos escolares;

W. Considerando que a IA e as tecnologias conexas podem ser utilizadas para melhorar os métodos de aprendizagem e de ensino, contribuindo, designadamente, para que os sistemas de ensino utilizem dados equitativos no intuito de melhorar a equidade e a qualidade da educação, promovendo, simultaneamente, currículos personalizados e um acesso melhorado à educação, bem como aperfeiçoando e automatizando determinadas tarefas administrativas; considerando que um acesso equitativo e justo às tecnologias digitais e à conectividade de alta velocidade é indispensável para tornar a utilização da IA benéfica para toda a sociedade; considerando que é da maior importância assegurar que a educação digital seja acessível a todos, incluindo as pessoas provenientes de meios desfavorecidos e as pessoas com deficiência; considerando que os resultados da aprendizagem não dependem da tecnologia mas do uso pedagogicamente relevante que os professores podem dar à tecnologia;

X. Considerando que a IA tem potencial para oferecer soluções que respondam aos desafios quotidianos no sector da educação, tais como a personalização da aprendizagem, o acompanhamento das dificuldades de aprendizagem, a automatização dos conteúdos/conhecimentos sobre um tema específico, uma melhor formação profissional e apoio à transição rumo a uma sociedade digital;

Y. Considerando que a IA pode ter aplicações práticas em termos de redução do trabalho administrativo dos educadores e dos estabelecimentos de ensino, deixando-lhes assim mais tempo para as suas atividades principais de ensino e aprendizagem;

Z. Considerando que as novas aplicações educativas baseadas na IA estão a facilitar os progressos numa série de disciplinas, como a aprendizagem das línguas e a matemática;

AA. Assinala que as experiências de aprendizagem personalizadas proporcionadas pela IA podem não só contribuir para aumentar a motivação dos alunos e ajudá-los a concretizar todo o seu potencial, mas também para reduzir as taxas de abandono escolar precoce;

AB. Considerando que a IA pode contribuir cada vez mais para uma maior eficácia dos professores, proporcionando-lhes uma melhor compreensão dos métodos e estilos de aprendizagem dos alunos e ajudando-os a identificar dificuldades de aprendizagem e a avaliar melhor o progresso individual;

AC. Considerando o mercado de trabalho digital carece de quase meio milhão de especialistas em ciências de megadados e análise de dados, que são fundamentais para o desenvolvimento e a utilização de IA fiável e de qualidade;

AD. Considerando que a aplicação da IA na educação concita preocupações em torno da utilização ética dos dados, dos direitos dos discentes, do acesso aos dados e da proteção dos dados pessoais e, por conseguinte, comporta riscos para os direitos fundamentais, como a criação de modelos estereotipados dos perfis e comportamentos dos alunos, os quais poderão conduzir a discriminações ou comportar o risco de produzir efeitos prejudiciais devido à difusão em larga escala de más práticas pedagógicas;

AE. Considerando que a cultura desempenha um papel central na utilização em escala de tecnologias de IA, que tem vindo a tornar-se uma disciplina essencial para o património cultural, graças ao desenvolvimento de tecnologias e ferramentas inovadoras e à sua aplicação eficaz tendo em conta as necessidades do sector;

AF. Considerando que as tecnologias de IA podem ser utilizadas para promover e proteger o património cultural — nomeadamente colocando ferramentas digitais ao serviço da preservação de zonas de interesse histórico e propondo formas inovadoras para facilitar o acesso a um público mais vasto em toda a União de conjuntos de dados relativos a artefactos culturais detidos por instituições culturais –, permitindo, ao mesmo tempo, que os utilizadores naveguem por uma vasta gama de conteúdos culturais e criativos; considerando que, neste contexto, é fundamental promover normas e quadros de interoperabilidade;

AG. Considerando que a utilização de tecnologias de IA para conteúdos culturais e criativos, nomeadamente conteúdos mediáticos e recomendações de conteúdos personalizados, suscita questões que se prendem com a proteção de dados, a discriminação e a diversidade cultural e linguística, corre o risco de produzir resultados discriminatórios com base em dados de entrada tendenciosos e é suscetível de restringir a diversidade de opiniões e o pluralismo dos meios de comunicação social;

AH. Considerando que as recomendações personalizadas de conteúdos baseadas na IA podem, muitas vezes, responder melhor às necessidades específicas dos indivíduos, nomeadamente às preferências culturais e linguísticas; considerando que a IA pode contribuir para a promoção da diversidade linguística na União e para uma melhor divulgação das obras audiovisuais europeias, em especial através da legendagem e da sincronização automatizadas de conteúdos audiovisuais disponíveis noutras línguas; considerando que, por conseguinte, é fundamental criar conteúdos mediáticos em todas as línguas para fomentar a diversidade cultural e linguística;

AI. Considerando que a IA promove a inovação nas salas de redação, automatizando várias tarefas rotineiras, interpretando dados e até mesmo gerando notícias, tais como previsões meteorológicas e resultados desportivos;

AJ. Considerando que, tendo em conta a diversidade linguística na Europa, a promoção da linguística computacional para uma IA baseada em direitos abre um potencial específico de inovação que, na era digital, pode servir para democratizar e tornar não discriminatório o intercâmbio global cultural e de informações;

AK. Considerando que as tecnologias de IA podem ser benéficas para o ensino especial, bem como para tornar os conteúdos culturais e criativos acessíveis às pessoas com deficiência; considerando que a IA possibilita soluções como o reconhecimento vocal, a assistência virtual e a representação digital de objetos físicos; considerando que as criações digitais já desempenham um papel importante na disponibilização de conteúdos desta natureza às pessoas com deficiência;

AL. Considerando que as aplicações da IA são omnipresentes no sector audiovisual, nomeadamente nas plataformas de conteúdos audiovisuais;

AM. Considerando que, por conseguinte, as tecnologias de IA contribuem para a criação, o planeamento, a gestão, a produção, a distribuição, a localização e o consumo de produtos audiovisuais;

AN. Considerando que a IA pode ser utilizada para gerar conteúdos falsos, tal como falsificações profundas («deepfakes») — atualmente em crescimento exponencial, constituindo uma ameaça iminente para a democracia –, mas também como ferramenta com valor inestimável para identificar e combater de imediato este tipo de atividades maliciosas, nomeadamente através da verificação de factos em tempo real ou da classificação de tais conteúdos; considerando que a maior parte das falsificações profundas são fáceis de identificar; considerando que, ao mesmo tempo, as ferramentas de deteção assentes na IA permitem normalmente sinalizar e filtrar com êxito estes conteúdos; considerando que falta um quadro legal aplicável a esta questão;

Observações gerais

1. Sublinha a importância estratégica da IA e das tecnologias conexas para a União; salienta que a abordagem europeia no domínio da IA e das tecnologias conexas deve centrar-se no ser humano e assentar nos direitos humanos e na ética, para que, deste modo, a IA se torne num verdadeiro instrumento ao serviço das pessoas, do bem comum e do interesse geral dos cidadãos;

2. Sublinha que o desenvolvimento, a implantação e a utilização da IA na educação, na cultura e no sector audiovisual devem respeitar plenamente os direitos, as liberdades e os valores fundamentais, nomeadamente a dignidade humana, a privacidade, a proteção de dados pessoais, a não discriminação e a liberdade de expressão e de informação, bem como a diversidade cultural e os direitos de propriedade cultural, tal como consagrados nos Tratados da UE e na Carta;

3. Afirma que a educação, a cultura e o sector audiovisual são áreas sensíveis no que diz respeito à utilização da IA e das tecnologias conexas, uma vez que estas podem repercutir-se nas pedras angulares em que repousam os direitos fundamentais das nossas sociedades; realça, por conseguinte, que é necessário respeitar os princípios éticos aquando do desenvolvimento, da implantação e da utilização de tecnologias de IA e tecnologias conexas nestes sectores, nomeadamente o software , os algoritmos e os dados que estas tecnologias produzem ou utilizam;

4. Recorda que os algoritmos e a IA devem ser «éticos desde a conceção», sem preconceitos intrínsecos, de uma forma que garanta a máxima proteção dos direitos fundamentais;

5. Reitera a importância de, para efeitos de utilização na aprendizagem profunda, desenvolver IA e tecnologias conexas de qualidade, compatíveis e inclusivas que respeitem e defendam os valores da União, em particular a igualdade de género, o multilinguismo e as condições necessárias para o diálogo intercultural, uma vez que a utilização de dados de baixa qualidade, desatualizados, incompletos ou incorretos pode conduzir a previsões de má qualidade e, por sua vez, à discriminação e aos preconceitos; salienta que é essencial criar capacidades, tanto a nível nacional como a nível da União, para melhorar a recolha, a segurança, a sistematização e a transferibilidade dos dados, sem prejudicar a privacidade; regista a proposta da Comissão de criar um espaço comum europeu dos dados;

6. Recorda que a IA poderá dar azo a preconceitos e, por conseguinte, a várias formas de discriminação em razão do sexo, da raça, da cor, da origem étnica ou social, das características genéticas, do idioma, da religião ou crença, da opinião política ou de qualquer outra opinião, da pertença a uma minoria étnica, da propriedade, do nascimento, da deficiência, da idade ou da orientação sexual; recorda, a este respeito, que é necessário assegurar os direitos de todas as pessoas e que as iniciativas em matéria de IA e de tecnologias conexas não devem ser, de modo algum, discriminatórias;

7. Salienta que tais preconceitos e discriminações podem resultar de conjuntos de dados que, à partida, são tendenciosos e refletem a discriminação existente na sociedade; lembra, neste contexto, que é fundamental envolver as partes interessadas da sociedade, a fim de evitar a inclusão inadvertida de estereótipos sociais, culturais e de género nos algoritmos, sistemas e aplicações de IA; salienta que é necessário trabalhar no sentido de encontrar a forma mais eficiente de reduzir os preconceitos nos sistemas de IA, em conformidade com as normas éticas e de não discriminação; sublinha que os conjuntos de dados utilizados para treinar a IA devem ser tão abrangentes quanto possível, a fim de representar a sociedade da forma mais eficaz e pertinente, e que os resultados devem ser revistos, de modo a evitar todo o tipo de estereótipos, discriminação e preconceitos e que, se for caso disso, a IA deve ser utilizada para identificar e corrigir preconceitos humanos que possam existir; insta a Comissão a incentivar e facilitar a partilha de estratégias que visem eliminar distorções a nível dos dados;

8. Solicita à Comissão e aos Estados-Membros que, aquando do desenvolvimento de políticas e legislação em matéria de IA, tenham em conta aspetos éticos, nomeadamente numa perspetiva de género, e, se for caso disso, a adaptarem a legislação em vigor, nomeadamente os programas e as orientações éticas da União relativas à utilização da IA;

9. Exorta a Comissão e os Estados-Membros a conceberem medidas que integrem plenamente a dimensão de género, tais como campanhas de sensibilização, formação e programas curriculares, que facultem informação aos cidadãos sobre a forma como os algoritmos funcionam e o impacto que têm na sua vida quotidiana; apela ainda à Comissão e aos Estados-Membros para que cultivem mentalidades e condições de trabalho baseadas na igualdade de género conducentes ao desenvolvimento de produtos e a ambientes de trabalho tecnológicos mais inclusivos; insta a Comissão e os Estados-Membros a assegurarem a inclusão das competências digitais e da formação sobre IA nos programas curriculares escolares e a torná-las acessíveis para todos, como forma de colmatar a fosso digital entre homens e mulheres;

10. Salienta a necessidade de formar os trabalhadores e os educadores que tratam das questões relacionadas com a IA, a fim de promover a capacidade de identificar e corrigir práticas discriminatórias em matéria de género, no local de trabalho e na educação, e a necessidade de os trabalhadores que desenvolvem sistemas e aplicações de IA identificarem e darem resposta à discriminação com base no género nos sistemas e aplicações de IA que desenvolvem; realça que é necessário definir responsabilidades claras nas empresas e nos estabelecimentos de ensino para garantir que não se verifique qualquer discriminação com base no género nos locais de trabalho e no âmbito do ensino; salienta que devem ser utilizadas imagens de IA e robôs neutros do ponto de vista do género para fins educativos e culturais, a menos que, por algum motivo, o género constitua um elemento essencial;

11. Destaca a importância do desenvolvimento e da implantação de aplicações de IA nos sectores audiovisual, da educação e da cultura quando está em causa a recolha de dados repartidos por género e outros dados relativos à igualdade, bem como a aplicação de técnicas modernas de aprendizagem automática destinadas a pôr cobro aos preconceitos, sempre que tal for necessário, a fim de eliminar os estereótipos e preconceitos de género suscetíveis de ter um impacto negativo;

12. Insta a Comissão a incluir a educação no quadro regulamentar para as aplicações de IA de alto risco, tendo em conta a importância de garantir que a educação continue a contribuir para o bem público e dada a elevada sensibilidade dos dados sobre os alunos, os estudantes e outros aprendentes; salienta que, no sector da educação, esta implantação deve envolver os educadores, os aprendentes e a sociedade em geral e deve ter em conta as necessidades de todos, bem como os benefícios esperados, a fim de assegurar que a IA é utilizada de forma ética e consciente;

13. Insta a Comissão a incentivar a utilização de programas da União como o Horizonte Europa, o Europa Digital e o Erasmus+ para promover a investigação pluridisciplinar, projetos-piloto, experiências e o desenvolvimento de ferramentas, incluindo formação, para efeitos de identificação dos preconceitos de género na IA, bem como a realização de campanhas de sensibilização para o grande público;

14. Frisa a necessidade de criar equipas diversificadas, compostas por criadores e engenheiros que trabalhem lado a lado com os principais intervenientes nos domínios da educação, da cultura e do sector audiovisual, a fim de evitar que os preconceitos de género e os preconceitos culturais sejam inadvertidamente introduzidos em algoritmos, sistemas e aplicações de IA; salienta a necessidade de ter em conta as diferentes teorias através das quais a IA evoluiu até à data e através das quais poderá continuar a ser desenvolvida no futuro;

15. Salienta que ter em devida conta a eliminação de preconceitos e da discriminação contra grupos específicos, incluindo estereótipos de género, não deve travar o progresso tecnológico;

16. Reitera a importância dos direitos fundamentais e do primado da legislação relativa à proteção dos dados e da privacidade, que é imperativo quando estão em causa tecnologias desta natureza; recorda que a proteção de dados e a privacidade podem ser particularmente afetadas pela IA; sublinha que os princípios estabelecidos no Regulamento Geral sobre a Proteção de Dados (RGPD) ( 8 ) são vinculativos no âmbito da implantação da IA neste contexto; recorda, além disso, que as aplicações de IA devem respeitar plenamente a legislação da União em matéria de proteção de dados, nomeadamente o RGPD e a Diretiva Privacidade Eletrónica ( 9 ) ; salienta o direito a uma intervenção humana quando a IA e as tecnologias conexas estão a ser utilizadas;

17. Insta a Comissão e os Estados-Membros a imporem uma obrigação de transparência e inteligibilidade para as decisões individuais automatizadas tomadas com base na IA no quadro das prerrogativas de poder público e a aplicarem sanções para fazer cumprir esta obrigação; apela à implementação de sistemas que recorram por defeito à verificação e intervenção humanas, bem como ao respeito das garantias processuais, nomeadamente o direito de recurso e a reparação, bem como o acesso a vias de recurso;

18. Regista o efeito potencialmente nefasto da publicidade personalizada, em particular a publicidade microdirecionada e comportamental, e da análise das pessoas, em especial dos menores, sem o seu consentimento, interferindo nas suas vidas privadas, fazendo perguntas sobre a recolha e utilização dos dados utilizados para efeitos de personalização da publicidade, bem como oferecendo produtos ou serviços ou fixando preços; insta, por conseguinte, a Comissão a introduzir limitações rigorosas em matéria de publicidade direcionada com base na recolha de dados pessoais, começando pela introdução de uma proibição da publicidade comportamental cruzada, sem prejudicar as pequenas e médias empresas (PME); recorda que, atualmente, a Diretiva Privacidade Eletrónica autoriza apenas a publicidade direcionada que esteja subordinada ao consentimento prévio, considerando-a ilícita em qualquer outro caso; insta a Comissão a proibir o recurso a práticas discriminatórias para efeitos de prestação de serviços ou de fornecimentos de bens;

19. Salienta que é necessário informar as organizações de comunicação social dos principais parâmetros dos sistemas de IA baseados em algoritmos que determinam a classificação e os resultados da pesquisa em plataformas de terceiros, informar os utilizadores sobre o recurso à IA nos serviços de tomada de decisão e dar aos utilizadores a possibilidade de definir os seus parâmetros de privacidade através de um procedimento transparente e compreensível;

20. Salienta que a IA pode, juntamente com as plataformas didáticas e de informação, contribuir para a criação de conteúdos no ensino, na cultura e no sector audiovisual, nomeadamente através da listagem de diferentes tipos de bens culturais e de uma grande variedade de fontes de dados; chama a atenção para o risco de violação dos direitos de propriedade intelectual (DPI) quando se combina a IA com diferentes tecnologias que podem aceder a uma multiplicidade de fontes (documentos, fotografias, filmes) para melhorar a forma como esses dados são apresentados, pesquisados e visualizados; solicita que a IA seja utilizada para garantir um elevado nível de proteção dos DPI no âmbito do quadro legislativo em vigor, nomeadamente alertando as pessoas e as empresas sempre que corram o risco de infringir inadvertidamente as regras ou ajudando os titulares de DPI caso se verifique uma violação das regras; salienta, por conseguinte, a importância de dispor de um quadro jurídico adequado ao nível europeu destinado a proteger os DPI no contexto da utilização da IA;

21. Salienta a necessidade de encontrar um equilíbrio entre, por um lado, o desenvolvimento de sistemas de IA e a sua utilização na educação, na cultura e no sector audiovisual e, por outro, as medidas destinadas a salvaguardar a concorrência e a competitividade do mercado das empresas de IA que operam nestes sectores; realça, a este respeito, a necessidade de incentivar o investimento das empresas na inovação dos sistemas de IA utilizados nestes sectores, assegurando, ao mesmo tempo, que os fornecedores das aplicações em causa não alcancem uma posição de monopólio no mercado; salienta a necessidade de a IA ser amplamente disponibilizada às indústrias e aos sectores culturais e criativos (ISCC) de toda a Europa, a fim de manter condições de concorrência equitativas e uma concorrência leal para todas as partes interessadas e os intervenientes na Europa; solicita à Comissão e aos Estados-Membros que tenham mais em conta o papel dos dados e algoritmos na concentração do poder de mercado sempre que tomem decisões em matéria de concorrência, nomeadamente fusões;

22. Salienta a necessidade de abordar de forma sistemática as questões sociais, éticas e jurídicas suscitadas pelo desenvolvimento, pela implantação e pela utilização da IA, como a transparência e a responsabilização no que se refere aos algoritmos, a não discriminação, a igualdade de oportunidades, a liberdade e diversidade de opinião, o pluralismo dos meios de comunicação social, bem como a propriedade, a recolha, a utilização e a divulgação de dados e conteúdos; recomenda a definição de orientações e de normas comuns a nível da União para a proteção da privacidade, recorrendo, ao mesmo tempo, de modo eficaz aos dados disponíveis; apela à transparência no desenvolvimento de algoritmos e à responsabilização no que se refere à sua utilização;

23. Insta a Comissão a apresentar um conjunto abrangente de disposições destinadas a regulamentar as aplicações de IA numa base horizontal e a complementá-las com regras sectoriais específicas, nomeadamente para o sector audiovisual;

24. Salienta a necessidade de investir na investigação e inovação no domínio da utilização e do desenvolvimento da IA e das suas aplicações na educação, na cultura e no sector audiovisual; salienta, à luz do investimento privado considerável realizado nos últimos anos, a importância do investimento público nestes serviços e do valor acrescentado complementar proporcionado por parcerias público-privadas, a fim de alcançar este objetivo e explorar plenamente o potencial da IA em todos estes sectores, em especial na educação; insta a Comissão a encontrar fundos complementares para promover a investigação e a inovação em aplicações de IA nestes sectores;

25. Sublinha que os sistemas algorítmicos podem contribuir para uma redução do fosso digital de uma forma acelerada, mas uma implantação desigual pode criar novas clivagens ou acelerar o aprofundamento das clivagens já existentes; manifesta a sua preocupação com o desenvolvimento desigual do saber e das infraestruturas em toda a União, o que limita o acesso a produtos e serviços baseados na IA, em particular em zonas escassamente povoadas e vulneráveis do ponto de vista socioeconómico; insta a Comissão a assegurar a coesão na partilha dos benefícios da IA e das tecnologias conexas;

26. Insta a Comissão a estabelecer requisitos para a aquisição e implantação da IA e das tecnologias conexas pelos organismos do sector público da União, a fim de assegurar a conformidade com o direito da União e o respeito pelos direitos fundamentais; destaca o valor acrescentado associado à utilização de instrumentos como as consultas públicas e as avaliações de impacto antes da aquisição ou da implantação de sistemas de IA, tal como recomendado pelo Relator Especial no relatório que dirigiu à Assembleia Geral das Nações Unidas sobre a IA e o seu impacto na liberdade de opinião e de expressão ( 10 ) ; encoraja as autoridades públicas a incentivarem o desenvolvimento e a implantação da IA através de financiamento público e de contratação pública; salienta a necessidade de reforçar o mercado, proporcionando às PME a oportunidade de participarem na adjudicação de contratos relativos a aplicações de IA, a fim de assegurar a participação de empresas tecnológicas de todas as dimensões, garantindo assim a resiliência e a concorrência;

27. Solicita que sejam regularmente realizadas auditorias independentes para verificar se as aplicações de IA utilizadas e os controlos associados cumprem os critérios estabelecidos, e que as referidas auditorias sejam objeto de supervisão por parte de autoridades independentes dotadas de poderes de controlo suficientes; solicita a realização de testes de esforço específicos que facilitem e assegurem o respeito das normas aplicáveis;

28. Assinala os benefícios e os riscos decorrentes da IA em termos de cibersegurança e o seu potencial para combater a cibercriminalidade, e realça a necessidade de toda e qualquer solução de IA ser resiliente aos ciberataques e respeitar os direitos fundamentais da União, designadamente a proteção dos dados pessoais e da vida privada; salienta a importância de acompanhar a utilização segura da IA e a necessidade de uma estreita colaboração entre os sectores público e privado para fazer face às vulnerabilidades dos utilizadores e aos perigos daí decorrentes; apela à Comissão para que avalie a necessidade de melhorar a prevenção em termos de cibersegurança e de tomar medidas de atenuação a este respeito;

29. Salienta que a crise pandémica da COVID-19 pode ser considerada um período experimental em matéria de desenvolvimento e utilização de tecnologias digitais e de tecnologias relacionadas com a IA na educação e na cultura, como exemplificado pelas múltiplas plataformas de ensino e ferramentas em linha para a promoção cultural utilizadas em todos os Estados-Membros; insta, por conseguinte, a Comissão a fazer o balanço destes exemplos aquando da ponderação de uma abordagem comum da União relativa a uma utilização acrescida de tais soluções tecnológicas;

Educação

30. Recorda a importância de reforçar as competências digitais e de alcançar um grau elevado de literacia mediática, digital e informacional a nível da União enquanto pré-requisito para a utilização da IA no domínio da educação; sublinha, neste contexto, a necessidade de assegurar a literacia digital e a literacia em IA à escala da UE, mormente através da criação de oportunidades de formação para os professores; insiste em que a utilização de tecnologias de IA nas escolas deve favorecer a redução do fosso digital a nível social e regional; saúda a atualização do Plano de Ação para a Educação Digital da Comissão, que se debruça sobre a utilização da IA na educação; insta, neste contexto, a Comissão a fazer das capacidades digitais, da literacia mediática, da formação e das competências relacionadas com a IA as prioridades deste plano, sensibilizando simultaneamente para as potenciais utilizações abusivas e as falhas da IA; solicita à Comissão que, neste contexto, preste especial atenção às crianças e aos jovens em situações precárias, uma vez que necessitam de apoio especial em matéria de educação digital; insta a Comissão a ter devidamente em conta as iniciativas no domínio da IA e da robótica na educação nas próximas propostas legislativas que apresentar em matéria de IA; exorta os Estados-Membros a investirem no equipamento digital nas escolas, utilizando os fundos da União para este efeito;

31. Salienta que a utilização da IA nos sistemas educativos proporciona um vasto leque de possibilidades, oportunidades e ferramentas para tornar estes sistemas mais inovadores, inclusivos, eficientes e cada vez mais eficazes, graças à introdução de novos métodos de aprendizagem rápida, personalizada e centrada no aluno; sublinha, no entanto, que dado o impacto que um tal recurso à IA terá na educação e na inclusão social, é fundamental assegurar que essas ferramentas estejam disponíveis para todos os grupos sociais, promovendo um acesso equitativo à educação e à formação, sem deixar ninguém para trás, nomeadamente as pessoas com deficiência;

32. Sublinha que é necessário que os cidadãos disponham de, pelo menos, conhecimentos básicos em matéria de IA para poderem interagir de forma crítica e eficaz com esta tecnologia; insta os Estados-Membros a integrarem campanhas de sensibilização sobre a IA nas suas ações no domínio da literacia digital; exorta a Comissão e os Estados-Membros a promoverem planos para a literacia digital e fóruns de discussão para que cidadãos, pais e alunos possam participar num diálogo democrático com as autoridades públicas e as partes interessadas a respeito do desenvolvimento, da implantação e da utilização das tecnologias de IA nos sistemas educativos; realça a importância de facultar aos educadores, formadores e outros as ferramentas e os conhecimentos necessários em matéria de IA e tecnologias conexas em termos do que são, da forma como são utilizadas e de como as utilizar corretamente e em conformidade com a lei, a fim de evitar infrações aos DPI; salienta, em particular, a importância da literacia digital para as pessoas que trabalham nos sectores da educação e da formação, bem como de uma melhoria da formação digital para as pessoas de idade avançada, tendo em conta que as gerações mais jovens já têm uma noção básica destas tecnologias, uma vez que cresceram com elas;

33. Salienta que o verdadeiro objetivo da IA nos nossos sistemas de ensino deve ser fazer com que a educação seja o mais individualizada possível, proporcione aos alunos percursos académicos personalizados, em consonância com os seus pontos fortes e fracos, mediante a disponibilização dos materiais didáticos adaptados às suas características, mantendo a qualidade educacional e o princípio integrador dos nossos sistemas de ensino;

34. Recorda o papel fundamental e multifacetado que os professores desempenham no ensino e quando se trata de o tornar inclusivo, mormente na primeira infância, onde são adquiridas competências que permitirão aos alunos progredir ao longo das suas vidas, nomeadamente no domínio das relações pessoais, das competências de estudo, da empatia e do trabalho em cooperação; salienta, por conseguinte, que as tecnologias de IA não podem ser utilizadas em detrimento ou prejuízo do ensino presencial, uma vez que os professores não devem ser substituídos pela IA ou por quaisquer tecnologias relacionadas com a IA;

35. Salienta que os benefícios em matéria de aprendizagem decorrentes da utilização da IA na educação dependerão não apenas da própria IA, mas da forma como os professores utilizam a IA no ambiente digital de aprendizagem para ir ao encontro das necessidades tanto dos alunos e estudantes como dos professores; salienta, por conseguinte, a necessidade de os programadores de IA envolverem, sempre que possível, as comunidades de ensino no desenvolvimento, na implantação e na utilização de tecnologias de IA, instaurando um ambiente de conexão para criar vínculos e permitir a cooperação entre programadores de IA, criadores, empresas, escolas, professores e outras partes interessadas, públicas e privadas, de molde a desenvolver tecnologias de IA adequadas aos ambientes educativos reais que reflitam a idade e a maturidade de cada aluno e respeitem os mais elevados padrões éticos; realça que as instituições de ensino devem apenas implementar tecnologias fiáveis, éticas, centradas no ser humano e auditáveis pelas autoridades públicas e pela sociedade civil em todas as fases do seu ciclo de vida; salienta as vantagens que as soluções livres e de fonte aberta apresentam neste contexto; solicita que as escolas e outras instituições de ensino beneficiem de apoio financeiro e logístico, bem como dos conhecimentos especializados necessários para poderem implantar soluções em prol da aprendizagem do futuro;

36. Realça, além disso, a necessidade de uma formação contínua dos professores, para que possam adaptar-se às realidades da educação assente na IA e adquirir as competências necessárias tendo em vista a utilização de tecnologias de IA de forma pedagógica e significativa, permitindo-lhes assim tirar pleno partido das possibilidades oferecidas pela IA e compreender as limitações associadas a esta; solicita que, no futuro, o ensino digital faça parte da formação de todos os professores e que os professores e as pessoas que trabalham no ensino e na formação tenham a oportunidade de prosseguir a sua educação no domínio do ensino digital ao longo da vida; insta, por conseguinte, ao desenvolvimento de programas de formação em IA para os professores de todas as áreas e em toda a União; salienta, além disso, a importância de reformar os programas de ensino em prol das novas gerações de professores, para que possam adaptar-se às realidades da educação baseada na IA, bem como a importância de elaborar e atualizar manuais e orientações em matéria de IA para os professores;

37. Manifesta preocupação com a falta de programas específicos de ensino superior para a IA e com a falta de financiamento público a favor da IA em todos os Estados-Membros; considera que esta situação está a colocar em risco as futuras ambições digitais da Europa;

38. Manifesta-se preocupado quanto ao facto de poucos investigadores no domínio da IA seguirem carreiras académicas, uma vez que as empresas tecnológicas podem oferecer salários superiores, com encargos administrativos inferiores para a investigação; considera que parte da solução consistiria em canalizar mais fundos públicos para a investigação em IA nas universidades;

39. Realça, além disso, a necessidade de dotar as pessoas desde a mais tenra idade de competências gerais no domínio digital, de molde a colmatar o fosso existente em matéria de qualificações e a integrar melhor certos estratos da população no mercado de trabalho digital e na sociedade digital; salienta que será cada vez mais importante formar profissionais altamente qualificados de todos os quadrantes no domínio da IA, assegurar o reconhecimento mútuo dessas qualificações em toda a União e melhorar as competências da atual e futura mão de obra, permitindo-lhe assim fazer face às futuras realidades do mercado de trabalho; incentiva, por conseguinte, os Estados-Membros a avaliarem a sua oferta educativa e, sempre que necessário, a atualizá-la com competências relacionadas com a IA, bem como a estabelecerem programas curriculares específicos para os criadores de IA, incluindo, ao mesmo tempo, a IA nos currículos tradicionais; salienta a necessidade de garantir o reconhecimento mútuo das qualificações profissionais em competências de IA em toda a União, uma vez que vários Estados-Membros estão a melhorar a sua oferta educativa com competências relacionadas com a IA e a criar programas específicos para os criadores de IA; congratula-se com os esforços da Comissão no sentido de integrar as competências digitais nos requisitos em matéria de qualificações para determinadas profissões harmonizadas a nível da UE ao abrigo da Diretiva «Qualificações Profissionais» ( 11 ) ; realça a necessidade de garantir que estes planos estejam em consonância com a lista de avaliação das orientações éticas para uma IA fiável e congratula-se com a proposta da Comissão de transformar esta lista num programa curricular indicativo para os criadores de IA; recorda as necessidades especiais do ensino e da formação profissionais (EFP) no que diz respeito à IA e apela a uma abordagem colaborativa em toda a Europa para aumentar o potencial da IA no EFP; sublinha a importância de formar profissionais altamente qualificados neste domínio, incluindo os aspetos éticos nos programas curriculares e de apoiar os grupos sub-representados neste campo, bem como de criar incentivos para que esses profissionais procurem trabalho na União; recorda que as mulheres estão sub-representadas no domínio da IA e que tal poderá dar azo a importantes desequilíbrios de género no futuro mercado de trabalho;

40. Salienta a necessidade de os governos e as instituições de ensino repensarem, reformularem e adaptarem os seus currículos de ensino às necessidades do século XXI, concebendo programas educativos que coloquem maior ênfase nas disciplinas CTEAM, a fim de preparar os alunos e os consumidores para a crescente prevalência da IA e de facilitar a aquisição de competências cognitivas; sublinha, a este respeito, a importância de diversificar este sector e de incentivar os estudantes, em especial as mulheres e as raparigas, a inscreverem-se em cursos STEAM, em particular em robótica e em disciplinas relacionadas com a IA; solicita mais recursos financeiros e científicos para motivar as pessoas qualificadas a permanecerem na União, atraindo, ao mesmo tempo, pessoas competentes provenientes de países terceiros; chama, além disso, a atenção para o número considerável de empresas em fase de arranque que trabalham com IA e desenvolvem tecnologias de IA; salienta que as PME necessitarão de apoio adicional e de formação relacionada com a IA para poderem cumprir a regulamentação digital e a regulamentação relacionada com a IA;

41. Observa que a automatização e o desenvolvimento da IA podem transformar o emprego de modo profundo e irreversível; salienta que deve ser dada prioridade à adaptação das competências às necessidades do futuro mercado de trabalho, em particular no domínio da educação e das ISCC; sublinha, neste contexto, a necessidade de melhorar as competências da futura mão de obra; salienta, além disso, a importância de implantar a IA para a requalificação e a melhoria das competências no mercado de trabalho europeu e, em particular, nas ISCC, que já têm sido gravemente afetados pela crise da COVID-19;

42. Insta a Comissão a avaliar o nível do risco da implantação da IA no sector da educação, a fim de determinar se as aplicações de IA na educação devem ser incluídas no quadro regulamentar para as aplicações de alto risco e estar sujeitas a requisitos mais rigorosos em matéria de segurança, transparência, equidade e responsabilização, dada a importância de garantir que a educação continue a contribuir para o bem público e dada a elevada sensibilidade dos dados sobre os alunos, os estudantes e outros aprendentes; sublinha que os conjuntos de dados utilizados para treinar a IA devem ser revistos, a fim de evitar que determinados estereótipos e outros preconceitos sejam reforçados;

43. Insta a Comissão a propor um regime jurídico para a IA que esteja apto para o futuro, de molde a proporcionar normas e medidas éticas juridicamente vinculativas que garantam os direitos e liberdades fundamentais e o desenvolvimento de aplicações de IA fiáveis, éticas e tecnicamente sólidas, nomeadamente ferramentas digitais integradas, serviços e produtos como a robótica e a aprendizagem automática, com especial destaque para a educação; solicita que os dados utilizados e produzidos pelas aplicações de IA na educação sejam acessíveis, interoperáveis, de elevada qualidade e partilhados com as autoridades públicas competentes de um modo acessível e no respeito da legislação em matéria de direitos de autor e segredos comerciais; recorda que as crianças constituem um público vulnerável, que merece uma atenção e proteção especiais; salienta que, não obstante os benefícios que a IA possa trazer no domínio da educação, é necessário atender aos aspetos tecnológicos, regulamentares e sociais, prevendo salvaguardas adequadas e uma abordagem centrada no ser humano que garanta, em última análise, que os seres humanos são sempre capazes de controlar e corrigir as decisões do sistema; salienta, neste contexto, que os professores devem impreterivelmente controlar e supervisionar a implementação e a utilização de tecnologias de IA nas escolas e universidades sempre que interajam com os alunos e os estudantes; lembra que os sistemas de IA não devem tomar decisões definitivas, que possam afetar as oportunidades educativas, como a avaliação final dos estudantes, sem uma supervisão humana completa; relembra que, quando produzem efeitos jurídicos ou semelhantes, as decisões automatizadas a respeito de pessoas singulares tomadas com base em perfis devem impreterivelmente ser limitadas e encerrar sempre o direito à intervenção humana e a uma explicação, em conformidade com o RGPD; sublinha que tal deve ser rigorosamente respeitado, especialmente no sistema educativo, onde são tomadas decisões sobre futuras possibilidades e oportunidades;

44. Manifesta-se seriamente preocupado com o facto de as escolas e outros prestadores de ensino público estarem cada vez mais dependentes de serviços de tecnologia educativa, incluindo aplicações de IA, fornecidos por um número reduzido de empresas privadas que gozam de uma posição de mercado dominante; considera que esta situação deve ser examinada à luz das regras da UE em matéria de concorrência; salienta, a este respeito, a importância de apoiar a implantação da IA na educação, na cultura e no sector audiovisual por PME, através de incentivos adequados que criem condições de concorrência equitativas; apela, neste contexto, ao investimento em empresas europeias de TI, a fim de desenvolver as tecnologias necessárias na União, uma vez que as grandes empresas que fornecem atualmente IA estão sediadas fora da União; recorda energicamente que os dados dos menores são estritamente protegidos pelo RGPD e que os dados relativos às crianças só podem ser tratados se forem totalmente anonimizados ou se o titular da responsabilidade parental da criança tiver dado o seu consentimento ou autorizado o tratamento em causa, em plena conformidade com os princípios da minimização de dados e da limitação da finalidade; apela a uma maior solidez da proteção e das salvaguardas no sector da educação no que diz respeito aos dados das crianças e insta a Comissão a tomar medidas mais eficazes a este respeito; solicita que as crianças e os seus pais recebam informações claras sobre a possível utilização e tratamento dos dados das crianças, nomeadamente através de campanhas de sensibilização e de informação;

45. Sublinha os riscos específicos que se colocam aquando da utilização de aplicações de reconhecimento automático com base na IA, que estão em rápido desenvolvimento; recorda que as crianças são um grupo particularmente sensível; recomenda que a Comissão e os Estados-Membros proíbam o recurso à identificação biométrica automatizada, como o reconhecimento facial, para efeitos educativos e culturais nos estabelecimentos de ensino e nas instalações culturais, a menos que a sua utilização seja autorizada por lei;

46. Salienta a necessidade de aumentar a escolha dos clientes, com vista a estimular a concorrência e a alargar a gama de serviços oferecidos pelas tecnologias de IA para fins educativos; encoraja, neste contexto, as autoridades públicas a incentivarem o desenvolvimento e a implantação de tecnologias de IA através de financiamento público e da contratação pública; considera que as tecnologias utilizadas pelos prestadores de serviços de ensino público ou adquiridas com fundos públicos devem basear-se em tecnologias de fonte aberta;

47. Regista o atraso da inovação no domínio da educação, tal como evidenciado pela pandemia de COVID-19 e a transição para a aprendizagem em linha e à distância que dela decorreu; salienta que os instrumentos educativos orientados para a IA, como aqueles que permitem avaliar e identificar dificuldades de aprendizagem, podem melhorar a qualidade e a eficácia da aprendizagem em linha;

48. Salienta que a infraestrutura digital e a cobertura da Internet da próxima geração se revestem de uma importância estratégica para proporcionar aos cidadãos europeus uma educação baseada em IA; solicita à Comissão que, à luz da crise da COVID-19, elabore uma estratégia para uma rede 5G europeia que garanta a resiliência estratégica da Europa e a independência da tecnologia de Estados que não comungam dos nossos valores;

49. Solicita a criação de uma universidade e de uma rede de investigação pan-europeias centradas na IA no domínio da educação, que permitam reunir instituições e peritos de todos os domínios para analisar o impacto da IA na aprendizagem e identificar soluções que reforcem o seu potencial;

Herança cultural

50. Reitera a importância do acesso à cultura para todos os cidadãos em toda a União; salienta, neste contexto, a importância do intercâmbio de boas práticas entre os Estados-Membros, os estabelecimentos de ensino e as instituições culturais e outras partes interessadas; considera, além disso, que é de importância vital tirar o máximo partido do potencial inerente aos recursos disponíveis, tanto a nível da UE como a nível nacional, a fim de melhorar o acesso à cultura; salienta que existem múltiplas opções de acesso à cultura e que todas as possibilidades devem ser exploradas, a fim de determinar a opção mais adequada; salienta a importância de garantir a coerência com o Tratado de Marraquexe;

51. Salienta que as tecnologias de IA podem desempenhar um papel significativo na preservação, restauro, documentação, análise, promoção e gestão do património cultural tangível ou intangível, nomeadamente acompanhando e analisando as transformações a que os bens do património cultural estão sujeitos em resultado de ameaças como as alterações climáticas, as catástrofes naturais e os conflitos armados;

52. Salienta que as tecnologias de IA podem aumentar a visibilidade da diversidade cultural na Europa; realça que a IA abre às instituições culturais, como os museus, novas oportunidades de criar instrumentos inovadores destinados a catalogar artefactos, bem como a documentar e tornar bens do património cultural mais acessíveis, nomeadamente através da modelização 3D e da realidade virtual aumentada; salienta que a IA irá também permitir que museus e galerias de arte introduzam serviços interativos e personalizados para visitantes através da disponibilização de uma lista com sugestões baseadas nos interesses manifestados pessoalmente ou em linha;

53. Salienta que a utilização da IA será o prenúncio de novas abordagens, ferramentas e metodologias inovadoras, permitindo que trabalhadores e investigadores do sector cultural criem bases de dados uniformes com sistemas de classificação adequados, bem como metadados multimédia, através dos quais poderão estabelecer ligações entre diferentes bens do património cultural e assim aumentar os conhecimentos e proporcionar uma melhor compreensão do património cultural;

54. Salienta que as boas práticas no domínio das tecnologias de IA tendo em vista a proteção e a acessibilidade do património cultural, em particular para as pessoas com deficiência, devem ser identificadas e partilhadas entre redes culturais em toda a União, incentivando, simultaneamente, a pesquisa sobre as diferentes utilizações da IA para promover o valor, a acessibilidade e a preservação do património cultural; insta a Comissão e os Estados-Membros a fomentarem as oportunidades oferecidas pela utilização da IA nas ISCC;

55. Salienta que as tecnologias de IA também podem ser utilizadas para controlar o tráfico ilícito de bens culturais e a destruição de bens culturais e, ao mesmo tempo, contribuir para recolher dados, com vista a proceder à recuperação e reconstrução do património cultural material e imaterial; observa, em particular, que o desenvolvimento, a implantação e a utilização da IA em procedimentos de inspeção aduaneira podem apoiar os esforços destinados a prevenir o tráfico ilícito de património cultural, nomeadamente para complementar os sistemas que permitem às autoridades aduaneiras centrar os seus esforços e recursos nos elementos que coloquem o risco mais elevado;

56. Assinala que a IA pode trazer benefícios ao sector da investigação, nomeadamente através do contributo que a analítica preditiva pode prestar em matéria de aperfeiçoamento da análise dos dados, nomeadamente sobre a aquisição e a circulação de bens culturais; salienta que a União deve reforçar o investimento e promover parcerias entre a indústria e o meio académico, a fim de reforçar a excelência da investigação a nível europeu;

57. Recorda que a IA pode constituir uma ferramenta revolucionária para promover o turismo cultural e salienta forte potencial que encerra no que diz respeito à previsão dos fluxos turísticos, suscetível de ser útil para as cidades que se veem a braços com o turismo excessivo;

Indústrias e sectores culturais e criativos (ISCC)

58. Lamenta que a cultura não faça parte das prioridades definidas nas opções e recomendações políticas em matéria de IA a nível da União, nomeadamente no Livro Branco da Comissão sobre IA, de 19 de fevereiro de 2020; solicita que estas recomendações sejam revistas, para que a cultura se torne uma prioridade política em matéria de IA a nível da União; insta a Comissão e os Estados-Membros a abordarem o potencial impacto do desenvolvimento, da implantação e da utilização de tecnologias de IA nas ISCC e a tirarem o máximo partido do Instrumento de Recuperação Europeu (Next Generation EU) para digitalizar estes sectores, a fim de responder às novas formas de consumo no século XXI;

59. Salienta que a IA chegou agora à ISCC, tal como exemplificado pela produção automática de textos, vídeos e peças musicais; salienta que os artistas criativos e os trabalhadores do sector cultural devem possuir as competências e formação digitais necessárias para utilizar a IA e outras tecnologias digitais; insta a Comissão e os Estados-Membros a promoverem as oportunidades oferecidas pela utilização da IA no ISCC, disponibilizando mais fundos provenientes dos orçamentos científicos e de investigação, e a criarem centros de criatividade digital em que os artistas criativos e os trabalhadores culturais possam desenvolver aplicações de IA, aprender a utilizar estas e outras tecnologias e testá-las;

60. Reconhece que as tecnologias de IA têm potencial para estimular a criação de um número crescente de postos de trabalho nas ISCC através de um maior acesso a estas tecnologias; salienta, por conseguinte, a importância de reforçar a literacia digital nas ISCC, a fim de tornar estas tecnologias mais inclusivas, mais conviviais, mais fáceis de aprender e mais interativas para estes setores;

61. Salienta que a interação entre a IA e as ISCC é complexa e requer uma avaliação aprofundada; congratula-se com o relatório da Comissão, de novembro de 2020, intitulado «Trends and Developments in Artificial Intelligence — Challenges to the IPR Framework» [Tendências e desenvolvimentos em matéria de inteligência artificial — desafios para o quadro de DPI], e com o estudo intitulado «Study on Copyright and new technologies: copyright data management and artificial intelligence» [Estudo sobre direitos de autor e novas tecnologias: gestão de dados de direitos de autor e inteligência artificial]; sublinha a importância de proporcionar clareza quanto às condições de utilização de conteúdos protegidos por direitos de autor, como os dados de entrada (imagens, música, filmes, bases de dados, entre outros), e no âmbito da produção de produtos culturais e audiovisuais, sejam estes criados por seres humanos com a ajuda de IA ou gerados de forma autónoma por tecnologias de IA; convida a Comissão a estudar o impacto da IA nas indústrias criativas europeias; reitera a importância dos dados europeus e congratula-se com as declarações da Comissão a este respeito, bem como com a inscrição da inteligência artificial e das tecnologias conexas na ordem de trabalhos;

62. Salienta que é necessário estabelecer uma visão coerente da aplicação de tecnologias de IA nas ISCC a nível da União; insta os Estados-Membros a colocarem uma tónica reforçada na cultura no âmbito das suas estratégias nacionais de IA, de molde a assegurar que as ISCC integram a inovação e permanecem competitivos, e que a diversidade cultural é salvaguardada e promovida a nível da União no novo contexto digital;

63. Sublinha a importância de criar um ambiente heterogéneo a nível da União para as tecnologias de IA, de molde a incentivar a diversidade cultural e apoiar as minorias e a diversidade linguística, reforçando, simultaneamente, as ISCC através de plataformas em linha que permitam a inclusão e a participação dos cidadãos da União;

64. Insta a Comissão e os Estados-Membros a fomentarem um debate democrático sobre as tecnologias de IA e a fornecerem um fórum regular para a realização de debates com a sociedade civil, os investigadores, o meio académico e as partes interessadas, com vista a uma maior sensibilização para os benefícios e os desafios da utilização dessas tecnologias nas ISCC; sublinha, neste contexto, o papel que a arte e a cultura podem desempenhar para familiarizar as pessoas com a IA e para fomentar o debate público sobre esta, uma vez que pode dar exemplos vivos e tangíveis de aprendizagem automática, nomeadamente no domínio da música;

65. Exorta a Comissão e os Estados-Membros a debruçarem-se sobre o tema dos conteúdos gerados por IA e os desafios daí decorrentes em termos de autoria das obras e de violação dos direitos de autor; solicita, neste contexto, à Comissão que avalie o impacto da IA e das tecnologias conexas no sector audiovisual e nas ISCC, com vista a promover a diversidade cultural e linguística, respeitando, simultaneamente, os direitos dos autores e dos artistas intérpretes;

66. Salienta que o Instituto Europeu de Inovação e Tecnologia (EIT), e, em particular, a sua futura Comunidade de Conhecimento e Inovação (CCI) dedicada às indústrias culturais e criativas (ICC), deve desempenhar um papel determinante no desenvolvimento de uma estratégia europeia relativa à aplicação da IA na educação, na cultura e no sector audiovisual e pode ajudar a acelerar e a explorar as aplicações de IA nestes sectores;

67. Observa que a IA já entrou na cadeia de valor criativa a nível da criação, produção, difusão e consumo e que, por conseguinte, tem um enorme impacto nas ISCC, nomeadamente no domínio musical, cinematográfico, artístico e literário, através da introdução de novas ferramentas, software e processos de produção assistidos por IA que facilitam a produção, servindo, ao mesmo tempo, de inspiração e oferecendo ao público em geral a possibilidade de criar conteúdos;

68. Exorta a Comissão a realizar estudos e a ponderar opções políticas que contrariem o impacto negativo do controlo dos serviços de transmissão em linha baseado na IA que visa limitar a diversidade e/ou maximizar os lucros incluindo ou dando prioridade a determinados conteúdos nas suas ofertas aos consumidores, bem como a forma como tal se repercute na diversidade cultural e nos rendimentos dos criadores;

69. Considera que a IA se está a tornar cada vez mais útil para os processos de criação e de produção das ISCC;

70. Salienta o papel da personalidade do autor para efeitos de expressão de escolhas livres e criativas que constituem a essência da originalidade de uma obra ( 12 ) ; sublinha a importância das restrições e exceções aos direitos de autor sempre que conteúdos sejam utilizados como dados de entrada, nomeadamente na educação, nas universidades e na investigação, bem como em produções culturais e criativas, como as produções audiovisuais e os conteúdos gerados pelos utilizadores;

71. Considera que deve ser considerada a proteção das criações técnicas e artísticas assentes na IA, a fim de incentivar esta forma de criatividade;

72. o da Diretiva (UE) 2019/790 relativa aos direitos de autor e aos direitos conexos no mercado único digital Salienta que, no contexto da economia dos dados, é possível melhorar a gestão dos dados relacionados com os direitos de autor para alcançar uma melhoria na remuneração dos autores e dos artistas, permitindo, nomeadamente, a identificação rápida da autoria e da propriedade dos conteúdos, contribuindo assim para reduzir o número de obras órfãs; salienta ainda que as soluções tecnológicas da IA devem ser utilizadas para melhorar as infraestruturas de dados relacionados com direitos de autor e a interconexão de metadados nas obras, mas também para facilitar a obrigação de transparência estabelecida no artigo 19.da Diretiva (UE) 2019/790 relativa aos direitos de autor e aos direitos conexos no mercado único digital ( 13 ) , a fim de prestar informações atualizadas, pertinentes e exaustivas sobre a exploração das obras e o desempenho dos autores e dos artistas, em especial na presença de vários titulares de direitos e de regimes de licenças complexos;

73. Solicita que o plano de ação em matéria de propriedade intelectual anunciado pela Comissão aborde a questão da IA e do seu impacto nos sectores criativos, tendo em conta a necessidade de encontrar um equilíbrio entre a proteção dos DPI e o fomento da criatividade nos domínios da educação, da cultura e da investigação; considera que a UE pode ser um líder na criação de tecnologias de IA se adotar um quadro regulamentar operacional e aplicar políticas públicas pró-ativas, nomeadamente no que diz respeito aos programas de formação e ao apoio financeiro à investigação; solicita à Comissão que avalie o impacto dos DPI na investigação e no desenvolvimento das tecnologias de IA e das tecnologias conexas, bem como nas ISCC, nomeadamente no sector audiovisual, com especial destaque para a autoria, a remuneração justa dos autores e questões conexas;

74. Insta a Comissão a ter em conta os aspetos jurídicos dos produtos realizados com recurso a tecnologias de IA, bem como dos conteúdos culturais gerados através da utilização da IA e das tecnologias conexas; considera importante apoiar a produção de conteúdos culturais; reitera, no entanto, a importância de salvaguardar o quadro de DPI único da União e de garantir que toda e qualquer alteração seja efetuada com a diligência devida que se impõe para não pôr em causa o equilíbrio delicado; insta a Comissão a efetuar uma avaliação aprofundada no que diz respeito à personalidade jurídica que os conteúdos produzidos pela IA poderão assumir, bem como à aplicação dos DPI aos conteúdos gerado pela IA ou com recurso a ferramentas de IA;

75. Solicita, além disso, à Comissão que pondere a possibilidade de, em estreita colaboração com os Estados-Membros e as partes interessadas pertinentes, desenvolver mecanismos ou sistemas de verificação para editores, autores, criadores, entre outros, ajudando-os assim a examinar que conteúdos podem utilizar e a determinar com maior facilidade o que está protegido ao abrigo da legislação em matéria de DPI;

76. Insta a Comissão a estabelecer regras destinadas a garantir a interoperabilidade efetiva dos dados, de molde a tornar o conteúdo adquirido numa plataforma acessível através de qualquer instrumento digital, independentemente da sua marca;

Sector audiovisual

77. Observa que a IA é frequentemente utilizada para permitir que algoritmos automatizados de tomada de decisão difundam e hierarquizem os conteúdos apresentados aos utilizadores; realça que estes algoritmos representam uma «caixa preta» para os utilizadores; salienta que os algoritmos utilizados pelos fornecedores de serviços de comunicação social, pelas plataformas de partilha de vídeos e pelos serviços de transmissão de música em contínuo devem ser concebidos de forma a não privilegiar obras específicas, restringindo as sugestões «personalizadas» às obras mais populares para fins publicitários e comerciais específicos ou para efeitos de maximização dos lucros; solicita que, sempre que possível, os algoritmos de recomendações e de publicidade personalizada sejam explicáveis e transparentes, a fim de propiciar aos consumidores informações precisas e exaustivas sobre estes processos e conteúdos e de garantir que os serviços personalizados não sejam discriminatórios e estejam em conformidade com o regulamento sobre plataformas para os utilizadores profissionais ( 14 ) recentemente adotado e a diretiva de âmbito geral sobre o novo acordo para os consumidores ( 15 ) ; insta a Comissão a abordar as modalidades segundo as quais os algoritmos de moderação de conteúdos são otimizados para fomentar a participação dos utilizadores e a propor recomendações para aumentar o controlo de que os utilizadores dispõem sobre os conteúdos que visualizam, assegurando e aplicando devidamente o direito que assiste aos utilizadores de optarem por não participar nos serviços recomendados e personalizados; sublinha, além disso, que os consumidores devem ser informados quando interagem com um processo de decisão automatizada e que as suas escolhas e o seu desempenho não devem ser limitados; salienta que a utilização de mecanismos de IA para a vigilância comercial dos consumidores deve ser combatida, mesmo que diga respeito a «serviços gratuitos», velando por que essa utilização seja estritamente conforme com os direitos fundamentais e com o RGPD; salienta que todas as alterações regulamentares devem ter em consideração o impacto nos consumidores vulneráveis;

78. Sublinha que o que é ilegal fora de linha deve ser ilegal em linha; constata que as ferramentas de IA têm potencial e são já utilizadas para combater os conteúdos ilegais em linha, mas recorda com veemência, na perspetiva do futuro ato legislativo sobre os serviços digitais, que tais ferramentas devem, por sistema, respeitar os direitos fundamentais, em especial a liberdade de expressão e de informação, não devendo levar à imposição de uma obrigação geral de vigilância da Internet, nem à eliminação de material lícito divulgado para efeitos educativos, jornalísticos, artísticos ou de investigação; salienta que os algoritmos devem ser utilizados apenas como mecanismos de sinalização no âmbito da moderação de conteúdos e estar sujeitos a intervenção humana, uma vez que a IA é incapaz de distinguir de forma fiável entre conteúdo legal, conteúdo ilegal e conteúdo lesivo; observa que os termos e condições devem sempre incluir as orientações comunitárias, bem como processos de recursos;

79. o da Diretiva sobre o comércio eletrónico Recorda, além disso, que, em virtude do disposto no artigo 15.da Diretiva sobre o comércio eletrónico ( 16 ) , não deve existir uma supervisão geral, e que a supervisão específica de conteúdos para serviços de comunicação social audiovisual deve estar em conformidade com as exceções previstas na legislação da União; recorda que as aplicações de IA devem aderir aos protocolos de segurança interna e externa, que devem ser tecnicamente precisos e sólidos; considera que esta medida deve cobrir uma utilização em condições normais, bem como em situações desconhecidas e imprevisíveis;

80. o da Diretiva Serviços de Comunicação Social Audiovisual (Diretiva (UE) 2018/1808 Salienta, além disso, que a utilização da IA em recomendações de conteúdos baseadas em algoritmos sobre fornecedores de serviços de comunicação social, como serviços de vídeo a pedido e plataformas de partilha de vídeos, pode ter repercussões consideráveis na diversidade cultural, designadamente no que se refere à obrigação de assegurar às obras europeias uma posição proeminente, tal como estabelecido pelo artigo 13.da Diretiva Serviços de Comunicação Social Audiovisual (Diretiva (UE) 2018/1808 ( 17 ) ); observa que estas preocupações são igualmente pertinentes no que diz respeito aos serviços de transmissão de música em contínuo e apela ao desenvolvimento de indicadores para medir a diversidade cultural, bem como à promoção dos trabalhos europeus por esses serviços;

81. Convida a Comissão e os Estados-Membros a prestarem um maior apoio financeiro ao desenvolvimento e utilização da IA no domínio da legendagem e da sincronização automatizadas de obras audiovisuais europeias, a fim de promover a diversidade cultural e linguística na União e de melhorar a divulgação e o acesso aos conteúdos audiovisuais europeus;

82. Solicita à Comissão que estabeleça um quadro ético claro para a utilização de tecnologias de IA nos meios de comunicação social, a fim de evitar todas as formas de discriminação e assegurar o acesso a conteúdos variados em termos culturais e linguísticos a nível da União, com base em algoritmos responsáveis, transparentes e inclusivos, respeitando, ao mesmo tempo, as escolhas e preferências das pessoas;

83. Salienta que a IA pode desempenhar um papel importante na rápida disseminação da desinformação; realça, neste contexto, que o quadro deve igualmente abordar a questão da utilização abusiva da IA para divulgar notícias falsas, a desinformação em linha, evitando, ao mesmo tempo, a censura; apela, por conseguinte, à Comissão para que avalie os riscos de a IA contribuir para a difusão de desinformação no contexto digital, bem como as modalidades em que a IA possa ser utilizada para travar a desinformação;

84. Solicita à Comissão que tome medidas regulamentares para assegurar que os fornecedores de serviços de comunicação social tenham acesso aos dados gerados no âmbito do fornecimento e da difusão dos seus conteúdos em plataformas de terceiros; salienta que a transferência integral de dados dos operadores de plataformas para os fornecedores de serviços de comunicação social é crucial para que estes últimos possam compreender melhor a sua audiência e melhorar os serviços que prestam, de acordo com as expectativas da audiência;

85. Sublinha a importância de aumentar as dotações a favor dos programas Europa Digital, Europa Criativa e Horizonte Europa, a fim de reforçar o apoio ao sector audiovisual europeu, nomeadamente através de projetos de investigação em colaboração e de iniciativas-piloto no domínio do desenvolvimento, da implantação e da utilização de tecnologias de IA éticas;

86. Apela a uma colaboração estreita entre os Estados-Membros em matéria de desenvolvimento de programas de formação que visem a requalificação ou a melhoria de competências dos trabalhadores, para que estes estejam mais bem preparados para a transição que o recurso a tecnologias de IA no sector audiovisual acarretar;

87. Considera que a IA tem um enorme potencial para promover a inovação no sector dos meios de informação; entende que a integração generalizada de IA — nomeadamente para efeitos de criação e distribuição de conteúdos, monitorização da secção de comentários, utilização da analítica de dados e deteção de fotos e de vídeos manipulados — é fundamental para reduzir os custos nas redações face ao decréscimo das receitas de publicidade e para que mais recursos possam ser afetados à reportagem no terreno, aumentando assim a qualidade e a variedade dos conteúdos;

Desinformação em linha: falsificações profundas («deepfakes»)

88. Salienta a importância de assegurar o pluralismo dos meios de comunicação social, tanto em linha como fora de linha, para garantir a qualidade, a diversidade e a fiabilidade das informações disponíveis;

89. Lembra que a exatidão, independência, equidade, confidencialidade, humanidade, responsabilidade e transparência, enquanto forças impulsionadoras dos princípios da liberdade de expressão e de acesso à informação nos meios de comunicação em linha e fora de linha, são decisivas no combate à desinformação e à informação errada;

90. Chama a atenção para o importante papel desempenhado pelos meios de comunicação social independentes no domínio da cultura e na vida quotidiana dos cidadãos; salienta que a desinformação constitui um problema de fundo, uma vez que, em regra, os direitos de autor e os DPI estão constantemente a ser violados; solicita à Comissão que, em cooperação com os Estados-Membros, prossiga o seu trabalho de sensibilização para este problema, contrariando os efeitos da propagação de notícias falsas, bem como os problemas relacionados com as fontes; considera, além disso, que é importante elaborar estratégias educativas com vista a melhorar a literacia digital a este respeito;

91. Recorda que, com a rápida emergência de novas técnicas, a deteção de conteúdos falsos e manipulados, como os «deepfakes», poderá tornar-se cada vez mais difícil, devido à capacidade dos produtores mal-intencionados para gerar algoritmos sofisticados que podem ser treinados com êxito para fugir à deteção, comprometendo assim gravemente os nossos valores democráticos fundamentais; solicita à Comissão que avalie o impacto da IA na criação de «deepfakes», estabeleça quadros jurídicos adequados para reger a sua criação, produção ou distribuição para fins mal-intencionados e proponha recomendações que visem, entre outras iniciativas, a tomada de medidas para contrariar as ameaças baseadas na IA a eleições livres e justas e à democracia;

92. Congratula-se com as iniciativas e os projetos recentemente lançados para criar instrumentos mais eficientes de deteção de «deepfakes», bem como com os requisitos de transparência recentemente estabelecidos; salienta, a este respeito, a necessidade de explorar e investir em métodos para combater «deepfakes», enquanto passo fundamental para lutar contra a desinformação e os conteúdos nocivos; considera que as soluções baseadas na IA podem ser úteis a este respeito; solicita, por conseguinte, à Comissão que imponha a obrigação de todos os «deepfakes», ou quaisquer outros vídeos realistas criados artificialmente, conterem a indicação de que não são originais, bem como a limitar de forma rigorosa a sua utilização para fins eleitorais;

93. Manifesta a sua preocupação com o facto de a IA estar a exercer uma influência crescente sobre a forma como a informação é encontrada e consumida em linha; salienta que as chamadas «bolhas de filtro» e «câmaras de eco» restringem a diversidade de opiniões e minam o debate aberto na sociedade; solicita, por conseguinte, que os operadores de plataformas têm de utilizar de forma transparente os algoritmos de processamento de informação e que os utilizadores têm de dispor de maior liberdade para decidirem se querem receber informação e, em caso afirmativo, qual;

94. Observa que as tecnologias de IA já estão a ser utilizadas no jornalismo, nomeadamente na produção de textos e na análise de grandes conjuntos de dados no contexto da investigação; salienta que, no contexto da produção de informação relevante para a sociedade no seu conjunto, é importante que o jornalismo automatizado assente em dados corretos e completos, a fim de evitar a disseminação de notícias falsas; salienta que os princípios básicos do jornalismo de qualidade, tais como o controlo editorial, devem também aplicar-se aos conteúdos jornalísticos produzidos por meio de tecnologias de IA; solicita que os textos gerados por IA sejam claramente identificados para salvaguardar a confiança no jornalismo;

95. Destaca que a IA tem potencial para facilitar e incentivar o multilinguismo, desenvolvendo tecnologias relacionadas com as línguas e permitindo que sejam encontrados conteúdos europeus em linha;

o

o o

96. Encarrega o seu Presidente de transmitir a presente resolução ao Conselho e à Comissão.

(1) JO C 202 I de 16.6.2020, p. 1.

(2) JO C 440 de 6.12.2018, p. 37.

(3) JO C 449 de 23.12.2020, p. 37.

(4) JO C 433 de 23.12.2019, p. 42.

(5) JO C 28 de 27.1.2020, p. 8.

(6) JO C 252 de 18.7.2018, p. 239.

(7) JO C 307 de 30.8.2018, p. 163.

(8) Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016, relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados e que revoga a Diretiva 95/46/CE (Regulamento Geral sobre a Proteção de Dados) (JO L 119 de 4.5.2016, p. 1).

(9) Diretiva 2002/58/CE do Parlamento Europeu e do Conselho, de 12 de julho de 2002, relativa ao tratamento de dados pessoais e à proteção da privacidade no setor das telecomunicações (Diretiva relativa à privacidade e às comunicações eletrónicas) (JO L 201 de 31.7.2002, p. 37).

(10) Relatório do Relator Especial sobre a promoção e proteção do direito à liberdade de opinião e de expressão, 29 de agosto de 2018.

(11) Diretiva 2005/36/CE do Parlamento Europeu e do Conselho, de 7 de setembro de 2005, relativa ao reconhecimento das qualificações profissionais (JO L 255 de 30.9.2005, p. 22).

(12) Tribunal de Justiça da União Europeia, Processo C-833/18, SI e Brompton Bicycle Ltd contra Chedech / Get2Get.

(13) Diretiva (UE) 2019/790 do Parlamento Europeu e do Conselho, de 17 de abril de 2019, relativa aos direitos de autor e direitos conexos no mercado único digital e que altera as Diretivas 96/9/CE e 2001/29/CE (JO L 130 de 17.5.2019, p. 92).

(14) Regulamento (UE) 2019/1150 do Parlamento Europeu e do Conselho, de 20 de junho de 2019, relativo à promoção da equidade e da transparência para os utilizadores profissionais de serviços de intermediação em linha (JO L 186 de 11.7.2019, p. 57).

(15) Diretiva (UE) 2019/2161 do Parlamento Europeu e do Conselho de 27 de novembro de 2019 que altera a Diretiva 93/13/CEE do Conselho e as Diretivas 98/6/CE, 2005/29/CE e 2011/83/UE do Parlamento Europeu e do Conselho a fim de assegurar uma melhor aplicação e a modernização das regras da União em matéria de defesa dos consumidores (JO L 328 de 18.12.2019, p. 7).

(16) Diretiva 2000/31/CE do Parlamento Europeu e do Conselho, de 8 de junho de 2000, relativa a certos aspetos legais dos serviços da sociedade de informação, em especial do comércio eletrónico, no mercado interno (JO L 178 de 17.7.2000, p. 1).

(17) Diretiva (UE) 2018/1808 do Parlamento Europeu e do Conselho, de 14 de novembro de 2018, que altera a Diretiva 2010/13/UE relativa à coordenação de certas disposições legislativas, regulamentares e administrativas dos Estados-Membros respeitantes à oferta de serviços de comunicação social audiovisual para a adaptar à evolução das realidades do mercado (JO L 303 de 28.11.2018, p. 69).