COMISSÃO EUROPEIA Bruxelas, 10.12.2021 COM(2021) 819 final RELATÓRIO DA COMISSÃO AO PARLAMENTO EUROPEU, AO CONSELHO, AO COMITÉ ECONÓMICO E SOCIAL EUROPEU E AO COMITÉ DAS REGIÕES Proteção dos Direitos Fundamentais na Era Digital -











Relatório Anual de 2021 sobre a Aplicação da Carta dos Direitos Fundamentais na UE



Proteção dos Direitos Fundamentais na Era Digital –



Relatório Anual de 2021 sobre a Aplicação da Carta dos Direitos Fundamentais da UE Índice Proteção dos Direitos Fundamentais na Era Digital – Relatório Anual de 2021 sobre a Aplicação da Carta dos Direitos Fundamentais da UE 1. Introdução 2. Implementação da nova estratégia para reforçar a aplicação da Carta dos Direitos Fundamentais na UE 3. Tornar a Carta na bússola da UE para a era digital 4. Enfrentar os desafios da moderação de conteúdos em linha 5. Salvaguardar os direitos fundamentais nos casos em que a IA é utilizada 6. Combater o fosso digital 7. Proteger as pessoas que trabalham através de plataformas digitais 8. Supervisão da vigilância digital 9. Unir esforços para fazer da era digital uma oportunidade para os direitos fundamentais



1.Introdução A Carta dos Direitos Fundamentais da UE é um instrumento poderoso para proteger, promover e reforçar os direitos das pessoas na União Europeia. Os direitos fundamentais não só protegem os cidadãos de interferências indevidas, como a censura ou a vigilância em grande escala, como também capacitam as pessoas para que façam pleno uso dos seus direitos e oportunidades na vida. É sempre possível melhorar as condições e a medida em que as pessoas podem usufruir dos seus direitos. A Carta pode orientar as atividades políticas em toda a UE. Quanto mais informações as pessoas tiverem sobre os direitos garantidos pela Carta e sobre a forma como podem fazer valer esses direitos, maior será o seu poder. A pandemia de COVID-19 pôs à prova a proteção e as garantias dos nossos direitos e liberdades fundamentais. Quaisquer restrições aos direitos fundamentais devem ser necessárias e proporcionadas. Assim o exige a Carta dos Direitos Fundamentais da UE, que é um instrumento vinculativo do direito da União. A Carta protege e promove um vasto leque de direitos relacionados com a dignidade humana, a liberdade, a igualdade e a solidariedade, e todos os tribunais nacionais podem aplicá-lo nos casos em que o direito da UE seja aplicado e relevante para a decisão final.

Desde 2009 que a Carta tem o mesmo estatuto jurídico que os Tratados, o direito primário da UE em que se baseia a legislação da UE. As instituições europeias têm de a respeitar em todas as suas ações e os Estados-Membros da UE têm de a respeitar quando aplicam o direito da UE. Quando é que os Estados-Membros têm de cumprir a Carta? - Quando os Estados-Membros acordam, no Conselho e no Parlamento Europeu, em adotar nova legislação da UE, é muitas vezes necessário dar cumprimento a essa legislação através de medidas nacionais de aplicação dessa legislação. - Quando os Estados-Membros adotam ou alteram leis sobre uma matéria em que o direito da UE impõe obrigações concretas, as suas leis não podem infringir o direito da UE, incluindo a Carta, uma vez que tal ato legislativo constitui uma aplicação do direito da UE. - Os programas de financiamento da UE estão consagrados na legislação da UE. Os Estados‑Membros devem assegurar que este dinheiro é gasto de acordo com as regras previstas nessa legislação. Quando executam programas de financiamento, estão a aplicar o direito da UE. - Quando os Estados-Membros adotam ou alteram leis num domínio em que a UE não tem competência e em que não existe legislação da UE, não estão a aplicar o direito da UE. Em tais casos, não estão vinculados pela Carta. No entanto, muitos dos direitos fundamentais consagrados na Carta estão simultaneamente estabelecidos nas constituições e na jurisprudência nacionais, bem como na Convenção Europeia dos Direitos do Homem, de que todos os Estados-Membros da UE são signatários. Para que todos tenham um maior conhecimento da Carta, a Comissão Europeia tem vindo a publicar relatórios sobre a sua aplicação desde 2010. A presente edição é a primeira a seguir uma nova abordagem anunciada na Estratégia para reforçar a aplicação da Carta dos Direitos Fundamentais na UE (Estratégia da Carta) . O relatório anual centrar-se-á num tema específico regido pelo direto da UE e analisará, de forma mais aprofundada, as boas práticas e os desafios dos Estados-Membros neste domínio. Tal permite explorar desenvolvimentos sistémicos para ilustrar como os diferentes direitos podem reforçar-se mutuamente e como a evolução política, societal e económica pode afetar vários direitos ao mesmo tempo. O tema da edição de 2021 é a proteção dos direitos fundamentais na era digital, em consonância com a prioridade estratégica da Comissão Europeia na transição digital. Em que informações se baseia o presente relatório? O presente relatório foi elaborado com base em: - Contributos dos Estados-Membros da UE, que foram convidados a apresentar os seus pontos de vista a partir das respetivas perspetivas nacionais; - Uma consulta específica às organizações-quadro de organizações da sociedade civil (OSC) europeias que trabalham no domínio dos direitos fundamentais; e - Relatórios das agências da UE, em especial os relatórios anuais sobre os direitos fundamentais da Agência dos Direitos Fundamentais da União Europeia (FRA), que contêm uma secção sobre os direitos fundamentais e a digitalização. 2.Implementação da nova estratégia para reforçar a aplicação da Carta dos Direitos Fundamentais na UE A Estratégia da Carta, adotada pela Comissão em 2020, visa garantir que a Carta seja aplicada no seu pleno potencial, tornando os direitos fundamentais uma realidade para todos. A Estratégia da Carta estabelece o quadro para o trabalho conjunto em matéria de direitos fundamentais em toda a UE para os próximos 10 anos e é plenamente apoiada pelos Estados‑Membros . As quatro prioridades que orientam a prossecução dos objetivos definidos na Estratégia da Carta são explicadas a seguir. 2.1Apoiar e monitorizar a aplicação efetiva da Carta pelos Estados-Membros As administrações nacionais e locais, os parlamentos e as autoridades de aplicação da lei são elementos centrais para a promoção e proteção dos direitos conferidos pela Carta e para a criação de um ambiente propício para as organizações da sociedade civil e os defensores dos direitos. A Comissão está a trabalhar em estreita colaboração com os Estados-Membros para os ajudar a aplicar o direito e as políticas da UE de uma forma efetiva e em plena conformidade com a Carta. A Comissão está também a ajudar os Estados-Membros a executar programas financiados pela UE em conformidade com a Carta. O Regulamento Disposições Comuns estabelece as regras que devem ser respeitadas na utilização de vários fundos da UE. Exige que os Estados-Membros criem e utilizem mecanismos eficazes para assegurar a conformidade dos programas financiados pela UE com a Carta, tais como modalidades de comunicação de informações ao comité de acompanhamento sobre casos de queixas a respeito da Carta ou de não cumprimento da Carta por operações apoiadas pelos fundos. A Comissão continuará a prestar assistência técnica para ajudar os Estados-Membros a assegurar que os programas apoiados pelos fundos da UE são concebidos e executados em conformidade com a Carta. No âmbito de um regime de financiamento específico, o programa Cidadãos, Igualdade, Direitos e Valores (CIDV), a Comissão criou novas oportunidades para as autoridades nacionais, regionais e locais receberem financiamento para projetos que promovam uma cultura de valores e reforcem a sensibilização para a Carta . As cidades desempenham um papel importante na promoção dessa cultura e na proteção dos direitos fundamentais. Várias cidades aderiram a uma rede de «cidades de direitos humanos» e integram os direitos fundamentais na elaboração das suas políticas. A FRA lançou um relatório intitulado «Human rights cities in the EU: a framework for reinforcing rights locally» (Cidades de direitos humanos na UE: um quadro para o reforço dos direitos a nível local), no seu Fórum dos Direitos Fundamentais, em outubro de 2021 . O quadro inclui ferramentas para ajudar os presidentes de câmara, os governos e administrações locais, e as organizações de base a integrarem normas em matéria de direitos humanos no seu trabalho. No seguimento do Plano de Ação da UE contra o Racismo 2020-2025, a Comissão lançou, em novembro de 2021, o «European capital(s) of inclusion and diversity Award» [Prémio Capital(is) Europeia(s) da Inclusão e da Diversidade]. Atribuirá prémios às melhores práticas que possam ser uma fonte de inspiração para outras vilas, cidades e regiões europeias na criação de ambientes mais diversificados e inclusivos para os seus habitantes.

Na Estratégia da Carta, a Comissão convidou os Estados-Membros a nomearem um ponto focal relativo à Carta, a fim de facilitar ainda mais a cooperação e o intercâmbio de informações sobre a aplicação da Carta. Até à data, 17 Estados-Membros nomearam tal ponto focal relativo à Carta. O seu papel é fundamental para divulgar informações e boas práticas sobre a sensibilização para a Carta e coordenar os esforços de reforço das capacidades no país. O seu trabalho contribui para a nova página sobre as melhores práticas dos Estados‑Membros em relação à Carta, lançada no Portal Europeu da Justiça em dezembro de 2021 . Enquanto Guardiã dos Tratados, a Comissão tomou medidas concretas para garantir o respeito dos direitos consagrados na Carta nos casos em que a legislação ou práticas nacionais que aplicam o direito da UE violam esses direitos, por exemplo, através da instauração de processos por infração. Em especial, a Comissão atuou no sentido de garantir o respeito dos seguintes direitos e liberdades: ·a liberdade de associação de organizações não governamentais e o direito de proteger os dados pessoais dos seus doadores, ·a liberdade académica, ·a liberdade de expressão e pluralismo dos meios de comunicação social, ·A dignidade humana; ·o direito ao respeito pela vida privada, ·o direito de todos, incluindo as pessoas LGBTIQ, a não serem discriminados em razão do sexo e da orientação sexual. A Comissão tem vindo a acompanhar, em todos os Estados-Membros, as medidas de emergência tomadas durante a pandemia de COVID-19 e o seu impacto, em especial no Estado de direito, nos direitos fundamentais e na conformidade com outras disposições do direito da UE, conforme está refletido no Relatório de 2021 sobre o Estado de Direito e nos capítulos por país. 2.2Habilitar as organizações da sociedade civil, os defensores dos direitos e os profissionais da justiça As organizações da sociedade civil (OSC) e os organismos nacionais independentes de defesa dos direitos humanos são parceiros fundamentais das instituições da UE e dos Estados‑Membros na promoção e proteção dos direitos fundamentais, da democracia e do Estado de direito. São fundamentais para a sensibilização das pessoas sobre os seus direitos e para as ajudarem a beneficiar uma proteção judiciária efetiva. Estas organizações devem poder trabalhar num ambiente favorável, sem restrições regulamentares indevidas, obstáculos ao financiamento ou mesmo campanhas de difamação, devendo também ser capazes de reforçar as suas capacidades. Alguns Estados-Membros ainda não dispõem de instituições nacionais de defesa dos direitos humanos plenamente operacionais, que são elos de ligação importantes entre o governo e a sociedade civil . Os Estados-Membros são convidados a criar essas instituições e a garantir que as mesmas disponham de meios para trabalhar com total independência. A Comissão está a acompanhar de perto a situação das OSC e fornece informações sobre a evolução do quadro para a sociedade civil no seu relatório anual sobre o Estado de direito. O Relatório de 2021 sobre o Estado de direito afirma que as OSC foram afetadas pela pandemia de COVID-19, não só devido aos limites à liberdade de circulação e de reunião, mas também em termos de financiamento. De acordo com o relatório, a participação da sociedade civil na conceção e na execução das medidas relativas à COVID-19 tem sido, de um modo geral, limitada. O Relatório de 2020 sobre o Estado de direito identificou medidas que restringiram a liberdade de expressão das OSC. Os dados recolhidos pela FRA mostram, de facto, que muitas OSC consideram que as medidas pandémicas nacionais tiveram um impacto negativo nas suas atividades desde março de 2020. Embora tenham comunicado um aumento da procura, a maioria deparou-se com dificuldades para poder continuar a prestar os seus serviços. Os desafios práticos incluem o cancelamento de atividades, o impacto psicológico no pessoal e a redução do trabalho voluntário. A Comissão também apoia os defensores dos direitos e as OSC através de financiamento específico, como um convite à apresentação de propostas sobre a proteção e promoção dos valores da UE, que se destina exclusivamente às OSC de pequena dimensão e de base e que desembolsa 51 milhões de EUR no período de 2021-2022 . Foi lançado um convite específico no valor de 2 milhões de EUR para apoiar as ações contenciosas e o reforço das capacidades relacionados com a aplicação da Carta . A Comissão está também a promover o reforço das capacidades e a sensibilização para a Carta entre os juízes e outros profissionais da justiça. Em dezembro de 2020, a Comissão adotou uma nova estratégia de formação judiciária europeia para 2021-2024 e, em março de 2021, lançou um convite à apresentação de propostas para apoiar projetos de formação judiciária que incluam os direitos fundamentais entre as suas principais prioridades . Foram executados vários projetos de formação judiciária sobre a Carta, cofinanciados pela Comissão no âmbito do seu Programa Justiça 2014-2020. Em dezembro de 2020, foi lançada uma plataforma que disponibiliza material de formação judiciária sobre direitos fundamentais aos profissionais da justiça . 2.3Plena utilização da Carta dos Direitos Fundamentais no processo de decisão da UE As instituições, os órgãos e os organismos da UE devem cumprir a Carta em todas as suas ações. A Comissão está a reforçar a sua capacidade interna de cumprimento da Carta e está a atualizar o seu conjunto de ferramentas para legislar melhor, incluindo as orientações de 2011 relativas à tomada em consideração dos direitos fundamentais nas avaliações de impacto. Está também a desenvolver formação específica sobre a Carta e uma ferramenta de aprendizagem em linha para ajudar o pessoal a avaliar o impacto das políticas e propostas legislativas da Comissão nos direitos fundamentais. A ferramenta de aprendizagem em linha será disponibilizada ao público e poderá ser um recurso útil, juntamente com o conjunto de ferramentas e as orientações para legislar melhor atualizadas, para outras instituições da UE e para os legisladores e decisores políticos dos Estados-Membros. A Comissão está pronta a apoiar o Parlamento Europeu e o Conselho a fim de garantir que essas instituições apliquem efetivamente a Carta no contexto das suas atividades. 2.4Reforçar a sensibilização das pessoas Juntamente com a adoção do presente relatório, a Comissão está a lançar uma campanha de sensibilização sobre a Carta para informar as pessoas sobre os seus direitos e a que instâncias recorrer se os seus direitos forem violados. A campanha será realizada em linha, através de eventos para os média e das redes sociais, utilizando o marcador #RightHereRightNow. Centrar-se-á em vários direitos específicos, como a não discriminação e a igualdade, os direitos das crianças, a liberdade de expressão e de informação, e o direito à ação e a um tribunal imparcial. Os principais parceiros, como as OSC, as instituições e organismos nacionais de defesa dos direitos humanos, a FRA e outros organismos e agências da UE, participarão na sensibilização. Serão estabelecidas ligações com outras campanhas de informação sobre direitos e com a Conferência sobre o Futuro da Europa. A Comissão também traduziu a sua página Web sobre a Carta no sítio Web Europa para todas as línguas oficiais da UE e lançou uma nova versão do Portal Europeu da Justiça, que contém informações sobre a aplicação da Carta e onde obter ajuda. 3.Tornar a Carta na bússola da UE para a era digital

A Comissão Europeia conferiu prioridade à configuração da transição digital de forma a beneficiar todos e a não deixar ninguém para trás. A distinção entre o que era anteriormente descrito como o «mundo fora de linha» e o «mundo em linha» é cada vez mais ténue, o que apresenta todo um conjunto de desafios para garantir o respeito pelos direitos fundamentais neste ambiente digital em rápida mutação. A tecnologia digital está cada vez mais omnipresente em todos os domínios da nossa sociedade e pode ser utilizada de várias formas diferentes, muitas vezes benéficas. As soluções digitais promovem a investigação científica, aumentam a produção industrial, facilitam a transição para a sustentabilidade, facilitam uma variedade de serviços e são atualmente o principal canal de comunicação pública e privada. Aumentam as possibilidades das pessoas participarem no discurso democrático e de se informarem sobre qualquer assunto. Os sistemas de inteligência artificial, em particular, podem ser utilizados para fomentar a inovação e a riqueza, podendo igualmente ser utilizados como instrumentos pelos indivíduos em todos os domínios da vida, por exemplo, nos cuidados de saúde, nas traduções ou no apoio à tomada de decisões. A automatização digital ajuda a organizar o trabalho de forma mais eficiente e permite níveis de coordenação sem precedentes. A recolha de dados sobre as ações humanas e os seus efeitos ajuda as pessoas a compreender e a moldar o mundo. Ao mesmo tempo, certas utilizações da tecnologia podem limitar a eficácia da proteção garantida pelos direitos fundamentais. A difusão de conteúdos ilegais, como o discurso de ódio e o abuso sexual de crianças, ameaça o direito à dignidade das vítimas e a propagação da desinformação põe em causa o discurso democrático e o nosso direito de acesso à informação. Nos casos em que os processos ou mesmo as decisões são automatizados, pode ser difícil assegurar a transparência e a responsabilização pelos resultados, por exemplo, quando é utilizado software complexo para decidir sobre a atribuição de trabalho. Nos casos em que as informações são inexistentes ou difíceis de obter, pode ser complicado avaliar e resolver as violações dos direitos fundamentais. Quanto mais uma ferramenta automatizada depender de fatores externos, tais como dados, contributos de pessoas ou outros sistemas para produzir um resultado, mais difícil é assegurar que tal ferramenta não viola os direitos desde o início, por exemplo devido a certos preconceitos incorporados que, em última análise, podem ter impacto na tomada de decisões em contextos profissionais. Quanto mais dados forem recolhidos sobre as pessoas, mais fácil é monitorizá-las e invadir a sua privacidade. Os efeitos de rede podem reduzir o poder dos indivíduos face às grandes organizações, por exemplo em mercados em linha ou plataformas de trabalho, em que os indivíduos têm pouco poder de negociação ou poucas possibilidades de organização. Ao mesmo tempo, as plataformas de redes sociais são também utilizadas para propagar o ódio e difundir conteúdos ilegais, por exemplo, discursos ilegais de incitação ao ódio, material pedopornográfico ou conteúdos terroristas. Além disso, é ainda necessário muito trabalho para ajudar todos os cidadãos a beneficiar de ferramentas novas e úteis nos casos em que o acesso à Internet, o equipamento ou os conhecimentos sobre a forma de utilizar essas ferramentas são escassos. Estes desafios podem ocorrer individualmente ou de forma combinada, dependendo do contexto. Podem reforçar-se mutuamente e afetar simultaneamente vários direitos fundamentais, o que deverá ser tido em conta para fazer face a estes desafios. O presente relatório apresenta alguns dos principais aspetos em que surgem desafios no domínio dos direitos fundamentais devido à utilização da tecnologia digital. Mostra quais são os direitos afetados nestes contextos, como está a evoluir a situação nos Estados-Membros da UE e como os Estados-Membros e a Comissão Europeia utilizam a Carta para ultrapassar os diferentes desafios e salvaguardar e promover os direitos das pessoas. 4.Enfrentar os desafios da moderação de conteúdos em linha Os intermediários em linha, como as plataformas de redes sociais, desempenham um papel importante na vida das pessoas e promovem novas formas de interação entre os indivíduos, as administrações públicas e as empresas. A sua utilização conduziu a um aumento significativo da informação ao dispor das pessoas e proporciona mais oportunidades para estas exercerem o seu direito à liberdade de expressão e acederem à informação, criando também múltiplos espaços de ativismo em linha e reunião de indivíduos e da sociedade civil. Grandes plataformas – a nova praça da cidade ·Algumas plataformas em linha tornaram-se tão importantes para facilitar o intercâmbio de informações que desempenham um papel fundamental no debate democrático. ·Tendo em conta que mais de metade da população da UE utiliza as redes sociais, atingindo quase 90 % nas pessoas com idades compreendidas entre os 16 e os 24 anos, os efeitos da conceção e das normas nestas plataformas têm um grande impacto societal. ·As ferramentas e mecanismos utilizados por estas plataformas para moderar os conteúdos e incentivar as pessoas a passar o máximo de tempo possível a utilizar o seu serviço desempenham um papel importante na formação da informação e das opiniões que se encontram em linha. ·A luta contra os conteúdos ilegais nestas grandes plataformas constitui um desafio, uma vez que se tornaram espaços públicos para o intercâmbio de informações sem serem legalmente responsáveis por considerações de interesse público. Ao mesmo tempo, a utilização de plataformas em linha está a amplificar problemas sociais como a polarização ou a difusão de conteúdos ilegais, muitas vezes com efeitos significativamente negativos sobre os direitos fundamentais, como a proteção dos direitos das crianças, a defesa dos consumidores, a liberdade de receber e transmitir informações e a proteção da propriedade intelectual. A escala e a velocidade de propagação de conteúdos em linha que não são, em si mesmos, ilegais, como a desinformação e as teorias da conspiração, podem afetar o discurso democrático, a confiança nas instituições e, como se constatou na sequência da pandemia de COVID-19, a saúde, a segurança e a igualdade de tratamento. A democracia na UE enfrenta muitos desafios, incluindo o populismo, um debate político cada vez mais polarizado e a erosão da confiança dos cidadãos nos processos democráticos, causados pela desinformação. Estes fenómenos são exacerbados pela interferência coordenada nas eleições por parte de países terceiros ou por interesses privados, pela difusão de desinformação e pela falta de transparência e responsabilização de anúncios políticos direcionados. Manifestam-se também preocupações quanto ao facto de a inclusão ou o diálogo com certos grupos, como os jovens, os idosos ou as pessoas com deficiência, ser insuficiente. As minorias étnicas, incluindo as comunidades ciganas, as pessoas LGBTIQ e as mulheres hesitam, em maior ou menor grau variável e consoante o contexto, em participar como candidatos políticos devido ao receio de intimidação, ameaças, assédio e discursos de ódio. Nestas circunstâncias, as medidas de proteção dos direitos fundamentais contribuem diretamente para defender os valores da UE de uma sociedade sustentável, igualitária, democrática e participativa em que prevaleçam a tolerância, a não discriminação e o pluralismo. A liberdade de expressão, incluindo em linha, está no cerne de qualquer democracia. Quaisquer medidas legislativas ou não legislativas relacionadas com a moderação de conteúdos e a responsabilidade dos intermediários em linha pelos conteúdos nos seus serviços devem ter em conta que o direito à liberdade de expressão inclui o direito de expressar ideias que possam ser consideradas críticas, ofensivas, insultuosas ou controversas e que o direito à liberdade de expressão só pode ser limitado em condições muito estritas, nomeadamente no que diz respeito à difusão de conteúdos alegadamente ilegais, como o material de incitação ao ódio. No entanto, o Tribunal Europeu dos Direitos Humanos também esclareceu que os Estados estão autorizados e podem até ter um dever positivo de combater todas as formas de expressão que propagam, incitam, promovem ou justificam o ódio contra pessoas ou grupos pertencentes a determinada etnia ou religião. Na maioria das vezes, a desinformação e a informação incorreta não são ilegais, embora possam parecer perturbadoras ou ofensivas. Embora a principal obrigação do Estado em relação ao discurso protegido pela liberdade de expressão consista em abster-se de interferências e censura, tem também a obrigação positiva de assegurar um ambiente favorável a um debate público inclusivo e pluralista, em especial no que se refere às eleições, e ao exercício da liberdade dos meios de comunicação social. Tais medidas vão além da esfera da moderação de conteúdos e estão ligadas a ações de educação e informação mais fundamentais. Os intervenientes privados, como as plataformas em linha, definem os seus próprios termos e modelo de negócio no exercício dos seus direitos à liberdade contratual e de desenvolver uma atividade sem instruções do Estado quanto ao tipo de conteúdos que seriam obrigados a alojar. Neste contexto, podem tomar medidas que afetem significativamente os utilizadores e os seus direitos. Nem sempre existe uma via de recurso contra essas decisões privadas que permita que tais decisões sejam conciliadas com direitos e interesses legítimos dos indivíduos e que garanta um certo grau de previsibilidade. Quando as plataformas em linha removem excessivamente o conteúdo legal, podem restringir significativamente a liberdade de expressão e de informação. 4.1Situação a nível dos Estados-Membros Na consulta específica realizada para efeitos do presente relatório, os intervenientes da sociedade civil referiram problemas nos Estados-Membros causados por determinados conteúdos ilegais em linha, tais como campanhas de difamação e ataques contra aqueles que trabalham para proteger os direitos de terceiros. As mulheres, em especial as mulheres de cor ou pertencentes a grupos vulneráveis, como os migrantes e os ciganos, bem como as pessoas LGBTIQ, foram consideradas desproporcionadamente visadas. As crianças que utilizam plataformas em linha estão expostas a conteúdos inapropriados, nocivos e violentos, e a predadores em linha, aumentando também os riscos de aliciamento e recrutamento para ambientes extremistas. Foi relatado que a violência sexual contra crianças foi amplificada através da Internet devido, por exemplo, ao aumento da procura de material pedopornográfico. A desinformação foi também identificada, pelas organizações da sociedade civil, como um problema que afeta a saúde e a segurança, bem como o discurso democrático em vários Estados-Membros. Existia uma preocupação generalizada quanto à falta de transparência (rótulos, partilha de alertas, notificações de exposição) e à falta de literacia mediática relativamente a conteúdos falsos ou enganosos. Embora a propagação de conteúdos ilegais e de desinformação tenha sido considerada uma ameaça, as OSC consultadas alertaram também para os efeitos na liberdade de expressão quando são utilizadas políticas de moderação pouco calibradas para combater essas ameaças. As OSC indicaram que a proteção dos direitos de autor tem sido utilizada abusivamente para silenciar vozes em linha e que as leis sobre difamação e glorificação do terrorismo têm sido utilizadas para reprimir indivíduos. A baixa precisão dos sistemas automatizados de moderação de conteúdos, em especial quando utilizados em conteúdos em que a avaliação da sua legalidade depende de um elevado nível de contextualização, suscitou preocupações quanto a impactos injustificados na liberdade de expressão por meio de retiradas de conteúdos excessivamente amplas e silenciamento de certas declarações e opiniões, incluindo de minorias. De acordo com os académicos e os inquiridos na consulta específica, a utilização de algoritmos para personalizar a exibição de conteúdos aos utilizadores pode também distorcer o discurso democrático, uma vez que se destina frequentemente a ampliar as receitas publicitárias, e não é orientada pelo objetivo de fornecer ao público informações fiáveis de interesse público. Os denunciantes recorreram à imprensa para efetuar queixas semelhantes que indicavam que os algoritmos utilizados para personalizar os conteúdos visualizados pelos utilizadores estão a causar danos. Para além dos efeitos da utilização de tais sistemas sobre os direitos fundamentais, os inquiridos na consulta específica alegaram que estes sistemas eram frequentemente utilizados de forma não transparente ou não totalmente transparente e com pouca responsabilização pelos seus resultados.

Vários Estados-Membros da UE regulamentaram os serviços digitais estabelecidos nos seus territórios. Estas leis visam garantir que os prestadores de serviços cumprem determinadas regras processuais quando os utilizadores ou as autoridades denunciam conteúdos ilegais. Por vezes, abrangem categorias específicas de conteúdos ilegais, tais como violações dos direitos de autor ou discursos ilegais de incitação ao ódio. No entanto, os requisitos precisos destas leis divergem frequentemente em vários pontos, tais como: ·as informações necessárias para a denúncia de conteúdos ilegais, ·a possibilidade de as pessoas que publicaram esse conteúdo reagirem, ·o prazo de reação dos prestadores de serviços, ·potenciais medidas obrigatórias contra denúncias abusivas, ou ·a possibilidade de apresentar casos litigiosos a um terceiro independente. Mais recentemente, perante a crescente preocupação com a propagação do discurso de ódio e de conteúdos terroristas, vários Estados-Membros adotaram, propuseram ou preveem a adoção de regras adicionais, centrando-se em especial em certas categorias de conteúdos ilegais e, por vezes, abrangendo também os prestadores de serviços estabelecidos fora do seu território. Contudo, existe uma fragmentação jurídica significativa resultante dos esforços individuais dos Estados-Membros para combater os conteúdos ilegais em linha e prever diferentes tipos de salvaguardas para a liberdade de expressão. Vários Estados-Membros, bem como o Conselho e o Parlamento Europeu, apelaram a que estas preocupações comuns fossem abordadas a nível da UE. Além disso, vários Estados-Membros observaram que a falta de cooperação transfronteiras entre as autoridades nacionais dificulta uma supervisão eficaz das plataformas em linha que operam além-fronteiras . 4.2A resposta estratégica da UE Com base nos apelos dos Estados-Membros, foram adotadas várias iniciativas setoriais a nível da UE para resolver o problema de tipos específicos de conteúdos ilegais, como os relacionados com o terrorismo, o abuso sexual de crianças, o incitamento ao ódio e à violência, o tráfico de seres humanos, produtos perigosos e violações dos direitos de autor, garantindo simultaneamente a proteção dos direitos fundamentais. Diretiva serviços de comunicação social audiovisual A Diretiva Serviços de Comunicação Social Audiovisual (Diretiva SCSA) revista foi adotada em 2018. A diretiva inclui medidas destinadas a proteger os menores de conteúdos audiovisuais e comunicações comerciais suscetíveis de lhes causar prejuízos físicos, mentais ou morais. Além disso, os Estados-Membros devem assegurar que os serviços de comunicação social audiovisual não contenham qualquer incitamento à violência ou ao ódio contra pessoas com base num dos motivos referidos no artigo 21.º da Carta dos Direitos Fundamentais da UE. O prazo para a transposição desta diretiva terminou em 19 de setembro de 2020. Em novembro de 2020, a Comissão instaurou procedimentos de infração (notificações para cumprir) contra 23 Estados-Membros que não tinham transposto a diretiva e muitos destes transpuseram-na no ano seguinte. Em setembro de 2021, a Comissão enviou um segundo aviso (pareceres fundamentados) a nove Estados-Membros por incumprimento de notificação da transposição completa. A aplicação da Diretiva Serviços de Comunicação Social Audiovisual revista é essencial não só para os intervenientes no mercado, mas também para os indivíduos (incluindo os telespectadores e os menores). Diretiva relativa aos Direitos de Autor no Mercado Único Digital A Diretiva Direitos de Autor foi adotada em abril de 2019 e pretende assegurar que os titulares de direitos recebem uma compensação equitativa pela utilização das suas obras. Desta forma, garante um equilíbrio entre direitos fundamentais concorrentes, tais como o direito à propriedade intelectual, a liberdade de expressão e de informação, a liberdade das ciências e o direito à educação e à diversidade cultural. A diretiva introduz exceções obrigatórias aos direitos de autor que protegem a liberdade de expressão dos utilizadores que geram e carregam conteúdos em serviços de partilha de conteúdos em linha. A diretiva exigia que a Comissão organizasse um diálogo entre as partes interessadas com vista a debater as melhores práticas para a cooperação entre os prestadores de serviços de partilha de conteúdos em linha e os titulares de direitos, tendo especialmente em conta a necessidade de conciliar os direitos fundamentais com a utilização de exceções e limitações. Na sequência deste diálogo, em junho de 2021, a Comissão adotou orientações para apoiar a aplicação coerente do artigo 17.º da diretiva, que estabelece novas regras sobre a utilização de conteúdos protegidos por serviços de partilha de conteúdos em linha . As orientações fornecem indicações práticas sobre as principais disposições do artigo 17.º, ajudando os intervenientes no mercado a cumprir melhor a legislação nacional baseada na diretiva e tendo em conta os pontos de vista dos Estados-Membros e das partes interessadas. Código de conduta para a luta contra discursos ilegais de incitação ao ódio racistas e xenófobos Em 2016, a Comissão assinou um código de conduta voluntário com as principais plataformas em linha para garantir que as notificações de discursos ilegais de incitação ao ódio racistas e xenófobos sejam rapidamente avaliadas, não só em relação às condições de serviço das empresas, mas também à legislação dos Estados-Membros utilizada para aplicar a legislação da UE que criminaliza os discursos de ódio racistas e xenófobos. A observância do código de conduta é objeto de acompanhamento regular. Produz bons resultados e promoveu também uma abordagem colaborativa entre as plataformas em linha, os Estados‑Membros e a sociedade civil, a fim de assegurar uma moderação de conteúdos de elevada qualidade, em que é necessária uma compreensão aprofundada do contexto cultural, linguístico e histórico dos conteúdos contestados. Recomendação relativa à segurança dos jornalistas e outros profissionais da comunicação social A segurança tornou-se um motivo de grande preocupação para os jornalistas devido não só aos incitamentos ao ódio em linha e às ameaças de violência física, mas também aos riscos de cibersegurança e à vigilância ilegal. Em 16 de setembro de 2021, a Comissão Europeia emitiu uma Recomendação para a Proteção, a Segurança e a Capacitação dos Jornalistas. A recomendação incentiva os Estados-Membros a promover a cooperação entre as plataformas em linha e as organizações que possuam conhecimentos especializados na resposta a ameaças contra jornalistas, nomeadamente encorajando o seu potencial papel enquanto sinalizadores de confiança. Os jornalistas e outros profissionais da comunicação social não são apenas alvos do incitamento ao ódio e das ameaças de violência física em linha, mas também podem ser sujeitos a vigilância ilegal, e a recomendação indica que os organismos nacionais competentes em matéria de cibersegurança devem, mediante pedido, ajudar os jornalistas que procuram determinar se os seus dispositivos ou contas em linha foram comprometidos a obter os serviços de investigadores forenses em matéria de cibersegurança. Os Estados-Membros devem igualmente promover um diálogo regular entre esses organismos de cibersegurança, os meios de comunicação social e o setor, tendo em vista, nomeadamente, promover a sensibilização dos jornalistas para a cibersegurança e melhorar as suas competências digitais. Regulamento relativo ao combate à difusão de conteúdos terroristas em linha A segurança e o respeito dos direitos fundamentais não são objetivos incompatíveis, mas sim coerentes e complementares. A segurança dos ambientes físico e em linha exige que se combatam os conteúdos ilegais em linha. A fim de assegurar a supressão dos conteúdos terroristas, o Parlamento Europeu e o Conselho adotaram, em 2021, o Regulamento relativo ao combate à difusão de conteúdos terroristas em linha. Este regulamento contém uma série de garantias ligadas aos direitos fundamentais, em especial a liberdade de expressão. Por exemplo, as decisões de supressão por parte das autoridades nacionais só podem ser emitidas para conteúdos terroristas que se enquadrem na definição constante do regulamento, e essas decisões devem justificar a razão pela qual o material em causa é considerado um conteúdo terrorista. O regulamento isenta os conteúdos difundidos para fins educativos, jornalísticos, artísticos ou de investigação e que são difundidos para fins de sensibilização contra atividades terroristas. As plataformas em linha não são obrigadas a utilizar ferramentas automatizadas para identificar ou suprimir, de forma proativa, conteúdos terroristas, mas, se forem utilizadas medidas técnicas, devem ser previstas garantias, em especial a supervisão e a verificação humana para garantir a exatidão. A partir de março de 2023, os Estados-Membros e as plataformas em linha terão também de publicar relatórios anuais sobre as medidas tomadas para suprimir conteúdos terroristas e sobre o funcionamento de quaisquer ferramentas automatizadas que possam ter sido utilizadas. Legislação sobre a luta contra o abuso sexual de crianças em linha

Embora as medidas regulamentares para combater os conteúdos ilegais se centrem, em grande medida, em conteúdos acessíveis ao público, como os publicados nas redes sociais ou em sítios Web, o desafio de combater o material pedopornográfico partilhado através de comunicações interpessoais, incluindo nas ferramentas de comunicação interpessoal dos serviços das redes sociais, também tem de ser abordado. Uma legislação provisória que entrou em vigor em agosto de 2021 garante que determinados serviços de comunicações em linha, tais como os serviços de correio eletrónico baseados na Web ou de mensagens, podem continuar a utilizar tecnologias específicas, na medida do estritamente necessário, para detetar material pedopornográfico, denunciá-lo e removê-lo, assegurando uma série de garantias para salvaguardar a privacidade e a proteção dos dados pessoais nos termos do Regulamento Geral sobre a Proteção de Dados. Os mecanismos de deteção do abuso sexual de crianças nas comunicações interpessoais arriscam-se a ter um impacto nos direitos fundamentais, em especial na confidencialidade das comunicações, na proteção dos dados pessoais ou na liberdade de expressão. O regulamento provisório visa atenuar esse impacto, limitando a utilização às tecnologias menos intrusivas da privacidade, em conformidade com a tecnologia mais avançada do setor. O regulamento prevê igualmente mecanismos de reparação que devem ser estabelecidos para garantir que as pessoas possam apresentar reclamações aos prestadores se o seu conteúdo for indevidamente removido. A Comissão está também a preparar uma proposta legislativa para substituir a medida provisória, proporcionar segurança jurídica aos prestadores de serviços e assegurar uma abordagem uniforme para detetar, remover e denunciar material pedopornográfico, assegurando simultaneamente o justo equilíbrio entre os direitos das crianças e a necessidade de proteger as crianças contra os abusos sexuais, bem como o direito à vida privada e às comunicações de todos os utilizadores de serviços em linha. Estratégia da UE em matéria de luta contra o tráfico de seres humanos 2021-2025 Combater o modelo de negócio digital dos traficantes é uma das prioridades da Estratégia da UE em matéria de luta contra o tráfico de seres humanos 2021-2025, apresentada pela Comissão em abril de 2021. Os prestadores de serviços de Internet e as empresas conexas fazem parte da solução, apoiando os esforços de luta contra o tráfico com a identificação e remoção de material em linha associado à exploração e abuso das vítimas de tráfico. A Comissão irá manter um diálogo com as empresas tecnológicas e do setor da Internet pertinentes, a fim de reduzir a utilização de plataformas em linha para o recrutamento e a exploração de vítimas. A Comissão facilitará igualmente eventuais diálogos semelhantes mantidos pelos Estados-Membros a nível nacional. Proposta de regulamento relativo aos serviços digitais A proposta de Regulamento Serviços Digitais, adotada pela Comissão em dezembro de 2020, e atualmente a ser debatida pelos colegisladores, dá um enquadramento às responsabilidades dos intermediários em linha. Sem prejuízo das regras setoriais da UE, como as relativas aos direitos de autor ou aos conteúdos terroristas em linha, prevê um conjunto único de regras horizontais na UE para uma governação equilibrada da moderação dos conteúdos em linha. A proposta assegura a proteção adequada de todos os direitos fundamentais, incluindo a liberdade de expressão e o direito à vida privada dos utilizadores, a liberdade de empresa das plataformas, a liberdade contratual e os direitos de propriedade intelectual. Visa também atenuar os riscos para pessoas em situações vulneráveis e grupos vulneráveis, a fim de as proteger de ameaças, intimidações ou comportamentos discriminatórios, e destina-se a proteger o direito à dignidade humana de todos os utilizadores de serviços em linha. A proposta de regulamento pretende alcançar estes objetivos pelos seguintes meios: ·Preservando, em grande medida, o atual regime de responsabilidade para os intermediários em linha, incluindo uma proibição de obrigações gerais de vigilância ou de apuramento dos factos. Esta abordagem tem como base a atual Diretiva Comércio Eletrónico, que procura ter em conta: i) a proteção proporcionada e adequada do direito à liberdade de expressão, limitando os incentivos à remoção de conteúdos legais, e da liberdade de empresa, assegurando a proporcionalidade dos esforços solicitados aos intermediários em linha e protegendo os seus utilizadores profissionais legítimos; e ii) preocupações de ordem pública relacionadas com a difusão de diferentes tipos de conteúdos ilegais, assegurando que os mesmos sejam rapidamente removidos pelos intermediários nas condições previstas na lei. ·Estabelecendo obrigações de devida diligência claras e proporcionadas para os intermediários em linha, a fim de garantir que os conteúdos ilegais são combatidos de forma adequada e transparente e que os utilizadores podem fazer valer os seus direitos. A proposta prevê igualmente um conjunto rigoroso de garantias para os processos de moderação de conteúdos, incluindo os baseados em termos e condições estabelecidos de forma privada. ·Impondo às plataformas em linha de muito grande dimensão – aquelas que, devido ao seu alcance, adquiriram um papel central e sistémico na facilitação do debate público – a obrigação de avaliarem e atenuarem os riscos que os seus serviços representam, nomeadamente para certos direitos fundamentais: respeito pela vida privada e familiar, liberdade de expressão e de informação, não discriminação e os direitos das crianças. As estratégias de atenuação dos riscos também têm de ter em conta os efeitos potencialmente negativos dos algoritmos de amplificação de conteúdos das plataformas, tais como sistemas de recomendação ou de publicidade. As plataformas em linha de muito grande dimensão estão também sujeitas a uma maior responsabilização, dando mais opções aos utilizadores nas suas interações em linha e permitindo que auditores independentes e investigadores habilitados controlem os seus sistemas. Combater a desinformação e regular a propaganda política em linha A propagação de desinformação, informação incorreta e mitos de conspiração pode resultar em debates polarizadores e pôr em risco a saúde, a segurança e o ambiente. A desinformação pode também prejudicar a capacidade de as pessoas tomarem decisões informadas, baseadas em factos corretos. Em alguns casos, a desinformação constitui um discurso que pode ser legitimamente restringido pelo Estado (como o incitamento racista e xenófobo à violência e ao ódio). No entanto, muitas vezes está protegido pelo direito à liberdade de expressão, mesmo que careça de quaisquer provas científicas ou de base em acontecimentos reais. Quando se trata de discursos protegidos, os Estados devem abster-se de censura. Para serem eficazes, as ações destinadas a limitar o alcance dos mitos de desinformação e de conspiração têm de ser acompanhadas da promoção de um ambiente favorável a um debate público inclusivo e pluralista. Este aspeto é especialmente relevante em relação às eleições. Neste contexto, a Comissão continuou, em 2020-2021, a desenvolver várias ações destinadas a tornar o ambiente em linha mais transparente e os seus intervenientes responsáveis, a capacitar os utilizadores e a promover um debate democrático aberto em linha. Estas ações incluíram: i) apoio a verificadores de factos independentes e investigadores académicos, particularmente através do Observatório Europeu dos Meios de Comunicação Digitais; ii) medidas para melhorar a literacia mediática; e iii) o acompanhamento de um Código de conduta sobre Desinformação autorregulador. Com base nos resultados destas atividades de acompanhamento, a Comissão emitiu igualmente orientações sobre a forma como os atuais e os novos signatários do código de conduta, incluindo as aplicações de mensagens privadas, o setor da publicidade e outras partes interessadas, poderiam reforçar o âmbito e a aplicação do código e assegurar um quadro de acompanhamento mais sólido. Para promover o discurso democrático, o Plano de Ação para a Democracia Europeia estabelece medidas para promover eleições livres e justas, reforçar a liberdade dos meios de comunicação social e combater a desinformação. Estas incluem a proposta sobre a transparência e o direcionamento da propaganda política, adotada em novembro de 2021 , como parte das medidas destinadas a proteger a integridade das eleições e o debate democrático aberto. Estas regras propostas exigem que qualquer anúncio de cariz político seja claramente identificado enquanto tal e que inclua informações sobre as fontes e o montante de financiamento. As técnicas de direcionamento e de amplificação das campanhas políticas terão de ser explicadas publicamente com um nível de detalhe sem precedentes e serão proibidas em caso de utilização de dados pessoais sensíveis sem o consentimento explícito das pessoas em causa. Por último, o novo Plano de Ação para a Educação Digital (2021-2027) propõe o desenvolvimento de orientações para professores e educadores sobre o combate à desinformação e a promoção da literacia digital. Proposta de um novo Regulamento relativo à Segurança Geral dos Produtos Além disso, para ter em conta outros requisitos setoriais, a Comissão, no âmbito da revisão do quadro relativo à segurança dos produtos da UE, adotou e publicou, em junho de 2021, uma proposta de um novo Regulamento relativo à Segurança Geral dos Produtos. Baseando-se na proposta de regulamento relativo aos serviços digitais, esta proposta introduziria requisitos adicionais para os mercados em linha no que diz respeito aos produtos perigosos como uma categoria específica de conteúdos ilegais. A proposta está atualmente a ser debatida pelos colegisladores.

5.Salvaguardar os direitos fundamentais nos casos em que a IA é utilizada A utilização de tecnologias de inteligência artificial (IA) pode ter efeitos positivos significativos nas nossas sociedades. Pode aumentar a eficiência dos processos ou impulsionar a inovação e a investigação. Pode também ser utilizada para promover uma série de direitos fundamentais, como os direitos à liberdade de expressão e de informação ou os cuidados de saúde, e para fomentar questões importantes de interesse público, como a segurança pública ou a saúde pública. Por outro lado, quando a IA é utilizada sem salvaguardas e controlos de qualidade adequados para automatizar ou apoiar processos de tomada de decisão ou para atividades como a vigilância, tal também pode violar os direitos das pessoas. Tais violações podem ocorrer em grande escala, dependendo da amplitude da utilização de um sistema, e podem ser difíceis de prevenir ou detetar quando o sistema de IA não é suficientemente transparente ou as pessoas não têm conhecimento da sua utilização. Por exemplo, a utilização da IA para inferir informações sobre as pessoas pode afetar a proteção de dados e a privacidade. O enviesamento em algoritmos ou dados de treino, tais como o enviesamento de género ou o enviesamento associado à origem étnica ou racial, pode conduzir a resultados injustos e discriminatórios. Se um sistema para estimar o potencial sucesso no trabalho for treinado sobretudo com dados relativos a homens, é provável que tenha um desempenho menos bom quando utilizado para analisar os dados das mulheres, o que pode conduzir a discriminação. Além disso, a utilização de IA pode também afetar o direito à dignidade humana, à boa administração, à proteção dos consumidores, à segurança e assistência social, à liberdade de expressão, à liberdade de reunião, à educação, ao asilo, à negociação e ação coletiva, a condições de trabalho justas e equitativas, ao acesso a cuidados preventivos, à diversidade cultural e linguística, os direitos à proteção de dados e ao respeito pela vida privada, bem como os direitos dos grupos vulneráveis, como as crianças. Se esses sistemas forem utilizados no contexto policial ou judicial, podem igualmente afetar a presunção de inocência e o direito a um tribunal imparcial e à defesa. Além disso, a inacessibilidade ou a inexistência de informações pertinentes sobre sistemas automatizados impede o cumprimento efetivo das obrigações relativas aos direitos fundamentais e o acesso das pessoas a vias de recurso. O que é a IA e quais são as características específicas que podem conduzir a riscos?



- IA é um termo para um conjunto de tecnologias que registaram uma rápida evolução nos últimos anos. No caso de certos tipos de sistemas de IA, as suas funções seguem regras que são geradas automaticamente e não explicitamente programadas por pessoas. Esta situação pode, por vezes, conduzir a resultados impressionantes, mas pode também colocar desafios. Com base na definição de IA da OCDE, o Regulamento Inteligência Artificial (AIA) proposto define IA como um programa informático desenvolvido com abordagens de aprendizagem automática, baseadas na lógica e no conhecimento ou estatísticas, capaz de, tendo em vista um determinado conjunto de objetivos definidos por seres humanos, criar resultados, tais como conteúdos, previsões, recomendações ou decisões, que influenciam os ambientes com os quais interage. - A opacidade (falta de transparência) e a complexidade (operação com muitos componentes e processos diferentes) de certos sistemas de IA tornam difícil identificar e provar possíveis violações da lei, incluindo disposições que garantam o respeito pelos direitos fundamentais, e localizar a origem de eventuais erros ou anomalias do sistema. - Um subconjunto específico de aplicações de IA pode ser objeto de uma adaptação contínua, mesmo durante a sua utilização, e mudar e evoluir de formas imprevistas, que não podem ser facilmente monitorizadas. Tal conduz a um certo grau de imprevisibilidade que pode afetar a segurança ou os direitos fundamentais. - O desempenho autónomo dos sistemas pode afetar a segurança, uma vez que alguns sistemas de IA requerem pouca ou nenhuma intervenção humana para a execução de tarefas. - A dependência de determinados sistemas em relação aos dados e possíveis enviesamentos incorporados em algoritmos pode causar ou aumentar os enviesamentos e erros sistémicos. Se estes sistemas não forem concebidos, testados e utilizados de forma adequada, podem agravar os resultados negativos, como a discriminação. 5.1Situação e ações a nível dos Estados-Membros Nos últimos anos, os Estados-Membros da UE procuraram dar resposta aos desafios colocados pela utilização das tecnologias de IA. Muitos desenvolveram estratégias nacionais de IA, nas quais salientam a necessidade de garantir o respeito dos direitos fundamentais. Além disso, os Estados-Membros desenvolveram ou planeiam desenvolver orientações e normas éticas que ajudem aqueles que utilizam ferramentas de IA a garantir a transparência, a rastreabilidade e a robustez, a resolver potenciais enviesamentos e a encontrar formas eficazes de cumprir as suas obrigações de respeitar os direitos fundamentais. Em alguns casos, as orientações e os conhecimentos especializados são desenvolvidos por académicos ou por grupos de peritos criados para o efeito. Também ao agirem em conjunto a nível da UE, os Estados-Membros sublinharam a necessidade de assegurar que os direitos consagrados na Carta sejam plenamente respeitados e apelaram a uma reapreciação da legislação pertinente em vigor para torná-la adequada à sua finalidade, a fim de dar resposta às novas oportunidades e desafios suscitados pela IA. Em outubro de 2020, 26 dos 27 Estados-Membros adotaram um documento intitulado «A Carta dos Direitos Fundamentais no contexto da inteligência artificial e da transformação digital», no qual apelavam a uma resposta a desafios como a opacidade, a complexidade e o enviesamento, bem como um certo grau de imprevisibilidade e de comportamento parcialmente autónomo de certos sistemas de IA, a fim de garantir o respeito pelos direitos fundamentais e facilitar a aplicação das normas jurídicas. Os Estados-Membros sublinharam a importância de envolver várias partes interessadas, incluindo da sociedade civil, para beneficiarem dos seus conhecimentos especializados. Aquando da adoção do presente relatório, nenhum Estado-Membro da UE tinha adotado legislação específica para dar resposta aos desafios em matéria de direitos fundamentais suscitados pela utilização de IA. Pelo contrário, as autoridades dos Estados-Membros parecem recorrer à legislação existente. Em 2017, um tribunal italiano ordenou que o Ministério da Educação italiano divulgasse um algoritmo de tomada automatizada de decisões que utilizou para a gestão da mobilidade dos trabalhadores com base no direito de acesso aos documentos, que também permite o direito a um recurso jurisdicional efetivo. Em 2018, o Tribunal Nacional da Não Discriminação e da Igualdade finlandês considerou discriminatório um caso de classificação de crédito com base em estatísticas relativas ao género, local de residência, idade e língua, e não numa avaliação individual. Em fevereiro de 2020, um tribunal neerlandês invalidou a legislação neerlandesa que tinha estabelecido um sistema de deteção de fraudes com base no direito fundamental à vida privada consagrado na Convenção Europeia dos Direitos do Homem. A «Indicação de Risco do Sistema» (Syri) foi utilizada para analisar dados recolhidos por diferentes autoridades públicas para detetar pessoas potencialmente envolvidas em fraudes com prestações sociais. O tribunal neerlandês considerou que a utilização da Syri não era suficientemente transparente e que a sua ingerência no direito à vida privada não era proporcional ao objetivo de deteção de fraudes. Estes exemplos mostram que os Estados-Membros já enfrentaram os desafios colocados pela utilização da IA em relação aos direitos fundamentais. A abordagem proposta pela Comissão aos desafios relacionados com a IA visa reforçar a proteção efetiva dos direitos fundamentais, promovendo simultaneamente a inovação no domínio da IA. 5.2Proposta da Comissão para regulamentar a IA de risco elevado Em abril de 2021, a Comissão apresentou uma proposta de regulamento relativo à IA (Regulamento Inteligência Artificial). Os principais objetivos do Regulamento Inteligência Artificial proposto é a proteção dos direitos fundamentais e da segurança e a criação de um mercado único para sistemas de IA fiáveis. A proposta ajuda a garantir que os sistemas de IA de risco elevado são concebidos e utilizados em conformidade com os direitos fundamentais e que as autoridades e os tribunais nacionais competentes podem investigar e resolver de forma mais eficaz eventuais violações das obrigações em matéria de direitos fundamentais. A proposta segue uma abordagem baseada no risco. Certos sistemas de IA são totalmente proibidos, como os que utilizam técnicas subliminares e os utilizados pelas autoridades públicas para a classificação social, uma vez que violam os valores da UE. É igualmente proibida a utilização de sistemas de identificação biométrica à distância em espaços acessíveis ao público para efeitos de manutenção da ordem pública, a menos que se apliquem exceções e salvaguardas claramente definidas. Os sistemas de IA de risco elevado terão de cumprir um conjunto de requisitos e seguir procedimentos de avaliação da conformidade antes de serem colocados no mercado ou colocados em serviço. Esses requisitos garantem uma documentação e testagem adequadas dos sistemas de IA de risco elevado, bem como uma qualidade de dados, rastreabilidade, supervisão humana, solidez, precisão e cibersegurança suficientes. Aplicar-se-ão sempre que os sistemas de IA sejam utilizados em domínios críticos, como a identificação biométrica, a educação, o emprego, os serviços públicos e privados essenciais, tais como créditos, ou as prestações de assistência social, a manutenção da ordem pública, a migração e o controlo das fronteiras, bem como o sistema judiciário. Os sistemas de IA que são componentes de segurança de determinados produtos regulamentados (por exemplo, máquinas, dispositivos médicos) serão também abrangidos pelos mesmos requisitos e terão de ser verificados antes de poderem ser colocados no mercado da UE ou colocados em serviço. A proposta garante que os utilizadores dos sistemas de IA, como as empresas que interagem com clientes ou as autoridades públicas que tomam decisões, recebem informações adequadas dos criadores dos sistemas, a fim de assegurar a utilização adequada das suas aplicações e de lhes permitir cumprir as suas obrigações ao abrigo da legislação em matéria de direitos fundamentais. Caso ocorram violações dos direitos fundamentais através da utilização de sistemas de IA, serão facilitadas vias de recurso eficazes às pessoas afetadas através da transparência e da rastreabilidade dos sistemas de IA, associadas a fortes controlos ex post por parte das autoridades competentes. As autoridades de controlo responsáveis pela aplicação dos direitos fundamentais, como as autoridades de proteção de dados, os organismos de promoção da igualdade ou os organismos de defesa dos consumidores, terão acesso a toda a documentação sobre os sistemas de IA de risco elevado abrangidos pelo seu mandato. Sempre que necessário, poderão cooperar com as autoridades de fiscalização do mercado para testar os respetivos sistemas de IA.

No caso de sistemas de IA específicos, as obrigações de transparência para com as pessoas afetadas minimizarão o risco de manipulação, em especial no caso de sistemas de conversação automática (programas de computador que podem responder a perguntas numa conversa em linha) ou de «falsificações profundas» (imagens, conteúdos áudio ou vídeo produzidos artificialmente ou manipulados que se assemelham a pessoas, objetos, locais ou outras entidades ou eventos existentes e que parecem falsamente autênticos ou verdadeiros). As pessoas devem também ser informadas quando são utilizados sistemas de reconhecimento de emoções ou de categorização biométrica, o que as ajudará a fazer valer os seus direitos ao abrigo da legislação em vigor em matéria de proteção de dados. A proposta está atualmente em negociação com os colegisladores. 5.3Interação com a legislação setorial – o exemplo da solvabilidade e da classificação de crédito A proposta de Regulamento Inteligência Artificial funcionará em conjunto com outra legislação que estabeleça regras substantivas para a utilização de sistemas de IA em contextos específicos claramente definidos. Por exemplo, os mutuantes utilizam frequentemente técnicas automatizadas de tomada de decisões, incluindo sistemas de IA, para avaliar a solvabilidade ou a classificação de crédito. Esses mutuantes baseiam-se em dados diferentes, muitos dos quais não são fornecidos pelo consumidor ou são-lhe desconhecidos. Esta situação suscita preocupações quanto à proteção dos dados pessoais, à discriminação direta ou indireta e à proteção dos consumidores. A Diretiva Crédito aos Consumidores e a Diretiva Crédito Hipotecário contêm disposições sobre a avaliação da solvabilidade. Em junho de 2021, a Comissão adotou uma nova proposta de diretiva relativa aos créditos aos consumidores, que revoga e substitui a atual Diretiva Crédito aos Consumidores. Propõe regras relativas à concessão de créditos aos consumidores, segundo as quais os Estados‑Membros terão de assegurar a documentação dos procedimentos e as informações utilizadas nas avaliações da solvabilidade. Além disso, as avaliações terão de se basear em informações pertinentes e precisas sobre as circunstâncias económicas e financeiras (por exemplo, receitas e despesas) e não devem basear-se em dados como os dados das redes sociais. Os consumidores terão também direito a uma explicação sobre a forma como foi tomada uma decisão sobre a sua solvabilidade, a expressar o seu ponto de vista e a obter intervenção humana, refletindo os princípios do Regulamento Geral sobre a Proteção de Dados (RGPD) relativos à tomada automatizada de decisões. A nova proposta inclui igualmente um artigo sobre a não discriminação, especificando que as condições a preencher para a concessão de um crédito não devem discriminar os consumidores que residam legalmente na União com base na sua nacionalidade ou local de residência ou em qualquer um dos motivos referidos no artigo 21.º da Carta dos Direitos Fundamentais da UE. A proposta está atualmente em negociação com os colegisladores. 5.4Competências Nos casos em que são utilizados sistemas de IA, os trabalhadores têm de ser adequadamente qualificados para garantir o respeito pelos direitos fundamentais e uma supervisão humana adequada. As autoridades de controlo necessitarão também de pessoal com competências técnicas específicas para cumprir eficazmente os seus mandatos. Em setembro de 2020, a Comissão adotou o Plano de Ação para a Educação Digital para 2021-2027. Visa promover as competências digitais, nomeadamente no que diz respeito à IA, e inclui o desenvolvimento de orientações éticas no domínio da IA e de dados na educação e formação. Além disso, todos os Estados-Membros que adotaram estratégias nacionais de IA integraram uma componente de competências nas suas estratégias, por exemplo, através de reformas dos sistemas de ensino para reforçar o pensamento computacional ou iniciativas para adaptar as políticas de aprendizagem ao longo da vida e de requalificação. 6.Combater o fosso digital A conectividade digital e as competências digitais permitem a participação ativa na sociedade. Um número crescente de atividades essenciais estão a passar a ser realizadas em linha, desde a procura de emprego, a realização de trabalho através do teletrabalho, a prossecução dos estudos até à interação com uma administração pública ou à marcação de uma consulta médica. Mas nem todos estão em linha. As pessoas que não estão em linha podem ver afetado o exercício dos seus direitos. Por exemplo, podem ver afetados os seus direitos numa sociedade democrática, incluindo o seu direito à liberdade de expressão e de informação, bem como o seu direito de ser eleito nas eleições autárquicas, uma vez que as campanhas políticas são cada vez mais organizadas em linha. O surto da pandemia de COVID-19 agravou estas dificuldades no acesso aos serviços públicos para as pessoas que não dispõem dos equipamentos ou dos conhecimentos digitais necessários, com o encerramento dos escritórios e as solicitações para comunicarem com as respetivas administrações nacionais por via eletrónica. Este fenómeno é frequentemente apelidado de «fosso digital». Hoje em dia, 46 % dos europeus não possuem competências digitais básicas. Este facto é reconhecido pelo Pilar Europeu dos Direitos Sociais, que inclui as comunicações digitais entre os serviços essenciais a que todos devem ter acesso e apela a medidas de apoio às pessoas necessitadas. Aqueles que não têm acesso regular à Internet, as competências necessárias para utilizar estes serviços, ou que não podem aceder a um produto ou serviço digital devido a deficiência física ou cognitiva, correm cada vez mais o risco de ser excluídos e enfrentam dificuldades em fazer uso dos seus direitos. No caso de serviços públicos exclusivamente acessíveis através de meios digitais, aqueles que não estão conectados podem ver-se impossibilitados de exercer os seus direitos ou necessitariam de ajuda para esse efeito. A título de exemplo, o Haut Conseil du Travail, órgão consultivo do Ministério dos Assuntos Sociais francês, estima que uma em cada cinco pessoas em França tem dificuldades em concluir procedimentos administrativos em linha e adverte para o facto de a digitalização poder comprometer o princípio da igualdade de acesso aos serviços públicos se não forem mantidos meios alternativos de acesso. Do mesmo modo, à medida que cada vez mais atividades económicas têm uma componente digital, o exercício do direito de acesso a serviços de interesse económico geral tornou-se cada vez mais dependente do acesso à Internet. As crianças sem um dispositivo conectado em casa têm dificuldade em participar à distância na escola, o que afeta os seus direitos enquanto crianças e o direito à educação. Além disso, quando os sítios Web e as aplicações móveis não estão adaptados às necessidades das pessoas com deficiência, o seu direito à integração pode ser prejudicado. Tendo em conta os desafios colocados pelo fosso digital, os Estados-Membros e a Comissão estão a adotar uma série de medidas para garantir que ninguém fique para trás. Tal como anunciado no Plano de Ação para o Pilar Europeu dos Direitos Sociais, em 2022, a Comissão publicará um relatório sobre o acesso a serviços essenciais, que abrangerá igualmente o acesso às comunicações digitais, apresentando uma panorâmica da situação na UE-27, bem como um levantamento das medidas nacionais e da UE em vigor e das boas práticas de apoio ao acesso das pessoas necessitadas. 6.1Redução geral do fosso digital O facto de, durante a pandemia, muitas atividades terem passado a ser realizadas em linha é não só um desafio, mas também uma oportunidade. Os Estados-Membros desenvolveram projetos que a UE financiará para ajudar a economia a recuperar da recessão causada pela pandemia. Estes projetos incluem medidas para combater o fosso digital e assegurar direitos digitais inclusivos, bem como para promover a digitalização do trabalho. Dois planos nacionais podem ser mencionados a título de exemplo. A Roménia tenciona investir na criação de conteúdos educativos e recursos acessíveis, como vídeos e aulas interativas, e desenvolver programas de literacia digital acessíveis para estudantes com deficiência. A Alemanha pretende apoiar a aquisição de dispositivos digitais para professores a nível nacional. Além disso, criará uma plataforma para a aprendizagem digital ao longo da vida e será dada especial atenção ao apoio às pessoas formalmente menos qualificadas. De um modo mais geral, existem várias iniciativas promissoras em diferentes Estados‑Membros. Em fevereiro de 2021, a Bélgica lançou um convite público à apresentação de projetos para apoiar as mulheres empresárias afetadas pela pandemia de COVID-19, incluindo uma oferta de orientações para a digitalização. A Bélgica está também a investir em organizações locais que visem aumentar as competências digitais dos jovens em situações económicas precárias. Portugal está a mobilizar jovens voluntários para ajudar a educar os adultos sobre a transição digital, com base numa rede nacional de 1 500 centros de formação e numa série de ferramentas e recursos gratuitos. Prevê-se que este programa de inclusão digital beneficie um milhão de pessoas e será implementado em parceria com as autoridades locais e as organizações locais. Seguindo uma lógica semelhante à da iniciativa WiFi4EU, a Itália subvenciona o acesso à Internet para determinadas pessoas e deu início ao projeto «Piazza Wifi Italia», que permite a mais de 400 000 pessoas ligarem-se fácil e gratuitamente, através de uma aplicação específica, a uma rede Wi-Fi gratuita em todo o país. Em março de 2020, este projeto foi alargado a instalações de saúde, incluindo hospitais. É provável que as infraestruturas digitais continuem a evoluir e a UE tomou medidas numa série de domínios para melhorar a conectividade. O principal objetivo da conectividade na Década Digital é que todos os agregados familiares europeus tenham acesso à cobertura de Internet de alta velocidade até 2025 e à conectividade a gigabits até 2030. Em março de 2021, a Comissão e os Estados-Membros chegaram a acordo sobre um conjunto de instrumentos de conectividade para promover a implantação de redes digitais e facilitar o acesso ao espetro 5G. A revisão da Diretiva Redução dos Custos da Banda Larga, prevista para 2022, visa continuar a apoiar a implantação de redes digitais através da redução dos encargos administrativos e do custo e tempo necessário para essa implantação. Além disso, a visão a longo prazo da Comissão para as zonas rurais, de junho de 2021, visa combater o fosso urbano/rural, viabilizando o acesso a conectividade rápida à Internet, 5G (inclusive através de financiamento da UE) e tecnologia digital, bem como reforçando as competências digitais. A conectividade em banda larga de alta velocidade é um fator facilitador essencial para a transição digital e a recuperação pós-COVID-19. A Comissão comprometeu-se a reduzir as lacunas de acessibilidade digital nas zonas rurais e a UE investirá em infraestruturas de rede, uma norma para a transmissão de dados sem fios, e fibra, a fim de garantir que todos os cidadãos da UE tenham acesso a infraestruturas de conectividade digital eficientes do ponto de vista energético e preparadas para o futuro. 6.2Administração pública A tecnologia digital permite que as pessoas beneficiem de um acesso mais amplo a serviços públicos e a informações que as podem ajudar a gerir a sua vida quotidiana e a exercer os seus direitos, em especial as liberdades de estabelecimento e de prestação de serviços. Desde a Declaração de Malmö , assinada numa cimeira na Suécia em 2009, os Estados-Membros da UE realizaram progressos constantes na modernização das administrações públicas. A Declaração de Taline de 2017 deu um impulso à digitalização dos serviços públicos para as pessoas e dos serviços públicos transfronteiriços para as empresas . Mais recentemente, a Declaração de Berlim, de dezembro de 2020, incluiu, entre os compromissos dos Estados‑Membros, a adoção de medidas em prol da proteção dos direitos fundamentais em linha e a Declaração de Lisboa, de junho de 2021, visa garantir que «ninguém fica para trás». Os esforços envidados pelos Estados-Membros incluem também a digitalização da justiça. Os Estados-Membros estão a adotar abordagens diferentes para garantir o acesso aos serviços públicos, tentando reduzir este fosso digital e, ao mesmo tempo, satisfazer as exigências da era digital. Por exemplo, a França optou por manter várias formas de garantir o acesso aos serviços públicos, a fim de evitar quaisquer obstáculos. As pessoas não são obrigadas a contactar a administração por via eletrónica. A Dinamarca tem seguido um caminho diferente, definindo uma estratégia «digital como regra» e, em 2014, tornou obrigatória a utilização de meios eletrónicos para todos os contactos com a administração. Para fazer face ao fosso digital, o Estado financia medidas como o apoio personalizado gratuito nas bibliotecas, a assistência na aquisição de equipamento e as contribuições para assinaturas de Internet. Na mesma ordem de ideias, nos Países Baixos, o Governo e as bibliotecas locais lançaram o «Information Point Digital Government» (Administração Pública Digital - Ponto de Informação), uma iniciativa em que um empregado de biblioteca formado responde a perguntas e ajuda as pessoas com serviços governamentais digitais tradicionais, tais como declarações fiscais e serviços sociais, bem como serviços mais recentes, como as aplicações de coronavírus.

6.3Cuidados de saúde A pandemia provocou um aumento da prestação de cuidados de saúde em linha, por exemplo, através de consultas virtuais ou de aplicações e software desenvolvidos para fins terapêuticos ou de diagnóstico. Para alguns, como as pessoas em zonas rurais ou em pequenas ilhas, esta tendência torna mais fácil receber assistência médica, ao passo que, para outros, representa um novo obstáculo. Para aqueles que não dispõem de acesso ou de competências, as medidas destinadas a colmatar o fosso digital podem melhorar a situação. Por exemplo, a Polónia introduziu a «conta Internet do paciente», uma ferramenta em linha que dá aos pacientes acesso a informações sobre o seu tratamento médico passado, atual ou planeado e permite que resolvam uma série de questões (receita eletrónica, registos de historial de visitas, encaminhamento eletrónico, licenças médicas eletrónicas e direitos) sem necessidade de visitar pessoalmente um estabelecimento de saúde. 6.4Educação Vários Estados-Membros dispõem de políticas e programas para promover o acesso à tecnologia e reforçar as competências digitais no contexto do ensino formal. A Grécia, por exemplo, disponibiliza aos alunos e estudantes que deles necessitam vales para adquirir equipamentos como tábletes ou computadores e oferece programas educativos pertinentes através de uma «Academia de Competências Digitais» virtual, lançada em 2020. A nível da UE, o Plano de Ação para a Educação Digital (2021-2027), lançado em setembro de 2020, definiu uma visão estratégica a longo prazo para uma transformação digital sustentável e inclusiva no ensino e na formação. Promove o direito de acesso a uma educação digital de elevada qualidade para todos e igualdade de acesso às infraestruturas, com especial destaque para o incentivo à participação das raparigas e das mulheres nas disciplinas CTEM (ciência, tecnologia, engenharia e matemática). 6.5Integração das pessoas com deficiência O Código Europeu das Comunicações Eletrónicas assegura acesso equivalente e escolha de serviços de comunicações eletrónicas aos utilizadores finais com deficiência, facilitando a participação na sociedade digital. A Diretiva Europeia da Acessibilidade, que entrará em vigor em 2025, expandirá a inclusão de pessoas com deficiência e idosos no mundo digital, tornando um conjunto de produtos e serviços essenciais dos setores público e privado mais acessíveis. A Diretiva Acessibilidade da Web, de 2016, exige que os Estados-Membros garantam que os sítios Web e as aplicações móveis de organismos do setor público sejam acessíveis a pessoas com deficiência, como pessoas com deficiência visual, auditiva e motora. Deste modo, promove a liberdade de expressão e de informação, o direito à educação, a liberdade profissional e o direito de trabalhar, a não discriminação, a integração das pessoas com deficiência, o acesso aos serviços de interesse económico geral e o direito de acesso aos documentos, o direito de circular e permanecer livremente no território da União, a liberdade de estabelecimento e a liberdade de prestação de serviços. É possível dar cumprimento à diretiva de várias formas. Por exemplo, a Eslovénia modernizou o seu portal de administração pública em linha de modo a poder ser utilizado por cegos e pessoas com deficiência visual, surdos e pessoas com deficiência auditiva, pessoas com dislexia e utilizadores com dificuldades de compreensão. As descrições dos procedimentos baseadas em textos são, por exemplo, acompanhadas de vídeos curtos, que também incluem interpretações de língua gestual. Na Grécia, durante a pandemia, os livros escolares digitais foram adaptados para que as pessoas com todas as categorias de deficiência pudessem aceder aos mesmos. 7.Proteger as pessoas que trabalham através de plataformas digitais As plataformas em linha incluem um vasto leque de mercados, redes sociais, pontos de venda de conteúdos criativos, lojas de aplicações, sítios Web de comparação de preços, plataformas para a economia colaborativa, bem como motores de pesquisa. Facilitam a interação entre utilizadores e empresas. As plataformas digitais de trabalho, enquanto subconjunto distinto das plataformas em linha, surgiram como uma característica da economia digital. O trabalho nas plataformas digitais gerou novas oportunidades económicas para as pessoas, permitindo-lhes, por exemplo, exercer atividades a tempo parcial e aceder ao mercado de trabalho em geral. No entanto, ao mesmo tempo, coloca desafios aos direitos fundamentais, incluindo a proteção dos dados pessoais, a privacidade, o direito dos trabalhadores à informação e à consulta, o direito à negociação e ação coletiva e condições de trabalho justas e equitativas. Entre os 28 milhões de pessoas que se estima virem a trabalhar através de plataformas digitais de trabalho, poderá haver até 5,5 milhões de «falsos» trabalhadores por conta própria . Embora os seus contratos com as plataformas em que trabalham os descrevam como trabalhadores por conta própria, na realidade estão sujeitos a controlo e supervisão, que são característicos do estatuto de «empregado». Existem também desafios decorrentes dos modelos empresariais baseados em algoritmos, como a falta de informação e de diálogo com as pessoas que trabalham através de plataformas e seus representantes sobre a forma como os algoritmos são utilizados e como afetam as condições de trabalho nas plataformas digitais. Existem também vias de recurso insuficientes e uma responsabilidade pouco clara no que diz respeito à utilização de algoritmos. Trabalho em plataformas digitais Normalmente, o trabalho em plataformas digitais envolve três partes: a plataforma, a pessoa que trabalha através dela e o cliente (particulares ou empresas). Em certos casos, uma quarta parte poderá também estar envolvida, por exemplo, restaurantes que entregam refeições. As plataformas de trabalho digitais definem-se geralmente como intermediários e caracterizam a relação entre as partes como uma relação de trabalho por conta própria. As tarefas executadas em plataformas de trabalho digitais podem variar entre tarefas complexas, como a programação informática e a conceção gráfica, e tarefas simples, como a etiquetagem de imagens. A presidente da Comissão, Ursula von der Leyen, anunciou, nas suas orientações políticas, a necessidade de melhorar as condições do trabalho nas plataformas digitais. Este aspeto foi evidenciado ainda mais pela crise da COVID-19 e pela adoção acelerada de modelos empresariais assentes em plataformas digitais. Uma resolução recente do Parlamento Europeu salienta que o trabalho nas plataformas digitais suscitou preocupações quanto à precariedade e às más condições de trabalho, à falta ou à dificuldade de acesso a uma proteção social adequada, à fragmentação e imprevisibilidade do rendimento e à falta de medidas de saúde e segurança no trabalho. Apela a uma ação enérgica da UE para combater a classificação incorreta do estatuto profissional e melhorar a transparência na utilização de algoritmos, nomeadamente para os representantes dos trabalhadores. 7.1Situação e ações a nível dos Estados-Membros A fim de evitar a concorrência desleal em detrimento dos trabalhadores e um nivelamento por baixo das práticas de emprego e das normas sociais, a UE criou um patamar mínimo de direitos laborais aplicáveis aos trabalhadores em todos os Estados-Membros. O acervo legislativo da UE em matéria de trabalho e assuntos sociais tem vindo a crescer ao longo dos anos. Além disso, as respostas nacionais aos desafios colocados pelo trabalho em plataformas digitais diferem entre os Estados-Membros. Alguns adotaram legislação nacional para melhorar as condições de trabalho ou o acesso à proteção social no trabalho em plataformas digitais. Os tribunais pronunciaram-se sobre a questão da classificação incorreta do estatuto profissional num número considerável de Estados-Membros. Em alguns Estados-Membros, os parceiros sociais e as empresas de plataformas participaram em negociações sobre acordos coletivos. Em 2016, a França adotou legislação que prevê direitos laborais e sociais para as pessoas que trabalham através de plataformas, independentemente do setor da atividade económica, através da revisão do Código do Trabalho. A lei aplica-se aos trabalhadores por conta própria dependentes do ponto de vista tecnológico e económico. Concede acesso a um regime de seguro voluntário contra acidentes de trabalho, obriga as plataformas a pagar prémios de seguro ou a oferecer seguros coletivos aos seus trabalhadores e garante o direito de recorrer a ações coletivas e prosseguir os estudos. Além disso, a instância mais elevada para questões laborais privadas (Tribunal de Cassação) salientou, em dois acórdãos, que, nos casos em que a plataforma possa emitir instruções e exigir o seu cumprimento, os trabalhadores de plataformas no domínio dos veículos de aluguer com condutor devem ser reconhecidos como tendo o estatuto de trabalhador. No entanto, continua a haver debate sobre o estatuto real das pessoas que trabalham através de plataformas, também noutros setores. Em 2019, a região do Lácio, em Itália, adotou legislação para melhorar as condições de trabalho e a proteção social de todos os trabalhadores de plataformas, independentemente do seu estatuto profissional. Esta legislação prevê garantias para acidentes relacionados com o trabalho, formação adequada em matéria de segurança e seguro de responsabilidade civil e acidentes. Proíbe igualmente o pagamento por tarefa. Além disso, em 2019, a Itália adotou legislação nacional para melhorar as condições de trabalho dos estafetas independentes de entrega de refeições ao domicílio. Além disso, em julho de 2021, a autoridade italiana de proteção de dados condenou a Deliveroo Italy no pagamento de uma coima de 2,5 milhões de EUR devido à utilização não transparente de algoritmos e à recolha desproporcionada de dados dos trabalhadores. A autoridade detetou violações de algumas disposições do Regulamento Geral sobre a Proteção de Dados e da legislação nacional em matéria de privacidade, do Estatuto dos Trabalhadores italiano e da legislação supramencionada que protege os trabalhadores. Em maio de 2021, a Espanha introduziu a presunção de que as pessoas que trabalham através de plataformas, tanto na entrega de refeições ao domicílio como na entrega de encomendas, são consideradas trabalhadores, transferindo para as plataformas o ónus de provar que não o são. Além disso, esta lei obriga as plataformas a fornecer aos sindicatos informações sobre a gestão algorítmica, incluindo a monitorização digital do desempenho e a distribuição automatizada de tarefas. Esta lei estabelece que todas as empresas (e não apenas plataformas de entrega) devem informar os seus trabalhadores sobre os parâmetros e as regras em que se baseiam os sistemas automatizados suscetíveis de afetar as condições de trabalho, o acesso ao emprego e a sua manutenção.

A Alemanha publicou documentos de orientação sobre o futuro do trabalho, relativos à inclusão de trabalhadores por conta própria que trabalham em plataformas digitais nos regimes de pensões e de seguros e à melhoria do seu seguro de acidentes de trabalho. Em novembro de 2020, Portugal publicou também um documento de orientação sobre o futuro do trabalho, relacionado com a criação de uma presunção legal sobre o estatuto das pessoas que trabalham através de plataformas, formas de aumentar a proteção social dos trabalhadores por conta própria e formas de promover a representação coletiva dos trabalhadores das plataformas. Em 2018, Portugal adotou legislação sobre o transporte individual e remunerado de passageiros, estabelecendo limites ao tempo de trabalho dos motoristas. 7.2Uma abordagem comum da UE À luz das abordagens nacionais que estão a ser desenvolvidas para enfrentar os diferentes desafios relacionados com o trabalho em plataformas digitais, existe um risco de fragmentação entre as diferentes iniciativas legislativas nacionais. A Comissão identificou uma série de desafios no trabalho nas plataformas e consultou os parceiros sociais europeus em duas fases sobre a necessidade de uma iniciativa sobre o trabalho em plataformas digitais. Os parceiros sociais europeus concordaram com os desafios a enfrentar, mas divergiram quanto à necessidade de medidas concretas a nível da UE. Além disso, a Comissão procedeu a intercâmbios com muitas partes interessadas, incluindo reuniões específicas e bilaterais com empresas de plataformas, associações de trabalhadores de plataformas, sindicatos, representantes dos Estados-Membros, peritos do meio académico e de organizações internacionais e representantes da sociedade civil. A Comissão propôs uma diretiva para melhorar as condições de trabalho dos trabalhadores de plataformas a nível da UE, assegurando a determinação correta do seu estatuto profissional, promovendo a transparência, a equidade e a responsabilidade na gestão algorítmica no trabalho da plataforma e melhorando a transparência no trabalho da plataforma, nomeadamente nas situações transfronteiriças, apoiando ao mesmo tempo as condições de crescimento sustentável das plataformas de trabalho digitais na União. 8.Supervisão da vigilância digital A proteção de dados e a privacidade são direitos fundamentais essenciais na era digital. São também direitos «facilitadores» que apoiam e reforçam a proteção de outros direitos fundamentais que podem ser afetados pela vigilância do Estado ou de privados, tais como a dignidade humana, a liberdade de expressão, a liberdade de pensamento, de consciência e de religião ou a liberdade de reunião, o direito a um tribunal imparcial e à ação ou a não discriminação. O Regulamento Geral sobre a Proteção de Dados (RGPD), a Diretiva sobre a Proteção de Dados na Aplicação da Lei e a Diretiva Privacidade Eletrónica colocaram a Europa na vanguarda da proteção dos direitos fundamentais em linha. A crescente digitalização em todos os domínios da vida coloca desafios à proteção de dados e à vida privada e familiar. Outra legislação, como o Regulamento Governação de Dados, sobre o qual os colegisladores chegaram recentemente a acordo político, visa promover a emergência de uma economia dos dados sólida através da regulamentação dos serviços de intermediários de dados, do altruísmo de dados e da reutilização de dados públicos protegidos, em conformidade com o regime de proteção de dados. Qual é a relação entre os direitos à privacidade e à proteção de dados? São direitos fundamentais distintos, mas que se sobrepõem, consagrados nos artigos 7.º e 8.º da Carta dos Direitos Fundamentais. - O respeito pela vida privada e familiar (privacidade) protege a esfera privada contra intrusões ilegais. Por exemplo, a confidencialidade das comunicações interpessoais, bem como dos dispositivos terminais eletrónicos dos utilizadores, contra intrusões não autorizadas é protegida ao abrigo deste direito. - A «proteção de dados» aplica-se apenas quando os dados pessoais são tratados por meios automatizados ou de forma estruturada manualmente. O direito não se limita às informações relativas à esfera privada, mas abrange todos os dados pessoais de uma pessoa, incluindo sobre a sua vida profissional. A pedra angular da proteção de dados é a transparência, a equidade e a licitude das atividades de tratamento de dados pessoais. A proteção de dados significa também que os dados pessoais só devem ser tratados para finalidades especificadas e explícitas, devem ser exatos, limitados ao necessário, mantidos em segurança e conservados apenas durante o tempo necessário. Na prática, o sólido quadro jurídico da UE é constantemente posto à prova. As organizações de consumidores e as OSC que se dedicam à defesa dos direitos fundamentais lamentam a falta de medidas coercivas em casos de infrações ao RGPD. Nos últimos anos, a UE e os Estados-Membros adotaram um conjunto de medidas para garantir a segurança pública e enfrentar os desafios em matéria de segurança utilizando as tecnologias modernas. Neste contexto, as organizações da sociedade civil manifestam a sua preocupação com a proporcionalidade das políticas de vigilância e segurança, por exemplo, no que se refere ao controlo das fronteiras da UE, ou no caso de legislação aprovada ou proposta que permite às autoridades analisar as comunicações privadas para fins de segurança. A sociedade civil e as organizações do setor também manifestaram preocupações sobre aquilo que consideram ser tentativas dos Estados-Membros para enfraquecer a encriptação. As APD e os tribunais nacionais asseguram um recurso efetivo sempre que as medidas de vigilância tomadas por intervenientes públicos e privados constituam uma violação dos direitos fundamentais. A título de exemplo, podem referir-se: i) a decisão da APD sueca sobre a utilização de câmaras corporais pelos revisores nos transportes públicos de Estocolmo, que criticou a falta de transparência e a recolha excessiva de dados, o que resultou numa coima de 16,1 milhões de coroas suecas; ou ii) a decisão do Conseil d’Etat (Conselho de Estado) francês no sentido de que a polícia tinha de deixar de utilizar drones para verificar se as regras de distanciamento social estavam a ser respeitadas, uma vez que estes drones tinham capacidade técnica para identificar pessoas individuais e não eram utilizados em conformidade com a legislação em matéria de proteção de dados. O Quadro Europeu para a Identidade Digital proposto oferecerá a todos os cidadãos e residentes da UE, numa base voluntária, uma carteira digital segura e de confiança, com pleno controlo do utilizador, enquanto facilitador «autossoberano» de acesso aos serviços públicos digitais e privados e partilhando uma variedade de atributos e credenciais. 8.1Conservação de dados Desde 2014, as legislações nacionais que preveem a conservação de metadados de telecomunicações (dados de tráfego e de localização) para efeitos de aplicação da lei e de informações têm sido consideradas incompatíveis com os requisitos do direito da UE pelo Tribunal de Justiça da UE. O Tribunal considerou que estas legislações nacionais constituíam uma ingerência grave e desproporcionada nos direitos à privacidade e à proteção de dados, uma vez que os metadados de comunicação podem revelar informações sobre um número significativo de aspetos da vida privada das pessoas em causa. Embora reconhecendo que as medidas de conservação de dados prosseguem objetivos legítimos de interesse público, o Tribunal de Justiça considerou frequentemente que, com algumas exceções, o direito da União se opõe a medidas legislativas que imponham aos prestadores de serviços de comunicações eletrónicas, como medida preventiva, uma obrigação de conservação geral e indiscriminada dos dados de tráfego e de localização. Na estratégia da UE para lutar contra a criminalidade organizada (2021-2025), de 14 de abril de 2021, a Comissão anunciou que iria analisar e delinear possíveis abordagens em matéria de conservação de dados, em consonância com os acórdãos do Tribunal, para dar resposta às necessidades das autoridades responsáveis pela aplicação da lei e do sistema judiciário de uma forma que seja operacionalmente útil, tecnicamente possível e juridicamente sólida, o que inclui respeitar plenamente os direitos fundamentais, e consultar os Estados-Membros antes do final de junho de 2021. A Comissão está atualmente em processo de consulta e analisará cuidadosamente os resultados dessa consulta antes de tomar uma decisão sobre a possível via a seguir. 8.2Encriptação A encriptação é essencial para a proteção dos direitos fundamentais e para a segurança dos sistemas e das transações. A legislação da UE prevê a encriptação como medida para assegurar a proteção dos direitos fundamentais, como a privacidade, a proteção dos dados pessoais e a liberdade de expressão, bem como para garantir a cibersegurança . Além disso, a encriptação também é importante para a proteção dos segredos comerciais, ajudando assim as pessoas a beneficiar do seu direito de exercer uma atividade económica. Desde o início da pandemia de COVID-19, juntamente com a crescente utilização de ferramentas digitais em todos os domínios da vida, o número de ciberataques aumentou. Tais ataques causaram danos importantes às empresas e aos serviços críticos, incluindo os sistemas de saúde, e comprometeram os direitos das pessoas, salientando a importância da encriptação para os intervenientes públicos e privados, uma vez que protege a confidencialidade das informações. No entanto, a utilização da encriptação permite também aos criminosos ocultar a sua identidade e esconder o conteúdo das suas comunicações. Na sequência dos apelos dos Estados-Membros, a Comissão comprometeu-se a explorar soluções técnicas, operacionais e jurídicas equilibradas para estes desafios. Estas soluções devem manter a eficácia da encriptação na proteção da privacidade e da segurança das comunicações, proporcionando simultaneamente uma resposta eficaz à criminalidade e ao terrorismo. A Comissão sugerirá, em 2022, um caminho a seguir para abordar a questão do acesso lícito e direcionado às informações cifradas no contexto das investigações criminais e das ações penais, com base num levantamento exaustivo da forma como os Estados-Membros tratam a encriptação, juntamente com um processo que envolve múltiplas partes interessadas para examinar e avaliar as opções concretas (jurídicas, éticas e técnicas).

8.3Identificação biométrica à distância As regras da UE em matéria de proteção de dados proíbem, em princípio, o tratamento de dados biométricos para efeitos de identificação inequívoca de uma pessoa singular, exceto em condições específicas. O tratamento desses dados deve ter base jurídica na legislação em matéria de proteção de dados. Essa base jurídica pode ser o consentimento dado de livre vontade por todas as pessoas em causa, o que é difícil de obter na prática, ou, em alternativa, legislação da UE ou de um Estado-Membro que prossiga um interesse público importante, como a prevenção de uma ameaça concreta e imediata de um ataque terrorista. No domínio da aplicação da lei, o tratamento é autorizado por lei. Quando o tratamento de dados biométricos se baseia na lei, essa lei deve ser proporcional ao objetivo visado, respeitar a essência do direito à proteção dos dados pessoais e de outros direitos fundamentais e prever medidas adequadas e específicas que salvaguardem os direitos fundamentais e os interesses das pessoas em causa. As OSC manifestaram preocupação com a crescente utilização de tecnologias de identificação biométrica à distância em vários Estados-Membros e apelaram à proibição da sua utilização. A utilização de sistemas biométricos à distância foi igualmente criticada pela Autoridade Europeia para a Proteção de Dados, pelo Comité Europeu para a Proteção de Dados, que inclui as autoridades nacionais de proteção de dados (APD), e por outros organismos nacionais de defesa dos direitos fundamentais, como o Defenseur des Droits em França. Há vários exemplos de casos em que as autoridades de proteção de dados intervieram para pôr termo à utilização ilegal dessa tecnologia, por exemplo, numa escola em França, pela polícia na Suécia ou por um supermercado neerlandês. Para além do quadro existente, o regulamento relativo à IA que a Comissão propôs em abril de 2021 (ver capítulo 4) inclui a proibição da identificação biométrica à distância em tempo real em locais acessíveis ao público e permite-a para efeitos de aplicação da lei em três exceções limitadas e na condição de serem aplicáveis garantias específicas. 8.4Educação Durante a pandemia de COVID-19, as instituições de ensino e formação utilizaram diferentes plataformas e ferramentas em linha. Muitas vezes implementadas como «soluções rápidas», a utilização de soluções comerciais de aprendizagem digital e de software para monitorizar os estudantes que realizam exames à distância suscitou a preocupação de que a sua conceção pudesse aproveitar os dados dos utilizadores para fins lucrativos, e não para práticas pedagógicas significativas. A Plataforma Europeia da Educação Digital, criada no âmbito do Plano de Ação para a Educação Digital, é um fórum para desenvolver medidas destinadas a assegurar uma colaboração intersetorial mais forte, promover o intercâmbio entre educadores, desenvolver meios de garantia de qualidade e garantir o respeito pela proteção de dados e pela privacidade. Entre esses aspetos, a garantia da qualidade e a confiança desempenharão um papel crucial: a primeira para promover um entendimento comum dos principais padrões de qualidade da educação digital; a segunda para garantir o respeito dos princípios fundamentais em termos de utilização de dados, ética e privacidade. Estes dois elementos, para além de promoverem o nível de preparação digital das instituições de ensino e formação da Europa, podem aumentar a cooperação, melhorando a qualidade global das soluções digitais disponíveis. 8.5Saúde Muitos elementos da resposta à pandemia de COVID-19 envolvem o tratamento de dados pessoais, incluindo dados de saúde, que, devido à sua sensibilidade, estão sujeitos a outras regras ao abrigo do RGPD. O tratamento de dados pessoais tem de ser limitado ao que é necessário e proporcionado para alcançar o objetivo e cumprir os requisitos do RGPD. Estes princípios nortearam a abordagem da UE. Por exemplo, a Comissão forneceu orientações aos Estados-Membros respeitantes a aplicações móveis para combater a pandemia e apoiou o seu trabalho sobre um conjunto de instrumentos com requisitos para as aplicações e especificações técnicas para a interoperabilidade entre aplicações nacionais de alerta na UE. A Comissão criou uma plataforma de interoperabilidade para permitir que esses alertas sejam enviados além-fronteiras e entre as aplicações de diferentes Estados-Membros. A Comissão instituiu igualmente uma plataforma para o intercâmbio de dados dos formulários de localização do passageiro , a fim de apoiar o rastreio de contactos transfronteiriço em contextos de transporte. Como próxima etapa, comprometeu-se a propor um quadro jurídico da UE para uma abordagem coordenada do registo dos antecedentes recentes em matéria de viagens, na medida do necessário para travar a propagação da COVID-19, com base na experiência dos formulários de localização dos passageiros. Além disso, o Parlamento Europeu e o Conselho adotaram, em 14 de junho de 2021, um regulamento que cria o sistema do certificado digital COVID da UE, que visa facilitar a livre circulação durante a pandemia