6.12.2022
PT
Jornal Oficial da União Europeia
C 465/89 Terça-feira, 3 de maio de 2022
134.
Especifica que a classificação de sistemas de IA como sendo «de alto risco» deve basear-se na sua utilização concreta e no contexto, na natureza, na probabilidade, na gravidade e na potencial irreversibilidade dos danos expectáveis em caso de violação dos direitos fundamentais e das regras de saúde e segurança estabelecidas no direito da União; destaca que esta classificação deve ser acompanhada de orientações e do fomento do intercâmbio de boas práticas em prol dos criadores de IA; salienta que o direito à privacidade deve ser sempre respeitado e que os criadores de IA devem garantir o pleno cumprimento das regras em matéria de proteção de dados; 135.
Salienta que os sistemas de IA suscetíveis de interagir com crianças ou de ter, de qualquer outra forma, um impacto sobre elas devem ter em conta os direitos e vulnerabilidades das crianças e satisfazer os mais elevados padrões de segurança, proteção e privacidade disponíveis de raiz e por defeito; 136.
Observa que os ambientes em que os sistemas de IA operam podem diferir consoante se trate de um ambiente entre empresas (B2B) ou de um ambiente entre empresas e consumidores (B2C); observa que os direitos dos consumidores têm de ser juridicamente protegidos através de legislação em matéria de defesa do consumidor; salienta que, embora as empresas possam, por via contratual, resolver de forma célere e eficaz em termos de custos, diretamente com os parceiros comerciais, os litígios em matéria de responsabilidade e outros problemas do foro jurídico, pode ser necessária legislação para proteger as empresas mais pequenas de abusos de poder de mercado que sejam praticados por intervenientes dominantes através de restrições comerciais ou tecnológicas, de obstáculos à entrada no mercado ou de problemas de assimetria de informação; salienta que convém igualmente ter em conta as necessidades das PME e das empresas em fase de arranque num contexto em que os requisitos legislativos são demasiado complexos, a fim de evitar que estas sejam colocadas em desvantagem em relação às empresas de maior dimensão, que dispõem dos recursos necessários para manter importantes departamentos jurídicos e de verificação do cumprimento; 137.
Sublinha a necessidade de seguir uma abordagem baseada em princípios para lidar com as questões éticas em aberto levantadas pelas novas possibilidades tecnológicas resultantes da venda e da utilização de aplicações de IA, nomeadamente através do recurso a princípios fundamentais e vinculativos, como o princípio da não-maleficência, o princípio do respeito pela dignidade humana e pelos direitos fundamentais, e da proteção do processo democrático; Chama a atenção para o facto de as boas práticas em matéria de desenvolvimento da IA, como a IA centrada no ser humano, a governação responsável e os princípios da transparência e explicabilidade, bem como os princípios de uma IA sustentável que estejam plenamente alinhados com a Agenda 2030 das Nações Unidas para o Desenvolvimento Sustentável, serem outros elementos importantes quando se trata de moldar a economia da IA; 138.
Reconhece que nem sempre é possível eliminar por completo os preconceitos dos algoritmos de IA, uma vez que é muito difícil ou quase impossível alcançar o objetivo ideal de utilizar dados isentos de erros; observa que até um sistema de IA que tenha sido testado encontrará inevitavelmente cenários do mundo real suscetíveis de produzir resultados enviesados, caso seja implantado num ambiente que difere da composição dos seus dados de treino e teste; salienta que a UE deve aspirar a melhorar a transparência dos conjuntos de dados e dos algoritmos e cooperar estreitamente com os criadores da IA, a fim de contrabalançar e reduzir os preconceitos societais estruturais e de, numa fase precoce do desenvolvimento, ter em conta regras vinculativas de diligência devida em matéria de direitos humanos; 139.
Considera que pode suceder que obrigações significativas em matéria de transparência ou explicabilidade dos sistemas de IA, embora úteis em certos casos, não possam ser sempre aplicadas; observa que os direitos de propriedade intelectual e os segredos comerciais devem ser protegidos contra práticas ilícitas, como a espionagem industrial; 140.
Afirma que o quadro legislativo em matéria de propriedade intelectual deve continuar a incentivar e proteger os inovadores no domínio da IA, concedendo-lhes patentes a título de recompensa pelo desenvolvimento e publicação das suas criações; considera que a legislação em vigor é, maioritariamente, orientada para o futuro, mas propõe alguns ajustamentos, nomeadamente a integração de elementos de fonte aberta, bem como a utilização de contratos públicos para, se for caso disso, impor o recurso a software de código-fonte aberto no âmbito das soluções de IA; propõe novas formas de concessão de licenças de patentes, para garantir que as ferramentas estejam disponíveis para regiões e iniciativas que, de outra forma, não poderiam delas dispor; 141.
Considera que, para garantir a segurança a e fiabilidade dos sistemas de IA no mercado, pode ser útil prever autoavaliações de risco ex ante obrigatórias, baseadas em regras e normas claras, bem como em avaliações de impacto sobre a proteção de dados, complementadas por avaliações da conformidade realizadas por terceiros, com a devida marcação CE pertinente, em combinação com a aplicação ex post pela fiscalização do mercado; é de opinião que, para evitar que as PME sejam afastadas do mercado, é necessário elaborar, com a participação ativa das pequenas empresas, normas e orientações sobre o cumprimento da legislação relativa à IA que estejam, na medida do possível, alinhadas a nível internacional e disponíveis a título gratuito;