Source: http://www.europarl.europa.eu/doceo/document/A-8-2017-0005_PT.html
Timestamp: 2019-09-24 09:17:54+00:00

Document:
que contém recomendações à Comissão sobre disposições de Direito Civil sobre Robótica
Relatora: Mady Delvaux
Georg Mayer, Comissão dos Transportes e do Turismo
Michał Boni, Comissão das Liberdades Cívicas, da Justiça e dos Assuntos Internos
(*) Comissões associadas – artigo 54° do Regimento
– Tendo em conta a Diretiva 85/374/CEE relativa à responsabilidade decorrente dos produtos defeituosos,
A. Considerando que desde o Frankenstein de Mary Shelley ao mito clássico do Pigmaleão, passando pela história do Golem de Praga ao robô de Karel Čapek, que cunhou o termo, as pessoas têm fantasiado acerca da possibilidade de construir máquinas inteligentes, frequentemente androides com características humanas;
B. Considerando que, agora que a humanidade se encontra no limiar de uma era em que robôs, «bots», androides e outras manifestações de inteligência artificial («IA») cada vez mais sofisticadas parecem estar preparadas para desencadear uma nova revolução industrial, que provavelmente não deixará nenhuma camada da sociedade intacta, é extremamente importante que a legislatura pondere as suas implicações e efeitos a nível jurídico e ético, sem colocar entraves à inovação;
D. Considerando que, entre 2010 e 2014, o aumento médio nas vendas de robôs se situou nos 17 % ao ano e nas vendas de 2014 registou uma subida de 29 %, o maior aumento anual de sempre, com os fornecedores de componentes automóveis e a indústria da eletrónica/elétrica a serem os principais motores do crescimento; que os processos de registo de patentes em tecnologia robótica triplicaram na última década;
E. Considerando que, nos últimos 200 anos, os níveis de emprego aumentaram de forma constante devido ao desenvolvimento tecnológico; que o desenvolvimento da robótica e da IA pode ter potencial para transformar vidas e práticas de trabalho, aumentar os níveis de eficiência, de poupanças e de segurança, bem como oferecer um melhor nível de serviços, e que, a curto e a médio prazo, a robótica e a IA prometem trazer vantagens em termos de eficiência e poupança, não só na produção e no comércio, mas também em sectores como os transportes, os cuidados médicos, os trabalhos de salvamento, a educação e a agricultura, ao mesmo tempo que permitem evitar a exposição dos humanos a condições perigosas, como as que se enfrentam durante as operações de limpeza de locais tóxicos poluídos;
F. Considerando que o envelhecimento da população se deve a um aumento da esperança de vida em consequência da melhoria das condições de vida e do progresso na medicina moderna, constituindo um dos principais desafios políticos, sociais e económicos do século XXI com que as sociedades europeias se deparam; que, em 2025, mais de 20 % dos europeus terão uma idade igual ou superior a 65 anos, assistindo-se a um aumento particularmente rápido do número de pessoas de 80 anos ou mais, pelo que o equilíbrio entre gerações nas nossas sociedades será fundamentalmente diferente, e que é do interesse da sociedade que os idosos gozem de boa saúde e permaneçam ativos o máximo de tempo possível;
G. Considerando que, numa perspetiva de longo prazo, a tendência atual para o desenvolvimento de máquinas inteligentes e autónomas, com a capacidade de pensar e tomar decisões de forma independente, não implica apenas vantagens económicas, mas também um conjunto de preocupações relacionadas com os efeitos diretos e indiretos para a sociedade no seu conjunto;
H. Considerando que a aprendizagem automática oferece enormes benefícios económicos e inovadores à sociedade ao melhorar significativamente a capacidade de análise de dados, suscitando simultaneamente desafios no que respeita à garantia da não discriminação, ao processo equitativo, à transparência e à inteligibilidade dos processos de tomada de decisão;
I. Considerando que é igualmente necessário ter em conta as avaliações sobre as mudanças económicas e o impacto para o emprego associados à robótica e à aprendizagem automática; que, embora a robótica ofereça vantagens inegáveis, a sua aplicação pode implicar uma transformação do mercado de trabalho e a necessidade de refletir, consequentemente, sobre o futuro das políticas sociais e em matéria de ensino e de emprego;
J. Considerando que o uso generalizado de robôs pode não conduzir automaticamente à substituição de postos de trabalho, mas que os empregos menos qualificados nos setores de mão de obra intensiva provavelmente serão mais vulneráveis à automatização; que esta tendência poderia fazer regressar os processos de produção à UE; que a investigação demonstrou que o emprego cresce de forma significativamente mais rápida em profissões que utilizam mais os computadores; que a automatização dos postos de trabalho tem potencial para libertar as pessoas do trabalho manual monótono, permitindo-lhes uma reorientação para tarefas mais criativas e significativas; que a automatização exige que os governos invistam no ensino e em outras reformas, a fim de melhorar as requalificações assentes nos tipos de competências de que os trabalhadores do futuro precisarão;
K. Considerando, ao mesmo tempo, que o desenvolvimento da robótica e da IA pode fazer com que muito do trabalho que é atualmente efetuado por humanos passe a ser feito por robôs, sem uma total recuperação dos postos de trabalho perdidos, suscitando, assim, crescentes apreensões sobre o futuro do emprego, a viabilidade dos sistemas de proteção e segurança social e a descontinuidade das contribuições para a reforma, se a atual base de fiscalidade for mantida, criando o potencial para uma maior desigualdade na distribuição da riqueza e da influência, pelo que a eventual aplicação de um imposto sobre o trabalho realizado por robôs ou de uma taxa de utilização e manutenção por robô deve ser examinada no contexto de um financiamento ao apoio e requalificação de desempregados cujos postos de trabalho tenham sido reduzidos ou eliminados, a fim de manter a coesão e o bem-estar social;
L. Considerando que, face às crescentes divisões na sociedade e à redução da classe média, é necessário ter em conta o facto de que o aumento da importância da robótica pode resultar numa concentração considerável da riqueza e das influências nas mãos de uma minoria;
M. Considerando que o desenvolvimento da robótica e da IA vai decididamente influenciar a configuração do local de trabalho, o que pode criar novas preocupações em matéria de responsabilidade e eliminar outras; que a responsabilidade jurídica deve ser esclarecida no que se refere ao modelo empresarial e ao padrão de trabalho dos funcionários, em caso de emergência ou se surgir algum problema;
N. Considerando que a tendência para a automatização exige que todos os envolvidos no desenvolvimento e na comercialização de aplicações de inteligência artificial integrem a segurança e a ética desde o início do processo, reconhecendo assim que têm de estar preparados para assumir a responsabilidade jurídica pela qualidade da tecnologia que produzem;
O. Considerando que o Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho(1) (Regulamento Geral sobre a Proteção de Dados) estabelece um quadro jurídico para a proteção de dados pessoais; que outros aspetos associados ao acesso a dados e à proteção de dados pessoais e da privacidade podem ainda ter de ser resolvidos, uma vez que ainda podem surgir preocupações relativas à privacidade das aplicações e dos dispositivos que comunicam entre si e com bases de dados sem a intervenção de humanos;
P. Considerando que os desenvolvimentos na robótica e inteligência artificial podem e devem ser concebidos de tal forma que preservem a dignidade, a autonomia e a autodeterminação do indivíduo, especialmente nos domínios dos cuidados e da companhia dos humanos, e no contexto dos dispositivos médicos, da «reparação» ou melhoria dos seres humanos;
Q. Considerando que, em última instância, existe uma possibilidade de que, numa perspetiva alongo prazo, a IA possa ultrapassar a capacidade intelectual humana;
R. Considerando que o desenvolvimento e uma maior utilização de processos de decisão automatizados e algorítmicos têm, sem dúvida, impacto sobre as escolhas que um privado (como, por exemplo, uma empresa ou um utilizador da Internet) e uma autoridade administrativa, judiciária ou outra autoridade pública fazem na tomada de uma decisão final enquanto consumidor, empresa ou autoridade; que as garantias e a possibilidade de controlo e verificação humanos devem ser integradas nos processos de decisão automatizados e algorítmicos;
S. Considerando que diversas jurisdições estrangeiras, tais como os EUA, o Japão, a China e a Coreia do Sul, estão a ponderar recorrer a uma ação regulamentar, o que em certa medida já fizeram, em matéria de robótica e de IA e que alguns Estados-Membros começaram também a refletir sobre a possibilidade de elaborar normas jurídicas ou de realizar alterações legislativas a fim de ter em conta as aplicações emergentes dessas tecnologias;
T. Considerando que a indústria europeia poderia beneficiar de uma abordagem eficaz, coerente e transparente em matéria de regulamentação ao nível da União, providenciando condições previsíveis e suficientemente claras, em que as empresas podem desenvolver aplicações e planear os respetivos modelos empresariais a uma escala europeia, garantindo, ao mesmo tempo, que a União e os seus Estados-Membros mantenham o controlo das normas de regulamentação a definir, de modo a que não sejam forçados a aprovar e a viver mediante padrões definidos por outros, ou seja, por países terceiros que se encontram igualmente na linha da frente do desenvolvimento da robótica e da IA;
U. Considerando que as Leis de Asimov(2) têm de ser perspetivadas como sendo direcionadas aos criadores, produtores e operadores de robôs, incluindo robôs com autonomia integrada e autoaprendizagem, uma vez que aquelas leis não podem ser convertidas em código de máquina;
V. Considerando que é necessário um conjunto de normas que rejam, em especial, a responsabilidade, a transparência e a prestação de contas e traduzam os valores universais intrinsecamente europeus e humanísticos que caracterizam o contributo da Europa para a sociedade; que as normas não devem afetar o processo de investigação, inovação e desenvolvimento na área da robótica;
W. Considerando que a União pode desempenhar um papel essencial no estabelecimento de princípios éticos básicos a respeitar no desenvolvimento, na programação e na utilização de robôs e de IA, bem como na integração desses princípios nos regulamentos e nos códigos de conduta da União, com o objetivo de moldar a revolução tecnológica, de modo a que sirva a humanidade e a que as vantagens da robótica avançada e da IA sejam amplamente partilhadas, evitando, tanto quanto possível, potenciais perigos;
X. Considerando que deve ser adotada na União uma abordagem gradual, pragmática e cautelosa, como a defendida por Jean Monnet(3), no que diz respeito a quaisquer iniciativas futuras em matéria de robótica e IA, de modo a assegurar que não asfixiamos a inovação;
Y. Considerando que é apropriado, tendo em conta a fase alcançada no desenvolvimento da robótica e da IA, começar por problemas de responsabilidade civil;
Z. Considerando que, graças aos impressionantes avanços tecnológicos da última década, não só os robôs de hoje conseguem efetuar atividades que, regra geral, costumavam ser exclusivamente realizadas por humanos, como também o desenvolvimento de certas características autónomas e cognitivas – por exemplo, a capacidade de aprender com a experiência e de tomar decisões quase independentes – os tornaram cada vez mais similares a agentes que interagem com o seu ambiente e conseguem alterá-lo de forma significativa; que, nesse contexto, a responsabilidade jurídica decorrente de uma ação lesiva de um robô se torna uma questão crucial;
AA. Considerando que a autonomia de um robô pode ser definida como a capacidade de tomar decisões e de as aplicar no mundo exterior, independentemente do controlo ou da influência externa; que esta autonomia possui uma natureza puramente tecnológica e o seu grau depende de como foi concebido o nível de sofisticação da interação de um robô com o seu ambiente;
AB. Considerando que, quanto mais autónomos os robôs são, menos podem ser encarados como sendo simples instrumentos nas mãos de outros intervenientes (como o fabricante, o operador, o proprietário, o utilizador, etc.); que, por sua vez, tal coloca a questão de saber se as normas ordinárias em matéria de responsabilidade são suficientes ou se apelam a novos princípios e normas para clarificar a responsabilidade jurídica de vários intervenientes no que respeita à responsabilidade por atos e omissões dos robôs, sempre que a causa não possa ser atribuída a um interveniente humano específico e se os atos ou omissões dos robôs que causaram danos pudessem ter sido evitados;
AC. Considerando que, em última instância, a autonomia dos robôs suscita a questão da sua natureza à luz das categorias jurídicas existentes ou se deve ser criada uma nova categoria, com características e implicações próprias;
AD. Considerando que, ao abrigo do atual quadro jurídico, os robôs não podem ser responsabilizados por si só pelas ações ou omissões que causam danos a terceiros; que as normas existentes em matéria de responsabilidade abrangem casos em que a causa subjacente à ação ou omissão do robô pode ser atribuída a um agente humano específico, tal como o fabricante, o operador, o proprietário ou o utilizador e em que o agente podia ter previsto e evitado o comportamento lesivo do robô; que, além disso, os fabricantes, os operadores, os proprietários ou os utilizadores poderiam ser considerados estritamente responsáveis pelas ações ou omissões de um robô;
AE. Considerando que, nos termos do atual quadro jurídico, a responsabilidade pelo produto – segundo a qual o fabricante de um produto é responsável por uma anomalia – e as normas que regem a responsabilidade por ações prejudiciais – segundo as quais o utilizador de um produto é responsável por um comportamento que provoca prejuízos – são aplicáveis aos danos causados por robôs ou IA;
AF. Considerando que, perante o cenário em que um robô pode tomar decisões autónomas, as normas tradicionais não serão suficientes para suscitar problemas de responsabilidade jurídica pelos danos causados por um robô, uma vez que não seria possível identificar a parte responsável para prestar a indemnização e para exigir a essa parte reparar os danos causados;
AG. Considerando que as insuficiências do atual quadro jurídico são evidentes também no domínio da responsabilidade contratual, na medida em que as máquinas concebidas para escolher as respetivas contrapartes, negociar as condições contratuais, celebrar contratos e decidir se e o modo como as implementam invalidam a aplicação das normas tradicionais, o que sublinha a necessidade de novas normas, eficientes e mais atualizadas, que correspondam ao desenvolvimento tecnológico e às inovações recém-surgidas e utilizadas no mercado;
AH. Considerando que, no que respeita à responsabilidade extracontratual, a Diretiva 85/374/CEE(4) do Conselho apenas pode abranger os danos provocados por defeitos de fabrico de um robô e sob reserva de a pessoa lesada poder comprovar danos efetivos, o defeito no produto e a relação de causalidade entre o dano e o defeito, pelo que o quadro de responsabilidade objetiva ou responsabilidade sem culpa pode não ser suficiente;
AI. Considerando que, não obstante o âmbito de aplicação da Diretiva 85/374/CEE, o atual quadro jurídico não seria suficiente para abranger os danos provocados pela nova geração de robôs, na medida em que podem ser dotados de capacidades adaptativas e de aprendizagem que integram um certo grau de imprevisibilidade no seu comportamento, uma vez que esses robôs aprendem de forma autónoma com a sua própria e variável experiência e interagem com o seu ambiente de um modo único e imprevisível;
1. Insta a Comissão a propor definições comuns à escala da União de sistemas ciberfísicos, sistemas autónomos, robôs autónomos inteligentes e das suas subcategorias, tendo em consideração as seguintes características de um robô inteligente:
– aquisição de autonomia através de sensores e/ou através da troca de dados com o seu ambiente (interconectividade) e troca e análise desses dados;
– ausência de vida no sentido biológico do termo;
2. Considera que deve ser introduzido no mercado interno da União um sistema abrangente de registo de robôs avançados, sempre que tal seja pertinente e necessário para certas categorias específicas de robôs, e insta a Comissão a estabelecer critérios para a classificação de robôs que têm de ser registados; neste contexto, insta a Comissão a analisar se seria desejável que o sistema de registo e o registo fossem geridos por uma Agência designada da UE para a robótica e a inteligência artificial;
3. Salienta que o desenvolvimento das tecnologias da robótica deve ser orientado para complementar as capacidades humanas, e não para as substituir; considera fundamental, no desenvolvimento da robótica e da inteligência artificial, garantir que será sempre possível, a qualquer momento, exercer o controlo humano sobre as máquinas; considera que deve ser prestada particular atenção ao possível desenvolvimento de uma ligação emocional entre seres humanos e robôs, especialmente em grupos vulneráveis (crianças, idosos e pessoas com deficiência), e destaca as questões suscitadas pelo grave impacto físico ou emocional que essa ligação emocional pode ter sobre os seres humanos;
4. Salienta que uma abordagem a nível da UE pode facilitar o desenvolvimento ao evitar a fragmentação do mercado interno, sublinhando, ao mesmo tempo, a importância do princípio do reconhecimento mútuo na utilização transfronteiriça de robôs e de sistemas robóticos; recorda que os ensaios, a certificação e a autorização de introdução no mercado só devem ser exigidos num único Estado-Membro; salienta que esta abordagem deve ser acompanhada de uma supervisão eficaz do mercado;
7. Insta a Comissão e os Estados-Membros a promoverem programas de investigação, a incentivarem a investigação sobre os possíveis riscos e oportunidades a longo prazo das tecnologias no domínio da inteligência artificial e da robótica e a promoverem um diálogo público estruturado sobre as implicações do desenvolvimento dessas tecnologias o mais rapidamente possível; insta a Comissão a aumentar o seu apoio, na revisão intercalar do Quadro Financeiro Plurianual, ao programa SPARC financiado pelo Programa-Quadro Horizonte 2020; insta a Comissão e os Estados-Membros a conjugarem os seus esforços, a fim de acompanhar atentamente e garantir uma transição sem problemas para estas tecnologias, desde a investigação à comercialização e utilização no mercado, após a realização das avaliações adequadas em matéria de segurança, em conformidade com o princípio da precaução;
8. Salienta que a inovação nos domínios da robótica e da inteligência artificial e a integração das tecnologias da robótica e da inteligência artificial na economia e na sociedade requerem uma infraestrutura digital que proporcione uma conectividade generalizada; solicita à Comissão que crie um quadro destinado a satisfazer os requisitos de conectividade necessários para o futuro digital da União e garanta que o acesso a redes de banda larga e 5G respeite plenamente o princípio da neutralidade da rede;
9. Acredita firmemente que a interoperabilidade entre os sistemas, dispositivos e serviços de computação em nuvem, baseada nos princípios da segurança e da privacidade desde a conceção, é um fator indispensável para os fluxos de dados em tempo real que permitem uma maior flexibilidade e autonomia dos robôs e da inteligência artificial; solicita à Comissão que promova um ambiente aberto, nomeadamente normas abertas e modelos de licenciamento inovadores, plataformas abertas, garantindo, ao mesmo tempo, a transparência, para evitar o bloqueio dos sistemas exclusivos que limitam a interoperabilidade;
10. Observa que o potencial reforço de poderes através da utilização da robótica contrasta com um conjunto de tensões ou riscos e deve ser avaliado seriamente do ponto de vista da segurança, saúde e proteção, liberdade, privacidade, integridade e dignidade, autodeterminação, não discriminação e proteção dos dados pessoais de seres humanos;
11. Considera que o quadro jurídico em vigor da União deve ser atualizado e complementado, se for caso disso, através de princípios éticos que se coadunem com a complexidade da robótica e com as suas inúmeras implicações sociais, médicas e bioéticas; é de opinião que um quadro ético orientador, claro, rigoroso e eficiente, para o desenvolvimento, a conceção, produção, a utilização e a modificação de robôs é necessário para complementar as recomendações jurídicas do relatório e o acervo nacional e da União existente; propõe, em anexo à resolução, um quadro sob a forma de carta que consiste num código de conduta para os engenheiros de robótica, num código para os comités de ética em investigação quando analisam protocolos de robótica e licenças de modelos para criadores e utilizadores;
12. Realça o princípio da transparência, nomeadamente o facto de que deve ser sempre possível fundamentar qualquer decisão tomada com recurso a inteligência artificial que possa ter um impacto substancial sobre a vida de uma ou mais pessoas; considera que deve ser sempre possível reduzir a computação realizada por um sistema de inteligência artificial a uma forma compreensível para os seres humanos; considera que os robôs avançados deveriam ser dotados de uma «caixa negra» com dados relativos a todas as operações realizadas pela máquina, incluindo os passos da lógica que conduziu à formulação de eventuais decisões;
13. Destaca que o quadro ético orientador deve basear-se nos princípios de beneficência, não-maleficência, autonomia e justiça, nos princípios e valores consagrados no artigo 2.º do Tratado da União Europeia e na Carta dos Direitos Fundamentais, tais como a dignidade do ser humano, a igualdade, a justiça e a equidade, a não-discriminação, o consentimento esclarecido, o respeito da vida privada e familiar e a proteção de dados, bem como em outros princípios e valores subjacentes do direito da União, como a não estigmatização, a transparência, a autonomia, a responsabilidade individual e a responsabilidade social, e em códigos e práticas éticas existentes;
14. Considera que deve ser dada uma atenção especial aos robôs que constituem uma ameaça significativa à privacidade, em virtude do seu posicionamento em espaços tradicionalmente protegidos e íntimos e devido à sua capacidade de extrair informações relativas a dados pessoais sensíveis e de os transmitir;
15. Considera que é necessário reforçar a cooperação entre os Estados-Membros e a Comissão a fim de garantir a aplicação de regras transnacionais coerentes na União, que incentivem a cooperação entre as indústrias europeias e possibilitem a implantação, em toda a União, de robôs que sejam consentâneos com os níveis de proteção e segurança exigidos, bem como com os princípios éticos consagrados no direito da União;
16. Solicita à Comissão que considere a nomeação de uma Agência Europeia para o domínio da robótica e da inteligência artificial, com o objetivo de prestar o aconselhamento técnico, ético e regulamentar especializado necessário para apoiar os esforços dos intervenientes públicos relevantes, tanto a nível da União como a nível nacional, no sentido de dar uma resposta tempestiva, ética e fundada às novas oportunidades e desafios, principalmente de natureza transfronteiriça, decorrentes do desenvolvimento tecnológico na robótica, como acontece no setor dos transportes;
17. Considera que o potencial e os problemas decorrentes da utilização da robótica e o atual investimento na dinâmica justificam que a Agência Europeia seja dotada do orçamento adequado e conte no seu pessoal com reguladores e especialistas técnicos e éticos externos para o controlo transectorial e multidisciplinar das aplicações baseadas na robótica, a identificação de padrões de melhores práticas e, se for caso disso, a recomendação medidas de regulação, a definição de novos princípios e a resolução de potenciais questões de proteção ao consumidor e problemas sistemáticos; solicita à Comissão (e à Agência Europeia, caso seja criada) que apresente anualmente um relatório ao Parlamento Europeu sobre os mais recentes desenvolvimentos no domínio da robótica, bem como sobre eventuais medidas que venham a ser necessárias;
19. Insta a Comissão e os Estados-Membros a assegurarem que as disposições de Direito Civil sobre Robótica estejam em consonância com o Regulamento Geral sobre a Proteção de Dados e em conformidade com os princípios da necessidade e da proporcionalidade; insta a Comissão e os Estados-Membros a terem em conta a rápida evolução tecnológica no domínio da robótica, incluindo o desenvolvimento de sistemas ciberfísicos, e a assegurarem que a legislação da UE não fica atrás da curva de desenvolvimento e de implantação das tecnologias;
20. Salienta que o direito à proteção da vida privada e o direito à proteção dos dados pessoais – consagrados nos artigos 7.º e 8.º da Carta, bem como no artigo 16.º do Tratado sobre o Funcionamento da União Europeia (TFUE) – aplicam-se a todas as áreas da robótica e que o quadro jurídico da União em matéria de proteção de dados deve ser plenamente respeitado; solicita, a este respeito, a revisão das normas e dos critérios relativos à utilização de câmaras e sensores em robôs; insta a Comissão a garantir o respeito dos princípios da proteção dos dados, tais como os princípios da privacidade desde a conceção e por defeito, os princípios da minimização dos dados e da limitação da finalidade, bem como dos mecanismos de controlo da transparência para os titulares de dados e de soluções adequadas em conformidade com a legislação da União em matéria de proteção de dados, e ainda a promoção e a integração de recomendações e normas adequadas nas políticas da União;
21. Salienta que a livre circulação dos dados é fundamental para a economia digital e o desenvolvimento no domínio da robótica e da IA; salienta que um elevado nível de segurança dos sistemas de robótica – incluindo os sistemas de dados internos e a circulação dos dados – é essencial para a utilização adequada de robôs e da inteligência artificial; salienta que tem de ser assegurada a proteção das redes de robôs e inteligência artificial interligados, a fim de evitar potenciais violações da segurança; salienta que é fundamental um elevado nível de segurança e de proteção de dados pessoais, prestando a devida atenção à privacidade na comunicação entre pessoas, robôs e IA; salienta que os criadores do setor da robótica e da inteligência artificial têm a responsabilidade de desenvolver produtos que sejam seguros e adequados à sua finalidade; insta a Comissão e os Estados-Membros a apoiarem e incentivarem o desenvolvimento da tecnologia necessária, incluindo a segurança desde a fase de conceção;
22. Salienta que a questão da definição de normas e a concessão de interoperabilidade são fundamentais para o futuro da concorrência no domínio da inteligência artificial e das tecnologias robóticas; insta a Comissão a continuar a trabalhar na harmonização internacional de normas técnicas, em especial em colaboração com as organizações europeias de normalização e a organização internacional de normalização, a fim de promover a inovação, evitar uma fragmentação do mercado interno e garantir um nível elevado de segurança dos produtos e proteção dos consumidores, incluindo, sempre que necessário, normas mínimas de segurança no ambiente de trabalho; destaca a importância da engenharia inversa lícita e de normas abertas, a fim de maximizar o valor da inovação e assegurar que os robôs possam comunicar entre si; saúda, a este respeito, a criação de comités técnicos especiais, como o ISO/TC 299 Robotics, dedicados exclusivamente ao desenvolvimento de normas em matéria de robótica;
23. Realça que o teste de robôs em cenários da vida real é essencial para identificar e avaliar os riscos que podem implicar, bem como o respetivo desenvolvimento tecnológico para lá de uma fase de laboratório puramente experimental; sublinha, a este respeito, que o teste de robôs em cenários da vida real, em especial em cidades e em estradas, levanta uma série de questões, incluindo obstáculos que desaceleram a evolução dessas fases de testes, e exige uma estratégia e um mecanismo de supervisão eficazes; insta a Comissão a elaborar critérios uniformes em todos os Estados-Membros, os quais os Estados-Membros individuais devem utilizar para identificar domínios em que as experiências com robôs são permitidas, em conformidade com o princípio da precaução;
a) Veículos autónomos
24. Salienta que os transportes autónomos cobrem todos os sistemas telepilotados, automatizados, conectados e autónomos de transporte rodoviário, ferroviário, marítimo, fluvial e aéreo, nomeadamente, veículos automóveis, comboios, embarcações, aeronaves, aeronaves não tripuladas, bem como todas as formas futuras de desenvolvimento e inovação neste setor;
25. Considera que o setor automóvel se encontra em carência urgente de normas eficazes a nível da União e a nível mundial para garantir o desenvolvimento transfronteiriço de veículos automatizados e autónomos, de modo a explorar na plenitude o seu potencial económico e beneficiar dos efeitos positivos de tendências tecnológicas; salienta que as abordagens regulamentares fragmentadas impediriam a aplicação de sistemas de transporte autónomos e colocariam em perigo a competitividade europeia;
26. Chama a atenção para o facto de o tempo de reação do condutor ter uma importância fundamental em caso de ativação imprevista da autopilotagem do veículo, exortando, por isso, as partes interessadas a estabelecer valores realistas para a determinação das questões de segurança e responsabilidade;
27. Considera que a transição para veículos autónomos terá impacto nos seguintes aspetos: responsabilidade civil (imputabilidade e seguros), segurança rodoviária, todos os temas ligados ao ambiente (por exemplo, eficiência energética, utilização de tecnologias e fontes de energias renováveis), questões relacionadas com a informação (acesso aos dados, proteção dos dados e da privacidade e partilha dos dados), questões relacionadas com as infraestruturas de TIC (por exemplo, a densidade elevada de comunicações eficientes e fiáveis) e com o emprego (por exemplo, a criação e a perda de postos de trabalho, a formação dos condutores de veículos pesados de mercadorias com vista à utilização de veículos automatizados); salienta que serão necessários investimentos substanciais nas infraestruturas rodoviárias, energéticas e das TIC; insta a Comissão a ter em consideração os aspetos acima referidos nos seus trabalhos sobre veículos autónomos:
28. Salienta a importância decisiva de os programas europeus de navegação por satélite Galileo e EGNOS disponibilizarem informações de posicionamento e cronometria fiáveis e precisas para a implementação de veículos autónomos e exorta, neste contexto, à ultimação e ao lançamento dos satélites necessários para completar o sistema de posicionamento europeu GALILEU;
30. Reconhece os avanços positivos nas tecnologias relativas aos drones, nomeadamente no domínio das operações de busca e salvamento; salienta a relevância de um quadro da União para os drones, a fim de defender a segurança, a proteção e a privacidade dos cidadãos da União e insta a Comissão a acompanhar as recomendações da resolução do Parlamento, de 29 de outubro de 2015, sobre a utilização segura de sistemas de aeronaves telepilotadas (RPAS), vulgarmente conhecidos como veículos aéreos não tripulados (UAV), no campo da aviação civil(5); exorta a Comissão a disponibilizar avaliações sobre as questões de segurança relacionadas com a utilização generalizada de veículos aéreos não tripulados; insta a Comissão a estudar a necessidade de introduzir um sistema de rastreabilidade e identificação destinado aos RPAS que permita determinar a posição da aeronave em tempo real durante a sua utilização; recorda que a homogeneidade e a segurança das aeronaves não tripuladas devem ser asseguradas através das medidas previstas no Regulamento (CE) n.º 216/2008 do Parlamento Europeu e do Conselho(6);
31. Sublinha que a investigação e o desenvolvimento dos robôs destinados à prestação de cuidados a idosos se tornou mais comum e barato, levando ao fabrico de produtos com maior funcionalidade e a uma mais ampla aceitação por parte dos consumidores; constata a existência de uma vasta gama de aplicações destas tecnologias nos domínios da prevenção, da assistência, da supervisão, do estímulo e do acompanhamento dos idosos e das pessoas com deficiência, bem como das pessoas que sofrem de demência, de perda de memória ou de distúrbios cognitivos;
33. Sublinha a relevância da educação, da formação e da preparação adequadas para profissionais da saúde, como médicos e prestadores de cuidados, a fim de assegurar o mais elevado nível possível de competência profissional, bem como salvaguardar e proteger a saúde dos doentes; realça a necessidade de definir os requisitos profissionais mínimos que um cirurgião tem de cumprir para poder operar e recorrer a robôs cirúrgicos; considera que é essencial respeitar o princípio da autonomia supervisionada dos robôs, segundo o qual caberá sempre a um cirurgião humano estabelecer o plano inicial de tratamento e tomar a decisão final relativa à sua execução; destaca a relevância especial da formação para os utilizadores para se familiarizarem com os requisitos técnicos neste âmbito; chama a atenção para a tendência crescente no sentido de um autodiagnóstico recorrendo a robôs móveis e, por conseguinte, alerta para a necessidade de os médicos receberem formação para fazer face a casos de autodiagnóstico; considera que a utilização de uma tal tecnologia não deve afetar nem prejudicar a relação entre um médico e o paciente, devendo, pelo contrário, assistir os médicos na realização do diagnóstico e/ou tratamento dos doentes, a fim de reduzir o risco de erros humanos e aumentar a qualidade a esperança de vida;
34. Considera que os robôs médicos continuam a abrir caminho na execução de cirurgias de alta precisão e de procedimentos repetitivos e têm potencial para melhorar os resultados da reabilitação e prestar apoio logístico altamente eficaz nos hospitais; observa que os robôs médicos têm igualmente potencial para reduzir os custos relacionados com os cuidados de saúde, permitindo que os profissionais centrem a sua atenção na prevenção e não no tratamento e disponibilizando mais recursos orçamentais para uma melhor adaptação à diversidade das necessidades dos doentes, à formação contínua dos profissionais de saúde e à investigação;
35. Insta a Comissão a assegurar, antes da data de entrada em vigor do Regulamento relativo aos dispositivos médicos(7), que os procedimentos relativos aos ensaios de novos dispositivos robóticos no domínio médico sejam seguros, especialmente quando se trata de dispositivos para implantação no corpo humano;
36. Dá conta dos enormes progressos e do potencial da robótica no domínio da reparação e da compensação de órgãos debilitados e de funções humanas, mas também das questões complexas colocadas em especial pelas possibilidades de aperfeiçoamento humano, dado que os robôs médicos e, em particular, os sistemas ciberfísicos podem alterar os nossos conceitos sobre um corpo humano saudável, uma vez que podem ser usados diretamente no corpo humano ou implantados no mesmo; sublinha a importância da criação urgente de comissões de ética de robôs em hospitais e em outras instituições de cuidados de saúde dotadas de pessoal competente e incumbidas de analisar e prestar assistência na resolução de problemas éticos complicados e pouco habituais que envolvam questões que afetam o cuidado e o tratamento de doentes; insta a Comissão e os Estados-Membros a elaborarem diretrizes para ajudar na criação e no funcionamento de tais comissões;
38. Recomenda a criação de entidades independentes de confiança, com vista a deter os meios necessários para prestar serviços aos portadores de aparelhos médicos vitais e avançados, como serviços de manutenção, reparações e aperfeiçoamentos, incluindo atualizações de software, especialmente no caso de tais serviços já não serem prestados pelo fornecedor inicial; sugere que seja prevista a obrigação de os fabricantes fornecerem as instruções detalhadas de conceção, incluindo o código-fonte, a estas entidades independentes de confiança, à semelhança do depósito legal de publicações numa biblioteca nacional;
40. Sublinha a importância de garantir o acesso equitativo de todas as pessoas a essas inovações, instrumentos e intervenções tecnológicas; insta a Comissão e os Estados-Membros a promoverem o desenvolvimento de tecnologias de assistência, a fim de facilitar o desenvolvimento e a adoção destas tecnologias por aqueles que deles necessitam, em conformidade com o artigo 4.º da Convenção das Nações Unidas sobre os direitos das pessoas com deficiência, de que a União é parte;
41. Chama a atenção para a previsão da Comissão que, até 2020, a Europa pode enfrentar uma falta de até 825 000 profissionais de TIC e que 90 % dos empregos exigirão, no mínimo, competências digitais mínimas; saúda a iniciativa da Comissão de propor um roteiro para a possível utilização e revisão de um quadro de competências digitais e descritores de competências digitais para todos os níveis de aprendizes e insta a Comissão a prestar um apoio substancial ao desenvolvimento de capacidades digitais em todos os grupos etários, independentemente do seu regime de trabalho, enquanto primeiro passo no sentido de um maior alinhamento das lacunas do mercado de trabalho com a procura de emprego; salienta que o crescimento no domínio da robótica exige que os Estados-Membros desenvolvam sistemas mais flexíveis de formação e ensino de forma a garantir que as estratégias de aprendizagem correspondem às necessidades da economia robótica;
43. Insta a Comissão a começar a analisar e a controlar mais de perto as tendências laborais a médio e longo prazo, com especial ênfase para a criação, a deslocação e a perda de empregos nos diferentes domínios/áreas de qualificação, a fim de saber em que domínios estão a ser criados empregos e quais os que estão a perder empregos em consequência de uma maior utilização de robôs;
44. Salienta a importância de prever as alterações da sociedade, tendo em conta os efeitos que o desenvolvimento e a aplicação da robótica e da IA podem ter no emprego; insta a Comissão a analisar diferentes cenários possíveis e as suas consequências para a viabilidade dos sistemas de segurança social dos Estados-Membros; considera que deve ser iniciado um debate inclusivo sobre novos modelos de emprego e sobre a sustentabilidade dos nossos sistemas fiscais e sociais com base na existência de um rendimento adequado, incluindo a possível introdução de um rendimento básico generalizado;
46. Regista o enorme potencial da robótica em termos de melhoria da segurança no trabalho, através da transferência de várias tarefas perigosas e prejudicais dos humanos para os robôs, assinalando, contudo, o seu potencial para a criação de um conjunto de novos riscos devido ao número crescente de interações entre seres humanos e robôs no local de trabalho; sublinha, a este respeito, a importância de aplicar regras estritas e viradas para o futuro às interações entre seres humanos e robôs, a fim de garantir a saúde, a segurança e o respeito dos direitos fundamentais no local de trabalho;
47. Observa que o desenvolvimento da robótica e da inteligência artificial deve procurar limitar o seu impacto ambiental com base num consumo de energia eficaz, na eficiência energética através da promoção da utilização de energias renováveis e de materiais escassos, na minimização dos resíduos, tais como os resíduos elétricos e eletrónicos, e na reparabilidade; incentiva, por conseguinte, a Comissão a incorporar os princípios da economia circular em qualquer política da União em matéria de robótica; observa que a utilização da robótica também terá um impacto positivo sobre o ambiente, em especial nos domínios da agricultura e do abastecimento e transporte alimentar, nomeadamente através da menor dimensão das máquinas e de uma utilização reduzida de fertilizantes, energia e água, bem como através da agricultura de precisão e da otimização de rotas;
48. Salienta que os sistemas ciberfísicos levarão à criação de sistemas de energia e infraestruturas capazes de controlar o fluxo de eletricidade entre o produtor e o consumidor, tendo ainda como consequência a criação de «produtores-consumidores» de energia, que produzem e consomem energia, proporcionando, assim, grandes benefícios para o ambiente;
49. Considera que a responsabilidade civil pelos danos causados por robôs constitui uma questão crucial que tem de ser igualmente resolvida ao nível da União, a fim de garantir o mesmo nível de eficácia, de transparência e de coerência na execução da segurança jurídica em toda a União Europeia para benefício dos cidadãos, dos consumidores e das empresas;
50. Observa que o desenvolvimento da tecnologia robótica exigirá mais compreensão relativamente aos pontos comuns necessários para a atividade conjunta entre humanos e robôs, que deverá ter por base duas relações de interdependência centrais, a previsibilidade e a direcionalidade; assinala que estas duas relações de interdependência são fundamentais para determinar que informações devem ser partilhadas entre humanos e robôs e como pode ser alcançada uma base comum entre humanos e robôs, a fim de permitir uma ação conjunta e sem problemas;
51. Apela à Comissão que apresente, com base no artigo 114.º do TFUE, uma proposta para um instrumento legislativo sobre questões jurídicas relacionadas com o desenvolvimento e a utilização da robótica e da inteligência artificial previsível para os próximos 10 a 15 anos, conjugado com instrumentos não legislativos, como as diretrizes e os códigos de conduta referidos nas recomendações descritas no Anexo;
52. Considera que, qualquer que seja a solução jurídica aplicável à responsabilidade civil pelos danos causados por robôs em casos que não sejam de danos patrimoniais, o futuro instrumento legislativo não deve, em caso algum, limitar o tipo ou a extensão dos danos a serem indemnizados, nem deve limitar as formas de compensação que podem ser disponibilizadas à parte lesada, pelo simples facto de os danos não terem sido provocados por um agente não humano;
53. Considera que o futuro instrumento legislativo deve ter por base uma avaliação aprofundada por parte da Comissão que determine se a abordagem a aplicar deve ser a da responsabilidade objetiva ou a da gestão de riscos;
55. Observa que a abordagem da gestão de riscos não se concentra na pessoa «que atuou de forma negligente» como individualmente responsável, mas na pessoa que é capaz, sob determinadas circunstâncias, de minimizar os riscos e lidar com os impactos negativos;
56. Considera que, em princípio, uma vez identificadas as partes a quem cabe, em última instância, a responsabilidade, esta deve ser proporcional ao nível efetivo de instruções dadas ao robô e ao nível da sua autonomia, de modo a que quanto maior for a capacidade de aprendizagem ou de autonomia de um robô, e quanto mais longa for a «educação» do robô, maior deve ser a responsabilidade do «professor»; observa, em especial, que as competências resultantes da «formação» dada a um robô não devem ser confundidas com as competências estritamente dependentes das suas capacidades de autoaprendizagem, quando procura identificar a pessoa a quem se atribui efetivamente o comportamento danoso do robô; observa que, pelo menos na fase atual, a responsabilidade deve ser imputada a um ser humano e não a um robô;
57. Destaca que uma possível solução para a complexidade de atribuir responsabilidade pelos danos causados pelos robôs cada vez mais autónomos pode ser um regime de seguros obrigatórios, conforme acontece já, por exemplo, com os carros; observa, no entanto, que ao contrário do que acontece com o regime de seguros para a circulação rodoviária, em que os seguros cobrem os atos e as falhas humanas, um regime de seguros para a robótica deveria ter em conta todos os potenciais elementos da cadeia de responsabilidade;
58. Considera que, à semelhança do que acontece com os veículos motorizados, esse regime de seguros poderia ser complementado por um fundo de garantia da reparação de danos nos casos não abrangidos por qualquer seguro; insta o setor dos seguros a desenvolver novos produtos e tipos de ofertas que estejam em linha com os avanços na robótica;
59. Insta a Comissão, ao efetuar uma avaliação de impacto do respetivo futuro instrumento legislativo, a explorar, analisar e considerar as implicações de todas as soluções jurídicas possíveis, tais como:
a) Criar um regime de seguros obrigatórios, se tal for pertinente e necessário para categorias específicas de robôs, em que, tal como acontece já com os carros, os produtores ou os proprietários de robôs seriam obrigados a subscrever um seguro para cobrir os danos potencialmente causados pelos seus robôs;
b) Garantir que um fundo de compensação não serviria apenas para garantir uma compensação se um dano causado por um robô não se encontrasse abrangido por um seguro;
c) Permitir que o fabricante, o programador, o proprietário ou o utilizador beneficiassem de responsabilidade limitada se contribuíssem para um fundo de compensação, bem como se subscrevessem conjuntamente um seguro para garantir a indemnização quando o dano é causado por um robô;
e) Garantir que a ligação entre um robô e o respetivo fundo seja patente pelo número de registo individual constante de um registo específico da União que permita que qualquer pessoa que interaja com o robô seja informada da natureza do fundo, dos limites da respetiva responsabilidade em caso de danos patrimoniais, dos nomes e dos cargos dos contribuidores e de todas as outras informações relevantes;
g) Introduzir um instrumento especificamente para os consumidores que tencionem requerer coletivamente uma compensação por danos decorrentes do mau funcionamento de máquinas inteligentes às empresas produtoras responsáveis;
60. Observa que, apesar de as atuais normas de direito internacional privado geral em matéria de acidentes de viação, aplicáveis no seio da União, não carecerem urgentemente de alteração significativa para viabilizar o desenvolvimento de veículos autónomos, a simplificação do atual sistema dual para a definição da lei aplicável (com base no Regulamento (CE) n.º 864/2007 do Parlamento Europeu e do Conselho(8) e na Convenção de Haia, de 4 de maio de 1971, em matéria de direito aplicável a acidentes de viação) melhoraria a segurança jurídica e limitaria as possibilidades de busca do foro mais vantajoso («forum shopping»);
61. Regista a necessidade de considerar a introdução de alterações aos acordos internacionais, como a Convenção de Viena sobre a circulação rodoviária, de 8 de novembro d 1968, e a Convenção da Haia sobre a lei aplicável em matéria de acidentes de circulação rodoviária;
62. Confia em que a Comissão assegurará que os Estados-Membros cumpram o direito internacional de modo uniforme, nomeadamente a Convenção de Viena relativa à circulação rodoviária, que tem de ser alterada, a fim de tornar possível a condução sem condutor, e apela à Comissão, aos Estados-Membros e à indústria para que apliquem os objetivos da Declaração de Amesterdão o mais rapidamente possível;
63. Incentiva fortemente a cooperação internacional no exame dos desafios sociais, éticos e jurídicos e, seguidamente, no estabelecimento de normas regulamentares sob a égide das Nações Unidas;
64. Destaca que as restrições e as condições estabelecidas no Regulamento (CE) n.º 428/2009 do Parlamento Europeu e do Conselho(9) sobre o comércio de artigos de dupla utilização – bens, programas informáticos e tecnologia que podem ser usados em aplicações quer civis quer militares e/ou que podem contribuir para a proliferação de armas de destruição maciça – devem aplicar-se igualmente às aplicações de robótica;
65. Solicita, com base no artigo 225.º do TFUE, que a Comissão apresente, com base no artigo 114.º do TFUE, uma proposta de diretiva sobre disposições de Direito civil em matéria de robótica, seguindo as recomendações detalhadas que constam do Anexo;
67. Entende que a proposta requerida teria incidências financeiras caso fosse criada uma nova agência europeia;
68. Encarrega o seu Presidente de transmitir a presente resolução e as recomendações detalhadas que figuram em anexo à Comissão e ao Conselho.
ANEXO À PROPOSTA DE RESOLUÇÃO:RECOMENDAÇÕES DETALHADAS
Deve ser criada uma definição comum europeia para robôs autónomos «inteligentes», incluindo, se for caso disso, definições das respetivas subcategorias, tendo em consideração as seguintes características:
– a capacidade de adquirir autonomia através de sensores e/ou através da troca de dados com o seu ambiente (interconetividade) e a análise destes dados;
Para efeitos de rastreabilidade e a fim de facilitar a aplicação de outras recomendações, deve ser introduzido um sistema de registo de robôs avançados, assente nos critérios estabelecidos para a classificação de robôs. O sistema de registo e o registo devem abranger toda a União, cobrindo o mercado interno, e poderiam ser geridos por uma Agência Europeia designada para a Robótica e a Inteligência Artificial, caso essa agência fosse criada.
Qualquer solução jurídica aplicada à responsabilidade de robôs e de inteligência artificial em casos que não sejam casos de danos patrimoniais não deve, em caso algum, limitar o tipo ou a extensão dos danos a serem indemnizados, nem deve limitar as formas de compensação que podem ser disponibilizadas à parte lesada, pelo simples facto de os danos não terem sido provocados por um agente não humano.
O futuro instrumento legislativo deve ter por base uma avaliação aprofundada por parte da Comissão que determine se a abordagem a aplicar deve ser a da responsabilidade objetiva ou a da gestão de riscos.
Deve ser criado um regime de seguros obrigatório, que poderia ter por base a obrigação do produtor de subscrever um seguro para os robôs autónomos que produz.
O regime de seguros deve ser complementado por um fundo, a fim de garantir que os danos podem ser indemnizados nos casos em que não exista qualquer cobertura de seguro.
Qualquer decisão política sobre as regras em matéria de responsabilidade civil aplicáveis aos robôs e à inteligência artificial devem ser tomadas com base em informações adequadas de um projeto de investigação e desenvolvimento à escala europeia dedicado à robótica e à neurociência, com cientistas e especialistas capazes de avaliar todos os riscos possíveis e as respetivas consequências.
Interoperabilidade, acesso a códigos e direitos de propriedade intelectual
Deve ser garantida a interoperabilidade dos robôs autónomos ligados em rede que interagem entre si. Deve ser disponibilizado, sempre que necessário, acesso aos códigos-fonte, a dados de entrada e a pormenores relativos à construção, para investigar acidentes e danos provocados por «robôs inteligentes», bem como para assegurar a sua permanente operacionalidade, disponibilidade, fiabilidade, segurança e proteção.
A Comissão, ao propor atos jurídicos em matéria de robótica, deve ter em conta os princípios consagrados na seguinte Carta da Robótica.
O código de conduta ética proposto no domínio da robótica estabelece as bases para a identificação, a supervisão e o cumprimento dos princípios éticos fundamentais desde a fase de conceção e desenvolvimento.
O quadro, elaborado com base em informações de um projeto de investigação e desenvolvimento à escala europeia dedicado à robótica e à neurociência, tem de ser concebido de modo ponderado, a fim de possibilitar ajustamentos individuais numa base casuística para avaliar se um dado comportamento é correto ou errado numa dada situação, bem como a tomada de decisões de acordo com uma hierarquia predefinida de valores.
O código não deve substituir a necessidade de resolver todos os grandes problemas jurídicos neste domínio, devendo, porém, ter uma função de complementaridade. Limitar-se-á, portanto, a facilitar a classificação ética da robótica, a reforçar os esforços de inovação responsáveis neste domínio e a ter em conta as preocupações do público.
Deve ser dada atenção especial às fases de investigação e desenvolvimento da trajetória tecnológica pertinente (processo de conceção, exame ético, controlos de auditoria, etc.). O código deve dar resposta à necessidade de cumprimento das normas éticas por parte de investigadores, profissionais, utilizadores e criadores, bem como introduzir um procedimento para a conceção de uma forma de resolver os dilemas éticos pertinentes e permitir que estes sistemas funcionem de um modo eticamente responsável.
CÓDIGO DE CONDUTA ÉTICA PARA ENGENHEIROS DE ROBÓTICA
O Código apela à cooperação estreita entre todas as disciplinas, a fim de garantir que a investigação de robótica é realizada na União Europeia de um modo seguro, ético e eficaz.
O Código de Conduta abrange todas as atividades de investigação e de desenvolvimento no domínio da robótica.
O Código de Conduta é voluntário e oferece um conjunto de princípios e orientações gerais para medidas a tomar por todas as partes interessadas.
Os organismos que financiam a investigação de robótica, as organizações de investigação, as comissões de ética e os investigadores são incentivados a ponderar, desde as fases iniciais, as implicações futuras das tecnologias ou dos objetos a serem investigados e a criar uma cultura de responsabilidade tendo em conta os problemas e as oportunidades que podem surgir no futuro.
Os organismos públicos e privados que financiam a investigação de robótica devem exigir que, a cada apresentação de propostas de investigação de robótica para financiamento, seja efetuada e apresentada uma avaliação de risco. Tal código deve considerar os seres humanos, e não os robôs, como agentes responsáveis.
Os investigadores no domínio da robótica devem assumir a mais elevada conduta ética e profissional e respeitar os seguintes princípios:
Não-maleficência – a doutrina de «em primeiro lugar, não prejudicar», segundo a qual os robôs não podem causar danos a um ser humano;
Autonomia – a capacidade de tomar uma decisão informada e não coagida sobre as condições de interação com robôs;
Justiça – distribuição equitativa dos benefícios associados à robótica e, em particular, a acessibilidade a robôs de cuidados domésticos e de cuidados de saúde.
As atividades de investigação de robótica devem respeitar os direitos fundamentais e ser levadas a cabo no interesse do bem-estar e da autodeterminação do indivíduo e da sociedade em geral, na sua conceção, aplicação, difusão e utilização. A dignidade humana e a sua autonomia – tanto física como psicológica – deve ser sempre respeitada.
As atividades de investigação de robótica devem ser levadas a cabo em conformidade com o princípio da precaução, prevendo os impactos potenciais dos resultados na segurança e tomando as devidas precauções, proporcionais ao nível de proteção, ao mesmo tempo que se fomenta o progresso em benefício da sociedade e do ambiente.
Os engenheiros de robótica garantem a transparência e o respeito pelo legítimo direito de acesso às informações por todas as partes interessadas. A abertura à participação dos interessados permite a participação nos processos de tomada de decisão de todas as partes interessadas envolvidas nas atividades de investigação de robótica ou que sejam abrangidas pelas mesmas.
Os engenheiros de robótica devem permanecer responsáveis pelos impactos sociais, ambientais e para a saúde humana que a robótica possa ter nas gerações presentes ou futuras.
Os criadores de robótica devem ter em conta e respeitar o bem-estar físico, a segurança, a saúde e os direitos das pessoas. Um engenheiro de robótica deve preservar o bem-estar da humanidade, respeitando simultaneamente os direitos humanos, e revelar prontamente fatores que possam colocar em perigo as pessoas ou o ambiente.
A reversibilidade, sendo condição necessária da capacidade de controlo, é um conceito fundamental na programação de robôs, tendo em vista o seu comportamento seguro e fiável. Um modelo de reversibilidade indica ao robô quais as ações que são reversíveis e como as reverter, caso seja possível. A capacidade de anular a última ação ou uma sequência de ações permite aos utilizadores anularem ações indesejadas e regressar à «boa» fase do seu trabalho.
O direito à privacidade tem de ser sempre respeitado. Um engenheiro de robótica deve assegurar que as informações privadas sejam mantidas em segurança e utilizadas apenas de forma adequada. Além disso, um engenheiro de robótica deve garantir que os indivíduos não sejam identificáveis pessoalmente, salvo em circunstâncias excecionais e, se for esse o caso, apenas o sejam com consentimento esclarecido e informado de forma inequívoca. O consentimento humano informado deve ser solicitado e obtido antes de qualquer interação homem-máquina. Como tal, os criadores de robótica são responsáveis por desenvolver e seguir procedimentos para o consentimento válido, para a confidencialidade, o anonimato, o tratamento justo e o processo equitativo. Os criadores cumprirão qualquer pedido no sentido da destruição de quaisquer dados conexos e da respetiva eliminação dos conjuntos de dados.
Os investigadores devem procurar maximizar os benefícios do seu trabalho em todas as fases, desde a conceção até à divulgação. Devem ser evitados danos causados a participantes na investigação/sujeitos humanos/participantes ou sujeitos de experiências, testes ou estudos. Sempre que ocorram riscos que sejam inevitáveis e parte integrante da investigação, devem ser desenvolvidos e respeitados sólidos protocolos de avaliação e gestão dos riscos. Normalmente, o risco de danos não deve ser superior ao que existe na vida do dia-a-dia, ou seja, as pessoas não devem ficar expostas a riscos superiores ou a mais riscos do que aqueles a que estão expostos na sua vida normal. O funcionamento de um sistema de robótica deve basear-se sempre num processo detalhado de avaliação do risco, o qual deve ser instruído de princípios cautelares e de proporcionalidade.
CÓDIGO PARA AS COMISSÕES DE ÉTICA EM MATÉRIA DE INVESTIGAÇÃO (CEI)
O processo de exame ético deve ser independente da própria investigação. Este princípio destaca a necessidade de evitar conflitos de interesse entre os investigadores e as pessoas que examinam o protocolo de ética e entre os examinadores e as estruturas de governo organizacional.
O processo de exame ético deve ser realizado por examinadores com os conhecimentos especializados adequados, tendo em conta a necessidade de ponderação cuidadosa do alcance da adesão e da formação específica em ética das CEI.
O processo de exame deve ser responsável e aberto a escrutínio. As CEI têm de reconhecer as suas responsabilidades e devem estar devidamente situadas no âmbito das estruturas organizacionais que conferem transparência ao funcionamento e aos procedimentos das CEI para manter e analisar as normas.
A função de uma Comissão de Ética em matéria de Investigação
Uma CEI é normalmente responsável por analisar toda a investigação que envolve participantes humanos realizada por indivíduos empregados na ou pela instituição em causa; garantir que o exame de ética é independente, competente e oportuno; proteger a dignidade, os direitos e o bem-estar dos participantes em atividades de investigação; ter em consideração a segurança do(s) investigador(es); ter em consideração os interesses legítimos de outras partes interessadas; tomar decisões informadas sobre o mérito científico de propostas; e efetuar recomendações informadas ao investigador se a proposta for considerada insuficiente em algum aspeto.
A constituição da Comissão de Ética em matéria de Investigação
Uma CEI deve, regra geral, ser multidisciplinar, incluir homens e mulheres e ser constituída por elementos com uma ampla experiência e conhecimentos especializados no domínio da investigação em robótica. O mecanismo de nomeação deve garantir que os elementos da comissão fornecem um equilíbrio adequado de conhecimentos científicos, antecedentes filosóficos, jurídicos ou éticos, contribuem com opiniões e incluem, pelo menos, um elemento com conhecimento especializado em ética e utilizadores de serviços especializados de saúde, educação ou sociais, sempre que estes constituam o cerne das atividades de investigação, e indivíduos com conhecimentos metodológicos específicos relevantes para a investigação que analisam. As CEI devem ser constituídas de modo a evitar conflitos de interesse.
Todas as organizações de investigação devem estabelecer procedimentos adequados de acompanhamento do projeto de investigação que recebeu aprovação ética até este estar concluído e garantir o seu exame contínuo, caso a conceção da investigação deixe antever possíveis alterações ao longo do tempo que poderão ter de ser abordadas. O acompanhamento deve ser proporcional à natureza e ao grau do risco associado à investigação. Se uma CEI considerar que um relatório de acompanhamento suscita preocupações significativas quanto à conduta ética do estudo, deve solicitar uma descrição completa e detalhada da investigação para exame ético completo. Se se considerar que um estudo não está a ser efetuado de forma ética, deve considerar-se a retirada da sua aprovação e a investigação deve ser suspensa ou interrompida.
LICENÇA PARA CRIADORES
– Devem ter em conta os valores europeus de dignidade, autonomia e autodeterminação, liberdade e justiça antes, durante e após o processo de conceção, desenvolvimento e fornecimento dessas tecnologias, incluindo a necessidade de não prejudicar, lesar, enganar ou explorar utilizadores (vulneráveis).
– Devem salvaguardar a segurança e a saúde dos que interagem e entram em contacto com robótica, uma vez que os robôs, enquanto produtos, devem ser concebidos com processos que garantem a sua segurança e proteção. Um engenheiro de robótica tem de preservar o bem-estar da humanidade e, simultaneamente, respeitar os direitos humanos e não pode disponibilizar um robô sem salvaguardar a segurança, a eficácia e a reversibilidade do funcionamento do sistema.
– Devem obter um parecer favorável da Comissão de Ética em matéria de Investigação antes de testar um robô em ambiente real ou de envolver humanos nos seus procedimentos de conceção e desenvolvimento.
LICENÇA PARA UTILIZADORES
– Têm autorização para utilizar um robô sem risco ou medo de danos físicos ou psicológicos.
– Devem ter o direito de esperar que um robô efetue qualquer tarefa para a qual foi explicitamente concebido.
– Devem estar conscientes de que qualquer robô pode ter limitações percetivas, cognitivas e de atuação.
– Devem respeitar a fragilidade humana, tanto física como psicológica, bem como as necessidades emocionais dos humanos.
– Devem ter em conta os direitos de privacidade das pessoas, incluindo a desativação de controlos de vídeo durante procedimentos íntimos.
– Não têm autorização para recolher, utilizar ou divulgar informações pessoais sem o consentimento expresso dos titulares dos dados.
– Não têm autorização para utilizar um robô de um modo que infrinja princípios e normas éticas ou jurídicas.
– Não têm autorização para modificar um robô para que o mesmo possa funcionar como arma.
(1) Um robô não pode magoar um ser humano ou, por inação, permitir que tal aconteça. (2) Um robô tem de obedecer às ordens dos seres humanos, exceto quando tais ordens entrarem em conflito com a primeira lei. (3) Um robô tem de proteger a sua própria existência desde que tal proteção não entre em conflito com a primeira ou com a segunda lei (Ver: I.Asimov, Runaround, 1943) e (0) Um robô não pode magoar a humanidade ou, por inação, permitir que tal aconteça.
Ver Declaração Schuman (1950): «A Europa não se fará de uma só vez, nem de acordo com um plano único. Far-se-á através de realizações concretas que criarão, antes de mais, uma solidariedade de facto.»
Diretiva 85/374/CEE do Conselho, de 25 de julho de 1985, relativa à aproximação das disposições legislativas, regulamentares e administrativas dos Estados-Membros em matéria de responsabilidade decorrente dos produtos defeituosos (JO L 210 de 7.8.1985, p. 29).
Ver resolução legislativa do Parlamento Europeu, de 2 de abril de 2014, sobre a proposta de regulamento do Parlamento Europeu e do Conselho sobre dispositivos médicos e que altera a Diretiva 2001/83/CE, o Regulamento (CE) n.º 178/2002 e o Regulamento (CE) n.º 1223/2009 (COM(2012)0542 – C7-0318/2012 – 2012/0266(COD)).
Regulamento (CE) n.º 864/2007 do Parlamento Europeu e do Conselho, de 11 de julho de 2007, relativo à lei aplicável às obrigações extracontratuais (Roma II) (JO L 199 de 31.7.2007, p. 40).
Regulamento (CE) n.º 428/2009 do Conselho, que cria um regime comunitário de controlo das exportações, transferências, corretagem e trânsito de produtos de dupla utilização (JO L 341, de 29.5.2009, p. 1).
Nos termos do Anexo VI do Regimento, a Comissão dos Assuntos Jurídicos é responsável, entre outros, pelo direito civil e comercial, pelo direito das sociedades, pelo direito de propriedade intelectual e pela interpretação e aplicação do direito internacional, na medida em que afete a União Europeia, e pelas questões éticas relacionadas com as novas tecnologias. O desenvolvimento da robótica e da inteligência artificial suscita problemas jurídicos e éticos que se encontram claramente associados a todos estes domínios e que requerem uma pronta intervenção ao nível da UE. Embora a eventual apresentação de uma ou mais propostas relacionadas com robótica e inteligência artificial caiba à Comissão, o Parlamento Europeu decidiu abrir caminho para tais iniciativas, recorrendo aos seus direitos por força do artigo 225.º do Tratado de Funcionamento da União Europeia e do artigo 46.º do Regimento.
Por conseguinte, a 20 de janeiro de 2015, a Comissão JURI decidiu criar um Grupo de Trabalho para questões jurídicas relacionadas com o desenvolvimento da Robótica e da Inteligência Artificial (IA) na União Europeia. O Grupo de Trabalho visava principalmente elaborar normas de Direito civil relacionadas com o assunto em questão.
Para além dos elementos da Comissão dos Assuntos Jurídicos, o Grupo de Trabalho incluía também representantes da Comissão da Indústria, da Investigação e da Energia (ITRE), da Comissão do Mercado Interno e da Proteção dos Consumidores (IMCO) e da Comissão do Emprego e dos Assuntos Sociais (EMPL).
O Grupo de Trabalho consultou peritos de contextos muito diversos e obteve contributos importantes que constam da presente resolução.
A robótica e a IA tornaram-se uma das mais proeminentes tendências tecnológicas do nosso século. O rápido aumento da sua utilização e do seu desenvolvimento coloca novos e difíceis problemas à nossa sociedade. O percurso do sector industrial para o ambiente da sociedade civil impõe uma abordagem diferente no que respeita a estas tecnologias, uma vez que os robôs e a IA aumentarão a sua interação com humanos em domínios muito diversos.
A Comissão JURI considera que os riscos colocados por estas novas interações devem ser abordados urgentemente, assegurando a transposição de um conjunto de valores fundamentais em todas as fases de contacto entre os robôs, a IA e os humanos. Neste processo, deve ser conferida especial atenção à segurança, à privacidade, à integridade, à dignidade e à autonomia dos seres humanos.
Entre outros aspetos importantes abordados na presente resolução contam-se a normalização, os direitos de propriedade intelectual, a titularidade dos dados, o emprego e a responsabilidade. É fundamental que o regulamento preveja condições previsíveis e suficientemente claras para incentivar a inovação europeia no domínio da robótica e da IA.
Base jurídica e subsidiariedade
As ações da Comissão no sentido de adaptar a legislação existente à realidade dos robôs e da inteligência artificial devem ter por base o artigo 114.º do TFUE. De acordo com o artigo 5.º, n.º 3, do TUE, o princípio da subsidiariedade prevê que, nos domínios que não sejam da sua competência exclusiva, a União intervém apenas se e na medida em que os objetivos da ação considerada não possam ser suficientemente alcançados pelos Estados-Membros, tanto ao nível central, como ao nível regional e local, podendo contudo, devido às dimensões ou aos efeitos da ação considerada, ser mais bem alcançados ao nível da União. O desenvolvimento da robótica é, atualmente, uma realidade em toda a União. Em resposta a esta inovação, os Estados-Membros estão a desenvolver diferentes legislações nacionais. Prevê-se que tais discrepâncias criem obstáculos a um desenvolvimento efetivo da robótica. Uma vez que esta tecnologia tem implicações transfronteiriças, a melhor opção legislativa é uma opção europeia.
Princípios éticos e gerais
A resolução estabelece princípios gerais e éticos relativos ao desenvolvimento da robótica e da IA para utilização civil. Em primeiro lugar, a fim de abordar de forma adequada este desenvolvimento, é essencial estabelecer uma definição comum de robôs autónomos inteligentes. Além disso, deve ser reforçada a investigação no domínio da robótica e das TIC, bem como no que respeita às implicações da sua divulgação.
Em segundo lugar, a fim de abordar os princípios éticos, é anexada a esta resolução uma Carta da Robótica. Esta Carta é composta por um Código de Conduta para Engenheiros de Robótica, um Código para as Comissões de Ética em Robótica e Licenças para Criadores e Utilizadores. O quadro proposto respeita plenamente a Carta dos Direitos Fundamentais da UE.
Além disso, sugere-se a criação de uma agência europeia para a robótica e a IA. Esta agência deve fornecer os conhecimentos especializados de natureza técnica, ética e regulamentar necessários para apoiar os intervenientes públicos relevantes.
Direitos de propriedade intelectual, proteção de dados e titularidade dos dados
A resolução insta a Comissão a apresentar uma abordagem equilibrada dos direitos de propriedade intelectual, quando aplicados a normas de hardware e de software, e códigos que protejam e promovam a inovação. Além disso, é exigida a elaboração de critérios para uma «criação intelectual própria» relativamente a obras passíveis de ser objeto de direitos de autor produzidas por computadores ou robôs.
O atual quadro jurídico insuficiente em matéria de proteção e titularidade dos dados é muito preocupante devido ao (previsivelmente maciço) fluxo de dados decorrente da utilização da robótica e da IA.
O aumento da utilização de robôs e de IA requer uma normalização europeia, a fim de evitar discrepâncias entre os Estados-Membros e a fragmentação do mercado interno da União Europeia.
Além disso, os receios dos consumidores em matéria de segurança e proteção no que respeita à utilização de robôs e de IA têm de ser abordados. A presente resolução sublinha especificamente que o teste de robôs em cenários da vida real é essencial para identificar e avaliar os riscos que estes podem implicar.
Normas para a utilização específica de robôs e de IA
A resolução inclui disposições aplicáveis a tipos específicos de robôs. Devem ser adotadas normas individuais aplicáveis a veículos autónomos, robôs de assistência, robôs médicos, recuperação e aperfeiçoamento de humanos, bem como a drones (RPAS).
Regras em matéria de responsabilidade
Os eventuais riscos são inerentes à utilização de máquinas autónomas na nossa sociedade. O comportamento de um robô pode ter implicações de Direito civil, tanto em termos de responsabilidade contratual como em termos de responsabilidade extracontratual. Deste modo, é necessária uma clarificação da responsabilidade por ações de robôs e da eventual capacidade e/ou estatuto jurídico dos robôs, de molde a garantir a transparência e a segurança jurídica para produtores e consumidores em toda a União Europeia.
A Comissão é instada a realizar uma avaliação de impacto dos seus futuros instrumentos legislativos para explorar as implicações de todas as possíveis soluções jurídicas, nomeadamente a criação de um regime de seguros obrigatório e de um fundo de indemnização.
Robótica e IA em contexto social
O aumento da comunicação e da interação com robôs pode ter um impacto profundo nas relações físicas e morais na nossa sociedade. Este é o caso, nomeadamente, dos robôs que prestam assistência, em relação aos quais as pessoas particularmente vulneráveis podem desenvolver sentimentos e uma ligação emocional, suscitando, assim, receios ao nível da dignidade do ser humano e de outros valores morais.
Os robôs e a IA já têm influência a nível do ensino e do emprego. Neste contexto, é necessário um acompanhamento estreito das tendências em termos de emprego, para evitar repercussões indesejáveis no mercado de trabalho.
Atendendo ao desenvolvimento da robótica e da IA em todo o mundo, há que ter em conta a alteração dos acordos internacionais pertinentes em vigor e tomar medidas nesse sentido, sempre que necessário, ou elaborar novos instrumentos com o intuito de introduzir referências específicas à robótica e à IA. A cooperação internacional nesta matéria é muito recomendável.
PARECER da Comissão dos Transportes e do Turismo (16.11.2016)
Relator de parecer: Georg Mayer
A Comissão dos Transportes e do Turismo insta a Comissão dos Assuntos Jurídicos, competente quanto à matéria de fundo, a incorporar as seguintes sugestões na proposta de resolução que aprovar:
– Tendo em conta a Declaração de Amesterdão do Conselho, de 14-15 de abril de 2016, sobre a cooperação no domínio da condução conectada e automatizada («Declaração de Amesterdão»),
A. Considerando que, recentemente, a Comissão criou o grupo de alto nível GEAR 2030, incumbido de elaborar um roteiro para o desenvolvimento adequado de veículos autónomos;
B. Considerando que, para efeitos de responsabilidade civil, deve estabelecer-se uma distinção entre veículos automatizados (que incorporam dispositivos que permitem a execução automática de certas operações de condução) e veículos autónomos (que realizam essas operações); que, no primeiro caso, a condução deve continuar a ser monitorizada de forma contínua pelo condutor e se mantém plenamente sob a sua responsabilidade; que, no segundo caso, a condução já não requer a monitorização contínua ou qualquer intervenção do utilizador; considerando que, no primeiro caso, o regime de responsabilidade civil se mantém inalterado em relação ao dos veículos convencionais, mas deve ser ajustado, no segundo caso;
1. Salienta que os transportes autónomos cobrem todos os sistemas telepilotados, automatizados, conectados e autónomos de transporte rodoviário, ferroviário, marítimo, fluvial e aéreo, nomeadamente, veículos automóveis, comboios, embarcações, aeronaves, aeronaves não tripuladas, bem como todas as formas futuras de desenvolvimento e inovação neste setor (a seguir denominados «meios de transporte autónomos»);
2. Insta a Comissão a ter em consideração os seguintes aspetos nos seus trabalhos sobre meios de transporte autónomos: seguro de responsabilidade civil (imputabilidade e seguros), todos os temas ligados ao ambiente (por exemplo, eficiência energética, utilização de tecnologias e fontes de energias renováveis) e questões relacionadas com a informação (acesso aos dados, proteção dos dados pessoais e da privacidade, partilha dos dados sobre acidentes e situações de risco, valor financeiro dos dados e sua distribuição);
3. Tem em consideração o facto de os meios de transporte autónomos poderem vir a ter um impacto significativo no reforço da segurança dos transportes, uma vez que, atualmente, os erros humanos estão na origem de cerca de 90% dos acidentes rodoviários; observa, no entanto, que os veículos autónomos não poderão nunca evitar totalmente os acidentes, o que levanta problemas de responsabilidade e suscita interrogações quanto à responsabilidade das partes interessadas e à indemnização das vítimas em caso de acidente;
4. Recorda que os sistemas de transporte autónomos existem desde há muito no setor dos transportes públicos (Metro) e demonstraram a sua fiabilidade e alto grau de aceitação pública;
5. Considera que a transição para veículos autónomos, para lá do seu impacto positivo em termos de segurança rodoviária, consumo de combustível, ambiente e novas oportunidades de emprego nos setores automóvel e das telecomunicações, também poderá conduzir à perda de postos de trabalho no setor dos transportes e afetar o setor dos seguros;
6. Chama a atenção para o facto de o tempo de reação do condutor ter uma importância fundamental em caso de ativação imprevista da autopilotagem do veículo, exortando, por isso, as partes interessadas a estabelecer valores realistas para a determinação das questões de segurança e responsabilidade;
7. Destaca, em particular, a importância do projeto de relatório da Comissão dos Assuntos Jurídicos sobre o setor dos transportes, tendo em conta o progresso tecnológico e o facto de já se encontrarem disponíveis no mercado meios de transporte semiautónomos e de em breve virem a estar disponíveis meios de transporte completamente autónomos;
8. Realça a importância de prosseguir o apoio à inovação no domínio da robótica, como os veículos conectados e automatizados e dos veículos aéreos não tripulados, para reforçar a posição da indústria europeia no mercado mundial;
9. Observa que os meios de transporte autónomos desempenham um papel importante no desenvolvimento de transportes sustentáveis; assinala que os meios de transporte autónomos podem contribuir para reduzir o congestionamento do tráfego e insta a Comissão e os Estados-Membros a terem em conta o progresso tecnológico em tempo útil, do mesmo modo que os efeitos negativos no ambiente e na segurança e a promoção da inovação;
10. Confia em que a Comissão assegurará que os Estados-Membros adaptam de modo uniforme a legislação existente, nomeadamente a Convenção de Viena relativa à circulação rodoviária, de 8 de novembro de 1968, a fim de tornar possível a condução sem condutor, e apela à Comissão, aos Estados-Membros e à indústria para que apliquem os objetivos da Declaração de Amesterdão o mais rapidamente possível;
11. Exorta a Comissão a apresentar avaliações sobre as questões de segurança relacionadas com a utilização generalizada de veículos aéreos não tripulados; solicita à Comissão que apresente estudos sobre o impacto dos meios de transporte autónomos na melhoria da segurança e da sustentabilidade dos transportes;
12. Salienta que através da otimização de rotas, da luta contra o congestionamento, da otimização da utilização do sistema de propulsão e da sua comunicação com sistemas de controlo de fluxo, os veículos autónomos contribuirão para melhorar os fatores ambientais, especialmente nos nós urbanos;
13. Salienta que a interação entre meios de transporte autónomos, gestão do tráfego, infraestruturas e sua gestão exigirá uma densidade elevada de comunicações eficientes e fiáveis, de modo a garantir a transferência segura de um grande volume de dados em tempo real; salienta que serão necessários investimentos substanciais nas infraestruturas rodoviárias, energéticas e das TIC, ao mesmo tempo que é garantida a privacidade e a proteção de dados;
14. Salienta a importância de infraestruturas de transporte inteligentes e interligadas e, por conseguinte, insta a Comissão e os Estados-Membros a estabelecer uma infraestrutura adequada, transfronteiras e interoperável em todo o território;
15. Insta a Comissão a desenvolver um regime de responsabilidade civil que inclua o ónus da prova, adaptado ao desenvolvimento de veículos autónomos; salienta a importância de garantir uma clara repartição de responsabilidades entre os responsáveis pela conceção, os fabricantes das diferentes componentes e a montagem de veículos autónomos, os prestadores de serviços (de transporte ou dos serviços necessários ao funcionamento dos veículos autónomos) e os utilizadores finais, a fim de garantir a segurança e os direitos dos passageiros, a proteção dos dados e a proteção contra a pirataria;
16. Salienta a importância decisiva de os programas europeus de navegação por satélite Galileo e EGNOS disponibilizarem informações de posicionamento e cronometria fiáveis e precisas para a implementação de veículos autónomos, em particular para os sistemas de navegação e de segurança nos veículos autónomos, por um lado, e para os sistemas de transporte inteligentes e de gestão do tráfego, por outro;
17. Chama a atenção para o elevado valor acrescentado que os veículos autónomos representam para as pessoas com mobilidade reduzida, ao permitir que participem melhor no transporte rodoviário individual e, dessa forma, facilitar a sua vida quotidiana;
18. Solicita à Comissão que, até 2019, proponha uma Estratégia Europeia comum (que contenha um roteiro único) para os meios de transporte autónomos e para uma colaboração mais estreita entre todas as partes interessadas, incluindo uma análise atenta e recomendações no que diz respeito à dinâmica e à evolução do mercado; solicita à Comissão que proceda à revisão e adaptação, se necessário, do quadro regulamentar da União, de forma a apoiar o desenvolvimento e a utilização de meios de transporte autónomos; insta à ultimação e lançamento, o mais rapidamente possível, dos satélites necessários para completar o sistema de posicionamento europeu GALILEU, para que este sistema possa ser utilizado como sistema de posicionamento pré-definido nos meios de transporte autónomos;
19. Observa que o desenvolvimento de veículos autónomos exige uma abordagem institucional proativa e empenhada por parte da União e dos Estados-Membros, bem como a participação dos centros tecnológicos e da indústria automóvel;
20. Insta a Comissão a desenvolver normas europeias em matéria de infraestruturas para permitir a difusão de veículos autónomos, bem como um roteiro para a sua implementação;
21. Solicita à Comissão e aos Estados -Membros que incluam a utilização de veículos automatizados na formação básica e avançada dos condutores de veículos pesados de mercadorias, e tornem essa parte da formação obrigatória para obter uma carta de condução de automóveis;
22. Recorda que a homogeneidade e a segurança das aeronaves não tripuladas devem ser asseguradas através das medidas previstas no Regulamento (CE) n.º 216/2008 do Parlamento Europeu e do Conselho(1);
PARECER da Comissão das Liberdades Cívicas, da Justiça e dos Assuntos Internos (*) (23.11.2016)
Relator de parecer: Michał Boni
A Comissão das Liberdades Cívicas, da Justiça e dos Assuntos Internos insta a Comissão dos Assuntos Jurídicos, competente quanto à matéria de fundo:
A. Considerando que os avanços tecnológicos no domínio da robótica terão efeitos positivos na economia da União e na vida quotidiana das pessoas, mas poderão igualmente implicar riscos que necessitam de ser abordados; considerando que o desenvolvimento dos novos paradigmas tecnológicos e de produção, dentro ou fora do âmbito do Programa-Quadro Horizonte 2020, deve respeitar os princípios éticos e ter em devida conta os direitos fundamentais consagrados na Carta dos Direitos Fundamentais (CDF);
B. Considerando que um certo número de países terceiros adotaram orientações e legislação sobre robótica e que alguns Estados-Membros também iniciaram reflexões específicas nessa matéria; considerando que um quadro regulamentar para reger o desenvolvimento e a utilização da robótica e da inteligência artificial a nível da União e baseado em regras já existentes, como o Regulamento Geral sobre a Proteção de Dados da União(1), pode evitar uma fragmentação das regras no mercado único e salvaguardar melhor a proteção dos direitos fundamentais de todos os cidadãos da UE à dignidade humana, à privacidade e à vida familiar, à proteção dos dados pessoais e dos direitos de propriedade intelectual, à liberdade de expressão e de informação, à igualdade e não discriminação, à solidariedade, à justiça e direitos dos cidadãos e à segurança, embora subordinados ao princípio da proporcionalidade;
1. Considera que o quadro jurídico em vigor da União deve ser atualizado e completado, quando for adequado, com princípios éticos orientadores para a conceção, engenharia, ensaio e utilização de robôs e da inteligência artificial, a fim de garantir que estas tecnologias possam melhorar efetivamente a qualidade da vida humana; insta a ter sempre em conta o princípio da precaução no desenvolvimento e utilização dessas tecnologias;
2. Considera que a robótica e a inteligência artificial – especialmente as áreas com autonomia integrada, incluindo a capacidade de retirar, compilar e partilhar informação sensível com diversas partes interessadas, e a possibilidade de autoaprendizagem e até de auto-modificação evolutiva – devem ser subordinadas a princípios ou leis conceptuais robustos, nomeadamente que um robô não pode matar ou infligir danos a um ser humano e tem de ser controlado por um ser humano; considera que o processo usado pelos robôs e a inteligência artificial para recolher, processar e utilizar dados pessoais tem de ser transparente e inteligível; considera que estes princípios devem ser neutros do ponto de vista tecnológico e ter como base a investigação empírica; apoia o desenvolvimento de um quadro de «ética desde a conceção» para os investigadores, o meio académico e os engenheiros que garanta que estas soluções tecnológicas não irão prejudicar a investigação e a evolução tecnológica mas que esteja em conformidade com os códigos e práticas éticas nacionais e da União em vigor e também com os direitos e princípios consagrados na CDF – em especial, a dignidade do ser humano, o respeito e a proteção da privacidade e da vida familiar, a segurança, a proteção dos dados pessoais e da propriedade intelectual, a liberdade de expressão e informação, a igualdade e não discriminação, a solidariedade, a justiça e direitos dos cidadãos – e subordinado à proporcionalidade;
3. Reconhece que a definição de tais leis e princípios e a sua aplicação prática requer mais investigação no domínio da ética da inteligência artificial; considera que o Grupo Europeu de Ética para as Ciências e as Novas Tecnologias pode desempenhar um papel importante na definição de orientações e normas de ética que sejam simultaneamente voltadas para o futuro e sensíveis à evolução tecnológica no futuro;
4. Sublinha a necessidade de abordar o impacto psicológico e social da interação entre seres humanos e robôs, bem como o caráter duplo do impacto da tecnologia nas capacidades humanas, prestando uma atenção especial aos grupos vulneráveis, em especial as crianças, para evitar a criação duma dependência prejudicial dos robôs, por exemplo, através de evocação duma resposta emocional ou isolando esses seres humanos da realidade;
5. Realça que a robótica e a inteligência artificial – especialmente a robótica nas áreas doméstica, da saúde e da assistência e os sistemas ciberfísicos, dos quais alguns elementos podem ser implantados ou até usados no corpo humano – terão um impacto significativo na vida humana, em particular nas pessoas com deficiência; observa, por isso, que é essencial assegurar o acesso equitativo e inclusivo a estas tecnologias; chama a atenção para o impacto da robótica na privacidade dos utilizadores, devido ao acesso a espaços tradicionalmente protegidos e a informações pessoais sensíveis; considera que deve ser garantido o respeito dos princípios de deontologia médica, da segurança dos doentes e da integridade dos cuidados de saúde;
6. Reitera que o direito à proteção da vida privada e o direito à proteção dos dados pessoais – consagrados nos artigos 7.º e 8.º da CDF, bem como no artigo 16.º do TFUE – aplicam-se a todas as áreas da robótica e da inteligência artificial e que o quadro jurídico da União em matéria de proteção de dados tem de ser plenamente respeitado; salienta que os criadores do setor da robótica e da inteligência artificial têm a responsabilidade de desenvolver produtos de modo a serem seguros e adequados à sua finalidade e de seguir os procedimentos de tratamento de dados conformes com a legislação em vigor, a confidencialidade, o anonimato, o tratamento justo e o direito a um processo equitativo;
7. Insta a Comissão a assegurar que toda a legislação da União sobre robótica e inteligência artificial incluirá medidas e normas que tenham em conta a evolução tecnológica rápida neste domínio, incluindo o desenvolvimento de sistemas ciberfísicos, a fim de assegurar que a legislação da UE não fica atrás da curva de desenvolvimento e de implantação das tecnologias; salienta a necessidade de essa legislação cumprir as normas em matéria de privacidade e de proteção de dados, ou seja, sobre obrigações de informação, o direito a obter uma explicação para uma decisão baseada no tratamento automatizado, a obrigação de respeitar os princípios da privacidade desde a conceção e por defeito, os princípios da proporcionalidade, necessidade, minimização dos dados, limitação da finalidade, bem como mecanismos de controlo da transparência para os titulares de dados e autoridades de proteção de dados e soluções adequadas em conformidade com as normas e a legislação atual; solicita a revisão das normas, princípios e critérios relativos à utilização de câmaras e sensores em robôs e na inteligência artificial, em conformidade com o quadro jurídico da União em matéria de proteção de dados;
8. Apela a uma abordagem uniforme e horizontal da robótica e da inteligência artificial no quadro jurídico da União que seja neutra do ponto de vista tecnológico e aplicável aos diversos setores onde a robótica poderá ser aplicada, tais como os transportes, a saúde, a indústria transformadora, as telecomunicações, a aplicação da lei e muitos outros; sublinha que, sempre que apropriado, o quadro jurídico existente deve ser atualizado e complementado com vista a garantir um nível igual de proteção de dados, privacidade e segurança;
9. Destaca a importância de prevenir a vigilância em massa através de tecnologias da robótica e da inteligência artificial;
10. Solicita à Comissão e aos Estados-Membros que promovam uma colaboração forte e transparente entre os setores público e privado e o meio académico que reforce a partilha de conhecimentos, que promovam a educação e a formação tanto dos criadores sobre as implicações éticas, a segurança e o respeito dos direitos fundamentais como dos consumidores sobre a utilização da robótica e da inteligência artificial, com particular destaque para a segurança e a proteção da privacidade;
Segurança dos dados e sistemas de dados e circulação de dados
11. Sublinha que a livre circulação dos dados é essencial para a economia digital e é essencial para o desenvolvimento da robótica e da inteligência artificial; salienta que um elevado nível de segurança dos sistemas da robótica e da inteligência artificial no seu todo – incluindo os sistemas de dados internos e a circulação dos dados – é essencial para a utilização correta da robótica e da inteligência artificial; salienta que tem de ser assegurada a proteção das redes de robôs e inteligência artificial interligados, a fim de evitar potenciais violações da segurança, ciberataques ou a utilização abusiva de dados pessoais, especialmente quando se procede à recolha e tratamento duma grande quantidade de dados; salienta a necessidade de conceber um mecanismo que permita ao utilizador interromper o tratamento dos seus dados pessoais no caso duma quebra da segurança; salienta a importância das atividades de investigação e desenvolvimento no domínio das técnicas de segurança dos dados e sublinha a responsabilidade conjunta dos setores público e empresarial de cooperar com vista a assegurar um nível elevado de proteção, segurança e privacidade dos dados utilizados para a comunicação entre pessoas, robôs e inteligência artificial, juntamente com uma elevada qualidade dos sistemas de reconhecimento vocal e de linguagem gestual; considera que os produtores de software e hardware comercial devem ser responsabilizados em caso de violações graves da segurança dos dados devidas à sua negligência; insta a Comissão e os Estados-Membros a apoiarem e incentivarem o desenvolvimento da tecnologia necessária, incluindo a segurança desde a fase de conceção e os canais de comunicação;
«Drones» (sistemas de aeronaves telepilotadas – RPAS)
12. Sublinha que sempre que se proceda ao tratamento de dados pessoais por RPAS – tanto por autoridades públicas para fins de aplicação da lei ou por entidades públicas ou privadas para outros fins permitidos pela lei –, o direito à liberdade e à segurança e o direito ao respeito da vida privada, consagrados nos artigos 6.º e 7.º da CDF, e o direito à proteção dos dados pessoais, consagrado no artigo 8.º da CDF e no artigo 16.º do TFUE, são aplicáveis e o quadro jurídico da União em matéria de proteção de dados deve ser plenamente respeitado; insta a Comissão a estudar a necessidade de introduzir um sistema de rastreabilidade e identificação destinado aos RPAS que permita determinar a posição da aeronave em tempo real durante a sua utilização;
13. Reitera o seu pedido ao Conselho para que elabore um quadro comum da UE rigoroso e eficaz sobre o uso de «drones» armados, conferindo máxima importância ao respeito pelos princípios éticos, os direitos humanos e o direito internacional humanitário e procurando resolver questões como o quadro jurídico, a proporcionalidade, a responsabilização, a transparência e a proteção de civis, incluindo tomar todas as precauções possíveis para evitar erros na definição dos alvos e que sejam infligidos danos civis secundários e assegurar que o controlo e a responsabilidade, em última instância, cabem a um ser humano; reitera o seu pedido no sentido de proibir a produção, o desenvolvimento e a utilização de armas totalmente autónomas que permitam a realização de ataques sem intervenção humana; insta a Comissão e os Estados-Membros a lançarem um amplo diálogo político internacional com vista a criar normas jurídicas globais e limitações jurídicas e éticas ao desenvolvimento, proliferação e utilização de sistemas de armas cada vez mais autónomos, por exemplo, sob a forma de um acordo internacional vinculativo;
14. Reconhece os avanços positivos nas tecnologias relativas aos «drones», nomeadamente no domínio das operações de busca e salvamento, e defende que esta é a direção que a União deve seguir relativamente aos avanços nas tecnologias relativas aos «drones»;
15. Considera que – em domínios específicos em que estudos relevantes demonstram que o desenvolvimento de regulamentação seria prematuro – uma legislação adequada deverá ser acompanhada do incentivo dum quadro de medidas jurídicas não vinculativas, dum código de conduta ou de parcerias público-privadas, eventualmente a nível da União, a fim de assegurar a cooperação da indústria e dos criadores de robótica com as autoridades públicas e com todas as restantes partes interessadas; considera que tais instrumentos devem centrar-se em soluções práticas para assegurar a privacidade e a proteção dos dados, a dignidade humana, a não discriminação, a segurança e a ética da robótica industrial e a utilização correta de robôs e da inteligência artificial numa base diária.
Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016, relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados e que revoga a Diretiva 95/46/CE (Regulamento Geral da Proteção de Dados) (JO L 119 de 4.5.2016, p. 1).
PARECER da Comissão do Emprego e dos Assuntos Sociais (9.11.2016)
Relator de parecer: Ádám Kósa
1. Exorta a Comissão a efetuar com urgência uma avaliação exaustiva do impacto da robótica na quantidade e no tipo de empregos, bem como na qualidade e nos perfis das competências para os empregos existentes; a recolher informações sobre as novas formas de emprego, a fim de antecipar o mais eficazmente possível, em primeiro lugar, se a propagação de robôs traz bem-estar e progresso em si mesma, nos casos em que a mão-de-obra é desnecessária no âmbito da estrutura tradicional de produção e de serviços, e, nesse caso, a apurar que condições são necessárias, além da segurança financeira, para garantir que as pessoas continuem a ser cidadãos saudáveis, em termos de bem-estar mental e físico, felizes e ativos, e se as vantagens teóricas da simbiose entre o ser humano e a máquina contribuem efetivamente para o bem-estar e o desenvolvimento; em segundo lugar, se, num mercado de trabalho em evolução, a legislação e a prática dos Estados-Membros pode garantir uma forma socialmente justa, inclusiva e sustentável de reduzir as desigualdades, a pobreza e a segurança social, bem como um ambiente em que todos os seres humanos tenham oportunidades iguais de desenvolver o seu talento, as suas competências e a sua individualidade;
2. Salienta que, ao mesmo tempo que o desenvolvimento da robótica e da inteligência artificial está a acelerar, é essencial moldar o seu rumo e antever as possíveis consequências em termos de emprego e política social, porque a utilização crescente e generalizada de robôs na produção de bens e de serviços tem como consequência obter uma maior produtividade com menor dispêndio de mão-de-obra, e, por conseguinte, ao longo da próxima década, alguns empregos serão completamente eliminados e muitos outros afetados; insta por conseguinte a Comissão a efetuar uma análise aos desafios e às oportunidades no emprego e a desenvolver um método que permita controlar o número e o tipo de postos de trabalho perdidos e criados devido à robotização e automatização, assim como ao impacto deste fenómeno na perda de receitas dos sistemas de segurança social; exorta além disso a Comissão a avaliar, com regularidade e em diálogo com os parceiros sociais, em que medida podem ser reduzidos, sem perda de rendimentos, os tempos de trabalho semanais, anuais e ao longo de toda a vida profissional, a começar a investigar novas formas de financiamento para futuros sistemas de segurança social, e a repensar a forma como os trabalhadores desempenham as suas funções e a melhor maneira de as plataformas de trabalho digitais interligarem os indivíduos, as equipas e os projetos;
3. Assinala que a robotização levará à perda de muitos postos de trabalho; considera, porém, que, apesar da consequente redução do tempo de trabalho individual em muitos setores da economia, o aumento da produtividade permitirá que os trabalhadores não sofram qualquer perda salarial;
4. Considera que, na conceção dos robôs, se deve utilizar processos que assegurem o controlo humano e a reversibilidade das operações dos robôs e que, atendendo ao crescente nível de autonomia dos robôs, isso seja acompanhado pela adaptação das regras de responsabilidade no que respeita às consequências associadas às ações ou à inação dos robôs; mostra-se apreensivo quanto à inexistência de um quadro geral e de disposições legais relativamente ao fenómeno da automatização do trabalho nesta nova revolução industrial já em curso, e considera essencial que a UE defina um quadro jurídico que reflita a complexidade da robótica e das suas numerosas implicações sociais; insta por isso a Comissão a propor uma definição comum para os robôs autónomos inteligentes e respetivas subcategorias no local de trabalho e a ponderar as vantagens e desvantagens de um regime de seguro obrigatório que cubra os potenciais danos e avarias causados pelos seus robôs;
5. Realça que os sistemas de educação e de formação têm imperativamente de se adaptar à evolução das profissões e dos modos de produção, conferindo especial ênfase aos empregos com conteúdo criativo e não repetitivo, a fim de preservar o valor do trabalho humano e de proporcionar a todas as gerações todos os instrumentos necessários que lhes assegurem a melhor preparação para o mercado de trabalho num mundo laboral em constante transformação devido à automatização e à robotização; realça a importância da flexibilidade das competências e salienta a relevância das competências de vida e sociais na educação; está convicto de que, para além do ensino académico ministrado nas escolas, as crianças necessitam de adquirir competências de raciocínio crítico para poderem questionar e tomar decisões esclarecidas, competências criativas para conseguirem pôr as ideias em prática e desenvolverem iniciativa, e de que a aprendizagem ao longo da vida deve ser processada através de uma ação ao longo da vida; sublinha que as competências digitais são essenciais para o presente ritmo de automatização, e que a digitalização do trabalho e dos serviços requer o desenvolvimento da literacia e das competências digitais, a fim de garantir um elevado nível de emprego e combater o crescente analfabetismo digital e o risco de exclusão social daí resultante; releva que há que prestar especial atenção à digitalização do ensino e à exploração da robotização no ensino e na aprendizagem, ao mesmo tempo que a educação ponha também a tónica nas humanidades, que trazem benefícios sob a forma de qualidades criativas, inventivas, artísticas e culturais, num mercado de trabalho em evolução, para que as pessoas continuem a ter uma vantagem comparativa sobre as máquinas;
6. Reconhece que a robótica oferece um grande potencial na assistência e no apoio sobretudo ao quotidiano das pessoas com deficiência e das pessoas idosas e pode prestar um importante contributo para a sua vida autónoma, bem como para a sua inclusão no mercado de trabalho; entende que há que encontrar uma resposta para a questão de saber que disposições de emprego são suscetíveis de ser necessárias em termos de mão de obra, se do desenvolvimento ou do acréscimo, artificial ou genético, das capacidades humanas existentes resultarem pessoas com competências excecionais, alterando assim substancialmente o significado do termo «deficiência», e conferindo uma vantagem indiscutível às pessoas com acesso a essas inovações, instrumentos e intervenções tecnológicas, o que suscitará obviamente questões de ordem ética e moral a analisar de forma aprofundada;
7. Realça que a decisão individual de escolher ou de rejeitar um implante, uma prótese ou uma extensão para o corpo humano nunca deve suscitar um tratamento desfavorável ou ameaças no que respeita ao emprego, à educação, aos cuidados de saúde, à segurança social ou a outros benefícios, e realça que todos os cidadãos devem ter um acesso equitativo e sem obstáculos aos benefícios das novas tecnologias; realça, a este respeito, que, uma vez que a dignidade humana está no centro do direito europeu e internacional dos direitos humanos, importa examinar como se poderá garantir que as pessoas que ainda não foram classificadas como deficientes não venham a ser tratadas, em comparação com os “superhumanos”, da mesma forma desvantajosa como as pessoas com deficiência mental e as pessoas com deficiência intelectual, e se as pessoas que vivem com deficiência mental e as pessoas que vivem com deficiência intelectual serão capazes de tomar decisões de forma independente, no âmbito de um sistema de apoio à tomada de decisão, conforme descrito na Convenção da ONU sobre os Direitos das Pessoas com Deficiência, com a ajuda de robôs, e de que modo se procederá à partilha de responsabilidades;
8. Salienta, todavia, que a utilização de robôs envolve riscos que devem ser cuidadosamente ponderados face aos benefícios que possam proporcionar; assinala que as lesões profissionais causadas por robôs e os consequentes pedidos de indemnização não devem ser esquecidos; observa que, ao mesmo tempo que os produtos da tecnologia robótica «vestíveis», como os exoesqueletos, que visam proteger os trabalhadores contra lesões no local de trabalho, são suscetíveis de aumentar as expectativas dos empregadores em relação aos trabalhadores humanos, podem, em contrapartida, aumentar os riscos de lesão; releva que esta questão deve ser tomada em consideração, designadamente pelos legisladores, empregadores, sindicatos e trabalhadores, nos regulamentos internos e acordos coletivos, e que outros riscos associados aos robôs podem ter a ver com o combate à discriminação, desencadeado na sequência de uma entrevista de emprego em que tenham sido obtidos dados conducentes a uma análise involuntária; assinala que, em consequência da utilização da robótica, podem emergir novos desafios relacionados com o comércio e a privacidade;
9. Salienta que, face às crescentes divisões na sociedade e à redução da classe média, é necessário ter em conta o facto de que o aumento da importância da robótica pode resultar numa concentração considerável da riqueza e das influências nas mãos de uma minoria;
10. Assinala que o impacto no emprego e na política social causado pelo progresso tecnológico e pela robotização em curso tem revolucionado a forma como as pessoas recebem e transmitem informações, comunicam, se relacionam e trabalham, criando deste modo novas oportunidades bem como desafios, abrindo novas perspetivas, através do eventual aumento da eficiência das tarefas, da poupança de energia e de materiais; salienta, no entanto, que, embora a robótica e a inteligência artificial prometam vantagens reais no curto e médio prazo, em termos de eficácia e de economia, não só para a produção e o comércio, mas também nos domínios em que, devido à interação humana, à inteligência e criatividade, a automatização tem sido difícil e em que, até à data, se alegava existir apenas o ser humano, como nos setores que empregam muitas pessoas, por vezes pouco qualificadas, há o risco de o número de postos de trabalho no domínio da robótica não aumentar, para corresponder ao número dos postos de trabalho que se prevê vir a perder-se em domínios como os transportes, a logística e o trabalho administrativo; insta por isso a Comissão e os Estados-Membros, em cooperação, se for caso disso, com os parceiros sociais e com as autoridades regionais e locais, a desenvolverem novos mecanismos de proteção que se adequem ao trabalho e aos modelos de carreira resultantes da digitalização e da maior utilização da robótica, e a ministrarem educação e formação apropriadas a todas as pessoas;
11. Salienta que, devido ao desenvolvimento e à utilização de robôs inteligentes e cooperantes e da inteligência artificial, o diferencial entre a criação e a perda de postos de trabalho pode ter consequências na sustentabilidade financeira dos regimes de segurança social, sistemas de pensões e sistemas de seguro de desemprego dos Estados-Membros, e sublinha que a perda de emprego, no médio a longo prazo, em consequência da robotização, também pode estar associada ao risco de perda da capacidade de consumo; salienta que a maioria dos benefícios da automatização e robotização do trabalho deverá resultar não só da redução dos custos da mão-de-obra, mas também do aumento da produtividade, graças à diminuição dos erros, ao aumento da produção e à melhoria da qualidade, da segurança e da rapidez; insta a Comissão e os Estados-Membros a consultarem e a implicarem regularmente os parceiros sociais na adaptação do quadro regulamentar aplicável à robótica e à economia digital, a identificarem potenciais riscos no domínio da saúde e segurança no trabalho causados pelas inovações técnicas, a tomarem medidas adequadas para os combater, e a explorarem a possibilidade de introduzirem um sistema de notificação, antes do estabelecimento dos robôs e da sua participação relativa para o volume de negócios das empresas, para efeitos de tributação e contribuição para a segurança social;
12. Solicita à Comissão que apresente linhas de orientação sobre os princípios éticos e sociais que acompanhem a futura regulamentação em matéria de robótica, em especial no que toca ao objetivo de definir normas prospetivas e adaptadas às futuras mudanças tecnológicas;
13. Refere o denominado «crowdworking»; exorta a Comissão a investigar esta nova forma de emprego e a verificar até que ponto os sistemas de segurança social e o direito do trabalho em vigor terão de ser adaptados para proteger adequadamente os «crowdworkers»;
14. Salienta que, embora seja impossível travar o progresso tecnológico, a presente geração tem a oportunidade, bem como a responsabilidade, de moldar o seu rumo, de modo a beneficiar as pessoas e o planeta; entende que a União Europeia deve contribuir para uma estratégia integrada nos domínios políticos do bem-estar social, do crescimento económico e da tecnologia, a fim de estar na vanguarda do crescimento mundial; solicita aos Estados-Membros e à Comissão que estudem exaustivamente as implicações que terá no futuro imediato a utilização crescente de sistemas robotizados no trabalho e que adotem um enquadramento legislativo para esta evolução, de modo a tornar a transição tecnológica tão suave quanto possível para os trabalhadores, e está convicto de que importa encontrar com urgência uma resposta para a questão de saber se, em resultado da evolução da robótica e de soluções menos dispendiosas, haverá empregos em que a lei coloque restrições ao trabalho dos seres humanos devido à natureza nociva e/ou perigosa do trabalho em causa para a saúde humana (como acontece com as regras aplicáveis às grávidas) ou por outros motivos, e encontrar uma resposta para a questão de saber quais os domínios que podem vir a conhecer restrições ou a proibição de uma automatização parcial ou total, a fim de garantir a segurança e o respeito dos direitos fundamentais que representam um desafio devido ao aumento da automatização de indústrias inteiras, tendo em conta as alterações demográficas e a sustentabilidade, e todas as consequências sociais involuntárias;
15. Entende que, dado o ritmo do progresso tecnológico, deveríamos produzir legislação relativa à robótica num futuro próximo; entende igualmente que essa legislação deve ser adequada ao objetivo de reagir a alterações científicas e tecnológicas; considera que é necessário prever o desenvolvimento de novos domínios de atividade suscetíveis de decorrer de uma maior evolução da robotização e da inteligência artificial; chama no entanto a atenção para o facto de que os robôs não são apenas ferramentas de trabalho, mas agem cada vez mais de forma autónoma na produção de bens e serviços; solicita por isso a criação de sistemas de proteção que garantam a proteção adequada da segurança e saúde dos trabalhadores, quando trabalham lado a lado com a robótica e outras formas de inteligência artificial, e mecanismos de responsabilização que garantam que os prejuízos causados por robôs em funcionamento autónomo possam ser resolvidos a favor dos trabalhadores envolvidos; solicita por isso à União e aos Estados-Membros que promovam um diálogo público estruturado sobre as implicações do desenvolvimento dessas tecnologias o mais rapidamente possível e solicita aos agentes que participam na investigação a que desenvolvam uma abordagem crítica e a que prestem um contributo construtivo para o diálogo público;
16. Salienta que qualquer atividade de tratamento realizada por sistemas de robótica e inteligência artificial deve cumprir integralmente a legislação da União em matéria de proteção de dados e incorporar os princípios da privacidade desde a conceção e da privacidade por defeito;
17. Observa que a robotização proporciona oportunidades importantes para que a indústria de produção regresse à UE, podendo assim criar novas oportunidades de emprego, nomeadamente para os trabalhadores com menos qualificações;
18. Entende que a utilização de robôs na produção envolve grandes desafios para a segurança e para a proteção da saúde no local de trabalho; releva que a robótica pode, por um lado, aliviar a carga dos trabalhadores, mas, por outro, também pode dar origem a uma elevada tensão psíquica, devido à crescente responsabilidade do indivíduo em processos de produção mais complexos; solicita à Comissão e respetivas agências, em especial a EU-OSHA - Agência Europeia para a Segurança e a Saúde no Trabalho, que investiguem os constrangimentos psíquicos causados pelos processos de digitalização, robótica e inteligência artificial e a apresentarem propostas de medidas para contrapor a esses constrangimentos; solicita que os trabalhadores tenham sempre a possibilidade de agir de forma ativa e determinante na configuração do seu ambiente de trabalho, e que os parceiros sociais e os sindicatos sejam envolvidos a todos os níveis;
19. Recorda estudos científicos que identificaram quatro problemas importantes que surgem quando se tenta legislar sobre a utilização de robôs: a discrição no que respeita às plataformas e aos fabricantes envolvidos na investigação e desenvolvimento da inteligência artificial, o que pode nem sempre ser visível para os reguladores; a dispersão resultante de situações em que os sistemas de inteligência artificial são desenvolvidos por equipas de investigadores separadas a nível organizativo, geográfico e jurisdicional; a margem de manobra decorre do facto de os sistemas de inteligência artificial poderem implicar muitos componentes preexistentes de hardware e software, separados e distintos; destaca que os efeitos da agregação de todos estes componentes podem não ser totalmente reconhecidos até estarem todos agregados e que a opacidade significa que a forma como os sistemas de inteligência artificial operam pode ser mais opaca que as anteriores tecnologias; assinala que esta situação pode dificultar o trabalho dos reguladores, devido à falta de clareza sobre os problemas que tais sistemas podem suscitar e a forma como esses problemas podem ser resolvidos.
PARECER da Comissão do Ambiente, da Saúde Pública e da Segurança Alimentar (14.10.2016)
Relator de parecer: Cristian-Silviu Buşoi
A Comissão do Ambiente, da Saúde Pública e da Segurança Alimentar insta a Comissão dos Assuntos Jurídicos, competente quanto à matéria de fundo:
A. Considerando que o envelhecimento da população se deve a um aumento da esperança de vida em consequência da melhoria das condições de vida e do progresso na medicina moderna, constituindo um dos principais desafios políticos, sociais e económicos do século XXI com que as sociedades europeias se deparam; considerando que, em 2025, mais de 20 % dos europeus terão uma idade igual ou superior a 65 anos, que se assistirá a um aumento particularmente rápido do número de pessoas de 80 anos ou mais, pelo que o equilíbrio entre gerações nas nossas sociedades será fundamentalmente diferente, e considerando que é do interesse da sociedade que os idosos gozem de boa saúde e permaneçam ativos o máximo tempo possível.
B. Considerando que a produção e a venda de robôs registaram um aumento significativo entre 2010 e 2014, com um aumento de quase 30 % só em 2014, especialmente nos setores da saúde e da prestação de cuidados;
C. Considerando que, numa sociedade em envelhecimento, se regista um aumento da taxa de prevalência de incidência de deficiências, de doenças crónicas, do risco de acidentes vasculares cerebrais, de danos cerebrais e de capacidades diminuídas;
D. Considerando que as sociedades e os sistemas de saúde terão de se adaptar ao processo de envelhecimento e às necessidades dos idosos no domínio dos cuidados de saúde para que possam prestar cuidados adequados e permanecer sustentáveis em termos financeiros;
E. Considerando que os sistemas ciberfísicos são sistemas técnicos de computadores, de robôs e de inteligência artificial em rede que interagem com o mundo físico e têm múltiplas aplicações no domínio da saúde;
F. Considerando que, atendendo à natureza dos sistemas ciberfísicos, é necessário adotar normas específicas mais pormenorizadas que sejam idênticas em toda a União;
G. Considerando que tais sistemas constituirão os alicerces e a base de serviços inteligentes futuros e em ascensão, e permitirão avanços em matéria de cuidados de saúde personalizados, resposta a emergências e telemedicina;
H. Considerando que, em caso algum, deverá a utilização da robótica ou de instrumentos de diagnóstico ou de tratamento de alta tecnologia resultar num aumento da responsabilidade dos médicos ou profissionais de saúde que se vejam obrigados a utilizá-los; que, por conseguinte, considera-se aconselhável aumentar a responsabilidade dos estabelecimentos de prestação de cuidados de saúde ou dos fabricantes envolvidos;
I. Considerando que o potencial económico e social dos sistemas ciberfísicos é muito superior ao que se imaginava, e que, em todo o mundo, estão a ser realizados investimentos importantes para desenvolver esta tecnologia;
J. Considerando que a utilização de uma tal tecnologia não deve afetar nem prejudicar a relação entre um médico e o paciente, devendo, pelo contrário, assistir os médicos na realização do diagnóstico e/ou tratamento dos doentes;
K. Considerando que os sistemas ciberfísicos criam expectativas elevadas a muitos títulos e têm um grande potencial, mas que os efeitos das novas tecnologias nunca serão completamente previsíveis, podendo a sua integração apenas ser bem sucedida se a sociedade conseguir adapta-se a uma nova forma de interagir com a tecnologia;
1. Reconhece que – partindo do princípio de que a tónica é colocada na relação entre o médico e o paciente e na livre vontade – a adoção de novas tecnologias no domínio dos cuidados de saúde pode trazer grandes benefícios na prestação de cuidados a doentes e em termos da eficácia e precisão do tratamento, sendo ainda suscetível de reduzir o risco de erros humanos, conduzindo, assim, a um aumento da qualidade e da esperança de vida;
2. Considera que, embora possa trazer benefícios para a sociedade, a robótica pode, ao mesmo tempo, mudar drasticamente a forma como as pessoas interagem entre si, tendo, por conseguinte, um impacto real nas estruturas societais existentes; sublinha, por isso, a necessidade urgente de um debate público esclarecido e alargado sobre esta nova revolução tecnológica;
3. Considera essencial que a União elabore um quadro normativo inspirado em princípios éticos, que se coadune com a complexidade da robótica e com as suas inúmeras implicações sociais, médicas e bioéticas;
4. Salienta que as inovações suscetíveis de melhorar o diagnóstico e aumentar os conhecimentos sobre as opções de tratamento, de cuidados e de reabilitação conduzirão a decisões médicas mais precisas e a períodos de recuperação mais reduzidos, podendo desta forma mitigar a falta de pessoal no setor da prestação de cuidados de saúde e da reabilitação;
5. Salienta que o aumento da procura de componentes de sistemas ciberfísicos tem potencial para criar um grande número de postos de trabalho altamente qualificados na União;
6. Considera útil a presença de robôs no apoio ao trabalho dos médicos e assistentes de cuidados de saúde, a fim de melhorar a experiência humana de diagnóstico e tratamento, não devendo, no entanto, descurar-se a necessidade de garantir que a prática médica e de assistência a doentes não sejam desumanizadas;
Robôs prestadores de cuidados
7. Observa que os sistemas ciberfísicos são capazes de mudar para melhor a vida das pessoas que sofrem de uma deficiência, uma vez que as tecnologias «inteligentes» podem ser utilizadas para a prevenção, a assistência, o controlo e o acompanhamento;
8. Observa que os sistemas ciberfísicos são suscetíveis de ter um impacto profundo no setor dos cuidados de saúde, tendo potencial para reduzir os custos totais dos cuidados de saúde, permitindo que os profissionais de saúde centrem a sua atenção na prevenção e não no tratamento;
9. Salienta que a investigação e o desenvolvimento dos robôs destinados à prestação de cuidados a idosos se tornou mais comum e barato, levando ao fabrico de produtos com maior funcionalidade e a uma mais ampla aceitação por parte dos consumidores; constata a existência de uma vasta gama de aplicações destas tecnologias nos domínios da prevenção, da assistência, da supervisão, do estímulo e do acompanhamento dos idosos, bem como das pessoas que sofrem de demência, de perda de memória ou de distúrbios cognitivos;
10. Salienta que embora os sistemas ciberfísicos tenham potencial para aumentar a mobilidade e a sociabilidade das pessoas com deficiência e dos idosos, as pessoas que prestam cuidados de saúde continuarão a ser necessárias e a constituir, para os primeiros, uma importante fonte de interação social que não é totalmente substituível; observa que as tecnologias e os robôs ciberfísicos podem aumentar consideravelmente os cuidados de saúde prestados por humanos e tornar o processo de reabilitação mais focalizado, permitindo ao pessoal médico e aos prestadores de cuidados dedicar mais tempo ao diagnóstico e à procura de melhores opções de tratamento;
11. Observa que são já utilizadas as primeiras formas de robôs inteligentes e de dispositivos de sistemas ciberfísicos no quadro da prestação de cuidados de saúde, como a saúde em linha e os robôs cirúrgicos e que, num futuro próximo, esta tecnologia vai continuar a desenvolver-se, tendo potencial para reduzir os custos relacionados com os cuidados de saúde, permitindo que os profissionais centrem a sua atenção na prevenção e não no tratamento e disponibilizando mais recursos orçamentais para uma melhor adaptação à diversidade das necessidades dos doentes, à formação contínua dos profissionais de saúde e à investigação;
12. Salienta que um maior recurso aos sistemas ciberfísicos pode resultar numa sociedade mais saudável, dado que os procedimentos se tornam menos invasivos, o que conduzirá a períodos de recuperação mais curtos, reduzindo o absentismo relacionado com os cuidados de saúde;
13. Observa que os robôs médicos continuarão a evoluir e deverão ser utilizados com maior frequência em intervenções cirúrgicas, alargando as fronteiras da medicina;
14. Observa que os robôs cirúrgicos são concebidos para alargar as capacidades dos cirurgiões humanos para além dos limites da laparoscopia convencional e que o desenvolvimento de robôs cirúrgicos emana do desejo de ultrapassar tais limites e de estender os benefícios da cirurgia pouco invasiva, da motricidade fina e de precisão;
15. Sublinha que os sistemas ciberfísicos permitem a telecirurgia, que possui inúmeras vantagens, como o aumento da precisão dos movimentos da mão, a eliminação dos tremores das mãos, a melhoria da visão, que podem examinar e avaliar de imediato, a melhoria da destreza e a cirurgia à distância, embora seja fundamental que os médicos adquiram competências e a acreditação para procederem a intervenções médicas mediante a utilização de dispositivos ciberfísicos;
16. Salienta que, nos últimos anos, se registaram mudanças substanciais no setor da educação e formação médicas; observa ainda que, à medida que os cuidados médicos se tornam mais complexos, o ambiente nos centros académicos da Medicina é propício a um reforço da abordagem holística da saúde, a uma reavaliação da forma como a formação médica e a educação ao longo da vida são transmitidas, embora preservando as competências de base dos médicos, para que estes mantenham um nível superior de conhecimentos especializados e de autoridade sobre os robôs; insta a Comissão e os Estados-Membros a promoverem elevadas normas em matéria de formação e especialização do pessoal médico e auxiliar que utilize ou planeie utilizar novas tecnologias de robótica e a encorajarem a livre circulação dos cirurgiões que pretendam utilizar essas tecnologias para realizar as suas operações;
17. Insta a Comissão e os Estados-Membros a reforçarem os instrumentos financeiros em prol dos projetos de investigação no domínio da robótica destinada a emergências sociais e sanitárias;
18. Considera que é essencial respeitar o princípio da autonomia supervisionada dos robôs, segundo o qual caberá sempre a um cirurgião humano estabelecer o plano inicial de tratamento e tomar a decisão final relativa à sua execução;
Avaliação clínica e investigações clínicas
19. Salienta que os sistemas ciberfísicos médicos devem respeitar os padrões elevados que regem os equipamentos médicos através de uma verificação eficaz e de procedimentos de certificação que permitam, mesmo na fase de conceção, uma avaliação adequada da segurança e da eficácia das tecnologias por pessoal devidamente formado para tal;
20. Salienta a importância de estabelecer uma distinção entre robôs cirúrgicos e próteses e entre exoesqueletos e robôs companheiros que têm por função auxiliar as pessoas com deficiência ou invalidez temporária; realça a importância de submeter ambos a controlos, que devem ser efetuados em conformidade com normas tão precisas e detalhadas quanto possível;
21. Congratula-se com o acordo político sobre o Regulamento relativo aos dispositivos médicos (2012/0266 (COD)), alcançado pelos colegisladores em junho de 2016; insta a Comissão a assegurar, antes da data de entrada em vigor do referido regulamento, que os procedimentos relativos aos ensaios de novos dispositivos robóticos no domínio médico sejam seguros, especialmente quando se trata de dispositivos para implantação no corpo humano; observa ainda a necessidade de total transparência, tanto para os doentes, no que diz respeito aos seus próprios dados, como para o público, no que se refere aos ensaios falhados e bem sucedidos, devendo a responsabilidade pelos ensaios falhados estar clara, tanto para os doentes como para o público;
22. Realça que, enquanto a tecnologia se desenvolve a um ritmo exponencial, os sistemas sociais da União não conseguem evoluir com a mesma rapidez e que os sistemas de saúde respondem ainda mais lentamente; salienta que estes desenvolvimentos têm um impacto significativo na civilização tal como a conhecemos, e que, por conseguinte, é imperativo que os avanços tecnológicos sejam acompanhados de avaliações das consequências éticas e morais a longo prazo das novas tecnologias, antes e durante o seu desenvolvimento;
23. Sublinha a importância de assegurar, no que respeita aos padrões éticos, que os produtos do domínio da robótica respeitem os direitos fundamentais dos indivíduos e da sociedade que devem ser protegidos a nível da União, devendo prever-se todas as medidas técnicas necessárias para assegurar este respeito desde a fase de conceção, em conformidade com a chamada abordagem da privacidade desde a conceção;
24. Chama a atenção para os riscos associados à possibilidade de pirataria, de desativação dos sistemas ciberfísicos integrados no corpo humano ou de limpeza das suas memórias, uma vez que tal poderia representar um risco para a saúde humana e, em casos extremos, até mesmo para a vida humana, e salienta, por conseguinte, que a proteção dos referidos sistemas deve constituir uma prioridade;
25. Reconhece a vulnerabilidade das pessoas com necessidades especiais, nomeadamente as crianças, os idosos e as pessoas com deficiência, e salienta que qualquer utilizador pode estabelecer uma ligação emocional com sistemas ciberfísicos e robôs; realça as questões éticas levantadas por esta eventual afeição; exorta a Comissão a dar início a uma reflexão sobre a forma de garantir que os sistemas ciberfísicos não tenham repercussões negativas na autonomia e independência das pessoas vulneráveis;
26. Insta a Comissão e os Estados-Membros a promoverem o desenvolvimento de tecnologias de assistência, nomeadamente através de regimes de responsabilidade diferentes dos atualmente aplicáveis, a fim de facilitar o desenvolvimento e a adoção destas tecnologias por aqueles que deles necessitam, em conformidade com o artigo 4.º da Convenção das Nações Unidas sobre os direitos das pessoas com deficiência, de que a União é parte;
27. Salienta a importância de preservar a relação entre o médico e o paciente, em especial no tocante à comunicação do diagnóstico e ao tratamento;
28. Observa que a utilização de sistemas ciberfísicos levanta a questão do aperfeiçoamento humano, definido como o reforço das competências humanas naturais existentes ou a atribuição de novas competências que permitam aos indivíduos superar uma deficiência;
29. Reconhece a necessidade de minimizar a eventual pegada ambiental ou ecológica da robótica, dado que a utilização de sistemas ciberfísicos e de robôs conduzirá provavelmente a um aumento do consumo energético total e da quantidade de resíduos elétricos e eletrónicos; destaca a necessidade de maximizar o potencial para tornar os processos mais eficientes na utilização dos recursos, de aumentar a eficiência energética através da promoção da utilização de energias renováveis para a robótica, de promover a utilização e reutilização de matérias-primas secundárias e de reduzir a quantidade de resíduos; incentiva, por conseguinte, a Comissão a incorporar os princípios da economia circular em qualquer política da União em matéria de robótica;
30. Observa também que a utilização dos sistemas ciberfísicos terá um impacto positivo sobre o ambiente, em especial nos domínios da agricultura e do abastecimento alimentar, nomeadamente através da menor dimensão das máquinas e de uma utilização reduzida de fertilizantes, energia e água, bem como através da agricultura de precisão;
31. Salienta que os sistemas ciberfísicos levarão à criação de sistemas de energia e infraestrutura capazes de controlar o fluxo de eletricidade entre o produtor e o consumidor, tendo ainda como consequência a criação de energia «produtores-consumidores», que produzem e consomem energia, proporcionando, assim, grandes benefícios para o ambiente;
– a incorporar as seguintes recomendações no anexo da sua proposta de resolução:
A segurança dos robôs médicos constitui uma condição prévia à respetiva introdução no setor da saúde. A eficácia e a segurança dos cuidados e dos robôs médicos devem ser avaliadas em conformidade com normas de proteção e procedimentos de certificação especiais, concedendo especial atenção à respetiva utilização por pessoas com deficiência ou em situações de emergência; insta a Comissão a adotar especificações comuns pormenorizadas para os dispositivos médicos de robótica; deverá ser prestada especial atenção à segurança dos sistemas ciberfísicos em rede, de modo a eliminar qualquer possibilidade de pirataria e roubo de dados pessoais sensíveis.
A segurança dos sistemas ciberfísicos implantados no corpo humano é um requisito fundamental, na medida em que qualquer falha que apresentem pode ser mortal, sendo, neste contexto, importante fornecer informações e regular as questões de responsabilidade de forma inequívoca, nomeadamente a questão de estabelecer quem goza do direito de propriedade dos sistemas ciberfísicos implantados, quem tem direitos sobre os mesmos e quem pode alterar a sua implantação, proibindo estritamente as experiências com pessoas sem o seu consentimento.
Os sistemas ciberfísicos médicos e a utilização de um robô a título de «registo clínico eletrónico» levantam questões relativas à privacidade dos pacientes, ao sigilo médico e à proteção de dados no domínio da saúde pública. As normas da União em matéria de proteção de dados devem ser adaptadas para ter em conta a crescente complexidade e interconectividade dos robôs prestadores de cuidados e dos robôs médicos que tenham acesso a informações pessoais e de saúde altamente sensíveis; devem respeitar o conceito de «privacidade desde a conceção», tal como previsto no Regulamento (UE) n.º 2016/679 relativo à proteção de dados. Os códigos de conduta relativos ao sigilo médico devem ser revistos no tocante aos dados de processos clínicos armazenados em sistemas ciberfísicos que terceiros possam consultar.
As companhias de seguros, ou qualquer outro prestador de serviços, não devem ser autorizadas a utilizar os dados de saúde em linha para fixar os preços de forma discriminada, uma vez que um tal procedimento contradiria o direito fundamental ao mais elevado padrão de saúde possível.
Comissões de Ética na Investigação
As Comissões de Ética na Investigação devem ter em conta as questões éticas suscitadas pelo desenvolvimento de robôs médicos e de sistemas ciberfísicos em diversos domínios da saúde e da assistência a pessoas idosas e com deficiência. Cumpre avaliar devidamente questões como a igualdade de acesso a cuidados de saúde preventivos prestados por robôs, a relação privilegiada de prestação de cuidados entre médico e paciente e a possibilidade de pacientes com necessidades especiais, nomeadamente crianças, desenvolverem uma ligação emocional com robôs.
As Comissões de Ética na Investigação e a Comissão são convidadas a darem início a um processo de reflexão com vista à elaboração de um código de conduta para investigadores/técnicos de conceção e utilizadores de sistemas médicos ciberfísicos, que deve basear-se nos princípios consagrados na Carta dos Direitos Fundamentais da UE (tais como a dignidade do ser humano e os direitos humanos, a igualdade, a justiça e a equidade, a não discriminação e a não estigmatização, a autonomia e a responsabilidade individual, o consentimento informado, a privacidade e a responsabilidade social, bem como os direitos dos idosos, a integração das pessoas com deficiência, o direito aos cuidados de saúde e o direito à proteção do consumidor) bem como nas práticas e códigos éticos em vigor.
É de salientar que a robótica pode dar azo a um elevado nível de incerteza quanto às responsabilidades.
PARECER da Comissão da Indústria, da Investigação e da Energia (15.11.2016)
Relatora de parecer: Kaja Kallas
A Comissão da Indústria, da Investigação e da Energia insta a Comissão dos Assuntos Jurídicos, competente quanto à matéria de fundo:
A. Considerando que as equipas de robôs e seres humanos podem ser 85%(1) mais produtivas do que os robôs ou os seres humanos a trabalhar separadamente; que, ao melhorarem as capacidades das pessoas, os robôs reduzem o risco de erro humano;
B. Considerando que a União ocupa uma posição de liderança no setor da robótica industrial, com uma quota de mais de 25%(2) da oferta e da utilização, e que se calcula que esse mercado cresça 8 a 9% ao ano, tornando, por conseguinte, o setor numa prioridade estratégica industrial;
1. Considera que a robótica e a inteligência artificial desempenham um papel importante na melhoria da competitividade e da produtividade da economia europeia e podem, a médio prazo, ter um impacto mais significativo sobre a competitividade das indústrias não transformadoras, como a agricultura, os transportes, os cuidados de saúde, a segurança e os serviços; insta a Comissão a promover uma política ambiciosa, transetorial e que promova a inovação no domínio da robótica e da inteligência artificial, facilitando a integração das tecnologias nas cadeias de valor, o desenvolvimento de modelos de negócios inovadores e reduzindo o tempo que demora a passar da inovação à industrialização; exorta a Comissão a avaliar a necessidade de modernizar a legislação ou de desenvolver orientações a nível europeu para garantir uma abordagem comum na robótica e na inteligência artificial, requisito fundamental para que as empresas possam crescer na União;
2 Observa que alguns países terceiros reconhecem a importância estratégica da robótica e estão a desafiar o papel de liderança da União no mercado mundial, por exemplo, através da aquisição de fabricantes europeus; insta a Comissão a elaborar uma estratégia industrial que aborde o papel dos setores estrategicamente importantes, como a robótica, e explique o modo como a União pode preservar os postos de trabalho, o crescimento, os conhecimentos e uma grande parte da cadeia de valor;
3. Salienta que a inovação nos domínios da robótica e da inteligência artificial e a integração das tecnologias da robótica e da inteligência artificial na economia e na sociedade requerem uma infraestrutura digital que proporcione uma conectividade generalizada; solicita à Comissão que crie um quadro destinado a satisfazer os requisitos de conectividade necessários para o futuro digital da União e garanta que o acesso a redes de banda larga e 5G respeite plenamente o princípio da neutralidade da rede;
4. Acredita firmemente que a interoperabilidade entre os sistemas, dispositivos e serviços de computação em nuvem, baseada nos princípios da segurança e da privacidade desde a conceção, é um fator indispensável para os fluxos de dados em tempo real que permitem uma maior flexibilidade e autonomia dos robôs e da inteligência artificial; solicita à Comissão que promova um ambiente aberto, nomeadamente normas abertas e modelos de licenciamento inovadores, plataformas abertas, garantindo, ao mesmo tempo, a transparência, para evitar o bloqueio dos sistemas exclusivos que limitam a interoperabilidade; salienta, além disso, que deve ser assegurado um elevado nível de proteção, segurança e privacidade dos dados utilizados para a comunicação entre pessoas, robôs e inteligência artificial; insta, por conseguinte, a Comissão e os Estados-Membros a integrarem os princípios da segurança e da privacidade desde a conceção nas suas políticas relacionadas com a robótica e a inteligência artificial na estratégia da UE para a cibersegurança e a incluírem a robótica e a inteligência artificial nas discussões do grupo consultivo de alto nível sobre cibersegurança que será criado pela Comissão;
5. Observa que o acesso aos dados é essencial para a inovação nos algoritmos de aprendizagem automática; exorta a Comissão a implementar uma estratégia e um quadro ambiciosos sobre a circulação aberta e livre de dados, em especial com a iniciativa «free-flow-of-data», em conformidade com a legislação relativa à proteção de dados e uma reforma do direito de propriedade intelectual; salienta que a iniciativa «free-flow-of-data» deve esclarecer questões relativas à propriedade, ao acesso e à facilidade de utilização dos dados, que são importantes para o desenvolvimento e a utilização de tecnologias da robótica;
6. Insta a Comissão a aumentar o seu apoio, na revisão intercalar do QFP, ao programa SPARC financiado pelo Programa-Quadro Horizonte 2020, a realizar estudos de previsão, a promover a inovação aberta como um objetivo estratégico e a fomentar um ambiente colaborativo entre instituições nacionais e europeias, a comunidade de investigação, os organismos de normalização que atraem talentos, o setor privado, as empresas globais, as PME e as empresas em fase de arranque, que são essenciais para a inovação e a abertura de novos mercados em tecnologias da robótica à escala mundial; destaca o papel que as parcerias público-privadas podem desempenhar neste contexto;
7. Salienta que o desenvolvimento das tecnologias da robótica deve ser orientado para complementar as capacidades humanas, e não para as substituir; sublinha que o crescimento no domínio da robótica e da inteligência artificial automatizará um número significativo de postos de trabalho, reduzindo a exposição humana a condições prejudiciais e perigosas, e transformará vidas e práticas de trabalho, o que pressupõe uma avaliação de longo prazo e medidas destinadas a assegurar que os aspetos relacionados com a sociedade, o ambiente, a ética, a responsabilidade e o ensino sejam devidamente tidos em conta; considera, em especial, que é necessário incluir competências digitais, nomeadamente em codificação, em todos os níveis de ensino e formação, desde os primeiros anos de escolaridade até à aprendizagem ao longo da vida;
8. Considera que os robôs da medicina continuam a abrir novas perspetivas na execução de cirurgias de alta precisão e na execução de procedimentos repetitivos; considera que esses robôs têm potencial para melhorar os resultados da reabilitação e prestar um apoio logístico altamente eficaz nos hospitais;
– a incorporar as seguintes recomendações em anexo à sua proposta de resolução:
9. Considera que as futuras iniciativas legislativas em matéria de robótica e de inteligência artificial, após consultas com um vasto leque de partes interessadas de relevo e baseadas num diálogo constante, devem proporcionar segurança jurídica, sem colocar entraves à inovação neste domínio da tecnologia em rápida evolução;
10. Considera que, juntamente com os utilizadores finais, os engenheiros da robótica, o mundo académico e outras partes interessadas, a Comissão deve elaborar um código de conduta no domínio da ética destinado a nortear as atividades de desenvolvimento da robótica e da inteligência artificial;
11. Entende que as recomendações relacionadas com as licenças devem respeitar a liberdade contratual e permitir a existência de sistemas de licenciamento inovadores; adverte contra a introdução de novos direitos de propriedade intelectual no domínio da robótica e da inteligência artificial que possam prejudicar a inovação e o intercâmbio de competências.
Segundo estudos do MIT baseados em experiências conjuntas com os fabricantes de automóveis BMW e Mercedes-Benz.
PARECER da Comissão do Mercado Interno e da Proteção dos Consumidores (12.10.2016)
sobre Disposições de Direito Civil sobre Robótica
Relatora de parecer: Dita Charanzová
A. Considerando que a robótica não é um tema novo; que a robótica pode ter, e tem, um papel a desempenhar na mudança da nossa sociedade para melhor; que a robótica e a inteligência artificial podem participar ativamente na digitalização da economia em muitos setores, como, por exemplo, nos setores da indústria, dos cuidados de saúde, da construção e dos transportes, e podem conduzir a inovações, a menos exposição a condições de trabalho perigosas e a novos modelos de negócios e que a União deve abraçar ativamente os desenvolvimentos neste domínio, a fim de avançar o mercado único digital;
B. Considerando que os robôs funcionam cada vez mais em estreita proximidade com os seres humanos e, em particular, o mercado de serviços ligados à robótica está em constante expansão, permitindo novos benefícios para a sociedade, sem negligenciar as questões de segurança e de responsabilidade;
C. Considerando que, embora a robótica ofereça vantagens inegáveis, a sua aplicação pode implicar uma transformação do mercado de trabalho e a necessidade de refletir, consequentemente, sobre o futuro das políticas sociais e em matéria de ensino e de emprego;
D. Considerando que a produção e a venda de robôs registaram um aumento significativo entre 2010 e 2014, com um aumento de quase 30 % só em 2014, especialmente na indústria eletrónica;
E. Considerando que a transformação digital da indústria transformadora europeia, que representa 15 % do PIB da UE, pode ter um potencial de valor acrescentado equivalente a 1,25 biliões de EUR em 2025(1) e que a adoção de tecnologias autónomas e robóticas pode contribuir para aumentar a produção industrial europeia e traduzir-se numa vantagem competitiva considerável para a Europa;
F. Considerando que a aprendizagem automática oferece enormes benefícios económicos e inovadores à sociedade ao melhorar significativamente a capacidade de análise de dados, suscitando simultaneamente desafios em termos da garantia de não discriminação, de processo equitativo, de acesso à informação e de inteligibilidade nos processos de tomada de decisão;
G. Considerando que os desenvolvimentos no domínio das aplicações médicas, tais como próteses e implantes robóticos, fazem com que as pessoas que os utilizam dependam da disponibilidade de manutenção, de reparações e de melhorias para viver;
H. Considerando que se deve ter em conta a proteção dos dados e o respeito pela propriedade intelectual no desenvolvimento de todos os novos protótipos tecnológicos e de produção;
I. Considerando que muitos países terceiros adotaram orientações e legislação adequadas no domínio da robótica e que alguns Estados-Membros também iniciaram uma reflexão profunda sobre esta matéria;
1. Salienta que uma abordagem a nível da UE pode facilitar o desenvolvimento ao evitar a fragmentação do mercado interno, sublinhando, ao mesmo tempo, a importância do princípio do reconhecimento mútuo na utilização transfronteiriça de robôs e de sistemas robóticos; recorda que os ensaios, a certificação e autorização de introdução no mercado só devem ser exigidos num único Estado-Membro;
2. Salienta que esta abordagem deve ser acompanhada por uma supervisão eficaz do mercado, bem como por recursos e competências legais para os Estados-Membros imporem ações de recolha e sancionarem infrações;
3. Sublinha a importância de medidas de apoio às pequenas e médias empresas e às empresas em fase de arranque na área da robótica que criem novos segmentos de mercado neste setor ou que utilizem a robótica nas suas atividades;
4. Incentiva o desenvolvimento de uma estratégia europeia ambiciosa para a investigação e inovação no domínio da robótica para que seja possível tirar pleno partido do seu potencial em termos de crescimento e de emprego na Europa;
5. Considera que é necessária uma maior harmonização das normas em matéria de robótica e de inteligência artificial e que essa harmonização faça parte das prioridades de normalização da União, a fim de promover a inovação e de garantir um nível elevado de proteção dos consumidores, embora reconheça que já existe um número significativo de normas internacionais aplicadas em todo o setor que incidem em questões como a interoperabilidade e a segurança; salienta que é essencial desenvolver normas comuns, seguras e de alto nível neste domínio orientado para o futuro;
6. Solicita à Comissão que, em colaboração com os organismos europeus de normalização, continue a dialogar proativamente com os organismos internacionais de normalização e a melhorar a colaboração com parceiros internacionais, com vista a prosseguir os trabalhos de aperfeiçoamento das normas neste domínio; saúda, a este respeito, a criação de comités técnicos especiais, como o ISO/TC 299 Robotics, dedicados exclusivamente ao desenvolvimento de normas em matéria de robótica;
7. Recorda que a grande maioria das normas é desenvolvida em resposta a uma necessidade identificada pelo setor e incentiva os organismos europeus e internacionais de normalização a reverem continuamente as suas próprias normas, a fim de garantir que satisfazem essas necessidades;
8. Considera que os robôs desenvolvidos tanto para utilização na indústria como a nível particular devem ser sujeitos a regras em matéria de segurança dos produtos e de proteção dos consumidores, garantindo, sempre que necessário, normas mínimas de segurança e fazendo face ao risco de acidente resultante da interação com humanos ou do funcionamento na proximidade destes; considera que as questões relativas à ética, à proteção de dados, incluindo dados sobre terceiros e dados pessoais, à responsabilidade civil, ao ensino, à formação e à cibersegurança devem ser abordadas em todas as políticas no domínio da robótica;
9. Salienta a importância da privacidade e da segurança desde a fase de conceção no desenvolvimento de robôs e a importância das normas para os ensaios das reações dos robôs para efeitos de proteção dos consumidores;
10. Sublinha que a dignidade humana deve estar sempre no centro das atenções na utilização de robôs, especialmente no domínio dos cuidados de saúde;
11. Refere que no domínio das aplicações médicas vitais, como as próteses robóticas, é necessário assegurar um acesso contínuo e sustentável à manutenção, a melhorias e, sobretudo, a atualizações de software que resolvam anomalias e vulnerabilidades;
12. Considera que as consequências da robotização devem ser mais tidas em conta nas políticas sociais, de emprego e de ensino dos Estados-Membros; solicita à Comissão que ajude a alcançar um quadro regulamentar uniforme e uma maior cooperação entre os Estados-Membros; solicita aos Estados-Membros que ponham em prática quadros de formação reestruturados, a fim de evitar uma eventual escassez de profissionais das tecnologias da informação e da comunicação;
13. Reconhece que a robótica e as tecnologias de inteligência artificial são cada vez mais utilizadas em veículos autónomos, tais como os automóveis autónomos e os drones civis; observa que alguns Estados-Membros já estão a promulgar ou a preparar legislação neste domínio específico, o que pode resultar em entraves ao desenvolvimento de veículos autónomos devido à panóplia de legislação nacional; solicita, por conseguinte, um único conjunto de regras da UE que assegure o devido equilíbrio entre os interesses de utilizadores, empresas e outras partes interessadas, evitando ao mesmo tempo uma regulamentação excessiva no domínio da robótica e dos sistemas robóticos.
14. Apela à cooperação a nível regulamentar, com vista a alterar certos acordos internacionais, como a Convenção de Viena relativa à circulação rodoviária, de 8 de novembro de 1968, e a Convenção de Haia sobre a Lei Aplicável em Matéria de Acidentes de Circulação Rodoviária, de 4 de maio de 1971;
15. Considera que, no caso dos veículos autónomos, pode não ser necessário alterar o quadro jurídico em matéria de seguros, uma vez que as práticas atuais e as relações entre operadores, fabricantes e seguradoras são capazes de lidar adequadamente com a introdução de novas tecnologias, tal como aconteceu no passado;
16. Salienta que a utilização da robótica nos cuidados de saúde já é um mercado em crescimento, sobretudo em procedimentos cirúrgicos robóticos à distância, nos quais a Europa é líder; insta a Comissão a assegurar condições que permitam uma maior utilização destas práticas;
17. Exorta a Comissão a aumentar o financiamento de estudos interdisciplinares sobre os impactos sociais da inteligência artificial e dos processos de aprendizagem automática.
STOA, «Ethical Aspects of Cyber-Physical Systems» (aspetos éticos dos sistemas ciber-físicos), unidade de estudos científicos prospetivos (maio de 2016), anexo 1, p. 37.

References: artigo 54
 artigo 2
 artigo 16
 artigo 4
 artigo 114
 artigo 225
 artigo 114
 artigo 225
 artigo 46
 artigo 114
 artigo 5
 artigo 16
 artigo 8
 artigo 16
 artigo 4