Source: https://www.europarl.europa.eu/doceo/document/A-8-2017-0005_ES.html
Timestamp: 2020-04-08 06:37:15+00:00

Document:
INFORME con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica
535k 122k
con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica
(Iniciativa – artículo 46 del Reglamento)
Georg Mayer, Comisión de Transportes y Turismo
Michał Boni, Comisión de Libertades Civiles, Justicia y Asuntos de Interior
ANEXO A LA PROPUESTA DE RESOLUCIÓN:RECOMENDACIONES DETALLADAS RESPECTO AL CONTENIDO DE LA PROPUESTA SOLICITADA
– Vista la Directiva 85/374/CEE sobre la responsabilidad por los daños causados por productos defectuosos,
K. Considerando que, al mismo tiempo, el desarrollo de la robótica y la inteligencia artificial puede dar lugar a que los robots asuman gran parte del trabajo que ahora realizan los seres humanos sin que puedan reemplazarse por completo los empleos perdidos, cuestión esta que genera interrogantes sobre el futuro del empleo y la viabilidad de los sistemas de seguridad y bienestar sociales y sobre la insuficiencia continuada de las cotizaciones para los regímenes de jubilación, en caso de que se mantenga la actual base imponible, lo que podría acarrear una mayor desigualdad en la distribución de la riqueza y el poder, mientras que, en el marco de la financiación del apoyo y reciclaje profesional para desempleados cuyos puestos de trabajo se hayan reducido o eliminado, deberá estudiarse la posibilidad de someter a impuesto el trabajo ejecutado por robots o exigir un gravamen por el uso y mantenimiento de cada robot, a fin de mantener la cohesión social y la prosperidad;
L. Considerando que, a la vista de las crecientes fracturas sociales y el declive de la clase media, conviene tener en cuenta que el progreso de la robótica podría traducirse en una elevada concentración de la riqueza y el poder en manos de una minoría;
M. Considerando que no cabe duda de que el desarrollo de la robótica y la inteligencia artificial incidirá en el panorama del empleo, lo que puede crear nuevas preocupaciones relativas a la responsabilidad y eliminar otras; que debe aclararse la responsabilidad jurídica desde el punto de vista del modelo de empresa y de la definición de las tareas de los trabajadores, en caso de que se produzca una emergencia o surjan problemas;
N. Considerando que la tendencia hacia la automatización requiere que los implicados en el desarrollo y comercialización de aplicaciones de inteligencia artificial incorporen desde el principio características de seguridad y ética, reconociendo de ese modo que deben estar preparados para aceptar la responsabilidad jurídica respecto de la calidad de la tecnología que producen;
O. Considerando que el Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo(1) (Reglamento general de protección de datos) establece un marco jurídico para la protección de los datos personales; que puede resultar necesario abordar otros aspectos relativos al acceso de los datos y a la protección de los datos personales y la intimidad, habida cuenta de las preocupaciones que en esta materia aún podrían suscitar las aplicaciones y los dispositivos que se comunican entre sí y con bases de datos sin intervención humana;
P. Considerando que la evolución en la robótica y en la inteligencia artificial puede y debe concebirse de modo que preserve la dignidad, la autonomía y la autodeterminación del individuo, especialmente en el ámbito de la atención y la compañía a las personas, y en el contexto de los dispositivos médicos que «reparen» o mejoren a los seres humanos;
Q. Considerando que existe la posibilidad de que a largo plazo la inteligencia artificial llegue a superar la capacidad intelectual humana;
R. Considerando que el desarrollo de toma de decisiones automatizadas y basadas en algoritmos y su creciente utilización incidirán sin duda en las elecciones de los particulares (por ejemplo, empresas o usuarios de internet) y de las autoridades administrativas y judiciales u organismos públicos de otro tipo, a la hora de tomar su decisión final, ya sea de carácter comercial, de ejercicio de la autoridad pública o de consumo; considerando que es necesario integrar salvaguardias y la posibilidad de control y verificación por parte de las personas en los procesos de toma de decisiones automatizados y basados en algoritmos;
S. Considerando que en varios países extranjeros, como los EE.UU., Japón, China y Corea del Sur, se están planteando adoptar medidas normativas en el ámbito de la robótica y la inteligencia artificial, y que en algunos casos ya han empezado a hacerlo; que algunos Estados miembros han empezado también a reflexionar sobre la posible elaboración de normas jurídicas o la introducción de cambios legislativos a fin de tener en cuenta las nuevas aplicaciones de dichas tecnologías;
T. Considerando que la industria europea podría resultar beneficiada de un enfoque normativo adecuado, eficiente, transparente y coherente a escala de la Unión que defina unas condiciones previsibles y lo suficientemente claras para que las empresas puedan desarrollar aplicaciones y planificar sus modelos de negocio a escala europea, garantizando al mismo tiempo que la Unión y sus Estados miembros conservan el control sobre la normativa que se haya de establecer, de modo que no se vean obligados a adoptar o aceptar normas establecidas por otros, es decir, por terceros países que también están a la vanguardia del desarrollo de la robótica y la inteligencia artificial;
U. Considerando que debe entenderse que las leyes de Asimov(2) van dirigidas a los diseñadores, fabricantes y operadores de robots, incluidos los que disponen de autonomía y capacidad de autoaprendizaje integradas, dado que dichas leyes no pueden traducirse en código máquina;
V. Considerando que es necesario disponer de una serie de normas en materia de responsabilidad, transparencia y rendición de cuentas que reflejen los valores humanistas intrínsecamente europeos y universales que caracterizan la contribución de Europa a la sociedad; que esas normas no deben afectar al proceso de investigación, innovación y desarrollo en el ámbito de la robótica;
W. Considerando que la Unión podría desempeñar un papel esencial a la hora de establecer principios éticos básicos que deban respetarse en el desarrollo, la programación y la utilización de robots y de la inteligencia artificial, y a la hora de incorporar dichos principios a la normativa y los códigos de conducta de la Unión, con el fin de encauzar la revolución tecnológica para que esté al servicio de la humanidad y, de este modo, los beneficios de la robótica y la inteligencia artificial más avanzadas se distribuyan de la manera más amplia, evitando, dentro de lo que cabe, posibles escollos;
X. Considerando que en las futuras iniciativas en materia de robótica e inteligencia artificial, la Unión debe adoptar una actitud gradual, pragmática y prudente, como la propugnada por Jean Monnet(3), a fin de asegurarse que no se ponen trabas a la innovación;
AG. Considerando que también son manifiestas las deficiencias del marco jurídico vigente en el ámbito de la responsabilidad contractual, ya que la existencia de máquinas concebidas para elegir a sus contrapartes, negociar cláusulas contractuales, celebrar contratos y decidir sobre su aplicación hace inaplicables las normas tradicionales, lo que pone de relieve la necesidad de adoptar nuevas normas eficientes y actualizadas, acordes con los avances tecnológicos y las innovaciones recientemente aparecidas y utilizadas en el mercado;
AH. Considerando que en materia de responsabilidad extracontractual podría no ser suficiente el marco ofrecido por la Directiva 85/374/CEE del Consejo, de 25 de julio de 1985(4), que solo cubre los daños ocasionados por los defectos de fabricación de un robot a condición de que el perjudicado pueda demostrar el daño real, el defecto del producto y la relación de causa a efecto entre el defecto y el daño (responsabilidad objetiva o responsabilidad sin culpa);
15. Considera necesaria una cooperación reforzada entre los Estados miembros y la Comisión para garantizar normas transfronterizas coherentes en la Unión que fomenten la colaboración entre las industrias europeas y permitan el despliegue en toda la Unión de robots que cumplan los niveles requeridos de seguridad y los principios éticos consagrados consagrados en el Derecho de la Unión;
20. Recalca que el derecho a la protección de la vida privada y el derecho a la protección de los datos personales, consagrados en los artículos 7 y 8 de la Carta y en el artículo 16 del Tratado de Funcionamiento de la Unión Europea (TFUE), son de aplicación en todos los ámbitos de la robótica, y que debe respetarse plenamente el marco jurídico de la Unión en materia de protección de datos; pide, en este contexto, que se revisen las normas y criterios aplicables al uso de cámaras y sensores en los robots; pide a la Comisión que vele por la observancia de los principios de la protección de datos, como la protección de la intimidad desde el diseño y por defecto, la minimización de datos y la limitación de la finalidad, así como por la existencia de mecanismos de control transparentes y vías de recurso adecuadas de conformidad con el Derecho de la Unión en materia de protección de datos, y por que se promuevan recomendaciones y normas adecuadas para ser incorporadas a las políticas de la Unión;
35. pide a la Comisión que garantice la seguridad de los procedimientos utilizados para ensayar nuevos dispositivos robóticos médicos, en particular en el caso de los dispositivos(7) que se implanten en el cuerpo humano, antes de la fecha de entrada en vigor del Reglamento;
44. Destaca la importancia que reviste la previsión de los cambios sociales, habida cuenta de los efectos que podrían tener el desarrollo y la implantación de la robótica y la inteligencia artificial; pide a la Comisión que analice los diferentes posibles escenarios y sus consecuencias para la viabilidad de los sistemas de seguridad social en los Estados miembros; considera que debería emprenderse un debate integrador sobre los nuevos modelos de empleo y sobre la sostenibilidad de nuestros sistemas tributarios y sociales tomando como base unos ingresos suficientes, incluida la posible introducción de una renta básica mínima;
50. Observa que el desarrollo de la tecnología robótica requerirá una mayor comprensión de las bases comunes necesarias para la actividad conjunta humano-robótica, que debe basarse en dos relaciones de interdependencia básicas, como la previsibilidad y la direccionalidad; señala que estas dos relaciones de interdependencia son fundamentales para determinar qué información debe ser compartida entre seres humanos y robots y cómo puede conseguirse una base común entre seres humanos y robots que permita una acción conjunta humano-robótica eficaz;
g) introducir un instrumento específico para los consumidores que deseen reclamar de forma colectiva una reparación por los daños y perjuicios derivados del incorrecto funcionamiento de máquinas inteligentes a las empresas productoras responsables;
60. Constata que no es necesario modificar de forma sustantiva y con carácter de urgencia las actuales normas de Derecho internacional privado en materia de accidentes de tráfico aplicables en la Unión para adaptarlas al desarrollo de los vehículos autónomos, si bien considera que la simplificación del actual sistema dual con el que se determina la legislación aplicable (basado en el Reglamento (CE) n.º 864/2007 del Parlamento Europeo y del Consejo(8) y el Convenio de La Haya de 4 de mayo de 1971 sobre la ley aplicable en materia de accidentes de circulación por carretera) podría mejorar la seguridad jurídica y limitar las posibilidades de búsqueda del foro más favorable;
64. Destaca que las restricciones y condiciones establecidas en el Reglamento (CE) n.º 428/2009 del Parlamento Europeo y del Consejo(9) sobre el comercio de los productos de doble uso (productos, programas informáticos y tecnología que puedan utilizarse para aplicaciones tanto civiles como militares o que puedan contribuir a la proliferación de armas de destrucción masiva) deberían extenderse a las aplicaciones de la robótica;
1.ª Un robot no hará daño a un ser humano ni permitirá que, por inacción, este sufra daño. 2.ª Un robot obedecerá las órdenes que reciba de un ser humano, a no ser que las órdenes entren en conflicto con la primera ley. 3.ª Un robot protegerá su propia existencia en la medida en que dicha protección no entre en conflicto con las leyes primera y segunda (véase Isaac Asimov, Círculo vicioso (Runaround), 1943) y 0.ª Un robot no hará daño a la humanidad ni permitirá que, por inacción, esta sufra daño.
Véase la Declaración Schuman de 1950: «Europa no se hará de una vez ni en una obra de conjunto. Se hará gracias a realizaciones concretas, que creen en primer lugar una solidaridad de hecho».
Textos Aprobados, P8_TA(2015)0390.
Reglamento (CE) n.º 216/2008, del Parlamento Europeo y del Consejo, de 20 de febrero de 2008, sobre normas comunes en el ámbito de la aviación civil y por el que se crea una Agencia Europea de Seguridad Aérea, y se deroga la Directiva 91/670/CEE del Consejo, el Reglamento (CE) n.º 1592/2002 y la Directiva 2004/36/CE (DO L 79 de 19.3.2008, p. 1).
Véase la Resolución legislativa del Parlamento Europeo, de 2 de abril de 2014, sobre la propuesta de Reglamento del Parlamento Europeo y del Consejo sobre los productos sanitarios y por el que se modifican la Directiva 2001/83/CE, el Reglamento (CE) n.º 178/2002 y el Reglamento (CE) n.º 1223/2009 (COM(2012)0542 – C7-0318/2012 – 2012/0266(COD)).
Reglamento (CE) n.º 864/2007 del Parlamento Europeo y del Consejo, de 11 de julio de 2007, relativo a la ley aplicable a las obligaciones extracontractuales (Roma II) (DO L 199 de 31.7.2007, p. 40.).
Reglamento (CE) n.º 428/2009 del Consejo por el que se establece un régimen comunitario de control de las exportaciones, la transferencia, el corretaje y el tránsito de productos de doble uso (DO L 341 de 29.5.2009, p. 1).
En virtud del anexo VI del Reglamento, la Comisión de Asuntos Jurídicos es competente, entre otras cosas, en el ámbito del Derecho civil y mercantil, el Derecho de sociedades, el Derecho de propiedad intelectual, así como en la interpretación y aplicación del Derecho internacional, siempre y cuando se vea afectada la Unión Europea, y en cuestiones éticas relacionadas con las nuevas tecnologías. La evolución de la robótica y la inteligencia artificial plantea cuestiones jurídicas y éticas que están claramente relacionadas con todos estos ámbitos y que requieren una intervención rápida a escala de la Unión. Si bien corresponderá a la Comisión Europea presentar, en su caso, una o varias propuestas legislativas relacionadas con la robótica y la inteligencia artificial, el Parlamento Europeo ha decidido allanar el camino a estas iniciativas haciendo uso de sus derechos en virtud del artículo 225 del Tratado de Funcionamiento de la Unión Europea y del artículo 46 de su Reglamento.
En consecuencia, el 20 de enero de 2015 la Comisión JURI decidió crear un Grupo de trabajo sobre las cuestiones jurídicas relacionadas con la evolución de la robótica y la inteligencia artificial en la Unión Europea. El objetivo principal del Grupo de trabajo consiste en elaborar normas de Derecho civil relacionadas con este tema.
Además de los miembros de la Comisión de Asuntos Jurídicos, el Grupo de trabajo también cuenta con miembros representantes de la Comisión de Industria, Investigación y Energía (ITRE), de la Comisión de Mercado Interior y Protección del Consumidor (IMCO) y de la Comisión de Empleo y Asuntos Sociales (EMPL).
El Grupo de trabajo ha consultado a expertos de ámbitos muy diversos y ha obtenido importantes contribuciones que figuran en la presente Resolución.
La robótica y la inteligencia artificial se han convertido en una de las principales tendencias tecnológicas de nuestro siglo. El rápido aumento de su uso y de su evolución plantea nuevos y difíciles retos a nuestra sociedad. El camino desde el sector industrial hasta el contexto de la sociedad civil obliga a adoptar un enfoque diferente con respecto a estas tecnologías, puesto que los robots y la inteligencia artificial podrían aumentar su interacción con los seres humanos en ámbitos muy diversos.
La Comisión JURI considera que los riesgos que entrañan estas nuevas interacciones deberían abordarse con urgencia, velando por que se respeten un conjunto de valores fundamentales en todas las fases de contacto entre los robots, la inteligencia artificial y los seres humanos. En el marco de este proceso, debe hacerse especial hincapié en la seguridad, el respeto a la intimidad, la integridad, la dignidad y la autonomía de los seres humanos.
Otros aspectos importantes que también aborda la presente Resolución son: la normalización, los derechos de propiedad intelectual, la propiedad de los datos, el empleo y la responsabilidad. Es fundamental que el Reglamento proporcione condiciones predecibles y suficientemente claras para incentivar la innovación europea en el campo de la robótica y la inteligencia artificial.
Fundamento jurídico y subsidiariedad
Las acciones de la Comisión destinadas a adaptar la legislación vigente a la realidad de la robótica y la inteligencia artificial deben basarse en el artículo 114 del TFUE. De acuerdo con el artículo 5, apartado 3, del TUE, «en virtud del principio de subsidiariedad la Unión intervendrá sólo en caso de que, y en la medida en que, los objetivos de la acción pretendida no puedan ser alcanzados de manera suficiente por los Estados miembros, ni a nivel central ni a nivel regional y local, sino que puedan alcanzarse mejor, debido a la dimensión o a los efectos de la acción pretendida, a escala de la Unión». Actualmente la robótica se está desarrollando en toda la Unión. En respuesta a esta innovación, los Estados miembros están elaborando distintas legislaciones nacionales. Estas discrepancias son susceptibles de crear obstáculos al desarrollo eficaz de la robótica. Debido a que esta tecnología tiene implicaciones transfronterizas, la mejor opción legislativa es una a escala europea.
Principios generales y éticos
La Resolución establece principios generales y principios éticos en relación con el desarrollo de la robótica y la inteligencia artificial para uso civil. En primer lugar, para abordar de forma apropiada este desarrollo, es fundamental establecer una definición común de los robots autónomos inteligentes. Por otro lado, conviene reforzar la investigación en el ámbito de la robótica y las tecnologías de la información y la comunicación, así como sobre las consecuencias de su difusión.
En segundo lugar, con el fin de abordar los principios éticos, la presente Resolución incluye en su anexo una Carta sobre robótica. Esta Carta consiste en un código de conducta ética para los ingenieros en robótica, un código deontológico para los comités de ética de la investigación y licencias para los diseñadores y los usuarios. El marco propuesto se ajusta plenamente a la Carta de los Derechos Fundamentales de la Unión Europea.
Asimismo, se sugiere la creación de una agencia europea para la robótica y la inteligencia artificial. Esta agencia debería facilitar la experiencia técnica, ética y normativa necesaria para apoyar la labor de los agentes públicos pertinentes.
Los derechos de propiedad intelectual, la protección y la propiedad de los datos
La Resolución pide a la Comisión Europea que adopte un enfoque equilibrado en materia de derechos de propiedad intelectual aplicados a las normas sobre equipos y programas informáticos, y que proponga códigos que protejan la innovación y, al mismo tiempo, la estimulen. Asimismo, solicita que se elaboren criterios relativos a la «creación intelectual propia» aplicables a las obras protegidas por derechos de autor creadas por ordenadores o robots.
El actual e insuficiente marco jurídico relativo a la protección y la propiedad de los datos es motivo de gran preocupación debido al flujo (previsiblemente masivo) de datos procedentes de la utilización de la robótica y la inteligencia artificial.
La normalización, la seguridad y la protección
El aumento de la utilización de robots e inteligencia artificial requiere una normalización europea que evite las discrepancias entre los Estados miembros y la fragmentación del mercado interior de la Unión Europea.
Por otra parte, deben abordarse las preocupaciones de los consumidores sobre la seguridad y la protección relacionadas con la utilización de robots e inteligencia artificial. Esta Resolución subraya, en particular, que la realización de ensayos de robots en situaciones reales es esencial para la identificación y la evaluación de los riesgos que puedan entrañar.
Normas para la utilización específica de robots e inteligencia artificial
La Resolución incluye disposiciones aplicables a determinados tipos de robots. Conviene adoptar normas individuales para los vehículos autónomos, los robots asistenciales, los robots médicos, los robots para la rehabilitación e intervenciones en el cuerpo humano, así como los drones o sistemas de aeronave pilotada a distancia (RPAS).
Los riesgos que puedan surgir están intrínsecamente relacionados con la utilización de máquinas autónomas en nuestra sociedad. El comportamiento de un robot podría tener implicaciones de Derecho civil, tanto en términos de responsabilidad contractual como extracontractual. Por lo tanto, es necesario aclarar la responsabilidad de las acciones de los robots y, en última instancia, la capacidad jurídica o el estatus de los robots y de la inteligencia artificial, con el fin de garantizar la transparencia y la seguridad jurídica para los productores y consumidores en la Unión Europea.
Se solicita a la Comisión que lleve a cabo una evaluación de impacto de sus futuros instrumentos legislativos para explorar las implicaciones de todas las posibles soluciones jurídicas, tales como, entre otras, la creación de un régimen de seguro obligatorio y un fondo de compensación.
La robótica y la inteligencia artificial en el ámbito social
El aumento de la comunicación y la interacción con los robots puede repercutir considerablemente en las relaciones físicas y morales en nuestra sociedad. Esto sucede especialmente en el caso de los robots asistenciales, hacia los que las personas particularmente vulnerables podrían desarrollar sentimientos emocionales y sentir apego, lo que suscita preocupación por la dignidad humana y otros valores morales.
Los robots y la inteligencia artificial ya tienen repercusión en la educación y el empleo. En este contexto, es necesario supervisar atentamente la evolución del empleo a fin de evitar consecuencias negativas para el mercado laboral.
Habida cuenta de la evolución de la robótica y la inteligencia artificial en todo el mundo, debería considerarse la posibilidad de adoptar iniciativas para modificar, si fuera necesario, algunos acuerdos internacionales vigentes en la materia o elaborar nuevos instrumentos con el objetivo de introducir referencias específicas a la robótica y la inteligencia artificial. La cooperación internacional en este ámbito es muy recomendable.
OPINIÓN de la Comisión de Transportes y Turismo (16.11.2016)
Ponente de opinión: Georg Mayer
La Comisión de Transportes y Turismo pide a la Comisión de Asuntos Jurídicos, competente para el fondo, que incorpore las siguientes sugerencias en la propuesta de Resolución que apruebe:
– Vista la Declaración de Ámsterdam del Consejo, de 14 y 15 de abril de 2016, sobre cooperación en el ámbito de la conducción conectada y automatizada («Declaración de Ámsterdam»),
A. Considerando la reciente creación, por parte de la Comisión Europea, del Grupo de alto nivel GEAR 2030, encargado de elaborar una hoja de ruta para la correcta implantación de los vehículos autónomos;
B. Considerando que, a efectos de responsabilidad civil, es necesario establecer una distinción entre vehículos automatizados (que contienen un dispositivo que permite la realización automática de ciertas operaciones de conducción) y vehículos autónomos (que garantizan la totalidad de estas operaciones); que, en el primer caso, la conducción debe estar bajo el control permanente y la responsabilidad total del conductor, y, en el segundo caso, la conducción no necesita ya control permanente ni ningún tipo de intervención por parte del usuario; considerando asimismo que en el primer caso el régimen de responsabilidad civil no varía con respecto al vehículo clásico, mientras que en el segundo caso se tiene que adaptar;
1. Subraya que el transporte autónomo abarca todas las formas del transporte por carretera, ferroviario, por vías navegables y aéreo pilotado a distancia, automatizado, conectado y autónomo, incluidos los vehículos, los trenes, los buques, los transbordadores, las aeronaves y los drones, así como todas las futuras formas de soluciones e innovaciones en este sector (en adelante «medios de transporte autónomos»);
2. Pide a la Comisión que, en sus trabajos sobre los medios de transporte autónomos, examine los siguientes aspectos: responsabilidad civil (responsabilidad y seguros), todas las cuestiones relativas al medio ambiente (por ejemplo, eficiencia energética, uso de tecnologías renovables y fuentes de energía) y las cuestiones relativas a los datos (acceso a los datos, protección de los datos personales y la intimidad, intercambio de datos sobre accidentes y situaciones de riesgo, valor económico de los datos y su distribución);
3. Tiene en cuenta que los medios de transporte autónomos podrían tener un importante efecto en la mejora de la seguridad en el transporte, ya que los errores humanos son actualmente responsables del 90 % aproximadamente de los accidentes de tráfico; observa, no obstante, que será imposible que con los vehículos autónomos desaparezcan todos los accidentes, lo que plantea problemas de obligaciones y cuestiones de responsabilidad de las partes implicadas e indemnización de las víctimas en los accidentes;
4. Recuerda que los sistemas de transporte autónomo existen desde hace mucho tiempo en el sector del transporte público (metro) y han demostrado que son fiables y que el público los acepta muy bien;
5. Opina que el cambio a los vehículos autónomos, al margen de sus efectos positivos en la seguridad vial, el consumo de carburante, el medio ambiente y la creación de nuevas oportunidades de empleo en los sectores de las telecomunicaciones y la automoción, también podría ocasionar pérdidas de empleos en el sector del transporte y tener consecuencias en el sector de los seguros;
6. Señala que, en el caso de una toma de control imprevista del vehículo, el tiempo de reacción del conductor tiene una importancia capital, y pide, por tanto, a las partes interesadas que prevean valores realistas que determinen los aspectos de seguridad y responsabilidad;
7. Insiste en la particular importancia del proyecto de informe elaborado por la Comisión de Asuntos Jurídicos sobre el sector del transporte, habida cuenta de los avances de la tecnología y del hecho de que ya se comercializan medios de transporte semiautónomos y que pronto se comercializarán medios de transporte totalmente autónomos;
8. Destaca la importancia de apoyar la continuidad de la innovación en materia de robótica, como los vehículos automatizados y conectados y los drones, para reforzar la posición de la industria de la Unión en el mercado mundial;
9. Señala que los medios de transporte autónomos desempeñan un papel importante en el desarrollo de un transporte sostenible; subraya que los medios de transporte autónomos podrían reducir la congestión del tráfico, y pide a la Comisión y a los Estados miembros que reflejen plena y oportunamente los avances técnicos y los efectos en el medio ambiente y en la seguridad, así como el fomento de la innovación;
10. Espera que la Comisión vele por que los Estados miembros adapten de manera uniforme la legislación actual, como por ejemplo el Convenio de Viena, de 8 de noviembre de 1968, sobre la Circulación Vial, a fin de hacer posible el transporte sin conductor, y pide a la Comisión, a los Estados miembros y al sector que apliquen con la mayor brevedad posible los objetivos de la Declaración de Ámsterdam;
11. Insta a la Comisión a que realice evaluaciones de los problemas de seguridad relacionados con el uso extendido de drones; pide a la Comisión que efectúe estudios sobre los efectos de los medios de transporte autónomos en la mejora de la seguridad y la sostenibilidad del transporte;
12. Destaca que, gracias a la optimización de los trayectos, la lucha contra la congestión, la optimización del uso del sistema de propulsión y su comunicación con los sistemas de regulación de los flujos, los vehículos autónomos contribuirán a mejorar los factores medioambientales, en particular en los nodos urbanos;
13. Subraya que la interacción entre medios de transporte autónomos, gestión del tráfico, infraestructuras y gestión de estas requerirá un elevado nivel de comunicaciones eficientes y fiables para transmitir de forma segura elevados volúmenes de datos en tiempo real; subraya que se necesitarán inversiones considerables en las infraestructuras viarias, energéticas y de TIC, garantizando al mismo tiempo la protección de la intimidad y de los datos;
14. Destaca la importancia de infraestructuras de transporte inteligentes y conectadas, y pide, por tanto, a la Comisión y los Estados miembros que establezcan infraestructuras adecuadas de carácter amplio, transfronterizo e interoperable;
15. Pide a la Comisión que elabore un régimen de responsabilidad civil, que incluya la carga de la prueba, adaptado al desarrollo de vehículos autónomos; insiste en la importancia de garantizar una distribución clara de las responsabilidades entre los diseñadores, los fabricantes de los diferentes componentes y los montadores de vehículos autónomos, los prestadores de servicios (servicios de transporte o servicios necesarios para el funcionamiento de los vehículos autónomos) y los usuarios finales, a fin de garantizar la seguridad y los derechos de los pasajeros, la protección de los datos y la protección contra los ataques informáticos;
16. Subraya la importancia decisiva de la fiabilidad de la información de posición y tiempo proporcionada por los programas europeos de navegación por satélite Galileo y EGNOS para la implantación de vehículos autónomos, en particular, por un lado, para los sistemas de navegación y seguridad de los vehículos autónomos y, por otro lado, para los sistemas de transporte inteligentes y los sistemas de gestión del tráfico;
17. Hace hincapié en el gran valor añadido de los vehículos autónomos para las personas con movilidad reducida, puesto que les permiten participar más efectivamente en el transporte individual por carretera y de ese modo les facilitan la vida cotidiana;
18. Pide a la Comisión que proponga, de aquí a 2019, una estrategia europea compartida (que incluya una hoja de ruta única) para los medios de transporte autónomos y una colaboración más estrecha de todas las partes interesadas pertinentes, en particular un análisis minucioso y recomendaciones relativas a la dinámica y el desarrollo del mercado; Pide a la Comisión que revise y adapte, cuando sea necesario, el marco regulador de la Unión para apoyar el desarrollo y el uso de medios de transporte autónomos; insta a que se pongan a punto y se lancen, lo antes posible, los satélites necesarios para completar el sistema europeo de posicionamiento Galileo, a fin de que dicho sistema pueda utilizarse en los vehículos autónomos como sistema de posicionamiento por defecto;
19. Hace hincapié en que el desarrollo de vehículos autónomos exige un enfoque institucional proactivo y comprometido por parte de la Unión y sus Estados miembros, así como la participación de los centros tecnológicos y de la industria de la automoción;
20. Pide a la Comisión que desarrolle normas europeas de infraestructura para permitir la divulgación de vehículos automatizados y que cree una hoja de ruta para aplicarlas;
21. Pide a la Comisión y a los Estados miembros que incorporen el manejo de vehículos automatizados en el catálogo de formación y perfeccionamiento profesional de los conductores de vehículos pesados y que lo integren como parte de la formación necesaria para la obtención del permiso de conducción de automóviles;
22. Recuerda que deben garantizarse la homogeneidad y la seguridad de las aeronaves sin tripulación mediante las medidas establecidas en el Reglamento (CE) n.º 216/2008 del Parlamento Europeo y del Consejo(1);
OPINIÓN de la Comisión de Libertades Civiles, Justicia y Asuntos de Interior (23.11.2016)
La Comisión de Libertades Civiles, Justicia y Asuntos de Interior pide a la Comisión de Asuntos Jurídicos, competente para el fondo:
A. Considerando que los progresos tecnológicos en el sector de la robótica tendrán efectos positivos para la economía de la Unión así como para la vida diaria de las personas, pero que también implican riesgos que hay que abordar; considerando que el desarrollo de todos los nuevos paradigmas tecnológicos y productivos, dentro o fuera del marzo de Horizonte 2020, debe respetar los principios éticos, y vistos los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales;
B. Considerando que algunos terceros países han adoptado orientaciones y legislaciones en materia de robótica y que algunos Estados miembros han emprendido reflexiones específicas en este ámbito; que un marco regulador que rija a escala de la Unión el desarrollo y la utilización de la robótica y de la inteligencia artificial, y se base en las normas existentes como las del Reglamento de protección de datos(1) podría evitar una fragmentación de las normas en el mercado único y salvaguardar la protección de los derechos fundamentales de todos los ciudadanos de la Unión a la dignidad humana, la privacidad y la vida familiar, la protección de los datos personales y de la propiedad intelectual, la libertad de expresión y de información, la igualdad y la no discriminación, la solidaridad, los derechos de los ciudadanos y la justicia, así la seguridad, todo ello condicionado siempre al principio de proporcionalidad;
1. Considera que el actual marco jurídico de la Unión debe actualizarse y complementarse, cuando proceda, con principios éticos que orienten el diseño, la fabricación, la prueba y el uso de robots y de la inteligencia artificial a fin de garantizar que estas tecnologías puedan mejorar realmente la calidad de vida de los ciudadanos; pide que se tenga siempre en cuenta el principio de precaución en el desarrollo y el uso de dichas tecnologías;
2. Considera que la robótica y los sistemas de inteligencia artificial, especialmente aquellos con autonomía integrada, incluida la capacidad de extraer, recopilar y compartir información sensible con varias partes interesadas, y con posibilidad de autoaprendizaje e incluso de evolución para automodificarse, deben someterse a normas o principios conceptuales sólidos, como el principio de que un robot no puede matar o hacer daño a los seres humanos y debe obedecerles y estar controlado por ellos; piensa que el proceso por el que los robots y la inteligencia artificial recogen, procesan y utilizan datos personales debe ser transparente y comprensible; considera que estos principios deben ser tecnológicamente neutros y basarse en la investigación empírica; apoya el desarrollo de un marco ético por sistema para los investigadores, los universitarios y los ingenieros que garantice que estas soluciones tecnológicas no obstaculizarán los avances de la tecnología y la investigación, sino que serán conformes a las prácticas y códigos éticos nacionales y de la Unión existentes y a los derechos y principios consagrados en la Carta de los Derechos Fundamentales, en particular, a la dignidad humana, el respeto y la protección de la privacidad y la vida familiar, la protección y la seguridad, la protección de los datos personales y de la propiedad intelectual, la libertad de expresión y de información, la igualdad y la no discriminación, la solidaridad, los derechos de los ciudadanos y la justicia, y que estarán condicionados al principio de proporcionalidad;
3. Es consciente de que la definición de dichas normas y principios y su aplicación práctica requieren más investigación en el ámbito de la ética de la inteligencia artificial; considera que el Grupo europeo sobre la ética en la ciencia y las nuevas tecnologías podría desempeñar en su caso un papel en la definición de las orientaciones y normas éticas con visión de futuro y sensibles a los cambios tecnológicos futuros;
4. Subraya la necesidad de abordar el impacto psicológico y social de la interacción entre humanos y robots y el carácter dual del impacto de la tecnología sobre las capacidades humanas, prestando especial atención a los grupos vulnerables, en particular a los niños, para evitar que se cree una dependencia dañina con respecto a los robots, por ejemplo mediante la evocación de una respuesta emotiva o el aislamiento de estos seres humanos de la realidad;
5. Destaca que la robótica y la inteligencia artificial, especialmente en el ámbito de la salud y los cuidados y la robótica doméstica, así como los sistemas ciberfísicos médicos, algunos de cuyos elementos pueden implantarse en el cuerpo humano o incorporarse al mismo, tendrán un gran impacto en la vida humana, en particular para las personas con discapacidad; señala por lo tanto que es esencial garantizar un acceso inclusivo y equitativo a esas tecnologías; señala también este impacto de la robótica en la privacidad de los usuarios en razón de su acceso a espacios tradicionalmente protegidos y a información personal sensible; considera que debe garantizarse el respeto de los principios de ética médica, seguridad de los pacientes e integridad de los cuidados administrados;
6. Recuerda que el derecho a la protección de la vida privada y el derecho a la protección de los datos personales, consagrados en los artículos 7 y 8 de la Carta de los Derechos Fundamentales y en el artículo 16 del TFUE, se aplican a todos los ámbitos de la robótica y la inteligencia artificial, y que debe respetarse plenamente el marco jurídico de la Unión en materia de protección de datos; subraya la responsabilidad que tienen los diseñadores de robótica y de inteligencia artificial de desarrollar productos que sean seguros, fiables y que cumplan su función, y de seguir procedimientos de tratamiento de datos conformes a la legislación en vigor, a la confidencialidad, el anonimato, el trato justo y el respeto de la legalidad;
7. Pide a la Comisión que garantice que todos los actos legislativos de la Unión sobre robótica e inteligencia artificial contengan medidas y normas que tengan en cuenta la rápida evolución tecnológica en este ámbito, también en el desarrollo de los sistemas ciberfísicos, para garantizar que la legislación de la Unión no quede a la zaga en la curva del desarrollo y el despliegue tecnológicos; subraya la necesidad de que dicha legislación respete las normas relativas a la privacidad y la protección de datos, o sea, las relativas a las obligaciones de información, el derecho a conseguir una explicación de una decisión basada en un proceso automatizado, el requisito de que se apliquen principios de privacidad desde la concepción y por sistema, los principios de proporcionalidad, necesidad, minimización de datos, limitación de la finalidad, mecanismos de control transparentes para los titulares de datos y para las autoridades de protección de datos, y soluciones adecuadas de conformidad con la legislación en vigor; pide que se revisen las normas, los principios y los criterios relativos al uso de cámaras y sensores en robots y la inteligencia artificial, de acuerdo con el marco jurídico de la Unión en materia de protección de datos;
8. Pide un enfoque uniforme y horizontal de la robótica y la inteligencia artificial en el marco reglamentario de la Unión que sea tecnológicamente neutro y se aplique a los diversos sectores en los que podría aplicarse la robótica, como el transporte, la sanidad, la producción industrial, las telecomunicaciones, el orden público, entre otros muchos; destaca que el actual marco jurídico debe actualizarse y complementarse, cuando proceda, para garantizar un nivel equitativo de protección de datos, privacidad y seguridad;
9. Destaca la importancia de prevenir la vigilancia a gran escala mediante tecnologías de robótica e inteligencia artificial;
10. Pide a la Comisión y a los Estados miembros que promuevan una cooperación estrecha y transparente entre los sectores público y privado y el mundo académico que refuerce el intercambio de conocimientos y fomente la educación y la formación de los diseñadores en cuanto a implicaciones éticas, seguridad y respeto de los derechos fundamentales y de los consumidores sobre el uso de la robótica y de la inteligencia artificial, haciendo especial hincapié en la seguridad y la privacidad de los datos;
Seguridad de los datos y sistemas de datos y flujo de datos
11. Subraya que el flujo de datos es primordial para la economía digital y es fundamental para el desarrollo de la robótica y la inteligencia artificial; pone de relieve que un alto grado de seguridad de la robótica y la inteligencia artificial en su conjunto, incluidos sus sistemas internos de datos y flujos de datos, es fundamental para una utilización adecuada de la robótica y la inteligencia artificial; insiste en que debe garantizarse la protección de las redes de robots y sistemas de inteligencia artificial interconectados para evitar posibles vulneraciones de la seguridad, ciberataques o usos indebidos de los datos personales, especialmente cuando se recopile y se procese una gran cantidad de datos; destaca la necesidad de diseñar un mecanismo que permita al usuario detener el tratamiento de sus datos personales en caso de vulneración de la seguridad; señala la importancia de las actividades de investigación y desarrollo en el ámbito de las técnicas de protección de datos y subraya la responsabilidad común del sector público y de las empresas en la cooperación para alcanzar un alto grado de protección, seguridad y privacidad de los datos utilizados para la comunicación entre las personas y los robots y sistemas de inteligencia artificial, junto con una elevada calidad de los sistemas de reconocimiento de voz y de lenguaje de signos; considera que los productores de material y de programas informáticos deben ser considerados responsables en caso de grave vulneración de la seguridad de los datos por negligencia suya; pide a la Comisión y a los Estados miembros que apoyen e incentiven el desarrollo de la tecnología necesaria, incluida la seguridad desde la concepción y los canales de comunicación;
Drones (sistemas de aeronaves pilotadas a distancia)
12. Subraya que, cuando los datos personales son procesados por sistemas de aeronaves pilotadas a distancia (RPAS por sus siglas en inglés), ya sea por autoridades públicas para fines de garantía del cumplimiento de la ley o por entidades privadas o públicas para otros fines, deben respetarse plenamente el derecho a la libertad y la seguridad y el derecho al respeto de la vida privada, consagrados en los artículos 6 y 7 de la Carta de los Derechos Fundamentales, el derecho a la protección de los datos personales, contemplado en el artículo 8 de la Carta de los Derechos Fundamentales y en el artículo 16 del TFUE, y el marco jurídico de la Unión en materia de protección de datos; pide a la Comisión que estudie la necesidad de introducir un sistema de seguimiento e identificación de los RPAS que permita conocer en tiempo real su posición durante su utilización;
13. Reitera su llamamiento al Consejo para que elabore un marco común de la Unión estricto y eficaz sobre el uso de drones armados, dando la máxima importancia al respeto de los principios éticos, los derechos humanos y el Derecho internacional humanitario y abordando cuestiones como el marco jurídico, la proporcionalidad, la rendición de cuentas, la transparencia y la protección de los civiles, tomando asimismo todas las precauciones posibles para evitar que se tome como blanco y se inflijan daños accidentales a los civiles y garantizando que el control y la responsabilidad últimos recaigan en un ser humano; repite su petición de que se prohíba la producción, el desarrollo y el uso de armas totalmente autónomas que permitan realizar ataques sin intervención humana; pide a la Comisión y a los Estados miembros que abran un amplio diálogo político internacional para establecer unas normas jurídicas internaciones sobre las limitaciones jurídicas y éticas del desarrollo, la proliferación y el uso de sistemas armamentísticos cada vez más autónomos, por ejemplo en forma de acuerdo internacional vinculante;
14. Reconoce los avances positivos en la tecnología de los drones, en particular en el ámbito de la búsqueda y el salvamento, y considera que esta es la dirección que debe seguir la Unión en relación con el progreso de la tecnología de los drones;
15. Considera que, en algunos ámbitos específicos en los que los estudios pertinentes muestran que el desarrollo de la legislación sería prematuro, una legislación adecuada debe ir acompañada del estímulo de un marco de Derecho indicativo, códigos de conducta o asociaciones público-privadas, posiblemente a escala de la Unión, a fin de garantizar la cooperación de la industria y los diseñadores de robótica con las autoridades públicas y todas las otras partes interesadas pertinentes; considera que estos instrumentos deben centrarse en soluciones prácticas para garantizar la privacidad y la protección de los datos, la dignidad humana, la no discriminación, la seguridad y la ética de la industria de la robótica y el uso adecuado de robots y sistemas de inteligencia artificial en la vida cotidiana:
OPINIÓN de la Comisión de Empleo y Asuntos Sociales (9.11.2016)
Ponente de opinión: Ádám Kósa
1. Pide a la Comisión que lleve a cabo con carácter de urgencia una evaluación detallada del impacto de la robótica en el número y las características de los puestos de trabajo, así como en la calidad y en los perfiles de competencias de los empleos existentes; pide, asimismo, a la Comisión que recopile información sobre las nuevas formas de empleo a fin de determinar con la mayor eficacia posible, en primer lugar, si el recurso creciente a la robótica redunda por sí mismo en una mayor nivel de bienestar y desarrollo, si hace el trabajo humano superfluo en la estructura tradicional de producción y servicios; si este es el caso, qué condiciones son necesarias, además de la seguridad financiera, para garantizar la salud —esto es, el bienestar físico y mental—, la felicidad y la actividad de las personas, y si la simbiosis entre las personas y las máquinas contribuye de forma eficaz al bienestar y al desarrollo; y en segundo lugar, y en un contexto laboral en mutación, si la legislación y las prácticas de los Estados miembros pueden contribuir de forma socialmente justa, inclusiva y sostenible a reducir las desigualdades, la pobreza y la exclusión social y a crear un entorno en el que todos los seres humanos gocen de las mismas oportunidades para desarrollar su individualidad, su talento y sus competencias;
2. Destaca que, en tanto que el desarrollo de la robótica y la inteligencia artificial se acelera, es fundamental orientar y anticipar sus posibles efectos en el ámbito del empleo y la política social, dado que la creciente robotización a gran escala de los procesos de producción y prestación de bienes y servicios brinda la oportunidad de aumentar la productividad con una mano de obra más reducida; señala que, como resultado de esa evolución, se suprimirán completamente determinados empleos y muchos otros se verán afectados en la próxima década; pide, por tanto, a la Comisión que realice un estudio sobre los desafíos y las oportunidades para el empleo, y que desarrolle un sistema de seguimiento del número y las características de los puestos de trabajo que se pierden y se crean en el proceso de robotización y automatización, así como del impacto de este fenómeno en la pérdida de ingresos de los sistemas de seguridad social; pide, asimismo, a la Comisión que evalúe regularmente y en el marco de un diálogo con los interlocutores sociales en qué medida sería posible reducir el horario de trabajo semanal, anual y a lo largo de la vida laboral sin que ello redunde en una pérdida de ingresos; que emprenda un estudio sobre las nuevas modalidades de financiación de los futuros sistemas de protección social y que inicie una reflexión sobre las modalidades de participación de los trabajadores en sus empleos, con el fin de determinar de qué forma las plataformas digitales podrían conectar mejor a las personas, los equipos y los proyectos individuales;
3. Constata, por una parte, que como consecuencia del proceso de robotización se pierden muchos empleos, mientras que, por otra, se reduce el tiempo de trabajo individual en numerosos sectores, al tiempo que señala que el aumento de la productividad permitiría compensar la diferencia salarial;
4. Considera que los robots deberían diseñarse utilizando procesos que aseguren el control humano y la reversibilidad de las operaciones robotizadas, y que la creciente autonomía de los robots debería acompañarse de una modificación de la normativa que regula la responsabilidad con respecto a las consecuencias asociadas a las actuaciones u omisiones de los robots; expresa su preocupación por la falta de un marco general y de disposiciones legislativas que regulen la automatización de los procesos laborales para acompañar la nueva revolución industrial que tiene lugar actualmente, y considera esencial que la Unión se dote de un marco normativo que permita reflejar la complejidad de la robótica y sus numerosas implicaciones sociales; pide, por tanto, a la Comisión que proponga una definición común del concepto de robot autónomo inteligente y de sus subcategorías en el lugar de trabajo, examinando al mismo tiempo las ventajas y los inconvenientes de un régimen de seguro obligatorio que cubra los daños y perjuicios que podrían causar los robots;
5. Destaca que los sistemas educativos y de formación deben adaptarse imperativamente a la evolución de los oficios y los modos de producción, haciendo más hincapié en los trabajos creativos y no repetitivos, con el fin de preservar el valor del trabajo humano y ofrecer a las futuras generaciones todos los instrumentos necesarios para que cuenten con la mejor preparación posible en un entorno laboral sometido a una mutación constante como consecuencia de la robotización y la automatización; destaca la importancia de la flexibilidad de las competencias y hace hincapié en la importancia que revisten las competencias para la vida y las habilidades sociales en la educación; está convencido de que, además de los conocimientos académicos impartidos en las escuelas, los niños deben adquirir aptitudes de reflexión crítica que les permitan plantear las cuestiones correctas, tomar decisiones informadas y desarrollar el sentido de la iniciativa, y considera que el aprendizaje a lo largo de toda la vida presupone también la acción a lo largo de toda la vida; subraya que las competencias digitales son esenciales para participar en el actual proceso de automatización, y que la digitalización del trabajo y los servicios requiere el desarrollo de las capacidades y las competencias digitales para poder garantizar una elevada tasa de empleo y combatir el creciente analfabetismo digital y el riesgo de exclusión social asociado al mismo; destaca que debería prestarse especial atención a la digitalización de la enseñanza y a la utilización de la robotización en la enseñanza y el aprendizaje; considera que la educación debería hacer también hincapié en las humanidades, que aportan beneficios a un mercado laboral en mutación que exige creatividad, inventiva, capacidades artísticas y conocimientos generales, de tal manera que los seres humanos mantengan una ventaja comparativa sobre las máquinas;
6. Reconoce que la robótica alberga un gran potencial para la asistencia y el socorro, en particular en las actividades cotidianas de las personas con discapacidad y de las personas de más edad, y que podría contribuir de forma sustancial a su autonomía e integración en el mercado laboral; considera necesario examinar de forma detallada la definición de las condiciones que podrían resultar necesarias en materia de empleo si el desarrollo artificial o genético o el hecho de complementar las actuales capacidades humanas dan lugar a personas dotadas de capacidades extraordinarias, de tal manera que se altere esencialmente el concepto de «discapacidad» y se confiera una ventaja incuestionable a las personas que tengan acceso a las innovaciones tecnológicas, los instrumentos y las intervenciones de que se trata, lo cual plantea lógicamente cuestiones éticas y morales que deberían someterse a un profundo examen;
7. subraya que la decisión individual de elegir o rechazar un implante, prótesis o ampliación de un cuerpo humano nunca debe conducir a un trato desfavorable ni a amenazas en lo que se refiere al empleo, la educación, la atención sanitaria, la seguridad social u otras prestaciones, al tiempo que hace hincapié en la necesidad de que todos los ciudadanos tengan un acceso equitativo y sin obstáculos a los beneficios de las nuevas tecnologías; señala en este sentido que, dado que la dignidad humana es la principal preocupación de la legislación relativa a los derechos humanos, tanto en el ámbito de la Unión como en el plano internacional, es importante examinar de qué forma podría garantizarse que las personas que se consideran actualmente no discapacitadas no se encuentren un día, con respecto a los «seres humanos con capacidades cognitivas mejoradas», en la misma situación que las personas con discapacidad intelectual en la actualidad; si en el futuro estas últimas podrán tomar decisiones plenamente válidas mediante un proceso decisorio asistido por robots, tal como contempla la Convención sobre los derechos de las personas con discapacidad, y, en tal caso, de qué forma deberían distribuirse las responsabilidades entre los diferentes agentes;
8. Señala, no obstante, que existen riesgos derivados de la utilización de robots que deben valorarse cuidadosamente en relación con los beneficios que podrían aportar; señala que deberían tenerse en cuenta las lesiones laborales que provoquen los robots y las consiguientes demandas; considera que, si bien la tecnología robótica para su uso sobre el cuerpo, como los exoesqueletos que protegen frente a lesiones en el lugar de trabajo, puede aumentar la productividad, también puede dar lugar a que la empresa tenga expectativas más elevadas respecto a sus trabajadores humanos, lo cual aumentaría a su vez el riesgo de lesiones; señala que los legisladores, los empresarios, los sindicatos y los trabajadores, entre otros agentes, deben tener en cuenta estos factores en el marco de las reglamentaciones internas y de los convenios colectivos, y que existen otros riesgos asociados a la robotización en lo que se refiere por ejemplo a la discriminación que podría producirse a raíz de una entrevista de trabajo en caso de un tratamiento no previsto de los datos recogidos; observa que el recurso a la robótica podría plantear nuevos desafíos relacionados con el comercio y la protección de la vida privada;
9. Destaca que a la vista de las crecientes fracturas sociales, con una clase media en declive, conviene tener en cuenta que el progreso de la robótica podría traducirse en una gran concentración de la riqueza y la influencia en manos de una minoría;
10. Observa que el impacto en el empleo y la política social causado por los avances tecnológicos y la robotización ha revolucionado la forma en que las personas reciben y transmiten información, se comunican, se relacionan y ejercen su vida laboral, lo cual brinda nuevas oportunidades, plantea nuevos desafíos y abre otras perspectivas gracias al aumento de la eficiencia de las actividades y al ahorro de materiales y energía; señala no obstante que, aun cuando no quepa duda de que la robótica y la inteligencia artificial prometen ventajas a corto y medio plazo en términos de economía y eficacia, no solo en la industria y el comercio, sino también en otros sectores en los que, debido a la interacción humana, la inteligencia y la creatividad, resulta difícil introducir la automatización, por lo que hasta ahora han quedado reservados a los seres humanos, al igual que los sectores que emplean de forma masiva a trabajadores que tienen a veces un bajo nivel de formación, podría existir el riesgo de que el número de empleos en el sector de la robótica no aumentara en la medida suficiente para compensar el número de puestos de trabajo que previsiblemente se perderán en ámbitos como el transporte, la logística y los empleos de oficina; pide, por tanto, a la Comisión y a los Estados miembros que, en cooperación con los interlocutores sociales y, cuando proceda, las autoridades regionales y locales, desarrollen nuevos mecanismos de protección adaptados a los patrones de trabajo y de carrera configurados por el proceso de digitalización y la creciente utilización de la robótica, ofreciendo oportunidades de educación y formación apropiadas a todas las personas;
11. Destaca que, debido al desarrollo y la utilización de robots colaborativos inteligentes y la inteligencia artificial, el diferencial entre la creación y la pérdida de empleo podría repercutir en la sostenibilidad financiera de los regímenes de seguridad social, los regímenes de pensiones y los sistemas de seguro de desempleo de los Estados miembros, al tiempo que señala que la pérdida de empleo a medio y largo plazo como consecuencia de la robotización podría redundar también en una pérdida de capacidad de consumo; destaca que la mayor parte de los beneficios derivados de la automatización y la robotización en el empleo deberían proceder no solo de la reducción de los costes laborales, sino también del aumento de la productividad gracias a menos errores, mayor producción y una calidad, seguridad y velocidad mejoradas; pide a la Comisión y a los Estados miembros que consulten regularmente a los interlocutores sociales y los asocien al proceso de adaptación del marco regulador de la robótica y la economía digital, que definan los riesgos potenciales en materia de salud y seguridad en el trabajo derivados de la innovación tecnológica, que adopten las medidas apropiadas para mitigarlos y que examinen la posibilidad de introducir un sistema de notificación previa a la introducción de robots y su participación en la facturación de las empresas a efectos tributarios y de cotización a la seguridad social;
12. Pide a la Comisión que presente líneas directrices sobre los principios éticos y sociales que acompañen a la futura normativa en materia de robótica, en particular con el fin de definir normas a largo plazo y adaptadas a las futuras modificaciones tecnológicas;
13. Señala el denominado trabajo participativo («crowdworking»); pide a la Comisión que estudie esta nueva forma de empleo y examine en qué medida será necesario adaptar los sistemas de seguridad social y el Derecho del trabajo para ofrecer una protección adecuada a los trabajadores en régimen de trabajo participativo;
14. Destaca que, si bien es imposible detener el progreso tecnológico, la actual generación tiene la oportunidad y la responsabilidad de orientarlo en beneficio de las personas y del planeta; considera que la Unión Europea debería contribuir a la formulación de una estrategia integrada en el ámbito de las políticas del bienestar, el crecimiento económico y la tecnología, a fin de situarse a la cabeza del desarrollo mundial; pide a los Estados miembros y a la Comisión que estudien de forma pormenorizada las consecuencias en el futuro inmediato de la creciente utilización de sistemas robotizados en el mundo laboral y que establezcan un marco para esta evolución adoptando medidas legislativas dirigidas a garantizar una transición tecnológica lo más fluida posible para los trabajadores; expresa la firme convicción de que debe encontrarse con carácter de urgencia una respuesta a la cuestión de si, como resultado de los avances en la robótica y el menor coste de las soluciones, existirán empleos en los que la ley restringirá la capacidad de los humanos para trabajar debido a su nocividad o peligrosidad para la salud humana —como ocurre actualmente con las mujeres embarazadas— o por otros motivos, así como a la pregunta de cuáles son los ámbitos en los que se puede limitar o excluir una automatización completa con el fin de garantizar la seguridad y el respeto de los derechos fundamentales, cuestionados por la creciente automatización de sectores enteros de la industria, teniendo en cuenta los cambios demográficos y la sostenibilidad y con el fin de evitar las consecuencias sociales no deseadas;
15. Considera que, teniendo en cuenta el ritmo del progreso tecnológico, deberíamos comprometernos a regular el sector de la robótica para el futuro previsible; considera, asimismo, que la legislación debería adecuarse a la necesidad de reaccionar a los cambios científicos y tecnológicos; considera necesario prever el desarrollo de nuevas áreas de actividad que puedan evolucionar sobre la base del progresivo desarrollo de la robótica y la inteligencia artificial; señala, no obstante, que los robots no son solo herramientas de trabajo, sino que actúan con una creciente autonomía en la producción de bienes y servicios, por lo que reclama la instauración de sistemas globales que garanticen la protección de la salud y la seguridad de los trabajadores que operan con o junto a sistemas robotizados u otras formas de inteligencia artificial, así como la introducción de normas que regulen las responsabilidades y garanticen que los daños causados por robots autónomos puedan dirimirse en favor de los trabajadores; insta, por tanto, a la Unión y a los Estados miembros a que promuevan cuanto antes un diálogo público estructurado sobre las consecuencias del desarrollo de estas tecnologías, al tiempo que pide a los agentes que participan en la investigación que desarrollen un enfoque crítico y aporten elementos constructivos al diálogo público;
16. Hace hincapié en que cualquier actividad de tratamiento de datos que se efectúe mediante sistemas robotizados o de inteligencia artificial debe respetar plenamente la legislación de la Unión en materia de protección de datos e integrar los principios de protección de la vida privada desde el diseño y por defecto;
17. Señala que la robotización ofrece importantes oportunidades para devolver la industria manufacturera a la Unión y, de este modo, crear nuevas oportunidades de empleo, en particular para los trabajadores poco cualificados.
18. Considera que el uso de robots en la producción plantea importantes desafíos para la salud y la seguridad en el trabajo; señala que, por una parte, la robotización puede reducir la carga física sobre los trabajadores, pero también puede dar lugar, por otra parte, a mayores tensiones psíquicas como consecuencia de la creciente responsabilidad humana en procesos de producción más complejos; pide a la Comisión y a sus agencias, y en particular a la Agencia Europea para la Seguridad y la Salud en el Trabajo (EU-OSHA), que examinen los efectos de la digitalización, la robótica y la inteligencia artificial en las tensiones psíquicas y que formulen propuestas de medidas alternativas; pide que se ofrezca a los trabajadores la oportunidad de participar activamente en todo momento en la configuración de su entorno de trabajo, y a los interlocutores sociales y los sindicatos la posibilidad de participar a todos los niveles;
19. Remite a estudios científicos en los que se han detectado cuatro grandes problemas que surgen al intentar legislar sobre el uso de robots: facultad discrecional en lo que se refiere a las plataformas y los fabricantes que participan en el desarrollo y la investigación de la inteligencia artificial, que podrían no ser siempre visibles para los reguladores; dispersión que se produce cuando se desarrollan los sistemas de inteligencia artificial mediante equipos de investigadores separados en el plano organizativo, geográfico y jurisdiccional; la facultad discrecional se refiere al hecho de que los sistemas de inteligencia artificial pueden incluir muchos componentes de hardware y software distintos y preexistentes; señala que es posible que los efectos de la agrupación de todos estos componentes solo pueda apreciarse plenamente a posteriori, y que la opacidad significa que el modo de funcionamiento de los sistemas de inteligencia artificial puede ser más opaco que en el caso de las tecnologías anteriores; observa que esta situación puede crear dificultades a los reguladores, dado que se constata una falta de claridad con respecto a los problemas que pueden plantear estos sistemas y a la forma de abordarlos.
OPINIÓN de la Comisión de Medio Ambiente, Salud Pública y Seguridad Alimentaria (14.10.2016)
Ponente: Cristian-Silviu Buşoi
La Comisión de Medio Ambiente, Salud Pública y Seguridad Alimentaria pide a la Comisión de Asuntos Jurídicos, competente para el fondo:
A. Considerando que el envejecimiento de la población se debe al aumento de la esperanza de vida ocasionado por los avances en las condiciones de vida y en la medicina moderna, y que se trata de uno de los principales retos políticos y socioeconómicos a los que se enfrentan las sociedades europeas del siglo xxi; que más de un 20 % de los europeos tendrán sesenta y cinco años o más en 2025, con un aumento especialmente rápido de la población con ochenta años o más, lo que dará lugar a un equilibrio fundamentalmente diferente entre las generaciones dentro de nuestra sociedad, y que redunda en beneficio de la sociedad y de las familias que las personas de edad avanzada se mantengan saludables y activas tanto tiempo como sea posible;
B. Considerando el importante aumento de la venta y la producción de robots entre 2010 y 2014, de casi el 30 % solo en el año 2014, en particular en los sectores sanitario y de la asistencia;
C. Considerando que con el envejecimiento de la sociedad aumenta la prevalencia y la tasa de incidencia de las discapacidades, las enfermedades crónicas, el riesgo de infarto, las lesiones cerebrales y la disminución de las facultades;
D. Considerando que las sociedades y los sistemas sanitarios tendrán que adaptarse a las exigencias de este proceso de envejecimiento y de la asistencia sanitaria geriátrica, a fin de ser capaces de prestar una atención adecuada sin dejar de ser financieramente sostenibles;
E. Considerando que los sistemas ciberfísicos (SCF) son sistemas técnicos que se componen de ordenadores de red, robots e inteligencia artificial que interactúan con el mundo físico y tienen múltiples usos en el sector sanitario;
F. Considerando que, a la vista de la naturaleza de los SCF, es necesario lograr unas normas específicas y más detalladas que sean iguales en toda la Unión;
G. Considerando que dichos sistemas, que servirán de base para los servicios inteligentes incipientes y los que están por llegar, harán avanzar la asistencia sanitaria personalizada, la respuesta ante situaciones de emergencia y la telemedicina;
H. Considerando que la utilización de instrumentos de diagnóstico o de cura de tipo robótico o tecnológico avanzado no debe afectar en ningún caso negativamente a la responsabilidad de los médicos o de los miembros del personal sanitario llamados a hacer uso de estos instrumentos; que se estima oportuno en este sentido hacer hincapié en la responsabilidad de los centros sanitarios o de los fabricantes pertinentes;
I. Considerando que el potencial económico y social de los sistemas SCF es muy superior a lo que se había imaginado inicialmente y que se están realizando inversiones importantes a nivel mundial para desarrollar la tecnología;
J. Considerando que la utilización de esta tecnología no debe disminuir ni perjudicar la relación entre médico y paciente, sino proporcionar al médico una asistencia para el diagnóstico o el tratamiento de los pacientes;
K. Considerando que, aunque los SCF crean muchas expectativas y tienen mucho potencial, nunca se podrán prever completamente los efectos de las nuevas tecnologías incorporadas, y que estas solo se integrarán de manera satisfactoria si la sociedad se adapta a una nueva forma de interactuar con la tecnología;
1. Es consciente de que es probable que la adopción de nuevas tecnologías en el sector de la asistencia sanitaria, siempre que se otorgue prioridad a la relación entre el médico y su paciente y al libre albedrío, resulte muy beneficiosa desde el punto de vista de la atención a los pacientes y la eficacia y la precisión del tratamiento, con el objetivo de reducir el riesgo de error humano, dando lugar de este modo a un aumento de la calidad de vida y a una esperanza de vida más larga;
2. Considera que, si bien la robótica puede aportar beneficios a la sociedad, puede al mismo tiempo cambiar drásticamente la forma en que las personas interactúan entre ellas y, por tanto, afectar efectivamente a las estructuras sociales actuales; subraya, por tanto, la acuciante necesidad de iniciar un amplio debate público fundamentado en torno a esta nueva revolución tecnológica;
3. Considera fundamental que la Unión elabore un marco normativo inspirado en principios éticos que reflejen la complejidad del ámbito de la robótica y sus numerosas implicaciones sociales, médicas y bioéticas;
4. Subraya que toda innovación que permita mejores diagnósticos e información más precisa sobre las posibilidades de tratamiento, atención y rehabilitación deriva en decisiones médicas más acertadas y recuperaciones más breves, con lo que se podría paliar la escasez de profesionales sanitarios en los procesos de atención y rehabilitación;
5. Destaca que el aumento de la demanda de SCF tiene el potencial de crear un gran número de empleos altamente cualificados en la Unión;
6. Considera útil el uso de robots como apoyo al trabajo del personal médico o los auxiliares sanitarios con el objetivo de mejorar la experiencia humana en materia de diagnóstico y cura, aunque sin olvidar la necesidad de no deshumanizar la práctica médica y las prácticas de cuidado de pacientes;
7. Señala que los SCF pueden suponer un cambio positivo en la vida de las personas con discapacidad, habida cuenta de que las tecnologías inteligentes ofrecen la posibilidad de hacer funciones de prevención, asistencia, seguimiento y compañía;
8. Señala que es probable que los SCF tengan un profundo impacto en el sector sanitario, puesto que tienen el potencial de reducir los costes generales de la atención sanitaria y permitir que los profesionales médicos pasen a centrarse en la prevención y no en el tratamiento;
9. Subraya que la I+D en robots de asistencia geriátrica ha pasado con el tiempo a ser más habitual y menos costosa, y que sus productos tienen mayor funcionalidad y aceptación entre los consumidores; toma nota de la amplia gama de usos dados a estos medios técnicos para ejercer funciones de prevención, asistencia, seguimiento, estimulación y compañía de las personas de edad avanzada o que padecen demencia, trastornos cognitivos y pérdida de memoria;
10. Hace hincapié en que, aunque es posible que mediante los SCF se mejore la movilidad y la sociabilidad de las personas con discapacidad o de edad avanzada, seguirán siendo necesarios los cuidadores humanos, quienes seguirán manteniendo una parte importante de su interacción social y cuya labor no es completamente sustituible; toma nota de que los SCF y los robots únicamente pueden aumentar considerablemente la atención de las personas y hacer que el proceso de rehabilitación sea más específico, de modo que el personal sanitario y los cuidadores puedan dedicar más tiempo de calidad al diagnóstico y a buscar tratamientos más adecuados;
11. Observa que en la asistencia sanitaria ya se están usando versiones iniciales de robots y dispositivos inteligentes de SCF, como pueden ser los dispositivos de sanidad electrónica o los robots quirúrgicos, y que la tecnología en este sentido va a seguir evolucionando en estos próximos tiempos y podría redundar asimismo en una disminución del gasto sanitario, permitiendo al personal médico desviar su atención del tratamiento a la prevención y disponiendo de más recursos presupuestarios para adaptarse mejor a las diversas necesidades de los pacientes, para la formación continua de los profesionales sanitarios y para la investigación;
12. Subraya que el aumento del uso de los SCF podría dar lugar a una sociedad más sana, ya que los procedimientos son menos invasivos y, por tanto, el tiempo de recuperación es más rápido, así como a una reducción del absentismo relacionado con la atención sanitaria;
13. Señala que los dispositivos robóticos médicos siguen evolucionando y probablemente se utilizarán cada vez más en los procedimientos quirúrgicos, ampliando los límites de la medicina;
14. Es consciente de que se prevé que los robots quirúrgicos abran nuevas posibilidades a los cirujanos humanos más allá de la laparoscopia convencional, y de que los adelantos en dichos robots obedecen a la voluntad de superar estas limitaciones y propagar las ventajas de la cirugía mínimamente invasiva, la motricidad fina y la precisión;
15. Subraya que los SCF permiten la telecirugía, lo que tiene múltiples ventajas, como una mayor precisión en los movimientos de la mano, la eliminación de temblores al realizar estos movimientos, la ampliación de la imagen, que puede ser analizada y evaluada de inmediato, así como una mayor destreza y la posibilidad de operar a distancia, si bien se debe establecer como un requisito fundamental que los médicos obtengan capacitación y acreditación para realizar las distintas intervenciones médicas por medio de dispositivos de SCF;
16. Constata que en los últimos años se ha asistido a cambios de importancia en el ámbito de la educación y la formación médicas; toma nota asimismo de que, dado que la atención médica ha adquirido una complejidad cada vez mayor, se puede aprovechar el entorno que brindan los centros de formación sanitaria para promover un enfoque holístico con respecto a la salud, replantear cómo impartir la educación e impulsar el aprendizaje permanente en el ámbito de la medicina, manteniendo al mismo tiempo las competencias esenciales de los médicos de modo que estos conserven su saber hacer y autoridad respecto a los robots; pide a la Comisión y a los Estados miembros que fomenten normas de formación y especialización de alto nivel para el personal médico y paramédico que utilice o se proponga utilizar nuevas tecnologías robóticas, y alienta la libre circulación en el caso de los cirujanos que tengan la intención de utilizar estas tecnologías para llevar a cabo sus operaciones;
17. Pide a la Comisión y a los Estados miembros que refuercen los instrumentos financieros destinados a apoyar proyectos de investigación en materia de robótica para emergencias sociales y sanitarias;
18. Considera fundamental que se respete el principio de la autonomía supervisada de los robots, en virtud del cual la programación inicial de los cuidados y la elección final sobre la ejecución pertenecen en todo caso al ámbito de la toma de decisiones de un cirujano humano;
Evaluación clínica e investigaciones clínicas
19. Hace hincapié en que los SCF médicos deben cumplir los elevados estándares establecidos para el material médico mediante procedimientos efectivos de comprobación y homologación que permitan al personal debidamente cualificado valorar, incluso en la fase de diseño, la seguridad y eficacia de los sistemas que se propongan;
20. Subraya la importancia de distinguir los robots quirúrgicos para prótesis y exoesqueletos de los robots de compañía con funciones de asistencia a personas con discapacidad o temporalmente incapacitadas; subraya la importancia de someter ambos tipos de robot a controles que se han de realizar según unas normas lo más precisas y detalladas posible establecidas;
21. Se felicita del acuerdo político sobre el Reglamento sobre productos sanitarios (2012/0266(COD)) alcanzado por los colegisladores en junio de 2016; pide a la Comisión que garantice la seguridad de los procedimientos utilizados para ensayar nuevos dispositivos robóticos médicos, en particular en el caso de los dispositivos que se implanten en el cuerpo humano, antes de la fecha de entrada en vigor del Reglamento; observa, además, que debe haber plena transparencia para los pacientes en lo que se refiere a sus datos y para el público en lo que se refiere al éxito o el fracaso de los ensayos, y que la responsabilidad del fracaso de los ensayos y los SCF debe quedar clara para los pacientes y el público;
22. Hace hincapié en que, si bien la tecnología está evolucionando de manera exponencial, los sistemas sociales de la Unión no pueden responder con la misma rapidez, y aún menos los sistemas sanitarios; hace hincapié en que estos avances tienen una repercusión importante sobre la civilización tal como la conocemos, y que por ello resulta imprescindible que vengan acompañados de evaluaciones de las consecuencias éticas y morales a largo plazo de las nuevas tecnologías antes y durante su desarrollo;
23. Subraya la importancia en lo referente a las normas éticas de garantizar que los productos robóticos respetan los derechos fundamentales del individuo y los derechos sociales protegidos a nivel de la Unión, previendo las medidas técnicas pertinentes que garanticen tal respeto desde la misma fase del diseño, según el denominado enfoque de la «protección de la intimidad desde el diseño»;
24. Señala los riesgos de la manipulación o la desconexión de SCF integrados en el cuerpo humano o del borrado de su memoria, ya que ello puede poner en peligro la salud humana, o en un caso extremo incluso la vida del ser humano, y por ello destaca la prioridad de que se protejan tales sistemas;
25. Es consciente de la vulnerabilidad de los pacientes con necesidades especiales, en particular los niños, las personas mayores y las personas con discapacidad, y destaca que todo usuario puede desarrollar un vínculo emocional con los SCF y los robots; subraya las cuestiones éticas que plantea este posible apego; anima a la Comisión a que reflexione sobre cómo garantizar que los SCF no afecten negativamente a la autonomía e independencia de las personas vulnerables;
26. Pide a la Comisión y a los Estados miembros que promuevan el desarrollo de tecnologías de apoyo también mediante regímenes de responsabilidad distintos de los actualmente aplicables, para favorecer el desarrollo y la adopción de estas tecnologías por parte de los individuos que las necesiten, de conformidad con el artículo 4 de la Convención de las Naciones Unidas sobre los derechos de las personas con discapacidad, que ha sido firmada por la Unión;
27. Destaca la importancia de proteger la relación asistencial médico-paciente, en particular en lo que respecta a la información sobre el diagnóstico y tratamiento médico;
28. Observa que el uso de SCF plantea el tema de la intervención en el cuerpo humano, que se define como la mejora de las habilidades naturales existentes en el ser humano o la atribución de habilidades nuevas que permite a los individuos superar una discapacidad;
29. Es consciente de la necesidad de reducir lo más posible la posible huella medioambiental o ecológica de la robótica, habida cuenta de que se prevé que el uso de los robots y los SCF provocará un aumento del consumo total de energía y de la cantidad de residuos eléctricos y electrónicos; hace hincapié en la necesidad de maximizar el potencial para que los procesos sean más eficientes desde el punto de vista de los recursos, aumentar la eficiencia energética mediante el fomento del uso de las tecnologías renovables en la robótica, promover el uso y la reutilización de materias primas secundarias y producir menos residuos; pide a la Comisión, por tanto, que incorpore los principios de una economía circular a toda política de la Unión sobre robótica;
30. Señala, asimismo, que el uso de los SCF tendrá un efecto positivo en el medio ambiente, en especial en los ámbitos de la agricultura y el suministro alimentario, ya que reducirá en particular el tamaño de la maquinaria y el uso de abonos, energía y agua, y desarrollará la agricultura de precisión;
31. Destaca que los SCF tendrán como resultado la creación de sistemas de energía e infraestructura que podrán controlar el flujo de electricidad del productor al consumidor, así como la creación de «prosumidores» de energía, que producirán y consumirán energía, lo que dará lugar a importantes beneficios para el medio ambiente;
La seguridad de los dispositivos robóticos médicos es una condición sine qua non para su implantación en el sector sanitario. La eficacia y seguridad de la asistencia y de los robots médicos deben evaluarse conforme a procedimientos de homologación normalizados y salvaguardias específicas muy detalladas, y prestando especial atención a su uso en situaciones de emergencia o por parte de personas con discapacidad; pide a la Comisión que adopte especificaciones comunes pormenorizadas para los dispositivos robóticos médicos. Es preciso prestar especial atención a la seguridad de las redes de los SCF con el objetivo de impedir que se vulneren y roben datos personales sensibles.
La seguridad de los sistemas de SCF implantados es una condición sine qua non, ya que cualquier fallo puede resultar mortal, y, en este contexto, es importante que se facilite información y se regulen de forma inequívoca temas relacionados con la responsabilidad, incluida la cuestión de quién es el propietario de estos SCF implantados, quién tiene la potestad de disponer de ellos y quién puede modificar su implantación, prohibiendo expresamente que el ser humano pueda convertirse en sujeto de experimentos sin su consentimiento.
Los SCF médicos y el uso de robots como historial médico electrónico plantean cuestiones en cuanto a la legislación relativa a la privacidad de los pacientes, el secreto profesional médico y la protección de datos en el ámbito de la salud pública. La normativa sobre protección de datos de la Unión debe modificarse para tener en cuenta la complejidad e interconexión en aumento de los robots asistenciales y médicos, que es probable que manejen datos relativos a la salud e información personal extremadamente delicados. Estos deben respetar el concepto de protección de la intimidad desde el diseño según lo dispuesto en el Reglamento (UE) n.º 2016/679 sobre protección de datos. Deben reforzarse los códigos de conducta en materia de secreto profesional médico en lo que respecta a los datos relativos a la salud almacenados en SCF a los que puedan acceder terceros.
No se debe permitir que las aseguradoras ni ningún otro prestador de servicios utilicen los datos de la sanidad electrónica para introducir discriminaciones en la fijación de precios, ya que esto contravendría el derecho fundamental a una atención sanitaria de la mejor calidad posible.
Los comités de ética en la investigación deben tener en cuenta las cuestiones éticas que, como consecuencia de la realización de dispositivos robóticos médicos y de SCF, se plantean en multitud de ámbitos de la atención sanitaria y asistencia a personas con discapacidad o de edad avanzada. Se debe prestar la debida atención a cuestiones como la igualdad de acceso a la prevención sanitaria robótica, el carácter privilegiado de la relación asistencial médico-paciente o, en particular, la propensión de los pacientes con necesidades especiales (como las personas con discapacidad), pero también de otros pacientes (como los niños, las personas que vivan solas, etc.), a acabar sintiendo un apego emocional por los robots.
Se anima a los comités de ética en la investigación y a la Comisión a que reflexionen al respecto para desarrollar un código de conducta para investigadores/diseñadores y usuarios de SCF médicos, que se base en los principios consagrados en la Carta de los Derechos Fundamentales de la Unión Europea (como la dignidad humana y los derechos humanos, la igualdad, la justicia y la equidad, la beneficencia y no maleficencia, la no discriminación y no estigmatización, la autonomía y la responsabilidad individual, el consentimiento informado, la privacidad y la responsabilidad social, así como los derechos de las personas mayores, la integración de las personas con discapacidad, el derecho a la atención sanitaria y de protección del consumidor), además de en las actuales prácticas y códigos éticos.
Cabe mencionar que la robótica puede generar un gran nivel de incertidumbre en lo referente a cuestiones de responsabilidad.
OPINIÓN de la Comisión de Industria, Investigación y Energía (15.11.2016)
Ponente de opinión: Kaja Kallas
La Comisión de Industria, Investigación y Energía pide a la Comisión de Asuntos Jurídicos, competente para el fondo:
A. Considerando que los equipos constituidos tanto por robots como por seres humanos podrían ser un 85 %(1) más productivos que los equipos formados exclusivamente por robots o por seres humanos; que los robots, al reforzar las capacidades de las personas, reducirán el riesgo de error humano;
B. Considerando que la Unión ocupa una posición de liderazgo en la robótica industrial, con una cuota de más del 25 %(2) del suministro y la utilización, y se estima que este mercado crecerá entre un 8 y un 9 % anual, lo que convierte al sector en una prioridad de estrategia industrial;
1. Considera que la robótica y la inteligencia artificial desempeñan un papel importante en la mejora de la competitividad y la productividad de la economía europea y que, a medio plazo, podrían tener un efecto mayor en la competitividad de sectores no industriales, como la agricultura, el transporte, la asistencia sanitaria, la seguridad y los servicios públicos; insta a la Comisión a que promueva una política ambiciosa e intersectorial favorable a la innovación en lo que respecta a la robótica y la inteligencia artificial, facilitando la integración de las tecnologías en las cadenas de valor, el desarrollo de modelos empresariales innovadores y la reducción del tiempo que pasa entre la innovación y la industrialización; pide a la Comisión que evalúe la necesidad de modernizar la legislación o elaborar directrices europeas con el fin de garantizar un enfoque común en el sector de la robótica y la inteligencia artificial, que representa un factor clave para el desarrollo empresarial en la Unión;
2 Señala el reconocimiento por terceros países de la importancia estratégica de la robótica, y que están desafiando el liderazgo de la Unión en el mercado mundial, por ejemplo, a través de adquisiciones de fabricantes de la Unión; pide a la Comisión que cree una estrategia industrial que aborde el papel de los sectores de importancia estratégica, como la robótica, y establezca el modo en que la Unión puede conservar los puestos de trabajo, el crecimiento, los conocimientos técnicos y buena parte de la cadena de valor;
3. Destaca que la innovación en el sector de la robótica y la inteligencia artificial, así como la integración de esta tecnología en la economía y la sociedad, requiere una infraestructura digital que facilite la conectividad ubicua; insta a la Comisión a que establezca un marco que permita cumplir los requisitos de conectividad necesarios para el futuro digital de la Unión y que garantice que el acceso a la banda ancha y a las redes 5G es plenamente acorde con el principio de neutralidad de la red;
4. Está firmemente convencido de que la interoperabilidad entre los sistemas, los dispositivos y los servicios en nube sobre la base de la seguridad y la privacidad integradas en el diseño resulta indispensable para los flujos de datos en tiempo real que permiten una mayor flexibilidad y autonomía de los robots y la inteligencia artificial; pide a la Comisión que promueva un entorno abierto que incluya desde las normas abiertas y los modelos innovadores de concesión de licencias hasta las plataformas abiertas y la transparencia, con el fin de evitar el bloqueo de sistemas exclusivos que limitan la interoperabilidad; destaca asimismo que debe garantizarse un alto grado de protección, seguridad y privacidad de los datos utilizados en la comunicación de las personas con los robots y los sistemas de inteligencia artificial; pide, por lo tanto, a la Comisión y a los Estados miembros que los principios de la seguridad y la privacidad integradas en el diseño formen parte de sus políticas en materia de robótica e inteligencia artificial y de la Estrategia de ciberseguridad de la Unión, así como que la robótica y la inteligencia artificial se incluyan en los debates del grupo de alto nivel sobre ciberseguridad que creará la Comisión;
5. Señala que el acceso a los datos es esencial para desarrollar la innovación de los sistemas de aprendizaje automático de algoritmos; pide a la Comisión que ponga en marcha una estrategia y un marco ambiciosos en el ámbito de los flujos de datos libres y abiertos, en particular a través de la iniciativa sobre la libre circulación de datos, que estén en consonancia con la legislación aplicable en materia de protección de datos y con una ley de propiedad intelectual reformada; hace hincapié en que la iniciativa sobre la libre circulación de datos debe aclarar cuestiones relativas a la propiedad y utilización de los datos, así como al acceso a estos, que revisten importancia para un mayor avance y utilización de la tecnología robótica;
6. Pide a la Comisión que, en el proceso de revisión intermedia del marco financiero plurianual, incremente su apoyo al programa SPARC financiado mediante Horizonte 2020, realice estudios prospectivos y promueva la innovación abierta, en cuanto objetivo estratégico, y un entorno favorable a la colaboración entre las instituciones nacionales y europeas, la comunidad investigadora y los organismos de normalización que resulte atractivo no solo para los talentos, sino también para el sector privado, las empresas multinacionales, las pymes y las empresas emergentes, que son fundamentales para innovar y abrir nuevos mercados a la tecnología robótica a escala mundial; destaca el papel que las asociaciones público-privadas pueden desempeñar en este sentido;
7. Hace hincapié en que el desarrollo de la tecnología robótica debe centrarse en complementar las capacidades humanas y no en sustituirlas; subraya que los avances en robótica e inteligencia artificial automatizarán un número significativo de empleos, reduciendo el grado de exposición humana a condiciones nocivas y peligrosas y transformando el modo de vida y la forma de trabajar, lo que hace necesarias una evaluación a largo plazo y medidas que garanticen que se tienen debidamente en cuenta los aspectos sociales, medioambientales, éticos, educativos y de responsabilidad; pondera en particular la necesidad de impulsar las capacidades digitales, incluida la codificación, a lo largo de toda la enseñanza y formación, desde los primeros años de escolarización hasta el aprendizaje permanente;
8. Opina que los robots en medicina avanzan cada vez más en la ejecución de cirugías de alta precisión y en la realización de procedimientos repetitivos, considera que pueden mejorar los resultados de la rehabilitación y proporcionar un apoyo logístico sumamente eficaz en los hospitales;
9. Considera que toda futura iniciativa legislativa relacionada con la robótica y la inteligencia artificial debería, tras su consulta con una amplia gama de partes interesadas pertinentes y sobre la base de un diálogo continuo, brindar seguridad jurídica sin obstaculizar la innovación en este ámbito tecnológico en rápida evolución;
10. Opina que, con la colaboración de usuarios finales, ingenieros especializados en el sector de la robótica, la comunidad investigadora y otras partes interesadas, la Comisión debería elaborar un código de conducta ética dirigido a orientar actividades de desarrollo de robótica e inteligencia artificial;
11. Considera que las recomendaciones relativas a las licencias deberían respetar la libertad contractual y dejar margen para el desarrollo de regímenes innovadores en el ámbito de la concesión; advierte contra la introducción en el campo de la robótica y la inteligencia artificial de nuevos derechos de propiedad intelectual que podrían obstaculizar la innovación y el intercambio de conocimientos especializados.
Según los resultados de las investigaciones del MIT basadas en la experiencia conjunta con los fabricantes de automóviles BMW y Mercedes-Benz.
Ponente de opinión: Dita Charanzová
A. Considerando que la robótica no es nueva; que la robótica puede desempeñar y desempeña un papel en la transformación de nuestra sociedad para mejor; que la robótica y la inteligencia artificial contribuyen de forma activa a la digitalización de la economía en gran número de sectores, como la industria, la atención sanitaria, la construcción y el transporte, y pueden dar lugar a innovaciones, reducir la exposición a condiciones de trabajo peligrosas y ofrecer nuevos modelos empresariales, y que la Unión debe adoptar las novedades en este ámbito para impulsar el mercado único digital;
B. Considerando que los robots funcionan cada vez más próximos a los seres humanos, y, en particular, que el mercado de los servicios de robótica registra un crecimiento constante, lo que hace posible aportar nuevos beneficios a la sociedad, pero sin descuidar los aspectos de seguridad y responsabilidad;
C. Considerando que, a pesar de las innegables ventajas de la robótica, su utilización puede entrañar una transformación del mercado de trabajo y la necesidad de reflexionar en consecuencia sobre el futuro de la educación, el empleo y las políticas sociales;
D. Considerando que la producción y venta de robots aumentó significativamente entre 2010 y 2014, con un incremento de casi el 30 % solo en 2014, en particular en la industria de la electrónica;
E. Considerando que la transformación digital de la industria manufacturera europea, que representa el 15 % del PIB de la Unión, puede generar un valor añadido potencial de 1.25 billones de euros en 2025(1), y que la adopción de tecnologías de sistemas de robótica autónomos podría contribuir a aumentar la producción industrial europea y proporcionar a Europa una ventaja competitiva;
F. Considerando que el aprendizaje automático ofrece enormes ventajas económicas e innovadoras a la sociedad al mejorar enormemente la capacidad de analizar datos, a la vez que plantea dificultades para velar por la no discriminación, las garantías procesales, el acceso a la información y la inteligibilidad de los procesos decisorios;
G. Considerando que la evolución en el ámbito de las aplicaciones médicas, como las prótesis e implantes robóticos, hace a las personas que los llevan sumamente dependientes de la disponibilidad de mantenimiento, reparaciones y mejoras;
H. Considerando que, al desarrollar nuevos paradigmas tecnológicos y productivos, deben tenerse en cuenta la protección de los datos y el respeto de la propiedad intelectual;
I. Considerando que muchos terceros países han adoptado orientaciones y legislaciones adecuadas en materia de robótica y que también algunos Estados miembros han emprendido reflexiones en profundidad al respecto;
1. Subraya que un enfoque a escala de la UE puede facilitar el desarrollo evitando la fragmentación en el mercado interior, y hace hincapié al mismo tiempo en la importancia del principio de reconocimiento mutuo en el uso transfronterizo de robots y sistemas robóticos; recuerda que la realización de ensayos, la certificación y la autorización de la comercialización deberían exigirse solo en un Estado miembro;
2. Destaca que este enfoque debería complementarse con una vigilancia de mercado eficaz, además de vías de recurso judicial y competencias para que los Estados miembros puedan imponer la retirada de productos y sancionar las infracciones;
3. Subraya la importancia de tomar medidas para apoyar a las pequeñas y medianas empresas y empresas emergentes del ámbito de la robótica que creen nuevos segmentos de mercado en este sector o que utilicen robots en sus actividades;
4. Alienta el desarrollo de una estrategia europea ambiciosa en materia de investigación e innovación en robótica, a fin de desarrollar al máximo su potencial para el crecimiento y el empleo en Europa;
5. Opina, si bien reconociendo que ya existe un número considerable de normas internacionales que abordan cuestiones como la interoperabilidad y la seguridad y se aplican en toda la industria, que es preciso continuar la normalización armonizada de la robótica y la inteligencia artificial y que debe formar parte de las prioridades de normalización de la Unión, a fin de fomentar la innovación y garantizar un alto nivel de protección del consumidor; destaca que es esencial desarrollar normas comunes, seguras y de alto nivel en este sector de futuro;
6. pide a la Comisión que, en colaboración con los organismos europeos de normalización, trabaje más proactivamente con los organismos internacionales de normalización y mejore la cooperación con los socios internacionales para seguir trabajando en la mejora de las normas en este ámbito; acoge favorablemente, en este sentido, la creación de comités técnicos especiales, como el ISO/TC 299 Robótica, dedicados exclusivamente a la elaboración de normas sobre robótica;
7. Recuerda que la gran mayoría de las normas se desarrollan en respuesta a necesidades descubiertas por la industria, y alienta a los organismos europeos e internacionales de normalización a que revisen constantemente sus propias normas para velar por su adecuación a estas necesidades;
8. Considera que el uso de robots desarrollados para su uso en procedimientos de fabricación y a nivel individual debe estar sujeto a normas de seguridad de los productos y protección de los consumidores que garanticen, si procede, unos niveles de seguridad mínimos y aborden el riesgo de accidentes resultante de la interacción con los humanos o el funcionamiento en su proximidad; estima que las cuestiones relacionadas con la ética y con la protección de datos, ya sean de terceros o datos personales, la responsabilidad civil, la educación y la formación y la ciberseguridad deberían abordarse en toda política en materia de robótica;
9. Destaca la importancia de la privacidad y la seguridad por diseño en el desarrollo de robots y la importancia que tienen las normas de prueba del módulo de reacción de los robots en la protección de los consumidores;
10. Hace hincapié en que la dignidad humana siempre debe ser una cuestión central cuando se empleen robots, especialmente en el ámbito de la asistencia sanitaria;
11. Señala que, en el ámbito de aplicaciones médicas vitales, como las prótesis robóticas, debe garantizarse el acceso continuo y sostenible al mantenimiento, la mejora y, en particular, las actualizaciones de software que subsanan fallos y vulnerabilidades;
12. Considera que deberían tenerse más en cuenta las consecuencias de la robotización en las políticas de empleo, de educación y sociales de los Estados miembros; pide a la Comisión que preste asistencia con miras al establecimiento de un marco regulador uniforme y una mayor cooperación entre los Estados miembros; pide a los Estados miembros que establezcan marcos de formación redefinidos a fin de evitar la escasez de profesionales de las tecnologías de la información y la comunicación;
13. Reconoce que las tecnologías de la robótica y la inteligencia artificial se utilizan cada vez más en vehículos autónomos, como los coches autónomos y los drones civiles; señala que algunos Estados miembros ya están adoptando o examinando la legislación en este ámbito concreto, lo que podría dar lugar a un mosaico de legislaciones nacionales que obstaculicen el desarrollo de vehículos autónomos; pide, por lo tanto, un conjunto único de normas europeas que establezcan un equilibrio adecuado entre los intereses de los usuarios, las empresas y otras partes interesadas y eviten al mismo tiempo la sobrerregulación en la robótica y los sistemas robóticos;
14. Pide una mayor cooperación reguladora a fin de modificar determinados acuerdos internacionales, como el Convenio de Viena, de 8 de noviembre de 1968, sobre la Circulación Vial y el Convenio de La Haya, de 4 de mayo de 1971, sobre la Ley Aplicable en materia de Accidentes de Circulación por Carretera;
15. Considera que, en el caso de los vehículos autónomos, puede que no sea forzosamente necesario modificar la situación jurídica relativa a los seguros, puesto que las prácticas y relaciones actuales entre operadores, fabricantes y aseguradoras pueden hacer frente de manera adecuada a la introducción de nuevas tecnologías, como ya ha ocurrido anteriormente;
16. Destaca que el uso de la robótica en la atención sanitaria ya es un mercado en crecimiento, especialmente en los procedimientos quirúrgicos telerrobóticos, en los que Europa es líder; pide a la Comisión que garantice unas condiciones que permitan un mayor uso de estas prácticas;
17. Pide a la Comisión que aumente la financiación destinada a la realización de estudios interdisciplinarios sobre los efectos societales de la inteligencia artificial y los procesos de aprendizaje automático.
STOA, Ethical Aspects of Cyber-Physical Systems, Scientific Foresight Study (mayo de 2016), anexo 1, p. 37.

References: artículo 46
 artículo 16
 Resolución 
 artículo 225
 artículo 46
 Resolución 
 artículo 114
 artículo 5
 Resolución 
 Resolución 
 Resolución 
 Resolución 
 Resolución 
 Resolución 
 artículo 16
 artículo 8
 artículo 16
 artículo 4