Source: EURLEX
Language: es
Format: md

|  |  |  |  |
| --- | --- | --- | --- |
| 11.2.2020 | ES | Diario Oficial de la Unión Europea | C 47/64 |

---

Dictamen del Comité Económico y Social Europeo sobre «Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones — Generar confianza en la inteligencia artificial centrada en el ser humano»

[COM(2019) 168 final]

(2020/C 47/09)

Ponente: Franca SALIS-MADINIER

|  |  |
| --- | --- |
| Consulta | Comisión Europea, 3.6.2019 |
| Fundamento jurídico | Artículo 304 del Tratado de Funcionamiento de la Unión Europea |
| Sección competente | Sección de Mercado Único, Producción y Consumo |
| Aprobado en sección | 18.10.2019 |
| Aprobado en el pleno | 30.10.2019 |
| Pleno n.o | 547 |
| Resultado de la votación  (a favor/en contra/abstenciones) | 198/1/4 |

1.   Conclusiones y recomendaciones

|  |  |  |
| --- | --- | --- |
|  | 1.1. | La inteligencia artificial (IA) no constituye un fin en sí misma, sino una herramienta que puede producir cambios radicales positivos pero también acarrear riesgos. Por este motivo, es necesario regular su uso. |

|  |  |  |
| --- | --- | --- |
|  | 1.2. | La Comisión debe tomar medidas sobre la previsión, la prevención y la prohibición del uso malintencionado de la IA y el aprendizaje automático y regular mejor la comercialización de productos con fines malintencionados. |

|  |  |  |
| --- | --- | --- |
|  | 1.3. | En particular, la UE debe promover el desarrollo de sistemas de IA orientados a aplicaciones concretas para acelerar la transición ecológica y climática. |

|  |  |  |
| --- | --- | --- |
|  | 1.4. | Resulta necesario determinar qué retos podrán abordarse mediante códigos éticos, autorregulación y compromisos voluntarios y qué retos deberán abordarse a través de reglamentación y legislación acompañadas de un seguimiento y, en caso de incumplimiento, de una sanción. En cualquier caso, los sistemas de IA deben ajustarse a las legislaciones actuales. |

|  |  |  |
| --- | --- | --- |
|  | 1.5. | La IA necesita un enfoque que comprenda aspectos técnicos pero también sociales y éticos. El CESE acoge con satisfacción la voluntad de la UE de elaborar un enfoque para una IA centrada en el ser humano y conforme con sus valores fundamentales: el respeto de la dignidad humana, la libertad, la democracia, la igualdad y la no discriminación, el Estado de Derecho y el respeto de los derechos humanos. |

|  |  |  |
| --- | --- | --- |
|  | 1.6. | El CESE recuerda [(1)](#ntr1-C_2020047ES.01006401-E0001) la necesidad de consultar e informar a los trabajadores y sus representantes a la hora de introducir sistemas de IA que pudieran provocar cambios en la organización del trabajo, la vigilancia y su control, así como en los sistemas de evaluación y contratación de los trabajadores. La Comisión debe promover el diálogo social con vistas a impulsar la participación de los trabajadores en el uso de los sistemas de IA. |

|  |  |  |
| --- | --- | --- |
|  | 1.7. | El CESE subraya [(2)](#ntr2-C_2020047ES.01006401-E0002) que una IA fiable supone que el ser humano controla la máquina y que los ciudadanos son informados sobre sus usos. Los sistemas de IA deben ser explicables o, cuando ello no sea posible, debe facilitarse información a los ciudadanos y a los consumidores sobre sus límites y riesgos. |

|  |  |  |
| --- | --- | --- |
|  | 1.8. | La UE debe abordar los «riesgos emergentes» [(3)](#ntr3-C_2020047ES.01006401-E0003) en materia de seguridad y salud en el trabajo. Es preciso establecer normas para evitar que los sistemas autónomos resulten perjudiciales o dañinos para las personas. Los trabajadores tendrán que recibir formación para trabajar con la máquina y detenerla en caso de emergencia. |

|  |  |  |
| --- | --- | --- |
|  | 1.9. | El CESE aboga por el desarrollo de un sistema de certificación sólido basado en procedimientos de prueba que permitan a las empresas garantizar la fiabilidad y la seguridad de sus sistemas de IA. La transparencia, la trazabilidad y la explicabilidad de los procesos decisorios algorítmicos suponen un reto técnico que requiere el apoyo de instrumentos de la UE, como el programa Horizonte Europa. |

|  |  |  |
| --- | --- | --- |
|  | 1.10. | El respeto de la vida privada y de la protección de los datos determinará el grado de confianza de los ciudadanos y los consumidores en la IA. La propiedad y el control de los datos y el uso que hacen de ellos las empresas y organizaciones son asuntos que siguen en gran medida pendientes de regulación (en particular en lo que respecta al internet de las cosas). El CESE insta a la Comisión a que revise periódicamente el Reglamento General de Protección de Datos (RGPD) [(4)](#ntr4-C_2020047ES.01006401-E0004) y la normativa conexa a la luz de los avances tecnológicos. |

|  |  |  |
| --- | --- | --- |
|  | 1.11. | El CESE opina que resulta esencial reflexionar sobre la contribución que los sistemas de IA pueden aportar a la reducción de las emisiones de gases de efecto invernadero, en particular en los sectores de la industria, el transporte, la energía, la construcción y la agricultura. Aboga por que las transiciones climática y digital estén interconectadas. |

|  |  |  |
| --- | --- | --- |
|  | 1.12. | El CESE considera que el control de los sistemas de IA podría no bastar para definir las responsabilidades y suscitar confianza. El CESE recomienda que se dé prioridad a fijar normas claras que, en caso de incumplimiento, atribuyan la responsabilidad a las personas, ya sean físicas o jurídicas. Asimismo, el CESE pide a la Comisión que examine prioritariamente la cuestión clave de asegurar los riesgos de los sistemas de IA. |

|  |  |  |
| --- | --- | --- |
|  | 1.13. | El CESE propone desarrollar, para las empresas que cumplan las normas, un «certificado europeo de empresa de confianza del sector de la IA» basado, entre otras cosas, en la lista de evaluación propuesta por el grupo de expertos de alto nivel sobre la IA (en adelante, GAN). |

|  |  |  |
| --- | --- | --- |
|  | 1.14. | Cuando promueva los trabajos pertinentes en el marco del G-7, el G-20 y los diálogos bilaterales, la UE debe tratar de garantizar que la reglamentación de la IA vaya más allá de las fronteras europeas. Lo que debe lograrse es un acuerdo internacional para una IA fiable, que permita desarrollar normas internacionales y comprobar regularmente su pertinencia. |

2.   Síntesis de la propuesta de la Comisión

|  |  |  |
| --- | --- | --- |
|  | 2.1. | La Comunicación presentada se basa en los trabajos del GAN que la Comisión creó en junio de 2018. En la Comunicación, la Comisión señala siete requisitos esenciales para lograr una IA fiable, cuya lista figura en el punto 4. |

|  |  |  |
| --- | --- | --- |
|  | 2.2. | La Comisión ha puesto en marcha una fase piloto que aúna a un amplio espectro de partes interesadas. En particular, dicho ejercicio se centra en la lista de evaluación que el GAN ha establecido para cada requisito esencial. A principios de 2020, el GAN revisará y actualizará la lista de evaluación y la Comisión propondrá, en su caso, nuevas medidas. |

|  |  |  |
| --- | --- | --- |
|  | 2.3. | La Comisión desea llevar su enfoque en materia de IA a la escena internacional y seguirá desempeñando un papel activo, también en el seno del G-7 y del G-20. |

3.   Observaciones generales

|  |  |  |
| --- | --- | --- |
|  | 3.1. | La IA centrada en el ser humano necesita un enfoque que comprenda aspectos técnicos pero también sociales y éticos. El CESE acoge con satisfacción la voluntad manifestada por las instituciones de la UE de construir un enfoque de la IA conforme con sus valores fundamentales: el respeto de la dignidad humana, la libertad, la democracia, la igualdad y la no discriminación, el Estado de Derecho y el respeto de los derechos humanos. Como subraya la Comisión [(5)](#ntr5-C_2020047ES.01006401-E0005), la IA no constituye un fin en sí misma, sino una herramienta que puede traer cambios radicales positivos. Al igual que toda herramienta, crea al mismo tiempo oportunidades y riesgos. Por este motivo, la UE debe regular su uso y definir claramente las responsabilidades. |

|  |  |  |
| --- | --- | --- |
|  | 3.2. | La confianza en una AI centrada en el ser humano resultará de la afirmación de los valores y los principios, de un marco reglamentario bien establecido y de líneas directrices en materia de ética que contengan requisitos esenciales. |

|  |  |  |
| --- | --- | --- |
|  | 3.3. | Entre los numerosos retos que plantea la IA, resulta necesario determinar, junto con el conjunto de partes interesadas, cuáles deberán abordarse mediante reglamentación y legislación acompañadas de mecanismos de seguimiento reglamentarios y, en caso de incumplimiento, de sanción, y cuáles podrán abordarse mediante códigos éticos, autorregulación y compromisos voluntarios. El CESE acoge con satisfacción que la Comisión haya retomado principios abordados originalmente por el CESE, pero lamenta que todavía no haya propuesto ninguna medida específica para dar respuesta a las inquietudes legítimas en materia de derechos de los consumidores, de seguridad de los sistemas y de responsabilidad. |

|  |  |  |
| --- | --- | --- |
|  | 3.4. | Los sistemas de IA deben respetar el marco reglamentario existente, en particular en lo relativo a la protección de los datos personales, la responsabilidad de los productos, la protección de los consumidores, la no discriminación y las cualificaciones profesionales, así como la información y la consulta de los trabajadores en los lugares de trabajo. Debe garantizarse que estas legislaciones estén adaptadas a los nuevos retos de la digitalización y la IA. |

|  |  |  |
| --- | --- | --- |
|  | 3.5. | Como señala la Comisión, «deben instaurarse procesos para aclarar y evaluar los riesgos potenciales asociados al uso de los sistemas de IA, en diversos ámbitos de aplicación» [(6)](#ntr6-C_2020047ES.01006401-E0006). El CESE concede una importancia primordial a las futuras modalidades de esta evaluación y a la creación de indicadores que podrían tenerse en cuenta a la hora de proceder a dicha evaluación. El proyecto de lista de evaluación elaborado por el GAN constituye un punto de partida para la aplicación de dichos procesos. |

|  |  |  |
| --- | --- | --- |
|  | 3.6. | Ello afecta igualmente a la cuestión de la distribución equitativa del valor añadido que se espera de los sistemas de IA. El CESE considera que las transformaciones positivas que conlleva la IA, en términos de desarrollo económico, sostenibilidad de los procesos de producción y consumo (especialmente de energía) y mejora en el uso de los recursos, deben beneficiar a todos los países, y dentro de ellos, a todos los ciudadanos. |

4.   Observaciones particulares

4.1.   Intervención y supervisión humanas

|  |  |  |
| --- | --- | --- |
|  | 4.1.1. | La Comisión quiere garantizar que el uso de los sistemas de IA no pueda en ningún caso menoscabar la autonomía humana o causar efectos perjudiciales. El CESE comparte este enfoque del control humano sobre la máquina, como ya ha expresado en dictámenes anteriores. |

|  |  |  |
| --- | --- | --- |
|  | 4.1.2. | Esto también requiere que los ciudadanos estén correctamente informados sobre los usos de estos sistemas y que estos sean explicables o, cuando esto no sea posible (por ejemplo, en caso de «aprendizaje profundo»), que se proporcione información al usuario sobre los límites y los riesgos del sistema. En cualquier caso, los ciudadanos deben poder conservar la libertad de tomar una decisión distinta a la del sistema de IA. |

|  |  |  |
| --- | --- | --- |
|  | 4.1.3. | En las empresas y administraciones públicas, debe informarse y consultarse debidamente a los trabajadores y sus representantes a la hora de introducir sistemas de IA que puedan modificar la organización del trabajo y afectarlos en aspectos relacionados con el control, la vigilancia, la evaluación y la contratación. La Comisión debe promover un diálogo social con vistas a impulsar la participación de los trabajadores en el uso de los sistemas de IA. |

|  |  |  |
| --- | --- | --- |
|  | 4.1.4. | En lo que se refiere a los recursos humanos, debe prestarse especial atención a los riesgos de usos incorrectos de los sistemas de IA —como la vigilancia sin límite, la recopilación de datos personales y datos sanitarios o la divulgación de datos a terceros— y a los riesgos emergentes en materia de salud y seguridad en el lugar de trabajo [(7)](#ntr7-C_2020047ES.01006401-E0007). Es preciso fijar normas claras para evitar que la colaboración entre seres humanos y máquinas acarree daños a las personas. La norma creada por la Organización Internacional de Normalización (ISO) sobre los robots colaborativos [(8)](#ntr8-C_2020047ES.01006401-E0008), dirigida a los fabricantes, los integradores y los usuarios, facilita directrices para el diseño y la organización del espacio de trabajo y la reducción de los riesgos a los que pueden verse expuestas las personas. Debe formarse a los trabajadores para usar la IA y la robótica, trabajar con estas tecnologías y, en particular, poder detenerlas en caso de emergencia (principio del «freno de emergencia»). |

4.2.   Solidez técnica y seguridad

|  |  |  |
| --- | --- | --- |
|  | 4.2.1. | El CESE aboga por introducir normas de seguridad europeas y desarrollar un sistema de certificación sólido basado en procedimientos de prueba que permitan a las empresas garantizar la fiabilidad de sus sistemas de IA. El CESE también desea subrayar la importancia de la cuestión de la capacidad de asegurar los riesgos de los sistemas de IA. |

|  |  |  |
| --- | --- | --- |
|  | 4.2.2. | La Comisión presta poca atención al aspecto de previsión, prevención y prohibición del uso malintencionado de la IA y el aprendizaje automático, del que advierten numerosos investigadores [(9)](#ntr9-C_2020047ES.01006401-E0009). Las recomendaciones de estos últimos deberían tenerse cuenta, en particular las relativas al doble uso de estas tecnologías, que podría afectar a la seguridad digital (expansión de los ataques informáticos, explotación de vulnerabilidades de los seres humanos y de la IA, contaminación de datos), la seguridad física (pirateo de sistemas autónomos, incluidos los vehículos autónomos, drones y armas automáticas) o la seguridad política (recopilación masiva de datos personales, propaganda dirigida a grupos específicos, manipulación de vídeos, etc.). Los investigadores, los ingenieros y las autoridades públicas deben colaborar estrechamente para prevenir estos riesgos, mientras que los expertos y otras partes interesadas, como los usuarios y los consumidores, deben participar en los debates sobre estos retos. |

4.3.   Privacidad y gestión de datos

|  |  |  |
| --- | --- | --- |
|  | 4.3.1. | La Comisión aboga por que el acceso a los datos esté «adecuadamente regulado y controlado» [(10)](#ntr10-C_2020047ES.01006401-E0010). El CESE considera que es necesario ir más allá de declaraciones generales. El grado de confianza que el ciudadano concede a los sistemas de IA también determinará su desarrollo. La propiedad y el control de los datos y el uso que hacen de ellos las empresas y las organizaciones son asuntos que siguen en gran medida pendientes de regulación. La cantidad de datos transmitidos, por ejemplo, por los coches a los fabricantes de automóviles y el tipo de datos transmitidos no dejan de llamar la atención [(11)](#ntr11-C_2020047ES.01006401-E0011). A pesar del principio de «protección de los datos desde el diseño», al que deben conformarse los objetos conectados en virtud del RGPD, se constata que el consumidor dispone de muy poca o incluso nula información al respecto y no cuenta con ningún medio de control sobre estos datos. Por este motivo, el CESE insta a la Comisión a que revise el RGPD y la normativa conexa a la luz de los avances tecnológicos [(12)](#ntr12-C_2020047ES.01006401-E0012). |

4.4.   Transparencia

|  |  |  |
| --- | --- | --- |
|  | 4.4.1. | El CESE considera que la explicabilidad de los procesos decisorios algorítmicos resulta esencial para la comprensión no de los mecanismos en cuanto tales sino de las lógicas subyacentes en los procesos decisorios en la manera en que estos se ven influidos por los sistemas de IA. El desarrollo de procedimientos de prueba normalizados para los sistemas de aprendizaje automático sigue suponiendo un reto técnico, que debería gozar del apoyo de los instrumentos de la UE, como el programa Horizonte Europa. |

|  |  |  |
| --- | --- | --- |
|  | 4.4.2. | El CESE comparte el planteamiento de la Comisión según el cual los sistemas de IA deben ser reconocibles como tales, «garantizando que los usuarios sepan que están interactuando con un sistema de IA» [(13)](#ntr13-C_2020047ES.01006401-E0013), también en el marco de la relación entre el paciente y el personal sanitario y de los servicios profesionales relacionados con la salud y el bienestar de los ciudadanos. Además, el CESE insiste en que el usuario o el consumidor también tiene que poder estar informado sobre los servicios que prestan seres humanos. Numerosos sistemas de IA implican en realidad grandes cantidades de trabajo humano, que a menudo se ocultan a los usuarios finales [(14)](#ntr14-C_2020047ES.01006401-E0014). Esta cuestión encierra el problema de la falta de transparencia para los usuarios y los consumidores de servicios, pero también encubre una forma de utilizar un trabajo oculto y no reconocido. |

|  |  |  |
| --- | --- | --- |
|  | 4.4.3. | Además, el CESE considera que siempre debe mantenerse informado al consumidor sobre la integración de sistemas de IA en los productos que compra y que este siempre debe poder tener acceso a sus datos y controlarlos. |

4.5.   Diversidad, no discriminación y equidad

|  |  |  |
| --- | --- | --- |
|  | 4.5.1. | Los riesgos de discriminación están presentes en ciertas aplicaciones de la IA que permiten elaborar perfiles de ciudadanos, usuarios y consumidores (por ejemplo, para la contratación, el alquiler de bienes raíces, determinados servicios personales). La UE cuenta con un corpus legislativo sobre igualdad de trato y no discriminación [(15)](#ntr15-C_2020047ES.01006401-E0015), al que los sistemas de IA deben ajustarse. No obstante, esta legislación debe igualmente adaptarse y, en caso necesario, reforzarse (también en el ámbito del control del cumplimiento) para abordar las nuevas prácticas. Existe un riesgo ciertamente real de que la caracterización algorítmica se convierta en un nuevo y potente instrumento de discriminación. La UE debe evitar este riesgo. |

|  |  |  |
| --- | --- | --- |
|  | 4.5.2. | La Directiva antirracismo [(16)](#ntr16-C_2020047ES.01006401-E0016) y la Directiva sobre la igualdad de trato entre sexos en un ámbito diferente al del empleo [(17)](#ntr17-C_2020047ES.01006401-E0017) prevén la creación de organismos especiales y competentes en materia de promoción de la igualdad entre hombres y mujeres. El CESE aboga por que estos organismos desempeñen un papel activo en el seguimiento y el control de los sistemas de IA respecto de los riesgos de discriminación directa o indirecta. |

4.6.   Bienestar social y medioambiental

|  |  |  |
| --- | --- | --- |
|  | 4.6.1. | La Comisión no propone formas específicas en cuanto a la manera de interconectar la transición climática y la transformación digital, en particular en lo que respecta al uso de los sistemas de IA. Es esencial reflexionar sobre la contribución que los sistemas de IA pueden aportar a la reducción de las emisiones de gases de efecto invernadero, en particular en los sectores de la industria, el transporte, la energía, la construcción y la agricultura. |

|  |  |  |
| --- | --- | --- |
|  | 4.6.2. | La Comisión afirma que los sistemas de IA pueden utilizarse para reforzar las competencias sociales, pero que también podrían contribuir a empeorarlas. El CESE considera que la UE debe calibrar mejor las dimensiones de determinados retos sociales. Varios estudios han demostrado que, por ejemplo, el diseño de ciertas aplicaciones que incorporan sistemas de IA está concebido para mantener conectados durante el mayor tiempo posible a los usuarios de determinados servicios en línea (redes sociales, juegos, vídeos, etc.). El objetivo es poder recopilar el máximo de datos sobre sus comportamientos; las estrategias utilizadas van desde la renovación constante de recomendaciones algorítmicas hasta los recordatorios y las notificaciones, pasando por juegos, etc. Se han estudiado [(18)](#ntr18-C_2020047ES.01006401-E0018) los efectos en los niños de los excesos de conexión y la sobrecarga y los resultados han puesto de manifiesto un aumento de la ansiedad y la agresividad, privación de sueño y repercusiones sobre la educación, las relaciones sociales, la salud y el bienestar. Para construir una IA fiable, la UE debe tener en cuenta este tipo de efectos y prevenirlos. |

|  |  |  |
| --- | --- | --- |
|  | 4.6.3. | Por último, uno de los factores del bienestar social está relacionado con un sentimiento de seguridad en el trabajo. Ahora bien, los efectos de la digitalización pueden provocar inseguridad y ser fuente de estrés [(19)](#ntr19-C_2020047ES.01006401-E0019). Por este motivo, conviene prever estrategias de anticipación de los cambios antes de que se produzcan eventuales reestructuraciones y estrategias de formación permanente para todos los trabajadores. Esto requiere entablar, en el seno de las empresas, un diálogo social de calidad entre empleadores y representantes de los trabajadores, que permita en especial el despliegue inclusivo de nuevas tecnologías, en concreto de la IA y la robótica. A fin de reforzar la confianza entre la dirección y los trabajadores, los sistemas de IA relativos a la gestión, la evaluación y el control de los trabajadores deben ser explicables, sus parámetros conocidos y su funcionamiento transparente. |

4.7.   Rendición de cuentas

|  |  |  |
| --- | --- | --- |
|  | 4.7.1. | Las decisiones adoptadas por los sistemas de aprendizaje automático no tienen explicaciones simples y, además, se actualizan periódicamente. El CESE considera que el control de los sistemas de IA podría no bastar para definir las responsabilidades y suscitar confianza. Por esta razón, recomienda fijar normas que, en caso de incumplimiento, atribuyan la responsabilidad a las personas, ya sean físicas o jurídicas. El CESE recomienda confiar más en empresas o profesionales fiables que en algoritmos y propone desarrollar, para las empresas que cumplan todas las normas, un «certificado europeo de empresa de confianza del sector de la IA» basado, entre otras cosas, en la lista de evaluación propuesta por el GAN. |

|  |  |  |
| --- | --- | --- |
|  | 4.7.2. | La Directiva sobre la responsabilidad por los daños causados por productos defectuosos [(20)](#ntr20-C_2020047ES.01006401-E0020) establece el principio de responsabilidad objetiva aplicable a los productores europeos: si un producto que presente un defecto causa un perjuicio a un consumidor, la responsabilidad del productor puede activarse incluso sin que haya culpa o negligencia por su parte. El diseño, el despliegue y el uso cada vez más extendidos de los sistemas de IA requieren que la UE adopte normas de responsabilidad adaptadas para aquellas situaciones en que los productos de contenido digital y los servicios ofrecidos a los consumidores puedan resultar peligrosos y perjudiciales. Los consumidores deben poder tener acceso a la justicia en caso de daños causados por un sistema de IA. |

5.   Necesidad de una regulación más allá de Europa

|  |  |  |
| --- | --- | --- |
|  | 5.1. | En un mundo global, la regulación de la IA debe superar las fronteras europeas. Europa debería promover un acuerdo amplio sobre la IA en el G-7 y el G-20 y continuar los diálogos bilaterales a fin de que una mayoría de países pueda participar en los procesos de normalización de la IA y verificar periódicamente su pertinencia. |

Bruselas, 30 de octubre de 2019.

El Presidente

del Comité Económico y Social Europeo

Luca JAHIER

---

---

[Top](#document1)