Dictamen del Comité Económico y Social Europeo sobre «Inteligencia artificial: anticipar su impacto en el trabajo para garantizar una transición justa»

(dictamen de iniciativa)

(2018/C 440/01)

Ponente: Franca SALIS-MADINIER

Decisión del Pleno 15.2.2018 Fundamento jurídico Artículo 29, apartado 2, del Reglamento interno Sección competente Mercado Único, Producción y Consumo Aprobado en sección 4.9.2018 Aprobado en el pleno 19.9.2018 Pleno n.o 537 Resultado de la votación (a favor/en contra/abstenciones) 183/1/2

1. Conclusiones y recomendaciones

1.1. La inteligencia artificial (IA) y la robótica contribuirán a aumentar y amplificar los efectos de la digitalización de la economía en los mercados de trabajo ( 1 ) . El progreso técnico siempre ha influido en el trabajo y el empleo y ha hecho necesarias nuevas formas de encuadramiento social y de la sociedad. El CESE está convencido de que el desarrollo tecnológico puede contribuir al progreso económico y social, pero considera que sería una equivocación descuidar sus efectos globales en la sociedad. La IA aumentará y amplificará el alcance de la automatización de los puestos de trabajo en el mundo laboral ( 2 ) . Por esta razón, el CESE desea contribuir a preparar las transformaciones sociales que acompañarán el auge de la IA y la robótica mediante el refuerzo y la renovación del modelo social europeo.

1.2. El CESE desea subrayar el potencial que abren la IA y sus aplicaciones, en particular en los ámbitos de la asistencia sanitaria, la seguridad en el transporte y la energía, la lucha contra el cambio climático y la anticipación de las amenazas en materia de ciberseguridad. La Unión Europea, los gobiernos y las organizaciones de la sociedad civil tienen un importante papel que desempeñar para aprovechar plenamente los beneficios que puede aportar la IA, en particular a las personas con discapacidad, las personas con movilidad reducida, las personas mayores y los enfermos crónicos.

1.3. Sin embargo, la UE carece aún de datos sobre la economía digital y la consiguiente transformación social. El CESE recomienda mejorar las herramientas estadísticas y la investigación, en particular sobre la IA, la utilización de robots industriales y de servicios, la internet de las cosas y los nuevos modelos económicos (como la economía de las plataformas y las nuevas modalidades de empleo y de trabajo).

1.4. El CESE pide que la Comisión Europea promueva y apoye la realización de estudios por los comités de diálogo social sectorial europeos sobre las repercusiones sectoriales de la IA y la robótica y, más en general, de la digitalización de la economía.

1.5. En general, se admite que la IA y la robótica van a desplazar y transformar los puestos de trabajo, suprimiendo unos y creando otros. En todo caso, la UE debe garantizar el acceso a todos los trabajadores, por cuenta ajena, autónomos o falsos autónomos, a la protección social, de conformidad con el pilar europeo de derechos sociales.

1.6. La Comisión ha propuesto reforzar el Fondo Europeo de Adaptación a la Globalización para que se beneficien de él, en particular, los trabajadores por cuenta ajena que pierden su empleo y los autónomos que se han visto obligados a interrumpir su actividad como consecuencia de la digitalización de la economía ( 3 ) . El CESE considera que se trata de un paso hacia la creación de un auténtico Fondo Europeo de Transición que contribuya a una gestión socialmente responsable de la transformación digital.

1.7. programa europeo inclusivo de IA , construido a partir de esos textos y del pilar europeo de derechos sociales, en el que participen todas las partes interesadas. El CESE recomienda aplicar y reforzar los principios, compromisos y obligaciones enunciados en los textos existentes adoptados por las instituciones europeas, así como por los interlocutores sociales, sobre la información y consulta a los trabajadores ( 4 ) , en particular con ocasión de la introducción de nuevas tecnologías, en particular la IA y la robótica. El CESE pide que se elabore un, construido a partir de esos textos y del pilar europeo de derechos sociales, en el que participen todas las partes interesadas.

1.8. El CESE recomienda que las directrices éticas sobre la IA que elabore la Comisión establezcan un límite claro en la interacción entre los trabajadores y las máquinas inteligentes, de modo que el ser humano no se convierta nunca en ejecutor de la máquina. Con vistas a una IA inclusiva, estas directrices deberán establecer principios de participación, responsabilidad y apropiación de los procesos de producción, de modo que, como se subraya en la Constitución de la OIT, el trabajo brinde a quienes lo realizan la satisfacción de utilizar en la mejor forma posible sus habilidades y conocimientos y de contribuir al máximo al bienestar común.

1.9. El CESE recomienda asimismo que dichas directrices incluyan principios de transparencia en la utilización de los sistemas de IA para la contratación, la evaluación y la supervisión administrativa de los trabajadores, así como principios de salud y seguridad y de mejora de las condiciones de trabajo. Por último, deberán garantizar la protección de los derechos y libertades relativos al tratamiento de los datos de los trabajadores, de conformidad con el principio de no discriminación.

1.10. La aplicación de las directrices sobre ética en el ámbito de la IA deberá supervisarse. Podría asignarse esta función de supervisión o vigilancia a un Observatorio europeo de la ética de los sistemas de IA, también en el entorno empresarial.

1.11. El CESE recomienda formar en las cuestiones éticas a los ingenieros y diseñadores de máquinas inteligentes, para evitar le creación de nuevas formas de taylorismo digital, en las que el ser humano quedaría relegado a ejecutar las consignas de las máquinas. Es necesario fomentar la difusión de buenas prácticas y los intercambios de experiencias en este ámbito.

1.12. El CESE pide que se aclare el principio de responsabilidad legal. En la relación entre el hombre y la máquina, los riesgos emergentes para la salud y la seguridad deben ser objeto de un enfoque más ambicioso, de conformidad con la Directiva relativa a la responsabilidad por productos defectuosos ( 5 )

1.13. Dado el riesgo de polarización social en la transformación digital, el CESE pide a las instituciones de la UE que entablen un debate sobre la cuestión de la financiación de los presupuestos públicos y los sistemas de protección social en una economía en la que aumenta la densidad robótica ( 6 ) , mientras los impuestos sobre el trabajo siguen siendo la principal fuente de ingresos fiscales en Europa. Para aplicar el principio de equidad, sería útil que este debate incluyera la cuestión de la redistribución de los beneficios de la digitalización.

2. Introducción

2.1. La IA registró una evolución desigual desde la aparición del concepto en 1956 y durante la segunda mitad del siglo XX. En ocasiones suscitó grandes esperanzas y, en otras, grandes desilusiones. Pero desde hace algunos años registra un nuevo e importante auge, que ha sido posible gracias a la recogida, organización y almacenamiento de una cantidad de datos (macrodatos) inédita en la historia de la humanidad y al aumento exponencial de la potencia de cálculo de los ordenadores y las capacidades de los algoritmos.

2.2. El CESE elaboró un dictamen sobre la IA en 2017 ( 7 ) , en el que abordó numerosos retos. Tal como se resaltaba en dicho dictamen, no existe una definición precisa de IA. A los efectos del presente dictamen, consideraremos la IA como una disciplina tendente a utilizar las tecnologías digitales para crear sistemas capaces de reproducir de forma autónoma las funciones cognitivas humanas, incluida la captación de datos y formas de comprensión y adaptación (solución de problemas, razonamiento y aprendizaje automáticos).

2.3. En la actualidad, los sistemas de IA son capaces de resolver problemas complejos, en ocasiones fuera del alcance de la inteligencia humana. Las aplicaciones parecen potencialmente infinitas, tanto en los sectores de la banca, los seguros, el transporte, la asistencia sanitaria, la educación, la energía, el marketing y la defensa como en sectores como la industria, la construcción, la agricultura y la artesanía, etc. ( 8 ) Se espera que la IA mejore la eficiencia de los procesos de producción de bienes y servicios, estimule la rentabilidad empresarial y contribuya al crecimiento económico.

2.4. Este nuevo auge de la IA ha hecho resurgir numerosas cuestiones sobre su posible función en la sociedad, su grado de autonomía y su interacción con el ser humano. Como resaltaba el dictamen del CESE sobre la IA aprobado en 2017 ( 9 ) , dichas cuestiones afectan, en particular, a la ética, la seguridad, la transparencia, la vida privada y las normas laborales, la educación, la accesibilidad, la legislación y la reglamentación, la gobernanza y la democracia.

2.5. Es conveniente combinar los distintos enfoques adoptados en el debate sobre la IA para sacar este debate del carril económico en el que se desliza a veces. Ese marco multidisciplinario sería útil para analizar las repercusiones de la IA en el mundo laboral, ya que es uno de los principales lugares de interacción entre el ser humano y la máquina. Desde siempre, la técnica ha tenido un impacto sobre el trabajo. Los efectos de la IA en el empleo y el trabajo requieren, por tanto, especial atención política, ya que las instituciones tienen el papel esencial de hacer que los procesos de transformación económica sean socialmente sostenibles ( 10 )

2.6. El objetivo del presente dictamen de iniciativa es poner de manifiesto los retos que plantea la IA en el ámbito del trabajo, por lo que respecta, entre otras cosas, a su naturaleza, las condiciones laborales y su organización. Como ya ha resaltado el CESE ( 11 ) , es conveniente mejorar las estadísticas y la investigación para poder elaborar previsiones precisas sobre la evolución de los mercados de trabajo, así como indicadores claros sobre determinadas tendencias, relativas, en particular, a la calidad del trabajo, la polarización de los puestos de trabajo y las rentas y las condiciones laborales en la transformación digital. La UE carece de datos sobre la denominada economía «colaborativa», las plataformas de trabajo según demanda y los nuevos modelos de subcontratación en línea, así como sobre la utilización de los robots industriales y de servicios personales, la internet de las cosas y el uso y la definición de los sistemas de IA.

3. IA y evolución del volumen de empleo

3.1. La cuestión de la repercusión que tendrá la introducción de la IA y la robótica en los procesos de producción es controvertida. Muchos estudios han intentado responder a esta cuestión sin alcanzar un consenso científico. La diversidad de resultados (del 9 % al 54 % de empleos amenazados ( 12 ) ) refleja la complejidad de las opciones metodológicas y su decisiva repercusión en los resultados de la investigación.

3.2. Las previsiones son inciertas, ya que intervienen factores distintos del potencial técnico de automatización, como la evolución política, reglamentaria, económica y demográfica y la aceptación social. No basta que una tecnología esté desarrollada para garantizar su uso y difusión.

3.3. Por último, es imposible predecir un balance neto de puestos de trabajo automatizables en cada sector sin tener en cuenta la transformación de las profesiones y el ritmo de creación de nuevos puestos. El desarrollo de los sistemas de IA requerirá, en efecto, nuevos puestos de trabajo en ingeniería, informática y telecomunicaciones (ingenieros, técnicos y operadores), así como profesiones asociadas a los macrodatos ( big data ): delegados de datos, analistas de datos, exploradores de datos, etc.

3.4. El papel de las instituciones públicas será garantizar la sostenibilidad social de la transformación digital, que podrá afectar tanto a la cantidad como a la calidad de los puestos de trabajo ( 13 ) . Uno de los riesgos señalados por los expertos es el de una polarización de los puestos de trabajo entre las «superestrellas», por un lado, que poseen cualificaciones útiles para la economía digital, y los «perdedores», por otro, cuyas cualificaciones, experiencia y conocimientos técnicos quedarán obsoletos de forma progresiva debido a esta transformación. En su reciente Comunicación ( 14 ) , la Comisión Europea propone una respuesta a este reto esencial en materia de esfuerzos de educación, formación y mejora de las competencias básicas en escritura, lectura y cálculo, así como de las competencias digitales. Esa respuesta merece el apoyo de los agentes económicos y sociales, en particular en el marco del diálogo social nacional, europeo, interprofesional y sectorial ( 15 )

3.5. El CESE considera, no obstante, que esos esfuerzos no bastarán para responder a todos los retos, en particular a la incertidumbre sobre la evolución del empleo. Merece la pena desarrollar tres pistas complementarias: la de una IA «inclusiva», la de la anticipación de los cambios y, por último, cuando resulte inevitable la adopción de planes sociales, unas reestructuraciones socialmente responsables y reguladas.

4. Una IA y una robotización inclusivas e inteligentes

4.1. programa de IA y de robotización inclusivas . Esto significa que, al introducir en las empresas nuevos procesos en los que se utilicen las nuevas tecnologías, sería útil hacer participar a los trabajadores en las modalidades de funcionamientos de esos procesos. Como señala el WRR El CESE respalda la aplicación del principio de uny de. Esto significa que, al introducir en las empresas nuevos procesos en los que se utilicen las nuevas tecnologías, sería útil hacer participar a los trabajadores en las modalidades de funcionamientos de esos procesos. Como señala el WRR ( 16 ) , la introducción «inclusiva e inteligente» de nuevas tecnologías, en las que los trabajadores sigan ocupando un lugar central en el proceso y participen en su mejora, puede contribuir a favorecer la mejora de los procesos de producción ( 17 )

4.2. Dado el papel que desempeñan los algoritmos en las condiciones de contratación, trabajo y evaluación profesional, el CESE apoya el principio de transparencia algorítmica, que no consiste en revelar códigos, sino en hacer inteligibles los parámetros y criterios de las decisiones que se toman. El recurso humano debe ser posible en todo momento.

4.3. Una IA que sitúa al trabajador en un lugar central tiene en cuenta las opiniones de las personas que deberán trabajar con los nuevos procesos tecnológicos, define claramente las tareas y responsabilidades que seguirán estando en manos de los trabajadores y mantiene formas de apropiación del trabajo por los trabajadores, para que estos no se conviertan en meros ejecutores.

4.4. responsabilidad legal debe aclararse. Los robots industriales o de servicios colaboran cada vez más con el ser humano. La IA permite a los robots «salir de sus jaulas» y se pueden producir accidentes El principio delegal debe aclararse. Los robots industriales o de servicios colaboran cada vez más con el ser humano. La IA permite a los robots «salir de sus jaulas» y se pueden producir accidentes ( 18 ) . Por esta razón, hay que establecer claramente las responsabilidades de los sistemas autónomos en caso de accidente, y se han de cubrir los riesgos en materia de salud y seguridad que puedan correr los trabajadores. La Comisión Europea está iniciando una reflexión sobre estos riesgos emergentes en el marco de la Directiva relativa a la responsabilidad por productos defectuosos ( 19 ) . En lo que respecta a la seguridad en el trabajo, este enfoque debe ser más ambicioso.

4.5. El principio de equidad aplicado al mundo laboral consiste en no desposeer al trabajador de su trabajo. Algunos expertos advierten del riesgo de que la IA contribuya a una forma de pérdida de cualificaciones de los trabajadores. Por lo tanto, es preciso velar por que, como se subraya en la Constitución de la OIT, el trabajo brinde a quienes lo realizan la satisfacción de utilizar en la mejor forma posible sus habilidades y conocimientos y de contribuir al máximo al bienestar común. Desde el punto de vista de la gestión, es también una forma de mantener la motivación en el trabajo.

5. Anticipación del cambio

5.1. Numerosos estudios han señalado en los últimos años un debilitamiento del diálogo social europeo, y en ocasiones nacional, y ello a pesar de la voluntad de «reactivación» expresada por la Comisión y el Consejo Europeo. Sin embargo, este diálogo social es una de las herramientas más adecuadas para hacer frente a los retos sociales de la digitalización. Por esta razón, el CESE aboga enérgicamente por que, en las empresas y a todos los niveles pertinentes, este diálogo sea una práctica constante a fin de preparar las transformaciones de un modo socialmente aceptable. El CESE recuerda que el diálogo social es uno de los mejores garantes de la paz social y la reducción de las desigualdades. Más allá de las declaraciones políticas de reactivación, las instituciones de la UE tienen la gran responsabilidad de fomentar y alimentar este diálogo social.

5.2. En particular, cuando se trata de introducir estas tecnologías, el diálogo social debe permitir conocer las perspectivas de transformación de los procesos de producción a escala de las empresas y los sectores, y apreciar las nuevas necesidades en términos de cualificaciones y formación, pero también reflexionar en fases previas sobre la utilización de la IA para mejorar los procesos organizativos y de producción, aumentar las cualificaciones de los trabajadores y optimizar los recursos liberados por la IA para desarrollar nuevos productos y servicios, o mejorar la calidad del servicio al cliente.

5.3. Reestructuraciones socialmente responsables

5.4. Cuando se considere inevitable la adopción de planes sociales, los retos consistirán en la gestión social de las reestructuraciones. Como han señalado los interlocutores sociales europeos en sus «Orientaciones de referencia para la gestión del cambio y sus consecuencias sociales» ( 20 ) , muchos estudios de casos resaltan la importancia de buscar todas las alternativas posibles a los despidos, como la formación, la reconversión y el apoyo a la creación de empresas.

5.5. En caso de reestructuraciones, la información y la consulta de los trabajadores deben permitir, conforme a las directivas europeas aplicables ( 21 ) , favorecer la prevención de los riesgos, facilitar el acceso de los trabajadores a la formación dentro de la empresa, flexibilizar la organización del trabajo garantizando la seguridad, y promover la participación de los trabajadores en la marcha y el futuro de la empresa.

5.6. protección social , «con independencia del tipo y la duración de su relación laboral», de acuerdo con el pilar europeo de derechos sociales Por último, como destaca con acierto la Comisión Europea, la UE debe garantizar el acceso de todos los ciudadanos, incluidos los trabajadores por cuenta ajena y los autónomos o falsos autónomos, a la, «con independencia del tipo y la duración de su relación laboral», de acuerdo con el pilar europeo de derechos sociales ( 22 )

6. IA y evolución de las condiciones de trabajo

6.1. El 25 de abril de 2018, la Comisión Europea propuso un «enfoque europeo» a fin de promover políticas de inversión para el desarrollo de la IA y establecer directrices en materia de ética. La Comisión destaca el potencial de las tecnologías de IA de transformar nuestras sociedades, sobre todo en los sectores del transporte, sanitario y de la industria manufacturera.

6.2. Este potencial de transformación se manifiesta en los procesos de producción y también tiene un impacto en el contenido del trabajo, que puede ser positivo, debido, en particular, a que la IA puede mejorar dichos procesos y la calidad del trabajo. Los mismos efectos positivos pueden registrarse en las organizaciones de trabajo «flexibles», en las que el poder de decisión compartido tiene más importancia, así como la autonomía de los equipos, la polivalencia, la organización horizontal y las prácticas innovadoras y participativas ( 23 )

6.3. Como resaltan el CESE ( 24 ) y la propia Comisión, la IA puede ayudar a los trabajadores en las tareas repetitivas, arduas e incluso peligrosas, y algunas aplicaciones de IA pueden mejorar su bienestar y facilitarles su vida diaria.

6.4. Pero esta visión plantea nuevas cuestiones, en particular en lo concerniente a la interacción entre la IA y el trabajador, y la evolución del contenido del trabajo. En las fábricas, las empresas y las oficinas, ¿hasta qué punto las máquinas inteligentes serán autónomas y cuáles serán las formas de complementariedad con el trabajo humano? El CESE destaca que, en el nuevo mundo laboral, resulta esencial definir la relación del ser humano con la máquina. Se considera fundamental adoptar un enfoque centrado en el control de la máquina por el ser humano ( 25 )

6.5. A priori, no es éticamente aceptable que un ser humano se vea limitado por la IA, o que sea considerado un ejecutor de la máquina, que le dictaría las tareas que debe realizar, el modo de hacerlo y los plazos de ejecución. Sin embargo, en ocasiones, parece que se franquea esta frontera ética ( 26 ) . Por consiguiente, es importante que esta frontera quede claramente formulada en las directrices sobre ética en el ámbito de la IA.

6.6. Evitar reproducir hoy nuevas formas de taylorismo digital orquestado por los desarrolladores de máquinas inteligentes, debe ser una prioridad para la UE. Por esta razón, como ha afirmado el CESE recientemente, los investigadores, ingenieros, diseñadores y empresarios europeos que contribuyen a desarrollar y comercializar sistemas de IA, deben actuar con arreglo a criterios de responsabilidad ética y social. La integración ética y de las ciencias humanas en el plan de estudios de ingeniería puede constituir una buena respuesta ante este imperativo ( 27 )

6.7. Otra cuestión tiene que ver con la vigilancia y el control administrativo. Todo el mundo está de acuerdo en la necesidad de una vigilancia razonable de los procesos de producción y, por tanto, también del trabajo efectuado. Hoy, nuevas herramientas tecnológicas permiten, en potencia, implantar sistemas inteligentes de control total en tiempo real de los trabajadores, lo que entraña el riesgo de una vigilancia y un control desproporcionados.

6.8. La cuestión del carácter razonable y proporcionado del control de la ejecución del trabajo y de los indicadores de rendimiento, de la relación de confianza entre gestor y gestionado, es un tema que merece figurar también en el orden del día del diálogo social nacional, europeo, interprofesional y sectorial.

6.9. Los temas de los sesgos de los algoritmos, los datos de entrenamiento y los posibles efectos perversos de discriminación siguen siendo controvertidos. Para algunos, los algoritmos y otros programas informáticos de contratación predictivos podrían reducir las discriminaciones en la contratación y favorecer la contratación de los más «inteligentes». Para otros, los programas informáticos de contratación siempre pueden reflejar, incluso de forma involuntaria, los sesgos de los programadores de los robots-contratadores. Según algunos expertos, los modelos algorítmicos nunca dejarán de ser más que opiniones revestidas de matemáticas ( 28 ) . Por esta razón, es necesario velar por que sea posible un recurso humano (en relación con el principio de transparencia anteriormente desarrollado: derecho a solicitar los criterios de decisión), y por que la recogida de los datos y su tratamiento respondan a los principios de proporcionalidad y finalidad. En todos los casos, los datos solo pueden utilizarse para los fines para los que han sido recogidos ( 29 )

6.10. La posibilidad que el Reglamento general de protección de datos ofrece a los Estados miembros de prever, por ley o mediante convenios colectivos, normas más específicas para garantizar la protección de los derechos y libertades en materia de tratamiento de los datos personales de los trabajadores en el marco de las relaciones laborales, representa una auténtica palanca que deben aprovechar los Estados y los interlocutores sociales ( 30 )

6.11. Conviene señalar aquí que los riesgos no solo afectan a los trabajadores por cuenta ajena. El desarrollo de la subcontratación en línea, del trabajo en plataformas y de las distintas formas de trabajo participativo va acompañada también de nuevos sistemas de gestión automatizados del rendimiento y la asistencia, cuyos límites éticos parecen franquearse en ocasiones (activación de la webcam del trabajador por la plataforma, capturas de pantalla a distancia, etc.).

6.12. A menudo, los algoritmos de esas plataformas, que definen entre otras cosas la remuneración del trabajador autónomo, su reputación digital y sus posibilidades de acceso a las tareas, son opacos. No se explican sus modos de funcionamiento a los trabajadores, que no tienen acceso a los criterios de funcionamiento que se les aplican.

7. Preparar una transición justa

7.1. A medio plazo, el riesgo de polarización social resaltado por numerosos expertos hace necesaria una reflexión de fondo sobre el futuro de nuestros modelos sociales, incluida su financiación. El CESE pide a la Comisión que entable un debate sobre la cuestión de los impuestos y la financiación de los presupuestos públicos y los sistemas de protección social en una economía en la que aumenta rápidamente la densidad robótica ( 31 ) , mientras los impuestos sobre el trabajo siguen siendo la principal fuente de ingresos fiscales en Europa. Este debate debería incluir la cuestión de la redistribución de los dividendos de la digitalización.

7.2. La Comisión propone reforzar el Fondo Europeo de Adaptación a la Globalización para que se beneficien de él, en particular, los trabajadores por cuenta ajena que pierdan su empleo y los autónomos que se hayan visto obligados a interrumpir su actividad como consecuencia de la digitalización o automatización de la economía ( 32 ) . El CESE considera que se trata de un paso hacia la creación de un auténtico Fondo Europeo de Transición que contribuya a la anticipación y a la gestión socialmente responsable de la transformación digital y de las reestructuraciones que conlleve.

7.3. Fonds de recherche du Québec (FRQ), en cooperación de la Universidad de Montreal, trabaja desde hace algunos meses en un proyecto para crear un Observatorio mundial del impacto social de la IA y la digitalización Los aspectos sociales y, más en general, societales de la IA son objeto cada vez más de debates nacionales. Los recientes debates en el Parlamento británico ( 33 ) y en el Senado francés han puesto de manifiesto la necesidad de promover un enfoque ético de la IA, basado en cierto número de principios, como la lealtad, la transparencia y la explicación de los sistemas algorítmicos, la ética y la responsabilidad de las aplicaciones de IA, y la sensibilización de los investigadores, expertos y especialistas en la posible mala utilización de los resultados de sus investigaciones. En Francia, el informe Villani se propone «dar un sentido» a la IA ( 34 ) . Numerosos expertos de las universidades de Yale, Stanford, Cambridge y Oxford advierten contra las «vulnerabilidades no resueltas» de la IA y hacen valer la imperiosa necesidad de preverlas, prevenirlas y mitigarlas ( 35 ) . Del mismo modo, el(FRQ), en cooperación de la Universidad de Montreal, trabaja desde hace algunos meses en un proyecto para crear un Observatorio mundial del impacto social de la IA y la digitalización ( 36 )

7.4. Todas estas iniciativas demuestran la necesidad de sacar el debate sobre la IA del carril económico y técnico, y ampliar las deliberaciones públicas sobre el papel que la sociedad quiere que desempeñe la IA, también en el mundo laboral. Esas deliberaciones permitirán evitar la trampa de la «falsa dicotomía» entre una visión totalmente inocente y optimista de la IA y sus efectos, y una visión catastrofista ( 37 ) . Que esos debates se lancen a escala nacional es una primera etapa útil, pero la UE tiene también un papel que desempeñar, en particular mediante la definición de directrices en materia ética, como ha empezado a hacer la Comisión.

7.5. La aplicación de dichas directrices deberá confiarse a un Observatorio consagrado a la ética de los sistemas de IA. Se trata de poner la IA y sus aplicaciones al servicio del bienestar y la emancipación de los ciudadanos y los trabajadores, dentro del respeto de los derechos fundamentales, y evitar que contribuyan de forma directa o indirecta a procesos de desapropiación, desaprendizaje y pérdida de cualificaciones y de autonomía. El principio del «ser humano al mando» en todos los contextos, entre ellos el laboral, debe encontrar aplicaciones concretas.

7.6. Este principio ha de aplicarse asimismo a otros sectores de actividad, como los profesionales de la salud, que proporcionan servicios estrechamente vinculados con la vida, la salud, la seguridad y la calidad de vida de los seres humanos. Únicamente unas normas éticas rigurosas podrán garantizar que no solo los trabajadores, sino también los consumidores, los pacientes, los clientes y los demás prestatarios de servicios, puedan beneficiarse plenamente de las nuevas aplicaciones de IA.

Bruselas, 19 de septiembre de 2018. El Presidente del Comité Económico y Social Europeo Luca JAHIER

(1) Acemoglu, D., Restrepo, P. (2018), «Artificial Intelligence, Automation and Work», NBER Working Paper 24196, enero de 2018. Véase también: Conseil d’orientation pour l’emploi (2017), Automatisation, numérisation et emploi. (tomo 1) (www.coe.gouv.fr)

(2) Acemoglu, D., op.cit.; Conseil d’orientation pour l’emploi (2017), op. cit.

(3) COM(2018) 380 final.

(4) Directiva 2002/14/CE; Declaración conjunta de intenciones UNICE-CESE-CEEP sobre el diálogo social y las nuevas tecnologías, 1985; Dictamen conjunto de los interlocutores sociales sobre las nuevas tecnologías, la organización del trabajo y la capacidad de adaptación del mercado de trabajo, 1991; Orientaciones de referencia para la gestión del cambio y sus consecuencias sociales, 2003.

(5) COM(2018) 246 final.

(6) https://ifr.org/ifr-press-releases/news/robots-double-worldwide-by-2020.

(7) DO C 288 de 31.8.2017, p. 1.

(8) Véase asimismo: https://www.techemergence.com.

(9) DO C 288 de 31.8.2017, p. 1.

(10) Eurofound (2018), Automation, digitalisation and platforms: Implications for work and employment, Oficina de Publicaciones de la Unión Europea, Luxemburgo.

(11) DO C 13 de 15.1.2016, p. 161.

(12) Frey y Osborne, 2013; Bowles, 2014; Arntz, Gregory y Zierahn, 2016; Le Ru, 2016; McKinsey, 2016; OCDE, 2017; véase también el Dictamen exploratorio CCMI/136, DO C 13 de 15.1.2016, p. 161.

(13) http://www.oecd.org/fr/emploi/avenir-du-travail/.

(14) COM(2018) 237 final.

(15) DO C 367 de 10.10.2018, p. 15.

(16) Consejo científico neerlandés para la política gubernamental.

(17) https://english.wrr.nl/latest/news/2015/12/08/wrr-calls-for-inclusive-robot-agenda.

(18) Véanse los trabajos sobre «riesgos emergentes» de la Agencia Europea para la Seguridad y la Salud en el Trabajo (https://osha.europa.eu/fr/emerging-risks). Según la Agencia, los actuales enfoques y normas técnicas dirigidos a proteger a los empleados de los riesgos de trabajar con robots colaborativos tendrán que revisarse a la luz de estos desarrollos.

(19) COM(2018) 246 final.

(20) Texto conjunto UNICE, CEEP, UEAPME y CESE, 16.10.2003.

(21) Directiva 2002/14/CE que establece un marco general relativo a la información y consulta de los trabajadores en la UE.

(22) DO C 303 de 19.8.2016, p. 54; DO C 173 de 31.5.2017, p. 15; DO C 129 de 11.4.2018, p. 7 y DO C 434 de 15.12.2017, p. 30.

(23) DO C 434 de 15.12.2017, p. 30.

(24) DO C 367 de 10.10.2018, p. 15.

(25) DO C 288 de 31.8.2017, p. 1; DO C 367 de 10.10.2018, p. 15.

(26) Varios medios de comunicación europeos se han hecho eco de las condiciones de trabajo en algunos centros logísticos, en los que los trabajadores se encuentran bajo el control de algoritmos que les indican las tareas que deben realizar en plazos prescritos y en los que su rendimiento se mide en tiempo real.

(27) DO C 367 de 10.10.2018, p. 15.

(28) Para Cathy O’Neil, doctora por la Universidad de Harvard y especialista en la ciencia de datos, «Models are opinions embedded in mathematics» (los modelos son opiniones incorporadas a las matemáticas) (https://www.theguardian.com/books/2016/oct/27/cathy-oneil-weapons-of-math-destruction-algorithms-big-data).

(29) Véanse, en particular, los trabajos de la CNIL (Comisión Nacional de la Informática y de las Libertades) en Francia («Comment permettre à l’homme de garder la main? Les enjeux éthiques des algorithmes et de l’intelligence artificielle» (¿Cómo lograr que el hombre mantenga el control? Los desafíos éticos de los algoritmos y la inteligencia artificial),

https://www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_garder_la_main_web.pdf).

(30) Reglamento (UE) n.o 2016/679 (artículo 88).

(31) https://ifr.org/ifr-press-releases/news/robots-double-worldwide-by-2020.

(32) COM(2018) 380 final.

(33) https://www.parliament.uk/ai-committee.

(34) http://www.enseignementsup-recherche.gouv.fr/cid128577/rapport-de-cedric-villani-donner-un-sens-a-l-intelligence-artificielle-ia.html.

(35) https://www.eff.org/files/2018/02/20/malicious_ai_report_final.pdf.

(36) http://nouvelles.umontreal.ca/article/2018/03/29/le-quebec-jette-les-bases-d-un-observatoire-mondial-sur-les-impacts-societaux-de-l-ia/.

(37) Acemoglu, D., op.cit. Véase también Eurofound 2018, Automation, digitalisation and platforms: Implications for work and employment, Oficina de Publicaciones de la Unión Europea, Luxemburgo, p. 23: «The risks comprise unwarranted optimism, undue pessimism and mistargeted insights».