Source: EURLEX
Language: es
Format: md

|  |  |  |  |
| --- | --- | --- | --- |
| 12.1.2022 | ES | Diario Oficial de la Unión Europea | C 15/28 |

---

P9\_TA(2021)0238

La inteligencia artificial en los sectores educativo, cultural y audiovisual

Resolución del Parlamento Europeo, de 19 de mayo de 2021, sobre la inteligencia artificial en los sectores educativo, cultural y audiovisual (2020/2017(INI))

(2022/C 15/04)

El Parlamento Europeo,

|  |  |
| --- | --- |
| — | Vista la Carta de los Derechos Fundamentales de la Unión Europea (en lo sucesivo, «Carta»), |

|  |  |
| --- | --- |
| — | Vistos los artículos 165, 166 y 167 del Tratado de Funcionamiento de la Unión Europea, |

|  |  |
| --- | --- |
| — | Vistas las Conclusiones del Consejo, de 9 de junio de 2020, sobre la configuración del futuro digital de Europa [(1)](#ntr1-C_2022015ES.01002801-E0001), |

|  |  |
| --- | --- |
| — | Visto el Dictamen del Comité Económico y Social Europeo, de 19 de septiembre de 2018, titulado «La brecha digital de género» [(2)](#ntr2-C_2022015ES.01002801-E0002), |

|  |  |
| --- | --- |
| — | Vista la propuesta de la Comisión de Reglamento del Parlamento Europeo y del Consejo, de 6 de junio de 2018, por el que se establece el programa Europa Digital para el período 2021-2027 (COM(2018)0434), |

|  |  |
| --- | --- |
| — | Vista la Comunicación de la Comisión, de 30 de septiembre de 2020, titulada «Plan de Acción de Educación Digital 2021-2027 — Adaptar la educación y la formación a la era digital» (COM(2020)0624), |

|  |  |
| --- | --- |
| — | Vista la Comunicación de la Comisión, de 30 de septiembre de 2020, relativa a la consecución del Espacio Europeo de Educación de aquí a 2025 (COM(2020)0625), |

|  |  |
| --- | --- |
| — | Visto el informe de la Comisión, de 19 de febrero de 2020, sobre las repercusiones en materia de seguridad y responsabilidad civil de la inteligencia artificial, el internet de las cosas y la robótica (COM(2020)0064), |

|  |  |
| --- | --- |
| — | Visto el Libro Blanco de la Comisión, de 19 de febrero de 2020, titulado «Inteligencia artificial — Un enfoque europeo orientado a la excelencia y la confianza» (COM(2020)0065), |

|  |  |
| --- | --- |
| — | Vista la Comunicación de la Comisión, de 19 de febrero de 2020, titulada «Una Estrategia Europea de Datos» (COM(2020)0066), |

|  |  |
| --- | --- |
| — | Vista la Comunicación de la Comisión, de 25 de abril de 2018, titulada «Inteligencia artificial para Europa» (COM(2018)0237), |

|  |  |
| --- | --- |
| — | Vista la Comunicación de la Comisión, de 17 de enero de 2018, sobre el Plan de Acción de Educación Digital (COM(2018)0022), |

|  |  |
| --- | --- |
| — | Visto el informe del Grupo de expertos de alto nivel sobre inteligencia artificial de la Comisión, de 8 de abril de 2019, titulado «Directrices éticas para una IA fiable», |

|  |  |
| --- | --- |
| — | Vista su Resolución, de 12 de febrero de 2019, sobre una política industrial global europea en materia de inteligencia artificial y robótica [(3)](#ntr3-C_2022015ES.01002801-E0003), |

|  |  |
| --- | --- |
| — | Vista su Resolución, de 11 de septiembre de 2018, sobre la igualdad lingüística en la era digital [(4)](#ntr4-C_2022015ES.01002801-E0004), |

|  |  |
| --- | --- |
| — | Vista su Resolución, de 12 de junio de 2018, sobre la modernización de la educación en la Unión [(5)](#ntr5-C_2022015ES.01002801-E0005), |

|  |  |
| --- | --- |
| — | Vista su Resolución, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica [(6)](#ntr6-C_2022015ES.01002801-E0006), |

|  |  |
| --- | --- |
| — | Vista su Resolución, de 1 de junio de 2017, sobre la digitalización de la industria europea [(7)](#ntr7-C_2022015ES.01002801-E0007), |

|  |  |
| --- | --- |
| — | Visto el informe de su Departamento Temático de Políticas Estructurales y de Cohesión, de mayo de 2020, sobre el uso de la inteligencia artificial en los sectores cultural y creativo, |

|  |  |
| --- | --- |
| — | Visto el análisis exhaustivo de su Departamento Temático de Políticas Estructurales y de Cohesión, de mayo de 2020, sobre el uso de la inteligencia artificial en el sector audiovisual, |

|  |  |
| --- | --- |
| — | Visto el estudio de su Departamento Temático de Derechos de los Ciudadanos y Asuntos Constitucionales, de abril de 2020, titulado «La educación y el empleo de las mujeres en la ciencia, la tecnología y la economía digital, incluida la inteligencia artificial y su influencia en la igualdad de género», |

|  |  |
| --- | --- |
| — | Visto el artículo 54 de su Reglamento interno, |

|  |  |
| --- | --- |
| — | Vistos los dictámenes de la Comisión de Libertades Civiles, Justicia y Asuntos de Interior, la Comisión de Mercado Interior y Protección del Consumidor, la Comisión de Asuntos Jurídicos y la Comisión de Derechos de las Mujeres e Igualdad de Género, |

|  |  |
| --- | --- |
| — | Visto el informe de la Comisión de Cultura y Educación (A9-0127/2021), |

|  |  |
| --- | --- |
| A. | Considerando que las tecnologías de inteligencia artificial (IA), que pueden repercutir directamente en nuestras sociedades, se están desarrollando a un ritmo acelerado y que se utilizan cada vez más en casi todos los ámbitos de nuestra vida, incluidos los sectores educativo, cultural y audiovisual; que es probable que la IA ayude a mejorar la productividad laboral y a acelerar el crecimiento económico; |

|  |  |
| --- | --- |
| B. | Considerando que el desarrollo, la implantación y la utilización de la IA, incluidos los programas informáticos, los algoritmos y los datos utilizados y producidos por esta, deben guiarse por los principios éticos de transparencia, explicabilidad, equidad, rendición de cuentas y responsabilidad; |

|  |  |
| --- | --- |
| C. | Considerando que la inversión pública en IA en la Unión ha estado muy por debajo de la de otras grandes economías; que la inversión insuficiente en IA probablemente ejercerá un impacto en la competitividad de la Unión en todos los sectores; |

|  |  |
| --- | --- |
| D. | Considerando que un enfoque integrado de la IA, así como la disponibilidad, la recopilación y la interpretación de datos de alta calidad, fiables, justos, transparentes, solventes, seguros y compatibles son esenciales para el desarrollo de una IA ética; |

|  |  |
| --- | --- |
| E. | Considerando que el artículo 21 de la Carta prohíbe la discriminación por una amplia gama de motivos; que no deben reproducirse múltiples formas de discriminación en el desarrollo, la implantación y la utilización de los sistemas de IA; |

|  |  |
| --- | --- |
| F. | Considerando que la igualdad de género es un principio fundamental de la Unión, consagrado en los Tratados, que debe reflejarse en todas sus políticas, incluidos los sectores educativo, cultural y audiovisual, así como en el desarrollo de tecnologías como la IA; |

|  |  |
| --- | --- |
| G. | Considerando que las experiencias pasadas, especialmente en los ámbitos técnicos, han demostrado que los avances y las innovaciones a menudo se basan principalmente en datos masculinos y que las necesidades de las mujeres no se reflejan plenamente; que hacer frente a esos sesgos exige una mayor vigilancia, soluciones técnicas y el desarrollo de unos requisitos claros de equidad, rendición de cuentas y transparencia; |

|  |  |
| --- | --- |
| H. | Considerando que unos conjuntos de datos incompletos e inexactos, la falta de datos desglosados por sexo y unos algoritmos incorrectos pueden distorsionar el procesamiento de un sistema de IA, y poner en peligro la consecución de la igualdad de género en la sociedad; que los datos sobre colectivos desfavorecidos y formas de discriminación intersectoriales suelen ser incompletos o incluso inexistentes; |

|  |  |
| --- | --- |
| I. | Considerando que las desigualdades de género, los estereotipos y la discriminación también se pueden crear y reproducir mediante el lenguaje y las imágenes difundidas a través de los medios de comunicación y las aplicaciones basadas en la IA; que la educación, los programas culturales y los contenidos audiovisuales tienen una influencia considerable en la formación de las creencias y los valores de las personas y son una herramienta fundamental para luchar contra los estereotipos de género, reducir la brecha digital de género y establecer modelos de referencia sólidos; que debe establecerse un marco ético y reglamentario antes de aplicar soluciones automatizadas para estos ámbitos clave de la sociedad; |

|  |  |
| --- | --- |
| J. | Considerando que la ciencia y la innovación pueden aportar beneficios transformadores para la vida, especialmente para las personas más rezagadas, como por ejemplo las mujeres y las niñas residentes en regiones remotas; que la educación científica es importante para adquirir competencias, un trabajo digno y empleos del futuro, así como para romper con los estereotipos de género que la consideran un ámbito típicamente masculino; que la ciencia y el pensamiento científico son esenciales para la cultura democrática, lo que a su vez es clave para avanzar en la igualdad de género; |

|  |  |
| --- | --- |
| K. | Considerando que una de cada diez mujeres de la Unión ya ha sufrido alguna forma de ciberviolencia desde los 15 años y que el ciberacoso sigue siendo motivo de preocupación en el desarrollo de la IA, también en el ámbito de la educación; que la ciberviolencia se dirige con frecuencia a las mujeres en la vida pública, como por ejemplo las activistas, las políticas y otras figuras públicas; que la IA y otras tecnologías emergentes pueden desempeñar un importante papel en la prevención de la ciberviolencia contra las mujeres y las niñas, así como en la educación de las personas; |

|  |  |
| --- | --- |
| L. | Considerando que la Unión y sus Estados miembros tienen la responsabilidad particular de aprovechar, promover y aumentar el valor añadido de las tecnologías de IA, y de asegurarse de que dichas tecnologías sean seguras y atiendan al bienestar y al interés general de los europeos; que estas tecnologías pueden contribuir enormemente a lograr nuestro objetivo común de mejorar la vida de nuestros ciudadanos y fomentar la prosperidad en la Unión, favoreciendo el desarrollo de mejores estrategias e innovación en una serie de ámbitos, en particular en los sectores educativo, cultural y audiovisual; |

|  |  |
| --- | --- |
| M. | Considerando que la mayoría de la IA está basada en software de código abierto, lo que significa que los códigos fuente pueden ser inspeccionados, modificados y reforzados; |

|  |  |
| --- | --- |
| N. | Considerando que puede ser necesario introducir determinados ajustes en los actos normativos específicos de la Unión existentes para reflejar la transformación digital y hacer frente a los nuevos desafíos que plantea el uso de las tecnologías de IA en la educación, la cultura y el sector audiovisual, como la protección de los datos personales y la privacidad y contra la discriminación, la promoción de la igualdad de género, el respeto de los derechos de propiedad intelectual, la protección del medio ambiente y los derechos de los consumidores; |

|  |  |
| --- | --- |
| O. | Considerando que es importante proporcionar acceso a los datos al sector audiovisual desde las plataformas mundiales y los principales agentes para garantizar la igualdad de condiciones; |

|  |  |
| --- | --- |
| P. | Considerando que la IA y las futuras aplicaciones o inventos realizados con la ayuda de esta pueden tener una doble naturaleza, al igual que sucede con cualquier otra tecnología; considerando que la IA y las tecnologías conexas plantean numerosas dudas en cuanto a la ética y la transparencia de su desarrollo, implantación y utilización, sobre todo con respecto a la recopilación, la utilización y la difusión de datos; que los beneficios y riesgos de las tecnologías de IA en la educación, la cultura y el sector audiovisual se deben evaluar con minuciosidad y sus efectos en todos los aspectos de la sociedad deben analizarse de forma exhaustiva y continua, sin socavar su potencial; |

|  |  |
| --- | --- |
| Q. | Considerando que la educación tiene como objetivo desarrollar el potencial humano, la creatividad y el auténtico cambio social, mientras que un uso incorrecto de los sistemas de IA basados en datos puede obstaculizar el desarrollo humano y social; |

|  |  |
| --- | --- |
| R. | Considerando que la educación y las oportunidades educativas son un derecho fundamental; que el desarrollo, la implantación y la utilización de tecnologías de IA en el sector educativo deben clasificarse como de alto riesgo y estar sujetas a requisitos más estrictos sobre seguridad, transparencia, equidad y responsabilidad; |

|  |  |
| --- | --- |
| S. | Considerando que una conectividad generalizada de gran calidad, rapidez y seguridad, la banda ancha, unas redes de alta capacidad, unos conocimientos especializados en TI, las capacidades digitales, unos equipos e infraestructuras digitales, así como la aceptación social y un marco de políticas específicas y adaptables constituyen algunas de las condiciones previas para una implantación amplia y satisfactoria de la IA en la Unión; que es esencial que estas infraestructuras y equipos se implanten de forma equitativa en toda la Unión para hacer frente a la persistente brecha digital entre las regiones y los ciudadanos; |

|  |  |
| --- | --- |
| T. | Considerando que abordar la brecha de género en las materias de ciencia, tecnología, ingeniería, artes y matemáticas constituye una necesidad absoluta para garantizar la representación equitativa y justa de toda la sociedad en el desarrollo, la implantación y la utilización de tecnologías de IA, incluidos los programas informáticos, los algoritmos y los datos utilizados y generados por ellos; |

|  |  |
| --- | --- |
| U. | Considerando que es esencial garantizar que, desde una edad temprana, todos los ciudadanos de la Unión adquieran las capacidades necesarias para comprender mejor las capacidades y limitaciones de la IA, a fin de estar mejor preparados ante la creciente presencia de la IA y las tecnologías conexas en todos los aspectos de la actividad humana y poder aprovechar plenamente las oportunidades que estas ofrecen; que la adquisición generalizada de capacidades digitales en todos los segmentos de la sociedad de la Unión constituye una condición previa para lograr una transformación digital justa beneficiosa para todos; |

|  |  |
| --- | --- |
| V. | Considerando que, para ello, los Estados miembros deben invertir en educación digital y mediática, equipar las escuelas con infraestructuras adecuadas y los terminales necesarios, y prestar mayor atención a la enseñanza de capacidades y competencias digitales en los planes de estudios; |

|  |  |
| --- | --- |
| W. | Considerando que la IA y las tecnologías conexas pueden utilizarse para mejorar los métodos de aprendizaje y enseñanza, en concreto ayudando a los sistemas educativos a utilizar datos justos para mejorar la equidad y la calidad educativas, al tiempo que fomenta planes de estudio a medida y un mejor acceso a la educación, y mejora y automatiza determinadas tareas administrativas; que el acceso equitativo y justo a las tecnologías digitales y la conectividad de alta velocidad son necesarios para hacer que el uso de la IA sea beneficioso para el conjunto de la sociedad; que es de suma importancia garantizar que la educación digital accesible para todos, incluidas las personas de entornos desfavorecidos y las personas con discapacidad; que los resultados del aprendizaje no dependen de la tecnología en sí, sino del modo en que pueden utilizarla los profesores de manera significativa desde el punto de vista pedagógico; |

|  |  |
| --- | --- |
| X. | Considerando que la IA tiene el particular potencial de ofrecer soluciones a desafíos cotidianos del sector educativo, como la individualización del aprendizaje, la supervisión de las dificultades de aprendizaje y la automatización del contenido o el conocimiento sobre un tema específico, lo que permite ofrecer una mejor formación profesional y apoyar la transición hacia una sociedad digital; |

|  |  |
| --- | --- |
| Y. | Considerando que la IA podría tener aplicaciones prácticas en términos de reducción del trabajo administrativo de los educadores y las instituciones educativas y dejarles más tiempo para sus actividades principales de enseñanza y aprendizaje; |

|  |  |
| --- | --- |
| Z. | Considerando que las nuevas aplicaciones basadas en la IA en la educación están facilitando el progreso en diversas disciplinas, como el aprendizaje de idiomas y las matemáticas; |

|  |  |
| --- | --- |
| AA. | Considerando que las experiencias de aprendizaje personalizadas propiciadas por la IA no solo pueden contribuir a aumentar la motivación de los alumnos y permitirles alcanzar su pleno potencial, sino también disminuir las tasas de abandono escolar; |

|  |  |
| --- | --- |
| AB. | Considerando que la IA puede ayudar cada vez más a que los profesores mejoren su eficacia al permitirles comprender mejor los métodos y estilos de aprendizaje de los alumnos y ayudarles a identificar las dificultades de aprendizaje y a evaluar mejor los progresos individuales; |

|  |  |
| --- | --- |
| AC. | Considerando que en el mercado laboral digital de la Unión faltan casi medio millón de expertos en ciencias de los datos y análisis de datos, que forman parte del desarrollo y el uso de una IA de calidad y fiable; |

|  |  |
| --- | --- |
| AD. | Considerando que la implantación de la IA en la educación suscita cierta preocupación en cuanto al uso ético de los datos, los derechos de los alumnos, el acceso a los datos y la protección de los datos personales y, por tanto, conlleva riesgos para los derechos fundamentales, como la creación de modelos estereotipados de perfiles y comportamientos de los alumnos que podrían dar lugar a discriminación o a un riesgo de provocar daños al extender malas prácticas pedagógicas; |

|  |  |
| --- | --- |
| AE. | Considerando que la cultura desempeña un papel fundamental en el uso de las tecnologías de IA a gran escala y que se perfila como una disciplina clave del patrimonio cultural gracias al desarrollo de tecnologías y herramientas innovadoras, y a su aplicación eficaz, para responder a las necesidades del sector; |

|  |  |
| --- | --- |
| AF. | Considerando que las tecnologías de IA se pueden utilizar para promover y proteger el patrimonio cultural, entre otras cosas mediante el uso de herramientas digitales para preservar los emplazamientos históricos, buscando formas innovadoras que permitan facilitar un acceso más amplio y sencillo a conjuntos de datos de bienes culturales en poder de las instituciones culturales del conjunto de la Unión, al tiempo que permite que los usuarios naveguen por un gran volumen de contenidos culturales y creativos; que la promoción de normas y marcos de interoperabilidad es fundamental a este respecto; |

|  |  |
| --- | --- |
| AG. | Considerando que el uso de las tecnologías de IA con respecto al contenido cultural y creativo, en concreto de los medios de comunicación y las recomendaciones de contenido a medida, plantea problemas relativos a la protección de datos, la discriminación y la diversidad cultural y lingüística, y entraña el riesgo de producir productos discriminatorios basados en datos de entrada sesgados, además de que podría reducir el pluralismo de opiniones y de los medios de comunicación; |

|  |  |
| --- | --- |
| AH. | Considerando que con frecuencia las recomendaciones de contenido personalizadas basadas en IA pueden ajustarse mejor a las necesidades específicas de los individuos, incluidas las preferencias culturales y lingüísticas; considerando que la IA puede contribuir a la promoción de la diversidad lingüística en la Unión y a la mejora de la difusión de las obras audiovisuales europeas, en particular mediante el subtitulado automatizado y el doblaje de contenidos audiovisuales a otros idiomas; que la elaboración del contenido de los medios de comunicación en distintas lenguas es, por tanto, fundamental para apoyar la diversidad cultural y lingüística; |

|  |  |
| --- | --- |
| AI. | Considerando que la IA impulsa la innovación en las salas de redacción mediante la automatización de diversas tareas mundanas, la interpretación de datos e incluso la generación de noticias como las previsiones meteorológicas y los resultados deportivos; |

|  |  |
| --- | --- |
| AJ. | Considerando que el fomento de la lingüística computacional para una IA basada en derechos a través del plurilingüismo de Europa representa un potencial de innovación específico para crear un intercambio cultural y de información global democrático y no discriminatorio en la era digital; |

|  |  |
| --- | --- |
| AK. | Considerando que las tecnologías de IA podrían tener el potencial de favorecer la educación de personas con necesidades especiales, así como la accesibilidad de los contenidos culturales y creativos de las personas con discapacidad; que la IA habilita soluciones como el reconocimiento de voz, los asistentes virtuales y las representaciones digitales de objetos físicos; que las creaciones digitales ya están cumpliendo su función en la puesta a disposición de esos contenidos para las personas con discapacidad; |

|  |  |
| --- | --- |
| AL. | Considerando que las aplicaciones de IA están omnipresentes en el sector audiovisual, en particular en las plataformas de contenidos audiovisuales; |

|  |  |
| --- | --- |
| AM. | Considerando que las tecnologías de IA contribuyen, por lo tanto, a la creación, la planificación, la gestión, la producción, la distribución, la localización y el consumo de productos de medios audiovisuales; |

|  |  |
| --- | --- |
| AN. | Considerando que aunque la IA puede utilizarse para generar contenidos falsos, como los deep fakes (falsedad profunda), que crecen exponencialmente y constituyen una amenaza inminente para la democracia, también puede utilizarse como una herramienta inestimable para identificar y combatir de forma inmediata esa actividad maliciosa, por ejemplo, mediante la comprobación de los hechos en tiempo real o el etiquetado de contenidos; que la mayoría de los materiales deep fake son fáciles de detectar; que, al mismo tiempo, las herramientas de detección operadas por IA suelen tener éxito a la hora de marcar y filtrar dichos contenidos; que no se dispone de un marco jurídico sobre esta materia; |

Observaciones generales

|  |  |  |
| --- | --- | --- |
|  | 1. | Subraya la importancia estratégica de la IA y las tecnologías conexas para la Unión; destaca que el enfoque de la IA y sus tecnologías conexas deben estar centrados en el ser humano y fundamentados en los derechos humanos y la ética, de modo que la IA sea realmente un instrumento al servicio de las personas, el bien común y el interés general de los ciudadanos; |

|  |  |  |
| --- | --- | --- |
|  | 2. | Subraya que el desarrollo, la implantación y la utilización de la IA en la educación, la cultura y el sector audiovisual deben respetar plenamente los derechos, las libertades y los valores fundamentales, en particular la dignidad humana, la privacidad, la protección de los datos personales, la no discriminación y la libertad de expresión e información, así como la diversidad cultural y los derechos de propiedad intelectual, consagrados en los Tratados de la Unión y la Carta; |

|  |  |  |
| --- | --- | --- |
|  | 3. | Afirma que los sectores educativo, cultural y audiovisual son ámbitos sensibles por lo que respecta al uso de la IA y las tecnologías conexas, ya que pueden influir en las piedras angulares de los derechos fundamentales y los valores de nuestra sociedad; destaca, por consiguiente que en el desarrollo, la implantación y la utilización de la IA y las tecnologías conexas deben observarse los principios éticos, incluidos los programas informáticos, los algoritmos y los datos que utilizan y producen; |

|  |  |  |
| --- | --- | --- |
|  | 4. | Recuerda que los algoritmos y la IA deben integrar los principios éticos desde el proceso de diseño, sin sesgos incorporados, de forma que garantice un máximo nivel de protección de los derechos fundamentales; |

|  |  |  |
| --- | --- | --- |
|  | 5. | Reitera la importancia de desarrollar la IA y las tecnologías conexas para su utilización en el aprendizaje profundo de calidad, compatibles e inclusivas que respeten y defiendan los valores de la Unión, sobre todo la igualdad de género, el multilingüismo y las condiciones necesarias para el diálogo intercultural, dado que el uso de datos de baja calidad, obsoletos, incompletos o incorrectos puede dar lugar a predicciones deficientes y, a su vez, a discriminación y sesgo; destaca que es fundamental desarrollar capacidades tanto a escala nacional como de la Unión para mejorar la recopilación, la seguridad, la sistematización y la transferibilidad de los datos, sin afectar a la privacidad; toma nota de la propuesta de la Comisión de crear un espacio único europeo de datos; |

|  |  |  |
| --- | --- | --- |
|  | 6. | Recuerda que la IA puede dar lugar a prejuicios y, por consiguiente, a diversas formas de discriminación por razón de sexo, raza, color, origen étnico o social, características genéticas, lengua, religión o convicciones, opinión política o de otra índole, pertenencia a una minoría nacional, patrimonio, nacimiento, discapacidad, edad u orientación sexual; recuerda, en este sentido, que deben garantizarse los derechos de todas las personas y que la IA y las tecnologías conexas no deben ser discriminatorias en modo alguno; |

|  |  |  |
| --- | --- | --- |
|  | 7. | Destaca que dichos prejuicios y discriminaciones pueden derivarse de conjuntos de datos ya sesgados que reflejan la discriminación ya existente en la sociedad; recuerda, en este contexto, que es esencial que participen las partes interesadas pertinentes, incluida la sociedad civil, a fin de evitar que se incluyan inadvertidamente prejuicios de género, sociales y culturales en los algoritmos, sistemas y aplicaciones de la IA; subraya la necesidad de buscar la forma más eficaz de reducir los sesgos en los sistemas de IA con arreglo a normas éticas y no discriminatorias; subraya que los conjuntos de datos utilizados para entrenar la IA deben ser lo más amplios posible con objeto de representar a la sociedad de la manera mejor y más relevante, que es preciso revisar los resultados para evitar todo tipo de estereotipos, discriminaciones y sesgos y que, cuando proceda, debe utilizarse la IA para detectar y rectificar el sesgo humano que pueda existir; insta a la Comisión a que promueva y facilite la puesta en común de estrategias en materia de eliminación de sesgos para los datos; |

|  |  |  |
| --- | --- | --- |
|  | 8. | Pide a la Comisión y a los Estados miembros que tengan en cuenta los aspectos éticos, inclusive desde una perspectiva de género, al elaborar las políticas y la legislación en materia de IA, y que, en su caso, adapten la legislación vigente, incluidos los programas de la Unión y las directrices éticas para el uso de la IA; |

|  |  |  |
| --- | --- | --- |
|  | 9. | Pide a la Comisión y a los Estados miembros que elaboren medidas que incorporen plenamente la dimensión de género, como campañas de sensibilización, formación y planes de estudios, que proporcionen información a los ciudadanos sobre el funcionamiento de los algoritmos y su impacto en su vida cotidiana; les pide, además, que fomenten la igualdad de género en las mentalidades y las condiciones de trabajo que conduzcan al desarrollo de productos tecnológicos y entornos de trabajo más inclusivos; insta a la Comisión y a los Estados miembros a que velen por que se incluya la formación en capacidades digitales e IA en los planes de estudio escolares de manera accesible para todos, como una forma de cerrar la brecha digital de género; |

|  |  |  |
| --- | --- | --- |
|  | 10. | Subraya que es necesario formar a los trabajadores y educadores que se ocupan de cuestiones relativas a la IA con el fin de promover la capacidad de detectar y corregir prácticas discriminatorias por razón de género en el lugar de trabajo y en el ámbito docente, así como a los trabajadores encargados de desarrollar los sistemas y aplicaciones de IA para que puedan detectar y corregir problemas de discriminación basada en el género en los sistemas y aplicaciones de IA que desarrollen; pide que se establezcan responsabilidades claras en las empresas y en los centros docentes para velar por que no se den situaciones de discriminación por motivos de género en los lugares de trabajo y en los centros docentes; subraya que, para fines educativos y culturales, han de usarse imágenes de robots y relacionadas con la IA sin género, a menos que sea importante especificar el género por alguna razón; |

|  |  |  |
| --- | --- | --- |
|  | 11. | Destaca la importancia del desarrollo y el despliegue de aplicaciones de IA en la educación, la cultura y el sector audiovisual a la hora de recopilar datos desglosados por género y otros datos relacionados con la igualdad, y de aplicar técnicas modernas de aprendizaje automático para la eliminación de sesgos, en caso necesario, a fin de corregir los estereotipos de género y los sesgos de género susceptibles de tener efectos negativos; |

|  |  |  |
| --- | --- | --- |
|  | 12. | Pide a la Comisión que incluya la educación en el marco regulador de las aplicaciones de IA de alto riesgo, habida cuenta de la importancia de garantizar que la educación siga contribuyendo al interés público y del carácter extremadamente delicado de los datos de los alumnos de centros escolares, los estudiantes universitarios u otras personas en formación; hace hincapié en que esta introducción en el ámbito de la educación debe contar con la participación de educadores, de alumnos y de la sociedad en su conjunto, y ha de tener en cuenta las necesidades de todos y los beneficios esperados, a fin de garantizar que la IA se utilice de forma consciente y ética; |

|  |  |  |
| --- | --- | --- |
|  | 13. | Pide a la Comisión que fomente el uso de programas de la Unión tales como Horizonte Europa, Europa Digital y Erasmus+, de cara a la promoción de la investigación multidisciplinar, de proyectos piloto y de experimentos, así como del desarrollo de herramientas, también de formación, para la determinación de los sesgos de género en la IA, y de campañas de sensibilización destinadas al público en general; |

|  |  |  |
| --- | --- | --- |
|  | 14. | Hace hincapié en la necesidad de crear diversos equipos de desarrolladores e ingenieros que trabajen conjuntamente con los principales agentes de la educación, la cultura y el sector audiovisual, a fin de evitar que se incluyan involuntariamente sesgos culturales o de género en los algoritmos, los sistemas y las aplicaciones de la IA; destaca la necesidad de considerar la variedad de diferentes teorías a través de las cuales se ha desarrollado la IA hasta la fecha y que podrían seguir avanzando en el futuro; |

|  |  |  |
| --- | --- | --- |
|  | 15. | Señala que la debida diligencia encaminada a eliminar los sesgos y la discriminación contra determinados colectivos, incluidos los estereotipos de género, no debe poner freno al progreso tecnológico; |

|  |  |  |
| --- | --- | --- |
|  | 16. | Reitera la importancia de los derechos fundamentales y de la supremacía global de la legislación en materia de protección de datos y de la privacidad, imprescindible a la hora de usar dichas tecnologías; recuerda que la protección de datos y la privacidad pueden verse especialmente afectadas por la IA, en especial los datos de niños; destaca que los principios establecidos en el Reglamento general de protección de datos (RGPD) [(8)](#ntr8-C_2022015ES.01002801-E0008) son vinculantes para la implantación de la IA en este sentido; recuerda, además, que todas las aplicaciones de la IA deben respetar plenamente la legislación de la Unión en materia de protección de datos, en particular el RGPD y la Directiva sobre la privacidad y las comunicaciones electrónicas [(9)](#ntr9-C_2022015ES.01002801-E0009); destaca el derecho a obtener intervención humana cuando se utilizan la IA y las tecnologías conexas; |

|  |  |  |
| --- | --- | --- |
|  | 17. | Pide a la Comisión y a los Estados miembros que impongan una obligación de transparencia y de explicabilidad a las decisiones individuales automatizadas basadas en la IA que se hayan adoptado en el marco de las prerrogativas de los poderes públicos, y que apliquen sanciones para su cumplimiento; pide la aplicación de sistemas que utilicen la verificación y la intervención humanas por defecto, así como el respeto de las garantías procesales, incluidos el derecho de recurso y de compensación, así como el acceso a vías de reparación; |

|  |  |  |
| --- | --- | --- |
|  | 18. | Señala el impacto potencialmente negativo de la publicidad personalizada, en particular de la publicidad microsegmentada y comportamental, y del análisis de individuos, especialmente menores, sin su consentimiento, pues se inmiscuyen en la vida privada de las personas e interrogan sobre la recopilación y el uso de datos para personalizar la publicidad y ofrecer productos o servicios o fijar precios; pide por tanto a la Comisión que introduzca estrictas limitaciones en materia de publicidad dirigida basada en la recogida de datos personales, empezando por prohibir la publicidad comportamental en distintas plataformas, sin perjudicar a las pequeñas y medianas empresas (pymes); recuerda que, en la actualidad, la Directiva sobre la privacidad y las comunicaciones electrónicas solo permite la publicidad dirigida si el usuario la ha autorizado de forma expresa, pues de lo contrario la considera ilegal; pide a la Comisión que prohíba el uso de prácticas discriminatorias en relación con la prestación de servicios o productos; |

|  |  |  |
| --- | --- | --- |
|  | 19. | Destaca la necesidad de que las organizaciones de medios de comunicación estén informadas de los principales parámetros de los sistemas de IA basados en algoritmos que determinan los resultados de la clasificación y las búsquedas en plataformas de terceros, y de que los usuarios estén informados del uso de la IA en los servicios de toma de decisiones y estén facultados para establecer sus parámetros de privacidad a través de medidas transparentes y comprensibles; |

|  |  |  |
| --- | --- | --- |
|  | 20. | Destaca que la IA puede apoyar la creación de contenidos en los sectores educativo, cultural y audiovisual, junto con plataformas educativas y de información, incluidas listas de diferentes tipos de bienes culturales y múltiples fuentes de datos; advierte del riesgo de vulneración de los derechos de propiedad intelectual al combinar la IA y diferentes tecnologías con múltiples fuentes (documentos, fotos, películas) con objeto de mejorar el modo en que se muestran, buscan y visualizan los datos; pide que se utilice la IA para garantizar un elevado nivel de protección de los derechos de propiedad intelectual en el actual marco legislativo, por ejemplo alertando a las personas y a las empresas cuando corran el riesgo de infringir involuntariamente las normas o asistiendo a los titulares de estos derechos cuando realmente se vulneren las normas; subraya, por lo tanto, la importancia de disponer de un marco jurídico a escala de la Unión adecuado para la protección de los derechos de propiedad intelectual en relación con el uso de la IA; |

|  |  |  |
| --- | --- | --- |
|  | 21. | Destaca la necesidad de alcanzar un equilibrio entre el desarrollo de sistemas de IA y su utilización en la educación, la cultura y el sector audiovisual, por una parte, y la medidas de protección de la competencia y de la competitividad del mercado para todas las empresas de IA en estos sectores, por otra; destaca, a este respecto, la necesidad de alentar a las empresas a invertir en la innovación de los sistemas de IA empleados en esos sectores, evitando también que las empresas que suministran estas aplicaciones obtengan un monopolio de mercado; subraya la necesidad de que la IA se ponga a disposición de los sectores y las industrias culturales y creativos en toda Europa a fin de mantener la igualdad de condiciones y una competencia leal para todas las partes interesadas y agentes de Europa; pide a la Comisión y a los Estados miembros que, a la hora de adoptar decisiones en materia de competencia, incluidas las fusiones, presten mayor atención al papel de los datos y los algoritmos en la concentración del poder de mercado; |

|  |  |  |
| --- | --- | --- |
|  | 22. | Subraya la necesidad de abordar de forma sistemática las cuestiones sociales, éticas y jurídicas que plantean el desarrollo, la implantación y la utilización de la IA, como la transparencia y la asunción de responsabilidades con respecto a los algoritmos, la no discriminación, la igualdad de oportunidades, la libertad de expresión, la diversidad de opiniones y el pluralismo de los medios de comunicación, así como la propiedad de los datos y contenidos y la recopilación, el uso y la difusión de los datos; recomienda que se elaboren unas directrices y normas europeas comunes que protejan la privacidad, al tiempo que se hace un uso eficaz de los datos disponibles; pide transparencia en el desarrollo y la asunción de responsabilidades en el uso de los algoritmos; |

|  |  |  |
| --- | --- | --- |
|  | 23. | Pide a la Comisión que presente un marco normativo integral con el objetivo de regular horizontalmente las aplicaciones de IA y que lo complemente con normas específicas sectoriales, por ejemplo, para los servicios de comunicación audiovisual; |

|  |  |  |
| --- | --- | --- |
|  | 24. | Destaca la necesidad de inversiones en investigación e innovación sobre el desarrollo, la implantación y la utilización de la IA y sus aplicaciones en la educación, la cultura y el sector audiovisual; destaca la importancia de la inversión pública en esos servicios y el valor añadido complementario que proporcionan las asociaciones público-privadas para lograr este objetivo y desplegar todo el potencial de la IA en estos sectores, en especial en la educación, habida cuenta del importante volumen de inversiones privadas realizadas en los últimos años; pide a la Comisión que encuentre financiación adicional para fomentar la investigación y la innovación en las aplicaciones de IA en estos sectores; |

|  |  |  |
| --- | --- | --- |
|  | 25. | Subraya que los sistemas algorítmicos pueden permitir una rápida reducción de la brecha digital, pero es posible que su implementación desigual amenace con crear nuevas brechas o con acelerar el agravamiento de las ya existentes; manifiesta su preocupación por que los conocimientos y las infraestructuras no se desarrollen de forma coherente en toda la Unión, lo cual limita la accesibilidad a los productos y servicios que se basan en la IA, en particular en zonas escasamente pobladas y socioeconómicamente vulnerables; pide a la Comisión que garantice la cohesión en el reparto de beneficios de la IA y las tecnologías conexas; |

|  |  |  |
| --- | --- | --- |
|  | 26. | Pide a la Comisión que establezca requisitos aplicables a la adquisición y la implementación de la IA y las tecnologías conexas por parte de organismos del sector público de la Unión, a fin de asegurar el respeto de la legislación de la Unión y de los derechos fundamentales; destaca el valor añadido de emplear instrumentos como las consultas públicas y las evaluaciones de impacto, que deben realizarse antes de la adquisición o la implementación de sistemas de IA, tal como se recomienda en el informe del relator especial a la Asamblea General de las Naciones Unidas sobre la IA y su impacto en la libertad de opinión y expresión [(10)](#ntr10-C_2022015ES.01002801-E0010); alienta a las autoridades públicas a incentivar su desarrollo e implantación mediante la financiación y la contratación públicas de la IA; resalta la necesidad de reforzar el mercado ofreciendo a las pymes la oportunidad de participar en la contratación pública de aplicaciones de IA, con el fin de garantizar la participación de empresas tecnológicas de todos los tamaños y asegurar así la resiliencia y la competencia; |

|  |  |  |
| --- | --- | --- |
|  | 27. | Pide que se lleven a cabo auditorías independientes con regularidad para determinar si las aplicaciones de IA utilizadas y los sistemas de controles y equilibrios correspondientes se ajustan a criterios definidos, y que dichas auditorías sean examinadas por autoridades de supervisión independientes y suficientes; pide que se realicen pruebas de resistencia específicas para facilitar y garantizar el cumplimiento de las normas; |

|  |  |  |
| --- | --- | --- |
|  | 28. | Toma nota de los beneficios y los riesgos de la IA en el ámbito de la ciberseguridad y de su potencial de lucha contra la ciberdelincuencia, y hace hincapié en que las soluciones de IA tienen que ser resistentes a los ciberataques dentro del respeto de los derechos fundamentales de la Unión, especialmente la protección de los datos personales y la privacidad; destaca la importancia de supervisar el uso seguro de la IA y la necesidad de una estrecha colaboración entre los sectores público y privado para contrarrestar las vulnerabilidades de los usuarios y los riesgos resultantes; pide a la Comisión que evalúe la necesidad de una mejor prevención en lo que respecta a la ciberseguridad y las medidas de mitigación de riesgos asociados; |

|  |  |  |
| --- | --- | --- |
|  | 29. | Destaca que la crisis de la pandemia de COVID-19 puede ser considerada como un periodo de prueba para el desarrollo, la implantación y la utilización de tecnologías digitales y tecnologías relacionadas con la IA en la educación y la cultura, como han demostrado las numerosas plataformas de enseñanza a distancia y herramientas en línea destinadas a la promoción cultural utilizadas en todos los Estados miembros; pide, por lo tanto, a la Comisión que haga balance de estas experiencias a la hora de considerar un enfoque común de la Unión con respecto al creciente uso de dichas soluciones tecnológicas; |

Educación

|  |  |  |
| --- | --- | --- |
|  | 30. | Recuerda la importancia de reforzar las capacidades digitales y lograr un alto nivel de alfabetización mediática, digital e informativa en el conjunto de la Unión como requisito previo para el uso de la IA en la educación; subraya, en este sentido, la necesidad de velar por una alfabetización digital y en materia de IA en toda la Unión, en particular mediante la creación de oportunidades de formación para los profesores; insiste en que la utilización de las tecnologías de IA en las escuelas debe ayudar a reducir la brecha digital social y regional; celebra el Plan de Acción de Educación Digital actualizado de la Comisión, que aborda la utilización de la IA en la educación; pide a la Comisión, a este respecto, que convierta las capacidades digitales, la formación y la alfabetización mediática y las capacidades relacionadas con la IA en las prioridades de este plan, al tiempo que sensibiliza sobre los posibles usos indebidos y el mal funcionamiento de la IA; pide asimismo a la Comisión, a este respecto, que preste especial atención a los niños y jóvenes en situaciones precarias, que requieren un apoyo especial en el ámbito de la educación digital; insta a la Comisión a que aborde adecuadamente las iniciativas sobre la IA y la robótica en la educación en sus próximas propuestas legislativas sobre IA; insta a los Estados miembros a que inviertan en los equipos digitales de las escuelas, utilizando para este fin los fondos de la Unión; |

|  |  |  |
| --- | --- | --- |
|  | 31. | Destaca que el uso de la IA en los sistemas educativos aporta un amplio abanico de posibilidades, oportunidades y herramientas para hacerla más innovadora, inclusiva, eficiente y cada vez más eficaz, introduciendo nuevos métodos de aprendizaje de alta calidad que son rápidos, personalizados y centrados en el estudiante; subraya, sin embargo, que, dado que repercutirá en la educación y la inclusión social, debe garantizarse la disponibilidad de esos instrumentos para todos los grupos sociales, estableciendo la igualdad de acceso a la educación y el aprendizaje sin dejar a nadie atrás, especialmente a las personas con discapacidad; |

|  |  |  |
| --- | --- | --- |
|  | 32. | Subraya que para involucrarse con la IA de manera crítica y efectiva, los ciudadanos necesitan al menos una comprensión básica de esta tecnología; pide a los Estados miembros que integren campañas de sensibilización sobre la IA en sus actividades relativas a la alfabetización digital; pide a la Comisión y a los Estados miembros que promuevan planes de alfabetización digital y foros de debate para que los ciudadanos, los padres y los alumnos participen en un diálogo democrático con las autoridades públicas y las partes interesadas sobre el desarrollo, la implantación y la utilización de las tecnologías de IA en los sistemas educativos; subraya la importancia de poner a disposición de educadores y formadores, entre otros, los instrumentos y conocimientos especializados adecuados por lo que respecta a la IA y las tecnologías conexas para que sepan en qué consisten, cómo se usan y cómo se emplean correctamente y con arreglo a Derecho, a fin de evitar infracciones de los derechos de propiedad intelectual; pone de relieve, en particular, la importancia de la alfabetización digital para las personas que trabajan en los sectores de la educación y la formación, así como de la mejora de la formación digital para las personas de edad avanzada, teniendo presente que las generaciones más jóvenes ya tienen nociones básicas de estas tecnologías, puesto que han crecido con ellas; |

|  |  |  |
| --- | --- | --- |
|  | 33. | Destaca que el verdadero objetivo de la IA en nuestros sistemas educativos ha de ser lograr una educación lo más individualizada posible, ofertando al alumno itinerarios académicos personalizados según sus fortalezas y debilidades y ofreciéndole materiales didácticos ajustados a sus características, al tiempo que se mantiene la calidad educativa y el principio integrador de nuestros sistemas educativos; |

|  |  |  |
| --- | --- | --- |
|  | 34. | Recuerda el papel fundamental y polifacético que desempeñan los docentes en la educación y para hacerla inclusiva, en especial durante la primera infancia, en la que se adquieren las capacidades que permitirán avanzar a los alumnos a lo largo de sus vidas, como las relaciones personales, las capacidades de estudio, la empatía y el trabajo cooperativo; destaca, por consiguiente que no pueden emplearse las tecnologías de IA en detrimento o a expensas de la educación presencial, ya que los profesores no deben ser sustituidos por la IA o por tecnologías conexas; |

|  |  |  |
| --- | --- | --- |
|  | 35. | Subraya que los beneficios del aprendizaje derivados del uso de la IA en la educación no solo dependerán de la propia IA, sino de la manera en que los docentes la utilicen en el entorno de aprendizaje digital para hacer frente tanto a sus necesidades como a las de los estudiantes y alumnos; señala, por tanto, la necesidad de que los programadores de IA impliquen a las comunidades docentes en el desarrollo, la implantación y la utilización de tecnologías de IA siempre que sea posible, creando un entorno de unión para dar lugar a conexiones y a cooperación entre los programadores de IA, los desarrolladores, las empresas, las escuelas, los docentes y otros interesados públicos y privados para crear tecnologías de IA que sean adecuadas para entornos educativos de la vida real, reflejen la edad y la preparación evolutiva de cada alumno y cumplan las normas éticas más estrictas; destaca que las instituciones educativas deben implantar únicamente tecnologías fiables, éticas y centradas en el ser humano, que puedan ser auditadas en todas las etapas de su ciclo de vida por las autoridades públicas y la sociedad civil; destaca en este sentido las ventajas de las soluciones gratuitas y de código abierto; pide que se dote de apoyo financiero y logístico, así como de los conocimientos especializados necesarios, a las escuelas y otros centros docentes a fin de introducir soluciones para el aprendizaje del futuro; |

|  |  |  |
| --- | --- | --- |
|  | 36. | Destaca, además, la necesidad de formar constantemente a los docentes para que se adapten a la realidad de la educación basada en la IA y adquieran las capacidades y los conocimientos necesarios para utilizar las tecnologías de IA de un modo pedagógico y significativo, lo que les permite adoptar plenamente las posibilidades que esta ofrece y comprender sus limitaciones; pide que, en el futuro, la enseñanza digital forme parte de la formación de todos los docentes y que tanto el personal docente como las personas que trabajan en la educación y la formación tengan la posibilidad de formarse de forma continua a lo largo de toda su vida en el ámbito de la enseñanza digital; pide, por lo tanto, que se desarrollen programas de formación en materia de IA para profesores en todos los campos y en toda Europa; destaca, además, la importancia de reformar los programas de enseñanza dirigidos a las nuevas generaciones de docentes para permitirles adaptarse a la realidad de la educación basada en la IA, así como la importancia de elaborar y actualizar los manuales y las directrices sobre IA para docentes; |

|  |  |  |
| --- | --- | --- |
|  | 37. | Manifiesta su preocupación por la falta de programas de educación superior específicos para la IA, así como la falta de financiación pública para la IA, en todos los Estados miembros; cree que esto hace peligrar las ambiciones relacionadas con el futuro digital de Europa; |

|  |  |  |
| --- | --- | --- |
|  | 38. | Manifiesta su preocupación por el hecho de que pocos investigadores en IA siguen una trayectoria académica debido a que las empresas tecnológicas pueden ofrecer mejores salarios y menos burocracia para la investigación; cree que parte de la solución consistiría en destinar más dinero público a la investigación en IA en las universidades; |

|  |  |  |
| --- | --- | --- |
|  | 39. | Subraya la importancia de la enseñanza de capacidades digitales generales desde la infancia para subsanar el déficit en materia de competencias y lograr una mejor integración de determinados sectores de la población en el mercado de trabajo digital y la sociedad digital; señala la importancia cada vez mayor de formar a profesionales altamente cualificados de todos los campos en el ámbito de la IA, de garantizar el reconocimiento mutuo de estas cualificaciones en toda la Unión, y de mejorar las capacidades actuales y futuras de la fuerza laboral para que pueda afrontar la realidad futura del mercado laboral; anima, por lo tanto, a los Estados miembros a que evalúen su oferta educativa y la mejoren con capacidades relativas a la IA, cuando sea necesario, y pongan en marcha planes de estudios específicos para desarrolladores de IA, al tiempo que también incluyen la IA en los planes de estudios tradicionales; subraya la necesidad de garantizar el reconocimiento mutuo de las cualificaciones profesionales sobre capacidades de IA en toda la Unión, dado que varios Estados miembros están modernizando su oferta educativa con capacidades relativas a la IA y poniendo en práctica planes de estudios específicos para desarrolladores de IA; acoge con agrado los esfuerzos de la Comisión para incluir las capacidades digitales como uno de los requisitos de cualificaciones de determinadas profesiones armonizadas a nivel de la Unión en virtud de la Directiva relativa al reconocimiento de cualificaciones profesionales [(11)](#ntr11-C_2022015ES.01002801-E0011); pone de relieve la necesidad de que estos planes estén en consonancia con la lista de evaluación de las directrices éticas para una IA fiable y se felicita por la propuesta de la Comisión de transformar esta lista en un plan de estudios indicativo para los desarrolladores de IA; recuerda las necesidades especiales de la educación y formación profesionales (EFP) respecto a la IA y pide que se adopte un enfoque de colaboración en toda Europa con miras a aumentar el potencial que ofrece la IA en la EFP; destaca la importancia de formar a profesionales altamente cualificados en este ámbito, incluyendo aspectos éticos en los planes de estudios, y de apoyar a los grupos insuficientemente representados en este campo, así como de crear incentivos para aquellos profesionales que busquen empleo en la Unión; recuerda que las mujeres están insuficientemente representadas en la IA y que esto puede crear desequilibrios de género significativos en el futuro mercado laboral; |

|  |  |  |
| --- | --- | --- |
|  | 40. | Destaca la necesidad de que los gobiernos y las instituciones educativas se replanteen, reformulen y adapten sus planes de estudios a las necesidades del siglo XXI ideando programas educativos que hacen un mayor énfasis en la ciencia, la tecnología, la ingeniería, las artes y las matemáticas, a fin de preparar a los alumnos y los consumidores de cara a una mayor prevalencia de la IA y facilitar la adquisición de capacidades cognitivas; subraya, en este sentido, la importancia de diversificar este sector y de animar a los estudiantes, en particular a las mujeres y las niñas, a matricularse en los cursos de ciencia, tecnología, ingeniería, artes y matemáticas, especialmente en relación con la robótica y la IA; pide más recursos financieros y científicos para motivar a las personas cualificadas a permanecer en la Unión, al tiempo que se atrae a este tipo de personas de terceros países; observa, asimismo, el número considerable de empresas emergentes que trabajan con IA y desarrollan tecnologías de IA; hace hincapié en que las pymes necesitarán apoyo adicional y formación relacionada con la IA para cumplir con la normativa digital y en materia de IA; |

|  |  |  |
| --- | --- | --- |
|  | 41. | Señala que la automatización y el desarrollo de la IA podrían transformar de forma drástica e irreversible el empleo; reafirma que debe darse prioridad a adaptar las capacidades a las necesidades del mercado laboral del futuro, en especial en la educación y los sectores y las industrias culturales y creativos; destaca, en este contexto, la necesidad de mejorar las capacidades de la futura fuerza laboral; destaca, además, la importancia de implementar la IA para el reciclaje y el perfeccionamiento profesionales del mercado laboral europeo en los sectores y las industrias culturales y creativos, en particular en el sector audiovisual, que ya se ha visto gravemente afectado por la crisis de la COVID-19; |

|  |  |  |
| --- | --- | --- |
|  | 42. | Pide a la Comisión que evalúe el nivel de riesgo de la introducción de la IA en el sector educativo, a fin de determinar si las aplicaciones de IA en dicho sector deben incluirse en el marco regulador de alto riesgo y con arreglo a requisitos más estrictos sobre la seguridad, la transparencia, la equidad y la responsabilidad, habida cuenta de la importancia de garantizar que la educación siga contribuyendo al interés público y del carácter extremadamente delicado de los datos de los alumnos, los estudiantes u otras personas en formación; subraya que es preciso revisar los conjuntos de datos utilizados para entrenar la IA a fin de evitar que se afiancen ciertos estereotipos y otros tipos de sesgos; |

|  |  |  |
| --- | --- | --- |
|  | 43. | Pide a la Comisión que proponga un marco jurídico con perspectivas de futuro por el que se rija la IA, a fin de establecer medidas y normas éticas jurídicamente vinculantes para garantizar los derechos y las libertades fundamentales, y asegurar el desarrollo de aplicaciones de IA fiables, éticas y técnicamente sólidas, incluidas herramientas, servicios y productos digitales integrados, como la robótica y el aprendizaje automático, con especial consideración por la educación; pide que los datos utilizados y producidos por las aplicaciones de IA en la educación sean accesibles, interoperables y de alta calidad, y que se compartan con las autoridades públicas competentes, de forma accesible y respetando la legislación sobre derechos de autor y secretos comerciales; recuerda que los niños constituyen un grupo vulnerable que merece una atención y una protección especiales; pone de relieve que, si bien la IA puede ser beneficiosa para la educación, es necesario tener en cuenta sus aspectos tecnológicos, reglamentarios y sociales, con unas garantías adecuadas y un enfoque centrado en el ser humano que garantice en última instancia que los seres humanos puedan controlar y corregir en todo momento las decisiones del sistema; señala que, en este sentido, los profesores deben controlar y supervisar cualquier implantación y uso de tecnologías de IA en escuelas y universidades, cuando interactúen con alumnos y estudiantes; recuerda que los sistemas de IA no deben tomar ninguna decisión final que podría afectar a las oportunidades educativas, como la evaluación final de los alumnos, sin una completa supervisión humana; recuerda que las decisiones automatizadas sobre personas físicas basadas en la elaboración de perfiles que tengan repercusiones jurídicas o similares deben estar estrictamente limitadas y siempre exigir el derecho a la intervención humana y a una explicación de conformidad con el RGPD; subraya que este extremo debe cumplirse estrictamente, en particular en el sistema educativo, cuando se toman decisiones relacionadas con las oportunidades y posibilidades futuras; |

|  |  |  |
| --- | --- | --- |
|  | 44. | Expresa una viva preocupación ante el hecho de que las escuelas y otros proveedores de servicios de educación sean cada vez más dependientes de los servicios de tecnología educativa, incluidas aplicaciones de IA, que ofrecen unas pocas empresas privadas que dominan el mercado; considera que esta situación debe examinarse atendiendo a las normativas de la Unión en materia de competencia; destaca la importancia, en este sentido, de apoyar la incorporación de la IA por parte de las pymes en los sectores educativo, cultural y audiovisual a través de unos incentivos adecuados que creen unas condiciones de competencia equitativas; pide, en este contexto, que se invierta en las empresas informáticas europeas con miras a desarrollar las tecnologías necesarias en la Unión, habida cuenta de que las principales empresas que actualmente ofrecen IA están establecidas fuera de la Unión; recuerda con firmeza que los datos de menores están estrictamente protegidos por el RGPD, y que solo pueden tratarse si son completamente anónimos o si el titular de la responsabilidad parental ha dado su consentimiento, en estricto cumplimiento de los principios de minimización de datos y de limitación de finalidad; pide, por lo tanto, una protección y garantías más sólidas en el sector educativo por lo que respecta a los datos de niños y solicita a la Comisión que adopte medidas más eficaces en este sentido; pide que se facilite información clara a los niños y a sus padres sobre el posible uso y tratamiento de los datos de los niños, también a través de campañas de sensibilización e información; |

|  |  |  |
| --- | --- | --- |
|  | 45. | Destaca los riesgos específicos que plantea el uso de las aplicaciones de reconocimiento automatizado basadas en la IA, que se están desarrollando a buen ritmo; recuerda que los niños constituyen un grupo especialmente sensible; recomienda a la Comisión y a los Estados miembros que prohíban la identificación biométrica automatizada, como el reconocimiento facial con fines educativos y culturales, en los centros educativos y culturales, a menos que su uso esté autorizado por la ley; |

|  |  |  |
| --- | --- | --- |
|  | 46. | Subraya la necesidad de aumentar las posibilidades de elección del cliente, de estimular la competencia y de ampliar la gama de servicios que ofrecen las tecnologías de IA con fines educativos; alienta, en este sentido, a las autoridades públicas a incentivar su desarrollo e implantación de tecnologías de IA mediante la financiación y la contratación públicas; considera que las tecnologías utilizadas por proveedores de servicios de educación públicos o adquiridas con financiación pública deben basarse en tecnologías de código abierto; |

|  |  |  |
| --- | --- | --- |
|  | 47. | Observa que la innovación en la educación está atrasada, como ha puesto de relieve la pandemia de COVID-19 y el consiguiente cambio a la enseñanza en línea y a distancia; destaca que las herramientas educativas basadas en la IA, como las de evaluación y detección de dificultades de aprendizaje, pueden mejorar la calidad y la eficacia del aprendizaje en línea; |

|  |  |  |
| --- | --- | --- |
|  | 48. | Destaca que la cobertura de internet y la infraestructura digital de nueva generación revisten una importancia estratégica para ofrecer una educación basada en la IA a los ciudadanos europeos; pide a la Comisión, a la luz de la crisis de la COVID-19, que elabore una estrategia para una 5G europea que garantice la resiliencia estratégica de Europa y que no dependa de tecnologías procedentes de Estados que no comparten nuestros valores; |

|  |  |  |
| --- | --- | --- |
|  | 49. | Pide que se cree una red paneuropea de universidades e investigación centrada en la IA en la educación, que debe reunir a instituciones y expertos de todos los campos para que examinen el impacto de la IA en el aprendizaje e identifiquen soluciones para mejorar su potencial; |

Patrimonio cultural

|  |  |  |
| --- | --- | --- |
|  | 50. | Reitera la importancia del acceso a la cultura para todos los ciudadanos en toda la Unión; destaca, en este contexto, la importancia del intercambio de buenas prácticas entre los Estados miembros, los centros educativos, las instituciones culturales y otras partes interesadas; considera, además, de vital importancia que se saque el máximo provecho de los recursos disponibles a escala nacional y de la Unión para seguir mejorando el acceso a la cultura; subraya que son muchas las opciones que existen para acceder a la cultura y que han de explorarse todas ellas para determinar cuál es la más apropiada; destaca la importancia de garantizar la coherencia con el Tratado de Marrakech; |

|  |  |  |
| --- | --- | --- |
|  | 51. | Subraya que las tecnologías de IA pueden desempeñar un papel significativo en la conservación, la restauración, la documentación, el análisis, la promoción y la gestión del patrimonio cultural tangible e intangible, entre otras cosas mediante el seguimiento y el análisis de los cambios en los sitios del patrimonio cultural causados por amenazas como el cambio climático, las catástrofes naturales y los conflictos armados; |

|  |  |  |
| --- | --- | --- |
|  | 52. | Destaca que las tecnologías de IA pueden aumentar la visibilidad de la diversidad cultural de Europa; señala que esas tecnologías ofrecen nuevas oportunidades a las instituciones culturales, como los museos, para que desarrollen herramientas innovadoras destinadas a catalogar artefactos, así como a documentar los sitios del patrimonio cultural y hacerlos más accesibles, incluso mediante el modelado 3D y la realidad virtual aumentada; subraya que la IA también permitirá que los museos y las galerías de arte introduzcan servicios interactivos y personalizados para los visitantes, proporcionándoles una lista de artículos sugeridos en función de sus intereses, tanto en persona como en línea; |

|  |  |  |
| --- | --- | --- |
|  | 53. | Destaca que el uso de la IA anunciará nuevos enfoques, instrumentos y metodologías innovadores que permitirán a los trabajadores e investigadores culturales crear bases de datos uniformes con esquemas de clasificación adecuados, así como metadatos multimedia, que les permitirán establecer conexiones entre diferentes objetos del patrimonio cultural y aumentar así el conocimiento, además de proporcionar una mejor comprensión del patrimonio cultural; |

|  |  |  |
| --- | --- | --- |
|  | 54. | Subraya que las buenas prácticas en tecnologías de IA para la protección y la accesibilidad del patrimonio cultural, en particular para las personas con discapacidad, se deben definir y compartir entre las redes culturales del conjunto de la Unión, al tiempo que se fomenta la investigación sobre los distintos usos de la IA para promover el valor, la accesibilidad y la preservación del patrimonio cultural; pide a la Comisión y a los Estados miembros que promuevan las oportunidades que ofrece el uso de la IA en los sectores y las industrias culturales y creativos; |

|  |  |  |
| --- | --- | --- |
|  | 55. | Señala que las tecnologías de IA también se pueden utilizar para controlar el tráfico ilícito de objetos culturales y la destrucción de bienes culturales, además de respaldar la recopilación de datos destinados a las actividades de recuperación y reconstrucción del patrimonio cultural tanto material como inmaterial; señala, en particular, que el desarrollo, la implementación y la utilización de la IA en los procedimientos de inspección de aduanas pueden apoyar las actuaciones encaminadas a evitar el tráfico ilícito de patrimonio cultural, en particular complementando los sistemas que permiten a las autoridades aduaneras centrar sus esfuerzos y recursos en aquellos elementos que plantean un mayor riesgo; |

|  |  |  |
| --- | --- | --- |
|  | 56. | Señala que la IA podría beneficiar al sector de la investigación, entre otras cosas, gracias al papel que puede desempeñar la analítica predictiva a la hora de afinar el análisis de datos, por ejemplo en relación con la adquisición y circulación de bienes culturales; subraya la necesidad de que la Unión Europea aumente las inversiones y favorezca las asociaciones entre la industria y el mundo académico para reforzar la excelencia de la investigación a nivel europeo; |

|  |  |  |
| --- | --- | --- |
|  | 57. | Recuerda que la IA puede ser una herramienta revolucionaria para promover el turismo cultural y destaca su considerable potencial para predecir los flujos turísticos, lo que podría ayudar a las ciudades que sufren el exceso de turismo; |

Sectores e industrias culturales y creativos

|  |  |  |
| --- | --- | --- |
|  | 58. | Deplora que la cultura no se encuentre entre las prioridades señaladas en las opciones y recomendaciones de políticas sobre IA a escala de la Unión, en concreto en el Libro Blanco de la Comisión, de 19 de febrero de 2020, sobre la IA; pide que se revisen estas recomendaciones para hacer de la cultura una prioridad política en materia de IA a escala de la Unión; pide a la Comisión y a los Estados miembros que aborden las posibles repercusiones del desarrollo, la implantación y la utilización de tecnologías de IA en los sectores y las industrias culturales y creativos, y que aprovechen al máximo el plan de recuperación de Next Generation EU para digitalizar estos sectores a fin de responder a nuevas formas de consumo en el siglo XXI; |

|  |  |  |
| --- | --- | --- |
|  | 59. | Recuerda que la IA también ha llegado a los sectores y las industrias culturales y creativos, y que se manifiesta, por ejemplo, mediante la creación automatizada de textos, vídeos y piezas musicales; subraya que los creadores y los trabajadores culturales también deben disponer de las capacidades y la formación digitales necesarias a fin de poder hacer uso de la IA y otras tecnologías digitales; pide a la Comisión y a los Estados miembros que fomenten las oportunidades que ofrece el uso de la IA en los sectores y las industrias culturales y creativos, haciendo que haya más financiación disponible de los presupuestos de ciencia e investigación, y que creen centros de creatividad digital en los que los creadores y los trabajadores culturales puedan desarrollar aplicaciones de IA, aprender sobre la utilización de estas y otras tecnologías y probar su uso; |

|  |  |  |
| --- | --- | --- |
|  | 60. | Reconoce que las tecnologías de IA tienen el potencial de impulsar un número creciente de puestos de trabajo en los sectores y las industrias culturales y creativos, propiciado por un mayor acceso a esas tecnologías; destaca, por lo tanto, la importancia de potenciar la alfabetización digital entre los sectores y las industrias culturales y creativos para que estas tecnologías sean más inclusivas, utilizables, aprendibles e interactivas para estos sectores; |

|  |  |  |
| --- | --- | --- |
|  | 61. | Hace hincapié en que la interacción entre la IA y los sectores y las industrias culturales y creativos es compleja y requiere una evaluación en profundidad; acoge con satisfacción el informe de la Comisión de noviembre de 2020 titulado «Trends and Developments in Artificial Intelligence — Challenges to the IPR Framework» (Tendencias y avances en inteligencia artificial: retos para el marco de los derechos de propiedad intelectual) el «Estudio sobre derechos de autor y nuevas tecnologías: Gestión de datos de derechos de autor e inteligencia artificial»; subraya la importancia de aclarar las condiciones de uso de los contenidos protegidos por derechos de autor como datos de entrada (imágenes, música, películas, bases de datos, etc.) y en la elaboración de productos culturales y audiovisuales, creados por el hombre con la ayuda de la IA o generados de forma autónoma por tecnologías de IA; pide a la Comisión que estudie el impacto de la IA en los sectores creativos europeos; reitera la importancia de los datos europeos y acoge con satisfacción las declaraciones realizadas por la Comisión a este respecto, así como el lugar prominente que ocupan la inteligencia artificial y las tecnologías conexas en su programa de trabajo; |

|  |  |  |
| --- | --- | --- |
|  | 62. | Subraya la necesidad de definir una visión coherente de las tecnologías de IA en los sectores y las industrias culturales y creativos a escala de la Unión; pide a los Estados miembros que refuercen la atención que se presta a la cultura en sus estrategias nacionales de IA para garantizar que los sectores y las industrias culturales y creativos acojan la innovación, sigan siendo competitivos y que la diversidad cultural se proteja y fomente en el conjunto de la Unión en el nuevo contexto digital; |

|  |  |  |
| --- | --- | --- |
|  | 63. | Destaca la importancia de crear un entorno heterogéneo en toda la Unión para las tecnologías de IA a fin de fomentar la diversidad cultural y apoyar a las minorías y la diversidad lingüística, que fortalezca al mismo tiempo los sectores y las industrias culturales y creativos mediante plataformas en línea que permitan la inclusión y la participación de los ciudadanos de la Unión; |

|  |  |  |
| --- | --- | --- |
|  | 64. | Pide a la Comisión y a los Estados miembros que apoyen un debate democrático sobre las tecnologías de IA y que proporcionen un foro regular de debate con la sociedad civil, los investigadores, los círculos académicos y las partes interesadas, a fin de dar a conocer las ventajas y los desafíos de su uso en los sectores las industrias culturales y creativos; subraya, en este contexto, el papel del arte y la cultura en la enseñanza de la IA y el debate social al respecto, dado su potencial para ilustrar y hacer tangible el aprendizaje automático, por ejemplo, en el ámbito de la música; |

|  |  |  |
| --- | --- | --- |
|  | 65. | Pide a la Comisión y a los Estados miembros que aborden la cuestión del contenido generado con IA y los retos que plantea a la autoría y la infracción de los derechos de autor; pide a la Comisión, en este sentido, que evalúe el impacto de la IA y las tecnologías conexas en el sector audiovisual y los sectores y las industrias culturales y creativos, a fin de promover la diversidad cultural y lingüística, al tiempo que se respetan los derechos de los autores y los artistas intérpretes o ejecutantes; |

|  |  |  |
| --- | --- | --- |
|  | 66. | Insiste en que el Instituto Europeo de Innovación y Tecnología, en particular su futura comunidad de conocimiento e innovación dedicada a las industrias culturales y creativas, debe desempeñar un papel destacado en la elaboración de una estrategia europea sobre la IA para los sectores educativo, cultural y audiovisual y puede contribuir a acelerar y obtener aplicaciones de IA en estos sectores; |

|  |  |  |
| --- | --- | --- |
|  | 67. | Observa que la IA ya ha entrado en la cadena de valor creativa a nivel de creación, producción, difusión y consumo, y por lo tanto tiene un impacto inmenso en los sectores y las industrias culturales y creativos, incluida la industria musical y la cinematográfica, el arte y la literatura, mediante nuevos instrumentos, programas informáticos y producción asistida por la IA que se utilizan para facilitar la producción, a la vez que proporcionan inspiración y permiten que el público en general pueda crear contenidos; |

|  |  |  |
| --- | --- | --- |
|  | 68. | Pide a la Comisión que lleve a cabo estudios y considere opciones de políticas para hacer frente al impacto perjudicial del control basado en la IA de los servicios de emisión en continuo en línea diseñados para limitar la diversidad o maximizar los beneficios, incluyendo o dando prioridad a determinados contenidos en la oferta a los consumidores, así como la forma en que esto repercute en la diversidad cultural y en las ganancias de los creadores; |

|  |  |  |
| --- | --- | --- |
|  | 69. | Considera que la IA es cada vez más útil para los sectores y las industrias culturales y creativos en las actividades de creación y producción; |

|  |  |  |
| --- | --- | --- |
|  | 70. | Hace hincapié en el papel que desempeña la personalidad de los autores en la expresión de las decisiones libres y creativas que constituyen la originalidad de las obras [(12)](#ntr12-C_2022015ES.01002801-E0012); subraya la importancia de las limitaciones y excepciones a los derechos de autor al utilizar contenidos como datos de entrada, en particular en la educación, el ámbito universitario y la investigación, así como en la elaboración de productos culturales y creativos, incluidos los productos audiovisuales y los contenidos generados por los usuarios; |

|  |  |  |
| --- | --- | --- |
|  | 71. | Considera que debe contemplarse la protección de las creaciones técnicas y artísticas generadas por la IA, con el fin de fomentar esta forma de creatividad; |

|  |  |  |
| --- | --- | --- |
|  | 72. | Destaca que, en el contexto de la economía de los datos, es posible conseguir una mejor gestión de los datos sobre derechos de autor, con el fin de remunerar mejor a los autores y artistas intérpretes o ejecutantes, en particular para permitir la rápida identificación de la autoría y la titularidad de los derechos sobre contenidos, con lo que se contribuye a reducir el número de obras huérfanas; subraya asimismo que las soluciones tecnológicas de IA deben utilizarse para mejorar la infraestructura de datos sobre derechos de autor y la interconexión de metadatos en las obras, así como para facilitar la obligación de transparencia establecida en el artículo 19 de la Directiva (UE) 2019/790 sobre los derechos de autor y derechos afines en el mercado único digital [(13)](#ntr13-C_2022015ES.01002801-E0013), de cara a la producción de una información actualizada, pertinente y exhaustiva sobre la explotación de las obras e interpretaciones o ejecuciones de autores y artistas intérpretes o ejecutantes, en particular cuando sean varios los titulares de derechos o en caso de complejidad de los sistemas de licencias; |

|  |  |  |
| --- | --- | --- |
|  | 73. | Pide que el plan de acción sobre la propiedad intelectual anunciado por la Comisión aborde la cuestión de la IA y su impacto en los sectores creativos, teniendo en cuenta la necesidad de encontrar un equilibrio entre la protección de los derechos de propiedad intelectual y el estímulo creativo en los ámbitos de la educación, la cultura y la investigación; considera que la Unión puede ser pionera en la creación de tecnologías de IA si adopta un marco normativo operativo y políticas públicas proactivas, en particular en materia de programas de formación y de apoyo financiero a la investigación; pide a la Comisión que evalúe el impacto de los derechos de propiedad intelectual en la investigación y el desarrollo de la IA y las tecnologías conexas, así como en los sectores y las industrias culturales y creativos, incluido el sector audiovisual, en particular en lo que respecta a la autoría, la remuneración justa de los autores y las cuestiones afines; |

|  |  |  |
| --- | --- | --- |
|  | 74. | Pide a la Comisión que examine los aspectos jurídicos de los productos obtenidos con tecnologías de IA, así como de los contenidos culturales creados utilizando la IA y las tecnologías conexas; considera importante apoyar la producción de contenidos culturales; reitera, no obstante, la importancia de salvaguardar el marco único de la Unión en materia de derechos de propiedad intelectual y de que todo cambio se realice con el debido y necesario cuidado, para que no se rompa el frágil equilibrio existente; insta a la Comisión a que proceda a una evaluación en profundidad sobre la posible personalidad jurídica de los contenidos elaborados con IA, así como a la aplicación de derechos de propiedad intelectual a los contenidos generados con IA y a los contenidos creados usando herramientas de IA; |

|  |  |  |
| --- | --- | --- |
|  | 75. | Insta, además, a la Comisión a que, en estrecha cooperación con los Estados miembros y las partes interesadas pertinentes, considere la posibilidad de elaborar mecanismos o sistemas de verificación para los editores, autores y creadores a fin de ayudarles a verificar qué contenidos pueden utilizar y a determinar más fácilmente qué está protegido por la legislación relativa a los derechos de propiedad intelectual; |

|  |  |  |
| --- | --- | --- |
|  | 76. | Pide a la Comisión que establezca normas que garanticen una verdadera interoperabilidad de los datos, de manera que el contenido adquirido en una plataforma sea accesible desde cualquier herramienta digital, independientemente de la marca; |

Sector audiovisual

|  |  |  |
| --- | --- | --- |
|  | 77. | Observa que la IA se usa a menudo para permitir que algoritmos de toma de decisiones automatizada divulguen y ordenen el contenido cultural y creativo que se muestra a los usuarios; destaca que estos algoritmos resultan opacos para los usuarios; subraya que los algoritmos utilizados por los proveedores de servicios de comunicación, las plataformas de uso compartido de vídeos y los servicios de emisión de música en continuo se deben diseñar de manera que no favorezcan obras específicas, al limitar sus sugerencias «personalizadas» a las obras más populares, con fines de publicidad dirigida o comerciales o para maximizar los beneficios; pide que los algoritmos de recomendaciones y la publicidad personalizada sean explicables y transparentes siempre que sea posible, con el objeto de ofrecer a los consumidores una información precisa y exhaustiva sobre estos procesos y contenidos y asegurar que los servicios personalizados no sean discriminatorios y se ajusten al Reglamento sobre las relaciones entre plataforma y empresas [(14)](#ntr14-C_2022015ES.01002801-E0014) recientemente adoptado y la Directiva de ámbito general sobre el nuevo marco para los consumidores [(15)](#ntr15-C_2022015ES.01002801-E0015); pide a la Comisión que aborde las formas en las que se optimizan los algoritmos de moderación de contenidos para atraer a los usuarios y proponga recomendaciones destinadas a aumentar el control de los usuarios sobre los contenidos que visualizan, garantizando y aplicando adecuadamente el derecho de los usuarios a renunciar a los servicios recomendados y personalizados; subraya además que los consumidores deben ser informados cuando interactúen con un proceso automatizado de toma de decisiones, y que sus opciones y actividades no deben estar limitadas; destaca que ha de contrarrestarse el uso de mecanismos de IA para la vigilancia comercial de los consumidores, incluso si esta atañe a «servicios gratuitos», garantizando que se ajusta estrictamente a los derechos fundamentales y al RGPD; hace hincapié en que todas las modificaciones normativas deben tener en cuenta el efecto sobre los consumidores vulnerables; |

|  |  |  |
| --- | --- | --- |
|  | 78. | Subraya que lo que es ilegal fuera de línea también debe serlo en línea; señala que las herramientas de IA tienen el potencial de combatir los contenidos ilegales en línea, y ya están siendo usadas para ello, pero recuerda firmemente que, en el marco de la próxima Ley de Servicios Digitales, dichas herramientas deben respetar siempre los derechos fundamentales, especialmente la libertad de expresión e información, y no deben conducir a una obligación de control general de internet, ni a la eliminación de material legal difundido con fines educativos, periodísticos, artísticos o de investigación; destaca que los algoritmos solo deben utilizarse como mecanismo de alerta en la moderación de contenidos, sujeto a la intervención humana, ya que la IA no es capaz de distinguir de manera fiable entre contenidos legales, ilegales y dañinos; señala que los términos y condiciones siempre deben incluir las directrices de la Unión, así como un procedimiento de recurso; |

|  |  |  |
| --- | --- | --- |
|  | 79. | Recuerda además que no debe existir una supervisión general, como se establece en el artículo 15 de la Directiva sobre el comercio electrónico [(16)](#ntr16-C_2022015ES.01002801-E0016), y que la supervisión de contenidos específicos para servicios de medios audiovisuales debe ajustarse a las excepciones previstas en la legislación de la Unión; recuerda que las aplicaciones de IA deben respetar los protocolos internos y externos de seguridad, cuya naturaleza debe ser técnicamente precisa y sólida; considera que esto debe extenderse a su funcionamiento tanto en condiciones normales como en situaciones desconocidas e imprevisibles; |

|  |  |  |
| --- | --- | --- |
|  | 80. | Destaca, además, que el uso de la IA en las recomendaciones de contenidos basadas en algoritmos por parte de los proveedores de servicios de comunicación, los servicios de vídeo a la carta y las plataformas de uso compartido de vídeos puede ejercer un grave impacto en la diversidad cultural y lingüística, en concreto en lo que respecta a la obligación de garantizar el predominio de obras europeas con arreglo al artículo 13 de la Directiva de servicios de comunicación audiovisual (Directiva (UE) 2018/1808 [(17)](#ntr17-C_2022015ES.01002801-E0017)); observa que esas mismas preocupaciones son igualmente pertinentes para los servicios de emisión de música en continuo y pide que se elaboren indicadores para evaluar la diversidad cultural y la promoción de las obras europeas en esos servicios; |

|  |  |  |
| --- | --- | --- |
|  | 81. | Pide a la Comisión y a los Estados miembros que ofrezcan un mayor impulso financiero al desarrollo, la implantación y la utilización de la IA en el ámbito del subtitulado automatizado y el doblaje de obras audiovisuales europeas, a fin de fomentar la diversidad cultural y lingüística en la Unión y mejorar la difusión de contenidos audiovisuales europeos y el acceso a estos; |

|  |  |  |
| --- | --- | --- |
|  | 82. | Pide a la Comisión que establezca un marco ético claro para el uso de las tecnologías de IA en los medios de comunicación, a fin de prevenir todas las formas de discriminación y garantizar el acceso a contenidos que sean cultural y lingüísticamente diversos en el conjunto de la Unión, basados en algoritmos transparentes, inclusivos y por los que se rindan cuentas, que al mismo tiempo respeten las elecciones y preferencias de las personas; |

|  |  |  |
| --- | --- | --- |
|  | 83. | Señala que la IA puede desempeñar un papel muy importante en la difusión rápida de desinformación; subraya, en este sentido, que el marco debe abordar también el uso indebido de la IA para difundir noticias falsas e información errónea y desinformación en línea, al tiempo que evita la censura; pide, por tanto, a la Comisión que evalúe los riesgos de que la IA contribuya a la propagación de desinformación en el ámbito digital, además de soluciones sobre cómo podría utilizarse la IA para contrarrestar la desinformación; |

|  |  |  |
| --- | --- | --- |
|  | 84. | Pide a la Comisión que adopte medidas normativas para que los proveedores de servicios de comunicación tengan acceso a los datos que se generan en relación con la oferta y difusión de sus contenidos en plataformas de terceros; subraya que la comunicación de los datos en su totalidad por parte de los operadores de las plataformas a los proveedores de servicios de comunicación resulta esencial para que estos últimos puedan tener un mejor entendimiento de su público y así mejorar sus servicios conforme a las expectativas de este; |

|  |  |  |
| --- | --- | --- |
|  | 85. | Destaca la importancia de aumentar la financiación a Europa Digital, Europa Creativa y Horizonte Europa para reforzar el apoyo al sector audiovisual europeo, a saber, mediante proyectos de investigación colaborativa e iniciativas piloto experimentales sobre el desarrollo, la implantación y la utilización de tecnologías éticas de IA; |

|  |  |  |
| --- | --- | --- |
|  | 86. | Pide a los Estados miembros que colaboren estrechamente en la elaboración de programas de formación para el reciclaje y el perfeccionamiento profesionales de los trabajadores a fin de prepararlos mejor para la transición social que implicará la utilización de las tecnologías de IA en el sector audiovisual; |

|  |  |  |
| --- | --- | --- |
|  | 87. | Considera que la IA tiene un enorme potencial para ayudar a impulsar la innovación en el sector de los medios informativos; cree que la integración generalizada de la IA, por ejemplo para la generación y distribución de contenidos, la supervisión de la sección de comentarios, el uso del análisis de datos y la identificación de fotos y vídeos adulterados, es fundamental para ahorrar costes en las salas de redacción a la luz de la disminución de los ingresos por publicidad y para dedicar más recursos a la información sobre el terreno y así incrementar la calidad y la variedad de los contenidos; |

Desinformación en línea: deep fakes

|  |  |  |
| --- | --- | --- |
|  | 88. | Hace hincapié en la importancia de asegurar el pluralismo de los medios de comunicación, tanto en línea como fuera de línea, a fin de garantizar la calidad, la diversidad y la fiabilidad de la información disponible; |

|  |  |  |
| --- | --- | --- |
|  | 89. | Recuerda que la precisión, la independencia, la equidad, la confidencialidad, la humanidad, la responsabilidad y la transparencia, como fuerzas motrices subyacentes a los principios de la libertad de expresión y de acceso a información en los medios de comunicación en línea y fuera de línea, son decisivas en la lucha contra la información errónea y la desinformación; |

|  |  |  |
| --- | --- | --- |
|  | 90. | Constata el importante papel que desempeñan unos medios de comunicación independientes en la cultura y la vida diaria de los ciudadanos; subraya que la desinformación constituye un grave problema, dado que por lo general infringen constantemente los derechos de autor y los derechos de propiedad intelectual; insta a la Comisión a que, en cooperación con los Estados miembros, prosiga su labor de concienciación sobre este problema y contrarreste los efectos de la desinformación, así como los problemas relacionados con las fuentes; considera, además, importante elaborar estrategias educativas para mejorar específicamente la alfabetización digital a este respecto; |

|  |  |  |
| --- | --- | --- |
|  | 91. | Recuerda que, con la rápida aparición de nuevas técnicas, la detección de contenido falso y manipulado, como los deep fakes, puede resultar más difícil debido a la capacidad de los creadores maliciosos para generar algoritmos sofisticados que se entrenan con éxito para impedir su detección, por lo que socava gravemente nuestros valores fundamentales democráticos; pide a la Comisión que evalúe el impacto de la IA en la creación de deep fakes, que establezca marcos jurídicos adecuados que regulen su creación, producción o distribución con fines maliciosos, y que proponga, entre otras iniciativas, recomendaciones para actuar contra cualquier amenaza basada en la IA a la democracia y las elecciones libres y justas; |

|  |  |  |
| --- | --- | --- |
|  | 92. | Acoge con satisfacción las iniciativas y los proyectos recientes cuya finalidad es crear herramientas de detección de deep fakes más eficientes y requisitos de transparencia; subraya, en este sentido, la necesidad de explorar e invertir en métodos que aborden los deep fakes como paso crucial para combatir la información errónea y el contenido perjudicial; considera que las soluciones habilitadas por la IA pueden ser útiles a este respecto; pide, por tanto, a la Comisión que imponga una obligación de que todo material deep fake o cualquier otro vídeo sintético realizado de un modo realista deba indicar que el material no es original, así como una limitación estricta de su uso para fines electorales; |

|  |  |  |
| --- | --- | --- |
|  | 93. | Manifiesta su preocupación por la influencia cada vez mayor que tiene la IA sobre el modo de localización y consumo de información en línea; recuerda que las denominadas burbujas de filtro y cámaras de eco limitan la diversidad de opiniones y repercuten negativamente en el debate social abierto; pide, por tanto, que el uso de algoritmos por parte de los operadores de plataformas para la gestión de información sea transparente y que se confiera una mayor libertad de decisión a los usuarios y usuarias sobre en qué medida desean recibir qué tipo de información; |

|  |  |  |
| --- | --- | --- |
|  | 94. | Señala que ya se utilizan tecnologías de IA en el periodismo, por ejemplo, en la producción de textos o en el análisis de grandes conjuntos de datos en el ámbito de la investigación; subraya que, a efectos de producir información relevante para la sociedad en su conjunto, resulta importante que el periodismo automatizado utilice datos correctos y completos a fin de prevenir la difusión de noticias falsas; subraya que los principios básicos del periodismo de calidad, como la responsabilidad editorial, también deben aplicarse a los contenidos periodísticos generados por las tecnologías de IA; pide que se indique qué textos han sido generados mediante IA a fin de preservar la confianza en el periodismo; |

|  |  |  |
| --- | --- | --- |
|  | 95. | Destaca el potencial de la IA para facilitar y fomentar el multilingüismo mediante el desarrollo de tecnologías relacionadas con los idiomas y la posibilidad de descubrir contenidos europeos en línea; |

o

o o

|  |  |  |
| --- | --- | --- |
|  | 96. | Encarga a su presidente que transmita la presente Resolución al Consejo y a la Comisión. |

---

---

[Top](#document1)