[ca] Aquest estudi investiga la moderació de continguts generats per eines d'Intel·ligència Artificial generativa, centrant-se en com aquestes pràctiques impacten la llibertat d'expressió i l'accés a la informació dins del marc regulador de la Unió Europea. L'estudi explora els marcs reguladors actuals i emergents a la Unió Europea, com el Reglament d'Intel·ligència Artificial, el Reglament de Serveis Digitals, la Directiva de Responsabilitat per Productes i la Directiva de Responsabilitat per Intel·ligència Artificial. A través del cas d'estudi de ChatGPT, la investigació examina com aquesta eina d'Intel·ligència Artificial generativa s'alinea amb els estàndards reguladors europeus pel que fa a la moderació de contingut. La investigació utilitza tres exemples específics per il·lustrar el potencial de sobrepassar-se en la moderació de contingut per part de ChatGPT, demostrant les tensions entre les pràctiques operatives de les eines d'Intel·ligència Artificial generativa i els marcs reguladors. L'estudi destaca les dificultats inherents a equilibrar la precisió i utilitat del contingut amb la necessitat d'evitar material sensible des del punt de vista social o legal. També aborda els desafiaments ètics i operatius d'implementar polítiques de moderació que poden portar inadvertidament a una moderació excessiva, afectant així la llibertat d'expressió i l'accés a la informació. L'estudi conclou destacant la necessitat de democratitzar els models de governança per assegurar que les pràctiques de moderació protegeixin els usuaris sense comprometre les llibertats fonamentals.

[es] Este estudio investiga la moderación de contenidos generados por herramientas de Inteligencia Artificial generativa, enfocándose en cómo estas prácticas impactan la libertad de expresión y el acceso a la información dentro del marco regulatorio de la Unión Europea. El estudio explora los marcos regulatorios actuales y emergentes en la Unión Europea, como el Reglamento de Inteligencia Artificial, el Reglamento de Servicios Digitales, la Directiva de Responsabilidad por Productos y la Directiva de Responsabilidad por Inteligencia Artificial. A través del caso de estudio de ChatGPT, la investigación examina cómo esta herramienta de Inteligencia Artificial generativa se alinea con los estándares regulatorios europeos en cuanto a la moderación de contenido. La investigación utiliza tres ejemplos específicos para ilustrar el potencial de extralimitación en la moderación de contenido por parte de ChatGPT, demostrando las tensiones entre las prácticas operativas de las herramientas de Inteligencia Artificial generativa y los marcos regulatorios. El estudio destaca las dificultades inherentes en equilibrar la precisión y utilidad del contenido con la necesidad de evitar material sensible desde el punto de vista social o legal. También aborda los desafíos éticos y operativos de implementar políticas de moderación que pueden llevar inadvertidamente a una moderación excesiva, afectando así la libertad de expresión y el acceso a la información. El estudio concluye enfatizando la necesidad de democratizar los modelos de gobernanza para asegurar que las prácticas de moderación protejan a los usuarios sin comprometer las libertades fundamentales.