Un estudio de la UJI advierte de los límites de la inteligencia artificial en el ámbito moral 



[Valencià](/upo/rest/publicacion/idioma/ca?urlRedirect=https://www.uji.es/com/investigacio/arxiu/noticies/2020/4/inteligencia-artificial-etica/&url=/com/investigacio/arxiu/noticies/2020/4/inteligencia-artificial-etica/&urlRedirect=https://www.uji.es/com/investigacio/arxiu/noticies/2020/4/inteligencia-artificial-etica/ "Cambiar idioma a català")
[Español](#0)
[English](/upo/rest/publicacion/idioma/en?urlRedirect=https://www.uji.es/com/investigacio/arxiu/noticies/2020/4/inteligencia-artificial-etica/&url=/com/investigacio/arxiu/noticies/2020/4/inteligencia-artificial-etica/&urlRedirect=https://www.uji.es/com/investigacio/arxiu/noticies/2020/4/inteligencia-artificial-etica/ "Change language english")

Menú móvil

* [Perfil](#0)
  + [Futuro estudiantado](/perfils/futurs/)
  + [Estudiantado UJI](/perfils/estudiantat/uji/)
  + [PDI-PI](/perfils/pdipas/base/pdi/)
  + [PTGAS](/perfils/pdipas/base/pas/)
  + [AlumniSAUJI](/serveis/alumnisauji/)
  + [Empresas e instituciones](/perfils/empresa/)
* [Herramientas](#0)
  + [Aula virtual](https://aulavirtual.uji.es/)
  + [CAU. Centro de Atención a Usuarios](https://cau.uji.es/)
  + [Directorio](//www.uji.es/institucional/contacta/)
  + [Gmail](http://gmail.uji.es/)
  + [IGLU. Intranet](//www.uji.es/upo/rest/iglu/)
  + [Sede electrónica](/seu/)
  + [SIA. Información académica](http://sia.uji.es/)
  + [Otras](//www.uji.es/serveis/scp/eines/)
* [Valencià](/upo/rest/publicacion/idioma/ca?urlRedirect=https://www.uji.es/com/investigacio/arxiu/noticies/2020/4/inteligencia-artificial-etica/&url=/com/investigacio/arxiu/noticies/2020/4/inteligencia-artificial-etica/&urlRedirect=https://www.uji.es/com/investigacio/arxiu/noticies/2020/4/inteligencia-artificial-etica/ "Cambiar idioma a català")
  [Español](#0)
  [English](/upo/rest/publicacion/idioma/en?urlRedirect=https://www.uji.es/com/investigacio/arxiu/noticies/2020/4/inteligencia-artificial-etica/&url=/com/investigacio/arxiu/noticies/2020/4/inteligencia-artificial-etica/&urlRedirect=https://www.uji.es/com/investigacio/arxiu/noticies/2020/4/inteligencia-artificial-etica/ "Change language english")

[# Universitat Jaume I](/)

* [# Universitat Jaume I](/)
* [Perfil](#0)
  + [Futuro estudiantado](/perfils/futurs/)
  + [Estudiantado UJI](/perfils/estudiantat/uji/)
  + [PDI-PI](/perfils/pdipas/base/pdi/)
  + [PTGAS](/perfils/pdipas/base/pas/)
  + [AlumniSAUJI](/serveis/alumnisauji/)
  + [Empresas e instituciones](/perfils/empresa/)
* [Herramientas](#0)
  + [Aula virtual](https://aulavirtual.uji.es/)
  + [CAU. Centro de Atención a Usuarios](https://cau.uji.es/)
  + [Directorio](//www.uji.es/institucional/contacta/)
  + [Gmail](http://gmail.uji.es/)
  + [IGLU. Intranet](//www.uji.es/upo/rest/iglu/)
  + [Sede electrónica](/seu/)
  + [SIA. Información académica](http://sia.uji.es/)
  + [Otras](//www.uji.es/serveis/scp/eines/)
* [Estudios](/mapa/estudis/)
  + [Estudios](/mapa/estudis/)
  + [Grados](/estudis/)
  + [Másteres universitarios](/estudis/?p_estudio=m)
  + [Programas de doctorado](/estudis/oferta/doctorat/)
  + [Formación permanente](/estudis/base/formacio-permanent/)
* [Investigación e innovación](/investigacio/)
  + [Investigación e innovación](/investigacio/)
  + [Portal de investigación](/investigacio/)
  + [Innovación](/innovacio/)
  + [Doctorado](/centres/escola-doctorat/)
  + [HRS4R](/investigacio/hrs4r/)
* [Internacional](/internacional/)
  + [Internacional](/internacional/)
  + [Estudiantado Internacional](/internacional/base/estudiantat/estudiantado-internacional/)
  + [Programas de Movilidad](/serveis/ori/base/programes-intercanvi/)
  + [Study Abroad](/internacional/base/study-abroad/)
* [UJI](/mapa/uji/)
  + [UJI](/mapa/uji/)
  + [Conoce la UJI](/mapa/uji/coneix-uji/)
  + [Estructura y organización](/institucional/estructura/)
  + [Estrategia y calidad](/institucional/estrategia/)
  + [Transparencia](/transparencia/)
  + [Integridad pública](/transparencia/liniaetica/)
  + [Actualidad](/actualitat/)
  + [Contacta con la UJI](/institucional/contacta/)
* [Vida universitaria](/mapa/vida-universitaria/)
  + [Vida universitaria](/mapa/serveis/)
  + [Biblioteca](/serveis/cd/)
  + [Campus](/mapa/uji/coneix-uji/campus/)
  + [Cultura](/cultura/)
  + [Deportes](/esports/)
  + [InfoCampus](/serveis/infocampus/)

[UJI](/)
[Noticias](/com/sumari/noticies/)

## Un estudio de la UJI advierte de los límites de la inteligencia artificial en el ámbito moral La investigación liderada por el profesor Patrici Calvo aboga por diseñar procesos de digitalización responsables i éticos con la ciudadanía

15/04/2020 |
SCP

Compartir

Compartir

×

Linkedin

BlueSky

Facebook

Mastodon

Whatsapp

Gmail

Imprimir

![Imagen aérea del campus](//static.uji.es/templates/uji2016_plantillas/static/images/campusaerea.jpg)

[Aceptar cookies de terceros](#)

[Ver el vídeo en YouTube](https://www.youtube.com/embed/ONFuvNvTD1o)

La investigación liderada por el profesor Patrici Calvo aboga por diseñar procesos de digitalización responsables i éticos con la ciudadanía

Una investigación de la Universitat Jaume I (UJI) advierte de los retos y los límites de la digitalización en el ámbito moral. El estudio liderado por el profesor del Departamento de Filosofía y Sociología Patrici Calvo critica la colonización algorítmica del mundo de la vida y las consecuencias negativas que tiene para la sociedad, especialmente, para el colectivos más vulnerables. Las conclusiones del trabajo se han publicado en *Kriterion. Revista de Filosofía*.

El estudio pretende llamar la atención acerca de la «falsa creencia cada vez más extendida entre académicos y tecnólogos», según el profesor Calvo, que es posible discernir entre lo justo o lo injusto mediante el uso de algoritmos de inteligencia artificial. Este proceso, conocido cómo *etificación*, es la acción de recopilar, registrar, cuantificar, procesar y gestionar datos masivos sobre las opiniones, preferencias, conductas y hábitos de la ciudadanía hiperconnectada para, desde el criterio del mayor bien para la mayor cantidad de gente posible, establecer qué es válido desde el punto de vista moral por medio de modelos matemáticos artificialmente inteligentes.

Ahora bien, el actual proceso de transformación digital del ámbito moral presenta desafíos, argumenta el investigador del Grupo de Investigación Ética Práctica y Democracia dirigido por el profesor Domingo García Marzá. La *etificación* «interfiere en el correcto desarrollo de los procesos comunicativos que hacen posible concretar qué principios, normas, valores, sentimientos y virtudes son moralmente válidos, desplazando el posible consenso entre afectados por un análisis cuantitativo de la información objetiva disponible». En palabras del profesor Patrici Calvo también «convierte el saber moral en científico-técnico, eliminando de este modo su interés por la emancipación del ser humano y su carácter crítico y prescriptivo de la realidad social».

Además, el autor pretende averiguar los peligros que comporta para la sociedad la aceptación acrítica de esta ideología tecnológica. «Marcar cuáles son los límites de la inteligencia artificial en este sentido puede evitar consecuencias negativas de su aplicación apresurada y equivocada, especialmente en aquellos grupos más vulnerables de la sociedad», añade el investigador.

**ECOSISTEMAS CIBERÉTICOS Y DIGITALIZACIÓN SOCIAL**

Entre otras cuestiones importantes, los intentos por *dataficar* -cuantificar el comportamiento humano y social reduciéndolo todo a datos medibles- el ámbito moral «pueden generar un aumento de las desigualdades en todas sus formas; de la exclusión social; de la heteronomía ciudadana; del paternalismo tecnológico; de las decisiones con sesgo (homófobas, aporófobas, xenófobas y/o misóginas; de la intromisión en el ámbito privado; de la opacidad política; de la manipulación de la opinión pública; de la obstaculización de la comunicación»,entre otras muchas cosas, en opinión de Calvo.

Por ello, esta investigación sugiere la necesidad de empezar a diseñar y aplicar ecosistemas ciberéticos para la gestión, monitorización y cumplimiento de la ética en aquellos ámbitos de actividad donde se está utilizando la inteligencia artificial para su desarrollo, como por ejemplo el económico, el político y el asistencial. A la vez, abre la puerta a tratar de trabajar en el diseño de procesos de digitalización socialmente responsable y moralmente válido.

Patrici Calvo es profesor de ética en la Universitat Jaume I, coordinador del Máster Interuniversitario en Ética y Democracia y miembro de Comité de Bioética Asistencial del Hospital General de Castelló. Sus trabajos se centran en tres principales líneas de investigación. Por un lado, el diseño teórico y desarrollo práctico de una de economía cordial basada en la ética y la reciprocidad. Por otro, el desarrollo de un ecosistema ciberético para la gestión, monitorización y cumplimiento de la ética y la responsabilidad social en los diferentes ámbitos de actividad humana basados en los sistemas *whistleblowing*, la *blockchain* y la participación comprometida de la sociedad civil. Y, finalmente, el desarrollo ético y socialmente responsable de una participación política apoyada con algoritmos artificialmente inteligentes (democracia algorítmica).

Más información:  
Etificación, la transformación digital de lo moral.  
doi: 10.1590/0100-512X2019n14409pc

Información proporcionada por:
[Servicio de Comunicación y Publicaciones](/serveis/scp/)

¿Quiénes somos?

[Portada](/com/investigacio/cienciauji/)
[UCC+I](/serveis/scp/ucc/)

Difusión investigación

[Blog Ciència TV](/com/investigacio/arxiu/ciencia-uji-tv/)
[Boletín Ciència UJI](/com/investigacio/arxiu/ciencia-uji/)
[Boletín Horizon Europe](/com/investigacio/docs/butlleti-horizon-europe/)
[Comboi, un viaje por la ciencia](/com/investigacio/docs/podcast-comboi-viatge-per-la-ciencia/)
[Noticías científicas](/com/investigacio/sumari/noticies/ )
[Noticias de fácil lectura](/com/investigacio/docs/noticies-de-lectura-facil)
[Revista de actualidad. Investigación](/com/revista/tematica/investiga/)
[Una finestra a la ciència](http://www.radio.uji.es/programa.php?id=46 )

Divulgación científica

[Experimenta UJI](/com/investigacio/docs/experimenta-uji/)
[Innobar, con b de bar (Espaitec)](https://espaitec.uji.es/podcast-innobar-con-b-de-bar/)
[Magazine «Humanes i Socials»](https://humanesisocials.uji.es)
[Proyectos H2020](/com/investigacio/docs/butlleti-h2020/)
[Proyectos y artículos COVID-19](/com/investigacio/docs/estudis-articles-covid-19/)
[Research pitches](/com/investigacio/research-pitches/)
[The Conversation](/com/investigacio/docs/the-conversation/)
[UJI Divulga (Onda Cero)](/com/investigacio/docs/uji-divulga-onda-cero/)
[Vocabulario científico](/com/investigacio/docs/vocabulari-cientific/)

Proyectos y estudios

[Proyectos y estudios](/serveis/scp/ucc/projectes/)

Recursos de interés

[Divulgateca](http://www.divulgateca.es)

Redes externas

[CRUE](https://www.crue.org/)
[FECYT](https://www.fecyt.es/es/info/que-son)
[RUVID](https://ruvid.org/)



Enlaces de interés

[Carnet](http://www.carnet.uji.es/)

[Catálogo multimedia](http://jecom.uji.es/)

[Editorial universitaria](/serveis/scp/publ/)

[Mapa web](//www.uji.es/mapa/)

[Modelo educativo](//www.uji.es/institucional/estrategia/modeleducatiu/)

[Observatorio Lingüístico](/serveis/ol/)

[Portal del Conocimiento Abierto](/serveis/cd/bib/pco/)

[Tienda UJI](http://www.tenda.uji.es/)

[Centro de seguridad y privacidad](https://www.uji.es/organs/ouag/sg/docs/politiques/gen/)
|
[Aviso legal](https://www.uji.es/comu/avislegal/avislegalicondicions/)
|
[Política de accesibilidad](https://www.uji.es/serveis/ura/base/accessibilitat/)

Información y consultas:
[Buzón UJI](/comu/forms/bustia)

Universitat Jaume I CIF: Q-6250003-H Av. Vicent Sos Baynat, s/n 12071
Castellón de la Plana,
España

Tel.: +34 964 72 80 00