Valencià:
Una investigació de la Universitat Jaume I (UJI) adverteix dels reptes i els límits de la digitalització en l’àmbit moral. L’estudi liderat pel professor del Departament de Filosofia i Sociologia Patrici Calvo critica la colonització algorítmica del món de la vida i les conseqüències negatives que té per a la societat, especialment, per al col·lectius més vulnerables. Les conclusions del treball s’han publicat a Kriterion. Revista de Filosofia.
L'estudi pretén cridar l'atenció al voltant de la «falsa creença cada vegada més estesa entre acadèmics i tecnòlegs», segons el professor Calvo, que és possible discernir què és allò just o injust mitjançant l'ús d'algoritmes d'intel·ligència artificial. Aquest procés, conegut com etificació, és l'acció de recopilar, registrar, quantificar, processar i gestionar dades massives sobre les opinions, preferències, conductes i hàbits de la ciutadania hiperconnectada per a establir, des del criteri del major bé per a la major quantitat de gent possible, què és vàlid des del punt de vista moral per mitjà de models matemàtics artificialment intel·ligents.
Ara bé, l’actual procés de transformació digital de l’àmbit moral presenta desafiaments, argumenta l’investigador del Grup de Recerca Ètica Pràctica i Democràcia dirigit pel professor Domingo García Marzá. L’etificació «interfereix en el correcte desenvolupament dels processos comunicatius que fan possible concretar quins principis, normes, valors, sentiments i virtuts són moralment vàlids, tot desplaçant el possible consens entre afectats per una anàlisi quantitativa de la informació objectiva disponible». En paraules del professor Patrici Calvo també «converteix el saber moral en cientificotècnic, eliminant d’aquesta manera el seu interès per l’emancipació del esser humà i el seu caràcter crític i prescriptiu de la realitat social».
A més a més, l’autor pretén esbrinar els perills que comporta per a la societat l'acceptació acrítica d’aquesta ideologia tecnològica. «Marcar quins són els límits de la intel·ligència artificial en aquest sentit pot evitar conseqüències negatives de la seua aplicació precipitada i equivocada, especialment en aquells grups més vulnerables de la societat», afegeix l’investigador.
ECOSISTEMES CIBERÈTICS I DIGITALITZACIÓ SOCIAL
Entre altres qüestions importants, els intents per dataficar -quantificar el comportament humà i social reduint-lo tot a dades mesurables- l'àmbit moral «poden generar un augment de les desigualtats en totes les seues formes; de l'exclusió social; de l'heteronomia ciutadana; del paternalisme tecnològic; de les decisions amb biaix (homòfobes, aporòfobes, xenòfobes i/o misògines; de la intromissió en l'àmbit privat; de l'opacitat política; de la manipulació de l'opinió pública; de l'obstaculització de la comunicació», entre moltes altres coses, en opinió de Calvo.
Per això, aquesta recerca suggereix la necessitat de començar a dissenyar i aplicar ecosistemes ciberètics per a la gestió, monitorització i compliment de l'ètica en aquells àmbits d'activitat on s'està utilitzant la intel·ligència artificial per al seu desenvolupament, com ara l’econòmic, el polític i l’assistencial. Alhora, obre la porta a tractar de treballar en el disseny de processos de digitalització socialment responsable i moralment vàlid. 
Patrici Calvo és professor d’ètica a la Universitat Jaume I, coordinador del Màster Interuniversitari en Ètica i Democràcia i membre de Comitè de Bioètica Assistencial de l'Hospital General de Castelló. Els seus treballs se centren en tres principals línies d'investigació. D'una banda, el disseny teòric i desenvolupament pràctic d’una d'economia cordial basada en l’ètica i la reciprocitat. D'un altra, el desenvolupament d’un ecosistema ciberètic per a la gestió, monitorització i compliment de l'ètica i la responsabilitat social en els diferents àmbits d'activitat humana basats en els sistemes whistleblowing, la blockchain i la participació compromesa de la societat civil. I, finalment, el desenvolupament ètic i socialment responsable d’una participació política recolzada amb algoritmes artificialment intel·ligents (democràcia algorítmica).
 
Més informació:

Etificación, la transformación digital de lo moral.

doi: 10.1590/0100-512X2019n14409pc

Español:
Una investigación de la Universitat Jaume I (UJI) advierte de los retos y los límites de la digitalización en el ámbito moral. El estudio liderado por el profesor del Departamento de Filosofía y Sociología Patrici Calvo critica la colonización algorítmica del mundo de la vida y las consecuencias negativas que tiene para la sociedad, especialmente, para el colectivos más vulnerables. Las conclusiones del trabajo se han publicado en Kriterion. Revista de Filosofía.
El estudio pretende llamar la atención acerca de la «falsa creencia cada vez más extendida entre académicos y tecnólogos», según el profesor Calvo, que es posible discernir entre lo justo o lo injusto mediante el uso de algoritmos de inteligencia artificial. Este proceso, conocido cómo etificación, es la acción de recopilar, registrar, cuantificar, procesar y gestionar datos masivos sobre las opiniones, preferencias, conductas y hábitos de la ciudadanía hiperconnectada para, desde el criterio del mayor bien para la mayor cantidad de gente posible, establecer qué es válido desde el punto de vista moral por medio de modelos matemáticos artificialmente inteligentes.
Ahora bien, el actual proceso de transformación digital del ámbito moral presenta desafíos, argumenta el investigador del Grupo de Investigación Ética Práctica y Democracia dirigido por el profesor Domingo García Marzá. La etificación «interfiere en el correcto desarrollo de los procesos comunicativos que hacen posible concretar qué principios, normas, valores, sentimientos y virtudes son moralmente válidos, desplazando el posible consenso entre afectados por un análisis cuantitativo de la información objetiva disponible». En palabras del profesor Patrici Calvo también «convierte el saber moral en científico-técnico, eliminando de este modo su interés por la emancipación del ser humano y su carácter crítico y prescriptivo de la realidad social».
Además, el autor pretende averiguar los peligros que comporta para la sociedad la aceptación acrítica de esta ideología tecnológica. «Marcar cuáles son los límites de la inteligencia artificial en este sentido puede evitar consecuencias negativas de su aplicación apresurada y equivocada, especialmente en aquellos grupos más vulnerables de la sociedad», añade el investigador.
ECOSISTEMAS CIBERÉTICOS Y DIGITALIZACIÓN SOCIAL
Entre otras cuestiones importantes, los intentos por dataficar -cuantificar el comportamiento humano y social reduciéndolo todo a datos medibles- el ámbito moral «pueden generar un aumento de las desigualdades en todas sus formas; de la exclusión social; de la heteronomía ciudadana; del paternalismo tecnológico; de las decisiones con sesgo (homófobas, aporófobas, xenófobas y/o misóginas; de la intromisión en el ámbito privado; de la opacidad política; de la manipulación de la opinión pública; de la obstaculización de la comunicación»,entre otras muchas cosas, en opinión de Calvo.
Por ello, esta investigación sugiere la necesidad de empezar a diseñar y aplicar ecosistemas ciberéticos para la gestión, monitorización y cumplimiento de la ética en aquellos ámbitos de actividad donde se está utilizando la inteligencia artificial para su desarrollo, como por ejemplo el económico, el político y el asistencial. A la vez, abre la puerta a tratar de trabajar en el diseño de procesos de digitalización socialmente responsable y moralmente válido.
Patrici Calvo es profesor de ética en la Universitat Jaume I, coordinador del Máster Interuniversitario en Ética y Democracia y miembro de Comité de Bioética Asistencial del Hospital General de Castelló. Sus trabajos se centran en tres principales líneas de investigación. Por un lado, el diseño teórico y desarrollo práctico de una de economía cordial basada en la ética y la reciprocidad. Por otro, el desarrollo de un ecosistema ciberético para la gestión, monitorización y cumplimiento de la ética y la responsabilidad social en los diferentes ámbitos de actividad humana basados en los sistemas whistleblowing, la blockchain y la participación comprometida de la sociedad civil. Y, finalmente, el desarrollo ético y socialmente responsable de una participación política apoyada con algoritmos artificialmente inteligentes (democracia algorítmica).
 
Más información:

Etificación, la transformación digital de lo moral.

doi: 10.1590/0100-512X2019n14409pc