Karma Peiró, Alessandro Mantelero, Carme Borràs, Itziar de Leucona, Jordi Soria
L'ètica en la intel·ligència artificial ha centrat la jornada organitzada per l'Autoritat Catalana de Protecció de Dades (APDCAT) al Palau Robert de Barcelona.
La directora de l'Autoritat, M. Àngels Barbarà, ha inaugurat la sessió amb una conferència sobre la innovació tecnològica com a eina per millorar la qualitat de vida de les persones, on ha anunciat que es realitzarà una recerca sobre l'estat de la IA a Catalunya, des d'un vessant ètic, i s'elaborarà una sèrie de recomanacions de privacitat i protecció de dades per garantir l'ètica en el desenvolupament de la intel·ligència artificial.
Explicar a la ciutadania com funcionen els algoritmes per poder ser crítics
M. Àngels Barbarà ha explicat que aquest estudi es realitzarà a partir d'entrevistes a experts i responsables d'empreses i entitats que fan servir o tenen pensat posar en pràctica algoritmes de presa de decisió automàtica.
L'objectiu és divulgar el potencial de la intel·ligència artificial i els marcs ètics que cal respectar, així com facilitar a la ciutadania la informació per exercir els seus drets davant les decisions automatitzades de les tecnologies.
La directora de l'APDCAT ha alertat que no es pot deixar en mans de les grans corporacions la forma de dissenyar la tecnologia, sense fer cap valoració crítica, perquè qui dissenya els algoritmes són persones que tenen els seus propis valors i visió del món.
En aquesta nova societat, es passa de l'individu al subjecte digital i la representació digital de la persona és "la que val", respongui o no a la realitat.
Aquesta representació digital és la que es pren com a base per a la personalització de productes i serveis, per influir en les decisions de les persones.
Per això, M. A. Barbarà ha reclamat abordar les possibles desviacions, discriminacions i exclusions en les tecnologies per evitar que es perpetuïn o se'n creïn de noves.
Cal dissenyar una IA segura i confiable, on s'integri la transparència, la seguretat, la responsabilitat i la capacitat de ser explicada i auditada.
La tecnologia s'està dissenyant per aprofundir en el coneixement dels impulsos de les persones, amb l'objectiu d'incidir, de forma directa, invisible i en temps real, en la presa de decisions.
Això, permet interferir en la vida personal o íntima, en la social i, també, en l'àmbit de la participació democràtica.
La directora de l'Autoritat ha insistit que cal un disseny tecnològic que no limiti la llibertat per prendre decisions i on els comportaments dels individus no siguin controlats i dirigits per aquells que ostenten el poder sobre la tecnologia.
La solució, ha confirmat, és que la societat ha d'entendre com funcionen els algoritmes i fer plantejaments crítics.
Perspectiva ètica i social per regir la innovació tecnològica
Des d'aquesta perspectiva, la directora de l'APDCAT ha afirmat que l'impacte de l'ús intensiu de les dades i la vulnerabilitat del seu tractament, afecten els drets i llibertats de les persones.
La perspectiva ètica i social ha de regir la innovació tecnològica per protegir els valors, principis i drets inherents a la nostra societat.
La tecnologia millora la qualitat de vida, però no pot ser a canvi de limitar els drets mitjançant la manipulació i distorsió de la percepció de la realitat (filtre bombolla) o vigilant les emocions.
Cal treballar perquè aquest valor reverteixi no només en els que ostenten el poder sobre les dades i les tecnologies, sinó, també, en la societat i en les persones.
La jornada també ha comptat amb un debat amb experts, en el qual hi ha participat Alessandro Mantelero, relator d'intel·ligència artificial i protecció de dades del Consell d'Europa; Carme Torras, doctora en informàtica i investigadora a l'Institut de Robòtica CSIC – UPC; Itziar de Lecuona, professora del Departament de Medicina i sotsdirectora de l'Observatori de Bioètica i Dret de la Universitat de Barcelona; i Jordi Soria, coordinador de Tecnologia i Seguretat de la Informació de l'APDCAT.
El debat ha estat moderat per la periodista especialitzada en tecnologies de la informació i la comunicació i col·laboradora en l'informe sobre algoritmes de presa de decisió automàtica elaborat per Algorithm Watch, Karma Peiró.