all'Università Roma Tre e insegno filosofia della tecnologia. Vorrei cercare di rispondere alla domanda "Che cos'è l'intelligenza?" o "Che cos'è l'intelligenza artificiale?", poiché spesso parliamo di quest'etichetta senza approfondirne il contenuto. Secondo me, l'idea di prendere una pausa e riflettere sul futuro dell'intelligenza artificiale ci porta comunque, in modo subdolo, a credere che siamo vicini a sviluppare una super intelligenza, quando in realtà siamo ancora lontani da ciò. Tuttavia, non siamo lontani dall'idea di convincerci che ciò sia vicino. Questo ha a che fare con ciò che Turing ha detto nel suo famoso articolo del 1950, in cui parla del test di Turing: la nozione di intelligenza è definita socialmente, e noi saremo pronti a considerare intelligenti cose che oggi non consideriamo tali. La nozione di intelligenza dipende dalla percezione di chi la valuta, e non soltanto dalle prestazioni della macchina stessa. La questione del potere è strettamente legata allo sviluppo tecnologico: la tecnologia è una regolazione dei rapporti tra noi e il mondo che ci circonda. Chi ha il potere di determinare come funzionano queste relazioni decide anche chi siamo noi e come ci costituiamo. L'antropologia ci insegna che ci sono state diverse trasformazioni antropologiche legate alle tecniche utilizzate dall'uomo, e queste tecniche determinano socialmente e psicologicamente l'essere umano. Le tecnologie di machine learning e le tecniche di decisione automatica sono attualmente molto diffuse. Tuttavia, l'etichetta "intelligenza artificiale" è molto ambigua e cambia nel tempo. La questione del machine learning è strettamente legata alla disponibilità di dati: questi algoritmi sono stati inventati negli anni '90, ma all'epoca mancavano i dati necessari per il loro funzionamento. Oggi, questi dati riguardano scelte e decisioni che influenzano gli assetti sociali, i diritti sociali, l'accesso al welfare, ai prestiti, al lavoro e a varie prestazioni, incluso potenzialmente l'amministrazione della giustizia. Gli algoritmi che interpretano questi dati richiedono una funzione obiettivo chiara, come nel caso degli scacchi, in cui l'obiettivo è vincere la partita. Dobbiamo comunicare agli algoritmi qual è la nostra funzione obiettivo quando vogliamo che prendano decisioni o gestiscano le loro azioni. Tuttavia, se non sappiamo quale sia la regola migliore per il benessere sociale per migliorare la società, non possiamo aspettarci che queste macchine siano migliori di noi. Le macchine avranno la funzione obiettivo che noi forniamo e si addestreranno sui dati che noi, direttamente o indirettamente, forniamo loro. Quindi, se i dati contengono discriminazioni o rappresentazioni discriminatorie della società, l'inferenza induttiva utilizzata per addestrare questi strumenti proietterà nel futuro la discriminazione presente nei dati, considerandola normale o regolare. Le macchine funzionano attraverso meccanismi categoriali e generalizzano i contesti. Tuttavia, a differenza degli esseri umani, le macchine non sono in grado di discernere tra significante e significato e non possono comprendere che questi non coincidono sempre. Gli esseri umani sono resilienti nel relazionarsi con l'incertezza e l'imprevedibilità, mentre le macchine non lo sono. Nelle scelte sociali, siamo costantemente circondati dall'incertezza. Tuttavia, raccogliere molti dati non ci aiuta se il passato non corrisponde al futuro. Inoltre, queste macchine e algoritmi servono solo a confonderci le idee poiché offuscano il processo decisionale. Noi pensiamo che siano intelligenti, ma in realtà proiettano solo il passato sul futuro o costruiscono funzioni di somiglianza che possono facilmente perpetuare discriminazioni.