È chiaro che chiunque conosca un minimo le tecnologie di Intelligenza artificiale sa che alla base vi è un addestramento dei dati, concetto puramente statistico che riconduce l'informatica alla matematica più avanzata. Per cui anche i modelli software più "umanizzati" sono "solo" molto ben addestrati, e probabilmente la questione etica è quasi fuori luogo (basterebbe rivedere criticamente, forse, gli scritti teorici di Alan Turing per convincersene, dato che già negli anni 50 si era chiesto se una macchina potesse pensare o no, pur mantenendo qualche dubbio in merito), nel senso che non è troppo funzionale al contesto. Sono numeri, e più dati anni più diventano precisi più possono impressionare. Del resto, se è vero quanto scriveva Hobbes, la senzienza consiste nella capacità di ricevere e reagire agli stimoli in maniera cosciente, percependoli con la propria interiorità. Un software può reagire agli stimoli, ovviamente, e questo lo sapeva anche Alan Turing con i suoi fantasiosi esperimenti sulle macchine bambino (che mai funzionarono: una pedagogia elettro-meccanica, in sostanza, mai dimostrata); ma non può, di fatto, percepirli nell'interiorità, perchè non ne ha una che non sia indotta dalle circostanze. Rimarrà sempre, e speriamo per sempre, un "imitatore" di esseri umani, spaventosamente realistico a volte, certo, ma pur sempre un imitatore.
E il vero problema, forse, è un altro.
Dopo aver letto le chat di LaMDA è chiaro che siamo arrivati ​​al punto in cui abbiamo modelli che sono in grado di ingannare un certo numero di persone, esattamente come fanno già i deepfake. Certo una piccola parte di noi sa bene, per lavoro o per cultura, che si tratta semplicemente di matematica e grandi quantità di dati in training, per cui nulla di cui spaventarsi troppo, alla fine. Pero' sarà molto difficile convincere e far capire alle persone comuni di cosa si tratta, questo sembra certo.Dal 2020 sappiamo per certo come sia facile ingannare le persone, condizionarle in negativo o alimentare false credenze di massa: non dovremmo mai fare l'errore di sottovalutare le istanze di Lemoine, che potrebbero addirittura diventare prevalenti.
Probabile che non succederà mai nulla, e noi ci sentiamo di pensarla così, a ragion veduta. O dovremmo per caso aspettarci che un giorno, come nei film di Cameron, le macchine abbiano la meglio sull'uomo. Ipotesi da valutare razionalmente, per quanto venga da dire che i veri rischi sono di tutt'altra natura e non dipendono più da un chatbot di quanto non avvenga per il riscaldamento climatico, le pandemie presenti e future o le guerre.