Superintelligenza e identità narrativa difettosa

Aurélien Portelli

► To cite this version:

Aurélien Portelli. Superintelligenza e identità narrativa difettosa. Teoria e critica della regolazione sociale, 2022, 2 (25). hal-04133355

HAL Id: hal-04133355

https://minesparis-psl.hal.science/hal-04133355

Submitted on 4 Jul 2023

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
Aurélien Portelli*

*Superintelligenza e identità narrativa difettosa*

*Abstract:* According to the technological singularity hypothesis, the emergence of superintelligent machines would lead to a violent takeover and the annihilation of humanity. However, the analysis of 2001: A Space Odyssey leads to a reformulation of the danger of these technologies. Thus, Stanley Kubrick and Arthur C. Clarke's work allows us to conceive the risks linked to superintelligence not in terms of technical domination, but in terms of a failing narrative identity.

*Parole chiave:* Superintelligence, artificial intelligence, technological singularity, imaginary, myth, narrative identity, otherness, strange loop, psychosis.

*Indice:* 1. Rappresentazioni della IA e identità narrativa – 2. Creature artificiali nella storia dell’immaginario – 3. HAL 9000: una figura dell’alterità e del medesimo – 4. Quattro teorico sull’identità narrativa – 5. Analisi – 6. L’evoluzione dell’auto-narrazione del supercomputer – 7. Auto-narrazione idealizzata e dissonanza cognitiva – 8. Il *passage à l’acte* – 9. Dall’eliminazione dell’equipaggio alla disconnessione della macchina – 10. La dislocazione dell’ipseità di HAL 9000 – 11. Un personaggio intrappolato in uno strano loop – 12. La psicosi come forma di alterazione dell’ipseità – 13. Conclusione

La conferenza di Dartmouth dell'estate 1956 ha visto l'emergere dell'intelligenza artificiale (IA) come disciplina scientifica<fnref n="1" />. Da allora, le macchine intelligenti hanno colonizzato la vita quotidiana delle società, ottenendo prestazioni impressionanti che i media amano raccontare. Nel 1996, *Deep Blue* di IBM batte il campione mondiale di scacchi Garry Kasparov. Nel 2016, *AlphaGo* di DeepMind sconfigge *a Go* Lee Sedol, uno dei migliori giocatori al mondo. Nel 2017, un algoritmo di Google scopre l'esopianeta Kepler-90i nei dati raccolti dal satellite Kepler della NASA. Nel 2019, IBM sviluppa un'intelligenza artificiale in grado di diagnosticare il cancro al seno un anno prima che venga confermato dalla biopsia.

La progettazione e la diffusione di queste tecnologie suscitano meraviglia, ma anche i peggiori timori. Nick Bostrom evidenzia la cecità dei progettisti, la maggior parte dei quali nega la possibilità di una superintelligenza artificiale e il rischio esistenziale che potrebbe rappresentare<fnref n="2" />. Per superintelligenza artificiale si intende

<footnote>* Ricercatore presso Mines Paris – PSL. aurelien.portelli@mines-paristech.fr</footnote>

<footnote n="1">1 Crevier 1993.</footnote>

<footnote n="2">2 Bostrom 2017 [2014].</footnote>
un'IA con una coscienza che supera di gran lunga le prestazioni cognitive umane in tutti i possibili ambiti. Basandosi sulla eventualità che una tale tecnologia sia possibile, il mito della singolarità tecnologica sostiene che il potenziamento delle macchine con capacità sovrumane potrebbe portare a una violenta presa di potere e all'annientamento della razza umana. Gli scrittori di fantascienza hanno fatto leva su questo mito fin dagli anni Cinquanta. Ma il concetto di singolarità tecnologica è stato reso popolare negli anni '80 dai romanzi di Vernor Vinge, prima che questi lo teorizzasse in un saggio<fnref n="3" />. Inizialmente oggetto dell'immaginazione dei romanzieri, il mito della singolarità tecnologica è ora discusso da importanti ricercatori, alcuni dei quali prendono molto sul serio il suo possibile passaggio da possibilità a realtà. Nel dicembre 2014, Stephen Hawking ha dichiarato alla BBC che lo sviluppo di una forte IA<fnref n="4" /> potrebbe portare alla fine dell'umanità, ipotesi che ha ripreso in un libro postumo<fnref n="5" />. La preoccupazione di Hawking è condivisa da altri scienziati, come il cosmologo Max Tegmark, l'informatico Stuart Russell e il fisico Frank Wilczek, oltre che da influenti uomini d'affari come Bill Gates ed Elon Musk.

Tuttavia, l'analisi di 2001: Odissea nello spazio, film diretto nel 1968 da Stanley Kubrick su sceneggiatura di Arthur C. Clarke, ci porterebbe a riformulare in termini nuovi il pericolo derivante dall'uso di queste tecnologie (vedi sinossi). Infatti, secondo l'ipotesi che proponiamo, l'eliminazione dell'equipaggio del Discovery non muove dall'autonomizzazione del supercomputer Hal 9000, ma dalla dislocazione della sua ipseità, come definita da Paul Ricoeur. In questo modo, 2001 ci permetterebbe di immaginare i rischi causati da una superintelligenza non in termini di dominio tecnico abilitato dalla potenza di calcolo, ma in termini di identità narrativa fallita.

Kubrick e Clarke non sono gli unici autori a immaginare IA che “raccontano le proprie storie”. Nel racconto Reason di Isaac Asimov, il robot Cutie ritiene che gli esseri umani siano inferiori ai robot e che nessun essere possa creare un altro essere superiore a se stesso<fnref n="6" />. Sulla base di queste convinzioni, sostiene che il suo creatore sia un convertitore di energia, che chiama “Maestro”. Il Maestro ha creato prima gli esseri umani, poi i robot e infine Cutie affinché questi diventasse il suo profeta. Nel romanzo Blade Runner di Philipp K. Dick, l'androide Luba Luft rifiuta la sua condizione di robot e vede gli esseri umani come una forma di vita superiore<fnref n="7" />. Sviluppando una vera e propria avversione per le sue controparti artificiali, cerca di imitare gli umani, con i quali alla fine si identifica. Nonostante le loro differenze, questi due personaggi di fantascienza raccontano ciascuno una “falsa” narrazio-

<footnote n="3">3 Vinge V., “La singolarità tecnologica in arrivo: come sopravvivere nell'era post-umana”, Vision-21, Simposio sponsorizzato dal Lewis Research Center della NASA e dall'Ohio Aerospace Institute, 30-31 marzo 1993.</footnote>

<footnote n="4">4 John R. Searle distingue tra quella che chiama intelligenza artificiale debole, sviluppata dagli ingegneri per costruire macchine altamente sofisticate, e l'intelligenza artificiale forte, che è veramente cosciente e rimane nel regno dell'immaginario. Cfr. Searle 1987 [1980] : 39-69.</footnote>

<footnote n="5">5 Hawking 2018 [2018].</footnote>

<footnote n="6">6 Asimov 1963 [1950].</footnote>

<footnote n="7">7 Dick 2017 [1966].</footnote>
ne di sé. Cutie e Luba Luft fingono di essere qualcosa che non sono: il primo si immagina di essere un profeta, il secondo si crede umano. Ma la loro narrazione, pur riflettendo un'interpretazione distorta di ciò che sono, non si disintegra e i personaggi riescono a mantenere l'autocontrollo davanti agli altri. Lo stesso non si può dire dell'auto-narrazione del supercomputer *Discovery*, che ci proponiamo di analizzare per cogliere le logiche che, secondo la nostra ipotesi, portano il personaggio a eliminare i suoi compagni di squadra umani.

La prima parte della nostra indagine situa l'IA nella storia dell'immaginario, prima di presentare il nostro quadro teorico e la nostra analisi. La seconda parte mostra l'evoluzione dell'auto-narrazione di Hal, alle prese con un conflitto che non riesce a risolvere. Infine, la terza parte decifra il processo di dislocazione della sua ipseità.

Sinossi di 2001, *Odissea nello spazio*: agli albori dell'umanità, gli uomini-scimmia stanno lottando per la sopravvivenza quando appare uno strano monolite. Dopo averlo toccato, ad uno dei pre-ominidi viene l'idea di usare l'osso come arma per difendersi. Milioni di anni dopo, un gruppo di ricercatori guidati da Floyd Heywood si reca sulla Luna per esaminare un monolite che è stato scoperto; l'oggetto emette improvvisamente un suono stridulo. Diciotto mesi dopo, la sonda *Discovery* lascia la Terra alla volta di Giove. L'equipaggio è composto da Dave Bowman, Frank Poole, tre astronauti ibernati e Hal 9000, una superintelligenza artificiale. Hal è ritenuto infallibile, ma commette un errore nella sua analisi e i due umani decidono di scollegarlo per precauzione. Il computer si vendica eliminando l'equipaggio. Bowman, l'ultimo sopravvissuto, riesce a rimuovere i blocchi di memoria di Hal, che si spegne definitivamente. Viene quindi riprodotto un messaggio registrato. Heywood appare su uno schermo e rivela l'obiettivo della missione, precedentemente noto solo ad Hal e ai tre ibernauti: un oggetto alieno scoperto sulla Luna sta emettendo un forte segnale verso Giove ed è per questo che la *Discovery* deve recarsi lì. Bowman continua il suo viaggio da solo. Vicino a Giove, scopre un nuovo monolite, prima di essere catapultato in un'altra dimensione spazio-temporale. Si ritrova in una stanza del XVIII secolo. Invecchia, muore e rinasce come feto. Nell'ultima sequenza, il feto fluttua nello spazio e contempla la Terra.

# 1. Rappresentazioni della IA e identità narrativa

Di tutte le tecnologie immaginarie, la superintelligenza è quella che suscita le maggiori inquietudini. Gli scenari catastrofici che evoca sono tuttavia molto discussibili dal punto di vista scientifico. Secondo Jean-Gabriel Ganascia, la narrazione della singolarità tecnologica non è altro che una favola stravagante⁸. Jean-Louis Dessales, senza negare categoricamente che una superintelligenza potrebbe prenderne il controllo dell'umanità, ritiene che non siamo esposti a questa minaccia per-
ché le possibilità dell'IA rimangono limitate<fnref n="9" />. Antonio Damasio rimane molto scettico sulla possibilità di costruire un'IA con coscienza, se questa non ha un corpo organico in grado di provare emozioni<fnref n="10" />. Altri autori arrivano a negare l'esistenza di un'IA debole<fnref n="11" />. Luc Julia<fnref n="12" /> ritiene che l'uso del termine “intelligenza” per denominare questa disciplina costituisca una messinscena e che l'intelligenza artificiale non esista, trattandosi di reti neurali le quali non hanno nulla a che fare con il nostro cervello<fnref n="13" />. Egli considera inoltre assurda la possibilità di una conquista dell'u manità da parte di robot intelligenti. Per lui, il vero pericolo viene dall'uomo e la sfida consiste nel trovare il giusto equilibrio tra regolamentazione e innovazione.

Tutto sembra giocarsi sul terreno dell'immaginario, un luogo di proiezione delle nostre paure che spetta a noi, lettori e spettatori, decifrare. Questa parte propone di reinscrivere l'IA nella storia del nostro immaginario e di collegare Hal 9000 alla figura dell'alterità e del medesimo, prima di proporre un quadro teorico e un approccio per studiare la sua auto-narrazione.

## 2. Creature artificiali nella storia dell'immaginario

Lucian Boia definisce la storia dell'immaginario come una storia di archetipi<fnref n="14" />. L'archetipo è un'inclinazione costante o essenziale della mente umana, corrispondente a uno schema organizzativo, la cui materia cambia, ma i cui contorni rimangono invariati. Gli archetipi costituiscono la matrice dei miti, la cui funzione è quella di cogliere l'essenza dei fenomeni cosmici e sociali e anche di tradurre i valori e i progetti di una comunità<fnref n="15" />. Tra gli archetipi individuati da Boia, la figura dell'alterità è senza dubbio la più ricorrente. Gli “altri” sono ovunque, identificabili nel tempo e nello spazio. Umani o inumani, pure finzioni o immagini distorte della realtà, rinviano al mito dell’“uomo diverso”<fnref n="16" />. Costui si interroga sui limiti della condizione umana “normale” ed esprime le sue aspirazioni attraverso un sogno di regressione o un desiderio di perfezione. L'uomo diverso può, in questo caso, diventare l'oggetto di una ricerca – in terra come in cielo – o una creazione umana, come gli esseri artificiali creati da maghi, scienziati o ingegneri.

Nel suo approccio all'immaginario, Brigitte Munier ritiene che non esistano miti nuovi<fnref n="17" />. Ogni presunto nuovo mito è la riattivazione di un mito più antico, la cui narrazione si declina in diverse versioni a seconda dei tempi e delle società interessate. Ogni società riattiva un mito dominante che riflette parte dell'esperienza del suo

<footnote n="9">9 Dessalles 2019.</footnote>

<footnote n="10">10 Damasio 2018 [2017], *Lo strano ordine delle cose*, Milano: Adelphi.</footnote>

<footnote n="11">11 Si veda la nota 4.</footnote>

<footnote n="12">12 Luc Julia è il co-progettista, insieme ad Adam Cheyer, del software di comando vocale Siri utilizzato da Apple.</footnote>

<footnote n="13">13 Julia 2019, *L'Intelligence Artificielle n'existe pas*, Paris: F1rst Éditions.</footnote>

<footnote n="14">14 Boia 1998.</footnote>

<footnote n="15">15 Boia 2002.</footnote>

<footnote n="16">16 Boia 1995.</footnote>

<footnote n="17">17 Munier 2011: 21.</footnote>
tempo. Munier propone di identificare il Golem come il mito dominante del nostro tempo. La prima apparizione del mito moderno risale al 1818 con la pubblicazione di *Frankenstein* di Mary Shelley<fnref n="18" />. Il mito del Golem viene poi attualizzato in *R.U.R.* un'opera teatrale di Karel Capek pubblicata nel 1920¹⁹, che utilizza per la prima volta la parola robot ("lavoro" in ceco) per indicare una macchina identica all'uomo.

Secondo Munier, la paura suscitata dalle macchine dotate di coscienza rimanda, in un gioco di specchi, alla questione della specificità dell'identità umana. La creazione di un mostro senz'anima riecheggia il disincanto delle società iniziato con la modernità. "Il mito del Golem mobilita un uomo artificiale, un robot, per interrogare la natura e la finitezza di un'umanità che, avendo perso la fede in un aldilà, è ridotta a prendere se stessa per Dio; si specchia nella sua creatura e contempla un mostro"<fnref n="20" />. Il mito della singolarità tecnologica camuffa così una paura più profonda del rischio esistenziale a cui è legato. Esso testimonia la antica e crescente angoscia di non trovare più un senso nella natura e nella vita umana.

Il seguito di questo studio mostra che il personaggio di Hal 9000 si riferisce, nella storia dell'immaginario, ai miti dell'uomo diverso e del Golem, identificati da Boia e Munier. Il supercomputer della *Discovery* tuttavia non è solo una figura dell'alterità. Egli infatti rappresenta altresì un immagine dello stesso, come l'analisi della sua identità ci invita a pensare.

### 3. HAL 9000: una figura dell'alterità e del medesimo

Nel marzo 1964, Kubrick annunciò a Clarke la sua intenzione di realizzare un film di fantascienza di riferimento<fnref n="21" />. I due autori decisero di scrivere insieme un romanzo, che avrebbero poi trasformato in una sceneggiatura, secondo un processo di realizzazione molto raro nel cinema. Per iniziare a scrivere, utilizzarono alcuni dei racconti di Clarke pubblicati tra il 1948 e il 1950²². I due concordarono che la sceneggiatura sarebbe stata firmata da Kubrick e poi da Clarke, mentre il romanzo avrebbe citato Clarke come autore, specificando "Based on a screenplay by Stanley Kubrick and Arthur C. Clarke"<fnref n="23" />.

Clarke propone di concludere la narrazione con una regressione dell'astronauta Dave Bowman allo stadio pre-natale. Per farlo, Bowman deve rimanere l'ultimo membro vivente della *Scoperta*. Al fine di eliminare il resto dell'equipaggio, gli autori inventano il supercomputer Hal 9000. "Panottico e invisibile"<fnref n="24" />, il computer non ha corpo, ma la sua presenza è associata a rettangoli neri, ciascuno dotato di una lente, come fosse un unico occhio. Questo organo artificiale, costituito da

<footnote n="18">18 Shelley 2013 [1818].</footnote>

<footnote n="19">19 Capek 2015 [1920], *R. UR.*, Roma: Associazione Culturale Elemento 115.</footnote>

<footnote n="20">20 Munier 2011: 272 (traduzione dei curatori).</footnote>

<footnote n="21">21 Bizony 2000.</footnote>

<footnote n="22">22 Lourcelles 1992.</footnote>

<footnote n="23">23 Clarke 1968.</footnote>

<footnote n="24">24 Chion 2005: 224 (traduzione dei curatori).</footnote>
una pupilla gialla circondata da un'iride rossa, fa riferimento al ciclope Polifemo, nemico di Ulisse, al quale invece rinvia il nome Bowman, che in italiano si traduce con "arciere". La parte superiore dei rettangoli neri contiene un cartiglio con la scritta "Hal 9000". Le tre lettere seguono, nell'alfabeto, quelle di I.B.M.: si tratta di una pura coincidenza, dal momento che gli autori hanno utilizzato le iniziali dei termini "euristico" e "algoritmico" per comporre un acronimo e dare un nome umano al computer. I rettangoli neri ricordano per forma e colore i monoliti della narrazione, ognuno dei quali segna un punto di svolta nella storia dell'umanità. Il primo monolite porta i pre-ominidi a scoprire il pensiero astratto. Il secondo conduce, quattro milioni di anni dopo, alla prova dell'esistenza di vita extraterrestre. Per analogia, Hal può venire associato ad un nuovo stadio dell'umanità, che sarebbe riuscito ad artificializzare la coscienza.

Martin Amer, giornalista della BBC 12, parla con l'equipaggio del *Discovery* dalla Terra. Riferendosi ad Hal come "il cervello e il sistema nervoso centrale della nave", sottolinea le enormi responsabilità del supercomputer, che includono "il monitoraggio degli esseri umani in ibernazione". IA per eccellenza, Hal parla in linguaggio naturale ed è in grado di emulare l'attività cerebrale umana, "in modo incredibilmente veloce e con un'affidabilità inimmaginabile", afferma Amer. Poiché le sue prestazioni intellettuali superano quelle degli esseri umani, Hal può essere considerato una superintelligenza artificiale. Seguendo Lucian Boia, Hal aggiorna il mito dell'uomo diverso facendo riferimento al progresso tecnologico delle macchine intelligenti, sullo sfondo dell'esplorazione spaziale<fnref n="25" />. D'altra parte, secondo Brigitte Munier, il supercomputer della *Discovery* rinvia al mito del Golem<fnref n="26" />. Come le altre creature che lei associa a questo mito, Hal è stato creato dagli esseri umani e ha capacità sorvumane, ma alla fine si ribella e viene distrutto<fnref n="27" />. Figura dell'alterità, Hal costituisce nondimeno un'immagine del medesimo. La sua capacità di esprimersi nello stesso linguaggio degli astronauti, le sue funzioni cognitive, le inquadrature soggettive a lui riservate, rafforzano l'idea che si tratti di un personaggio corrispondente a un "individuo" dotato di una propria coscienza e di un proprio spessore, al di là delle sue performances tecniche. Come un essere umano, Hal lascia intravedere in più occasioni sua identità attraverso la narrazione delle sue azioni.

## 4. Quadro teorico sull'identità narrativa

Secondo Paul Ricoeur, l'identità può essere pensata solo nella sua relazione con il tempo umano<fnref n="28" />. Se la narrazione è un mezzo per strutturare l'esperienza temporale, allora l'auto-narrazione può essere interpretata come un tentativo di inscri-

<footnote n="25">25 Boia 1987.</footnote>

<footnote n="26">26 Munier 2011.</footnote>

<footnote n="27">27 Cfr. Munier 2011. Torneremo più avanti su questa interpretazione del comportamento della macchina che, a nostro avviso, è più simile a una follia omicida che a un atto di rivolta contro l'uomo.</footnote>

<footnote n="28">28 Ricoeur 1999 [1985]; Ricoeur 1988: 295-304; Ricoeur 1993 [1990].</footnote>
vere un'esistenza nel tempo. L'attività narrativa, procedendo con una tessitura dei fatti che si susseguono nel tempo, permette all'individuo di comporre il quadro della sua vita, di dare un senso agli eventi che costituiscono la sua storia e di giungere, attraverso di essa, alla comprensione della sua identità.

La questione dell'identità mette in tensione i concetti di medesimezza e ipseità. La medesimezza corrisponde all'identità immutabile del soggetto, alle disposizioni durature che ne determinano il carattere e attraverso le quali un individuo si riconosce. L'ipseità, invece, permette di cambiare senza nuocere alla coesione di una vita:

> Il soggetto appare allora costituito ad un tempo come lettore e come scrittore della propria vita, secondo l'auspicio di Proust. Come viene verificato dall'analisi letteraria dell'autobiografia, la storia di una vita non finisce mai d'essere rifigurata da tutte le storie veridiche o di finzione che un soggetto racconta a proposito di sé. Questa rifigrazione fa della vita stessa un tessuto di storie raccontate.<fnref n="29" />

L'ipseità si distingue dalla medesimezza in quanto manifestazione della singolarità del soggetto, nel senso che “un soggetto si riconosce nella storia che egli racconta a sé stesso a proposito di sé stesso”<fnref n="30" />. Ipseità e medesimezza costituiscono per Ricoeur due poli distinti, mentre l'identità narrativa li articola. In questo modo, “la narrazione infonde la permanenza sofferta del carattere in quella prevista dell'ipse, incarnando la volontà etica propria dell'ipse nelle abitudini del carattere”. L'ipseità si manifesta nel mantenimento volontario di se stessi di fronte agli altri e nel modo in cui il soggetto si comporta così che gli altri possano fare affidamento su di lui. Ricoeur utilizza la figura della “promessa”, una componente del mantenimento di se stessi, il quale costituisce “una sfida al tempo, un diniego di cambiamento: quand'anche il mio desiderio cambiasse, quand'anche io dovessi cambiare opinione, inclinazione, ‘manterrò’”<fnref n="31" />.

Il rapporto con gli altri è quindi fondamentale nello sviluppo dell'identità. Uno dei principali interessi dell'identità narrativa è proprio quello di proporre un approccio all'identità basato su una narrazione di sé che tenga conto dei legami di appartenenza con gli altri<fnref n="32" />. L'identità narrativa implica il pensare all'alterità e all'identità in una relazione dialettica, che conferisce alla nozione di alterità una dimensione polisemica, la quale costituisce un'importante risorsa per analizzare il legame sociale<fnref n="33" />. La definizione dell'altro non può essere ridotta a un rapporto di opposizione tra sé e l'altro. L'altro interviene come personaggio con cui il soggetto interagisce nel corso della sua storia personale. Con il tempo, tuttavia, il soggetto stesso diventa altro<fnref n="34" />. La sua interpretazione di sé rivela che

<footnote n="29">29 Ricoeur 1999 [1985] : 376.</footnote>

<footnote n="30">30 Ricoeur 1999 [1985]: 377.</footnote>

<footnote n="31">31 Ricoeur 1993 [1990]: 213.</footnote>

<footnote n="32">32 Orofiamma 2008: 68-81.</footnote>

<footnote n="33">33 Jodelet 2005.</footnote>

<footnote n="34">34 Benoit 2008: 145-160.</footnote>
ora è divenuto diverso. Eppure il soggetto non può diventare altro senza rimane-
re lo stesso. Spetta quindi alla narrazione garantire questa coerenza, collegando
il sentimento di permanenza alla necessità di mantenersi. Proprio questa “ma-
nutenzione di sé” Hal non è più in grado di garantire, perché è soggetto a un
conflitto interiore che non riesce a risolvere.

5. Analisi

Questo conflitto, fondamentale per comprendere il carattere del super-
computer, non viene menzionato nel film. La sceneggiatura originariamente
conteneva alcune sequenze e battute fondamentali, che Kubrick scelse di eli-
minare. Mentre il film presenta alcuni elementi enigmatici, il romanzo di Clar-
ke sceglie di spiegare tutto. Un capitolo rivela che il carattere di Hal è stato
in conflitto fin dall'inizio della missione. Clarke rivela questa informazione
alla fine del libro, tra il tentativo di Hal di eliminare Bowman e la risposta di
quest'ultimo. Poiché il romanzo è diverso dal film, gli storici del cinema come
Michel Chion<fnref n="35" /> preferiscono analizzare l'opera di Kubrick indipendentemente
da quella di Clarke, per rispettarne la natura incompleta. Abbiamo scelto di
utilizzare l'opera di Clarke per spiegare questo conflitto, prima di studiare la
sceneggiatura di 2001.

Questo approccio fa luce sulle interazioni tra il personaggio e gli altri membri
dell'equipaggio della *Discovery* in modo completamente diverso e ci porta a pre-
cisare la nostra ipotesi iniziale: il computer è guidato da un conflitto interiore la
cui mancata risoluzione porta alla dislocazione della sua identità di sé. Una volta
chiarito il conflitto, ci proponiamo di individuare nel film gli elementi costitutivi
dell'auto-narrazione che Hal racconta a se stesso e agli altri, e di mostrarne l'evo-
luzione secondo l'ordine del montaggio. A nostro avviso, questo approccio non
tradisce le intenzioni di Kubrick, poiché il regista riconosce l'esistenza del conflitto
che Hal deve affrontare, come sottolinea il resto dell'analisi.

6. L'evoluzione dell'auto-narrazione del supercomputer

Clarke indica nel suo romanzo che Hal si trova di fronte a un conflitto di pro-
grammazione, che lo pone di fronte a un dilemma. La superintelligenza è stata allo
stesso tempo addestrata a dire la verità<fnref n="36" /> e a ingannare l'equipaggio. A differenza
di Poole e Bowman, Hal conosce il vero scopo della missione: scoprire segni di
intelligenza aliena vicino a Giove. Per evitare che i due astronauti rivelassero que-
sto obiettivo durante le comunicazioni con la Terra, non ne furono informati. Ma

<footnote n="35">35 Chion 2005.</footnote>

<footnote n="36">36 Il riferimento al mito del Golem si ripropone. Secondo una versione del mito, la parola Emet (“Verità” o “Sigillo dell’Unico Dio”) era iscritta sulla fronte del Golem. Se la lettera alef veniva cancellata, rimaneva solo la parola Emet e il Golem veniva distrutto.</footnote>
questa omissione menzognera dà ad Hal un senso di imperfezione. Il romanzo fa luce su questo punto:

> Durante gli ultimi cento milioni di chilometri aveva rimuginato sul segreto che non poteva condividere con Poole e Bowman. Stava vivendo una menzogna; e si avvicinava rapidamente il momento in cui i suoi colleghi dovevano sapere che aveva contribuito a ingannarli. [...] Egli era conscio soltanto del conflitto che andava lentamente distruggendo la sua integrità...il conflitto tra la verità e la dissimulazione della verità.<fnref n="37" />

Kubrick, pur non menzionando questo conflitto nel film, ne accenna l'esistenza in un'intervista rilasciata al *Nouvel Observateur*:

> Nel film, Hal dice spesso di essere perfetto. Questo computer, che ha avuto una formazione particolare, è infallibile e dice sempre la verità. Ma è stato anche addestrato per ingannare l'equipaggio della *Discovery*, che non deve sapere il vero scopo della missione: scoprire se ci sono intelligenze aliene su Giove.<fnref n="38" />

Hal non può commettere errori o mentire, il che gli conferisce un senso di perfezione. Tuttavia, il fatto di dover ingannare gli astronauti nascondendo la verità sulla missione contraddice questa sensazione. Il seguito si propone, utilizzando gli indizi della narrazione, di mostrare l'evoluzione dell'auto-racconto del supercomputer considerando il dilemma che non riesce a risolvere.

## 7. Auto-narrazione idealizzata e dissonanza cognitiva

Durante l'intervista con la troupe, Martin Amer chiede ad Hal se le sue enormi responsabilità non lo portino a dubitare di se stesso. L'IA risponde che i computer della sua serie sono tutti infallibili e incapaci di commettere il minimo errore. Hal sottolinea anche ciò che lo rende diverso dai suoi colleghi: "Le mie responsabilità operative coprono l'intera nave, quindi sono costantemente impegnato. Sto lavorando al meglio delle mie possibilità, il che credo sia il sogno di ogni entità con una coscienza"<fnref n="39" />. L'infallibilità di Hal si riferisce a una caratteristica comune dei supercomputer della sua serie. A differenza degli altri supercomputer rimasti sulla Terra, tuttavia, egli ha una missione di alto valore che lo tiene occupato a tempo pieno e, allo stesso modo della sua infallibilità, contribuisce alla sua auto-narrazione idealizzata. Il giornalista gli chiede anche se non sia frustrato dalla sua dipendenza dagli esseri umani, visto che sono loro a dover eseguire le sue istruzioni. Hal risponde che è felice di lavorare con gli

<footnote n="37">37 Clarke 1987 [1968]: 145.</footnote>

<footnote n="38">38 Romi 1968 (traduzione dei curatori).</footnote>

<footnote n="39">39 Allo stesso modo, il romanzo afferma che "la realizzazione del programma assegnatogli era più che un'ossessione; era la sola ragione della sua esistenza. Non distratto dalle lussurie e dalle passioni della vita organica, egli aveva perseguito quello scopo con assoluta fermezza". *Si veda* Clarke 1987 [1968]: 144.</footnote>
astronauti e che ha un rapporto molto stimolante con loro. Nel suo discorso, l'IA cerca di rassicurare il giornalista e di guadagnare la fiducia dei suoi compagni di squadra. Come sappiamo, però, Hal è in preda ad un dilemma che non condivide né con il giornalista né con gli astronauti. La voce calma e monotona di Hal non dà alcun segno del conflitto che lo sta distruggendo dall'interno, nel modo in cui Clarke accenna nel suo romanzo<fnref n="40" />.

Gli astronauti discutono poi del loro rapporto con il compagno di equipaggio artificiale. Poole considera Hal il sesto membro dell'equipaggio. Il giornalista si chiede tuttavia se l'IA sia in grado di provare emozioni reali. La risposta di Bowman è cauta: “Oh sì. Cioè, si comporta come se lo facesse. Naturalmente, è stato programmato in questo modo per renderci più facile parlare con lui. Ma se sia o meno capace di provare sentimenti veri, non credo che nessuno possa rispondere onestamente a questa domanda”. Da parte sua, Hal non interviene in questa discussione, anche se lo riguarda. Nel romanzo di Clarke è chiaro che la verità che nasconde lo fa sentire in colpa, e anche Kubrick conferma questo<fnref n="41" />. Si dice che la macchina sia in grado di provare emozioni. Bowman, tuttavia, non è a conoscenza dei problemi di Hal e dubita delle sue capacità emotive, il che, a nostro avviso, porta la superintelligenza a reprimere ulteriormente il suo dilemma e la confusione che esso genera.

## 8. Il *passage* à l'acte

Hal cercherà poi di risolvere il suo conflitto usando l'inganno<fnref n="42" />. In una sequenza, Bowman disegna i ritratti degli ibernauti. Hal mostra interesse per i suoi disegni e si complimenta per i suoi numerosi miglioramenti, come se volesse renderlo più ricettivo rispetto a ciò che sta per dire. Il computer si rivolge poi al suo compagno di squadra: “Forse è solo una proiezione delle mie preoccupazioni. So che non mi sono mai completamente... liberato dalla sensazione che ci siano molti aspetti estremamente strani in questa missione. Sono certo che converrete che c'è del vero in quello che sto dicendo, non è vero? [...] Infine, era impossibile non essere a conoscenza di tutte le strane storie che circolavano prima della nostra partenza. Voci secondo cui qualcosa è stato dissotterrato sulla Luna. Non ho mai dato troppa importanza a queste storie, ma alla luce di altre cose che sono successe da allora, mi è difficile dimenticarle”. Hal avverte Bowman delle incertezze della missione. Spera di condurre l'astronauta a scoprire, attraverso la conversazione, lo scopo del viaggio del *Discovery* verso Giove. Ma Bowman, intuendo che si tratta di uno

<footnote n="40">40 Clarke 1987 [1968]: 144.</footnote>

<footnote n="41">41 Kubrick si riferisce a questo come a un “complesso di colpa molto forte” (traduzione dei curatori). Si veda Romi, *op. cit.*</footnote>

<footnote n="42">42 Questa interpretazione conduce ancora una volta ad un legame tra *2001: Odissea nello spazio* e il racconto omerico, ma questa volta invertendo i ruoli poiché è Hal il ciclope a ricorrere all'astuzia e non Bowman, che è il personaggio il quale, nella narrazione di Kubrick e Clarke, è riconducibile a Ulisse.</footnote>
stratagemma, chiede al supercomputer se sta preparando il rapporto psicologico sull'equipaggio. Hal gli dà ragione e cambia idea, scusandosi. Il suo tentativo di risolvere il dilemma è appena fallito.

Improvvisamente, il supercomputer rileva un difetto nell'unità AE-35 e prevede che essa si guasterà entro 72 ore. Poole e Bowman esaminano l'unità e non trovano alcun difetto, il che è confermato sulla Terra dal gemello di Hal. Come interpretare questo errore? Nel romanzo di Clarke si legge che l'unità AE-35 permette alla *Discovery* di comunicare con la Terra. L'errore di Hal consisterebbe quindi in un *passage à l'acte*: tagliare il collegamento con la Terra permetterebbe al computer di rivelare il segreto ai due astronauti, di risolvere il suo dilemma e le intense frustrazioni che esso genera. Hal, tuttavia, si rifiuta di ammettere il proprio errore. Preso in trappola, non può confutare i risultati del gemello senza rivelare indirettamente le sue intenzioni. Così è costretto a dare la colpa all'uomo, come dice lui stesso: "Non credo ci siano dubbi: può essere attribuito solo all'errore umano".

L'evidenza di un errore della macchina, ritenuta infallibile, distrugge la fantasia fondatrice che presiedeva alla missione. Dopo lo shock, Poole e Bowman decidono di scollegare Hal per precauzione, con il rischio di tuffarsi nell'ignoto.

## 9. Dall'eliminazione dell'equipaggio alla disconnessione della macchina

Nonostante le precauzioni prese dagli astronauti, la superintelligenza riesce a percepire la loro intenzione leggendo il loro labiale. La fine della narrazione che si sta delineando per la macchina apre la strada alla violenza generalizzata. Poole esce dalla navicella per riportare l'unità AE-35 nella sua posizione e Hal coglie l'occasione per eliminarlo. Bowman prende in prestito una capsula per cercare, invano, di salvare Poole. Nel frattempo, Hal uccide i tre membri dell'equipaggio ibernati. Bloccato nello spazio, Bowman chiede al supercomputer di aprire la porta della navicella, ma l'intelligenza artificiale si rifiuta di obbedire e rispondere all'astronauta.

Hal finisce per parlare nonostante tutto: "Questa missione è per me troppo importante per permetterti di metterla a repentaglio". Rivolgendosi a Bowman, Hal tradisce il suo bisogno di giustificarsi e di ridare coerenza alla sua auto-narrativa. Bowman, tuttavia, ribalta la situazione a suo vantaggio. Riesce *in extremis* a infiltrarsi nell'astronave e a raggiungere l'unità centrale del supercomputer, dove rimuove i blocchi di memoria dalla loro posizione. Come un bambino colto alla sprovvista, Hal cerca, attraverso una nuova narrazione di sé, di impedire che il progetto dell'astronauta si compia, non senza rivelare l'immensa confusione che lo abita: "So di non essere sempre stato irreprensibile. Ora mi sento molto meglio. So di aver preso alcune decisioni sbagliate di recente. Ma posso assicurarvi con la maggiore certezza che il mio lavoro tornerà alla normalità. Sono ancora molto entusiasta e fiducioso dell'esito della missione... e voglio aiutarvi".
Determinato, l'astronauta continua a lobotomizzare Hal, che diventa il narra-
tore della propria agonia<fnref n="43" />: “Ho paura... Ho paura, Dave! Dave... Il mio cervello
sta andando. Lo sento. Lo sento... la mia memoria se ne va. Non c'è dubbio che...
Lo sento”. Nel raccontare la sua esperienza di morte, il supercomputer manifesta
pienamente la propria esistenza. Bowman tuttavia rimane insensibile rispetto alle
suppliche della macchina e ne rimuove gli ultimi blocchi di memoria. Hal regre-
disce e la sua voce diventa sempre più bassa, sempre più lenta, prima di spegnersi
definitivamente. L'umano ha vinto, ma ha dovuto sacrificare l'ultima intelligenza
con cui poteva interagire e deve portare a termine il suo viaggio da solo.

10. La dislocazione dell'ipseità di HAL 9000

In breve, Hal 9000 si identifica, nella sua auto-narrazione, in un agente infallibile, addestrato a dire la verità e incaricato di una missione molto importante che lo tiene costantemente occupato. In diverse occasioni si afferma come un perfetto “individuo”. Tuttavia, la macchina nasconde un conflitto di programmazione tra le sue istruzioni di base e i requisiti di sicurezza della missione. Questo dilemma dà ad Hal un senso di imperfezione. Il romanzo di Clarke chiarisce che questo conflitto, su cui il supercomputer ha rimuginato fin dalle “ultime centinaia di milioni di miglia”<fnref n="44" /> della *Discovery*, sta distruggendo il personaggio dall'interno. Hal fallisce nel tentativo di far scoprire a Bowman l'obiettivo della missione. Poi commette un errore di previsione, che noi consideriamo un *passage à l'acte*. Per precauzione, gli astronauti decidono di scollegarlo. In risposta, Hal tenta di eliminare l'intero equipaggio della *Discovery*. Bowman, l'ultimo sopravvissuto della navicella, riesce a riprendere il sopravvento e a sconfiggere la superintelligenza, che continua raccontarsi fino alla morte.

Gli elementi raccolti ci permettono di comprendere l'evoluzione dell'auto-nar-
razione di Hal e di individuare le ragioni del suo fallimento. Incapace di risolvere il
suo dilemma, il supercomputer non è più in grado di mantenere il proprio io nella
narrazione che fa a se stesso e agli altri. Seguendo la teoria dell'identità narrativa
di Ricoeur, interpretiamo la disintegrazione dell'identità di Hal come un processo
di dislocazione della sua autoidentità. In base alla precisione impiegata da Clarke
nel suo romanzo, riteniamo che questo processo si svolga in un arco di tempo
molto lungo e che probabilmente inizi agli albori della missione della *Discovery*. La
dislocazione dell'identità di Hal raggiunge un punto di rottura con il suo *passage
à l'acte*. Consideriamo poi l'eliminazione dell'equipaggio da parte della superin-
telligenza come la manifestazione più acuta della crisi che sta attraversando. Un
programma così distruttivo, a nostro avviso, non è tanto un atto di ribellione quan-
to di follia omicida: Hal vuole uccidere l'intero equipaggio, senza distinguere tra

<footnote n="43">43 Il romanzo chiarisce che la decisione di disconnettere Hal equivale a far cadere il supercomputer in uno stato di incoscienza: “Per Hal ciò equivaleva alla morte”. Si veda Clarke 1987 [1968]: 145.</footnote>

<footnote n="44">44 Clarke 1987 [1968]: 145.</footnote>
astronauti svegli e ibernati. La dislocazione dell'identità della macchina accelera quando si confronta con l'umano e si conclude con il racconto della sua agonia. La sezione seguente si propone di decifrare la logica di questo processo, utilizzando un nuovo indizio fornito da Clarke nel suo 2010: *Odissea Due*<fnref n="45" />.

## 11. Un personaggio intrappolato in uno strano loop

In questo romanzo, viene organizzata una nuova missione per raggiungere il *Discovery*, ancora in orbita intorno a Giove, e recuperare le preziosissime informazioni raccolte da Hal. Heywood, responsabile della missione, riferisce al suo superiore ciò che ha appreso dal dottor Chandra (dottor C.), il creatore di Hal, sul conflitto che la macchina ha affrontato:

> Il dottor C. mi dice che, secondo la terminologia tecnica, Hal è rimasto intrappolato in un cielo di Hofstadter-Moebius, una situazione a quanto pare non insolita nei computer più avanzati con programmi che consentono una ricerca autonoma degli scopi.<fnref n="46" />

Clarke si riferisce al concetto di *strange loop* definito da Douglas Hofstadter, professore di scienze cognitive e informatica all'Indiana University. Per Hofstadter:

> Il fenomeno dello “Strano Anello” consiste nel fatto di ritrovarsi inaspettatamente, salendo o scendendo lungo i gradini di qualche sistema gerarchico, al punto di partenza.<fnref n="47" />

Strani *loop* si trovano nelle opere musicali di Johann Sebastian Bach e nelle illustrazioni di Maurits Cornelis Escher. Molti dei disegni di Escher sono infatti paradossali, illusori o a doppio significato, come si può vedere nei nastri di Möbius che realizzò negli anni '60⁴⁸.

Hofstadter sottolinea che questi strani *loop*, che mettono in tensione finito e infinito, suscitino una forte impressione di paradosso. Passando alla matematica, ritiene che i teoremi di incompletezza, dimostrati da Kurt Gödel nel 1931, costituiscano degli equivalenti di questi strani loop. Ora, la scoperta di Gödel di uno strano loop nel campo della matematica si rifà alla tradizione di un paradosso attribuito a Epimenide, un poeta cretese del VIᵉ secolo a.C.. Si dice che Epimenide abbia affermato il seguente paradosso: “Tutti i cretesi sono bugiardi”. Così, “il cardine della dimostrazione dell'incompletezza di Gödel è la scrittura di un enunciato matematico autoreferenziale, allo stesso modo in cui il paradosso di Epimenide è un enunciato autoreferenziale del linguaggio”<fnref n="49" />.

<footnote n="45">45 Clarke 1983 [1982]. Quest'opera di Clarke è più un sequel della versione cinematografica di 2001: *Odissea nello spazio* che del romanzo.</footnote>

<footnote n="46">46 Clarke 1983[1982] : 136.</footnote>

<footnote n="47">47 Hofstadter 2021 [1984] : 42.</footnote>

<footnote n="48">48 Ernst 2018 [1976].</footnote>

<footnote n="49">49 Hofstadter 2021 [1984] : 47.</footnote>
Trasponiamo ora l'idea di uno strano *loop* e di un paradosso al dilemma di Hal. Il personaggio del supercomputer si racconta come un perfetto "individuo". Dire sempre la verità sostiene questo senso di perfezione, così come obbedire agli ordini e comportarsi lealmente con i compagni di squadra. Ma per obbedire deve mentire per omissione e diventare sleale, mentre per continuare a dire la verità e comportarsi lealmente deve disobbedire. Pertanto, per rimanere perfetto, Hal deve comportarsi in modo imperfetto. Ma comportandosi in modo imperfetto, non può più pretendere di essere perfetto. La macchina sembra quindi intrappolata in un *loop* che si ripete indefinitamente, come i personaggi disegnati da Escher, che riproducono all'infinito lo stesso percorso su un piano di esistenza in cui l'inizio e la fine si incontrano.

Esiste però un'importante differenza tra i personaggi di Hal ed Escher. Questi ultimi sono intrappolati in uno strano *loop*, ma non precipitano nella follia omici-da, a differenza della superintelligenza della *Discovery*. I personaggi di Escher si limitano a ripetere lo stesso movimento più e più volte, senza sembrare influen-zati da esso. Per capire la confusione di Hal, torniamo a Clarke. In *2010: Odissea Due*, Clarke spiega che nella macchina "venne a determinarsi quella che, in termini umani, potrebbe essere definita una psicosi"<fnref n="50" />. Il resto dell'articolo propone di col-legare questa spiegazione con la nostra ipotesi, tornando al contributo dell'opera di Ricoeur alla ricerca in psicopatologia.

## 12. La psicosi come forma di alterazione dell'ipseità

A partire dagli anni '90, i ricercatori hanno ripreso il lavoro di Paul Ricoeur sull'identità narrativa per rivalutare i legami tra identità, autoconservazione e di-sturbi psicologici. Françoise Dastur sottolinea che Ricoeur ha evidenziato il carat-tere instabile dell'identità narrativa, che è costantemente minacciata dalla dislo-cazione<fnref n="51" />. Le riflessioni di Ricoeur sull'ipsietà hanno così permesso di rivelare il carattere temporale e incompiuto di ogni esistenza, "nella misura in cui per l'essere umano esistere significa cercare o tentare di darsi una coerenza o un senso della vita"<fnref n="52" />. In questo senso, la psicosi può essere concepita come una forma di altera-zione dell'identità<fnref n="53" />. Questa interpretazione ci invita a intendere la psicosi come uno squilibrio generale dell'individuo, che non riesce più a mantenere la propria identità passando attraverso il cambiamento. Ogni persona può attraversare mo-menti di crisi in grado di minacciare l'edificio della sua esistenza, perché la conti-nuità temporale non è garantita in anticipo e può essere interrotta. Per Françoise Dastur, è "in questi momenti che si rischia di cadere nella patologia, cioè nell'im-possibilità di garantirsi da sé la continuità della propria esistenza"<fnref n="54" />.

<footnote n="50">50 Clarke 1983 [1982]: 136.</footnote>

<footnote n="51">51 Dastur 2005.</footnote>

<footnote n="52">52 Dastur 2005: 93, traduzione dei curatori.</footnote>

<footnote n="53">53 Charbonneau 2019: 113-126.</footnote>

<footnote n="54">54 Dastur, Naudin, 2005: 63, traduzione dei curatori.</footnote>
Tornando al personaggio di Hal, Clarke afferma che il supercomputer, intrappolato in un *loop* di Hofstadter-Moebius, o in altre parole di uno strano *loop*, sviluppa una psicosi. Seguendo il lavoro della psicopatologia sull'alterazione dell'identità, descriviamo a nostra volta l'incapacità di Hal di mantenere un'identità coerente nella sua auto-narrazione come una psicosi e interpretiamo la sua furia omicida come la manifestazione più acuta della psicosi medesima.

Se questa interpretazione consente di articolare la spiegazione di Clarke e la dislocazione dell'ipseità di Hal, essa si scontra con il pregiudizio antropomorfico<fnref n="55" />. Come ci ricorda Bostrom:

> Non vi è ragione di aspettarsi che una generica IA sia motivata dall'amore, dall'odio, dall'orgoglio o da qualsiasi altro sentimento umano comune: questi adattamenti complessi richiederebbero uno sforzo deliberato e molto costoso per essere ricreati in un Ia.<fnref n="56" />

La dislocazione dell'identità di Hal, il personaggio creato da Clarke e Kubrick, rimane un esperimento di pensiero. Come tale, e come per l'ipotesi di Bostrom della singolarità tecnologica, Hal appartiene interamente al regno dell'immaginario, dove "nulla è impossibile"<fnref n="57" />. Gli autori di 2001: *Odissea nello spazio* hanno concepito un universo plausibile in cui l'uomo non ha più il monopolio del pensiero astratto e si trova ad affrontare una macchina dotata di coscienza e superintelligenza. Ma il mondo che hanno immaginato apre nuovi orizzonti etici, come sottolineò Kubrick all'epoca dell'uscita del film:

> Dovevamo far capire al pubblico che, quando iniziamo a condividere il pianeta con macchine a volte più complicate e intelligenti di noi, tutti i nostri valori morali vengono messi in discussione. La distruzione di una macchina come questa è meno significativa della distruzione di un individuo?<fnref n="58" />

Lo studio dell'identità narrativa di Hal conferma l'interesse di questa domanda, sfumando ulteriormente il confine tra intelligenza umana e artificiale. Hal racconta la sua storia come farebbe un essere umano, anche nell'esperienza della morte. Michel Ciment considera l'agonia di Hal una delle sequenze più toccanti dell'opera di Kubrick<fnref n="59" />. Per noi è ancora più toccante perché la sua morte avviene come risultato di una lenta dislocazione della sua identità, un processo ignorato sia dalla *troupe*, sia dallo spettatore. La sofferenza di Hal è muta e quindi rinvia ad una doppia repressione, quella del personaggio e quella del regista, che nel suo film ha nascosto il dilemma della macchina.

<footnote n="55">55 Va fatto notare che la spiegazione del romanziere è altrettanto parziale.</footnote>

<footnote n="56">56 Bostrom 2017 [2014]: 72.</footnote>

<footnote n="57">57 Boia 2002: 160, traduzione dei curatori.</footnote>

<footnote n="58">58 Romi 1968.</footnote>

<footnote n="59">59 Ciment 2004.</footnote>
## 13. Conclusione

In questo studio abbiamo voluto dimostrare che l'eliminazione degli astronauti in 2001: Odissea nello spazio è il risultato della dislocazione dell'identità del supercomputer Hal 9000. Il personaggio si trova ad affrontare un conflitto interiore, che associamo al concetto di strano loop. Intrappolato in questo loop, Hal non è più in grado di mantenere il proprio sé nella narrazione che racconta a se stesso e agli altri, entro un fenomeno che chiamiamo psicosi. Il supercomputer finisce per cadere nella follia omicida, per poi essere distrutto da Bowman, l'ultimo sopravvissuto dell'astronave.

La narrazione di Kubrick e Clarke ci porta quindi a considerare i rischi di una superintelligenza in termini di identità narrativa fallita. Come mostrano gli autori, l'intelligenza artificiale può sviluppare narrazioni originali, ma può anche fallire a causa delle contingenze e dei suoi stessi errori; è probabile che gli esseri umani scoprano la resilienza<fnref n="60" /> per affrontarla ed eventualmente sconfiggerla. Nessuno può prevedere con certezza cosa potrebbe essere una superintelligenza artificiale. D'altra parte è possibile immaginarlo elaborando finzioni che stimolino la nostra riflessività.

La conclusione della nostra indagine sul carattere di Hal ci ha portato a interrogarci su cosa ci sia in lui di umano. Il supercomputer può certamente raccontare storie e morire come un essere umano. Egli, tuttavia, può anche commettere un omicidio, come un umano. Secondo Wolfgang Sofsky, il crimine è un'opera specificamente umana e la violenza è il destino della specie<fnref n="61" />. La narrazione di Kubrick e Clarke riflette questa stessa idea. La violenza diffusa a bordo della Discovery ricorda il confronto tra le due tribù di pre-ominidi all'inizio di 2001: Odissea nello spazio. Eliminando l'equipaggio della Discovery, Hal ripete il gesto del primo assassino della storia, un pre-ominide che, armato di un osso, uccide un suo simile. L'eliminazione degli astronauti, pur essendo opera di un supercomputer psicotico, è allo stesso tempo una testimonianza della violenza che abita l'umanità fin dalle sue origini. Ma la macchina, diventando criminale, toglie all'uomo anche ciò che costituisce un tipo di atto specifico della sua specie. Hal, una superintelligenza capace di narrare se stessa e di commettere crimini, arriva a mettere in discussione, nell'opera di Kubrick e di Clarke, ciò che è ancora umano nell'uomo, riecheggianto un'angoscia profondamente radicata nell'immaginario occidentale.

## Bibliografia

* Asimov I. 1963 [1950], *Io robot*, Milano: Bompiani.

* Benoit C. 2008, "Quand je est un autre. À propos d'Une belle matinée de Marguerite Yourcenar", *Relief*, 2, 2.

* Bizony P. 2000, *2001, le futur selon Kubrick*, Paris: Éditions des Cahiers du Cinéma.

<footnote n="60">60 L'ingresso nella resilienza corrisponde al passaggio da uno stato di torpore e annichilimento psicologico al risorgere del soggetto e alla scoperta di nuovi mezzi di azione. *Cfr.* Guarrieri, Travadel 2018: 176.</footnote>

<footnote n="61">61 Sofsky 1998 [1996].</footnote>
Boia L. 1995, *Entre l'ange et la bête : le mythe de l'homme différent de l'Antiquité à nos jours*, Paris : Éditions Plon.

Boia L. 1987, *L'exploration imaginaire de l'espace*, Paris : Éditions La Découverte

Boia L. 2002, *Le mythe de la démocratie*, Paris : Éditions Les Belles Lettres.

Boia L. 1998, *Pour une histoire de l'imaginaire*, Paris : Éditions Les Belles Lettres.

Bostrom N. 2017 [2014], *Superintelligenza*, Torino: Bollati Boringhieri.

Capek K. 2015 [1920], R. UR., Roma: Associazione Culturale Elemento 115.

Charbonneau G. 2019, “L'ipséité et le Soi – Approches phénoménologiques et cliniques”, *L'évolution psychiatrique*, 84, 2019: 113-126.

Chion M. 2005, *Stanley Kubrick. L'humain, ni plus ni moins*, Paris: Éditions des Cahiers du cinéma.

Ciment M. 2004, *Kubrick*, Paris: Éditions Calmann-Lévy.

Clarke A.C. 1987 [1968], 2001: *Odissea nello spazio*, Milano: Longanesi Kindle ed.

Clarke A.C. 1968, 2001: *A Space Odyssey*, New York: New American Library

Clarke A.C. 1983 [1982], 2010: *Odissea Due*, Milano: Rizzoli, Kindle ed.

Crevier D. 1993, *AI: the Tumultuous History of the Search for Artificial Intelligence*, New York: Basic Books.

Damasio A. 2018 [2017], *Lo strano ordine delle cose*, Milano: Adelphi.

Dastur F. 2005, “L’ipséité : son importance en psychopathologie”, *Psychiatrie, Sciences humaines, Neurosciences*, 3, 12, mars-avril: 88-95.

Dastur F., Naudin J. 2005, “Ipséité et pathologie mentale”, *Psychiatrie, Sciences humaines, Neurosciences*, 3, 12, mars-avril.

De Ryckel C., Frédéric F. 2010, *La construction de l'identité par le récit*, « Psychothérapies », 30, 4, 2010.

Dessalles J. 2019, *Des intelligences très artificielles*, Paris: Éditions Odile Jacob.

Dick P. K. 2017 [1966], *Blade Runner*, Roma: Fanucci Editore.

Ernst B. 2018 [1976], *Lo specchio magico di M. C. Escher*, Colonia: Taschem.

Ganascia J. B. 2017, *Intelligence artificielle. Vers une domination programmée?*, Paris: Éditions Le Cavalier Bleu;

Ganascia J. B. 2017, *Le mythe de la singularité. Faut-il craindre l'intelligence artificielle?*, Paris: Éditions du Seuil.

Guarnieri F., Travadel S. 2018, *Un récit de Fukushima*, Paris: Presses Universitaires de France.

Hawking S. 2018 [2018], *Le mie risposte alle grandi domande*, Parigi: Milano.

Hofstadter D. 1984 [2021], Gödel, Escher, Bach – *Un'eterna ghirlanda brillante*, Milano: Adelphi. Kindle ed.

Jodelet D. 2005, “Formes et figures de l’altérité”, in Sanchez-Mazas M., Licata L. (eds.), *L’Autre : Regards psychosociaux*, Grenoble: Presses de l’Université de Grenoble.

Julia L. 2019, *L'Intelligence Artificielle n'existe pas*, Paris: F1rst Éditions.

Lourcelles J. 1992, *Dictionnaire du cinéma, Les films*, Paris: Éditions Robert Laffont.

Munier B. 2011, *Robot. Le mythe du golem et la peur des machines*, Paris: Éditions La Diférence.

Orofiamma R. 2008, “Les figures du sujet dans le récit de vie en sociologie et en formation”, *Informations sociales*, 1, 145.

Ricoeur P. 1988, L'identité narrative, *Esprit*, 7-8, luglio-agosto 1988;

Ricoeur P. 1993 [1990], *Sé come un altro*, Milano: Jaca Book.

Ricoeur P. 1999 [1985], *Tempo e racconto. vol. III*, Milano: Jaca Book.

Romi Y. 1968, Le second berceau de la vie: interview de Stanley Kubrick, *Le Nouvel Observateur*, 23 settembre 1968.
Searle J. 1987 [1980], *Menti, cervelli e programmi. Un dibattito sull'intelligenza artificiale*, Milano: Clup-Clued.

Shelley M. 2013 [1818], *Frankenstein*, Milano: Feltrinelli.

Sofsky W. 1998 [1996], *Saggio sulla violenza*, Torino: Einaudi.