Newsgroup: it.cultura.filosofia.moderato
Titolo: Coscienza e intelligenza

 fisica dei sistemi
Neo:
Attenzione, Feynman stava parlando di "sentirsi", cioe' di autocoscienza.
L'intelligenza artificiale non si occupa dell'autocoscienza.
Posso progettare un sistema che in determinate condizioni assuma un
comportamento piu "nervoso" del solito, e posso anche fargli notificare
questa variazione facendogli dire "sono nervoso", ma come tecnico di
intelligenza artificiale il fatto che esso/egli *si senta* veramente
nervoso e' irrilevante.
Verifichero' quanto il neointrodotto nervosismo influisce sull'intelligenza
del mio sistema sottoponendolo a test del QI prima e dopo l'attivazione dei
circuiti preposti al nervosismo, ma non ci sono test di QC (quoziente di
coscienza) a cui sottoporlo.
Suppongo che prima o poi chiunque si occupi di intelligenza artificiale
finisca con l'interrogarsi sul grado di coscienza di un'eventuale automa
in grado di superare il test di Turing, ma il rapporto tra intelligenza
e coscienza e' simile a quello che intercorre tra la MQ e le idee
filosofiche che attorno ad essa fioriscono.
Tanto per sgombrare la strada a possibili equivoci tra i termini "mente"
e "intelligenza", vale la pena di precisare che per intelligenza
andrebbe propriamente intesa la capacita' di una mente di risolvere
problemi, ma, siccome nell'ambito dell'intelligenza artificiale questa
capacita' mentale e' di solito l'unica che interessa, spesso il
termine intelligenza viene sostituito tout court a quello di mente.
Per quanto riguarda il termine autocoscienza (o piu' semplicemente
coscienza), si sarebbe tentati di
definirlo come la capacita' della mente di avere una rappresentazione
di se' stessa e di riconoscerla come tale, dopodiche' quando ci
concentriamo su questa attivita' mentale potremmo concederci di nuovo
la comodita' di parlare di "una coscienza" anziche' dire "una mente".
Tuttavia la cosa risulta insoddisfacente, perche' non e' difficile
per un processo in esecuzione su un computer osservare la lista dei
processi in esecuzione sullo stesso elaboratore e riconoscervi se'
stesso, ma, pur essendo questo molto piu' di quanto riescono a fare
le nostre menti con le loro simili, dire che quel processo e'
autocosciente non sembra dire tutta la verita'.
Il processo di cui sopra potrebbe anche affermare "penso dunque sono"
e potremmo anche dargli ragione, ma di solito quando uno di noi
afferma "penso dunque sono" sottintende qualcosa di piu'.
Il nostro sentire afferma in realta' qualcosa di piu' simile a
"penso dunque sono vivo", e quell' "esser vivo" al processo da noi
implementato facciamo fatica a riconoscerlo.
Al di la' dei comprensibili meccanismi psicologici che ci possono
indurre a fare questo distinguo anche in mancanza di ogni evidenza
sperimentale in merito, il sospetto che un automa che superi il
test di Turing non sia veramente cosciente ma solo un ottimo
simulatore non sembra infondato, e da qualche parte la differenza
bisogna pure cercarla, se non altro per avere la "coscienza" a posto
quando alla fine concluderemo che differenza non v'e'.
Chiedersi se la coscienza abbia qualcosa a che fare con la MQ e' un
passo di questa ricerca. Non un passo molto promettente, lo riconosco,
ma neanche tanto piu' fantasioso che ipotizzare un'anima soprannaturale.
Il fatto e' che una scienza della coscienza non ce l'abbiamo; i fotoni
li vediamo coi nostri occhi, gli elettroni li sentiamo prendendo la
scossa, i gravitoni non siamo sicuri che esistano ma se c'e' la gravita'
sembra ragionevole cercarli, mentre i coscienzioni... non dubitiamo
che la coscienza ci sia eppure ci sentiamo ridicoli non dico a cercarli,
ma finanche a ipotizzarli.
E cosi' non abbiamo alcuno strumento per rilevare l'esistenza di una
coscienza, ma neanche banali, limitati e criticabili test di QC come
quelli sopra ipotizzati.
Be', prima che ci troviamo a convivere con i robot positronici sara'
meglio escogitare qualcosa del genere.
Potrebbe tornarci utile.
Ciao
Neo
-- 
questo articolo e` stato inviato via web dal servizio gratuito 
http://www.newsland.it/news
 segnala gli abusi ad 
ab...@newsland.it

 sono test di QC (quoziente di coscienza) a cui sottoporlo.
Comincio con l'osservare che Feynman parlava di "mente", e sono stato io a
far scivolare il discorso sulla AI. Ovviamente se si parla della mente la
questione dell'autocoscienza è assolutamente rilevante, per non dire
centrale, sicché il discorso di Feynman non mi pare esposto alla tua
critica.
Bisogna quindi stabilire se ho fatto bene a sostituire un discorso sulla AI
a delle considerazioni più generali sulla "mente".
Ora, io sono profondamente convinto che il giorno in cui si dovessere
realizzare una macchina (veramente) "intelligente" quella macchina sarà
anche "cosciente", e viceversa.
Dunque dal mio punto di vista parlare di "intelligenza" e di "coscienza" è
indifferente. Non perché i due termini esprimano lo stesso concetto, ma
perché la realizzazione dell'una sta in una doppia implicazione (= è un "se
e solo se") con la realizzazione dell'altra.
Se poi uno non accetta questa implicazione, possiamo anche fare dei discorsi
separati sull'una e sull'altra, chiedendoci in entrambi i casi se il fatto
che il "sostrato" sia classico o quantistico possa fare qualche differenza.
Come dicevo in un post di qualche giorno fa, dobbiamo tenere presente che
sostrati anche molto diversi fra loro possono far "emergere" la stessa
dinamica macroscopica.
Questo fatto da un punto di vista informatico è legato al discorso sulla
"portabilità", ma si può ampiamente generalizzare alla dinamica dei sistemi,
parlando di "sinergetica", "complessità", "parametri d'ordine" e tutte
quelle solite cose lì.
Ne viene che una certa "dinamica emergente", in virtù di questa sua
"portabilità", non è un semplice epifenomeno di un particolare sostrato (per
intenderci: la mente non è semplicemente "il funzionamento del cervello"),
ma rappresenta una intera "classe di equivalenza" di sostrati, i quali hanno
in comune una certa "struttura astratta".
Noi, ad esempio, sappiamo quale sia la "struttura astratta" di un computer
(è la famosa "macchina virtuale" dei programmatori), ed ogni volta che
riusciamo a costruire un modello materiale di quella struttura abbiamo un
computer, sul quale possiamo installare tutti i nostri programmi, e scrivere
una lettera con Word esattamente nello stesso modo in cui la scriviamo su
qualunque altro computer, a prescindere dal fatto che il computer sia
elettronico, o positronico o fotonico, o magari a valvole termoioniche.
Invece nel caso della intelligenza e della coscienza non sappiamo quale sia
la "struttura astratta" che le produce. Non possiamo dire: «In qualunque
sistema materiale che abbia questo e quel requisto si "accende" una
"coscienza" e/o una "intelligenza".» Se siamo "materialisti" pensiamo che
esistano gli opportuni requisti per produrre quella "accensione", ma proprio
perché siamo materialisti dobbiamo imparare a spostare il nostro
materialismo ad un meta-livello, cioè al livello delle "strutture".
Ebbene, nella ignoranza (quasi) totale in cui troviamo, si pone il seguente
problema:
***
Il comportamento "quantistico" fa parte o no di quella "struttura" che
cosentirebbe di fare "accendere" la "intelligenza" e la "coscienza"?
***
E' ovvio che nel cervello ci sono degli oggetti fisici per i quali vale la
MQ, ma non è altrettanto ovvio che la MQ sia fra ciò che "emerge" a livello
"strutturale".
Ad esempio certe equazioni della termodinamica hanno la stessa identica
forma sia supponendo che per le molecole valga la MC sia supponendo che
valga la MQ. Si tratta insomma di dinamiche macroscopiche la cui struttura
"cattura" certi aspetti delle dinamiche microscopiche che non risentono
nemmeno di una differenza così grande come può esserci fra la MC e la MQ.
Dunque non sappiamo nulla, ma in queste cose bisogna imparare ad essere
"sottili", perché sappiamo che una certa "proprietà emergente" può essere
assolutamente "irriconoscibile" a livello di "sostrato".
Se uno ci dicesse che nella cellula ci sono tutte le informazioni per creare
un essere vivente, noi ingenuamente potremmo essere indotti a pensare che in
ogni cellula ci sia un "disegnino" di come deve venire fuori l'organismo.
Invece quello che troviamo è una molecola di DNA, la quale contiene le
istruzioni per riprodursi. E siccome il DNA si riproduce in un certo
ambiente, per realizzare questo ambiente deve anche produrre una serie di
molecole, le quali si "auto-organizzano" in strutture di complessità
crescente, dalla cellula all'organismo. Questo ci fa capir ecome possa
essere "ingenuo" chi si aspettava di trovare il "disegnino".
Non solo la proprietà emergente può essere irriconoscibile a livello di
sostrato, ma può anche sembrare "contraddittoria" rispetto ad esso.
Ad esempio noi sappiamo che la termodinamica è irreversibile, mentre la
meccanica microscopica (almeno quella classica) è reversibile nel tempo.
Come si fa a far emergere la irreversibilità dalla reversibilità? Sembra
impossibile, come voler ottenere un dipinto tutto bianco usando solo
pennellate nere. Invece grazie al lavoro di Boltzmann, Poincaré ed altri si
è compreso come possa avvenire questo "miracolo".
Qualcosa del genere lo aveva anche intuito Adam Smith, il quale si rese
conto che da una grande quantità di "atti economici microscopici" tutti
"egoistici" ed interagenti fra loro si poteva produrre un "bene comune".
Insomma, una società che a livello microscopico è "egoistica" se si trova in
opportune "condizioni al contorno" (che sono quelle che ne garantiscono
l'equilibrio omeostatico) può diventare "altruista", nel senso che alla fine
ognuuno, pur volendo tutto per sé, in qualche modo si rende utile agli
altri, magari molto più di quanto lo sarebbe se fosse semplicemente "buono"
o comunque guidato da una ideologia "altruista". Quando Adam Smith si rese
conto di questo "miracolo", ne fu talmente colpito da ipotizzare l'azione di
una sorta di Mano Invisibile che avrebbe agito a mo' di "Provvidenza della
economia".
Si osservi il parallelismo: così come una grande quantità di singoli atti
microscopici reversibili possono produrre una dinamica macroscopica
irreversibile, analogamente una grande quantità di singoli atti microscopici
"egoistici" possono produrre una macro-economia "altruistica".
In questo parallelo ci sono le basi per la fornulazione scientifica del
"liberalismo economico".
Marx aveva capito bene che la Mano Invisibile di Smith era la sua bestia
nera, tant'è che dedicò una particolare attenzione alla confutazione di
quella teoria di Smith. E non ebbe grandi difficoltà a farlo, perché da un
punto di vista teorico Smith è la preistoria del liberalismo, ed è ovvio che
ipotizzando una sorta di "intervento provvidenziale" non si costruisce una
solida teoria scientifica.
In fondo anche il concetto di Provvidenza è legato al "miracolo" che si
realizza in questi "contrappassi". Basti considerare che secondo alcune
teologie il Demonio è quella forza che "compie sempre il bene volendo sempre
il male". Recentemente Wojtyla ha cercato di far rientrare anche il
comunismo in quella forza. E da un punto di vista morale potremmo pensare
che anche il singolo "agente economico egoista" ipotizzato da Smith sia
parte di una forza di questo genere.
Ora, tutte queste varie forme di "provvidenzialismo" nella teoria generale
dei sistemi sono sostituite dal concetto di "proprietà emergente" (o, più
precisamente, da quello di "asservimento ai parametri d'ordine", un concetto
diffusamente trattato da Haken e tutta la lsinergetica), di cui ti ho fatto
sopra vari esempi.
Se vale il parallelo (un po' "metaforico") fra termodinamica ed economia
che ho esposto, allora vedi bene che Smith non ha
più bisogno di nessuna Mano Invisibile, e viene anche meno la confutazione
di Marx della teoria di Smith. In altri termini, la teoria dei sistemi ci
consente di recuperare le tesi di Smith collocandole in un quadro
scientifico moderno. Da questo punto di vista non sono mancati alcuni
pensatori di sinistra che hanno accusato la teoria dei sistemi (o almeno
quella sua parte che viene applicata alla macroeconomia) di essere "di
destra". D'altra parte non sono poi tanto lontani i tempi in cui la teoria
della relatività veniva bollata come "fisica ebraica".
Tuttavia, come dicevo poco fa, la teoria dei sistemi si occupa anche di
studiare le "condizioni al contorno" per mantentere certi equilibri
omeostatici. Quindi se anziché relegare i Nobel dell'economia negli atti
compiuti "contro il popolo", per poi ipotizzare sistemi economici utopistici
(che vanno dalla riscoperta del piano quinquennale alle varie forme di
anarchia politica), si riconoscesse una buona volta che l'uomo ha bisogno di
incentivi egoistici e ci si dedicasse allo studio di quelle "condizioni al
contorno", ci si renderebbe conto che affinché venga mantenuto un certo
equilibrio lo stato deve intervenire come forza ri-equilibratice e
ri-distributrice di risorse economiche. Se proprio ne vogliamo fare una
questione politica, possiamo dire che la teoria dei sistemi è
"socialdemocratica", come il Dio di Guccini :-)
Tutto questo lo dico non tanto per "buttarla in politica" andando
tragicamente fuori tema, ma perché anche la società, in quanto sistema
auto-organizzato, ha una sua forma di "intelligenza", come pure gli
organismi viventi. Diciamo che prima di comprendere come funziona la
"intelligenza della mente", dobbiamo comprendere come funziona la
"intelligenza del corpo" (ovvero l'intelligenza degli organismi o quella
della società), perché la prima emerge dalla seconda.
Adesso che abbiamo capito che nella cellula non ci può essere il "dignino",
perché - come diceva quello - "sottile è il Signore", non possiamo nemmeno
pretendere ingenuamente che una cosa come il "libero arbitrio" si spieghi
ipotizzando semplicemente che ogni singolo costituente del cervello segua
una dinamica indeterminata e probabilistica. Come a dire: «Siccome ogni
singolo neurone è "libero di scegliere che fare", allora anche il cervello
lo è.»
Questa è una di quelle cose che ad un fisico gli fanno cadere i cosi per
terra, perché allora ogni cosa dovrebbe possedere il "libero arbitrio". Ed
anche fare dei ragionamenti alla Penrose, nei quali si ipotizza che questa
"libertà quantistica" in qualche modo venga "amplificata" dal cervello e
venga fatta "risalire" al livello macroscopico è solo un modo di ripetere
fuori contesto certi concetti orecchiati qua e là, magari pure dalla stessa
teoria dei sistemi.
Dunque non sappiamo qual è la "struttura astratta" che può fare "accendere"
la "intelligenza" e la "coscienza", però sappiamo che certi ragionamenti
assomigliano a quelli di coloro che pretendono di trovare il "disegnino"
nella cellula. Non possiamo escludere a priori che il problema di così
semplice, e che nella cellula si trovi effettivamente il "disegnino", ma è
una di quelle cose su cui un fisico è disposto a giocarsi un testicolo
(magari quello più piccolo :-) )
Molto più sensato è invece il ricorso alle "dinamiche caotiche". E Feynman,
che aveva buon naso, lo aveva già capito più di quarant'anni fa, sebbene non
diponesse nemmeno del vocabolario giusto per esprimere le sue intuizioni.
Ciao.
D.

 anche "cosciente", e viceversa.
"Profondamente convinto", addirittura !
Se tu ti fossi limitato a *supporre* che le cose stiano in quel
determinato modo potevo anche lasciartela passare liscia, ma se ti
dici addirittura "profondamente convinto" non posso che chiederti di
giustificare tanta sicurezza.
E anche di specificare il senso di quel "veramente", che sembra
suggerire che si possa distinguere tra intelligenza vera e
intelligenza falsa (?).
Per il resto, ovvero l'emergere di intelligenza e/o coscienza da
"mattoncini" non intelligenti ne' coscienti, o la portabilita' del
risultato su una piattaforma diversa, mi trovi d'accordo.
Una sola cosa ti devo chiedere, ovvero se dalla corrispondenza biunivoca
che affermi tra intelligenza e coscienza e dal fatto che parli di
intelligenza della societa' devo dedurre che pensi che la societa' sia
un'entita' cosciente.
In attesa di spunti, cordialmente ti saluto.


 societa' sia un'entita' cosciente.
La risposta è unica, perché in quel "veramente" ci dovrebbe stare la
differenza fra una generica "intelligenza" come può essere quella di un
qualunque sistema biologico (o, più in generale, un sistema
auto-organizzato) ed una intelligenza che frettolosamente ho definito "vera"
solo per riferirmi a ciò che intendiamo quando pensiamo ad "altre
intelligenze nell'universo".
Gli scrittori di fantascienza si sono sbizzarriti ad inventarsi i corpi più
strani per questi ipotetici esseri, ed alcuni li hanno anche concepiti come
costituiti da "pura energia", ma in ogni caso sono esseri con i quali si può
"comunicare".
D'altra parte anche la stessa "definizione operativa" di intelligenza
proposta da Turing dava per scontato che il sistema venisse fatto interagire
con un uomo per mezzo di "scambio di messaggi" (o, più in generale,
informazioni).
Si tratta dunque di forme di intelligenza che rappresentano il mondo per
mezzo di simboli, o - per dirla altrimenti - dispongono di un linguaggio.
Ora, se un sistema che è in grado di produrre una rappresentazione simbolica
del mondo che lo circonda ha da essere "intelligente", bisogna che sappia
anche rappresentare le proprie interazioni con quell'ambiente, e quindi deve
disporre anche di elementi simbolici per rappresentare se stesso. Il che è
come dire che deve saper dire "Io", e deve anche saper dire che quell'"Io" è
parte di quel mondo; dunque deve saper dire "Io (ci) sono".
Ciao.
D.

 NeoNeo wrote:






Riprendendo l'esempio del processo di un computer, non e' difficile fargli
esplorare lo stato del computer stesso e fargli memorizzare il risultato
di questa scansione nelle proprie variabili interne: questo significa avere
una rappresentazione simbolica del proprio ambiente.
E' inoltre normale per ogni processo avere uno scambio di informazioni
(input/output) con un operatore umano, attraverso le apposite interfacce.
Il nostro processo, quando esamina il computer che lo ospita, puo'
identificare i vari programmi e processi e dire qualcosa del tipo:
EXCEL.EXE - Questa e' un'applicazione di produttivita' individuale
JOKE.COM
 - Questo e' un virus
AI.EXE - QUESTO SONO IO !!
PIPPO.JHG - Questo non lo conosco
ecc..
Tuttavia io, che sono l'autore di AI.EXE versione 4, programma piu'
*intelligente* della versione 3 che comunque gia' disponeva della
capacita' di rappresentare simbolicamente il proprio ambiente,
di riconoscervi se' stesso e interagire con l'operatore e con gli
altri programmi all'uopo predisposti, non mi sento di dire che
il mio programma sia "veramente" autocosciente.
Cioe', secondo il significato piu' esteso del termine devo anche
ammetterlo, pero' dubito che la semplice mente artificiale che ho
realizzato, che "sa" di esserci, "senta" anche di esserci, per il
semplice fatto che non mi risulta di avere inserito nel mio programma
il "sentire" (il "feel" di Feynman).
Potrei averlo fatto inconsapevolmente, data la mia ignoranza di come
si implementi via software una coscienza, tuttavia mi sembra
abbastanza improbabile: di solito un software non fa mai piu' di
quello per cui lo si ha progettato, spesso anzi fa di meno :-)
Quando invece mi parli degli extraterrestri, la faccenda e' diversa:
non li ho costruiti io, suppongo si siano evoluti in natura in modo
analogo a come sono finito con l'esistere io, e se si comportano piu'
o meno come me, e io mi sento come so di sentirmi, suppongo che loro
si "sentano esistere" piu' o meno come mi ci sento io.
Senza scomodare gli extraterrestri, e' quel che facciamo con gli
altri esseri umani: nessuno percepisce o ha strumenti per rilevare
l'autocoscienza altrui, ma siccome ci assomigliamo...
Insomma, se costruiamo i robot positronici, risultano essere
intelligenti quanto e piu' di noi, e certamente anche meno cattivi
ed egoisti, magari decidiamo di lasciare il mondo a loro...
che pero' non sono coscienti.
Avremmo ottenuto un bellissimo giardino terrestre, pero' MORTO.
Magari e' lo stesso la miglior cosa da fare, ma non sarebbe meglio
esserne... coscienti?
Ciao
