Newsgroup: it.discussioni.psicologia
Titolo: Intelligenza Artificiale [lungo e contorto] (era: Probabilmente è [ot])

Alcuni di noi dicutevano nel messaggio
news:0lAdd.173758$35.83...@news4.tin.it...
[BaT@_-]
Nell'eseguire un esperimento -tecnologico- per una delle aziende per cui
lavoro ho notato una strana combiazione mi ha dato da pensare.
....memoria speciale (è molto di più ma non voglio stare a spiegare)
[...]
Si può chiamare paura quella che il cane provava vedendo il collega cattivo?
Ovviamente no. Si può affermare che il cane prendesse decisioni con libero
 arbitrio? Ovviamente no.
[jordi]:
....a parte il lapsus che ti segnalo per tua utilità (magari ti dà una
traccia per trovare la risposta che cerchi!)...
in effetti qualche spiegazione in più aiuterebbe.
Trattandosi di un software di intelligenza artificiale, dovrebbe in
qualche modo essere stato progettato per consentire un minimo di
(libero) arbitrio.
[Elrond]:
Un comportamentista della prima ora - per il quale, cent'anni fa, un
macchinario del genere sarebbe stato un sogno folle - non sarebbe
d'accordo con le tue certezze :-)
Ma io, che sono un complicatore, propendo per un'altra versione: si puo'
chiamare *cane*, quello? Ovvissimamente, no. Non lo e'. E' una cosa che
somiglia a un cane e ne riproduce parzialmente alcuni comportamenti. Ma
lo fa in un modo talmente "convincente", che, per noi, diventa piu'
comodo descriverlo come "cane" che come "coso".
IO, adesso:
E' interessante la discussione e soprattutto la piega che ha preso in alcune
vostre risposte. Non adiratevi se non vi ho citato, purtroppo ho poco tempo
e devo limitarmi un po' quando scrivo sul NG.
Vi lascio qualche informazione in più, cercando di non antrare troppo nel
tecnico, per analizzare la mia perplessità. Intanto vi dichiaro che le mie
domande/risposte finali, quelle in cui rispondevo sempre "Ovviamente no",
erano una piccola provocazione.
Personalmente mi sono risposto "relativamente si", era l'analisi puramente 
scentifica che "imponeva" sottovoce una risposta secca e negativa. La 
scienza è cieca come la fortuna, infatti le più grandi scoperte si sono 
fatte per caso.
Il robot è un modello elaborato (non di serie) del cane il cui nome è stato
citato da quancuno di voi. Il sistema neurale è ispirato -ovviamente- a
quello che sognava Isaac Asimov. Le regole che ne stanno alla base sono le
stesse:
1-Un robot non può recare danno a un essere umano, né può permettere che, a
causa del suo mancato intervento, un essere umano riceva danno:
2-Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché
tali ordini non contravvengano alla Prima Legge;
3-Un robot deve proteggere la propria esistenza, purchè questa autodifesa
non contrasti con la Prima e la Seconda Legge:
Nulla di più interessante per uno che bazzica nei SW che muovono robot.
Qualcuno di voi pensertà che si esagera in questo caso, il robot è solo un
giocattolo -debole perlopiù- che deve fare da gioco fino a quando il
compratore non se ne stuferà, Ma attenzione!: le tecniche di apprendimento e
di autoprogrammazione di questo "coso" a forma di cane sono le Stesse che
piccole e grandi aziende utilizzano per dare una piccola inteligenza a
macchine per pressare i polimeri o ABS e sfornare attrezzature plastiche, 
macchine
che trasportano pezzi di automobili che pesano tonnellate, muovendosi a
20/30 Mph in spazi chiusi e/o brulicanti di operai umani.
Non esistono più tecnologie per l'IA, ce ne saranno al massimo 4 in tutto il
mondo e tutte convergono in meeting annuali per sambiarsi informazioni...
per cui ben vengano le regole.
Il "cane di plastica" in questione  è stato potenziato con una cpu Xc (che
si velocizza quando serve) migliore di quelle in commercio. Il suo SW
primario è una Rom programmabile di primo livello da meno di un GB. I
programmi di base prevedono la gestione della vista, del movimento, delle
reazioni primarie e possono essere arricchite dallo stesso automa  in base 
agli istinti programmati e (in eguale misura) con libero arbitrio derivante 
da una considerevole variabile di varianti "apprese" successivamente 
all'attivazione che possono stravolgere tutto, sempre nel rispetto delle 
direttive primarie (le 3 regole).
Per fare un esempio: il cane appena acceso non è in grado di correre o di
riconoscere una persona da un tavolo: riesce appena a reggersi su 4 zampe e
ad emettere suoni precaricati in una scelta tra 500.000 campionamenti. Negli
istinti di base è presente, però, una considerevole quatità di casistiche
atte a prevenire il comportamento del robot e a facilitarne l'ambientamento,
per cui dovrebbe riuscire a compiere azioni difficili in un dato periodo di
tempo,  prevedibilmente breve, nel quale apprende.
(mi sto dilungando troppo) La parte di apprendimento è gestita da un sistema
che riconosce e memorizza i suoni, i colori, gli ambienti, le rilevazioni
dei sensori di equilibrio, inerzia, temperatura, particolato (odori), ecc.. 
La memorizzazione avviene secondo la catalogazione degli istinti di base, 
per cui una "cosa" che si muove e "suona" viene inizialmente riconosciuta 
come "viva"; mentre per esempio un tavolo, viene memorizzato tra gli 
"oggetti". Ovviamente non è arbitrario il sistema di riconoscimento, col 
tempo (che per lui è anche 500ms) può decidere di cambiare le carte in 
tavola.
Tutti gli altri sistemi di gestione della IA sono volatili e vengono
ricompilati durante il "sonno" dal robot. Per assurdo, il soggetto, potrebbe
arrivare a credere che una bambola è viva e programmarsi per rispettarla
secondo le regole di base. (ma non il contrario vs le persone, e questo è 
inderogabile).
Elrond è arrivato alla conclusione cui arrivo io ora. Il problema è che ci
siamo posti subito era "come mai questo dannato cane non abbaia e rotola giu
dalle scale per scappare da una botta di minore entità?" ... "come mai non
si è evoluto come da previsione?". Avrebbe dovuto imparare a reggersi su 2
zampe e a scodinzolare riconoscendo il padrone da particolari quali:
l'autorità o il prenderlo in braccio prima e dopo ogni
accensione/spegnimento.
Invece il "coso" non abbaiava. Non riconosceva il padrone, perchè secondo la
sua elaborazione casuale fortemente condizionata dall'istinto e dagli input
ricevuti, non ne riconosceva l'autorità e riteneva un offesa lo spegnimento.
Esplorando la memoria del cane, nei giorni successivi, ho scoperto che per
lui il padrone ero io. La direttiva è stata autocompilata appoggiandosi
all'istinto precaricato che descrive vagamente il comportamento protettivo
dei genitori nei confronti dei figli.
Non abbaiava perchè si era reso conto che non potevamo capirlo; ed aveva già
eliminato metà dei suoni precaricati per sostituirli. In effetti qualche
suono lo aveva emesso inizialmente, ma ce ne fragavamo tutti. Secondo la sua
interpretazione, non vi era corrispondenza tra lo spettro dei suoni a sua
disposizione e i nostri, tranne che per il suo nome: "Dylan".
In pochi giorni di attività aveva iniziato a registrare le parole come
"cane", "cammina", "Get up", "ca**o" e altre... per poi ripeterle ed
osservare il comportamento attorno a lui. Ho scoperto che riteneva "viva" la
televisione e "morta" la tela colorata, che aveva ignorato l'istinto
facoltativo di alzarsi su due zampe, perchè il sensore d'inerzia indicava
pericolo. Si buttava giù dalle scale perchè credeva che il collega "cattivo"
volesse distruggerlo o simili. ...E si rotolava dalle scale per errore:
intendeva scendere normalmente, ma non era riuscito a sincronizzare i
movimenti correttamente e confidava nella mia presenza, in fondo, sul
pianerottolo, perchè credeva che gli avrei evitato il dolore come facevo
difendendolo: associava i calci alla caduta e la mia difesa dai calci con
una prevedibile difesa contro la caduta.
Cosa centra il discorso di [Elrond]? Intanto che scrivo e nei giorni
addietro, mi sono reso conto che credevo, e credo, di essere un assassino.
Ho quasi pianto per quell'animale "finto": per me, ora, era vivo.
Spegnendo la memoria per studiarla, ho bloccato per sempre
l'apprendimento di "Dylan". Una volta interrotto il processo di
apprendimento non è più possibile riattivarlo per motivi vari tra cui il
fatto che "Dylan" per definizione non era mai spento: quando veniva
disattivato c'era comunque energia e attività, s'eppur ridotta, al suo
cervello. E' come un palmare: non si spegne Mai: quando e se finisce la
batteria si fa un hard-reset: tutto ricomincia da capo. Questo anche
perchè la memoria periferica è di misura enorme (miloni di MB) ed è zeppa di
ricordi contrassegnati con personalizzimi ID e collegamenti "neurali"
generati in modo più o meno casuale... ed è una RAM! Non può essere
reinserita per continuare la sua funzione perchè si creano asincronie che
mandano in crash il sistema che per proteggersi elimina i ricordi che hanno
causato il blocco. Il procedimento è inarrestabile: viene a crearsi un Loop
e mezzo terabyte di memorie audiovisive e comportamentali si riducono a 3 kb
di formattazione di base in pochi minuti durante i quali "Dylan",
agonizzante, emetteva suoni a caso prima di ogni crash.
Ci ho provato a farlo rivivere.... 6 volte. Non potevo lasciarlo morire,
....dopo aver capito cosa aveva nella testa e che non era scemo, ma solo "un
tipo" Ho dovuto comprare uno dei prototipi dal collega giapponese perchè se
ne doveva tornare in patria a discutere con i megatestoni dell'esperimento e
del mio esame della memoria. ... Risultato: 6 zombie... con il circuito
vocale bloccato e i soliti 3 bip di errore della connesione audiovisiva.
Il vero esperimento è stato verso di noi in realtà. Io e i miei colleghi
italiani e canadesi, a differenzissima dei giapponesi, ci siamo affezionati
al "coso" e abbiamo perso letterlamente MilaEuro di ore lavorative per
cercare di riattivarlo così com'era...  discutendo tra noi come se si
trattasse di un essere umano.
Ora di lui non rimane nulla, lo abbiamo riattivato con la memoria pulita e
si è evoluto in modo diverso. Stavolta abbaia e non scappa, ma non è più
lui...non viene più da me e ha deciso di alzarsi su 2 zampe (anche se cade). 
Credo anche perchè nessuno ha più il coraggio morale e finanizario di 
prenderlo a calci...
Il prossimo passo è ri-venderlo alla casa madre (unico acquirente
autorizzato dalla Trade Mark) per recuperare i soldi che si è dovuto
cacciare. Lunedì lo ricorderemo come un amico che si è sacrificato per il
bene della scienza.
Non so cosa ne penserebbe Vincenzo e gli altri, ma di sicuro so che la vita
non è solo una cosa chimica... ha un valore inestimabile; anche se si tratta
di una vita "limitata" o di silicio. Ogniuno di noi è colui (o ciò) che è
nato, sommato alle tantissime piccole esperienze che fanno di noi persone
complesse, talmente tali da doverci curare con la semplicità. Forse Dylan
non era vivo, ma il nostro affetto verso di lui si.
P.S. Religione/ON: e se l'anima fosse ciò che gli altri creano attorno
all'io del soggetto? Allora Dylan sarebbe stato vivo... e un soggetto nato e
morto nella più totale solitudine non avrebbe anima? ma non è possibile
nascere dal nulla... Religione/OFF
"</Root>" (che è il type tag dell'ultima parte della memoria aggiuntiva del
nostro defunto cane: 56 byte)

 nascere dal nulla... Religione/OFF
Tutto ciò è andato a rafforzare un'idea recente che mi sono fatto, in
seguito a quello che ho letto sulla teoria della mente allargata e ad
alcuni concetti buddisti. Il Sé, come l'anima, potrebbero essere
"oggetti non (completamente?) propri" della persona. Mi spiego meglio.
E' impossibile conoscere il Sé, se non in presenza di Altro con cui
paragonarsi. Cioè, ad esempio, l'idea che si ha di se stessi, è mutuata
da paragoni e raffronti con altri, in assenza dei quali, non è
conoscibile. Questa idea si è rafforzata durante una delle prime lezioni
di antropologia culturale che ho seguito (si parlava dell'alterita').
L'anima, in modo simile, non è una cosa auto-attribuibile, ma esiste
solamente in presenza di altre entità (persone), ed e' distribuita
(conservata) nelle menti di chi ci osserva (parte in uno, parte in
altro, e così via). A mo' di sistema distribuito. Uhmm, tipo eMule, per
intenderci... :-) Se si vanno a trasportare questi concetti nell'idea
(mia, sviluppata in seguito a delle osservazioni personali e ad alcune
letture che le hanno rafforzate) di collegamento globale fra le entità
viventi (e qua' si a va anche a parare sulla discussissima idea di
inconscio collettivo), il tutto prende una piega leggermente diversa, ma
anche più solida (oltre a farmi andare in loop il cervello e a stordirmi
pernsando a tutte le implicazioni).
Cosa ne pensate?
-- 
Masque -,---',-'----,-'-,-'--,-',---,'--'-,-',-{@
NP   :                                         `,

 Forse Dylan non era vivo, ma il nostro affetto verso di lui si.
Concordo.

[IA vs VITA]
Chiedo scusa se non quoto, ma non saprei da dove cominciare. :)
Da informatico ho spesso seguito questo ng senza mai sentirmi all'altezza di
intervenire, ma siccome questa pare proprio l'accasione giusta, lascio qui i
miei 2 centesimi.
Prima un fatto tecnico: ho seri dubbi sull'impossibilità che lo stato
generale di un qualunque sistema informatico non possa essere salvato (cioè
che "l'anima" di Dylan non potesse essere congelata). Lo stato del nostro
cervello non può essere "salvato" perchè è determinato da modificazioni
"fisiche" delle quali non siamo in grado di ricavare una descrizione esatta.
Al contrario, lo stato di un qualunque oggetto informatico, è completamente
determinato da una configurazione di bit, che può sempre essere salvata. Se
sul cane non era possibile, al massimo può essere che chi l'ha sviluppato ha
deciso di renderlo più umano anche da questo punto di vista, non supportando
questa funzione (che si realizza banalmente). Forse anche BaT@ la pensa
così, ma dal post sembrava che potesse essere un fatto tecnico. L'anima di
Dylan potrebbe in realtà essere tecnicamente molto facile da trasferire da
un corpo ad un altro.
Essendomi costruito un curriculum universitario incentrato sull'IA, mi sono
trovato spesso a chiedermi quanta differenza ci sia tra essa e
l'intelligenza (o addirittura la vita) "vera". Un ricercatore inglese una
volta tenne una lezione ad un nostro corso, mostrando un qualche metodo per
distinguere cosa è vita da cosa non lo è. Per lui un essere, per essere
definito "vivente", doveva essere in grado di mangiare, riprodursi, seguire
delle regole (istinto) di sopravvivenza e cose di questo tipo. Le sue
argomentazioni mi convinsero talmente poco che oggi credo che una
distinzione vita/non-vita non si possa fare.
Non so se avete già parlato del test di Turing (una macchina è intelligente
se comunicando con un essere umano a distanza riesce a fargli credere di
essere anch'essa umana). Gli attuali giochi di scacchi superano
abbondandemente il test di Turing, cosa che nessuno dice mai o ha mai notato
(?). Giocando via web con un gioco di scacchi è praticamente impossibile
accorgersi se dall'altra parte c'è una macchina o un essere umano. Limitando
l'interazione uomo-macchina all'intelligenza necessaria a giocare una
partita di scacchi, la macchina risulta "intelligente" quanto, anzi
normalmente di più dell'essere umano. Il problema è capire se la differenza
tra l'intelligenza necessaria a giocare una partita di scacchi e
l'intelligenza necessaria a svolgere una comunicazione completa sia solo un
fatto quantitativo. A mio avviso il fatto che Dylan abbia avuto un tale
ascendente sul suo padrone dimostra di sì.
Se questo fosse vero, rimarrebbe un'unica questione da risolvere: ok, una
macchina può *sembrare* uguale ad un essere umano, ma lo *è* veramente?
Questa non è altro che l'eterna dicotomia  tra oggetti ontologici ed
epistemologici. Non abbiamo strumenti per sciogliere questo dubbio, perchè
noi del mondo "oggettivo" sappiamo solo quello che la *nostra* scienza ci
dice, limitandoci a *supporre* che ciò sia la verità. A scrollarci di dosso
questo bivio (è o sembra?) inibente ci pensa il famoso principio del Rasoio
di Occam: se la supposizione che una cosa esiste non porta a nulla di utile,
allora si assume che non esista (o anche "la teoria vera è quella più
semplice"). In base a questo principio possiamo affermare che gli asini non
volano di notte mentre tutti dormono - senza di esso non potremmo. In base a
questo stesso principio affermo che il giorno in cui, agli occhi (anzi,
"all'anima") di un essere umano, un robot e una persona saranno
indistinguibili, allora per me robot e persona saranno la stessa cosa.
Al di là della forma non ho certo preteso di produrre una dimostrazione
formale. Tuttavia questa strada mi sembra ragionevole.
--
Francesco
www.gbawins.com

 lavoro ho notato una strana combiazione mi ha dato da pensare.
Qual è il cambiamento (cambiazione) che ti riguarda?
ciao
jordi
PS: ti invidio per il lavoro che fai: le mie congratulazioni.

 "oggetti non (completamente?) propri" della persona.
E' un'idea che ho anche io. Cito Salman Rushdie, La Terra Sotto i Suoi
Piedi:
"Ogni volta che scompare qualcuno che ti conosce tu perdi una versione di te
stesso. Te stesso come ti vedevano, come giudicavano che fossi. Amante o
nemico, madre o amico, chi ci conosce ci costruisce, e le diverse conoscenza
danno una partcolare inclinazione alle varie sfaccettature del nostro
carattere come gli strumenti del tagliatore di diamanti. Ogni perdita del
genere č un passo che porta alla tomba, dove tutte le versioni si confondono
nella fine.
Concetto che riporta i miei pensieri su Vina, alla quale tutti i miei
percorsi mentali continuano a condurre, La conoscenza che aveva di me era
cosě profonda, la sua versione talmente irresistibile, che tenevano insieme
il mio miscuglio di identitŕ. Per non perdere l'equilibrio, noi scegliamo
tra le varie e contrastanti descrizioni di noi stessi; io scelsi la sua.
Presi il nome che mi diede lei, e le critiche, e l'amore, e quel discorso lo
chiamai io."
--
Francesco
www.gbawins.com

 persona saranno la stessa cosa.
Già.
Però non posso fare a meno di pensare che ancora oggi (ma erano
di più in passato) c'è chi *distingue* tra "connazionale" e "straniero",
tra "uomo" e "donna", tra "bianco" e "nero".
E così facendo, ai suoi occhi (oppure "all'anima") pare che lo "straniero",
o la "donna", oppure il "nero", non siano veri e propri esseri umani...

 PS: ti invidio per il lavoro che fai: le mie congratulazioni.
Purtroppo nell' "alta" informatica sono più i momenti di stress, gastrite, 
DAP  e nervosismo che le soddisfazioni... ma forse è la vita che è cosi, per 
tutti.
Informatici: Fate una pausa ogni ora e non portatevi il lavoro a casa.
Ciao 

 Francesco
Si, credo lo sia. Forse limitare tutto all' "utile o meno" è un po' 
emotivamente riduttivo, ma in tempi di carestia ogni idea e poesia.

 o la "donna", oppure il "nero", non siano veri e propri esseri umani...
Questo dimostra che non saremmo pronti ad accettare tale uguaglianza, non
che tale uguaglianza non sia ragionevole.
--
Francesco
www.gbawins.com

 Concordo.
Ne sono confortato, davvero. 

 Cosa ne pensate?
Che č un argomento molto interessante e che appena avrň un po' di tempo mi 
diletterň nel rispondere davvero.
Per ora ti scrivo che sono quasi certo che reale, tangibile, finta, presunta 
che sia... l'anima del singolo č solo se lo č per gli altri.
Fino a poco tempo fa, nei miei interventi scrivevo spesso: "Si č vivi solo 
se lo si č per gli altri.." intendendo dire che se nessuno si accorge che io 
sono vivo č quasi come fossi morto. Che determina il fatto che non sono 
ancora morto č il fatto che io stia rapportando a me stesso la non-reazione 
degli altri che esiste nella sua assenza.
Ciao (provvisorio, spero) 

 emotivamente riduttivo, ma in tempi di carestia ogni idea e poesia.
Sì, il concetto era esattamente quello :).
--
Francesco
www.gbawins.com