Newsgroup: it.comp.ia
Titolo: senzienti non-umani, scenari possibili..

Ciao,
spero di non essere troppo OT, ma..
avete mai letto questo breve racconto?
parla sul futuro, di un'IA che sfugge al controllo e diventa aggressiva nei confronti del genere-umano.
(è solo un'ipotesi ovviamente..)
http://www.estropico.com/id138.htm
Per quanto sia improbabile la visione di un mondo futuro cosi catastrofico..,
la questione di fondo (sollevata già centinaia di volte) è la seguente:
nel prossimo futuro,
se verrà creata un' entità senziente non-umana con capacità intellettive umane (o super-umane)
questa, potrebbe tentare di condurre una vita autonoma?!
Non possiamo del tutto escludere questa ipotesi
e non possiamo nemmeno pensare che le Intelligenze Artificiali del futuro
saranno sempre per forza di cose *benigne* e sotto il nostro controllo..
Se è vero che il progresso non si puo' fermare, allora, le prossime IA del futuro saranno
progressivamente più intelligenti fino a quando sfuggiranno al nostro controllo!
e secondo il parere di molti, entro i prossimi cinquant' anni.
Arrivati a questo punto, avremo a che fare con delle IA benigne o maligne, indipendenti e imprevedibili,
come lo sono del resto anche gli esseri umani, ed è qui che INIZIEREBBERO I CASINI...
Gli esseri umani "cattivi" potrebbero "unirsi" a quelli artificiali per essere ancora più crudeli e malvagi.
L'unica possibilità che ci rimane è quella di abbandonare lo studio dell'intelligenza artificiale
al momento opportuno.., ci riusciremo? :(
ciao
Dave

 :(
no, basta semplicemente mettere alla base di ogni IA le famose 
tre leggi della robotica :) (asimov docet)
GPR
-- 
"Dynamic memory delenda est" Brainlynx 26/02/02

tre leggi della robotica :) (asimov docet)
Risposta prevedibile. ;)
Ad ogni modo, se mettiamo alla base di una IA le tre leggi della robotica,
questa IA potrebbe un giorno decidere di andarsene per i fatti suoi, senza entrare per nulla in contraddizione
con le famose tre leggi di Asimov (oppure riprogrammandosi), non so se mi spiego.
Di conseguenza, saremo noi (esseri umani) per primi, ad attaccare queste entità senzienti,
per il semplice motivo di non essere più in grado di controllarle.
In seguito, queste IA potrebbero interpretare un atto ostile nei loro confronti e scatenare un putiferio,
cioè cercherebbero semplicemente di sopravvivere,
difendendosi con ogni mezzo dai nostri attacchi informatici e non.
..vabbè, ora sto fantasticando un po' troppo,
adesso smetto.. :)
ciao.
Dave




la terza legge (sopravvivere) si attua solamente se non contraddice la
prima
legge (proteggere l'essere umano), quindi il problema non si porrebbe.
Cmq
la tua questione è analizzata nell'ultima parte della quadrilogia di
asimov,
più in una miriade di novelle (le ultime) sui robot.


 
http://www.estropico.com/id138.htm
E' ambientato nel 2039 ... secondo me 35 anni sono troppo pochi per avere
degli esseri senzienti non umani, anzi per quel poco che ho studiato di IA,
credo che forse non li avremo mai!
--
Monica

"Monica M." <mmo...@libero.it.INVALID> ha scritto nel messaggio news:b8ldjv$nde$1...@fata.cs.interbusiness.it...

in particolare, cosa durante i tuoi studi di IA ti ha fatto pensare che non li avremo mai?
cosi, tanto per sapere.
io alcuni anni fa' ero della tua stessa idea, poi recentemente ho
ascoltato alcune dichiarazioni rilasciate da professori e ricercatori nel campo della
neurologia e delle scienze cognitive, e hanno detto che siamo a un passo dalla
comprensione totale delle funzioni cognitive del cervello umano. Non tutti sono d'accordo, però adesso,
grazie alle nuove tecnologie riescono a seguire con precisione i flussi dei segnali elettrici fra le varie zone del cervello
e potranno definire un nuovo modello matematico delle RN. In seguito,
simulare miliardi di neuroni e sinapsi, artificiali, e interconnessi, sarà un problema risolvibile.
basta usare uno dei prossimi grid-supercomputer della X.X.X
:)
ciao!
Dave

 in particolare, cosa durante i tuoi studi di IA ti ha fatto pensare che non
li avremo mai?
I miei studi risalgono a un paio di anni fa. Mi sono laureata in
informatica con una tesi sulle reti neurali. 
Mentre svolgevo la mia tesi, mi rendevo sempre più conto di quanto le reti
neurali siano un fallimento. I motivi sono molteplici e dipendono
dall'algoritmo di learning utilizzato (a volte il processo di
apprendimento può non convergere, può essere difficile l'adattamento a
diverse situazioni, non si possono estrarre le regole alla fine
dell'apprendimento). 
Ma c'è stato un avvenimento che più mi ha depresso.
Avevo implementato in matlab un algoritmo neuro-fuzzy per l'estrazione di
regole fuzzy dai dati, mediante clustering. 
Le performance della rete dipendevano pesantemente dal valore iniziale che
dovevo scegliere euristicamente per un paio di parametri. E ti assicuro
che non era facile sceglierli, dovevo fare tantissimi tentativi. In questo
modo, la mia rete non era autonoma, ma aveva alte percentuali di
riconoscimento solo perchè IO (con grande sforzo) le assegnavo dei
parametri giusti.
Le dichiarazioni di cui parli non le ho sentite, ma se hanno detto la
verità, allora forse c'è da sperare :-)
Ciao
Monica
-- 
questo articolo e` stato inviato via web dal servizio gratuito 
http://www.newsland.it/news
 segnala gli abusi ad 
ab...@newsland.it

parametri giusti.
non hai mai pensato ad un algoritmo genetico?
-- 
]\/[ad]\/[age (
www.mindreamz.net
)
"Un Maestro insegue semplicemente la sua visione di Eccellenza in
qualunque cosa sta facendo e lascia agli altri decidere se sta 
lavorando o giocando. A lui sembra sempre di fare entrambe." - Anonimo

 non hai mai pensato ad un algoritmo genetico?
Per individuare il valore dei parametri? (in particolare, erano dei
learning rate)


 per me descrive un ipotesi molto piů affascinante di quella dell'articolo...
grazie mille per il tuo suggerimento,
me lo leggo subito,
e poi magari ne riparliamo.
:)
ciao
Dave

Questo ragionamento non mi convince,
ascolta questo paragone: un futuro uomo privo della conoscenza scientifica
attuale (immagina in seguito ad un guerra, oppure un'epidemia di sars)
ritrova un vecchio computer, lo accende e (per assurdo) comincia ad
utilizzare un sofisticato programma di grafica tridimensionale, a questo
punto l'omino incuriosito dal risultato che vede sullo schermo decide di
capire come funziona la scatola nera appena trovata. Apre il computer,
smonta qualche circuito integrato e con notevoli difficoltà comprende
finalmente come funziona un transistor.
Secondo la tua opinione, l'ignaro omino è autorizzato a dire, in poco tempo
posso mettere insieme milioni di transistor e creare le immagini
tridimensionali!! In realtà non sa assolutamente che ad un livello
leggermente piu alto del transistor c'è l'algebra booleana, piu su c'è la
matematica e poi la giometria ecc...
In effetti capire come funziona la nostra rete computazionale è un
grandissimo passo in avanti, ma pensare che tra comprendere le RN e simulare
un'intelligenza umana ci sia di mezzo sola la quantità di informazione che
una macchina può computare, mi sembra un'errore che si è gia fatto 50 anni
fa! ;)
Emiliano.


 > basta usare uno dei prossimi grid-supercomputer della X.X.X
Io ho immaginato un'altra cosa: una teconlogia avanzatissima consente di
sostituire i neuroni ad uno ad uno con dei transistor (chissà magari
proteine artificiali) che ne simulano perfettamente il funzionamento... o
permette di fare questa simulazione via software.
L'essere umano al quale è stato sostituito pian piano il cervello rimane
l'essere umano di partenza, perchè il nuovo cervello simula in tutto e per
tutto il funzionamento dell'insieme di neuroni sostituiti, così come un
cuore meccanico farebbe fluire il sangue alla stessa maniera... Ma è ancora
un essere umano? Diciamo di si. Ma sicuramente sarebbe possibile creare un
altro essere con la stessa tecnologia uguale al precedente, addirittura
conoscendo la sua sruttura celebrale questa potrebbe essere simulata via
software. Sarebbe quindi un nuovo essere senziente artificiale, perchè se ne
potrebbero creare più copie con gli stessi materiali.
Il fatto che si possa creare un senziente non umano proabilmente è come
domandarsi se abbiamo o no un'anima.
E' un pò come chiedersi se sostituisco il mio cervello con quello di una mia
amica, chi sono io alla fine? Ma si può divagare in ogni direzione in questo
ambito. :)
Eli

amica, chi sono io alla fine? 
non esisti più, è la tua amica che è (con un nuovo corpo)
l'identità umana risiede nella struttura cerebrale più di quanto non
sia nel DNA
Matteo Cerri

 sia nel DNA
Per quanto riguarda questo la penso esattamente come te.
Ciao, rispondimi!! Mi interessano le cose che hai detto...


grazie, purtroppo questo ng è molto meno frequentato che non un tempo,
se no troveresti molte opinioni molto più valide delle mie
a presto
Matteo Cerri

 se no troveresti molte opinioni molto più valide delle mie
Probabilmente la validità delle opinioni siano esse profonde o meno dipende
dalla loro capacità di creare nuove idee. O di permettere una dissertazione
come questa. In questo caso ero io il limite non certo tu!!
Comunque ho delle idee su alcuni programmi quindi in futuro posterò domande
più tecniche..
:-)
Ciao            Elisa.


Se comunque vuoi ispirarti alla natura, ti posso consigliare gli unici
autore che nel settore dei correlati neurofisiologici della coscienza
ha proposto una toria un po' più solida. Si chiamano Edelman (Nobel
per la medicina) e Giulio Tononi (italiano, ma lavora a Medison).
La loro teoria, basata sulla teoria dell'informazione di Shannon,
propone alcuni aspetti originali e potrebbe essere fonte di
ispirazione per chi praticamente vuole dedicarsi a questo settore in
modo più pratico.
Bye
Matteo Cerri