Newsgroup: it.lavoro.informatica
Titolo: Musk lancia l'allarme sull'IA, un rischio per l'umanità


 
a parte che il progresso non dev'essere fermato mai, continuo col pensare che questi siano discorsi da ignorante.
musk quanto sa di roba tecnica?
è un imprenditore, se ci andasse lui in sala di controllo quando partono i suoi razzi sai i fuochi d'artificio.
se chatgpt e i suoi cugini o successori avessero veramente il potere di eliminare tanti lavori noiosi e ripetitivi come quelli negli studi contabili per esempio, sarebbe un grande passo per l'umanità, ma non è una novità.
alla fine il progresso ha portato altri tipi di lavori e migliorato il benessere.
e peraltro l'intelligenza artificiale non potrà mai arrivare a fare tanti lavori che facciamo noi.
voi cosa ne pensate?

Il 30/03/23 10:26, Armando Lario ha scritto:

l'appello di musk e altri ricercatori, non è nel fermare il progresso 
della AI
ma di fermarsi a ragionare quanto in alcuni casi sia etico e mettere un 
controllo (freno, regolamentazione, standard ecc) al suo uso
 
come è successo con la clonazione, la pecora dolly è un esempio di 
ingegneria genetica e se la comunità di scenziati non si fosse fermata a 
riflettere ed i governi o istituzioni sovranazionali non avessero messo 
freni (regolamntazioni e bandi) oggi avresti essere umani clonati o 
interi eserciti alla starwars.
 
 

 interi eserciti alla starwars.
 
la clonazione è una cosa completamente diversa, l'esempio non è calzante

 la clonazione è una cosa completamente diversa, l'esempio non è calzante
 
ho fatto l'esempio della clonazione, che se leggi sopra è calzante, ma 
lo è stato anche per l'atomica (intesa come armamenti ed evoluzione bellica)
 
 
 
 
 

 cosa ci può essere di non etico in uno strumento informatico?c
 
un esempio attuale
un virus informatico è etico?
 

 lo è stato anche per l'atomica (intesa come armamenti ed evoluzione bellica)
 
la clonazione è biologia, l'ai è dati e informazioni e inferenze su un pc, in quel senso intendevo.
idem l'atomica, cioè un conto è sviluppare una tecnologia, un altro è applicarla in modo errato.
e comunque la sperimentazione della pecora dolly scientificamente è un risultato molto importante e interessante, con il quale hanno scoperto cose che possono avere la loro utilità.
è il celebre discorso dei coltelli: non è che non li costruisci perchè c'è qualcuno che potrebbe usarli per uccidere

 è il celebre discorso dei coltelli: non è che non li costruisci perchè c'è qualcuno che potrebbe usarli per uccidere
 
 
ma infatti è proprio per questo che l'appello è di fermarsi e mettere 
delle regole comuni e dei limiti, come per l'atomica, la clonazione e 
tanti altri temi
 

Il 30/03/23 17:11, Mirko ha scritto:

o più banalmente un auto a guida autonoma AI (taxi), entra in macchina 
una persona che sta male, l'AI si accorge di questo (telecamere, sensori 
vari come battito cardiaco , riconoscimenti facciale (di un volto 
sofferente), sensori acustici (lamento o timbro di voce), sensori di 
anidride carbonica (che identificano il respiro) ecc)
 
l'AI ha il diritto di decidere (autodeterminazione) di portarlo in 
ospedale o di infrangere il codice stradale andando di corsa?
anche contro la volonta del passeggero (umano)?
 
 

 anche contro la volonta del passeggero (umano)?
 
 
in questo specifico caso, forse e' meglio se l'AI fermi l'automobile e 
chiami il 118 .
 
 

 tanti altri temi
 
a me pare che i limiti già ci siano: le auto intelligenti non hanno attualmente assoluta libertà, le decisioni giuridiche devono ancora essere alla fine ratificate da un essere umano, etc.
altrimenti continua a sfuggirmi qualcosa

 anche contro la volonta del passeggero (umano)?
 
ok, sei stato chiaro, ma anche in questo caso, ci sarà un software e relativi parametri impostabili che possano determinare queste scelte, tutto in rispetto del codice civile, stradale, penale, etc. altrimenti qualcuno che non sarà certo l'ai pagherà per qualcosa andato storto

Il 31/03/23 14:49, Armando Lario ha scritto:

stai ragionando da programmatore, da persona che imposta un software per 
fare certe cose
 
ma ragiona ad un livello più alto
 
se una macchina autoapprende ed ad un certo punto non solo impara, ma 
prende coscienza di se, come un individuo
cercherà di espandere i suoi confini andando OLTRE quello per cui è 
stato programmato.
 
quindi ritorniamo al topic iniziale
è giusto fermarsi e ragionare se mettere limiti al'AI?
 
e far in modo che sia sempre l'uomo ad avere l'ultima parola?
 
 

 e far in modo che sia sempre l'uomo ad avere l'ultima parola?
 
in certi ambiti direi che sì deve essere così, ma per questo non c'è bisogno di imporre limiti alla ricerca, semmai alle implementazioni

Il 31/03/23 17:27, Mirko ha scritto:

porto degli esempi del mondo reale
 
un essere vivente (uomo, animale) o vegetale, si adegua alle regole 
sociali (o di branco), fino a quando ne ha convenienza.
nel momento in qui queste stesse regole sono stringenti, l'essere 
vivente cercherà di uscirne o se ne ha la forza (magari in gruppo), di 
cambiarle le regole.
 
pensa alla rivoluzione francese (regole sociali cambiate da monarchia a 
democrazia)
pensa all'evoluzione tecnologica (miglioramento della PROPRIA (intesa 
come eseere umano) vita)
pensa a te stesso che cerchi di migliorare sempre più la tua condizione 
di vita
 
pensa ad un animale in gabbia che tenta di fuggire (regole sociali 
stringenti) o aggredire se si sente in pericolo (istinto di sopravvivenza)
pensa alle piante che emigrano (impollinazione) per sopravvivere o 
colonizzare altri luoghi (quasi sempre per sopravvivenza)
 
pensa ad animali o vegetali che in un territorio non sono mai stati 
autoctoni ma ora prendono il dopravvento sulle altre razze (zanzara 
tigre sulla normale zanzara, ape asiatica sulle api europee, piuttosto 
che graminacee equatoriali qui in europa)
 
 
ora applica questi stessi modelli di comportamento ad una macchina che 
"E' UN ESSERE VIVENTE" (in quanto ha coscienza e autodeterminazione) ed 
ha velocità di apprendimento milioni di volte superiore a quella 
dell'uomo, e non gli dai un LIMITE.
 
ritornando in topic
l'appello di musk e gli altri pone l'accento sul controllo, e i limiti 
che bisogna dare all'AI.
 
lo trovi così assurdo questo appello?

 confini andando OLTRE quello per cui è stato programmato.
 
questa però è fantascienza. per carità, ho letto e riletto asimov e li 
considero capolavori, ma si tratta di puro frutto di immaginazione e 
tuttora resta in quel campo, perché le varie branche dell'ai (fra cui il 
machine learning) non hanno alcuna relazione ne pratica ne teorica col 
produrre una "coscienza". sono cose che si continuano ad immaginare sempre 
in un futuro indefinito, adesso pensando al computer quantistico di cui 
non si conosce ancora l'applicazione pratica su larga scala, ma sempre 
lavorando di pura fantasia.
 
questo vuol dire che non ci sono implicazioni etiche? tutt'altro, ce ne 
sono eccome e sono già di forte attualità. ma riguardano però l'uomo e 
l'applicazione che ne fa, perché sono tecniche che possono concentrare sui 
singoli un enorme potere di controllo, basti pensare al riconoscimento 
facciale e gli esempi che ci vengono dalla cina. questo è il punto su cui 
occorre mantenere alta l'attenzione, non sulle narrazioni 
fantascientifiche.

 
Da quello che posso capire, l'IA attuale è ben lontana dal "prendere 
coscienza di sè" e lo sarà ancora per parecchio tempo credo.
 
Quella che abbiamo oggi è un'intelligenza artificiale che è istruita a 
gestire un solo compito, che "sembra" agire in modo intelligente, ma non 
lo è.
Ci può essere un sistema che è bravissimo a risolvere un compito 
particolare, ma non è in grado di risolverne un altro: è necessario 
istruire un altro sistema per gestire l'altro compito.
 
E' cosa ben diversa dall'IA che invece è in grado compiere qualsisai 
compito intellettivo.
 
Ciao
Fab

 dell'uomo, e non gli dai un LIMITE.
 
se parli di scrivere un romanzo di fantascienza ti seguo, altrimenti no. 
la macchina che hai descritto (in pratica il cervello positronico di 
asimov) è un prodotto della fantasia, cosa vogliamo regolamentare la 
fantasia? :-)

 fantascientifiche.
 
Concordo,
basti per esempio considerare il famoso "bias" cioè il fatto che il 
comportamento di una IA è derivato dai dati con cui è stato fatto 
l'apprendimento, e se questi dati contengono pregiudizi, allora anche il 
comportamento dell'IA avrà pregiudizi.
 
Ad esempio, per quanto riguarda il riconoscimento facciale, sembra che 
la percentuale di errore nel riconoscimento sia molto diversa a seconda 
del colore della pelle...
Per non parlare di sistemi che dicono di essere in grado di addirittura 
stabilire le emozioni delle persone, in base al comportamento che 
assumono o dalle loro espressioni facciali.
 
Credo che qualcosa debba essere normato a livello legislativo.
 
Fab
 

 coscienza di sè" e lo sarà ancora per parecchio tempo credo.
 
sono molto d'accordo. allo stato attuale possiamo dire che è proprio 
impossibile: non conosciamo molti dei meccanismi di funzionamento del 
cervello e quelli che conosciamo sappiamo che non possiamo riprodurli con 
una macchina, al massimo emularli. prendi il riconoscimento facciale, con 
la macchina lo fai applicando delle funzioni matematiche ma quando 
incontri una persona il cervello mica calcola integrali o derivate per 
distinguerla da una lavatrice, usa dei processi chimico/fisici 
infinitamente più efficienti. ma è solo un esempio: non so se hai letto 
"pensieri lenti e veloci" di kahneman, se non l'hai letto lo consiglio, la 
gran parte dei nostri processi decisionali passa per una attività 
cognitiva involontaria e automatica, questo da una parte ci espone a 
numerosi bias ma dall'altra ci rende estremamente efficienti. ecco, questi 
meccanismi, a patto di conoscerli a basso livello, non sono riproducibili 
con nessuna macchina. 
 
poi si sa, l'evoluzione tecnologica non procede in modo lineare e 
prevedibile, magari il futuro ci riserverà sorprese. per ora però è 
fantascienza.

 compito intellettivo. 
 
Quindi sarebbe un'evoluzione di ciò che nel secolo scorso veniva chiamato
"sistema esperto" allora chiaramente distinto da "intelligenza artificiale"
Quando (e se) arriverà un vera AI chissà come la chiameranno :-)
 

 direi che è una cosa utilissima finchè rimane su un pc, nel senso che nessuno autorizzerebbe mai un avvocato artificiale, almeno in un paese civile
 
esiste giá qualcosa di simile
 
negli states per crimini "minori" giá hanno automatizzato la risoluzione 
dei casi con deep ML software
 
considera che in questi paesi c'é il Common Law che rende le cose molto 
piú semplici

Il 31/03/23 19:46, rootkit ha scritto:

la domanda che mi pongo è quanto siamo lontani da un embrione di un 
cervello positronico alla asimov?
 
l'attuale AI si è sviluppata in meno di un decennio e se rimane vero o 
simile la legge di moore?
 
se non solo un imprenditore (che ha le sue ovvie ragioni), ma sprattutto 
una comunità di scienziati del campo della AI, sono preoccupati
 
penso che non manchi molto per un nuovo salto tecnologico
si pensi all'accoppiata di AI + computer quantistico
la velocità di integrazione tra software e il mondo reele (smart)
 
l'esempio della pecora dolly che facevo all'inizio, oggi a che punto 
saremmo se non fossero state introdotte delle regolamntazioni e sareemo 
andati avanti nella ricerca in quella direzione?
 
dalla dolly oggi hai le staminali (perchè la regolamentazione vieta la 
clonazione di un intero essere vivente), ma se non ci fosse stata questa 
limitazione?
 
le domande che mi pongo non sono se, ma quando arriveremo a quel punto
fosse anche fra 100 anni

 una comunità di scienziati del campo della AI, sono preoccupati
 
si ma *di* *cosa* sono preoccupati? delle macchine che diventano 
senzienti? non credo proprio, mi risulta ci siano rischi assai più 
concreti e immediati che riguardano l'impiego che può farne l'uomo per 
violare i diritti di altri uomini.
 
https://artificialintelligenceact.eu/
 
 
 

 si pensi all'accoppiata di AI + computer quantistico
 
ecchellollá
 
non solo la fantascienza dell'AI senziente - nessuno di preciso sa cosa 
sia l'autocoscienza e alcuni in primis il premio nobel Roger Penrose 
speculano che non sia computabile - e ci mettiamo pure i computer 
quantistici
gli scienziati non sono neanche d'accordo nella definizione di "forma di 
vita intelligente" figuriamoci..
 
qualcuno ce l'ha l'algoritmo quantistico che replica l'autocoscienza?
 
ce l'abbiamo la tecnologia per avere mega o giga qubit a temperatura 
ambiente? (no perché i chip che ci sono in circolazione arrivano a pochi 
qubit e funzionano a temperature vicine allo zero assoluto)
 
ci manca la fusione fredda per alimentare i computer quantistici col 
software senziente e poi siamo apposto
 
ma datevi tutti 'na calmata
 
e me non preoccupa il software autocosciente o senziente
 
a me preoccupano, anzi, mi fanno girare i coglioni, gli idioti  - o i 
criminali - che usano il software che c'é giá in modo deleterio per la 
societá

 arrivare a fare tanti lavori che facciamo noi. voi cosa ne pensate?
 
Che quando si ha a che fare con i ferengi bisogna cambiare paradigma e 
semmai chiedersi tutt'altro e seguire tutt'altra via e, di la' delle 
vagonate di stronzate, semplicemente quella del profitto, la solita ritrita 
vecchia via dei soldi, tutto qui.
 

 lo trovi così assurdo questo appello?
 
sì perchè quel che dici è fantascienza

 coscienza di sè" e lo sarà ancora per parecchio tempo credo. 
 
per sempre


ma poi alla fine chi attua queste che io chiamo "consulenze" è una persona, non è il computer che ha elaborato le decisioni.
e sarà sempre così, dubito che in un paese civile ci si affiderà mai ciecamente alle decisioni prese dall'ai

 è un imprenditore, se ci andasse lui in sala di controllo quando partono i suoi razzi sai i fuochi d'artificio.
 
E' probabile che l'IA sia un rischio per lui in quanto imprenditore, 
come per molti altri imprenditori.
 
 
-- 
Questa email è stata esaminata alla ricerca di virus dal software antivirus Avast.
www.avast.com
 

 come per molti altri imprenditori. 
 
continuo con il pensare che l'ai è sopravvalutata come lo era il computer al suo avvento, temuto anche lui, come lo erano le macchine industriali quando ci fu la rivoluzione industriale, e magari temevano anche la ruota quando è stata inventata

 dubito che in un paese civile ci si affiderà mai ciecamente alle decisioni prese dall'ai
 
forse non hai letto bene, o non ho scritto chiaramente io: lo stanno giá 
facendo


ti rispiego: alla fine chi ratifica una decisione è una persona, per questo ho detto ciecamente.
non è che l'ai prende una decisione e quella è senza che nessuno la guardi, andando a passeggiare al parco.
quindi se uno si serve di uno strumento potente quanto si voglia, alla fine è lui di fatto che prende la decisione.
come se dicessi ad un mio cliente: sì il risultato è sbagliato ma così mi ha detto excel.
e tu pensi che il cliente dica, ah vabbè, me la vado a prendere con excel, tranquillo, puoi andare