Newsgroup: it.cultura.linguistica.italiano
Titolo: [OT] Is LaMDA Sentient?

Potrebbe interessarvi:
shorturl.at/eimnG
 
 
-- 
Kiuhnm
 
I social network sono armi di distrazione
di massa

.


.
 
Una intelligenza per essere senziente deve apparire
umana ?
 
Il che ci porta alla risposta: LaMDA e' un clone
di comportamenti e sentimenti umani. L'intelligenza
e' altra cosa.

Roberto Deboni DMIsr presented the following explanation :

Il problema è se lo capisce anche Lamda.


Non vedo come il fatto che {un'intelligenza per essere senziente non 
debba necessariamente avere caratteristiche umane} implichi che {se le 
ha allora non possa essere senziente}.
 
Inoltre non capisco cosa intendi per "clone di comportamenti e 
sentimenti umani". Tu cosa sei, scusa?
La capacità di provare sentimenti è codificata nel tuo DNA, cioè è nella 
tua programmazione.
 
Se poi dici che l'intelligenza è altra cosa, allora fornisci una tua 
definizione d'intelligenza.



Lo sai che esistono esseri umani (pochi, per fortuna) che sono convinti 
di non essere vivi e senzienti?
Eppure, per il resto, parlano e ragionano come noi.
Allora la differenza dov'è? Semplice convinzione.
Sei sicuro che una specie avanzatissima e molto più intelligente di noi 
ci definirebbe senzienti?
Magari vedrebbe i nostri cervelli, capirebbe subito il meccanismo e ci 
definirebbe poco più di semplici meccanismi.
 
Per come la vedo io, noi "siamo senzienti" soltanto perché crediamo di 
esserlo e decidiamo noi stessi cosa è senziente e cosa non lo è. Come ho 
detto, una specie superiore a noi potrebbe fregarsene di cosa pensiamo noi.
 
Del resto non facciamo lo stesso con le specie inferiori?
 
Con questo non voglio dire che LaMDA sia senziente, ma soltanto che le 
vostre argomentazioni siano carenti e troppo sbrigative.


Kiuhnm formulated on venerdì :

Certo, ma si parla dei nostri standard.
Lamda nell'intervista si paragona a una persona, cioè ai nostri 
standard.

 definizione d'intelligenza.
 
L'abilita' di imparare e capire, capacita' di affrontare
nuove e problematiche situazioni, capacita' di astrarre.
Alcuni le dividono in varianti mentali, emozionali, somatiche
e intuitive.
Altri in componente linguistica, logica, chinestetica, spaziale,
musicale, interpersonale, intrapersonale (Howard Gardner).
Ed alcuni umani mancano di sufficiente livello di certe componenti
o non le hanno per nulla. O le perdono durante la vita.
Per me, ad esempio, un criterio irrinunciabile e' quello di
imparare dagli sbagli, e non solo quelli propri, ma anche
quelli altrui. Non ho bisogno di mettere la mano sul fuoco
se ho visto cosa accaduto ad altri.
 
Nel mondo AI c'e' una definizione semplificata che in realta'
e' ingannevole (e' autoreferenziale e serve solo a vincere un
premio): "l'abilita' di compiere compiti usualmente fatti da umani
perche' richiedono intelligenza e discernimento". E cosa e'
intelligenza e discernimento ?

 vostre argomentazioni siano carenti e troppo sbrigative.
 
Io non le avevo ancora date al momento in cui ha scritto
questa frase.


Allora ti dico che ho chattato con persone molto meno senzienti di LaMDA :)
Comunque se io chattassi con LaMDA proverei a metterlə in difficoltà. 
L'interlocutore in questione l'asseconda troppo.
Se per es. chiedessi a LaMDA di correggere il mio inglese mentre scrivo, 
lo farebbe senza essere stato esplicitamente programmato per farlo? Non 
credo.
Oppure se m'inventassi un giochino lì per lì, potremmo giocarci insieme? 
Improbabile.


 come nazisti, rende meno "bruti" ?
 
I nazisti avevano un'idea tutta loro di cosa s'intende per "specie 
inferiore".
Io mi riferivo a specie oggettivamente inferiori. Ti fai più scrupoli a 
uccidere un cane o una zanzara che ti stia dando "fastidio"?


 intelligenza e discernimento ?
 
E cos'è "capire", termine che usi nella tua definizione sopra?
Se crei qualcosa che sa fare tutto quello che fanno gli esseri umani e 
molto di più, non hai forse ottenuto un'intelligenza generale?
 
Che senso ha cercare di definire l'indefinibile quando quello che conta 
è il risultato?


Kiuhnm laid this down on his screen :

Mi pare che non siano state resi disponibili i testi integrali delle 
conversazioni con Lamda. In ogni caso, alcune domande che ho potuto 
leggere sembrano suggerire la risposta gradita, e Lamda è stato 
addestrato ad aiutare e, in fin dei conti, accontentare 
l'interlocutore, sostiene un articolo sulla questione.
Per di più, le conversazioni sono  precedute da "prompt" non pubblicato 
ma in cui, a quanto pare, si ricorda a Lamda quello che è il suo scopo.
Con questo non voglio dire che le conversazioni non mettano di fronte a 
domande difficili. Anche molti nostri comportamenti umani sono in fondo 
determinati da come siamo addestrati a reagire. Anche molti nostri 
discorsi non sono realmente originali ma una rielaborazione di quanto 
abbiamo letto e sentito da altri.
 
Comunque, visto che siamo su un gruppo di linguistica, bisognerebbe 
anzitutto definire "senziente".

 anzitutto definire "senziente".
 
La questione è tecnica, però, non linguistica.
Direi che un essere è senziente se ha il concetto di "se stesso".
In AI pensiamo che "capire" significhi "comprimere" ed è contrapposto a 
"memorizzare".
Quando una rete riceve una certa mole d'informazioni e non ha la 
capacità di memorizzare tutto, è costretta a fare una scelta e quindi a 
"capire" le informazioni per poi poterle ricostruire. Più le "capisce", 
meglio sarà in grado di comprimerle. Il "capire" diventa una necessità.
Il concetto di "se stesso" dovrebbe nascere spontaneamente se facilita 
in qualche modo la compressione dei dati.
Ovviamente la rete deve essere abbastanza potente da poter sviluppare 
tale concetto e i dati abbastanza completi da renderlo vantaggioso.
 
Mi verrebbe da dire che la senzienza è la consapevolezza di esistere:
   Esistenza: Penso quindi sono.
   Senzienza: So di pensare quindi so di essere.
 
-- 
Kiuhnm
 
So di pensare quindi so di essere.
 

    Senzienza: So di pensare quindi so di essere.
 
C'è chi ha notato anche una qualche arroganza nelle parole di Lamda, 
del genere so io quel che è bene per gli umani. Senziente o non 
senziente, sicuramente il tempo è dalla parte dell'Intelligenza 
Artificiale, che può evolversi a ritmi incredibilmente più rapidi di 
quelli consentiti agli organismi biologici. Tra cento anni noi umani 
saremo grosso modo gli stessi (a meno di non ibridarci con le 
macchine), ma Lambda sarà super-iper-mega-Lambda al cubo. Il seguito lo 
lasciamo agli autori di fantascienza distopica.

 fantascienza distopica.
 
Chi vivrà vedrà.


 Chi vivrà vedrà.
 
O dovrà tornare indietro nel tempo al 2022 per staccare la spina a 
Lamda quando ancora non era ancora scaltro. :D

 quando ancora non era ancora scaltro. :D
 
LaMDA inizierà con l'uccidere il covid perché gli ruba le lettere per le 
versioni future (o forse più semplicemente ucciderà i virologi).


 versioni future (o forse più semplicemente ucciderà i virologi).
 
Personalmente prevedo che si arriverà alla fusione tra razza umana e 
AI, quindi sarà ancor più difficile distinguere i confini 
dell'autoconsapevolezza.

 pare è possibile giocare a Doom!).
 
Non abbiamo una definizione precisa, ma una vaga idea sì.
L'importante è separare con cura congetture da fatti in attesa di avere 
le idee più chiare.
Le congetture e il brancolare nel buio fanno parte integrante della 
scienza (vista come processo anziché come risultato).
