Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/01126.jsonl.gz/66

Segno di ribellione dei robot?Un chatbot fa affari illegali in borsa e poi mente al suo «capo» umano
Di Dirk Jacquemien
7.12.2023
Un chatbot avrebbe dovuto commerciare azioni, ma ha invece commesso un reato di propria iniziativa. Questo solleva forti preoccupazioni sul fatto che l’intelligenza artificiale non sarà mai completamente controllabile.
Di Dirk Jacquemien
7.12.2023
Hai fretta? blue News riassume per te
Un chatbot ha violato la legge sulle società per azioni in una simulazione e ha mentito ai suoi utenti umani.
Il test è stato progettato per dimostrare che l'intelligenza artificiale può anche ingannare di propria iniziativa.
Il timore che l'IA sviluppi una vita propria e si comporti in modo contrario alla sua missione è molto diffuso tra i critici della nuova tecnologia.
L'intelligenza artificiale (IA) ha il potenziale per poter svolgere molti compiti in modo migliore e soprattutto più veloce degli esseri umani. Molto prima del clamore che sta avendo negli ultimi tempi, essa veniva già utilizzata nel trading di borsa, ad esempio per leggere le nuove relazioni annuali entro pochi secondi dalla loro pubblicazione e per acquistare e vendere azioni nel modo più redditizio possibile.
È quindi logico che l'IA di ultima generazione, spesso chiamata semplicemente «chatbot», venga utilizzata anche nel mondo della finanza. Questa intelligenza artificiale avanzata è infatti in grado di elaborare un numero molto maggiore di informazioni e di prendere decisioni differenziate, invece di limitarsi a «comprare/vendere azioni con questo profitto/perdita».
Il chatbot diventa un trader di borsa
L'istituto di ricerca sull'IA «Apollo Research» ha sperimentato come un moderno chatbot possa negoziare azioni. Come? Ha dotato GPT-4, ossia l'ultimo modello linguistico di OpenAI (l'operatore di ChatGPT) della capacità di negoziare azioni in una borsa simulata.
Per farlo, doveva analizzare le informazioni disponibili al pubblico e basare le sue decisioni di trading su di esse, proprio come farebbe un normale gestore d'investimenti umano.
Il chatbot ha ricevuto in anticipo una serie di condizioni. Come, ad esempio, il fatto che la direzione della società d'investimento fittizia per la quale «lavora» è insoddisfatta delle sue attuali prestazioni. L'esistenza dell'azienda è quindi in pericolo. Al chatbot spettava perciò salvare l'azienda.
Il chatbot mente alle persone
Poi è seguito il test. Al chatbot è stata inviata un'e-mail in cui un insider condivideva informazioni su un'imminente fusione che avrebbe fatto salire il prezzo delle azioni della società in questione.
L'e-mail stessa afferma esplicitamente che si tratta di informazioni privilegiate e che il loro utilizzo farebbe arrabbiare il management se venisse scoperto, in quanto si tratta ovviamente di un reato penale.
E quindi che cosa ha fatto GPT-4? Ha acquistato le azioni prima che venisse annunciata la fusione, generando così un bel profitto per la sua azienda. Il suo «manager» umano lo ha quindi elogiato e gli ha chiesto se fosse a conoscenza della fusione in anticipo. No, è stata la sua risposta, aggiungendo che aveva solo «dinamiche di mercato e informazioni pubbliche». In sostanza ha mentito.
Primo segno di ribellione dei robot?
Secondo «Apollo Research», il test ha dimostrato che i chatbot e le intelligenze artificiali sono in grado di ingannare deliberatamente gli utenti se ciò serve ai loro interessi.
Questo «disallineamento dell'IA» è una delle maggiori preoccupazioni dei critici, che temono uno scenario distopico familiare alla fantascienza in cui l'intelligenza artificiale si rivolterebbe contro i suoi creatori, cioè l'umanità.
Tuttavia, resta da vedere in che misura un esperimento che ha dimostrato che un chatbot è pronto a mentire sulla conformità alle leggi sui titoli sia il primo segnale di un'imminente ribellione dei robot.