Negli ultimi anni l'intelligenza artificiale ha fatto passi da gigante nel campo del linguaggio naturale, con modelli come ChatGPT che dimostrano capacità sorprendenti nel comprendere e generare testo in modo coerente e contestualmente appropriato. Un aspetto fondamentale di modelli come ChatGPT è la fonte dei testi su cui vengono addestrati, ovvero i testi che vengono usati per addestrare il modello. In questo articolo, esploreremo in dettaglio da dove prende i testi ChatGPT e come questo influisce sulle sue capacità linguistiche, per quello che è dato sapere.
Corpus di Testo Pubblico
In primis, ChatGPT è addestrato su un vasto corpus di testo raccolto da fonti pubbliche su Internet. Questo corpus include una vasta gamma di documenti, come articoli di giornale, libri, blog, forum online, siti web, e altro ancora. L'ampia varietà di fonti assicura che il modello sia esposto a una vasta gamma di stili di scrittura, argomenti e registri linguistici. Ho fatto anche un piccolo test sull'"autoconsapevolezza" di ChatGPT 3.5: a domanda specifica, mi ha risposto che
come modello di linguaggio ho accesso a un vasto corpus di testo pubblicamente disponibile. Questo corpus viene utilizzato per addestrarmi a comprendere e generare testo in modo coerente e contestualmente appropriato. Prima di essere utilizzati per l'addestramento, i testi vengono sottoposti a una serie di pre-elaborazioni per prepararli per l'uso nel modello. Questo processo può includere la rimozione di informazioni personali o sensibili, la standardizzazione del formato e la segmentazione in frasi o paragrafi. L'obiettivo di questa fase è garantire che i testi siano presentati in modo uniforme e coerente al modello durante l'addestramento. Ma resta il problema di cui sopra, mai chiarito ed oggetto di numerose polemiche in merito.
In qualche modo, quindi, ChatGPT risponde alla policy ultra-permissiva per cui qualsiasi dato disponibile pubblicamente viene, in teoria, assorbito nel corpus di cui sopra. Il problema di fondo è che così facendo, di fatto, si rischia di includere anche leak di informazioni trapelate dal web in maniera illecita o in violazione della privacy.
Lingua e Contesto
Un aspetto cruciale nella comprensione di da dove provengono i testi sembra poi essere il contesto culturale e linguistico. Il corpus di testo su cui viene addestrato il modello riflette la diversità linguistica e culturale della rete. Ciò significa che il modello è esposto a una varietà di lingue, dialetti e argomenti culturali, contribuendo alla sua comprensione e capacità di generare testo in diverse situazioni. In alcuni casi, ad esempio, ChatGPT non riesce a riprodurre in modo corretto nè calcoli complessi nè alcuni tipi di lingue o di dialetti per cui sono disponibili poche fonti su internet.
È importante riconoscere che l'utilizzo di testi pubblici per l'addestramento di modelli come ChatGPT solleva questioni etiche e di privacy. È fondamentale rispettare i diritti dei creatori dei testi e prendere misure per proteggere la privacy delle persone coinvolte. Le aziende che sviluppano e utilizzano questi modelli devono adottare politiche etiche e procedure per garantire il rispetto dei diritti e la protezione della privacy.