Come funzionano i Transformer?

Ask a Question

In questa sezione, vedremo in maniera approfondita l’architettura dei modelli Transformer.

Un po’ di storia dei Transformer

Ecco alcuni punti di riferimento nella (breve) storia dei modelli Transformer:

A brief chronology of Transformers models.

L’architettura Transformer è stata introdotta in giugno 2017. Il focus della ricerca di partenza era sui compiti di traduzione. A questa seguì l’introduzione di numerosi modelli influenti, tra cui figurano:

La lista è tutto fuorché esaustiva ed è volta solo a mettere in evidenza alcuni dei diversi tipi di modelli Transformer. In genere, questi possono essere raggruppati in tre categorie:

Studieremo queste famiglie più nel dettaglio in seguito.

I Transformer sono modelli linguistici

Tutti i modelli Transformer menzionati qui sopra (GPT, BERT, BART, T5, ecc.) sono stati addestrati come modelli linguistici (language models). Ciò significa che sono stati addestrati su grandi quantità di testo grezzo in stile auto-supervisionato (self-supervising). L’apprendimento auto-supervisionato è un tipo di apprendimento il cui obbiettivo viene computato direttamente dagli input del modello. Ciò significa che non è richiesto alcun intervento umano per etichettare i dati!

Un modello di questo tipo sviluppa una comprensione statistica della lingua alla quale è stato addestrato, ma non è molto utile in compiti pratici e precisi. Per questa ragione, il modello pre-addestrato generale viene in seguito sottoposto a un processo detto transfer learning. Durante questo processo, il modello viene affinato per un determinato compito in maniera supervisionata (ossia utilizzando etichette generate da umani).

Un esempio di compito è la previsione della parola seguente in una frase di cui sono state lette n parole precedenti. Quest’operazione si chiama causal language modeling perché il suo output dipende dagli input presenti e passati, ma non da quelli futuri.

Example of causal language modeling in which the next word from a sentence is predicted.

Un altro esempio è il masked language modeling, in cui il modello prevede una parola occultata della frase.

Example of masked language modeling in which a masked word from a sentence is predicted.

I Transformers sono modelli enormi

A parte per alcune eccezioni (come DistilBERT), la strategia generale per ottenere performance migliori consiste nell’aumentare la taglia dei modelli, nonché la quantità di dati utilizzati per il pre-addestramento.

Number of parameters of recent Transformers models

Sfortunatamente, l’addestramento di un modello, e specialmente di un modello grosso, richiede grandi quantità di dati. Ciò si rivela molto costoso in termini di tempo, risorse informatiche e impatto ambientale, come mostrano i grafici qui sotto.

The carbon footprint of a large language model.

Questi dati si riferiscono a un progetto per un modello (molto grande) condotto da un team che provava consciamente a ridurre l’impatto ambientale del pre-addestramento. L’impronta di trials volti a ottenere i miglior iperparamenti possibili sarebbe ancora più importante.

Immagina cosa succederebbe se ogni volta che un gruppo di ricerca, un’organizzazione studentesca o un’azienda vuole addestrare un modello lo facesse da zero! I costi globali sarebbero inutilmente enormi!

Questo è il motivo per cui la condivisione di modelli linguistici è fondamentale: lavorare a partire da modelli già addestrati riduce i costi informatici complessivi e l’impatto ambientale della comunità.

Transfer Learning

Il pre-addestramento è l’atto di addestrare un modello da zero: i pesi sono inizializzati in maniera casuale, e l’addestramento inizia senza alcuna conoscenza pregressa.

The pretraining of a language model is costly in both time and money.

Questo pre-addestramento è solitamente fatto su enormi quantità di dati. Di conseguenza, l’addestramento richiede un corpus di dati molto ampio e può prendere diverse settimane.

L’affinamento (fine-tuning), al contrario, è un addestramento che ha luogo dopo che il modello è stato pre-addestrato. Per poter effettuare un fine-tuning, è necessario acquisire un modello linguistico pre-addestrato e addestrarlo ulteriormente con una base dati adatta al compito in questione. Ma perché non addestrare direttamente al compito finale? Esistono alcune ragioni:

Ad esempio, è possibile approfittare di un modello pre-addestrato per la lingua inglese e poi affinarlo usando un corpus arXiv, ottenendo così un modello specifico per la scienza/ricerca. L’affinamento non richiederà che una quantità limitata di dati: le conoscenze acquisite dal modello pre-addestrato sono “trasferite”, come riflette il nome transfer learning.

The fine-tuning of a language model is cheaper than pretraining in both time and money.

Il fine-tuning di un modello ha quindi costi ridotti in termini di dati, finanze e impatto ambientale. Iterare su diversi schemi di fine-tuning è anche più rapido e semplice, in quanto l’addestramento è meno restrittivo di un pre-addestramento completo.

Questo processo permette anche di ottenere risultati migliori di un addestramento da zero (a meno di non essere in possesso di moltissimi dati), motivo per cui bisognerebbe sempre partire da un modello pre-addestrato (quanto possibile compatibile con il compito da eseguire) e affinarlo.

Architettura generale

In questa sezione, vedremo l’architettura generale del modello Transformer. Non preoccuparti se non capisci tutti i concetti: più avanti, troverai sezioni dettagliate per ogni componente.

Introduzione

Il modello si compone principalmente di due blocchi:

Architecture of a Transformers models

Ognuna di queste parti può essere utilizzata indipendentemente, in base al compito:

Analizzeremo ciascuna di queste architetture indipendentemente più tardi nel corso.

Attention layers

Una caratteristica chiave dei modelli Transformer è che sono basati su strati speciali detti attention layers. Non a caso, il titolo del paper che introdusse l’architettura Transformer era “Attention Is All You Need”! Esploreremo gli attention layer nel dettaglio più avanti in questo corso; per ora, tutto ciò che hai bisogno di sapere è che un layer dirà al modello di prestare particolare attenzione a certe parole nella frase input (ignorando praticamente le altre) quando si occupa della rappresentazione delle singole parole.

Come esempio concreto, pensa ad un compito di traduzione testuale dall’inglese al francese. Dato l’input “You like this course”, un modello di traduzione dovrà fare riferimento alla parola adiacente “You” per fornire la traduzione corretta della parola “like”, perché in francese la coniugazione del verbo “like” cambia in base al soggetto. Diversamente, il resto della frase non è utile alla sua traduzione di quella precisa parola. In maniera simile, durante la traduzione di “this” il modello dovrà prestare attenzione alla parola “course”, in quanto “this” ha traduzioni diverse se associato con nomi femminili o maschili. Di nuovo, il resto delle parole della frase non contribuiscono alla corretta traduzione di “this”. Con frasi più complesse (e regole grammaticali più complesse), il modello potrebbe aver bisogno di prestare particolare attenzione a parole ben più lontane nella frase per tradurre correttamente ogni parola.

Lo stesso concetto si applica a qualsiasi compito che ha a che fare con il linguaggio naturale: una parola ha un senso a sé stante, ma tale senso è profondamente influenzato dal contesto, il quale è costituito da una qualsiasi parola (o parole) che precede o segue la parola sotto osservazione.

Ora che sai cosa sono gli attention layer, guardiamo un po’ più nel dettaglio all’architettura Transformer.

L’architettura originale

All’origine, l’architettura Transformer fu creata per la traduzione. In fase di addestramento, l’encoder riceve degli input (frasi) in una certa lingua, mentre il decoder riceve le stesse frasi nella lingua target d’elezione. Nell’encoder, gli attention layer sono in grado di utilizzare qualsiasi parola in una data frase (dato che, come abbiamo appena visto, la traduzione di una determinata parola può dipendere da ciò che la precede o segue nella frase). Diversamente, decoder procede in maniera sequenziale ed è capace di prestare attenzione solo alle parole della frase che ha già tradotto (ossia, solo le parole che precedono la parola che sta generando). Ad esempio, una volta predette le prime tre parole della frase target, le passiamo al decoder che utilizza tutti gli input dell’encoder per provare a predirre la quarta parola.

Per accelerare il processo di addestramento (quando il modello ha accesso alle frasi target), l’intero target viene fornito al decoder, che però non è in grado di accedere alle parole future (se avesse accesso alla parola in seconda posizione mentre cerca di predirre la parola in seconda posizione, il problema cesserebbe di essere complesso). Ad esempio, mentre prova a predirre la quarta parola, l’attention layer avrà accesso solo alle posizioni tra la prima e la terza.

L’architettura Transformer originale aveva la struttura qui sotto, con l’encoder a sinistra e il decoder a destra:

Architecture of a Transformers models

Nota che il primo attention layer in un decoder block presta attenzione a tutti gli input (passati) al decoder, mentre il secondo attention layer utilizza l’output del encoder. Gli è perciò possibile avere accesso a tutta la frase input per meglio prevedere la parola corrente. Questa caratteristica è molto utile in quanto lingue diverse possono avere regole grammaticali diverse piazzano le parole in ordini diversi, oppure perché il contesto che compare più tardi nella frase potrebbe essere utile nella determinazione della migliore traduzione di una data parola.

L’attention mask può essere utilizzato anche nell’encoder/decoder per evitare che il modello presti attenzione a certe parole speciali, come ad esempio parole riempitive utilizzate per rendere tutti gli input della stessa lunghezza.

Architetture vs. checkpoint

Durante questo viaggio nel mondo dei modelli Transformer, incontrerai menzioni di architetture e checkpoint, nonché di modelli. Questi termini hanno significati leggermente diversi:

Ad esempio, BERT è un’architettura, mentre bert-base-cased, un set di pesi (weights) addestrati dal team di Google per la prima versione di BERT, è un checkpoint. Ciononostante, è possibile dire “il modello BERT” e “il modello bert-base-cased.”