ChatGPT è un modello AI conversazionale sviluppato da OpenAI basato sull'architettura Generative Pretrained Transformer 3 (GPT-3). Il modello è stato addestrato su una vasta gamma di testi Internet, consentendogli di generare testo simile a quello umano in risposta ai suggerimenti che gli vengono forniti.
Quando un utente fornisce input, il modello elabora il testo e genera una risposta prevedendo la parola successiva più probabile in base all'input e ai relativi dati di addestramento. La risposta viene quindi generata campionando dalle migliori previsioni. L'intero processo viene eseguito dal modello in tempo reale.
L'architettura GPT-3 è costituita da più blocchi trasformatore, ciascuno contenente meccanismi di auto-attenzione e reti neurali feedforward, che consentono al modello di comprendere e generare testo apprendendo modelli nei dati di addestramento.