ChatGPT is een conversationeel AI-model ontwikkeld door OpenAI op basis van de Generative Pretrained Transformer 3 (GPT-3) architectuur. Het model is getraind op een breed scala aan internettekst, waardoor het mensachtige tekst kan genereren als reactie op prompts die eraan worden gegeven.
Wanneer een gebruiker invoer levert, verwerkt het model de tekst en genereert het een reactie door het meest waarschijnlijke volgende woord te voorspellen op basis van de invoer en de bijbehorende trainingsgegevens. De respons wordt vervolgens gegenereerd door middel van steekproeven uit de beste voorspellingen. Het hele proces wordt in realtime door het model uitgevoerd.
De GPT-3-architectuur bestaat uit meerdere transformatorblokken, die elk zelfaandachtsmechanismen en feedforward neurale netwerken bevatten, waardoor het model tekst kan begrijpen en genereren door patronen in de trainingsgegevens te leren.