ChatGPT 是 OpenAI 基于 Generative Pretrained Transformer 3 (GPT-3) 架构开发的对话式 AI 模型。 该模型已经过各种互联网文本的训练，使其能够根据给它的提示生成类似人类的文本。
当用户提供输入时，该模型会处理文本并通过根据输入及其训练数据预测最有可能的下一个词来生成响应。 然后通过从最高预测中采样来生成响应。 整个过程由模型实时执行。
GPT-3架构由多个transformer block组成，每个transformer block包含self-attention机制和前馈神经网络，允许模型通过学习训练数据中的模式来理解和生成文本。