ChatGPT adalah model AI percakapan yang dikembangkan oleh OpenAI berdasarkan arsitektur Generative Pretrained Transformer 3 (GPT-3). Model ini telah dilatih pada beragam teks internet, yang memungkinkannya menghasilkan teks mirip manusia sebagai tanggapan atas petunjuk yang diberikan kepadanya.
Saat pengguna memberikan input, model memproses teks dan menghasilkan respons dengan memprediksi kata berikutnya yang paling mungkin berdasarkan input dan data pelatihannya. Respons kemudian dihasilkan dengan pengambilan sampel dari prediksi teratas. Seluruh proses dilakukan oleh model secara real-time.
Arsitektur GPT-3 terdiri dari beberapa blok transformator, masing-masing berisi mekanisme perhatian sendiri dan jaringan saraf umpan maju, yang memungkinkan model untuk memahami dan menghasilkan teks dengan mempelajari pola dalam data pelatihan.