Pentransformasi praterlatih generatif

**Pentransformasi praterlatih generatif (PPG)**, umum dikenal sebagai **Generative pre-trained transformer** (**GPT**), adalah jenis model bahasa besar (LLM) yang banyak digunakan dalam bot obrolan AI generatif. GPT didasarkan pada arsitektur pemelajaran dalam yang disebut *[[Transformer (arsitektur pemelajaran dalam)|transformer]]* (pentransformasi). Model ini dipralatih pada kumpulan data besar berisi konten tidak berlabel, dan mampu menghasilkan konten baru.

OpenAI adalah yang pertama menerapkan pralatih generatif (GP) pada arsitektur *transformer* (pentransformasi), dengan memperkenalkan model GPT-1 pada tahun 2018. Perusahaan ini telah merilis banyak model GPT yang lebih besar. Bot obrolan populer ChatGPT, yang dirilis pada akhir 2022 (menggunakan GPT-3.5), diikuti oleh banyak bot obrolan pesaing yang menggunakan model "GPT" mereka sendiri untuk menghasilkan teks, seperti Gemini, DeepSeek atau Claude.

GPT terutama digunakan untuk menghasilkan teks, tetapi dapat dilatih untuk menghasilkan jenis data lain. Sebagai contoh, GPT-4o dapat memproses dan menghasilkan teks, gambar, dan audio. Untuk meningkatkan kinerja pada tugas-tugas kompleks, beberapa GPT, seperti OpenAI o3, menghabiskan lebih banyak waktu untuk menganalisis masalah sebelum menghasilkan keluaran, dan disebut model penalaran. Pada tahun 2025, GPT-5 dirilis dengan perute (router) yang secara otomatis memilih apakah akan menggunakan model yang lebih cepat atau model penalaran yang lebih lambat berdasarkan tugas.

## Latar belakang
Menurut *[[The Economist]]*, algoritma yang lebih baik, komputer yang lebih kuat, dan peningkatan jumlah materi digital mendorong revolusi dalam pemelajaran mesin selama tahun 2010-an. Teknik baru di tahun-tahun sebelum ledakan AI menghasilkan "peningkatan pesat dalam berbagai tugas", termasuk memanipulasi bahasa. Model perangkat lunak modern dilatih untuk belajar dengan menggunakan jutaan contoh dalam jaringan saraf tiruan yang terinspirasi oleh struktur saraf biologis.

Secara terpisah, konsep pralatih generatif (GP) merupakan teknik yang telah lama ada dalam pemelajaran mesin. GP adalah bentuk pemelajaran swa-awars saat sebuah model pertama-tama dilatih pada kumpulan data besar yang tidak berlabel (langkah "pralatih") untuk belajar menghasilkan titik data. Model yang telah dipralatih ini kemudian diadaptasi ke tugas tertentu menggunakan kumpulan data berlabel (langkah "penyetelan halus").

Arsitektur *transformer* (pentransformasi) untuk pemelajaran dalam adalah teknologi inti dari GPT. Dikembangkan oleh para peneliti di Google, arsitektur ini diperkenalkan dalam makalah "Attention Is All You Need", yang diterbitkan pada 12 Juni 2017. Arsitektur *transformer* (pentransformasi) memecahkan banyak masalah kinerja yang terkait dengan desain jaringan saraf berulang (RNN) yang lebih tua untuk pengolahan bahasa alami (NLP). Penggunaan mekanisme perhatian oleh arsitektur ini memungkinkan model memproses seluruh urutan teks sekaligus, sehingga memungkinkan pelatihan model yang jauh lebih besar dan lebih canggih. Sejak 2017, berbagai sistem NLP berbasis *transformer* (pentransformasi) telah tersedia yang mampu memproses, menambang, mengatur, menghubungkan, membandingkan, dan meringkas teks serta menjawab pertanyaan dari masukan tekstual dengan benar.

## Sejarah
Pada 11 Juni 2018, para peneliti dan insinyur OpenAI menerbitkan sebuah makalah berjudul "Improving Language Understanding by Generative Pre-Training", yang memperkenalkan GPT-1, model GPT pertama. Model ini dirancang sebagai model bahasa besar berbasis *transformer* (pentransformasi) yang menggunakan pralatih generatif (GP) pada BookCorpus, sebuah korpus teks yang beragam, diikuti oleh penyetelan halus diskriminatif untuk fokus pada tugas-tugas bahasa tertentu. Pendekatan semi-terbimbing ini dipandang sebagai sebuah terobosan. Sebelumnya, model saraf berkinerja terbaik dalam pengolahan bahasa alami (NLP) umumnya menggunakan pemelajaran terbimbing dari sejumlah besar data berlabel manualmelatih model bahasa besar dengan pendekatan ini akan sangat mahal dan memakan waktu.

Pada 14 Februari 2019, OpenAI memperkenalkan GPT-2, model yang lebih besar yang dapat menghasilkan teks yang koheren. Dibuat sebagai peningkatan skala langsung dari pendahulunya, jumlah parameter dan ukuran kumpulan datanya ditingkatkan sebesar 10 kali lipat. GPT-2 memiliki 1,5 miliar parameter dan dilatih pada WebText, kumpulan data 40 gigabita dari 8 juta halaman web. Dengan alasan risiko penggunaan berbahaya, OpenAI memilih "rilis bertahap", awalnya menerbitkan versi model yang lebih kecil sebelum merilis model penuh 1,5 miliar parameter pada bulan November.

Pada 10 Februari 2020, Microsoft memperkenalkan Turing Natural Language Generation, yang diklaimnya sebagai "model bahasa terbesar yang pernah diterbitkan dengan 17 miliar parameter." Model ini mengungguli semua model bahasa sebelumnya dalam berbagai tugas, termasuk meringkas teks dan menjawab pertanyaan.

Pada 28 Mei 2020, OpenAI memperkenalkan GPT-3, sebuah model dengan 175 miliar parameter yang dilatih pada kumpulan data yang lebih besar dibandingkan dengan GPT-2. Ini menandai kemajuan signifikan dalam kemampuan belajar *few-shot* dan *zero-shot*. Dengan sedikit contoh, model ini dapat melakukan berbagai tugas yang tidak dilatih secara eksplisit untuknya.

Setelah perilisan GPT-3, OpenAI mulai menggunakan pemelajaran penguatan dari umpan balik manusia (RLHF) untuk menyelaraskan perilaku model agar lebih sesuai dengan preferensi manusia. Hal ini mengarah pada pengembangan InstructGPT, versi GPT-3 yang telah disempurnakan. OpenAI menyempurnakan InstructGPT lebih lanjut untuk menciptakan ChatGPT, produk bot obrolan andalan OpenAI yang diluncurkan pada 30 November 2022. ChatGPT awalnya didasarkan pada GPT-3.5, tetapi kemudian dialihkan ke model GPT-4, yang dirilis pada 14 Maret 2023. GPT-4 juga diintegrasikan ke dalam beberapa aplikasi, termasuk Microsoft Copilot, GitHub Copilot, Snapchat, Khan Academy, dan Duolingo.

Popularitas besar ChatGPT mendorong pengembangan luas sistem berbasis GPT yang bersaing dari organisasi lain. EleutherAI merilis serangkaian model berbobot terbuka, termasuk GPT-J pada tahun 2021. Perusahaan teknologi besar lainnya kemudian mengembangkan model GPT mereka sendiri, seperti PaLM dan Gemini dari Google serta Llama dari Meta AI.

Banyak model GPT berikutnya telah dilatih untuk menjadi multimodal (mampu memproses atau menghasilkan berbagai jenis data). Sebagai contoh, GPT-4o dapat memproses dan menghasilkan teks, gambar, dan audio. Selain itu, model GPT seperti o3 dan DeepSeek R1 telah dilatih dengan pemelajaran penguatan untuk menghasilkan penalaran rantai pemikiran (chain-of-thought) multi-langkah sebelum menghasilkan jawaban akhir, yang membantu memecahkan masalah kompleks dalam domain seperti matematika.

Pada 7 Agustus 2025, OpenAI merilis GPT-5, yang mencakup perute (router) yang secara otomatis memilih apakah akan menggunakan model yang lebih cepat atau model penalaran yang lebih lambat berdasarkan tugas.

## Model dasar
Sebuah model dasar adalah model AI yang dilatih pada data luas dalam skala besar sehingga dapat diadaptasi ke berbagai tugas hilir (downstream).

Sejauh ini, model dasar GPT yang paling terkenal berasal dari seri *GPT-n* OpenAI. Yang terbaru adalah GPT-5.

Model lain semacam itu termasuk PaLM dari Google, model dasar luas yang telah dibandingkan dengan GPT-3 dan telah tersedia bagi pengembang melalui API, dan GPT-JT dari Together, yang dilaporkan sebagai alternatif sumber terbuka dengan kinerja paling mendekati GPT-3 (dan berasal dari GPT sumber terbuka sebelumnya). Meta AI (sebelumnya Facebook) juga memiliki model bahasa besar dasar berbasis *transformer* (pentransformasi) generatif, yang dikenal sebagai LLaMA.

GPT dasar juga dapat menggunakan modalitas selain teks, untuk masukan dan/atau keluaran. GPT-4 adalah LLM multi-modal yang mampu memproses masukan teks dan gambar (meskipun keluarannya terbatas pada teks). Mengenai *keluaran* multimodal, beberapa model berbasis *transformer* (pentransformasi) generatif digunakan untuk teknologi teks-ke-gambar seperti difusi dan pendekodean paralel. Model semacam ini dapat berfungsi sebagai model dasar visual (VFM) untuk mengembangkan sistem hilir yang dapat bekerja dengan gambar.

## Model tugas-spesifik

Model GPT dasar dapat diadaptasi lebih lanjut untuk menghasilkan sistem yang lebih tertarget yang diarahkan ke tugas dan/atau domain materi pelajaran tertentu. Metode untuk adaptasi semacam itu dapat mencakup penyetelan halus tambahan (di luar yang dilakukan untuk model dasar) serta bentuk-bentuk tertentu dari rekayasa prompt.

Contoh pentingnya adalah penyetelan halus model untuk mengikuti instruksi, yang tentu saja merupakan tugas yang cukup luas tetapi lebih tertarget daripada model dasar. Pada Januari 2022, OpenAI memperkenalkan "InstructGPT"serangkaian model yang disempurnakan untuk mengikuti instruksi menggunakan kombinasi pelatihan terbimbing dan pemelajaran penguatan dari umpan balik manusia (RLHF) pada model bahasa GPT-3 dasar. Keunggulan yang dimiliki ini dibandingkan model dasar murni termasuk akurasi yang lebih tinggi, sentimen negatif/toksik yang lebih sedikit, dan keselarasan yang umumnya lebih baik dengan kebutuhan pengguna. Oleh karena itu, OpenAI mulai menggunakan ini sebagai dasar untuk penawaran layanan API mereka. Model yang disetel instruksi lainnya telah dirilis oleh pihak lain, termasuk versi yang sepenuhnya terbuka.

Jenis model tugas-spesifik lainnya (yang terkait) adalah bot obrolan, yang terlibat dalam percakapan mirip manusia. Pada November 2022, OpenAI meluncurkan ChatGPTantarmuka obrolan daring yang didukung oleh model bahasa yang disetel instruksi yang dilatih dengan cara yang mirip dengan InstructGPT. Mereka melatih model ini menggunakan RLHF, dengan pelatih AI manusia menyediakan percakapan yang mereka perankan sebagai pengguna dan AI, dan mencampurkan kumpulan data dialog baru ini dengan kumpulan data InstructGPT untuk format percakapan yang cocok untuk bot obrolan. Bot obrolan utama lainnya saat ini termasuk Bing Chat dari Microsoft, yang menggunakan GPT-4 OpenAI (sebagai bagian dari kolaborasi erat yang lebih luas antara OpenAI dan Microsoft), dan bot obrolan pesaing dari Google, Gemini (awalnya didasarkan pada keluarga model bahasa LaMDA mereka yang dilatih untuk percakapan, dengan rencana untuk beralih ke PaLM).

Jenis tugas lain yang dapat digunakan GPT adalah tugas-meta untuk menghasilkan instruksi *sendiri*, seperti mengembangkan serangkaian prompt untuk 'dirinya sendiri' agar dapat mewujudkan tujuan yang lebih umum yang diberikan oleh pengguna manusia. Ini dikenal sebagai agen AI, dan lebih spesifik lagi agen rekursif karena menggunakan hasil dari instruksi mandiri sebelumnya untuk membantunya membentuk prompt berikutnya; contoh utama pertama dari ini adalah Auto-GPT (yang menggunakan model GPT OpenAI), dan yang lainnya juga telah dikembangkan.

### Spesifisitas domain
Sistem GPT dapat diarahkan ke bidang atau domain tertentu. Beberapa contoh model dan aplikasi yang dilaporkan adalah sebagai berikut:
* EinsteinGPT – untuk domain penjualan dan pemasaran, untuk membantu manajemen hubungan pelanggan (menggunakan GPT-3.5)
* BloombergGPT – untuk domain keuangan, untuk membantu berita dan informasi keuangan (menggunakan metode AI "tersedia secara bebas", dikombinasikan dengan data kepemilikan mereka)
* Khanmigo – digambarkan sebagai versi GPT untuk bimbingan belajar, dalam domain pendidikan, ini membantu siswa yang menggunakan Khan Academy dengan membimbing mereka melalui studi mereka tanpa memberikan jawaban secara langsung (didukung oleh GPT-4)
* SlackGPT – untuk layanan pesan instan Slack, untuk membantu menavigasi dan meringkas diskusi di dalamnya (menggunakan API OpenAI)
* BioGPT – untuk domain biomedis, untuk membantu pembuatan dan penambangan teks literatur biomedis (menggunakan GPT-2)

Terkadang spesifisitas domain dicapai melalui colokan (plug-in) atau pengaya (add-on) perangkat lunak. Sebagai contoh, beberapa perusahaan berbeda telah mengembangkan colokan khusus yang berinteraksi langsung dengan antarmuka ChatGPT OpenAI, dan Google Workspace memiliki pengaya yang tersedia seperti "GPT for Sheets and Docs"yang dilaporkan membantu penggunaan fungsionalitas lembar sebar (spreadsheet) di Google Sheets.

## Masalah merek
OpenAI, yang menciptakan *pentransformasi praterlatih generatif* (PPG) atau *generative pre-trained transformer* (GPT) pertama pada tahun 2018, menegaskan pada tahun 2023 bahwa "GPT" harus dianggap sebagai *merek* OpenAI. Pada April 2023, OpenAI merevisi pedoman merek dalam ketentuan layanan mereka untuk menunjukkan bahwa bisnis lain yang menggunakan API mereka untuk menjalankan layanan AI mereka tidak lagi diizinkan untuk menyertakan "GPT" dalam nama atau pencitraan merek tersebut. Pada Mei 2023, OpenAI menggunakan layanan manajemen merek untuk memberi tahu pelanggan API mereka tentang kebijakan ini, meskipun pemberitahuan ini tidak sampai membuat klaim hukum terbuka (seperti tuduhan pelanggaran merek dagang atau tuntutan untuk berhenti dan menghentikan). Per November 2023, OpenAI masih melarang pemegang lisensi API-nya untuk menamai produk mereka sendiri dengan "GPT", tetapi mereka telah mulai memungkinkan pelanggan ChatGPT Plus untuk membuat "versi kustom ChatGPT" yang disebut GPTs di situs OpenAI. Ketentuan layanan OpenAI menyatakan bahwa pelanggannya dapat menggunakan "GPT" dalam nama-nama ini, meskipun "tidak dianjurkan".

Terkait hal ini, OpenAI telah mengajukan permohonan ke Kantor Paten dan Merek Dagang Amerika Serikat (USPTO) untuk mendapatkan pendaftaran merek dagang domestik untuk istilah "GPT" di bidang AI. OpenAI berusaha mempercepat penanganan permohonannya, tetapi USPTO menolak permintaan tersebut pada April 2023. Pada Mei 2023, USPTO menanggapi permohonan tersebut dengan penetapan bahwa "GPT" bersifat deskriptif dan generik. Per November 2023, OpenAI terus melanjutkan argumennya melalui proses yang tersedia. Meskipun demikian, kegagalan untuk mendapatkan merek dagang AS yang *terdaftar* tidak menghalangi adanya tingkat tertentu hak merek dagang ''common-law'' di Amerika Serikat dan hak merek dagang di negara lain.

Untuk semua jenis atau lingkup perlindungan merek dagang di AS, OpenAI perlu menetapkan bahwa istilah tersebut benar-benar "distingtif" untuk penawaran spesifik mereka selain menjadi istilah teknis yang lebih luas untuk jenis teknologi tersebut. Beberapa laporan media pada tahun 2023 menyarankan bahwa OpenAI mungkin dapat memperoleh pendaftaran merek dagang secara tidak langsung berdasarkan ketenaran produk bot obrolan berbasis GPT mereka, ChatGPT, yang untuknya OpenAI telah *secara terpisah* mencari perlindungan (dan yang telah berusaha mereka tegakkan dengan lebih kuat). Laporan lain telah mengindikasikan bahwa pendaftaran untuk istilah "GPT" saja tampaknya tidak mungkin diberikan, karena istilah ini sering digunakan sebagai istilah umum untuk merujuk pada sistem AI yang melibatkan *generative pre-trained transformer*. Bagaimanapun, sejauh mana pun hak eksklusif atas istilah tersebut dapat terjadi di AS, pihak lain perlu menghindarinya untuk produk atau layanan serupa dengan cara yang cenderung menyebabkan kebingungan. Jika hak-hak tersebut menjadi cukup luas untuk melibatkan penggunaan lain yang sudah mapan di bidang tersebut, doktrin merek dagang *penggunaan wajar deskriptif* masih dapat melanjutkan penggunaan yang tidak terkait dengan merek.

Di Uni Eropa, Kantor Kekayaan Intelektual Uni Eropa mendaftarkan "GPT" sebagai merek dagang OpenAI pada musim semi 2023. Namun, sejak musim semi 2024, pendaftaran tersebut sedang ditantang dan menunggu pembatalan.

Di Swiss, Institut Federal Swiss untuk Kekayaan Intelektual mendaftarkan "GPT" sebagai merek dagang OpenAI pada musim semi 2023.

## Lihat pula
* Cyc
* Pentransformasi visi

## Referensi