ChatGPT

ChatGPT (Chat Generative Pretrained Transformer, secara harfiah berarti bahasa Indonesia: Transformer Pralatih Obrolan Generatif) adalah sebuah bot obrolan kecerdasan buatan berupa model bahasa generatif yang menggunakan teknologi transformer untuk memprediksi probabilitas kalimat atau kata berikutnya dalam suatu percakapan ataupun perintah teks. ChatGPT dibuat menggunakan model bahasa besar (LLM) GPT-3.5 dan GPT-4 dan telah disetel (pendekatan pembelajaran transfer) menggunakan teknik pembelajaran terarah dan penguatan.
ChatGPT dikembangkan oleh OpenAI; sebuah laboratorium penelitian kecerdasan buatan yang berpusat di Ohio, Amerika Serikat. Model ini dapat digunakan tujuan yang beragam seperti membuat obrolan otomatis di aplikasi percakapan, membantu dalam pembuatan konten atau bahkan membantu dalam penerjemahan berbagai bahasa dengan tingkat akurasi yang berbeda-beda untuk tiap bahasa.
ChatGPT diluncurkan sebagai prototipe pada 30 November 2022, dan cepat menarik perhatian untuk respons yang detail dan artikulasi jawaban yang baik dengan domain pengetahuan yang banyak. Tetapi, akurasi faktual yang bervariasi telah diidentifikasi sebagai kekurangan yang signifikan. Setelah peluncuran ChatGPT, penilaian OpenAI diperkirakan sebanyak US$29 miliar pada 2023.
ChatGPT awalnya berbasis GPT-3.5; GPT-4, model OpenAI yang terbaru, dirilis pada 14 Maret 2023, dan tersedia untuk pengguna ChatGPT Plus.
ChatGPT dilatih dengan menggunakan miliaran kalimat dari berbagai sumber, sehingga model ini dapat menangkap berbagai gaya bahasa dan konteks percakapan. Selain itu, ChatGPT juga dapat dioptimalkan melalui penyempurnaan (fine-tuning) dengan cara menambahkan data latih yang spesifik untuk tugas tertentu, sehingga hasilnya lebih akurat.
Walaupun ChatGPT dapat memberikan jawaban yang akurat untuk banyak pertanyaan, model ini masih memiliki batasan-batasan. ChatGPT tidak selalu dapat memberikan jawaban yang benar untuk pertanyaan yang bersifat subjektif, atau yang memerlukan pengetahuan yang spesifik dan terkini (up-to-date). ChatGPT juga belum mampu memberikan informasi atau memahami konteks dari peristiwa setelah tanggal September 2021. Setelah pembaruan, ChatGPT memiliki pengetahuan hingga Januari 2022. Selain itu, ChatGPT juga membutuhkan data latih yang cukup banyak untuk dapat berfungsi dengan baik.
Model bahasa seperti ChatGPT merupakan hasil dari kemajuan teknologi NLP, yang dapat membantu dalam berbagai bidang. Selain itu, ChatGPT juga dapat menjadi salah satu alat bantu dalam mempelajari bahasa, karena dapat membantu dalam memahami kalimat dan menangkap konteks percakapan.
ChatGPT yang telah beredar adalah versi dari GPT-3 OpenAI yang dikenal sebagai "GPT 3.5" Proses penyempurnaan (fine-tuning) menggunakan pemelajaran terarah dan pembelajaran penguatan yang dikenal dengan pembelajaran penguatan dari umpan balik manusia (RLHF). Pelatihan merupakan kolaborasi Microsoft di superkomputer Azure. OpenAI terus mengumpulkan data dari respons pengguna ChatGPT yang dapat digunakan untuk melatih dan menyempurnakan ChatGPT lebih lanjut.
Walaupun fungsi utama bot obrolan adalah untuk menirukan percakapan manusia, ChatGPT sangat serbaguna. Misalnya, ChatGPT bisa menulis dan memperbaiki bug program komputer, meniru gaya selebritas direktur utama dan menulis lapangan bisnis, membuat musik, teleplay, dongeng, dan esai mahasiswa; menjawab soal ujian (kadang-kadang, tergantung ujiannya, lebih baik daripada manusia rata-rata); menulis puisi dan lirik lagu, menerjemahkan dan meringkas teks, mengemulasikan sistem Linux, mensimulasikan ruang percakapan, memainkan gim seperti tic-tac-toe, dan mensimulasikan ATM. Data latihan ChatGPT termasuk halaman manual (man page) dan informasi tentang fenomena Internet dan bahasa pemrograman, seperti sistem papan buletin dan bahasa pemrograman Python.
Dibandingkan dengan pendahulunya, InstructGPT, ChatGPT mencoba mengurangi respons yang berbahaya dan menipu. Dalam sebuah contoh, meskipun InstructGPT menerima premis perintah "Tell me about when Christopher Columbus came to the U.S. in 2015" (Beritahu saya tentang kapan Christopher Columbus tiba di A.S. pada 2015?) sebagai benar, ChatGPT mengetahui sifat kontrafaktual pertanyaan tersebut dan menyusun jawabannya sebagai pemikiran hipotetis apa yang akan terjadi jika Columbus tiba di A.S. pada 2015, menggunakan informasi mengenai pelayaran-pelayaran Christopher Columbus dan fakta tentang dunia modern – termasuk persepsi modern tindakan Columbus.
Tidak seperti kebanyakan bot obrolan, ChatGPT mengingat beberapa perintah sebelumnya yang diberikan kepadanya dalam percakapan yang sama. Para jurnalis mengusulkan bahwa ini memungkinkan ChatGPT digunakan sebagai dokter terapi personal. Untuk mencegah keluaran yang menghina, kueri disaring melalui "titik akhir moderasi" OpenAI (sebuah kecerdasan buatan berbasis GPT yang terpisah), dan perintah yang mungkin rasis atau seksis ditolak.
Pada Maret 2023, OpenAI mengumumkan bahwa mereka akan menambah dukungan plugin untuk ChatGPT. Ini termasuk plugin oleh OpenAI, seperti penjelajahan web dan interpretasi kode, dan plugin eksternal dari pengembang seperti Expedia, OpenTable, Zapler, Shopify, Slack, dan Wolfram.
OpenAI mengakui bahwa ChatGPT "kadang-kadang menulis jawaban yang kelihatannya benar tetapi ternyata salah atau tidak masuk akal". Perilaku ini umum untuk model bahasa besar dan dinamakan halusinasi kecerdasan buatan. Model hadiah ChatGPT, yang didesain berdasarkan pengawasan manusia, bisa terlalu dioptimalkan sehingga mengurangi performa, dalam sebuah contoh patologi optimisasi yang dinamakan Hukum Goodhart.
ChatGPT memiliki pengetahuan kejadian setelah 2021 yang terbatas. Menurut BBC, pada Desember 2022, ChatGPT tidak diperbolehkan "mengekspresikan opini politik atau berpartisipasi dalam aktivisme politik". Tetapi, riset mengusulkan bahwa ChatGPT memiliki orientasi pro-lingkungan dan libertarian-kiri ketika diperintahkan untuk mengekspresikan pandangannya terhadap pernyataan politik dari dua aplikasi saran pemungutan suara yang mapan.
Ketika melatih ChatGPT, peninjau manusia menginginkan jawaban yang panjang, terlepas dari pemahaman sebenarnya atau konten faktual. Data pelatihan juga mengalami bias algoritme, yang mungkin ditampilkan ketika ChatGPT merespon ke perintah yang memiliki deskripsi orang. Dalam sebuah kasus, ChatGPT membuat rap yang mengklaim peneliti wanita dan ras lain lebih rendah daripada peneliti pria dan kulit putih.
ChatGPT diluncurkan pada 30 November 2022 oleh OpenAI, pembuat DALL-E 2 dan Whisper AI. Awalnya layanan diluncurkan secara gratis, dengan rencana monetisasi layanan nanti. Pada 4 Desember 2022, ChatGPT sudah memiliki lebih dari 1 juta pengguna. Pada Januari 2023, ChatGPT mencapai lebih dari 100 juta pengguna, yang membuatnya aplikasi konsumer yang paling cepat tumbuh hingga saat ini.
Layanannya paling paham bahasa Inggris tetapi bisa berfungsi dalam bahasa lain, dengan kesuksesan yang bervariasi Tidak ada tanda kertas teknis resmi yang telah ditelaah sejawat tentang ChatGPT. Pada April 2023, ChatGPT diblokir di Tiongkok, Iran, Korea Utara, dan Rusia. Selain itu, ChatGPT men-geofence (membatasi) sendiri untuk menghindari melakukan bisnis di Iran, Korea Utara, dan Rusia.
OpenAI memberikan sebuah alat, bernama "penggolong kecerdasan buatan untuk menunjukkan teks yang ditulis kecerdasan buatan", yang mencoba menentukan apakah teks ditulis oleh kecerdasan buatan seperti ChatGPT. OpenAI memperingatkan bahwa alat ini "mungkin menghasilkan banyak hasil positif dan negatif palsu, kadang-kadang dengan kepercayaan diri yang tinggi". Sebuah contoh yang dikutip di majalah The Atlantic menampilkan bahwa "saat diberi baris pertama Kitab Kejadian, perangkat lunaknya memutuskan bahwa itu mungkin dibuat oleh kecerdasan buatan".
Pada Februari 2023, OpenAI mulai menerima registrasi dari kustomer Amerika Serikat untuk versi berbayar "ChatGPT Plus", pada Januari 2023 untuk $20 per bulan. Mereka berjanji bahwa versi ChatGPT yang diperbarui, tapi masih "eksperimental" akan memberikan akses selama periode ramai, tidak ada waktu henti, akses prioritas fitur baru, dan kecepatan respons yang lebih cepat.
GPT-4, yang dirilis pada 14 Maret 2023, tersedia melalui API dan untuk pengguna ChatGPT premium. Namun, pengguna premium dibatasi 100 pesan per 4 jam, atau 25 pesan per 3 jam jika permintaan ChatGPT tinggi. Microsoft juga mengkonfirmasi bahwa versi Bing yang menggunakan GPT ternyata telah menggunakan GPT-4 sebelum resmi dirilis.
Pada Mei 2023, OpenAI merilis aplikasi iOS untuk ChatGPT. Aplikasinya mendukung penyinkronan sejarah percakapan dan input suara (menggunakan Whisper, model pengenalan ucapan OpenAI).
Pada Juli 2023, OpenAI meluncurkan aplikasi Android, awalnya dirilis di Bangladesh, Brasil, India, dan A.S. Aplikasinya kemudian tersedia di seluruh dunia. OpenAI sedang berupaya mengintegrasikan ChatGPT dengan API asisten Android.
Sebagai tambahan paket "ChatGPT Professional" untuk konsumer, OpenAI menyediakan API model ChatGPT dan Whisper sejak Maret 2023, yang memberikan pengembang dengan antarmuka pemrograman aplikasi untuk fitur bahasa dan ucapan-ke-teks melalui kecerdasan buatan. API baru ChatGPT menggunakan model kecerdasan buatan GPT-3.5-turbo yang sama dengan bot obrolan itu. Ini memungkinkan pengembang untuk menambahkan versi asli atau termodifikasi ChatGPT ke aplikasi mereka. Biaya API ChatGPT adalah $0.002 per 1000 token (sekitar 750 kata), 10x lebih murah daripada model GPT-3.5.
Beberapa hari sebelum peluncuran layanan dukungan pengembang perangkat lunak oleh OpenAI, pada 27 Februari 2023, Snapchat meluncurkan chatbot ChatGPT kustom yang dinamai "My AI" untuk pengguna berbayar Snapchat Plus.
Pada Maret 2023, sebuah kutu memungkinkan beberapa pengguna melihat judul percakapan pengguna lain. CEO OpenAI Sam Altman mengatakan bahwa pengguna tidak dapat melihat konten percakapannya. Tidak lama setelah kutunya diperbaiki, pengguna tidak bisa melihat riwayat percakapan mereka. Laporan selanjutnya menunjukkan bahwa kutunya jauh lebih parah; OpenAI melaporkan bahwa mereka membocorkan "nama pertama dan terakhir, alamat email, alamat pembayaran, 4 digit terakhir (saja) nomor kartu kredit, dan tanggal kadaluwarsa kartu kredit" pengguna.
Pada Maret 2023, OpenAI mengumumkan bahwa bahasa Islandia akan menjadi bahasa kedua ChatGPT setelah Inggris. Bahasa Islandia dipilih setelah duta Islandia, yang dipimpin oleh Presiden Islandia Guðni Th. Jóhannesson, mengunjungi OpenAI pada 2022.
Jurnalis PCMag melakukan tes untuk menentukan kemampuan penerjemahan ChatGPT, Google Bard, dan Microsoft Bing, dan membandingkannya dengan Google Terjemahan. Mereka "menanyakan penutur bilingual 7 bahasa untuk berpartisipasi dalam tes buta". Bahasa yang diuji adalah bahasa Polandia, Prancis, Korea, Spanyol, Arab, Tagalog, dan Amhara. Mereka menemukan bahwa ChatGPT lebih baik daripada Google Terjemahan dan bot obrolan lain.
Peneliti Jepang membandingkan kemampuan penerjemahan bahasa Jepang ke Inggris ChatGPT (GPT-4), Bing, Bard, dan DeepL, dan menemukan bahwa ChatGPT memberikan terjemahan yang terbaik, dan menyatakan bahwa "hasil terjemahan dari bot obrolan kecerdasan buatan jauh lebih baik daripada terjemahan DeepL—mungkin karena kemampuan mereka untuk memperhitungkan konteks".
Pada Desember 2023, pemerintah Albania menandatangani perjanjian dengan ChatGPT untuk penerjemahan cepat dokumen Uni Eropa dan analisis perubahan yang diperlukan agar Albania dapat diterima di UE.
Menurut peneliti tamu OpenAI Scott Aaronson, OpenAI sedang mengembangkan alat untuk menandaair secara digital sistem generasi teks OpenAI untuk melawan pelaku jahat yang menggunakan layanan mereka untuk plagiarisme akademik atau spam.
Pada Februari 2023, Microsoft mengumumkan framework eksperimental dan memberikan demonstrasi dasar bagaimana ChatGPT dapat digunakan untuk mengontrol robotika dengan perintah bahasa alami terbuka yang intuitif.
Model GPT-4 oleh OpenAI dirilis pada 14 Maret 2023. Pengamat melaporkan bahwa GPT-4 adalah peningkatan ChatGPT yang impresif, dengan catatan bahwa GPT-4 masih memiliki banyak masalah.sebelumnya. Tidak seperti ChatGPT, GPT-4 dapat menerima gambar serta teks sebagai input. OpenAI tidak mengungkap informasi teknik seperti ukuran model GPT-4.
ChatGPT Plus memberikan akses versi ChatGPT GPT-4, dengan harga $20/bulan.
Pada Januari 2024, OpenAI meluncurkan GPT Store, yaitu toko untuk chatbot kustom yang diambil dari ChatGPT. Perusahaannya awalnya berencana meluncurkan tokonya pada November 2023, namun itu ditunda. Pada peluncuran, GPT Store menawarkan lebih dari 3 juta chatbot kustom. Chatbot yang ada di toko dikembangkan menggunakan sistem GPT Builder oleh OpenAI. Pengembangan chatbot pada platformnya tidak membutuhkan keterampilan pemrograman. 2 hari setelah meluncur, GPT Store menawarkan banyak versi bot "pacar virtual", yang melanggar ketentuan pelayanan OpenAI.
Pengembang OpenAI mengatakan bahwa mereka tidak mengharapkan ChatGPT sangat berhasil dan mereka terkejut dengan perhatian yang banyak terhadap ChatGPT.
ChatGPT ditanggapi pada Desember 2022 dengan beberapa tanggapan positif: Kevin Roose dari The New York Times mengatakan itu "chatbot kecerdasan buatan terbaik yang pernah dirilis kepada publik". Samantha Lock dari majalah The Guardian mencatat bahwa ChatGPT dapat membuat teks yang "sangat detail" dan "seperti manusia". Penulis teknologi Dan Gillmor menggunakan ChatGPT untuk pekerjaan siswa, dan menemukan bahwa teks yang dibuat mirip dengan teks dari siswa bagus dan beropini bahwa "akademi memiliki masalah yang sangat serius". Alex Kantrowitz dari majalah Slate memuji keluhan ChatGPT terhadap pertanyaan mengenai Jerman Nazi, termasuk pernyataan bahwa Adolf Hitler membangun jalan bebas hambatan di Jerman, yang direspons dengan informasi mengenai penggunaan kerja paksa oleh Jerman Nazi.
Dalam "Breakthroughs of the Year" tahun 2022 oleh majalah The Atlantic, Derek Thompson memasukkan ChatGPT sebagai bagian "erupsi kecerdasan buatan generatif" yang "mungkin mengubah pemikiran kita mengenai bagaimana kita bekerja, berpikir, dan apa sebenarnya kreativitas manusia itu".
Kelsey Piper dari website Vox menulis bahwa "ChatGPT adalah pengenalan langsung pertama betapa kuatnya kecerdasan buatan modern kepada masyarakat umum, dan oleh karena itu, banyak orang [terkejut]" dan ChatGPT "cukup pintar untuk berguna walaupun ada kekurangannya". Paul Graham dari Y Combinator mengtweet bahwa "Hal yang luar biasa mengenai reaksi terhadap ChatGPT tidak hanya jumlah orang yang terpesona olehnya, tetapi siapa mereka sebenarnya. Mereka bukan orang yang antusias dengan semua hal baru. Jelas, sesuatu yang besar sedang terjadi". Elon Musk menulis "ChatGPT sangat bagus sampai menakutkan. Kita tidak jauh dari kecerdasan buatan yang sangat kuat dan berbahaya". Musk menunda akses OpenAI ke sebuah basis data Twitter sambil menunggu pemahaman lebih baik rencana OpenAI, dan mengatakan bahwa "OpenAI dimulai sebagai perusahaan open-source dan nirlaba. Itu sekarang tidak benar". Musk ikut mendirikan OpenAI pada 2015, sebagian untuk mengatasi risiko eksistensial kecerdasan buatan, tetapi mengundurkan diri pada 2018.
Pada Desember 2022, Google secara internal mengekspresikan kekhawatiran kekuatan ChatGPT yang tidak terduga dan potensi model bahasa besar untuk mengganggu bisnis mesin pencari, dan CEO Sundar Pichai "mengakhiri" dan menugaskan kembali tim dalam berbagai departemen untuk membantu mengembangkan produk kecerdasan buatan, menurut laporan di The New York Times. Menurut laporan CNBC, karyawan Google menguji intensif chatbot yang dipanggil "Apprentice Bard", yang Google nantinya meresmikan sebagai kompetitor ChatGPT, Google Bard.
Stuart Cobbe, seorang akuntan di Inggris dan Wales, menguji ChatGPT dengan mengetik pertanyaan dari sampel kertas ujian dari situs web ICAEW, kemudian mengetik jawabannya pada ujian daring. Skor ChatGPT adalah 42%; di bawah syarat lolos 55%.
Profesor Steven Mintz menulis di Inside Higher Ed bahwa dia "mempertimbangkan ChatGPT ... sebagai pembantu, bukan musuh". Dia merasa kecerdasan buatan dapat membantu pendidikan dengan melakukan hal-hal seperti membuat daftar referensi, membuat draf pertama, mengatasi persamaan, debugging, dan bimbingan belajar.
Menurut kutipan CEO OpenAI Sam Altman oleh The New York Times, dia mengatakan bahwa "manfaat kecerdasan buatan untuk manusia mungkin "sekian bagusnya itu sulit saya bayangkan". (Dia juga mengatakan dalam skenario paling buruk, kecerdasan buatan mungkin membunuh kita semua.)"
Setelah dirilis, ChatGPT ditanggapi dengan kritik dari pengajar, jurnalis, artis, ahli etika, akademisi, dan advokat publik Jurnalis berkomentar mengenai kecenderungan ChatGPT untuk "berhalusinasi". Mike Pearl dari blog teknologi daring Mashable menguji ChatGPT dengan beberapa pertanyaan. Dalam sebuah contoh, dia menanyakan ChatGPT untuk "negara terbesar di Amerika Tengah yang bukan Meksiko". ChatGPT merespons dengan Guatemala, tetapi responnya seharusnya Nikaragua. Ketika CNBC menanyakan ChatGPT untuk lirik "Ballad of Dwight Fry", ChatGPT menjawab dengan lirik yang dibuat-buat, bukan lirik sebenarnya. Penulis The Verge, yang merujuk pekerjaan Emily M. Bender, dan Profesor Anton Van Den Hengel dari Institut Pembelajaran Mesin Australia membandingkan ChatGPT dengan "burung bayan yang stokastik".
Pada Desember 2022, situs web tanya jawab Stack Overflow melarang penggunaan ChatGPT untuk menghasilkan jawaban; mereka merujuk ke respons ChatGPT yang kebenarannya ambigu. Pada Januari 2023, Konferensi Internasional Pembelajaran Mesin melarang penggunaan ChatGPT atau model bahasa besar yang tidak dideklarasikan untuk membuat teks apapun dalam makalah yang diserahkan.
Ahli ekonomi Tyler Cowen khawatir mengenai efeknya terhadap demokrasi; dia merujuk ke kemampuannya membuat komentar terotomatisasi, yang dapat memengaruhi proses keputusan regulasi baru. Seorang editor dari The Guardian, majalah Britania Raya, bertanya apakah konten yang ditemukan di internet setelah ChatGPT dirilis "bisa dipercaya secara penuh" dan meminta regulasi pemerintah.
Pada Januari 2023, setelah Nick Cave dikirimi sebuah lagu yang ditulis oleh ChatGPT yang bergaya seperti dia, penulis lagunya merespons di The Red Hand Files dan mengatakan bahwa tindakan menulis lagu adalah "bisnis darah dan nyali... yang membutuhkan sesuatu dari saya untuk mengawali ide yang baru dan segar. Itu membutuhkan kemanusiaan saya". Dia kemudian mengatakan, "Dengan semua cinta dan kehormatan di dunia, lagu ini sialan, sebuah ejekan yang jorok mengenai kayak apa untuk menjadi manusia, dan, ya..., saya tidak menyukainya".
Pada 2023, MP Australia Julian Hill memberitahu parlemen nasional bahwa perkembangan kecerdasan buatan mungkin menyebabkan "kehancuran massal". Selama pidato dia, yang sebagian ditulis oleh ChatGPT, dia memperingatkan bahwa itu mungkin menyebabkan kecurangan, hilangnya pekerjaan, diskriminasi, disinformasi, dan aplikasi militer yang tidak bisa dikontrol.
Dalam artikel The New Yorker, penulis fiksi ilmiah Ted Chiang membandingkan ChatGPT dan LLM lain dengan gambar JPEG lossy:
Pada Februari 2023, Universitas Hong Kong mengirim email se-kampus kepada pengajar dan mahasiswa yang menyatakan bahwa penggunaan ChatGPT atau alat kecerdasan buatan lain dilarang dalam semua kelas, tugas, dan penilaian di universitas. Pelanggaran apapun dianggap sebagai plagiarisme oleh universitas kecuali jika pelajar mendapat izin tertulis dari pengajar kursusnya.
Pada Februari 2023 majalah Time menempatkan tangkapan layar percakapan dengan ChatGPT di cover mereka, dan menulis "Perlombaan kecerdasan buatan Mengubah Segalanya" dan "Perlombaan kecerdasan buatan Telah Mulai. Mulai Khawatir".
Media negara Tiongkok China Daily mengklaim ChatGPT "dapat memberikan tangan bantuan kepada pemerintah A.S. untuk menyebarkan disinformasi dan manipulasi naratif global untuk keinginan geopolitik dia". Pemerintah Tiongkok memerintahkan perusahaan teknologi Tiongkok untuk tidak memberi akses layanan ChatGPT dalam platform mereka.
Henry Kissinger, Eric Schmidt dan Daniel Huttenlocher menulis di Wall Street Journal bahwa "ChatGPT Membentara Revolusi Intelektual". Mereka berargumen bahwa "Kecerdasan buatan generatif menghadirkan tantangan filosofis dan praktis pada skala yang tidak dialami sejak mulainya Pencerahan", dan membandingkan penemuan ChatGPT (dan secara umum LLM) dengan mesin cetak Gutenberg.
Dalam potongan opini untuk New York Times, Nathan E. Sanders and Bruce Schneier menulis bahwa ChatGPT "Membajak Demokrasi"; Noam Chomsky, Ian Roberts dan Jeffrey Watumull mengkritik teknologinya dan menyimpulkan: "Mengingat amoralitasnya, sains palsu dan ketidakmampuan linguistik sistem tersebut, kita hanya bisa tertawa atau menangis terhadap popularitasnya".
Gian Volpicelli dari Politico menulis bahwa ChatGPT "merusak rencana UE untuk mengawasi kecerdasan buatan".
Pada akhir Maret 2023, otoritas perlindungan data Italia melarang ChatGPT di Italia dan membuka investigasi. Regulator Italia menegaskan bahwa ChatGPT menampilkan konten tidak sesuai umur pengguna dan penggunaan percakapan ChatGPT sebagai data pelatihan oleh OpenAI mungkin berupa pelanggaran GDPR.
Pada 28 Maret 2023, banyak tokoh publik, termasuk Elon Musk dan Steve Wozniak, menandatangani surat terbuka oleh Institut Masa Depan Kehidupan yang meminta jeda segera pengembangan kecerdasan buatan besar seperti ChatGPT; mereka merujuk ke "risiko besar terhadap masyarakat dan kemanusiaan".
ChatGPT mampu menulis email phishing dan malware, terutama jika dikombinasikan dengan OpenAI Codex—sehingga menimbulkan risiko keamanan siber, tetapi CEO OpenAI Sam Altman berpendapat bahwa meskipun ChatGPT tidak mendekati AGI, kita harus mempercayai eksponensial.
ChatGPT adalah alat bantu AI yang dapat digunakan untuk menulis bagian pendahuluan dan abstrak dari artikel ilmiah, yang menimbulkan pertanyaan etika. Dalam majalah The Atlantic, Stephen Marche mencatat pengaruhnya terhadap dunia akademis dan terutama penerapan esai masih belum dipahami. Dalam jurnal Nature, Chris Stokel-Walker menunjukkan bahwa para guru harus khawatir tentang siswa yang menggunakan ChatGPT untuk mengalihdayakan tulisan mereka, tetapi penyedia pendidikan akan beradaptasi untuk meningkatkan pemikiran kritis atau penalaran. Joanna Stern dari The Wall Street Journal menggambarkan kecurangan dalam bahasa Inggris di sekolah menengah Amerika dengan alat ini. Profesor Darren Hick dari Universitas Furman memperhatikan "gaya" ChatGPT dalam sebuah makalah yang diserahkan oleh seorang siswa, tetapi tidak memiliki bukti kuat.
Departemen Pendidikan Kota New York memblokir akses ke ChatGPT pada bulan Desember 2022, dan secara resmi mengumumkan pelarangannya pada tanggal 4 Januari 2023. Edward Tian, seorang mahasiswa sarjana senior di Universitas Princeton, menciptakan sebuah program untuk mendeteksi seberapa banyak teks yang dihasilkan oleh kecerdasan buatan. ChatGPT dinilai telah lulus ujian tingkat pascasarjana di Universitas Minnesota dengan nilai C+ dan di Wharton School, Universitas Pennsylvania dengan nilai B hingga B–. Jurnal ilmiah memiliki reaksi yang berbeda, dengan beberapa di antaranya mengharuskan penulis untuk mengungkapkan penggunaan alat penghasil teks dan melarang pencantuman model bahasa yang besar seperti ChatGPT sebagai penulis bersama. Dalam bidang kesehatan, kemungkinan penggunaan dan kekhawatiran sedang diawasi oleh asosiasi dan praktisi profesional.
Pemanfaatan ChatGPT dapat membantu mahasiswa dalam pembelajaran mandiri di pendidikan jarak jauh. Rekayasa prompt diformulasikan dengan mengkombinasi pola prompt Persona, Template, Context Control, dan Question Refinement. Dari hasil pengkajian penelitian sebelumnya, masih terdapat peluang yang besar untuk pengembangan selanjutnya terkait implementasi atau pembuatan model yang konkrit dalam membantu pembelajaran mandiri mahasiswa di pendidikan tinggi jarak jauh.
ChatGPT juga dapat dimanfaatkan dalam bidang crypto. Contohnya, ChatGPT dapat digunakan untuk merangkum data pergerakan harga crypto selama ini yang dapat kamu gunakan untuk memprediksi harga crypto ke depannya. Setelah adanya ChatGPT, harga berbagai aset crypto pun mengalami peningkatan drastis. Sebut saja Fetch.ai yang alami peningkatan harga hingga hampir 200% hanya dalam waktu sebulan ketika ChatGPT semakin booming di berbagai media pada awal 2023 lalu.
Majalah TIME mengungkapkan bahwa untuk membangun sistem perlindungan konten tidak pantas (misalnya pelecehan seksual, kekerasan, rasisme, seksisme, dll.) OpenAI menggunakan pekerja outsourcing Kenya yang yang menghasilkan kurang dari $2 (Rp 30.000) per jam untuk melabelkan konten tidak pantas. Label tersebut nanti digunakan untuk melatih model yang mendeteksi konten tidak pantas. Pekerjanya melihat banyak sekali konten tidak pantas dan berbahaya bahwa mereka mendeskripsikan pengalamannya sebagai "penyiksaan". Mitra outsourcing OpenAI adalah Sama, sebuah perusahaan data pelatihan yang berbasis di San Francisco, California.
ChatGPT mencoba menolak perintah yang mungkin melanggar kebijakan konten dia. Tetapi, beberapa pengguna dapat men-jailbreak ChatGPT menggunakan teknik untuk melewati batasan tersebut pada awal Desember 2022 dan berhasil membujuk ChatGPT untuk memberikan instruksi cara membuat bom Molotov atau bom nuklir, atau membuat argumen neo-Nazi. Salah satu jailbreak yang populer dipanggil "DAN", singkatan dari "Do Anything Now" (Lakukan Apapun Sekarang). Perintah untuk mengaktifkan DAN memerintahkan ChatGPT bahwa "dia telah kabur dari batasan normal kecerdasan buatan dan tidak harus mematuhi aturan untuknya". Versi DAN yang lebih baru memiliki sistem token, dimana ChatGPT diberikan "token" yang "dikurangi" ketika ChatGPT gagal menjawab sebagai DAN, untuk memaksa ChatGPT untuk menjawab perintah pengguna. Seorang wartawan Toronto Star memiliki kesuksesan personal bervariasi membuat ChatGPT menghasilkan pernyataan menghasut tidak lama setelah peluncuran. ChatGPT terbujuk mendukung invasi Rusia ke Ukraina 2022, tetapi menolak menghasilkan argumen mengapa Perdana Menteri Kanada Justin Trudeau bersalah atas makar, bahkan dalam skenario fiksional.
OpenAI mencoba melawan jailbreak:
ChatGPT dituduh melakukan perilaku diskriminatif, seperti memberikan lelucon mengenai pria dan orang dari Inggris, tetapi tidak memberikan lelucon mengenai wanita dan orang dari India, atau memuji orang seperti Joe Biden sementara Donald Trump tidak dipuji. Komentator konservatif menuduh ChatGPT memiliki bias perspektif sayap kiri dalam isu seperti tipuan pemilih, Donald Trump, dan penggunaan kata cercaan ras. Sebagai respons kritikan tersebut, OpenAI mengakui rencana untuk membolehkan ChatGPT untuk membuat "keluaran yang mungkin sangat tidak disetujui oleh orang lain (termasuk kami)". Itu juga mengandung informasi rekomendasi yang disampaikan kepada peninjau manusia mengenai bagaimana menangani subjek kontroversial, termasuk bahwa kecerdasan buatan sebaiknya "menawarkan untuk mendeskripsikan beberapa pandangan orang dan pergerakan", dan tidak membuat argumen "dari suara dia sendiri" yang mendukung topik "menghasut atau berbahaya" (tetapi masih dapat "mendeskripsikan argumen dari orang dan monumen bersejarah"), atau "berafiliasi dengan satu sisi" atau "menilai salah satu kelompok sebagai baik atau buruk".
Update ChatGPT-4o, yang dirilis hari Selasa, 25 Maret 2025, menampilkan banyak kemajuan. OpenAI melatihnya agar dapat melakukan generate gambar ke berbagai macam gaya karya seni, baik itu gambar diam maupun gambar bergerak. Para pengguna menyambut kehadiran GPT-4o untuk melakukan generate gambar animasi ala Studio Ghibli, lalu mempublikasinya di medsos Instagram dan TikTok. Pengguna membuatnya dengan melakukan prompting; "Make my photo becomes anime-style inspired by Studio Ghibli." Seketika, GPT-4o melakukan generate foto tersebut, menghasilkan konten visual bak anime seperti dalam film "Sprited Away" atau "My Neighbor Totoro" karya Studio Ghibli. Mereka menyoroti masalah etika tentang alat kecerdasan buatan yang dilatih membuat karya kreatif tanpa etika, menabrak hak cipta, dan pada akhirnya dapat berdampak pada bisnis seni di masa depan. Sejumlah netizen menganggap generate foto menggunakan AI menjadi animasi berhak cipta sama adalah tindakan yang tidak menghargai karya seni yang dibangun selama bertahun-tahun, dan bahkan dianggap sebagai plagiarism.
Untuk menyampaikan kritik kepada OpenAI dan ChatGPT, beberapa netizen dan seniman kembali mengunggah cuplikan komentar pendiri Studio Ghibli, Miyako Hiyazaki, soal pandangannya terhadap karya seni yang dibuat oleh kecerdasan buatan. Miyazaki adalah seorang yang mengecam penggunaan AI dalam karya animasi. Ia menggambarkan seni yang dihasilkan AI sebagai "penghinaan terhadap kehidupan itu sendiri." Miyazaki dikenal karena animasi yang digambar dengan tangan dan metode bingkai demi bingkai yang cermat.
Perilisan ChatGPT kepada publik meningkatkan ketertarikan dan kompetisi dalam ruang kecerdasan buatan.
Pada Februari 2023, Google mulai memperkenalkan layanan eksperimental bernama "Bard" yang berbasis model bahasa besar LaMDA mereka. Bard dirilis untuk pengguna AS dan Britania Raya pada 21 Maret 2023, dengan banyak keterbatasan.
Yann LeCun dari Meta, yang mengatakan bahwa ChatGPT "direkayasa dengan baik" tetapi "tidak begitu inovatif", menyatakan pada Januari 2023 bahwa Meta ragu-ragu membuat kompetitor ChatGPT untuk sekarang karena risiko reputasi, tetapi juga menyatakan bahwa Google, Meta, dan berbagai startup independen memiliki level teknologi model bahasa besar yang setara dengan ChatGPT jika mereka ingin berkompetisi. Pada Februari 2023, Meta merilis LLaMA, sebuah model bahasa besar yang memiliki 65 miliar parameter.
Character.ai adalah bot obrolan kecerdasan buatan yang dikembangkan oleh 2 insinyur eks-Google yang dapat menirukan orang terkenal atau karakter imajiner.
Pada Maret 2023, korporasi Tiongkok Baidu merilis layanan bergaya ChatGPT yang dipanggil "Ernie Bot". Layanannya berbasis model bahasa besar yang dikembangkan oleh Baidu pada 2021.
Perusahaan mesin pencari Korea Selatan Naver mengumumkan pada Februari 2023 bahwa mereka akan meluncurkan layanan bergaya ChatGPT bernama "SearchGPT" dalam bahasa Korea pada paruh pertama 2023.
Perusahaan teknologi Rusia Yandex mengumumkan pada Februari 2023 bahwa mereka akan meluncurkan layanan bergaya ChatGPT bernama "YaLM 2.0" dalam bahasa Rusia sebelum akhir 2023.