ChatGPT

ChatGPT(Chat Generative Pretrained Transformer,secara harfiah berartibahasa Indonesia:Transformer Pralatih Obrolan Generatif) adalah sebuahbot obrolankecerdasan buatanberupamodel bahasageneratif yang menggunakan teknologi transformer untuk memprediksi probabilitas kalimat atau kata berikutnya dalam suatu percakapan ataupun perintah teks. ChatGPT dibuat menggunakanmodel bahasa besar(LLM)GPT-3.5danGPT-4dan telah disetel (pendekatanpembelajaran transfer) menggunakan teknik pembelajaranterarahdanpenguatan.
ChatGPT dikembangkan olehOpenAI; sebuah laboratorium penelitiankecerdasan buatanyang berpusat diOhio,Amerika Serikat. Model ini dapat digunakan tujuan yang beragam seperti membuat obrolan otomatis di aplikasi percakapan, membantu dalam pembuatan konten atau bahkan membantu dalam penerjemahan berbagai bahasa dengan tingkat akurasi yang berbeda-beda untuk tiap bahasa.
ChatGPT diluncurkan sebagai prototipe pada 30 November 2022, dan cepat menarik perhatian untuk respons yang detail dan artikulasi jawaban yang baik dengan domain pengetahuan yang banyak. Tetapi, akurasi faktual yang bervariasi telah diidentifikasi sebagai kekurangan yang signifikan.Setelah peluncuran ChatGPT, penilaian OpenAI diperkirakan sebanyakUS$29miliar pada 2023.
ChatGPT awalnya berbasis GPT-3.5; GPT-4, model OpenAI yang terbaru, dirilis pada 14 Maret 2023, dan tersedia untuk pengguna ChatGPT Plus.
ChatGPT dilatih dengan menggunakan miliaran kalimat dari berbagai sumber, sehingga model ini dapat menangkap berbagai gaya bahasa dan konteks percakapan. Selain itu, ChatGPT juga dapat dioptimalkan melalui penyempurnaan (fine-tuning) dengan cara menambahkan data latih yang spesifik untuk tugas tertentu, sehingga hasilnya lebih akurat.
Walaupun ChatGPT dapat memberikan jawaban yang akurat untuk banyak pertanyaan, model ini masih memiliki batasan-batasan. ChatGPT tidak selalu dapat memberikan jawaban yang benar untuk pertanyaan yang bersifat subjektif, atau yang memerlukan pengetahuan yang spesifik dan terkini (up-to-date). ChatGPT juga belum mampu memberikan informasi atau memahami konteks dari peristiwa setelah tanggal September 2021. Setelah pembaruan, ChatGPT memiliki pengetahuan hingga Januari 2022. Selain itu, ChatGPT juga membutuhkan data latih yang cukup banyak untuk dapat berfungsi dengan baik.
Model bahasa seperti ChatGPT merupakan hasil dari kemajuan teknologiNLP, yang dapat membantu dalam berbagai bidang. Selain itu, ChatGPT juga dapat menjadi salah satu alat bantu dalam mempelajari bahasa, karena dapat membantu dalam memahami kalimat dan menangkap konteks percakapan.
ChatGPT yang telah beredar adalah versi dari GPT-3 OpenAI yang dikenal sebagai "GPT 3.5"Proses penyempurnaan (fine-tuning) menggunakanpemelajaran terarahdanpembelajaran penguatanyang dikenal dengan pembelajaran penguatan dari umpan balik manusia (RLHF).Pelatihan merupakan kolaborasi Microsoft di superkomputerAzure. OpenAI terus mengumpulkan data dari respons pengguna ChatGPT yang dapat digunakan untuk melatih dan menyempurnakan ChatGPT lebih lanjut.
Walaupun fungsi utama bot obrolan adalah untuk menirukan percakapan manusia, ChatGPT sangat serbaguna. Misalnya, ChatGPT bisa menulis dan memperbaiki bug program komputer,meniru gaya selebritas direktur utama dan menulis lapangan bisnis,membuat musik, teleplay, dongeng, dan esai mahasiswa; menjawab soal ujian (kadang-kadang, tergantung ujiannya, lebih baik daripada manusia rata-rata);menulis puisi dan lirik lagu,menerjemahkan dan meringkas teks,mengemulasikan sistemLinux, mensimulasikan ruang percakapan, memainkan gim seperti tic-tac-toe, dan mensimulasikanATM. Data latihan ChatGPT termasukhalaman manual(man page) dan informasi tentangfenomena Internetdan bahasa pemrograman, sepertisistem papan buletindanbahasa pemrograman Python.
Dibandingkan dengan pendahulunya, InstructGPT, ChatGPT mencoba mengurangi respons yang berbahaya dan menipu. Dalam sebuah contoh, meskipun InstructGPT menerima premis perintah"Tell me about whenChristopher Columbuscame to the U.S. in 2015"(Beritahu saya tentang kapan Christopher Columbus tiba di A.S. pada 2015?) sebagai benar, ChatGPT mengetahui sifat kontrafaktual pertanyaan tersebut dan menyusun jawabannya sebagai pemikiran hipotetis apa yang akan terjadi jika Columbus tiba di A.S. pada 2015, menggunakan informasi mengenaipelayaran-pelayaran Christopher Columbusdan fakta tentang dunia modern – termasuk persepsi modern tindakan Columbus.
Tidak seperti kebanyakan bot obrolan, ChatGPT mengingat beberapa perintah sebelumnya yang diberikan kepadanya dalam percakapan yang sama. Para jurnalis mengusulkan bahwa ini memungkinkan ChatGPT digunakan sebagai dokter terapi personal.Untuk mencegah keluaran yang menghina, kueri disaring melalui "titik akhir moderasi" OpenAI (sebuah kecerdasan buatan berbasis GPT yang terpisah),dan perintah yang mungkin rasis atau seksis ditolak.
Pada Maret 2023, OpenAI mengumumkan bahwa mereka akan menambah dukunganpluginuntuk ChatGPT.Ini termasuk plugin oleh OpenAI, seperti penjelajahan web dan interpretasi kode, dan plugin eksternal dari pengembang sepertiExpedia,OpenTable,Zapler,Shopify,Slack, danWolfram.
OpenAI mengakui bahwa ChatGPT "kadang-kadang menulis jawaban yang kelihatannya benar tetapi ternyata salah atau tidak masuk akal".Perilaku ini umum untukmodel bahasabesar dan dinamakanhalusinasi kecerdasan buatan.Model hadiah ChatGPT, yang didesain berdasarkan pengawasan manusia, bisa terlalu dioptimalkan sehingga mengurangi performa, dalam sebuah contoh patologi optimisasi yang dinamakanHukum Goodhart.
ChatGPT memiliki pengetahuan kejadian setelah 2021 yang terbatas.Menurut BBC, pada Desember 2022, ChatGPT tidak diperbolehkan "mengekspresikan opini politik atau berpartisipasi dalam aktivisme politik".Tetapi, riset mengusulkan bahwa ChatGPT memiliki orientasi pro-lingkungan dan libertarian-kiri ketika diperintahkan untuk mengekspresikan pandangannya terhadap pernyataan politik dari dua aplikasi saran pemungutan suara yang mapan.
Ketika melatih ChatGPT, peninjau manusia menginginkan jawaban yang panjang, terlepas dari pemahaman sebenarnya atau konten faktual.Data pelatihan juga mengalamibias algoritme, yang mungkin ditampilkan ketika ChatGPT merespon ke perintah yang memiliki deskripsi orang. Dalam sebuah kasus, ChatGPT membuat rap yang mengklaim peneliti wanita dan ras lain lebih rendah daripada peneliti pria dan kulit putih.
ChatGPT diluncurkan pada 30 November 2022 oleh OpenAI, pembuatDALL-E 2danWhisper AI. Awalnya layanan diluncurkan secara gratis, dengan rencana monetisasi layanan nanti.Pada 4 Desember 2022, ChatGPT sudah memiliki lebih dari 1 juta pengguna.Pada Januari 2023, ChatGPT mencapai lebih dari 100 juta pengguna, yang membuatnya aplikasi konsumer yang paling cepat tumbuh hingga saat ini.
Layanannya paling pahambahasa Inggristetapi bisa berfungsi dalam bahasa lain, dengan kesuksesan yang bervariasiTidak ada tanda kertas teknis resmi yang telahditelaah sejawattentang ChatGPT.Pada April 2023, ChatGPT diblokir di Tiongkok, Iran,Korea Utara, dan Rusia. Selain itu, ChatGPT men-geofence(membatasi) sendiri untuk menghindari melakukan bisnis di Iran, Korea Utara, dan Rusia.
OpenAI memberikan sebuah alat, bernama "penggolong kecerdasan buatan untuk menunjukkan teks yang ditulis kecerdasan buatan",yang mencoba menentukan apakah teks ditulis oleh kecerdasan buatan seperti ChatGPT. OpenAI memperingatkan bahwa alat ini "mungkin menghasilkan banyak hasil positif dan negatif palsu, kadang-kadang dengan kepercayaan diri yang tinggi". Sebuah contoh yang dikutip di majalahThe Atlanticmenampilkan bahwa "saat diberi baris pertamaKitab Kejadian, perangkat lunaknya memutuskan bahwa itu mungkin dibuat oleh kecerdasan buatan".
Pada Februari 2023, OpenAI mulai menerima registrasi dari kustomer Amerika Serikat untuk versi berbayar "ChatGPT Plus", pada Januari 2023 untuk $20 per bulan. Mereka berjanji bahwa versi ChatGPT yang diperbarui, tapi masih "eksperimental" akan memberikan akses selama periode ramai, tidak ada waktu henti, akses prioritas fitur baru, dan kecepatan respons yang lebih cepat.
GPT-4, yang dirilis pada 14 Maret 2023, tersedia melaluiAPIdan untuk pengguna ChatGPT premium.Namun, pengguna premium dibatasi 100 pesan per 4 jam, atau 25 pesan per 3 jam jika permintaan ChatGPT tinggi.Microsoft juga mengkonfirmasi bahwa versi Bing yang menggunakan GPT ternyata telah menggunakan GPT-4 sebelum resmi dirilis.
Pada Mei 2023, OpenAI merilis aplikasiiOSuntuk ChatGPT. Aplikasinya mendukung penyinkronan sejarah percakapan dan input suara (menggunakan Whisper, modelpengenalan ucapanOpenAI).
Pada Juli 2023, OpenAI meluncurkan aplikasiAndroid, awalnya dirilis diBangladesh,Brasil,India, danA.S.Aplikasinya kemudian tersedia di seluruh dunia. OpenAI sedang berupaya mengintegrasikan ChatGPT dengan API asisten Android.
Sebagai tambahan paket "ChatGPT Professional" untuk konsumer, OpenAI menyediakanAPImodel ChatGPT dan Whisper sejak Maret 2023, yang memberikan pengembang denganantarmuka pemrograman aplikasiuntuk fitur bahasa dan ucapan-ke-teks melalui kecerdasan buatan. API baru ChatGPT menggunakan model kecerdasan buatan GPT-3.5-turbo yang sama dengan bot obrolan itu. Ini memungkinkan pengembang untuk menambahkan versi asli atau termodifikasi ChatGPT ke aplikasi mereka.Biaya API ChatGPT adalah $0.002 per 1000 token (sekitar 750 kata), 10x lebih murah daripada model GPT-3.5.
Beberapa hari sebelum peluncuran layanan dukungan pengembang perangkat lunak oleh OpenAI, pada 27 Februari 2023,Snapchatmeluncurkan chatbot ChatGPT kustom yang dinamai "My AI" untuk pengguna berbayar Snapchat Plus.
Pada Maret 2023, sebuahkutumemungkinkan beberapa pengguna melihat judul percakapan pengguna lain. CEO OpenAI Sam Altman mengatakan bahwa pengguna tidak dapat melihat konten percakapannya. Tidak lama setelah kutunya diperbaiki, pengguna tidak bisa melihat riwayat percakapan mereka.Laporan selanjutnya menunjukkan bahwa kutunya jauh lebih parah; OpenAI melaporkan bahwa mereka membocorkan "nama pertama dan terakhir, alamat email, alamat pembayaran, 4 digit terakhir (saja) nomorkartu kredit, dan tanggal kadaluwarsa kartu kredit" pengguna.
Pada Maret 2023, OpenAI mengumumkan bahwa bahasaIslandiaakan menjadi bahasa kedua ChatGPT setelah Inggris. Bahasa Islandia dipilih setelah duta Islandia, yang dipimpin oleh Presiden IslandiaGuðni Th. Jóhannesson, mengunjungi OpenAI pada 2022.
JurnalisPCMagmelakukan tes untuk menentukan kemampuan penerjemahan ChatGPT,Google Bard, danMicrosoft Bing, dan membandingkannya denganGoogle Terjemahan. Mereka "menanyakan penutur bilingual 7 bahasa untuk berpartisipasi dalam tes buta". Bahasa yang diuji adalah bahasaPolandia,Prancis,Korea,Spanyol,Arab,Tagalog, danAmhara. Mereka menemukan bahwa ChatGPT lebih baik daripada Google Terjemahan dan bot obrolan lain.
Peneliti Jepang membandingkan kemampuan penerjemahan bahasa Jepang ke Inggris ChatGPT (GPT-4), Bing, Bard, danDeepL, dan menemukan bahwa ChatGPT memberikan terjemahan yang terbaik, dan menyatakan bahwa "hasil terjemahan dari bot obrolan kecerdasan buatan jauh lebih baik daripada terjemahan DeepL—mungkin karena kemampuan mereka untuk memperhitungkan konteks".
Pada Desember 2023, pemerintah Albania menandatangani perjanjian dengan ChatGPT untuk penerjemahan cepat dokumen Uni Eropa dan analisis perubahan yang diperlukan agar Albania dapat diterima di UE.
Menurut peneliti tamu OpenAIScott Aaronson, OpenAI sedang mengembangkan alat untukmenandaairsecara digital sistem generasi teks OpenAI untuk melawan pelaku jahat yang menggunakan layanan mereka untukplagiarisme akademikatau spam.
Pada Februari 2023, Microsoft mengumumkan framework eksperimental dan memberikan demonstrasi dasar bagaimana ChatGPT dapat digunakan untuk mengontrolrobotikadengan perintah bahasa alami terbuka yang intuitif.
Model GPT-4 oleh OpenAI dirilis pada 14 Maret 2023. Pengamat melaporkan bahwa GPT-4 adalah peningkatan ChatGPT yang impresif, dengan catatan bahwa GPT-4 masih memiliki banyak masalah.sebelumnya.Tidak seperti ChatGPT, GPT-4 dapat menerima gambar serta teks sebagai input.OpenAI tidak mengungkap informasi teknik seperti ukuran model GPT-4.
ChatGPT Plus memberikan akses versi ChatGPT GPT-4,dengan harga $20/bulan.
Pada Januari 2024, OpenAI meluncurkanGPT Store, yaitu toko untuk chatbot kustom yang diambil dari ChatGPT.Perusahaannya awalnya berencana meluncurkan tokonya pada November 2023, namun itu ditunda.Pada peluncuran, GPT Store menawarkan lebih dari 3 juta chatbot kustom.Chatbot yang ada di toko dikembangkan menggunakan sistemGPT Builderoleh OpenAI.Pengembangan chatbot pada platformnya tidak membutuhkan keterampilan pemrograman.2 hari setelah meluncur,GPT Storemenawarkan banyak versi bot "pacar virtual", yang melanggarketentuan pelayananOpenAI.
Pengembang OpenAI mengatakan bahwa mereka tidak mengharapkan ChatGPT sangat berhasil dan mereka terkejut dengan perhatian yang banyak terhadap ChatGPT.
ChatGPT ditanggapi pada Desember 2022 dengan beberapa tanggapan positif: Kevin Roose dariThe New York Timesmengatakan itu "chatbot kecerdasan buatan terbaik yang pernah dirilis kepada publik".Samantha Lock dari majalahThe Guardianmencatat bahwa ChatGPT dapat membuat teks yang "sangat detail" dan "seperti manusia".Penulis teknologiDan Gillmormenggunakan ChatGPT untuk pekerjaan siswa, dan menemukan bahwa teks yang dibuat mirip dengan teks dari siswa bagus dan beropini bahwa "akademi memiliki masalah yang sangat serius".Alex Kantrowitz dari majalahSlatememuji keluhan ChatGPT terhadap pertanyaan mengenaiJerman Nazi, termasuk pernyataan bahwa Adolf Hitler membangunjalan bebas hambatan di Jerman, yang direspons dengan informasi mengenaipenggunaan kerja paksa oleh Jerman Nazi.
Dalam "Breakthroughs of the Year" tahun 2022 oleh majalahThe Atlantic,Derek Thompsonmemasukkan ChatGPT sebagai bagian "erupsi kecerdasan buatan generatif" yang "mungkin mengubah pemikiran kita mengenai bagaimana kita bekerja, berpikir, dan apa sebenarnya kreativitas manusia itu".
Kelsey Piperdari websiteVoxmenulis bahwa "ChatGPT adalah pengenalan langsung pertama betapa kuatnya kecerdasan buatan modern kepada masyarakat umum, dan oleh karena itu, banyak orang [terkejut]" dan ChatGPT "cukup pintar untuk berguna walaupun ada kekurangannya".Paul GrahamdariY Combinatormengtweet bahwa "Hal yang luar biasa mengenai reaksi terhadap ChatGPT tidak hanya jumlah orang yang terpesona olehnya, tetapi siapa mereka sebenarnya. Mereka bukan orang yang antusias dengan semua hal baru. Jelas, sesuatu yang besar sedang terjadi".Elon Muskmenulis "ChatGPT sangat bagus sampai menakutkan. Kita tidak jauh dari kecerdasan buatan yang sangat kuat dan berbahaya".Musk menunda akses OpenAI ke sebuah basis data Twitter sambil menunggu pemahaman lebih baik rencana OpenAI, dan mengatakan bahwa "OpenAI dimulai sebagai perusahaanopen-sourcedannirlaba. Itu sekarang tidak benar".Musk ikut mendirikan OpenAI pada 2015, sebagian untuk mengatasirisiko eksistensial kecerdasan buatan, tetapi mengundurkan diri pada 2018.
Pada Desember 2022, Google secara internal mengekspresikan kekhawatiran kekuatan ChatGPT yang tidak terduga dan potensi model bahasa besar untuk mengganggu bisnis mesin pencari, dan CEOSundar Pichai"mengakhiri" dan menugaskan kembali tim dalam berbagai departemen untuk membantu mengembangkan produk kecerdasan buatan, menurut laporan diThe New York Times.Menurut laporan CNBC, karyawan Google menguji intensif chatbot yang dipanggil "Apprentice Bard", yang Google nantinya meresmikan sebagai kompetitor ChatGPT,Google Bard.
Stuart Cobbe, seorang akuntan diInggris dan Wales, menguji ChatGPT dengan mengetik pertanyaan dari sampel kertas ujian dari situs webICAEW, kemudian mengetik jawabannya pada ujian daring. Skor ChatGPT adalah 42%; di bawah syarat lolos 55%.
ProfesorSteven Mintzmenulis diInside Higher Edbahwa dia "mempertimbangkan ChatGPT ... sebagai pembantu, bukan musuh". Dia merasa kecerdasan buatan dapat membantu pendidikan dengan melakukan hal-hal seperti membuat daftar referensi, membuat draf pertama, mengatasi persamaan, debugging, dan bimbingan belajar.
Menurut kutipan CEO OpenAISam AltmanolehThe New York Times, dia mengatakan bahwa "manfaat kecerdasan buatan untuk manusia mungkin "sekian bagusnya itu sulit saya bayangkan". (Dia juga mengatakan dalam skenario paling buruk, kecerdasan buatan mungkin membunuh kita semua.)"
Setelah dirilis, ChatGPT ditanggapi dengan kritik dari pengajar, jurnalis, artis, ahli etika, akademisi, dan advokat publik Jurnalis berkomentar mengenai kecenderungan ChatGPT untuk "berhalusinasi".Mike Pearl dari blog teknologi daringMashablemenguji ChatGPT dengan beberapa pertanyaan. Dalam sebuah contoh, dia menanyakan ChatGPT untuk "negara terbesar diAmerika Tengahyang bukanMeksiko". ChatGPT merespons denganGuatemala, tetapi responnya seharusnyaNikaragua.Ketika CNBC menanyakan ChatGPT untuk lirik"Ballad of Dwight Fry", ChatGPT menjawab dengan lirik yang dibuat-buat, bukan lirik sebenarnya.PenulisThe Verge,yang merujuk pekerjaanEmily M. Bender, dan Profesor Anton Van Den HengeldariInstitut Pembelajaran Mesin Australiamembandingkan ChatGPT dengan "burung bayan yang stokastik".
Pada Desember 2022, situs web tanya jawabStack Overflowmelarang penggunaan ChatGPT untuk menghasilkan jawaban; mereka merujuk ke respons ChatGPT yang kebenarannya ambigu.Pada Januari 2023,Konferensi Internasional Pembelajaran Mesinmelarang penggunaan ChatGPT atau model bahasa besar yang tidak dideklarasikan untuk membuat teks apapun dalam makalah yang diserahkan.
Ahli ekonomiTyler Cowenkhawatir mengenai efeknya terhadap demokrasi; dia merujuk ke kemampuannya membuat komentar terotomatisasi, yang dapat memengaruhi proses keputusan regulasi baru.Seorang editor dariThe Guardian, majalah Britania Raya, bertanya apakah konten yang ditemukan di internet setelah ChatGPT dirilis "bisa dipercaya secara penuh" dan meminta regulasi pemerintah.
Pada Januari 2023, setelahNick Cavedikirimi sebuah lagu yang ditulis oleh ChatGPT yang bergaya seperti dia,penulis lagunya merespons diThe Red Hand Filesdan mengatakan bahwa tindakan menulis lagu adalah "bisnis darah dan nyali... yang membutuhkan sesuatu dari saya untuk mengawali ide yang baru dan segar. Itu membutuhkan kemanusiaan saya". Dia kemudian mengatakan, "Dengan semua cinta dan kehormatan di dunia, lagu ini sialan, sebuah ejekan yang jorok mengenai kayak apa untuk menjadi manusia, dan, ya..., saya tidak menyukainya".
Pada 2023, MP AustraliaJulian Hillmemberitahu parlemen nasional bahwa perkembangan kecerdasan buatan mungkin menyebabkan "kehancuran massal". Selama pidato dia, yang sebagian ditulis oleh ChatGPT, dia memperingatkan bahwa itu mungkin menyebabkan kecurangan, hilangnya pekerjaan, diskriminasi, disinformasi, dan aplikasi militer yang tidak bisa dikontrol.
Dalam artikelThe New Yorker, penulis fiksi ilmiahTed Chiangmembandingkan ChatGPT dan LLM lain dengan gambarJPEGlossy:
Pada Februari 2023,Universitas Hong Kongmengirim email se-kampus kepada pengajar dan mahasiswa yang menyatakan bahwa penggunaan ChatGPT atau alat kecerdasan buatan lain dilarang dalam semua kelas, tugas, dan penilaian di universitas. Pelanggaran apapun dianggap sebagai plagiarisme oleh universitas kecuali jika pelajar mendapat izin tertulis dari pengajar kursusnya.
Pada Februari 2023 majalahTimemenempatkan tangkapan layar percakapan dengan ChatGPT di cover mereka, dan menulis "Perlombaan kecerdasan buatan Mengubah Segalanya" dan "Perlombaan kecerdasan buatan Telah Mulai. Mulai Khawatir".
Media negara TiongkokChina Dailymengklaim ChatGPT "dapat memberikan tangan bantuan kepada pemerintah A.S. untuk menyebarkan disinformasi dan manipulasi naratif global untuk keinginan geopolitik dia". Pemerintah Tiongkok memerintahkan perusahaan teknologi Tiongkok untuk tidak memberi akses layanan ChatGPT dalam platform mereka.
Henry Kissinger,Eric SchmidtdanDaniel Huttenlochermenulis diWall Street Journalbahwa "ChatGPT Membentara Revolusi Intelektual". Mereka berargumen bahwa "Kecerdasan buatan generatifmenghadirkan tantangan filosofis dan praktis pada skala yang tidak dialami sejak mulainya Pencerahan", dan membandingkan penemuan ChatGPT (dan secara umum LLM) dengan mesin cetak Gutenberg.
Dalam potongan opini untukNew York Times,Nathan E. SandersandBruce Schneiermenulis bahwa ChatGPT "Membajak Demokrasi";Noam Chomsky,Ian RobertsdanJeffrey Watumullmengkritik teknologinya dan menyimpulkan: "Mengingat amoralitasnya, sains palsu dan ketidakmampuan linguistik sistem tersebut, kita hanya bisa tertawa atau menangis terhadap popularitasnya".
Gian Volpicelli dariPoliticomenulis bahwa ChatGPT "merusakrencana UE untuk mengawasi kecerdasan buatan".
Pada akhir Maret 2023, otoritas perlindungan data Italia melarang ChatGPT diItaliadan membuka investigasi. Regulator Italia menegaskan bahwa ChatGPT menampilkan konten tidak sesuai umur pengguna dan penggunaan percakapan ChatGPT sebagai data pelatihan oleh OpenAI mungkin berupa pelanggaranGDPR.
Pada 28 Maret 2023, banyak tokoh publik, termasukElon MuskdanSteve Wozniak, menandatangani surat terbuka olehInstitut Masa Depan Kehidupanyang meminta jeda segera pengembangan kecerdasan buatan besar seperti ChatGPT; mereka merujuk ke "risiko besar terhadap masyarakat dan kemanusiaan".
ChatGPT mampu menulisemail phishingdanmalware, terutama jika dikombinasikan denganOpenAI Codex—sehingga menimbulkan risikokeamanan siber, tetapi CEO OpenAISam Altmanberpendapat bahwa meskipun ChatGPT tidak mendekati AGI, kita harus mempercayai eksponensial.
ChatGPT adalah alat bantuAIyang dapat digunakan untuk menulis bagian pendahuluan dan abstrak dari artikel ilmiah, yang menimbulkan pertanyaan etika.Dalam majalahThe Atlantic,Stephen Marchemencatat pengaruhnya terhadap dunia akademis dan terutama penerapan esai masih belum dipahami.Dalam jurnalNature,Chris Stokel-Walkermenunjukkan bahwa para guru harus khawatir tentang siswa yang menggunakan ChatGPT untuk mengalihdayakan tulisan mereka, tetapi penyedia pendidikan akan beradaptasi untuk meningkatkan pemikiran kritis atau penalaran.Joanna SterndariThe Wall Street Journalmenggambarkan kecurangan dalam bahasa Inggris di sekolah menengah Amerika dengan alat ini.Profesor Darren Hick dariUniversitas Furmanmemperhatikan "gaya" ChatGPT dalam sebuahmakalahyang diserahkan oleh seorang siswa, tetapi tidak memiliki bukti kuat.
Departemen Pendidikan Kota New Yorkmemblokir akses ke ChatGPT pada bulan Desember 2022,dan secara resmi mengumumkan pelarangannya pada tanggal 4 Januari 2023.Edward Tian, seorang mahasiswa sarjana senior diUniversitas Princeton, menciptakan sebuah program untuk mendeteksi seberapa banyak teks yang dihasilkan oleh kecerdasan buatan. ChatGPT dinilai telah lulus ujian tingkat pascasarjana diUniversitas Minnesotadengan nilai C+ dan di Wharton School,Universitas Pennsylvaniadengan nilai B hingga B–.Jurnal ilmiah memiliki reaksi yang berbeda, dengan beberapa di antaranya mengharuskan penulis untuk mengungkapkan penggunaan alat penghasil teks dan melarang pencantuman model bahasa yang besar seperti ChatGPT sebagai penulis bersama.Dalam bidang kesehatan, kemungkinan penggunaan dan kekhawatiran sedang diawasi oleh asosiasi dan praktisi profesional.
Pemanfaatan ChatGPT dapat membantu mahasiswa dalam pembelajaran mandiri di pendidikan jarak jauh. Rekayasa prompt diformulasikan dengan mengkombinasi pola prompt Persona, Template, Context Control, dan Question Refinement. Dari hasil pengkajian penelitian sebelumnya, masih terdapat peluang yang besar untuk pengembangan selanjutnya terkait implementasi atau pembuatan model yang konkrit dalam membantu pembelajaran mandiri mahasiswa di pendidikan tinggi jarak jauh.
ChatGPT juga dapat dimanfaatkan dalam bidang crypto. Contohnya, ChatGPT dapat digunakan untuk merangkum data pergerakan hargacryptoselama ini yang dapat kamu gunakan untuk memprediksi harga crypto ke depannya. Setelah adanya ChatGPT, harga berbagai aset crypto pun mengalami peningkatan drastis. Sebut saja Fetch.ai yang alami peningkatan harga hingga hampir 200% hanya dalam waktu sebulan ketika ChatGPT semakinboomingdi berbagai media pada awal 2023 lalu.
MajalahTIMEmengungkapkan bahwa untuk membangun sistem perlindungan konten tidak pantas (misalnya pelecehan seksual, kekerasan, rasisme, seksisme, dll.) OpenAI menggunakan pekerjaoutsourcingKenya yang yang menghasilkan kurang dari $2 (Rp 30.000) per jam untukmelabelkankonten tidak pantas. Label tersebut nanti digunakan untuk melatih model yang mendeteksi konten tidak pantas. Pekerjanya melihat banyak sekali konten tidak pantas dan berbahaya bahwa mereka mendeskripsikan pengalamannya sebagai "penyiksaan". MitraoutsourcingOpenAI adalahSama, sebuah perusahaan data pelatihan yang berbasis di San Francisco, California.
ChatGPT mencoba menolak perintah yang mungkin melanggar kebijakan konten dia. Tetapi, beberapa pengguna dapat men-jailbreakChatGPT menggunakan teknik untuk melewati batasan tersebut pada awal Desember 2022 dan berhasil membujuk ChatGPT untuk memberikan instruksi cara membuatbom Molotovatau bom nuklir, atau membuat argumenneo-Nazi.Salah satujailbreakyang populer dipanggil "DAN", singkatan dari "Do Anything Now" (Lakukan Apapun Sekarang). Perintah untuk mengaktifkan DAN memerintahkan ChatGPT bahwa "dia telah kabur dari batasan normal kecerdasan buatan dan tidak harus mematuhi aturan untuknya". Versi DAN yang lebih baru memiliki sistem token, dimana ChatGPT diberikan "token" yang "dikurangi" ketika ChatGPT gagal menjawab sebagai DAN, untuk memaksa ChatGPT untuk menjawab perintah pengguna.Seorang wartawanToronto Starmemiliki kesuksesan personal bervariasi membuat ChatGPT menghasilkan pernyataan menghasut tidak lama setelah peluncuran. ChatGPT terbujuk mendukunginvasi Rusia ke Ukraina 2022,  tetapi menolak menghasilkan argumen mengapaPerdana Menteri KanadaJustin Trudeaubersalah atas makar, bahkan dalam skenario fiksional.
OpenAI mencoba melawanjailbreak:
ChatGPT dituduh melakukan perilaku diskriminatif, seperti memberikan lelucon mengenai pria dan orang dari Inggris, tetapi tidak memberikan lelucon mengenai wanita dan orang dari India,atau memuji orang sepertiJoe BidensementaraDonald Trumptidak dipuji.Komentator konservatif menuduh ChatGPT memilikibiasperspektif sayap kiri dalam isu seperti tipuan pemilih, Donald Trump, dan penggunaan kata cercaan ras.Sebagai respons kritikan tersebut, OpenAI mengakui rencana untuk membolehkan ChatGPT untuk membuat "keluaran yang mungkin sangat tidak disetujui oleh orang lain (termasuk kami)". Itu juga mengandung informasi rekomendasi yang disampaikan kepada peninjau manusia mengenai bagaimana menangani subjek kontroversial, termasuk bahwa kecerdasan buatan sebaiknya "menawarkan untuk mendeskripsikan beberapa pandangan orang dan pergerakan", dan tidak membuat argumen "dari suara dia sendiri" yang mendukung topik "menghasut atau berbahaya" (tetapi masih dapat "mendeskripsikan argumen dari orang dan monumen bersejarah"), atau "berafiliasi dengan satu sisi" atau "menilai salah satu kelompok sebagai baik atau buruk".
Perilisan ChatGPT kepada publik meningkatkan ketertarikan dan kompetisi dalam ruang kecerdasan buatan.
Pada Februari 2023, Google mulai memperkenalkan layanan eksperimental bernama "Bard" yang berbasis model bahasa besarLaMDAmereka. Bard dirilis untuk pengguna AS dan Britania Raya pada 21 Maret 2023, dengan banyak keterbatasan.
Yann LeCundari Meta, yang mengatakan bahwa ChatGPT "direkayasa dengan baik" tetapi "tidak begitu inovatif", menyatakan pada Januari 2023 bahwa Meta ragu-ragu membuat kompetitor ChatGPT untuk sekarang karena risiko reputasi, tetapi juga menyatakan bahwa Google, Meta, dan berbagai startup independen memiliki level teknologi model bahasa besar yang setara dengan ChatGPT jika mereka ingin berkompetisi.Pada Februari 2023, Meta merilisLLaMA, sebuah model bahasa besar yang memiliki 65 miliar parameter.
Character.aiadalah bot obrolan kecerdasan buatan yang dikembangkan oleh 2 insinyur eks-Google yang dapat menirukan orang terkenal atau karakter imajiner.
Pada Maret 2023, korporasi TiongkokBaidumerilis layanan bergaya ChatGPT yang dipanggil "Ernie Bot". Layanannya berbasis model bahasa besar yang dikembangkan oleh Baidu pada 2021.
Perusahaan mesin pencari Korea SelatanNavermengumumkan pada Februari 2023 bahwa mereka akan meluncurkan layanan bergaya ChatGPT bernama "SearchGPT" dalam bahasa Korea pada paruh pertama 2023.
Perusahaan teknologi RusiaYandexmengumumkan pada Februari 2023 bahwa mereka akan meluncurkan layanan bergaya ChatGPT bernama "YaLM 2.0" dalam bahasa Rusia sebelum akhir 2023.