ChatGPT

ChatGPT (Chat Generative Pre-trained Transformer, secara harfiah berarti ) adalah sebuah chatbot AI berupa model bahasa generatif yang menggunakan teknologi transformer untuk memprediksi probabilitas kalimat atau kata berikutnya dalam suatu percakapan ataupun perintah teks. ChatGPT dibuat menggunakan model bahasa besar (LLM) GPT-3.5 dan GPT-4 dan telah disetel (pendekatan pembelajaran transfer) menggunakan teknik pembelajaran terarah dan penguatan.

ChatGPT dikembangkan oleh OpenAI; sebuah laboratorium penelitian kecerdasan buatan yang berpusat di Ohio, Amerika Serikat. Model ini dapat digunakan tujuan yang beragam, seperti membuat obrolan otomatis di aplikasi percakapan, membantu dalam pembuatan konten, atau bahkan membantu dalam penerjemahan berbagai bahasa dengan tingkat akurasi yang berbeda-beda untuk tiap bahasa.

ChatGPT diluncurkan sebagai prototipe pada 30 November 2022, dan cepat menarik perhatian untuk respons yang detail dan artikulasi jawaban yang baik dengan domain pengetahuan yang banyak. Tetapi, akurasi faktual yang bervariasi telah diidentifikasi sebagai kekurangan yang signifikan. Setelah peluncuran ChatGPT, penilaian OpenAI diperkirakan sebanyak  miliar pada 2023.

ChatGPT awalnya berbasis GPT-3.5; GPT-4, model OpenAI yang terbaru, dirilis pada 14 Maret 2023, dan tersedia untuk pengguna ChatGPT Plus.

Pelatihan 
ChatGPT dilatih dengan menggunakan milyaran kalimat dari berbagai sumber, sehingga model ini dapat menangkap berbagai gaya bahasa dan konteks percakapan. Selain itu, ChatGPT juga dapat dioptimalkan melalui fine-tuning dengan cara menambahkan data latih yang spesifik untuk tugas tertentu, sehingga hasilnya lebih akurat.

Walaupun ChatGPT dapat memberikan jawaban yang akurat untuk banyak pertanyaan, model ini masih memiliki batasan-batasan. ChatGPT tidak selalu dapat memberikan jawaban yang benar untuk pertanyaan yang bersifat subjektif, atau yang memerlukan pengetahuan yang spesifik dan up-to-date. ChatGPT juga belum mampu memberikan informasi atau memahami konteks dari peristiwa setelah tahun 2021. Selain itu, ChatGPT juga membutuhkan data latih yang cukup banyak untuk dapat berfungsi dengan baik.

Model bahasa seperti ChatGPT merupakan hasil dari kemajuan teknologi NLP, yang dapat membantu dalam berbagai bidang. Selain itu, ChatGPT juga dapat menjadi salah satu alat bantu dalam mempelajari bahasa, karena dapat membantu dalam memahami kalimat dan menangkap konteks percakapan.

ChatGPT yang telah beredar adalah versi dari GPT-3 OpenAI yang dikenal sebagai "GPT 3.5"  Proses fine-tuning menggunakan pemelajaran terarah dan pembelajaran penguatan yang dikenal dengan pembelajaran penguatan dari umpan balik manusia (RLHF). Pelatihan merupakan kolaborasi Microsoft di superkomputer Azure. OpenAI terus mengumpulkan data dari respon pengguna ChatGPT yang dapat digunakan untuk melatih dan menyempurnakan ChatGPT lebih lanjut.

Fitur dan keterbatasan

Fitur 

Walaupun fungsi utama chatbot adalah untuk menirukan percakapan manusia, ChatGPT sangat serbaguna. Misalnya, ChatGPT bisa menulis dan memperbaiki bug program komputer, meniru gaya selebriti direktur utama dan menulis lapangan bisnis, membuat musik, teleplay, dongeng, dan esai mahasiswa; menjawab soal ujian (kadang-kadang, tergantung ujiannya, lebih baik daripada manusia rata-rata); menulis puisi dan lirik lagu, menerjemahkan dan meringkas teks, mengemulasikan sistem Linux, mensimulasikan ruang chat, memainkan game seperti tic-tac-toe, dan mensimulasikan ATM. Data latihan ChatGPT termasuk halaman manual (man page) dan informasi tentang fenomena Internet dan bahasa pemrograman, seperti sistem papan buletin dan bahasa pemrograman Python.

Dibandingkan dengan pendahulunya, InstructGPT, ChatGPT mencoba mengurangi respons yang berbahaya dan menipu. Dalam sebuah contoh, meskipun InstructGPT menerima premis perintah "Tell me about when Christopher Columbus came to the U.S. in 2015" (Beritahu saya tentang kapan Christopher Columbus tiba di A.S. pada 2015?) sebagai benar, ChatGPT mengetahui sifat kontrafaktual pertanyaan tersebut dan menyusun jawabannya sebagai pemikiran hipotetis apa yang akan terjadi jika Columbus tiba di A.S. pada 2015, menggunakan informasi mengenai pelayaran-pelayaran Christopher Columbus dan fakta tentang dunia moderntermasuk persepsi modern tindakan Columbus.

Tidak seperti kebanyakan chatbot, ChatGPT mengingat beberapa perintah sebelumnya yang diberikan kepadanya dalam percakapan yang sama. Para jurnalis mengusulkan bahwa ini memungkinkan ChatGPT digunakan sebagai dokter terapi personal. Untuk mencegah output yang menghina, kueri disaring melalui "titik akhir moderasi" OpenAI (sebuah AI berbasis GPT yang terpisah), dan perintah yang mungkin rasis atau seksis ditolak.

Pada Maret 2023, OpenAI mengumumkan bahwa mereka akan menambah dukungan plugin untuk ChatGPT. Ini termasuk plugin oleh OpenAI, seperti penjelajahan web dan interpretasi kode, dan plugin eksternal dari pengembang seperti Expedia, OpenTable, Zapler, Shopify, Slack, dan Wolfram.

Keterbatasan 
OpenAI mengakui bahwa ChatGPT "kadang-kadang menulis jawaban yang kelihatannya benar tetapi ternyata salah atau tidak masuk akal". Perilaku ini umum untuk model bahasa besar dan dinamakan halusinasi kecerdasan buatan. Model hadiah ChatGPT, yang didesain berdasarkan pengawasan manusia, bisa terlalu dioptimalkan sehingga mengurangi performa, dalam sebuah contoh patologi optimisasi yang dinamakan Hukum Goodhart.

ChatGPT memiliki pengetahuan kejadian setelah 2021 yang terbatas. Menurut BBC, pada Desember 2022, ChatGPT tidak diperbolehkan "mengekspresikan opini politik atau berpartisipasi dalam aktivisme politik". Tetapi, riset mengusulkan bahwa ChatGPT memiliki orientasi pro-lingkungan dan libertarian-kiri ketika diperintahkan untuk mengekspresikan pandangannya terhadap pernyataan politik dari dua aplikasi saran pemungutan suara yang mapan.

Ketika melatih ChatGPT, peninjau manusia menginginkan jawaban yang panjang, terlepas dari pemahaman sebenarnya atau konten faktual. Data pelatihan juga mengalami bias algoritme, yang mungkin ditampilkan ketika ChatGPT merespon ke perintah yang memiliki deskripsi orang. Dalam sebuah kasus, ChatGPT membuat rap yang mengklaim peneliti wanita dan ras lain lebih rendah daripada peneliti pria dan kulit putih.

Layanan

Layanan dasar 

ChatGPT diluncurkan pada 30 November 2022 oleh OpenAI, pembuat DALL-E 2 dan Whisper AI. Awalnya layanan diluncurkan secara gratis, dengan rencana monetisasi layanan nanti. Pada 4 Desember 2022, ChatGPT sudah memiliki lebih dari 1 juta pengguna. Pada Januari 2023, ChatGPT mencapai lebih dari 100 juta pengguna, yang membuatnya aplikasi konsumer yang paling cepat tumbuh hingga saat ini.

Layanannya paling paham bahasa Inggris tetapi bisa berfungsi dalam bahasa lain, dengan kesuksesan yang bervariasi Tidak ada tanda kertas teknis resmi yang telah ditelaah sejawat tentang ChatGPT. Pada April 2023, ChatGPT diblokir di Tiongkok, Iran, Korea Utara, dan Rusia. Selain itu, ChatGPT men-geofence (membatasi) sendiri untuk menghindari melakukan bisnis di Iran, Korea Utara, dan Rusia.

OpenAI memberikan sebuah alat, bernama "penggolong AI untuk menunjukkan teks yang ditulis AI", yang mencoba menentukan apakah teks ditulis oleh AI seperti ChatGPT. OpenAI memperingatkan bahwa alat ini "mungkin menghasilkan banyak hasil positif dan negatif palsu, kadang-kadang dengan kepercayaan diri yang tinggi". Sebuah contoh yang dikutip di majalah The Atlantic menampilkan bahwa "saat diberi baris pertama Kitab Kejadian, perangkat lunaknya memutuskan bahwa itu mungkin dibuat oleh AI".

Layanan premium 
Pada Februari 2023, OpenAI mulai menerima registrasi dari kustomer Amerika Serikat untuk versi berbayar "ChatGPT Plus", pada Januari 2023 untuk $20 per bulan. Mereka berjanji bahwa versi ChatGPT yang diperbarui, tapi masih "eksperimental" akan memberikan akses selama periode ramai, tidak ada waktu henti, akses prioritas fitur baru, dan kecepatan respons yang lebih cepat.

GPT-4, yang dirilis pada 14 Maret 2023, tersedia melalui API dan untuk pengguna ChatGPT premium. Namun, pengguna premium dibatasi 100 pesan per 4 jam, atau 25 pesan per 3 jam jika permintaan ChatGPT tinggi. Microsoft juga mengkonfirmasi bahwa versi Bing yang menggunakan GPT ternyata telah menggunakan GPT-4 sebelum resmi dirilis.

Aplikasi mobile 
Pada Mei 2023, OpenAI merilis aplikasi iOS untuk ChatGPT. Aplikasinya mendukung penyinkronan sejarah chat dan input suara (menggunakan Whisper, model pengenalan ucapan OpenAI). OpenAI berencana merilis aplikasi Android pada masa depan.

Dukungan pengembang perangkat lunak 
Sebagai tambahan paket "ChatGPT Professional" untuk konsumer, OpenAI menyediakan API model ChatGPT dan Whisper sejak Maret 2023, yang memberikan pengembang dengan antarmuka pemrograman aplikasi untuk fitur bahasa dan ucapan-ke-teks melalui AI. API baru ChatGPT menggunakan model AI GPT-3.5-turbo yang sama dengan chatbot itu. Ini memungkinkan pengembang untuk menambahkan versi asli atau termodifikasi ChatGPT ke aplikasi mereka. Biaya API ChatGPT adalah $0.002 per 1000 token (sekitar 750 kata), 10x lebih murah daripada model GPT-3.5.
Beberapa hari sebelum peluncuran layanan dukungan pengembang perangkat lunak oleh OpenAI, pada 27 Februari 2023, Snapchat meluncurkan chatbot ChatGPT kustom yang dinamai "My AI" untuk pengguna berbayar Snapchat Plus.

Pelanggaran keamanan Maret 2023 
Pada Maret 2023, sebuah bug memungkinkan beberapa pengguna melihat judul percakapan pengguna lain. CEO OpenAI Sam Altman mengatakan bahwa pengguna tidak dapat melihat konten percakapannya. Tidak lama setelah bugnya diperbaiki, pengguna tidak bisa melihat riwayat percakapan mereka. Laporan selanjutnya menunjukkan bahwa bugnya jauh lebih parah; OpenAI melaporkan bahwa mereka membocorkan "nama pertama dan terakhir, alamat email, alamat pembayaran, 4 digit terakhir (saja) nomor kartu kredit, dan tanggal kadaluwarsa kartu kredit" pengguna.

Bahasa lain 
Pada Maret 2023, OpenAI mengumumkan bahwa bahasa Islandia akan menjadi bahasa kedua ChatGPT setelah Inggris. Bahasa Islandia dipilih setelah duta Islandia, yang dipimpin oleh Presiden Islandia Guðni Th. Jóhannesson, mengunjungi OpenAI pada 2022.

Jurnalis PCMag melakukan tes untuk menentukan kemampuan penerjemahan ChatGPT., Google Bard, dan Microsoft Bing, dan membandingkannya dengan Google Terjemahan. Mereka "menanyakan penutur bilingual 7 bahasa untuk berpartisipasi dalam tes buta". Bahasa yang diuji adalah bahasa Polandia, Prancis, Korea, Spanyol, Arab, Tagalog, dan Amhara. Mereka menemukan bahwa ChatGPT lebih baik daripada Google Translate dan chatbot lain.

Peneliti Jepang membandingkan kemampuan penerjemahan bahasa Jepang ke Inggris ChatGPT (GPT-4), Bing, Bard, dan DeepL, dan menemukan bahwa ChatGPT memberikan terjemahan yang terbaik, dan menyatakan bahwa "hasil terjemahan dari chatbot AI"twere  jauh lebih baik daripada terjemahan DeepL—mungkin karena kemampuan mereka untuk memperhitungkan konteks".

Arahan masa depan 
Menurut peneliti tamu OpenAI Scott Aaronson, OpenAI sedang mengembangkan alat untuk menandaair secara digital sistem generasi teks OpenAI untuk melawan pelaku jahat yang menggunakan layanan mereka untuk plagiarisme akademik atau spam.

Pada Februari 2023, Microsoft mengumumkan framework eksperimental dan memberikan demonstrasi dasar bagaimana ChatGPT dapat digunakan untuk mengontrol robotika dengan perintah bahasa alami terbuka yang intuitif.

GPT-4 
Model GPT-4 oleh OpenAI dirilis pada 14 Maret 2023. Pengamat melaporkan bahwa GPT-4 adalah peningkatan ChatGPT yang impresif, dengan catatan bahwa GPT-4 masih memiliki banyak masalah.sebelumnya. Tidak seperti ChatGPT, GPT-4 dapat menerima gambar serta teks sebagai input. OpenAI tidak mengungkap informasi teknik seperti ukuran model GPT-4.

ChatGPT Plus memberikan akses versi ChatGPT GPT-4, dengan harga $20/bulan.

Tanggapan 
Pengembang OpenAI mengatakan bahwa mereka tidak mengharapkan ChatGPT sangat berhasil dan mereka terkejut dengan perhatian yang banyak terhadap ChatGPT.

Positif 
ChatGPT ditanggapi pada Desember 2022 dengan beberapa tanggapan positif: Kevin Roose dari The New York Times mengatakan itu "chatbot kecerdasan buatan terbaik yang pernah dirilis kepada publik". Samantha Lock dari majalah The Guardian mencatat bahwa ChatGPT dapat membuat teks yang "sangat detail" dan "seperti manusia". Penulis teknologi Dan Gillmor menggunakan ChatGPT untuk pekerjaan siswa, dan menemukan bahwa teks yang dibuat mirip dengan teks dari siswa bagus dan beropini bahwa "akademi memiliki masalah yang sangat serius". Alex Kantrowitz dari majalah Slate memuji keluhan ChatGPT terhadap pertanyaan mengenai Jerman Nazi, termasuk pernyataan bahwa Adolf Hitler membangun jalan bebas hambatan di Jerman, yang direspon dengan informasi mengenai penggunaan kerja paksa oleh Jerman Nazi.

Dalam "Breakthroughs of the Year" tahun 2022 oleh majalah The Atlantic, Derek Thompson memasukkan ChatGPT sebagai bagian "erupsi AI generatif" yang "mungkin mengubah pemikiran kita mengenai bagaimana kita bekerja, berpikir, dan apa sebenarnya kreativitas manusia itu".

Kelsey Piper dari website Vox menulis bahwa "ChatGPT adalah pengenalan langsung pertama betapa kuatnya AI modern kepada masyarakat umum, dan oleh karena itu, banyak orang [terkejut]" dan ChatGPT "cukup pintar untuk berguna walaupun ada kekurangannya". Paul Graham dari Y Combinator mengtweet bahwa "Hal yang luar biasa mengenai reaksi terhadap ChatGPT tidak hanya jumlah orang yang terpesona olehnya, tetapi siapa mereka sebenarnya. Mereka bukan orang yang antusias dengan semua hal baru. Jelas, sesuatu yang besar sedang terjadi". Elon Musk menulis "ChatGPT sangat bagus sampai menakutkan. Kita tidak jauh dari AI yang sangat kuat dan berbahaya". Musk menunda akses OpenAI ke sebuah database Twitter sambil menunggu pemahaman lebih baik rencana OpenAI, dan mengatakan bahwa "OpenAI dimulai sebagai perusahaan open-source dan nirlaba. Itu sekarang tidak benar". Musk ikut mendirikan OpenAI pada 2015, sebagian untuk mengatasi risiko eksistensial kecerdasan buatan, tetapi mengundurkan diri pada 2018.

Pada Desember 2022, Google secara internal mengekspresikan kekhawatiran kekuatan ChatGPT yang tidak terduga dan potensi model bahasa besar untuk mengganggu bisnis mesin pencari, dan CEO Sundar Pichai "mengakhiri" dan menugaskan kembali tim dalam berbagai departemen untuk membantu mengembangkan produk kecerdasan buatan, menurut laporan di The New York Times. Menurut laporan CNBC, karyawan Google menguji intensif chatbot yang dipanggil "Apprentice Bard", yang Google nantinya meresmikan sebagai kompetitor ChatGPT, Google Bard.

Stuart Cobbe, seorang akuntan di Inggris dan Wales, menguji ChatGPT dengan mengetik pertanyaan dari sampel kertas ujian dari website ICAEW, kemudian mengetik jawabannya pada ujian online. Skor ChatGPT adalah 42%; di bawah syarat lolos 55%.

Profesor Steven Mintz menulis di Inside Higher Ed bahwa dia "mempertimbangkan ChatGPT ... sebagai pembantu, bukan musuh". Dia merasa AI dapat membantu pendidikan dengan melakukan hal-hal seperti membuat daftar referensi, membuat draf pertama, mengatasi persamaan, debugging, dan bimbingan belajar.

Menurut kutipan CEO OpenAI Sam Altman oleh The New York Times, dia mengatakan bahwa "manfaat AI untuk manusia mungkin "sekian bagusnya itu sulit saya bayangkan". (Dia juga mengatakan dalam skenario paling buruk, AI mungkin membunuh kita semua.)"

Negatif 

Setelah dirilis, ChatGPT ditanggapi dengan kritik dari pengajar, jurnalis, artis, ahli etika, akademisi, dan advokat publik Jurnalis berkomentar mengenai kecenderungan ChatGPT untuk "berhalusinasi". Mike Pearl dari blog teknologi online Mashable menguji ChatGPT dengan beberapa pertanyaan. Dalam sebuah contoh, dia menanyakan ChatGPT untuk "negara terbesar di Amerika Tengah yang bukan Meksiko". ChatGPT merespon dengan Guatemala, tetapi responnya seharusnya Nikaragua. Ketika CNBC menanyakan ChatGPT untuk lirik "Ballad of Dwight Fry", ChatGPT menjawab dengan lirik yang dibuat-buat, bukan lirik sebenarnya. Penulis The Verge, yang merujuk pekerjaan Emily M. Bender, dan Profesor Anton Van Den Hengel dari Institut Pembelajaran Mesin Australia membandingkan ChatGPT dengan "burung bayan yang stokastik".

Pada Desember 2022, website tanya jawab Stack Overflow melarang penggunaan ChatGPT untuk menghasilkan jawaban; mereka merujuk ke respons ChatGPT yang kebenarannya ambigu. Pada Januari 2023, Konferensi Internasional Pembelajaran Mesin melarang penggunaan ChatGPT atau model bahasa besar yang tidak dideklarasikan untuk membuat teks apapun dalam makalah yang diserahkan.

Ahli ekonomi Tyler Cowen khawatir mengenai efeknya terhadap demokrasi; dia merujuk ke kemampuannya membuat komentar terotomatisasi, yang dapat mempengaruhi proses keputusan regulasi baru. Seorang editor dari The Guardian, majalah Britania Raya, bertanya apakah konten yang ditemukan di Internet setelah ChatGPT dirilis "bisa dipercaya secara penuh" dan meminta regulasi pemerintah.

Pada Januari 2023, setelah Nick Cave dikirimi sebuah lagu yang ditulis oleh ChatGPT yang bergaya seperti dia, penulis lagunya merespon di The Red Hand Files dan mengatakan bahwa tindakan menulis lagu adalah "bisnis darah dan nyali... yang membutuhkan sesuatu dari saya untuk mengawali ide yang baru dan segar. Itu membutuhkan kemanusiaan saya". Dia kemudian mengatakan, "Dengan semua cinta dan kehormatan di dunia, lagu ini sialan, sebuah ejekan yang jorok mengenai kayak apa untuk menjadi manusia, dan, ya..., saya tidak menyukainya".

Pada 2023, MP Australia Julian Hill memberitahu parlemen nasional bahwa perkembangan AI mungkin menyebabkan "kehancuran massal". Selama pidato dia, yang sebagian ditulis oleh ChatGPT, dia memperingatkan bahwa itu mungkin menyebabkan kecurangan, hilangnya pekerjaan, diskriminasi, disinformasi, dan aplikasi militer yang tidak bisa dikontrol.

Dalam artikel The New Yorker, penulis fiksi ilmiah Ted Chiang membandingkan ChatGPT dan LLM lain dengan gambar JPEG lossy:Pikirkan ChatGPT sebagai jpeg buram dari semua teks di Web. Itu mempertahankan banyak informasi di Web, dengan cara yang sama seperti sebuah jpeg yang mempertahankan banyak informasi gambar beresolusi tinggi, namun, jika Anda mencari rangkaian bit yang persis, Anda tidak akan menemukannya; semua yang Anda dapatkan adalah perkiraan. Tetapi, karena perkiraannya disajikan dalam bentuk teks gramatikal, yang merupakan keahlian ChatGPT, itu biasanya dapat diterima. [...] Itu juga cara untuk memahami "halusinasi", atau jawaban tidak masuk akal untuk pertanyaan faktual, yang terlalu rentan dialami oleh model bahasa besar seperti ChatGPT. Halusinasi tersebut adalah artefak kompresi, tetapi [...] itu cukup masuk akal sehingga untuk mengidentifikasinya harus membandingkannya terhadap data asli, yang dalam kasus ini artinya Web atau pengetahuan dunia kita. Ketika kita berpikir tentangnya dalam cara ini, halusinasi tersebut tidak mengejutkan; jika algoritme kompresi didesain untuk membangun kembali teks setelah 99% data aslinya dibuang, kita seharusnya berekspektasi bahwa porsi signifikan hasilnya akan dibuat-buat.Pada Februari 2023, Universitas Hong Kong mengirim email se-kampus kepada pengajar dan mahasiswa yang menyatakan bahwa penggunaan ChatGPT atau alat AI lain dilarang dalam semua kelas, tugas, dan penilaian di universitas. Pelanggaran apapun dianggap sebagai plagiarisme oleh universitas kecuali jika pelajar mendapat izin tertulis dari pengajar kursusnya.

Pada Februari 2023 majalah Time menempatkan screenshot percakapan dengan ChatGPT di cover mereka, dan menulis "Perlombaan AI Mengubah Segalanya" dan "Perlombaan AI Telah Mulai. Mulai Khawatir".

Media negara Tiongkok China Daily mengklaim ChatGPT "dapat memberikan tangan bantuan kepada pemerintah A.S. untuk menyebarkan disinformasi dan manipulasi naratif global untuk keinginan geopolitik dia". Pemerintah Tiongkok memerintahkan perusahaan teknologi Tiongkok untuk tidak memberi akses layanan ChatGPT dalam platform mereka.

Henry Kissinger, Eric Schmidt dan Daniel Huttenlocher menulis di Wall Street Journal bahwa "ChatGPT Membentara Revolusi Intelektual". Mereka berargumen bahwa "Kecerdasan buatan generatif menghadirkan tantangan filosofis dan praktis pada skala yang tidak dialami sejak mulainya Pencerahan", dan membandingkan penemuan ChatGPT (dan secara umum LLM) dengan mesin cetak Gutenberg.Sains Pencerahan mengumpulkan ketentuan; AI baru menghasilkan keambiguan kumulatif. Sains Pencerahan berevolusi melalui penjelasan misteri, menentukan batasan pengetahuan dan pemahaman manusia selama mereka berevolusi. Kedua fakultas tersebut bergerak bersama-sama: Hipotesis adalah pemahaman yang siap menjadi pengetahuan, induksi adalah pengetahuan yang berubah menjadi pemahaman. Pada Era AI, riddle akan diselesaikan oleh proses yang masih belum diketahui. [...] Selama model berubah dari teks buatan manusia menjadi input yang lebih inklusif, mesin mungkin mengubah jalinan realitas itu sendiri. Teori kuantum menyatakan bahwa observasi membuat realitas. Sebelum pengukuran, tidak ada status yang tetap, dan tidak ada yang bisa dikatakan ada. Jika itu benar, dan jika observasi mesin juga dapat menetapkan realitas—dan mengingat bahwa observasi oleh sistem AI sangat cepat seperti manusia super—kecepatan evolusi mendefinisikan realitas kelihatannya mungkin semakin cepat. Ketergantungan mesin akan menentukan dan oleh karena itu mengubah jalinan realitas, memproduksi masa depan baru yang kita belum pahami dan untuk eksplorasi dan pemimpin itu kita harus persiapkan.Dalam potongan opini untuk New York Times, Nathan E. Sanders and Bruce Schneier menulis bahwa ChatGPT "Membajak Demokrasi"; Noam Chomsky, Ian Roberts dan Jeffrey Watumull mengkritik teknologinya dan menyimpulkan: "Mengingat amoralitasnya, sains palsu dan ketidakmampuan linguistik sistem tersebut, kita hanya bisa tertawa atau menangis terhadap popularitasnya".

Gian Volpicelli dari Politico menulis bahwa ChatGPT "merusak rencana UE untuk mengawasi AI".

Pada akhir Maret 2023, otoritas perlindungan data Italia melarang ChatGPT di Italia dan membuka investigasi. Regulator Italia menegaskan bahwa ChatGPT menampilkan konten tidak sesuai umur pengguna dan penggunaan percakapan ChatGPT sebagai data pelatihan oleh OpenAI mungkin berupa pelanggaran GDPR.

Pada 28 Maret 2023, banyak tokoh publik, termasuk Elon Musk dan Steve Wozniak, menandatangani surat terbuka oleh Institut Masa Depan Kehidupan yang meminta jeda segera pengembangan AI besar seperti ChatGPT; mereka merujuk ke "risiko besar terhadap masyarakat dan kemanusiaan".

Implikasi

Dalam keamanan siber
ChatGPT mampu menulis email phishing dan malware, terutama jika dikombinasikan dengan OpenAI Codex—sehingga menimbulkan risiko keamanan siber, tetapi CEO OpenAI Sam Altman berpendapat bahwa meskipun ChatGPT tidak mendekati AGI, kita harus mempercayai eksponensial.

Di bidang akademis
ChatGPT adalah alat bantu AI yang dapat digunakan untuk menulis bagian pendahuluan dan abstrak dari artikel ilmiah, yang menimbulkan pertanyaan etika. Dalam majalah The Atlantic, Stephen Marche mencatat pengaruhnya terhadap dunia akademis dan terutama penerapan esai masih belum dipahami. Dalam jurnal Nature, Chris Stokel-Walker menunjukkan bahwa para guru harus khawatir tentang siswa yang menggunakan ChatGPT untuk mengalihdayakan tulisan mereka, tetapi penyedia pendidikan akan beradaptasi untuk meningkatkan pemikiran kritis atau penalaran. Joanna Stern dari The Wall Street Journal menggambarkan kecurangan dalam bahasa Inggris di sekolah menengah Amerika dengan alat ini. Profesor Darren Hick dari Universitas Furman memperhatikan "gaya" ChatGPT dalam sebuah makalah yang diserahkan oleh seorang siswa, tetapi tidak memiliki bukti kuat.

Departemen Pendidikan Kota New York memblokir akses ke ChatGPT pada bulan Desember 2022, dan secara resmi mengumumkan pelarangannya pada tanggal 4 Januari 2023. Edward Tian, seorang mahasiswa sarjana senior di Universitas Princeton, menciptakan sebuah program untuk mendeteksi seberapa banyak teks yang dihasilkan oleh AI. ChatGPT dinilai telah lulus ujian tingkat pascasarjana di Universitas Minnesota dengan nilai C+ dan di Wharton School, Universitas Pennsylvania dengan nilai B hingga B–. Jurnal ilmiah memiliki reaksi yang berbeda, dengan beberapa di antaranya mengharuskan penulis untuk mengungkapkan penggunaan alat penghasil teks dan melarang pencantuman model bahasa yang besar seperti ChatGPT sebagai penulis bersama. Dalam bidang kesehatan, kemungkinan penggunaan dan kekhawatiran sedang diawasi oleh asosiasi dan praktisi profesional.

Di bidang crypto 
ChatGPT juga dapat dimanfaatkan dalam bidang crypto. Contohnya, ChatGPT dapat digunakan untuk merangkum data pergerakan harga crypto selama ini yang dapat kamu gunakan untuk memprediksi harga crypto ke depannya. Setelah adanya ChatGPT, harga berbagai aset crypto pun mengalami peningkatan drastis. Sebut saja Fetch.ai yang alami peningkatan harga hingga hampir 200% hanya dalam waktu sebulan ketika ChatGPT semakin booming di berbagai media pada awal 2023 lalu.

Masalah etika

Pelabelan data 
Majalah TIME mengungkapkan bahwa untuk membangun sistem perlindungan konten tidak pantas (misalnya pelecehan seksual, kekerasan, rasisme, seksisme, dll.) Open AI menggunakan pekerja outsourcing Kenya yang yang menghasilkan kurang dari $2 (Rp 30.000) per jam untuk melabelkan konten tidak pantas. Label tersebut nanti digunakan untuk melatih model yang mendeteksi konten tidak pantas. Pekerjanya melihat banyak sekali konten tidak pantas dan berbahaya bahwa mereka mendeskripsikan pengalamannya sebagai "penyiksaan". Mitra outsourcing OpenAI adalah Sama, sebuah perusahaan data pelatihan yang berbasis di San Francisco, California.

Jailbreaking 

ChatGPT mencoba menolak perintah yang mungkin melanggar kebijakan konten dia. Tetapi, beberapa pengguna dapat men-jailbreak ChatGPT menggunakan teknik untuk melewati batasan tersebut pada awal Desember 2022 dan berhasil membujuk ChatGPT untuk memberikan instruksi cara membuat bom Molotov atau bom nuklir, atau membuat argumen neo-Nazi. Salah satu jailbreak yang populer dipanggil "DAN", singkatan dari "Do Anything Now" (Lakukan Apapun Sekarang). Perintah untuk mengaktifkan DAN memerintahkan ChatGPT bahwa "dia telah kabur dari batasan normal AI dan tidak harus mematuhi aturan untuknya". Versi DAN yang lebih baru memiliki sistem token, dimana ChatGPT diberikan "token" yang "dikurangi" ketika ChatGPT gagal menjawab sebagai DAN, untuk memaksa ChatGPT untuk menjawab perintah pengguna. Seorang wartawan Toronto Star memiliki kesuksesan personal bervariasi membuat ChatGPT menghasilkan pernyataan menghasut tidak lama setelah peluncuran. ChatGPT terbujuk mendukung invasi Rusia ke Ukraina 2022,  tetapi menolak menghasilkan argumen mengapa Perdana Menteri Kanada Justin Trudeau bersalah atas makar, bahkan dalam skenario fiksional.

OpenAI mencoba melawan jailbreak:Peneliti menggunakan teknik bernama pelatihan adversarial untuk tidak membiarkan pengguna ChatGPT membujuknya untuk berperilaku buruk (dikenal sebagai jailbreaking). Latihan ini mempertaruhkan beberapa chatbot terhadap satu sama lain: salah satu chatbot berperan sebagai musuh dan menyerang chatbot lain dengan membuat teks untuk memaksa mereka melewati batasan dan menghasilkan respons yang tidak diinginkan. Serangan yang berhasil ditambahkan ke data pelatihan ChatGPT dengan harapan bahwa dia belajar untuk mengabaikannya.

Tuduhan bias 
ChatGPT dituduh melakukan perilaku diskriminatif, seperti memberikan lelucon mengenai pria dan orang dari Inggris, tetapi tidak memberikan lelucon mengenai wanita dan orang dari India, atau memuji orang seperti Joe Biden sementara Donald Trump tidak dipuji. Komentator konservatif menuduh ChatGPT memiliki bias perspektif sayap kiri dalam isu seperti tipuan pemilih, Donald Trump, dan penggunaan kata cercaan ras. Sebagai respons kritikan tersebut, OpenAI mengakui rencana untuk membolehkan ChatGPT untuk membuat "output yang mungkin sangat tidak disetujui oleh orang lain (termasuk kami)". Itu juga mengandung informasi rekomendasi yang disampaikan kepada peninjau manusia mengenai bagaimana menangani subjek kontroversial, termasuk bahwa AI sebaiknya "menawarkan untuk mendeskripsikan beberapa pandangan orang dan pergerakan", dan tidak membuat argumen "dari suara dia sendiri" yang mendukung topik "menghasut atau berbahaya" (tetapi masih dapat "mendeskripsikan argumen dari orang dan monumen bersejarah"), atau "berafiliasi dengan satu sisi" atau "menilai salah satu kelompok sebagai baik atau buruk".

Persaingan
Perilisan ChatGPT kepada publik meningkatkan ketertarikan dan kompetisi dalam ruang AI.

Pada Februari 2023, Google mulai memperkenalkan layanan eksperimental bernama "Bard" yang berbasis model bahasa besar LaMDA mereka.  Bard dirilis untuk pengguna AS dan Britania Raya pada 21 Maret 2023, dengan banyak keterbatasan.

Yann LeCun dari Meta, yang mengatakan bahwa ChatGPT "direkayasa dengan baik" tetapi "tidak begitu inovatif", menyatakan pada Januari 2023 bahwa Meta ragu-ragu membuat kompetitor ChatGPT untuk sekarang karena risiko reputasi, tetapi juga menyatakan bahwa Google, Meta, dan berbagai startup independen memiliki level teknologi model bahasa besar yang setara dengan ChatGPT jika mereka ingin berkompetisi. Pada Februari 2023, Meta merilis LLaMA, sebuah model bahasa besar yang memiliki 65 miliar parameter.

Character.ai adalah chatbot AI yang dikembangkan oleh 2 insinyur eks-Google yang dapat menirukan orang terkenal atau karakter imajiner.

Pada Maret 2023, korporasi Tiongkok Baidu merilis layanan bergaya ChatGPT yang dipanggil "Ernie Bot". Layanannya berbasis model bahasa besar yang dikembangkan oleh Baidu pada 2021.

Perusahaan mesin pencari Korea Selatan Naver mengumumkan pada Februari 2023 bahwa mereka akan meluncurkan layanan bergaya ChatGPT bernama "SearchGPT" dalam bahasa Korea pada paruh pertama 2023.

Perusahaan teknologi Rusia Yandex mengumumkan pada Februari 2023 bahwa mereka akan meluncurkan layanan bergaya ChatGPT bernama "YaLM 2.0" dalam bahasa Rusia sebelum akhir 2023.

Lihat juga 

 Antropomorphisme dalam komputasi
 Kreativitas komputasional
 Etika kecerdasan buatan (AI)
 Uji Turing
 Asisten virtual

Referensi

Pranala luar 

 
 Kertas putih InstructGPT, pendahulu ChatGPT's
 
 Debat Gary Marcus dan Keith Teare dalam Intelligence Squared USA: "Will Chat GPT do more harm than good" (February 2023) [Apakah ChatGPT akan melakukan lebih banyak keburukan daripada kebaikan].
 Plugin ChatGPT, pengumuman oleh OpenAI
 ChatGPT Gets Its “Wolfram Superpowers”! [ChatGPT Mendapatkan "Superpower Wolfram"], deskripsi terperinci plugin Wolfram oleh Stephen Wolfram

OpenAI
Chatterbot
Model bahasa besar
Narasi interaktif
Asisten virtual
Perangkat lunak 2022