Tolong jelaskan mengenai Negatif dari ChatGPT

Setelah dirilis, ChatGPT ditanggapi dengan kritik dari pengajar, jurnalis, artis, ahli etika, akademisi, dan advokat publik Jurnalis berkomentar mengenai kecenderungan ChatGPT untuk "berhalusinasi". Mike Pearl dari blog teknologi online Mashable menguji ChatGPT dengan beberapa pertanyaan. Dalam sebuah contoh, dia menanyakan ChatGPT untuk "negara terbesar di Amerika Tengah yang bukan Meksiko". ChatGPT merespon dengan Guatemala, tetapi responnya seharusnya Nikaragua. Ketika CNBC menanyakan ChatGPT untuk lirik "Ballad of Dwight Fry", ChatGPT menjawab dengan lirik yang dibuat-buat, bukan lirik sebenarnya. Penulis The Verge, yang merujuk pekerjaan Emily M. Bender, dan Profesor Anton Van Den Hengel dari Institut Pembelajaran Mesin Australia membandingkan ChatGPT dengan "burung bayan yang stokastik".

Pada Desember 2022, website tanya jawab Stack Overflow melarang penggunaan ChatGPT untuk menghasilkan jawaban; mereka merujuk ke respons ChatGPT yang kebenarannya ambigu. Pada Januari 2023, Konferensi Internasional Pembelajaran Mesin melarang penggunaan ChatGPT atau model bahasa besar yang tidak dideklarasikan untuk membuat teks apapun dalam makalah yang diserahkan.

Ahli ekonomi Tyler Cowen khawatir mengenai efeknya terhadap demokrasi; dia merujuk ke kemampuannya membuat komentar terotomatisasi, yang dapat mempengaruhi proses keputusan regulasi baru. Seorang editor dari The Guardian, majalah Britania Raya, bertanya apakah konten yang ditemukan di Internet setelah ChatGPT dirilis "bisa dipercaya secara penuh" dan meminta regulasi pemerintah.

Pada Januari 2023, setelah Nick Cave dikirimi sebuah lagu yang ditulis oleh ChatGPT yang bergaya seperti dia, penulis lagunya merespon di The Red Hand Files dan mengatakan bahwa tindakan menulis lagu adalah "bisnis darah dan nyali... yang membutuhkan sesuatu dari saya untuk mengawali ide yang baru dan segar. Itu membutuhkan kemanusiaan saya". Dia kemudian mengatakan, "Dengan semua cinta dan kehormatan di dunia, lagu ini sialan, sebuah ejekan yang jorok mengenai kayak apa untuk menjadi manusia, dan, ya..., saya tidak menyukainya".

Pada 2023, MP Australia Julian Hill memberitahu parlemen nasional bahwa perkembangan AI mungkin menyebabkan "kehancuran massal". Selama pidato dia, yang sebagian ditulis oleh ChatGPT, dia memperingatkan bahwa itu mungkin menyebabkan kecurangan, hilangnya pekerjaan, diskriminasi, disinformasi, dan aplikasi militer yang tidak bisa dikontrol.

Dalam artikel The New Yorker, penulis fiksi ilmiah Ted Chiang membandingkan ChatGPT dan LLM lain dengan gambar JPEG lossy:Pikirkan ChatGPT sebagai jpeg buram dari semua teks di Web. Itu mempertahankan banyak informasi di Web, dengan cara yang sama seperti sebuah jpeg yang mempertahankan banyak informasi gambar beresolusi tinggi, namun, jika Anda mencari rangkaian bit yang persis, Anda tidak akan menemukannya; semua yang Anda dapatkan adalah perkiraan. Tetapi, karena perkiraannya disajikan dalam bentuk teks gramatikal, yang merupakan keahlian ChatGPT, itu biasanya dapat diterima. [...] Itu juga cara untuk memahami "halusinasi", atau jawaban tidak masuk akal untuk pertanyaan faktual, yang terlalu rentan dialami oleh model bahasa besar seperti ChatGPT. Halusinasi tersebut adalah artefak kompresi, tetapi [...] itu cukup masuk akal sehingga untuk mengidentifikasinya harus membandingkannya terhadap data asli, yang dalam kasus ini artinya Web atau pengetahuan dunia kita. Ketika kita berpikir tentangnya dalam cara ini, halusinasi tersebut tidak mengejutkan; jika algoritme kompresi didesain untuk membangun kembali teks setelah 99% data aslinya dibuang, kita seharusnya berekspektasi bahwa porsi signifikan hasilnya akan dibuat-buat.Pada Februari 2023, Universitas Hong Kong mengirim email se-kampus kepada pengajar dan mahasiswa yang menyatakan bahwa penggunaan ChatGPT atau alat AI lain dilarang dalam semua kelas, tugas, dan penilaian di universitas. Pelanggaran apapun dianggap sebagai plagiarisme oleh universitas kecuali jika pelajar mendapat izin tertulis dari pengajar kursusnya.

Pada Februari 2023 majalah Time menempatkan screenshot percakapan dengan ChatGPT di cover mereka, dan menulis "Perlombaan AI Mengubah Segalanya" dan "Perlombaan AI Telah Mulai. Mulai Khawatir".

Media negara Tiongkok China Daily mengklaim ChatGPT "dapat memberikan tangan bantuan kepada pemerintah A.S. untuk menyebarkan disinformasi dan manipulasi naratif global untuk keinginan geopolitik dia". Pemerintah Tiongkok memerintahkan perusahaan teknologi Tiongkok untuk tidak memberi akses layanan ChatGPT dalam platform mereka.

Henry Kissinger, Eric Schmidt dan Daniel Huttenlocher menulis di Wall Street Journal bahwa "ChatGPT Membentara Revolusi Intelektual". Mereka berargumen bahwa "Kecerdasan buatan generatif menghadirkan tantangan filosofis dan praktis pada skala yang tidak dialami sejak mulainya Pencerahan", dan membandingkan penemuan ChatGPT (dan secara umum LLM) dengan mesin cetak Gutenberg.Sains Pencerahan mengumpulkan ketentuan; AI baru menghasilkan keambiguan kumulatif. Sains Pencerahan berevolusi melalui penjelasan misteri, menentukan batasan pengetahuan dan pemahaman manusia selama mereka berevolusi. Kedua fakultas tersebut bergerak bersama-sama: Hipotesis adalah pemahaman yang siap menjadi pengetahuan, induksi adalah pengetahuan yang berubah menjadi pemahaman. Pada Era AI, riddle akan diselesaikan oleh proses yang masih belum diketahui. [...] Selama model berubah dari teks buatan manusia menjadi input yang lebih inklusif, mesin mungkin mengubah jalinan realitas itu sendiri. Teori kuantum menyatakan bahwa observasi membuat realitas. Sebelum pengukuran, tidak ada status yang tetap, dan tidak ada yang bisa dikatakan ada. Jika itu benar, dan jika observasi mesin juga dapat menetapkan realitas—dan mengingat bahwa observasi oleh sistem AI sangat cepat seperti manusia super—kecepatan evolusi mendefinisikan realitas kelihatannya mungkin semakin cepat. Ketergantungan mesin akan menentukan dan oleh karena itu mengubah jalinan realitas, memproduksi masa depan baru yang kita belum pahami dan untuk eksplorasi dan pemimpin itu kita harus persiapkan.Dalam potongan opini untuk New York Times, Nathan E. Sanders and Bruce Schneier menulis bahwa ChatGPT "Membajak Demokrasi"; Noam Chomsky, Ian Roberts dan Jeffrey Watumull mengkritik teknologinya dan menyimpulkan: "Mengingat amoralitasnya, sains palsu dan ketidakmampuan linguistik sistem tersebut, kita hanya bisa tertawa atau menangis terhadap popularitasnya".

Gian Volpicelli dari Politico menulis bahwa ChatGPT "merusak rencana UE untuk mengawasi AI".

Pada akhir Maret 2023, otoritas perlindungan data Italia melarang ChatGPT di Italia dan membuka investigasi. Regulator Italia menegaskan bahwa ChatGPT menampilkan konten tidak sesuai umur pengguna dan penggunaan percakapan ChatGPT sebagai data pelatihan oleh OpenAI mungkin berupa pelanggaran GDPR.

Pada 28 Maret 2023, banyak tokoh publik, termasuk Elon Musk dan Steve Wozniak, menandatangani surat terbuka oleh Institut Masa Depan Kehidupan yang meminta jeda segera pengembangan AI besar seperti ChatGPT; mereka merujuk ke "risiko besar terhadap masyarakat dan kemanusiaan".